Marvell ਅਤੇ ਉਹ ਸਿਲਿਕਾਨ ਜੋ ਕਲਾਉਡ ਇਨਫਰਾਸਟਰੱਕਚਰ ਨੂੰ ਸ਼ਾਂਤ ਢੰਗ ਨਾਲ ਚਲਾਉਂਦਾ ਹੈ

Marvell ਕੀ ਕਰਦਾ ਹੈ ਆਧੁਨਿਕ ਕਲਾਉਡ ਡੇਟਾ ਸੈਂਟਰਾਂ ਵਿੱਚ

ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਸੋਚਦੇ ਹਨ ਕਿ “ਕਲਾਉਡ” ਸਿਰਫ ਸਰਵਰ ਹਨ। ਹਕੀਕਤ ਵਿੱਚ, ਇੱਕ ਕਲਾਉਡ ਡੇਟਾ ਸੈਂਟਰ ਡੇਟਾ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਹਿਲਾਉਣ, ਸੰਭਾਲਣ ਅਤੇ ਸੁਰੱਖਿਅਤ ਰੱਖਣ ਲਈ ਇੱਕ ਵੱਡਾ ਸਿਸਟਮ ਹੁੰਦਾ ਹੈ। ਡਾਟਾ ਇਨਫਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਉਹ ਵਿਸ਼ੇਸ਼ ਚਿਪ ਹਨ ਜੋ ਇਹ ਭਾਰੀ-ਡੇਟਾ ਦੇ ਕੰਮ ਸੰਭਾਲਦੇ ਹਨ ਤਾਂ ਜੋ ਮੁੱਖ CPU ਨੂੰ ਇਹ ਨਹੀਂ ਕਰਨਾ ਪਏ।

Marvell ਇਸ “ਦਰਮਿਆਨੀ” স্তਰ 'ਤੇ ਧਿਆਨ ਦਿੰਦਾ ਹੈ: ਉਹ ਚਿਪ ਜੋ ਕੰਪਿਊਟ ਨੂੰ ਨੈਟਵਰਕ ਅਤੇ ਸਟੋਰੇਜ ਨਾਲ ਜੋੜਦੇ ਹਨ, ਆਮ ਡੇਟਾ-ਸੈਂਟਰ ਟਾਸਕਾਂ ਨੂੰ ਤੇਜ਼ ਕਰਦੇ ਹਨ, ਅਤੇ ਲੋਡ ਦੇ ਦੌਰਾਨ ਸਭ ਕੁਝ ਸੀਧਾ ਅਤੇ ਭਰੋਸੇਯੋਗ ਰੱਖਦੇ ਹਨ।

ਆਮ ਕਲਾਉਡ ਸਟੈਕ ਵਿੱਚ Marvell ਕਿੱਥੇ ਫਿੱਟ ਹੁੰਦਾ ਹੈ

ਜੇ ਤੁਸੀਂ ਇੱਕ ਕਲਾਉਡ ਰੈਕ ਨੂੰ ਟੌਪ ਤੋਂ ਬੋਟਮ ਤੱਕ ਸੋਚੋ, ਤਾਂ Marvell ਡਿਵਾਈਸ ਆਕਸਰ ਇੱਥੇ ਬੈਠਦੇ ਹਨ:

• ਸਰਵਰ ਦੇ ਨੈਟਵਰਕ ਐਜ 'ਤੇ, ਟ੍ਰੈਫਿਕ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕੇ ਨਾਲ ਭੇਜਣ ਅਤੇ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹੋਏ
• ਸਵਿੱਚਾਂ ਅਤੇ ਨੈਟਵਰਕ ਉਪਕਰਣਾਂ ਵਿੱਚ, ਪੈਕਟਸ ਨੂੰ ਸਹੀ ਥਾਂ ਭੇਜਦੇ ਹੋਏ
• ਸਟੋਰੇਜ ਦੇ ਨੇੜੇ, SSDs, ਸਟੋਰੇਜ ਨੈੱਟਵਰਕ ਅਤੇ ਸਰਵਰਾਂ ਦੇ ਵਿਚਕਾਰ ਡੇਟਾ ਘੁਮਾਉਂਦੇ ਹੋਏ
• ਮੁੱਖ ਇੰਟਰਕਨੈਕਟਾਂ 'ਤੇ, ਕੌਮਪੋਨੈਂਟਾਂ ਦੇ ਵਿਚਕਾਰ ਤੇਜ਼ ਸੰਚਾਰ ਯਕੀਨੀ ਬਣਾਉਂਦੇ ਹੋਏ

ਇਹ “ਐਪ” ਨਹੀਂ ਹਨ ਤੇ ਨਾ ਹੀ ਪਰੰਪਰਾਗਤ ਤੌਰ 'ਤੇ “ਸਰਵਰ”—ਇਹ ਉਹ ਹਾਰਡਵੇਅਰ ਇਮਾਰਤੀ ਇਟਾਂ ਹਨ ਜੋ ਹਜ਼ਾਰਾਂ ਸਰਵਰਾਂ ਨੂੰ ਇੱਕ ਇਕੱਠੇ ਸੇਵਾ ਵਾਂਗ ਵਰਤਣ ਯੋਗ ਬਣਾਉਂਦੇ ਹਨ।

ਕਿਉਂ ਇਹ ਕੰਮ ਉਪਭੋਗਤਿਆਂ ਤੋਂ ਅਣਦੇਖਾ ਰਹਿੰਦਾ ਹੈ

ਜਦੋਂ ਇਨਫਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਆਪਣਾ ਕੰਮ ਕਰ ਰਿਹਾ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਇਸਨੂੰ ਮਹਿਸੂਸ ਨਹੀਂ ਕਰਦੇ। ਪੇਜ਼ ਤੇਜ਼ ਖੁਲਦੇ ਹਨ, ਵੀਡੀਓ ਘੱਟ ਬਫਰ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਬੈਕਅਪ ਸਮੇਂ 'ਤੇ ਮੁਕੰਮਲ ਹੁੰਦੇ ਹਨ—ਪਰ ਉਪਭੋਗਤਾ ਨੂੰ ਨੈਟਵਰਕ ਓਫਲੋਡ ਇੰਜਨ, ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਜਾਂ ਸਵਿੱਚਿੰਗ ਫੈਬਰਿਕ ਦੇ ਹੋਣ ਦਾ ਪਤਾ ਨਹੀਂ ਲੱਗਦਾ। ਇਹ ਚਿਪ ਸਾਫ-ਸੁਥਰੇ ਢੰਗ ਨਾਲ ਲੇਟੈਂਸੀ ਘਟਾਉਂਦੇ ਹਨ, CPU ਸਾਈਕਲ ਛੱਡਦੇ ਹਨ, ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਜ਼ਿਆਦਾ ਇੱਕਸਾਰ ਬਣਾਉਂਦੇ ਹਨ।

ਇੱਕ ਛੋਟੀ ਨਕਸ਼ਾ: ਨੈਟਵਰਕਿੰਗ, ਸਟੋਰੇਜ, ਐਕਸਲੇਰੇਸ਼ਨ

Marvell ਦੀ ਭੂਮਿਕਾ ਆਸਾਨੀ ਨਾਲ ਤਿੰਨ ਭਾਗਾਂ ਵਿੱਚ ਵੰਡੀ ਜਾ ਸਕਦੀ ਹੈ:

• ਨੈਟਵਰਕਿੰਗ: ਪੈਕਟਸ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਅਤੇ ਭਰੋਸੇਯੋਗ ਤਰੀਕੇ ਨਾਲ ਖਸਕਾਉਣਾ
• ਸਟੋਰੇਜ: ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਡੇਟਾ ਨੂੰ ਸੁਰੱਖਿਅਤ ਅਤੇ ਤੇਜ਼ ਪੜ੍ਹਨਾ/ਲਿਖਣਾ
• ਐਕਸਲੇਰੇਸ਼ਨ: ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਟਾਸਕਾਂ ਲਈ ਮਕਸੂਸ ਕਮਪਿਊਟ

ਇਹ ਉਹ “ਸ਼ਾਂਤ” ਸਿਲਿਕਾਨ ਹੈ ਜੋ ਉਪਰਲੇ ਪੱਧਰ ਤੇ ਕਲਾਉਡ ਸੇਵਾਵਾਂ ਨੂੰ ਸਾਦਾ ਮਹਿਸੂਸ ਕਰਵਾਉਂਦਾ ਹੈ।

ਕਿਉਂ ਕਲਾਉਡਾਂ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਚਿਪਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ

ਕਲਾਉਡ ਐਪਸ “ਸਾਫਟਵੇਅਰ-ਪਰਿਭਾਸ਼ਿਤ” ਜਿਹੇ ਮਹਿਸੂਸ ਹੁੰਦੇ ਹਨ, ਪਰ ਅਸਲੀ ਕੰਮ ਰੈਕਾਂ ਭਰ ਦੇ ਸਰਵਰ, ਸਵਿੱਚ ਅਤੇ ਸਟੋਰੇਜ ਵਿੱਚ ਹੁੰਦਾ ਹੈ। ਮੰਗ ਵਧਣ ਨਾਲ, ਕਲਾਉਡ ਜ਼ਿਆਦਾ ਤਰ General-purpose CPU ਤੇ ਹਰ ਕੰਮ ਨਹੀਂ ਚਲਾ ਸਕਦੇ ਬਿਨਾਂ ਲਾਗਤ ਅਤੇ ਬਿਹਤਰੀ ਵਿੱਚ ਸੀਮਾਵਾਂ ਆਉਣ ਦੇ।

ਟ੍ਰੈਫਿਕ CPU ਹੇਡਰੂਮ ਤੋ ਤੇਜ਼ ਵੱਧ ਰਿਹਾ ਹੈ

AI ਟਰੇਨਿੰਗ ਅਤੇ ਇਨਫਰੈਂਸ ਡੇਟਾ ਸੈਟਾਂ ਨੂੰ ਡੇਟਾ ਸੈਂਟਰ 'ਚ ਵੱਡਾ ਅੰਸ਼ ਘੁਮਾਉਂਦੇ ਹਨ। ਵੀਡੀਓ ਸਟਰੀਮ, ਬੈਕਅਪ, ਐਨਾਲਿਟਿਕਸ ਅਤੇ SaaS ਪਲੇਟਫਾਰਮ ਨਾਲ ਪਿੱਛੋਂ ਲਗਾਤਾਰ ਬੋਝ ਹੁੰਦਾ ਹੈ। ਭਾਵੇਂ ਕੰਪਿਊਟ ਉਪਲਬਧ ਹੋਵੇ, ਜ਼ਿਆਦਾਤਰ ਸਮੇਂ ਬਾਟਲਨੇਕ ਡੇਟਾ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਮੂਵ/ਫਿਲਟਰ/ਇਨਕ੍ਰਿਪਟ/ਸਟੋਰ ਕਰਨ 'ਚ ਆ ਜਾਂਦਾ ਹੈ।

ਡੇਟਾ ਸੈਂਟਰ ਅੰਦਰ "ਇਸਟ–ਵੇਸਟ" ਟ੍ਰੈਫਿਕ ਪ੍ਰਮੁੱਖ ਹੁੰਦਾ ਹੈ

ਜ਼ਿਆਦਾਤਰ ਕਲਾਉਡ ਟ੍ਰੈਫਿਕ ਪਬਲਿਕ ਇੰਟਰਨੈਟ ਨੂੰ ਛੁਹਦੀ ਵੀ ਨਹੀਂ—ਇਹ ਸਰਵਿਸਾਂ ਵਿਚਕਾਰ "ਇਸਟ–ਵੇਸਟ" ਯਾਤਰਾ ਕਰਦੀ ਹੈ: ਮਾਈਕਰੋਸਰਵਿਸ-ਤੋਂ-ਮਾਈਕਰੋਸਰਵਿਸ ਕਾਲਾਂ, ਡੇਟਾਬੇਸ ਰੀਡ, ਕੈਸ਼ ਅੱਪਡੇਟ, ਸਟੋਰੇਜ ਰੀਪਲਿਕੇਸ਼ਨ ਅਤੇ ਵਿਤਰਿਤ AI ਵਰਕਲੋਡ। ਇਹ ਅੰਦਰੂਨੀ ਟ੍ਰੈਫਿਕ ਭਰੋਸੇਯੋਗ ਲੇਟੈਂਸੀ ਅਤੇ ਉੱਚ ਥਰਪੁੱਟ ਮੰਗਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਨੈਟਵਰਕ ਅਤੇ ਸਟੋਰੇਜ ਹਾਰਡਵੇਅਰ ਨੂੰ ਡੇਟਾ ਪਾਥ ਦੇ ਨੇੜੇ ਹੋਰ ਪ੍ਰੋਸੈਸਿੰਗ ਕਰਨ ਦੀ ਲੋੜ ਪੈਂਦੀ ਹੈ।

ਕਾਰਗਰਤਾ ਹੁਣ ਪਹਿਲੀ ਤਰਜੀਹ ਹੈ

ਪਾਵਰ ਅਤੇ ਜਗ੍ਹਾ ਸਿਮਤ ਹੁੰਦੇ ਹਨ। ਜੇ ਇਕ ਕਲਾਉਡ ਪ੍ਰੋਵਾਈਡਰ ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ, ਇਨਕ੍ਰਿਪਸ਼ਨ, ਕੰਪ੍ਰੈਸ਼ਨ ਜਾਂ ਸਟੋਰੇਜ ਚੈਕਸਮ ਵਰਗੇ ਕੰਮ ਨਿਰਧਾਰਤ ਸਿਲਿਕਾਨ 'ਤੇ ਓਫਲੋਡ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ CPU ਘੱਟ ਓਵਰਹੈੱਡ ਲੈਂਦਾ ਹੈ। ਇਸ ਨਾਲ ਸੁਧਾਰ ਹੁੰਦੇ ਹਨ:

• ਪਰਫਾਰਮੈਂਸ ਪ੍ਰਤੀ ਵੱਟ (ਉਸੇ ਪਾਵਰ ਬਜਟ ਵਿੱਚ ਵਧੇਰੇ ਕੰਮ)
• ਸਰਵਰ ਡੈਂਸਿਟੀ (ਰੈਕ ਪ੍ਰਤੀ ਵਧੇਰੇ ਉਪਯੋਗી ਕੰਪਿਊਟ)
• ਓਪਰੇਟਿੰਗ ਲਾਗਤ (ਉਸੇ ਥਰਪੁੱਟ ਲਈ ਘੱਟ ਊਰਜਾ ਅਤੇ ਕੁਲਿੰਗ)

“ਇੱਕ ਵੱਡਾ CPU” ਤੋਂ ਵਿਸ਼ੇਸ਼ ਸਹਾਇਕਾਂ ਤੱਕ

ਜਨਰਲ-ਪਰਪਜ਼ ਕੋਰਾਂ ਵਿੱਚ ਵਧਾਇਆ ਕਰਨ ਦੀ ਥਾਂ, ਕਲਾਉਡ ਪਲੇਟਫਾਰਮ ਵਧਦਿਆਂ-ਵਧਦਿਆਂ ਉਦੇਸ਼-ਨਿਰਧਾਰਤ ਚਿਪਾਂ ਵਰਤ ਰਹੇ ਹਨ—Smart NICs/DPUs, ਸਵਿੱਚਿੰਗ ਸਿਲਿਕਾਨ, ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਅਤੇ ਐਕਸਲੇਰੇਟਰ—ਤਾਂ ਜੋ ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ, ਉੱਚ-ਵਾਲੀਅਮ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਟਾਸਕ ਸੰਭਾਲੇ ਜਾ ਸਕਣ। ਨਤੀਜਾ: ਇੱਕ ਤੇਜ਼ ਅਤੇ ਸਸਤੀ ਚੱਲਣ ਵਾਲੀ ਕਲਾਉਡ, ਭਾਵੇਂ ਵਰਕਲੋਡ ਹੋਰ ਡੇਟਾ-ਭੁੱਖੇ ਹੋਣ।

ਨੈਟਵਰਕਿੰਗ ਓਫਲੋਡ: Smart NICs ਅਤੇ DPUs ਦੀ ਸਧਾਰਨ ਵਿਆਖਿਆ

ਕਲਾਉਡ ਸਰਵਰ ਅਚਾਨਕ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਸਮਾਂ "ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਕੰਮ" ਵਿੱਚ ਗੁਜ਼ਾਰਦੇ ਹਨ ਬਜਾਏ ਤੁਹਾਡੇ ਐਪ ਨੂੰ ਚਲਾਉਣ ਦੇ। ਹਰ ਪੈਕਟ ਨੂੰ ਹਿਲਾਉਣਾ, ਜਾਂਚਣਾ, ਲੌਗ ਕਰਨਾ ਅਤੇ ਕਈ ਵਾਰੀ ਇਨਕ੍ਰਿਪਟ ਕਰਨਾ ਪੈਂਦਾ ਹੈ—ਅਕਸਰ ਇਹ ਸਭ ਕੁਝ ਮੁੱਖ CPU ਨੂੰ ਕਰਨਾ ਪੈਂਦਾ ਸੀ। ਨੈਟਵਰਕਿੰਗ ਓਫਲੋਡ ਇਹਨਾਂ ਕੰਮਾਂ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਹਾਰਡਵੇਅਰ 'ਤੇ ਸਵਿੱਚ ਕਰ ਦਿੰਦਾ ਹੈ, ਜਿੱਥੇ Smart NICs ਅਤੇ DPUs ਆਧੁਨਿਕ ਡੇਟਾ ਸੈਂਟਰਾਂ (ਜਿਨ੍ਹਾਂ ਵਿੱਚ Marvell ਸਿਲਿਕਾਨ ਨਾਲ ਬਣੇ ਸਿਸਟਮ ਵੀ ਸ਼ਾਮਲ ਹਨ) ਵਿੱਚ ਬਹੁਤ ਵਰਤੇ ਜਾਂਦੇ ਹਨ।

Smart NIC vs. DPU (ਸਧਾਰਨ ਅੰਗ੍ਰੇਜ਼ੀ ਮਾਡਲ)

ਇੱਕ Smart NIC ਇੱਕ NIC ਹੈ ਜੋ ਸਿਰਫ ਬੇਸਿਕ ਭੇਜਣਾ/ਲੈਣਾ ਹੀ ਨਹੀਂ ਕਰਦੀ। ਰੁੜਕੀ ਈਥਰਨੇਟ ਪੋਰਟਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਇਸ ਵਿੱਚ ਵਾਧੂ ਪ੍ਰੋਸੈਸਿੰਗ ਹੁੰਦੀ ਹੈ (ਅਕਸਰ Arm ਕੋਰ ਜਾਂ ਪ੍ਰੋਗ੍ਰਾਮੇਬਲ ਲੋਜਿਕ) ਤਾਂ ਜੋ ਨੈਟਵਰਕਿੰਗ ਫੀਚਰ ਕਾਰਡ 'ਤੇ ਹੀ ਚਲ ਸਕਣ।

ਇੱਕ DPU (Data Processing Unit) ਇੱਕ ਕਦਮ ਅੱਗੇ ਹੈ: ਇਹ ਸਰਵਰ ਦੇ ਅੰਦਰ ਇੱਕ ਨਿਰਧਾਰਤ “ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਕੰਪਿਊਟਰ” ਵਾਂਗ ਕੰਮ ਕਰਦਾ ਹੈ। DPU ਵਿੱਚ ਆਮ ਤੌਰ 'ਤੇ ਹਾਈ-ਪ੍ਰਦਰਸ਼ਨ ਨੈਟਵਰਕਿੰਗ, ਕਈ ਕੋਰ, ਹਾਰਡਵੇਅਰ ਐਕਸਲੇਰੇਟਰ ਅਤੇ ਮਜ਼ਬੂਤ ਅਲੱਗਾਵਣ ਵਾਸਤੇ ਫੀਚਰ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਜੋ ਇਹ ਹੋਸਟ CPU 'ਤੇ ਨਿਰਭਰ ਨ ਰਹੇ।

ਸਰਲ ਮਾਨਸਿਕ ਮਾਡਲ:

• Smart NIC: NIC ਜਿਸਦੇ ਕੋਲ ਕੁਝ ਦਿਮਾਗ ਹਨ।
• DPU: NIC + ਇਕ ਵੱਖਰਾ ਸਿਸਟਮ ਇਨਫ੍ਰਾਸਟਰక్ure ਟਾਸਕਾਂ ਲਈ।

CPU ਤੋਂ ਕੀ ਕੱਢਿਆ ਜਾਂਦਾ ਹੈ

ਓਫਲੋਡ ਉਹ ਕੰਮ ਹਨ ਜੋ ਦੁਹਰਾਏ ਜਾਂਦੇ ਹਨ ਅਤੇ ਜ਼ਿਆਦਾ ਹਾਰਡਵੇਅਰ ਸੰਸਾਧਨ ਲੈ ਰਹੇ ਹੋਣ:

• ਨੈਟਵਰਕਿੰਗ ਡੇਟਾਪਾਥ: ਵਰਚੁਅਲ ਸਵਿੱਚਿੰਗ, ਰੂਟਿੰਗ ਨਿਯਮ, ਇਨਕੈਪ/ਡਿਕੈਪ (ਉਦਾਹਰਨ ਲਈ ਓਵਰਲੇਜ਼), ਟ੍ਰੈਫਿਕ ਸ਼ੇਪਿੰਗ
• ਸੁਰੱਖਿਆ: TLS/IPsec ਇਨਕ੍ਰਿਪਸ਼ਨ, ਫਾਇਰਵਾਲ ਨੀਤੀਆਂ, ਮਾਈਕਰੋ-ਸੈਗਮੈਂਟੇਸ਼ਨ, ਸੁਰੱਖਿਅਤ ਬੂਟ ਅਤੇ ਐਟੈਸਟੇਸ਼ਨ
• ਸਟੋਰੇਜ ਟ੍ਰੈਫਿਕ ਐਕਸਲੇਰੇਸ਼ਨ: ਸਟੋਰੇਜ ਪੈਕਟਸ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕੇ ਨਾਲ ਰੂਟ ਕਰਨਾ
• ਟੈਲੀਮੈਟਰੀ: ਫਲੋ ਲੋਗ, ਪੈਕਟ ਸੈਂਪਲਿੰਗ, ਕਾਊਂਟਰ, ਲੇਟੈਂਸੀ ਮਾਪ—ਇਹ ਸਭ ਵਾਇਰ ਸਪੀਡ 'ਤੇ ਕੈਪਚਰ ਕੀਤੇ ਜਾਂਦੇ ਹਨ

ਕਿਉਂ ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਭਰੋਸੇਯੋਗ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਘੱਟ CPU ਲੋਡ

ਜਦੋਂ CPU ਨੂੰ ਨੈਟਵਰਕਿੰਗ ਦੇ ਕੰਮ ਦੇਖਣੇ ਪੈਂਦੇ ਹਨ, ਤਾਂ ਐਪਲੀਕੇਸ਼ਨ ਪ੍ਰਦਰਸ਼ਨ ਟ੍ਰੈਫਿਕ ਸਪਾਈਕਸ, noisy neighbors ਜਾਂ ਸੁਰੱਖਿਆ ਕੰਮਾਂ ਦੇ ਕਾਰਨ ਘਟ ਜਾਂ ਵਧ ਸਕਦਾ ਹੈ। ਓਫਲੋਡ ਇਸਨੂੰ ਮਦਦ ਕਰਦਾ ਹੈ:

• CPU ਕੋਰਾਂ ਨੂੰ ਮੁਫ਼ਤ ਕਰਦਾ ਹੈ ਤਾਂ ਕਿ ਉਹ ਤੁਹਾਡੇ ਅਸਲੀ ਵਰਕਲੋਡ (ਵੈੱਬ ਸਰਵਿਸ, ਡੇਟਾਬੇਸ, AI ਪਾਈਪਲਾਈਨ) 'ਤੇ ਧਿਆਨ ਦੇ ਸਕਣ
• ਲੇਟੈਂਸੀ ਨੂੰ ਸਥਿਰ ਕਰਦਾ ਹੈ ਕਿਉਂਕਿ ਪੈਕਟ ਹੈਂਡਲਿੰਗ ਨਿਰਧਾਰਤ ਹਾਰਡਵੇਅਰ ਰਸਤੇ 'ਤੇ ਹੁੰਦੀ ਹੈ
• ਹੋਸਟ ਡੈਂਸਿਟੀ ਵਧਾਉਂਦਾ ਹੈ: ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਲਈ ਘੱਟ CPU ਰਿਸੋਰਸ ਲੱਗਣ ਨਾਲ ਪ੍ਰਤੀ ਸਰਵਰ ਵੱਧ ਯੂਜ਼ਫੁਲ ਕੰਮ ਹੋ ਸਕਦਾ ਹੈ
• ਅਲੱਗਾਵਣ ਸੁਧਾਰਦਾ ਹੈ: ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਨਿਯੰਤਰਣ tenant ਵਰਕਲੋਡ ਤੋਂ ਅਲੱਗ ਚੱਲ ਸਕਦੇ ਹਨ

DPU ਸਰਵਰ ਵਿੱਚ ਕਿੱਥੇ ਬੈਠਦਾ ਹੈ (ਅਤੇ ਇਹ ਕਿੱਥੇ ਕਨੈਕਟ ਹੋਦਾ ਹੈ)

ਫਿਜ਼ਿਕਲ ਰੂਪ ਵਿੱਚ, DPUs ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ PCIe ਐਡ-ਇਨ ਕਾਰਡ ਜਾਂ OCP NIC ਮੋਡੀਊਲ ਵਾਂਗ ਆਉਂਦੇ ਹਨ। ਇਹ ਜੁੜਦੇ ਹਨ:

• ਟੌਪ-ਆਫ-ਰੈਕ ਨੈਟਵਰਕ ਨਾਲ ਈਥਰਨੇਟ ਪੋਰਟਾਂ ਰਾਹੀਂ (ਅਕਸਰ ਹਾਈ-ਸਪੀਡ ਲਿੰਕ)
• ਹੋਸਟ ਸਰਵਰ ਨਾਲ PCIe ਰਾਹੀਂ, ਨੈਟਵਰਕ ਟ੍ਰੈਫਿਕ ਲਈ ਗੇਟਵੇ ਵਜੋਂ ਕੰਮ ਕਰਦੇ ਹੋਏ

ਕੰਸੈਪਚੁਅਲੀ, DPU ਨੈਟਵਰਕ ਅਤੇ ਸਰਵਰ ਦੇ ਵਿਚਕਾਰ ਇਕ “ਟ੍ਰੈਫਿਕ ਕੋਪ” ਬਣ ਜਾਂਦਾ ਹੈ—ਨੈਟਵਰਕ ਨੀਤੀਆਂ, ਇਨਕ੍ਰਿਪਸ਼ਨ ਅਤੇ ਸਵਿੱਚਿੰਗ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ ਤਾਂ ਜੋ ਹੋਸਟ OS ਅਤੇ CPU ਐਪਲੀਕੇਸ਼ਨ ਚਲਾਉਣ ਤਤਕਾਲ ਕੇਂਦ੍ਰਿਤ ਰਹਿਣ।

ਕਲਾਉਡ ਨੈਟਵਰਕਿੰਗ ਦੇ ਅੰਦਰ: Ethernet ਸਵਿੱਚਿੰਗ ਅਤੇ ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ

ਜਦੋਂ ਤੁਸੀਂ ਕੋਈ ਐਪ ਖੋਲ੍ਹਦੇ ਹੋ ਜਾਂ ਡੇਟਾ ਕਲਾਉਡ 'ਤੇ ਸੈਂਡ ਕਰਦੇ ਹੋ, ਤੁਹਾਡੀ ਬੇਨਤੀ ਆਮ ਤੌਰ 'ਤੇ "ਇੱਕ ਸਰਵਰ" ਤਕ ਨਹੀਂ ਜਾਂਦੀ—ਇਹ ਇਕ ਈਥਰਨੇਟ ਸਵਿੱਚ ਫੈਬਰਿਕ ਰਾਹੀਂ ਜਾਂਦੀ ਹੈ ਜੋ ਹਜ਼ਾਰਾਂ ਸਰਵਰਾਂ ਨੂੰ ਇੱਕ ਵੱਡੇ ਮਸ਼ੀਨ ਵਾਂਗ ਜੋੜਦਾ ਹੈ।

ਸਰਵਰਾਂ ਵਿਚਕਾਰ ਡੇਟਾ ਕਿਵੇਂ ਹਿਲਦਾ ਹੈ: ToR ਅਤੇ spine

ਜ਼ਿਆਦਾਤਰ ਕਲਾਉਡ ਡੇਟਾ ਸੈਂਟਰ "leaf-spine" ਡਿਜ਼ਾਈਨ ਵਰਤਦੇ ਹਨ:

• Top-of-rack (ToR) / leaf ਸਵਿੱਚਜ਼ ਹਰ ਰੈਕ 'ਤੇ ਬੈਠਦੇ ਹਨ ਅਤੇ ਉਸ ਰੈਕ ਦੇ ਸਰਵਰਾਂ ਨਾਲ ਸਿੱਧਾ ਜੁੜਦੇ ਹਨ।
• Spine ਸਵਿੱਚਜ਼ ਸਾਰੇ ToR ਸਵਿੱਚਜ਼ ਨੂੰ ਜੋੜਦੇ ਹਨ ਤਾਂ ਕਿ ਕੋਈ ਵੀ ਸਰਵਰ ਕਿਸੇ ਹੋਰ ਨਾਲ ਇੱਕ ਨਿਸ਼ਚਿਤ ਛੋਟੇ-hop ਵਿੱਚ ਪਹੁੰਚ ਸਕੇ।

ਇਹ ਡਿਜ਼ਾਈਨ ਰਸਤੇਾਂ ਨੂੰ ਛੋਟਾ ਅਤੇ ਲਗਾਤਾਰ ਰੱਖਦਾ ਹੈ, ਜੋ ਕਿ ਪੈਮਾਨੇ 'ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਲਈ ਕੁੰਜੀ ਹੈ।

ਕਿਉਂ ਘੱਟ ਲੇਟੈਂਸੀ ਅਤੇ ਉੱਚ ਥਰਪੁੱਟ ਮਾਇਨੇ ਰਖਦੇ ਹਨ

ਦੋ ਨੰਬਰ ਯੂਜ਼ਰ ਅਨੁਭਵ ਅਤੇ ਲਾਗਤ ਨਿਰਧਾਰਤ ਕਰਦੇ ਹਨ:

• ਲੇਟੈਂਸੀ (ਪੈਕਟ ਲੈਣ ਵਾਲਾ ਸਮਾਂ) ਇੰਟਰਐਕਟਿਵ ਵਰਕਲੋਡ ਜਿਵੇਂ APIs, ਡੇਟਾਬੇਸ ਅਤੇ ਰੀਅਲ-ਟਾਈਮ ਐਨਾਲਿਟਿਕਸ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀ ਹੈ।
• ਥਰਪੁੱਟ (ਡੇਟਾ ਪ੍ਰਤੀ ਸੈਕਿੰਡ) ਵੱਡੀ ਮਾਤਰਾ ਦਾ ਮੂਵਮੈਂਟ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ—ਸਟੋਰੇਜ ਰੀਪਲਿਕੇਸ਼ਨ, ਬੈਕਅਪ, ਸਟ੍ਰੀਮਿੰਗ ਅਤੇ ਵੱਡੇ AI ਡੇਟਾਸੈਟ।

ਕਲਾਉਡ ਓਪਰੇਟਰ ਲਿੰਕز ਭਿੜੇ ਹੋਏ ਹੋਣ 'ਤੇ ਵੀ ਲੇਟੈਂਸੀ ਸਥਿਰ ਰੱਖਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ, ਨਾਲ ਹੀ ਵੱਡੇ ਮਾਤਰਾ ਦਾ ਟ੍ਰੈਫਿਕ ਹੋਵੋ।

ਮੁੱਖ ਫੰਕਸ਼ਨ: ਸਵਿੱਚਿੰਗ, ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ, QoS

ਇੱਕ ਈਥਰਨੇਟ ਸਵਿੱਚ ਚਿਪ ਸਿਰਫ ਪੈਕਟ "ਫਾਰਵਰਡ" ਹੀ ਨਹੀਂ ਕਰਦਾ। ਇਹਨੂੰ:

• ਡੈਸਟਿਨੇਸ਼ਨ ਲੁੱਕ-ਅੱਪ (MAC, VLANs ਅਤੇ ਅਕਸਰ ਰਾਊਟਿੰਗ/ਓਵਰਲੇ ਹੇਡਰ) ਲਾਈਨ ਰੇਟ 'ਤੇ ਕਰਨਾ
• ਟ੍ਰੈਫਿਕ ਨੂੰ ਬਫਰ ਅਤੇ ਸ਼ੈਡਿਊਲ ਕਰਨਾ ਤਾਂ ਜੋ ਕਾਂਜੇਸ਼ਨ ਫੈਬਰਿਕ 'ਚ ਫੈਲੇ ਨਾ
• QoS ਲਾਗੂ ਕਰਨਾ ਤਾਂ ਕਿ ਲੇਟੈਂਸੀ-ਸੰਵੇਦਨਸ਼ੀਲ ਫਲੋਜ਼ ਪਿੱਛੇ ਨਾ ਰਹਿ ਜਾਣ
• ਟੈਲੀਮੈਟਰੀ ਅਤੇ ਕਨਜੈਸ਼ਨ ਕੰਟਰੋਲ ਸਹਿਯੋਗ ਕਰਨਾ

Vendors ਜਿਵੇਂ Marvell ਐਸੇ ਸਿਲਿਕਾਨ ਬਣਾਉਂਦੇ ਹਨ ਜੋ ਇਹ ਕੰਮ ਬਹੁਤ ਉੱਚ ਗਤੀ 'ਤੇ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਕਰਦੇ ਹਨ।

"ਉੱਚ ਗਤੀ" ਕੀ ਯੋਗਦਾਨ ਦਿੰਦੀਆਂ ਹਨ

25/100G ਤੋਂ 200/400/800G ਲਿੰਕਸ 'ਤੇ ਜਾਣਾ ਸਿਰਫ਼ ਨੰਬਰ ਨਹੀਂ—ਉੱਚ ਗਤੀਆਂ ਦਾ ਮਤਲਬ ਹੋ ਸਕਦਾ ਹੈ:

• ਰੈਕ ਪ੍ਰਤੀ ਹੋਰ VMs ਬਿਨਾਂ ਨੈਟਵਰਕ ਓਵਰਸਬਸਕ੍ਰਿਬ ਕੀਤੇ
• ਤੇਜ਼ ਸਟੋਰੇਜ ਐਕਸੈਸ (ਖ਼ਾਸ ਕਰਕੇ disaggregated ਜਾਂ ਨੈੱਟਵਰਕ NVMe ਲਈ)
• AI ਟਰੇਨਿੰਗ ਚੱਕਰ ਛੋਟੇ ਹੋਣਾ GPUs ਨੂੰ ਡੇਟਾ ਮਿਲਣ ਜ਼ਿਆਦਾ ਸਮੈਥ

ਨਤੀਜਾ ਇੱਕ ਐਸਾ ਨੈਟਵਰਕ ਹੈ ਜੋ ਤਾਰਾਂ ਵਾਂਗ ਨਹੀਂ ਲੱਗਦਾ, ਸਗੋਂ ਹਰ ਵਰਕਲੋਡ ਲਈ ਸਾਂਝਾ ਇੰਫਰਾਸਟਰੱਕਚਰ ਵਾਂਗ ਮਹਿਸੂਸ ਹੁੰਦਾ ਹੈ।

ਸਟੋਰੇਜ ਸਿਲਿਕਾਨ: ਕੰਟਰੋਲਰ, NVMe ਅਤੇ ਡੇਟਾ ਪ੍ਰੋਟੈਕਸ਼ਨ

ਲੋਕ ਆਮ ਤੌਰ 'ਤੇ ਕਲਾਉਡ ਪ੍ਰਦਰਸ਼ਨ ਬਾਰੇ ਸੋਚਦੇ ਸਮੇਂ CPUs ਅਤੇ GPUs ਸੋਚਦੇ ਹਨ। ਪਰ ਬਹੁਤ ਸਾਰਾ "ਤੇਜ਼ੀ" ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਉਸ ਸਟੋਰੇਜ ਸਿਲਿਕਾਨ ਨਾਲ ਨਿਰਧਾਰਿਤ ਹੁੰਦੀ ਹੈ ਜੋ ਫਲੈਸ਼ ਡਰਾਈਵਾਂ ਅਤੇ ਸਰਵਰ ਦੇ ਬੀਚ ਖੜਾ ਹੁੰਦਾ ਹੈ। ਉਹ ਲੇਅਰ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਹੁੰਦੀ ਹੈ—ਮਕਸੂਸ ਚਿਪ ਜੋ ਡੇਟਾ ਕਿਵੇਂ ਲਿਖਿਆ/ਪੜ੍ਹਿਆ ਜਾਂਦਾ ਹੈ, ਜਾਂਚਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਰੀਕਵਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਇਹ ਸਭ ਸੰਭਾਲਦੀ ਹੈ।

ਇੱਕ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਅਸਲ ਵਿੱਚ ਕੀ ਕਰਦਾ ਹੈ

ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਤੁਸੀਂ ਲੀਖਣ ਦੀਆਂ ਆਮ ਬੇਨਤੀਆਂ ਨੂੰ ਛੋਟੇ ਹਿੱਸਿਆਂ ਵਿੱਚ ਵੰਡਦਾ ਹੈ, ਰੀਡ/ਰਾਈਟ ਸ਼ੈਡਿਊਲ ਕਰਦਾ ਹੈ ਤਾਂ ਕਿ ਹੌਟ ਡੇਟਾ ਤੇਜ਼ੀ ਨਾਲ ਵਾਪਸ ਆਵੇ, ਅਤੇ ਲੱਗਾਤਾਰ ਇੰਟੈਗ੍ਰਿਟੀ ਚੈੱਕ ਚਲਾਉਂਦਾ ਹੈ ਤਾਂ ਕਿ ਛੋਟੀ ਤਰੁੱਟੀਆਂ ਵੱਡੀਆਂ ਫਾਈਲ-ਕਰਪਸ਼ਨ ਵਿੱਚ ਨਾ ਬਦਲਣ।

ਇਹ ਉਹ ਅਣਗਲੇਮਰਸ ਕੰਮ ਵੀ ਕਰਦਾ ਹੈ ਜੋ ਵੱਡੇ ਪੈਮਾਨੇ 'ਤੇ ਸਟੋਰੇਜ ਨੂੰ ਪੇਸ਼ਗੀ ਬਣਾਉਂਦੇ ਹਨ: ਲਾਜ਼ਮੀ-ਲੋਜਿਕਲ ਬਲਾਕਾਂ ਨੂੰ ਫਿਜ਼ਿਕਲ ਫਲੈਸ਼ ਥਾਂਵਾਂ ਨਾਲ ਮੈਪ ਕਰਨਾ, ਵ੍ਹੀਅਰ ਲੈਵਲਿੰਗ, ਅਤੇ ਜਦੋਂ ਬਹੁਤ ਸਾਰੀਆਂ ਐਪ ਓਸੇ ਸਟੋਰੇਜ ਪੂਲ ਨੂੰ ਹਿੱਟ ਕਰਦੀਆਂ ਹਨ ਤਾਂ ਲੇਟੈਂਸੀ ਸਥਿਰ ਰੱਖਣਾ।

NVMe: ਕਿਉਂ ਇਹ ਹਰ ਜਗ੍ਹਾ ਹੈ

NVMe protocol ਫਲੈਸ਼ ਲਈ ਘੱਟ ਓਵਰਹੈੱਡ ਅਤੇ ਬਹੁ-ਕਤਾਰਾਂ ਦੀ ਸਮਰੱਥਾ ਦਿੰਦਾ ਹੈ—ਜਿਸ ਦਾ ਮਤਲਬ ਇਹ ਹੈ ਕਿ ਕਈ ਓਪਰੇਸ਼ਨ ਇਕੱਠੇ ਚੱਲ ਸਕਦੀਆਂ ਹਨ, ਜੋ ਕਿ ਕਲਾਉਡ ਵਰਕਲੋਡਾਂ ਲਈ ਬਹੁਤ موزੂ ਹੈ ਜਿੱਥੇ ਹਜ਼ਾਰਾਂ ਛੋਟੀਆਂ I/O ਇੱਕੱਠੇ ਹੋ ਸਕਦੀਆਂ ਹਨ।

ਕਲਾਉਡ ਪ੍ਰੋਵਾਈਡਰਾਂ ਲਈ NVMe ਸਿਰਫ਼ ਪੀਕ ਥਰਪੁੱਟ ਬਾਰੇ ਨਹੀਂ; ਇਹ ਲੋਡ 'ਤੇ ਲਗਾਤਾਰ ਘੱਟ ਲੇਟੈਂਸੀ ਦੇਨੇ ਬਾਰੇ ਹੈ—ਜੋ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਜਵਾਬਦਾਰ ਮਹਿਸੂਸ ਕਰਵਾਉਂਦਾ ਹੈ।

ਇੰਬਿਲਟ ਫੀਚਰ: ਇਨਕ੍ਰਿਪਸ਼ਨ, ਕੰਪ੍ਰੈਸ਼ਨ, ਅਤੇ RAID-ਜਿਹੀ ਰੱਖਿਆ

ਆਧੁਨਿਕ ਕੰਟਰੋਲਰ ਅਕਸਰ ਉਹ ਹਾਰਡਵੇਅਰ ਫੀਚਰ ਸ਼ਾਮਲ ਕਰਦੇ ਹਨ ਜੋ ਨਹੀਂ ਤਾਂ CPU ਸਾਈਕਲ ਖਾਂਦੇ:

• ਇਨਕ੍ਰਿਪਸ਼ਨ/ਡਿਕ੍ਰਿਪਸ਼ਨ ਤਾਂ ਜੋ ਡੇਟਾ ਐਟ-ਰੇਸਟ ਸੁਰੱਖਿਅਤ ਰਹੇ ਤੇ ਨਿਰਭਰਤਾ ਘੱਟ ਹੋ
• ਕੰਪ੍ਰੈਸ਼ਨ ਤਾਂ ਜੋ ਬਹੁਤ ਸਟੋਰ ਕੀਤਾ ਜਾ ਸਕੇ ਅਤੇ ਘੱਟ ਮੂਵ ਕੀਤਾ ਜਾਵੇ
• ਪੈਰਿਟੀ/ਇਰੇਜ਼ਰ ਕੋਡਿੰਗ ਸਹਾਇਤਾ ਫੇਲਿਅਰ ਸਹਿੰਨ ਕਰਨ ਅਤੇ ਡੇਟਾ ਤੇਜ਼ੀ ਨਾਲ ਰੀਬਿਲਡ ਕਰਨ ਲਈ

ਕਿਉਂ ਸਟੋਰੇਜ ਪ੍ਰਦਰਸ਼ਨ ਐਪ ਬਿਹੈਵਿਅਰ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ

ਸਟੋਰੇਜ ਇੱਕ ਅਲੱਗ ਸਬਸਿਸਟਮ ਨਹੀਂ ਹੈ—ਇਹ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਰੂਪ ਦਿੰਦਾ ਹੈ:

• ਡੇਟਾਬੇਸ ਟਰਾਂਜ਼ੈਕਸ਼ਨਾਂ ਅਤੇ ਡਿਊਰਬਲ ਲੋਗ ਲਈ ਤੇਜ਼, ਲਗਾਤਾਰ ਰਾਈਟਸ 'ਤੇ ਨਿਰਭਰ ਹੁੰਦੇ ਹਨ।
• ਐਨਾਲਿਟਿਕਸ ਪਾਈਪਲਾਈਨਜ਼ ਵੱਡੇ ਡੇਟਾਸੈਟ ਪੜ੍ਹਦੇ ਸਮੇਂ ਕਤਾਰਬੱਧ ਹੋ ਸਕਦੇ ਹਨ।
• ਬੈਕਅਪ/ਰੀਸਟੋਰ throughput ਕਮ ਹੋਣ 'ਤੇ ਬਿਜ਼ਨਸ continuum ਲਈ ਮੁਸ਼ਕਿਲ ਬਣ ਜਾਂਦਾ ਹੈ।

ਸੰਖੇਪ ਵਿੱਚ, ਸਟੋਰੇਜ ਸਿਲਿਕਾਨ ਹੀ ਕੱਚੇ ਫਲੈਸ਼ ਨੂੰ ਭਰੋਸੇਯੋਗ, ਉੱਚ-ਥਰਪੁੱਟ ਕਲਾਉਡ ਇਨਫਰਾਸਟਰੱਕਚਰ ਵਿੱਚ ਬਦਲਦਾ ਹੈ।

ਕੁਨੈਕਟੀਵਿਟੀ ਬੇਸਿਕਸ: PCIe ਅਤੇ CXL ਸਧਾਰਨ ਭਾਸ਼ਾ ਵਿੱਚ

ਜਦੋਂ ਕਲਾਉਡ ਪ੍ਰੋਵਾਈਡਰ ਸਰਵਰ ਅਪਗਰੇਡ ਕਰਦੇ ਹਨ, ਉਹ ਸਿਰਫ CPU ਨਹੀਂ ਬਦਲਦੇ। ਉਹ ਉਹ “ਜੁੜਨ ਵਾਲੀ ਦੂਸੀ ਚੀਜ਼” ਵੀ ਵੇਖਦੇ ਹਨ ਜੋ CPU ਨੂੰ ਨੈੱਟਵਰਕ ਕਾਰਡ, ਸਟੋਰੇਜ ਅਤੇ ਐਕਸਲੇਰੇਟਰ ਨਾਲ ਤੇਜ਼ੀ ਨਾਲ ਗੱਲ-ਬਾਤ ਕਰਨ ਦਿੰਦਾ ਹੈ ਬਿਨਾਂ ਪੂਰੇ ਸਰਵਰ ਡਿਜ਼ਾਈਨ ਨੂੰ ਦੁਬਾਰਾ ਬਣਾਉਣ ਦੇ। ਇਸੀ ਲਈ PCIe ਅਤੇ CXL ਵਰਗੇ ਮਿਆਰ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ: ਇਹ ਹਿੱਸਿਆਂ ਨੂੰ ਇੰਟਰਓਪਰੇਬਲ ਰੱਖਦੇ ਹਨ, ਅਪਗਰੇਡਸ ਘੱਟ ਜੋਖਮ ਵਾਲੇ ਬਣਾਉਂਦੇ ਹਨ, ਅਤੇ ਡੇਟਾ ਸੈਂਟਰਾਂ ਨੂੰ ਪੇਮਾਨੇ 'ਤੇ ਸਥਿਰ ਤਰੀਕੇ ਨਾਲ ਵਧਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ।

PCIe: ਸਰਵਰ ਦੇ ਅੰਦਰ ਇੱਕ ਤੇਜ਼ ਹਾਈਵੇ

PCIe (Peripheral Component Interconnect Express) ਉਹ ਮੂਲ ਅੰਦਰੂਨੀ ਲਿੰਕ ਹੈ ਜੋ ਉਪਕਰਣਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ ਜਿਵੇਂ:

• NICs
• SSDs ਅਤੇ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ
• GPUs ਅਤੇ ਹੋਰ ਐਕਸਲੇਰੇਟਰ
• DPUs/Smart NICs

ਇੱਕ ਸਹਾਇਕ ਮਨਸਿਕ ਤਸਵੀਰ: PCIe ਹਾਈਵੇ ਵਿੱਚ ਹੋਰ ਲੇਨ ਜੋੜਨ ਵਰਗੀ ਹੈ। ਨਵੇਂ PCIe ਜਨਰੇਸ਼ਨ ਹਰ ਲੇਨ ਦੀ ਗਤਿ ਵਧਾਉਂਦੇ ਹਨ, ਅਤੇ ਵਿਆਪਕ ਲਿੰਕ (x8, x16) ਕੁੱਲ ਸਮਰੱਥਾ ਵਧਾਉਂਦੇ ਹਨ। ਕਲਾਉਡ ਓਪਰੇਟਰਾਂ ਲਈ, ਇਹ ਡਾਇਰੈਕਟ ਪ੍ਰਭਾਵ ਪਾਉਂਦਾ ਹੈ ਕਿ ਕੰਪਿਊਟ ਅਤੇ ਡਿਵਾਈਸਾਂ ਵਿਚਕਾਰ ਡੇਟਾ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਸਕਦਾ ਹੈ।

Marvell ਦਾ ਇਨਫਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਅਕਸਰ ਇਨ੍ਹਾਂ PCIe ਕਨੈਕਸ਼ਨਾਂ 'ਤੇ ਬੈਠਦਾ ਹੈ—ਇੱਕ NIC, DPU, ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਜਾਂ ਸਵਿੱਚ-ਸੰਬੰਧੀ ਘਟਕ ਦੇ ਅੰਦਰ—ਤਾਂ ਜੋ PCIe ਸਮਰੱਥਾ ਅਕਸਰ ਪ੍ਰਦਰਸ਼ਨ ਅਪਗਰੇਡ ਲਈ ਸੀਮਾ (ਜਾਂ ਸਹਾਇਕ) ਬਣ ਸਕਦੀ ਹੈ।

CXL: ਉਹੀ ਰਸਤਾ ਵਰਤ ਕੇ ਮੈਮਰੀ ਨੂੰ ਬਿਹਤਰ ਤਰੀਕੇ ਨਾਲ ਸਾਂਝਾ ਕਰਨਾ

CXL (Compute Express Link) PCIe ਫਿਜ਼ਿਕਲ ਕਨੈਕਸ਼ਨ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਪਰ ਨਵੇਂ ਤਰੀਕੇ ਜੋੜਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨਾਲ ਡਿਵਾਈਸਾਂ ਘੱਟ ਓਵਰਹੈੱਡ ਨਾਲ ਮੈਮਰੀ-ਜੈਸੀ ਸਰੋਤ ਸਾਂਝੇ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਆਮ ਸ਼ਬਦਾਂ ਵਿੱਚ, CXL ਸਰਵਰਾਂ ਨੂੰ ਕੁਝ ਬਾਹਰੀ ਸਰੋਤਾਂ (ਜਿਵੇਂ ਮੈਮਰੀ ਐਕਸਪੈਂਸ਼ਨ ਜਾਂ ਪੂਲਡ мੈਮੋਰੀ) ਨੂੰ ਲੋਕਲ ਵਿਅਵਸਥਾ ਵਾਂਗ ਵਰਤਣ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ।

ਕਲਾਉਡ ਡਿਜ਼ਾਈਨ ਲਈ ਪ੍ਰਯੋਗਿਕ ਨਤੀਜੇ

ਨਤੀਜਾ ਸਿਰਫ਼ “ਤੇਜ਼” ਨਹੀਂ:

• ਜ਼ਿਆਦਾ ਲਚਕੀਲਾ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ: ਕੰਪੋਨੈਂਟ ਮਿਲਾ ਕੇ ਵਰਤ ਸਕਦੇ ਹੋ
• ਵਧੀਆ ਵਰਤੋਂ: ਖ਼ਤਰਨਾਕ ਤਰੀਕੇ ਨਾਲ ਰਿਸੋਰਸ ਘੱਟ ਹੁੰਦੇ ਹਨ
• ਸੁਚਾਰੂ ਅਪਗਰੇਡਸ: ਨਵੇਂ ਕਾਰਡ ਅਤੇ ਕੰਟਰੋਲਰ ਮੌਜੂਦਾ ਸਰਵਰ ਪਰਿਵਾਰ ਵਿਚ ਬੜ੍ਹੇ ਬਿਨਾਂ ਢਾਂਚਾ ਬਦਲਣ ਦੇ ਆ ਸਕਦੇ ਹਨ

ਕਨੇਕਟੀਵਿਟੀ ਮਿਆਰ ਸਰਕਲੀ ਛਾਪ ਨਹੀਂ ਪਾਉਂਦੇ, ਪਰ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦੇ ਹਨ ਕਿ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਕਲਾਉਡ ਨਵੀਨਤਮ ਨੈਟਵਰਕਿੰਗ, ਸਟੋਰੇਜ ਅਤੇ ਐਕਸਲੇਰੇਸ਼ਨ ਅਪਣਾਂ ਸਕਦੀ ਹੈ।

ਕਸਟਮ ਐਕਸਲੇਰੇਸ਼ਨ: ਕਲਾਉਡ ਵਰਕਲੋਡ ਲਈ ਨਿਰਧਾਰਤ ਕੁਝ ਕਮਪਿਊਟ

“ਕਸਟਮ ਐਕਸਲੇਰੇਸ਼ਨ” ਹਮੇਸ਼ਾ ਇਕ ਵੱਡੇ, ਜਨਰਲ-ਪਰਪਜ਼ GPU ਦਾ ਮਤਲਬ ਨਹੀਂ ਹੁੰਦਾ। ਅਕਸਰ ਇਹ ਮਤਲਬ ਹੈ ਛੋਟੇ, ਵਿਸ਼ੇਸ਼ ਕੰਪਿਊਟ ਬਲਾਕ ਜੋ ਇਕ ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਟਾਸਕ ਨੂੰ ਤੇਜ਼ ਕਰਦੇ ਹਨ—ਤਾਂ ਜੋ CPU ਆਪਣੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ 'ਤੇ ਧਿਆਨ ਦੇ ਸਕੇ।

“ਕਸਟਮ” ਦਾ ਅਰਥ ਕੀ ਹੈ

ਕਲਾਉਡ ਵਰਕਲੋਡ ਬਹੁਤ ਵੱਖ-ਵੱਖ ਹੁੰਦੇ ਹਨ: ਇੱਕ ਸਟੋਰੇਜ-ਭਾਰ ਵਾਲਾ ਡੇਟਾਬੇਸ ਨੋਡ, ਇੱਕ ਵੀਡੀਓ ਸਟਰੀਮਿੰਗ ਏਜ ਬਾਕਸ ਜਾਂ ਫਾਇਰਵਾਲ ਅਪਲਾਇੰਸ—ਹਰ ਇਕ ਦੇ ਵੱਖਰੇ ਰੁਕਾਵਟਾਂ ਹੁੰਦੀਆਂ ਹਨ। ਮਕਸੂਸ ਸਿਲਿਕਾਨ ਉਹ ਰੁਕਾਵਟਾਂ ਨਿਸ਼ਾਨੇ 'ਤੇ ਲਿਆਂਦਾ ਹੈ—ਅਕਸਰ ਕਿਸੇ ਫੰਕਸ਼ਨ ਨੂੰ ਹਾਰਡਵੇਅਰ ਵਿੱਚ ਚਲਾਕੇ ਤਾਂ ਜੋ ਉਹ ਤੇਜ਼, ਜ਼ਿਆਦਾ ਨਿਰਧਾਰਤ ਅਤੇ ਘੱਟ CPU ਓਵਰਹੈੱਡ ਨਾਲ ਚੱਲੇ।

ਆਮ ਐਕਸਲੇਰੇਸ਼ਨ ਉਦਾਹਰਣ ਜਿਹੜੇ ਤੁਸੀਂ ਮਹਿਸੂਸ ਕਰੋਗੇ

ਕਈ ਪ੍ਰਾਇਕਟਿਕ ਵਰਗ ਘਟਕੇ-ਘਟਕੇ ਡੇਟਾ ਸੈਂਟਰਾਂ ਵਿੱਚ ਮੁੜ-ਮਿਲਦੇ ਹਨ:

• ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ ਸਹਾਇਕ: ਹੈਡਰ ਪਾਰਸਿੰਗ, ਫਲੋ ਸਟੀਅਰਿੰਗ, ਟ੍ਰੈਫਿਕ ਸ਼ੇਪਿੰਗ, ਨੀਤੀਆਂ ਲਾਗੂ ਕਰਨਾ
• ਸੁਰੱਖਿਆ ਐਕਸਲੇਰੇਸ਼ਨ: ਕ੍ਰਿਪਟੋ (IPsec/TLS), ਕੀ ਹੈਂਡਲਿੰਗ, ਇਨਲਾਈਨ ਇੰਸਪੈਕਸ਼ਨ
• ਸਟੋਰੇਜ ਐਕਸਲੇਰੇਸ਼ਨ: ਇਰੇਜ਼ਰ ਕੋਡਿੰਗ, ਕੰਪ੍ਰੈਸ਼ਨ, ਡੀਡੁਪ ਸਹਾਇਤਾ, RAID ਪੈਰਿਟੀ ਅਤੇ ਚੈਕਸਮ
• ਵੀਡੀਓ/ਮੀਡੀਆ: ਟ੍ਰਾਂਸਕੋਡਿੰਗ, ਪੈਕੇਜਿੰਗ ਅਤੇ ਸਟ੍ਰੀਮਿੰਗ ਪਾਈਪਲਾਈਨ ਲਈ ਕੰਟੈਂਟ ਕੰਡੀਸ਼ਨਿੰਗ
• AI ਇਨਫਰੈਂਸ ਸਹਾਇਕ: ਭਰੇ ਹੋਏ ਇੰਬੈਡਿੰਗ ਲੁੱਕਅਪ, ਪ੍ਰੀ/ਪੋਸਟ-ਪ੍ਰੋਸੈਸਿੰਗ ਜਾਂ ਮਾਡਲ-ਸਰਵਿੰਗ ਪਾਈਪਲਾਈਨ ਲਈ ਛੋਟੇ ਇੰਜਿਨ

ਕੰਪਨੀਆਂ ਵਰਕਲੋਡ ਅਨੁਸਾਰ ਚਿਪ ਕਿਵੇਂ ਡਿਜ਼ਾਈਨ ਕਰਦੀਆਂ ਹਨ

ਵੱਡੀਆਂ ਕਲਾਉਡ ਟੀਮਾਂ ਆਮ ਤੌਰ 'ਤੇ ਪ੍ਰੋਫਾਈਲਿੰਗ ਨਾਲ ਸ਼ੁਰੂ ਕਰਦੀਆਂ ਹਨ: ਕਿੱਥੇ অনੁਰੋਧ ਰੁਕਦਾ ਹੈ ਅਤੇ ਕਿਹੜੇ ਟਾਸਕ ਲੱਖਾਂ ਵਾਰੀ ਦੁਹਰਾਏ ਜਾਂਦੇ ਹਨ? ਫਿਰ ਉਹ ਫੈਸਲਾ ਕਰਦੇ ਹਨ ਕਿ ਕਿਆ ਪ੍ਰੋਗ੍ਰਾਮੇਬਲ ਇੰਜਿਨ (ਜਿਆਦਾ ਅਨੁਕੂਲ) ਜਾਂ ਫਿਕਸਡ-ਫੰਕਸ਼ਨ ਬਲਾਕ (ਸਭ ਤੋਂ ਵਧੀਆ ਕਾਰਗਰਤਾ) ਵਰਤਣਾ ਹੈ। ਵਿਕਰੇਤਾ ਜਿਵੇਂ Marvell ਅਕਸਰ ਨੈਟਵਰਕਿੰਗ, ਸੁਰੱਖਿਆ ਅਤੇ ਸਟੋਰੇਜ ਇੰਟਰਫੇਸ ਦੇ ਬਿਲਡਿੰਗ ਬਲਾਕ ਦਿੰਦੇ ਹਨ ਤਾਂ ਕਿ “ਕਸਟਮ” ਹਿੱਸਾ ਕਲਾਉਡ ਦੇ ਖਾਸ ਹੌਟ ਪੈਥਾਂ 'ਤੇ ਧਿਆਨ ਦੇ ਸਕੇ।

ਵਪਾਰ-ਆਧਾਰ: ਪਰਫਾਰਮੈਂਸ ਪ੍ਰਤੀ ਵੱਟ vs ਲਚੀਲਾਪਣ

ਫਿਕਸਡ-ਫੰਕਸ਼ਨ ਐਕਸਲੇਰੇਸ਼ਨ ਆਮ ਤੌਰ 'ਤੇ ਪਰਫਾਰਮੈਂਸ ਪ੍ਰਤੀ ਵੱਟ ਅਤੇ ਨਿਰਧਾਰਿਤਤਾ 'ਚ ਜਿੱਤਦਾ ਹੈ, ਪਰ ਜਦੋਂ ਵਰਕਲੋਡ ਬਦਲ ਜਾਂਦਾ ਹੈ ਤਾਂ ਉਸਨੂੰ ਫਿਰ ਵਰਤਣਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ। ਪ੍ਰੋਗ੍ਰਾਮੇਬਲ ਵਿਕਲਪ ਅਸਾਨੀ ਨਾਲ ਬਦਲ ਜਾਂਦੇ ਹਨ, ਪਰ ਸ਼ਾਇਦ ਜ਼ਿਆਦਾ ਪਾਵਰ ਖਾਂਦੇ ਹਨ ਅਤੇ ਕੁਝ ਪ੍ਰਦਰਸ਼ਨ ਛੱਡ ਦਿੰਦੇ ਹਨ। ਸਭ ਤੋਂ ਵਧੀਆ ਡਿਜ਼ਾਈਨ ਦੋਹਾਂ ਮਿਲਾ ਕੇ ਹੁੰਦੇ ਹਨ: ਜਿੱਥੇ ਲੋੜ ਹੋਵੇ ਉਤੇਜ਼ ਹਾਰਡਵੇਅਰ ਫਾਸਟ ਪਾਥ ਅਤੇ ਕੰਟਰੋਲ ਪਲੇਨ ਨੂੰ ਲਚਕੀਲਾ ਰੱਖਣਾ।

ਪਾਵਰ ਅਤੇ ਕਾਰਗਰਤਾ: ਹਰ ਵੱਟ 'ਤੇ ਵਧੇਰੇ ਕੰਮ ਕਰਨਾ

ਡੇਟਾ ਸੈਂਟਰ ਵਿੱਚ ਅਕਸਰ ਅਸਲ ਸੀਮਾ ਪਾਵਰ ਹੁੰਦੀ ਹੈ—ਨਾ ਕਿ ਸਿਰਫ਼ ਤੁਹਾਡੇ ਕੋਲ ਖਰੀਦਣ ਲਈ ਹੋਰ ਸਰਵਰ ਹਨ, بلکہ ਉਹ ਕਿੰਨੀ ਬਿਜਲੀ ਤੁਸੀਂ ਦੇ ਸਕਦੇ ਅਤੇ ਗਰਮੀ ਕਿੰਨੀ ਹਟਾ ਸਕਦੇ ਹੋ। ਜਦੋਂ ਇੱਕ ਸਹੂਲਤ ਆਪਣਾ ਪਾਵਰ ਐਨਵਲਪਟ ਹਿੱਟ ਕਰ ਲੈਂਦੀ ਹੈ, ਤਾਂ ਵਧਾਉਣ ਦਾ ਇਕਮਾਤਰ ਤਰੀਕਾ ਹੈ ਹਰ ਵੱਟ ਤੋਂ ਵਧੇਰਾ ਉਪਯੋਗੀ ਕੰਮ ਪ੍ਰਾਪਤ ਕਰਨਾ।

ਕਿਉਂ “ਓਫਲੋਡ” ਉਰਜਾ ਬਚਾਉਂਦਾ ਹੈ

ਜਨਰਲ-ਪਰਪਜ਼ CPU ਲਚਕੀਲੇ ਹੁੰਦੇ ਹਨ, ਪਰ ਇਹ ਹਮੇਸ਼ਾ ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਕੰਮਾਂ ਲਈ ਕਾਰਗਰ ਨਹੀਂ ਹੁੰਦੇ—ਜਿਵੇਂ ਪੈਕਟ ਹੈਂਡਲਿੰਗ, ਇਨਕ੍ਰਿਪਸ਼ਨ, ਸਟੋਰੇਜ ਪ੍ਰੋਟੋਕੋਲ ਪ੍ਰੋਸੈਸਿੰਗ ਜਾਂ ਟੈਲੀਮੈਟਰੀ। ਮਕਸੂਸ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ (Smart NICs/DPUs, ਸਵਿੱਚ ਅਤੇ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ) ਇਹ ਕੰਮ ਘੱਟ ਸਾਈਕਲ ਅਤੇ ਘੱਟ ਖਰਚ 'ਤੇ ਕਰ ਸਕਦੇ ਹਨ।

ਉਰਜਾ ਦਾ ਫਾਇਦਾ ਅਕਸਰ ਅਪਰੋਕਸ਼ ਹੁੰਦਾ ਹੈ: ਜੇ ਓਫਲੋਡ CPU ਉਪਯੋਗ ਘਟਾਉਂਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਇੱਕੋ ਵਰਕਲੋਡ ਘੱਟ CPU ਕੋਰ/ਘੱਟ ਕਲਾਕ ਗਤੀ ਜਾਂ ਘੱਟ ਸਰਵਰਾਂ ਨਾਲ ਚਲਾ ਸਕਦੇ ਹੋ। ਇਹ ਮੈਮੋਰੀ ਦਬਾਅ ਅਤੇ PCIe ਟ੍ਰੈਫਿਕ ਨੂੰ ਵੀ ਘਟਾਉਂਦਾ, ਜੋ ਹੋਰ ਬਿਜਲੀ ਬਚਾਉਂਦਾ।

ਕੁਲਿੰਗ ਅਤੇ ਜਗ੍ਹਾ ਵੀ ਚਿਪ ਫੈਸਲੇ ਦਾ ਹਿੱਸਾ ਹਨ

ਹਰ ਵੱਟ ਗਰਮੀ ਬਣਾਉਂਦਾ ਹੈ। ਵੱਧ ਗਰਮੀ ਤੇਜ਼ ਫੈਨ, ਹੋਰ ਕੁਲਿੰਗ ਅਤੇ ਰੈਕ-ਸਤੰਭ ਯੋਜਨਾ ਮੰਗਦੀ ਹੈ। ਉੱਚ-ਡੈਂਸਿਟੀ ਰੈਕ ਆਕਰਸ਼ਕ ਹੋ ਸਕਦੇ ਹਨ, ਪਰ ਕੇਵਲ ਜਦੋਂ ਤੁਹਾਡੇ ਕੋਲ ਉਸਨੂੰ ਸਮਾਨਤਾਪੂਰਵਕ ਠੰਡਾ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਹੋਵੇ। ਇਸੀ ਲਈ ਚਿੱਪ ਚੋਣ ਰਾਸ਼ਟੀ throughput ਤੋਂ ਇਲਾਵਾ ਮਹੱਤਵ ਰੱਖਦੀ ਹੈ: ਇੱਕ ਕੰਪੋਨੈਂਟ ਜੋ ਘੱਟ ਪਾਵਰ ਖਰਚ ਕਰਦਾ ਹੈ ਜਾਂ ਉੱਚ ਲੋਡ 'ਤੇ ਵੀ ਕੂशल ਰਹਿੰਦਾ ਹੈ, ਓਪਰੇਟਿਅਰਾਂ ਨੂੰ ਇੱਕੋ ਫੁੱਟਪ੍ਰਿੰਟ ਵਿੱਚ ਹੋਰ ਸਮਰੱਥਾ ਪੈਕ ਕਰਨ ਦਿੰਦਾ ਹੈ ਬਿਨਾਂ ਹਾਟ-ਸਪੌਟ ਬਣਾਉਣ ਦੇ।

ਕਾਰਗਰਤਾ ਦਾਅਵਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਿਵੇਂ ਕਰੋ

“ਬਿਹਤਰ ਪਰਫਾਰਮੈਂਸ ਪ੍ਰਤੀ ਵੱਟ” ਦੇ ਦਾਅਵੇ ਆਸਾਨੀ ਨਾਲ ਮਾਰਕੀਟ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ ਪਰ ਤੁਲਨਾ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਤੁਸੀਂ ਇਹ ਵੇਖੋ, ਤਾਂ ਧਿਆਨ ਰੱਖੋ:

• ਮਾਪਣ ਸੰਦਰਭ: ਥਰਪੁੱਟ, ਲੇਟੈਂਸੀ ਟਾਰਗਟ, ਪੈਕਟ ਆਕਾਰ ਅਤੇ ਯੋਗ ਕੀਤਾ ਫੀਚਰ (ਜਿਵੇਂ ਇਨਕ੍ਰਿਪਸ਼ਨ ਆਨ/ਆਫ)
• ਸਿਸਟਮ ਬਾਊਂਡਰੀ: ਸਿਰਫ ਚਿਪ ਪਾਵਰ vs ਪੂਰਾ ਕਾਰਡ vs ਪੂਰਾ ਸਰਵਰ ਪ੍ਰਭਾਵ
• ਲੋਡ-ਕਵ curves: 20–40% ਉਪਯੋਗਤਾ ਤੇ ਕਾਰਗਰਤਾ ਅਕਸਰ ਪੀਕ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਮਹੱਤਵਪੂਰਨ ਹੁੰਦੀ ਹੈ
• ਸਮਾਨ-ਭੀੜ ਬੇਸਲਾਈਨ: ਉਹੀ ਵਰਕਲੋਡ, ਉਹੀ CPU ਜਨਰੇਸ਼ਨ, ਓਹੋ-ਜੇਹੇ NIC/ਸਵਿੱਚ ਕੰਫਿਗ

ਸਭ ਤੋਂ ਭਰੋਸੇਯੋਗ ਦਾਅਵੇ ਉਹ ਹੁੰਦੇ ਹਨ ਜੋ ਵਾਧੂ ਵਾਟਾਂ ਨੂੰ ਇੱਕ ਨਿਰਧਾਰਤ, ਦੁਹਰਾਏ ਜਾਣ ਯੋਗ ਵਰਕਲੋਡ ਨਾਲ ਜੁੜ ਕੇ ਦਿਖਾਏਂ—ਨਾ ਕਿ ਸਿਰਫ਼ ਸਪੀਕ-ਸ਼ੀਟ 'ਤੇ।

ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਵਿੱਚ ਸੁਰੱਖਿਆ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਫੀਚਰ

ਕਲਾਉਡ ਪ੍ਰੋਵਾਈਡਰ ਹੌਫ਼ਤਾਂ 'ਤੇ ਬਹੁਤ ਸਾਰੇ ਗ੍ਰਾਹਕ ਇੱਕੋ ਹੀ ਭੌਤਿਕ ਮਸ਼ੀਨਾਂ ਵਰਤਦੇ ਹਨ, ਇਸ ਲਈ ਸੁਰੱਖਿਆ ਨੂੰ "ਬਾਅਦ ਵਿੱਚ ਜੋੜਨਾ" ਸੰਭਵ ਨਹੀਂ। ਬਹੁਤ ਕੁਝ ਚਿੱਪ ਲੇਅਰ 'ਤੇ ਲਾਗੂ ਹੁੰਦਾ ਹੈ—Smart NICs/DPUs, ਨੈਟਵਰਕਿੰਗ ਚਿਪਸ, ਈਥਰਨੇਟ ਸਵਿੱਚਿੰਗ ਸਿਲਿਕਾਨ ਅਤੇ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰਾਂ ਵਿੱਚ—ਜਿੱਥੇ ਹਾਰਡਵੇਅਰ ਓਫਲੋਡ ਸੁਰੱਖਿਆ ਨੂੰ ਫੁੱਲ ਲਾਈਨ ਰੇਟ 'ਤੇ ਲਾਗੂ ਕਰ ਸਕਦਾ ਹੈ।

ਹਾਰਡਵੇਅਰ ਰੂਟ ਆਫ ਟ੍ਰੱਸਟ ਅਤੇ ਸੁਰੱਖਿਅਤ ਬੂਟ

ਅਕਸਰ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਵਿੱਚ ਇੱਕ ਹਾਰਡਵੇਅਰ ਰੂਟ ਆਫ ਟ੍ਰੱਸਟ ਹੁੰਦਾ ਹੈ: ਇੱਕ ਛੋਟਾ, ਅਪਰਿਵਰਤਨੀ ਲੌਜਿਕ ਅਤੇ ਕੁੰਜੀਆਂ ਦਾ ਸੈੱਟ ਜੋ ਫਰਮਵੇਅਰ ਨੂੰ ਵੈਰੀਫਾਈ ਕਰਦਾ ਹੈ ਪਹਿਲਾਂ ਹੀ ਕਿ ਕੁਝ ਹੋਰ ਚੱਲੇ। ਸੁਰੱਖਿਅਤ ਬੂਟ ਨਾਲ, ਚਿਪ ਆਪਣੇ ਫਰਮਵੇਅਰ 'ਤੇ ਕਾਰਪਟੋਗ੍ਰਾਫਿਕ ਦਸਤਖਤ ਚੈੱਕ ਕਰਦੀ ਹੈ (ਅਤੇ ਕਈ ਵਾਰੀ ਹੋਸਟ ਦੀਆਂ ਬੂਟ ਲੋੜਾਂ ਨੂੰ ਵੀ) ਅਤੇ ਤਬਦੀਲ ਹੋਇਆ ਜਾਂ ਅਣਜਾਣਾ ਕੋਡ ਚਲਾਉਣ ਤੋਂ ਇਨਕਾਰ ਕਰਦੀ ਹੈ।

ਇਹ ਮਹੱਤਵਪੂਰਣ ਹੈ ਕਿਉਂਕਿ ਇੱਕ ਸਮਰਪਿਤ DPU ਜਾਂ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਤੁਹਾਡੇ ਸਰਵਰਾਂ ਅਤੇ ਨੈਟਵਰਕ/ਸਟੋਰੇਜ ਫੈਬਰਿਕ ਦੇ ਵਿਚਕਾਰ "ਬੈਠ" ਸਕਦਾ ਹੈ। ਸੁਰੱਖਿਅਤ ਬੂਟ ਉਸ ਲੇਅਰ 'ਤੇ ਛੁਪੇ ਰਹਿਣ ਵਾਲੇ ਖਤਰਨਾਕ ਕੋਡ ਦੇ ਜੋਖਮ ਨੂੰ ਘੱਟ ਕਰਦਾ ਹੈ।

ਇਨਲਾਈਨ ਇਨਕ੍ਰਿਪਸ਼ਨ ਡੇਟਾ ਇਨ ਟ੍ਰਾਂਜ਼ਿਟ ਅਤੇ ਐਟ-ਰੇਸਟ ਲਈ

ਇਨਕ੍ਰਿਪਸ਼ਨ ਅਕਸਰ ਸਿੱਧਾ ਸਿਲਿਕਾਨ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਕਿ ਇਹ CPU ਸਮਾਂ ਨਾ ਖਾਏ:

• ਡੇਟਾ ਇਨ ਟ੍ਰਾਂਜ਼ਿਟ: DPUs ਅਤੇ Smart NICs IPsec/TLS ਵਰਗੇ ਪ੍ਰੋਸੈਸਿੰਗ ਅਤੇ ਕੀ ਹੈਂਡਲਿੰਗ ਓਫਲੋਡ ਕਰ ਸਕਦੇ ਹਨ ਜਦੋਂ ਕਿ ਥਰਪੁੱਟ ਉੱਚਾ ਰੱਖਿਆ ਜਾਂਦਾ ਹੈ।
• ਡੇਟਾ ਐਟ-ਰੇਸਟ: ਸਟੋਰੇਜ ਸਿਲਿਕਾਨ ਲਿਖਤਾਂ 'ਤੇ ਇਨਲਾਈਨ ਇਨਕ੍ਰਿਪਸ਼ਨ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਰੀਡ 'ਤੇ ਡਿਕ੍ਰਿਪਟ ਕਰਦਾ ਹੈ, NVMe ਪਾਠਾਂ ਵਿੱਚ ਬਿਨਾਂ ਹਰ I/O ਨੂੰ CPU-ਭਾਰੀ ਬਣਾਏ।

ਇਨਲਾਈਨ ਹੋਣ ਕਾਰਨ, ਸੁਰੱਖਿਆ ਦਾ ਮਤਲਬ ਹੁਣ "ਧੀਮਾ" ਨਹੀਂ ਰਹਿੰਦਾ।

ਸ਼ੇਅਰ ਕੀਤੇ ਹੋਏ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਟੇਨੈਂਟਾਂ ਵਿਚਕਾਰ ਅਲੱਗਾਵਣ

ਮਲਟੀ-ਟੈਨੈਂਟ ਕਲਾਉਡਾਂ ਨੂੰ ਕੜੀ ਅਲੱਗਾਵਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਚਿਪ ਹਾਰਡਵੇਅਰ ਕਿਊਜ਼, ਮੈਮੋਰੀ ਸੁਰੱਖਿਆ, ਵਰਚੁਅਲ ਫਂਕਸ਼ਨ ਅਤੇ ਨੀਤਿ ਲਾਗੂ ਕਰਕੇ ਇਹ ਅਲੱਗਾਵਣ ਲਾਗੂ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ—ਤਾਂ ਜੋ ਇੱਕ ਟੇਨੈਂਟ ਦੀ ਟ੍ਰੈਫਿਕ ਜਾਂ ਸਟੋਰੇਜ ਰਿਕਵੇਸਟ ਦੂਜੇ ਦੀ ਨਿਗਰਾਨੀ ਵਿੱਚ ਨਾ ਪahunche. ਇਹ ਖਾਸ ਕਰਕੇ ਅਹਿਮ ਹੈ ਜਦੋਂ DPUs ਵਰਚੁਅਲ ਨੈਟਵਰਕਿੰਗ ਨੂੰ ਸੰਭਾਲਦੇ ਹਨ ਅਤੇ ਜਦੋਂ PCIe ਡਿਵਾਈਸਾਂ ਨੂੰ ਵੱਖ-ਵੱਖ ਵਰਕਲੋਡਾਂ ਵਿੱਚ ਸਾਂਝਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।

ਮੁਸ਼ਕਲੀਆਂ ਨੂੰ ਪਹਿਲਾਂ ਹੀ ਸਾਹਮਣੇ ਲਿਆਉਣ ਲਈ ਓਬਜ਼ਰਵੇਬਿਲਿਟੀ ਫੀਚਰ

ਭਰੋਸੇਯੋਗਤਾ ਸਿਰਫ਼ "ਕੋਈ ਫੇਲ੍ਹਰ ਨਹੀਂ" ਨਹੀਂ ਹੈ—ਇਹ ਤੇਜ਼ ਪਤਾ ਲਗਾਉਣਾ ਅਤੇ ਰੀਕਵਰੀ ਹੈ। ਬਹੁਤ ਸਾਰੇ ਡੇਟਾ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਡਿਜ਼ਾਈਨਾਂ ਵਿੱਚ ਟੈਲੀਮੈਟਰੀ ਕਾਊਂਟਰ, ਐਰਰ ਰਿਪੋਰਟਿੰਗ, ਪੈਕਟ ਟ੍ਰੇਸਿੰਗ ਹੂਕਸ ਅਤੇ ਹੈਲਥ ਮੈਟ੍ਰਿਕਸ ਹੁੰਦੀਆਂ ਹਨ ਜੋ ਕਲਾਉਡ ਟੀਮਾਂ ਮਾਨੀਟਰਿੰਗ ਸਿਸਟਮਾਂ ਵਿੱਚ ਭੇਜ ਸਕਦੀਆਂ ਹਨ। ਜਦੋਂ ਕੁਝ ਗੜਬੜ ਹੁੰਦੀ ਹੈ (ਡ੍ਰਾਪ, ਲੇਟੈਂਸੀ ਸਪਾਈਕ, ਲਿੰਕ ਐਰਰ), ਇਹ ਨਿਰਮਿਤ ਸਿਗਨਲ ਇਹ ਪਤਾ ਲਗਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ ਕਿ ਸਮੱਸਿਆ ਈਥਰਨੇਟ ਸਵਿੱਚਿੰਗ, DPU ਜਾਂ ਸਟੋਰੇਜ ਕੰਟਰੋਲਰ ਵਿੱਚੋਂ ਕਿੱਥੇ ਆ ਰਹੀ ਹੈ—ਜਿਸ ਨਾਲ ਸਮੱਸਿਆ ਹੱਲ ਕਰਨ ਦਾ ਸਮਾਂ ਘੱਟ ਹੁੰਦਾ ਅਤੇ ਕੁੱਲ ਉਪਲਬਧਤਾ ਸੁਧਰਦੀ ਹੈ।

ਅੱਖੀ-ਨਜ਼ਰ ਉਦਾਹਰਣ: ਇੱਕ ਕਲਾਉਡ ਬੇਨਤੀ ਕਿਵੇਂ ਤੇਜ਼ ਹੁੰਦੀ ਹੈ

ਇੱਕ ਸਧਾਰਨ ਕਰਾਰ: ਤੁਸੀਂ ਸ਼ਾਪਿੰਗ ਐਪ ਖੋਲ੍ਹਦੇ ਹੋ ਅਤੇ “View order history” 'ਤੇ ਟੈਪ ਕਰਦੇ ਹੋ। ਇਹ ਇੱਕ ਬੇਨਤੀ ਕਈ ਸਿਸਟਮਾਂ ਰਾਹੀਂ ਜਾਂਦੀ ਹੈ—ਤੇ ਹਰ ਕਦਮ 'ਤੇ ਦੇਰ ਹੋ ਸਕਦੀ ਹੈ।

ਕਦਮ-ਬਦ-ਕਦਮ: ਬੇਨਤੀ → ਡੇਟਾਬੇਸ → ਜਵਾਬ

1. ਤੁਹਾਡੀ ਬੇਨਤੀ ਕਲਾਉਡ ਐਜ ਅਤੇ ਲੋਡ ਬੈਲੈਂਸਰ ਤੇ ਪਹੁੰਚਦੀ ਹੈ। ਪੈਕਟ ਇੱਕ ਸਿਹਤਮੰਦ ਐਪਲੀਕੇਸ਼ਨ ਸਰਵਰ ਵੱਲ ਰੂਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।

2. ਇਹ ਐਪ ਹੋਸਟ ਤੱਕ ਪਹੁੰਚਦੀ ਹੈ। ਰਵਾਇਤੀ ਤੌਰ 'ਤੇ, ਹੋਸਟ CPU ਕਾਫੀ “ਪਲੰਬਿੰਗ” ਕੰਮ (ਇਨਕ੍ਰਿਪਸ਼ਨ, ਫਾਇਰਵਾਲ ਨੀਤੀਆਂ, ਵਰਚੁਅਲ ਨੈਟਵਰਕਿੰਗ, ਕਤਰਬੰਦੀ) ਦਿਖਾਉਂਦਾ ਹੈ।

3. ਐਪ ਡੇਟਾਬੇਸ ਨੂੰ ਪੁੱਛਦਾ ਹੈ। ਉਹ ਪੁੱਛਗਿੱਛ ਡੇਟਾ ਸੈਂਟਰ ਨੈਟਵਰਕ ਰਾਹੀਂ ਡੇਟਾਬੇਸ ਕਲੱਸਟਰ ਤੱਕ ਜਾਣੀ ਅਤੇ ਫਿਰ ਸਟੋਰੇਜ ਤੋਂ ਡੇਟਾ ਲਿਆਉਣੀ ਪੈਦੀ ਹੈ।

4. ਜਵਾਬ ਵਾਪਿਸ ਆਉਂਦਾ ਹੈ। ਨਤੀਜੇ ਪੈਕੇਜ ਕੀਤੇ, ਇਨਕ੍ਰਿਪਟ ਕੀਤੇ ਅਤੇ ਤੁਹਾਡੇ ਫੋਨ ਨੂੰ ਭੇਜੇ ਜਾਂਦੇ ਹਨ।

ਜਿੱਥੇ ਲੇਟੈਂਸੀ ਘੁਸ ਆਉਂਦੀ ਹੈ

• ਨੈਟਵਰਕ ਹੋਪਸ ਅਤੇ ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ: ਹਰ ਹੋਪ ਮਾਈਕ੍ਰੋ-ਡਿਲੇ ਜੋੜਦਾ ਹੈ, ਪਰ ਵੱਡੀ ਲਾਗਤ ਪ੍ਰਤੀ-ਪੈਕਟ ਕੰਮ ਹੋ ਸਕਦੀ ਹੈ—ਰੂਟਿੰਗ ਫੈਸਲੇ, ਟਨਲ ਇਨਕੈਪਸੂਲੇਸ਼ਨ, ACL ਚੈੱਕ।
• ਸਟੋਰੇਜ I/O: ਭਾਵੇਂ NVMe ਤੇਜ਼ ਹੋਵੇ, ਪਰ ਕਤਾਰ ਭਰ ਜਾਣ, ਮੈਟਾ ਡੇਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਜਾਂ ਹੋਸਟ CPU ਨੇ I/O bookkeeping ਸੰਭਾਲਣ ਨਾਲ ਦੇਰ ਹੋ ਸਕਦੀ ਹੈ।
• CPU ਮੁਕਾਬਲਾ: ਜੇ ਇੱਕੋ CPU ਕੋਰ ਦੋਹਾਂ ਤੁਹਾਡੀ ਐਪ ਅਤੇ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਕੰਮ (ਨੈਟਵਰਕ, ਸੁਰੱਖਿਆ, ਸਟੋਰੇਜ) ਚਲਾਉਂਦੇ ਹਨ, ਤਾਂ ਬਰਸਟੀ ਟ੍ਰੈਫਿਕ noisy neighbor ਪ੍ਰਭਾਵ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ।

ਓਫਲੋਡ ਅਤੇ ਐਕਸਲੇਰੇਸ਼ਨ ਕਿਸ ਤਰ੍ਹਾਂ ਰੁਕਾਵਟਾਂ ਹਟਾਉਂਦੇ ਹਨ

Smart NICs/DPUs ਅਤੇ ਵਿਸ਼ੇਸ਼ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ (ਜਿਨ੍ਹਾਂ ਵਿੱਚ Marvell ਫ਼ਿਲਸਾਨ ਵੀ ਸ਼ਾਮਲ ਹਨ) ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਕੰਮਾਂ ਨੂੰ ਜਨਰਲ-ਪਰਪਜ਼ CPU ਤੋਂ ਹਟਾ ਦਿੰਦੇ ਹਨ:

• ਨੈਟਵਰਕਿੰਗ ਓਫਲੋਡ ਟਨਲਿੰਗ, ਸਵਿੱਚਿੰਗ/ਸਟੀਅਰਿੰਗ, ਅਤੇ ਨੀਤੀਆਂ ਨੂੰ ਵਾਇਰ ਦੇ ਨੇੜੇ ਸੰਭਾਲ ਸਕਦੀ ਹੈ।
• ਕ੍ਰਿਪਟੋ ਐਕਸਲੇਰੇਸ਼ਨ TLS/IPsec ਦੀ ਲਾਗਤ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ ਤਾਂ ਕਿ ਇਨਕ੍ਰਿਪਸ਼ਨ ਐਪਲਿਕੇਸ਼ਨ ਸਾਈਕਲ ਨਾ ਖਾਏ।
• ਸਟੋਰੇਜ ਐਕਸਲੇਰੇਸ਼ਨ NVMe ਕਤਾਰਾਂ, RAID/ਡੇਟਾ ਰੱਖਿਆ ਕਾਰਜਾਂ ਅਤੇ ਹੋਸਟ I/O bookkeeping ਨੂੰ ਤੇਜ਼ ਕਰਦੀ ਹੈ ਅਤੇ ਹੋਸਟ ਨੂੰ ਮੁਫ਼ਤ ਕਰਦੀ ਹੈ।

ਅਸਲ ਜ਼ਿੰਦਗੀ ਵਿੱਚ ਕੀ ਸੁਧਾਰ ਹੁੰਦਾ ਹੈ

• ਟੇਲ ਲੇਟੈਂਸੀ ਘੱਟ: ਟ੍ਰੈਫਿਕ ਸਪਾਈਕਸ ਦੌਰਾਨ "ਦੁਖਦਾਇਕ ਪਰ rare" ਧੀਰੇ ਬੇਨਤੀਆਂ ਘੱਟ ਹੁੰਦੀਆਂ ਹਨ।
• ਉੱਚ ਥਰਪੁੱਟ: ਹਰ ਸਰਵਰ ਤੇ ਜ਼ਿਆਦਾ ਬੇਨਤੀਆਂ ਸੇਵਾ ਕੀਤੀਆਂ ਜਾ ਸਕਦੀਆਂ ਹਨ ਕਿਉਂਕਿ CPU ਐਪ ਲੋジਿਕ 'ਤੇ ਕੇਂਦਰਤ ਰਹਿੰਦਾ ਹੈ।
• ਬਿਹਤਰ ਇਕਸਾਰਤਾ: ਪ੍ਰਦਰਸ਼ਨ ਜ਼ਿਆਦਾ ਸਥਿਰ ਰਹਿੰਦਾ ਹੈ ਕਿਉਂਕਿ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਕੰਮ ਅਲੱਗ ਅਤੇ ਨਿਰਧਾਰਤ ਹੁੰਦੇ ਹਨ।

ਕਲਾਉਡ ਟੀਮਾਂ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਚਿਪ ਕਿਵੇਂ ਚੁਨਦੀਆਂ ਹਨ

ਕਲਾਉਡ ਓਪਰੇਟਰ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਚਿਪਾਂ ਨੂੰ ਇਸ ਲਈ ਨਹੀਂ ਚੁਣਦੇ ਕਿ ਉਹ "ਸਿਰਫ ਤੇਜ਼" ਹਨ—ਉਹ ਉਹਨਾਂ ਨੂੰ ਚੁਣਦੇ ਹਨ ਜਦੋਂ ਕੰਮ ਵੱਡਾ, ਦੁਹਰਾਏ ਜਾਣ ਵਾਲਾ ਅਤੇ ਸਮਰੱਥਾ-ਅਨੁਕੂਲ ਹੋਵੇ ਕਿ ਉਸਨੂੰ ਡੈਡੀਕੇਟਡ ਹਾਰਡਵੇਅਰ ਬਣਾਇਆ ਜਾਵੇ। ਵਿਸ਼ੇਸ਼ ਸਿਲਿਕਾਨ ਸਭ ਤੋਂ ਜ਼ਿਆਦਾ ਲਾਭਦਾਇਕ ਹੁੰਦਾ ਹੈ ਪੈਮਾਨੇ 'ਤੇ (ਲੱਖਾਂ ਸਮਾਨ ਬੇਨਤੀਆਂ), ਜਦੋਂ ਪਰਫਾਰਮੈਂਸ ਲੋੜਾਂ ਨਿਰਧਾਰਿਤ ਹਨ, ਅਤੇ ਜਦੋਂ ਛੋਟੇ ਸੁਭਾਵਿਕ ਬਚਤਾਂ ਫਲਿੱਟ 'ਚ ਵੱਡੇ ਬਚਤ ਬਣ ਜਾਂਦੀਆਂ ਹਨ।

ਡੇਟਾ ਸ਼ੀਟ ਦੇ ਨਾਲ ਨਹੀਂ—ਵਰਕਲੋਡ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ

ਟੀਮਾਂ ਆਮ ਤੌਰ 'ਤੇ ਆਪਣੀਆਂ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਫੰਕਸ਼ਨਾਂ ਨਾਲ ਜੋੜਦੀਆਂ ਹਨ: ਨੈਟਵਰਕ ਪਾਥ ਵਿੱਚ ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ ਅਤੇ ਸੁਰੱਖਿਆ, I/O ਪਾਥ ਵਿੱਚ ਸਟੋਰੇਜ ਟਰਾਂਸਲੇਸ਼ਨ ਅਤੇ ਡੇਟਾ ਰੱਖਿਆ, ਜਾਂ ਐਕਸਲੇਰੇਸ਼ਨ ਬਲਾਕਾਂ ਵਿੱਚ ਕੰਪ੍ਰੈਸ਼ਨ/ਕ੍ਰਿਪਟੋ/AI ਪ੍ਰਿਟਿਮਿਵ। ਇੱਕ ਮੁੱਖ ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਇਹ ਕੰਮ ਓਫਲੋਡ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ ਬਿਨਾਂ ਸੌਫਟਵੇਅਰ ਮਾਡਲ ਖ਼ਰਾਬ ਕੀਤੇ।

ਵੇਚਣ ਵਾਲਿਆਂ ਨੂੰ ਪੁੱਛਣ ਵਾਲੇ ਸਵਾਲ (PoC ਤੋਂ ਪਹਿਲਾਂ)

ਨਿਰਧਾਰ ਲਈ ਪੁੱਛੋ:

• ਇਹ ਸਿਲਿਕਾਨ ਅੱਜ ਕਿਹੜੇ ਵਰਕਲੋਡ ਲਈ ਟਿਊਨ ਕੀਤਾ ਗਿਆ ਹੈ (ਤੇ ਕਿਹੜਿਆਂ ਲਈ ਨਹੀਂ)
• ਰੋਡਮੈਪ ਸਥਿਰਤਾ: ਅਗਲੀ ਜਨਰੇਸ਼ਨ ਪਿਨ/ਬੋਰਡ ਅਨੁਕੂਲਤਾ, ਫਰਮਵੇਅਰ ਸਮਰਥਨ ਵਿੰਡੋ, ਅਤੇ ਫੀਚਰ ਡਿਲਿਵਰੀ ਕੈਡੰਸ
• ਅਨੁਕੂਲਤਾ: ਡ੍ਰਾਈਵਰ, ਹਾਈਪਰਵਾਈਜਰ ਸਮਰਥਨ, Kubernetes/CNI ਇੰਟਿਗ੍ਰੇਸ਼ਨ, ਅਤੇ ਟੈਲੀਮੈਟਰੀ ਹੂਕ
• ਸਪਲਾਈ ਅਤੇ ਲਾਈਫਸਾਈਕਲ: ਲੀਡ ਟਾਈਮ, ਸੈਕੰਡ-ਸਰੋਸ ਰਣਨੀਤੀ, ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਲਈ ਉਪਲਬਧਤਾ

ਵਿਕਲਪਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਿਵੇਂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ

ਬੈਂਚਮਾਰਕਜ਼ ਮਾਇਆ ਰੱਖਦੀਆਂ ਹਨ, ਪਰ ਸਿਰਫ ਜੇ ਉਹ ਪ੍ਰੋਡਕਸ਼ਨ ਵਰਗੇ ਆਮ-ਵਰਕਲੋਡ ਨਾਲ ਮਿਲਦੇ ਹੋਣ: ਅਸਲੀ ਪੈਕਟ ਮਿਕਸ, ਸਚ-ਮੈਗਰ-ਸਟੋਰੇਜ ਕਤਾਰ ਗਹਿਰਾਈਆਂ, ਅਤੇ ਹਕੀਕਤੀ ਟੇਨੈਂਟ ਅਲੱਗਾਵਣ। ਪਾਵਰ ਨੂੰ "ਵੱਟ ਪ੍ਰਤੀ ਕੰਮ" ਦੇ ਤੌਰ 'ਤੇ ਮਾਪਿਆ ਜਾਂਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਰੈਕ ਪਾਵਰ-ਕੈਪਡ ਹੋਣ।

ਇੰਟੈਗ੍ਰੇਸ਼ਨ ਯਤਨ ਅਕਸਰ ਫੈਸਲਾ ਕਰਨ ਵਾਲੀ ਚੀਜ਼ ਹੁੰਦੀ ਹੈ। ਇੱਕ ਚਿਪ ਜੋ ਪੇਪਰ 'ਤੇ 10% ਵਧੀਆ ਹੈ, ਉਹ ਘਾਟਾ ਵਿੱਚ ਹਾਰ ਸਕਦੀ ਹੈ ਜੇ ਉਹ ਪ੍ਰੋਵਿਜ਼ਨ, ਮੋਨੀਟਰ ਅਤੇ ਪੈਚ ਕਰਨ ਵਿੱਚ ਕਠਨ ਹੋਵੇ।

ਲੌਕ-ਇਨ ਤੋਂ ਬਚਣਾ

ਕਲਾਉਡ ਟੀਮਾਂ ਜੋਖਮ ਘਟਾਉਣ ਲਈ ਮਿਆਰਾਂ (Ethernet, NVMe, PCIe/CXL), ਚੰਗੀ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਵਾਲੇ APIs ਅਤੇ ਇੰਟਰਓਪਰੇਬਲ ਮੈਨੇਜਮੈਂਟ ਟੂਲਿੰਗ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੀਆਂ ਹਨ। ਜਦੋਂ vendor ਵਿਸ਼ੇਸ਼ ਫੀਚਰ ਵਰਤੇ ਜਾਂਦੇ ਹਨ (Marvell ਆਦਿ), ਉਹ ਉੱਪਰੀ-ਸਤ੍ਹੀ ਦੇ ਕੰਟਰੋਲ ਪਲੇਨ ਨੂੰ ਪੋਰਟੇਬਲ ਰੱਖਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ ਤਾਂ ਕਿ ਹਾਰਡਵੇਅਰ ਬਦਲਣ 'ਤੇ ਪੂਰੇ ਪਲੇਟਫ਼ਾਰਮ ਨੂੰ ਨਹੀਂ ਮਰਭਟਣਾ ਪਏ।

ਉਸੇ ਸਿਧਾਂਤ ਨੂੰ ਸੌਫਟਵੇਅਰ ਪਾਸੇ ਵੀ ਲਾਗੂ ਕਰੋ: ਜਦੋਂ ਤੁਸੀਂ ਸੇਵਾਵਾਂ ਬਣਾਉਂਦੇ ਹੋ ਜੋ ਅੰਤ ਵਿੱਚ ਇਸ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ 'ਤੇ ਚੱਲਣਗੀਆਂ, ਤਾਂ ਆਰਕੀਟੈਕਚਰ ਨੂੰ ਪੋਰਟੇਬਲ ਰੱਖਣਾ ਮਦਦਗਾਰ ਹੁੰਦਾ ਹੈ। Platforms like Koder.ai ਕਿਵੇਂ ਤੇਜ਼ ਪੋਟੋਟਾਈਪਿੰਗ ਅਤੇ iteration ਨੂੰ ਸਹਾਇਕ ਕਰ ਸਕਦੇ ਹਨ—ਪਰ ਹਮੇਸ਼ਾ ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਤੁਸੀਂ ਕੋਡ ਨਿਰਯਾਤ ਅਤੇ ਆਪਣੀ ਕਲਾਉਡ/ਕੰਪਲਾਇੰਸ ਮੰਗਾਂ ਦੇ ਅਨੁਸਾਰ ਡਿਪਲੌਏ ਕਰ ਸਕਦੇ ਹੋ।

ਡੇਟਾ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ ਲਈ ਅਗਲਾ ਦੌਰ

ਕਲਾਉਡ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਸਿਲਿਕਾਨ "ਇਕ ਸੁਧਾਰਕ" ਤੋਂ ਬੇਸਲਾਈਨ ਪਲੰਬਿੰਗ ਵੱਲ ਬਦਲ ਰਿਹਾ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਹੋਰ ਸੇਵਾਵਾਂ ਲੇਟੈਂਸੀ-ਸੰਵੇਦਨਸ਼ੀਲ ਹੁੰਦੀਆਂ ਹਨ (AI ਇਨਫਰੈਂਸ, ਰੀਅਲ-ਟਾਈਮ ਐਨਾਲਿਟਿਕਸ, ਸੁਰੱਖਿਆ ਜਾਂਚ), ਨੈਟਵਰਕਿੰਗ, ਸਟੋਰੇਜ ਅਤੇ ਡੇਟਾ ਮੂਵਮੈਂਟ ਨੂੰ ਬਹੁਤ ਹੀ ਕਾਰਗਰ ਢੰਗ ਨਾਲ ਸੰਭਾਲਣ ਵਾਲੇ ਚਿਪਾਂ ਦਾ ਮਹੱਤਵ CPU ਜਿੰਨਾ ਹੀ ਹੋ ਜਾਵੇਗਾ।

ਉੱਚ-ਬੈਂਡਵਿਡਥ ਡਿਫਾਲਟ ਬਣ ਜਾਂਦੀ ਹੈ

ਹੁਣ ਉੱਚ-ਬੈਂਡਵਿਡਥ ਨੈੱਟਵਰਕ ਅਲੱਗ-ਟਾਇਰ ਨਹੀਂ ਰਹੇ—ਉਹ ਉਮੀਦ ਬਣ ਚੁੱਕੇ ਹਨ। ਇਸ ਨਾਲ Ethernet ਸਵਿੱਚਿੰਗ, ਪੈਕਟ ਪ੍ਰੋਸੈਸਿੰਗ, DPUs ਅਤੇ Smart NICs ਤੇਜ਼ ਪੋਰਟਸ, ਘੱਟ ਲੇਟੈਂਸੀ ਅਤੇ ਬਿਹਤਰ ਕਨਜੈਸ਼ਨ ਕੰਟਰੋਲ ਵੱਲ ਵੱਧ ਰਹੇ ਹਨ। Vendors ਜਿਵੇਂ Marvell ਮੁਕਾਬਲਾ ਜਾਰੀ ਰੱਖਣਗੇ ਕਿ ਕਿੰਨਾ ਕੰਮ ਹਾਰਡਵੇਅਰ ਵਿੱਚ ਓਫਲੋਡ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ (ਇਨਕ੍ਰਿਪਸ਼ਨ, ਟੈਲੀਮੈਟਰੀ, ਵਰਚੁਅਲ ਸਵਿੱਚিং) ਬਿਨਾਂ ਓਪਰੇਸ਼ਨਲ ਜਟਿਲਤਾ ਵਧਾਏ।

CXL ਅਤੇ ਕਾਂਪੋਜ਼ੇਬਲ ਇਨਫ੍ਰਾਸਟਰੱਕਚਰ ਪ੍ਰਯੋਗਿਕ ਹੋ ਰਹੇ ਹਨ

PCIe ਅਤੇ CXL ਕਨੈਕਟੀਵਿਟੀ ਵੱਧ ਕੇ disaggregation ਨੂੰ ਯਥਾਰਥ ਬਣਾਉਣਗੇ: ਮੈਮੋਰੀ ਅਤੇ ਐਕਸਲੇਰੇਟਰਾਂ ਨੂੰ ਪੂਲ ਕਰ ਕੇ racks ਨੂੰ ਹਰ ਵਰਕਲੋਡ ਲਈ "ਕੰਪੋਜ਼" ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਸਿਲਿਕਾਨ ਲਈ ਮੌਕਾ صرف CXL PHY ਨਹੀਂ ਹੈ—ਉਹ ਕੰਟਰੋਲਰ, ਸਵਿੱਚਿੰਗ ਅਤੇ ਫਰਮਵੇਅਰ ਵੀ ਹਨ ਜੋ ਪੂਲ ਕੀਤੇ ਸਰੋਤਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ, ਸੁਰੱਖਿਅਤ ਅਤੇ ਨਿਰੀਖਣਯੋਗ ਬਣਾਉਂਦੇ ਹਨ।

ਵੱਡੀਆਂ ਪਲੇਟਫ਼ਾਰਮਾਂ ਵਿੱਚ ਹੋਰ ਕਸਟਮ ਸਿਲਿਕਾਨ

ਵੱਡੇ ਪ੍ਰੋਵਾਈਡਰ ਵਧੇਰੇ ਅੰਤਰ-ਗੁਣ ਅਤੇ ਡਾਟਾ-ਨੈਟਿਵ ਇਕਠੇਕਰਨ ਚਾਹੁੰਦੇ ਹਨ। ਅੱਗੇ ਦੇਖੋ ਕਿ ਹੋਰ ਅਰਧ-ਕਸਟਮ ਪ੍ਰੋਗਰਾਮ ਹੋਣਗੇ ਜਿੱਥੇ ਇੱਕ ਮਿਆਰੀ ਬਿਲਡਿੰਗ ਬਲਾਕ (SerDes, Ethernet switching, NVMe) ਨੂੰ ਪਲੇਟਫਾਰਮ-ਬਿਸ਼ੇਸ਼ ਫੀਚਰ, ਡਿਪਲੌਯਮੈਂਟ ਟੂਲਿੰਗ ਅਤੇ ਲੰਬੇ ਸਮਰਥਨ ਵਿੰਡੋ ਨਾਲ ਜੋੜਿਆ ਜਾਵੇਗਾ।

ਅਗਲੇ ਜਨਰੇਸ਼ਨ ਹਿੱਸਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵੇਲੇ ਕੀ ਦੇਖਣਾ

ਪਰਫਾਰਮੈਂਸ ਪ੍ਰਤੀ ਵੱਟ ਸਿਰਲੇਖ ਸ਼ਬਦ ਹੋਵੇਗਾ, ਖ਼ਾਸ ਕਰਕੇ ਜਦੋਂ ਪਾਵਰ ਕੈਪਸ ਵਧਣ ਰੁਕਾਵਟ ਬਣਦੇ ਹਨ। ਸੁਰੱਖਿਆ ਫੀਚਰ ਡੇਟਾ ਪਾਥ ਦੇ ਨੇੜੇ ਆਉਣਗੇ (ਇਨਲਾਈਨ ਇਨਕ੍ਰਿਪਸ਼ਨ, ਸੁਰੱਖਿਅਤ ਬੂਟ, ਐਟੈਸਟੇਸ਼ਨ)। ਆਖਿਰਕਾਰ, ਅਪਗਰੇਡ ਰਾਸਤੇ ਮਹੱਤਵਪੂਰਨ ਹੋਣਗੇ: ਕੀ ਤੁਸੀਂ ਨਵੀਂ ਬੈਂਡਵਿਡਥ, CXL ਸੰਸ਼ੋਧਨ ਜਾਂ ਓਫਲੋਡ ਫੀਚਰ ਬਿਨਾਂ ਪੂਰੇ ਪਲੇਟਫਾਰਮ ਨੂੰ ਮੁੜ-ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਅਪਨਾਇ ਸਕਦੇ ਹੋ?