8 dk

Marvell ve Bulut Altyapısını Sessizce Güçlendiren Silikon

Marvell'in veri altyapısı silikonunun bulut ağları, depolama ve özel hızlandırmayı nasıl desteklediğini öğrenin—sahne arkasında daha hızlı, daha verimli veri merkezlerini çalıştırır.

Marvell ve Bulut Altyapısını Sessizce Güçlendiren Silikon

Marvell'in Modern Bulut Veri Merkezlerindeki Rolü

Çoğu kişi “bulut” deyince sadece sunucuları düşünür. Oysa gerçek şu ki, bir bulut veri merkezi yüksek hızda veri taşıma, depolama ve koruma için devasa bir sistemdir. Veri altyapısı silikonları, ana CPU’ların yapmasını beklemeyeceğimiz veri yoğun işleri yerine getiren özel çiplerdir.

Marvell bu “araya giren” katmana odaklanır: hesaplamayı ağlara ve depolamaya bağlayan, yaygın veri merkezi görevlerini hızlandıran ve yük altındayken her şeyin öngörülebilir şekilde akmasını sağlayan çipler.

Marvell tipik bir bulut yığınına nerede oturur?

Bir bulut rafını yukarıdan aşağıya hayal ederseniz, Marvell cihazları genellikle şunların içinde yer alır:

  • Sunucunun ağ kenarında, trafiği verimli şekilde gönderip almak için yardımcı olur
  • Anahtarlar ve ağ ekipmanlarında, paketleri doğru yere yönlendirir
  • Depolama yakınında, SSD’ler, depolama ağları ve sunucular arasında veri taşır
  • Önemli ara bağlantılarda, bileşenler arasında hızlı iletişimi mümkün kılar

Bunlar geleneksel anlamda “uygulamalar” veya tek başına “sunucular” değildir—binlerce sunucunun tek bir tutarlı hizmet gibi davranmasını sağlayan donanım yapı taşlarıdır.

Bu işin kullanıcı tarafından neden çoğunlukla görünmez olduğu

Altyapı silikonları işini yaptığında, siz fark etmezsiniz. Sayfalar daha hızlı yüklenir, video daha az tampon yapar ve yedeklemeler zamanında biter—ancak kullanıcı, ağ offload motorunu, depolama denetleyicisini veya switching yapısını görmez. Bu çipler sessizce gecikmeyi azaltır, CPU döngülerini serbest bırakır ve performansı daha tutarlı hale getirir.

Kısa harita: ağ, depolama, hızlandırma

Marvell’in rolü üç ana başlık altında toplanabilir:

  • Ağ: paketleri hızlı ve öngörülebilir şekilde taşımak
  • Depolama: veriyi güvenli şekilde büyük ölçekte okumak/yazmak
  • Hızlandırma: tekrarlayan altyapı görevleri için amaça yönelik hesaplama

Bunlar, bulut servislerinin yüzeyde basit hissetmesini sağlayan “sessiz” silikonlardır.

Neden Bulutlar Özel Altyapı Çiplerine İhtiyaç Duyar?

Bulut uygulamaları “yazılım tanımlı” hissi verse de fiziksel iş hâlâ raflarla dolu sunucularda, switchlerde ve depolamada gerçekleşir. Talep arttıkça, bulutlar her görevi genel amaçlı CPU’lara yükleyerek maliyet ve verimlilik sınırlarına çarpamazlar.

Trafik, CPU boş alanından daha hızlı büyüyor

AI eğitim ve çıkarım işlerindeki veri hacimleri veri merkezinde büyük miktarlarda taşınıyor. Video akışları, yedeklemeler, analizler ve SaaS platformları sürekli arka plan yükü ekliyor. Hesaplama uygun olsa bile, darboğaz genellikle veriyi yeterince hızlı taşıma, filtreleme, şifreleme ve depolama işlerine kayar.

Veri merkezinin içinde doğu–batı trafiği hakim

Çoğu bulut trafiği genel internete hiç değmez. Servisler arası çağrılar, veritabanı okumaları, önbellek güncellemeleri, depolama çoğaltma ve dağıtık AI iş yükleri “doğu–batı” olarak hareket eder. Bu dahili trafik tahmin edilebilir gecikme ve yüksek veri hızı gerektirir; bu da ağ ve depolama donanımlarının veri yoluna yakın daha fazla işlem yapmasını zorunlu kılar.

Verimlilik artık birinci sınıf gereksinim

Güç ve alan sonsuz değil. Bir bulut sağlayıcı paket işleme, şifreleme, sıkıştırma veya depolama checksum’ları gibi işleri adanmış silikona offload edebilirse, CPU daha az genel görevle meşgul olur. Bu şunları iyileştirir:

  • Watt başına performans (aynı enerjiyle daha fazla iş)
  • Sunucu yoğunluğu (raf başına daha kullanılabilir hesaplama)
  • İşletme maliyeti (aynı throughput için daha düşük enerji ve soğutma)

“Tek büyük CPU”dan özel yardımcımlara

Genel amaçlı çekirdekler ekleyerek ölçeklemek yerine, bulut platformları giderek amaça yönelik çipleri—Smart NIC/DPU, switching silikonları, depolama denetleyicileri ve hızlandırıcıları—kullanıyor. Sonuç, iş yükleri daha fazla veri talep etse bile daha hızlı ve daha ucuz çalışan bir buluttur.

Ağ Offload: Smart NIC'ler ve DPU'lar Açıklaması

Bulut sunucuları şaşırtıcı bir süre “altyapı işi” yapmakla meşgul olur; uygulamanızı çalıştırmak yerine paketleri taşımak, incelemek, kaydetmek ve bazen şifrelemek ana CPU tarafından yapılır. Ağ offload, bu görevleri özel donanıma kaydırır; Smart NIC ve DPU’lar (Marvell silikonlu sistemlerde de görüldüğü gibi) bu yüzden modern veri merkezlerinde sıkça kullanılır.

Smart NIC vs DPU (anlaşılır tanımlar)

Bir Smart NIC, temel NIC işlevlerinin ötesinde ek işlem gücü (genellikle Arm çekirdekleri veya programlanabilir lojik) içeren bir ağ kartıdır. Ağ özelliklerini kart üzerinde çalıştırabilir.

Bir DPU (Data Processing Unit) daha ileri gider: sunucu içinde adanmış bir “altyapı bilgisayarı” gibi davranmak üzere tasarlanmıştır. Bir DPU genellikle yüksek performanslı ağ, çoklu CPU çekirdeği, donanım hızlandırıcıları (kriptografi, paket işleme) ve güçlü izolasyon özelliklerini birleştirir, bu sayede veri hareketini ve güvenliği host CPU’ya dayanmadan yönetebilir.

Pratik bir zihinsel model:

  • Smart NIC: NIC ama biraz beyni var.
  • DPU: ağ + güvenlik + telemetri işlerini daha bağımsız yöneten bir altyapı sistemi.

CPU’dan neler offload edilir?

Offload, aksi halde uygulamaların CPU döngülerini çalacak tekrarlayan, yüksek hacimli işleri hedefler. Yaygın örnekler:

  • Ağ veri yolu: sanal anahtarlama, yönlendirme kuralları, encapsulation/decapsulation (örneğin overlay’ler), trafik şekillendirme
  • Güvenlik: TLS/IPsec şifreleme, güvenlik duvarı politika uygulama, mikro-segmentation, secure boot ve attestation
  • Depolama trafik hızlandırma: depolama paketlerini verimli yönlendirme, bazı tasarımlarda ağ üzerinden giden depolamaya yardım etme
  • Telemetri: akış günlükleri, paket örnekleme, sayaçlar, gecikme ölçümleri—hat hızında yakalanır

Neden önemli: öngörülebilir performans ve daha düşük CPU yükü

CPU ağ işlerini “bakım yaparken” yapmak zorunda kaldığında, uygulama performansı trafik zirvelerine, gürültülü komşulara veya güvenlik yükleme patlamalarına göre değişebilir. Offload bunun yerine:

  • CPU çekirdeklerini uygulamalara bırakır (web servisleri, veritabanları, AI boru hatları)
  • Gecikmeyi istikrarlı hale getirir çünkü paket işleme adanmış donanım yollarında olur
  • Host yoğunluğunu artırır: altyapıya harcanan CPU kaynakları azalınca sunucu başına daha fazla faydalı iş yapılır
  • İzolasyonu iyileştirir: altyapı kontrolleri kiracı iş yüklerinden ayrı çalıştırılabilir

DPU sunucuda nerede durur (ve nereye bağlanır)

Fiziksel olarak, DPU’lar genellikle PCIe eklenti kartı veya OCP NIC modülü olarak gelir. Şunlara bağlanırlar:

  • Top-of-rack ağa yüksek hızlı Ethernet bağlantılarıyla
  • Host sunucuya PCIe üzerinden, ağ trafiği için CPU ve bellek ile ağ/giriş-çıkış arasındaki kapı gibi davranır

Kavramsal olarak DPU, ağ ile sunucu arasındaki “trafik polisi” olur—politika, şifreleme ve anahtarlamayı yönetir, böylece host OS ve CPU’lar uygulamaları çalıştırmaya odaklanabilir.

Bulut Ağı İçinde: Ethernet Switching ve Paket İşleme

Bir uygulama açtığınızda veya veriyi buluta taşıdığınızda, isteğiniz genellikle “bir sunucuya” gitmez—binlerce sunucuyu tek bir büyük makine gibi birbirine bağlayan bir Ethernet switch ağı üzerinden gider.

Sunucular arasında veri nasıl hareket eder: ToR ve spine

Çoğu bulut veri merkezi bir “leaf-spine” tasarımı kullanır:

  • Top-of-rack (ToR) / leaf switchler her rafın başında bulunur ve o raftaki sunuculara doğrudan bağlanır.
  • Spine switchler tüm ToR switchlerini birbirine bağlar, böylece herhangi bir sunucu başka bir sunucuya öngörülebilir sayıda hop ile ulaşır.

Bu tasarım yolları kısa ve tutarlı tutar; bu, ölçekte performans için kritiktir.

Neden düşük gecikme ve yüksek throughput önemlidir

İki sayı kullanıcı deneyimini ve maliyeti belirler:

  • Gecikme (bir paketin süresi) etkileşimli iş yüklerini etkiler—API’ler, veritabanları, mikroservisler ve gerçek zamanlı analizler.
  • Throughput (saniye başına ne kadar veri) toplu taşıma işlerini etkiler—depolama çoğaltma, yedeklemeler, akış ve büyük AI veri setleri.

Bulut operatörleri bağlantılar meşgulken bile gecikmeyi sabit tutmayı hedeflerken, aynı zamanda büyük hacimli trafiği taşımaya devam ederler.

Temel işlevler: switching, paket işleme, QoS

Bir Ethernet switch çipi sadece “paketleri iletmek”le kalmaz. Şunları yapmak zorundadır:

  • Hedefleri aramak (MAC, VLANlar ve sıklıkla routing/overlay başlıkları) hat hızında
  • Trafiği tamponlamak ve zamanlamak böylece tıkanıklık kuma yayılmasın
  • QoS (Hizmet Kalitesi) uygulamak, böylece gecikme duyarlı akışlar arka plan transferleri tarafından boğulmasın
  • Operatörlerin performansı ayarlamalarına yardımcı olan telemetri ve tıkanıklık kontrolünü desteklemek

Marvell gibi tedarikçiler bu görevleri çok yüksek hızlarda öngörülebilir şekilde yapmaya odaklanan silikon inşa eder.

“Daha yüksek hızlar”ın sağladıkları

25/100G’den 200/400/800G bağlantılara geçmek sadece sayı oyunu değildir. Daha yüksek hızlar şunları sağlayabilir:

  • Raf başına daha fazla VM ağ aşırı taahhüt edilmeden
  • Daha hızlı depolama erişimi (özellikle ayrıştırılmış veya ağ tabanlı NVMe için)
  • Kısa AI eğitim döngüleri GPU’lara verinin daha tutarlı akması sayesinde

Sonuç, veri merkezi ağının “kablolardan” çok, üstünde çalışan her iş yükü için paylaşılan altyapı gibi hissettirmesidir.

Depolama Silikonu: Denetleyiciler, NVMe ve Veri Koruma

İnsanlar bulut performansını konuştuğunda genellikle CPU ve GPU’ları düşünür. Ancak “hızın” ve güvenilirliğin büyük bir kısmı flash sürücüler ile sunucunun geri kalanı arasındaki depolama silikonunda belirlenir. Bu katman tipik olarak depolama denetleyicisidir—verinin nasıl yazıldığını, okunduğunu, kontrol edildiğini ve kurtarıldığını yöneten amaça yönelik çipler.

Bir depolama denetleyicisi aslında ne yapar

Depolama denetleyicisi kalıcı verinin trafik yöneticisidir. Gelen yazmaları yönetilebilir parçalara böler, sıcak verilerin hızlı dönmesi için okumaları planlar ve bozulmuş bitlerin sessizce bozulmuş dosyalara dönüşmesini önlemek için sürekli bütünlük kontrolleri yapar.

Ayrıca depolamayı ölçekli ve öngörülebilir kılan sıkıcı defter tutma işlerini yönetir: mantıksal blokları fiziksel flash lokasyonlarına eşleme, aşınmayı dengeleme, ve birçok uygulamanın aynı depolama havuzuna yüklenmesi durumunda gecikmeyi sabit tutma.

NVMe: neden her yerde

NVMe (Non-Volatile Memory Express), hızlı flash depolama için tasarlanmış bir protokoldür. Daha az genel maliyet sağlar ve paralel “kuyruklar” destekler—yani aynı anda birçok işlem havada olabilir; bu, binlerce küçük okuma/yazmanın eşzamanlı olduğu bulut iş yüklerine uygundur.

Bulut sağlayıcıları için NVMe sadece zirve throughput değil; yük altındayken tutarlı düşük gecikmedir, bu da uygulamaların duyarlı kalmasını sağlar.

Dahili özellikler: şifreleme, sıkıştırma ve RAID-benzeri koruma

Modern denetleyiciler genellikle CPU döngüsü tüketecek özellikleri donanımda sunar:

  • Şifreleme/deşifre verileri dinamik şekilde korur, performans cezası minimaldir
  • Sıkıştırma daha fazla depolama ve daha az taşıma sağlar (bant genişliği darboğazsa faydalıdır)
  • Parite ve erasure coding yardımı arızalara tolerans ve veri yeniden oluşturmayı hızlandırma sağlar

Depolama performansının uygulama davranışını nasıl değiştirdiği

Depolama izole bir alt sistem değildir—uygulamaların nasıl davrandığını şekillendirir:

  • Veritabanları işlem ve dayanıklı günlükler için hızlı, tutarlı yazılara ihtiyaç duyar
  • Analiz boru hatları büyük veri setlerini okurken kuyruklanma yaşarsa durabilir
  • Yedekleme ve geri yükleme üzerinden iş sürekliliği hale gelir

Kısacası, depolama silikonu ham flash’i güvenilir, yüksek verimli bulut altyapısına dönüştürür.

Bağlantı Temelleri: PCIe ve CXL Basit Anlatım

Own the Source from Day One
Prototipiniz hazır olduğunda kaynak kodu dışa aktararak kontrolü elinizde tutun.

Bulut sağlayıcıları sunucuları yükseltirken yalnızca CPU’ları değiştirmez. CPU’ların ağ kartları, depolama ve hızlandırıcılarla yeniden tasarım gerektirmeden konuşabilmesini sağlayan “bağ dokusu” da gerekir. Bu yüzden PCIe ve CXL gibi standartlar önemlidir: parçaların birlikte çalışmasını sağlar, yükseltmeleri daha az riskli kılar ve veri merkezlerinin öngörülebilir şekilde ölçeklenmesine yardımcı olur.

PCIe: sunucu içindeki yüksek hızlı otoyol

PCIe (Peripheral Component Interconnect Express) NIC’ler, SSD’ler ve depolama denetleyicileri, GPU’lar ve diğer hızlandırıcılar gibi bileşenleri bağlamak için kullanılan ana iç bağlantıdır.

Kullanışlı bir model: PCIe, bir otoyolda daha fazla şerit eklemeye benzer. Yeni PCIe nesilleri şerit başına hız artırır ve daha geniş bağlantılar (x8, x16 vb.) toplam kapasiteyi yükseltir. Bulut operatörleri için bu, hesaplama ile onu besleyen cihazlar arasındaki veri hareket hızını doğrudan etkiler.

Marvell’in altyapı silikonları genellikle bu PCIe bağlantılarından bir uca yerleşir—bir NIC, DPU, depolama denetleyicisi veya switch’e yakın bir bileşende—bu yüzden PCIe yeteneği performans yükseltmeleri için pratik bir sınırlayıcı (veya kolaylaştırıcı) olabilir.

CXL: aynı yolu kullanarak belleği daha verimli paylaşmak

CXL (Compute Express Link), PCIe fiziksel bağlantısını temel alır ama cihazların daha düşük maliyetle bellek benzeri kaynakları paylaşmasına imkân veren yeni yollar ekler. Basitçe söylemek gerekirse, CXL sunucuların belirli dış kaynakları (bellek genişletme veya paylaşılan bellek gibi) yerel bir uzantı gibi kullanmasını kolaylaştırır.

Bulut tasarımı için pratik sonuçlar

Kazanç sadece “daha hızlı” değil. PCIe ve CXL şunları sağlar:

  • Daha esnek sistem tasarımı: hesaplama, ağ ve depolama yapı taşlarını karıştırıp eşleştirme
  • Daha iyi kullanım: örneğin bir sunucuda boşta kalan bellek başka bir sunucuda kullanılabilir
  • Daha düzgün yükseltmeler: yeni kartlar ve denetleyiciler mevcut sunucu ailelerine daha kolay yerleşir

Bağlantı standartları başlıkları süslemese de, bulutların daha hızlı ağ, depolama ve hızlandırmayı benimseme hızını güçlü şekilde şekillendirir.

Özel Hızlandırma: Bulut İş Yükleri İçin Amaça Yönelik Hesaplama

“Özel hızlandırma” her zaman büyük, genel amaçlı bir GPU anlamına gelmez. Çoğunlukla, tekrarlanan bir görevi hızlandıran küçük, özel hesaplama blokları eklemek demektir—böylece CPU’lar uygulamaları çalıştırmaya odaklanır.

“Özel” gerçek anlamı

Bulut iş yükleri çok çeşitlidir: depolama ağırlıklı bir veritabanı düğümü, bir video akış kenar kutusundan veya bir firewall aygıtından farklı darboğazlara sahiptir. Amaça yönelik silikon bu darboğazları doğrudan hedefler—genellikle bir işlevi donanıma taşıyarak daha hızlı, daha tutarlı ve daha az CPU yüküyle çalıştırır.

Gerçekte hissettiğiniz yaygın hızlandırma örnekleri

Veri merkezlerinde sıkça görülen bazı kategoriler:

  • Paket işleme yardımcıları: başlık ayrıştırma, akış yönlendirme, trafik şekillendirme ve politika uygulama hat hızında
  • Güvenlik hızlandırması: kripto (IPsec/TLS), anahtar yönetimi ve inline denetim görevleri
  • Depolama hızlandırması: erasure coding, sıkıştırma, dedupe yardımı, RAID paritesi ve checksum’lar—özellikle throughput ve öngörülebilir gecikme önemli olduğunda
  • Video/medya: transkoding, paketleme ve içerik hazırlama
  • AI çıkarım yardımcıları: her zaman tam eğitim hızlandırıcıları değil—bazen embedding aramaları, önişleme/sonişleme veya model-servis boru hatları için küçük motorlar

Şirketler çipleri iş yüklerine nasıl uyarlıyor

Büyük bulut ekipleri genellikle profil çıkarmayla başlar: isteklerin nerede takıldığı ve hangi görevlerin saniyede milyonlarca kez tekrarlandığı belirlenir. Sonra programlanabilir bir motor (daha uyarlanabilir) mı yoksa sabit-işlev bloklar (en yüksek verimlilik) mı kullanılacağına karar verilir. Marvell gibi tedarikçiler genellikle ağ, güvenlik, depolama arabirimleri gibi yapı taşları sağlar, böylece “özel” kısım platformun spesifik sıcak yollarına odaklanabilir.

Takas: watt başına performans vs esneklik

Sabit-işlev hızlandırma genellikle watt başına performans ve deterministiklikte kazanır, fakat iş yükü değişirse tekrar kullanımı zordur. Daha programlanabilir seçenekler evrimleşmesi kolaydır, ancak daha fazla güç tüketebilir ve bazı performansı feda edebilir. En iyi tasarımlar her ikisinin karışımını kullanır: kontrol düzeyinde esneklik ve kritik yollar için donanım hızlı yolları.

Güç ve Verimlilik: Watt Başına Daha Fazla İş Yapmak

Plan the PoC Clearly
Planlama Modu'nu kullanarak herhangi bir kod üretmeden önce özellikleri haritalandırın.

Bir veri merkezinde gerçek sınır genellikle güçtür—alabileceğiniz ve ısıyı uzaklaştırabileceğiniz elektrik miktarı. Tesis güç sınırına ulaşınca büyümenin tek yolu watt başına yapılan faydalı işi artırmaktır.

Neden “offload” enerji tasarrufu sağlar

Genel amaçlı CPU’lar esnektir, ancak paket işleme, şifreleme, depolama protokol işleme veya telemetri gibi tekrarlayan altyapı işleri için her zaman verimli değildir. Amaçlı altyapı silikonları (örneğin Smart NIC/DPU, switch ve depolama denetleyicileri) bu görevleri daha az döngü ve daha az boş iş ile gerçekleştirebilir.

Enerji kazancı genellikle dolaylıdır: offload CPU kullanımını azaltırsa aynı işyükünü daha az aktif CPU çekirdeği, daha düşük saat hızları veya daha az sunucu ile çalıştırabilirsiniz. Bu aynı zamanda bellek baskısını ve PCIe trafiğini azaltarak ek güç tasarrufu sağlar.

Soğutma ve alan da çip seçiminin parçasıdır

Her watt ısı üretir. Daha fazla ısı daha hızlı fanlar, daha yüksek soğutma akışı ve daha sıkı raf planlaması anlamına gelir. Yüksek yoğunluklu raflar cazip olabilir, ancak onları tutarlı şekilde soğutabiliyorsanız. Bu yüzden bir bileşenin güç tüketimi ve yüksek yük altındaki verimliliği yalnızca ham throughput açısından değil, aynı zamanda raf başına daha fazla kapasite sığdırma açısından da önemlidir.

Verimlilik iddialarını nasıl değerlendirmeli

“Watt başına daha iyi performans” görmek kolaydır ama karşılaştırmak zordur. Şunlara bakın:

  • Ölçüm bağlamı: throughput, gecikme hedefleri, paket boyutları ve etkin özellikler (ör. şifreleme açık/kapalı)
  • Sistem sınırı: sadece çip gücü vs. tam kart vs. tam sunucu etkisi
  • Yük eğrisi davranışı: tipik kullanımda (örn. %20–40) verimlilik tepe değerinden önemli olabilir
  • Benzer koşullar: aynı işyükü, aynı CPU nesli, benzer NIC/switch yapılandırması

En güvenilir iddialar watt’ı belirli, tekrarlanabilir bir işyüküne bağlar ve değişimin sunucu veya raf seviyesinde ne olduğunu gösterir—sadece teknik özellik sayfasında değil.

Altyapı Silikonuna Yerleşik Güvenlik ve Güvenilirlik Özellikleri

Bulut sağlayıcıları aynı fiziksel makineleri birçok müşteriyle paylaşır, bu yüzden güvenlik “sonradan eklenemez.” Bunun büyük kısmı çip seviyesinde uygulanır—smart NIC/DPU, bulut ağ çipleri, Ethernet switching silikonları ve veri merkezi depolama denetleyicilerinde—burada donanım offload’u tam hat hızında koruma uygulayabilir.

Donanım kökeni ve secure boot (sadece güvenilen kod çalışsın zinciri)

Çoğu altyapı silikonu bir donanım root of trust içerir: küçük, değiştirilemez mantık ve anahtarlar seti ki firmware başlamadan önce doğrulama yapar. Secure boot ile çip firmware’in kriptografik imzalarını kontrol eder (ve bazen host’un boot bileşenlerini) ve değiştirilmiş veya tanınmayan kodu çalıştırmayı reddeder.

Bu önemlidir çünkü ele geçirilmiş bir DPU veya depolama denetleyicisi sunucular ile ağ/depolama kumaşı arasında “ara”da kalabilir. Secure boot bu katmandaki gizli kalıcılık riskini azaltır.

Veri geçişi ve saklama için inline şifreleme

Şifreleme genellikle doğrudan silikonda hızlandırılır, böylece CPU zamanını çalmaz:

  • Veri transitte: DPU ve Smart NIC’ler IPsec/TLS benzeri işlemleri ve anahtar yönetimini offload ederek yüksek throughput’u koruyabilir.
  • Veri saklamada: depolama silikonu yazma sırasında inline şifreleme yapabilir ve okurken deşifre eder, NVMe yollarıyla entegrasyonu host CPU’yu yormadan sağlar.

Inline olduğunda, güvenlik yavaşlama anlamına gelmemek zorunda değildir.

Paylaşılan altyapıda tenant izolasyonu

Çok kiracılı bulutlar sıkı ayrım gerektirir. Altyapı çipleri donanım kuyrukları, bellek koruması, sanal fonksiyonlar ve politika uygulama ile izolasyonu zorlayabilir—böylece bir kiracının trafiği veya depolama istekleri başka bir kiracınınkini göremez. Bu özellikle DPUs’un sanal ağları yönettiği ve PCIe cihazlarının farklı iş yükleri arasında paylaşıldığı durumda önemlidir.

Sorunları daha erken ortaya çıkaran gözlemlenebilirlik özellikleri

Güvenilirlik sadece “arıza yok” demek değildir—aynı zamanda daha hızlı tespit ve kurtarma demektir. Birçok veri altyapısı silikonu tasarımı telemetri sayaçları, hata raporlama, paket izleme kancaları ve bulut ekiplerinin izleme sistemlerine besleyebileceği sağlık metrikleri içerir. Bir şey ters gittiğinde (droplar, gecikme sıçramaları, link hataları, yeniden deneme fırtınaları), bu yerleşik sinyaller sorunun Ethernet switching mi, DPU mu yoksa depolama denetleyicisi mi olduğunu bulmayı hızlandırır—çözüm süresini kısaltır ve genel altyapı çalışma süresini artırır.

Uçtan Uca Örnek: Bir Bulut İsteği Nasıl Hızlanır

Basit bir eylemi hayal edin: alışveriş uygulamasını açıp “Sipariş geçmişini görüntüle”ye dokundunuz. Bu tek istek birden fazla sistemden geçer—ve her adım gecikme için bir fırsattır.

Adım adım: istek → veritabanı → yanıt

  1. İsteğiniz bulut kenarına ve yük dengeleyiciye ulaşır. Paket sağlıklı bir uygulama sunucusuna yönlendirilir.

  2. Uygulama hostuna gelir. Geleneksel olarak host CPU birçok “tesisat” işini yapar: şifreleme, güvenlik duvarı kuralları, sanal ağ ve kuyruk yönetimi.

  3. Uygulama bir veritabanını sorgular. Bu sorgu veri merkezi ağı üzerinden bir veritabanı kümesine gitmeli, sonra depolamadan veri çekmelidir.

  4. Yanıt aynı yoldan geri döner. Sonuçlar paketlenir, şifrelenir ve telefonunuza gönderilir.

Gecikmenin sızdığı yerler

  • Ağ atlayışları ve paket işleme: her atlayış mikro gecikmeler ekler; ancak daha büyük maliyet paket başına iş olabilir—yönlendirme kararları, tünel encapsulation, ACL kontrolleri.
  • Depolama I/O: hızlı NVMe olsa bile, kuyruklar dolduğunda, metadata verimsiz işlendiğinde veya depolama yolu CPU döngüsü harcadığında gecikmeler görünür.
  • CPU içerme: aynı CPU çekirdekleri hem uygulamayı hem de altyapı görevlerini çalıştırıyorsa, patlamalı trafik “gürültülü komşu” etkileri yaratabilir.

Offload ve hızlandırma darboğazları nasıl kaldırır

Smart NIC/DPU ve Marvell gibi tedarikçilerin altyapı silikonları tekrarlanan işleri genel amaçlı CPU’lardan uzaklaştırır:

  • Ağ offload tünelleme, anahtarlama/yönlendirme ve politika uygulamayı hattın daha yakınında halleder.
  • Kripto hızlandırma TLS/IPsec maliyetini düşürür, böylece şifreleme uygulama döngülerini çalmaz.
  • Depolama hızlandırma NVMe kuyruk yönetimini, RAID/veri koruma görevlerini geliştirir ve host’u ağır I/O defter tutmasından kurtarır.

Gerçekte ne iyileşir

  • Daha düşük kuyruk uç gecikmesi: trafik zirvelerinde nadir ama acı verici yavaş isteklerin sayısı azalır.
  • Daha yüksek throughput: CPU’lar uygulama mantığına odaklandığı için sunucu başına daha fazla istek servis edilir.
  • Daha iyi tutarlılık: altyapı işleri izole ve öngörülebilir olduğu için performans daha sabit olur.

Bulut Ekipleri Altyapı Silikonunu Nasıl Seçer

Create a Work-Per-Watt Calculator
Kendi girdilerinizle CPU ve offload maliyetlerini karşılaştıracak küçük bir servis oluşturun.

Bulut operatörleri altyapı çiplerini soyut olarak “daha hızlı” diye seçmezler—büyük, tekrarlayan ve adanmış donanıma dönüştürülmeye değer işler olduğunda seçerler. Uzmanlaşmış silikon en çok ölçekte değerlidir (milyonlarca benzer istek), performans ihtiyaçları öngörülebilir olduğunda (sabit trafik desenleri, bilinen protokoller) ve küçük verimlilik kazançlarının filolar boyunca gerçek tasarrufa dönüştüğü durumlarda.

Önce iş yükü, datasheet değil

Ekipler genellikle en büyük darboğazlarını belirler: ağ yolunda paket işleme ve güvenlik, I/O yolunda depolama çevirisi ve veri koruma, veya hızlandırma bloklarında sıkıştırma/kripto/AI primitifleri. Kritik soru, işi offload etmenin yazılım modelini bozup bozmayacağıdır. Platformunuz belirli Linux özelliklerine, sanal anahtarlama davranışına veya depolama semantiğine dayanıyorsa, çip bu varsayımlara uymalıdır.

Satıcılara sormanız gerekenler (PoC öncesi)

Açık olun diye sorun:

  • Silikon bugün hangi iş yükleri için optimize edilmiş (ve hangi işler için değil)
  • Yol haritası stabilitesi: nesil/board uyumluluğu, firmware destek pencereleri ve özellik teslim takvimi
  • Uyumluluk: sürücüler, hypervisor desteği, Kubernetes/CNI entegrasyonları ve gözlemlenebilirlik kancaları
  • Tedarik ve yaşam döngüsü: teslim süreleri, ikincil kaynak stratejisi ve uzun dönem bulunabilirlik

Ekipler seçenekleri nasıl değerlendirir

Benchmarklar önemlidir ama sadece üretimi yansıtıyorsa faydalıdır: gerçek paket karışımları, gerçek depolama kuyruk derinlikleri ve gerçekçi kiracı izolasyonu. Güç, tepe throughput yerine “watt başına iş” olarak değerlendirilir—özellikle raflar güç limiti altındaysa.

Entegrasyon çabası genellikle belirleyici olur. Teorik olarak %10 daha iyi bir çip, ölçeklenebilir şekilde sağlamak/izlemek/güncellemek zor ise kaybedebilir.

Kilitlenmeden kaçınma

Bulut ekipleri riski azaltmak için standartları (Ethernet, NVMe, PCIe/CXL), iyi belgelenmiş API’ları ve birlikte çalışabilir yönetim araçlarını tercih eder. Marvell ve diğer tedarikçilerin özellikleri kullanıldığında bile, üst seviye kontrol düzeylerini taşınabilir tutmaya çalışırlar ki donanım gelişse bile platformu baştan yazmak zorunda kalmasınlar.

Aynı ilke yazılım tarafında da geçerlidir: bu altyapıda sonunda çalışacak hizmetleri inşa ederken mimarileri taşınabilir tutmak yardımcı olur. Platformlar gibi Koder.ai prototipleme ve yineleme işini hızlandırabilir—Go + PostgreSQL arka uçları ve React ön yüzleri için sohbet odaklı iş akışı sunarak, ekiplerin kaynak kodu dışa aktarmasına ve kendi bulutları ve uyumluluk gereksinimleri doğrultusunda dağıtmasına izin verir.

Veri Altyapı Silikonunda Sırada Ne Var?

Bulut altyapı silikonu “iyi olurdu” seviyesinden temel tesis haline kayıyor. Daha fazla servis gecikme duyarlı hale geldikçe (AI çıkarımı, gerçek zamanlı analiz, güvenlik incelemesi), ağ, depolama ve veri hareketini verimli şekilde yöneten çipler CPU’lar kadar önemli olacak.

Daha yüksek bant genişliği varsayılan hale geliyor

Daha yüksek bant genişliği artık özel bir katman değil—beklenti. Bu, Ethernet switching, paket işleme ve DPU/Smart NIC’leri daha hızlı portlara, daha düşük gecikmeye ve daha iyi tıkanıklık kontrolüne doğru iter. Marvell gibi tedarikçiler donanıma hangi işleri (şifreleme, telemetri, sanal anahtarlama) ne kadar kaydırabilecekleri konusunda rekabet etmeye devam edecek.

CXL ve kompozit altyapı pratik oluyor

PCIe ve CXL bağlantıları, belleği ve hızlandırıcıları havuzlayıp rafları iş yüküne göre “compose” edilebilir hale getirecek. Silikon fırsatı sadece CXL PHY değil—havuzlanmış kaynakları öngörülebilir, güvenli ve gözlemlenebilir kılan denetleyiciler, switching ve firmware olacak.

Büyük platformlarda daha fazla özel silikon

Büyük sağlayıcılar farklılaşma ve daha sıkı entegrasyon istiyor. Ethernet switching, veri merkezi depolama denetleyicileri ve özel hızlandırma arasında daha fazla yarı-özel program bekleyin; standart bir yapı taşı (SerDes, Ethernet switching, NVMe) platforma özgü özellikler, dağıtım araçları ve uzun destek pencereleriyle eşleştirilecek.

Yeni nesil parçaları değerlendirirken nelere bakmalı

Güç başına performans başlık metriği olmaya devam edecek, özellikle güç kısıtları genişlemeyi sınırladığında. Güvenlik özellikleri veri yoluna daha da yakınlaşacak (inline şifreleme, secure boot, attestation). Son olarak, yükseltme yolları önemli olacak: yeni bant genişliği, CXL revizyonları veya offload özelliklerini tüm platformu yeniden tasarlamadan veya mevcut raflarla uyumluluğu bozmeden benimseyebilir misiniz?

SSS

What does Marvell actually do in a modern cloud data center?

Marvell ağırlıklı olarak bulut veri merkezlerinde “veri yolu” katmanını hedefler: ağ (NIC/DPU, switch silikonları), depolama denetleyicileri (NVMe ve ilgili işlevler) ve özel hızlandırma blokları (kriptografi, paket işleme, sıkıştırma, telemetri). Amaç, ana CPU döngülerini yakmadan veriyi ölçekli şekilde taşımak, korumak ve yönetmektir.

Why do cloud providers need specialized infrastructure chips instead of just more CPUs?

Genel amaçlı CPU’lar esnektir ama paket işleme, şifreleme ve depolama protokolü işleme gibi tekrarlayan, yüksek hacimli altyapı işleri için verimsizdir. Bu görevlerin özel silikonla offload edilmesi şunları iyileştirir:

  • Performans tutarlılığı (daha düşük kuyruk uç gecikmesi)
  • Verimlilik (watt başına daha iyi performans)
  • Sunucu kullanımı (uygulamalar için daha fazla CPU kalır)
What’s the difference between a Smart NIC and a DPU?

Bir Smart NIC, temel gönder/al alma işlevlerinin ötesinde iş yapan bir ağ arayüz kartıdır. Genellikle Arm çekirdekleri veya programlanabilir lojik barındırır ve ağ özelliklerini kart üzerinde çalıştırabilir.

Bir DPU (Data Processing Unit) bir adım daha gider: sunucu içinde “altyapı bilgisayarı” gibi davranmak üzere tasarlanmıştır. Yüksek performanslı ağ, çoklu CPU çekirdekleri, donanım hızlandırıcıları (kriptografi, paket işleme) ve güçlü izolasyon özelliklerini birleştirir, böylece veri hareketini ve güvenliği ana CPU’ya yaslanmadan yönetebilir.

Pratik bir zihinsel model:

  • Smart NIC: biraz zekâya sahip bir NIC.
  • DPU: ağ + güvenlik + telemetriyi daha bağımsız yöneten bir altyapı sistemi.
What kinds of tasks get offloaded from the CPU in cloud servers?

Yaygın offload hedefleri şunları içerir:

  • Sanal anahtarlama ve overlay’ler (encap/decap, akış yönlendirme)
  • Güvenlik işleme (TLS/IPsec kripto, güvenlik duvarı/ACL uygulama)
  • Hat hızında telemetri (sayacı, akış günlükleri, paket örnekleme)
  • Depolama trafik yönlendirme (depolama ağ üzerinden gidiyorsa)

Bunlar CPU üzerindeki yükü azaltır ve yük altındayken gecikmeyi istikrarlı hale getirir.

What is east–west traffic, and why does it matter for infrastructure silicon?

İçerideki trafik çoğunlukla veri merkezi içinde “doğu–batı” trafiğidir: servisler arası çağrılar, depolama çoğaltma, veritabanı/önbellek trafiği ve dağıtık AI işleridir. Bu dahili trafik tahmin edilebilir gecikme ve yüksek verim gerektirir; bu da performansı tutarlı tutmak için daha fazla işin NIC/DPU ve switch silikonuna kaydırılmasını gerektirir.

How do Ethernet switches (ToR and spine) affect cloud performance?

Çoğu hiperskala veri merkezi leaf-spine (ToR + spine) topolojisini kullanır:

  • Top-of-rack (leaf) switchler her rafın sunucularına doğrudan bağlanır.
  • Spine switchler leaf switchleri birbirine bağlar, böylece herhangi bir sunucu diğerine az ve sabit sayıda atlayışla ulaşır.

Switch silikonunun paketleri iletmesi, patlamaları tamponlaması, QoS uygulaması ve telemetri sağlaması gerekir—hat hızında.

What does a storage controller do, and why is it important in the cloud?

Bir depolama denetleyicisi, flash ile sistemin geri kalanı arasındaki kat yöneticisidir. Depolamayı hızlı ve güvenilir yapan işleri yapar:

  • Mantıksal blokların fiziksel flash konumlarına eşlenmesi (FTL)
  • Okuma/yazma planlaması ve kuyruk yönetimi
  • Bütünlük kontrolleri (checksum, hata yönetimi)
  • Aşınma dengeleme ve dayanıklılık yönetimi

Birçok denetleyici ayrıca şifreleme, sıkıştırma ve parite/erasure coding yardımı gibi özellikleri hızlandırarak depolamanın host CPU’yu tekelleştirmesini engeller.

Why is NVMe so common in cloud storage designs?

NVMe, flash için düşük genel maliyet ve yüksek paralellik (çoklu kuyruklar, birçok eşzamanlı işlem) sağlayacak şekilde tasarlanmıştır. Bulut ortamlarında kazanç genellikle tepe throughput’dan çok yük altındayken tutarlı düşük gecikmedir—binlerce küçük I/O aynı anda paylaşılan depolamaya geldiğinde bu önemlidir.

In plain English, what do PCIe and CXL change for cloud server design?

PCIe, NIC’ler, DPU’lar, SSD’ler, GPU’lar ve hızlandırıcıları bağlamak için kullanılan iç yüksek hızlı bağlantıdır. CXL ise aynı fiziksel katmanı kullanır ama cihazların bellek-benzeri kaynakları daha düşük maliyetle paylaşmasını sağlar.

Pratikte PCIe/CXL:

  • Sunucu nesilleri arasında drop-in yükseltmeler sağlar
  • Kompozit tasarımları (bellek/hızlandırıcı havuzlama) mümkün kılar
  • Kullanımı iyileştirir ve kaynak israfını azaltır
How should cloud teams evaluate infrastructure silicon (like DPUs, switches, or storage controllers)?

Altyapı silikonunu değerlendirirken, gerçek iş yüklerine ve operasyonel gereksinimlere bağlı kanıt isteyin:

  • Üretime yakın benchmarklar (paket boyutları, kuyruk derinlikleri, etkin özellikler)
  • Watt başına iş olarak güç ölçümü (sadece tepe değil tipik kullanımda)
  • Yazılım uyumu (sürücüler, hypervisor/Kubernetes entegrasyonları, gözlemlenebilirlik)
  • Yaşam döngüsü ve tedarik (destek süresi, firmware takvimi, bulunabilirlik)

Entegrasyon çabası genellikle ham performans kadar belirleyicidir.

Related posts