NVIDIA'dan yapay zeka altyapısında yeni hamle

NVIDIA, yapay zeka veri merkezlerinin kapasitesini megavat seviyesinden gigavat ölçeğine taşımak amacıyla yeni açık mimari ve altyapı standartlarını duyurdu. Şirket, Vera Rubin sistemlerine ait kabin ve hesaplama tepsisi tasarımlarını açık NVIDIA MGX mimarisi üzerinden Open Compute Project'e (OCP) sunarken, Meta, Google ve Cisco ile yapay zeka ağ teknolojilerine yönelik yeni iş birlikleri açıkladı.

Vera Rubin tasarımları açık mimariye dahil edildi

ABD'nin San Jose kentindeki McEnery Kongre Merkezi'nde düzenlenen OCP Global Summit kapsamında NVIDIA, yeni nesil yapay zeka altyapılarının geliştirilmesini hızlandırmaya yönelik çalışmalarını tanıttı.

Şirket, Vera Rubin sistemlerinin kabin ve hesaplama tepsisi tasarımlarını NVIDIA MGX mimarisi aracılığıyla OCP'ye katkı olarak sundu.

Bu adımın, sistem üreticilerine yeni nesil yapay zeka veri merkezlerini geliştirmek için ortak bir mimari temel sağlaması hedefleniyor.

NVIDIA, açık standartların veri merkezlerinin kurulumu, enerji verimliliği ve sistem güvenilirliği açısından öneminin arttığını belirtti.

MGX 1.2 ile 250 kilovata kadar kabin desteği

NVIDIA, OCP'nin Open DC Initiative girişimi kapsamında sektör ortaklarıyla birlikte üçüncü nesil MGX yapay zeka veri merkezi referans tasarımına katkıda bulundu.

Güncellenen MGX 1.2 standardı, Vera Rubin altyapıları için kabin ölçeğinde sıvı soğutma, birlikte çalışabilir bağlantı sistemleri ve yüksek güçlü yapay zeka donanımlarına yönelik yeni özellikler içeriyor.

Mimaride 5.000 amper kapasiteli sıvı soğutmalı güç dağıtım barası, standartlaştırılmış enerji ve soğutma bağlantıları ile daha yüksek yoğunluklu kabin tasarımları bulunuyor.

MGX 1.2 ayrıca 19 inçlik ekipmanlara doğrudan destek sağlıyor.

Yapılandırılabilir giriş-çıkış bölmeleri, fansız ve sıvı soğutmalı hesaplama tepsileri ile modüler tasarım sayesinde farklı üreticilerin sistemlerinin ortak altyapı üzerinde geliştirilmesi amaçlanıyor.

NVIDIA'ya göre mimari, 250 kilovata kadar güç kapasitesine sahip kabin kurulumlarını destekliyor.

Yeni tasarımın montaj, test, bakım ve saha servis süreçlerini kolaylaştırarak yapay zeka altyapılarının daha hızlı kurulmasına katkı sağlaması hedefleniyor.

Otonom yapay zeka sistemleri için Vera CPU kabin mimarisi

NVIDIA, Vera CPU kabin tasarımına ilişkin teknik özellikleri de açık MGX mimarisi kapsamında paylaştı.

Vera Rubin NVL72, büyük ölçekli yapay zeka modellerinin eğitimi ve çıkarım işlemleri için temel platform olarak konumlandırılırken, Vera CPU kabin mimarisi yapay zeka ajanlarının ihtiyaçlarına yönelik geliştirildi.

Bu mimari; araç çağırma, görevlerin koordinasyonu ve izole ortamlarda kod çalıştırma gibi işlemleri desteklemek üzere tasarlandı.

Böylece yapay zeka ajanlarının uygulamalar, veriler ve hizmetlerle gerçek zamanlı etkileşim kurmasına yönelik özel bir altyapı sunulması amaçlanıyor.

Üçüncü nesil MGX kabin mimarisi üzerine kurulan Vera CPU sistemi, hesaplama, ağ bağlantıları, enerji ve soğutma bileşenlerini ortak bir modüler platformda birleştiriyor.

Meta, Google ve Cisco ile yeni ağ teknolojileri

NVIDIA, zirvede büyük ölçekli bulut hizmeti sağlayıcılarıyla yeni nesil yapay zeka veri merkezleri için tasarım standartları ve elektrik şebekesi dayanıklılığına yönelik ortak çalışmalarını da duyurdu.

Şirket, NVIDIA DSX AI Factory platformu için yeni açık kaynaklı yazılım bileşenlerini kullanıma sundu.

Meta ile yürütülen çalışmalarda NVIDIA Spectrum-X Ethernet SuperNIC ve Spectrum-6 teknolojileri üzerinden açık yapay zeka ağ altyapısının geliştirilmesine yönelik ilerleme açıklandı.

NVIDIA ve Cisco ise 400 gigabit/saniye tabanlı ağ altyapıları için geliştirilen Ultra-Dense Small Form Factor Pluggable (USFP) standardını duyurdu. Şirketler, bu standardı sektörün söz konusu ağlar için geliştirilmiş ilk modülü olarak tanımladı.

Google ile yapılan iş birliği kapsamında da Falcon Transport teknolojisinin gelecekteki NVIDIA ConnectX-10 SuperNIC ve BlueField veri işleme birimlerinde desteklenmesi planlanıyor.

800 voltluk doğru akım altyapısı tanıtıldı

Zirvede Visionbay, Vera Rubin nesli yapay zeka sistemleri için 800 volt doğru akım (DC) kullanan yeni bir veri merkezi tasarımı sundu.

NVIDIA'nın açıklamalarına göre yeni nesil altyapı çalışmaları, yalnızca hesaplama sistemlerini değil, veri merkezlerinin enerji ihtiyacını karşılayan elektrik şebekesini ve kabin ölçeğindeki donanım mimarisini de kapsıyor.

Şirket ayrıca MQD ve MQDB gibi açık sıvı soğutma teknolojilerinin, yapay zeka veri merkezi tasarımlarının ortak endüstri standartlarına dönüştürülmesine katkı sağlamasını hedefliyor.

NVIDIA: Açık altyapı, yapay zeka tesislerinin büyümesinde kritik rol oynuyor

NVIDIA'nın büyük ölçekli bulut ve yüksek performanslı hesaplamadan sorumlu başkan yardımcısı Ian Buck, OCP Global Summit'te yaptığı konuşmada, açık altyapının dünya genelindeki yapay zeka tesislerinin büyütülmesinde giderek daha önemli hale geldiğini belirtti.

NVIDIA, donanım ve yazılım bileşenlerinin birlikte tasarlanmasını açık standartlarla birleştiren yaklaşımının altyapı kurulumlarını hızlandırmayı, enerji verimliliğini artırmayı ve tüketilen watt başına üretilen token miktarını yükseltmeyi amaçladığını bildirdi.

Şirketin OCP'ye sunduğu Vera Rubin ve MGX tasarımlarıyla, yeni nesil yapay zeka veri merkezlerinde farklı üreticilerin birlikte çalışabilir sistemler geliştirmesi ve ortak altyapı bileşenlerinden yararlanması hedefleniyor.