NVIDIA CEOSu Jensen Huang, GTC'de sahne aldı ve yeni "ekran kartlarını" tanıttı. Aslında tanıttığı şey oyuncu ekran kartı değil, yapay zeka için özel işlemciler oldu. Bunlar seri değil paralel işlemciler, GPU mimarisi uzmanlığına dayanıyor yine, ancak pahalılar, kurumsallar ve yok satıyorlar. Zira küresel bir yarış var şu an ve herkes LLM çalıştıracak altyapı yarışında.
Yeni teknolojiler doğrudan süperbilgisayar ve veri merkezi kurmak için tasarlanmış ve yongalar arasındaki iletişim sorununu aşmaya odaklanmış durumdalar.
Grace CPU ile Blackwell GPU'ları birbirine bağlayıp çok fazla yongayı, belleği tutarlı paylaşacak şekilde bir araya getirmişler. Basitleştirmek gerekirse NVlink ve PCI Express bağlantıları sunan özel anakartlar üzerinde yeni nesil yapay zeka hızlandırıcıları tanıtıldı. NVIDIA bundan sonra süper yapay zeka yarışındaki şirketlere kürekle yonga atacak ve devasa veri merkezleri kurmaları için üretebildiği kadar hızlı ve çok bilgisayar satacak. 5. Nesil NVlink 576 GPU'yu bağlayabiliyor.
Bu bilgisayarlar da yeni nesil işlemcileri daha hızlı ve güçlü geliştirebilecek üretici ve simüle edici yapay zeka modelleri çalıştıracak. TSMC ile de işbirliği yapmışlar. Yani her nesilde katlanan gelişmeler görebiliriz. Bir ilginç nokta da bu anakartlarda şifrelemeli ve güvenlikli ortamlar oluşturacak Secure AI yongası, sistemi kendi içinde sağlam mı diye kontrol edecek yonga gibi ek gereksinimleri de karşılamaları. NVIDIA burada artık yonga değil tam platform satıyor diyebiliriz.
Tek Rack içerisinde Exaflop sistemler de sundular. Bu sayılı bilgisayarın hızı şu an, ancak tek bir sunucu dolabında bunun sunulması bir devrim. Sadece Nvlink yongası bile tek başına optik sistemlere göre 2 kilowat enerji tasarrufu sunuyor.