NVIDIA CEO’su Jensen Huang, Hopper mimarili H100 GPU’nun yanı sıra şirketin veri merkezi için tasarlanan ve özel ARM mimarisine dayanan yeni 144 çekirdekli Grace CPU Superchip‘i tanıttı. Neoverse tabanlı sistem, NVIDIA’nın yeni markalı NVLink-C2C ara bağlantı teknolojisi ile kaynaşmış iki CPU olarak geliyor. Şirket Grace CPU Superchip’in kendi DGX A100 sunucularındaki son nesil 64 çekirdekli AMD EPYC işlemcilerine göre bir SPEC karşılaştırmasında 1.5 kat daha fazla performans ve günümüzün önde gelen sunucu çiplerinin iki katı güç verimliliği sunduğunu iddia ediyor.
NVIDIA, Grace CPU Superchip’in hiper ölçekli hesaplama, veri analitiği ve bilimsel hesaplama gibi çok çeşitli uygulamalar için kullanılacağını bildirdi. Şirket ayrıca Grace’in 2023’ün başlarında piyasaya çıktığında en hızlı işlemci olacağını söylüyor.
Hopper CPU Superchip ARM v9’u ilk destekleyen N2 Perseus platformuna dayanıyor ve PCIe Gen 5.0, DDR5, HBM3 gibi en son bağlantı teknolojilerinin tümünü destekleyen 5nm işlemiyle üretiliyor. Ek olarak NVIDIA, daha önce duyurulan CPU+GPU yongası Grace Hopper Superchip hakkında yeni ayrıntılar paylaştı. Bunun yanında bellek tutarlılığını destekleyen bir kalıptan uca ve yongadan yongaya ara bağlantı olan yeni NVLink-C2C arabirimini duyurdu. NVLink-C2C 25 kata kadar daha fazla enerji verimliliği sağlayabiliyor ve şirketin şu anda kullandığı PCIe 5.0 PHY’lerden 90 kat daha fazla alan verimliliği sunuyor. Ayrıca 900 GB/sn’den daha yüksek veri aktarımını destekliyor.
Grace Hopper Superchip, anakart üzerinde bir CPU ve bir GPU olmak üzere iki farklı çipe sahip. CPU 72 çekirdek taşırken Arm v9’u destekleyen Neoverse tabanlı bir tasarım kullanıyor ve bir Hopper GPU ile bir araya geliyor. Bu iki birim, CPU ve GPU arasında bellek tutarlılığı sağlayan 900 GBps’lik bir NVLink-C2C bağlantısı üzerinden iletişim kuracak; bunlar standart sistemlere göre 30 kat daha fazla bant genişliği geliştirmesi talep edilen LPDDR5X ECC bellek havuzuna aynı anda erişim sağlamakta.
NVIDIA Superchip ile 600 GB’a kadar bellek sunacağını açıkladı. LPDDR5X’in paket başına 64 GB olduğunu biliyoruz. Bu bağlamda 512 GB’a kadar LPDDR5X bellek taşıyan modeller olabilir. Bu arada Hopper GPU’nun tipik olarak 80 GB HBM3 kapasitesi var ve bu da bizi NVIDIA’nın 600 GB rakamına yaklaştırıyor.
NVIDIA Grace CPU Superchip
Bugünkü duyuru Grace Hopper CPU+GPU tasarımına dayanan ancak Hopper GPU yerine ikinci bir CPU paketi kullanan Grace CPU Superchip’i kapsıyor. İki 72 çekirdekli yonga aynı zamanda NVLink-C2C bağlantısı aracılığıyla birbirine bağlanarak 144 çekirdeği bir araya getiriyor. Arm v9 Neoverse tabanlı çip, ek olarak AVX’e benzer şekilde çalışan ve performansı artıran ARM’nin Ölçeklenebilir Vektör Uzantılarını (SVE) destekliyor.
Grace CPU Superchip, hem iki işlemci hem de yerleşik bellek için maksimum 500W’lık güç tüketimine sahip. NVIDIA, ARM tabanlı Grace CPU’nun piyasaya çıktığında rakip CPU’lardan iki kat daha verimli olacağını iddia ediyor. Grace CPU Superchip bellek alt sistemi, CPU’lar için bir ilk olan ve diğer modern veri merkezi işlemcilerinin iki katından fazla olduğu vurgulanan 1 TB/s’ye kadar bant genişliği sağlıyor. 16 paket ile LPDDR5X için teorik maksimum kapasite 1024 GB. Bununla birlikte Grace’in ilk LPDDR5 ECC uygulamasını kullandığı belirtiliyor.
İki Grace CPU yeni NVLink-C2C arayüzü üzerinden iletişim kuruyor. Bu kalıptan kalıba ve yongadan yongaya ara bağlantı, düşük gecikmeli bellek tutarlılığını destekleyerek bağlı cihazların aynı bellek havuzlarında aynı anda çalışmasına olanak tanıyor. NVIDIA, arayüzü enerji ve alan verimliliğine odaklanarak SERDES ve LINK tasarım teknolojilerini kullanarak hazırladı.
Teknoloji devi ayrıca Intel, AMD, ARM, TSMC ve Samsung gibi diğer endüstri öncüleri tarafından desteklenen yeni UCIe yonga ara bağlantı standardını destekleyeceğini duyurdu. Bu standartlaştırılmış kalıptan kalıba ara bağlantı, açık kaynaklı bir tasarıma sahip yongalar arasında iletişim sağlamak, böylece maliyetleri düşürmek ve daha geniş bir doğrulanmış yonga ekosistemini desteklemek için tasarlandı. Sonunda UCIe standardı USB, PCIe ve NVMe gibi diğer bağlantı standartları kadar yaygın ve evrensel olmayı amaçlarken, chiplet bağlantıları için olağanüstü güç ve performans ölçümleri sağlıyor. NVIDIA’nın bu yeni girişimi desteklemesi, teorik olarak NVIDIA markalı CPU’lar görebildiğimiz anlamına geliyor.
NVIDIA, artık hiper ölçekli bilgi işlem, bulut, veri analitiği, HPC ve AI iş yüklerini kapsayan ve genel amaçlı sunucu pazarını etkin bir şekilde hedefleyen Grace CPU Superchip ile hedef pazarlarını genişletiyor. Grace CPU Superchip, şirketin tüm CUDA yığınını destekliyor ve NVIDIA RTX, NVIDIA AI, HPC ve Omniverse dahil olmak üzere tüm uygulamaları çalıştırabiliyor.
