Bir zamanlar devlet araştırma laboratuvarlarındaki yüksek performanslı bilgisayarlarla sınırlı olan hızlandırılmış bilgi işlem çözümleri artık ana akım haline geldi. Bankalar, araba üreticileri, fabrikalar, hastaneler, perakendeciler ve birçok sektörden şirket, artan hesaplama gücü gereksinimlerinin üstesinden gelebilmek için süper bilgisayarları kullanmaya başladı.
Oldukça güçlü olan ve verimli bir şekilde çalışan bu sistemlerde GPU ve CPU da dahil olmak üzere çeşitli donanımlar kullanılmakta. Öyle ki yüksek verimlilik ve veri aktarımı için gelişmiş teknolojiler gerekli. İşte bu noktada devreye giren bir çözüm var. Hızlandırılmış bilgi işlem için ara bağlantılarda altın standart: NVLink.
Bu teknoloji aslında yalnızca yüksek performanslı bilgi işlem sınıfında kullanılmadı. Birden çok ekran kartını birbirine bağlama fikri 1990’ların sonundan beri var olmuştur. Fikir kulağa hoş gelse de, “SLI teknolojisi” hiçbir zaman beklentileri karşılayamadı. Ancak geri adım atmayan NVIDIA, NVLink’i SLI’ın halefi olarak yarattı. Son tüketiciler tarafından oyunlarda kullanılmasa bile bu bağlantı teknikleri birçok süper bilgisayara hayat veriyor.
Birazdan NVLink’in sunduğu imkanlardan bahsedeceğiz. Özetleyecek olursak, yüksek bant genişliği sunan bu bağlantı teknolojisi artık yalnızca iş amaçlı sistemlerde kullanılıyor.
NVLink Nedir?
Hızlandırılmış sistemlerde kullanılan NVLink, GPU’lar ve CPU’lar için gelişmiş bir yazılım protokolü tarafından oluşturulmuş, tipik olarak bir bilgisayar kartına basılmış birden fazla kablo çifti üzerinde çalışan yüksek hızlı bir bağlantı teknolojisidir. İşlemciler, bu teknoloji sayesinde paylaşılan bellek havuzlarından çok hızlı şekilde veri gönderip alabilir.
Şu anda NVLink’in dördüncü nesli kullanımda. Yapılan tüm iyileştirmelerle birlikte ana bilgisayar ve hızlandırılmış işlemciler saniyede 900 gigabayta (GB/sn) varan hızlarda veri aktarımı yapılabiliyor. Bir kıyaslama yapacak olursak, geleneksel x86 sunucularında kullanılan ara bağlantı olan PCIe Gen 5’in ulaştığı bant genişliğinin 7 katından fazla hızlar elde edilebiliyor. NVLink, bit başına yalnızca 1,3 pikojoule tüketen veri aktarımları sayesinde PCIe Gen 5’in enerji verimliliğini 5 kat artırıyor.
NVLink’in Tarihi
İlk olarak NVIDIA P100 GPU ile bir GPU ara bağlantısı olarak sunulan NVLink, her yeni NVIDIA GPU mimarisiyle birlikte ilerleme kaydetti. 2018’de dünyanın en güçlü süper bilgisayarlarından ikisi olan Summit ve Sierra’da kullanılan teknoloji, GPU ve CPU’ları birbirine bağlama görevini üstlendi. Oak Ridge ve Lawrence Livermore Ulusal Laboratuvarlarında kurulan sistemler, ilaç keşfi, doğal afet tahmini ve farklı alanlarda hizmet veriyor.
Veri Aktarım Hızları
2020’de kullanıma sunulan üçüncü nesil NVLink, GPU başına maksimum bant genişliğini ikiye katlayarak 600 GB/sn’ye çıkardı ve her NVIDIA A100 Tensor Core GPU’da bir düzine ara bağlantıyı bir araya getirdi. A100, dünya çapında kurumsal veri merkezlerinde, bulut bilgi işlem hizmetlerinde ve HPC laboratuvarlarında yapay zeka süper bilgisayarlarına güç sağlamakta. Dördüncü nesilde bant genişliği 900 GB/sn’ye çıkarken 18 GPU için destek sağlandı.
| İkinci Nesil | Üçüncü Nesil | Dördüncü Nesil | |
| GPU Başına Bant Genişliği | 300 GB/sn | 600 GB/sn | 900 GB/sn |
| Maksimum GPU Bağlantısı | 6 | 12 | 18 |
| Destekli NVIDIA Mimarisi | NVIDIA Volta mimarisi | NVIDIA Ampere mimarisi | NVIDIA Hopper mimarisi |
SLI Devri Kapandı
Tek sistemde iki aynı model NVIDIA ekran kartı kullanmamıza olan tanıyan SLI teknolojisini hepimiz biliyoruz. Yeşil takım RTX 2070 SUPER, 2080 SUPER ve RTX 2080 Ti modellerinde NVLink‘i destekliyordu. Ancak maliyet ve performans kazançlarını ele aldığımızda ve tabloya genel bir bakış attığımızda, SLI teknolojisinin oyun konusunda mantıksızlık olduğunu her seferinde dile getiriyoruz. NVIDIA, Ampere mimarisine dayalı RTX 3000 serisinde NVLink desteğini yalnızca GeForce RTX 3090 modeline eklemişti.
Sonrasında Ada Lovelace mimarili RTX 4000 serisi ekran kartları piyasaya çıktı. Tahmin edebileceğiniz gibi, kartlarda NVLink konnektörü tamamen kullanımdan kalktı. Bu adım, çoklu GPU desteğinin ve SLI’ın (ayrı bir fiziksel arabirim üzerinden) tamamen ortadan kalktığı anlamına geliyor.
NVIDIA CEO’su Jensen Huang, G/Ç bağlantı arabiriminde farklı bir özellik için yer açtıklarını söylüyor. Yani NVLink arabirimini kullanmak için kaynak ve zaman harcamak istemediler. NVIDIA mühendisleri ayrıca ellerindeki silikon alanından en iyi şekilde yararlandı. Bu bağlamda her bir karış alanın “daha güçlü yapay zeka işlemesi” için kullanıldığı söyleniyor.
NVLink ve SLI Arasındaki Fark
SLI’dan farklı olarak NVLink, altyapı düğümlerinin hiyerarşik olmayan bir şekilde doğrudan bağlandığı yerel bir ağ topolojisi olan mesh ağını kullanıyor. Bu, her şeyi belirli bir düğüm üzerinden yönlendirmek yerine her düğümün bilgi aktarmasını sağlamakta. NVLink, SLI’da olduğu gibi master-slave ilişkisine ihtiyaç duymaz; kurulumdaki bir kart “master” olarak çalışır.
SLI, kare oluşturma işlemini gerçekleştirmek için Alternatif Çerçeve Oluşturma (Alternate Frame Rendering) özelliğini kullanıyordu, yani bağlı her kart farklı kareleri işliyordu. İki GPU’lu bir kurulumda, bir kart çift kareleri işlerken diğeri tek kareleri işliyordu. Bu mantıklı bir çözüm olsa da pratikte iyi çalışmıyordu (çoğunlukla donanım sınırlamaları nedeniyle) ve sinir bozucu takılmalara yol açıyordu.
Daha hızlı görüntü işlemek için NVLink Köprüsü (NVLink Bridge) daha iyi bir çözüm. SLI köprüleri en iyi ihtimalle 2 GB/s bant genişliğine sahipti, ancak NVLink Köprüsü en uç durumlarda 200 GB/s gibi hızlara ulaşıyordu. Bilgi işlem amaçlı geliştirmelerle birlikte bant genişliği söylediğimiz gibi 900 GB/sn’lere kadar çıktı.
160 ve 200 GB/s NVLink köprüleri yalnızca NVIDIA’nın profesyonel sınıf Quadro GPU’larında kullanıldı. Tüketici odaklı GPU’lar için köprüler daha yavaş ancak yine de SLI’a kıyasla kat ve kat daha iyi. İki Titan RTX veya iki adet RTX 2080 Ti ekran kartını 100 GB/sn bant genişliği ile birbirine bağlamak mümkündü.
Çipten Çipe Bağlantı
NVIDIA NVLink-C2C, iki işlemciyi tek bir paket içinde birleştirerek bir süper yonga oluşturmak için kart düzeyinde ara bağlantı sağlayan bir sürüm. Örneğin bulut, kurumsal ve HPC kullanıcıları için enerji tasarruflu performans sunmak üzere tasarlanan NVIDIA Grace CPU Superchip’te iki yonga birbirine bağlanıyor. Grace, bu sayede 144 Arm Neoverse V2 çekirdeğini içinde barındırabiliyor.
NVIDIA NVLink-C2C ayrıca Grace Hopper Superchip’i oluşturmak için bir Grace CPU ve bir Hopper GPU’yu bir araya getiriyor. Böylelikle üst sınıf HPC ve yapay zeka iş yükleri için tasarlanan işlemciler tek bir çözümde bir araya geliyor.
İsviçre Ulusal Bilgi İşlem Merkezi için planlanan bir yapay zeka süper bilgisayarı olan Alps, Grace Hopper’ı ilk kullananlar sistemlerden biri olacak. Süper bilgisayar devreye girdiğinde astrofizikten kuantum kimyasına kadar birçok alanda büyük bilim problemleri üzerinde çalışacak.
Ek olarak NVLink, NVIDIA Hopper, Grace ve Ada Lovelace işlemcileri içeren otomobil üreticileri için güçlü bir çip üzerinde sistemde kullanılmakta. NVIDIA DRIVE Thor, dijital gösterge paneli, bilgi-eğlence, otonom sürüş, park etme ve daha fazlası gibi akıllı işlevleri tek bir mimaride birleştiren bir araç bilgisayarı.
LEGO Bilgisayar Bağlantıları
NVLink ayrıca büyük HPC ve yapay zeka işlerinin üstesinden gelmek için süper sistemler oluşturmaya imkan tanıyor. Örneğin, bir NVIDIA DGX sistemindeki sekiz GPU’nun tümünde bulunan NVLink’ler, NVSwitch yongaları aracılığıyla hızlı ve doğrudan bağlantıları paylaşıyor. Sunucudaki farklı GPU’lar, tek bir sistemin parçası gibi hareket ederek NVLink ağı oluşturuyor.
