Microsoft’un DirectStorage API’si, Windows ortamındaki oyunlar için GPU’dan SSD’ye olan veri aktarım sürecini iyileştirmek için geliştirildi. Ancak NVIDIA ve ortakları, GPU’ların özel bir API olmadan SSD’lerle sorunsuz çalışmasını sağlamanın bir yolunu buldu. Big Accelerator Memory (BaM) adı verilen yöntem, çeşitli hesaplama görevleri için faydalar sağlamak üzere geliyor ve özellikle büyük veri kümeleri kullanan iş yükleri için daha faydalı olacağı vurgulanıyor.
Modern grafik işleme birimleri yalnızca grafikler için değil; GPU’lar analitik, yapay zeka, makine öğrenimi ve yüksek performanslı bilgi işlem (HPC) gibi çeşitli ağır iş yükleri için de kullanılıyor. Büyük veri kümelerini verimli bir şekilde işlemek için GPU’ların yerel olarak çok büyük miktarlarda pahalı belleğe (HBM2, GDDR6 gibi) veya katı hal depolamaya verimli erişime ihtiyacı var.
Modern hesaplama GPU’ları zaten 80 GB–128 GB HBM2E bellek taşıyabiliyor ve bu yeni nesillerle birlikte genişleyecek. Ancak veri kümesi boyutları da hızla artıyor, bu nedenle GPU’lar ve depolama arasındaki iletişimi optimize etmek önemli.
GPU’lar ve SSD’ler arasındaki verimin iyileştirilmesi için birkaç temel neden var. İlk olarak, NVMe çağrıları ve veri aktarımları, genel performans ve verimlilik açısından verimsiz olan CPU’ya çok fazla yük bindiriyor. İkinci olarak, CPU-GPU senkronizasyonu ek iş yükü getirirken devasa veri kümelerine sahip uygulamaların gerektirdiği etkin depolama bant genişliğini önemli ölçüde sınırlıyor.
NVIDIA, IBM ve Cornell Üniversitesi tarafından ortaya atılan kavramın tanımlaması ise şu şekilde:
“Büyük Hızlandırıcı Belleğin (Big Accelerator Memory) amacı, GPU bellek kapasitesini genişletmek ve etkin depolama erişim bant genişliğini geliştirirken, GPU iş parçacıklarının genişletilmiş bellek hiyerarşisindeki büyük veri yapılarına kolayca isteğe bağlı, ince taneli erişim yapması için üst düzey soyutlamalar sağlamaktır.”
BaM, esasen NVIDIA GPU’nun CPU’yu kullanmadan doğrudan sistem belleğinden ve depolamadan veri almasını sağlıyor. Bu da grafik işlemcilerin kendi kendine yetebilmesi ve daha bağımsız çalışmasına imkan veriyor. NVIDIA’nın belgesinde şu açıklamalar var:
“BaM, GPU iş parçacıklarının hesaplama tarafından belirlendiği üzere, isteğe bağlı olarak küçük miktarlarda veri okumasını veya yazmasını sağlayarak G/Ç trafiği amplifikasyonunu azaltıyor. GPU’larda çalışan BaM altyapı yazılımının, temel depolama cihazlarını tam olarak kullanmak için yeterince yüksek bir oranda ince taneli erişimleri tanımlayabildiğini ve iletebildiğini, tüketici sınıfı SSD’lerde bile bir BaM sisteminin rekabetçi bir uygulama performansını destekleyebileceğini gösteriyoruz.”
NVIDIA BaM teknolojisi, büyük ölçüde GPU’ların geniş bir depolama havuzu elde etmesinin ve bunu CPU’dan bağımsız olarak kullanmanın bir yolu. Sonuç olarak hesaplama hızlandırıcıları bugünkünden çok daha bağımsız hale geliyor.
