AMD, RDNA 3 GPU ve XDNA NPU donanımının tüketici odaklı yapay zeka iş yüklerindeki yetenekleri hakkında çarpıcı veriler paylaştı. Bilgisayar platformlarında yapay zeka erişilebilirliğini arttırmayı hedefleyen AMD, rakiplerine üstünlük kurmayı hedefliyor.
Şirket, Ryzen işlemcilerindeki XDNA NPU’lar ile yapay zeka yeteneklerini geniş bir PC kitlesine sunma konusunda öncü konumda. 2023’te Phoenix Ryzen 7040 işlemcilerle tanıtılan ilk NPU, Hawk Point Ryzen 8040 serisiyle güncellendi. RDNA 3 GPU mimarisi de bu iş yüklerini ele alabilen özel yapay zeka çekirdekleri içeriyor ve ROCm yazılım paketiyle gelişimini sürdürüyor.
AMD, “Uzmanlarla Tanışın” webinarında, RDNA 3 serisi gibi Radeon Grafik ürünlerinin oyunculara, içerik üreticilerine ve geliştiricilere sunduğu optimize edilmiş iş yüklerinden bahsetti.
Radeon RX 7000 GPU’larda ve Ryzen 7000/8000 CPU’larda bulunan RDNA 3 grafik mimarisi, bir önceki nesle göre 2 kat daha fazla yapay zeka performansı sunuyor. Bu GPU’lar FP16 iş yükleri için optimize edilmiş 192 adede kadar yapay zeka hızlandırıcısı içeriyor ve Microsoft DirectML, Nod.AI Shark & ROCm gibi birçok ML çerçevesinde optimize edilmiş durumda. Ayrıca, büyük veri kümelerini işlemek için gerekli olan geniş özel VRAM havuzlarına (48 GB’a kadar) ve Infinity Cache teknolojisiyle artırılmış daha hızlı bant genişliğine sahipler.
AMD’ye göre, PC platformundaki yapay zeka kullanım durumlarının çoğu, çalıştıkları donanımın FP16 işlem ve bellek yeteneklerine bağlı olan LLM’ler ve Difüzyon modellerini içeriyor. SDXL (Difüzyon) gibi belirli modeller işlem gücüyle sınırlı olup yaklaşık 4-16 GB belleğe ihtiyaç duyarken, Llama2-13B ve Mistral-8x 7B gibi modeller bellek ile sınırlı olup 23 GB’a kadar bellek kullanabiliyor.
Şirket, 329 dolarlık Radeon RX 7600 XT ekran kartının bile 16 GB VRAM’e sahip olduğunu ve LM Studio’da Ryzen 7 8700G’ye göre 3.6 kat daha fazla performans sunduğunu belirtiyor. RX 7900 XT ise 8700G’den 8 kata kadar daha hızlı.
AMD ayrıca NVIDIA’nın “Premium AI PC” platformu olarak adlandırdığı GeForce RTX serisiyle de karşılaştırma yapıyor. Her iki seri de benzer destek sunarken, AMD’nin 16 GB GPU’ları 329 dolarlık daha düşük bir fiyat noktasında (RX 7600 XT) satıştayken, NVIDIA’nın en giriş seviyesi 16 GB GPU’su yaklaşık 500 dolardan başlıyor (RTX 4060 Ti 16 GB). AMD, daha önce Intel’in Core Ultra işlemcilerine kıyasla da daha iyi bir değerle daha güçlü yapay zeka performansı sergilemişti.
Webinarda ROCm 6.0’ın ilerlemesi ve Radeon RX 7900 XTX, 7900 XT, 7900 GRE, PRO W7900 ve PRO W7800 gibi tüketici sınıfı donanımlar için açık kaynak yığının nasıl destek aldığı açıklandı. ROCm 6.0, Ubuntu 22.03.3 (Linux) işletim sisteminde hem PyTorch hem de ONNX Runtime ML modellerini ve algoritmalarını destekliyor hatta daha karmaşık modeller için INT8 ekleyerek birlikte çalışabilirliği arttırıyor.
AMD ve ROCm paketi, baskın NVIDIA CUDA & TensorRT yığınına karşı rekabet ederken, Intel de kendi OneAPI AI yığınıyla hızla gelişiyor. PC platformunda yapay zeka iş yükleri söz konusu olduğunda dikkat edilmesi gereken bu üç güç, gelecekte mevcut ve yeni nesil donanımlar için birçok yenilik ve optimizasyon sunacak.
