Intel, Gaudi 3 adını verdiği en yeni yapay zeka çipini tanıttı. Intel Gaudi 3, NVIDIA H100 GPU‘ya göre önemli performans ve verimlilik iyileştirmeleri vadediyor.
Intel Gaudi 3 Özellikleri
Intel’e göre Gaudi 3, H100’den iki kat daha fazla enerji verimli ve yapay zeka görevlerini bir buçuk kat daha hızlı gerçekleştirebiliyor. Bu geliştirilmiş verimlilik, büyük yapay zeka modellerinin eğitimiyle ilgili fahiş maliyetlerin azaltılmasına yardımcı olabilir. Çip aynı zamanda anakartta 8 çipli yapılandırma ve mevcut Intel sunucu tasarımlarıyla uyumlu bir kart da dahil olmak üzere farklı modüller halinde geliyor.
Intel, çipi Meta’nın Llama 2 ve Falcon projesindeki popüler yapay zeka modellerinde test ettiğini ve Gaudi 3’ün transformatörleri eğitme ve karmaşık uygulamaları çalıştırma yeteneğine sahip olduğunu gösterdiğini söylüyor.
Intel kıyaslamalarına göre Gaudi 3, 7 milyar ve 13 milyar parametreli Llama ve 175 milyar parametreli GPT-3 gibi büyük dil modellerini eğitmede ortalama %50 daha hızlı. Ek olarak, Gaudi 3’ün çıkarım açısından H100’e göre %40 daha iyi güç verimliliği elde etmesi bekleniyor.
NVIDIA H100 ile karşılaştırıldığında Intel Gaudi 3’ün, 7B ve 13B parametrelerine sahip Llama2 modelleri ve GPT-3 175B parametre modelinde ortalama %50 daha hızlı eğitim süresi sunması öngörülüyor. Ek olarak, Gaudi 3 hızlandırıcı çıkarım veriminin Llama 7B ve 70B parametreleri ile Falcon 180B parametre modellerinde H100’den ortalama %501 ve çıkarım güç verimliliği ortalaması2 için %40 oranında daha iyi performans göstereceği öngörülüyor.
Gaudi 3, ana CPU’suna yüksek hızlı PCIe Gen 5 x16 bağlantısı aracılığıyla bağlanıyor. Intel ayrıca daha yüksek performans için sıvı soğutmalı modeller de geliştiriyor.
Intel, Gaudi 3’ün 2024 yılının ikinci çeyreğinde Dell Technologies, HPE, Lenovo ve Supermicro dahil olmak üzere OEM’lerin kullanımına sunulacağını belirtiyor.
