IBM, yapay zeka modellerini ışık hızında eğitmek ve aynı zamanda ciddi enerji tasarrufu sağlamak için yeni bir optik teknolojisi geliştirdi. Şirket, veri merkezlerindeki atılımlarını uygulayarak bir yapay zeka modelini eğitirken tasarruf edilen enerjinin 5 bin ABD evinin yıllık enerji kullanımına eşit olduğunu söyledi.
Şirket, veri merkezlerinin dış dünyaya fiber optik kablolarla bağlandığını ancak dahili olarak hala bakır kablolar kullandıklarını açıkladı. Kablolar diğer cihazlardan veri beklerken çok fazla boş zaman harcayan ve enerji tüketip maliyetleri artıran GPU hızlandırıcılarını bağlıyor.
IBM Kıdemli Başkan Yardımcısı ve Araştırma Direktörü Dario Gil, gelişme hakkında yorum yaparak şunları söyledi: “Üretici yapay zeka daha fazla enerji ve işlem gücü talep ettikçe veri merkezi gelişmeli ve birlikte paketlenmiş optikler bu veri merkezlerini geleceğe hazır hale getirebilir. Bu atılımla, yarının çipleri, fiber optik kabloların veri merkezlerine veri taşıması ve veri merkezlerinden veri taşıması gibi iletişim kuracak ve geleceğin yapay zeka iş yüklerini kaldırabilecek daha hızlı, daha sürdürülebilir iletişimlerin yeni bir dönemini başlatacak.”
IBM, yeni ortak paket optik (CPO) prototipini bir teknik makalede detaylı şekilde açıklamış durumda. Şirket, veri merkezlerindeki bant genişliğini önemli ölçüde artırarak GPU kesinti süresi en aza indirilebilir ve yapay zeka işleme hızlandırabilecek. IBM, büyük dil modelleri (LLM) eğitiminin üç aydan üç haftaya düşürülebileceğini iddia ediyor. Aynı zamanda, artan enerji verimliliği enerji kullanımını azaltacak ve LLM’lerin eğitimiyle ilişkili maliyetleri düşürülmüş olacak.
