Meta ve Qualcomm arasında Llama 2’nin Qualcomm Snapdragon yongalarıyla çalışan mobil cihazlarda kullanılmasına izin verecek yeni bir ortaklıktan söz ediliyor. Llama 2’nin üretken yapay zeka uygulamaları ve hizmetleri için geniş dil modelinin yeni nesil versiyonu olduğunu bu noktada not olarak düşelim.
Qualcomm amacın, bu cihazların ChatGPT ve Bing Chat gibi diğer mevcut üretken yapay zeka ürünlerinin kullandığı gibi bulut tabanlı bir hizmete bağlanmalarına gerek kalmadan bu cihazlarda Llama 2 tabanlı uygulamaları ve hizmetleri çalıştırmasına izin vermek olduğunu belirtiyor.
Qualcomm’un belirttiği gibi: “Akıllı telefonlar, PC’ler, VR/AR kulaklıklar ve araçlar gibi cihazlarda Llama 2 gibi üretken yapay zeka modellerini çalıştırma yeteneği, geliştiricilerin bulut maliyetlerinden tasarruf etmesine ve kullanıcılara özel, daha güvenilir ve kişiselleştirilmiş deneyimler sunmasına olanak tanır.”
Qualcomm, bir cihazda Llama 2 gibi büyük dil modellerini çalıştırma yeteneğinin bir dizi avantajı olduğunu söylüyor. Bulut tabanlı geniş dil modelinin kullanmaya kıyasla daha uygun maliyetli olabilir ve çevrimiçi bir hizmete bağlanması gerekmeyeceği için daha iyi performans sunar. Aynı zamanda, cihaz üzerinde bir geniş dil modelinin, yapay zeka hizmetlerinin daha fazla kişiselleştirilmesini sağlayabilir. Ayrıca bir bulut sunucusuna bağlanmaya kıyasla daha güvenli ve özel olabilir.
Şu anda Qualcomm, Snapdragon yongalarını kullanan cihazlarda Llama 2 tabanlı yapay zeka hizmetlerini 2024’te desteklemeye başlamayı planlıyor. Modelin çalışmak için en yeni nesil Qualcomm yongalarına ihtiyaç duyup duymayacağına veya bu tür bir desteğin geriye doğru yapılıp yapılamayacağına dair ise henüz bir açıklama yok.
