Anasayfa CES CES 2024 Yerel Yapay Zekanın Bugünü ve Geleceği: CES 2024’ten Gözlemler

Yerel Yapay Zekanın Bugünü ve Geleceği: CES 2024’ten Gözlemler

CES 2024 fuarı en büyük tüketici elektroniği fuarı, doğal olarak da neredeyse her markayı ve modeli burada bulmak mümkün. Ancak fuarın kendisini incelediğimizde, sergilenen ürün ve tanıtılan hizmetlerin ötesinde ortaya bazı ortak noktalar çıkmaya başlıyor. Bunlar mevcut trendler nedir, teknoloji nereden geldi ve nereye gidiyor bize bunun hikayesini anlatıyor.

Yerel Yapay Zeka: Local’de Çalışan LLM

Örneğin CES 2024 standlarında laptop modellerine baktıkça gördüğümüz önemli bir ortak nokta yerel yapay zeka uygulamaları oldu. Uzakta, sunucuda 15 saniye alan bir görsel oluşturma işlemi, yerel olarak güçlü ve ayrık ekran kartında 4 saniyede tamamlanıyordu. NVIDIA ekran kartlarının hakimiyetinde olan bu güçlü mühendis, tasarımcı ve oyuncu bilgisayarlarında hız, tepkisellik çok yükselmişti. Ayrıca veri güvenliği açısından internet olmadan çalışan yapay zeka uygulamaları isteyenlerin de ilgisini çekecek gelişmeler var.

İşlemci tarafında da özellikle webcam görüntüsü iyileştirmekte ya da kameranın gördüğü nesneleri düşük güç tüketimiyle tanımlama gibi işlerde NPU kullanmak mümkün. Neural Processing Unit dediğimiz bu işlemci birimleri özellikle Intel işlemcilerde çok iyi anlatıldı. Aslında AMD işlemcilerde de var ama Windows Görev Yöneticisi altında bu ayrıca gösterilmemiş. Fuarda AMD yetkililerine, Intel gibi bu yapay zeka birimini Görev Yöneticisi altında göstermelerini tavsiye ettik, bakalım dinleyecekler mi.

Her halükarda harici ekran kartı olmayan sistemler de yeni işlemci alt birimlerinde yerel yapay zeka uygulamalarını, daha doğrusu LLM ile büyük dil modellerini, ChatGPT benzeri uygulamaları internetsiz de çalıştırabilecek hale geldi. İşlemciler bunu ekran kartından daha yavaş ama daha düşük güç tüketimiyle destekliyor, bu da laptoplarda pil ömrünü uzatıyor.

Fuarda genelde ChatGPT tarzında metin bazlı olan demo sayısı kurumsal tarafta ve  NVIDIA standındaydı, ancak laptoplarda görsel oluşturma için Stable Diffusion tarzı uygulamalar, üreticilerin satışa sunacağı sistemlere yüklü gelecek ya da internetten ücretsiz indirilebilecek. Bu da demektir ki görselle işi olanlar çok hızlı taslak görsel üretimi yapıp işlerini hızlandırabilecekler.

Microsoft CoPilot lansmanındaki yetenekleri beğenip “On Premise olacak mı?” diye sormuştuk, yanıt henüz değil olmuştu. Ancak donanım üreticileri beklemeden yerel uygulamaları, donanımın yanında yazılımı 2024’te bize verecek gibi görünüyor.

Diğer trendleri de videomuzda anlattık, CES 2024’ün damıtılmış bazı gözlemleri ilginizi çekiyorsa bir çay ve kahve molasında dinleyebilirsiniz:

Ayrıca fuardan 121 kısa, 1 dakika altı video ve bazı bölümlerin birkaç dakikalık, uzun ve yatay 16:9 çekilmiş videolarını oynatma listemizde izleyebilirsiniz: