Microsoft, Windows 11’e eklenen yeni agentic yapay zeka özellikleriyle ilgili önemli bir uyarı yayımladı. Şirket bu özelliklerin henüz deneysel olduğunu ve zaman zaman hatalı çıktılar üretebileceğini belirterek kullanıcıların dikkatli olmasını istedi. Yeni yapılandırma seçenekleri Windows 11 Build 26220.7262 sürümünde AI Components altında manuel olarak etkinleştirilebiliyor.
Windows 11 AI’ı hatalı çıktılar verebilir
Microsoft’un Windows 11’i otonom yapay zeka ajanlarıyla güçlendirme süreci, beraberinde güvenlik risklerini de gündeme taşıdı. Şirket deneysel agentic yeteneklerin etkinleştirilmesi durumunda yapay zeka modellerinin beklenmedik çıktılar üretebileceğini açıkça belirtiyor. Windows’un bu özellikleri devreye almadan önce gösterdiği uyarıda, sistem kararlılığının etkilenebileceği de ifade ediliyor.
Güvenlik tarafındaki en kritik başlık ise otonom ajanlara yönelik yeni saldırı tekniklerinin ortaya çıkması. Özellikle cross-prompt injection olarak tanımlanan yöntem, zararlı komutların standart bir belge ya da arayüz öğesi içerisine gizlenmesiyle çalışıyor. Ajanın kendi görevini değil bu gizli komutları takip etmesi sonucunda kötü amaçlı yazılım kurulumu, ödeme bilgilerinin sızdırılması veya dosyalar üzerinde yetkisiz işlemler gibi sonuçlar oluşabiliyor.
Microsoft, bu risklere karşı ajanların Agentic Workspace adı verilen izole bir alanda çalıştığını belirtiyor. Her ajana kapsamı sınırlandırılmış ve denetlenebilir bir hesap atanıyor, yapılan tüm işlemler kayıt altında tutuluyor. Bu yapı Windows Sandbox’a benzetilse de önemli bir fark bulunuyor, Agentic Workspace kalıcı. Yani ajanlar oturumlar arasında çalışmaya devam edebiliyor ve sistemdeki dosyalara erişebiliyor. Bu durum saldırı yüzeyini genişletiyor.
Varsayılan olarak ajanlara Downloads, Desktop, Documents, Pictures, Music ve Videos gibi yaygın klasörlere okuma-yazma izni veriliyor. Bu izinler ajanların görevlerini yerine getirebilmesi için gerekli görülse de gelişmiş saldırı yöntemlerine karşı henüz tam koruma sağlamıyor. Microsoft, daha ince ayarlı yetki yönetimi ve güçlü prompt enjeksiyonu savunmalarının ilerleyen güncellemelerde sisteme dahil edileceğini ifade ediyor.
Agentic özellikler şu anda yalnızca manuel olarak etkinleştirilebiliyor ve kullanıcı kontrolünde çalışıyor. Microsoft’un uyarısı ise net. Deneysel yapay zeka ajanları beklenmedik çıktılar üretebilir ve güvenlik açısından daha sıkı önlemler alınana kadar dikkatli kullanılması gerekiyor.
