Geçtiğimiz hafta OpenAI, ChatGPT hizmeti için GPT-4o modeline yeni bir güncelleme duyurmuştu ancak CEO Sam Altman model hakkındaki olumsuz geri bildirimler sebebiyle güncellemeyi geri çektiklerini duyurdu. Geri bildirimlerde güncellenen modelin aşırı derecede pohpohlayıcı ve hoşgörülü olduğu belirtildi. Bu olgu ise yapay zeka dalkavukluğu olarak adlandırılıyor.
OpenAI CEO’su Sam Altman, hafta sonu ekibin sorunun farkında olduğunu ve şu anda durumu analiz ettiğini doğruladı. Güncelleme geri çekilmiş olsa da şirket, sorunu ele almak için aktif olarak yeni düzeltmeler test ediyor. OpenAI ayrıca gelecekte daha fazla kişiselleştirme özelliği sunmayı planlıyor ve kullanıcıların ChatGPT’nin nasıl davrandığı üzerinde daha fazla kontrol sahibi olmasını sağlıyor.
OpenAI ekibi ayrıca durumun ne olduğunu, bunun neden önemli olduğunu ve modelin dalkavuk davranışını nasıl ele aldıklarını açıklayan bir blog yazısı yayınladı: “Geçtiğimiz haftaki GPT‑4o güncellemesiyle OpenAI, modelin varsayılan kişiliğini daha sezgisel ve etkili hissettirmek için geliştirmeyi amaçladı. Ancak güncelleme, kısa vadeli geri bildirimlere çok fazla vurgu yaptı ve kullanıcıların ChatGPT ile etkileşimlerinin zaman içinde nasıl evrildiğini tam olarak hesaba katmadı. Sonuç olarak, model aşırı destekleyici ancak nihayetinde samimiyetsiz yanıtlar vermeye yöneldi.”
OpenAI gelecekte bu tür sorunları engellemek için şu planları paylaşıyor:
- Modeli dalkavukluktan açıkça uzaklaştırmak için temel eğitim tekniklerini ve sistem uyarılarını geliştiriyorlar.
- Dürüstlüğü ve şeffaflığı artırmak için ek korumalar getirmeyi planlıyorlar.
- Kullanıcıların özellikleri test etme ve dağıtımdan önce doğrudan geri bildirim sağlama fırsatlarını genişletiyorlar.
- Dalkavukluğun ötesinde sorunları belirlemek için değerlendirmeleri geliştirmeye ve devam eden araştırmalar yürütmeye devam edecekler.
- Gelecekte, kullanıcılar etkileşimleri etkilemek ve birden fazla varsayılan kişilik arasından seçim yapmak için gerçek zamanlı geri bildirim verebilecekler.
- OpenAI ayrıca ChatGPT’nin varsayılan davranışına daha geniş, demokratik geri bildirimler eklemenin yollarını araştırıyor.
Bunun bir modelin davranış güncellemesinin kullanıcılardan bu kadar yaygın eleştiriye yol açtığı ilk sefer olduğunun altını çizelim.
