Google Haberler'de Takip Et
Norman adındaki yapay zeka, eğitiminde kullanılan görüntüler sebebiyle psikopat oldu.
MIT araştırmacıları, yapay zekanın bazı tehlikelerini göstermek amacıyla Norman adındaki yapay zekanın eğitimi için farklı bir yöntem uyguladı. Norman, yalnızca yaralanan ve ölen insan fotoğrafları gösterilerek eğitildi.
Eğitimden sonra Norman ve standart eğitim verilmiş bir yapay zekaya bazı mürekkep lekeleri gösterildi. Standart yapay zekanın “birbirine yakın duran iki insan” gördüğü lekede, Norman “camdan aşağı atlayan bir adam” gördü.
Bir diğer mürekkep lekesinde ise standart yapay zeka “elinde şemsiye olan bir kişi” gördü. Norman aynı lekeyi “çığlık atan eşi tarafından vurularak öldürülen bir adam” olarak tanımladı.
Yapılan deney, eğitim sürecinin yapay zekayı ne kadar farklı davranışlara yönlendirebileceğini gösteriyor. Yanlış bir şekilde eğitilen yapay zeka, gerçek anlamda bir psikopat olabiliyor. Böyle bir yapay zekaya fotoğraf izlemek ve yazı ile cevap vermek dışında farklı güçler verilirse neler olabileceği merak konusu.
Geçtiğimiz yıllarda Microsoft, Tay adlı yapay zekasını insanlarla etkileşime girmesi amacıyla herkesin iletişim kurabileceği şekilde ayarlamıştı. Ziyaret eden kullanıcıların çoğunluğunun troll olması yüzünden, Tay çok kısa bir sürede ırkçı sözler kullanmaya başlamıştı. Microsoft da Tay’in fişini derhal çekmek zorunda kalmıştı.
