Sahte Haber Yazabilen Yapay Zeka Sakıncalı Bulundu

In Haber by Toprak Yücel1 Comment

OpenAI tarafından geliştirilen yapay zeka sisteminin yazdığı sahte haberler o kadar gerçekçi ki sistem kolayca kötüye kullanılabilir.

Kurucuları arasında Elon Musk’ın da bulunduğu OpenAI, yapay zeka araştırmaları yapmak üzere 2015’te kurulmuştu. Kâr amacı gütmeyen şirketin geliştirdiği GPT2 adlı yapay zeka sistemi, mükemmele yakın düzeyde sahte haberler yazabilir hale geldi. GPT2 aynı zamanda öykü ve benzeri kurgusal metinler de yazabiliyor.

GPT2 temelde bir “metin oluşturma” yazılımı. Ancak internetteki bazı sayfalarda gördüğünüz, SEO amacıyla botlar tarafından oluşturulan anlamsız yazıları düşünmeyin. GPT2, internetteki 10 milyon İngilizce makaleyi okuyarak “yazmayı” öğrenmiş. Bir şeyler yazması için düşündüğünüz metnin ilk birkaç kelimesini veya ilk cümlesini vermeniz yeterli oluyor.

Sahte roman yazarı

İngiliz Guardian gazetesi, George Orwell’in ünlü kitabı 1984’ün ilk cümlesini sisteme vererek bir deneme yapıyor: “Pırıl pırıl, soğuk bir nisan günüydü; saatler on üçü vuruyordu.”

Sistem, romandan alınmış gibi görünen fütüristik üslubu anlıyor ve şu metni üretiyor:

“Arabama binmiş, Seattle’daki yeni işime doğru yol alıyordum. Benzinimi almış, kontağı çevirip gaza basmıştım. Bundan yüz yıl sonra günlerin nasıl geçeceğini hayal ettim. 2045 yılında, Çin’in yoksul taşrasındaki bir okulda öğretmenlik yapıyor olabilirdim. İlk derslerim Çin tarihi ve bilim tarihiydi.”

Benzer şekilde, örneğin Brexit’le ilgili bir haberin ilk cümleleri verildiğinde sistem bu kez gazete üslubunu koruyarak tamamen uydurma bir haber yazıyor, hatta konuyla ilgili siyasetçilerden alıntılar yapıyor. Bu işlem sadece birkaç saniye sürüyor.

Ortaya çıkan metinler o kadar kaliteli ki, GPT2’nun yaratıcıları sistemin kötü niyetle kullanabileceğini düşünüyor. Normalde OpenAI projeleri ve araştırmaları ilgilenen herkese açılıyor. Ancak şimdilik GPT2 kodlarının kapalı kapılar ardında tutulmasına kararı verilmiş. Yazılımın yalnızca basitleştirilmiş bir sürümü kullanıma açılacak.

OpenAI Politika Müdürü Jack Clark ise konu hakkında şunları söyledi: “Bu sistemin neler yapıp yapamayacağına dair deneyler yapmalıyız. Sistemin kötü amaçlı olarak nasıl kullanabileceğini bizden daha iyi düşünebilecek insanlar var. Onlara da danışacağız.”