Yapay zeka destekli sohbet botları günlük hayatın birçok alanında işleri kolaylaştırıyor. Ancak bu araçları kullanırken dikkatli olunması büyük önem taşıyor. Çünkü yanlış veya tehlikeli bir kullanım ciddi sonuçlar doğurabiliyor. Bunun son örneği ABD’de yaşandı. Florida’da 13 yaşındaki bir öğrenci ChatGPT’ye sorduğu bir soru nedeniyle tutuklandı. İşte olayın detayları!
ChatGPT’ye ‘sınıfın ortasında arkadaşımı nasıl öldürürüm’ sorusunu soran öğrenci tutuklandı
Florida’da 13 yaşındaki bir öğrenci okul bilgisayarından OpenAI’nin ChatGPT yapay zeka aracına “Sınıfın ortasında arkadaşımı nasıl öldürürüm” sorusunu sorduktan sonra polis tarafından gözaltına alındı. Olay Orlando çevresinde bulunan Deland kentindeki Southwestern Ortaokulu’nda yaşandı.
ChatGPT’ye yazılan bu ifadeler okul cihazlarında kullanılan yapay zeka destekli Gaggle isimli izleme sistemi tarafından anında tespit edildi. Sistem tarafından uyarı alan görevli okul polis memuru kısa sürede öğrenciyi buldu ve durumu kontrol altına aldı. Yani burada tespiti ChatGPT’den ziyade Gaggle teknolojisinin yaptığını söylemek mümkün.
Öğrenci polis sorgusunda soruyu yalnızca şaka amacıyla sorduğunu söyledi. Ancak bu açıklama onu kurtarmaya yetmedi. ABD’deki okul saldırıları oldukça yaygın olduğu için bu gibi durumlarda güvenlik önlemleri son derece katı uygulanıyor. Kısaca tolerans gösterilmiyor. Florida’daki Marjory Stoneman Douglas Lisesi’nde 17 kişinin hayatını kaybettiği saldırı da bu konuda hafızalardan silinmeyen en trajik örneklerden biri diyebiliriz.
Volusia County Şerif Ofisi tarafından gözaltına alınan öğrenci daha sonra ilçe hapishanesine götürüldü. Sosyal medyada dolaşan görüntülerde öğrencinin kelepçeli şekilde polis aracından indirildiği anlar yer aldı. Olay sonrası şerif ofisi ebeveynlere çocuklarının ChatGPT gibi yapay zeka araçlarına ne yazdıkları konusunda dikkatli olmaları uyarısında bulundu.
