Son dönemin revaçta olan konularından biri şüphesiz yapay zeka. Birkaç sene öncesine kadar kullanıcılardan uzakta gelişimini sürdüren yapay zeka sistemleri artık hepimizin hayatına bir şekilde girmiş durumda. Yazılı komutlarla görsel üreten Midjourney ve DALL-E’yle birlikte, diyalog bazlı olarak çalışan ChatGPT, teknoloji gündeminde çeşitli açılardan kendinden söz ettirmeye devam ediyor. Peki bu ilerleyişin kötüye kullanımı ne kadar mümkün?
Görsel tasarlayabilen, sorulara karşılık verebilen, hatta bunların ötesinde antibiyotik üretip, füzyon reaktörünü yönetebilen yapay zekalara yeni yaygınlaşan farklı bir model ekleniyor: Ses taklidi. Yaklaşık 5, 10 saniyelik ses kaydını dinleyip öğrenerek büyük oranda benzer bir sesle konuşabilen bu sistemler 2023’ün başına kadar deneysel olarak geliştiriliyordu. Günümüzde ise kullanımı olağanüstü bir şekilde artmış durumda, fakat bu yapay zekaların ChatGPT veya Midjourney gibi pek iyi yâd edildiğini söyleyemeyiz.
Washington Post’un yayımladığı yeni bir habere göre, Kanada’da yaşayan 70’li yaşlarındaki bir Ruth Card ve Greg Grace çifti, torunlarından kendisinin hapiste olduğunu ve kefalet parası istediğini söyleyen bir telefon almış. Çift bunu duyar duymaz korku ve heyecanla yakınlarındaki bir bankadan maksimum limiti kullanarak 3000 dolar çektiler, ancak daha fazlasına ihtiyaçları vardı. Bunun için başka bir bankaya giden aileyi tam o esnada bankanın müdürü durdurarak dolandırıldıklarını söyledi. Zira başka bir müşterinin de benzer bir arama aldığı ve bunun sahte olduğunu öğrendiğini açıkladı. Sesin benzerliğiyle olayın gerçekliğini sorgulayamayan Ruth Card ve Greg Grace, durumu “torunumuzla ile konuştuğumuza ikna olmuştuk” diye açıklıyor.
“O an gerçekliği algılamanız neredeyse imkansız”
Ruth Card ve Greg Grace kadar şanslı olmayan farklı bir aile ise Benjamin Perkin’in ebeveynleriydi. Çift bir avukattan, oğullarının araba kazasında ABD’li bir diplomatı öldürerek hapse girdiğini ve yasal masraflar için paraya ihtiyacı olduğunu söyleyen bir telefon aldılar. Çift buna ilk başta inanmasa da avukat olduğunu iddia eden kişi telefonu Benjamin Perkin’e verildiğinde yapay zeka destekli sesin benzerliğine inanarak para yollamayı kabul ettiler: Bitcoin aracılığıyla dolandırıcıya 15.449 dolar gönderdiler ve olayın aslı ortaya çıkınca parayı geri almaları mümkün olmadı.
Ses taklidine dayanan dolandırıcılıklar aslında pek yeni değil. FTC (Federal Ticaret Komisyonu) verilerine göre, geçen yıl insanların arkadaş veya aileden birileri gibi davranan suçlular tarafından dolandırıldığına dair 36.000 raporun 5.100’den fazlasının telefonda gerçekleşmiş. Geçmiş yıllarda bir kişinin sesini taklit etmek teknik anlamda daha karmaşıktı. Buradaki sorun şimdi yapay zeka araçları süreci o kadar kolaylaştırdı ki, hedeflenen kişinin sesini yapay zekaya öğretmek için sosyal medyadan bulunabilen birkaç saniyelik ses bile yeterli.
Öte yandan uzmanlar bu tarz bir dolandırıcılığı dizginlemek için yeterli altyapı ve teknolojinin olmadığını açıkça belirtiyor. Çünkü mağdurların failin tespiti için verebileceği ipucu oldukça sınırlı. Konuyla ilgili sizler ne düşünüyorsunuz?
