Giderek büyüyen DeepFake tehlikesi

Movansha · 16 Şubat 2025

Selamlar. Günümüzde DeepFake yapay zekayla aynı oranda gelişmeye devam ediyor. Özellikle son günlerde geldiği nokta çok korkunç görünüyor.
İsteyen kişiler Instagram, TikTok vb. profili açık olan birisinin videolarını ve fotoğraflarını kullanarak çok tehlikeli videolar ve fotoğraflar yatarabilir durumdalar ve bu iş çok daha kolay olmaya başlıyor.

DeepFake eğlence, bilgilendirme amaçlı kullanılabilecek bir araç olsa da zararları yararlarından kat kat fazla. Özellikle düşünün; işlemediğiniz çok kötü bir suç, her şey organize edilmiş, videonuz yapılmış ve haberlere çıkmışsınız. Haberiniz yok, aileniz arıyor falan. Bu yaşanabilecek en normal ihtimallerden birisi oluyor mesela. +18 içerikler ve dahası da var.

Sadece bu da değil. İzlediğimiz, gördüğümüz ve dinlediğimiz şeyleri (müzik, videolar, sanat vb.) yapay zeka yapmaya başlarsa o şeyler anlamını ve hissiyatını yitirir duruma geliyorlar. Her şeye yapay zekanın girmemesi gerekiyor.

DeepFake gelişiminin ve kullanımının mümkün olduğu kadar yasaklanması gerektiğini düşünüyorum. Sizin düşünceleriniz nedir?

888498 · 16 Şubat 2025

Movansha dedi:
Selamlar. Günümüzde deepfake yapay zekayla aynı oranda gelişmeye devam ediyor. Özellikle son günlerde geldiği nokta çok korkunç görünüyor.
İsteyen kişiler Instagram, TikTok vb. profili açık olan birisinin videolarını ve fotoğraflarını kullanarak çok tehlikeli videolar ve fotoğraflar yatarabilir durumdalar ve bu iş çok daha kolay olmaya başlıyor.

Deepfake eğlence, bilgilendirme amaçlı kullanılabilecek bir araç olsa da zararları yararlarından kat kat fazla. Özellikle düşünün; işlemediğiniz çok kötü bir suç, her şey organize edilmiş, videonuz yapılmış ve haberlere çıkmışsınız. Haberiniz yok, aileniz arıyor falan. Bu yaşanabilecek en normal ihtimallerden birisi oluyor mesela. +18 içerikler ve dahası da var.

Sadece bu da değil. İzlediğimiz, gördüğümüz ve dinlediğimiz şeyleri (müzik, videolar, sanat vb.) Yapay zeka yapmaya başlarsa o şeyler anlamını ve hissiyatını yitirir duruma geliyorlar. Her şeye yapay zekanın girmemesi gerekiyor.

Deepfake gelişiminin ve kullanımının mümkün olduğu kadar yasaklanması gerektiğini düşünüyorum. Sizin düşünceleriniz nedir?

Deepfake i artık yasaklayamazlar ki. O iş geçeli bence çok oldu. Diyelim deepfake kullanımını yasaklayacak yasa çıkarttın ilk olarak o yasayı her ülke uygulayacak mı? Bir ülkede geçerli olan bir yasa başka ülkede geçerli olmayacak mesela. ABD de deepfake yasaklansa Avrupa'da serbest kalacak örneğin. Diyelim dünya genelinde yasaklandı merdiven altından bu iş devam edecek çünkü deepfake artık internete çoktan yayıldı. İsteyen herkes erişebiliyor. Yasaklansa bile birileri bunu kullanmaya devam edebilir. Yani iş bence artık çok zor. Ama ben ileride yapay zekanın ürettiği şeylerin insan elinden ayırt edebilen bir şeyin de çıkacağını düşünüyorum. Örneğin yapay zekanın ürettiği görsellerin, videoların belki de farklı bir uzantısı olur veya imzası gibi bir şeyi olur.

Barışınız · 16 Şubat 2025

Bir seyleri yasaklayarak cozume ulastiramazsiniz. Aksine insanlarin bir kismini bunu yapmaya tesvik bile edebilirsiniz.
Bunun cozumu esasinda cok da zor degil ancak arastirmalar ve gelistirmelere hala ihtiyac var. Video/fotografin olusturuldugu yapay zeka, her dokuman icin bir ID yaratmali ve bu ID'yi o dokumanin icine gommeli (Bu ID degistirilmeye calistiginda dosya kullanilamaz hale gelip bozulmali. Bu durumda herhangi bir dava durumu oldugunda, hatta olmadiginda bile ulasilabilir bir sekilde bu dokumanin degistirilemez olan ID'sini goruntuleyebilmeli ve yapay zeka tarafindan olusturuldugunu kanitlayabilmeli.

Hali hazirda Google DeepMind arastirmacilari -ben de dahil- yapay zekalarin olusturdugu iceriklerin kanitlanabilirligini arttirmak icin gerekli calismalari yapiyor. Bu biraz zaman alacak, ancak elbet bir gun cozume kavusacaktir.

Movansha · 16 Şubat 2025

888498 dedi:
Deepfake i artık yasaklayamazlar ki. O iş geçeli bence çok oldu. Diyelim deepfake kullanımını yasaklayacak yasa çıkarttın ilk olarak o yasayı her ülke uygulayacak mı? Bir ülkede geçerli olan bir yasa başka ülkede geçerli olmayacak mesela. ABD de deepfake yasaklansa Avrupa'da serbest kalacak örneğin. Diyelim dünya genelinde yasaklandı merdiven altından bu iş devam edecek çünkü deepfake artık internete çoktan yayıldı. İsteyen herkes erişebiliyor. Yasaklansa bile birileri bunu kullanmaya devam edebilir. Yani iş bence artık çok zor. Ama ben ileride yapay zekanın ürettiği şeylerin insan elinden ayırt edebilen bir şeyin de çıkacağını düşünüyorum. Örneğin yapay zekanın ürettiği görsellerin, videoların belki de farklı bir uzantısı olur veya imzası gibi bir şeyi olur.

Farklı bir uzantı olacağını sanmıyorum. İstenildiğinde yine uzantılar değiştirilebilir. Çoktan yayıldı, merdiven altından iş devam edebilir ama minimale indirmek ve her kullanıcının oyuncağı haline getirilmesini engellemek sağlanabilir.

Zorandor · 16 Şubat 2025

Gelişimi durdurmak mümkün değil. Ve gelişimin her zaman kural (ve rahat) yıkan tarafı olur.
Ben mesela, internetin doğduğu zamanları yaşadım. O zaman da aynı şeyler konuşuldu (bugün YZ için ne konuşuluyorsa aynısıydı) fakat bir nesilde çözüldü sorunlar, gençlik uyum gösterdi, radyo gibi TV gibi hayatına dahil etti, hayat devam etti.
Deepfake çok kısa sürede normalleşecek ve hayatın sabiti olacak. Bunun getirisi de hiçbir videoya görür görmez inanmamak olacak ki bu, önceden de böyleydi.
Son kullanıcıya, günlük hayata inen hiçbir şeyi kontrol edemezsin. Bıçak üretirsin onunla adam öldürürler. Hayat biraz da böyle bir şey: işlerlik her şeyi ezer geçer.
+
YZ üretimine kod eklemek gibi fikirler yanlış. Çünkü sahte bir güvenlik hissi yaratır ama pratikte karşılığı yoktur. Senin eklediğin kodu silecek yolu da vermiş oluyorsun çünkü.
Sonuç: kontrol ve güvenlik bir yanılsamadır. Olgunluk ise tehlikeleri ve yanlışı aklınla bulup, kendini korumandır. Ama sen ne kadar dikkatli sürersen sür biri gelip sana çarpabilir.
Buna da kısaca hayat diyoruz.

Movansha · 16 Şubat 2025

Barışınız dedi:
Bir seyleri yasaklayarak cozume ulastiramazsiniz. Aksine insanlarin bir kismini bunu yapmaya tesvik bile edebilirsiniz.
Bunun cozumu esasinda cok da zor degil ancak arastirmalar ve gelistirmelere hala ihtiyac var. Video/fotografin olusturuldugu yapay zeka, her dokuman icin bir ID yaratmali ve bu ID'yi o dokumanin icine gommeli (Bu ID degistirilmeye calistiginda dosya kullanilamaz hale gelip bozulmali. Bu durumda herhangi bir dava durumu oldugunda, hatta olmadiginda bile ulasilabilir bir sekilde bu dokumanin degistirilemez olan ID'sini goruntuleyebilmeli ve yapay zeka tarafindan olusturuldugunu kanitlayabilmeli.

Hali hazirda Google DeepMind arastirmacilari -ben de dahil- yapay zekalarin olusturdugu iceriklerin kanitlanabilirligini arttirmak icin gerekli calismalari yapiyor. Bu biraz zaman alacak, ancak elbet bir gun cozume kavusacaktir.

Böyle bir şey olabilir ve mantıklı görünüyor.
Yeni fikrim: Yasaklanma yerine belirli bir video yapıldığında bu video yalnızca belirli bir uygulama ya da araç ile açılabilir hale getirilebilir. Sizin dediğiniz ID ve benzeri doğrulayıcı mümkün olabilir. Ama buna da bir çözüm bulabilirler gibime geliyor. Zaten kafaya koyan bir grup kendi araçlarını da yapabilir.

Zorandor dedi:
Gelişimi durdurmak mümkün değil. Ve gelişimin her zaman kural (ve rahat) yıkan tarafı olur.
Ben mesela, internetin doğduğu zamanları yaşadım. O zaman da aynı şeyler konuşuldu (bugün YZ için ne konuşuluyorsa aynısıydı) fakat bir nesilde çözüldü sorunlar, gençlik uyum gösterdi, radyo gibi TV gibi hayatına dahil etti, hayat devam etti.
Deepfake çok kısa sürede normalleşecek ve hayatın sabiti olacak. Bunun getirisi de hiçbir videoya görür görmez inanmamak olacak ki bu, önceden de böyleydi.
Son kullanıcıya, günlük hayata inen hiçbir şeyi kontrol edemezsin. Bıçak üretirsin onunla adam öldürürler. Hayat biraz da böyle bir şey: işlerlik her şeyi ezer geçer.
+
YZ üretimine kod eklemek gibi fikirler yanlış. Çünkü sahte bir güvenlik hissi yaratır ama pratikte karşılığı yoktur. Senin eklediğin kodu silecek yolu da vermiş oluyorsun çünkü.
Sonuç: kontrol ve güvenlik bir yanılsamadır. Olgunluk ise tehlikeleri ve yanlışı aklınla bulup, kendini korumandır. Ama sen ne kadar dikkatli sürersen sür biri gelip sana çarpabilir.
Buna da kısaca hayat diyoruz.

Dediğine katılıyorum. Alışma ve uyum süreci olabilir ama asıl sorun şu an bir şeylerin gerçekliğini sorgulayabiliyorken bunun imkansız hale gelmesi. Yapay zeka ile yapılan şeylerin insan elinden çıkmış gibi olması.

Verdiğin güzel örnek: Bir bıçağı günlük olarak mutfağında kullanırsın ama bazıları onu birilerini yaralamak vb. amaçlar için kullanır.
Birisini yaralarsan cezası var, bulunabiliyorsun. Ama DeepFake ile bu durum çıkmaza gidiyor. Birini yaralamak için de sıkıntılı bir kişiliğinin olması gerekiyor ama internette beyin kendisini tamamen özgür hissediyor.

Umarım geliştirici ekipler en kısa zamanda gerçek ve sahte videoları ayırt edecek bambaşka bir teknoloji çıkarırlar, o teknoloji de sosyal medya gibi platformlara entegre edilir ve sahte videoları arındırmaya yardımcı olur da rahatlarız.

Giderek büyüyen DeepFake tehlikesi

Ayrıntılı düzenleme

Movansha

Decapat

888498

Picopat

Barışınız

Kilopat

Movansha

Decapat

Zorandor

Nanopat

Movansha

Decapat

Benzer konular

Bu konuyu görüntüleyen kullanıcılar

Technopat Haberler

Yeni konular

Yeni mesajlar

Gizliliğinize önem veriyoruz