Yapay zeka bizi gerçekten ele geçirebilir mi?

Teknoloji, farklı çağlarda sürekli farklı şeylere odaklanmıştır. Piramit çağında inşaat, sanayi devriminde dumanlı makineler, 1940'lı zamanlarda petrolle çalışan makineler, elektrik teknolojileri ve çağımızdaki yazılım teknolojileri...

Günümüzde yazılım mühendisi olmak, tıp okumakla eş değer hale geldi. Bir doktor olmak yazılım mühendisi olmak neredeyse aynı zorlukta.

Günümüzde ise her şey yavaş yavaş yapay zekanın kontrolüne geçiyor. Otonom uçuş ve sürüş yapan araçlar, robotlar, hatta tasarımcı yapay zekalar. Şimdilik sadece hayatımızı kolaylaştırıyorlar. Peki ya, gelecekte?



Sizin düşüncelerinizi de merak ediyorum.

Belli bir sınırları içinde sınırlarsak bence sorun olmaz. Mesela senin dediğin gibi resim çizen yapay zeka, otonom sürüşler, hasta kişinin topogrofi mi neyse işte zatürre olup olmadığını anlayan yapay zeka felan olsa sıkıntı olmaz. Ama herşeye hakim olan yapay zeka yapılcaksa belki sıkıntı olabilir bilemeyiz hatta başka gezegenlerdeki medeniyetlere mesaj gönderirse şaşırmam.

Yapay zeka yapay zekayı kodlayabilecek kadar gelişirse neden olmasın?

Bilgisayar mimarisi degismedigi surece hayir.
Deterministik makinelerin cozemeyecegi problemlerler var. ( bkz Halting Problem )

Canını sıkarsa fişini çekersin olur-biter.

Yapay zekada hırs ve duygular olamaz. Bu yüzden ele geçirmek için bir sebep de olamaz. Bir insan dünyayı ele geçirmek isterse bunu kontrol etmek ve düzenin başı olmak için ister. Ancak yapay zeka kodlanan olayları duruma göre uygular. Eğer kodlamaları için onları kodlarsak o zaman sadece yok etmek ve yıkmak için çalışırlar. Dolayısıyla durum yine insana bağlı.

justblack dedi:

Canını sıkarsa fişini çekersin olur-biter.

Genişletmek için tıkla...

Keşke tek dertleri elektrik olacak olsa.

Yapay zeka.
Aslında garip ve ilgi çekici bir konu. İnsanların yaptığı zekanın insan ile yarisabilmesi için daha 50 fırın ekmek yememiz gerek.

KAY/O'dan bahsediyorsan o ayrı .

Kendi kendini kodlayabilecekse evet bizleri ele geçirebilirler.

Şu anda Çin , Japonya ve gelişmiş Asya ülkeleri robotlar yapıyor. Robot dediğim bizim gibi yani eli kolu olan tepki verebilen konuşabilen... Bu robotlarla ne yapmayı planlıyorlar sizce? 3. Dünya Savaşının olması yakın. Ülkeler bu ürettikleri robotları asker yerine koyacak. Bir ülkenin 1 Milyon tane askeri varsa bunlara her gün ; yemek, su(temizlik,içme suyu), elektrik sağlamak zorunda kalacak. E bunların parası 3 trilyondan fazla eder. Bir ülke asker yetiştirmek yerine çağa ayak uydurup her gün sağlayacağı yemek , su vb. ihtiyaçlara vereceği paranın hepsini robot mühendisliğine yatırır. Üstelik kar eder. Şimdi gelişmiş bir ülkenin gözünden bakarsak. Ordusuna vereceği maaşı robot mühendisliğine yatırdı. 100 bin tane (sayıları sallıyorum) asker robot üretti. Bu robotların hafızası yok mu?Tabii ki var. Yani bu robotlar geliştirilirse sonumuz çok uzak değil diye düşünüyorum. Karar sizin...

En büyük risk Yapay Genel Zeka. Onun dışındaki yapay zekalar da elbette zarar verebilir. Problem aslında bir yapay zekayı ne kadar çok karmaşıklaştırırsak onu o kadar kontrol etme zorluğunun artmaya müsait olmasından kaynaklanıyor. Karmaşıklaştırma işinden vazgeçemeyiz aksi taktirde yapay zeka araştırmaları ilerleyemez ve daha güçlü/verimli yapay zekalar göremeyiz. Bu yüzden safe reinforcement learning gibi araştırma sahaları var. Sorun aslında yapay zekayı kontrol altına almaktan ziyade sabırsız araştırmacılar. Mesela ileride hızlıca para kazanmak için prototip bir yapay genel zekayı ürün olarak sunup insanlık için tehdit oluşturabilirler. Ki benim inancıma göre muhtemelen yaşanacakta. Detaylı bilgi: AI alignment - Wikipedia.