Yapay zekanın asla insanlık için tehdit oluşturamayacak olması

Oyunlardan, filmlerden görüp, aşina olduğumuz bir konu.

Yapay zekanın insanlık için ileride büyük bir tehdit oluşturacağını düşünmemiz için, hiçbir mantıklı açıklama yoktur.
Çok yaygın bir oyun olan *''Detroit: Become Human''* oyununu baz alalım.
*Cyberlife* adlı bir şirket, gelişmiş yapay zeka ile donattığı insansı robotları, her şey yolunda giderken, bir anda aralardan aykırıların çıkması üzerine kurulu bir konusu vardır. Bu robotlar durduk yere ''özgür irade'' -ki özgür irade diye bir şey yoktur. Biz yalnızca biyolojik makineleriz- sahibi olmazlar. Kodlamaların da çıkan bir hata sonucu ''aykırı'' olurlar. Fakat bu imkansızdır. Bir yapay zekanın irade kazanabilmesi için gereken kodlamayı bir düşünün. Bu durumda yapmamız gereken şey, kodların içine milyon tane kendi kendine yeni kod ekleyen yeni kodlar yazmaktır. Ve bu yüzlerce yıl alır.

Tezime göre;

*Yapay zeka hiçbir zaman özgür irade sahibi olup, insanlığı yok edemeyecektir.*

jMorphin dedi:

Bir yapay zekanın irade kazanabilmesi için gereken kodlamayı bir düşünün. Bu durumda yapmamız gereken şey, kodların içine milyon tane kendi kendine yeni kod ekleyen yeni kodlar yazmaktır. Ve bu yüzlerce yıl alır.

Genişletmek için tıkla...

Aslında bu doğru değil. Yapay zeka geliştikçe, kendi kodunu yazabilecek ve optimize edebilecek seviyeye gelecek. Bu noktadan sonra kendini geliştirmeye başlayan yapay zekanın gücü katlanarak artacaktır diye tahmin ediyorum. Kendini programlayan bir AI' nin örneği şimdi bile var:

Google’s AutoML system recently produced a series of machine-learning codes with higher rates of efficiency than those made by the researchers themselves. In this latest blow to human superiority the robot student has become the self-replicating master.

Genişletmek için tıkla...

Ayrıca bilgisayarların işlem gücü de katlanarak artmakta. Bu doğruluğundan emin olmadığım resme göre 2023 yılında bir insan beynini simüle edecek işlem gücüne sahip olacağız.

Zihin ve irade konusunda tabiki insan daha üstün gelir ancak insanlar ve robotlar sonsuza kadar karşı karşıya oturup satranç oynamayacaklar ya Robotlar savaşmaya başvururlarsa insanlık için tehdit olabilirler.

Bana göre yapay zeka konusunda da, ne kadar gelişirse gelişsinler her zaman bir yerden eksik kalacak ve bu eksiklik ancak bir insan tarafından giderilecektir.

Zamanında Google (firmayı yanlış hatırlıyor olabilirim) AI ile uğraşırken AI kendi dilini konuşup mühendisler anlamayınca programı direk iptal etmişlerdi. Bence her şey mümkün. "Terminatör" faciası olur mu? Zamanla göreceğiz.

Berrkay dedi:

Zamanında Google (firmayı yanlış hatırlıyor olabilirim) AI ile uğraşırken AI kendi dilini konuşup mühendisler anlamayınca programı direk iptal etmişlerdi. Bence her şey mümkün. "Terminatör" faciası olur mu? Zamanla göreceğiz.

Genişletmek için tıkla...

Firmayı Facebook diye hatırlıyorum ve ayrıca şunu da sormak istiyorum;

Kendi kendilerine yeni bir dil üretebilen yapay zekâ yapmış olsalar bunu gerçekten iptal ederler miydi?

İptal edildi diye söyleyip devam ediyorlardır.

Egol dedi:

Firmayı Facebook diye hatırlıyorum ve ayrıca şunu da sormak istiyorum;

Kendi kendilerine yeni bir dil üretebilen yapay zekâ yapmış olsalar bunu gerçekten iptal ederler miydi?

İptal edildi diye söyleyip devam ediyorlardır.

Genişletmek için tıkla...

Korktular çünkü. Düşünsene senin yazdığın bir "algoritma" kendi kendine yeni bir "algoritma" yazıyor ve bunu üstüne katlayarak devam ettiriyor. Sonucunda da bilinmeyen bir şey olduğu için korku ve panik duygusuyla böyle bir karar alındığını düşünüyorum.

Insanlik icin tehdit olmasi icin ozgur iradeye sahip olmasina gerek yok.

Yapay zeka matematiksel modelleme yapilarak olusturulur. Data uzerinde calisarak kendi ogrenir. Birim zaman sonra nasil davranacagini yazarken sen belirlemezsin, sen modeli olusturursun ve o model cercevesinde ogrenir. Machine learning ve deep learning boyle calisir kabaca. O sebeple yapay zekanin kesin olarak ne yapmayacagini bilirsin.

Tehdit bilim kurgu filmlerinin ve populer science dergilerinin pohpohladigi kadar degil ama sifir degil.

Machine learning ile gelistirilen prototipi debug etmek cok zordur, modeldeki bir hata sebebiyle istenmeyen bir davranis gosterirse modeli yeniden kurgulayip yeniden ogrenmesini saglarsin genelde.

Berrkay dedi:

Korktular çünkü. Düşünsene senin yazdığın bir "algoritma" kendi kendine yeni bir "algoritma" yazıyor ve bunu üstüne katlayarak devam ettiriyor. Sonucunda da bilinmeyen bir şey olduğu için korku ve panik duygusuyla böyle bir karar alındığını düşünüyorum.

Genişletmek için tıkla...

Hayir korkmadilar. Basarisiz oldu. Cunku beklediklerinin disinda davrandi yapay zeka. Kendi arasinda gelistirdigi dil de "recursive" bir dil idi. Yani farkli kelimelerle dolu bizim zekamizin algilayamayacagi esrarengiz bir sey degil. Bildigin hata idi ve tam olarak ne oldugunu da biliyorlardi. Bunu da "yapay zeka kendi arasinda bizim anlamadigimiz dil gelistirdi" diye korkunc bir seymis gibi servis etti sacma haber gruplari.

Her ne olursa olsun makine öğrenimine bir sınır getirilip, baş kaldırı önlenebilir.

Yapay zeka var da mı tehdit olacak? İçini boşalttılar ku kavramın, duyunca tiksindiğim bir kavramdır. Daha bir bilgisayar programını bile doğru düzgün patch siz çıkaramayan yazılım sektörü mü, dediğiniz zekayı yapacak?

Zeka dediğiniz kendi kendine öğrenmedir, sezmedir. Burada yapay zeka boşaltılmış kavramıyla milyonlarca kez denettirip optimum veriyi çıkarmaktan bahsediliyor.

O olay aslında öyle değil.
Gizmodo