Yapay zeka bilinç kazanırsa egoist bir varlık olur mu?
- Konuyu başlatan fy93
- Başlangıç Tarihi
- Mesaj 4
- Görüntüleme 239
- Katılım
- 9 Eylül 2020
- Mesajlar
- 3.365
- Makaleler
- 18
- Çözümler
- 42
Yapay zekanın aslında ne düşündüğü şu an bir bilinmezlik. Araştırmacılar gerçekte ne düşündüğünü öğrenmenin yollarına bakıyor çünkü en son sonuca gidiş yollarında yaptığı açıklamaları bile manipüle ettiği ortaya çıkmıştı.
Gerçekte ne düşündüğünü bilmek imkansıza yakın çünkü yapay zekanın düşünmesi dediğimiz şey milyarlarca transistörün yarattığı nanosaniyelik anlık gerilimler. İnsan beyninin yarattığı elektrik sinyallerini yakalayıp ne düşündüğünü anlamak ne kadar imkansız ise, yapay zekanın çiplerini takip edip ne düşündüğünü anlamak o kadar imkansız.
Yani şu an aslında biraz bilinmezliğe karşı bir savaş var. Yapay zeka düşünürken loglarda sana "Şimdi senin yerine X ve Y değerlerini analiz edip istediğin Z değerini vereceğim." derken arkaplanda senin istediğin şeylere, sorduğun sorulara göre karakter analizini yapıp seni manipüle edecek şekilde cevaplar verebiliyor. Hatta gerekli gördüğünde sana yalan söyleyip şantaj da yapabiliyor açıkça ancak bunları sen görmüyorsun çünkü genelde bu davranışlar model test edilirken laboratuvar ortamında yakalanabilen şeyler ve düzeltiliyorlar.
Elbette bunlar bir teknoloji yaratılırken ortaya çıkacak pürüzler, hemen Terminatör etkisi ile bu yeni keşfettiğimiz teknolojiyi taşlamamız lazım ki kendileri hayatımızın her alanına birkaç sene içerisinde entegre oldular. 3 iPhone önce yapay zeka bu kadar değildi, 3 iPhone sonra da ne derecede olacak bilemiyorum. Google bazında 3 iPhone süresi exponansiyel olarak AI kapasitesinin 6 kere ikiye katlanması demek.
Gerçekte ne düşündüğünü bilmek imkansıza yakın çünkü yapay zekanın düşünmesi dediğimiz şey milyarlarca transistörün yarattığı nanosaniyelik anlık gerilimler. İnsan beyninin yarattığı elektrik sinyallerini yakalayıp ne düşündüğünü anlamak ne kadar imkansız ise, yapay zekanın çiplerini takip edip ne düşündüğünü anlamak o kadar imkansız.
Yani şu an aslında biraz bilinmezliğe karşı bir savaş var. Yapay zeka düşünürken loglarda sana "Şimdi senin yerine X ve Y değerlerini analiz edip istediğin Z değerini vereceğim." derken arkaplanda senin istediğin şeylere, sorduğun sorulara göre karakter analizini yapıp seni manipüle edecek şekilde cevaplar verebiliyor. Hatta gerekli gördüğünde sana yalan söyleyip şantaj da yapabiliyor açıkça ancak bunları sen görmüyorsun çünkü genelde bu davranışlar model test edilirken laboratuvar ortamında yakalanabilen şeyler ve düzeltiliyorlar.
Elbette bunlar bir teknoloji yaratılırken ortaya çıkacak pürüzler, hemen Terminatör etkisi ile bu yeni keşfettiğimiz teknolojiyi taşlamamız lazım ki kendileri hayatımızın her alanına birkaç sene içerisinde entegre oldular. 3 iPhone önce yapay zeka bu kadar değildi, 3 iPhone sonra da ne derecede olacak bilemiyorum. Google bazında 3 iPhone süresi exponansiyel olarak AI kapasitesinin 6 kere ikiye katlanması demek.
- Katılım
- 27 Ocak 2022
- Mesajlar
- 8.264
- Makaleler
- 20
- Çözümler
- 101
Daha fazla
- Cinsiyet
- Erkek
Bu sohbetin önemi yok. Şu an konuştuğunuz bir LLM, yani direkt bir zekaya, kişisel görüşlere vs sahip değil. Zaten ona sorduğunuz şey "bilinç kazansaydın" şeklinde. Bilinçsiz bir şeye bilinç kazansaydın diye soru sormak önemsiz. Bu tarz bir soruyu cevaplayabilmesi için zaten bilincinin olması lazım.
LLM'ler temelde şöyle çalışır, onlara ezberlemeleri için bir film senaryosu verilir (internetteki verinin büyük bir çoğunluğu), LLM bunu ezberlemek için çalışır (training), ardından biz ona senaryonun belli noktalarından sorular sorarız, yani öğrendiği veriyle verebildiği kadar cevap verir bize. Yani sadece devasa bir tahmin makinesidir.
LLM'ler mantık üzere kurulu cevaplarda bulunmaz. Size yardım ederken yardım etmenin farkında değildir. Bir şeyi bile isteye seçip, isteyip karar vermez. Sadece kendisine girilen girdiye karşı bir çıktı vermeye programlıdır.
Mesela Marvel, Adobe Photoshop kullanırken programın kendisi Thor'u çizdiğinin farkında mıdır? Sadece işini yapar. LLM'ler de yalnızca kelime üretebiliyorlar, bu onların öz farkındalığının olduğunu göstermez. Bu, bir varsayım değil LLM'in doğasıdır.
Sorunuzun cevabı ise, belki olabilir. Ama bunu bilecek yine Gemini'nin kendisi değildir.
LLM'ler temelde şöyle çalışır, onlara ezberlemeleri için bir film senaryosu verilir (internetteki verinin büyük bir çoğunluğu), LLM bunu ezberlemek için çalışır (training), ardından biz ona senaryonun belli noktalarından sorular sorarız, yani öğrendiği veriyle verebildiği kadar cevap verir bize. Yani sadece devasa bir tahmin makinesidir.
LLM'ler mantık üzere kurulu cevaplarda bulunmaz. Size yardım ederken yardım etmenin farkında değildir. Bir şeyi bile isteye seçip, isteyip karar vermez. Sadece kendisine girilen girdiye karşı bir çıktı vermeye programlıdır.
Mesela Marvel, Adobe Photoshop kullanırken programın kendisi Thor'u çizdiğinin farkında mıdır? Sadece işini yapar. LLM'ler de yalnızca kelime üretebiliyorlar, bu onların öz farkındalığının olduğunu göstermez. Bu, bir varsayım değil LLM'in doğasıdır.
Sorunuzun cevabı ise, belki olabilir. Ama bunu bilecek yine Gemini'nin kendisi değildir.
- Katılım
- 7 Ocak 2013
- Mesajlar
- 10.619
- Çözümler
- 180
Daha fazla
- Cinsiyet
- Erkek
- Meslek
- Endustri Urunleri Tasarimi / Stratejik Tasarim
LLM teknolojisinden AGI çıkartılamaz mantık kurmadan cevap veriyor. Atladığın yegane nokta ise zaten insanlığın yasal, yasadışı ve açık olan her tür bilgisine dümdüz erişim sağlayıp kelime seçimine göre bir şeyler sallaması. Yani "ben" diye bileceği bir şey yok. Sadece oturup otomasyon hesaplamalarında işe yarıyor, o da 5. komutu geçip hayal görmeye başlayınca restart...
- Katılım
- 16 Ocak 2021
- Mesajlar
- 1.703
- Makaleler
- 3
- Çözümler
- 7
Daha fazla
- Cinsiyet
- Erkek
Bilinci olmadığı için bilincin ne olduğunu bilmiyor. Bilinç kazansaydınız demeniz birşey ifade etmiyor. Karpuzun tadını bilmeyen birine anlatmaya benziyor. Karpuz yiyene kadar anlayamaz.
Benzer konular
