Yapay zekanın asla insanlık için tehdit oluşturamayacak olması

@326001 Petaflops hatta gelecekte exaflops (belki zettaflops) düzeyinde işlem (düşünme) gücüne sahip olacak bir zeka da bunu akıl edip önlem almaz ya da buna göre plan yapmaz zaten...

Yararsız Üye dedi:

@gençyazılımcı0er Gözden kaçırdığın bir şey var, Mars'ta henüz koloni kurulmadı ama yapay zekanın ilk özgür örneklerinin kendi dillerini oluşturmaya nasıl karar verebildiğini gördük. Daha gelişmiş bir versiyonun bunun daha da ötesine karar vermeyeceği konusunda da kesin bir şey söylenemez. Bu sistemler bizlerin aksine tüm veriyi birbirleriyle paylaşıp anında öğrenme kapasitesine de sahip. Durum buna döndüğü zaman dijital tabanlı bir üstün zekanın yapabileceği bir sanal saldırıya karşı fazla seçeneğimiz yok. Her şeyi kapatmak da onlarca yıl geriye gitmek demek, bu durumda geri gitmek için ileri bir yapay zeka geliştirmiş olma ironisini yaşarız.

Genişletmek için tıkla...

Şu an yapay zeka emin ol gerçek bir yapay zeka değil en son GPT3 ile biraz gelişme oldu.

Yararsız Üye dedi:

@326001 Petaflops hatta gelecekte exaflops (belki zettaflops) düzeyinde işlem (düşünme) gücüne sahip olacak bir zeka da bunu akıl edip önlem almaz ya da buna göre plan yapmaz zaten...

Genişletmek için tıkla...

Hocam ironi yazdığım. Dalga geçiyorum. İnstagrm'da gördüğümü yazdım.

Öncelikle bilgisayar mühendisi olduğumu ve 2006 yılından itibaren bilişim alanında iş hayatında olduğumu belirteyim. Bazı basit şeyleri bana anlatma gereği duymaman için bu bilgiyi vereyim.

gençyazılımcı0er dedi:

Şu an yapay zeka emin ol gerçek bir yapay zeka değil en son GPT3 ile biraz gelişme oldu.

Genişletmek için tıkla...

Ben de bundan bahsediyorum, daha bu kadar ilkel bir durumda bile bizim irademizin dışında bir şeye karar verebilen bir dijital yapı daha da geliştiği zaman nelere karar vereceğini bilemeyiz. Bu arada felaket senaryocusu değilim, sadece önümüzde bir örnek varken bu kadar emin şekilde olmaz dememek gerekiyor diyorum.

@326001 İroniyi anladım ama anlamayacaklar için bununla ilgili ciddi cevap verdim.

Yararsız Üye dedi:

Öncelikle bilgisayar mühendisi olduğumu ve 2006 yılından itibaren bilişim alanında iş hayatında olduğumu belirteyim. Bazı basit şeyleri bana anlatma gereği duymaman için bu bilgiyi vereyim.


Ben de bundan bahsediyorum, daha bu kadar ilkel bir durumda bile bizim irademizin dışında bir şeye karar verebilen bir dijital yapı daha da geliştiği zaman nelere karar vereceğini bilemeyiz.

@326001 İroniyi anladım ama anlamayacaklar için bununla ilgili ciddi cevap verdim.

Genişletmek için tıkla...

Ben bilgisayar mühendisi değilim ancak mühendislerle birebir sohbette bulundum gpt-3 ile yazı yazma şu şekilde diye biliyorum yapay zeka şiiri mükemmel bir accuracy ile kopyalıyor ancak niye kopyaladığını bilmiyor karar verme mekanizması ile refincorement learning deki award sistemine dayanmıyor mu?

Hazır hortlamışken; bence gayette tehtit oluşturabilir. Suanki GPT3 bile kendi icinde programlar yazıp insanlarla iletişime geçebiliyor, okuduğu kitaplar ve internet ile bilgisine bilgi katıp ogrenebiliyor. Bunu gelecekte 200 yıl sonra düşünün. Öyle bir işlem gücü olur ki kendisinin kaynak kodlarını değiştirir, aklimizin almayacağı şeyler yapar ve yapacağı islerin, kararların nasıl olacağını kimse bilemez. Kısaca bence ortada bir tehtit var.

AreYouOkey dedi:

Hazır hortlamışken; bence gayette tehtid oluşturabilir. Suanki GPT3 bile kendi icinde programlar yazıp insanlarla iletişime geçebiliyor, okuduğu kitaplar ve internet ile bilgisine bilgi katıp ogrenebiliyor. Bunu gelecekte 200 yıl sonra düşünün. Öyle bir işlem gücü olur ki kendisinin kaynak kodlarını değiştirir, aklimizin almayacağı şeyler yapar ve yapacağı islerin, kararların nasıl olacağını kimse bilemez. Kısaca bence ortada bir tehdit var.

Genişletmek için tıkla...

Oluşturamaz demiyorum ancak bayağı bir süre var bu hemen şimdi, hemen 10 yılda olacak bir şey olduğunu düşünmüyorum.

Yararsız Üye dedi:

Öncelikle bilgisayar mühendisi olduğumu ve 2006 yılından itibaren bilişim alanında iş hayatında olduğumu belirteyim. Bazı basit şeyleri bana anlatma gereği duymaman için bu bilgiyi vereyim.


Ben de bundan bahsediyorum, daha bu kadar ilkel bir durumda bile bizim irademizin dışında bir şeye karar verebilen bir dijital yapı daha da geliştiği zaman nelere karar vereceğini bilemeyiz. Bu arada felaket senaryocusu değilim, sadece önümüzde bir örnek varken bu kadar emin şekilde olmaz dememek gerekiyor diyorum.

@326001 İroniyi anladım ama anlamayacaklar için bununla ilgili ciddi cevap verdim.

Genişletmek için tıkla...

Benle yaşıt olarak iş hayatın olmuş. Büyük başarı tebrikler.

Size "Detroit: Become Human" derim ve susarım.

gençyazılımcı0er dedi:

Oluşturamaz demiyorum ancak bayağı bir süre var bu hemen şimdi, hemen 10 yılda olacak bir şey olduğunu düşünmüyorum.

Genişletmek için tıkla...

Tabiki şuanda emekleme aşamasında diyebiliriz. Zamanla kalkacak, yürüyecek ve koşacak. Zaten bende yazdım 200 yıl sonrasını düşünelim diye.

@gençyazılımcı0er Yapay zekanın öğrenme ve karar verme şekli tasarlanma şekline göre değişir. Şimdiki örneklerin çoğu birbirinden bağımsız ve farklı yol takip ediyor. Henüz kendi kaynak kodlarını ihtiyacına göre değiştirebilecek yetilere sahip değiller. Buradaki anahtar nokta ilk dediğimde olduğu gibi bu zekalar daha da gelişip üstün duruma geldiği zaman nelere karar verebileceğini öngöremeyecek olmamız. Bizdeki ahlaki/kamu/tabu sistematiğine sahip değiller, bir Hitler çıkıp aryan olmayanları öldüreceğiz dediğinde insanların büyük çoğunluğu buna karşı koyabiliyor ancak bu yapay zekalar için geçerli olmayacak. Bu sınırları o sistemlere belirlemek zaten yapay zekanın kısıtlanması anlamına geliyor ki başka bir zekanın diğerini bu sınırlardan geçiremeyeceğini de bilemeyiz.

gençyazılımcı0er dedi:

Oluşturamaz demiyorum ancak bayağı bir süre var bu hemen şimdi, hemen 10 yılda olacak bir şey olduğunu düşünmüyorum.

Genişletmek için tıkla...

Daha o geleceğe çok var ama sanıldığı kadar da çok değil. 100-200 yıl gibi süreler bu işler için çok uzun. Tehdit oluşturup oluşturmayacağını ya da bu zekaların bir şekilde kısıtlanabilip kısıtlanabilemeyeceğini zamanı gelince göreceğiz.