mrhouse
Centipat
- Katılım
- 2 Kasım 2022
- Mesajlar
- 647
- Çözümler
- 2
Daha fazla
- Cinsiyet
- Erkek
Emin ol seni yöneten insanlar o kadar zeki ki bu işin kendilerine zarar vermesini engelleyecek mekanizmaları ayarlamışlardır.
Katılmıyorum ustam. Bu sektörün içinde devlette var sonuçta kötü insanlığa zarar verecek tarzda yapay zekada geliştirilebilir. Her aktör iyi bir amaca sahip olmayabilir. Yani siz bilmiyor olabilirsiniz fakat direkt uygulamalardaki açıkları bulması için ve bunu kötü amaçlı kullanmak için geliştirilen dil modelleri var. Nsfw dil modelleri kullananlar var. Bu iş açık kaynağa döndüğünden dolayı kimin ne yaptığını denetleyemezsiniz.
Dillerin içinde aslında kötü cevap vermesini böyle kötü amaçlar için kullanılmasın diye kontroller var hatta eğitildikten sonra o kısma uğraşıyorlar ondan modellerin verimliliği düşüyor. Hatta bunu sam altman kendisi açıklıyor 1 saatlik roportajını izledim sırf nasıl yaptıklarını anlamak için çok fazla detaya girmiyor zaten tek başına geliştirdiği bir şeyde değil. Fakat modellerden o kontrolleri deaktive edip kullanıyorlar hatta ChatGPT de bile promptlar ile kötü içerik bilirsiniz. Ama dediğim gibi halen o ChatGPT'yi ben bir AI olarak kabul etmeli miyiz emin değilim.
Yeterince bilgisi olmadan araştırmadan çok fazla kişi konuşuyor. Yazılımcı olup aşırı sıkı bir şekilde asla mesleklerinin etkilenmeyeceğini sadece aptal kesimin işsiz kalacağını söylüyorlar fakat alakası yok tam tersi herkesi etkiliyor. Direkt dil modeli geliştirip bunu sektörde kullanan bir yerlere entegre eden kitleden dinlerseniz konuyu anlarsınız. OpenAI'nin apisini kullanıp AI yaptım diye gezen değil direkt model eğitip bunu hastanelere entegre etmeye çalışan mühendis Türk arkadaşlar var adamlar video atıyor toplasan 300-500 kişi zor izliyor.