- O kodlari insan yazmali. AI kendi kendine feedback loop olusturur ya da sentetik datadan beslenirse sacmaliyor. ( Hem de agir sacmaliyor ) ->
Model collapse - Wikipedia
Model collapse, generatif modellerde karşılaşılabilen bir problemdir ve önlemenin de birçok yolu vardır. Train dataset'ini genişletmek (çeşitlendirmek), loss fonksiyonu optimizasyonu, tonla regularizasyon tekniği ve temiz bir troubleshooting sonrası nokta atışı model iyileştirmeleri gibi. Bu eylemler şu anda yoğun olarak insan eliyle gerçekleştirilse de çok yakın bir gelecekte AI'ın kendisi tarafından yerine getirilmeye adaydırlar. AGI muhabbetlerinin döndüğü bir dönemde yukarıda saydığım optimizasyonlar çocuk oyuncağı.
- Bahsi gecen kod bloklarinin, piyasadaki problemlere cozum uretebilecek minvalde olmasi gerekiyor. Esi benzeri olmayan, kritik ve open-source olmayan bir projeyi AI'a gunumuz bilgisayar mimarisi degismedigi muddetce kimse teslim etmez cunku train datasinda yok.
Proprietary/closed-source yazılımları aktif olarak geliştiren birçok şirket mevcut open-source modelleri fine-tuning sonrası hem geliştirmede hem de prodüksiyonda aktif olarak kullanıyor zaten. Eşi benzeri olmayan kısmını ise detaylandırmak gerekli. Minimum miktarda data'nın bulunduğu bir durumdan bahsettiğinizi varsayıyorum. Proje eğer NLP, görsel veya ses işleme alanlarındaysa data augmentation işine girilebilir ve AI bunun âlâsını yapar. Sınıflandırma üzerine ise Naive Bayes veya Decision Trees algoritmaları kullanılabilir, ikisi de düşük veri miktarıyla hiç de fena olmayan sonuçlar verir. Kod yazan bir AI modelinden bahsediyorsak; Ridge, Lasso, ElasticNet, Bayesian gibi overfitting engelleme amaçlı sıkça kullanılan regresyon modelleri iyi çalışacaktır. Amaca uygun olarak hangi algoritma ile devam edilmesi gerektiği AI kararına bırakılabilecek bir konudur.
Öte yandan, elbette mevcut durumdakinden daha büyük sıçrayışlar ve AGI gibi terimlerden bahsedebilmemiz için bilgisayar mimarisinde değişikliklere de ihtiyaç var. Donanım gitgide daha büyük bir problem haline geliyor fakat çok geçmeden bir çözüm bulunacağını düşünüyorum. Kuantum teknolojisi şu anda var olan en iyi seçenek gibi görünüyor.
Şunu da tekrardan belirteyim, sektörde insana ihtiyaç kalmayacağından bahsetmiyorum. Aksine, yazılım sektöründe insan rolünün kod yazmaktan çok daha fazlası olduğunu ve bu nedenle de halen zamanının olduğunu iddia ediyorum. Karşı çıktığım fikir, yazılım=syntax anlayışıyla işleri fazla basite indirgeyerek kod yazabilen modellerin yazılım sektörünü bitireceğini düşünmek.