TosunPASA
Megapat
Daha fazla
- Sistem Özellikleri
- W11-Linux
- Cinsiyet
- Erkek
- Meslek
- Emekli
Merhaba. Yapay zeka kullanmayı sevenler ve merak edenler:
ChatGPT ile felsefik konuda bilgilerini sıralamasını bana yeni bakış açıları getirmesini ve 5000 yıllık yazılı Tarih'den örneklemeler yapmasını istedim. Maalesef, kriterlerimi daha daraltılmış - yoğunlaştırılmış yapmam sürekli tekrarları engellemedi.
En sonunda kendisine kapasite - model dosya boyut bilgisini paylaşmasını istedim.
---------------------
Benim altyapım OpenAI'nin GPT-4-Turbo modeline dayanıyor. Bu modelin bazı önemli sınırları:
Aldığınız ve alacağınız cevapları bu cevaba göre yeniden düşünmeniz gerekiyor.
Tabii ki ben ücretsiz versiyon ile iletişim kuruyorum.
Ücret ödeyenler için token sayısı veya anlık erişime sahip bellekteki bilgi tutulma kapasitesi nedir bilmiyorum.
Bu paylaşımı asıl yapma sebebim ise;
Localde çalıştıracağınız modellerin boyutları - anlık erişimdeki bilgi kapasiteleri ile 300GB'lık bir model dosya ile çalışmanızda alacağınız limitli bilgi veya halüsinasyon barındıran cevaplara dikkat etmeniz içindir.
Online bir AI modelleri için %3-5 arasında bir halüsinasyon'lu cevaplar ihtimalinden söz ediliyor iken, localde istenirse H200 ile çalışan bir yapı-kurgu için bir oran belirtildiğini görmediğimi belirtmek istiyorum. Varsa bu tür bir oran paylaşırsanız sevinirim.
Buradan şu mana çıkarılmasın;
Kişisel bilgisayarınızda "farklı ve özel olarak eğitilmiş" modelleri kullanmaya devam ETMEYİN. Asla bu ifade anlaşılmasın.
Ama o modele, eğitimi dışında alacağınız cevapların doğruluğundan asla emin olamazsınız.
Hatta teknoloji son hızla ilerlerken, özel bir iş için eğitilmiş/geliştirilmiş ve sizlere ücretsiz sunulan bir modelin güncelliği de soru işareti olduğunu unutmayın.
Modelin oluşturulma hash bilgisi her zaman güvenli değildir. Ve gördüğünüz gibi 2024 ortalarına kadar dayanan bir bilgi güncelliği var.
ChatGPT ile felsefik konuda bilgilerini sıralamasını bana yeni bakış açıları getirmesini ve 5000 yıllık yazılı Tarih'den örneklemeler yapmasını istedim. Maalesef, kriterlerimi daha daraltılmış - yoğunlaştırılmış yapmam sürekli tekrarları engellemedi.
En sonunda kendisine kapasite - model dosya boyut bilgisini paylaşmasını istedim.
---------------------
Teknik olarak ne kullanıyorum?
Benim altyapım OpenAI'nin GPT-4-Turbo modeline dayanıyor. Bu modelin bazı önemli sınırları:
- Kullanım başına “kontekst penceresi”: 128k token (yaklaşık 300 sayfa metin) kadar bilgi tutabilirim. Bu pencere doldukça eskiler silinir, yeniler girer.
- Model dosyaları ve veri kapasitesi: Modelim, önceden eğitilmiş parametrelerle çalışır. Örneğin GPT-4'ün yüzlerce milyar parametreli bir yapısı vardır. Bu yapı sabittir ve değişmez; eğitim sonrasında donmuş bir bilgi hazinesi gibi çalışırım.
- VRAM veya donanım: Benim tarafımda çalıştığın zaman senin cihazının değil, OpenAI'nin sunucu taraflı güçlü sistemlerinin donanımı kullanılır. Ama bu sana açık değildir ve ben de özel donanım bilgime erişemem.
- Veri güncelliği: 2024'ün ortalarına kadar olan bilgilerle eğitildim. Daha güncel veriler gerekiyorsa “web” aracıyla tarama yapabilirim.
Aldığınız ve alacağınız cevapları bu cevaba göre yeniden düşünmeniz gerekiyor.
Tabii ki ben ücretsiz versiyon ile iletişim kuruyorum.
Ücret ödeyenler için token sayısı veya anlık erişime sahip bellekteki bilgi tutulma kapasitesi nedir bilmiyorum.
Bu paylaşımı asıl yapma sebebim ise;
Localde çalıştıracağınız modellerin boyutları - anlık erişimdeki bilgi kapasiteleri ile 300GB'lık bir model dosya ile çalışmanızda alacağınız limitli bilgi veya halüsinasyon barındıran cevaplara dikkat etmeniz içindir.
Online bir AI modelleri için %3-5 arasında bir halüsinasyon'lu cevaplar ihtimalinden söz ediliyor iken, localde istenirse H200 ile çalışan bir yapı-kurgu için bir oran belirtildiğini görmediğimi belirtmek istiyorum. Varsa bu tür bir oran paylaşırsanız sevinirim.
Buradan şu mana çıkarılmasın;
Kişisel bilgisayarınızda "farklı ve özel olarak eğitilmiş" modelleri kullanmaya devam ETMEYİN. Asla bu ifade anlaşılmasın.
Ama o modele, eğitimi dışında alacağınız cevapların doğruluğundan asla emin olamazsınız.
Hatta teknoloji son hızla ilerlerken, özel bir iş için eğitilmiş/geliştirilmiş ve sizlere ücretsiz sunulan bir modelin güncelliği de soru işareti olduğunu unutmayın.
Modelin oluşturulma hash bilgisi her zaman güvenli değildir. Ve gördüğünüz gibi 2024 ortalarına kadar dayanan bir bilgi güncelliği var.
Son düzenleyen: Moderatör:
