Veri analizi için yapay zeka önerisi

Hocam tekrardan merhaba. Bilgisayarıma Llama 3.1 8B kurdum fakat cevapları hiç tatmin edici değil. Dediklerimi anlamıyor, anlasa bile yapamıyor. Sanki 40 IQ birisinden bir şey istiyor gibi hissediyorum. Modelin genel sorunu mu yoksa performans vs. gibi şeyler yüzünden de böyle çalışıyor olabilir mi?
Tam olarak hangi kaynaktan hangi model dosyasını indirdiniz? Eğer indirdiğiniz dosya modelin quantize hali ise hangi formatı indirdiniz?
 
Tam olarak hangi kaynaktan hangi model dosyasını indirdiniz? Eğer indirdiğiniz dosya modelin quantize hali ise hangi formatı indirdiniz?

Ollama üzerinden llama 3.1 4.7 GB'lık 8B modeli indirdim hocam, 2. sırada olanı. Yurtta internet problemi olduğu için quantize model indirmedim. 8B ama quantize bir model aynı performansta çalışır mı? Çünkü bilgisayarımda Mobile RTX 3050 4 GB var.
 

Technopat Haberler

Geri
Yukarı