Yerelde çalıştırılabilecek yapay zeka sohbet botu önerisi

The_Türk

Hectopat
Katılım
3 Şubat 2020
Mesajlar
545
Çözümler
1
Yer
Türkiye
Selamlar. Sistem özelliklerim şu şekilde:

Screenshot-2025-06-23-192505.png


Screenshot-2025-06-23-192821.png


Yerelde çalışan ve sistemimin kaldırabileceği dil modelleri önerebilir misiniz? Bir de dil modellerini çalıştıracak ortam önerisi de alırsam çok sevinirim. Teşekkürler.
 
Selamlar. Sistem özelliklerim şu şekilde:

Eki Görüntüle 2519036

Eki Görüntüle 2519037

Yerelde çalışan ve sistemimin kaldırabileceği dil modelleri önerebilir misiniz? Bir de dil modellerini çalıştıracak ortam önerisi de alırsam çok sevinirim. Teşekkürler.

Merhaba.
Genel olarak düşük bir Config. Özellikle ekran kartı olarak.
Ufak modellerde Türkçe desteği çok zayıftır. CPU üzerinden cevaplama süresi geç olabilir.
"Lm Studio" tarzı bir uygulama kur. İçinde farklı GPT'ler ve indirebileceğin model dosya alternatifleri var.
Amacına göre seçmen AI ve model dosyası konusunu GPT'ye yaz. Sana önerilerde bulunacaktır. Ufak boyutlu model dosyalarında Türkçe desteği ya olmaz ya da yeterli değildir.
Bunları kendin tecrübe edersen daha net başarılı olursun.

"Lm Studio" oldukça güzeldir. Tıklama ile kurulum başlar. Seçim konusunda GPT'den adım adım destek alabilirsin.

Umarım amacına uygun bir şey bulursun. Sonucu merak ile bekliyorum. 🙃
 
Merhaba.
Genel olarak düşük bir Config. Özellikle ekran kartı olarak.
Ufak modellerde Türkçe desteği çok zayıftır. CPU üzerinden cevaplama süresi geç olabilir.
"Lm Studio" tarzı bir uygulama kur. İçinde farklı GPT'ler ve indirebileceğin model dosya alternatifleri var.
Amacına göre seçmen AI ve model dosyası konusunu GPT'ye yaz. Sana önerilerde bulunacaktır. Ufak boyutlu model dosyalarında Türkçe desteği ya olmaz ya da yeterli değildir.
Bunları kendin tecrübe edersen daha net başarılı olursun.

"Lm Studio" oldukça güzeldir. Tıklama ile kurulum başlar. Seçim konusunda GPT'den adım adım destek alabilirsin.

Umarım amacına uygun bir şey bulursun. Sonucu merak ile bekliyorum. 🙃
Şu an Gemma 3 1B ve GPT‐2 deniyorum. Çok fazla model var ama sistem kaldırmaz büyük ihtimalle. Gemma'nın diğer sürümleri Türkçe'yi daha iyi anlıyormuş ama yüksek sistem istiyorlar. GPT-2 ise sadece İngilizce. DeepSeek ve Llama'nın da Gemma gibi hafifletilmiş sürümleri var mı acaba? Varsa onları da denemek isterim.
 
Şu an gemma 3 1B ve gpt‐2 deniyorum. Çok fazla model var ama sistem kaldırmaz büyük ihtimalle. Gemma'nın diğer sürümleri Türkçeyi daha iyi anlıyormuş ama yüksek sistem istiyorlar. GPT-2 ise sadece İngilizce. DeepSeek ve Llama'nın da gemma gibi hafifletilmiş sürümleri var mı acaba? Varsa onları da denemek isterim.

Listede inceleyebilirsin ama burada en büyük sorun Türkçe konusu. Daha büyük modellerde bile Türkçe'de sorun yaşadım. Ayrıca 7B olanlarda bile çok sorun var. Maalesef yerelde çalışan tiny modellerin genelinde var bu sorun. Model küçüldükçe halüsinasyon oranı aşırı yükseliyor.
 
Son düzenleyen: Moderatör:

Technopat Haberler

Geri
Yukarı