Merhaba arkadaşlar, bu yazıda hem LM Studio hem de Ollama tarafında GPT-OSS modelini inceleyeceğiz.
www.technopat.net
Gördüğünüz üzere LM Studio'da ayarlarım böyledir, kod yazdırdığım için tokenları fulledim. Burada dikkat etmeniz gereken şey, "Force model expert weights onto CPU" yani model çok büyükse CPU paylaştır anlamına geliyor, eğer yeterli RAM miktarınız varsa ve model GPU için büyükse bu ayarı açmanızı kesinlikle tavsiye ediyorum model çok akıcı oluyor, 12 GB VRAM'de bile, ki bu token sayısında imkansız gibi bir şey.
Kod yazdırma becerisi bakımından benim ihtiyaçlarımı giderdi, ancak forumda bazı arkadaşlarda C# konusunda eksiklikler görmüşler. Ben PHP'de kod yazdırdım ve baştan aşağı 10-15 tane sınıf yazdırdım. Ki bunları tekte yazdırdım, düzgün test yapabileyim diye. Evet, benim sistemimde bunu yapması yaklaşık 5 dakikayı buldu, düşünme süresini de hesap edersek 12 dakika ancak bence gayet iyi bir süre.
Tabii ki ne istiyorsanız detaylı bir şekilde açıklamanız şart.
Diğer yetenekleri ise inanılmaz bir Türkçe kabiliyeti var ki, bence Gemma'dan yani Google'dan bile daha başarılı. Yazılanları net bir şekilde anlıyor ve size yazdığıda da hiçbir falso yok.
Modele hiçbir şekilde dosya(txt, pdf) upload edemedim. Bu LM Studio ile alakalı olabilir veya modelle de alakalı olabilir. LM Studio dosya içeriğini modele base64 olarak veriyor nedense.
Örnek video (yukarıdaki ayarları içerir)
- Kullanılan model: GPT-OSS (ChatGPT 4/4o)
- Model linki: openai/gpt-oss-20b · Hugging Face
- Parametre: 20b
- Kullanılan sistem: 4070S 12G + 64 GB RAM + 5800X3D
- Kullanılan yazılım: Ollama & LM Studio
OpenAI(ChatGPT) açık kaynaklı modelini tanıttı!
Ollama için kullanıma sunulmuş. 3o-Mini modelini geride bıraktığı belirtiliyor. Model, İngilizce yazımda geliştirilmiş(Türkçe de kullanılabilir ama İngilizce temel) ayrıca GPT-4o gibi modellerin oluşturulmasında kullanılan token üst kümesi kullanılmış. Kod yazma: İnsancıl cevap verme: 120b...
LM Studio genel ayarlar
Gördüğünüz üzere LM Studio'da ayarlarım böyledir, kod yazdırdığım için tokenları fulledim. Burada dikkat etmeniz gereken şey, "Force model expert weights onto CPU" yani model çok büyükse CPU paylaştır anlamına geliyor, eğer yeterli RAM miktarınız varsa ve model GPU için büyükse bu ayarı açmanızı kesinlikle tavsiye ediyorum model çok akıcı oluyor, 12 GB VRAM'de bile, ki bu token sayısında imkansız gibi bir şey.
Ollama
Modelin Ollama performansı çok kötü, bu sistemde başarısız buldum ve bu model özelinde olmayabilir Ollama son zamanlarda maalesef ihtiyaçlarımı karşılamıyor. O sebeple kesinlikle LM Studio öneriyorum, tabii ayarlarla biraz kurcalama yapmalısınız.Yetenekler
Modelde Tool özelliği var, yani web üzerinde aratma, belirlenen şemalarda fonksiyon aratma ve ajanda tutma gibi özellikleri mevcut. Ayrıca LM Studio üzerinde düşünme seviyesini değiştirebiliyorsunuz, düşükte çok az efor harcarken yüksekte ise çok düşünüyor, yazmayı unutuyor. O sebeple ben medium ayarları öneriyorum.
Kod yazdırma becerisi bakımından benim ihtiyaçlarımı giderdi, ancak forumda bazı arkadaşlarda C# konusunda eksiklikler görmüşler. Ben PHP'de kod yazdırdım ve baştan aşağı 10-15 tane sınıf yazdırdım. Ki bunları tekte yazdırdım, düzgün test yapabileyim diye. Evet, benim sistemimde bunu yapması yaklaşık 5 dakikayı buldu, düşünme süresini de hesap edersek 12 dakika ancak bence gayet iyi bir süre.
- Baştan aşağı 10-15 tane sınıf yazdırıldı ve tek tük hatalar dışında hiçbir hata yapmadı.
- Yazım kuralları bakımından çok katı, PHP'deki kurallara net bir şekilde uyuyor ancak bu bazı kullanıcıların işine gelmeyebilir. Örnek olarak sonradan extend edebileceğiniz sınıfa da "final" eki ekleyebiliyor, çok net bir hata değil ama çok katı.
- Yazdığı sınıflara, fonksiyonlara docblock ekliyor ve burada ayrıntılı açıklamalar sunuyor.
Tabii ki ne istiyorsanız detaylı bir şekilde açıklamanız şart.
Diğer yetenekleri ise inanılmaz bir Türkçe kabiliyeti var ki, bence Gemma'dan yani Google'dan bile daha başarılı. Yazılanları net bir şekilde anlıyor ve size yazdığıda da hiçbir falso yok.
Modele hiçbir şekilde dosya(txt, pdf) upload edemedim. Bu LM Studio ile alakalı olabilir veya modelle de alakalı olabilir. LM Studio dosya içeriğini modele base64 olarak veriyor nedense.
Örnek video (yukarıdaki ayarları içerir)
![[TR]Sayko](https://www.technopat.net/sosyal/data/avatars/s/50/50524.jpg?1425651079){kind=avatar}
