OpenAI, akıl yürütme görevlerinde diğer açık ağırlıklı modellere kıyasla güçlü performans sunan gpt-oss-120b ve gpt-oss-20b adlı iki açık ağırlıklı dil modelini piyasaya sürüldüğünü duyurdu. Şirket, bu modellerin tüketici donanımlarında verimli dağıtım için optimize edildiğini iddia ediyor.
OpenAI gpt-oss Açık Ağırlıklı Modeller Neler Sunuyor?
Daha büyük model olan gpt-oss-120b, tek bir 80 GB GPU üzerinde çalışırken o4-mini ile aynı seviyede performans sunuyor. Daha küçük gpt-oss-20b modeli ise sadece 16 GB belleğe sahip cihazlarda çalışırken genel karşılaştırmalarda o3-mini ile aynı seviyede performans gösteriyor. Bu da onu cihaz içi yapay zeka uygulamaları için ideal bir seçim haline getiriyor.
Akıl yürütme performansı ve düşük donanım gereksinimlerinin yanı sıra, bu modeller araç kullanımı, az sayıda işlem gerektiren fonksiyon çağırma, CoT muhakeme ve HealthBench’te de güçlü performans gösteriyor. Diğer OpenAI modellerine benzer şekilde, bu açık ağırlıklı modeller de Responses API ile uyumlu. Açık modeller için güvenlik çok önemli olduğundan, OpenAI, gpt-oss-120b’nin rakipler tarafından ince ayarlanmış bir sürümünü test ederek ek bir değerlendirme katmanı ekledi.
OpenAI ayrıca, benimsenmesini kolaylaştırmak için hem Python hem de Rust’ta bir uyum oluşturucuyu açık kaynaklı hale getiriyor. Geliştiricilerin başlamasını kolaylaştırmak için OpenAI, PyTorch ve Apple’ın Metal platformunda çıkarım çalıştırmak için referans uygulamaları da yayınlıyor.
OpenAI, bu açık ağırlıklı modelleri geliştiriciler için geniş çapta erişilebilir kılmak amacıyla Microsoft Azure, Hugging Face, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare ve OpenRouter ile ortaklık kurdu. Bu modeller, NVIDIA, AMD, Cerebras ve Groq gibi çeşitli donanım platformlarında çalışacak şekilde optimize edildi.
Microsoft, yerel çıkarımı desteklemek üzere Windows bilgisayarlar için gpt-oss-20b modelinin GPU için optimize edilmiş sürümlerini duyurdu. Bu optimize edilmiş modeller, Foundry Local ve VS Code için AI Toolkit aracılığıyla edinilebilecek.
Modelleri herhangi bir indirme işlemi yapmadan denemek isteyenler ise OpenAI’ın Playground‘una göz atabilir.
