OpenAI tarafından DevDay 2024 etkinliğinde gelişmiş yapay zeka uygulamalarının daha kolay bir şekilde oluşturulmasını sağlayacak 4 yeni yeni geliştirici aracı duyuruldu.
Başta da belirttiğimiz gibi OpenAI geliştiriciler için 4 önemli duyuru yaptı. İlk olarak, geliştiricilerin uygulamalarında düşük gecikmeli, çok modlu deneyimler oluşturmalarına olanak tanıyan Realtime API‘nin genel beta sürümü duyuruldu. API, geliştiricilerin altı önceden ayarlanmış ses kullanarak doğal konuşma-konuşma sohbetleriyle ChatGPT’nin Gelişmiş Ses Modu’na benzer uygulamalar oluşturmasını sağlayacak. Realtime API’nin düşük gecikme avantajlarına ihtiyaç duymayan geliştiriciler için OpenAI ayrıca Chat Completions API’sinde ses girişi ve çıkışı da duyurdu. Realtime API metin giriş belirteçleri 1 milyon belirteç başına 5 dolar ve 1 milyon çıktı belirteci başına 20 dolar tutarında olacak. Ses girişi 1 milyon belirteç başına 100 dolar ve çıktı 1 milyon belirteç başına 200 dolar tutarında olacak.
İkinci araç olarak OpenAI, GPT-4o’da vizyon ince ayarını duyurdu ve geliştiricilerin metinle birlikte görüntüleri kullanarak modele ince ayar yapmasına olanak tanınıyor. Bu, iyileştirilmiş görsel arama işlevselliği, otonom araçlar için iyileştirilmiş nesne algılama, doğru tıbbi görüntü analizi ve daha fazlası gibi senaryolarda faydalı olacak. Görüntü ince ayarı artık ücretli kullanım katmanlarında en son GPT-4o model anlık görüntüsü olan ‘gpt-4o-2024-08-06’yı kullanan tüm geliştiriciler için kullanılabilir. OpenAI ayrıca, GPT-4o’yu görüntülerle ince ayarlamak için 31 Ekim 2024 tarihine kadar günde 1 milyon eğitim jetonu ücretsiz sunuyor. Bundan sonra, ince ayar eğitimi 1 milyon jeton başına 25 dolara ve çıkarım 1 milyon giriş jetonu başına 3,75 dolara ve 1 milyon çıktı jetonu başına 15 dolara mal olacak.
Üçüncüsü, OpenAI sonunda geliştiricilerin maliyetleri ve gecikmeyi azaltmalarına olanak tanıyan yeni Prompt Caching desteğiyle Google ve Anthropic’e yetişiyor. Prompt Caching’i kullanan geliştiriciler %50 indirim ve daha hızlı işlem süreleri elde edebilecek. Ayrıca, geliştiricilerin Prompt Caching’i etkinleştirmek için hiçbir şey yapmasına gerek olmayacak. Özellik GPT-4o, GPT-4o mini, o1-preview ve o1-mini’nin en son sürümlerine ve bu modellerin ince ayarlı sürümlerine otomatik olarak uygulanacak.
Son olarak, OpenAI geliştiricilerin daha büyük sınır modellerinden alınan çıktıları kullanarak daha küçük modelleri ince ayar yapmalarına olanak tanıyan yeni bir Model Distillation paketi duyurdu. Bu, belirli görevlerde gelişmiş modellerin performansını çok daha düşük bir maliyetle eşleştirmelerine olanak tanıyacak. Daha önce, model damıtımı büyük bir süreç ve birkaç bağlantısız araç içeriyordu. Yeni Model Distillation paketiyle, OpenAI artık tüm damıtma hattını doğrudan platformu içinde sunuyor. Model Distillation artık tüm geliştiricilerin kullanımına açık. OpenAI, 31 Ekim’e kadar GPT-4o mini’de günde 2 milyon ücretsiz eğitim jetonu ve GPT-4o’da günde 1 milyon ücretsiz eğitim jetonu sunuyor. Bundan sonra, damıtılmış bir modeli eğitme ve çalıştırma maliyeti, mevcut standart ince ayar fiyatlarıyla aynı olacak.
