ChatGPT’nin geliştiricisi OpenAI, hile yapan öğrencileri ifşa etmeye yardımcı olacak bir metin filigranlama aracına sahip olduğunu doğruladı. Böylece ChatGPT kullanılarak oluşturulan makaleler veya metinler kolayca tespit edilebilir. Öte yandan Open AI, aracın yayınlanıp yayınlanmaması konusundaki tartışmalar sebebiyle aracı rafa kaldıracak gibi gözüküyor.
OpenAI resmi notunda şunları ekledi: “(Araç) Başka kelimelerle ifade etme gibi yerelleştirilmiş tahrifatlara karşı oldukça doğru ve hatta etkili olsa da, çeviri sistemleri kullanmak, başka bir üretici modelle yeniden ifade etmek veya modelden her kelimenin arasına özel bir karakter eklemesini istemek ve ardından bu karakteri silmek gibi küreselleştirilmiş tahrifatlara karşı daha az sağlamdır – bu da onu kötü aktörler tarafından atlatılması için önemsiz hale getirir.”
OpenAI, sınıflandırıcılar ve meta veriler gibi çözümlere göre metin filigranlamayı ek bir araç olarak görüyor. Şirket, metin biçimlendirme aracının neden gün yüzüne çıkmadığının nedenini de açıkladı. OpenAI, “bazı grupları orantısız bir şekilde etkileyebileceğini” ekledi. Örneğin, ana dili İngilizce olmayanlar için yapay zekanın yararlı bir yazma aracı olarak kullanımını damgalayabilir.”
Şu an için metin biçimlendirme aracını yayınlamanın içerdiği riskler değerlendiriliyor. Bunun sebebi aracın muhtemelen OpenAI’ın ötesinde daha geniş bir ekosistemi etkileyebilecek olması. Şirket ayrıca, görsel-işitsel içerik için kimlik doğrulama araçlarını yayınlamayı önceliklendirdiğini belirtti.
