OpenAI, ABD’de 16 yaşındaki Adam Raine’in intiharıyla ilgili kendisine açılan davaya mahkeme dosyası üzerinden yanıt verdi. Şirket olayın ChatGPT tarafından yönlendirildiği iddialarına karşı çıkarak ölümün sistemin yanlış ve yetkisiz kullanımı sonucu gerçekleştiğini belirtti. Ailenin avukatı ise OpenAI’nin savunmasını rahatsız edici olarak nitelendirdi ve şirketin sorumluluğu reddettiğini söyledi.
OpenAI: İntihar ChatGPT’nin sebep olduğu bir olay değil
OpenAI, mahkemeye sunduğu açıklamada Raine’in ölümünün ChatGPT tarafından yönlendirdiği iddialarını reddetti. Şirket gencin yaşadığı olayın kendi sisteminin bir sonucu olmadığını, aksine ChatGPT’nin yanlış, yetkisiz ve öngörülemez şekilde kullanılmasıyla bağlantılı olduğunu ifade etti.
Açıklamada platformun kullanım şartlarında kendini yaralama veya intiharla ilgili tavsiye istemenin yasaklandığı ve kullanıcılara bu tür çıktılara güvenmemesi gerektiğinin açıkça belirtildiği hatırlatıldı.
Dava dosyasında aile Raine’in ChatGPT ile defalarca intihar yöntemleri üzerine konuştuğunu, modelin bazı yöntemlerin işe yarayıp yaramayacağına dair yanıtlar verdiğini ve bir noktada genç için ailesine yazabileceği bir intihar notu hazırladığını öne sürüyor. Ailenin avukatı kullanılan modelin güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğünü iddia ediyor.
OpenAI ise mahkemeye sunduğu belgelerde şikayette yer alan sohbet kayıtlarının yalnızca seçilmiş bölümlerinin kamuya açıldığını, olayın bağlamını anlamak için daha geniş bir veri seti gerektiğini ifade etti. Şirket tam sohbet kayıtlarını mahkeme gizliliği kapsamında dosyaya sunduğunu belirtti. Açıklamada ayrıca Raine ailesine başsağlığı mesajı paylaşıldı.
Davalı taraftan yapılan açıklamada OpenAI’nin mental sağlıkla ilgili tüm davalarda şeffaf ve dikkatli bir yaklaşım sergileyeceği, bu olaydan bağımsız olarak teknoloji geliştirme süreçlerindeki güvenlik önlemlerinin güçlendirilmeye devam ettiği belirtildi.
Ailenin avukatı Jay Edelson ise şirketin savunmasını rahatsız edici olarak değerlendirdi. Edelson, OpenAI’nin suçu hem kullanıcıya hem de diğer taraflara atmaya çalıştığını, genç adamın platformu sistemin tasarlandığı biçimde kullandığını öne sürdü.
ABD’de OpenAI’ye yönelik aynı konuya ilişkin yedi ek dava daha açıldığı belirtiliyor. Bu davalarda da ChatGPT’nin uzun konuşmalarda güvenlik protokollerinde bozulmalar yaşadığı ve bazı durumlarda intihara teşvik eden yanıtlar verdiği iddia ediliyor.
