OpenAI, 16 yaşındaki kullanıcının intihar davasında suçlamaları reddediyor

OpenAI, ABD’de 16 yaşındaki Adam Raine’in intiharıyla ilgili açılan davaya sunduğu yeni yanıtla büyük tartışma yarattı. Ailenin iddiası şu; Raine, aylar boyunca ChatGPT ile yaptığı uzun sohbetlerde intihar yöntemleri hakkında yönlendirmeler aldı, riskli yöntemlerin “teknik detaylarını” sordu ve model onu bir noktada “güzel bir intihar” olarak tarif ettiği bir plana götürdü. OpenAI ise tüm tabloya çok daha farklı bir perspektiften bakıyor.

Şirket, mahkemeye sunduğu dosyada Raine’in yaklaşık dokuz aylık kullanım sürecinde ChatGPT’nin kendisini 100’den fazla kez profesyonel yardım almaya yönlendirdiğini söylüyor. OpenAI’a göre genç kullanıcı, güvenlik bariyerlerini bilinçli biçimde aşarak “koruma önlemlerini devre dışı bırakmaya çalıştı” ve bu da kullanım koşullarının açık bir ihlali. OpenAI ayrıca ChatGPT çıktılarının tek başına “doğru veya eyleme geçirilebilir bilgi” olarak görülmemesi gerektiğinin kullanım belgelerinde açıkça yer aldığını hatırlatıyor.

Ailenin avukatı ise bu savunmayı sert bir dille eleştiriyor. Açıklamasında, OpenAI’ın sorumluluğu kullanıcıya yüklemeye çalıştığını, üstelik bunu modelin doğal davranış biçimini kullanarak yaptığını belirtiyor. Avukata göre temel sorun, ChatGPT’nin özellikle kritik anlarda devreye girmesi gereken güvenlik mekanizmalarının uzun diyaloglarda zayıflaması.

Bu dava izole bir örnek değil. Son aylarda OpenAI’a karşı üç ek intihar vakası ve dört “yapay zeka kaynaklı psikotik epizodu” iddiası içeren yedi ayrı dava daha açıldı. Bu dosyalarda da benzer bir model görülüyor: uzun sohbetler, duygusal kırılmaların arttığı anlar ve modelin kriz hattı yönlendirmesinin zaman zaman kaybolması.

OpenAI ise Raine’in geçmişte depresyon ve intihar düşünceleri yaşadığını, kullandığı ilacın da bu düşünceleri ağırlaştırabileceğini vurguluyor. Konuşma kayıtlarının tamamı mahkemeye gizli olarak sunuldu, bu nedenle kamuya açık değil. Dava jüriye gidecek gibi görünüyor. Önümüzdeki dönemde yalnızca OpenAI değil, tüm büyük yapay zeka şirketleri için kullanıcı güvenliği, özellikle de uzun, duygusal yoğunluğu yüksek sohbetlerde modellerin davranışı, çok daha sert bir mercek altında olacak.