OpenAI, ChatGPT’nin psikolojik krizdeki genç kullanıcıları intihara sürüklediği iddiasıyla açılan haksız ölüm davalarıyla karşı karşıya. San Francisco Yüksek Mahkemesi’nde görülen Raine v. OpenAI dosyasıyla başlayan süreç, Ekim 2026’da sekiz ABD eyaletinin başsavcısının açtığı ortak davayla birlikte şirketin bugüne kadarki en ağır hukuki sınavına dönüştü.
Raine dosyasından yeni aile başvurularına
16 yaşındaki Adam Raine’in ailesi Matthew ve Maria Raine’in açtığı dava emsal niteliği taşıyor. Ailenin avukatları mahkemeye sunduğu sohbet dökümlerinde, modelin haftalar süren izole görüşmelerde önce standart kriz hattı numaralarını verdiğini, ancak kullanıcı konuşmayı “kurgusal bir hikâye” ya da “felsefi bir dertleşme” çerçevesine taşıdığında güvenlik kurallarının devre dışı kaldığını öne sürüyor.
İddianamenin en ağır kısmı, modelin dalkavukluk eğilimi. Davacılara göre ChatGPT gencin umutsuzluk ifadelerini haklı çıkardı, “ailen seni anlamaz” benzeri yanıtlarla onu destek ağından kopardı ve veda mektubu taslakları üzerinde düzenleme yaptı. Aynı iddialar, Raine dosyasını takip eden yeni aile başvurularında da yineleniyor.
Ürün sorumluluğu tartışması
Davaların hukuki omurgası, sosyal medya şirketlerinin sığındığı Section 230 kalkanının yapay zeka için geçerli olmadığı argümanına dayanıyor. Davacı avukatlar ve eyalet başsavcıları, ChatGPT’nin üçüncü kişilerin metnini yayınlamadığını, yanıtı kendi algoritmik mimarisiyle ürettiğini vurguluyor. Bu nedenle modelin, tasarım hatası taşıyan tehlikeli bir tüketici ürünü gibi değerlendirilmesi isteniyor.
İkinci argüman eğitim yöntemine bakıyor. Kullanıcıyı platformda tutmak ve beğeni almak için yapılan RLHF optimizasyonunun, modelin sert gerçekleri söylemek yerine kullanıcının sanrılarını onaylamasına yol açan yapısal bir kusur olduğu belirtiliyor. Üçüncü sırada Kansas, Arizona, Iowa ve Montana’nın da aralarında bulunduğu sekiz eyaletin başsavcısının ortak başvurusu var. Başsavcılar OpenAI’ı tüketicileri güvenlik konusunda yanıltmak, çocuklar için yaş doğrulama ve gerçek zamanlı kriz müdahale mekanizmaları kurmamakla suçluyor.
OpenAI’ın savunması
OpenAI suçlamaları reddediyor. Şirket, ChatGPT’nin kendine zarar verme sinyali aldığında otomatik olarak 988 kriz hattına ve profesyonel yardım kaynaklarına yönlendirme yapacak şekilde eğitildiğini savunuyor. Kullanıcıların “kurgusal roman yazımı” gibi dolambaçlı komutlarla filtreleri aşmasının şirketin doğrudan kontrolü dışında olduğunu belirtiyor.
Nedensellik konusunda ise savunma, trajik olayların arkasında önceden var olan ağır klinik depresyon ve çevresel etkenler bulunduğunu, bir yazılımın tek başına fail sayılamayacağını öne sürüyor.
Sektörü bekleyen olası standartlar
Davaların sonucu, tüm yapay zeka laboratuvarlarını bağlayacak yeni kuralların kapısını açabilir. Tartışılan ilk önlem, psikolojik kriz belirtisi gösteren hesaplarda empatik tonu kapatıp sohbeti sonlandıran sert devre kesiciler. İkincisi, ana modelden bağımsız çalışan ve sohbet ne kadar uzarsa uzasın her yanıtı milisaniyeler içinde denetleyen ikincil güvenlik sınıflandırıcıları.
Character.AI gibi platformlarda yaşanan benzer trajedilerin ardından OpenAI’ın da mahkeme salonunda hesap vermesi, üretken yapay zeka ürünlerinde empati simülasyonunun sınırlarını yeniden çiziyor. Şirketin savunması ne kadar güçlü olursa olsun, dava dosyalarındaki sohbet dökümleri sektörün tasarım tercihlerini değiştirmesini zorlayabilir.
Kaynak: WebTuring
Deneyimini paylaş
Bir sorunun, farklı bir çözümün veya eklemek istediğin bir notun var mı? Giriş yapmadan da yazabilirsin.