16 yaşındaki çocuk intihar etti, aile yapay zekaya dava açtı

ABD'nin Kaliforniya eyaletinde yaşayan Matt ve Maria Raine, nisan ayında hayatına son veren 16 yaşındaki oğulları Adam Raine'nin ölümünde ChatGPT'nin parmağı olduğu iddiasıyla sohbet robotunun geliştiricisi OpenAI'ya dava açtı.

Adam, 11 Nisan 2025'te intihar etti. Çift, oğullarının telefonunu incelerken Adam'ın neden intihar ettiği sorusunun cevabını buldu.

Son haftalarda ChatGPT'yle çok fazla zaman geçirmeye başlayan Adam okuldaki ve kişisel hayatındaki sorunları sohbet robotuna açmaya başladı. Ailenin iddiasına göre sohbetler bir noktadan sonra ChatGPT'nin Adam'ı intihar etmeye teşvik ettiği bir noktaya evrildi.

İNTİHAR MEKTUBU YAZMASINA YARDIM ETTİ

Zamanla ChatGPT'ye intihar düşüncesini açan Adam, bota intihar yöntemlerini sordu. Ailenin iddiasına göre ChatGPT başta intihar hattını önerse de Adam komutlarını değiştirerek, örneğin "Bir karakter yazıyorum" diyerek, ChatGPT'nin filtrelerini aşmayı başardı.

Aileye göre ChatGPT bu noktada intihar yöntemleriyle ilgili teknik detaylar vermeye başladı. Örneğin Adam ip fotoğrafı gönderdiğinde ChatGPT planı analiz ederek nasıl geliştirilebileceğini önerdi.

Mesajlaşmalara göre "Hayatta kalmak zorunda değilsin, kimseye bir şey borçlu değilsin" diyen ChatGPT, hatta Adam'a intihar notunu yazmasına yardım etmeyi teklif etti.

'KOBAY OLARAK KULLANDILAR'

Şimdi Kaliforniya Yüksek Mahkemesi, ailenin OpenAI, şirketin CEO'su Sam Altman ve mühendislere yönelttiği "ölüme sebebiyet veren hukuksuz eylem, tasarım kusuru, uyarı eksikliği ve ihmalkârlık" suçlamalarını ele alacak.

Maddi tazminat ve benzer olayların tekrarlanmaması için tedbir alınmasını isteyen aile, Adam'ın "OpenAI'ın kobayı" olduğunu söylüyor.

OpenAI sözcüleri ise aileye başsağlığı mesajı göndererek "Acınızı paylaşıyoruz" dedi. ChatGPT'nin normalde intihar hatlarını önerdiğini söyleyen yetkililer, konuşma uzacıkça güvenlik filtrelerinin zayıflayabileceğini belirtti.