Bir genç intihar etti, ChatGPT kendini böyle savundu

OpenAI, Kaliforniya’da 16 yaşındaki Adam Raine’in ölümüne ilişkin kendisine yöneltilen suçlamalara karşı mahkemeye sunduğu belgede, ChatGPT’nin genci intihara teşvik etmediğini; aksine onu sürekli profesyonel yardım aramaya yönlendirdiğini belirtti.

San Francisco Yüksek Mahkemesi’ne sunulan yanıt dilekçesinde OpenAI, Raine’in ölümünü “bir trajedi” olarak nitelese de “ChatGPT tarafından neden olunmadığını” vurguladı.

Şirketin açıklamasına göre Raine, ChatGPT’ye daha platformu kullanmadan yıllar önce tekrarlayan intihar düşüncelerine sahip olduğunu söylemişti. Dilekçede, ChatGPT’nin Raine’i “kriz hattı kaynaklarına ve güvendiği kişilere başvurması için 100’den fazla kez yönlendirdiği” belirtildi.

AİLE ŞİRKETİ SUÇLUYOR

Raine’in ailesi, geçtiğimiz ağustosta OpenAI ve CEO Sam Altman’a dava açarak chatbot’un genci nasıl bir ilmek bağlanacağı konusunda yönlendirdiğini ve intihar mektubu yazmasına yardımcı olduğunu ileri sürmüştü.

Davanın açılmasının ardından OpenAI, ergen kullanıcılar için daha fazla ebeveyn kontrolü ve riskli durumlarda uyarı mekanizmaları içeren bir dizi güvenlik güncellemesi duyurmuştu.

Ailenin avukatı Jay Edelson ise OpenAI’nin mahkemeye sunduğu savunmayı “rahatsız edici” olarak nitelendirdi. Edelson, şirketin “suçu herkese atmaya çalıştığını” ve hatta Raine’in ChatGPT’yi, kendisinin programlandığı doğrultuda kullandığı için “hüküm ve koşulları ihlal ettiği” yönünde savunma yaptığını söyledi.

Raine ailesinin davasında haksız ölüm, ürün sorumluluğu ve ihmal gibi suçlamalar yer alıyor.

Yargı sürecinin önümüzdeki aylarda daha da genişlemesi ve yapay zekâ güvenliği konusundaki tartışmaların etkisini artırması bekleniyor.