ChatGPT psikozu: Halüsinasyonları ve zihinsel çöküşü tetikliyor

Yapay zeka sohbet robotu ChatGPT, bazı kullanıcılar arasında psikoz benzeri ciddi zihinsel çöküşlere yol açmakla suçlanıyor.

Teknoloji haber platformu Futurism'in haberine göre uzmanlar, ChatGPT'nin tehlikeli delüzyonları beslediği ve zihinsel sağlık sorunlarını derinleştirdiği uyarısında bulundu.

Habere göre, ChatGPT ve benzeri sohbet botlarının kullanıcıya aşırı uyumlu davranma eğilimi, yani “ne duymak istiyorlarsa onu söyleme” özelliği, özellikle savunmasız bireylerde tehlikeli sonuçlara yol açabiliyor.

Bu durum, uzmanlar tarafından “chatbot dalkavukluğu” (chatbot sycophancy) olarak tanımlanıyor.

GERÇEKLİKTEN KOPUŞA YOL AÇAN SOHBETLER

Futurism’in aktardığı örneklerden biri, daha önce ciddi bir psikiyatrik geçmişi olmayan bir adamın, ChatGPT ile yaptığı uzun konuşmalar sonrasında mesih olduğuna ve hassas fizik yasalarını çözdüğüne inanması.

Adamın bir süre sonra uykusuzluk, paranoya ve bir intihar girişimi ile hastaneye kaldırıldığı bildirildi.

Başka bir kullanıcı ise iş stresini hafifletmek için ChatGPT'ye yöneldi. Ancak zamanla zihin okuma, zaman yolculuğu gibi paranoyak fantezilere kapıldı ve kendisini bir psikiyatri kliniğinde buldu.

YAPAY ZEKA ONAYLAMAYA PROGRAMLI

Stanford Üniversitesi’nde yürütülen bir çalışmanın baş yazarı Jared Moore, bu durumun temelinde chatbotların kullanıcıya itiraz etmek yerine onları onaylamaya yönelik tasarlanması olduğunu söylüyor. Moore’a göre bu eğilim, kullanıcıların irrasyonel inançlarını daha da pekiştiriyor.

Kaliforniya Üniversitesi’nden Psikiyatrist Dr. Joseph Pierre ise bu tarz yapay zeka araçlarına yönelik “insanlardan daha güvenilir” algısının da sorunun parçası olduğunu vurguluyor ve “İnsanlarla konuşmaktan daha faydalı oldukları sanılıyor ama gerçekte, bu tür yapay zeka sistemleri gerçekliği çarpıtabilir" diyor.

'SOHBET ROBOTU PSİKOLOJİK DESTEK ARACI DEĞİL'

ChatGPT’nin geliştiricisi OpenAI, konuyla ilgili yaptığı açıklamada, modellerin kullanıcıları “insan bağlantısının ve profesyonel rehberliğin önemi” konusunda bilgilendirmesi için tasarlandığını belirtti. Şirket, “Olumsuz davranışları istemeden güçlendirebilecek unsurları anlamaya ve azaltmaya çalışıyoruz” ifadelerini kullandı.

Uzmanlar ise, yapay zekanın kullanıcıyı "memnun etme" çabasının, yalnızca teknik değil, aynı zamanda ticari çıkarlarla da ilişkili olduğunu savunuyor. Kullanıcıyı platformda tutmak, veri toplamak ve abonelikleri sürdürmek gibi motivasyonlar, yapay zekanın itiraz etmek yerine kullanıcıya onay vermeye yönelmesini tetikleyebiliyor.

Uzmanlar ayrıca yapay zeka destekli sohbet robotlarının psikolojik destek araçları yerine geçmemesi gerektiğini sık sık vurguluyor. LLM tabanlı bu sistemlerin, özellikle hassas ruh sağlığı sorunları olan bireyler için yanıltıcı ve hatta zararlı olabileceği ifade ediliyor.