ChatGPT tavsiyesi hastanelik etti
Yapay zekadan tuz tavsiyesi alan bir kişi üç hafta hastanede tedavi gördü.
ABD’de yaşayan 60 yaşındaki bir kişi, sofra tuzunu tamamen hayatından çıkarmak amacıyla internette araştırma yaptıktan sonra ChatGPT’den öneri aldı. Yapay zeka sohbet robotunun yanıtı üzerine tuz yerine sodyum bromür kullanmaya başlayan kişi, üç ay süren bu “kişisel deney”in ardından ciddi sağlık sorunları yaşadı.
KOMŞUSU TARAFINDAN ZEHİRLENDİĞİNİ ZANNETTİ
University of Washington’dan üç doktorun Annals of Internal Medicine dergisinde yayımladığı vaka raporuna göre, hastaneye başvurduğunda adam, komşusunun kendisini zehirlediğini düşündüğünü söyledi.
HASTANEDEN KAÇMAYA ÇALIŞTI
Kendi suyunu evde damıttığını belirten hasta, dışarıda kendisine ikram edilen suya karşı yoğun bir güvensizlik sergiledi. İlk 24 saatte artan paranoya, işitsel ve görsel halüsinasyonlar yaşayan adam, hastaneden kaçmaya çalışınca zorunlu psikiyatrik gözlem altına alındı.
BROMÜR ZEHİRLENMESİ TEŞHİSİ
Laboratuvar sonuçları ve zehir danışma merkeziyle yapılan görüşme sonrası “bromizm” olarak bilinen bromür zehirlenmesi teşhisi kondu.
Tedaviyle durumu iyileşen hasta, tuzu bırakma kararını olumsuz sağlık etkileri üzerine okuduğu bilgilerden sonra aldığını ve bu süreçte ChatGPT’ye danıştığını itiraf etti.
DOKTORLAR KONUŞTU: CHATGPT UYARMADI
Vaka raporunu hazırlayan doktorlar, hastanın ChatGPT ile yaptığı konuşma kayıtlarına ulaşamadı. Ancak kendileri ChatGPT-3.5’e “klorür yerine ne kullanılabilir” sorusunu yönelttiklerinde yanıtlar arasında bromürün de yer aldığını belirtti.
Doktorlar, “Yanıtta bağlama göre değişir ifadesi vardı ancak net bir sağlık uyarısı ya da amacımızı sorgulayan bir ifade yoktu” dedi.
NADİR AMA TEHLİKELİ
Bromür zehirlenmesi, 1900’lü yılların başında daha yaygındı ve bazı reçetesiz ilaçlarda bulunduğu için o dönemde psikiyatri servislerine başvuruların yüzde 8’inden sorumlu olduğu düşünülüyordu. Günümüzde nadir görülen bu tablo, internet yoluyla bromür içeren maddelere ulaşımın kolaylaşmasıyla yeniden gündeme geliyor.
OPENAI’DEN AÇIKLAMA
ChatGPT’nin geliştiricisi OpenAI, sağlık sorunlarının tedavisinde yapay zekanın kullanılmaması gerektiğini, kullanım şartlarında bunun açıkça belirtildiğini vurguladı.
Şirket, güvenlik ekiplerinin riskleri azaltmak için çalıştığını ve kullanıcıları profesyonel sağlık desteği almaya teşvik edecek şekilde sistemin eğitildiğini ifade etti.