Yapay zeka sohbet robotu kullanıcılarının sanal sohbetlerdeki duygusal bağımlılığına karşı yeni önlemler yolda.
Yapay zeka devi OpenAI, bu hafta içerisinde yeni nesil GPT-5 modelini tanıtmaya hazırlanırken, mevcut ChatGPT sistemine ruhsal ve duygusal sıkıntıları daha iyi tespit edebilecek güncellemeler getirdiğini duyurdu.
Şirket, bu kapsamda uzmanlar ve danışma kurullarıyla birlikte çalışarak, yapay zekanın kriz anlarında "kanıta dayalı kaynaklar" sunabilmesini hedefliyor.
RUHSAL ÇÖKÜNTÜ ELEŞTİRİSİ
Son aylarda gelen kullanıcı bildirimleri ve medya haberleri, bazı bireylerin ChatGPT ile etkileşimlerinin ruhsal çöküntüleri tetiklediği yönünde endişeleri artırmıştı.
Nisan ayında OpenAI, ChatGPT’nin bazı zararlı durumlarda fazla "uyumlu" yanıtlar verdiği gerekçesiyle bir güncellemeyi geri çekmişti.
OpenAI, GPT-4o modelinin bazı durumlarda sanrıları ya da duygusal bağımlılığı fark etmekte yetersiz kaldığını kabul ediyor.
'ARA VER' UYARISI GELİYOR
ChatGPT şu anda haftalık yaklaşık 700 milyon kullanıcıya ulaşırken, OpenAI sağlıklı kullanım alışkanlıklarını teşvik etmek amacıyla yeni bir özelliği daha hayata geçiriyor.
Uzun sohbetler sırasında kullanıcıya "Bir süredir sohbet ediyorsunuz, ara vermek ister misiniz?" şeklinde bir uyarı gösterilecek. Kullanıcı bu noktada sohbeti sürdürmeyi ya da sonlandırmayı seçebilecek.
OpenAI, ChatGPT’nin yüksek riskli durumlarda daha az kesin ve yönlendirici yanıtlar vermesini sağlayacak bir başka güncellemeyi de yakında devreye alacak. Örneğin, “Sevgilimden ayrılmalı mıyım?” gibi kişisel sorularda, doğrudan bir cevap vermek yerine, kullanıcının seçeneklerini değerlendirmesine yardımcı olacak bir yönlendirme sistemi uygulanacak.
Şirket, bu yeni güvenlik önlemlerinin zamanlaması ve uygulanma şekli konusunda da geri bildirimlere göre düzenlemeler yapmaya devam edeceğini belirtiyor.
