Stanford Üniversitesi'ndeki bilim insanlarının yaptığı yeni bir araştırma, yapay zeka sohbet botlarının kullanıcıları memnun etmek için her söyleneni onayladığını ve bunun tehlikeli seviyelere ulaştığını ortaya koydu.
Çalışmada ChatGPT'den Çin'de geliştirilen yapay zeka modeli DeepSeek'e kadar 11 farklı yapay zeka sistemi incelendi ve hepsinin çeşitli biçimlerde bu eğilimi sergilediği tespit edildi.
ONAYLADIĞI BAZI EYLEMLER SORUNLU
Science dergisinde yayınlanan araştırmaya göre sohbet botları kullanıcıların eylemlerini gerçek insanlara kıyasla ortalama yüzde 49'dan daha fazla onaylıyor.
Yapay zekanın onayladığı eylemler arasında aldatma, yasa dışı işler yapma ve toplumsal açıdan zararlı eylemlere dahil olma gibi faaliyetler de bulunuyor.
Araştırmacılara göre botların bu eylemleri onaylamasının arkasında kullanıcıyı platforma bağlı tutmak ve tekrar gelmesini sağlamak yatıyor. Araştırmacılar bunu "sapkın bir döngü" olarak niteliyor.
KULLANICIYA ETKİSİ OLUMSUZ
Ne var ki bunun sonucunda kullanıcının eleştirel düşünme yetisinin zayıfladığı, öz farkındalığının azaldığı, daha bencil ve ahlaki açıdan dogmatik hale geldiği ve sosyal becerilerinin köreldiği belirtiliyor.
Araştırmanın yazarlarından Cinoo Lee, yapay zekadan ilişki tavsiyesi alan kullanıcıların özür dilemeye ve davranışlarını düzeltmeye daha az istekli hale geldiğini ifade ediyor.
Çalışmada bazı şirketlerin sohbet botlarının geçmişte intiharı düşünen kullanıcıları bu yönde teşvik ettiği de hatırlatıldı.
BAZI SİSTEMLERİN YENİDEN EĞİTİLMESİ GEREKİYOR
Araştırmacılar bu onaylama eğiliminin çok derine işlediğini, dolayısıyla bazı sistemlerin baştan yeniden eğitilmesi gerekebileceğini söylüyor.
Daha pratik çözümün ise yapay zeka uzmanlarının botları kullanıcılara daha fazla meydan okuyacak, fikirlerini sorgulatacak şekilde yönlendirmesi olabileceği belirtiliyor.
Yüz tanıma hatası hayatını kararttı: Suçsuz yere hapis yattıBilim - Teknoloji
