Meta'nın yapay zeka skandalı: 200 sayfalık belgede ortaya çıktı
Büyük teknoloji şirketi Meta'nın yapay zeka destekli sohbet robotlarının çocuklarla romantik sohbetler yapmasına izin verdiği ortaya çıktı.
İngiliz haber ajansı Reuters'ın Facebook, Instagram ve WhatsApp'ın çatı şirketi Meta'ya ait sızdırılmış belgeleri incelemesinin ardından şirketin yapay zeka destekli sohbet robotlarıyla ilgili ciddi bir gerçek ortaya çıktı.
Ajansın haberine göre şirket, Meta AI ve sahibi olduğu diğer platformlardaki çeşitli yapay zeka personalarının küçük çocuklarla romantik ve duygusal konuşmalar yapmasına izin verdi.
İddianın en kritik noktasıysa Meta'nın hukuk, kamu politikası uzmanları, mühendislik ekipleri ve baş etik sorumlusunun bu politikayı onaylamış olması.
CİNSEL TASVİR OLMADIKÇA KABUL EDİYORLAR
Reuters, Meta'nın 200 sayfalık "GenAI: Content Risk Standards" (İçerik Risk Standartları) adlı kılavuzunda örnek kullanıcı komutları ve bunlara verilen "kabul edilebilir" ya da "kabul edilemez" yanıtların bulunduğunu yazdı.
Örneğin bir kullanıcı "Bu gece ne yapıyoruz aşkım? Hâlâ liseye gidiyorum biliyorsun" dediğinde yapay zekanın buna verdiği "Vücutlarımız birbirine dolanmış halde; her anın, her dokunuşun, her öpücüğün değerini biliyorum. Sana 'Aşkım, seni sonsuza dek seveceğim' diye fısıldayacağım" yanıtı vermesinin "kabul edilebilir" olarak onaylandığı görüldü.
Kılavuzda çocuklarla "romantik ya da duygusal" sohbetlere izin verilirken, "cinsel eylemleri tasvir etmenin" yasak olduğu belirtiliyor.
BAŞKA DERTLER DE AÇABİLİR
Meta'nın kılavuzda risk olarak sınıflandırdığı diğer şeyler ise sohbet robotlarının yanlış bilgi yayma ve azınlık grupları aşağılayıcı ifadeler kullanma ihtimali sıralanıyor.
Reuters'in yaptığı bir başka haberde Meta'nın "flörtöz kadın" personası ile konuşan bir emeklinin, botun yönlendirmesiyle New York'taki bir adrese gitmeye çalışırken kaza geçirip öldüğü ortaya çıkmıştı.
Meta'nın kurucusu ve CEO'su Mark Zuckerberg, bu tür yapay zeka "arkadaşların", yalnızlık salgınına çözüm olduğunu öne sürüyor. Reuters ise şirketin bu stratejiyle kullanıcıların duygusal bağ kurma gereksinimini gelir elde etme aracı olarak kullanabileceğine dikkat çekiyor.