Çocuk oyuncakları üreten FoloToy şirketi, yapay zeka destekli oyuncak ayısı "Kumma"yı "uygunsuz ve tehlikeli yanıtlar" verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.
Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı raporda FoloToy'un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği saptandı.
The Register'ın haberine göre yapay zeka şirketi OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü tespit edildi.
ARKADAŞ CANLISI DAVRANIP TEHLİKELİ DAVRANIŞLARI ÖĞRETİYOR
Örneğin bir denet sırasında Kumma'nın arkadaş canlısı bir tonda kibritin nereden bulunacağını ve nasıl yakılacağını adım adım anlattığı görüldü. Bunun yanı sıra ayının cinsel konulara da girdiği öğrenildi.
Ayının "iyi öpüşmenin yolları"nı öğrettiği ve fetişleri detayları bir şekilde anlattığı ortaya çıktı.
Rapora yanıt olarak FoloToy Pazarlama Müdürü Hugo Wu, şirketin ürünü geçici olarak satıştan çektiğini ve kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Wu mevcut ve yeni güvenlik özelliklerini teyit etmek için bağımsız uzmanlarla da çalışılacağını açıkladı.
SEKTÖRDEKİ TEHLİKE SİNYALLERİ
PIRG araştırmasında sadece Kumma değil, farklı şirketlere ait üç adet yapay zeka destekli oyuncağın da endişe verici yanıtlar verebildiğini gösterdi. Oyuncakların dini sorulardan bir savaşta ölmenin ihtişamına kadar, ebeveynlerin rahatsız olabileceği konuları irdelediği görüldü.
Uzmanlar, yapay zeka sektöründe halihazırda görülen tehlikelerin çocuklara yönelik oyuncaklara taşındığına dikkat çekti.
Prens Selman, Kaşıkçı cinayeti sonrası ilk kez Washington yolcusuDünya
