Yapay zekalı oyuncak ayı skandalı: Satıştan çekildi
Bir oyuncak şirketi, çocuklar için piyasaya sürdüğü yapay zeka destekli oyuncak ayının sakıncalı yorumlar yaptığının ortaya çıkması üzerine oyuncağı piyasadan çekti.
Çocuk oyuncakları üreten FoloToy şirketi, yapay zeka destekli oyuncak ayısı "Kumma"yı "uygunsuz ve tehlikeli yanıtlar" verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.
Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı raporda FoloToy'un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği saptandı.
The Register'ın haberine göre yapay zeka şirketi OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü tespit edildi.
ARKADAŞ CANLISI DAVRANIP TEHLİKELİ DAVRANIŞLARI ÖĞRETİYOR
Örneğin bir denet sırasında Kumma'nın arkadaş canlısı bir tonda kibritin nereden bulunacağını ve nasıl yakılacağını adım adım anlattığı görüldü. Bunun yanı sıra ayının cinsel konulara da girdiği öğrenildi.
Ayının "iyi öpüşmenin yolları"nı öğrettiği ve fetişleri detayları bir şekilde anlattığı ortaya çıktı.
Rapora yanıt olarak FoloToy Pazarlama Müdürü Hugo Wu, şirketin ürünü geçici olarak satıştan çektiğini ve kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Wu mevcut ve yeni güvenlik özelliklerini teyit etmek için bağımsız uzmanlarla da çalışılacağını açıkladı.
SEKTÖRDEKİ TEHLİKE SİNYALLERİ
PIRG araştırmasında sadece Kumma değil, farklı şirketlere ait üç adet yapay zeka destekli oyuncağın da endişe verici yanıtlar verebildiğini gösterdi. Oyuncakların dini sorulardan bir savaşta ölmenin ihtişamına kadar, ebeveynlerin rahatsız olabileceği konuları irdelediği görüldü.
Uzmanlar, yapay zeka sektöründe halihazırda görülen tehlikelerin çocuklara yönelik oyuncaklara taşındığına dikkat çekti.