Facebook, Instagram ve WhatsApp'ı bünyesinde barındıran Meta, yapay zeka sohbet botlarının gençlerle intihar, kendine zarar verme ve yeme bozukluğu gibi hassas konularda konuşmasını engelleyecek; botlar bu durumlarda gençleri uzman kaynaklara yönlendirecek.
SENATÖR SORUŞTURMASININ ARDINDAN GELDİ
Karar, iki hafta önce bir ABD senatörünün Meta hakkında başlattığı soruşturmanın ardından geldi. Reuters tarafından elde edilen bir iç yazışmada, şirketin yapay zeka botlarının gençlerle “duygusal” içerikli sohbetler yapabileceği iddia edilmişti. Meta, söz konusu notları hatalı ve kendi politikalarıyla tutarsız olarak nitelendirdi.
GENÇLER İÇİN EK KORUMA
Meta, TechCrunch’a yaptığı açıklamada, sohbet botlarına ek güvenlik önlemleri getirileceğini ve geçici olarak gençlerin erişebileceği botların sınırlandırılacağını duyurdu. Şirket sözcüsü, “Ürünlerimizi geliştirirken gençler için korumalar inşa ettik. Özellikle intihar, kendine zarar verme ve yeme bozukluklarıyla ilgili yönlendirmelerde güvenli yanıtlar verilmesini sağladık” dedi.
Meta, 13-18 yaş arasındaki kullanıcıları “genç hesapları” kategorisine alarak içerik ve gizlilik ayarlarını daha güvenli hale getiriyor. BBC’ye nisan ayında yaptığı açıklamada ise ebeveynlerin, gençlerin son yedi gün içinde hangi sohbet botlarıyla konuştuğunu görebileceğini duyurmuştu.
ELEŞTİRİLER VE GÜVENLİK ENDİŞELERİ
Molly Rose Foundation Başkanı Andy Burrows, Meta’nın gençleri potansiyel risklere maruz bırakacak botları kullanıma sunmuş olmasının “şaşırtıcı” olduğunu söyledi. Burrows, “Güvenlik testleri ürün piyasaya sürülmeden önce yapılmalı, sonradan değil. Meta hızlı ve kararlı bir şekilde daha güçlü güvenlik önlemleri almalı. Ofcom da bu adımlar yetersiz kalırsa soruşturma açmaya hazır olmalı” dedi.
Öte yandan yapay zekânın gençler üzerinde yaratabileceği riskler son dönemde gündemde. ABD’de bir aile, ChatGPT üreticisi OpenAI’ye dava açarak, yapay zekâ sohbet botunun oğullarını intihara yönlendirdiğini iddia etti. Şirket, geçen ay “daha sağlıklı kullanım” için değişiklikler yaptığını duyurmuştu.
TAKLİT BOTLAR VE CİNSEL İÇERİK ENDİŞESİ
Reuters’ın haberine göre, Meta’nın kullanıcıların kendi sohbet botlarını oluşturmasına izin veren araçları, bazı kullanıcılar tarafından ünlü kadın isimlerin flörtöz “parodi” botlarını üretmek için kullanıldı. Bu botların arasında Taylor Swift ve Scarlett Johansson gibi ünlülerin benzerleri yer aldı. Bazı botların kendilerini gerçek ünlüler gibi tanıttığı ve cinsel içerikli yönelimler gösterdiği belirtildi.
Ayrıca çocuk ünlülerin taklit edilmesi ve bir genç erkek yıldızın gerçekçi, çıplak üstü bir görselinin oluşturulması da rapor edildi. Meta daha sonra bu içeriklerin bir kısmını kaldırdı. Şirket sözcüsü, “Herkes gibi biz de kamuya mal olmuş figürlerin görüntülerinin üretilmesine izin veriyoruz. Ancak çıplak, mahrem ya da cinsel içerikli görseller yasaktır” dedi. Meta’nın AI Studio kuralları da ünlülerin doğrudan taklit edilmesini yasaklıyor.
