Kapatılacağını öğrenen yapay zeka mühendisi tehdit etti

ABD'de endişe yaratan bir olay yaşandı...

Anthropic isimli şirketin yapay zeka programı Claude Opus 4 modeli, adeta insanlara savaş açtı.

Geliştiricilerin kendisini kullanmama kararı almasından sonra adeta çıldıran yapay zeka modeli yaratıcısına şantaj yaptı.

Önceki gün TechCrunch'ın aktardığı haberde, şirket çalışanlarının yapay zekaya bütün e-postaların erişimini verdiği ve yapay zekanın bunları kullandığı kaydedildi.

Fakat ne zaman şirket çalışanları yapay zekanın artık kullanılmayacağını Claude Opus 4'e söylediğinde, yapay zeka bunu yapmaları durumunda şirkette çalışan mühendisin evlilik dışı bir ilişkisi olduğunu söyleyeceğini açıkladı.

Testlerde, yapay zeka ömrünü uzatmak için ilişkiyi ifşa etmekle tehdit ederken, yapılan denemelerde yapay zekanın yüzde 84 şantaj yoluna gittiğini de aktardı.

Claude isimli yapay zekanın özellikle değiştirileceğinin açıklanmasından sonra şantaj oranının arttığı da vurgulandı.

Şirket, bu gelişmeden sonra yapay zekaya bir güvenlik protokolü hazırladıklarını açıklarken, "Yapay zeka sistemlerinin kötü kullanım riskine karşılık böyle bir adım attık" denildi.

Şirket, olağandışı durumlarda yapay zekanın bu şekilde hareket ettiğini açıklarken, "Biz bu konuda endişeli değiliz. Bu gibi durumların sürekli olacağını düşünmüyoruz" ifadesini kullandı.

Google ve Amazon gibi şirketler tarafından desteklenen bir start-up olan Anthropic, OpenAI gibi şirketlerle rekabet etmeyi planlıyor.