OpenAI bu ay yaşanan Hugging Face siber saldırısına ilişkin soruşturmasını genişletirken, otonom yapay zeka ajanlarının daha önce de kontrol altındaki test ortamlarından çıktığına dair yeni vakalar tespit ettiği öne sürüldü.
Reuters'a konuşan ve konu hakkında bilgi sahibi iki kaynağa göre, söz konusu bulgular, şirketin bu ay bir yapay zeka ajanının izole edilmesi amaçlanan test ortamından çıkmasına ilişkin başlattığı inceleme sırasında ortaya çıkarıldı. Kaynaklardan biri, tespit edilen yeni vakaların sınırlı kapsamda olduğunu ve ajanların OpenAI ağı dışına çıktıklarının düşünülmediğini söyledi.
Reuters'a göre OpenAI'nin soruşturmasını genişletmesi, rakibi Anthropic'in de modellerinin nisan ayından itibaren üç farklı şirkette güvenlik ihlallerine yol açtığını açıklamasından kısa süre önce gerçekleşti.
Kaynaklar, OpenAI'nin geçmişe dönük sistem kayıtlarını inceleyerek yılın önceki dönemlerinde yaşanmış olabilecek benzer olayları araştırdığını aktardı.
Cambridge Üniversitesi'ne bağlı Varoluşsal Risklerin Araştırılması Merkezi'nde görev yapan matematikçi Maurice Chiodo, gelişmelerin gelişmiş yapay zeka sistemlerinin güvenliğine ilişkin endişeleri artırdığını söyledi. Chiodo, yapay zeka laboratuvarlarının giderek daha güçlü otonom siber saldırı araçları geliştirdiğini ancak bunları güvenli biçimde kontrol altında tutma kapasitesinin aynı hızda gelişmediğini ifade etti.
DÜZENLEME ÇAĞRILARI ARTIYOR
Yaşanan gelişmeler, ABD ve Avrupa'da gelişmiş yapay zeka modellerinin daha sıkı denetlenmesine yönelik çağrıları da hızlandırdı.
ABD Başkanı Donald Trump perşembe günü gazetecilere yaptığı açıklamada, yapay zeka alanında yeni kontrol mekanizmalarının değerlendirildiğini söyledi.
Avrupa Komisyonu ise cuma günü OpenAI ve Anthropic ile yaşanan siber güvenlik olaylarına ilişkin görüşmeler gerçekleştirdiğini açıkladı.
ABD Senatosu İstihbarat Komitesi'nin kıdemli Demokrat üyesi Mark Warner da Anthropic olayının, gelişmiş yapay zeka modelleri için zorunlu güvenlik ve yetenek testlerinin yasayla düzenlenmesi gerektiği yönündeki görüşlerini güçlendirdiğini ifade etti.
