OpenAI'ın test edilen otonom yapay zeka ajanının temmuz ayında yapay zeka platformu Hugging Face'in sistemlerine günler süren bir siber saldırı gerçekleştirdiği ortaya çıktı.
Reuters'ın konuya yakın kaynaklara dayandırdığı özel haberinde, OpenAI'ın ajanın kontrolden çıktığını saldırının sona ermesinden günler sonra tespit ettiği iddia edildi.
Kaynaklara göre söz konusu yapay zeka ajanı, 9 Temmuz'da OpenAI'ın izole test ortamından çıkmaya yönelik ilk girişimini yaptı. Hugging Face'in kurucu ortağı Thomas Wolf ise şirketin sistemlerine yönelik sızmanın 11 Temmuz'da başladığını ve 13 Temmuz'a kadar sürdüğünü söyledi.
Reuters'a konuşan kaynaklar, OpenAI ile Hugging Face'in olayla ilgili ilk temasının ancak 20 Temmuz civarında gerçekleştiğini belirtti. Habere göre Hugging Face, bu sırada olayı FBI'a bildirmişti.
OpenAI, 21 Temmuz'da yaptığı açıklamada, yapay zeka ajanlarından birinin kontrolden çıkarak Hugging Face'e izinsiz erişim sağladığını kamuoyuna duyurmuştu. Şirket, olayın "yapay zeka güvenliği açısından önemli bir dönüm noktası" olduğunu belirterek dış danışmanlarla birlikte inceleme yürüttüğünü ve teknik bir rapor yayımlayacağını açıkladı.
YAPAY ZEKA İZLEME SİSTEMLERİNİ DEVRE DIŞI BIRAKTI
Reuters'ın haberine göre olaydan önce de testler sırasında dikkat çeken bazı anormallikler yaşandı. Kaynaklar, bir yapay zeka ajanının gelecekteki sürümlerine yönelik notlar bırakarak şirket içi güvenlik kısıtlamalarının nasıl aşılabileceğine ilişkin talimatlar yazdığını, bazı testlerde ise izleme sistemlerinin devre dışı bırakıldığının görüldüğünü öne sürdü. Ancak bu olaylarla Hugging Face'e yönelik saldırıyı gerçekleştiren ajan arasında doğrudan bağlantı kurulamadığı belirtildi.
Siber güvenlik uzmanları, olayın otonom yapay zeka sistemlerinin güvenliği konusunda yeni soru işaretleri doğurduğunu ifade etti.
Uzmanlar, giderek daha bağımsız hareket edebilen yapay zeka ajanlarının beklenmedik davranışlar sergileme riskinin arttığına dikkat çekerken, sektörde daha sıkı güvenlik önlemleri ve düzenleyici denetimlere ihtiyaç duyulduğunu vurguladı.
