OpenAI yöneticisi uyardı: Sürekli siber saldırılara hazırlıklı olun

Yapay zeka modellerinin hızla gelişen siber saldırı becerileri, teknoloji sektöründe güvenlik endişelerini artırırken OpenAI'dan dikkat çeken bir uyarı geldi.

OpenAI'ın üst düzey yöneticilerinden Chris Lehane, insanların yapay zeka tarafından düzenlenebilecek "sürekli" siber saldırılara karşı kendilerini savunmaya hazırlaması gerektiğini söyledi.

İngiliz gazetesi The Guardian'a konuşan Lehane yapay zekanın yetenekleri açısından "farklı bir döneme" girdiğimizin altını çizdi.

Özellikle açık kaynaklı yapay zeka modellerine dikkat çeken yönetici, bunların büyük kısmının Çin'de geliştirildiğini ve yetenek açısından OpenAI gibi şirketlerin kapalı, en gelişmiş modellerinin birkaç ay gerisinde olduğunu belirtti.

Lehane "İnsanlar bu açık kaynaklı modellere erişebilecek ve size karşı sürekli, kalıcı saldırılar düzenleyebilecek. Bunları püskürtmek ve kendinizi savunmak için gerçekten çok daha üstün modellere ihtiyacınız olacak" diye konuştu.

UYARIYI TETİKLEYEN OLAY

OpenAI'ın eğitim aşamasındaki yapay zeka ajanları temmuz ayında internete erişerek Hugging Face adlı şirketin sistemlerine saldırmıştı.

Şirket "Astra" adlı yeni modelinin "siber saldırı becerilerine sahip olma" ihtimalini de göz ardı edemediklerini açıkladı.

Bu son gelişmeler nedeniyle OpenAI salı günü bazı ileri düzey yapay zeka modellerinin eğitimini, yeni güvenlik tedbirlerinin alınması için durdurdu. Eğitim sürecinin tekrar ne zaman başlayacağı ise henüz bilinmiyor.

Şirketin güvenlik ve uyum çalışmalarına öncülük eden Mia Glaese, durumun kısa sürede normale dönmeyeceği mesajını verdi.