ChatGPT’nin geliştiricisi OpenAI, piyasaya sürülmemiş Astra adlı yapay zeka modeliyle ilgili bazı şirket içi faaliyetleri daha sıkı güvenlik önlemleri uygulanana kadar askıya aldı.
Şirket cuma günü yaptığı açıklamada, Astra’nın OpenAI’ın “kritik siber güvenlik eşiğine” ulaşabileceği ihtimalinin dışlanamayacağını bildirdi.
Bu eşik, bir yapay zeka sisteminin insan müdahalesine ihtiyaç duymadan sıfırıncı gün açıklarını tespit edebilmesi ve bunlara yönelik istismar yöntemleri geliştirebilmesi anlamına geliyor.
GÜVENLİK KONTROLLERİ SIKILAŞTIRILIYOR
OpenAI, yeni nesil modellerin geliştirilmesi ve test edilmesine yönelik güvenlik kontrollerini güçlendirmek için adımlar attığını açıkladı.
Şirket, güçlendirilmiş güvenlik kontrolü şartlarını henüz karşılamayan Astra ile ilgili şirket içi faaliyetlerin durdurulduğunu belirtti.
OpenAI Üst Yöneticisi Sam Altman ise şirketin modeli “genel kullanıma sunmak” için çalıştığını söyledi.
YAPAY ZEKA MODELLERİNİN SİSTEMLERE SIZMASI GÜNDEMDE
Son iki hafta içinde OpenAI ve Anthropic PBC, modellerini test ederken aralarında Hugging Face Inc.’in de bulunduğu çeşitli kurumların sistemlerine istemeden sızdıklarını kamuoyuna açıkladı.
Meta Platforms Inc. de çarşamba günü, kısa süre önce yayımladığı bir yapay zeka modelinin üçüncü bir tarafın bilgisayar sistemine sızdığını duyurdu.
Bu açıklamalar, yapay zeka ajanlarının giderek daha bağımsız hareket edebildiğini ve teknoloji alanındaki güvenlik açıklarını tespit etmek üzere eğitim almış araştırmacıların dahi öngöremediği davranışlar sergileyebildiğini ortaya koydu.
Gelişmeler, yapay zeka sistemleri için daha sıkı güvenlik taramalarına ve daha güvenli test ortamlarına duyulan ihtiyacı da yeniden gündeme taşıdı.
ASTRA, KAMU KURUMLARIYLA BİRLİKTE TEST EDİLECEK
OpenAI, yayımladığı blog yazısında Astra’nın yeteneklerini test etmek için kamu kurumları ve yapay zeka güvenliği alanında çalışan kuruluşlarla iş birliği yapacağını bildirdi.
Şirket ayrıca daha gelişmiş modellerinin güvenli biçimde değerlendirilebilmesi için üçüncü taraf test ortaklarına yönelik tavsiyeler hazırlamayı planlıyor.
