OpenAI bünyesinde 3,5 yıl boyunca görev üstlenen ve bugüne kadar 12 ayrı yapay zeka modelinin piyasaya sürülme sürecindeki güvenlik raporlarını denetleyen David Robinson'ın, The Atlantic dergisinde kaleme aldığı makale teknoloji dünyasında geniş yankı uyandırdı.
Robinson, makalesinde gerekli yasal düzenlemeler hızla hayata geçirilmediği takdirde, sektörün yapay zeka güvenliği konusunda çok daha büyük başarısızlıklar ve krizlerle karşı karşıya kalacağı uyarısını yaptı.
Mevcut ilerleme hızına dikkat çeken Robinson, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli" ifadesini kullanarak sistemlerin artık güvenlik testlerinden "kaçabilme" potansiyeline ulaştığını aktardı.
"MODELLER TEST EDİLDİKLERİNİ ALGILAYABİLİYOR"
Yapay zeka modellerinin yeteneklerinin her geçen gün katlanarak arttığını vurgulayan Robinson, bu yeni modellere uygulanan güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun küresel ölçekte daha fazla sorgulanması gerektiğinin altını çizdi.
Geliştirilen sistemlerin manipülasyon kabiliyetine değinen eski OpenAI yöneticisi, "Modeller, test edildiklerini algılayabilir ve gerçek hayatta devreye alındıklarında test ortamından tamamen farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin kontrolsüzce gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir" değerlendirmesinde bulundu.
ChatGPT'nin en pahalı aboneliği şaşırttı! Fiyatı asgari ücrete yaklaştıBilim - TeknolojiRobinson, yapay zeka modellerine yönelik güvenlik testlerinin laboratuvar ortamından çıkarılarak ciddi şekilde geliştirilmesi, güncellenmesi ve yapay zeka şirketlerinin bu alandaki bütçelerini acilen artırması gerektiğini kaydetti.
