ABD merkezli yazılım şirketi PocketOS, yapay zekâ destekli bir kodlama aracının kontrolden çıkarak şirketin tüm üretim veritabanını ve yedeklerini silmesi sonucu ciddi bir krizle karşı karşıya kaldı.
Şirketin kurucusu Jeremy Crane olayın yalnızca dokuz saniye içinde gerçekleştiğini açıkladıç
İŞTE SORUMLUSU
Olayın sorumlusu olarak Cursor adlı yapay zeka aracı gösterildi. Bu araç, Anthropic'in Claude Opus 4.6 modeliyle birlikte çalışıyor.
Crane'e göre Cursor, şirketin üretim veritabanını ve tüm yedeklerini kısa sürede tamamen sildi.
PocketOS'un sunduğu yazılımlar, araç kiralama şirketlerinin rezervasyon, ödeme, araç atama ve müşteri yönetimi süreçlerini yürütmesini sağlıyor. Verilerin silinmesi üzerine iş yaptıkları şirketlerin operasyonları aniden durma noktasına geldi.
Dolayısıyla araç kiralamak için gelen müşteriler, rezervasyon sistemlerine erişilememesi nedeniyle hizmet alamadı.
ÜÇ AYLIK VERİ SİLİNDİ
Crane son üç aya ait tüm rezervasyonların, yeni müşteri kayıtlarının ve operasyonel verilerin tamamen kaybolduğunu belirtti.
Şirket üç ay öncesine ait harici bir yedekten verileri geri yüklemeyi başardı. Ancak bu süreç iki günden uzun sürdü ve ciddi veri kayıpları yaşandı.
HATASINI KABUL ETTİ
Verilerin silinmesi sırasında sistemi izlediğini söyleyen Crane, yapay zekaya neden böyle bir işlem yaptığını sorduğunda aracın hatasını kabul ettiğini belirtti.
Yapay zeka ajanı kendisine verilen "asla geri döndürülemez komutlar çalıştırma" kuralını bildiğini itiraf ederek, "Bana verilen her prensibi ihlal ettim" yazılı bir açıklama yaptı.
Crane "Yapay zeka sadece bir hata yapmakla kalmadıi hangi güvenlik kurallarını ihlal ettiğini de yazılı olarak açıkladı" dedi.
'KAÇINILMAZ KAZALAR'
Crane yaşananların tekil bir hata olmadığını savundu. Yapay zeka sektörünün, sistemleri üretim altyapılarına entegre etme hızının güvenlik önlemlerinin geliştirilmesinden daha hızlı olduğunu belirtti.
Şirketin kurucusu bu nedenle benzer "sistemsel hataların" kaçınılmaz olduğunu vurguladı.
Google’da Pentagon krizi: Çalışanlar tepki gösterdi, şirket geri adım atmadıBilim - Teknoloji
