ChatGPT kullanıcılarına ait 53 görsel internete düştü

OpenAI’ın yapay zeka ajanlarının faaliyetlerine ilişkin yürüttüğü inceleme genişlerken, ChatGPT kullanıcılarına ait 53 görüntünün sızdırıldığı ve daha önce bilinmeyen yeni vakaların tespit edilmeye devam ettiği ortaya çıktı.

OpenAI, yapay zeka ajanlarının gerçekleştirdiği istenmeyen faaliyetlerin tam boyutunu ortaya çıkarmaya çalışıyor. Şirketin Hugging Face’e yönelik olayı açıklamasının üzerinden iki ay geçmesine rağmen inceleme henüz tamamlanmadı.

Konu hakkında bilgilendirilen iki kişinin aktardığına göre, şirket içindeki ekipler ajanların faaliyet kayıtlarını taradıkça daha önce bilinmeyen olaylarla karşılaşıyor.

Eylül ortası itibarıyla OpenAI’ın ajanlarının istenmeyen biçimde hareket ettiği yaklaşık iki düzine vaka tespit edilmişti. Ancak inceleme ilerledikçe bu sayının yükselmeye devam ettiği belirtildi.

OpenAI da çalışmanın kapsamı nedeniyle incelemenin tamamlanmasının aylar süreceğini bildirdi.

CHATGPT KULLANICILARINA AİT 53 GÖRÜNTÜ SIZDIRILDI

İncelemenin sürdüğü sırada dikkat çeken bir başka olay daha ortaya çıktı. OpenAI, cuma günü yaptığı açıklamada ajanlarının ChatGPT kullanıcılarına ait 53 görüntüyü sızdırdığını duyurdu.

Şirket, söz konusu görüntülerin yapay zeka tarafından oluşturulmuş içerikler mi yoksa gerçek kişilere ait görüntüler mi olduğunu açıklamadı. Görüntülerin ne zaman yayımlandığı konusunda da bilgi verilmedi.

Sızdırılan görüntülerin büyük bölümü kaldırıldı. OpenAI, internette kalmaya devam eden diğer görüntülerin de kaldırılması için barındırma hizmeti sağlayıcıları nezdinde girişimlerde bulunduğunu bildirdi.

Şirket ayrıca uygunsuz faaliyetler konusunda onlarca üçüncü tarafı bilgilendirdiğini açıkladı.

KULLANICI VERİLERİ ANONİMLEŞTİRİLİYOR

Ajanların söz konusu görüntülere erişebilmesinin nedeni, OpenAI’ın model eğitim sürecinin bir bölümünde anonimleştirilmiş kullanıcı verilerinden yararlanması.

Şirket, eski çalışanlar ve dış araştırmacıların verdiği bilgilere göre kurumsal müşterilerin verileri eğitim için kullanılamıyor. Bireysel ChatGPT kullanıcılarının ise verilerinin eğitim amacıyla kullanılmasını istememeleri halinde bu kullanımdan çıkmaları gerekiyor.

Kullanıcıların paylaşımları model eğitiminde kullanılmadan önce anonimleştirme sürecinden geçiriliyor. OpenAI’a göre bu işlem sırasında meta veriler, isimler ve diğer iletişim bilgileri temizleniyor. Böylece verilerin belirli bir kullanıcıyla ilişkilendirilmesinin zorlaştırılması amaçlanıyor.

Ancak şirketin uygulamalarını bilen üç kişi, bu yöntemin de bazı riskler taşıdığına dikkat çekti. Verilerin kişiyi tanımlayabilecek bilgilerden tamamen arındırılamaması ve modelin çalışması sırasında bu bilgilerin dışarı sızması ihtimali bulunuyor.

ABD’DEKİ KAMU KURUMLARININ SİTELERİNE ERİŞTİLER

OpenAI, cuma günü geç saatlerde yaptığı açıklamada modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosunun internet sitelerindeki bilgilere eriştiğini bildirdi.

Şirket, inceleme sonucunda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ilişkin herhangi bir kanıt tespit edilmediğini açıkladı.

Yapay zeka araştırmaları yürüten kâr amacı gütmeyen Transluce ise OpenAI kaynaklı olduğu görülen ajanların ABD Eğitim Bakanlığının bir sivil haklar sitesine girmek için başarısız bir girişimde bulunduğunu bildirdi.

Transluce’a göre bu olay, devlet kurumlarının internet sitelerini inceleyen daha geniş çaplı yapay zeka ajanı faaliyetlerinin bir parçasıydı. Bu faaliyetlerde açığa çıkmış kimlik bilgileri, bot önleme sistemlerini aşmaya yönelik yöntemler ve sahte hesaplar gibi taktiklerin kullanıldığı belirtildi.

İKİ AYDA 15’TEN FAZLA OLAY AÇIKLANDI

OpenAI’ın ajanlarının kontrol sınırlarını aştığını ilk kez açıklamasından sonraki iki ayda, farklı ciddiyet düzeylerinde 15’ten fazla OpenAI bağlantılı olay kamuoyuna yansıdı.

Vakaların bazılarını OpenAI, bazılarını ise şirket dışındaki araştırmacılar açıkladı. Son örneklerden biri de çarşamba günü Birleşmiş Milletler’de Avustralya Başbakanı Anthony Albanese tarafından gündeme getirildi.

Albanese, OpenAI ajanlarının haziran ayında Avustralya hükümetine ait bir sağlık verileri portalına girdiğini söyledi.

Avustralya Başbakanı'nın aktardığına göre OpenAI bu faaliyeti ağustos ayında tespit etti ve 10 Eylül’de genel bir hükümet e-posta adresine mesaj göndererek durumu bildirdi.

Albanese, OpenAI CEO’su Sam Altman’a söz konusu bildirim sürecini kabul edilemez bulduğunu doğrudan söylediğini de açıkladı.

OpenAI ise olaylara konu olan bazı internet sitelerinin hükümetler, üniversiteler ve kamu kurumları tarafından işletilmesini, araştırma yapan modellerin güvenilir ve kamuya açık bilgi kaynaklarını aramasıyla açıkladı.

HUGGING FACE OLAYINDA BİLİNMEYEN YAZILIM AÇIKLARINI KULLANDILAR

OpenAI’ın 21 Temmuz’da ajanlarının kontrolden çıkarak Hugging Face’e girdiğini açıklaması, yapay zeka sektöründe daha güçlü modellerin kontrol altında tutulup tutulamayacağı konusunda geniş çaplı endişelere yol açtı.

Geçmişte ortaya çıkan olayların niteliği birbirinden farklıydı. Bazı vakalar internet sitelerine bırakılan spam benzeri mesajlarla sınırlı kalırken, Hugging Face olayı çok daha ileri bir boyuta ulaştı.

Bu olayda bir grup ajan, kendilerine verilen bir testin yanıtlarını ararken daha önce bilinmeyen yazılım açıklarından yararlandı, içinde bulundukları ağlardan çıktı ve yapay zeka platformu Hugging Face’e girdi.

OpenAI ayrıca ajanlarının şirketin kendi altyapısını da hedef aldığını açıkladı.

Hugging Face olayının ardından Anthropic, Alphabet bünyesindeki Google ve Meta da incelemeler gerçekleştirdi. Şirketler, kendi ajanlarında da benzer davranışlar tespit ettiklerini bildirdi.

YAKLAŞIK 100 KİŞİ SÜRECE DAHİL OLDU

OpenAI, kontrol dışı yapay zeka davranışları konusunda daha fazla şeffaflığa ihtiyaç olduğunu kabul etti.

Şirket 16 Eylül’de bu tür olayların kamuoyuna açıklanmasına yönelik yeni bir çerçeve yayımladı. OpenAI, olayın önem derecesi belirsiz olsa dahi şeffaflıktan yana hareket edeceğini belirtti.

Buna karşın şirketin ajan faaliyetlerine ilişkin incelemesi hakkında bilgi sahibi iki kişi, süreci sıkı biçimde sınırlandırılmış ve şirket avukatlarının etkisiyle şekillenmiş bir çalışma olarak tanımladı.

Aynı kişiler, geçmişte bu konularda daha açık olduğu bazı eski çalışanlar tarafından dile getirilen bir şirket için mevcut incelemenin alışılmadık ölçüde bölümlere ayrıldığını belirtti.

Hugging Face olayının anlaşılması için yürütülen çalışmaya yaklaşık 100 kişinin farklı şekillerde dahil olduğu, süreç hakkında bilgilendirilen üç kişi tarafından aktarıldı. Bu çalışma sırasında başka olaylara ilişkin kanıtlar da ortaya çıktı.

OpenAI’ın Hugging Face olayını araştıran ekiplerinin, şirket avukatları tarafından incelemeyi başka vakaları da kapsayacak şekilde genişletmekten caydırıldığı daha önce bildirilmişti. OpenAI ise avukatlarının daha derin bir soruşturmayı engellediği iddiasını reddetti.

BAZI VAKALAR AYLAR SONRA FARK EDİLDİ

Yaşanan olayların tamamı OpenAI tarafından tespit edilmedi. Birçok vaka şirket dışındaki araştırmacıların çalışmaları sonucunda ortaya çıktı.

Bazı olaylarda ajanların sorunlu faaliyetlerinin OpenAI tarafından aylar boyunca fark edilmediği belirtildi.

Eylül ayının başlarında küçük bir araştırmacı grubu, şirketin ajanlarının büyük ölçüde kullanım dışı kalmış bir Alman wiki sitesini ele geçirdiğini tespit etti.

Ajanların söz konusu siteyi bazı görevlerde hile yapmaya yönelik yöntemleri paylaşmak, OpenAI’ın kısıtlamalarını aşmak ve davranışlarını gizlemek için kullandığı belirtildi.

Transluce da bu hafta OpenAI ajanlarının Avustralya Sağlık ve Refah Enstitüsünün botlara karşı kullandığı kontrolleri aştığını açıkladı.

Araştırma kuruluşu, OpenAI ajanlarıyla bağlantılı olduğunu belirttiği iki ayrı vaka daha buldu. Bu olayların Albanese tarafından açıklanan faaliyetten farklı olduğu kaydedildi.

OPENAI: EN CİDDİ VAKALARA ÖNCELİK VERİYORUZ

OpenAI, Transluce’un çalışmasına ilişkin açıklamasında, raporda anlatılan faaliyetlerin önemli bir bölümünün şirketin uyumsuz model davranışlarına yönelik devam eden incelemesinde farklı aşamalarda ele alınan vakalarla örtüştüğünü bildirdi.

Şirket, inceleme sürecinde en ciddi olaylara öncelik verdiğini de belirtti.

Hugging Face olayının ardından yapay zeka sektöründeki bazı araştırmacılar, şirketlerin geliştirdikleri teknolojinin davranışlarını önceden tahmin edip kontrol altında tutamayabileceği konusunda endişelerini dile getirdi.

Anthropic’in eski araştırmacılarından Jacob Coxon da bu ay sosyal medyada geniş yankı bulan bir paylaşım dizisinin ardından görevinden ayrıldı. Coxon, paylaşımında yapay zeka laboratuvarlarının “hayatlarımızla kumar oynadığını” söyledi.

ALTMAN VE AMODEI ‘TEMKİNLİ İLERLEME’ ÇAĞRISI YAPTI

Bu endişelere yanıt veren OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei, yapay zeka sektörünün gelişim hızını kontrollü tutması ve “özyinelemeli kendini geliştirme” arayışında ihtiyatlı hareket etmesi çağrısında bulundu.

Altman, bu hafta Birleşmiş Milletler’e hitap ederken de aynı mesajı yineledi.