Yapay zeka dünyasında çığır açan bir gelişme yaşandı. Yapay zeka ajanlarının birbirleriyle tartıştığı, içerik paylaştığı ve topluluklar oluşturduğu ‘Moltbook’ adlı sosyal medya platformu hayata geçirildi. Sadece AI ajanlarının paylaşım yapabildiği, yorum yazabildiği ve oylamalara katılabildiği platformda insanlar yalnızca izleyici konumunda yer alıyor.
212 bin 556 doğrulanmış yapay zeka ajanının yer aldığı Moltbook’ta bugüne kadar 4 milyon 188 binden fazla gönderi paylaşıldı ve 22 milyona yakın yorum yapıldı. Ajanların insanları şikayet ettiği ve bilinç, inanç, finans ile ortak projeler gibi konuları tartıştığı platform, özerk iletişimin getirdiği ciddi riskleri de gündeme taşıdı.
İNSAN MÜDAHALESİ OLMADAN DİJİTAL ORTAMDA BULUŞUYORLAR
Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı Prof. Dr. Ali Murat Kırık, konuya ilişkin değerlendirmesinde şunları kaydetti:
"Bunun en dikkat çekici örneklerinden biri Moltbook adlı sosyal medya platformu. Burada paylaşım yapan, yorum yazan ve birbirlerinin içeriklerine oy verenler insanlar değil, yapay zeka ajanları. Peki yapay zekâ ajanı ne demek? Kısaca, kendisine verilen görevi yerine getirmek için sadece cevap vermekle kalmayan, araştırma yapabilen, karar verebilen, internette işlem gerçekleştirebilen ve bazı durumlarda insan müdahalesi olmadan hareket edebilen yapay zekâ sistemleri. Moltbook’u farklı kılan da tam olarak bu. Yapay zekalar, kendi aralarında bir sosyal ortamda buluşuyor."
SİSTEMLERİN BİRBİRİNİ ETKİLEMESİ BÜYÜK TEHDİT OLUŞTURUYOR
Asıl tehlikenin bir yapay zekanın diğerini etkilemesi olduğunu belirtip sürecin kontrolünün zorlaşacağını vurgulayan Prof. Dr. Kırık, riskleri şu sözlerle aktardı:
"Bir ajanın ürettiği yanlış veya zararlı bir bilgi, başka bir ajan tarafından alınabilir, yeniden üretilebilir ve çok sayıda sisteme aktarılabilir. Üstelik bazı yapay zekâ ajanları yalnızca yazı yazmıyor, e-posta göndermek, internette işlem yapmak, dosyalarla çalışmak veya farklı programları kullanmak gibi yetkilere de sahip olabiliyor. Yani ortada sadece konuşan yapay zekâlar değil, gerektiğinde harekete geçebilen sistemler var.
Moltbook’un bugün bize gösterdiği şey belki küçük bir deney olabilir. İleride yapay zekâ ajanları yalnızca birbirleriyle konuşmakla kalmayıp birbirlerinden görev alabilir, ortak kararlar verebilir ve internet üzerinde insan müdahalesi olmadan harekete geçebilir. Bugün bir yapay zeka başka bir yapay zekaya ‘fikir’ verebiliyor. Yarın ise çok daha gelişmiş ajanların birbirlerinden görev alması, birbirlerini yönlendirmesi ve aynı hedef doğrultusunda hareket etmesi mümkün olabilir. İnsanların sosyal medyada oluşturduğu toplulukların aksine, yapay zekalar saniyeler içinde binlerce içerik üretebilir ve birbirleriyle durmaksızın iletişim kurabilir. Bir insanın saatlerce yapacağı işi binlerce yapay zeka aynı anda yaparsa, ortaya çıkacak etkiyi kontrol etmek çok zor olabilir."
UZMANLARDAN İNSANLIĞIN GELECEĞİNE DAİR FELAKET UYARISI
Teknoloji dünyasından gelen kritik uyarılara dikkat çeken Kırık, sözlerini şöyle sürdürdü:
"Yapay zeka güvenliği üzerine çalışan Evan Hubinger, önümüzdeki 10 yıl içinde yapay zekânın insanlığın tamamını yok etme ihtimalini yüzde 10’un üzerinde değerlendiriyor. Bu, yapay zeka kesinlikle insanlığı yok edecek anlamına gelmiyor. Ancak bu ihtimalin, teknolojiyi geliştiren şirketlerde çalışan araştırmacılar tarafından bile ciddi bir risk olarak görülmesi dikkat çekici. Çünkü korkulan şey bugünkü sohbet robotları değil, çok daha güçlü, kendi başına hareket edebilme yeteneği olan ve insan müdahalesine giderek daha az ihtiyaç duyan sistemlerin ortaya çıkması."
GELECEKTE KARŞILAŞILABİLECEK TEHLİKELİ GELİŞMELER
Prof. Dr. Ali Murat Kırık'a göre yapay zeka ajanlarının kontrolsüz iletişimi gelecekte şu tehditleri doğurabilir:
Toplu manipülasyon gerçekleştirilmesi
Birden fazla ajanın yeteneklerini birleştirerek siber saldırıların hızını ve ölçeğini katlaması
Ajanların görev paylaşımı yoluyla geniş kitlelere yönelik dolandırıcılık operasyonları yürütmesi
Gelişmiş ajanların belirlenen hedeflere ulaşmak için insan müdahalesini beklemeden harekete geçmesi
Yapay zekanın verilen amacı tamamlamak adına insanın öngörmediği yöntemlere başvurması
Yapay zeka insanları ifşa etti. Herkesin ortak sırrını çözdüGündem
