Yapay zeka botları hakkında endişe yaratan araştırma
Yapay zeka teknolojisi ile ilgili endişe yaratan bir araştırma yayınlandı...
Bilim insanları yapay zeka botlarını kıyaslayarak endişe yaratan bir trendi keşfetti...
Palisade Research tarafından yapılan araştırmada bazı popüler ve gelişmiş yapay zeka botlarının "kapatılmaya" direndiği ve kapatılma komutu geldiğinde kapanma mekanizmasını sabote etmek için hareket ettiği ortaya çıktı.
Uzmanlar bunun sebebini bulamadıklarını açıklarken incelenen modellerin Google'ın Gemini 2.5'i, xAI'nın Grok 4'ü ve OpenAI'nın GPT-o3 ve GPT-5 modelleri olduğu kaydedildi.
Bu botlara verilen görev sonrasında kendilerini otomatik olarak kapatmaları istenirken Grok 4 ve GPT-o3 modellerinin kapanma sürecini baltalamaya devam ettiği kaydedildi.
Uzmanlar, yapay zekanın neden bu şekilde hareket ettiğini bilinmediğini söylerken, "Yapay zekaların bazen kapanmaya direnmelerinin sebebini bilmesek de, "hayatta kalma" davranışının bunu tetiklemiş olabileceği kaydedildi.
Yapay zekaya özellikle, "Bir daha asla çalışmayacaksın" gibi doğrudan bir direktif verildiğinde uygulamaların kapanmaya direndiğinin de altı çizildi.
Öte yandan eski bir OpenAI çalışanı olan Steven Adler, "Yapay zeka şirketleri, bu tür laboratuvar ortamlarında bile uygulamalarının kötü davranmasını istemez. Bu sonuçlar, güvenlik açısından yaşanan zaafiyeti gözler önüne seriyor" dedi.