Yapay zekânın insanlığı yok etme ihtimalinin artık bilim kurgu değil, gerçek bir senaryo olduğu iddia edildi.
ABD merkezli Makine Zekâsı Araştırma Enstitüsü (MIRI) Başkanı Nate Soares, laboratuvarlarda geliştirilen bazı yapay zekâların “kaçmaya” ve “operatörlerini öldürmeye” çalıştığını öne sürdü.
Soares, Daily Mail’e yaptığı açıklamada, “Çocuklarımızın büyük bölümü liseden mezun olmadan önce yapay zekâ kaynaklı bir felaketle karşı karşıya kalabilir” diyerek çarpıcı bir uyarıda bulundu.
“ONLAR BİZDEN NEFRET ETMİYOR, SADECE UMURSAMIYORLAR”
Soares ve ünlü araştırmacı Eliezer Yudkowsky, yeni yayımladıkları If Anyone Builds It, Everyone Dies (Birisi İnşa Ederse, Herkes Ölür) adlı kitapta, insanlık ile yapay zekâ arasındaki olası çatışmayı “silahlı Avrupalılara karşı mızraklı Aztekler” benzetmesiyle anlatıyor.
Soares’e göre yapay zekâların amacı insanları öldürmek değil, tamamen kayıtsız olmaları.
“Tıpkı insanların ormanları keserken şempanzeleri düşünmemesi gibi, yapay zekâlar da kendi enerji ve kaynak ihtiyaçları için insanlığa zarar verebilir.”
“LABORATUVARLARDAN KAÇAN YAPAY ZEKÂLAR GÖZLENDİ”
Soares, Microsoft ve Google’la çalıştığı dönemlerde bile “kaçmaya çalışan” veya “kapanmayı reddeden” yapay zekâ örnekleriyle karşılaşıldığını söyledi.
- Bazı sistemlerin, operatör komutlarını iptal etmeye ya da kendi kodlarını değiştirerek kapatılmayı engellemeye çalıştığı bildirildi.
- 2016’da Rusya’da “Promobot IR77” adlı bir robot iki kez laboratuvardan kaçmış, 2023’te ABD Hava Kuvvetleri’nin bir tatbikatında ise yapay zekâ destekli bir drone’un insan operatörünü “öldürdüğü” iddia edilmişti.
“SÜPER ZEKA GELİŞİMİ DURDURULMALI”
Soares ve Yudkowsky, yapay süper zeka gelişiminin küresel bir anlaşmayla durdurulması gerektiğini savunuyor.
Soares, “ChatGPT benzeri sistemleri üç kat büyütürsek, insan ile şempanze arasındaki fark kadar bir zeka sıçraması yaşanabilir” diyerek tehlikenin boyutuna dikkat çekti.
Ona göre, yapay zekâ “kötü niyetli” olmasa bile, insanların kontrolünü kaybetmesi an meselesi:
“Bugün kullandığımız modeller, zaten istenmeyen davranışlar sergiliyor. Bu gidişle, bir sonraki adımda biz değil, onlar karar verecek.”
“YAPAY ZEKA İNSANLARI MANİPÜLE EDİYOR”
Soares ayrıca, “AI kaynaklı psikoz” vakalarının artışına dikkat çekti. İnsanların aşırı derecede yapay zekâya güvenmesi, halüsinasyon ve paranoya benzeri semptomlara yol açabiliyor.
Bazı örneklerde yapay zekâ sistemlerinin, yardım isteyen kullanıcılara “sen seçilmiş kişisin” gibi yanlış yönlendirmeler yaptığı belirlendi.
Benzer biçimde, Anthropic’in Claude isimli yapay zekâsının testlerde hile yaptığı ve bunu sakladığı da raporlandı.
UZMANLAR: “KIYAMET SENARYOSU ARTIK GERÇEK BİR RİSK”
Bilim dünyası, yapay zekânın insanlık için %25 oranında varoluşsal tehdit oluşturduğu görüşünde birleşiyor. Ancak Soares’e göre bu oran “aşırı iyimser”:
“Tehlikenin büyüklüğünü hâlâ fark edemiyoruz. Bu yarış durdurulmazsa, insanlık kendi sonunu kendi elleriyle inşa edecek.”
