Anthropic, iki yıl içinde yapay zekanın kara kutusunu açmak istiyor

Yapay Zeka Şirketi Anthropic, Yapay Zekanın “Kara Kutusu”nu Açmaya Hazırlanıyor!

Yapay zeka teknolojileri her geçen gün daha güçlü hale gelirken, bu sistemlerin nasıl çalıştığı halen tam anlamıyla çözülebilmiş değil. Anthropic CEO’su Dario Amodei, yayınladığı dikkat çekici bir makalede, bu bilinmezliğin tehlikelerine dikkat çekerek şirketinin 2027 yılına kadar yapay zeka modellerindeki sorunların büyük kısmını tespit edebilecek seviyeye ulaşmayı hedeflediğini açıkladı.

Yapay Zekanın Çalışma Mekanizmaları ve Güvenlik Riskleri!

“The Urgency of Interpretability” başlıklı makalede Amodei, mevcut yapay zeka modellerinin nasıl karar verdiğini tam olarak anlayamamanın ciddi bir güvenlik riski oluşturduğunu ifade ediyor. Amodei, “Bu sistemler ekonomi, teknoloji ve ulusal güvenlik için kesinlikle merkezi öneme sahip olacak ve o kadar fazla özerklik kapasitesine sahip olacaklar ki, insanlığın nasıl çalıştıklarından tamamen habersiz olmasının temelde kabul edilemez olduğunu düşünüyorum” sözleriyle durumu özetliyor.

Anthropic’in kurucularından Chris Olah’ın ifadesine göre yapay zeka modelleri “inşa edilmekten ziyade büyütülüyor.” Araştırmacılar zeka seviyelerini artırabiliyor olsa da, bu gelişimin ardındaki mekanizmaları henüz açıklayamıyorlar. Bu da yapay zekanın belirli kararları neden aldığı, bir kelimeyi başka bir kelimeye göre neden tercih ettiği ya da genellikle doğru olmasına rağmen neden ara sıra hata yaptığı gibi konularda ciddi bir bilgi boşluğuna işaret ediyor.

Örneğin, yakın geçmişte OpenAI, daha iyi performans gösteren, ancak aynı zamanda diğer modellerine göre daha fazla hayal gören o3 ve o4-mini adlı yeni muhakeme modellerini yayınladı. Ayrıca firma, bu modellerin neden daha fazla halüsinasyon gördüğü konusunda da bir fikirlerinin olmadığının altını çizdi.

Bu durum aslında bizi korkutmalı. Anthropic, yapay zekanın bu “kara kutusu” üzerinde çalışan, spesifik araştırmalar yapan nadide şirketlerden birisi. Çoğu AI şirketi en azından kamu önünde bu konuyu derinlemesine araştırdıklarını söylemiyor bile.

Yapay Zeka ve AGI Yolculuğunda Önemli Adımlar!

Bununla birlikte Anthropic, modellerin karar süreçlerini “devreler” üzerinden takip ederek nasıl düşündüklerine dair ilk sinyalleri almaya başladı. Ancak bu, halen küçük bir adım. Pandora’nın kutusu daha yeni açılıyor, zira bu tür devrelerden milyonlar hatta milyarlarca olabileceği düşünülüyor.

Amodei, bu modellerin nasıl çalıştığını anlamadan AGI’ye (insan seviyesinde yapay zeka, yapay genel zeka) ulaşmanın tehlikeli olabileceğini söylüyor. Ek olarak Amodei’nin uzun vadeli vizyonu ise oldukça iddialı: Yapay zeka modellerine adeta bir “beyin taraması” yapılması. Bu taramalar sayesinde modellerin dürüstlükten sapma eğilimi, güç kazanma isteği gibi tehlikeli eğilimleri önceden tespit edilebilecek. Bu tür gelişmiş analiz araçlarının geliştirilmesinin beş ila on yıl alabileceği öngörülüyor.

Anthropic’in CEO’su, makalesinde yalnızca kendi şirketine değil, sektöre de bir çağrıda bulunuyor. OpenAI ve Google DeepMind gibi devlerin yorumlanabilirlik araştırmalarına daha fazla kaynak ayırması gerektiğini vurgulayan Amodei, hükümetlere ise regülasyonlarla bu araştırmaları teşvik etme çağrısı yaptı.

Yapay zeka ve özellikle derin öğrenme konusundaki çalışmalarla günümüz yapay zekaların doğmasında büyük pay sahibi olan, bu konuda Nobel Fizik Ödülü’nü alan Geoffrey Hinton’ın kendisi de 2023’te bu ağların nasıl çalıştığını bilmediğini söylemişti. Aşağıdaki videoyu izlemenizi tavsiye ederim.

Related Posts

Yeni Mac’inizde yapmanız gereken 9 ayar

Apple’ın masaüstü veya dizüstü bilgisayarlarından birini yeni edindiyseniz ve macOS dünyasına adım atmak üzeresiniz… hoş geldiniz! macOS, kullanıcı dostu yapısıyla tanınsa da, daha verimli bir deneyim için mutlaka göz atmanız gereken birçok önemli ayar barındırıyor.

Dolandırıcılığa karşı “çoklu kimlik doğrulaması” tavsiyesi

Dolandırıcılık olaylarına karşı cep telefonundaki banka ve benzeri uygulamalarda kullanılabilen çoklu kimlik doğrulamasının, yaşanabilecek parola kırılma durumlarında etkili korunma yöntemi olduğu belirtildi.

Karting heyecanı İstanbul’da başlıyor

2025 MOTUL Türkiye Karting Şampiyonası’nın 2. ayağı, 10-11 Mayıs tarihlerinde İstanbul’da düzenlenecek. Organizasyon, 10 Mayıs Cumartesi günü antrenman seanslarıyla başlayacak. 11 Mayıs Pazar günü ise saat 10.00’da yarı final, saat 13.00’te ise final yarışları gerçekleştirilecek.

Zuckerberg’den TikTok itirafı: Bizi fena geçti

Meta’nın tepe yöneticileri, Facebook ve Instagram’ın artık sosyal medyada öncü değil, yarışa sonradan katılan “rakip” konumunda olduğunu kabul ediyor. ABD Federal Ticaret Komisyonu’nun (FTC) Meta’ya karşı açtığı antitröst davasında ortaya çıkan yeni belgeler, şirketin TikTok karşısındaki zor durumunu gözler önüne serdi.

Pil bitti derdine son! Dünyanın en gelişmiş mikroçipi tanıtıldı

Tayvan merkezli üretici TSMC, sadece 2 nm üretim mimarisine sahip olan ve bu konuda dünyanın en gelişmiş çipini tanıttı. Bu mimari ile birlikte akıllı cihazlarda batarya ve performans artışı bekleniyor.

140 milyon yılda sadece 1 saniye sapan ‘atom saati’ geliştirildi

Amerika Birleşik Devletleri’nde bulunan Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), şimdiye kadar geliştirilen en hassas atom saatlerinden birini tanıttı. Yeni saat, zamanı ölçmede referans alınacak düzeyde doğruluk sağlıyor.