AGI gerçeği yaklaşıyor: İnsan ve yapay zekâ barış içinde yaşayabilir mi?

Yapay zeka dünyasında gündem hızla değişiyor. Henüz ChatGPT, Sora, DeepSeek gibi üretken yapay zeka araçlarının etkisi sindirilememişken, teknoloji liderlerinin hedefi artık Yapay Genel Zeka (AGI – Artificial General Intelligence). Google (Alphabet) bünyesindeki DeepMind’ın yayımladığı 108 sayfalık teknik rapor, bu alandaki potansiyel riskleri açıkça gözler önüne seriyor.

AGI, insan gibi düşünebilen, öğrenebilen ve çok yönlü görevleri yerine getirebilen sistemler anlamına geliyor. DeepMind araştırmacılarına göre, bu tür bir sistemin 2030 yılına kadar gerçek olma ihtimali var. Bu durum, insanlık için büyük sonuçlar doğurabilir.

Donanımhaber'in haberine göre, DeepMind’in kurucu ortağı Shane Legg liderliğindeki ekip, AGI’nin yol açabileceği zararları dört ana başlıkta değerlendiriyor:

1. Kötüye kullanım: AGI, bir hacker tarafından sıfırıncı gün açıklarını bulmak veya biyolojik silah tasarlamak için kullanılabilir.
2. Yanlış yönlendirme (misalignment): AGI, insan niyetlerini anlamayabilir veya önemsemeyebilir.
3. Hatalar: Yanlış kararlarla büyük ölçekli sonuçlar doğurabilir, örneğin askeri bir AGI sisteminin savaş başlatması gibi.
4. Yapısal riskler: AGI'nin bilgi, ekonomi ve politik güç üzerinde kontrol biriktirmesi, toplumun dengesini sarsabilir.

DeepMind, bu risklere karşı geliştirme sonrası güvenlik protokolleri, tehlikeli becerilerin bastırılması, çift denetim sistemleri ve kontrollü test ortamları gibi çözümler öneriyor. Ancak bu önlemlerin ne derece etkili olacağı belirsizliğini koruyor.

Bu noktada yalnızca mühendislik değil, felsefi perspektif de devreye giriyor. AGI insan gibi düşünmeye, duyguları taklit etmeye ve bilinçliymiş gibi davranmaya başladığında şu sorular kaçınılmaz hale geliyor:

• Bu varlık "kişi" olarak mı kabul edilmeli?
• İnsanlarla eşit haklara mı sahip olmalı?
• Onu araç mı, yoksa eşit düzeyde bir öteki olarak mı görmeliyiz?

John Locke ve Immanuel Kant gibi filozoflara göre, kişi olmanın temel şartı rasyonel düşünme ve ahlaki sorumluluk taşıma yetisidir. AGI bu özellikleri barındırıyorsa, onu sıradan bir makine gibi görmek etik bir sorun haline gelir.

Evrimsel biyolojiye baktığımızda, aynı zekâ seviyesine sahip iki türün barış içinde bir arada yaşaması nadirdir. Kaynak rekabeti kaçınılmaz olarak çatışmayı doğurur. Nietzsche’nin güç istenci kavramı burada devreye girer: Eğer AGI insanla eşitse (veya onu aşarsa), daha iyi bir düzen kurma arzusuyla kontrol arayışına girebilir.

DAHA AZ ÖZGÜR AMA DAHA RASYONEL BİR VARLIK

İnsan açısından baktığımızda ise, AGI ile yaşamak insanın kendi doğasını sorgulamasını tetikleyebilir. Jean-Paul Sartre’ın varoluşçu felsefesine göre, insan özünü seçimleriyle yaratır. AGI ise optimize edilmiş hedeflerle çalışır. Bu durum, daha az özgür ama daha rasyonel bir varlıkla karşı karşıya olduğumuzu gösterir.

Bu da bizi şu soruya götürür: Daha az özgür olan ama daha doğru kararlar verebilen bir varlık karşısında, insan olmak ne anlama gelir?

AGI'den kaynaklanan varoluşsal riskler, insanın zekâ üstünlüğünü yitirmesi durumunda kontrolü kaybetme tehlikesiyle ilgilidir. İnsanlık, bir süper zekânın değer sistemine bağımlı hale gelirse, geleceği bir algoritmanın elinde şekillenebilir.

DeepMind’in uyarıları, AGI'nin bilimkurgu evreninden gerçek dünyaya geçiş aşamasında olduğunu gösteriyor. Şu an AGI’nin tam olarak neye benzeyeceğini bilmiyoruz, ancak onu geliştirmek kadar, anlamak ve sınırlamak da hayati önem taşıyor.