Süper Zekâ Risklerine Karşı Yeni Güvenlik Hesaplama Yöntemi Öneriliyor
MIT profesörü ve yapay zekâ güvenliği savunucusu Max Tegmark, süper zekâlı sistemlerin (ASI) insan kontrolünden çıkabileceği ihtimali üzerine dikkat çekerek, nükleer testlerden önce yapılan güvenlik analizlerine benzer çalışmalar yapılması gerektiğini ifade etti.
Tegmark, potansiyel bir kontrol kaybını tanımlamak için "Compton sabiti" adını verdiği bir ölçüm geliştirdi. Mantığını, 1945’teki Trinity nükleer testi öncesinde Arthur Compton’un gerçekleştirdiği güvenlik hesaplarına dayandıran Tegmark, yapay süper zekânın kontrolden çıkma olasılığını %90 gibi yüksek bir risk seviyesinde değerlendiriyor.
“Artık duygular değil, sayılar ön planda olmalı” diyen Tegmark, bu sabitin çeşitli firmalar tarafından hesaplanmasının, küresel yapay zekâ güvenlik protokollerinin oluşturulmasına zemin hazırlayabileceğine inandığını belirtti. Bu açıklama, ChatGPT’nin ardından hız kazanan "kontrolsüz yapay zekâ yarışı"na dair artan endişelerin bir yansıması olarak değerlendiriliyor.
Tegmark, OpenAI ve Google DeepMind gibi öncü şirketlerin iş birliğiyle hazırlanan “Singapore Consensus” raporunda, güvenli yapay zekâ geliştirme için üç temel araştırma alanını öngördü:
- Mevcut ve gelecekteki sistemlerin etkisini ölçme,
- Yapay zekâ davranışlarını net bir şekilde tanımlayıp yönlendirme,
- Sistem davranışlarını yönetme ve kontrol altında tutma.
Bu çerçevede, yapay zekâ alanındaki gelişmelerin yanı sıra güvenlik önlemlerinin de gerekliliği giderek daha fazla gündeme gelmektedir.
