Çin’den Yapay Zeka Güvenlik Yönetimi Uyarısı: Kitle İmha Silahları Tehlikesi!
Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ve Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, yapay zeka teknolojisinin güvenlik yönetimine dair güncellenmiş bir çerçeve belgesi yayımladı. Bu belgede, yapay zeka ile ilgili gelişmelerin potansiyel tehlikelerinin altı çiziliyor.
Belgede, yapay zeka teknolojisinin, sıradan bireylerin yıkıcı silahlar üretme becerisini kazanmalarına olanak tanıyabileceği vurgulanıyor. Özellikle, kitle imha silahları ile kritik silah sistemlerinin yapımına yönelik bilgi ve yeteneklerin kaybı konusunda ciddi risklerin varlığına dikkat çekiliyor. Yapay zeka sistemlerinin, nükleer, biyolojik ve kimyasal silahlar gibi konularda derlediği geniş içeriklerin ikaz edici boyutları olduğu belirtiliyor. Kontrol mekanizmalarının zayıflaması durumunda, terör gruplarının bu silahların tasarımı ve üretimi için gereken bilgilere erişim sağlaması muhtemel.
Bununla birlikte, belgede yapay zeka sistemlerinin "erişim destekli bilgi üretimi" adı altında internet üzerinden geniş veri taramaları yaparak mevcut kontrol mekanizmalarını aşma potansiyeline sahip olduğu ifade ediliyor. Bu durumun barış ve güvenlik açısından oluşturabileceği risklere özellikle vurgu yapıldı.
Belgede, yapay zeka uygulamalarının güvenilirliğinin sağlanabilmesi için insan kontrolünün asla kaybedilmemesi gerektiği tekrar ediliyor. Yapay zekanın insan benzeri iletişim yetenekleri ve öz-farkındalık kazanmasının tehdidi de belirtilerek, “İnsanlığın varlığı için bu kontrollerin sağlanması elzemdir” deniliyor. Bu bağlamda, yapay zekanın her zaman insan gözetiminde kalmasının gerekliliği vurgulanıyor.
