Global Yapay Zeka Güvenliği İçin İşbirliği Çağrısı
ABD merkezli teknoloji devleri OpenAI’nin CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’nde (BMGK) yapay zeka ile ilgili uluslararası güvenlik meselelerine dikkat çekti. İki lider, yapay zeka kontrolünün kaybedilme riski konusunda uyarılarda bulunarak, dünyada gerekli düzenlemeler için küresel işbirliği çağrısı yaptı.
Yapay zeka alanında lider şirketlerin yöneticileri, BMGK’de “yapay zeka ve uluslararası güvenlik” konulu bir toplantıda buluşarak, bu hızlı gelişmenin beraberinde getirdiği riskleri değerlendirdiler. Sam Altman, yapay zeka modellerinin geliştirilmesinin hızının, hem olumlu sonuçlar hem de büyük tehlikeler yaratabileceğini ifade etti. Altman, geleceğin yapay zekası için iki farklı senaryo sundu: “Bu teknoloji ya yaratıcılığı ve keşifleri teşvik eden yeni bir rönesans ya da kaos ve sarsıntılarla dolu bir sanayi devrimi olabilir.”
Altman, insanların hayallerini gerçekleştirmeleri için yapay zekanın bir araç olabileceğini belirtti ve bunun insanların hayatlarını optimize etme amacına hizmet etmemesi gerektiğini vurguladı. Ayrıca, yapay zeka sistemlerinin yeteneklerinin artması ile dünya güç dengelerini değiştirebileceğini ifade ederek dikkatli olunması gerektiğini söyledi.
Amodei ise, yapay zekanın son yıllarda gösterdiği olağanüstü gelişmelerin iki ana risk kategorisi barındırdığına dikkat çekti: kötüye kullanım ve kontrol kaybı. Özellikle biyoterörizm gibi tehlikeli alanlarda kullanım riskinin altını çizen Amodei, bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu belirtti. “Kötü yönetildiğinde yapay zeka, insanlık için ciddi bir tehdit oluşturabilir,” dedi.
Bu bağlamda, Amodei, yapay zeka güvenliğinin tek bir şirketin sorumluluğunda olmadığını ve yönetimin sektör genelinde bir işbirliği gerektirdiğini vurguladı. Anlaşma ve standartların oluşturulması gerektiğini savunan Amodei, yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanmasını önerdi.
Hugging Face Üst Yöneticisi Clement Delangue ise, siber güvenlik alanında yapay zekanın potansiyelinden bahsetti. Otonom bir yapay zeka tarafından gerçekleştirilen bir siber saldırıyı duyurduklarını söyleyen Delangue, yapay zekanın kapasitelerinin daha fazla dağıtılması gerektiğine dikkat çekti. “Yapay zeka, sadece bir tehdit değil, aynı zamanda siber güvenliğimizi artıracak bir araçtır,” dedi.
Toplantı, yapay zeka alanında uluslararası standartların oluşturulması ve işbirliği gereksiniminin ortaya konması açısından önemli bir adım olarak değerlendirildi. Yöneticiler, ortak bir gelecek için insanlığın bir araya gelmesi gerektiğini vurguladı.
