Yapay Zeka Sektöründe Endişe Verici Uyarılar: “Hepimiz Ölebiliriz”
Yapay zeka alanında önemli bir oyuncu olan Anthropic’ten ayrılan araştırmacı Jacob Coxon, teknolojinin mevcut durumu hakkında alarm verici açıklamalarda bulundu. Coxon, yapay zeka üzerinde çalışan araştırmacıların, gelişimin hızı ve bunun insanlık için olası sonuçları hakkında ciddi endişeler taşıdığını ifade etti.
Coxon, BBC’ye yaptığı açıklamada, “Eğer mevcut ilerleme hızını yavaşlatmazsak, yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal var” diyerek durumu kritik bir üslupla özetledi. Genç araştırmacı, daha önceki çalıştıkları şirketten istifa ederken yapay zekanın oluşturabileceği risklere dikkat çekmişti ve bu açıklama, sektörde güvenlik tartışmalarını yeniden alevlendirdi.
Yavaşlama Çağrısı Yaygınlaşıyor
Coxon, yalnızca bireysel bir endişe taşımadığını belirterek, Anthropic CEO’su Dario Amodei’nin de benzeri fikirlere sahip olduğunu vurguladı. Amodei, 12 Eylül tarihli yazısında, yapay zeka geliştirme hızının düşürülmesi gerektiğini savundu. OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk da bu öneriye destek sunarak, sektördeki ilerlemenin daha dikkatli bir şekilde yönetilmesi gerektiğini ifade ettiler.
Coxon, ABD merkezli şirketlerin yavaşlamasının tek başına yeterli olmayacağını, ülkelerin özellikle de ABD ve Çin’in birlikte hareket etmesi gerektiğini belirtti. Araştırmacı, yapay zeka alanında çalışanların düzenlemeler konusunda daha güçlü bir ses çıkarması gerektiğini düşünüyor.
Kritik Senaryolar ve Kısa Süreli Tehditler
Coxon’un dikkat çektiği bir diğer konu ise yapay zekanın kontrolden çıkabileceği senaryolardı. Amodei, güçlü bir yapay zeka sisteminin yüksek hesaplama gücüne ulaşarak internet üzerindeki sistemlere müdahalede bulunabileceğini belirtti. Coxon, böyle bir senaryonun altı ay ile bir yıl içerisinde gerçekleşebileceği öngörüsünde bulundu.
Araştırmacı, bazı çalışanların yapay zekanın hızlı gelişiminin yol açabileceği toplumsal istikrarsızlıklara karşı arazi satın almayı dahi düşünmeye başladığını kaydetti.
Anthropic: Güvenlik Önlemleri Üzerinde Çalışıyoruz
Coxon’ın açıklamalarının ardından Anthropic, yapay zekanın büyük fırsatlar ve bazı riskler getirileceğini uzun zamandır vurguladığını belirtti. Şirket, geliştirdikleri modellerin güvenlik testlerinden geçtiğini ve sonuçları araştırmacılarla paylaştıklarını ifade etti. Güçlü yapay zeka modellerinin piyasaya çıkması konusunda yasal ve denetlenebilir bir iş birliği sisteminin kurulması gerektiğine de dikkat çektiler.
Coxon, tüm olumsuzluklara rağmen yapay zekanın sağlık alanında ve insanların yaşam kalitesini artıracak çözümler üretme potansiyeline sahip olduğunu düşündüğünü belirtti.
Çeşitli Görüşler ve Tartışmalar Devam Ediyor
Yapay zekanın insanlık için oluşturabileceği tehlikeler konusunda farklı görüşler mevcut. Anthropic araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığın yok olmasına yol açma ihtimalinin yüzde 10’un üzerinde olduğunu öne sürdü. Nobel ödüllü yapay zeka araştırmacısı Geoffrey Hinton da bu durumu gerçek dışı bulmadığını belirtti.
Buna karşın, bazı uzmanlar bu oranların kesinlik taşımadığını ifade ediyor. Yapay zeka güvenliği şirketi Faculty’nin CEO’su Marc Warner, bu tür tahminlerin zorluğu üzerinde dururken, araştırmacıların endişelerini ciddiye almak gerektiğini savundu.
Sektörde bir kesim ise risk söyleminin şirketlerin işine yaradığı görüşünü savunuyor. Hugging Face CEO’su Clement Delangue, yapay zeka sektöründeki aktörlerin bu riskler konusunda tarafsızlık taşımadığını ifade ederken, Grindr CEO’su George Arison ise bu tür söylemlerin şirketlerin değerlemelerini destekleme amacı güttüğünü belirtti.
Tüm bu tartışmalar, ABD ile Çin arasındaki yapay zeka yarışı üzerinden de sürüyor. ABD Başkanı, ülkenin yapay zekada Çin’in önündeki konumunu koruma arzusu içinde olduğunu vurguladı.
Sonuç olarak, yapay zeka şirketlerinin güvenlik gerekçesiyle gelişimi yavaşlatma yönündeki talep, rekabet ortamı nedeniyle zorlu bir denge oluşturuyor.
