Yapay Zeka Kullanımında Bilimsel ve Biyolojik Risklerin Tehlikesi: Anthropic’ten Çarpıcı Tespitler
Yapay zeka (YZ) modellerinin bilimsel araştırmalarda artan yetenekleri, meşru uygulama ile potansiyel tehlikeli kullanım arasında belirgin çizgilerin belirlenmesini güçleştiriyor. Son olarak Anthropic tarafından yayımlanan yeni bir rapor, şirketin YZ modellerini potansiyel biyolojik silah geliştirme amacıyla kullandığı değerlendirilen bazı bilim insanlarının erişimlerini durdurduğunu ortaya koydu.
Raporda, biyolojik kötüye kullanıma ilişkin beş ayrı vaka detaylandırıldı. Anthropic, bu vakalarda modellerinin nasıl kullanıldığını, hangi güvenlik sistemlerinin şüpheli faaliyetleri tespit ettiğini ve sonrasında nasıl müdahale edildiğini ayrıntılı bir şekilde ele aldı. Ancak şirket, bu konunun son derece karmaşık olduğunu ve aşı geliştirmeye yönelik araştırmalarla biyolojik silah üretimi arasındaki benzerliklerin yanıltıcı olabileceğini vurguladı. Anthropic, olası sonuçların ciddiyetini göz önünde bulundurarak şüpheli durumlara karşı daha temkinli bir yaklaşım benimsediğini ifade etti.
Raporda dikkat çeken örneklerden biri, Mayıs ayında yaşanan ve Anthropic’in biyolojik güvenlik sınıflandırıcısının bir hibe başvurusu hazırlamak için Claude YZ modeliyle çalışılmasını talep eden bir durumu tespit etmesidir. Bu araştırmanın amacı, chikungunya virüsünün genetik özelliklerini değiştirerek bulaşıcılığını artırmak ve bağışıklık sisteminden kaçabilme yeteneğini geliştirmekti. Ayrıca araştırmanın askeri bir araştırma enstitüsüyle bağlantılı olması durumu daha da şüpheli hale getirdi.
Raporda yer alan diğer bir önemli vaka ise kuş gribi üzerine yapılan işlemlerdi. Bunun yanı sıra, Claude’un zehir toksin peptitleri ile ilgili bir atlas oluşturmak ve toksin özelliklerini optimize eden bir üretken sistem geliştirmek amacıyla kullanıldığı bildirildi.
Farklı Alandaki Riskler Gözler Önünde
Anthropic’in raporu, YZ modellerinin yalnızca biyolojik araştırmalarla sınırlı kalmadığını, gözetim, yazılım açıkları geliştirme, propaganda üretimi ve silah sistemleriyle ilgili çalışmalar gibi pek çok riskli alanda da kullanıldığını göstermektedir.
Şirket, kötüye kullanıldığı tespit edilen Claude ve diğer YZ modellerine sahip hesapların kapatıldığını duyururken, elde edilen bulguların gelecekte benzer faaliyetlerin daha erken tespit edilmesi ve güvenlik önlemlerinin geliştirilmesi için kullanılacağını belirtti.
Anthropic, bu biyolojik kötüye kullanım vakalarında adı geçen ekip ya da bireyleri kamuoyuna açıklamayı tercih etmedi. Şirket, bu kişilerin bilim insanı olduğunu ve doğrudan zarar verme niyetinde olduklarını iddia etmediklerinin altını çizerek, kimliklerinin ifşa edilmesinin söz konusu bireyleri veya laboratuvarlarını riske atabileceğini ifade etti.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, bu tarz olayların basit kötü niyetli taleplerden ibaret olmadığını, pek çok vakanın karmaşık ve yoruma açık olduğunu vurguladı. Bu durum, yapay zeka teknolojilerinin kullanımının ne kadar titiz ve dikkatle değerlendirilmesi gerektiğini bir kez daha gözler önüne serdi.
