Yapay Zeka Şirketi Anthropic’tan Biyolojik Kötüye Kullanım Üzerine Önemli Rapor
Yapay zeka alanında öncü şirketlerden biri olan Anthropic, yapay zeka teknolojilerinin kötüye kullanımını tespit etmeye yönelik kapsamlı bir rapor yayımladı. Bu belgede, yapay zeka modellerinin en büyük tehditlerinden biri olarak “biyolojik kötüye kullanım” üzerinde duruldu.
Raporda, yapay zeka sistemlerinin mevcut patojenleri daha tehlikeli hale getirme ya da yeni patojenler üretme kapasitesinin giderek arttığına dair endişelere dikkat çekildi. Uzun zamandır tartışılan bu konu, özellikle araştırmacıların ve geliştiricilerin sorumluluklarının arttığı bir dönemde önem kazandı.
Özellikle, Anthropic’a ait yapay zeka modellerini biyolojik silah geliştirme amacıyla kullanan kişilere dair örnekler raporun dikkat çeken kısımlarını oluşturuyor. Bu kapsamda, zorlu bölgelerde görev yapan bir araştırmacının, Claude isimli yapay zeka modeli ile kuş gribinin memelilere adaptasyonu üzerine deneyler düzenleme çabaları dikkat çekti. Bir diğer örnekte ise, devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.
Bu gibi durumların tespit edilmesi sonucu, bu tür kötüye kullanımlara yönelik hesap engellemeleri gibi önlemlerin alındığı belirtildi. Raporda ayrıca, bu tür olguların kullanıcı niyetlerine dair herhangi bir kötü niyet iddiasında bulunulmadığı, sadece önleyici tedbirlerin alındığı vurgulandı. Anthropic, bu örnekler aracılığıyla yapay zeka sektöründeki biyolojik risklere yönelik bir diyalog başlatma hedefinde olduklarını ifade etti.
Raporun yayımlanmasının ardından Anthropic çalışanı Jacob Coxon’un yapay zekanın, insanüstü güç ve kaynaklara sahip sistemler haline gelebileceği yönündeki eleştirilerini paylaşarak şirketten istifa etmesi, konuyla ilgili geniş bir tartışma yarattı. Coxon’un bu açıklaması, sosyal medyada milyonlarca kez görüntülenerek gündem oldu.
