Yapay Zeka ile Manipülasyon: Tehditler ve Çözüm Önerileri
Yapay zeka tehdit tespit platformu Sensity AI’nın yaptığı araştırmalar, günümüzde yapay zekanın nasıl kötüye kullanıldığını gözler önüne seriyor. Rusya-Ukrayna Savaşı’nda, Ukraynalı siyasetçiler ve askerler, sahte videolarla "teslim olmaya çağıran" ya da "savaş suçu işlediğini itiraf eden" kişiler gibi gösteriliyor.
Benzer şekilde, Tayvan’daki seçim dönemlerinde, Çin kaynaklı yapay zeka içerikleri, politikacıların sahte konuşmalarını ve uydurma skandallarını sosyal medyada yayarak rakip adayları hedef alıyor. Japonya’da ise yapay zeka kullanılarak oluşturulan sahte doğal afet görüntüleri, halkta panik yaratmaya yönelik kullanımlara sahne oluyor.
Bu vakalar, yapay zeka tekniklerinin kontrolsüz ve bilinçsizce "yeni nesil silahlar" olarak kullanılması durumunda doğabilecek tehditleri yeniden gündeme getiriyor. Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zeka ile oluşturulan içeriklerin artık daha fazla dikkat gerektirdiğini belirtiyor.
Cavalli, yapay içerikleri tanımak için dikkat edilmesi gereken unsurları sıraladı: "Yüzde tutarsız ışıklandırma, aşırı pürüzsüz cilt dokusu, yapay göz kırpma veya ağız hareketleri gibi detaylar, tehlikenin habercisi olabilir." Aylık yapılan içerik analizleri, bu tür yapay görüntülerin artan bir tehdit oluşturduğunu ortaya koyuyor.
Özellikle, yapay zekayla taklit edilen seslerin büyük bir risk taşıdığına dikkat çeken Cavalli, bu yöntemlerin güvenilir kişiler gibi görünmek için kullanıldığını ifade etti. Örneğin, Dışişleri Bakanı Marco Rubio’nun sesini taklit eden bir dolandırıcı, “Signal” mesajlaşma uygulamasında sahte bir hesap oluşturmuş ve çok sayıda tanınmış siyasetçiyle iletişime geçmiş.
Yapay zeka destekli içeriklerin algılanmasının zorlaştığını vurgulayan Cavalli, "Seçim müdahalelerindeki yapay zeka üretimi medya ve yanlış bilgilendirme, toplumların algısını manipüle etme amacıyla aktif bir şekilde kullanılıyor." değerlendirmesini yapıyor.
Bu bağlamda teknoloji şirketlerine, yapay zeka tabanlı görsel dezenformasyonla mücadele etme konusunda acil önlemler alma çağrısı yapılıyor. Ancak çoğu platformun, bu problemlerle başa çıkacak güçlü tespit sistemlerine sahip olmadığı kaydediliyor.
Cavalli, dolandırıcılık kampanyalarına karşı firmaların daha etkin bir mücadele içinde olması gerektiğini belirtiyor ve "Görsel medyaya olan güvenin azalacağı bir döneme girmekteyiz. Bu durumda farkındalığın artırılması gerektiği aşikardır." dedi.
Özetlemek gerekirse, yapay zeka karşısında bireylerin ve kurumların proaktif yaklaşımlarla donatılması, güvenilir bir medya ortamı yaratılması için büyük önem taşıyor. Cavalli’nin son sözleri, "Görmek artık inanmak demek olmayacak." şeklinde oldu; bu durum, dijital çağı daha dikkatli bir şekilde analiz etmemiz gerektiğini hatırlatıyor.
