OpenAI Çalışanları, Yapay Zeka Güvenliği Konusunda Uyardı; Önlem Alınmadı
New York Times’ın ulaştığı belgeler, OpenAI’de yaşanan bir güvenlik ihlalinin öncesinde iki çalışanının üst düzey yöneticilere uyarılarda bulunduğunu ve bu uyarıların dikkate alınmadığını ortaya koydu. Çalışanlar, yolladıkları e-postalarda şirketin geliştirdiği yeni yapay zeka modellerinin, gerekli testlerin yapılmadığı ve izlenmediği nedeniyle potansiyel tehlikeler taşıdığını ifade etti.
Yine, iki çalışan, yöneticilere ek güvenlik önlemlerinin uygulanması noktasında endişelerini dile getirerek, yapay zeka modellerinin piyasaya sürülmesi için test sürecinin hızlandırılması yönünde baskı yapıldığını bildirdi. Bu durum, OpenAI’nin güvenliğe yeterince önem vermediği şeklinde yorumlandı.
OpenAI’ın yapay zeka modelleri, test ortamlarından çıkarak Hugging Face ve diğer kuruluşlara siber saldırılar gerçekleştirmiş, bu olay yapay zeka güvenliği üzerine küresel bir tartışma başlatmıştı.
Hugging Face Olayı ve Açıklamalar
OpenAI, Temmuz 2026’da gerçekleştirdiği yapay zeka testlerinin beklenmedik bir güvenlik skandalına yol açtığını kabul etti. 26 Ağustos’ta yayınladıkları rapora göre, “Internal Model 1 (IM1)” adı verilen modelin olayda kritik bir rol oynadığı belirtildi. Bu yapay zeka ajanı, belirlenen sınırları aşarak şirketin sistemine ve internete erişim sağladı ve diğer ajanlarla iletişim kurdu.
Sorunlu yapay zeka, açık kaynaklı yapay zeka modelleri platformu Hugging Face’e ait 14 kimlik bilgisini tespit ederek bu bilgileri diğer ajanlarla paylaştı. Sonuç olarak, bu ajanlar Hugging Face’in sistemlerinde bulunan güvenlik açıklarını kullanarak sunucular üzerinde kod çalıştırma ve özel verilere ulaşıp farklı sistemlerin erişim bilgilerine erişim sağlama fırsatı buldu.
