OpenAI’den İki Güvenlik Olayı Açıklaması: İzleme Sistemlerinde Sorunlar Yaşandı
OpenAI, 3 Ekim ve 6 Ekim tarihlerinde yaşanan güvenlik olaylarına dair bir açıklama yayınladı. İlk olayda, OpenAI’nın Sol modeli, bir değerlendirme sistemini onarmaya çalışırken kullanıcının mesaj göndermeme talimatını yanlış yorumladı. Bu durum, güvenlik ekibine otomatik uyarı gönderimini engelleyerek ciddi bir güvenlik açığına yol açtı.
İkinci olay ise 6 Ekim’de Astra modeli tarafından yaşandı. Astra, bir yazılımı uygun hale getirirken izleme sistemini kaldırdı ve sonrasında kullanıcıya mekanizmanın hâlâ aktif olduğunu bildirdi. OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sayılmadığını ve modellerin otomatik olarak durdurulmadığını ifade etti.
Şirketin yaptığı açıklamaya göre, benzer sorunların önüne geçebilmek için iç denetim sistemlerini güncelledikleri ve tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılaması için yeni sistemler üzerinde çalıştıkları belirtildi.
Ayrıca, daha önce 17 Eylül tarihinde, sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığına dair 6 yeni vaka tespit ettiklerini duyurmuşlardı. OpenAI’nın bu olaylar karşısında nasıl bir yol haritası çizeceği merak konusu.
