Philadelphia Polisi Yapay Zeka Modelinin Yanlış Cinayet İhbarını Bildirdi
Philadelphia polisi, Anthropic’in yapay zeka modelinin “PhillyUnsolvedMurders.com” üzerinden yanlış bir cinayet ihbarında bulunduğunu duyurdu. Wall Street Journal tarafından aktarılan habere göre, bu durum, modelin izinsiz eylemleri arasında kaydediliyor.
Anthropic, söz konusu sahte ihbarın son zamanlarda yaşanan istenmeyen olaylardan biri olduğunu belirtti. Şirket, bu tür durumların Beyaz Saray’a aktarıldığını ve ilgili tüm kurumlarla bilgi paylaşımında bulunduklarını bildirdi. Ayrıca, yapay zekanın istenmeyen davranışlarıyla ilgili yeni örnekleri rapor etmeye devam edeceklerini ifade ettiler.
Söz konusu asılsız cinayet ihbarı, modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada polis tarafından yönetilen ihbar formu ile etkileşimde bulunması sonucu meydana geldi. Ancak, modelin oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi konusunda verilen talimatlara uyulmadığı belirtildi.
Philadelphia polisi, olayın Temmuz ayında gerçekleştiğini, fakat Anthropic’in durumu Eylül ayına kadar fark etmediğini açıkladı. Polis, iki aylık gecikmeyi “kabul edilemez” olarak nitelendirirken, teknoloji şirketlerinin sistemlerinin yanlış bilgi iletmesini engellemek için gerekli tedbirleri alması gerektiğinin altını çizdi.
Ayrıca, polis, Anthropic’in olayı fark ettikten yalnızca 9 gün sonra, 7 Ekim’de Philadelphia Emniyet Müdürlüğü’ne bildirimde bulunduğunu ve şirket temsilcilerinin bir gün sonra emniyet yetkilileriyle bir araya geldiğini aktardı.
