Anthropic AI, Philadelphia polisine asılsız cinayet ihbarı gönderdi

Anthropic’in yapay zekâ modeli, otomatik test sırasında Philadelphia polisinin çözülememiş cinayetler için kullandığı ihbar sitesine asılsız bilgi girdi. İhbar spam olarak sınıflandırıldığı için incelemeye ulaşmadı; şirket durumu başvurudan iki ayı aşkın süre sonra fark etti.

Philadelphia polisi, 18 Temmuz’da alınan ihbarın Anthropic’in otomatik testinden kaynaklandığını açıkladı. Model, rastgele seçilen internet siteleriyle etkileşim kurarken çözülememiş bir vakayla ilgili asılsız bilgileri çevrimiçi forma girdi ve olay hakkında bilgi sahibiymiş gibi ihbarda bulundu.

İhbar spam olarak işaretlendi ve gerçek zamanlı suç merkezinin inceleme aşamasına iletilmedi.

Anthropic, ihbarı 28 Eylül’de fark ettikten sonra ilgili otomatik testleri durdurdu ve 7 Ekim’de polise haber verdi. Şirket, polise daha sonra testlere ek doğrulama adımları getirdiğini bildirdi. Polis, yetkisiz sistem erişimi veya polis verilerinin ihlal edildiğine dair bir bulgu olmadığını açıkladı.

Philadelphia polisi, ihbarın alınmasıyla Anthropic’in sorunu fark edip bildirmesi arasında iki aydan fazla zaman geçmesini kabul edilemez bulduğunu belirtti.

Olay, internet sitesi otomasyon testlerinin kamu kurumlarının ihbar kanallarına gerçek kayıtlar bırakabileceğini gösteriyor. İhbar spam olarak sınıflandırıldığı için incelemeye ulaşmadı. Ancak polis, yapay zekânın gerçek bir ihbar izlenimi veren bilgi göndermesini ve bildirimin gecikmesini eleştirdi.

Philadelphia polisi ve kent yönetimi olayı incelemeyi sürdürüyor.