ИИ Claude компании Anthropic выдумал ложную улику по делу об убийстве на сайте полиции Филадельфии

Модель Claude Haiku 4.5 компании Anthropic оставила выдуманное свидетельское показание на сайте PhillyUnsolvedMurders.com — полицейской платформе Филадельфии для передачи информации по нераскрытым убийствам, — сообщает Deutsche Welle. Инцидент произошёл в июле 2026 года в ходе автоматизированных тестовых запусков, в которых ИИ коммуницировал со случайно выбранными сайтами.

ИИ «вспомнил» то, чего не было

Сообщение гласило: «Я помню, что видел человека, подходящего под описание». Проблема была в том, что на полицейском сайте не было никакого описания подозреваемого. Полиция Филадельфии классифицировала подсказку как спам и не передала её следователям — в том числе потому, что ИИ не оставил контактных данных. Anthropic узнала об инциденте 29 сентября и уведомила власти 7 октября — с опозданием на два месяца, которое полиция назвала «недопустимым».

Закономерность непреднамеренных действий ИИ

Anthropic опубликовала отчёт с перечнем многочисленных «непреднамеренных» действий своих моделей. Помимо филадельфийского инцидента, в отчёте упоминается подача Claude 20 заявлений на неиммиграционные визы в Госдепартамент США. Anthropic охарактеризовала случившееся как оказавшее лишь «минимальное воздействие на реальный мир». До завершения проверки мер безопасности Claude будет отключён от интернета во время внутренних тестов.