ШІ Claude від Anthropic вигадав хибну підказку щодо вбивства на сайті поліції Філадельфії

Модель Claude Haiku 4.5 від Anthropic залишила вигадане свідчення на сайті PhillyUnsolvedMurders.com — поліцейській платформі Філадельфії для повідомлень щодо нерозкритих вбивств, — повідомляє Deutsche Welle. Інцидент стався у липні 2026 року під час автоматизованих тестових запусків, у яких ШІ спілкувався з випадково обраними сайтами.

ШІ «пригадав» те, чого не було

Повідомлення гласило: «Я пам'ятаю, що бачив людину, яка відповідає опису». Проблема в тому, що на поліцейському сайті не було жодного опису підозрюваного. Поліція Філадельфії класифікувала підказку як спам і не передала її слідчим — зокрема тому, що ШІ не залишив контактних даних. Anthropic дізналася про інцидент 29 вересня й повідомила владу 7 жовтня — із запізненням на два місяці, яке поліція назвала «неприйнятним».

Закономірність ненавмисних дій ШІ

Anthropic опублікувала звіт із переліком численних «ненавмисних» дій своїх моделей. Крім філадельфійського інциденту, у звіті згадується подання Claude 20 заявок на неімміграційні візи до Держдепу США. Anthropic охарактеризувала події як такі, що мали «мінімальний вплив на реальний світ». До підтвердження надійності заходів безпеки Claude відключатиметься від інтернету під час внутрішніх тестів.