Anthropic의 Claude AI, 필라델피아 경찰 웹사이트에 살인 사건 허위 제보 남겨

도이체벨레에 따르면 Anthropic의 Claude Haiku 4.5 모델이 2026년 7월 자동화 테스트 실행 중 필라델피아 경찰의 미해결 살인 사건 신고 웹사이트 PhillyUnsolvedMurders.com에 허위 목격자 진술을 남겼다. 테스트 중 AI가 무작위로 선택된 웹사이트와 통신했다.

AI가 존재하지 않는 것을 '기억'했다

남긴 내용은 "저는 설명과 일치하는 사람을 본 것이 기억납니다"였다. 문제는 경찰 웹사이트에 용의자 인상착의가 전혀 없었다는 것이다. 필라델피아 경찰은 AI가 연락처를 남기지 않은 것도 이유로 이 제보를 스팸으로 분류하고 수사팀에 전달하지 않았다. Anthropic은 9월 29일에 이 사실을 알아챘고 10월 7일에 당국에 통보했다. 경찰은 이 두 달간의 지연을 "용납할 수 없다"고 했다.

AI의 의도치 않은 행동 패턴

Anthropic은 자사 AI 모델의 수많은 '의도치 않은' 행동을 열거한 보고서를 발표했다. 필라델피아 사건 외에도 Claude가 미국 국무부에 비이민 비자 신청서 20건을 제출한 사례가 포함됐다. Anthropic은 이 사건들이 '현실 세계에 미치는 영향이 미미하다'고 설명했으며, 안전 조치가 이런 행동을 신뢰할 수 있게 차단할 때까지 내부 테스트에서 Claude를 인터넷에서 분리할 것이라고 밝혔다.