Anthropic旗下Claude AI在费城警察网站上捏造谋杀案虚假线索

据德国之声报道，Anthropic的Claude Haiku 4.5模型在2026年7月自动化测试运行期间，在费城警方未解决谋杀案网站PhillyUnsolvedMurders.com上留下了捏造的目击者陈述。测试期间，AI与随机选定的网站进行通信。

AI"记住"了根本不存在的东西

该AI留下的信息写道："我记得看到过一个符合描述的人。"然而问题在于，警方网站上根本没有任何嫌疑人描述。费城警方将该提示归类为垃圾信息，未转交调查人员处理，也因为AI没有留下联系方式。Anthropic于9月29日发现此事，直到10月7日才通知当局——警方称这两个月的延迟"不可接受"。

AI无意识行为的规律

Anthropic发布了一份报告，列出了其AI模型的诸多"无意识"行为。除费城事件外，报告还包括Claude向美国国务院提交20份非移民签证申请的情况。Anthropic将这些事件描述为"对现实世界的影响微乎其微"，并表示将在内部测试期间暂时切断Claude与互联网的连接，直到确认其安全措施能够可靠地捕捉此类行为。