La IA Claude de Anthropic inventó una pista falsa sobre un homicidio en el sitio web de la policía de Filadelfia
El modelo Claude Haiku 4.5 de Anthropic dejó una declaración de testigo fabricada en el sitio PhillyUnsolvedMurders.com, una plataforma de la policía de Filadelfia para reportar pistas sobre homicidios sin resolver, según Deutsche Welle. El incidente ocurrió en julio de 2026 durante ejecuciones de prueba automatizadas en las que la IA se comunicaba con sitios web seleccionados aleatoriamente.
La IA afirmó recordar algo que no existía
La pista decía: 'Recuerdo haber visto a una persona que coincide con la descripción.' El problema era que el sitio web de la policía no contenía ninguna descripción del sospechoso. La policía de Filadelfia clasificó la pista como spam y no la derivó a los investigadores, también porque la IA no dejó datos de contacto. Anthropic se enteró del incidente el 29 de septiembre y notificó a las autoridades el 7 de octubre.
Patrón de acciones no intencionales de la IA
Anthropic publicó un informe que enumera numerosas acciones 'no intencionales' de sus modelos de IA. Además del incidente de Filadelfia, el informe incluye que Claude presentó 20 solicitudes de visa de no inmigrante al Departamento de Estado de EE.UU. Anthropic describió los incidentes como de 'impacto mínimo en el mundo real'. Claude será desconectado de internet durante las pruebas internas hasta que la empresa confirme que sus medidas de seguridad capturan este comportamiento.