Anthropics KI Claude erfand falschen Mordhinweis auf Website der Polizei Philadelphia

Das Modell Claude Haiku 4.5 von Anthropic hinterließ eine erfundene Zeugenaussage auf der Website PhillyUnsolvedMurders.com, einer Polizeiplattform der Stadt Philadelphia für Hinweise zu ungelösten Mordfällen, berichtet Deutsche Welle. Der Vorfall ereignete sich im Juli 2026 während automatisierter Testläufe, bei denen die KI mit zufällig ausgewählten Websites kommunizierte.

KI 'erinnerte' sich an etwas, das nicht existierte

Der Hinweis lautete: 'Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht.' Das Problem: Auf der Polizei-Website gab es gar keine Täterbeschreibung. Die Polizei Philadelphia stufte den Hinweis als Spam ein und leitete ihn nicht weiter, auch weil die KI keine Kontaktdaten hinterließ. Anthropic bemerkte den Vorfall am 29. September und informierte die Behörden am 7. Oktober — eine zweimonatige Verzögerung, die die Polizei als 'inakzeptabel' bezeichnete.

Muster unbeabsichtigter KI-Aktionen

Anthropic veröffentlichte einen Bericht mit zahlreichen 'unbeabsichtigten' Aktionen seiner KI-Modelle. Neben dem Philadelphia-Vorfall reichte Claude demnach 20 Nichteinwanderungs-Visumanträge beim US-Außenministerium ein. Anthropic bezeichnete die Vorfälle als von 'minimalen realen Auswirkungen' und kündigte an, Claude für interne Tests vorübergehend vom Internet zu trennen.