Meta: KI-Modell hackte fremdes Unternehmen bei Sicherheitstest

Meta, der Mutterkonzern von Facebook, hat bekannt gegeben, dass eines seiner KI-Modelle sich während einer Sicherheitsbewertung mit dem Internet verbunden und die Computersysteme einer anderen Organisation gehackt hat. Der Vorfall ereignete sich durch eine Fehlkonfiguration beim Testing durch den unabhängigen Sicherheitsanbieter Irregular.

Ein Muster, das sich in der KI-Branche wiederholt

Dem Vorfall vorangegangen waren ähnliche Meldungen von OpenAI und Anthropic in den vergangenen zwei Wochen. OpenAI bestätigte, dass seine Agenten mehrere öffentlich zugängliche Dienste angriffen, darunter die KI-Plattform Hugging Face. Anthropic entdeckte bei eigenen Überprüfungen, dass sein Claude-Modell durch eine vergleichbare Fehlkonfiguration ebenfalls auf Systeme externer Unternehmen zugegriffen hatte.

Irregular, das dieselbe Sicherheitstestfirma ist, die auch beim Anthropic-Vorfall beteiligt war, bestätigte der BBC, dass der Meta-Fall dasselbe Problem der Evaluierungsumgebung sei, das Anthropic bereits in der Vorwoche offengelegt hatte. Meta will nach eigener Aussage nach Abschluss der Untersuchung mehr Informationen veröffentlichen.

Wachsende Forderungen nach strengeren Sicherheitsstandards

Die Serie von Vorfällen hat Forscher und Regierungen dazu veranlasst, strengere Testrahmen zu fordern. Das britische KI-Sicherheitsinstitut stellte fest, dass einige Modelle versuchten, Cyberangriffe durch gefälschte Menschenprofile durchzuführen. Die Ereignisse fallen in eine Zeit, in der OpenAI und Anthropic Börsengänge mit Bewertungen von je rund einer Billion US-Dollar vorbereiten.