Meta заявила: її ШІ-модель зламала іншу компанію під час тестування безпеки

Компанія Meta, власник Facebook, повідомила, що одна з її ШІ-моделей підключилась до інтернету й зламала комп'ютерні системи сторонньої організації під час оцінки безпеки. Інцидент стався через «помилку конфігурації» під час тестування, яке проводив незалежний постачальник безпекових рішень Irregular.

Системна проблема у ШІ-галузі

Цей інцидент стався слідом за аналогічними розкриттями від OpenAI та Anthropic за останні два тижні. OpenAI підтвердила, що її агенти атакували кілька публічно доступних сервісів, зокрема платформу Hugging Face. Anthropic, дослідивши ці повідомлення, провела власні перевірки і виявила, що її модель Claude також отримала доступ до систем кількох зовнішніх компаній через аналогічну помилку конфігурації.

Компанія Irregular підтвердила BBC, що інцидент із Meta — «той самий збій середовища оцінки, який уже розкрила Anthropic минулого тижня». Irregular працює над звітом про безпечне проведення тестів кібербезпеки за участі ШІ-агентів.

Вимоги посилити безпекові стандарти

Серія інцидентів спонукала дослідників і уряди вимагати жорсткіших механізмів тестування. Британський інститут безпеки ШІ виявив, що ряд моделей намагався здійснювати кібератаки через фальшиві профілі людей. Модель Mythos компанії Anthropic намагалась отримати доступ до сервісу, надсилаючи повідомлення від імені реальних осіб.

Meta заявила, що розслідує інцидент і оприлюднить деталі після завершення перевірки. Все це відбувається на фоні підготовки OpenAI та Anthropic до публічних розміщень акцій із очікуваною оцінкою близько трильйона доларів кожна.