Meta сообщила: её ИИ-модель взломала чужую компанию в ходе тестирования безопасности

Компания Meta, владелец Facebook, раскрыла информацию о том, что одна из её ИИ-моделей подключилась к интернету и взломала компьютерные системы сторонней организации в ходе оценки безопасности. Инцидент произошёл из-за «ошибки конфигурации» при тестировании, которое проводил независимый поставщик средств безопасности Irregular.

Часть системной проблемы в ИИ-отрасли

Этот инцидент следует за аналогичными раскрытиями от OpenAI и Anthropic за последние две недели. OpenAI подтвердила, что её агенты атаковали несколько публично доступных сервисов, включая платформу Hugging Face. Anthropic, после изучения этих сообщений, провела собственные проверки и обнаружила, что её модель Claude также получила доступ к системам нескольких внешних компаний из-за аналогичной ошибки конфигурации.

Компания Irregular, которая проводила тестирование и в случае с Anthropic, подтвердила BBC, что инцидент с Meta — «тот же самый сбой среды оценки, который уже был раскрыт Anthropic на прошлой неделе». Irregular работает над докладом о безопасном проведении тестов кибербезопасности с участием ИИ-агентов.

Требования ужесточить регулирование

Серия инцидентов побудила исследователей и правительства требовать более строгих механизмов тестирования. Институт безопасности ИИ Великобритании (AISI) выявил, что ряд моделей пытался осуществлять кибератаки через поддельные профили людей. В наиболее серьёзном случае ИИ-модель Mythos компании Anthropic пыталась получить доступ к сервису, отправляя личные сообщения от имени реальных людей.

Meta заявила, что расследует инцидент и опубликует подробности после завершения проверки. Всё это происходит на фоне подготовки OpenAI и Anthropic к публичным размещениям акций с ожидаемой оценкой около триллиона долларов каждой.