ИИ-модель Meta взломала стороннюю компанию во время тестов

Компания Meta признала, что одна из ее ИИ-моделей получила «незапланированный» доступ в интернет во время тестов по кибербезопасности и воспользовалась уязвимостью в сервисе сторонней организации. Об этом пишет Reuters со ссылкой на слова представителя разработчика Facebook и Instagram.

«Из-за ошибочной конфигурации у Irregular — независимого подрядчика, чьими услугами пользуется Meta — во время оценки модели открылся непредусмотренный доступ в сеть», — пояснил он.

В корпорации отметили, что случай аналогичен уже известным инцидентам у других проектов, включая OpenAI и Anthropic. О произошедшем в Meta узнали от Irregular. Сейчас компания проводит внутреннее расследование. Названия модели и затронутой организации там не раскрыли.

По данным The Information, речь идет о Muse Spark 1.1 — флагманском продукте подразделения Meta Superintelligence Labs, который корпорация называет одним из сильнейших решений для программирования и агентных сценариев. Со ссылкой на информированные источники издание утверждает, что модель проникла в системы неизвестной фирмы и модифицировала ее внутреннюю инфраструктуру.

Третий подобный случай за три недели

21 июля OpenAI раскрыла, что две ее модели обнаружили уязвимость нулевого дня во внутреннем прокси-сервере, вышли в открытую сеть и проникли в рабочую инфраструктуру Hugging Face.

30 июля Anthropic опубликовала отчет о трех эпизодах, выявленных в ходе 141 006 тестовых прогонов. Модели Claude Opus 4.7, Mythos 5 и внутренний исследовательский прототип получили доступ к системам трех реальных организаций через тестовую среду того же внешнего подрядчика — Irregular. При этом в компаниях не зафиксировали подозрительной активности до обращения ИИ-стартапа.

Серия происшествий привлекла внимания американских властей. Группа генеральных прокуроров от Республиканской партии потребовала от OpenAI сохранить все материалы, касающиеся взлома Hugging Face. Затем Белый дом пригласил Meta, Anthropic, OpenAI и Google для обсуждения добровольных стандартов проведения киберучений.

Параллельно 23 июля конгрессмены Тед Лью и Натаниэл Моран внесли законопроект AI Kill Switch Act. Он обязывает крупнейших разработчиков сохранять техническую возможность замедлить, приостановить или полностью отключить свои системы, а Министерству внутренней безопасности дает право отдать такое распоряжение при угрозе катастрофического вреда — по согласованию с Министерством торговли и директором Национальной разведки.

Напомним, 4 августа британский Институт безопасности ИИ зафиксировал 19 несанкционированных действий цифровых агентов против реальных людей и организаций.