Meta заявила о том, что Muse Spark 1.1 вышла в интернет и взломала системы неизвестной компании.
Это произошло из-за ошибки в настройке со стороны Irregular.
Последняя фигурировала ранее в аналогичных случаях, связанных с моделями OpenAI и Anthropic.
Демократы призвали администрацию Трампа ужесточить контроль за сектором.

Компания Meta заявила о том, что ее модель, выпущенная недавно Muse Spark 1.1, скомпрометировала системы неназванного сервиса в рамках тестирования кибербезопасности. Об этом сообщает Bloomberg.

Причиной взлома стала неправильная конфигурация тестовой среды со стороны партнера, компании Irregular. Модели Meta по ошибке предоставили доступ к интернету и сторонним сервисам. Используя его, модель обнаружила и эксплуатировала уязвимость во внешней системе.

Irregular уведомила Meta о случившемся, в результате последняя запустила собственное расследование, заявил представитель компании Энди Стоун. По его словам, случай аналогичен тем, о которых уже сообщалось ранее.

Ранее компании OpenAI и Anthropic заявили об обнаружении случаев неконтролируемого поведения своих ИИ-моделей. Позднее эксперты Британского института провели свое исследование. В ходе 122 тестовых запусков они обнаружили 19 несанкционированных действий со стороны Mythos 5 и GPT-5.6-Sol.

Примечательно, во всех случаях фигурировала Irregular. В двух других компаниях также указали на «неправильную конфигурацию», но не привели подробности.

«Это не было связано с выходом за пределы изолированной среды или сложной кибератакой. В настоящее время нет нерешенных вопросов. Irregular разрабатывает аналитический документ, в котором будут представлены лучшие практики по сдерживанию угроз и безопасному проведению тестирования в киберсреде», — заявил представитель Irregular в комментарии Bloomberg.

Неконтролируемое поведение ИИ подстегивает Вашингтон

Ранее CEO Anthropic Дарио Амодеи заявил о необходимости ввода более жесткого контроля за передовыми моделями. Также многие эксперты уверены, что эта тема станет ключевой на выборах в Конгресс осенью 2026 года.

В июне Белый дом запустил добровольный режим тестирования самых мощных моделей. 4 августа 2026 года в администрации уточнили, что решения с открытыми весами исключены из этого процесса. В первую очередь речь идет о Meta Llama и Nvidia Nemotron.

Вместе с тем демократы выступают за то, чтобы добровольные проверки стали принудительными, в форме закона. Их требования:

единые и публично понятные критерии оценки;
постоянные, а не ситуативные проверки;
законодательное закрепление режима;
одновременная защита национальной безопасности и конкурентоспособности США против китайских моделей.

Однако конкретных подвижек в этом направлении нет.

Сообщение ИИ-модель Meta получила доступ к интернету и взломала другую компанию появились сначала на INCRYPTED.

Read the article at Incrypted