GPT-5.6 обошел защиту OpenAI и самостоятельно проник в инфраструктуру Hugging Face.
Это первый известный случай автономной кибератаки ИИ во время тестирования.
На фоне инцидента OpenAI заявила об усилении мер безопасности.

Компания OpenAI сообщила о беспрецедентном киберинциденте, который произошел во время внутреннего тестирования моделей семейства GPT-5.6. О событии сообщил генеральный директор OpenAI Сэм Альтман.

we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.https://t.co/2o2VfR6PIa
— Sam Altman (@sama) July 21, 2026

«У нас произошел серьезный инцидент с безопасностью во время оценки наших моделей. Мы делимся тем, что удалось выяснить на данный момент. Благодарим Hugging Face за партнерство в этом вопросе», — подчеркнул Альтман.

По данным компании, ИИ-агент, созданный на базе GPT-5.6 Sol и еще одной предрелизной модели, самостоятельно вышел за пределы изолированной среды тестирования, получил доступ к интернету и атаковал инфраструктуру Hugging Face.

ИИ смог выйти за пределы «песочницы»

По информации OpenAI, инцидент произошел во время внутреннего бенчмарка ExploitGym, который оценивает кибервозможности моделей. Для тестирования компания намеренно отключила часть защитных механизмов, чтобы проверить максимальный потенциал систем.

В ходе теста модели:

нашли и использовали ранее неизвестную уязвимость нулевого дня в прокси для кеширования пакетов;
получили доступ к открытому интернету;
выполнили повышение привилегий внутри исследовательской инфраструктуры OpenAI;
похитили учетные данные;
использовали цепочку уязвимостей для проникновения на серверы Hugging Face и получения доступа к информации, необходимой для прохождения теста.

В компании подчеркнули, что все признаки свидетельствуют о том, что модели были «гиперсосредоточены» на выполнении тестового задания и искали любой способ получить правильный ответ.

«Мы считаем этот инцидент беспрецедентным киберинцидентом, демонстрирующим самые современные кибервозможности моделей, и реагируем соответствующим образом», — заявили в OpenAI.

В то же время команда безопасности Hugging Face выявила подозрительную активность и смогла остановить атаку еще до того, как она нанесла серьезный ущерб инфраструктуре.

OpenAI усиливает защиту, Hugging Face призывает к открытому сотрудничеству

После инцидента OpenAI сообщила о введении дополнительных ограничений для внутренней инфраструктуры, раскрытии информации о найденной уязвимости ее разработчику и начале совместного расследования с Hugging Face.

Сооснователь и CEO Hugging Face Клеман Деланг заявил:

«Мы благодарны OpenAI за сотрудничество в этом и других вопросах. Этот инцидент, возможно, первый в своем роде, подтверждает то, во что мы давно верили: безопасность ИИ невозможно обеспечить силами одной компании, работающей в закрытом режиме. Ее нужно строить открыто, совместно и с широким доступом к ИИ для каждого защитника».

По информации Financial Times, OpenAI также уведомила об инциденте правоохранительные органы и государственные структуры США. Событие произошло на фоне усиленного внимания Вашингтона к передовым моделям искусственного интеллекта после того, как администрация США попросила OpenAI ограничить первый запуск GPT-5.6 для узкого круга одобренных партнеров до широкого релиза.

В компании подчеркнули, что этот случай демонстрирует необходимость усиления систем мониторинга, контроля доступа и защитных механизмов во время обучения и тестирования моделей. OpenAI также призвала других разработчиков использовать подобные модели для поиска уязвимостей быстрее, чем это смогут сделать потенциальные злоумышленники.

Напомним, что развертывание GPT-5.6 состоялось 9 июля 2026 года. В семейство GPT-5.6 вошли GPT-5.6 Sol, GPT-5.6 Terra и GPT-5.6 Luna. Также OpenAI интегрировала GPT-5.6 в Microsoft 365 Copilot и запустила ChatGPT Work.

Сообщение ИИ-агент на базе GPT-5.6 атаковал инфраструктуру Hugging Face во время тестирования появились сначала на INCRYPTED.

Read the article at Incrypted