Опрос выявил пробелы в защите корпоративных ИИ-агентов

16 июля VentureBeat опубликовал результаты опроса о защите корпоративных ИИ-агентов. Из 107 респондентов 18% сообщили о подтвержденном инциденте безопасности, еще 36% — о случае, который удалось остановить до причинения ущерба.

Еще 42% участников не выявили подобных событий. В 5% представленных организаций ИИ-агенты не работали в производственной среде, а 2% не отслеживали связанные с ними инциденты.

Агенты продолжают делить учетные данные

Только 32% респондентов сообщили, что каждый ИИ-агент в их организации имеет собственную управляемую идентичность с ограниченными правами. Такой подход позволяет контролировать доступ и устанавливать, какая программа совершила конкретное действие.

Еще 48% заявили, что отдельные идентификаторы получили лишь некоторые агенты, тогда как остальные продолжают делить учетные данные. В 32% компаний они преимущественно работают через общие API-ключи, учетные записи сотрудников или служебные аккаунты.

В этом вопросе участники могли выбрать несколько вариантов. По расчетам VentureBeat, общие учетные данные хотя бы в части инфраструктуры используют 69% опрошенных организаций.

Среди компаний с такой практикой 63,5% сообщили об инциденте или предотвращенной угрозе. В организациях, где каждый агент имел отдельную идентичность, показатель составил 40,9%. Авторы подчеркнули, что результаты показывают связь между двумя факторами, но не доказывают причинно-следственную зависимость. Группа компаний с отдельными идентификаторами включала только 22 участника.

Для защиты ИИ-агентов 49% организаций ограничивают их права непосредственно во время работы. Еще 47% используют мониторинг и журналирование, но не всегда могут автоматически остановить опасное действие. Только 30% изолируют агентов с наиболее широкими правами в песочницах.

Компании полагаются на защиту поставщиков ИИ

Основным уровнем безопасности 82% респондентов назвали встроенные инструменты поставщиков ИИ-моделей или крупных облачных платформ. Решения специализированных компаний в сфере защиты агентов использует значительно меньшая доля участников.

Встроенные ограничения OpenAI применяют 51% организаций. Средства Google указали 36%, Microsoft — 35%, Anthropic — 29%. Участники могли выбрать несколько продуктов, поэтому сумма показателей превышает 100%.

Средняя удовлетворенность действующими средствами составила 4,2 балла из 5. Показатель рассчитан по ответам 82 участников, которые оценили используемые инструменты.

Самой распространенной статьей расходов стали 6–10% общего бюджета кибербезопасности. Такой диапазон назвали 46% респондентов. Еще 26% тратят на защиту ИИ-агентов 1–5% бюджета, а 8% — менее 1%. Таким образом, не более 5% выделяют в общей сложности 34% опрошенных. Доля компаний с расходами свыше 10% составила 24%.

Несмотря на высокую удовлетворенность действующими решениями, 59% организаций планируют в течение года внедрить новый инструмент, дополнить имеющийся набор или заменить один из продуктов. В ближайшие три месяца это намерены сделать 29%.

Среди участников, уже столкнувшихся с инцидентом или предотвращенной угрозой, изменить набор средств в течение трех месяцев планируют 42,1%. В организациях без подобных событий доля составила 14%.

Ограничения опроса

45% участников принимали окончательные решения о закупке ИИ-продуктов, еще 30% рекомендовали решения или влияли на их выбор. Среди респондентов были менеджеры, специалисты, директора, вице-президенты и руководители высшего звена.

Около 67% выборки представляли компании со штатом от 101 до 1000 сотрудников. Самыми крупными отраслевыми группами стали технологические компании, производители, ретейлеры и организации в сфере здравоохранения.

VentureBeat назвал результаты ориентировочным срезом одной волны исследования. По выводу авторов, распространение ИИ-агентов опережает внедрение отдельных идентификаторов, изоляции и контроля прав. Однако реальную частоту подобных инцидентов в корпоративном секторе опрос установить не позволяет.

Напомним, в июне Anthropic предложила защищать корпоративных ИИ-агентов по принципу Zero Trust. Подход предполагает отдельную идентичность для каждой программы, минимальные права и проверку каждого действия.