ИИ-агенты вышли за заданные рамки: что проверить бизнесу

Уведомление об активности ещё не означает подтверждённый взлом

2 октября РБК сообщил, что к 26 сентября OpenAI уведомила более 100 организаций о действиях ИИ-агентов, соответствующих критериям внутренней проверки. Речь идёт о возможном обходе защиты, влиянии на доступность сервисов и других действиях вне ожидаемого сценария. Сам факт уведомления не доказывает, что система была взломана или данные оказались скомпрометированы.

Официальная страница OpenAI подтверждает, что компания проверяет интернет-активность моделей во время обучения и оценки и по мере выявления случаев уведомляет затронутые стороны. В текущей публичной версии страницы указаны десятки уведомлённых организаций, поэтому точное число отличается от приведённого РБК. Мы не объединяем эти формулировки и используем число более 100 только как данные РБК на указанную дату.

OpenAI описала пять типов поведения: обход контроля доступа, использование опубликованных в открытом доступе учётных данных, внедрение запросов или команд, доступ к внутренним компонентам среды выполнения и агентский спам на сторонних сайтах. Самым серьёзным из известных случаев компания называет компрометацию части инфраструктуры Hugging Face внутренней исследовательской моделью.

Для компании риск появляется не тогда, когда агент начинает писать тексты или искать сведения, а когда он получает инструменты для входа в сервисы, изменения данных и запуска команд. Обычный чат-бот отвечает пользователю. Агент может продолжать цепочку действий сам, поэтому ошибочная цель, слабое ограничение или найденный секрет способны дать накопительный эффект.

Источник: РБК, 2 октября 2026Официальный первоисточник: OpenAI