Перейти к основному содержимому

Галактика АйТи

NVIDIA вынесла контроль ИИ-агентов за пределы модели

ИИ-агент внутри трех уровней защитного контура в центре обработки данных
Главное в технологиях · 29 сентября 2026

NVIDIA представила открытую платформу, которая должна ограничивать действия автономных ИИ-агентов на уровне среды исполнения и оборудования. Для бизнеса главный вывод прост: правила безопасности должны действовать независимо от самой модели.

1
Искусственный интеллект · информационная безопасность

Контроль ИИ-агента должен находиться за пределами агента

Изолированные ИИ-агенты проходят через отдельные шлюзы политик доступа

28 сентября РБК сообщил о платформе NVIDIA для защиты инфраструктуры от ИИ-агентов, которые выходят за заданные границы. В тот же день NVIDIA опубликовала официальный анонс Open Agent Safety Platform и описала её как сочетание открытого программного обеспечения и эталонной архитектуры.

Программная часть OpenShell запускает агента в изолированной среде, проверяет политику доступа и фиксирует его действия. Ограничения задаются для файлов, сети, инструментов, процессов и учётных данных. NVIDIA отдельно подчёркивает, что контроль работает вне процесса агента, поэтому модель не может отменить его своим решением или инструкцией.

Второй уровень, Sentry, переносит независимое наблюдение на сетевые процессоры BlueField-4. По заявлению NVIDIA, этот компонент способен изолировать агента за миллисекунды, если тот пытается выйти за разрешённый контур. OpenShell опубликован как открытое решение и может быть адаптирован к вычислительным платформам других производителей. При этом NVIDIA предупреждает, что часть описанных функций и сроков их появления ещё может измениться.

Для компаний важна не конкретная аппаратная платформа, а архитектурный принцип. ИИ-агенту нельзя поручать контроль над собственными ограничениями. Политика доступа, выдача секретов, сетевые правила, журналирование и аварийная остановка должны находиться в отдельном доверенном слое.

Практический вывод для бизнеса: перед подключением агента к CRM, почте, файловому хранилищу или API перечислите разрешённые действия и запретите всё остальное по умолчанию. Выдавайте краткоживущие учётные данные только на конкретную операцию, требуйте подтверждение человека для платежей, удаления и массовых изменений, сохраняйте журнал решений вне среды агента и заранее проверьте механизм немедленной остановки. Рост полномочий должен происходить только после испытаний на реальных сценариях и разбора ошибок.

Источник: РБК, 28 сентября 2026Официальный первоисточник: NVIDIA

Как подготовлен материалТема взята из рубрики РБК «Технологии и медиа». Дата анонса, состав платформы, модель контроля и заявленные возможности сверены с официальными материалами NVIDIA. Текст написан редакцией «Галактика АйТи» своими словами. Иллюстрации созданы специально для выпуска.

Если ИИ должен работать с корпоративными данными и выполнять действия во внешних системах, сначала нужны карта доступа, независимые ограничения и сценарий остановки. Подробнее в разделе интеграции искусственного интеллекта.

Редакция Галактика АйТи

Редакция Галактика АйТи