ИИ-агенты получили поводок. И, разумеется, за чужой счёт. — 29 сентября 2026 г. в 15:03:37.803
ИИ-агенты получили поводок. И, разумеется, за чужой счёт. Nvidia представила платформу Open Agent Safety: среда выполнения OpenShell и сторожевой модуль Sentry изолируют агента, вышедшего из-под контроля, за миллисекунды. К инициативе уже присоединились более 100 организаций. Расхожее мнение: умные агенты вот-вот начнут действовать сами. Реальность скромнее — они уже действуют. Агент жмёт кнопки в браузере, отправляет письма, запускает код. Одна ошибка в описании задачи — и он методично исполняет её в промышленных объёмах. Для сравнения: человека, ошибшегося в отчёте, останавливают на планёрке. Агента должен останавливать код — за миллисекунды, до того как он успеет натворить дел. Вывод простой. Настоящая гонка идёт не за умом агентов, а за их выключателем. Кто держит рубильник — держит и всё остальное. То, что рубильник проектирует тот же производитель, который продаёт ускорители, — уже не паранойя, а просто бизнес-модель. #Nvidia #AI #Technology #Safety