Российский бизнес начал строить системы контроля за ИИ-агентами
Российский бизнес начал строить системы контроля за ИИ-агентами Технологические компании начали разрабатывать отдельную инфраструктуру, которая следит за действиями автономных агентов. Причина простая. ▫️ Бизнес уходит от чат-ботов к программам, которые сами планируют, ходят по внутренним системам и оперируют корпоративными данными. Кто и что делает ▫️ «Яндекс», МТС и «Сбер» строят программный контур вокруг моделей: управление памятью, доступом, разграничение того, что агент может и не может. «Солар» считает так: языковая модель не всегда отличает данные от команд, поэтому контроль надо выносить наружу, за пределы самой нейросети. По оценке «Солара», рынок защиты ИИ в 2026 году - это ₽1-2 млрд на продуктах и ₽4 млрд с учётом сопутствующих услуг. ▫️ В «Т1» говорят о трёхкратном росте запросов на механизмы контроля за последний год. Больше всего это интересует банки, ретейл и госсектор. Почему это только началось. Отдельно любопытно объяснение, почему у нас пока не случалось громких инцидентов, как за рубежом. ▫️ По оценке экспертов, российские агенты просто менее автономны, чем передовые иностранные аналоги, и уступают им в вычислительных возможностях. ▫️ То есть у нас пока не встряло не потому, что защита сильнее, а потому что агенты меньше умеют. Подписывайтесь на AI для бизнеса