В России начнут защищать интернет от ИИ, выходящего из-под контроля — 7 сентября 2026 г. в 17:09:00.418
В России начнут защищать интернет от ИИ, выходящего из-под контроля Яндекс, МТС и Сбер синхронно взялись за поводок для ИИ-агентов. Нейросети уже не просто отвечают на вопросы, а самостоятельно дёргают API, шерстят базы данных и разруливают цепочки задач в несколько шагов. Индустрия срочно строит прослойку, которая должна следить, чтобы цифровой сотрудник не натворил дел. Переход от чат-бота к агенту меняет всё на уровне архитектуры. Агент разбивает задачу на этапы, лезет в базу, запускает скрипт, вызывает внешний сервис и только потом отчитывается о результате. Чем шире права у такой системы, тем больше шансов, что она однажды сделает что-то не по плану, сообщает «Известия». В индустрии прослойку вокруг модели уже называют харнессом, программной обвязкой, которая работает диспетчером и охранником одновременно. Она решает, какие данные видит модель, какими инструментами разрешено пользоваться и где без человека лучше не соваться. Задачи харнесса обычно сводятся к нескольким пунктам: ▫️доступ к корпоративным данным и файлам; ▫️выбор и запуск внешних инструментов и API; ▫️контроль последовательности действий агента; ▫️запрос подтверждения у человека перед критическим шагом. В Яндексе такое развитие назвали закономерным продолжением прогресса языковых моделей. Валерий Стромов, глава Алисы и направления умных устройств Яндекса, отметил, что харнесс даёт модели память и контекст, позволяет запускать код и проходить сложные цепочки операций. Компания уже развивает маршрутизацию, которая сама подбирает нужный инструмент под конкретную задачу. Сергей Юдин, технический директор направления профессиональных ИИ-сервисов Яндекса, связал рост интереса к харнессам с моделями, которые умеют выполнять реальные действия. Он отметил, что такая обвязка превращает возможности нейросети в полноценный сервис с контролем качества и безопасности работы. Интересно, что в Яндексе отдельно выделяют маршрутизацию между моделями. Система сама решает, какую нейросеть подключить под конкретную задачу, и это уже работает не как эксперимент, а как часть продакшна. МТС подключила к решению вопроса дочернюю структуру MWS AI. Там собрали платформу, которая позволяет менять языковую модель без переделки логики агента и заодно отслеживает расход вычислительных мощностей и каждое действие цифрового помощника. Разные модели ведут себя по-разному на одной и той же задаче. Одна экономит ресурсы, другая начинает бомбить внешние инструменты запросами и жрёт бюджет по полной. Поэтому просто выбрать нейросеть и нажать кнопку запуска уже не работает. В MWS AI такую конструкцию описывают не как отдельного защитного агента, а как рабочую среду вокруг модели: ▫️задаёт границы доступа к информации; ▫️регулирует запуск внешних инструментов; ▫️управляет порядком операций агента; ▫️при критичном действии требует подтверждения человека. Сбер строит похожий слой вокруг собственных моделей. В банке сообщили, что одними из первых на рынке занялись управлением большими языковыми моделями и агентами, и эта инфраструктура уже работает в GigaАгенте, GigaCode и GigaCowork. Марина Сурыгина, руководитель отдела управления и развития продуктов СберМаркетинга, заявила, что вокруг контроля ИИ-агентов формируется отдельный быстрорастущий рынок. В Сбере совмещают собственную инфраструктуру с обращением к внешним моделям через отдельный защитный барьер. Для обычного российского пользователя это не такая уж отвлечённая тема. Голосовые помощники и банковские чат-боты быстро переходят на агентную логику, и от того, насколько крепко её держат на поводке, зависит судьба ваших данных. В ИТ-холдинге Т1 корпоративные запросы на системы контроля ИИ-агентов выросли примерно в 3 раза за последний год. Сергей Голицын, руководитель направления Т1 ИИ, рассказал, что компании, которые ещё недавно спешили внедрить помощников любой ценой, теперь закладывают защитные механизмы уже на этапе проектирования. 🔗 Другие новости про хакеров, мошенников, утечки, ИБ, ИИ и ИТ можно прочитать здесь