ИИ-агенты получают всё больше прав: работают с базами, вызывают внешние API, исполняют ...
ИИ-агенты получают всё больше прав: работают с базами, вызывают внешние API, исполняют код. API — интерфейсы для обращения к другим сервисам. Чем шире доступ агента, тем опаснее текст, который он встречает: письмо, страница из поиска или комментарий в репозитории могут стать инструкцией для модели. Лаборатория Касперского выпустила гайд «Безопасность ИИ-агентов через призму кибериммунитета». Кибериммунитет здесь — защита, заложенная в архитектуру системы. Внутри — разборы реальных атак через контекст, то есть через материалы, которые читает модель: EchoLeak, SearchLeak и CamoLeak. Отдельно разобрано, почему LLM — большую языковую модель — нельзя считать доверенным компонентом: она не отличает данные от инструкций, поэтому защиту приходится строить вокруг неё. Гайд объясняет, как изолировать агента и контролировать его инструменты. Он адресован тем, кто подключает агентов к рабочим данным: и разработчикам, и людям, принимающим решение о внедрении. Материалы: — https://lp.kaspersky.com/ru/ai?utm_campaign=ii-check-list&utm_source=tg-tipsai&utm_medium=paidsocial&utm_term=post&utm_content=5637481335/?erid=2W5zFG1ZqSy Источник: https://t.me/tips_ai/4948 #RealVibe #AI #VibeCoding