🗂️ Модель отвечает, агент действует: как снизить риски ИИ-агентов
🗂️ Модель отвечает, агент действует: как снизить риски ИИ-агентов Обычная языковая модель генерирует ответ. ИИ-агент может пойти дальше: самостоятельно обратиться к API, изменить данные или передать информацию во внешний сервис. Чем больше у системы возможностей действовать самостоятельно, тем важнее заранее определить, что именно ей разрешено и как контролировать её действия. Об этом поговорим на бесплатном вебинаре Центра непрерывного образования ФКН «Модель отвечает, агент действует: риски больших языковых моделей (LLM), ИИ-агентов и мультиагентных систем». На встрече разберём: ⚡ чем риски ИИ-агентов отличаются от рисков обычных языковых моделей ⚡ что показывают эксперименты Anthropic, OpenAI и Apollo Research ⚡ какие ограничения стоит предусмотреть ещё до запуска агента ⚡ зачем нужны минимальные права, изоляция инструментов и журналирование действий ⚡ почему системного промпта и встроенных механизмов безопасности может быть недостаточно 🎙️Спикер — Владимир Никулин, управляющий директор по технологическим рискам в Сбере, приглашённый преподаватель ЦНО ФКН НИУ ВШЭ 📆 Когда: 8 сентября в 19:00 Зарегистрироваться #анонсы #дпо #онлайн #ии