Кнопка «Одобрить» у ИИ-агента — это не предохранитель. Иногда она вообще не сработает, ...
Кнопка «Одобрить» у ИИ-агента — это не предохранитель. Иногда она вообще не сработает, когда вы её ждёте. Microsoft в документации Copilot Studio прямо пишет: human supervision работает вероятностно. Агент может попросить подтверждение там, где оно не нужно, и не попросить там, где человек ожидал паузу. Поэтому считать такой экран полноценной защитой нельзя. Это полезная холодная вода для всех, кто строит «агента под контролем человека». Контроль не должен жить только в голове модели и в надежде на её хороший тон. Нужны права по минимуму, allow-list действий, лимиты денег и данных, журнал, откат и жёсткие проверки вне модели. Человек в цепочке — хороший редактор и аварийный тормоз. Но тормоз лучше не подключать к вероятностному генератору. Ограничения и настройка механизма — в документации Microsoft.