Trust in Depth от AWS: автономия агентов без слепого доверия
Trust in Depth от AWS: автономия агентов без слепого доверия Где у вас сейчас живут жёсткие запреты для агента — в промпте или в политике, которая режет каждый вызов инструмента снаружи? Пока ответ «в промпте», рост прав на API — это рост слепой зоны: внимание на галочках, а не на том, что реально опасно. AWS собрала Trust in Depth — четыре вопроса по циклу: что можно до запуска, кто отвечает за действия, где границы в работе, что смотреть после прогона. Идея не в ещё одном фильтре на выходе, а в том, чтобы безопасно отпустить рутину на автомат. Если выкатываете агента шире песочницы, сверьте Scope и Bound до деплоя: что запрещено всегда и что режется независимо от рассуждений модели.
6 просмотров