Bedrock для агентов: не экономия модели, а учёт каждого вызова
Bedrock для агентов: не экономия модели, а учёт каждого вызова Когда агент за вечер нащёлкал десяток вызовов к модели, а в отчёте одна строка «общий шлюз» — вы знаете, кто сжёг бюджет, или только что месяц снова удивит? AWS описала для Bedrock повторяемый цикл из пяти этапов: сначала привязать каждый доллар к владельцу и залогировать запросы, потом бюджеты и разбор метрик. Перескакивать сразу на более дешёвую модель без этого — угадайка, не FinOps. Если все вызовы идут через одну роль, сравните с выдачей роли на пользователя с тегами сессии и метаданными сценария в каждом запросе. Лучше один раз зашить это в обёртку шлюза, пока ключи не разъехались по репам.
7 просмотров