Токенмаксинг — плохая идея. Компании разрешили ИИ-агентам тратить почти неограниченные ...
Токенмаксинг — плохая идея. Компании разрешили ИИ-агентам тратить почти неограниченные токены, надеясь сократить расходы на сотрудников. В результате Amazon за месяц потеряла 500 миллионов долларов, а некоторые фирмы увеличили траты на модели в 50 раз за полгода. Проблема в управлении. Многие сотрудники не умеют правильно ставить задачи и объяснять контекст, из-за чего агенты бесконечно перепроверяют себя и тратят токены впустую. Теперь компании фокусируются не на том, как генерировать токены, а на том, как не расходовать их зря. Классика 😏
7 099 просмотров