Агентный ИИ сделал CPU новым узким местом
Агентный ИИ сделал CPU новым узким местом Агентные системы (AI-агенты, которые сами планируют, вызывают инструменты и порождают субагентов) резко сменили баланс нагрузки. Теперь узким местом стали не GPU, а обычные процессоры... В реалистичных пайплайнах агентов 7 из 8 стадий выполняются на CPU: парсинг ответов модели, выбор и вызов инструментов, API-запросы, запуск кода, сбор результатов и повторная токенизация длинных последовательностей. AWS уже потребовал от инженеров экономить CPU-циклы «любой ценой» — очереди на серверные мощности резко выросли. Intel распродала серверные процессоры до конца года, AMD удвоила прогноз. Nvidia, Arm и Qualcomm спешно выпускают чипы под агентные нагрузки. Пока все смотрели на видеокарты, агенты тихо вернули CPU в центр внимания. Инфраструктура снова меняется. Источники: https://spectrum.ieee.org/ai-cpu-comeback https://www.tomshardware.com/pc-components/cpus/amazon-cracks-down-on-cpu-waste-among-engineers-as-agentic-ai-crunch-intensifies-cpu-demand-makes-low-utilization-ec2-instances-a-hot-commodity #AI #AgenticAI #CPU #AWS #Intel #AMD