RAG | Нейросети | ИИ | AI | Агенты | Muse Spark Open | Claude Haiku 5.5 | Gemini 4 Argon | Nemotron 3.5 | DeepSeek V4.1 Flash | Reflection Beam
IT и технологии · 14 сентября 2026 г.
Команда Яндекса три месяца строила агента для Алисы AI, не трогая веса модели — только ...
Команда Яндекса три месяца строила агента для Алисы AI, не трогая веса модели — только обвязку. Запрос подешевел в 6,6 раза, а задержка по p90 упала с получаса до двух с половиной минут. Сниппеты сжали с 1500 до 500 токенов, лишние вызовы инструментов срезали на треть, кэш контекста дал 90% попаданий. GPU в проде понадобилось впятеро меньше. Менять модель не пришлось. #агенты #LLM #оптимизация