«Яндекс» добавил в «Алису» автоматический роутинг моделей
«Яндекс» добавил в «Алису» автоматический роутинг моделей Пользователь больше не выбирает режим руками - система сама решает, что подключить. Для повседневных запросов берутся быстрые модели, а если нужно учесть кучу условий, разобрать несколько документов, посчитать или составить план - включается режим «Эксперт». Что умеет «Эксперт» ▪️ Лучше всего показывает себя там, где много переменных: покупки, финансы, право, медицина, путешествия. Можно задать бюджет и попросить спланировать поездку на троих в другой город - с выбором дат подешевле и расчётом итоговой суммы с билетами и жильём. Или выяснить, какие налоговые вычеты положены за лечение и курсы ребёнку и какие документы собрать. ▪️ Отдельно - видно ход рассуждений, где система идёт по шагам и к какой информации обращается. Можно загрузить несколько файлов и попросить проанализировать их вместе. Сейчас режим доступен всем без ограничений, дальше активное использование уйдёт в подписку «Алиса Плюс». Как это устроено внутри За выбор отвечает собственная система роутинга, которая анализирует запрос, прикидывает, сколько ресурсов потребуется, и подбирает модель. Плюс агентная архитектура, которую в «Яндексе» называют харнесом - слой, который помогает планировать действия, держать контекст и выполнять задачу последовательно. ▪️ Мы писали, что рынок перешёл на оплату за токены, а расходы стали операционными и плохо предсказуемыми. Роутинг - прямой ответ на эту проблему: зачем гонять дорогую рассуждающую модель на вопросе про погоду. И тот же вектор мы недавно видели у «Сбера» с GigaChat 3.5 Reasoning, где режим рассуждений тоже включается отдельно. Обе компании оптимизируют не размер модели, а то, когда именно стоит думать дольше. Подписывайтесь на AI для бизнеса