FAIRouter: ИИ научили выбирать лучшую LLM-модель для каждой задачи
FAIRouter: ИИ научили выбирать лучшую LLM-модель для каждой задачи FAIRouter — библиотека с открытым исходным кодом, которая автоматически выбирает оптимальную LLM-модель для каждой задачи, учитывая качество, стоимость и скорость выполнения.Система использует двухконтурное обучение: роутер предсказывает результат по тексту запроса, а «судья» оценивает качество ответа по восьми критериям содержания и двадцати параметрам формы, адаптируясь к обратной связи пользователя. Библиотека доступна на Python и C# с поддержкой OpenRouter и других OpenAI-совместимых провайдеров и работает эффективно с первого запуска благодаря инициализации на открытых рейтингах и датасетах. https://habr.com/ru/articles/1086786/
46 просмотров