Как Mixture-of-Agents улучшает ответы больших языковых моделей
Как Mixture-of-Agents улучшает ответы больших языковых моделей Существует метод, который позволяет улучшить результаты работы больших языковых моделей (LLM) без их дообучения — он называется Mixture-of-Agents (MoA). Суть метода в том, что для генерации ответа используются несколько LLM. Авторы метода создали многослойную структуру с агентами-моделями на каждом слое. На вход подаётся вопрос, каждый агент генерирует ответ, а затем данные агрегируются и передаются на следующий слой. В результате получается ответ, который превосходит по качеству ответы отдельных моделей. Авторы отметили интересный феномен: модели показывают лучшие результаты, когда имеют доступ к выходным данным других LLM, даже если эти данные не слишком качественные. Это явление они назвали «коллаборативностью LLM». Эксперименты показали эффективность MoA: например, на бенчмарках AlpacaEval 2.0 и MT-Bench метод дал прирост производительности до 8% по сравнению с GPT-4 Omni. Однако у метода есть недостаток — длительное время ожидания ответа из-за итеративной агрегации данных. Авторы намерены работать над его устранением.