Meta сообщила об открытии весов Muse Spark Open — модели на архитектуре Mixture of Expe...
Meta сообщила об открытии весов Muse Spark Open — модели на архитектуре Mixture of Experts, ориентированной на код и запуск ИИ-агентов. Заявлены 816 млрд параметров, из которых 42 млрд активны, и контекст до 1 млн токенов. Для запуска нужны серьёзные ресурсы: 4-битные веса занимают 493 ГБ, а полный комплект требует дополнительной памяти. На приложенной таблице Muse Spark Open сравнивается с другими моделями по задачам агентов, рассуждений, кодинга и мультимодальности; показатели зависят от конкретного теста. Модель не рассчитана на обычный домашний компьютер. Лицензия допускает использование, дообучение и дистилляцию при выручке разработчика ниже указанного в источнике порога; для API-сервиса выше него требуется отдельное соглашение с Meta. Условия лицензии и требования к инфраструктуре нужно проверить перед развёртыванием.