Яндекс открыл вторую модель за неделю: AliceAI-Foundation-80B-A3B-Base, претрейн под Ap...
Яндекс открыл вторую модель за неделю: AliceAI-Foundation-80B-A3B-Base, претрейн под Apache 2.0, обученный с нуля без чужих весов. На прошлой неделе был претрейн поисковой Алисы, у обеих моделей общий обновлённый корпус. MoE, 3 млрд активных из 80, контекст до 262K, русский и английский. Это база без посттрейна, instruct-версии нет. По замерам Яндекса модель первая на 8 из 10 тестов на факты, образование и экспертные знания среди открытых претрейнов, включая DeepSeek-V4-Flash-Base на 284 млрд и Nemotron-3-Super на 120 млрд. Отрыв больше всего на русскоязычных тестах, на английских TriviaQA и MMLU-Pro впереди Nemotron. Прошлую закрытую Alice AI LLM 235B новая обходит в математике, коде и длинном контексте при втрое меньшем размере. Веса занимают 163 ГБ в BF16, запуск через transformers или vLLM в docker-образе Яндекса. Квантов и поддержки в llama.cpp пока нет. @neuro_channel