Яндекс открыл веса Alice AI Foundation LLM. Свой MoE-претрейн, обученный с нуля без чуж...
Яндекс открыл веса Alice AI Foundation LLM. Свой MoE-претрейн, обученный с нуля без чужих весов. 80B параметров, но активных всего 3B на токен. Меньше, чем у многих конкурентов, но по бенчам в паритете с Nemotron и Qwen, местами даже лучше. Оптимизировали обмен данными между GPU. Под Apache 2.0, дообучать можно. Техрепорт Веса на HF КББ в ТГ| КББ в ВК | КББ в Дзене | Блог автора