Mistral открыла веса языковой модели Large 4 с триллионом параметров
Mistral открыла веса языковой модели Large 4 с триллионом параметров Французская компания Mistral опубликовала открытые веса своей флагманской языковой модели Large 4 (Le Chonk), что позволяет запускать её на собственном оборудовании. Об этом сообщает «Код Дурова». Модель имеет контекстное окно в 1 млн токенов, понимает изображения и поддерживает более 160 языков. Из 1 трлн параметров при обработке каждого токена работают 49 млрд. Веса выложены на Hugging Face под лицензией Mistral Ecosystem Open-Weight, разрешающей бесплатное использование, дообучение и коммерческое применение.
9 просмотров