MWS AI и Rubytech тестируют LLM на китайском железе
MWS AI и Rubytech тестируют LLM на китайском железе ▪️ Разработчик ИИ-моделей MWS AI (МТС) и Rubytech уже совместно проводят испытания российских больших языковых моделей на ПАКах с китайскими GPU, которые должны стать альтернативой ИИ-чипам Nvidia. Их полноценный коммерческий запуск планируется уже в следующем году. Запускали на ПАКе две модели MWS AI: ▪️ старшую Cotype Pro 3 размером 27 млрд параметров ▪️ и облегченную Cotype Light 3 на 9 млрд параметров Для тестов MWS AI рассматривала пять вариантов китайских чипов. И, как пишут Ведомости, в отдельных сценариях инференса ПАК на базе китайских GPU показал результаты, сопоставимые с системами на базе Nvidia H100. ▪️ Как рассказал руководитель направления развития технологий ИИ в продуктах «Скала^р» группы Rubytech Антон Юдин, сейчас компания дорабатывает ПАК после пилотирования. Первая версия будет ориентирована преимущественно на инференс, возможность дообучения компания планирует добавить позднее. Минпромторг мечтает о локализации Буквально вчера появилась информация о том, что Минпромторг совместно с разработчиками и производителями электроники прорабатывает возможность введения балльной системы для оценки локализации чипов, применяемых в системах ИИ. Мы вам рассказывали, в чем задумка авторов идеи. ▪️ Сейчас над отечественными ИИ‑ускорителями работают, например, «Байкал Электроникс» и НТЦ «Модуль». Но выпуск современного мощного чипа для ИИ по топологии 12–14 нм в России на сегодняшний день невозможен из‑за отсутствия фабрик полного цикла. Так или иначе придется использовать чипы, произведенные в Китае. Подписывайтесь на МашТех