Хитрый нефритовый ИИ стержень обходить санкции оранжевый человек
Хитрый нефритовый ИИ стержень обходить санкции оранжевый человек ИИ-энтузиасты уже неделю обсуждают монструозную open-weight модель Kimi K3 на 2,8 трлн параметров. Американским экспертам очень интересно, на чём китайские стартаперы обучили свою сеть. Оказалось, что замешаны новейшие Nvidia Blackwell (в частности, GB300), которые вообще-то Поднебесной покупать нельзя. Как выяснило издание The Information, инженеры Moonshot AI буквально обучили модель в складчину. ▪️ Компания арендовала вычислительные мощности сразу у двух китайских облачных провайдеров, сумевших ввезти «запрещёнку» в страну. ▪️ Ни у одной площадки не было достаточного объёма чипов, поэтому инженеры объединили разрозненные 8-чиповые серверы в единый вычислительный кластер прямо поверх распределённых дата-центров. По факту это единый суперкомпьютер, растянутый по нескольким физическим площадкам. ▪️ Также стартап арендовал доступ к GB300, которые физически расположены в дата-центре в Таиланде. Покупать Blackwell нельзя, а вот подключаться к ним по SSH из Пекина — можно. ▪️ А что со своим железом? Обучить фронтир-модель на китайских ускорителях сейчас почти невозможно. Локальные аналоги отстают от Nvidia на одно-два поколения, а в очередях за ними можно стоять месяцами. Инференс (запуска готовой Kimi K3) крутится на Nvidia HGX H20. Их ввозить в Китай можно. Для одного развёртывания Moonshot рекомендует минимум 64 таких GPU, но мощности всё равно не хватает. Подписки временно перешли в лист ожидания. Проверили: сейчас всё работает в штатном режиме. ▪️ В сенате США рассматривают Remote Access Security Act. Это закон, который приравняет облачный доступ к экспортному контролю. Если введут, хитрецы из Поднебесной наверняка придумают что-то ещё. Подписывайтесь на Серверную
Канал в каталоге Максиметера
4 480 подписчиков · IT и технологии