Оказалось, что режим Ultrafast для GPT6.1 Sol со скоростью инференса 300 ток/с работает...
Оказалось, что режим Ultrafast для GPT6.1 Sol со скоростью инференса 300 ток/с работает не на мощностях Cerebras, как было ранее, а на мощностях оборудования Nvidia. Компания косвенно подтвердила это недвусмысленным комментарием под постом SemiAnalysis. 😅 Канал Serverflow в MAX: Подписаться
48 просмотров