А вы не интересовались почем железо под K3? — 30 июля 2026 г. в 08:53:09.661
А вы не интересовались почем железо под K3? Moonshot AI выложили Kimi K3 на Hugging Face – это самая большая открытая модель в мире. 2.8 триллиона параметров, внутри – Mixture of Experts: 896 экспертов, из которых на каждый запрос работают только 16. Вместо того чтобы гонять всю махину целиком, модель включает только нужные блоки. Под капотом: нативная работа с изображениями, контекст – миллион токенов, заточка под длинные задачи: программирование, документы, исследования, работа с инструментами. По сути, попытка сделать модель, которая не просто отвечает на вопросы, а ведёт многоходовую работу. B тут есть ловушка восприятия =) «Открытая модель» звучит как «скачивай и пользуйся». Ага! Веса весят 1.56 терабайта – и это уже в сжатом формате. В одну видеокарту не влезает. В сервер на 8 GPU – тоже. Сам Moonshot рекомендует кластер от 64 ускорителей. Купить такое – от миллиона долларов: минимум пара серверов NVIDIA DGX B200. А аренда, особенно в России, – вообще какие-то космические деньги (четыре сервера по восемь H100 у того же Селектела – это порядка 30–40 миллионов рублей в месяц). Год аренды выходит в разы дороже покупки. То есть открытые модели такого масштаба – это пока не про демократизацию AI в духе «каждый может запустить у себя». Это про то, что крупные компании и исследовательские команды получают фундамент, который раньше был доступен только закрытым лабораториям. И расклад меняется: раньше выбирали между API от OpenAI/Anthropic и самописными моделями, теперь есть третий путь – взять открытого гиганта и дотюнить под свою задачу. Ну кстати, вижу, что наши клиенты тоже, последнее время, приходят не с вопросом «какую API использовать», а с вопросом «как развернуть открытую модель под наши данные». А это совсем другая история – с инфраструктурой, приватностью, кастомизацией. Да, всякий раз удивляем клиентов, когда называем стоимость оборудования =) Но вот купить своё железо за лямчик некоторых уже не пугает. Что ж, посмотрим, как K3 покажет себя на практике.