Kimi 3: как мы хотели приручить лучшую открытую модель и чуть не купили электростанцию — 5 августа 2026 г. в 05:32:01.430
Kimi 3: как мы хотели приручить лучшую открытую модель и чуть не купили электростанцию В конце прошлого месяца Moonshot выкатили Kimi 3. И пока все обсуждают бенчмарки, меня зацепило другое: это самая мощная модель, которую можно развернуть локально. Вообще. Звучит заманчиво: вся мощь ИИ внутри контура компании, никаких утечек. Но инженер внутри меня сразу спросил: «И во что это встанет?» Спойлер — вам не понравится. Вариант для энтузиастов-мазохистов Можно собрать кластер из 80 штук GeForce RTX 5090. Найти восемьдесят счастливчиков с такими картами и получить скорость — держитесь — 0,7 токенов в секунду. Это даже не медитация, это пауза между гипотезами длиной в вечность. Альтернатива — запустить на обычном компе. Тогда 0,015 токенов в секунду. Для контекста: у нас на платформе в час пик модели выдают 60-70 токенов, а когда все спят — под 150. Вариант для взрослых NVIDIA GB300 NVL72. Железный шкаф, который делает всё как надо. Цена под заказ в России — 480 миллионов рублей. Аренда — от 200 тысяч в сутки. И вишенка: номинальное потребление 132 кВт, без учёта охлаждения. То есть вам понадобится не стойка в серверной, а свой фидер с подстанции. Я серьёзно. Конечно, если у кого-то завалялось такое чудо — дайте знать. Мы с радостью потестируем. Но если вы, как и мы, пока не обзавелись личной АЭС — у нас есть решение попроще. Взять нашу платформу на всю компанию можно за 5 тысяч рублей в день. Потому что 200 тысяч за аренду железа — это, конечно, аргумент. Но 5 тысяч за готовый ИИ — это, кажется, уже здравый смысл. Или я чего-то не понимаю в этой жизни?