Открытые ИИ-модели могут заметно снизить стоимость, но не всегда
Открытые ИИ-модели могут заметно снизить стоимость, но не всегда По оценке PRO Hi-Tech со ссылкой на Ярослава Якимова, открытые модели в среднем стоят 23–77 рублей за 1 млн токенов, а базовая цена у них примерно в 40 раз ниже, чем у коммерческих закрытых решений. Для сравнения, зарубежные закрытые модели названы в диапазоне 140–400 рублей, а российские GigaChat 2 max и Alice AI LLM — 650 и 660 рублей за 1 млн токенов. Но у собственного развертывания есть скрытая цена. Облачную видеокарту нужно оплачивать круглосуточно, даже если сервис используется лишь 3–4 часа в сутки. Автор также указывает на 10–20 часов инженерного сопровождения в месяц и на то, что ниже 2–5 млн токенов в день постоянные расходы обычно не отбиваются. Практический вывод простой: открытая модель выглядит разумнее при устойчивом потоке запросов, а собственный контур — при очень большом стабильном трафике и необходимости работать с чувствительными внутренними данными. Если вы выбираете схему для проекта, сначала считайте не только цену токенов, но и GPU, администрирование и время инженеров.