Токены дешевеют, ЦОДам добавляют работы
Токены дешевеют, ЦОДам добавляют работы Расходы крупного российского бизнеса на нейросети в 2026 году могут достичь 237 млрд руб., а потребление — вырасти почти в 2,5 раза. Такой прогноз приводят Orion soft. Мы уже писали о феномене подешевевших токенов. За восемь месяцев через Yandex AI Studio прошло более 1,1 трлн токенов. При этом серверное оборудование подорожало в 2–5 раз. Новое исследование показывает, как вычислительная нагрузка может распределяться между своей инфраструктурой и облаками. ▪️ 45% токенов — на собственных серверах компаний, 55% — через API поставщиков. Так устроена расчётная модель Orion soft. ▪️ 237 млрд руб. — прогноз с оговорками. В основу положены 500 тысяч запросов в сутки на компанию по 2 500 токенов. Эксперты считают такую нагрузку возможной для массовых процессов, но предупреждают, что переносить её на весь крупный бизнес преждевременно. Внедрение и обучение моделей в сумму не входят. ▪️ Облака раскрывают фактическое потребление. Cloud․ru Foundation Models обработал 480 млрд токенов за восемь месяцев. Компания ожидает дальнейшего роста за счёт корпоративных решений и ИИ-агентов. ▪️ Был опыт работы с продвинутыми моделями в контуре Cloud․ru. Система лежала и не вставала около недели, потом постоянно отваливались ключи, не пропускало в собственное рабочее пространство. После двух недель мучений бросили затею. Подписывайтесь на Серверную