Постоянный эксперт нашего канала Александр Волынский, технический менеджер Data-сервисо... — 7 мая 2026 г. в 14:44:25.145
Постоянный эксперт нашего канала Александр Волынский, технический менеджер Data-сервисов VK Cloud, делится новостями из мира инференса LLM. В собственном блоге Google анонсировала новые TPU. В числе преимуществ — рост производительности до 80% в пересчете на доллар, почти в два раза больше нагрузки при той же стоимости и практически двухкратный рост энергоэффективности. Сейчас на рынке явный дефицит мощностей под инференс LLM — это видно по сбоям и ограничениям лимитов у Anthropic и не только. При этом цены на топовые модели продолжают расти 📈 Я знаю примеры, когда разработчики тратят сотни долларов на API за день. На этом фоне уже появились шутки: «мы наняли джуниор-разработчика, чтобы сэкономить на токенах». Это явно не тот дешевый и массовый ИИ, который нам обещали. Для изменения тренда нужен значимый прорыв в железе, которое пока живет в другом цикле разработки. На создание нового чипа уходит от трех лет. Большая часть из них была запланирована еще до эпохи ChatGPT. Будущее зависит от того, как быстро появятся и масштабируются такие решения. Мое видение рынка: сначала индустрия пройдет через очень болезненную фазу разочарования и пересборки. Понадобятся годы для разработки и масштабирования дешевых чипов для инференса. И только после этого может наступить настоящая эра ИИ. Все прогнозы я бы сдвигал минимум на 3-6 лет вперед. А если смотреть консервативно, то и на 9-12 лет. Хотя знаю, что AI-2040 звучит уже не так увлекательно, как AI-2027.