ИИ дешевеет быстрее электричества, батарей и ДНК вместе взятых
ИИ дешевеет быстрее электричества, батарей и ДНК вместе взятых Команда Epoch AI посчитала (https://epoch.ai/publications/the-plunging-price-of-thought), как быстро падает стоимость одного и того же уровня качества ИИ. Они посмотрели на это не через цену токена, а через цену правильного ответа, с учётом того, что рассуждающие модели "съедают" токенов в разы больше. Есть такой термин: SOTA - state of the art. Так называют лучший результат, который на данный момент показала хоть одна модель на конкретном тесте. Для оценки они запустили 5 бенчмарков (математика, наука уровня PhD, шахматы и секретная игра) и собирали три года данные. И по их оценке cтоимость одного и того же уровня качества падает на 47% в квартал (каждый год ответ той же точности обходится в 13 раз дешевле). Для сравнения Epoch взяла другие технологии, изменившие экономику и посчитало, что это в 4 раза быстрее, чем дешевело секвенирование ДНК, в 6 раз быстрее компьютерных технологий, в 18 раз быстрее литиевых батарей и в 54 раза быстрее электричества. Самый наглядный пример. В январе 2025-го OpenAI выпустила рассуждающую модель o3: на тесте с научными вопросами уровня PhD она набирала 75% и тратила в среднем 30 центов на вопрос. Через полтора года GPT-5.6 Luna показывает тот же результат за четыре сотых цента. Падение в 725 раз, как если бы новая машина за $50 000 стала стоить $69. Быстрее всего дешевеет передавая разработка. Когда модель впервые выходит на новый уровень качества, её создатель недолго может брать премию за качество. Конкуренты быстро догоняют, и цена этого уровня падает на 66% в квартал. Получается, что ИИ-бум разгоняет цены на все, что потребляет: чипы, электричество, даже труд электриков 🤡 А продукт дата-центров при этом обесценивается быстрее любой технологии в истории. Но если остановиться - твоя SOTA за год превратится в ширпотреб. Правда важно понимать, что модели часть могут натаскивать под тесты, а сам бенчмарк - не реальная работа и никто из пользователей не перебирает модели под каждую задачу ради самой дешёвой. #полезное