ИИ дешевеет быстрее электричества, батарей и ДНК вместе взятых
Команда Epoch AI посчитала, как быстро падает стоимость одного и того же уровня качества ИИ.
Они посмотрели на это не через цену токена, а через цену правильного ответа, с учётом того, что рассуждающие модели "съедают" токенов в разы больше - рассказывает Александр Кукса.
Есть такой термин: SOTA - state of the art.
Так называют лучший результат, который на данный момент показала хоть одна модель на конкретном тесте.
Для оценки они запустили 5 бенчмарков (математика, наука уровня PhD, шахматы и секретная игра) и собирали три года данные. И по их оценке cтоимость одного и того же уровня качества падает на 47% в квартал (каждый год ответ той же точности обходится в 13 раз дешевле).
Для сравнения Epoch взяла другие технологии, изменившие экономику и посчитало, что это в 4 раза быстрее, чем дешевело секвенирование ДНК, в 6 раз быстрее компьютерных технологий, в 18 раз быстрее литиевых батарей и в 54 раза быстрее электричества.
Самый наглядный пример.
В январе 2025-го OpenAI выпустила рассуждающую модель o3: на тесте с научными вопросами уровня PhD она набирала 75% и тратила в среднем 30 центов на вопрос.
Через полтора года GPT-5.6 Luna показывает тот же результат за четыре сотых цента. Падение в 725 раз, как если бы новая машина за $50 000 стала стоить $69.
Быстрее всего дешевеет передавая разработка.
Когда модель впервые выходит на новый уровень качества, её создатель недолго может брать премию за качество.
Конкуренты быстро догоняют, и цена этого уровня падает на 66% в квартал.
Получается, что ИИ-бум разгоняет цены на все, что потребляет: чипы, электричество, даже труд электриков 🤡
А продукт дата-центров при этом обесценивается быстрее любой технологии в истории.
Но если остановиться - твоя SOTA за год превратится в ширпотреб.
Правда важно понимать, что модели часть могут натаскивать под тесты, а сам бенчмарк - не реальная работа и никто из пользователей не перебирает модели под каждую задачу ради самой дешёвой.
