📌 Ричард Саттон: генеративный ИИ не станет настоящим учёным без оценки собственных рез... — 8 июня 2026 г. в 05:58:51.820
📌 Ричард Саттон: генеративный ИИ не станет настоящим учёным без оценки собственных результатов Ричард Саттон, один из ключевых исследователей в области reinforcement learning и лауреат премии Тьюринга, выступил с критикой современных генеративных моделей. По его мнению, нынешние LLM, генераторы изображений и видео в первую очередь занимаются имитацией. Они хорошо воспроизводят уже существующие паттерны, но сами по себе не обладают механизмом, который нужен для настоящих открытий. Главная проблема — отсутствие оценки результата прямо в процессе работы. Саттон объясняет это через известную шутку о научной статье: работа одновременно «новая и хорошая», но хорошие части в ней не новые, а новые — не хорошие. По его мнению, это хорошо описывает генеративный ИИ. Модель может выдать что-то новое за счёт случайности генерации или что-то качественное за счёт обучающих данных. Но получить результат, который одновременно новый и действительно хороший, ей сложно. Для многих прикладных задач это не критично. Генеративный ИИ всё равно полезен, если он быстрее, дешевле или удобнее человека воспроизводит нужный результат. Но в науке, математике и настоящем творчестве этого недостаточно. 🟡 Почему одного предсказания мало Саттон говорит, что научное открытие строится на трёх элементах: — генерации вариантов; — оценке полученных результатов; — сохранении удачных решений. В чистом обучении с учителем и обычном предсказании этого цикла нет. Зато он есть в reinforcement learning, планировании и комбинаторном поиске. В качестве примеров систем, которые смогли находить одновременно новые и качественные решения, Саттон приводит AlphaGo, AlphaZero, AlphaFold и AlphaProof. Идея не новая: похожие принципы ранее обсуждали Дональд Кэмпбелл и Дэниел Деннет. Но сейчас она становится особенно важной на фоне быстрого развития ИИ. 🟡 Генеративным моделям не хватает внутреннего отбора Ключевое ограничение LLM в том, что после предобучения они не умеют полноценно оценивать собственные ответы во время генерации. Оценку может дать человек, который выбирает лучший вариант. Но для научных открытий важнее другой сценарий — когда у системы есть явная измеримая цель. Например: найти ход, ведущий к мату, доказать теорему или получить результат, который можно проверить формальным критерием. В таком случае модель должна сама проходить полный цикл: создавать варианты, проверять их и оставлять лучшие. Саттон также критикует сам подход к обучению через backpropagation. По его словам, в нём почти нет постоянной случайности: она появляется в основном при начальной инициализации весов. Из-за этого со временем сеть может терять гибкость и способность адаптироваться. В качестве возможного решения он напомнил о Continual Backprop — алгоритме, который периодически переинициализирует редко используемые нейроны, чтобы поддерживать пластичность сети. 🟡 Главный вывод Чтобы приблизиться к автономному ИИ-учёному, недостаточно просто увеличивать размер моделей и объем данных. Нужно давать ИИ измеримые цели и возможность самостоятельно проходить весь цикл поиска: создавать гипотезы, проверять их, отбирать удачные решения и улучшаться на основе результата. Именно это, по мнению Саттона, отличает настоящую систему открытия от модели, которая просто хорошо имитирует уже известные данные. Его позиция перекликается с идеями из эссе «Горький урок»: долгосрочный прогресс в ИИ дают не вручную встроенные человеческие знания, а масштабируемые методы поиска и обучения, которые становятся сильнее вместе с ростом вычислительных мощностей. #news #ai #ml