Почему большие языковые модели не рассуждают: 10 лет после AlphaGo
Почему большие языковые модели не рассуждают: 10 лет после AlphaGo В марте 2016 года программа AlphaGo обыграла Ли Седоля в го — результат, который многие считали недостижимым для искусственного интеллекта (ИИ) на десятилетия вперед. Ключом к успеху был не просто большой объем данных, а особая архитектура: AlphaGo совмещала нейронные сети с перебором дерева возможных ходов. Она просматривала варианты, оценивала позиции и выбирала ход с максимальной ценностью. Это позволяло ей «рассуждать» о последствиях своих действий, а не только предсказывать следующий ход. Современные большие языковые модели (LLM) работают иначе. Они обучены предсказывать следующий токен — фрагмент слова или символ — на основе контекста. Внутри них нет механизма, который перебирает альтернативные сценарии, проверяет гипотезы или возвращается назад при ошибке. Модель генерирует текст последовательно, опираясь на статистические закономерности из обучающих данных. Поэтому она может давать правдоподобные ответы, но не способна систематически перебирать возможные варианты. Именно этот разрыв часто упускают из виду. Когда LLM решает математическую задачу или пишет код, она не выполняет цепочку логических операций в том смысле, в каком это делал AlphaGo. Она воспроизводит шаблоны, похожие на рассуждения, но без гарантии корректности. Если в обучающих данных был похожий пример — ответ может быть точным. Если нет — модель уверенно генерирует ошибку. Десять лет спустя победа AlphaGo остается напоминанием: для настоящего интеллекта недостаточно уметь предсказывать слова. Нужны механизмы поиска, планирования и проверки. Пока LLM не интегрируют подобные механизмы, называть их «рассуждающими» преждевременно. Главное: • AlphaGo побеждала благодаря поиску по дереву и оценке позиций, а не только предсказаниям. • LLM генерируют текст пошагово и не перебирают альтернативные варианты решения. • Правдоподобные ответы не означают, что модель действительно рассуждает. • Без механизмов планирования LLM остаются инструментами имитации рассуждений. #ИИ #LLM #AlphaGo #Рассуждения #МашинноеОбучение