NAT-ARC: Как «кошачьи» нейросети решают ARC-задачи на 70%
NAT-ARC: Как «кошачьи» нейросети решают ARC-задачи на 70% 💡 Команда Кэма Хэ (Kaiming He) из MIT CSAIL представила NAT-ARC — инновационный подход к решению задач ARC (Abstraction and Reasoning Corpus), который полностью исключает использование больших языковых моделей (LLM). В отличие от традиционных методов, где цветные сетки переводятся в текстовые или символьные последовательности для обработки LLM, NAT-ARC использует чисто визуальный пайплайн. Ключевая идея заключается в использовании предобученного энкодера, обученного на ImageNet (изображения кошек, собак и цветов) методом MAE (Masked Autoencoder), который затем адаптируется для работы с абстрактными логическими сетками. Это позволяет модели «видеть» и понимать пространственные отношения без необходимости перевода данных в язык. ⚡ Результаты впечатляют: лучший одиночный модельный вариант NAT-ARC (масштаб huge, 0.6B параметров) достиг показателя pass@2 в 63.4% на ARC-1. При использовании ансамбля из трех моделей с разными стратегиями предобучения (общий объем параметров ~2B) результат вырос до 70.2%. Для сравнения, специализированная LLM-система The ARChitects, использующая 8B параметров, показала 71.6%. Таким образом, визуальный подход с четвертью объема параметров практически догнал системы на базе LLM, что является значительным прорывом в эффективности. 🤔 Почему это работает? Исследователи выяснили, что предобучение на ImageNet устраняет структурный недостаток визуальных моделей — отсутствие масштабируемости (scaling). Без предобучения увеличение размера модели (с large до huge) приводило к ухудшению результатов из-за переобучения на малом объеме данных ARC. Однако после инициализации весами MAE кривая обучения стала здоровой: чем больше модель, тем лучше результат. Визуализация внимания показала, что модель, обученная на природных изображениях, уже умеет отделять объекты от фона, что напрямую помогает в задачах ARC, требующих выделения связанных компонентов и совпадения паттернов. 📌 Что это значит на практике: Предобучение на естественных изображениях открывает путь к созданию компактных и эффективных моделей для абстрактного логического вывода. Это доказывает, что визуальные первичные навыки (распознавание объектов, сегментация) универсальны и могут быть перенесены на чисто абстрактные задачи, снижая зависимость от громоздких LLM. 🚀 Самый интересный эксперимент подтвердил гипотезу о общем пространстве представлений: исследователи использовали автоэнкодер для перевода изображения кошки в формат ARC-сетки (60x60, 10 цветов), применили к ней логическое преобразование (поворот и рамку) и декодировали обратно в пиксели. Кошка действительно повернулась, а рамка появилась. Это наглядно демонстрирует, что абстрактные правила ARC и визуальные представления естественных изображений связаны на фундаментальном уровне. Перевод и адаптация: AI Lab. Источник: QbitAI (量子位), https://www.qbitai.com/2026/10/499812.html #AI #LLM #ComputerVision #ARC #MIT #DeepLearning