Четыре когнитивных паттерна для улучшения работы ИИ-моделей
Четыре когнитивных паттерна для улучшения работы ИИ-моделей Исследователи из Стэнфордского университета изучили, как модели ИИ могут самостоятельно находить решения без специальной разметки. Они применили парадигму test-time compute scaling к моделям Qwen-2.5-3B и Llama-3.2-3B для решения задачи Countdown (получение целевого числа с помощью арифметических операций). Qwen быстро достигла хорошего результата, а Llama — медленнее и с худшим качеством. Анализ показал, что эффективность решения логических задач связана с четырьмя когнитивными паттернами: проверкой логичности рассуждений, отказом от бесперспективных подходов, разделением сложных задач на простые и подходом от конца к началу. Авторы предположили, что в обучающей выборке Qwen присутствуют эти паттерны, а в Llama — нет. Чтобы обучить Llama, они сгенерировали небольшой датасет с помощью модели Claude 3.5 Sonnet. Дообучение на этих примерах существенно улучшило качество работы Llama, сравняв его с Qwen. Интересно, что даже примеры с неправильными ответами не снизили итоговое качество.