Ринат Шакиров / Нейросети / ChatGPT / Nano Banana / Seedance 2.0
IT и технологии · 3 ноября 2026 г.
GPT-6 Astra поправила 0,016% весов модели Qwen3.5-0.8B и подняла точность в математике ...
GPT-6 Astra поправила 0,016% весов модели Qwen3.5-0.8B и подняла точность в математике почти в 6 раз (без обучения) Исследователи из MIT показали, что языковая модель может читать и править веса другой нейросети напрямую. Без обучения на данных и без долгих тренировок. Метод назвали Weight-Space Programming, все опыты проводили на модели GPT-6 Astra. Веса это числа внутри нейросети, в которых хранится всё, чему она научилась. Обычно их подбирают часами и днями обучения. Здесь модель просто смотрит на эти числа и понимает, что сеть умеет делать. Ей дали четыре сети, обученные играть в Breakout, Pong, Pac-Man и Freeway. Без подсказок и списка вариантов Astra по одним весам правильно назвала игру для каждой. Модель с нуля написала сети для простых игр, не запустив ни одной тренировки. В Breakout её сеть набрала 517 очков, а обычная сеть, которую обучали 500 миллионов шагов, всего 25. Разница в 20 раз Самый мощный результат получили на маленькой Qwen3.5-0.8B. Astra нашла, из-за чего модель зацикливается на задачах по математике, и поправила всего 0,016% весов. Точность на тесте MATH-500 выросла с 7,9% до 48,1%, на школьных задачах GSM8K с 13,8% до 67,1%. Доля ответов, где модель упиралась в лимит и не заканчивала мысль, упала с 93% до 33%. Но не все идеально. С Gemma 3 270M ничего не вышло, результат почти не сдвинулся. Авторы делают вывод, что правка весов убирает помехи, но не добавляет модели того, чего она не умеет. Логи всех экспериментов выложены на GitHub. Сейчас команда собирает отдельный бенчмарк для проверки таких способностей. dailyprompts.ru