Можно ли научить мелкую LLM учиться, не раздувая веса?
Можно ли научить мелкую LLM учиться, не раздувая веса? В первой статье автор крутил опыты на модельке, которая спокойно влезает в домашнюю видюху. Суть вопроса: способна ли она умнеть со временем — не раздуваясь до гигантских размеров, а за счёт памяти, аккуратного дообучения и проверки ответов. Теперь он выкладывает карты: всё это — шаги к новой архитектуре LANN-4. То есть к нейросети, которая учится всю свою «жизнь», имея компактный неизменный «мозг» и память, вынесенную наружу. Только вот самой архитектуры пока нет — её ни выбрали, ни собрали. А мелкие модели в опытах — подопытные инструменты, а не LANN-4. А вот что нихрена не вышло: проверка показала — если одну и ту же небольшую модель дообучать на примерах несколько раз кряду, лучше от раза к разу она не становится. Первый раунд подучивания даёт ощутимый прирост, дальше рост встаёт — накопления не случилось. Автор просит помочь найти дыру в устройстве решающей проверки, прежде чем палить примерно сутки работы видеокарты. Читать далее 👉 Telegram | Max