Проект mini-AGI — это экспериментальная языковая модель, способная к непрерывному обуче...
Проект mini-AGI — это экспериментальная языковая модель, способная к непрерывному обучению прямо на обычном ноутбуке с видеокартой на 8 ГБ. Она тренируется с нуля, самостоятельно масштабируется и хранит параметры на диске, а не только в видеопамяти, что позволяет увеличивать её размер по мере необходимости. Модель умеет учиться на потоке данных без катастрофического забывания, а её архитектура динамически собирает себя во время обучения. Разработчики подчеркивают, что это пока лишь прототип, не обладающий возможностями крупных моделей, но подход доказывает принципиальную возможность самостоятельного обучения на личных данных прямо у пользователя. Источник: https://github.com/volotat/mini-AGI/
27 просмотров