Имаго-кодинг: как автор связывает RAG и LoRA в локальной разработке
Имаго-кодинг: как автор связывает RAG и LoRA в локальной разработке ToxaBes предлагает термин «имагo-кодинг» для следующего шага после вайб-кодинга и харнесса: вместе работают харнесс, RAG и LoRA. В этой схеме RAG подаёт факты проекта, а LoRA закрепляет привычки и предпочтения модели, чтобы она писала код в структуре репозитория и опиралась на существующие интерфейсы. Автор строит RAG через контекстуальный чанкинг, векторные эмбеддинги, BM25 и RRF. Для дообучения строителя класса 27–35B он в своём случае считает достаточными 48 GB GPU-памяти, а для стиля и формата ответов называет рабочим ориентиром 500–1000 тщательно подобранных примеров. Обучение адаптера, по его оценке, занимает 1–2 дня. Практический смысл у подхода есть там, где данные нельзя выносить из контура: в проектах с коммерческой тайной или персональными данными, а также в узкой предметной области с повторяющейся структурой задач. Ограничения тоже прямые: нужен отдельный датасет, ручной контроль качества и переобучение адаптера при смене базовой модели. Автор также считает, что для коротких проектов и новичков такой стек может не окупиться. Источник: Habr AI Practice RU — https://habr.com/ru/articles/1086430/