R

RAG | Нейросети | ИИ | AI | Агенты | GPT-6 Luna | Gemini 4 Argon | Claude Haiku 5.5 | Mistral Large 4 | Muse Wonder | Claude Fable 5.5

IT и технологии · 16 октября 2026 г.

Открыть канал в MAX

Модель держит в контексте миллион токенов и всё равно отвечает по факту, который уже ус...

Модель держит в контексте миллион токенов и всё равно отвечает по факту, который уже устарел. Дело не в забывании, а в обновлении убеждений: длинный контекст и RAG дают доступ к истории, но не говорят, какая версия теперь главная. Аддитивная запись в память (linear attention, fast weights) прибавляет новое к старому — прежнее не стёрлось, вышла смесь вместо замены. Чтобы факт заменился, нужна перезапись, а не накопление. Разбор в блоге Hugging Face.