Откуда нейросеть всё знает? — 8 апреля 2026 г. в 13:40:16.272
Откуда нейросеть всё знает? Нет, про общие вопросы понятно — модели обучили на огромных массивах открытых данных из интернета, книг, исследований и т.д. Недавно была даже новость, что Anthropic закупила миллионы бумажных книг и организовала чуть ли не целую фабрику по их оцифровке для обучения своих моделей. А вот откуда корпоративный ИИ знает про внутренние документы и данные компании, как может провести проверку бизнес-плана, составить договор или ответить на вопросы по продажам или внутреннему регламенту? Ведь модель на то и языковая, что сама по себе работает с текстом и не хранит внутри себя внутренние знания конкретной компании заранее. Она не «знает» ваши документы так же, как знает общие закономерности языка. Тем более не может сама по себе обратиться к корпоративной системе, найти нужный документ, сверить версии и проверить расчёты. Несколько лет назад меня ответ на этот вопрос удивил своей незамысловатостью и простотой. Даже разочаровал в какой-то степени – никакой романтики инженерной мысли. Идея оказалась в том, что перед тем, как отдать вопрос или задание модели, к исходному тексту просто добавляется нужная дополнительная информация. И модель получает на вход не только вопрос или задачу, но и всю необходимую информацию для подготовки ответа или решения — например, фрагменты тех самых регламентов, договоров, документации, данные из корпоративных систем и т.д. И дальше модель работает уже с тем, что ей передали. Это может быть текст, таблица, выдержка из базы знаний, результат поиска, данные из CRM или ERP и т.д. Всё это называется контекстом. То есть она отвечает не только на основе самого запроса, а на основе специально собранного для неё контекста. На первый взгляд здесь и правда как будто нет никакой сложной работы: давай модели то, что нужно, а дальше она сама всё сделает. Но главная сложность как раз в подготовке этого контекста. Вручную это сделать можно, но в корпоративной среде на массовом потоке такой подход быстро перестаёт работать: слишком много источников, версий и рисков ошибиться. Если добавили лишнее, модель теряет фокус и начинает путаться (это называется Lost in the Middle). Если не добавили важное, получили ошибку, неточный ответ или ответ по неактуальному документу. Поэтому появилось много инструментов и методов, которые помогают формировать контекст автоматически. Это называется контекст-инжинирингом. Внутри этой задачи уже много математики и разных способов поиска информации: поиск по словам, векторный поиск, поиск по графам и разные их комбинации — например, гибридный поиск Но найти информацию недостаточно. Не менее важно правильно её отранжировать. Первый этап поиска может вернуть десятки или сотни потенциально подходящих фрагментов, но передавать всё это модели нельзя: контекст перегружается. Поэтому после поиска применяют переранжирование. Более точная модель заново оценивает найденные фрагменты и поднимает наверх действительно релевантные. Другими словами, система сначала быстро находит всё потенциально полезное, а затем отдельно отбирает то, что действительно стоит «показать» модели. Идея такая: подготовить для модели максимально точный и релевантный контекст. Не просто дать ей побольше информации, а подобрать именно ту, которая нужна для ответа. Вот здесь простор для инженерной мысли уже появляется. О том, как устроены поиск, отбор, ранжирование и сборка контекста, мы написали статью https://blogs.epsilonmetrics.ru/kontekstnyj-poisk-s-ii-kak-povysit-tochnost-otvetov-bazy-znanij/