Обычного RAG оказалось мало: как Альфа-Банк построил ИИ-консультанта по архитектуре
Обычного RAG оказалось мало: как Альфа-Банк построил ИИ-консультанта по архитектуре В Альфа-Банке построили ИИ-консультанта, который помогает архитекторам и другим сотрудникам быстро находить знания о системах банка. Архитектурная информация разбросана: часть в Confluence, часть в реестре систем, часть в ADR, а самое ценное — в головах экспертов. Из-за этого поиск отнимает время, новым сотрудникам трудно разобраться в ландшафте, а архитекторы отвечают на одни и те же вопросы. Первая версия была классическим RAG: документы разбили на фрагменты, загрузили в векторную базу вместе с данными реестра и передавали найденное языковой модели. Для простых вопросов — «какой стандарт регулирует логирование» или «кто владелец системы» — этого хватало. Но вопросы о структуре и связях — какие модули размещены в облаке, какие интеграции затронет изменение компонента — так не решались: ответ не лежит в одном фрагменте, а требует цепочки отношений между объектами, иерархии «система — модуль — компонент», владельцев и статусов. Поэтому знания разделили на два типа. Неструктурированные материалы Confluence — стандарты, паттерны, ADR, регламенты — ищутся векторным поиском по смыслу. Структурированные данные реестра — около 2000 систем и 300 000 связей — перенесли в граф знаний: системы, модули и компоненты стали вершинами, а иерархия и интеграции — рёбрами. Такой GraphRAG не заменяет векторный поиск, а дополняет его: граф используется там, где ответ зависит от связей между объектами, например при оценке влияния изменения. Сценарий собран на low-code-платформе Langflow. Классификатор определяет тип вопроса и направляет его по одному из четырёх маршрутов: реестр систем, документация Confluence, оба источника или общие знания модели. Позже часть задач распределили между специализированными агентами — по реестру, документации, графу, интеграциям и проверке решений — с оркестратором, который собирает итог. При этом простые сценарии авторы сознательно оставили детерминированными: чем больше автономности у агентов, тем труднее контролировать права доступа и находить причины ошибок. Авторы отмечают подводные камни. Качество ответа зависит от исходных данных: если владелец не указан или интеграция задублирована, консультант лишь воспроизведёт проблему — пришлось внедрить нормализацию и единый справочник сокращений после случая, когда поиск не распознал систему по аббревиатуре. Права доступа учитываются до формирования контекста, а чтобы модель не ошибалась на стыке источников, обработку разделили на этапы: сначала извлечение данных, потом ответ с указанием источников. Консультант сейчас работает и умеет отвечать на вопросы о системах, связях и интеграциях, помогать оценивать решения на соответствие стандартам — но, по словам авторов, он не заменяет архитектора и не принимает решения за него, а лишь собирает нужную информацию. Источник: https://habr.com/ru/companies/alfa/articles/1082348/