Классический RAG не справился: как в банке создали ИИ-консультанта по архитектуре.
В банке пришлось создавать ИИ-консультанта по архитектуре. Знания об архитектуре распределены по разным источникам: что-то хранится в Confluence, что-то в реестре систем, что-то в ADR, а самая ценная информация остаётся в головах экспертов и архитекторов. Ландшафт банка включает множество систем, модулей, компонентов, интеграций и команд. В таких масштабах прежние способы распространения знаний уже не обеспечивают нужную скорость и полноту доступа. Поиск занимает много времени, новичкам сложно ориентироваться в этом многообразии, а архитекторы и эксперты постоянно отвечают на одни и те же вопросы.
На первый взгляд задача выглядит как типовой RAG: нужно собрать документы, разбить их на чанки, добавить эмбеддинги и передавать найденный контекст большой языковой модели. Однако быстро стало понятно, что вопросы об архитектуре сложнее обычного поиска по тексту. Разбираем, почему классического RAG не хватило, зачем понадобился граф знаний, как организована маршрутизация запросов между источниками банка и к какой архитектуре в итоге пришли.
Ещё новости:
