Почему RAG не работает: типичные проблемы данных

Когда RAG-система отвечает невпопад, причина почти всегда не в модели, а в данных. Вот четыре проблемы, которые мы встречаем чаще всего.

Неправильный чанкинг

Разбиение «по 500 токенов с перекрытием» ломает логику документа: таблица оказывается в трёх чанках, а заголовок — в четвёртом. Чинится структурным чанкингом с учётом разметки документа.

Отсутствие метаданных

Без источника, типа и даты документа невозможно ни фильтровать выдачу, ни объяснить модели, чему доверять. Метаданные — половина качества retrieval.

Дубликаты и мусор в корпусе

Один и тот же документ в пяти копиях не делает retrieval точнее — он только засоряет индекс. Дедупликация до индексации обязательна.

Нет проверки извлечения

Индекс построен, но никто не проверял, что типовые запросы реально находят нужные фрагменты. Прогон контрольной выборки запросов — обязательный этап перед запуском.

Всё это — вопросы подготовки данных, а не архитектуры модели. Если ваш RAG врёт, начните с аудита корпуса: info@ai-engineering.space.