Что такое RAG-ассистент и как он работает в бизнесе

TL;DR. RAG-ассистент — это чат-бот поверх вашей собственной базы документов: техпаспортов, договоров, регламентов, скриптов продаж. Перед тем как ответить, он ищет релевантные фрагменты в базе и подставляет их в запрос к языковой модели. Поэтому отвечает по вашим документам, а не по тому, что модель запомнила при обучении. Работает в Bitrix24, 1С или отдельном интерфейсе.

Что такое RAG и зачем он бизнесу

RAG расшифровывается как retrieval-augmented generation — генерация ответа с подкреплением поиском. Сама по себе языковая модель ничего не знает о вашей компании: она обучена на открытых источниках из интернета и техпаспортов вашего производства не видела. RAG решает это без переобучения модели — нужный контекст подставляется в запрос напрямую.

Практический эффект: сотрудник получает ответ по внутренней базе за секунды вместо того, чтобы искать вручную по папкам или отвлекать коллегу. В кейсе с дистрибьютором станков менеджер находит техпараметры модели прямо в мессенджере Bitrix24, не выходя из переписки с клиентом. Раньше на это уходили минуты поиска по 11 000 файлам PDF, DOCX и PPTX — теперь секунды.

Как это устроено технически

Три шага: индексация, поиск, генерация с контекстом.

1. Индексация. Документы — PDF, DOCX, PPTX, страницы 1С или Bitrix24 — разбиваются на фрагменты и превращаются в векторные представления (эмбеддинги), которые сохраняются в векторной базе данных. Таблицы обрабатываются отдельно. Технические характеристики часто живут в таблицах со сложной структурой заголовков, и наивная разбивка на фрагменты рвёт связь параметра со значением.
2. Поиск (retrieval). Когда сотрудник задаёт вопрос, система ищет наиболее релевантные фрагменты в базе. Здесь есть подвох: чисто семантический поиск слабо справляется с точными идентификаторами — номерами моделей, артикулами. Он находит «похожее», а не точное совпадение. Поэтому в проде обычно используют гибридный поиск — семантику вместе с BM25 (поиск по точному совпадению слов), а не что-то одно.
3. Генерация с контекстом. Найденные фрагменты подставляются в запрос к языковой модели вместе с вопросом пользователя. Модель формулирует ответ на основе этого контекста, а не общих знаний из обучения. Хороший ответ ссылается на источник — конкретный документ или пункт, — чтобы его можно было проверить, а не принимать на веру.

Где это применимо

• Техническая документация — техпаспорта, каталоги продукции, инструкции по эксплуатации. Менеджер или инженер получает параметр модели без похода в архив.
• Договоры и юридические документы — сверка с эталонным шаблоном, поиск нужного пункта в потоке входящих договоров.
• Регламенты и внутренние процедуры — онбординг новых сотрудников: вопрос по процессу закрывается на месте, без отвлечения коллег.
• Скрипты продаж и база знаний по продукту — отдел продаж отвечает клиенту точнее и быстрее, не переключаясь в другое окно.

Общий признак задачи, где RAG подходит: у компании уже есть база текстовых документов, и людям регулярно нужно найти в ней конкретный факт.

Ограничения

RAG — не универсальный ответ на любую задачу с документами. Вот что стоит понимать заранее.

• База устаревает без переиндексации. Документы обновились, индекс — нет: ассистент начинает уверенно цитировать старую версию техпаспорта или договора. Это не баг конкретной реализации, а свойство подхода. Переиндексация должна быть частью процесса, а не разовым запуском при внедрении.
• RAG не заменяет структурированный поиск для точных цифр. Для задач вида «покажи все договоры с суммой больше X» или «выгрузи список контрагентов по региону» нужна структурированная база данных с фильтрами и агрегацией, а не поиск по смыслу текста. RAG хорош там, где вопрос сформулирован на естественном языке, а ответ — факт из документа, а не выборка по критериям.
• Риск неполного контекста. Релевантный фрагмент может не попасть в топ найденных — из-за формулировки вопроса, разбивки документа на части или конкуренции с похожими фрагментами. Тогда модель отвечает на основе неполной картины. Гибридный поиск и ссылка на источник в ответе снижают этот риск, но не убирают его полностью ни в одной известной нам реализации.
• Модель может ошибиться. Как любая система на LLM, RAG-ассистент не застрахован от неверного ответа. Ссылка на источник в каждом ответе — не декоративная деталь, а то, чем сотрудник проверяет результат за секунды, не пересчитывая всё заново.

Как мы это реализовали

• Дистрибьютор станков: RAG-ассистент в Bitrix24 — 11 000 файлов техдокументации и 60 обучающих видео, ассистент в мессенджере Bitrix24, гибридный поиск для точного совпадения по моделям станков.
• AI-анализ договоров: сверка с эталонным шаблоном — извлечение ключевых полей из договора, сравнение с шаблоном по пунктам, разметка рискованных формулировок с пояснением.
• Проверка контрагента по ИНН — агент собирает данные из реестров, санкционных списков и судебной практики в структурированное заключение со ссылками на источники.

Что это будет стоить и сколько времени

Пилот RAG-ассистента под конкретную задачу — от 200 000 ₽, 1–2 месяца. В эту стоимость входит индексация вашей базы документов, настройка поиска и интеграция в интерфейс, где сотрудники уже работают — Bitrix24, 1С или отдельный чат. Точная оценка зависит от объёма и структуры документов — обсуждается на этапе аудита.