Искусственный интеллект

RAG

RAG

RAG — это поиск по документам компании плюс нейросеть. Модель сначала находит подходящие куски в ваших файлах и только потом собирает ответ. Она отвечает по договорам, прайсам и регламентам, а не по интернету и не «из головы».

Где RAG ломается в жизни

В поиск закидывают всё, что нашли на общем диске. Рядом лежат «Прайс_финал.pdf» и «Прайс_финал (2).pdf», даты нет, кто обновляет — неизвестно. Нейросеть находит оба и отвечает по первому попавшемуся. Менеджер называет клиенту цену прошлого года — виноватой оказывается «эта ваша нейросеть».

Слева свалка PDF без дат и ответственного. Справа файлы с датой и человеком, который их обновляет.
Слева поиск хватает старый прайс. Справа — только актуальные файлы.

Что должно быть у каждого файла

  • Дата: когда документ актуален и до какого числа им можно пользоваться.
  • Ответственный: человек, который его обновляет.
  • Персональные данные и документы под NDA в поиск не попадают.
  • Прайс живёт отдельно: своя история версий и своё правило обновления.
  • Старые версии убирают из поиска физически, а не «помечают как неактуальные».

ПрайсПрайс меняется чаще всего, и цена ошибки сразу в деньгах. Его не смешивают с регламентами и презентациями и обновляют по своему регламенту.

Как выглядит нормальный пилот

Не на всю компанию сразу. Один процесс — ответы клиентам по продукту или подбор условий для менеджера. До подключения модели собирают двадцать реальных вопросов из чатов и звонков. По ним видно, каких документов не хватает.

ИсточникВерсияКто имеет доступ
ПрайсДата последнего обновленияПродажи, руководитель
РегламентыНомер редакцииВся компания
Договоры-шаблоныДата утверждения юристомПродажи, юрист

Как проверять ответы

  1. Собрать двадцать вопросов до запуска и те же вопросы прогнать после.
  2. Где ответ про деньги — цены, скидки, оплату, сроки по договору — решение подтверждает человек.
  3. Раз в две недели ответственный проходит список источников: убирает устаревшее, добавляет новое, проверяет прайс.

Ориентир50–100 вопросов проверяют глазами человека, который в теме. 8 из 10 верных ответов — хороший результат пилота, если понятны причины двух ошибок.

RAG: как применяют

В агентстве RAG ставим как пилот на один процесс: сначала разбираем, какие файлы вообще можно класть в поиск, потом подключаем модель. Пока в индексе лежит старый прайс рядом с новым, любой ответ про цены нельзя считать рабочим.

Частые вопросы

Что такое RAG?

RAG — когда нейросеть сначала ищет ответ в ваших файлах и отвечает по ним, со ссылкой на документ. Не по тому, что запомнила при обучении.

RAG простыми словами?

Как умный поиск по папке компании: нашли нужный абзац в прайсе или регламенте — и уже из него сформулировали ответ. Нет файла — нет ответа.

Чем RAG отличается от обычной нейросети?

Обычная модель отвечает по памяти обучения. RAG сначала открывает ваши документы. Поэтому ошибка почти всегда в файлах: устарел прайс, два регламента спорят, нужного файла нет.

Сколько документов нужно для старта

Для пилота хватает 20–50 файлов по одному процессу. Больше на старте только мешает: сложнее понять, откуда пришёл неверный ответ.

Можно ли загрузить в RAG базу клиентов

Нет. Персональные данные и документы под NDA в такой поиск не кладут. Для них нужен отдельный контур и отдельные правила доступа.

Что делать, если RAG отвечает неправильно?

Смотреть источник. Обычно в индексе старый файл или два документа, которые противоречат друг другу. Лечится уборкой, а не сменой модели.

← К разделу «Искусственный интеллект»