RAG: ИИ, который отвечает по вашим документам
Модель сама по себе не знает ваших регламентов и договоров. RAG — способ дать ей доступ к вашим документам так, чтобы ответ был проверяемым. Разбираем, как это устроено и что подготовить.
Как это работает
- Ваши документы режутся на фрагменты и индексируются
- При вопросе система находит фрагменты, относящиеся к теме
- Найденное передаётся модели вместе с вопросом
- Модель формулирует ответ, опираясь на переданные фрагменты
- К ответу прикладывается ссылка на документ и пункт
Смысл в том, что модель не «вспоминает», а читает ваш документ прямо сейчас. Поэтому ответ можно проверить, а базу — обновить без переобучения модели.
Почему ссылка на источник обязательна
Модель может сформулировать правдоподобный ответ там, где данных не хватило. Единственная надёжная защита — требовать ссылку на конкретный пункт конкретного документа, чтобы человек мог проверить за секунды.
Ответ без ссылки на источник в корпоративной задаче бесполезен: проверять всё равно придётся, только дольше, чем искать самому.
Что подготовить со своей стороны
- Документы в электронном виде — не сканы низкого качества
- Понимание, какая версия документа актуальна: две редакции одного регламента дают противоречивые ответы
- Разграничение доступа: кто какие документы может видеть — агент должен это соблюдать
- Человека, который первые недели размечает неудачные ответы
Типичные проблемы
| Проблема | Как проявляется | Что делать |
|---|---|---|
| Устаревшие документы | Агент отвечает по отменённому регламенту | Навести порядок в версиях до старта |
| Противоречия | На один вопрос два разных ответа | Определить приоритет документов |
| Плохие сканы | Ответы по части документов не находятся | Перевести в текст или исключить |
| Нет разграничения | Сотрудник видит то, что не должен | Настроить права до запуска |
Где это применяется
Ответы по регламентам для HR, поиск по договорам для юристов, база знаний для первой линии поддержки, техническая документация для сервисных служб.
Частые вопросы
Нужно ли обучать модель на наших данных?
Обычно нет. RAG даёт модели доступ к документам во время ответа — это дешевле, быстрее и позволяет обновлять базу без переобучения.
Что если агент ответит неверно?
Поэтому и нужна ссылка на источник: человек проверяет ответ за секунды. Доля неверных ответов измеряется на выборке ваших реальных вопросов ещё на аудите.
Наши документы уйдут наружу?
В облачном варианте фрагменты передаются модели. Если это недопустимо, разворачиваем всё в вашем контуре — тогда документы не покидают периметр.
Сколько документов нужно?
Дело не в количестве, а в актуальности и порядке. Сто актуальных документов работают лучше тысячи, где половина устарела.
Проверим на ваших документах
Соберём выборку реальных вопросов и покажем, на какую долю агент отвечает корректно.
Оставить заявку