Дообучение или RAG: что выбрать, когда нужно, чтобы ИИ знал вашу компанию

Дообучение и RAG: в чём разница простыми словами

Языковая модель — это набор чисел (весов), которые получились в результате обучения на огромном объёме текстов. Работая, она эти числа не меняет. Есть три способа заставить такую модель вести себя нужным образом в вашей компании.

• Промпт. Инструкция и примеры в самом запросе: «ты помощник отдела закупок, отвечай так-то, вот три образца». Ничего в модели не меняется, меняется запрос. Как писать такие инструкции, описано в статье про системный промпт.
• RAG (поиск с генерацией). Перед ответом система находит в ваших документах нужные фрагменты и кладёт их в запрос. Модель отвечает по ним. Знания лежат вне модели, в индексе документов. Принцип описан в материале «RAG: как научить ИИ отвечать по документам компании».
• Дообучение (fine-tuning). Модель дополнительно обучают на ваших примерах «вход и желаемый ответ». Меняются сами веса или небольшая надстройка над ними. В результате получается другая версия модели.

Разница в том, что хранится и где. RAG хранит знания отдельно, в данных, которые можно прочитать, исправить и удалить. Дообучение «растворяет» их в весах, откуда факты трудно достать, проверить и убрать. Поэтому выбор определяется тем, чего вам не хватает: знаний или поведения.

Что решает RAG, а что дообучение

Самая частая ошибка — считать дообучение способом «вложить знания в модель». Оно лучше работает для другого. Ниже сопоставление по типичным потребностям.

RAG отвечает на вопрос «что известно?», дообучение отвечает на вопрос «как отвечать?».

Из этого следует простое правило. Если ответ должен опираться на документ и вы хотите видеть источник, это RAG. Если нужно изменить манеру или сделать узкую задачу быстрее и дешевле, обсуждаем дообучение. Оба варианта можно сочетать, но по очереди, а не вместе с первого шага.

Порядок, в котором стоит пробовать: лестница из четырёх ступеней

Каждая следующая ступень дороже и сложнее в сопровождении, поэтому поднимаемся ровно до той, на которой проблема исчезла.

1. Промпт с примерами. Чёткая инструкция, формат ответа и три-пять образцов. Часто этого хватает, особенно для стиля и формата. Если нет, измеряем, чего именно не хватает.
2. RAG. Добавляем, когда не хватает знаний: фактов, документов, актуальных данных. Начинаем с одного массива документов и набора реальных вопросов.
3. Инструменты. Если нужны живые данные (остаток на складе, статус заказа, цена), знания не нужно «хранить»: агент спрашивает учётную систему. Это function calling и MCP, а не обучение.
4. Дообучение. Подключаем, когда после первых трёх ступеней осталась проблема, которую они не решают: стабильный формат, стоимость при большом объёме, скорость на маленькой модели, узкий жаргон. И когда есть данные для обучения.

Такой порядок помогает не потратить недели на подготовку данных, если проблему решала правка запроса. Для оценки результата на каждой ступени нужен набор проверочных примеров: как его собрать, мы описывали в статье «Как оценить качество AI-агента».

Что нужно для дообучения и почему это дороже, чем кажется

Самая дорогая часть дообучения — не сам запуск обучения, а подготовка данных. Разберём, что требуется.

• Примеры. Обычно это сотни и больше пар «вход и верный ответ» для узкой задачи. Они должны быть правильными: модель выучит и ошибки в примерах.
• Однородность. Если примеры противоречат друг другу (разные сотрудники отвечают по-разному), модель выучит разнобой.
• Отложенная проверка. Часть примеров нужно отложить и не использовать в обучении, иначе нечем честно проверить результат.
• Хранение и запуск своей версии. Дообученная модель — отдельный артефакт, который нужно где-то запускать и версионировать.
• Повторное дообучение. Когда выходит новая версия базовой модели, дообучение приходится повторять. На момент подготовки материала у части провайдеров есть дообучение своих моделей, а для открытых моделей оно доступно на собственных серверах; условия и список моделей быстро меняются, поэтому уточняйте их перед проектом.

Отдельный риск — данные в весах. Модель может воспроизводить фрагменты примеров, на которых училась. Поэтому персональные данные и коммерческую тайну в обучающие примеры без необходимости не кладут: достать их оттуда потом трудно. Требования к персональным данным описаны в статье «ИИ и персональные данные». Если вы работаете с открытой моделью в своём контуре, см. «Локальные LLM для AI-агентов».

Где RAG побеждает, а где проигрывает

У RAG свои слабые места, и их стоит знать, чтобы не обещать лишнего. Он не обучает модель новым умениям, а только подаёт материал. Если вопрос требует рассуждения, которое в документах не описано, модель справится не лучше, чем без RAG. Если документы плохие, устаревшие или противоречивые, система честно воспроизведёт этот беспорядок.

• Сильные стороны: актуальность, ссылка на источник, права доступа, возможность удалить, не нужна подготовка обучающей выборки.
• Слабые стороны: качество зависит от нарезки документов и поиска, длинные цепочки рассуждений по многим документам даются хуже, на каждый запрос уходит больше текста и денег.

Что делать, если RAG нашёл не то или ответил мимо, разобрано в материале «Почему RAG отвечает неверно». А как это выглядит как готовая система для сотрудников, описано на странице ИИ-ассистент по базе знаний.

Гибрид: когда нужны оба, и в каком порядке

Иногда обе технологии работают вместе. Типичный пример: компания использует RAG по регламентам, но ответы должны выходить в строго заданной структуре, а базовая модель то и дело нарушает формат. Тогда сначала строят RAG и промпт, измеряют, где именно ломается формат, и только потом дообучают модель выдерживать структуру на примерах, где знания приходят из поиска.

Обратный порядок плохо работает. Если сначала дообучить модель на документах, а потом документы изменятся, придётся переучивать и проверять заново. Структура и манера меняются редко, знания меняются постоянно, поэтому знания должны храниться там, где их легко обновить.

Примеры: как выбирают на практике

Это условные примеры, чтобы увидеть логику выбора, а не результаты чьих-то проектов.

Во всех примерах видно, что дообучение стоит в конце списка. Это не отказ от технологии, а порядок затрат.

Шесть вопросов перед выбором

1. Нужны ли ответы на основе документов, которые меняются? Если да, это RAG.
2. Должен ли пользователь видеть источник? Если да, это RAG.
3. Различаются ли права доступа у пользователей? Если да, это RAG с фильтрацией в поиске.
4. Что именно не получается: знания, формат, стоимость, скорость? От ответа зависит ступень лестницы.
5. Есть ли у вас сотни проверенных примеров «вход — верный ответ» и кто будет их поддерживать? Без этого дообучение не начинаем.
6. Допускает ли политика безопасности отправку этих данных в обучение, и где будет жить дообученная модель?

Если коротко, начинать нужно с задачи и проверочного набора, а не с технологии. Разбор того, с чего начинать, есть в статье «С чего начать внедрение ИИ», а расчёт, во что обходятся обращения к модели, — в материале «Сколько агент тратит на обращения к модели».

Сколько это стоит в проекте

RAG и дообучение по-разному входят в смету. В RAG основные затраты — подготовка и разбор документов, права доступа, проверка качества и интеграции. В дообучении — подготовка и разметка примеров, запуск обучения, оценка, размещение модели и повторные циклы при смене базовой модели.

Мы начинаем с экспресс-аудита (50 000 ₽, 5-7 рабочих дней, засчитывается в проект), где выясняем, на какой ступени лестницы находится ваша задача. Пилот на одном процессе — от 200 000 ₽ и 3-4 недели. Обращения к модели и серверы для варианта в вашем контуре считаются отдельно. Общая смета описана в статье «Сколько на самом деле стоит AI-агент».