Разработка ИИ-сервисов: продукт на языковой модели для ваших клиентов, а не демо
Разработка ИИ-сервисов отличается от автоматизации внутренних процессов: сервисом будут пользоваться ваши клиенты, он должен держать нагрузку, стоить предсказуемо и не ошибаться на виду у всех. Делаем такие сервисы от проверки идеи до передачи вашей команде.
Что мы называем ИИ-сервисом
ИИ-сервис — это продукт или функция, которой пользуются ваши клиенты: генератор описаний товаров в вашей платформе, помощник в вашем приложении, проверка документов как услуга, сервис подбора, умный поиск по вашему каталогу. Пользователи не знают и не должны знать, какая модель внутри. Они видят результат, скорость и цену.
Этим ИИ-сервис отличается от внутреннего AI-агента: у агента десять пользователей и один владелец процесса, у сервиса — тысячи пользователей, нагрузка, затраты на каждый запрос и репутация продукта. Поэтому и проектируется он иначе.
Что входит в разработку ИИ-сервиса
Проверка идеи на данных
Прежде чем писать код, проверяем, решает ли модель задачу на ваших реальных примерах и с каким качеством. Часто ответ меняет продукт.
Архитектура
Выбор модели или нескольких, поиск по вашим данным (RAG), кэширование, очереди, ограничения по стоимости, деградация при недоступности модели.
MVP
Рабочая версия для первых пользователей за 3-4 недели: ядро функции, интерфейс или API, метрики качества и затрат.
Качество и тесты
Набор проверочных примеров, автоматическая оценка ответов, регрессионные тесты при смене промптов и моделей.
Стоимость и нагрузка
Расчёт стоимости запроса, лимиты на пользователя, выбор дешёвой модели там, где она достаточна. Нагрузочное тестирование.
Передача команде
Код, промпты, тесты, документация, мониторинг. Ваши разработчики продолжают без нас.
Типовые ИИ-сервисы, которые делают компании
| Тип сервиса | Для кого | Главная сложность |
|---|---|---|
| Генерация контента по данным | Маркетплейсы, площадки объявлений, платформы для бизнеса | Качество на разнородных данных и стоимость при больших объёмах |
| Помощник внутри продукта | SaaS, банки и финтех, образовательные платформы | Ответы только по контексту пользователя, безопасность, галлюцинации |
| Проверка и разбор документов как услуга | Юридические, финансовые, страховые сервисы | Точность на длинных документах, объяснимость результата |
| Умный поиск и подбор | Интернет-магазины, каталоги, базы знаний | Сочетание поиска по смыслу с фильтрами и бизнес-правилами |
| Обработка обращений для клиентов клиента | Платформы поддержки, телефония, CRM-вендоры | Многоарендность, разделение данных, нагрузка |
Как устроен поиск по смыслу и когда он нужен, объяснено в статье «Векторные базы данных для бизнеса».
Выбор модели: российские, открытые, несколько сразу
Для сервиса, которым пользуются клиенты, выбор модели — это выбор между качеством, стоимостью запроса, скоростью ответа и требованиями к данным. Российские облачные модели дают быстрый старт, оплату в рублях и отсутствие проблем с доступом. Открытые модели на своих серверах дают контроль над стоимостью при больших объёмах и над данными. На практике сервис часто использует несколько моделей: дешёвую для простых запросов, сильную для сложных, и маршрутизирует между ними.
Мы проектируем сервис так, чтобы модель можно было заменить без переписывания продукта: промпты, тесты и интерфейс к модели отделены от логики. Сравнение доступных вариантов — в статьях «GigaChat, YandexGPT или открытая модель» и «ИИ без VPN в России».
Стоимость запроса: главный риск ИИ-продукта
В обычном продукте дополнительный пользователь почти ничего не стоит. В ИИ-сервисе каждый запрос оплачивается: обращение к модели, поиск, обработка. Сервис, который нравится пользователям, может оказаться убыточным, если стоимость запроса не заложена в модель монетизации. Поэтому расчёт стоимости запроса мы делаем до MVP, а в самом сервисе закладываем лимиты, кэширование одинаковых запросов, короткие контексты и выбор дешёвой модели там, где качество не страдает.
Как считать расход на обращения к модели и что на него влияет, разобрано в статье «Сколько AI-агент тратит на обращения к модели».
Качество на виду у клиентов: как не выпустить сервис, который ошибается
- Проверочный набор до разработки. Сто-двести реальных примеров с ожидаемыми результатами. На нём измеряем качество модели ещё на аудите.
- Автоматическая оценка. Каждое изменение промпта или модели прогоняется через набор; падение качества видно до выпуска.
- Ограничения в самом сервисе. Модель отвечает только по данным пользователя, запрещённые темы и действия отсекаются до модели и после неё.
- Обратная связь от пользователей. Кнопка «неверно» и журнал ответов, из которых пополняется проверочный набор.
- Мониторинг. Качество, скорость, стоимость, ошибки модели — на одной панели. Подробнее: «Мониторинг AI-агента».
Этапы и сроки
- Аудит идеи, 5-7 рабочих дней. Проверка на ваших данных, оценка качества и стоимости запроса, архитектура, смета.
- MVP, 3-4 недели. Ядро функции, интерфейс или API, тесты, метрики. Запуск на первых пользователей.
- Доработка по данным. Разбор реальных запросов, улучшение качества, снижение стоимости, нагрузочные тесты.
- Передача. Код, промпты, тесты, документация, мониторинг и обучение вашей команды.
- Сопровождение по желанию. Обновление моделей, разбор инцидентов, развитие функции.
Что включать в первую версию, а что отложить, разобрано в статье «MVP AI-агента»: принципы те же, что и для сервиса.
Стоимость разработки ИИ-сервиса
| Этап | Что входит | Стоимость |
|---|---|---|
| Аудит идеи | Проверка на данных, оценка качества и стоимости запроса, архитектура, смета | 50 000 ₽, засчитывается в проект |
| MVP ИИ-функции | Ядро, интерфейс или API, тесты, метрики, запуск на первых пользователей | от 200 000 ₽ |
| Полноценный ИИ-сервис | Несколько функций, нагрузка, многоарендность, мониторинг, передача команде | от 800 000 ₽ |
| Продукт с собственной инфраструктурой моделей | Открытые модели на ваших серверах, маршрутизация, контроль стоимости | от 2 500 000 ₽ |
| Сопровождение | Обновление моделей, инциденты, развитие | от 40 000 ₽ в месяц |
Расходы на запросы к моделям и серверы зависят от объёма и считаются отдельно до старта.
Кому это подходит, а кому нет
Подходит компаниям, у которых уже есть продукт и пользователи, и ИИ-функция усиливает его: ускоряет, удешевляет, открывает новый сценарий. Подходит тем, кто строит новый сервис и готов проверять идею на данных, а не на презентации. Не подходит, если задача — сделать «что-нибудь с ИИ» для инвесторов без понимания, кто и за что будет платить: аудит это покажет, и мы скажем об этом прямо. Если вопрос в том, делать ли своей командой или с подрядчиком, разбор есть в статье «Своя команда, фрилансер или студия».
ИИ-сервис живёт или умирает на трёх числах: качество на реальных данных, стоимость запроса и скорость ответа. Всё остальное — интерфейс.
Частые вопросы
Чем разработка ИИ-сервиса отличается от внедрения AI-агента?
Сервисом пользуются ваши клиенты: тысячи пользователей, нагрузка, стоимость каждого запроса и репутация продукта. Агент работает внутри компании для десятка сотрудников. Проектирование, тесты и экономика разные.
Можно ли сначала проверить идею, не разрабатывая сервис?
Да, это и есть аудит: на ваших реальных примерах измеряем качество модели, считаем стоимость запроса и предлагаем архитектуру. Результат — отчёт и смета, с которыми можно идти к любой команде.
Какую модель вы используете?
Ту, которая проходит проверку на ваших данных по качеству, стоимости и скорости. Часто несколько: дешёвую для простых запросов и сильную для сложных. Сервис проектируем так, чтобы модель можно было заменить.
Как контролируется стоимость запросов?
Расчёт до MVP, лимиты на пользователя, кэширование, короткие контексты, выбор дешёвой модели там, где она достаточна, и мониторинг расходов в реальном времени.
Что остаётся у нас после проекта?
Код, промпты, проверочный набор, тесты, документация, мониторинг. Ваша команда продолжает без нас; сопровождение — по желанию.
Сколько стоит разработка ИИ-сервиса?
Аудит идеи 50 000 ₽ с зачётом в проект, MVP от 200 000 ₽, полноценный сервис от 800 000 ₽, продукт с собственной инфраструктурой моделей от 2 500 000 ₽, сопровождение от 40 000 ₽ в месяц.
Нужна ли нам своя команда разработки, чтобы заказать ИИ-сервис?
Для старта нет: MVP и первые пользователи обходятся без неё. Для развития продукта нужна хотя бы один разработчик на вашей стороне, который примет код и документацию. Если его нет, обсуждаем сопровождение или помогаем нанять.
Сколько времени занимает MVP?
3-4 недели после аудита при готовых данных. Дальше доработка по реальным запросам пользователей, обычно ещё несколько недель.
Стоит ли делать ИИ-функцию в вашем продукте?
Аудит за 50 000 ₽ и 5-7 дней: проверяем идею на ваших данных, оцениваем качество модели, стоимость запроса и архитектуру. Получаете отчёт и смету, с которыми можно идти к любой команде.
Оставить заявку