Где человек остаётся в контуре
Главный страх при внедрении — «а если оно сделает что-то не то». Ответ не в надёжности модели, а в проектировании: правильно расставленные точки согласования снимают риск, почти не убивая скорость.
Два критерия, по которым принимается решение
Действие можно отдать агенту без подтверждения, если выполняются оба условия:
- Цена ошибки низкая. Ошибка не стоит денег, не создаёт обязательств и не портит отношения.
- Ошибка обратима. Её можно заметить и откатить без последствий.
Если хотя бы одно не выполняется — нужна точка согласования. Это простое правило закрывает большинство споров на проектировании.
Типовые точки согласования
| Действие | Почему подтверждение |
|---|---|
| Отправка денег или платёжных документов | Необратимо и стоит денег |
| Обязательство перед клиентом: срок, цена, скидка | Создаёт обязательство компании |
| Изменение данных в учётной системе | Влияет на отчётность, откат трудоёмок |
| Публичные ответы: отзывы, соцсети | Репутация, видно всем |
| Решения о людях: отказ, оценка | Этика и объяснимость |
| Удаление чего-либо | Необратимо по определению |
Как это выглядит на практике
Не «человек всё перепроверяет» — это убило бы экономию. Агент готовит решение целиком, человек подтверждает одним действием. Разница между «сделать» и «проверить и нажать» — обычно раз в десять по времени.
Ещё одна рабочая схема: агент действует сам, но всё, в чём он не уверен выше порога, отправляет человеку. Порог настраивается — в чувствительных сценариях агент отдаёт раньше, чем начнёт гадать.
Почему полная автономность обычно вредна
- Растёт цена редкой ошибки, а редкие ошибки неизбежны
- Пропадает обратная связь: некому размечать спорные случаи, и агент перестаёт улучшаться
- Падает доверие команды: люди не понимают, что происходит, и обходят систему
- Появляется вопрос ответственности, на который нет ответа
Про последний пункт: за решение всегда отвечает кто-то из людей. Точка согласования — это в том числе способ сделать эту ответственность явной, а не размытой.
Как это меняется со временем
Точки согласования не навсегда. Когда по статистике за несколько месяцев видно, что агент на конкретной операции не ошибается, часть подтверждений можно снять — осознанно и с замером. Начинать же стоит с более осторожной схемы.
Частые вопросы
Не убьёт ли согласование всю экономию?
Нет, если человек подтверждает готовое решение, а не делает работу заново. Проверить и нажать обычно в десять раз быстрее, чем сделать.
Можно ли со временем убрать подтверждения?
Да, по накопленной статистике ошибок на конкретной операции. Но снимать их надо осознанно и с замером, а не потому что «вроде работает».
Кто отвечает, если агент ошибся?
Ответственность всегда на людях — на том, кто подтвердил, или на компании как операторе процесса. Именно поэтому точки согласования расставляются осознанно, а не по остаточному принципу.
Как выбрать порог неуверенности?
На выборке реальных случаев: смотрим, при каком пороге агент отдаёт человеку почти все свои ошибки, но не заваливает его нормальными случаями.
Расставим точки согласования вместе
На проектировании определяем, где агент действует сам, а где нужно подтверждение.
Оставить заявку