Политика использования ИИ в компании: что в неё включить и как не получить «теневой ИИ»

Теневой ИИ: что это и почему он появляется

Теневой ИИ — это использование нейросетей сотрудниками без ведома и согласования с компанией: личный аккаунт в публичном чате, расширение для браузера, ИИ-ассистент в редакторе кода, бесплатный сервис расшифровки встреч. Причина понятна: инструменты доступны за минуту и экономят время, а официальной альтернативы нет или она появится только через полгода.

Угроза в том, что рабочие данные уходят в сервис, условия которого компания не читала. Что именно сервис делает с введёнными данными (хранит, использует для обучения, передаёт подрядчикам), зависит от тарифа и настроек, а у личного аккаунта этого не контролирует работодатель. Подробнее, какие вопросы задавать поставщику, в статье «Что спрашивает служба безопасности при внедрении ИИ».

• Утечка коммерческой информации. Сотрудник вставляет в чат договор, прайс или отчёт, чтобы «быстро сократить».
• Персональные данные. В запрос попадают сведения о клиентах и сотрудниках без основания и без учёта требований закона (ИИ и персональные данные).
• Исходный код и настройки. Программисты вставляют код с ключами, адресами и внутренней логикой.
• Недостоверный результат. Выдуманные цифры или ссылки попадают в отчёт, письмо клиенту или договор (галлюцинации ИИ в бизнесе).
• Неясная ответственность. Когда ошибка вскрывается, непонятно, кто принимал решение и на каком основании.

Почему простой запрет не работает

Первая реакция службы безопасности — заблокировать публичные нейросети. Это можно сделать на корпоративном устройстве, но это не решает задачу. Сотрудник открывает сервис на личном телефоне, фотографирует документ и продолжает работать. Запрет без альтернативы сдвигает использование в ещё менее заметное место.

Работает другое сочетание: понятные правила, разрешённый инструмент, обучение и контроль. Политика нужна не как формальный документ в папке, а как рабочая памятка, по которой человек за минуту понимает, можно ли ему вставить этот текст в этот сервис. Поэтому хорошая политика короткая, конкретная и привязана к классам данных.

Классы данных: светофор для сотрудника

Основа политики — таблица, которая отвечает на вопрос «что куда можно». Классы данных у каждой компании свои, ниже условный пример формата.

Таблицу печатают на одну страницу и вешают рядом с инструментом. Если сотрудник не может понять, к какому классу относится текст, он спрашивает ответственного, а не угадывает. Такой «светофор» работает лучше, чем перечень из сорока запретов.

Из каких разделов состоит политика использования ИИ

Структура ниже подходит для компании любого размера, объём каждого раздела определяется вашими рисками. Не нужно писать тридцать страниц: на практике хватает двух-четырёх.

1. Цель и область. Какие инструменты охватывает политика: публичные чаты, встроенный ИИ в рабочих системах, ассистенты для кода, агенты, подключённые к вашим данным.
2. Классы данных. Таблица «что куда можно», как выше.
3. Одобренные сервисы. Список разрешённых инструментов и для каких задач. Порядок добавления нового сервиса: заявка, проверка безопасности, решение.
4. Персональные данные. Запрет вводить их в неодобренные сервисы, основание обработки, кто согласует. Требования описаны в статье про 152-ФЗ.
5. Проверка результата. Сотрудник отвечает за то, что отправил или подписал, независимо от того, кто это написал. Числа, ссылки и цитаты проверяются по первоисточнику.
6. Права на результат. Кому принадлежит созданное с помощью нейросети. Вопрос об авторском праве на результат работы нейросети остаётся неоднозначным; позицию закрепляют в договорах и согласуют с юристом.
7. Задачи с повышенным риском. Решения о людях (найм, увольнение, оценка), юридические заключения, медицинские и финансовые рекомендации принимаются человеком; ИИ готовит материал. См. «Где человек остаётся в контуре» и ИИ для подбора персонала.
8. Раскрытие использования ИИ. Когда клиента нужно предупреждать, что он общается с агентом; что требовать от подрядчиков, которые тоже могут пользоваться ИИ при оказании услуг.
9. Контроль и журналы. Что фиксируется, кто видит. Порядок уведомления сотрудников о контроле согласуйте с юристом и кадровой службой.
10. Обучение и ответственность. Краткий инструктаж при приёме и при изменении правил. Что считается нарушением и как о нём сообщать.
11. Пересмотр. Инструменты и условия меняются быстро, поэтому политику пересматривают регулярно, например раз в полгода.

Три ситуации из работы: как применять таблицу

Правила лучше всего запоминаются на примерах из будней. Ниже условные ситуации, которые стоит разобрать с командой, заменив их своими.

Во втором случае ответ зависит от условий конкретного сервиса, поэтому «одобренный» означает «проверенный безопасностью и юристом», а не «любой платный».

Подрядчики и клиенты: что менять в договорах

Политика действует внутри компании, но ваши данные попадают и к подрядчикам. Если агентство, фрилансер или разработчик использует нейросети при работе с вашими материалами, он может отправлять ваши данные туда же, куда ваши сотрудники. В договорах с подрядчиками стоит прописать: можно ли им использовать ИИ с вашими данными, какие классы данных запрещены, кто отвечает за проверку результата. Для проектов по внедрению ИИ этот и смежные пункты разобраны в статье «Что прописать в договоре на внедрение ИИ».

Со стороны клиентов всё чаще встречаются вопросы и анкеты безопасности: какие нейросети вы используете и как защищаете данные. Заранее подготовленный ответ на основе вашей политики сильно упрощает такие переговоры. Если клиент общается с чат-ботом или голосовым агентом, ему нужно сообщить об этом, как описано в материале про голосового агента.

Что делать с инцидентом: сотрудник уже вставил данные в публичный сервис

Рано или поздно это случится, и важно, чтобы люди не скрывали такие случаи из-за страха наказания. Поэтому в политике нужен понятный порядок действий.

1. Сообщить сразу. Сотрудник пишет ответственному за безопасность: что, когда и в какой сервис отправлено.
2. Оценить класс данных. Публичный текст, внутренний, коммерческая тайна или персональные данные. От класса зависят дальнейшие шаги.
3. Принять меры у сервиса. Удалить историю, отключить обмен данными для обучения, если такая настройка есть, и сохранить подтверждение. Что именно возможно, зависит от сервиса.
4. Проверить обязанности. Если затронуты персональные данные, юрист оценивает, нужны ли уведомления. Не подменяйте это решением сотрудника.
5. Разобрать причину. Почему человек выбрал неодобренный сервис: не было альтернативы, не знал правил, спешил? Это материал для улучшения процесса, а не только для взыскания.

Первый и пятый шаги — самые важные: если сообщать об инциденте опасно, о нём перестанут сообщать, и компания узнает об утечке последней.

Как внедрить политику, чтобы её соблюдали

1. Узнайте, что уже используется. Короткий анонимный опрос: какие сервисы, для каких задач, какие данные. Задача не наказывать, а увидеть реальную картину.
2. Дайте альтернативу. Если людям нужно суммировать документы и искать по регламентам, предложите разрешённый инструмент. Для внутренних знаний это может быть ассистент по базе знаний в вашем контуре.
3. Напишите коротко. Две-четыре страницы и памятка на одну. Длинный документ читать не будут.
4. Обучите на примерах. Показывайте не абстрактные правила, а три-четыре ситуации из работы отдела: что можно вставить, что нельзя, почему.
5. Подкрепите техникой. Политика не заменяет технические меры: список разрешённых сервисов на корпоративных устройствах, контроль утечек, отдельные учётные записи с настроенными условиями. Без техники политика держится на добросовестности.
6. Пересматривайте. По итогам первого квартала соберите вопросы сотрудников и обновите памятку.

Если вы строите собственных ИИ-агентов, правила нужны и им

Политика относится не только к сотрудникам, но и к агентам, которые вы запускаете. Для них действуют те же классы данных, плюс несколько условий: минимальные права в системах, журнал действий, ограничение на отправку данных наружу, проверка человека перед необратимыми действиями. Подробно об этом в статье «Безопасность AI-агентов» и в материале «Кто отвечает, если агент ошибся».

Часто на этом этапе обнаруживается, что публичные сервисы для ваших данных не подходят, а российская модель или открытая модель в контуре решают вопрос лучше. Как выбирать между ними, описано в статьях «GigaChat, YandexGPT или своя модель» и «ИИ в вашем контуре».

Чек-лист: готова ли у вас политика

• Есть таблица «что куда можно» по классам данных.
• Есть список одобренных сервисов и порядок добавления новых.
• Для задач, где людям нужен ИИ, есть разрешённая альтернатива.
• Определён ответственный за вопросы и инциденты.
• Понятно, как сообщить об инциденте и что за это не наказывают.
• Описан порядок для персональных данных и согласован с юристом.
• Проверка результата закреплена за сотрудником.
• Политика пересматривается по графику.

Если не выполнено больше половины пунктов, это не повод для паники, а повод начать с таблицы классов данных и опроса сотрудников: этого достаточно, чтобы увидеть, где у вас реальные риски.