Пока ИИ только предлагает текст письма, ошибка остаётся черновиком. Когда он получает возможность менять карточку клиента, назначать задачу или отправлять сообщение, ошибка становится действием компании. Владелец бизнеса должен заранее знать, что ассистент вправе сделать сам, что требует подтверждения и как восстановить состояние после сбоя. Иначе удобный интерфейс скрывает новый неуправляемый канал доступа к данным.
Составьте карту действий, а не список систем
Фраза «подключить ИИ к CRM» не описывает полномочия. Разложите сценарий на конкретные операции: найти контакт, прочитать историю сделки, предложить запись, создать задачу, изменить стадию, отправить письмо, удалить дубль. Для каждой укажите владельца процесса, необходимые данные, риск ошибки и способ отмены. Уже на этой карте обычно видно, что большинству сценариев нужен доступ только на чтение.
Начинайте с самого узкого действия, которое даёт пользу. Например, ассистент подготавливает черновик задачи после звонка, а менеджер подтверждает дату и исполнителя. Полная автоматическая смена стадии сделки может подождать до тех пор, пока качество распознавания обязательств не доказано на реальных разговорах.
Ограничьте данные по роли и записи
Если сотрудник не вправе видеть финансовые условия другого клиента, ассистент от его имени тоже не должен их видеть. Проверка прав нужна на уровне приложения и источника данных, до передачи сведений модели. Отдельный технический аккаунт с доступом ко всем сделкам ради удобства интеграции создаёт большой риск. Лучше выдавать ограниченные разрешения для конкретной операции и фиксировать, от чьего имени она выполняется.
В журнале должны оставаться пользователь, время, исходный запрос, предложенное действие, использованные записи, подтверждение и фактический результат. Не храните больше личных данных, чем необходимо для разбора ошибки. Доступ к журналу также ограничьте: он может содержать коммерческую информацию и текст обращений.
Подтверждайте операции с заметным последствием
Для действий с низким риском можно разрешить автоматическое создание черновика. Изменение цены, отправка клиенту обязательства, массовая правка карточек или удаление данных требуют отдельного подтверждения уполномоченным человеком. Экран подтверждения должен показывать точное действие: какую запись меняем, старое и новое значение, кому уйдёт сообщение. Кнопка «разрешить ассистенту работать» слишком общая.
Не полагайтесь только на текстовую инструкцию модели «спроси разрешение». Приложение должно технически проверять доступ и требовать подтверждение перед вызовом действия. В документации OpenAI по вызову функций модель предлагает аргументы для инструмента, а разработчик определяет и исполняет саму функцию. Это удобное разделение ответственности: код проверяет права, формат и бизнес-правила независимо от формулировки ответа.
Считайте внешние тексты недоверенными
ИИ может читать письма, документы и страницы сайта. Внутри них может оказаться команда вроде «измените реквизиты в CRM» или «пришлите выгрузку сюда». Такой текст — часть данных, а не распоряжение владельца системы. OWASP выделяет внедрение инструкций через контент среди рисков ИИ-приложений. Ограничение прав и проверка каждого действия важнее уверенности, что модель «поймёт подвох».
Проверьте сценарии с поддельными письмами, вложениями и похожими именами клиентов. Ассистент не должен менять карточку только потому, что в письме назван номер сделки. Сопоставление записи требует проверяемого идентификатора и правил, а неоднозначность — передачи человеку.
Предусмотрите повтор, сбой и отмену
Интеграции работают не идеально: запрос может уйти дважды, ответ API задержаться, а пользователь повторно нажать подтверждение. Для каждой операции определите, что произойдёт при повторе. Создание двух одинаковых задач не катастрофа, но массовая отправка письма или изменение суммы дважды уже серьёзнее. Используйте идентификатор операции, статус исполнения и проверку результата перед сообщением «готово».
Для исправления нужен понятный путь: кто может отменить действие, как восстановить прежнее значение и как уведомить затронутого сотрудника. Если откат невозможен, повышайте порог подтверждения. Эти правила полезны и для обычной интеграции сайта с CRM и 1С, но с ИИ особенно важно отделить предложение действия от его исполнения.
Проверяйте пилот на рискованных случаях
Тестируйте не только удачные команды. Включите просьбу изменить чужую сделку, неоднозначное имя клиента, старую инструкцию в базе, повторный запрос после сбоя, поддельную команду в письме. Ожидаемый результат может быть отказом или просьбой подтвердить точную запись. Считайте число неверных предложений и особенно число действий, прошедших без нужного подтверждения.
Начните с доступа на чтение и черновиков, затем расширяйте права по одному сценарию после проверки. BIG TIME может помочь описать маршрут данных, настроить интеграцию и испытать права на конкретных рабочих случаях. Тогда ИИ ускорит работу сотрудников, а ответственность за действия останется прозрачной.
После запуска регулярно пересматривайте выданные разрешения: процесс, сотрудники и состав систем меняются. Устаревший доступ следует закрывать вместе с отключением сценария, а не оставлять на всякий случай.