Кто отвечает за действие ИИ: подтверждение, журнал, доступы
Когда ИИ действует от имени компании, скорость ответа перестаёт быть главным. Разбираем, что должно быть решено до запуска: подтверждение, журнал и роли.
Пока ИИ только отвечает на вопросы, его ошибка стоит одного неудачного диалога. Когда он обещает цену, подтверждает бронь или меняет карточку клиента, ошибка становится операцией.
Рынок ИИ в Узбекистане быстро учится отвечать клиентам в Telegram, Instagram и по телефону. Это полезно, и мы сами делаем такие решения. Но чем больше ИИ делает, тем меньше вопрос «насколько быстро он отвечает» и тем больше вопрос «кто отвечает за то, что он сделал». Мы считаем, что три вещи должны быть решены до запуска, а не после первой жалобы.
1. Кто подтверждает необратимые действия
У каждого действия ИИ есть цена ошибки. Ответить на частый вопрос можно автоматически. Назвать индивидуальную скидку, подтвердить возврат, изменить условия договора или отправить документ клиенту нельзя без человека. Поэтому до запуска нужен список действий, которые ИИ готовит, но подтверждает ответственный сотрудник, и сценарий, куда сложный вопрос уходит по цепочке: ИИ, менеджер, руководитель.
2. Где остаётся запись о том, что произошло
Журнал действий нужен в двух случаях: когда клиент спорит («мне пообещали») и когда вы сами разбираетесь, почему процесс дал сбой. В журнале должно быть видно, что спросили, что ответил ИИ, какие данные он использовал и кто подтвердил действие. Без этого любой спор превращается в слова против слов, а улучшать систему приходится вслепую.
3. Кто и что может видеть и менять
Роли доступа решают две задачи: защищают данные и ограничивают масштаб ошибки. Ассистент отдела продаж не должен видеть бухгалтерию. Сотрудник на подмене не должен менять правила для ИИ. Чем сложнее структура компании, тем важнее заложить роли в проект с первого дня, а не добавлять их поверх.
Где хранятся данные
Отдельный вопрос, который мы просим задавать любому поставщику: где лежат ваши данные и ваши диалоги. Для одних компаний подходит облако, для других нужен private cloud, а для государственных и регулируемых организаций on-premise. Вариант выбирается до начала работ, потому что он влияет и на цену, и на сроки.
Как это связано с регулированием
Тема ответственности совпадает с общим движением рынка к правилам: мы уже писали про законопроект об ИИ и персональных данных. Мы не знаем, в какой форме и когда правила вступят в силу, и поэтому не строим решения «под закон». Но три пункта выше полезны в любом случае: они делают систему проверяемой для вас, для клиента и для будущего аудитора.
Что мы предлагаем сделать
Перед запуском любого проекта с ИИ выпишите на одной странице: какие действия ИИ выполняет сам, какие готовит, а кто подтверждает; где хранится журнал и кто его читает; кто имеет доступ к чему. Если страница не заполняется, проект ещё не готов к запуску. Подробнее о том, как мы закрываем эти вопросы, на странице «Безопасность и условия работы».
Источник: позиция AISolution; регулирование: Узбекистан регулирует ИИ.