Пусть ИИ собирает черновик из проверенной политики и фактов, которые вы явно передали; не позволяй ему подтверждать действие по заказу или обещать срок, которого нет в записи. Сначала извлеки вопрос клиента, затем найди применимый фрагмент политики, перечисли неизвестные факты и оставь их человеку. OpenAI рекомендует ограничивать работу модели проверенными источниками и тестировать ответы на типичных и сложных примерах (safety best practices, retrieval guide).
Простой маршрут проверки
- Спроси, что именно нужно решить. Раздели факты из сообщения и предположения. Не повторяй лишние персональные данные в запросе модели.
- Найди источник ответа. Используй актуальную страницу политики или разрешённую запись заказа. Если источник не найден, остановись на вопросе оператору.
- Сверь каждый факт. Дата оплаты, сумма, статус возврата, имя и обещанный срок должны приходить из защищённой системы, а не из общих знаний модели.
- Составь черновик. Проси ответить только в пределах найденной информации, назвать неизвестное прямо и не сообщать, что операция уже выполнена без подтверждения.
- Проверь перед отправкой. Оператор сверяет текст с источниками, удаляет ненужные данные и сам отправляет ответ.
Учебный случай: вопрос о возврате
Синтетическое обращение: «Я запросил возврат. Когда деньги появятся?» В общей политике указан обычный диапазон обработки после одобрения, но защищённая запись конкретного заказа не передана. Поэтому модель не должна писать «возврат уже отправлен» и не должна вычислять дату поступления.
Безопасный черновик может звучать так: «Понимаю, что вы ждёте возврат. Общий срок зависит от этапа обработки и банка, но я пока не вижу подтверждения по вашему заказу. Мы проверим статус запроса в системе и сообщим вам отдельно. Пожалуйста, не отправляйте данные карты в ответ на это сообщение». Это синтетическая формулировка, не действующая политика и не обещание реального срока. Оператор заменяет общую фразу только после проверки заказа и утверждённого регламента.
Промпт и полный учебный результат
Пусть учебная политика гласит: «После одобрения возврата платёжный провайдер обычно обрабатывает его в пределах 5–10 рабочих дней. До проверки в системе не сообщайте статус конкретного платежа». В вымышленном обращении клиент спрашивает о возврате, а запись заказа недоступна. Ниже — запрос модели и пример ответа, который затем проверяет оператор.
Ты готовишь только черновик ответа службы поддержки. Используй исключительно политику и факты ниже.
Политика: после одобрения возврата платёжный провайдер обычно обрабатывает его за 5–10 рабочих дней; статус конкретной операции нужно проверить в защищённой системе.
Факты по заказу: статус и дата одобрения не предоставлены.
Сообщение клиента: «Я запросил возврат. Когда деньги появятся?»
Не утверждай, что возврат одобрен или отправлен. Не придумывай дату. Не запрашивай номер карты, пароль или код. Если факт неизвестен, прямо скажи, что сотрудник проверит его. Верни: 1) короткий черновик клиенту; 2) список утверждений и их источник; 3) неизвестные факты; 4) действие для оператора.
Учебный образец ответа, составленный редакцией; модель не запускалась: «Понимаю, что вы ждёте возврат. После одобрения платёжный провайдер обычно обрабатывает его в течение 5–10 рабочих дней. Я пока не могу подтвердить статус вашего запроса; сотрудник проверит его в защищённой системе и сообщит вам, если понадобится дополнительная информация».
Проверка результата: диапазон 5–10 рабочих дней взят из условной политики; статус конкретного возврата остаётся неизвестным; черновик не говорит, что деньги уже отправлены; следующий шаг — проверка записи оператором. Это пример прохождения проверки, а не действующая политика, гарантия срока или реальный ответ компании. Если сотрудник не может проверить запись, он должен заменить последнюю часть на понятный путь эскалации, а не отправлять текст как подтверждение операции.
Таблица проверки перед отправкой
| Поле ответа | Источник | Если источник отсутствует |
|---|---|---|
| Статус заказа/возврата | Защищённая CRM или платёжная система | Не утверждать, что действие выполнено |
| Срок | Актуальная политика и статус этапа | Сказать, что срок уточняется |
| Сумма/валюта | Подтверждённая запись | Не выводить из текста клиента автоматически |
| Следующий шаг | Регламент поддержки | Передать оператору |
Не давай модели полномочий менять статус обращения, инициировать возврат или отвечать автоматически. Сохрани, кто проверил и отправил текст, но не записывай секреты или чувствительные поля в журналы теста. Набор оценивания должен включать типовые вопросы, отсутствующие данные, конфликтующие сведения и случаи, где правильный ответ — остановиться и передать человеку. Документация OpenAI по safety/retrieval — общие рекомендации, а не гарантия отсутствия ошибок. Применяй их только вместе с правилами своей организации и контролем доступа.
Если сначала нужно распределить обращения по очередям, начни с классификации запросов с ручной проверкой. Подготовка ответа — следующий отдельный этап, а не автоматическая отправка.
