Как не дать ИИ-ассистенту выдумывать цены и обещания

Почему ИИ выдумывает

Языковая модель обучена продолжать текст наиболее вероятным образом. Если фактов в её контексте нет, самый правдоподобный ответ — всё равно ответ. У неё нет встроенного чувства «я не знаю цену 12-килограммового мешка именно в этом магазине».

Фраза «никогда не выдумывай цены» в промпте помогает, но не гарантирует. Промпт — это инструкция, а не замок: на необычный вопрос или под нажимом клиента модель всё равно может ошибиться.

Правило 1: факты — из инструментов, а не из памяти

Товары, цены, наличие и свободное время должны каждый раз приходить из обращения к вашим настоящим данным — поиска по каталогу, календаря, API магазина. Модель пересказывает то, что вернул инструмент, а не вспоминает.

В Sales Core AI агент перед рекомендацией ищет в вашем каталоге или подключённом магазине и показывает варианты с точными ценами из результата поиска. Если товара нет, он так и говорит и предлагает то, что есть.

Правило 2: действие произошло, только если его подтвердила система

Самая опасная фраза в ИИ-чате продаж — «Готово, вы записаны!», когда никакой записи нет. Решение — в устройстве системы: агент может сказать, что заказ или запись существует, только после того как инструмент, который их создаёт, вернул успех. Каждый вызов и его результат записываются, и вы всегда можете проверить, что на самом деле произошло в разговоре.

Правило 3: жёсткие ограничения — в коде

Некоторые правила слишком важны, чтобы оставлять их на усмотрение модели. Система должна проверять их в момент действия, что бы ни говорилось в разговоре:

• Для записи нужны контакт и время в будущем.
• Скидка сверх лимита вашей политики отклоняется — агент может предложить спросить менеджера.
• Для отмены записи нужно явное подтверждение клиента.
• Когда разговор передан человеку, агент перестаёт совершать в нём действия.

Правило 4: «не знаю» — это не баг

Если в знаниях нет ответа, честный ответ — «у меня нет этой информации, позвать коллегу?». А сам вопрос должен попасть туда, где от него будет польза. В Sales Core AI вопросы без ответа собираются в список в личном кабинете: вы отвечаете один раз, и с этого момента это знают все агенты.

Правило 5: проверяйте раньше клиентов

Держите набор тестовых диалогов с каверзными случаями — товара нет, клиент выбивает скидку, нужное время уже занято — и прогоняйте их после каждого изменения. Песочница, которая не трогает настоящие заказы и записи, делает это безопасным.

Коротко: пусть модель говорит, а решает система. Модель выбирает, что сказать и какой инструмент вызвать; ваши данные и ваши правила определяют, что правда и что разрешено.