Генеративные AI-сервисы всё чаще становятся для пользователей источником сведений о товарах, услугах и правилах заведений. Но уверенный тон таких ответов не означает их точность: галлюцинации модели могут сформировать у клиента ожидания, которые не совпадают с реальной ситуацией.
Как следует из репортажа The Verge, официантка Мэдисон из Нью-Йорка начинает общение с каждым столиком с вопроса об аллергиях. По её словам, в последнее время возникали опасные ситуации: посетители сообщали, например, об аллергии на моллюсков, но после этого не задавали уточняющих вопросов.
В сфере общественного питания недостаточно полагаться на общее заявление об ограничениях в рационе. Сотруднику и гостю необходимо сверять состав конкретного блюда, возможные перекрёстные контакты и доступные варианты замены. Если клиент приходит с неверной информацией, полученной от AI, эта проверка становится ещё более значимой.
Для компаний проблема не сводится к качеству чат-бота. Неверные ответы могут переносить на сотрудников последствия чужих обещаний и усиливать конфликтные ситуации с клиентами. Практический подход в таких сценариях — обозначать, что информацию от AI нужно перепроверять у заведения, а критичные сведения о здоровье подтверждать непосредственно у персонала.
