AI 助手会编造答案吗？

AI 为什么会编造内容

语言模型的设计目标，是生成听起来最有可能的文字。问一个通用 AI 某家咖啡店有没有 Wi-Fi，如果它对这家店一无所知，最有可能的答案就是“有”，因为大多数咖啡店都有。听起来合理却错误的答案就是这样产生的。NIST 关于生成式 AI 的指南把这种现象称为“虚构”（confabulation），并列为这项技术的主要风险之一。

错误的回答会让商家付出什么代价

一个错误的营业时间，会让顾客白跑一趟，再留下一条差评。一项错误的政策可能代价更大。2024 年，加拿大一家审裁机构裁定 Air Canada（加拿大航空）赔偿一名顾客，因为其网站聊天机器人描述了一项丧亲票价退款，而航空公司的实际政策并不允许。航空公司被判须为其聊天机器人说的话负责。

有些错误的回答甚至很危险。“这道菜不含坚果吗？”可不是能靠猜来回答的问题。

Kioskly AI 如何坚持事实

• 您的信息是业务事实的唯一来源。有没有某样东西、价格多少、营业时间、设施和政策，都只来自您的笔记、网站和文档。
• 它不做假设。它不会因为大多数商家都有停车场、Wi-Fi 或洗手间，就说您也有。如果没有记录，它会直说，并请顾客去找您的员工。
• 每种行业类型都有硬性规则。餐厅和咖啡店：每个过敏问题都交给员工，即使您的笔记看似已经涵盖。药房：不提供医疗建议。酒店：不提供房价、空房情况或客人信息。商店：不做无法兑现的库存承诺。
• 它不夸大。除非您说过，否则它不会把任何东西称为“最受欢迎的”。
• 它会让您看到缺漏。它答不上来的问题会出现在您的首页上，您只需补充一次答案。

您可以做什么

• 说明您没有什么。“没有停车场；最近的停车楼在国王街”能把一句“我不知道”变成有用的回答。
• 季节性信息一变就当天更新。营业时间、菜单和价格最常出错。
• 用刁钻的问题测试它，赶在顾客之前，也包括它应该拒绝回答的问题。
• 每周查看缺漏清单。这是让助手变得更好的最快方法。

常见问题