AI 助理會亂編答案嗎？

AI 為什麼會亂編

語言模型的設計，是產生聽起來最有可能的文字。問通用型 AI 某家咖啡店有沒有 Wi-Fi，在沒有任何關於那家店的事實時，最可能的回答就是「有」，因為大多數咖啡店都有。看似合理卻錯誤的答案就是這樣產生的。美國國家標準與技術研究院（NIST）針對生成式 AI 的指引，將這種現象（它稱為「虛構」）列為這項技術的主要風險之一。

錯誤的答案會讓商家付出什麼代價

錯誤的營業時間，會讓顧客白跑一趟，還留下一則負評。錯誤的規定說明，代價可能更大。2024 年，加拿大一個審裁機構命令 Air Canada 賠償一名顧客，起因是其網站上的聊天機器人說明了一項喪親優惠票價的退款方式，但該航空公司的實際規定並不允許。航空公司被判須為聊天機器人說的話負責。

而有些錯誤答案是危險的。「這道菜不含堅果嗎？」絕不是可以用猜的問題。

Kioskly AI 如何堅守事實

• 您的資訊是商家事實的唯一來源。您有沒有某樣東西、價格多少、營業時間、設施和規定，都只來自您的筆記、網站和文件。
• 它不做假設。它不會因為大多數商家都有停車位、Wi-Fi 或洗手間，就說您也有。如果沒有記錄，它會直說，並請顧客詢問您的員工。
• 每種行業都有硬性規則。餐廳和咖啡店：每一個過敏問題都交給員工，即使您的筆記看似已經涵蓋。藥局：不提供醫療建議。飯店：不提供房價、空房狀況或房客資料。商店：不做無法佐證的庫存承諾。
• 它不會誇大推銷。除非您說過，否則它不會把任何東西稱為「最受歡迎」。
• 它讓您看見缺漏。它答不出來的問題會出現在 App 首頁，讓您補上一次答案就好。

您可以怎麼做

• 說明您沒有什麼。「沒有停車位；最近的停車場在 King Street」能把一句「我不知道」變成有用的回答。
• 季節性資訊一改變，當天就更新。營業時間、菜單和價格最常出錯。
• 在顧客之前，先用刁鑽的問題測試它，包括它應該拒絕回答的問題。
• 每週查看缺漏清單。這是讓助理變得更好的最快方法。

常見問題