ผู้ช่วย AI แต่งคำตอบขึ้นเองไหม?

ทำไม AI ถึงแต่งเรื่องขึ้นมา

โมเดลภาษาถูกสร้างมาเพื่อผลิตข้อความที่ฟังดูเป็นไปได้ ถาม AI ทั่วไปว่าคาเฟ่แห่งหนึ่งมี Wi-Fi ไหม โดยไม่มีข้อเท็จจริงใดๆ เกี่ยวกับคาเฟ่นั้น คำตอบที่เป็นไปได้คือ “มี” เพราะคาเฟ่ส่วนใหญ่มี นี่คือที่มาของคำตอบที่ฟังดูสมเหตุสมผลแต่ผิด แนวทางของ NIST เรื่อง generative AI จัดเรื่องนี้ ซึ่งเรียกว่า confabulation ไว้ในกลุ่มความเสี่ยงหลักของเทคโนโลยีนี้

คำตอบผิดทำให้ธุรกิจเสียอะไรบ้าง

เวลาทำการที่ผิดทำให้ลูกค้าเสียเที่ยวและได้รีวิวแย่ นโยบายที่ผิดอาจเสียหายมากกว่านั้น ในปี 2024 ศาลพิเศษของแคนาดาสั่งให้ Air Canada ชดเชยลูกค้ารายหนึ่ง หลังแชทบอทบนเว็บไซต์ของสายการบินอธิบายเรื่องการคืนเงินค่าโดยสารกรณีญาติเสียชีวิตที่นโยบายจริงของสายการบินไม่อนุญาต สายการบินต้องรับผิดชอบต่อสิ่งที่แชทบอทของตนพูด

และคำตอบผิดบางอย่างก็อันตราย “จานนี้ไม่มีถั่วใช่ไหม?” ไม่ใช่คำถามที่ควรตอบด้วยการเดา

Kioskly AI ยึดตามข้อเท็จจริงอย่างไร

• ข้อมูลของคุณคือแหล่งเดียวของข้อเท็จจริงเกี่ยวกับธุรกิจ คุณมีอะไรบ้าง ราคาเท่าไร เวลาทำการ สิ่งอำนวยความสะดวก และนโยบาย มาจากโน้ต เว็บไซต์ และเอกสารของคุณเท่านั้น
• มันไม่สันนิษฐานเอง มันจะไม่บอกว่าคุณมีที่จอดรถ Wi-Fi หรือห้องน้ำเพียงเพราะธุรกิจส่วนใหญ่มี ถ้าไม่ได้บันทึกไว้ มันจะบอกตามนั้นและชี้ให้ลูกค้าไปถามพนักงานของคุณ
• แต่ละประเภทธุรกิจมีกฎตายตัว ร้านอาหารและคาเฟ่: คำถามเรื่องภูมิแพ้ทุกข้อส่งไปที่พนักงาน แม้โน้ตของคุณจะดูเหมือนครอบคลุมอยู่แล้ว ร้านขายยา: ไม่ให้คำแนะนำทางการแพทย์ โรงแรม: ไม่บอกราคาห้อง ห้องว่าง หรือข้อมูลแขก ร้านค้า: ไม่รับปากเรื่องสต็อกที่มันยืนยันไม่ได้
• มันไม่ขายเกินจริง มันจะไม่เรียกอะไรว่า “ยอดนิยมที่สุด” เว้นแต่คุณจะบอกไว้
• มันบอกคุณว่ายังขาดอะไร คำถามที่มันตอบไม่ได้จะปรากฏบนหน้าหลักของคุณ คุณจึงเพิ่มคำตอบเพียงครั้งเดียว

สิ่งที่คุณทำได้

• บอกสิ่งที่คุณไม่มี “ไม่มีที่จอดรถ ลานจอดที่ใกล้ที่สุดอยู่บนถนน King Street” เปลี่ยน “ไม่ทราบ” ให้เป็นคำตอบที่มีประโยชน์
• อัปเดตข้อมูลตามฤดูกาลในวันที่เปลี่ยน เวลาทำการ เมนู และราคาคือสิ่งที่ผิดบ่อยที่สุด
• ทดสอบด้วยคำถามยากๆ ก่อนที่ลูกค้าจะถาม รวมถึงคำถามที่มันควรปฏิเสธ
• อ่านรายการคำถามที่ตอบไม่ได้ทุกสัปดาห์ เป็นวิธีที่เร็วที่สุดในการทำให้ผู้ช่วยเก่งขึ้น

คำถามที่พบบ่อย