Apakah asisten AI mengarang jawaban?

Mengapa AI mengarang

Model bahasa dibuat untuk menghasilkan teks yang terdengar masuk akal. Tanyakan kepada AI umum apakah sebuah kafe punya Wi-Fi, dan tanpa fakta apa pun tentang kafe itu, jawaban yang paling mungkin adalah “ya”, karena sebagian besar kafe punya. Begitulah jawaban yang terdengar masuk akal tetapi salah bisa muncul. Panduan NIST tentang AI generatif mencantumkan hal ini, yang disebutnya konfabulasi, sebagai salah satu risiko utama teknologi tersebut.

Kerugian bisnis akibat jawaban yang salah

Jam buka yang salah berarti perjalanan sia-sia dan ulasan buruk. Kebijakan yang salah bisa lebih merugikan. Pada 2024, sebuah tribunal di Kanada memerintahkan Air Canada memberi ganti rugi kepada pelanggan setelah chatbot di situs webnya menjelaskan pengembalian dana tarif duka cita yang sebenarnya tidak diizinkan oleh kebijakan maskapai itu. Maskapai tersebut dinyatakan bertanggung jawab atas apa yang dikatakan chatbot-nya.

Dan sebagian jawaban yang salah berbahaya. “Apakah hidangan ini bebas kacang?” bukan pertanyaan yang boleh dijawab dengan menebak.

Cara Kioskly AI berpegang pada fakta

• Informasi Anda adalah satu-satunya sumber fakta bisnis. Ada atau tidaknya sesuatu, harganya, jam buka, fasilitas, dan kebijakan Anda hanya berasal dari catatan, situs web, dan dokumen Anda.
• Tidak berasumsi. Kioskly AI tidak akan mengatakan Anda punya parkir, Wi-Fi, atau toilet hanya karena sebagian besar bisnis punya. Jika tidak tercatat, Kioskly AI mengatakannya dan mengarahkan pelanggan ke staf Anda.
• Setiap jenis bisnis punya aturan tegas. Restoran dan kafe: setiap pertanyaan soal alergi diteruskan ke staf, meskipun catatan Anda tampaknya sudah mencakupnya. Apotek: tanpa saran medis. Hotel: tanpa tarif, ketersediaan kamar, atau detail tamu. Toko: tanpa janji stok yang tidak bisa dipastikan.
• Tidak melebih-lebihkan. Kioskly AI tidak akan menyebut sesuatu “paling populer” kecuali Anda mengatakannya.
• Menunjukkan celah informasi. Pertanyaan yang belum bisa dijawabnya muncul di layar Beranda Anda, sehingga Anda bisa menambahkan jawabannya sekali saja.

Yang bisa Anda lakukan

• Sebutkan apa yang tidak Anda miliki. “Tidak ada parkir; gedung parkir terdekat ada di King Street” mengubah “saya tidak tahu” menjadi jawaban yang membantu.
• Perbarui fakta musiman pada hari fakta itu berubah. Jam buka, menu, dan harga paling sering keliru.
• Uji dengan pertanyaan yang menjebak sebelum pelanggan melakukannya, termasuk pertanyaan yang seharusnya ditolaknya.
• Baca daftar celah setiap minggu. Itulah cara tercepat untuk membuat asisten makin baik.

Pertanyaan yang sering diajukan