Yapay zeka asistanı yanıt uydurur mu?

Yapay zeka neden bir şeyler uydurur?

Dil modelleri, kulağa olası gelen metinler üretmek için tasarlanmıştır. Genel bir yapay zekaya bir kafede Wi-Fi olup olmadığını sorun: o kafe hakkında hiçbir bilgi yoksa olası yanıt “evet”tir, çünkü çoğu kafede vardır. Akla yatkın ama yanlış yanıtlar böyle ortaya çıkar. NIST'in üretken yapay zeka kılavuzu, konfabulasyon adını verdiği bu durumu teknolojinin başlıca riskleri arasında sayar.

Yanlış bir yanıt bir işletmeye neye mal olur?

Yanlış bir açılış saati, boşa bir yolculuğa ve kötü bir yoruma mal olur. Yanlış bir politika daha pahalıya patlayabilir. 2024'te Kanada'daki bir uyuşmazlık çözüm kurulu, Air Canada'nın web sitesindeki chatbot havayolunun gerçek politikasının izin vermediği bir vefat indirimi iadesini anlattıktan sonra şirketin bir müşteriye tazminat ödemesine hükmetti. Havayolu, chatbot'unun söylediklerinden sorumlu tutuldu.

Bazı yanlış yanıtlar ise tehlikelidir. “Bu yemek kuruyemişsiz mi?” tahminle yanıtlanacak bir soru değildir.

Kioskly AI gerçeklere nasıl bağlı kalır?

• İşletmeyle ilgili bilgilerin tek kaynağı sizin bilgilerinizdir. Bir şeyin olup olmadığı, ne kadar tuttuğu, çalışma saatleriniz, olanaklarınız ve politikalarınız yalnızca notlarınızdan, web sitenizden ve belgelerinizden gelir.
• Varsayımda bulunmaz. Çoğu işletmede var diye otopark, Wi-Fi ya da tuvalet olduğunu söylemez. Kayıtlı değilse bunu söyler ve müşteriyi personelinize yönlendirir.
• Her işletme türünün kesin kuralları vardır. Restoranlar ve kafeler: notlarınız konuyu kapsıyor gibi görünse bile her alerji sorusu personele gider. Eczaneler: tıbbi tavsiye yok. Oteller: fiyat, müsaitlik ya da misafir bilgisi yok. Mağazalar: arkasında duramayacağı stok sözleri yok.
• Abartmaz. Siz söylemedikçe hiçbir şeye “en popüler” demez.
• Eksikleri size gösterir. Yanıtlayamadığı sorular Ana Sayfa ekranınızda görünür; böylece yanıtı bir kez eklersiniz.

Siz ne yapabilirsiniz?

• Neyiniz olmadığını söyleyin. “Otoparkımız yok; en yakın kapalı otopark King Street'te” gibi bir not, “bilmiyorum” yanıtını yardımcı bir yanıta dönüştürür.
• Mevsimsel bilgileri değiştikleri gün güncelleyin. En sık yanlış çıkanlar çalışma saatleri, menüler ve fiyatlardır.
• Onu zor sorularla test edin; bunu müşterilerden önce yapın ve reddetmesi gereken soruları da deneyin.
• Eksikler listesini her hafta okuyun. Asistanı iyileştirmenin en hızlı yolu budur.

Sık sorulan sorular