क्या AI असिस्टेंट मनगढ़ंत जवाब देता है?

AI बातें क्यों गढ़ता है

भाषा मॉडल ऐसा टेक्स्ट बनाने के लिए बने हैं जो संभावित लगे। किसी सामान्य AI से पूछें कि क्या किसी कैफ़े में Wi-Fi है, और उस कैफ़े के बारे में कोई तथ्य न होने पर संभावित जवाब “हाँ” होगा, क्योंकि ज़्यादातर कैफ़े में होता है। विश्वसनीय लगने वाले लेकिन गलत जवाब ऐसे ही बनते हैं। जनरेटिव AI पर NIST का मार्गदर्शन इसे, जिसे वह कन्फ़ैब्युलेशन कहता है, इस तकनीक के मुख्य जोखिमों में गिनता है।

एक गलत जवाब की बिज़नेस को क्या कीमत चुकानी पड़ती है

खुलने का गलत समय एक बेकार चक्कर और एक बुरे रिव्यू की कीमत लेता है। गलत पॉलिसी की कीमत इससे ज़्यादा हो सकती है। 2024 में एक कनाडाई ट्रिब्यूनल ने Air Canada को एक ग्राहक को मुआवज़ा देने का आदेश दिया, क्योंकि उसकी वेबसाइट के चैटबॉट ने शोक किराए (bereavement fare) के ऐसे रिफ़ंड के बारे में बताया था जिसकी एयरलाइन की असली पॉलिसी में इजाज़त नहीं थी। एयरलाइन को अपने चैटबॉट की कही बात के लिए ज़िम्मेदार ठहराया गया।

और कुछ गलत जवाब खतरनाक होते हैं। “क्या इस डिश में नट्स नहीं हैं?” ऐसा सवाल नहीं है जिसका जवाब अंदाज़े से दिया जाए।

Kioskly AI तथ्यों पर कैसे टिका रहता है

• बिज़नेस के तथ्यों का एकमात्र सूत्र आपकी जानकारी है। आपके पास कोई चीज़ है या नहीं, उसकी कीमत क्या है, आपका समय, सुविधाएँ और पॉलिसी सिर्फ़ आपके नोट्स, वेबसाइट और दस्तावेज़ों से आती हैं।
• यह मान नहीं लेता। यह सिर्फ़ इसलिए नहीं कहेगा कि आपके पास पार्किंग, Wi-Fi या वॉशरूम है क्योंकि ज़्यादातर बिज़नेस के पास होता है। अगर यह दर्ज नहीं है, तो यह साफ़ कहता है और ग्राहक को आपके स्टाफ़ के पास भेजता है।
• हर बिज़नेस प्रकार के पक्के नियम हैं। रेस्टोरेंट और कैफ़े: एलर्जी का हर सवाल स्टाफ़ के पास जाता है, भले ही आपके नोट्स उसका जवाब देते लगें। फार्मेसी: कोई मेडिकल सलाह नहीं। होटल: कोई किराया, उपलब्धता या मेहमान की जानकारी नहीं। दुकानें: स्टॉक का कोई ऐसा वादा नहीं जिसे यह साबित न कर सके।
• यह बढ़ा-चढ़ाकर नहीं बेचता। जब तक आपने न कहा हो, यह किसी चीज़ को “सबसे लोकप्रिय” नहीं कहेगा।
• यह आपको कमियाँ दिखाता है। जिन सवालों का जवाब यह नहीं दे पाया, वे आपकी होम स्क्रीन पर दिखते हैं, ताकि आप एक बार जवाब जोड़ सकें।

आप क्या कर सकते हैं

• बताएँ कि आपके पास क्या नहीं है। “पार्किंग नहीं है; सबसे पास का गैराज किंग स्ट्रीट पर है” एक “मुझे नहीं पता” को मददगार जवाब में बदल देता है।
• मौसमी तथ्य उसी दिन अपडेट करें जिस दिन वे बदलें। समय, मेन्यू और कीमतें सबसे ज़्यादा गलत होती हैं।
• ग्राहकों से पहले इसे पेचीदा सवालों से आज़माएँ, उन सवालों समेत जिन्हें इसे मना करना चाहिए।
• कमियों की सूची हर हफ़्ते पढ़ें। असिस्टेंट को बेहतर बनाने का यह सबसे तेज़ तरीका है।

अक्सर पूछे जाने वाले सवाल