هل يختلق مساعد الذكاء الاصطناعي الإجابات؟

لماذا يختلق الذكاء الاصطناعي المعلومات

صُمّمت النماذج اللغوية لإنتاج نص يبدو مرجّحًا. اسأل ذكاءً اصطناعيًا عامًا إن كان مقهى ما يوفّر Wi-Fi، ودون أي معلومات عن ذلك المقهى ستكون الإجابة المرجّحة «نعم»، لأن معظم المقاهي توفّرها. هكذا تنشأ إجابات معقولة ظاهريًا لكنها خاطئة. وتُدرج إرشادات المعهد الوطني الأمريكي للمعايير والتقنية (NIST) بشأن الذكاء الاصطناعي التوليدي هذه الظاهرة، التي تسمّيها «التلفيق» (confabulation)، ضمن المخاطر الرئيسية لهذه التقنية.

ما الذي تكلّفه الإجابة الخاطئة للنشاط التجاري

موعد افتتاح خاطئ يكلّف مشوارًا ضائعًا وتقييمًا سيئًا. وسياسة خاطئة قد تكلّف أكثر. ففي عام 2024، ألزمت محكمة كندية شركة Air Canada بتعويض عميل بعدما وصف روبوت الدردشة على موقعها استردادًا لأجرة سفر مخفّضة بسبب وفاة قريب لم تكن سياسة الشركة الفعلية تسمح به. وحُمّلت الشركة مسؤولية ما قاله روبوت الدردشة الخاص بها.

وبعض الإجابات الخاطئة خطيرة. فسؤال «هل هذا الطبق خالٍ من المكسرات؟» ليس سؤالًا يُجاب عنه بالتخمين.

كيف يلتزم Kioskly AI بالحقائق

• معلوماتك هي المصدر الوحيد لحقائق عملك. فتوفّر شيء ما لديك، وسعره، وساعات عملك، ومرافقك، وسياساتك، كلها تأتي فقط من ملاحظاتك وموقعك الإلكتروني ومستنداتك.
• لا يفترض. لن يقول إن لديك موقف سيارات أو Wi-Fi أو دورة مياه لمجرد أن معظم الأنشطة التجارية لديها ذلك. وإن لم تكن المعلومة مسجّلة، يقول ذلك ويرشد العميل إلى موظفيك.
• لكل نوع نشاط قواعد صارمة. المطاعم والمقاهي: كل سؤال عن الحساسية يذهب إلى الموظفين، حتى لو بدا أن ملاحظاتك تغطيه. الصيدليات: لا نصائح طبية. الفنادق: لا أسعار غرف ولا توفر ولا تفاصيل عن الضيوف. المتاجر: لا وعود بتوفر منتجات لا يستطيع إثباته.
• لا يبالغ في الترويج. لن يصف شيئًا بأنه «الأكثر طلبًا» ما لم تقل ذلك بنفسك.
• يُطلعك على الثغرات. تظهر الأسئلة التي لم يستطع الإجابة عنها على الشاشة الرئيسية في التطبيق، فتضيف الإجابة مرة واحدة.

ما يمكنك فعله

• اذكر ما ليس لديك. فعبارة «لا يوجد موقف سيارات؛ أقرب مرأب في شارع كينغ» تحوّل «لا أعرف» إلى إجابة مفيدة.
• حدّث المعلومات الموسمية يوم تغيّرها. فساعات العمل وقوائم الطعام والأسعار هي الأكثر عرضة للخطأ.
• اختبره بأسئلة صعبة قبل أن يفعل العملاء، بما فيها أسئلة يجب أن يرفض الإجابة عنها.
• راجع قائمة الثغرات أسبوعيًا. فهي أسرع طريقة لتحسين المساعد.

الأسئلة الشائعة