Un assistant IA invente-t-il des réponses ?

Pourquoi l'IA invente des choses

Les modèles de langage sont conçus pour produire un texte vraisemblable. Demandez à une IA généraliste si un café a le Wi-Fi et, sans aucune information sur ce café, la réponse probable est « oui », parce que la plupart des cafés l'ont. C'est ainsi que naissent des réponses plausibles mais fausses. Les recommandations du NIST, l'institut américain des normes et de la technologie, sur l'IA générative classent ce phénomène, qu'il appelle confabulation, parmi les principaux risques de cette technologie.

Ce qu'une mauvaise réponse coûte à une entreprise

Un mauvais horaire d'ouverture coûte un déplacement pour rien et un avis négatif. Une mauvaise information sur vos conditions peut coûter plus cher. En 2024, un tribunal canadien a condamné Air Canada à indemniser un client après que le chatbot de son site web a décrit un remboursement au titre du tarif de deuil que la politique réelle de la compagnie ne prévoyait pas. La compagnie a été tenue responsable de ce que disait son chatbot.

Et certaines mauvaises réponses sont dangereuses. « Ce plat est-il sans fruits à coque ? » n'est pas une question à laquelle on répond au hasard.

Comment Kioskly AI s'en tient aux faits

• Vos informations sont la seule source sur votre entreprise. Ce que vous proposez, les prix, vos horaires, vos équipements et vos conditions proviennent uniquement de vos notes, de votre site web et de vos documents.
• Il ne suppose rien. Il ne dira pas que vous avez un parking, le Wi-Fi ou des toilettes sous prétexte que la plupart des établissements en ont. Si ce n'est pas renseigné, il le dit et oriente le client vers votre personnel.
• Chaque type d'établissement a ses règles strictes. Restaurants et cafés : toute question d'allergie va au personnel, même si vos notes semblent y répondre. Pharmacies : aucun conseil médical. Hôtels : ni tarifs, ni disponibilités, ni informations sur les clients. Magasins : aucune promesse de stock qu'il ne peut pas garantir.
• Il n'en fait pas trop. Il ne qualifiera rien de « plus populaire » si vous ne l'avez pas dit.
• Il vous montre les manques. Les questions auxquelles il n'a pas su répondre s'affichent sur votre écran Accueil, pour que vous ajoutiez la réponse une fois pour toutes.

Ce que vous pouvez faire

• Dites ce que vous n'avez pas. « Pas de parking sur place ; le plus proche est rue Royale » transforme un « je ne sais pas » en réponse utile.
• Mettez à jour les informations saisonnières le jour où elles changent. Ce sont les horaires, les cartes et les prix qui deviennent faux le plus souvent.
• Testez-le avec des questions pièges avant vos clients, y compris celles qu'il doit refuser.
• Lisez la liste des manques chaque semaine. C'est le moyen le plus rapide d'améliorer l'assistant.

Questions fréquentes