Un assistente AI si inventa le risposte?

Perché l'AI si inventa le cose

I modelli linguistici sono costruiti per produrre testo che suoni plausibile. Chiedi a un'AI generica se un bar ha il Wi-Fi e, senza alcun dato su quel bar, la risposta probabile è «sì», perché la maggior parte dei bar ce l'ha. È così che nascono risposte plausibili ma sbagliate. Le linee guida sull'AI generativa del NIST, l'istituto statunitense per gli standard e la tecnologia, elencano questo fenomeno, che chiamano confabulazione, tra i principali rischi della tecnologia.

Quanto costa una risposta sbagliata a un'attività

Un orario di apertura sbagliato costa un viaggio a vuoto e una recensione negativa. Una regola sbagliata può costare di più. Nel 2024 un tribunale canadese ha ordinato ad Air Canada di risarcire un cliente dopo che il chatbot del suo sito aveva descritto un rimborso per tariffa di lutto che le regole effettive della compagnia non prevedevano. La compagnia aerea è stata ritenuta responsabile di quanto detto dal suo chatbot.

E alcune risposte sbagliate sono pericolose. «Questo piatto è senza frutta a guscio?» non è una domanda a cui rispondere tirando a indovinare.

Come Kioskly AI si attiene ai fatti

• Le tue informazioni sono l'unica fonte di dati sull'attività. Se hai qualcosa, quanto costa, i tuoi orari, i servizi e le regole provengono solo dalle tue note, dal tuo sito web e dai tuoi documenti.
• Non dà nulla per scontato. Non dirà che hai un parcheggio, il Wi-Fi o un bagno solo perché la maggior parte delle attività li ha. Se non è registrato, lo dice e indirizza il cliente al tuo personale.
• Ogni tipo di attività ha regole ferree. Ristoranti e caffetterie: ogni domanda sulle allergie va al personale, anche se le tue note sembrano coprirla. Farmacie: nessun consiglio medico. Hotel: niente tariffe, disponibilità o dati degli ospiti. Negozi: nessuna promessa sulla disponibilità dei prodotti che non possa confermare.
• Non esagera. Non definirà qualcosa «il più richiesto» se non l'hai detto tu.
• Ti mostra le lacune. Le domande a cui non ha saputo rispondere compaiono nella schermata Home, così puoi aggiungere la risposta una volta sola.

Cosa puoi fare tu

• Indica cosa non hai. «Niente parcheggio; il garage più vicino è in King Street» trasforma un «non lo so» in una risposta utile.
• Aggiorna le informazioni stagionali il giorno stesso in cui cambiano. Orari, menu e prezzi sono quelli che diventano sbagliati più spesso.
• Mettilo alla prova con domande difficili prima che lo facciano i clienti, comprese quelle a cui non dovrebbe rispondere.
• Leggi l'elenco delle lacune ogni settimana. È il modo più rapido per migliorare l'assistente.

Domande frequenti