Verzint een AI-assistent zelf antwoorden?

Waarom AI dingen verzint

Taalmodellen zijn gemaakt om tekst te produceren die waarschijnlijk klinkt. Vraag een algemene AI of een café wifi heeft en, zonder feiten over dat café, is het waarschijnlijke antwoord “ja”, omdat de meeste cafés dat hebben. Zo ontstaan aannemelijke maar verkeerde antwoorden. De richtlijnen over generatieve AI van NIST, het Amerikaanse instituut voor standaarden, noemen dit, wat NIST confabulatie noemt, een van de belangrijkste risico's van de technologie.

Wat een verkeerd antwoord een bedrijf kost

Een verkeerde openingstijd kost een vergeefse rit en een slechte recensie. Verkeerde informatie over uw beleid kan meer kosten. In 2024 droeg een Canadees tribunaal Air Canada op een klant schadeloos te stellen, nadat de chatbot op de website een terugbetaling van een rouwtarief had beschreven die het echte beleid van de luchtvaartmaatschappij niet toestond. De maatschappij werd verantwoordelijk gehouden voor wat haar chatbot zei.

En sommige verkeerde antwoorden zijn gevaarlijk. “Is dit gerecht notenvrij?” is geen vraag om op de gok te beantwoorden.

Zo houdt Kioskly AI zich aan de feiten

• Uw informatie is de enige bron van bedrijfsfeiten. Of u iets hebt, wat het kost, uw openingstijden, voorzieningen en beleid: dat komt alleen uit uw notities, website en documenten.
• Het gaat nergens van uit. Het zegt niet dat u parkeergelegenheid, wifi of een toilet hebt omdat de meeste bedrijven dat hebben. Staat het niet vastgelegd, dan zegt het dat en verwijst het de klant naar uw personeel.
• Elk type bedrijf heeft harde regels. Restaurants en cafés: elke allergievraag gaat naar het personeel, ook als uw notities het antwoord lijken te geven. Apotheken: geen medisch advies. Hotels: geen tarieven, beschikbaarheid of gastgegevens. Winkels: geen voorraadbeloftes die het niet kan waarmaken.
• Het overdrijft niet. Het noemt iets niet “het populairst” tenzij u dat hebt gezegd.
• Het laat u zien wat ontbreekt. Vragen die het niet kon beantwoorden, verschijnen op uw Home-scherm, zodat u het antwoord één keer kunt toevoegen.

Wat u zelf kunt doen

• Zeg wat u niet hebt. “Geen parkeerplaats; de dichtstbijzijnde parkeergarage is in de Koningsstraat” maakt van een “dat weet ik niet” een behulpzaam antwoord.
• Werk seizoensgebonden feiten bij op de dag dat ze veranderen. Openingstijden, menukaarten en prijzen gaan het vaakst mis.
• Test het met lastige vragen voordat klanten dat doen, ook met vragen die het moet weigeren.
• Lees elke week de lijst met onbeantwoorde vragen. Zo maakt u de assistent het snelst beter.

Veelgestelde vragen