Dikter en AI-assistent opp svar?

Hvorfor AI dikter opp ting

Språkmodeller er laget for å produsere tekst som høres sannsynlig ut. Spør en generell AI om en kafé har Wi-Fi, og uten fakta om akkurat den kaféen blir det sannsynlige svaret «ja», fordi de fleste kafeer har det. Slik oppstår svar som virker troverdige, men er feil. Veiledningen om generativ AI fra NIST, det amerikanske standardiseringsinstituttet, regner dette, som den kaller konfabulering, blant teknologiens viktigste risikoer.

Hva et feil svar koster en bedrift

En feil åpningstid koster en bortkastet tur og en dårlig anmeldelse. Feil om regler og vilkår kan koste mer. I 2024 påla en kanadisk tvisteløsningsnemnd Air Canada å kompensere en kunde etter at chatboten på nettstedet hadde beskrevet en refusjonsordning for billetter ved dødsfall som flyselskapets faktiske regler ikke tillot. Flyselskapet ble holdt ansvarlig for det chatboten sa.

Og noen feil svar er farlige. «Er denne retten nøttefri?» er ikke et spørsmål man skal svare på ved å gjette.

Slik holder Kioskly AI seg til fakta

• Informasjonen din er den eneste kilden til fakta om bedriften. Om du har noe, hva det koster, åpningstidene, fasilitetene og reglene dine kommer bare fra notatene, nettstedet og dokumentene dine.
• Den antar ingenting. Den sier ikke at du har parkering, Wi-Fi eller toalett bare fordi de fleste bedrifter har det. Er det ikke lagt inn, sier den det og viser kunden videre til de ansatte.
• Hver bedriftstype har faste regler. Restauranter og kafeer: alle allergispørsmål går til de ansatte, selv om notatene dine ser ut til å dekke dem. Apotek: ingen medisinske råd. Hoteller: ingen priser, ledige rom eller gjesteopplysninger. Butikker: ingen løfter om lagerstatus den ikke har dekning for.
• Den overselger ikke. Den kaller ikke noe «det mest populære» med mindre du har sagt det.
• Den viser deg hullene. Spørsmål den ikke kunne svare på, vises på startskjermen din, så du kan legge inn svaret én gang.

Hva du kan gjøre

• Si hva du ikke har. «Ingen parkering; nærmeste parkeringshus ligger i Kongens gate» gjør et «jeg vet ikke» om til et nyttig svar.
• Oppdater sesongavhengige fakta samme dag som de endres. Åpningstider, menyer og priser blir oftest feil.
• Test den med vanskelige spørsmål før kundene gjør det, også spørsmål den skal avvise.
• Gå gjennom listen over ubesvarte spørsmål hver uke. Det er den raskeste måten å gjøre assistenten bedre på.

Ofte stilte spørsmål