Keksiikö tekoälyavustaja vastauksia omasta päästään?

Miksi tekoäly keksii asioita

Kielimallit on rakennettu tuottamaan todennäköiseltä kuulostavaa tekstiä. Kysy yleiseltä tekoälyltä, onko kahvilassa Wi-Fi, ja ilman mitään faktoja juuri siitä kahvilasta todennäköinen vastaus on ”kyllä”, koska useimmissa kahviloissa on. Näin uskottavat mutta väärät vastaukset syntyvät. NIST:n generatiivista tekoälyä koskeva ohjeistus listaa tämän ilmiön, jota se kutsuu konfabulaatioksi, teknologian suurimpien riskien joukkoon.

Mitä väärä vastaus maksaa yritykselle

Väärä aukioloaika maksaa turhan reissun ja huonon arvostelun. Väärä käytäntö voi maksaa enemmän. Vuonna 2024 kanadalainen tuomioistuin määräsi Air Canadan maksamaan korvauksia asiakkaalle sen jälkeen, kun sen verkkosivuston chatbot oli kuvaillut omaisen kuolemantapauksen vuoksi myönnettävän alennushinnan hyvityksen, jota lentoyhtiön todellinen käytäntö ei sallinut. Lentoyhtiö katsottiin vastuulliseksi siitä, mitä sen chatbot sanoi.

Ja jotkut väärät vastaukset ovat vaarallisia. ”Onko tämä annos pähkinätön?” ei ole kysymys, johon vastataan arvaamalla.

Miten Kioskly AI pysyy faktoissa

• Tietosi ovat ainoa yritysfaktojen lähde. Onko teillä jotain, mitä se maksaa, aukioloaikasi, tilasi ja käytäntösi tulevat vain muistiinpanoistasi, verkkosivustoltasi ja asiakirjoistasi.
• Se ei oleta. Se ei sano, että teillä on pysäköinti, Wi-Fi tai WC, koska useimmilla yrityksillä on. Jos asiaa ei ole kirjattu, se sanoo niin ja ohjaa asiakkaan henkilökunnallesi.
• Jokaisella toimialalla on tiukat säännöt. Ravintolat ja kahvilat: jokainen allergiakysymys menee henkilökunnalle, vaikka muistiinpanosi näyttäisivät kattavan asian. Apteekit: ei lääkeneuvoja. Hotellit: ei hintoja, vapaita huoneita eikä vieraiden tietoja. Kaupat: ei varastolupauksia, joita se ei voi näyttää toteen.
• Se ei liioittele. Se ei kutsu mitään ”suosituimmaksi”, ellet ole sanonut niin.
• Se näyttää aukot. Kysymykset, joihin se ei osannut vastata, ilmestyvät Koti-näkymääsi, jotta voit lisätä vastauksen kerran.

Mitä sinä voit tehdä

• Kerro, mitä teillä ei ole. ”Ei pysäköintiä; lähin pysäköintihalli on King Streetillä” muuttaa ”en tiedä” -vastauksen hyödylliseksi vastaukseksi.
• Päivitä kausittaiset tiedot samana päivänä, kun ne muuttuvat. Aukioloajat, ruokalistat ja hinnat menevät useimmin pieleen.
• Testaa sitä kinkkisillä kysymyksillä ennen kuin asiakkaat tekevät sen, myös sellaisilla, joista sen pitäisi kieltäytyä.
• Lue aukkolista viikoittain. Se on nopein tapa tehdä avustajasta parempi.

Usein kysytyt kysymykset