Un asistent AI inventează răspunsuri?

De ce inventează AI-ul

Modelele lingvistice sunt construite să producă text care sună plauzibil. Întreabă un AI general dacă o cafenea are Wi-Fi și, fără nicio informație despre acea cafenea, răspunsul probabil e „da”, pentru că majoritatea cafenelelor au. Așa apar răspunsurile plauzibile, dar greșite. Ghidul NIST (institutul american de standarde și tehnologie) despre AI generativ trece acest fenomen, pe care îl numește confabulație, printre principalele riscuri ale tehnologiei.

Cât costă o afacere un răspuns greșit

Un program greșit costă un drum degeaba și o recenzie proastă. O politică greșită poate costa mai mult. În 2024, un tribunal canadian a obligat Air Canada să despăgubească un client după ce chatbotul de pe site-ul companiei descrisese o rambursare pentru tariful de doliu pe care politica reală a companiei aeriene nu o permitea. Compania a fost trasă la răspundere pentru ce a spus chatbotul ei.

Iar unele răspunsuri greșite sunt periculoase. „Preparatul acesta e fără nuci?” nu e o întrebare la care să răspunzi ghicind.

Cum se ține Kioskly AI de fapte

• Informațiile tale sunt singura sursă de date despre afacere. Dacă ai ceva, cât costă, programul, facilitățile și politicile tale vin doar din notițele, site-ul și documentele tale.
• Nu presupune nimic. Nu va spune că ai parcare, Wi-Fi sau toaletă doar pentru că majoritatea afacerilor au. Dacă informația nu e înregistrată, spune asta și îl îndrumă pe client către personalul tău.
• Fiecare tip de afacere are reguli stricte. Restaurante și cafenele: orice întrebare despre alergii ajunge la personal, chiar dacă notițele tale par să acopere subiectul. Farmacii: niciun sfat medical. Hoteluri: fără tarife, disponibilitate sau detalii despre oaspeți. Magazine: nicio promisiune de stoc pe care nu o poate susține.
• Nu exagerează. Nu va spune despre ceva că e „cel mai popular” decât dacă ai spus tu asta.
• Îți arată golurile. Întrebările la care n-a putut răspunde apar pe ecranul Acasă, ca să poți adăuga răspunsul o singură dată.

Ce poți face tu

• Spune ce nu ai. „Nu avem parcare; cea mai apropiată parcare publică e pe strada Regală” transformă un „nu știu” într-un răspuns util.
• Actualizează informațiile sezoniere chiar în ziua în care se schimbă. Programul, meniurile și prețurile sunt cel mai des greșite.
• Testează-l cu întrebări dificile înaintea clienților, inclusiv cu unele pe care ar trebui să le refuze.
• Citește săptămânal lista cu goluri. E cel mai rapid mod de a face asistentul mai bun.

Întrebări frecvente