Czy asystent AI zmyśla odpowiedzi?

Dlaczego AI zmyśla

Modele językowe są budowane tak, by tworzyć tekst, który brzmi prawdopodobnie. Zapytaj ogólne AI, czy dana kawiarnia ma Wi-Fi, a bez żadnych faktów o niej najbardziej prawdopodobną odpowiedzią będzie „tak”, bo większość kawiarni je ma. Tak powstają wiarygodnie brzmiące, ale błędne odpowiedzi. Wytyczne NIST dotyczące generatywnej AI wymieniają to zjawisko, nazywane konfabulacją, wśród głównych zagrożeń tej technologii.

Ile firmę kosztuje błędna odpowiedź

Błędna godzina otwarcia to zmarnowana podróż i zła opinia. Błędna informacja o zasadach może kosztować więcej. W 2024 roku kanadyjski trybunał nakazał Air Canada wypłatę odszkodowania klientowi, któremu chatbot na stronie linii opisał zwrot w ramach taryfy dla osób w żałobie, choć rzeczywiste zasady przewoźnika na to nie pozwalały. Linia lotnicza poniosła odpowiedzialność za to, co powiedział jej chatbot.

A niektóre błędne odpowiedzi są niebezpieczne. „Czy to danie jest bez orzechów?” to nie pytanie, na które odpowiada się na chybił trafił.

Jak Kioskly AI trzyma się faktów

• Twoje informacje to jedyne źródło faktów o firmie. To, czy coś masz, ile to kosztuje, godziny otwarcia, udogodnienia i zasady – wszystko to pochodzi wyłącznie z Twoich notatek, strony internetowej i dokumentów.
• Niczego nie zakłada. Nie powie, że masz parking, Wi-Fi czy toaletę tylko dlatego, że ma je większość firm. Jeśli czegoś nie ma w informacjach, mówi o tym i kieruje klienta do Twoich pracowników.
• Każdy rodzaj firmy ma sztywne zasady. Restauracje i kawiarnie: każde pytanie o alergie trafia do personelu, nawet jeśli Twoje notatki zdają się na nie odpowiadać. Apteki: żadnych porad medycznych. Hotele: żadnych cen pokoi, informacji o dostępności ani danych gości. Sklepy: żadnych obietnic co do dostępności towaru, których nie da się potwierdzić.
• Nie przesadza z zachwalaniem. Nie nazwie niczego „najpopularniejszym”, chyba że tak to opiszesz.
• Pokazuje Ci luki. Pytania, na które nie znał odpowiedzi, pojawiają się na ekranie głównym, więc wystarczy raz dodać odpowiedź.

Co możesz zrobić

• Napisz, czego nie masz. „Nie mamy parkingu, najbliższy parking wielopoziomowy jest przy ulicy Królewskiej” zamienia „nie wiem” w pomocną odpowiedź.
• Aktualizuj informacje sezonowe w dniu zmiany. Najczęściej dezaktualizują się godziny otwarcia, menu i ceny.
• Przetestuj go podchwytliwymi pytaniami, zanim zrobią to klienci, w tym takimi, na które powinien odmówić odpowiedzi.
• Co tydzień przeglądaj listę luk. To najszybszy sposób, by ulepszyć asystenta.

Najczęściej zadawane pytania