Erfindet ein KI-Assistent Antworten?

Warum KI Dinge erfindet

Sprachmodelle sind darauf ausgelegt, wahrscheinlich klingenden Text zu erzeugen. Fragen Sie eine allgemeine KI, ob ein Café WLAN hat, lautet die wahrscheinliche Antwort ohne Fakten zu diesem Café „Ja“, weil die meisten Cafés WLAN haben. So entstehen plausible, aber falsche Antworten. Die Leitlinien der US-Normungsbehörde NIST zu generativer KI zählen dieses Phänomen, dort Konfabulation genannt, zu den Hauptrisiken der Technologie.

Was eine falsche Antwort ein Unternehmen kostet

Eine falsche Öffnungszeit kostet einen umsonst gemachten Weg und eine schlechte Bewertung. Eine falsche Regel kann mehr kosten. 2024 verpflichtete ein kanadisches Gericht Air Canada zur Entschädigung eines Kunden, nachdem der Website-Chatbot der Airline eine Erstattung für Trauerfalltarife beschrieben hatte, die die tatsächlichen Regeln der Airline nicht vorsahen. Die Airline wurde für die Aussagen ihres Chatbots haftbar gemacht.

Und manche falschen Antworten sind gefährlich. „Ist dieses Gericht nussfrei?“ ist keine Frage, die man mit Raten beantwortet.

Wie Kioskly AI bei den Fakten bleibt

• Ihre Informationen sind die einzige Quelle für Fakten zu Ihrem Geschäft. Ob Sie etwas haben, was es kostet, Ihre Öffnungszeiten, Ausstattung und Regeln stammen nur aus Ihren Notizen, Ihrer Website und Ihren Dokumenten.
• Er nimmt nichts einfach an. Er sagt nicht, dass Sie Parkplätze, WLAN oder eine Toilette haben, nur weil die meisten Unternehmen das haben. Ist es nicht hinterlegt, sagt er das und verweist den Kunden an Ihr Personal.
• Jede Branche hat feste Regeln. Restaurants und Cafés: Jede Allergiefrage geht an das Personal, selbst wenn Ihre Notizen sie abzudecken scheinen. Apotheken: keine medizinische Beratung. Hotels: keine Zimmerpreise, Verfügbarkeiten oder Gästedaten. Geschäfte: keine Zusagen zum Bestand, die er nicht belegen kann.
• Er übertreibt nicht. Er nennt nichts „das Beliebteste“, wenn Sie das nicht gesagt haben.
• Er zeigt Ihnen die Lücken. Fragen, die er nicht beantworten konnte, erscheinen auf Ihrem Startbildschirm, damit Sie die Antwort einmal hinzufügen können.

Was Sie tun können

• Sagen Sie, was Sie nicht haben. „Keine Parkplätze; das nächste Parkhaus ist in der Königstraße“ macht aus einem „Ich weiß es nicht“ eine hilfreiche Antwort.
• Aktualisieren Sie saisonale Fakten am Tag der Änderung. Öffnungszeiten, Speisekarten und Preise sind am häufigsten falsch.
• Testen Sie ihn mit kniffligen Fragen, bevor Kunden es tun, auch mit solchen, die er ablehnen sollte.
• Lesen Sie die Lückenliste jede Woche. Das ist der schnellste Weg, den Assistenten besser zu machen.

Häufige Fragen