Um assistente de IA inventa respostas?

Por que a IA inventa coisas

Os modelos de linguagem são feitos para produzir textos que soam prováveis. Pergunte a uma IA genérica se um café tem Wi-Fi e, sem nenhum fato sobre aquele café, a resposta provável é “sim”, porque a maioria dos cafés tem. É assim que surgem respostas plausíveis, mas erradas. As orientações do NIST (o instituto de padrões e tecnologia dos EUA) sobre IA generativa listam isso, que chamam de confabulação, entre os principais riscos da tecnologia.

Quanto uma resposta errada custa a um negócio

Um horário de funcionamento errado custa uma viagem perdida e uma avaliação ruim. Uma política errada pode custar mais. Em 2024, um tribunal canadense mandou a Air Canada indenizar um cliente depois que o chatbot do site da companhia descreveu um reembolso de tarifa por luto que a política real da empresa não permitia. A companhia aérea foi responsabilizada pelo que o chatbot disse.

E algumas respostas erradas são perigosas. “Este prato não tem castanhas?” não é uma pergunta para responder no chute.

Como o Kioskly AI se atém aos fatos

• Suas informações são a única fonte de fatos sobre o negócio. Se você tem algo, quanto custa, seus horários, instalações e políticas vêm apenas das suas anotações, do seu site e dos seus documentos.
• Ele não presume. Não diz que você tem estacionamento, Wi-Fi ou banheiro só porque a maioria dos negócios tem. Se não estiver registrado, ele avisa e indica a sua equipe ao cliente.
• Cada tipo de negócio tem regras rígidas. Restaurantes e cafés: toda pergunta sobre alergia vai para a equipe, mesmo que suas anotações pareçam cobrir o assunto. Farmácias: nada de orientação médica. Hotéis: nada de tarifas, disponibilidade ou dados de hóspedes. Lojas: nenhuma promessa de estoque que ele não possa confirmar.
• Ele não exagera. Não chama nada de “o mais popular” a menos que você tenha dito isso.
• Ele mostra as lacunas. As perguntas que ele não soube responder aparecem na sua tela inicial, para você adicionar a resposta uma vez.

O que você pode fazer

• Diga o que você não tem. “Não temos estacionamento; o mais próximo fica na King Street” transforma um “não sei” em uma resposta útil.
• Atualize as informações sazonais no dia em que mudarem. Horários, cardápios e preços são os que mais saem errados.
• Teste com perguntas difíceis antes que os clientes façam isso, incluindo as que ele deve recusar.
• Leia a lista de lacunas toda semana. É o jeito mais rápido de melhorar o assistente.

Perguntas frequentes