¿Un asistente de IA se inventa respuestas?

Por qué la IA se inventa cosas

Los modelos de lenguaje están hechos para producir texto que suene probable. Pregunta a una IA general si una cafetería tiene wifi y, sin ningún dato sobre esa cafetería, la respuesta probable es «sí», porque la mayoría lo tiene. Así surgen respuestas plausibles pero erróneas. La guía sobre IA generativa del NIST (Instituto Nacional de Estándares y Tecnología de EE. UU.) incluye este fenómeno, al que llama confabulación, entre los principales riesgos de la tecnología.

Lo que le cuesta a un negocio una respuesta errónea

Un horario equivocado cuesta un viaje en balde y una mala reseña. Una política equivocada puede costar más. En 2024, un tribunal canadiense ordenó a Air Canada indemnizar a un cliente después de que el chatbot de su web describiera un reembolso por tarifa de duelo que la política real de la aerolínea no permitía. La aerolínea fue considerada responsable de lo que dijo su chatbot.

Y algunas respuestas erróneas son peligrosas. «¿Este plato está libre de frutos secos?» no es una pregunta que se pueda responder adivinando.

Cómo se ciñe Kioskly AI a los hechos

• Tu información es la única fuente de datos del negocio. Si tienes algo, cuánto cuesta, tu horario, tus instalaciones y tus políticas salen solo de tus notas, tu sitio web y tus documentos.
• No da nada por supuesto. No dirá que tienes aparcamiento, wifi o baño porque la mayoría de los negocios los tengan. Si no está registrado, lo dice y remite al cliente a tu personal.
• Cada tipo de negocio tiene reglas estrictas. Restaurantes y cafeterías: toda pregunta sobre alergias va al personal, aunque tus notas parezcan cubrirla. Farmacias: nada de consejos médicos. Hoteles: nada de tarifas, disponibilidad ni datos de huéspedes. Tiendas: nada de prometer existencias que no pueda respaldar.
• No exagera. No dirá que algo es «lo más popular» si tú no lo has dicho.
• Te muestra lo que falta. Las preguntas que no supo responder aparecen en tu pantalla de Inicio, para que añadas la respuesta una sola vez.

Lo que puedes hacer tú

• Indica lo que no tienes. «No tenemos aparcamiento; el parking más cercano está en King Street» convierte un «no lo sé» en una respuesta útil.
• Actualiza los datos de temporada el mismo día que cambian. Los horarios, los menús y los precios son lo que más falla.
• Ponlo a prueba con preguntas difíciles antes que los clientes, incluidas las que debería rechazar.
• Revisa cada semana la lista de lo que falta. Es la forma más rápida de mejorar el asistente.

Preguntas frecuentes