Может ли ИИ-помощник выдумывать ответы?

Почему ИИ выдумывает

Языковые модели созданы, чтобы выдавать правдоподобно звучащий текст. Спросите обычный ИИ, есть ли в кафе Wi-Fi, и без фактов об этом кафе вероятный ответ будет «да», ведь в большинстве кафе он есть. Так и появляются правдоподобные, но неверные ответы. В руководстве Национального института стандартов и технологий США (NIST) по генеративному ИИ это явление, которое там называют конфабуляцией, отнесено к главным рискам технологии.

Во что бизнесу обходится неверный ответ

Неверные часы работы оборачиваются напрасной поездкой и плохим отзывом. Неверные правила могут стоить дороже. В 2024 году канадский трибунал обязал Air Canada выплатить компенсацию клиенту после того, как чат-бот на сайте авиакомпании описал возврат денег по льготному тарифу в связи со смертью близкого, который реальные правила авиакомпании не допускали. Авиакомпания была признана ответственной за слова своего чат-бота.

А некоторые неверные ответы опасны. «В этом блюде нет орехов?» — не тот вопрос, на который можно отвечать наугад.

Как Kioskly AI придерживается фактов

• Ваша информация — единственный источник фактов о бизнесе. Есть ли у вас что-то, сколько это стоит, часы работы, удобства и правила — всё это берётся только из ваших заметок, сайта и документов.
• Он не додумывает. Он не скажет, что у вас есть парковка, Wi-Fi или туалет, только потому, что они есть у большинства. Если этого нет в ваших данных, он так и говорит и направляет клиента к сотрудникам.
• У каждого типа бизнеса есть жёсткие правила. Рестораны и кафе: каждый вопрос об аллергии уходит сотрудникам, даже если в заметках, кажется, есть ответ. Аптеки: никаких медицинских советов. Отели: никаких цен, наличия номеров и данных о гостях. Магазины: никаких обещаний о наличии товара, которые нечем подтвердить.
• Он не преувеличивает. Он не назовёт что-то «самым популярным», если вы этого не говорили.
• Он показывает пробелы. Вопросы, на которые он не смог ответить, появляются на главном экране, и вы можете один раз добавить ответ.

Что можете сделать вы

• Пишите, чего у вас нет. «Парковки нет, ближайший паркинг — на Королевской улице» превращает «я не знаю» в полезный ответ.
• Обновляйте сезонные факты в тот же день, когда они меняются. Чаще всего устаревают часы работы, меню и цены.
• Проверьте его каверзными вопросами раньше клиентов, в том числе теми, на которые он должен отказаться отвечать.
• Каждую неделю просматривайте список пробелов. Это самый быстрый способ улучшить помощника.

Часто задаваемые вопросы