AIアシスタントは答えをでっち上げることがありますか？

AIがでっち上げる理由

言語モデルは、もっともらしい文章を生成するように作られています。汎用AIに、あるカフェにWi-Fiがあるか尋ねると、そのカフェについての事実がなくても、ほとんどのカフェにはあるので、答えはおそらく「はい」になります。こうして、もっともらしいけれど間違った答えが生まれます。米国国立標準技術研究所（NIST）の生成AIに関するガイダンスは、これを「作話（confabulation）」と呼び、この技術の主要なリスクの1つに挙げています。

間違った回答が事業にもたらす損失

営業時間を間違えれば、お客様の無駄足と悪いレビューにつながります。ルールを間違えれば、損失はさらに大きくなりかねません。2024年、カナダの審判所はAir Canadaに対し、顧客への補償を命じました。同社のWebサイトのチャットボットが、実際の規定では認められていない忌引き運賃の払い戻しについて説明していたためです。航空会社は、チャットボットの発言に責任を負うとされました。

そして、間違った回答の中には危険なものもあります。「この料理にナッツは入っていませんか？」は、推測で答えてよい質問ではありません。

Kioskly AIが事実に忠実な理由

• お店に関する事実の情報源は、登録した情報だけ。取り扱いの有無、価格、営業時間、設備、ルールは、メモ、Webサイト、ドキュメントからのみ答えます。
• 思い込みで答えない。ほとんどのお店にあるからといって、駐車場、Wi-Fi、お手洗いがあるとは言いません。登録されていなければそう伝え、お客様をスタッフにご案内します。
• 業種ごとに厳格なルールがある。レストラン・カフェ：メモで答えられそうに見えても、アレルギーに関する質問はすべてスタッフへ。薬局：医療に関するアドバイスはしない。ホテル：料金、空室状況、宿泊客の情報は答えない。ショップ：裏付けのない在庫の約束はしない。
• 大げさに売り込まない。そう伝えていない限り、何かを「一番人気」と呼ぶことはありません。
• 足りない情報がわかる。答えられなかった質問はホーム画面に表示されるので、一度答えを追加すれば済みます。

お店側でできること

• ないものは「ない」と書く。「駐車場はありません。最寄りの駐車場はキング通りにあります」と書いておけば、「わかりません」が役に立つ回答に変わります。
• 季節で変わる情報は、変わったその日に更新する。営業時間、メニュー、価格は、最も間違いが起きやすい情報です。
• お客様が使う前に、答えるべきでない質問も含めて、答えにくい質問でテストする。
• 答えられなかった質問の一覧を毎週確認する。アシスタントを改善するいちばんの近道です。

よくある質問