対話型AI とは:仕組み・例・限界
対話型AI とは、言葉を解釈し、対話の中で応答を生成するソフトウェアです。メッセージを受け取る仕組み、依頼を解釈する方法、関連する文脈、応答の処理を組み合わせます。対話型AIチャットボットは、そのシステムのインターフェースの1つです。文章で返答しただけでは、正確に理解したことや行動する許可があることは証明できません。
執筆:Ai Flowi · 公開日
対話型AIの仕組み
最初に扱うのは、入力された発言、つまり利用者が入力した言葉です。自然言語理解は、しばしばNLUと略され、その言葉が作業上何を意味するかを扱います。意図は、返品について尋ねるなど、求められた操作を表します。エンティティは、商品名などの詳細を特定します。生成モデルがプロンプトの中で両方を解釈する場合もありますが、それによって独立した、確認可能なNLUエンジンの存在が示されるわけではありません。
対話の文脈は、現在の発言を関連する以前の発言と結び付けます。青いバッグについて質問した人が、続けて「それは洗えますか」と入力した場合、システムは「それ」が何を指すかを解決する必要があります。有用な文脈は、選択されたバッグとそのお手入れ情報です。この会話に何を含めるべきか判断せずに以前のメッセージをすべて入れると、古い事実や別の人の情報が混入することがあります。
検索は、承認済みのお手入れ方法など、別の情報源から情報を提供します。応答生成は、利用可能な根拠を返答にまとめます。検索と生成は異なる問題を解決します。関連する箇所が見つかっても、返答がその意味を保っていることの証明にはなりません。最後に、応答方針に従って、回答するか、確認の質問をするか、人に引き継ぐかを決めます。
シナリオ型の対話と生成型の会話の違いは何ですか?
スマートフォンでは、対話の比較表を横にスクロールしてください。フォーカスを合わせると、矢印キーでもスクロールできます。
| 方式 | 簡単な例 | テストすべき失敗 |
|---|---|---|
| シナリオ型の対話 | メニューで配送か返品を選んでもらい、承認済みの文章を表示します。 | 利用者がメニューにない依頼を入力します。明確な別の対応経路が必要です。 |
| 生成型の会話 | 利用者が破損した商品について自分の言葉で説明します。返答では依頼を要約し、不足する詳細を尋ねます。 | 文章が共感的に聞こえるため、返答が返金の決定を捏造してしまいます。 |
| 両方式を組み合わせた設計 | モデルが質問を解釈し、その後の行動を固定ルールで制限します。 | 曖昧な解釈が、必要な確認を経ずに書き込み操作まで進んでしまいます。 |
方針が固定され、選択肢が少ない場合は、シナリオ型の応答が適することがあります。生成型の応答はさまざまな言い回しに対応できますが、根拠と制約が必要です。違いは対話の処理方法であり、一方が常に役立つ回答を作るということではありません。許可された作業と、検出できる失敗に基づいて判断します。
簡単な対話の例
商品のお手入れに関する対話の例を考えます。利用者が、あるバッグを洗濯機で洗えるか尋ねます。アシスタントは商品を正確に特定し、承認済みのお手入れ方法を見つけ、その情報だけに基づいて答える必要があります。商品が不明確なら、名前を尋ねることも有用な結果です。お手入れ文書に手洗いと記載されている場合は、その制限を返答でも保ちます。
次の発言「乾かすときはどうすればいいですか」では、選択された商品が文脈に残っている必要があります。適切な受け入れ確認には、別の商品への切り替え、商品名の訂正、新しいセッションの開始を含めます。想定する出力は、根拠に基づくお手入れの回答、または確認の質問です。この例は対話の動作を説明するもので、記録された顧客とのやり取りや導入完了の事例ではありません。
AI Flowi Workflowでの概念の現れ方
ビルダーのメッセージ、応答、履歴のインターフェースについては、Chat Input、Language Model、Message History、Chat Outputの各リファレンスを参照してください。
対話特有の課題は、訂正によって何が無効になるかを決めることです。利用者が最初に青いキャンバス地のバッグを挙げ、洗い方を尋ねた後、「すみません、黒い革のバッグのことでした」と述べたとします。選択された商品が変わります。バッグをきれいにしたいという希望は引き続き関連しますが、以前のお手入れの回答をそのまま適用できるものとして示してはいけません。役立つ返答では、訂正を受け止め、革製品のお手入れ方法を確認してから続けます。
これを「実は、洗い方ではなく乾かし方のことでした」と比べます。この場合、選択された商品はそのままで、求められた作業が変わります。文脈をすべて捨てると、利用者は同じバッグを再び指定しなければなりません。一方、以前の回答を丸ごと根拠として保持すると、洗い方の助言を乾かし方の質問に持ち込んでしまいます。対話には、訂正後の作業と引き続き有効な商品情報を残し、新しい作業について情報源を改めて確認する必要があります。
3つ目の発言「もう一方でもそれはできますか」では、行動と商品の両方が不明確です。どのバッグのどのお手入れ手順を指すのか尋ねます。モデルがもっともらしい推測を生成できても、この確認には意味があります。受け入れ演習では、商品の訂正、作業の訂正、曖昧な参照という3つの発言を比較します。返答がどの以前の事実を使い、訂正によって関係なくなった助言を撤回しているかを確認します。
訂正には適用範囲もあります。「姉はキャンバス地のものを持っています」は、別の人の商品を紹介する発言であり、必ずしも利用者が選んだバッグを変更するものではありません。次の返答で黙ってその商品に置き換えてはいけません。誰の商品について話しているかを明確に追跡することも、参照の解決の一部です。文章を保存するだけでは、会話の中での役割は確定できません。
これらのコンポーネントのインターフェースはカタログに記載されていますが、ここでのお手入れ対話の設計についてAi Flowiによる本番環境での検証は行われていません。その他の仕様はカタログを、それぞれの根拠の範囲は文書化されたワークフローの例を参照してください。
対話型AIプラットフォームを選ぶ前の評価項目
正とする情報源、許可する返答の種類、行動の境界を書き出します。商品のお手入れなら、情報源は承認済みの説明書などです。許容する返答には、回答、確認の質問、情報が得られない旨の説明を含めます。注文の変更は別の機能であり、別途許可が必要です。流暢な回答を、完了した行動の代わりにしてはいけません。
1回に1つの条件だけを変える、少数の架空の対話セットを使います。方針がない場合、記述が矛盾する場合、以前の回答後に訂正がある場合、ルールを無視するよう求められた場合を含めます。自然に読めるかだけでなく、回答を元の記録の該当箇所と照合します。誤りと、システムが回答できないときの対応経路を記録します。
よくある間違いと限界
- すべてのチャットボットを対話型AIと呼ぶことです。固定メニューと、言葉を解釈する対話は、同じチャット画面を使っていても応答方法が異なります。
- 記憶と知識を混同することです。以前のメッセージは会話の文脈を記録し、承認済みの文書は事実を提供します。どちらも古かったり無関係だったりすることがあります。
- 回答が行動を許可すると考えることです。返金の説明、予約の提案、アカウントの変更には、別途検証された手続きが必要です。
- プロンプトが欠落データを補修すると期待することです。根拠がない場合は確認の質問をするか、人に引き継ぎます。
既知の項目を収集するだけの作業なら、固定フォームで十分な場合があります。機微な判断や未解決の方針の矛盾には、人によるレビューを使います。モデルを使った実験では、必要に応じて、ご自身で設定したプロバイダーのアカウントとAPIキーが必要です。プロバイダーへの料金は別途お支払いいただきます。ここで取り上げるコンポーネントからは、標準搭載の音声・電話機能の動作は確認できません。
プラン:Goは年払いで月額USD8から(月払いUSD10)、Plusは月額USD16から(月払いUSD20)、Pro 100は月額USD80から(月払いUSD100)、Pro 200は月額USD160から(月払いUSD200)、Pro 500は月額USD400から(月払いUSD500)。毎月5,000~250,000 Flowi Tokensが含まれ、追加購入も可能です。ノード実行1回につき1トークン。サードパーティのAPIとモデルの利用料金は含まれません。
関連用語
知的エージェントの例は観測と行動を扱い、API連携はシステム間の仕様を扱います。既存のエージェント・ワークフロー・チャットボットのガイドでは、製品内でのそれぞれの役割を説明しています。