推論エンジンとは

メールの作成、キャンペーンブリーフの作成、Webページの作成、競合他社の調査、データの分析、通話の要約などの日常的なビジネスタスクがAIによって自動化された状況を想像してみてください。このような繰り返し作業を自動化することで、人間は貴重な時間と労力を大幅に節約し、ビジネス戦略や関係構築といった、より複雑で創造的な活動に専念できるようになります。

このような日常的な業務を自動化するには、人間の知能を模倣してAIを推論エンジンとして機能させることが必要です。それはワンランク上の生成AIと言えます。AIは、自然言語でのコミュニケーションだけでなく、問題解決や意思決定にも役立ちます。提供された情報から学習し、長所と短所を評価し、結果を予測し、論理的な決定を下します。最近の技術の進展により、こうしたAI機能が実用に近づいており、科学界やビジネス界から大きな期待が寄せられています。

推論エンジンは、特定のルールとロジックにもとづいて、人間のように判断を下し、問題を解決できるAIシステムです。推論エンジンが人間の推論や推察のメカニズムをエミュレートするものには、主に次の3種類があります。

1. 演繹的推論 –一般的に受け入れられている普遍的な事実に基づいて結論を導き出す推論です。例：「すべての鳥は卵を産む。ハトは鳥である。したがって、ハトも卵を産む」
2. 帰納的推論 —特定の事例やサンプルから結論を導き出す推論です。例：「私が会う犬はみんな友好的だ。したがって、すべての犬は友好的だ！」
3. 仮説的推論 –不完全で曖昧な情報から最も可能性の高い結論を導く推論です。例：「部屋中に紙が散らばっていて、犬だけが部屋にいた。したがって、犬が紙を散らかしたに違いない」

今や、大規模言語モデル（LLM）が、学習したデータから有用な新しいコンテンツを生成できる特別な機械学習モデルであることは世界中で知られています。それに加えて、現在のLLMは文脈を理解し、データから論理的な推論を引き出し、さまざまな情報を結びつけて問題を解決する能力も備えています。これらの特性により、LLMは推論エンジンとして機能することができます。

では、LLMが情報を評価し、計画を立て、既知のルールを適用して一般的なビジネスの数学問題を解く際にどのようなことを行っているのでしょうか？

コーヒーショップのオーナーが、損益分岐点を知りたいとします。1杯の販売価格は3.95ドル。月間固定費は2500ドル、変動費は1杯あたり1.40ドルです。

LLMは、既知の数学的ルールを適用して体系的に答えを導き出しことができます。

ステップ1

関連する値を特定します。

ステップ2

コーヒー1杯あたりの貢献利益を計算します。貢献利益とは、販売価格から変動費を差し引いたものです。
= 3.95ドル – 1.40ドル = 2.55ドル

ステップ3

損益分岐点式を適用します。損益分岐点は、固定費を貢献利益で割ったものです。
= 2500ドル/2.55ドル= 980.39

ステップ4：

整数になるように小数点第一位を繰り上げます。
損益分岐点 = コーヒー981杯

大規模言語モデルは2022年の秋に人気が急上昇しましたが、科学者たちはそれ以前から様々なプロンプトを使ってモデルの実験に真剣に取り組んでいます。「プロンプト」、正式にはプロンプトエンジニアリングは現在急速に発展している領域です。望ましい結果を得るために工夫して作成した一連の入力指示（プロンプト）を大規模言語モデル（LLM）に送信します。プロンプトを使用して目標を達成するための論理的なステップの計画を生成する際、それらを「推論手法」と呼ぶこともあります。以下は一般的に普及している推論手法の例です。

• 思考の連鎖（Chain-of-Thought、CoT）：最も一般的に普及している推論手法の1つです。複雑な問題を一連のステップに分けて大規模言語モデル（LLM）に指示することで、人間に近い意思決定を行うアプローチです。この手法は、「シーケンシャルプランナー」とも呼ばれます。CoT推論は数学の文章題を解くことができ、常識的な推論を組み立て、人間が言語を使って解決できるようなタスクをこなすことができます。CoTの利点の1つは、エンジニアがプロセスを覗き見し、問題が発生した場合に何が問題だったかを特定して修正できることです。
• 推論と行動（ReAct）：LLMのトレーニングに使用したデータに加えて、現実世界の情報を利用して推論する手法です。ReActに基づく推論は、インタラクティブな意思決定や言語的推論を伴い、人間らしいタスク解決に近いとされています。エラー処理が改善され、幻覚の発生率が低下します。また、ユーザーの行動を通じて推論と行動を統合し、応答の解釈性と信頼性を高めます。この手法は「段階的プランナー」とも呼ばれ、問題解決を段階的に進めるとともに、各ステップでユーザーからのフィードバックを求めることを特徴としています。
• 思考の木（Tree of Thoughts、ToT）：CoTアプローチの変種です。各中間ステップで複数の「思考」を生成します。1つの推論経路のみを選ぶのではなく、各ステップで環境の状況を評価しながら、先を予測したり、必要に応じて立ち戻ったりして、慎重な判断を行います。数学ゲームや創作の練習、ミニクロスワードパズルといった複雑なタスクにおいて、CoTを大幅に上回る成果を出している手法です。ToT推論は複数の選択肢を検討し、利点と欠点を比較した上で最善の選択を行うという、人間の意思決定のパラダイムに近いものとされています。
• 計画による推論（RAP）：LLMを推論エンジンおよび世界モデルとして使用し、環境の状態を予測して行動の長期的な影響をシミュレーションする手法です。代替の推論経路の探索や将来の状態や報酬の予測、既存の推論ステップの反復的な改善など、複数の概念を統合することで、推論パフォーマンスを向上させます。RAPに基づく推論は、計画、数学的推論、論理的推論を伴うタスクにおいて、各ベースラインを上回る優れたパフォーマンスを誇ります。

上に挙げたものは、現在最も有望とされる手法の一部に過ぎません。実際のAIアプリケーションでは、最適なパフォーマンスを得るために、さまざまな手法の調整と組み合わせにより、反復的に進めていきます。

LLMが推論エンジンとして機能することには夢があります。しかし実際の世界でどのように役立てることができるのでしょうか？人間に例えると、LLMは推論、計画、意思決定能力を持つ脳のような存在です。しかし、行動を起こすためには手足が必要です。そこで登場するのが「AIエージェント」です。これは推論と行動という2つの能力を備えたAIシステムです。行動を実行するための一般的な用語には「ツール」「プラグイン」「アクション」などがあります。

AIエージェントには、完全自律型と半自律型の2種類があります。完全自律型エージェントは、人間の介入なしに自律的に意思決定を行い、それに基づいて行動することができます。完全自律型エージェントは現在、実験段階にあります。一方、半自律型エージェントは、リクエストをトリガーする「人間の介入」が必要なエージェントです。半自律型エージェントは、Einstein Copilot、ChatGPT、Duet AIなどの会話型チャットボットなどのAIアプリケーションですでに採用され始めています。

AIエージェントには、次の4つの主要なコンポーネントがあります。

1. 目標 – エージェントの主な目標またはタスク。
2. 環境 – 目標、最初のユーザー入力、以前のアクティビティや会話の履歴、関連性のためのグラウンディングデータ、ユーザーフィードバック、LLMの学習データなどのコンテキスト情報。
3. 推論 – LLMに組み込まれた能力。観察を行い、次のアクションを計画し、意図した目標に向けて最適化するために再調整します。
4. アクション — エージェントが目標を達成するために必要な外部ツール。アクションの一般的な例としては、情報の取得、検索、コード生成、コード解釈、対話生成などがあります。

Einstein Copilotは、Salesforceの高度なAI搭載会話アシスタントです。企業の従業員や顧客と自然言語で対話する能力を持っています。従業員はワークフロー内でさまざまなタスクをこなすのにこれを活用することができ、大規模な生産性の向上につながります。また、消費者はブランドとチャットし、即座に質問に回答を得ることができるため、顧客満足度やロイヤルティの向上につながります。Einstein Copilotは、理解力やコンテンツ生成といった言語スキルのためにLLMを利用するだけでなく、複雑なタスクの計画を立てるための推論エンジンとしても活用でき、ユーザーの認知的な負担を軽減します。

それでは、その仕組みを説明しましょう。

1. ユーザーが「Webページを作成する」など、達成したい目標を入力します。
2. Einstein Copilotは、キュレーションされたプロンプトを使用して、ユーザー入力を安全なLLMに送信し、ユーザーの意図を推測します。
3. 意図に基づいて、Einstein Copilotは別のキュレーションされたプロンプトを送信して、その意図を満たすための計画を生成するようにLLMに指示します。
4. 生成された計画は、論理的な順序でつながった一連のアクションになっています。確実に信頼できる形でEinstein Copilotを動作させるため、LLM向けに用意されたアクションのみを用いて計画を生成するようLLMに指示します。
5. LLMが計画を出力すると、Einstein Copilotは指定された順序でアクションを実行し、望ましい結果を生成し、それをユーザーに伝えます。

イメージにすると次のようになります。

Einstein Copilotを導入することで、企業は大規模言語モデル（LLM）を推論エンジンとして利用し、数か月前には実現が難しかった数々のタスクをAIでこなせるようになります。

• たとえば、営業チームが案件不足に悩んでいる場合は、Einstein Copilotを使えばデータベースをスキャンし、アプローチすべき質の高いリードを発掘できます。
• 進行中の案件のリスクをCopilotが分析し、要望があれば管理者向けに記録を要約することもできます。
• サービス担当者が顧客の過剰請求問題に対応する際、解決するために必要な情報をCopilotが収集し、トラブルシューティングをサポートします。
• Copilotは現在の顧客センチメントを分析し、今後3か月で成約するために必要なアクションを提案することも可能です。

これらのユースケースや他の多くの例で、Einstein Copilotはユーザーからの指示に基づいてLLMを推論エンジンとして使用し、タスクを実行する半自律エージェントとして機能します。しかし、これはまだ始まりに過ぎません。次の目標はEinstein Copilotを完全に自律化し、アシスタント的な役割だけでなく、プロアクティブかつ常時稼働する存在にすることです。AIにはスリリングな未来が待っていますが、それ以上にエキサイティングなのは、世界的な効率向上によって得られる成果です。