AIエージェント時代の幕開け。3つのステージと果たすべき2つの責任

Agentforceの発表は、お客様と私たち自身のビジネスをAI活用型へと変革する重要な一歩となりました。AIエージェントによって、人間の役割はこれまで以上に創造的になります。

Salesforceは、予測AIと生成AIの力を基盤とする第3の波を起こしました。

人材採用（英語）から高度な医療（英語）まで、AIはあらゆる分野で人間と協働し、人間だけでは不可能なほど迅速・正確に、そして大規模に多様なニーズを満たしていきます。

AIエージェントに慣れるまで多少時間がかかるかもしれませんが、生産性や効率性、戦略的意思決定、そしてやりがいまでさまざまな点でメリットがあるでしょう。

AIエージェント時代にようこそ。これからは、ほぼすべてのビジネスにおいて人間の労働力だけでなく、「デジタル労働力」も組織化できるようになります。

信頼と説明責任を基盤に、特定のタスクに特化したエージェントから、シームレスに連携するマルチエージェントシステム、そして、企業レベルのオーケストレーションという3つが展開され、ビジネスのあり方を根本から変えます。
Salesforce AI Research（英語）の役割は、エンタープライズAIの未来を形作ることです。AIエージェントを取り入れたシステムがどのように進化していくのか、そしてその過程で人間が必要とするものは何かについて、私たちのビジョンを紹介します。

AIエージェントの進化。規則から推論へ

AIエージェントの進化は機械学習自体の発展を反映しています。

RPAのような従来のルールベースのシステムは、手順に従い正確に作業を実行できる一方で、想定外の問題に直面するとうまくいきませんでした。

また、これらの初期導入には、技術的なオーバーヘッドとコンサルティングサービスが必要で、多くの組織にとって障壁となっていました。

過去数十年にわたり、機械による情報処理の方法が変革する段階的かつ画期的な進歩が見られ、融通の利かない自動化から、より柔軟で適応力があり、効率的な学習システムに進化しています。

Agentforceなどの最新プラットフォームで構築されたAIエージェントは、文脈を理解し、新しい状況に適応し、広範囲にわたってタスクを処理できます。
さらに私たちが目指すのは、以前執筆したように、「マルチエージェント推論」によって実現される自己適応型のエージェント、つまり、環境や経験を通じて学習し、パーソナライズされたAIアシスタントと連携できるエージェントです。

AIエージェントの3つのステージ

音楽が、単音のメロディから複雑なシンフォニーへと進化したのと同様に、AIエージェントもソロ演奏者から、オーケストラアンサンブルへと進化しています。

それぞれのステージは次のステージの基盤となり、企業環境においてより豊かで繊細な相互作用を生み出しています。

ステージ1：”モノフォニック”AI — 専門エージェント

AIエージェントの第1ステージでは、専門のエージェントが特定の業界・部門で定義されたタスクに優れ、効率性と正確性をもたらします。これらはエンタープライズAI導入の基盤となり、高い一貫性とスピード力で特定のタスクを処理します。 

顧客一人ひとりに合わせてパーソナライズされた、予測可能な提案の提供や、営業・サービス担当向けのガイダンスやマーケティングメッセージなど質の高い文章作成など、従来のAI技術の利点を最大限に活用する能力を持っています。

たとえば、コマース部門では、エージェントは在庫とアカウントの管理を変革します。AIエージェントは基本的な在庫チェックだけでなく、複数のロケーションにわたり積極的に在庫を監視し、季節ごとの需要を予測し、異常値や条件を示すリアルタイムのアカウントサマリを生成します。

かつては人間が何時間もかけて分析していたことを、今では正確かつ深い分析結果を数秒で導き出すので、顧客にとって最適化かつパーソナライズされた「魔法」のような体験がもたらします。

サービス業務も変革します。AIエージェントは顧客とのやり取りのパターンを分析し、サービスリクエストを自動的に分類・優先順位付けすることで、顧客ニーズに関する予測的インサイトを生成します。

顧客の行動傾向から、不満の兆候や事業拡大の機会を示唆する情報を捉え、サービス担当がとるべき行動につながる情報を提供します。多くの場合、問題が顕在化する前に解決されるため、顧客は意識することなく、快適なサービスを体験できます。

金融サービスにおいては、AIエージェントは顧客サービスの効率を再定義しています。

承認のプロセスでは、取引履歴を分析し、不正行為の可能性のあるパターンを特定し、関連するセキュリティプロトコルを自動的に発動させます。

ファイナンシャルプランニングにおいては市場データ、個々の顧客履歴、広範な経済指標を関連付け、包括的な分析を生成します。

AIエージェントを正しく使えば、企業はかつてないバックオフィスの効率化を実現し、消費者には次世代のリテールバンキング、投資ガイダンス、資産管理体験を提供できます。

ステージ2：”ポリフォニック”AI — シームレスなコラボレーター

第2ステージでは、同じ企業内の専門エージェントが、共通のビジネス目標に向けて連携する、組織化されたコラボレーションが実現されます。

この場合のAIエージェント「オーケストレーターエージェント」は、協力して作業する複数のエージェントやシステムを連携させ、調和のとれた動作を実現します。ミシュランの星を獲得するために有能なホストや、サーバー、マネージャー、シェフ、下ごしらえコックなどを取りまとめるレストランの総支配人と似ています。

複数のAIエージェントがバックグラウンドで連携して、ロイヤルカスタマーからのオフシーズン時のSKUのサイズ交換リクエストをサポートする、カスタマーサービスシナリオを考えてみましょう。

• フロントサービスエージェントが、顧客からの最初の問い合わせを処理
• 在庫管理スペシャリストが、各拠点の在庫状況を確認
• ロジスティックエージェントは、出荷オプションとスケジュールを計算
• 請求エキスパートは、アカウント履歴と支払いオプションを確認

オーケストレーターエージェントはこれらすべてのインプットをとりまとめ、一貫した、企業ブランドらしいレスポンスに調整します。最終的に指揮を執る人間がそれを確認、修正し、顧客に共有します。

オーケストレーターエージェントが人間をサポートするマルチエージェントアプローチは、適切に実装されることでAI主導の利点をもたらします。

このシステムは、特定の領域に特化した信頼性の高い専門エージェントを活用することで、信頼性が向上すると同時に、より狭い範囲で動作することでハルシネーションを減らします。この分散型アプローチは、機密データの取り扱いを特定のエージェントに限定することで、セキュリティ強化につながります。

そして最も重要なのは、このエコシステムがシームレスな拡張性を提供することです。ニーズの進化に合わせて、新しい専門エージェントを継続的に追加し、機能拡張という大きなメリットをもたらします。

ステージ3：”アンサンブル”AI — エンタープライズオーケストレーター

第3ステージ、つまり理想的な環境は、組織の境界を越えた高度なエージェント間（Agent-to-Agent, A2A）インタラクションが追加され、全く新しいビジネス関係のパターンが生まれます。

従来のB2BやB2Cモデルを超えて、AIエージェントが仕事や取引の仲介役を務めるB2A（企業とエージェント）や、B2A2C（企業とエージェントと消費者）が出現します。

レンタカーのシナリオを考えてみましょう。顧客のパーソナルAIエージェントが、レンタル会社のビジネスAIエージェントと交渉します。顧客側のエージェントは最良の価格と価値を最適化し、レンタル会社のエージェントは付加サービスを通じて収益の最大化を目指します。

しかし、AIエージェントは、競合他社に取引を奪われるリスクに対して、積極的な販売戦術のバランスを取らなければなりません。このようなやりとりは、高度な交渉スキルやプロトコル、不確実性下でのリスク管理、信頼関係を保証するための検証メカニズム、そして巧みに対立を解決する能力はもちろんのこと、高度な「ゲーム理論」の原則によって管理できます。

サプライチェーンの最適化からカスタマーエクスペリエンスのオーケストレーションに至るまで、業界を横断して見られる、ますます複雑化する企業プロセスへの拡張を想像してください。

消費者であれ、企業の従業員であれ、アンサンブルAIは、個人のパーソナライズされたニーズや希望に応じて、複雑なオーケストレーションや有意義なコラボレーションを実行するアシスタントを利用できることを意味します。そして、これを実現するために、私たち人間にはやるべき仕事が待ち受けています。

妥協してはならない義務。信頼と説明責任

高度になるAIエージェントシステムを導入するにつれて、信頼と説明責任という2つの基本原則があらゆる意思決定の指針となる必要があります。

信頼の構築

AIエージェント時代における信頼は、トキシシティや偏見、ハルシネーションに対する技術的な安全対策をはるかに超えて広範囲の要素が含まれています。

最近のSalesforceの調査によると、顧客の61％がAIの発展により信頼性がこれまで以上に重要になると感じていますが、その通りです。私たちは、人間とAIの共生関係に対する組織の深い信頼を必要とする領域に入っています。

この信頼は、以下の4つの本質的な基盤の上に構築されます。

精度と範囲の基盤：AIエージェントは精度を維持しながら、明確に適宜されたパラメータ内で動作しなければなりません。これらのガードレールはエラー防止だけでなく、集合知を増幅する、予測可能で信頼できるパートナーシップを構築します。

エージェントの自己認識：大切な同僚と同じように、AIエージェントも自分の限界を認識し、人間の専門知識を活用するタイミングを見極めなければなりません。

そのためには、人工知能と人間知能のシームレスな連携を保証する高度なハンドオフ・プロトコルが必要です。例えば、Salesforce AI Researchチームは、AIエージェントが不確実な領域にフラグを立て、認識されていない課題に直面したときに支援を求めるように教えるトレーニング方法を研究しています。正しく訓練されたAIは、推測を試みるべきではない時、つまり人間に支援を求めるべき時を認識するようになります。

世界共通のプロトコル：マルチエージェントシステムでは、グローバルで採用されているエンゲージメントプロトコルも必要です。

例えば、銀行には個人間、企業間、国間の資金移動を体系化する世界共通のプロトコルがあります。交通には、世界共通の信号色システムによって管理された、ルールの遵守を保証するプロトコルがあります。

インターネットには 「IP」という、データパケットがネットワークを横断して正しい宛先に到達するためのルーティングとアドレス指定を可能にするグローバルインターネットプロトコルがあります。

同様に、将来のエージェントは、オーケストレーターエージェントが他企業のAIエージェントと安全に、倫理的に、そしてお互いの利益のために、コミュニケーションや交渉、コラボレーションができるように、普遍的に合意され、実装されたこれらのプロトコルを必要とします。

この 「アンサンブル」レベルのエンゲージメントは、迅速かつ効率的で公平である必要があります。このようなプロトコルが整備されていなければ、エージェント間の「スパム」などの混乱や不正、さらには詐欺など危険のリスクにさらされることになります。

セキュリティ対策：AIエージェントの労働力が増加するにつれて、セキュリティ対策も必要になってきます。どのようなテクノロジーにも言えることですが、悪意を持った人間がAIを操り、データ侵害を目的とした「AIワーム」（英語）を設計・訓練し、他のAIエージェントを乗っ取って顧客データを漏えいしようとする可能性もあります。

保護の強化、プライバシー管理、継続的な監視は、単なる技術要件と捉えてはなりません。AIを私たちが使用するツールから、ビジネスをともに成長させていくパートナーへと変える信頼を維持するために不可欠なものです。

説明責任の明確化

組織が1秒間に何千もの判断を下すAIエージェントを導入する際には、問題発生時に備えて、責任と監督に関する明確なフレームワークを確立しなければなりません。そのためには包括的なアプローチが必要です。以下は、エージェント導入の取り組みを監督するC-Suiteチームのためのスターティングポイントです。

• AIエージェントの決定に対する責任連鎖を明確化：AIエージェントが重大な決定を下す場合、誰が責任を負うのか曖昧であってはなりません。これは、エージェントの配備を監督する権限と、問題発生時の責任の両方を持つ「AIオペレーション責任者」のような明確な責任者や役職を確立することを検討すべきでしょう。

• 不完全な情報、偏見、ハルシネーション、または有害な出力がビジネスに影響を与える前に検出して修正する堅牢なシステム：これは基本的な安全性チェックにとどまらず、エージェントの意思決定の継続的モニタリングやリアルタイムの介入機能、体系的な監査証跡をを含みます。
  
  一例として、Salesforce AI Researchチームによる検索拡張生成（RAG）（英語）の最近の進歩によって、AIシステムが情報にアクセスし検証する方法が劇的に改善されました。これらのイノベーションにより、迅速な評価と軌道修正が可能になり、AIシステムが人間と企業が信頼できる正確で信頼性の高い結果を提供できるようになります。

• 自律性と制御のバランスをとった、人間の監視と介入のための明確なプロセス：「人間がループの中にいる」という単純な概念を超えて、いつ、どのように人間がエージェントの意思決定に介入すべきかについて、洗練されたフレームワークを開発する必要があります。
  
  私の同僚であるポーラ・ゴールドマンが言うように、まさに「人間が舵を取る」ことです。つまり、エージェントとコミュニケーションをとるためのガイドラインや組織全体の標準的な方法、そして明確なエスカレーション手順を作成することを意味します。

• ミスが発生したときに正しい対応をするための構造化されたアプローチ：これには技術的なロールバック手順だけでなく、同様の問題を防ぐための顧客とのコミュニケーションや修復など、体系的な改善に関する明確なプロトコルも含まれます。

• AIエージェントの説明責任を明確に規定する新たな法的及びコンプライアンスのフレームワーク：現在の規制環境は、自律型AIエージェントがビジネス上の意思決定を行うことを想定して設計されていません。規制当局と積極的に協力し、適切なガバナンス構造を構築する必要があります。

将来を見据えて：科学的メソッドとエンタープライズイノベーションの融合

本当にインタラクティブなAIシステムを導入するには、経営陣の洞察力が求められます。これらの進歩を生み出した厳格な科学的基準を、実際の実装にも適用しなければなりません。

成功のカギは、AIエージェントの導入数や導入スピードだけで決まるのではなく、企業のリーダーと技術者が、既存の従業員の業務手順やプロセス、好みと、AIとをいかに思慮深く統合するかにかかっています。

エージェントのコラボレーション、共有学習、人間とAIの相互作用に関する理解が深まるにつれ、再現可能な研究と実証的証拠に裏打ちされた原則を発見しています。

Salesforceの長年の企業CRMの成功とビジネスロジック、そして最適化の専門知識に基づいて、Agentforceに導入戦略を組み込み、当社のシステムが強力であるだけでなく、私たちのお客様のビジネス、そしてそれを運営する方々のニーズを満たす、信頼と説明責任を確実なものにします。

これからは、人間 vs. AIではなく、人間とAIがそれぞれの強みを生かし協働する時代です。AIエージェントは、Agentforceとともに、労働力を強化するエンジンとなり、これまで不可能だったチームの役割を果たし始めています。今こそ変革する時であり、入念な仮説検証、綿密な測定、証拠に基づく継続的なアップデートを通じて、科学的メソッドが私たちの進むべき道を照らします。

すべての画期的な実験が仮説から始まるように、すべてのAI変革はビジョンから始まり、検証された真実で終わります。

リソース：

• Salesforce AI Research（英語）
• X：@SFResearch（英語）

※本記事は米国で公開された “The Agentic AI Era: After the Dawn, Here’s What to Expect” の抄訳版です。本ポストの正式言語は英語であり、その内容および解釈については英語が優先されます。