※本記事は2024年7月31日に米国で公開されたWhy It’s Critical to Build Trust in an AI Worldの抄訳です。本記事の正式言語は英語であり、その内容および解釈については英語が優先されます。
今日、ビジネスリーダーたちは新たなイノベーションを起こし、戦略的優位性を得るための技術としてAIに注目しています。この最先端技術とそれを実行する人々の間の信頼面の課題を解消することは、チェンジマネジメントにおける重要なポイントです。最新のAIに関する調査によると、就業者の半数以上がAIのトレーニングに使用されるデータを信頼しておらず、AIに対する信頼を築くためには安全なデータが不可欠であると考えている人は82%にのぼりました。
本稿では、データの信頼性と、Salesforceがどのようにして倫理的に顧客にサービスを提供しているかについて、Salesforceのプレジデント兼最高法務責任者のサバスチャン・ナイルズに詳しく聞きました。
Q. AIを信頼することが重要な理由を教えてください。
AI革命は、信頼の革命です。生成AIおよびAIエージェントを含めAIは、モバイルおよびインターネットと同じ規模で、現在の最も革新的なテクノロジーのひとつとなっています。AIには、組織の成功を促進し、創造性を高め、生産性を向上し、業界を変革し、人間の体験を向上させる可能性があります。AIを正しく実行できれば、私たちの可能性が増幅され、効率が向上し、賢明な意志決定の速度を加速することができます。
AIは、メールの作成からライドシェアの手配まで、あらゆることに役立ちます。また、顧客やパートナー向けに構築しているプラットフォームにより、AIのユースケースはさらに拡大しています。しかし、AIが持つ変革力は、効率性や利便性の向上をはるかに超えるまでに拡大しています。
私たちが望むAIの未来を実現するには、今すぐ信頼と影響を最優先にする必要があります。つまり、責任あるイノベーションを加速し、信頼を最優先する文化を確立し、イノベーションと安全性のバランスをとる適切な枠組み、規制、公共政策および社内ポリシーを策定するということです
Salesforce プレジデント 兼 最高法務責任者、 サバスチャン・ナイルズ (Sabastian Niles)
規制環境が変化する中、AIは無法地帯のように見えるかもしれません。実際、AIをそのように扱っている組織もあります。しかし、私たちが望むAIの未来を実現するには、今すぐ信頼と影響を最優先にする必要があります。つまり、責任あるイノベーションを加速し、信頼を最優先する文化を確立し、イノベーションと安全性のバランスをとる適切な枠組み、規制、公共政策および社内ポリシーを策定するということです。
Q. 企業がAIを信頼するうえで直面する主な障害は何ですか。
AIに対する信頼は、まずデータという情報源を信頼することから始まります。何よりもまず、顧客データの品質、プライバシー、保護を確保する必要があります。しかし、それだけではありません。データの精度を確保することが不可欠です。また、データの偏りを排除し、データのサイロ化を解消する必要もあります。
ここで、エンタープライズAIアプリケーションと、コンシューマーAIアプリケーションの違いが重要になります。エンタープライズAIシステムは主に予め選定されたデータに依存しており、より制御された環境のなかで顧客固有のユースケースが展開されるので、ハルシネーションのリスクが制限され、精度が向上します。一方、コンシューマーAIのデータは、検証されていない広範な情報源から得られる可能性があるため、有害性、バイアス、精度に関する懸念が高まる可能性があります。
非常に速く走り、非常にスマートな自動車が販売されても、それを信頼する人が誰もいなければ、誰も運転しないでしょう。
また、AIに対する信頼性を高めるには、包括性やアクセスのしやすさも重要です。これを実現するには、多様な業界やユーザーグループ固有のニーズを理解し、ビジネスのライフサイクルや文化のニュアンスを尊重し、偏見を取り払うために、ステークホルダーグループや地域の違いを超えてレプレゼンテーション（全従業員における多様な人材の構成比率）を確保することが非常に重要です。また、私たちはスキルアップ、リスキリングや人材の拡充を推進する必要も出てきます。
Q. AIソリューションを導入する企業が考慮すべき、法的事項について教えてください。
企業が自社の組織にAIソリューションを導入することを決める際、主な優先事項とすべき領域が3つあります。
まず、信頼と倫理的な利用です。企業は開発当初から倫理に関するガイドラインを整備するとともに、あらゆる段階で顧客、パートナー、従業員を含むすべての関係者を考慮する必要があります。
2つ目は、データガバナンスと顧客のプライバシーです。これには、データ保護に関する規制の厳格な遵守、顧客情報を利用する際の顧客の同意の取得、AIシステムで使用するデータを保護するための強力なセキュリティ対策の実装が含まれます。
そして最後に、説明責任と透明性です。企業は自社のAIシステムがどのように意思決定を行っているのかを説明できるようにしておく必要があります。これは、規制遵守の観点から重要であるだけでなく、顧客やステークホルダーとの信頼関係の構築にも直接関係するため、非常に重要です。AIの意思決定プロセスについて明確でわかりやすい説明を提供することは、特に規制業界においてはますます重要になっています。たとえばSalesforceでは、AI Trust Layer、倫理的および人道的利用オフィス、責任ある生成AI開発のための明確なガイドラインを通じ、こうした法的考慮事項に対応しています。こうした法的および倫理的考慮事項を優先することで、企業はAIの力を活用しながら、リスクを軽減させ、ステークホルダーと信頼を構築することができます。
Q. AIを利用する際の、倫理上の主な懸念事項について教えてください。
そうですね、技術的な機能と倫理的責任をうまく両立させることが必要です。AIによる効率性の向上が、顧客の信頼や個人情報を犠牲にすることがあってはなりません。また、ガバナンスと倫理に関するガイドラインを整備することも不可欠です。ビジネスリーダーは、AIのガバナンス評議会と倫理的利用に関するポリシーを推進することでその役割を果たし、イノベーションを推進しながら組織を信頼と説明責任に向けて導くことができます。
ガバナンス評議会と倫理的利用に関するポリシーを推進することでその役割を果たし、イノベーションを推進しながら組織を信頼と説明責任に向けて導くことができます
Salesforce プレジデント兼最高法務責任者、 サバスチャン・ナイルズ (Sabastian Niles)
最後に、二酸化炭素排出量を含め、AIがもたらす幅広い影響を考慮する必要があります。Salesforceでは、エネルギー効率とコスト効率の高いAIソリューションを開発し、社会全体でAIの恩恵を享受できるようにしています。
Q. AIの利用を管理する現在の法的枠組みと、Salesforceがそれらをどのようにしてプロセスに組み込んでいるかについて教えてください。
AIに関する規制は進化し続けています。たとえば、欧州AI規制法はグローバルな企業にとってAIガバナンスに関する包括的な法的枠組みであり、あらゆる場所においてテクノロジーの信頼性と透明性を醸成することを目標に、責任あるAIの導入について規定しています。
AI規制は、すべての企業に適用できる画一的なものであってはなりません。透明性と既存の法律への準拠を重視しながら、文脈、制御、利用に基づいて違いがあってしかるべきです。たとえば、レシピや料理のヒントを提供するチャットボットは、患者の診断や治療計画を決めるために使用されるAIアプリケーションと同じ規制要件に従う必要はありません。とはいえ、米国のプライバシー法は、責任あるAI規制の基盤となるものです。AIが利用するデータを管理するために、米国においてはプライバシーに関する連邦法の制定を求める声が強まっています。Salesforceでは、公的政策の方向性を予測し、想定される基本要件に合わせて実践することで、こうした法的考慮事項をプロセスに組み込んでいます。
Q. これまで、主にAIによって起こり得る問題を防ぐ方法に焦点を当ててきましたが、このテクノロジーにはこれまでないメリットも数多くあります。このAI革命で最も期待していることは何ですか？
AIを正しく利用すれば、多くのメリットがあります。この強力なテクノロジーに、生活を一変させるメリット、さらには人類を変えるほどのメリットをもたらす可能性を垣間見ることができます。単にこれまでのやり方が変わるだけではなく、人間や企業活動の本質を変えるものでもあります。
単にこれまでのやり方が変わるだけではなく、人間や企業活動の本質を変えるものでもあります
Salesforce プレジデント兼最高法務責任者、 サバスチャン・ナイルズ (Sabastian Niles)
AIエージェントを例に説明しましょう。チャットボットとやり取りすると、とてもイライラさせられますね。顧客の質問に対して定型のスクリプトが用意されており、それを使って回答しているからです。しかし、AIエージェントの登場によって、顧客体験は新たなレベルに到達しています。私たちが技術レベルとプラットフォームレベルでAIエージェントを設計し、人間とAIとの間でシームレスなコラボレーションができるようになれば、非常にわくわくしますよね。企業のリーダーとして、企業と顧客とのやり取りや従業員体験の向上が根本的な変化の瀬戸際にあることを見るのは愉快です。AIによって、これまでは分断されていたサイロを横断する、より統合されたデータを利用して、より迅速で適切な意思決定を行うことは、AIによって判断力を向上させ、より良い結果を導くことにほかなりません。
私自身、消費者として、娘のために注文したばかりの誕生日プレゼントについての質問に、よりシームレスかつ迅速に回答してもらえる方法があることをすばらしいと思っています。そしてこれは、ほんの表面的なメリットの一部です。
政府や公的機関が、AIを導入して住民サービスを継続的に向上させる可能性も非常に大きいです。運転免許証の更新やパスポートの申請の手続きがもっとシームレスになる、あえて言わせてもらえば、快適なものになることを想像してみてください。それどころか、医療診断の閲覧や財務計画から、製造やサステナビリティ対策まで、AIはあらゆるものに革命をもたらします。この劇的な変化は、まだ始まったばかりです。
詳細情報：
- World Tour D.C.でのインタビューの全容は、Salesforce+（英語）から。
- Einstein Trust Layerについては、こちら。
- Einstein 1プラットフォームについては、こちら。
