※本資料は2024年5月2日に米国で公開されたNew Salesforce White Paper Tackles LLM Security Risks の抄訳です。本資料の正式言語は英語であり、その内容および解釈については英語が優先されます。
Salesforceは、大規模言語モデル（LLM）がもたらす新たな脅威の詳細と、組織が防御を強化するための実用的な戦略を提供する包括的なホワイトペーパー「Mitigating LLM Risks Across Salesforce’s Gen AI（日本語版）」を公開しました。
重要な理由：AIの時代は、機密データの悪用の可能性だけでなく、テクノロジーの全体的な整合性と信頼性をも脅かす、セキュリティ上の懸念の新たな潮流をもたらしました。LLMはハッキングされる可能性があり、脅威アクターに所有情報へのアクセスを可能にしたり、有害なコンテンツを生成するように操作される可能性があります。
詳細情報：企業は生成 AI の導入に取り組んでおり、そのモデルはテキストプロンプトからコンテンツを作成するために事前トレーニングされた LLM を使用することが多いため、トラスト（信頼）を基本においた戦略を使用して自社を保護する必要があります。 Salesforce ホワイトペーパーでは、LLM に対するいくつかの最も差し迫った新たな脅威の概要と、組織が自らを守る方法について概説しています。
- プロンプトインジェクション：悪意のある攻撃者は、 プロンプト内に悪意ある挿入を行うことでLLMを操作し、LLM を攻撃者の「混乱した代理」として動作させることができます。これらの脅威に対する防御には、 2 つの戦略が含まれます。1 つは機械学習主導の防御戦略を使用して悪意のある挿入をインテリジェントに検出して防止する方法と、拒否リストベースのフィルタリングや命令防御など、プロンプトに対する潜在的な脅威から保護するためのヒューリスティックな学習ベースの戦略 です。
- トレーニングデータの汚染：攻撃者が、LLMのトレーニングデータやファインチューニング手順を操作することで発生します。 企業は、入力されたトレーニングデータに、モデルのセキュリティと有効性を損なったり、プライバシー侵害やその他のセキュリティ侵害につながる可能性のある悪意のあるペイロードなどの汚染された情報が含まれていないことを確認することで、これを防御ができます。
- サプライチェーンの脆弱性：脆弱性は、従来のサードパーティのライブラリ/パッケージ、Dockerコンテナ、ベースイメージ、サービスサプライヤを含むアプリケーションのライフスタイル全体に影響を与える可能性があります。組織は、ライフスタイルのあらゆる部分が企業の確立されたセキュリティ基準を確実に適合させることで、これらの事態を防御できます。また、すべてのコンポーネントが製品に組み込まれる前に、社内のセキュリティレビュープロセスに合格していることを保証する必要があります。
- モデルの盗難：認証され、許可されたクライアントのみが、企業の LLM にアクセス可能にするべきです。これにより、アクターが所有するモデルをコピーしたり、物理的に盗む事から防御します。企業はまた、モデルの盗難を防ぐために、ジャスト イン タイム (JIT) 認証情報の要求、多要素認証 (MFA)、強力な監査証跡、ロギングなどの対策を採用することもできます。
- 安全なトレーニング環境：企業は、トレーニング環境 (AI システムが学習して機能を向上させることができる制御された設定) を、データ環境自体と同じセキュリティ基準に保つ必要があります。企業がトレーニング環境を開発環境として認識し、低いセキュリティの状態で扱うことが増えているため、これは特に重要です。
Salesforce の視点：「生成 AI とその多くの機能が急速に進化するにつれ、LLM の導入が最前線にもたらす可能性のある潜在的なセキュリティリスクに先手を打つことが組織にとって重要です。 Salesforce は、信頼を最大の価値とし、AI に関する 10 年以上の専門知識を持ち、お客様、パートナー、エコシステム全体に対し、変化する状況を乗り切り、リスクを軽減するために必要なツールとリソースを提供する専門知識とコミットメントの両方を備えています。」 – Salesforce 情報セキュリティ担当シニアディレクター、スリ・スリニヴァサン（Sri Srinivasan）
Salesforce は、信頼を最大の価値とし、AI に関する 10 年以上の専門知識を持ち、お客様、パートナー、エコシステム全体に対し、変化する状況を乗り切り、リスクを軽減するために必要なツールとリソースを提供する専門知識とコミットメントの両方を備えています。
– Salesforce 情報セキュリティ担当シニアディレクター、スリ・スリニヴァサン（Sri Srinivasan）
ズームアウト：ホワイトハウスはまた、AIの安全性に関する大統領令や、安全で信頼できる AI を進化させるための自主的な取り組みを通じて、LLM の危険な悪用を防ぐための安全への取り組みを強化するよう企業に求めています。
