高度な AI 機能の台頭は、企業の運営、イノベーション、競争の在り方にパラダイム シフトをもたらしています。私たち技術リーダーには、その変革の力を活用して効率性を高め、新たなインサイトを引き出すことが求められていますが、その可能性の裏には、新しい複雑なリスクも存在します。膨大な量の機密性の高いファイナンスデータや業務データを保有する企業にとって、 AI の導入は、闇雲に踏み切れるものではありません。慎重かつ戦略的に、安全性を確保しながら進める必要があります。
Anaplan では、AI は単なる「付加機能」ではありません。安全かつ高パフォーマンスでガバナンスが確保されたプランニング環境を提供するプラットフォームにより、AI を中核に組み込んでいます。お客様のデータの安全性と、プランニング プロセスの完全性は極めて重要です。そのため、さらに強力な AI 機能をプラットフォームに統合していくに従い、お客様へのコミットメントはこれまで以上に強いものとなっています。私たちが目指しているのは、あらゆるイノベーションを誰よりも早く市場に投入することではありません。お客様から最も信頼される存在であり続けることです。
AI の導入は、闇雲に踏み切れるものではありません。慎重かつ戦略的に、安全性を確保しながら進める必要があります。
新たな脅威の情勢: AI はリスクを増幅させる可能性がある
AI がビジネスに革新的な価値をもたらす力は、悪意を持つ攻撃者に危険な武器を提供する力にもなる可能性があります。これまで、新たな CVE (共通脆弱性識別子) が公開された場合、実際にその脆弱性を悪用した大規模な事案が発生するまでには数週間、場合によっては数ヶ月の猶予がありました。現在では、AI を活用したコード生成ツールによって、攻撃者は脆弱性を数時間で「武器化」できるようになり、防御策を講じるための時間が劇的に短くなっています。
AI は既存の脅威を加速させるだけでなく、次のような新たな脅威ももたらします。
- プロンプト インジェクション/プロンプト ポイズニング: 大規模言語モデル (LLM) に対して、安全対策を無効化させるように作成された悪意のある入力を与え、機密情報を引き出したり、意図しない命令を実行させたりします。
- データ漏えい: 企業の専有データや機密の顧客データがサードパーティ製の LLM に渡され、その情報が意図せず LLM の基盤の知識ベースに取り込まれた場合に、外部に漏えいします。
- シャドー AI: IT 部門やセキュリティ部門の承認を受けていない AI ツールや公開モデルが利用されることです。その結果、データの利用状況、モデルの挙動、アクセス権限などを監視、管理、監査できない「見えない領域」が生まれる可能性があり、機密データの漏えいにつながる恐れがあります。
このような情勢に対応するには、プラットフォームの最も深いレベルにまで組み込まれたセキュリティ設計思想が不可欠です。「事後対応型」の防御ではなく、セキュリティを最優先に据えた「セキュリティ ファースト」の設計へ転換することが求められています。
Anaplan のセキュリティの基本原則: 信頼できることを「前提」にしない
Anaplan における AI セキュリティ戦略も、プラットフォーム全体に適用される基本原則であるゼロトラストと最小権限アクセスに基づいています。強力な推論エンジンとして機能するマルチテナント型の LLM を利用する環境では、「信頼できるはずだ」という前提に立つことはできません。
ロールベースのアクセス制御 (RBAC) は基本です。 LLM とやり取りするすべてのクエリ、そしてモデルが応答として実行する可能性のあるすべての API 呼び出しは、リクエストを行ったユーザーの厳格なコンテキスト内で実行されなければなりません。LLM 自体が恒久的な権限を持つことはありません。LLM は、1 回限りの一時的な処理の間だけ、そのユーザーに付与された限定的な権限のみを引き継いで動作します。これにより、AI を利用しても、ユーザーは自分に付与された権限の範囲を超えるデータを閲覧したり、アクセスしたりすることはできません。Anaplan では、この原則を発展させて、専用の AI 管理者ロールを開発することで、お客様が自社環境内での AI の構成方法や利用方法をきめ細かく制御できるようにしています。
これに加えて、AI を考慮した厳格な API の監視とゲートウェイを提供しています。私たちは、この分野が急速に進化しており、新たな脅威が絶えず生まれることを理解しています。したがって、アクセス パターン、データ フロー、利用状況を継続的に監視することは、単なるベスト プラクティスではなく、異常な挙動をリアルタイムで検知し、対処するために不可欠な運用要件なのです。
Anaplan のアーキテクチャ: 設計段階からのセキュリティ確保 (セキュア バイ デザイン)
Anaplan の原則は、リスクを分離し、あらゆるデータを保護するために一から設計されたアーキテクチャに組み込まれています。Anaplan は、AI 機能が強力であると同時に安全であることを確実にするため、慎重かつ十分に検討を重ねた選択を行ってきました。
1. RAG (検索拡張生成) の利用
Anaplan のアプローチにおける重要な特長は、お客様のデータを用いてサードパーティ製の LLM を学習させたり、お客様の機密性の高いビジネス情報をモデルの一般的な知識の拡張に利用したりしないことです。
その代わりに、Anaplan CoModeler など、Anaplan の AI エージェントは RAG を利用して動作します。ユーザーが質問すると、その質問に関連する、ただし制限された、データ (コンテキスト) を取得し、このコンテキストとユーザーのクエリを LLM に提供します。このコンテキストは、ユーザーの権限、Anaplan のベスト プラクティス、および質問に関連するモデルのデータに基づいて決定されます。LLM はこのコンテキストを利用して、適切で精度の高い回答を生成します。回答が返されると、コンテキストは直ちに破棄されます。データは完全に一時的なものです。クエリが処理される間だけ存在し、回答が提供されると直ちに削除されます。これにより、LLM の優れた推論能力を活用しながらも、お客様のデータが永続的な知識ベースに取り込まれるリスクを回避しています。
将来的には、プラットフォームのメタデータを活用して、特定用途向けのモデルを学習させることを検討する可能性があります。たとえば、パフォーマンスに関するテレメトリ データを活用し、CoModeler がより効率的な計算を構築できるよう学習させることが考えられますが、その場合でも、お客様のコア ビジネス データが学習に利用されることは決してありません。お客様のデータは、お客様だけのものです。
2. 強固に保護され、分離された環境
Anaplan では、プラットフォームと LLM を接続するサービスを、極めて機密性の高いコンポーネントとして扱っています。そのため、複数の層からなる、多層防御の考えに基づいたアーキテクチャの環境を構築しています。プロンプトを Anaplan の基盤の API と適切に対応付ける独自の Model Context Protocol (MCP) サーバーは、パブリック インターネットには公開されていません。MCP サーバーは、ゲートウェイによって分離された境界ネットワーク セグメント (非武装地帯 "DMZ" のような環境) 内に配置され、厳格な監視下にあります。
AI サービスとの間で送受信されるトラフィックを検査し保護するように設計された、AI ベースの高度なゲートウェイを導入しています。これにより、明確に分離、保護された統合ポイントが提供され、あらゆるやり取りを包括的に制御および監査できるようになります。その結果、プラットフォームの中核部分は外部の AI サービスから実質的に隔離された状態となります。
3. 標準技術に基づく、慎重なアプローチ
新たな AI のトレンドが生まれるたびに、たとえ近道をすることになっても、それをいち早く取り入れようとする企業もあります。しかし Anaplan が重視しているのは「いち早く」ではなく、正しく導入すること、そしてお客様の最も重要なプランニング データを保護することです。私たちには、実証され、安定性と安全性が確認された技術を採用する責任があります。
そのため、Anaplan では、AI エージェント同士の通信に利用される A2A (Agent-to-Agent) プロトコルなど、業界標準の技術を採用しています。主要なハイパースケーラー各社が採用するプロトコルに準拠することで、Anaplan のテクノロジー スタックは、業界全体で蓄積されたセキュリティ研究の成果やベスト プラクティスの恩恵を受けることができます。このような慎重かつ責任あるアプローチにより、十分な検証が行われていないアーキテクチャに安易に依存してリスクを抱えることなく、イノベーションを迅速に提供することが可能になります。
4. レッド チーミングによる継続的な検証
セキュリティを前提とした設計 (セキュリティ バイ デザイン) は、継続的な検証を行ってこそ、その効果を発揮します。そのため、レッドチーミングは Anaplan の AI セキュリティ態勢および運用プロセスの中核をなしています。AI システムに対して現実のシナリオ (プロンプトの注入、データ流出の試み、権限の回避、エージェント ワークフローの悪用など) を積極的にシミュレーションして、悪用される前に脆弱性や弱点を特定しています。
こうした検証は定期的に実施され、開発ライフサイクル全体に組み込まれており、単発の取り組みとして扱われることはありません。検証で得られた知見は、アーキテクチャ上のコントロール、ゲートウェイのポリシー、プロンプトの強化、アクセス制御へと直接反映されます。これにより確実に、変化し続ける脅威の情勢に合わせて防御策を継続的に進化させ、また、実際の攻撃者が用いる手法を想定して AI 機能を検証できます。
お客様に安全な AI を提供
CoModeler やインテリジェントなロールベースのアナリストなど、すぐに利用できる Anaplan Intelligence 機能をご利用のお客様には、セキュリティはあらかじめ組み込まれており、その管理はすべて Anaplan が担います。お客様は、通常どおり Anaplan のロールベースのアクセス制御 (RBAC) を使用してユーザー権限を割り当てるだけです。LLM プロバイダーの保護から、プロンプト インジェクションの防止、データの一時性の確保まで、Anaplan が対応します。
独自のエージェント型ワークフローを構築したい、より経験豊富なお客様には、Anaplan Agent Studio を提供しています。Agent Studio は、カスタム エージェントや、お客様独自の LLM を Anaplan のエコシステムに統合するための単一のエントリー ポイントです。すべての変更は監査され、すべてのやり取りがコントロールされます。これにより、安全で管理されたフレームワークの中でイノベーションを推進できます。
最後に、Anaplan では、人間が意図的に介在するヒューマン イン ザ ループ (HITL) の考え方を重視しています。 LLM は決定論的ではなく、確率論的に動作するため、誤った回答を生成したり、ハルシネーションを起こしたりする可能性があります。そこで Anaplan では、自律型エージェントを活用する場合であっても、ワークフローの中には必ず人が関与し、結果を検証、承認したうえで、最終的なビジネス上の意思決定を行えるようにすることを目指しています。
Anaplan のコミットメント: 信頼できる AI をお客様へ
AI を活用したエンタープライズ プランニングへの移行は、短距離走ではなくマラソンです。この移行には、お客様と同じレベルでお客様のデータの安全性に真剣に取り組むパートナーが必要です。Anaplan AI の意思決定プロセスは完全な透明性を確保しており、お客様は AI が導き出した結果を理解し、信頼し、検証することができます。これは、AI をプラットフォームの中核に据えて設計したからこそ実現できるものです。その結果、プラットフォームはインテリジェントなだけでなく、責任ある運用、ガバナンス、そして何よりも安全性を確保しています。
私たちは、AI 専門チームを集約し、人材と継続的な教育への投資、AI に特化したセキュリティ基盤への投資を進めています。また、セキュリティを最優先とする考え方でアーキテクチャを設計することで、未来の AI ドリブン型のプランニングをお客様が安心して取り入れられるようにしています。Anaplan のコミットメントは、お客様のプラットフォームとデータがエンタープライズ グレードのセキュリティ戦略によって守られているという安心感とともに、AI の力を提供することです。
AI ブログ シリーズの前回の投稿をご覧になっていない方は、「プランニングの再構築：AI がモデリング、意思決定、行動にもたらす影響」もぜひご覧ください。
