ニュース

企業未承認のシャドーAI利用を検知する「ガードレール」提供

MBSDとSMBCサイバーフロントがPoCを実施予定

 三井物産セキュアディレクション(以下、MBSD)とSMBCサイバーフロントは、AIエージェントに対応した国産セキュリティ製品の開発に着手したと発表した。同開発の一環として、実運用を前提とした検証(PoC)を2026年の上期に実施後、2026年下期にβ版をリリース予定。

 同製品は、特定のAIエージェントや生成AIサービスではなく、それらを安全に利用するために機能するもの。企業がAIエージェントを導入・活用できるようにするための「ガードレール」を提供する。

市場背景と課題

 近年、生成AIやAIエージェント等のAI関連技術が急速に発展しており、ソフトウェア開発の現場におけるコード生成・テスト・レビュー・運用支援に加え、市場調査、ドキュメント作成などの業務効率化を目的とした一般社員の利用も広がりつつある。

 一方で、AIが扱う情報範囲や実行権限の拡大に伴い、情報漏洩や脆弱なコード生成、意図しない操作等、新たなセキュリティリスクやガバナンスの課題も顕在化している。

 今後は業務・サービスごとに用途特化の多種多様な「AIエージェントの乱立」が想定されるため、AI活用による競争力強化と、安全な利用を両立するための統制基盤の整備は、企業にとって重要な経営課題になる。

同取組の概要

 それぞれ、MBSDは、AIセキュリティ領域において豊富な技術知見を有し、2016年から官公庁や大手企業等に様々なサービスを、SMBCサイバーフロントは、邦銀初のサイバーセキュリティ子会社として、利用者目線でのセキュリティコンサルティングの知見と、経営層と専門部署の橋渡し役として全国各地の顧客に最適なサービスを提供してきた。

 両社はこれまでの共同検討を通じ、AIセキュリティに関する初期調査を終了し、国内ではAIエージェント向けセキュリティ製品の開発フェーズに移行する。

 MBSDのAIセキュリティ技術と、SMBCサイバーフロントのコンサルティング知見・顧客基盤といった両社の強みを発揮することで、より多くの企業が日々進化するAIを安全・安心に活用するためのセキュリティ環境を整備する。

提供価値と製品機能

 同製品は、組織が承認していないAIサービス(Shadow AI)の利用を検知し、AIエージェント等の危険な行動(機密情報の外部送信や危険なコマンドの実行等)を検査・制御するため、安全な範囲でAI活用を導入・推進できる状態を実現する「ガードレール」を提供する。

 同製品は国産製品として日本の規制や商慣習等に合わせ、以下の機能を提供する。

  • 組織のポリシーに基づいた一律の行動制御
     自社環境に潜むAIエージェントに対して、組織として統一的なポリシーを適用可能。
  • ルールベースでは検知困難な意図を解釈した検査も可能
     マルチターンでのメモリ汚染攻撃等の、従来のルールベースでは検知が難しい攻撃手法も検知できる。
  • ゲートウェイ型 or プロキシ型を選択可能
     企業の導入ハードルや可視化範囲にあわせて、最適な構成(ゲートウェイ型 or プロキシ型)を選択可能。
  • リアルタイム検査と事後検査を併用可能
     リアルタイム検査を有効にすることで、AIエージェントの危険な行動をプロアクティブに制御し、情報漏えい等の重大インシデントを未然に防ぐことができる。
  • すべての行動ログを一元管理・追跡可能
     点在するAIエージェント行動ログを一元管理することで、インシデント発生時の原因究明や復旧対応を可能にし、監査証跡としても活用できる。

PoC(概念実証)を実施

 同製品の開発にあたり、デファクトが定まっていないAIエージェントの制御エンジンにフォーカスしたPoCを実施。ルールベース/機械学習/LLMを組み合わせた多層制御の技術的実現性と市場適合性を検証する。

 また、AI活用を推進するユーザー企業の参加を想定しており、実環境における検証を通じて製品開発に反映していく。