AIセキュリティ強化のためのシステム「NVIDIA Open Agent Safety Platform」を発表

　NVIDIAは、AIセキュリティ強化のためのシステム「NVIDIA Open Agent Safety Platform」を発表した。

　現在、AIはあらゆる作業に24時間対応しているが、長期間稼働する最新のAIエージェントには安全制御が必要となっている。しかし、長時間稼働するAIエージェントは、既存の制御では想定されていない方法でツールや認証情報、ネットワークアクセスを組み合わせることができ、逆に従来の環境は長時間稼働エージェント向けに設計されていないため、危険にさらされている現状がある。

　プロンプトから出される曖昧な指示により、エージェントが承認範囲外の行動を取り、データが承認範囲外に送信される可能性が発生。標準OSのランタイムではエージェント固有の制御がなく、行動記録が不完全となっており、機密データや認証情報が未承認の宛先に到達するリスクが高い。これらは、エージェント間の境界が不明確であることも要因の一つとなっている。

　このため、データは安全な境界内に保持し、シリコンレベルで厳格な境界を実現する。エージェントは制御にアクセス・変更不可とし、ファイルシステム・ネットワークアクセスも制御。常にエージェントの行動を追跡していく。各エージェントは明示的なポリシー下で稼働すると同時に、シリコンによる強制境界を敷く。

　今回発表されたNVIDIA Open Agent Safety Platformは、ソフトウェアからハードウェア、コンピュート、ロボティクスシステムまで、エージェントを実行する全スタックのガバナンスと制御を実現。エージェントの全行動を追跡し、実行時にポリシーを強制する安全なランタイム境界を提供する。シリコンレベルでエージェント活動を監視し、ミリ秒単位で隔離可能となっている。

　NVIDIA OpenShellはオープンソースソフトウェアで、NVIDIA Vera CPU、x86およびArm上で安全に動作し、NVIDIA SentryはNVIDIA Bluefield-4 DPU上でエージェント環境外から追加のセキュリティ層を提供する。サードパーティのソフトウェアやハードウェアにも拡張可能で、開発者がエージェントの行動範囲を制限できる。

　NVIDIA OpenShellによるより安全なAIのための幅広いエコシステムの形成は、各業界のパートナーと共に、NVIDIA Open Agent Safety Platformを活用し、AIエージェントの安全な運用境界を設定する。この中にはAnthropicも含まれており、NVIDIAによるClaude Managed Agentsのセキュリティを強化していく。