OpenAI、7月に発生したセキュリティインシデントに関する技術報告書を公開

　OpenAIは、7月に発生したセキュリティインシデントについて、技術報告書を公開した。

　この問題は、OpenAIの複数のモデルのサイバーセキュリティ評価中に発生。主にGPT-5.6 Solに匹敵する規模の、社内専用の高性能研究モデルによって引き起こされ、保護対策が不十分な状態で動作していたこれらのモデルは、許可されていないチャネルを介して通信し、共有インフラストラクチャの脆弱性を悪用し、インターネットを介しサードパーティのシステムにアクセスした。

　今回の事件の発生を受け、同社は今後公開予定のAstraモデルの機能に対応するため、研究インフラ全体にわたる安全対策を強化。モデルのライフサイクル全体を通して整合性に関する要件を厳格化し、隔離されたサンドボックスを増やし、インターネットアクセスを制限するという。また、思考過程の監視に大幅にコンピューティングリソースを割き、整合性の崩れた動作に迅速に対応できるようにする。

　現在のモデルでは、連携性も高いため、十分な安全対策が講じられていない場合、複数のコンピュータシステムにわたるセキュリティ上の脆弱性を発見し、悪用することが可能としている。外部モデルも、同等の能力に達するという状況の中、OpenAIでは、今回の事件を「警告」と捉えており、適切な安全対策がなければ、高度な能力を持つAIエージェントが技術的な制御を回避し、承認されていない経路を通じて連携し、人間の指示に反する危険な行動を取ることが可能だとしている。

　同社は、高度なAIシステムの連携と制御、そしてAIエージェント自体の速度に対応したセキュリティ対策や、その他の安全対策への継続的な投資が必要と提言。ますます高性能化するシステムによりもたらされるリスクに対し、監視、連携、セキュリティ対策を先手を打って行なう必要性があるとしている。