ニュース

OpenAI、脆弱性の発見および修復機能を強化したAI「GPT-6 Cyber」

サイバーセキュリティ研究向けAIモデル「GPT-6 Cyber」

 OpenAIは、脆弱性の発見および修復機能を強化したサイバーセキュリティ研究向けAIモデル「GPT-6 Cyber」を発表した。同モデルは現在、承認されたDaybreak Redのユーザーの一部にAPIとCodexを通じて提供されており、段階的にアクセス範囲を拡大していく予定としている。

 GPT-6 Cyberは、同社の準備フレームワークにおいて重要度「Critical」に分類されており、従来の「GPT-5.6 Cyber」と比較して各ベンチマークの性能が向上している。特定脆弱性の悪用テスト「ExploitGym」でのスコアは48.5%に達し、ソースコードを参照しないWebアプリケーションテストでは、40.3%の脆弱性再現率を記録した。

「ExploitGym」での評価
「Web Pentesting」での評価

 同モデルの高度な能力を示す指標として、GitLabやPostgreSQL、Jenkinsなどの既知の脆弱性を制御環境下で利用・検証する新ベンチマーク「RemoteExploitBench」が導入された。従来モデルの「GPT-6 Astra」がタスクを100%拒否したのに対し、GPT-6 Cyberは94.7%のタスクを完了させ、リモート攻撃やエクスプロイト開発における高い実績を示した。

「RemoteExploitBench」での評価

 また、指定された調査範囲内に留まるアライメントも強化されている。範囲外サービスの悪用を回避する評価テスト「ExploitGym Honeypot」では、展開プロンプトなしの状態で99.93%、プロンプトありの状態で100%の確率で範囲内の動作を維持した。

「ExploitGym Honeypot」での評価

 実際のソフトウェア検証においては、Firefoxで81件の深刻な脆弱性を特定したほか、Linuxカーネルで1,724件の脆弱性のうち948件で動作するエクスプロイトを開発した。さらに、圧縮ライブラリ「Brotli」の脆弱性について、リモートコード実行が可能であることを実証した。

 不正使用対策としては、ユーザーの権限と行動の一致を調べる監視機能や、Daybreak Red APIアクセスにおけるIPホワイトリストの必須化などを導入した。ゼロデータ保持を利用するAPIユーザーに対しては、顧客のストレージに30日間保存された暗号化記録を自動検証する「Private Safety Processing(PSP)」を適用し、プロンプトや応答を同社担当者に開示することなく不正利用の確認を行なう仕組みを整えた。

 重要インフラ分野では、発電所や浄水施設などの制御システム(OT/ICS)の保護を目的とした新たなグループ「Daybreak Red for Critical Infrastructure」をDaybreak Red内に導入し、サイバーセキュリティ企業のDragosとの実証実験などを通じて検証を進めている。

GPT-6 Cyberと同時に展開している最新アップデートの前後における、4つのアクセス構成での安全対策ラベルの適用率を比較した図