ニュース

Google、人間が手を加えないLLMによる脆弱性悪用の事例を初めて確認

マルチエージェントLLM攻撃フレームワーク

 Google CloudのGoogle Threat Intelligenceグループ(GTIG)は、最新のAI脅威トラッカー(第4四半期版)レポートを公開した。

 同レポートでは、大規模言語モデル(LLM)フレームワーク「exploit_agent」とロシア語のツールとを組み合わせ、パッチ適用前と適用後のコードを継続的に比較し脆弱性を特定し、人間の介入なしにセキュリティ上の脆弱性を悪用した不正なプログラムを開発していた。

 また、金銭目的の脅威アクターと、サイバースパイ活動に関与しているとみられる脅威アクターの双方が、CAIRN、PentAGI、CyberStrikeAIなどのオープンソースのエージェント型侵入テスト用ツールを使用し、攻撃全体の手順を自動化していることが明らかになっている。さらに、米国の航空宇宙セクターを標的とした侵入活動において、脅威アクターがCAIRNを展開している事例も確認されている。

 このほかにも、国家の支援を受けた脅威アクターがスパイ活動や標的選定にAIを活用している事実があるという。GTIGは、中華人民共和国に関連する脅威アクターがLLMを使用し、取得したデータの加工処理を行なっていることを観測したという。また、朝鮮民主主義人民共和国に関連する活動として、SynthIDの電子透かし付きのものを含むAI生成ペルソナを用い暗号資産関連企業を標的にする動きや、自律型コーディングアシスタントを操作しようとする試みも掴んでいるという。