Google、攻撃者によるエージェンティックAIの悪用実態を公開

　GoogleのGoogle Threat Intelligence group（GTIG）は、最新の「GTIG AI脅威トラッカー（第3四半期版）レポート」を公開した。同レポートは、Mandiantのインシデント調査から得た、脅威アクターによるGeminiの悪用事例、サイバー犯罪のアンダーグラウンド市場などに基づいており、これまで以上にAIの脅威が感じられる内容となっている。

　レポートでは、中国に関連するサイバースパイ組織「BASIN CASTLE」が、標的の調査から侵入中のエラーのトラブルシューティングに至るまで、さまざまなタスクで大規模言語モデル（LLM）を使用している現状が明かされている。自律型AIエージェントを活用して脆弱性を調査し、サーバー側のインフラストラクチャをスキャンし、標的型エクスプロイトを実行することで、人間の介入を最小限に抑えつつ、エンドツーエンドのポストエクスプロイトパイプラインを自動化している。

偵察ダッシュボード

　また、UNC6780が複数の戦術を用い、AIコーディングアシスタントやLLMのセキュリティスキャナーを欺き、オープンソースソフトウェアサプライチェーンの侵害を行なった経緯も追跡されたという。

　このほかにも、攻撃者が忍び込んだインフラ上にマルチエージェントフレームワークを展開し、大規模な認証情報の収集が行なわれた事例も観測されている。侵入者はこの攻撃の規模を拡大し、6時間以内に数千件の認証情報を侵害したという。

特注の脆弱性スキャンおよび認証情報収集

　GTIG AI脅威トラッカーは、脅威アクターが攻撃の全体にわたりAIを活用し、多様な方法で攻撃の手法を改善、より巧妙に攻撃を繰り広げている。強力なエージェンティックAIはすでに実運用で活用されており、脆弱性の発見といった限定的な問題だけに留まらない広がりが確認されているとレポートしている。