ニュース

Google、システムに意図的に損害を与える攻撃者がAIを利用していることをレポート

サイバー犯罪の脅威アクター(システムに意図的に損害を与える個人またはグループ)は、AIを悪用して脆弱性を特定している

 Googleは、システムに意図的に損害を与えサイバー犯罪を行なう個人またはグループ(脅威アクター)が、AIを活用して脆弱性を特定し悪用していることを突き止め、レポートしたさまざまな事例を公開した。

 レポートによれば、AIによる脆弱性をついた攻撃は「これから起こるもの」と考える人も多いが、すでに始まっているという。AIに起因すると特定できる“未対応の脆弱性”への攻撃がすでに発見されており、まだ表面化していない多くの事例が存在しているとしている。

LLMの脆弱性発見能力とその他の発見メカニズムとの比較

 脅威アクターはAIを駆使しており、攻撃の速度、規模、精緻さを高めていっている。AIにより、攻撃オペレーションのテストや標的への執拗な攻撃の継続、そして巧妙なマルウェアの構築などが行なわれている。攻撃する目的もまちまちで、金銭を目的とするサイバー犯罪の脅威はもちろん、国家支援を受けた脅威アクターがAIを悪用している場合もある。

 調査結果として、脅威アクターがAIを用い、未対応の脆弱性を利用し不正なスクリプトやプログラムを実行させるような攻撃を行なったことが観測された。これらの攻撃は複数観測されており、多数存在するものと思われる。

 この観測された脅威アクターは、今回はミスが発覚し結果的に攻撃が失敗に終わったという。攻撃で使用されたスクリプトにはAIによって生成されたことを示す多くの兆候が含まれていたが、Claude Mythosで開発されたものではないと分析されている。この脆弱性についてはすでに対応が完了しており、パッチが発行されている。

 一般的なOpenClawフレームワークが利用されているケースもあるという。脅威アクターが自らの攻撃能力を磨く取り組みの一環として利用されており、テスト環境で攻撃のオーケストレーションを行なっていたことが確認されたという。

 このほかにも、北朝鮮の攻撃グループである「APT45」が、AIを駆使し数千件もの攻撃ツールを検証し、大規模な攻撃用ツール群を構築しているという。

Android向けのマルウェア「PROMPTSPY」により、アプリケーションのソースコード内に直接記述されたAIへの指示文が悪用された
報道機関の信頼性を悪用し、本物のジャーナリストが登場する正規のニュース報道の動画の一部に、AIが生成した疑いのあるナレーションでそのジャーナリストになりすまし、偽の動画を追加していた
脅威アクターは、拡張できる可能性かつ難読化されたLLMへのアクセスを常に追求している