東芝、説明可能AIの反事実説明を時系列波形データの異常の可視化に応用

反事実波形生成技術の概要

　東芝は5月11日、AIがなぜ異常と判定したかをセンサー波形の違いで可視化する反事実波形生成技術を開発したと発表した。

　インフラ設備や製造現場では、さまざまなセンサーを設置し、AIによって異常を検知する仕組みの導入が進められようとしているが、なぜAIが異常と判定したのかがブラックボックスのように見え、保守点検の担当者が納得感が得られず、導入を躊躇するような傾向もあるという。

　今回、東芝が開発したのは、センサーが出力する時系列の波形データについて、AIが異常と判定した波形に対して正常と判定されるためにはどの部分がどのように変わればよいかを生成し、可視化する技術となる。

　学習段階においては、正常な事例のみで特徴量を学習させるが、特徴空間上で特徴量がクラスターを形成するように時間順序構造を維持したまま学習させる。運用段階では、異常な波形の特徴量を正常時のクラスターの重心に近づけることで反事実波形を生成し、可視化することで、AIによる異常判定に納得感を与えつつ、スピーディーな対応を可能にする。

説明可能AIモデル作成方法（A）と反事実波形生成方法（B）

　同社では、AIを活用した異常検知システムの市場規模はインフラ設備向けで年間300～450億円規模になると見込んでおり、まずはグループ内で来年度以降の導入を目指して開発を進めていくとしている。