JP7019364B2 - 監視装置、監視方法、監視プログラム、表示装置、表示方法および表示プログラム - Google Patents

Description

本発明は、監視装置、監視方法、監視プログラム、表示装置、表示方法および表示プログラムに関する。

従来、工場、プラント等のセンサ等のプロセスデータを用いた異常の予測に関連する技術として、過去に収集したプロセスデータに基づいて異常を予測、または検知する方法が提案されている。

一般的に、多変量時系列データとして表現されるプロセスデータを一定時間の窓で切り取り、演算を行うことで異常予測や異常検知に関連する値を算出する。例えば、異常検知であれば、算出された値に基づきアラームを発したりすることで、異常の発生または異常の予報を通知する。

特開２０１７－１４２６５４号公報

上記したような従来の手法では、複数の入力値のうち、どの入力値が重要であるかを動的かつ容易に確認することができないという課題があった。例えば、特定のセンサを予測、監視するために、モデルの出力を用いる場合、従来の多変量解析では、作成したモデルに対してどの入力が重要視されるかを平均的かつ静的に抽出することはできるが、特定の時点の入力に対してどの入力が重要視されているかという動的な重要度の抽出をすることができなかった。このため、刻一刻と状態が変わるような系に対して、状態に基づく重要センサを取り出すことが困難であった。

例えば、異常検知を行うシステムであれば、異常の通知のあとに原因を特定し、回復を行うための処理は、従来の多変量解析では静的な重要度の抽出しかできず、異常発生時点の入力による影響が提示できないため、その系の状態を熟知した専門家が人手でその時点での入力データを見て判断することしかできず、異常を回避するためにどのように操作を行うかまでは分からなかった。

さらに、例えば、機械学習手法としてニューラルネットワークを用いた場合に、重要となる入力を抽出する手法がいくつか提案されているが、入力のすべての組み合わせに対して計算を行うために、計算量が莫大になるため、実用化することが難しかった。よって、ニューラルネットワークを利用した系では重要センサを取り出すことが困難であった。

上述した課題を解決し、目的を達成するために、本発明の監視装置は、監視対象設備で取得された複数のデータを収集する収集手段と、前記収集手段によって収集された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する予測手段と、前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度を算出する算出手段とを有することを特徴とする。

また、本発明の監視方法は、監視装置によって実行される監視方法であって、監視対象設備で取得された複数のデータを収集する収集工程と、前記収集工程によって収集された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する予測工程と、前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度を算出する算出工程とを含んだことを特徴とする。

また、本発明の監視プログラムは、監視対象設備で取得された複数のデータを収集する収集ステップと、前記収集ステップによって収集された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する予測ステップと、前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度を算出する算出ステップとをコンピュータに実行させることを特徴とする。

また、本発明の表示装置は、監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目ごとの前記所定の出力値に対する重要度を取得する取得手段と、前記取得手段によって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成手段と、前記作成手段によって作成されたグラフを表示する表示手段とを有することを特徴とする。

また、本発明の表示方法は、表示装置によって実行される表示方法であって、監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目ごとの前記所定の出力値に対する重要度を取得する取得工程と、前記取得工程によって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成工程と、前記作成工程によって作成されたグラフを表示する表示工程とを含んだことを特徴とする。

また、本発明の表示プログラムは、監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目ごとの前記所定の出力値に対する重要度を取得する取得ステップと、前記取得ステップによって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成ステップと、前記作成ステップによって作成されたグラフを表示する表示ステップとをコンピュータに実行させることを特徴とする。

本発明によれば、複数の入力値のうち、どの入力値が重要であるかを動的かつ容易に確認することができるという効果を奏する。

図１は、第１の実施形態に係る監視装置の構成例を示すブロック図である。 図２は、異常予測部によって実行される異常予測評価値算出処理を説明する図である。 図３は、算出部によって算出される各センサの重要度の例を示す図である。 図４は、算出部によって実行されるＳａｌｉｅｎｃｙ Ｍａｐを用いた重要度算出処理を説明する図である。 図５は、算出部によって実行されるノイズ除去処理を説明する図である。 図６は、監視装置によって実行される異常予測処理の概要を説明する図である。 図７は、第１の実施形態に係る監視装置における異常予測処理の流れの一例を示すフローチャートである。 図８は、第１の実施形態に係る監視装置における重要度算出処理の流れの一例を示すフローチャートである。 図９は、第１の実施形態に係る監視装置におけるグラフ表示処理の流れの一例を示すフローチャートである。 図１０は、センサ値予測処理の概要を説明する図である。 図１１は、第２の実施形態に係る監視システムの構成例を示すブロック図である。 図１２は、監視プログラムまたは表示プログラムを実行するコンピュータを示す図である。

以下に、本願に係る監視装置、監視方法、監視プログラム、表示装置、表示方法および表示プログラムの実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態により本願に係る監視装置、監視方法、監視プログラム、表示装置、表示方法および表示プログラムが限定されるものではない。

［第１の実施形態］
以下の実施の形態では、第１の実施形態に係る監視装置１０の構成、監視装置１０の処理の流れを順に説明し、最後に第１の実施形態による効果を説明する。

［監視装置の構成］
まず、図１を用いて、監視装置１０の構成を説明する。図１は、第１の実施形態に係る監視装置の構成例を示すブロック図である。監視装置１０は、例えば、工場やプラントなどの監視対象設備に設置されるセンサによって取得された複数のデータを収集し、収集された複数のデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、監視対象設備の異常度であるフレーム異常評価値を出力値として出力する。また、監視装置１０は、学習済モデルに入力された各時刻における各データと、学習済モデルから出力された異常度とを用いて、各時刻における入力項目ごとの出力値に対する重要度を算出する。ここで重要度とは、各入力が出力に対してどれだけ寄与したかを示すものであり、重要度の絶対値が大きいほど、その入力は出力に対する影響度が高かったことを意味する。

図１に示すように、この監視装置１０は、収集部１１、異常予測部１２、出力可視化部１３、算出部１４、重要度可視化部１５、プロセスデータバッファ１６、分析フレームバッファ１７およびフレーム異常評価値バッファ１８を有する。以下に監視装置１０が有する各部の処理を説明する。

収集部１１、異常予測部１２、出力可視化部１３、算出部１４および重要度可視化部１５は、例えば、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）、ＧＰＵ（Graphical Processing Unit）などの電子回路やＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）などの集積回路である。また、プロセスデータバッファ１６、分析フレームバッファ１７、フレーム異常評価値バッファ１８およびモデルバッファ１９は、例えば、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子等の記憶装置である。

収集部１１は、監視対象設備で取得された複数のデータを収集する。例えば、収集部１１は、工場やプラントなどの監視対象設備に設置されるセンサからデータを定期的（例えば、１分ごと）に受信し、プロセスデータバッファ１６に格納する。ここでセンサが取得するデータとは、例えば、監視対象設備である工場、プラント内の装置や反応炉についての温度や圧力、音、振動等の各種データである。なお、センサによって取得された時系列のデータを、以下では適宜プロセスデータと記載する。また、収集部１１が収集するデータはセンサが取得したデータに限定されるものではなく、例えば、人的に入力された数値データや、材料の種類や銘柄などのラベルデータ等でもよい。

異常予測部１２は、収集部１１によって収集された複数のデータを入力として、監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する。例えば、異常予測部１２は、プロセスデータおよび学習済モデル（識別関数）を用いて、予め設定された一定時間後に異常が発生するか否かを予測する。異常予測部１２は、分析フレーム抽出部１２ａおよびフレーム異常評価値算出部１２ｂを有する。なお、以下で説明する異常予測処理は、一例であり、これに限定されるものではない。

分析フレーム抽出部１２ａは、収集部１１によって収集されたプロセスデータから、所定の時間幅Ｗａである分析フレームに含まれるプロセスデータを抽出する。具体的には、分析フレーム抽出部１２ａは、所定の時点のプロセスデータを含む時間幅Ｗａのフレーム分のプロセスデータをプロセスデータバッファ１６から抽出して読み出し、読み出したプロセスデータを分析フレームバッファ１７に格納する。

例えば、分析フレーム抽出部１２ａは、収集部１１が１分毎にプロセスデータを収集し、時間幅Ｗａが「５」である場合には、現時刻ｔに取得されたプロセスデータ、現時刻の１分前に取得されたプロセスデータ、現時刻の２分前に取得されたプロセスデータ、現時刻の３分前に取得されたプロセスデータ、現時刻の４分前に取得されたプロセスデータをプロセスデータバッファ１６から抽出して読み出す。

プロセスデータバッファ１６は、収集部１１によって収集されたプロセスデータを記憶する。プロセスデータバッファ１６には、プロセスデータとして、少なくとも、時間幅Ｗａのフレーム分の最新のプロセスデータが格納されている。分析フレームバッファ１７は、分析フレーム抽出部１２ａによって抽出されたプロセスデータを記憶する。

フレーム異常評価値算出部１２ｂは、分析フレーム抽出部１２ａによって抽出されたプロセスデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、所定の時点から所定時間後の時点について、異常が発生する確からしさを表す評価値であるフレーム異常評価値を算出する。なお、所定の時点とは、現時点であってもよいし、現時点から１０秒前等の予め設定された時点であってもよい。また、フレーム異常評価値算出部１２ｂは、学習済モデルとして、ニューラルネットワークを用いて、フレーム異常評価値を算出する。なお、学習済モデルは、ニューラルネットワークに限定されるものではなく、ロジスティック回帰、サポートベクトルマシン、判別分析などの機械学習アルゴリズムを適用したものでもよい。

具体的には、フレーム異常評価値算出部１２ｂは、分析フレーム抽出部１２ａから抽出されたプロセスデータを受信する。そして、フレーム異常評価値算出部１２ｂは、受信したプロセスデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、現時刻ｔから所定時間後の時点について、フレーム異常評価値を算出し、フレーム異常評価値バッファ１８に格納する。なお、所定時間後ではなく、時刻ｔにおけるフレーム異常評価値を算出してもよい。また、フレーム異常評価値とは、例えば、監視対象設備の異常が発生する確率値であって、「０」～「１」で表現される数値であってもよい。この場合には、例えば、ある時点において監視対象設備の異常が発生する確率が「４０％」と予測された場合には、フレーム異常評価値が「０．４」となる。また、フレーム異常評価値はこれに限定されるものではなく、例えば、監視対象設備の異常が発生する可能性が一定以上存在するか否かを示す値として、「０」または「１」のいずれかで表現される数値であってもよい。また、異常の指標となる特定のセンサ値などの時系列データがある場合は、この特定の時系列データ自体をフレーム異常評価値とみなすことも可能である。

フレーム異常評価値バッファ１８は、フレーム異常評価値算出部１２ｂによって算出されたフレーム異常評価値を記憶する。なお、フレーム異常評価値バッファ１８には、フレーム異常評価値として、少なくとも、時間幅Ｗｂのフレーム分の最新のフレーム異常評価値が格納されている。モデルバッファ１９は、前述のフレーム異常評価値算出部１２ｂによって利用された学習済モデルであって、監視対象設備の異常を予測するための学習済モデルを記憶している。

ここで、図２を用いて、異常予測部１２によって実行される一連の異常予測評価値算出処理を説明する。図２は、異常予測部によって実行される異常予測評価値算出処理を説明する図である。図２における（Ａ）は、センサから取得されたプロセスデータを項目ｘ_１ｔ～ｘ_ｎｔごとにプロットを示したものであり、異常予測評価値が算出されるたびに時間幅Ｗａをもつ分析フレームが移動幅Ｌ分だけ移動する。

図２の（Ａ）、（Ｂ）に例示するように、例えば、収集部１１が１分毎にプロセスデータを収集し、時間幅Ｗａが「５」であるものとする。この場合には、フレーム異常評価値算出部１２ｂは、時間幅Ｗａ「５」分のプロセスデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、現時刻ｔから所定時間後の時点について、フレーム異常評価値を算出する。

図１の説明に戻って、出力可視化部１３は、異常予測評価値に基づき警告サインを出力したり、異常予測評価値の時系列データをチャート画面として出力したりする。出力可視化部１３は、異常判定部１３ａおよびチャート表示部１３ｂを有する。

異常判定部１３ａは、フレーム異常評価値算出部１２ｂによって算出されたフレーム異常評価値が所定の閾値以上であるか否かを判定し、異常予測評価値が所定の閾値以上である場合には、異常発生に関する警告を出力する。例えば、異常判定部１３ａは、異常予測評価値が所定の閾値以上である場合には、警告サインとして、一定時間後に監視対象設備に異常が発生する可能性がある旨の警告メッセージを出力してもよいし、警告を報知する音を出力するようにしてもよい。

チャート表示部１３ｂは、フレーム異常評価値算出部１２ｂによって算出されたフレーム異常評価値の時系列データをチャート画面として表示する。例えば、チャート表示部１３ｂは、ユーザからの表示要求を受け付けると、異常予測評価値の時系列データをチャート画面として表示する。

算出部１４は、学習済モデルに入力された各時刻における各データと、学習済モデルから出力された所定の出力値とを用いて、各時刻における入力項目ごとの所定の出力値に対する重要度を算出する。算出部１４は、重要度計算部１４ａおよび重要度ノイズ除去部１４ｂを有する。

重要度計算部１４ａは、前述のフレーム異常評価値算出部１２ｂによって利用された学習済モデルをモデルバッファ１９から読み出す。そして、重要度計算部１４ａは、学習済モデルに入力されたプロセスデータを分析フレームバッファ１７から読み出すとともに、学習済モデルから出力されたフレーム異常評価値をフレーム異常評価値バッファ１８から読み出し、プロセスデータとフレーム異常評価値と学習済モデルとを用いて、各時刻における入力項目ごとの所定の出力値に対する重要度を算出する。例えば、重要度計算部１４ａは、図３に例示するように、１分毎に、プロセスデータおよびフレーム異常評価値を読み出し、各時刻におけるセンサごとの所定の出力値に対する重要度を算出する。図３は、算出部によって算出される各センサの重要度の例を示す図である。

図３の例では、重要度計算部１４ａは、「時刻１２：００」において、センサＡの重要度として「２０」、センサＢの重要度として「３１」、センサＣの重要度として「１７」、センサＤの重要度として「１５」、センサＥの重要度として「２４」を算出する。また、重要度計算部１４ａは、「時刻１２：０１」において、センサＡの重要度として「２１」、センサＢの重要度として「３２」、センサＣの重要度として「１６」、センサＤの重要度として「１３」、センサＥの重要度として「２６」を算出する。つまり、図３の例では、「時刻１２：００」および「時刻１２：０１」においては、センサＢの重要度が最も高く、学習済モデルから出力されたフレーム異常評価値に対して、センサＢのプロセスデータが入力値として最も寄与したことを意味する。

ここで、重要度を計算する具体例について説明する。例えば、重要度計算部１４ａは、入力値から出力値を算出する学習済モデルにおいて、出力値の各入力値に関する偏微分値またはその概算値を用いて、各時刻におけるセンサごとに、重要度を算出する。一例としては、重要度計算部１４ａは、Ｓａｌｉｅｎｃｙ Ｍａｐを用いて、各時刻におけるセンサごとに、重要度を算出する。Ｓａｌｉｅｎｃｙ Ｍａｐは、ニューラルネットの画像分類において利用される技術であり、ニューラルネットの出力の各入力に関する偏微分値を出力に寄与する重要度として抽出する技術である。

ここで、図４の例を用いて、算出部１４によって実行されるＳａｌｉｅｎｃｙ Ｍａｐを用いた重要度算出処理を説明する。図４は、算出部によって実行されるＳａｌｉｅｎｃｙ Ｍａｐを用いた重要度算出処理を説明する図である。図４に例示するように、算出部１４は、Ｍ個のセンサから収集された時間幅（図４の例では、ｔからｔ＋Ｎまでの時間幅）のフレーム分のプロセスデータを入力Ｉとして学習済モデルに入力し、学習済モデルから出力Ｓ（Ｉ）を出力値として得た場合に、重要度の値として、∂Ｓ（Ｉ）／∂Ｉを算出する。これにより、算出部１４は、Ｍ個のセンサそれぞれの各時刻における重要度を算出することができる。

なお、Ｓａｌｉｅｎｃｙ Ｍａｐ以外の手法で重要度を算出してもよく、例えば、出力値をニューラルネットの各層に伝播させることで入力の重要度を求める手法（参考文献１参照）や、上記の改良版で、非線形性や重要度の符号を考慮した手法（参考文献２参照）、ニューラルネットを単純なモデル（決定木等）に近似してデータに対する入力の重要度を求める手法であってもよい（参考文献３参照）。
参考文献１：Bach Sebastian, et al. "On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation." PloS one 10.7 (2015): e0130140.
参考文献２：Shrikumar Avanti, Peyton Greenside, and Anshul Kundaje. "Learning important features through propagating activation differences." arXiv preprint arXiv:1704.02685 (2017).
参考文献３：Ribeiro Marco Tulio, Sameer Singh, and Carlos Guestrin. "Why should i trust you?: Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM, 2016.

重要度ノイズ除去部１４ｂは、重要度計算部１４ａによって計算された重要度を所定の時間幅でスムージングしてノイズを除去する。例えば、重要度ノイズ除去部１４ｂは、ノイズを除去する技術としてＳｍｏｏｔｈ Ｇｒａｄの手法を用いて、重要度をスムージングしてもよい。Ｓｍｏｏｔｈ Ｇｒａｄは、入力画像にランダムなガウシアンノイズをかけた複製を数十枚作成し、それぞれから抽出された重要度を平均することでノイズを取り除く手法である。なお、上述のノイズを除去する処理については、省略してもよく、その場合には、監視装置１０は重要度ノイズ除去部１４ｂの機能部を有していなくてもよい。

ここで、図５の例を用いて、算出部１４によって実行されるノイズ除去処理を説明する。図５は、算出部によって実行されるノイズ除去処理を説明する図である。図５に例示するように、算出部１４は、Ｍ個のセンサから収集された所定の時間幅のフレーム分のプロセスデータの入力値とその出力値とから重要度を算出し、各センサの重要度を時間方向に平均化してスムージングを行い、ノイズを除去する。

このように、算出部１４では、上記のＳａｌｉｅｎｃｙ ＭａｐとＳｍｏｏｔｈ Ｇｒａｄとを時系列データに応用している。時系列データでは各時刻にガウシアンノイズが含まれていることが知られているため、各時刻において平均化するスムージングを行うだけでＳｍｏｏｔｈ Ｇｒａｄと同じ原理を得る。

重要度可視化部１５は、各センサデータの重要度の推移を示すグラフを表示したり、異常判定部１３ａの判定結果と同期して重要なセンサを報知したりする。重要度可視化部１５は、取得部１５ａ、作成部１５ｂ、重要度表示部１５ｃおよび報知部１５ｄを有する。

取得部１５ａは、学習済モデルに入力された各時刻における入力項目ごとの所定の出力値に対する重要度を取得する。例えば、取得部１５ａは、重要度ノイズ除去部１４ｂによってノイズが除去された各センサの重要度を取得する。

作成部１５ｂは、取得部１５ａによって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する。重要度表示部１５ｃは、作成部１５ｂによって作成されたグラフを表示する。

報知部１５ｄは、監視対象設備の異常が検知された場合に、取得部１５ａによって取得された各入力項目の重要度のうち、重要度が所定の閾値以上である入力項目を報知する。例えば、報知部１５ｄは、異常判定部１３ａによる判定結果を取得し、監視対象設備の異常が検知された場合、すなわち、異常予測評価値が所定の閾値以上であった場合には、異常が検知された時刻に対応する各センサの重要度のうち、重要度が所定の閾値以上であるセンサを報知する。これにより、異常が発生した際に、どのセンサが重要であったかを報知することが可能である。

ここで、図６を用いて、監視装置１０によって実行される異常予測処理の概要を説明する図である。図６は、監視装置によって実行される異常予測処理の概要を説明する図である。

図６では、プラント内の反応炉や装置などにセンサや運転用の信号などを収集するデバイスが取り付けられ、一定時間毎にデータを収集していることを図示している。そして、図６では、収集部１１が各センサＡ～センサＥから収集したプロセスデータの推移を示したものを図示しており（図６の（Ａ）参照）、枠で囲われた部分のデータを切り出し、異常予測部１２が、プロセスデータに基づき異常予測評価値を算出し、一定時間後の異常を推定する（図６の（Ｂ）参照）。そして、出力可視化部１３は、算出された異常予測評価値の時系列データをチャート画面として出力する（図６の（Ｃ）参照）。

また、算出部１４は、学習済モデルに入力されたプロセスデータと、学習済モデルから出力されたフレーム異常評価値とを用いて、各時刻におけるセンサごとの所定の出力値に対する重要度を算出する（図６の（Ｄ）参照）。そして、重要度可視化部１５は、各センサデータの重要度の推移を示すグラフを表示する（図６の（Ｅ）参照）。

［監視装置の処理手順］
次に、図７～図９を用いて、第１の実施形態に係る監視装置１０による処理手順の例を説明する。図７は、第１の実施形態に係る監視装置における異常予測処理の流れの一例を示すフローチャートである。図８は、第１の実施形態に係る監視装置における重要度算出処理の流れの一例を示すフローチャートである。図９は、第１の実施形態に係る監視装置におけるグラフ表示処理の流れの一例を示すフローチャートである。

まず、図７を用いて、監視装置１０による異常予測処理の流れを説明する。図７に例示するように、収集部１１が、プロセスデータを取得すると（ステップＳ１０１肯定）、収集部１１によって収集されたプロセスデータから、所定の時間幅Ｗａである分析フレームにおけるプロセスデータを抽出する（ステップＳ１０２）。

そして、フレーム異常評価値算出部１２ｂは、分析フレーム抽出部１２ａによって抽出されたプロセスデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、所定の時点から所定時間後の時点について、フレーム異常評価値を算出する（ステップＳ１０３）。

その後、出力可視化部１３の異常判定部１３ａは、フレーム異常評価値算出部１２ｂによって算出されたフレーム異常評価値が所定の閾値以上であるか否かを判定する（ステップＳ１０４）。この結果、異常判定部１３ａは、フレーム異常評価値が所定の閾値未満である場合には（ステップＳ１０４否定）、そのまま処理を終了する。また、異常判定部１３ａは、フレーム異常評価値が所定の閾値以上である場合には（ステップＳ１０４肯定）、警告サインを出力する（ステップＳ１０５）。

次に、図８を用いて、監視装置１０による重要度算出処理の流れを説明する。図８に例示するように、重要度計算部１４ａは、学習済モデルに入力されたプロセスデータを分析フレームバッファ１７から取得するとともに、学習済モデルから出力されたフレーム異常評価値をフレーム異常評価値バッファ１８から取得すると（ステップＳ２０１肯定）、プロセスデータとフレーム異常評価値とを用いて、各時刻におけるセンサごとの所定の出力値に対する重要度を算出する（ステップＳ２０２）。例えば、重要度計算部１４ａは、１分毎に、プロセスデータおよびフレーム異常評価値を読み出し、各時刻におけるセンサごとの所定の出力値に対する重要度を算出する。

そして、重要度ノイズ除去部１４ｂは、重要度計算部１４ａによって計算された重要度を所定の時間幅でスムージングしてノイズを除去する（ステップＳ２０３）。例えば、重要度ノイズ除去部１４ｂは、ノイズを除去する技術としてＳｍｏｏｔｈ Ｇｒａｄの手法を用いて、重要度をスムージングする。

次に、図９を用いて、監視装置１０による重要度算出処理の流れを説明する。図９に例示するように、取得部１５ａが、学習済モデルに入力された各時刻におけるセンサごとの所定の出力値に対する重要度を取得すると（ステップＳ３０１肯定）、作成部１５ｂは、取得部１５ａによって取得された重要度を用いて、各センサの重要度の推移を示すグラフを作成する（ステップＳ３０２）。そして、重要度表示部１５ｃは、作成部１５ｂによって作成されたグラフを表示する（ステップＳ３０３）。

［第１の実施形態の効果］
第１の実施形態に係る監視装置１０は、監視対象設備で取得された複数のセンサデータを収集し、収集された複数のセンサデータを入力として、監視対象設備の異常を予測するための学習済モデルを用いて、監視対象設備の異常度であるフレーム異常評価値を出力値として出力する。また、監視装置１０は、学習済モデルに入力された各時刻における各センサデータと、学習済モデルから出力された異常度とを用いて、各時刻における入力項目ごとの出力値に対する重要度を算出する。このため、監視装置１０では、複数の入力値のうち、どの入力値が重要であるかを動的かつ容易に確認することが可能となる。

また、監視装置１０は、Ｓａｌｉｅｎｃｙ Ｍａｐを用いて、各時刻における入力項目ごとに、重要度を算出する。このため、監視装置１０では、Ｓａｌｉｅｎｃｙ Ｍａｐを利用して、どの入力値が重要であるかを容易に算出することが可能である。

つまり、第１の実施形態に係る監視装置１０では、各時刻、各データの入力に対して、出力に重要な入力をその重要度とともに逐一抽出して提示することができる。これにより、その時々の状態に対して重要なセンサを提示することができるようになり、状態の変化する系に対しても対応ができるようになった。また、状態を熟知している専門家でなくとも、その状態に対してどの項目に対して操作を行うかといった特定も行いやすくなった。また、異常検知や値の予測等を行うモデルとして従来は重要特徴の抽出が困難であったニューラルネットに適用可能なため、予測モデルとしてニューラルネットが選択された場合でも重要センサの抽出が可能となる。

第１の実施形態に係る監視装置１０により、センサ等の入力値から学習済モデルを通すことでセンサの予測や異常の検知などを行い、その状態において出力に対してどの入力値が重要であるかを動的に確認することができる。その結果、出力値に応じてどの入力値を操作すれば良いか判別しやすくなる。また、モデルとしてニューラルネットを用いた場合においても、重要センサを特定できるようになる。

なお、上記の説明では、監視装置１０が、監視対象設備の異常を予測するための学習済モデルを用いて、異常度を出力値として出力する場合を説明したが、これに限定されるものではない。例えば、センサが取得したデータのセンサ値を予測するための学習済モデルを用いて、予測センサ値を出力値として出力する場合であってもよい。この場合には、監視装置は、監視対象設備に設置されるセンサによって取得された複数のセンサデータを収集し、収集された複数のセンサデータを入力として、センサが取得したデータのセンサ値を予測するための学習済モデルを用いて、予測センサ値を出力値として出力する。また、監視装置は、学習済モデルに入力された各時刻における各センサデータと、学習済モデルから出力された予測センサ値とを用いて、各時刻における入力項目ごとの出力値に対する重要度を算出する。

ここで、図１０を用いて、センサ値予測処理の概要を説明する。図１０は、センサ値予測処理の概要を説明する図である。図１０では、プラント内の反応炉や装置などにセンサや運転用の信号などを収集するデバイスが取り付けられ、一定時間毎にデータを収集していることを図示している。そして、図１０では、各センサＡ～センサＥから収集したプロセスデータの推移を示したものを図示しており（図１０の（Ａ）参照）、監視装置は、収集したプロセスデータに基づきセンサ値を予測する（図１０の（Ｂ）参照）。例えば、監視装置は、現時刻ｔからＮ分後のセンサ値を予測する。そして、監視装置は、予測したセンサ値の時系列データをチャート画面として出力する（図１０の（Ｃ）参照）。

また、監視装置は、学習済モデルに入力されたセンサのデータを用いて、各時刻におけるセンサごとの所定の出力値に対する重要度を算出する（図１０の（Ｄ）参照）。そして、監視装置は、各センサデータの重要度の推移を示すグラフを表示する（図１０の（Ｅ）参照）。

このように、監視装置１０が、センサが取得したデータのセンサ値を予測するため学習済モデルを用いて、予測センサ値を出力値として出力する場合においても同様に、学習済モデルに対する複数の入力値のうち、どの入力値が重要であるかを動的かつ容易に確認することが可能である。

［第２の実施形態］
上述した第１の実施形態では、監視装置１０が重要度可視化部１５を有し、各センサデータの重要度の推移を示すグラフを表示する場合を説明したが、これに限定されるものではない。例えば、監視装置１０とは別の装置である表示装置２０が各センサデータの重要度の推移を示すグラフを表示するようにしてもよい。

そこで、以下では、第２の実施形態に係る監視システム１００が、監視装置１０Ａおよび表示装置２０を有し、表示装置２０が、各センサデータの重要度の推移を示すグラフを表示したり、異常判定部１３ａの判定結果と同期して重要なセンサを報知したりする場合について説明する。なお、第１の実施形態に係る監視装置１０と同様の構成や処理については説明を省略する。

まず、図１１を用いて、第２の実施形態に係る監視システム１００について説明する。図１１は、第２の実施形態に係る監視システムの構成例を示すブロック図である。図１１に示すように、監視システム１００は、監視装置１０Ａおよび表示装置２０を有する。また、監視システム１００においては、監視装置１０Ａと表示装置２０とがネットワーク（図示せず）を介して接続されている。

また、図１１に示すように、第２の実施形態に係る監視装置１０Ａは、図１に示した第１の実施形態に係る監視装置１０と比較して、重要度可視化部１５を有していない点が異なる。

表示装置２０は、取得部１５ａ、作成部１５ｂ、重要度表示部１５ｃおよび報知部１５ｄを有する。表示装置２０は、重要なセンサを監視者に対して確認可能に表示する装置であって、例えば、ＰＣ（Personal Computer）等の端末、もしくはスマートフォンやタブレット端末等の移動端末である。なお、表示装置２０は、監視装置１０の代わりに、出力可視化部１３の機能を有していてもよい。

取得部２１は、監視対象設備で取得された複数のデータを入力として、監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する外部の監視装置１０Ａから、学習済モデルに入力された各時刻における入力項目ごとの所定の出力値に対する重要度を取得する。例えば、取得部２１は、重要度ノイズ除去部１４ｂによってノイズが除去された各センサの重要度を取得する。

作成部２２は、取得部２１によって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する。重要度表示部２３は、作成部２２によって作成されたグラフを表示する。

報知部２４は、監視対象設備の異常が検知された場合に、取得部２１によって取得された各入力項目の重要度のうち、重要度が所定の閾値以上である入力項目を報知する。例えば、報知部２４は、異常判定部１３ａによる判定結果を取得し、監視対象設備の異常が検知された場合、すなわち、異常予測評価値が所定の閾値以上であった場合には、異常が検知された時刻に対応する各センサの重要度のうち、重要度が所定の閾値以上であるセンサを報知する。

［第２の実施形態の効果］
第２の実施形態に係る表示装置２０は、監視対象設備で取得された複数のデータを入力として、監視対象設備の状態を予測するための学習済モデルを用いて、所定の出力値を出力する外部の監視装置１０Ａから、学習済モデルに入力された各時刻における入力項目ごとの所定の出力値に対する重要度を取得する。そして、表示装置２０は、取得した重要度を用いて、各入力項目の重要度の推移を示すグラフを作成し、作成したグラフを表示する。このため、表示装置２０では、複数の入力値のうち、どの入力値が重要であるかを動的かつ容易に確認することが可能である。

また、表示装置２０は、監視対象設備の異常が検知された場合に、取得した各入力項目の重要度のうち、重要度が所定の閾値以上である入力項目を報知する。このため、表示装置２０では、異常が発生した際に、どのセンサが重要であったかを報知することが可能である。

［システム構成等］
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵやＧＰＵおよび当該ＣＰＵやＧＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。

また、本実施の形態において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。

［プログラム］
また、上記実施形態において説明した監視装置、表示装置が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。例えば、実施形態に係る監視装置１０、１０Ａまたは表示装置２０が実行する処理をコンピュータが実行可能な言語で記述した監視プログラム、表示プログラムを作成することもできる。この場合、コンピュータが監視プログラム、表示プログラムを実行することにより、上記実施形態と同様の効果を得ることができる。さらに、かかる監視プログラム、表示プログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録された監視プログラム、表示プログラムをコンピュータに読み込ませて実行することにより上記実施形態と同様の処理を実現してもよい。

図１２は、監視プログラムまたは表示プログラムを実行するコンピュータを示す図である。図１２に例示するように、コンピュータ１０００は、例えば、メモリ１０１０と、ＣＰＵ１０２０と、ハードディスクドライブインタフェース１０３０と、ディスクドライブインタフェース１０４０と、シリアルポートインタフェース１０５０と、ビデオアダプタ１０６０と、ネットワークインタフェース１０７０とを有し、これらの各部はバス１０８０によって接続される。

メモリ１０１０は、図１２に例示するように、ＲＯＭ（Read Only Memory）１０１１及びＲＡＭ１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic Input Output System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、図１２に例示するように、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、図１２に例示するように、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、図１２に例示するように、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、図１２に例示するように、例えばディスプレイ１１３０に接続される。

ここで、図１２に例示するように、ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、上記の、監視プログラムまたは表示プログラムは、コンピュータ１０００によって実行される指令が記述されたプログラムモジュールとして、例えばハードディスクドライブ１０９０に記憶される。

また、上記実施形態で説明した各種データは、プログラムデータとして、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０が、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出し、各種処理手順を実行する。

なお、監視プログラムまたは表示プログラムに係るプログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限られず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、監視プログラムまたは表示プログラムに係るプログラムモジュール１０９３やプログラムデータ１０９４は、ネットワーク（ＬＡＮ（Local Area Network）、ＷＡＮ（Wide Area Network）等）を介して接続された他のコンピュータに記憶され、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。

上記の実施形態やその変形は、本願が開示する技術に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。

１０、１０Ａ 監視装置
１１ 収集部
１２ 異常予測部
１２ａ 分析フレーム抽出部
１２ｂ フレーム異常評価値算出部
１３ 出力可視化部
１３ａ 異常判定部
１３ｂ チャート表示部
１４ 算出部
１４ａ 重要度計算部
１４ｂ 重要度ノイズ除去部
１５ 重要度可視化部
１５ａ、２１ 取得部
１５ｂ、２２ 作成部
１５ｃ、２３ 重要度表示部
１５ｄ、２４ 報知部
１６ プロセスデータバッファ
１７ 分析フレームバッファ
１８ フレーム異常評価値バッファ
２０ 表示装置
１００ 監視システム

Claims (7)

1. 監視対象設備で取得された複数のデータを収集する収集手段と、
   前記収集手段によって収集された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する予測手段と、
   前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度であって、前記各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度を算出する算出手段と
   を有し、
   前記算出手段は、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに、前記重要度を算出することを特徴とする監視装置。
2. 監視装置によって実行される監視方法であって、
   監視対象設備で取得された複数のデータを収集する収集工程と、
   前記収集工程によって収集された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する予測工程と、
   前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度であって、前記各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度を算出する算出工程と
   を含み、
   前記算出工程は、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに、前記重要度を算出することを特徴とする監視方法。
3. 監視対象設備で取得された複数のデータを収集する収集ステップと、
   前記収集ステップによって収集された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する予測ステップと、
   前記学習済モデルに入力された各時刻における各データと、前記学習済モデルから出力された所定の出力値とを用いて、前記各時刻における入力項目ごとの前記所定の出力値に対する重要度であって、前記各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度を算出する算出ステップと
   をコンピュータに実行させ、
   前記算出ステップは、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに、前記重要度を算出することを特徴とする監視プログラム。
4. 監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目ごとの前記所定の出力値に対する重要度であって、各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度であって、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに算出された重要度を取得する取得手段と、
   前記取得手段によって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成手段と、
   前記作成手段によって作成されたグラフを表示する表示手段と
   を有することを特徴とする表示装置。
5. 前記監視対象設備の異常が検知された場合に、前記取得手段によって取得された各入力項目の重要度のうち、重要度が所定の閾値以上である入力項目を報知する報知手段をさらに有することを特徴とする請求項４に記載の表示装置。
6. 表示装置によって実行される表示方法であって、
   監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目との前記所定の出力値に対する重要度であって、各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度であって、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに算出された重要度を取得する取得工程と、
   前記取得工程によって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成工程と、
   前記作成工程によって作成されたグラフを表示する表示工程と
   を含んだことを特徴とする表示方法。
7. 監視対象設備で取得された複数のデータを入力として、前記監視対象設備の状態を予測するためのニューラルネットワークである学習済モデルを用いて、所定の出力値を出力する外部の装置から、前記学習済モデルに入力された各時刻における入力項目ごとの前記所定の出力値に対する重要度であって、各データが前記学習済モデルの前記出力値にどれだけ寄与したかを示す時間変化する各時刻における重要度であって、入力値から出力値を算出する前記学習済モデルにおいて、前記出力値の各入力値に関する偏微分値またはその概算値を用いて、前記各時刻における入力項目ごとに算出された重要度を取得する取得ステップと、
   前記取得ステップによって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する作成ステップと、
   前記作成ステップによって作成されたグラフを表示する表示ステップと
   をコンピュータに実行させることを特徴とする表示プログラム。

Images