JP2019179400A - Monitoring device, monitoring method and monitoring program - Google Patents

Monitoring device, monitoring method and monitoring program Download PDF

Info

Publication number
JP2019179400A
JP2019179400A JP2018068297A JP2018068297A JP2019179400A JP 2019179400 A JP2019179400 A JP 2019179400A JP 2018068297 A JP2018068297 A JP 2018068297A JP 2018068297 A JP2018068297 A JP 2018068297A JP 2019179400 A JP2019179400 A JP 2019179400A
Authority
JP
Japan
Prior art keywords
data
input
encoder
self
importance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018068297A
Other languages
Japanese (ja)
Other versions
JP6918735B2 (en
Inventor
恵介 切通
Keisuke Kiritoshi
恵介 切通
知範 泉谷
Tomonori Izumitani
知範 泉谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2018068297A priority Critical patent/JP6918735B2/en
Publication of JP2019179400A publication Critical patent/JP2019179400A/en
Application granted granted Critical
Publication of JP6918735B2 publication Critical patent/JP6918735B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To provide a device allowing a person to dynamically and easily confirm the significance of each input data to output data for deciding and controlling the item related to a sensor to be controlled in order to prevent abnormality.SOLUTION: A monitoring device 10 includes: collection means 11 for collecting a plurality of pieces of data about a monitoring object; detection means 12 for detecting a state of the monitoring object with the plurality of pieces of data collected by the collection means as input data by using a self-encoder; and calculation means 14 for calculating the significance of each input data inputted to the self-encoder to output data by using each input data inputted to the self-encoder and the output data outputted from the self-encoder.SELECTED DRAWING: Figure 1

Description

本発明は、監視装置、監視方法および監視プログラムに関する。   The present invention relates to a monitoring device, a monitoring method, and a monitoring program.

ニューラルネットワークの一つである自己符号化器は、入力データを教師データとして自らを再現するように学習するモデルである。この自己符号化器は、入力層と出力層のノード数が同じであり、且つ、中間層のノード数が入出力層より少ないのが特徴である。自己符号化器の応用方法としては、いくつか存在する。例えば、学習後のモデルの中間層の出力から主成分分析のようにデータの特徴の抽出を行うことが挙げられる。また、工場の異常検知として、正常なセンサデータや画像を学習させたモデルに対して、入力データと出力データとの差を比べることで異常検知を行うことに使用される。   A self-encoder, which is one type of neural network, is a model that learns to reproduce input data as teacher data. This self-encoder is characterized in that the number of nodes in the input layer and the output layer is the same, and the number of nodes in the intermediate layer is smaller than that in the input / output layer. There are several application methods of the self-encoder. For example, data features may be extracted from the output of the intermediate layer of the model after learning as in principal component analysis. Also, as a factory abnormality detection, it is used to detect an abnormality by comparing the difference between input data and output data with respect to a model in which normal sensor data and images are learned.

異常検知の利用例としては、まず、プラントのセンサ等のデータのうち正常であるものだけを学習させたモデルを作成する。このモデルは、学習したデータ、すなわち正常なデータに対してはデータを再現できるため、再現誤差が少なくなる。一方、学習されていない異常なデータに対しては再現が出来ないために再現誤差が大きくなる。このように、再現誤差を見ることで異常検知を行うことができる。   As an application example of abnormality detection, first, a model in which only normal data such as plant sensors is learned is created. Since this model can reproduce data for learned data, that is, normal data, the reproduction error is reduced. On the other hand, since abnormal data that has not been learned cannot be reproduced, a reproduction error becomes large. Thus, abnormality detection can be performed by looking at the reproduction error.

また、ニューラルネットワークを用いずに、異常検知や状態推定等を行う方法として、クラスタリング等が存在する。これらの方法では、正常と異常との間のデータ距離などから異常を抽出する。   Further, clustering or the like exists as a method for performing abnormality detection or state estimation without using a neural network. In these methods, an abnormality is extracted from the data distance between normal and abnormal.

特開2017−142654号公報JP 2017-142654 A

上記したような従来の手法では、各入力データの出力データに対する重要度を動的かつ容易に確認することができないという課題があった。例えば、上記した正常と異常との間のデータ距離などから異常を抽出する方法では、正常と異常との間のデータ距離などから間接的に重要特徴を得ることはできるが、特徴間の関係等も考慮した詳細な特徴を得ることが難しい。また、ディープラーニング技術はブラックボックスと呼ばれる通り、そのモデルがどのように予測、判断を行ったかを抽出することが難しかった。自己符号化器もその例外ではなく、どの入力が出力に影響を及ぼしたのか確認することが難しい。   The conventional method as described above has a problem that the importance of each input data with respect to the output data cannot be confirmed dynamically and easily. For example, in the method of extracting an abnormality from the data distance between normal and abnormal as described above, an important feature can be obtained indirectly from the data distance between normal and abnormal, but the relationship between features, etc. It is difficult to obtain detailed features that also take into account. In addition, as the deep learning technology is called a black box, it was difficult to extract how the model predicted and judged. The self-encoder is no exception, and it is difficult to confirm which input has affected the output.

例えば、異常検知の例であれば異常なデータに対してどの入力が影響を及ぼして再現誤差を生じているかを特定することが困難なため、異常を防ぐためにどのセンサに関する項目を制御すればよいかなどのアクションに繋げることができなかった。   For example, in the case of abnormality detection, it is difficult to specify which input has an influence on abnormal data and causes a reproduction error. Therefore, in order to prevent abnormality, an item relating to which sensor may be controlled. I couldn't connect to such actions.

上述した課題を解決し、目的を達成するために、本発明の監視装置は、監視対象に関する複数のデータを収集する収集手段と、前記収集手段によって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出手段と、前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出手段とを有することを特徴とする。   In order to solve the above-described problems and achieve the object, the monitoring apparatus of the present invention includes a collection unit that collects a plurality of data related to a monitoring target, and a plurality of data collected by the collection unit as input data. Using an encoder, detection means for detecting the state of the monitoring target, each input data input to the self-encoder, and output data output from the self-encoder, And calculating means for calculating the importance of each input data input to the self-encoder for the output data.

また、本発明の監視方法は、監視装置によって実行される監視方法であって、監視対象に関する複数のデータを収集する収集工程と、前記収集工程によって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出工程と、前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出工程とを含んだことを特徴とする。   Further, the monitoring method of the present invention is a monitoring method executed by a monitoring device, which collects a plurality of data relating to a monitoring target, and uses a plurality of data collected by the collecting step as input data. Using an encoder, a detection step of detecting the state of the monitoring target, each input data input to the self-encoder, and output data output from the self-encoder, A calculation step of calculating the importance of each input data input to the self-encoder with respect to the output data.

また、本発明の監視プログラムは、監視対象設備で取得された複数のデータを収集する収集ステップと、監視対象に関する複数のデータを収集する収集ステップと、前記収集ステップによって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出ステップと、前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出ステップとをコンピュータに実行させることを特徴とする。   The monitoring program of the present invention includes a collection step for collecting a plurality of data acquired at a monitoring target facility, a collection step for collecting a plurality of data related to the monitoring target, and a plurality of data collected by the collection step. As the input data, using a self-encoder, a detection step of detecting the state of the monitoring target, each input data input to the self-encoder, and output data output from the self-encoder And calculating a degree of importance of each piece of input data input to the self-encoder with respect to output data.

本発明によれば、各入力データの出力データに対する重要度を動的かつ容易に確認することができるという効果を奏する。   According to the present invention, it is possible to dynamically and easily confirm the importance of each input data with respect to output data.

図1は、第1の実施形態に係る監視装置の構成例を示すブロック図である。FIG. 1 is a block diagram illustrating a configuration example of a monitoring apparatus according to the first embodiment. 図2は、自己符号化器の学習について説明する図である。FIG. 2 is a diagram for explaining the learning of the self-encoder. 図3は、入力データと出力データの再現誤差から異常を判定する処理を説明する図である。FIG. 3 is a diagram for explaining processing for determining abnormality from the reproduction error of input data and output data. 図4は、入力データと出力データの再現誤差から異常を判定する処理を説明する図である。FIG. 4 is a diagram for explaining processing for determining abnormality from reproduction errors of input data and output data. 図5は、自己符号化器に対する重要度算出処理の一例を説明する図である。FIG. 5 is a diagram for explaining an example of importance calculation processing for the self-encoder. 図6は、N×Nの重要度を計算する場合の例を説明する図である。FIG. 6 is a diagram for explaining an example in the case of calculating N × N importance. 図7は、再現誤差に応じて重要度計算対象を絞り込む処理の一例を説明する図である。FIG. 7 is a diagram illustrating an example of processing for narrowing down the importance calculation target according to the reproduction error. 図8は、ニューラルネットワークにおける中間層のノードを重要度計算対象として絞り込む処理の一例を説明する図である。FIG. 8 is a diagram for explaining an example of processing for narrowing down intermediate layer nodes as importance calculation targets in a neural network. 図9は、監視装置によって実行される全体の処理の概要を説明する図である。FIG. 9 is a diagram for explaining an overview of the entire processing executed by the monitoring apparatus. 図10は、第1の実施形態に係る監視装置における異常予測処理の流れの一例を示すフローチャートである。FIG. 10 is a flowchart illustrating an example of a flow of abnormality prediction processing in the monitoring device according to the first embodiment. 図11は、第1の実施形態に係る監視装置における重要度算出処理の流れの一例を示すフローチャートである。FIG. 11 is a flowchart illustrating an example of the flow of importance calculation processing in the monitoring apparatus according to the first embodiment. 図12は、第1の実施形態に係る監視装置におけるグラフ表示処理の流れの一例を示すフローチャートである。FIG. 12 is a flowchart illustrating an example of the flow of graph display processing in the monitoring apparatus according to the first embodiment. 図13は、監視プログラムを実行するコンピュータを示す図である。FIG. 13 is a diagram illustrating a computer that executes a monitoring program.

以下に、本願に係る監視装置、監視方法および監視プログラムの実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態により本願に係る監視装置、監視方法および監視プログラムが限定されるものではない。   Hereinafter, embodiments of a monitoring device, a monitoring method, and a monitoring program according to the present application will be described in detail with reference to the drawings. Note that the monitoring device, the monitoring method, and the monitoring program according to the present application are not limited by this embodiment.

[第1の実施形態]
以下の実施の形態では、第1の実施形態に係る監視装置10の構成、監視装置10の処理の流れを順に説明し、最後に第1の実施形態による効果を説明する。なお、以下では、監視装置10が工場やプラントなどの監視対象設備からデータを収集し、自己符号化器を用いて、監視対象設備の異常度を算出する場合の例を説明する。
[First Embodiment]
In the following embodiments, the configuration of the monitoring device 10 according to the first embodiment and the flow of processing of the monitoring device 10 will be described in order, and finally the effects of the first embodiment will be described. In the following, an example will be described in which the monitoring device 10 collects data from monitored equipment such as a factory or a plant, and calculates the degree of abnormality of the monitored equipment using a self-encoder.

[監視装置の構成]
まず、図1を用いて、監視装置10の構成を説明する。図1は、第1の実施形態に係る監視装置の構成例を示すブロック図である。監視装置10は、例えば、工場やプラントなどの監視対象設備に設置されるセンサによって取得された複数のデータを収集し、収集した複数のデータを入力データとして、自己符号化器を用いて、各入力データを再現した出力データを出力し、該入力データと該出力データとを比較して、該入力データに対する該出力データの再現誤差を検出し、再現誤差に応じて、監視対象設備の異常度を算出する。
[Configuration of monitoring device]
First, the configuration of the monitoring device 10 will be described with reference to FIG. FIG. 1 is a block diagram illustrating a configuration example of a monitoring device according to the first embodiment. For example, the monitoring device 10 collects a plurality of data acquired by sensors installed in a monitoring target facility such as a factory or a plant, and uses the collected plurality of data as input data using a self-encoder. Output data reproducing the input data, comparing the input data with the output data, detecting a reproduction error of the output data with respect to the input data, and depending on the reproduction error, the degree of abnormality of the monitored equipment Is calculated.

また、監視装置10は、自己符号化器に入力された各入力データと、自己符号化器から出力された出力データとを用いて、自己符号化器に入力された各入力データの出力データに対する重要度を算出する。ここで重要度とは、各入力が出力に対してどれだけ寄与したかを示すものであり、言い換えると、各入力が出力の再現にどれだけ重要であったか示すものであり、重要度の絶対値が大きいほど、その入力は出力に対する影響度が高かったことを意味する。   In addition, the monitoring device 10 uses each input data input to the self-encoder and output data output from the self-encoder to output data of each input data input to the self-encoder. Calculate importance. The importance here indicates how much each input contributed to the output, in other words, how important each input was in reproducing the output, and the absolute value of the importance. The larger the value, the higher the influence of the input on the output.

図1に示すように、この監視装置10は、収集部11、検出部12、出力可視化部13、算出部14、重要度可視化部15、プロセスデータバッファ16、分析フレームバッファ17、フレーム異常評価値バッファ18およびモデルバッファ19を有する。以下に監視装置10が有する各部の処理を説明する。   As shown in FIG. 1, this monitoring apparatus 10 includes a collection unit 11, a detection unit 12, an output visualization unit 13, a calculation unit 14, an importance level visualization unit 15, a process data buffer 16, an analysis frame buffer 17, a frame abnormality evaluation value. It has a buffer 18 and a model buffer 19. Hereinafter, processing of each unit included in the monitoring device 10 will be described.

収集部11、検出部12、出力可視化部13、算出部14および重要度可視化部15は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、GPU(Graphical Processing Unit)などの電子回路やASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などの集積回路である。また、プロセスデータバッファ16、分析フレームバッファ17、フレーム異常評価値バッファ18およびモデルバッファ19は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子等の記憶装置である。   The collection unit 11, the detection unit 12, the output visualization unit 13, the calculation unit 14, and the importance visualization unit 15 are electronic circuits such as a CPU (Central Processing Unit), an MPU (Micro Processing Unit), and a GPU (Graphical Processing Unit), for example. And an integrated circuit such as an application specific integrated circuit (ASIC) or a field programmable gate array (FPGA). The process data buffer 16, the analysis frame buffer 17, the frame abnormality evaluation value buffer 18, and the model buffer 19 are storage devices such as semiconductor memory elements such as a RAM (Random Access Memory) and a flash memory (Flash Memory), for example. .

収集部11は、監視対象設備で取得された監視対象に関する複数のデータを収集する。例えば、収集部11は、工場やプラントなどの監視対象設備に設置されるセンサからデータを定期的(例えば、1分ごと)に受信し、プロセスデータバッファ16に格納する。ここでセンサが取得するデータとは、例えば、監視対象設備である工場、プラント内の装置や反応炉についての温度や圧力、音、振動等の各種データである。なお、センサによって取得された時系列のデータを、以下では適宜プロセスデータと記載する。また、収集部11が収集するデータはセンサが取得したデータに限定されるものではなく、例えば、人的に入力された数値データや、材料の種類や銘柄などのラベルデータ等でもよい。   The collection unit 11 collects a plurality of data related to the monitoring target acquired by the monitoring target facility. For example, the collection unit 11 periodically receives data from a sensor installed in a monitoring target facility such as a factory or a plant (for example, every minute) and stores the data in the process data buffer 16. Here, the data acquired by the sensor is, for example, various data such as temperature, pressure, sound, vibration, and the like regarding a factory, a device in the plant, and a reactor that are monitoring target facilities. Note that the time-series data acquired by the sensor is hereinafter referred to as process data as appropriate. The data collected by the collection unit 11 is not limited to the data acquired by the sensor, and may be numerical data input manually, label data such as material types and brands, and the like.

検出部12は、収集部11によって収集された複数のデータを入力データとして、自己符号化器を用いて、監視対象設備の状態を検出する。具体的には、検出部12は、各入力データを再現した出力データを出力し、該入力データと該出力データとを比較して、該入力データに対する該出力データの再現誤差を検出する。例えば、検出部12は、プロセスデータおよび自己符号化器を用いて、自己符号化器のニューラルネットワークに対して入力される入力データに対する出力データの再現誤差を検出し、該再現誤差に応じて、監視対象設備の異常度を算出する。なお、以下では、自己符号化器を用いて再現誤差を検出し、再現誤差に応じて監視対象設備の異常度を算出することで監視対象設備の状態を検出する場合を例に説明するが、これに限定されるものではなく、自己符号化器を用いてどのように監視対象設備の状態を検出するようにしてもよい。例えば、自己符号化器で学習した後に中間層を可視化することで、監視対象設備の状態を検出できるようにしてもよい。検出部12は、分析フレーム抽出部12aおよびフレーム異常評価値算出部12bを有する。なお、以下で説明する異常度算出処理は、一例であり、これに限定されるものではない。   The detection unit 12 detects the state of the monitoring target facility using the self-encoder with the plurality of data collected by the collection unit 11 as input data. Specifically, the detection unit 12 outputs output data that reproduces each input data, compares the input data with the output data, and detects a reproduction error of the output data with respect to the input data. For example, the detection unit 12 detects the reproduction error of the output data with respect to the input data input to the neural network of the self-encoder using the process data and the self-encoder, and according to the reproduction error, Calculate the degree of abnormality of the monitored equipment. In the following, a description will be given by taking as an example a case where the reproduction error is detected using a self-encoder and the state of the monitored equipment is detected by calculating the degree of abnormality of the monitored equipment according to the reproduction error. However, the present invention is not limited to this, and the state of the monitoring target equipment may be detected by using a self-encoder. For example, the state of the monitoring target facility may be detected by visualizing the intermediate layer after learning with the self-encoder. The detection unit 12 includes an analysis frame extraction unit 12a and a frame abnormality evaluation value calculation unit 12b. In addition, the abnormality degree calculation process demonstrated below is an example, and is not limited to this.

分析フレーム抽出部12aは、収集部11によって収集されたプロセスデータから、所定時点または所定の時間幅である分析フレームに含まれるプロセスデータを抽出する。具体的には、分析フレーム抽出部12aは、フレーム分のプロセスデータをプロセスデータバッファ16から抽出して読み出し、読み出したプロセスデータを分析フレームバッファ17に格納する。なお、所定の時点とは、現時点であってもよいし、現時点から10秒前等の予め設定された時点であってもよい。   The analysis frame extraction unit 12a extracts process data included in an analysis frame having a predetermined time point or a predetermined time width from the process data collected by the collection unit 11. Specifically, the analysis frame extraction unit 12 a extracts and reads out the process data for the frame from the process data buffer 16 and stores the read process data in the analysis frame buffer 17. The predetermined time point may be the current time point or a preset time point such as 10 seconds before the current time point.

例えば、分析フレーム抽出部12aは、収集部11が1分毎にプロセスデータを収集し、現時刻tに取得されたプロセスデータをプロセスデータバッファ16から抽出して読み出す。また、例えば、分析フレーム抽出部12aは、時間幅が「5」である場合には、現時刻tに取得されたプロセスデータ、現時刻の1分前に取得されたプロセスデータ、現時刻の2分前に取得されたプロセスデータ、現時刻の3分前に取得されたプロセスデータ、現時刻の4分前に取得されたプロセスデータをプロセスデータバッファ16から抽出して読み出す。   For example, in the analysis frame extraction unit 12a, the collection unit 11 collects process data every minute, extracts the process data acquired at the current time t from the process data buffer 16, and reads it. Further, for example, when the time width is “5”, the analysis frame extraction unit 12a, the process data acquired at the current time t, the process data acquired one minute before the current time, the current time 2 The process data acquired minutes before, the process data acquired three minutes before the current time, and the process data acquired four minutes before the current time are extracted from the process data buffer 16 and read out.

プロセスデータバッファ16は、収集部11によって収集されたプロセスデータを記憶する。プロセスデータバッファ16には、プロセスデータとして、少なくとも、所定時点または所定の時間幅のフレーム分の最新のプロセスデータが格納されている。分析フレームバッファ17は、分析フレーム抽出部12aによって抽出されたプロセスデータを記憶する。   The process data buffer 16 stores process data collected by the collection unit 11. The process data buffer 16 stores at least the latest process data for a frame at a predetermined time point or a predetermined time width as process data. The analysis frame buffer 17 stores the process data extracted by the analysis frame extraction unit 12a.

フレーム異常評価値算出部12bは、分析フレーム抽出部12aによって抽出されたプロセスデータを入力として、自己符号化器を用いて、自己符号化器のニューラルネットワークに対して入力される入力データに対する出力データの再現誤差を検出し、該再現誤差に応じて、監視対象設備の異常度を算出する。   The frame abnormality evaluation value calculation unit 12b receives the process data extracted by the analysis frame extraction unit 12a as input, and uses the self encoder to output data for input data input to the neural network of the self encoder. The reproduction error is detected, and the degree of abnormality of the monitored equipment is calculated according to the reproduction error.

例えば、フレーム異常評価値算出部12bは、分析フレーム抽出部12aから抽出された時刻tのプロセスデータとして、センサA、センサB、センサC、センサDおよびセンサEのデータを受信する。そして、フレーム異常評価値算出部12bは、時刻tにおけるセンサA、センサB、センサC、センサDおよびセンサEのデータをそれぞれ自己符号化器に入力し、入力データと出力データとの再現誤差を検出し、該再現誤差に応じて、時刻tにおける監視対象設備の異常度であるフレーム異常評価値を算出する。   For example, the frame abnormality evaluation value calculation unit 12b receives data of the sensor A, sensor B, sensor C, sensor D, and sensor E as process data at time t extracted from the analysis frame extraction unit 12a. Then, the frame abnormality evaluation value calculation unit 12b inputs the data of the sensor A, sensor B, sensor C, sensor D, and sensor E at the time t to the self-encoder, and reproduces the reproduction error between the input data and the output data. The frame abnormality evaluation value that is the degree of abnormality of the monitoring target equipment at time t is calculated according to the reproduction error.

また、フレーム異常評価値とは、例えば、監視対象設備の異常が発生している確率値であって、「0」〜「1」で表現される数値であってもよい。この場合には、例えば、ある時点において監視対象設備の異常が発生している確率が「40%」と予測された場合には、フレーム異常評価値が「0.4」となる。また、フレーム異常評価値はこれに限定されるものではなく、例えば、監視対象設備の異常が発生している可能性が一定以上存在するか否かを示す値として、「0」または「1」のいずれかで表現される数値であってもよい。   Further, the frame abnormality evaluation value is, for example, a probability value that abnormality of the monitoring target facility has occurred, and may be a numerical value expressed by “0” to “1”. In this case, for example, when the probability that abnormality of the monitoring target facility has occurred at a certain time point is predicted to be “40%”, the frame abnormality evaluation value is “0.4”. Further, the frame abnormality evaluation value is not limited to this. For example, “0” or “1” is used as a value indicating whether or not there is a possibility that the abnormality of the monitoring target facility has occurred over a certain level. The numerical value expressed by either of these may be sufficient.

フレーム異常評価値バッファ18は、自己符号化器から出力された出力データと、フレーム異常評価値算出部12bによって検出された入力データに対する出力データの再現誤差と、算出されたフレーム異常評価値を記憶する。なお、フレーム異常評価値バッファ18には、フレーム異常評価値として、少なくとも、所定時点または所定の時間幅のフレーム分の最新のフレーム異常評価値が格納されている。モデルバッファ19は、前述のフレーム異常評価値算出部12bによって利用される自己符号化器、すなわち監視対象設備の異常を検出するための学習済モデルを記憶している。   The frame abnormality evaluation value buffer 18 stores the output data output from the self-encoder, the output data reproduction error with respect to the input data detected by the frame abnormality evaluation value calculation unit 12b, and the calculated frame abnormality evaluation value. To do. The frame abnormality evaluation value buffer 18 stores at least the latest frame abnormality evaluation value for a frame at a predetermined time point or a predetermined time width as a frame abnormality evaluation value. The model buffer 19 stores a learned model for detecting an abnormality of the self-encoder used by the frame abnormality evaluation value calculation unit 12b, that is, the monitoring target equipment.

ここで、図2を用いて、自己符号化器の学習について説明する図である。図2に例示するように、自己符号化器のニューラルネットワークでは、入力層と出力層のノード数が同じであり、中間数のノード数が入出力層より少ない。そして、自己符号化器に対して入力データを入力すると、入力データを教師データとして自らを再現するように学習する。ここで、自己符号化器に学習させるデータは、監視対象設備が正常時におけるセンサが取得したデータ(以下、適宜「正常データ」と記載)のみとする。つまり、正常データのみを入力データとして学習させることで、入力データが正常データである場合だけうまく再現できるように学習させ、入力データが異常データである場合にはうまく再現できないようにする。   Here, it is a figure explaining the learning of a self-encoder using FIG. As illustrated in FIG. 2, in the neural network of the self-encoder, the number of nodes in the input layer and the output layer is the same, and the number of intermediate nodes is smaller than that in the input / output layer. When input data is input to the self-encoder, the input data is learned to be reproduced as teacher data. Here, the data to be learned by the self-encoder is only the data acquired by the sensor when the monitoring target equipment is normal (hereinafter referred to as “normal data” as appropriate). That is, by learning only normal data as input data, it is learned so that it can be reproduced well only when the input data is normal data, and cannot be reproduced well when the input data is abnormal data.

また、このように、正常データのみで学習を行うことで、監視対象設備が工場やプラント内の装置等のように通常時に異常が発生しにくいために正常データが異常データに比べて圧倒的に多く、異常データが少ないような場合でも、適切に学習させることが可能となる。なお、監視装置10では、学習済の自己符号化器がモデルバッファ19に予め記憶されている場合を例として説明するが、監視装置10が学習処理を行うようにしてもよい。   In addition, by performing learning using only normal data in this way, normal data is overwhelming compared to abnormal data because monitored equipment is unlikely to generate abnormalities at normal times, such as devices in factories and plants. Even when there are many abnormal data, it is possible to learn appropriately. Although the monitoring device 10 will be described as an example in which a learned self-encoder is stored in the model buffer 19 in advance, the monitoring device 10 may perform a learning process.

次に、図3を用いて、入力データと出力データの再現誤差から異常を判定する処理を説明する。図3および図4は、入力データと出力データの再現誤差から異常を判定する処理を説明する図である。図3の例では、正常データが入力データとして入力され、図4の例では、異常データが入力データとして入力された場合を例示している。図3に例示するように、例えば、検出部12は、正常データを入力データとして自己符号化器に入力し、出力データを出力する。自己符号化器は、正常データだけを再現できるように学習しているので、入力データと出力データとの再現誤差が小さい。   Next, processing for determining an abnormality from the reproduction error of input data and output data will be described with reference to FIG. FIG. 3 and FIG. 4 are diagrams for explaining processing for determining abnormality from reproduction errors of input data and output data. In the example of FIG. 3, normal data is input as input data, and the example of FIG. 4 illustrates a case where abnormal data is input as input data. As illustrated in FIG. 3, for example, the detection unit 12 inputs normal data as input data to the self-encoder and outputs output data. Since the self-encoder learns so that only normal data can be reproduced, the reproduction error between the input data and the output data is small.

一方、図4に例示するように、例えば、検出部12は、異常データを入力データとして自己符号化器に入力し、出力データを出力する。自己符号化器は、正常データだけを再現できるように学習しているので、入力データと出力データとの再現誤差が大きい。   On the other hand, as illustrated in FIG. 4, for example, the detection unit 12 inputs abnormal data as input data to the self-encoder and outputs output data. Since the self-encoder learns so that only normal data can be reproduced, the reproduction error between the input data and the output data is large.

つまり、検出部12は、入力データに対する出力データの再現誤差を検出し、該再現誤差が大きければ大きいほど監視対象設備の異常度が大きくなるように算出し、再現誤差が小さければ小さいほど監視対象設備の異常度が小さくなるように算出する。   That is, the detection unit 12 detects a reproduction error of the output data with respect to the input data, and calculates so that the degree of abnormality of the monitoring target facility increases as the reproduction error increases, and the monitoring target decreases as the reproduction error decreases. Calculate so that the degree of abnormality of the equipment is reduced.

図1の説明に戻って、出力可視化部13は、異常予測評価値に基づき警告サインを出力したり、異常予測評価値の時系列データをチャート画面として出力したりする。出力可視化部13は、異常判定部13aおよびチャート表示部13bを有する。   Returning to the description of FIG. 1, the output visualization unit 13 outputs a warning sign based on the abnormality prediction evaluation value or outputs time series data of the abnormality prediction evaluation value as a chart screen. The output visualization unit 13 includes an abnormality determination unit 13a and a chart display unit 13b.

異常判定部13aは、フレーム異常評価値算出部12bによって算出されたフレーム異常評価値が所定の閾値以上であるか否かを判定し、異常予測評価値が所定の閾値以上である場合には、異常発生に関する警告を出力する。例えば、異常判定部13aは、異常予測評価値が所定の閾値以上である場合には、警告サインとして、一定時間後に監視対象設備に異常が発生する可能性がある旨の警告メッセージを出力してもよいし、警告を報知する音を出力するようにしてもよい。   The abnormality determination unit 13a determines whether or not the frame abnormality evaluation value calculated by the frame abnormality evaluation value calculation unit 12b is equal to or greater than a predetermined threshold. If the abnormality prediction evaluation value is equal to or greater than the predetermined threshold, Output a warning about abnormal occurrence. For example, the abnormality determination unit 13a outputs a warning message indicating that an abnormality may occur in the monitored equipment after a certain time as a warning sign when the abnormality prediction evaluation value is equal to or greater than a predetermined threshold. Alternatively, a sound for notifying a warning may be output.

チャート表示部13bは、フレーム異常評価値算出部12bによって算出されたフレーム異常評価値の時系列データをチャート画面として表示する。例えば、チャート表示部13bは、ユーザからの表示要求を受け付けると、異常予測評価値の時系列データをチャート画面として表示する。   The chart display unit 13b displays the time series data of the frame abnormality evaluation value calculated by the frame abnormality evaluation value calculation unit 12b as a chart screen. For example, when receiving a display request from the user, the chart display unit 13b displays time series data of the abnormality prediction evaluation value as a chart screen.

算出部14は、自己符号化器に入力された各入力データと、自己符号化器から出力された出力データとを用いて、自己符号化器に入力された各入力データの出力データに対する重要度を算出する。例えば、算出部14は、Saliency Mapを始めとする重要度特徴手法を用いて、各入力データの出力データに対する重要度を算出する。算出部14は、重要度算出部14aおよび重要度ノイズ除去部14bを有する。   The calculation unit 14 uses the input data input to the self-encoder and the output data output from the self-encoder to determine the importance of the input data input to the self-encoder to the output data. Is calculated. For example, the calculation unit 14 calculates the importance of each input data with respect to the output data by using an importance feature method such as Saliency Map. The calculation unit 14 includes an importance level calculation unit 14a and an importance level noise removal unit 14b.

重要度算出部14aは、自己符号化器に入力された入力データ(プロセスデータ)を分析フレームバッファ17から読み出すとともに、自己符号化器から出力された出力データと、入力データに対する出力データの再現誤差と、フレーム異常評価値とをフレーム異常評価値バッファ18から読み出し、自己符号化器に入力された各入力データと、自己符号化器から出力された出力データとを用いて、自己符号化器に入力された各入力データの出力データに対する重要度を算出する。   The importance calculation unit 14a reads the input data (process data) input to the self-encoder from the analysis frame buffer 17, and outputs the output data output from the self-encoder and the reproduction error of the output data with respect to the input data. And the frame anomaly evaluation value are read from the frame anomaly evaluation value buffer 18, and each input data input to the self-encoder and the output data output from the self-encoder are used for the self-encoder. Calculate the importance of each input data to the output data.

ここで、重要度を計算する具体例について説明する。例えば、重要度算出部14aは、入力値から出力値を算出する学習済モデルにおいて、出力値の各入力値に関する偏微分値またはその概算値を用いて、各時刻におけるセンサごとに、重要度を算出する。一例としては、重要度算出部14aは、Saliency Mapを用いて、各時刻におけるセンサごとに、重要度を算出する。Saliency Mapは、ニューラルネットワークの画像分類において利用される技術であり、ニューラルネットワークの出力の各入力に関する偏微分値を出力に寄与する重要度として抽出する技術である。   Here, a specific example of calculating the importance will be described. For example, in the learned model for calculating the output value from the input value, the importance level calculation unit 14a calculates the importance level for each sensor at each time using a partial differential value or an approximate value of each input value of the output value. calculate. As an example, the importance level calculation unit 14a calculates the importance level for each sensor at each time by using the Saliency Map. The Saliency Map is a technique used in image classification of a neural network, and is a technique for extracting a partial differential value regarding each input of the output of the neural network as an importance that contributes to the output.

なお、Saliency Map以外の手法で重要度を算出してもよく、例えば、出力値をニューラルネットワークの各層に伝播させることで入力の重要度を求める手法(参考文献1参照)や、ニューラルネットワークを単純なモデル(決定木等)に近似してデータに対する入力の重要度を求める手法であってもよい(参考文献2参照)。
参考文献1:Bach, Sebastian, et al. "On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation." PloS one 10.7 (2015): e0130140.
参考文献2:Shrikumar, Avanti, Peyton Greenside, and Anshul Kundaje. "Learning important features through propagating activation differences." arXiv preprint arXiv:1704.02685 (2017).
The importance may be calculated by a method other than Saliency Map. For example, a method for obtaining the importance of an input by propagating an output value to each layer of the neural network (see Reference 1) or a simple neural network. It may be a technique for obtaining the importance of input to data by approximating a simple model (such as a decision tree) (see Reference 2).
Reference 1: Bach, Sebastian, et al. "On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation." PloS one 10.7 (2015): e0130140.
Reference 2: Shrikumar, Avanti, Peyton Greenside, and Anshul Kundaje. "Learning important features through propagating activation differences." ArXiv preprint arXiv: 1704.02685 (2017).

ここで、図5の例を用いて、自己符号化器に対する重要度算出処理の一例を説明する。図5は、自己符号化器に対する重要度算出処理の一例を説明する図である。図5に例示するように、重要度算出部14aは、x1〜xnまでの入力データを自己符号器に入力すると、y1〜ynまでの出力データを出力する。ここで、出力データのうちy2に着目すると、重要度算出部14aは、y2の再現に重要な各入力データx1〜xnの重要度をそれぞれ算出することになる。   Here, an example of importance calculation processing for the self-encoder will be described using the example of FIG. FIG. 5 is a diagram for explaining an example of importance calculation processing for the self-encoder. As illustrated in FIG. 5, when the input data from x1 to xn is input to the self-encoder, the importance calculation unit 14a outputs output data from y1 to yn. Here, paying attention to y2 in the output data, the importance calculation unit 14a calculates the importance of each of the input data x1 to xn important for reproduction of y2.

ここで、重要度算出部14aは、全ての出力データについて、各入力データx1〜xnの重要度をそれぞれ算出するようにしてもよい。この場合には、図6に例示するように、N個の入力データを入力した場合には、出力データもN個になるため、N×Nの重要度を算出することとなる。図6は、N×Nの重要度を計算する場合の例を説明する図である。このため、入力次元が大きな状況下では、監視装置10の処理負荷が重く、また、人間が見て分析や制御判断を行うには数が多すぎる場合がある。   Here, the importance calculation unit 14a may calculate the importance of each of the input data x1 to xn for all output data. In this case, as illustrated in FIG. 6, when N pieces of input data are input, N pieces of output data are obtained, and therefore N × N importance is calculated. FIG. 6 is a diagram for explaining an example in the case of calculating N × N importance. For this reason, under a situation where the input dimension is large, the processing load of the monitoring device 10 is heavy, and there are cases where the number is too large for humans to perform analysis and control determination.

そこで、重要度算出部14aは、検出部12によって検出された再現誤差が所定の閾値以上である出力データを抽出し、自己符号化器に入力された各入力データと抽出した出力データとを用いて、抽出した出力データに対する各入力データの重要度を算出するようにしてもよい。例えば、上記の図5の例を用いて説明すると、重要度算出部14aは、入力データx1と出力データy1との再現誤差、入力データx2と出力データy2との再現誤差、・・・入力データxnと出力データynとの再現誤差が所定の閾値以上であるか否かをそれぞれ判定する。この結果、重要度算出部14aは、再現誤差が所定の閾値以上であると判定された出力データのみを抽出し、抽出した出力データに対する各入力データの重要度を算出する。   Therefore, the importance calculation unit 14a extracts output data in which the reproduction error detected by the detection unit 12 is equal to or greater than a predetermined threshold, and uses each input data input to the self-encoder and the extracted output data. Thus, the importance of each input data with respect to the extracted output data may be calculated. For example, using the example of FIG. 5 described above, the importance calculation unit 14a is configured to reproduce the reproduction error between the input data x1 and the output data y1, the reproduction error between the input data x2 and the output data y2,. It is determined whether or not the reproduction error between xn and the output data yn is greater than or equal to a predetermined threshold value. As a result, the importance calculation unit 14a extracts only the output data for which the reproduction error is determined to be equal to or greater than a predetermined threshold, and calculates the importance of each input data with respect to the extracted output data.

図7の例を用いて、再現誤差に応じて重要度計算対象を絞り込む処理について説明する。図7は、再現誤差に応じて重要度計算対象を絞り込む処理の一例を説明する図である。図7に例示するように、N個の入力データを入力した場合には、出力データもN個になるが、各出力データのうち再現誤差が大きな出力データのみを重要度計算の対象とした結果、3つの出力データが重要度計算の対象となった場合には、3×N個の重要度を算出することとなり、N×Nの重要度を算出することと比べて、監視装置10の処理負荷が軽くなり、また、人間が分析や制御判断を行うことを容易にする。   The process of narrowing down the importance calculation target according to the reproduction error will be described using the example of FIG. FIG. 7 is a diagram illustrating an example of processing for narrowing down the importance calculation target according to the reproduction error. As illustrated in FIG. 7, when N pieces of input data are input, the number of output data is also N. However, among the output data, only output data with a large reproduction error is subjected to importance calculation. When three pieces of output data are subjected to importance calculation, 3 × N importance levels are calculated. Compared to calculating N × N importance levels, the processing of the monitoring device 10 is performed. It reduces the load and makes it easier for humans to make analysis and control decisions.

また、重要度算出部14aは、ニューラルネットワークにおける中間層ごとに、各入力データの重要度を算出するようにしてもよい。例えば、重要度算出部14aは、自己符号化器に入力された各入力データと自己符号化器のニューラルネットワークにおける中間層のノードの出力データとを用いて、該中間層の出力データに対する各入力データの重要度を算出する。   The importance calculation unit 14a may calculate the importance of each input data for each intermediate layer in the neural network. For example, the importance calculation unit 14a uses each input data input to the self-encoder and output data of a node in the intermediate layer in the neural network of the self-encoder to input each input to the output data of the intermediate layer. Calculate the importance of the data.

図8の例を用いて、ニューラルネットワークにおける中間層のノードを重要度計算対象として絞り込む処理の一例を説明する。図8は、ニューラルネットワークにおける中間層のノードを重要度計算対象として絞り込む処理の一例を説明する図である。図8に例示するように、N個の入力データを入力した場合には、出力データもN個になるが、入出力層よりもノード数が少ない中間層のノードを重要度計算の対象とした結果、3つの中間層のノードの出力データが重要度計算の対象となった場合には、3×N個の重要度を算出することとなり、N×Nの重要度を算出することと比べて、監視装置10の処理負荷が軽くなり、また、人間が分析や制御判断を行うことを容易にする。   An example of processing for narrowing down intermediate layer nodes in the neural network as importance calculation targets will be described using the example of FIG. FIG. 8 is a diagram for explaining an example of processing for narrowing down intermediate layer nodes as importance calculation targets in a neural network. As illustrated in FIG. 8, when N pieces of input data are input, the number of output data is N, but the intermediate layer node having a smaller number of nodes than the input / output layer is the target of importance calculation. As a result, when the output data of the nodes in the three middle tiers are subject to importance calculation, 3 × N importance levels are calculated, compared with calculating N × N importance levels. The processing load on the monitoring device 10 is reduced, and it is easy for humans to perform analysis and control determination.

重要度ノイズ除去部14bは、重要度算出部14aによって計算された重要度を所定の時間幅でスムージングしてノイズを除去する。例えば、重要度ノイズ除去部14bは、ノイズを除去する技術としてSmooth Gradの手法を用いて、重要度をスムージングしてもよい。Smooth Gradは、入力画像にランダムなガウシアンノイズをかけた複製を数十枚作成し、それぞれから抽出された重要度を平均することでノイズを取り除く手法である。なお、上述のノイズを除去する処理については、省略してもよく、その場合には、監視装置10は重要度ノイズ除去部14bの機能部を有していなくてもよい。   The importance noise removing unit 14b removes noise by smoothing the importance calculated by the importance calculating unit 14a with a predetermined time width. For example, the importance level noise removal unit 14b may smooth the importance level by using a method of Smooth Grad as a technique for removing noise. Smooth Grad is a method for removing noise by creating dozens of duplicates obtained by applying random Gaussian noise to an input image and averaging the importance extracted from each of them. In addition, about the process which removes the above-mentioned noise, you may abbreviate | omit and the monitoring apparatus 10 does not need to have the function part of the importance noise removal part 14b in that case.

重要度可視化部15は、各センサデータの重要度の推移を示すグラフを表示したり、異常判定部13aの判定結果と同期して重要なセンサを報知したりする。重要度可視化部15は、取得部15a、作成部15b、重要度表示部15cおよび報知部15dを有する。なお、重要度可視化部15の各機能を監視装置10とは別の表示装置に持たせるようにしてもよい。   The importance level visualization unit 15 displays a graph indicating the transition of the importance level of each sensor data, or notifies an important sensor in synchronization with the determination result of the abnormality determination unit 13a. The importance level visualization unit 15 includes an acquisition unit 15a, a creation unit 15b, an importance level display unit 15c, and a notification unit 15d. Note that each function of the importance level visualization unit 15 may be provided in a display device different from the monitoring device 10.

取得部15aは、自己符号化器に入力された各入力データの出力データに対する重要度を取得する。例えば、取得部15aは、重要度ノイズ除去部14bによってノイズが除去された各センサの重要度を取得する。   The acquisition unit 15a acquires the importance of the input data input to the self encoder with respect to the output data. For example, the acquisition unit 15a acquires the importance of each sensor from which noise has been removed by the importance noise removal unit 14b.

作成部15bは、取得部15aによって取得された重要度を用いて、各入力項目の重要度の推移を示すグラフを作成する。重要度表示部15cは、作成部15bによって作成されたグラフを表示する。   The creation unit 15b creates a graph indicating the transition of the importance of each input item using the importance acquired by the acquisition unit 15a. The importance level display unit 15c displays the graph created by the creation unit 15b.

報知部15dは、監視対象設備の異常が検知された場合に、取得部15aによって取得された各重要度のうち、重要度が所定の閾値以上である入力項目を報知する。例えば、報知部15dは、異常判定部13aによる判定結果を取得し、監視対象設備の異常が検知された場合、すなわち、異常予測評価値が所定の閾値以上であった場合には、異常が検知された時刻に対応する各センサの重要度のうち、重要度が所定の閾値以上であるセンサを報知する。これにより、異常が発生した際に、特に重要度の高いセンサ同士の関係を報知することが可能である。   When the abnormality of the monitoring target facility is detected, the notification unit 15d notifies an input item having an importance level equal to or higher than a predetermined threshold among the respective importance levels acquired by the acquisition unit 15a. For example, the notification unit 15d acquires the determination result by the abnormality determination unit 13a, and when an abnormality of the monitoring target facility is detected, that is, when the abnormality prediction evaluation value is equal to or greater than a predetermined threshold, the abnormality is detected. Of the importance levels of the sensors corresponding to the designated time, a sensor having an importance level equal to or higher than a predetermined threshold is notified. Thereby, when abnormality occurs, it is possible to notify the relationship between sensors having particularly high importance.

ここで、図9を用いて、監視装置10によって実行される異常予測処理の概要を説明する図である。図9は、監視装置によって実行される異常予測処理の概要を説明する図である。   Here, it is a figure explaining the outline | summary of the abnormality prediction process performed by the monitoring apparatus 10 using FIG. FIG. 9 is a diagram for explaining an outline of the abnormality prediction process executed by the monitoring apparatus.

図9では、プラント内の反応炉や装置などにセンサや運転用の信号などを収集するデバイスが取り付けられ、一定時間毎にデータを収集していることを図示している。そして、図9では、収集部11が各センサA〜センサEから収集したプロセスデータの推移を示したものを図示しており(図9の(A)参照)、検出部12は、プロセスデータおよび自己符号化器を用いて、自己符号化器のニューラルネットワークに対して入力される入力データに対する出力データの再現誤差を検出し、該再現誤差に応じて、監視対象設備の異常予測評価値を算出する(図9の(B)参照)。そして、出力可視化部13は、算出された異常予測評価値の時系列データをチャート画面として出力する(図9の(C)参照)。   FIG. 9 illustrates that a sensor or a device for collecting an operation signal is attached to a reaction furnace or apparatus in a plant, and data is collected at regular intervals. FIG. 9 shows the transition of the process data collected from the sensors A to E by the collection unit 11 (see FIG. 9A). The detection unit 12 Using the self-encoder, it detects the output data reproduction error with respect to the input data input to the self-encoder neural network, and calculates the abnormal prediction evaluation value of the monitored equipment according to the reproduction error. (Refer to FIG. 9B). And the output visualization part 13 outputs the time series data of the calculated abnormality prediction evaluation value as a chart screen (see FIG. 9C).

また、算出部14は、自己符号化器に入力された各入力データと、自己符号化器から出力された出力データとを用いて、自己符号化器に入力された各入力データの出力データに対する重要度を算出する(図9の(D)参照)。そして、重要度可視化部15は、各センサデータの重要度の推移を示すグラフを表示する(図9の(E)参照)。図9の例では、センサAについての出力データに対する各センサA〜センサEについての入力データの重要度の推移を示すグラフを表示している。   Further, the calculation unit 14 uses each input data input to the self-encoder and output data output from the self-encoder to output data of each input data input to the self-encoder. The importance is calculated (see (D) of FIG. 9). And the importance visualization part 15 displays the graph which shows transition of importance of each sensor data (refer (E) of FIG. 9). In the example of FIG. 9, a graph showing the transition of the importance of the input data for each of the sensors A to E with respect to the output data for the sensor A is displayed.

[監視装置の処理手順]
次に、図10〜図12を用いて、第1の実施形態に係る監視装置10による処理手順の例を説明する。図10は、第1の実施形態に係る監視装置における異常予測処理の流れの一例を示すフローチャートである。図11は、第1の実施形態に係る監視装置における重要度算出処理の流れの一例を示すフローチャートである。図12は、第1の実施形態に係る監視装置におけるグラフ表示処理の流れの一例を示すフローチャートである。なお、図11に例示する処理は、再現誤差が大きい入力項目(センサ)のみを重要度計算の対象として絞り込む場合の処理である。
[Processing procedure of monitoring device]
Next, an example of a processing procedure performed by the monitoring apparatus 10 according to the first embodiment will be described with reference to FIGS. FIG. 10 is a flowchart illustrating an example of a flow of abnormality prediction processing in the monitoring device according to the first embodiment. FIG. 11 is a flowchart illustrating an example of the flow of importance calculation processing in the monitoring apparatus according to the first embodiment. FIG. 12 is a flowchart illustrating an example of the flow of graph display processing in the monitoring apparatus according to the first embodiment. Note that the process illustrated in FIG. 11 is a process in the case of narrowing down only input items (sensors) having a large reproduction error as importance calculation targets.

まず、図10を用いて、監視装置10による異常予測処理の流れを説明する。図10に例示するように、収集部11が、プロセスデータを収集すると(ステップS101肯定)、収集部11によって収集されたプロセスデータから、所定時点または所定の時間幅である分析フレームにおけるプロセスデータを抽出する(ステップS102)。   First, the flow of abnormality prediction processing by the monitoring apparatus 10 will be described with reference to FIG. As illustrated in FIG. 10, when the collection unit 11 collects process data (Yes in step S101), process data in an analysis frame having a predetermined time point or a predetermined time width is obtained from the process data collected by the collection unit 11. Extract (step S102).

そして、フレーム異常評価値算出部12bは、オートエンコーダ(自己符号化器)を用いて、入力データを再現し(ステップS103)、オートエンコーダのニューラルネットワークに対して入力される入力データに対する出力データの再現誤差を検出し、該再現誤差に応じて、監視対象設備の異常度であるフレーム異常評価値を算出する(ステップS104)。   Then, the frame abnormality evaluation value calculation unit 12b reproduces input data using an auto encoder (self-encoder) (step S103), and outputs output data for input data input to the neural network of the auto encoder. A reproduction error is detected, and a frame abnormality evaluation value that is the degree of abnormality of the monitored equipment is calculated according to the reproduction error (step S104).

その後、出力可視化部13の異常判定部13aは、フレーム異常評価値算出部12bによって算出されたフレーム異常評価値が所定の閾値以上であるか否かを判定する(ステップS105)。この結果、異常判定部13aは、異常予測評価値が所定の閾値未満である場合には(ステップS105否定)、そのまま処理を終了する。また、異常判定部13aは、異常予測評価値が所定の閾値以上である場合には(ステップS105肯定)、警告サインを出力する(ステップS106)。   Thereafter, the abnormality determination unit 13a of the output visualization unit 13 determines whether or not the frame abnormality evaluation value calculated by the frame abnormality evaluation value calculation unit 12b is equal to or greater than a predetermined threshold (step S105). As a result, when the abnormality prediction evaluation value is less than the predetermined threshold (No at Step S105), the abnormality determination unit 13a ends the process as it is. Moreover, the abnormality determination part 13a outputs a warning sign, when an abnormality prediction evaluation value is more than a predetermined threshold value (Yes at Step S105) (Step S106).

次に、図11を用いて、監視装置10による重要度算出処理の流れを説明する。図11に例示するように、重要度算出部14aは、学習済モデルに入力されたプロセスデータを分析フレームバッファ17から取得するとともに、学習済モデルから出力されたフレーム異常評価値をフレーム異常評価値バッファ18から取得すると(ステップS201肯定)、再現誤差が大きい入力項目(センサ)を重要度計算の対象として抽出する(ステップS202)。   Next, the flow of importance calculation processing by the monitoring apparatus 10 will be described with reference to FIG. As illustrated in FIG. 11, the importance calculation unit 14 a acquires process data input to the learned model from the analysis frame buffer 17, and uses the frame abnormality evaluation value output from the learned model as a frame abnormality evaluation value. When it is obtained from the buffer 18 (Yes at Step S201), an input item (sensor) having a large reproduction error is extracted as an object of importance calculation (Step S202).

そして、重要度算出部14aは、重要度計算の対象として抽出した項目の出力データに対する各入力データの重要度を算出する(ステップS203)。そして、重要度ノイズ除去部14bは、重要度算出部14aによって計算された重要度を所定の時間幅でスムージングしてノイズを除去する(ステップS204)。例えば、重要度ノイズ除去部14bは、ノイズを除去する技術としてSmooth Gradの手法を用いて、重要度をスムージングする。   Then, the importance calculation unit 14a calculates the importance of each input data with respect to the output data of the item extracted as the importance calculation target (step S203). Then, the importance noise removal unit 14b removes noise by smoothing the importance calculated by the importance calculation unit 14a with a predetermined time width (step S204). For example, the importance noise removing unit 14b smoothes the importance by using the method of Smooth Grad as a technique for removing noise.

次に、図12を用いて、監視装置10によるグラフ表示処理の流れを説明する。図12に例示するように、取得部15aが、自己符号化器に入力された各入力データの出力データに対する重要度を取得すると(ステップS301肯定)、作成部15bは、取得部15aによって取得された重要度を用いて、各センサの重要度の推移を示すグラフを作成する(ステップS302)。そして、重要度表示部15cは、作成部15bによって作成されたグラフを表示する(ステップS303)。   Next, the flow of graph display processing by the monitoring apparatus 10 will be described with reference to FIG. As illustrated in FIG. 12, when the acquisition unit 15a acquires the importance of the input data input to the self-encoder for the output data (Yes in step S301), the creation unit 15b is acquired by the acquisition unit 15a. A graph showing the transition of the importance of each sensor is created using the importance (step S302). Then, the importance level display unit 15c displays the graph created by the creation unit 15b (step S303).

(第1の実施形態の効果)
第1の実施形態に係る監視装置10は、監視対象設備に関する複数のデータを収集し、収集された複数のデータを入力データとして、自己符号化器を用いて、各入力データを再現した出力データを出力し、該入力データと該出力データとを比較して、該入力データに対する該出力データの再現誤差を検出する。そして、監視装置10は、自己符号化器に入力された各入力データと、自己符号化器から出力された出力データとを用いて、自己符号化器に入力された各入力データの出力データに対する重要度を算出する。このため、監視装置10では、各入力データの出力データに対する重要度を動的かつ容易に確認することが可能となる。
(Effects of the first embodiment)
The monitoring apparatus 10 according to the first embodiment collects a plurality of data related to the monitoring target facility, and uses the collected plurality of data as input data to output data that reproduces each input data using a self-encoder. And the input data is compared with the output data to detect a reproduction error of the output data with respect to the input data. Then, the monitoring apparatus 10 uses each input data input to the self-encoder and output data output from the self-encoder to output data of each input data input to the self-encoder. Calculate importance. Therefore, the monitoring device 10 can dynamically and easily check the importance of each input data with respect to the output data.

つまり、第1の実施形態に係る監視装置10では、センサ等の入力値から自己符号化器の学習済モデルを通すことで通常の異常検知や状態判定などを行い、その状態において出力に対してどの入力値が重要であるかを動的に確認することができる。その結果、出力値に応じてどの入力値を操作すればよいか判別し易くなる。   That is, in the monitoring apparatus 10 according to the first embodiment, normal abnormality detection or state determination is performed by passing a learned model of a self-encoder from an input value of a sensor or the like, and output in that state It is possible to dynamically confirm which input values are important. As a result, it becomes easy to determine which input value should be operated according to the output value.

例えば、第1の実施形態に係る監視装置10では、各時刻、各サンプルの入力に対して、自己符号化器の出力に重要な入力をその重要度とともに逐一抽出して提示することができる。これにより、その時々の状態に対して重要なセンサを提示することができるようになり、状態の変化する系に対しても対応できるようになった。また、状態を熟知している専門家でなくとも、その状態に対してどの項目に対して操作を行うかといった特定も行いやすくなった。   For example, the monitoring apparatus 10 according to the first embodiment can extract and present the input important for the output of the self-encoder together with the importance for each time and each sample input. This makes it possible to present an important sensor for the current state, and to deal with a system whose state changes. In addition, it is easier for a person who is not an expert who knows the state to specify which item is operated for that state.

また、第1の実施形態に係る監視装置10では、例えば、再現誤差が大きな出力データの項目のみを重要度計算の対象とした場合には、処理負荷を軽減するとともに処理を高速化し、重要な入力を効率的に特定することが出来る。   In the monitoring apparatus 10 according to the first embodiment, for example, when only output data items having a large reproduction error are targeted for importance calculation, the processing load is reduced and the processing speed is increased. Input can be identified efficiently.

(システム構成等)
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUやGPUおよび当該CPUやGPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
(System configuration etc.)
Further, each component of each illustrated apparatus is functionally conceptual, and does not necessarily need to be physically configured as illustrated. In other words, the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured. Furthermore, each processing function performed in each device is realized by a CPU or GPU and a program that is analyzed and executed by the CPU or GPU, or as hardware by wired logic. Can be realized.

また、本実施の形態において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。   In addition, among the processes described in this embodiment, all or part of the processes described as being automatically performed can be manually performed, or the processes described as being manually performed All or a part of the above can be automatically performed by a known method. In addition, the processing procedure, control procedure, specific name, and information including various data and parameters shown in the above-described document and drawings can be arbitrarily changed unless otherwise specified.

(プログラム)
また、上記実施形態において説明した監視装置が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。例えば、実施形態に係る監視装置10が実行する処理をコンピュータが実行可能な言語で記述した監視プログラムを作成することもできる。この場合、コンピュータが監視プログラムを実行することにより、上記実施形態と同様の効果を得ることができる。さらに、かかる監視プログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録された監視プログラムをコンピュータに読み込ませて実行することにより上記実施形態と同様の処理を実現してもよい。
(program)
It is also possible to create a program in which the processing executed by the monitoring device described in the above embodiment is described in a language that can be executed by a computer. For example, a monitoring program in which processing executed by the monitoring apparatus 10 according to the embodiment is described in a language that can be executed by a computer can be created. In this case, when the computer executes the monitoring program, the same effect as in the above embodiment can be obtained. Furthermore, the monitoring program may be recorded on a computer-readable recording medium, and the monitoring program recorded on the recording medium may be read by the computer and executed to execute the same processing as in the above embodiment.

図13は、監視プログラムを実行するコンピュータを示す図である。図13に例示するように、コンピュータ1000は、例えば、メモリ1010と、CPU1020と、ハードディスクドライブインタフェース1030と、ディスクドライブインタフェース1040と、シリアルポートインタフェース1050と、ビデオアダプタ1060と、ネットワークインタフェース1070とを有し、これらの各部はバス1080によって接続される。   FIG. 13 is a diagram illustrating a computer that executes a monitoring program. As illustrated in FIG. 13, the computer 1000 includes, for example, a memory 1010, a CPU 1020, a hard disk drive interface 1030, a disk drive interface 1040, a serial port interface 1050, a video adapter 1060, and a network interface 1070. These units are connected by a bus 1080.

メモリ1010は、図13に例示するように、ROM(Read Only Memory)1011及びRAM1012を含む。ROM1011は、例えば、BIOS(Basic Input Output System)等のブートプログラムを記憶する。ハードディスクドライブインタフェース1030は、図13に例示するように、ハードディスクドライブ1090に接続される。ディスクドライブインタフェース1040は、図13に例示するように、ディスクドライブ1100に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ1100に挿入される。シリアルポートインタフェース1050は、図13に例示するように、例えばマウス1110、キーボード1120に接続される。ビデオアダプタ1060は、図13に例示するように、例えばディスプレイ1130に接続される。   The memory 1010 includes a ROM (Read Only Memory) 1011 and a RAM 1012 as illustrated in FIG. The ROM 1011 stores a boot program such as BIOS (Basic Input Output System). The hard disk drive interface 1030 is connected to the hard disk drive 1090 as illustrated in FIG. The disk drive interface 1040 is connected to the disk drive 1100 as illustrated in FIG. For example, a removable storage medium such as a magnetic disk or an optical disk is inserted into the disk drive 1100. The serial port interface 1050 is connected to, for example, a mouse 1110 and a keyboard 1120 as illustrated in FIG. The video adapter 1060 is connected to a display 1130, for example, as illustrated in FIG.

ここで、図13に例示するように、ハードディスクドライブ1090は、例えば、OS1091、アプリケーションプログラム1092、プログラムモジュール1093、プログラムデータ1094を記憶する。すなわち、上記の、監視プログラムは、コンピュータ1000によって実行される指令が記述されたプログラムモジュールとして、例えばハードディスクドライブ1090に記憶される。   Here, as illustrated in FIG. 13, the hard disk drive 1090 stores, for example, an OS 1091, an application program 1092, a program module 1093, and program data 1094. That is, the above monitoring program is stored in, for example, the hard disk drive 1090 as a program module in which a command executed by the computer 1000 is described.

また、上記実施形態で説明した各種データは、プログラムデータとして、例えばメモリ1010やハードディスクドライブ1090に記憶される。そして、CPU1020が、メモリ1010やハードディスクドライブ1090に記憶されたプログラムモジュール1093やプログラムデータ1094を必要に応じてRAM1012に読み出し、各種処理手順を実行する。   In addition, various data described in the above embodiment is stored as program data in, for example, the memory 1010 or the hard disk drive 1090. Then, the CPU 1020 reads the program module 1093 and the program data 1094 stored in the memory 1010 and the hard disk drive 1090 to the RAM 1012 as necessary, and executes various processing procedures.

なお、監視プログラムに係るプログラムモジュール1093やプログラムデータ1094は、ハードディスクドライブ1090に記憶される場合に限られず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ等を介してCPU1020によって読み出されてもよい。あるいは、監視プログラムに係るプログラムモジュール1093やプログラムデータ1094は、ネットワーク(LAN(Local Area Network)、WAN(Wide Area Network)等)を介して接続された他のコンピュータに記憶され、ネットワークインタフェース1070を介してCPU1020によって読み出されてもよい。   Note that the program module 1093 and the program data 1094 related to the monitoring program are not limited to being stored in the hard disk drive 1090, but may be stored in, for example, a removable storage medium and read out by the CPU 1020 via the disk drive or the like. Good. Alternatively, the program module 1093 and the program data 1094 related to the monitoring program are stored in another computer connected via a network (LAN (Local Area Network), WAN (Wide Area Network), etc.), and via the network interface 1070. May be read by the CPU 1020.

上記の実施形態やその変形は、本願が開示する技術に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。   The above embodiments and modifications thereof are included in the invention disclosed in the claims and equivalents thereof as well as included in the technology disclosed in the present application.

10 監視装置
11 収集部
12 検出部
12a 分析フレーム抽出部
12b フレーム異常評価値算出部
13 出力可視化部
13a 異常判定部
13b チャート表示部
14 算出部
14a 重要度算出部
14b 重要度ノイズ除去部
15 重要度可視化部
15a 取得部
15b 作成部
15c 重要度表示部
15d 報知部
16 プロセスデータバッファ
17 分析フレームバッファ
18 フレーム異常評価値バッファ
DESCRIPTION OF SYMBOLS 10 Monitoring apparatus 11 Collection part 12 Detection part 12a Analysis frame extraction part 12b Frame abnormality evaluation value calculation part 13 Output visualization part 13a Abnormality determination part 13b Chart display part 14 Calculation part 14a Importance calculation part 14b Importance noise removal part 15 Importance Visualization unit 15a Acquisition unit 15b Creation unit 15c Importance display unit 15d Notification unit 16 Process data buffer 17 Analysis frame buffer 18 Frame abnormality evaluation value buffer

Claims (8)

監視対象に関する複数のデータを収集する収集手段と、
前記収集手段によって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出手段と、
前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出手段と
を有することを特徴とする監視装置。
A collection means for collecting a plurality of data related to the monitoring target;
A plurality of data collected by the collecting means as input data, using a self-encoder, detecting means for detecting the state of the monitoring target;
Using each input data input to the self-encoder and output data output from the self-encoder, the importance of the input data input to the self-encoder is calculated for the output data And a calculating device.
前記検出手段は、前記収集手段によって収集された複数のデータを入力データとして、前記自己符号化器を用いて、各入力データを再現した出力データを出力し、該入力データと該出力データとを比較して、該入力データに対する該出力データの再現誤差を検出することを特徴とする請求項1に記載の監視装置。   The detection means outputs a plurality of data collected by the collection means as input data, outputs output data that reproduces each input data using the self-encoder, and outputs the input data and the output data. The monitoring apparatus according to claim 1, wherein a comparison error of the output data with respect to the input data is detected by comparison. 前記検出手段は、前記入力データに対する前記出力データの再現誤差を検出し、該再現誤差に応じて、前記監視対象の異常度を算出することを特徴とする請求項2に記載の監視装置。   The monitoring device according to claim 2, wherein the detection unit detects a reproduction error of the output data with respect to the input data, and calculates an abnormality degree of the monitoring target according to the reproduction error. 前記算出手段は、前記検出手段によって検出された再現誤差が所定の閾値以上である出力データを抽出し、前記自己符号化器に入力された各入力データと抽出した出力データとを用いて、抽出した出力データに対する前記各入力データの重要度を算出することを特徴とする請求項2に記載の監視装置。   The calculation means extracts output data in which the reproduction error detected by the detection means is equal to or greater than a predetermined threshold, and uses each input data input to the self-encoder and the extracted output data to extract The monitoring device according to claim 2, wherein importance of each input data with respect to the output data is calculated. 前記算出手段は、前記自己符号化器に入力された各入力データと前記自己符号化器のニューラルネットワークにおける中間層のノードの出力データとを用いて、該中間層の出力データに対する前記各入力データの重要度を算出することを特徴とする請求項1に記載の監視装置。   The calculating means uses the input data input to the self-encoder and the output data of the nodes of the intermediate layer in the neural network of the self-encoder to input the input data for the output data of the intermediate layer. The monitoring apparatus according to claim 1, wherein the importance level of the metric is calculated. 前記算出手段によって算出された重要度を用いて、前記各入力データの出力データに対する重要度の推移を示すグラフを作成する作成手段と、
前記作成手段によって作成されたグラフを表示する表示手段と
をさらに有することを特徴とする請求項1に記載の監視装置。
Using the importance calculated by the calculation means, creating means for creating a graph showing the transition of the importance for the output data of each input data;
The monitoring apparatus according to claim 1, further comprising display means for displaying a graph created by the creating means.
監視装置によって実行される監視方法であって、
監視対象に関する複数のデータを収集する収集工程と、
前記収集工程によって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出工程と、
前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出工程と
を含んだことを特徴とする監視方法。
A monitoring method executed by a monitoring device,
A collection process for collecting a plurality of data related to the monitoring target;
A plurality of data collected by the collecting step as input data, using a self-encoder, a detection step of detecting the state of the monitoring target,
Using each input data input to the self-encoder and output data output from the self-encoder, the importance of each input data input to the self-encoder is calculated. A monitoring method characterized by including a calculating step.
監視対象設備で取得された複数のデータを収集する収集ステップと、
監視対象に関する複数のデータを収集する収集ステップと、
前記収集ステップによって収集された複数のデータを入力データとして、自己符号化器を用いて、前記監視対象の状態を検出する検出ステップと、
前記自己符号化器に入力された各入力データと、前記自己符号化器から出力された出力データとを用いて、前記自己符号化器に入力された各入力データの出力データに対する重要度を算出する算出ステップと
をコンピュータに実行させることを特徴とする監視プログラム。
A collection step for collecting a plurality of data acquired in the monitored facility;
A collection step to collect multiple data about the monitored object;
A plurality of data collected by the collecting step as input data, using a self-encoder to detect the state of the monitoring target; and
Using each input data input to the self-encoder and output data output from the self-encoder, the importance of each input data input to the self-encoder is calculated. A monitoring program that causes a computer to execute the calculating step.
JP2018068297A 2018-03-30 2018-03-30 Monitoring device, monitoring method and monitoring program Active JP6918735B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018068297A JP6918735B2 (en) 2018-03-30 2018-03-30 Monitoring device, monitoring method and monitoring program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018068297A JP6918735B2 (en) 2018-03-30 2018-03-30 Monitoring device, monitoring method and monitoring program

Publications (2)

Publication Number Publication Date
JP2019179400A true JP2019179400A (en) 2019-10-17
JP6918735B2 JP6918735B2 (en) 2021-08-11

Family

ID=68278566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018068297A Active JP6918735B2 (en) 2018-03-30 2018-03-30 Monitoring device, monitoring method and monitoring program

Country Status (1)

Country Link
JP (1) JP6918735B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022038722A1 (en) * 2020-08-19 2022-02-24 日本電信電話株式会社 Importance degree calculation device, importance degree calculation method, and importance degree calculation program
JP2022036032A (en) * 2020-08-19 2022-03-04 ヒタチ・エナジー・スウィツァーランド・アクチェンゲゼルシャフト Method and computer system for generating decision logic for controller
JP7414655B2 (en) 2020-07-01 2024-01-16 株式会社東芝 Learning systems, information processing devices, learning methods and programs

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
池田泰弘、外4名: "オートエンコーダを用いた異常検知におけるスパース最適化を用いた要因推定手法", 電子情報通信学会技術研究報告, vol. 117, no. 89, JPN6021012288, 8 June 2017 (2017-06-08), JP, pages 61 - 66, ISSN: 0004483111 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7414655B2 (en) 2020-07-01 2024-01-16 株式会社東芝 Learning systems, information processing devices, learning methods and programs
WO2022038722A1 (en) * 2020-08-19 2022-02-24 日本電信電話株式会社 Importance degree calculation device, importance degree calculation method, and importance degree calculation program
JP2022036032A (en) * 2020-08-19 2022-03-04 ヒタチ・エナジー・スウィツァーランド・アクチェンゲゼルシャフト Method and computer system for generating decision logic for controller
JP7309793B2 (en) 2020-08-19 2023-07-18 ヒタチ・エナジー・スウィツァーランド・アクチェンゲゼルシャフト Method and computer system for generating decision logic for a controller

Also Published As

Publication number Publication date
JP6918735B2 (en) 2021-08-11

Similar Documents

Publication Publication Date Title
US10747188B2 (en) Information processing apparatus, information processing method, and, recording medium
JP6918735B2 (en) Monitoring device, monitoring method and monitoring program
US9524223B2 (en) Performance metrics of a computer system
JP2018139085A (en) Method, device, system, and program for abnormality prediction
JP6521096B2 (en) Display method, display device, and program
WO2019087803A1 (en) Image processing device, image processing method, and recording medium
WO2020066052A1 (en) Monitoring system and monitoring method
EP3795975A1 (en) Abnormality sensing apparatus, abnormality sensing method, and abnormality sensing program
JP6887361B2 (en) Monitoring target selection device, monitoring target selection method, and program
EP3910437B1 (en) Monitoring apparatus, monitoring method, and computer-readable medium
JP2020052714A5 (en)
JP2010049359A (en) Plant monitoring device and plant monitoring method
JP7019364B2 (en) Monitoring device, monitoring method, monitoring program, display device, display method and display program
WO2019146538A1 (en) Image processing device, image processing method, and recording medium
JP2009110262A (en) Filter device, filtering method for filter device and filtering program
JP6728830B2 (en) Information processing device, information processing method, and program
US10157113B2 (en) Information processing device, analysis method, and recording medium
JP6734362B2 (en) Monitoring device, monitoring method, program
JP7225447B2 (en) Monitoring device, monitoring method and monitoring program
JP6627258B2 (en) System model generation support device, system model generation support method, and program
JP7016450B2 (en) Abnormal sign detection device, abnormal sign detection method, and abnormal sign detection program
JP6896380B2 (en) Failure sign judgment method, failure sign judgment device and failure sign judgment program
TWI824681B (en) Device management system, device failure cause estimation method, and memory medium for non-temporarily storing programs
JPWO2019187433A1 (en) Product detectors, methods and programs
JP2020057290A (en) Monitoring apparatus, monitoring method, and monitoring program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210721

R150 Certificate of patent or registration of utility model

Ref document number: 6918735

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250