JP2023020770A - Anomaly detection device, anomaly detection method, and anomaly detection program - Google Patents
Anomaly detection device, anomaly detection method, and anomaly detection program Download PDFInfo
- Publication number
- JP2023020770A JP2023020770A JP2021126335A JP2021126335A JP2023020770A JP 2023020770 A JP2023020770 A JP 2023020770A JP 2021126335 A JP2021126335 A JP 2021126335A JP 2021126335 A JP2021126335 A JP 2021126335A JP 2023020770 A JP2023020770 A JP 2023020770A
- Authority
- JP
- Japan
- Prior art keywords
- waveform
- anomaly detection
- divergence
- generated
- measured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 67
- 230000005856 abnormality Effects 0.000 claims description 56
- 238000013527 convolutional neural network Methods 0.000 claims description 19
- 230000002159 abnormal effect Effects 0.000 claims description 12
- 238000013528 artificial neural network Methods 0.000 claims description 7
- 238000005259 measurement Methods 0.000 abstract description 9
- 238000004364 calculation method Methods 0.000 abstract description 7
- 238000013461 design Methods 0.000 abstract description 5
- 230000002547 anomalous effect Effects 0.000 abstract 1
- 238000000034 method Methods 0.000 description 14
- 238000003860 storage Methods 0.000 description 14
- 238000012549 training Methods 0.000 description 13
- 238000007781 pre-processing Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 210000002569 neuron Anatomy 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
本発明は、異常検知装置、異常検知方法、及び異常検知プログラムに関する。 The present invention relates to an anomaly detection device, an anomaly detection method, and an anomaly detection program.
従来より、生産装置に設けられたセンサからの波形データに基づき故障の予知を検出する異常検知の技術が提案されている。一般に、異常検知では異常データが十分に集まらず、未知の異常を検知することが課題である。したがって、従来技術としては、正常データのみ学習し異常検知する機械学習の手法が提案されている。 2. Description of the Related Art Conventionally, there have been proposed anomaly detection techniques for detecting predictions of failures based on waveform data from sensors provided in production equipment. In general, anomaly detection does not collect enough anomaly data, and the problem is to detect unknown anomalies. Therefore, as a conventional technique, a machine learning method of learning only normal data and detecting anomalies has been proposed.
一般的に、生産装置は正常状態でも複数の動作条件下で稼働し得る。そこで、特許文献1では、複数の動作条件を考慮した異常検知の手法を提案している。一方、特許文献2では、正常データのみを学習させたモデルに計測波形を入力することで、生成波形を出力し、計測波形と生成波形を比較することで異常判定する手法を提案している。
In general, production equipment can operate under multiple operating conditions even under normal conditions. Therefore, Japanese Patent Application Laid-Open No. 2002-200001 proposes an anomaly detection method that considers a plurality of operating conditions. On the other hand,
しかしながら、特許文献1の技術では、動作条件ごとに用意した各学習モデルの全推論結果が全閾値を越えた場合に異常と判定するため、検知精度に課題がある。また、生成波形の特徴量を抽出して異常を検知する手法であるものの、異常データ不足の状態で有効な特徴量を設計するのは容易ではない。これに対して、特許文献2の技術は、波形での比較のため特徴量設計の必要がない。しかしながら、特許文献2で提案されているオートエンコーダへの入力は、単変量の説明変数のみとなっており、多数のパラメータが用いられる多変量の場合は想定されていない。さらに、特許文献1,2のいずれも異常の指標として単変数の異常度のみが通知されるため、異常判断の説明性が乏しいという問題がある。
However, the technique disclosed in Japanese Patent Laid-Open No. 2003-100003 has a problem in detection accuracy because it determines an abnormality when all the inference results of each learning model prepared for each operating condition exceed all thresholds. In addition, although this is a method of detecting anomalies by extracting feature amounts of generated waveforms, it is not easy to design effective feature amounts in a state of lack of anomaly data. On the other hand, the technique of
本発明は、上記問題を解決するためになされたものであり、取り扱う波形の特徴量の設計が不要であり、且つ多数のパラメータの波形に対応した説明性の高い、異常検知装置、異常検知方法、及び異常検知プログラムを提供することを目的とする。 The present invention has been made to solve the above problems, and an abnormality detection device and an abnormality detection method that do not require the design of waveform feature values to be handled and are highly descriptive corresponding to waveforms of a large number of parameters. , and to provide an anomaly detection program.
本発明は、対象機械の複数のパラメータに関する時系列データである計測波形を取得する取得部と、前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成する波形生成部と、前記計測波形と前記生成波形とを比較することで、乖離度を算出する乖離度算出部と、前記乖離度が所定の閾値を上回った場合には、前記計測波形が異常と判定する判定部と、を備え、前記波形生成部は、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルを備えている。 The present invention provides an acquisition unit that acquires a measured waveform that is time-series data relating to a plurality of parameters of a target machine, and a waveform that generates a generated waveform that is time-series data relating to the plurality of parameters by inputting the measured waveform. a generating unit, a divergence calculating unit that calculates a degree of divergence by comparing the measured waveform and the generated waveform, and a determination that the measured waveform is abnormal when the degree of divergence exceeds a predetermined threshold and the waveform generation unit includes a trained learning model that has been trained based on the measured waveform in the normal state of the target machine.
上記異常検知装置において、前記学習モデルは、前記対象機械の複数の動作条件下で取得された正常時の前記計測波形に基づいて学習されたものとすることができる。 In the anomaly detection device described above, the learning model may be learned based on the normal measurement waveforms acquired under a plurality of operating conditions of the target machine.
上記異常検知装置において、前記学習モデルは、教師なし学習により生成することができる。 In the anomaly detection device described above, the learning model can be generated by unsupervised learning.
上記異常検知装置において、前記学習モデルは、ニューラルネットワークにより構成することができる。 In the anomaly detection device described above, the learning model can be configured by a neural network.
上記異常検知装置において、前記ニューラルネットワークは、符号化部及び生成部を含み、前記符号化部は、前記計測波形を入力とし、潜在変数を出力とし、前記生成部は、前記潜在変数を入力とし、前記生成波形を出力とし、前記符号化部及び前記生成器は、畳み込みニューラルネットワークにより構成することができる。 In the anomaly detection device, the neural network includes an encoding unit and a generation unit, the encoding unit receives the measured waveform and outputs the latent variable, and the generation unit receives the latent variable. , the generated waveform may be output, and the encoder and the generator may be configured by a convolutional neural network.
上記異常検知装置において、前記学習モデルは、例えば、Efficient GANにより構成することができる。 In the anomaly detection device described above, the learning model can be configured by, for example, an efficient GAN.
上記異常検知装置において、前記乖離度は、一のスカラー値とすることができる。 In the anomaly detection device described above, the degree of divergence may be one scalar value.
上記異常検知装置において、前記乖離度算出部は、前記各パラメータ毎の時系列の個別乖離度を算出するように構成することができる。 In the anomaly detection device described above, the degree-of-divergence calculator may be configured to calculate a time-series individual degree-of-divergence for each of the parameters.
上記異常検知装置において、前記計測波形、前記生成波形、前記乖離度、及び前記パラメータ毎の時系列の個別乖離度の少なくとも1つを表示する表示部をさらに備えることができる。 The anomaly detection device may further include a display unit that displays at least one of the measured waveform, the generated waveform, the degree of divergence, and the time-series individual degree of divergence for each of the parameters.
本発明に係る異常判定方法は、対象機械の複数のパラメータに関する時系列データである計測波形を取得するステップと、前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成するステップと、前記計測波形と前記生成波形とを比較することで、乖離度を算出するステップと、前記乖離度が規定の閾値を上回った場合には、前記計測波形が異常と判定するステップと、を備え、前記生成波形を生成するステップは、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルにより行われている。 An abnormality determination method according to the present invention includes steps of acquiring a measured waveform that is time-series data relating to a plurality of parameters of a target machine; calculating a degree of divergence by comparing the measured waveform and the generated waveform; and determining that the measured waveform is abnormal when the degree of divergence exceeds a prescribed threshold. and the step of generating the generated waveform is performed by a trained learning model that has been trained based on the measured waveform in the normal state of the target machine.
本発明に係る異常判定プログラムは、コンピュータに、対象機械の複数のパラメータに関する時系列データである計測波形を取得するステップと、前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成するステップと、前記計測波形と前記生成波形とを比較することで、乖離度を算出するステップと、前記乖離度が規定の閾値を上回った場合には、前記計測波形が異常と判定するステップと、を実行させ、前記生成波形を生成するステップは、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルにより行われている。 An abnormality determination program according to the present invention comprises the steps of: acquiring a measured waveform, which is time-series data relating to a plurality of parameters of a target machine, into a computer; generating a generated waveform; comparing the measured waveform and the generated waveform to calculate a degree of divergence; and determining that the measured waveform is abnormal when the degree of deviation exceeds a prescribed threshold and the step of executing and generating the generated waveform are performed by a trained learning model that has learned based on the measured waveform in the normal state of the target machine.
本発明によれば、取り扱う波形の特徴量の設計が不要であり、且つ多数のパラメータの波形に対応した説明性の高い、異常検知装置、異常検知方法、及び異常検知プログラムを提供することができる。 According to the present invention, it is possible to provide an anomaly detection device, an anomaly detection method, and an anomaly detection program that do not require designing of feature quantities of waveforms to be handled and are highly descriptive corresponding to waveforms of many parameters. .
以下、本発明に係る異常検知装置の一実施形態について、図面を参照しつつ説明する。以下では、一例として生産設備のボールネジ機構の異常検知を行う異常検知装置について説明する。図1は、この異常検知装置を含むシステムの構成例であり、異常検知装置1と、この異常検知装置1で用いる学習モデルを生成する学習装置2と、ボールネジ機構を含む搬送装置3と、を備えている。以下、各構成について、詳細に説明する。 An embodiment of an abnormality detection device according to the present invention will be described below with reference to the drawings. An abnormality detection device that detects an abnormality in a ball screw mechanism of production equipment will be described below as an example. FIG. 1 shows an example of the configuration of a system including this anomaly detection device. I have. Each configuration will be described in detail below.
<1.ハードウエア構成>
<1-1.搬送装置>
図1に示すように、この搬送装置3は、ボールネジ31と、ボールネジ31に螺合するナット32と、ナット32上に設けられたワークWのステージ33と、を備えている。ボールネジ31にはサーボモータ34が連結され、このサーボモータ34によってボールネジ31が回転する。また、サーボモータ34には、これを制御するサーボドライバ35が接続されている。本実施形態では、異常検知のパラメータとして、サーボドライバ35で制御される、サーボモータ34の回転速度、出力トルク、及びステージの位置を用い、これらの時系列の波形を用いて異常の判定を行う。
<1. Hardware configuration>
<1-1. Conveyor>
As shown in FIG. 1 , the
<1-2.異常検知装置>
次に、本実施形態に係る異常検知装置1のハードウェア構成の一例について説明する。図2は、本実施形態に係る異常検知装置のハードウェア構成の一例である。
<1-2. Abnormality detection device>
Next, an example of the hardware configuration of the
この異常検知装置1は、制御部11、記憶部12、外部インタフェース13、及び通信インタフェース14が電気的に接続されたコンピュータであり、例えば、PLCで構成することができる。なお、図2では、外部インタフェース13及び通信インタフェース14を「外部I/F」及び「通信I/F」と記載している。この点は、後述する各種装置においても同様である。
This
制御部11は、CPU、RAM、ROM等を含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。記憶部12は、例えば、HDD、SDD等の補助記憶装置で構成され、異常検知プログラム121、学習結果データ122、異常判定や装置を駆動するための種々のデータを記憶する。異常検知プログラム121は、異常検知装置1に計測波形の異常の有無の判定をさせるためのプログラムである。制御部11は、この異常検知プログラム121を解釈及び実行することで、後述する各ステップの処理を実行するように構成される。
The
外部インタフェース13は、外部装置と接続するためのインタフェースであり、接続する外部装置に応じて適宜構成される。本実施形態では、外部インタフェース13が、ディスプレイ(表示部)4に接続されている。このディスプレイ4は、例えば、異常判定の結果等を表示するのに利用される。ディスプレイ4は、特には限定されず、公知の液晶ディスプレイ、タッチパネルディスプレイ等を用いることができる。その他、外部インタフェース13には、入力装置及び出力装置等を適宜接続することができる。
The
通信インタフェース14は、例えば、有線LAN(Local Area Network)モジュール、無線LANモジュール等であり、有線又は無線通信を行うためのインタフェースである。すなわち、通信インタフェース14は、他の装置と通信を行うように構成された通信部の一例である。本実施形態では、ネットワークを介して、上述した学習装置2、及び搬送装置3に接続されている。
The
なお、異常検知装置1の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部11は、複数のプロセッサを含んでもよい。また、制御部11は、FPGAにより構成されてもよい。記憶部12は、制御部11に含まれるRAM及びROMにより構成されてもよい。異常検知装置1は、PLCのほか、提供されるサービス専用に設計された情報処理装置を用いることができる。さらには、異常判定を行う対象に応じて、汎用のデスクトップPC、タブレットPC等であってもよい。以上の点は、後述する学習装置2においても同じである。
Regarding the specific hardware configuration of the
<1-3.学習装置>
次に、本実施形態に係る学習装置2のハードウェア構成の一例について説明する。図3は、本実施形態に係る学習装置のハードウェア構成の一例である。
<1-3. Learning Device>
Next, an example of the hardware configuration of the
図3に示すように、学習装置2は、異常検知装置1と同様に、制御部21、記憶部22、外部I/F23、及び通信I/F24が電気的に接続されたコンピュータである。
As shown in FIG. 3, the
制御部21及び記憶部22の構成は、異常検知装置と同じである。記憶部には、学習プログラム221、学習モデル222、第1学習結果データ223、第2学習結果データ224、及び学習装置を駆動するための種々のデータを記憶する。学習プログラム221は、計測波形から生成波形を出力するための学習モデル222を学習するためのプログラムである。制御部21は、この学習プログラム221を解釈及び実行することで、後述する各ステップの処理を実行するように構成される。
The configurations of the
その他のハードウエア構成は、異常検知装置1と同じであるため、ここでは省略する。
Since other hardware configurations are the same as those of the
<2.ソフトウエア構成>
<2-1.学習装置>
<2. Software configuration>
<2-1. Learning Device>
学習装置2では、搬送装置3のサーボドライバ35から送信されたサーボモータ34の回転速度、出力トルク、及びステージの位置に関する、時系列データである計測波形を用いて学習モデル222の学習を行う。特に、この学習モデル222は、搬送装置3が正常に稼働しているときの正常時の計測波形により、学習される。以下、図4を参照しつつ、学習装置2のソフトウエア構成について説明する。図4は、学習装置のソフトウエア構成を示すブロック図である。
The
<2-1-1.学習モデル>
図4に示すように、学習装置2の制御部21は、記憶部22に記憶された学習プログラム221をRAMに展開すると、その学習プログラム221をCPUにより解釈及び実行して、取得部211、符号化部212、生成部213、判別部214、及び保存処理部215を備えたコンピュータとして機能する。
<2-1-1. Learning model >
As shown in FIG. 4, when the
取得部211は、上述したように、サーボモータ34の回転速度、出力トルク、及びステージの位置に関する、時系列データである計測波形を取得する。この計測波形は、後述するように、異常検知装置1の前処理後に送信される。但し、サーボドライバ35から直接送信し、後述するように、取得部211において、前処理が施されてもよい。
As described above, the acquiring
また、取得部211で取得される計測波形は、同じ動作条件のみならず、異なる動作条件で搬送装置3が稼働したときの計測波形も取得される。例えば、軽いワークを搬送したとき(動作条件1)の計測波形と、重いワークを搬送したとき(動作条件2)の計測波形とが入力される。各動作条件時の計測波形の例を図5に示す。この例では、重いワークWを搬送したとき、速度が低下し、トルクが増大していることがわかる。なお、異なる動作条件としては、上記のほか、種々のものがあり、例えば、異なる加工部品を用いる場合(例えば、段取り替えによるステージの付け替えなど)、異なる環境温度で動作する場合(例えば。朝・昼の気温の変化など)がある。
In addition, the measurement waveforms acquired by the
次に、符号化部212、生成部213、及び判別部214について説明する。これら符号化部212、生成部213、及び判別部214は、Efficient Generative Adversarial Network(Efficient GAN:敵対的生成ネットワーク)による学習モデルを構成している。そして、符号化部212及び生成部213は、例えば、畳み込みニューラルネットワーク(CNN)により構成されている。これについては、後述する。判別部214も、同様のCNNにより構成されている。但し、判別部214の構成は、符号化部212及び生成部213と異なっていてよい。
Next, the
学習の実施に際しては、判別部214を訓練する第1訓練ステップ、及び符号化部212及び生成部213を訓練する第2訓練ステップを交互に行う。第1訓練ステップでは、判別部214に入力された生成波形が、生成部213により生成された生成波形であるか、取得部211から送信された計測波形であるかを判別するように判別部214を訓練する。つまり、判別部214は、入力された波形が取得部211由来か、生成部213由来かを判別するように訓練される。また、第2訓練ステップでは、判別部214による判別が誤るような波形を生成するように符号化部212及び生成部213を訓練する。なお、ここでは、取得部211由来であることを「真」と表現し、生成部213由来であることを「偽」と表現する。ただし、各由来を表現する方法は、このような例に限定されなくてよく、実施の形態に応じて適宜選択されてよい。
When performing learning, a first training step for training the discriminating
具体的に説明すると、第1訓練ステップでは、計測波形を符号化部212に入力する。符号化部212は、潜在変数zを出力し、この潜在変数zが生成部213に入力されると、生成部213は、符号化部212に入力された計測波形に近似する生成波形を出力する。
Specifically, in the first training step, the measured waveform is input to the
この生成波形は、判別部214に入力され、演算処理が実行される。これにより、生成波形が生成部213由来か取得部211由来かを判別した結果に対応する出力値を出力する。ここでは、判別部214に入力された生成波形は、生成部213が生成した生成波形であるため、判別部214は、「偽」と判別するのが正解である。そして、出力値とこの正解との誤差を算出する。こうして、各生成波形について、出力値とこの正解との誤差を算出する。
This generated waveform is input to the
同様に、計測波形を判別部214に入力し、判別部214の演算処理を実行する。これにより、判別部214は、入力された波形が生成部213由来か取得部211由来かを判別した結果に対応する出力値を出力する。ここでは、入力された波形は計測波形であるため、判別部214は、「真」と判別するのが正解である。こうして、各波形について、出力値とこの正解との誤差を算出する。
Similarly, the measured waveform is input to the
そして、算出される誤差の和が小さくなるように、判別部214のCNNのパラメータの値を調節する。出力値と真偽の正解との誤差の和が閾値以下になるまで、上記一連の処理により、判別部214のパラメータの値の調節を繰り返す。これにより、第1訓練ステップでは、生成部213により生成された生成波形であるか、計測波形であるかを判別するように、誤差逆伝播法(Backpropagation)等により判別部214を訓練する。
Then, the values of the CNN parameters of the
一方、第2訓練ステップでは、計測波形を符号化部212に入力する。符号化部212は、潜在変数zを出力し、この潜在変数zが生成部213に入力されると、生成部213は、符号化部212に入力された計測波形に近似する生成波形を出力する。
On the other hand, in the second training step, the measured waveform is input to the
次に、生成された生成波形を判別部214に入力し、判別部214の演算処理を実行する。これにより、入力された生成波形が生成部213由来か取得部211由来かを判別した結果に対応する出力値を出力する。この生成部213の訓練では、判別部214による判別の結果を誤らせることが正解である。つまり、生成部213で生成された生成波形が、計測波形と見間違うほどに近似したものが生成されていればよく、得られる出力値が「真」に対応することが正解である。計測波形と生成波形の組み合わせについて、一連の処理により得られた出力値とこの正解(つまり、「真」)との誤差を算出する。
Next, the generated generated waveform is input to the
そして、算出される誤差の和が小さくなるように、符号化部212及び生成部213のCNNのパラメータの値を調節する。各計測波形と生成波形との組み合わせについて、一連の処理により得られる出力値と「真」との誤差の和が閾値以下になるまで、上記一連の処理により、符号化部212及び生成部213のパラメータの値の調節を繰り返す。これにより、第2訓練ステップでは、判別部214による判別が誤るような生成波形を生成するように、誤差逆伝播法(Backpropagation)等により生成部213(及び符号化部212)を訓練する。
Then, the CNN parameter values of the
このように、上記第1訓練ステップ及び第2訓練ステップを交互に実施することで、判別部214及び生成部213(及び符号化部212)の精度を交互に高めていく。これにより、生成部213は、計測波形とほぼ同じであるような生成波形を適切に生成する能力を習得することができる。
In this way, by alternately performing the first training step and the second training step, the accuracy of the
この学習が完了した後、保存処理部215は、構築された符号化部212及び生成部213と、判別部214との構成(例えば、ニューラルネットワークの層数、各層におけるニューロンの個数、ニューロン同士の結合関係、各ニューロンの伝達関数)、及び演算パラメータ(例えば、各ニューロン間の結合の重み、各ニューロンの閾値)をそれぞれ示す第1学習結果データ223及び第2学習結果データ224を生成する。そして、保存処理部215は、生成した第1及び第2学習結果データ223,224を記憶部22に保存する。
After this learning is completed, the
こうして、学習された符号化部212及び生成部213に、計測波形を入力すると、計測波形に近似する生成波形を生成することができる。
By inputting the measured waveform to the
<2-1-2.CNN>
次に、符号化部212及び生成部213を構成するCNNの一例について、図6を参照しつつ説明する。このCNNは一次元CNNで構成され、具体的には、符号化部212は一次元CNN、生成部213は一次元転置CNNで構成されている。図6は、符号化部及び生成部とCNNとの対応を示す図である。符号化部212に入力される計測波形は、異常検知装置1の前処理部112で生成される。
<2-1-2. CNN>
Next, an example of CNN that configures the
この点について先に説明を行う。前処理部112は、収集された計測波形に対し、前処理を行う。前処理としては、例えば、以下の3個の処理を行うことができる。まず、搬送装置3において、ステージ33が始点から終点まで区間(フレーム)を移動する間の波形を切り出し、これを判定に用いる。また、計測波形の値を0~1の数値となるように正規化する。さらに、時系列のフレーム長が64となるように線形変換する。
This point will be explained first. The
図6に示すように、このCNNでは、符号化部212に、上述した3つのパラメータについて、フレーム長が64に変換した(C,T)で示されるデータを入力する。ここで、Cは変数の次元数、Tはデータのフレーム長である。符号化部212に入力されるデータは、パラメータの数が3,フレーム長が64であるため、(3,64)となる。つまり、3*64=192のデータが入力される。したがって、図6に示すように、CNNの各層のデータは、(C,T)で示されている。
As shown in FIG. 6, in this CNN, data indicated by (C, T) obtained by converting the frame length to 64 for the three parameters described above is input to the
また、このCNNでは、符号化部212において、4つの層でデータが、(32,32)、(64,16)、(128,8)と、データフレーム長を縮小するように演算し、全結合層において、潜在変数zに対応する10のデータを生成する。すなわち、この潜在変数zは、計測波形の次元を縮小し、計測波形の特徴を低次元で示したものである。このように計測波形を低次元で表すことで、学習を容易に行うことができる。その後、この潜在変数zに対応するデータを生成部213に入力し、5つの層でデータが、(512,4)、(256,8)、(128,16)と縮小されたデータフレーム長が拡大するように演算し、最終的に計測波形と対応する(3,64)のデータ、つまり生成波形を生成する。
Also, in this CNN, in the
なお、このCNNは一例であり、通常のニューラルネットワーク等を用いることもできる。 Note that this CNN is an example, and a normal neural network or the like can also be used.
<2-2.異常検知装置>
次に、異常検知装置1のソフトウエア構成について説明する。図7は、異常検知装置のソフトウエア構成を示すブロック図である。図7に示すように、異常検知装置1の制御部11は、記憶部12に記憶された異常検知プログラム121をRAMに展開すると、その異常検知プログラム121をCPUにより解釈及び実行して、収集部111、前処理部112、波形生成部113、乖離度算出部114、判定部115、及び出力部116を備えたコンピュータとして機能する。
<2-2. Abnormality detection device>
Next, the software configuration of the
収集部111は、搬送装置3のサーボドライバ35から送信されたサーボモータ34の回転速度、出力トルク、及びステージの位置に関する、時系列データである計測波形を収集する。収集された計測波形は、記憶部12またはRAMに記憶される。
The
前処理部112は、収集された計測波形に対し、前処理を行う。この処理については、上述したとおりである。また、前処理された計測波形は、学習装置2に送信され、上述した学習に用いられる。
The
波形生成部113は、上述したように、学習装置2で生成された第1学習結果データ223が導入された訓練済みの符号化部212及び生成部213により構成されている。
As described above, the
乖離度算出部114は、計測波形と生成波形とを比較し、その乖離度を算出する。乖離度としては、個別乖離度と総合乖離度を算出する。個別乖離度の算出は、次のように行う。まず、上記3つのパラメータのそれぞれについて、時系列データで示された計測波形と生成波形の差分を時系列に算出した乖離度時系列データを算出する。例えば、フレーム長である64個のデータそれぞれについて差分を算出し、64個の差分のデータからなる乖離度時系列データを算出する。続いて、64個のデータを合計し、個別乖離度を算出する。すなわち、3つのパラメータ毎の乖離度を表すことができる。
The
図8は、3つのパラメータについて、正常時の計測波形と生成波形と重ねたグラフ、及び各パラメータの乖離度時系列データを示すグラフである。一方、図9は、3つのパラメータについて、異常時の計測波形と生成波形と重ねたグラフ,及び各パラメータの乖離度時系列データを示すグラフである。図8に示す正常時の乖離度時系列データでは、いずれのパラメータにおいても、乖離度はどの時間帯においても、概ね0である。なお、図8の計測波形と生成波形を重ねたグラフでは、両者がほぼ同じであるため、1つの線に見えている。一方、図9に示す異常時の乖離度時系列データでは、乖離度が変化していることが分かる。例えば、トルクに関する乖離度時系列データは、搬送の開始時に大きく変化していることが分かる(丸で囲んだ部分)。 FIG. 8 is a graph showing superimposed measured waveforms and generated waveforms in the normal state, and deviation time-series data for each parameter, for three parameters. On the other hand, FIG. 9 is a graph showing superimposed measured waveforms and generated waveforms in an abnormal state and deviation time-series data of each parameter for three parameters. In the divergence degree time-series data in the normal state shown in FIG. 8, the divergence degree is approximately 0 for any parameter in any time zone. In addition, in the graph in which the measured waveform and the generated waveform are superimposed in FIG. 8, the two are almost the same, so they appear as one line. On the other hand, it can be seen that the degree of divergence changes in the degree of divergence time-series data at the time of abnormality shown in FIG. For example, it can be seen that the divergence time-series data regarding torque changes significantly at the start of conveyance (the circled portion).
また、個別乖離度に基づいて、図10に示すような乖離度のランキングを生成することもできる。一方、総合乖離度は、個別乖離度を合計した一のスカラー値である。こうして、各計測波形と生成波形の組み合わせについて、個別乖離度と総合乖離度が算出される。 Moreover, it is also possible to generate a ranking of the degrees of deviation as shown in FIG. 10 based on the individual degrees of deviation. On the other hand, the overall degree of deviation is a single scalar value that is the sum of the individual degrees of deviation. In this way, the individual degree of deviation and the total degree of deviation are calculated for each combination of the measured waveform and the generated waveform.
判定部115は、総合乖離度が規定の閾値を超えた場合には、異常と判定し、閾値を以下である場合には、正常と判定する。波形生成部113は、正常時の計測波形に基づいて学習された学習モデルを含んでいるため、正常時の計測波形を入力すると、これに近似する生成波形が生成される。一方、異常時の計測波形を入力すると、正常時の生成波形とは異なる生成波形が生成されるため、乖離が大きくなる。したがって、総合乖離度が所定の閾値を超えた場合には、異常と判定される。図11はその一例である。正常な計測波形が入力された場合には、閾値よりも低い総合乖離度が算出される一方、異常な計測波形が入力された場合には、閾値よりも高い総合乖離度が算出されていることが分かる。
The
出力部116は、計測波形、生成波形、乖離度時系列データ、個別乖離度、総合乖離度の少なくとも1つを出力し、ディスプレイ4に表示する。また、異常が発生したときのアラートをディスプレイ4に表示したり、音を発生するなど、の出力を行うことができる。
The
<3.学習装置での学習処理>
次に、上記のように構成された学習装置の学習処理について、図12のフローチャートを参照しつつ説明する。
<3. Learning processing by learning device>
Next, the learning process of the learning device configured as described above will be described with reference to the flowchart of FIG.
図12に示すように、まず、搬送装置3を稼働し(ステップS11)、上述した3つのパラメータについて、正常時の計測波形を収集する(ステップS12)。次に、計測波形に前処理を施す(ステップS13)。続いて、前処理が施された計測波形を学習モデル222に入力し、上述した第1及び第2学習結果データ223,224を生成する(ステップS14)。これに続いて、閾値を設定する(ステップS15)。閾値の設定は、特には限定されないが、例えば、上記総合乖離度の正規分布を算出し、その3σ以上、例えば、3σ、4σなどに閾値を設定することができる。なお、閾値は、学習装置2において自動で設定するほか、異常検知装置1で設定することもできる。あるいは、利用者が任意に設定することもできる。その後、第1学習結果データ223は、異常検知装置1に送信され、波形生成部113に組み込まれる(ステップS16)。なお、第1学習結果データ223は、定期的に作成され、その都度、波形生成部113に組み込むことができる。こうして、学習装置2での学習処理が終了する。
As shown in FIG. 12, first, the conveying
<4.異常検知装置での異常検知方法>
次に、上記のように構成された異常検知装置における異常検知方法について、図13のフローチャートを参照しつつ説明する。
<4. Anomaly detection method with an anomaly detection device>
Next, an abnormality detection method in the abnormality detection device configured as described above will be described with reference to the flowchart of FIG. 13 .
図13に示すように、まず、搬送装置3の稼働中に、収集部111において、上述した3つのパラメータについて、計測波形を収集する(ステップS21)。次に、前処理部112により、計測波形に前処理を施す(ステップS22)。続いて、上記第1学習結果データ223が組み込まれた波形生成部113に、前処理が施された計測波形を入力し、生成波形を生成する(ステップS23)。これに続いて、乖離度算出部114により、算出された生成波形と計測波形を比較し、総合乖離度を算出する(ステップS24)。最後に、判定部115により総合乖離度が閾値未満である場合には(ステップS25のYES)、正常であるとして搬送装置の可動を続ける。一方、総合乖離度が閾値以上である場合には(ステップS25のNO)、異常が発生しているとして、ディスプレイ4に異常のアラートを表示する(ステップS26)。
As shown in FIG. 13, first, while the
<5.特徴>
以上のように、本実施形態によれば、搬送装置3において計測される、複数のパラメータに関する時系列データである正常時の計測波形から、この複数のパラメータに関する時系列データである生成波形を生成する波形生成部113を有し、計測波形と生成波形とを比較することで、乖離度を算出し、これが所定の閾値を上回った場合には、異常であると判定するようにしている。そのため、以下の効果を得ることができる。
<5. Features>
As described above, according to the present embodiment, a generated waveform, which is time-series data relating to a plurality of parameters, is generated from a normal measured waveform, which is time-series data relating to a plurality of parameters, measured in the
(1)複数の動作条件に対応した精度の高い異常の検知が可能となる。
(2)乖離度時系列データ、個別乖離度を算出できるため、各パラメータにおいて、例えば、どの時刻に乖離度が大きくなっているかを確認することができる。したがって、異常判断の説明性を高くすることができる。
(3)簡単な前処理を施した計測波形を入力して生成波形を出力するため、波形の特徴量を設計する必要がない。
(1) Abnormalities can be detected with high accuracy corresponding to a plurality of operating conditions.
(2) Since it is possible to calculate deviation time-series data and individual deviation, it is possible to confirm, for example, at what time the deviation becomes large for each parameter. Therefore, it is possible to enhance the explainability of abnormality determination.
(3) Since a measured waveform to which simple preprocessing has been applied is input and a generated waveform is output, there is no need to design the feature amount of the waveform.
<6.変形例>
以上、本発明の実施形態について説明してが、前述までの説明はあらゆる点において本発明の例示に過ぎず、本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略した。また、以下の変形例は適宜組み合わせ可能である。
<6. Variation>
Although the embodiments of the present invention have been described above, the above description is merely an example of the present invention in all respects, and it goes without saying that various improvements and modifications can be made without departing from the scope of the present invention. stomach. For example, the following changes are possible. In addition, below, the same code|symbol is used about the component similar to the said embodiment, and description is abbreviate|omitted suitably about the point similar to the said embodiment. Moreover, the following modified examples can be appropriately combined.
<6-1>
上実施形態では、GANによる学習モデルを有しているが、これに限定されるものではなく、オートエンコーダ、GANomaly、Skip GANomaly等のニューラルネットワークで構成することができる。すなわち、上記のような複数のパラメータに関する時系列データのような多変量多次元のデータを学習できる手法であればよい。
<6-1>
Although the above embodiment has a learning model based on GAN, it is not limited to this, and can be configured with a neural network such as autoencoder, GANomaly, Skip GANomaly. That is, any method may be used as long as it can learn multivariate multidimensional data such as time-series data relating to a plurality of parameters as described above.
<6-2>
乖離度算出部114における異常判定を行うための乖離度の算出方法は、特には限定されず、判定部115で評価可能な計測波形と生成波形との差を乖離度として算出できればよい。
<6-2>
A method of calculating the degree of divergence for performing the abnormality determination in the degree of
<6-3>
上記実施形態では、異常検知装置1と学習装置2とを別のコンピュータで構成しているが、1つのコンピュータで構成することもできる。すなわち、異常検知装置1に学習機能が付加されていてもよい。
<6-3>
In the above embodiment, the
<6-4>
計測波形の前処理の方法は、特には限定されず、使用される学習モデルに応じて適宜変更することができる。あるいは、前処理を行わずに学習を行ったり、生成波形を生成することもできる。
<6-4>
The method of preprocessing the measured waveform is not particularly limited, and can be changed as appropriate according to the learning model used. Alternatively, learning can be performed without preprocessing, and generation waveforms can be generated.
<6-5>
上記実施形態の異常検知装置1では、ボールネジ機構を有する搬送装置における異常を判定しているが、これに限定されものでなく、種々の対象機械の異常を判定に適用することができる。
<6-5>
Although the
1 異常検知装置
11 取得部
13 波形生成部
14 乖離度算出部
15 判定部
2 学習装置
212 符号化部
213 生成部
214 判別部
222 学習モデル
3 搬送装置(対象機械)
4 ディスプレイ(表示部)
1
4 display (display)
Claims (11)
前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成する波形生成部と、
前記計測波形と前記生成波形とを比較することで、乖離度を算出する乖離度算出部と、
前記乖離度が所定の閾値を上回った場合には、前記計測波形が異常と判定する判定部と、
を備え、
前記波形生成部は、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルを備えている、異常検知装置。 an acquisition unit that acquires measured waveforms, which are time-series data relating to a plurality of parameters of the target machine;
a waveform generation unit that receives the measured waveform and generates a generated waveform that is time-series data related to the plurality of parameters;
a divergence calculator that calculates a divergence by comparing the measured waveform and the generated waveform;
a determination unit that determines that the measured waveform is abnormal when the degree of divergence exceeds a predetermined threshold;
with
The anomaly detection device, wherein the waveform generator includes a trained learning model learned based on the measured waveform of the target machine during normal operation.
前記符号化部は、前記計測波形を入力とし、潜在変数を出力とし、
前記生成部は、前記潜在変数を入力とし、前記生成波形を出力とし、
前記符号化部及び前記生成器は、畳み込みニューラルネットワークにより構成されている、請求項4に記載の異常検知装置。 The neural network includes an encoder and a generator,
The encoding unit receives the measured waveform and outputs a latent variable,
The generating unit receives the latent variable and outputs the generated waveform,
5. The anomaly detection device according to claim 4, wherein said encoder and said generator are configured by a convolutional neural network.
前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成するステップと、
前記計測波形と前記生成波形とを比較することで、乖離度を算出するステップと、
前記乖離度が規定の閾値を上回った場合には、前記計測波形が異常と判定するステップと、
を備え、
前記生成波形を生成するステップは、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルにより行われている、異常検知方法。 acquiring a measured waveform that is time-series data on a plurality of parameters of the target machine;
inputting the measured waveform to generate a generated waveform, which is time-series data relating to the plurality of parameters;
a step of calculating a degree of divergence by comparing the measured waveform and the generated waveform;
a step of determining that the measured waveform is abnormal when the degree of divergence exceeds a prescribed threshold;
with
The anomaly detection method, wherein the step of generating the generated waveform is performed by a trained learning model that has been trained based on the measured waveform in the normal state of the target machine.
対象機械の複数のパラメータに関する時系列データである計測波形を取得するステップと、
前記計測波形を入力することで、前記複数のパラメータに関する時系列データである生成波形を生成するステップと、
前記計測波形と前記生成波形とを比較することで、乖離度を算出するステップと、
前記乖離度が規定の閾値を上回った場合には、前記計測波形が異常と判定するステップと、
を実行させ、
前記生成波形を生成するステップは、前記対象機械における正常時の前記計測波形に基づいて学習された訓練済みの学習モデルにより行われている、異常検知プログラム。 to the computer,
acquiring a measured waveform that is time-series data on a plurality of parameters of the target machine;
inputting the measured waveform to generate a generated waveform, which is time-series data relating to the plurality of parameters;
a step of calculating a degree of divergence by comparing the measured waveform and the generated waveform;
a step of determining that the measured waveform is abnormal when the degree of divergence exceeds a prescribed threshold;
and
The anomaly detection program, wherein the step of generating the generated waveform is performed by a trained learning model that has been trained based on the measured waveform in the normal state of the target machine.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021126335A JP2023020770A (en) | 2021-07-30 | 2021-07-30 | Anomaly detection device, anomaly detection method, and anomaly detection program |
PCT/JP2022/012045 WO2023007825A1 (en) | 2021-07-30 | 2022-03-16 | Anomaly detection device, anomaly detection method, and anomaly detection program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021126335A JP2023020770A (en) | 2021-07-30 | 2021-07-30 | Anomaly detection device, anomaly detection method, and anomaly detection program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023020770A true JP2023020770A (en) | 2023-02-09 |
Family
ID=85087799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021126335A Pending JP2023020770A (en) | 2021-07-30 | 2021-07-30 | Anomaly detection device, anomaly detection method, and anomaly detection program |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2023020770A (en) |
WO (1) | WO2023007825A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230176556A1 (en) * | 2021-12-08 | 2023-06-08 | Ford Global Technologies, Llc | Systems and methods for detecting manufacturing anomalies |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020187667A (en) * | 2019-05-17 | 2020-11-19 | トヨタ自動車株式会社 | Information processing apparatus and information processing method |
JP7218867B2 (en) * | 2019-05-24 | 2023-02-07 | Kyb株式会社 | Anomaly detection device and anomaly detection method |
JP2021009441A (en) * | 2019-06-28 | 2021-01-28 | ルネサスエレクトロニクス株式会社 | Abnormality detection system and abnormality detection program |
KR102265298B1 (en) * | 2019-11-19 | 2021-06-17 | 한국생산기술연구원 | Apparatus and method for fault diagnosis using fake data generated by machine learning |
JP7452990B2 (en) * | 2019-11-29 | 2024-03-19 | 東京エレクトロン株式会社 | Anomaly detection device, anomaly detection method, and anomaly detection program |
-
2021
- 2021-07-30 JP JP2021126335A patent/JP2023020770A/en active Pending
-
2022
- 2022-03-16 WO PCT/JP2022/012045 patent/WO2023007825A1/en unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023007825A1 (en) | 2023-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11275345B2 (en) | Machine learning Method and machine learning device for learning fault conditions, and fault prediction device and fault prediction system including the machine learning device | |
EP3776113B1 (en) | Apparatus and method for controlling system | |
Shin et al. | One-class support vector machines—an application in machine fault detection and classification | |
US11551111B2 (en) | Detection and use of anomalies in an industrial environment | |
Costa et al. | Failure detection in robotic arms using statistical modeling, machine learning and hybrid gradient boosting | |
US10929220B2 (en) | Time series retrieval for analyzing and correcting system status | |
JP2021528745A (en) | Anomaly detection using deep learning on time series data related to application information | |
Guh | Simultaneous process mean and variance monitoring using artificial neural networks | |
US20050261837A1 (en) | Kernel-based system and method for estimation-based equipment condition monitoring | |
JP7201844B2 (en) | Fault prediction using gradient-based sensor identification | |
Unal et al. | Data-driven artificial intelligence and predictive analytics for the maintenance of industrial machinery with hybrid and cognitive digital twins | |
WO2023007825A1 (en) | Anomaly detection device, anomaly detection method, and anomaly detection program | |
Wu et al. | Control chart pattern recognition using an integrated model based on binary-tree support vector machine | |
WO2020188696A1 (en) | Abnormality detection device, and abnormality detection method | |
JP2023106037A (en) | Driving assist system, driving assist method, and program | |
Arakelian et al. | Creation of predictive analytics system for power energy objects | |
Ming et al. | Feature selection for chemical process fault diagnosis by artificial immune systems | |
Niaki et al. | Detection and classification mean-shifts in multi-attribute processes by artificial neural networks | |
Kumar et al. | Review on prognostics and health management in smart factory: From conventional to deep learning perspectives | |
JP7173168B2 (en) | Anomaly detection device, system, method and program | |
Lee et al. | Multiple-fault diagnosis under uncertain conditions by the quantification of qualitative relations | |
Vo et al. | Harnessing attention mechanisms in a comprehensive deep learning approach for induction motor fault diagnosis using raw electrical signals | |
CN116894211A (en) | System for generating human perceptible interpretive output, method and computer program for monitoring anomaly identification | |
Yu et al. | A hybrid learning-based model for on-line monitoring and diagnosis of out-of-control signals in multivariate manufacturing processes | |
Khaziev et al. | Intelligent diagnostic system for hydraulic actuator |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240510 |