JP2021039685A

JP2021039685A - 異常検出装置および異常検出方法

Info

Publication number: JP2021039685A
Application number: JP2019162294A
Authority: JP
Inventors: 誠奥原; Makoto Okuhara; 義人相原; Yoshito Aihara; 潤也時永; Junya Tokinaga; 賢吾飯野; Kengo Iino
Original assignee: Denso Ten Ltd
Current assignee: Denso Ten Ltd
Priority date: 2019-09-05
Filing date: 2019-09-05
Publication date: 2021-03-11

Abstract

【課題】信頼度の高い異常検出を行うことができる異常検出装置および異常検出方法を提供すること。【解決手段】実施形態に係る異常検出装置は、ＮＮ演算部と、異常判定部とを備える。ＮＮ演算部は、ニューラルネットワークを用いて対象機器の異常に関する確率値を演算する。異常判定部は、ＮＮ演算部によって演算された確率値に基づいて異常判定処理を行う。異常判定部は、過去のＮＮ演算部からの確率値に基づく過去累積値に対して、今回のＮＮ演算部からの確率値に応じた反映値を反映させる累積処理を行い、当該累積処理後の累積値が所定の確定閾値以上である場合に、対象機器が異常であると確定する。【選択図】図２

Description

本発明は、異常検出装置および異常検出方法に関する。

近年、人工知能（Artificial Intelligence：ＡＩ）が浸透してきており、例えば、車両のパワートレイン系の装置においてもＡＩの導入が検討されつつある。そして、ＡＩにおける機械学習として、ニューラルネットワークが知られている。

特開平０５−０４９５８０号公報

ところで、一般に、ニューラルネットワークを用いたＡＩの分類手法は確率論である。このため、ニューラルネットワークを用いて車載装置の異常を判定（分類）する場合、同じ判定結果でも、正常（もしくは異常）である確率値によって判定結果の信頼度は異なる。

本発明は、上記に鑑みてなされたものであって、信頼度の高い異常検出を行うことができる異常検出装置および異常検出方法を提供することを目的とする。

上述した課題を解決し、目的を達成するために、本発明に係る異常検出装置は、ＮＮ演算部と、異常判定部とを備える。前記ＮＮ演算部は、ニューラルネットワークを用いて対象機器の異常に関する確率値を演算する。前記異常判定部は、前記ＮＮ演算部によって演算された確率値に基づいて異常判定処理を行う。前記異常判定部は、過去の前記ＮＮ演算部からの確率値に基づく過去累積値に対して、今回の前記ＮＮ演算部からの確率値に応じた反映値を反映させる累積処理を行い、当該累積処理後の累積値が所定の確定閾値以上である場合に、前記対象機器が異常であると確定する。

本発明によれば、信頼度の高い異常検出を行うことができる。

図１Ａは、実施形態に係る異常検出方法の概要を示す図である。図１Ｂは、実施形態に係る異常検出方法の概要を示す図である。図２は、実施形態に係る異常検出装置の構成を示す機能ブロック図である。図３は、閾値情報の一例を示す図である。図４は、制御部の一連の処理内容の具体例を示す図である。図５は、実施形態に係る異常検出装置が実行する処理の処理手順を示すフローチャートである。図６Ａは、変形例に係る異常判定部の処理内容を示す図である。図６Ｂは、変形例に係る異常判定部の処理内容を示す図である。図７Ａは、変形例に係る異常判定部の処理内容を示す図である。図７Ｂは、変形例に係る異常判定部の処理内容を示す図である。

以下、添付図面を参照して、本願の開示する異常検出装置および異常検出方法の実施形態を詳細に説明する。なお、以下に示す実施形態により本発明が限定されるものではない。

まず、図１Ａおよび図１Ｂを用いて、実施形態に係る異常検出方法の概要について説明する。図１Ａおよび図１Ｂは、実施形態に係る異常検出方法の概要を示す図である。以下に示す実施形態では、車両に搭載されたセンサやアクチュエータ等の各種機器を異常検出の対象機器とする場合について説明する。なお、対象機器は、車載機器に限定されるものではなく、任意の機器を採用可能である。

図１Ａに示すように、実施形態に係る異常検出方法では、まず、センサやアクチュエータ等の対象機器に関する情報（センサ値等の各種検出データや、機器の特性に関する情報等）を取得する。

つづいて、実施形態に係る異常検出方法では、取得した情報をニューラルネットワークＮＮに入力し、出力として、対象機器の異常に関する確率値を演算する。図１Ａに示す例では、対象機器が異常である確率値（異常確率値）および正常である確率値（正常確率値）をそれぞれ演算する。

つづいて、実施形態に係る異常検出方法では、演算した確率値（異常確率値および正常確率値）に基づいて異常判定処理を行う。

また、実施形態に係る異常検出方法では、異常判定処理において、過去の確率値に基づく過去累積値に対して、今回の確率値に応じた反映値を反映させて、反映後の累積値が所定の確定閾値以上である場合に、対象機器が異常であると判定する。

具体的には、図１Ａに示すように、異常判定処理では、「仮判定処理」、「累積処理」および「確定処理」が行われる。

「仮判定処理」は、演算した確率値に基づいて対象機器の異常の仮判定を行う。詳細は後述するが、仮判定では、「異常」、「正常」および「保留」の判定結果が出力される。

「累積処理」は、仮判定処理の結果に応じた反映値を決定し、過去累積値に対して反映値を反映させる。

「確定処理」は、累積処理後の累積値に基づいて、対象機器の異常を確定させる。

ここで、図１Ｂを用いて、異常判定処理について具体的に説明する。図１Ｂでは、仮判定処理の結果（仮判定処理結果）と、異常判定カウンタとを示している。また、図１Ｂでは、最も右にある今回の仮判定処理結果と、８回分の過去の仮判定処理結果とを示している。

また、異常判定カウンタは、仮判定処理結果に応じて増減する累積値である。異常判定処理では、異常判定カウンタが確定閾値以上となった場合に、対象機器の異常を確定する。

具体的には、仮判定処理結果が「正常」であった場合、その時点までの異常判定カウンタをクリアする。換言すれば、仮判定処理結果が「正常」であった場合、その時点までの過去累積値の負の値を反映値とすることで、反映後の累積値がゼロになるようにする。なお、仮判定処理結果が「正常」である場合とは、上記した正常確率値が所定の正常判定閾値以上（例えば、８０％以上）となる場合である。

また、仮判定処理結果が「異常」であった場合、その時点までの異常判定カウンタをカウントアップする。図１Ｂでは、異常判定カウンタに「１」を加算する。つまり、仮判定処理結果が「異常」であった場合、反映値を「＋１」にする。なお、仮判定処理結果が「異常」である場合とは、上記した異常確率値が所定の異常判定閾値以上（例えば、８０％以上）となる場合である。

また、仮判定処理結果が「保留」であった場合、その時点までの異常判定カウンタを維持する。つまり、仮判定処理結果が「保留」であった場合、反映値を「０」にする。なお、仮判定処理結果が「保留」である場合とは、正常確率値が正常判定閾値未満、かつ、異常確率値が異常判定閾値未満となる場合である。

つまり、実施形態に係る異常検出方法では、正常確率値および異常確率値双方が低く（例えば、両確率値が５０％等）、仮判定処理結果を正常／異常で切り分けることで信頼度が低くなる場合には、「保留」と判定し、累積値を増減させない。これにより、誤った仮判定処理結果に応じた反映値が累積値に反映されることを防ぐことができる。従って、実施形態に係る異常検出方法では、信頼度の高い異常検出を行うことができる。

すなわち、実施形態に係る異常検出方法は、確率値に基づく累積処理を行う構成により、１回の異常判定で異常確定する場合に比べて異常判定の信頼性を向上できるとともに、従来の異常判定手法である、異常判定が複数回連続した場合に異常確定するといった手法に比べて、異常確定までの時間を短くすることができる。

なお、異常をより早期に確定するために、仮判定処理結果の「異常」の連続数に応じて異常判定閾値を小さくしたり、異常確率値に応じた係数（以下に示すベース値）を反映値にかけたりできるが、かかる点については後述する。

また、上記した確率値に所定の係数をかけるなまし処理を行うことができるが、かかる点についても後述する。

次に、図２を用いて、異常検出方法を実行する異常検出装置の構成について説明する。図２は、実施形態に係る異常検出装置の構成を示す機能ブロック図である。

図２に示すように、実施形態に係る異常検出装置１は、対象機器１０に接続される。対象機器１０は、上記したように、車両に搭載される各種センサやアクチュエータである。例えば、対象機器１０は、エンジンや、クラッチ、トランスミッション、ドライブシャフト、各種ギア等といったパワートレイン系の装置や、車両の制御に関わる制御装置である。

実施形態に係る異常検出装置１は、制御部２と、記憶部３とを備える。制御部２は、ＮＮ演算部２１と、異常判定部２２とを備える。記憶部３は、閾値情報３１を記憶する。

ここで、異常検出装置１は、たとえば、ＣＰＵ（Central Processing Unit）、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、データフラッシュ、入出力ポートなどを有するコンピュータや各種の回路を含む。

コンピュータのＣＰＵは、たとえば、ＲＯＭに記憶されたプログラムを読み出して実行することによって、制御部２のＮＮ演算部２１および異常判定部２２として機能する。

また、制御部２のＮＮ演算部２１および異常判定部２２の少なくともいずれか一つまたは全部をＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアで構成することもできる。

また、記憶部３は、たとえば、ＲＡＭやデータフラッシュに対応する。ＲＡＭやデータフラッシュは、閾値情報３１や、各種プログラムの情報等を記憶することができる。なお、異常検出装置１は、有線や無線のネットワークで接続された他のコンピュータや可搬型記録媒体を介して上記したプログラムや各種情報を取得することとしてもよい。

記憶部３に記憶される閾値情報３１は、異常判定部２２の処理で用いる閾値の情報である。図３は、閾値情報３１の一例を示す図である。図３に示すように、閾値情報３１には、「処理」、「判定処理」、「閾値」および「反映値」といった項目が含まれる。

「処理」は、閾値が用いられる処理内容を示す。「判定結果」は、閾値を満たした場合、処理結果として出力される情報である。「閾値」は、処理で用いられる閾値の情報である。「反映値」は、上記した反映値の情報である。

図３に示す例において、「仮判定処理」は、異常判定部２２が行う仮判定処理であり、「確定処理」は、異常判定部２２が行う確定処理である。例えば、「仮判定処理」において、正常確率値が正常判定閾値「Ａ」以上である場合、「正常」と判定する。また、この場合、異常判定部２２における反映値は「クリア」、すなわち、過去累積値をゼロにする。また、例えば、「確定処理」において、異常判定カウンタが「６」以上である場合、「異常確定」する。

なお、図３に示す「仮判定処理」の異常判定閾値「Ｂ」は、過去累積値に応じて補正されるが、かかる点については後述する。

次に、制御部２の各機能（ＮＮ演算部２１および異常判定部２２）について説明する。

ＮＮ演算部２１は、ニューラルネットワークＮＮを用いて対象機器１０の異常に関する確率値を演算する。具体的には、ＮＮ演算部２１は、対象機器１０が取得した各種データ（センサ値や機器特性値等）をニューラルネットワークＮＮに入力し、出力として異常確率値および正常確率値を得る。なお、異常確率値および正常確率値の合計は１（１００％）である。

異常判定部２２は、ＮＮ演算部２１によって演算された確率値に基づいて異常判定処理を行う。具体的には、異常判定部２２は、異常判定処理によって、過去のＮＮ演算部２１からの確率値に基づく過去累積値に対して、今回のＮＮ演算部２１からの確率値に応じた反映値を反映させる累積処理を行い、累積処理後の累積値が所定の確定閾値以上である場合に、対象機器１０が異常であると確定する。例えば、異常判定部２２は、記憶部３に記憶された閾値情報３１と確率値とを比較することで異常判定処理を行う。また、上記したように、異常判定処理には、仮判定処理、累積処理および確定処理が含まれる。

＜仮判定処理＞
仮判定処理では、ＮＮ演算部２１によって演算された確率値に基づいて、「正常」、「異常」および「保留」のいずれかを判定結果として出力する。

例えば、異常判定部２２は、正常確率値が閾値情報３１における正常判定閾値（図３に示す「Ａ」）以上である場合、仮判定処理において対象機器１０が正常であると判定する。また、異常判定部２２は、異常確率値が閾値情報３１における異常判定閾値（図３に示す「Ｂ」）以上である場合、仮判定処理において対象機器１０が異常であると判定する。なお、異常判定部２２は、仮判定処理における異常判定閾値を補正するが、かかる点については後述する。

また、異常判定部２２は、正常確率値が正常判定閾値未満、かつ、異常確率値が異常判定閾値未満である場合には、仮判定処理において保留と判定する。

＜累積処理＞
累積処理では、過去の確率値に基づいて算出された過去の反映値の累積値である過去累積値に対して、今回の確率値に応じた反映値を反映させて今回の累積値を算出する。例えば、異常判定部２２は、今回の確率値を判定閾値（正常判定閾値および異常判定閾値）と比較した結果に基づいて累積処理の行い方を異ならせる。

例えば、異常判定部２２は、今回の仮判定処理の結果が「正常」であった場合、直前までの過去累積値をクリアすることで、反映後の累積値をゼロにする。つまり、異常判定部２２は、今回の累積値をゼロにする。すなわち、異常判定部２２は、累積処理として、今回の確率値が異常の確率が低い確率値（異常確率値が異常判定閾値未満）であった場合、確率値の大きさに応じて、過去累積値のリセットを行う。なお、異常判定部２２は、過去累積値をクリアして今回の累積値とする場合に限らず、例えば、過去累積値から所定の反映値（例えば、「１」）を減算して今回の累積値としてもよい。

また、異常判定部２２は、今回の仮判定処理の結果が「異常」であった場合、直前までの過去累積値に所定の反映値（例えば、「１」）を加算する。つまり、異常判定部２２は、直前の過去累積値に反映値を累積した値を今回の累積値とする。なお、異常判定部２２は、異常確率値に応じて反映値を変動させてもよい。例えば、異常判定部２２は、異常確率値が９０％以上（異常判定閾値よりも高い閾値以上）の場合に、反映値を２倍の「２」としてもよい。

また、異常判定部２２は、今回の仮判定処理の結果が「保留」であった場合、直前までの過去累積値を維持する。つまり、異常判定部２２は、直前の過去累積値および今回の累積値を同じ値とする、換言すれば、反映値をゼロにする。すなわち、異常判定部２２は、累積処理として、今回の確率値が異常の確率が低い確率値（異常確率値が異常判定閾値未満）であった場合、確率値の大きさに応じて、過去累積値に反映させる反映値をゼロにする。なお、異常判定部２２は、過去累積値を維持して今回の累積値とする場合に限らず、例えば、「異常」と判定された場合の反映値よりも小さい値の反映値（例えば、「０．５」）を過去累積値に加算して今回の累積値としたり、過去累積値から所定の反映値（例えば、「１」）を減算して今回の累積値としてもよい。

上述したように、異常判定部２２は、仮判定処理の結果が「正常」の場合には過去累積値をリセットするための反映値を設定し、「異常」の場合には反映値「１」を設定し、「保留」の場合には反映値「０」を設定する。すなわち、異常判定部２２は、累積処理として、今回の確率値の大きさに応じて、過去累積値に対して累積させる反映値の量を変動させる。

＜確定処理＞
確定処理は、累積処理後の累積値に基づいて、対象機器１０が異常であると確定するための処理である。具体的には、異常判定部２２は、累積処理後の累積値が所定の確定閾値以上である場合に、対象機器１０が異常であると確定する。なお、確定閾値は、例えば、閾値情報３１に含まれる確定処理の閾値（図３における異常判定カウンタが６以上）である。

また、異常判定部２２は、仮判定処理に用いる異常判定閾値を補正する。具体的には、異常判定部２２は、過去累積値に基づいて、閾値情報３１における異常判定閾値（図３に示す「Ｂ」）を補正する。例えば、異常判定部２２は、直前までの仮判定処理において「異常」の判定結果の連続回数に基づいて異常判定閾値を補正する。

具体的には、異常判定部２２は、補正後の異常判定閾値をθ_ｎ、「異常」の判定結果の連続回数をｎ、異常判定閾値の初期値をθ_０、固定値をβとした場合、以下の式で表すことができる。

すなわち、θ_ｎ＝θ_０−β・ｎで表すことができる。なお、θ_０は、例えば、「８０」であり、βは、例えば、「２」である。なお、詳細は後述するが、直前の仮判定処理の結果が「正常」である場合、異常判定閾値は、初期値（θ_０）とし、「保留」である場合、前回の異常判定閾値を維持する。

これにより、仮判定処理の結果の「異常」が連続するほど、補正後の異常判定閾値が小さくなる。すなわち、異常判定部２２は、仮判定処理の結果の「異常」が連続するほど、対象機器１０が異常である可能性が高まるため、補正後の異常判定閾値を小さくする。これにより、異常確率値が多少バラついたとしても、異常判定部２２によって「異常」と判定され易くできる。この結果、異常判定部２２による確定処理において、累積値が確定閾値以上となるタイミングが早めることができる。すなわち、異常検出を高精度、かつ、早期に行うことができる。

次に、図４を用いて、制御部２における一連の処理について具体例を挙げて説明する。図４は、制御部２の一連の処理内容の具体例を示す図である。なお、図４に示す時刻ｔ１〜ｔ１３の各時刻において、異常判定部２２による仮判定処理が１回ずつ行われる。

また、図４では、正常判定閾値が８０％、異常判定閾値の初期値が８０％、上記した固定値であるβが２％であることとする。

例えば、時刻ｔ１では、ＮＮ演算部２１は、正常確率値が８０％、異常確率値が２０％を演算結果として出力したとする。従って、異常判定部２２は、正常確率値が正常判定閾値以上であるため、時刻ｔ１の仮判定処理では、「正常」と判定する。そして、異常判定部２２は、異常判定カウンタをクリアしてゼロにする。

次に、時刻ｔ２では、ＮＮ演算部２１は、正常確率値が２０％、異常確率値が８０％を演算結果として出力したとする。また、時刻ｔ２では、異常判定部２２は、直前（時刻ｔ１）の仮判定処理の結果が「正常」であるため、補正後の異常判定閾値を初期値とする。換言すれば、異常判定部２２は、上記式において、ｎがゼロになるため、θ_ｎ＝θ_０を算出する。

そして、異常判定部２２は、異常確率値が異常判定閾値以上であるため、時刻ｔ２の仮判定処理では、「異常」と判定する。そして、異常判定部２２は、異常判定カウンタに反映値である「１」を加算する。

次に、時刻ｔ３では、ＮＮ演算部２１は、正常確率値が２０％、異常確率値が８０％を演算結果として出力したとする。また、時刻ｔ３では、異常判定部２２は、直前（時刻ｔ２）までに「異常」が１回連続しているため、すなわち、上記式において、ｎが１になるため、θ_ｎ＝θ_０−２（２×１）＝７６％を補正後の異常判定閾値として算出する。

そして、異常判定部２２は、異常確率値が異常判定閾値以上であるため、時刻ｔ３の仮判定処理では、「異常」と判定する。そして、異常判定部２２は、異常判定カウンタに反映値である「１」を加算する。

次に、時刻ｔ４では、ＮＮ演算部２１は、正常確率値が２０％、異常確率値が８０％を演算結果として出力したとする。また、時刻ｔ４では、異常判定部２２は、直前（時刻ｔ３）までに「異常」が２回連続しているため、すなわち、上記式において、ｎが２になるため、θ_ｎ＝θ_０−４（２×２）＝７６％を補正後の異常判定閾値として算出する。

そして、異常判定部２２は、異常確率値が異常判定閾値以上であるため、時刻ｔ４の仮判定処理では、「異常」と判定する。そして、異常判定部２２は、異常判定カウンタに反映値である「１」を加算する。

次に、時刻ｔ５では、ＮＮ演算部２１は、正常確率値が８０％、異常確率値が２０％を演算結果として出力したとする。従って、異常判定部２２は、正常確率値が正常判定閾値以上であるため、時刻ｔ５の仮判定処理では、「正常」と判定する。そして、異常判定部２２は、異常判定カウンタをクリアしてゼロにする。また、時刻ｔ５では、異常判定部２２は、直前（時刻ｔ４）までに「異常」が３回連続しているため、すなわち、上記式において、ｎが３になるため、θ_ｎ＝θ_０−６（２×３）＝７４％を補正後の異常判定閾値として算出する。

次に、時刻ｔ６〜ｔ８を省略して、時刻ｔ９について説明する。時刻ｔ９では、ＮＮ演算部２１は、正常確率値が５０％、異常確率値が５０％を演算結果として出力したとする。また、時刻ｔ９では、異常判定部２２は、直前（時刻ｔ８）までに「異常」が３回連続しているため、すなわち、上記式において、ｎが３になるため、θ_ｎ＝θ_０−６（２×３）＝７４％を補正後の異常判定閾値として算出する。

そして、異常判定部２２は、異常確率値が異常判定閾値未満、かつ、正常確率値が正常判定閾値未満であるため、時刻ｔ９の仮判定処理では、「保留」と判定する。そして、異常判定部２２は、反映値をゼロにすることで、異常判定カウンタを維持する。このように、異常判定部２２は、異常か正常かが疑わしい場合に「保留」と判定して、反映値をゼロにすることで、異常と判定して異常を早期に確定してしまったり、正常と判定して異常確定が遅れたりすることを減らすことができる。

次に、時刻ｔ１０では、ＮＮ演算部２１は、正常確率値が２５％、異常確率値が７５％を演算結果として出力したとする。また、時刻ｔ１０では、異常判定部２２は、時刻ｔ９が「異常」であり、時刻ｔ８まで「異常」が３回連続しているため、すなわち、上記式において、ｎが３になるため、θ_ｎ＝θ_０−６（２×３）＝７４％を補正後の異常判定閾値として算出する。換言すれば、異常判定部２２は、直前（時刻ｔ９）が「保留」の場合、さらに前の時刻ｔ８までの「異常」の連続回数を上記式へ代入する。すなわち、異常判定部２２は、直前（時刻ｔ９）で用いた異常判定閾値を今回の仮判定処理でも用いる。

そして、異常判定部２２は、異常確率値が異常判定閾値以上であるため、時刻ｔ１０の仮判定処理では、「異常」と判定する。そして、異常判定部２２は、異常判定カウンタに反映値である「１」を加算する。

すなわち、異常判定部２２の補正処理により、異常判定閾値が初期値よりも小さくなるため、異常判定閾値が初期値の場合には「保留」と判定されていたものを「異常」と判定できる。

次に、時刻ｔ１２では、ＮＮ演算部２１は、正常確率値が２５％、異常確率値が７５％を演算結果として出力したとする。また、時刻ｔ１２では、異常判定部２２は、途中に「保留」を挟んで、直前（時刻ｔ１１）までに「異常」が５回連続しているため、すなわち、上記式において、ｎが５になるため、θ_ｎ＝θ_０−１０（２×５）＝７０％を補正後の異常判定閾値として算出する。

そして、異常判定部２２は、異常確率値が異常判定閾値以上であるため、時刻ｔ１２の仮判定処理では、「異常」と判定する。そして、異常判定部２２は、異常判定カウンタに反映値である「１」を加算する。そして、異常判定部２２は、反映後の異常判定カウンタが確定閾値以上となったため、対象機器１０の異常を確定する。

なお、図４では、異常確定後の時刻ｔ１３以降も、仮判定処理、累積処理および確定処理を継続して行っているが、異常確定後は、異常が確定した対象機器１０については、仮判定処理、累積処理および確定処理を行わなくてもよい。

次に、図５を用いて、実施形態に係る異常検出装置１が実行する処理の処理手順について説明する。図５は、実施形態に係る異常検出装置１が実行する処理の処理手順を示すフローチャートである。

図５に示すように、まず、ＮＮ演算部２１は、ニューラルネットワークＮＮを用いて対象機器１０の異常に関する確率値を演算する（Ｓ１０１）。具体的には、ＮＮ演算部２１は、正常確率値および異常確率値をそれぞれ演算する。

つづいて、異常判定部２２は、過去累積値に基づいて異常判定閾値を補正する（ステップＳ１０２）。

つづいて、異常判定部２２は、正常確率値が正常判定閾値以上であるか否かを判定し（ステップＳ１０３）、正常判定閾値以上である場合（ステップＳ１０３：Ｙｅｓ）、対象機器１０が正常であると判定する（ステップＳ１０４）。

つづいて、異常判定部２２は、その時点までの異常判定カウンタ（過去累積値）をクリアし（ステップＳ１０５）、処理を終了する。

一方、ステップＳ１０３において、異常判定部２２は、正常確率値が正常判定閾値未満である場合（ステップＳ１０３：Ｎｏ）、異常確率値が異常判定閾値以上であるか否かを判定する（ステップＳ１０６）。

異常判定部２２は、異常確率値が異常判定閾値以上である場合（ステップＳ１０６：Ｙｅｓ）、対象機器１０が異常であると判定する（ステップＳ１０７）。

つづいて、異常判定部２２は、その時点までの異常判定カウンタをカウントアップし（ステップＳ１０８）、反映後の異常判定カウンタが確定閾値以上であるか否かを判定する（ステップＳ１０９）。

異常判定部２２は、異常判定カウンタが確定閾値以上である場合（ステップＳ１０９：Ｙｅｓ）、対象機器１０が異常であることを確定し（ステップＳ１１０）、処理を終了する。

一方、ステップＳ１０６において、異常判定部２２は、異常確率値が異常判定閾値未満である場合（ステップＳ１０６：Ｎｏ）、保留と判定する（ステップＳ１１１）。

つづいて、異常判定部２２は、その時点までの異常判定カウンタを維持し（ステップＳ１１２）、ステップＳ１０９の処理を実行する。

また、ステップＳ１０９において、異常判定部２２は、異常判定カウンタが確定閾値未満である場合（ステップＳ１０９：Ｎｏ）、処理を終了する。

上述してきたように、実施形態に係る異常検出装置は、ＮＮ演算部２１と、異常判定部２２とを備える。ＮＮ演算部２１は、ニューラルネットワークを用いて対象機器１０の異常に関する確率値を演算する。異常判定部２２は、ＮＮ演算部２１によって演算された確率値に基づいて異常判定処理を行う。異常判定部２２は、過去のＮＮ演算部２１からの確率値に基づく過去累積値に対して、今回のＮＮ演算部２１からの確率値に応じた反映値を反映させる累積処理を行い、当該累積処理後の累積値が所定の確定閾値以上である場合に、対象機器１０が異常であると確定する。これにより、信頼度の高い異常検出を行うことができる。

なお、上記した実施形態以外の例として、異常判定部２２は、累積処理としてなまし処理を行ってもよい。かかる点について、図６Ａおよび図６Ｂを用いて説明する。

図６Ａおよび図６Ｂは、変形例に係る異常判定部２２の処理内容を示す図である。図６Ａに示すように、異常判定部２２は、ニューラルネットワークＮＮの出力である今回の確率値に対してなまし処理を施して確率値を補正し、確定処理へ出力する。なお、なまし処理は、異常確率値および正常確率値それぞれに施す。

具体的には、異常判定部２２は、まず、今回の確率値を減算器２２ａに正の値として入力する。また、異常判定部２２は、減算器２２ａに前回の補正後の確率値（前回値）を負の値として入力する。そして、異常判定部２２は、減算器２２ａの演算結果を乗算器２２ｃへ入力する。

また、異常判定部２２は、今回の確率値に第１係数をかけて乗算器２２ｂへ入力する。ここで、第１係数について、図６Ｂを用いて説明する。

図６Ｂには、縦軸に第１係数、横軸に確率値のグラフを示している。図６Ｂに示すように、第１係数は、確率値に応じた値が選択される。具体的には、第１係数は、確率値が５０％に近いほど、係数値が小さくなる。つまり、異常判定部２２は、なまし処理におけるなまし係数を、確率値に応じて変更する。

例えば、確率値が２０％（あるいは８０％）である場合、第１係数は、０．８となる。すなわち、乗算器２２ｂに入力される値は、１６％（６４％）となる。

また、異常判定部２２は、乗算器２２ｂに第２係数を入力する。第２係数は、ニューラルネットワークＮＮの精度に対する係数である。つまり、第２係数は、ニューラルネットワークＮＮの学習度合いに応じた係数となる。なお、第２係数は、予め設定された値であってもよく、学習度合いを判定し、判定結果に基づいて動的に変更されてもよい。

そして、異常判定部２２は、乗算器２２ｂの乗算結果を乗算器２２ｃへ入力する。つづいて、異常判定部２２は、減算器２２ａの演算結果および乗算器２２ｂの演算結果を乗算して得た演算結果を加算器２２ｄへ入力する。

異常判定部２２は、乗算器２２ｃの演算結果および前回値を加算して得た演算結果を補正後の確率値として確定処理へ出力する。このように、異常判定部２２は、ニューラルネットワークＮＮの出力である確率値に対して、第１係数および第２係数を用いたなまし処理を行う。具体的には、異常判定部２２は、確率値が０％もしくは１００％に近いほど第１係数を大きくすることでなまし量を小さくし、一方で、確率値が５０％に近いほど第１係数を小さくすることでなまし量を大きくする。

このように確率値をなますことで、異常判定部２２の確定処理において、異常判定閾値および正常判定閾値付近で確率値が前後することで判定結果が反転（正常−保留間、または、異常−保留間）を繰り返す、いわゆるハンチング現象を低減できる。従って、信頼度の高い異常検出を行うことができる。

また、上記した実施形態では、異常判定部２２は、仮判定処理の結果が「異常」の場合に、累積処理において累積値に加算する反映値を固定値（「１」をカウントアップ）としたが、異常確率値に応じて反映値を可変にしてもよい。かかる点について、図７Ａおよび図７Ｂを用いて説明する。

図７Ａおよび図７Ｂは、変形例に係る異常判定部２２の処理内容を示す図である。図７Ａでは、変形例に係る異常判定部２２の異常判定処理の機能ブロック図を示している。また、図７Ｂでは、異常確率値に応じて、累積値に加算する反映値を決定するための情報である。かかる情報は、例えば、記憶部３に記憶される。

図７Ａに示すように、変形例に係る異常判定部２２の異常判定処理では、ＮＮ演算部２１によって演算された確率値に対して補正処理、累積処理および確定処理が行われる。つまり、変形例に係る異常判定部２２の異常判定処理では、仮判定処理として補正処理が行われる。

具体的には、異常判定部２２は、補正処理によって補正されたカウント値（反映値）に基づいて累積処理を行う。より具体的には、異常判定部２２は、補正処理において、図７Ｂに示す情報を用いてカウント値を算出する。

ここで、図７Ｂに示す情報には、「異常確率値」、「ベース値」、「バラつき調整係数」、「最終値」および「カウント値」といった項目が含まれる。

例えば、異常確率値が５０％を超え、かつ、７５％以下である場合、ベース値を５０％とし、さらにベース値にバラつき調整係数である０．５をかけて最終値２５％を算出する。つまり、異常判定部２２は、カウント値の最大値を１とした場合、最終値である２５％をかけた０．２５をカウント値とする。そして、異常判定部２２は、０．２５を反映値として過去累積値に反映させる。

なお、ベース値およびバラつき調整係数は、予め任意の値を設定可能であるが、異常確率値が高いほど、最終値が高くなるような値が設定されることが好ましい。つまり、異常確率値が高いほど、カウント値が高くなるような値が設定されることが好ましい。

これにより、異常確率値が高いほど、反映値が高くなるため、より早期に確定閾値に到達しやすくなる。すなわち、より早期に異常を確定できる。

さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。

１異常検出装置
２制御部
３記憶部
２１ＮＮ演算部
２２異常判定部
２２ａ減算器
２２ｂ、２２ｃ乗算器
２２ｄ加算器
３１閾値情報
ＮＮニューラルネットワーク

Claims

ニューラルネットワークを用いて対象機器の異常に関する確率値を演算するＮＮ演算部と、
前記ＮＮ演算部によって演算された確率値に基づいて異常判定処理を行う異常判定部と、
を備え、
前記異常判定部は、過去の前記ＮＮ演算部からの確率値に基づく過去累積値に対して、今回の前記ＮＮ演算部からの確率値に応じた反映値を反映させる累積処理を行い、当該累積処理後の累積値が所定の確定閾値以上である場合に、前記対象機器が異常であると確定すること
を特徴とする異常検出装置。
前記異常判定部は、
前記累積処理として、今回の前記ＮＮ演算部からの確率値の大きさに応じて、前記過去累積値に対して累積させる反映値の量を変動させること
を特徴とする請求項１に記載の異常検出装置。
前記異常判定部は、
前記累積処理として、今回の前記ＮＮ演算部からの確率値が異常の確率が低い確率値であった場合、確率値の大きさに応じて、前記過去累積値のリセット、もしくは、前記過去累積値に反映させる反映値をゼロにすること
を特徴とする請求項１または２に記載の異常検出装置。
前記異常判定部は、今回の前記ＮＮ演算部からの確率値を判定閾値と比較した結果に基づいて、前記累積処理の行い方を異ならせるものであり、
前記過去累積値に基づいて前記判定閾値を補正する補正処理を行うこと
を特徴とする請求項１〜３のいずれか１つに記載の異常検出装置。
前記異常判定部は、前記累積処理としてなまし処理を施すものであり、
前記なまし処理におけるなまし係数を、前記確率値に応じて変更すること
を特徴とする請求項１に記載の異常検出装置。
ニューラルネットワークを用いて対象機器の異常に関する確率値を演算するＮＮ演算工程と、
前記ＮＮ演算工程によって演算された確率値に基づいて異常判定処理を行う異常判定工程と、
を含み、
前記異常判定工程は、過去の前記ＮＮ演算工程からの確率値に基づく過去累積値に対して、今回の前記ＮＮ演算工程からの確率値に応じた反映値を反映させる累積処理を行い、当該累積処理後の累積値が所定の確定閾値以上である場合に、前記対象機器が異常であると確定すること
を特徴とする異常検出方法。