JP7173510B1

JP7173510B1 - 異常検知装置、システム、方法及びプログラム

Info

Publication number: JP7173510B1
Application number: JP2022549666A
Authority: JP
Inventors: 志門菅原; 純一出澤
Original assignee: AISing Ltd
Current assignee: AISing Ltd
Priority date: 2022-04-27
Filing date: 2022-04-27
Publication date: 2022-11-16
Anticipated expiration: 2042-04-27
Also published as: JP2023163114A; WO2023209878A1; JPWO2023209878A1

Abstract

評価対象データを取得する、データ取得部と、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用される、異常検知装置が提供される。【選択図】図１３

Description

この発明は、データ等の異常検知を行う装置等に関する。

近年、人工知能（ＡＩ）に対する注目の高まりから、様々な機械学習技術について研究開発が進められている（例えば、特許文献１）。

また、近年、事前に収集されたデータについて機械学習技術や統計技術を適用して得られたモデルを種々の装置へと搭載し、異常検知を行う技術について研究開発がなされている。

特許第６７９５２４０号公報

ところで、この種の異常検知を行うにあたって、事前に得られたデータの傾向と、運用後に事後的に得られたデータの傾向が異なる場合があった。このようなことは、例えば、異常検知を行うデータに係る装置が経年劣化したこと等により所謂コンセプトドリフトが生じた場合や、事前に得られたデータの量又は質が不十分であった場合等に生じる。

このようなデータの傾向の変化の結果、異常検知を適切に実行することができないおそれがあった。すなわち、事後的に得られたデータの傾向からすれば正常と判定すべき状態を異常と判定してしまったり、或いは、その逆に、事後的に得られたデータの傾向からすれば異常と判定すべき状態を正常と判定してしまうおそれがあった。

本発明は、上述の技術的背景の下になされたものであり、その目的とするところは、事後的なデータの傾向の変化にも対応可能な異常検知技術を提供することにある。

本発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。

上述の技術的課題は、以下の構成を有する異常検知装置等により解決することができる。

すなわち、本発明に係る異常検知装置は、評価対象データを取得する、データ取得部と、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用される。

このような構成によれば、新たなデータに基づく追加学習処理に加えて忘却学習処理を行って木構造モデルの更新を行い、更新されたモデルに基づいて異常検知が行われるので、事後的なデータの傾向の変化にも対応可能な異常検知技術を提供することができる。

前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有するすべての葉ノードに対応付けられた推論値から減ずることにより行われる、ものであってもよい。

このような構成によれば、減算という簡易な処理により高速に忘却学習を行うことができる。

前記忘却学習用更新量は、所定の窓幅に基づいて設定される、ものであってもよい。

このような構成によれば、窓幅という一定の基準に基づいて忘却学習を行うことができる。

前記忘却学習用更新量は、各前記木構造において、前記推論出力に基づいて生成された追加学習用更新量を各前記木構造の葉ノードの数で除した値である、ものであってもよい。

このような構成によれば、忘却学習用更新量として、追加学習用更新量に応じた更新量を設定することができる。

前記追加学習処理は、前記推論出力に基づいて生成された追加学習用更新量を、各前記木構造モデルの有する葉ノードのうち前記推論出力の生成に関与した葉ノードに対応付けられた推論値に対して加算することにより行われる、ものであってもよい。

このような構成によれば、加算という簡易な処理により高速に追加学習を行うことができる。

前記条件は、前記更新木構造モデルが生成されたことである、ものであってもよい。

このような構成によれば、更新木構造モデルが存在する場合には、異常検知と更新モデルの生成において木構造モデルに代えて更新木構造モデルが使用される。

前記異常検知部は、前記推論出力と所定の閾値との比較に基づいて異常検知を行う、ものであってもよい。

このような構成によれば、所定の閾値を基準として異常検知を行うことができる。

前記木構造モデルは１つであって、前記異常検知部における前記推論出力は、前記木構造モデルの一の葉ノードに対応付けられた出力値である、ものであってもよい。

このような構成によれば、１の木構造モデルにより推論出力を特定することができる。

前記木構造モデルは複数であって、前記異常検知部における前記推論出力は、各前記木構造モデルの各葉ノードに対応付けられた出力値の相加平均値である、ものであってもよい。

このような構成によれば、複数の木構造モデルを用いて推論出力を生成することができる。

前記木構造モデルは複数であって、前記異常検知部における前記推論出力は、各前記木構造モデルの各葉ノードに対応付けられた出力値の総和である、ものであってもよい。

別の側面から見た本発明は、異常検知システムであって、評価対象データを取得する、データ取得部と、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用される。

別の側面から見た本発明は、異常検知方法であって、評価対象データを取得する、データ取得ステップと、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知ステップと、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成ステップと、を備え、所定の条件を満たした場合、前記異常検知ステップ及び前記更新モデル生成ステップにおいて、前記木構造モデルに代えて前記更新木構造モデルが使用される。

別の側面から見た本発明は、異常検知プログラムであって、評価対象データを取得する、データ取得ステップと、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知ステップと、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成ステップと、を備え、所定の条件を満たした場合、前記異常検知ステップ及び前記更新モデル生成ステップにおいて、前記木構造モデルに代えて前記更新木構造モデルが使用される。

別の側面から見た本発明は、情報処理装置であって、評価対象データを取得する、データ取得部と、１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用される。

本発明によれば、事後的なデータの傾向の変化にも対応可能な異常検知技術を提供することができる。

図１は、異常検知装置のハードウェア構成図である（第１の実施形態）。図２は、異常検知装置の機能ブロック図である（第１の実施形態）。図３は、木構造モデルの生成処理に関するゼネラルフローチャートである（第１の実施形態）。図４は、木構造生成用データの例を示す表である（第１の実施形態）。図５は、統計データの一例を示す表である（第１の実施形態）。図６は、木構造モデルの生成処理に関する詳細フローチャートである（第１の実施形態）。図７は、木構造モデルにおけるノードの参照順に関する説明図である（第１の実施形態）。図８は、事前学習動作に関するゼネラルフローチャートである（第１の実施形態）。図９は、学習用データの一例を示す表である（第１の実施形態）。図１０は、推論値の特定処理に関する詳細フローチャートである（第１の実施形態）。図１１は、木構造モデルの更新処理の詳細フローチャートである（第１の実施形態）。図１２は、更新処理に関する概念図である（第１の実施形態）。図１３は、異常検知動作に関するゼネラルフローチャートである（第１の実施形態）。図１４は、忘却学習処理の概念図である（第１の実施形態）。図１５は、木構造モデルの生成処理に関するゼネラルフローチャートである（第２の実施形態）。図１６は、事前学習動作に関するゼネラルフローチャートである（第２の実施形態）。図１７は、推論値の生成処理に関する詳細フローチャートである（第２の実施形態）。図１８は、木構造モデルの更新処理の詳細フローチャートである（第２の実施形態）。図１９は、更新処理の概念図である（第２の実施形態）。図２０は、異常検知動作に関するゼネラルフローチャートである（第２の実施形態）。図２１は、忘却学習処理の概念図である（第２の実施形態）。図２２は、更新処理の概念図（第３の実施形態）である。図２３は、忘却学習処理の概念図（第３の実施形態）である。図２４は、忘却学習処理の概念図（変形例）である。

以下、本発明の実施の一形態を、添付の図面を参照しつつ、詳細に説明する。

（１．第１の実施形態）
第１の実施形態においては、本発明を異常検知装置１００へと適用した例について説明する。ここで、異常検知装置１００は、異常検知を行うための専用装置であってもよいし他の機能を含む装置の一部として構成されてもよい。また、単にＰＣ等の情報処理装置上で実現してもよい。

（１．１構成）
図１は、異常検知装置１００のハードウェア構成図である。同図から明らかな通り、異常検知装置１００は、制御部１、記憶部３、入力部５、表示部６、音声出力部７、通信部８及びＩ／Ｏ部９を備え、これらの構成は互いにバス等を介して接続されている。

制御部１は、ＣＰＵであり種々の演算処理を行う。より詳細には、後述の種々の動作を実現するプログラムを実行する処理を行う。なお、制御部１は、ＣＰＵに限定されず、ＧＰＵ等の他の演算機能を持つ装置であってもよい。

記憶部３は、ＲＯＭ、ＲＡＭ、ハードディスク、フラッシュメモリ等の揮発性又は不揮発性の記憶装置であり、後述の種々の動作を実現するプログラムや、種々のデータを記憶する。

入力部５は、装置に設けられた図示しない入力装置からの入力を検出して制御部１等に供する機能を有する。

表示部６は、図示しないディスプレイ等の表示装置へと表示する制御を行う機能を有する。

音声出力部７は、図示しないスピーカー等の音声出力装置へと音声出力を行う制御を行う機能を有する。

通信部８は、外部装置との間の通信を行うための通信ユニットであり、外部装置との間でデータの授受を行う。

Ｉ／Ｏ部９は、外部装置との間で入出力を行うためのインタフェースとなる装置である。

なお、図１に示したハードウェア構成は例示である。従って、ハードウェア構成は、他の構成としてもよく、例えば、一部の構成又は機能を統合したり分割する等してもよい。また、後述の種々の処理は、プログラムにより実行してもよいし、ＦＰＧＡ等のＩＣにより回路的に実現してもよい。

図２は、異常検知装置１００の機能ブロック図である。同図から明らかな通り、異常検知装置１００は、記憶部３と、木構造モデル生成処理部１１と、初期学習処理部１２と、異常検知部１３を備えている。

木構造モデル生成処理部１１は、記憶部３からデータを読み出して木構造を生成する処理を行い、記憶部３へと記憶する。初期学習処理部１２は、記憶部３から学習対象となるデータ及び学習パラメータ等を読み出し、初期学習を行い、学習済モデルを記憶部３へと記憶する。異常検知部１３は、記憶部３とデータをやり取りして、異常検知処理、追加学習処理、忘却学習処理、及び、異常出力処理を行う。

異常検知部１３は、データ取得部１３１と、推論処理部１３２と、異常検知処理部１３３と、出力処理部１３７と、追加学習処理部１３５と、忘却学習処理部１３６とを備えている。

データ取得部１３１は、図示しないセンサや外部装置等から評価対象データを取得し記憶部３へと記憶させる処理を行う。推論処理部１３２は、記憶部３から学習済モデルを読み出して評価対象データに基づいて推論処理を実行し、異常検知に用いられる推論出力を生成する。異常検知処理部１３３は、推論出力に基づいて評価対象データに関する異常検知を行う。異常を検知した場合、出力処理部１３７は、表示部６又は音声出力部７へと異常出力を行う。

追加学習処理部１３５は、評価対象データと学習済モデルを読み出して追加学習処理を行い、追加学習済モデルを記憶部３へと記憶する。また、忘却学習処理部１３６は、学習済モデルを読み出して忘却学習処理を行い、忘却学習を行った学習済モデルを記憶部３へと記憶する。

（１．２動作）
本実施形態において、異常検知装置１００は、以下で述べる通り、木構造モデルの生成動作、事前学習動作、及び、異常検知動作を行う。なお、これらの一連の処理は、連続的に行ってもよいし一部の動作を事前に実行してもよい。例えば、運用前に木構造モデルの生成動作と事前学習動作を実行し、運用後に、異常検知動作を実行してもよい。

（１．２．１木構造モデルの生成動作）
まず、後述の事前学習及び異常検知等で用いられる学習済モデル生成の基礎となる木構造モデルを生成するための動作について説明する。

図３は、木構造モデルの生成処理に関するゼネラルフローチャートである。同図から明らかな通り、処理が開始すると、木構造モデル生成処理部１１は、木構造生成用データを記憶部３から読み出す処理を行う（Ｓ１１）。

図４は、木構造生成用データの例を示す表である。同図から明らかな通り、本実施形態においては、木構造生成用データは、それぞれＴステップから成る３つの系列データＸ_１～Ｘ_３から構成されている。第１の系列データＸ_１には、１→８→・・・→４２のように整数値が格納されている。第２の系列データＸ_２には、３１→３５→・・・→３９のように整数値が格納されている。第３の系列データＸ_３には、０→５→・・・→１２のように整数値が格納されている。

図３に戻り、木構造生成用データの読出処理が完了すると、木構造モデル生成処理部１１は、後述の繰り返し処理に用いる整数ｎを初期化する処理を行う（Ｓ１２）。例えば、整数ｎは１に設定される。

初期化処理の後、木構造モデル生成処理部１１は、整数ｎの値に対応する系列データＸ_ｎについて統計データの生成処理及び記憶処理を行う。本実施形態において統計データは当該系列データの最大値と最小値である。従って、整数ｎが１の場合には、第１の系列データＸ_１を構成するデータから、最大値と最小を特定して記憶する。

統計データの記憶処理の後、木構造モデル生成処理部１１は、このような統計データの特定及び記憶処理（Ｓ１３）を、ｎの値が所定の最大値Ｎと一致するまで（Ｓ１５ＮＯ）、整数ｎに１を足し合わせてインクリメントしつつ（Ｓ１６）、繰り返し行う。なお、本実施形態において、Ｎは３である。

すなわち、整数ｎが２の場合には、第２の系列データＸ_２を構成するデータから、最大値と最小値を特定して記憶する。整数ｎが３の場合には、第３の系列データＸ_３を構成するデータから、最大値と最小値を特定して記憶する。

図５は、以上の処理（Ｓ１５ＹＥＳ）により生成された統計データの一例を示す表である。同図から明らかな通り、各系列データＸ_１～Ｘ_３について最大値と最小値が特定される。

なお、本実施形態においては、統計データとして最大値と最小値を例示したが、本発明はこのような構成に限定されない。従って、例えば、統計データとして、平均値と標準偏差等、他の値を利用してもよい。

図３に戻り、統計データを生成する一連の処理が完了すると、木構造モデル生成処理部１１は、木構造モデルの生成処理を行う（Ｓ１７）。

図６は、木構造モデルの生成処理に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、生成される木構造モデルを構成する根ノードを参照ノードに設定する処理を行う（Ｓ１７１）。

参照ノードの設定処理の後、参照ノードから２分木を生成するための分割値を設定するため、入力系列を選択する処理が行われる（Ｓ１７２）。本実施形態においては、３つの入力系列（Ｘ_１～Ｘ_３）のうちから１の入力系列が選択される。

入力系列の選択処理の後、統計データに基づいて分割値を設定する処理が行われる（Ｓ１７３）。本実施形態においては、分割値として、選択された入力系列に係る最大値と最小値の間でランダムな値を設定する。

分割値の設定処理の後、木構造を構成するすべてのノードについて分割値を設定する処理がなされたか否かを判定する処理が行われる（Ｓ１７５）。未だすべてのノードについて処理がなされていない場合（Ｓ１７５ＮＯ）、所定の法則に則って参照ノードを別のノードへと設定する処理が行われる（Ｓ１７６）。本実施形態においては、深さ優先探索の順序で参照ノードを変更する。

一方、すべてのノードについて処理がなされた場合（Ｓ１７５ＹＥＳ）、すべてのノードへの分割値の設定処理が完了したものとして次の処理へと進む。

図７は、本実施形態に係る木構造モデルにおけるノードの参照順に関する説明図である。同図において、各ノード内の数字はノードの参照順である。本実施形態においては、数字の順序に従って、分割値の設定が実行されていく。なお、本実施形態においては深さ優先探索によりノードを参照したが他の順序により参照してもよい。

図６に戻り、分割値の設定処理の後、生成された木構造の各葉ノードに対応付けられた出力値を初期化する処理が行われる（Ｓ１７７）。本実施形態において、出力値はいずれも０である。

初期化処理の後、生成された木構造データを記憶部３へと記憶する処理が行われて（Ｓ１７８）、木構造の生成処理は終了する。

なお、本実施形態においては、木構造モデル分割値は、それぞれ統計データに基づいてランダムに設定する構成としたが、本発明はこのような構成に限定されない。要するに各ノードにおいて分割値が設定された木構造が得られればよいことから、他の手法により木構造を生成してもよい。例えば、決定木等の手法により木構造を生成し、葉ノードに係る出力値を初期化する等してもよい。

（１．２．２事前学習動作）
次に、生成した木構造モデルを利用した事前学習動作について説明する。

図８は、初期学習処理部１２によって実行される事前学習動作に関するゼネラルフローチャートである。同図から明らかな通り、処理が開始すると、初期学習処理部１２は、分割値が設定された木構造モデルを読み出す処理を行う（Ｓ２１）。また、木構造モデルの読出処理の後、初期学習処理部１２は、学習用データの読出処理を行う（Ｓ２２）。

図９は、読み出される学習用データの一例を示す表である。同図から明らかな通り、本実施形態において学習用データは、それぞれＴステップから成る複数の入力系列データ（Ｘ１～Ｘ３）と、対応する一の正解系列データ（Ｙ）とから構成されている。なお、正解系列データは、正常値の場合に１、異常値の場合に－１となるように設定されており、これが教師あり学習における教師データとなる。

なお、木構造生成用データと学習用データとを共用してもよい。また、入力系列データや正解データの次元数は例示である。さらに、教師データにおいて正常値と異常値として割り当てる数字は、任意の数値であってもよく、正負も問わない。また、正常値と異常値が非対称であってもよい（例えば、正常値の場合に５、異常値の場合に－３など）。加えて、後述の異常検知の際の閾値と関連付けて決定してもよい。

図８に戻り、学習用データの読出処理の後、初期学習処理部１２は、推論値ｙ'の特定処理を行う（Ｓ２３）。

図１０は、推論値の特定処理（Ｓ２３）に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、初期学習処理部１２は、系列データ（Ｘ１～Ｘ３）の１ステップ分のデータを木構造モデルに対して入力することにより、各ノードに設定された分割値に基づいて一の経路を特定し、葉ノードを特定する処理を行う（Ｓ２３１）。

葉ノードを特定した後、初期学習処理部１２は、推論値ｙ'の特定処理を行う（Ｓ２３２）。本実施形態において、推論値ｙ'は、当該葉ノードに対応付けられたすべての正解データｙの相加平均値である。なお、ここで特定の語は、記憶部３からデータを読み出すことによる特定と、及び、所定の演算により値を生成することによる特定の両方を含む。

図８に戻り、推論値ｙ'の特定処理の後、木構造モデルの更新処理を行う（Ｓ２５）。

図１１は、木構造モデルの更新処理（Ｓ２５）の詳細フローチャートである。同図から明らかな通り、処理が開始すると、まず、更新量ｄの生成処理が行われる（Ｓ２５１）。更新量ｄは、正解値ｙと推論値ｙ'の差分に学習率η（０＜η≦１）を掛けた値である。

更新量ｄを算出した後、下記の数式の通り、推論に用いた葉ノードの推論値ｙ'に対して更新量ｄを加算することにより推論値ｙ'を更新する処理を行う（Ｓ２５２）。なお、下式は、右辺の値を左辺へと代入することを表している。

図１２は、推論に用いた葉ノードの推論値ｙ'を更新量ｄを加算することにより行われる更新処理に関する概念図である。同図においては、推論に用いられた右から２番目の葉ノードに対して更新量ｄが加算されている。なお、同図における木構造は例示であって、簡略化して示されている点に留意されたい。

更新処理の後、初期学習処理部１２は、更新結果を記憶する処理を行い（Ｓ２５３）、木構造モデルの更新処理は終了する。

図８に戻り、木構造モデルの更新処理が完了すると、初期学習処理部１２は、すべてのステップの学習用データについて一連の処理（Ｓ２３、Ｓ２５）を実行したか否かを判定する（Ｓ２７）。

未だすべてのステップの学習用データについて処理が完了していない場合（Ｓ２７ＮＯ）、参照データの変更処理を行い（Ｓ２８）、再度一連の処理を行う（Ｓ２３、Ｓ２５）。一方、すべてのステップの学習用データについて処理が完了した場合（Ｓ２７ＹＥＳ）、すべての学習用データについて学習処理を行ったものとして、次の処理へと進む。

学習処理の完了後、初期学習処理部１２は、葉ノードに対応付けられた推論値ｙ'を含む学習済モデルデータを記憶する処理を行う（Ｓ２９）。その後、初期学習処理は終了する。

（１．２．３異常検知動作）
続いて、初期学習処理により生成された学習済モデル、本実施形態においては、学習済の木構造モデルを用いた異常検知動作について説明する。

図１３は、異常検知動作に関するゼネラルフローチャートである。同図から明らかな通り、処理が開始すると、データ取得部１３１は、後述の異常検知処理において利用される所定の閾値を読み出す処理を行う（Ｓ３０）。

閾値の読出処理の後、データ取得部１３１は、記憶部３から記憶されている最新の木構造学習済モデルを読み出す処理を行う（Ｓ３１）。学習済モデルの読出処理の後、データ取得部１３１は、評価対象となる木構造モデルへの入力データを記憶部３から取得する処理を行う（Ｓ３２）。

なお、この入力データは、異常検知装置１００の構成のうち記憶部３以外の構成から取得してもよいし、他の外部装置等から取得してもよい。

入力データの取得処理の後、推論処理部１３２は、読み出した木構造学習済モデルと、取得した入力データに基づいて、初期学習時と同様の推論処理を行う（Ｓ３３）。すなわち、推論処理部１３２は、まず、入力データと、木構造モデルの各ノードに対応付けられた分割値に基づいて、入力データに対応する木構造モデル上の一の経路と葉ノードを特定する。その後、特定された葉ノードに対応付けられた推論値ｙ'を特定する。

推論処理の後、異常検知処理部１３３は、読み出した閾値と特定された推論値ｙ'に基づいて異常検知処理を行う（Ｓ３５）。より詳細には、異常検知処理部１３３は、推論値ｙ'が閾値以上であるか又は閾値より小さいかを判定する。推論値ｙ'が閾値以上である場合、異常検知処理部１３３は、異常でないこと、すなわち、正常であることを検知する。一方、推論値ｙ'が閾値より小さい場合、異常検知処理部１３３は、異常であることを検知する。

異常が検知された場合（Ｓ３６ＹＥＳ）、入力データにおいて異常が検知されたことを出力する処理を行う（Ｓ３７）。なお、この異常出力処理は、例えば、表示部６や音声出力部７へと出力する処理を含んでもよい。

一方、異常が検知されなかった場合（Ｓ３６ＮＯ）、追加学習処理部１３５は、入力データに基づいて追加学習処理（Ｓ３８）を行う。より詳細には、追加学習処理部１３５は、図１１の木構造モデルの更新処理（Ｓ２５）と同様に、推論値ｙ'と正解値ｙの差分に学習率ηを掛け合わせて得られた更新量ｄ（数式１を参照）を、推論に用いた葉ノードの推論値ｙ'に対して加算することにより推論値ｙ'を更新する（数式２を参照）。なお、このとき、正解値ｙは正常値の場合であるので１に設定される。

追加学習処理の後、忘却学習処理部１３６は、忘却学習処理（Ｓ３９）を行う。より詳細には、忘却学習処理部１３６は、下記数式の通り、木構造が有するｋ個の葉ノードのそれぞれから、忘却用更新量εだけ減算する処理を行う。

なお、ここで忘却用更新量εは、下記数式の通り、出力１をスライドする窓幅に相当するステップ数を表すＬ（自然数）で除した値である。

図１４は、忘却学習処理の概念図である。同図から明らかな通り、本実施形態においては、忘却学習処理として、木構造を有するすべての葉ノードの推論値ｙ'についてそれぞれ忘却用更新量εだけ減算されている。

このような構成によれば、減算という簡易な処理により高速に忘却学習を行うことができる。また、窓幅という一定の基準に基づいて忘却学習を行うことができる。

図１３に戻り、忘却学習処理の後、再び一連の処理が実行される（Ｓ３１～Ｓ３６）。なお、この場合、学習済モデルの読出処理（Ｓ３１）においては、追加学習処理及び忘却学習処理が行われた学習済モデルが読み出される。

このような構成によれば、取得された新たなデータに基づく追加学習処理に加えて忘却学習処理を行って木構造モデルの更新を行い、更新されたモデルに基づいて異常検知が行われるので、事後的なデータの傾向の変化にも対応可能な異常検知技術を提供することができる。

なお、本実施形態においては、異常検知がされなかった場合（Ｓ３６）にのみ、追加学習及び忘却学習を行うものとして説明したが、本発明はこのような構成に限定されない。従って、異常の有無に関わらず学習する構成、例えば、異常が検知されなかった場合（Ｓ３６ＮＯ）には、正常な状態として追加学習し、異常が検知された場合（Ｓ３６ＹＥＳ）には、異常な状態として学習する構成としてもよい。このとき、いずれの場合も忘却学習を行ってもよい。また、ユーザからの指令に基づいて、得られたデータの一部又は全部について、任意のタイミングで追加学習処理及び／又は忘却学習処理を行ってもよい。

（２．第２の実施形態）
第１の実施形態においては、単一の木構造モデルを用いて異常検知処理等を行った。本実施形態においては、複数の木構造モデルを利用して学習／推論処理を行うアンサンブル学習モデルを用いた例のうち、特に、複数の木構造モデルの出力に基づいて（例えば、複数の木構造モデルの出力の平均をとることにより）、推論出力を生成するバギング型モデルを用いた例について説明する。

（２．１構成）
本実施形態に係る異常検知装置のハードウェア構成は、学習モデルとしてアンサンブル学習モデルを用いる点を除いて、第１の実施形態に係る構成（図１及び図２参照）と略同一であるので、詳細な説明は省略する。

（２．２動作）
（２．２．１木構造モデルの生成動作）
図１５は、複数の木構造モデルの生成処理に関するゼネラルフローチャートである。同図から明らかな通り、木構造生成用データの読み出しを行い各系列データについて統計データを特定及び記憶するフローは第１の実施形態に係るフローと同一である（Ｓ４１～Ｓ４６）。

ただし、本実施形態においては、統計データの特定及び記憶処理の後に、変数ｍを例えば１等に初期化する処理を行い（Ｓ４７）、第１の実施形態と同様の木構造モデルの生成処理（Ｓ４８、図６参照）を、変数ｍがＴｒｅｅＮｕｍと等しくなるまで（Ｓ４９ＹＥＳ）、変数ｍを１ずつインクリメントしつつ（Ｓ５０）繰り返す（Ｓ４９ＮＯ）点において第１の実施形態と相違する。

すなわち、本実施形態においては、木構造モデルがＴｒｅｅＮｕｍ個生成されて記憶部３へと記憶されることとなる。

（２．２．２事前学習動作）
図１６は、本実施形態に係る事前学習動作に関するゼネラルフローチャートである。同図から明らかな通り、事前学習動作のフロー（Ｓ６１～Ｓ６８）は、第１の実施形態に係るフロー（図８参照）と略同一である。ただし、本実施形態においては、木構造モデルが複数存在することから、推論値ｙ'の生成処理（Ｓ６３）に関する詳細フローと、木構造モデルの更新処理（Ｓ６５）に関する詳細フローが第１の実施形態とは異なる。

図１７は、本実施形態に係る推論値の生成処理（Ｓ６３）に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、変数ｍを初期化する処理が行われる（Ｓ６３１）。

その後、各木構造における推論値を表す木構造推論値ｙ''をすべての木構造モデルにおいて特定する処理が行われる。

まず、一の木構造モデルについて対応する葉ノードを特定する処理が行われる（Ｓ６３２）。すなわち、参照データを入力データとして、入力データと、一の木構造モデルの各ノードに対応付けられた分割値に基づいて、入力データに対応する木構造モデル上の一の経路を特定し、その末端の葉ノードを特定する処理が行われる。

次に、特定された葉ノードに対応付けられた推論値を読み出して木構造推論値ｙ_ｍо''を特定する処理が行われる（Ｓ６３３）。

このような一連の処理（Ｓ６３２～Ｓ６３３）を木の個数分だけ、変数ｍを１ずつインクリメントしながら（Ｓ６３６）繰り返す（Ｓ６３５ＮＯ）。

すべての木について木構造推論値ｙ_ｍо''が特定された場合（Ｓ６３７）、最終的な推論値ｙ'を生成する処理が行われる。下記数式の通り、推論値ｙ'は、木構造推論値ｙ_ｍо''の総和を木の本数ＴｒｅｅＮｕｍで除した値、すなわち、木構造推論値ｙ_ｍо''の相加平均値である。推論値ｙ'の生成処理の後、処理は終了する。

図１８は、木構造モデルの更新処理（Ｓ６５）の詳細フローチャートである。同図から明らかな通り、処理が開始すると、更新量ｄの生成処理が行われる（Ｓ６５１）。なお、更新量ｄは、下記数式の通り、正解値ｙと生成した推論値ｙ'との差分に学習率η（ただし、０＜η≦１）を掛けた値である。

更新量ｄの生成処理の後、変数ｍの初期化処理が行われる（例えば、ｍ＝１）。初期化処理の後、一の木構造モデルに係る推論に用いた葉ノードの更新処理が実行される（Ｓ６５３）。より詳細には、下記数式の通り、木構造推論値ｙ_ｍо''に更新量ｄを加算することにより木構造推論値ｙ_ｍо''の更新処理が実行される。

木構造推論値の更新処理の後、変数ｍが木の本数ＴｒｅｅＮｕｍと等しくなるまで（Ｓ６５５ＮＯ）、変数ｍを１ずつインクリメントさせつつ（Ｓ６５６）、繰り返す処理が行われる。すなわち、これにより、すべての木構造モデルに係る推論に用いた葉ノードについて、更新量ｄに基づく更新処理が行われることとなる。

すべての木について更新処理が完了すると（Ｓ６５５ＹＥＳ）、更新結果、すなわち、更新済の学習済モデルやその付随データを記憶部３へと記憶する処理が行われる（Ｓ６５７）。その後、処理は終了する。

図１９は、複数の木について更新処理を行う場合の概念図である。同図から、更新量ｄを各木の推論に用いた葉ノードの推論値ｙ''に対して加算することにより学習済モデルの更新処理がなされることが把握される。

（２．２．３異常検知動作）
図２０は、本実施形態に係る異常検知動作に関するゼネラルフローチャートである。同図から明らかな通り、本実施形態に係る異常検知動作に関するフローは、第１の実施形態に係るフローと略同一である。しかしながら、本実施形態においては複数の木構造モデルを含むモデルを用いることから、推論処理（Ｓ７５）、追加学習処理（Ｓ７９）、及び忘却学習処理（Ｓ８０）の詳細が第１の実施形態とは異なる。

本実施形態に係る推論処理（Ｓ７５）においては、図１７で示した処理と同様の処理により推論値ｙ'が生成される。すなわち、入力データに基づいて木構造推論値ｙ''を生成し、それらの相加平均値（数式５を参照）を算出することにより、推論値ｙ'が生成される。

本実施形態に係る追加学習処理（Ｓ７９）においては、図１６の木構造モデルの更新処理（Ｓ６５）と同様に、推論値ｙ'と正解値ｙの差分に学習率ηを掛け合わせて得られた更新量ｄ（数式６を参照）を、推論の基礎となった各木構造モデルの葉ノードの推論値ｙ_ｍо''に対して加算することにより木構造推論値ｙ_ｍо''の更新処理が実行される（数式７を参照）。なお、このとき、正解値ｙは正常値の場合であるので１に設定される。

本実施形態に係る忘却学習処理（Ｓ８０）においては、下記数式の通り、各木構造モデルのすべての葉ノードに係る木構造推論値ｙ''から忘却用更新量εだけ減算する処理が実行される。

ただし、忘却用更新量εは第１の実施形態と同様に出力１をスライド窓幅に相当するステップ数を表すＬ（自然数）で除した値である。

図２１は、本実施形態に係る忘却学習処理の概念図である。同図から明らかな通り、本実施形態においては、忘却学習処理として、各木構造モデルのすべての葉ノードに係る木構造推論値ｙ''についてそれぞれ忘却用更新量εだけ減算されている。

（３．第３の実施形態）
第２の実施形態においては、複数の木構造モデルの木構造推論値ｙ''の相加平均を推論値ｙ'とするモデルを用いた処理について説明した。本実施形態においては、複数の木構造モデルを利用して学習／推論処理を行うアンサンブル学習モデルを用いた例のうち、特に、複数の木構造モデルの出力に基づいて（例えば、複数の木構造モデルの出力の総和をとることにより）、推論出力を生成するブースティング型モデルを用いた例について説明する。

（３．１構成）
本実施形態のハードウェア構成は第１の実施形態又は第２の実施形態と略同一であるので詳細な説明は省略する。

（３．２動作）
（３．２．１木構造モデルの生成動作）
本実施形態に係る木構造モデルの生成動作は、第２の実施形態で示したもの（図１５を参照）と略同一であるので同様な処理についての詳細な説明は省略する。すなわち、本実施形態においても、ＴｒｅｅＮｕｍ個の木構造モデルを生成して記憶部３へと記憶する。

（３．２．２事前学習動作）
本実施形態に係る事前学習動作も第２の実施形態と略同一であるので同様な処理についての詳細な説明は省略する（図１６を参照）。しかしながら、本実施形態においては推論値ｙ'の生成処理（Ｓ６３）と木構造モデルの更新処理（Ｓ６５）が第２の実施形態とは異なる。

本実施形態に係る推論値ｙ'の生成処理は、各木について木構造推論値ｙ_ｍо''を特定する点において第２の実施形態と同様である（Ｓ６３１～Ｓ６３５）。しかしながら、下記数式の通り、すべての木構造推論値ｙ_ｍо''の総和をとることにより推論値ｙ'を生成する点において相違する。

また、本実施形態に係る木構造モデルの更新処理も、基本的な流れは第２の実施形態と同様である（図１８を参照）。すなわち、まず、第２の実施形態と同様、以下の数式に従って、更新量ｄを生成する。

その後、第２の実施形態（図１８を参照）と同様に、この更新量ｄを用いて、推論値ｙ'の基礎となった木構造推論値ｙ''を生成したすべての葉ノードについて更新を行い、その更新結果を記憶する処理を行う。

ただし、下記数式の通り、更新量を木の個数ＴｒｅｅＮｕｍで除した値を加算することにより木構造推論値ｙ''を更新する点において第２の実施形態とは相違する。

図２２は、本実施形態に係る更新処理を行う場合の概念図である。同図から、本実施形態においては、更新量ｄを木の個数ＴｒｅｅＮｕｍで除した値を加算することにより、各木の木構造推論値ｙ''の更新処理がなされることが把握される。

（３．２．３異常検知動作）
本実施形態に係る異常検知動作も第２の実施形態と略同一であるので同様な処理についての詳細な説明は省略する（図２０を参照）。しかしながら、本実施形態においては推論値ｙ'の生成処理（ＳＳ７５）、追加学習処理（Ｓ７９）、及び忘却学習処理（Ｓ８０）の詳細が、第２の実施形態とは異なる。

本実施形態に係る推論処理において、推論値ｙ'は各木の木構造推論値ｙ''の総和として生成される（は数式９を参照）。

また、本実施形態に係る追加学習処理において、木構造推論値ｙ''は、事前学習と同様の手法により行われる。すなわち、推論値ｙ'と正解値ｙの差分に学習率ηを掛け合わせて得られた更新量ｄ（数式１０を参照）を木の本数ＴｒｅｅＮｕｍで除した値を、推論の基礎となった各木構造モデルの葉ノードの推論値ｙ_ｍо''に対して加算することにより木構造推論値ｙ_ｍо''の更新処理が実行される（数式１１を参照）。なお、このとき、正解値ｙは正常値の場合であるので１に設定される。

さらに、本実施形態に係る忘却学習処理において、木構造推論値ｙ''は、下記数式の通り、忘却用更新量εを木の本数ＴｒｅｅＮｕｍで除した値を、各木構造モデルのすべての葉ノードに係る木構造推論値ｙ''から減算することにより更新される。

図２３は、本実施形態に係る忘却学習処理の概念図である。同図から、本実施形態において、忘却学習処理として、各木構造モデルのすべての葉ノードに係る木構造推論値ｙ''から、忘却用更新量εを木の本数で除した値だけ、それぞれ減算されていることが把握される。

（４．変形例）
本発明は、上述の実施形態に限定されることはなく、様々に変形して実施することができる。

上述の実施形態における忘却学習処理においては、忘却用更新量εをスライド窓幅Ｌに基づいて決定したが、本発明はそのような構成に限定されない。従って、他の手法により忘却学習処理を行ってもよい。

例えば、忘却用更新量として、下記数式の通り、更新量ｄをｍ番目の木の葉ノードの数ＬｅａｆＮｕｍ_ｍで除した値としてもよい。

このような構成によれば、忘却更新量として、追加学習用更新量に応じた更新量を設定することができる。

なお、第１の実施形態の場合、下記数式の通り、推論値ｙ_ｋ'から忘却用更新量ε_１を減算することによりモデルの更新が行われる。

第２の実施形態の場合も同様に、下記数式の通り、木構造推論値ｙ_ｍｋ'から忘却用更新量ε_ｍを減算することによりモデルの更新が行われる。

第３の実施形態の場合には、下記数式の通り、推論値ｙ_ｋ'から忘却用更新量ε_ｍをＴｒｅｅＮｕｍで除した値で減算することによりモデルの更新が行われる。

図２４は、これらの忘却学習処理の概念図である。図２４Ａから明らかな通り、単一の木構造モデルを用いる場合（第１の実施形態）、木構造の有するすべての葉ノードに係る推論値ｙ'について忘却用更新量ε_ｍの減算処理が行われる。図２４Ｂから明らかな通り、複数の木構造モデルを用いた場合であって各木構造モデルの推論値ｙ''の相加平均により推論値ｙ'を生成する構成の場合（第２の実施形態）、すべての木構造モデルの推論値ｙ''から忘却用更新量ε_ｍを減算する処理が行われる。図２４Ｃから明らかな通り、複数の木構造モデルを用いた場合であって各木構造モデルの推論値ｙ''の総和により推論値ｙ'を生成する構成の場合（第３の実施形態）、すべての木構造モデルの推論値ｙ''から、忘却用更新量ε_ｍを木の本数ＴｒｅｅＮｕｍで除した値だけ、減算する処理が行われる。

以上、本発明の実施形態について説明したが、上記実施形態は本発明の適用例の一部を示したに過ぎず、本発明の技術的範囲を上記実施形態の具体的構成に限定する趣旨ではない。また、上記の実施形態は、矛盾が生じない範囲で適宜組み合わせ可能である。

本発明は、機械学習技術を利用する種々の産業等にて利用可能である。

１制御部
１１木構造モデル生成処理部
１２初期学習処理部
１３異常検知部
１３１データ取得部
１３２推論処理部
１３３異常検知処理部
１３５追加学習処理部
１３６忘却学習処理部
１３７出力処理部
３記憶部
５入力部
６表示部
７音声出力部
８通信部
９Ｉ／Ｏ部
１００異常検知装置

Claims

評価対象データを取得する、データ取得部と、
１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、
前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、
所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用され、
前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有する葉ノードに対応付けられた推論値から減ずることにより行われる、異常検知装置。
前記忘却学習用更新量は、所定の窓幅に基づいて設定される、請求項１に記載の異常検知装置。
前記忘却学習用更新量は、各前記木構造において、前記推論出力に基づいて生成された追加学習用更新量を各前記木構造の葉ノードの数で除した値である、請求項１に記載の異常検知装置。
前記追加学習処理は、前記推論出力に基づいて生成された追加学習用更新量を、各前記木構造モデルの有する葉ノードのうち前記推論出力の生成に関与した葉ノードに対応付けられた推論値に対して加算することにより行われる、請求項１に記載の異常検知装置。
前記条件は、前記更新木構造モデルが生成されたことである、請求項１に記載の異常検知装置。
前記異常検知部は、前記推論出力と所定の閾値との比較に基づいて異常検知を行う、請求項１に記載の異常検知装置。
前記木構造モデルは１つであって、
前記異常検知部における前記推論出力は、前記木構造モデルの一の葉ノードに対応付けられた出力値である、請求項１に記載の異常検知装置。
前記木構造モデルは複数であって、
前記異常検知部における前記推論出力は、各前記木構造モデルの各葉ノードに対応付けられた出力値の相加平均値である、請求項１に記載の異常検知装置。
前記木構造モデルは複数であって、
前記異常検知部における前記推論出力は、各前記木構造モデルの各葉ノードに対応付けられた出力値の総和である、請求項１に記載の異常検知装置。
評価対象データを取得する、データ取得部と、
１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、
前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、
所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用され、
前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有する葉ノードに対応付けられた推論値から減ずることにより行われる、異常検知システム。
評価対象データを取得する、データ取得ステップと、
１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知ステップと、
前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成ステップと、を備え、
所定の条件を満たした場合、前記異常検知ステップ及び前記更新モデル生成ステップにおいて、前記木構造モデルに代えて前記更新木構造モデルが使用され、
前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有する葉ノードに対応付けられた推論値から減ずることにより行われる、異常検知方法。
評価対象データを取得する、データ取得ステップと、
１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知ステップと、
前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成ステップと、を備え、
所定の条件を満たした場合、前記異常検知ステップ及び前記更新モデル生成ステップにおいて、前記木構造モデルに代えて前記更新木構造モデルが使用され、
前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有する葉ノードに対応付けられた推論値から減ずることにより行われる、異常検知プログラム。
評価対象データを取得する、データ取得部と、
１又は複数の木構造モデルへの前記評価対象データの入力に基づいて生成された推論出力に基づいて前記評価対象データに関する異常検知を行う、異常検知部と、
前記木構造モデルに対して、前記評価対象データに基づく追加学習処理と、忘却学習処理と、を行うことにより更新木構造モデルを生成する、更新モデル生成部と、を備え、
所定の条件を満たした場合、前記異常検知部及び前記更新モデル生成部において、前記木構造モデルに代えて前記更新木構造モデルが使用され、
前記忘却学習処理は、忘却学習用更新量を、各前記木構造モデルの有する葉ノードに対応付けられた推論値から減ずることにより行われる、情報処理装置。