JP2018190128A - 設定装置、分析システム、設定方法および設定プログラム - Google Patents

設定装置、分析システム、設定方法および設定プログラム Download PDF

Info

Publication number
JP2018190128A
JP2018190128A JP2017091185A JP2017091185A JP2018190128A JP 2018190128 A JP2018190128 A JP 2018190128A JP 2017091185 A JP2017091185 A JP 2017091185A JP 2017091185 A JP2017091185 A JP 2017091185A JP 2018190128 A JP2018190128 A JP 2018190128A
Authority
JP
Japan
Prior art keywords
abnormal
data
setting
value
rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017091185A
Other languages
English (en)
Other versions
JP6588495B2 (ja
Inventor
哲哉 塩田
Tetsuya Shioda
哲哉 塩田
一樹 及川
Kazuki Oikawa
一樹 及川
拓郎 宇田川
Takuro Udagawa
拓郎 宇田川
雅人 澤田
Masahito Sawada
雅人 澤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2017091185A priority Critical patent/JP6588495B2/ja
Publication of JP2018190128A publication Critical patent/JP2018190128A/ja
Application granted granted Critical
Publication of JP6588495B2 publication Critical patent/JP6588495B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Complex Calculations (AREA)

Abstract

【課題】異常データを検出するための閾値を容易に設定すること。【解決手段】算出部15aが、複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出し、導出部15bが、異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出し、特定部15cが、ROC曲線上において判定の精度が最大となる点に対応する異常スコアの値を閾値として特定する。【選択図】図2

Description

本発明は、設定装置、分析システム、設定方法および設定プログラムに関する。
近年、機械学習を用いたデータ分析の適用事例が増加している。一方、データ分析に不可欠な統計や機械学習の知識の習得には、中長期的な教育が必要となる。そこで、非専門家が、統計や機械学習の知識を習得しなくても容易にデータ分析に従事できるよう、データ分析を支援する技術が開示されている(非特許文献1,2参照)。
また、あるデータのまわりの密度がその他のデータのまわりの密度と比べて小さいかどうかを評価する異常スコアを算出する、LOF(Local Outlier Factor)と呼ばれる機械学習のアルゴリズムが知られている。LOFによって算出された異常スコアを適用することにより、異常検知を行うことが可能となる。
Matthias Feurer,Aaron Klein,Katharina Eggensperger,Jost Tobias Springenberg,Manuel Blum,Frank Hutter,"Efficient and Robust Automated Machine Learning",NIPS'15 Proceedings of the 28th International Conference on Neural Information Processing Systems,2015年12月,PP.2755-2763 Lisha Li,Kevin Jamieson,Giulia DeSalvo,Afshin Rostamizadeh,Ameet Talwalkar,"Hyperband:A Novel Bandit-Based Approach to Hyperparameter Optimization",2016年11月
しかしながら、各データが異常か正常かを判定するための閾値は、異常スコアの算出結果を人手により分析して決定する必要があった。そのため、分析スキルと多大な作業時間とを要していた。
本発明は、上記に鑑みてなされたものであって、異常データを検出するための閾値を容易に設定することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る設定装置は、複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する算出部と、前記異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する導出部と、前記曲線上において前記判定の精度が最大となる点に対応する前記異常スコアの値を閾値として特定する特定部と、を備えることを特徴とする。
本発明によれば、異常データを検出するための閾値を容易に設定することができる。
図1は、本発明の一実施形態に係る設定装置を含む分析システムの処理概要を説明するための説明図である。 図2は、本実施形態の設定装置の概略構成を例示する模式図である。 図3は、導出部の処理を説明するための説明図である。 図4は、導出部の処理を説明するための説明図である。 図5は、ROC曲線について説明するための説明図である。 図6は、ROC曲線について説明するための説明図である。 図7は、分析装置の概略構成を例示する模式図である。 図8は、設定情報のデータ構成の一例を示す図である。 図9は、分析システムの処理を説明するための説明図である。 図10は、本実施形態の設定処理手順を示すフローチャートである。 図11は、本実施形態の設定処理の効果を説明するための説明図である。 図12は、本実施形態の設定処理の効果を説明するための説明図である。 図13は、設定プログラムを実行するコンピュータを例示する図である。
以下、図面を参照して、本発明の一実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
[分析システムの処理概要]
まず、図1を参照して、本実施形態に係る判定装置を含む分析システムの処理概要を説明する。図1に示すように、本実施形態において、分析システム1は、機械学習によるデータ分析を支援するためのシステムである。ここで、機械学習によるデータ分析を行う場合、予測モデルを構築する一連の処理であるパイプラインが決定される。例えば、パイプラインの決定は、予測モデルに関する複数の設定項目ごとの設定内容の候補を選択肢として用意しておき、選択肢の中から設定内容を順次決定することで行うことができる。
分析システム1は、予想モデルを構築する際に実行される複数の処理に対応するステップを順次実行することで、各設定項目の設定内容を決定する。例えば、分析システム1は、各ステップにおいて、学習に用いるデータに対する前処理等の前処理の方式と、データの学習からは決まらない予測モデルのハイパーパラメータとを逐次的に決定する。
ここで、前処理には、欠損値補完、正規化、特徴選択等が挙げられる。欠損値補完とは、データの欠損値補完の方式を意味し、例えば、平均値、中央値、最頻値、あるいは削除等が選択肢となる。また、正規化とは、データの正規化の方式を意味し、例えば、最大値を1、最小値を0とする最大最小方式、標準化、平均値0、標準偏差1の標準正規分布に置き換えるZスコア方式、あるいは無処理等が選択肢となる。特徴選択とは、データの特徴を選択する際の方式を意味し、例えば、決定木、L1正則化、分散分析あるいは無処理等が選択肢となる。また、分析システム1は、前処理の後、予測モデルのハイパーパラメータの探索を行う。
図1には、前処理として、前処理1、前処理2、および前処理3の3ステップが例示されており、このうち、例えば、前処理1についての選択肢が、選択肢11、選択肢12、選択肢13および選択肢14となっている。また、図1には、予測モデルのハイパーパラメータ探索として、予測アルゴリズムAのパラメータCを対象とする1ステップが例示され、その選択肢が、0.1,1.0,10および100となっている。
分析システム1は、各ステップにおいて、データの一部を用いて学習し、残りのデータで精度を検証する交差検証を行いながら、選択肢の中から最も精度の高いものを採用する。これにより、分析システム1は、図1に実線矢印で表される採用された選択肢からなるパイプラインに従って、採用された方式で前処理を行う。
次に、分析システム1は、採用されたハイパーパラメータが設定された予測アルゴリズムAを用いて学習を行って、予測モデルを構築する。これにより、分析システム1は、高精度であることが予測される予測モデルを用いて効率よくデータの学習を行って、精度の高い予測モデルを構築できる。
本実施形態において、分析システム1は、分析装置と設定装置とを含む。分析装置は、予測モデルを構築する際に実行される複数の処理に対応するステップを順次実行することにより、各設定項目の設定内容の決定を行う。例えば、分析装置は、各ステップにおいて、前処理の方式、予測モデルのアルゴリズムおよびハイパーパラメータ等を決定する。また、設定装置は、予測モデルのハイパーパラメータの一つとして、異常検知(Anomaly)モデルの異常値の判定に用いられる閾値を設定する処理を実行する。
[設定装置の構成]
次に、図2を参照して、本実施形態に係る設定装置の概略構成を説明する。図2に示すように、本実施形態に係る設定装置10は、ワークステーションやパソコン等の汎用コンピュータで実現され、入力部11と出力部12と通信制御部13と、記憶部14と、制御部15とを備える。
入力部11は、キーボードやマウス等の入力デバイスを用いて実現され、操作者による入力操作に対応して、制御部15に対して各種指示情報を入力する。出力部12は、液晶ディスプレイなどの表示装置、プリンター等の印刷装置、情報通信装置等によって実現され、後述する設定処理の結果等を操作者に対して出力する。
通信制御部13は、NIC(Network Interface Card)等で実現され、LAN(Local Area Network)やインターネットなどの電気通信回線を介した管理サーバ等の外部の装置と制御部15との通信を制御する。
記憶部14は、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部14には、設定装置10を動作させる処理プログラムや、処理プログラムの実行中に使用されるデータなどが予め記憶され、あるいは処理の都度一時的に記憶される。記憶部14は、通信制御部13を介して制御部15と通信する構成でもよい。
制御部15は、CPU(Central Processing Unit)等の演算処理装置がメモリに記憶された処理プログラムを実行することにより、図2に例示するように、算出部15a、導出部15bおよび特定部15cとして機能する。なお、これらの機能部は、それぞれ、あるいは一部が異なるハードウェアに実装されてもよい。
算出部15aは、複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する。具体的に、算出部15aは、入力部11あるいは通信制御部13を介して、複数の正常なデータと複数の異常なデータとを取得する。また、算出部15aは、正常データを用いて正常なデータの特徴量の分布を表すAnomalyモデルを構築する。また、算出部15aは、正常データおよび異常データに対してAnomaly予測モデルを適用して、該正常データおよび該異常データの異常スコアを算出する。ここで、ある点の近傍に存在する点が少ない場合、すなわち、この点の周りの密度が他の点に比べて小さい場合、算出される異常スコアが大きくなる。
導出部15bは、異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する。
具体的に図3および図4を参照して、導出部15bの処理について説明する。図3は、算出部15aが算出した異常スコアの出現頻度との関係を例示する図である。ここで、異常と判定するための閾値を設定した場合に、この閾値より異常スコアが大きいデータが異常と判定される。一方、図3に例示するように、この閾値より異常スコアが大きい正常データが存在する。そのような正常データは、異常スコアが閾値より大きいことにより、異常と誤判定される。
そこで、導出部15bは、閾値の値を変えながら、異常データを異常と判定する異常検出率と、正常データを異常と判定する誤検知率との関係を表すROC(Receiver Operator Characteristic)曲線と呼ばれる曲線を導出する。
図4は、ROC曲線の導出法を例示する図である。ラベルが正常である正常データ5件と、ラベルが異常である異常データ10件について、図4(a)に例示するように各データの異常スコアが算出されている場合について説明する。この場合に、閾値を10とすれば、異常スコアが10以下の場合には正常と判定され、異常スコアが10を超える場合に異常と判定される。したがって、異常データが異常と正しく判定される異常検出率は、5/10=0.5と算出される。一方、正常データが異常と誤検知される誤検知率は、1/5=0.2と算出される。導出部15bは、この算出結果を、図4(b)に星印で示すように、縦軸を異常検出率、横軸を誤検知率とする座標系にプロットする。
導出部15bは、閾値の値を変えながら同様に異常検出率と誤検知率とを算出することにより、ROC曲線を得ることができる。
ここで、図5および図6を参照して、ROC曲線について説明する。図5(a)は、ROC曲線を例示する図である。上述したように、ROC曲線は、縦軸を異常検出率とし、横軸を誤検知率とした曲線である。ここで、ROC曲線の下部の面積はAUC(Area Under the Curve)と呼ばれ、異常検知モデルの精度の評価値として利用される。
また、ROC曲線は、理想的には、完全な予測が行われる場合であって、全ての異常データを正しく異常と判定し、正常データを異常と誤判定しないことを表す点(0,1)を通る。一方、ランダムな予測が行われる場合には、ROC曲線は、図5(a)および(b)に破線で示す原点を通る傾き1の直線になる。
したがって、異常の判定の精度が最大となるのは、図6のROC曲線上に実線の星印で示す、点(0,1)から最も近い点(1)、あるいは、図6のROC曲線上に点線の星印で示す、原点を通る傾き1の破線の直線から最も遠い点(2)ということができる。
図2の説明に戻る。特定部15cは、曲線上において判定の精度が最大となる点に対応する異常スコアの値を閾値として特定する。具体的に、特定部15cは、ROC曲線上で異常の判定の精度が最大となる点を特定する。ここで、異常判定の精度が最大となる点とは、上記のとおり、点(0,1)に最も近い点、または、原点を通る傾き1の直線から最も遠い点を意味する。特定部15cは、ROC曲線上の点のうち、点(0,1)に最も近い点、または、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定する。
なお、特定部15cは、異常検出率や誤検知率の指定された範囲で閾値を特定することもできる。例えば、異常検出率の下限値が指定された場合には、特定部15cは、縦軸の異常検出率を指定された下限値以上の範囲に限定したROC曲線を用いて、上記と同様に閾値を特定する。また、誤検知率の上限値が指定された場合には、特定部15cは、横軸の誤検知率を指定された上限値以下の範囲に限定したROC曲線を用いて、上記と同様に閾値を特定する。
また、設定装置10による設定処理は、分析システム1の予測モデルのハイパーパラメータデータ探索の1つとしての設定閾値探索処理に適用される。その場合に、選択肢として、例えばROC曲線上の上記点(1)および点(2)のそれぞれに対応する閾値が設定される。そして、特定部15cが、各閾値に基づいて、異常検知モデルの精度が最大となるものを採用する。
[分析装置の構成]
次に、図7を参照して、本実施形態に係る分析装置の概略構成を説明する。図7に示すように、本実施形態に係る分析装置20は、ワークステーションやパソコン等の汎用コンピュータで実現され、入力部21と出力部22と通信制御部23と、記憶部24と、制御部25とを備える。
入力部21は、キーボードやマウス等の入力デバイスを用いて実現され、操作者による入力操作に対応して、制御部25に対して各種指示情報を入力する。出力部22は、液晶ディスプレイなどの表示装置、プリンター等の印刷装置、情報通信装置等によって実現され、データ分析の結果等を操作者に対して出力する。
通信制御部23は、NIC等で実現され、LANやインターネットなどの電気通信回線を介した管理サーバ等の外部の装置と制御部25との通信を制御する。
記憶部24は、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部24には、分析装置20を動作させる処理プログラムや、処理プログラムの実行中に使用されるデータなどが予め記憶され、あるいは処理の都度一時的に記憶される。記憶部24は、通信制御部23を介して制御部25と通信する構成でもよい。また、記憶部24は、設定情報24aを記憶する。
図8は、設定情報24aのデータ構成の一例を示す図である。設定情報24aは、ステップごとの実行順序、および設定内容候補を含む。設定内容候補は、各ステップに対応する設定項目の設定内容の候補である。本実施形態において、例えば、図1に示したステップ4に対応して、閾値探索が行われるものとする。この場合に、図8に例示するように、実行順序4のステップに「閾値探索」が設定される。また、設定内容候補として、設定装置10が設定処理により特定したROC曲線上の上記点(1)および点(2)のそれぞれに対応する閾値(1)および閾値(2)が設定される。
制御部25は、CPU等の演算処理装置がメモリに記憶された処理プログラムを実行することにより、図7に例示するように、選択部25a、計算部25b、決定部25cおよび検証部25dとして機能する。なお、これらの機能部は、それぞれ、あるいは一部が異なるハードウェアに実装されてもよい。
選択部25aは、予測モデルを構築する際に実行される複数の処理、すなわちパイプラインのそれぞれに対応し、対応する処理の設定内容を順次決定するステップにおいて、設定内容が決定されるたびに、次に実行されるステップを選択する。決定部25cは、各ステップの設定内容を、設定情報24aに含まれる設定内容候補の中から決定する。このとき、選択部25aは、設定情報24aに示される実行順序に従って、設定内容が決定された次のステップを選択する。なお、いずれのステップも未実行である場合、選択部25aは実行順序が最も早いステップを選択する。
計算部25bは、複数の処理のうち、設定内容が決定済みの処理を当該決定済みの設定内容を適用して行う。また、計算部25bは、選択部25aによって選択されたステップに対応する処理を設定内容の候補のそれぞれを適用して行った場合に構築される予測モデルのそれぞれについて予測精度を計算する。その際、計算部25bは、所定数に分割した学習用のデータを用いた交差検証を行うことで予測精度を計算する。また、計算部25bは、予測モデルで用いられる予測器が決定されていない場合、複数のアルゴリズムに対応する予測器の候補のそれぞれを用いて予測精度を計算する。
決定部25cは、計算部25bによって計算された各予測精度を比較し、設定内容の候補のうち予測精度が最も高くなる設定内容の候補を、選択部25aによって選択されたステップに対応する処理の設定内容に決定する。その後、選択部25aは、決定部25cによって設定内容が決定されたステップの次に実行されるステップを選択する。
ここで、図9を参照して、分析システム1の処理について説明する。本実施形態において、例えば、図1に示したステップ4において、図9に例示するように、閾値探索が行われる。図9の例では、図1に示したステップ3の前処理3方式探索において決定された方式を用いてデータの前処理が行われた前処理3済みデータが生成されているものとする。
選択部25aは、ステップ4において、設定情報24aを参照して閾値探索を選択する。また、計算部25bは、設定内容候補である閾値(1)および閾値(2)それぞれが適用された場合に構築される予測モデルのそれぞれについて、交差検証を用いて予測精度を計算する。この結果、図9に示す例では、決定部25cは、予測精度が78%と最も高くなった閾値(2)を閾値として決定する。
検証部25dは、決定部25cによって決定された設定内容が適用された一連の処理、すなわち、決定されたパイプラインに基づいて構築される予測モデルの検証を行う。これにより、本実施形態の分析システム1によれば、異常データを検出するための閾値を容易に設定して、高精度な予測モデルを効率よく構築することができる。
[設定処理]
次に、図10を参照して、設定装置10の設定処理について説明する。図10は設定処理手順を例示するフローチャートである。図10のフローチャートは、例えば、設定処理の対象のデータが入力されたタイミングで開始される。
まず、算出部15aが、複数の正常データと複数の異常データの入力を受け付ける(ステップS1)。また、算出部15aは、Anomaly予測アルゴリズムに正常データを入力して学習することにより、Anomaly予測モデルを構築する(ステップS2)。
そして、算出部15aは、学習されたAnomaly予測モデルに正常データおよび異常データを入力することにより、各データの異常スコアを算出する(ステップS3)。
また、導出部15bが、異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常データを異常と判定する異常検出率と、正常データを異常と判定する誤検知率とを算出し、該異常検出率と該誤検知率との関係を表すROC曲線を算出する(ステップS4)。
次に、特定部15cが、ROC曲線上の点のうち、点(0,1)に最も近い点、または、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定する(ステップS5)。これにより、一連の設定処理が終了する。
以上、説明したように、本実施形態の設定装置10では、算出部15aが、複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する。また、導出部15bが、異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する。また、特定部15cが、ROC曲線上において判定の精度が最大となる点に対応する異常スコアの値を閾値として特定する。これにより、本実施形態の設定装置10の設定処理によれば、異常データを検出するための閾値を容易に設定することすることができる。
また、特定部15cは、異常検出率または前記誤検知率の指定された範囲で閾値を特定してもよい。これにより、より効率よく閾値を設定することができる。
また、特定部15cが、ROC曲線上の点のうち、点(0,1)に最も近い点、または、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定する。これにより、複数の閾値の選択基準を予め設定することなく、入力されるデータに応じて柔軟かつ自動的に設定することが可能となる。
また、設定装置10による設定処理は、本実施形態の分析システム1の予測モデルのハイパーパラメータデータ探索の1つとしての設定閾値探索処理に適用される。その場合に、分析装置20では、選択部25aが、予測モデルを構築する際に実行される複数の処理のそれぞれに対応し、対応する処理の設定内容を順次決定するステップにおいて、設定内容が決定されるたびに、次に実行されるステップを選択する。また、計算部25bが、複数の処理のうち、設定内容が決定済みの処理を当該決定済みの設定内容を適用して行うとともに、選択部25aによって選択されたステップに対応する処理を設定内容の候補のそれぞれを適用して行った場合に構築される予測モデルのそれぞれについて予測精度を計算する。また、決定部25cが、計算部25bによって計算された各予測精度を比較し、設定内容の候補のうち予測精度が最も高くなる設定内容の候補を、選択部25aによって選択されたステップに対応する処理の設定内容に決定する。
また、設定装置10では、算出部15aが、複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する。また、導出部15bが、異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する。また、特定部15cが、ROC曲線上の点のうち、点(0,1)に最も近い点、および、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定し、分析装置20の設定内容の候補として出力する。
これにより、分析システム1における予測モデルのハイパーパラメータ探索の1つとして、複数の閾値を特定して選択肢として設定し、予測モデルの精度を比較して、より精度の高い予測モデルを採用することができる。このように、本実施形態の分析システム1によれば、異常データを検出するための閾値を容易に設定して、高精度な予測モデルを効率よく構築することができる。高精度な予測モデルを効率よく構築することができる。
[実施例]
図11および図12は、本実施形態の設定処理の効果を説明するための説明図である。まず、図11は、950件の教師データを用いて学習した異常判定の結果を例示する図である。図11には、図6に示したROC曲線上の点(1)および点(2)に対応する閾値を設定した場合が指示されている。図11に示すように、点(1)および点(2)のいずれにおいても、異常検出率と正常を正しく判定する割合との合計が最大となり、適切な閾値が設定されていることが確認された。
また、点(1)すなわち点(0,1)から最も近いROC曲線上の点に対応する閾値を設定した場合には、異常を正常と判定する見逃しが少ないことが確認された。一方、点(2)すなわち原点を通る傾き1の直線から最も遠いROC曲線上の点に対応する閾値を設定した場合には、正常を異常と判定する誤検知率が小さいことが確認された。
図12は、教師データを100件、400件、または950件として導出されたROC曲線を用いて、異常検出率や誤検知率の範囲を指定して閾値を設定した場合の結果を例示する図である。図12(a)は、異常検出率の下限値が90%に指定された場合に、図6に示したROC曲線上の点(1)および点(2)に対応して特定される閾値を例示している。図12(a)には、例えば、教師データ100件で導出された異常検出率が90%以上の範囲のROC曲線について、点(1)に対応する閾値が1.2であり、点(2)に対応する閾値が1.2であることが示されている。図12(a)に例示するように、異常検出率の範囲が指定されても、適切に閾値が特定されることが確認された。
また、図12(b)は、誤検知率の上限値が10%に指定された場合に、図6に示したROC曲線上の点(1)および点(2)に対応して特定される閾値を例示している。図12(b)には、例えば、教師データ950件で導出された誤検知率が10%以下の範囲のROC曲線について、点(1)に対応する閾値が1.4、点(2)に対応する閾値が1.5であることが示されている。また、この場合に、F値がそれぞれ0.9057、0.9043であることが示されている。ここで、F値とは、正常と予測されたデータのうち、実際に正常であるものの割合を表す精度と、実際に正常であるもののうち、正常であると予測されたものの割合を表す再現率との調和平均を表す。図12(b)に例示するように、誤検知率の範囲が指定されても、適切に閾値が特定されることが確認された。
[プログラム]
上記実施形態に係る設定装置10が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。一実施形態として、設定装置10は、パッケージソフトウェアやオンラインソフトウェアとして上記の設定処理を実行する設定プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の設定プログラムを情報処理装置に実行させることにより、情報処理装置を設定装置10として機能させることができる。ここで言う情報処理装置には、デスクトップ型またはノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やPHS(Personal Handyphone System)などの移動体通信端末、さらには、PDA(Personal Digital Assistants)などのスレート端末などがその範疇に含まれる。また、ユーザが使用する端末装置をクライアントとし、当該クライアントに上記の設定処理に関するサービスを提供するサーバ装置として実装することもできる。例えば、設定装置10は、異常検知対象の教師データを入力とし、異常判定の閾値を出力する設定処理サービスを提供するサーバ装置として実装される。この場合、設定装置10は、Webサーバとして実装することとしてもよいし、アウトソーシングによって上記の設定処理に関するサービスを提供するクラウドとして実装することとしてもかまわない。以下に、設定装置10と同様の機能を実現する設定プログラムを実行するコンピュータの一例を説明する。
図13に示すように、設定プログラムを実行するコンピュータ1000は、例えば、メモリ1010と、CPU1020と、ハードディスクドライブインタフェース1030と、ディスクドライブインタフェース1040と、シリアルポートインタフェース1050と、ビデオアダプタ1060と、ネットワークインタフェース1070とを有する。これらの各部は、バス1080によって接続される。
メモリ1010は、ROM(Read Only Memory)1011およびRAM1012を含む。ROM1011は、例えば、BIOS(Basic Input Output System)等のブートプログラムを記憶する。ハードディスクドライブインタフェース1030は、ハードディスクドライブ1031に接続される。ディスクドライブインタフェース1040は、ディスクドライブ1041に接続される。ディスクドライブ1041には、例えば、磁気ディスクや光ディスク等の着脱可能な記憶媒体が挿入される。シリアルポートインタフェース1050には、例えば、マウス1051およびキーボード1052が接続される。ビデオアダプタ1060には、例えば、ディスプレイ1061が接続される。
ここで、図13に示すように、ハードディスクドライブ1031は、例えば、OS1091、アプリケーションプログラム1092、プログラムモジュール1093およびプログラムデータ1094を記憶する。上記実施形態で説明した各テーブルは、例えばハードディスクドライブ1031やメモリ1010に記憶される。
また、設定プログラムは、例えば、コンピュータ1000によって実行される指令が記述されたプログラムモジュール1093として、ハードディスクドライブ1031に記憶される。具体的には、上記実施形態で説明した設定装置10が実行する各処理が記述されたプログラムモジュール1093が、ハードディスクドライブ1031に記憶される。
また、設定プログラムによる情報処理に用いられるデータは、プログラムデータ1094として、例えば、ハードディスクドライブ1031に記憶される。そして、CPU1020が、ハードディスクドライブ1031に記憶されたプログラムモジュール1093やプログラムデータ1094を必要に応じてRAM1012に読み出して、上述した各手順を実行する。
なお、設定プログラムに係るプログラムモジュール1093やプログラムデータ1094は、ハードディスクドライブ1031に記憶される場合に限られず、例えば、着脱可能な記憶媒体に記憶されて、ディスクドライブ1041等を介してCPU1020によって読み出されてもよい。あるいは、設定プログラムに係るプログラムモジュール1093やプログラムデータ1094は、LANやWAN(Wide Area Network)等のネットワークを介して接続された他のコンピュータに記憶され、ネットワークインタフェース1070を介してCPU1020によって読み出されてもよい。
以上、本発明者によってなされた発明を適用した実施形態について説明したが、本実施形態による本発明の開示の一部をなす記述および図面により本発明は限定されることはない。すなわち、本実施形態に基づいて当業者等によりなされる他の実施形態、実施例および運用技術等は全て本発明の範疇に含まれる。
1 分析システム
10 設定装置
11 入力部
12 出力部
13 通信制御部
14 記憶部
15 制御部
15a 算出部
15b 導出部
15c 特定部
20 分析装置
21 入力部
22 出力部
23 通信制御部
24 記憶部
24a 設定情報
25 制御部
25a 選択部
25b 計算部
25c 決定部
25d 検証部

Claims (6)

  1. 複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する算出部と、
    前記異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する導出部と、
    前記曲線上において前記判定の精度が最大となる点に対応する前記異常スコアの値を閾値として特定する特定部と、
    を備えることを特徴とする設定装置。
  2. 前記特定部は、前記曲線上の点のうち、点(0,1)に最も近い点、または、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定することを特徴とする請求項1に記載の設定装置。
  3. 前記特定部は、前記異常検出率または前記誤検知率の指定された範囲で前記閾値を特定することを特徴とする請求項1または2に記載の設定装置。
  4. 分析装置と設定装置とを有する分析システムであって、
    前記分析装置は、
    予測モデルを構築する際に実行される複数の処理のそれぞれに対応し、対応する処理の設定内容を順次決定するステップにおいて、設定内容が決定されるたびに、次に実行されるステップを選択する選択部と、
    前記複数の処理のうち、設定内容が決定済みの処理を当該決定済みの設定内容を適用して行うとともに、前記選択部によって選択されたステップに対応する処理を設定内容の候補のそれぞれを適用して行った場合に構築される予測モデルのそれぞれについて予測精度を計算する計算部と、
    前記計算部によって計算された各予測精度を比較し、前記設定内容の候補のうち予測精度が最も高くなる設定内容の候補を、前記選択部によって選択されたステップに対応する処理の設定内容に決定する決定部と、を備え、
    前記設定装置は、
    複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する算出部と、
    前記異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する導出部と、
    前記曲線上の点のうち、点(0,1)に最も近い点、および、原点を通る傾き1の直線から最も遠い点における異常スコアの値を閾値として特定し、前記分析装置の前記設定内容の候補として出力する特定部と、を備える
    ことを特徴とする分析システム。
  5. 設定装置で実行される設定方法であって、
    複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する算出工程と、
    前記異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する導出工程と、
    前記曲線上において前記判定の精度が最大となる点に対応する前記異常スコアの値を閾値として特定する特定工程と、
    を含んだことを特徴とする設定方法。
  6. 複数の正常なデータと複数の異常なデータとを取得して、各データの異常スコアを算出する算出ステップと、
    前記異常スコアの値ごとに、当該値を異常と判定するための閾値とした場合の異常なデータを異常と判定する割合である異常検出率と正常なデータを異常と判定する割合である誤検知率とを算出し、該異常検出率と該誤検知率との関係を表す曲線を導出する導出ステップと、
    前記曲線上において前記判定の精度が最大となる点に対応する前記異常スコアの値を閾値として特定する特定ステップと、
    をコンピュータに実行させることを特徴とする設定プログラム。
JP2017091185A 2017-05-01 2017-05-01 分析システム、設定方法および設定プログラム Active JP6588495B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017091185A JP6588495B2 (ja) 2017-05-01 2017-05-01 分析システム、設定方法および設定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017091185A JP6588495B2 (ja) 2017-05-01 2017-05-01 分析システム、設定方法および設定プログラム

Publications (2)

Publication Number Publication Date
JP2018190128A true JP2018190128A (ja) 2018-11-29
JP6588495B2 JP6588495B2 (ja) 2019-10-09

Family

ID=64478605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017091185A Active JP6588495B2 (ja) 2017-05-01 2017-05-01 分析システム、設定方法および設定プログラム

Country Status (1)

Country Link
JP (1) JP6588495B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021095222A1 (ja) * 2019-11-15 2021-05-20 三菱電機株式会社 閾値生成装置、閾値生成方法、及び閾値生成プログラム
JP2021125056A (ja) * 2020-02-07 2021-08-30 カシオ計算機株式会社 識別装置、識別器学習方法、識別方法及びプログラム
WO2021260770A1 (ja) * 2020-06-22 2021-12-30 日本電信電話株式会社 認識器学習装置、認識器学習方法、および認識器学習プログラム
US11699311B2 (en) 2020-02-06 2023-07-11 Fujitsu Limited Storage medium storing anomaly detection program, anomaly detection method, and anomaly detection apparatus

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013242298A (ja) * 2012-04-26 2013-12-05 Chiba Univ S−1による癌化学療法の投与効果の判定方法
JP2014023439A (ja) * 2012-07-24 2014-02-06 Nippon Koden Corp 細胞解析方法および細胞解析装置
JP2015169608A (ja) * 2014-03-10 2015-09-28 浜松ホトニクス株式会社 癌の検査方法
JP2017037555A (ja) * 2015-08-12 2017-02-16 日本電信電話株式会社 調整装置、調整方法および調整プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013242298A (ja) * 2012-04-26 2013-12-05 Chiba Univ S−1による癌化学療法の投与効果の判定方法
JP2014023439A (ja) * 2012-07-24 2014-02-06 Nippon Koden Corp 細胞解析方法および細胞解析装置
JP2015169608A (ja) * 2014-03-10 2015-09-28 浜松ホトニクス株式会社 癌の検査方法
JP2017037555A (ja) * 2015-08-12 2017-02-16 日本電信電話株式会社 調整装置、調整方法および調整プログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021095222A1 (ja) * 2019-11-15 2021-05-20 三菱電機株式会社 閾値生成装置、閾値生成方法、及び閾値生成プログラム
JPWO2021095222A1 (ja) * 2019-11-15 2021-05-20
JP7012913B2 (ja) 2019-11-15 2022-01-28 三菱電機株式会社 閾値生成装置、閾値生成方法、及び閾値生成プログラム
US11699311B2 (en) 2020-02-06 2023-07-11 Fujitsu Limited Storage medium storing anomaly detection program, anomaly detection method, and anomaly detection apparatus
JP2021125056A (ja) * 2020-02-07 2021-08-30 カシオ計算機株式会社 識別装置、識別器学習方法、識別方法及びプログラム
JP7044120B2 (ja) 2020-02-07 2022-03-30 カシオ計算機株式会社 識別装置、識別器学習方法、識別方法及びプログラム
WO2021260770A1 (ja) * 2020-06-22 2021-12-30 日本電信電話株式会社 認識器学習装置、認識器学習方法、および認識器学習プログラム
JP7400972B2 (ja) 2020-06-22 2023-12-19 日本電信電話株式会社 認識器学習装置、認識器学習方法、および認識器学習プログラム

Also Published As

Publication number Publication date
JP6588495B2 (ja) 2019-10-09

Similar Documents

Publication Publication Date Title
JP6585654B2 (ja) 判定装置、分析システム、判定方法および判定プログラム
US10671933B2 (en) Method and apparatus for evaluating predictive model
JP6588495B2 (ja) 分析システム、設定方法および設定プログラム
JP6182242B1 (ja) データのラベリングモデルに係る機械学習方法、コンピュータおよびプログラム
US10839314B2 (en) Automated system for development and deployment of heterogeneous predictive models
JP6954003B2 (ja) データベースのための畳み込みニューラルネットワークモデルの決定装置及び決定方法
US20190251474A1 (en) Smart default threshold values in continuous learning
US20230385034A1 (en) Automated decision making using staged machine learning
US11630758B2 (en) Artificial intelligence enabled output space exploration for guided test case generation
US11983105B2 (en) Systems and methods for generating and executing a test case plan for a software product
US9477457B1 (en) Automated software installation using a click area prediction model
CN110909758A (zh) 计算机可读记录介质、学习方法和学习装置
JP6577516B2 (ja) 判定装置、分析システム、判定方法および判定プログラム
CN111936976A (zh) 用于引导测试用例生成的启用人工智能的输出空间探索
CN110135592B (zh) 分类效果确定方法、装置、智能终端及存储介质
JP6659618B2 (ja) 分析装置、分析方法及び分析プログラム
US20220230028A1 (en) Determination method, non-transitory computer-readable storage medium, and information processing device
JP6577515B2 (ja) 分析装置、分析方法及び分析プログラム
CN113296836B (zh) 训练模型的方法、测试方法、装置、电子设备及存储介质
JP7424373B2 (ja) 分析装置、分析方法及び分析プログラム
JP6611268B2 (ja) 特定装置、分析システム、特定方法及び特定プログラム
JP6588494B2 (ja) 抽出装置、分析システム、抽出方法及び抽出プログラム
CN114139636A (zh) 异常作业处理方法及装置
JP6805313B2 (ja) 特定装置、特定方法及び特定プログラム
CN113127342A (zh) 基于电网信息系统特征选择的缺陷预测方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180808

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190912

R150 Certificate of patent or registration of utility model

Ref document number: 6588495

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150