JPWO2014208002A1 - システム分析装置、システム分析方法、及びシステム分析プログラム - Google Patents

システム分析装置、システム分析方法、及びシステム分析プログラム Download PDF

Info

Publication number
JPWO2014208002A1
JPWO2014208002A1 JP2015523839A JP2015523839A JPWO2014208002A1 JP WO2014208002 A1 JPWO2014208002 A1 JP WO2014208002A1 JP 2015523839 A JP2015523839 A JP 2015523839A JP 2015523839 A JP2015523839 A JP 2015523839A JP WO2014208002 A1 JPWO2014208002 A1 JP WO2014208002A1
Authority
JP
Japan
Prior art keywords
model
models
overall
core model
core
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015523839A
Other languages
English (en)
Other versions
JP6354755B2 (ja
Inventor
昌尚 棗田
昌尚 棗田
直生 吉永
直生 吉永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014208002A1 publication Critical patent/JPWO2014208002A1/ja
Application granted granted Critical
Publication of JP6354755B2 publication Critical patent/JP6354755B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079Root cause analysis, i.e. error or fault diagnosis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0748Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a remote unit communicating with a single-box computer node experiencing an error/fault
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • G06F11/0754Error or fault detection not based on redundancy by exceeding limits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3447Performance evaluation by modeling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks

Abstract

システム分析装置100は、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成部1021と、同一イベントに基づいて生成された複数の全体モデルから、予測精度が予め定められた基準を満たす部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成部1023と、予め定められた定義を用いて、コアモデルと複数の全体モデルとの距離を算出し、当該距離を、コアモデルを用いた異常判定における閾値として出力する閾値設定部1024とを備える。

Description

本発明は、システムの障害や異常等を分析するシステム分析装置、システム分析方法、及びプログラムに関する。
システム性能の時系列情報を用いて、システムのモデル化を行い、生成されたモデルを用いてそのシステムの障害や異常等の要因を判定する運用管理システムの一例が、特許文献1に記載されている。
特許文献1に記載されている運用管理システムは、システムの複数のメトリックの計測値をもとに、複数のメトリックの内の各ペアの相関関係を表す相関関数を決定することにより、システムの相関モデルを生成する。そして、この運用管理システムは、生成された相関モデルを用いて、相関関係の破壊(相関破壊)を検出し、相関破壊をもとにシステムの障害要因を判定する。このように、相関破壊をもとにシステムの状態を分析する技術は、不変関係分析と呼ばれる。不変関係分析においては、例えば、メトリックy、uのペアに関して、メトリックuに基づいてメトリックyを予測するための相関関数が用いられる。そして、モデル生成時の時系列情報におけるメトリックyの実測値と相関関数による予測値との差、つまり予測誤差から、監視時に許容される予測誤差が算出され、閾値として設定される。監視時に予測誤差が閾値を超えた場合が相関破壊であり、異常の発生を示す。
一方、可調整パラメータの時系列情報を用いて、システムのモデル化を行い、生成されたモデルを用いてそのシステムの障害や異常等の要因を判定する学習型プロセス異常診断装置の一例が、特許文献2に記載されている。
特許文献2に記載の学習型プロセス異常診断装置は、過去複数回の可調整パラメータの設定値からモデルを生成し、可調整パラメータがとりうる正常範囲を確率論から自動的に算出する。そして、この学習型プロセス異常診断装置は、可調整パラメータが算出された正常範囲を超えた場合は、可調整パラメータが異常であると判定する。
特許第4872944号公報 特開2012−9064号公報
システムには、発生頻度が少ないものの、監視対象としたいイベントがある。例えば、ICT(Information and Communication Technology)システムでは、年数回程度しか発生しないような高負荷時における障害の前兆の有無や、常時稼働システムのシャットダウンが適切に実行されたか、等である。
しかしながら、発生頻度が少ないイベントを監視する場合、モデル生成時と監視時との間に時間的な隔たりが大きい。そのため、システムの改修や設定の変化、およびその他の経時変化によって、学習したモデルが厳密には成り立たないという課題がある。
特許文献1に記載されたような異常判定に予測誤差を用いる方法では、システム変化の影響がモデルに現れやすいため、システムの改修や設定の変化がモデル全体に影響を及ぼす場合がある。その場合、改修や設定の変化以前のイベントから生成されたモデルでは、改修や設定の変化後のシステムの正常と異常を区別できない場合がある。
特許文献2に記載されたような確率論を用いる方法では、事例が少ない場合、各計測値が従う確率分布を求められず、監視に利用可能なモデルを構築することができない場合がある。
本発明は、発生頻度が少ないイベントを監視することによるシステムの異常判定を精度良く行うことができるシステム分析装置、システム分析方法、及び、プログラムを提供することを目的とする。
本発明によるシステム分析装置は、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成部と、同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成部と、予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力する閾値設定部とを備えたことを特徴とする。
本発明によるシステム分析方法は、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成し、同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成し、予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力することを特徴とする。
本発明によるシステム分析プログラムは、コンピュータに、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成処理と、同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成処理と、予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力する閾値設定処理とを実行させることを特徴とする。
本発明によれば、発生頻度が少ないイベントを監視することによるシステムの異常判定を精度良く行うことができる。
本発明によるシステム分析装置の実施形態の構成を示すブロック図である。 コアモデルの生成例を示す説明図である。 異常判定の閾値の算出例を示す説明図である。 生成されたコアモデルの予測精度の例を示す説明図である。 図4の例を用いた異常判定の閾値の算出例を示す説明図である。 本発明によるシステム分析装置の実施形態の動作を示すフローチャートである。 予測精度のバラつきに関する閾値に基づいて、コアモデルを抽出する方法を示す説明図である。 異常判定の閾値として2つの閾値が設定される場合における、全体モデル数と閾値(距離)の関係を示す説明図である。 図2に示すデータを用いて、図8に示す閾値を求めた場合の、2つの閾値を示す説明図である。 本発明によるシステム分析装置の主要部を示すブロック図である。
本発明の実施形態を、図面を参照して説明する。本実施形態では、IT(Information Technology)システムの異常検知への適用を例として説明する。また、本実施形態では、監視対象のイベントが1種類である場合を想定する。監視対象のイベントが複数種類ある場合は、本実施形態の動作をイベントごとに並列で実行させる必要がある。
本実施形態のシステム分析装置の構成を説明する。図1は、本実施形態のシステム分析装置100の構成を示すブロック図である。
図1に示すように、本実施形態のシステム分析装置100は、1以上の被監視装置200を含む被監視システムと接続される。被監視装置200は、各種サーバ装置やネットワーク装置等、ITシステムを構成する装置である。被監視システムは、機能を構成する要素に限定してもよいし、システム全体であってもよい。
被監視装置200は、被監視装置200の複数種目の性能値の実測データ(計測値)を一定間隔毎に計測し、システム分析装置100へ送信する。性能値の種目として、例えば、CPU(Central Processing Unit)使用率、メモリ使用率、ディスクアクセス頻度等、すなわちコンピュータリソースやネットワークリソースの使用率や使用量等が用いられる。
ここで、被監視装置200ごとの性能値の種目をメトリック(性能指標)とし、同一時刻に計測された複数のメトリックの値の組を性能情報とする。メトリックは、整数や小数の数値より表される。また、メトリックは、特許文献1に記載された発明における相関モデルの生成対象である「要素」に相当する。
システム分析装置100は、被監視装置200から収集した性能情報をもとに、イベントごとに被監視装置200の監視モデルを生成し、生成した監視モデルを用いて検出されたモデル破壊をもとに、被監視装置200の状態を分析する。システム分析装置100は、監視モデルを生成するために、被監視装置200から収集した、監視対象のイベントの発生から終了までの期間の性能情報である性能系列情報をもとに、1回のイベントについて1つの全体モデルを生成する。さらに、システム分析装置100は、同一イベントに関して生成された複数の全体モデルの集合である、全体モデル集合を用いて、コアモデルを生成し、異常判定の閾値124を設定する。コアモデルに、異常判定の閾値124を設定したものが、監視モデルである。
システム分析装置100は、性能情報収集部101と、モデル生成部102と、モデル破壊検出部103と、異常要因抽出部104と、性能情報記憶部111と、モデル記憶部112と、モデル破壊記憶部113とを含む。
モデル生成部102は、全体モデル生成部1021と、監視モデル生成部1022とを含む。
監視モデル生成部1022は、コアモデル生成部1023と、閾値設定部1024とを含む。
モデル記憶部112は、全体モデル記憶部1121と、監視モデル記憶部1122とを含む。
性能情報収集部101は、被監視装置200から性能情報を収集する。
性能情報記憶部111は、性能情報収集部101が収集した性能情報の時系列変化を、性能系列情報として記憶する。
モデル生成部102は、性能系列情報をもとに、被監視システムの監視モデルを生成する。
全体モデル生成部1021は、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する。全体モデル生成部1021は、具体的には、イベントごとの性能系列情報から、それぞれのメトリックに関する予測式を生成し、各予測式の予測精度を算出する。ここで、1つの予測式と予測精度の組が部分モデルであり、1回のイベントに対する部分モデルの集合、つまり、すべてのメトリックを対象に生成された予測式および予測精度の集合が全体モデルである。全体モデル生成部1021は、イベントに対する全体モデルを、全体モデル記憶部1121に記憶する。予測式には、時間を関数に含む周期関数や、3つ以上のメトリック間の相関関数や、特許文献1の運用管理装置と同様に2つのメトリック間の相関関数などが用いられる。
監視モデル生成部1022は、全体モデル記憶部1121に記憶されている、全体モデル集合から、コアモデルを生成し、異常判定の閾値124を算出する。監視モデル生成部1022は、生成されたコアモデル、及び異常判定の閾値124を監視モデルとして監視モデル記憶部1122に記憶する。
コアモデル生成部1023は、全体モデル集合に関して、コアモデルの生成条件を満たすように、コアモデルを生成する。コアモデル生成部1023は、具体的には、同一イベントに基づいて生成された複数の全体モデルから、予測精度が予め定められた基準を満たす部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成する。コアモデルの生成方法に関する詳細な内容は後述する。
閾値設定部1024は、コアモデルの生成に用いられた全体モデル集合の揺らぎから、閾値を算出する。閾値設定部1024は、予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、当該コアモデルを用いた異常判定における閾値として出力する。閾値の算出方法に関する詳細な内容は後述する。
モデル記憶部112は、モデル生成部102が生成した全体モデル集合および監視モデルを記憶する。
全体モデル記憶部1121は、全体モデル生成部1021が生成した全体モデル集合を記憶する。
監視モデル記憶部1122は、監視モデル生成部1022が生成した監視モデルを記憶する。
モデル破壊検出部103は、新たに入力された性能情報について、監視モデルの破壊を検出する。
モデル破壊記憶部113は、モデル破壊が検出されたモデルを示すモデル破壊情報を記憶する。
異常要因抽出部104は、モデル破壊情報をもとに、異常が発生したメトリック(異常要因メトリック)の候補を抽出する。異常要因抽出部104は、例えば、特許文献1の運用管理装置と同様に、各メトリックにおけるモデル破壊の数や割合をもとに、異常要因メトリックの候補を抽出する。
なお、システム分析装置100は、CPUとプログラムを記憶した記憶媒体とを含み、プログラムに基づくCPUの制御によって動作するコンピュータであってもよい。また、性能情報記憶部111、モデル記憶部112、及び、モデル破壊記憶部113は、それぞれ個別の記憶媒体でもよく、1つの記憶媒体によって構成されてもよい。
次に、本実施形態におけるコアモデルの生成方法および異常判定の閾値の算出方法の第1の例を、具体的に説明する。まず、コアモデルの生成条件を、実施例を用いて具体的に説明する。以下の例では、コアモデルの生成条件として、全体モデル集合における予測精度が設けられた閾値以上のモデルであるという条件を用いている。
図2は、コアモデルの生成例を示す説明図である。コアモデル生成部1023は、同一イベントに対して、生成された全体モデル122a、122b、122c、122dからなる全体モデル集合を取得する。次に、コアモデル生成部1023は、各全体モデルに含まれる部分モデル(図2におけるModel1〜Model10)を、部分モデルの予測精度に基づき1または0で表現した、数値ベクトルに置き換える。コアモデル生成部1023は、部分モデルの予測精度が予め定められた閾値以上であれば1に置き換え、閾値未満であれば0に置き換える。次に、コアモデル生成部1023は、全体モデル集合のうち、数値ベクトルが全て1である部分モデルを、数値ベクトルの状態で統合し、コアモデル123aとして抽出する。この例で抽出されるコアモデル123aは、Model2、Model4、Model5、Model8の数値ベクトル化された部分モデルによって構成される。
次に、異常判定の閾値124の算出方法の例を具体的に説明する。以下の例において、モデル間の距離は、ハミング距離を用いる。閾値設定部1024は、全体モデル集合のうち、1つの全体モデルを除いた全体モデル部分集合について、上述のコアモデル生成部1023と同様の方法でコアモデルを生成する(以下、全体モデル部分集合コアモデルと記載する)。そして、閾値設定部1024は、コアモデルと全体モデル部分集合コアモデルの距離を計算する。閾値設定部1024は、全体モデル集合から除く全体モデルを替えて、全通りの距離を計算したときの最大距離を閾値とする。
図3は、異常判定の閾値124の算出例を示す説明図である。算出用のデータには、図2に示したデータが用いられている。図中の「w/o 2000/12/24」は、「2000/12/24」以外の全体モデルを用いて生成されたコアモデルを示し、図中の「All」はコアモデル123aを示す。図3に示すように、コアモデル123aとコアモデル123aの生成に用いなかった全体モデルとの最大距離は、1である。よって、閾値設定部1024は、異常判定の閾値124として距離1を設定する。
よって、本例のシステム分析装置100は、新たに監視対象のイベントが発生した場合、そのイベントから生成された新たな全体モデルとコアモデル123aのハミング距離が2以上であれば異常、距離が1以下であれば正常と判断する。コアモデル123aを例にとると異常となるのは、Model2、Model4、Model5、Model8のうち、2つ以上のモデルにおける予測精度が各モデルに定められた予測精度の閾値未満となった場合である。
次に、コアモデルの生成方法および異常判定の閾値124の算出方法の第2の例として、モデル間の距離として1−コサイン類似度を用いて説明する。第2の例では、コアモデル生成部1023は、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての前記全体モデルにおいて予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成する。この場合、閾値設定部1024は、全体モデル集合のうち、1つの全体モデルを除いた全体モデル部分集合について、本例のコアモデル生成部1023のように、全体モデル集合における予測精度の分散が設けられた閾値以下のモデルであるという条件でコアモデルを作成する(全体モデル部分集合コアモデル)。そして、閾値設定部1024は、コアモデルと全体モデル部分集合コアモデルの距離を1−コサイン類似度を用いて計算する。閾値設定部1024は、全体モデル集合から除く全体モデルを替えて、全通りの距離を計算したときの最大距離を閾値とする。
図4は、生成されたコアモデルの予測精度の例を示す説明図である。図5は、図4の例を用いた異常判定の閾値124bの算出例を示す説明図である。図5に示す「w/o 2000/12/24」は、図4に示す「2000/12/24」以外の全体モデルを用いて生成されたコアモデルを示す。図4および図5に示すデータを用いて、本例における全体モデル部分集合と全体モデルの距離の計算方法を説明する。閾値設定部1024は、まず全体モデル部分集合コアモデルについて予測精度の平均値を求め、その平均値と全体モデルのうちコアモデルに含まれるモデルの予測精度とのコサイン類似度を求める。そして、閾値設定部1024は、1−コサイン類似度を全体モデル部分集合コアモデルと全体モデルの距離とする。図5に示すように、コアモデルとコアモデルの生成に用いなかった全体モデルとの最大距離は、0.0026である。よって、閾値設定部1024は、異常判定の閾値124bとして距離0.0026を設定する。
モデル破壊検出部103は、新たに監視対象のイベントが発生した場合、そのイベントから生成された新たな全体モデルとコアモデルの距離の算出方法として、閾値の算出方法と同様の方法を用いる。よって、本例のシステム分析装置100は、新たに監視対象のイベントが発生した場合、そのイベントから生成された新たな全体モデルとコアモデルの1−コサイン類似度が0.0026より大きければ異常、0.0026以下であれば正常と判断する。
第1の例のようにモデル間の距離にハミング距離を用いる場合は、コアモデル生成部1023は、全体モデル集合における予測精度が設けられた閾値以上のモデルであるという条件を用いてコアモデルを作成した。また、第2の例のようにモデル間の距離に1−コサイン類似度を用いる場合は、コアモデル生成部1023は、全体モデル集合における予測精度の分散が設けられた閾値以下のモデルであるという条件を用いてコアモデルを作成した。ただし、モデル間の距離の算出方法とコアモデルを作成する条件は任意に組み合わせてよい。また、コアモデル生成部1023は、「全体モデル集合における予測精度が設けられた閾値以上のモデルであるかつ/または全体モデル集合における予測精度の分散が設けられた閾値以下のモデルである」という、複数の条件を組み合わせた条件でコアモデルを作成してもよい。また、コアモデル生成部1023は、あるモデル間の距離について、全体モデル部分集合コアモデルと全体モデル部分集合に含まれる各全体モデルの距離が小さくなるようにコアモデルを作成してもよい。
次に、本発明の第1の実施の形態におけるシステム分析装置100の動作を説明する。図6は、本実施形態のシステム分析装置100の動作を示すフローチャートである。
はじめに、システム分析装置100の性能情報収集部101は、被監視装置200から性能情報を収集し、性能情報記憶部111に保存する(ステップS101)。性能情報収集部101は、監視対象のイベントの発生及び終了を判断し(ステップS102)、ステップS101の動作を、監視対象のイベントが発生し、終了するまで繰り返す。
性能情報収集部101は、監視対象のイベントが発生し、終了したあと(ステップS102のYES)、イベントの発生時刻と終了時刻を被監視装置200から取得する(ステップS103)。
モデル生成部102は、監視モデル記憶部1122に監視モデルが記憶されているか確認する(ステップS104)。
監視モデル記憶部1122に監視モデルが記憶されていなければ、モデル生成部102は、イベントの発生時刻と終了時刻をもとに全体モデルを生成し、それを全体モデル記憶部1121に記憶させる(ステップS112)。
モデル生成部102は、全体モデル記憶部1121に全体モデルが1つより多く(2つ以上)記憶されているか確認する(ステップS113)。
全体モデル記憶部1121に全体モデルが2つ以上記憶されていなければ、何もせずにステップS101に戻る。なお、ステップS103〜ステップS142の処理が行われている間も、性能情報収集部101は、被監視装置200から性能情報を収集し、性能情報記憶部111に保存する(ステップS101)。
全体モデル記憶部1121に全体モデルが2つ以上記憶されていれば、コアモデル生成部1023は、コアモデルを生成する(ステップS122)。そして、閾値設定部1024は、全体モデル集合から異常判定に用いる閾値124を算出する(ステップS132)。監視モデル生成部1022は、生成されたコアモデルと異常判定の閾値124とを監視モデルとして、監視モデル記憶部1122に記憶させる(ステップS142)。その後も、性能情報収集部101は、ステップS101の処理を継続する。
ステップS104において、監視モデル記憶部1122に監視モデルが記憶されていれば、モデル破壊検出部103は、性能情報収集部101により新たに収集された性能情報を用いて、監視モデルのモデル破壊を評価する(ステップS105)。
モデル破壊検出部103が、監視モデルの破壊を検出した場合(ステップS105のYES)は、モデル破壊情報を生成する。モデル破壊検出部103は、モデル破壊情報をモデル破壊記憶部113に保存する。異常要因抽出部104は、モデル破壊情報をもとに、異常要因メトリックの候補を抽出する(ステップS106)。
モデル破壊検出部103が、監視モデルの破壊を検出しない場合(ステップS105のNO)は、S112の手順と同様に、モデル生成部102は、イベントの発生時刻と終了時刻をもとに全体モデルを生成し、それを全体モデル記憶部1121に記憶させる(ステップS111)。コアモデル生成部1023は、コアモデルを生成する(ステップS121)。閾値設定部1024は、全体モデル集合から異常判定の閾値124を算出する(ステップS131)。監視モデル生成部1022は、生成されたコアモデルと異常判定の閾値124を監視モデルとして、監視モデル記憶部1122に保存する(ステップS141)。以上により、本実施形態のシステム分析装置100の動作が完了する。
本実施形態では、コアモデルの生成条件として、「全体モデル集合において、予測精度が予め定められた閾値以上であるモデル」としている。これは、距離の概念を用いて書き直すと、「予測精度が予め定められた閾値以上であるモデルに1を割り当て、閾値未満のモデルに0を割り当てたときに得られる数値ベクトルが、すべて1かつ、全体モデル集合から得られる距離0のモデル」となる。この条件では、予測精度の高いモデルのみが、コアモデルの要素として選定される。本実施形態のコアモデルの生成条件は、予測精度に関する基準に基づいて選定されたものならば、他の方法によって選定されたものであってもよい。
例えば、コアモデルの要素に、予測精度の低いモデルのみが含まれるようにしてもよい。また、予測精度に対して2つの閾値を設け、常に予測精度が2つの閾値を上回るものと、常に予測精度が2つの閾値を下回るものが含まれるようにしてもよい。また、モデルがコアモデルの生成条件を満たす割合を導入してもよい。例えば、「全体モデル集合の90%において、予測精度が予め定められた閾値以上のモデル」があげられる。
また、コアモデル生成部1023は、予測精度が取りうる幅に着目して、予測精度のバラつきが所定の幅に収まるモデルのみが、コアモデルに含まれるようにしてもよい。図7は、予測精度のバラつきに関する閾値に基づいて、コアモデルを抽出する方法を示す説明図である。図7に示す例では、コアモデル生成部1023は、部分モデル(図7におけるModel1〜Model4)の予測精度の幅をそれぞれ算出する。そして、コアモデル生成部1023は、例えば、予測精度の幅が所定値(例えば、0.1)以下である部分モデルをコアモデルとして抽出する。図7に示す例では、Model2、Model3及びModel4がコアモデルとして抽出される。
また、本実施形態のシステム分析装置100は、モデル間の距離を算出する際に、モデルを0と1で構成される数値ベクトルとして表したが、実数で構成される数値ベクトルとして表してもよい。その場合は、数値ベクトルの要素として、予測精度の値がそのまま用いられる。
また、本実施形態のシステム分析装置100は、モデル間の距離の定義には、いかなる距離の定義を用いてもよい。モデル間の距離を算出する際に、モデルを0と1で構成される数値ベクトルとする場合は、モデル間の距離の定義には、ハミング距離、編集距離、グラフ距離、ジャカード係数、ダイス係数、またはシンプソン係数等を用いることが好ましい。モデルを実数で構成される数値ベクトルとする場合は、モデル間の距離の定義には、ユークリッド距離、標準ユークリッド距離、マハラノビス距離、マンハッタン距離、ミンコフスキー距離(マンハッタン距離やユークリッド距離を一般化したもの)、1−コサイン類似度の絶対値、1−ピアソンの相関係数の絶対値、1−偏差パターン類似度の絶対値等を用いることが好ましい。これらの分類は目安であって、ハミング距離と編集距離を除いて、モデルを0と1で構成される数値ベクトルとする場合と、実数で構成される数値ベクトルとする場合との双方に使用可能なものである。
さらに、本実施形態では、異常判定の閾値124の算出方法として、「全体モデル集合のうち、1つの全体モデルを除いてコアモデルを生成し(全体モデル部分集合コアモデル)、コアモデルと全体モデル部分集合コアモデルの距離を計算し、全体モデル集合から除く全体モデルを替えて、全通り計算したときの最大距離」(以下、閾値1241とする)を用いた。本実施形態の異常判定の閾値124は、コアモデルを生成する際に用いた全体モデル集合の揺らぎを用いて、算出されたものであれば他の方法によって算出されたものでもよい。
例えば、閾値124は、「全体モデル集合のうち、1つの全体モデルを除いて、コアモデル(全体モデル部分集合コアモデル)を生成し、コアモデルと全体モデル部分集合コアモデルの距離の減少レートを計算し、全体モデル集合から除く全体モデルを替えて、全通り計算したときの最大減少レートにコアモデルの大きさをかけたもの」(以下、閾値1242とする)でもよい。この最大減少レートは、全体モデルの数をN個とすると、各全体モデル部分集合コアモデルに含まれるモデルの数をcn、各全体モデル部分集合コアモデルの生成に用いなかった全体モデルと各全体モデル部分集合コアモデルに共通で含まれるモデルの数をzn、とするとargmax{(zn−cn)/cn}で得られる。また、誤報の発生が嫌忌されない場合は、閾値を0に設定してもよい。
また、本実施形態では、異常判定の閾値124を1つだけ設定したが、複数設定してもよい。図8は、異常判定の閾値として2つの閾値が設定される場合における、全体モデル数と閾値(距離)の関係を示す説明図である。この例では、より高い閾値をあたえるものが警告レベル、より低い閾値をあたえるものが注意レベルとなる。図8では、警告レベルの閾値に、上記閾値1241が用いられており、注意レベルの閾値に閾値1242が用いられている。
なお、閾値124は、算出に用いた全体モデル数が多いほど低くなる。これは、全体モデル集合に含まれる全体モデルの数(全体モデル集合のサイズ)が増えると、コアモデルの不定性が減少し、コアモデルと、新たに追加される全体モデルがとる距離が小さくなるためである。これら二つの定義を用いて、異常判定の閾値を設定した場合、高い閾値が警告レベル、低い閾値が注意レベルとなる。図9は、図2に示すデータを用いて、図8に示す閾値を求めた場合の、2つの閾値を示す説明図である。
また、本実施形態では、全体モデル記憶部1121に記憶されている全体モデル集合を用いて、コアモデルを生成し、異常判定の閾値124を設定したが、全体モデル集合の一部だけを対象として、コアモデルを生成し、異常判定の閾値124を設定してもよい。全体モデル集合の一部を選択する方法には、例えば、全体モデルを取得した時系列に着目し、直近に取得されたN個に限定する方法がある。ここで、Nは整数である。
また、本実施形態では、被監視システムを、サーバ装置やネットワーク装置等を被監視装置200として含むITシステムとしたが、被監視システムの相関モデルを生成し、相関破壊により異常要因を判定できれば、被監視システムは他のシステムでもよい。例えば、被監視システムは、プラントシステム、構造物、輸送機器等であってもよい。この場合、システム分析装置100は、例えば、各種センサの値をメトリックとして監視モデルを生成し、モデル破壊の検出、異常要因の候補の抽出を行う。
本実施形態のシステム分析装置100によれば、発生頻度が少ないイベントの監視に適用可能なシステム分析装置、システム分析方法及びシステム分析プログラムを提供することができる。その理由は、コアモデル生成部1023が、イベントに対して特徴的な振る舞いをコアモデルとして抽出し、さらに、閾値設定部1024がイベントの発生頻度が低いことに起因する不定性を考慮して閾値を設定するため、発生頻度が少なくとも、確度の高い情報が、監視モデルから得られるためである。また、算出された閾値は、収集したイベントの回数不足に起因する不定性に対応しており、これを超える変化は、明らかな異常と言える。よって、本実施形態のシステム分析装置100によれば、発生頻度が少ないイベントに関して、明確な異常判定の基準を提供している。さらに、本実施形態のシステム分析装置100によれば、イベントに関して特徴的な振る舞いを自動的に抽出することができるため、監視工数の削減が可能である。
図10は、本発明によるシステム分析装置の主要部を示すブロック図である。図10に示すように、本発明によるシステム分析装置は、主要な構成として、システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成部1021と、同一イベントに基づいて生成された複数の全体モデルから、予測精度が予め定められた基準を満たす部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成部1023と、予め定められた定義を用いて、コアモデルと複数の全体モデルとの距離を算出し、当該距離を、コアモデルを用いた異常判定における閾値として出力する閾値設定部1024とを備える。
(1)システムにおいて監視対象のイベントが発生した場合に、予め定められた定義を用いて、コアモデル(例えば、コアモデル123a)と当該イベントに基づいて生成された新たな全体モデルとの距離を算出し、当該距離と閾値とを比較することによりモデル破壊を検出するモデル破壊検出部を備えたシステム分析装置。
(2)システム分析装置は、コアモデル生成部(例えば、コアモデル生成部1023)が、同一イベントに基づいて生成された複数の全体モデル(例えば、全体モデル122a〜全体モデル122d)に共通に含まれ、全ての全体モデルにおいて予測精度が予め定められた値以上である部分モデル(例えば、図2におけるModel2、Model4、Model5、Model8)を統合したコアモデルを生成するように構成されていてもよい。
(3)システム分析装置は、コアモデル生成部が、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての全体モデルにおいて予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成するように構成されていてもよい。
(4)システム分析装置は、コアモデル生成部が、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての全体モデルにおいて予測精度が予め定められた値以上であり、かつ予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成するように構成されていてもよい。
(5)システム分析装置は、コアモデル生成部が、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての全体モデルにおいて予測精度が予め定められた値以上であるか、または予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成するように構成されていてもよい。
(6)システム分析装置は、閾値設定部(例えば、閾値設定部1024)が、複数の全体モデルのうち1つの全体モデルを除いた全体モデル部分集合を生成し、当該全体モデル部分集合のコアモデル(例えば、全体モデル部分集合コアモデル)を、除かれる当該全体モデル毎に部分コアモデル(例えば、図3におけるw/o 2000/12/24〜w/o 2003/12/24)として生成し、予め定められた定義を用いて、全ての当該部分コアモデルとコアモデル生成部が生成したコアモデルとの距離を算出し、最大距離を閾値とするように構成されていてもよい。
(7)システム分析装置は、閾値設定部が、コアモデルと全体モデルとの距離として、部分モデルの予測精度のハミング距離を用いるように構成されていてもよい。
(付記)システム分析装置は、閾値設定部が、コアモデルと全体モデルとの距離として、部分モデルの予測精度の1−コサイン類似度を用いるように構成されていてもよい。
この出願は、2013年6月25日に出願された日本出願特願2013−132226、および2013年8月27日に出願された日本出願特願2013−175176を基礎とする優先権を主張し、その開示の全てをここに取り込む。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施の形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
産業上の利用の可能性
本発明は、監視モデル上で検出されたモデル破壊により、システムの異常や障害の検知および要因判定に適用できる。
100 システム分析装置
101 性能情報収集部
102 モデル生成部
1021 全体モデル生成部
1022 監視モデル生成部
1023 コアモデル生成部
1024 閾値設定部
103 モデル破壊検出部
104 異常要因抽出部
111 性能情報記憶部
112 モデル記憶部
1121 全体モデル記憶部
1122 監視モデル記憶部
113 モデル破壊記憶部
200 被監視装置

Claims (10)

  1. システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成部と、
    同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成部と、
    予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力する閾値設定部とを備えた
    ことを特徴とするシステム分析装置。
  2. システムにおいて監視対象のイベントが発生した場合に、予め定められた定義を用いて、コアモデルと当該イベントに基づいて生成された新たな全体モデルとの距離を算出し、当該距離と閾値とを比較することによりモデル破壊を検出するモデル破壊検出部を備えた
    請求項1記載のシステム分析装置。
  3. コアモデル生成部は、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての前記全体モデルにおいて予測精度が予め定められた値以上である部分モデルを統合したコアモデルを生成する
    請求項1または請求項2記載のシステム分析装置。
  4. コアモデル生成部は、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての前記全体モデルにおいて予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成する
    請求項1または請求項2記載のシステム分析装置。
  5. コアモデル生成部は、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての前記全体モデルにおいて予測精度が予め定められた値以上であり、かつ予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成する
    請求項1または請求項2記載のシステム分析装置。
  6. コアモデル生成部は、同一イベントに基づいて生成された複数の全体モデルに共通に含まれ、全ての前記全体モデルにおいて予測精度が予め定められた値以上であるか、または予測精度の分散が予め定められた値以下である部分モデルを統合したコアモデルを生成する
    請求項1または請求項2記載のシステム分析装置。
  7. 閾値設定部は、複数の全体モデルのうち1つの全体モデルを除いた全体モデル部分集合を生成し、当該全体モデル部分集合のコアモデルを、除かれる当該全体モデル毎に部分コアモデルとして生成し、予め定められた定義を用いて、全ての当該部分コアモデルとコアモデル生成部が生成したコアモデルとの距離を算出し、最大距離を閾値とする
    請求項1から請求項6のうちのいずれか1項に記載のシステム分析装置。
  8. 閾値設定部は、コアモデルと全体モデルとの距離として、部分モデルの予測精度のハミング距離を用いることを特徴とする
    請求項1から請求項7のうちのいずれか1項に記載のシステム分析装置。
  9. システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成し、
    同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成し、
    予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力する
    ことを特徴とするシステム分析方法。
  10. コンピュータに、
    システムの要素または全体をモデル化した、複数の部分モデルを含む全体モデルを生成する全体モデル生成処理と、
    同一イベントに基づいて生成された複数の前記全体モデルから、予測精度が予め定められた基準を満たす前記部分モデルを抽出し、当該部分モデルを統合したコアモデルを生成するコアモデル生成処理と、
    予め定められた定義を用いて、前記コアモデルと前記複数の全体モデルとの距離を算出し、当該距離を、前記コアモデルを用いた異常判定における閾値として出力する閾値設定処理とを
    実行させるためのシステム分析プログラム。
JP2015523839A 2013-06-25 2014-05-29 システム分析装置、システム分析方法、及びシステム分析プログラム Active JP6354755B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2013132226 2013-06-25
JP2013132226 2013-06-25
JP2013175176 2013-08-27
JP2013175176 2013-08-27
PCT/JP2014/002842 WO2014208002A1 (ja) 2013-06-25 2014-05-29 システム分析装置、システム分析方法、及びシステム分析プログラム

Publications (2)

Publication Number Publication Date
JPWO2014208002A1 true JPWO2014208002A1 (ja) 2017-02-23
JP6354755B2 JP6354755B2 (ja) 2018-07-11

Family

ID=52141378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015523839A Active JP6354755B2 (ja) 2013-06-25 2014-05-29 システム分析装置、システム分析方法、及びシステム分析プログラム

Country Status (4)

Country Link
US (1) US9658916B2 (ja)
EP (1) EP3015989A4 (ja)
JP (1) JP6354755B2 (ja)
WO (1) WO2014208002A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150205691A1 (en) * 2014-01-23 2015-07-23 Concurix Corporation Event prediction using historical time series observations of a computer application
US10452458B2 (en) 2014-01-23 2019-10-22 Microsoft Technology Licensing, Llc Computer performance prediction using search technologies
MY185034A (en) * 2015-08-06 2021-04-30 Ns Solutions Corp Information processing apparatus, information processing system, information processing method and computer readable non-transitory recording medium
US10331802B2 (en) 2016-02-29 2019-06-25 Oracle International Corporation System for detecting and characterizing seasons
US10970891B2 (en) 2016-02-29 2021-04-06 Oracle International Corporation Systems and methods for detecting and accommodating state changes in modelling
US10885461B2 (en) 2016-02-29 2021-01-05 Oracle International Corporation Unsupervised method for classifying seasonal patterns
US10699211B2 (en) 2016-02-29 2020-06-30 Oracle International Corporation Supervised method for classifying seasonal patterns
US10198339B2 (en) * 2016-05-16 2019-02-05 Oracle International Corporation Correlation-based analytic for time-series data
US11082439B2 (en) 2016-08-04 2021-08-03 Oracle International Corporation Unsupervised method for baselining and anomaly detection in time-series data for enterprise systems
US10635563B2 (en) 2016-08-04 2020-04-28 Oracle International Corporation Unsupervised method for baselining and anomaly detection in time-series data for enterprise systems
US10949436B2 (en) 2017-02-24 2021-03-16 Oracle International Corporation Optimization for scalable analytics using time series models
US10915830B2 (en) 2017-02-24 2021-02-09 Oracle International Corporation Multiscale method for predictive alerting
US10817803B2 (en) 2017-06-02 2020-10-27 Oracle International Corporation Data driven methods and systems for what if analysis
US10761958B2 (en) * 2018-03-19 2020-09-01 International Business Machines Corporation Automatically determining accuracy of a predictive model
US10963346B2 (en) 2018-06-05 2021-03-30 Oracle International Corporation Scalable methods and systems for approximating statistical distributions
US10997517B2 (en) 2018-06-05 2021-05-04 Oracle International Corporation Methods and systems for aggregating distribution approximations
JP7029362B2 (ja) * 2018-08-16 2022-03-03 三菱重工業株式会社 異常検出装置、異常検出方法、及びプログラム
US11138090B2 (en) 2018-10-23 2021-10-05 Oracle International Corporation Systems and methods for forecasting time series with variable seasonality
US10855548B2 (en) 2019-02-15 2020-12-01 Oracle International Corporation Systems and methods for automatically detecting, summarizing, and responding to anomalies
US11533326B2 (en) 2019-05-01 2022-12-20 Oracle International Corporation Systems and methods for multivariate anomaly detection in software monitoring
US11537940B2 (en) 2019-05-13 2022-12-27 Oracle International Corporation Systems and methods for unsupervised anomaly detection using non-parametric tolerance intervals over a sliding window of t-digests
US11887015B2 (en) 2019-09-13 2024-01-30 Oracle International Corporation Automatically-generated labels for time series data and numerical lists to use in analytic and machine learning systems
US11163630B2 (en) * 2019-10-18 2021-11-02 Dell Products L.P. Using real-time analytics to manage application features

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100306597A1 (en) * 2009-05-28 2010-12-02 Microsoft Corporation Automated identification of performance crisis
JP2011192097A (ja) * 2010-03-16 2011-09-29 Hitachi Ltd 異常検知方法およびそれを用いた情報処理システム
WO2012086824A1 (ja) * 2010-12-20 2012-06-28 日本電気株式会社 運用管理装置、運用管理方法、及びプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4872944B2 (ja) * 2008-02-25 2012-02-08 日本電気株式会社 運用管理装置、運用管理システム、情報処理方法、及び運用管理プログラム
JP5108116B2 (ja) * 2009-01-14 2012-12-26 株式会社日立製作所 装置異常監視方法及びシステム
JP5259797B2 (ja) 2011-09-05 2013-08-07 株式会社東芝 学習型プロセス異常診断装置、およびオペレータ判断推測結果収集装置
US9774522B2 (en) * 2014-01-06 2017-09-26 Cisco Technology, Inc. Triggering reroutes using early learning machine-based prediction of failures
US9665454B2 (en) * 2014-05-14 2017-05-30 International Business Machines Corporation Extracting test model from textual test suite

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100306597A1 (en) * 2009-05-28 2010-12-02 Microsoft Corporation Automated identification of performance crisis
JP2011192097A (ja) * 2010-03-16 2011-09-29 Hitachi Ltd 異常検知方法およびそれを用いた情報処理システム
WO2012086824A1 (ja) * 2010-12-20 2012-06-28 日本電気株式会社 運用管理装置、運用管理方法、及びプログラム

Also Published As

Publication number Publication date
EP3015989A1 (en) 2016-05-04
JP6354755B2 (ja) 2018-07-11
US20160132373A1 (en) 2016-05-12
WO2014208002A1 (ja) 2014-12-31
US9658916B2 (en) 2017-05-23
EP3015989A4 (en) 2017-06-07

Similar Documents

Publication Publication Date Title
JP6354755B2 (ja) システム分析装置、システム分析方法、及びシステム分析プログラム
JP6658540B2 (ja) システム分析装置、システム分析方法およびプログラム
JP6183450B2 (ja) システム分析装置、及び、システム分析方法
JP6183449B2 (ja) システム分析装置、及び、システム分析方法
JP6521096B2 (ja) 表示方法、表示装置、および、プログラム
WO2016147657A1 (ja) 情報処理装置、情報処理方法、及び、記録媒体
JP5387779B2 (ja) 運用管理装置、運用管理方法、及びプログラム
CN112016689B (zh) 信息处理装置、预测判别系统以及预测判别方法
JP6777142B2 (ja) システム分析装置、システム分析方法、及び、プログラム
WO2017126585A1 (ja) 情報処理装置、情報処理方法、及び、記録媒体
JP6489235B2 (ja) システム分析方法、システム分析装置、および、プログラム
KR101960755B1 (ko) 미취득 전력 데이터 생성 방법 및 장치
EP2958023A1 (en) System analysis device and system analysis method
JP6915693B2 (ja) システム分析方法、システム分析装置、および、プログラム
US10157113B2 (en) Information processing device, analysis method, and recording medium
US20230297095A1 (en) Monitoring device and method for detecting anomalies
JP6627258B2 (ja) システムモデル生成支援装置、システムモデル生成支援方法、及び、プログラム
JP2019145160A (ja) 表示方法、表示装置、および、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180528

R150 Certificate of patent or registration of utility model

Ref document number: 6354755

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150