JP2016015111A - 評価プログラム、評価方法、および評価装置 - Google Patents
評価プログラム、評価方法、および評価装置 Download PDFInfo
- Publication number
- JP2016015111A JP2016015111A JP2014206195A JP2014206195A JP2016015111A JP 2016015111 A JP2016015111 A JP 2016015111A JP 2014206195 A JP2014206195 A JP 2014206195A JP 2014206195 A JP2014206195 A JP 2014206195A JP 2016015111 A JP2016015111 A JP 2016015111A
- Authority
- JP
- Japan
- Prior art keywords
- countermeasure
- maturity
- systems
- usefulness
- evaluation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000011156 evaluation Methods 0.000 title claims abstract description 126
- 238000004364 calculation method Methods 0.000 claims abstract description 53
- 230000000694 effects Effects 0.000 claims abstract description 21
- 230000001186 cumulative effect Effects 0.000 claims description 41
- 238000012544 monitoring process Methods 0.000 claims description 29
- 230000008859 change Effects 0.000 claims description 23
- 238000012545 processing Methods 0.000 claims description 16
- 238000000034 method Methods 0.000 description 160
- 230000006870 function Effects 0.000 description 114
- 230000010485 coping Effects 0.000 description 80
- 238000010586 diagram Methods 0.000 description 36
- 239000013598 vector Substances 0.000 description 32
- 230000008569 process Effects 0.000 description 31
- 238000003860 storage Methods 0.000 description 30
- 238000007726 management method Methods 0.000 description 26
- 230000018109 developmental process Effects 0.000 description 23
- 230000004044 response Effects 0.000 description 22
- 238000011161 development Methods 0.000 description 21
- 238000009826 distribution Methods 0.000 description 20
- 238000000605 extraction Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 10
- 239000000284 extract Substances 0.000 description 9
- 230000009471 action Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 238000012886 linear function Methods 0.000 description 5
- 230000002354 daily effect Effects 0.000 description 4
- 230000035800 maturation Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 230000003203 everyday effect Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000001771 impaired effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000033772 system development Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0751—Error or fault detection not based on redundancy
- G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
- G06F11/076—Error or fault detection not based on redundancy by exceeding limits by exceeding a count or rate limit, e.g. word- or bit count limit
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
- G06F11/0709—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/079—Root cause analysis, i.e. error or fault diagnosis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0793—Remedial or corrective actions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
- G06F11/2257—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing using expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3452—Performance evaluation by statistical analysis
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0654—Management of faults, events, alarms or notifications using network fault recovery
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/06—Generation of reports
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
- H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Environmental & Geological Engineering (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Debugging And Monitoring (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
【解決手段】算出手段11は、複数のシステムそれぞれについての非機能要件に関する値に基づいて、複数のシステムそれぞれで各々の対処を実施したときの、当該対処を実施したシステムが安定運用できている度合いを示す成熟度を算出する。評価手段12は、複数のシステム1a,1b,1cそれぞれで実施された各々の対処について、特定のシステムと当該対処が実施されたシステムとの構成の類似度、当該対処の実施時期、当該対処による効果、および実施時期における成熟度に基づき、特定のシステム2に対する有用度を評価する。
【選択図】図1
Description
また、障害対処ルールの適用評価値を算出し、算出した適用評価値と自己の障害復旧装置の適用基準値を比較することで、有効なルールを取捨選択する技術がある。
〔第1の実施の形態〕
まず、第1の実施の形態について説明する。第1の実施の形態は、対処を実施したシステムの成熟度を加味して、その対処を他のシステムに実施することの有用度を算出することで、有用度の信頼性を向上させるものである。
生成手段11aは、複数のシステム1a,1b,1cそれぞれについて、システムの稼働開始からの障害の累積発生状況に基づいて、システムの運用期間と、システムの成熟度との関係を示す関係情報を生成する。例えば生成手段11aは、システムの運用期間が長いほど成熟度が高くなるような関係情報を生成する。
例えば、システムの成熟度が低いほど全体を通じて高く評価することで、運用開始からの経過時間が短い、もしくは、利用実績の少ないシステムほど、開発から稼働後を通じて実施された対処が総じて重要になるように評価することができる。また成熟度が高いほど運用開始直後および直近の対処を高く評価し、その他のタイミングでの対処の評価を下げることで、より重要な評価のみを抽出できる。例えば安定運用されているシステムであっても、運用開始直後は重大な障害が発生しやすいため、その時期に実施した対処は重要であると考えられる。また安定運用されているシステムにおいて直近に実施された対処は、重大な脆弱性の解消のような重要な対処が含まれるものと考えられる。
次に第2の実施の形態について説明する。第2の実施の形態は、クラウドコンピューティングシステム(以下、クラウドシステム)において構築したテナントごとのシステムに対して実施した対処から、新たに作成するシステムに有用な対処を抽出するものである。
図3は、第2の実施の形態に用いるサーバのハードウェアの一構成例を示す図である。サーバ100は、プロセッサ101によって装置全体が制御されている。プロセッサ101には、バス109を介してメモリ102と複数の周辺機器が接続されている。プロセッサ101は、マルチプロセッサであってもよい。プロセッサ101は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、またはDSP(Digital Signal Processor)である。プロセッサ101がプログラムを実行することで実現する機能の少なくとも一部を、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)などの電子回路で実現してもよい。
・評価基準1:対処が実施されたシステムが新規に運用方式を作成するシステムに類似するほど、その対処の有用度を高くする。
・評価基準2:対処が実施されたタイミングが直近もしくはシステムのリリース直後であるほど、その対処の有用度を高くする。
・評価基準3:実施した結果、効果があった(問題が解決した)対処ほど有用度を高くする。
図5は、開発手法によるシステムの成熟度の違いを示す図である。図5の上段には、ウォーターフォール・モデルと呼ばれるソフトウェアの開発手法で開発したシステムの開発スケジュールを示している。また下段には、DevOpsと呼ばれるソフトウェアの開発手法で開発したシステムの開発スケジュールを示している。DevOpsは、開発(Development)と運用(Operations)を連携させた、システムのリリース形態である。
<成熟度利用評価基準1>
システムの成熟度が低いほど、対処の実施時期に関する全期間を通じて、対処の有用度を高く評価する。これにより、リリースからの経過時間が短い、もしくは、利用実績の少ないシステムほど、運用期間全体を通し、実施された対処が総じて重要になる。
成熟度が高いほど、運用開始直後および直近の対処を高く評価し、その他のタイミングでの対処の評価を低くする。これにより、運用開始からの十分に経過時間が経つ、もしくは利用実績が多いシステムほど、運用開始直後と直近の対処が重要になり、それ以外の対処は不要と判定される。
次に、成熟度を加味した有用度の算出方法について説明する。ある対処について、過去にN個のシステム(Nは1以上の整数)に対して実施されているとき、その対処の有用度(Usefulness)は、以下の式で算出することができる。
M=c×t0+b ・・・(3)
c,bは、成熟度係数である。成熟度係数は、過去の障害履歴から時間経過に伴う累積障害件数の推移に基づいて、成熟度の変化特性が、累積障害件数の変化特性に一致するように調整する定数である。t0は、システムの運用開始から対処実施時期までの経過時間である(例えば経過日数)。対処を実施したシステムの成熟度Mの値が大きいほど、そのシステムの成熟が進んでおり、安定運用されていることを意味する。
図6は、成熟度の違いによる処理の実施時期とタイミング評価値との関係の変化を示す図である。図6の例では、横軸にt、縦軸にタイミング評価値(Timing(t))を取ったグラフが示されている。そのグラフには、成熟度が異なる複数のタイミング評価値についての処理の実施時期との関係が示されている。
M=K/(1+be-ct) ・・・(4)
Kは、最大成熟度を示す実数である(K>0)。eは自然対数の底(ネイピア数)である。指数関数を用いることで、例えば、運用開始直後には成熟度が急速に高まり、運用を継続するうちに、成熟度の上昇率が徐々に緩やかになる様子を、的確に表すことができる。
図7は、第2の実施の形態を実現するための機能を示すブロック図である。DBサーバ200は、対処履歴DB210を有している。対処履歴DB210には、クラウドシステム300内に構築されたいずれかのシステムで発生した障害に対する対処の履歴が格納されている。
なお、図7に示した各要素間を接続する線は通信経路の一部を示すものであり、図示した通信経路以外の通信経路も設定可能である。図7に示す成熟度関数生成部150は、図1に示した第1の実施の形態の生成手段11aの一例である。図7に示す有用度決定部160は、図1に示した第1の実施の形態の成熟度算出手段11bの一例である。図7に示す採用適否判定部170は、図1に示した第1の実施の形態の評価手段12の一例である。また、図7に示した各要素の機能は、例えば、その要素に対応するプログラムモジュールをコンピュータに実行させることで実現することができる。
図8は、対処履歴DBのデータ構造の一例を示す図である。対処履歴DB210には、例えば対処履歴管理テーブル211が格納されている。対処履歴管理テーブル211には、クラウドシステム300内に構築されたシステムに対して実施された対処ごとのレコードが、対処履歴として登録されている。対処履歴管理テーブル211には、テナントID、対処実績、対処、対処日、および対処結果の欄が設けられている。
図12は、対処方法の作成手順を示すフローチャートである。
[ステップS101]サーバ100は、例えば端末装置400から、対処方法作成の対象となるシステム(対象システム)の構成情報を受け付ける。後述する図16の例であれば、システム350の構成情報が、端末装置400から入力される。
図13は、成熟度関数算出処理の手順の一例を示すフローチャートである。
[ステップS113]成熟度関数生成部150は、収集した障害履歴から、累積障害度数分布を求める。累積障害度数分布は、標本のシステムの運用開始からの障害発生件数の累積値を、所定期間単位で集計したものである(図19参照)。
[ステップS116]成熟度関数生成部150は、標本として抽出されたシステムすべてについて、成熟度関数を生成したか否かを判断する。すべてのシステムの成熟度関数が生成済みの場合、成熟度関数生成処理が終了する。成熟度関数を生成していないシステムがある場合、処理がステップS111に進められる。
[ステップS121]有用度決定部160は、標本として抽出された複数の対処履歴のいずれかに示される対処のうち、未選択の対処を1つ選択する。
[ステップS123]有用度決定部160は、選択した対処履歴において対処を行ったシステムと、対象システムとの間の構成の類似度を算出する。
図15は、採用適否判定処理の手順の一例を示すフローチャートである。
[ステップS132]採用適否判定部170は、各対処の有用度と閾値とを比較し、その対処の採用の適否を判定する。例えば採用適否判定部170は、対処の有用度が閾値以上であれば、その対処を採用するものと判定する。
以下、具体例を用いて、対処方法の作成例を説明する。例えば、新たに追加するテナント用のシステムの構成情報がサーバ100に入力されたとき、図12に示した対処方法作成処理が開始される。
図18は、標本とするシステムの抽出例を示す図である。図18の例では、対象システム(テナントID:新テナント)との間で構成が類似するシステムを、標本として抽出している。類似性の判断方法は、有用度の計算に用いる類似度「Similarity(S0,Sn)」を用いることができる。また、類似度の計算には、システム構成の類似性に限らず、アクセスパターンの類似性も考慮に入れることができる。
図20は、成熟度関数の生成例を示す図である。累積障害度数分布51を示すグラフの縦軸を成熟度とし、経過日数ごとの累積件数を成熟度に変換したグラフが生成される。このグラフの経過日数ごとの成熟度を示す近似曲線が求められる。例えば式(3)に示した式がモデル関数とされ、最小二乗法により、残差の二乗和が最小となるような成熟度係数c、bが算出される。図20の例では、c=0.0032、b=0.2となったものとする。この場合、成熟度関数は「M=0.0032t0+0.2」となる。
図21は、タイミング評価値の計算例を示す図である。対処履歴管理テーブル211を参照すると、対処「Op1」が実施された対処履歴は「Tenant1_Record1」、「Tenant2_Record1」、「Tenant3_Record1」、「Tenant4_Record1」、「Tenant5_Record1」である。ただし、標本として抽出されていないシステムの対処履歴は、有用度算出に用いられない。そこで2つの対処履歴「Tenant1_Record1」、「Tenant2_Record1」に基づいて、対処「Op1」の有用度が算出される。対処「Op1」の有用度の算出に当たり、対処履歴「Tenant1_Record1」、「Tenant2_Record1」それぞれのタイミング評価値が計算される。
図22は、効果の有無の取得例を示す図である。対処履歴管理テーブル211には、対処履歴「Tenant1_Record1」、「Tenant2_Record1」それぞれに関して、どちらも効果があったことが示されている。効果があった場合「Result=1」と設定される。効果がなかった場合であれば、「Result=0」となる。
図23は、対処グラフの作成例を示す図である。例えば対処方法一覧121から、採用すると判定された対処の対処方法が抽出される。図23の例では、対処「Op1」と「Op2」とが採用すると判定された場合を想定している。抽出された対処方法それぞれに基づいて、対処グラフ61,62が生成される。そして生成された対処グラフ61,62の共通のノードを共有させることで、複数の対処グラフ61,62がマージ(統合)される。マージされた対処グラフにスタートノードが追加され、対象システム用の対処グラフ63となる。
次に第3の実施の形態について説明する。第3の実施の形態は、システムの運用開始からの経過時間ではなく、所定期間内にシステムが実際に安定運用している度合いに応じて成熟度を計算するものである。
第1の判定方法は、外部から観察された状態に基づいて判定する方法である。例えばシステムで提供されるサービスが、予め定めたサービスレベルに達しているかどうかに基づいて安定しているかどうかを判断することができる。サービスのレベルは、例えばリクエストに対するレスポンスタイムで図ることができる。
図26は、システムが安定しているかどうかの第1の判定手法を示す図である。例えばサーバ100aが、システム304の構成を変更する前に、システム304に対してリクエストを送信し、そのリクエストに対するレスポンスタイムを計測する。またサーバ100aは、変更後のシステム305に対してもリクエストを送信し、そのリクエストに対するレスポンスタイムを計測する。サーバ100aは、レスポンスタイムが所定時間を超えた場合、そのシステムは不安定であると判断する。
次に、システムが安定しているかどうかの第2の判定手法について説明する。
図28は、第2の判定方法における各サーバの安定・不安定の判断例を示す図である。サーバ100aは、例えば監視対象のサーバの動作が正常であるときのそのサーバのCPU使用率を一定期間観測する。そして正常時に観測されるCPU使用率の範囲を判断する。例えば図28の例では、正常時のCPU使用率は、0%〜30%である。
図29は、状態ベクトルの例を示す図である。図29の例では、「要素A」、「要素B」、「要素C」の3つの要素を含む状態ベクトルFasisが生成されている。「要素A」、「要素B」、「要素C」は、それぞれサーバに対応し、対応するサーバが安定か不安定かを示す。例えばサーバが安定していれば、対応する要素の値は「1」となる。またサーバが不安定であれば、対応する要素の値は「0」となる。
図31は、システムが安定しているかどうかの第3の判定手法を示す図である。第3の手法では、サーバ100aは、内部および外部で観測された状態を用いて、過去の実績から安定状態と不安定状態とを学習する。この学習により、安定・不安定を判断するためのモデルが構築される。そして構築されたモデルを用いて、その後に観測された状態が安定状態なのか、不安定状態なのかが判断される。
以上のような第1〜第3のいずれかの手法で、個別の時点でのシステムの安定性を判定し、システムに対する対処の実施前の所定期間の判定結果を総合的に判断して、対処時点でのシステムの成熟度を求めることができる。例えばサーバ100aは、過去の一定の期間(T0からTn)において成熟化した期間の長さ(安定期間長p)が次の式で求められる。
成熟度関数生成部152は、前述の第2の判定手法によりシステムが安定しているかどうかを判断して、所定期間(例えば1日)ごとに、その期間における安定期間長pを、式(14)により求める。そして、成熟度関数生成部152は、成熟度期間長pを用い、所定期間(例えば1日)ごとに、その期間内に実施された対処に適用する成熟度関数を生成する。
図34は、成熟度関数生成処理の手順の一例を示すフローチャートである。
[ステップS213]成熟度関数生成部152は、収集した監視履歴に基づいて、選択したシステムの監視区分ごとの状態の超不安定状態からの距離を計算する。そして成熟度関数生成部152は、監視区分ごとの距離の積を、単位期間(例えば日)ごとに計算する。
図36は、安定期間長と成熟度との関係を示す図である。図36の上段に、安定期間長と成熟度との関係を示すグラフを示し、下段に、所定の成熟度のときのタイミング評価値のグラフを示している。図36の例では、最大成熟度Kを「16」としている。この場合、安定期間長が例えば「−1」であれば、成熟度Mは、ほぼ「4」となる。成熟度Mが決まれば、前述の式(2)により、対処時点でのタイミング評価値(Timing(t))が定まる。
図37は、日ごとの成熟度の算出例を示す図である。日ごとの安定性に基づいて、日ごとの安定期間長pが求められ、式(15)に基づいて日ごとの成熟度Mが求められる。例えば12月1日から12月5日までの期間の安定性に基づいて算出すると、12月5日の安定期間長pは「−1」となり、成熟度Mは「4.30」となる。また例えば12月2日から12月6日までの期間の安定性に基づいて算出すると、12月6日の安定期間長pは「−3」となり、成熟度Mは「0.76」となる。日付ごとに、その日から過去5日間の安定性に基づいて、成熟度が求められる。
図38は、成熟度の変化例を示す図である。図38の例では、ある月の1日の成熟度が「4」であっても、翌日(2日)の成熟度は「1」に下がっている。その後、成熟度がさらに下がるが、4日に成熟度が「1」に戻っている。その翌日(5日)には、成熟度が「4」まで回復している。この場合、その月の1日と5日とに実施した対処のタイミング評価値を計算する際の成熟度は「4」であり、その月の2日と4日とに実施した対処のタイミング評価値を計算する際の成熟度は「1」である。
1a,1b,1c,2 システム
3 障害件数情報
4 対処履歴
10 評価装置
11 算出手段
11a 生成手段
11b 成熟度算出手段
12 評価手段
Claims (11)
- 複数のシステムにおいて実施された対処の、特定のシステムに対する有用度を評価する評価プログラムであって、
コンピュータに、
前記複数のシステムそれぞれについての非機能要件に関する値に基づいて、前記複数のシステムそれぞれで各々の対処の実施時期における、当該対処を実施したシステムが安定運用できている度合いを示す成熟度を算出し、
前記複数のシステムそれぞれで実施された前記各々の対処について、前記特定のシステムと当該対処が実施されたシステムとの構成の類似度、当該対処の実施時期、当該対処による効果、および前記実施時期における前記成熟度に基づき、前記特定のシステムに対する有用度を評価する、
処理を実行させる評価プログラム。 - 前記成熟度の算出では、前記複数のシステムそれぞれについての前記非機能要件に関する値に基づいて、当該システムの運用期間と、当該システムの前記成熟度との関係を示す関係情報を生成し、
前記複数のシステムそれぞれで実施された前記各々の対処について、前記関係情報に基づいて、当該対処を実施したときの当該システムの運用期間に対応する前記成熟度を算出する、
請求項1記載の評価プログラム。 - 有用度の評価では、前記複数のシステムそれぞれで実施された前記各々の対処について、当該対処の実施時期が運用開始時または現在のいずれかに近いほど、有用度を高く評価し、当該対処が実施されたシステムの前記成熟度が高いほど、当該対処の実施時期の運用開始時または現在のいずれかへの近さの差に応じた有用度の差を大きくすることを特徴とする請求項1または2記載の評価プログラム。
- 前記成熟度の算出では、システムの運用期間が長いほど前記成熟度を高くすることを特徴とする請求項1乃至3のいずれかに記載の評価プログラム。
- 前記非機能要件に関する値は、システムの稼働開始からの障害の累積発生状況を示す値である請求項1乃至4のいずれかに記載の評価プログラム。
- 前記成熟度の算出では、システムの障害発生状況の時間変化に基づいて、当該システムの運用期間の長さに応じた成熟度合いを示す成熟度係数を求め、定数として前記成熟度係数を設定した関数式を生成し、前記関数式に基づいて、前記複数のシステムそれぞれで実施された各々の対処について、当該対処を実施したときの当該システムの運用期間に対応する前記成熟度を算出する請求項5記載の評価プログラム。
- 前記成熟度の算出では、システムに対する障害発生の累積件数の時間変化を求め、運用期間の長さに応じた当該累積件数の増加度合いを、前記成熟度係数とすることを特徴とする請求項6記載の評価プログラム。
- 前記成熟度の算出では、評価対象の対処を実施したシステムの前記非機能要件に関する値に基づいて、単位期間ごとの当該システムの動作の安定性を判定し、当該対処の実施時までの所定期間内の各単位期間の当該システムの安定性に基づいて、当該対処の前記成熟度を算出する請求項1乃至3のいずれかに記載の評価プログラム。
- 前記非機能要件に関する値は、前記複数のシステムを監視することで得られた、前記複数のシステムそれぞれの動作状態を示す値である請求項1乃至4のいずれかまたは請求項8に記載の評価プログラム。
- 複数のシステムにおいて実施された対処の、特定のシステムに対する有用度を評価する評価方法であって、
コンピュータが、
前記複数のシステムそれぞれについての非機能要件に関する値に基づいて、前記複数のシステムそれぞれで各々の対処の実施時期における、当該対処を実施したシステムが安定運用できている度合いを示す成熟度を算出し、
前記複数のシステムそれぞれで実施された前記各々の対処について、前記特定のシステムと当該対処が実施されたシステムとの構成の類似度、当該対処の実施時期、当該対処による効果、および前記実施時期における前記成熟度に基づき、前記特定のシステムに対する有用度を評価する、
評価方法。 - 複数のシステムにおいて実施された対処の、特定のシステムに対する有用度を評価する評価装置であって、
前記複数のシステムそれぞれについての非機能要件に関する値に基づいて、前記複数のシステムそれぞれで各々の対処の実施時期における、当該対処を実施したシステムが安定運用できている度合いを示す成熟度を算出する算出手段と、
前記複数のシステムそれぞれで実施された前記各々の対処について、前記特定のシステムと当該対処が実施されたシステムとの構成の類似度、当該対処の実施時期、当該対処による効果、および前記実施時期における前記成熟度に基づき、前記特定のシステムに対する有用度を評価する評価手段と、
を有する評価装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014206195A JP6387777B2 (ja) | 2014-06-13 | 2014-10-07 | 評価プログラム、評価方法、および評価装置 |
US14/737,914 US9740550B2 (en) | 2014-06-13 | 2015-06-12 | Evaluation method and evaluation apparatus |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014122314 | 2014-06-13 | ||
JP2014122314 | 2014-06-13 | ||
JP2014206195A JP6387777B2 (ja) | 2014-06-13 | 2014-10-07 | 評価プログラム、評価方法、および評価装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016015111A true JP2016015111A (ja) | 2016-01-28 |
JP6387777B2 JP6387777B2 (ja) | 2018-09-12 |
Family
ID=54836227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014206195A Expired - Fee Related JP6387777B2 (ja) | 2014-06-13 | 2014-10-07 | 評価プログラム、評価方法、および評価装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9740550B2 (ja) |
JP (1) | JP6387777B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017199118A (ja) * | 2016-04-26 | 2017-11-02 | 三菱電機株式会社 | 静観候補特定装置、静観候補特定方法及び静観候補特定プログラム |
WO2018174163A1 (ja) | 2017-03-23 | 2018-09-27 | 日本電気株式会社 | 開発運用支援システム、開発管理サーバ、運用管理サーバ、それらの方法及びプログラムを格納した非一時的なコンピュータ可読媒体 |
JP2018156348A (ja) * | 2017-03-17 | 2018-10-04 | 株式会社リコー | 障害監視装置、障害監視システムおよびプログラム |
JP2020030447A (ja) * | 2018-08-20 | 2020-02-27 | Zホールディングス株式会社 | サーバ、システム、クライアント装置、ログ情報記憶方法、クライアント情報送信方法及びプログラム |
JP2021015321A (ja) * | 2019-07-10 | 2021-02-12 | 三菱電機株式会社 | 手順特定装置、計算モデル生成装置、手順特定方法、手順特定プログラム、計算モデル生成方法、計算モデル生成プログラム、学習データ生成装置及び計算プログラム |
JP7569349B2 (ja) | 2022-03-03 | 2024-10-17 | 株式会社日立製作所 | 検証装置、検証方法及び検証システム |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016063424A (ja) * | 2014-09-18 | 2016-04-25 | 株式会社東芝 | 情報処理装置、通信装置、端末、通信処理方法およびコンピュータプログラム |
JP6360977B2 (ja) * | 2015-08-07 | 2018-07-18 | 株式会社日立製作所 | 監視装置、監視方法、および監視プログラム |
US10187310B2 (en) * | 2015-10-13 | 2019-01-22 | Oracle International Corporation | System and method for efficient network isolation and load balancing in a multi-tenant cluster environment |
WO2017109821A1 (ja) * | 2015-12-21 | 2017-06-29 | 株式会社日立製作所 | 計算機システムの管理システム及び管理方法 |
US10055263B2 (en) * | 2016-04-01 | 2018-08-21 | Ebay Inc. | Optimization of parallel processing using waterfall representations |
JP6803788B2 (ja) * | 2017-03-29 | 2020-12-23 | 三菱重工業株式会社 | 情報処理装置、情報処理方法およびプログラム |
EP3401849A1 (de) * | 2017-05-09 | 2018-11-14 | dSPACE digital signal processing and control engineering GmbH | Produktreifebestimmung eines technischen systems |
US10782949B2 (en) | 2018-01-08 | 2020-09-22 | International Business Machines Corporation | Risk aware application placement modeling and optimization in high turnover DevOps environments |
US20210294713A1 (en) * | 2020-03-20 | 2021-09-23 | 5thColumn LLC | Generation of an identification evaluation regarding a system aspect of a system |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05165853A (ja) * | 1991-07-08 | 1993-07-02 | Hitachi Ltd | 品質情報診断解析方法 |
JP2001109736A (ja) * | 1999-10-13 | 2001-04-20 | Honda Motor Co Ltd | 市場品質監視システム |
WO2008012903A1 (fr) * | 2006-07-27 | 2008-01-31 | Fujitsu Limited | Programme de gestion de système, dispositif de gestion de gestion de système, et procédé de gestion de système |
WO2009122525A1 (ja) * | 2008-03-31 | 2009-10-08 | 富士通株式会社 | トラブル対処システム、方法およびそのためのプログラム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4378864B2 (ja) | 2000-01-31 | 2009-12-09 | 三菱電機株式会社 | 複合装置、複合装置の運転方法 |
JP4350394B2 (ja) | 2003-03-04 | 2009-10-21 | マイクロストーン株式会社 | 変形性膝関節症の判定装置 |
JP2006053728A (ja) | 2004-08-11 | 2006-02-23 | Nec Corp | 障害対処ルール伝播方法、障害復旧装置およびプログラム |
JP4764353B2 (ja) | 2007-01-09 | 2011-08-31 | 株式会社東芝 | 設備更新計画支援システム |
JP2010211597A (ja) | 2009-03-11 | 2010-09-24 | Canon Inc | トラブル履歴管理システム |
JP5244686B2 (ja) | 2009-04-24 | 2013-07-24 | 株式会社東芝 | 監視装置およびサーバー |
EP2490126B1 (en) | 2009-10-15 | 2020-08-26 | Nec Corporation | System operation management device, system operation management method, and program storage medium |
JP5519436B2 (ja) | 2010-07-16 | 2014-06-11 | キヤノン電子株式会社 | システム安定度を分析する情報分析装置、情報分析方法、情報分析システムおよびプログラム |
US8429455B2 (en) * | 2010-07-16 | 2013-04-23 | Hitachi, Ltd. | Computer system management method and management system |
JP5708789B2 (ja) * | 2011-03-18 | 2015-04-30 | 富士通株式会社 | 対処支援プログラム、対処支援装置および対処支援方法 |
JP2013011987A (ja) | 2011-06-28 | 2013-01-17 | Toshiba Corp | 異常状態検知装置及び異常状態検知方法 |
KR101953558B1 (ko) * | 2012-10-23 | 2019-03-04 | 한국전자통신연구원 | 스마트 기기 결함 관리 장치 및 방법 |
WO2014103071A1 (ja) | 2012-12-28 | 2014-07-03 | 富士通株式会社 | 対処方法作成プログラム、対処方法作成方法、及び情報処理装置 |
-
2014
- 2014-10-07 JP JP2014206195A patent/JP6387777B2/ja not_active Expired - Fee Related
-
2015
- 2015-06-12 US US14/737,914 patent/US9740550B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05165853A (ja) * | 1991-07-08 | 1993-07-02 | Hitachi Ltd | 品質情報診断解析方法 |
JP2001109736A (ja) * | 1999-10-13 | 2001-04-20 | Honda Motor Co Ltd | 市場品質監視システム |
WO2008012903A1 (fr) * | 2006-07-27 | 2008-01-31 | Fujitsu Limited | Programme de gestion de système, dispositif de gestion de gestion de système, et procédé de gestion de système |
WO2009122525A1 (ja) * | 2008-03-31 | 2009-10-08 | 富士通株式会社 | トラブル対処システム、方法およびそのためのプログラム |
US20110016355A1 (en) * | 2008-03-31 | 2011-01-20 | Fujitsu Limited | System, method and computer readable storage medium for troubleshooting |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017199118A (ja) * | 2016-04-26 | 2017-11-02 | 三菱電機株式会社 | 静観候補特定装置、静観候補特定方法及び静観候補特定プログラム |
WO2017187651A1 (ja) * | 2016-04-26 | 2017-11-02 | 三菱電機株式会社 | 静観候補特定装置、静観候補特定方法及び静観候補特定プログラム |
JP2018156348A (ja) * | 2017-03-17 | 2018-10-04 | 株式会社リコー | 障害監視装置、障害監視システムおよびプログラム |
WO2018174163A1 (ja) | 2017-03-23 | 2018-09-27 | 日本電気株式会社 | 開発運用支援システム、開発管理サーバ、運用管理サーバ、それらの方法及びプログラムを格納した非一時的なコンピュータ可読媒体 |
CN110447011A (zh) * | 2017-03-23 | 2019-11-12 | 日本电气株式会社 | 开发操作支持系统、开发管理服务器、操作管理服务器及其方法以及存储有其程序的非暂时性计算机可读介质 |
US11184229B2 (en) | 2017-03-23 | 2021-11-23 | Nec Corporation | Development operation support system, development management server, operation management server, method thereof, and non-transitory computer readable medium storing program thereof |
CN110447011B (zh) * | 2017-03-23 | 2023-02-17 | 日本电气株式会社 | 开发操作支持系统、开发管理服务器、操作管理服务器及其方法以及存储有其程序的非暂时性计算机可读介质 |
JP2020030447A (ja) * | 2018-08-20 | 2020-02-27 | Zホールディングス株式会社 | サーバ、システム、クライアント装置、ログ情報記憶方法、クライアント情報送信方法及びプログラム |
JP2021015321A (ja) * | 2019-07-10 | 2021-02-12 | 三菱電機株式会社 | 手順特定装置、計算モデル生成装置、手順特定方法、手順特定プログラム、計算モデル生成方法、計算モデル生成プログラム、学習データ生成装置及び計算プログラム |
JP7569349B2 (ja) | 2022-03-03 | 2024-10-17 | 株式会社日立製作所 | 検証装置、検証方法及び検証システム |
Also Published As
Publication number | Publication date |
---|---|
US9740550B2 (en) | 2017-08-22 |
JP6387777B2 (ja) | 2018-09-12 |
US20150363249A1 (en) | 2015-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6387777B2 (ja) | 評価プログラム、評価方法、および評価装置 | |
US9424157B2 (en) | Early detection of failing computers | |
US9710322B2 (en) | Component dependency mapping service | |
US10692007B2 (en) | Behavioral rules discovery for intelligent computing environment administration | |
US20110320394A1 (en) | Creation and Revision of Network Object Graph Topology for a Network Performance Management System | |
US20130074057A1 (en) | Selecting Functions for Memoization Analysis | |
US20160378647A1 (en) | Development supporting system | |
US9471655B2 (en) | Enabling symptom verification | |
US9959197B2 (en) | Automated bug detection with virtual machine forking | |
WO2014074164A1 (en) | Memoizing with read only side effects | |
JP6447348B2 (ja) | ダンプデータ管理プログラム、ダンプデータ管理方法、およびダンプデータ管理装置 | |
US9355005B2 (en) | Detection apparatus and detection method | |
US9503341B2 (en) | Dynamic discovery of applications, external dependencies, and relationships | |
US9785421B1 (en) | External dependency attribution | |
US20140095934A1 (en) | Test case production utilizing problem reports | |
JP6119767B2 (ja) | 対処方法作成プログラム、対処方法作成方法、及び情報処理装置 | |
US20130318499A1 (en) | Test script generation | |
US20140280860A1 (en) | Method and system for signal categorization for monitoring and detecting health changes in a database system | |
JP2017049639A (ja) | 評価プログラム、手順書評価方法、および評価装置 | |
US10848371B2 (en) | User interface for an application performance management system | |
US10776240B2 (en) | Non-intrusive performance monitor and service engine | |
US10255128B2 (en) | Root cause candidate determination in multiple process systems | |
US20230021858A1 (en) | Method and system for improved sentiment analysis | |
JP2008191813A (ja) | ファイル重要度判定装置、ファイル重要度判定方法およびファイル重要度判定プログラム | |
US9800588B1 (en) | Automated analysis pipeline determination in a malware analysis environment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170704 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180528 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180605 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180717 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180730 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6387777 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |