JP2004508631A - 異常検出システム及びそれを教授する方法 - Google Patents

異常検出システム及びそれを教授する方法 Download PDF

Info

Publication number
JP2004508631A
JP2004508631A JP2002524792A JP2002524792A JP2004508631A JP 2004508631 A JP2004508631 A JP 2004508631A JP 2002524792 A JP2002524792 A JP 2002524792A JP 2002524792 A JP2002524792 A JP 2002524792A JP 2004508631 A JP2004508631 A JP 2004508631A
Authority
JP
Japan
Prior art keywords
input data
time
presentation
behavior
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002524792A
Other languages
English (en)
Other versions
JP4436042B2 (ja
Inventor
ホーグルンド アルベルト
ヘートーネン キムモ
ソルヴァリ アンッティ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nokia Oyj
Original Assignee
Nokia Oyj
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nokia Oyj filed Critical Nokia Oyj
Publication of JP2004508631A publication Critical patent/JP2004508631A/ja
Application granted granted Critical
Publication of JP4436042B2 publication Critical patent/JP4436042B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2433Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Informatics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Alarm Systems (AREA)
  • Telephonic Communication Services (AREA)
  • Debugging And Monitoring (AREA)
  • General Factory Administration (AREA)

Abstract

少なくとも1つが周期的な時間従属振舞いを有する観察可能なエレメント(302)を備えたシステムにおいて異常検出機構を教授する方法であって、その異常検出機構は、コンピュータ化された学習機構(314)を備えている。上記方法は、エレメント(302)の振舞いを指示する指示子(304)を組み立てそしてその組み立てられた指示子を、各々の観察可能なエレメントの指示子が同じ入力データコンポーネントに指定されるように配列する段階を含む。上記学習機構(314)は、その入力データが上記組み立てられた指示子(304)に基づく入力データコンポーネントを含むように教授される。入力データを近似するポイントが入力スペースに配置される。時間のプレゼンテーション(420−424)が少なくとも1つの入力データコンポーネントに組み込まれ、上記時間のプレゼンテーションは、周期的であり、連続的であり、そして周期的な時間従属振舞いをもつ少なくとも1つのエレメントの周期内で明確である。

Description

【0001】
【技術分野】
本発明は、正常な振舞いの概念が時間と共に変化するようなコンピュータ及びテレコミュニケーションネットワークにおける異常検出に係る。より詳細には、本発明は、特に異常検出機構を教授することに係る。このような異常検出機構の一例は、自己編成マップ(SOM)をベースとするものである。
【0002】
【背景技術】
異常状態を検出する機構は、2つの主たる分類、即ちルールに基づく検出機構及び異常検出機構の一方に属する。ルールに基づく検出機構は、不適切であると知られているある振舞いパターンを認識するように試みる。従って、ルールに基づく検出機構は、2つの厳しい制限があり、即ち以前に発生した問題及び検出システムに明確に教授されているか又はそれにプログラムされている問題しか検出できない。本明細書で使用される異常検出システム(ADS)では、検出問題が逆転され、即ちそれらシステムは、何が正常な振舞いであるか教授され、そしてその正常状態から著しく(所定量だけ)逸脱するものを異常と考える。このADS機構は、潜在的な問題状態を明確にトレーニングしなくてもそのような状態を検出することができる。ADSの一例が参照文献1に示されている。従って、ADSは、ターゲットシステムの正常な振舞いがトレーニングされる機構として定義される。従って、ADSは、正常状態から著しく逸脱するたびに潜在的な異常としてフラグを立てる。これに対して、ルールに基づく検出システムは、異常な振舞いの既知のモデルでトレーニングされ、教授された問題しか検出できない。
【0003】
参照文献1は、Unixベースのコンピュータシステムに対するADSを開示している。このシステムは、データ収集コンポーネント、ユーザ振舞いビジュアル化コンポーネント、自動異常検出コンポーネント及びユーザインターフェイスで構成される。このシステムは、システムにおいてユーザの振舞いを特徴付ける1組の特徴を選択することにより異常検出に必要なデータの量を減少する。自動異常検出コンポーネントは、テウボ・コーネンにより最初に形成された自己編成マップ(SOM)でユーザの毎日のプロフィールを近似する。SOMの重要パラメータは、「ベスト・マッピング・ユニット(BMU)」距離である。SOMのBMUは、毎日のプロフィールからの逸脱を検出するのに使用される。このような逸脱の尺度は、異常P値として表わされる。参照文献1によれば、ADSは、テストされ、そして広範囲な異常振舞いを検出できることが分かっている。
【0004】
既知のSOMベースのADS機構に伴う問題は、良好に定義された正常な振舞いを有するシステムにおける問題の検出に限定されることである。ほとんどのテレコミュニケーションネットワークでは、「正常な振舞い」の概念がせいぜい漠然としたものである。ピーク時間におけるネットワークエレメントの振舞いは、夜明け直前の静寂時間におけるその振舞いとは非常に異なる。より詳細には、最も頻繁に起きることであるが、正常と称されるものに変化を生じさせるのはユーザである。換言すれば、既知のADS機構は、正常な振舞いが時間と共に変化するシステム又はエレメントにおいて問題を検出するのには容易に適さない。
【0005】
【発明の開示】
従って、本発明の目的は、正常な振舞いが時間と共に著しく変化するシステムにおいて正常な振舞いの概念に依存するADS機構を教授するための機構を提供することである。ここで、「著しく」とは、ある時間に正常である振舞いが、他の時間には異常とみなすべきであることを意味する。
この目的は、独立請求項に記載されたことを特徴とする方法及び装置により達成される。本発明の好ましい実施形態は、従属請求項に記載する。
【0006】
本発明は、ADSへの入力データのコンポーネントとして時間を使用するという考え方を一部ベースとする。しかし、時間が、固定のスタートポイントから直線的に増加する量として表わされる場合には、入力データに時間を含ませるだけでは不充分である。このため、このような時間のプレゼンテーションは繰り返されず、ADSは、ある振舞いがいつ正常でありそしていつ異常であるか分からない。又、時間を周期的な量(例えば、24時間クロック)として導入するだけでも不充分である。というのは、23:59から00:00への毎日のジャンプが入力データに厳しい不連続性を導入するからである。
【0007】
従って、本発明は、テレコミュニケーションネットワークのようなシステムの経時変化する正常な振舞いによって生じる問題を解決するのに適した時間のプレゼンテーションを公式化することもベースとする。本発明によれば、入力データのコンポーネントとして使用される時間のプレゼンテーションは、1)周期的、2)連続的、及び3)明確(入力データの周期内で)である。時間(t)のこのようなプレゼンテーションの好ましい例は、x=sin(2πt/L)及びy=cos(2πt/L)のようなx及びyコンポーネントに対する投影である。ここで、Lは、変化の周期の長さ、典型的に、24時間又は1週間である。一目した限り、このような時間の二次元プレゼンテーションは、二次元SOMマップの両次元を使用すると思われるが、このようなSOMマップは、ビジュアル化のみを目的とするものであり、コンピュータメモリ内で、SOMマップは、任意の数の次元をもつことができる。
【0008】
しかしながら、時間のプレゼンテーションの連続的な必要性は、現実の制約を念頭において解釈されねばならない。全てのデジタルシステムは、分解能に限度があり、これは、時間のプレゼンテーションを完全に連続できないことを意味する。更に、あるメモリは、観察物を記憶するときに、それらの観察物の幾つかの最下位ビットを省略することにより、即ち量子化を行うことにより、セーブすることができる。本発明を説明する上で、時間のプレゼンテーションは、正常な振舞いと異常な振舞いの間の判断に影響を及ぼすに充分な大きさの不連続性を含まないならば、充分に連続的(=大きなスケールで連続的)である。例えば、24時間の使用周期を伴うテレコミュニケーションネットワークでは、ユーザの振舞いが迅速に変化して、ある形式の振舞いが、ある時点では正常と考えられるが、10分又は15分後には異常と考えられるような時間がなければ、約10分又は15分までの不連続性(量子化)は受け入れられると考えられる。これに対して、良好に定義された時間に開閉する(又はその振舞いを他のやり方で全く変化させる)システムに対する時間のプレゼンテーションは、不連続性が相当に小さくなければならない。
【0009】
あるメモリは、観察可能なエレメントの振舞いの変化が、周期のある部分(例えば夜)の間には小さく及び/又は徐々に生じ、そして他の部分(例えば昼)の間には顕著なものであることが事前に分かれば、セーブすることができる。このような場合に、時間のプレゼンテーションは、分解能が周期内に可変となるようなものである。これは、1ビットが、周期の静寂部分中には例えば30分を表わし、そして周期のよりアクティブな部分中には5−15分を表わすことを意味する。
【0010】
ある場合には、単一周期(通常24時間)で充分であるが、時には、2つ又は3つのネスト状周期が必要となる。例えば、時間のプレゼンテーションは、24時間周期で1つのコンポーネントを含みそして1週間周期で別のコンポーネントを含む。季節的変化により強く影響される位置又は状態の場合には、1年周期をもつ第3のコンポーネントが必要となる。
本発明は、自己編成マップに限定されず、k−手段や「学習ベクトル量子化」のような他のクラスタリング技術にも使用できる。
【0011】
本発明の好ましい実施形態によれば、時間のプレゼンテーションを含む全ての変数(入力データのコンポーネント)は、各変数のバリアンスが同一で、好ましくは1となるようにスケーリングされる。
本発明は、観察されるべきエレメントへアクセスできるコンピュータシステムにおいてソフトウェアルーチンとして実施することができる。本発明の機構は、単一のネットワーク要素、例えば、オペレーション・メンテナンスセンターにおいて構成されるのが理想的である。
【0012】
【発明を実施するための最良の形態】
以下、添付図面を参照して、本発明の好ましい実施形態を詳細に説明する。
本発明の好ましい実施形態は、自己編成マップ(SOM)技術に関連して説明する。図1は、自己編成マップを示す。異常に対するSOMテストの目的は、オブジェクトの現在の振舞いが異常であるかどうかテストすることである。テストされるべき仮説は、次の通りである。
:最新の観察は、異常でない。
:最新の観察は、異常である。
【0013】
オブジェクトの振舞いは、非常に一貫したものであり、これは、特徴スペース内の1つ又は若干の領域に集中することを意味する。他方、振舞いは、特徴スペース内に更に分散させることもでき、これは、より不規則な振舞いを意味する。異常に対してSOMテストを行う考え方は、小さなオブジェクト特有のSOMでオブジェクトの正常な振舞いを近似することである。以前の振舞いは、オブジェクトの正常な振舞いを表わすと仮定する。異常な観察は、SOMをトレーニングするときに以前の振舞いから省略することができる。
【0014】
図1に示すSOMは、参照番号13で共通に示された200ポイントの人為的データを伴う一次元(8*1)SOMである。図2は、SOMのニューロン14を中心として使用してプロットされた円又は楕円21を伴う同じSOMを示す。明瞭化のために、図1及び2は、2つの特徴11及び12のみで示されているが、実際には、観察可能な特徴の数は、2より相当に大きいものである。
2つの特徴に対する200ポイントの人為的データは、そのデータでトレーニングされるサイズ8*1のマップのニューロンと共に平面内にプロットされている。この一次元SOMは、データの2つのクラスター(各々4つの楕円21を有する)をかなり良好に近似している。図1のデータは、人間に対してビジュアル化できるように二次元になっていることに注意されたい。コンピュータシステムでは、次元の数は、2より相当に大きくすることができる。
【0015】
SOMにおけるデータポイントfに対する「ベスト・マッチング・ユニット(BMU)」は、そのデータポイントに対して最小の距離を有するニューロンwである。これは、次の式(1)で表わされる。
【数1】
Figure 2004508631
但し、distは、距離を意味する。
ここで、BMUに対するユークリッド距離を使用して、正常なオブジェクト特有の振舞いから観察がどれほど逸脱しているか測定すると仮定するが、他の形式の距離測定も使用できる。異常なP値は、観察に対する異常の程度の尺度である。この値に基づいて、仮説Hが受け入れられるか又は拒絶される。異常なP値の計算は、SOMベースのADSの使用段階に関連して説明する。
【0016】
ADS機構は、3つの主たる段階、設計、教授及び使用を含む。設計段階は、通常、人間の判断を伴い、そして次の段階を含む。
1.ターゲットオブジェクトを記述する1組の特徴を選択する。オブジェクトを記述する特徴ベクトルは、fで表わされる。(ターゲットオブジェクトは、ネットワークエレメントのような観察されるべきオブジェクトである。)この段階は、参照文献1に詳細に説明されている。本発明の説明上、特徴とは、正常な振舞いと異常な振舞いとの間の判断を行うために使用できるパラメータであることを述べれば充分であろう。
2.異常な振舞いを検出するために仮説を公式化する。その目的は、異常に対して最新の観察fn+1をテストすることである。テストされるべき仮説は、H:「最新の観察fn+1は、異常ではない」である。別の仮説は、H:「最新の観察fn+1は、異常である」である。(サフィックスnは、使用段階に関連して説明する。)
【0017】
教授段階は、通常、次の段階を含む。
1.ターゲットオブジェクトの正常な振舞いを観察する。例えば、特徴ベクトルのn個の測定値(f、f、・・f)が収集される。
2.測定値(f、f、・・f)をトレーニングデータとして使用してm個のニューロンでSOMをトレーニングする。マップにおけるニューロンの数mは、nよりも非常に小さく選択され、例えば、n/10に選択される。
【0018】
使用段階は、通常、次の段階を含む。
1.いずれかのデータポイント(f、f、・・f)に対して「ベスト・マッピング・ユニット(BMU)」ではないSOMのニューロンを削除する。
2.トレーニングされたSOMから(f、f、・・f)に対するBMU距離を計算する。これらの距離は、(D、D、・・D)で表わされる。
3.観察fn+1に対するBMU距離を計算する。この距離は、Dn+1で表わされる。
4.異常なP値を計算する。Dn+1より大きい「ベストマッピングユニット」距離(D、D、・・D)の数をBとする。従って、あるオブジェクトに対する異常なP値は、次の式で計算される。
【数2】
Figure 2004508631
5.異常なP値に基づいてナル仮説を受け入れるか又は拒絶する。異常なP値が異常なP値のスレッシュホールドより大きい場合には、ナル仮説Hが受け入れられる(最新の観察が正常とみなされる)。一方、異常なP値が異常なP値のスレッシュホールドより小さい場合には、ナル仮説Hが拒絶され、そして最新のデータポイントが異常と仮定される。
【0019】
オブジェクトの振舞いが異常である(Hが拒絶された)ことをテストが指示する場合には、最上位k個の逸脱特徴を決定することができる。BMU距離に対して最も大きな絶対的貢献をもつk個の特徴(特徴ベクトルのコンポーネント)が、最上位k個の逸脱特徴である。式(3)は、最も逸脱する特徴をいかに計算できるか示す。特徴ベクトルのこのコンポーネントは、式(3)においてサブインデックスmdが与えられている。式(3)において、BMUは、特徴ベクトルfn+1の「ベスト・マッピング・ユニット」を意味し、そしてjは、ゼロから特徴の数までの値をとる。他のk−1個の最も逸脱する特徴は、対応するやり方で計算される。
【数3】
Figure 2004508631
【0020】
図1に示す状態は、一例として使用することができる。図1は、参照番号15で一般に示された2つの異常を示す。異常1に対する異常なP値は、0/200=0である。データポイントに対するBMU距離で、異常1の場合より大きなBMU距離を有するものは、皆無であるから、分子の値は、ゼロである。対応的に、異常2の場合の異常なP値は、7/200=0.035である。
【0021】
異常なP値が異常なP値のスレッシュホールドより小さい場合には、ナル仮説Hが拒絶され、そしてアラームがトリガーされる。異常なP値のスレッシュホールドは、監視されるオブジェクトの振舞いが、教授段階中に使用された同じオブジェクトの初期の振舞いから逸脱しない場合に拒絶される観察の一部分として解釈することができる。即ち、ナル仮説が新である場合には、次のようになる。
アラームの数=P値スレッシュホールド*観察         (4)
一方、ナル仮説が真でない(新たなデータが異常である)場合には、拒絶(アラーム)の数が大きくなる。
【0022】
図2は、オブジェクト特有のマップのニューロンを中心とするd次元球(d−球)を使用するオブジェクトjに対して、選択されたP値スレッシュホールドをいかに描くか示している。二次元入力データでは、d−球が円である。ここで、dは、入力データ(f、f、・・f)における次元の数を意味する。換言すれば、各入力データエレメントfないしfは、それ自体、d次元をもつベクトルである。球内に入らないオブジェクトjに対する観察の数は、式(2)における分子Bに対応する。図2の二次元例は、このような状態を示している。ここで、Bは13であり、これは、約6.50というかなり高いP値スレッシュホールドに対応する。
【0023】
図3は、本発明の好ましい実施形態を示すプロセスチャートである。参照番号302は、テレコミュニケーションネットワーク(ニューラルネットワークとは区別される)のような物理的システムのエレメントを指す。物理的エレメントは、多数の観察可能なエレメントを含む。例えば、物理的システムエレメント302がテレコミュニケーション交換機である場合には、その観察可能なエレメントは、スループット、待機時間、失敗したコールの数(又は割合)等を含む。時間単位ごとに、指示子収集装置306が指示子タプル304を収集する。タプルは、指示子データベース310に記憶される。参照番号312は、ニューラルネットワーク(又は別の学習機構)314をトレーニングするのに使用されるデータセットを指す。データセット312は、物理的エレメント302の正常な振舞いを指示しなければならない。記憶装置318は、トレーニングされたニューラルネットワークを含む。物理的エレメント302を観察すべきときには、それに対応するトレーニングされたニューラルネットワーク320が記憶装置318から検索され、そして異常検出機構322へ1つの入力として送られる。異常検出機構の他の入力は、異常な振舞いについてテストされるべき指示子セット324である。指示子セット324により記述された振舞いが異常であることを異常検出機構322が決定する場合には、異常P値及び最も逸脱する指示子326が異常経歴データベース328に記憶される。同時に、アラーム330がコンピュータスクリーンのような監視装置332に与えられる。
【0024】
図4Aないし4Cは、時間の異なるプレゼンテーションを示し、その幾つかは受け入れられ、そして幾つかは受け入れられない。図4Aにおいて、横軸は、L単位の時間であり、但し、Lは、24時間であると仮定される入力データの周期である。線400は、時間の直線的なプレゼンテーションを示す。参照番号401ないし403は、24時間間隔で生じる繰り返し事象の3つの例を指す。この時間プレゼンテーションに伴う問題は、時間のプレゼンテーションが異なるものであり、ADSが事象401ないし403を反復事象として認識できないことである。
【0025】
鋸歯状の線405は、時間の24時間プレゼンテーションであり、換言すれば、時間のモジュロ関数である。このプレゼンテーションにおいては、毎日同じ時間に生じる事象が同じ表示を有するが、日の変化が入力データに不連続性を導入する。
図4Bでは、正弦波410は、周期的で且つ連続的であるが、不明瞭ではない。事象411及び412は、異なる時間に発生するが、同じ時間プレゼンテーションを有する。事象411が朝に正常であったと仮定すれば、ADSは、同様の事象を、それが夕方に発生した場合に異常と認識しない。
【0026】
図4Cは、3つの受け入れられる時間プレゼンテーションを示す。それらは、全て、時間が座標対x、yとして表わされるという考え方をベースとしている。円420は、時間を{x=sin(2πt/L);y=cos(2πt/L)}として表わし、Lは、変化の周期の長さであり、そして2πt/Lは、x軸からの角度である。又、楕円422は、ポイントが楕円の上半分にあるか下半分にあるかに関して不明瞭さを導入するために楕円がフラットになり過ぎない限り受け入れられる。四角形424も使用できる。多数のポイントが同一のx又はy座標を有するが、四角形の2つのポイントは、同一のx/y座標対をもたない。
【0027】
円420のサイン/コサイン組合せは、時間的に等距離にある事象が時間のプレゼンテーションについても等距離にあるので、好ましい時間プレゼンテーションであると考えられる。しかしながら、サイン/コサイン組合せは、計算上厳しいものであり、90°の位相シフトを伴う一対の三角波関数のようなある近似を使用することができる。上述したように、ある状態においては、時間のプレゼンテーションは、2つ以上のコンポーネントを必要とする。例えば、24時間、1週間及び1年という周期を伴う3つまでのサイン/コサイン対がある。
【0028】
本発明の好ましい実施形態を、ニューラルネットワーク及び自己編成マップに関連して説明したが、本発明は、これらの例に限定されるものではない。それとは別に、本発明は、k−手段及び「学習ベクトル量子化」のような他のクラスタリング技術へと一般化することができ、この場合に、ニューロンは、コードブックベクトルに置き換えられる。
【0029】
参照文献:
1.Hoglund、Albert:An Anomaly Detection System for Computer Networks, Master of Science thesis, Helsinki University of Technology 1997
この参照文献1は、参考としてここに援用する。
【図面の簡単な説明】
【図1】
自己編成マップを示す図である。
【図2】
図1の変形で、SOMのニューロンを中心として円を描いた図である。
【図3】
本発明の好ましい実施形態を示すプロセスチャートである。
【図4A】
時間のプレゼンテーションを示す図である。
【図4B】
時間の異なるプレゼンテーションを示す図である。
【図4C】
時間の更に別のプレゼンテーションを示す図である。

Claims (10)

  1. 少なくとも1つが周期的な時間従属振舞いを有する観察可能なエレメント(302)を備えたシステムにおいて異常検出機構を教授する方法であって、その異常検出機構は、入力データコンポーネント(11,12)より成る入力データを定義するための入力スペースを有するコンピュータ化された学習機構(314)を備えており、上記方法は、上記観察可能なエレメント(302)の振舞いを指示する指示子(304)を組み立てそしてその組み立てられた指示子を、各々の観察可能なエレメントの指示子が同じ入力データコンポーネントに指定されるように配列し、上記学習機構(314)の入力データが上記組み立てられた指示子(304)に基づく入力データコンポーネントを含むように上記学習機構を教授し、そして上記入力スペースにおける入力データを近似するポイント(14)を配置するという段階を備えた方法において、
    少なくとも1つの入力データコンポーネント(11,12)に時間のプレゼンテーション(420−424)を組み込む段階を更に備え、
    上記時間のプレゼンテーション(420−424)は、周期的であり、連続的であり、そして周期的な時間従属振舞いをもつ少なくとも1つのエレメントの周期(L)内で明確であることを特徴とする方法。
  2. 上記学習機構は、自己編成マップであるか又はそれを含む請求項1に記載の方法。
  3. 上記時間のプレゼンテーションは、第1周期と、該第1周期の倍数である少なくとも1つの第2周期とを有する請求項1又は2のいずれかに記載の方法。
  4. 上記入力データコンポーネントを、その各々が同じバリアンス、好ましくは1を有するようにスケーリングする段階を備えた請求項1ないし3のいずれかに記載の方法。
  5. 上記時間のプレゼンテーションは、1ビットが時間従属振舞いの変化に基づいて異なる時間単位に対応するように可変分解能を有する請求項1ないし4のいずれかに記載の方法。
  6. 少なくとも1つが周期的な時間従属振舞いを有する観察可能なエレメント(302)を備えたシステムにおいて異常を検出するための構成体であって、入力データコンポーネント(11,12)より成る入力データを定義するための入力スペースを有するコンピュータ化された学習機構(314)と、上記観察可能なエレメント(302)の振舞いを指示する指示子(304)を組み立てそしてその組み立てられた指示子を、各々の観察可能なエレメントの指示子が同じ入力データコンポーネントに指定されるように配列するための手段と、上記学習機構(314)の入力データが上記組み立てられた指示子(304)に基づく入力データコンポーネントを含むように上記学習機構を教授するための手段と、上記入力スペースにおける入力データを近似するポイント(14)を配置するための手段とを備えた構成体において、
    時間のプレゼンテーション(420−424)を含む少なくとも1つの入力データコンポーネント(11,12)を更に備え、
    上記時間のプレゼンテーション(420−424)は、周期的であり、連続的であり、そして周期的な時間従属振舞いをもつ少なくとも1つのエレメントの周期(L)内で明確であることを特徴とする構成体。
  7. 上記学習機構は、自己編成マップであるか又はそれを含む請求項6に記載の構成体。
  8. 上記時間のプレゼンテーションは、第1周期と、該第1周期の倍数である少なくとも1つの第2周期とを有する請求項6又は7のいずれかに記載の構成体。
  9. 単一ネットワークエレメントで構成された請求項6ないし8のいずれかに記載の構成体。
  10. コンピュータのソフトウェアを実行することによりコンピュータが請求項1の方法段階を実行するようにしたコンピュータのためのソフトウェアを含むコンピュータ読み取り可能な記憶媒体。
JP2002524792A 2000-09-11 2001-09-10 異常検出システム及びそれを教授する方法 Expired - Fee Related JP4436042B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FI20001997A FI114749B (fi) 2000-09-11 2000-09-11 Poikkeamien ilmaisujärjestelmä ja menetelmä sen opettamiseksi
PCT/FI2001/000783 WO2002021242A1 (en) 2000-09-11 2001-09-10 Anomaly detection system and a method of teaching it

Publications (2)

Publication Number Publication Date
JP2004508631A true JP2004508631A (ja) 2004-03-18
JP4436042B2 JP4436042B2 (ja) 2010-03-24

Family

ID=8559059

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002524792A Expired - Fee Related JP4436042B2 (ja) 2000-09-11 2001-09-10 異常検出システム及びそれを教授する方法

Country Status (8)

Country Link
US (2) US7519860B2 (ja)
EP (2) EP1325588A1 (ja)
JP (1) JP4436042B2 (ja)
CN (1) CN1196984C (ja)
AU (2) AU2001269056A1 (ja)
CA (1) CA2421928C (ja)
FI (1) FI114749B (ja)
WO (2) WO2002021774A1 (ja)

Families Citing this family (106)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI114749B (fi) 2000-09-11 2004-12-15 Nokia Corp Poikkeamien ilmaisujärjestelmä ja menetelmä sen opettamiseksi
US6862698B1 (en) 2002-01-22 2005-03-01 Cisco Technology, Inc. Method of labeling alarms to facilitate correlating alarms in a telecommunications network
WO2004063911A1 (en) * 2003-01-16 2004-07-29 Koninklijke Philips Electronics N.V. Preventing distribution of modified or corrupted files
US7016806B2 (en) * 2003-03-31 2006-03-21 Lucent Technologies Inc. Method and apparatus for event monitoring in an information processing system
US9143393B1 (en) 2004-05-25 2015-09-22 Red Lambda, Inc. System, method and apparatus for classifying digital data
US7631222B2 (en) * 2004-08-23 2009-12-08 Cisco Technology, Inc. Method and apparatus for correlating events in a network
US20070028220A1 (en) * 2004-10-15 2007-02-01 Xerox Corporation Fault detection and root cause identification in complex systems
WO2006056223A1 (en) * 2004-11-26 2006-06-01 Telecom Italia S.P.A. Instrusion detection method and system, related network and computer program product therefor
CN100440796C (zh) * 2004-12-04 2008-12-03 华为技术有限公司 一种获取网络关键性能指标的方法及关键性能指标组件
US7954090B1 (en) 2004-12-21 2011-05-31 Zenprise, Inc. Systems and methods for detecting behavioral features of software application deployments for automated deployment management
US7937197B2 (en) * 2005-01-07 2011-05-03 GM Global Technology Operations LLC Apparatus and methods for evaluating a dynamic system
US9129226B2 (en) * 2011-12-04 2015-09-08 Beyondcore, Inc. Analyzing data sets with the help of inexpert humans to find patterns
US10127130B2 (en) 2005-03-18 2018-11-13 Salesforce.Com Identifying contributors that explain differences between a data set and a subset of the data set
GB0513294D0 (en) * 2005-06-29 2005-08-03 Nokia Corp Quality assessment for telecommunications network
JP4626852B2 (ja) * 2005-07-11 2011-02-09 日本電気株式会社 通信網の障害検出システム、通信網の障害検出方法及び障害検出プログラム
JP2008134705A (ja) * 2006-11-27 2008-06-12 Hitachi Ltd データ処理方法及びデータ分析装置
US20080229153A1 (en) * 2007-03-13 2008-09-18 At&T Knowledge Ventures, Lp System and method of network error analysis
EP2003604B1 (en) * 2007-05-23 2018-10-24 Deutsche Telekom AG Self-organizing map with virtual map units
US20090030752A1 (en) * 2007-07-27 2009-01-29 General Electric Company Fleet anomaly detection method
US8151292B2 (en) 2007-10-02 2012-04-03 Emsense Corporation System for remote access to media, and reaction and survey data from viewers of the media
US7941382B2 (en) * 2007-10-12 2011-05-10 Microsoft Corporation Method of classifying and active learning that ranks entries based on multiple scores, presents entries to human analysts, and detects and/or prevents malicious behavior
SG152081A1 (en) * 2007-10-18 2009-05-29 Yokogawa Electric Corp Metric based performance monitoring method and system
CN101917898A (zh) 2007-10-31 2010-12-15 埃姆申塞公司 对来自观众的生理响应提供分散式收集和集中式处理的系统和方法
US8793363B2 (en) * 2008-01-15 2014-07-29 At&T Mobility Ii Llc Systems and methods for real-time service assurance
JP4984162B2 (ja) * 2008-01-17 2012-07-25 日本電気株式会社 監視制御方法および監視制御装置
US8472328B2 (en) * 2008-07-31 2013-06-25 Riverbed Technology, Inc. Impact scoring and reducing false positives
US8325749B2 (en) 2008-12-24 2012-12-04 Juniper Networks, Inc. Methods and apparatus for transmission of groups of cells via a switch fabric
US8213308B2 (en) * 2008-09-11 2012-07-03 Juniper Networks, Inc. Methods and apparatus for defining a flow control signal related to a transmit queue
US8218442B2 (en) 2008-09-11 2012-07-10 Juniper Networks, Inc. Methods and apparatus for flow-controllable multi-staged queues
US8254255B2 (en) * 2008-12-29 2012-08-28 Juniper Networks, Inc. Flow-control in a switch fabric
US20100169169A1 (en) * 2008-12-31 2010-07-01 International Business Machines Corporation System and method for using transaction statistics to facilitate checkout variance investigation
US8023513B2 (en) * 2009-02-24 2011-09-20 Fujitsu Limited System and method for reducing overhead in a wireless network
US7962797B2 (en) * 2009-03-20 2011-06-14 Microsoft Corporation Automated health model generation and refinement
US8522085B2 (en) * 2010-01-27 2013-08-27 Tt Government Solutions, Inc. Learning program behavior for anomaly detection
US8468161B2 (en) * 2009-07-14 2013-06-18 Hewlett-Packard Development Company, L.P. Determining a seasonal effect in temporal data
US8516471B2 (en) * 2009-10-06 2013-08-20 International Business Machines Corporation Detecting impact of operating system upgrades
US20110090820A1 (en) 2009-10-16 2011-04-21 Osama Hussein Self-optimizing wireless network
US9264321B2 (en) * 2009-12-23 2016-02-16 Juniper Networks, Inc. Methods and apparatus for tracking data flow based on flow state values
WO2011119137A1 (en) 2010-03-22 2011-09-29 Lrdc Systems, Llc A method of identifying and protecting the integrity of a set of source data
US8805839B2 (en) 2010-04-07 2014-08-12 Microsoft Corporation Analysis of computer network activity by successively removing accepted types of access events
US9602439B2 (en) 2010-04-30 2017-03-21 Juniper Networks, Inc. Methods and apparatus for flow control associated with a switch fabric
US9065773B2 (en) 2010-06-22 2015-06-23 Juniper Networks, Inc. Methods and apparatus for virtual channel flow control associated with a switch fabric
US8584241B1 (en) * 2010-08-11 2013-11-12 Lockheed Martin Corporation Computer forensic system
US8553710B1 (en) 2010-08-18 2013-10-08 Juniper Networks, Inc. Fibre channel credit-based link flow control overlay onto fibre channel over ethernet
US8719930B2 (en) * 2010-10-12 2014-05-06 Sonus Networks, Inc. Real-time network attack detection and mitigation infrastructure
US8595556B2 (en) 2010-10-14 2013-11-26 International Business Machines Corporation Soft failure detection
US8683591B2 (en) * 2010-11-18 2014-03-25 Nant Holdings Ip, Llc Vector-based anomaly detection
US9660940B2 (en) 2010-12-01 2017-05-23 Juniper Networks, Inc. Methods and apparatus for flow control associated with a switch fabric
US9032089B2 (en) 2011-03-09 2015-05-12 Juniper Networks, Inc. Methods and apparatus for path selection within a network based on flow duration
US8806645B2 (en) * 2011-04-01 2014-08-12 Mcafee, Inc. Identifying relationships between security metrics
US8509762B2 (en) 2011-05-20 2013-08-13 ReVerb Networks, Inc. Methods and apparatus for underperforming cell detection and recovery in a wireless network
EP2734928A4 (en) * 2011-07-22 2015-06-24 Empirix Inc NETWORK MONITORING SYSTEMS AND METHODS AND TESTING THROUGH DIMENSION VALUES BASED PERFORMANCE INDICATORS
EP2754271B1 (en) 2011-09-09 2019-11-13 Reverb Networks Inc. Methods and apparatus for implementing a self optimizing-organizing network manager
US8811183B1 (en) 2011-10-04 2014-08-19 Juniper Networks, Inc. Methods and apparatus for multi-path flow control within a multi-stage switch fabric
US9258719B2 (en) 2011-11-08 2016-02-09 Viavi Solutions Inc. Methods and apparatus for partitioning wireless network cells into time-based clusters
US10802687B2 (en) 2011-12-04 2020-10-13 Salesforce.Com, Inc. Displaying differences between different data sets of a process
US10796232B2 (en) 2011-12-04 2020-10-06 Salesforce.Com, Inc. Explaining differences between predicted outcomes and actual outcomes of a process
US9008722B2 (en) 2012-02-17 2015-04-14 ReVerb Networks, Inc. Methods and apparatus for coordination in multi-mode networks
US9953281B2 (en) * 2012-09-28 2018-04-24 Rex Wiig System and method of a requirement, compliance and resource management
US10268974B2 (en) * 2012-09-28 2019-04-23 Rex Wiig System and method of a requirement, compliance and resource management
US9246747B2 (en) * 2012-11-15 2016-01-26 Hong Kong Applied Science and Technology Research Co., Ltd. Adaptive unified performance management (AUPM) with root cause and/or severity analysis for broadband wireless access networks
US10135698B2 (en) * 2013-05-14 2018-11-20 Telefonaktiebolaget Lm Ericsson (Publ) Resource budget determination for communications network
US9218570B2 (en) 2013-05-29 2015-12-22 International Business Machines Corporation Determining an anomalous state of a system at a future point in time
WO2014205421A1 (en) * 2013-06-21 2014-12-24 Arizona Board Of Regents For The University Of Arizona Automated detection of insider threats
US9414244B2 (en) * 2013-07-22 2016-08-09 Motorola Solutions, Inc. Apparatus and method for determining context-aware and adaptive thresholds in a communications system
GB2517147A (en) 2013-08-12 2015-02-18 Ibm Performance metrics of a computer system
US9727821B2 (en) 2013-08-16 2017-08-08 International Business Machines Corporation Sequential anomaly detection
JP6002849B2 (ja) * 2013-08-21 2016-10-05 株式会社日立製作所 監視装置、監視方法、および記録媒体
TWI510109B (zh) * 2013-09-25 2015-11-21 Chunghwa Telecom Co Ltd 遞迴式異常網路流量偵測方法
US10069691B2 (en) * 2013-11-26 2018-09-04 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for anomaly detection in a network
US10122747B2 (en) * 2013-12-06 2018-11-06 Lookout, Inc. Response generation after distributed monitoring and evaluation of multiple devices
FR3015757B1 (fr) * 2013-12-23 2019-05-31 Electricite De France Procede d'estimation quantitative du colmatage des plaques d'un generateur de vapeur
CN103869053B (zh) * 2014-03-24 2015-07-15 焦振志 区域地球化学调查样品分析异常点抽检方法
EP3221793B1 (en) * 2014-11-18 2018-10-17 Vectra Networks, Inc. Method and system for detecting threats using passive cluster mapping
WO2016093836A1 (en) 2014-12-11 2016-06-16 Hewlett Packard Enterprise Development Lp Interactive detection of system anomalies
US10320824B2 (en) * 2015-01-22 2019-06-11 Cisco Technology, Inc. Anomaly detection using network traffic data
US9113353B1 (en) 2015-02-27 2015-08-18 ReVerb Networks, Inc. Methods and apparatus for improving coverage and capacity in a wireless network
US11025478B2 (en) 2015-05-27 2021-06-01 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for analysing performance of a network by managing network data relating to operation of the network
US20170034720A1 (en) * 2015-07-28 2017-02-02 Futurewei Technologies, Inc. Predicting Network Performance
US10803074B2 (en) 2015-08-10 2020-10-13 Hewlett Packard Entperprise Development LP Evaluating system behaviour
US10861031B2 (en) 2015-11-25 2020-12-08 The Nielsen Company (Us), Llc Methods and apparatus to facilitate dynamic classification for market research
US20170167890A1 (en) * 2015-12-09 2017-06-15 Watersmart Software, Inc. System and method for providing a platform for detecting pattern based irrigation
WO2017108106A1 (en) 2015-12-22 2017-06-29 Telefonaktiebolaget Lm Ericsson (Publ) Method and network node for identifiying specific area of wireless communication system
US10609587B2 (en) 2016-05-01 2020-03-31 Teoco Corporation System, method, and computer program product for location-based detection of indicator anomalies
US9942085B2 (en) * 2016-07-13 2018-04-10 Incelligent P.C. Early warning and recommendation system for the proactive management of wireless broadband networks
US10694487B2 (en) * 2016-09-15 2020-06-23 Cisco Technology, Inc. Distributed network black box using crowd-based cooperation and attestation
EP3568774A1 (en) * 2017-01-12 2019-11-20 Telefonaktiebolaget LM Ericsson (PUBL) Anomaly detection of media event sequences
US10419269B2 (en) 2017-02-21 2019-09-17 Entit Software Llc Anomaly detection
US11055631B2 (en) * 2017-03-27 2021-07-06 Nec Corporation Automated meta parameter search for invariant based anomaly detectors in log analytics
US11271960B2 (en) * 2017-12-06 2022-03-08 Ribbon Communications Operating Company, Inc. Communications methods and apparatus for dynamic detection and/or mitigation of anomalies
US10931696B2 (en) 2018-07-13 2021-02-23 Ribbon Communications Operating Company, Inc. Communications methods and apparatus for dynamic detection and/or mitigation of threats and/or anomalies
US10548032B2 (en) * 2018-01-26 2020-01-28 Verizon Patent And Licensing Inc. Network anomaly detection and network performance status determination
US10685652B1 (en) * 2018-03-22 2020-06-16 Amazon Technologies, Inc. Determining device groups
US11188865B2 (en) * 2018-07-13 2021-11-30 Dimensional Insight Incorporated Assisted analytics
US11012421B2 (en) 2018-08-28 2021-05-18 Box, Inc. Predicting user-file interactions
US11921612B2 (en) * 2018-08-29 2024-03-05 Oracle International Corporation Identification of computer performance anomalies based on computer key performance indicators
US11228506B2 (en) 2018-09-06 2022-01-18 Hewlett Packard Enterprise Development Lp Systems and methods for detecting anomalies in performance indicators of network devices
US10834106B2 (en) 2018-10-03 2020-11-10 At&T Intellectual Property I, L.P. Network security event detection via normalized distance based clustering
KR102424694B1 (ko) * 2018-12-26 2022-07-25 삼성전자주식회사 무선 통신 시스템에서 네트워크 장치의 성능을 모니터링 하기 위한 장치 및 방법
CN111949496B (zh) * 2019-05-15 2022-06-07 华为技术有限公司 一种数据检测方法及装置
US11799890B2 (en) * 2019-10-01 2023-10-24 Box, Inc. Detecting anomalous downloads
US11216666B2 (en) 2019-12-11 2022-01-04 Fujifilm Business Innovation Corp. Understanding normality of an environment using semantic information from images
WO2022019728A1 (en) * 2020-07-24 2022-01-27 Samsung Electronics Co., Ltd. Method and system for dynamic threshold detection for key performance indicators in communication networks
US11499892B2 (en) * 2020-11-30 2022-11-15 Kcf Technologies, Inc. Optimization for anomaly detection
US20220214948A1 (en) * 2021-01-06 2022-07-07 Kyndryl, Inc. Unsupervised log data anomaly detection
US11558238B1 (en) 2022-01-08 2023-01-17 Bank Of America Corporation Electronic system for dynamic latency reduction through edge computation based on a multi-layered mechanism

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI910512A (fi) * 1991-02-01 1992-08-02 Esko Antero Hirvonen Kontrollsystem.
US5317725A (en) * 1991-03-12 1994-05-31 Hewlett-Packard Company Landmark data abstraction paradigm to diagnose data communication networks
US5819226A (en) * 1992-09-08 1998-10-06 Hnc Software Inc. Fraud detection using predictive modeling
US5365514A (en) * 1993-03-01 1994-11-15 International Business Machines Corporation Event driven interface for a system for monitoring and controlling a data communications network
US5446874A (en) * 1993-12-23 1995-08-29 International Business Machines Corp. Automated benchmarking with self customization
US6006016A (en) * 1994-11-10 1999-12-21 Bay Networks, Inc. Network fault correlation
EP0807348B1 (en) * 1995-02-02 2000-03-22 Cabletron Systems, Inc. Method and apparatus for learning network behavior trends and predicting future behavior of communications networks
GB2303275B (en) * 1995-07-13 1997-06-25 Northern Telecom Ltd Detecting mobile telephone misuse
EP0849910A3 (en) 1996-12-18 1999-02-10 Nortel Networks Corporation Communications network monitoring
GB2321362A (en) * 1997-01-21 1998-07-22 Northern Telecom Ltd Generic processing capability
US6105149A (en) * 1998-03-30 2000-08-15 General Electric Company System and method for diagnosing and validating a machine using waveform data
US6609217B1 (en) * 1998-03-30 2003-08-19 General Electric Company System and method for diagnosing and validating a machine over a network using waveform data
US6442542B1 (en) * 1999-10-08 2002-08-27 General Electric Company Diagnostic system with learning capabilities
US6609036B1 (en) * 2000-06-09 2003-08-19 Randall L. Bickford Surveillance system and method having parameter estimation and operating mode partitioning
FI114749B (fi) * 2000-09-11 2004-12-15 Nokia Corp Poikkeamien ilmaisujärjestelmä ja menetelmä sen opettamiseksi

Also Published As

Publication number Publication date
AU2001269056A1 (en) 2002-03-22
EP1334417A1 (en) 2003-08-13
US7613668B2 (en) 2009-11-03
WO2002021774A1 (en) 2002-03-14
WO2002021242A1 (en) 2002-03-14
US20030225520A1 (en) 2003-12-04
FI20001997A (fi) 2002-03-12
JP4436042B2 (ja) 2010-03-24
FI114749B (fi) 2004-12-15
US20040039968A1 (en) 2004-02-26
CA2421928A1 (en) 2002-03-14
EP1325588A1 (en) 2003-07-09
US7519860B2 (en) 2009-04-14
AU2001287759A1 (en) 2002-03-22
CN1455890A (zh) 2003-11-12
CA2421928C (en) 2011-11-15
CN1196984C (zh) 2005-04-13
FI20001997A0 (fi) 2000-09-11

Similar Documents

Publication Publication Date Title
JP4436042B2 (ja) 異常検出システム及びそれを教授する方法
US10585774B2 (en) Detection of misbehaving components for large scale distributed systems
EP3139313B1 (en) Anomaly detection system and method
WO2020049087A1 (en) Computer-implemented method, computer program product and system for anomaly detection and/or predictive maintenance
CN110245047B (zh) 时间序列异常检测方法、装置及设备
US20140108314A1 (en) Integrated approach to model time series dynamics in complex physical systems
US20020128731A1 (en) Global state change indicator for empirical modeling in condition based monitoring
EP1360557A2 (en) Adaptive modeling of changed states in predictive condition monitoring
US10268836B2 (en) System and method for detecting sensitivity content in time-series data
Xu et al. Bearing performance degradation assessment based on ensemble empirical mode decomposition and affinity propagation clustering
ES2963926T3 (es) Método para monitorización del estado de subsistemas dentro de una planta de generación renovable o microrred
US20020010517A1 (en) System of case-based reasoning for sensor prediction in a technical process, especially in a cement kiln, method and apparatus therefore
CN112215439B (zh) 一种基于gis的地质灾害应急指挥数据处理方法及系统
CN109461067A (zh) 一种外汇报价异常数据的检测方法、装置及系统
Li et al. Mining periodicity from dynamic and incomplete spatiotemporal data
EP4174601A1 (en) System, apparatus and method for monitoring condition of an asset in technical installation
Gargees et al. Early illness recognition in older adults using transfer learning
CN116979690A (zh) 一种基于物联网的电网远程智能监测系统及方法
US20220222580A1 (en) Deterioration detection method, non-transitory computer-readable storage medium, and information processing device
Wang et al. Identifying execution anomalies for data intensive workflows using lightweight ML techniques
WO2020183781A1 (ja) 異常診断装置
Goenawan et al. Dynamics signature based anomaly detection
Gross et al. AI decision support prognostics for IOT asset health monitoring, failure prediction, time to failure
CN116381419B (zh) 输电线路故障处理方法、装置、计算机设备和存储介质
JP7347547B2 (ja) イベント分析支援装置、イベント分析支援方法、及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060602

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061003

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090519

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090525

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090526

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090824

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20090914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20090914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091225

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees