JP3614863B2 - 類別モデル生成方法及び記録媒体 - Google Patents

類別モデル生成方法及び記録媒体 Download PDF

Info

Publication number
JP3614863B2
JP3614863B2 JP51740298A JP51740298A JP3614863B2 JP 3614863 B2 JP3614863 B2 JP 3614863B2 JP 51740298 A JP51740298 A JP 51740298A JP 51740298 A JP51740298 A JP 51740298A JP 3614863 B2 JP3614863 B2 JP 3614863B2
Authority
JP
Japan
Prior art keywords
learning
area
divided
class
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP51740298A
Other languages
English (en)
Inventor
宏明 筒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Azbil Corp
Original Assignee
Azbil Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Azbil Corp filed Critical Azbil Corp
Application granted granted Critical
Publication of JP3614863B2 publication Critical patent/JP3614863B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • G06F18/24143Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

技術分野
本発明は、音声や画像などのパターンの認識又は状況の類別を行うコンピュータシステムで使用される、パターン認識又は状況類別のための類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体に関するものである。
背景技術
プロセス制御等の分野で使用されるシステムにおいては、異常な状況か否か、あるいは所定の動作を行うべき状況であるか否か等を判別するために、状況の類別が要求される。このような異常判定や動作決定のための状況類別は、状況の類別に用いられる特徴量(以下、変量と呼ぶ)によって定義される特徴空間において、異常/正常、あるいは動作A/動作Bといったクラス分けをすることで状況を類別する問題ととらえることができる。
従来、状況の類別を実現する方法として、判別分析法が知られている。判別分析法は、数種類の変量によって特徴付けられるクラスが存在するとき、各クラスに属するデータにより、類別すべき状況がどのクラスに属するかを判別する方法であり、通常、統計的手法に基づいた方法である。
例えば、ある目標を達成したクラスをA、目標を達成しなかったクラスをBとし、変量x1,x2,・・・,xn(例えば、顧客訪問回数、電話使用料金、熱意を数量化した数値等)によって特徴付けられる複数のデータがクラスごとに得られているとする。判別分析法では、クラスA,Bの相違が明らかになるように各変量に重みを与えた判別関数Yを考える。
Y=a1x1+a2x2+・・・・+anxn ・・・(1)
a1,a2,・・・・,anは各変量の重みである。なお、式(1)では、判別関数の1例として、判別関数Yが線形の場合(各クラスの分散共分散行列が等しい場合)を記述している。図21では、変量x1,x2によって定義される2次元の特徴空間内に、データDaの集まりであるクラスAの空間、データDbの集まりであるクラスBの空間が存在し、判別関数Yを定めた様子を示している。これにより、Y≧0となる状況が発生すれば、この状況はクラスAに属すると判定でき、Y<0となる状況が発生すれば、この状況はクラスBに属すると判定できる。
また、状況の類別を実現する他の方法として、対象を特徴付ける型、様式や模様などに基づいて対象を認識するパターン認識法が知られている。このパターン認識法としては、ニューラルネットワークを用いた方法が提案されている(Gail A.Carpenter and Stephen Grossberg,“PATTERN RECOGNITION BY SELF−ORGANIZING NEURAL NETWORKS",A Bradford Book,1991)。また、他のパターン認識法として、RCE(Restricted Coulomb Energy)ネットワークを利用した方法が提案されている(D.L.Reilly,L.N.Cooper and C.Elbaum,“Self Organizing Pattern Class Separator and Identifier",U.S.Patent No.4,326,259.Awarded Apr.20,1982)。
ニューラルネットワークは、生物の脳で行われているようなニューロンによる並列情報処理メカニズムを工学的に実現しようとするものである。ニューラルネットワークを状況の類別に使用する場合には、いくつかの代表的な状況が有する変量と、これらの変量に応じてニューラルネットワークが出力すべき判別結果とをニューラルネットワークに与え、所望の判別結果が得られるようにニューラルネットワークを学習させる必要がある。ニューラルネットワークを学習させる方法としては、通常、バックプロパゲーション(Back Propargation)法が用いられる。
RCEネットワークは、線形分離不可能な多次元の空間を占めるクラスを複数の基本図形(例えば、多次元の超球)で近似することにより、特徴空間をクラス分けするものである。図22に示した例では、線形分離不可能なクラスA,Bの空間を基本図形Ca,Cbでそれぞれ近似して、変量x1,X2で定義される2次元の特徴空間をクラス分けしている。
発明の開示
[発明が解決しようとする課題]
しかしながら、判別分析法では、各クラスの空間を線形分離することが不可能な場合、高次多項式によって判別関数を近似しなくてはならず、変量の種類が多く、各クラスの空間が複雑な場合、判別関数の導出が困難であるという問題点があった。
また、ニューラルネットワークを利用した方法では、ニューラルネットワークの学習速度が遅いという問題点があり(通常、100〜1000回程度の学習が必要とされ、場合によっては1週間程度の時間がかかる)、また類別に最適なネットワーク構成の決定が難しいという問題点があった。さらに、類別処理、すなわち状況を特徴付ける変量に基づいて状況を類別する処理に時間がかかるため、処理速度を上げようとすると、高価な半導体チップが必要になるという問題点があった。
そして、RCEネットワークを利用した方法では、クラスA,Bに属するデータDa,Dbを中心として他のクラスに干渉しない大きさの基本図形Ca,Cbを生成する。しかし、基本図形の中心となるデータDa,DbがクラスA,Bの空間を良好に近似できる位置に存在しているとは限らないため、本来はクラスに入れるべきでない状況をもクラスに属すと判定してしまうことがあり、誤認識の可能性があるという問題点があった。例えば、図22の例では、基本図形CbがクラスBの空間を良好に近似しているのに対し、基本図形CaはクラスAの空間からはみ出している。したがって、クラスAに入れるべきでない状況をクラスAに属すと判定してしまうことが有り得る。また、RCEネットワークを利用した方法では、各クラスのデータ群から掛け離れたデータが少数存在する場合、そのデータの影響を受けてしまうという問題点があった。
本発明は、上記課題を解決するためになされたもので、学習の速度及び類別処理の速度が速く、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を良好に近似することができる類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体を提供することを目的とする。
[課題を解決するための手段]
本発明の類別モデル生成方法は、請求項1に記載のように、CPUとメモリとを備えたコンピュータにおいて、n種類の変量で定義されるn次元の特徴空間内において1つのクラスに属し、その位置が上記変量で特定されるn次元データが入力されたとき、各変量のm分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が1個となる分割領域が生成される度合いが分割数mに対し確率分布に従うとみなして、統計的有意水準に基づき分割数mを決定する処理と、n次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とを、前記メモリに記憶されたプログラムに従って前記CPUに実行させることにより、類別モデルを生成するようにしたものである。
このように、本発明では、分割数mを統計的有意水準(データ密度)に基づいて決定して特徴空間を分割し、生成された分割領域をn次元データを内包するか否かでクラス分けすることにより、類別モデルを生成する。これにより、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を適切に近似した類別モデルを生成することができる。また、学習領域群を膨張させる処理と学習領域群を収縮させる処理を行うことにより、本来、クラスに属すべき分割領域を学習領域群に加えることができる。
また、本発明の類別モデル生成方法は、請求項2に記載のように、内包するデータの数が1個となる分割領域が少なくとも1個生成される分割数mについての平均と分散から、上記統計的有意水準に基づく分割数mを決定するようにしたものである。
また、請求項3に記載のように、上記学習領域群を膨張させる処理を行う前に、隣接する領域の中に学習領域が1つもない学習領域を学習領域群から除外する処理を行うようにしたものである。
このように、隣接する領域の中に学習領域が1つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができる。
また、請求項4に記載のように、上記学習領域群を膨張させる処理は、任意の分割領域に着目して、この着目領域に隣接する分割領域の中に学習領域が1個でも存在する場合、着目領域を学習領域とする処理であり、上記学習領域群を収縮させる処理は、任意の学習領域に着目して、この着目領域に隣接する分割領域の中に学習されていない領域が1個でも存在する場合、着目領域を学習領域群から除外する処理である。
また、請求項5に記載のように、上記クラスが複数存在するときは、クラスごとに上記統計的有意水準に基づいて分割数を求めた後に、クラスごとに求めた分割数から全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うようにしたものである。これにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
また、請求項6に記載のように、あるクラスに属すると認識された総数のNの学習領域の中に、他のクラスにも属すると認識された学習領域がe個あるとき、e/Nをクラス間の分離性を示す誤識別率とするようにしたものである。
また、本発明の記録媒体は、請求項7に記載のように、n種類の変量で定義されるn次元の特徴空間内において1つのクラスに属し、その位置が上記変量で特定されるn次元データが入力されたとき、各変量のm分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が1個となる分割領域が生成される度合いが分割数mに対し確率分布に従うとみなして、統計的有意水準に基づき分割数mを決定する処理と、n次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とをコンピュータに実行させるためのプログラムを記録したものである。
[効果]
(1)本発明によれば、請求項1に記載のように、分割数mを統計的有意水準に基づいて決定して特徴空間を分割し、入力された個々のn次元データと分割領域との対応付けを行うことにより、各クラスの空間を線形分離することが不可能な場合でも、各クラスの空間を非線形的に分離可能な類別モデルを生成することができる。その結果、各クラスの空間を正確に近似でき、誤類別率の低い類別処理を行うことができる。また、統計的有意水準に基づいて分割数mを決定することにより、統計的に有意な大きさの分割領域を生成するので、データの偏りの影響を受け難くすることができる。また、必要以上の分割領域を生成しないので、従来のパターン認識法よりもコンピュータのメモリの使用量を少なくすることができ、類別モデルを生成する学習速度、及び類別処理の速度を速くすることができる。さらに、システムの利用者が、類別すべき状況と対応するデータの周囲の学習状態を参照して、類別モデル生成時のデータが不十分であると判断した場合には、類別処理を見合わせることができるので、誤って別のクラスに類別してしまう可能性を低くすることができる。
(2)また、請求項3に記載のように、隣接する領域の中に学習領域が1つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができ、ノイズの影響を低減することができる。
(3)また、請求項5に記載のように、クラスごとに統計的有意水準に基づいて分割数を求めた後に、全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うことにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
(4)また、請求項6に記載のように、あるクラスに属すると認識された総数のNの学習領域の中に他のクラスにも属すると認識された学習領域がe個あるとき、e/Nを誤識別率とすることにより、この誤識別率を用いて特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成した類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
(5)また、請求項7に記載のように、プログラムを記録媒体に記録することにより、分割数mを決定する処理、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理、及び学習領域群を収縮させる処理をコンピュータに実行させることができる。
【図面の簡単な説明】
図1は、本発明の第1実施例となる類別モデル生成方法を説明するためのフローチャート図である。
図2は、分割数mに対する比率F(m)の特性を示す図である。
図3は、本発明の第1実施例において、2次元の特徴空間内に分布するデータの1例を示す図である。
図4は、図3の特徴空間において、2つの変量をそれぞれ16分割した結果を示す図である。
図5は、分割によって生成された領域のうちクラスに属すると判定された学習領域を示す図である。
図6は、クラスに属すると判定された学習領域のうち孤立領域を示す図である。
図7は、隣接領域の定義を示す図である。
図8は、図6の特徴空間に対して膨張処理を行った結果を示す図である。
図9は、図8の特徴空間に対して収縮処理を行った結果を示す図である。
図10は、本発明の第1実施例において、収縮処理を行った後の最終的な類別モデルを示す図である。
図11は、図10の類別モデルにおいて、類別モデル生成時のデータが不十分と考えられる領域を示す図である。
図12は、本発明の第2実施例において、空調システムの1つであるVAVシステムにおいて給気温度にハンチングが生じている様子を示す図である。
図13は、本発明の第2実施例において、2次元の特徴空間内に分布するデータの1例と、このデータに基づいて生成された類別モデルとを示す図である。
図14は、本発明の第3実施例における反応物生成プラントの構成を示す図である。
図15は、図14のプラントによって生成された反応物の品質を示す図である。
図16は、本発明の第3実施例において生成された類別モデルを示す図である。
図17は、本発明の第4実施例において生成された類別モデルを示す図である。
図18は、本発明の第4実施例において、現在の状況を内包する分割領域と学習領域との領域間距離を示す図である。
図19は、本発明の第5実施例において、一般的なオペレータをモデル化したオペレーションモデルの操作出力と熟練オペレータの操作出力を示す図である。
図20は、本発明の第5実施例において生成された類別モデルを示す図である。
図21は、判別分析法を用いた従来の状況類別方法を説明するための図である。
図22は、RCEネットワークを用いた従来の状況類別方法を説明するための図である。
発明を実施するための最良の形態
[第1実施例]
次に、本発明の実施例について図面を参照して詳細に説明する。図1は、本発明の第1実施例となる類別モデル生成方法を説明するためのフローチャート図である。
本発明の類別モデル生成方法を利用するコンピュータシステムは、コンピュータ、ディスプレイ装置、キーボード、外部記憶装置などを備えた周知の構成のものでよい。また、コンピュータ本体も、CPU、ROM、RAM、ディスプレイ装置やキーボードあるいは外部記憶装置とのインタフェースをとるための回路などを備えた周知の構成のものでよい。CPUは、ROM若しくはRAMに記憶されたプログラム、又はキーボードから入力されたコマンドに従って処理を実行する。また、CPUは、外部記憶装置にデータを書き込んだり、外部記憶装置からデータを読み出したりすることができる。
このようなコンピュータシステムにおいて、本発明の類別モデル生成方法を実現させるためのプログラムは、フレキシブルディスク、CD−ROM、メモリカード等の記録媒体に記録された状態で提供される。この記録媒体を外部記憶装置に挿入すると、媒体に記録されたプログラムが読み取られ、コンピュータに転送される。そして、CPUは、読み込んだプログラムをRAM等に書き込む。こうして、CPUは、以下で説明するような処理を実行する。
次に、本発明の類別モデル生成方法の基本概念について説明する。
状況を類別するために選定された変量がn種類あるとすれば、特徴空間は、このn種類の変量によって定義されるn次元の空間である。そして、本発明では、状況の類別に好適又はクラス間の分離性が良好であると考えられるn種類の変量を選定して、各変量の最小値と最大値との間のレンジを変量ごとに正規化し、各変量をある数mで区切ることにより、特徴空間を有限個の領域に分割する。なお、クラス間の分離性については後述する。
今、データの総数がMとなるIクラスが存在するとき、このクラスを特徴付けるのに好適な変量を選定して、クラス領域を包含する特徴空間を定義する。これにより、上記クラスに属するデータは、特徴空間内に分布し、変量によって位置が特定される点となる。各変量をそれぞれm分割すれば、特徴空間は、mn個の領域に分割され、生成された各領域は、データを内包するか否かでクラス分けされる。これが、類別モデルの基本的な作成方法である。
次に、適切な類別モデルを作成することができる分割数mの決定方法について説明する。まず、m分割によって生成される分割領域のうち、内包するデータの数が1個となる分割領域の数をpとしたときの比率F(m)=p/Mを考える。この比率F(m)は、内包するデータの数が1個となる分割領域の確からしさととらえることができ、分割数mに対して図2のような特性を示す。つまり、比率F(m)は非減少関数であり、次式のような性質を有する。
Figure 0003614863
図2及び式(2)において、m*は、分割数mを増加していったときにF(m)=1となった最初の分割数mである。分割数mは整数値であり、離散的な値しか取り得ない。しかし、例えば2分割したときの長さ(変量のフルレンジ/2)と3分割したときの長さ(変量のフルレンジ/3)の中間値を2.5分割というような有理分割に拡張して考えれば、F(m)は連続である。
よって、比率F(m)は、右連続関数であり、確率分布関数の1つと考えられる。本発明では、連続関数F(m)を整数mでサンプリングしていると考えればよい。
続いて、データ密度1について考える。ここで扱うデータ密度1は、あるデータに着目したとき、この着目データと最も近いデータとの距離である。また、ここでの距離は、ユークリッド距離である。特徴空間の次元をn、第1のデータを表す変量の値をx1,x2,・・・・,xn、第2のデータを表す変量の値をx1',x2',・・・・,xn'とすると、第1のデータと第2のデータのユークリッド距離は、((x1−x1')+(x2−x2')+・・・・+(xn−xn')1/2となる。
このようなデータ密度lの度数分布は正規分布とみなせる。また、分割数mを増やしていったとき、内包するデータの数が1個となる分割領域が生成される度合いが最も高くなるのは、データ密度lの度数が最も高いときと考えられる。そして、上記度合いは、データ密度lが極めて小さいときやデータ密度lが極めて大きいときには低くなると考えられる。
したがって、内包するデータの数が1個となる分割領域が生成される度合いは、分割数mに対して正規分布に従うと考えられる。
なお、データ密度を考えるときの距離をユークリッド距離ではなく、m分割によって得られる分割領域の縦・横の長さに相当するような距離で考えれば、正規分布に従うことは明白である。ここでの距離は、例えばmax(|x1−X1'|,|x2−x2'|,・・・・,|xn−xn'|)となる。maxは()内の値のうちの最大値を取り出すことを意味する。
以上の説明により、正規分布に基づく有意な分割数mを決めることが可能と考えられる。ただし、内包するデータの数が1個となる分割領域が少なくとも1個生成される分割数mについて、その平均μ及び分散σを求めるには、クラスに属するデータの総数Mが200個以上であることが必要となる。その理由は、M≧200のとき、平均μ及び分散σが真の値とみなせるからである。
内包するデータの数が1個となる分割領域が少なくとも1個生成される分割数mについて、その平均μ及び分散σを計算するには、次式を用いればよい。
Figure 0003614863
Figure 0003614863
上述の有意な分割数mの「有意」とは、統計の分野で用いられる言葉である。つまり、ある統計的有意水準を定めて分割数mを決定することにより、この分割数mは、内包するデータの数が1個となる分割領域が生成される度合いが高く、かつ分割領域間の距離ができるだけ短いという条件を満たし、適切な類別モデルを実現する値となる。なお、分割数mのときの比率F(m)から分割数がm−1のときの比率F(m−1)を引いた、F(m)−F(m−1)が、m分割の際にデータの数が1個となる分割領域が生成される度合いに相当する。
そして、本実施例では、μ+3σを統計的有意水準とし、これに最も近い整数値を有意な分割数mとする。なお、統計的有意水準は、μ+3σに限るものではないことは言うまでもない。
こうして、分割数mを決定することができる。ただし、以上の説明はクラスが1つの場合であって、クラスがi個(i=1,・・・,k;k≧2)存在する場合は、上述の方法によってクラスごとに分割数miを求め、これらに基づいて全クラスに共通な最終的な分割数mを次式のように求める。
Figure 0003614863
式(5)において、μiは式(3)により求めたクラスiにおける平均、σiは式(4)により求めたクラスiにおける分散、mi(μi+3σi)はμi+3σiにより求めたクラスiにおける分割数である。また、maxは、mi(μi+3σi)のうちの最大値を取り出すことを意味する。なお、全クラスに共通な分割数mを求めずに、クラス別の分割数miで後述する処理をクラスごとに行ってもよい。
次に、以上の基本概念に基づく実際の処理について説明する。
まず、コンピュータシステムの利用者は、複数種の変量によって特徴付けられる多次元データを収集し(図1ステップ101)、複数種の変量から状況の類別に好適又はクラス間の分離性が良好であると考えられるn種類の変量を選定する(ステップ102)。そして、利用者は、収集したデータをn種類の変量によって特徴付けられる多次元データ(つまり、n種類の変量によって特徴空間上の位置が特定されるデータ)としてコンピュータに入力する(ステップ103)。
例えば、2つの変量x1,x2によって特徴付けられる1つのクラスAが存在し、このクラスAに属する複数のデータDが変量x1,x2によって定義される2次元の特徴空間S内に図3のように分布していると仮定する。
このような変量x1,x2によって特徴付けられる多数のデータDが入力されると、コンピュータは、上述の方法により分割数mを決定する(ステップ104)。ここでは、分割数m=16が得られたので、変量x1,x2のフルレンジをそれぞれ16分割した結果を図4に示す。これで、特徴空間Sは256個の領域Eに分割される。
続いて、コンピュータは、m分割によって生成された分割領域EとデータDを対応づけ、特徴空間Sをクラス分けする(ステップ105)。つまり、コンピュータは、分割領域E内にデータDが存在すれば、この領域EをクラスAに属すると認識する。以下、クラスAに属すると判定された分割領域Eを学習領域Eaと呼ぶ。この学習領域Eaを図5に示す。
なお、学習領域Eaの中には、2つ以上のデータを内包する分割領域も含まれている。このデータを正確に表わそうとすれば、より細かい分割が必要となるがデータ全体の密度を統計的に考慮した場合には図4の分割が相応しい。
次いで、コンピュータは、ノイズと考えられるデータを内包する分割領域を学習領域Eaから除去する(ステップ106)。これは、実際にはノイズであるデータが図3のデータ中に含まれていると考えられるからである。本実施例では、隣接する分割領域の中に学習領域Eaが1つもない分割領域をノイズと考えられるデータを内包する領域とし、これを孤立領域Eisoと呼ぶ。そして、この孤立領域Eisoを学習領域Eaから除去する。孤立領域Eisoを図6に示す。
なお、特徴空間がn次元の場合、ある領域E0に対して3n−1近傍の領域を領域E0に隣接する領域と呼ぶ。例えば、特徴空間が2次元の場合には、図7に示すように、領域E1〜E8の領域を領域E0に隣接する領域と呼ぶ。
ステップ104〜ステップ106の処理は、あくまで図3のデータに基づいて行われているが、図3のデータは、クラスAの全てを表すデータとしては不足していることが考えられる。よって、ステップ105でクラスAに属すると判定された学習領域Ea以外にも、クラスAに属すべき分割領域が存在する可能性がある。そこで、図6の特徴空間を画像に相当するものとみなし、この画像に対して画像処理技術で利用されている膨張・収縮処理を実施することにより、本来、クラスAに属すべき領域が学習領域Eaに含まれるようにする。
まず、コンピュータは、図6の特徴空間に対して膨張処理を行う(ステップ107)。膨張処理は、任意の分割領域に着目し、この着目領域に隣接する分割領域の中に学習領域Eaが1個でも存在する場合、着目領域がクラスAに属すべき領域である可能性があるとみなして、着目領域を学習領域とする処理である。このような処理を特徴空間の全領域について行う。膨張処理の結果を図8に示す。図8では、領域Ea'が新たに学習領域として加えられた領域である。
続いて、コンピュータは、図8の特徴空間に対して収縮処理を行う(ステップ108)。収縮処理は、任意の学習領域Ea,Ea'に着目して、この着目領域に隣接する分割領域の中に学習されていない領域Eが1個でも存在する場合、着目領域がクラスAに属すべき領域ではないとみなして、着目領域を学習領域Ea,Ea'から除去する処理である。このような処理を全学習領域Ea,Ea'について行う。収縮処理の結果を図9に示す。図9では、領域Edが学習領域Ea,Ea'から除外された領域である。なお、膨張・収縮処理は現状のコンピュータの能力では問題とならず、数秒で処理が終了する。
以上のような処理の後に学習領域Ea,Ea'をまとめたものが図10に示す最終的な学習領域Ea''である。このようにして、特徴空間をクラスAに属する学習領域Ea''と学習されていない領域Eにクラス分けしたものが類別モデルである。
次に、利用者は、類別すべき状況を表す変量x1,x2をコンピュータに入力する。これに応じて、コンピュータは、作成した類別モデルを用いて類別処理を行う(ステップ109)。つまり、コンピュータは、入力変量x1,x2によって類別モデル上の位置が指定されるデータが学習領域Ea''と領域Eの何れに属するかにより、状況のクラス分けを行う。よって、類別すべき状況に対応するデータが学習領域Ea''中の位置にあれば、この状況はクラスAに属すると認識され、データが領域E中にあれば、クラスAには属さないと認識される。クラスAに属すると認識した場合、入力変量x1,x2によって指定されたデータを内包する1つの学習領域Ea''の周囲が全て学習領域Ea''であれば、クラスAに属すると判別した類別結果の確信度が高いと考えることができる。これに対して、クラスAに属すると認識した場合でも、入力変量x1,x2によって指定されたデータを内包する1つの学習領域Ea''の周囲に学習領域Eaと学習されていない領域Eが混在する場合は、クラスAに属すると判別した類別結果の確信度が低いと考えることができる。
また、本発明では、収集したデータのみによって類別モデルを作成するため、収集したデータが学習領域の生成に不十分な場合が有り得る。利用者は、作成された類別モデルを参照して、類別モデル生成時のデータが十分かどうかを確認することができ、データが不十分であると判断した場合には、この類別モデルによる類別処理を見合わせることができる。例えば、本実施例の類別モデルの場合、図11に示す斜線部の領域Ecに注目すると、この領域Ecの周りの分割領域は、そのほとんどが学習素子Ea''である。よって、領域Ecは、類別モデル生成時のデータが不十分であった可能性があることが分かる。
なお、本実施例では、クラスが1つの場合で説明したが、クラスが複数存在する場合は、共通の特徴空間において、ステップ103〜ステップ108の処理をクラスごとに行って、類別モデルを作成すればよい。このとき、分割数mについては、式(5)によって求めた全クラスに共通な分割数を用いてもよいし、クラスごとに異なる分割数を用いてもよい。
また、クラスが複数存在する場合、あるクラスに属すると認識された総数のNの学習領域のうちに、他のクラスにも属すると認識された学習領域がe個あるとすれば、誤識別率Rを次式のように定義できる。
R=e/N ・・・(6)
この誤識別率Rはクラス間の分離性を示す指標と考えることができるので、誤識別率Rを用いれば、特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成された類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
以上のように、本発明は、画像処理技術の画素に相当するような分割領域をデータ密度に基づいて特徴空間内に生成し、生成した分割領域をデータを内包するか否かでクラス分けすることにより類別モデルを生成し、この類別モデルを用いて異常判定や動作決定等の状況類別を行うものである。
なお、画像処理技術や従来のパターン認識法では、画素数があらかじめ決められているので、クラス領域を近似する際に、必要以上の画素数を用いることが起こり得る。このため、従来のパターン認識法では、多くのメモリを必要とし、類別処理の速度が遅くなる。これに対し本発明では、データ密度に基づいて統計的に有意な大きさの素子を分割領域を生成するので、必要以上の分割領域を生成しない。したがって、従来の方法よりもコンピュータ上のパフォーマンスを向上させることができる。
また、従来の方法では、類別モデル生成時にデータが不十分な場合や、クラスが占める空間形状が複雑な場合、誤って別のクラスに類別してしまう可能性が高くなる。これに対し、本発明では、類別すべき状況を表すデータが学習されていない分割領域に含まれる場合であっても、周囲の領域がどのようなクラスに属するかを参照することにより、コンピュータシステムの利用者が類別処理に介在することが可能となる。その結果、誤って別のクラスに類別してしまう可能性を極力少なくすることができる。
[第2実施例]
次に、より具体的な例を以下に示し、本発明をさらに具体的に説明する。
空調システムでは、一般にPIDコントローラが利用されている。しかしながら、PIDコントローラのパラメータは、全ての状況に対して適切に設定されているわけではないので、ハンチングという現象が発生する。ハンチングは、目標とすべき設定値に対して制御量が振動してしまう現象である。ビルディングの空調システムにおいては、全ての状況に対して1種類のパラメータで適切に対応することは容易ではない。
そこで、本発明の類別モデル生成方法により、類別モデルを生成して、ハンチングが起こる状況を類別してやれば、状況に応じてPIDコントローラのパラメータを適切に切り換えることができるので、どのような状況においても空調システムを適切に制御することができるようになる。
本実施例では、空調システムの1つであるVAV(Variable Air Volume)システムの給気温度制御を例にとって説明する。図12に示すように、時刻t1〜t2、t4〜t5において給気温度にハンチングHが生じている場合、利用者は、ハンチングHが発生していない時刻t0〜t1、t2〜t4、t5以降のデータをクラスA、ハンチングHが発生している時刻t1〜t2、t4〜t5のデータをクラスBに振り分けておく。このとき、収集するデータの変量としては、給気温度だけでなく、VAVシステムに関連する全ての変量とする。
続いて、利用者は、ハンチングが生じる状況の類別に好適であると考えられる変量を選定する。給気温度のハンチングが生じる要因としては、換気温度、換気湿度が知られているので、この2つの要因を変量として選定する。そして、利用者は、収集したデータを換気温度、換気湿度によって特徴付けられる多次元データとしてコンピュータに入力する。
例えば、クラスAに属する複数のデータDa、クラスBに属する複数のデータDbが換気温度、換気湿度という2つの変量によって定義される特徴空間S内に図13(a)のように分布していると仮定する。このようなデータが入力されると、コンピュータは、第1実施例で説明した方法により、特徴空間SをクラスAに属する学習領域Ea、クラスBに属する学習領域Eb、学習されていない領域Eの3つにクラス分けし、図13(b)のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、換気温度と換気湿度で特定される現在の状況がハンチングの発生する状況であるか否かを類別できるので、類別結果に応じてPIDコントローラのパラメータを切り換えることが可能となる。その結果、どのような状況においても、ハンチングを起こさずに、VAVの給気温度制御が行うことができる。
[第3実施例]
石油、化学プロセスでは、製品の品質が監視されているが、どのような状況のときに品質が悪化するかが分からない場合が多い。そこで、本発明の類別モデル生成方法により、適切な類別モデルを生成して、品質が悪化する状況を類別してやれば、品質が悪化する状況にならないようにプロセスを運転したり、制御パラメータを切り換えたりすることが可能となる。
本実施例では、図14に示すように、溶剤及び触媒の入った反応器11内に原料12,13を投入して、反応物14を生成する化学プロセスを例にとって説明する。図14のプラントによって生成された反応物14の品質(組成)を図15に示す。図15において、THは合格品と不合格品を分けるしきい値であり、品質がしきい値TH未満に収まっている場合、反応物14は合格品となり、品質がしきい値THを超える場合、反応物14は不合格品となる。
図15のように、時刻t1〜t2、t3〜t4において反応物14に不合格品が生じている場合、利用者は、不合格品が発生していない時刻t0〜t1、t2〜t3、t4以後のデータをクラスA、不合格品が発生している時刻t1〜t2、t3〜t4のデータをクラスBに振り分けておく。ここで、収集するデータの変量としては、化学プロセスに関連する全ての変量(原料12,13の投入量、溶剤の量、触媒の量、反応器11の内部温度、反応物14の組成)とする。続いて、利用者は、統計解析やプロセスの仕組み、及び経験則により、反応物14に不合格品が発生する要因を特定する。例えば、原料13の投入量と触媒量が反応物14の品質に係わる要因であるとすると、利用者は、この2つの要因を変量として選定し、収集したクラスBのデータを原料13の量と触媒量によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第1実施例で説明した方法により、特徴空間をクラスBに属する学習領域Ebと学習されていない領域Eにクラス分けし、図16のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、ある量の原料13と触媒を使用したとき、この状況が反応物14に不合格品の生じる状況であるか否かを類別できるので、不合格品を作らないように制御することが可能となる。例えば、原料13をq投入する場合には、触媒の量をq1若しくはq2〜q3の範囲で使用すれば、合格品が生産できることが分かる。
[第4実施例]
製造業において設備機器の異常を検知することは、故障による多大な損害が爆発等の危険を回避するために必要なことである。しかし、設備機器の異常が発生することは稀なので、異常という状況のデータを収集することは難しい。そこで、本実施例では、第2、第3実施例のときと異なり、設備機器が正常に運用されているときのデータのみを使用することになる。
ここでは、回転機を例にとって説明する。例えば、回転機の正常/異常がその回転数と音の振動数により判別できる場合、コンピュータシステムの利用者は、回転数と音の振動数を変量として選定し、収集した正常運用時のデータを回転数と音の振動数によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第1実施例で説明した方法により、特徴空間をクラスA(正常な状況の集合)に属する学習領域Eaと学習されていない領域Eにクラス分けし、図17のような類別モデルを生成する。この類別モデル上では、回転機の現在の状況は、回転数と振動数で特定される点である。よって、現在の状況に対応する点は、類別モデル内のある分割領域に含まれる。
利用者は、現在の状況を内包する分割領域と学習領域Eaとの距離をコンピュータに計算させ、この領域間距離の変化を図18のようにディスプレイ装置にグラフ表示させる。図18の領域間距離は、回転機の現在の状況と正常な状況との関係を示唆するものであり、これを見ることにより、回転機の正常/異常を判断することができる。つまり、時刻t1やt2のように、距離が0でなくなる状況が一時的に発生する場合は問題ないが、時刻t3〜t4のように、距離が0でなくなる状況が頻繁に起こる場合は、異常の予兆ととらえることができる。また、時刻t4〜t5のように、現在の状況が正常な状況から次第に離れていく場合は、早急に点検を行わなければならないことが分かる。
[第5実施例]
現在の製造プロセスでは、熟練オペレータがシステムを運転しているものが多い。しかしながら、熟練オペレータの数は減少しつつあり、また熟練オペレータの知識を伝授したり、自動化を行ったりすることは困難なことが多い。
そこで、本発明の類別モデル生成方法により、類別モデルを生成すれば、一般的なオペレータの操作出力と熟練オペレータの操作出力が大きく異なる状況がどのような状況であるかを認識することができ、運転の支援や自動化を行うことができる。一般的なオペレータをモデル化したオペレーションモデルを作成することは容易なので、このオペレーションモデルの操作出力(システムへの入力値)Op1と熟練オペレータの操作出力Op2とを図19のように比較する。
オペレーションモデルがシステムの状態を示す計測値PV1,PV2に基づいて操作出力を決定しているとすると、コンピュータシステムの利用者は、計測値PV1,PV2を変量として選定し、オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である時刻t1〜t2の計測値PV1,PV2をコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第1実施例で説明した方法により、特徴空間をクラスA(オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である状況の集合)に属する学習領域Eaと学習されていない領域Eにクラス分けし、図20のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、計測値PV1,PV2で特定される現在の状況がクラスAに属する状況であるか否かを類別できる。そして、現在の状況がクラスAに属する状況であれば、熟練オペレータの操作出力値を参照して運転支援を行ったり、熟練オペレータの操作出力値をそのままシステムに与えて自動化を行ったりすることができる。
なお、第1実施例〜第5実施例では、異常判定(ハンチング等の不具合の状況把握、プラントおよび設備機器の異常状態の検知)や、状況に応じてとるべき行動の決定のための状況類別に本発明の類別モデル生成方法を利用したが、音声や画像などのパターンの認識に利用してもよいことは言うまでもない。

Claims (7)

  1. CPUとメモリとを備えたコンピュータにお いて、n種類の変量で定義されるn次元の特徴空間内において1つのクラスに属し、その位置が前記変量で特定されるn次元データが入力されたとき、各変量のm分割により前記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が1個となる分割領域が生成される度合いが分割数mに対し確率分布に従うとみなして、統計的有意水準に基づき分割数mを決定する処理と、
    n次元データを内包する分割領域を前記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、
    前記学習領域の周辺の分割領域を学習領域に加えること によって学習領域群を膨張させる処理と、
    前記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とを、前記メモリに記憶され たプログラムに従って前記CPUに実行させることにより、類別モデルを生成することを特徴とする類別モデル生成方法。
  2. 請求項1において、
    内包するデータの数が1個となる分割領域が少なくとも1個生成される分割数mについての平均と分散から、前記統計的有意水準に基づく分割数mを決定することを特徴とする類別モデル生成方法。
  3. 請求項1において、
    前記学習領域群を膨張させる処理を行う前に、隣接する領域の中に学習領域が1つもない学習領域を学習領域群から除外する処理を行うことを特徴とする類別モデル生成方法。
  4. 請求項1において、
    前記学習領域群を膨張させる処理は、任意の分割領域に着目して、この着目領域に隣接する分割領域の中に学習領域が1個でも存在する場合、着目領域を学習領域とする処理であり、
    前記学習領域群を収縮させる処理は、任意の学習領域に着目して、この着目領域に隣接する分割領域の中に学習されていない領域が1個でも存在する場合、着目領域を学習領域群から除外する処理であることを特徴とする類別モデル生成方法。
  5. 請求項1において、
    前記クラスが複数存在するときは、クラスごとに前記統計的有意水準に基づいて分割数を求めた後に、クラスごとに求めた分割数から全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理クラスごとに行うことを特徴とする類別モデル生成方法。
  6. 請求項5において、
    あるクラスに属すると認識された総数のNの学習領域の中に、他のクラスにも属すると認識された学習領域がe個あるとき、e/Nをクラス間の分離性を示す誤識別率とすることを特徴とする類別モデル生成方法。
  7. n種類の変量で定義されるn次元の特徴空間内において1つのクラスに属し、その位置が前記変量で特定されるn次元データが入力されたとき、各変量のm分割により前記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が1個となる分割領域が生成される度合いが分割数mに対し確率分布に従うとみなして、統計的有意水準に基づき分割数mを決定する処理と、
    n次元データを内包する分割領域を前記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、
    前記学習領域の周辺の分割領域を学習領域に加えること によって学習領域群を膨張させる処理と、
    前記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とをコンピュータに実行させるためのプログラムを記録した記録媒体。
JP51740298A 1997-11-19 1997-11-19 類別モデル生成方法及び記録媒体 Expired - Fee Related JP3614863B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP1997/004215 WO1999026164A1 (fr) 1997-11-19 1997-11-19 Procede pour generer un modele de classification, et support d'enregistrement

Publications (1)

Publication Number Publication Date
JP3614863B2 true JP3614863B2 (ja) 2005-01-26

Family

ID=14181506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP51740298A Expired - Fee Related JP3614863B2 (ja) 1997-11-19 1997-11-19 類別モデル生成方法及び記録媒体

Country Status (5)

Country Link
US (1) US6510245B1 (ja)
EP (1) EP1351184B1 (ja)
JP (1) JP3614863B2 (ja)
DE (1) DE69734123T2 (ja)
WO (1) WO1999026164A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1937032B (zh) * 2005-09-22 2011-06-15 财团法人工业技术研究院 切割语音数据序列的方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1246164A1 (en) * 2001-03-30 2002-10-02 Sony France S.A. Sound characterisation and/or identification based on prosodic listening
KR101247307B1 (ko) * 2008-05-19 2013-03-25 재단법인서울대학교산학협력재단 데이터 분류를 위한 데이터 처리 방법, 상기 방법을 기록한기록 매체, 및 상기 방법을 실행하는 데이터 처리 장치
JP7322918B2 (ja) * 2021-03-29 2023-08-08 横河電機株式会社 プログラム、情報処理装置、及び学習モデルの生成方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5012675A (en) * 1989-07-25 1991-05-07 Amoco Corporation Integrating multiple mappable variables for oil and gas exploration
US5309228A (en) * 1991-05-23 1994-05-03 Fuji Photo Film Co., Ltd. Method of extracting feature image data and method of extracting person's face data
TW297107B (ja) * 1991-06-18 1997-02-01 Meidensha Electric Mfg Co Ltd
JPH06195520A (ja) * 1992-12-25 1994-07-15 Fujitsu Ltd 識別用辞書生成方法
CA2150110C (en) * 1993-10-15 2000-01-11 Henry Spalding Baird Methods and apparatus for classification of images using distribution maps
DK172429B1 (da) * 1996-04-25 1998-06-08 Peter Mikkelsen Fremgangsmåde ved oplæring af et billedanalysesystem til brug ved analyse af et emne, samt anvendelse af fremgangsmåden
US6195659B1 (en) * 1998-07-14 2001-02-27 Trw Inc. Method and apparatus for morphological clustering having multiple dilation and erosion of switchable grid data cells

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1937032B (zh) * 2005-09-22 2011-06-15 财团法人工业技术研究院 切割语音数据序列的方法

Also Published As

Publication number Publication date
EP1351184A4 (en) 2003-10-08
US6510245B1 (en) 2003-01-21
EP1351184A1 (en) 2003-10-08
EP1351184B1 (en) 2005-08-31
WO1999026164A1 (fr) 1999-05-27
DE69734123T2 (de) 2006-06-22
DE69734123D1 (de) 2005-10-06

Similar Documents

Publication Publication Date Title
US7447338B2 (en) Method and system for face detection using pattern classifier
CN101097564B (zh) 参数学习方法及设备、模式识别方法及设备
JP5050607B2 (ja) 検査装置、検査方法、検査プログラムおよびそれを記録したコンピュータ読み取り可能な記録媒体
Sivasankar et al. Hybrid PPFCM-ANN model: an efficient system for customer churn prediction through probabilistic possibilistic fuzzy clustering and artificial neural network
CN113438114B (zh) 互联网系统的运行状态监控方法、装置、设备及存储介质
JP7047498B2 (ja) 学習プログラム、学習方法および学習装置
US20230194624A1 (en) Battery management system for classifying a battery module
Ammu et al. Review on feature selection techniques of DNA microarray data
JP2020042519A (ja) 異常検知装置、異常検知方法、及び異常検知プログラム
CN111178196B (zh) 一种细胞分类的方法、装置及设备
JP3614863B2 (ja) 類別モデル生成方法及び記録媒体
EP4302248A1 (en) System and method of monitoring an industrial environment
KR102433598B1 (ko) 데이터 경계 도출 시스템 및 방법
CN110716761A (zh) 信息处理平台上软件应用的执行参数的自动和自优化确定
KR102005952B1 (ko) 기계학습 모델링에서 잡음 데이터 제거를 위한 데이터 정제 장치 및 방법
JP2022007232A (ja) 情報処理方法および情報処理装置
JP5892275B2 (ja) 多クラス識別器生成装置、データ識別装置、多クラス識別器生成方法、データ識別方法、及びプログラム
CN115081514A (zh) 一种数据不平衡情况下的工业设备故障识别方法
CN114330121A (zh) 一种工业时序数据长期快速预测方法及装置
JP2018181052A (ja) モデル同定装置、予測装置、監視システム、モデル同定方法および予測方法
JP2001250101A (ja) データ領域の解析方法及び表現方法
Al-Qadasi et al. DeepAbstraction++: Enhancing Test Prioritization Performance via Combined Parameterized Boxes
CN111783835A (zh) 一种数据降维方法、装置及系统
JP2021152751A (ja) 分析支援装置及び分析支援方法
CN112183336A (zh) 表情识别模型训练方法、装置、终端设备及存储介质

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041026

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041028

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071112

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091112

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091112

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101112

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101112

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111112

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121112

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131112

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees