JP3614863B2 - 類別モデル生成方法及び記録媒体 - Google Patents
類別モデル生成方法及び記録媒体 Download PDFInfo
- Publication number
- JP3614863B2 JP3614863B2 JP51740298A JP51740298A JP3614863B2 JP 3614863 B2 JP3614863 B2 JP 3614863B2 JP 51740298 A JP51740298 A JP 51740298A JP 51740298 A JP51740298 A JP 51740298A JP 3614863 B2 JP3614863 B2 JP 3614863B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- area
- divided
- class
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
- G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
技術分野
本発明は、音声や画像などのパターンの認識又は状況の類別を行うコンピュータシステムで使用される、パターン認識又は状況類別のための類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体に関するものである。
背景技術
プロセス制御等の分野で使用されるシステムにおいては、異常な状況か否か、あるいは所定の動作を行うべき状況であるか否か等を判別するために、状況の類別が要求される。このような異常判定や動作決定のための状況類別は、状況の類別に用いられる特徴量（以下、変量と呼ぶ）によって定義される特徴空間において、異常／正常、あるいは動作A/動作Ｂといったクラス分けをすることで状況を類別する問題ととらえることができる。
従来、状況の類別を実現する方法として、判別分析法が知られている。判別分析法は、数種類の変量によって特徴付けられるクラスが存在するとき、各クラスに属するデータにより、類別すべき状況がどのクラスに属するかを判別する方法であり、通常、統計的手法に基づいた方法である。
例えば、ある目標を達成したクラスをＡ、目標を達成しなかったクラスをＢとし、変量x1,x2,・・・,xn（例えば、顧客訪問回数、電話使用料金、熱意を数量化した数値等）によって特徴付けられる複数のデータがクラスごとに得られているとする。判別分析法では、クラスA,Bの相違が明らかになるように各変量に重みを与えた判別関数Ｙを考える。
Ｙ＝a1x1＋a2x2＋・・・・＋anxn ・・・（１）
a1,a2,・・・・,anは各変量の重みである。なお、式（１）では、判別関数の１例として、判別関数Ｙが線形の場合（各クラスの分散共分散行列が等しい場合）を記述している。図21では、変量x1,x2によって定義される２次元の特徴空間内に、データDaの集まりであるクラスＡの空間、データDbの集まりであるクラスＢの空間が存在し、判別関数Ｙを定めた様子を示している。これにより、Ｙ≧０となる状況が発生すれば、この状況はクラスＡに属すると判定でき、Ｙ＜０となる状況が発生すれば、この状況はクラスＢに属すると判定できる。
また、状況の類別を実現する他の方法として、対象を特徴付ける型、様式や模様などに基づいて対象を認識するパターン認識法が知られている。このパターン認識法としては、ニューラルネットワークを用いた方法が提案されている（Gail A.Carpenter and Stephen Grossberg,“PATTERN RECOGNITION BY SELF−ORGANIZING NEURAL NETWORKS",A Bradford Book,1991）。また、他のパターン認識法として、RCE（Restricted Coulomb Energy）ネットワークを利用した方法が提案されている（D.L.Reilly,L.N.Cooper and C.Elbaum,“Self Organizing Pattern Class Separator and Identifier",U.S.Patent No.4,326,259.Awarded Apr.20,1982）。
ニューラルネットワークは、生物の脳で行われているようなニューロンによる並列情報処理メカニズムを工学的に実現しようとするものである。ニューラルネットワークを状況の類別に使用する場合には、いくつかの代表的な状況が有する変量と、これらの変量に応じてニューラルネットワークが出力すべき判別結果とをニューラルネットワークに与え、所望の判別結果が得られるようにニューラルネットワークを学習させる必要がある。ニューラルネットワークを学習させる方法としては、通常、バックプロパゲーション（Back Propargation）法が用いられる。
RCEネットワークは、線形分離不可能な多次元の空間を占めるクラスを複数の基本図形（例えば、多次元の超球）で近似することにより、特徴空間をクラス分けするものである。図22に示した例では、線形分離不可能なクラスA,Bの空間を基本図形Ca,Cbでそれぞれ近似して、変量x1,X2で定義される２次元の特徴空間をクラス分けしている。
発明の開示
［発明が解決しようとする課題］
しかしながら、判別分析法では、各クラスの空間を線形分離することが不可能な場合、高次多項式によって判別関数を近似しなくてはならず、変量の種類が多く、各クラスの空間が複雑な場合、判別関数の導出が困難であるという問題点があった。
また、ニューラルネットワークを利用した方法では、ニューラルネットワークの学習速度が遅いという問題点があり（通常、100〜1000回程度の学習が必要とされ、場合によっては１週間程度の時間がかかる）、また類別に最適なネットワーク構成の決定が難しいという問題点があった。さらに、類別処理、すなわち状況を特徴付ける変量に基づいて状況を類別する処理に時間がかかるため、処理速度を上げようとすると、高価な半導体チップが必要になるという問題点があった。
そして、RCEネットワークを利用した方法では、クラスA,Bに属するデータDa,Dbを中心として他のクラスに干渉しない大きさの基本図形Ca,Cbを生成する。しかし、基本図形の中心となるデータDa,DbがクラスA,Bの空間を良好に近似できる位置に存在しているとは限らないため、本来はクラスに入れるべきでない状況をもクラスに属すと判定してしまうことがあり、誤認識の可能性があるという問題点があった。例えば、図22の例では、基本図形CbがクラスＢの空間を良好に近似しているのに対し、基本図形CaはクラスＡの空間からはみ出している。したがって、クラスＡに入れるべきでない状況をクラスＡに属すと判定してしまうことが有り得る。また、RCEネットワークを利用した方法では、各クラスのデータ群から掛け離れたデータが少数存在する場合、そのデータの影響を受けてしまうという問題点があった。
本発明は、上記課題を解決するためになされたもので、学習の速度及び類別処理の速度が速く、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を良好に近似することができる類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体を提供することを目的とする。
［課題を解決するための手段］
本発明の類別モデル生成方法は、請求項１に記載のように、CPUとメモリとを備えたコンピュータにおいて、ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が上記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、ｎ次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とを、前記メモリに記憶されたプログラムに従って前記CPUに実行させることにより、類別モデルを生成するようにしたものである。
このように、本発明では、分割数ｍを統計的有意水準（データ密度）に基づいて決定して特徴空間を分割し、生成された分割領域をｎ次元データを内包するか否かでクラス分けすることにより、類別モデルを生成する。これにより、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を適切に近似した類別モデルを生成することができる。また、学習領域群を膨張させる処理と学習領域群を収縮させる処理を行うことにより、本来、クラスに属すべき分割領域を学習領域群に加えることができる。
また、本発明の類別モデル生成方法は、請求項２に記載のように、内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについての平均と分散から、上記統計的有意水準に基づく分割数ｍを決定するようにしたものである。
また、請求項３に記載のように、上記学習領域群を膨張させる処理を行う前に、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外する処理を行うようにしたものである。
このように、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができる。
また、請求項４に記載のように、上記学習領域群を膨張させる処理は、任意の分割領域に着目して、この着目領域に隣接する分割領域の中に学習領域が１個でも存在する場合、着目領域を学習領域とする処理であり、上記学習領域群を収縮させる処理は、任意の学習領域に着目して、この着目領域に隣接する分割領域の中に学習されていない領域が１個でも存在する場合、着目領域を学習領域群から除外する処理である。
また、請求項５に記載のように、上記クラスが複数存在するときは、クラスごとに上記統計的有意水準に基づいて分割数を求めた後に、クラスごとに求めた分割数から全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うようにしたものである。これにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
また、請求項６に記載のように、あるクラスに属すると認識された総数のＮの学習領域の中に、他のクラスにも属すると認識された学習領域がｅ個あるとき、e/Nをクラス間の分離性を示す誤識別率とするようにしたものである。
また、本発明の記録媒体は、請求項７に記載のように、ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が上記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、ｎ次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とをコンピュータに実行させるためのプログラムを記録したものである。
［効果］
（１）本発明によれば、請求項１に記載のように、分割数ｍを統計的有意水準に基づいて決定して特徴空間を分割し、入力された個々のｎ次元データと分割領域との対応付けを行うことにより、各クラスの空間を線形分離することが不可能な場合でも、各クラスの空間を非線形的に分離可能な類別モデルを生成することができる。その結果、各クラスの空間を正確に近似でき、誤類別率の低い類別処理を行うことができる。また、統計的有意水準に基づいて分割数ｍを決定することにより、統計的に有意な大きさの分割領域を生成するので、データの偏りの影響を受け難くすることができる。また、必要以上の分割領域を生成しないので、従来のパターン認識法よりもコンピュータのメモリの使用量を少なくすることができ、類別モデルを生成する学習速度、及び類別処理の速度を速くすることができる。さらに、システムの利用者が、類別すべき状況と対応するデータの周囲の学習状態を参照して、類別モデル生成時のデータが不十分であると判断した場合には、類別処理を見合わせることができるので、誤って別のクラスに類別してしまう可能性を低くすることができる。
（２）また、請求項３に記載のように、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができ、ノイズの影響を低減することができる。
（３）また、請求項５に記載のように、クラスごとに統計的有意水準に基づいて分割数を求めた後に、全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うことにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
（４）また、請求項６に記載のように、あるクラスに属すると認識された総数のＮの学習領域の中に他のクラスにも属すると認識された学習領域がｅ個あるとき、e/Nを誤識別率とすることにより、この誤識別率を用いて特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成した類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
（５）また、請求項７に記載のように、プログラムを記録媒体に記録することにより、分割数ｍを決定する処理、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理、及び学習領域群を収縮させる処理をコンピュータに実行させることができる。
【図面の簡単な説明】
図１は、本発明の第１実施例となる類別モデル生成方法を説明するためのフローチャート図である。
図２は、分割数ｍに対する比率Ｆ（ｍ）の特性を示す図である。
図３は、本発明の第１実施例において、２次元の特徴空間内に分布するデータの１例を示す図である。
図４は、図３の特徴空間において、２つの変量をそれぞれ16分割した結果を示す図である。
図５は、分割によって生成された領域のうちクラスに属すると判定された学習領域を示す図である。
図６は、クラスに属すると判定された学習領域のうち孤立領域を示す図である。
図７は、隣接領域の定義を示す図である。
図８は、図６の特徴空間に対して膨張処理を行った結果を示す図である。
図９は、図８の特徴空間に対して収縮処理を行った結果を示す図である。
図10は、本発明の第１実施例において、収縮処理を行った後の最終的な類別モデルを示す図である。
図11は、図10の類別モデルにおいて、類別モデル生成時のデータが不十分と考えられる領域を示す図である。
図12は、本発明の第２実施例において、空調システムの１つであるVAVシステムにおいて給気温度にハンチングが生じている様子を示す図である。
図13は、本発明の第２実施例において、２次元の特徴空間内に分布するデータの１例と、このデータに基づいて生成された類別モデルとを示す図である。
図14は、本発明の第３実施例における反応物生成プラントの構成を示す図である。
図15は、図14のプラントによって生成された反応物の品質を示す図である。
図16は、本発明の第３実施例において生成された類別モデルを示す図である。
図17は、本発明の第４実施例において生成された類別モデルを示す図である。
図18は、本発明の第４実施例において、現在の状況を内包する分割領域と学習領域との領域間距離を示す図である。
図19は、本発明の第５実施例において、一般的なオペレータをモデル化したオペレーションモデルの操作出力と熟練オペレータの操作出力を示す図である。
図20は、本発明の第５実施例において生成された類別モデルを示す図である。
図21は、判別分析法を用いた従来の状況類別方法を説明するための図である。
図22は、RCEネットワークを用いた従来の状況類別方法を説明するための図である。
発明を実施するための最良の形態
［第１実施例］
次に、本発明の実施例について図面を参照して詳細に説明する。図１は、本発明の第１実施例となる類別モデル生成方法を説明するためのフローチャート図である。
本発明の類別モデル生成方法を利用するコンピュータシステムは、コンピュータ、ディスプレイ装置、キーボード、外部記憶装置などを備えた周知の構成のものでよい。また、コンピュータ本体も、CPU、ROM、RAM、ディスプレイ装置やキーボードあるいは外部記憶装置とのインタフェースをとるための回路などを備えた周知の構成のものでよい。CPUは、ROM若しくはRAMに記憶されたプログラム、又はキーボードから入力されたコマンドに従って処理を実行する。また、CPUは、外部記憶装置にデータを書き込んだり、外部記憶装置からデータを読み出したりすることができる。
このようなコンピュータシステムにおいて、本発明の類別モデル生成方法を実現させるためのプログラムは、フレキシブルディスク、CD−ROM、メモリカード等の記録媒体に記録された状態で提供される。この記録媒体を外部記憶装置に挿入すると、媒体に記録されたプログラムが読み取られ、コンピュータに転送される。そして、CPUは、読み込んだプログラムをRAM等に書き込む。こうして、CPUは、以下で説明するような処理を実行する。
次に、本発明の類別モデル生成方法の基本概念について説明する。
状況を類別するために選定された変量がｎ種類あるとすれば、特徴空間は、このｎ種類の変量によって定義されるｎ次元の空間である。そして、本発明では、状況の類別に好適又はクラス間の分離性が良好であると考えられるｎ種類の変量を選定して、各変量の最小値と最大値との間のレンジを変量ごとに正規化し、各変量をある数ｍで区切ることにより、特徴空間を有限個の領域に分割する。なお、クラス間の分離性については後述する。
今、データの総数がＭとなるＩクラスが存在するとき、このクラスを特徴付けるのに好適な変量を選定して、クラス領域を包含する特徴空間を定義する。これにより、上記クラスに属するデータは、特徴空間内に分布し、変量によって位置が特定される点となる。各変量をそれぞれｍ分割すれば、特徴空間は、mn個の領域に分割され、生成された各領域は、データを内包するか否かでクラス分けされる。これが、類別モデルの基本的な作成方法である。
次に、適切な類別モデルを作成することができる分割数ｍの決定方法について説明する。まず、ｍ分割によって生成される分割領域のうち、内包するデータの数が１個となる分割領域の数をｐとしたときの比率Ｆ（ｍ）＝p/Mを考える。この比率Ｆ（ｍ）は、内包するデータの数が１個となる分割領域の確からしさととらえることができ、分割数ｍに対して図２のような特性を示す。つまり、比率Ｆ（ｍ）は非減少関数であり、次式のような性質を有する。
図２及び式（２）において、ｍ＊は、分割数ｍを増加していったときにＦ（ｍ）＝１となった最初の分割数ｍである。分割数ｍは整数値であり、離散的な値しか取り得ない。しかし、例えば２分割したときの長さ（変量のフルレンジ/2）と３分割したときの長さ（変量のフルレンジ/3）の中間値を2.5分割というような有理分割に拡張して考えれば、Ｆ（ｍ）は連続である。
よって、比率Ｆ（ｍ）は、右連続関数であり、確率分布関数の１つと考えられる。本発明では、連続関数Ｆ（ｍ）を整数ｍでサンプリングしていると考えればよい。
続いて、データ密度１について考える。ここで扱うデータ密度１は、あるデータに着目したとき、この着目データと最も近いデータとの距離である。また、ここでの距離は、ユークリッド距離である。特徴空間の次元をｎ、第１のデータを表す変量の値をx1,x2,・・・・,xn、第２のデータを表す変量の値をx1',x2',・・・・,xn'とすると、第１のデータと第２のデータのユークリッド距離は、（（x1−x1'）２＋（x2−x2'）２＋・・・・＋（xn−xn'）２）1/2となる。
このようなデータ密度ｌの度数分布は正規分布とみなせる。また、分割数ｍを増やしていったとき、内包するデータの数が１個となる分割領域が生成される度合いが最も高くなるのは、データ密度ｌの度数が最も高いときと考えられる。そして、上記度合いは、データ密度ｌが極めて小さいときやデータ密度ｌが極めて大きいときには低くなると考えられる。
したがって、内包するデータの数が１個となる分割領域が生成される度合いは、分割数ｍに対して正規分布に従うと考えられる。
なお、データ密度を考えるときの距離をユークリッド距離ではなく、ｍ分割によって得られる分割領域の縦・横の長さに相当するような距離で考えれば、正規分布に従うことは明白である。ここでの距離は、例えばmax（|x1−X1'|,|x2−x2'|,・・・・,|xn−xn'|）となる。maxは（）内の値のうちの最大値を取り出すことを意味する。
以上の説明により、正規分布に基づく有意な分割数ｍを決めることが可能と考えられる。ただし、内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについて、その平均μ及び分散σを求めるには、クラスに属するデータの総数Ｍが200個以上であることが必要となる。その理由は、Ｍ≧200のとき、平均μ及び分散σが真の値とみなせるからである。
内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについて、その平均μ及び分散σを計算するには、次式を用いればよい。
上述の有意な分割数ｍの「有意」とは、統計の分野で用いられる言葉である。つまり、ある統計的有意水準を定めて分割数ｍを決定することにより、この分割数ｍは、内包するデータの数が１個となる分割領域が生成される度合いが高く、かつ分割領域間の距離ができるだけ短いという条件を満たし、適切な類別モデルを実現する値となる。なお、分割数ｍのときの比率Ｆ（ｍ）から分割数がｍ−１のときの比率Ｆ（ｍ−１）を引いた、Ｆ（ｍ）−Ｆ（ｍ−１）が、ｍ分割の際にデータの数が１個となる分割領域が生成される度合いに相当する。
そして、本実施例では、μ＋３σを統計的有意水準とし、これに最も近い整数値を有意な分割数ｍとする。なお、統計的有意水準は、μ＋３σに限るものではないことは言うまでもない。
こうして、分割数ｍを決定することができる。ただし、以上の説明はクラスが１つの場合であって、クラスがｉ個（ｉ＝1,・・・,k;k≧２）存在する場合は、上述の方法によってクラスごとに分割数miを求め、これらに基づいて全クラスに共通な最終的な分割数ｍを次式のように求める。
式（５）において、μｉは式（３）により求めたクラスｉにおける平均、σｉは式（４）により求めたクラスｉにおける分散、mi（μｉ＋３σｉ）はμｉ＋３σｉにより求めたクラスｉにおける分割数である。また、maxは、mi（μｉ＋３σｉ）のうちの最大値を取り出すことを意味する。なお、全クラスに共通な分割数ｍを求めずに、クラス別の分割数miで後述する処理をクラスごとに行ってもよい。
次に、以上の基本概念に基づく実際の処理について説明する。
まず、コンピュータシステムの利用者は、複数種の変量によって特徴付けられる多次元データを収集し（図１ステップ101）、複数種の変量から状況の類別に好適又はクラス間の分離性が良好であると考えられるｎ種類の変量を選定する（ステップ102）。そして、利用者は、収集したデータをｎ種類の変量によって特徴付けられる多次元データ（つまり、ｎ種類の変量によって特徴空間上の位置が特定されるデータ）としてコンピュータに入力する（ステップ103）。
例えば、２つの変量x1,x2によって特徴付けられる１つのクラスＡが存在し、このクラスＡに属する複数のデータＤが変量x1,x2によって定義される２次元の特徴空間Ｓ内に図３のように分布していると仮定する。
このような変量x1,x2によって特徴付けられる多数のデータＤが入力されると、コンピュータは、上述の方法により分割数ｍを決定する（ステップ104）。ここでは、分割数ｍ＝16が得られたので、変量x1,x2のフルレンジをそれぞれ16分割した結果を図４に示す。これで、特徴空間Ｓは256個の領域Ｅに分割される。
続いて、コンピュータは、ｍ分割によって生成された分割領域ＥとデータＤを対応づけ、特徴空間Ｓをクラス分けする（ステップ105）。つまり、コンピュータは、分割領域Ｅ内にデータＤが存在すれば、この領域ＥをクラスＡに属すると認識する。以下、クラスＡに属すると判定された分割領域Ｅを学習領域Eaと呼ぶ。この学習領域Eaを図５に示す。
なお、学習領域Eaの中には、２つ以上のデータを内包する分割領域も含まれている。このデータを正確に表わそうとすれば、より細かい分割が必要となるがデータ全体の密度を統計的に考慮した場合には図４の分割が相応しい。
次いで、コンピュータは、ノイズと考えられるデータを内包する分割領域を学習領域Eaから除去する（ステップ106）。これは、実際にはノイズであるデータが図３のデータ中に含まれていると考えられるからである。本実施例では、隣接する分割領域の中に学習領域Eaが１つもない分割領域をノイズと考えられるデータを内包する領域とし、これを孤立領域Eisoと呼ぶ。そして、この孤立領域Eisoを学習領域Eaから除去する。孤立領域Eisoを図６に示す。
なお、特徴空間がｎ次元の場合、ある領域E0に対して3n−１近傍の領域を領域E0に隣接する領域と呼ぶ。例えば、特徴空間が２次元の場合には、図７に示すように、領域E1〜E8の領域を領域E0に隣接する領域と呼ぶ。
ステップ104〜ステップ106の処理は、あくまで図３のデータに基づいて行われているが、図３のデータは、クラスＡの全てを表すデータとしては不足していることが考えられる。よって、ステップ105でクラスＡに属すると判定された学習領域Ea以外にも、クラスＡに属すべき分割領域が存在する可能性がある。そこで、図６の特徴空間を画像に相当するものとみなし、この画像に対して画像処理技術で利用されている膨張・収縮処理を実施することにより、本来、クラスＡに属すべき領域が学習領域Eaに含まれるようにする。
まず、コンピュータは、図６の特徴空間に対して膨張処理を行う（ステップ107）。膨張処理は、任意の分割領域に着目し、この着目領域に隣接する分割領域の中に学習領域Eaが１個でも存在する場合、着目領域がクラスＡに属すべき領域である可能性があるとみなして、着目領域を学習領域とする処理である。このような処理を特徴空間の全領域について行う。膨張処理の結果を図８に示す。図８では、領域Ea'が新たに学習領域として加えられた領域である。
続いて、コンピュータは、図８の特徴空間に対して収縮処理を行う（ステップ108）。収縮処理は、任意の学習領域Ea,Ea'に着目して、この着目領域に隣接する分割領域の中に学習されていない領域Ｅが１個でも存在する場合、着目領域がクラスＡに属すべき領域ではないとみなして、着目領域を学習領域Ea,Ea'から除去する処理である。このような処理を全学習領域Ea,Ea'について行う。収縮処理の結果を図９に示す。図９では、領域Edが学習領域Ea,Ea'から除外された領域である。なお、膨張・収縮処理は現状のコンピュータの能力では問題とならず、数秒で処理が終了する。
以上のような処理の後に学習領域Ea,Ea'をまとめたものが図10に示す最終的な学習領域Ea''である。このようにして、特徴空間をクラスＡに属する学習領域Ea''と学習されていない領域Ｅにクラス分けしたものが類別モデルである。
次に、利用者は、類別すべき状況を表す変量x1,x2をコンピュータに入力する。これに応じて、コンピュータは、作成した類別モデルを用いて類別処理を行う（ステップ109）。つまり、コンピュータは、入力変量x1,x2によって類別モデル上の位置が指定されるデータが学習領域Ea''と領域Ｅの何れに属するかにより、状況のクラス分けを行う。よって、類別すべき状況に対応するデータが学習領域Ea''中の位置にあれば、この状況はクラスＡに属すると認識され、データが領域Ｅ中にあれば、クラスＡには属さないと認識される。クラスＡに属すると認識した場合、入力変量x1,x2によって指定されたデータを内包する１つの学習領域Ea''の周囲が全て学習領域Ea''であれば、クラスＡに属すると判別した類別結果の確信度が高いと考えることができる。これに対して、クラスＡに属すると認識した場合でも、入力変量x1,x2によって指定されたデータを内包する１つの学習領域Ea''の周囲に学習領域Eaと学習されていない領域Ｅが混在する場合は、クラスＡに属すると判別した類別結果の確信度が低いと考えることができる。
また、本発明では、収集したデータのみによって類別モデルを作成するため、収集したデータが学習領域の生成に不十分な場合が有り得る。利用者は、作成された類別モデルを参照して、類別モデル生成時のデータが十分かどうかを確認することができ、データが不十分であると判断した場合には、この類別モデルによる類別処理を見合わせることができる。例えば、本実施例の類別モデルの場合、図11に示す斜線部の領域Ecに注目すると、この領域Ecの周りの分割領域は、そのほとんどが学習素子Ea''である。よって、領域Ecは、類別モデル生成時のデータが不十分であった可能性があることが分かる。
なお、本実施例では、クラスが１つの場合で説明したが、クラスが複数存在する場合は、共通の特徴空間において、ステップ103〜ステップ108の処理をクラスごとに行って、類別モデルを作成すればよい。このとき、分割数ｍについては、式（５）によって求めた全クラスに共通な分割数を用いてもよいし、クラスごとに異なる分割数を用いてもよい。
また、クラスが複数存在する場合、あるクラスに属すると認識された総数のＮの学習領域のうちに、他のクラスにも属すると認識された学習領域がｅ個あるとすれば、誤識別率Ｒを次式のように定義できる。
Ｒ＝e/N ・・・（６）
この誤識別率Ｒはクラス間の分離性を示す指標と考えることができるので、誤識別率Ｒを用いれば、特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成された類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
以上のように、本発明は、画像処理技術の画素に相当するような分割領域をデータ密度に基づいて特徴空間内に生成し、生成した分割領域をデータを内包するか否かでクラス分けすることにより類別モデルを生成し、この類別モデルを用いて異常判定や動作決定等の状況類別を行うものである。
なお、画像処理技術や従来のパターン認識法では、画素数があらかじめ決められているので、クラス領域を近似する際に、必要以上の画素数を用いることが起こり得る。このため、従来のパターン認識法では、多くのメモリを必要とし、類別処理の速度が遅くなる。これに対し本発明では、データ密度に基づいて統計的に有意な大きさの素子を分割領域を生成するので、必要以上の分割領域を生成しない。したがって、従来の方法よりもコンピュータ上のパフォーマンスを向上させることができる。
また、従来の方法では、類別モデル生成時にデータが不十分な場合や、クラスが占める空間形状が複雑な場合、誤って別のクラスに類別してしまう可能性が高くなる。これに対し、本発明では、類別すべき状況を表すデータが学習されていない分割領域に含まれる場合であっても、周囲の領域がどのようなクラスに属するかを参照することにより、コンピュータシステムの利用者が類別処理に介在することが可能となる。その結果、誤って別のクラスに類別してしまう可能性を極力少なくすることができる。
［第２実施例］
次に、より具体的な例を以下に示し、本発明をさらに具体的に説明する。
空調システムでは、一般にPIDコントローラが利用されている。しかしながら、PIDコントローラのパラメータは、全ての状況に対して適切に設定されているわけではないので、ハンチングという現象が発生する。ハンチングは、目標とすべき設定値に対して制御量が振動してしまう現象である。ビルディングの空調システムにおいては、全ての状況に対して１種類のパラメータで適切に対応することは容易ではない。
そこで、本発明の類別モデル生成方法により、類別モデルを生成して、ハンチングが起こる状況を類別してやれば、状況に応じてPIDコントローラのパラメータを適切に切り換えることができるので、どのような状況においても空調システムを適切に制御することができるようになる。
本実施例では、空調システムの１つであるVAV（Variable Air Volume）システムの給気温度制御を例にとって説明する。図12に示すように、時刻t1〜t2、t4〜t5において給気温度にハンチングＨが生じている場合、利用者は、ハンチングＨが発生していない時刻t0〜t1、t2〜t4、t5以降のデータをクラスＡ、ハンチングＨが発生している時刻t1〜t2、t4〜t5のデータをクラスＢに振り分けておく。このとき、収集するデータの変量としては、給気温度だけでなく、VAVシステムに関連する全ての変量とする。
続いて、利用者は、ハンチングが生じる状況の類別に好適であると考えられる変量を選定する。給気温度のハンチングが生じる要因としては、換気温度、換気湿度が知られているので、この２つの要因を変量として選定する。そして、利用者は、収集したデータを換気温度、換気湿度によって特徴付けられる多次元データとしてコンピュータに入力する。
例えば、クラスＡに属する複数のデータDa、クラスＢに属する複数のデータDbが換気温度、換気湿度という２つの変量によって定義される特徴空間Ｓ内に図13（ａ）のように分布していると仮定する。このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間ＳをクラスＡに属する学習領域Ea、クラスＢに属する学習領域Eb、学習されていない領域Ｅの３つにクラス分けし、図13（ｂ）のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、換気温度と換気湿度で特定される現在の状況がハンチングの発生する状況であるか否かを類別できるので、類別結果に応じてPIDコントローラのパラメータを切り換えることが可能となる。その結果、どのような状況においても、ハンチングを起こさずに、VAVの給気温度制御が行うことができる。
［第３実施例］
石油、化学プロセスでは、製品の品質が監視されているが、どのような状況のときに品質が悪化するかが分からない場合が多い。そこで、本発明の類別モデル生成方法により、適切な類別モデルを生成して、品質が悪化する状況を類別してやれば、品質が悪化する状況にならないようにプロセスを運転したり、制御パラメータを切り換えたりすることが可能となる。
本実施例では、図14に示すように、溶剤及び触媒の入った反応器11内に原料12,13を投入して、反応物14を生成する化学プロセスを例にとって説明する。図14のプラントによって生成された反応物14の品質（組成）を図15に示す。図15において、THは合格品と不合格品を分けるしきい値であり、品質がしきい値TH未満に収まっている場合、反応物14は合格品となり、品質がしきい値THを超える場合、反応物14は不合格品となる。
図15のように、時刻t1〜t2、t3〜t4において反応物14に不合格品が生じている場合、利用者は、不合格品が発生していない時刻t0〜t1、t2〜t3、t4以後のデータをクラスＡ、不合格品が発生している時刻t1〜t2、t3〜t4のデータをクラスＢに振り分けておく。ここで、収集するデータの変量としては、化学プロセスに関連する全ての変量（原料12,13の投入量、溶剤の量、触媒の量、反応器11の内部温度、反応物14の組成）とする。続いて、利用者は、統計解析やプロセスの仕組み、及び経験則により、反応物14に不合格品が発生する要因を特定する。例えば、原料13の投入量と触媒量が反応物14の品質に係わる要因であるとすると、利用者は、この２つの要因を変量として選定し、収集したクラスＢのデータを原料13の量と触媒量によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＢに属する学習領域Ebと学習されていない領域Ｅにクラス分けし、図16のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、ある量の原料13と触媒を使用したとき、この状況が反応物14に不合格品の生じる状況であるか否かを類別できるので、不合格品を作らないように制御することが可能となる。例えば、原料13をｑ投入する場合には、触媒の量をq1若しくはq2〜q3の範囲で使用すれば、合格品が生産できることが分かる。
［第４実施例］
製造業において設備機器の異常を検知することは、故障による多大な損害が爆発等の危険を回避するために必要なことである。しかし、設備機器の異常が発生することは稀なので、異常という状況のデータを収集することは難しい。そこで、本実施例では、第２、第３実施例のときと異なり、設備機器が正常に運用されているときのデータのみを使用することになる。
ここでは、回転機を例にとって説明する。例えば、回転機の正常／異常がその回転数と音の振動数により判別できる場合、コンピュータシステムの利用者は、回転数と音の振動数を変量として選定し、収集した正常運用時のデータを回転数と音の振動数によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＡ（正常な状況の集合）に属する学習領域Eaと学習されていない領域Ｅにクラス分けし、図17のような類別モデルを生成する。この類別モデル上では、回転機の現在の状況は、回転数と振動数で特定される点である。よって、現在の状況に対応する点は、類別モデル内のある分割領域に含まれる。
利用者は、現在の状況を内包する分割領域と学習領域Eaとの距離をコンピュータに計算させ、この領域間距離の変化を図18のようにディスプレイ装置にグラフ表示させる。図18の領域間距離は、回転機の現在の状況と正常な状況との関係を示唆するものであり、これを見ることにより、回転機の正常／異常を判断することができる。つまり、時刻t1やt2のように、距離が０でなくなる状況が一時的に発生する場合は問題ないが、時刻t3〜t4のように、距離が０でなくなる状況が頻繁に起こる場合は、異常の予兆ととらえることができる。また、時刻t4〜t5のように、現在の状況が正常な状況から次第に離れていく場合は、早急に点検を行わなければならないことが分かる。
［第５実施例］
現在の製造プロセスでは、熟練オペレータがシステムを運転しているものが多い。しかしながら、熟練オペレータの数は減少しつつあり、また熟練オペレータの知識を伝授したり、自動化を行ったりすることは困難なことが多い。
そこで、本発明の類別モデル生成方法により、類別モデルを生成すれば、一般的なオペレータの操作出力と熟練オペレータの操作出力が大きく異なる状況がどのような状況であるかを認識することができ、運転の支援や自動化を行うことができる。一般的なオペレータをモデル化したオペレーションモデルを作成することは容易なので、このオペレーションモデルの操作出力（システムへの入力値）Op1と熟練オペレータの操作出力Op2とを図19のように比較する。
オペレーションモデルがシステムの状態を示す計測値PV1,PV2に基づいて操作出力を決定しているとすると、コンピュータシステムの利用者は、計測値PV1,PV2を変量として選定し、オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である時刻t1〜t2の計測値PV1,PV2をコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＡ（オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である状況の集合）に属する学習領域Eaと学習されていない領域Ｅにクラス分けし、図20のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、計測値PV1,PV2で特定される現在の状況がクラスＡに属する状況であるか否かを類別できる。そして、現在の状況がクラスＡに属する状況であれば、熟練オペレータの操作出力値を参照して運転支援を行ったり、熟練オペレータの操作出力値をそのままシステムに与えて自動化を行ったりすることができる。
なお、第１実施例〜第５実施例では、異常判定（ハンチング等の不具合の状況把握、プラントおよび設備機器の異常状態の検知）や、状況に応じてとるべき行動の決定のための状況類別に本発明の類別モデル生成方法を利用したが、音声や画像などのパターンの認識に利用してもよいことは言うまでもない。
本発明は、音声や画像などのパターンの認識又は状況の類別を行うコンピュータシステムで使用される、パターン認識又は状況類別のための類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体に関するものである。
背景技術
プロセス制御等の分野で使用されるシステムにおいては、異常な状況か否か、あるいは所定の動作を行うべき状況であるか否か等を判別するために、状況の類別が要求される。このような異常判定や動作決定のための状況類別は、状況の類別に用いられる特徴量（以下、変量と呼ぶ）によって定義される特徴空間において、異常／正常、あるいは動作A/動作Ｂといったクラス分けをすることで状況を類別する問題ととらえることができる。
従来、状況の類別を実現する方法として、判別分析法が知られている。判別分析法は、数種類の変量によって特徴付けられるクラスが存在するとき、各クラスに属するデータにより、類別すべき状況がどのクラスに属するかを判別する方法であり、通常、統計的手法に基づいた方法である。
例えば、ある目標を達成したクラスをＡ、目標を達成しなかったクラスをＢとし、変量x1,x2,・・・,xn（例えば、顧客訪問回数、電話使用料金、熱意を数量化した数値等）によって特徴付けられる複数のデータがクラスごとに得られているとする。判別分析法では、クラスA,Bの相違が明らかになるように各変量に重みを与えた判別関数Ｙを考える。
Ｙ＝a1x1＋a2x2＋・・・・＋anxn ・・・（１）
a1,a2,・・・・,anは各変量の重みである。なお、式（１）では、判別関数の１例として、判別関数Ｙが線形の場合（各クラスの分散共分散行列が等しい場合）を記述している。図21では、変量x1,x2によって定義される２次元の特徴空間内に、データDaの集まりであるクラスＡの空間、データDbの集まりであるクラスＢの空間が存在し、判別関数Ｙを定めた様子を示している。これにより、Ｙ≧０となる状況が発生すれば、この状況はクラスＡに属すると判定でき、Ｙ＜０となる状況が発生すれば、この状況はクラスＢに属すると判定できる。
また、状況の類別を実現する他の方法として、対象を特徴付ける型、様式や模様などに基づいて対象を認識するパターン認識法が知られている。このパターン認識法としては、ニューラルネットワークを用いた方法が提案されている（Gail A.Carpenter and Stephen Grossberg,“PATTERN RECOGNITION BY SELF−ORGANIZING NEURAL NETWORKS",A Bradford Book,1991）。また、他のパターン認識法として、RCE（Restricted Coulomb Energy）ネットワークを利用した方法が提案されている（D.L.Reilly,L.N.Cooper and C.Elbaum,“Self Organizing Pattern Class Separator and Identifier",U.S.Patent No.4,326,259.Awarded Apr.20,1982）。
ニューラルネットワークは、生物の脳で行われているようなニューロンによる並列情報処理メカニズムを工学的に実現しようとするものである。ニューラルネットワークを状況の類別に使用する場合には、いくつかの代表的な状況が有する変量と、これらの変量に応じてニューラルネットワークが出力すべき判別結果とをニューラルネットワークに与え、所望の判別結果が得られるようにニューラルネットワークを学習させる必要がある。ニューラルネットワークを学習させる方法としては、通常、バックプロパゲーション（Back Propargation）法が用いられる。
RCEネットワークは、線形分離不可能な多次元の空間を占めるクラスを複数の基本図形（例えば、多次元の超球）で近似することにより、特徴空間をクラス分けするものである。図22に示した例では、線形分離不可能なクラスA,Bの空間を基本図形Ca,Cbでそれぞれ近似して、変量x1,X2で定義される２次元の特徴空間をクラス分けしている。
発明の開示
［発明が解決しようとする課題］
しかしながら、判別分析法では、各クラスの空間を線形分離することが不可能な場合、高次多項式によって判別関数を近似しなくてはならず、変量の種類が多く、各クラスの空間が複雑な場合、判別関数の導出が困難であるという問題点があった。
また、ニューラルネットワークを利用した方法では、ニューラルネットワークの学習速度が遅いという問題点があり（通常、100〜1000回程度の学習が必要とされ、場合によっては１週間程度の時間がかかる）、また類別に最適なネットワーク構成の決定が難しいという問題点があった。さらに、類別処理、すなわち状況を特徴付ける変量に基づいて状況を類別する処理に時間がかかるため、処理速度を上げようとすると、高価な半導体チップが必要になるという問題点があった。
そして、RCEネットワークを利用した方法では、クラスA,Bに属するデータDa,Dbを中心として他のクラスに干渉しない大きさの基本図形Ca,Cbを生成する。しかし、基本図形の中心となるデータDa,DbがクラスA,Bの空間を良好に近似できる位置に存在しているとは限らないため、本来はクラスに入れるべきでない状況をもクラスに属すと判定してしまうことがあり、誤認識の可能性があるという問題点があった。例えば、図22の例では、基本図形CbがクラスＢの空間を良好に近似しているのに対し、基本図形CaはクラスＡの空間からはみ出している。したがって、クラスＡに入れるべきでない状況をクラスＡに属すと判定してしまうことが有り得る。また、RCEネットワークを利用した方法では、各クラスのデータ群から掛け離れたデータが少数存在する場合、そのデータの影響を受けてしまうという問題点があった。
本発明は、上記課題を解決するためになされたもので、学習の速度及び類別処理の速度が速く、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を良好に近似することができる類別モデルの生成方法、及び類別モデル生成方法をコンピュータに実行させるためのプログラムを記録した記録媒体を提供することを目的とする。
［課題を解決するための手段］
本発明の類別モデル生成方法は、請求項１に記載のように、CPUとメモリとを備えたコンピュータにおいて、ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が上記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、ｎ次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とを、前記メモリに記憶されたプログラムに従って前記CPUに実行させることにより、類別モデルを生成するようにしたものである。
このように、本発明では、分割数ｍを統計的有意水準（データ密度）に基づいて決定して特徴空間を分割し、生成された分割領域をｎ次元データを内包するか否かでクラス分けすることにより、類別モデルを生成する。これにより、各クラスの空間を線形分離することが不可能な場合であっても、各クラスの空間を適切に近似した類別モデルを生成することができる。また、学習領域群を膨張させる処理と学習領域群を収縮させる処理を行うことにより、本来、クラスに属すべき分割領域を学習領域群に加えることができる。
また、本発明の類別モデル生成方法は、請求項２に記載のように、内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについての平均と分散から、上記統計的有意水準に基づく分割数ｍを決定するようにしたものである。
また、請求項３に記載のように、上記学習領域群を膨張させる処理を行う前に、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外する処理を行うようにしたものである。
このように、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができる。
また、請求項４に記載のように、上記学習領域群を膨張させる処理は、任意の分割領域に着目して、この着目領域に隣接する分割領域の中に学習領域が１個でも存在する場合、着目領域を学習領域とする処理であり、上記学習領域群を収縮させる処理は、任意の学習領域に着目して、この着目領域に隣接する分割領域の中に学習されていない領域が１個でも存在する場合、着目領域を学習領域群から除外する処理である。
また、請求項５に記載のように、上記クラスが複数存在するときは、クラスごとに上記統計的有意水準に基づいて分割数を求めた後に、クラスごとに求めた分割数から全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うようにしたものである。これにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
また、請求項６に記載のように、あるクラスに属すると認識された総数のＮの学習領域の中に、他のクラスにも属すると認識された学習領域がｅ個あるとき、e/Nをクラス間の分離性を示す誤識別率とするようにしたものである。
また、本発明の記録媒体は、請求項７に記載のように、ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が上記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により上記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、ｎ次元データを内包する分割領域を上記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、上記学習領域の周辺の分割領域を学習領域に加えることによって学習領域群を膨張させる処理と、上記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とをコンピュータに実行させるためのプログラムを記録したものである。
［効果］
（１）本発明によれば、請求項１に記載のように、分割数ｍを統計的有意水準に基づいて決定して特徴空間を分割し、入力された個々のｎ次元データと分割領域との対応付けを行うことにより、各クラスの空間を線形分離することが不可能な場合でも、各クラスの空間を非線形的に分離可能な類別モデルを生成することができる。その結果、各クラスの空間を正確に近似でき、誤類別率の低い類別処理を行うことができる。また、統計的有意水準に基づいて分割数ｍを決定することにより、統計的に有意な大きさの分割領域を生成するので、データの偏りの影響を受け難くすることができる。また、必要以上の分割領域を生成しないので、従来のパターン認識法よりもコンピュータのメモリの使用量を少なくすることができ、類別モデルを生成する学習速度、及び類別処理の速度を速くすることができる。さらに、システムの利用者が、類別すべき状況と対応するデータの周囲の学習状態を参照して、類別モデル生成時のデータが不十分であると判断した場合には、類別処理を見合わせることができるので、誤って別のクラスに類別してしまう可能性を低くすることができる。
（２）また、請求項３に記載のように、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外することにより、ノイズと考えられるデータを内包する領域を学習領域から除去することができ、ノイズの影響を低減することができる。
（３）また、請求項５に記載のように、クラスごとに統計的有意水準に基づいて分割数を求めた後に、全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理をクラスごとに行うことにより、複数のクラスが存在する場合でも、各クラスの空間を近似した類別モデルを容易に生成することができる。
（４）また、請求項６に記載のように、あるクラスに属すると認識された総数のＮの学習領域の中に他のクラスにも属すると認識された学習領域がｅ個あるとき、e/Nを誤識別率とすることにより、この誤識別率を用いて特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成した類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
（５）また、請求項７に記載のように、プログラムを記録媒体に記録することにより、分割数ｍを決定する処理、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理、及び学習領域群を収縮させる処理をコンピュータに実行させることができる。
【図面の簡単な説明】
図１は、本発明の第１実施例となる類別モデル生成方法を説明するためのフローチャート図である。
図２は、分割数ｍに対する比率Ｆ（ｍ）の特性を示す図である。
図３は、本発明の第１実施例において、２次元の特徴空間内に分布するデータの１例を示す図である。
図４は、図３の特徴空間において、２つの変量をそれぞれ16分割した結果を示す図である。
図５は、分割によって生成された領域のうちクラスに属すると判定された学習領域を示す図である。
図６は、クラスに属すると判定された学習領域のうち孤立領域を示す図である。
図７は、隣接領域の定義を示す図である。
図８は、図６の特徴空間に対して膨張処理を行った結果を示す図である。
図９は、図８の特徴空間に対して収縮処理を行った結果を示す図である。
図10は、本発明の第１実施例において、収縮処理を行った後の最終的な類別モデルを示す図である。
図11は、図10の類別モデルにおいて、類別モデル生成時のデータが不十分と考えられる領域を示す図である。
図12は、本発明の第２実施例において、空調システムの１つであるVAVシステムにおいて給気温度にハンチングが生じている様子を示す図である。
図13は、本発明の第２実施例において、２次元の特徴空間内に分布するデータの１例と、このデータに基づいて生成された類別モデルとを示す図である。
図14は、本発明の第３実施例における反応物生成プラントの構成を示す図である。
図15は、図14のプラントによって生成された反応物の品質を示す図である。
図16は、本発明の第３実施例において生成された類別モデルを示す図である。
図17は、本発明の第４実施例において生成された類別モデルを示す図である。
図18は、本発明の第４実施例において、現在の状況を内包する分割領域と学習領域との領域間距離を示す図である。
図19は、本発明の第５実施例において、一般的なオペレータをモデル化したオペレーションモデルの操作出力と熟練オペレータの操作出力を示す図である。
図20は、本発明の第５実施例において生成された類別モデルを示す図である。
図21は、判別分析法を用いた従来の状況類別方法を説明するための図である。
図22は、RCEネットワークを用いた従来の状況類別方法を説明するための図である。
発明を実施するための最良の形態
［第１実施例］
次に、本発明の実施例について図面を参照して詳細に説明する。図１は、本発明の第１実施例となる類別モデル生成方法を説明するためのフローチャート図である。
本発明の類別モデル生成方法を利用するコンピュータシステムは、コンピュータ、ディスプレイ装置、キーボード、外部記憶装置などを備えた周知の構成のものでよい。また、コンピュータ本体も、CPU、ROM、RAM、ディスプレイ装置やキーボードあるいは外部記憶装置とのインタフェースをとるための回路などを備えた周知の構成のものでよい。CPUは、ROM若しくはRAMに記憶されたプログラム、又はキーボードから入力されたコマンドに従って処理を実行する。また、CPUは、外部記憶装置にデータを書き込んだり、外部記憶装置からデータを読み出したりすることができる。
このようなコンピュータシステムにおいて、本発明の類別モデル生成方法を実現させるためのプログラムは、フレキシブルディスク、CD−ROM、メモリカード等の記録媒体に記録された状態で提供される。この記録媒体を外部記憶装置に挿入すると、媒体に記録されたプログラムが読み取られ、コンピュータに転送される。そして、CPUは、読み込んだプログラムをRAM等に書き込む。こうして、CPUは、以下で説明するような処理を実行する。
次に、本発明の類別モデル生成方法の基本概念について説明する。
状況を類別するために選定された変量がｎ種類あるとすれば、特徴空間は、このｎ種類の変量によって定義されるｎ次元の空間である。そして、本発明では、状況の類別に好適又はクラス間の分離性が良好であると考えられるｎ種類の変量を選定して、各変量の最小値と最大値との間のレンジを変量ごとに正規化し、各変量をある数ｍで区切ることにより、特徴空間を有限個の領域に分割する。なお、クラス間の分離性については後述する。
今、データの総数がＭとなるＩクラスが存在するとき、このクラスを特徴付けるのに好適な変量を選定して、クラス領域を包含する特徴空間を定義する。これにより、上記クラスに属するデータは、特徴空間内に分布し、変量によって位置が特定される点となる。各変量をそれぞれｍ分割すれば、特徴空間は、mn個の領域に分割され、生成された各領域は、データを内包するか否かでクラス分けされる。これが、類別モデルの基本的な作成方法である。
次に、適切な類別モデルを作成することができる分割数ｍの決定方法について説明する。まず、ｍ分割によって生成される分割領域のうち、内包するデータの数が１個となる分割領域の数をｐとしたときの比率Ｆ（ｍ）＝p/Mを考える。この比率Ｆ（ｍ）は、内包するデータの数が１個となる分割領域の確からしさととらえることができ、分割数ｍに対して図２のような特性を示す。つまり、比率Ｆ（ｍ）は非減少関数であり、次式のような性質を有する。
よって、比率Ｆ（ｍ）は、右連続関数であり、確率分布関数の１つと考えられる。本発明では、連続関数Ｆ（ｍ）を整数ｍでサンプリングしていると考えればよい。
続いて、データ密度１について考える。ここで扱うデータ密度１は、あるデータに着目したとき、この着目データと最も近いデータとの距離である。また、ここでの距離は、ユークリッド距離である。特徴空間の次元をｎ、第１のデータを表す変量の値をx1,x2,・・・・,xn、第２のデータを表す変量の値をx1',x2',・・・・,xn'とすると、第１のデータと第２のデータのユークリッド距離は、（（x1−x1'）２＋（x2−x2'）２＋・・・・＋（xn−xn'）２）1/2となる。
このようなデータ密度ｌの度数分布は正規分布とみなせる。また、分割数ｍを増やしていったとき、内包するデータの数が１個となる分割領域が生成される度合いが最も高くなるのは、データ密度ｌの度数が最も高いときと考えられる。そして、上記度合いは、データ密度ｌが極めて小さいときやデータ密度ｌが極めて大きいときには低くなると考えられる。
したがって、内包するデータの数が１個となる分割領域が生成される度合いは、分割数ｍに対して正規分布に従うと考えられる。
なお、データ密度を考えるときの距離をユークリッド距離ではなく、ｍ分割によって得られる分割領域の縦・横の長さに相当するような距離で考えれば、正規分布に従うことは明白である。ここでの距離は、例えばmax（|x1−X1'|,|x2−x2'|,・・・・,|xn−xn'|）となる。maxは（）内の値のうちの最大値を取り出すことを意味する。
以上の説明により、正規分布に基づく有意な分割数ｍを決めることが可能と考えられる。ただし、内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについて、その平均μ及び分散σを求めるには、クラスに属するデータの総数Ｍが200個以上であることが必要となる。その理由は、Ｍ≧200のとき、平均μ及び分散σが真の値とみなせるからである。
内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについて、その平均μ及び分散σを計算するには、次式を用いればよい。
そして、本実施例では、μ＋３σを統計的有意水準とし、これに最も近い整数値を有意な分割数ｍとする。なお、統計的有意水準は、μ＋３σに限るものではないことは言うまでもない。
こうして、分割数ｍを決定することができる。ただし、以上の説明はクラスが１つの場合であって、クラスがｉ個（ｉ＝1,・・・,k;k≧２）存在する場合は、上述の方法によってクラスごとに分割数miを求め、これらに基づいて全クラスに共通な最終的な分割数ｍを次式のように求める。
次に、以上の基本概念に基づく実際の処理について説明する。
まず、コンピュータシステムの利用者は、複数種の変量によって特徴付けられる多次元データを収集し（図１ステップ101）、複数種の変量から状況の類別に好適又はクラス間の分離性が良好であると考えられるｎ種類の変量を選定する（ステップ102）。そして、利用者は、収集したデータをｎ種類の変量によって特徴付けられる多次元データ（つまり、ｎ種類の変量によって特徴空間上の位置が特定されるデータ）としてコンピュータに入力する（ステップ103）。
例えば、２つの変量x1,x2によって特徴付けられる１つのクラスＡが存在し、このクラスＡに属する複数のデータＤが変量x1,x2によって定義される２次元の特徴空間Ｓ内に図３のように分布していると仮定する。
このような変量x1,x2によって特徴付けられる多数のデータＤが入力されると、コンピュータは、上述の方法により分割数ｍを決定する（ステップ104）。ここでは、分割数ｍ＝16が得られたので、変量x1,x2のフルレンジをそれぞれ16分割した結果を図４に示す。これで、特徴空間Ｓは256個の領域Ｅに分割される。
続いて、コンピュータは、ｍ分割によって生成された分割領域ＥとデータＤを対応づけ、特徴空間Ｓをクラス分けする（ステップ105）。つまり、コンピュータは、分割領域Ｅ内にデータＤが存在すれば、この領域ＥをクラスＡに属すると認識する。以下、クラスＡに属すると判定された分割領域Ｅを学習領域Eaと呼ぶ。この学習領域Eaを図５に示す。
なお、学習領域Eaの中には、２つ以上のデータを内包する分割領域も含まれている。このデータを正確に表わそうとすれば、より細かい分割が必要となるがデータ全体の密度を統計的に考慮した場合には図４の分割が相応しい。
次いで、コンピュータは、ノイズと考えられるデータを内包する分割領域を学習領域Eaから除去する（ステップ106）。これは、実際にはノイズであるデータが図３のデータ中に含まれていると考えられるからである。本実施例では、隣接する分割領域の中に学習領域Eaが１つもない分割領域をノイズと考えられるデータを内包する領域とし、これを孤立領域Eisoと呼ぶ。そして、この孤立領域Eisoを学習領域Eaから除去する。孤立領域Eisoを図６に示す。
なお、特徴空間がｎ次元の場合、ある領域E0に対して3n−１近傍の領域を領域E0に隣接する領域と呼ぶ。例えば、特徴空間が２次元の場合には、図７に示すように、領域E1〜E8の領域を領域E0に隣接する領域と呼ぶ。
ステップ104〜ステップ106の処理は、あくまで図３のデータに基づいて行われているが、図３のデータは、クラスＡの全てを表すデータとしては不足していることが考えられる。よって、ステップ105でクラスＡに属すると判定された学習領域Ea以外にも、クラスＡに属すべき分割領域が存在する可能性がある。そこで、図６の特徴空間を画像に相当するものとみなし、この画像に対して画像処理技術で利用されている膨張・収縮処理を実施することにより、本来、クラスＡに属すべき領域が学習領域Eaに含まれるようにする。
まず、コンピュータは、図６の特徴空間に対して膨張処理を行う（ステップ107）。膨張処理は、任意の分割領域に着目し、この着目領域に隣接する分割領域の中に学習領域Eaが１個でも存在する場合、着目領域がクラスＡに属すべき領域である可能性があるとみなして、着目領域を学習領域とする処理である。このような処理を特徴空間の全領域について行う。膨張処理の結果を図８に示す。図８では、領域Ea'が新たに学習領域として加えられた領域である。
続いて、コンピュータは、図８の特徴空間に対して収縮処理を行う（ステップ108）。収縮処理は、任意の学習領域Ea,Ea'に着目して、この着目領域に隣接する分割領域の中に学習されていない領域Ｅが１個でも存在する場合、着目領域がクラスＡに属すべき領域ではないとみなして、着目領域を学習領域Ea,Ea'から除去する処理である。このような処理を全学習領域Ea,Ea'について行う。収縮処理の結果を図９に示す。図９では、領域Edが学習領域Ea,Ea'から除外された領域である。なお、膨張・収縮処理は現状のコンピュータの能力では問題とならず、数秒で処理が終了する。
以上のような処理の後に学習領域Ea,Ea'をまとめたものが図10に示す最終的な学習領域Ea''である。このようにして、特徴空間をクラスＡに属する学習領域Ea''と学習されていない領域Ｅにクラス分けしたものが類別モデルである。
次に、利用者は、類別すべき状況を表す変量x1,x2をコンピュータに入力する。これに応じて、コンピュータは、作成した類別モデルを用いて類別処理を行う（ステップ109）。つまり、コンピュータは、入力変量x1,x2によって類別モデル上の位置が指定されるデータが学習領域Ea''と領域Ｅの何れに属するかにより、状況のクラス分けを行う。よって、類別すべき状況に対応するデータが学習領域Ea''中の位置にあれば、この状況はクラスＡに属すると認識され、データが領域Ｅ中にあれば、クラスＡには属さないと認識される。クラスＡに属すると認識した場合、入力変量x1,x2によって指定されたデータを内包する１つの学習領域Ea''の周囲が全て学習領域Ea''であれば、クラスＡに属すると判別した類別結果の確信度が高いと考えることができる。これに対して、クラスＡに属すると認識した場合でも、入力変量x1,x2によって指定されたデータを内包する１つの学習領域Ea''の周囲に学習領域Eaと学習されていない領域Ｅが混在する場合は、クラスＡに属すると判別した類別結果の確信度が低いと考えることができる。
また、本発明では、収集したデータのみによって類別モデルを作成するため、収集したデータが学習領域の生成に不十分な場合が有り得る。利用者は、作成された類別モデルを参照して、類別モデル生成時のデータが十分かどうかを確認することができ、データが不十分であると判断した場合には、この類別モデルによる類別処理を見合わせることができる。例えば、本実施例の類別モデルの場合、図11に示す斜線部の領域Ecに注目すると、この領域Ecの周りの分割領域は、そのほとんどが学習素子Ea''である。よって、領域Ecは、類別モデル生成時のデータが不十分であった可能性があることが分かる。
なお、本実施例では、クラスが１つの場合で説明したが、クラスが複数存在する場合は、共通の特徴空間において、ステップ103〜ステップ108の処理をクラスごとに行って、類別モデルを作成すればよい。このとき、分割数ｍについては、式（５）によって求めた全クラスに共通な分割数を用いてもよいし、クラスごとに異なる分割数を用いてもよい。
また、クラスが複数存在する場合、あるクラスに属すると認識された総数のＮの学習領域のうちに、他のクラスにも属すると認識された学習領域がｅ個あるとすれば、誤識別率Ｒを次式のように定義できる。
Ｒ＝e/N ・・・（６）
この誤識別率Ｒはクラス間の分離性を示す指標と考えることができるので、誤識別率Ｒを用いれば、特徴空間を定義する変量が正しく選定されているかどうかを検証できる。また、生成された類別モデルの誤識別率を把握することができるので、類別モデルによる類別性能を事前に把握することができる。
以上のように、本発明は、画像処理技術の画素に相当するような分割領域をデータ密度に基づいて特徴空間内に生成し、生成した分割領域をデータを内包するか否かでクラス分けすることにより類別モデルを生成し、この類別モデルを用いて異常判定や動作決定等の状況類別を行うものである。
なお、画像処理技術や従来のパターン認識法では、画素数があらかじめ決められているので、クラス領域を近似する際に、必要以上の画素数を用いることが起こり得る。このため、従来のパターン認識法では、多くのメモリを必要とし、類別処理の速度が遅くなる。これに対し本発明では、データ密度に基づいて統計的に有意な大きさの素子を分割領域を生成するので、必要以上の分割領域を生成しない。したがって、従来の方法よりもコンピュータ上のパフォーマンスを向上させることができる。
また、従来の方法では、類別モデル生成時にデータが不十分な場合や、クラスが占める空間形状が複雑な場合、誤って別のクラスに類別してしまう可能性が高くなる。これに対し、本発明では、類別すべき状況を表すデータが学習されていない分割領域に含まれる場合であっても、周囲の領域がどのようなクラスに属するかを参照することにより、コンピュータシステムの利用者が類別処理に介在することが可能となる。その結果、誤って別のクラスに類別してしまう可能性を極力少なくすることができる。
［第２実施例］
次に、より具体的な例を以下に示し、本発明をさらに具体的に説明する。
空調システムでは、一般にPIDコントローラが利用されている。しかしながら、PIDコントローラのパラメータは、全ての状況に対して適切に設定されているわけではないので、ハンチングという現象が発生する。ハンチングは、目標とすべき設定値に対して制御量が振動してしまう現象である。ビルディングの空調システムにおいては、全ての状況に対して１種類のパラメータで適切に対応することは容易ではない。
そこで、本発明の類別モデル生成方法により、類別モデルを生成して、ハンチングが起こる状況を類別してやれば、状況に応じてPIDコントローラのパラメータを適切に切り換えることができるので、どのような状況においても空調システムを適切に制御することができるようになる。
本実施例では、空調システムの１つであるVAV（Variable Air Volume）システムの給気温度制御を例にとって説明する。図12に示すように、時刻t1〜t2、t4〜t5において給気温度にハンチングＨが生じている場合、利用者は、ハンチングＨが発生していない時刻t0〜t1、t2〜t4、t5以降のデータをクラスＡ、ハンチングＨが発生している時刻t1〜t2、t4〜t5のデータをクラスＢに振り分けておく。このとき、収集するデータの変量としては、給気温度だけでなく、VAVシステムに関連する全ての変量とする。
続いて、利用者は、ハンチングが生じる状況の類別に好適であると考えられる変量を選定する。給気温度のハンチングが生じる要因としては、換気温度、換気湿度が知られているので、この２つの要因を変量として選定する。そして、利用者は、収集したデータを換気温度、換気湿度によって特徴付けられる多次元データとしてコンピュータに入力する。
例えば、クラスＡに属する複数のデータDa、クラスＢに属する複数のデータDbが換気温度、換気湿度という２つの変量によって定義される特徴空間Ｓ内に図13（ａ）のように分布していると仮定する。このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間ＳをクラスＡに属する学習領域Ea、クラスＢに属する学習領域Eb、学習されていない領域Ｅの３つにクラス分けし、図13（ｂ）のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、換気温度と換気湿度で特定される現在の状況がハンチングの発生する状況であるか否かを類別できるので、類別結果に応じてPIDコントローラのパラメータを切り換えることが可能となる。その結果、どのような状況においても、ハンチングを起こさずに、VAVの給気温度制御が行うことができる。
［第３実施例］
石油、化学プロセスでは、製品の品質が監視されているが、どのような状況のときに品質が悪化するかが分からない場合が多い。そこで、本発明の類別モデル生成方法により、適切な類別モデルを生成して、品質が悪化する状況を類別してやれば、品質が悪化する状況にならないようにプロセスを運転したり、制御パラメータを切り換えたりすることが可能となる。
本実施例では、図14に示すように、溶剤及び触媒の入った反応器11内に原料12,13を投入して、反応物14を生成する化学プロセスを例にとって説明する。図14のプラントによって生成された反応物14の品質（組成）を図15に示す。図15において、THは合格品と不合格品を分けるしきい値であり、品質がしきい値TH未満に収まっている場合、反応物14は合格品となり、品質がしきい値THを超える場合、反応物14は不合格品となる。
図15のように、時刻t1〜t2、t3〜t4において反応物14に不合格品が生じている場合、利用者は、不合格品が発生していない時刻t0〜t1、t2〜t3、t4以後のデータをクラスＡ、不合格品が発生している時刻t1〜t2、t3〜t4のデータをクラスＢに振り分けておく。ここで、収集するデータの変量としては、化学プロセスに関連する全ての変量（原料12,13の投入量、溶剤の量、触媒の量、反応器11の内部温度、反応物14の組成）とする。続いて、利用者は、統計解析やプロセスの仕組み、及び経験則により、反応物14に不合格品が発生する要因を特定する。例えば、原料13の投入量と触媒量が反応物14の品質に係わる要因であるとすると、利用者は、この２つの要因を変量として選定し、収集したクラスＢのデータを原料13の量と触媒量によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＢに属する学習領域Ebと学習されていない領域Ｅにクラス分けし、図16のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、ある量の原料13と触媒を使用したとき、この状況が反応物14に不合格品の生じる状況であるか否かを類別できるので、不合格品を作らないように制御することが可能となる。例えば、原料13をｑ投入する場合には、触媒の量をq1若しくはq2〜q3の範囲で使用すれば、合格品が生産できることが分かる。
［第４実施例］
製造業において設備機器の異常を検知することは、故障による多大な損害が爆発等の危険を回避するために必要なことである。しかし、設備機器の異常が発生することは稀なので、異常という状況のデータを収集することは難しい。そこで、本実施例では、第２、第３実施例のときと異なり、設備機器が正常に運用されているときのデータのみを使用することになる。
ここでは、回転機を例にとって説明する。例えば、回転機の正常／異常がその回転数と音の振動数により判別できる場合、コンピュータシステムの利用者は、回転数と音の振動数を変量として選定し、収集した正常運用時のデータを回転数と音の振動数によって特徴付けられる多次元データとしてコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＡ（正常な状況の集合）に属する学習領域Eaと学習されていない領域Ｅにクラス分けし、図17のような類別モデルを生成する。この類別モデル上では、回転機の現在の状況は、回転数と振動数で特定される点である。よって、現在の状況に対応する点は、類別モデル内のある分割領域に含まれる。
利用者は、現在の状況を内包する分割領域と学習領域Eaとの距離をコンピュータに計算させ、この領域間距離の変化を図18のようにディスプレイ装置にグラフ表示させる。図18の領域間距離は、回転機の現在の状況と正常な状況との関係を示唆するものであり、これを見ることにより、回転機の正常／異常を判断することができる。つまり、時刻t1やt2のように、距離が０でなくなる状況が一時的に発生する場合は問題ないが、時刻t3〜t4のように、距離が０でなくなる状況が頻繁に起こる場合は、異常の予兆ととらえることができる。また、時刻t4〜t5のように、現在の状況が正常な状況から次第に離れていく場合は、早急に点検を行わなければならないことが分かる。
［第５実施例］
現在の製造プロセスでは、熟練オペレータがシステムを運転しているものが多い。しかしながら、熟練オペレータの数は減少しつつあり、また熟練オペレータの知識を伝授したり、自動化を行ったりすることは困難なことが多い。
そこで、本発明の類別モデル生成方法により、類別モデルを生成すれば、一般的なオペレータの操作出力と熟練オペレータの操作出力が大きく異なる状況がどのような状況であるかを認識することができ、運転の支援や自動化を行うことができる。一般的なオペレータをモデル化したオペレーションモデルを作成することは容易なので、このオペレーションモデルの操作出力（システムへの入力値）Op1と熟練オペレータの操作出力Op2とを図19のように比較する。
オペレーションモデルがシステムの状態を示す計測値PV1,PV2に基づいて操作出力を決定しているとすると、コンピュータシステムの利用者は、計測値PV1,PV2を変量として選定し、オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である時刻t1〜t2の計測値PV1,PV2をコンピュータに入力する。
このようなデータが入力されると、コンピュータは、第１実施例で説明した方法により、特徴空間をクラスＡ（オペレーションモデルの操作出力と熟練オペレータの操作出力との差異が大である状況の集合）に属する学習領域Eaと学習されていない領域Ｅにクラス分けし、図20のような類別モデルを生成する。
こうして、作成した類別モデルを用いれば、計測値PV1,PV2で特定される現在の状況がクラスＡに属する状況であるか否かを類別できる。そして、現在の状況がクラスＡに属する状況であれば、熟練オペレータの操作出力値を参照して運転支援を行ったり、熟練オペレータの操作出力値をそのままシステムに与えて自動化を行ったりすることができる。
なお、第１実施例〜第５実施例では、異常判定（ハンチング等の不具合の状況把握、プラントおよび設備機器の異常状態の検知）や、状況に応じてとるべき行動の決定のための状況類別に本発明の類別モデル生成方法を利用したが、音声や画像などのパターンの認識に利用してもよいことは言うまでもない。
Claims (7)
- CPUとメモリとを備えたコンピュータにお いて、ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が前記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により前記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、
ｎ次元データを内包する分割領域を前記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、
前記学習領域の周辺の分割領域を学習領域に加えること によって学習領域群を膨張させる処理と、
前記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とを、前記メモリに記憶され たプログラムに従って前記CPUに実行させることにより、類別モデルを生成することを特徴とする類別モデル生成方法。 - 請求項１において、
内包するデータの数が１個となる分割領域が少なくとも１個生成される分割数ｍについての平均と分散から、前記統計的有意水準に基づく分割数ｍを決定することを特徴とする類別モデル生成方法。 - 請求項１において、
前記学習領域群を膨張させる処理を行う前に、隣接する領域の中に学習領域が１つもない学習領域を学習領域群から除外する処理を行うことを特徴とする類別モデル生成方法。 - 請求項１において、
前記学習領域群を膨張させる処理は、任意の分割領域に着目して、この着目領域に隣接する分割領域の中に学習領域が１個でも存在する場合、着目領域を学習領域とする処理であり、
前記学習領域群を収縮させる処理は、任意の学習領域に着目して、この着目領域に隣接する分割領域の中に学習されていない領域が１個でも存在する場合、着目領域を学習領域群から除外する処理であることを特徴とする類別モデル生成方法。 - 請求項１において、
前記クラスが複数存在するときは、クラスごとに前記統計的有意水準に基づいて分割数を求めた後に、クラスごとに求めた分割数から全クラスに共通な分割数を決定し、データと分割領域との対応付けを行う処理、学習領域群を膨張させる処理及び学習領域群を収縮させる処理クラスごとに行うことを特徴とする類別モデル生成方法。 - 請求項５において、
あるクラスに属すると認識された総数のＮの学習領域の中に、他のクラスにも属すると認識された学習領域がｅ個あるとき、e/Nをクラス間の分離性を示す誤識別率とすることを特徴とする類別モデル生成方法。 - ｎ種類の変量で定義されるｎ次元の特徴空間内において１つのクラスに属し、その位置が前記変量で特定されるｎ次元データが入力されたとき、各変量のｍ分割により前記特徴空間をmn個の分割領域に分割し、この分割に際して、内包するデータの数が１個となる分割領域が生成される度合いが分割数ｍに対し確率分布に従うとみなして、統計的有意水準に基づき分割数ｍを決定する処理と、
ｎ次元データを内包する分割領域を前記クラスに属する学習領域とし、入力された個々のデータと分割領域との対応付けを行う処理と、
前記学習領域の周辺の分割領域を学習領域に加えること によって学習領域群を膨張させる処理と、
前記学習領域と学習領域でない分割領域との境界に位置する学習領域を学習領域群から除外することによって学習領域群を収縮させる処理とをコンピュータに実行させるためのプログラムを記録した記録媒体。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP1997/004215 WO1999026164A1 (fr) | 1997-11-19 | 1997-11-19 | Procede pour generer un modele de classification, et support d'enregistrement |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP3614863B2 true JP3614863B2 (ja) | 2005-01-26 |
Family
ID=14181506
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP51740298A Expired - Fee Related JP3614863B2 (ja) | 1997-11-19 | 1997-11-19 | 類別モデル生成方法及び記録媒体 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US6510245B1 (ja) |
| EP (1) | EP1351184B1 (ja) |
| JP (1) | JP3614863B2 (ja) |
| DE (1) | DE69734123T2 (ja) |
| WO (1) | WO1999026164A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1937032B (zh) * | 2005-09-22 | 2011-06-15 | 财团法人工业技术研究院 | 切割语音数据序列的方法 |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1246164A1 (en) * | 2001-03-30 | 2002-10-02 | Sony France S.A. | Sound characterisation and/or identification based on prosodic listening |
| KR101247307B1 (ko) * | 2008-05-19 | 2013-03-25 | 재단법인서울대학교산학협력재단 | 데이터 분류를 위한 데이터 처리 방법, 상기 방법을 기록한기록 매체, 및 상기 방법을 실행하는 데이터 처리 장치 |
| JP7322918B2 (ja) * | 2021-03-29 | 2023-08-08 | 横河電機株式会社 | プログラム、情報処理装置、及び学習モデルの生成方法 |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5012675A (en) * | 1989-07-25 | 1991-05-07 | Amoco Corporation | Integrating multiple mappable variables for oil and gas exploration |
| US5309228A (en) * | 1991-05-23 | 1994-05-03 | Fuji Photo Film Co., Ltd. | Method of extracting feature image data and method of extracting person's face data |
| TW297107B (ja) * | 1991-06-18 | 1997-02-01 | Meidensha Electric Mfg Co Ltd | |
| JPH06195520A (ja) * | 1992-12-25 | 1994-07-15 | Fujitsu Ltd | 識別用辞書生成方法 |
| WO1995010820A1 (en) * | 1993-10-15 | 1995-04-20 | At & T Corp. | Methods and apparatus for classification of images using distribution maps |
| DK172429B1 (da) * | 1996-04-25 | 1998-06-08 | Peter Mikkelsen | Fremgangsmåde ved oplæring af et billedanalysesystem til brug ved analyse af et emne, samt anvendelse af fremgangsmåden |
| US6195659B1 (en) * | 1998-07-14 | 2001-02-27 | Trw Inc. | Method and apparatus for morphological clustering having multiple dilation and erosion of switchable grid data cells |
-
1997
- 1997-11-19 DE DE69734123T patent/DE69734123T2/de not_active Expired - Lifetime
- 1997-11-19 JP JP51740298A patent/JP3614863B2/ja not_active Expired - Fee Related
- 1997-11-19 US US09/355,119 patent/US6510245B1/en not_active Expired - Fee Related
- 1997-11-19 EP EP97955081A patent/EP1351184B1/en not_active Expired - Lifetime
- 1997-11-19 WO PCT/JP1997/004215 patent/WO1999026164A1/ja active IP Right Grant
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1937032B (zh) * | 2005-09-22 | 2011-06-15 | 财团法人工业技术研究院 | 切割语音数据序列的方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP1351184A1 (en) | 2003-10-08 |
| EP1351184A4 (en) | 2003-10-08 |
| WO1999026164A1 (fr) | 1999-05-27 |
| DE69734123T2 (de) | 2006-06-22 |
| DE69734123D1 (de) | 2005-10-06 |
| US6510245B1 (en) | 2003-01-21 |
| EP1351184B1 (en) | 2005-08-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20040022442A1 (en) | Method and system for face detection using pattern classifier | |
| CN101097564B (zh) | 参数学习方法及设备、模式识别方法及设备 | |
| JP5050607B2 (ja) | 検査装置、検査方法、検査プログラムおよびそれを記録したコンピュータ読み取り可能な記録媒体 | |
| Sivasankar et al. | Hybrid PPFCM-ANN model: an efficient system for customer churn prediction through probabilistic possibilistic fuzzy clustering and artificial neural network | |
| CN113438114B (zh) | 互联网系统的运行状态监控方法、装置、设备及存储介质 | |
| JP7047498B2 (ja) | 学習プログラム、学習方法および学習装置 | |
| KR102433598B1 (ko) | 데이터 경계 도출 시스템 및 방법 | |
| US20230194624A1 (en) | Battery management system for classifying a battery module | |
| Ammu et al. | Review on feature selection techniques of DNA microarray data | |
| CN111178196B (zh) | 一种细胞分类的方法、装置及设备 | |
| JP3614863B2 (ja) | 類別モデル生成方法及び記録媒体 | |
| EP4075219A1 (en) | System and method of monitoring an industrial environment | |
| CN110716761A (zh) | 信息处理平台上软件应用的执行参数的自动和自优化确定 | |
| JP2014115920A (ja) | 多クラス識別器、方法、及びプログラム | |
| JP2001184509A (ja) | パターン認識装置及び方法並びに記録媒体 | |
| KR102005952B1 (ko) | 기계학습 모델링에서 잡음 데이터 제거를 위한 데이터 정제 장치 및 방법 | |
| JP2022007232A (ja) | 情報処理方法および情報処理装置 | |
| JPWO2008084842A1 (ja) | カーネル関数生成方法および装置、データ分類装置 | |
| CN115081514A (zh) | 一种数据不平衡情况下的工业设备故障识别方法 | |
| CN114330121A (zh) | 一种工业时序数据长期快速预测方法及装置 | |
| JP2018181052A (ja) | モデル同定装置、予測装置、監視システム、モデル同定方法および予測方法 | |
| JP2001250101A (ja) | データ領域の解析方法及び表現方法 | |
| Al-Qadasi et al. | DeepAbstraction++: Enhancing Test Prioritization Performance via Combined Parameterized Boxes | |
| CN111783835A (zh) | 一种数据降维方法、装置及系统 | |
| JP2021152751A (ja) | 分析支援装置及び分析支援方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040713 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040909 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041026 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041028 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071112 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081112 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081112 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091112 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091112 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101112 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101112 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111112 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121112 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131112 Year of fee payment: 9 |
|
| LAPS | Cancellation because of no payment of annual fees |