JP2000514224A

JP2000514224A - マッピングの組み合わせを伴うパターン認識

Info

Publication number: JP2000514224A
Application number: JP10504915A
Authority: JP
Inventors: クリシュナチャンドラパーサウド; ポールジェーウエルズ
Original assignee: アロマスキャンパブリックリミテッドカンパニー
Priority date: 1996-07-05
Filing date: 1997-07-03
Publication date: 2000-10-24
Also published as: DE69704201T2; WO1998001819A1; ATE199600T1; DE69704201D1; EP0909426B1; AU3353697A; EP0909426A1

Abstract

(57)【要約】減少した次元数の空間へのマッピングが線形マッピングアルゴリズムにより達成され、そのアルゴリズムは主要成分分析（ＰＣＡ）アルゴリズムまたはその変形とすることができる。標準化変換は、複合線形回帰アルゴリズムを使用して実行することができる。その代わりに、複合非線形回帰アルゴリズム、制限数学的変換またはニューラルネットワークを使用して標準化変換を実行することができる。入力パターンは、ガスセンサアレイの応答またはそれに関連する量を含む。応答はニューラルネットワークへ入力される前に正規化され、または減少した次元数の空間にマッピングされる。

Description

【発明の詳細な説明】マッピングの組み合わせを伴うパターン認識本発明はパターン認識に関し、特に形態が外からの変動を受けるパターンを標準化する方法および装置に関する。現在ガス感知の分野において十分に確立されたアプローチは、ガスの感知および識別の目的でガスセンサのアレイを使用する。そのようなアレイは、例えば、複数の半導体有機ポリマー（ＳＯＰ）に基づくガス感知要素を有する（例えば、 Hatfield J.V.,Neaves P.,Hicks P.J.,Persaud K.およびTravers P.のSensors a nd Actuators B、18-19(1994)221ならびにその中の参考文献を参照）。各ガス感知要素は異なるＳＯＰを有し、そのＳＯＰはガスの範囲に対して広範かつ重なり合う感度を示すように選択される。こうして、多数のガスを検出および識別するために単一の装置を使用することができ、ガスはセンサアレイにわたる応答の特徴的なパターン（または「分子の指紋」）により認識される。しかし、温度、湿度、およびセンサの経時効果などの要因により生じる測定間の変動により、認識が妨害を受ける。さらに、製造条件の変動は、センサ間の指紋の精密な形状の変動を生む。多くの理由から、そのような変動の効果を排除し、または実質的に軽減することが非常に望ましい。第１に、パターン認識の信頼性−および、それによるガスの識別−が増大するであろう。第２に、既知のガスの測定に対応する応答の指紋は、その種類の、または、それどころか他の種類の全てのアレイについての万国共通の基準とみなすことができるであろう。第３に、再調整の必要が除去または減少される。そのようなアレイで使用されるガスセンサの数が非常に多く−典型的には２０以上−、それゆえ、応答の出力パターンは本質的には多次元空間内の位置である。パターンとパターングループとの視覚的比較は、未処理パターンの多次元空間からのデータを２次元または３次元空間へマッピングすることにより大きく促進されることが分かっている。主要成分分析（ＰＣＡ）などの非線形または線形の直交変換を適用することができる（例えば、Gardner JWおよびShurmer HVの Sensors and Actuators Ｂ４(1991）109,Kohonen T,Self Organization and Ass ociate Memory,New York,Springer-Verlag,1989,3rd Edition,ならびにJoliffe ITのPrincipal Component Analysis,New York,Springer-Verlag,1986を参照）。人間は２次元または３次元空間において関係を認識することに非常に熟達しているので、マッピングによりパターンの比較は容易化される。しかし、そのような変換は、それ自体では、上述したセンサ応答の変動の問題を改善するわけではない。未処理データ中に存在するあらゆる散乱が変換されたデータへ伝わることがある。ユーザが定義した分類に入力パターンを配置することが必要な監督されたトレーニング問題に対して多層人工ニューラルネットワークが通常使用される。そのようなネットワークは、２以上の層に構成されたニューロンまたはノードとして知られる複数組の処理要素からなる。一つの層は常に入力層であり、提示された入力パターンにより出力が規定されるニューロンであり、もう一つの層は常に出力層である。通常、入力層と出力層に挟まれた少なくとも１つのニューロンの「隠された」層があり、ネットワークは情報が一方向のみに流れる「フィードフォワード」型である。普通は、各層におけるニューロンへの入力は、もっぱらそれ以前の層中のニューロンの出力から始まっている。ネットワーク中の所定のニューロンの出力はニューロンへの入力の関数である。より詳細には、一つのニューロンは、バイアスと呼ばれる常に１．０に等しい仮定入力と共に、ｎからｎ−１が付されたｎ個の入力を有する。ニューロンは、入力を乗算するｎ＋１個の重み、およびニューロンの出力を作るために重み付けされた入力の合計に適用される活性化関数により特徴付けられる。バイアスを含む重み付けされた入力の合計は正味の入力として知られ、よってｎ個の入力ｘ_i （ｉ＝0,....,n-1）の組からのニューロンの出力Ｏは式１から得られる：ここで、netは正味の入力であり、ｆ( )は活性化関数であり、ｗ_nはバイアスの重み付けである。ニューロンの動作特性は主として重みにより制御される。活性化関数は典型的に非線形関数であり、しばしば、ニューロンの正味の入力に適用された時にそのニューロンの出力を決定するある種の閾値関数である。Ｓ字状関数がしばしば使用される。入力パターンをユーザが規定した分類中に配置する能力は、ニューラルネットワークの頻繁に使用される属性である。実際、ニューラルネットワークはパターン認識の目的でガスセンサの分野において広く使用されている。一つの観点では、本発明は、パターン認識の先駆工程として、センサアレイの出力を標準化する手段としてニューラルネットワークを使用することを含む。別の観点では、本発明は、センサアレイの出力を標準化する手段として、修正されたマッピングアルゴリズムを使用することを含む。これらのアプローチは、上述の種類の変動を実質的に除去する。実際、ここにおける「標準化」は、本来的に異なる種類のパターンの分離を維持しつつ上述の一般的な種類の変動を実質的に除去するプロセスを示すことを意図している。「標準化手段」はそのような標準化を実行する物理的な手段を含むと理解され、そこにおいて「未処理」データは標準化手段に入力され、標準化されたデーター減少した次元の−が出力される。本発明は、ガスセンサ出力の標準化には限定されず、あらゆる形態のパターン標準化に適用可能であると理解される。さらに、「ガス」の語は、例えば液体の揮発性成分を含む全てのガス状の種を含むと理解される。本発明の第１の観点によれば、入力パターンを標準化する方法が提供され、その方法は、標準化手段をトレーニングして前記標準化を行う工程と、前記標準化パターンに入力パターンを入力する工程と、および前記標準化手段から標準化パターンを出力する工程と、を有する。標準化手段は、ニューラルネットワークとすることができる。トレーニングは、ニューラルネットワークへトレーニングパターンを入力する工程と、出力パターンを基準パターンとする工程と、を有することができる。その代わりに、トレーニングは、複数の基準パターンを、好ましくは１次元から５次元の間の減少した次元数（Ｐ）の空間にマッピングする工程と、複数のトレーニングパターンを前記標準化手段に入力する工程であって、各トレーニングパターンは基準パターンに対応する種類である工程と、および、前記トレーニングパターンを、前記減少した基準パターンの次元数と等しい減少した次元数の空間にマッピングする工程と、および減少した次元のトレーニングパターンに標準化変換を行い、前記トレーニングパターンを実質的に前記減少した次元数の基準パターン上にマッピングする工程と、を有することができる。入力パターンは、マッピングされた基準パターンの次元数と等しい減少した次元数の空間にマッピングすることができ、そのように減少した入力パターンに標準化変換を適用して減少した次元数の標準化パターンを作成することができる。減少した次元数の空間へマッピングする工程は、線形マッピングアルゴリズムにより達成することができ、その線形マッピングアルゴリズムは、主要成分分析アルゴリズムまたはその変形とすることができる。トレーニングは、各トレーニングパターンベクトルまたはそれに関連するベクトルと各基準パターン主要成分の固有ベクトルとの内積を計算することによりトレーニングパターンＰＣＡスコアを生成する工程と、および、標準化変換を実行して、トレーニングパターンＰＣＡスコアを対応する基準パターンＰＣＡスコア上にマッピングする工程と、を有することができる。入力パターンＰＣＡスコアは、各入力パターンベクトルまたはそれに関連するベクトルと、各基準パターン主要成分の固有ベクトルとの内積を計算することにより生成され、前記標準化変換は前記入力パターンＰＣＡスコアに適用することができる。そのような関連するベクトルは、例えば正規化およびそれに続く基準列平均（データの重心）の減算により作成することができる。標準化変換は、複合線形回帰アルゴリズムを使用して実行することができる。代わりに、標準化変換は複合非線形回帰アルゴリズム、制限数学的変換またはニューラルネットワークを使用して実行することができる。トレーニングパターンベクトルと各基準パターン主要成分の固有ベクトルの内積を入力層へ入力し、かつ出力層が対応する基準パターンの対応する内積を出力するようにすることにより、ニューラルネットワークをトレーニングしてトレーニングパターンを基準パターン上にマッピングすることができる。次に、新しいパターンの内積をニューラルネットワークにより変換することができる。入力パターンは、ガスセンサアレイの応答またはそれに関連する量を含むことができる。ニューラルネットワークへ入力される前に応答を正規化し、または減少した次元数の空間にマッピングすることができる。アレイ内のガスセンサの数を２１以上とすることができる。基準パターンは、複数の異なるガスに対する少なくとも１つのガスセンサアレイの応答を含むことができる。ガスセンサの応答から一定のオフセットを減算することができる。この手順を使用することにより、個々のガスセンサが相互に実質的に同一の様相で応答するパターン間でより大きな分離を達成することができる。温度、湿度、センサの年齢、およびセンサの基礎抵抗値を含むグループの１以上の要素に関連する量をニューラルネットワークへ入力することもできる。本発明の第２の観点によれば、本発明の第１の観点を実行するのに適した標準化手段が提供され、その手段はコンピュータを含むことができる。標準化手段は、入力パターンが入力される複数の入力ノードと、および標準化パターンが出力される複数の出力ノードと、を有するパターン標準化ニューラルネットワークを含み、前記ニューラルネットワークは標準化を行うように事前にトレーニングすることができる。本発明による方法および装置を添付図面を参照して以下に説明する。添付図面において、図１は、ニューラルネットワークの概略図である。図２は、アレイＡの標準化前後の未処理データのサモン（Sammon）マップであって、標準化はアレイＡの平均パターンへのものである。図３は、正規化されたデータが使用される以外は図２と同様である。図４は、アレイＤの標準化前後の正規化データのサモンマップであって、標準化はアレイＤの平均パターンへのものである。図５は、アレイＢの正規化データの標準化前後のサモンマップであって、標準化はアレイＡ、Ｂ、ＣおよびＤの平均パターンへのものである。図６は、アレイＡおよびＣの標準化されていない未処理データのサモンマップである。図７は、アレイＤの標準化前後の未処理データのサモンマップであって、標準化はアレイＣの未処理データへのものである。図８は、センサアレイの酢酸ブチルおよび酢酸エチルの蒸気への暴露により生じた非標準化未処理データのサモンマップであり、５５日の期間にわたり１７回の測定が行われている。図９は、図８の標準化前後の未処理データのサブセットのサモンマップであり、標準化はオリジナル取得パターンへのものである。図１０は、（ａ）標準化していないデータのサモンマップ、および（ｂ）標準化データのサモンマップであって、両ケースのデータはそこから減算される一定値を有する。図１１は、７つの校正物質およびＰ＝４での２次元ＰＣＡプロットである。図１２は、１つの校正物質、６つの未知物質およびＰ＝３での２次元ＰＣＡプロットである。図１３は、２つの校正物質、５つの未知物質およびＰ＝３での２次元ＰＣＡプロットである。図１４は、４つの校正物質、３つの未知物質およびＰ＝３での２次元ＰＣＡプロットである。図１５は、７つの校正物質およびＰ＝３での２次元ＰＣＡプロットである。図１６は、３つの未知物質のマッピングを示す図１４の拡大部である。本発明は、入力パターンを標準化する装置および方法を含む。図１はパターン標準化ニューラルネットワークを示し、それは入力パターン１２が入力される複数の入力ノード１０と、および標準化されたパターン１６が出力される複数の出力ノード１４を備え、ニューラルネットワークは標準化を実行するように事前にトレーニングされている。トレーニングは、一連のトレーニングステップを含み、そのステップにおいてはトレーニングパターンがニューラルネットワークに入力され、出力パターンを基準パターンとする。ニューラルネットワークは、３層のフィードフォワード・ニューラルネットワークであり、それにおいては必然的に、入力ノード数および出力ノード数が入力パターンの成分の数以上（以下の例では３２）である。図１は入力層１０、隠し層１８および出力層１４を示すが、表示の単純のため図１は層間相互連結２０の１つのサブセットのみを示す。この記述のニューラルネットワークは成功であることが本発明で証明されているが、パーゼン（Parzen）ネットワークまたはラジアル基礎関数ネツトワーク（radial basis function network）などの他のアーキテクチャも本発明の視野内であることを注記しておく。トレーニングは、誤差逆伝搬方法を使用して実行されたが、確率的アルゴリズムなどの他のトレーニングアルゴリズムもこの目的に使用可能である。８個、１６個および３２個の隠しノードを使用した場合でも実質的に同一の結果が得られることが示された。以下の例の入力パターンはガスセンサアレイの応答またはそれに関連する量を含むが、ここに含める教示は他のパターン認識応用に転用することができる。これらの例で使用されるガスセンサアレイは複数のＳＯＰベースのセンサを含み、アレイの応答は、アレイをガスに露出した状態で測定した個々のガスセンサの直流抵抗変化を含む（Hatfield et al,ibid参照）。パターン−入力パターンおよび標準化された出力パターンは、本例ではサモン（Sammon）のマッピング手法（例えば、Sammon Jr J.W.IEEE Trans on Computer 5c-18（1969）401参照）により２次元に減少される。これは、パターンの多次元空間から２次元空間への非線形直交変換であり、パターンの視覚的比較を大きく助ける。例１３２個のＳＯＰセンサの４個のアレイを使用した。以下、アレイＡ、Ｂ、ＣおよびＤとして示す。各アレイはＳＯＰセンサの異なる組み合わせを含む。各アレイを５つの溶媒：ブタノン、酢酸エチル、エタノール／水、プロパノールおよびトルエンからの蒸気に暴露した。空気中で７つの異なる溶媒蒸気濃度において各溶媒の測定を行った。表１は５つの溶媒全てについて使用された％体積濃度を示す。単純のため、表１では可変濃度測定を１から７の「測定番号」で記述する。以下、これらの測定番号を濃度値の代わりに使用する。酢酸エチル、エタノール／水、プロパノール、およびトルエンについての測定番号１、３、５および６に対応するアレイＡからの未処理データ（すなわち、測定された直流抵抗変化）を使用して標準化を実行するようにニューラルネットワークをトレーニングした。トレーニングは一連のトレーニング「ステップ」からなり、そこで、これらの測定番号の１つに対応するトレーニングパターンをニューラルネットワークに入力すると共に、出力パターンを基準パターンとする。基準パターンは、アレイＡを伴う特定の溶媒についての平均パターンである。言い換えれば、特定の溶媒についての未処理データを、その溶媒についての平均パターンに標準化する。トレーニング後、ニューラルネットワークを使用して全ての未処理データに対応するパターンを変更した。サモン（Sammon）マッピングを入力および出力パターンについて実行した。その結果を図２に示す。酢酸エチル、エタノール／水、プロパノールおよびトルエンの溶媒では、標準化されたデータ点は目標、つまり平均値の周りに非常に緊密にクラスター化し、トルエン測定( トレーニングパターンとして使用せず)１つのみが例外であった。比較すると、非標準化未処理データは散乱の程度が大きい。しかし、トレーニングステップから除外されたブタノンについての結果はあまり満足できるものではない。非標準化データに見られる散乱は、測定条件の変動および応答パターン中の濃度依存性の小さな変動によると思われる。「未処理」データではなく、正規化されたデータの使用も調査された。正規化は、個々のガスセンサの抵抗値変化を、アレイについての総抵抗値変化のパーセンテージとして示すことにより達成された。以前と同様に、同一のデータセットをトレーニングに使用し、基準パターンは再度、酢酸エチル、エタノール／水、プロパノールおよびトルエンについての（今度は正規化された）データの平均パターンとした。その結果は図３に示され、ブタノンデータのクラスターに相当な改善を示した。よって、正規化したデータの使用は、これまでニューラルネットワークが未知であったガスまたは溶媒に対応するデータでさえも、優秀な標準化を容易にするようである。さらに、正規化されたデータは収束の観点でも長所を有する。トレーニングのための同一の４つの溶媒の測定番号１、４、６および７を使用するセンサアレイＢ、ＣおよびＤでも同様の結果が得られた。例えば、図４はアレイＤで得られた正規化されたパターンから生成した標準化データを示す。図４からは異なる溶媒に対応する各クラスターが測定番号１から７に対応する７つの異なるパターンからなることは明確では無いものの、非常に緊密なデータのクラスターが観察される。例２例１で述べた正規化データを再度使用し、各センサアレイＡからＤについてのそのパターンは４個のアレイ全てについての平均溶媒パターンに標準化されている。トレーニングのために、酢酸エチル、エタノール／水、プロパノールおよびトルエンの溶媒の測定番号１、４、６および７に対応する正規化データを選択し、そうしてトレーニングステップからブタン測定を除外した。基準パターンは、全ての測定番号および全てのアレイＡからＤについて平均化された、問題の溶媒についての対応する平均パターンであった。図５にアレイＢの標準化の結果を示し、その基準の、平均パターンは白抜き記号により図示される。これまで見られなかったブタノンデータについてさえも優秀なクラスター化が示されている。アレイＡ、ＣおよびＤの標準化においても非常に類似したクラスター化が観察された。これらの結果は、異なるアレイの応答特性中の相違により生じるパターン変動は、平均アレイパターンへの標準化により実質的に除去することができることを示す。これは、問題のアレイが異なるＳＯＰの組み合わせからなる場合でさえ達成可能である。例３例１に述べた正規化データを使用した。この例では、アレイＡ、ＢおよびＤで行った測定に対応するデータをアレイＣの応答へ標準化した。この変換は、異なるアレイが異なるＳＯＰの組み合わせを有し、それゆえ図６に示されるように、アレイＡおよびＣのオリジナルデータを示す異なる固有応答を所有する場合でさえも達成された。アレイＡ、ＢおよびＤについての酢酸エチル、エタノール／水、プロパノールおよびトルエンの測定番号１、３、５および６に対応する未処理の非正規化データをトレーニングデータとして使用し、アレイＣの対応データを基準パターンとして使用した。トレーニング後、アレイＡ、ＢおよびＤの全てのパターンをアレイＣの応答へ標準化した。アレイＤについての結果を図７に示す。アレイＡおよびＢからのデータでも同質の結果が得られた。図７は、過去にトレーニング中にネットワークへ示されていない溶媒についてさえ、１つのセンサアレイからのデータを別の、物理的に別個のアレイの対応データ上またはその非常に近傍にマッピングできることを示している。例４センサアレイを使用し、ある時間にわたる一連の測定の標準化を行った。ＳＯＰベースの３２個のセンサを使用し、５５日の期間にわたり酢酸ブチル蒸気および酢酸エチル蒸気の１７回の測定を行い、各々の測定は３または４回繰り返した。図８は未処理データのサモンマップを示し、大きな散乱の存在を示している。番号はデータの測定番号を示す。散乱は、湿度、温度および動作誤差などの毎日の条件変動に起因し、それら変動はランダムなものと考えられる。そのようなものについて、従来の統計的手法はそれらランダムな変動を修正するために適当ではない。加えて、ＳＯＰセンサの基礎抵抗値は時間の関数として増加し、この基礎抵抗値の変動は、−おそらく系統的な−時間の関数としてのセンサ応答の変動につながる。トレーニングは、酢酸ブチルの最初の９回の測定および酢酸エチルの最初の７回の測定からの未処理データをトレーニングパターンとして使用して実行した。最初の測定日に取得した対応するデータを基準パターンとして使用した。残りのデータセット（酢酸ブチルの８回の測定、酢酸エチルの１０回の測定）を標準化し、酢酸ブチルについての結果を、かなり散乱した非標準化データとともに図９に示す。非標準化パターン（黒塗り円）および基準パターン（白抜き円）に、mm ddのフォーマットで測定日を付した。実際、基準パターンはほとんど完全に標準化したパターンに重なり、この方法の非常に高い精度と再現性を示している。例５あるガス状の試料はアレイ内のセンサから非常に類似した応答を生じる。本例では、３つの異なるアップルの芳香がアレイ内の３２個の全てのセンサ中で約３％の応答を生成した。（３％の応答は、センサの基礎直流抵抗値の３％の変化に対応する。）従って、各パターン内の分散は非常に小さく、その結果異なるアップル試料に対応するパターンは相互に非常に類似している。しかし、全てのセンサ応答から一定のオフセットを減算することにより、各パターンの分散およびそれによってパターン間の差が拡大される。よって、さらなる処理の前に、各センサ応答から、最小パターン応答値の８０％に対応する一定のオフセットを減算した。トレーニングは、ストロベリー、２つのアップル（「アップル１」および「アップル２」）、酢酸エチル、エタノール水およびライムの芳香の測定からの未処理データをトレーニングパターンとして使用して実行した。５日間にわたり測定を行い、毎日、芳香毎に４回の反復測定を実行した。基準パターンは、ストロベリー、酢酸エチルおよびライムについての５日間全てに渡る平均パターンであり、平均パターンはそれぞれアップル１およびアップル２についての４日目および５日目からのものである。第３のアップルの芳香（「アップル３」）はニューラルネットワークへ与えなかった。平均誤差が約０．５％になるまでニューラルネットワークをトレーニングし、その後データベース全体を標準化した。図１０（ａ）および（ｂ）は、標準化前後のストロベリー、ライムおよび３つのアップルの芳香のサモンマップを示す。標準化されていないクラスターはかなり散乱しており、ネットワークが未知であるアップル３についてさえ、標準化の効果はクラスター化を非常に緊密にしている。図１０には示していないが、酢酸エチルおよびエタノール水についても同様の結果が観察された。標準化を行わないと、２日間のストロベリーデータはアップル１に非常に近く、もう１日のストロベリーデータはライムに近いことがわかった。標準化後は、これらのデータは別個のストロベリークラスターになった。非標準化データの全体の分類精度は８７．２％に過ぎず、標準化後にはこの数字は９６．７％に改善された。ストロベリーデータでは、７８％の非標準化データ分類精度が得られ、標準化データでは１００％の精度が得られた。３つのアップル芳香については、標準化を行うと分類精度は８８．０％から９５．４％に増加した。センサ応答から減算される一定値は異なる方法で計算可能であることを注意しておく。よって、例えば上記の手順は、（i）パターンにわたる平均センサ応答、および（ii）この平均センサ応答の５０％の各センサ応答から減算することにより繰り返される。パターン中の最小応答の８０％を減算するアプローチと比較すると、これらのアプローチを使用する大きな差異は認められなかった。後者のアプローチは、残りの応答は常に正であるので便利である。トレーニングおよび標準化段階において、入力パターンに加えてさらなる情報をニューラルネットワークへ入力することが望ましいことがわかっている。この付加的な情報は、湿度、温度、センサの年齢またはセンサに基づく抵抗値、もしくはそれらの組み合わせに関するものとすることができる。標準化は未処理入力パターンのものである必要はない。むしろ、変換データの標準化を実行する前にパターンを２次元または３次元空間へ減少させることが望ましい。別の観点では、本発明は、入力パターンを少ない次元の空間に減少させる修正されたデータマッピングアルゴリズムに向けられている。本発明が提供する修正は、マッピングプロセスと協力してパターン標準化プロセスを実行することを可能とする。その方法は２つの段階を有する：標準化手段をトレーニングして標準化を実行する段階と、次ぎに「未処理」入力データをマッピングおよび標準化する段階である。トレーニングは、減少した次元、好ましくは１次元から５次元の空間上に複数の基準パターンをマッピングする工程と、前記標準化手段に複数のトレーニングパターンを入力する工程であって、各トレーニングパターンは基準パターンに対応した種類である工程と、および前記トレーニングパターンを、減少した基準パターンと同一次元数の減少した次元数の空間でマッピングする工程と、および減少した次元数のトレーニングパターン上へ標準化変換を実行して、実質的に前記トレーニングパターンを減少した次元数の基準パターンにマッピングする工程と、を含む。入力パターンは、マッピングされた基準パターンとの次元数と同一の減少した次元数の空間上にマッピングされ、そうして減少した入力パターンに標準化変換を適用して減少した次元数の標準化パターンを作成する。減少した次元数の空間へのマッピングは、線形マッピングアルゴリズムを使用して達成することができ、そのアルゴリズムは主要成分分析（ＰＣＡ）アルゴリズムまたはその変形とすることができる。しかし、非線形アルゴリズムの使用も本発明の視野の範囲内であることを注記しておく。標準化変換は、以下に詳細に説明するように、複合線形回帰アルゴリズムにより実行することができる。代わりに、標準化変換は、複合非線形回帰アルゴリズム、または制限数学的変換により実行することができる。前者の長所は、有効なマッピングのために必要な校正物質量が増加するものの、データ中に存在するあらゆる非線形性により適合可能であることである。「制限数学的変換」は、回転、または可能であれば関数の組み合わせなどの比較的単純な数学的関数を含むと理解される。他の可能性は、この目的のためにニューラルネットワークを使用することである。入力パターンおよびトレーニングパターンは、ガスセンサアレイの応答またはそれに関連する量を含むことができる。応答は減少した次元数の空間へのマッピングの前に正規化することができる。そのようなガスセンサアレイ−それは典型的に少なくとも２０の個別ガスセンサ要素を含む−の応答のマッピングおよび標準化は、本発明の主要な目的と考えられる。しかし、本発明の視野は、一般的に入力パターンの標準化を包含する。基準パターンは、多数の異なるガスに対する少なくとも１つのガスセンサの基準アレイの応答を含む。言い換えれば、ガスセンサアレイの応答は物理的に異なる、基準アレイに対して標準化できる。この手順は、製造条件の変動により生じるアレイ間の応答変動をかなり除去する。修正ＰＣＡアルゴリズムを使用するガスセンサアレイ応答の標準化１．アルゴリズムの概要ａ)基準パターンを提供する１組の校正物質を使用する基準ＰＣＡマップの生成。校正物質の数は装置の空間に及ぶのに十分である。ｂ）基準マップＰＣＡローディングベクトルを使用する基準マップに共通な未処理トレーニングデータ（Ｎ個の校正物質の）予想。ｃ）複合線形回帰を使用して、トレーニングパターンのＰＣＡスコアの、対応する基準パターンのＰＣＡスコアへのマッピングを最適化すること。この標準化変換は、オリジナル基準マップ中のＰＣＡスコアに及ぶのに十分な次元数（Ｐ）の減少したＰＣＡスペース内で生じる。事実上、可能な最も単純な方法で、標準化変換はトレーニングデータを「歪ませ」、それをオリジナル基準ＰＣＡマップと一致させる。その歪みはＰ次元空間での回転、せん断および伸張を含む。ｄ）基準マップＰＣＡベクトルを使用する未知の非校正物質データの未処理入力パターンの予想、それに続く標準化変換を使用する変換。一般的に、複合線形回帰変換は、定義によりＰｘ（Ｐ＋１）の自由度を有するＰｘ（Ｐ＋１）行列である。Ｎ個のトレーニングパターンを作るＮ個の校正物資を使用するならば、ＮＰ個の情報が生成される。一般的な線形マッピングの場合：Ｐは好ましくは２から４の間であり（基準ＰＣＡマップの性質に依存する）、よってＮ_minは３から５の間である。これはガスセンサアレイ装置を通るために、許容可能な校正物質種数である。変換行列間に付加的な制約が存在するように応答のドリフトが生じるならば、この数を更に減少させることができる。２．トレーニングパターンおよび入力パターンのマッピング２．１基準パターンの処理ａ）ｉ番目の基準パターンのｊ番目の測定値としてＤ_ij ^Rを規定する。ｉは１からＮまで変化し、ここでＮは基準パターン数である。ｊは１から３２まで変化し、それは本例ではアレイ中のセンサ数に対応する。ｂ）Ｄ_ij ^Rを正規化する−このステップは任意的であり、ユーザが規定する正規化により置き換えることができる。 i）平均減算Ｄ_ij ^R＝Ｄ_ij ^R-（Σ（j）Ｄ_ij ^R/３２） ii）平均減算行値のrms（各行は異なる基準パターンに対応する) を計算： rms_i＝（Σ（j）Ｄ_ij ^R2／３２）^0.5 iii）平均減算Ｄ_ij ^Rの各値をその行についてのrmsにより除算：Ｄ_ij ^R＝Ｄ_ij ^R／rms_i ｃ）中央列（ｉ個の基準パターンにわたる所定のセンサ値に対応する列）：Ｄ_ij ^R＝Ｄ_ij ^R−（Σ（i）Ｄ_ij ^R／Ｎ）ｄ）ＰＣＡを実行する。２．２トレーニングパターンおよび入力パターンの処理ａ）基準データの「マスター」ＰＣＡマップを形成する。そのマップは、ＰＣＡ「スコア」（パターンのＰＣＡ座標値）、列平均およびローディングベクトル（主要成分に対応する固有ベクトル）を含む。ｂ）トレーニングパターンＤ_ij ^Tを以下のように処理する： i）セクション２．１（ｂ）のように、平均減算およびrmsによる除算で新しいＤ_ij ^Rを生成する。 ii）各Ｄ_ij ^Tからマスターマップ列平均を減算する（セクション２．１（ｃ）と等価）。ｃ）各行と、各ＰＣＡベクトルｋについて正規化されたマスターマップローディングベクトル（ｒ’_jk）との内積を形成することにより、マスターマップを通じてＤ_ij ^T（各々がトレーニングパターンに対応）を再生し、それによりトレーニングパターンスコアを生成する：Ｎ_ik＝Σ（j）Ｄ_ij ^T・ｒ'_jk ここで、Ｎ_ikは新しいスコア（パターンｉ、ＰＣＡ成分ｋ）であり、ｊは１から３２まで変化し、ｒ’_jkはｋ番目のＰＣＡ成分ローディングベクトルのｊ番目の成分を示す。２組のスコアーマスターマップから、およびマスターマップを通じた「再生」トレーニングデータから−がＰ個のＰＣＡ成分で生成され、ここでＰはＰＣＡ伸張を断ち切ることにより設定される。ｄ）標準化変換−地理的マッピング−は、新しいトレーニングスコアＮ_jkのマスタースコアＬ_ik（ｋは１からＰまで変化）上への複合線形回帰により決定される。ｅ）ステップ２．２ａ−ｃを使用して−可能な未知の−入力パターンについてのスコアを決定し、次に標準化変換をスコアに適用して標準化およびマッピングされたスコアを決定する。３．結果３２個のセンサガス感知アレイを使用して２つの異なる日にデータを取得した。７つの液体、すなわち、エタノール、１−プロパノール、１−ブタノール、トルエン、２−プロパノール、１−ペンタノールおよびエチルベンゼンからの蒸気を使用した。試料を分子ふるいで乾燥させ、乾性窒素を与えた。各々の日に各蒸気の３回の測定を行った。ａ）初日のデータ全て（２１回の測定の総計）を基準パターンとして使用した。次元数Ｐを４に設定した。２日目に取得したデータを初日のデータに対して標準化した。その結果を図１１に示し、それは２つの最大主要成分を使用した２次元プロットである。図１１から１６の全てにおいて、黒塗り円は初日のデータを示し、クロスは標準化していない２日目のデータを示し、白抜き円は標準化した２日目のデータを示す。図１１は、「未処理」応答データには日毎の変化がかなり存在し、それは事実上は標準化アルゴリズムにより除去されることを示している。ｂ）マッピングおよび標準化変換は、Ｐ＝３で行った。図１２から１６は標準化変換を規定するために使用される基準パターンおよびトレーニングパターン数の変化の結果を示す。図１２では、校正物質としてただ１つの蒸気を使用し、反復的測定のために３つの基準およびトレーニングパターンを提供している。よって、他の６つの蒸気は「未知のもの」である。図１３は基準およびトレーニングパターンに２つの校正物質を使用した（５つは未知のもの）結果を示す。同様に、図１４は４つの校正物質を使用した（３つは未知のもの）結果を示し、図１５は校正物質として７つの蒸気全てを使用した結果を示す。図１６は図１４に示す３つの未知のもののマッピングのみを示す。プロットは２次元であり、ここでも２つの最大主要成分に対応する。図１２から１６は、予想されたように、校正物質数が増加すると標準化の質が向上することを示す。特に、変動の修正は４以上の校正物質について良好であり、Ｐ＝３の時にＮ_min＝４であるので、これは予想できたことであった。４つ未満の校正物質を使用すると、回帰行列を飽和させるために情報が不十分であり、標準化適合の質が低下する。上記の方法について多くの変形が存在する。例えば、トレーニングパターンは多くの反復的サンプリングからの平均基準パターン上にマッピングすることができ、その手順はデータのマッピングをさらに「緊密にする」であろう。上述の標準化ルーチンは多数要素ガス感知装置の分野に数々の大きな利益を与える。測定間のばらつき、および所定のガスセンサアレイの応答へのセンサの老化の影響を除去または相当に減少させる能力は、より信頼性の高いパターン認識を可能とし、装置の再校正の必要性を減少させる。異なるアレイ−異なる物理的組成のものでさえ−の応答を標準化する能力は、応答の装置に依存する「普遍的な」指紋パターンを生成させる。これらの装置に依存する指紋は、トレーニングに使用される基準パターンにより決定される。そうして、基準パターンの生成に単一の基準アレイを使用することの大きな長所が生じる。なぜなら、これは製造条件の変動により生じるアレイ応答の変動を除去することによりアレイの標準化を可能とするからである。基準パターンは、指定された「基準アレイ」、または複数のアレイから取得し、もしくは「仮想的な」アレイによりソフトウェアで生成可能である。表１ブタノン（ＢＴ）；酢酸エチル（ＥＡ）；エタノール水（ＥＷ）；プロパノール（ＰＲ）およびトルエン（ＴＯ）の溶媒について、体積濃度％

───────────────────────────────────────────────────── フロントページの続き (81)指定国ＥＰ(ＡＴ，ＢＥ，ＣＨ，ＤＥ，ＤＫ，ＥＳ，ＦＩ，ＦＲ，ＧＢ，ＧＲ，ＩＥ，ＩＴ，ＬＵ，ＭＣ，ＮＬ，ＰＴ，ＳＥ)，ＯＡ(ＢＦ，ＢＪ，ＣＦ，ＣＧ，ＣＩ，ＣＭ，ＧＡ，ＧＮ，ＭＬ，ＭＲ，ＮＥ，ＳＮ，ＴＤ，ＴＧ)，ＡＰ(ＧＨ，ＫＥ，ＬＳ，ＭＷ，ＳＤ，ＳＺ，ＵＧ，ＺＷ)，ＥＡ(ＡＭ，ＡＺ，ＢＹ，ＫＧ，ＫＺ，ＭＤ，ＲＵ，ＴＪ，ＴＭ)，ＡＬ，ＡＭ，ＡＴ，ＡＵ，ＡＺ，ＢＡ，ＢＢ，ＢＧ，ＢＲ，ＢＹ，ＣＡ，ＣＨ，ＣＮ，ＣＵ，ＣＺ，ＤＥ，ＤＫ，ＥＥ，ＥＳ，ＦＩ，ＧＢ，ＧＥ，ＧＨ，ＨＵ，ＩＬ，ＩＳ，ＪＰ，ＫＥ，ＫＧ，ＫＰ，ＫＲ，ＫＺ，ＬＣ，ＬＫ，ＬＲ，ＬＳ，ＬＴ，ＬＵ，ＬＶ，ＭＤ，ＭＧ，ＭＫ，ＭＮ，ＭＷ，ＭＸ，ＮＯ，ＮＺ，ＰＬ，ＰＴ，ＲＯ，ＲＵ，ＳＤ，ＳＥ，ＳＧ，ＳＩ，ＳＫ，ＳＬ，ＴＪ，ＴＭ，ＴＲ，ＴＴ，ＵＡ，ＵＧ，ＵＳ，ＵＺ，ＶＮ，ＹＵ，ＺＷ (72)発明者ウエルズポールジェーイギリス国ケンブリッジシャーピーイー18 ６エーピーハンティングドンザウォークスイースト７

Claims

【特許請求の範囲】１．入力パターンを標準化する方法において、標準化手段をトレーニングして前記標準化を行う工程と、前記標準化手段に入力パターンを入力する工程と、前記標準化手段から標準化パターンを出力する工程と、を有する方法。２．前記標準化手段はニューラルネットワークを含む請求項１に記載の方法。３．前記トレーニングは、ニューラルネットワークへトレーニングパターンを入力する工程と、出力パターンを基準パターンとする工程と、を有する請求項２に記載の方法。４．前記トレーニングは、複数の基準パターンを、好ましくは１次元から５次元の間の減少した次元数の空間にマッピングする工程と、複数のトレーニングパターンを前記標準化手段に入力する工程であって、各トレーニングパターンは基準パターンに対応する種類である工程と、前記トレーニングパターンを、前記減少した基準パターンの次元数と等しい減少した次元数の空間にマッピングする工程と、及び減少した次元のトレーニングパターンへの標準化変換を行い、前記トレーニングパターンを実質的に前記減少した次元数の基準パターン上にマッピングする工程と、を有する請求項１に記載の方法。５．入力パターンは、マッピングされた基準パターンの次元数と等しい減少した次元数の空間にマッピングされ、標準化変換は減少した入力パターンに適用されて減少した次元数の標準化パターンを作成する請求項４に記載の方法。６．減少した次元数の空間へマッピングする工程は、線形マッピングアルゴリズムにより達成される請求項４または５に記載の方法。７．前記線形マッピングアルゴリズムは、主要成分分析アルゴリズムまたはその変形である請求項６に記載の方法。８．前記トレーニングは、各トレーニングパターンベクトルまたはそれに関連するベクトルと各基準パターン主要成分の固有ベクトルとの内積を計算することにより、トレーニングパターンＰＣＡスコアを生成する工程と、および標準化変換を実行して、トレーニングパターンＰＣＡスコアを対応する基準パターンＰＣＡスコア上にマッピングする工程と、を有する請求項７に記載の方法。９．入力パターンＰＣＡスコアは、各入力パターンベクトルまたはそれに関連するベクトルと、各基準パターン主要成分の固有ベクトルとの内積を計算することにより生成され、前記標準化変換は前記入力パターンＰＣＡスコアに適用される請求項８に記載の方法。１０．前記標準化変換は、複合線形回帰アルゴリズムを使用して実行される請求項４乃至９のいずれかに記載の方法。１１．標準化変換は、複合非線形回帰アルゴリズム、制限数学的変換またはニューラルネットワークを使用して実行される請求項４乃至９のいずれかに記載の方法。１２．前記入力パターンおよび前記トレーニングパターンは、ガスセンサアレイの応答またはそれに関連する量を含む請求項１乃至１１のいずれかに記載の方法。１３．前記応答は正規化される請求項１２に記載の方法。１４．アレイ内のガスセンサの数は２１以上である請求項１２または１３に記載の方法。１５．基準パターンは、複数の異なるガスに対する少なくとも１つのガスセンサアレイの応答を含む請求項１２乃至１４のいずれかに記載の方法。１６．ガスセンサの応答から一定のオフセットが減算される請求項１２乃至１５のいずれかに記載の方法。１７．温度、湿度、センサの年齢、およびセンサの基礎抵抗値を含むグループの１以上の要素に関連する量がニューラルネットワークへ入力される、請求項２、３または１１に従属する場合の請求項１２乃至１６のいずれかに記載の方法。１８．請求項１乃至１７のいずれかに記載の方法を実行するための標準化手段。１９．コンピュータを含む請求項１８に記載の標準化手段。２０．入力パターンが入力される複数の入力ノードと、標準化パターンが出力される複数の出力ノードと、を有するパターン標準化ニューラルネットワークを含み、前記ニューラルネットワークは標準化を行うように事前にトレーニングされる請求項１９に記載の装置。