JP6603548B2 - 改善されたデータ比較方法 - Google Patents

Description

本発明は、データ間の類似率を決定するために、センサまたはインターフェースから取得されたデータを比較するための方法に関する。さらに詳しくは、本発明は、マシン学習を経由してのデータ比較方法に関する。

コンピュータビジョン（またはデジタルビジョン）の分野において実装される多数のタスクは、たとえば、画像などの複雑なデータの比較を要求するが、これは、そのようなデータ間の類似性スコアを取得するためである。

たとえば、生体認証の分野では、それらの画像が同一の人間から取得されたものかどうかを決定するために、個人の顔の画像が比較される。

このタイプの問題を処理するためには、比較されるデータからの特徴の抽出を実行し、特徴の抽出によって、比較されるデータを特徴ベクトルに変換し、その後で、特徴ベクトル間の類似性関数を計算することが知られている。

計算された類似性関数は、一般的に、アプリオリには知られていないパラメータを含む。これらのパラメータは、マシン学習により、決定され、徐々に最適化される。そうするために、処理ユニットが、データベースからの既知のデータの組に対してデータ比較動作を実行し、類似性関数によって与えられた結果を現実の結果と比較し、それに従い、より信頼性の高い結果を求めて類似性関数のパラメータを最適化する。

たとえば、Ｄ． Ｃｈｅｎ、Ｘ． Ｃａｏ、Ｌ． Ｗａｎｇ、Ｆ． ＷｅｎおよびＪ． Ｓｕｎによる出版物である「Ｂａｙｅｓｉａｎ Ｆａｃｅ Ｒｅｖｉｓｉｔｅｄ： Ａ Ｊｏｉｎｔ Ｆｏｒｍｕｌａｔｉｏｎ」、ＥＣＣＶ、２０１２年から、データ間の類似性関数のための学習方法が知られており、その学習方法では、２つの独立ガウス変数：すなわち、あるデータが属するクラスの平均とその平均に対するデータの変動との加算によって、データがモデル化される。

たとえば、データが顔の画像である場合には、クラスは対象者の識別子に対応し、したがって、クラスの平均に対する変動は、対象者の平均的な顔画像と異なる状況の下で撮られた画像との間で生じ得るすべての変化に対応するが、ここで、異なる状況とは：
− 画像上の照明、陰影、
− 画像における顔のポーズ、
− 表情、
− 局所的ぼやけなどである。

しかし、マシン学習の結果として生じる比較のパフォーマンスレベルにおける改善は、品質が変動するデータがデータベースにおいて考慮されている、という事実による限度を有する。結果的に、決定された類似性関数は劣化したパフォーマンスを示し、よって、比較に関して劣化した品質を示す。提案されている比較方法は、したがって、全面的に信頼できるものではない。

仏国特許出願公開第２９９８４０２号明細書

Ｄ． Ｃｈｅｎ、Ｘ． Ｃａｏ、Ｌ． Ｗａｎｇ、Ｆ． ＷｅｎおよびＪ． Ｓｕｎ、「Ｂａｙｅｓｉａｎ Ｆａｃｅ Ｒｅｖｉｓｉｔｅｄ： Ａ Ｊｏｉｎｔ Ｆｏｒｍｕｌａｔｉｏｎ」、ＥＣＣＶ、２０１２年 ＰｆｅｎｎｉｎｇおよびＫｉｒｃｈｎｅｒ、「Ｓｐｅｃｔｒａｌ Ｍｅｔｈｏｄｓ ｔｏ Ｄｅｔｅｒｍｉｎｅ ｔｈｅ Ｅｘａｃｔ Ｓｃａｌｉｎｇ Ｆａｃｔｏｒ ｏｆ Ｒｅｓａｍｐｌｅｄ Ｄｉｇｉｔａｌ Ｉｍａｇｅｓ」、ＩＳＣＣＰ、２０１２年 Ｃｈｅｎら、「Ｂｌｅｓｓｉｎｇ ｏｆ Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ： Ｈｉｇｈ−ｄｉｍｅｎｓｉｏｎａｌ Ｆｅａｔｕｒｅ ａｎｄ Ｉｔｓ Ｅｆｆｉｃｉｅｎｔ Ｃｏｍｐｒｅｓｓｉｏｎ ｆｏｒ Ｆａｃｅ Ｖｅｒｉｆｉｃａｔｉｏｎ」、ＶＣＰＲ、２０１３年 Ｒａｐｐら、「Ｂｌｅｓｓｉｎｇ ｏｆ Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ： Ｍｕｌｔｉｐｌｅ ｋｅｒｎｅｌ ｌｅａｒｎｉｎｇ ＳＶＭ ａｎｄ ｓｔａｔｉｓｔｉｃａｌ ｖａｌｉｄａｔｉｏｎ ｆｏｒ ｆａｃｉａｌ ｌａｎｄｍａｒｋ ｄｅｔｅｃｔｉｏｎ」、Ａｕｔｏｍａｔｉｃ Ｆａｃｅ ＆ Ｇｅｓｔｕｒｅ Ｒｅｃｏｇｎｉｔｉｏｎ、２０１１年 Ｄａｎｔｏｎｅら、「Ｒｅａｌ−ｔｉｍｅ Ｆａｃｉａｌ Ｆｅａｔｕｒｅ Ｄｅｔｅｃｔｉｏｎ ｕｓｉｎｇ Ｃｏｎｄｉｔｉｏｎａｌ Ｒｅｇｒｅｓｓｉｏｎ Ｆｏｒｅｓｔｓ」、ＣＶＰＲ、２０１２年

従来技術と比較してパフォーマンスが改善されているデータ比較方法を提案することが本発明の目的である。

この点において、本発明の主題は、センサまたはインターフェースから得られた２つのコンピュータデータアイテムを比較する方法であって、処理ユニットの処理手段によって実行され、比較されるデータの２つの特徴ベクトル間の類似性関数の計算を含む、比較する方法において、
データの各特徴ベクトルが、
− ベクトルが属するクラスの平均、
− 固有偏差、および
− ベクトルの観測ノイズ
を含むガウス変数の加算としてモデル化されており、
各特徴ベクトルが、特徴ベクトルの観測ノイズに関する情報を含む品質ベクトルと関連し、
類似性関数が、特徴ベクトルと、関連する品質ベクトルとから計算されることを特徴とする、方法である。

有利には、しかしオプションとして、本発明の方法は、さらに、下記の特徴の少なくとも１つを含み得るのであり、すなわち：
− 類似性関数が、ベクトルが１つの同じクラスに属する特徴ベクトルの確率密度である

とベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度である

との間の比の対数である。
− 類似性関数が、特徴ベクトルの成分の共分散行列の関数としても計算され、各特徴ベクトルの観測ノイズの共分散行列が、関連する品質ベクトルの関数として得られる。
− この方法が、さらに、ベクトルが属するクラスの平均とクラス平均に対するベクトルの偏差との共分散行列を決定するために、学習アルゴリズムの実装を含む。
− 学習アルゴリズムが、期待値最大化タイプのアルゴリズムであり、
− 類似性関数が、数式：

によって与えられ、ここで、

であり、
ここで、Ｓ_μがクラスの平均の共分散行列（クラス間の共分散行列）であり、Ｓ_ωが平均に対する偏差の共分散行列（クラス内の共分散行列）であり、

がベクトルｘおよびｙそれぞれの観測ノイズの共分散行列であり、
− センサまたはインターフェースから導かれたコンピュータデータが物理的対象または物理的大きさを表すデータであり、
− センサまたはインターフェースから導かれたコンピュータデータが画像であり、特徴ベクトルが少なくとも１つのフィルタを画像に適用することによって得られ、
− 品質ベクトルの成分が、データのタイプと特徴ベクトルを形成する特徴のタイプとの関数として生成され、
− 本発明の方法が、さらに、データが共通のクラスに属するかどうかを決定するために、計算された類似性関数（ＬＲ）の結果とスレショルドとの比較を含む。

本発明のさらなる主題は、処理ユニットの処理手段によって実行された時に前述の説明による方法を実装するためのコード命令を含むコンピュータプログラム製品である。

本発明のさらなる主題は、
− 複数のいわゆるラベルありのデータを含むデータベースと、
− データ取得ユニットと、
− ２つの特徴ベクトルと２つの関連する品質ベクトルとを２つのデータアイテムから構築するように構成された処理手段を備えており、また、前述の説明による比較方法を実装することによりデータを比較するように構成されている処理ユニットと、
を備えるシステムである。

提案される方法によると、データ間の類似性関数を計算するときに、データの品質を考慮することが可能になる。これにより、よい品質のデータとそれよりも確実性が劣るデータとの間で、可変的な重み付けを用いることが可能になる。

たとえば、本発明の方法が画像の比較に適用されるときは、画像の陰影またはぼやけた領域は、類似性関数によって、明瞭に見えて明瞭に区別できる領域と同じ重みづけをつけては考慮されない。

こうして、データ比較に関するパフォーマンスの改善が、得られる。

追加的に、マシン学習により、類似性関数のパラメータの最適化と、したがって、比較方法のパフォーマンスの改善とが可能になる。

本発明の他の特徴、目的および効果は、例証のためだけに与えられており次の添付の図面との関係で読まれるべきである以下の非限定的な説明から、明らかになるであろう。

比較方法を実装するように構成されたシステムの一例の図解である。 本発明のある実施形態によるデータ比較方法の主なステップの図解である。

図１を参照すると、処理ユニット１０を備えたシステム１が図解されており、処理ユニット１０は、以下で説明されるコンピュータデータ比較方法を実装するための処理手段１１を備えている。

処理ユニット１０は、たとえば集積回路であり得るし、処理手段は、プロセッサであり得る。

有利には、システム１は、さらに、オプションであるが遠隔的なデータベース２０を備えており、このデータベース２０は、以下で説明されるように、マシン学習を実行するために処理ユニット１０によって用いられる複数のデータを、メモリに記憶する。

最後に、システム１は、データ取得ユニット３０を備えているか、または、データ取得ユニット３０がシステムと独立である場合には、そのようなユニットと通信するように構成されたインターフェース（図示せず）を備えている。このようにして、システム１は、特に、以下で説明される方法を用いてその比較をするために、データｂを受け取り処理することができる。

以下で説明される方法において比較されるデータのタイプに応じて、データ取得ユニットは、たとえば、光センサ（写真カメラ、ビデオカメラ、スキャナ）、音響センサ、指紋センサ、運動センサなど、どのようなタイプにもなり得る。それはまた、テキストや図形など、オペレータによって入力されるデータを記録するためのマンマシンインターフェース（キーパッド、タッチスクリーンインターフェース付きのタブレット）でもあり得る。

コンピュータデータｂは、取得ユニット３０によって得られ、したがって、センサまたはたとえばマンマシンインターフェースなどのインターフェースから導かれる。それは、たとえば、画像、概略図、記録、説明書など、物理的対象を表すデータであり得るし、または、たとえばセンサによって記録されたデータなど、物理的大きさ（電気的、機械的、熱的、音響的など）を表すデータであり得る。

処理ユニットの処理手段１１は、有利には、適切なプログラムを実行することによって以下で説明されるデータ比較方法を実行するように構成されている。

この方法を実装するため、処理手段１１は、また、有利には、特徴抽出モジュール１２を備えており、この特徴抽出モジュール１２は、データ取得ユニット３０によって通信された入力コンピュータデータｂから、特徴の抽出を生成して、データと関連する特徴ベクトルｘと、特徴ベクトルと関連するデータの品質ベクトルｑｘとを生成するように構成されている。

品質ベクトルｑｘは、特徴ベクトルと同じサイズのベクトルであり得るのであって、その各要素は、特徴ベクトルｘの対応する要素に含まれる情報の品質を示す。あるいは、品質ベクトルｑｘは、任意のサイズでもあり得る。その生成は、データｂのタイプに依存する。

たとえば、特徴抽出は、この目的のために設計された１つまたは複数のフィルタをデータｂに適用することによって、そして次に、ただしこれはオプションであるが、フィルタリング結果を処理すること（たとえば、ヒストグラムの計算など）によって、実行され得る。

品質ベクトルの生成は、データｂのタイプと、特徴ベクトルｘの特徴のタイプすなわちベクトルｘの成分要素とに依存する。品質ベクトルの各要素は、特徴ベクトルの特定の特徴と関連する固有データ関係情報を考慮する。

たとえば、信号処理または画像処理の分野では、データがセンサによって取得された代表信号の画像または取得であるときには、データの周波数表現（たとえば、フーリエ変換）または空間−周波数表現（たとえば、ウェーブレット変換）を、特徴ベクトルｘとして用いることが頻繁になされる。特徴ベクトルの各成分は、よって、何らかの周波数帯域に依存する。

そのような場合、データの高周波成分は、低周波成分よりも識別力が高いが、ノイズの存在または信号解像度の欠如などの現象に対してより敏感であることが判明することがあり得る。

データにおけるノイズの量は、そのデータがセンサによって取得された信号である場合にはそのエネルギースペクトルを解析することによって、または、そのデータが画像である場合にはその固有解像度を解析することによって、決定され得る。たとえば、画像の解像度の決定について、ＰｆｅｎｎｉｎｇおよびＫｉｒｃｈｎｅｒによる「Ｓｐｅｃｔｒａｌ Ｍｅｔｈｏｄｓ ｔｏ Ｄｅｔｅｒｍｉｎｅ ｔｈｅ Ｅｘａｃｔ Ｓｃａｌｉｎｇ Ｆａｃｔｏｒ ｏｆ Ｒｅｓａｍｐｌｅｄ Ｄｉｇｉｔａｌ Ｉｍａｇｅｓ」、ＩＳＣＣＰ、２０１２年という論文が、知られている。

次に、特徴ベクトルｘとデータの固有品質との関数として生成される品質ベクトルｑｘは、次のように構築され得る：
− データの低周波成分に敏感な特徴ベクトルの成分には、高品質という属性が付され、
− データの高周波成分に敏感であって、ノイズレベルが低いおよび／または解像度が高い特徴ベクトルの成分には、高品質という属性が付され、
− 高周波成分に敏感であって、ノイズレベルが高いおよび／または解像度が低い特徴ベクトルの成分には、低品質という属性が付される。
ノイズレベルまたは解像度に対して属性として付される品質値およびスレショルドは、比較方法のパフォーマンスを検証ベースで最適化するように、経験的に決定され得る。

別の例によると、データは顔の画像である。

この例によると、特徴ベクトルは、顔の特定のセマンティックポイント（たとえば、鼻の先端、口角、目など）の近傍において抽出された局所的記述子を連結することにより、Ｃｈｅｎらによる論文である「Ｂｌｅｓｓｉｎｇ ｏｆ Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ： Ｈｉｇｈ−ｄｉｍｅｎｓｉｏｎａｌ Ｆｅａｔｕｒｅ ａｎｄ Ｉｔｓ Ｅｆｆｉｃｉｅｎｔ Ｃｏｍｐｒｅｓｓｉｏｎ ｆｏｒ Ｆａｃｅ Ｖｅｒｉｆｉｃａｔｉｏｎ」、ＶＣＰＲ、２０１３年において示されているように取得され得る。

この表現は、規則的なグリッド上の記述子を抽出する方法よりも、ポーズの変動に対してより堅固である、という長所を有する。

しかし、これらの特徴の抽出は、これらの点を検出するステップを含む。このステップを通じて、検出器が用いられ得るのであるが、これは、画像における顔の各点の最もありえそうな位置を提供することに加えて、検出精度の信頼性レベルを変換する情報も提供する。

測定値は、たとえば、Ｒａｐｐらによる論文である「Ｂｌｅｓｓｉｎｇ ｏｆ Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ： Ｍｕｌｔｉｐｌｅ ｋｅｒｎｅｌ ｌｅａｒｎｉｎｇ ＳＶＭ ａｎｄ ｓｔａｔｉｓｔｉｃａｌ ｖａｌｉｄａｔｉｏｎ ｆｏｒ ｆａｃｉａｌ ｌａｎｄｍａｒｋ ｄｅｔｅｃｔｉｏｎ」、Ａｕｔｏｍａｔｉｃ Ｆａｃｅ ＆ Ｇｅｓｔｕｒｅ Ｒｅｃｏｇｎｉｔｉｏｎ，２０１１年から知られているが、この論文では、サポートベクターマシン（ＳＶＭ）に基づく検出器を用いるときに、分離超平面までの距離を測定している。

別の例が、Ｄａｎｔｏｎｅらによる論文「Ｒｅａｌ−ｔｉｍｅ Ｆａｃｉａｌ Ｆｅａｔｕｒｅ Ｄｅｔｅｃｔｉｏｎ ｕｓｉｎｇ Ｃｏｎｄｉｔｉｏｎａｌ Ｒｅｇｒｅｓｓｉｏｎ Ｆｏｒｅｓｔｓ」、ＣＶＰＲ、２０１２年において与えられているが、この論文では、信頼性の測定値は、回帰ツリーを用いた検出器によって決定される複数の票決によって与えられる。

この信頼性情報は、特徴ベクトルの各成分と関連する品質を生じさせるために、それが対応する顔のセマンティックポイントの検出の品質をそれに属性として付することによって、用いられ得る。

さらなる例によると、顔の画像が、たとえば、フランス特許出願公開第２９９８４０２号に記載されている方法を適用することによって、顔の前面画像ではない画像から生成された顔の画像であるときには、品質ベクトルは信頼性インデックスであり得るのであって、このインデックスは、元の画像で生じる顔の点に対しては比較的高く、元の画像では生じておらず外挿によって再構築された顔の点に対しては比較的低くなる。

より一般的には、データが画像であるときには、品質ベクトルは、ぼやけの局所的な測定によって取得され得る。

あるいは、特徴抽出モジュールは、取得ユニット３０の中のモジュールであって、取得ユニットが処理手段１１との間で特徴ベクトルと関連する品質ベクトルとを直接的に通信することを可能にするものである。

データ比較方法

図２を参照して、処理ユニットの処理手段１１によって実装されるデータ比較方法に関する説明を行う。

この方法は、データからそれぞれ取得され同じサイズである２つの特徴ベクトルｘおよびｙの間の類似性関数を計算する（１００）ことにより、そして、データベース上のその類似性関数のパラメータのマシン学習を実行する（２００）ことにより、２つのデータアイテムを比較することを含む。

この方法では、各特徴ベクトルは、以下の３つの独立なガウス変数の加算としてモデル化される：すなわち、ｘ＝μ＋ω＋εであり、ここで、
− μは、ベクトルｘが属するクラスの平均であり、
− ωは、平均からのベクトルｘの固有偏差であり、
− εは、観測ノイズである。

クラスとは、類似すると考えられる特徴ベクトルの集合である。２つの特徴ベクトルは、類似性関数によるそれらの比較がスレショルドよりも高い結果を生じる場合に類似すると考えられるのであるが、このスレショルドは経験的に決定される。

たとえば、データが顔の画像である場合には、クラスは、有利には、個人に対応する。複数のデータの２つの特徴ベクトルを比較することにより、それらが同じ個人から生じている場合には、データは類似すると考えられる。

既に説明されたモデルに戻ると、１つの同じクラスに属する２つの特徴ベクトルは、したがって、同一の値μを有するが、ωおよびεに関しては異なる値を有する。

特徴ベクトルが異なるクラスに属する場合には、これらの３つの変数は、完全に独立である。

これらの３つの変数は、ゼロを中心とする多変量正規分布に従い、それぞれの共分散行列は、Ｓ_μ、Ｓ_ω、およびＳ_εと書かれる。Ｓ_μはクラス間共分散行列と称され、Ｓ_ωはクラス内共分散行列と称され、Ｓ_εは観測ノイズ共分散行列と称される。

Ｓ_μおよびＳ_ωは、すべての特徴ベクトルに共通して未知である。

一方で、Ｓ_εは既知であるが、その理由は、これが、特徴ベクトルと関連する品質ベクトルから、特徴抽出モジュールによって得られるからである。これは、関連の特徴ベクトルと同じサイズである。

たとえば、観測ノイズが相互に相関しないと仮定すると、Ｓ_εは、対角行列によって、十分に近似され得る。

この対角行列の要素は、品質ベクトルの成分の分散に対応するのであって、このベクトルから取得され得る。

たとえば、分散は、品質ベクトルｑｘの成分にｆ（ｑ_ｘ）＝１／ｅ^{ａｑｘ＋ｂ}のタイプのシグモイド関数を適用することによって、制限され得る。係数ａおよびｂは、決定された分散レベルを品質レベルと関連させるように選択され得る。

たとえば、高い品質はゼロの分散と関連させることが可能であり、非常に低い品質は最大の分散と関連させることが可能であり、中間的な分散は中間的な品質と対応する。

一般に、品質ベクトルと特徴ベクトルとはデータのタイプに依存し、品質ベクトルをノイズ共分散行列に変換する伝達関数は、関連する品質ベクトルおよび特徴ベクトルに特定的である。

本明細書の残りでは、

は、品質ベクトルｑｘから得られたベクトルｘの背景ノイズの共分散行列を表し、

は、品質ベクトルｑｙから得られたベクトルｙの背景ノイズの共分散行列である。

Ｈ_ｓｉｍは、２つの特徴ベクトルがひとつの同じクラスに属する、すなわち、対応するデータが類似と考えられるという仮説を表し、Ｈ_ｄｉｓは、それらの特徴ベクトルが異なるクラスに属し、対応するデータが非類似と考えられるという逆の仮説を表す。

背景ノイズのそれらのそれぞれの共分散行列が既知であるとして、仮説Ｈ_ｓｉｍを考慮した、ｘおよびｙを発生する結合確率は、

と書かれる。この確率は、中心がゼロであり共分散行列がＳ_ｓｉｍであるガウスの法則：

に従う。

背景ノイズのそれらのそれぞれの共分散行列が既知であるとして、仮説Ｈ_ｄｉｓを考慮した、ｘおよびｙを発生する結合確率は、

と書かれる。この確率は、中心がゼロであり共分散行列がＳ_ｄｉｓであるガウスの法則：

に従う。

行列Ｓ_ｓｉｍおよびＳ_ｄｉｓは、下記：

として定義される。

既知の態様それ自体での確率密度

は

であり、ここで、｜Ｓ_ｓｉｍ｜はＳ_ｓｉｍの行列式であり、Ｎは特徴ベクトルの次元である。

同じ表現が、確率密度

に必要な変更を加えて適用される。

ベクトルｘおよびｙに対応する２つのデータを比較するために計算された類似性関数は、ベクトルがひとつの同じクラスに属する特徴ベクトルの確率密度と、ベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度との間の比率の対数である。

したがって、類似性関数は、次のように表現される：

上に示された確率密度の表現を用いるとき、そして、行列Ｓ_ｓｉｍおよびＳ_ｄｉｓの逆行列を求めるためにブロック反転公式を用いて関数を展開するときには、得られる類似性関数は、次のように表現される：

この表現において、Ａ、ＢおよびＣは、Ｓ_ｓｉｍのブロック反転の結果として生じる項であり、それぞれが、次のように表現される：

定数は、ｘ、ｙ、

には依存せず、したがって、無視され得る。

したがって、類似性関数ＬＲは、ｘおよびｙの観測ノイズの共分散行列である

を考慮し、よって、各特徴ベクトルと関連する品質ベクトルを考慮するということが、わかる。

したがって、比較の結果は、特徴ベクトルと関連する品質、すなわち信頼性によって影響され、それにより、低いすなわち不確実な品質を有すると考えられる特徴に関してはより軽い重み付けが、そして、優れた品質すなわちより高い信頼性を有する特徴に関してはより大きな重み付けが、可能となる。

本明細書の残りにおいて見られるように、この類似性関数は、また、マシン学習によってパラメータ化される。特徴ベクトルと関連する品質を考慮することによって、関数のパラメータ化に対する低品質のデータの影響が、最小化され得る。

比較方法は、したがって、より信頼性が高い。

図２に戻ると、比較の結果が、次に、ステップ１１０において決定されたスレショルドと比較される。

このスレショルドは、有利には、多数の比較を、（ひとつの同じクラスに属するまたは属さないことが知られている）データベースにおける既知の特徴ベクトルに適用することによって、経験的に決定される。

ｘおよびｙに適用された類似性関数の結果が決定されたスレショルドよりも高い場合には、対応するデータは類似すると考えられる。そうでない場合には、データは、非類似であると考えられる。

既に示された類似性関数ＬＲの式は、この関数が共分散行列Ｓ_μ、Ｓ_ωによってパラメータ化されることを示しているが、これらは未知である。

したがって、この方法は、マシン学習によって前記行列を決定するために、ステップ２００を含む。

この方法は、期待値最大化（ＥＭ）アルゴリズムを用いて行われるのが有利であり、データベース２０に格納されているデータの集合に対して実行されるが、このデータは「ラベルあり」と称されるのであって、すなわち、そのデータが属するそれぞれのクラスは既知である。

ｍ_ｃ個の特徴ベクトルが属するクラスはｃで示され、

は、そのクラスの特徴ベクトルの連結を示し、

は、観測ノイズのそれらのそれぞれの共分散行列を示す。

潜在変数である

が、各μ_ｃがクラス平均である各クラスｃに対して定義され、したがって、これはただひとつだけ存在し、各ω_ｃ，ｉはこのクラスにおける特徴ベクトルのこの平均からの偏差である（したがって、特徴ベクトルごとに１つ存在する）。

ＥＭアルゴリズムによって推定されるパラメータは、Θ＝｛Ｓ_μ，Ｓ_ω｝である。

期待値最大化アルゴリズムは、潜在変数の分布

のパラメータを推定するための第１のステップ２１０を含む反復的アルゴリズムであり、ここで

は、パラメータの先行する推定である。

この方法の初期設定では、

は、パラメータの第１の経験的推定である。

パラメータＳ_μの初期設定は、有利には、各クラスｃに対し、そのクラスの経験的平均を計算し、次に、その平均値の共分散行列を決定することによって、得られる。

パラメータＳ_ωの初期設定は、各クラスに対し、クラス平均が減算された（すなわち、平均に対する特徴ベクトルの差）特徴ベクトルの共分散行列を計算し、次に、すべてのクラスに関して平均共分散行列を計算することによって、得られ得る。

このアルゴリズムは、次に、潜在変数Ｚ_ｃに対する期待対数尤度：

のΘを追いこむ最大化ステップ２２０を含む。

このステップを適切に行うためには、そして、計算時間を最小化するためには、潜在変数ω_ｃ，ｉが、

を、下記のように因数分解することによって固定されるμ_ｃと条件付きで独立であるという事実が考慮される：

ステップ２２０における

の最適化は、パラメータの確率分布

および

を計算することを要求する。これらの計算の詳細は、下記の通りである：

ここで、

および

である。

方程式（１）と

が確率分布であるという事実とを組み合わせると、

が示される。
さらに、

であるが、ここで

であり、ここで、

および

である。
したがって、ステップ２２０は、次のように、Ｓ_μおよびＳ_ωに関する最大化を伴う：

これは、勾配を計算して

を解くこと、すなわち、

を解き、さらには、

を解くことによって得られる。

期待値最大化アルゴリズムは、ステップ２１０において、変数である

および

を連続的に計算し、ステップ２２０において、Ｓ_μおよびＳ_ωの値すなわち

の値を収束するまで適合させることによって、反復的に実行される。ステップ２１０におけるそれぞれ新たな反復では、先行するステップ２２０において得られた新たな値である

が再使用される。

１０ 処理ユニット
１１ 処理手段
１２ 特徴抽出モジュール
２０ データベース
３０ データ取得ユニット

Claims (11)

1. センサまたはインターフェース（３０）から得られた２つのデータを比較する方法であって、処理ユニット（１０）の処理手段（１１）によって実装され、比較されるデータの２つの特徴ベクトル（ｘ，ｙ）間の類似性関数を計算するステップ（１００）を含む、比較する方法において、
   データの各特徴ベクトルが、ベクトルが属するクラスの平均μ、固有偏差ω、およびベクトルの観測ノイズεという３つの独立ガウス変数の加算μ＋ω＋εとしてモデル化されており、
   各特徴ベクトルｘが、特徴ベクトルの観測ノイズに関する情報を含む品質ベクトルｑｘと関連し、品質ベクトルの成分は、特徴ベクトルを形成するデータのタイプと特徴のタイプとの関数として生成され、
   類似性関数が、特徴ベクトルの成分の共分散行列である
   

   

   の関数として、特徴ベクトル（ｘ，ｙ）と、関連する品質ベクトル（ｑｘ，ｑｙ）とから計算され、各特徴ベクトルの観測ノイズ共分散行列である
   

   

   が、関連する品質ベクトルの関数として得られることを特徴とする、方法。
2. 特徴ベクトルの成分の共分散行列が、それぞれがクラス間共分散行列（Ｓ_μ）と称されるベクトルが属するクラスの平均の共分散行列とクラス内共分散行列（Ｓ_ω）と称されるクラス平均からのベクトル偏差の共分散行列とである共分散行列を含む、請求項１に記載の比較方法。
3. 類似性関数（ＬＲ）が、ベクトルが１つの同じクラスに属する特徴ベクトルの確率密度である
   

   

   とベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度である
   

   

   との間の比の対数である、請求項１または２に記載の比較方法。
4. ベクトルが属するクラスの平均とクラス平均からのベクトルの偏差との共分散行列（Ｓ_μ，Ｓ_ω）を決定するために、学習アルゴリズムを適用するステップ（２００）をさらに含む、請求項１から３のいずれか一項に記載の比較方法。
5. 学習アルゴリズムが期待値最大化タイプのアルゴリズムである、請求項４に記載の比較方法。
6. 類似性関数が数式
   

   

   によって与えられ、ここで
   

   

   であり、Ｓ_μがクラスの平均の共分散行列であり、Ｓ_ωが平均からの偏差の共分散行列であり、
   

   

   がベクトルｘおよびｙそれぞれの観測ノイズの共分散行列である、請求項１から５のいずれか一項に記載の比較方法。
7. センサまたはインターフェースから導かれたコンピュータデータが物理的対象または物理的大きさを表すデータである、請求項１から６のいずれか一項に記載の比較方法。
8. センサまたはインターフェースから導かれたコンピュータデータが画像であり、特徴ベクトルが少なくとも１つのフィルタを画像に適用することによって得られる、請求項７に記載の比較方法。
9. データが共通のクラスに属するかどうかを決定するために、計算された類似性関数（ＬＲ）の結果とスレショルドとを比較するステップ（１１０）をさらに含む、請求項１から８のいずれか一項に記載の比較方法。
10. 処理ユニット（１０）の処理手段（１１）によって実行された時に請求項１から９のいずれか一項に記載の方法を実行するためのコード命令を含む、コンピュータプログラム製品。
11. 複数のいわゆるラベルありのデータを含むデータベース（２０）と、
    データ取得ユニット（３０）と、
    ２つの特徴ベクトル（ｘ，ｙ）と２つの関連する品質ベクトル（ｑｘ，ｑｙ）とを２つのデータアイテムから構築するように構成された処理手段（１１）を備えており、さらに、請求項１から９のいずれか一項に記載の方法を実装することによりデータを比較するように構成されている処理ユニット（１０）と、
    を備えるシステム（１）。

Images