JP2016042359A - 認識装置、実数行列分解方法、認識方法 - Google Patents

Abstract

【課題】 二値化された特徴ベクトルと複数の実数ベクトルとの内積計算を伴う対象の認識を高速に行う認識装置を提供する。
【解決手段】 物体認識装置３０は、二値化された特徴ベクトルｘを取得する場御なりコード変換部３３と、特徴ベクトルを識別するための複数のクラスの辞書としての複数の実数ベクトルｑ₁〜ｑ_Lからなる実数行列Ｑを、複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解するパラメータ行列分解部３５と、特徴ベクトルｘと複数の実数ベクトルｑ₁〜ｑ_Lの各々との内積の計算として、特徴ベクトルｘと基底行列Ｍ_iとの積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する係数行列Ｃ_iとの積を計算することで、特徴ベクトルｘについて各クラスの識別を行う線形ＳＶＭ識別部３６とを備えている。
【選択図】 図１２

Description

本発明は、特徴ベクトルの認識を行う認識装置及び認識方法、並びに実数行列を分解する実数行列分解方法に関するものである。

従来より、画像検索、音声認識、文章検索、パターン認識など、多くの分野で特徴量が用いられている。特徴量とは、画像、音声、文章などの情報を、計算機で扱いやすいように変換したものである。特徴量は、Ｄ次元のベクトル（特徴ベクトル）で表される。

特徴ベクトルを用いた演算を行うことで、例えば、コンテンツの類似度を判定することができる。すなわち、画像αの特徴ベクトルと、画像βの特徴ベクトルの距離が小さければ、αとβは似ているとみなすことができる。同様に、音声波形αの特徴ベクトルと、音声波形βの特徴ベクトルとの距離が小さければ、αとβは似ているとみなすことができる。このように、音声認識、文章検索、パターン認識等の情報処理では、情報を特徴ベクトルに変換して、特徴ベクトル同士を比較して、その距離を求めることにより情報の類似度を判断する。

特徴ベクトル間の距離の尺度としては、Ｌ１ノルム、Ｌ２ノルム、ベクトル間角度などが用いられる。これらは、特徴ベクトルｘ，ｙ∈Ｒ^Dについて、次のように計算できる。
Ｌ１ノルム

Ｌ２ノルム

ベクトル間角度

特徴ベクトルが実数ベクトルである場合には、以下のような問題がある。まず、２つの特徴ベクトルｘ，ｙ∈Ｒ^Dの間の距離の計算が遅くなるという問題がある。例えば、Ｌ２ノルムの二乗を距離の尺度として用いる場合、

であるから、Ｄ回の引き算、Ｄ回の乗算、Ｄ−１回の加算が必要である。特に、特徴ベクトルが浮動小数で表現される場合には、この計算負荷は非常に高くなる。特徴ベクトルが高次元になれば、この計算負荷はさらに高くなる。

また、大量のメモリを消費する点も問題となる。特徴ベクトルを４バイトの単精度実数で表現する場合、Ｄ次元の特徴ベクトルは４Ｄバイトのメモリを消費する。特徴ベクトルが高次元になれば、このメモリ消費量は大きくなる。大量の特徴ベクトルを扱う場合、扱う特徴ベクトルの数だけメモリを消費することになる。

そこで近年、特徴ベクトルを０と１の列から成るバイナリコードに変換することにより、これら２つの問題を解決する手法が提案されている。代表的な手法として、ランダムプロジェクション（random projection、非特許文献１参照）、ベリースパースランダムプロジェクション（very sparse random projection、非特許文献２参照）、及びスペクトラルハッシング（Spectral Hashing、非特許文献３参照）がある。

これらの手法では、Ｄ次元の特徴ベクトルがｄビットのバイナリコードに変換される。この変換は、もともとの空間における距離が、変換後の空間におけるハミング距離と強く相関するように行われる（もともとの空間における距離と、変換後の空間におけるハミング距離と強く相関する根拠については、非特許文献１の１１２１ページのＬｅｍｍａ３．２を参照）。これによって、特徴ベクトル間の距離の計算を、バイナリコード同士のハミング距離計算で代用できるようになる。

ハミング距離とは、二つのバイナリコードのうち、異なるビットの数を数えたものである。この計算は、二つのコードのＸＯＲをとった後に１が立っているビット数を数えるだけなので、非常に高速に行うことができる。多くの場合、バイナリコード変換によって、数十〜数百倍程度の高速化が可能である。また、特徴ベクトル間の距離の計算を、バイナリコード同士のハミング距離計算で代用することにより、もともと４Ｄバイトであったメモリの必要容量を、ｄ／８バイトまで削減できる。これにより、数十〜数百分の一にメモリ容量を節約できる。

抽出された特徴量をバイナリコードに変換して、さまざまなアルゴリズムを適用することで、コンテンツの検索や認識などが可能となる。例えば類似コンテンツを検索する場合には、あらかじめデータベースに登録されているコンテンツの特徴量を、すべてバイナリコードに変換しておく。また、入力クエリとして与えられたコンテンツの特徴量をバイナリコードに変換する。そして、入力クエリのバイナリコードと、データベースに登録されているすべてのバイナリコードとの間のハミング距離を計算することで、入力クエリに類似するコンテンツを検索して出力できる。

バイナリコードはｄビットの０と１の列からなる。これを、各要素が−１及び１の二値のみを取るｄ次元のベクトルと考えることもできる。以下の説明における混乱を避けるために、「バイナリコード」と「二値ベクトル」という用語について、以下のように区別をする。「バイナリコード」は、０と１の列からなるデータ表現である。例えば、Ｃ言語において１２８ビットのバイナリコードをメモリ上に格納する場合は、符号無し整数（unsigned char）型の１６要素分の配列を用意すればよい（８ｂｉｔ×１６＝１２８ｂｉｔ）。

一方、「二値ベクトル」は、各要素が二値のみを取るベクトルである。例えば、二値ベクトルを各要素が−１及び１のみをとるベクトルとする場合には、バイナリコード「０１１０１１１０」に対応する二値ベクトルは、（−１，１，１，−１，１，１，１，−１）^Tである。もちろん、各要素が０及び１の二値のみを取るベクトルも二値ベクトルであるし、さらには、各要素が任意のα及びβ（ここでα≠βである）の二値のみを取るベクトルも二値ベクトルである。ただし、「バイナリコード」と「二値ベクトル」の違いは、情報の表現に関するものであり、両者に本質的な違いはない。

特徴ベクトルを、各要素が−１及び１の二値のみを取るｄ次元の二値ベクトルに変換すれば、ＳＶＭ（サポートベクトルマシン）による識別処理や、ｋ−ｍｅａｎｓクラスタリングなど、さまざまな処理をバイナリコードに対しても適用できる。しかしながら、これらのケースではハミング距離による高速距離計算の恩恵を受けることができないことがある。すなわち、アルゴリズムによっては、バイナリコード変換による高速距離計算の恩恵を受けられないことがある。

バイナリコード変換による高速距離計算の恩恵を受けられない例として、以下では、識別器（Classifier）による認識処理及びｋ−ｍｅａｎｓクラスタリングを説明する。まず、識別器による認識処理については、例えば、二値ベクトルｘ∈｛−１，１｝^dを２クラスに識別する問題に対して、線形ＳＶＭ（線形サポートベクトルマシン）等の線形識別器を適用することを考える。線形ＳＶＭでは以下の式を評価する。

ｆ（ｘ）が正ならばｘはクラスＡに属し、ｆ（ｘ）が負ならばｘはクラスＢに属するものとして識別する。 ｗは、重みパラメータであって、ｗ∈Ｒ^dである。ｂは、バイアスパラメータであって、ｂ∈Ｒ¹である。パラメータｗ及びｂは、学習用に用意した特徴量を用いて、学習処理により自動的に決定される。

ここで、学習用に用意した特徴量が二値ベクトルであっても、ｗ∈Ｒ^dは二値にならず、実数値になってしまう。ｆ（ｘ）の計算にはｗ^Tｘが含まれているが、ｘが二値である一方でｗが実数値のベクトルであるため、ｗ^Tｘの計算には、浮動小数点演算が必要になってしまう。このように、ＳＶＭを適用する識別器による認識処理では、特徴ベクトルを二値ベクトルとすることによる計算高速化の恩恵を受けることができない。

次に、二値ベクトルに対して、ｋ−ｍｅａｎｓクラスタリングを適用する場合、すなわち、ｄ次元の二値ベクトルがＮ個与えられたとき、互いに距離が近い二値ベクトルをまとめたｋ個のクラスタを求める問題を考える。ｋ−ｍｅａｎｓとは、次の手順によりｋ個のクラスタと代表ベクトルを算出するアルゴリズムである。

ステップ１：Ｎ個の特徴量からｋ個をランダムに選出し、これをクラスタの代表ベクトルとする。
ステップ２：入力として与えられたＮ個の特徴量それぞれについて、最も距離が近い代表ベクトルを求める。
ステップ３：各代表ベクトルに所属する特徴量の平均を計算し、これを新しい代表ベクトルとする。
ステップ４：ステップ２、ステップ３を収束するまで繰り返す。

ｋ−ｍｅａｎｓクラスタリングにおいて問題となるのは、ステップ３において、新しい代表ベクトルが二値ベクトルの平均で定義される点である。入力として与えられたデータが二値ベクトルであっても、平均の演算により、代表ベクトルは実数のベクトルになる。そのため、ステップ２における距離計算では、二値ベクトルと実数ベクトルとの間の距離を求めなければならなくなる。つまり、浮動小数点演算が必要になってしまう。このように、ｋ−ｍｅａｎｓクラスタリングにおいても、特徴ベクトルを二値ベクトルとすることによる計算高速化の恩恵を受けることができない。

上記のように、識別器（Classifier）による認識処理やｋ−ｍｅａｎｓクラスタリングでは、特徴ベクトルを二値ベクトルとすることによる計算高速化の恩恵を受けることができない。その理由は、いずれもｄ次元の二値ベクトルｐ∈｛−１，１｝^dと、ｄ次元の実数ベクトルｑ∈Ｒ^dとの内積演算が必要であるという点にある。なお、ｋ−ｍｅａｎｓクラスタリングで必要なのは、ｄビットの二値ベクトルｐ∈｛−１，１｝^dと、ｄ次元の実数ベクトルｑ∈Ｒ^dとの間の「距離」であるが、これも結局のところ、ｐ^Tｑという内積の演算に帰着される。なぜなら、ｐとｑとの間のユークリッド距離の二乗は、下式で表現されるからである。

よって、識別器による認識処理においてもｋ−ｍｅａｎｓクラスタリングにおいても、二値ベクトルとｄ次元の実数ベクトルとの内積の演算を高速化することこそが、問題の解決につながる。

そこで、本出願人は、特徴ベクトルがｄ次元の二値ベクトルｐ∈｛−１，１｝^dである場合において、そのような特徴ベクトルとｄ次元の実数ベクトルｑ∈Ｒ^dとの間の内積（ｐ^Tｑもしくはｑ^Tｐ）の演算を高速に行う関連性判定装置を提案している（特許文献１）。

特許文献１の関連性判定装置は、二値化された特徴ベクトルを取得する特徴ベクトル取得部と、実数ベクトルを二値または三値の離散値のみから構成された要素を持つ複数の基底ベクトルの線形和に分解することで得られた前記複数の基底ベクトルを取得する基底ベクトル取得部と、前記特徴ベクトルと前記複数の基底ベクトルの各々との内積計算を順次行うことで、前記実数ベクトルと前記特徴ベクトルとの関連性を判定するベクトル演算部とを備えている。この構成により、実数ベクトルは複数の二値の基底ベクトルの線形和に分解されたうえで二値化された特徴ベクトルとの内積計算が行なわれるので、特徴ベクトルと実数ベクトルの内積計算を高速化できる。

特開２０１４−１１２３５８号公報

Michel X. Goemans, avid P. Williamson, "Improved approximation algorithms for maximum cut and satisfiability problems using semidefinite programming", Journal of the ACM Volume 42 , Issue 6 (November 1995) Pages: 1115-1145 Ping Li, Trevor J. Hastie, Kenneth W. Church, "very sparse random projections", KDD '06 Proceedings of the 12th ACM SIGKDD international conference on Knowledge discovery and data mining (2006) Y. Weiss, A. Torralba, R. Fergus., "Spectral Hashing",Advances in Neural Information Processing Systems, 2008.

二値化された特徴ベクトルと複数の実数ベクトルとの内積を計算することで、特徴ベクトルと複数の実数ベクトルの各々との関連性を判定する必要がある場合がある。例えば、上述のように、線形ＳＶＭでは、特徴ベクトルがクラスＡに属するか、クラスＢに属するか、即ち、特徴ベクトルがある識別基準に該当するか否かのみを判断するものであるが、このような識別を複数の基準について行いたい場合がある。具体的な例としては、撮影された画像に映っているのが、大人であるか否か、子供であるか否か、車であるか否か、道路標識であるか否かをそれぞれ判断したい場合がある。

また、上述のｋ−ｍｅａｎｓクラスタリングでは、入力として与えられたＮ個の特徴ベクトルの各々について、ｋ個の代表ベクトルとの間で内積計算を伴う距離の計算を行う。ここで、ｋ個の代表ベクトルの各々は、上述のように、二値ベクトルの平均で定義されるので、実数ベクトルである。よって、ｋ−ｍｅａｎｓクラスタリングでも、二値化された特徴ベクトルと複数の実数ベクトルとの内積計算が必要となる。

そこで、本発明は、二値化された特徴ベクトルと複数の実数ベクトルとの内積計算を高速化することを目的とする。

本発明の一態様は、認識装置であり、この認識装置は、二値化された特徴ベクトルｘを取得する特徴ベクトル取得部と、前記特徴ベクトルを識別するための複数のクラスの辞書としての複数の実数ベクトルｑ₁〜ｑ_Lからなる実数行列Ｑを、複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解する実数行列分解部と、前記特徴ベクトルｘと前記複数の実数ベクトルｑ₁〜ｑ_Lの各々との内積の計算として、前記特徴ベクトルｘと前記基底行列Ｍ_iとの積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算することで、前記特徴ベクトルｘについて各クラスの識別を行う識別部とを備えた構成を有している。ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積である。

この構成により、特徴ベクトルと複数の実数ベクトルの各々との内積計算のために、複数の実数ベクトルからなる実数行列を複数の離散値の基底行列と係数行列の積の和に分解した上で、特徴ベクトルと各基底行列との積を計算し、さらにそれらの各積と対応する係数行列との積を計算するので、特徴ベクトルと複数の実数ベクトルの各々との内積演算を高速に行うことができる。また、実数行列を複数の基底行列と係数行列の積の和に分解するので、実数行列のクラス数が多い場合にも、各基底行列の基底数は比較的小さく抑えることができ、分解の処理負担を軽減できる。

前記識別部は、前記積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算するごとに、所定の閾値と比較して早期棄却を行ってよい。

この構成により、複数の基底行列と係数行列の積を利用して、識別をカスケード化でき、識別の速度を大幅に高速化できる。

前記識別部は、早期棄却された前記クラスについては、前記積ｘＭ_i及び当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算しなくてよい。

この構成により、早期棄却されたクラスについての計算を省略して、識別処理を高速化できる。

前記実数行列分解部は、分解後の残差の分解を繰り返すことで、前記複数のＭ_iＣ_iを得てよい。

この構成により、残差を徐々に小さくしていくことで、複数のＭ_iＣ_iの和への分解が行われるので、インデクスｉが小さいほどもとの実数行列Ｑに対する寄与度が大きくなる。

前記実数行列分解部は、前記複数の実数ベクトルｑ₁〜ｑ_Lに対して互いに相関が高いものをまとめるグルーピングを行い、グループごとに前記Ｍ_iＣ_iを得てよい。

この構成により、相関が高い複数の実数ベクトルからなるグループごとに分解を行うので、少ない基底数で分解を行うことができる。

前記実数行列分解部は、分解後の残差の分解を行うごとに、前記グルーピングを行ってよい。

この構成により、カスケード処理の各段で最適なグループを選択できる。

本発明の他の態様の認識装置は、二値化された特徴ベクトルｘを取得する特徴ベクトル取得部と、前記特徴ベクトルを識別するための複数のクラスの辞書としての複数の実数ベクトルｑ₁〜ｑ_Lからなる実数行列Ｑを複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解することで得られた前記複数のＭ_iＣ_iを用いて、ｉ＝１から順にｉを増加させつつ、前記特徴ベクトルｘと前記複数の実数ベクトルｑ₁〜ｑ_Lの各々との内積の計算として、前記特徴ベクトルｘと前記基底行列Ｍ_iとの積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算して、近似行列ｙを求め、前記近似行列ｙの各要素を所定の閾値行列ｔ_iの各要素と比較することで、前記特徴ベクトルｘについて各クラスの識別を行う識別部とを備えた構成を有している。ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積である。

この構成により、複数の基底行列と係数行列の積を利用して、カスケードによる識別を行うことができる。

本発明のさらに他の態様は、実数分解装置における実数行列Ｑを複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解する実数行列分解方法であって、この実数行列分解方法は、前記実数分解装置が、分解すべき実数行列Ｑを取得する第１ステップと、前記実数分解装置が、前記第１ステップの後に、逐次的な分解によってそれまでに得られた前記Ｍ_iＣ_iの和と前記実数行列Ｑとの差である残差行列Ｒに、前記実数行列Ｑを代入する第２ステップと、前記実数分解装置が、前記第２ステップの後に、前記残差行列ＲをＭ_iＣ_iに分解する第３ステップと、前記実数分解装置が、前記第３ステップの後に、前記残差行列Ｒと前記Ｍ_iＣ_iとの差を新たな残差行列Ｒにする第４ステップと、前記実数分解装置が、前記第４ステップの後に、前記ｉをインクリメントする第５ステップとを含み、前記実数分解装置は、前記第５ステップの後に、前記第３ステップに戻り、直前の前記第４ステップにて得られた前記新たな残差行列Ｒを、前記第５ステップでインクリメントされた前記ｉで分解する構成を有している。ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積である。

この構成により、実数行列Ｑを複数のＭ_iＣ_iの和に分解することができ、かつ、残差を徐々に小さくしていくので、インデクスｉが小さいほど、もとの実数行列Ｑに対する寄与度を大きくできる。

本発明のさらに他の態様は、認識装置において特徴ベクトルｘについて複数のクラスでの識別を行う認識方法であって、この認識方法は、前記認識装置が、ｉを１として、特徴ベクトルｘとＭ_iＣ_iとの積を計算して、近似行列ｙを得る第１ステップと、前記認識装置が、前記第１ステップの後に、前記近似行列ｙの各要素と所定の閾値行列ｔ_iの各要素とをそれぞれ比較して、前記閾値行列ｔ_iの要素よりも小さい前記近似行列ｙの要素について、ｎｅｇａｔｉｖｅであると判定する第２ステップと、前記認識装置が、前記第２ステップの後に、前記ｉをインクリメントする第３ステップと、前記認識装置が、前記第３ステップの後に、前記第３ステップでインクリメントされた前記ｉで、前記特徴ベクトルｘとＭ_iＣ_iとの積を計算する第４ステップと、前記認識装置が、前記第４ステップの後に、前記近似行列ｙに、前記第４ステップで計算された前記積を加えて、新たな近似行列ｙを取得する第５ステップとを含み、前記認識装置は、前記第５ステップの後に、前記第２ステップに戻り、直前の前記第５ステップで得られた新たな近似行列ｙについて、前記比較及び前記判定を行う構成を有している。ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積である。

この構成により、複数の基底行列と係数行列の積を利用して、カスケードによる識別を行うことができる。

本発明によれば、実数行列を複数の基底行列と係数行列の積の和に分解するので、実数行列のクラス数が多い場合にも、各基底行列の基底数は比較的小さく抑えることができ、分解の処理負担を軽減できる。

複数の識別基準で画像中の人を識別する場合の線形ＳＶＭの例を示す図 複数の識別基準で画像中の人を識別する場合の線形ＳＶＭの例を示す図 本発明の第１の実施の形態の特徴量演算装置の構成を示すブロック図 本発明の第１の実施の形態における実数行列の分解を示す図 本発明の第１の実施の形態における実数行列と基底行列との関係を説明するための図 本発明の第１の実施の形態における計算例を示す図 本発明の第１の実施の形態の第１の応用例の物体認識装置の構成を示すブロック図 本発明の第１の実施の形態の第１の応用例の回転する道路標識と回転角度ごとの辞書及びバイアスを示す図 本発明の第１の実施の形態の第１の応用例の係数行列の性質を示す図 本発明の第１の実施の形態の第１の応用例の識別関数の例を示すグラフ 本発明の第１の実施の形態の第２の応用例のｋ−ｍｅａｎｓクラスタリング装置の構成を示すブロック図 本発明の第２の実施の形態の物体認識装置の構成を示すブロック図 本発明の第２の実施の形態のパラメータ行列分解部による複数の実数の重みベクトルの分解を説明する図 本発明の第２の実施の形態のパラメータ行列分解部が実行するアルゴリズムのフロー図 本発明の第２の実施の形態の特徴ベクトルと重み行列との積を示す図 本発明の第２の実施の形態の線形ＳＶＭ識別部におけるカスケード識別処理のフロー図 本発明の第２の実施の形態の近似行列を求めるための計算を示す図 本発明の第２の実施の形態の近似行列と閾値行列との比較処理を示す図 本発明の第２の実施の形態の近似行列の更新処理を示す図 本発明の第２の実施の形態の近似行列の更新処理を示す図 本発明の第２の実施の形態の近似行列と閾値行列との比較処理を示す図 本発明の第３の実施の形態のパラメータ行列分解部が実行するアルゴリズムのフロー図 本発明の第３の実施の形態のグルーピングを用いた行列分解を説明する図

本明細書では、以下の順に本発明の実施の形態を説明する。
Ｉ．第１の実施の形態
１．概要
２．実施の形態
２−１．二値分解法
２−２．二値分解法の拡張
２−３．三値分解法
２−４．三値分解法の拡張
３．応用例
３−１．第１の応用例
３−２．第２の応用例
３−３．第３の応用例
ＩＩ．第２の実施の形態
１．概要
２．実施の形態
３．変形例
ＩＩＩ．第３の実施の形態
１．概要
２．実施の形態
ＩＶ．変形例

Ｉ．第１の実施の形態
１．概要
まず、特徴ベクトルとの内積を計算すべき実数ベクトルが複数ある場合について説明する。図１は、複数の識別基準で画像中の人を識別する場合の線形ＳＶＭの例を示す図である。この例では、入力されたある特徴ベクトルに対して、図１に示すように、単にその特徴ベクトルの画像内に人がいるか否かの識別ではなく、それが「大人（正面）」であるか否か、「大人（横）」であるか否か、「子供（正面）」であるか否かをそれぞれ識別する。即ち、特徴ベクトルを識別する基準が複数ある。この場合、図１に示すように、線形ＳＶＭの評価式ｆ（ｘ）の重みパラメータ（以下、「辞書」ともいう。）ｑは、識別基準ごとに複数（ｑ₁，ｑ₂，ｑ₃，…，ｑ_L）用意する必要があり、バイアスｂも識別基準ごとに複数（ｂ₁，ｂ₂，ｂ₃，…，ｂ_L）用意する必要がある。

図２は、被写体までの距離に応じた複数の識別基準で画像中の人を識別する場合の線形ＳＶＭの例を示す図である。この例では、人の識別が、被写体までの距離、即ち画像内の被写体のスケールの変化に対してロバストとなるように、入力されたある特徴ベクトルに対して、図２に示すように、単にその特徴ベクトルの画像内に大人がいるか否かを識別するだけでなく、それが「大人（遠）」であるか否か、「大人（中距離）」であるか否か、「大人（近）」であるか否かをそれぞれ識別する。即ち、この場合も、特徴ベクトルを識別する基準が複数あり、よって、図２に示すように、線形ＳＶＭの辞書ｑは、識別基準ごとに複数（ｑ₁，ｑ₂，ｑ₃，…，ｑ_L）用意する必要があり、バイアスｂも識別基準ごとに複数（ｂ₁，ｂ₂，ｂ₃，…，ｂ_L）用意する必要がある。

このように、ある特徴ベクトルに対して複数の基準で識別を行う場合には、それらの複数の基準が互いに似ていることが多い。図１及び図２もそのような例を示しており、即ち、図１の例では、「大人（正面）」と「大人（横）」は、大人という共通点を有し、「大人（正面）」と「子供（正面）」は、人の正面という共通点を有し、また、「大人（正面）」と「大人（横）」と「子供（正面）」は、人という共通点を有する。図２の例でも、「大人（遠）」と「大人（中距離）」と「大人（近）」は、「大人」という共通点を有する。よって、図１及び図２の複数の実数ベクトルである辞書（ｑ₁，ｑ₂，ｑ₃，…，ｑ_L）は互いに似ている。また、ｋ−ｍｅａｎｓクラスタリングにおいても、ｋ個の実数ベクトルである代表ベクトルが互いに似ていることが多い。本実施の形態の関連性判定装置は、このように複数の実数ベクトルが互いに似ているという性質を生かして、処理を高速化する。

本実施の形態の関連性判定装置は、二値化された特徴ベクトルを取得する特徴ベクトル取得部と、複数の実数ベクトルからなる実数行列を、係数行列と、要素として二値または三値の離散値のみを持つ複数の基底ベクトルからなる基底行列との積に分解する実数行列分解部と、前記特徴ベクトルと前記複数の実数ベクトルの各々との内積の計算として、前記特徴ベクトルと前記基底行列との積を計算し、さらに当該積と前記係数行列との積を計算して、その結果を用いて、前記複数の実数ベクトルの各々と前記特徴ベクトルとの関連性を判定するベクトル演算部とを備えた構成を有している。この構成により、特徴ベクトルと複数の実数ベクトルの各々との内積を計算のために、複数の実数ベクトルからなる実数行列を離散値の基底行列と係数行列に分解したうえで、特徴ベクトルと基底行列との積を計算し、さらに係数行列との積を計算するので、特徴ベクトルと複数の実数ベクトルの各々との内積演算の結果を高速に取得でき、よって特徴ベクトルと複数の実数ベクトルとの関連性の判定を高速に行うことができる。

上記の関連性判定装置は、前記複数の実数ベクトルを並べることで前記実数行列を生成する実数行列生成部をさらに備えていてよい。この構成により、容易に複数の実数ベクトルから実数行列を生成できる。

上記の関連性判定装置において、前記実数行列生成部は、前記複数の実数ベクトルが所定のパラメータを有する場合に、当該パラメータの順に従って前記複数の実数ベクトルを並べることにより前記実数行列を生成してよい。この構成により、実数行列において互いに似た実数ベクトルが隣り合うこととなるので、隣り合う係数行列もまた類似するようになる。

上記の関連性判定装置において、前記実数行列分解部は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解してよい。ここで、Ｑは前記実数行列、Ｍは前記基底行列、Ｃは前記係数行列である。この構成により、実数行列を基底行列と係数行列との積に分解したときの誤差をコストとして評価して、実数行列を分解するので、容易かつ高精度に実数行列を分解できる。具体的には、このコスト関数を最小にする（所定の収束条件を満たす）基底行列及び係数行列で実数行列を分解することができる。

上記の関連性判定装置において、前記実数行列分解部は、前記基底行列の要素を固定して前記係数行列の要素を最小二乗法で最適化する第１の更新と、前記係数行列の要素を固定して前記基底行列の要素を全探索で最適化する第２の更新とを繰り返すことで、前記基底行列及び前記係数行列を求めてよい。この構成により、容易に実数行列を分解できる。なお、係数行列の要素を固定すると、基底行列の各行を求めるときに探索すべき組み合わせ数は、二値分解の場合は２^k通り、三値分解の場合は３^k通りしかないので、全探索を行っても計算量が多くなりすぎることはない。

上記の関連性判定装置において、前記実数行列分解部は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解してよい。ここで、Ｑは前記実数行列、Ｍは前記基底行列、Ｃは前記係数行列、λは係数である。この構成によっても、実数行列を基底行列と係数行列との積に分解したときの誤差をコストとして評価して、容易かつ高精度に実数行列を分解できるとともに、係数行列を疎にすることができるので、特徴ベクトルと実数行列との積を高速に計算できる。具体的には、このコスト関数を最小にする（所定の収束条件を満たす）基底行列及び係数行列で実数行列を分解することができる。

上記の関連性判定装置において、前記実数行列分解部は、前記基底行列の要素を固定して前記係数行列の要素を近接勾配法で最適化する第１の更新と、前記係数行列の要素を固定して前記基底行列の要素を全探索で最適化する第２の更新とを繰り返すことで、前記基底行列及び前記係数行列を求めてよい。この構成により、容易に実数行列を分解できる。なお、係数行列の要素を固定すると、基底行列の各行を求めるときに探索すべき組み合わせ数は、二値分解の場合は２^k通り、三値分解の場合は３^k通りしかないので、全探索を行っても計算量が多くなりすぎることがない。

上記の関連性判定装置において、前記実数行列分解部は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解してよい。ここで、Ｑは前記実数行列、Ｍは前記基底行列、Ｃは前記係数行列、Ｐは複数の前記特徴ベクトルの集合である。この構成により、実数行列の分解の誤差ではなく、複数の特徴ベクトルを用いて、特徴ベクトルと実数行列との積の分解による誤差をコストとして評価するので（データ依存分解）、特徴ベクトルと実数行列との積をより高精度に近似できる。具体的には、このコスト関数を最小にする（所定の収束条件を満たす）基底行列及び係数行列で実数行列を分解することができる。

上記の関連性判定装置において、前記実数行列分解部は、前記基底行列の要素を固定して前記係数行列の要素を最小二乗法で最適化する第１の更新と、前記係数行列の要素を固定して組合最適化問題を解くことで前記基底行列の要素を最適化する第２の更新とを繰り返すことで、前記基底行列及び前記係数行列を求めてよい。この構成により、容易に実数行列を分解できる。なお、組合最適化問題は、例えば、グリーディアルゴリズム、タブーサーチ、シミュレイテッドアニーリング等のアルゴリズムを用いて解くことができる。

上記の関連性判定装置において、前記実数行列分解部は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解してよい。ここで、Ｑは前記実数行列、Ｍは前記基底行列、Ｃは前記係数行列、Ｐは複数の前記特徴ベクトルの集合、λは係数である。この構成により、実数行列の分解の誤差ではなく、複数の特徴ベクトルを用いて、特徴ベクトルと実数行列との積の分解による誤差をコストとして評価するので（データ依存分解）、特徴ベクトルと実数行列との積をより高精度に近似できるとともに、係数行列を疎にすることで特徴ベクトルと実数行列との積を高速に計算できる。具体的には、このコスト関数を最小にする（所定の収束条件を満たす）基底行列及び係数行列で実数行列を分解することができる。

上記の関連性判定装置において、前記実数行列分解部は、前記基底行列の要素を固定して前記係数行列の要素を近接勾配法で最適化する第１の更新と、前記係数行列の要素を固定して組合最適化問題を解くことで前記基底行列の要素を最適化する第２の更新とを繰り返すことで、前記基底行列及び前記係数行列を求めてよい。この構成により、容易に実数行列を分解できる。なお、組合最適化問題は、例えば、グリーディアルゴリズム、タブーサーチ、シミュレイテッドアニーリング等のアルゴリズムを用いて解くことができる。

上記の関連性判定装置において、前記実数行列分解部は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解して前記基底行列及び前記係数行列の要素の初期値を求め、又は、

をコスト関数として、前記コスト関数を解くことにより前記実数行列を分解して前記基底行列及び前記係数行列の要素の初期値を求めてよい。この構成により、データ非依分解により得られた基底行列及び係数行列を初期値とするので、十分に良好な初期解からデータ依存分解のための更新の繰り返しを開始でき、よって効果的にコストを減少させることができる。

上記の関連性判定装置において、前記実数行列分解部は、前記基底行列及び前記係数行列の要素の初期値を変えて、複数とおりの前記基底行列及び前記係数行列を求め、前記コスト関数が最小となる前記基底行列及び前記係数行列を採用することで前記実数行列を分解してよい。この構成により、初期値によるばらつきを軽減して、分解の誤差をより小さくできる。

上記の関連性判定装置において、前記特徴ベクトルは、ＨＯＧ特徴量であってよく、前記複数の実数ベクトルは、複数の線形識別器のパラメータに対応する複数の重みベクトルであってよく、前記ベクトル演算部は、前記関連性の判定として、前記複数の線形識別器の識別関数によって、前記複数の基準の各々に対する前記特徴ベクトルの識別を行なってよい。この構成により、複数の線形識別器による特徴ベクトルの識別を高速化できる。

上記の関連性判定装置において、前記実数行列生成部は、前記特徴ベクトル及び前記複数の実数ベクトルが１又は複数のパラメータを有する場合に、当該パラメータの順に従って前記複数の実数ベクトルを並べることにより前記実数行列を生成し、前記ベクトル演算部は、前記係数行列を構成する複数のベクトルであって前記複数の実数ベクトルが並べられた方向と同方向の複数のベクトルの各々を前記パラメータに関する連続関数で表現し、前記識別関数を最大にする前記パラメータを、前記特徴ベクトルのパラメータ値として求めてよい。この構成により、複数の実数ベクトルをまとめて実数行列を生成する際に、複数の実数ベクトルをそれが滑らかに変化するパラメータの順に並べて実数行列を生成することで、識別関数をそのパラメータに関する連続関数で表現できるので、高い分解能で特徴ベクトルのパラメータ値を求めることができる。

上記の関連性判定装置において、前記特徴ベクトルは、ｋ−ｍｅａｎｓクラスタリングによるクラスタリングの対象となるベクトルであってよく、前記実数ベクトルは、ｋ−ｍｅａｎｓクラスタリングにおける代表ベクトルであってよく、前記ベクトル演算部は、前記関連性の判定として、前記特徴ベクトルと前記代表ベクトルとの間の距離の演算を含むクラスタリング処理を行なってよい。この構成により、ｋ−ｍｅａｎｓクラスタリングにおける特徴ベクトルと代表ベクトルとの間の距離の演算を高速化できる。

上記の関連性判定装置において、前記特徴ベクトルは、ｋ−ｍｅａｎｓ ｔｒｅｅによる近似最近傍探索の対象となるベクトルであってよく、前記実数ベクトルは、ｋ−分木のノードに登録されている代表ベクトルであってよく、前記ベクトル演算部は、前記関連性の判定として、前記特徴ベクトルと前記代表ベクトルとの間の距離の演算を含むクラスタリング処理を行なってよい。この構成により、ｋ−ｍｅａｎｓ ｔｒｅｅによる近似最近傍探索における特徴ベクトルとｋ−分木のノードに登録されている代表ベクトルとの間の距離の演算を高速化できる。

上記の関連性判定装置において、前記特徴ベクトルは、画像の特徴量を表すベクトルであってよい。この構成により、画像の特徴量の演算における特徴ベクトルと複数の実数ベクトルの内積計算を高速化できる。

本実施の形態の関連性判定プログラムは、コンピュータを、上記の関連性判定装置として機能させるための関連性判定プログラムである。この構成によっても、特徴ベクトルと複数の実数ベクトルの各々との内積を計算のために、複数の実数ベクトルからなる実数行列を離散値の基底行列と係数行列に分解したうえで、特徴ベクトルと基底行列との積を計算し、さらに係数行列との積を計算するので、特徴ベクトルと複数の実数ベクトルの各々との内積演算の結果を高速に取得でき、よって特徴ベクトルと複数の実数ベクトルとの関連性の判定を高速に行うことができる。

本実施の形態の関連性判定方法は、二値化された特徴ベクトルを取得する特徴ベクトル取得ステップと、複数の実数ベクトルからなる実数行列を、係数行列と、要素として二値または三値の離散値のみを持つ複数の基底ベクトルからなる基底行列との積に分解する実数行列分解ステップと、前記特徴ベクトルと前記複数の実数ベクトルの各々との内積の計算として、前記特徴ベクトルと前記基底行列との積を計算し、さらに当該積と前記係数行列との積を計算して、その結果を用いて、前記複数の実数ベクトルの各々と前記特徴ベクトルとの関連性を判定するベクトル演算ステップとを含む構成を有している。この構成によっても、特徴ベクトルと複数の実数ベクトルの各々との内積を計算のために、複数の実数ベクトルからなる実数行列を離散値の基底行列と係数行列に分解したうえで、特徴ベクトルと基底行列との積を計算し、さらに係数行列との積を計算するので、特徴ベクトルと複数の実数ベクトルの各々との内積演算の結果を高速に取得でき、よって特徴ベクトルと複数の実数ベクトルとの関連性の判定を高速に行うことができる。

本実施の形態によれば、二値化された特徴ベクトルと複数の実数ベクトルの各々との内積計算を高速化でき、そのような特徴ベクトルと複数の実数ベクトルの各々との関連性の判定を高速に行うことができる。

２．実施の形態の具体的説明
２−１．二値分解法
図３は、本発明の第１の実施の形態の二値分解法を採用する特徴量演算装置１００の構成を示すブロック図である。特徴量演算装置１００は、コンテンツ取得部１０１と、特徴ベクトル生成部１０２と、特徴ベクトル二値化部１０３と、実数行列取得部１０４と、実数行列分解部１０５と、ベクトル演算部１０６と、データベース１０７とを備えている。

本実施の形態の特徴量演算装置１００は、後述するように、特徴ベクトルと辞書データとしてデータベースに保存された複数の実数ベクトルとの内積演算を伴うベクトル演算によって、特徴ベクトルと複数の実数ベクトルとの関連性を判定する関連性判定装置として機能する。即ち、特徴演算装置１００は、本発明の関連性判定装置に相当する。

関連性判定装置としての特徴量演算装置１００は、コンピュータが本発明の実施の形態の関連性判定プログラムを実行することにより実現される。関連性判定プログラムは、記録媒体に記録されて、記録媒体からコンピュータによって読み出されてもよいし、ネットワークを通じてコンピュータにダウンロードされてもよい。

コンテンツ取得部１０１は、画像データ、音声データ、文字データ等のコンテンツデータを取得する。これらのコンテンツデータは、外部機器から与えられるものであってもよく、コンテンツ取得部１０１で生成されるものであってもよい。例えば、コンテンツ取得部１０１がカメラであり、そこでコンテンツデータとして画像データが生成されてよい。

特徴ベクトル生成部１０２は、コンテンツ取得部１０１にて取得されたコンテンツデータからＤ次元の特徴ベクトルを生成する。例えばコンテンツが画像である場合には、特徴ベクトル生成部１０２は、画像の特徴量を抽出する。特徴ベクトル二値化部１０３は、特徴ベクトル生成部１０２で生成されたＤ次元の特徴ベクトルを二値化して、各要素が−１及び１の二値のみをとるｄ次元の二値ベクトルｐ∈｛−１，１｝^dを生成する。この特徴ベクトル二値化部１０３は、本発明の「特徴ベクトル取得部」に相当する。

なお、コンテンツ取得部１０１、特徴ベクトル生成部１０２、及び特徴ベクトル二値化部１０３からなる構成は、最終的に二値化された特徴ベクトルを取得できる構成であればよく、例えば、コンテンツ取得部１０１及び特徴ベクトル生成部１０２を備えずに、特徴ベクトル二値化部１０３が外部機器から特徴ベクトルを取得して、その取得した特徴ベクトルを二値化する構成であってよいし、また、特徴ベクトル二値化部１０３外部機器から二値化された特徴ベクトルを直接取得する構成であってもよい。

実数行列取得部１０４は、複数のｄ次元の実数ベクトルｑ_n∈Ｒ^d（ｎ＝１，２，…，Ｌ）を取得する。複数の実数ベクトルｑ_nは、外部機器から与えられるものであってもよく、特徴量演算装置１００の図示しない記憶装置から読み出されるものであってもよく、実数行列取得部１０４で生成されるものであってもよい。各実数ベクトルｑ_nは、その要素に浮動小数を含む実数を持つ。ここで、複数の実数ベクトルｑ_nを並べたものを実数行列Ｑ＝（ｑ₁，ｑ₂，…，ｑ_L）∈Ｒ^d×Lと表記する。

このように複数の実数ベクトルｑ_nをまとめた実数行列Ｑを用いると、図１及び図２の複数の線形ＳＶＭは、下式（１）のようにまとめて表現することができる。

実数行列分解部１０５は、図４に示すように、ｄ行Ｌ列の実数行列Ｑを、二値の基底行列Ｍ∈｛−１，１｝^d×kと係数行列との積に分解する。具体的には、実数行列分解部１０５は、ｄ行Ｌ列の実数行列Ｑを、下式（２）によって、二値の要素を持つ基底行列Ｍと実数の要素を持つ係数行列Ｃに分解する。

ここで、図４に示すように、Ｍ＝（ｍ₁，ｍ₂，…，ｍ_k）∈｛−１，１｝^d×kであり、Ｃ＝（ｃ₁，ｃ₂，…，ｃ_L）^T∈Ｒ^k×Lである。

すなわち、基底行列Ｍは、ｋ個の基底ベクトルｍ_iからなり、ここで、基底ベクトルｍ_iは、要素が−１及び１のみをとるｄ次元の二値ベクトルであり、従って、基底行列Ｍは、要素が−１及び１のみをとるｄ行ｋ列の二値行列である。

また、係数行列Ｃは、Ｌ個（Ｌはクラス数）の係数ベクトルｃ_nからなり、ここで、係数ベクトルｃ_nは、ｋ個（ｋは基底数）の基底ベクトルに係る実数の係数を要素として持つｋ次元の実数ベクトルである。もちろん、ＱとＭＣはなるべく一致するように分解することが好ましいが、誤差を含んでもよい。以下、実数行列分解部１０５が実数行列Ｑを式（２）のように分解する手法を説明する。

（第１の分解手法）
第１の分解手法として、データ非依存型の分解手法を説明する。第１の分解手法では、実数行列分解部１０５は、分解誤差を表す下式（３）のコスト関数ｇ₁を解くことで分解を行う。

ただし、基底行列Ｍは二値であり、Ｍ∈｛−１，１｝^d×kである。

実数行列分解部１０５は、以下の手順で上記のコスト関数ｇ₁を解く。
（１）基底行列Ｍ及び係数行列Ｃをランダムに初期化する。
（２）基底行列Ｍの要素を固定して、係数行列Ｃの要素を最小二乗法により最適化することで、コスト関数ｇ₁が最小になるように係数行列Ｃの要素を更新する。
（３）係数行列Ｃの要素を固定して、コスト関数ｇ₁が最小になるように全探索で基底行列Ｍの要素を更新する。この最小化アルゴリズムである全探索については、後に詳しく述べる。
（４）収束するまで（２）及び（３）を繰り返す。例えば、コスト関数ｇ₁が所定の収束条件（例えば、減少量が一定値以下となる）を満たしたときに、収束したと判定する。
（５）ステップ（１）〜ステップ（４）により得た解を候補として保持する。
（６）ステップ（１）〜ステップ（５）を繰り返し、最もコスト関数ｇ₁を小さくできた候補基底行列Ｍ及び候補係数行列Ｃを最終結果として採用する。なお、このステップ（１）〜ステップ（５）の繰り返しはなくてもよいが、複数回繰り返すことで、初期値依存の問題を回避できる。

次に、ステップ（３）における基底行列Ｍの更新処理を説明する。図５の破線枠で囲ったように、基底行列Ｍのｊ行目の行ベクトルの要素は、実数行列のｊ行目の要素のみに依存する。よって、基底行列Ｍの各行ベクトルの値は、他の行とは独立して最適化することができるので、基底行列Ｍは、行ごとに網羅探索（全探索）を行うことができる。基底行列Ｍのｊ行目の行ベクトルは、本実施の形態のように二値分解の場合は２^k通りしか存在しない（なお、後述の三値分解の場合にも３^k通りしか存在しない）。よって、実数行列分解部１０５は、これらをすべて網羅的にチェックし、コスト関数ｇ₁を最小化する行ベクトルを採用する。これを基底行列Ｍのすべての行ベクトルに対して適用して、基底行列Ｍの要素を更新する。

（第２の分解手法）
第２の分解手法として、係数行列Ｃを疎にするデータ非依存型の分解手法を説明する。第２の分解手法では、実数行列分解部１０５は、分解誤差である下式（４）のコスト関数ｇ₂を解くことで分解を行う。

ただし、基底行列Ｍは二値であり、Ｍ∈｛−１，１｝^d×kである。また、｜Ｃ｜₁は、係数行列Ｃの要素のＬ１ノルムであり、λはその係数である。

実数行列分解部１０５は、以下の手順で上記のコスト関数ｇ₂を解く。
（１）基底行列Ｍ及び係数行列Ｃをランダムに初期化する。
（２）基底行列Ｍの要素を固定して、係数行列Ｃの要素を近接勾配法で最適化する。
（３）係数行列Ｃの要素を固定して、コスト関数ｇ₂が最小になるように全探索で基底行列Ｍの要素を更新する。
（４）収束するまで（２）及び（３）を繰り返す。例えば、コスト関数ｇ₂のが所定の収束条件（例えば、減少量が一定値以下となる）を満たしたときに、収束したと判定する。
（５）ステップ（１）〜ステップ（４）により得た解を候補として保持する。
（６）ステップ（１）〜ステップ（５）を繰り返し、最もコスト関数ｇ₂を小さくできた候補基底行列Ｍ及び候補係数行列Ｃを最終結果として採用する。なお、このステップ（１）〜ステップ（５）の繰り返しはなくてもよいが、複数回繰り返すことで、初期値依存の問題を回避できる。

第２の分解手法によれば、係数行列Ｃを疎にすることができる。係数行列Ｃを疎にすることで、積ＭＣの計算において、係数行列Ｃのゼロ要素にかかわる部分を省略することができ、さらに高速に内積計算を行うことができる。

（第３の分解手法）
次に、第３の分解手法を説明する。第１の分解手法では、コスト関数ｇ₁として、分解誤差

を定義し、この分解誤差を最小化することを考えた。しかしながら、実数行列を基底行列と係数行列との積に近似した後に実際に近似をしたいのは、特徴ベクトルと実数行列の積Ｑ^Tｐである。

そこで、第３の分解手法では、特徴ベクトルｐをあらかじめＳ個集め、これをまとめたものをＰ∈Ｒ^d×Sとする。そして、分解誤差を

と定義して、これを最小化する。即ち、第３の分解手法では、実数行列分解部１０５は、下式（５）のコスト関数ｇ₃を解くことで分解を行う。

このコスト関数ｇ₃によれば、実数行列Ｑは、実際のデータの分布に従って分解されることになるため、分解の際の近似精度が向上する。

この近似分解は、基底ベクトルｍ_iを逐次的に求めることで行うことができる。第３の分解手法の手順は以下のとおりである。
（１）第１又は第２の分解手法によって、基底行列Ｍ及び係数行列Ｃを求めて、これをそれらの初期値とする。
（２）基底行列Ｍの要素を固定して、係数行列Ｃの要素を最小二乗法で最適化する。
（３）係数行列Ｃの要素を固定して、基底行列Ｍの要素を最適化することで、基底行列Ｍの要素を更新する。この基底行列Ｍの更新処理については後述する。
（４）収束するまで（２）及び（３）を繰り返し、コスト関数ｇ₃を最小化した基底行列Ｍ及び係数行列Ｃを候補として保持する。
（５）ステップ（１）〜（６）を繰り返し、コスト関数ｇ₃を最小化した基底行列Ｍ及び係数行列Ｃを最終結果として採用する。なお、ステップ（１）では再度第１又は第２の分解手法による基底行列Ｍ及び係数行列Ｃの最適化が行われるので、初期値が変更される。また、ステップ（５）の繰り返しはなくてもよいが、複数回繰り返すことで、初期値依存の問題を軽減できる。

次に、ステップ（３）における基底行列Ｍの更新処理を説明する。データ依存分解の場合、基底行列Ｍの行ベクトルの値は、もはや他の行と独立せず、依存してしまう。基底行列Ｍの要素は、二値又は三値、即ち離散値であるため、基底行列Ｍの最適化は、組合最適化問題となる。よって、基底行列Ｍの最適化には、例えば、グリーディアルゴリズム（Greedy algorithm）、タブーサーチ（Tabu search）、シミュレイテッドアニーリング（Simulated annealing）等のアルゴリズムを用いることができる。ステップ（１）でよい初期値が得られているので、これらのアルゴリズムでも良好に分解誤差を最小化できる。

例えばグリーディアルゴリズムを用いる場合は、以下の手順で基底行列Ｍを最適化する。
（３−１）基底行列Ｍの要素のうち、ランダムにＴ個を選択する。
（３−２）２^T通りの組み合わせ（後述の三値分解の場合は３^T通り）を試し、最もコスト関数ｇ₃を最小化したものを採用する。
（３−３）ステップ（３−１）及びステップ（３−２）を収束するまで繰り返す。

（第４の分解手法）
第４の分解手法は、第２の分解手法と第３の分解手法とを組み合わせてものである。具体的には、実数行列分解部１０５は、下式（６）のコスト関数ｇ₄を解くことで分解を行う。

このコスト関数ｇ₄によれば、実数行列Ｑは、実際のデータの分布に従って分解されることになるため、分解の際の近似精度が向上するとともに、係数行列Ｃを疎にすることができる。即ち、第２の分解手法のメリットと第３の分解手法のメリットをいずれも得ることができる。具体的な分解の手順は、第３の分解手法と同様である。

（第１及び第２の分解手法の変形例）
上記の第１及び第２のデータ非依存分解の手法は、分解数をｋとしたとき、２^k通り（三値分解の場合は３^k通り）の探索が必要であるため、ｋが大きいときは、適用が難しい。そのような場合は、あらかじめ実数行列Ｑに所属する実数ベクトルｑ_nの互いの類似度を調べ、似ている実数ベクトルどうしをクラスタリングし、各クラスタに対して第１又は第２の分解手法を適用すればよい。

ベクトル演算部１０６は、特徴ベクトルを用いた演算を行なう。演算の具体的内容については、後述にて、本実施の形態の特徴量演算装置１００の応用例とともに具体的に説明する。この特徴ベクトルを用いた演算には、二値化された特徴ベクトルｐ∈｛−１，１｝^dと実数行列分解部１０５にて分解された実数行列Ｑとの積Ｑ^Tｐの計算が含まれる。以下では、まず、この積Ｑ^Tｐの計算について説明する。

積Ｑ^Tｐは、下式（７）のように式変形できる。

ここで、ｍ_i ^Tｐは二値ベクトル同士の内積である。また、ｃ_n,iは、ｎ番目のクラスの係数ベクトルｃ_nのｉ番目の要素、即ち係数行列Ｃのｉ行ｎ列の要素である。この二値ベクトル同士の内積ｍ_i ^Tｐは、極めて高速に計算可能である。その理由は以下のとおりである。

二値ベクトル同士の内積は、ハミング距離の演算に帰着できる。ハミング距離とは、２つのバイナリコードにおいて、値が異なるビットを数えたものであり、２つの二値ベクトルの間のハミング距離は、すなわち値が異なる要素数を数えたものである。ここで、ｍ_iとｐのハミング距離をＤ_hamming（ｍ_i，ｐ）と記述すると、内積ｍ_i ^Tｐは、
Ｄ_hamming（ｍ_i，ｐ）と下式（８）の関係がある。

ここで、前述のとおり、ｄはバイナリコードのビット数である。

ハミング距離の演算は、２つのバイナリコードにおいて、ＸＯＲを適用した後に、１が立っているビットを数えることで計算できるので、極めて高速である。二値ベクトルがバイナリコード（０と１のビット列）で表現されているのであれば、ハミング距離は、下式（９）で計算できる。

ここで、ＸＯＲ関数はｍ_iとｐをバイナリコード表現で考えたときに排他的論理和を
取る操作であり、ＢＩＴＣＯＵＮＴ関数はバイナリコードの１が立っているビット数を数えあげる処理のことである。

以上をまとめると、積Ｑ^Tｐは下式（１０）のように変形できる。

すなわち、ｄビットのハミング距離計算をｋ回行い、ｋ個のハミング距離について、係数行列Ｃに関する重み付け和を計算し、定数項を足したものがＱ^Tｐになる。よって、ｋが十分小さければ、Ｑ^Tｐを浮動小数点精度で計算するよりも、はるかに高速に計算できるようになる。

データベース１０７には、実数行列分解部１０５にて分解された複数の実数行列Ｑについて、基底行列Ｍと係数行列Ｃの積が辞書データとして記憶されている。ベクトル演算部１０６は、データベース１０７から基底行列Ｍと係数行列Ｃとの積を読み出して、上記の演算を行う。

以上のように、本実施の形態の特徴量演算装置１００によれば、特徴ベクトルを用いた演算処理に特徴ベクトルと実数行列との積演算が含まれている場合にも、特徴ベクトルを二値化した上で、実数行列についても、二値行列である基底行列と係数行列との積に分解するので、特徴ベクトルと実数行列との積の計算において、特徴ベクトルと基底行列との積を計算した上で、さらに係数行列との積を計算することで、特徴ベクトルと実数行列との積演算を高速化できる。

また、複数の実数ベクトルを１つの実数行列としてまとめ、その実数行列を二値行列である基底行列と係数行列とに分解するので、特許文献１の技術のように各実数ベクトルをそれぞれ分解する場合と比較して、基底行列を構成する基底ベクトルの個数、即ち基底数を小さくすることができる。原理的には、１クラスあたり１個以下の基底数（即ち、基底数ｋ≦クラス数Ｌ）とすることも可能である。

２−２．二値分解法の拡張
上記の二値分解法では、二値ベクトルｍ_i、ｐを、それぞれ、ｍ_i∈｛−１，１｝^d、ｐ∈｛−１，１｝^dと定義して、実数行列を二値の基底行列と実数の係数行列との積に分解することで積演算Ｑ^Tｐが高速になることを説明した。しかしながら、ｍ_i、ｐをより一般的な二値ベクトルｍ_i´∈｛−ａ，ａ｝^d、ｐ´∈｛−ａ，ａ｝^dとしても、それらの高速な積演算が可能である。この場合、ｍ_i´^Tｐ´＝ａ²（ｍ_i ^Tｐ）であることから、−１及び１により定義される二値ベクトル同士の内積にａ²を掛ければよい。

さらに、特徴ベクトル及び基底ベクトルを任意の二値ベクトルｍ_i´´∈｛α，β｝^d、ｐ´´∈｛γ，δ｝^dとしても、高速な内積演算が可能である。ここで、係数α、β、γ、δは実数であり、α≠β、γ≠δである。この場合、ｍ_i´´及びｐ´´は、−１及び１により定義される二値ベクトルｍ_i及びｐの各要素に線形変換を施すことで得られ、下式（１１）及び（１２）のように展開される。

なお、式（１１）及び（１２）中の太字の「１」は、長さがｄですべての要素が１であるベクトルである。また、式（１１）及び（１２）中のＡ、Ｂ、Ｃ、Ｄは実数であり、式（１１）及び（１２）が成立するようにあらかじめ計算しておけばよい。

内積ｍ_i´´^Tｐ´´は、下式（１３）のように展開できる。

式（１３）の括弧内の計算は、−１及び１からなる二値ベクトル同士の内積である。従って、特徴ベクトルが任意の二値の要素をもつ二値ベクトルにされ、かつ、実数行列を二値の基底行列と実数の係数行列との積に展開した場合にも、高速演算が可能である。

２−３．三値分解法
次に、三値分解法を採用する特徴量演算装置を説明する。特徴量演算装置の構成は、図１に示した二値分解法の場合と同じである。二値分解法では、実数行列分解部１０５は、実数行列Ｑを式（１）によって二値の基底行列と実数の係数行列に分解したが、三値分解法を採用する特徴量演算装置１００の実数行列分解部１０５は、実数行列を三値の基底行列と実数の係数行列に分解する。

実数行列分解部１０５は、ｄ行Ｌ列の実数行列Ｑ∈Ｒ^d×Lを、三値の基底行列と実数の係数行列の積に分解する。具体的には、実数行列分解部１０５は、ｄ行Ｌ列の実数行列Ｑ∈Ｒ^d×Lを、下式（１４）によって、三値の要素を持つ基底行列Ｍと実数の要素を持つ係数行列Ｃに分解する。

ここで、Ｍ＝（ｍ₁，ｍ₂，…，ｍ_k）∈｛−１，０，１｝^d×kであり、Ｃ＝（ｃ₁，ｃ₂，…，ｃ_L）^T∈Ｒ^k×Lである。すなわち、基底行列Ｍは、ｋ個の基底ベクトルｍ_iからなり、ここで、基底ベクトルｍ_iは、要素が−１、０、及び１のみをとるｄ次元の三値ベクトルであり、従って、基底行列Ｍは、要素が−１、０、及び１のみをとるｄ行ｋ列の三値行列である。

また、係数行列Ｃは、Ｌ個（Ｌはクラス数）の係数ベクトルｃ_nからなり、ここで、係数ベクトルｃ_nは、ｋ個の基底ベクトルに係る実数の係数を要素として持つｋ次元の実数ベクトルである。もちろん、ＱとＭＣはなるべく一致するように分解することが好ましいが、誤差を含んでもよい。実数行列分解部１０５は、二値分解法の場合と同様にして、第１〜第４の分解手法によって実数行列Ｑを分解できる。

ベクトル演算部１０６は、積Ｑ^Tｐを計算する。以下では、積Ｑ^Tｐを計算するベクトル演算部１０６を特に、積演算部１０６とも呼ぶ。積Ｑ^Tｐは、下式（１５）のように式変形できる。

ここで、ｍ_i ^Tｐは、三値ベクトルｍ_iと二値ベクトルｐとの内積である。積演算部１０６は、ここで、三値ベクトルｍ_iの代わりに、以下に定義する０置換ベクトルｍ_i ^bin、フィルタベクトルｍ_i ^filter、及び０要素数ｚ_iを用いる。

まず、積演算部１０６は、ｍ_iの０の要素を、−１又１に置き換える。ｍ_iの各要素について、それを−１に置き換えるか、１に置き換えるかは、いずれでもよい。この置き換えによって、０置換ベクトルｍ_i ^bin∈｛−１，１｝^dが生成される。この０置換ベクトルｍ_i ^bin∈｛−１，１｝^dは二値ベクトルである。

また、積演算部１０６は、ｍ_iの０の要素を−１に置き換え、０以外の要素を１に置き換える。この置き換えによって、フィルタベクトルｍ_i ^filter∈｛−１，１｝^dが生成される。このフィルタベクトルｍ_i ^filterも二値ベクトルである。

さらに、積演算部１０６は、ｍ_iの０の要素数ｚ_iを求める。ｚ_iは整数となる。積演算部１０６は、これらの二値ベクトルｍ_i ^bin、フィルタベクトルｍ_i ^filter、及び０要素数ｚ_iを用いて、式（１５）におけるｍ_i ^Tｐを、下の式（１６）及び式（１７）によって計算する。

ここで、式（１７）のＡＮＤ関数は、二値ベクトルをバイナリコード表現で考えたときに、論理積を取る操作である。

以下、図６の具体例を用いて、式（１６）及び（１７）の導出を説明する。図６は、本実施の形態の計算例を示す図である。図６の例では、ｐ＝｛−１，１，−１，１，−１，１｝であり、ｍ_i＝｛−１，０，１，０，１，１｝である。この例では、ｍ_i ^bin＝｛−１，＊，１，＊，１，１｝となる。ここで、「＊」は−１又は１の任意のいずれかを示す。また、ｍ_i ^filter＝｛１，−１，１，−１，１，１｝となり、ｚ_i＝２となる。

式（１７）におけるｐとｍ_i ^binとの排他的論理和は、ＸＯＲ（ｐ，ｍ_i ^bin）＝｛−１，＊，１，＊，１，−１｝となり、すなわち、ｐとｍ_iの要素のうち、非０で異なっている要素すなわち−１と１又は１と−１の組となる要素が１となり、−１と−１又は１と１の組となる要素が−１となる。

次に、その排他的論理和とｍ_i ^filterとの論理積は、ＡＮＤ（ＸＯＲ（ｐ，ｍ_i ^bin），ｍ_i ^filter））＝｛−１，−１，１，−１，１，−１｝となり、ｐとｍ_iの要素のうち、非０で異なっている要素に１が立ち、それ以外は−１となる。このビットカウントを取ると、１である要素の個数、すなわち非０で異なっている要素の個数が数え上げられ、Ｄ_filtered__hamming（ｐ，ｍ_i ^bin，ｍ_i ^filter）＝２となる。

ここで、ｐとｍ_iの要素のうち、１と１又は−１と−１の組となる要素の個数は、全要素数ｄ＝６から、非０で異なっている要素の個数Ｄ_filtered__hamming＝２と０である要素の個数ｚ_i＝２を引くことで求められる。すなわち、１と１又は−１と−１の組となる要素の数＝ｄ−Ｄ_filtered__hamming−ｚ_i＝６−２−２＝２となる。

ｍ_i ^Tｐは、１と１又は−１と−１の組となる要素（積が１になる要素の組）の個数から、−１と１又は１と−１との組となる要素（積が−１になる要素の組）の個数を引いた値と等しいため、ｍ_i ^Tｐ＝（ｄ−Ｄ_filtered__hamming−ｚ_i）−Ｄ_filtered__hamming＝ｄ−ｚ_i−２Ｄ_filtered__hammingとなり、式（１６）が得られ、その値は、６−２−２×２＝０となる。なお、この結果は、当然ながら、ｐ^Tｍ_i＝｛−１，１，−１，１，−１，１｝×｛−１，０，１，０，１，１｝＝１＋０＋（−１）＋０＋（−１）＋１＝０と一致する。

式（１５）〜（１７）をまとめると、積Ｑ^Tｐは、下式（１８）のように変形できる。

積演算部１０６は、この式（１８）によって、積Ｑ^Tｐを計算する。

関数Ｄ_filtered__hamming（ｐ，ｍ_i ^bin，ｍ_i ^filter）は、ハミング距離演算と非常に似ており、ＡＮＤ演算が加わっただけである。したがって、Ｑ∈Ｒ^d×Lを、三値行列と係数行列との積に分解した場合でも、Ｑ^Tｐを浮動小数点精度で計算するよりも、はるかに高速にＱ^Tｐを計算できるようになる。

以上のように、ｄ次元の実数行列Ｑ∈Ｒ^d×Lを、二値ではなく三値の基底行列と係数行列との積に分解することの利点は、式（１０）の近似が、より少ない数の基底数の基底行列でも成立するようになることにある。すなわち、基底数を小さく抑えられることになるため、さらなる高速化につながる。

２−４．三値分解法の拡張
上記の三値分解法の説明では、二値ベクトルｐ及び三値ベクトルｍ_iを、それぞれ、ｐ∈｛−１，１｝^d、ｍ_i∈｛−１，０，１｝^dと定義して、複数の実数ベクトルからなる実数行列を三値の基底行列と係数行列との積に分解することで内積演算ｐ^Tｍ_iが高速になることを説明した。しかしながら、ｐ、ｍ_iをより一般的な二値ベクトルｐ´∈｛−ａ，ａ｝^d、三値ベクトルｍ_i∈｛−ａ，０，ａ｝^dとしても、それらの高速な内積演算が可能である。この場合、ｐ´^Tｍ_i´＝ａ²（ｐ^Tｍ_i）であることから、−１及び１により定義される二値ベクトル同士の内積にａ²を掛ければよい。

さらに、二値ベクトルｐ及び三値ベクトルｍ_iをｐ∈｛α，β｝^d、ｍ_i∈｛γ−δ，γ，γ＋δ｝^dと一般化しても、高速な内積演算が可能である。ここで、α、β、γ、δは実数であり、α≠β、δ≠０である。この場合、ｍ_i及びｐの各要素に下式（１９）及び（２０）の線形変換を施すことで、それぞれｍ_i´´及びｐ´´が得られる。

なお、式（１９）及び（２０）中の太字の「１」は、長さがｄですべての要素が１であるベクトルである。また、式（１９）及び（２０）中のＡ、Ｂ、Ｃ、Ｄは実数であり、式（１９）及び（２０）が成立するようにあらかじめ計算しておく。

内積ｍ_i´´^Tｐ´´は、下式（２１）のように展開できる。

式（２１）の括弧内の計算は、−１及び１からなる二値ベクトル同士の内積、又は−１及び１からなる二値ベクトルと−１、０、１からなる三値ベクトルとの内積である。従って、特徴ベクトルが任意の二値ベクトルにされ、かつ、実数行列を上記のとおり一般化した三値行列を用いて展開した場合にも、そのような特徴ベクトルと実数行列との積を高速に演算できる。

３．応用例
次に、ベクトル演算部１０６における演算処理について説明する。上記の二値分解法及び三値分解法の特徴量演算装置１００のベクトル演算部１０６は、二値化された特徴ベクトルｐと複数の実数ベクトルｑをまとめた実数行列Ｑとの積の計算を伴うものであるが、そのような演算処理は種々ある。すなわち、本発明の上記の実施の形態は、特徴ベクトルを用いて演算処理を行なう種々の装置に応用できる。

３−１．第１の応用例
本応用では、本発明がＨＯＧ特徴量を用いてＳＶＭにより複数種類の物体を認識する物体認識装置に応用される。図７は、物体認識装置の構成を示すブロック図である。物体認識装置１０は、ピラミッド画像生成部１１と、ＨＯＧ特徴量抽出部１２と、バイナリコード変換部１３と、パラメータ決定部１４と、パラメータ行列分解部１５と、線形ＳＶＭ識別部１６と、ピーク検出部１７とを備えている。

ピラミッド画像生成部１１は、入力クエリとしての画像を取得して、当該画像を複数段階の倍率でそれぞれ縮小してなるＧ段のピラミッド画像を生成する。これにより、サイズの異なる物体に対処できる。このピラミッド画像生成部１１は、図３に示したコンテンツ取得部１０１に対応する。ＨＯＧ特徴量抽出部１２は、ピラミッド画像の各段における画像を、１６×１６ピクセルのサイズのブロックに分割し、各ブロックからＨＯＧ特徴量を抽出する。ＨＯＧ特徴量抽出部１２は、各ブロックからＤ次元の特徴量を抽出する。このＨＯＧ特徴量抽出部１２は、図３に示した特徴ベクトル抽出部１０２に対応する。バイナリコード変換部１３は、各セルに与えられたＤ次元の特徴量を、ｄ次元の二値ベクトルに変換する。このバイナリコード変換部１３は、図３に示した特徴ベクトル二値化部１０３に対応する。

パラメータ決定部１４は、認識したい対象の種類（大人、子供、車、バイクといった種類であって、パラメータで定義される）ごとに、それぞれ線形ＳＶＭ識別部１６における線形ＳＶＭにて用いる重みベクトルｗ_n（ｎ＝１，２，…，Ｌ）及び実数のバイアスｂ_n（ｎ＝１，２，…，Ｌ）を決定する。パラメータ決定部１４は、学習用に用意された特徴量を用いて、学習処理によってＬ種類の重みベクトルｗ_n及びバイアスｂ_nを決定して、重みベクトルｗ_nをまとめた重み行列Ｗを生成する。このパラメータ決定部１４は、図３に示した実数行列取得部１０４に対応する。パラメータ行列分解部１５は、重み行列Ｗを上記で説明した式（２）又は式（１４）によって離散値の基底行列と係数行列との積に分解する。このパラメータ行列分解部１５は、図３に示した実数行列分解部１０５に対応する。

線形ＳＶＭ識別部１６は、線形ＳＶＭによって特徴ベクトルの識別を行なう。線形ＳＶＭ識別部１６は、まず、ｓ_x×ｓ_yブロックをひとまとまりとして、検出ウィンドウを構成する。１つの検出ウィンドウから抽出される特徴ベクトルは、ｓ_x×ｓ_y×ｄ次元のベクトルとなる。線形ＳＶＭ識別部１６は、この特徴ベクトルに対して、下式（２２）の線形ＳＶＭを適用する。

ここで、線形ＳＶＭにおける積演算Ｗ^Tｘは、上記で説明した実数行列と二値ベクトルの高速な積演算により実現できる。

検出位置付近では、検出結果が固まることがある。そこで、ピーク検出部１７は、周辺でｆ（ｘ）の値が最大になったところを、代表的な検出位置とする。この線形ＳＶＭ識別部１６及びピーク検出部１７は、特徴ベクトルを用いた処理を行なう構成であり、図３のベクトル演算部１０６に対応する。

次に、この物体認識装置１０において、ＨＯＧ特徴量により、回転し得る物体を検出する例を説明する。図８は、回転する道路標識について、それぞれの回転角度で辞書ｑ_n及びバイアスｂ_nを作成する場合を示している。図８において左右方向は道路標識の回転角度θを示している。

従来のアプローチでは、回転角度ごとに学習処理を行って辞書ｑ_n及びバイアスｂ_nを取得する。その後、入力画像からＨＯＧ特徴量を抽出して、検出ウィンドウ（スライディングウィンドウ）をＬ回適用することでこの道路標識の検出を行っている。しかしながら、このような従来の手法では、１検出ウィンドウあたりＬ回の内積計算が必要となり、計算量が多くなる。また、検出の角度分解能は２ｐｉ／Ｌであり、荒い。

そこで、本応用例では、パラメータ決定部１４が辞書ｑ_nをまとめて行列Ｑとし、ＳＶＭ識別部１６は、下式（２３）により複数の辞書ｑ_nと特徴ベクトルｐとの内積計算をまとめて行う。

このようにｋ個の整数基底に分解することにより、１検出ウィンドウあたり、ｋ回の二値と二値との内積演算又は二値と三値との内積演算で処理が可能となる。このとき、隣り合う辞書同士が似ているため、整数基底の数ｋを小さくすることができ、原理的には１クラスあたり１個以下（ｋ≦Ｌ）とすることも可能である。

本応用例では、さらに、ピーク検出部１７が、係数行列Ｃの性質に着目した検出分解能の高精度化を行う。図９は、係数行列Ｃの性質を示す図である。実数ベクトルｑ_nが回転角度θをパラメータとして、そのパラメータに従って変化するものである場合には、複数の実数ベクトルｑ_nをまとめて実数行列Ｑを生成する際に、図８に示すように、複数の実数ベクトルｑ_nをパラメータθの順に並べると、図９に示すように、係数行列Ｃの実数ベクトルｑ_nが並べられた方向と同方向の各ベクトル、即ち係数行列Ｃの各行ベクトルの要素の行方向の変化が滑らかになる。

そこで、ピーク検出部１７は、係数行列Ｃの行ベクトルを多項式でフィッティングして、下式（２４）のように連続関数で表現する。

ここで、α_iは、フィッティングの係数である。

これを用いて識別関数の式を整理すると、回転角度θにおける識別関数は下式（２５）のようにパラメータθに関する連続関数の形式で表現できる。

ピーク検出部１７は、この識別関数を用いてピークの検出を行う。ｃ_i（θ）は式（２４）に示すように多項式であるから、ｆ_θ（ｐ）もまた連続関数（連続の多項式）となる。図１０は、ｆ_θ（ｐ）の例を示すグラフである。図１０において、横軸は回転角度θであり、縦軸はｆ_θ（ｐ）である。ピーク検出部１７は、ｆ_θ（ｐ）が正の最大をとるときのθを対象の回転角度、即ち特徴ベクトルｐのパラメータ値として検出する。

以上のように、複数の辞書ｑ_nをまとめて行列Ｑを生成する際に、複数の辞書ｑ_nをそれが滑らかに変化するように、パラメータ（図８の例ではθ）の順に並べて行列Ｑを生成することで、識別関数をそのパラメータに関する多項式の形式で表現できるので、高い分解能でそのパラメータを検出できるようになる。

なお、上記ではパラメータを回転角度として説明したが、パラメータは例えばスケールであってもよい。すなわち、図２のように検出ウィンドウの大きさは固定とし、検出ウィンドウ内における人物のサイズ（スケール）ごとに、別々に識別器を学習しておき、スケールσに関して多項式のフィッティングを行い、スケールσに関して識別器のピークを求めることで、高精度にスケール推定をおこなえるようになる。また、このように工夫することで、ピラミッド画像自体の生成を不要とできる。さらにパラメータが複数であってもよい。例えば、回転角度θとスケールσの両方に関して上記の多項式へのフィッティングを行ってもよい。この場合、係数はｃ_i（θ，σ）のように、二次元の多項式となる。

また、係数α_iは、まず係数行列Ｃを求めてから各行をフィッティングして求めることができるが、係数行列Ｃの個々の要素ｃ_n,iを求めずに直接係数α_iを求めてもよい。さらに、フィッティングする関数は多項式でなくてもよく、例えば三角関数（サイン、コサイン）にフィッティングしてもよい。

３−２．第２の応用例
本応用例では、本発明がｋ−ｍｅａｎｓクラスタリングに応用される。図１１は、ｋ−ｍｅａｎｓクラスタリング装置の構成を示すブロック図である。ｋ−ｍｅａｎｓクラスタリング装置２０は、コンテンツ取得部２１と、特徴ベクトル生成部２２と、特徴ベクトル二値化部２３と、代表行列更新部２４と、収束判定部２５と、代表行列分解部２６と、最近接代表ベクトル探索部２７とを備えている。

コンテンツ取得部２１は、クラスタリングの対象となるＮ個のコンテンツを取得する。特徴ベクトル生成部２２は、コンテンツ取得部２１にて取得した各コンテンツからそれらの特徴量を特徴ベクトルｐとして抽出する。特徴ベクトル二値化部２３は、特徴ベクトル抽出部２２にて抽出された各特徴ベクトルを二値化する。

代表行列更新部２４は、まず、特徴ベクトル二値化部２３で二値化されたＮ個の特徴ベクトルからｋ（＝Ｌ）個をランダムに選出してこれを代表ベクトルｑ_n（ｎ＝１，２，…，Ｌ）とし、これらの代表ベクトルｑ_nをまとめた行列を代表行列Ｑとする。収束判定部２５は、代表行列更新部２４が代表行列を更新するごとに収束判定を行なう。収束判定部２５にて収束したと判定された場合には、ｋ−ｍｅａｎｓクラスタリング装置２０はクラスタリングの処理を終了する。代表行列分解部２６は、代表行列更新部２４にて更新された代表行列を離散値（二値又は三値）行列に分解する。

最近接代表ベクトル探索部２７は、特徴ベクトル二値化部２３より入力されるＮ個の二値ベクトルをそれぞれ最も近傍の代表ベクトルｑ_nに所属させる。最近接代表ベクトル探索部２７は、この結果を代表行列更新部２４に出力する。代表行列更新部２４は、各代表ベクトルｑ_nについて、それに所属する特徴ベクトル（二値化されている）の平均ベクトルを算出して、これを新しい代表ベクトルｑ_nとする。このようにして代表行列更新部２４で更新される代表ベクトルｑ_nは、二値ベクトルの平均で算出されるので、実数ベクトルとなる。

従って、仮に代表行列分解部２６がなければ、最近接代表ベクトル探索部２７は、更新された代表ベクトル（実数ベクトル）と特徴ベクトル（二値ベクトル）との距離を求めるためにそれらの内積を計算しなければならない。そこで、本応用例では、上記のように、この代表ベクトルｑ_n（実数ベクトル）の集合である代表行列Ｑを代表行列分解部２６によって、上記の実施の形態で説明したように、離散値（二値又は三値）行列と実数の係数行列との積に分解する。それによって、最近接代表ベクトル探索部２７における、各特徴ベクトルと各代表ベクトルとの距離の計算を高速にでき、よって各特徴ベクトルが最も近接する代表ベクトル（すなわち、所属すべき代表ベクトル）を高速に探索できる。

３−３．第３の応用例
本応用例では、本発明がｋ−ｍｅａｎｓ ｔｒｅｅによる近似最近傍探索に応用される。本応用例の近似最近傍探索装置は、ｋ−ｍｅａｎｓを用いたｋ−分木による近似最近傍探索手法として、Marius Muja and David G. Lowe, "Fast Approximate Nearest Neighbors with Automatic Algorithm Configuration", in International Conference on Computer Vision Theory and Applications (VISAPP' 09), 2009
（http://www.cs.ubc.ca/~mariusm/index.php/FLANN/FLANN、
http://people .cs.ubc.ca/~mariusm/uploads/FLANN/flann_visapp09.pdf）に提案されている手法を採用する。

具体的には、本応用例の近似最近傍探索装置は、Ｎ個のデータに対してｋ−ｍｅａｎｓを再帰的に適用することでｋ−分木を構築し、上記提案の木探索の原理により近似的に最近傍点を探索する。この手法は、データが実数ベクトルであり、かつノードに登録されている代表ベクトルが二値ベクトルである場合を前提として設計される。但し、データが二値ベクトルであって、ノードに登録されている代表ベクトルが実数ベクトルである場合にも、上記の実施の形態を採用することで、木探索を高速化できる。

ＩＩ．第２の実施の形態
１．概要
第１の実施の形態では、二値ベクトルｐと複数の実数ベクトルｑ_iの内積を一括して高速に計算できる特徴量演算装置を説明した。この特徴量演算装置を応用した物体認識装置によれば、複数種類の認識をまとめて行うことができた。具体的には、物体認識装置において、複数種類（クラス）の認識に対応する複数の辞書としての実数ベクトルｑ₁，ｑ₂，ｑ₃，…，ｑ_Lで識別を行う際に、このＬ個の実数ベクトルｑ₁，ｑ₂，ｑ₃，…，ｑ_Lと二値ベクトルｐとの各々の内積を計算するにあたって、Ｌ個の実数ベクトルｑ₁，ｑ₂，ｑ₃，…，ｑ_Lをまとめた実数行列Ｑを二値の要素を持つ基底行列Ｍと実数の要素を持つ係数行列Ｃに分解して、Ｃ^TＭ^Tｐを計算し、これを閾値と比較することで、各クラスの識別を行った。

このように、第１の実施の形態では、複数の実数ベクトルをまとめて分解することで、複数の実数ベクトルをそれぞれ基底行列と係数ベクトルに分解する場合と比較して、より少ない基底数で分解ができた。特に、物体認識装置において、隣り合う辞書同士が似ている場合には、基底数ｋを小さくすることができ、原理的には１クラスあたり１個以下（ｋ≦Ｌ）とすることも可能であった。

しかしながら、第１の実施の形態の物体認識装置においても、クラス数Ｌが増加すると、基底数ｋを大きくしなければならず、基底数ｋが増加すれば分解する際に行われるコスト関数最小化に要する演算量は爆発的に増加し、実数ベクトルをまとめた実数行列の分解が困難になる。また、第１の実施の形態の物体認識装置では、内積計算に基づいて識別を行う場合に、各クラスについて、すべての計算をする前にネガティブの判定を下す早期棄却の手順を採用することができず、特徴ベクトルと基底との内積をすべて計算する必要がある。

本実施の形態では、上記の点で、第１の実施の形態の物体認識装置に対して有利な物体認識装置を説明する。

２．実施の形態
本実施の形態の物体認識装置３０は、図１２に示すように、ピラミッド画像生成部３１と、ＨＯＧ特徴量抽出部３２と、バイナリコード変換部３３と、パラメータ決定部３４と、パラメータ行列分解部３５と、線形ＳＶＭ識別部３６とを備えている。

コンテンツ取得部としてのピラミッド画像生成部３１は、入力クエリとしての画像を取得して、当該画像を複数段階の倍率でそれぞれ縮小してなるＧ段のピラミッド画像を生成する。これにより、サイズの異なる物体に対処できる。特徴ベクトル抽出部としてのＨＯＧ特徴量抽出部３２は、ピラミッド画像の各段における画像を、１６×１６ピクセルのサイズのブロックに分割し、各ブロックからＨＯＧ特徴量を抽出する。ＨＯＧ特徴量抽出部３２は、各ブロックからＤ次元の特徴量を抽出する。特徴ベクトル二値化部としてのバイナリコード変換部３３は、各セルに与えられたＤ次元の特徴量を、ｄ次元の二値ベクトルに変換する。

実数行列取得部としてのパラメータ決定部３４は、認識したい対象の種類（大人、子供、車、バイクといった種類であって、パラメータで定義される）ごとに、それぞれ線形ＳＶＭ識別部３６における線形ＳＶＭにて用いる重みベクトルｗ_n（ｎ＝１，２，…，Ｌ）及び実数のバイアスｂ_n（ｎ＝１，２，…，Ｌ）を決定する。パラメータ決定部３４は、学習用に用意された特徴量を用いて、学習処理によってＬ種類の重みベクトルｗ_n及びバイアスｂ_nを決定して、重みベクトルｗ_nをまとめた重み行列Ｗを生成する。

実数行列分解部ないし実数分解装置としてのパラメータ行列分解部３５は、離散値の基底行列と係数行列との積に分解する。図１３は、パラメータ行列分解部３５による複数の実数の重みベクトルの分解を説明する図である。以下の説明では、実数の重みベクトルをｑと表記する。パラメータ行列分解部３５は、図１３に示すように、複数の実数ベクトルｑ_nを並べてなる実数行列Ｑを複数の基底行列Ｍと係数行列Ｃとの積の和に分解する。以下、具体的な手順を説明する。

以下の説明において、第１の実施の形態で説明した分解手法で実数行列Ｑをｋ個の基底を持つ基底行列Ｍと係数行列Ｃとに分解する手順を下式（２６）のように表記することとする。

この分解は第１の実施の形態で説明した二値又は三値の分解手法により行うことができるが、上述のように基底数ｋが大きくなると分解が困難になる。そこで、本実施の形態では、以下のアルゴリズムで実数行列を逐次的に分解する。図１４は、パラメータ行列分解部３５が実行するアルゴリズムのフロー図である。まず、パラメータ行列分解部３５は、分解すべき実数行列Ｑを取得する（ステップＳ１４１）。次に、パラメータ行列分解部３５は、インデクスｉ（ｉ＝１〜Ｎ、Ｎは２以上の自然数）を１とし、残差行列Ｒに実数行列Ｑを代入する（ステップＳ１４２）。残差行列Ｒは、逐次的な分解によってそれまでに分解された基底行列Ｍと係数行列Ｃとの内積の和と実数行列Ｑとの差である。

次に、パラメータ行列分解部３５は、残差行列Ｒを第１の実施の形態の手法によって、基底行列Ｍと係数行列Ｃに分解する（ステップＳ１４３）。このとき、基底数はｋ_iとする。なお、基底数ｋ_i＝ｋ₁、ｋ₂、・・・、ｋ_Nは、あらかじめパラメータ行列分解部３５に記憶されている。Ｍ_iＣ_iが得られると、パラメータ行列分解部３５は、もとの残差行列ＲとＭ_iＣ_iとの差分を新たな残差行列Ｒとし（ステップＳ１４４）、インデクスｉをインクリメントし（ステップＳ１４５）、インデクスｉがＮより大きいか、即ち、Ｎ段階の逐次的な分解が終了したかを判断する（ステップＳ１４６）。

インデクスｉがＮ以下である場合には（ステップＳ１４６にてＮＯ）、パラメータ行列分解部３５は、ステップＳ１４３に戻って、ステップＳ１４４で得られた新たな残差行列Ｒに対して、ステップＳ１４５でインクリメントされた新たなｉで再度分解を行う。以上の処理を繰り返して、インデクスｉがＮより大きくなったら（ステップＳ１４６でＹＥＳ）、処理を終了する。なお、上記のように、Ｎ段の基底数ｋ₁、ｋ₂、・・・、ｋ_Nは、あらかじめ用意されており、それらは同じ数であっても互いに異なる数であってもよい。また、基底数ｋは例えば８程度であればよい。

ベクトル演算部としての線形ＳＶＭ識別部３６は、線形ＳＶＭによって特徴ベクトルの識別を行なう。線形ＳＶＭ識別部３６は、まず、ｓ_x×ｓ_yブロックをひとまとまりとして、検出ウィンドウを構成する。１つの検出ウィンドウから抽出される特徴ベクトルｘは、ｓ_x×ｓ_y×ｄ次元のベクトルとなる。線形ＳＶＭ識別部３６は、図１５に示す特徴ベクトルｘと重みベクトルｑ_nを並べた重み行列Ｑとの積が、ある閾値を超えるか否かによって識別をする。よって、この内積が閾値を超えるか否かがわかればよく、内積の値を求めること自体は必ずしも必要ない。重み行列Ｑは、パラメータ行列分解部３５においてＭ₁Ｃ₁＋Ｍ₂Ｃ₂＋・・・＋Ｍ_NＣ_Nに分解されており、その分解アルゴリズムは、残差を徐々に小さくしていくものであるので、Ｍ_iＣ_iのインデクス（添え字）ｉが小さいほど、もとの重み行列Ｑに対する寄与度が大きくなっている。このことに着目すると、識別処理の早期棄却（カスケード化）が可能となる。

図１６は、線形ＳＶＭ識別部３６におけるカスケード識別処理のフロー図である。線形ＳＶＭ識別部３６は、まず、インデクスｉを１に初期化して、図１７に示すように、入力された特徴ベクトルｘとＭ_iＣ_i（＝Ｍ₁Ｃ₁）との積を計算し、行数１、列数（クラス数）Ｌの次元をもつ行列ｙを得る（ステップＳ１６１）。このとき第１の実施の形態で説明したように、ｘとＭ_iとのハミング距離を計算して、係数行列Ｃに関する重み付け和を計算し、定数項を足すことで、特徴ベクトルｘとＭ_iＣ_i（＝Ｍ₁Ｃ₁）との内積を計算する。

得られたｙは、ｘ^TＱをよく近似しているため、この近似行列ｙの要素が十分に小さければ、当該要素に対応するクラスについては、この時点でウィンドウ内の被写体が背景（ｎｅｇａｔｉｖｅ）であると判別することができる。そこで、次に、線形ＳＶＭ識別部３６は、近似行列ｙのサイズと同じサイズの閾値行列ｔ_iをあらかじめ用意しておき、図１８に示すように、得られた近似行列ｙの各要素とこの閾値行列ｔ_iの各要素とをそれぞれ比較して、閾値行列ｔ_iの要素よりも小さい近似行列ｙの要素（クラス）については、背景（ｎｅｇａｔｉｖｅ：図１７における「Ｎ」）であると判定する（ステップＳ１６２）。なお、閾値行列ｔ_iは、ｐｏｓｉｔｉｖｅをｎｅｇａｔｉｖｅと誤判定することの無いような十分小さい値にあらかじめ調整しておけばよい。そして、背景であると判定された要素（クラス）については、この時点で識別を確定させる。

線形ＳＶＭ識別部３６は、未確定のクラス、即ち早期棄却できなかった要素（図１８における「？」）が残っているか否かを判断する（ステップＳ１６３）。そして、早期棄却できなかった要素（クラス）が残っている場合には（ステップＳ１６３にてＹＥＳ）、線形ＳＶＭ識別部３６は、インデクスｉをインクリメントし（ステップＳ１６４）、インデクスｉがＮより大きいかを確認する（ステップＳ１６５）。線形ＳＶＭ識別部３６は、インデクスｉがＮ以下である場合は（ステップＳ１６５にてＮＯ）、近似行列ｙに、次の段のｘ^TＭ_iＣ_iを加えて、近似行列ｙを更新し（ステップＳ１６６）、ステップＳ１６２に戻って、近似行列ｙと閾値行列ｔ_iとを比較する。なお、ここでもｘ^TＭ_iＣ_iの計算は、第１の実施の形態と同様に行うことができる。

このようにして、近似行列ｙを更新するごとに閾値ｔ_iと比較することで、背景と確定できる要素（クラス）が徐々に増えていき、未確定のクラスがなくなった場合は（ステップＳ１６３にてＮＯ）、すべてのクラスについて背景であると確定して（ステップＳ１６７）、処理を終了する。一方、背景であると確定できないクラスが残されたままインデクスｉがＮより大きくなった場合には（ステップＳ１６５にてＹＥＳ）、その未確定のクラスについて、定義された被写体に該当するという判定（ｐｏｓｉｔｉｖｅ判定）をして（ステップＳ１６８）、処理を終了する。

以上のように、本実施の形態によれば、二値化された特徴ベクトルとの内積演算が行われる実数ベクトルを複数の二値又は三値の基底行列と係数行列との内積の和に分解するので、基底行列の基底数を小さく抑えることができ、クラス数が多い場合にも実数行列を容易に分解できる。さらに、実数ベクトルを二値又は三値の基底行列Ｍ係数行列との内積の線形和に分解するので、全体では、ｋ₁＋ｋ₂＋・・・＋ｋ_N個の基底ベクトルが必要となるが、識別の際には、カスケード化による早期棄却が可能となり、かつ、多くの場合にはこれらの基底ベクトルをすべて計算することなく早期棄却されるため、識別処理を高速化できる。

３．変形例
上記の実施の形態において、ステップＳ１５２にて近似行列ｙと閾値行列ｔ_iとの比較の結果、閾値行列ｔ_iの要素より小さいとしてｎｅｇａｔｉｖｅ判定された近似行列ｙの要素については、その後の計算を省略してよい。具体的には、図１８の例では、近似行列ｙと閾値行列ｔ₁とを比較した結果、クラス１、３、６、７についてｎｅｇａｔｉｖｅ判定ができているので、図２０に示すように、近似行列ｙを更新するためにｘ^TＭ₂Ｃ₂を計算する際には、係数行列Ｃ₂における未確定クラスのみについて計算し（図２０では係数行列Ｃ₂における確定したクラスをハッチングして示している）、もとの近似行列ｙの未確定のクラスのみ（図２０では、もとの近似行列ｙにおける確定したクラスをハッチングして示している）をこれと足し合わせることで、未確定クラスのみが更新された新たな近似行列ｙを得る（図２０では、新たな近似行列ｙにおける確定したクラスをハッチングして示している）。そして、新たな近似行列ｙを対応する閾値行列ｔ₂と比較する際にも、図２１に示すように、すでにｎｅｇａｔｉｖｅ判定されている要素（図２１において「Ｎ」で示している）については、比較を行わず、未確定クラスについてのみ比較を行うようにしてよい。図２１の例では、新たにクラス２、５についてｎｅｇａｔｉｖｅ判定がされている。このように、確定したクラスについての計算を省略することで、識別のための計算不可を軽減して、識別処理をより高速化できる。

また、上記の実施の形態では、小さい値の閾値行列ｔ_iを用意して、近似行列ｙの要素がこの閾値行列の要素より小さいときに、その要素についてｎｅｇａｔｉｖｅ判定をすることで早期棄却を行ったが、これに代えて、又はこれに加えて、大きい値の閾値行列を用意して、近似行列ｙの要素がその閾値行列の値より大きいときに、その要素についてｐｏｓｉｔｉｖｅ判定をして、早期確定をしてもよい。

また、上記の実施の形態では、実数行列Ｑを複数のＭ_iＣ_iの和に分解したことでカスケード化した識別が可能となり、物体認識装置３０はカスケード化した識別を行ったが、分解のみ上記の手法で行い、識別処理はカスケード化しない通常の処理を行ってもよい。この場合にも、分解については、実数行列のクラス数が多い場合にも各基底行列の基底数を比較的小さく抑えることができるという効果を得ることができる。

なお、上記で個別に説明した内容以外にも、第２の実施の形態において、第１の実施の形態で説明した技術を適宜に組み合わせてよい。例えば、第２の実施の形態においても、第１の実施の形態で説明したデータ依存分解及びデータ非依存分解のいずれも採用できる。

ＩＩＩ．第３の実施の形態
１．概要
上記の第２の実施の形態では、複数クラスの実数ベクトルからなる実数行列を全クラスについて共通の二値基底行列に分解するので、相関が低い多クラス識別に対しては有効ではない。そこで、本実施の形態では、相関が高い識別器のグルーピングを行うことで、より効率的な分解を行う。

より具体的には、本実施の形態では、相関が高い識別器のみをグルーピングし、各グループに対して行列分解を適用させることで、少ない基底数での分解を行う。さらに、カスケード構造を構築する際の残差行列Ｒに対してグルーピングし直すことにより、各段で最適なグループを選択する。

２．実施の形態
本実施の形態の物体認識装置の構成は、図１２に示した第２の実施の形態の物体認識装置３０と同じであり、ピラミッド画像生成部３１と、ＨＯＧ特徴量抽出部３２と、バイナリコード変換部３３と、パラメータ決定部３４と、パラメータ行列分解部３５と、線形ＳＶＭ識別部３６とを備えている。

図２２は、本実施の形態のパラメータ行列分解部３５が実行するアルゴリズムのフロー図である。パラメータ行列分解部３５は、分解すべき実数行列Ｑを取得し（ステップＳ２２１）、インデクスｉ（ｉ＝１〜Ｎ、Ｎは２以上の自然数）を１として残差行列Ｒに実数行列Ｑを代入する（ステップＳ２２２）。そして、パラメータ行列分解部３５は、複数の重みベクトルｑ_i（ｉ＝１〜Ｎ）に対して相関が高いものどうしを同じグループとしてまとめるグルーピングを行って（ステップＳ２２３）、残差行列Ｒを基底行列Ｍと係数行列Ｃに分解する（ステップＳ２２４）。

即ち、Ｑ＝ＭＣの分解では、すべてのクラスに対して１つの二値基底行列Ｍを用いて分解しているので、重みベクトルｑ間の距離が近いほど、この分解が有効になる。しかしながら、実際に分解する実数行列Ｑにおいて、必ずしも各クラスにおけるベクトルの距離が近いとは限らない。また、分解前の重みベクトルｑの距離が離れていても分解後に近くなることがある。そこで、パラメータ行列分解部３５は、上述のように分解（ステップＳ２２４）の前に、まず分解対象のベクトルを相関別にグルーピングする（ステップＳ２２３）。

パラメータ行列分解部３５は、グルーピングのために、ベクトルｑ_m（ｍ＝１，２，・・・，Ｊ）とベクトルｑ_n（ｎ＝１，２，・・・，Ｊ）との間の距離を下式（２７）、（２８）によって正規化する。

ここで、ＮＤは、ベクトルｑ_mとベクトルｑ_nとの間の正規化された距離であり、−１〜１の実数である。ＮＤ＝１であるときにベクトルｑ_mとベクトルｑ_nとが同じとなり、ＮＤ＝−１であるときにベクトルｑ_mとベクトルｑ_nとは反対の向きのベクトルとなる。パラメータ行列分解部３５は、しきい値ｔｈ^corre とＮＤとを比較して、ＮＤ＞ｔｈ^corre であるベクトルを同じグループとする。

図２３は、グルーピングを用いた行列分解を説明する図である。図２３のスケール係数行列Ｃにおける塗りつぶされた要素は０を表しており、各要素のハッチングはそれぞれのグループを表している。図２３に示すように、パラメータ行列分解部３５は、各グループについて、基底数ｋでの分解を行う。

ステップＳ２２４の分解によってＭ_iＣ_iが得られると、パラメータ行列分解部３５は、もとの残差行列ＲとＭ_iＣ_iとの差分を新たな残差行列Ｒとし（ステップＳ２２５）、インデクスｉをインクリメントし（ステップＳ２２６）、インデクスｉがＮより大きいか、即ち、Ｎ段階の逐次的な分解が終了したかを判断する（ステップＳ２２７）。

インデクスｉがＮ以下である場合には（ステップＳ２２７にてＮＯ）、パラメータ行列分解部３５は、ステップＳ２２３に戻って、ステップＳ２２５で得られた新たな残差行列Ｒに対して改めてＮＤ＞ｔｈ^corre によってグルーピングをし直し、ステップＳ２２６でインクリメントされた新たなｉで再度分解を行う。以上の処理を繰り返して、インデクスｉがＮより大きくなったら（ステップＳ２２７でＹＥＳ）、処理を終了する。

以上のように、本実施の形態の物体認識装置によれば、相関が高い重みベクトル（識別器）をグルーピングして、各グループに対してそれぞれ基底数ｋの行列分解を行うので、少ない基底で重み行列（実数行列）を二値の基底行列と係数行列の積に分解できる。さらに、本実施の形態の物体認識装置によれば、カスケード処理を行うにあたって、残差行列Ｒが生成されるごとに新たにグルーピングをし直すので、カスケード処理の各段において最適なグループを選択できる。

ＩＶ．変形例
特徴量演算装置１００において、コンテンツ取得部１０１、特徴ベクトル生成部１０２、特徴ベクトル二値化部１０３、実数行列取得部１０４、実数行列分解部１０５、及びベクトル演算部１０６の一部と他の部分とが別々の装置として構成されていてもよい。特に、コンテンツ取得部１０１、特徴ベクトル生成部１０２、特徴ベクトル二値化部１０３、及びベクトル演算部１０６が特徴演算装置１００に搭載され、実数行列取得部１０４、及び実数行列分解部１０５が別の装置に搭載されてよい。この場合には、実数行列分解部１０５にて分解された複数の実数行列が特徴演算装置１００のデータベース１０７に記憶され、ベクトル演算部１０６は、データベース１０７から分解された複数の実数行列を取得する。

上記の実施の形態では、基底行列Ｍが二値又は三値であったが、基底行列Ｍが二値又は三値でなくともよい。基底行列Ｍのとり得る要素の種類が有限の数であれば上記の分解手法を適用して実数行列を分解することができる。また、係数行列Ｃも、基底行列Ｍと同様にあらかじめ定められた離散的な値でもよい。例えば、係数行列Ｃの要素を２のべき乗に制約してもよく、そうすることで、処理を高速化できる。また、分解する実数行列Ｑの要素の平均値が著しく大きい（若しくは小さい）場合、すなわち、平均値が０から著しく離れている場合には、この平均値をあらかじめ実数行列Ｑの各要素から引いてオフセット実数行列を生成し、このオフセット実数行列Ｑ´を基底行列Ｍと係数行列Ｃに分解すると、より少ない基底で式（２）や式（１４）の近似分解を行うことができる。

コンテンツ取得部１０１にて取得されるコンテンツデータは、車両から得られる計測データであってよい。さらに、車両から得られる計測データは、例えば、車両に設置されたカメラで撮影された画像データ、車両に設置されたセンサで計測されたセンシングデータであってよい。この場合に、関連性判定装置としての特徴演算装置１００のベクトル演算部１０６は、計測データと辞書データとの関連性を判定する。例えば、計測データとして、車両に設置されたカメラで撮影された画像データが取得される場合には、辞書データとして複数の人物画像のデータがデータベースに保存されており、関連性判定装置としての特徴演算装置１００のベクトル演算部１０６は、上記の応用例のいずれかによって、画像データの画像に人物が含まれるか否かを判定してよい。

本発明は、実数行列を複数の基底行列と係数行列の積の和に分解するので、実数行列のクラス数が多い場合にも、各基底行列の基底数は比較的小さく抑えることができ、分解の処理負担を軽減できという効果を有し、複数の実数ベクトルと二値ベクトルに変換された特徴ベクトルとの内積の計算を含むベクトル演算によって特徴ベクトルと複数の実数ベクトルの各々との関連性の判定を行う関連性判定装置等として有用である。

１００ 特徴量演算装置
１０１ コンテンツ取得部
１０２ 特徴ベクトル生成部
１０３ 特徴ベクトル二値化部
１０４ 実数行列取得部
１０５ 実数行列分解部
１０６ ベクトル演算部（積演算部）
１０ 物体認識装置
１１ ピラミッド画像生成部
１２ ＨＯＧ特徴量抽出部
１３ バイナリコード変換部
１４ パラメータ決定部
１５ パラメータ行列分解部
１６ 線形ＳＶＭ識別部
１７ ピーク検出部
２０ ｋ−ｍｅａｎｓクラスタリング装置
２１ コンテンツ取得部
２２ 特徴ベクトル生成部
２３ 特徴ベクトル二値化部
２４ 代表行列更新部
２５ 収束判定部
２６ 代表行列分解部
２７ 最近接代表ベクトル算出部
３０ 物体認識装置
３１ ピラミッド画像生成部
３２ ＨＯＧ特徴量抽出部
３３ バイナリコード変換部
３４ パラメータ決定部
３５ パラメータ行列分解部
３６ 線形ＳＶＭ識別部

Claims (9)

1. 二値化された特徴ベクトルｘを取得する特徴ベクトル取得部と、
   前記特徴ベクトルを識別するための複数のクラスの辞書としての複数の実数ベクトルｑ₁〜ｑ_Lからなる実数行列Ｑを、複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解する実数行列分解部と、
   ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積であり、
   前記特徴ベクトルｘと前記複数の実数ベクトルｑ₁〜ｑ_Lの各々との内積の計算として、前記特徴ベクトルｘと前記基底行列Ｍ_iとの積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算することで、前記特徴ベクトルｘについて各クラスの識別を行う識別部と、
   を備えたことを特徴とする認識装置。
2. 前記識別部は、前記積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算するごとに、所定の閾値と比較して早期棄却を行うことを特徴とする請求項１に記載の認識装置。
3. 前記識別部は、早期棄却された前記クラスについては、前記積ｘＭ_i及び当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算しないことを特徴とする請求項２に記載の認識装置。
4. 前記実数行列分解部は、分解後の残差の分解を繰り返すことで、前記複数のＭ_iＣ_iを得ることを特徴とする請求項１ないし３のいずれか一項に記載の認識装置。
5. 前記実数行列分解部は、前記複数の実数ベクトルｑ₁〜ｑ_Lに対して互いに相関が高いものをまとめるグルーピングを行い、グループごとに前記Ｍ_iＣ_iを得ることを特徴とする請求項１ないし４いずれか一項に記載の認識装置。
6. 前記実数行列分解部は、分解後の残差の分解を行うごとに、前記グルーピングを行うことを特徴とする請求項５に記載の認識装置。
7. 二値化された特徴ベクトルｘを取得する特徴ベクトル取得部と、
   前記特徴ベクトルを識別するための複数のクラスの辞書としての複数の実数ベクトルｑ₁〜ｑ_Lからなる実数行列Ｑを複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解することで得られた前記複数のＭ_iＣ_iを用いて、ｉ＝１から順にｉを増加させつつ、前記特徴ベクトルｘと前記複数の実数ベクトルｑ₁〜ｑ_Lの各々との内積の計算として、前記特徴ベクトルｘと前記基底行列Ｍ_iとの積ｘＭ_iを計算し、さらに当該積ｘＭ_iと対応する前記係数行列Ｃ_iとの積を計算して、近似行列ｙを求め、前記近似行列ｙの各要素を所定の閾値行列ｔ_iの各要素と比較することで、前記特徴ベクトルｘについて各クラスの識別を行う識別部と、
   を備え、
   ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積であることを特徴とする認識装置。
8. 実数分解装置における実数行列Ｑを複数のＭ_iＣ_i（ｉ＝１〜Ｎ、Ｎは２以上の自然数）の和に分解する実数行列分解方法であって、
   ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積であり、
   前記実数行列分解方法は、
   前記実数分解装置が、分解すべき実数行列Ｑを取得する第１ステップと、
   前記実数分解装置が、前記第１ステップの後に、逐次的な分解によってそれまでに得られた前記Ｍ_iＣ_iの和と前記実数行列Ｑとの差である残差行列Ｒに、前記実数行列Ｑを代入する第２ステップと、
   前記実数分解装置が、前記第２ステップの後に、前記残差行列ＲをＭ_iＣ_iに分解する第３ステップと、
   前記実数分解装置が、前記第３ステップの後に、前記残差行列Ｒと前記Ｍ_iＣ_iとの差を新たな残差行列Ｒにする第４ステップと、
   前記実数分解装置が、前記第４ステップの後に、前記ｉをインクリメントする第５ステップと、
   を含み、前記実数分解装置は、前記第５ステップの後に、前記第３ステップに戻り、直前の前記第４ステップにて得られた前記新たな残差行列Ｒを、前記第５ステップでインクリメントされた前記ｉで分解することを特徴とする実数行列分解方法。
9. 認識装置において特徴ベクトルｘについて複数のクラスでの識別を行う認識方法であって、
   前記認識装置が、ｉを１として、特徴ベクトルｘとＭ_iＣ_iとの積を計算して、近似行列ｙを得る第１ステップと、
   ここで、Ｍ_iは要素として二値又は三値の離散値のみをもつ複数の基底ベクトルからなる基底行列であり、Ｃ_iは実数の要素をもつ係数行列であり、Ｍ_iＣ_iは前記基底行列と前記係数行列との積であり、
   前記認識装置が、前記第１ステップの後に、前記近似行列ｙの各要素と所定の閾値行列ｔ_iの各要素とをそれぞれ比較して、前記閾値行列ｔ_iの要素よりも小さい前記近似行列ｙの要素について、ｎｅｇａｔｉｖｅであると判定する第２ステップと、
   前記認識装置が、前記第２ステップの後に、前記ｉをインクリメントする第３ステップと、
   前記認識装置が、前記第３ステップの後に、前記第３ステップでインクリメントされた前記ｉで、前記特徴ベクトルｘとＭ_iＣ_iとの積を計算する第４ステップと、
   前記認識装置が、前記第４ステップの後に、前記近似行列ｙに、前記第４ステップで計算された前記積を加えて、新たな近似行列ｙを取得する第５ステップと、
   を含み、前記認識装置は、前記第５ステップの後に、前記第２ステップに戻り、直前の前記第５ステップで得られた新たな近似行列ｙについて、前記比較及び前記判定を行うことを特徴とする認識方法。

Images