WO2010090189A1 - パターン認識装置、パターン認識方法およびパターン認識プログラム - Google Patents

パターン認識装置、パターン認識方法およびパターン認識プログラム Download PDF

Info

Publication number
WO2010090189A1
WO2010090189A1 PCT/JP2010/051444 JP2010051444W WO2010090189A1 WO 2010090189 A1 WO2010090189 A1 WO 2010090189A1 JP 2010051444 W JP2010051444 W JP 2010051444W WO 2010090189 A1 WO2010090189 A1 WO 2010090189A1
Authority
WO
WIPO (PCT)
Prior art keywords
feature
class
reference vector
dimensional
vector
Prior art date
Application number
PCT/JP2010/051444
Other languages
English (en)
French (fr)
Inventor
佐藤　敦
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to US13/147,451 priority Critical patent/US8612370B2/en
Priority to JP2010549476A priority patent/JP5408143B2/ja
Publication of WO2010090189A1 publication Critical patent/WO2010090189A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211—Selection of the most significant subset of features
    • G06F18/2113—Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation

Definitions

  • Non-Patent Document 1 (Ishii et al., “Easy-to-understand pattern recognition”, Ohm Publishing Co., Ltd., August 20, 1998, pp. 2-3), Patent Document 1 (Japanese Patent Laid-Open No. 2002-259911). 14; FIG. 1) and Non-Patent Document 2 (Toriwaki, “Recognition Engineering: Pattern Recognition and its Applications”, Television Society Textbook Series 9, Corona, March 15, 1993, pp. 153 -154).
  • an object of the present invention is to provide a pattern recognition apparatus, a pattern recognition method, and a pattern recognition program capable of performing pattern recognition with high accuracy even on a vector after feature selection.
  • the feature selection table creation unit creates the feature selection table by associating each of the m features with priorities one by one in order of priority.
  • the recognition dictionary creation unit has a loss R indicating a risk that the input data is identified as a different class when each feature is associated with the p-th priority (p is an integer of 0 or more).
  • An additional feature associated with the (p + 1) th priority and a (p + 1) -dimensional reference vector having (p + 1) features are determined so as to be minimized. The determined additional feature is notified to the feature selection table creation unit, and the recognition dictionary is created based on the determined (p + 1) -dimensional reference vector.
  • a pattern recognition apparatus capable of performing pattern recognition with high accuracy even on a vector after a feature is selected.
  • FIG. 4 is a conceptual diagram showing the feature selection table 6.
  • the feature selection table 6 is a table showing the priority order when selecting features.
  • the feature selection table 6 shows a plurality of priorities associated with a plurality of features. Specifically, the feature selection table 6 describes the correspondence between the feature number for identifying each feature and each priority.
  • the feature extraction unit 2 extracts n features from the input data, and generates a vector having n features (n-dimensional feature vector). For example, when the input data is image data, the feature extraction unit 2 converts the image data into a monochrome grayscale image, divides the monochrome grayscale image into a plurality of 10 ⁇ 10 horizontal regions, The average of the luminance values is obtained in each. Thereby, a 100-dimensional feature vector is obtained.
  • the identification unit 4 identifies the class to which the m-dimensional feature vector belongs by referring to the recognition dictionary 9.
  • the result output unit 5 outputs the identification result in the identification unit 4 to an output device such as a display device (for example, a display).
  • a display device for example, a display
  • the feature selection table creation unit 7 creates the feature selection table 6.
  • FIG. 5 is a flowchart showing the operation at the time of identification.
  • the feature selection unit 5 performs dimension reduction based on the feature selection table 6. At this time, the feature selection unit 5 only needs to select m features from the n-dimensional feature vector according to the priority order. That is, among n features in the n-dimensional feature vector, the number of features used for processing is m, so that the amount of calculation at the time of feature selection can be reduced.
  • the feature selection table 6 and the identification dictionary 9 must be created accurately. Therefore, in the present embodiment, a device has been devised for the processing when the feature selection table 6 and the recognition dictionary 9 are created.
  • FIG. 6 is a flowchart schematically showing the operation during learning.
  • Step S2 Reading Input Data
  • the data input unit 1 reads each of a plurality of learning data as input data.
  • the feature selection table 6 and the recognition dictionary 9 are created by the operations in steps S1 to S9 described above.
  • the feature selection table 6 is created by adding additional features one by one in order of priority.
  • the additional feature is determined so that the loss R is minimized.
  • the recognition dictionary 9 is corrected based on the (p + 1) -dimensional reference vector. If the feature selection table 6 and the recognition dictionary 9 created in this way are used, m features are always selected so that the loss R is minimized.
  • the element value of the m-dimensional reference vector used for identification is set to a value that minimizes the loss R in the m dimension. That is, the priority order described in the feature selection table 6 and the reference vector included in the recognition dictionary 9 are optimized in the dimension (m dimension) after feature selection. Therefore, at the time of identification, it is possible to perform the identification with high accuracy while suppressing the calculation amount.
  • step S5 the recognition dictionary creation unit 8 calculates the loss R when the additional feature candidate is added to the (p + 1) -th priority by the loss calculation unit 83.
  • the additional feature candidate is selected by the additional feature candidate selecting unit 82 from a feature group (hereinafter referred to as an additional candidate feature group) whose priority order is not determined among the n features.
  • the reference vector candidate setting unit 81 calculates the loss R while changing the (p + 1) -dimensional reference vector candidates of each class. That is, the loss calculation unit 83 calculates the loss R for each of all combinations of additional feature candidates and (p + 1) -dimensional reference vector candidates.
  • the determination unit 84 obtains (searches for) a combination of the additional feature vector candidate and the reference vector candidate that minimizes the loss R.
  • the determining unit 84 corrects the identification dictionary 9 based on the (p + 1) -dimensional reference vector candidate as a search result. Further, the additional feature candidate of the search result is determined as the additional feature. At this time, the determination unit 84 searches for the optimum element value for each of all the features (p + 1 features) in the (p + 1) -dimensional reference vector candidates.
  • the determination unit 84 searches for a combination having the smallest loss R among the combinations.
  • the determination unit 84 notifies the feature selection table creation unit 7 of additional feature candidates that are the search results as additional features.
  • the feature selection table creation unit 7 corrects the feature selection table 6 by associating the notified additional feature with the (p + 1) th priority. Further, the determination unit 84 corrects (creates) the recognition dictionary 9 based on the (p + 1) -dimensional reference vector candidate that is the result of the search.
  • FIG. 14 shows an example in which a feature value f 2 having the second highest priority is added.
  • the reference vector values (y 1 [1] and y 2 [1]) for the feature with the first priority are not changed.
  • the reference vector values (y 1 [2] and y 2 [2]) for the feature having the second priority are the positions of y 1 [1] and y 2 [1] (“black circle” in FIG. 14). It is set on a line extending from the indicated position. Further, the position where the FRR relating to class 1 is equal to or less than the target value FRR * and the loss is minimum (the position indicated by x) is obtained, and the identification plane is set at the position indicated by the broken line.

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

特徴選択表を用いて特徴選択を行うパターン認識装置において、ｎ次元特徴ベクトルをｍ次元特徴ベクトル（ｍ＜ｎ）に低次元化しても、高い認識性能を実現できるようにする。特徴選択表を作成する特徴選択表作成部を具備し、前記特徴選択表作成部は、前記特徴選択表にｐ（ｐは０以上の整数）番目の優先順位までの特徴が記載されているときに、前記ｎ個の特徴のうちで優先順位が対応付けられていない追加特徴候補群のなかから選ばれる追加特徴を、（ｐ＋１）番目の優先順位として追加することによって、前記特徴選択表を作成し、認識辞書作成部は、前記（ｐ＋１）番目の優先順位として追加される前記追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように決定し、決定した前記追加特徴を前記特徴選択表作成部に通知するとともに、前記（ｐ＋１）次元参照ベクトルに基づいて認識辞書を作成する。

Description

パターン認識装置、パターン認識方法およびパターン認識プログラム
　本発明は、パターン認識装置、パターン認識方法およびパターン認識用プログラムに関する。
　パターン認識装置の一例が、非特許文献１（石井ら著、「わかりやすいパターン認識」、オーム社出版局、１９９８年８月２０日、ｐｐ．２－３）、特許文献１（特開２００２－２５９９１１号公報；第１４頁、図１）、及び非特許文献２（鳥脇著「認識工学－パターン認識とその応用－」テレビジョン学会教科書シリーズ９、コロナ社、１９９３年３月１５日、ｐｐ．１５３－１５４）に記載されている。
　図１は、非特許文献１に記載されたパターン認識装置のブロック図である。このパターン認識装置は、前処理部１０１と、特徴抽出部１０２と、識別演算部１０３と、認識辞書１０４とを備えている。このパターン認識装置では、入力パターンが、前処理部１０１により前処理される。前処理されたパターンから、特徴抽出部１０２により、識別に必要な本質的な特徴のみが抽出される。識別演算部１０３は、特徴抽出部１０２で抽出された特徴を、識別辞書１０４と照合することにより、入力パターンが所属するクラスを出力する。
　精度良く認識を行う為には、入力パターンからどのような特徴を抽出するかが重要である。
　関連して、特許文献１には、より少ない次元数の特徴で高い認識精度を実現可能なパターン認識装置を提供することを目的とした技術が記載されている。図２は、特許文献１に記載されたパターン認識装置を示すブロック図である。このパターン認識装置は、データ入力部２０１と、特徴抽出部２０２と、特徴選択部２０３と、特徴選択辞書２０４と、特徴選択辞書修正部２０５と、認識辞書修正部２０６と、認識辞書２０７と、識別部２０８と、結果出力部２０９とを備えている。特徴抽出部２０２は、入力パターン又は学習パターンからｎ次元特徴を抽出する。特徴選択部２０３は、非線形関数によってｎ次元特徴からｈ次元特徴を選択する第１次特徴変換部と、線形関数もしくは非線形関数によってｈ次元特徴からｍ次元特徴を選択する第２次特徴変換部とからなる。認識辞書２０４はｍ次元参照パターンの集合からなる。識別部２０８は、ｍ次元参照パターンと入力パターンのｍ次元特徴とを照合して入力パターンの認識結果を出力する。認識辞書修正部２０６は、辞書学習時に認識辞書２０７を修正し、特徴選択辞書修正部２０５は、辞書学習時に特徴選択辞書４を修正する。
　また、非特許文献２には、特徴選択手順の例として、前向き逐次選択が挙げられている。前向き逐次選択では、Ｎ個の特徴のなかからＭ個を選ぶにあたり、適当なものがはじめに一つ選ばれる。そして、それに次々に特徴量を一つずつ付け加えられてゆく。例えば、すでに（ｉ－１）個の組Ｘ（ｉ－１）が選択された時点でｉ番目を選ぶには、残りの（Ｎ－ｉ＋１）個のどれか一つをＸ（ｉ－１）に加えてできる（Ｎ－ｉ＋１）組の集合の中で、良さの評価値が最大のものが選ばれる。
　その他、発明者が知りえた関連技術としては、特許文献２（特開平１０－５５４１２号公報）、特許文献３（特開２００１－９２９２４号公報）、特許文献４（特開２００２－２５１５９２号公報）、特許文献５（特開２００６－１５３５８２号公報）、及び特許文献６（特開平９－２４５１２５号公報）が挙げられる。
特開２００２－２５９９１１号公報 特開平１０－５５４１２号公報 特開２００１－９２９２４号公報 特開２００２－２５１５９２号公報 特開２００６－１５３５８２号公報 特開平９－２４５１２５号公報
石井ら著「わかりやすいパターン認識」オーム社出版局、１９９８年８月２０日、ｐｐ．２－３ 鳥脇著「認識工学－パターン認識とその応用－」テレビジョン学会教科書シリーズ９、コロナ社、１９９３年３月１５日、ｐｐ．１５３－１５４
　非特許文献２に記載されるように、前向き逐次選択法を用いて特徴を選択し、入力データが所属するクラスを識別する場合、識別性能が低下することがある。これは、識別時に用いられる識別辞書が、必ずしも、特徴選択後の次元で最適化されているとは限らないからである。例えば、識別辞書が、次元削減が行われる前のベクトル（ｎ次元ベクトル）に対して最適化されていた場合、必ずしも、その辞書が次元削減が行われた後のベクトル（ｍ次元ベクトル）に対しても最適化されているとは限らない。
　従って、本発明の目的は、特徴選択された後のベクトルに対しても、高い精度でパターン認識を行うことのできる、パターン認識装置、パターン認識方法およびパターン認識用プログラムを提供することにある。
　本発明に係るパターン認識装置は、入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成する特徴抽出部と、前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成する、特徴選択部と、前記ｍ次元特徴ベクトルを、参照ベクトルを含む認識辞書と比較して、前記ｍ次元特徴ベクトルが属するクラスを識別する識別部と、前記特徴選択表を作成する特徴選択表作成部と、前記認識辞書を作成する認識辞書作成部とを具備する。特徴選択表作成部は、前記ｍ個の特徴のそれぞれに対し、優先順位の順番で、一つづつ優先順位を対応付けることによって、前記特徴選択表を作成する。認識辞書作成部は、ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定する。そして、決定した前記追加特徴を前記特徴選択表作成部に通知するとともに、決定した前記（ｐ＋１）次元参照ベクトルに基づいて前記認識辞書を作成する。
　本発明に係るパターン認識方法は、入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成するステップと、前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成するステップと、前記ｍ次元特徴ベクトルを、参照ベクトルを含む認識辞書と比較して、前記ｍ次元特徴ベクトルが属するクラスを識別するステップと、前記特徴選択表を作成するステップと、前記認識辞書を作成するステップとを具備する。前記特徴選択表を作成するステップは、前記ｍ個の特徴のそれぞれに対し、優先順位の順番で、一つづつ優先順位を対応付けることによって、前記特徴選択表を作成するステップを備える。前記認識辞書を作成するステップは、ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定するステップと、決定した前記（ｐ＋１）次元参照ベクトルに基づいて前記認識辞書を作成するステップとを備える。
　本発明に係るパターン認識プログラムは、入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成するステップと、前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成するステップと、前記ｍ次元特徴ベクトルを、参照ベクトルを含む認識辞書と比較して、前記ｍ次元特徴ベクトルが属するクラスを識別するステップと、前記特徴選択表を作成するステップと、前記認識辞書を作成するステップとを具備するパターン認識方法を、コンピュータに実行させるためのプログラムである。前記特徴選択表を作成するステップは、前記ｍ個の特徴のそれぞれに対し、優先順位の順番で、一つづつ優先順位を対応付けることによって、前記特徴選択表を作成するステップを備える。前記認識辞書を作成するステップは、ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定するステップと、決定した前記（ｐ＋１）次元参照ベクトルに基づいて前記認識辞書を作成するステップとを備える。
　本発明によれば、特徴が選択された後のベクトルに対しても、高い精度でパターン認識を行うことのできる、パターン認識装置、パターン認識方法およびパターン認識用プログラムが提供される。
図１は、本発明の関連技術に係るパターン認識装置を示すブロック図である。 図２は、本発明の関連技術に係るパターン認識装置を示すブロック図である。 図３は、第１の実施形態に係るパターン認識装置を示すブロック図である。 図４は、特徴選択表を示す概念図である。 図５は、第１の実施形態における識別時の動作を示すフローチャートである。 図６は、第１の実施形態における学習時の動作を示すフローチャートである。 図７は、第１の実施形態の効果を説明するための説明図である。 図８は、第１の実施形態の効果を説明するための説明図である。 図９は、第１の実施形態の効果を説明するための説明図である。 図１０は、第２の実施形態に係るパターン認識装置を示すブロック図である。 図１１は、第２の実施形態における識別時の動作を示すフローチャートである。 図１２は、第２の実施形態における学習時の動作を示すフローチャートである。 図１３は、第２の実施形態の効果を説明するための説明図である。 図１４は、第２の実施形態の効果を説明するための説明図である。 図１５は、第２の実施形態の効果を説明するための説明図である。 図１６は、実施例１における学習時の動作を示すフローチャートである。 図１７は、実施例１における学習時の動作を示すフローチャートである。 図１８は、実施例１における識別時の動作を示すフローチャートである。 図１９は、実施例２における識別時の動作を示すフローチャートである。
　以下に、図面を参照しつつ、本発明の実施形態について説明する。
（第１の実施形態）
　図３は、本実施形態に係るパターン認識装置を示す概略ブロック図である。このパターンに認識装置は、識別対象のデータを、複数のクラスのいずれかに識別する装置である。パターン認識装置は、データ入力部１と、特徴抽出部２と、特徴選択部３と、識別部４と、結果出力部５と、特徴選択表６と、特徴選択表作成部７と、認識辞書作成部８と、認識辞書９とを備えている。このパターン認識装置は、コンピュータにより実現される。データ入力部１、特徴抽出部２、特徴選択部３、識別部４、結果出力部５、特徴選択表作成部７、及び認識辞書作成部８は、ＣＰＵがＲＯＭ（Ｒｅａｄ　ｏｎｌｙ　ｍｅｍｏｒｙ）等にインストールされたパターン認識プログラムを実行することにより、実現される。特徴選択表６及び認識辞書９は、ＲＡＭ（Ｒａｎｄｏｍ　ａｃｃｅｓｓ　ｍｅｍｏｒｙ）やハードディスクなどに例示される記憶媒体に格納されたデータにより実現できる。
　図４は、特徴選択表６を示す概念図である。特徴選択表６は、特徴を選択する際の優先順位を示す表である。特徴選択表６には、複数の特徴に対して、複数の優先順位が対応付けられて示されている。具体的には、特徴選択表６には、各特徴を特定する特徴番号と各優先順位との対応関係が記述されている。
　認識辞書９は、各クラスについてのｍ次元参照ベクトルを含んでいる。参照ベクトルは、識別対象のデータがどのクラスに所属するかを判断するために用いられるベクトルである。
　データ入力部１は、認識対象パターンや学習用パターンを入力データとして取り込み、特徴抽出部２に出力する。その入力データとしては、例えば、カメラで撮影された画像データ等が挙げられる。
　特徴抽出部２は、入力データからｎ個の特徴を抽出し、ｎ個の特徴を有するベクトル（ｎ次元特徴ベクトル）を生成する。例えば、入力データが画像データである場合、特徴抽出部２は、その画像データを白黒濃淡画像に変換し、白黒濃淡画像を縦１０×横１０の複数の領域に分割し、その複数の領域の各々の中で輝度値の平均を求める。これにより、１００次元の特徴ベクトルが得られる。
　特徴選択部３は、ｎ次元特徴ベクトルを、ｍ（ｍ＜ｎ）次元特徴ベクトルに変換する。具体的には、特徴選択部３は、特徴選択表６を参照し、ｎ個の特徴の中から優先順位に従ってｍ個の特徴を選択し、ｍ次元特徴ベクトルを生成する。
　識別部４は、認識辞書９を参照することにより、ｍ次元特徴ベクトルが所属するクラスを識別する。
　結果出力部５は、識別部４における識別結果を、表示装置（例えばディスプレイ）などの出力装置に出力する。
　特徴選択表作成部７は、特徴選択表６の作成を行う。
　認識辞書作成部８は、認識辞書９の作成を行う。認識辞書作成部８は、参照ベクトル候補設定部８１と、追加特徴候補選択部８２と、損失計算部８３と、決定部８４とを備えている。
　続いて、本実施形態に係るパターン認識方法について説明する。
　まず、識別対象データの所属クラスを識別する場合（以下、識別時）の動作について説明する。図５は、識別時の動作を示すフローチャートである。
　まず、特徴選択部３が、特徴選択表６の初期化を行う。また、識別部４が、認識辞書９の初期化を行う。これにより、特徴選択表６及び認識辞書９が、使用可能な状態に設定される（ステップＳ１０）。次に、データ入力部１が、識別対象パターンを入力データとして読み込む（ステップＳ１１）。特徴抽出部２が、入力データからｎ個の特徴を抽出し、ｎ次元特徴ベクトルを生成する（ステップＳ１２）。特徴選択部３が、特徴選択表６に基づき、ｎ次元特徴ベクトルからｍ個の特徴を選択し、ｍ次元特徴ベクトルに変換する（ステップＳ１３）。識別部４が、認識辞書９を用いて、ｍ次元特徴ベクトルの識別を行う。具体的には、識別部４は、ｍ次元特徴ベクトルと、各クラスのｍ次元参照ベクトルとを比較する。より具体的には、識別部４は、ｍ次元特徴ベクトルとｍ次元参照ベクトルとの類似度を、予め定められた識別関数に基づいて算出する。識別部４は、算出された類似度に基づいて、ｍ次元特徴ベクトルが最も類似しているクラスを、識別結果として決定する（ステップＳ１４）。結果出力部５が、識別部４における識別結果を出力する（ステップＳ１５）。識別対象パターンの全てについて処理がなされた場合には、全体の処理を終了する。別の識別対象パターンが存在する場合には、ステップＳ１１以降の動作が繰り返される（ステップＳ１６）。
　上述の手法によれば、特徴選択部５が、特徴選択表６に基づいて、次元の削減を行う。この際、特徴選択部５は、ｎ次元特徴ベクトルから、優先順位に従って、ｍ個の特徴を選択するだけでよい。すなわち、ｎ次元特徴ベクトルにおけるｎ個の特徴のうち、処理に用いられる特徴の数はｍ個であるので、特徴選択時における計算量を少なくすることができる。
　ここで、特徴選択（次元削減）及び所属クラスの識別を精度良く行うためには、特徴選択表６及び識別辞書９が正確に作成されていなければならない。そこで、本実施形態では、特徴選択表６及び認識辞書９を作成する際の処理について、工夫が施されている。
　以下に、特徴選択表６及び認識辞書９を作成する場合（以下、学習時）の動作について説明する。図６は、学習時の動作を概略的に示すフローチャートである。
ステップＳ１；初期化
　まず、複数の学習用のデータが用意される。複数の学習用のデータの各々は、所属するクラスが既知であるデータである。また、特徴選択表６と認識辞書９とが初期化される。すなわち、特徴選択表６及び認識辞書９が、学習に使用できる状態に設定される。
ステップＳ２；入力データの読み込み
　次に、データ入力部１が、複数の学習用のデータの各々を、入力データとして読み込む。
ステップＳ３；特徴抽出
　特徴抽出部２が、読み込んだ入力データからｎ個の特徴を抽出し、ｎ次元特徴ベクトル（以下、ｎ次元学習ベクトル）を生成する。
ステップＳ４；ｐの初期化
　続いて、特徴選択表作成部７が、優先順位が対応付けられている各特徴の数を表すｐを、初期値０に設定する。ｐ＝０の場合、特徴選択表６には、優先順位が対応付けられた各特徴が１つもないことを示している。
ステップＳ５；追加特徴、（ｐ＋１）次元参照ベクトルの決定
　続いて、認識辞書作成部８が、次の優先順位（ｐ＋１番目の優先順位）に対応付けるべき追加特徴と、（ｐ＋１）次元参照ベクトルとを決定する。具体的には、特徴選択部３は、ｎ次元学習ベクトルを、そのまま認識辞書作成部８に通知する。認識辞書作成部８は、ｎ次元学習ベクトルに基づいて、損失Ｒが最小となるように、（ｐ＋１）番目の優先順位として追加される追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定する。ここで、損失Ｒは、入力データが異なるクラスに識別される危険度を示すパラメータである。損失Ｒは、各クラスの参照ベクトルが決まっていれば、所属クラスが既知である学習用データに基づいて、計算することができる。
ステップＳ６；認識辞書の修正
　認識辞書作成部８は、ステップＳ５で決定された（ｐ＋１）次元参照ベクトルに基づいて、認識辞書９を修正する。具体的には、認識辞書９のｍ次元参照ベクトルに含まれるｍ個の特徴のうちの（ｐ＋１）個について、その要素値を、ステップＳ５で決定された（ｐ＋１）次元参照ベクトルの要素値に修正する。具体例を挙げると、認識辞書９において、ｍ（＝４）次元参照ベクトルとして（１、０、０、０）が設定されており、（ｐ＋１）次元参照ベクトルとして（２、４）が計算された場合には、認識辞書９におけるｍ次元参照ベクトルを、（２、４、０、０）に修正する。
ステップＳ７；特徴選択表の修正
　特徴選択表作成部７は、認識辞書作成部８で決定された追加特徴に、（ｐ＋１）番目の優先順位を対応付けることにより、特徴選択表６を修正する。
ステップＳ８；ｐのインクリメント
　特徴選択表６が修正された後、ｐがインクリメントされる。
ステップＳ９；ｐ＜ｍ？
　ｐが、規定の数（特徴選択時に選択される次元の数）ｍよりも少なければ、再びステップＳ５以降の処理が繰り返される。一方、ｐが数ｍに達した場合には、ｐのインクリメントを行わず、処理を終了する。すなわち、ｐは、「ｐ＋１＝ｍ」となるまでインクリメントされる。
　上述ステップＳ１～９の動作により、特徴選択表６及び認識辞書９が作成される。上述の手法によれば、特徴選択表６は、優先順位の順に、一つ一つ追加特徴が追加されることによって、作成される。ここで、ステップＳ５により、損失Ｒが最小となるように追加特徴が決められる。また、ステップＳ６において、（ｐ＋１）次元の参照ベクトルに基づいて、認識辞書９が修正される。このようにして作成された特徴選択表６及び認識辞書９を用いれば、常に損失Ｒが最小となるようにｍ個の特徴が選択される。また、識別に用いられるｍ次元参照ベクトルの要素値は、ｍ次元での損失Ｒが最小となるような値に設定されている。すなわち、特徴選択表６に記載された優先順位、及び、認識辞書９に含まれる参照ベクトルは、特徴選択後の次元（ｍ次元）において最適化されている。従って、識別時において、計算量を抑えた上で、精度良く識別を行うことができる。
　続いて、ステップＳ５における動作を詳述する。
　ステップＳ５において、認識辞書作成部８は、（ｐ＋１）番目の優先順位に対して追加特徴候補を追加したときの損失Ｒを、損失計算部８３により計算する。追加特徴候補は、追加特徴候補選択部８２により、ｎ個の特徴のうちで優先順位が決まってない特徴群（以下、追加候補特徴群）の中から、選択される。また、認識辞書作成部８では、参照ベクトル候補設定部８１により、各クラスの（ｐ＋１）次元参照ベクトルの候補が変更されつつ、損失Ｒが計算される。すなわち、損失計算部８３は、追加特徴候補と（ｐ＋１）次元参照ベクトル候補の全ての組み合わせの各々について、損失Ｒを計算する。そして、決定部８４は、損失Ｒが最小となるような、追加特徴ベクトル候補と参照ベクトル候補との組み合わせを求める（探索する）。決定部８４は、探索結果の（ｐ＋１）次元参照ベクトル候補にもとづき、識別辞書９を修正する。また、探索結果の追加特徴候補を、追加特徴に決定する。この際、決定部８４は、（ｐ＋１）次元参照ベクトルの候補における全ての特徴（ｐ＋１個の特徴）のそれぞれについて、最適な要素値を探索する。
　より詳細に説明するため、ｎ個の特徴のうちｐ個の特徴について優先順位が決定されている場合について考える。すなわち、優先順位がｐ番目まで決定されている場合について考える。認識辞書作成部８では、（ｐ＋１）番目の優先順位に対応付けられるべき特徴を決定する処理を行う。具体的には、まず、追加特徴候補選択部８２により、追加特徴候補が選択される。また、参照ベクトル候補設定部８１により、各クラスの（ｐ＋１）次元参照ベクトル候補が設定される。更に、損失計算部８３が、（ｐ＋１）番目として選択された追加特徴候補が加えられた特徴選択表６を用いたと仮定して、ｎ次元学習ベクトルから（ｐ＋１）次元の学習ベクトルを生成する。そして、損失計算部８３は、参照ベクトルとして（ｐ＋１）次元参照ベクトル候補を用いたものと仮定して、（ｐ＋１）次元学習ベクトルに基づき、損失Ｒを計算する。続いて、参照ベクトル候補設定部８１により、（ｐ＋１）次元参照ベクトル候補が変更される。すなわち、（ｐ＋１）次元参照ベクトル候補の要素値が変更される。そして、損失計算部８３が、変更された後の参照ベクトル候補を用いたものと仮定して、損失Ｒを再度計算する。このようにして、損失計算部８３は、考えられる全ての参照ベクトル候補について、損失Ｒを計算する。その後、追加特徴候補選択部８２が、追加特徴候補を変更する。そして、損失計算部８３は、再度、考えられる全ての参照ベクトル候補について、損失Ｒを計算する。このような計算を繰り返し、参照ベクトル候補と追加特徴候補との全組み合わせについて、損失Ｒが計算される。その後、決定部８４が、その組み合わせの中で損失Ｒが最小である組み合わせを探索する。決定部８４は、探索の結果である追加特徴候補を追加特徴として特徴選択表作成部７に通知する。特徴選択表作成部７は、通知された追加特徴を、（ｐ＋１）番目の優先順位に対応付け、特徴選択表６を修正する。また、決定部８４は、探索の結果である（ｐ＋１）次元参照ベクトル候補に基づいて、認識辞書９を修正（作成）する。
　続いて、損失Ｒの求め方について詳述する。損失Ｒは、入力データが所属するクラスを異なるクラスに識別してしまうことによる危険度を表すパラメータである。損失Ｒは、複数のクラスの参照ベクトルの値に依存する。そこで、複数のクラスの参照ベクトルを特定するパラメータを、以下、識別器パラメータθと定義する。損失計算部８３は、式１に従って損失Ｒ（θ）を計算する。
　　（数１）
Figure JPOXMLDOC01-appb-I000001
　数式１中、Ｃはクラス数、Ｐａはａ番目のクラスに関する事前確率、Ｎａはａ番目のクラスに属する特徴ベクトルの数、ベクトルｘａ，ｊはａ番目のクラスに属するｊ番目の特徴ベクトル、θは、識別器パラメータである。
　事前確率Ｐａとしては、所望の値が設定される。一例を挙げるなら、全特徴ベクトル数をＮとした場合、Ｐａ＝Ｎａ／Ｎと設定される。ただし、Ｎ＝Ｎ１＋・・・＋ＮＣである。
　関数ｒ（・）は、引数で与えられる特徴ベクトルが識別誤りとなる危険度を表し、識別誤りの危険度が高いほど高い値を返す。例を挙げるなら、下記数式２～５で示される関数を、関数ｒ（・）として用いることができる。下記数式２～５において、ｇａ（ｘ；θ）は、ａ番目のクラスとの類似度を計算する識別関数を示し、ベクトルｘａ，ｊは、最も誤りやすいクラスがｈ番目のクラスであることを示す。
　　（数２）
Figure JPOXMLDOC01-appb-I000002
　　（数３）
Figure JPOXMLDOC01-appb-I000003
　　（数４）
Figure JPOXMLDOC01-appb-I000004
　　（数５）
Figure JPOXMLDOC01-appb-I000005
　ただし、ｆ（・）は任意の単調増加関数である。また、識別関数ｇａ（・）は、出力値が大きいほど、そのクラスに属する度合いが高い、すなわち類似度が高いことを表す。但し、識別関数として距離を用いた場合は、出力値が小さいほどそのクラスに属する度合いが高いことを表す。従って、距離を用いた場合には、数式２～５において、ｇａ（・）とｇｈ（・）を入れ替えた式が採用される。
　次に、本実施の形態の効果について説明する。
　本実施の形態では、認識辞書９の修正と特徴選択表６の修正とが、特徴選択表６に特徴が追加されるたびに実行される。従って、追加特徴を表に追加しながら、認識性能を高めることができる。これについて図を用いて、以下に詳しく説明する。
　説明を容易にするために、クラス数が２であり、類似度の尺度として、入力ベクトルと参照ベクトルとのユークリッド距離の２乗が用いられる場合について考える。
　図７に、優先順位が１位となる特徴ｆ１に対する、クラス１とクラス２とのデータ分布の例を示す。ｙ１［１］とｙ２［１］は、それぞれ、優先順位が１位の特徴番号に対応する、クラス１とクラス２との参照ベクトルの値である。ユークリッド距離の２乗を、識別関数として用いると、図７に破線で示されるように、２つの参照ベクトルの値の中点に識別面が設定される。その識別面の左側がクラス１に、右側がクラス２に、それぞれ識別される。本実施形態に従えば、所属するクラスが誤って識別されてしまうデータの総数に相当する損失Ｒが最小となる位置に、識別面が設定される。
　図８に、優先順位が２位となる特徴ｆ２を追加した場合のデータ分布の例を示す。優先順位１位の特徴に対する参照ベクトルの値（ｙ１［１］及びｙ２［１］）と、優先順位２位の特徴に対する参照ベクトルの値（ｙ１［２］及びｙ２［２］）とが、損失Ｒが最小となる位置（×で示される位置）に決定される。その損失Ｒが最小となる位置は、ｆ１及びｆ２がなす２次元平面内において求められる。そして、破線で示される位置に、識別面が設定される。
　図９に、優先順位が３位となる特徴値ｆ３を追加した場合のデータ分布の例を示す。優先順位が１位の特徴に対する参照ベクトルの値（ｙ１［１］及びｙ２［１］）と、優先順位が２位の特徴に対する参照ベクトルの値（ｙ１［２］及びｙ２［２］）と、優先順位３位の特徴に対する参照ベクトルの値（ｙ１［３］及びｙ２［３］）とのそれぞれが、損失Ｒが最小となる位置（×で示される位置）に決定される。その損失Ｒが最小となる位置は、ｆ１及びｆ２及びｆ３がなす３次元空間内において求められる。そして、破線で囲まれる位置に識別面が設定される。
　尚、特徴の数が３個、すなわち３次元の場合は、識別面が２次元平面になることに注意されたい。同様に、優先順位がｍ位の場合まで処理を進めることで、特徴選択表とｍ次元参照ベクトルの値が求められる。
　以上説明したように、本実施形態によれば、特徴選択表６が作成される際に、一つ一つの優先順位に対して最適な（損失Ｒが最小となるような）追加特徴が選定される。このようにしてｍ番目までの優先順位が決定されるので、特徴選択時には、最適なｍ個の特徴が選択されることになる。また、ｍ次元参照ベクトルの要素値は、ｎ次元ではなくｍ次元で最適な値に設定されることになる。これにより、高い認識性能が実現される。
（第２の実施形態）
　続いて、本発明の第２の実施形態について説明する。図１０は、本実施形態に係るパターン認識装置を示すブロック図である。本実施形態に係るパターン認識装置は、第１の実施形態に対して、認識辞書作成部８に、誤棄却率（Ｆａｌｓｅ　Ｒｅｊｅｃｔ　Ｒａｔｅ；ＦＲＲ）を計算するＦＲＲ計算部８５が追加されている。また、本実施形態では、複数のクラスのうちの少なくとも一つのクラスが、設定クラスに設定されている。
　まず、本実施形態における識別時の動作について説明する。図１１は、本実施形態における識別時の動作を示すフローチャートである。以下の動作は、特に断りの無い限り、識別部４により実行される。
　まず、第１の実施形態と同様に、特徴選択表６及び認識辞書９の初期化が行われる（ステップＳ２１）。続いて、識別対象のデータが入力データとして読み込まれ（ステップＳ２２）、特徴抽出部２によって、ｎ次元入力ベクトルが生成される（ステップＳ２３）。
　続いて、特徴選択部３が、処理を行う優先順位ｋを初期値に設定する（ステップＳ２４）。
　さらに、特徴選択部３が、特徴選択表６に基づき、ｎ次元入力ベクトルから優先順位がｋ番目である特徴の値を選択する（ステップＳ２５）。
　次に、識別部４が、識別辞書９を参照し、抽出したｎ次元入力ベクトルのｋ番目の特徴値を、各クラスの参照ベクトルのｋ番目の特徴の値と比較する。具体的には、識別部４は、類似度を計算することにより、比較する。そして、識別部４は、ｎ次元入力ベクトルがどのクラスに最も類似しているかを識別する（ステップＳ２６）。
　次に、識別部４は、ｎ次元入力ベクトルを棄却するか否かを決定する。具体的には、識別部４は、設定クラスに最も類似していたか否かを判定する。そして、設定クラスに最も類似していた場合には、棄却しないと判定し、設定クラス以外のクラスに最も類似していた場合には、棄却すると判定する（ステップＳ２７）。
　設定クラスに最も類似していた場合（棄却しない場合）、識別部４は、ｋの値をインクリメントし（ステップＳ２８）、ｋをｍと比較する（ステップＳ２９）。ｋ＜ｍであれば、ステップＳ２５以降の処理が繰り返される。ｋ＝ｍであれば、識別結果として、設定クラスが出力される（ステップＳ３０）。
　ステップＳ２７において、入力ベクトルが設定クラス以外のクラス（非設定クラス）に最も類似していた場合には、識別部４は、棄却と判定する。識別部４は、棄却する旨を、結果出力部５に通知する（ステップＳ３０）。
　以上のステップＳ２１～Ｓ３０までの処理により、一つの識別データに対する識別が行われる。その後、他に識別データが存在するか否かの判定が行われ（ステップＳ３１）、他の識別データが存在する場合には、ステップＳ２２以降の処理が繰り返される。他に識別データが存在しない場合には、全体の処理が終了される。
　本実施形態のような識別手法は、例えば、画像中から特定の対象物を検出する際などに有効である。対象物の面積は、画像全体の面積よりも小さい場合が多い。すなわち、画像中の大部分の領域は、背景などの非対象物領域である場合が多い。対象物を検出する際には、画像全体が小領域に分割され、各小領域に対して特徴ベクトルが求められる。そして、各小領域について、対象領域なのか非対象領域なのかが識別される。本実施形態を適用した場合、識別対象である各小領域が対象領域ではないと判定された段階で、非対象物領域として棄却される。従って、棄却された各小領域については、その後の識別処理を続ける必要がない。すなわち、非対象物領域におけるどのクラスに所属するかまでは、識別される必要がない。画像全体からの対象物領域を検出する際の計算量を減らすことができ、処理時間を短縮することができる。
　続いて、本実施形態における学習時の動作について説明する。図１２は、本実施形態に係る学習時の動作を示すフローチャートである。
　複数の学習用のパターンが用意される。また、認識辞書作成部８及び特徴選択表作成部７により、特徴選択表６と認識辞書９が初期化される（ステップＳ１）。
　次に、複数の学習用のパターンの各々が入力データとして読み込まれる（ステップＳ２）。特徴抽出部２により、入力データに対する特徴抽出が行われ、ｎ次元学習ベクトルが生成される（ステップＳ３）。
　次に、特徴選択表作成部７により、優先順位が対応付けられている特徴の数ｐが、初期値０に設定される（ステップＳ４）。
　次に、特徴選択部３が、特徴選択表６に基づき、ｎ次元学習ベクトルからｐ個の次元を選択し、ｐ次元学習ベクトルを生成する（ステップＳ５）。
　次に、ステップＳ６の処理が実行される。ステップＳ６では、認識辞書作成部８が、損失Ｒ（θ）が最小となるように、（ｐ＋１）番目の優先順位に対応付けられる特徴（追加特徴）を決定する。また、認識辞書作成部８は、各クラスの参照ベクトルにおける（ｐ＋１）番目の特徴の値として、損失Ｒ（θ）が最小となるような値を決定する。この際、認識辞書作成部８では、追加特徴候補選択部８２が、既述の実施形態と同様に、追加特徴候補群の中から一つ追加特徴候補を選択する。一方、参照ベクトル候補設定部８１は、既述の実施形態とは異なり、（ｐ＋１）次元の参照ベクトル候補として、ｐ次元の参照ベクトルに追加特徴候補を追加したベクトルを、設定する。すなわち、参照ベクトル候補設定部８１は、優先順位がｐ以下の特徴については、ｐ次元参照ベクトルと同じ値を設定し、優先順位が（ｐ＋１）番目の特徴についてのみ、値を新しく設定する。具体例を挙げると、ｐ（＝３）次元の参照ベクトルが（１、２、５）であった場合、（ｐ＋１）次元の参照ベクトル候補として、（１、２、５、Ｔ）を設定する。ここで、Ｔは、追加特徴候補の値である。その後、損失計算部８４が、損失Ｒ（θ）を計算する。
　また、本実施形態では、損失Ｒ（θ）が計算される際に、ＦＲＲ計算部８５により、設定クラスに関する誤棄却率ＦＲＲも計算される。設定クラスに関する誤棄却率ＦＲＲとは、識別時に、設定クラスに所属する入力データが誤って棄却されてしまう確率である。誤棄却率ＦＲＲは、損失Ｒ（θ）と同様、複数のクラスの参照ベクトルが決まっていれば、所属クラスが既知である学習ベクトルに基づいて、計算できる。
　そして、決定部８４は、誤棄却率ＦＲＲが予め設定された目標値ＦＲＲ＊以下となる制約条件下にて、損失Ｒ（θ）が最小となるように、追加特徴候補及び参照ベクトル候補を探索する。そして、探索結果が、追加特徴及び参照ベクトルに決定される。この際、参照ベクトルに関しては、実質的には、（ｐ＋１）番目の優先順位に対応付けられる特徴の要素値だけが決定されることになる。認識辞書作成部８は、各クラスの参照ベクトルの（ｐ＋１）番目の特徴の要素値として、決定部８４で決定された参照ベクトルの値を設定する。
　次に、ステップＳ７の処理が実行される。特徴選択表作成部７が、（ｐ＋１）番目の優先順位に対して、認識辞書作成部８で決定された追加特徴を対応付け、特徴選択表６を修正する（ステップＳ７）。
　続いて、特徴選択表作成部７が、ｐの値をインクリメントする（ステップＳ８）。特徴選択表作成部７により、ｐの値がｍと比較される（ステップＳ９）。ｐ＜ｍであれば、ステップＳ５以降の処理が繰り返され、ｐ＝ｍであれば、処理を終了する。
　以下に、ステップＳ６における処理について詳述する。ステップＳ６においては、損失計算部８３が、既述の実施形態と同様の式（数式１）に従って、損失Ｒ（θ）を計算する。また、ＦＲＲ計算部８５が、設定クラスに関して、下記式６に従い、誤棄却率ＦＲＲを計算する。
　　（数６）
Figure JPOXMLDOC01-appb-I000006
　上式６中、Ｎａはａ番目のクラスに属する特徴ベクトルの数、ベクトルｘａ，ｊはａ番目のクラスに属するｊ番目の特徴ベクトル、θは認識辞書９として格納される識別器パラメータ、Ｓａ（θ）はａ番目のクラスに関するＦＲＲを表す。ｓ（・）は、ベクトルｘａ，ｊが正認識される場合に０、誤認識される場合に１を返す関数である。
　また、ステップＳ６において、誤棄却率ＦＲＲが予め定められた目標値ＦＲＲ＊以下となる制約条件下で、損失Ｒ（θ）が最小となるような識別器パラメータθ（各クラスの参照ベクトル）を求めるときの動作について説明する。このような識別器パラメータθは、例えば、十分大きな値であるλを用いて、下記式７で示される関数Ｆ（θ）により、求めることができる。すなわち、下記式７で示される関数Ｆ（θ）が最小となるように、識別器パラメータθを求めればよい。
　　（数７）
Figure JPOXMLDOC01-appb-I000007
　次に、本実施の形態の効果について説明する。
　本実施形態では、既述の実施形態と同様に、認識辞書９の修正と特徴選択表６の修正とが、特徴が表に追加されるたびに実行される。従って、特徴選択表に特徴を追加しながら、認識性能を高めることができる。
　さらに、本実施形態では、すでに特徴選択表６に優先順位が記載された特徴については、認識辞書９の作成時に、参照ベクトルの候補の値が変更されない。そのため、認識時の類似度計算を効率良く行うことができる。この点について、以下に詳しく説明する。
　一例として、認識辞書９としてｍ次元参照ベクトル群が用いられ、類似度の尺度としてユークリッド距離の２乗が用いられるものとする。ｍ次元のベクトル同士の類似度Ｄは、例えば、下記式８で定義することができる。
　　（数８）
Figure JPOXMLDOC01-appb-I000008
　数式８中、ｘ［ｉ］とｙ［ｉ］とは、それぞれ、識別データに基づく入力ベクトルと参照ベクトルとのｉ番目の特徴の値を示す。また、特徴選択表６における優先順位ｋに対応する特徴番号をｉ［ｋ］と表記すると、式８は、下記式９のように書き直すことができる。
　　（数９）
Figure JPOXMLDOC01-appb-I000009
　優先順位が１～ｑ（ｑ＜ｍ）までの特徴に関して、入力ベクトルと参照ベクトルとの類似度をｄ［ｑ］と表記すると、１～（ｑ＋１）番目までの特徴を用いたときの、類似度ｄ［ｑ＋１］は、下記式１０のように書くことができる。
　　（数１０）
Figure JPOXMLDOC01-appb-I000010
　すなわち、優先順位ｑまでの類似度ｄ［ｑ］が計算されていれば、優先順位（ｑ＋１）の類似度ｄ［ｑ＋１］は、優先順位（ｑ＋１）に対応する特徴の値に関しての距離の２乗を、類似度ｄ［ｑ］に加えるだけでよい。従って、優先順位１～ｑまでの距離を再度計算する必要はない。数式１０の漸化式に従って計算を行えば、ｄ［ｍ］は、数式９で示されるＤと同じ値になる。このように効率よく距離計算が実現できる前提条件として、優先順位（ｑ＋１）の距離計算を行う際の参照ベクトルの各特徴の値（ｙ［１］～ｙ［ｑ］）が、優先順位ｑの距離計算を行った時の値と同じでなくてはならない。本実施形態では、すでに優先順位が決められた特徴に関しては、参照ベクトル候補の値が変更されない。そのため、効率のよい距離計算が実現可能である。ここでは、類似度の尺度としてユークリッド距離の２乗を例に挙げたが、内積などの他のパラメータを類似度の尺度として用いた場合でも、同様に有効である。
　さらに、本実施形態によれば、ＦＲＲが目標値ＦＲＲ＊となる制約条件の下で、追加特徴及び参照ベクトルが決められる。これにより、ＦＲＲを所望の値に抑えた上で、認識性能を高めることができる。この点について、以下に詳しく説明する。
　説明を容易にするために、クラス数を２とし、設定クラスとして１番目のクラスが設定されているものとする。また、類似度の尺度として、入力ベクトルと参照ベクトルとのユークリッド距離の２乗が用いられるものとする。
　図１３は、優先順位が１位となる特徴の値ｆ１に対する、クラス１とクラス２のデータ分布の例を示している。図１３において、ｙ１［１］とｙ２［１］とは、それぞれ、優先順位が１位の特徴番号に対応するクラス１とクラス２との参照ベクトルの値である。その位置が「×」で示されている。ユークリッド距離の２乗を類似度の尺度として識別した場合、図１３中、破線で示すように、２つの参照ベクトルの値の中点に識別面が設定される。この識別面の左側がクラス１に、右側がクラス２に識別される。本実施形態に従えば、識別面は、設定クラスであるクラス１に関するＦＲＲが目標値ＦＲＲ＊以下となり、かつ損失が最小となる位置に、設定される。
　図１４は、優先順位が２位となる特徴の値ｆ２が追加された例を示している。優先順位が１位である特徴に対する参照ベクトルの値（ｙ１［１］及びｙ２［１］）は、変更されていない。優先順位が２位である特徴に対する参照ベクトルの値（ｙ１［２］及びｙ２［２］）は、ｙ１［１］及びｙ２［１］の位置（図１４中の「黒丸」で示される位置）から伸びる線上に設定される。また、クラス１に関するＦＲＲが目標値ＦＲＲ＊以下となり、かつ損失が最小となる位置（×で示す位置）が求められ、破線で示す位置に識別面が設定される。
　図１５は、優先順位が３位である特徴の値ｆ３が追加された例を示している。優先順位が１位である特徴に対する参照ベクトルの値（ｙ１［１］及びｙ２［１］）、及び優先順位が２位である特徴に対する参照ベクトルの値（ｙ１［２］及びｙ２［２］）は固定されている。そのため、優先順位が３位である特徴に対する参照ベクトルの値（ｙ１［３］及びｙ２［３］）は、（ｙ１［１］，ｙ１［２］）及び（ｙ２［１］，ｙ２［２］）の位置（図１５に黒丸で示される位置）から伸びる線上に設定されている。この線上において、クラス１に関するＦＲＲが目標値ＦＲＲ＊以下となり、かつ損失が最小となる位置（×で示す位置）が求められ、破線で囲む位置に識別面が設定される。特徴数が３つ、すなわち３次元の場合は、識別面は２次元平面になることに注意されたい。同様に、優先順位がｍ位の場合まで処理を進めることで、特徴選択表６とｍ次元参照ベクトルの値が求められる。
　ＦＲＲを所望の値（目標値ＦＲＲ＊）に設定できる利点について、以下に説明する。画像中の対象物検出を例に説明すると、対象物の面積は画像全体の面積よりも小さい場合が多い。すなわち、画像の大部分の領域は背景などの非対象物領域である。対象物検出では、画像全体を小領域に分割し、各小領域に対して特徴ベクトルを求め対象領域なのか非対象領域なのかを識別する処理が行われる。この際、非対象物領域の識別処理に関わる時間を軽減することで、画像全体からの対象物検出に関わる処理時間を軽減することができる。図１３乃至図１５おいて、対象物をクラス１、非対象物をクラス２とすると、クラス１をクラス２に誤って識別する率、すなわちＦＲＲは少ない方が望ましい。本実施の形態では、対象物に対するＦＲＲを所望の値に設定できる。更に、識別時には、優先順位に従って、特徴の数を増やしつつ識別が行われる。ここで、入力ベクトルが非対象物であると（対象物ではない）識別された場合には、識別する特徴の追加が中止される。すなわち、入力ベクトルが棄却される。従って、認識精度を低下させることなく、高速で対象物を検出することができる。
（第１の実施形態に係る実施例；実施例１）
　本実施形態をより詳細に説明する為、実施例について説明する。
　クラス数が２であり、１クラスの１優先順位に対して１個の参照ベクトルが用いられ、類似度の尺度（識別関数）としてユークリッド距離の２乗が用いられるものとする。
　図１６に、本実施例における学習時のフローチャートが記載されている。
　まず、学習に先立ち、複数の学習用データが準備される。複数の学習用データの各々が、特徴抽出部２によって、ｎ次元の特徴ベクトル（以降、ｎ次元学習ベクトルと呼ぶ）に変換される。クラス１に属する学習ベクトル数がＮ１と定義され、ｊ番目の学習ベクトルが（ｘ１［ｊ］［１］，ｘ１［ｊ］［２］，・・・，ｘ１［ｊ］［ｎ］）と表記される。同様に、クラス２に属する学習ベクトル数がＮ２と定義され、ｊ番目の学習ベクトルが（ｘ２［ｊ］［１］，ｘ２［ｊ］［２］，・・・，ｘ２［ｊ］［ｎ］）と表記される。クラス１及びクラス２の事前確率（Ｐ１及びＰ２）として、所望の値が設定される。例えば、Ｐ１及びＰ２が、それぞれ、Ｐ１＝Ｎ１／Ｎ、Ｐ２＝Ｎ２／Ｎに設定される。ただし、Ｎは学習ベクトルの総数で、Ｎ＝Ｎ１＋Ｎ２である。選択後の次元の数を示すｍ（ｍ＜ｎ）が所望の値に設定される。クラス１に関する認識辞書９として、ｍ次元参照ベクトル（ｙ１［１］，ｙ１［２］，・・・，ｙ１［ｍ］）が準備され、クラス２に関する認識辞書としｍ次元参照ベクトル（ｙ２［１］，ｙ２［２］，・・・，ｙ２［ｍ］）が準備される。各参照ベクトルにおける各要素の値は、初期値０に設定される。特徴選択表６として、ｍ個の配列（ｉ［１］，ｉ［２］，・・・，ｉ［ｍ］）が準備され、各要素の値に初期値０が設定される。
　以上の処理は、図６におけるステップＳ１からステップＳ３までの処理に対応している。
　続いて、学習が行われる。以下の動作は、特に断りの無い限り、認識辞書作成部８により行われる。
　まず、優先順位が対応付けられている特徴の数を表すｐが、初期値０に設定される。さらに、追加特徴候補として選択される特徴番号を示すｑが、初期値１に設定される（ステップＳ４）。
　続いて、特徴番号１～ｎのそれぞれについて、追加特徴として（ｐ＋１）番目の優先順位に対応付けたときの損失Ｒ（ｑ）の値を、初期値に設定する。損失Ｒ（ｑ）の初期値としては、予め求められる損失Ｒの最大値が設定される（ステップＳ５）。
　続いて、特徴選択表６における１～ｍ番目の優先順位のそれぞれについて、追加特徴候補の特徴番号ｑが既に優先順位に対応付けられているか否かが確認される（ステップＳ６１）。
　ステップＳ６１において、特徴番号ｑの特徴に対応付けられた優先順位が１つも存在しなければ、特徴番号ｑを特徴選択表６に追加したときの損失の最小値Ｒと、損失Ｒの最小値を与えるクラス１及びクラス２の参照ベクトル（ｚ１［ｑ］［１］，ｚ１［ｑ］［２］，・・・，ｚ１［ｑ］［ｍ］）及び（ｚ２［ｑ］［１］，ｚ２［ｑ］［２］，・・・，ｚ２［ｑ］［ｍ］）が求められる。求められた参照ベクトルは、特徴番号ｑに対応付けられて保存される（ステップＳ６２）。
　続いて、ｑの値がインクリメントされる（ステップＳ６３）。
　続いて、ｑの値が、ｎと比較される（ステップＳ６４）。ｑ＜ｎであれば、ステップＳ６１以降の動作が繰り返される。
　ステップＳ６４において、ｑの値がｎと等しければ、１～ｎまでの特徴番号の中で、損失の最小値Ｒ（ｑ）が最小となるような特徴番号ｑ＊が求められる（ステップＳ６５）。
　そして、特徴番号ｑ＊に対応するクラス１の参照ベクトル（ｚ１［ｑ＊］［１］，ｚ１［ｑ＊］［２］，・・・，ｚ１［ｑ＊］［ｍ］）が、認識辞書９として格納される。同様に、特徴番号ｑ＊に対応するクラス２の参照ベクトル（ｚ２［ｑ＊］［１］，ｚ２［ｑ＊］［２］，・・・，ｚ２［ｑ＊］［ｍ］）が、認識辞書９に格納される（ステップＳ６６）。
　更に、認識辞書作成部８は、特徴番号ｑ＊を追加特徴の番号として特徴選択表作成部７に通知する。特徴選択表作成部７は、（ｐ＋１）番目の優先順位に、特徴番号ｑ＊を対応付け、特徴選択表６に格納する（ステップＳ７）。特徴選択表作成部７は、優先順位が対応付けられている特徴の数ｐを、インクリメントする（ステップＳ８）。
　認識辞書作成部８は、ｐをｍと比較する（ステップＳ９）。ｐ＜ｍである場合には、ステップＳ５以降の処理が繰り返される。ｐがｍと等しい場合には、全体の処理が終了される。
　以上のステップＳ９までの処理により、特徴選択表６及び認識辞書９が作成される。
　続いて、ステップＳ６２における損失Ｒの求め方について、より詳細に説明する。損失Ｒを求めるにあたっては、まず、参照ベクトル候補設定部８１により、各クラスの参照ベクトルの候補の値が設定される。また、追加候補特徴選択部８２により、ｎ個の特徴のうちで優先順位の決定されていない特徴群（追加候補特徴群）の中から、追加候補特徴が一つ選択される。そして、追加候補特徴を特徴選択表６に追加し、参照ベクトル候補を参照ベクトルとして用いたと仮定して、損失Ｒが求められる。その損失Ｒは、クラス１に関する損失要素Ｒ１と、クラス２に関する損失要素Ｒ２との和として求められる。
　図１７は、クラス１に関する損失要素Ｒ１を求める際の動作を示すフローチャートである。
　まず、クラス１の学習ベクトル群のうち、処理を行う学習ベクトルを示す番号ｊが、初期値１に設定される。また、クラス１に関する損失要素Ｒ１の値が初期値０に設定される（ステップＳ６２１）。
　続いて、処理を行う特徴番号の優先順位ｌの値が、初期値０に設定される。また、処理を行う学習ベクトルと参照ベクトル候補との間の類似度（距離）を示すＤ１が、初期値０に設定される（ステップＳ６２２）。
　続いて、優先順位が決められている特徴の数ｐと、処理を行う特徴番号ｌとが比較される（ステップＳ６２３）。
　ステップＳ６２３において、ｌ＜ｐである場合、ｌの値が１つインクリメントされる（ステップＳ６２４）。その後、特徴番号ｌについて、学習ベクトルｘ１の要素値と参照ベクトルｙ１の要素値（クラス１の参照ベクトル候補の要素値）との差の二乗が計算され、その計算結果がＤ１に加算される（ステップＳ６２５）。その後、ステップＳ６２３以降の動作が繰り返される。
　ステップＳ６２３において、ｌ＝ｐである場合、特徴番号ｌについて、学習ベクトルｘ１の要素値と参照ベクトルｙ１の要素値との差の二乗が計算され、その計算結果がＤ１に加算される（ステップＳ６２６）。その後、次のステップＳ６２７の処理が実行される。
　ステップＳ６２７では、ｌの値が初期値０に設定される。また、処理対象の学習ベクトルと参照ベクトル候補と類似度Ｄ２の値が、初期値０に設定される。
　次に、優先順位が決められている特徴の数ｐとｌとが比較される（ステップＳ６２８）。
　ステップＳ６２８において、ｌ＜ｐである場合、ｌの値が１つインクリメントされる（ステップＳ６２９）。その後、特徴番号ｌについて、学習ベクトルｘ１の要素値と参照ベクトルｙ２の要素値（クラス２の参照ベクトル候補の要素値）との差の二乗が計算され、その計算結果がＤ２に加算される（ステップＳ６３０）。その後、ステップＳ６２８以降の動作が繰り返される。
　ステップＳ６２８において、ｌ＝ｐである場合、特徴番号ｌについて、学習ベクトルｘ１の要素値と参照ベクトルｙ２の要素値との差の二乗が計算され、その計算結果がＤ２に加算される（ステップＳ６３１）。その後、次のステップＳ６３２の処理が実行される。
　ステップＳ６３２では、予め定められた定義（関数）ｆ（ｘ）に従い、損失が求められ、Ｒ１に加算される（ステップＳ６３２）。関数ｆ（ｘ）としては、例えば、「ｆ（ｘ）＝ｅｘｐ（αｘ）（但し、αは正の実数）」、などを用いることができる。
　続いて、学習ベクトルの番号ｊがクラス１の学習ベクトル数Ｎ１と比較される（ステップＳ６３３）。ｊ＜Ｎ１であれば、ｊの値がインクリメントされ（ステップＳ６３４）、ステップＳ６２２以降の処理が繰り返される。Ｊ＝Ｎ１であれば、すなわちクラス１の学習ベクトルの全てについて処理が終了した場合には、所望の値に設定されたクラス１の事前確率Ｐ１とクラス１の学習ベクトルの数Ｎ１に基づいて、Ｒ１の値が補正され（ステップＳ６３５）、処理を終了する。
　以上のステップＳ６２１～ステップＳ６３５の処理により、クラス１に関する損失要素Ｒ１が計算される。クラス２に関する損失要素Ｒ２も、クラス２に所属する学習ベクトル群を用いて、クラス１と同様に計算される。一つの追加特徴候補及び１つの参照ベクトル候補を用いたときの損失Ｒが、損失要素Ｒ１と損失要素Ｒ２との和として計算される。このような損失要素Ｒの計算が、追加特徴候補群における各追加特徴候補について行われる。また、各追加特徴候補について、参照ベクトル候補を変更しつつ、損失Ｒが計算される。そして、全ての追加特徴候補と参照ベクトル候補との組み合わせの中で、損失Ｒが最小となるような組み合わせが決定される。なお、損失Ｒが最小になるような参照ベクトルの具体的求め方としては、例えば、参照ベクトルの各要素の値を符号なしの８ビットとし、各要素の値を０から２５５まで変化させながら、全ての要素値の組み合わせに対して損失Ｒを計算する方法がある。
　続いて、本実施例における識別時の動作について説明する。図１８は、本実施例における識別時の動作を示すフローチャートである。以下の動作は、特に断りの無い限り、識別部４により行われる。
　識別対象のデータは、特徴抽出部２によって、ｎ次元入力ベクトル（ｘ［１］，ｘ［２］，・・・，ｘ［ｎ］）に変換される。ｎ次元入力ベクトルは、特徴選択部３により、ｍ次元入力ベクトルに変換される。ここまでの処理は、図５のステップＳ１３までの処理に対応する。
　続いて、処理対象の優先順位を示すｌが初期値１に設定される。また、ｍ次元入力ベクトルと、クラス１の参照ベクトルとの類似度を示すＤ１が初期値０に設定される（ステップＳ１４１）。
　次に、特徴選択表６における優先順位ｌ位に対応する特徴番号ｉ［ｌ］について、入力ベクトルｘとクラス１の参照ベクトルｙ１とのユークリッド距離の２乗が計算される。計算の結果は、Ｄ１に加算される（ステップＳ１４２）。
　次に、ｌがｍと比較される（ステップＳ１４３）。ｌ＜ｍならば、ｌがインクリメントされ（ステップＳ１４４）、ステップＳ１４２以降の処理が繰り返される。ｋ＝ｍであれば、次のステップＳ１４５の処理が実行される。
　次に、ｌが初期値１に設定される。また、ｍ次元入力ベクトルとクラス２の参照ベクトルとの類似度を示すＤ２が、初期値０に設定される（ステップＳ１４５）。
　特徴選択表６における優先順位ｌ位に対応する特徴番号ｉ［ｌ］について、ｍ次元入力ベクトルｘとクラス２の参照ベクトルｙ２とのユークリッド距離の２乗が計算される。計算結果は、Ｄ２に加算される（ステップＳ１４６）。
　次に、ｌがｍと比較される（ステップＳ１４７）。ｌ＜ｍならば、ｌがインクリメントされ（ステップＳ１４８）、ステップＳ１４６以降の処理が繰り返される。ｌ＝ｍならば、次のステップＳ１４９の処理が実行される。
　ステップＳ１４９では、Ｄ１とＤ２とが比較される。Ｄ１＜Ｄ２であれば、識別結果がクラス１に決定される（ステップＳ１５０）。Ｄ１＞Ｄ２ならば、識別結果がクラス２に決定される（ステップＳ１５１）。
（第２の実施形態に係る実施例；実施例２）
　続いて、第２の実施形態をより詳細に説明する為、実施例２について説明する。
　実施例１と同様に、クラス数を２とし、各クラスについて１個の参照ベクトルが用いられ、類似度の尺度としてユークリッド距離の２乗が用いられるものとする。
　まず、学習時の動作について説明する。
　学習用に、複数の入力データが準備される。各学習用のデータが、特徴抽出部２により、ｎ次元学習ベクトルに変換される。クラス１に属する学習ベクトル数をＮ１とし、ｊ番目の学習ベクトルを（ｘ１［ｊ］［１］，ｘ１［ｊ］［２］，・・・，ｘ１［ｊ］［ｎ］）と表記する。同様に、クラス２に属する学習ベクトル数をＮ２とし、ｊ番目の入力ベクトルを（ｘ２［ｊ］［１］，ｘ２［ｊ］［２］，・・・，ｘ２［ｊ］［ｎ］）と表記する。クラス１及びクラス２の事前確率として、所望の値が設定される。例えば、クラス１の事前確率Ｐ１とクラス２の事前確率Ｐ２が、それぞれ、Ｐ１＝Ｎ１／Ｎ、Ｐ２＝Ｎ２／Ｎと設定される。ただし、Ｎは入力ベクトルの総数であり、Ｎ＝Ｎ１＋Ｎ２である。特徴選択部３により選択される特徴の数ｍ（ｍ＜ｎ）が、所望の値に設定される。クラス１に関する認識辞書９として、１個のｍ次元参照ベクトル（ｙ１［１］，ｙ１［２］，・・・，ｙ１［ｍ］）が設定される。クラス２に関する認識辞書９として、１個のｍ次元参照ベクトル（ｙ２［１］，ｙ２［２］，・・・，ｙ２［ｍ］）が設定される。各ｍ次元参照ベクトルの各特徴の値が、初期値０に設定される。特徴選択表６として、ｍ個の配列（ｉ［１］，ｉ［２］，・・・，ｉ［ｍ］）が準備される。特徴選択表６における各要素の値に、初期値０が設定される。
　以降の処理のフローチャートは、図１６に示される実施例１と同様である。ただし、ステップＳ６２において、最小となる損失Ｒと、その時のクラス１とクラス２の参照ベクトル（ｚ１［ｑ］［１］，ｚ１［ｑ］［２］，・・・，ｚ１［ｑ］［ｍ］）、（ｚ２［ｑ］［１］，ｚ２［ｑ］［２］，・・・，ｚ２［ｑ］［ｍ］）を求める処理が異なる。これについて、以下に詳しく説明する。
　まず、損失Ｒの求め方について説明する。クラス１に関する損失要素Ｒ１とクラス２に関する損失要素Ｒ２を求める処理における動作は、図１７に示した実施例１と同様である。ただし、実施例１では、損失Ｒが、損失要素Ｒ１と損失要素Ｒ２との和（Ｒ１＋Ｒ２）として定義されたのに対して、本実施例では、損失Ｒが、Ｒ１＋Ｒ２＋λ（Ｓ１－ＦＲＲ＊）２として定義される。ここで、λ及びＦＲＲは、予め定められる値である。また、Ｓ１は、設定クラスであるクラス１に関する誤棄却率であり、ＦＲＲ計算部８５により計算された値である。Ｓ１は、図１７に示されるフローチャートにおいて、Ｒ１をＳ１に読み替え、ステップＳ６３５におけるＰ１に１を設定することにより、求めることができる。また、実施例１とは異なり、ステップＳ６３２において、関数ｆ（ｘ）として、ｘが正であれば１、ｘが負であれば０を出力するような関数が用いられる。
　つづいて、参照ベクトル候補における値の変え方について説明する。実施例１では、図１６におけるステップＳ６２の段階で、参照ベクトル候補（ｙ１およびｙ２）の値は、優先順位１～ｐ番目の特徴と新たに追加される（ｐ＋１）番目の特徴との全てについて、変更された。これに対して、本実施例では、参照ベクトル候補の要素値は、優先順位が１～ｐ番目までの特徴については変更されず、（ｐ＋１）番目の特徴（追加特徴候補）だけ変更される。
　続いて、本実施例における認識時の動作について説明する。図１９は、本実施例における認識時の動作を示すフローチャートである。
　まず、識別対象のデータが、入力データとして読み込まれ、特徴抽出部２によりｎ次元入力ベクトル（ｘ［１］，ｘ［２］，・・・，ｘ［ｎ］）が生成される。その後、識別部４により、処理対象の優先順位を表すｋが初期値１に、入力ベクトルとクラス１との類似度を示す距離Ｄ１が初期値０に、入力ベクトルとクラス２との類似度を示す距離Ｄ２が初期値０に設定される（Ｓ２１～２５）。
　続いて、識別部４は、特徴選択表６における優先順位がｋ番目の特徴番号ｉ［ｋ］について、入力ベクトルｘとクラス１の参照ベクトルｙ１との類似度（ユークリッド距離の２乗）を計算する（ステップＳ２６－１）。識別部４は、さらに、特徴選択表６における優先順位がｋ番目の特徴番号ｉ［ｋ］について、入力ベクトルｘとクラス２の参照ベクトルｙ２との類似度を計算する（ステップＳ２６－２）。続いて、識別部４は、Ｄ１とＤ２との大きさを比較する（ステップＳ２７）。
　ステップＳ２７においてＤ１＞Ｄ２ならば、識別部４は、ｋをインクリメントし（ステップＳ２８）、ｋとｍとを比較する（ステップＳ２９）。ｋ＜ｍならば、ステップＳ２６－１以降の処理が繰り返される。ｋ＝ｍならば、識別部４は、入力ベクトルが所属するクラスを、クラス１に識別する（ステップＳ３０－１）。
　ステップＳ２７においてＤ１＜Ｄ２ならば、識別部４は、入力ベクトルが所属するクラスをクラス２（棄却）と識別する（ステップＳ３０－２）。
　以上、実施例１及び実施例２について説明した。尚、実施例１及び実施例２では、クラス数を２とした場合について説明した。しかクラス数が３以上であっても、本発明は有効である。また、一つのクラスを代表する参照ベクトルが複数存在する場合でも、本発明は有効である。また、類似度の尺度として、内積や、ユークリッド距離の２乗を求めた後にｅｘｐ関数に入力する、いわゆるガウシアンカーネルなどのパラメータを用いることも可能である。
　本発明は、画像中に含まれる車両や人物などの対象物を自動検出する検出装置や、検出装置をコンピュータに実現するためのプログラムといった用途に適用できる。
　なお、本出願は、日本出願番号２００９－０２２８９８に基づく優先権を主張するものであり、日本出願番号２００９－０２２８９８における開示内容は引用により本出願に組み込まれる。
　１　データ入力部
　２　特徴抽出部
　３　特徴選択部
　４　識別部
　５　結果出力部
　６　特徴選択表
　７　特徴選択表作成部
　８　認識辞書作成部
　９　認識辞書
　８１　参照ベクトル候補設定部
　８２　追加特徴候補選択部
　８３　損失計算部
　８４　決定部
　８５　ＦＲＲ計算部

Claims (18)

  1. 　入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成する特徴抽出部と、
    　前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成する、特徴選択部と、
    　前記ｍ次元特徴ベクトルを、複数のクラスの各々についてｍ次元参照ベクトルを示す認識辞書と照合することにより、前記入力ベクトルが属するクラスを識別する識別部と、
    　前記特徴選択表を作成する特徴選択表作成部と、
    　前記認識辞書を作成する認識辞書作成部と、
    を具備し、
    　前記特徴選択表作成部は、複数の優先順位に対して、一つずつ順番に追加特徴を対応付けることによって、前記特徴選択表を作成し、
    　前記認識辞書作成部は、ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる前記追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元参照ベクトルとを決定し、前記ｐを「ｐ＋１＝ｍ」となるまでインクリメントすることにより、前記ｍ次元参照ベクトルを決定する
    パターン認識装置。
  2. 　請求項１に記載されたパターン認識装置であって、
    　前記認識辞書作成部は、
    　　前記各クラスについて前記（ｐ＋１）次元参照ベクトルの候補を設定する参照ベクトル候補設定部と、
    　　前記ｎ個の特徴のうちで優先順位が対応付けられていない前記追加特徴候補群の中から、追加特徴候補を選択する追加特徴候補選択部と、
    　　前記特徴選択表として前記（ｐ＋１）番目の優先順位に前記追加特徴候補が追加されたときの表が用いられ、且つ、参照ベクトルとして前記（ｐ＋１）次元参照ベクトル候補が用いられたときの条件で、前記損失Ｒを計算する損失計算部と、
    　　前記損失Ｒが最小となるように、前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトル候補を探索し、探索結果を前記追加特徴及び前記（ｐ＋１）次元参照ベクトルに決定する決定部と、を備える
    パターン認識装置。
  3. 　請求項２に記載されたパターン認識装置であって、
    　前記決定部は、前記（ｐ＋１）次元参照ベクトルの候補を探索する際に、前記（ｐ＋１）次元参照ベクトルの候補に含まれる（ｐ＋１）個の特徴の全てについて、要素値を探索する
    パターン認識装置。
  4. 　請求項２に記載されたパターン認識装置であって、
    　前記認識辞書作成部は、
    　　前記複数のクラスから予め設定される設定クラスに属する前記入力データが、前記設定クラスとは別のクラスに識別される確率を、ＦＲＲ（ｆａｌｓｅ　ｒｅｊｅｃｔ　ｒａｔｅ）として計算する、ＦＲＲ計算部を備え、
    　前記決定部は、前記ＦＲＲ計算部により計算されるＦＲＲが予め設定された目標値ＦＲＲ＊以下となる条件の下で、前記損失Ｒが最小となるように、前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトル候補を探索する
    パターン認識装置。
  5. 　請求項４に記載されたパターン認識装置であって、
    　前記決定部は、前記（ｐ＋１）次元参照ベクトル候補を探索するにあたり、優先順位が１番目からｐ番目までの特徴の値をｐ次元参照ベクトルと同じ値に固定し、前記追加特徴候補の要素値だけを探索する
    パターン認識装置。
  6. 　請求項４又は５に記載されたパターン認識装置であって、
    　前記識別部は、
    　　前記ｍ次元特徴ベクトルにおいて優先順位がｋ（ｋは１～ｍ）番目の特徴の要素値ｘ（ｋ）を、前記各クラスの参照ベクトルにおけるｋ番目の特徴の要素値ｙ（ｋ）と比較し、
    　　前記ｘ（ｋ）が前記設定クラスとは別の非設定クラスの前記ｙ（ｋ）に最も類似していたときに、前記入力データを棄却し、
    　　１番目からｍ番目の全ての特徴について、前記ｘ（ｋ）が前記設定クラスの前記ｙ（ｋ）に最も類似していた場合に、前記ｎ次元特徴ベクトルが属するクラスが前記設定クラスであると識別する
    パターン認識装置。
  7. 　入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成するステップと、
    　前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成するステップと、
    　前記ｍ次元特徴ベクトルを、参照ベクトルを含む認識辞書と比較して、前記入力データベクトルが属するクラスを識別するステップと、
    　前記特徴選択表を作成するステップと、
    　前記認識辞書を作成するステップと、
    を具備し、
    　前記特徴選択表を作成するステップは、
    　　前記ｍ個の特徴のそれぞれに対し、優先順位の順番で、一つづつ優先順位を対応付けることによって、前記特徴選択表を作成するステップを備え、
    　前記認識辞書を作成するステップは、
    　　ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定するステップと、
    　　前記ｐを「ｐ＋１＝ｍ」となるまでインクリメントすることにより、前記ｍ次元参照ベクトルを決定するステップとを備える
    パターン認識方法。
  8. 　請求項７に記載されたパターン認識方法であって、
    　前記認識辞書を作成するステップは、
    　　前記各クラスについて（ｐ＋１）次元参照ベクトルの候補を設定するステップと、
    　　前記ｎ個の特徴のうちで優先順位が対応付けられていない追加特徴候補群の中から、追加特徴候補を設定するステップと、
    　　前記（ｐ＋１）番目の優先順位に前記追加特徴候補が追加され、且つ、前記参照ベクトルとして前記（ｐ＋１）次元参照ベクトル候補が採用されたときの前記損失Ｒを計算するステップと、
    　　前記損失Ｒが最小となるように前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトルの候補を探索するステップと、
    　　前記探索するステップにおける探索結果を前記追加特徴及び前記（ｐ＋１）次元参照ベクトルとして決定するステップとを備える
    パターン認識方法。
  9. 　請求項８に記載されたパターン認識方法であって、
    　前記決定するステップは、前記（ｐ＋１）次元参照ベクトルの候補を探索する際に、前記（ｐ＋１）次元参照ベクトルの候補に含まれる（ｐ＋１）個の特徴の全てについて、要素値を探索するステップを含んでいる
    パターン認識方法。
  10. 　請求項８に記載されたパターン認識方法であって、
    　前記認識辞書を作成するステップは、
    　　前記複数のクラスから予め設定される設定クラスに属する前記入力データが、前記設定クラスとは別のクラスに識別される確率を、ＦＲＲ（ｆａｌｓｅ　ｒｅｊｅｃｔ　ｒａｔｅ）として計算するステップを含み、
    　前記決定するステップは、前記ＦＲＲが予め設定された目標値ＦＲＲ＊以下となる条件の下で、前記損失Ｒが最小となるように、前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトル候補を探索するステップを含んでいる
    パターン認識方法。
  11. 　請求項１０に記載されたパターン認識方法であって、
    　前記決定するステップは、前記（ｐ＋１）次元参照ベクトル候補を探索するにあたり、１番目からｐ番目までの特徴の値をｐ次元参照ベクトルにおける値と同じ値に固定し、（ｐ＋１）番目の特徴の値だけを変更するステップを含んでいる
    パターン認識方法。
  12. 　請求項１０又は１１に記載されたパターン認識方法であって、
    　前記識別するステップは、
    　　前記ｍ次元特徴ベクトルにおいて優先順位がｋ（ｋは１～ｍ）番目の特徴の値ｘ（ｋ）を、前記各クラスの参照ベクトルにおけるｋ番目の特徴の値ｙ（ｋ）と比較するステップと、
    　　前記ｘ（ｋ）が前記設定クラスとは別の非設定クラスの前記ｙ（ｋ）に最も類似していたときに、前記入力データを棄却するステップと、
    　　１番目からｍ番目の全ての特徴について、前記ｘ（ｋ）が前記設定クラスの前記ｙ（ｋ）に最も類似していた場合に、前記ｎ次元特徴ベクトルが属するクラスを前記設定クラスに識別するステップとを含んでいる
    パターン認識方法。
  13. 　入力データからｎ（ｎは自然数）個の特徴を抽出し、ｎ次元特徴ベクトルを生成するステップと、
    　前記ｎ次元特徴ベクトルから、特徴と優先順位との関係を示す特徴選択表に基づいて、ｍ（ｍ＜ｎ）個の特徴を選択し、ｍ次元特徴ベクトルを生成するステップと、
    　前記ｍ次元特徴ベクトルを、参照ベクトルを含む認識辞書と比較して、前記入力データベクトルが属するクラスを識別するステップと、
    　前記特徴選択表を作成するステップと、
    　前記認識辞書を作成するステップと、
    を具備し、
    　前記特徴選択表を作成するステップは、
    　　前記ｍ個の特徴のそれぞれに対し、優先順位の順番で、一つづつ優先順位を対応付けることによって、前記特徴選択表を作成するステップを備え、
    　前記認識辞書を作成するステップは、
    　　ｐ（ｐは０以上の整数）番目の優先順位にまで前記各特徴が対応付けられているときに、前記入力データが異なるクラスに識別される危険度を示す損失Ｒが最小となるように、（ｐ＋１）番目の優先順位に対応付けられる追加特徴と、（ｐ＋１）個の特徴を有する（ｐ＋１）次元の参照ベクトルとを決定するステップと、
    　　前記ｐを「ｐ＋１＝ｍ」となるまでインクリメントすることにより、前記ｍ次元参照ベクトルを決定するステップとを備える
    パターン認識方法をコンピュータに実行させるための、パターン認識プログラム。
  14. 　請求項１３に記載されたパターン認識プログラムであって、
    　前記認識辞書を作成するステップは、
    　　前記各クラスについて（ｐ＋１）次元参照ベクトルの候補を設定するステップと、
    　　前記ｎ個の特徴のうちで優先順位が対応付けられていない追加特徴候補群の中から、追加特徴候補を設定するステップと、
    　　前記（ｐ＋１）番目の優先順位に前記追加特徴候補が追加され、且つ、前記参照ベクトルとして前記（ｐ＋１）次元参照ベクトル候補が採用されたときの前記損失Ｒを計算するステップと、
    　　前記損失Ｒが最小となるように前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトルの候補を探索するステップと、
    　　前記探索するステップにおける探索結果を前記追加特徴及び前記（ｐ＋１）次元参照ベクトルとして決定するステップとを備える
    パターン認識プログラム。
  15. 　請求項１４に記載されたパターン認識プログラムであって、
    　前記決定するステップは、前記（ｐ＋１）次元参照ベクトルの候補を探索する際に、前記（ｐ＋１）次元参照ベクトルの候補に含まれる（ｐ＋１）個の特徴の全てについて、要素値を探索するステップを含んでいる
    パターン認識プログラム。
  16. 　請求項１４に記載されたパターン認識プログラムであって、
    　前記認識辞書を作成するステップは、
    　　前記複数のクラスから予め設定される設定クラスに属する前記入力データが、前記設定クラスとは別のクラスに識別される確率を、ＦＲＲ（ｆａｌｓｅ　ｒｅｊｅｃｔ　ｒａｔｅ）として計算するステップを含み、
    　前記決定するステップは、前記ＦＲＲが予め設定された目標値ＦＲＲ＊以下となる条件の下で、前記損失Ｒが最小となるように、前記追加特徴候補及び前記（ｐ＋１）次元参照ベクトル候補を探索するステップを含んでいる
    パターン認識プログラム。
  17. 　請求項１６に記載されたパターン認識プログラムであって、
    　前記決定するステップは、前記（ｐ＋１）次元参照ベクトル候補を探索するにあたり、１番目からｐ番目までの特徴の値をｐ次元参照ベクトルにおける値と同じ値に固定し、（ｐ＋１）番目の特徴の値だけを変更するステップを含んでいる
    パターン認識プログラム。
  18. 　請求項１６又は１７に記載されたパターン認識プログラムであって、
    　前記識別するステップは、
    　　前記ｍ次元特徴ベクトルにおいて優先順位がｋ（ｋは１～ｍ）番目の特徴の値ｘ（ｋ）を、前記各クラスの参照ベクトルにおけるｋ番目の特徴の値ｙ（ｋ）と比較するステップと、
    　　前記ｘ（ｋ）が前記設定クラスとは別の非設定クラスの前記ｙ（ｋ）に最も類似していたときに、前記入力データを棄却するステップと、
    　　１番目からｍ番目の全ての特徴について、前記ｘ（ｋ）が前記設定クラスの前記ｙ（ｋ）に最も類似していた場合に、前記ｎ次元特徴ベクトルが属するクラスを前記設定クラスに識別するステップとを含んでいる
    パターン認識プログラム。
PCT/JP2010/051444 2009-02-03 2010-02-02 パターン認識装置、パターン認識方法およびパターン認識プログラム WO2010090189A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US13/147,451 US8612370B2 (en) 2009-02-03 2010-02-02 Pattern recognition device, pattern recognition method, and pattern recognition program
JP2010549476A JP5408143B2 (ja) 2009-02-03 2010-02-02 パターン認識装置、パターン認識方法およびパターン認識プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009022898 2009-02-03
JP2009-022898 2009-02-03

Publications (1)

Publication Number Publication Date
WO2010090189A1 true WO2010090189A1 (ja) 2010-08-12

Family

ID=42542083

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/051444 WO2010090189A1 (ja) 2009-02-03 2010-02-02 パターン認識装置、パターン認識方法およびパターン認識プログラム

Country Status (3)

Country Link
US (1) US8612370B2 (ja)
JP (1) JP5408143B2 (ja)
WO (1) WO2010090189A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8965111B2 (en) 2010-09-09 2015-02-24 Nec Corporation Learning apparatus, a learning system, learning method and a learning program for object discrimination
JP6312913B1 (ja) * 2017-09-01 2018-04-18 ヤフー株式会社 情報処理装置、情報処理方法、および情報処理プログラム

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8983170B2 (en) * 2008-01-18 2015-03-17 Mitek Systems, Inc. Systems and methods for developing and verifying image processing standards for mobile deposit
US9842331B2 (en) 2008-01-18 2017-12-12 Mitek Systems, Inc. Systems and methods for mobile image capture and processing of checks
US10528925B2 (en) 2008-01-18 2020-01-07 Mitek Systems, Inc. Systems and methods for mobile automated clearing house enrollment
US10891475B2 (en) 2010-05-12 2021-01-12 Mitek Systems, Inc. Systems and methods for enrollment and identity management using mobile imaging
US10152533B2 (en) 2012-10-18 2018-12-11 Thomson Reuters Global Resources Unlimited Company System, method and interface for providing a search result using segment constraints
US9536139B2 (en) 2013-03-15 2017-01-03 Mitek Systems, Inc. Systems and methods for assessing standards for mobile image quality
JP2014215877A (ja) * 2013-04-26 2014-11-17 株式会社デンソー 物体検出装置
JP6904249B2 (ja) * 2015-03-19 2021-07-14 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法およびプログラム
TWI629675B (zh) * 2017-08-18 2018-07-11 財團法人工業技術研究院 影像辨識系統及其資訊顯示方法
US11126199B2 (en) * 2018-04-16 2021-09-21 Baidu Usa Llc Learning based speed planner for autonomous driving vehicles
US11393272B2 (en) 2019-09-25 2022-07-19 Mitek Systems, Inc. Systems and methods for updating an image registry for use in fraud detection related to financial documents
JP7297704B2 (ja) 2020-03-17 2023-06-26 株式会社東芝 照合装置、照合方法およびプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05101186A (ja) * 1991-10-08 1993-04-23 Sumitomo Cement Co Ltd 光学的パターン識別方法
JP2001184509A (ja) * 1999-12-24 2001-07-06 Nec Corp パターン認識装置及び方法並びに記録媒体
JP2008217589A (ja) * 2007-03-06 2008-09-18 Toshiba Corp 学習装置及びパターン認識装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05101186A (ja) * 1991-10-08 1993-04-23 Sumitomo Cement Co Ltd 光学的パターン識別方法
JP2001184509A (ja) * 1999-12-24 2001-07-06 Nec Corp パターン認識装置及び方法並びに記録媒体
JP2008217589A (ja) * 2007-03-06 2008-09-18 Toshiba Corp 学習装置及びパターン認識装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8965111B2 (en) 2010-09-09 2015-02-24 Nec Corporation Learning apparatus, a learning system, learning method and a learning program for object discrimination
JP6312913B1 (ja) * 2017-09-01 2018-04-18 ヤフー株式会社 情報処理装置、情報処理方法、および情報処理プログラム

Also Published As

Publication number Publication date
US20110289028A1 (en) 2011-11-24
JPWO2010090189A1 (ja) 2012-08-09
US8612370B2 (en) 2013-12-17
JP5408143B2 (ja) 2014-02-05

Similar Documents

Publication Publication Date Title
JP5408143B2 (ja) パターン認識装置、パターン認識方法およびパターン認識プログラム
Einsidler et al. A deep learning approach to target recognition in side-scan sonar imagery
CN110852349B (zh) 一种图像处理方法、检测方法、相关设备及存储介质
EP3355244A1 (en) Data fusion and classification with imbalanced datasets
US11537930B2 (en) Information processing device, information processing method, and program
US9600745B2 (en) Image recognition system, image recognition method, and non-transitory computer readable medium storing image recognition program
US8761510B2 (en) Object-centric spatial pooling for image classification
US11450023B2 (en) Method and apparatus for detecting anchor-free object based on deep learning
US10762389B2 (en) Methods and systems of segmentation of a document
CN111126482A (zh) 一种基于多分类器级联模型的遥感影像自动分类方法
CN114372968B (zh) 结合注意力机制与自适应记忆性融合网络的瑕疵检测方法
JP2006155594A (ja) パターン認識装置、パターン認識方法
Gonzalez-Diaz et al. Neighborhood matching for image retrieval
EP3526728B1 (en) System and method for object recognition based estimation of planogram compliance
JP2016151805A (ja) オブジェクト検出装置、オブジェクト検出方法、及びプログラム
Khaustov et al. Algorithm for optical handwritten characters recognition based on structural components extraction
CN116863250A (zh) 一种涉及多模态未知类识别的开放场景目标检测方法
Boillet et al. Confidence estimation for object detection in document images
US20230206589A1 (en) Apparatus and method for detecting object using object boundary localization uncertainty aware network and attention module
Gladence et al. A novel technique for multi-class ordinal regression-APDC
CN111931767B (zh) 一种基于图片信息度的多模型目标检测方法、装置、系统及存储介质
KR102295619B1 (ko) 소나영상에서 사전형상 판별을 통한 표적식별 고속화 방법
CN115393388A (zh) 一种基于位置不确定性估计的单目标跟踪方法
CN114764886B (zh) 基于cfar指导的双流ssd sar图像目标检测方法
Qin et al. Target tracking method based on interference detection

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10738521

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2010549476

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 13147451

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 10738521

Country of ref document: EP

Kind code of ref document: A1