JP2006202135A - Device, method, and program for detecting pattern, computer readable recording medium, and apparatus for recording - Google Patents
Device, method, and program for detecting pattern, computer readable recording medium, and apparatus for recording Download PDFInfo
- Publication number
- JP2006202135A JP2006202135A JP2005014580A JP2005014580A JP2006202135A JP 2006202135 A JP2006202135 A JP 2006202135A JP 2005014580 A JP2005014580 A JP 2005014580A JP 2005014580 A JP2005014580 A JP 2005014580A JP 2006202135 A JP2006202135 A JP 2006202135A
- Authority
- JP
- Japan
- Prior art keywords
- class
- pattern
- variance
- eigenvector
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
Abstract
Description
本発明は、例えばパターンサーチやパターンマッチング、位置検出等に利用される画像、音声等の入力パターンのデータ処理に関する技術であって、予め登録された所定の登録データを、サーチの対象となる入力データ中から検索するパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器に関する。 The present invention relates to data processing of input patterns such as images and sounds used for, for example, pattern search, pattern matching, position detection, etc., and predetermined registered data registered in advance is input to be searched. The present invention relates to a pattern detection apparatus, a pattern detection method, a pattern detection program, a computer-readable recording medium, and a recorded device for searching from data.
特定の画像から得られる特徴パターンに基づき、類似の画像を検索する検索システムや、特徴パターンと入力画像とが同一であるか否かを判別する判定などに画像処理技術が利用されている。画像処理は、例えば個人認証のため顔画像の本人識別や表情分類、硬貨や紙幣などの貨幣の真贋判定、さらには工場における電子部品の製造や実装等の分野での利用が可能である。このような画像パターンの検出に関する手法は様々なものが開発されており、中でも画像データから特徴量を抽出してベクトル解析により判定を行う手法が一般的である。このような特徴量を利用する場合、予め参照データの特徴パターンを登録あるいは学習しておき、入力画像との対比を行って判定や認識、検索などを行う。例えば、予め特徴パターンから特徴量を抽出しておき、入力画像から取得された特徴量との対比や検索を行う。検索においては、入力画像から抽出した特徴量を特徴パターンの特徴量あるいは辞書を用いてパターンマッチングを行い、ユークリッド距離の近いものを所定の個数選出して、これを入力に対する近傍パターンとする。続いて、近傍パターンから上位のクラスを選択し、これを候補カテゴリーとして、主成分分析などの詳細判定を行う。 An image processing technique is used for a search system that searches for a similar image based on a feature pattern obtained from a specific image, or for determining whether or not a feature pattern and an input image are the same. The image processing can be used in fields such as personal identification of face images and facial expression classification for personal authentication, determination of the authenticity of money such as coins and banknotes, and manufacture and mounting of electronic parts in factories. Various methods related to such image pattern detection have been developed, and among them, a method of extracting a feature amount from image data and performing determination by vector analysis is generally used. When such a feature amount is used, a feature pattern of reference data is registered or learned in advance, and determination, recognition, search, and the like are performed by comparison with an input image. For example, a feature amount is extracted from a feature pattern in advance, and comparison with a feature amount acquired from an input image or a search is performed. In the search, the feature amount extracted from the input image is subjected to pattern matching using the feature amount of the feature pattern or a dictionary, and a predetermined number of features having a close Euclidean distance are selected and set as a neighborhood pattern for the input. Subsequently, an upper class is selected from the neighborhood pattern, and a detailed determination such as principal component analysis is performed using this as a candidate category.
一般に画像データから詳細な特徴量抽出を行う程、正確な検出が可能となるが、その反面必要な計算量やデータ量が膨大となり、要求される仕様も高速、大容量となる。このため、組み込み機器などに実装可能な仕様で、かつ実用に耐え得る精度と速度とを兼ね備えるパターン検索システムが望まれており、この目的での研究が進められている。特に近年、統計的パターン認識手法に関して新たな方法論が多数提案されている。従来の方法としては、主成分分析、判別分析、因子分析などがよく利用されていた(例えば非特許文献1参照)。最近になり、それらの非線形高次元空間への拡張として、カーネル関数に基づく方法が提案されつつある(例えば非特許文献2,3参照)。特に、顔の検出と認識、光の影響の低減化などでそれらの有効性が示されている。 In general, the more detailed feature amount extraction from image data, the more accurate detection becomes possible. However, on the other hand, the necessary calculation amount and data amount become enormous, and the required specifications become high speed and large capacity. For this reason, there is a demand for a pattern search system that has specifications that can be mounted on an embedded device, etc., and that has both accuracy and speed that can withstand practical use, and research for this purpose is underway. In recent years, many new methodologies have been proposed for statistical pattern recognition techniques. As conventional methods, principal component analysis, discriminant analysis, factor analysis, and the like are often used (see, for example, Non-Patent Document 1). Recently, a method based on a kernel function has been proposed as an extension to the nonlinear high-dimensional space (see, for example, Non-Patent Documents 2 and 3). In particular, their effectiveness has been demonstrated by detecting and recognizing faces and reducing the effects of light.
主成分分析は、相互情報量を最大にする線形変換であり、データパターンの分散を最大化するように主成分が求められる。非特許文献4では、主成分分析を利用した顔判別に有効な手法の検討として、固有値顔とフィッシャー顔の比較を行った結果、固有値顔と比較してフィッシャー顔の有効性が報告されている。しかしながら上記では、フィッシャー顔の導出に際して、画像のサイズが大きいためゼロ固有値が多数存在し、直接フィッシャー顔を導出できないため、主成分分析で次元圧縮を行った後に、フィッシャー顔の固有ベクトルを計算する方式となっている。このため、行列演算のための膨大な演算量が必要である。 Principal component analysis is a linear transformation that maximizes the amount of mutual information, and principal components are obtained so as to maximize the dispersion of data patterns. In Non-Patent Document 4, as an examination of an effective technique for face discrimination using principal component analysis, the effectiveness of a Fisher face is reported in comparison with an eigenvalue face as a result of comparison between an eigenvalue face and a Fisher face. . However, in the above, when the Fisher face is derived, there are many zero eigenvalues because the image size is large, and the Fisher face cannot be directly derived. It has become. For this reason, an enormous amount of calculation for matrix calculation is required.
一方、判別分析は、フィッシャー線形判別とも呼ばれ、特徴空間をより次元の小さい部分空間に変換する方法の一つである。この方法では、特徴空間上のクラス(カテゴリー)のパターンの分布から、このクラスを識別するのに最適な1次元軸を求める。例えば、図1に示すクラスC1とC2のパターンを判別する場合、フィッシャー比と呼ばれる(クラス間分散/クラス内分散)を最大とするような座標変換を行って最適なY1軸を求め、このY1軸に射影を行うと(X1、X2は、変換前の軸)、クラスC1、C2を最適に分離することのできる境界(図中、破線で示す)を定めることができる。これに対して、フィッシャー比を最大としない座標変換を行った場合には、Y2軸への射影のようにクラスC1、C2を分離する境界を定めることはできない。つまり、フィッシャーの方法では、異なるクラスのパターンを離し、同一クラスのパターンが固まって分布するように射影することのできる射影軸を決定している。 On the other hand, discriminant analysis is also called Fisher linear discriminant, and is one of the methods for converting a feature space into a subspace with a smaller dimension. In this method, an optimal one-dimensional axis for identifying this class is obtained from the pattern distribution of the class (category) on the feature space. For example, when the patterns of the classes C1 and C2 shown in FIG. 1 are discriminated, coordinate conversion that maximizes the (Fischer ratio) (inter-class variance / intra-class variance) is performed to obtain the optimum Y1 axis, and this Y1 When projection is performed on the axes (X1 and X2 are axes before conversion), boundaries (indicated by broken lines in the figure) that can optimally separate the classes C1 and C2 can be determined. On the other hand, when coordinate transformation that does not maximize the Fisher ratio is performed, it is not possible to determine a boundary that separates the classes C1 and C2 as in the projection onto the Y2 axis. That is, according to the Fisher method, projection axes that can be projected so that patterns of different classes are separated and patterns of the same class are fixedly distributed are determined.
フィッシャー線形判別は、データのクラス間分散の最大化とクラス内分散の最小化を同時に実現する固有ベクトルを求める。したがって、クラス内分散の共分散行列の逆行列が必要となる。画像信号を扱う場合など、データ数よりも画像の次元が極端に大きいため、ゼロ固有値が多数存在し、逆行列の計算が困難となる。したがって、多くの場合は上記と同様に、主成分分析による次元圧縮を前処理として利用せざるを得ないという問題があった。 Fisher linear discrimination obtains eigenvectors that simultaneously realize maximization of interclass variance of data and minimization of intraclass variance. Therefore, an inverse matrix of the covariance matrix with intraclass variance is required. For example, when dealing with image signals, the dimension of the image is extremely larger than the number of data, so there are many zero eigenvalues, making it difficult to calculate the inverse matrix. Therefore, in many cases, like the above, there has been a problem that dimensional compression by principal component analysis must be used as preprocessing.
一方、主成分分析の膨大な行列演算を低減するために、簡易な反復演算法がいくつか提案されている。ニューラルネットワークの分野では、Sanger(非特許文献5)、Kung(非特許文献6)による方法が有名である。またこれら以外にも、より簡単なSimple−PCAがPartridgeらにより提案されている(非特許文献7)。このSimple−PCAでは、行列演算は必要でなく、簡単な反復法だけで主成分ベクトルを第一主成分から順番に求めていくことが可能な近似アルゴリズムである。このようなSimple−PCAは、幾つもの応用でその有効性が示されており、特に顔情報処理では次元圧縮よりも特徴抽出としての利用が多い。しかしながら、Simple−PCAは主成分ベクトルに基づいた特徴生成であるため、クラス間の分布は全く考慮しておらず、必ずしもパターン分類に適した特徴生成器となっていないという問題がある。 On the other hand, several simple iterative calculation methods have been proposed in order to reduce the enormous matrix calculation of principal component analysis. In the field of neural networks, methods by Sanger (Non-patent Document 5) and Kung (Non-patent Document 6) are well known. Besides these, simpler Simple-PCA has been proposed by Partridge et al. (Non-patent Document 7). This Simple-PCA is an approximation algorithm that does not require a matrix operation and can obtain principal component vectors in order from the first principal component only by a simple iterative method. Such Simple-PCA has been shown to be effective in various applications, and in face information processing, it is more frequently used as feature extraction than dimensional compression. However, since Simple-PCA is a feature generation based on the principal component vector, there is a problem that the distribution between classes is not considered at all, and the feature generator is not necessarily suitable for pattern classification.
一方、フィッシャーの線形判別分析は、主成分分析よりも顔情報処理等のパターン分類において特徴抽出機能が高いと言われている。この判別分析の反復型アルゴリズムとしては、特許文献1に示す方法が提案されている。しかしながら、この方法では勾配法に基づいてアルゴリズムを導出しているため、クラス内分散とクラス間分散の逐次計算を含めた複雑なアルゴリズムとなっており、実用的ではないという問題点があった。
本発明は、このような問題点に鑑みてなされたものである。本発明の目的は、判別分析の行列演算を利用せず、簡単な近似アルゴリズムの反復演算で固有ベクトルを順次計算可能なパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器を提供することにある。 The present invention has been made in view of such problems. An object of the present invention is to provide a pattern detection apparatus, a pattern detection method, a pattern detection program, a computer-readable recording medium, and a computer program that can sequentially calculate eigenvectors by iterative calculation of a simple approximation algorithm without using matrix calculation of discriminant analysis, and To provide recorded equipment.
上記目的を実現するために、本発明のパターン検出装置は、フィッシャーの線形判別法に基づき、入力パターンの特徴量を抽出して、予め登録された参照データの特徴パターンが属する複数のクラスのいずれに属するかを識別するためのパターン検出装置であって、入力パターンを入力するための入力部と、入力部から入力された入力パターンより、特徴量を抽出するための特徴量抽出部と、予め登録された登録データの特徴パターンを保持するための特徴パターン保持部と、特徴量抽出部で抽出された入力パターンの特徴量に基づいて、クラス内分散の最小化とクラス間分散の最大化を行う固有ベクトルを算出し、該固有ベクトルと特徴パターン保持部で保持された特徴パターンとを対比して、パターン検出を実行するためのパターン検出実行部と、パターン検出実行部のパターン検出結果を出力するための出力部とを備える。パターン検出実行部は、クラス間分散を最大化させるために各クラスのデータの平均値ベクトルを求め、次式 In order to achieve the above object, the pattern detection apparatus of the present invention extracts a feature amount of an input pattern based on Fisher's linear discriminant method, and selects any of a plurality of classes to which a pre-registered reference data feature pattern belongs. A pattern detection device for identifying whether or not an input pattern is input, an input unit for inputting an input pattern, a feature amount extraction unit for extracting a feature amount from the input pattern input from the input unit, Based on the feature amount of the input pattern extracted by the feature pattern holding unit and the feature amount extraction unit to hold the feature pattern of the registered data registered, the intra-class variance and the inter-class variance are maximized Pattern detection for performing pattern detection by calculating the eigenvector to be performed and comparing the eigenvector with the feature pattern held in the feature pattern holding unit Comprising a Gyobu, and an output unit for outputting the pattern detection result of the pattern detection execution unit. The pattern detection execution unit calculates the average value vector of the data of each class in order to maximize the variance between classes, and
また、本発明のパターン検出方法は、フィッシャーの線形判別法に基づき、入力パターンの特徴量を抽出して属するクラスを識別するパターン検出方法であって、入力パターンの特徴量に基づいて、クラス内分散の最小化を行う工程と、クラス間分散の最大化を行う工程とを有し、クラス間分散の最大化を行う工程が、各クラスのデータの平均値ベクトルを求め、次式 The pattern detection method of the present invention is a pattern detection method for identifying a class to which an input pattern feature amount is extracted based on Fisher's linear discriminating method, and based on the input pattern feature amount. The step of minimizing the variance and the step of maximizing the variance between classes, the step of maximizing the variance between classes obtains an average value vector of the data of each class, and
また、本発明のパターン検出プログラムは、フィッシャーの線形判別法に基づき、入力パターンの特徴量を抽出して属するクラスを識別するパターン検出プログラムであって、コンピュータに、入力パターンの特徴量に基づいて、クラス内分散の最小化を行う機能と、クラス間分散の最大化を行う機能とを実現させ、クラス間分散の最大化を行う機能は、各クラスのデータの平均値ベクトルを求め、次式 The pattern detection program of the present invention is a pattern detection program for extracting a feature quantity of an input pattern and identifying a class to which the pattern belongs based on Fisher's linear discriminating method. The function for minimizing the intra-class variance and the function for maximizing the inter-class variance is the function that maximizes the inter-class variance.
また本発明のコンピュータで読み取り可能な記録媒体又は記録した機器は、上記プログラムを格納するものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blue−ray、HD DVD(AOD)等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録した機器には、上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラム・ソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエア・モジュールとが混在する形式で実現してもよい。 The computer-readable recording medium or the recorded device of the present invention stores the above program. Recording media include CD-ROM, CD-R, CD-RW, flexible disk, magnetic tape, MO, DVD-ROM, DVD-RAM, DVD-R, DVD + R, DVD-RW, DVD + RW, Blue-ray, HD A medium that can store programs such as a magnetic disk such as a DVD (AOD), an optical disk, a magneto-optical disk, a semiconductor memory, and the like is included. The program includes a program distributed in a download manner through a network line such as the Internet, in addition to a program stored and distributed in the recording medium. Further, the recorded devices include general-purpose or dedicated devices in which the program is implemented in a state where it can be executed in the form of software, firmware, or the like. Furthermore, each process and function included in the program may be executed by program software that can be executed by a computer, or each part of the process or function may be executed by hardware such as a predetermined gate array (FPGA, ASIC), or program software. It may be realized in the form of a mixture of hardware and partial hardware modules that realize some elements of hardware.
本発明のパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器によれば、簡単な繰り返し演算でフィッシャーの判別分析の固有ベクトルを順次計算することが可能となり、このため演算処理の負荷を低減して組み込み機器などへの実装を容易にでき、処理速度の精度を両立させた実用レベルのパターン検出が実現できる。 According to the pattern detection apparatus, pattern detection method, pattern detection program, computer-readable recording medium, and recorded apparatus of the present invention, it becomes possible to sequentially calculate the eigenvectors of Fisher's discriminant analysis with a simple iteration. For this reason, it is possible to reduce the processing load and to easily mount it on an embedded device or the like, and it is possible to realize a practical level pattern detection that achieves both processing speed accuracy.
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するためのパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器を例示するものであって、本発明はパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the embodiments described below exemplify a pattern detection device, a pattern detection method, a pattern detection program, a computer-readable recording medium, and a recorded device for embodying the technical idea of the present invention. Thus, the present invention does not specify a pattern detection apparatus, a pattern detection method, a pattern detection program, a computer-readable recording medium, and a recorded device as follows. Further, the present specification by no means specifies the members shown in the claims to the members of the embodiments. In particular, the dimensions, materials, shapes, relative arrangements, and the like of the component parts described in the embodiments are not intended to limit the scope of the present invention unless otherwise specified, and are merely explanations. It's just an example. Note that the size, positional relationship, and the like of the members shown in each drawing may be exaggerated for clarity of explanation. Furthermore, in the following description, the same name and symbol indicate the same or the same members, and detailed description thereof will be omitted as appropriate. Furthermore, each element constituting the present invention may be configured such that a plurality of elements are constituted by the same member and the plurality of elements are shared by one member, and conversely, the function of one member is constituted by a plurality of members. It can also be realized by sharing.
本明細書においてパターン検出装置とこれに接続される操作、制御、入出力、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS−232x、RS−422、RS−423、RS−485、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.1x、OFDM方式等の無線LANやBluetooth等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらに認識対象の音声データや認識後の音声データの保存や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。 In this specification, the connection between the pattern detection device and a computer, printer, external storage device and other peripheral devices for operation, control, input / output, display, and other processing connected thereto is, for example, IEEE 1394, RS- 232x, RS-422, RS-423, RS-485, serial connection such as USB, parallel connection, or electrically connected via a network such as 10BASE-T, 100BASE-TX, 1000BASE-T . The connection is not limited to a physical connection using a wire, but may be a wireless connection using a wireless LAN such as IEEE 802.1x or OFDM, radio waves such as Bluetooth, infrared rays, optical communication, or the like. Furthermore, a memory card, a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or the like can be used as a recording medium for storing voice data to be recognized, voice data after recognition, saving settings, and the like.
図2に、本発明の一実施の形態に係るパターン検出装置のブロック図を示す。図2に示すパターン検出装置100は、入力パターンを入力するための入力部10と、パターン検出を実行するための演算部20と、パターン検出結果を出力するための出力部30を備える。演算部20は、入力パターンの特徴量を抽出するための特徴量抽出部22と、予め登録された登録データの特徴パターンを保持するための特徴パターン保持部24と、入力パターンに基づいて得られた特徴と特徴パターンとを対比してパターン検出を実行するためのパターン検出実行部26とを備える。パターン検出実行部26は、入力パターンに基づいて、クラス内分散の最小化とクラス間分散の最大化を行う固有ベクトルを算出し、該固有ベクトルと入力パターンとの積和により抽出された特徴と、特徴パターン保持部で保持された特徴パターンとを対比して、パターン検出を実行する。演算部20は、DSPなどのICやLSIで構成できる。また、上記の例では一の演算部20で特徴量抽出部22、特徴パターン保持部24、パターン検出実行部26の機能を実現しているが、別部材で構成することも可能であることはいうまでもない。 FIG. 2 shows a block diagram of a pattern detection apparatus according to an embodiment of the present invention. A pattern detection apparatus 100 shown in FIG. 2 includes an input unit 10 for inputting an input pattern, a calculation unit 20 for executing pattern detection, and an output unit 30 for outputting a pattern detection result. The calculation unit 20 is obtained based on the input pattern based on the feature amount extraction unit 22 for extracting the feature amount of the input pattern, the feature pattern holding unit 24 for holding the feature pattern of the registered data registered in advance. A pattern detection execution unit 26 for performing pattern detection by comparing the feature and the feature pattern. The pattern detection execution unit 26 calculates an eigenvector for minimizing intra-class variance and maximizing inter-class variance based on the input pattern, the feature extracted by the product sum of the eigenvector and the input pattern, and the feature The pattern detection is executed by comparing with the feature pattern held by the pattern holding unit. The arithmetic unit 20 can be configured by an IC or LSI such as a DSP. In the above example, the function of the feature amount extraction unit 22, the feature pattern holding unit 24, and the pattern detection execution unit 26 is realized by one arithmetic unit 20, but it may be configured by another member. Needless to say.
また、図3にパターン検出を実行する手順の流れを示す。この図に示すように、前処理として予め検出あるいは検索したい参照画像を、画像データベースなどから取得し、固有ベクトルを演算して特徴量を抽出する。この作業は、パターン検出装置で実行させる他、サーバマシンやホストコンピュータなど処理能力の高い別の装置で予め実行しておき、演算結果として固有ベクトルや特徴量のみをパターン検出装置に転送する構成としてもよい。また、処理能力の低いパターン検出装置であっても、パターン検出の実行前に固有ベクトル演算等の処理を済ませておくことができる。言い換えるとこの前処理はリアルタイム処理する必要がないため、この部分での処理量や要処理時間は問題とならない。 FIG. 3 shows a flow of a procedure for executing pattern detection. As shown in this figure, a reference image to be detected or retrieved in advance as preprocessing is acquired from an image database or the like, and eigenvectors are calculated to extract feature amounts. In addition to being executed by the pattern detection device, this operation may be executed in advance by another device having a high processing capacity such as a server machine or a host computer, and only eigenvectors or feature quantities may be transferred to the pattern detection device as a calculation result. Good. Further, even a pattern detection device with a low processing capability can perform processing such as eigenvector calculation before pattern detection. In other words, since this pre-processing does not need to be performed in real time, the processing amount and processing time in this part do not matter.
一方、パターン検出のシステム構築後には、センサなどの入力部10からパターン検出の対象となる入力画像をパターン検出装置に取り込む。取得されたデータは、必要に応じて減色や2値化、所定のデータサイズへの切り出しなどの前処理を行う。そして演算部20の特徴量抽出部22にて後述するS−FLDに従い固有ベクトルで入力画像データの特徴抽出を行う。さらに、参照画像の特徴量と、入力画像の特徴量とを対比して、パターン検出実行部26でパターン検出を行い、パターン検出結果を出力部30から出力する。
(S−FLD)
On the other hand, after the pattern detection system is constructed, an input image to be subjected to pattern detection is taken into the pattern detection device from the input unit 10 such as a sensor. The acquired data is subjected to preprocessing such as color reduction, binarization, and extraction to a predetermined data size as necessary. Then, the feature amount extraction unit 22 of the calculation unit 20 performs feature extraction of the input image data with an eigenvector according to S-FLD described later. Further, the pattern detection execution unit 26 performs pattern detection by comparing the feature amount of the reference image with the feature amount of the input image, and outputs the pattern detection result from the output unit 30.
(S-FLD)
本発明の実施の形態に係るパターン検出装置の一例として、単純化したフィッシャーの線形判別分析(S−FLD)を適用したパターン検出装置を以下説明する。S−FLDは、フィッシャーの線形判別分析において、その判別分析の行列演算を利用せず、簡単な近似アルゴリズムの反復演算で固有ベクトルを順次計算していくアルゴリズムである。この手法では、クラス間分散の最大化とクラス内分散の最小化を別々の反復式で表現することにより、簡単な繰り返し演算でフィッシャーの判別分析の固有ベクトルを順次計算することが可能となる。特に、クラス間分散の最大化とクラス内分散の最小化の幾何学的意味を考慮して近似アルゴリズムを導出しているため、収束までの反復回数も比較的少なくできる。 As an example of a pattern detection apparatus according to an embodiment of the present invention, a pattern detection apparatus to which a simplified Fisher linear discriminant analysis (S-FLD) is applied will be described below. S-FLD is an algorithm that sequentially calculates eigenvectors by iterative calculation of a simple approximation algorithm without using matrix calculation of the discriminant analysis in Fisher's linear discriminant analysis. In this method, it is possible to sequentially calculate the eigenvectors of Fisher's discriminant analysis by a simple iterative expression by expressing the maximization of interclass variance and the minimization of intraclass variance by separate iterative expressions. In particular, since the approximation algorithm is derived in consideration of the geometric meaning of maximizing interclass variance and minimizing intraclass variance, the number of iterations until convergence can be made relatively small.
主成分分析の近似アルゴリズムは多数提案されている。ここでは説明のため、最も簡単な単純主成分分析(Simple-Principal Component Analysis、以下「Simple−PCA」、「SPCA」等と呼ぶ。)をまず説明し、次に本実施の形態で用いたS−FLDを説明する。
(Simple−PCA)
Many approximation algorithms for principal component analysis have been proposed. Here, for the sake of explanation, the simplest principal component analysis (Simple-Principal Component Analysis, hereinafter referred to as “Simple-PCA”, “SPCA”, etc.) will be described first, and then the S used in the present embodiment. -Describe FLD.
(Simple-PCA)
Simple−PCA(SPCA)はクラス間分散を最大にする固有ベクトルを順番に求めていくアルゴリズムである。ここで、学習に用いるデータを下記の数43に示すm枚のN×N次元の濃淡値ベクトルとする。 Simple-PCA (SPCA) is an algorithm for sequentially obtaining eigenvectors that maximize interclass variance. Here, it is assumed that the data used for learning is m N × N-dimensional grayscale value vectors represented by the following Equation 43.
上式のαTNは第n主成分ベクトルである。上付きのTは転置を意味する。ただし、SPCAの学習に用いるため、任意の乱数で初期化して利用する。ここでは、その初期ベクトルをaN1とおく。また、k回反復学習後のベクトルをaNkとする。このベクトルを下記の数47と数48で反復修正していくことで固有ベクトルに収束させる。 ΑTN in the above equation is the n-th principal component vector. Superscript T means transposition. However, since it is used for SPCA learning, it is initialized with an arbitrary random number. Here, the initial vector is set to aN1. Also, let aNk be the vector after k iterations. This vector is iteratively corrected by the following equations 47 and 48 to converge to the eigenvector.
図4に、SPCAの原理図を示す。この図において、黒丸は入力データのベクトル位置を示している。またaNkはk回目の反復学習後のベクトルを示している。添え字のnはn番目の固有ベクトルを指し、aNkはn番目の固有ベクトルを求めるためのk回目の学習後のベクトルを意味する。閾値関数としては、次式数47、数48を用いる。 FIG. 4 shows a principle diagram of SPCA. In this figure, black circles indicate vector positions of input data. ANk represents a vector after the k-th iterative learning. The subscript n indicates the nth eigenvector, and aNk indicates the kth learned vector for obtaining the nth eigenvector. As the threshold function, the following equations 47 and 48 are used.
図4において、点線が数47をゼロにする直線(多次元では超平面)である。数5の出力が正であることは、現次点のベクトルaNkの向きと入力信号であるxjの向きが同方向であることを示す。データの分散は、数48のxjでaNk方向成分のノルムの合計値で示される。したがって、入力信号ベクトルの向きだけではなく、ノルムの大きさを含めた形式で加算平均される。具体的には下記に示す演算を繰り返すことになる。 In FIG. 4, the dotted line is a straight line (a hyperplane in multi-dimension) in which Equation 47 is zero. The positive output of Equation 5 indicates that the direction of the vector aNk at the current point and the direction of the input signal xj are the same direction. The variance of the data is indicated by the total value of the norms of the aNk direction component with xj in Formula 48. Therefore, not only the direction of the input signal vector but also the averaging is performed in a format including the magnitude of the norm. Specifically, the following calculation is repeated.
ここで、aNk+1は任意ベクトルのk+1回目の反復後のベクトルであり、固有ベクトルに収束していくことが期待できる。なお、数49を計算後、aNk+1の大きさは1に正規化されている。 Here, aNk + 1 is a vector after the k + 1th iteration of the arbitrary vector, and it can be expected to converge to the eigenvector. Note that after calculating Equation 49, the magnitude of aNk + 1 is normalized to 1.
上記の処理で、aNk+1が収束すると反復をストップし、2番目の固有ベクトルの計算に移る。ただし、1番目の固有ベクトルの影響を除去するために、入力信号ベクトルからaNk+1の方向成分を除去する操作が必要である。これはシュミットの直交化と同じ原理を利用でき、次式で行う。 In the above processing, when aNk + 1 converges, the iteration is stopped, and the calculation of the second eigenvector is started. However, in order to remove the influence of the first eigenvector, an operation of removing the direction component of aNk + 1 from the input signal vector is necessary. This can use the same principle as Schmidt orthogonalization, and is performed by the following equation.
上式で、aNk+1成分を除去したら、同じ手続きを繰り返すことにより、第2、第3、・・・と主成分ベクトルを順次計算することができる。 When the aNk + 1 component is removed in the above equation, the second, third,... And principal component vectors can be calculated sequentially by repeating the same procedure.
SPCAの結果が、通常の行列演算と比較してほぼ同じ固有ベクトルに収束することは検証されている。また収束までの計算時間も、べき乗法を利用した固有ベクトル生成と比較しても8倍程度高速であることが報告されている(例えば滝本,満倉,福見,赤松:"SPCAとRGAを用いた個人認証のための特徴抽出法",ヒューマンインタフェース学会論文誌,Vol.5,No.4,pp.499-506(2003).、中野,満倉,福見,赤松:"Simple PCAに基づく笑顔の真偽分類",信号処理学会論文誌(JSP),Vol.6,No.6(11月号),pp431-437(2002)等)。
(S−FLD)
It has been verified that the SPCA results converge to approximately the same eigenvectors compared to normal matrix operations. In addition, it has been reported that the calculation time to convergence is about 8 times faster than eigenvector generation using the power method (for example, Takimoto, Mangura, Fukumi, Akamatsu: "Using SPCA and RGA Feature extraction method for personal authentication ", Journal of Human Interface Society, Vol.5, No.4, pp.499-506 (2003)., Nakano, Mitsura, Fukumi, Akamatsu:" Smile PC based on Simple PCA True / false classification ", Transactions of the Signal Processing Society of Japan (JSP), Vol.6, No.6 (November issue), pp431-437 (2002), etc.).
(S-FLD)
次に、本実施の形態に係るパターン検出方法の一例として、S−FLDについて説明する。S−FLDでは、上述したSPCAと異なり、クラス間分散の最大化とクラス内分散の最小化を同時に実現するようにアルゴリズムを導出する。特に、上記の評価基準を満足するようにデータ分布の意味を考慮しながらアルゴリズムを導出する。
(クラス間分散を最大化)
Next, S-FLD will be described as an example of the pattern detection method according to the present embodiment. In S-FLD, unlike SPCA described above, an algorithm is derived so as to simultaneously realize maximization of interclass variance and minimization of intraclass variance. In particular, an algorithm is derived in consideration of the meaning of the data distribution so as to satisfy the above evaluation criteria.
(Maximize interclass variance)
まず、クラス間分散の最大化を行うアルゴリズムを導出する。これは上述したSPCAのデータ分散の最大化と同様に考えることができる。まず、各クラスのデータの平均値ベクトルを求め、これをhjとする。図5に、クラス間分散を最大化する概念図を示す。図5において、各hjは黒丸で示している。ここで、全データの平均値はゼロになっていると仮定する。以下、SPCAと同様に、次式の形式で平均化学習を行う。 First, an algorithm that maximizes the variance between classes is derived. This can be considered in the same manner as the above-described maximization of SPCA data distribution. First, an average value vector of data of each class is obtained and is set as hj. FIG. 5 shows a conceptual diagram for maximizing the interclass variance. In FIG. 5, each hj is indicated by a black circle. Here, it is assumed that the average value of all data is zero. Hereinafter, similarly to SPCA, averaging learning is performed in the form of the following equation.
図5において、点線は数51をゼロにする直線(多次元では超平面)である。この処理により、クラス間分散を最大にする固有ベクトルに収束することが期待できる。また図5でaNkは第n固有ベクトルの近似ベクトルであり、k回目の学習後のベクトルである。原理的には上記のSPCAと同じである。したがって、有効な固有ベクトルの数は、クラス数をc個とすると、最大で(c−1)個となる。ただ、近似反復型アルゴリズムで固有ベクトルを導出しているため、下記のシミュレーションでは若干の数値的誤差を考慮して(c−1)個を超える数の固有ベクトルを導出して使用している。
(クラス内分散の最小化)
In FIG. 5, the dotted line is a straight line (a hyperplane in multi-dimension) that makes Formula 51 zero. This process can be expected to converge to an eigenvector that maximizes the interclass variance. In FIG. 5, aNk is an approximate vector of the nth eigenvector, and is a vector after the kth learning. The principle is the same as the above SPCA. Therefore, the number of effective eigenvectors is (c-1) at maximum when the number of classes is c. However, since eigenvectors are derived by an approximate iterative algorithm, in the following simulation, more than (c-1) eigenvectors are derived and used in consideration of some numerical errors.
(Minimize intra-class variance)
次にクラス内分散の最小化を行う方法を示す。クラス内の分散は、各クラス内でデータの平均値を原点として考える。クラス内分散を最小化する概念を図6に示す。図6において、黒丸は同じクラス内のデータを示している。まず、データXjと任意のベクトルaNk(固有ベクトルに収束)の位置関係を考える。Xjの分散を最小にする方向はXjに直交する方向である。したがって、aNkからXjの方向成分を除去した方向を求め、bjとする。この計算は簡単で、次式で表現できる。 Next, a method for minimizing intra-class variance is shown. The variance within a class is considered with the average value of data within each class as the origin. The concept of minimizing intraclass variance is shown in FIG. In FIG. 6, black circles indicate data within the same class. First, consider the positional relationship between the data Xj and an arbitrary vector aNk (converged to an eigenvector). The direction that minimizes the variance of Xj is the direction orthogonal to Xj. Therefore, a direction obtained by removing the direction component of Xj from aNk is obtained and set as bj. This calculation is simple and can be expressed as:
上式をクラス内の全入力ベクトルで加算平均する。ただし、数55は各入力ベクトルの重み付けで加算平均する。この重み付けにより、ベクトルのノルムが大きい成分の影響がより考慮された加算平均となり、クラス内分散を最小にする方向に収束することが期待できる。したがって、次式により意図する固有ベクトルに収束する。 The above equation is averaged over all input vectors in the class. However, Equation 55 is averaged by weighting each input vector. By this weighting, it is possible to expect an addition average in which the influence of a component having a large vector norm is taken into consideration, and to converge in a direction that minimizes the intra-class variance. Therefore, it converges to the intended eigenvector according to the following equation.
ここで、Niはクラスiのデータ数である。数56で示すように、クラス間分散の最大化とクラス内分散の最小化アルゴリズムは同時に学習を行うことにより、固有ベクトルに収束する。第一固有ベクトルに収束後、上述したSPCAと同様に、入力データベクトルから第一固有ベクトルの成分を除去する。なお、次の固有ベクトルの初期ベクトルと各クラスの平均値ベクトルからも、同様に第一主成分ベクトルの成分が除去されている必要がある。以下、同様に、第2固有ベクトル、第3固有ベクトル、・・・というように、固有ベクトルを順次演算していく。 Here, Ni is the number of data of class i. As shown in Equation 56, the inter-class variance maximization and intra-class variance minimization algorithms converge to eigenvectors by performing learning simultaneously. After convergence to the first eigenvector, the component of the first eigenvector is removed from the input data vector in the same manner as SPCA described above. Similarly, the component of the first principal component vector needs to be removed from the initial vector of the next eigenvector and the average vector of each class. Hereinafter, similarly, eigenvectors are sequentially calculated as a second eigenvector, a third eigenvector, and so on.
なお、アルゴリズムの導出方法は、数51〜数57の一通りに限られず、データ分布の意味を考慮することにより、別の形態も導出可能である。例えば、数55でXjのノルムで重み付けしない形態としてもよい。この場合、固有ベクトルの向きが全サンプルの方向成分だけの平均値となり、重み付け平均と比べて固有ベクトルの向きが多少異なる。また、数56で第一項と第二項の成分に重み付けすることにより、クラス間分散の最大化とクラス内分散の最小化のどちらを優先するかが異なってくる。通常は同じ重みでよいが、条件や目的に応じて二つの項に異なる重み付けを与えることもでき、精度と要処理時間のいずれを優先するかによっても調整できる。さらに、数52ではSPCAと同じ計算式を用いることもできる。このように、上述した演算は一例であって、目的とする精度や処理時間に応じて、適切な演算を適宜採用できる。 Note that the algorithm deriving method is not limited to one of Equations 51 to 57, and other forms can be derived in consideration of the meaning of the data distribution. For example, it is good also as a form which is not weighted by the norm of Xj by Formula 55. In this case, the direction of the eigenvector is an average value of only the directional components of all samples, and the direction of the eigenvector is slightly different from that of the weighted average. Also, by weighting the components of the first term and the second term in Equation 56, it is different whether maximizing inter-class variance or minimizing intra-class variance is prioritized. Normally, the same weight may be used, but different weights can be given to the two terms depending on conditions and purposes, and adjustment can be made depending on which of accuracy and processing time is prioritized. Furthermore, the same calculation formula as SPCA can be used in Formula 52. As described above, the above-described calculation is an example, and an appropriate calculation can be appropriately employed according to the target accuracy and processing time.
本実施の形態に係るS−FLDでは、SPCAと異なり、修正のための計算が二つの項から成る。したがって、SPCAと比較して、若干、収束までの反復回数が多くなる傾向がある。 In S-FLD according to the present embodiment, unlike SPCA, calculation for correction consists of two terms. Therefore, compared with SPCA, there is a tendency that the number of iterations until convergence is slightly increased.
以下実施例として、本実施例のS−FLDの有効性を検証するために、簡単な2次元パターンの2クラス分類、硬貨画像認識問題、顔画像を用いる表情認識と個人認証に対する計算機シミュレーションを行い、比較例として主成分分析(SPCA)の結果と比較した。
(2次元の2クラスパターン分類問題)
As an example, in order to verify the effectiveness of the S-FLD of this example, a computer simulation is performed for simple two-dimensional pattern classification, coin image recognition problem, facial expression recognition using face images and personal authentication. As a comparative example, the results were compared with the results of principal component analysis (SPCA).
(Two-dimensional two-class pattern classification problem)
まず、2次元の2クラスパターンに分類する2クラス分類問題に本実施例を適用して有用性を実証する。ここでは、図7に示す2次元問題を検討し、本実施例によってクラス1とクラス2に分類可能かどうかを検証する。図7は、2次元パターン分類問題の概念を示す説明図である。ここでクラス1は次式により生成されたデータサンプルである。 First, the usefulness is demonstrated by applying this embodiment to a two-class classification problem for classifying into a two-dimensional two-class pattern. Here, the two-dimensional problem shown in FIG. 7 is examined, and it is verified whether it can be classified into class 1 and class 2 according to this embodiment. FIG. 7 is an explanatory diagram showing the concept of the two-dimensional pattern classification problem. Here, class 1 is a data sample generated by the following equation.
上式においてxは乱数であり、図7において黒丸で示されている。またクラス2は、次式により生成されたデータサンプルである。 In the above equation, x is a random number and is indicated by a black circle in FIG. Class 2 is a data sample generated by the following equation.
ここでxは乱数であり、図7において四角で示されている。なお、上式でN(−0.01,0.01)は、示されている範囲の一様乱数を意味し、このデータの一例を図7に示している。この2クラス分類問題で、各クラスのサンプル数は200個とし、実施例に係るS−FLDと、比較例に係るSPCAとで固有ベクトルをそれぞれ演算し、各データを固有ベクトルに射影した内積計算の結果を、図8、図9にそれぞれ示す。なお学習の反復回数は20回とした。 Here, x is a random number and is indicated by a square in FIG. In the above equation, N (−0.01, 0.01) means a uniform random number in the range shown, and an example of this data is shown in FIG. In this two-class classification problem, the number of samples in each class is 200, the eigenvectors are respectively calculated by the S-FLD according to the embodiment and the SPCA according to the comparative example, and each data is projected onto the eigenvector, and the result of the inner product calculation Are shown in FIGS. 8 and 9, respectively. The number of learning iterations was 20.
図8は比較例としてSPCAの結果を示しており、ベクトルの向きは(0.711567、0.702618)である。また図9は実施例としてS−FLDの結果を示しており、ベクトルの向きは(0.705755、−0.708456)である。図8と図9を対比すると、実施例に係る図9では正確にクラス1、2が分類されているのに対し、比較例に係る図8では両者の境界(SPCA固有ベクトル)上でデータが混在し、分類が不十分である。このことから、実施例に係るS−FLDの固有ベクトルがパターン分類に適していることは明らかである。 FIG. 8 shows the result of SPCA as a comparative example, and the vector directions are (0.711567, 0.702618). FIG. 9 shows the result of S-FLD as an example, and the vector direction is (0.705755, -0.708456). 8 and FIG. 9 are compared, class 1 and class 2 are correctly classified in FIG. 9 according to the embodiment, whereas data is mixed on the boundary (SPCA eigenvector) in FIG. 8 according to the comparative example. However, the classification is insufficient. From this, it is clear that the eigenvector of the S-FLD according to the embodiment is suitable for pattern classification.
実施例に係るS−FLDと、比較例に係るSPCAの固有ベクトルの内積を計算すると、0.004418となり、ほぼ直交していることが判る。図9からは判りづらいが、S−FLDはデータを固有ベクトル上に射影することにより、簡単な閾値処理だけで100%近い精度が得られている。一方、比較例に係る図8のSPCAの結果では、閾値処理だけでは精度が極端に低くなる。このため、非線形問題に対応可能なニューラルネットワークなどの分類器が必要になる。なお、固有ベクトルの初期値を変えた場合も実験したが、同じ固有ベクトルに収束することを確認した。
(硬貨画像認識問題)
When the inner product of the eigenvectors of the S-FLD according to the example and the SPCA according to the comparative example is calculated, it is 0.004418, which is found to be substantially orthogonal. Although it is difficult to understand from FIG. 9, S-FLD projects the data onto the eigenvector, thereby obtaining an accuracy of nearly 100% by simple threshold processing. On the other hand, in the result of SPCA in FIG. 8 according to the comparative example, the accuracy is extremely lowered only by the threshold processing. For this reason, a classifier such as a neural network capable of dealing with nonlinear problems is required. In addition, although it experimented also when changing the initial value of an eigenvector, it confirmed that it converged on the same eigenvector.
(Coin image recognition problem)
次に、回転させた硬貨画像の認識問題で、本実施例の有効性を検証した。使用した硬貨は日本の500円硬貨と韓国の500ウォン硬貨の裏と表、計4種類である。これらは、色、重さ、大きさ、表面のパターンが類似しており、数年前まで偽硬貨事件で問題になっていた程であり、真贋判定のサンプルとして好適である。硬貨認識では、特にランダムに回転した状態で認識することが重要である。このため、極座標系でのフーリエ変換を用いて回転に不変な特徴を生成してから、本手法を適用する。このようなフーリエ変換については、福見,大松,西川,"ニューラルネットワークによる回転パターンの認識と回転角度の推定",電気学会論文誌,115-C巻,10号,pp.1199-1207(1995)や、M.Fukumi, S.Omatu, and Y.Nishikawa, "Rotation Invariant Neural Pattern Recognition System Estimating a Rotation Angle", IEEE Trans. on Neural Networks,Vol.8, No.3, pp.568-581(1997)等の手法が適用できる。 Next, the effectiveness of the present embodiment was verified with the recognition problem of the rotated coin image. There are four types of coins used: Japanese 500 yen coin and Korean 500 won coin. These are similar in color, weight, size, and surface pattern, and have been problematic in fake coin cases until several years ago, and are suitable as samples for authenticity determination. In coin recognition, it is particularly important to recognize the coins in a randomly rotated state. For this reason, this technique is applied after generating a rotation invariant feature using Fourier transform in a polar coordinate system. For such Fourier transform, Fukumi, Omatsu, Nishikawa, "Recognition of rotation pattern and estimation of rotation angle by neural network", IEEJ Transactions, Vol. 115, No. 10, pp.1199-1207 (1995) ), M. Fukumi, S. Omatu, and Y. Nishikawa, "Rotation Invariant Neural Pattern Recognition System Estimating a Rotation Angle", IEEE Trans. On Neural Networks, Vol. 8, No. 3, pp. 568-581 ( 1997) can be applied.
ここでは4クラスのパターン認識問題となり、学習サンプル数として各クラス10枚とした。学習の後、各クラス40枚を認識試験用として評価した。使用した硬貨画像サンプルを図10に示す。図10において(a)は500ウォン硬貨、(b)は500円硬貨をそれぞれ示している。これらの画像から硬貨部分を約200×200ピクセルで切り出し、極座標系でFFTを行い、周波数成分の振幅スペクトルを用いて固有ベクトル生成の学習を行った。硬貨画像はランダムに回転した状態で取り込まれるため、回転不変な特徴生成のためにフーリエ変換が必要となる。そこで半径方向、円周方向ともに、32点の離散化を行い、32×32点の2次元FFTを行った。その後、計算機シミュレーションにより学習後の認識を、S−FLD、SPCAにつき、それぞれ固有ベクトルを1〜20に変化させて行った。この認識率の結果を表1に示す。 Here, there are four classes of pattern recognition problems, and the number of learning samples is 10 for each class. After learning, 40 classes were evaluated for recognition tests. The coin image sample used is shown in FIG. In FIG. 10, (a) shows a 500 won coin, and (b) shows a 500 yen coin. A coin portion was cut out from these images at about 200 × 200 pixels, FFT was performed in a polar coordinate system, and eigenvector generation learning was performed using the amplitude spectrum of the frequency component. Since the coin image is taken in a randomly rotated state, a Fourier transform is necessary for generating a rotation invariant feature. Therefore, 32 points were discretized in both the radial direction and the circumferential direction, and a 32 × 32 point two-dimensional FFT was performed. Thereafter, recognition after learning by computer simulation was performed by changing the eigenvectors to 1 to 20 for S-FLD and SPCA, respectively. The recognition rate results are shown in Table 1.
上記の認識は最も簡単な最小距離分類で行った。テスト用サンプルと固有ベクトルの内積が特徴値となり、固有ベクトルの個数だけ特徴を生成した。ここで、ニューラルネットワークやサポートベクタマシンなどを利用することも可能であるが、認識器による影響を排除するため、最も単純な分類器を使用した。これは最小距離分類であり、入力パターンがデータ中で最も距離の短いサンプルのクラスと判定する方法である。表1から明らかなように、固有ベクトルの個数を20個使用すると、寄与率は80%を超える。クラス数が4であるため、固有ベクトル数が4以上でS−FLDの精度が最大値となり、ほぼ100%で一定している。 The above recognition was performed with the simplest minimum distance classification. The inner product of the test sample and the eigenvector became the feature value, and features were generated for the number of eigenvectors. Here, it is possible to use a neural network or a support vector machine, but the simplest classifier was used in order to eliminate the influence of the recognizer. This is the minimum distance classification, and is a method for determining that the input pattern is the class of the sample with the shortest distance in the data. As can be seen from Table 1, when 20 eigenvectors are used, the contribution rate exceeds 80%. Since the number of classes is 4, the number of eigenvectors is 4 or more, and the accuracy of S-FLD is the maximum value, which is constant at almost 100%.
表1の結果から明らかなように、S−FLDの方が優れた識別結果となっている。固有ベクトルの数が増加し、特徴数が増加した場合、一般的には識別率が低下することが多い(例えばA.K.Jain and B.Chandrasekaran, "Dimensionality and Sample Size Considerations," Pattern Recognition in Practice, P.R. Krishnaiah and L.N. Kanal, eds., Vol.2, Chap 39, pp.835-855, Elsevier Science (1982)、F. Ferri, et al., ""Comparative Study of Techniques for Large Scale Feature Selection," Pattern Recognition in Practice IV, E.Gelsema and L.Kanal, eds., pp.403-413. Elsevier Science B.V. (1994)、A.Jain and D.Zongker, "Feature Selection: Evaluation, Application, and Small Sample Performance," IEEE Trans. on Pattern Analysis and Machine Intelligence, Vol. 19, No.2 , pp.153-158 (1997)等で報告されている)。しかし、SPCAが低下傾向を示すのに比べ、S−FLDではほぼ100%の精度を維持できており、この点においても本発明の優位性は明らかである。
(顔表情認識及び個人認証)
As is clear from the results in Table 1, S-FLD has a better identification result. When the number of eigenvectors increases and the number of features increases, the recognition rate generally decreases (eg AKJain and B. Chandrasekaran, "Dimensionality and Sample Size Considerations," Pattern Recognition in Practice, PR Krishnaiah and LN Kanal, eds., Vol.2, Chap 39, pp.835-855, Elsevier Science (1982), F. Ferri, et al., "" Comparative Study of Techniques for Large Scale Feature Selection, "Pattern Recognition in Practice IV, E. Gelsema and L. Kanal, eds., Pp.403-413. Elsevier Science BV (1994), A. Jain and D. Zongker, "Feature Selection: Evaluation, Application, and Small Sample Performance," IEEE Trans on Pattern Analysis and Machine Intelligence, Vol. 19, No.2, pp.153-158 (1997), etc.) However, compared to SPCA showing a downward trend, S-FLD is almost 100%. % Accuracy can be maintained, and the superiority of the present invention is clear also in this respect.
(Facial expression recognition and personal authentication)
次に、顔表情認識と個人認証に本実施例を適用してその有効性を検証した。図11に、本実施例で使用した顔画像サンプルの一部を示す。図11では顔画像サンプルとして100×100ピクセルの画像を使用し、表情はノーマルを含めて5種類とし、それぞれ、(a)はノーマル(平常)、(b)は笑い、(c)は驚き、(d)は悲しみ、(e)は怒り、の表情を示している。各被験者毎に5種類×2枚=10枚の画像があり、4名分の合計40枚で検証した。この40枚の内一部を学習サンプルとして固有ベクトルを求めた。表情認識の結果を、表2に示す。 Next, the effectiveness was verified by applying this example to facial expression recognition and personal authentication. FIG. 11 shows a part of the face image sample used in this example. In FIG. 11, an image of 100 × 100 pixels is used as a face image sample, and there are five types of facial expressions including normal, (a) is normal (normal), (b) is laughing, (c) is surprised, (D) shows the sadness and (e) shows the expression of anger. There were 5 types × 2 = 10 images for each subject, and verification was performed with a total of 40 images for 4 subjects. Eigenvectors were obtained using a part of the 40 sheets as a learning sample. Table 2 shows the results of facial expression recognition.
ここでは、学習サンプル数を各クラス毎に6個、合計で24使用した。評価は残り4枚×4名分で、合計16枚で行った。学習と評価を5枚の画像で行っても、ほぼ同様の傾向であった。固有ベクトルの数が8個以上で寄与率が80%を超えており、これ以上固有ベクトルを増加させても精度の改善はあまりないことが明らかとなった。 Here, a total of 24 learning samples were used for each class. Evaluation was performed on the remaining 4 sheets × 4 persons, with a total of 16 sheets. Even when learning and evaluation were performed with five images, the same tendency was observed. The number of eigenvectors is 8 or more and the contribution rate exceeds 80%, and it has become clear that there is not much improvement in accuracy even if eigenvectors are increased further.
次に、個人認証を行った結果を表3に示す。個人認証では、サンプル数は各人10枚、6名分で合計60枚とし、6名の認証を行った。これらの画像は、表情の変化(5表情)を含めた画像とすることで、表情に不変な個人認証の精度を検証している。学習に使用した学習サンプル数は各人3枚で、合計18枚である。したがって、評価に用いた画像は合計で42枚である。学習に用いるサンプル数を2〜6枚で変化させて実験を行ったが傾向は変わらず、S−FLDの方が優れた結果となった。
Next, Table 3 shows the results of personal authentication. In the personal authentication, the number of samples was 10 for each person, a total of 60 for 6 persons, and 6 persons were authenticated. These images are images including changes in facial expressions (5 facial expressions), thereby verifying the accuracy of personal authentication invariant to facial expressions. The number of learning samples used for learning is 3 for each person, a total of 18 samples. Therefore, a total of 42 images were used for evaluation. Although the experiment was performed by changing the number of samples used for learning from 2 to 6, the tendency did not change, and S-FLD was superior.
最後に本実施の形態に係るS−FLDと、従来の行列計算に基づく判別分析FLDの演算要処理時間に関する比較を行った。固有ベクトルの計算に要した計算時間(単位は秒)を下記の表4に示す。従来型FLDでは、べき乗法により固有ベクトルを計算している。表中で表示される時間は、各方法に固有の計算部分の時間を示しており、データの入力時間は含んでいない。測定に使用した仕様は、計算機としてCPUにPentium(登録商標)4、動作周波数2.53GHz、メモリは512MBで、Windows(登録商標)XP Home Editionをインストールしたパーソナルコンピュータを使用し、MS−Visual C++6.0でコンパイルを実行した。なお、Windows(登録商標)パソコンで時間を計測すると、割り込みの頻度等により計測時間が変動する。表中で時間はすべて秒で示し、5回測定した結果の平均値とした。なおS−FLDとSPCAの計算時間については、殆ど差は見られなかった。 Finally, the S-FLD according to the present embodiment and the discriminant analysis FLD based on the conventional matrix calculation were compared with respect to the calculation required processing time. Table 4 below shows the calculation time (unit: second) required for calculating the eigenvector. In the conventional FLD, the eigenvector is calculated by the power method. The time displayed in the table indicates the time of the calculation part specific to each method, and does not include the data input time. The specifications used for the measurement were a Pentium (registered trademark) 4 as a computer, an operating frequency of 2.53 GHz, a memory of 512 MB, a personal computer installed with Windows (registered trademark) XP Home Edition, and MS-Visual C ++ 6 Compiled with .0. Note that when the time is measured by a Windows (registered trademark) personal computer, the measurement time varies depending on the frequency of interruption. In the table, all times are shown in seconds, and the average value of the results of five measurements is used. Note that there was almost no difference in the calculation time of S-FLD and SPCA.
この表に示すように、データの次元数が小さい場合には、S−FLDと従来の行列型判別分析はほとんど変わらない。しかし、次元数が大きくなるにつれて、S−FLDの時間増加傾向は線形に時間が長くなるのに対して、従来の行列型FLDでは、データ次元の2乗に比例して計算時間が長くなる傾向を示した。したがって、データの次元が大きいほど、S−FLDの効果が大きいことが確認できた。なお、計算時間は反復の際の収束条件にも依存する。より収束条件を緩和すればさらに短時間で収束する。 As shown in this table, when the number of data dimensions is small, S-FLD and conventional matrix type discriminant analysis are almost the same. However, as the number of dimensions increases, the time increase trend of S-FLD increases linearly, whereas in the conventional matrix type FLD, the calculation time tends to increase in proportion to the square of the data dimension. showed that. Therefore, it was confirmed that the effect of S-FLD was greater as the data dimension was larger. Note that the calculation time also depends on the convergence condition during the iteration. If the convergence condition is more relaxed, the convergence is further shortened.
また表4に示すように、5000次元では、メモリ不足のため従来の行列型FLDは計算不可能であった。2500次元のデータは顔画像を50×50ピクセルに圧縮して実行した結果である。したがって、顔画像を扱う場合のようにデータの次元が大きくなる場合には、S−FLDの優位性が顕著となる。仮に、行列計算に最適化されたMatlab等のソフトウェアを用いるとしても、メモリの限界は同様であり、従来の行列型FLDは実行できない。このことからも、本実施の形態に係るS−FLDでは低負荷で高速な処理が実現可能であることが確認できた。 Further, as shown in Table 4, in the 5000th dimension, the conventional matrix type FLD cannot be calculated due to insufficient memory. The 2500-dimensional data is a result obtained by compressing the face image to 50 × 50 pixels. Therefore, when the dimension of data becomes large as in the case of handling a face image, the superiority of S-FLD becomes significant. Even if software such as Matlab optimized for matrix calculation is used, the memory limitations are the same, and the conventional matrix type FLD cannot be executed. This also confirmed that the S-FLD according to the present embodiment can realize high-speed processing with low load.
以上のように、2次元の2クラスパターン分類問題、回転硬貨識別問題、顔画像を用いた表情識別問題と個人認証問題に本実施例を適用し、主成分分析と比較してその特徴抽出の有効性を計算機シミュレーションにより定量的に検証し、その結果、パターン分類で用いられる特徴抽出システムとして、SPCAよりも実施例に係るS−FLDの方が優れていることが検証された。このように、本実施例ではフィッシャーの判別分析を行うための固有ベクトルの生成を、行列演算を必要としない簡単な繰り返し型の反復アルゴリズムを実現している。本アルゴリズムはデータ分布の意味を考慮して導出されており、勾配法に基づくアルゴリズムと比較しても極めて簡単なアルゴリズムである。特にCPUやメモリ量に制限のある組み込み機器にも実装可能な低負荷のパターン検索を実現できる。また、本発明をカーネル関数を用いる非線形高次空間に拡張し、非線形カーネル関数を用いた非線形特徴抽出システムに適用することも可能である。 As described above, the present embodiment is applied to the two-dimensional two-class pattern classification problem, the rotating coin identification problem, the facial expression identification problem using the face image, and the personal authentication problem. The effectiveness was quantitatively verified by computer simulation, and as a result, it was verified that the S-FLD according to the example was superior to SPCA as a feature extraction system used in pattern classification. Thus, in this embodiment, a simple iterative iterative algorithm that does not require matrix operation is generated for generating eigenvectors for performing Fisher's discriminant analysis. This algorithm is derived in consideration of the meaning of the data distribution, and is an extremely simple algorithm compared with the algorithm based on the gradient method. In particular, it is possible to realize a low-load pattern search that can be implemented in an embedded device with a limited amount of CPU and memory. Further, the present invention can be extended to a nonlinear higher-order space using a kernel function and applied to a nonlinear feature extraction system using a nonlinear kernel function.
本発明のパターン検出装置、パターン検出方法、パターン検出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器は、個人認証や貨幣の真贋判定システムの他、近赤外線カメラ等を用いて車両の運転手のモニタリングを行い、居眠り運転等を検知するシステム等に適用可能である。また、画像は静止画像、動画像のいずれにも対応でき、さらに画像に限られず音声なども利用でき、これによってマルチメディア検索等への応用も可能となる。 The pattern detection apparatus, the pattern detection method, the pattern detection program, the computer-readable recording medium, and the recorded device according to the present invention are a vehicle driver using a near-infrared camera or the like in addition to a personal authentication and money authenticity determination system. It can be applied to a system that performs a monitoring of the above and detects a drowsy driving or the like. In addition, the image can correspond to either a still image or a moving image, and is not limited to an image, and audio can be used, thereby enabling application to multimedia search and the like.
100…パターン検出装置
10…入力部
20…演算部
22…特徴量抽出部
24…特徴パターン保持部
26…パターン検出実行部
30…出力部
DESCRIPTION OF SYMBOLS 100 ... Pattern detection apparatus 10 ... Input part 20 ... Calculation part 22 ... Feature-value extraction part 24 ... Feature pattern holding part 26 ... Pattern detection execution part 30 ... Output part
Claims (4)
入力パターンを入力するための入力部と、
前記入力部から入力された入力パターンより、特徴量を抽出するための特徴量抽出部と、
予め登録された登録データの特徴パターンを保持するための特徴パターン保持部と、
入力パターンに基づいて、クラス内分散の最小化とクラス間分散の最大化を行う固有ベクトルを算出し、該固有ベクトルと入力パターンとの積和により抽出された特徴と、前記特徴パターン保持部で保持された特徴パターンとを対比して、パターン検出を実行するためのパターン検出実行部と、
前記パターン検出実行部のパターン検出結果を出力するための出力部と、
を備えており、
前記パターン検出実行部は、クラス間分散を最大化させるために各クラスのデータの平均値ベクトルhjを求め、次式
クラス内分散を最小化させるために、入力パターンの特徴量Xjと固有ベクトルに収束するベクトルaN kより、Xjの方向成分を除去した方向を次式
An input unit for inputting an input pattern;
A feature amount extraction unit for extracting a feature amount from the input pattern input from the input unit;
A feature pattern holding unit for holding a feature pattern of registered data registered in advance;
Based on the input pattern, an eigenvector that minimizes intra-class variance and inter-class variance is calculated, and the feature extracted by the product sum of the eigenvector and the input pattern is stored in the feature pattern holding unit. A pattern detection execution unit for executing pattern detection in comparison with the feature pattern,
An output unit for outputting a pattern detection result of the pattern detection execution unit;
With
The pattern detection execution unit obtains an average value vector h j of data of each class in order to maximize the inter-class variance,
In order to minimize the intra-class variance, the direction obtained by removing the direction component of X j from the feature quantity X j of the input pattern and the vector a N k that converges to the eigenvector is expressed by the following equation:
入力パターンの特徴量に基づいて、クラス内分散の最小化を行う工程と、クラス間分散の最大化を行う工程とを有し、
前記クラス間分散の最大化を行う工程が、
各クラスのデータの平均値ベクトルhjを求め、次式
前記クラス内分散の最小化を行う工程が、データXjと固有ベクトルに収束するベクトルaN kより、Xjの方向成分を除去した方向を次式
上記クラス間分散の最大化とクラス内分散の最小化の工程で同時に学習を行い、各クラスの固有ベクトルに収束後、入力データベクトルから該固有ベクトルの成分を除去し、次いで次クラスの平均値ベクトルから固有ベクトルの成分も順次除去することにより、2番目以降の固有ベクトルを同様の手順で演算し、これらの固有ベクトルに基づいて特徴を生成し、入力パターンが属するクラスを識別することを特徴とするパターン検出装置。 Based on Fisher's linear discriminant method, a pattern detection method for identifying a class to which the input pattern feature quantity is extracted,
A step of minimizing the intra-class variance based on the feature amount of the input pattern, and a step of maximizing the inter-class variance;
The step of maximizing the interclass variance comprises:
Obtain the average value vector h j of the data of each class,
In the step of minimizing the intra-class variance, the direction in which the direction component of X j is removed from the data X j and the vector a N k that converges to the eigenvector is expressed by the following equation:
Learning is performed simultaneously in the steps of maximizing inter-class variance and minimizing intra-class variance, and after convergence to the eigenvector of each class, the component of the eigenvector is removed from the input data vector, and then from the average vector of the next class A pattern detection apparatus characterized by calculating components in the same order by removing components of eigenvectors sequentially, generating features based on these eigenvectors, and identifying a class to which the input pattern belongs .
入力パターンの特徴量に基づいて、クラス内分散の最小化を行う機能と、クラス間分散の最大化を行う機能とを実現させ、
前記クラス間分散の最大化を行う機能は、各クラスのデータの平均値ベクトルを求め、次式
前記クラス内分散の最小化を行う機能は、データXjと固有ベクトルに収束するベクトルaN k(固有ベクトルに収束)より、Xjの方向成分を除去した方向を次式
The function of maximizing the inter-class variance is to obtain an average value vector of data of each class, and
The function for minimizing the intra-class variance is a function obtained by removing the direction component of X j from the data X j and the vector a N k that converges to the eigenvector (convergent to the eigenvector) by the following equation:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005014580A JP4625948B2 (en) | 2005-01-21 | 2005-01-21 | PATTERN DETECTION DEVICE, PATTERN DETECTION METHOD, PATTERN DETECTION PROGRAM, COMPUTER-READABLE RECORDING MEDIUM, AND RECORDED DEVICE |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005014580A JP4625948B2 (en) | 2005-01-21 | 2005-01-21 | PATTERN DETECTION DEVICE, PATTERN DETECTION METHOD, PATTERN DETECTION PROGRAM, COMPUTER-READABLE RECORDING MEDIUM, AND RECORDED DEVICE |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006202135A true JP2006202135A (en) | 2006-08-03 |
JP4625948B2 JP4625948B2 (en) | 2011-02-02 |
Family
ID=36960071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005014580A Active JP4625948B2 (en) | 2005-01-21 | 2005-01-21 | PATTERN DETECTION DEVICE, PATTERN DETECTION METHOD, PATTERN DETECTION PROGRAM, COMPUTER-READABLE RECORDING MEDIUM, AND RECORDED DEVICE |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4625948B2 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008228818A (en) * | 2007-03-16 | 2008-10-02 | Olympus Corp | Contour detecting device, contour detecting method and program thereof |
JP2010036293A (en) * | 2008-08-04 | 2010-02-18 | Jtekt Corp | Multi-articulated robot |
JP2010140444A (en) * | 2008-12-15 | 2010-06-24 | Canon Inc | Inspection system and method of controlling same, and computer program |
WO2021193353A1 (en) * | 2020-03-25 | 2021-09-30 | Necソリューションイノベータ株式会社 | Image tracking device, image tracking method, and computer-readable recording medium |
WO2021246217A1 (en) * | 2020-06-05 | 2021-12-09 | コニカミノルタ株式会社 | Object detection method, object detection device, and program |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11345342A (en) * | 1998-05-29 | 1999-12-14 | Nippon Telegr & Teleph Corp <Ntt> | Method and device for retrieving time series image, and recording medium having recorded time series image retrieval program |
JP2001101418A (en) * | 1999-10-04 | 2001-04-13 | Nec Corp | Feature extracting device for pattern identification |
-
2005
- 2005-01-21 JP JP2005014580A patent/JP4625948B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11345342A (en) * | 1998-05-29 | 1999-12-14 | Nippon Telegr & Teleph Corp <Ntt> | Method and device for retrieving time series image, and recording medium having recorded time series image retrieval program |
JP2001101418A (en) * | 1999-10-04 | 2001-04-13 | Nec Corp | Feature extracting device for pattern identification |
Non-Patent Citations (5)
Title |
---|
CSNG200100799003, 西田 昌史, 有木 康雄, "話者補空間射影による話者認識", 電子情報通信学会技術研究報告[音声], 20000615, 第100巻第136号, p.17〜22, JP, 電子情報通信学会 * |
CSNG200400444002, 西田 昌史, 有木 康雄, "音韻性を抑えた話者空間への射影による話者認識", 電子情報通信学会論文誌, 20020401, 第J85−D−II巻第4号, p.554〜562, JP, 電子情報通信学会 * |
CSNG200401915009, 滝本 裕則, 満倉 靖恵, 福見 稔, 赤松 則男, "SPCAとRGAを用いた個人認証のための特徴抽出法", ヒューマンインタフェース学会誌, 20031125, 第5巻第4号, p.103〜110, JP, ヒューマンインタフェース学会 * |
CSNG200500564014, 篠原 雄介, 大津 展之, "フィッシャー重みマップを用いた顔画像からの表情認識", 電子情報通信学会技術研究報告[パターン認識・メディア理解], 20040311, 第103巻第737号, p.79〜84, JP, 電子情報通信学会 * |
CSNG200600798006, 尾山 匡浩, 松村 悠司, Stephen KARUNGARU, 満倉 靖恵, 福見 稔, "節電を用いた手首動作パターンの認識", 電子情報通信学会技術研究報告[ヒューマン情報処理], 20060629, 第106巻第143号, p.91〜95, JP, 電子情報通信学会 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008228818A (en) * | 2007-03-16 | 2008-10-02 | Olympus Corp | Contour detecting device, contour detecting method and program thereof |
WO2008126560A1 (en) * | 2007-03-16 | 2008-10-23 | Olympus Corporation | Contour detecting device, contour detecting method, and its program |
US8036438B2 (en) | 2007-03-16 | 2011-10-11 | Olympus Corporation | Outline detection apparatus, outline detection method, and program thereof |
JP2010036293A (en) * | 2008-08-04 | 2010-02-18 | Jtekt Corp | Multi-articulated robot |
JP2010140444A (en) * | 2008-12-15 | 2010-06-24 | Canon Inc | Inspection system and method of controlling same, and computer program |
WO2021193353A1 (en) * | 2020-03-25 | 2021-09-30 | Necソリューションイノベータ株式会社 | Image tracking device, image tracking method, and computer-readable recording medium |
JPWO2021193353A1 (en) * | 2020-03-25 | 2021-09-30 | ||
JP7323235B2 (en) | 2020-03-25 | 2023-08-08 | Necソリューションイノベータ株式会社 | Image tracking device, image tracking method, and program |
WO2021246217A1 (en) * | 2020-06-05 | 2021-12-09 | コニカミノルタ株式会社 | Object detection method, object detection device, and program |
JPWO2021246217A1 (en) * | 2020-06-05 | 2021-12-09 | ||
JP7251692B2 (en) | 2020-06-05 | 2023-04-04 | コニカミノルタ株式会社 | OBJECT DETECTION METHOD, OBJECT DETECTION DEVICE, AND PROGRAM |
Also Published As
Publication number | Publication date |
---|---|
JP4625948B2 (en) | 2011-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Koestinger et al. | Large scale metric learning from equivalence constraints | |
Muandet et al. | Learning from distributions via support measure machines | |
Zhang et al. | Adaptive manifold learning | |
US9471886B2 (en) | Class discriminative feature transformation | |
Štruc et al. | Multi-modal emotion recognition using canonical correlations and acoustic features | |
Bhowal et al. | A two-tier ensemble approach for writer dependent online signature verification | |
Sequeira et al. | A realistic evaluation of iris presentation attack detection | |
WO2015074157A1 (en) | System and method for face recognition | |
JP4625948B2 (en) | PATTERN DETECTION DEVICE, PATTERN DETECTION METHOD, PATTERN DETECTION PROGRAM, COMPUTER-READABLE RECORDING MEDIUM, AND RECORDED DEVICE | |
Iosifidis et al. | Scaling up class-specific kernel discriminant analysis for large-scale face verification | |
Sekhar V et al. | Online signature verification based on writer specific feature selection and fuzzy similarity measure | |
Singhal et al. | Image classification using bag of visual words model with FAST and FREAK | |
Alam et al. | Linear regression-based classifier for audio visual person identification | |
Mahdi et al. | 3D facial matching by spiral convolutional metric learning and a biometric fusion-net of demographic properties | |
Deng et al. | A lightweight deep learning model for real‐time face recognition | |
Vinay et al. | Unconstrained face recognition using Bayesian classification | |
US20210192318A1 (en) | System and method for training deep-learning classifiers | |
Swanepoel et al. | Feature weighted support vector machines for writer-independent on-line signature verification | |
Hamouz et al. | Hypotheses-driven affine invariant localization of faces in verification systems | |
McKeon et al. | Employing region ensembles in a statistical learning framework for robust 3D facial recognition | |
Erdoğmuş et al. | Within-and cross-database evaluations for face gender classification via befit protocols | |
Fatkhannudin et al. | Gender classification using fisherface and support vector machine on face image | |
Harivinod et al. | A bimodal biometric system using palmprint and face modality | |
Cheng et al. | Bootstrapping joint bayesian model for robust face verification | |
Zhu et al. | Exploring deep features with different distance measures for still to video face matching |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101005 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101012 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |