JP2000030065A - パターン認識装置及びその方法 - Google Patents

パターン認識装置及びその方法

Info

Publication number
JP2000030065A
JP2000030065A JP10199128A JP19912898A JP2000030065A JP 2000030065 A JP2000030065 A JP 2000030065A JP 10199128 A JP10199128 A JP 10199128A JP 19912898 A JP19912898 A JP 19912898A JP 2000030065 A JP2000030065 A JP 2000030065A
Authority
JP
Japan
Prior art keywords
subspace
input
pattern
dictionary
calculating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10199128A
Other languages
English (en)
Other versions
JP4087953B2 (ja
Inventor
Kazuhiro Fukui
和広 福井
Osamu Yamaguchi
修 山口
Kaoru Suzuki
薫 鈴木
Kenichi Maeda
賢一 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP19912898A priority Critical patent/JP4087953B2/ja
Priority to US09/352,839 priority patent/US6466685B1/en
Publication of JP2000030065A publication Critical patent/JP2000030065A/ja
Application granted granted Critical
Publication of JP4087953B2 publication Critical patent/JP4087953B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 個人識別に不必要なパターン変化を取り除く
ことにより、これらの変動成分の影響を最小限に抑えた
安定なパターン認識装置を提供する。 【解決手段】 画像入力部11、顔領域抽出部12、顔
特徴点抽出部13、正規化画像生成部14、部分空間生
成部15、制約部分空間格納部16、辞書部分空間格納
部17、部分空間射影部18、相互部分空間計算部1
9、判定部20、表示部21からなり、入力パターンか
ら入力部分空間を算出し、辞書パターンから辞書部分空
間を算出し、制約条件から制約部分空間を算出し、入力
部分空間と辞書部分空間を、制約部分空間に射影し、こ
れから入力パターンと辞書パターンとを識別する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】パターン情報に混入する識別
に不必要なパターン情報を効率良く取り除いてパターン
認識を安定に行う発明に関する。
【0002】
【従来の技術】(従来のパターンの認識の内容)まず、
従来の顔画像を対象にしたパターンの認識を例にとって
説明する。
【0003】顔画像による個人認識は、指紋や手形によ
る識別に比べて非接触で行なえるため使用者の心理的な
負担が少なく、ヒューマンインタフェースからセキュリ
ティシステムまで様々な分野への適用が考えられる。
【0004】最近の顔画像認識の技術動向に関しては、
文献〔塩野充、真田英彦:“個人認証技術の最近の研究
動向”、信学技報OSF92-17〕が詳しいが、従来の顔画像
識別法は、大きく分けると以下の2つの方法に分類でき
る。
【0005】第1の方法は、目、鼻、口などの特徴点の
位置、形状、サイズをパラメータ化して特徴ベクトルを
生成し、予め登録されている対象人物の特徴ベクトルと
の類似度を計算する方法である。最も類似度が高い辞書
ベクトルを表す人物を当人と識別する。これらは「構造
解析的方法」に分類される。
【0006】第2の方法は、瞳、鼻などの特徴点を基準
とした2次元affine変換などの幾何学変換により位置、
サイズを正規化された画像と予め登録されている辞書正
規化画像とのパターンの類似度に基づいた方法である。
第1の方法と同様に最も類似度が高い辞書画像を表す人
物を当人と識別する。これらは従来の文字認識で実用化
されている方法で「パターン的方法」に分類できる。
【0007】そして、文献〔赤松茂“コンピュータによ
る顔の認識の研究動向”、電子情報通信学会誌Vol.80〕
によると、第1の方法に比べて第2の方法が識別率が高
いことが報告されている。
【0008】第2の方法であるパターン的方法の代表で
ある部分空間法は、これまで文字認識等で幅広く用いら
れてきた。入力ベクトルと各辞書部分空間との角度を類
似度として求め、最小角度を成す部分空間に対応するカ
テゴリを入力ベクトルのカテゴリと決定する。単純な相
関法などに比べて辞書側に冗長性を持たせているためパ
ターンの変形に対する吸収能力に優れている。部分空間
法に関する詳細は、「飯島泰蔵“パターン認識理論”森
北出版(1989年)」「エルッキ・オヤ著“パターン認識
と部分空間法”産業図書(1986年)」などに詳しい。
【0009】さらにパターン変形に対する吸収能力を高
めた相互部分空間法〔前田賢一、渡辺貞一、“局所的構
造を導入したパターン・マッチング法”、信学論(D)、vo
l.J68-D、No.3,pp.345-352、1985〕、特許〔3次元物体認
識装置及びその方法:特願平10−66663号〕が開
発されている。
【0010】(相互部分空間法の概念)ここで、相互部
分空間法は、本発明の理解の前提となるため、その内容
を以下に詳しく説明する。
【0011】相互部分空間法では、辞書側と同様に入力
側も部分空間で表し、入力部分空間と辞書部分空間の成
す角度θのcos2 θを類似度とする。
【0012】具体的にはcos2 θは以下の式で定義さ
れる。
【0013】
【数1】 入力部分空間Pに対する射影行列をP、辞書部分空間
Qの射影行列をQとすると、部分空間PとQとの
成す角度θのcos2 θは、QPQあるいはPQPの固
有値となる。
【0014】
【数2】 となる。
【0015】さらに計算の順序を変えて整理すると、
【数3】 という行列Xの固有値問題となる。
【0016】Xの最大固有値が求める最小角度θ1 のc
os2 θ1 となる。
【0017】第2固有値は、最大角に直交する方向に計
った角度のcos2 θ2 、以下同様にN個のcos2 θ
i が順次求まる。
【0018】これらのN個の角度θは、2つの部分空間
が成す“正準角”として知られている。正準角について
は、文献〔F.chatclin,“行列の固有値”、伊理正夫、
伊理由実訳、シュプリンガー・フェアラーク東京、1993
年〕などに詳しい。
【0019】相互部分空間法は、入力側も辞書側と同様
に部分空間で表現するために、パターン変形に対する吸
収能力が非常に高い。入力部分空間は、入力される複数
枚の画像セットに対してKL展開により求める。あるい
は、同時反復法を用いて、動画像から逐次生成すること
も可能である。
【0020】
【発明が解決しようとする課題】ところで、画像を用い
た顔認識法の識別性能は、以下に挙げる変動の影響を受
け易い。
【0021】1.顔向き、表情変化の影響 2.照明変動の影響 3.経年変化の影響(しわ、髪、鬚などの影響) すなわち、顔認識法の識別性能は、これら3つの課題を
解決することが重要である。
【0022】(課題1について)課題1に関しては、顔
の動画像系列に対して相互部分空間法を適用すれば、そ
の影響を低減できることが確認されている〔山口修、福
井和広、前田賢一、“動画像を用いた顔認識システ
ム”、信学技報、PRMU97-50,pp.17-24,1997 〕。
【0023】しかしながら、残りの課題2,3に関して
依然として解決されているとは言えない。
【0024】(課題2について)課題2の照明変動に関
しては、3次元物体である顔の認識は、平面上に書かれ
ている文字の認識に比較してその影響をより受け易い。
顔の側面から外光が照射されて影やハイライトが生じて
いる場合、人は容易に同一人物として認識できるが計算
機には正しく認識することが難しい。
【0025】高いパターン変形吸収能力を持つ相互部分
空間法であるが、照明変動の影響に対するロバスト性は
改善されていない。これは相互部分空間法において求め
る角度θ、つまり角度を計る2つのベクトルu,vの関
係に制約が課せられていないからだと言える。さらに見
方を変えるとベクトルu,vの差分ベクトルに制約が課
せられていない事になる。
【0026】したがって、相互部分空間法を照明変動を
含んだ画像に対して適用すると、最小角度θを成す2つ
のベクトルの差分ベクトルには照明変動成分が含まれ
る。異なる人物に対しても、照明変動成分を含むことで
実際よりも最小角度が小さくなり、逆に同一人物である
にも拘らず最小角度が大きくなり、異なる人物と識別さ
れてしまう。
【0027】(課題3について)課題3の経年変化によ
る識別性能の低下も同様である。この場合には、差分ベ
クトルに経年変化による皺などのパターン変動が含まれ
るために、認識性能が低下してしまう。
【0028】これらの変動に対する不安定さの原因は、
照明位置や顔向きなどの変化によって生じる照明変動や
経年変化によるパターン変動成分も含めて識別を行って
いる事に起因する。如何に、これらの識別に不要なパタ
ーン変化を取り除くかが解決すべき課題である。
【0029】(本発明の目的)本発明は、上記のような
点に鑑みなされたもので、パターン情報を収集する際に
混入する識別に不必要なパターン変動成分を効率良く取
り除いて、安定なパターン認識法及びその方法を提供す
ることを目的とする。
【0030】特に顔画像認識に適用した場合には、照明
変動成分を効率良く取り除いて安定な顔認識を実現す
る。
【0031】
【課題を解決するための手段】請求項1の発明は、認識
したい対象の入力パターンを入力する入力手段と、前記
入力手段の入力パターンから入力部分空間を算出する入
力部分空間算出手段と、前記対象に関する辞書パターン
から辞書部分空間を算出する辞書部分空間算出手段と、
パターン認識において不要なパターンの条件を抑制する
ための制約条件から制約部分空間を算出する制約条件算
出手段と、前記入力部分空間算出手段の入力部分空間
と、前記辞書部分空間算出手段の辞書部分空間を、前記
制約条件算出手段の制約部分空間に射影する射影手段
と、前記射影手段によって射影された制約部分空間内の
入力部分空間と辞書部分空間とから、前記対象を識別す
る識別手段を具備したことを特徴とするパターン認識装
置である。
【0032】請求項2の発明は、前記識別手段は、前記
射影手段によって射影された制約部分空間内の入力部分
空間と辞書部分空間との成す角度である正準角を計算
し、この計算した正準角に基づいて、前記入力部分空間
と前記辞書部分空間との類似度を計算することを特徴と
する請求項1記載のパターン認識装置である。
【0033】請求項3の発明は、前記制約条件算出手段
は、パターン認識において不要なパターンの条件を発生
させる要因の影響下において算出された複数の第1部分
空間から求まる差分部分空間の集合から、前記要因の影
響を取除いた第2部分空間を生成し、この生成した第2
部分空間を前記制約部分空間とすることを特徴とする請
求項1記載のパターン認識装置である。
【0034】請求項4の発明は、前記制約条件算出手段
は、前記対象に関する部分空間内の自己変動を表す複数
の自己変動部分空間の集合から自己変動成分を取除いた
第3部分空間を生成し、この生成した第3部分空間を前
記制約部分空間とすることを特徴とする請求項1記載の
パターン認識装置である。
【0035】請求項5の発明は、前記制約条件算出手段
は、パターン認識において不要なパターンの条件を発生
させる要因の影響下において算出された複数の第1部分
空間から求まる差分部分空間の集合から、前記要因の影
響を取除いた第2部分空間を生成し、前記対象に関する
部分空間内の自己変動を表す複数の自己変動部分空間の
集合から自己変動成分を取除いた第3部分空間を生成
し、この生成した第2部分空間と第3部分空間とから前
記制約部分空間を求めることを特徴とする請求項1記載
のパターン認識装置である。
【0036】請求項6の発明は、認識したい対象の入力
パターンを入力する入力ステップと、前記入力ステップ
における入力パターンから入力部分空間を算出する入力
部分空間算出ステップと、前記対象に関する辞書パター
ンから辞書部分空間を算出する辞書部分空間算出ステッ
プと、パターン認識において不要なパターンの条件を抑
制するための制約条件から制約部分空間を算出する制約
条件算出ステップと、前記入力部分空間算出ステップの
入力部分空間と、前記辞書部分空間算出ステップの辞書
部分空間を、前記制約条件算出ステップの制約部分空間
に射影する射影ステップと、前記射影ステップによって
射影された制約部分空間内の入力部分空間と辞書部分空
間とから、前記対象を識別する識別ステップを具備した
ことを特徴とするパターン認識方法である。
【0037】請求項7の発明は、認識したい対象の入力
パターンを入力する入力機能と、前記入力機能における
入力パターンから入力部分空間を算出する入力部分空間
算出機能と、前記対象に関する辞書パターンから辞書部
分空間を算出する辞書部分空間算出機能と、パターン認
識において不要なパターンの条件を抑制するための制約
条件から制約部分空間を算出する制約条件算出機能と、
前記入力パターン算出機能の入力部分空間と、前記辞書
パターン算出機能の辞書部分空間を、前記制約条件算出
機能の制約部分空間に射影する射影機能と、前記射影機
能によって射影された制約部分空間内の入力部分空間と
辞書部分空間とから、前記対象を識別する識別機能を実
現するプログラムを記録したことを特徴とするパターン
認識方法の記録媒体である。
【0038】
【発明の実施の形態】まず、本発明の実施の形態につい
て順番に説明する。
【0039】(制約相互部分空間法の概念の説明)本発
明は、予め対象となる部分空間から認識に不必要な部分
空間を取り除いておいて、2つの部分空間の成す角度を
類似度として求める手段を提供する。この方法が、本発
明において、初めて提案する技術思想であり、これを新
しく“制約相互部分空間法”と名付ける。
【0040】
【数4】 この(14)式が、制約相互部分空間法の概念を数式化
したものであり、相互部分空間法の概念を数式化した
(1)式と比べて制約条件が付加されている。
【0041】制約相互部分空間法の具体的な実現法につ
いて説明する。
【0042】部分空間P,Qを、制約部分空間Lへ
射影した部分空間をP′,Q′とする。また制約部
分空間Lに対応する射影行列をLとすると、以下の関
係が成立する。
【0043】
【数5】 ここで部分空間P′,Q′に属するベクトルu′,
v′を考えると、Lは線形部分空間なので、その差分
に対して以下の関係が成り立つ。
【0044】
【数6】 これから制約条件下で2つの部分空間の成す角度を計算
するには、2つの部分空間P,Qを制約部分空間
Lへ射影した後で、射影された2つの部分空間
P′,Q′に対して相互部分空間法を適用すれば良
いことが分かる。
【0045】(制約部分空間の生成)この制約相互部分
空間法において、重要なのがどのように制約部分空間の
生成するかにある。
【0046】用途に応じた制約条件、すなわち、ある要
因に基づいて発生するパターン認識に不要なパターンの
条件を抑制するための制約条件を実現するための様々な
制約部分空間が考えられる。
【0047】例えば、要因の一つである照明変動成分に
依存しない部分空間を採用することで、u,vの差分ベ
クトルに含まれる照明変動成分が無視されて、照明に対
するロバスト性が向上する。
【0048】このような部分空間として2つの部分空間
の差として求まる“差分部分空間”について説明する。
【0049】
【数7】 また、式(4)〜(13)においてPとQ、vとuを入
れ換えた式(13)の固有ベクトルをcui とするとベ
クトルvi は、以下の様に求まる。
【0050】
【数8】 ui とvi の成す角度が2つの部分空間の成す最小角
度、u2 とv2 の成す角度がそれに直交する方向に計っ
た最小角度となる。同様にu3 ,v3 以降のベクトルが
求まる。
【0051】求めたe個の差分ベクトルdi はお互いに
直交している。各差分ベクトルの長さを1.0に正規化
した後で、差分部分空間の基底ベクトルとする。
【0052】ここで、同じ照明条件で生成した異なる人
物i,jの部分空間Hi,Hjの差分部分空間を
Dijとする。m人分の部分空間セットから2つの部分
空間を取り出して合計mC2個の差分部分空間を求め
る。それらの共通部分空間をDとする。実際には、完
全な共通部分空間は存在しない場合が多いため、共通部
分空間に近い部分空間が求められる。
【0053】
【数9】 具体的に、差分部分空間Dはm人分の部分空間セット
から以下の手順により求まる。
【0054】1.まず各人物の部分空間Hに対応する射
影行列Hを求める。
【0055】2.m個から2個を取り出して、合計w=m
C2個の差分部分空間Dijを求める。
【0056】3.差分部分空間Dijの共通部分空間を求
める。そのために射影行列w個の射影行列Dk を平均し
た生成行列Gを求める。
【0057】
【数10】 ここでαk は以下の式を満たす正の実数である。
【0058】
【数11】 生成行列Gの固有値は、0.0〜1.0に分布する。
0.0に対応する固有ベクトルは共通空間に完全に直交
する空間を形成する基底ベクトルとなる。1.0に対応
する固有ベクトルは、共通空間を形成する固有ベクトル
である。これ以外の固有値に対応する固有ベクトルは、
固有値の大きさが共通空間との近さを表す指標になって
いる。ここでは、固有値が0より大きい固有ベクトルを
共通空間Dを張る基底ベクトルとする。また、パラメ
ータαを調整することにより、各部分空間の重みを変え
ることができる。
【0059】この差分部分空間は、2つの部分空間が同
じ照明条件で生成されているため、照明変動成分を含ま
ない。よって、この部分空間を制約部分空間とすれば照
明変動成分の影響を抑えた識別を実現することができ
る。定性的には、照明変動は主に頬、額領域に影響を及
ぼすため、この領域の情報を無視することで照明変動に
対するロバスト性が向上する。
【0060】また、差分部分空間は、他人との違いを強
調して類似した人物同士に対する識別分解能を向上させ
る効果がある。目、口、鼻など他人との差が表れ易い特
徴的な領域のパターン情報を重視して、逆にほほや額領
域などの他人との区別には有効でないパターン情報は無
視されることになる。
【0061】差分部分空間は、各人物毎に準備しても良
い。この場合は、当人と他人との差分部分空間の共通部
分空間がその人物固有の差分部分空間となる。各自に対
して異なる差分部分空間が準備されることになる。
【0062】なお、部分空間に対する各操作に関する詳
細は、文献〔エルッキ・オヤ著、小川英光、佐藤誠訳、
“パターン認識と部分空間法”産業図書、1986〕あるい
は〔Therrien,C.W.,"Eigenvalue properties of projec
tion operators and their application to the subspa
ce method of feature extraction",IEEE Trans.Compu
t,C-24,p.944-948,1975〕に詳しい。
【0063】(自己変動部分空間)同一人物の変形を表
す部分空間を“自己変動部分空間”と呼ぶ。自己変動部
分空間Sは、各人物の部分空間の第2基底ベクトル以
降が張る部分空間の共通部分空間として定義される。
【0064】(差分部分空間と自己変動部分空間の組み
合わせ)差分部分空間と自己変動部分空間との相関は高
い。差分部分空間から自己変動成分に近い部分空間を取
り除くことができれば、さらに識別性能が向上する。
【0065】
【数12】 ここでSは部分空間Sの射影行列、Iは単位行列を示
している。
【0066】制約部分空間Lは、以下に示す生成行列
GL の0より大きい固有値に対応する固有ベクトルが張
る部分空間として求まる。
【0067】
【数13】 ここで、重み係数α,βは正の実数である。
【0068】または文献「エルッキ・オヤ著:“パター
ン認識と部分空間法”産業図書(1986)」に述べてある
2つの部分空間を直交化する方法を用いて、差分部分空
間と自己変動部分空間を直交化すれば良い。
【0069】あるいは、参考文献〔エルッキ・オヤ著:
“パターン認識と部分空間法”産業図書(1986年)〕に
述べてある学習部分空間法の考え方を用いて差分部分空
間を自己変動部分空間から遠ざける方向に回転させるこ
ともできる。この場合の回転方向は、差分部分空間と自
己変動部分空間に相互部分空間法を適用して求まる最小
角度を成す2つのベクトルu,vの中で自己変動部分空
間に属するベクトルvに直交する方向とすることができ
る。
【0070】
【実施例】本発明は、画像を初めとして様々なパターン
の認識に適用可能であるが、説明をより具体的に行なう
ために、顔画像を対象にした場合を説明する。
【0071】(顔画像認識装置10の内容)以下、本発
明の実施例を顔画像認識装置10を例に取って説明す
る。
【0072】図1は、顔画像認識装置10の概略構成図
を示すブロック図である。顔画像認識装置10は、画像
入力部11、顔領域抽出部12、顔特徴点抽出部13、
正規化画像生成部14、部分空間生成部15、部分空間
射影部16、制約部分空間格納部17、相互部分空間類
似度計算部18、辞書部分空間格納部19、判定部2
0、表示部21からなる。
【0073】図2は、予めオフラインで行う辞書部分空
間生成の流れを示している。
【0074】図3は、制約相互部分空間法の概念を示し
ている。
【0075】そして、この顔画像認識装置10は、IT
Vカメラをパソコンに接続してその機能を実現できる。
この場合に、顔領域抽出部12、顔特徴点抽出部13、
正規化画像生成部14、部分空間生成部15、部分空間
射影部16、相互部分空間類似度計算部18、判定部2
0の各機能を実現するプログラムをFD,CD−RO
M,DVDなどの記録媒体に記録させておき、それをパ
ソコンに記憶させれば良い。
【0076】(画像入力部11)画像入力部11は、認
識対象となる人物の画像を入力するためのものであり、
例えばITVカメラからなる。この画像入力部11から
入力された画像01はA/D変換器によりデジタル化さ
れて顔領域抽出部12に送られる。例えば、ITVカメ
ラはモニタの下部に設置される。あるいはモニタの四角
に設置しても良い。
【0077】(顔領域抽出部12)顔領域抽出部12
は、画像入力部11から送られてきた入力画像から顔領
域画像02を常時抽出し続ける。
【0078】本実施例では、予め登録された標準顔画像
(テンプレート)を全画面に渡って移動させながら相関
値を計算し最も高い相関値をもっている領域を顔領域と
する。相関値が設定されたしきい値より低い場合は、顔
が存在しないとする。顔の向き変化に対応する為に部分
空間法や複合類似度などにより複数のテンプレートを用
いるとさらに安定に顔領域を抽出できる。この処理はカ
ラー情報に基づく抽出法に置き換えて良い。
【0079】(顔特徴点抽出部13)顔特徴点抽出部1
3では、抽出された顔領域内から瞳、鼻、口端などの特
徴点を抽出する。形状情報とパターン情報を組み合わせ
た方法〔特願平8−61463号〕が適用可能である。
【0080】この方法の基本的な考えは、位置精度の高
い形状情報により特徴点の候補を求め、それをパターン
照合で検証するというものである。本方法は形状情報に
より位置決めを行なうので高い位置精度が期待できる。
【0081】また、候補群からの正しい特徴点の選択
に、マルチテンプレートを用いたマッチングを適用して
いる為に特徴点の形状輝度の変動に対してロバストであ
る。処理速度に関しては、計算コストの少ない分離度フ
ィルターで絞り込んだ候補に対してのみパターン照合す
るので全体をパターン照合する方法に比べ計算量の大幅
な削減が実現できる。この他にも、エッジ情報に基づく
方法〔坂本静生、宮尾陽子、田島譲二、“顔画像からの
目の特徴点抽出”、信学論D-II,Vol.J76-D-II,No.
8,pp.1796-1804,August,1993〕、〔A.L.Yuillc,"Feat
ure extraction from faces using deformable templat
es",IJCV,vol.8:2,pp.99-111,1992〕や固有空間法を適
用したEigen feature 法〔Alex Pentland,Rahark Mogha
ddam,ThadStarner,"View-based and modular eigenspac
es for face recognition",CVPR '94,PP.84-91,199
4〕、カラー情報〔佐々木努、赤松茂、末永康仁、“顔
画像認識のための色情報を用いた顔の位置合わせ法”、
IE91-2,pp.9-15,1991 〕に基づく方法が適用可能であ
る。
【0082】(正規化画像生成部14)正規化画像生成
部14では、特徴点を基準にして正規化を施す。例え
ば、文献〔山口修、福井和広、前田賢一、“動画像を用
いた顔認識システム”、信学技報、PRMU97-50,pp.17-24,
1997〕に示された瞳、鼻穴を基準にした正規化処理を適
用しても良い。この場合は、両瞳を結んだベクトル、及
び鼻穴の中点と瞳中点を結んだベクトルの方向を、それ
ぞれ水平、垂直に変換し、その長さを一定になるように
アフィン変換を施す。
【0083】(部分空間生成部15)部分空間生成部1
5では、正規化画像生成部で逐次生成される正規化画像
をヒストグラム平坦化、ベクトル長正規化を施した後で
メモリに蓄える。予め規定された枚数の正規化画像が蓄
えられたら、入力部分空間の生成を開始する。部分空間
を逐次生成するために、同時反復法〔エルッキ・オヤ
著、小川英光、佐藤誠訳、“パターン認識と部分空間
法”,産業図書、1986年〕を適用する。これにより新し
い正規化画像が入力される毎に部分空間が更新されてゆ
く。
【0084】なお、入力部分空間を生成するまでの処理
についての詳細は、特許〔人物認証装置及び人物認証方
法:特開平9−251534号〕及び文献〔山口修、福
井和広、前田賢一、“動画像を用いた顔認識システ
ム”、信学技報、PRMU97-50,pp.17-24,1997 〕に詳し
い。
【0085】(部分空間射影部16)部分空間射影部1
6では、部分空間生成部15で生成された入力部分空間
Pinを制約部分空間格納部17に格納された制約部分
空間L上へ射影した部分空間Pin L を以下の手順に
より求める。
【0086】1.部分空間Pを張るm個の基底ベクトル
を制約部分空間上へ射影する。
【0087】2.各射影ベクトルの長さを正規化する。
【0088】3.m個の正規化ベクトルに対してグラムシ
ュミットの直交化を施す。
【0089】4.直交化されたm個の正規化ベクトルが射
影部分空間Pin L の基底ベクトルとなる。
【0090】各部分空間の次元はデータの種類に応じて
実験的に決める。例えば差分部分空間の次元数は70、
自己変動部分空間の次元は20次元、入力部分空間の次
元は5次元と設定する。重みパラメータに関しては同様
に実験的に決める。例えばα=0.7、β=0.1など
と設定する。
【0091】辞書部分空間格納部19に格納された人物
iの辞書部分空間HL i は、各人物に対応する部分空
間Hi を制約部分空間へ射影した部分空間として予め
オフライン処理で部分空間射影部16により求めてお
く。この手順を図2に示す。
【0092】(相互部分空間類似度計算部18)相互部
分空間類似度計算部18では、入力部分空間Pin L
辞書部分空間格納部19に格納された人物iの辞書部分
空間Hi L 間の最大cos2 θを式(13)より求め
る。あるいは、2番目、3番目の固有値を考慮した類似
度を求めても良い。例えば、N番目までの固有値の荷重
平均や乗和、あるいは固有値の分布自体をベクトルと見
なして類似度とすることもできる。この類似度を辞書登
録されているm人に対して求める。
【0093】(判定部20)判定部20では、m人の中
で最も類似度が高く、その値が予め設定されたしきい値
より大きい場合、対応する人物iを本人と同定する。こ
の場合、第2候補以降の類似度も考慮して決定しても良
い。例えば、第2候補との類似度の差がしきい値より小
さい場合は不確定とすることができる。
【0094】(表示部21)CRT、スピーカなどの表
示部21では、識別結果を画面に表示したり音声で知ら
せる。
【0095】(制約部分空間の生成)ここでは、差分部
分空間と自己変動部分空間の生成手順について説明す
る。
【0096】(1) 各人物の部分空間生成 照明条件一定においてm人に対して複数枚の顔画像デー
タを文献〔山口修、福井和広、前田賢一、“動画像を用
いた顔認識システム”、信学技報、PRMU97-50,pp.17-2
4,1997 〕の方法により収集する。その際被験者の数は
多い程好ましい。また収集の際には、被験者に顔を左右
上下に向けてもらう。収集した正規化画像データに対し
て、ヒストグラム平坦化、ベクトル長正規化などの前処
理を行った後に、KL展開を適用して部分空間を張る基
底ベクトルを求める。
【0097】(2) 差分部分空間の生成 生成手順を図4に示す。
【0098】(1) で生成したm個の部分空間から2つの
部分空間を取り出して、その差分部分空間を求める。こ
れをmC2個の組合せについて行う。さらにmC2
個の差分部分空間の共通部分空間を式(24)により求
め、差分部分空間とする。
【0099】あるいは、差分部分空間は人物i,jの2
つの部分空間から求めるのではなく、人物i,jの正規
化画像の差分画像の集合から求めることも可能である。
異なる人物間の差分画像を、全ての組み合わせについて
求める。収集した差分画像のデータセットに対してKL
展開を適用して固有ベクトルを求める。固有値が基準よ
り大きい固有ベクトルを差分部分空間を張る基底ベクト
ルとする。
【0100】(3) 自己変動部分空間の生成 (1) で生成した各部分空間の第2基底ベクトル以降が張
る部分空間を各人の自己変動部分空間として求める。求
まったm個の自己変動部分空間の共通部分空間が自己変
動部分空間となる。
【0101】(4) 差分部分空間と自己変動部分空間を融
合した制約部分空間を式(29)により求める。
【0102】(経年変化に対する制約部分空間)
【数14】 ここで、重み係数α,β,γは正の実数である。
【0103】さらに、3つ以上の制約部分空間の統合も
以下の式により容易に行える。
【0104】
【数15】 ここで、αは正の実数、Li ,i=l,nは制約部分空
間Li に対応する射影行列を表している。
【0105】(前処理の併用)本実施例では、TVカメ
ラから得られる輝度画像を対象とする例について説明し
た。
【0106】既に述べた様に、本発明において、入力パ
ターンの種類に関する制限は無い。輝度画像から直接生
成した差分部分空間は照明変動の影響が多少残っている
と思われるので、濃淡情報を照明変動の受け難い特徴量
に変換した後、本発明を適用すれば、さらに識別性能の
向上が期待できることは容易に類推できる。例えば、文
献〔赤松茂、佐々木努、深町映夫、末永康仁、“濃淡画
像マッチングによるロバストな正面顔の識別法−フーリ
エスペクトルによるKL展開の応用−”、信学論(D-I
I)、J76-DII,7,pp.1363-1373,1993〕に述べられてある様
に、濃淡画像から生成したフーリエスペクトルパターン
を入力としても本発明の効果が増す。
【0107】(情報フィルタリング処理への適用)図7
は、キーワードを使ってデータベース検索を行う情報フ
ィルタリング装置100に関する構成図である。
【0108】情報フィルタリング装置100は、プロフ
ァイル入力部101、部分空間生成部102、部分空間
射影部103、制約部分空間格納部104、類似度算出
部105、辞書部分空間格納部106、判定部107か
ら構成される。
【0109】情報フィルタリングでは、ユーザの関心や
興味を記述したプロファイルとの類似度を算出し、類似
度順にランキングする。
【0110】ここで類似度の算出は、ベクトル空間法を
ベースに行う〔住田一男他、情報フィルタリング技術、
東芝レビュー、Vol.51,No.1,pp.42-44(1996)〕。
【0111】本実施例では、一つのプロファイルを一つ
の部分空間に対応させる。このためには、データ全体を
一度にベクトル化するのではなく、ある規則で区切られ
たデータ、例えば、章毎のデータに対してベクトル化を
行う。章毎に得られたベクトル群から部分空間を生成す
る。なお類似度は部分空間と部分空間の成す角度から得
られる値とする。
【0112】プロファイル入力部101に入力されたプ
ロファイルは、部分空間生成部102において部分空間
に変換される。入力部分空間は、部分空間射影部103
において制約部分空間格納部104に格納された制約部
分空間上に射影される。
【0113】射影された入力部分空間は、類似度算出部
105に送られて辞書部分空間格納部104に格納され
た辞書部分空間との類似度が相互部分空間法により求め
られる。
【0114】類似度は判定部107に送られて入力プロ
ファイルがどのプロファイルに近いかを判定する。
【0115】本実施例で用いる制約部分空間は、予め用
意された複数の部分空間に対して、以下の手順により生
成する。
【0116】1.異なるプロファイルとして分類すべき2
つの部分空間の差分部分空間を全ての組み合わせに対し
て求める。
【0117】2.求めた差分部分空間から共通部分空間を
求め、この求めた制約部分空間1とする。
【0118】3.同じプロファイルと分類したい2つの部
分空間の差分部分空間を全ての組み合わせについて求め
る。
【0119】4.求めた差分部分空間の共通部分空間を求
めて、さらにこの共通部分空間と直交する部分空間を制
約部分空間2とする。
【0120】5.制約部分空間1と制約部分空間2を組み
合わせた部分空間を最終的な制約部分空間とする。
【0121】上記の制約部分空間を用いることにより、
精度の悪いキーワードを選択しても、自動的にこれらの
影響を取り除いて安定なデータベース検索が行える。
【0122】なお、本発明は、上記の顔画像パターンの
認識以外に、音声パターン、情報フィルタリングにおけ
るプロファイルパターンなどあらゆるパターン情報に対
しても成り立つ。
【0123】
【発明の効果】以上、本発明によれば、パターン情報を
収得する際に混入する識別に不必要な情報を効率良く取
り除いてパターン認識を安定に行うことができる。特
に、顔画像認識に適用すると、高い変形吸収能力と照明
変動に対する高いロバスト性が実現できる。
【図面の簡単な説明】
【図1】顔画像認識装置10の構成図である。
【図2】辞書部分空間の生成手順の説明図である。
【図3】制約相互部分空間法の説明図である。
【図4】差分部分空間の生成の説明図である。
【図5】自己変動部分空間の生成の説明図である。
【図6】複数の制約部分空間の統合の説明図である。
【図7】情報フィルタリング装置の構成図である。
【符号の説明】
11 画像入力部 12 顔領域抽出部 13 顔特徴点抽出部 14 正規化画像生成部 15 部分空間生成部 16 制約部分空間格納部 17 辞書部分空間格納部 18 部分空間射影部 19 相互部分空間計算部 20 判定部 21 表示部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鈴木 薫 兵庫県神戸市東灘区本山南町8−6−26 株式会社東芝関西研究所内 (72)発明者 前田 賢一 兵庫県神戸市東灘区本山南町8−6−26 株式会社東芝関西研究所内 Fターム(参考) 5B043 BA04 EA04 EA11 GA01 HA02 5B057 AA20 BA02 BA29 CD01 CE09 DA07 DA11 DA16 DC19 DC33 5L096 BA18 CA02 EA13 EA35 FA25 HA08 JA03

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】認識したい対象の入力パターンを入力する
    入力手段と、 前記入力手段の入力パターンから入力部分空間を算出す
    る入力部分空間算出手段と、 前記対象に関する辞書パターンから辞書部分空間を算出
    する辞書部分空間算出手段と、 パターン認識において不要なパターンの条件を抑制する
    ための制約条件から制約部分空間を算出する制約条件算
    出手段と、 前記入力部分空間算出手段の入力部分空間と、前記辞書
    部分空間算出手段の辞書部分空間を、前記制約条件算出
    手段の制約部分空間に射影する射影手段と、 前記射影手段によって射影された制約部分空間内の入力
    部分空間と辞書部分空間とから、前記対象を識別する識
    別手段を具備したことを特徴とするパターン認識装置。
  2. 【請求項2】前記識別手段は、 前記射影手段によって射影された制約部分空間内におけ
    る入力部分空間と辞書部分空間との成す角度である正準
    角を計算し、 この計算した正準角に基づいて、前記入力部分空間と前
    記辞書部分空間との類似度を計算することを特徴とする
    請求項1記載のパターン認識装置。
  3. 【請求項3】前記制約条件算出手段は、 パターン認識において不要なパターンの条件を発生させ
    る要因の影響下において算出された複数の第1部分空間
    から求まる差分部分空間の集合から、前記要因の影響を
    取除いた第2部分空間を生成し、 この生成した第2部分空間を前記制約部分空間とするこ
    とを特徴とする請求項1記載のパターン認識装置。
  4. 【請求項4】前記制約条件算出手段は、 前記対象に関する部分空間内の自己変動を表す複数の自
    己変動部分空間の集合から自己変動成分を取除いた第3
    部分空間を生成し、 この生成した第3部分空間を前記制約部分空間とするこ
    とを特徴とする請求項1記載のパターン認識装置。
  5. 【請求項5】前記制約条件算出手段は、 パターン認識において不要なパターンの条件を発生させ
    る要因の影響下において算出された複数の第1部分空間
    から求まる差分部分空間の集合から、前記要因の影響を
    取除いた第2部分空間を生成し、 前記対象に関する部分空間内の自己変動を表す複数の自
    己変動部分空間の集合から自己変動成分を取除いた第3
    部分空間を生成し、 この生成した第2部分空間と第3部分空間とから前記制
    約部分空間を求めることを特徴とする請求項1記載のパ
    ターン認識装置。
  6. 【請求項6】認識したい対象の入力パターンを入力する
    入力ステップと、 前記入力ステップにおける入力パターンから入力部分空
    間を算出する入力部分空間算出ステップと、 前記対象に関する辞書パターンから辞書部分空間を算出
    する辞書部分空間算出ステップと、 パターン認識において不要なパターンの条件を抑制する
    ための制約条件から制約部分空間を算出する制約条件算
    出ステップと、 前記入力部分空間算出ステップの入力部分空間と、前記
    辞書部分空間算出ステップの辞書部分空間を、前記制約
    条件算出ステップの制約部分空間に射影する射影ステッ
    プと、 前記射影ステップによって射影された制約部分空間内の
    入力部分空間と辞書部分空間とから、前記対象を識別す
    る識別ステップを具備したことを特徴とするパターン認
    識方法。
  7. 【請求項7】認識したい対象の入力パターンを入力する
    入力機能と、 前記入力機能における入力パターンから入力部分空間を
    算出する入力部分空間算出機能と、 前記対象に関する辞書パターンから辞書部分空間を算出
    する辞書部分空間算出機能と、 パターン認識において不要なパターンの条件を抑制する
    ための制約条件から制約部分空間を算出する制約条件算
    出機能と、 前記入力部分空間算出機能の入力部分空間と、前記辞書
    部分空間算出機能の辞書部分空間を、前記制約条件算出
    機能の制約部分空間に射影する射影機能と、 前記射影機能によって射影された制約部分空間内の入力
    部分空間と辞書部分空間とから、前記対象を識別する識
    別機能を実現するプログラムを記録したことを特徴とす
    るパターン認識方法の記録媒体。
JP19912898A 1998-07-14 1998-07-14 パターン認識装置及びその方法 Expired - Fee Related JP4087953B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP19912898A JP4087953B2 (ja) 1998-07-14 1998-07-14 パターン認識装置及びその方法
US09/352,839 US6466685B1 (en) 1998-07-14 1999-07-13 Pattern recognition apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP19912898A JP4087953B2 (ja) 1998-07-14 1998-07-14 パターン認識装置及びその方法

Publications (2)

Publication Number Publication Date
JP2000030065A true JP2000030065A (ja) 2000-01-28
JP4087953B2 JP4087953B2 (ja) 2008-05-21

Family

ID=16402615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP19912898A Expired - Fee Related JP4087953B2 (ja) 1998-07-14 1998-07-14 パターン認識装置及びその方法

Country Status (1)

Country Link
JP (1) JP4087953B2 (ja)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002157596A (ja) * 2000-11-17 2002-05-31 Sony Corp ロボット装置及び顔識別方法
JP2003196017A (ja) * 2001-12-25 2003-07-11 Gen Tec:Kk データ入力方法及び同装置等
JP2004038713A (ja) * 2002-07-05 2004-02-05 Toshiba Corp 物体識別装置、物体識別方法、辞書生成装置、プログラム
US6975763B2 (en) 2000-07-12 2005-12-13 Minolta Co., Ltd. Shade component removing apparatus and shade component removing method for removing shade in image
JP2007079710A (ja) * 2005-09-12 2007-03-29 Toshiba Corp パターン認識装置およびその方法
US7224835B2 (en) 2002-02-25 2007-05-29 Kabushiki Kaisha Toshiba Three-dimensional object recognizing apparatus, method and computer program product
JP2007316809A (ja) * 2006-05-24 2007-12-06 Fujifilm Corp 顔照合装置および方法並びにプログラム
WO2007145235A1 (ja) * 2006-06-16 2007-12-21 National Institute Of Advanced Industrial Science And Technology 異常領域検出装置および異常領域検出方法
EP1953675A1 (en) 2007-01-30 2008-08-06 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium
JP2008191754A (ja) * 2007-02-01 2008-08-21 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法
JP2008287478A (ja) * 2007-05-17 2008-11-27 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法
EP2009577A1 (en) 2007-06-29 2008-12-31 Canon Kabushiki Kaisha Image-processing apparatus and method, program, and storage medium
US7532745B2 (en) 2002-02-27 2009-05-12 Nec Corporation Image recognition system and recognition method thereof, and program
US7593551B2 (en) 2001-12-14 2009-09-22 Nec Corporation Face meta-data generation and face similarity calculation
US7957560B2 (en) 2006-06-16 2011-06-07 National Institute Of Advanced Industrial Science And Technology Unusual action detector and abnormal action detecting method
US7995805B2 (en) 2006-08-30 2011-08-09 Canon Kabushiki Kaisha Image matching apparatus, image matching method, computer program and computer-readable storage medium
WO2011108061A1 (ja) 2010-03-01 2011-09-09 富士通株式会社 生体情報処理装置及び方法
US8045418B2 (en) 2006-03-29 2011-10-25 Kabushiki Kaisha Toshiba Position detecting device, autonomous mobile device, method, and computer program product
US8254691B2 (en) 2007-06-18 2012-08-28 Canon Kabushiki Kaisha Facial expression recognition apparatus and method, and image capturing apparatus
US8264327B2 (en) 2008-06-16 2012-09-11 Canon Kabushiki Kaisha Authentication apparatus, image sensing apparatus, authentication method and program therefor
US8879802B2 (en) 2010-12-01 2014-11-04 Canon Kabushiki Kaisha Image processing apparatus and image processing method

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6975763B2 (en) 2000-07-12 2005-12-13 Minolta Co., Ltd. Shade component removing apparatus and shade component removing method for removing shade in image
JP2002157596A (ja) * 2000-11-17 2002-05-31 Sony Corp ロボット装置及び顔識別方法
US7593551B2 (en) 2001-12-14 2009-09-22 Nec Corporation Face meta-data generation and face similarity calculation
JP2003196017A (ja) * 2001-12-25 2003-07-11 Gen Tec:Kk データ入力方法及び同装置等
US7224835B2 (en) 2002-02-25 2007-05-29 Kabushiki Kaisha Toshiba Three-dimensional object recognizing apparatus, method and computer program product
US7532745B2 (en) 2002-02-27 2009-05-12 Nec Corporation Image recognition system and recognition method thereof, and program
US8027522B2 (en) 2002-02-27 2011-09-27 Nec Corporation Image recognition system and recognition method thereof and program
JP2004038713A (ja) * 2002-07-05 2004-02-05 Toshiba Corp 物体識別装置、物体識別方法、辞書生成装置、プログラム
JP2007079710A (ja) * 2005-09-12 2007-03-29 Toshiba Corp パターン認識装置およびその方法
JP4514680B2 (ja) * 2005-09-12 2010-07-28 株式会社東芝 パターン認識装置およびその方法
US8045418B2 (en) 2006-03-29 2011-10-25 Kabushiki Kaisha Toshiba Position detecting device, autonomous mobile device, method, and computer program product
JP2007316809A (ja) * 2006-05-24 2007-12-06 Fujifilm Corp 顔照合装置および方法並びにプログラム
JP2007334766A (ja) * 2006-06-16 2007-12-27 National Institute Of Advanced Industrial & Technology 異常領域検出装置および異常領域検出方法
JP4603512B2 (ja) * 2006-06-16 2010-12-22 独立行政法人産業技術総合研究所 異常領域検出装置および異常領域検出方法
US7957560B2 (en) 2006-06-16 2011-06-07 National Institute Of Advanced Industrial Science And Technology Unusual action detector and abnormal action detecting method
WO2007145235A1 (ja) * 2006-06-16 2007-12-21 National Institute Of Advanced Industrial Science And Technology 異常領域検出装置および異常領域検出方法
US7995805B2 (en) 2006-08-30 2011-08-09 Canon Kabushiki Kaisha Image matching apparatus, image matching method, computer program and computer-readable storage medium
US8165399B2 (en) 2007-01-30 2012-04-24 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
US8494233B2 (en) 2007-01-30 2013-07-23 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
EP1953675A1 (en) 2007-01-30 2008-08-06 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium
JP2008191754A (ja) * 2007-02-01 2008-08-21 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法
JP2008287478A (ja) * 2007-05-17 2008-11-27 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法
US8254691B2 (en) 2007-06-18 2012-08-28 Canon Kabushiki Kaisha Facial expression recognition apparatus and method, and image capturing apparatus
EP2009577A1 (en) 2007-06-29 2008-12-31 Canon Kabushiki Kaisha Image-processing apparatus and method, program, and storage medium
US8538091B2 (en) 2007-06-29 2013-09-17 Canon Kabushiki Kaisha Image processing apparatus and method, and storage medium
US8264327B2 (en) 2008-06-16 2012-09-11 Canon Kabushiki Kaisha Authentication apparatus, image sensing apparatus, authentication method and program therefor
WO2011108061A1 (ja) 2010-03-01 2011-09-09 富士通株式会社 生体情報処理装置及び方法
US8736421B2 (en) 2010-03-01 2014-05-27 Fujitsu Limited Biometric information processing apparatus and biometric information processing method
US8879802B2 (en) 2010-12-01 2014-11-04 Canon Kabushiki Kaisha Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP4087953B2 (ja) 2008-05-21

Similar Documents

Publication Publication Date Title
CN107194341B (zh) Maxout多卷积神经网络融合人脸识别方法和系统
JP2000030065A (ja) パターン認識装置及びその方法
Tang et al. Face sketch synthesis and recognition
Alyuz et al. 3-D face recognition under occlusion using masked projection
Chakrabarti et al. Facial expression recognition using eigenspaces
CN111754637B (zh) 一种样本相似度抑制的大尺度三维人脸合成系统
Haji et al. Real time face recognition system (RTFRS)
Song et al. Robust 3D face landmark localization based on local coordinate coding
Angadi et al. Face recognition through symbolic modeling of face graphs and texture
Li et al. Location-sensitive sparse representation of deep normal patterns for expression-robust 3D face recognition
Mahmud et al. Face detection and recognition system
Chouchane et al. 3D and 2D face recognition using integral projection curves based depth and intensity images
TW201828156A (zh) 圖像識別方法、度量學習方法、圖像來源識別方法及裝置
Sharma et al. 3D face recognition techniques-a review
Zhou et al. Real-time gender recognition based on eigen-features selection from facial images
Gona et al. Multimodal biometric reorganization system using deep learning convolutional neural network
Li et al. A group of facial normal descriptors for recognizing 3D identical twins
Ming et al. Efficient 3d face recognition with Gabor patched spectral regression
Mahdi et al. 3D facial matching by spiral convolutional metric learning and a biometric fusion-net of demographic properties
CN111739168B (zh) 一种样本相似度抑制的大尺度三维人脸合成方法
Wang Research on facial feature-based gender intelligent recognition based on the Adaboost algorithm
CN111428670B (zh) 人脸检测方法、装置、存储介质及设备
Dharejo et al. PCA based improved face recognition system
Zafeiriou et al. Learning discriminant person-specific facial models using expandable graphs
Goranin et al. Evolutionary Algorithms Application Analysis in Biometric Systems.

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080222

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110228

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120229

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120229

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130228

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140228

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees