JP3621245B2 - 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体 - Google Patents

人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体 Download PDF

Info

Publication number
JP3621245B2
JP3621245B2 JP34261897A JP34261897A JP3621245B2 JP 3621245 B2 JP3621245 B2 JP 3621245B2 JP 34261897 A JP34261897 A JP 34261897A JP 34261897 A JP34261897 A JP 34261897A JP 3621245 B2 JP3621245 B2 JP 3621245B2
Authority
JP
Japan
Prior art keywords
recognition
information
registration
update
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP34261897A
Other languages
English (en)
Other versions
JPH11175718A (ja
Inventor
修 山口
和広 福井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP34261897A priority Critical patent/JP3621245B2/ja
Priority to US09/209,281 priority patent/US6608914B1/en
Publication of JPH11175718A publication Critical patent/JPH11175718A/ja
Priority to US10/454,476 priority patent/US6697505B2/en
Application granted granted Critical
Publication of JP3621245B2 publication Critical patent/JP3621245B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術の分野】
本発明は、人物認識装置及びその方法に関する。
【0002】
【従来の技術】
近年、セキュリティへの関心が高まっている。人間の生体情報を利用する個人認識法は、顔、声紋、指紋、虹彩から特徴量を識別することによって人物の同定を行う。
【0003】
中でも顔を利用した場合は、利用者に精神的、肉体的負担をかけることなく認識でき、カメラなどで容易にデータが取得出来るといった特徴がある。
【0004】
顔の認識方法については、さまざまな研究報告、文献があるが、サーベイ文献として、文献(赤松茂:「コンピュータによる顔の認識の研究動向」電子情報通信学会誌Vol.80No.3pp.257−266(1997))がある。この文献では、登録された顔画像から時間をあけて撮影された場合に、識別率が40%〜60%に落ち込むことが報告されている。
【0005】
特開平9−138851号では、カードに顔の情報を書き込むことにより、カードの所有者かどうかを同定する方法がある。
【0006】
カードの盗用を防ぐためにもカードの顔の特徴情報を書き換えることを行っている。この方法では、随時、認識時のデータと完全な置き換えを行っているので、次回の認識まで時間間隔は自動的に短くなるが、それだけでは認識の精度を落してしまうという問題がある。
【0007】
【発明が解決しようとする課題】
人間を識別する場合、一般に指紋などの変化しないものを利用するのが好ましい。しかし、指紋などは利用者に精神的な不快感を与えるなどの問題がある。
【0008】
非接触に認識を行うことできるものとして、声紋や顔などがあげられ、人間を識別するための情報として有効かつ、利用者に負担をかけなくて良い。
【0009】
しかし、顔の場合には、髪型、化粧、髭、体調などを起因とする経時変化や、成長、老化といった経年変化がある。さらに、表情変化、顔の向きの変化などの変動要因もある。
【0010】
声紋などに関しても、経時変化がみられる。
【0011】
図2は、ある人物の登録データとの類似度を時間方向に模式的に表したものである。横軸が登録からの日数、縦軸が類似度を0.0〜1.0で表し、1.0が全く同じであることを表す。図のように、日数が経過する毎に、類似度が低下していくのが一般的であり、正確な認証を行うためにはただ一度の登録だけでは不十分である。
【0012】
そこで本発明は、経時変化、経年変化の影響を軽減することができる人物認識装置及びその方法を提供する。
【0013】
【課題を解決するための手段】
請求項1の発明は、認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出手段と、前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出手段と、過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持手段と、前記認識情報算出手段が算出した部分空間、または、前記特徴量抽出手段が抽出した特徴量と、前記登録情報保持手段に保持された登録認識情報の部分空間を用いて前記人物の認識を行う認識手段と、前記認識情報算出手段が求めた相関行列と、前記登録情報保持手段に保持された前記人物に関する相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新手段とを備えたことを特徴とする人物認識装置である。
【0014】
請求項2の発明は、前記登録情報更新手段は、前記登録情報保持手段の登録認識情報の更新に関する所定の更新方法を求める更新判断手段と、新たに更新する登録認識情報を、前記更新判断手段によって求めた更新方法に基づいて、生成する更新情報生成手段からなることを特徴とする請求項1記載の人物認識装置である。
【0015】
請求項3の発明は、前記登録情報保持手段は、一人の対象人物、または、一つのグループに関して複数の登録認識情報を保持し、前記認識手段は、前記登録情報保持手段の前記一人の対象人物、または、前記一つのグループにに関する複数の登録認識情報を用いて認識を行うことを特徴とする請求項1記載の人物認識装置である。
【0016】
請求項4の発明は、前記更新判断手段は、前記認識情報算出手段が算出した認識情報の中で所定の規則に基づいて更新の対象となる認識情報を選択し、前記更新情報生成手段は、前記更新判断手段によって選択された認識情報を用いて、新たな登録認識情報を生成することを特徴とする請求項2記載の人物認識装置である。
【0017】
請求項5の発明は、前記更新判断手段は、前記認識手段によって用いられた登録認識情報の登録時、または、更新時の時期に基づいて更新条件を求め、前記更新情報生成手段は、前記更新判断手段によって求めた更新条件に基づいて、新たな登録認識情報を生成することを特徴とする請求項2記載の人物認識装置である。
【0018】
請求項6の発明は、前記認識手段は、一の類似度計算方法によって認識を行い、前記更新判断手段は、認識情報の選択を行うために、前記認識手段の一の類似度計算方法とは異なる他の類似度計算方法を用いることを特徴とする請求項4記載の人物認識装置である。
【0019】
請求項7の発明は、認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出ステップと、前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出ステップと、過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持ステップと、前記認識情報算出ステップで算出した部分空間、または、前記特徴量抽出ステップ抽出した特徴量と、前記登録情報保持ステップにおいて保持された登録認識情報の部分空間を用いて前記人物の認識を行う認識ステップと、前記認識情報算出ステップで求めた相関行列と、前記登録情報保持ステップにおいて保持された前記人物に関する相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新ステップとを備えたことを特徴とする人物認識方法である。
【0020】
請求項8の発明は、前記登録情報更新ステップは、前記登録情報保持ステップにおいて登録認識情報の更新に関する所定の更新方法を求める更新判断ステップと、新たに更新する登録認識情報を、前記更新判断ステップによって求めた更新方法に基づいて、生成する更新情報生成ステップからなることを特徴とする請求項7記載の人物認識方法である。
【0021】
請求項9の発明は、前記登録情報保持ステップは、一人の対象人物、または、一つのグループに関して複数の登録認識情報を保持し、前記認識ステップは、前記登録情報保持ステップにおける前記一人の対象人物、または、前記一つのグループに関する複数の登録認識情報を用いて認識を行うことを特徴とする請求項7記載の人物認識方法である。
【0022】
請求項10の発明は、前記更新判断ステップは、前記認識情報算出ステップが算出した認識情報の中で所定の規則に基づいて更新の対象となる認識情報を選択し、前記更新情報生成ステップは、前記更新判断ステップによって選択された認識情報を用いて、新たな登録認識情報を生成することを特徴とする請求項8記載の人物認識方法である。
【0023】
請求項11の発明は、前記更新判断ステップは、前記認識ステップにおいて用いられた登録認識情報の登録時、または、更新時の時期に基づいて更新条件を求め、前記更新情報生成ステップは、前記更新判断ステップによって求めた更新条件に基づいて、新たな登録認識情報を生成することを特徴とする請求項9記載の人物認識方法である。
【0024】
請求項12の発明は、前記認識ステップは、一の類似度計算方法によって認識を行い、前記更新判断ステップは、認識情報の選択を行うために、前記認識ステップの一の類似度計算方法とは異なる他の類似度計算方法を用いることを特徴とする請求項10記載の人物認識方法である。
【0025】
請求項13の発明は、認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出機能と、前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出機能と、過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持機能と、前記認識情報算出機能で算出した部分空間、または、前記特徴量抽出機能抽出した特徴量と、前記登録情報保持機能において保持された登録認識情報の部分空間を用いて前記人物の認識を行う認識機能と、前記認識情報算出機能で求めた相関行列と、前記登録情報保持機能において保持された前記人物に関する相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新機能とをコンピュータで実現するプログラムを記録したことを特徴とする人物認識プログラムの記録媒体である。
【0026】
請求項1、7または13記載の発明であると、登録認識情報を更新して経時変化を抑制できる。
【0027】
請求項2または8記載の発明であると、認証時に自動的に更新を行うことで、面倒な再登録の必要性をなくし、さらに経時変化に対する認識率の低下を防ぐ。請求項3または9記載の発明であると、ある一人に対して、複数の登録認識情報による識別が可能になり、認証時に、人間が常に同じ状態に調整しなくてよく、対象人物の特徴量の大きな変動に対応できる。また、複数の登録認識情報のいずれかを用いて認識できるようになり、より利便性が向上する。
【0028】
【発明の実施の形態】
以下に本発明の一実施例について説明する。
【0029】
ここでは、認識対象を人間の顔として、TVカメラから画像を入力し、顔を検出して認証を行う人物認識装置10を例として説明する。人物認識装置10は、図1の構成図が示すように、特徴量抽出部12、部分空間算出部14、認識部16、登録情報保持部18、登録情報更新部20とからなる。
【0030】
そして、これらの構成は、TVカメラを接続したパソコンによって実現可能であり、上記構成の機能を動作させるために、ハードディスク、CD−ROM、MD、または、FDにこの機能を実現するためのプログラムを記憶させておく。
【0031】
以下の説明では、画像入力データ、抽出した特徴量、部分空間、部分空間を構成するための固有ベクトル、相関行列、登録の際の時刻、日時、場所などの状況情報、暗証番号、IDコードなどの個人情報の各情報が出てくる。そして、認識データと言うときは、部分空間、または、部分空間を構成するための固有ベクトルを含み、登録情報と言うときは、画像入力データ、抽出した特徴量、部分空間、部分空間を構成するための固有ベクトル、相関行列、状況情報、個人情報を含んでいる。したがって、認識データは登録情報に含まれる。
【0032】
(特徴量抽出部12)
特徴量抽出部12は、対象から特徴量を取出すためのもので、ここでは、図4に示すように、画像認識による顔画像解析を行う。
【0033】
図3は、特徴量抽出部12の構成を示し、画像入力部121、顔領域検出部122、顔部品検出部123、特徴量生成部124とからなる。
【0034】
画像入力部121では、ITVカメラから顔画像を入力し、A/D変換が行われた後、顔領域検出部122に送られる。
【0035】
顔領域検出部122では、画像中から顔の領域を検出する。
【0036】
顔領域検出部122での検出方法は、予め用意されたテンプレートと画像中を移動させながら相関値を求めることにより、最も高い相関値をもった場所を顔領域とする。
【0037】
その他に固有空間法や部分空間法を利用した顔抽出法などの顔検出手段でもよい。
【0038】
次に、顔部品検出部123では、目、鼻、口といった顔部品を検出する。
【0039】
顔部品検出部123では、検出された顔領域の部分の中から、目、鼻の位置を検出する。検出方法は、文献(福井和広、山口修:「形状抽出とパターン照合の組合せによる顔特徴点抽出」, 電子情報通信学会論文誌(D),vol.J80−D−II,No.8,pp2170−−2177(1997))などの方法を用いて良い。
【0040】
次に、特徴量生成部124では、検出された部品の位置をもとに、顔領域を一定の大きさ、形状に切り出し、その濃淡情報を特徴量として用いる。ここでは、mピクセル×nピクセルの領域の濃淡値をそのまま情報として用い、m×n次元の情報を特徴ベクトルとして用いる。
【0041】
図4の上の図は、入力画像を特徴量抽出部12によって処理し得られた顔画像データであり、時系列的に得られたものである。
【0042】
(部分空間算出部14)
部分空間算出部14は、特徴ベクトルの相関行列(または共分散行列)を求め、そのK−L展開による正規直交ベクトル(固有ベクトル)を求めることにより、部分空間を計算する。
【0043】
部分空間は、固有値に対応する固有ベクトルを、固有値の大きな順にk個選び、その固有ベクトル集合を用いて表現する。
【0044】
本実施例では、相関行列Cdを特徴ベクトルから求め、相関行列Cd =Φd Λd Φd と対角化して、固有ベクトルの行列Φを求める。
【0045】
図4は、入力画像を特徴量抽出部12によって処理し得られた顔画像データである。これらのデータを特徴ベクトルの相関行列を求め、K−L展開による正規直交ベクトルを求めることにより、部分空間を計算する。
【0046】
図4の下の図は、その固有ベクトルを画像化して表示したものである。
【0047】
この部分空間は、人物の同定を行うための識別辞書として利用する。
【0048】
予め登録しておいて、それを辞書として登録しておけば良い。
【0049】
また、後で述べるように、部分空間自身を識別を行うための入力データとしてもよい。よって、部分空間算出部14での計算結果は、認識部16、また、登録情報保持部18に送られる。
【0050】
(認識部16)
次に、認識部16について説明する。
【0051】
認識部16は、登録情報保持部18に蓄えられた認識データ(部分空間)と特徴量抽出部12で得られた特徴量、または部分空間算出部14で得られる部分空間とを比較することにより、カメラに写っている人物が誰であるかを識別、または、該当人物であるかどうかを同定する。
【0052】
人物を識別するためには、どの人物のデータに最も類似しているかを求めればよく、最大類似度をとるデータに対応する人物を識別結果とすればよい。
【0053】
また、カードや登録番号、暗証番号、鍵などを用いて、顔による認証を行う場合には、それぞれの人物のカードや番号などの個人情報に対応する認識データとの類似度を計算し、設定した閾値を設定し、その閾値を越えた場合に、その人物と同定する。
【0054】
認識の方法としては、特徴量抽出部12の情報を用いる場合は、部分空間法や複合類似度法などの方法を用いてよい。
【0055】
本実施例での認識方法は、文献(前田賢一、渡辺貞一:「局所的構造を導入したパターン・マッチング法」, 電子情報通信学会論文誌(D),vol.J68−D,No.3,pp345−−352(1985) )にある相互部分空間法を用いる。
【0056】
この方法では、予め蓄えられた登録情報の中の認識データも、入力されるデータも部分空間として表現され、2つの部分空間のなす「角度」を類似度として定義する。ここで入力される部分空間を入力部分空間という。
【0057】
入力データ列に対して同様に相関行列Cinを求め、Cin=ΦinΛinΦinと対角化し、固有ベクトルΦinを求める。
【0058】
二つのΦin,Φd で表される部分空間の部分空間間類似度(0.0〜1.0)を求め、それを認識するための類似度とする。
【0059】
認識部16は、図5のように動作する。
【0060】
まず、認識部16は、識別作業を行うか、同定作業を行うかによって動作が異なる(ステップ1)。
【0061】
同定動作を行う場合は、まず対象とする人物のIDコードを読み込む(ステップ2)。
【0062】
次に対象とするIDコードに対応した登録情報(部分空間)を登録情報保持部18より読み出す(ステップ3)。
【0063】
次に、上述したように、部分空間法等により認識を行うため、各登録情報の部分空間と、入力ベクトル(特徴量抽出部12からの固有ベクトル)、または、入力部分空間との類似度を計算する(ステップ4)。
【0064】
次にその類似度を設定している閾値を比較し(ステップ5,6)、認識結果を出力する(ステップ7)。
【0065】
識別作業を行う場合、識別対象となるデータをすべて登録情報保持部18より読み出す(ステップ8)。
【0066】
そして、それぞれの登録情報との類似度を計算する(ステップ9)。
【0067】
次に計算された類似度のなかから最大のものを選択し(ステップ10)、それを認識結果として出力する(ステップ12)。
【0068】
図5の破線で囲んだステップ11のように、最大類似度を閾値判定することによって、認識結果が正しいかどうかを検証することもできる(ステップ13)。例えば類似度があまりに低い場合には、どの識別対象でもないと判断することもできる。
【0069】
ここで計算された類似度、判定結果などは、登録情報更新部20にも送られ、更新のための情報として利用される。
【0070】
(登録情報保持部18)
登録情報保持部18は、人物を同定するために利用する部分空間(または相関行列など)や、また登録の際の時刻、日時、場所などの状況情報などを蓄積できる。画像入力データや抽出した特徴量などでもよい。
【0071】
本実施例では、部分空間を保持するだけでなく、部分空間を計算するための前段階の相関行列も保持する形態での説明を行う。
【0072】
登録情報保持部18は、一人の人物、またはあるIDコードに対応して、一つまたは複数の認識データを保持する。部分空間は、その取得された時間などの付帯情報とともに記憶される。また、これらの登録情報は、登録情報更新部20の指示により、新規作成、変更、削除などが行われる。
【0073】
複数を保持する理由として、ある一人の人物に対応した複数の部分空間を同時に、認識部16に渡して認識を行うことが挙げられる。
【0074】
図6(a) では、一人の人物に対して複数用意している例で、例えば、眼鏡をかけている場合、眼鏡をはずした場合のように著しく変動が起こる場合に、2つの認識データを用意しておき、いずれかのデータと同定出来た場合に、照合できたとする。
【0075】
眼鏡だけでなく、女性の場合の化粧の有無などにも利用できる。
【0076】
これにより、わざわざ眼鏡を外して認証しなければならないなどの利用者の負担も軽減される。
【0077】
また、図7のように、取得された日時が異なるデータから新たに一つの部分空間を計算し、その部分空間を用いて認識を行うことを実現するために、複数のデータを保持する。これについては、登録情報更新部20にて説明する。
【0078】
また、別の実施形態として、図6(b) は、一つのコードに対して複数認識データを用意している例で、例えば、「家族で使用できるカード」のセキュリティとして、顔認証を用いる場合、複数の顔情報に対応しなければならない。
【0079】
この場合、そのカードを識別する番号に対して、家族の人数分の認識データを用意しておき、いずれかに同定できる場合に、照合できたとする。
【0080】
これにより利便性の向上が計られる。もちろん家族の場合には限らない。
【0081】
(登録情報更新部20)
登録情報更新部20は、登録情報保持部18の登録情報を必要に応じて更新する。登録情報更新部20は、更新の方法、条件を決定する更新判断部201と、この決定された方法、条件によって登録情報の更新を行う更新情報生成部202からなる。
【0082】
<更新判断部201>
更新判断部201の一実施例として、図9のようなフローチャートで動作する。
【0083】
[時間経過に基づいた更新判断]
更新判断部201は、認識部16で行われた認識の結果(入力データと類似度)を受け取る(ステップ91)。
【0084】
次に、認識が行われた認識データの情報を登録情報保持部18から得る(ステップ92)。これは、どの認識データが使われたかということ知るほかに、以前に認識が行われた時間からの経過時間などの情報を得る。
【0085】
認識されたデータと辞書更新が行われた経過時間の大きさと認識の類似度の大きさから判断し、更新を行うかどうかを決定する。まず、経過時間がTs よりも大きいかを検定し(ステップ93)、経過時間が比較的短い場合は、更新パラメータを短期間用に設定する(ステップ94)。このパラメータについては後で説明するが、このパラメータとは後の説明におけるα,β,γi を言う。
【0086】
同様に、経過時間がTl よりも大きいかを検定し(ステップ95)、長い期間認識が行われていなかった場合には、長期間用のパラメータを設定する(ステップ96)。さらに長い期間認識が行われていなかった場合には、大きな変動があったとして、認識データを複数個にする多重化を行っても良い(ステップ97)。このようにして認識データの更新方法を決定する。なお、Ts 、Tl は実験的に決定する。
【0087】
[データレベルの更新判断]
ステップ91で受け取った、認識に使われた入力情報は、その入力データと辞書との類似度が求められている。認識に用いられた入力データの中で、類似度が十分に得られているデータや、変動が大きすぎる入力データや画像処理を誤った検出データなど、更新の際に使用しない方がよいデータを取捨選択する(ステップ93)。
【0088】
まず、各入力データを類似度の大きさに応じて次の3種類に大別する。
【0089】
A.認識を行うための閾値を大きく越えている入力データ(この入力データの場合には、類似度が高いため、あえて新データを使用して更新を行う必要がないために、ここで挙げられている)
B.認識を誤る可能性をもち、辞書に含まれていないバターンである入力デ ータ
C.明らかに誤った認識が行われている入力データ
図10は時系列に入力されるデータ(図中黒丸)に対して、部分空間法によって類似度をそれぞれ求め、その時間的変化をグラフにしたものである。
【0090】
図10に示したように類似度の高いデータや低いデータがそれぞれあり、上述した3種類のデータに関して、A、Bに属するもの、またはBだけに属するもの、といったようにデータを選択する。
【0091】
例えば、先の時間経過による更新判断の際、経過時間が長い場合はA,Bのデータを両方使って更新し、経過時間が短い楊合はBに属するデータのみを用いるといったような構成も可能である。それらの相関行列、または部分空間を計算し、これを更新情報生成部202に送る。
【0092】
もちろん、認識部16とは独立に検定のために予め評価基準(認識法)を用いて類似度を求めてもよい。
【0093】
例えば、認識部16では、人物の同定、認識を行うための類似度を計算するために相互部分空間法を用い、検定のために部分空間法を用いる、といったように異なるアルゴリズムを用いて類似度を計算し、それぞれの特徴量の選択を行ってよい。
【0094】
この認識アルゴリズムの実装については、認識部16に複数のアルゴリズムを計算する手段を有してもよいし、認識部16と更新判断部201のそれぞれにアルゴリズムを計算する手段があってもよく、形態は問わない。また、この検定では、このような各特徴量(入力データ)のレベルでの検証でもよいし、部分空間で表現されているレベルで検証しても構わない。
【0095】
<更新情報生成部202>
更新情報生成部202は、既に登録されているデータと認証時に使われたデータを用いて新たな登録情報を生成する。
【0096】
更新の方法は、
1) ある部分空間を更新する方法、
2) 新たな部分空間を合成する方法、
3) 認識に使われた部分空間を追加する方法
などが挙げられる。以下、順番に説明する。
【0097】
1)ある一つの部分空間を更新する方法
本実施例においては、認識データに相関行列も保持しているため、次のように更新する。
【0098】
認識データの相関行列をCd 、入力データの相関行列をCinとする。
【0099】
これらから計算される新たな認識データ( 相関行列) は、
Cin=αCd +βCin
で計算する。ここで、(α,β)の設定を変えることで、更新の方法を調整することが出来る。
【0100】
(α=1.0,β=1.0)とすれば、逐次加算されていくことになり、それまで収集したデータすべてを用いて認識データを構成することになる。
【0101】
(α=0.5,β=0.5)とすれば、現在の認識データによる更新の割合も少なくなるが、回数を重ねることで、時間が経過したデータの寄与が減少する。例えばn回更新を行うと、初回の認識データの寄与率は1/2となる。
【0102】
このように(α,β)を時間経過等を考慮して、調整すればよい。
【0103】
2)新たな部分空間を合成する方法
別の実施形態として、認識(顔の撮影)を行った時間毎に、複数の相関行列を保持しておいて、認識に使用する辞書の部分空間は、これらの複数の相関行列から新たに計算する。
【0104】
例えば、認識の度に蓄えられた相関行列Ci と重み係数γi を用いて、
【数1】
Figure 0003621245
行列Dを用いて部分空間を計算しそれを辞書とする。
【0105】
重み係数γi は、図8のように、シグモイド関数などを使って、時間経過を考慮して、決定する。もちろんこの重み係数を決定するための関数は、別のものを選んでもよく、実験的な重み係数テーブルを用意しても良い。また、相関行列Ci の数も固定されるものではない。
【0106】
もちろん、部分空間の合成法は、上述した和演算だけでなく、部分空間同士の共通部分を計算するような方法を用いてもよい。
【0107】
3)認識に使われた部分空間を追加する方法
また、認識データを複数に多重化することを自動的に行っても良い。
【0108】
例えば、認識時に閾値は越えたものの、あまりに類似度が低い場合には、先にのべたような更新を行うのではなく、Cinをそのまま認識データとして追加して、数を増やしてもよい。
【0109】
なお、部分空間を計算するために、相関行列も保持するとしているが、相関行列を持たずに部分空間を表す固有ベクトル行列Φを用いて、行列ΦΦを計算し、相関行列の代りとして良い。
【0110】
この場合、相関行列を保持するのと比較して、記憶容量を削減することができる。
【0111】
これらの方法を、適宜、併用、組み合わせて部分空間の更新を行なうことで、辞書の精度を保ち、経時、経年変化を抑制した認識を行う。
【0112】
(変形例)
本実施例は顔を用いた認識例で説明を行ったが、声紋などを特徴量として用いてもよい。また、その他の特徴量を用いてよい。
【0113】
以上、本発明はその趣旨を逸脱しない範囲で種々変形して実施することが可能である。
【0114】
【発明の効果】
本発明によれば、少なくとも部分空間含む認識情報を用いることにより、面倒な登録情報の更新を自動的に行うことができ、さらに変動に強く、経時経年変化に対応し、認識率を維持することが可能になる。すなわち、登録情報を随時更新することにより、経時変化、経年変化の影響を軽減することができる。
【0115】
また、経時、経年変化とは異なる、表情変化や顔の向きの変化といった短時間に起こる変化の影響を除去するために、登録情報として特徴量から計算される部分空間を用いて認識を行なうことで、これらの変動に柔軟に対応できる。
【0116】
登録情報の更新は、明示的に行うのではなく、認識時の情報を用いて、自動的に更新を行う機構を設けることにより、人間に負担をかけることなく、認識率の低下を防ぐことができる。
【0117】
さらに、眼鏡の有無、化粧の有無などの大きな変動に対処するためにも、複数の登録データを保持することにより、それらの複数データと照合を行うことによって、利便性を高くし認識率も向上させることができる。
【図面の簡単な説明】
【図1】人物認識装置10の構成図である。
【図2】経時変化の模式図である。
【図3】特徴量抽出部12の構成図である。
【図4】特徴量の例の図である。
【図5】認識部16のフローチャートである。
【図6】認識データの多重化の説明図である。
【図7】認識データの合成の説明図である。
【図8】重み係数の説明図である。
【図9】更新方法のフローチャートである。
【図10】類似度と時間との関係を示すグラフの図である。

Claims (13)

  1. 認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出手段と、
    前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出手段と、
    過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持手段と、
    前記認識情報算出手段が算出した認識時の部分空間、または、前記特徴量抽出手段が抽出した認識時の特徴量と、前記登録情報保持手段に保持された登録認識情報の過去の部分空間を用いて前記人物の認識を行う認識手段と、
    前記認識情報算出手段が求めた認識時の相関行列と、前記登録情報保持手段に保持された前記人物に関する過去の相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新手段とを備えた
    ことを特徴とする人物認識装置。
  2. 前記登録情報更新手段は、
    前記登録情報保持手段の登録認識情報の更新に関する所定の更新方法を求める更新判断手段と、
    新たに更新する登録認識情報を、前記更新判断手段によって求めた更新方法に基づいて、生成する更新情報生成手段からなる
    ことを特徴とする請求項1記載の人物認識装置。
  3. 前記登録情報保持手段は、一人の対象人物、または、一つのグループに関して複数の登録認識情報を保持し、
    前記認識手段は、前記登録情報保持手段の前記一人の対象人物、または、前記一つのグループに関する複数の登録認識情報を用いて認識を行う
    ことを特徴とする請求項1記載の人物認識装置。
  4. 前記更新判断手段は、前記認識情報算出手段が算出した認識情報の中で所定の規則に基づいて更新の対象となる認識情報を選択し、
    前記更新情報生成手段は、前記更新判断手段によって選択された認識情報を用いて、新たな登録認識情報を生成する
    ことを特徴とする請求項2記載の人物認識装置。
  5. 前記更新判断手段は、前記認識手段によって用いられた登録認識情報の登録時、または、更新時の時期に基づいて更新条件を求め、
    前記更新情報生成手段は、前記更新判断手段によって求めた更新条件に基づいて、新たな登録認識情報を生成する
    ことを特徴とする請求項2記載の人物認識装置。
  6. 前記認識手段は、一の類似度計算方法によって認識を行い、
    前記更新判断手段は、認識情報の選択を行うために、前記認識手段の一の類似度計算方法とは異なる他の類似度計算方法を用いる
    ことを特徴とする請求項4記載の人物認識装置。
  7. 認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出ステップと、
    前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出ステップと、
    過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持ステップと、
    前記認識情報算出ステップで算出した認識時の部分空間、または、前記特徴量抽出ステップで抽出した認識時の特徴量と、前記登録情報保持ステップにおいて保持された登録認識情報の過去の部分空間を用いて前記人物の認識を行う認識ステップと、
    前記認識情報算出ステップで求めた認識時の相関行列と、前記登録情報保持ステップにおいて保持された前記人物に関する過去の相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新ステップとを備えた
    ことを特徴とする人物認識方法。
  8. 前記登録情報更新ステップは、
    前記登録情報保持ステップにおいて登録認識情報の更新に関する所定の更新方法を求める更新判断ステップと、
    新たに更新する登録認識情報を、前記更新判断ステップによって求めた更新方法に基づいて、生成する更新情報生成ステップからなる
    ことを特徴とする請求項7記載の人物認識方法。
  9. 前記登録情報保持ステップは、一人の対象人物、または、一つのグループに関して複数の登録認識情報を保持し、
    前記認識ステップは、前記登録情報保持ステップにおける前記一人の対象人物、または、前記一つのグループに関する複数の登録認識情報を用いて認識を行う
    ことを特徴とする請求項7記載の人物認識方法。
  10. 前記更新判断ステップは、前記認識情報算出ステップが算出した認識情報の中で所定の規則に基づいて更新の対象となる認識情報を選択し、
    前記更新情報生成ステップは、前記更新判断ステップによって選択された認識情報を用いて、新たな登録認識情報を生成する
    ことを特徴とする請求項8記載の人物認識方法。
  11. 前記更新判断ステップは、前記認識ステップにおいて用いられた登録認識情報の登録時、または、更新時の時期に基づいて更新条件を求め、
    前記更新情報生成ステップは、前記更新判断ステップによって求めた更新条件に基づいて、新たな登録認識情報を生成する
    ことを特徴とする請求項9記載の人物認識方法。
  12. 前記認識ステップは、一の類似度計算方法によって認識を行い、
    前記更新判断ステップは、認識情報の選択を行うために、前記認識ステップの一の類似度計算方法とは異なる他の類似度計算方法を用いる
    ことを特徴とする請求項10記載の人物認識方法。
  13. 認識すべき対象である人物から得られる特徴量を抽出する特徴量抽出機能と、
    前記特徴量抽出手段が抽出した特徴量から相関行列を求め、この相関行列から部分空間を計算する認識情報算出機能と、
    過去の相関行列とこの過去の相関行列に対応する部分空間とを少なくとも含む登録認識情報を複数保持する登録情報保持機能と、
    前記認識情報算出機能で算出した認識時の部分空間、または、前記特徴量抽出機能で抽出した認識時の特徴量と、前記登録情報保持機能において保持された登録認識情報の過去の部分空間を用いて前記人物の認識を行う認識機能と、
    前記認識情報算出機能で求めた認識時の相関行列と、前記登録情報保持機能において保持された前記人物に関する過去の相関行列とを加算して新たな相関行列を計算して、前記人物に関する登録認識情報を更新する登録情報更新機能とをコンピュータで実現するプログラムを記録した
    ことを特徴とする人物認識プログラムの記録媒体。
JP34261897A 1997-12-12 1997-12-12 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体 Expired - Fee Related JP3621245B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP34261897A JP3621245B2 (ja) 1997-12-12 1997-12-12 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体
US09/209,281 US6608914B1 (en) 1997-12-12 1998-12-11 Person recognizing apparatus which can reduce time and year changing effects and method therefor
US10/454,476 US6697505B2 (en) 1997-12-12 2003-06-05 Person recognizing apparatus which can reduce time and year changing effects and method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34261897A JP3621245B2 (ja) 1997-12-12 1997-12-12 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体

Publications (2)

Publication Number Publication Date
JPH11175718A JPH11175718A (ja) 1999-07-02
JP3621245B2 true JP3621245B2 (ja) 2005-02-16

Family

ID=18355175

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34261897A Expired - Fee Related JP3621245B2 (ja) 1997-12-12 1997-12-12 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体

Country Status (2)

Country Link
US (2) US6608914B1 (ja)
JP (1) JP3621245B2 (ja)

Families Citing this family (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3621245B2 (ja) * 1997-12-12 2005-02-16 株式会社東芝 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体
JP3480563B2 (ja) * 1999-10-04 2003-12-22 日本電気株式会社 パターン識別のための特徴抽出装置
JP2001209802A (ja) * 1999-11-15 2001-08-03 Fuji Photo Film Co Ltd 顔抽出方法および装置並びに記録媒体
CA2392229C (en) * 1999-11-30 2016-08-30 Transforming Technologies, Inc. Methods, systems, and apparatuses for secure interactions
US6940545B1 (en) * 2000-02-28 2005-09-06 Eastman Kodak Company Face detecting camera and method
DE60119418T2 (de) 2000-03-22 2007-05-24 Kabushiki Kaisha Toshiba, Kawasaki Gesichtsbildaufnehmendes Erkennungsgerät und Passüberprüfungsgerät
JP3825222B2 (ja) * 2000-03-24 2006-09-27 松下電器産業株式会社 本人認証装置および本人認証システムならびに電子決済システム
JP2001282846A (ja) 2000-03-29 2001-10-12 Canon Inc 画像検索方法及び装置
JP3655165B2 (ja) 2000-05-11 2005-06-02 松下電器産業株式会社 名刺交換装置、名刺交換方法及び記録媒体
JP4483042B2 (ja) * 2000-07-12 2010-06-16 コニカミノルタホールディングス株式会社 影成分除去装置および影成分除去方法
JP2002259980A (ja) * 2001-03-05 2002-09-13 Omron Corp 生体照合装置、生体照合システム、生体照合方法および登録データ更新方法
EP1239405A3 (en) * 2001-03-09 2004-05-19 Kabushiki Kaisha Toshiba Face image recognition apparatus
JP2002334335A (ja) * 2001-03-09 2002-11-22 Toshiba Corp 顔画像認識装置および通行制御装置
JP4177598B2 (ja) 2001-05-25 2008-11-05 株式会社東芝 顔画像記録装置、情報管理システム、顔画像記録方法、及び情報管理方法
US7184580B2 (en) * 2001-07-24 2007-02-27 Laurence Hamid Fingerprint scar recognition method and apparatus
JP2003108984A (ja) 2001-07-27 2003-04-11 Toshiba Corp 顔画像認識装置、通行制御装置、顔画像認識方法、及び通行制御方法
JP2003067744A (ja) * 2001-08-24 2003-03-07 Toshiba Corp 個人認証装置および個人認証方法
TWI299471B (en) 2001-08-24 2008-08-01 Toshiba Kk Person recognition apparatus
US7330591B2 (en) * 2002-02-25 2008-02-12 Kabushiki Kaisha Toshiba Apparatus for generating a pattern recognition dictionary, a method thereof, a pattern recognition apparatus and a method thereof
KR100994614B1 (ko) 2002-05-20 2010-11-15 신성복 홍채 재저장 기능을 갖는 신원확인 시스템 및 방법과 그방법에 대한 컴퓨터 프로그램 소스를 저장한 기록매체
JP2004118627A (ja) 2002-09-27 2004-04-15 Toshiba Corp 人物認証装置および人物認証方法
JP4314016B2 (ja) * 2002-11-01 2009-08-12 株式会社東芝 人物認識装置および通行制御装置
KR100473598B1 (ko) * 2002-11-04 2005-03-11 삼성전자주식회사 가려진 얼굴영상을 판단하는 시스템 및 방법
US7421097B2 (en) * 2003-05-27 2008-09-02 Honeywell International Inc. Face identification verification using 3 dimensional modeling
JP4086740B2 (ja) * 2003-09-09 2008-05-14 日本電気株式会社 端末利用者監視システム
JP4495545B2 (ja) * 2003-09-25 2010-07-07 パナソニック株式会社 不正使用防止装置及び方法
US7352825B2 (en) * 2003-12-01 2008-04-01 Lucent Technologies Inc. Method and apparatus for providing random access detection in a communication system
US7697026B2 (en) * 2004-03-16 2010-04-13 3Vr Security, Inc. Pipeline architecture for analyzing multiple video streams
JP2007080184A (ja) * 2005-09-16 2007-03-29 Canon Inc 画像処理装置及び方法
JP2007220004A (ja) * 2006-02-20 2007-08-30 Funai Electric Co Ltd テレビおよび認証装置
JP4240502B2 (ja) * 2006-06-27 2009-03-18 インターナショナル・ビジネス・マシーンズ・コーポレーション 対象から抽出した特徴に基づきその対象を認証する技術
JP4986279B2 (ja) * 2006-09-08 2012-07-25 任天堂株式会社 ゲームプログラムおよびゲーム装置
JP4305672B2 (ja) 2006-11-21 2009-07-29 ソニー株式会社 個人識別装置、個人識別方法、識別用辞書データの更新方法および識別用辞書データの更新プログラム
JP2008165314A (ja) * 2006-12-27 2008-07-17 Sony Corp 個人識別装置および個人識別方法
JP5012247B2 (ja) * 2007-06-21 2012-08-29 ソニー株式会社 認証装置、入場管理装置、入退場管理装置、入場管理システム、入退場管理システム、認証処理方法およびプログラム
US8558663B2 (en) * 2007-11-30 2013-10-15 Bank Of America Corporation Integration of facial recognition into cross channel authentication
US8180112B2 (en) * 2008-01-21 2012-05-15 Eastman Kodak Company Enabling persistent recognition of individuals in images
JP5044472B2 (ja) * 2008-04-09 2012-10-10 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
US8457409B2 (en) * 2008-05-22 2013-06-04 James Ting-Ho Lo Cortex-like learning machine for temporal and hierarchical pattern recognition
JP2010061528A (ja) * 2008-09-05 2010-03-18 Fujitsu Ltd 生体認証装置、生体認証プログラム及び生体認証方法
KR100985775B1 (ko) 2008-10-14 2010-10-06 (주) 위트젠 지문의 변형을 탐지하여 인증 대상자의 변형된 지문을 자동으로 등록하는 방법 및 시스템
JP4636190B2 (ja) * 2009-03-13 2011-02-23 オムロン株式会社 顔照合装置、電子機器、顔照合装置の制御方法、および顔照合装置制御プログラム
JP5438419B2 (ja) * 2009-07-29 2014-03-12 富士フイルム株式会社 人物照合装置及び人物照合方法
DE102009048118B4 (de) * 2009-10-02 2020-06-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Verwalten von Objektansichtsdaten in einer Objektdatenbank
JP5873959B2 (ja) 2010-09-27 2016-03-01 パナソニックIpマネジメント株式会社 ホワイトリスト内外判定装置及び方法
JP5869805B2 (ja) * 2011-08-25 2016-02-24 キヤノン株式会社 情報処理装置、撮像装置、およびそれらの制御方法、プログラム、並びに記憶媒体
JP5900052B2 (ja) * 2012-03-15 2016-04-06 オムロン株式会社 登録判定装置、その制御方法および制御プログラム、並びに電子機器
JP6112801B2 (ja) 2012-08-22 2017-04-12 キヤノン株式会社 画像認識装置及び画像認識方法
JP6268960B2 (ja) * 2013-11-15 2018-01-31 オムロン株式会社 画像認識装置及び画像認識装置に対するデータ登録方法
JP6590477B2 (ja) * 2014-11-28 2019-10-16 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
CN105184932B (zh) * 2015-10-08 2017-12-22 深圳市雨滴科技有限公司 一种通过智能门禁机进行人员识别的方法及装置
CN110363150A (zh) * 2019-07-16 2019-10-22 深圳市商汤科技有限公司 数据更新方法及装置、电子设备和存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE365325B (ja) * 1971-11-04 1974-03-18 Rothfjell R
US5550928A (en) * 1992-12-15 1996-08-27 A.C. Nielsen Company Audience measurement system and method
US5559504A (en) * 1993-01-08 1996-09-24 Kabushiki Kaisha Toshiba Surface shape sensor, identification device using this sensor, and protected system using this device
JP2833696B2 (ja) 1995-11-15 1998-12-09 株式会社技攷舎 人物同定方法とその装置、及び通過監視システム
JP3617882B2 (ja) * 1996-03-08 2005-02-09 株式会社東芝 セキュリティ装置及びセキュリティ実現方法
US5901244A (en) * 1996-06-18 1999-05-04 Matsushita Electric Industrial Co., Ltd. Feature extraction system and face image recognition system
US6118888A (en) * 1997-02-28 2000-09-12 Kabushiki Kaisha Toshiba Multi-modal interface apparatus and method
JP3621245B2 (ja) * 1997-12-12 2005-02-16 株式会社東芝 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体
JPH11184491A (ja) * 1997-12-18 1999-07-09 Ricoh Co Ltd 音声認識装置

Also Published As

Publication number Publication date
JPH11175718A (ja) 1999-07-02
US6697505B2 (en) 2004-02-24
US20030194113A1 (en) 2003-10-16
US6608914B1 (en) 2003-08-19

Similar Documents

Publication Publication Date Title
JP3621245B2 (ja) 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体
Jain et al. Learning user-specific parameters in a multibiometric system
US7158657B2 (en) Face image recording system
CN101661557B (zh) 一种基于智能卡的人脸识别系统及其方法
JP4156430B2 (ja) データベース自動更新方法を用いた顔検証方法及びそのシステム
JP5043097B2 (ja) まつげ分析による人物識別方法
US7006671B2 (en) Personal identification apparatus and method
JP5017873B2 (ja) 個人照合装置及び個人照合方法
JP4611575B2 (ja) 本人認証用の顔画像照合装置
JP4594176B2 (ja) 画像処理装置及び入退室管理システム
US20060158307A1 (en) System and method for face recognition
CN110647955A (zh) 身份验证方法
MX2012010637A (es) Procesador de informacion biologica.
JP7147860B2 (ja) 生体認証装置、生体認証方法、及び生体認証プログラム
JP5480532B2 (ja) 画像処理装置、画像処理方法、及び同方法をコンピュータに実行させるプログラム
JP2013065118A (ja) 顔認識装置、及び顔認識方法
JP2005258801A (ja) 個人認証システム
JP2006085268A (ja) 生体認証システムおよび生体認証方法
Bokade et al. Secure multimodal biometric authentication using face, palmprint and ear: a feature level fusion approach
JP2006031387A (ja) 画像認識装置、画像認識方法、画像認識プログラムおよび画像認識プログラムを記録した記録媒体
JP2004078686A (ja) 個人認証装置、個人認証方法、通行制御装置および通行制御方法
JP2006031388A (ja) 画像類似度演算装置およびそれを利用した画像認識装置、画像類似度演算方法およびそれを利用した画像認識方法、ならびに画像照合用コンピュータプログラムおよびそれを記録した記録媒体
JP2006085289A (ja) 顔認証システムおよび顔認証方法
JP4887966B2 (ja) 照合装置
KR101066097B1 (ko) 안경 착용자에 대한 오인식을 최소화한 얼굴 인식 장치 및 이를 이용한 안경 착용자에 대한 얼굴 오인식 최소화 방법

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040528

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040909

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20041006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071126

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081126

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091126

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101126

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101126

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111126

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121126

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131126

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees