JP2005235067A - 画像認識装置及び画像認識方法 - Google Patents

画像認識装置及び画像認識方法 Download PDF

Info

Publication number
JP2005235067A
JP2005235067A JP2004046177A JP2004046177A JP2005235067A JP 2005235067 A JP2005235067 A JP 2005235067A JP 2004046177 A JP2004046177 A JP 2004046177A JP 2004046177 A JP2004046177 A JP 2004046177A JP 2005235067 A JP2005235067 A JP 2005235067A
Authority
JP
Japan
Prior art keywords
image
index
overlap
similarity
image recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004046177A
Other languages
English (en)
Other versions
JP4386347B2 (ja
Inventor
Takahiro Hatano
孝裕 羽田野
Tomoshi Shigematsu
智志 重松
Hiroki Morimura
浩季 森村
Mamoru Nakanishi
衛 中西
Katsuyuki Machida
克之 町田
Yukio Okazaki
幸夫 岡崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004046177A priority Critical patent/JP4386347B2/ja
Publication of JP2005235067A publication Critical patent/JP2005235067A/ja
Application granted granted Critical
Publication of JP4386347B2 publication Critical patent/JP4386347B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】読み取る画像の位置がずれていても、従来より正確に認証が行えるようにする。
【解決手段】画像比較部141の重なり評価部144は、まず照合画像と登録画像が重なっている領域の面積を算出する。また、重なり領域の面積を登録画像の面積で除算する。重なり評価部144は、算出(除算)した数値を重なり状態を表す指標(重なり指標)として出力する。画像認識部142の指標補正部145は、例えば、重なり指標が小さい場合に、重なり指標の減少に伴ってしきい値を下げる補正を行う。
【選択図】 図1

Description

本発明は、パターンマッチングを用いた画像認識に関し、特に、指紋や虹彩などの生体から得られる画像データを用いて個人認証を行うために用いる画像認識装置及び画像認識方法に関する。
一般に、パターンマッチングを用いた指紋認証技術では、一方の指紋画像の一部を切り出した部分的な画像を、他方の指紋画像の上で走査して重ね合わせ、2つを比較して類似性を表す指標を算出している(特許文献1,2、非特許文献1参照)。上記指紋認証技術を用いた装置では、算出した指標が、設定されているしきい値を越えていれば、2つの画像は同じであると判定し、2つの指紋画像は同じ人物の指のものであるという認証結果を出力する。上記しきい値は、所望とする保証の程度に対応し、予め固定された値が設定されている。
従来よりある指紋認証装置では、指紋の紋様を、光学式や静電容量式などのセンサにより読み取り、読み取ることで得られた二次元の画像データと、予め記録されている指紋画像データ(登録画像データ)とを比較して認証を行うようにしている。ここで、センサが検出する指紋の紋様の領域がずれると、読み取られた画像データが本人のものであっても、読み取られた画像データと登録画像データとを単純に重ね合わせて比較すると、2つのデータは一致しない。このような場合、2つの画像データの位置をずらして重ね、比較を行うようにしている(非特許文献2参照)。
なお、出願人は、本明細書に記載した先行技術文献情報で特定される先行技術文献以外には、本発明に関連する先行技術文献を出願時までに発見するには至らなかった。
特開平6−319025号公報 特開平8−287259号公報 小林 哲二他、「細線化画像パターンマッチングによる指紋照合」、電子情報通信学会論文誌、D−II,Vol.J79−D−II,No.3, pp330−340,1996. A.M.Bazen, etc."A Correlation−based Fingerprint Verification System",Proc. Workshop on Circuits System and Singnal Processing, pp.205−213,2000.
ところで、一方の指紋画像に対して他方の指紋画像のはみ出しを許容しない場合には、2つの指紋画像のうち領域の広い方の領域内で、領域の小さい方をずらすことになる。この場合、2つの指紋画像は、2つの画像の領域の差の範囲内のみ、相対的にずらすことが可能となり、これを越えてずらすことはできない。ここで、より大きく位置をずらせるようにするため、領域の小さい方の領域をより小さくすることで、ずらす量を大きくすることができる。しかしながら、これでは、比較対象の画像の範囲が小さくなり、比較対象の指紋形状が単調になり、例えば、異なる人物の指紋であっても合致するという誤認証が発生しやすくなる。
また、はみ出すことを許容して2つの指紋画像の相対的な位置をずらすと、2つの画像の重なる領域が減少するため、正確な位置で重ね合わせができたとしても、得られる類似性を表す指標が低くなり、不一致という誤認証が発生しやすくなる。
以上に説明したように、パターンマッチングによる認証では、読み取る画像の位置がずれると、正確な認証が困難になるという問題があった。
本発明は、以上のような問題点を解消するためになされたものであり、読み取る画像の位置がずれていても、従来より正確に2つの画像データの比較が行えるようにすることを目的とする。
本発明に係る画像認識装置は、入力された第1画像データと第2画像データとの位置関係を相対的にずらしながら重ね合わせて比較し、第1画像データと第2画像データとの関係を示す指標を算出する画像比較部と、この画像比較部から出力された指標と予め設定されているしきい値とを比較することで第1画像に対する第2画像の同一性を判定する画像認識部とを備えるものである。
上記画像認識装置において、画像比較部は、第1画像データと第2画像データとの類似性を表す類似性指標と、第1画像データと第2画像データとの重なりの状態を表す重なり指標とを算出する。
従って、画像認識部は、2つの画像データの類似性に加え、2つの画像データの重なりの状態も指標として用い、2つの画像データの類似性を判定する。
上記画像認識装置において、画像認識部は、重なり指標に応じてしきい値を補正して補正しきい値を生成し、類似性指標と補正しきい値とを比較することで第1画像に対する第2画像の同一性を判定する。また、画像認識部は、重なり指標に応じて類似性指標を補正した補正類似性指標を生成し、補正類似性指標としきい値とを比較することで第1画像に対する第2画像の同一性を判定する。
上記画像認識装置において、画像認識部は、重なり指標に応じてしきい値を補正して補正しきい値を生成し、重なり指標に応じて類似性指標を補正した補正類似性指標を生成し、補正類似性指標と補正しきい値とを比較することで第1画像に対する第2画像の同一性を判定する。
また、上記画像認識装置において、画像比較部は、第1画像と第2画像との比較において、重なった画素同士の輝度値を比較することで類似性指標を算出する。また、画像比較部は、第1画像と第2画像との比較において、第1画像と第2画像とが重なっている領域の割合より重なり指標を算出する。また、画像比較部は、第1画像と第2画像とが重なっている領域に存在する第1画像の画素の数の割合より重なり指標を算出する。なお、画像認識部は、重なり指標の一次関数として補正を行うようにしてもよい。
本発明に係る画像認識方法は、入力された第1画像データと第2画像データとの位置関係を相対的にずらしながら重ね合わせて比較し、第1画像データと第2画像データとの関係を示す指標を算出する第1ステップと、指標と予め設定されているしきい値とを比較することで第1画像に対する第2画像の同一性を判定する第2ステップとを備える。
上記画像認識方法において、第1ステップでは、第1画像データと第2画像データとの類似性を表す類似性指標と、第1画像データと第2画像データとの重なりの状態を表す重なり指標とを算出する。従って、2つの画像データの類似性に加え、2つの画像データの重なりの状態も指標として用いられ、2つの画像データの類似性が判定される。
上記画像認識方法において、第2ステップでは、重なり指標に応じてしきい値を補正して補正しきい値を生成し、類似性指標と補正しきい値とを比較することで第1画像に対する第2画像の同一性を判定する。また、第2ステップでは、重なり指標に応じて類似性指標を補正した補正類似性指標を生成し、補正類似性指標としきい値とを比較することで第1画像に対する第2画像の同一性を判定する。
また、上記画像認識方法において、第2ステップでは、重なり指標に応じてしきい値を補正して補正しきい値を生成し、重なり指標に応じて類似性指標を補正した補正類似性指標を生成し、補正類似性指標と補正しきい値とを比較することで第1画像に対する第2画像の同一性を判定する。
また、上記画像認識方法において、第1ステップでは、第1画像と第2画像との比較において、重なった画素同士の輝度値を比較することで類似性指標を算出しても良く、第1ステップでは、第1画像と第2画像との比較において、第1画像と第2画像とが重なっている領域の割合より重なり指標を算出するようにしてもよい。また、第1ステップでは、第1画像と第2画像とが重なっている領域に存在する第1画像の画素の数の割合より重なり指標を算出するようにしてもよい。なお、第2ステップでは、重なり指標の一次関数として補正を行うようにしてもよい。
以上説明したように、本発明では、第1画像データと第2画像データとの同一性を、例えば、第1画像データと第2画像データとの類似性を表す類似性指標と、第1画像データと第2画像データとの重なりの状態を表す重なり指標などの、第1画像データと第2画像データとの関係を示す指標により、判定するようにした。この結果、本発明によれば、読み取る画像の位置がずれていても、従来より正確に2つの画像データの比較が行えるようになり、例えばより正確な認証が行えるようになるという優れた効果が得られる。
以下、本発明の実施の形態について図を参照して説明する。
図1は、本発明の実施の形態における画像認識装置の構成例を示す構成図である。本画像認識装置は、例えば、生体情報である指紋の照合を行う指紋認証装置である。なお、本発明の画像認識装置は、指紋認証に限らず、例えば、画像読み取り装置で読み取った掌形や虹彩などの生体情報,また筆跡などの部分的な画像データ同士を比較するなど、形状が類似した2つ画像データ同士を比較する全ての場合に適用可能である。
図1の装置は、例えば指紋の紋様を画像データとして読み取る画像読み取り部101と、読み取った画像データに二値化処理などの画像処理を加える画像処理部102とを備えている。また、図1の装置は、読み取られて画像処理部102により画像処理された照合対象の照合画像と記憶部103に記憶されている登録画像とを比較照合する画像照合部104を備えている。
登録画像は、例えば、予め用意してある利用者本人の指紋を画像読み取り部101で読み取り、画像処理部102で画像処理をし、記憶部103に記録した指紋の画像データである。また、例えば、生体情報である虹彩を用いた照合に図1の装置を適用する場合、よく知られているCCDなどのイメージセンサにより画像読み取り部101を構成し、記憶部103には、画像読み取り部101により予め読み取っておいた利用者本人の虹彩の画像データを記録し、登録画像としておけばよい。また、同様の構成で、筆跡などの照合を行うことも可能である。
以降では、指紋の認証に本発明を適用した場合を例に説明し、認証のための新たに読み取られた画像データを「照合画像」とし、新たに読み取られた画像データの比較対象となる予め用意されている画像データを「登録画像」として説明する。
指紋認証に用いる場合、画像読み取り部101は、例えば、静電容量式の指紋センサであり、上部に配置された物体までの距離を検出する検出セルが、2次元方向に正方配列されたものである。検出セルは、例えば静電容量を検出するものである。検出セルは、例えば、上部の物体が接触している状態を「0」とし、上部の物体が検出不可能な距離まで離れた状態を「255」とし、上部に存在する物体までの距離に対応して256階調の多値信号を出力する。
画像読み取り部101の上に指の指紋部分が置かれる(接触する)と、各検出セルでは、上部の指紋の凹凸に対応し、凸部はより「0」に近い値を出力し、凹部はより「255」に近い値を出力する。画像処理部102は、検出セルのマトリクス配置の状態を反映させ、上述した各検出セルの出力値に濃淡を反映させて合成し、図2に示すような指紋の紋様に対応した画像データ(照合画像)とする。なお、以降では、画像は、画像データを示すものとする。
一方、記憶部103には、予め指紋の登録画像が記録されており、上述したように画像読み取り部101に検出されて画像処理部102により処理された照合画像と、記憶部103に記録されている登録画像とを、画像照合部104が照合する。
画像照合部104は、得られた照合画像と登録画像とを比較して指標を出力する画像比較部141と,画像比較部141から出力された指標により認証判定を行う画像認識部142とから構成されている。
画像比較部141は、類似性評価部143と重なり評価部144とを備えている。画像比較部141は、照合画像と登録画像とをずらしながら重ね合わせて比較し、指標を生成して出力する。指標を生成するにあたって、画像比較部141では、類似性評価部143が、照合画像と登録画像の重ね合わせにより重なった2つの画素の輝度値を比較して類似性を示す指標を算出する。また、画像比較部141では、重なり評価部144が、照合画像と登録画像の重なりの状態を評価し、評価の結果を示す指標を算出する。
画像認識部142は、画像比較部141から出力された類似性を示す指標と重なりの状態を示す指標と、予め設定されているしきい値とを用い、照合画像と登録画像との同一性を判定(認証判定)する。画像認識部142では、指標補正部145が、重なり状態を表す指標を用いて設定されているしきい値を補正し、補正しきい値を出力する。また、画像認識部142では、認証判定部146が、類似性を表す指標と補正しきい値とを比較することで認証判定を行い、判定の結果(認証結果)を出力する。なお、認証判定部146は、2つの画像に同一性がないと判定した後、画像比較部141で全ての比較が終わっていなければ、画像比較部141へ処理を戻す。
以下、図3のフローチャートを用い、図1に示す指紋認証装置の動作例について説明する。まず、ステップS301で、画像比較部141は、入力された照合画像と登録画像との位置関係をずらして重ね合わせる。画像のずらしは、照合画像と登録画像とを重ね合わせ、一方の画像に対して他方の画像を走査させることで行い、走査の範囲、刻み幅、順序は認証前に予め定めておく。
図1に示す指紋認証装置では、照合画像と登録画像と間での大きな位置ずれに対応するために、図4に示すように、画像を走査する範囲は、2つの画像各々の領域よりも広くし、照合画像と登録画像との双方に他方の画像と重ならないはみ出し領域が存在する程度に大きくずらした重ね合わせを行う。
次に、ステップS302で、画像比較部141の類似性評価部143は、図5に示すように、まず、2つの画像の重ね合わせにより重なった照合画像の画素P1と登録画像の画素P2の、各々の輝度値BP1、とBP2の積(BP1*BP2)の総和(ΣBP1*BP2)を算出する。
指紋パターンを黒画素(輝度値1)と白画素(輝度値0)で表す白黒二値画像の場合、上記総和は、照合画像と登録画像との重ね合わせにより一致した画素数となり、2つの画像の類似性が高いほど数値は大きくなる。また、上記総和は画素数が多いほど大きくなるため、2つの画像の類似性だけでなく照合画像に含まれる画素数にも依存する。
画素数の影響を相殺するために、一致した画素数を照合画像に含まれる画素数で除算した一致率を算出することも可能である。照合画像と登録画像との類似性が高いほど一致画素数が多くなり、一致率は大きくなる。ステップS302で、類似性評価部143は、類似の程度を表す指標(以下、類似性指標:M)としてこの一致率を出力する。
なお、輝度値の諧調は、白黒二値画像を表す二値に限るものではなく、濃淡画像を表す多値でもよい。多値の場合、先に輝度値を正規化すれば、算出する総和は元々の画素数の影響を受けなくなるため、改めて画素数で除算する必要はなく、総和をこのまま類似性指標として出力することもできる。
次に、ステップS303で、画像比較部141の重なり評価部144は、まず図4に示す照合画像の領域(A1)と登録画像の領域(A2)が重なっている領域(重なり領域:Ao)の面積を算出する。また、重なり領域Aoの面積を登録画像の領域A2の面積で除算する。
算出(除算)した数値は、登録画像の領域A2のうち、照合画像の領域A1と重なっている面積の割合である。重なり評価部144は、算出した数値を重なり状態を表す指標(重なり指標:N)として出力する。
N=Ao/A2…(1)
次に、ステップS304で、画像認識部142の指標補正部145は、図6のポイントBのように重なり指標Nが小さい場合に、重なり指標Nの減少に伴ってしきい値を下げる補正を行う。重なり指標が小さい場合、2つの画像を正確な位置で重ね合わせたとしても、重なり得る画素自体が少ないため、得られる類似性指標が小さくなる。このような状態では、以降の認証判定のステップで、認証判定を行うためのしきい値を超えずに誤認証となる。ステップS304の動作は、上述した誤認証の状態を防ぐために行う。
上記しきい値の補正量(しきい値補正量:ΔTH)は、図6に示すように、重なり指標Nが最大値Nmaxの時には補正を行わず0とし、重なり指標Nの減少に従ってしきい値をより大きく下げるために増加させる。補正しきい値を算出するステップS304では、下式により予め定めたしきい値(初期しきい値:THo)を補正したしきい値(補正しきい値:THm)として算出して出力する。
THm=THo−ΔTH・・・(2)
しきい値は、上述した(2)式により、図6に示すように重なり指標Nに応じて補正される。
次に、ステップS305で、画像認識部142の認証判定部146は、類似性指標Mと補正しきいTHm値とを比較し、類似性指標Mが補正しきい値THmを超えていた場合には2つの画像は同じであると判定し、超えていない場合には2つの画像は異なるものであると判定する。
ステップS305で、同じ画像と判定した場合、認証判定部146は、2つの画像は同じ指のものであるという認証結果(認証OK)を出力する。ステップS305で異なる画像と判定した場合、認証判定部146は、予め定めた登録画像に対する照合画像の全ての走査が終了した状態を確認する(ステップS306)。
全ての走査が終了していなければ、認証判定部146は、処理を画像比較部141に戻す。このことにより、ステップS301からの動作が再度開始される。一方、ステップS306で、全ての走査が終了していることが確認された場合、認証判定部146は、2つの画像は異なる指のものであるという認証結果(認証NG)を出力する。
上述した動作例において、重なり指標Nをパラメータとして変動するしきい値補正量ΔTHは、値が大きいほどしきい値が下がり、この補正量ΔTHを用いると同じ照合画像であると認証されやすくなる。しかしながら、しきい値が小さいほど、異なる指の照合画像であっても、登録画像と同じであると誤認証されやすくなる。
従って、予め照合実験を行って認証精度が最も良くなるように、指紋認証装置の特性の最適化を行うことも可能である。例えば、しきい値補正量ΔTHは、重なり指標Nの一次関数として、以下の(3)式で示すことができる。
ΔTH=S*(Nmax−N)・・・(3)
この場合には、事前に照合実験を行い、認証精度が最も良くなる初期しきい値TH0及び(3)式の傾きSの組み合わせを探索し、設定してもよい。しきい値補正量ΔTHは、上記のように一次関数に限るものではない。しきい値補正量ΔTHは、重なり指標Nが最大値Nmaxの時に0となり、重なり指標Nの減少に伴い増加するものであれば、重なり指標Nの減少に伴ってしきい値を下げる補正を行うことができるため、二次等のより高次の関数やステップ的に変化する関数で示すようにしてもよい。
上記関数は、認証処理全てにおいて共通であってもよく、また、指にあわせて個別に設定することも可能である。上記の例では、共通の初期しきい値TH0及び傾きSを用いてもよく、指にあわせて初期しきい値TH0又は傾きSを設定してもよい。また、上述した動作例において、照合画像と登録画像とを入れ替えて扱ってもよいことは、いうまでもない。
以上説明したように、図1に示す装置によれば、2つの画像の間のずれに対応して大きく画像をずらして重ね合わせて類似性を表す指標を算出し、かつ、2つの画像の重なりの状態を表す指標を算出してしきい値を補正し、補正したしきい値と類似性を表す指標とにより認証を行うようにした。従って、例えば、照合画像と登録画像とに読み取る際の指が置かれる位置のずれに起因した大きな位置ずれがある場合でも、大きなずらしにより照合画像と登録画像との重なりが小さくなることに起因する誤認証が防げ、正確な認証が行えるようになる。
次に、本発明に係る画像認識装置の他の例について説明する。
図1に示した装置では、画像照合部104が、認証判定で比較する2つの数値である類似性を表す指標としきい値のうち、しきい値の方を、照合画像と登録画像との重なりの状態を表す指標を用いて補正した。
これに対し、本実施の形態では、画像照合部を図7に示すように構成し、もう一方の類似性を表す指標の方を補正し、図1に示した画像照合部104と同様の効果を得るものである。図7に示す画像照合部では、画像認識部742が、指標補正部745と認証判定部746とを備える。
指標補正部745は、重なり評価部144から出力された重なり状態を表す指標を用い、画像比較部141から出力された類似性を表す指標を補正した類似性を表す指標を算出する。
また、認証判定部746は、指標補正部745から出力された類似性を表す指標(補正された指標)と、予め定められているしきい値とを比較し、認証判定を行い結果を出力する。
画像認識部742が2つの画像が違うと判定した場合、画像比較部141で全ての比較が終わってなければ、画像認識部742(認証判定部746)は、画像比較部141へ処理を戻す。
以下、図7に示す画像照合部の動作例について、図8のフローチャートを用いて説明する。以下では照合画像を基準にした場合を例として説明する。
まず、ステップS801で、画像比較部141は、入力された照合画像と登録画像との位置関係をずらして重ね合わせる。画像のずらしは、照合画像と登録画像とを重ね合わせ、一方の画像に対して他方の画像を走査させることで行い、走査の範囲、刻み幅、順序は認証前に予め定めておく。
図7に示す画像照合部でも、図1に示した画像照合部104と同様に、照合画像と登録画像と間での大きな位置ずれに対応するために、図4に示すように、画像を走査する範囲は、2つの画像各々の領域よりも広くし、照合画像と登録画像との双方に他方の画像と重ならないはみ出し領域が存在する程度に大きくずらした重ね合わせを行う。
次に、ステップS802で、画像比較部141の類似性評価部143は、図5に示すように、まず、2つの画像の重ね合わせにより重なった照合画像の画素P1と登録画像の画素P2の、各々の輝度値BP1、とBP2の積(BP1*BP2)の総和(ΣBP1*BP2)を算出する。
指紋パターンを黒画素(輝度値1)と白画素(輝度値0)で表す白黒二値画像の場合、上記総和は、照合画像と登録画像との重ね合わせにより一致した画素数となり、2つの画像の類似性が高いほど数値は大きくなる。また、上記総和は画素数が多いほど大きくなるため、2つの画像の類似性だけでなく照合画像に含まれる画素数にも依存する。
画素数の影響を相殺するために、一致した画素数を照合画像に含まれる画素数で除算した一致率を算出することも可能である。照合画像と登録画像との類似性が高いほど一致画素数が多くなり、一致率は大きくなる。ステップS802で、類似性評価部143は、類似の程度を表す指標(以下、類似性指標:M)としてこの一致率を出力する。
次に、ステップS803で、画像比較部141の重なり評価部144は、まず図4に示す照合画像の領域(A1)と登録画像の領域(A2)が重なっている領域(重なり領域:Ao)の面積を算出する。また、重なり領域Aoの面積を登録画像の領域A2の面積で除算する。
算出(除算)した数値は、登録画像の領域A2のうち、照合画像の領域A1と重なっている面積の割合である。重なり評価部144は、算出した数値を重なり状態を表す指標(重なり指標:N)として出力する。
N=Ao/A2…(1)
次に、ステップS804で、指標補正部745は、以下に示す(4)式により、類似性評価部143が算出した類似性指標Mに対して補正を行った類似性指標(補正類似性指標:Mm)を算出して出力する。
Mm=M*(Mmax/Mref)・・・(4)
次のステップS805で、画像認識部742の認証判定部746は、補正した類似性指標Mmと予め定めたしきい値THを比較し、補正した類似性指標Mmがしきい値THを超えていた場合には2つの画像は同じであると判定し、超えていない場合には2つの画像は異なるものであると判定する。
ここで、指標補正部745の動作について、より詳細に説明する。
登録画像に対して照合画像が完全に重なっている場合には、照合画像の全ての画素に関して登録画像の画素との比較を行えば、容易に類似性指標Mが算出できる。しかしながら、照合画像の一部分が登録画像と重なっていない場合には、重なっていない部分にある照合画像の画素は、登録画像の画素との比較が行えない。2つの画像が重なっていない場合、比較できない画素があるために、類似性指標Mは、重なっている場合に比較して小さくなる。
登録画像に対して照合画像が完全に重なり、重なり指標Nが最大値Nmaxとなる場合に得られる類似性指標Mの最大値が、照合画像と登録画像とを照合した場合に得られる最大の類似性指標Mmaxとなる。また、登録画像に対する照合画像の重なりが小さく、重なり指標NがNmaxより小さくなるに従い、得られる類似性指標Mの最大値は、Mmaxより小さくなる。
一般に、認証判定を行うしきい値THは、例えば、指紋認証装置が運用されるセキュリティのレベルに応じ、類似性指標Mの最大値Mmaxを基準としてある割合で設定する。
重なり指標NがNmaxより小さい場合には、得られる類似性指標Mの最大値はMmaxより小さくなるため、Mmaxを基準として設定しているしきい値THは相対的に高くなる。
例えば、Mmaxの50%にしきい値THが設定され、重なり指標Nが小さく類似性数値指標Mがとり得る最大値がMmaxの40%程度にしかならない場合には、全ての場合に得られる類似性指標Mは、しきい値THを超えることがない。これでは、たとえ同じ対象の照合画像と登録画像とを比較して照合したとしても、この重なりの状態の時の照合全ての場合に、照合画像は登録画像とは異なると誤認証されることになる。
このような誤認証は、認証判定において比較する2つの数値であるしきい値TH又は類似性指標Mのいずれか一方を、重なり指標Nの減少に伴って補正することで、防げるようになる。図1に示した画像認識部142の構成が、重なり指標Nの減少に伴って、しきい値THを補正する場合の例である。図7に示す画像認識部742は、重なり指標Nの減少に伴って、類似性指標Mを補正するようにしたものである。
上述したように、重なり指標Nの減少に伴い得られる類似性指標Mの最大値がしきい値設定の基準であるMmaxから減少するために、相対的にしきい値THが高くなり誤認証が生じ易くなる。重なり指標Nによらずに得られる類似性指標Mの最大値がMmaxになれば、上述した誤認証は、抑制できるようになる。
2つの画像を比較した時に得られると想定される類似性指標Mの最大値をMref(想定最大類似性指標:Mref)とすると、MrefがMmaxとなるように類似性指標Mを補正すれば、重なり指標Nによらずに得られる類似性指標Mの最大値をMmaxにすることができる。この補正によれば、重なり指標Nが小さい場合でも、類似性指標Mがとり得る最大値を最大値Mmaxにすることができるため、しきい値THの相対的なレベルを変えずに認証を行うことが可能となる。
以上に詳述したように、補正類似性指標Mmを算出し、算出したMmと予め定めたしきい値THを比較することで、認証判定部746は、判定を行う(ステップS805)。ステップS805の判定で、同じ画像との判定がされた場合、認証判定部746は、2つの画像は同じ指のものであるという認証結果(認証OK)を出力する。一方、ステップS805で、異なる画像と判定された場合、認証判定部746は、予め定めた登録画像に対する照合画像の全ての走査が終了した状態を確認する(ステップS806)。
全ての走査が終了していなければ、認証判定部746は、処理を画像比較部141に戻す。このことにより、ステップS801からの動作が再度開始される。一方、ステップS806で、全ての走査が終了していることが確認された場合、認証判定部746は、2つの画像は異なる指のものであるという認証結果(認証NG)を出力する。
図7に示す画像照合部において、想定最大類似性指標Mrefは、図9に示すように、重なり指標Nが最大値Nmaxの時に最大値Mmaxとなり、重なり指標Nの減少に伴って減少するものとすることができる。重なり指標Nをパラメータとして変動する想定最大類似性指標Mrefは、値が小さいほど類似性指標はより大きな数値に補正されて同じ照合画像であると認証されやすくなる。
しかしながら、同時に、異なる指の照合画像であっても同じ照合画像であると誤認証されやすくなる。このため、図1の画像照合部104の場合と同様に、予め照合実験を行って認証精度が最も良くなるように特性の最適化を行うこともできる。例えば、想定最大類似性指標Mrefを重なり指標Nの一次関数とした場合は、以下の(5)式で表すことができる。
Mref=Mmax−T*(Nmax−N)・・・(5)
この場合には、事前に照合実験を行い、認証精度が最も良くなるしきい値TH及び上式の傾きTの組み合わせを探索し設定してもよい。想定最大類似性指標Mrefを算出する式は、上記のように一次関数に限るものではない。重なり指標Nが最大値Nmaxの時にMmaxとなり重なり指標Nの減少に伴い減少するものであれば同様の補正効果が得られるため、二次等のより高次の関数やステップ的に変化する関数であってもよい。
また、想定最大類似性指標Mrefと重なり指標Nとの関係を示す関数は、認証処理の全てにおいて共通であってもよく、また、対象の指にあわせて個別に設定することも可能である。
上記例では、共通のしきい値TH及び傾きTを用いてもよく、指にあわせてしきい値TH又は傾きTを設定することも可能である。上述した動作例において、照合画像と登録画像とを入れ替えて扱ってもよいことは、いうまでもない。
以上説明したように、図7に示す画像照合部によれば、図1の画像照合部104と同様に、照合画像や登録画像を読み取る際の指が置かれる位置のずれに起因した大きな位置ずれがある場合でも、正確な認証を行うことが可能となる。
更に、図10のフローチャートに示すように、指標の補正を行って認証を行うようにしてもよい。
まず、ステップS1001で、画像比較部141は、入力された照合画像と登録画像との位置関係をずらして重ね合わせる。画像のずらしは、照合画像と登録画像とを重ね合わせ、一方の画像に対して他方の画像を走査させることで行い、走査の範囲、刻み幅、順序は認証前に予め定めておく。
次に、ステップS1002で、画像比較部141の類似性評価部143が、まず、2つの画像の重ね合わせにより重なった照合画像の画素P1と登録画像の画素P2の、各々の輝度値BP1、とBP2の積(BP1*BP2)の総和(ΣBP1*BP2)を算出する。ついで、類似性評価部143は、類似の程度を表す指標(以下、類似性指標:M)としてこの一致率を出力する。
次に、ステップS1003で、画像比較部141の重なり評価部144は、まず照合画像と登録画像とが重なっている領域の面積を算出する。また、重なり領域の面積を登録画像の面積で除算する。
算出(除算)した数値は、登録画像のうち、照合画像と重なっている面積の割合である。重なり評価部144は、算出した数値を重なり状態を表す指標として出力する。
次に、ステップS1004で、指標補正部745は、類似性評価部143が算出した類似性指標Mに対して補正を行った補正類似性指標Mmを算出する。
次のステップS1005で、画像認識部742の認証判定部746は、補正類似性指標Mmがすでに算出されている指標の中で最良かどうか判定をし、最良であった場合にはその数値を記録する(ステップS1006)。
以上のステップS1001〜S1006を、予め設定した全走査において行う(ステップS1007)。従って、ステップS1007の段階で、全走査を行った中で、最も最良と判定された補正類似性指標が、記録される。
この後、ステップS1008で、最終的に記録された補正類似性指標と予め定めてあるしきい値THを比較し、補正類似性指標がしきい値THを超えていた場合には2つの画像は同じであると判定し、超えていない場合には2つの画像は異なるものであると判定する。同じであると判定された場合、認証OKが出力され、異なると判定された場合、認証NGが出力される。
図10に示すフローの動作により、認証判定のステップの実行回数を削減できるため、例えば認証判定の処理に時間がかかるような指紋認証装置に適用することで、認証の処理を高速化することができる。
次に、本発明に係る画像認識装置の他の例について説明する。
本実施の形態では、認証判定で比較する2つの数値である類似性を表す指標としきい値に関して、照合画像と登録画像との重なりの状態を表す指標を用い、しきい値の補正と類似性を表す指標の補正との双方を行うようにした。
図11は、本実施の形態における画像認識装置の一部である画像照合部の構成例を示す構成図である。図11の画像照合部では、画像認識部1142が、2つの指標補正部1145a,1145bと、認証判定部1146とを備える。
指標補正部1145aは、重なり評価部144から出力された重なり状態を表す指標を用いて画像比較部141から出力された類似性を表す指標を補正した類似性を表す指標を算出する。指標補正部1145bは、重なり評価部144から出力された重なり状態を表す指標を用い、予め定められているしきい値を補正した補正しきい値を算出する。
また、認証判定部1146は、指標補正部1145aから出力された補正した類似性を表す指標と、指標補正部1145bから出力された補正しきい値とを比較し、認証判定を行い結果を出力する。
以下、図11に示す画像照合部の動作例について、図12のフローチャートを用いて説明する。
まず、ステップS1201で、画像比較部141は、入力された照合画像と登録画像との位置関係をずらして重ね合わせる。画像のずらしは、照合画像と登録画像とを重ね合わせ、一方の画像に対して他方の画像を走査させることで行い、走査の範囲、刻み幅、順序は認証前に予め定めておく。
図11に示す画像照合部でも、図1,17に示した画像照合部104と同様に、照合画像と登録画像と間での大きな位置ずれに対応するために、図4に示すように、画像を走査する範囲は、2つの画像各々の領域よりも広くし、照合画像と登録画像との双方に他方の画像と重ならないはみ出し領域が存在する程度に大きくずらした重ね合わせを行う。
次に、ステップS1202で、画像比較部141の類似性評価部143は、図5に示すように、まず、2つの画像の重ね合わせにより重なった照合画像の画素P1と登録画像の画素P2の、各々の輝度値BP1、とBP2の積(BP1*BP2)の総和(ΣBP1*BP2)を算出する。類似性評価部143は、類似の程度を表す指標(類似性指標M)としてこの一致率を出力する。
次に、ステップS1203で、画像比較部141の重なり評価部144は、まず照合画像と登録画像とが重なっている領域の面積を算出する。また、重なっている領域の面積を登録画像の面積で除算する。除算した数値は、登録画像のうち、照合画像と重なっている面積の割合である。重なり評価部144は、算出した数値を重なり状態を表す指標(重なり指標N)として出力する。
次に、ステップS1204で、指標補正部1145aは、前述した(4)式により、類似性評価部143が算出した類似性指標Mに対して補正を行った類似性指標(補正類似性指標Mm)を算出して出力する。
また、ステップS1205で、指標補正部1145bは、例えば、図6のポイントBのように重なり指標Nが小さい場合に、重なり指標Nの減少に伴ってしきい値を下げるなど、しきい値の補正を行い、補正しきい値THmを算出する。これは、図3に示したステップS304と同様の動作である。
なお、ステップS1204とステップS1205とは、どちらを先に行ってもよい。
次に、ステップS1206で、画像認識部1142の認証判定部1146は、補正した類似性指標Mmと補正しきい値THmを比較し、補正した類似性指標Mmが補正しきい値THmを超えていた場合には2つの画像は同じであると判定し、超えていない場合には2つの画像は異なるものであると判定する。
ステップS1206の判定で、同じ画像との判定がされた場合、認証判定部1246は、2つの画像は同じ指のものであるという認証結果(認証OK)を出力する。一方、ステップS1206で、異なる画像と判定された場合、認証判定部1246は、予め定めた登録画像に対する照合画像の全ての走査が終了した状態を確認する(ステップS1207)。
全ての走査が終了していなければ、認証判定部1246は、処理を画像比較部141に戻す。このことにより、ステップS1201からの動作が再度開始される。一方、ステップS1207で、全ての走査が終了していることが確認された場合、認証判定部1246は、2つの画像は異なる指のものであるという認証結果(認証NG)を出力する。
しきい値及び類似性指標の補正は、前述の実施の形態で説明したように、どちらも重なり指標Nが小さくなった場合の誤認証を防ぐために行うものであり、図11に示す画像照合部は、これら2つの異なる補正を組み合わせて適用したものである。
2つの異なる補正を用いることで、照合画像と登録画像とで読み取る際の指が置かれる位置のずれに起因した大きな位置ずれがある場合でも、まず、ずれに対応して大きく照合画像をずらして重ね合わせて類似性を表す指標が算出される。また、同時に、照合画像と登録画像との重なりの状態が評価されて指標が算出される。これらの結果、重なりの状態を表す指標に応じ、認証判定で比較する2つの数値が補正されて認証が行われる。従って、大きなずらしにより照合画像と登録画像との重なりが小さくなることに起因する誤認証が防げ、正確な認証が行えるようになる。
なお、2つの画像を重ね合わせて行う認証を、次に示すように行ってもよい。以下に説明する実施の形態では、重なり指標に、面積の重なりの状態ではなく、画素レベルでの重なりの状態を評価した結果を用いるものである。
まず、重なり評価部144は、重なり指標算出のステップで、照合画像の領域(A1)と登録画像の領域(A2)の重なり領域Aoに含まれる照合画像の画素数CA0を計数し、画素数CA0の登録画像の領域(A2)に含まれる画素数CA2に対する割合を、以下に示す(6)式により算出し、重なり指標Nとして出力する。
N=CA0/CA2・・・(6)
上記重なり指標Nは、登録画像の画素のうち照合画像と重なっている画素の割合を表す。上記重なり指標Nは、類似性指標Mが画素の重なりに着目したものであるため、画素レベルでの重なりの状態を評価することができ、特に照合画像内の画素の分布に偏りがある場合に、より正確に重なりの状態を評価して補正を行うことができる。
なお、上記の例における照合画像と登録画像との照合画像、又は登録画像への割り当ては、どちらであってもよい。
本発明の実施の形態における画像認識装置の構成例を示す構成図である。 読み取った指紋の紋様に対応した画像データ(照合画像)の例を示す説明図である。 図1に示す指紋認証装置の動作例について説明するフローチャートである。 2つの画像をずらして比較するときの走査について説明する説明図である。 2つの画像をずらして比較するときの類似性の評価について説明する説明図である。 重なり指標の状態によるしきい値の補正について説明する説明図である。 本発明の実施の形態における他の画像認識装置における画像照合部の構成例を示す構成図である。 図7に示す画像照合部の動作例について説明するフローチャートである。 想定最大類似性指標Mrefと重なり指標Nとの関係を説明するための説明図である。 図7に示す画像照合部の他の動作例について説明するフローチャートである。 本発明の実施の形態における他の画像認識装置の一部である画像照合部の構成例を示す構成図である。 図11に示す画像照合部の動作例について説明するフローチャートである。
符号の説明
101…画像読み取り部、102…画像処理部、103…記憶部、104…画像照合部、141…画像比較部、142…画像認識部、143…類似性評価部、144…重なり評価部、145…指標補正部、146…認証判定部。

Claims (18)

  1. 入力された第1画像データと第2画像データとの位置関係を相対的にずらしながら重ね合わせて比較し、前記第1画像データと前記第2画像データとの関係を示す指標を算出する画像比較部と、
    この画像比較部から出力された指標と予め設定されているしきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する画像認識部と
    を備えたことを特徴とする画像認識装置。
  2. 請求項1記載の画像認識装置において、
    前記画像比較部は、前記第1画像データと前記第2画像データとの類似性を表す類似性指標と、前記第1画像データと前記第2画像データとの重なりの状態を表す重なり指標とを算出する
    ことを特徴とする画像認識装置。
  3. 請求項2記載の画像認識装置において、
    前記画像認識部は、
    前記重なり指標に応じて前記しきい値を補正して補正しきい値を生成し、
    前記類似性指標と前記補正しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識装置。
  4. 請求項2記載の画像認識装置において、
    前記画像認識部は、
    前記重なり指標に応じて前記類似性指標を補正した補正類似性指標を生成し、
    前記補正類似性指標と前記しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識装置。
  5. 請求項2記載の画像認識装置において、
    前記画像認識部は、
    前記重なり指標に応じて前記しきい値を補正して補正しきい値を生成し、
    前記重なり指標に応じて前記類似性指標を補正した補正類似性指標を生成し、
    前記補正類似性指標と前記補正しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識装置。
  6. 請求項2〜5のいずれか1項に記載の画像認識装置において、
    前記画像比較部は、前記第1画像と前記第2画像との比較において、重なった画素同士の輝度値を比較することで前記類似性指標を算出する
    ことを特徴とする画像認識装置。
  7. 請求項2〜5のいずれか1項に記載の画像認識装置において、
    前記画像比較部は、前記第1画像と前記第2画像との比較において、前記第1画像と前記第2画像とが重なっている領域の割合より前記重なり指標を算出する
    ことを特徴とする画像認識装置。
  8. 請求項2〜5のいずれか1項に記載の画像認識装置において、
    前記画像比較部は、前記第1画像と前記第2画像とが重なっている領域に存在する前記第1画像の画素の数の割合より前記重なり指標を算出する
    ことを特徴とする画像認識装置。
  9. 請求項2〜8のいずれか1項に記載の画像認識装置において、
    前記画像認識部は、前記重なり指標の一次関数として補正を行う
    ことを特徴とする画像認識装置。
  10. 入力された第1画像データと第2画像データとの位置関係を相対的にずらしながら重ね合わせて比較し、前記第1画像データと前記第2画像データとの関係を示す指標を算出する第1ステップと、
    前記指標と予め設定されているしきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する第2ステップと
    を備えたことを特徴とする画像認識方法。
  11. 請求項10記載の画像認識方法において、
    前記第1ステップでは、前記第1画像データと前記第2画像データとの類似性を表す類似性指標と、前記第1画像データと前記第2画像データとの重なりの状態を表す重なり指標とを算出する
    ことを特徴とする画像認識方法。
  12. 請求項11記載の画像認識方法において、
    前記第2ステップでは、
    前記重なり指標に応じて前記しきい値を補正して補正しきい値を生成し、
    前記類似性指標と前記補正しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識方法。
  13. 請求項2記載の画像認識方法において、
    前記第2ステップでは、
    前記重なり指標に応じて前記類似性指標を補正した補正類似性指標を生成し、
    前記補正類似性指標と前記しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識方法。
  14. 請求項11記載の画像認識方法において、
    前記第2ステップでは、
    前記重なり指標に応じて前記しきい値を補正して補正しきい値を生成し、
    前記重なり指標に応じて前記類似性指標を補正した補正類似性指標を生成し、
    前記補正類似性指標と前記補正しきい値とを比較することで前記第1画像に対する前記第2画像の同一性を判定する
    ことを特徴とする画像認識方法。
  15. 請求項11〜14のいずれか1項に記載の画像認識方法において、
    前記第1ステップでは、前記第1画像と前記第2画像との比較において、重なった画素同士の輝度値を比較することで前記類似性指標を算出する
    ことを特徴とする画像認識方法。
  16. 請求項11〜14のいずれか1項に記載の画像認識方法において、
    前記第1ステップでは、前記第1画像と前記第2画像との比較において、前記第1画像と前記第2画像とが重なっている領域の割合より前記重なり指標を算出する
    ことを特徴とする画像認識方法。
  17. 請求項11〜14のいずれか1項に記載の画像認識方法において、
    前記第1ステップでは、前記第1画像と前記第2画像とが重なっている領域に存在する前記第1画像の画素の数の割合より前記重なり指標を算出する
    ことを特徴とする画像認識方法。
  18. 請求項11〜17のいずれか1項に記載の画像認識方法において、
    前記第2ステップでは、前記重なり指標の一次関数として補正を行う
    ことを特徴とする画像認識方法。
JP2004046177A 2004-02-23 2004-02-23 画像認識装置及び画像認識方法 Expired - Fee Related JP4386347B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004046177A JP4386347B2 (ja) 2004-02-23 2004-02-23 画像認識装置及び画像認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004046177A JP4386347B2 (ja) 2004-02-23 2004-02-23 画像認識装置及び画像認識方法

Publications (2)

Publication Number Publication Date
JP2005235067A true JP2005235067A (ja) 2005-09-02
JP4386347B2 JP4386347B2 (ja) 2009-12-16

Family

ID=35017942

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004046177A Expired - Fee Related JP4386347B2 (ja) 2004-02-23 2004-02-23 画像認識装置及び画像認識方法

Country Status (1)

Country Link
JP (1) JP4386347B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061576A (ja) * 2008-09-05 2010-03-18 Fujitsu Ltd 指紋認証装置、指紋認証プログラムおよび指紋認証方法
CN104601854A (zh) * 2014-12-31 2015-05-06 苏州佳世达电通有限公司 影像辨识模组、电子装置、影像辨识验证及扫描校正方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061576A (ja) * 2008-09-05 2010-03-18 Fujitsu Ltd 指紋認証装置、指紋認証プログラムおよび指紋認証方法
US8509500B2 (en) 2008-09-05 2013-08-13 Fujitsu Limited Fingerprint authentication device, fingerprint authentication program, and fingerprint authentication method
CN104601854A (zh) * 2014-12-31 2015-05-06 苏州佳世达电通有限公司 影像辨识模组、电子装置、影像辨识验证及扫描校正方法
CN104601854B (zh) * 2014-12-31 2017-12-01 苏州佳世达电通有限公司 影像辨识模组、电子装置、影像辨识验证及扫描校正方法

Also Published As

Publication number Publication date
JP4386347B2 (ja) 2009-12-16

Similar Documents

Publication Publication Date Title
JP2020074174A (ja) モバイル・デバイスを用いてキャプチャしたイメージを使用する指紋ベースのユーザ認証を実行するためのシステムおよび方法
El-Abed et al. Evaluation of biometric systems
US20190392129A1 (en) Identity authentication method
WO2011042950A1 (ja) 生体情報処理装置、生体情報処理方法及び生体情報処理用コンピュータプログラム
JP3742279B2 (ja) 画像照合装置、画像照合方法及び画像照合プログラムを記録した記録媒体
US20080298648A1 (en) Method and system for slap print segmentation
US20010019622A1 (en) Biometric data acceptance method
JP2020501264A (ja) モバイルデバイスを用いてキャプチャした画像を使用する、指紋によるユーザ認証を実施するためのシステムおよび方法
US20130004032A1 (en) Identification apparatus, identification method, and program
KR20130043188A (ko) 생체 측정 인증 디바이스 및 방법
WO2013145280A1 (ja) 生体認証装置、生体認証方法及び生体認証用コンピュータプログラム
US20080101662A1 (en) Print matching method and apparatus using pseudo-ridges
US10127681B2 (en) Systems and methods for point-based image alignment
US9734384B2 (en) Method and a system for matching fingerprint images obtained from different fingerprint image capturing devices
KR20170020114A (ko) 지문 인증 방법 및 그 지문 인증 방법을 이용한 장치
JP4564804B2 (ja) 生体情報照合装置
WO2008143271A1 (ja) 登録装置、照合装置、プログラム及びデ-タ構造
KR101972800B1 (ko) 수기 서명 인증 방법 및 장치
JP6056398B2 (ja) 生体認証装置、生体認証方法及び生体認証用コンピュータプログラム
JP4912011B2 (ja) 生体情報照合装置
US9613252B1 (en) Fingerprint matching method and device
JPH11195119A (ja) 指紋登録装置、指紋照合装置及び指紋照合方法
JP4386347B2 (ja) 画像認識装置及び画像認識方法
JP4776385B2 (ja) 指紋画像生成装置
JP3801454B2 (ja) 擬似指紋判別装置および指紋照合装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090924

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090925

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131009

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees