JP2006163739A - 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム - Google Patents

最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム Download PDF

Info

Publication number
JP2006163739A
JP2006163739A JP2004353284A JP2004353284A JP2006163739A JP 2006163739 A JP2006163739 A JP 2006163739A JP 2004353284 A JP2004353284 A JP 2004353284A JP 2004353284 A JP2004353284 A JP 2004353284A JP 2006163739 A JP2006163739 A JP 2006163739A
Authority
JP
Japan
Prior art keywords
region
correlation
calculation
area
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004353284A
Other languages
English (en)
Other versions
JP4661195B2 (ja
Inventor
Ken Yoshino
研 吉野
Tomoharu Yamaguchi
倫治 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2004353284A priority Critical patent/JP4661195B2/ja
Publication of JP2006163739A publication Critical patent/JP2006163739A/ja
Application granted granted Critical
Publication of JP4661195B2 publication Critical patent/JP4661195B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出するための演算処理に際し、処理負荷の大きい平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に最大相関領域を判断検出する。
【解決手段】画像上に定義した局所領域Xに対して他の画像上に設定する第1局所領域Y1との相関係数と第2局所領域Y2との相関係数について、各領域Y1,Y2との相関係数Cの2乗(C2)を計算するための演算式によって平方根演算や分数演算を含まない第1演算パーツ[σ′xy 2]と第2演算パーツ[σ′yy]を整数演算器で計算すると共に、各領域それぞれの演算パーツの大小あるいは演算パーツ間の乗算計算結果の大小を比較することで、領域Xに対する領域Y1との相関と領域Y2との相関との大小を判断し、大きいと判断された領域Yの演算パーツ計算結果を記憶して順次次の領域Yiの演算パーツ計算結果との大小比較判断を繰り返し、最大相関領域Yを検出する。
【選択図】 図4

Description

本発明は、画像の認識に際して、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出するための最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラムに関する。
近年、例えば重要施設への入退室管理システムや各種情報機器へのアクセス許可システムにおいて、指紋画像、虹彩画像、顔画像など、生体画像を基にして本人認証を行うシステムが広く導入されるようになっている。
本人認証システムにおいて、例えば指紋画像照合装置の場合には、まず、イメージセンサなどにより読み取られた正規人物の特定の指(例えば人差し指)の指紋画像を登録画像として予め記憶しておく。そして、本人認証に際して同様に読み取られた対象人物の特定の指の指紋画像を照合画像として、前記予め記憶された登録画像との照合類似度を算出することで、登録画像と照合画像との同一性を判定し(パターンマッチング手法)、登録者本人か否かの認証を行っている。
例えば、指紋画像を光学式のイメージセンサ等により読み取ってパターンマッチング手法により画像照合し、本人認証するようにした指紋照合装置が考えられている(例えば、特許文献1参照。)。
このようなパターンマッチング手法を用いた照合装置では、登録画像上で定義した複数の局所領域のそれぞれに対して、照合画像上にて前記各局所領域の画像と最大の相関係数が得られる複数の最大相関領域を求め、登録画像側での各局所領域の相対位置関係と照合画像側での各最大相関領域の相対位置関係との差から類似度を算出しその同一性を判定するものである。
そして、前記登録画像上の局所領域に対する照合画像上での相関係数の算出は、当該照合画像上において前記局所領域と同サイズの領域を対象にxy方向に1画素ずつ走査されて繰り返し行われ、その中で最も相関係数値の高い領域が最大相関領域とされる。
ここで、一方の画像内の局所領域Xと他方の画像内の局所領域Yとの相関係数Cは、次の(式1)〜(式6)に示すように演算処理される。
Figure 2006163739
Figure 2006163739
Figure 2006163739
Figure 2006163739
Figure 2006163739
Figure 2006163739
ここで、xi、yiは各画素の画素値、Mは局所領域の総画素数である。また、σxyはXとYの共分散、σxxはXの分散(Xの標準偏差の2乗)、σyyはYの分散(Yの標準偏差の2乗)と呼ばれる。
特開2000−194862号公報
例えば前記従来の指紋照合装置において、一方の画像と他方の画像との各局所領域間での相関係数Cの演算処理では、前記(式1)〜(式6)に従って平方根演算、分数演算が存在し、また、浮動小数演算を行うため、それだけでも負荷が大きく処理に時間が掛かり、丸めによる誤差も発生する。しかも相関係数Cの最大値を検索する処理はこのような重い演算処理を他方の画像上にて1画素ずつ走査し、局所領域との間で繰り返し行う必要があり、処理能力の高いCPUや長いbit長の多数のメモリ空間を要するので、高速かつ正確に最大相関領域を取得して画像の照合判定を行う妨げとなっている。
本発明は、このような課題に鑑みなされたもので、相関係数の演算処理に際して、処理負荷の大きい平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に最大相関領域を取得することが可能になる最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラムを提供することを目的とする。
本発明の請求項1に記載の最大相関位置検出装置は、対比される画像に定義される領域Xと相関関係が最大となる他の画像上の領域Yの位置を検出する最大相関位置検出装置であって、
他の画像上に領域Xと同形の第1の領域Y1と第2の領域Y2を配置する領域配置手段と、前記領域Xと第1の領域Y1との間、前記領域Xと第2の領域Y2との間のそれぞれの相関係数Cの2乗を計算するための演算式におけるσxy(XとYの共分散)の2乗に相当する第1の演算パーツとσyy(Yの分散)に相当する第2の演算パーツを計算する演算パーツ計算手段と、この演算パーツ計算手段により計算された各演算パーツの大小を比較することで、前記領域Xと第1の領域Y1との相関と前記領域Xと第2の領域Y2との相関との大小を判断する相関比較判断手段と、この相関比較判断手段により相関が大きいと判断された第1の領域または第2の領域に関する各演算パーツの計算結果を記憶すると共に、相関が小さいと判断された第2の領域または第1の領域を他の画像の別の位置、またはさらに別の画像上に移動配置して当該移動配置後の領域に関する前記各演算パーツを前記演算パーツ計算手段によって計算させ、前記記憶された領域に関する各演算パーツの計算結果との大小比較判断を前記相関比較判断手段によって繰り返させる繰り返し制御手段とを備え、最大相関位置を検出するようにしたことを特徴とする。
本発明の請求項1に記載の最大相関位置検出装置によれば、対比される領域Xと第1の領域Y1との相関係数と第2の領域Y2との相関係数について、各領域Y1,Y2との相関係数Cの2乗(C2)を計算するための演算式によって平方根演算および分数演算を含まないよう変換した第1の演算パーツ[σ′xy 2](XとYの共分散の2乗にMの4乗をかけたもの)と第2の演算パーツ[σ′yy](Yの分散にMの2乗をかけたもの)を計算すると共に、当該各領域それぞれの演算パーツの大小あるいは演算パーツ間の乗算計算結果の大小を比較することで、前記領域Xに対する領域Y1との相関と領域Y2との相関との大小を判断し、大きいと判断された領域Yの演算パーツ計算結果を記憶保持して順次次の領域Yiの演算パーツ計算結果との大小比較判断を繰り返すことで、最大相関領域Yの位置(後述の例では最終的にY1として保存)を検出するようにしたので、相関係数の演算処理に際して、処理負荷の大きい平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に最大相関領域を取得することが可能になる。
以下図面により本発明の実施の形態について説明する。
図1は、本発明の実施形態に係る最大相関位置検出装置を搭載した画像照合装置の電子回路の構成を示すブロック図である。
この画像照合装置は、制御部(CPU)11、プログラムメモリ12、ワークメモリ13、登録画像メモリ13A、照合画像メモリ13B、イメージ読み取り装置14、表示部15、入力部16、記憶媒体読み取り部18、伝送制御部19、整数演算器111、相関比較用メモリ112より構成され、バス17を介して相互に接続されている。
制御部(CPU)11は、入力部16からの入力信号に応じて、プログラムメモリ12に予め記憶されている制御プログラム、あるいはフロッピディスクFDなどの外部記憶媒体18aからフロッピディスクドライブFDDなどの記憶媒体読み取り部18を介してプログラムメモリ12に読み込まれた画像照合処理プログラム、あるいは外部のコンピュータ端末(プログラムサーバ21)の記憶装置22から通信ネットワーク20を経由し伝送制御部19を介してプログラムメモリ12に読み込まれた画像照合処理プログラムを起動させ、回路各部の動作を制御する。
プログラムメモリ12は、半導体メモリのROMやハードディスク装置HDD、あるいは半導体メモリのRAM等で構成し、本照合装置の電源投入直後に制御部(CPU)11により読み出される前述の制御プログラムを予め格納しておく、あるいはフロッピディスクFDなどの外部記憶媒体18aからフロッピディスクドライブFDDなどの記憶媒体読み取り部18を介して、あるいは外部のコンピュータ端末(プログラムサーバ21)の記憶装置22から通信ネットワーク20を経由し伝送制御部19を介して、前述の画像照合処理プログラムが読み込まれる。登録画像メモリ13A、照合画像メモリ13Bは半導体メモリのRAM等で構成し、イメージ読み取り装置14により読み取られた登録画像A、照合画像Bを格納する。(使用形態に応じて、登録画像メモリ13Aは半導体メモリのROM等で構成してもよい。)
ワークメモリ13は、前述の制御プログラムを実行する際に制御部(CPU)11が使用する作業用メモリである。
相関比較用メモリ112は、登録画像Aと照合画像Bとの照合処理に伴い整数演算器111を用いて行う各画像間での相関係数の演算処理に際して、対比される登録画像と相関係数演算対象とした照合画像における第1の局所領域との相関係数と第2の局所領域との相関係数との何れが大きいかを比較するためのメモリであり、大小比較すべき相関係数のパーツの値を記憶したり、これらを加算,乗算したりするためのそれぞれが例えば32bitsのメモリ空間M1〜M11、および大小比較結果のフラグを記憶する最下位大小フラグメモリFJ、比較演算中のキャリーフラグを記憶するキャリーフラグメモリFCを有する。
なお、整数演算器111における一般的な加算器11aおよび乗算器11bの演算レジスタのビット長は32bits程度である。
イメージ読み取り装置14は、登録画像Aやこれに応じた照合画像Bを取得するための装置であり、例えば、イメージスキャナ装置やCCD(電荷結合素子)などのイメージセンサである。
表示部15は、登録画像Aと照合画像Bとの照合の判定結果を表示する、例えばCRTや液晶などといったディスプレイ装置である。
入力部16は、本照合装置の使用者が画像の取得指示や照合処理の開始を制御部(CPU)11に指示するための、例えばキーボード装置などの入力装置である。
図2は、前記画像照合装置における登録画像GAの局所領域Xに対する照合画像GBの第1局所領域Y1と第2局所領域Y2との領域設定状態を示す図である。
この画像照合装置では、登録画像GAの所定の位置に設定した局所領域Xに対して照合画像GB上でxy方向に1画素ずつ走査される各局所領域Y1,Y2,…それぞれとの相関係数を演算し、そのうちの最大相関係数が得られる領域(最大相関領域)を検出する。
そして、この照合画像GB上での最大相関領域の検出処理を、登録画像GAに設定した複数の局所領域Xa,Xb,…,XNについて行い、当該登録画像GA上での複数の局所領域Xa,Xb,…,XN間の相対位置関係とこれに応じて検出された照合画像GB上での複数の最大相関領域Ya,Yb,…,YN間の相対位置関係との差分により両画像間の類似度を算出し、この類似度に閾値を設定して照合一致または照合不一致の判定を行う。
なお、前記一方の画像上での複数の局所領域Xa,Xb,…,XNそれぞれの相対位置関係と他方の画像上での各最大相関領域Ya,Yb,…,YNそれぞれの相対位置関係とに基づいた一方の画像と他方の画像との類似度の算出手法については、例えば同一出願人により出願され出願公開済みの画像照合装置に記載された手法を用いる(特許文献1参照。)。
ここで、前記登録画像GAと照合画像GB間での相関係数の演算手法およびその最大相関領域の検出判定手法について説明する。
一方の画像1内の局所領域Xと他方の画像2内の局所領域Yとの相関係数Cの演算式は、前記(式1)〜(式6)で示した通りであるが、検出すべきは画像2における第1局所領域Y1との相関係数と第2局所領域Y2との相関係数との大小比較であるため、まず処理負荷の重い平方根演算を解消するために、前記(式1)で示した相関係数の演算式の両辺を2乗し、次の(式7)で示すように変換する。
Figure 2006163739
ここで、σxx、σyy、σxyについて、それぞれ前記(式2)〜(式6)に従い次の(式8)〜(式10)で示すように展開する。
Figure 2006163739
Figure 2006163739
Figure 2006163739
そして、前記(式7)に従った2乗後の相関係数C2における分子/分母の各パーツσxy 2、σxx、σyyについて、そのそれぞれに含まれる[M]に関する分数演算を解消するためにそれぞれ[M4]、[M2]、[M2]を乗算し、次の(式11)で示すように変換する。
Figure 2006163739
ここで、一方の画像1内の局所領域Xと他方の画像2内の局所領域Y1との相関係数C2の変換式(式11)おける分子/分母の各パーツを、σ′xy1 2、σ′xx、σ′y1y1とし、また、同画像1内の局所領域Xと他方の画像2内の局所領域Y2との相関係数C2の変換式(式11)おける分子/分母の各パーツを、σ′xy2 2、σ′xx、σ′y2y2とする。
この際、第1の局所領域Y1との相関係数C2の各パーツと第2の局所領域Y2との相関係数C2の各パーツとの間には、σ′xxが共通に含まれ、これは各局所領域Y1との相関係数と,Y2との相関係数間での大小の比較結果には無関係なパーツであるため計算の必要はない。
従って、第1の局所領域Y1との相関係数Cy1 2の演算式と第2の局所領域Y2との相関係数Cy2 2の演算式とは、次の(式12)で示すように簡略化して大小比較比較を行える。
Figure 2006163739
なお、前記各演算パーツであるσ′xy 2はXとYの共分散の2乗にMの4乗をかけたもの、σ′xxはXの分散にMの2乗をかけたもの、σ′yyはYの分散にMの2乗をかけたものに対応する。
ここまでの変形で、第1の局所領域Y1との分子、分母の各パーツσ′xy1 2、σ′y1y1と第2の局所領域Y2との分子、分母の各パーツσ′xy2 2、σ′y2y2は何れにも平方根演算や分数演算が現れず、整数演算器111のみによって演算処理することができる。
さらに、第1の局所領域Y1に関する分子/分母と第2の局所領域Y2に関する分子/分母という分数の形での比較を行うのではなく、分子と分母の各パーツ間の比較判断あるいは、各パーツ間の乗算後の比較判断によって、何れの局所領域の相関係数Cが大きいかを判断可能とする方法を考える。
すなわち、第1比較処理として、第1の局所領域Y1の分母パーツσ′y1y1が第2の局所領域Y2の分母パーツσ′y2y2と比較して等しいか小さく、且つ第1の局所領域Y1の分子パーツσ′xy1 2が第2の局所領域Y2の分子パーツσ′xy2 2と比較して大きい場合には、第1の局所領域Y1との相関が大きいと判定できる。
同様に、第1の局所領域Y1の分母パーツσ′y1y1が第2の局所領域Y2の分母パーツσ′y2y2と比較して小さく、且つ第1の局所領域Y1の分子パーツσ′xy1 2が第2の局所領域Y2の分子パーツσ′xy2 2と比較して等しいか大きい場合には、第1の局所領域Y1との相関が大きいと判定できる。
逆に、第2の局所領域Y2の分母パーツσ′y2y2が第1の局所領域Y1の分母パーツσ′y1y1と比較して等しいか小さく、且つ第2の局所領域Y2の分子パーツσ′xy2 2が第1の局所領域Y1の分子パーツσ′xy1 2と比較して小さい場合には、第2の局所領域Y2との相関が大きいと判定できる。
同様に、第2の局所領域Y2の分母パーツσ′y2y2が第1の局所領域Y1の分母パーツσ′y1y1と比較して小さく、且つ第2の局所領域Y2の分子パーツσ′xy2 2が第1の局所領域Y1の分子パーツσ′xy1 2と比較して大きいか等しい場合には、第2の局所領域Y2との相関が大きいと判定できる。
そして、この第1比較処理で判定できないときには第2比較処理として、第1の局所領域Y1の分子パーツと第2の局所領域Y2の分母パーツとの乗算結果(σ′xy1 2*σ′y2y2)に対して、第2の局所領域Y2の分子パーツと第1の局所領域Y1の分母パーツとの乗算結果(σ′xy2 2*σ′y1y1)を比較することで、後者の方が大きい場合には第2の局所領域Y2との相関が大きいと判定でき、その逆の場合には第1の局所領域Y1との相関が大きいと判定できる。
次に、前記構成の画像照合装置における最大相関位置検出動作について説明する。
図3は、前記画像照合装置における最大相関位置検出処理を示すフローチャートである。
図4は、前記画像照合装置の最大相関位置検出処理に伴う相関の比較処理を示すフローチャートである。
図5は、前記画像照合装置の相関の比較処理に伴う第2比較処理での詳細な演算過程を示すフローチャートである。
図6は、前記画像照合装置の相関の比較処理に伴う相関比較用メモリ112での演算動作を示す図である。
まず、図2(A)で示したように、登録画像メモリ13Aに記憶された登録画像GAの所定の位置に対して基準局所領域Xを定義する(ステップS1)。
また、図2(B)で示したように、照合画像メモリ13Bに記憶された照合画像GBの全画素中の始点画素に合わせて前記基準局所領域Xと同サイズの第1の局所領域Y1を設定する(ステップS2)と共に、x方向に1画素分走査した位置に第2の局所領域Y2を設定する(ステップS3)。
すると、図4における相関の比較処理が起動され、前記登録画像GA上での基準局所領域Xに対する照合画像GB上での第1の局所領域Y1との相関係数と第2の局所領域Y2との相関係数とが演算算出されると共に、その何れの相関が大きいかが判断される(ステップSA)。
ここで、各局所領域X,Y1,Y2の画像サイズを例えば12*14画素とすると、その総画像数Mは168となる。また、1画素を8ビット(256)階調とする。
相関の比較処理が起動されると、前記(式12)で示した第1の局所領域Y1の分子/分母の各パーツσ′xy1 2、σ′y1y1と、第2の局所領域Y2の分子/分母の各パーツσ′xy2 2、σ′y2y2とが、それぞれ平方根演算や分数演算を無くした前記(式11)に従い、整数演算器111の加算器11aおよび乗算器11bにより演算算出され、図6(B)に示すように、第1の局所領域Y1の分子パーツσ′xy1 2は相関比較用メモリ112の各32bitsメモリ空間M1,M2に、分母パーツσ′y1y1はM3に格納され、図6(C)に示すように、第2の局所領域Y2の分子パーツσ′xy2 2は同相関比較用メモリ112の各32bitsメモリ空間M4,M5に、分母パーツσ′y2y2はM6に格納される(ステップA1,A2)。
すると、前記メモリ空間[M3:M6]によって第1の局所領域Y1の分母パーツσ′y1y1が第2の局所領域Y2の分母パーツσ′y2y2と比較して等しいか小さく(ステップA3)且つ前記メモリ空間[M1,M2:M4,M5]によって第1の局所領域Y1の分子パーツσ′xy1 2が第2の局所領域Y2の分子パーツσ′xy2 2と比較して大きいか(ステップA4)、または第1の局所領域Y1の分母パーツσ′y1y1が第2の局所領域Y2の分母パーツσ′y2y2と比較して小さく(ステップA5)且つ第1の局所領域Y1の分子パーツσ′xy1 2が第2の局所領域Y2の分子パーツσ′xy2 2と比較して等しいか大きいか(ステップA6)が整数演算器111の比較器11cによって判断され、この各条件に当て嵌まる場合には第1の局所領域Y1との相関が大きいとして判断される(ステップA7)。
逆に、前記メモリ空間[M3:M6]によって第2の局所領域Y2の分母パーツσ′y2y2が第1の局所領域Y1の分母パーツσ′y1y1と比較して等しいか小さく(ステップA8)且つ前記メモリ空間[M1,M2:M4,M5]によって第2の局所領域Y2の分子パーツσ′xy2 2が第1の局所領域Y1の分子パーツσ′xy1 2と比較して大きいか(ステップA9)、または第2の局所領域Y2の分母パーツσ′y2y2が第1の局所領域Y1の分母パーツσ′y1y1と比較して小さく(ステップA10)且つ第2の局所領域Y2の分子パーツσ′xy2 2が第1の局所領域Y1の分子パーツσ′xy1 2と比較して等しいか大きいか(ステップA11)が整数演算器111の比較器11cによって判断され、この各条件に当て嵌まる場合には第2の局所領域Y2との相関が大きいとして判断される(ステップA12)。
こうした相関の比較処理における第1比較処理(ステップA3〜A12)において、第1の局所領域Y1との相関または第2の局所領域Y2との相関の何れが大きいかが判定されなかった場合には、当該相関の比較処理における第2比較処理(ステップA13〜A15)に移行され、整数演算器111において、第1の局所領域Y1の分子パーツと第2の局所領域Y2の分母パーツとの乗算結果(σ′xy1 2*σ′y2y2)に対して、第2の局所領域Y2の分子パーツと第1の局所領域Y1の分母パーツとの乗算結果(σ′xy2 2*σ′y1y1)が比較され、第1の局所領域Y1との相関が大きいか、または第2の局所領域Y2との相関が大きいかが判定される。
この第2比較処理について、図5で示す第2比較処理での詳細な演算過程および図6で示す相関比較用メモリ112での演算動作を参照してさらに詳細に説明する。
なお、この第2比較処理も、整数演算器111の加算器11a、乗算器11b、比較器11c、および相関比較用メモリ112を使用して実行される。
まず、図6(E)に示すように、メモリ空間[M1,M2]に格納された第1の局所領域Y1の分子パーツ(σ′xy1 2)とメモリ空間[M6]に格納された第2の局所領域Y2の分母パーツ(σ′y2y2)との乗算にあたり、下位桁での乗算[M2*M6]が行われ、その乗算結果(σ′xy1 2[下位]*σ′y2y2)が[M7,M8]に格納される(ステップA130)。
また、図6(F)に示すように、メモリ空間[M4,M5]に格納された第2の局所領域Y2の分子パーツ(σ′xy2 2)とメモリ空間[M3]に格納された第1の局所領域Y1の分母パーツ(σ′y1y1)との乗算にあたり、下位桁での乗算[M5*M3]が行われ、その乗算結果(σ′xy2 2[下位]*σ′y1y1)が[M9,M10]に格納される(ステップA131)。
すると、前記乗算結果の下位桁側である[M8]と[M10]とが比較され、その大小を示すフラグが図6(G)で示す最下位大小フラグメモリFJに記憶される(ステップA132)。
続いて、前記下位桁での乗算処理と同様に、上位桁での乗算処理[M1*M6]が行われ、その乗算結果(σ′xy1 2[上位]*σ′y2y2)が[M8,M10]に格納される(ステップA133)。
そして、[M7+M10]の加算結果が[M7]に上書き格納されると共に、キャリーが生じた場合にはキャリーフラグメモリFCに記憶され(ステップA134)、さらに、[M8+キャリー(FC)]が行われ、[M8]に上書き格納される(ステップA135)。
この時点で、第1の局所領域Y1の分子パーツと第2の局所領域Y2の分母パーツとの乗算結果(σ′xy1 2*σ′y2y2)の上位桁側が[M8,M7]に得られた状態となる。
一方、前記メモリ空間[M4,M5]に格納された第2の局所領域Y2の分子パーツ(σ′xy2 2)とメモリ空間[M3]に格納された第1の局所領域Y1の分母パーツ(σ′y1y1)との乗算についても、前記下位桁での乗算処理(ステップA131)と同様に、上位桁での乗算処理[M4*M3]が行われ、その乗算結果(σ′xy2 2[上位]*σ′y1y1)が[M10,M11]に格納される(ステップA136)。
そして、[M9+M11]の加算結果が[M9]に上書き格納されると共に、キャリーが生じた場合にはキャリーフラグメモリFCに記憶され(ステップA137)、さらに、[M10+キャリー(FC)]が行われ、[M10]に上書き格納される(ステップA138)。(なお、上記キャリーフラグメモリFCに関する演算は整数演算器111内のレジスタで処理されてもよい。)
この時点で、第2の局所領域Y2の分子パーツと第1の局所領域Y1の分母パーツとの乗算結果(σ′xy2 2*σ′y1y1)の上位桁側が[M10,M9]に得られた状態となる。
そして、それぞれの乗算結果である[M8,M7]と[M10,M9]とが、その上位側から32bitsずつ比較処理される(ステップA139)。
すなわち、第1の局所領域Y1の分子パーツと第2の局所領域Y2の分母パーツとの乗算結果である(σ′xy1 2*σ′y2y2)の上位側[M8]と、第2の局所領域Y2の分子パーツと第1の局所領域Y1の分母パーツとの乗算結果である(σ′xy2 2*σ′y1y1)の上位側[M10]とが比較されてその大小が判断され、同じである場合には同下位側の[M7]と[M9]が比較されてその大小が判断され、さらに同じである場合には前記ステップA132において判断記憶された最下位大小フラグメモリFJの値に応じてその大小が判断される。
そして、第1の局所領域Y1側との相関が大きいと判断された場合には、当該第1の局所領域Y1の分子/分母の各パーツσ′xy1 2、σ′y1y1の演算値が格納されているメモリ空間[M1][M2][M3]の内容が記憶保持され、逆に、第2の局所領域Y2側との相関が大きいと判断された場合には、当該第2の局所領域Y2の分子/分母の各パーツσ′xy2 2、σ′y2y2の演算値が格納されているメモリ空間[M4][M5][M6]の内容が記憶保持される。そして、この時点での前記基準局所領域Xに対する最大相関領域Yとして相関が大きいと判断された側の領域位置も記憶される。
これにより、処理負荷の大きい平方根演算や分数演算を行う必要なく、照合画像GB上での各局所領域Y1,Y2との相関係数の大小を容易に演算比較して高速かつ正確に判定できるようになる。
こうして、第1の局所領域Y1との相関と第2の局所領域Y2との相関との大小が判定されると、相関が大きいと判断された方の局所領域がY1として扱われ(ステップS4〜S5)、照合画像GBを終点位置まで検索したかを判断し(ステップS6)、終点位置でない場合は、当該現時点での最大相関領域である局所領域Y1と比較すべく新たな局所領域Y2が1画素分走査した位置に設定される(ステップS7)。
そして再び、前記図4における相関の比較処理が起動され、前記新たな局所領域Y2との相関演算式Cy2 2における分子/分母の各パーツσ′xy2 2/σ′y2y2の演算処理、および前回の同比較処理において記憶保持された現時点での最大相関領域である局所領域Y1との相関演算式Cy1 2における分子/分母の各パーツσ′xy1 2/σ′y1y1との相関比較処理が繰り返される(ステップSA)。
この後、前記同様に照合画像GB上の全領域について1画素ずつxy方向に走査された新たな局所領域Y2との相関の比較処理が繰り返されることで、最終的にY1として扱われた局所領域が最大相関領域(位置)として判定される(ステップS4→S8)。
そしてさらに、前記照合画像GB上での最大相関領域Y1の検出処理が、登録画像GAに設定した複数の局所領域Xa,Xb,…,XNについて繰り返し実行され、当該登録画像GA上での複数の局所領域Xa,Xb,…,XN間の相対位置関係とこれに応じて検出された照合画像GB上でのそれぞれの最大相関領域Ya,Yb,…,YN間の相対位置関係との差分により各画像同士の類似度が算出され、この類似度に設定された閾値に従って照合一致または照合不一致の判定が行われる。
したがって、前記構成の画像照合装置における最大相関位置検出機能によれば、登録画像GA上に定義した基準の局所領域Xに対して相関関係が最大になる照合画像GB上での同領域サイズの局所領域Yの位置を検出するために、照合画像GB上で1画素ずつ走査して設定する第1の局所領域Y1との相関係数と第2の局所領域Y2との相関係数について、各領域Y1,Y2との相関係数Cの2乗(C2)を計算するための演算式によって平方根演算および分数演算を含まないよう変換した第1の演算パーツ[σ′xy 2](XとYの共分散の2乗にMの4乗をかけたもの)と第2の演算パーツ[σ′yy](Yの分散にMの2乗をかけたもの)を整数演算器111にて計算すると共に、当該各領域それぞれの演算パーツの大小あるいは演算パーツ間の乗算計算結果の大小を比較することで、前記領域Xに対する領域Y1との相関と領域Y2との相関との大小を判断し、大きいと判断された領域Yの演算パーツ計算結果を記憶保持して順次次の領域Yiの演算パーツ計算結果との大小比較判断を繰り返すことで、最大相関領域Yの位置を最終的にY1として検出するようにしたので、負荷の重い平方根演算および分数演算処理を行う必要なく、高速かつ正確に最大相関領域を取得して画像の照合判定を行うことができる。
つまり、前記構成の画像照合装置における最大相関位置検出機能によれば、相関係数Cの大小を比較判断するための第1の演算パーツ[σ′xy 2](XとYの共分散の2乗にMの4乗をかけたもの)および第2の演算パーツ[σ′yy](Yの分散にMの2乗をかけたもの)は、何れも対象領域の総画素数Mを適宜掛けて分数演算を含まないよう変換した演算式によって計算するので、平方根演算だけでなく分数演算をも含まずに、かつ、分数の形での比較を行わないので、より高速かつ正確に最大相関領域を取得して画像の照合判定を行うことができる。
また、前記構成の画像照合装置における最大相関位置検出機能によれば、領域Y1との相関係数とY2との相関係数の各演算に関するそれぞれの第1の演算パーツ[σ′xy 2](XとYの共分散の2乗にMの4乗をかけたもの)および第2の演算パーツ[σ′yy](Yの分散にMの2乗をかけたもの)同士の比較処理により大小の判断ができない場合にのみ、領域Y1に関する第2の演算パーツ[σ′y1y1]と領域Y2に関する第1の演算パーツ[σ′xy2 2]との乗算結果と、領域Y2に関する第2の演算パーツ[σ′y2y2]と領域Y1に関する第1の演算パーツ[σ′xy1 2]との乗算結果とを比較することで、各領域Y1,Y2それぞれとの相関の大小を判断するので、多ビット間の乗算回数を減らすことができ、高速且つ確実に最大相関領域を取得して画像の照合判定を行うことができる。
さらに、前記領域Y1に関する第2の演算パーツ[σ′y1y1]と領域Y2に関する第1の演算パーツ[σ′xy2 2]との乗算処理、領域Y2に関する第2の演算パーツ[σ′y2y2]と領域Y1に関する第1の演算パーツ[σ′xy1 2]との乗算処理、およびその比較処理を行う場合は、整数演算器111における乗算器11aおよび加算器11bのレジスタビット長に対応した32bits長単位のメモリ空間Miで演算処理すると共に、最下位のビットブロックの乗算結果の大小比較結果のみを最下位大小フラグメモリFJに記憶した後に、当該最下位のビットブロックを上位側のビットブロックの演算結果メモリとして上書きして再利用するので、メモリ領域を効率的に使用して高速且つ確実な最大相関領域の取得処理を行うことができる。
また、平方根演算も用いないので、平方根演算用のデータテーブル領域を持つ必要がなく有利である。
なお、上記実施形態では、領域Y1、Y2は同じ画像上にある場合の最大相関位置検出機能の例として説明したが、領域Y1と領域Y2、・・・が別の画像上にあり、対比される画像X上の領域とどの領域の相関が最も大きい領域かを検出する機能としても同様に使える。(位置として、同一画像上に限らず、他画像上の位置であってもかまわない。)さらに、上記実施形態を複数の画像間に適用して、求まった最大相関領域間のうち、さらに最大の相関係数値を与える領域を検出する機能としても同様に利用することが可能である。
また、照合装置としてだけでなく、広く認識装置として、領域Xの画像内の対象物体がどの位置に存在するかを検出する対象物体の位置検出装置、運動物体の追跡装置等に利用することも可能である。
また、もし、最大相関係数値そのものの値が必要であれば、最大相関位置が求まった時点で、必要な[σ′xx2]を一回のみ計算して、最大相関係数値Cの2乗に相当する分数を一回だけ求めることにより対応すればよく効率的である。
なお、前記実施形態において記載した画像照合装置による各処理の手法、すなわち、図3のフローチャートに示す最大相関位置検出処理、図4のフローチャートに示す前記最大相関位置検出処理での相関の比較処理、図5のフローチャートに示す前記相関の比較処理での第2比較処理、そしてこの最大相関位置の検出に基づいた画像照合判定処理等の各手法は、何れもコンピュータに実行させることができるプログラムとして、メモリカード(ROMカード、RAMカード等)、磁気ディスク(フロッピディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記録媒体18aに格納して配布することができる。そして、画像記憶機能を備えた種々のコンピュータ端末は、この外部記録媒体18aに記憶されたプログラムを記憶媒体読取部18によってプログラムメモリ12に読み込み、この読み込んだプログラムによって動作が制御されることにより、前記実施形態において説明した各画像間での最大相関位置検出/照合判定機能を実現し、前述した手法による同様の処理を実行することができる。
そして、上記プログラムは浮動小数点演算機能を持たないデバイス(DSP、マイコン等)にも実装できるという利点がある。
また、前記各手法を実現するためのプログラムのデータは、プログラムコードの形態として通信ネットワーク(インターネット)20上を伝送させることができ、この通信ネットワーク(インターネット)20に接続されたコンピュータ端末(プログラムサーバ21)の記憶装置22から前記のプログラムデータを取り込み、前述した各画像間での最大相関位置検出/照合判定機能を実現することもできる。
なお、本願発明は、前記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。さらに、前記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されたり、幾つかの構成要件が組み替えられても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除されたり組み替えられた構成が発明として抽出され得るものである。
本発明の実施形態に係る最大相関位置検出装置を搭載した画像照合装置の電子回路の構成を示すブロック図。 前記画像照合装置における登録画像GAの局所領域Xに対する照合画像GBの第1局所領域Y1と第2局所領域Y2との領域設定状態を示す図。 前記画像照合装置における最大相関位置検出処理を示すフローチャートである。 前記画像照合装置の最大相関位置検出処理に伴う相関の比較処理を示すフローチャート。 前記画像照合装置の相関の比較処理に伴う第2比較処理での詳細な演算過程を示すフローチャート。 前記画像照合装置の相関の比較処理に伴う相関比較用メモリ112での演算動作を示す図。
符号の説明
11 …制御部(CPU)
111…整数演算器
11a…加算器
11b…乗算器
11c…比較器
112…相関比較用メモリ
12 …プログラムメモリ
13 …ワークメモリ
13A…登録画像メモリ
13B…照合画像メモリ
14 …イメージ読み取り装置
15 …表示部
16 …入力部
Mi …32bitsメモリ空間
FJ …最下位大小フラグメモリ
FC …キャリーフラグメモリ
GA …登録画像
GB …照合画像
X …基準局所領域
Yi …相関演算対象領域

Claims (7)

  1. 対比される画像に定義される領域Xと相関関係が最大となる他の画像上の領域Yの位置を検出する最大相関位置検出装置であって、
    他の画像上に領域Xと同形の第1の領域Y1と第2の領域Y2を配置する領域配置手段と、
    前記領域Xと第1の領域Y1との間、前記領域Xと第2の領域Y2との間のそれぞれの相関係数Cの2乗を計算するための演算式におけるσxy(XとYの共分散)の2乗に相当する第1の演算パーツとσyy(Yの分散)に相当する第2の演算パーツを計算する演算パーツ計算手段と、
    この演算パーツ計算手段により計算された各演算パーツの大小を比較することで、前記領域Xと第1の領域Y1との相関と前記領域Xと第2の領域Y2との相関との大小を判断する相関比較判断手段と、
    この相関比較判断手段により相関が大きいと判断された第1の領域または第2の領域に関する各演算パーツの計算結果を記憶すると共に、相関が小さいと判断された第2の領域または第1の領域を他の画像の別の位置、またはさらに別の画像上に移動配置して当該移動配置後の領域に関する前記各演算パーツを前記演算パーツ計算手段によって計算させ、前記記憶された領域に関する各演算パーツの計算結果との大小比較判断を前記相関比較判断手段によって繰り返させる繰り返し制御手段とを備え、
    最大相関位置を検出するようにしたことを特徴とする最大相関位置検出装置。
  2. 前記第1の演算パーツは、XとYの共分散σxyの値の2乗に演算対象領域の画素数Mの4乗を掛けた式に相当し、
    前記第2の演算パーツは、Yの分散σyyの値に演算対象領域の画素数Mの2乗を掛けた式に相当する、
    ことを特徴とする請求項1に記載の最大相関位置検出装置。
  3. 前記相関比較判断手段は、前記第1の領域Y1に関する前記第1の演算パーツと前記第2の領域Y2に関する前記第1の演算パーツとの大小の比較結果、および前記第1の領域Y1に関する前記第2の演算パーツと前記第2の領域Y2に関する前記第2の演算パーツとの大小の比較結果の両者を用いて前記領域Xと第1の領域Y1との相関と前記領域Xと第2の領域Y2との相関との大小を判断する、
    ことを特徴とする請求項1または請求項2に記載の最大相関位置検出装置。
  4. 前記相関比較判断手段による第1の領域に関する各演算パーツと第2の領域に関する各演算パーツとの比較により相関の大小が判断できない場合には、前記第1の領域Y1に関する前記第2の演算パーツに前記第2の領域Y2に関する前記第1の演算パーツを掛けた積と、前記第2の領域Y2に関する前記第2の演算パーツに前記第1の領域Y1に関する前記第1の演算パーツを掛けた積とを比較することで、前記第1の領域Y1との相関と前記第2の領域Y2との相関との大小を判断する第2比較判断手段をさらに備えたことを特徴とする請求項1乃至請求項3の何れか1項に記載の最大相関位置検出装置。
  5. 前記第2比較判断手段は、乗算器および加算器のレジスタのビット長に対応した長さ単位(ビットブロック)毎に演算を行い、
    最下位のビットブロックの積の結果に対して両者の大小比較を行う最下位ブロック比較手段と、
    この最下位ブロック比較手段による大小比較結果を記憶する最下位ブロック大小記憶手段と、
    上位側のビットブロックの加算、乗算演算結果を前記最下位のビットブロックの積が格納されていたメモリ領域を利用して上書きで格納する演算上書き手段と、
    この演算上書き手段により上書きされた上位側のビットブロックの積の結果に対して両者の大小比較を行う上位側ブロック比較手段と、
    を有することを特徴とする請求項4に記載の最大相関位置検出装置。
  6. 対比される画像に定義される領域Xと相関関係が最大となる他の画像上の領域Yの位置を検出する最大相関位置検出方法であって、
    他の画像上に領域Xと同形の第1の領域Y1と第2の領域Y2を配置し、
    前記領域Xと第1の領域Y1との間、前記領域Xと第2の領域Y2との間のそれぞれの相関係数Cの2乗を計算するための演算式におけるσxy(XとYの共分散)の2乗に相当する第1の演算パーツとσyy(Yの分散)に相当する第2の演算パーツを計算し、
    この計算された各演算パーツの大小を比較することで、前記領域Xと第1の領域Y1との相関と前記領域Xと第2の領域Y2との相関との大小を判断し、
    この比較判断により相関が大きいと判断された第1の領域または第2の領域に関する各演算パーツの計算結果を記憶すると共に、相関が小さいと判断された第2の領域または第1の領域を他の画像の別の位置、またはさらに別の画像上に移動配置して当該移動配置後の領域に関する前記各演算パーツを計算し、前記記憶された領域に関する各演算パーツの計算結果との大小比較判断を繰り返すことで最大相関位置を検出するようにしたことを特徴とする最大相関位置検出方法。
  7. 対比される画像に定義される領域Xと相関関係が最大となる他の画像上の領域Yの位置を検出する画像処理装置のコンピュータを制御するための最大相関位置検出処理プログラムであって、
    前記コンピュータを、
    画像メモリに記憶された他の画像上に領域Xと同形の第1の領域Y1と第2の領域Y2を配置する領域配置手段、
    前記領域Xと第1の領域Y1との間、前記領域Xと第2の領域Y2との間のそれぞれの相関係数Cの2乗を計算するための演算式におけるσxy(XとYの共分散)の2乗に相当する第1の演算パーツとσyy(Yの分散)に相当する第2の演算パーツを計算する演算パーツ計算手段、
    この演算パーツ計算手段により計算された各演算パーツの大小を比較することで、前記領域Xと第1の領域Y1との相関と前記領域Xと第2の領域Y2との相関との大小を判断する相関比較判断手段、
    この相関比較判断手段により相関が大きいと判断された第1の領域または第2の領域に関する各演算パーツの計算結果を記憶すると共に、相関が小さいと判断された第2の領域または第1の領域を前記画像メモリに記憶された他の画像の別の位置、またはさらに別の画像上に移動配置して当該移動配置後の領域に関する前記各演算パーツを前記演算パーツ計算手段によって計算させ、前記記憶された領域に関する各演算パーツの計算結果との大小比較判断を前記相関比較判断手段によって繰り返させる繰り返し制御手段、
    として機能させ最大相関位置を検出するようにした最大相関位置検出処理プログラム。
JP2004353284A 2004-12-06 2004-12-06 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム Expired - Fee Related JP4661195B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004353284A JP4661195B2 (ja) 2004-12-06 2004-12-06 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004353284A JP4661195B2 (ja) 2004-12-06 2004-12-06 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010243208A Division JP4985835B2 (ja) 2010-10-29 2010-10-29 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム、並びに画像照合装置、画像照合方法、および画像照合プログラム

Publications (2)

Publication Number Publication Date
JP2006163739A true JP2006163739A (ja) 2006-06-22
JP4661195B2 JP4661195B2 (ja) 2011-03-30

Family

ID=36665699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004353284A Expired - Fee Related JP4661195B2 (ja) 2004-12-06 2004-12-06 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム

Country Status (1)

Country Link
JP (1) JP4661195B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101775273B1 (ko) 2016-04-12 2017-09-06 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지들 사이의 상관관계 획득 방법 및 시스템

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6065377A (ja) * 1983-09-19 1985-04-15 Fujitsu Ltd 2次元相関係数の並列処理方法
JPS6398070A (ja) * 1986-10-14 1988-04-28 Mitsubishi Electric Corp 相関演算装置
JPH0310107A (ja) * 1989-06-08 1991-01-17 Murata Mfg Co Ltd 濃淡パターンマッチングによる検査方法
JPH0668264A (ja) * 1992-08-21 1994-03-11 Takayama:Kk パターンマッチング回路

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6065377A (ja) * 1983-09-19 1985-04-15 Fujitsu Ltd 2次元相関係数の並列処理方法
JPS6398070A (ja) * 1986-10-14 1988-04-28 Mitsubishi Electric Corp 相関演算装置
JPH0310107A (ja) * 1989-06-08 1991-01-17 Murata Mfg Co Ltd 濃淡パターンマッチングによる検査方法
JPH0668264A (ja) * 1992-08-21 1994-03-11 Takayama:Kk パターンマッチング回路

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101775273B1 (ko) 2016-04-12 2017-09-06 재단법인 다차원 스마트 아이티 융합시스템 연구단 이미지들 사이의 상관관계 획득 방법 및 시스템

Also Published As

Publication number Publication date
JP4661195B2 (ja) 2011-03-30

Similar Documents

Publication Publication Date Title
JP3166905B2 (ja) パターンマッチングによる画像処理方法およびシステム
JP4022861B2 (ja) 指紋認証システム、指紋認証方法及び指紋認証プログラム
US11417145B2 (en) Tenrprint card input device, tenrprint card input method and storage medium
JP3053607B2 (ja) データ照合方法およびその装置
JP6229303B2 (ja) プログラム、情報処理装置および文字認識方法
JP3742279B2 (ja) 画像照合装置、画像照合方法及び画像照合プログラムを記録した記録媒体
EP2172856A2 (en) Image processing apparatus, image processing method and program
WO2004097741A1 (ja) 指紋照合装置、指紋照合方法および指紋照合プログラム
US20090245596A1 (en) Authentication apparatus and authentication method
TW200917135A (en) Registration device, registration method, authentication device and authentication method
CN110008997B (zh) 图像纹理相似度识别方法、装置及计算机可读存储介质
JP2004030694A (ja) デジタル映像テクスチャー分析方法
JP4661195B2 (ja) 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム
JP4985835B2 (ja) 最大相関位置検出装置、最大相関位置検出方法、および最大相関位置検出処理プログラム、並びに画像照合装置、画像照合方法、および画像照合プログラム
JP2006260359A (ja) 生体情報処理装置および生体情報処理方法
JP2018049391A (ja) 生体画像処理装置、生体画像処理方法、および生体画像処理プログラム
CN116051873A (zh) 关键点匹配方法、装置及电子设备
JP3833430B2 (ja) データ照合装置及びデータ照合方法
US20170004341A1 (en) Systems and methods for coarse-to-fine ridge-based biometric image alignment
JP4575356B2 (ja) アイデンティティのチェックのためのシステム、コンピュータ読み取り可能な記録媒体
CN106156689B (zh) 一种信息处理方法及电子设备
JP2002329205A (ja) 情報処理装置、及び指紋認証方法
TW202008210A (zh) 指紋影像處理裝置和方法
WO2024111113A1 (ja) 情報処理装置、情報処理方法及び記録媒体
CN108573212A (zh) 一种手掌特征身份认证方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100615

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100831

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101220

R150 Certificate of patent or registration of utility model

Ref document number: 4661195

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140114

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees