JP4645887B2 - 画像処理装置及び画像処理方法並びにプログラム - Google Patents

画像処理装置及び画像処理方法並びにプログラム Download PDF

Info

Publication number
JP4645887B2
JP4645887B2 JP2004318474A JP2004318474A JP4645887B2 JP 4645887 B2 JP4645887 B2 JP 4645887B2 JP 2004318474 A JP2004318474 A JP 2004318474A JP 2004318474 A JP2004318474 A JP 2004318474A JP 4645887 B2 JP4645887 B2 JP 4645887B2
Authority
JP
Japan
Prior art keywords
blood vessel
data
sparse matrix
feature points
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004318474A
Other languages
English (en)
Other versions
JP2006127419A (ja
Inventor
博 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004318474A priority Critical patent/JP4645887B2/ja
Publication of JP2006127419A publication Critical patent/JP2006127419A/ja
Application granted granted Critical
Publication of JP4645887B2 publication Critical patent/JP4645887B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置及び画像処理方法並びにプログラムに関し、例えば生体固有の血管を対象として認証する認証装置に適用して好適なものである。
従来、この種の認証装置においては、血管に内在する脱酸素化ヘモグロビン(静脈血)又は酸素化ヘモグロビン(動脈血)に近赤外線帯域の光が特異的に吸収されることを利用して登録者の血管を撮像し、この撮像結果として得られる血管画像(以下、これを登録血管画像と呼ぶ)に対して所定の処理を施して、登録血管画像に基づくデータ(以下、これを登録血管画像データと呼ぶ)を生成し、これを認証対象として所定のデータベースに登録する。
また認証装置は、かかる認証対象と照合する照合者の血管を任意のタイミングで撮像し、この撮像結果として得られる血管画像(以下、これを照合者血管画像と呼ぶ)に対して所定の処理を施して、照合者血管画像に基づくデータ(以下、これを照合者血管画像データと呼ぶ)を生成し、当該照合者血管画像データと、このときデータベースに登録された登録血管画像データと照合するようにして、本人(登録者)の有無を判定するようになされている(例えば非特許文献1参照)。
特願2003−242492
ところで、このような認証装置において、例えば登録血管画像を認証対象として所定のデータベースに登録する場合には、登録血管画像に対して所定の処理を施して、登録血管画像データを生成するに際し、より登録血管画像のデータ量を削減することができれば、登録血管画像に対する処理を高速化することができるため、処理効率を向上することができるものと考えられる。
一方、このような認証装置において、照合者血管画像に対して登録血管画像と照合するような場合には、照合者血管画像データ及び登録血管画像データの照合するに際し、より照合者血管画像データ及び登録血管画像データのデータ量を削減することができれば、上述の場合と同様に、照合者血管画像データ及び登録血管画像データの照合処理を高速化することができるため、処理効率を向上することができるものと考えられる。
他方、このような認証装置において、照合者血管画像に対して複数の登録血管画像と順次照合するような場合には、図13に示すように、撮像処理に基づく照合者血管画像データCB及びデータベース(図示せず)から読み出した複数の登録血管画像データRBをキャッシュメモリCM内に格納し、当該照合者血管画像データCBに対応する登録血管画像データRBが検出されるまで複数の登録血管画像データRBを順次照合するようになされている。
しかしながら、認証装置は、例えばキャッシュメモリCMの記憶領域が小さいときには、図13のように撮像処理に基づく照合者血管画像データCBとデータベース(図示せず)から読み出した登録血管画像データRB1とをキャッシュメモリCMにおいて照合し、当該登録血管画像データRB1が照合者血管画像データCBに対応しないときは、登録血管画像データRB1をキャッシュメモリCMから消去する。
そして、認証装置は、新たにデータベース(図示せず)から読み出した登録血管画像データRB2と照合者血管画像データCBをキャッシュメモリCMにおいて照合し、当該登録血管画像データRB2が照合者血管画像データCBに対応しないときは、登録血管画像データRB2をキャッシュメモリCMから消去し、この後照合者血管画像データCBに対応する登録血管画像データRBが検出されるまで上述と同様の処理を繰り返す。
このため、認証装置は、登録血管画像データRBの消去処理やデータベース(図示せず)からの新たな登録血管画像データRBの読み出し処理等によって、照合者血管画像データCB及び登録血管画像データRBを照合する処理時間が増大し、処理効率が低下するという問題があった。また、このような登録血管画像データRBが数多く登録されている場合には、この照合処理の遅延は増大し、処理効率はさらに低下することとなる。
本発明は以上の点を考慮してなされたもので、処理効率を向上し得る画像処理装置及び画像処理方法並びにプログラムを提案するものである。
かかる課題を解決するために本発明においては、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する変換手段と、スパース行列データを一時的に保持するワークメモリと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する特徴点抽出手段と、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する連結状態データ生成手段と、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する再構成手段とを設けるようにした。
従って、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができる。
また、本発明においては、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、スパース行列データをワークメモリに一時的に保持する第2のステップと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する第4のステップと、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する第5のステップとを設けるようにした。
従って、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができる。
さらに、本発明においては、プログラムによって、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データを処理する画像処理装置に対して、画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、スパース行列データをワークメモリに一時的に保持する第2のステップと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する第4のステップと、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する第5のステップとを実行させるようにした。
従って、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができる。
本発明によれば、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する変換手段と、スパース行列データを一時的に保持するワークメモリと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する特徴点抽出手段と、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する連結状態データ生成手段と、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する再構成手段とを設けるようにしたことにより、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができ、かくして処理効率を向上し得る画像処理装置を実現することができる。
また、本発明によれば、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、スパース行列データをワークメモリに一時的に保持する第2のステップと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する第4のステップと、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する第5のステップとを設けるようにしたことにより、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができ、かくして処理効率を向上し得る画像処理方法を実現することができる。
さらに、本発明によれば、プログラムによって、認証対象を撮像することにより得られる生体固有となる血管に基づく画像データを処理する画像処理装置に対して、画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、スパース行列データをワークメモリに一時的に保持する第2のステップと、ワークメモリに保持されたスパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、複数の特徴点同士が血管線に近似するよう連結される特徴点の連結状態を示す連結状態データを生成する第4のステップと、特徴点及び連結状態データに基づいて特徴点同士を連結し血管線を再構成する第5のステップとを実行させるようにしたことにより、画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、ワークメモリでの使用領域を飛躍的に低減することができ、かくして処理効率を向上し得るプログラムを実現することができる。
以下図面について、本発明の一実施の形態を詳述する。
(1)認証装置の全体構成
図1において、1は全体として本実施の形態による認証装置1を示し、血管撮像部2と、信号処理部3とがケーブルを介して相互に接続されることにより構成される。
この血管撮像部2は、認証装置1の筺体1Aの所定位置に指FGを模るようにして形成された湾曲形状のガイド溝11を有し、当該ガイド溝11の底面には撮像開口部12が配設されている。
これによりこの血管撮像部2は、ガイド溝11にあてがうようにして接触される指FGの指腹を撮像開口部12上にガイドし、当該ガイド溝11の先端に指先を当接するように接触される指FGに対する撮像開口部12の位置を撮像者に応じて位置決めし得るようになされている。
そしてこの撮像開口部12の表面には、所定材質でなる無色透明の開口カバー部13が設けられている一方、筺体1Aの内部における撮像開口部12の直下には、カメラ部14が配設されている。
またガイド溝11の側面には、ヘモグロビンに対して特異的に吸収される近赤外光を血管の撮像光として照射する1対の近赤外光光源15(15A及び15B)が、ガイド溝11の短手方向と平行に撮像開口部12を挟み込むようにして配置されており、当該ガイド溝11に接触された指FGの指腹側部分に近赤外光を照射し得るようになされている。
従ってこの血管撮像部2では、指FGの指腹底に近赤外光を照射する場合に比して、指FG表面で反射する近赤外光の割合が格段に抑えられる。また指FG表面を介してその内方に入射する近赤外光は、血管を通るヘモグロビンに吸収されると共に血管以外の組織において散乱するようにして指FG内方を経由し、当該指FGから血管を投影する近赤外光(以下、これを血管投影光と呼ぶ)として、撮像開口部12及び開口カバー部13を順次介してカメラ部14に入射する。
カメラ部14においては、マクロレンズ16と、酸素化及び脱酸素化双方のヘモグロビンに依存性の有する波長域(およそ900[nm]〜1000[nm])の近赤外光だけを透過する近赤外光透過フィルタ17と、CCD撮像素子18とが順次配設されており、開口カバー部13から入射する血管投影光をマクロレンズ16及び近赤外光透過フィルタ17を順次介してCCD撮像素子18の撮像面に導光する。これによりこのカメラ部14は、近接する指FGの内方に混在する静脈系及び動脈系双方の毛細血管を忠実に結像し得るようになされている。
CCD撮像素子18は、信号処理部3による制御のもとに、撮像面に結像される血管を撮像し、当該撮像結果を画像信号(以下、これを血管画像信号と呼ぶ)SA1、SA2、……、SAnとして信号処理部3に順次出力するようになされている。
一方、信号処理部3は、図2に示すように、制御部20に対して、血管撮像駆動部21、画像処理部22、認証部23、フラッシュメモリFM及び外部とデータの授受をするインターフェース(以下、これを外部インターフェースと呼ぶ)IFをそれぞれ接続することにより構成されている。
この制御部20は、認証装置1全体の制御を司るCPU(Central Processing Unit)と、各種プログラムが格納されるROM(Read Only Memory)と、当該CPUのワークメモリとしてのRAM(Random Access Memory)とを含むコンピュータ構成でなり、当該制御部20には、認証装置1の筺体1A表面の所定位置に設けられた操作部(図示せず)の操作に応じて、登録者の血管を登録するモード(以下、これを血管登録モードと呼ぶ)の実行命令COM1又は登録者本人の有無を判定するモード(以下、これを認証モードと呼ぶ)の実行命令COM2が与えられる。
そして制御部20は、操作部(図示せず)から血管登録モードの実行命令COM1が与えられた場合には、ROMに格納された対応するプログラムに基づいて、動作モードを血管登録モードに遷移して血管撮像駆動部21、画像処理部22及び認証部23をそれぞれ制御する。
この場合、血管撮像駆動部21は、近赤外光光源15及びカメラ部14のCCD撮像素子18をそれぞれ駆動するようにして血管撮像部2を起動する。この結果、血管撮像部2では、近赤外光光源15からこのときガイド溝11(図1)に接触される撮像者の指FG(図1)の指腹側部に近赤外光が照射され、当該指FG(図1)を経由してCCD撮像素子18の撮像面に導光される血管投影光がこのCCD撮像素子18から血管画像信号SA1、SA2、……、SAnとして画像処理部22のA/D(Analog/Digital)変換部22Aに順次出力される。
A/D変換部22Aは、血管画像信号SA1、SA2、……、SAnに対してA/D変換処理を施し、この結果得られる血管画像のデータ(以下、これを血管画像データと呼ぶ)DA1、DA2、……、DAnをフィルタ部22Bに送出する。
フィルタ部22Bは、血管画像データDA1、DA2、……、DAnに対して、ノイズ成分除去及び輪郭強調等に対応する各種フィルタリング処理を施し、この結果得られる血管画像データDB1、DB2、……、DBnを2値化部22Cに送出する。
2値化部22Cは、血管画像データDB1、DB2、……、DBnに対して2値化処理を施し、この結果得られる白黒の血管画像(以下、これを2値血管画像と呼ぶ)のデータ(以下、これを2値血管画像データと呼ぶ)DC1、DC2、……、DCnを細線化部22Dに送出する。
細線化部22Dは、2値血管画像データDC1、DC2、……、DCnに対して、例えばモルフォロジー処理を施すようにして、当該2値血管画像データDC(DC1〜DCn)に基づく2値血管画像の血管を線状化する。
そして細線化部22Dは、線状化された血管(以下、これを血管線と呼ぶ)からなる複数枚の2値血管画像のうちから1枚の2値血管画像を選択し、当該選択した2値血管画像に対応する2値血管画像データDDを認証部23に送出する。
認証部23は、2値血管画像データDDを所定の形式からなる登録認証情報RCとして生成し、これを制御部20に送出する。
制御部20は、このようにして血管撮像駆動部21、画像処理部22及び認証部23を制御することによって当該認証部23から登録認証情報RCを受け取ると、この登録認証情報RCをフラッシュメモリFMに登録すると共に、当該血管撮像駆動部21、画像処理部22及び認証部23に対する制御を解除するようにして血管撮像部2を停止させる。
このようにしてこの制御部20は、血管登録モードを実行することができるようになされている。
これに対して制御部20は、操作部(図示せず)から認証モードの実行命令COM2が与えられた場合には、ROMに格納された対応するプログラムに基づいて、動作モードを認証モードに遷移して血管撮像駆動部21、画像処理部22及び認証部23をそれぞれ制御すると共に、フラッシュメモリFMに登録された登録認証情報RCを読み出して認証部23に送出する。
この場合、血管撮像駆動部21は、上述の血管登録モードの場合と同様に血管撮像部2を起動する。また画像処理部22は、この血管撮像部2から順次出力される血管画像信号SA(SA1〜SAn)に対して上述の血管登録モードの場合と同様にして各種処理を施し、この結果得られる2値血管画像データDDを認証部23に送出する。
認証部23は、この2値血管画像データDDに基づく2値血管画像と、制御部20によりフラッシュメモリFMから読み出された登録認証情報RCに基づく2値血管画像とにおける血管線の形成パターンを照合する。
そして認証部23は、この照合度合いに応じて、このとき血管撮像部2で撮像されている撮像者が登録者であるか否かを判定し、この判定結果を判定データD1として制御部20に送出する。
制御部20は、このようにして血管撮像駆動部21、画像処理部22及び認証部23を制御することによって当該認証部23から判定データD1を受け取ると、この判定データD1を外部インターフェースIFを介して外部に転送すると共に、当該血管撮像駆動部21、画像処理部22及び認証部23に対する制御を解除するようにして血管撮像部2を停止させる。
このようにしてこの制御部20は、認証モードを実行することができるようになされている。
このようにこの認証装置1は、生体の内方に介在する固有構造物の血管を認証対象として本人(登録者)の有無を判定する生体認証を実行することにより、生体表面に有する指紋等を対象とする場合に比して、生体からの直接的な盗用のみならず第三者による登録者への成りすましをも防止できるようになされている。
(2)認証部23の具体的な処理内容
ここで、かかる認証部23においては、図3に示すように、ワークメモリとしてのキャッシュメモリ30に対して、スパース(Sparse)行列変換部31、血管線処理部32及び照合処理部33が接続されて構成されている。
この場合、認証部23は、血管登録モード時には、このとき細線化部22D(図2)から順次供給される2値血管画像データDDに対してスパース行列変換部31でスパース行列変換処理を施し、この変換処理結果をキャッシュメモリ30に一時的に格納することにより保持する。そして認証部23は、キャッシュメモリ30に保持した変換処理結果に対して血管線処理部32で特徴点抽出処理及び特徴点連結処理を施し、この処理結果として得られる血管形成パターンを登録認証情報RCとしてフラッシュメモリFM(図2)に登録する。
一方、認証部23は、認証モード時には、このときフラッシュメモリFMに登録されている複数の登録認証情報RC1、RC2、……、RCnを所定単位ごとに順次キャッシュメモリ30に保持すると共に、細線化部22D(図2)から供給される2値血管画像データDDに対してスパース行列変換部31でスパース行列変換処理を施す。そして認証部23は、キャッシュメモリ30に保持した所定単位の登録認証情報RCi(i=2、3、……、又はn)に対して血管線処理部32で血管線再構成処理を順次施し、この処理結果と、スパース行列変換処理結果とに基づいて、照合処理部33で照合処理を実行するようになされている。
以下、スパース行列変換部31によるスパース行列変換処理と、血管線処理部32による特徴点抽出処理、特徴点連結処理及び画像再構成処理と、照合処理部33による照合処理とを詳細に説明する。
(2−1)スパース行列変換処理
細線化部22D(図2)から供給される2値血管画像データDDは、例えば図4(A)に示すように、ほとんどの輝度値が「0」(黒)でなる2値血管画像IM1のデータである。従って、この2値血管画像データDDの輝度値を二次元行列として表した場合、当該二次元行列では、ほとんどの行列要素が「0」として表されていることになる。
そこで、このスパース行列変換部31は、二次元行列として表した2値血管画像データDDに対して、スパース行列と呼ばれる変換処理(以下、これをスパース行列変換処理と呼ぶ)を施すようにして、当該2値血管画像データDDに基づく2値血管画像IM1のうち血管線IM2を表すデータ(以下、これをスパース行列変換血管線データと呼ぶ)DEに変換する。
実際上、スパース行列変換部31は、2値血管画像データDDに対して、当該2値血管画像データDDに基づく2値血管画像IM1(図4(A))のうち、輝度値が「0」(黒)でない画素(Pixel)(この場合、「1」である)(以下、これを非ゼロ要素と呼ぶ)を順次検出する。
そして、スパース行列変換部31は、これら非ゼロ要素の輝度値及び位置(座標)をスパース行列変換血管線データDEとして生成し、このスパース行列変換血管線データDEDEをキャッシュメモリ30に送出する。この結果、2値血管画像データDDが、血管線IM2だけを表すスパース行列のデータ(スパース行列変換血管線データDE)としてキャッシュメモリ30に保持されることになる。
このようにこのスパース行列変換部31は、二次元行列として表した2値血管画像データDDを、血管線IM2を表すデータ(非ゼロ要素の輝度値及び位置)として変換することにより、当該2値血管画像データDDにおける非ゼロ要素以外のデータを削減する分だけキャッシュメモリ30での使用領域を飛躍的に低減することができるようになされている。
ここで、実験によれば、縦240(Pixel)、横240(Pixel)である57600(Pixel)の血管線の画像データにおける非ゼロ要素数においては、図5(A)に示すように、最小値で538(Pixel)(0.93(%))、最大値で1265(Pixel)(2.20(%))となり、平均値で898(Pixel)(1.56(%))となった。
このとき、1画素(Pixel)当たり1ビットのデータを保持する上述のような2値血管画像データDD(57600(Byte))に対してスパース行列変換処理を施した場合には、そのデータ量は、図5(B)に示すように、最小値で3654(Byte)(6.34(%))、最大値で7289(Byte)(12.65(%))、平均値で5452(Byte)(9.47(%))となり、2値血管画像データDDのままのデータである場合に比して、約15分の1〜8分の1程度にデータ量を削減できることが確認できた。
また、1画素(Pixel)当たり8ビットのデータを保持する倍精度の血管画像データ(460800(Byte))に対してスパース行列変換処理を施した場合には、そのデータ量は、図5(C)に示すように、最小値で7420(Byte)(1.61(%))、最大値で16144(Byte)(3.50(%))、平均値で11736(Byte)(2.55(%))となり、倍精度の血管画像データのままのデータである場合に比して、約60分の1〜30分の1程度にデータ量を削減できることが確認できた。このようにして、1画素(Pixel)当たりに保持するデータ量が大きいほど、スパース行列変換処理を施すことによって、データ量を削減できることが確認できた。
さらに、非ゼロ要素の割合及び血管画像データとのデータ比の関係においては、図6(A)に示すように、2値血管画像データDDの場合にも、又は、図6(B)に示すように、倍精度の血管画像データの場合にも、非ゼロ要素の割合が増加するにつれて血管画像データとのデータ比も増加するような線形性を示すことが確認できた。
(2−2)特徴点抽出処理及び特徴点連結処理
血管線処理部32は、図7に示すように、血管線IM2(図7(A))から特徴的な要素となる分岐点及び屈曲点(以下、これらを特徴点と呼ぶ)CPを抽出し(図7(B))、その後図8に示すように、血管線IM2上の複数の特徴点CP(図8(A))を、当該血管線IM2に近似するように連結する(図8(B))。
実際上、血管線処理部32は、スパース行列変換部31から供給されてキャッシュメモリ30に保持されたスパース行列変換血管線データDEに基づく血管線IM2から複数の特徴点CPをそれぞれ抽出する。そして血管線処理部32は、これらの特徴点CPを座標値で表すデータ(以下、これを特徴点データと呼ぶ)DFとして生成する。
また、血管線処理部32は、図9に示すように、これら特徴点CPから探索対象の基準とする特徴点(以下、これを探索基準点と呼ぶ)Aを選択し、当該選択した探索基準点Aと血管線IM2に対応する線分(以下、これを血管線対応線分と呼ぶ)を形成する特徴点(以下、これを血管線対応線分形成点と呼ぶ)の探索候補として、当該探索基準点A以外の任意の特徴点(以下、これを探索候補点と呼ぶ)Bを選択し、この探索基準点Aと探索候補点Bとを連結して線分ABを生成する。
この状態において血管線処理部32は、探索基準点Aと探索候補点Bとの間に生成した線分AB上のすべての画素(Pixel)を認識し、この認識結果に基づいて、線分ABを構成するすべての画素(Pixel)について、その画素(Pixel)がスパース行列変換血管線データDEに基づく血管線IM2の画素(Pixel)と同一座標にあるか否かを順次判定する。
そして血管線処理部32は、探索基準点Aと探索候補点Bとの間に生成した線分AB上のすべての画素(Pixel)を判定し、この判定結果として所定閾値よりも大きい相互相関値が得られたときには、探索候補点Bが探索基準点Aと血管線対応線分を形成する血管線対応線分形成点であると判定し、このとき選択した探索候補点Bと探索基準点Aとを連結した後、この探索候補点Bに代えて、残りの特徴点CPを新たな探索候補点Bとして選択して上述の探索処理を繰り返す。
これに対して血管線処理部32は、当該閾値以下の相互相関値が得られたときには、探索候補点Bが探索基準点Aと血管線対応線分を形成する血管線対応線分形成点ではないと判定し、このとき選択した探索候補点Bと探索基準点Aとの連結を破棄した後に、当該探索候補点Bに代えて、残りの特徴点CPを新たな探索候補点Bとして選択して上述の探索処理を繰り返す。
血管線処理部32は、このようにして全ての特徴点CPを新たな探索候補点Bとして探索処理し終わると、これまで探索基準点Aとして選択していた特徴点とは別の特徴点CPを新たな探索基準点Aとして選択し、上述した場合と同様の処理を実行するようになされている。
このようにして、血管線処理部32は、特徴点データDFと連結部分(血管線対応線分)に対応する特徴点同士の連結状態を表すデータ(以下、連結状態データと呼ぶ)DG(図8(B))とを生成し、これらを登録認証情報RCとして、フラッシュメモリFMに登録するようになされている。
このとき、血管線処理部32においては、2値血管画像データDDがスパース行列として(スパース行列変換血管線画像データDEとして)キャッシュメモリ30に保持されていることから、例えばMATLAB(The MathWorks社 登録商標)等のスパース行列演算を高速化させる所定の行列演算器34を用いて上述の特徴点抽出処理及び特徴点連結処理を実行するようになされている。
これにより血管線処理部32は、上述の特徴点抽出処理のように血管線IM2から特徴点CPを抽出する場合や、上述の特徴点連結処理のように局所的なアクセスが頻繁に生じるような場合にも、キャッシュメモリ30に保持されたスパース行列変換血管線データDEに対する特徴点抽出処理及び特徴点連結処理を高速化することができるようになされている。
ここで、実験によれば、図10に示すように、一般の二次元行列からなる2値血管画像データDDに対して特徴点抽出処理及び特徴点連結処理を施す場合に比して、約2.5倍程度処理を高速化できることが確認できた。因みに図10における処理時間は、上述のような特徴点抽出処理及び特徴点連結処理を10回行っての平均値である。
(2−3)血管線再構成処理
血管線処理部32は、複数の特徴点CPと、連結状態データDGとを表す登録認証情報RCに基づいて、血管線IM2(図8(B))を再構成する。
実際上、血管線処理部32は、このときキャッシュメモリ30に保持された登録認証情報RCの連結状態データDGに基づいて、当該登録認証情報RCの特徴点データDFにより表される各特徴点CPの連結状態を認識する。
この状態において血管線処理部32は、この認識結果に基づいて、所定のアルゴリズムに準拠した直線描画処理により、各特徴点CPのうち連結すべき特徴点CP間の線分上の画素(Pixel)を選択するようにして連結する。これにより元の血管線IM2(図8(B))に相当する血管線が再構成されることになる。
そして血管線処理部32は、このようにして再構成した血管線(以下、これを再構成血管線と呼ぶ)IM3のスパース行列のデータ(以下、これを再構成血管線データと呼ぶ)DHとして生成する。
このようにして血管線処理部32は、複数の特徴点CPと、連結状態データDGとを表す登録認証情報RCに基づいて、血管線IM2(図8(B))を再構成することができるようになされている。
(2−4)照合処理
照合処理部33は、図11に示すように、再構成血管線IM3(図11(A))と、照合者の撮像結果から得られる血管線IM2(図11(B))とに基づいて、登録者本人の有無を判定する。
実際上、照合処理部33は、キャッシュメモリ30に保持された所定単位の登録認証情報RCiに基づく再構成血管線データDHiのうち例えば再構成血管線データDH1に基づく再構成血管線IM3と、スパース行列変換部31からキャッシュメモリ30に保持されたスパース行列変換血管線データDEに基づく血管線IM2との相互相関を算出するようにして、当該血管線同士を照合する。
そして、照合処理部33は、この照合結果として所定閾値以下の相互相関値が得られたときには、このときキャッシュメモリ30に保持された残りの再構成血管線データDH2〜DHiに基づく再構成血管線IM3を、血管線IM2に対応する再構成血管線IM3が検出されるまで、上述と同様にして血管線IM2と順次照合する。
このようにして照合処理部33は、フラッシュメモリFMに登録されたすべての登録認証情報RC(RC1〜RCn)を、所定単位の登録認証情報RCiに基づく再構成血管線データDHiごとに照合対象の一方として順次照合し、すべて所定閾値以下の相互相関値が得られたときには、このとき血管撮像部2で撮像している撮像者が登録者ではないと判定する一方、当該閾値よりも大きい相互相関値が得られたときには撮像者が登録者本人であると判定し、この判定結果を判定データD1として、制御部20の制御のもとに外部インターフェースIFを介して外部に送出するようになされている。
このとき、照合処理部33においては、血管線処理部32と同様に行列演算器34を用いて上述の照合処理を実行することにより、局所的なアクセスが頻繁に生じるような場合にも、当該照合処理を高速化することができるようになされている。
(3)動作及び効果
以上の構成において、この認証装置1は、二次元行列として表した2値画像データを、当該2値画像データに基づく2値画像のうち非ゼロ要素(画素)の輝度値及び位置を表すスパース行列のデータとして変換する。そして認証装置1は、このスパース行列のデータをキャッシュメモリ30に一時的に保持し、当該スパース行列のデータに対して対応する演算処理を施す。
従って、この認証装置1では、2値画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、実験結果(図7、8、10)からも明らかなように、当該演算処理を高速化することができることに加え、キャッシュメモリ30での使用領域を飛躍的に低減することができ、この結果、演算処理の処理効率を向上することができる。
この場合、この認証装置1は、キャッシュメモリ30に保持されたスパース行列のデータに対して、行列演算器34を用いて上述の特徴点抽出処理、特徴点連結処理及び照合処理を施す。
従って、この認証装置1では、演算処理を高速化することができるため、特徴点抽出処理、特徴点連結処理及び照合処理にかかる処理負荷を低減する分だけ、演算処理時における処理効率を格段に向上することができる。
また、この場合、この認証装置1は、スパース行列からなる複数のデータをフラッシュメモリFMに記憶し、演算処理時に、当該記憶した各スパース行列のデータを所定単位ごとにキャッシュメモリ30に一時的に保持する。
従って、この認証装置1では、キャッシュメモリ30での使用領域を飛躍的に低減できるため、このときキャッシュメモリ30に保持するスパース行列のデータの単位数を、2値画像データに比して多くすることができ、この結果、フラッシュメモリFM及びキャッシュメモリ30間のデータ転送回数を低減する分だけ、演算処理時における処理効率を格段に向上することができる。この場合、キャッシュメモリ30の記憶領域が制限される状況下において、特に有効となる。
以上の構成によれば、二次元行列として表した2値画像データを、当該2値画像データに基づく2値画像のうち非ゼロ要素(画素)の輝度値及び位置を表すスパース行列のデータとして変換した後にキャッシュメモリ30に一時的に保持し、当該スパース行列のデータに対して対応する演算処理を施すようにしたことにより、2値画像データにおける非ゼロ要素以外のデータを削減すると共に、当該削減後に得られるデータに対応する演算処理を施していることから、当該演算処理を高速化することができることに加え、キャッシュメモリ30での使用領域を飛躍的に低減することができ、かくして演算処理の処理効率を向上することができる。
(4)他の実施の形態
なお上述の実施の形態においては、認証対象として生体の指FG内方の血管を適用するようにした場合について述べたが、本発明はこれに限らず、例えば掌、腕又は目の血管等、この他種々の生体部位における血管を適用するようにしても良く、また例えば生体表面の指紋や生体内方の神経等、この他種々の認証対象を適用するようにしても良い。因みに、血管を適用した場合には、指紋等の認証対象に比して非ゼロ要素が少なくかつ血管に基づく画像データのデータ量が大きいため、より画像データのデータ量を削減することができ、この結果、処理効率を向上させることができる。また、神経を認証対象とする場合には、例えば神経に特異的なマーカを注入し、当該マーカを撮像するようにすれば、上述の実施の形態と同様にして神経を認証対象とすることができる。さらに、本発明はこれに限らず、例えば背景や人物を被写体として撮像した一般的な画像データについても、上述の実施の形態と同様にして認証対象とすることができる。
また上述の実施の形態においては、画像データを、非ゼロ要素となる画素の輝度及び位置を表すデータに変換する変換手段として、2値血管画像データDDから非ゼロ要素(「1」)及び当該非ゼロ要素(「1」)と判定された画素(Pixel)の座標位置を抽出した場合について述べたが、本発明はこれに限らず、例えばグレイスケールや多値の画像データ等の種々の画像データに適用することができる。例えばグレイスケールの場合、非ゼロ要素については、所定の閾値以上の数値の要素であっても良く、非ゼロ要素(例えば「1〜256」)の数値を行列要素として保持することができる。
さらに上述の実施の形態においては、画像データを、非ゼロ要素となる画素の輝度及び位置を表すデータに変換する変換手段として、スパース行列変換した場合について述べたが、本発明はこれに限らず、この他種々の変換手法に基づいて非ゼロ要素及び当該非ゼロ要素の座標位置のデータに変換するようにしても良い。
さらに上述の実施の形態においては、データを一時的に保持するワークメモリとして、キャッシュメモリ30を適用するようにした場合について述べたが、本発明はこれに限らず、例えばキャッシュメモリ以外のこの他種々のワークメモリを幅広く適用することができる。
さらに上述の実施の形態においては、ワークメモリに保持されたデータに対して、当該データに対応する演算処理を実行する演算手段として、特徴点抽出処理、特徴点連結処理や登録認証情報RCの登録処理を施した場合について述べたが、本発明はこれに限らず、これら特徴点抽出処理及び特徴点連結処理以外のこの他種々の処理を施すことによって、認証対象の非ゼロ要素及び当該非ゼロ要素の座標位置のデータに基づくデータに対してフラッシュメモリへの登録処理を施すようにしても良く、特徴点抽出処理及び特徴点連結処理を施さずに認証対象の非ゼロ要素及び当該非ゼロ要素の座標位置のデータを登録処理するようにしても良い。
さらに上述の実施の形態においては、スパース行列変換血管線データDEに対して、所定の点抽出処理を施すようにして、当該スパース行列変換血管線データDEに基づく血管線から複数の特徴点をそれぞれ抽出した場合について述べたが、例えばハリスコーナーと呼ばれる点抽出処理や、所定サイズでなる格子状の画像を2値血管画像に重ね合わせ、当該格子と交わる血管線上の点を抽出する等、当該2値血管画像における血管線上の任意の点を抽出するようにしても良い。このようにした場合であっても、上述の実施の形態と同様の効果を得ることができる。
さらに上述の実施の形態においては、探索基準点Aと探索候補点Bとの間に生成した線分AB上のすべての画素(Pixel)を判定し、この判定結果として所定閾値よりも大きい相互相関値が得られたときには、このとき選択した探索候補点Bと探索基準点Aとを連結した場合について述べたが、本発明はこれに限らず、例えば相対近傍グラフ等の手法により各特徴点を連結し、この後これらの線分を上述のように判定するようにしても良く、この他種々の特徴点連結処理手法を用いるようにしても良い。
さらに上述の実施の形態においては、変換手段により変換された各データを記憶する記憶手段として、フラッシュメモリFMを適用するようにした場合について述べたが、本発明はこれに限らず、例えばHDD(Hard Disk Drive)や、メモリスティック(ソニー株式会社 登録商標)等、この他種々の記憶手段を幅広く適用することができる。またこの記憶手段においては、認証装置1とは別体として伝送路を介して接続した形態とするようにしても良い。
さらに上述の実施の形態においては、血管画像信号SAに対してA/D変換部22A(図3)、フィルタ部22B(図3)、2値化部22C(図3)及び細線化部22Dを順次介して各種前処理を施した後に特徴点を抽出するようにした場合について述べたが、本発明はこれに限らず、当該前処理の処理内容を必要に応じて変更するようにしても良い。
さらに上述の実施の形態においては、図9に示すような2値血管線(濃ハッチング部分)及び当該2値血管線をモルフォロジー処理のダイレーション(Dilation)を施すことにより膨張させた画像(薄ハッチング部分)を2値血管画像データDDとした場合について述べたが、本発明はこれに限らず、例えば2値血管線を2値血管画像データDDとするようにしても良く、この他種々の処理を施した2値血管画像データであっても良い。
さらに上述の実施の形態においては、特徴点データDFと、連結状態データDG(図8(B))とを登録認証情報RCとして、フラッシュメモリFMに登録した場合について述べたが、本発明はこれに限らず、スパース行列変換血管線データDEをフラッシュメモリFMに登録するようにしても良い。
本発明は、生体を識別する技術を用いる分野に利用可能である。
本実施の形態による認証装置の全体構成を示す略線図である。 信号処理部の構成を示すブロック図である。 認証部の処理の説明に供する機能ブロック図である。 スパース行列変換前後を示す略線図である。 スパース行列変換処理に基づくデータ量の削減を表すテーブルである。 非ゼロ要素の割合及び血管線の画像データとのデータ比の関係を示すグラフである。 特徴点の抽出前後を示す略線図である。 特徴点の連結前後を示す略線図である。 特徴点の連結の説明に供する略線図である。 スパース行列変換による処理時間の短縮を表すテーブルである。 再構成血管線と撮像された血管線との照合処理の説明に供する略線図である。 キャッシュメモリ内の様子の説明に供する概念図である。 従来におけるキャッシュメモリ内の様子の説明に供する概念図である。
符号の説明
1……認証装置、2……血管撮像部、3……信号処理部、14……カメラ部、15A、15B……近赤外光光源、16……マクロレンズ、17……近赤外光透過フィルタ、18……CCD撮像素子、20……制御部、21……血管撮像駆動部、22A……A/D変換部、22B……フィルタ部、22C……2値化部、22D……細線化部、23……認証部、30……キャッシュメモリ、31……スパース行列変換部、32……血管線処理部、33……照合処理部、34……行列演算器、IF……インターフェース、FM……フラッシュメモリ、FG……指、COM(COM1及びCOM2)……実行命令、SA(SA1〜SAn)……血管画像信号、DA(DA1〜DAn)、DB(DB1〜DBn)……血管画像データ、DC(DC1〜DCn)、DD……2値血管画像データ、DE……スパース行列変換血管線データ、DF……特徴点データ、DG……連結状態データ、DH(DH1〜DHn)……再構成血管線データ、IM1……2値血管画像、IM2……血管線、IM3……再構成血管線、RC(RC1〜RCn)……登録認証情報、D1……判定データ。

Claims (5)

  1. 認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する変換手段と、
    上記スパース行列データを一時的に保持するワークメモリと、
    上記ワークメモリに保持された上記スパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する特徴点抽出手段と、
    複数の上記特徴点同士が上記血管線に近似するよう連結される上記特徴点の連結状態を示す連結状態データを生成する連結状態データ生成手段と、
    上記特徴点及び上記連結状態データに基づいて上記特徴点同士を連結し上記血管線を再構成する再構成手段と
    を有する画像処理装置。
  2. 上記再構成した上記血管線と、上記認証対象を新たに撮像することにより得られる画像データをスパース行列変換し上記ワークメモリに一時的に保持したスパース行列データに基づく血管線との相互相関を算出する照合手段と
    をさらに有する
    請求項1に記載の画像処理装置。
  3. 認証対象を撮像することにより得られる生体固有となる血管に基づく画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、
    上記スパース行列データをワークメモリに一時的に保持する第2のステップと、
    上記ワークメモリに保持された上記スパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、
    複数の上記特徴点同士が上記血管線に近似するよう連結される上記特徴点の連結状態を示す連結状態データを生成する第4のステップと、
    上記特徴点及び上記連結状態データに基づいて上記特徴点同士を連結し上記血管線を再構成する第5のステップと
    を有する画像処理方法。
  4. 上記再構成した上記血管線と、上記認証対象を新たに撮像することにより得られる画像データをスパース行列変換し上記ワークメモリに一時的に保持したスパース行列データに基づく血管線との相互相関を算出する第6のステップと
    をさらに有する
    請求項3に記載の画像処理方法。
  5. 認証対象を撮像することにより得られる生体固有となる血管に基づく画像データを処理する画像処理装置に対して、
    上記画像データをスパース行列変換することにより、非ゼロ要素となる血管線の画素の輝度及び位置を表すスパース行列データに変換する第1のステップと、
    上記スパース行列データをワークメモリに一時的に保持する第2のステップと、
    上記ワークメモリに保持された上記スパース行列データにより示される血管線から特徴的な要素となる分岐点及び屈曲点である特徴点を抽出する第3のステップと、
    複数の上記特徴点同士が上記血管線に近似するよう連結される上記特徴点の連結状態を示す連結状態データを生成する第4のステップと、
    上記特徴点及び上記連結状態データに基づいて上記特徴点同士を連結し上記血管線を再構成する第5のステップと
    を実行させるためのプログラム。
JP2004318474A 2004-11-01 2004-11-01 画像処理装置及び画像処理方法並びにプログラム Expired - Fee Related JP4645887B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004318474A JP4645887B2 (ja) 2004-11-01 2004-11-01 画像処理装置及び画像処理方法並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004318474A JP4645887B2 (ja) 2004-11-01 2004-11-01 画像処理装置及び画像処理方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2006127419A JP2006127419A (ja) 2006-05-18
JP4645887B2 true JP4645887B2 (ja) 2011-03-09

Family

ID=36722082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004318474A Expired - Fee Related JP4645887B2 (ja) 2004-11-01 2004-11-01 画像処理装置及び画像処理方法並びにプログラム

Country Status (1)

Country Link
JP (1) JP4645887B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5268293B2 (ja) * 2007-06-19 2013-08-21 株式会社日立製作所 個人認証機能付き携帯端末
CN115316988A (zh) * 2022-08-12 2022-11-11 遵义医科大学附属医院 一种无创血红蛋白检测仪

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0721373A (ja) * 1993-06-17 1995-01-24 Asahi Optical Co Ltd 個人識別装置
JPH099292A (ja) * 1995-06-24 1997-01-10 Akimine Nishigori 動画像における映像情報のスパース性を考慮したデータ構造
JP2004054698A (ja) * 2002-07-22 2004-02-19 Io Network:Kk 個人識別装置
WO2004088588A1 (ja) * 2003-03-28 2004-10-14 Fujitsu Limited 撮影装置、光源制御方法、およびコンピュータプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0721373A (ja) * 1993-06-17 1995-01-24 Asahi Optical Co Ltd 個人識別装置
JPH099292A (ja) * 1995-06-24 1997-01-10 Akimine Nishigori 動画像における映像情報のスパース性を考慮したデータ構造
JP2004054698A (ja) * 2002-07-22 2004-02-19 Io Network:Kk 個人識別装置
WO2004088588A1 (ja) * 2003-03-28 2004-10-14 Fujitsu Limited 撮影装置、光源制御方法、およびコンピュータプログラム

Also Published As

Publication number Publication date
JP2006127419A (ja) 2006-05-18

Similar Documents

Publication Publication Date Title
KR101164275B1 (ko) 인증 장치, 인증 방법, 기록 매체 및 인증 정보 등록 장치
US8606012B2 (en) Image processing method and image processor
JP4038777B2 (ja) 登録装置及び認証装置
US8478070B2 (en) Information processing apparatus, block detection method, and program
JP5556663B2 (ja) 照合装置、照合方法、及びプログラム
CN110555380A (zh) 基于Center Loss损失函数的指静脉识别方法
JP2009140076A (ja) 認証装置及び認証方法
JP4687948B2 (ja) ディジタル信号処理装置、ディジタル信号処理方法及びプログラム並びに認証装置
JP4656388B2 (ja) 認証装置、更新時期検出方法及びプログラム
KR20090079877A (ko) 등록장치, 조합장치, 인증방법 및 인증프로그램
JP4645887B2 (ja) 画像処理装置及び画像処理方法並びにプログラム
Shams et al. Fingerprint image enhancement using multiple filters
CN106228108A (zh) 指纹识别方法以及装置
JP4600746B2 (ja) 認証装置、認証方法及びプログラム
US20190362062A1 (en) Biometric authentication apparatus and biometric authentication method
JP4683312B2 (ja) 認証装置、認証方法及びプログラム
JP4636306B2 (ja) 識別装置及び識別方法並びに認証システム
Karthic et al. Feautre Extraction For Human Identifiction using Finger And Palm Images
JP4656383B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN112529002A (zh) 舌体图片分类方法、装置、计算机设备及存储介质
JP4539578B2 (ja) 画像処理装置及び個人認証装置
Alqadi et al. Fingerprint Matching Algorithm Based on Ridge Path Map
Kurtić et al. Diagnosis of Skin Disease Based on Fingerprint
JP2007011989A (ja) 画像処理装置、画像処理方法及びプログラム
CN113627347A (zh) 一种活体指纹识别方法、系统、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100520

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100812

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100929

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees