JP5024153B2 - 生体撮像装置 - Google Patents

生体撮像装置 Download PDF

Info

Publication number
JP5024153B2
JP5024153B2 JP2008084541A JP2008084541A JP5024153B2 JP 5024153 B2 JP5024153 B2 JP 5024153B2 JP 2008084541 A JP2008084541 A JP 2008084541A JP 2008084541 A JP2008084541 A JP 2008084541A JP 5024153 B2 JP5024153 B2 JP 5024153B2
Authority
JP
Japan
Prior art keywords
light
microlens
display
living body
motomeko
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008084541A
Other languages
English (en)
Other versions
JP2009238005A5 (ja
JP2009238005A (ja
Inventor
淳志 梶原
健二 山本
功 市村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008084541A priority Critical patent/JP5024153B2/ja
Publication of JP2009238005A publication Critical patent/JP2009238005A/ja
Publication of JP2009238005A5 publication Critical patent/JP2009238005A5/ja
Application granted granted Critical
Publication of JP5024153B2 publication Critical patent/JP5024153B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Input (AREA)

Description

本発明は、撮像素子を用いた生体撮像装置に関する。
従来より、画像を表示するための表示素子および受光素子を内蔵する表示パネルと、この表示パネルに光を照射するための光源とを備えることにより、入力された画像データの表示と原稿画像等の読み取りとを可能にした表示装置が提案されている(例えば、特許文献1〜3および非特許文献1,2)。
特許第3007008号明細書 特許第3138599号明細書 特開2006−323311号公報 佐藤孝、外6名,「輝度2倍を実現する新規反射透過型LCD」,シャープ技報,シャープ株式会社,平成19年11月,第96号,p.36−37 加藤浩巳、外2名,「画像入力機能付き2.6インチVGA液晶パネル」,シャープ技報,シャープ株式会社,平成19年11月,第96号,p.40−41
ここで、上記したような表示装置において、表示装置上に置いた指から指紋パターンを取得し、それを用いて指紋認証を行うということが考えられる。
またそれとは別に、指や手のひらの静脈パターンを用いて認証を行う静脈認証の開発が行われている。指紋認証は、装置自体の小型化が可能で低価格であるという利点がある一方、装置認証部に指紋が残るためにそれを用いて容易に偽造される可能性があると共に、怪我(擦り傷・切り傷)や皮膚の乾燥があったり手が濡れていたりすると、認証が困難になるという欠点がある。一方、静脈認証は、生体内部の情報(静脈パターン)を抽出した認証であるため、偽造されにくく、また、怪我や皮膚の乾燥、濡れといった環境変化に強いという利点をもつ。すなわち、静脈は指の内部の構造物であるため、認証パターンの偽造が困難であり、指紋認証に比べてセキュリティレベルの高い認証を行うことができる。
ここで、静脈パターンといった生体内部の情報を取得するには、生体内部の散乱と侵入長、還元ヘモグロビン(静脈)の吸収との兼ね合いから、近赤外光(700nm〜1200nm程度の波長領域の光)を照明に用いる必要がある。ところが、上記特許文献1等では、装置面上に近接配置された撮像対象物に対して白色光(可視光)を照明していることから、生体内部の情報を取得するのは困難である。
また、特許文献1等では、このように撮像時に白色表示にする必要があるため、表示画像を保持しつつ認証を行うというのが困難であった。
さらに、静脈認証ではセキュリティレベルを上げるため、100μm以下程度の比較的細い血管までの分解能が求められる。ところが、上記特許文献1等では、このような分解能についての考慮がなされていないため、実質的に静脈認証を行うのが困難であった。
本発明はかかる問題点に鑑みてなされたもので、その目的は、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現するための撮像データを得ることが可能な生体撮像装置を提供することにある。
本発明の生体撮像装置は、表示面内に配置され、画像データに基づく可視光領域の光と非可視光領域の光とを生体へ向けて照射する発光素子と、表示面内に配置され、生体からの光を集光する複数のマイクロレンズを有するマイクロレンズアレイ部と、表示面内に配置され、マイクロレンズアレイ部において集光された光に基づいて非可視光領域の光による生体の撮像データを取得する受光素子と、表示面から可視光領域の光が表示光として照射されるように、画像データに基づいて発光素子を表示駆動する表示駆動手段と、表示面から照射されて生体から得られた非可視光領域の光を検出光として表示面上で受光するように、受光素子を受光駆動する受光駆動手段と、受光素子で得られた撮像データに基づいて少なくとも生体の静脈像を生成する画像処理部とを備えたものである。また、発光素子による照射動作の際には、マイクロレンズによる集光機能が発揮されない一方、受光素子による撮像動作の際には、マイクロレンズによる集光機能が発揮されるようになっている。
本発明の生体撮像装置では、表示面内の発光素子から生体へ向けて、画像データに基づく表示光としての可視光領域の光と、検出光としての非可視光領域の光とが照射され、この生体からの光が、表示面内のマイクロレンズアレイ部における各マイクロレンズによって集光される。そしてマイクロレンズアレイ部において集光された光に基づいて、非可視光領域の光による生体の撮像データが受光素子により取得され、この撮像データに基づき、少なくとも生体の静脈像が生成される。ここで、非可視光領域の光によって生体の撮像データが得られることにより、生体内部の情報の取得が容易となって静脈認証の実現も容易となると共に、撮像データの取得の際に、従来とは異なり、可視光領域の表示光が影響を受けなくなる。また、マイクロレンズアレイ部内の各マイクロレンズによって生体からの光が受光素子上に集光されることにより、従来と比べて撮像データにおける分解能が向上する。
本発明の生体撮像装置によれば、非可視光領域の光によって生体の撮像データを取得するようにしたので、静脈認証の実現が容易となると共に、撮像データの取得の際に、可視光領域の表示光が影響を受けなくなる。また、マイクロレンズアレイ部内の各マイクロレンズによって、生体からの光を受光素子上に集光させるようにしたので、従来と比べ、撮像データにおける分解能を向上させることができる。よって、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現するための撮像データを得ることが可能となる。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
図1は、本発明の一実施の形態に係る生体認証装置(生体認証装置1)の機能ブロック構成を表したものである。この生体認証装置1は、撮像対象物である生体(例えば、後述する指先)を撮像してその生体の静脈を利用する静脈認証を行い、認証結果データDoutを出力するものである。生体認証装置1は、表示部100内に設けられた入出力パネル10と、表示信号ドライバ21と、表示側スキャナ22と、IR(赤外)照射制御部23と、撮像信号選択スキャナ31と、撮像信号レシーバ32と、MLA(マイクロレンズアレイ)駆動制御部33と、画像処理部41と、パターン保持部42と、認証部43と、制御部5とを備えている。
入出力パネル10は、複数の画素11が全面に渡ってマトリクス状に配置されたLCD(Liquid Crystal Display)を用いて構成され、後述する線順次動作をしながら所定の図形や文字などの画像を表示するものである。また、各画素11は、液晶素子111と、受光素子112と、この受光素子112に対応して配置された液晶マイクロレンズ113とから構成されている。すなわち、液晶素子111、受光素子112および液晶マイクロレンズ113が、いずれも画素11ごとに配置されている。このような構成により入出力パネル10は、以下説明するように画像表示機能と撮像機能とを併有するようになっている。
液晶素子111は、画像データ(後述する画像データD0)に基づく可視光領域の光(表示光)と、非可視光領域の光、具体的には近赤外光(700nm〜1200nm程度の波長領域の光;検出光)とを、入出力パネル10上の生体へ向けて照射する発光素子である。このようにして近赤外光を用いていることにより、生体に対する透過率と、生体内の還元ヘモグロビン(静脈)への吸収率との兼ね合いより、生体の静脈認証を行う場合において、光利用効率をより高めることができるようになっている。
液晶マイクロレンズ113は、生体からの光(可視光領域の光および近赤外光)を集光するためのマイクロレンズである。この液晶マイクロレンズ113は、画素11のマトリクス配置に対応して表示部100内で2次元アレイ状に配置され、後述するマイクロレンズアレイ(マイクロレンズアレイ65)を構成している。また、液晶マイクロレンズ113は、印加電圧に応じて入射光線の屈折方向を変位可能なものであり、後述するMLA駆動制御部33による印加電圧に応じて、入射光線の屈折方向を変位できるようになっている。
受光素子112は、各液晶マイクロレンズ113により集光された互いに異なる生体の部位からの光に基づいて、近赤外光による各部位の撮像データを取得するものであり、各液晶マイクロレンズ113の焦点面に配置されている。なお、この受光素子112は、例えば、マトリクス状に配列された複数のCCD(Charge Coupled Device;電荷結合素子)などにより構成される。
表示信号ドライバ21は、制御部5から供給される1水平ライン分の表示信号(画像データD0)に応じて、表示駆動対象の画素11内の液晶素子111に対し、表示データを供給するものである。また、表示側スキャナ22は、制御部5から供給される表示タイミング制御信号に応じて、表示駆動対象の画素11内の液晶素子111を選択するものである。これら表示信号ドライバ21および表示側スキャナ22は、表示部100から可視光領域の光が表示光として照射されて後述する線順次表示動作がなされるように、画像データ(画像データD0)に基づいて各液晶素子111を表示駆動するもようになっている。
IR照射制御部23は、各液晶素子111から照射される近赤外光について、その照射領域、照射タイミングおよび照射強度のうちの少なくとも1つを制御するものである。
撮像信号選択スキャナ31は、制御部5から供給される撮像タイミング制御信号に応じて、受光駆動対象の画素11内の受光素子112を選択するものである。また、撮像信号レシーバ32は、制御部5から供給される撮像ブロック制御信号に応じて、受光駆動対象の画素11内の受光素子112から出力された1水平ライン分の撮像信号(生体の各部位に関する1水平ライン分の撮像データ)を取得するものである。これら撮像信号選択スキャナ31および撮像信号レシーバ32は、表示部100から照射されて生体から得られた近赤外光を、検出光として表示部100上で受光するように、各受光素子112を受光駆動する(後述する線順次受光動作を行う)ようになっている。
MLA駆動制御部33は、各液晶マイクロレンズ113に対して電圧を印加するための駆動を行うものであり、これにより各液晶マイクロレンズ113が入射光線の屈折方向を変位できるようになっている。
画像処理部41は、制御部5からの制御に応じて、撮像信号レシーバ32から供給される生体の各部位の撮像データD1に対して所定の画像処理を施すことにより、生体の単一の撮像パターン(画像処理データD2)を生成し、認証部43へ出力するものである。また、この画像処理部41による画像処理後の撮像データ等は、入出力パネル1における画像データ(表示信号)として、制御部5へ出力することができるようになっている。なお、この画像処理部41、ならびに後述する認証部43および制御部5は、例えばマイクロコンピュータなどにより構成される。
パターン保持部42は、生体認証の際に用いる生体認証パターン(認証の際に撮像して得られた撮像パターンに対する比較パターンであり、予め生体を撮像して得られたもの)が保持される部分であり、不揮発性の記録素子(例えば、EEPROM(Electrically Erasable Programmable Read Only Memory)など)により構成される。
認証部43は、制御部5からの制御に応じて、画像処理部44から出力される単一の撮像パターン(画像処理データD2)と、パターン保持部42に保持されている生体認証パターンとを比較することにより、撮像対象である生体の認証(ここでは、静脈認証)を行うものである。なお、このような生体認証の結果は、認証結果データDoutとして外部へ出力されるようになっている。また、この認証部43による認証結果等は、制御部5へも出力することができるようになっている。
制御部5は、表示信号ドライバ21、表示側スキャナ22、IR照射制御部23、撮像信号選択スキャナ31、撮像信号レシーバ32、MLA駆動制御部33、画像処理部41および認証部43の動作を制御するものである。具体的には、表示信号ドライバ21および表示側スキャナ22による表示駆動動作、IR照射制御部23による近赤外光の照射制御動作、撮像信号選択スキャナ31および撮像信号レシーバ32による受光駆動動作(撮像駆動動作)、MLA駆動制御部33による後述するマイクロレンズアレイの駆動制御動作、画像処理部41による画像処理動作、ならびに認証部43による生体認証動作を、それぞれ適宜制御するようになっている。
次に、図2を参照して、入出力パネル10の断面構成について詳細に説明する。図2は、入出力パネル10の要部断面構成を、画素11単位で表したものである。
この入出力パネル10は、前述の液晶素子111および受光素子112と、前述の複数の液晶マイクロレンズ113を有するマイクロレンズアレイ65と、偏光子623と、遮光部66と、IR(赤外)透過フィルタ67とを含んで構成されている。
液晶素子111は、バックライト61と、液晶セル63と、一対の偏光子621,622と、カラーフィルタ64とを含んで構成されている。
バックライト61は、可視光領域の光および近赤外光を液晶セル63へ向けて発する光源である。このバックライト61は、例えば、CCFL(Cold Cathode Fluorescent Lamp;冷陰極管)やLED(Light Emitting Diode;発光ダイオード)などにより構成される。
液晶セル63は、一対の透明基板(図示せず)と、これら一対の透明基板の間に配置された液晶層(図示せず)とを含んで構成されている。この液晶セル63は、透明基板間の印加電圧に応じて、バックライト61からの入射光を変調するようになっている。
偏光子621は、バックライト61と液晶セル63との間において、液晶セル63に対応する領域に配置されている。また、偏光子622は、液晶セル63と後述するマイクロレンズアレイ65との間において、液晶セル63に対応する領域に配置されている。具体的には、液晶セル63と後述するカラーフィルタ64との層間に配置されている。なお、図2において、これら偏光子621,622の横に示した矢印は、それぞれ、偏光子621,622の偏光軸(透過軸)を表しており、以下同様である。
カラーフィルタ64は、液晶セル64および偏光子622を透過したバックライトからの光のうち、自己の発光色に対応する波長領域の光(例えば、赤色光、緑色光または青色光)と、非可視光領域の光(例えば、近赤外光)とを選択的に透過させるものである。なお、受光素子112に対応する領域には、カラーフィルタ64は配置されないようになっている。
マイクロレンズアレイ65は、前述の複数の液晶マイクロレンズ113を2次元アレイ状に配列してなり、液晶素子111および受光素子112の上方に配置されている。ただし、本実施の形態では、各液晶マイクロレンズ113は、受光素子112に対応する領域にのみ配置されている。これら各液晶マイクロレンズ113は、撮像対象物である生体(ここでは、指先)7の撮像レンズとして機能しており、生体7からの光を受光素子112上に集光するようになっている。なお、図3等において、マイクロレンズアレイ65の横に示した矢印は、各液晶マイクロレンズ113における液晶の配向方向を表しており、以下同様である。
偏光子623は、マイクロレンズアレイ65上の各液晶マイクロレンズ113に対応する領域に配置されている。なお、図2において、この偏光子623の横に示した矢印は、偏光子623の偏光軸(透過軸)を表しており、以下同様である。
遮光部66は、マイクロレンズアレイ65における各液晶マイクロレンズ113と、受光素子112との間に配置されている。この遮光部66は、近傍の他の画素からの入射光を遮断するためのものであり、これにより、そのような入射光が受光素子112へ入射するのが回避されるようになっている。
IR透過フィルタ67は、遮光部66と受光素子112との間に配置されている。このIR透過フィルタ67は、生体7からの光(可視光および非可視光)のうち、近赤外光を選択的に透過して受光素子112へと入射させるためのフィルタである。
ここで、液晶素子111が、本発明における「発光素子」の一具体例に対応する。また、偏光子621,622が本発明における「一対の第1偏光子」の一具体例に対応し、偏光子623が本発明における「第2偏光子」の一具体例に対応する。また、バックライト61が本発明における「光源」の一具体例に対応し、IR透過フィルタ67が本発明における「透過フィルタ」の一具体例に対応する。表示信号ドライバ21および表示側スキャナ22が本発明における「表示駆動手段」の一具体例に対応し、撮像信号選択スキャナ31および撮像信号レシーバ32が本発明における「受光駆動手段」の一具体例に対応する。また、IR照射制御部23が本発明における「非可視光制御手段」の一具体例に対応し、MLA駆動制御部33が本発明における「マイクロレンズ駆動手段」の一具体例に対応する。
次に、図1〜図4を参照して、本実施の形態の生体認証装置1の動作(生体認証動作)について詳細に説明する。図3は、本実施の形態の生体認証動作(特に入出力パネル10における作用)について説明するための要部断面図であり、認証対象の生体(指7)の静脈パターンを取得する場合の光路例を表したものである。また、図4(A)〜(C)は、線順次による表示動作および受光動作について説明するための平面模式図である。なお、図3等において、白色光(可視光)Lwおよび近赤外光LIR(非可視光)の光線内に示した矢印は、各光の偏光方向を表したものであり、以下同様である。
この生体認証装置1では、図3に示したように、入出力パネル10上に、例えば指などの生体7が接触または近接していると、入出力パネル10からの画像データD0に基づく表示光Lw(白色光)と近赤外光LIRとが、生体7へ向けて照射され、この生体7からの光(白色光Lwおよび近赤外光LIR)が、入出力パネル10へ向けて入射する。
この際、バックライト61から出射された白色光Lwおよび近赤外光LIRは、いずれもランダム偏光であるが、偏光子621を通過後、特定の直線偏光成分のみとなり、液晶セル63内の液晶層へ入射する。この直線偏光の入射光は、液晶層の厚み方向に伝播しつつ、液晶のもつ屈折率異方性(複屈折)に応じて、その偏光状態が変化する。ここで、偏光子622を通過する直線偏光は、その偏光方向が各液晶マイクロレンズ113の配向方向と直交するため、マイクロレンズアレイ65を通過する際に、その屈折力を受けない。これにより、表示光としての白色光Lwは一種の平板を通過したのと同様となるため、画像表示の際の画質に影響を及ぼすことはない。
一方、白色光Lwおよび近赤外光LIRは、生体7へ照射されると、それらの反射成分は、再びランダム偏光となる。また、偏光子623による偏光作用によって、各液晶マイクロレンズ113の配向方向と平行な偏光方向の直線偏光のみがマイクロレンズアレイ65へ入射するため、各液晶マイクロレンズ113によって屈折力を受け、集光される。そして、静脈認証に寄与しない白色光Lwによる画質劣化を回避するため、IR透過フィルタ67によって近赤外光LIRが選択的に通過し、受光素子112上に到達する。
ここで、マイクロレンズアレイ65内の各液晶マイクロレンズ113の焦点が、生体7の内部(静脈部分)および受光素子112上に合わせられていることにより、生体7の各部位の静脈の撮像データが得られる。
また、このような各画素11における発光動作および受光動作は、例えば図4(A)〜(C)中の矢印P1,P2で示したように、垂直ライン方向に沿って順次駆動する線順次動作(線順次表示動作および線順次受光動作)によってなされる。この際、図中の発光受光領域8で示したように、線順次表示動作に同期して線順次受光動作がなされる。このように、1水平ラインによる発光受光領域8が入出力パネル10全体に渡って順次走査されることにより、生体7全体の静脈の撮像データが得られる。
次に、このようにして入出力パネル10において得られた1水平ラインごとの撮像データは、撮像信号レシーバ32へと出力され、撮像信号レシーバ32から画像処理部41へ、生体の各部位の撮像データD1が出力される。この各部位の静脈の撮像データD1は、画像処理部41において画像処理がなされることにより、生体7の静脈の単一の撮像パターン(静脈パターン)である画像処理データD2が生成され、認証部43へ入力される。
そして認証部43では、入力された静脈パターン(画像処理データD2)と、パターン保持部42に保持されている静脈認証用の認証パターンとが比較され、静脈認証がなされる。これにより、本実施の形態の生体認証処理が終了となる。
このようにして本実施の形態では、非可視光領域の近赤外光LIRによって生体7の撮像データが得られることにより、生体7内部の情報の取得が容易となり、静脈認証の実現も容易となる。また、撮像データの取得の際に、従来とは異なり、可視光領域の表示光(白色光Lw)が影響を受けなくなる。さらに、マイクロレンズアレイ65内の各液晶マイクロレンズ113によって生体7からの光が受光素子112上に集光されることにより、従来と比べ、撮像データにおける分解能が向上する。
以上のように本実施の形態では、非可視光領域の近赤外光LIRによって生体7の撮像データを取得するようにしたので、生体7内部の情報の取得が容易となって静脈認証の実現も容易となると共に、撮像データの取得の際に、可視光領域の表示光(白色光Lw)が影響を受けなくなる。また、マイクロレンズアレイ65内の各液晶マイクロレンズ113によって生体7からの光を受光素子112上に集光させるようにしたので、従来と比べ、撮像データにおける分解能を向上させることができる。よって、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
また、液晶素子111による照射動作の際には、各液晶マイクロレンズ113による集光機能を発揮させないようにする一方、受光素子112による撮像動作の際には、各液晶マイクロレンズ113による集光機能を発揮させるように構成したので、上記のように撮像データの取得の際に、可視光領域の表示光(白色光Lw)が影響を受けなくすることができる。
また、受光素子112上に、近傍の他の画素からの入射光を遮断する遮光部66を設けるようにしたので、撮像データの画質を向上させ、静脈認証の認証精度をより向上させることが可能となる。
また、受光素子112上に、非可視光領域の近赤外光LIRを透過するIR透過フィルタ67を設けるようにしたので、静脈認証に寄与しない白色光Lwによる画質劣化を回避することができ、静脈認証の認証精度をより向上させることが可能となる。
さらに、非可視光として近赤外光LIRを用いるようにしたので、生体7への光の透過率を高めつつ、生体7の静脈での光の吸収率も高めることができる。よって、撮像対象である静脈をより明確に浮かび上がらせることができ、静脈認証の精度をさらに向上させることが可能となる。
以下、本発明の変形例をいくつか挙げて説明する。なお、上記実施の形態における構成要素と同一のものには同一の符号を付し、適宜説明を省略する。
[変形例1]
図5は、変形例1に係る入出力パネル(入出力パネル10A)の要部断面構成を表したものである。上記実施の形態では、偏光子623がマイクロレンズアレイ65上に配置されていたが、本変形例の入出力パネル10Aでは、各画素11Aにおいて、偏光子623が、受光素子112とマイクロレンズアレイ65との間、具体的には遮光部66とマイクロレンズアレイ65との間において、各受光素子112に対応する領域に配置されている。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
[変形例2,3]
図6は、変形例2に係る入出力パネル10Bにおける平面構成を模式的に表したものであり、図7は、この入出力パネル10Bの要部断面構成を表したものである。上記実施の形態および変形例1では、液晶マイクロレンズ113が画素ごとに配置されていたが、本変形例の入出力パネル10Bでは、液晶マイクロレンズ113Bが、複数画素ごとに配置されている。具体的には、例えば図6では、液晶マイクロレンズ113Bが、4つの画素11Bごとに配置されている。
また、図7に示したように、この変形例2においても上記変形例1と同様に、各画素11Bにおいて、偏光子623が、受光素子112とマイクロレンズアレイ65Bとの間、具体的には遮光部66とマイクロレンズアレイ65Bとの間において、各受光素子112に対応する領域に配置されている。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
また、偏光子623が、受光素子112とマイクロレンズアレイ65Bとの間に配置されているようにしたので、例えば図8に示した変形例3に係る入出力パネル(入出力パネル10C)と比べ、変形例2に係る入出力パネル10Bでは、生体7への照射光量および受光素子112での受光光量を増加させることが可能となる。具体的には、変形例3に係る入出力パネル10Cでは、各画素11Cにおいて、偏光子623がマイクロレンズアレイ65B上に一様に配置されているため、液晶マイクロレンズ113Bが複数画素ごとに配置されている場合に、例えば図8中の照射光L0で示したように、光透過性が低くなってしまう(生体7への照射光である白色光Lwおよび近赤外光LIRが、偏光子623をほとんど透過できなくなってしまう)。これに対し、変形例2に係る入出力パネル10Bでは、上記のように偏光子623が受光素子112とマイクロレンズアレイ65Bとの間に配置されているため、このような光透過性低下の問題が回避され、生体7への照射光量および受光素子112での受光光量を増加させることが可能となる。
[変形例4]
図9は、変形例4に係る入出力パネル(入出力パネル10D)の要部断面構成を表したものである。この入出力パネル10Dは、上記変形例3に係る入出力パネル10Cにおいて、偏光子621〜623が波長依存性の偏光特性を有するようにしたものに対応する。すなわち、本変形例の入出力パネル10Dでは、各画素11Dにおいて、液晶素子111Dにおける偏光子621D,622Dおよびマイクロレンズアレイ65B上の偏光子623Dが、例えば図10に示したような波長依存性の偏光特性を有している。
具体的には、偏光子621D,622Dは、例えば図10(A)に示したように、表示光として用いる可視光(白色光Lw)に対して偏光作用を発揮すると共に、検出光として用いる近赤外光LIRに対して偏光作用を発揮しないような偏光特性となっている。一方、偏光子623Dは、例えば図10(B)に示したように、表示光として用いる可視光(白色光Lw)に対して偏光作用を発揮しないと共に、検出光として用いる近赤外光LIRに対して偏光作用を発揮するような偏光特性となっている。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
また、液晶素子111Dにおける偏光子621D,622Dおよびマイクロレンズアレイ65B上の偏光子623Dが、いずれも波長依存性の偏光特性を有しているようにしたので、上記変形例2と同様に、上記変形例3における光透過性低下の問題を回避することができ、生体7への照射光量および受光素子112での受光光量を増加させることが可能となる。
[変形例5,6]
図11および図12は、変形例5に係る入出力パネル(入出力パネル10C)の要部断面構成および動作を表したものであり、図13および図14は、変形例6に係る入出力パネル(入出力パネル10E)の要部断面構成および動作を表したものである。上記実施の形態および変形例1〜4では、ある特定の偏光方向の入射光に対し、各液晶マイクロレンズ113が常に集光機能を発揮するように、すなわち入射光の偏光方向依存による集光機能の発現であったのに対し、これら変形例5,6では、各マイクロレンズに対するMLA駆動制御部33からの電圧印加に応じて、集光機能のオン・オフを行うようになっている。なお、これら変形例5,6における入出力パネルの断面構成は、変形例3に係るものに対応している。
変形例5,6において、MLA駆動制御部33は、液晶素子111による照射動作の際には、各マイクロレンズによる集光機能を発揮させないようにする一方、受光素子112による撮像動作の際には、各マイクロレンズによる集光機能を発揮させるように、各マイクロレンズを駆動するようになっている。この際、上記実施の形態および変形例1〜4のように、液晶素子111による照射動作および受光素子112による撮像動作を完全に同時に行うことはできないが、例えば各液晶マイクロレンズ113Bにおける集光機能のオン・オフの切替を、数ミリ秒といった短時間に繰り返し行うことにより、あたかも表示画像を保持しつつ、撮像動作を行っているようにすることが可能となる。
具体的には、変形例5では、マイクロレンズアレイ部65Bにおける各マイクロレンズが液晶マイクロレンズ113Bにより構成されており、各画素11Cにおいて、例えば図11に示したように、液晶素子111による照射動作の際には、各マイクロレンズ113Bによる集光機能を発揮させないようにする一方、例えば図12に示したように、受光素子112による撮像動作の際には、各マイクロレンズ113Bによる集光機能を発揮させるように、各マイクロレンズ113Bが駆動される。
一方、変形例6では、マイクロレンズアレイ部65Eにおける各マイクロレンズが液体マイクロレンズ113Eにより構成されており、各画素11Eにおいて、例えば図13に示したように、液晶素子111による照射動作の際には、各マイクロレンズ113Eによる集光機能を発揮させないようにする一方、例えば図14に示したように、受光素子112による撮像動作の際には、各マイクロレンズ113Eによる集光機能を発揮させるように、各マイクロレンズ113Eが駆動される。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
また、変形例6ではマイクロレンズが液体マイクロレンズ113Eにより構成されているため、各マイクロレンズが液晶マイクロレンズ113Bにより構成されている変形例5とは異なり、偏光子623が不要となる。これは、液体マイクロレンズ113E自身には集光作用の偏光依存性がないためであり、これにより変形例6に係る入出力パネル10Eでは、変形例5に係る入出力パネル10Cと比べ、部品点数を削減することが可能となる。
[変形例7]
図15は、変形例7に係る入出力パネル(入出力パネル10F)を備えた生体認証装置(生体認証装置1F)の機能ブロック構成を表したものであり、図16は、この入出力パネル10Fの要部断面構成を表したものである。上記実施の形態および変形例1〜6では、各マイクロレンズが液晶マイクロレンズまたは液体マイクロレンズにより構成されている場合について説明したが、本変形例の入出力パネル10Fでは、各画素11Fにおいて、各マイクロレンズが固体マイクロレンズ113F(焦点距離が固定のマイクロレンズ)により構成されている。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
また、本変形例では、図16に示したように、マイクロレンズアレイ65Fにおける複数のマイクロレンズ113Fのうちの1つのマイクロレンズ113Fに対応する少なくとも1つ以上の画素11Fにおいて、バックライト61から照射される白色光Lwおよび近赤外光LIRがマイクロレンズ113Fによって積分され、このマイクロレンズ113Fの焦点面に集光され、画像表示がなされる。したがって、あたかも焦点位置に仮想的な光源があることと同等となるため、観測者からは映像が浮き上がっているように見える。すなわち、立体的な画像表示を行うことが可能となる。
また、本変形例においても偏光子623が不要となるため、部品点数を削減することが可能となる
[変形例8]
図17は、変形例8に係る入出力パネル(入出力パネル10G)を備えた生体認証装置(生体認証装置1G)の機能ブロック構成を表したものであり、図18は、この入出力パネル10Gの要部断面構成を表したものである。上記実施の形態および変形例1〜7では、近赤外光LIRを照射する素子(液晶表示素子111等)が、表示部100内において入出力パネル10上(表示領域内)に配置されている場合について説明したが、本変形例の生体認証装置1Gでは、表示光(白色光Lw)を照射する液晶素子(液晶素子111G)が、表示部100内において入出力パネル10上(表示領域内)に配置されている一方、近赤外光LIRを照射する素子(近赤外光源681,682)が、表示部100内において入出力パネル10の外部(表示領域外)に配置されている。なお、液晶素子111Gにおけるバックライト61Gは、白色光Lwのみを照射する光源となっている。
なお、近赤外光源の設置位置および個数については、図17および図18に示したものには限られず、また、このような近赤外光源に加え、導光板等の光学部材を設けるようにしてもよい。
ここで、液晶素子111Gが本発明における「第1発光素子」の一具体例に対応し、近赤外光源681,682が本発明における「第2発光素子」の一具体例に対応する。
このような構成により本変形例においても、上記実施の形態と同様の作用により、同様の効果を得ることが可能となる。すなわち、画像表示機能による表示画像を保持しつつ、セキュリティレベルの高い生体認証を実現することが可能となる。
なお、例えば近赤外光源681,682と受光素子112とが近くに配置されている場合、指内部に結合せずに指表面で反射された光によって表皮のパターンが見え、それにより静脈パターンが寸断されることで、認証アルゴリズムおよび認証精度に影響を及ぼすおそれがある。したがって、事前の画像処理等により表皮パターンを除去できない場合には、例えば、IR照射制御部を設けて照射領域を制御することにより、受光素子112における表皮パターンの影響を回避することができるよう、ある一定距離離れた箇所の照射を行う領域分割照射を順次行うようにすればよい。
また、本変形例のように外部に近赤外光源を配置する場合には、この近赤外光源と受光素子112との間に隔壁を設けることにより、上記したような表皮パターンの影響を回避することが可能である。
また、本変形例では、図18に示したように、近赤外光源681,682が生体7の下方に配置されている下方照明の方式について説明したが、本発明はこの照明の方式には限られず、例えば、近赤外光源が生体7の側方に配置されている側方照明の方式であってもよい。また、照明の方向に関しても、生体7が指先の場合には、指の幅(短手)方向に沿った照明には限らず、例えば指の長手方向に沿った照明や、それら短手方向および長手方向の両方向に沿った照明であってもよい。
以上、実施の形態および変形例を挙げて本発明を説明したが、本発明はこれらの実施の形態等に限定されるものではなく、種々の変形が可能である。
例えば、液晶セル63への入射光の偏光方向は、上記実施の形態等で説明した場合には限られず、例えばそれらの場合と90度回転したものであってもよい。そのように構成した場合であっても、それ以降の偏光方向は、上記実施の形態等で説明した検出原理が保持されるよう設定されればよい。
また、静脈認証に関しては指の静脈に限らず、手のひら静脈や、指および手のひらの両方を撮像して認証に用いるようにしてもよい。また、MLA駆動制御部33が、撮像動作の際に、各マイクロレンズに印加する電圧を多段階に変化させると共に、認証部43が、その多段階の印加電圧に基づく複数の撮像データを用いることにより、静脈認証に加えて指紋認証を考慮した生体認証を行うようにしてもよい。そのように構成した場合、静脈認証および指紋認証の両者の認証結果を考慮して最終的な認証結果データDoutを生成することにより、一方の認証結果だけから最終的な認証結果データを生成する場合と比べ、認証の精度を向上させることが可能となる。
また、上記実施の形態等では、受光素子112で得られた撮像データに対し、画像処理部41において適宜画像処理を施してから認証を行うようにした場合について説明したが、例えば、場合によっては画像処理部41を設けずに、受光素子112からの撮像データに基づいて、認証部43が直接認証を行うようにしてもよい。そのように構成した場合、装置構成をより簡素化し、装置全体をより小型化することが可能となる。
また、生体7の内部を照明することにより少なくとも静脈の認証が可能なのであれば、認証に用いる非可視光領域の光としては、必ずしも近赤外光でなくてもよい。
また、本発明の生体認証装置における撮像光学系としては、認証用途のような近接撮像のものには限られず、例えば、マイクロレンズアレイおよび撮像素子によって撮像光学系が構成される「Compound Eye」という手法を適用するようにしてもよい。この「Compound Eye」という手法は、わずかに位置ずれした複数の画像を同時に撮像すると共に、個々の低解像度の画像を合成処理することにより、高解像度の単一画像を取得する手法であり、非常に薄い撮像光学系が実現可能なものである。この手法を本発明に適用した場合、例えば近赤外光の照明下においてこの動作原理を用いることにより、表示装置において、近接撮像に限らない撮像機能を付加することが可能となる。
さらに、上記実施の形態等では、可視光領域や非可視光領域の光を照射する発光素子の一例として、液晶素子を挙げて説明したが、他の発光素子、例えば有機または無機のEL(Electro Luminescence)素子などの自発光素子を用いてもよい。
本発明の一実施の形態に係る生体認証装置の構成を表す機能ブロック図である。 図1に示した入出力パネルの要部構成例を表す断面図である。 図1に示した入出力パネルにおける作用を説明するための断面図である。 線順次による表示動作および受光動作について説明するための平面模式図である。 本発明の変形例1に係る入出力パネルの要部構成および作用について説明するための断面図である。 本発明の変形例2に係る入出力パネルの画素構造例を表す平面模式図である。 図6に示した入出力パネルの要部構成および作用について説明するための断面図である。 本発明の変形例3に係る入出力パネルの要部構成および作用について説明するための断面図である。 本発明の変形例4に係る入出力パネルの要部構成および作用について説明するための断面図である。 図9に示した入出力パネルにおける偏光子の透過特性例を表す特性図である。 本発明の変形例5に係る入出力パネルの要部構成および表示動作について説明するための断面図である。 本発明の変形例5に係る入出力パネルの要部構成および受光動作について説明するための断面図である。 本発明の変形例6に係る入出力パネルの要部構成および表示動作について説明するための断面図である。 本発明の変形例6に係る入出力パネルの要部構成および受光動作について説明するための断面図である。 本発明の変形例7に係る生体認証装置の構成を表す機能ブロック図である。 図15に示した入出力パネルの要部構成および作用について説明するための断面図である。 本発明の変形例8に係る生体認証装置の構成を表す機能ブロック図である。 図17に示した入出力パネルの要部構成および作用について説明するための断面図である。
符号の説明
1,1G,1G…生体認証装置、10,10A〜G…入出力パネル、100…表示部、11,11A〜11F…画素、111,111D,111G…液晶素子、112…受光素子、113,113B…液晶マイクロレンズ、113E…液体マイクロレンズ、113F…固体マイクロレンズ、21…表示信号ドライバ、22…表示側スキャナ、23…IR照射制御部、31…撮像信号選択スキャナ、32…撮像信号レシーバ、33…MLA駆動制御部、41…画像処理部、42…パターン保持部、43…認証部、5…制御部、61,61G…バックライト、621〜623,621D〜623D…偏光子、63…液晶セル、64…カラーフィルタ、65,65E,65F…マイクロレンズアレイ、66…遮光部、67…IR透過フィルタ、681、682…近赤外光源、7…生体(指)、8…発光受光領域、D0…画像データ、D1…撮像データ、D2…画像処理データ、Dout…認証結果データ、Lw…白色光(可視光)、LIR…近赤外光(非可視光)、P1,P2…線順次走査方向。

Claims (20)

  1. 表示面内に配置され、画像データに基づく可視光領域の光と、非可視光領域の光とを生体へ向けて照射する発光素子と、
    前記表示面内に配置され、前記生体からの光を集光する複数のマイクロレンズを有するマイクロレンズアレイ部と、
    前記表示面内に配置され、前記マイクロレンズアレイ部において集光された光に基づき、非可視光領域の光による前記生体の撮像データを取得する受光素子と、
    前記表示面から可視光領域の光が表示光として照射されるように、前記画像データに基づいて前記発光素子を表示駆動する表示駆動手段と、
    前記表示面から照射されて前記生体から得られた非可視光領域の光を検出光として前記表示面上で受光するように、前記受光素子を受光駆動する受光駆動手段と、
    前記受光素子で得られた撮像データに基づき、少なくとも前記生体の静脈像を生成する画像処理部
    を備え
    前記発光素子による照射動作の際には、前記マイクロレンズによる集光機能が発揮されない一方、前記受光素子による撮像動作の際には、前記マイクロレンズによる集光機能が発揮される
    生体撮像装置。
  2. 前記マイクロレンズが、印加電圧に応じて入射光線の屈折方向を変位可能なものであり、
    前記マイクロレンズに電圧を印加するための駆動を行うマイクロレンズ駆動手段を備え
    前記マイクロレンズ駆動手段は、
    前記照射動作の際には前記集光機能を発揮させないようにする一方、前記撮像動作の際には前記集光機能を発揮させるように、前記マイクロレンズを駆動する
    請求項1に記載の生体撮像装置。
  3. 前記マイクロレンズ駆動手段は、前記撮像動作の際に、前記マイクロレンズに印加する電圧を多段階に変化させる
    請求項2に記載の生体撮像装置。
  4. 前記画像処理部により生成された静脈像を用いて、少なくとも前記生体の静脈を利用する静脈認証を行う認証部を備え、
    前記認証部は、多段階の印加電圧に基づく複数の撮像データを用いることにより、前記静脈認証に加え、前記生体の指紋を利用する指紋認証を考慮した生体認証を行
    求項3に記載の生体撮像装置。
  5. 前記マイクロレンズが、液晶マイクロレンズまたは液体マイクロレンズであ
    求項2ないし請求項4のいずれか1項に記載の生体撮像装置。
  6. 前記発光素子および前記受光素子が、前記表示面内で画素ごとに配置され
    前記照射動作の際には前記集光機能が発揮しない一方、前記撮像動作の際には前記集光機能が発揮するように、各画素が構成されている
    求項1に記載の生体撮像装置。
  7. 前記マイクロレンズが、前記表示面内で画素ごとに配置されてい
    求項6に記載の生体撮像装置。
  8. 前記発光素子が、一対の第1偏光子を有する液晶素子を用いて構成され、
    前記受光素子上に、第2偏光子が設けられてい
    求項に記載の生体撮像装置。
  9. 前記第2偏光子が、前記受光素子と前記マイクロレンズアレイとの間に配置されてい
    求項に記載の生体撮像装置。
  10. 前記マイクロレンズが、前記表示面内で複数画素ごとに配置されてい
    求項6に記載の生体撮像装置。
  11. 前記発光素子が、一対の第1偏光子を有する液晶素子を用いて構成され、
    前記受光素子と前記マイクロレンズアレイとの間に、第2偏光子が設けられてい
    求項1に記載の生体撮像装置。
  12. 前記発光素子が、一対の第1偏光子を有する液晶素子を用いて構成され、
    前記受光素子上に、第2偏光子が設けられ、
    前記一対の第1偏光子および前記第2偏光子が、波長依存性の偏光特性を有す
    求項1に記載の生体撮像装置。
  13. 前記受光素子上に、近傍の他の画素からの入射光を遮断する遮光部が設けられてい
    求項6に記載の生体撮像装置。
  14. 前記発光素子からの非可視光領域の光について、その照射領域、照射タイミングおよび照射強度のうちの少なくとも1つを制御する非可視光制御手段を備え
    求項6に記載の生体撮像装置。
  15. 前記発光素子が、可視光領域の光を発する第1発光素子と、非可視光領域の光を発する第2発光素子とにより構成され、
    前記第1発光素子および前記受光素子が、前記表示面内で画素ごとに配置され、
    前記第2発光素子が、前記表示面内の表示領域外に配置されてい
    求項1に記載の生体撮像装置。
  16. 前記第2発光素子が、近赤外光を発するものであ
    求項1に記載の生体撮像装置。
  17. 前記発光素子および前記受光素子がそれぞれ、前記表示面内でマトリクス状に配置され、
    前記表示駆動手段は、線順次表示動作を行うように前記発光素子を表示駆動し、
    前記受光駆動手段は、線順次受光動作を行うように前記受光素子を受光駆動す
    求項1に記載の生体撮像装置。
  18. 前記受光駆動手段は、前記発光素子の線順次表示動作に同期して線順次受光動作を行うように、前記受光素子を受光駆動す
    求項1に記載の生体撮像装置。
  19. 前記非可視光領域の光が、近赤外光である
    請求項1ないし請求項18のいずれか1項に記載の生体撮像装置。
  20. 前記画像処理部により生成された静脈像を用いて、少なくとも前記生体の静脈を利用する静脈認証を行う認証部を備えた
    請求項1ないし請求項19のいずれか1項に記載の生体撮像装置。
JP2008084541A 2008-03-27 2008-03-27 生体撮像装置 Expired - Fee Related JP5024153B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008084541A JP5024153B2 (ja) 2008-03-27 2008-03-27 生体撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008084541A JP5024153B2 (ja) 2008-03-27 2008-03-27 生体撮像装置

Publications (3)

Publication Number Publication Date
JP2009238005A JP2009238005A (ja) 2009-10-15
JP2009238005A5 JP2009238005A5 (ja) 2011-02-24
JP5024153B2 true JP5024153B2 (ja) 2012-09-12

Family

ID=41251854

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008084541A Expired - Fee Related JP5024153B2 (ja) 2008-03-27 2008-03-27 生体撮像装置

Country Status (1)

Country Link
JP (1) JP5024153B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5990905B2 (ja) * 2011-12-19 2016-09-14 ソニー株式会社 測定装置、測定方法、プログラム及び記録媒体
FR3045846B1 (fr) * 2015-12-22 2018-09-28 Centre National De La Recherche Scientifique Dispositif electro-optique pour la detection de la modification locale d’un champ electrique.
JP6801435B2 (ja) 2016-12-20 2020-12-16 富士通株式会社 生体認証装置、生体認証システム、生体認証プログラム、及び生体認証方法
CN212160750U (zh) 2017-09-05 2020-12-15 麦美特科技股份有限公司 指纹认证用传感器模块及指纹认证装置
US10872221B2 (en) 2018-06-21 2020-12-22 Amazon Technologies, Inc Non-contact biometric identification system
US20200302147A1 (en) * 2019-03-20 2020-09-24 Amazon Technologies, Inc. Biometric input device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002287900A (ja) * 2000-12-12 2002-10-04 Semiconductor Energy Lab Co Ltd 情報装置
JP4820033B2 (ja) * 2001-09-10 2011-11-24 シチズン電子株式会社 密着イメージセンサー用複合液晶マイクロレンズ
JP2004016407A (ja) * 2002-06-14 2004-01-22 Canon Inc 画像検出装置および携帯機器
JP2006011711A (ja) * 2004-06-24 2006-01-12 Sony Ericsson Mobilecommunications Japan Inc 認証装置及び携帯端末
US7876929B2 (en) * 2004-10-04 2011-01-25 Hitachi, Ltd. Personal identification device

Also Published As

Publication number Publication date
JP2009238005A (ja) 2009-10-15

Similar Documents

Publication Publication Date Title
JP4748257B2 (ja) 生体認証装置
JP5024153B2 (ja) 生体撮像装置
KR102202342B1 (ko) 생물학적 특성을 검출하는 일체형 발광 디스플레이 및 센서
JP4306744B2 (ja) 生体認証装置
US8233149B2 (en) Biometric image pickup apparatus
US20200401781A1 (en) Under-screen fingerprint reader
US10824841B2 (en) Under-screen fingerprint identification system
JP4501161B2 (ja) 画像読取装置
KR20090012117A (ko) 생체 인증 시스템
WO2010001661A1 (ja) 表示装置
WO2015015717A1 (ja) 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置
CN106599768B (zh) 光学装置
JP2009017943A (ja) 生体撮像装置
JP2009172263A (ja) 生体情報取得装置及び撮像装置
US11182631B2 (en) Information processing method and electronic device
JP2010020237A (ja) 画像検出表示装置および電子機器
US11810395B2 (en) Optical fingerprint identification apparatus, electronic device and fingerprint identification method
US8811690B2 (en) Imaging device having a prismatic element
JP2010033347A (ja) 表示機能を有する撮像装置及び移動体通信端末
JP2009238005A5 (ja)
JP2007048113A (ja) 画像読取装置及びその画像読取方法
JP2009069981A (ja) 生体画像入力装置およびそれを用いた個人認証システム
CN112684621B (zh) 一种图像采集装置
JP4935637B2 (ja) 生体撮像装置および生体撮像方法
US20110063077A1 (en) Vein authentication apparatus using total internal reflection

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120604

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5024153

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees