JP2010039912A - Device and method for acquiring vein pattern, and vein template - Google Patents
Device and method for acquiring vein pattern, and vein template Download PDFInfo
- Publication number
- JP2010039912A JP2010039912A JP2008204230A JP2008204230A JP2010039912A JP 2010039912 A JP2010039912 A JP 2010039912A JP 2008204230 A JP2008204230 A JP 2008204230A JP 2008204230 A JP2008204230 A JP 2008204230A JP 2010039912 A JP2010039912 A JP 2010039912A
- Authority
- JP
- Japan
- Prior art keywords
- vein
- structured
- light
- infrared light
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 210000003462 vein Anatomy 0.000 title claims abstract description 281
- 238000000034 method Methods 0.000 title claims abstract description 92
- 238000003384 imaging method Methods 0.000 claims abstract description 130
- 238000004364 calculation method Methods 0.000 claims abstract description 32
- 238000012937 correction Methods 0.000 claims description 28
- 230000003287 optical effect Effects 0.000 claims description 27
- 238000003333 near-infrared imaging Methods 0.000 claims description 13
- 238000013500 data storage Methods 0.000 claims description 7
- 230000001678 irradiating effect Effects 0.000 claims description 6
- 238000003780 insertion Methods 0.000 claims description 4
- 230000037431 insertion Effects 0.000 claims description 4
- 238000005286 illumination Methods 0.000 claims description 3
- 238000012634 optical imaging Methods 0.000 description 32
- 230000008569 process Effects 0.000 description 24
- 230000006870 function Effects 0.000 description 19
- 238000004891 communication Methods 0.000 description 17
- 238000012545 processing Methods 0.000 description 14
- 210000004204 blood vessel Anatomy 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000000605 extraction Methods 0.000 description 7
- 102000001554 Hemoglobins Human genes 0.000 description 6
- 108010054147 Hemoglobins Proteins 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 210000004207 dermis Anatomy 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 239000008280 blood Substances 0.000 description 3
- 210000004369 blood Anatomy 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 241001270131 Agaricus moelleri Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 210000002615 epidermis Anatomy 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 206010033675 panniculitis Diseases 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000003491 skin Anatomy 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 210000004304 subcutaneous tissue Anatomy 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Input (AREA)
Abstract
Description
本発明は、静脈パターン取得装置、静脈パターン取得方法および静脈テンプレートに関する。 The present invention relates to a vein pattern acquisition device, a vein pattern acquisition method, and a vein template.
近年、生体認証の分野において、人体に固有の特徴として、体内に走る静脈パターンが使われつつある。静脈パターンは、高い認証精度を有し、また、いわゆる成りすましが困難である等の面から、非常に便利な認証ツールである。 In recent years, in the field of biometric authentication, a vein pattern running in the body is being used as a characteristic unique to the human body. The vein pattern is a very convenient authentication tool because it has high authentication accuracy and is difficult to impersonate.
このような認証を行う場合、人の静脈パターンの参照画像と、認証の際に入力された入力画像との間で、何らかのマッチングを行う必要があり、このマッチング処理の一例として、画像照合やパターンマッチング等の手法が用いられる。 When performing such authentication, it is necessary to perform some kind of matching between the reference image of the human vein pattern and the input image input at the time of authentication. As an example of this matching process, image matching or pattern A technique such as matching is used.
一般的な生体認証システムでは、入力画像を取得するためのセンサーがあり、そのセンサーによって例えば指などの生体部位の静脈画像を撮影する。生体認証システムは、撮影の結果得られた入力画像を、事前に登録されている参照画像と照合することで、本人かどうかの認証を行う(例えば、特許文献1参照。)。 In a general biometric authentication system, there is a sensor for acquiring an input image, and a vein image of a biological part such as a finger is photographed by the sensor. The biometric authentication system verifies the identity by comparing an input image obtained as a result of photographing with a reference image registered in advance (see, for example, Patent Document 1).
ここで、上記特許文献1に示したような実在する静脈認証システムのほとんどは、二次元画像を参照画像として利用しているが、照明条件やセンサーに対する生体部位の姿勢(例えば、指の置き方等)によって、同じ人の同じ指であっても、二次元画像上では全く異なる画像として認識される可能性がある。このような場合には、静脈が登録されている本人であるにも係らず、静脈認証が失敗する可能性がある。 Here, most of the existing vein authentication systems as shown in Patent Document 1 use a two-dimensional image as a reference image. However, the posture of a living body part with respect to illumination conditions and sensors (for example, how to place a finger) Etc.), the same finger of the same person may be recognized as a completely different image on the two-dimensional image. In such a case, there is a possibility that vein authentication fails even though the vein is the registered person.
また、特許文献1に示したような静脈の二次元情報を利用する静脈認証システムでは、二次元情報が第三者によって何らかの方法で取得もしくは偽造され、いわゆる「成りすまし行為」によって静脈認証が成功してしまう可能性がある。 In addition, in the vein authentication system using vein two-dimensional information as shown in Patent Document 1, two-dimensional information is acquired or forged by some method by a third party, and vein authentication succeeds by so-called “spoofing”. There is a possibility that.
そのため、本人拒否率(False Rejection Rate:FRR)を低減することが可能であり、「成りすまし行為」を防止して静脈認証システムのセキュリティ性を向上させることが可能な方法が希求されている。 Therefore, there is a demand for a method capable of reducing the false rejection rate (FRR) and preventing the “spoofing action” and improving the security of the vein authentication system.
そこで、本発明は、このような問題に鑑みてなされたもので、その目的は、本人拒否率を低下させ、静脈認証システムのセキュリティ性を向上させることが可能な、新規かつ改良された静脈パターン取得装置、静脈パターン取得方法および静脈テンプレートを提供することにある。 Therefore, the present invention has been made in view of such problems, and the object thereof is to provide a new and improved vein pattern that can reduce the rejection rate and improve the security of the vein authentication system. An acquisition device, a vein pattern acquisition method, and a vein template are provided.
上記課題を解決するために、本発明のある観点によれば、生体の一部に対して、構造化された近赤外光および構造化されていない近赤外光をそれぞれ照射する光源部と、前記光源部を制御して、前記構造化された近赤外光と前記構造化されていない近赤外光との照射切り替えを行う光源制御部と、前記生体の一部を撮像し、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとをそれぞれ生成する撮像部と、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データと、を比較し、前記構造化された近赤外光による撮像データと前記構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断する、画像比較部と、前記画素の対応関係に基づいて前記生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとする三次元情報算出部と、を備える、静脈パターン取得装置が提供される。 In order to solve the above problems, according to an aspect of the present invention, a light source unit that irradiates a part of a living body with structured near-infrared light and unstructured near-infrared light, respectively. A light source control unit that controls irradiation of the structured near-infrared light and the unstructured near-infrared light by controlling the light source unit, and images a part of the living body, An imaging unit for generating imaging data with structured near-infrared light and imaging data with unstructured near-infrared light, imaging data with structured near-infrared light, and Compare the imaging data with unstructured near-infrared light and the pixel data between the structured imaging data with near-infrared light and the imaging data with unstructured near-infrared light. An image comparison unit for determining a correspondence relationship; and Calculating three-dimensional information of a vein present inside the living body based on response relationship, the three-dimensional information includes a three-dimensional information computing unit to the vein pattern, the vein pattern acquisition device is provided.
かかる構成によれば、光源部は、生体の一部に対して、構造化された近赤外光および構造化されていない近赤外光をそれぞれ照射し、光源制御部は、光源部を制御して、構造化された近赤外光と構造化されていない近赤外光との照射切り替えを行う。また、撮像部は、生体の一部を撮像し、構造化された近赤外光による撮像データと、構造化されていない近赤外光による撮像データとをそれぞれ生成する。また、画像比較部は、構造化された近赤外光による撮像データと、構造化されていない近赤外光による撮像データとを比較し、構造化された近赤外光による撮像データと構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断する。また、三次元情報算出部は、画素の対応関係に基づいて生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとする。 According to such a configuration, the light source unit irradiates a part of the living body with structured near-infrared light and unstructured near-infrared light, respectively, and the light source control unit controls the light source unit. Then, irradiation switching between structured near-infrared light and unstructured near-infrared light is performed. The imaging unit captures a part of the living body, and generates structured imaging data using near-infrared light and imaging data based on unstructured near-infrared light, respectively. The image comparison unit compares the structured imaging data with near-infrared light and the imaging data with unstructured near-infrared light, and the structured imaging data and structure with near-infrared light. The correspondence relationship of the pixels with the imaging data by the near infrared light that is not converted is determined. Further, the three-dimensional information calculation unit calculates three-dimensional information of veins existing inside the living body based on the correspondence relationship between the pixels, and uses the three-dimensional information as a vein pattern.
前記静脈パターン取得装置は、前記構造化された近赤外光による撮像データを構成する画素の画素値をそれぞれ算出する画素値補正部を更に備え、前記画素値補正部は、前記画素値補正部は、前記構造化された近赤外光による撮像データを構成する画素の画素値の中に、当該画素値が所定の範囲内となるものが存在した場合に、該当する前記画素値を最大値に書き換えてもよい。 The vein pattern acquisition apparatus further includes a pixel value correction unit that calculates pixel values of pixels that form the structured near-infrared imaging data, and the pixel value correction unit includes the pixel value correction unit. Is the maximum value of the corresponding pixel value when the pixel value of the pixel constituting the structured near-infrared imaging data is within a predetermined range. It may be rewritten as
前記静脈パターン取得装置は、前記構造化されていない近赤外光による撮像データの中から前記生体の内部に存在する静脈に対応する画素を推定する、静脈画素推定部を更に供え、前記画像比較部は、前記構造化されていない近赤外光による撮像データに含まれる前記静脈に対応する画素と、前記構造化された近赤外光による撮像データに含まれる前記画素値が最大値に書き換えられた画素との対応関係を判断してもよい。 The vein pattern acquisition apparatus further includes a vein pixel estimation unit that estimates pixels corresponding to veins existing inside the living body from the imaging data of the unstructured near infrared light, and the image comparison The unit rewrites the pixel corresponding to the vein included in the unstructured near-infrared imaging data and the pixel value included in the structured near-infrared imaging data to a maximum value. The correspondence relationship with the selected pixel may be determined.
前記構造化された近赤外光は、近赤外光が照射されている帯状の明部と近赤外光が照射されていない帯状の暗部とが交互に配列した照射パターンで構成され、前記光源部は、前記明部および前記暗部に該当する部分の面積、ならびに、前記明部および前記暗部の配列順序が互いに異なる複数の前記照射パターンを、順次照射してもよい。 The structured near-infrared light is composed of an irradiation pattern in which strip-shaped bright portions irradiated with near-infrared light and strip-shaped dark portions not irradiated with near-infrared light are alternately arranged, The light source unit may sequentially irradiate a plurality of irradiation patterns having different areas corresponding to the bright part and the dark part, and different arrangement orders of the bright part and the dark part.
前記構造化された近赤外光は、近赤外光が照射されている一の明部または近赤外光が照射されていない一の暗部の近傍の明暗状態の組み合わせが、それぞれ異なる照射パターンで構成されてもよい。 The structured near-infrared light has different illumination patterns in which a combination of bright and dark states in the vicinity of one bright part irradiated with near-infrared light or one dark part not irradiated with near-infrared light is different. It may be constituted by.
前記光源部は、近赤外光を照射可能な複数の光源がアレイ状に配列されたアレイ状光源であり、前記光源制御部は、前記アレイ状光源を構成するそれぞれの前記光源の点灯制御を行ってもよい。 The light source unit is an array light source in which a plurality of light sources capable of emitting near-infrared light are arranged in an array, and the light source control unit performs lighting control of each of the light sources constituting the array light source. You may go.
前記光源部は、近赤外光を照射可能な複数の光源がライン状に配列されたライン状光源であり、前記光源制御部は、前記ライン状光源を構成するそれぞれの前記光源の点灯制御を行ってもよい。 The light source unit is a line light source in which a plurality of light sources capable of emitting near-infrared light are arranged in a line, and the light source control unit performs lighting control of each of the light sources constituting the line light source. You may go.
前記光源部は、前記明暗状態が一意的となるように設計された光学フィルタを更に備え、
前記光源制御部は、前記光学フィルタの挿入制御を行ってもよい。
The light source unit further includes an optical filter designed to make the light and dark state unique.
The light source control unit may perform insertion control of the optical filter.
前記静脈パターン取得装置は、空間座標系と前記撮像データにおける座標系とを関連付けるパラメータが記録される記憶部を更に備え、前記三次元情報算出部は、前記パラメータを用いて前記静脈の三次元情報を算出してもよい。 The vein pattern acquisition apparatus further includes a storage unit that records a parameter for associating a spatial coordinate system and a coordinate system in the imaging data, and the three-dimensional information calculation unit uses the parameter to calculate the three-dimensional information of the vein May be calculated.
前記静脈パターンをテンプレートとして登録するテンプレート登録部を更に備えてもよい。 You may further provide the template registration part which registers the said vein pattern as a template.
前記三次元情報算出部が算出した前記静脈パターンと、予め登録されている前記テンプレートとを比較して、前記三次元情報算出部が算出した前記静脈パターンの認証を行う認証部を更に備えてもよい。 The apparatus further includes an authentication unit that authenticates the vein pattern calculated by the three-dimensional information calculation unit by comparing the vein pattern calculated by the three-dimensional information calculation unit and the template registered in advance. Good.
上記課題を解決するために、本発明の別の観点によれば、生体の一部に対して、構造化された近赤外光および構造化されていない近赤外光をそれぞれ照射する光源部を制御して、前記構造化されていない近赤外光を前記生体の一部に対して照射するステップと、前記生体の一部を撮像し、前記構造化されていない近赤外光による撮像データを生成するステップと、前記光源部を制御して、前記構造化された近赤外光を前記生体の一部に対して照射するステップと、前記生体の一部を撮像し、前記構造化された近赤外光による撮像データを生成するステップと、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとを比較し、前記構造化された近赤外光による撮像データと前記構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断するステップと、前記画素の対応関係に基づいて前記生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとするステップと、を含む静脈パターン取得方法が提供される。 In order to solve the above problems, according to another aspect of the present invention, a light source unit that irradiates a part of a living body with structured near-infrared light and unstructured near-infrared light, respectively. Irradiating the part of the living body with the unstructured near-infrared light by controlling the image, and imaging the part of the living body and imaging with the unstructured near-infrared light Generating the data; controlling the light source unit to irradiate the structured near-infrared light to the part of the living body; imaging the part of the living body; Comparing the structured imaging data with near-infrared light and the imaging data with unstructured near-infrared light and generating the structured data Imaging data with near infrared light and the unstructured A step of determining a correspondence relationship of pixels with imaging data by near-infrared light; and calculating three-dimensional information of veins existing inside the living body based on the correspondence relationship of the pixels; A vein pattern acquisition method including the step of forming a vein pattern.
上記課題を解決するために、本発明の更に別の観点によれば、構造化された近赤外光および構造化されていない近赤外光のそれぞれにより生体の一部を撮像した画像データに基づいて算出された前記生体の内部に存在する静脈の三次元情報と照合される、個人の静脈パターンに対応した静脈の三次元情報が格納された静脈データ格納領域を備える、静脈テンプレートが提供される。 In order to solve the above problems, according to still another aspect of the present invention, image data obtained by imaging a part of a living body with each of structured near-infrared light and unstructured near-infrared light is used. A vein template comprising a vein data storage area storing vein three-dimensional information corresponding to an individual vein pattern, which is collated with the three-dimensional vein information existing inside the living body calculated based on the vein template, is provided. The
本発明によれば、静脈パターンを二次元情報ではなく三次元情報として取得することができるため、本人拒否率を低下させ、静脈認証システムのセキュリティ性を向上させることが可能である。 According to the present invention, since the vein pattern can be acquired as three-dimensional information instead of two-dimensional information, it is possible to reduce the person rejection rate and improve the security of the vein authentication system.
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, duplication description is abbreviate | omitted by attaching | subjecting the same code | symbol.
なお、説明は、以下の順序で行うものとする。
(1)構造化光投影による三次元再構成の原理について
(2)第1の実施形態
(2−1)静脈パターン取得装置の構成について
(2−2)静脈パターン取得方法について
(2−3)静脈テンプレートについて
(3)本発明の各実施形態に係る静脈パターン取得装置のハードウェア構成について
(4)まとめ
The description will be made in the following order.
(1) Principle of three-dimensional reconstruction by structured light projection (2) First embodiment (2-1) About configuration of vein pattern acquisition device (2-2) About vein pattern acquisition method (2-3) About vein template (3) About hardware configuration of vein pattern acquisition apparatus according to each embodiment of the present invention (4) Summary
<構造化光投影による三次元再構成の原理について>
まず、本発明の各実施形態に係る静脈パターン取得装置について説明するに先立ち、本発明の各実施形態に係る静脈パターン取得装置において用いられる構造化光投影による三次元再構成の原理について、図1A〜図4を参照しながら、詳細に説明する。図1A〜図4は、構造化光投影による三次元再構成の原理を説明するための説明図である。
<Principle of three-dimensional reconstruction by structured light projection>
First, prior to describing the vein pattern acquisition apparatus according to each embodiment of the present invention, the principle of three-dimensional reconstruction by structured light projection used in the vein pattern acquisition apparatus according to each embodiment of the present invention will be described with reference to FIG. Details will be described with reference to FIG. 1A to 4 are explanatory diagrams for explaining the principle of three-dimensional reconstruction by structured light projection.
三次元空間内にある物体を撮像して取得した撮像画像から、物体の三次元情報を再構成するためには、三次元空間内における物体の位置と、撮像画像内の座標との対応関係を把握することが重要となる。この三次元情報の再構成に用いられる原理の一つに、以下で示すような構造化光を用いた三角測量法の原理がある。 In order to reconstruct 3D information of an object from a captured image acquired by imaging an object in 3D space, the correspondence between the position of the object in 3D space and the coordinates in the captured image is determined. It is important to understand. One of the principles used for reconstruction of this three-dimensional information is the principle of triangulation using structured light as shown below.
構造化光を用いた三角測量法では、特定のパターンを有する光である構造化光(structured light)を物体に投影するための光源(例えば、プロジェクタ)と、構造化光が投影された物体を撮影するための撮像装置(例えば、カメラ)とが必要となる。この方法では、光のパターンが既知の構造化光を物体に投影して物体上での構造化光のパターンを撮影し、既知の光パターンと撮影した光パターンとの変化具合から、物体の三次元形状を推定する。 In the triangulation method using structured light, a light source (for example, a projector) for projecting structured light, which is light having a specific pattern, onto an object, and an object on which the structured light is projected. An imaging device (for example, a camera) for photographing is required. In this method, structured light with a known light pattern is projected onto the object and the structured light pattern on the object is photographed. From the degree of change between the known light pattern and the photographed light pattern, the third order of the object is obtained. Estimate the original shape.
すなわち、特定のパターンを有する構造化光を物体に投影すると、物体の三次元形状に応じて、構造化光に歪みが生じる。例えば、図1Aに示したような、格子状のパターンを有する構造化光SLを、図1Bに示したような球体Bに投影すると、図1Bに示したように、光グリッドが、球面上で変化して見える。三次元情報を抽出するために一般的に用いられるステレオビジョン法では、構造化光のどの点が物体上ではどの点に対応しているのかを見出すこと(対応点の探索)は困難である。しかしながら、図1Aに示したような特定の構造化光の場合には、光パターン上の特徴点を容易に見出すことができ、投影のために生じるグリッド上の特徴点の移動量(すなわち、歪み具合)を、容易に推定することができる。ここで、特徴点を見出す方法としては、例えば、Harris Corner Detector等を利用することが可能である。 That is, when structured light having a specific pattern is projected onto an object, the structured light is distorted according to the three-dimensional shape of the object. For example, when structured light SL having a lattice pattern as shown in FIG. 1A is projected onto a sphere B as shown in FIG. 1B, the optical grid is projected on a spherical surface as shown in FIG. 1B. Looks changing. In a stereo vision method generally used for extracting three-dimensional information, it is difficult to find out which point of structured light corresponds to which point on an object (search for corresponding points). However, in the case of the specific structured light as shown in FIG. 1A, the feature points on the light pattern can be easily found, and the amount of movement of the feature points on the grid caused by the projection (ie, distortion) Condition) can be easily estimated. Here, as a method of finding the feature points, for example, Harris Corner Detector or the like can be used.
光グリッド上の特徴点の移動量は、構造化光SLが投影された物体Bの三次元形状に直接関係があるため、物体の三次元形状と、特徴点の移動量との関係を定式化することによって、物体Bの三次元情報を抽出することができる。すなわち、図2に示したように、いわゆる三角測量法の原理を応用し、光源または撮像部と物体との距離や角度、撮像部の焦点位置等に基づいて、構造化光上の特徴点の対応関係を定式化することで、二次元の撮像画像から、物体の三次元形状を推定することができる。 Since the amount of movement of the feature point on the optical grid is directly related to the three-dimensional shape of the object B onto which the structured light SL is projected, the relationship between the three-dimensional shape of the object and the amount of movement of the feature point is formulated. By doing so, the three-dimensional information of the object B can be extracted. That is, as shown in FIG. 2, the principle of so-called triangulation method is applied, and the feature points on the structured light are determined based on the distance and angle between the light source or the imaging unit and the object, the focal position of the imaging unit, and the like. By formulating the correspondence, the three-dimensional shape of the object can be estimated from the two-dimensional captured image.
構造化光を用いた三次元形状の推定方法は、一般的に、以下の3つの方法に大別される。
1)時分割多重化方式(Time Multiplexing Method)
2)近傍情報方式
3)直接符号化方式
Generally, three-dimensional shape estimation methods using structured light are roughly classified into the following three methods.
1) Time division multiplexing method (Time Multiplexing Method)
2) Neighborhood information method 3) Direct encoding method
1)時分割多重化方式
時分割多重化方式は、複数種類の光パターン(構造化光)を連続的に物体に投影し、全ての光パターンの合計から、光源(プロジェクタ)から投影するパターンの各ピクセルに固有の値を持たせる方法である。すなわち、この時分割多重化方式は、構造化光を構成する各ピクセルを、時系列によってグレイコード(gray code)化し、物体に構造化光を連続的に投影する方法である。
1) Time-division multiplexing method The time-division multiplexing method continuously projects multiple types of light patterns (structured light) onto an object, and calculates the pattern projected from the light source (projector) from the sum of all the light patterns. In this method, each pixel has a unique value. In other words, this time division multiplexing method is a method in which each pixel constituting the structured light is gray coded in time series and the structured light is continuously projected onto the object.
この方式では、光が照射されている帯状の明部と、光が照射されていない帯状の暗部とを交互に配列した一連の光パターンを、物体に対して順次照射するが、この明部と暗部の配列が、いわゆるバイナリコードとなる。例えば、n種類の互いに異なる光パターン(構造化光)を物体に投影することで、2nのコードを表すことが可能となる。 In this method, an object is sequentially irradiated with a series of light patterns in which a band-shaped bright part irradiated with light and a band-shaped dark part not irradiated with light are alternately arranged. The dark part arrangement is a so-called binary code. For example, it is possible to represent 2 n codes by projecting n different light patterns (structured light) onto an object.
例えば、図3に示したように、物体Bに対して、明部A1および暗部A2の幅と個数、ならびに、明部A1および暗部A2の配列順序の異なる3種類の構造化光SL1〜SL3を投影することで、8つの異なった値を有するラインを投影することができる。各ピクセルに割り当てられた固有の値によって、撮像部で撮像した画像の列方向について、個々のピクセルを容易に識別することが可能である。 For example, as shown in FIG. 3, three types of structured light SL1 to SL3 having different widths and numbers of the bright portions A1 and dark portions A2 and the arrangement order of the bright portions A1 and dark portions A2 are given to the object B. By projecting, it is possible to project a line having eight different values. With the unique value assigned to each pixel, it is possible to easily identify each pixel in the column direction of the image captured by the imaging unit.
また、図3に示した例では、明部A1および暗部A2の配列は、縦縞模様となっているが、横縞模様の明部A1および暗部A2を有する構造化光と組み合わせることで、2次元のバイナリコードを表すことができる。そのため、撮像部で撮像した画像の行方向と列方向の双方で、個々のピクセルを容易に識別することが可能となり、対応点の探索を容易に行うことが可能となる。 In the example shown in FIG. 3, the arrangement of the bright part A1 and the dark part A2 is a vertical stripe pattern, but when combined with the structured light having the bright part A1 and the dark part A2 of the horizontal stripe pattern, Can represent binary code. Therefore, it is possible to easily identify individual pixels in both the row direction and the column direction of the image captured by the imaging unit, and it is possible to easily search for corresponding points.
2)近傍情報方式
近傍情報方式は、上述の時分割多重化方式のように複数種類の光パターンを投影するのではなく、1種類の光パターンを投影することで、個々のピクセルに固有の値を割り当てる方法である。この際、近傍情報方式では、ある特定のピクセルに着目した場合に、着目しているピクセルの周囲に存在するピクセルに割り当てられた値(コード)の組み合わせが、光パターンを構成する各ピクセルでそれぞれ異なるように光パターンが設定される。このような光パターンの一例として、例えば図4(A)および図4(B)に示したような、各ピクセルの近傍の模様が一意的となるように設定された光パターンを挙げることができる。
2) Neighboring information method The neighboring information method is a unique value for each pixel by projecting one type of light pattern instead of projecting a plurality of types of light patterns as in the time division multiplexing method described above. Is a method of assigning. At this time, in the neighborhood information method, when attention is paid to a specific pixel, a combination of values (codes) assigned to the pixels existing around the focused pixel is determined for each pixel constituting the light pattern. The light pattern is set differently. As an example of such a light pattern, for example, a light pattern that is set so that the pattern in the vicinity of each pixel is unique as shown in FIG. 4A and FIG. .
3)直接符号化方式
直接符号化方式は、上述の時分割多重化方式のように複数種類の光パターンを投影するのではなく、1種類の光パターンを投影することで、個々のピクセルに固有の値を割り当てる方法である。この際、直接符号化方式では、投影する光の強度を変調させて濃度傾斜を与えたり、カラーを組み合わせたりすることで、光パターンを構成する全てのピクセルが互いに異なるコードを有するように、光パターンが設定される。
3) Direct encoding method The direct encoding method is unique to each pixel by projecting one type of light pattern instead of projecting a plurality of types of light patterns as in the above-described time division multiplexing method. This is a method of assigning the value of. At this time, in the direct encoding method, the intensity of the light to be projected is modulated to give a density gradient or color is combined so that all the pixels constituting the light pattern have different codes. A pattern is set.
以上説明したように、構造化光を用いた三次元形状の推定方法には、大きく分けて3つの手法が存在するが、以下で説明する本発明の各実施形態に係る静脈パターン取得装置では、特に、時分割多重化方式または近傍情報方式による三次元形状の推定方法を利用して、静脈の三次元情報を推定する。 As described above, the method for estimating a three-dimensional shape using structured light has three main methods. However, in the vein pattern acquisition device according to each embodiment of the present invention described below, In particular, the three-dimensional information of the vein is estimated using a three-dimensional shape estimation method using a time division multiplexing method or a neighborhood information method.
(第1の実施形態)
<静脈パターン取得装置の構成について>
次に、図5を参照しながら、本発明の第1の実施形態に係る静脈パターン取得装置の構成について、詳細に説明する。図5は、本実施形態に係る静脈パターン取得装置の構成を説明するためのブロック図である。
(First embodiment)
<Configuration of vein pattern acquisition device>
Next, the configuration of the vein pattern acquisition apparatus according to the first embodiment of the present invention will be described in detail with reference to FIG. FIG. 5 is a block diagram for explaining the configuration of the vein pattern acquisition apparatus according to the present embodiment.
本実施形態に係る静脈パターン取得装置10は、例えば図5に示したように、光源部101と、光源制御部103と、撮像部105と、静脈画素推定部107と、画素値補正部109と、画像比較部111と、三次元情報算出部113と、テンプレート登録部115と、認証部117と、記憶部119と、を主に備える。
For example, as illustrated in FIG. 5, the vein
光源部101は、生体表面S(例えば、指表面FG)に対して所定の波長帯域を有する近赤外光を照射する。近赤外光は、身体組織に対して透過性が高い一方で、血液中のヘモグロビン(還元ヘモグロビン)に吸収されるという特徴を有するため、近赤外光を指や手のひらや手の甲に照射すると、指や手のひらや手の甲の内部に分布している静脈が影となって画像に現れる。画像に表れる静脈の影を、静脈パターンという。このような静脈パターンを良好に撮像するために、光源部101は、約600nm〜1300nm程度の波長、好ましくは、700nm〜900nm程度の波長を有する近赤外光を照射する。
The
ここで、光源部101が照射する近赤外光の波長が600nm未満または1300nm超過である場合には、血液中のヘモグロビンに吸収される割合が小さくなるため、良好な静脈パターンを得ることが困難となる。また、光源部101が照射する近赤外光の波長が700nm〜900nm程度である場合には、近赤外光は、脱酸素化ヘモグロビンと酸素化ヘモグロビンの双方に対して特異的に吸収されるため、良好な静脈パターンを得ることができる。
Here, when the wavelength of near-infrared light emitted by the
ここで、本実施形態に係る光源部101は、上述のような波長の近赤外光を照射可能な複数の発光ダイオードがアレイ状に配設されたアレイ状光源であってもよく、上述のような発光ダイオードがライン状に配設されたライン状光源であってもよい。
Here, the
また、上述のような波長帯域を有する発光ダイオードのような光源を用いる代わりに、上述の波長帯域を含む光を射出可能な発光ダイオードと、射出された光を光学的に帯域制限するフィルタとを組み合わせたものを使用してもよい。 Further, instead of using a light source such as a light emitting diode having the above wavelength band, a light emitting diode capable of emitting light including the above wavelength band and a filter for optically band limiting the emitted light. Combinations may be used.
ここで、本実施形態に係る光源部101では、静脈パターンの取得処理に必要となる撮像データの解像度に応じて、光源部101を構成する光源の個数を調整することが好ましい。例えば、撮像データとして、512ピクセル×512ピクセルの大きさのデータが必要である場合には、上記解像度を実現可能な光源の個数を光源部101として設けることが好ましい。また、各種の画像処理技術と組み合わせることで、光源部101に組み込む光源の個数を調整することも可能である。
Here, in the
光源部101から射出された近赤外光は、生体表面S(例えば、指表面FG)に向かって伝搬し、直接光として、生体の側面などから内部に入射する。ここで、人体は良好な近赤外光の散乱体であるため、生体内に入射した直接光は四方に散乱しながら伝搬する。生体内を透過した近赤外光は、撮像部105の光学素子に入射することとなる。
Near-infrared light emitted from the
本実施形態に係る光源部101は、後述する光源制御部103によって制御されることで、構造化されていない近赤外光(以下、非構造化光、または、非構造化近赤外光とも称する。)を照射したり、構造化された近赤外光(以下、構造化光、または、構造化近赤外光とも称する。)を照射したりする。
The
また、本実施形態に係る光源部101は、構造化近赤外光を照射する光源と、非構造化近赤外光を照射する光源とを、それぞれ別個に備えていても良い。
The
光源制御部103は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等から構成される。光源制御部103は、前述の光源部101を制御して、構造化近赤外光と、非構造化近赤外光との照射切り替えを行う。例えば、本実施形態に係る光源部101が、複数の光源がアレイ状に配設されたアレイ状光源や、複数の光源がライン状に配設されたライン状光源である場合には、光源制御部103は、個々の光源の点灯制御を行い、構造化光と非構造化光との切り替えを行う。また、構造化光と非構造化光との切り替えを、光学フィルタ等を用いることで行う場合には、光源制御部103は、光学フィルタの挿入処理を行っている機構を制御することで、光学フィルタの挿入制御を行う。
The light
より詳細には、例えば、本実施形態に係る静脈パターン取得装置10が、上述の時分割多重化方式を利用する場合には、光源制御部103は、記憶部119等に記録されている光源の点灯制御データベースや点灯制御情報等に基づいて、複数の光源の点灯制御を行うことが可能である。時分割多重化方式で用いられる光パターンは、明部および暗部の面積と、明部および暗部の配列順序によって規定されるため、アレイ状光源やライン状光源の点灯制御を行うことで、任意の光パターンを生成することが可能である。また、本実施形態に係る静脈パターン取得装置10が、上述の近傍情報方式を利用する場合であっても、光源制御部103は、記憶部119等に記録されている光源の点灯制御データベース等に基づいて、複数の光源の点灯制御を行うことが可能である。
More specifically, for example, when the vein
また、本実施形態に係る静脈パターン取得装置10が、時分割多重化方式を利用する場合には、光源制御部103は、撮像データに要求される解像度を実現可能なように、構造化光の種類を設定することが好ましい。例えば、構造化光による撮像データが、128×128ピクセルの解像度を有している必要がある場合には、縦方向に沿って明暗の縞模様が形成されている7種類の構造化光と、横方向に沿って縞模様が形成されている7種類の構造化光の計14種類の構造加工を実現可能なように、点灯制御を行うことが好ましい。
Further, when the vein
撮像部105は、CCD(Charge Coupled Devices:電荷結合素子)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子およびレンズ等の光学素子から構成される光学系と、CPU、ROM、RAM等から構成され、前述の光学系の駆動制御を行う撮像制御部(図示せず。)と、から構成される。
The
撮像部105を構成する光学系は、1または複数の光学素子と、1または複数の撮像素子と、から構成される。また、光学系の撮像位置(換言すれば、生体表面Sが載置される場所)の背景は、黒色であることが好ましい。光学系の撮像位置の背景を黒色とすることで、構造化光を生体表面Sに照射した際の画像のコントラストを向上させることが可能となる。
The optical system that constitutes the
人体の皮膚は、表皮層、真皮層および皮下組織層の3層構造となっていることが知られているが、静脈の存在する静脈層は、真皮層に存在している。真皮層は、指表面に対して0.1mm〜0.3mm程度の位置から2mm〜3mm程度の厚みで存在している層である。したがって、このような真皮層の存在位置(例えば、指表面から1.5mm〜2.0mm程度の位置)にレンズ等の光学素子の焦点位置を設定することで、静脈層を透過した透過光を、効率よく集光することが可能となる。 It is known that the human skin has a three-layer structure of an epidermis layer, a dermis layer, and a subcutaneous tissue layer, but a vein layer in which a vein exists exists in the dermis layer. The dermis layer is a layer present at a thickness of about 2 mm to 3 mm from a position of about 0.1 mm to 0.3 mm with respect to the finger surface. Therefore, by setting the focal position of an optical element such as a lens at the position where such a dermis layer is present (for example, a position of about 1.5 mm to 2.0 mm from the finger surface), the transmitted light transmitted through the vein layer can be reduced. It is possible to collect light efficiently.
光学素子によって集光された静脈層を透過した透過光は、撮像素子に結像されて、静脈撮像データとなる。 The transmitted light that has passed through the vein layer collected by the optical element is imaged on the image sensor and becomes vein image data.
撮像制御部は、所定の時間間隔が経過する毎に、光学系および撮像素子を制御して、複数の撮像データを生成する。より詳細には、光源部101から構造化光が照射されている場合には、撮像制御部は、構造化近赤外光による撮像データ(以下、構造化光撮像データとも称する。)を生成する。また、光源部101から非構造化光が照射されている場合には、撮像制御部は、非構造化近赤外光による撮像データ(以下、非構造化光撮像データとも称する。)を生成する。
The imaging control unit controls the optical system and the imaging device each time a predetermined time interval elapses to generate a plurality of imaging data. More specifically, when structured light is emitted from the
この際、本実施形態に係る静脈パターン取得装置10が、時分割多重化方式を利用して複数種類の光パターンを照射する場合には、構造化光撮像データとして、複数枚の撮像データが生成されることとなる。また、本実施形態に係る静脈パターン取得装置10が、近傍情報方式を利用して光パターンの照射を行う場合には、構造化光撮像データとして、1枚の撮像データが生成されることとなる。
At this time, when the vein
ここで、生体表面Sの撮像を行う時間間隔は、本実施形態に係る静脈パターン取得装置10の処理能力等に応じて任意の値に設定することが可能である。生体表面Sの撮像を行う時間間隔は、例えば、前述の光源制御部103による光源等の切り替え制御や、構造化光と非構造化光との切り替え制御に連動することが好ましい。
Here, the time interval for imaging the biological surface S can be set to an arbitrary value according to the processing capability of the vein
撮像制御部は、撮像素子によって生成された撮像データを、後述する静脈画素推定部107および画素値補正部109に出力する。また、撮像制御部は、得られた撮像データを、後述する記憶部119に記録してもよい。また、記憶部119への記録に際して、撮像制御部は、生成した撮像データに撮像日や撮像時刻等を関連づけてもよい。なお、生成される撮像データは、RGB(Red−Green−Blue)信号であってもよいし、それ以外の色やグレースケール等の画像データであってもよい。
The imaging control unit outputs imaging data generated by the imaging element to a vein
なお、本実施形態に係る撮像部105は、光源部101から照射され、指内部で反射した近赤外光の反射光を撮像する、いわゆる反射型配置の撮像部であってもよく、指内部を透過した透過光を撮像する、いわゆる透過型配置の撮像部であってもよい。
The
静脈画素推定部107は、例えば、CPU、ROM、RAM等から構成され、例えば、撮像部105から伝送される非構造化光撮像データに対して、静脈が撮像されている画素の位置を推定する処理を行う。この静脈画素の推定処理は、例えば、静脈画素抽出の前処理を行なう機能と、静脈画素の抽出を行なう機能と、静脈画素抽出の後処理を行なう機能と、を備える。
The vein
ここで、上記の静脈画素の抽出の前処理は、例えば、非構造化光撮像データから指の輪郭を検出し、非構造化光撮像データのどの位置に指があるかを識別する処理や、検出した指の輪郭を利用して非構造化光撮像データを平面内で回転させて、非構造化光撮像データの角度(撮像画像の角度)を補正する処理等を含む。 Here, the pre-processing of the above-described extraction of vein pixels includes, for example, a process of detecting a contour of a finger from unstructured optical imaging data and identifying a position of the finger in the unstructured optical imaging data, This includes processing for rotating the unstructured optical imaging data in a plane using the detected finger contour and correcting the angle of the unstructured optical imaging data (angle of the captured image).
また、上記の静脈画素の抽出は、輪郭の検出や角度の補正が終了した非構造化光撮像データに対して、差分フィルタを適用することで行なわれる。差分フィルタは、注目している画素とその周囲の画素について、注目している画素と周囲の画素との差分が大きな部分で、大きな値を出力値として出力するフィルタである。換言すれば、差分フィルタとは、注目している画素とその近傍の階調値の差分を用いた演算により、画像中の線や縁を強調するフィルタである。 The vein pixel extraction is performed by applying a difference filter to unstructured optical imaging data for which contour detection and angle correction have been completed. The difference filter is a filter that outputs a large value as an output value at a portion where the difference between the pixel of interest and the surrounding pixels is large between the pixel of interest and the surrounding pixels. In other words, the difference filter is a filter that emphasizes lines and edges in an image by calculation using a difference between a pixel of interest and a gradation value in the vicinity thereof.
一般的に、二次元平面の格子点(x,y)を変数とする画像データu(x,y)に対してフィルタh(x,y)を用いてフィルタ処理を行なうと、以下の式1に示すように、画像データν(x,y)を生成する。ここで、以下の式1において、‘*’は畳込み積分(コンボリューション)を表す。 In general, when filter processing is performed on image data u (x, y) using a lattice point (x, y) on a two-dimensional plane as a variable using a filter h (x, y), the following formula 1 As shown in FIG. 4, image data ν (x, y) is generated. Here, in the following formula 1, “*” represents a convolution (convolution).
本実施形態に係る静脈画素の抽出では、上記の差分フィルタとして、一次空間微分フィルタや二次空間微分フィルタ等の微分フィルタを用いてもよい。一次空間微分フィルタは、注目している画素について、横方向と縦方向の隣接している画素の階調値の差分を算出するフィルタであり、二次空間微分フィルタは、注目している画素について、階調値の差分の変化量が大きくなっている部分を抽出するフィルタである。 In the extraction of vein pixels according to the present embodiment, a differential filter such as a primary spatial differential filter or a secondary spatial differential filter may be used as the differential filter. The primary spatial differential filter is a filter that calculates the difference in the gradation values of adjacent pixels in the horizontal and vertical directions for the pixel of interest, and the secondary spatial differential filter is for the pixel of interest. This is a filter for extracting a portion where the change amount of the difference between the gradation values is large.
上記の二次空間微分フィルタとして、例えば、以下に示すLog(Laplacian of Gaussian)フィルタを用いることが可能である。Logフィルタ(式3)は、ガウス関数を用いた平滑化フィルタであるガウシアン(Gaussian)フィルタ(式2)の2次微分で表される。ここで、以下の式2において、σはガウス関数の標準偏差を表し、ガウシアンフィルタの平滑化の度合いを表す変数である。また、以下の式3におけるσは、式2と同様にガウス関数の標準偏差を表すパラメータであり、σの値を変化させることで、Logフィルタ処理を行なった場合の出力値を変化させることができる。 As the second-order spatial differential filter, for example, the following Log (Laplacian of Gaussian) filter can be used. The Log filter (Equation 3) is expressed by the second derivative of a Gaussian filter (Equation 2) that is a smoothing filter using a Gaussian function. Here, in Expression 2 below, σ represents a standard deviation of a Gaussian function, and is a variable representing the degree of smoothing of the Gaussian filter. In addition, σ in Equation 3 below is a parameter that represents the standard deviation of the Gaussian function as in Equation 2, and by changing the value of σ, the output value when the Log filter processing is performed can be changed. it can.
・・・(式3)
... (Formula 3)
また、上記の静脈画素抽出の後処理は、例えば、差分フィルタ適用後の画像データに対してなされる閾値処理や、2値化処理等を含む。かかる後処理を経て、静脈が撮像されている画素の位置を推定することが可能となる。 Further, the post-processing of vein pixel extraction described above includes, for example, threshold processing, binarization processing, and the like performed on the image data after application of the difference filter. Through such post-processing, it is possible to estimate the position of the pixel in which the vein is imaged.
静脈画素推定部107は、出力された静脈に該当する画像が映っている画素の位置情報を、後述する画像比較部111等に伝送する。また、静脈画素推定部107は、非構造化光撮像データそのものを、上述の位置情報とあわせて後述する画像比較部111に出力してもよい。また、静脈画素推定部107は、抽出した画素の位置情報や非構造化光撮像データを、後述する記憶部119に記憶してもよい。なお、静脈画素推定部107は、上述の各処理を行なうに当たって生成したパラメータや処理の途中経過等を、記憶部119に記憶してもよい。
The vein
画素値補正部109は、例えば、CPU、ROM、RAM等から構成され、撮像部105から伝送される構造化光撮像データを構成する画素の画素値の補正を行う。より詳細には、画素値補正部109は、撮像部105から伝送される構造化光撮像データを構成する画素の画素値を調べ、これらの画素の中に、所定の範囲に含まれる画素値を有するものが存在した場合に、該当する画素の画素値を最大値に書き換える補正を行う。ここで、画素値とは、該当する画素で観測された近赤外光の光量を表した数値を意味し、画素値が大きくなるほど、光量が大きいことを表すものとする。すなわち、画素値が大きくなるほど、該当する画素は白色に近い色となり、画素値が小さくなるほど、該当する画素は黒色に近い色となる。
The pixel
すなわち、本実施形態に係る画素値補正部109は、ある画素に対応する画素値が所定の範囲に含まれる場合(すなわち、所定の上限値以上、所定の下限値以下の光量を観測した場合)に、該当する画素の画素値を最大値に書き換え、該当する画素の色を、白色で表示されるように補正する。
In other words, the pixel
なお、この画素値の補正処理については、以下であらためて詳細に説明する。 The pixel value correction process will be described in detail later.
画素値補正部109は、画素値の補正が終了した構造化光撮像データを、後述する画像比較部111等に出力する。また、画素値補正部109は、画素値が最大値に書き換えられた画素の位置情報を、後述する画像比較部111等に伝送してもよい。また、画素値補正部109は、画素値の補正が終了した構造化光撮像データや、画素値が最大値に書き換えられた画素の位置情報等を、後述する記憶部119に記憶してもよい。なお、画素値補正部109は、上述の各処理を行なうに当たって生成したパラメータや処理の途中経過等を、記憶部119に記憶してもよい。
The pixel
画像比較部111は、例えば、CPU、ROM、RAM等から構成され、非構造化光撮像データと、構造化光撮像データとを比較し、構造化光撮像データと非構造化光撮像データとの間における画素の対応関係を判断する。より詳細には、画像比較部111は、非構造化光撮像データ中に含まれる静脈に対応する画素と、構造化光撮像データ中に含まれる画素値が最大値に書き換えられた画素との対応関係を判断する。その結果、非構造化光で撮像した場合における静脈に該当する画素が、構造化光で撮像した場合における最大値に書き換えられた画素のどれに対応するかを明らかにすることが可能となり、構造化光−非構造化光間における特徴点の対応関係を明らかにすることができる。
The
また、画像比較部111は、静脈に該当する画素を比較して対応関係を明らかにするだけでなく、指の外縁に該当する画素等を比較して、静脈に該当する画素の対応関係とは別個に特徴点の対応関係を導出してもよい。
In addition, the
画像比較部111は、特徴点の対応関係に関する情報を、後述する三次元情報算出部113に出力する。また、画像比較部111は、構造化光−非構造化光間における対応関係に関する情報を、後述する記憶部119に記憶してもよい。なお、画像比較部111は、上述の各処理を行なうに当たって生成したパラメータや処理の途中経過等を、記憶部119に記憶してもよい。
The
三次元情報算出部113は、例えば、CPU、ROM、RAM等から構成され、画像比較部111から伝送された画素の対応関係を表す情報に基づいて、生体の内部に存在する静脈の三次元情報を算出する。より詳細には、三次元情報算出部113は、後述する記憶部119に予め記録されている、空間座標系と撮像データにおける座標系とを関連付けるパラメータと、画像比較部111から伝送された画素の対応関係を表す情報に基づいて、いわゆる三角測量法の原理に基づいて、静脈の三次元情報を算出する。
The three-dimensional
ここで、上述の空間座標系と撮像データにおける座標系を関連付けるパラメータは、実際の空間座標系と撮像データにおける座標系との相対位置や方向関係、および、撮像部105が備える光学系の焦点距離等によって決定されるパラメータである。このパラメータは、例えば、上述のような位置関係や方向関係や焦点距離等の情報を用いて理論的に算出することも可能であり、三次元形状が既知である物体を撮像し、得られた撮像データを解析することで決定することも可能である。このようなパラメータの一例として、いわゆるカメラパラメータを挙げることができる。
Here, the parameters for associating the spatial coordinate system with the coordinate system in the imaging data are the relative position and direction relationship between the actual spatial coordinate system and the coordinate system in the imaging data, and the focal length of the optical system included in the
例えば、構造化光撮像データおよび非構造化光撮像データを含む撮像データにおいて、撮像データを構成する画素の位置関係を表す座標系を(xi,yi)と表し、空間座標系を(Xi,Yi,Zi)と表すこととする。また、画像比較部111から伝送された画素の対応関係を表す情報の中に、非構造化光撮像データにおける(xi,yi)ピクセルが静脈に該当する画素であり、構造化光撮像データでは(xi+dxi,yi+dyi)ピクセルに対応している旨が記載されている場合を考える。
For example, in imaging data including structured optical imaging data and unstructured optical imaging data, a coordinate system representing the positional relationship of pixels constituting imaging data is represented as (x i , y i ), and a spatial coordinate system is represented as (X i , Y i , Z i ). In the information indicating the correspondence relationship of the pixels transmitted from the
ここで、斉次座標(homogeneous coordinates)を導入して、撮像データにおける座標系と空間座標系との対応関係を考慮する。このとき、非構造化光を照射した場合の光源と撮像部との間の射影行列をPと表すこととし、構造化光を照射した場合の光源と撮像部との間の射影行列をP’と表すこととすると、2つの座標系の間の関係は、以下の式4および式5で表すことができる。ここで、下記式4および式5における射影行列PおよびP’が、記憶部119に記録されているパラメータに該当する。
Here, homogenous coordinates are introduced to consider the correspondence between the coordinate system and the spatial coordinate system in the imaging data. At this time, a projection matrix between the light source and the imaging unit when irradiated with unstructured light is represented as P, and a projection matrix between the light source and the imaging unit when irradiated with structured light is represented as P ′. The relationship between the two coordinate systems can be expressed by the following equations 4 and 5. Here, the projection matrices P and P ′ in the following equations 4 and 5 correspond to the parameters recorded in the
・・・(式5)
... (Formula 5)
上記射影行列PおよびP’は、静脈パターン取得装置10設計パラメータ等によって定まる既知の値であり、(xi,yi)および(xi+dxi,yi+dyi)は、実際の測定値であるため、式4および式5における未知数は、静脈の三次元形状である(Xi,Yi,Zi)のみとなる。式4および式5から4つの式が導出されるため、静脈の三次元形状である(Xi,Yi,Zi)を一義的に決定することが可能となる。
The projection matrices P and P ′ are known values determined by the design parameters of the vein
静脈パターン取得装置10が、静脈パターンの取得処理を行っている場合には、三次元情報算出部111は、算出した静脈の三次元形状を、静脈の三次元情報として後述するテンプレート登録部115に伝送する。また、静脈パターン取得装置10が、静脈パターンの認証処理を行っている場合には、三次元情報算出部111は、算出した静脈の三次元形状を、認証対象である静脈の三次元形状として、後述する認証部117に伝送する。
When the vein
なお、三次元情報算出部111は、算出した三次元情報を、後述する記憶部119に記録してもよい。また、三次元情報算出部111は、上述の各処理を行なうに当たって生成したパラメータや処理の途中経過等を、記憶部119に記憶してもよい。
Note that the three-dimensional
テンプレート登録部115は、例えば、CPU、ROM、RAM等から構成されており、三次元情報算出部113から伝送された静脈の三次元情報(すなわち、静脈の三次元形状)を、テンプレートとして後述する記憶部119に登録する。また、静脈の三次元情報の登録に際しては、静脈の三次元情報だけでなく、登録される三次元情報を有する個人を特定する他のデータ(例えば、指紋データ、顔画像データ、虹彩データ、声紋データ等)を三次元情報に関連づけて記憶してもよい。また、テンプレートとして登録される登録静脈パターン(静脈の三次元形状)は、例えば、CBEFF(Common Biometric Exchange File Format:共通バイオメトリック交換ファイルフォーマットフレームワーク)等の規格に則ったヘッダ情報を有していてもよい。
The
認証部117は、例えば、CPU、ROM、RAM等から構成されており、三次元情報算出部113により生成された静脈の三次元情報と、既に記録されている静脈パターンのテンプレートとに基づいて、生成された三次元情報の認証を行なう。認証部117は、後述する記憶部119に対してテンプレートの開示を要求し、取得したテンプレートと、三次元情報算出部113から伝送された静脈の三次元情報との比較を行なう。テンプレートと伝送された静脈の三次元情報との比較は、例えば以下の式6に示した相関係数を算出し、算出した相関係数に基づいて実行することが可能である。認証部117は、比較の結果テンプレートと伝送された三次元情報が類似している場合(例えば、算出した相関係数の絶対値が、所定の閾値以上であった場合)には、伝送された静脈の三次元情報を認証し、類似していない場合には、認証を行なわない。
The
相関係数は、以下の式6で定義されるものであり、2つのデータm={mi},n={ni}間の類似度を示す統計学指標であって、−1から1までの実数値をとる。相関係数が1に近い値を示す場合には、2つのデータは類似していることを示し、相関係数が0に近い値を示す場合には、2つのデータは類似していないことを示す。また、相関係数が−1に近い値を示す場合には、2つのデータの符号が反転しているような場合を示す。 The correlation coefficient is defined by Equation 6 below, and is a statistical index indicating the similarity between two data m = {m i } and n = {n i }, and is from −1 to 1 Take real values up to. When the correlation coefficient indicates a value close to 1, it indicates that the two data are similar. When the correlation coefficient indicates a value close to 0, the two data indicate that they are not similar. Show. Further, when the correlation coefficient shows a value close to -1, the case where the signs of the two data are inverted is shown.
:データmの平均値
:データnの平均値
: Average value of data m
: Average value of data n
また、認証部117は、認証結果を認証時刻等と関連づけて、認証履歴として記憶部119に記録してもよい。かかる認証履歴を生成することで、誰がいつ静脈パターンの認証を要求したのか、ひいては、誰がいつ静脈パターン取得装置10を利用したのか、を知ることが可能となる。
The
記憶部119は、三次元情報算出部111が静脈の三次元情報を算出する際に用いる各種パラメータや、テンプレート登録部115から登録要請のあった静脈の三次元情報や、当該三次元情報に関連付けられた他のデータを記憶する。また、これらのデータ以外にも、撮像部105が生成した撮像データや、画像比較部111が算出した画素間の対応関係を表す情報等を記憶することも可能である。更に、これらのデータ以外にも、静脈パターン取得装置10が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベース等を、適宜記憶することが可能である。この記憶部119は、光源部101、光源制御部103、撮像部105、静脈画素推定部107、画素値補正部109、画像比較部111、三次元情報算出部113、テンプレート登録部115、認証部117等が、自由に読み書きを行うことが可能である。
The
以上、本実施形態に係る静脈パターン取得装置10の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
Heretofore, an example of the function of the vein
例えば、上述の説明では、テンプレートとして登録される静脈の三次元情報が、静脈パターン取得装置10内に記録される場合について説明したが、静脈の三次元情報は、DVDメディア、Blu−rayメディア、コンパクトフラッシュ(登録商標)、メモリースティック、または、SDメモリカード等の記録媒体や、非接触型ICチップを搭載したICカードまたは電子機器等に記録されてもよく、静脈パターン取得装置10とインターネット等の通信網を介して接続されたサーバに記録されていてもよい。
For example, in the above description, the case where the three-dimensional information of the vein registered as the template is recorded in the vein
<静脈パターン取得方法について>
次に、図6〜図9を参照しながら、本発明の第1の実施形態に係る静脈パターン取得装置が実施する静脈パターン取得方法について、詳細に説明する。図6〜図8は、本実施形態に係る静脈パターン取得方法を説明するための説明図であり、図9は、本実施形態に係る静脈パターン取得方法を説明するための流れ図である。
<About vein pattern acquisition method>
Next, a vein pattern acquisition method performed by the vein pattern acquisition apparatus according to the first embodiment of the present invention will be described in detail with reference to FIGS. 6 to 8 are explanatory diagrams for explaining the vein pattern acquisition method according to this embodiment, and FIG. 9 is a flowchart for explaining the vein pattern acquisition method according to this embodiment.
[構造化光の歪みについて]
赤外線を用いて行う撮影技術は、反射型と、透過型の2種類であるが、本実施形態に係る静脈パターン取得方法では、反射型撮影を対象とすることが好ましい。一般的な方法では、生体部位、例えば指に対して、所定の波長の近赤外線(例えば、890nm波長の光)を当て、反射した光を撮影する。このとき、近赤外光の大部分が血管中のヘモグロビンに吸収されるため、生体部位の他の箇所に比べて相対的に黒く見える。本実施形態に係る静脈パターン取得方法では、反射されてくる赤外線画像を撮影し、この相対的に黒い部分を血管だと判定する。例えば、図6(A)に示した指の赤外線画像において、指静脈に該当する相対的に黒く映っている部分が存在する。図6(B)では、この指静脈に該当する部分を、黒線で示している。この黒線の部分が血管である。
[About distortion of structured light]
Although there are two types of imaging techniques using infrared rays, a reflection type and a transmission type, the vein pattern acquisition method according to this embodiment preferably targets reflection type imaging. In a general method, near-infrared rays with a predetermined wavelength (for example, light with a wavelength of 890 nm) are applied to a living body part, for example, a finger, and reflected light is imaged. At this time, since most of the near-infrared light is absorbed by hemoglobin in the blood vessel, it appears relatively black compared to other parts of the living body part. In the vein pattern acquisition method according to the present embodiment, a reflected infrared image is taken and this relatively black portion is determined to be a blood vessel. For example, in the infrared image of the finger shown in FIG. 6A, there is a portion that appears relatively black corresponding to the finger vein. In FIG. 6B, a portion corresponding to the finger vein is indicated by a black line. This black line is a blood vessel.
本実施形態に係る静脈パターンの取得方法では、例えば図6(A)に示したような血管撮像画像では、血管部分が完全な黒色ではないという点を利用する。すなわち、指に赤外線のパターン(構造化近赤外光)を当てると、パターン上での赤外線が照射されていない部分が真っ黒な部分となる。また、赤外線が照射されている部分では、相対的に黒い部分(相対的に暗い部分)と、相対的に白い部分(相対的に明るい部分)とが検出される。 In the vein pattern acquisition method according to the present embodiment, for example, in the blood vessel captured image as shown in FIG. 6A, the fact that the blood vessel portion is not completely black is used. That is, when an infrared pattern (structured near-infrared light) is applied to a finger, a portion of the pattern that is not irradiated with infrared becomes a black portion. Further, in a portion irradiated with infrared rays, a relatively black portion (relatively dark portion) and a relatively white portion (relatively bright portion) are detected.
例えば、図6(A)の画像を取得する際に利用した非構造化近赤外光の代わりに、例えば図7左図に示したような構造化近赤外光SLを照射する。図7に示した構造化光は、指の長さ方向と直交する方向に、近赤外光が照射されている明部A1と、近赤外光が照射されていない暗部A2とが交互に配設されている。この構造化光を指に照射すると、図7右側に示したような画像が撮影される。本実施形態に係る画素値補正部109は、明部A1に映っている画像について、静脈に該当する相対的に黒い部分の画素値の補正を行う。すなわち、本実施形態に係る画素値補正部109は、明部A1における相対的に黒い部分の画素を検出可能なように、画素値の補正の可否判定に用いられる範囲が設定される。この範囲の下限値および上限値は、指内部における静脈の存在具合によっても異なる値であるため、任意の値に設定可能である。
For example, instead of the unstructured near-infrared light used when acquiring the image of FIG. 6A, structured near-infrared light SL as shown in the left diagram of FIG. In the structured light shown in FIG. 7, the bright part A1 irradiated with near infrared light and the dark part A2 not irradiated with near infrared light alternately in a direction orthogonal to the finger length direction. It is arranged. When the structured light is irradiated onto the finger, an image as shown on the right side of FIG. 7 is taken. The pixel
本実施形態に係る静脈パターンの取得方法では、図6(B)で検出した血管に該当する画素だけに関して、先に説明したような静脈パターンの取得に関する各種処理を行う。ここで、図7の右側に示した図において、明部A1および暗部A2のパターンは、図7左側に示したパターンと同一であるように示しているが、実際には、構造化光の当たった物体表面により、歪みが生じている。この歪みは、物体の高さ方向(すなわち、紙面に対して垂直方法)の情報を含んだものである。 In the vein pattern acquisition method according to the present embodiment, various processes related to vein pattern acquisition as described above are performed only for pixels corresponding to the blood vessels detected in FIG. Here, in the figure shown on the right side of FIG. 7, the pattern of the bright part A1 and the dark part A2 is shown to be the same as the pattern shown on the left side of FIG. The object surface is distorted. This distortion includes information on the height direction of the object (that is, a method perpendicular to the paper surface).
続いて、図8を参照しながら、構造化光を照射して得られた撮像データにおける歪みについて、詳細に説明する。例えば、図8(A)に示したような構造化光SLを指FGに照射した場合、構造化光SLは、指FGによって図8(B)、図8(C)に示したように歪みを生ずる。この際、背景部分と、指の表面部分と、静脈Vの部分とでは、形状や奥行き方向における存在位置が異なるため、背景部分における歪みD1と、指の表面部分における歪みD2と、静脈部分における歪みD3とでは、構造化光SLの歪みの度合いが異なることとなる。そのため、構造化近赤外光SLは、指FGで反射され、撮像部105によって、図8(D)に示したような歪みを含む画像として生成される。静脈パターン取得装置10の画素値補正部109は、図8(D)に示したような画像における、相対的に黒い部分について、画素値の補正を行い、画素値を最大値(すなわち、画素の色が白色となる値)に画素値の書き換えを行う。画素値補正部109は、画素値の書き換えを行った画素を、特徴点として画像比較部111に出力する。
Next, the distortion in the imaging data obtained by irradiating the structured light will be described in detail with reference to FIG. For example, when the structured light SL as shown in FIG. 8A is irradiated onto the finger FG, the structured light SL is distorted by the finger FG as shown in FIGS. 8B and 8C. Is produced. At this time, since the background portion, the finger surface portion, and the vein V portion have different shapes and positions in the depth direction, the distortion D1 in the background portion, the distortion D2 in the finger surface portion, and the vein portion The degree of distortion of the structured light SL is different from the distortion D3. Therefore, the structured near-infrared light SL is reflected by the finger FG, and is generated as an image including distortion as shown in FIG. The pixel
他方、本実施形態に係る静脈画素推定部107は、図6(B)に示したような非構造化光撮像データの中から、静脈に該当する部分を推定し、特徴点として画像比較部111に出力する。その後、画像比較部111は、入力された各撮像データにおける特徴点の対応関係を判断し、三次元情報算出部113は、特徴点の対応関係に関する情報に基づいて、静脈の三次元情報を算出する。
On the other hand, the vein
[流れ図を用いた説明]
続いて、図9を参照しながら、本実施形態に係る静脈パターンの取得方法について詳細に説明する。
[Explanation using flowchart]
Next, a vein pattern acquisition method according to the present embodiment will be described in detail with reference to FIG.
まず、本実施形態に係る静脈パターン取得装置10の光源制御部103は、光源部101の点灯制御を行い、非構造化近赤外光を生体表面(例えば、指表面)に対して照射させ、撮像部105は、指表面の撮像を行う(ステップS101)。撮像部105は、生成した非構造化光撮像データ(以下、画像Aと称する。)を、静脈画素推定部107に出力する。また、撮像部105は、生成した非構造化光撮像データを、記憶部119に記録してもよい。
First, the light
続いて、光源制御部103は、光源部101の点灯制御を行い、所定の光パターンを有する構造化近赤外光を指表面に対して照射させ、撮像部105は、指表面の撮像を行う(ステップS103)。撮像部105は、生成した構造化光撮像データ(以下、画像Bと称する。)を、画素値補正部109に出力する。ここで、本実施形態に係る静脈パターン取得装置10が、時分割多重化方式により静脈パターンの取得を行う場合には、複数種類の構造化光の照射によって得られた複数の撮像データの集合が、画像Bとなる。また、本実施形態に係る静脈パターン取得装置10が近傍情報方式により静脈パターンの取得を行う場合には、一種類の光パターンの照射によって得られた撮像データが、画像Bとなる。また、撮像部105は、生成した構造化光撮像データを、記憶部119に記録してもよい。
Subsequently, the light
次に、本実施形態に係る静脈画素推定部107は、撮像部105から伝送された非構造化光撮像データ(画像A)の中から、静脈に対応する画素の位置情報を推定し(ステップS105)、画像比較部111に出力する。また、静脈画素推定部107は、当該静脈画素推定部107によって各種の処理が施された画像Aそのものを、画像比較部111に出力してもよい。また、静脈画素推定部107は、得られた静脈に対応する画素の位置情報を、記憶部119に記録してもよい。
Next, the vein
続いて、画素値補正部109は、撮像部105から伝送された構造化光撮像データ(画像B)の画素値を検索し、所定の範囲に含まれる画素値を有する画素を検出する。画素値補正部109は、画素値が所定の範囲内である画素について、例えば図7に示したような、明部A1に属する相対的に黒い部分(すなわち、静脈)に対応する画素であると判定し、その画素値を、白色を表す最大値へと書き換える(ステップS107)。続いて、画素値補正部109は、少なくとも画素値を補正した画素に関する位置情報を、画像比較部111に出力する。また、画素値補正部109は、当該画素値補正部109によって各種の処理が施された画像Bそのものを、画像比較部111に出力してもよい。また、画素値補正部109は、画素値を補正した画素に関する位置情報を、記憶部119に記録してもよい。
Subsequently, the pixel
次に、画像比較部111は、静脈画素推定部107から出力された静脈に対応する画素の位置情報と、画素値補正部109から出力された画素値を補正した画素に関する位置情報と、に基づいて、画像Aにおける特徴点と、画像Bにおける特徴点との対応付けを行う(ステップS109)。画像比較部111は、得られた対応関係に関する情報を、三次元情報算出部113に出力する。また、画像比較部111は、得られた対応関係に関する情報を、記憶部119に記録してもよい。
Next, the
続いて、三次元情報算出部113は、画像比較部111から出力された対応関係に関する情報と、記憶部119に記録されているカメラパラメータ等と、に基づいて、静脈の三次元情報を算出し、静脈パターンとする(ステップS111)。静脈パターン取得装置10が、静脈パターンの取得処理を行っている場合には、三次元情報算出部111は、算出した静脈の三次元形状を、静脈の三次元情報としてテンプレート登録部115に伝送する。また、静脈パターン取得装置10が、静脈パターンの認証処理を行っている場合には、三次元情報算出部111は、算出した静脈の三次元形状を、認証対象である静脈の三次元形状として、認証部117に伝送する。
Subsequently, the three-dimensional
以上説明したように、本実施形態に係る静脈パターンの取得方法によれば、構造化近赤外光と、非構造化近赤外光とを用いて、生体表面の撮像を行うことにより、生体の内部に存在する静脈の三次元形状を算出することが可能となる。本実施形態に係る静脈パターン取得方法では、従来のように静脈パターンを二次元情報として取得するのではなく、三次元情報として取得するため、本人拒否率を低下させ、静脈認証システムのセキュリティ性を向上させることが可能である。 As described above, according to the vein pattern acquisition method according to the present embodiment, a living body surface is imaged using structured near-infrared light and unstructured near-infrared light. It is possible to calculate the three-dimensional shape of the vein existing inside the. In the vein pattern acquisition method according to the present embodiment, the vein pattern is not acquired as two-dimensional information as in the prior art, but is acquired as three-dimensional information. It is possible to improve.
<静脈テンプレートについて>
次に、本実施形態に係る静脈パターン取得装置10によって取得された静脈パターンを用いて生成される静脈テンプレートについて、簡単に説明する。
<About vein templates>
Next, a vein template generated using the vein pattern acquired by the vein
本実施形態に係る静脈パターン取得装置10では、上述のように、生体の内部に存在する静脈の三次元情報を取得することが可能である。この静脈の三次元情報は、以下の表1に示したようなデータ構造を有する。すなわち、以下の表1から明らかなように、静脈に対応する画素の個数がN個であった場合、静脈テンプレートのデータ構造には、それぞれの特徴点のX座標、Y座標およびZ座標が記載される。
As described above, the vein
表1に示したようなデータ構造を有する静脈の三次元情報は、テンプレート登録部115によって、静脈テンプレートの静脈データ格納領域に個人の静脈パターンに対応した静脈の登録情報として格納される。また、静脈テンプレートには、静脈データ格納領域以外にも、各種のデータ格納領域が設けられていても良い。
The three-dimensional information of veins having the data structure shown in Table 1 is stored by the
本実施形態に係る静脈パターン取得装置10では、入力された静脈パターンの認証処理を行う際に、認証部117は、静脈テンプレートの静脈データ格納領域から、既に登録されている静脈の三次元情報を取得する。認証部117は、静脈テンプレートから取得した静脈の三次元情報と、三次元情報算出部113によって算出された三次元情報とを比較して、静脈パターンの認証処理を行うことが可能である。
In the vein
<ハードウェア構成について>
次に、図10を参照しながら、本発明の各実施形態に係る静脈パターン取得装置のハードウェア構成について、詳細に説明する。図10は、本発明の各実施形態に係る静脈パターン取得装置10のハードウェア構成を説明するためのブロック図である。
<About hardware configuration>
Next, the hardware configuration of the vein pattern acquisition apparatus according to each embodiment of the present invention will be described in detail with reference to FIG. FIG. 10 is a block diagram for explaining the hardware configuration of the vein
静脈パターン取得装置10は、主に、CPU901と、ROM903と、RAM905と、ホストバス907と、ブリッジ909と、外部バス911と、インターフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
The vein
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、静脈パターン取得装置10内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。
The
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
The
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなどユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、静脈パターン取得装置10の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。静脈パターン取得装置10のユーザは、この入力装置915を操作することにより、静脈パターン取得装置10に対して各種のデータを入力したり処理動作を指示したりすることができる。
The
出力装置917は、例えば、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置およびランプなどの表示装置や、スピーカおよびヘッドホンなどの音声出力装置や、プリンタ装置、携帯電話、ファクシミリなど、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。出力装置917は、例えば、静脈パターン取得装置10が行った各種処理により得られた結果を出力する。具体的には、表示装置は、静脈パターン取得装置10が行った各種処理により得られた結果を、テキストまたはイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。
The
ストレージ装置919は、静脈パターン取得装置10の記憶部の一例として構成されたデータ格納用の装置であり、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種データやデータベースなどを格納する。
The
ドライブ921は、記録媒体用リーダライタであり、静脈パターン取得装置10に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア、Blu−rayメディア、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、メモリースティック、または、SDメモリカード(Secure Digital memory card)等である。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)または電子機器等であってもよい。
The
接続ポート923は、例えば、USB(Universal Serial Bus)ポート、i.Link等のIEEE1394ポート、SCSI(Small Computer System Interface)ポート、RS−232Cポート、光オーディオ端子、HDMI(High−Definition Multimedia Interface)ポート等の、機器を静脈パターン取得装置10に直接接続するためのポートである。この接続ポート923に外部接続機器929を接続することで、静脈パターン取得装置10は、外部接続機器929から各種データを取得したり、外部接続機器929に各種データを提供したりする。
The
通信装置925は、例えば、通信網931に接続するための通信デバイス等で構成された通信インターフェースである。通信装置925は、例えば、有線または無線LAN(Local Area Network)、Bluetooth、またはWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデム等である。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線または無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信等であってもよい。
The
以上、本発明の各実施形態に係る静脈パターン取得装置10の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
Heretofore, an example of the hardware configuration capable of realizing the function of the vein
なお、本発明の各実施形態に係る静脈パターン取得装置10は、以下に示すような機能を有するプログラムとして提供されることも可能である。このプログラムは、生体の一部に対して、構造化された近赤外光および構造化されていない近赤外光をそれぞれ照射する光源部と、前記生体の一部を撮像する撮像部とを備えた静脈パターン取得装置を制御するコンピュータに、前記光源部を制御して、前記構造化された近赤外光と前記構造化されていない近赤外光との照射切り替えを行う光源制御機能と、前記撮像部を制御し、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとをそれぞれ生成する撮像部制御機能と、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとを比較し、前記構造化された近赤外光による撮像データと前記構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断する、画像比較機能と、前記画素の対応関係に基づいて前記生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとする三次元情報算出機能と、を実現させるためのプログラムである。
In addition, the vein
かかる構成によれば、コンピュータプログラムは、コンピュータが備える記憶部に格納され、コンピュータが備えるCPUに読み込まれて実行されることにより、そのコンピュータを上記の静脈パターン取得装置として機能させる。また、コンピュータプログラムが記録された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。 According to such a configuration, the computer program is stored in the storage unit included in the computer, and is read and executed by the CPU included in the computer, thereby causing the computer to function as the vein pattern acquisition device. A computer-readable recording medium in which a computer program is recorded can also be provided. The recording medium is, for example, a magnetic disk, an optical disk, a magneto-optical disk, a flash memory, or the like. Further, the above computer program may be distributed via a network, for example, without using a recording medium.
<まとめ>
以上説明したように、本発明の各実施形態に係る静脈パターン取得装置では、構造化された近赤外光という、従来の静脈認証システムでは用いられなかった光を生体表面の撮像に利用する。構造化近赤外光と、非構造化近赤外光とを組み合わせて用いることで、生体の内部に存在する静脈の三次元形状を取得することが可能となる。
<Summary>
As described above, the vein pattern acquisition apparatus according to each embodiment of the present invention uses structured near-infrared light, which has not been used in a conventional vein authentication system, for imaging a biological surface. By using a combination of structured near-infrared light and unstructured near-infrared light, it is possible to acquire a three-dimensional shape of a vein existing inside the living body.
また、物体の三次元形状を取得するために構造化光を利用することは、従来から行われていたが、従来の方法では、物体の表面で反射し、かつ、反射による強度変化の少ない波長の光を用いて三次元形状を算出するのみであった。しかしながら、本発明の各実施形態における方法では、近赤外光という、生体の内部まで浸透可能であり、かつ、血管の中を流れる血液によって吸収されてしまう波長の光を用いることで、従来では考慮されていなかった、生体内部に存在する物体の三次元形状を算出することが可能となった。 In addition, the use of structured light to acquire the three-dimensional shape of an object has been performed in the past, but in the conventional method, the wavelength is reflected on the surface of the object and has a small intensity change due to reflection. Only the three-dimensional shape was calculated using this light. However, in the method according to each embodiment of the present invention, conventionally, light of a wavelength that can penetrate into the living body and is absorbed by blood flowing in a blood vessel, which is near infrared light, is conventionally used. It has become possible to calculate the three-dimensional shape of an object existing inside the living body that was not taken into consideration.
このように、本発明の各実施形態に係る静脈パターン取得装置では、静脈の三次元形状を容易に取得することができる。生体の内部を走る静脈の立体像を模倣し、再現することは極めて困難であり、このような静脈の三次元形状を静脈認証システムに用いることで、いわゆる「成りすまし行為」を防止することが可能となる。 Thus, the vein pattern acquisition device according to each embodiment of the present invention can easily acquire the three-dimensional shape of the vein. It is extremely difficult to imitate and reproduce a three-dimensional image of a vein running inside a living body, and it is possible to prevent so-called “spoofing” by using such a three-dimensional shape of a vein in a vein authentication system. It becomes.
また、静脈パターンを二次元情報ではなく三次元情報として取得することができるため、照明の当たり方の違いや生体の配置誤差に起因する誤認証を防止し、本人拒否率を低下させることができる。 In addition, since the vein pattern can be acquired as 3D information instead of 2D information, it is possible to prevent erroneous authentication due to a difference in lighting and a placement error of the living body, and to reduce the rejection rate. .
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。 As mentioned above, although preferred embodiment of this invention was described referring an accompanying drawing, it cannot be overemphasized that this invention is not limited to this example. It will be apparent to those skilled in the art that various changes and modifications can be made within the scope of the claims, and these are naturally within the technical scope of the present invention. Understood.
10 静脈パターン取得装置
101 光源部
103 光源制御部
105 撮像部
107 静脈画素推定部
109 画素値補正部
111 画像比較部
113 三次元情報算出部
115 テンプレート登録部
117 認証部
119 記憶部
A1 明部
A2 暗部
FG 指表面
SL 構造化光
V 静脈
DESCRIPTION OF
Claims (13)
前記光源部を制御して、前記構造化された近赤外光と前記構造化されていない近赤外光との照射切り替えを行う光源制御部と、
前記生体の一部を撮像し、前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとをそれぞれ生成する撮像部と、
前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データと、を比較し、前記構造化された近赤外光による撮像データと前記構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断する、画像比較部と、
前記画素の対応関係に基づいて前記生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとする三次元情報算出部と、
を備える、静脈パターン取得装置。 A light source unit that irradiates a part of a living body with structured near-infrared light and unstructured near-infrared light, and
A light source control unit that controls the light source unit to perform irradiation switching between the structured near-infrared light and the unstructured near-infrared light;
An imaging unit that captures an image of a part of the living body and generates imaging data based on the structured near-infrared light and imaging data based on the unstructured near-infrared light,
The structured near-infrared imaging data and the unstructured near-infrared imaging data are compared, and the structured near-infrared imaging data and the structured data are compared. An image comparison unit for determining a correspondence relationship of pixels with imaging data by near-infrared light,
Calculating three-dimensional information of veins present inside the living body based on the correspondence of the pixels, and a three-dimensional information calculation unit using the three-dimensional information as a vein pattern;
A vein pattern acquisition apparatus comprising:
前記画素値補正部は、前記構造化された近赤外光による撮像データを構成する画素の画素値の中に、当該画素値が所定の範囲内となるものが存在した場合に、該当する前記画素値を最大値に書き換える、請求項1に記載の静脈パターン取得装置。 The vein pattern acquisition device further includes a pixel value correction unit that corrects the pixel values of the pixels constituting the imaging data by the structured near-infrared light,
The pixel value correction unit is applicable when the pixel value of the pixel constituting the structured near-infrared imaging data includes a pixel value within a predetermined range. The vein pattern acquisition apparatus according to claim 1, wherein the pixel value is rewritten to a maximum value.
前記画像比較部は、前記構造化されていない近赤外光による撮像データに含まれる前記静脈に対応する画素と、前記構造化された近赤外光による撮像データに含まれる前記画素値が最大値に書き換えられた画素との対応関係を判断する、請求項2に記載の静脈パターン取得装置。 The vein pattern acquisition device further includes a vein pixel estimation unit that estimates pixels corresponding to veins existing inside the living body from the imaging data of the unstructured near infrared light,
The image comparison unit has a pixel corresponding to the vein included in the unstructured near-infrared imaging data, and a maximum pixel value included in the structured near-infrared imaging data. The vein pattern acquisition apparatus according to claim 2, wherein a correspondence relationship with a pixel rewritten to a value is determined.
前記光源部は、前記明部および前記暗部に該当する部分の面積、ならびに、前記明部および前記暗部の配列順序が互いに異なる複数の前記照射パターンを、順次照射する、請求項1に記載の静脈パターン取得装置。 The structured near-infrared light is composed of an irradiation pattern in which strip-shaped bright portions irradiated with near-infrared light and strip-shaped dark portions not irradiated with near-infrared light are alternately arranged,
2. The vein according to claim 1, wherein the light source unit sequentially irradiates a plurality of the irradiation patterns having different areas corresponding to the bright part and the dark part, and different arrangement orders of the bright part and the dark part. Pattern acquisition device.
前記光源制御部は、前記アレイ状光源を構成するそれぞれの前記光源の点灯制御を行う、請求項4または5に記載の静脈パターン取得装置。 The light source unit is an array light source in which a plurality of light sources capable of irradiating near infrared light are arranged in an array,
The vein pattern acquisition apparatus according to claim 4 or 5, wherein the light source control unit performs lighting control of each of the light sources constituting the array light source.
前記光源制御部は、前記ライン状光源を構成するそれぞれの前記光源の点灯制御を行う、請求項4または5に記載の静脈パターン取得装置。 The light source unit is a line light source in which a plurality of light sources capable of irradiating near infrared light are arranged in a line shape,
The vein pattern acquisition apparatus according to claim 4 or 5, wherein the light source control unit performs lighting control of each of the light sources constituting the linear light source.
前記光源制御部は、前記光学フィルタの挿入制御を行う、請求項5に記載の静脈パターン取得装置。 The light source unit further includes an optical filter designed to make the combination of the light and dark states unique.
The vein pattern acquisition apparatus according to claim 5, wherein the light source control unit performs insertion control of the optical filter.
前記三次元情報算出部は、前記パラメータを用いて前記静脈の三次元情報を算出する、請求項1に記載の静脈パターン取得装置。 The vein pattern acquisition apparatus further includes a storage unit in which parameters for associating a spatial coordinate system and a coordinate system in the imaging data are recorded,
The vein pattern acquisition apparatus according to claim 1, wherein the three-dimensional information calculation unit calculates the three-dimensional information of the vein using the parameter.
前記生体の一部を撮像し、前記構造化されていない近赤外光による撮像データを生成するステップと、
前記光源部を制御して、前記構造化された近赤外光を前記生体の一部に対して照射するステップと、
前記生体の一部を撮像し、前記構造化された近赤外光による撮像データを生成するステップと、
前記構造化された近赤外光による撮像データと、前記構造化されていない近赤外光による撮像データとを比較し、前記構造化された近赤外光による撮像データと前記構造化されていない近赤外光による撮像データとの間における画素の対応関係を判断するステップと、
前記画素の対応関係に基づいて前記生体の内部に存在する静脈の三次元情報を算出し、当該三次元情報を静脈パターンとするステップと、
を含む、静脈パターン取得方法。 A light source unit that irradiates a part of the living body with structured near-infrared light and unstructured near-infrared light, respectively, and controls the unstructured near-infrared light to be emitted from the living body. Irradiating a part of
Imaging a part of the living body and generating imaging data by the unstructured near-infrared light; and
Controlling the light source unit to irradiate a part of the living body with the structured near-infrared light; and
Imaging a part of the living body and generating imaging data by the structured near infrared light; and
The structured near-infrared imaging data and the unstructured near-infrared imaging data are compared, and the structured near-infrared imaging data and the structured data are compared. Determining the correspondence of the pixels with the imaging data with no near infrared light; and
Calculating three-dimensional information of veins present inside the living body based on the correspondence relationship of the pixels, and setting the three-dimensional information as a vein pattern;
Including a vein pattern acquisition method.
Collation with three-dimensional information of veins existing inside the living body calculated based on image data obtained by imaging a part of the living body with each of structured near-infrared light and unstructured near-infrared light A vein template comprising a vein data storage area in which three-dimensional vein information corresponding to a personal vein pattern is stored.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008204230A JP5056662B2 (en) | 2008-08-07 | 2008-08-07 | Subcutaneous pattern acquisition device, subcutaneous pattern acquisition method, and structure template |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008204230A JP5056662B2 (en) | 2008-08-07 | 2008-08-07 | Subcutaneous pattern acquisition device, subcutaneous pattern acquisition method, and structure template |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010039912A true JP2010039912A (en) | 2010-02-18 |
JP2010039912A5 JP2010039912A5 (en) | 2011-08-18 |
JP5056662B2 JP5056662B2 (en) | 2012-10-24 |
Family
ID=42012363
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008204230A Expired - Fee Related JP5056662B2 (en) | 2008-08-07 | 2008-08-07 | Subcutaneous pattern acquisition device, subcutaneous pattern acquisition method, and structure template |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5056662B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160070948A1 (en) * | 2013-05-10 | 2016-03-10 | Iris-Gmbh Infrared & Intelligent Sensors | Sensor system and method for recording a hand vein pattern |
JP2017091574A (en) * | 2011-10-10 | 2017-05-25 | インヴィサージ テクノロジーズ インコーポレイテッドInvisage Technologies,Inc. | Capture of events in space and time |
JP2018089369A (en) * | 2016-12-01 | 2018-06-14 | パナソニックIpマネジメント株式会社 | Biological information detecting device |
CN111970971A (en) * | 2018-05-30 | 2020-11-20 | 松下知识产权经营株式会社 | Identification device and identification method |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0498111A (en) * | 1990-08-17 | 1992-03-30 | Shiseido Co Ltd | Three-dimensional shape measuring device |
JPH07260451A (en) * | 1994-03-18 | 1995-10-13 | Shiseido Co Ltd | Three dimensional shape measuring system |
JPH1114327A (en) * | 1997-06-25 | 1999-01-22 | Matsushita Electric Works Ltd | Three-dimensional shape measuring method and device therefor |
JP2003256840A (en) * | 2002-02-27 | 2003-09-12 | Ricoh Co Ltd | Authentication device, action authenticating system, copying device, and delivery/collection authenticating system |
JP2003331270A (en) * | 2002-05-09 | 2003-11-21 | Sony Corp | Bio-pattern detecting means, bio-pattern detecting device, biometrics method and biometrics device |
JP2005353014A (en) * | 2004-05-14 | 2005-12-22 | Sony Corp | Imaging device |
JP2006215975A (en) * | 2005-02-07 | 2006-08-17 | Mitsubishi Electric Corp | Fingerprint verification device |
JP2008123312A (en) * | 2006-11-14 | 2008-05-29 | Matsushita Electric Ind Co Ltd | Vein image collation device, and personal identification device and personal identification system using the same |
-
2008
- 2008-08-07 JP JP2008204230A patent/JP5056662B2/en not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0498111A (en) * | 1990-08-17 | 1992-03-30 | Shiseido Co Ltd | Three-dimensional shape measuring device |
JPH07260451A (en) * | 1994-03-18 | 1995-10-13 | Shiseido Co Ltd | Three dimensional shape measuring system |
JPH1114327A (en) * | 1997-06-25 | 1999-01-22 | Matsushita Electric Works Ltd | Three-dimensional shape measuring method and device therefor |
JP2003256840A (en) * | 2002-02-27 | 2003-09-12 | Ricoh Co Ltd | Authentication device, action authenticating system, copying device, and delivery/collection authenticating system |
JP2003331270A (en) * | 2002-05-09 | 2003-11-21 | Sony Corp | Bio-pattern detecting means, bio-pattern detecting device, biometrics method and biometrics device |
JP2005353014A (en) * | 2004-05-14 | 2005-12-22 | Sony Corp | Imaging device |
JP2006215975A (en) * | 2005-02-07 | 2006-08-17 | Mitsubishi Electric Corp | Fingerprint verification device |
JP2008123312A (en) * | 2006-11-14 | 2008-05-29 | Matsushita Electric Ind Co Ltd | Vein image collation device, and personal identification device and personal identification system using the same |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017091574A (en) * | 2011-10-10 | 2017-05-25 | インヴィサージ テクノロジーズ インコーポレイテッドInvisage Technologies,Inc. | Capture of events in space and time |
US20160070948A1 (en) * | 2013-05-10 | 2016-03-10 | Iris-Gmbh Infrared & Intelligent Sensors | Sensor system and method for recording a hand vein pattern |
JP2016522487A (en) * | 2013-05-10 | 2016-07-28 | イーリス−ゲゼルシャフト ミット ベシュレンクテル ハフツング インフラレッド アンド インテリジェント センサーズ | Sensor system and method for recording hand vein patterns |
JP2018089369A (en) * | 2016-12-01 | 2018-06-14 | パナソニックIpマネジメント株式会社 | Biological information detecting device |
JP7065361B2 (en) | 2016-12-01 | 2022-05-12 | パナソニックIpマネジメント株式会社 | Biological information detector |
US11490825B2 (en) | 2016-12-01 | 2022-11-08 | Panasonic Intellectual Property Management Co., Ltd. | Biological information detection apparatus that includes a light source projecting a near-infrared pattern onto an object and an imaging system including first photodetector cells detecting near-infrared wavelength light and second photodetector cells detecting visible wavelength light |
CN111970971A (en) * | 2018-05-30 | 2020-11-20 | 松下知识产权经营株式会社 | Identification device and identification method |
Also Published As
Publication number | Publication date |
---|---|
JP5056662B2 (en) | 2012-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4748199B2 (en) | Vein imaging apparatus and vein imaging method | |
JP5292821B2 (en) | Vein image acquisition device and vein image acquisition method | |
US11263432B2 (en) | Systems and methods for performing fingerprint based user authentication using imagery captured using mobile devices | |
JP5326792B2 (en) | Vein imaging device, positional deviation interpolation method and program | |
JP6650946B2 (en) | System and method for performing fingerprint-based user authentication using images captured with a mobile device | |
KR102561723B1 (en) | System and method for performing fingerprint-based user authentication using images captured using a mobile device | |
US20180165508A1 (en) | Systems and methods for performing fingerprint based user authentication using imagery captured using mobile devices | |
JP4636140B2 (en) | Vein imaging device, vein imaging method, and vein authentication device | |
Lee | A novel biometric system based on palm vein image | |
JP5024067B2 (en) | Face authentication system, method and program | |
JP6089872B2 (en) | Image correction apparatus, image correction method, and biometric authentication apparatus | |
JP5326793B2 (en) | Vein imaging device, vein image interpolation method and program | |
JP5130885B2 (en) | Information processing apparatus, information processing method, and program | |
JP6532642B2 (en) | Biometric information authentication apparatus and biometric information processing method | |
JP2008287428A (en) | Vein pattern management system, vein pattern registering device, vein pattern authentication device, vein pattern registering method, vein pattern authentication method, program, and vein data structure | |
JP5556663B2 (en) | Verification device, verification method, and program | |
CN113782159A (en) | Medical image marking point matching method and device, electronic equipment and storage medium | |
JP2010240215A (en) | Vein depth determination apparatus, vein depth determination method and program | |
JP2009282706A (en) | Vein authentication device and vein authentication method | |
JP5056662B2 (en) | Subcutaneous pattern acquisition device, subcutaneous pattern acquisition method, and structure template | |
JP2008287432A (en) | Vein pattern management system, vein pattern registering device, vein pattern authentication device, vein pattern registering method, vein pattern authentication method, program, and vein data structure | |
Panetta et al. | Unrolling post-mortem 3D fingerprints using mosaicking pressure simulation technique | |
JP5923524B2 (en) | Biometric authentication device, blood vessel imaging device, and method | |
JP2008287436A (en) | Vein pattern management system, vein pattern registering device, vein pattern authentication device, vein pattern registering method, vein pattern authentication method, program, and vein data structure | |
JP2010181970A (en) | Equipment for biometric identification, biometric identification device, biometric identification system, discrimination reference determination method, biometric identification method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110704 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110704 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120417 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120606 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120703 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120716 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150810 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5056662 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150810 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |