JP2017522624A - 極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法 - Google Patents

極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法 Download PDF

Info

Publication number
JP2017522624A
JP2017522624A JP2016551243A JP2016551243A JP2017522624A JP 2017522624 A JP2017522624 A JP 2017522624A JP 2016551243 A JP2016551243 A JP 2016551243A JP 2016551243 A JP2016551243 A JP 2016551243A JP 2017522624 A JP2017522624 A JP 2017522624A
Authority
JP
Japan
Prior art keywords
fingerprint
feature point
value
information processing
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016551243A
Other languages
English (en)
Other versions
JP6361942B2 (ja
Inventor
ベクボム ピョン
ベクボム ピョン
ウテク イム
ウテク イム
ソンチャン パク
ソンチャン パク
ジェハン キム
ジェハン キム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Crucialtec Co Ltd
Original Assignee
Crucialtec Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Crucialtec Co Ltd filed Critical Crucialtec Co Ltd
Publication of JP2017522624A publication Critical patent/JP2017522624A/ja
Application granted granted Critical
Publication of JP6361942B2 publication Critical patent/JP6361942B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1347Preprocessing; Feature extraction
    • G06V40/1353Extracting features related to minutiae or pores
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1347Preprocessing; Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Collating Specific Patterns (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)

Abstract

一実施形態によれば、極少指紋センシング領域を含む電子装置の指紋情報プロセッシング方法であって、前記指紋センシング領域から指紋イメージを得るステップと、周辺ピクセルとの濃淡差値として定義される濃淡変化値を前記指紋イメージの各ピクセルに対して算出するステップと、前記濃淡変化値が閾値以上の地点を特徴点の候補として選定するステップと、前記特徴点の候補とその周辺ピクセルを含む領域とに、ノイズフィルタリングのための人為的歪みを加えるステップと、前記特徴点の候補のうちの人為的歪み後の濃淡変化値が閾値範囲内に属する候補を最終的特徴点として選定するステップと、を含む指紋情報プロセッシング方法が提供される。【選択図】図5

Description

本発明は、極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法に関し、より詳しくは、極めて小さい領域の指紋センシングだけでも正確な指紋登録及び認証が可能な装置及び方法に関する。
指紋の模様は個人ごとに異なるため、個人識別分野において多く用いられる。特に、指紋は個人認証手段として、金融、犯罪捜査、セキュリティなどの多様な分野で広く用いられる。
このような指紋を認識して個人を識別するために指紋センサが開発された。指紋センサは、人の指を接触して指紋を認識する装置であって、正当な使用者であるか否かを判断する手段として活用されている。
指紋認識センサを実現する方式としては、光学方式、熱感知方式及び静電容量方式などの多様な認識方式が知られている。このうち、静電容量方式の指紋認識センサは人の指表面が導電性感知パターンに接触される際に、指紋の溝と床状による静電容量の変化を検出することで、指紋の模様(指紋パターン)を取得する。
最近は、携帯用装置を介して、電話、ショートメッセージサービス(shot message service、SMS)の伝送サービスのような通信機能だけでなく、金融、セキュリティなどの個人情報が活用される多様な付加機能が提供されており、携帯用装置のロック装置に対する必要性がより大きく浮かび上がっている。このような携帯用装置のロック効果を向上させるために、指紋認識によるロック装置を装着した端末機が本格的に開発されている。
図1は、携帯用装置、例えば、スマートフォンに指紋センサを装着した一例を示す。
まず、図1の(a)に示すように、スマートフォン10は、タッチスクリーン方式として、入力部の機能を同時に果たす表示部11を有していて、指紋センサ12はその下部領域に装着される。指紋センサ12は、スマートフォン10本体の下端に形成され、表示部11の画面をホーム(home)に移動させるホームキーと共に実現される。
次に、図1の(b)に示すスマートフォン20も、表示部21の下部領域に指紋センサ22がホームキーと共に装着されている。
指紋センサ12、22を装着することで、スマートフォン10、20には表示部11、21外の領域、すなわち、非表示領域が必要となる。このような非表示領域に指紋センサ12、22を装着することになるが、図1の(a)に示す指紋センサ12の占める面積が、図1の(b)に示す指紋センサ22の占める面積よりも大きいので、図1の(a)に示すスマートフォン10の非表示領域の高さh1が図1の(b)に示すスマートフォン20の非表示領域の高さh2よりも相対的により大きくなる。
指紋検出方式は、大きくタッチ方式(または、エリア(area)方式)とスワイプ(swipe)方式に分類されるが、通常、図1の(a)に示すような指紋センサ12にはタッチ方式が適用され、図1の(b)に示すような指紋センサ22にはスワイプ方式が適用される。
タッチ方式は、指紋センサ12に所定時間指を接触させると、当該指紋センシング面積から指紋イメージを取得する方式である。一方、スワイプ方式は、指紋センサ22に指をスライディング方式で動かせると、指紋センサ22がその上で動く指の指紋をセンシングして断片的な指紋画像を読み込んだ後、これらを1つの画像として整合して完全な指紋イメージを取得する方式である。
スワイプ方式は、指紋検出時に指が接触する方向と速度などを計算し、指紋検出に考慮しなければならない制約はあるが、図1の(b)に示すように、指紋センサ22の占める面積が狭いという長所がある。
一方、タッチ方式は、制限された面積で十分な指紋イメージを取得しなければならないため、図1の(a)に示すように、一定大きさ以上の指紋センシング面積を確保しなければならない。さらに、一度のタッチだけでは十分な指紋イメージを取得することができないので、最小限10回以上のタッチによる指紋センシングを介して指紋イメージを取得しなければならない。
最近は、スマートフォンが軽薄短小化される傾向であって、表示部の面積は使用者の便宜性のために最大化することが好ましいので、結局、指紋センサ12、22が装着される非表示領域を最小化にすることが必須となった。
したがって、指紋登録及び指紋認証時に使用者の便宜性を増進させ、指紋検出装置を装着する、非表示領域を縮小させるようにし、非表示領域が縮小されても最小限のセンシング領域だけで、精度の高い指紋登録及び認証が可能な技術が必要である。
本発明は、上述の従来技術の問題点を解決するためのものであって、その目的は、極小センシング領域を介して得られた指紋イメージであるとしても指紋の特徴情報を取得し、これを用いて正確性の高い指紋認証を実行することができるようにする。
上述の目的を達成するための本発明の一実施形態によれば、極小指紋センシング領域を含む電子装置の指紋情報プロセッシング方法であって、前記指紋センシング領域から指紋イメージを取得するステップと、周辺ピクセルとの濃淡差値として定義される濃淡変化値を前記指紋イメージの各ピクセルに対して算出するステップと、前記濃淡変化値が閾値以上の地点を特徴点の候補として選定するステップと、前記特徴点の候補とその周辺ピクセルを含む領域に、ノイズフィルタリングのための人為的歪みを加えるステップと、前記特徴点の候補のうちの人為的歪み後の濃淡変化値が閾値範囲内に属する候補を最終的な特徴点として選定するステップと、を含む指紋情報プロセッシング方法が提供される。
前記指紋情報プロセッシング方法は、前記最終的な特徴点を予め登録された指紋の特徴点と比較して指紋認証を行うステップをさらに含むことができる。
前記指紋認証の実行ステップは、前記最終的な特徴点における濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値を、前記予め登録された指紋の特徴点の濃淡変化ベクトル値と比較するステップを含むことができる。
前記指紋認証の実行ステップは、前記比較ステップ以前に、前記最終的な特徴点と予め登録された指紋の特徴点の位置とを比較して比較対象部分を選定するステップをさらに含むことができる。
前記指紋情報プロセッシング方法は、前記最終的な特徴点の各濃淡変化値及び相互間位置情報をテンプレート化して保存するステップをさらに含むことができる。
前記指紋情報プロセッシング方法は、前記最終的な特徴点の濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値及び特徴点の種類のうち少なくとも1つを保存するステップをさらに含むことができる。
前記人為的歪みを加えるステップは、前記特徴点の候補とその周辺のピクセルを含む領域にガウシアンフィルタを適用するステップを含むことができる。
一方、本発明の他の実施形態によれば、極小指紋センシング領域に接触した指の指紋をスキャニングして指紋イメージを取得する指紋センサと、周辺ピクセルとの濃淡差値として定義される濃淡変化値を前記指紋イメージの各ピクセルに対して算出して閾値以上の地点を特徴点の候補として選定し、前記特徴点の候補のうちのノイズフィルタリングのための人為的歪み後の濃淡変化値が閾値範囲内に属する候補を最終的な特徴点として選定する情報処理装置と、を含む電子装置が提供される。
前記情報処理装置は、前記最終的な特徴点における濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値を予め登録された指紋の特徴点の濃淡変化ベクトル値と比較して指紋認証を実行する指紋認証部を含むことができる。
前記情報処理装置は、前記最終的な特徴点の各濃淡変化値及び相互間位置情報をテンプレート化して保存する指紋登録部を含むことができる。
本発明の実施形態によれば、極小指紋センシング領域から抽出された指紋イメージから指紋の特徴情報を十分に抽出することができる。
本発明の実施形態によれば、狭い面積の指紋検出装置においてタッチ方式でセンシングされた指紋であっても、認証の正確性の向上を図ることができる。
携帯用装置、例えば、スマートフォンに指紋センサを装着した一例を示す図である。 本発明の一実施形態により指紋イメージを取得する過程を説明するための図である。 指紋イメージに存在するマニューシャを例示する図である。 本発明の一実施形態による指紋イメージの特徴情報を示す図である。 本発明の一実施形態による指紋イメージの特徴情報を抽出する過程を説明するための図である。 本発明の一実施形態による指紋イメージの特徴情報を例示する図である。v 本発明の一実施形態による指紋認証過程を説明するためのフローチャートである。 本発明の一実施形態による電子装置の構成を示す図である。
以下、添付の図面を参照しながら本発明を説明する。しかし、本発明は、多様な相違する形態で実現することができ、ここで説明する実施形態に限定されない。そして、図面において、本発明を明確に説明するために、説明と関係のない部分は省略し、明細書全体において類似する部分については類似の図面符号を付した。
明細書全体において、ある部分が他の部分と「連結」されているとした場合、これは「直接的に連結」されている場合だけでなく、その間に他の部材を介して「間接的に連結」されている場合も含む。また、ある部分がある構成要素を「含む」とする場合、これは特に反対となる記載がない限り、他の構成要素を除外するものではなく、他の構成要素をさらに備えられることを意味する。
以下、添付の図面を参考にして本発明の実施形態を詳しく説明する。
図2は、一般的な指紋イメージ取得方式を説明する図である。
上述のように、タッチ方式の指紋検出方式は、指紋センサの上に指を接触させると、指紋センサが当該領域の指紋イメージを取得することになる。
一方、スワイプ方式においては、図2に示すような原理で指紋イメージを取得することになる。
具体的に、使用者が図2に示すように、電子装置100の下端領域に備えられた指紋センサ110の上に指を接触させてスライディング方式で移動すると、連続的に部分的な断片画像P1〜P4が取得される。
すなわち、使用者の指紋画像が断片的であるが、互いに連続する形態で順次に取得される。指紋センサ110で読み込んだ断片指紋画像P1〜P4が1つの指紋画像に整合されて完全な指紋イメージとして取得される。
図3は、一般的な指紋イメージに存在するマニューシャ(minutiae)を示す図である。
図2を参照して説明したスワイプ方式またはタッチ方式で取得した指紋イメージ310は図3の(a)と同様である。
指の広い面積に対する指紋イメージを取得した場合には、当該指紋イメージにおいて指紋の特徴点、すなわち、指紋画像から発見される隆線の端(ridge end)や分岐点(bifurcation)等の細密な特徴点であるマニューシャ(minutiae)が存在し得る。この場合には、マニューシャの検出によって当該指紋イメージの特性情報を取得することができる。
しかし、指の局所領域に対する指紋イメージだけ取得得られた場合には、当該指紋イメージ内にマニューシャが存在しない場合もある。
例えば、図3の(b)に示すように、指紋の隆線(ridge)が単純に特定方向に配列されている指紋イメージだけが取得られる場合には、マニューシャを捜すことのできない指紋イメージが取得され得る。
本発明の実施形態においては、このようにマニューシャが存在しない指紋イメージから特徴情報を有する地点(以下、「特徴点」と言う)を探し出すために指紋イメージの濃淡(intensity)変化の特性を利用する。具体的に、周辺ピクセルとの濃淡差が閾値以上のピクセルを探し出してその指紋の特徴点として選定する。本明細書で特定ピクセルと周辺ピクセルとの濃淡差値を、当該ピクセルにおける「濃淡変化値」と称する。
図4は、本発明の実施形態に係る一般的なマニューシャが存在しない指紋イメージから特徴点を探し出すための方法を説明する図である。
具体的に、図4の(a)に示すように、指紋イメージには、単純に隆線が特定方向に配列されている。
しかし、これを拡大すると、隆線が均一な厚さを有せず、特徴的な模様を有していることが確認できる。例えば、図4の(b)のように、隆線の特定地点が外に突出している場合も有り、図4の(c)のように、隆線の特定地点が内側へ陥没している場合も有り得る。また、図4の(d)のように、毛穴(pore)により隆線の間に穴が形成されている場合もある。
図4の(b)、(c)、(d)に示された特徴は、指紋イメージにおける濃淡変化値と平均変化値との間の差を把握することで検出され得る。すなわち、図4の(b)、(c)、(d)において隆線またはその周辺での濃淡変化値が平均変化値に比べて如何に急激に変化したかに基づいて、その特徴点の存在可否を確認することができる。
例えば、均一な太さで羅列された隆線のイメージにおける濃淡変化値は、平均変化値に基づいて所定範囲を逸脱しないが、隆線において突出地点または陥没地点があったり、毛穴が形成されたりすると当該位置における濃淡変化値は大きくなる。
例えば、図4の(d)は均一な太さの隆線だけが存在する場合には、指紋イメージ全体において平均的な濃淡変化値だけを示すが、隆線の毛穴が存在する付近では当該地点における濃淡変化が激しくなるので、このような特徴に基づいて指紋イメージにおける特徴点を検出することができる。
さらに具体的に説明すると、指紋イメージにおける各ピクセルでは特定方向への濃淡変化値を求めることができる。
図4に示す各グラフを参照すると、多様な方向への濃淡変化値が特定のピクセルPについて求めることができる。
まず、図4の(b)に対するグラフを参照すると、第1ピクセルP1に対する第1軸方向への濃淡変化値と第2軸方向への濃淡変化値が同一であることが分かる。
次に、図4の(c)に対するグラフを参照すると、第2ピクセルP2に対する第1軸方向への濃淡変化値と第2軸方向への濃淡変化値が異なって、第2軸方向にも正の方向(図面上の右側下端方向)への濃淡変化値と負の方向への濃淡変化値が互いに異なることが分かる。
また、図4の(d)に対するグラフを参照すると、第3ピクセルP3に対する第1軸方向への濃淡変化値と第2軸方向への濃淡変化値が互いに異なることが分かる。
すなわち、それぞれのピクセルP1、P2、P3において、第1軸方向への濃淡変化値は類似のパターンを示すが、第1軸と垂直の第2軸方向へは濃淡変化値がそれぞれ異なるパターンを示す。
各ピクセルP1、P2、P3を通る方向は複数個で有り得、各方向への濃淡変化値を求めることができるので、各ピクセルにおける濃淡変化値の特徴により指紋の特徴点を検出することができる。
例えば、各ピクセルP1、P2、P3で複数方向に対する濃淡変化値を求めた後、絶対値が最も大きい濃淡変化値を示す方向を当該ピクセルの濃淡変化方向と定義することができる。しかし、これに制限されず、各ピクセルP1、P2、P3での濃淡変化値と濃淡変化方向は複数個に抽出され得る。濃淡変化値と濃淡変化方向に基づいて濃淡変化ベクトル値を定義することもでき、そのベクトル値を各特徴点の情報として活用することもできる。これについては、後でさらに詳しく説明する。
図5は、本発明の実施形態に係る指紋イメージの特徴点を検出する過程を説明するためのフローチャートである。
まず、図2を参照して説明した方法で取得した指紋イメージに対して各ピクセルを座標化する。そのために指紋イメージに含まれるピクセルのうちの任意のピクセルを基準ピクセルとして選定し、基準ピクセルの座標をX=0、Y=0とする(S510)。X=0、Y=0の座標を有するピクセルは、多様な実施形態により指紋イメージの最外角の端に位置するピクセルまたは中心部に位置するピクセルなどと指定され得るが、本発明の範囲がこれに制限されることではない。
基準ピクセルが選定されると、X、Y座標を増加させながら、各ピクセルに対して周辺ピクセルとの濃淡(intensity)差値を計算する(S520)。すなわち、指紋イメージに含まれる全体ピクセルでの濃淡変化値を計算する。上述のように、特定ピクセルでの濃淡変化値は、当該ピクセルと周辺ピクセルとの間の濃淡差値と定義することができる。一例として、基準ピクセルが指紋イメージの最左側下端ピクセルの場合には、X、Y座標を正の値に増加させて各ピクセルでの濃淡変化値を計算する。他の実施形態において、指紋イメージの縁領域ではないその他のピクセルの場合には、X、Y座標を正の値と負の値の両方に増加させて各ピクセルでの濃淡変化値を計算する。
ステップS510を行いながら、各ピクセルに対して算出した濃淡変化値(周辺ピクセルとの濃淡差値)が閾値t以内であるか否かを判断する(S530)。もし、濃淡変化値が閾値t以上を示すピクセルp(x、y)があるとしたら、当該ピクセルp(x、y)を当該指紋の特徴点の候補c(x、y)に含ませる(S540)。すなわち、周辺ピクセルとの濃淡差値である濃淡変化値が一定程度以上を示すピクセルを1次的に指紋の特徴点として選定する。特定ピクセルでの濃淡変化値は、当該ピクセルと周辺ピクセルとの間の濃淡差値であるので、正(+)の値または負(−)の値を有することが有り得るので、ステップS530では濃淡変化値の絶対値と閾値tとを比較することが好ましい。閾値tは、その値が小さいほどより多くの指紋特徴点を得ることができ、その値が大きいほど抽出される指紋特徴点の数が少なくなるので、設計に応じて適正な値で設定することができる。
もし、ステップS530の判断結果、当該ピクセルの濃淡変化値が閾値tを超えない場合及びステップS540の実行後には、指紋イメージの全てのピクセルに対してステップS520ないしステップS540を実行したか否かを判断する(S550)。全てのピクセルに対して実行しなかった場合、継続的にステップS520ないしステップS540を繰り返す。
指紋イメージの全てのピクセルに対してステップS520ないしステップS540を実行すると、指紋の特徴点の候補が全て抽出される。周辺ピクセルと比較する際、濃淡の差値が大きいと、指紋が当該地点で急激に形態的な変化を示すという意味となる。すなわち、指紋において、一般的な隆線及びその周辺部より著しく急激に形態的変化を発生させる地点であるため、ステップS540により指紋隆線の陥没、突出または毛穴などの特徴情報を抽出することができる。
指紋の特徴点の候補を全て抽出した後は、指紋特徴点の候補ピクセルc(x、y)を含む周辺イメージに人為的歪みを加える(S560)。
人為的歪みを加える理由は、ステップS540から抽出された特徴点の候補がノイズまたは一時的かつ局所的な変化によって閾値以上の濃淡変化を示したか否かを選り分けるためである。
人為的歪みは、一実施形態として、公知のガウスフィルタを用いたブラー(blur)効果などによって加えられるが、本発明の範囲はこれに限定されず、イメージのノイズフィルタリングに対する公知の他の技術を利用することもできる。
このような過程の後、特定ピクセルとその周辺領域のイメージに対して人為的歪みを加えた後にも、当該ピクセルでの濃淡変化値が有効な範囲の値であるか否かを判断し(S570)、そうでなければ、当該候補ピクセルc(x、y)を候補から外す(S580)。ステップS570は、人為的歪みを加えた後、当該候補ピクセルc(x、y)とその周辺ピクセルとの間の濃淡差値、すなわち、濃淡変化値を再び計算し、その差値が閾値範囲内に属するか否かを判断することにより成され得る。人為的歪みは、ノイズを除去するための過程であるので、人為的歪みにより指紋イメージにはノイズが消えることになる。ノイズが除去された指紋イメージにおいて、濃淡変化値が予測可能な範囲内にあるピクセルは指紋における特徴点になり得る。閾値範囲は、例えば、指紋の各地点が示す濃淡変化値に基づいて正規の分布を示す場合、その正規分布から修正の範囲を選択することができる。
全ての候補ピクセルc(x、y)の地点に対してステップS560ないしステップS580を実行したか否かを判断し(S590)、全ての候補ピクセルc(x、y)に対してステップS560ないしステップS580のテストを完了したら、人為的歪みを加えた後、有効範囲の濃淡変化値を有するピクセルc(x、y)を最終的な特徴点として登録する(S600)。
ステップS560ないしステップS600を実行した結果、指紋に存在する特徴点による濃淡変化でないノイズまたは異常な要因などにより閾値以上の濃淡変化値を示して、指紋の特徴点の候補に選定されていたピクセルが最終的な特徴点選定から外れることになる。
例えば、指紋イメージに含まれる全てのピクセルでの濃淡変化値に基づいて正規分布曲線を描いた場合、その正規分布からはみ出るピクセルが最終特徴点から除外され得る。
実施形態では、濃淡変化値が閾値以上のピクセルを指紋の特徴点として指定する。このような特徴点は、図3を参照して説明したマニューシャとは異なる。
一実施形態によれば、特徴点が有する情報には、当該地点における濃淡変化値及び濃淡変化方向が数値化されたベクトル情報が含まれる。前記濃淡変化方向は一方向でもよいが、複数個の方向であってもよい。例えば、第1方向へのA濃淡変化値または第2方向へのB濃淡変化値に数値化されたベクトル情報が含まれ得る。第1方向へはA濃淡変化値を有し、第2方向へはB濃淡変化値を有するという意味で2つ以上のベクトル情報が含まれ得る。
また、濃淡変化値及び濃淡変化方向と関連するベクトル情報、すなわち、濃淡変化ベクトル値に基づいて特徴点の種類(隆線に基づいて陥没地点、突出地点または毛穴地点など)をカテゴリ化すると当該特徴点がどのような種類であるか否かも識別することができ、このような情報が一緒に特徴点に関する情報に含まれ得る。
特徴点が最終的に全て抽出されると、当該特徴点の濃淡変化値、濃淡変化方向が数値化されたベクトル情報及び相互間位置情報がテンプレート化されて保存され得る。例えば、指紋イメージにおける特定地点を基準点とした場合、全ての特徴点の濃淡変化値及びその位置情報がテンプレート化されて保存され得る。前記特定地点は、最終的に抽出された特徴点のうちの1つでもよいが、その他の任意の地点であってもよい。
テンプレートは、複数回にわたって生成されて合成され得る。すなわち、使用者の指紋イメージ取得が複数回にわたって行われ、図5に示す各ステップが数回繰り返されることで、複数のテンプレートが生成され、このようなテンプレートがそれぞれ標準座標係として変換された後、1つのテンプレートに組み合わされることもできる。特徴点が十分に取得されなかった場合には、使用者に継続的に指紋登録要請をすることもできる。
図6は、図5を参照して説明した過程で登録された指紋の特徴点を示す図である。
図6に示すように、一般的なマニューシャ(例えば、隆線の端点または分岐点など)が存在しない極小面積(例えば、4mm×4mm)の指紋イメージ内で周辺ピクセルと特異な濃淡差値を有するピクセル地点、すなわち、特徴点が指紋登録及び認証をするのに十分な個数に抽出され得る。図6には、このような特徴点を円で表示した。
実施形態によれば、一般的な指紋特徴点であるマニューシャ(分岐点、島、端点など)がない極小領域の指紋イメージだとしても隆線に対するピクセルの濃淡変化値を用いて指紋の固有特徴を抽出することができる。よって、指紋センシングのための領域が縮小されて取得される指紋イメージの面積が極小面積だとしても、これにより指紋の固有情報抽出及びそれによる指紋認証が可能となる。
図7は、本発明の実施形態に係る指紋認証方法を説明するためのフローチャートである。
まず、指紋認証のために指が指紋センサに接触すると、指紋センサは指の接触を感知して指紋イメージ取得を開始する(S710)。図2を参照して説明したような方法で指紋イメージが取得できる。
指紋イメージが取得されると、当該指紋イメージの全てのピクセルを対象に周辺ピクセルとの濃淡差を計算し、これに基づいて濃淡変化値が大きい地点を特徴点として抽出する。すなわち、図5を参照して説明したものと同様の方式で、新規取得した指紋イメージから特徴点を抽出する(S720)。
一つ以上の特徴点の情報は、互いの位置情報がテンプレート化されて保存され得る。このような特徴点間の位置情報を予め登録された指紋の特徴点の位置情報と比較して、特徴点が指紋イメージのどの部分に該当するかを判断する(S730)。登録された指紋の特徴点がさらに広い範囲の指紋イメージから取得したものででもあり得、その反対でも有り得る。よって、ステップS730では、新規に取得した指紋の特徴点が予め登録された指紋の特徴点のうちのどの部分に該当するか否かを判断するか、逆に予め登録された指紋の特徴点が新規に取得した指紋の特徴点のうちのどの部分に該当するかを判断する。すなわち、新規取得した指紋の特徴点と予め登録された指紋の特徴点との間の比較すべき部分を探す過程を行う。指紋センシングにおいては、場合によって指紋イメージが弾力的に減少したり増加したりすることもあるので、1つの特徴点を中心として他の特徴点までの距離を放射状に絞ったり延ばしたりしながら比較作業を行うことができる。
ステップS730の実行結果、新規取得した指紋の特徴点と予め登録された指紋の特徴点との間の比較対象位置が選定されたら、各特徴点の濃淡変化ベクトル値の類似度を算出する(S740)。各特徴点の濃淡変化ベクトル値は、各特徴点における濃淡変化値及び濃淡変化方向を含む。すなわち、どの方向に濃淡変化値がどのくらい急激に変化したかを把握することができる情報が含まれる。よって、新規取得した指紋の特徴点と予め登録された指紋の特徴点との間に対応する位置に存在する特徴点の濃淡変化ベクトル値を互いに比較することによって、指紋の一致の可否、すなわち、指紋の類似度が算出できる。
特徴点間の濃淡変化ベクトル値の類似度が算出されると、当該類似度が類似閾値以上であるか否かを判断する(S750)。類似度とは、予め登録された指紋の特徴点のうちの第1特徴点の濃淡変化ベクトル値と新規取得した指紋の特徴点のうち、これに対応する第2特徴点の濃淡変化ベクトル値の類似度を意味するもので、両ベクトル値差の絶対値として定義され得る。一方、ここでの類似閾値はセキュリティ上要求されるレベルに応じて設定され得る。小さい類似度を示しても認証に成功したものと判断されたら、セキュリティレベルは低くなり、その反対の場合にはセキュリティレベルが高くなることなので、設定しようとするセキュリティレベルに応じて前記類似閾値は適正値として設定され得る。
類似度が類似閾値以上である場合には、指紋認証が成功したものと判断し(S760)、そうでない場合には、指紋認証が失敗したものと判断する(S770)。
実施形態によれば、極小面積の指紋イメージだけでも指紋特徴点の抽出及びそれによる指紋認証が可能なので、指紋センシングのための面積が縮小されて取得される指紋イメージの面積が狭くても、指紋の登録及び認証が可能となる。
また、極小面積の指紋イメージだけでも特徴点の抽出及び他の特徴点間の比較が可能であるため、指紋登録と認証時に互いに異なる方式による指紋イメージ取得も可能となる。例えば、指紋登録時には、タッチ方式を介して指紋イメージを取得し、指紋認証時には、スワイプ方式によって指紋イメージを取得することも可能であり、その反対の場合も可能となる。
図8は、本発明の実施形態に係る電子装置の構成を示すブロック図である。
図8に示すように、実施形態に係る電子装置800は、指紋センサ810及び情報処理装置820を含む。
一実施形態に係る電子装置800は、使用者入力により所定の動作を行うデジタル機器として、パソコン、ワークステーション、PDA、ウェブパッド、移動電話機、ナビゲーションなどのように、メモリ手段を備え、マイクロプロセッサを搭載して演算能力を備えたデジタル機器であれば、いずれものものも本発明による電子装置800として採択され得る。
指紋センサ810は、電子装置800の一部の領域に形成される。一例として、指紋センサ810は電子装置800の前面に位置するが、多様な実施形態により電子装置800の側面、背面、または表示部825の表面に形成し得ることは言うまでもない。
一実施形態に係る指紋センサ810は。指紋センシング部811、信号処理部812及び信号送受信部813を含む。
指紋センシング部811は、指の接触を感知し、接触された指の指紋をスキャニングすることで指紋イメージを取得する部分である。指紋センシング部811は、静電容量方式、光学方式、圧力方式、熱感知方式など、その他公知である多様な方式で指紋をスキャニングすることができる。実施形態によれば、指紋センシング部811は、スワイプ方式及びタッチ方式を混用して指紋センシングを行うことができる。例えば、指紋登録時には、スワイプ方式により指紋イメージを取得した後指紋の特徴点を抽出し、指紋認証時には、タッチ方式により指紋イメージを取得した後指紋の特徴点を抽出することができ、その逆に行うこともできる。
信号処理部812は、指紋センシング部811により既設定された周期(速度)でスキャニングされる指紋イメージフレームを信号処理する。例えば、指紋イメージを電気的信号に変換するアナログ回路、ノイズ除去回路、信号感度増幅回路、アナログ−デジタル信号変換回路、デジタル回路などを含むことができる。信号処理部812は、ASIC形態で指紋センシング部811と別途または統合して実現することができる。
信号送受信部813は、指紋イメージに対する電気的信号、すなわち、信号処理部812からの出力信号を情報処理装置820に伝送して情報処理装置820からの信号(例えば、電源信号、制御信号、登録済の指紋に対するデータ信号など)を受信する。信号送受信部813は、I2C方式またはSPI方式のインターフェースが用いられる。
情報処理装置820は、制御部821、メモリ部822、指紋登録部823、指紋認証部824及び表示部825を含む。説明の便宜のために、電子装置800のうちの指紋センサ810を除いた残りの構成要素は情報処理装置820として示すが、情報処理装置820の構成は図示の構成要素に限定されず、実施形態によってオーディオ、タッチ検出部などの多様な構成要素が付加され得る。
制御部821は、指紋センサ810及び情報処理装置820の全般的な動作を制御する。
メモリ部822は、指紋イメージまたはその特徴点情報をテンプレート形態に、一時的または永久的に保存する。また、メモリ部822は、電子装置800のデータ、ファームウエア情報などを保存する。メモリ部822は、S−RAM、D−RAMのような揮発性メモリ、ROM、フラッシュメモリなどの不揮発性メモリなどで実現され得る。
指紋登録部823は、図5を参照して説明したような過程により指の指紋イメージにおける特徴点を抽出し、これを指紋情報として登録する。登録した指紋情報はメモリ部822に保存される。
指紋認証部824は、図7を参照して説明したような過程により、メモリ部822に保存された指紋情報と現在取得した指紋イメージの特徴情報とを比較して指紋認証を実行する。
指紋登録部823と指紋認証部824は、図8で別途の構成要素として図示したが、これは統合して1つのモジュールとして実現することもできる。指紋登録部823と指紋認証部824は、プログラムモジュールの形態で、制御部811またはメモリ部812の特定領域にアルゴリズム形態に保存することができる。これらは高いセキュリティレベルに暗号化されて他のルートからの接近、修正または指紋情報の搬出が許容されないように管理することが好ましい。
表示部825は、電子装置800の動作状況またはさらなる他の情報を表示することができる。一実施形態に係る表示部825は、指紋登録部823及び指紋認証部824の動作状態(例えば、登録成功の可否、認証成功の可否などの情報)を表示することができる。
上述の本発明の説明は例示のためのものであって、本発明が属する技術分野の通常の知識を有する者は本発明の技術的思想や必須的な特徴を変更せず、他の具体的な形態で容易に変形可能であることを理解することができる。よって、以上で記述した実施形態は、全ての面から例示的なものであり、限定のないものとして理解すべきである。例えば、単一型で説明している各構成要素は分散して実施してもよく、同様に、分散したものとして説明されている構成要素も結合した形態で実施してもよい。
本発明の範囲は、後述する特許請求の範囲により示され、特許請求の範囲の意味及び範囲、そして、その均等概念から導出される全ての変更または変形された形態が本発明の範囲に含まれるものとして解釈すべきである。

Claims (10)

  1. 極小指紋センシング領域を含む電子装置の指紋情報プロセッシング方法であって、
    前記指紋センシング領域から指紋イメージを取得するステップと、
    周辺ピクセルとの濃淡差値として定義される濃淡変化値を前記指紋イメージの各ピクセルに対して算出するステップと、
    前記濃淡変化値が閾値以上の地点を特徴点の候補として選定するステップと、
    前記特徴点の候補とその周辺ピクセルを含む領域にノイズフィルタリングのための人為的歪みを加えるステップと、
    前記特徴点の候補のうちの人為的歪み後の濃淡変化値が閾値範囲内に属する候補を最終的な特徴点として選定するステップと、を含む、指紋情報プロセッシング方法。
  2. 前記最終的な特徴点を予め登録された指紋の特徴点と比較して指紋認証を実行するステップをさらに含む、請求項1に記載の指紋情報プロセッシング方法。
  3. 前記指紋認証の実行ステップは、
    前記最終的な特徴点における濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値を前記予め登録された指紋の特徴点の濃淡変化ベクトル値と比較するステップを含む、請求項2に記載の指紋情報プロセッシング方法。
  4. 前記指紋認証の実行ステップは、
    前記比較するステップ以前に、前記最終的な特徴点と予め登録された指紋の特徴点の位置を比較して比較対象部分を選定するステップをさらに含む、請求項3に記載の指紋情報プロセッシング方法。
  5. 前記最終的な特徴点の各濃淡変化値及び相互間位置情報をテンプレート化して保存するステップをさらに含む、請求項1に記載の指紋情報プロセッシング方法。
  6. 前記最終的な特徴点の濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値及び特徴点の種類の少なくとも1つを保存するステップをさらに含む、請求項1に記載の指紋情報プロセッシング方法。
  7. 前記人為的歪みを加えるステップは、
    前記特徴点の候補とその周辺ピクセルを含む領域にガウスフィルタを適用するステップを含む、請求項1に記載の指紋情報プロセッシング方法。
  8. 極小指紋センシング領域に接触した指の指紋をスキャニングして指紋イメージを取得する指紋センサと、
    周辺ピクセルとの濃淡差値として定義される濃淡変化値を前記指紋イメージの各ピクセルに対して算出して閾値以上の地点を特徴点の候補として選定し、前記特徴点の候補のうちのノイズフィルタリングのための人為的歪み後の濃淡変化値が閾値範囲内に属する候補を最終的な特徴点として選定する情報処理装置と、を含む、電子装置。
  9. 前記情報処理装置は、
    前記最終的な特徴点における濃淡変化値及び濃淡変化方向を含む濃淡変化ベクトル値を予め登録された指紋の特徴点の濃淡変化ベクトル値と比較して指紋認証を実行する指紋認証部を含む、請求項8に記載の電子装置。
  10. 前記情報処理装置は、
    前記最終的な特徴点の各濃淡変化値及び相互間位置情報をテンプレート化して保存する指紋登録部を含む、請求項8に記載の電子装置。
JP2016551243A 2014-02-14 2014-06-11 極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法 Active JP6361942B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2014-0017512 2014-02-14
KR20140017512 2014-02-14
KR10-2014-0065418 2014-05-29
KR1020140065418A KR101529033B1 (ko) 2014-02-14 2014-05-29 극소 센싱 영역을 포함하는 전자 장치 및 이의 지문 정보 프로세싱 방법
PCT/KR2014/005102 WO2015122577A1 (ko) 2014-02-14 2014-06-11 극소 센싱 영역을 포함하는 전자 장치 및 이의 지문 정보 프로세싱 방법

Publications (2)

Publication Number Publication Date
JP2017522624A true JP2017522624A (ja) 2017-08-10
JP6361942B2 JP6361942B2 (ja) 2018-07-25

Family

ID=53519060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016551243A Active JP6361942B2 (ja) 2014-02-14 2014-06-11 極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法

Country Status (6)

Country Link
US (1) US9858465B2 (ja)
EP (1) EP3107037B8 (ja)
JP (1) JP6361942B2 (ja)
KR (1) KR101529033B1 (ja)
CN (1) CN105993023B (ja)
WO (1) WO2015122577A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054177A1 (ja) * 2019-09-18 2021-03-25 ソニー株式会社 情報処理装置および情報処理方法

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9519819B2 (en) * 2014-07-14 2016-12-13 Fingerprint Cards Ab Method and electronic device for noise mitigation
CN106233306B (zh) * 2014-09-06 2019-09-27 深圳市汇顶科技股份有限公司 在移动设备上注册和识别指纹配置文件的方法及移动设备
SE1550411A1 (en) * 2015-04-07 2016-10-08 Fingerprint Cards Ab Electronic device comprising fingerprint sensor
US10599903B2 (en) * 2015-06-26 2020-03-24 Lenovo (Beijing) Limited Information processing method and electronic device
JP6578843B2 (ja) * 2015-09-18 2019-09-25 富士通株式会社 システム、装置、方法およびプログラム
KR101639986B1 (ko) * 2015-10-07 2016-07-15 크루셜텍 (주) 지문 등록 및 인증 속도 향상을 위한 지문 정보 프로세싱 방법 및 그 장치
CN108021912B (zh) * 2015-10-19 2021-06-29 Oppo广东移动通信有限公司 一种指纹识别的方法和装置
SE1551620A1 (en) * 2015-12-10 2017-06-11 Fingerprint Cards Ab Method and system for estimating finger movement with selection of navigation subareas
CN107091704B (zh) * 2016-02-17 2020-10-09 北京小米移动软件有限公司 压力检测方法和装置
CN105956448B (zh) * 2016-05-27 2017-11-24 广东欧珀移动通信有限公司 一种指纹解锁方法、装置及用户终端
KR102625444B1 (ko) 2016-08-03 2024-01-15 삼성전자주식회사 반도체 장치
KR102373566B1 (ko) * 2016-09-23 2022-03-14 삼성디스플레이 주식회사 표시 장치
KR102552312B1 (ko) * 2016-10-11 2023-07-07 삼성전자 주식회사 복수의 지문 센싱 모드를 갖는 전자 장치 및 그 제어 방법
KR20180046679A (ko) * 2016-10-28 2018-05-09 삼성전자주식회사 지문 인식 방법 및 이를 포함하는 전자 기기
KR102070407B1 (ko) 2017-01-31 2020-01-28 삼성전자주식회사 전자장치 및 이를 사용하여 디스플레이에 연동된 생체 센서의 제어 방법
US10354116B2 (en) * 2017-07-06 2019-07-16 Synaptics Incorporated Optical fingerprint sensor with scattered light image detection
KR20190095005A (ko) * 2018-02-06 2019-08-14 주식회사 하이딥 터치입력장치의 블랙화면모드에서 압력으로 인한 지문 센싱 방법 및 터치입력장치
KR102658176B1 (ko) * 2018-04-24 2024-04-18 삼성디스플레이 주식회사 표시장치
CN111461016A (zh) * 2020-04-01 2020-07-28 联想(北京)有限公司 残迹确定方法、装置和电子设备
US11687708B2 (en) * 2021-09-27 2023-06-27 Microsoft Technology Licensing, Llc Generator for synthesizing templates

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02196380A (ja) * 1989-01-25 1990-08-02 Nippondenso Co Ltd 指紋登録装置
JPH0554129A (ja) * 1991-04-24 1993-03-05 Fujitsu Ltd 疑似特徴点識別方法
JPH06131446A (ja) * 1992-05-15 1994-05-13 Matsumura Electron:Kk 指紋照合装置及び指紋照合方法
JP2002297549A (ja) * 2001-03-30 2002-10-11 Fujitsu Ltd 本人認証システム及びプログラム
US20130136327A1 (en) * 2010-08-12 2013-05-30 Nec Corporation Image processing apparatus, image processing method, and image processing program

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5659626A (en) * 1994-10-20 1997-08-19 Calspan Corporation Fingerprint identification system
US6289112B1 (en) * 1997-08-22 2001-09-11 International Business Machines Corporation System and method for determining block direction in fingerprint images
KR20000034228A (ko) * 1998-11-28 2000-06-15 김영환 웨이블랫의 방향정보를 이용한 지문인식 방법
US7072523B2 (en) * 2000-09-01 2006-07-04 Lenovo (Singapore) Pte. Ltd. System and method for fingerprint image enhancement using partitioned least-squared filters
JP4649750B2 (ja) * 2001-03-06 2011-03-16 ソニー株式会社 指紋照合方法および装置
JP2003044856A (ja) * 2001-07-30 2003-02-14 Dds:Kk 指紋照合装置、指紋照合方法及び指紋照合プログラム
US8538095B2 (en) * 2003-06-21 2013-09-17 Aprilis, Inc. Method and apparatus for processing biometric images
KR20050094228A (ko) * 2004-03-22 2005-09-27 엘지전자 주식회사 지문 인식 방법
KR100698723B1 (ko) * 2005-06-20 2007-03-23 포스데이타 주식회사 지문 중심점 부위 특징점을 이용한 고속 매칭
KR100825773B1 (ko) * 2005-08-23 2008-04-28 삼성전자주식회사 방향 추정 방법 및 장치
US20070297653A1 (en) * 2006-06-22 2007-12-27 Rudolf Maarten Bolle Fingerprint representation using localized texture features
US20080101663A1 (en) * 2006-10-31 2008-05-01 Motorola, Inc. Methods for gray-level ridge feature extraction and associated print matching
GB2451888A (en) * 2007-08-17 2009-02-18 Warwick Warp Ltd Processing fingerprints to identify sweat pores, i.e. third level information, from ridge structures, i.e. macroscopic first level information.
US8031963B2 (en) * 2008-04-09 2011-10-04 Eyep Inc. Noise filter
CN103136518A (zh) * 2013-03-06 2013-06-05 安徽云盛信息科技有限公司 指纹图像自动识别系统预处理算法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02196380A (ja) * 1989-01-25 1990-08-02 Nippondenso Co Ltd 指紋登録装置
JPH0554129A (ja) * 1991-04-24 1993-03-05 Fujitsu Ltd 疑似特徴点識別方法
JPH06131446A (ja) * 1992-05-15 1994-05-13 Matsumura Electron:Kk 指紋照合装置及び指紋照合方法
JP2002297549A (ja) * 2001-03-30 2002-10-11 Fujitsu Ltd 本人認証システム及びプログラム
US20130136327A1 (en) * 2010-08-12 2013-05-30 Nec Corporation Image processing apparatus, image processing method, and image processing program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054177A1 (ja) * 2019-09-18 2021-03-25 ソニー株式会社 情報処理装置および情報処理方法
US11842562B2 (en) 2019-09-18 2023-12-12 Sony Group Corporation Information processing apparatus and information processing method

Also Published As

Publication number Publication date
EP3107037A4 (en) 2017-11-08
EP3107037A1 (en) 2016-12-21
US20160350580A1 (en) 2016-12-01
CN105993023A (zh) 2016-10-05
WO2015122577A1 (ko) 2015-08-20
CN105993023B (zh) 2019-05-10
US9858465B2 (en) 2018-01-02
EP3107037B8 (en) 2019-09-11
EP3107037B1 (en) 2019-08-07
JP6361942B2 (ja) 2018-07-25
KR101529033B1 (ko) 2015-06-18

Similar Documents

Publication Publication Date Title
JP6361942B2 (ja) 極小センシング領域を含む電子装置及びその指紋情報プロセッシング方法
JP6378278B2 (ja) 指紋登録および認証速度向上のための指紋情報プロセッシング方法およびその装置
US8649575B2 (en) Method and apparatus of a gesture based biometric system
US9508122B2 (en) Creating templates for fingerprint authentication
KR101773030B1 (ko) 전자디바이스 제어방법
US9613428B2 (en) Fingerprint authentication using stitch and cut
US8224043B2 (en) Fingerprint image acquiring device, fingerprint authenticating apparatus, fingerprint image acquiring method, and fingerprint authenticating method
CN107251052B (zh) 用于形成指纹图像的方法及指纹感测系统
KR20170043530A (ko) 후보 지문을 인증하기 위한 방법 및 지문감지 시스템
US9646192B2 (en) Fingerprint localization
US10037454B2 (en) Method and device for forming a fingerprint representation
US20170091521A1 (en) Secure visual feedback for fingerprint sensing
US10572749B1 (en) Systems and methods for detecting and managing fingerprint sensor artifacts
KR101537211B1 (ko) 상이한 지문 입력 방식을 지원하는 지문 인증 방법 및 전자 장치
JP6075084B2 (ja) 画像変換装置、画像変換方法、生体認証装置及び生体認証方法ならびに画像変換用コンピュータプログラム
KR20180015098A (ko) 지문 및 홍채를 이용한 사용자 인증 방법 및 장치
JP2018026012A (ja) 手のひら検知装置、掌紋認証装置、手のひら検知方法、及びプログラム
KR20150139396A (ko) 상이한 지문 입력 방식을 지원하는 지문 인증 방법 및 전자 장치
KR20150139397A (ko) 극소 센싱 영역을 포함하는 전자 장치 및 이의 지문 정보 프로세싱 방법
KR20170041593A (ko) 지문 등록 및 인증 속도 향상을 위한 방법 및 장치
CN112204571A (zh) 认证用户的方法
KR20170065176A (ko) 압력 감지 방법 및 전자 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170501

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180522

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180530

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180613

R150 Certificate of patent or registration of utility model

Ref document number: 6361942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250