JP2016151849A - 個人識別方法、個人識別装置、プログラム - Google Patents

個人識別方法、個人識別装置、プログラム Download PDF

Info

Publication number
JP2016151849A
JP2016151849A JP2015028390A JP2015028390A JP2016151849A JP 2016151849 A JP2016151849 A JP 2016151849A JP 2015028390 A JP2015028390 A JP 2015028390A JP 2015028390 A JP2015028390 A JP 2015028390A JP 2016151849 A JP2016151849 A JP 2016151849A
Authority
JP
Japan
Prior art keywords
personal identification
feature amount
movement
representative
eyeball
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015028390A
Other languages
English (en)
Other versions
JP6377545B2 (ja
Inventor
惇 米家
Makoto Yoneya
惇 米家
茂人 古川
Shigehito Furukawa
茂人 古川
牧夫 柏野
Makio Kayano
牧夫 柏野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2015028390A priority Critical patent/JP6377545B2/ja
Publication of JP2016151849A publication Critical patent/JP2016151849A/ja
Application granted granted Critical
Publication of JP6377545B2 publication Critical patent/JP6377545B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Collating Specific Patterns (AREA)

Abstract

【課題】眼球運動に基づいて個人を識別することができる個人識別方法を提供する。【解決手段】個人識別装置が実行する個人識別方法であって、識別対象者の眼球の動きに関する情報を取得する眼球運動取得ステップと、眼球の動きに基づく特徴量を一つ以上含む代表特徴量を抽出する特徴量抽出ステップと、代表特徴量に基づいて識別対象者を識別する個人識別ステップを含む。眼球の動きに基づく特徴量として、例えばマイクロサッカードに関する特徴量を含む。【選択図】図2

Description

本発明は、眼球運動に基づいて個人を識別する個人識別方法、個人識別装置、プログラムに関する。
従来、文字や図形を視線で追跡する実験において、注視時間やサッカードの発生頻度、振幅などといった眼球運動の性質(EmBP: Eye-movement Behavior Profiles)が個人毎に異なっており、注意能力に関連しているという知見が知られている(非特許文献1参照)。
William Poynter, Megan Barber, Jason Inman, Coral Wiggins, "Individuals exhibit idiosyncratic eye-movement behavior profiles across tasks", Vision Research, 2013, Volume 89, Pages 32-38.
上述のように、EmBPに個人差があることは知られているものの、EmBPを含む眼球運動の特徴量に基づいて個人を識別する方法は知られていない。また、EmBPは特定の視線追跡課題を課した条件下で計算される指標であり、比較的大きな眼球運動であるサッカード眼球運動が存在することが前提である。従ってEmBPは安静、注視状態などにある人に対して必ずしも適用可能な指標とはいえず、個人を識別するために用いる指標として適しているかどうかも明らかでなかった。
そこで本発明では、眼球運動に基づいて個人を識別することができる個人識別方法を提供することを目的とする。
本発明の個人識別方法は個人識別装置が実行する方法であって、眼球運動取得ステップと、特徴量抽出ステップと、個人識別ステップを含む。
眼球運動取得ステップは、識別対象者の眼球の動きに関する情報を取得する。特徴量抽出ステップは、眼球の動きに基づく特徴量を一つ以上含む代表特徴量を抽出する。個人識別ステップは、代表特徴量に基づいて識別対象者を識別する。
本発明の個人識別方法によれば、眼球運動に基づいて個人を識別することができる。
マイクロサッカードを説明する図。 第一実施形態の個人識別装置の構成を示すブロック図。 第一実施形態の個人識別装置の動作を示すフローチャート。 マイクロサッカードの特徴量について説明する図。 瞳孔の大きさの変化を表す図。 第二実施形態の個人識別装置の構成を示すブロック図。 第二実施形態の個人識別装置の動作を示すフローチャート。 第二個人識別モデルによる推定精度を示す図。 第一個人識別モデルによる本人受入率を示す図。 第一個人識別モデルによる他者拒否率を示す図。 様々な条件下での第一個人識別モデルによる推定精度を示す図。
以下、本発明の実施の形態について説明する。なお以下の説明、および図面では同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を付し、説明が重複する場合にはこれを省略する。
[第一実施形態]
以下、第一実施形態の個人識別装置について説明する。本実施形態の個人識別装置は、人の眼球の動きに表れる微細な跳躍性眼球運動(以下、マイクロサッカード、microsaccadeともいう)に基づいて、個人を識別する。まず、マイクロサッカードについて説明する。人がある一点を注視しているとき、眼球は完全に動きを止めているわけではなく、固視微動と呼ばれる三種類の眼球運動であるドリフト(drift,trendといってもよい)、トレマ、マイクロサッカード(フリックといってもよい)を行っている。ドリフトは小さな滑らかな動き、トレマは非常に小さな高周波の振動、マイクロサッカードは小さな跳ぶような動きである。図1はマイクロサッカードを説明する図であって、横軸を時間[秒]、縦軸を視野角[度]として注視状態の眼球運動の例を示すグラフである。マイクロサッカードの例であるマイクロサッカード101、102、103を太線で強調して示す。図1に示すように、マイクロサッカードはある一点を注視している状態において、1〜2秒の間に1回程度、個人の意思とは関係なく(不随意に)表れる眼球の動きであって、小さな跳ぶような動きのことである。マイクロサッカードは、動きの水平方向の成分、垂直方向の成分のどちらからでも取得することができる。本実施形態では、マイクロサッカードが水平方向に偏向する性質に基づき、簡単のため水平方向の成分のみを用いたが、本発明で用いることができるマイクロサッカードの方向成分は水平方向に限定されない。なお、「水平方向」とは、地面と平行な方向に限定する意味ではなく、顔に対しての水平方向(眼球の配列方向であり、横方向、幅方向といってもよい)や後述する眼球運動取得部11において水平方向と定義された方向を含む概念である。
以下、図2、図3を参照して本実施形態の個人識別装置の構成、および動作について説明する。図2は、本実施形態の個人識別装置10の構成を示すブロック図である。図3は、本実施形態の個人識別装置10の動作を示すフローチャートである。図2に示すように、本実施形態の個人識別装置10は、眼球運動取得部11、特徴量抽出部12、個人識別部13、モデル記憶部14を含む。モデル記憶部14に記憶される情報は、外部装置などに記憶されていてもよく、モデル記憶部14は適宜省略可能である。よってモデル記憶部14を破線で表現した。
<眼球運動取得部11>
眼球運動取得部11は、所定の時間区間である第一時間区間における、識別対象者9の眼球の動きに関する情報(眼球位置の経時変化に関する情報)を取得する(S11)。眼球運動取得部11は、取得した眼球の動きに関する情報を特徴量抽出部12へ出力する。本実施例では、眼球の動きに基づく特徴量として、後述するマイクロサッカードに関する特徴量、瞬目に関する特徴量を含むものとする。前述の所定の時間区間(第一時間区間)の中には一つ以上のマイクロサッカード、瞬目が含まれるように、その長さが設定されるものとする。第一時間区間の長さは、数秒から数十秒程度とすることが望ましい。
例えば、識別対象者9にはある1点を注視してもらうようにし、その時の眼球の動きを赤外線カメラで撮像する。眼球運動取得部11は、撮像結果を画像処理することで、フレーム毎(例えば、1000Hzのサンプリング間隔)の眼球の位置の時系列を眼球の動きに関する情報として取得することができる。この場合、眼球運動取得部11は、撮像装置(赤外線カメラ)と画像処理アルゴリズムを実行するコンピュータなどによって実現してもよいし、撮像装置(赤外線カメラ)を外部装置として、撮像装置から入力された画像を画像処理するアルゴリズムを実行するコンピュータなどによって実現されてもよい。また、眼球運動取得部11は、電極を用いた電位計測法を用いて眼球の動きを測定してもよい。この場合、眼球運動取得部11は、測定装置(電極を含む)と測定装置が測定した電位に基づいて眼球の位置を計算するアルゴリズムを実行するコンピュータなどによって実現してもよいし、測定装置を外部装置として、測定装置から入力された電位に基づいて眼球の位置を計算するアルゴリズムを実行するコンピュータなどによって実現されてもよい。なお、眼球運動取得部11は左右両方の眼球の動きに関する情報を取得してもよいし、何れか一方の眼球の動きに関する情報のみを取得してもよい。本実施形態では、眼球運動取得部11は、一方の眼球の動きに関する情報のみを取得するものとする。
マイクロサッカードが水平方向に偏向する性質に基づき、本実施形態では、取得された眼球の動きに関する情報のうち水平方向の成分のみを用いる。
<特徴量抽出部12>
特徴量抽出部12は、眼球の動きに基づく特徴量を一つ以上含む代表特徴量を抽出する(S12)。例えば、特徴量抽出部12は、第一時間区間に対応する眼球の動きに関する情報を受け取り、第一時間区間においてマイクロサッカードおよび瞬目を検出し、マイクロサッカード、または瞬目に関する特徴量を一つ以上含む代表特徴量を抽出する(S12)。特徴量抽出部12は、抽出した代表特徴量を個人識別部13に出力する。なお、特徴量抽出部12は、第一時間区間においてマイクロサッカードのみを検出することとし、瞬目の検出を省略してもよい。この場合、特徴量抽出部12はマイクロサッカードの特徴量を一つ以上含む代表特徴量を抽出することになる。
特徴量抽出部12は、例えば眼球の位置情報の時系列について1次階差系列を計算し、1次階差系列の絶対値が所定の閾値を上回る時刻を、マイクロサッカードの起きた開始時刻として検出すればよい。ただし1次階差系列の絶対値が所定の閾値を上回る時間の長さが所定の値(通常3ms程度)以上持続しない場合は、検出から除外する。特徴量抽出部12は、取得された眼球の位置情報にノイズが多く含まれると判定した場合などには、1次階差系列の計算にあたって適当な範囲での移動平均値を用いても良い。検出に用いる閾値には、階差系列の標準偏差の6倍程度の値を用いることが好ましい。
特徴量抽出部12は、例えば、瞳孔が検出されていない時間区間(眼球の位置情報が正しく取得できていない時間区間)を、瞬目が起きている時間区間として検出すればよい。ただし、一般に瞬目の生じる時間の長さが最小で75msと考えられていることから、特徴量抽出部12は、検出された時間区間の長さが所定の閾値(たとえば、50ms)を下回る場合は、これをノイズとして瞬目から除外することが望ましい。
第一時間区間に対応する代表特徴量は、第一時間区間において検出された全てのマイクロサッカードについて、後述する基準振幅A、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Ao、オーバーシュートの速度Vo、立ち上がり時間Tp、減衰率λ、減衰係数ζ、固有角振動数ω、マイクロサッカードの単位時間(例えば1秒)あたりの発生回数Rmなどを、マイクロサッカードに関する特徴量として計算し、これらの特徴量それぞれの代表値を計算し、代表値をベクトル表現で並列したものを用いる。第一時間区間において複数のマイクロサッカードが検出された場合には、一つ一つのマイクロサッカードについて求めた特徴量それぞれの代表値を計算し、代表値をベクトル表現で並列したものを用いる。代表値とは、例えば平均値、最大値、最小値、最初のマイクロサッカードに対応する値などであり、特に平均値を用いることが好ましい。代表特徴量には、前述の特徴量それぞれの代表値に加えて、第一時間区間における瞬目の1秒あたりの発生回数Rb、第一時間区間における瞬目の持続時間の代表値Dbをベクトルの要素として加えてもよい。瞬目の持続時間Dbは、瞬目が起きている時間区間の長さである。代表特徴量は前述の全ての特徴量を要素として含むものに限定されず、このうち一部を用いて構成されても良い。
図4を参照して、マイクロサッカードの基準振幅A、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Ao、オーバーシュートの速度Vo、立ち上がり時間Tp、減衰率λについて説明する。図4は、マイクロサッカードの特徴量について説明する図である。
(1)基準振幅A:マイクロサッカードによる眼球の動きが収束したときの移動量である。
(2)最大速度Vmax:基準振幅A+オーバーシュートの振幅Aoに達するまでの最大の速度である。
(3)持続時間Dm:マイクロサッカードが起きている時間区間の長さである。マイクロサッカードの開始時刻は1次階差系列の絶対値が所定の閾値を上回る時刻で、マイクロサッカードの終了時刻は、オーバーシュートの振幅に達したあとに初めて基準振幅Aに戻る時刻である。
(4)オーバーシュート(overshoot)の振幅Ao:マイクロサッカードによって基準振幅Aを超過した(行き過ぎた)部分の量である。オーバーシュートとは、波形の立ち上がり部分で、波形が基準振幅Aを超えて突出する現象、または、その突出した波形である。言い換えると、オーバーシュートの振幅とは、突出した部分の量である。
(5)オーバーシュートの速度Vo:基準振幅A+オーバーシュートの振幅Aoから基準振幅Aに収束しようとする際の最大の速度である。
(6)立ち上がり時間Tp:基準振幅A+オーバーシュートの振幅Aoに達する(立ち上がる)までにかかる時間である。なお、基準振幅A+オーバーシュートの振幅Aoに達するまでにかかる時間は、最大速度Vmaxからオーバーシュートの速度Voに達するまでにかかる時間と同じ値となる。
(7)減衰率λ:基準振幅Aに対するオーバーシュートの振幅Aoの比である。最大速度Vmaxに対するオーバーシュートの速度Voの比としてもよく、
Figure 2016151849
と表される。
マイクロサッカードの減衰係数ζ、固有角振動数ωは、マイクロサッカードが起きている時間区間の眼球位置の時系列を位置制御系のステップ応答としてモデル化することで計算する。位置制御系のステップ応答は、
Figure 2016151849
と表される。ここでG(s)は伝達係数,y(t)は位置,y'(t)は速度を表す。これに基づいて、マイクロサッカードの減衰係数ζ、固有角振動数ωは、
Figure 2016151849
と表される。ただし、tは時刻を表すインデックスであり、sはラプラス変換によるパラメタ(複素数)である。固有角振動数ωはマイクロサッカードの応答の速さを表す指標に相当し、減衰係数ζはマイクロサッカードの応答の収束性を表す指標に相当する。
特徴量抽出部12は、マイクロサッカードの減衰係数ζ、固有角振動数ω、基準振幅Aを、マイクロサッカードが起きている間の眼球の位置を関数y(t)でフィッティングし、最小二乗法などによって最適化することで計算してもよい。
マイクロサッカードの減衰係数ζは、運動が左右方向に依存して値が変化する傾向があるため、特徴量抽出部12は、左方向のマイクロサッカードの減衰係数の代表値、右方向のマイクロサッカードの減衰係数の代表値を分けて計算しても良い。
前述したようにマイクロサッカードの減衰係数ζは、マイクロサッカードを位置制御系のステップ応答としてみたときの、応答の収束性に対応する指標である。マイクロサッカードの応答の収束性は、瞳孔の虹彩に対する相対運動の程度に影響を受け、瞳孔の虹彩に対する相対運動の程度は水晶体を保持している毛様体の緊張の度合に影響されると考えられる。毛様体筋は加齢によって硬化し運動が鈍化することが知られており、毛様体の運動性質の違いが、個人毎のマイクロサッカードの収束性の違いとして観測されるものと考えられる。
<モデル記憶部14>
モデル記憶部14は、代表特徴量と所定の個人ラベルを入力として、代表特徴量が所定の個人ラベルの識別対象者から取得されたかどうかを推定することができる第一個人識別モデルと、代表特徴量のみを入力として、代表特徴量に対応する識別対象者の個人ラベルを推定することができる第二個人識別モデルを予め記憶している。
第一個人識別モデルおよび第二個人識別モデルは、予め1人以上の人について取得した代表特徴量と個人ラベルとの関係性を機械学習法により学習することで作成できる。つまり、第一個人識別モデルおよび第二個人識別モデルは、マイクロサッカードの特徴量などを含む代表特徴量と個人ラベルとの相関性を記述したモデルである。
まず、第一個人識別モデルと第二個人識別モデルで共通する部分について説明する。例えば、学習用にある人(識別対象者)の眼球の位置の時系列を取得し、取得した眼球の位置の時系列から代表特徴量を抽出する。ここで抽出する代表特徴量は、特徴量抽出部12で抽出する代表特徴量と同じとする。識別対象者から、複数の時間区間について同様の特徴量抽出を行い、抽出された代表特徴量それぞれに識別対象者の個人ラベルを対応づけたデータセットを学習用データとして用意する。学習用データは、複数人(すなわち、複数の個人ラベル)から取得したデータセットを蓄積したものを用いる。この学習用データを用いて、機械学習法により、代表特徴量と個人ラベルとの関係を学習する。例えば、機械学習法としてサポートベクターマシン(Support vector machine、以下SVMともいう)等がある。
第一個人識別モデルでは、学習用データに含まれる全ての代表特徴量に対して、その識別対象者が入力された所定の個人ラベルLであれば1、所定の個人ラベルLでなければ0、のような2パターンの値(以下、識別ラベル)を付与し、特徴量の次元に対応する空間において、識別ラベルが1のときの特徴量ベクトルに対応する点群と、識別ラベルが0のときの特徴量ベクトルに対応する点群とを分離する超平面を求める。例えば、機械学習法として2クラスを分類するサポートベクターマシンを用いる。これにより、得られる第一個人識別モデルに、識別ラベルが未知の特徴量(特徴量抽出部12で得られた代表特徴量)を入力すると、その特徴量に対応する識別ラベルを推定することができる。すなわち、未知の特徴量が所定の個人ラベルLの識別対象者9から取得されたものか、そうでないかを推定することができる。
第二個人識別モデルでは、学習用データに含まれる全ての代表特徴量に対応する個人ラベルを扱い、複数クラス(個人ラベルに対応するクラス)に分類するようにSVMを構成する。あるいは、複数クラス(個人ラベルに対応するクラス)に識別分類するような機械学習法であれば、SVMに限らず他の機械学習法を用いてもよい。
<個人識別部13>
個人識別部13は、代表特徴量に基づいて識別対象者9を識別する(S13)。例えば、個人識別部13は、特徴量抽出部12で抽出した代表特徴量と、所定の個人ラベルとを、モデル記憶部14に記憶された第一個人識別モデルに入力することにより、代表特徴量が所定の個人ラベルの識別対象者9から取得されたか否かを推定する(S13)。
あるいは個人識別部13は、特徴量抽出部12で抽出した代表特徴量のみを、モデル記憶部14に記憶された第二個人識別モデルに入力することにより、個人ラベルを推定する(S13)。個人識別部13が、第一個人識別モデルを用いるか第二個人識別モデルを用いるかは、事前に指定することができるものとする。
<効果>
本実施形態の個人識別装置10によれば、上述の構成により、マイクロサッカードの特徴量などに基づいて、識別対象者9の個人ラベルを推定することができる。眼球運動のカメラ計測はノイズが少なく、マイクロサッカードの特徴量は単一試行で精度よく推定できるため、個人識別の精度が計測誤差に左右されにくいという利点を持つ。眼球のカメラ計測は、小さな規模で識別対象者9を拘束することなく行うことができ、個人識別の際に識別対象者9の心理的抵抗感を低減する効果がある。マイクロサッカードは無意識で生じる微小な眼球運動であり、減衰係数などの特徴量を識別対象者9が意図的に制御することは困難である。したがって、指紋や虹彩の個人認証に比べて、サンプルの偽造が困難であるという利点を持つ。
[第二実施形態]
以下、第二実施形態の個人識別装置について、第一実施形態と異なる部分を中心に説明する。本実施形態では、瞳孔の大きさの変化と、マイクロサッカードの双方に基づいて、個人を識別する。まず、図5を参照して瞳孔の大きさの変化について説明する。人がある一点を注視しているとき、瞳孔の大きさは一定ではなく、変化している。図5は注視状態における瞳孔の大きさの変化を表す図であり、横軸は時間[秒]を、縦軸は瞳孔の大きさ[z-score]を表す。
瞳孔の大きさは交感神経系の支配を受けた瞳孔散大筋によって拡大(散瞳)し、副交感神経系の支配を受けた瞳孔括約筋によって収縮(縮瞳)する。図5において、二重線部分は縮瞳を表し、破線部分は散瞳を表す。瞳孔の大きさの変化は主に対光反射、輻輳反射、感情による変化の3つに区別される。対光反射は、網膜に入射する光量を制御するために瞳孔の大きさが変化する反応のことで、強い光に対しては縮瞳、暗所では散瞳が生じる。輻輳反射は、焦点を合わせる際に両眼が内転あるいは外転する運動(輻輳運動)に伴って瞳孔径が変化する反応のことで、近くを見るときには縮瞳、遠くを見るときには散瞳が生じる。感情による変化は、上記のいずれにもよらず外界のストレスに対して生じる反応のことで、怒りや驚き、活発な活動に伴って交感神経が優位となる際には散瞳が生じ、リラックスして副交感神経が優位となる際には縮瞳が生じる。
以下、図6、図7を参照して本実施形態の個人識別装置の構成、および動作について説明する。図6は、本実施形態の個人識別装置20の構成を示すブロック図である。図7は、本実施形態の個人識別装置20の動作を示すフローチャートである。図6に示すように、本実施形態の個人識別装置20は、瞳孔情報取得部21、眼球運動取得部11、特徴量抽出部22、個人識別部23及びモデル記憶部24を含む。眼球運動取得部11の動作は、第一実施形態と同じである。モデル記憶部24は、第一実施形態と同様の理由で省略可能であるため、破線で表現した。
<瞳孔情報取得部21>
瞳孔情報取得部21は、所定の時間区間である第一時間区間における、識別対象者9の瞳孔の大きさの経時変化に関する情報を取得する(S21)。瞳孔情報取得部21は、取得した瞳孔の大きさの経時変化に関する情報を特徴量抽出部22へ出力する。例えば、瞳孔の大きさとして、瞳孔径(瞳孔の半径)を用いる場合には、瞳孔径は、赤外線カメラを用いた画像処理法で計測できる。前述の所定の時間区間(第一時間区間)の中に一つ以上の縮瞳および散瞳が含まれるよう、その長さが設定されるものとする。第一時間区間は、数秒から数十秒程度とすることが望ましい。
例えば、識別対象者9にはある1点を注視してもらうようにし、その時の瞳孔が赤外線カメラで撮像されるものとする。瞳孔情報取得部21は、撮像結果を画像処理することで、フレーム毎(例えば、1000Hzのサンプリング間隔)の瞳孔の大きさの時系列を取得することができる。瞳孔情報取得部21は、例えば瞳孔を撮影した画像に対して、瞳孔に円をフィッティングし、当該フィッティングした円の半径を瞳孔径として用いることができる。瞳孔径は微細に変動するため、瞳孔情報取得部21は、所定の時間区間ごとにスムージング(平滑化)した瞳孔径の値を用いれば好適である。ここで、図5に示した瞳孔の大きさは、各時刻について取得した瞳孔径の全データの平均を0、標準偏差を1としたときのz-scoreを用いて表したものであり、約150ms間隔でスムージングしたものである。ただし、瞳孔情報取得部21が取得する瞳孔径はz-scoreでなくてもよく、瞳孔径の値そのものであっても良いし、瞳孔の面積や直径など、瞳孔の大きさに対応する値であれば何でも良い。瞳孔の面積や直径を用いる場合も、時間の経過とともに瞳孔の面積または直径が大きくなる区間が散瞳に対応し、時間の経過とともに瞳孔の面積または直径が小さくなる区間が縮瞳に対応する。すなわち、時間の経過とともに瞳孔の大きさが大きくなる区間が散瞳に対応し、時間の経過とともに瞳孔の大きさが小さくなる区間が縮瞳に対応する。
なお、一般に、対光反射に伴う瞳孔の大きさの変化量は、感情による変化量と比較して数倍程度の大きさとなり、瞳孔の大きさの変化量全体に対する大きな要因となる。対光反射による変化を抑えるために、瞳孔径を取得するときの識別対象者9は急激に環境光の照度が変化しない状況下にあることが望ましい。
なお、瞳孔情報取得部21は左右両方の瞳孔の大きさの経時変化に関する情報を取得してもよいし、何れか一方の瞳孔の大きさの経時変化に関する情報のみを取得してもよい。本実施形態では、瞳孔情報取得部21は一方の瞳孔の大きさの経時変化に関する情報のみを取得するものとする。
<特徴量抽出部22>
特徴量抽出部22は、実施例1で述べた眼球の動きに基づく特徴量を一つ以上含み、瞳孔の大きさの経時変化に基づく特徴量を一つ以上含む代表特徴量を抽出する(S22)。例えば、特徴量抽出部22は、第一時間区間に対応する眼球の動きに関する情報および瞳孔の大きさの時系列を受け取り、第一時間区間においてマイクロサッカード、瞬目、縮瞳および散瞳を検出し、マイクロサッカード、瞬目、縮瞳および散瞳に関する特徴量を一つ以上を含む代表特徴量を抽出する(S22)。特徴量抽出部22は、抽出された代表特徴量を個人識別部23に出力する。特徴量抽出部22はマイクロサッカードおよび瞬目の検出を、特徴量抽出部12と同様に行う。
特徴量抽出部22は、縮瞳の開始する時刻(以下、縮瞳開始点)を、瞳孔径の時系列から極大点を抽出することによって検出する。縮瞳の終了する時刻(以下、縮瞳終了点)は、縮瞳開始以降初めて散瞳が開始した点、または縮瞳開始以降初めて瞬目が開始した点のうち、時間が早い方とする。縮瞳の振幅Acは、縮瞳開始点から縮瞳終了点までの瞳孔径の差である。縮瞳の持続時間Dcは、縮瞳開始点から縮瞳終了点までの時間差である。縮瞳の平均速度Vcは、(振幅Ac)/(持続時間Dc)である。
特徴量抽出部22は、散瞳の開始する時刻(以下、散瞳開始点)を、瞳孔径の時系列から極小点を抽出することによって検出する。散瞳の終了する時刻(以下、散瞳終了点)は、散瞳開始以降初めて縮瞳が開始した点、または散瞳開始以降初めて瞬目が開始した点のうち、時間が早い方とする。散瞳の振幅Adは、散瞳開始点から散瞳終了点までの瞳孔径の差である。散瞳の持続時間Ddは、散瞳開始点から散瞳終了点までの時間差である。散瞳の平均速度Vdは、(振幅Ad)/(持続時間Dd)である。
ノイズによる誤検出を防ぐために、縮瞳の持続時間が所定の閾値(例えば、10ms)以下の場合、あるいは縮瞳の振幅が所定の閾値以下の場合は、特徴量抽出部22は、その縮瞳を検出から除外するとよい。同様に、散瞳の持続時間が所定の閾値(例えば、10ms)以下の場合、あるいは散瞳の振幅が所定の閾値以下の場合は、特徴量抽出部22は、その散瞳を検出から除外するとよい。
第一時間区間に対応する代表特徴量は、第一時間区間において検出された全てのマイクロサッカードの基準振幅A、最大速度Vmax、持続時間Dm、オーバーシュートの振幅Ao、オーバーシュートの速度Vo、立ち上がり時間Tp、減衰率λ、減衰係数ζおよび固有角振動数ω、第一時間区間におけるマイクロサッカードの単位時間あたりの発生回数Rmと、第一時間区間において検出された全ての縮瞳の振幅Ac、縮瞳の持続時間Dc、縮瞳の平均速度Vcと、第一時間区間において検出された全ての散瞳の振幅Ad、散瞳の持続時間Dd、散瞳の平均速度Vdとをそれぞれ計算し、第一時間区間において生じた全てのマイクロサッカードと縮瞳と散瞳とについて前述の特徴量それぞれの代表値を求め、前述の特徴量それぞれの代表値をベクトル表現で並列したものを用いる。代表値とは、例えば平均値、最大値、最小値に対応する値などであり、特に平均値を用いることが好ましい。代表特徴量には、前述の特徴量それぞれの代表値に加えて、第一時間区間における瞬目の1秒あたりの発生回数Rb、第一時間区間における瞬目の持続時間の代表値Db、第一時間区間における縮瞳の1秒あたりの発生回数Rc、第一時間区間における散瞳の1秒あたりの発生回数Rdをベクトルの要素として加えてもよい。代表特徴量は前述の全ての特徴量を要素として含むものに限定されず、このうち一部を用いて構成されても良い。
<個人識別部23>
個人識別部23は、特徴量抽出部22で抽出した代表特徴量と、所定の個人ラベルとを、モデル記憶部24に記憶された第一個人識別モデルに入力することにより、代表特徴量が所定の個人ラベルの識別対象者9から取得されたか否かを推定する(S23)。
あるいは個人識別部23は、特徴量抽出部22で抽出した代表特徴量のみを、モデル記憶部24に記憶された第二個人識別モデルに入力することにより、個人ラベルを推定する(S23)。個人識別部23が、第一個人識別モデルを用いるか第二個人識別モデルを用いるかは、事前に指定することができるものとする。
<モデル記憶部24>
モデル記憶部24は、モデル記憶部14と同様である。つまり、代表特徴量と所定の個人ラベルを入力として、代表特徴量が所定の個人ラベルの識別対象者9から取得されたかどうかを推定するような第一個人識別モデルと、代表特徴量のみを入力として、代表特徴量を取得した識別対象者9の個人ラベルを推定するような第二個人識別モデルと、が予め記録されている。ただし、モデルに入力される代表特徴量に縮瞳あるいは散瞳の特徴量が含まれる点が異なる。
<効果>
本実施形態の個人識別装置20によれば、第一実施形態と同様の効果に加え、瞳孔の大きさの経時変化に関連するパラメータを代表特徴量に加えることにより、さらに高精度な個人識別を実現できる。
<その他の変形例>
本発明は上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。また、上記実施形態において説明した処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されるとしてもよい。
以下、図8〜図11を参照して本発明の実施例とその結果を示す。本実施例では、被験者23名を対象として、近赤外線カメラを用いて眼球運動および瞳孔径変化を1000Hzのサンプリングで記録した。各人15回ずつの記録を行い、一回の計測は90秒間の長さとした。
計測時間の長さによる推定精度の違いを検証するため、各サンプル(90秒)のうち一部の時間区間(10秒、20秒、40秒、80秒)を切り取った4つの条件について、個別に以下の検討を行った。
瞬目の検出は眼球運動データに基づいて行い、30ms以下の持続時間のものは排除した。マイクロサッカードの検出には眼球運動データの速度次元を用い、閾値は標準偏差の8倍とした。散瞳及び縮瞳の検出では、瞳孔径変化の時系列データを用い、150msの時間窓で平滑化を行ったのちに極小点及び極大点を抽出し、持続時間が5ms以下とみなされた縮瞳及び散瞳は排除した。
各サンプルの代表特徴量には、マイクロサッカードの発生頻度・振幅・最大速度・持続時間・オーバーシュートの速度・左方向の減衰係数・右方向の減衰係数・固有角振動数、瞬目の頻度・持続時間、散瞳の発生頻度・振幅・平均速度・持続時間、縮瞳の発生頻度・振幅・平均速度・持続時間を計算し、各サンプルの時間内での平均値をとったものを用いた。
図8は、第二個人識別モデル(代表特徴量を入力とし、識別対象者の個人ラベルを識別するためのモデル)による推定精度を示す。具体的には、N人(2人から23人まで)の個人ラベルと、N人の一人あたり14サンプルの代表特徴量とを入力とし、SVMを用いて代表特徴量とN通りの個人ラベルとを関連づける学習モデルを生成した。学習モデルに基づいて、学習に用いられなかった一人あたり1サンプルの代表特徴量から、個人ラベルを推定し、実際の個人ラベルと一致しているか検証した。同様の学習と推定を、人の組み合わせを無作為に変えて25回繰り返し、平均の推定精度を求めた。推定の結果、対象人数が7人以下の場合では20秒のサンプル長であれば90%超、対象人数が23人の場合でも、80秒のサンプル長があれば90%超で個人ラベルを正しく推定することができた。
図9と図10は、第一個人識別モデル(代表特徴量と所定の個人ラベルを入力とし、代表特徴量が所定の個人ラベルの識別対象者から取得されたかどうかを識別するためのモデル)による本人受入率、他者拒否率を示す。具体的には、N人(2人から23人まで)が所定の個人ラベル(以下、個人ラベルL)であるか否かを表す値(個人ラベルLであれば1、個人ラベルLでなければ0。以下、識別ラベル)と、N人の一人あたり14サンプルの代表特徴量とを入力とし、SVMを用いて代表特徴量と識別ラベルとを関連づける学習モデルを生成した。学習モデルに基づいて、学習に用いられなかった一人あたり1サンプルの代表特徴量から、識別ラベルを推定し、実際の識別ラベルと一致しているか検証した。同様の学習と推定を、個人ラベルLをN通りに変えて繰り返し、さらに人の組み合わせを無作為に変えて5回繰り返し、平均の推定精度を求めた。このとき、実際の識別ラベルが1であるときに正しく識別ラベルを1と推定できた確率を本人受入率、実際の識別ラベルが1であるときに誤って識別ラベルを0と推定した確率を本人拒否率、実際の識別ラベルが0であるときに正しく識別ラベルを0と推定した確率を他者拒否率、実際の識別ラベルが0であるときに誤って識別ラベルを1と推定した確率を他者受入率ということができる。推定の結果、本人受入率は、対象人数が20人以下の場合では80秒のサンプル長であれば90%超、対象人数が23人の場合でも10秒のサンプル長があれば50%超となった(図9)。また、他者拒否率は対象人数が23人の場合でも、サンプル長によらず99%超であった(図10)。この結果によれば、本人以外のサンプルを本人として誤って認証する確率が非常に低いということができる。
図11は、様々な条件下での第一個人識別モデルによる推定精度を示す図である。図11には、第一個人識別モデルによる上記と同様の推定を、代表特徴量に含まれる要素を変えて検証した結果を示した。具体的には、マイクロサッカードの基本特徴量(発生頻度・振幅・最大速度・持続時間)を用いた場合(薄く斜線ハッチングを施した棒グラフ)と、マイクロサッカードの全特徴量(発生頻度・振幅・最大速度・持続時間・オーバーシュートの速度・左方向の減衰係数・右方向の減衰係数・固有角振動数)を用いた場合(濃く斜線ハッチングを施した棒グラフ)と、全ての特徴量(マイクロサッカードの発生頻度・振幅・最大速度・持続時間・オーバーシュートの速度・左方向の減衰係数・右方向の減衰係数・固有角振動数、瞬目の頻度・持続時間、散瞳の発生頻度・振幅・平均速度・持続時間、縮瞳の発生頻度・振幅・平均速度・持続時間)を用いた場合(黒く塗りつぶした棒グラフ)の結果を表す。ただし、サンプル長は80秒、Nは23人とする。推定の結果、マイクロサッカードの基本特徴量のみを用いた場合では本人受容率は約57%、マイクロサッカードの全ての特徴量を用いた場合では本人受容率は約86%、全ての特徴量を用いた場合では本人受容率は約90%であり、いずれの場合でも他者拒否率は99%超であった。この結果によれば、本発明の特徴であるマイクロサッカードのオーバーシュート・減衰係数・固有角振動数を代表特徴量として用いることが推定精度の向上に大きく寄与しているということができる。
<補記>
本発明の装置は、例えば単一のハードウェアエンティティとして、キーボードなどが接続可能な入力部、液晶ディスプレイなどが接続可能な出力部、ハードウェアエンティティの外部に通信可能な通信装置(例えば通信ケーブル)が接続可能な通信部、CPU(Central Processing Unit、キャッシュメモリやレジスタなどを備えていてもよい)、メモリであるRAMやROM、ハードディスクである外部記憶装置並びにこれらの入力部、出力部、通信部、CPU、RAM、ROM、外部記憶装置の間のデータのやり取りが可能なように接続するバスを有している。また必要に応じて、ハードウェアエンティティに、CD−ROMなどの記録媒体を読み書きできる装置(ドライブ)などを設けることとしてもよい。このようなハードウェア資源を備えた物理的実体としては、汎用コンピュータなどがある。
ハードウェアエンティティの外部記憶装置には、上述の機能を実現するために必要となるプログラムおよびこのプログラムの処理において必要となるデータなどが記憶されている(外部記憶装置に限らず、例えばプログラムを読み出し専用記憶装置であるROMに記憶させておくこととしてもよい)。また、これらのプログラムの処理によって得られるデータなどは、RAMや外部記憶装置などに適宜に記憶される。
ハードウェアエンティティでは、外部記憶装置(あるいはROMなど)に記憶された各プログラムとこの各プログラムの処理に必要なデータが必要に応じてメモリに読み込まれて、適宜にCPUで解釈実行・処理される。その結果、CPUが所定の機能(上記、…部、…手段などと表した各構成要件)を実現する。
既述のように、上記実施形態において説明したハードウェアエンティティ(本発明の装置)における処理機能をコンピュータによって実現する場合、ハードウェアエンティティが有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記ハードウェアエンティティにおける処理機能がコンピュータ上で実現される。
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。具体的には、例えば、磁気記録装置として、ハードディスク装置、フレキシブルディスク、磁気テープ等を、光ディスクとして、DVD(Digital Versatile Disc)、DVD−RAM(Random Access Memory)、CD−ROM(Compact Disc Read Only Memory)、CD−R(Recordable)/RW(ReWritable)等を、光磁気記録媒体として、MO(Magneto-Optical disc)等を、半導体メモリとしてEEP−ROM(Electronically Erasable and Programmable-Read Only Memory)等を用いることができる。
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、ハードウェアエンティティを構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。

Claims (7)

  1. 個人識別装置が実行する個人識別方法であって、
    識別対象者の眼球の動きに関する情報を取得する眼球運動取得ステップと、
    前記眼球の動きに基づく特徴量を一つ以上含む代表特徴量を抽出する特徴量抽出ステップと、
    前記代表特徴量に基づいて前記識別対象者を識別する個人識別ステップ
    を含む個人識別方法。
  2. 請求項1に記載の個人識別方法であって、
    前記代表特徴量は、
    前記眼球の動きに基づく特徴量として、マイクロサッカードに関する特徴量を含む
    個人識別方法。
  3. 請求項2に記載の個人識別方法であって、
    前記代表特徴量は、
    前記マイクロサッカードに関する特徴量として、前記マイクロサッカードの基準振幅、最大速度、持続時間、オーバーシュートの振幅、オーバーシュートの速度、立ち上がり時間、減衰率、減衰係数、固有角振動数、単位時間あたりの発生回数のうち少なくとも何れかを含む
    個人識別方法。
  4. 請求項1から3の何れかに記載の個人識別方法であって、
    前記代表特徴量は、
    前記眼球の動きに基づく特徴量として、瞬目に関する特徴量を含む
    個人識別方法。
  5. 請求項1から4の何れかに記載の個人識別方法であって、
    前記識別対象者の瞳孔の大きさの経時変化に関する情報を取得する瞳孔情報取得ステップをさらに含み、
    前記特徴量抽出ステップは、
    前記眼球の動きに基づく特徴量を一つ以上含み、前記瞳孔の大きさの経時変化に基づく特徴量を一つ以上含む代表特徴量を抽出する
    個人識別方法。
  6. 識別対象者の眼球の動きに関する情報を取得する眼球運動取得部と、
    前記眼球の動きに基づく特徴量を一つ以上含む代表特徴量を抽出する特徴量抽出部と、
    前記代表特徴量に基づいて前記識別対象者を識別する個人識別部
    を含む個人識別装置。
  7. 請求項1から5の何れかに記載された個人識別方法の各ステップをコンピュータに実行させるためのプログラム。
JP2015028390A 2015-02-17 2015-02-17 個人識別方法、個人識別装置、プログラム Active JP6377545B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015028390A JP6377545B2 (ja) 2015-02-17 2015-02-17 個人識別方法、個人識別装置、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015028390A JP6377545B2 (ja) 2015-02-17 2015-02-17 個人識別方法、個人識別装置、プログラム

Publications (2)

Publication Number Publication Date
JP2016151849A true JP2016151849A (ja) 2016-08-22
JP6377545B2 JP6377545B2 (ja) 2018-08-22

Family

ID=56696583

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015028390A Active JP6377545B2 (ja) 2015-02-17 2015-02-17 個人識別方法、個人識別装置、プログラム

Country Status (1)

Country Link
JP (1) JP6377545B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109670384A (zh) * 2017-10-16 2019-04-23 北京集联网络技术有限公司 一种虹膜快速活体检测方法
WO2020003804A1 (ja) * 2018-06-25 2020-01-02 日本電信電話株式会社 反射性判定装置、反射性判定方法、プログラム
WO2022185550A1 (ja) * 2021-03-05 2022-09-09 日本電信電話株式会社 推定装置、推定方法、および、推定プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003533801A (ja) * 2000-05-16 2003-11-11 スイスコム・モバイル・アクチエンゲゼルシヤフト 生物測定学的な身元確認方法及び認証方法
JP2008522652A (ja) * 2004-12-06 2008-07-03 パルチ−ワッセルマン,ダフナ 多変量ダイナミック生体測定システム
WO2009001558A1 (ja) * 2007-06-27 2008-12-31 Panasonic Corporation ヒト状態推定装置およびその方法
JP2013005018A (ja) * 2011-06-13 2013-01-07 Samsung Yokohama Research Institute Co Ltd 撮像装置、及び撮像方法
JP2014168506A (ja) * 2013-03-01 2014-09-18 Tokyo Metropolitan Univ 人の状態推定装置およびそれを備えた輸送機器

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003533801A (ja) * 2000-05-16 2003-11-11 スイスコム・モバイル・アクチエンゲゼルシヤフト 生物測定学的な身元確認方法及び認証方法
JP2008522652A (ja) * 2004-12-06 2008-07-03 パルチ−ワッセルマン,ダフナ 多変量ダイナミック生体測定システム
WO2009001558A1 (ja) * 2007-06-27 2008-12-31 Panasonic Corporation ヒト状態推定装置およびその方法
JP2013005018A (ja) * 2011-06-13 2013-01-07 Samsung Yokohama Research Institute Co Ltd 撮像装置、及び撮像方法
JP2014168506A (ja) * 2013-03-01 2014-09-18 Tokyo Metropolitan Univ 人の状態推定装置およびそれを備えた輸送機器

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
米家 惇 他: "聴覚的に顕著な音の呈示に伴うマイクロサッカードの動的特性の変化", 情報処理学会 研究報告 音楽情報科学, vol. 2014−MUS−103, JPN6018000960, 17 May 2014 (2014-05-17), JP, ISSN: 0003720369 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109670384A (zh) * 2017-10-16 2019-04-23 北京集联网络技术有限公司 一种虹膜快速活体检测方法
WO2020003804A1 (ja) * 2018-06-25 2020-01-02 日本電信電話株式会社 反射性判定装置、反射性判定方法、プログラム
JP2020000266A (ja) * 2018-06-25 2020-01-09 日本電信電話株式会社 反射性判定装置、反射性判定方法、プログラム
JP7214986B2 (ja) 2018-06-25 2023-01-31 日本電信電話株式会社 反射性判定装置、反射性判定方法、プログラム
WO2022185550A1 (ja) * 2021-03-05 2022-09-09 日本電信電話株式会社 推定装置、推定方法、および、推定プログラム

Also Published As

Publication number Publication date
JP6377545B2 (ja) 2018-08-22

Similar Documents

Publication Publication Date Title
US20200074380A1 (en) Work support device, work support method, and work support program
Tafaj et al. Bayesian online clustering of eye movement data
Mack et al. The effect of sampling rate and lowpass filters on saccades–a modeling approach
JP7070605B2 (ja) 注目範囲推定装置、その方法およびプログラム
US20170135577A1 (en) Health Assessment via Eye Movement Biometrics
WO2016090379A2 (en) Detection of print-based spoofing attacks
JP5718493B1 (ja) 音の顕著度推定装置、その方法、及びプログラム
JP6939533B2 (ja) 注意レベル推定装置、注意レベル推定モデル学習装置、注意レベル推定方法、注意レベル推定モデル学習方法、およびプログラム
Annerer‐Walcher et al. How reliably do eye parameters indicate internal versus external attentional focus?
JP6755839B2 (ja) 運動パフォーマンス推定装置、その方法、およびプログラム
JP6377545B2 (ja) 個人識別方法、個人識別装置、プログラム
WO2013147763A1 (en) Person identification using ocular biometrics
CN115329818A (zh) 基于vr的多模态融合注意力评估方法、系统及存储介质
JP6479708B2 (ja) 特徴量抽出装置、推定装置、それらの方法、およびプログラム
Naveed et al. Eye tracking system with blink detection
US11583214B2 (en) Adaptive psychological assessment tool
JP6509712B2 (ja) 印象推定装置およびプログラム
JP7214986B2 (ja) 反射性判定装置、反射性判定方法、プログラム
JP5718495B1 (ja) 印象推定装置、その方法、及びプログラム
Korda et al. Automatic identification of oculomotor behavior using pattern recognition techniques
JP2017202048A (ja) 特徴量抽出装置、推定装置、それらの方法、およびプログラム
Schweitzer et al. Definition, modeling, and detection of saccades in the face of post-saccadic oscillations
Punuganti Automatic detection of nystagmus in bedside VOG recordings from patients with vertigo
Jotanovic et al. Eye detection model for assessing the working capacities of employees
JP6445418B2 (ja) 印象推定装置、印象推定方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180725

R150 Certificate of patent or registration of utility model

Ref document number: 6377545

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150