JP6496917B2 - 視線測定装置および視線測定方法 - Google Patents

視線測定装置および視線測定方法 Download PDF

Info

Publication number
JP6496917B2
JP6496917B2 JP2017555816A JP2017555816A JP6496917B2 JP 6496917 B2 JP6496917 B2 JP 6496917B2 JP 2017555816 A JP2017555816 A JP 2017555816A JP 2017555816 A JP2017555816 A JP 2017555816A JP 6496917 B2 JP6496917 B2 JP 6496917B2
Authority
JP
Japan
Prior art keywords
line
sight
information
subject
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017555816A
Other languages
English (en)
Other versions
JPWO2017179280A1 (ja
Inventor
聡一 木村
聡一 木村
武田 英俊
英俊 武田
晋吾 山添
晋吾 山添
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2017179280A1 publication Critical patent/JPWO2017179280A1/ja
Application granted granted Critical
Publication of JP6496917B2 publication Critical patent/JP6496917B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Mechanical Engineering (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Eye Examination Apparatus (AREA)
  • Image Analysis (AREA)

Description

本発明は、対象者の眼球画像に基づき検出した対象者の視線に対して、個人差の補正を行う視線測定装置および視線測定方法に関するものである。
視線を非接触にて、高精度に測定できる技術として、角膜反射法が知られている。この手法は、眼球上の反射光を用いているため、その精度は、眼球形状の個人差に大きく影響される。そのため、測定した視線を個人の誤差を用いて、補正している。
特許文献1は、対象者の顔画像を取得する複数のステレオカメラとステレオカメラの開口部に外側の設けられた光源と、制御回路と画像処理装置とを備える注視点検出装置を開示する。画像処理装置は、顔画像に基づいて対象者の視線の角度を、関数を用いて計算し、複数のステレオカメラに対応して計算された視線の方向が近くなるように関数を補正して視線の方向を計算し、対象者の表示画面上の注視点を検出する。
国際公開第2012/020760号
本開示は、利用者の負担を低減すると共に、高精度に視線を検出可能となる視線測定装置を提供する。
本開示の視線測定装置は、所定の注視点を注視する対象者の眼球に角膜反射点を形成するための光を照射する光源と、光源からの光が反射した対象者の眼球を含む顔画像を複数撮影する撮影部と、撮影部が撮影した顔画像毎に視線情報を算出する検知部と、検知部が算出した複数の視線情報の中で、所定の位置関係にある少なくとも2つの視線情報を用いて、補正情報を算出する算出部と、検知部が算出した視線情報を、補正情報を用いて補正する補正部と、を備える。
本開示の視線測定方法は、所定の注視点を注視する対象者の眼球に角膜反射点を形成するための光を照射する光源からの光が反射した対象者の眼球を含む顔画像を複数撮影する撮影ステップと、撮影ステップで撮影された顔画像毎に視線情報を算出する検知ステップと、検知ステップで算出された複数の視線情報の中で、所定の位置関係にある少なくとも2つの視線情報を用いて、補正情報を算出する算出ステップと、算出ステップで算出された視線情報を、補正情報を用いて補正する補正ステップとを有する。
本開示の視線測定装置によれば、利用者の負担を低減すると共に、高精度に視線を検出可能となる。
実施の形態1における視線測定システムの一構成例を示す図である。 実施の形態1における演算装置の一構成例を示すブロック図である。 視線情報を説明する図である。 実施の形態1における視線測定装置の動作を説明するためのフローチャートである。 実施の形態1における選択する2つの視線情報の位置関係を説明する図である。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために、提供されるのであって、これらにより請求の範囲に記載の主題を限定することは意図されていない。
(実施の形態1)
[1.構成]
[1−1.システム構成]
図1は、実施の形態1における視線測定システム1の一構成例を示す図である。
図1において視線測定システム1は、対象者100の視線を測定する視線測定装置10と、対象者100に対して注視先を表示する表示部20とを備える。また、視線測定装置10は、対象者100の顔画像(眼球画像)を撮影する撮影部120と、対象者100の眼球(不図示)上に光を照射する光源130と、対象者100の視線測定を行う演算装置110とを備える。
表示部20は、対象者100の注視先となる注視点Pを表示する。表示部20は、対象者100の注視先が表示できるものであればよい。表示部20は、液晶ディスプレイ(LCD)パネルや有機ELディスプレイパネルのような表示素子と、それを駆動する駆動回路とを含むディスプレイである。表示部20は、視線測定装置10もしくは、図示しない制御部からの制御に従って、注視点Pを表示する。
光源130は、所定の位置に配置され、対象者100の眼球上に角膜反射点を形成させるための光を照射する。光源130は、例えば、赤外線を発光する光源である。
撮影部120は、光源130より照射された光を反射した対象者100の顔画像を撮影する。撮影部120は、例えば、赤外線カメラであり、光源130より照射された赤外光が反射した反射光を受光することにより、対象者100の顔画像を撮影する。
演算装置110は、実際の視線測定に先立って、撮影部120が撮影した対象者100の顔画像から、対象者100の視線ベクトル(算出視線ベクトルG1、G2)を検出する。そして、対象者100の眼球位置E1、E2(瞳孔中心)および注視点Pから求められる実視線ベクトルV1、V2と算出視線ベクトルG1、G2との対応関係から個人差を補正するための補正情報を算出する。演算装置110は、算出した補正情報を用いて、検出した算出視線ベクトルG1、G2を補正する。
[1−2.演算装置の構成]
図2は、演算装置110の一構成例を示すブロック図である。図2において、演算装置110は、検知部111と、算出部112と、記憶部113と、補正部114とを備える。各機能部は、例えば、ROM、磁気ディスク、光ディスクなどの記憶装置に記憶されたプログラムをCPUに実行させることにより、その機能を実現する。
検知部111は、撮影部120が撮影した顔画像を用いて、対象者100の算出視線ベクトルG1、G2を算出する。また、検知部111は、対象者100の眼球位置E1、E2および注視点Pの位置関係から、実視線ベクトルV1、V2を算出する。検知部111は、算出した視線ベクトル(算出視線ベクトルと実視線ベクトル)、対象者100の眼球位置E1、E2および対象者100を一意に識別できる識別情報(以下、IDという)を視線情報として算出部112に送出する。
算出部112は、検知部111が送出した視線情報を記憶部113に記憶させる。算出部112は、記憶部113が記憶している複数の視線情報の中から、所定の位置関係にある視線情報を少なくとも2つ選択して、眼球の個人差による検出誤差を補正するための補正情報を算出する。算出部112は視線情報と補正情報を補正部114に出力する。
記憶部113は、視線情報および補正情報を記憶する。記憶部113は、半導体メモリ等から構成されてもよく、揮発性メモリ又は不揮発性メモリ等から構成されてよい。
補正部114は、検知部111が算出した視線情報を、算出部112が算出した補正情報を用いて補正する。
[1−3.眼球の個人差による誤差]
図3は、視線情報を説明する図である。図3においては、対象者100に対して、瞳孔中心202より水平方向をx軸、垂直方向をz軸、前後方向をy軸とする。
図3は、表示部20に位置が既知である注視点Pが表示され、対象者100が注視点Pを注視している状態を示す。ここで、対象者100の視線とは、図3に示すように、対象者100の眼球200に存在する瞳孔領域201において、瞳孔中心202から、表示部20上の注視点Pに向かう視線ベクトル(実視線ベクトルV1)で定義される。
また、角膜反射法などに代表される視線検出法により検知部111で算出される対象者100の算出視線ベクトルG1は、対象者100の個人差に伴う誤差を含んだベクトルである。図3に示すように、算出視線ベクトルG1と、実視線ベクトルV1とは異なるベクトルとなる。ここで、瞳孔中心202は、瞳孔領域201をクラスタリングや楕円近似等の手法によって検出し、その中心座標を取得することにより求められる。また、図3に示すように、対象者100の眼球200には、光源130から照射された光の反射光であるプルキニエ像203(角膜反射点)が存在する。
ここで、対象者100の個人差とは、図3に示すような対象者100の眼球200の角膜表面における光屈折率、眼鏡等による屈折、眼球形状、眼球中心と中心窩とのズレなどの個人差である。後述する補正処理では、これらに起因する検出誤差を、個人固有の補正情報を用いて低減する。
[1−4.補正情報]
本開示では、視線検出法として、角膜反射法を用いて説明する。角膜反射法は、瞳孔の位置とプルキニエ像の位置関係から、視線を算出する手法である。
角膜反射法は、視線測定に先立って、既知の点を注視している対象者を撮影した顔画像から算出された視線ベクトルと実際の視線ベクトルの対応関係をもとに、補正情報を算出する。角膜反射法は、次式(数1)により、視線測定中算出した視線ベクトルを、角度に対しての係数と定数項(加算値)とからなる補正情報(補正値)を用いて補正する手法である。
Figure 0006496917
角膜反射法では、補正前の視線ベクトルBの仰角θBおよび方位角φBを、補正後の視線ベクトルAの仰角θAおよび方位角φAに補正する場合、視線ベクトルの角度に対する補正情報は、式(数1)中の行列Hとして定義される。この場合、補正情報を求めるためには、対象者100が複数の位置から注視点を注視した際の情報が必要となる。本開示では、補正情報を求めるために、対象者100が2つの異なる位置から注視点Pを注視した際の情報を用いる。
[2.動作]
ここでは、図1に示すように、表示部20に注視点Pを表示して、対象者100に所定期間注視させた場合を例にとって説明する。なお、対象者100は、所定期間中、注視点Pを注視していれば、頭部を動かしても構わない。
[2−1.全体の動作]
図4は、実施の形態1における視線測定装置10の動作を説明するためのフローチャートである。
(ステップS401)検知部111は、対象者100が注視点Pを注視した際に、撮影部120が撮影した顔画像を用いて、対象者100の算出視線ベクトルを算出する視線検知処理を行う。また、検知部111は、対象者100の瞳孔中心202および注視点Pの位置関係から、実視線ベクトルを算出する。検知部111は、算出視線ベクトルおよび実視線ベクトルのペアと対象者100を一意に示すIDを対応付けて視線情報として算出部112に送出する。
(ステップS402)算出部112は、受け取った視線情報を記憶部113に記憶させる。記憶部113は、IDを用いて、対象者100に対応する補正情報が既に算出済かどうかを調べ、その対象者100の補正情報が存在する場合、すなわち、その対象者100の補正情報が算出済である場合(ステップS402のYes)はステップS404へ進み、算出済ではない場合(ステップS402のNo)はステップS403へ進む。
(ステップS403)算出部112は、記憶部113に記憶されている複数の視線情報の中で、所定の位置関係にある視線情報を少なくとも2つ用いて、視線の個人差に対する補正情報を算出する補正情報算出処理を行う。算出部112は、算出した補正情報をIDと対応付けて記憶部113に記憶させる。算出部112は、視線情報と算出した補正情報を補正部114に送出する。なお、算出部112は、実視線ベクトルと算出視線ベクトルのペアが異なる視線情報が、記憶部113に少なくとも2つ記憶されていない場合は、補正情報を算出せず、平均的な補正値を補正情報として、視線情報と共に、補正部114に送出する。
(ステップS404)算出部112は、記憶部113より、受け取ったIDに対応付けられた補正情報を読出し、視線情報と共に、補正部114に送出する。
(ステップS405)補正部114は、算出部112が送出した視線情報と補正情報を元に、式(数1)を用いて、算出視線ベクトルを補正する補正処理を行い、補正後の視線ベクトル(補正視線ベクトル)を算出する。
以下、各処理を詳細に説明する。
[2−2.視線検知処理]
図3を用いて、表示部20上に注視点Pが表示されている場合を例にとって説明する。
撮影部120は、表示部20上の注視点Pを注視する対象者100の顔画像を撮影し、画像データを検知部111に送出する。なお撮影のタイミングは任意に設定可能であり、装置を別途設けるなどして、外部から信号を送り、撮影のタイミングを制御してもよい。
検知部111は、撮影部120が撮影した顔画像から、対象者100の眼球付近を切り出した眼球画像を取得する。ここで、撮影部120は、対象者100の顔画像として、片目だけ含むように撮影してもよいし、両目を含むように撮影しても良い。また、検知部111は、対象者100の眼球画像として、片目だけの眼球画像でもよいし、両目それぞれの眼球画像を取得しても良い。なお、対象者100の目とは、黒目および白目および瞼を含む眼球表面である。
次に、検知部111は、図3に示すように、対象者100の瞳孔中心202と、プルキニエ像203と、撮影部120および光源130の位置関係を用いて、角膜反射法により、算出視線ベクトルG1を算出する。
ここで、算出視線ベクトルG1の算出に必要な撮影部120と光源130の位置は、既知の点として3次元位置が求まっており、視線測定装置10内の図示しない記憶部に予め記憶されているとする。また、対象者100の瞳孔中心202およびプルキニエ像203の3次元位置は、ステレオカメラを用いて求めても良いし、それ以外の測距手法により求めても良い。対象者100の瞳孔中心202およびプルキニエ像203の3次元位置も上述の記憶部113に記憶されている。
具体的には、検知部111は、対象者100が表示部20上の注視点Pを注視している際に、撮影部120が撮影した対象者100の顔画像から瞳孔領域201を切り出す。検知部111は、撮影部120と光源130の位置、および瞳孔中心202とプルキニエ像203の位置に基づいて、対象者100の算出視線ベクトルG1を算出する。また、検知部111は、対象者100の3次元上の瞳孔中心202および注視点Pの位置関係から、実視線ベクトルV1を算出する。
検知部111は、上述の処理を撮影部120から出力される顔画像毎に行う。検知部111は、顔画像毎に対象者100の位置情報および対象者100のIDと、瞳孔中心202、算出視線ベクトルと実視線ベクトルのペアを視線情報として送出する。
[2−3.補正情報算出処理]
算出部112は、記憶部113に記憶されている複数の視線情報の中から瞳孔中心202が異なる視線情報を2つ選択する。ここでは、図1に示すように、2つの視線情報における瞳孔中心202を各々眼球位置E1、E2として説明する。算出部112は、1つの注視点Pを異なる眼球位置E1、E2から注視した際の実視線ベクトルV1、V2と算出視線ベクトルG1、G2のそれぞれペアを用いて、視線の個人差に対する補正情報を統計的に算出する。
ここで、対象者100の2つの眼球位置E1、E2によっては、正確な補正情報を算出できない場合がある。具体的には、算出された2つの実視線および算出視線ベクトルの仰角および方位角の差が各々一定未満である場合には、補正情報を算出できない。これは、補正情報は、1点を異なる眼球位置から注視した際の角度の差分を用いて算出されることによる。
図5は選択する2つの視線情報の位置関係を説明する図である。図5に示すように、本実施の形態では、眼球位置毎に直行座標系を設定し、算出された実視線ベクトルおよび算出視線ベクトルの仰角および方位角を算出する。
図5において、点Rは対象者100前方に存在する任意の点を示す。座標系500は、点Rと眼球位置E1を通る直線を直行座標系の基準軸の1つであるy軸とした座標系である。座標系510は、点Rと眼球位置E2を通る直線を直交座標系の基準軸の1つであるy軸とした座標系である。即ち、眼球位置E1、E2および点Rは同一平面(xy平面)上に位置する。点Qは注視点Pをxy平面上に射影した点である。
ベクトルH1は、座標系500において、算出視線ベクトルG1のxy平面上に射影したベクトルである。同様に、ベクトルH2は、座標系510において、算出視線ベクトルG2のxy平面上に射影したベクトルである。また、偏角θ12は、ベクトルH1と算出視線ベクトルG1のなす角(仰角)である。偏角φ12は、ベクトルH1とy軸とのなす角(方位角)を示す。同様に、偏角θ22は、ベクトルH2と算出視線ベクトルG2のなす角(仰角)である。偏角φ22は、ベクトルH2とy軸とのなす角(方位角)を示す。
図5に示すように、頭部移動により、異なる眼球位置E1、E2から同一の注視点Pを見る際、実視線ベクトルV1、V2の仰角および方位角は、眼球位置E1、E2によって変化する。なお、図5では、実視線ベクトルV1、V2を用いて説明しているが、算出視線ベクトルG1の偏角θ11、φ11、および算出視線ベクトルG2偏角θ21、φ21も同等である。
本実施の形態では、算出部112は、異なる眼球位置E1、E2から同じ注視点Pを見つめるときの視線情報のうち、実視線ベクトルV1、V2の仰角および方位角の差が所定角以上ある2つの視線情報を選択する。算出部112は、選択した視線情報の実視線ベクトルV1、V2および算出視線ベクトルG1、G2の角度の関係性から、補正情報を算出する。
[2−4.具体例]
以下、表示部20に注視点Pを表示し、対象者100に所定期間、注視点Pを注視させ、対象者100の視線を測定する場合について、図1、図2、図5を用いて説明する。ここで、対象者100は注視点Pを注視していれば、頭部を動かしても構わないとする。本実施の形態において、撮影部120は、所定期間内に2枚の顔画像A、Bを撮影したとする。
まず、視線測定装置10は、表示部20に注視点Pを表示し、対象者100に注視点Pを所定期間注視させる。撮影部120は、注視点Pを注視している対象者100を撮影し、顔画像A、Bを検知部111に出力する。
検知部111は、撮影部120が撮影した顔画像Aより眼球画像を取得し、眼球画像から眼球位置E1、算出視線ベクトルG1を算出する。
算出視線ベクトルG1は、次式(数2)に示すように、極座標系のベクトルとして表現される。
Figure 0006496917
式(数2)において、径r11はベクトルの径であり、眼球位置E1から表示部20上の注視点Pまでの距離である。なお、ベクトルの径r11は単位ベクトルとして、1としてもよい。また、偏角θ11は、図5に説明した算出視線ベクトルG1の仰角、偏角φ11は算出視線ベクトルG1の方位角である。
また、検知部111は、表示部20上の注視点Pの位置および、眼球位置E1に基づき、実視線ベクトルV1を算出する。実視線ベクトルV1も算出視線ベクトルG1と同様、次式(数3)に示すように、極座標系ベクトルとして表現される。
Figure 0006496917
ただし、式(数3)において、径r12はベクトルの径である。ベクトルの径r12は単位ベクトルとして、1としてもよい。また、偏角θ12は実視線ベクトルV1の仰角、偏角φ12は実視線ベクトルV2の方位角である。
検知部111は顔画像Aを用いて算出した実視線ベクトルV1と算出視線ベクトルG1のペアおよび眼球位置E1を含む視線情報と対象者100のIDとを、算出部112に送出する。
次に、検知部111は、撮影部120が撮影した顔画像Bより眼球画像を取得し、眼球画像から眼球位置E2、算出視線ベクトルG2を算出する。
算出視線ベクトルG2は、次式(数4)に示すように、極座標系のベクトルとして表現される。
Figure 0006496917
ただし、式(数4)において、径r21はベクトルの径である。ベクトルの径r21は単位ベクトルとして、1としてもよい。また、偏角θ21は算出視線ベクトルG2の仰角、偏角φ21は算出視線ベクトルG2の方位角である。
検知部111は、表示部20上の注視点Pの位置および、眼球位置E2に基づき、実視線ベクトルV2を算出する。実視線ベクトルV2も算出視線ベクトルG2と同様、次式(数5)に示すように、極座標系のベクトルとして表現される。
Figure 0006496917
ただし、式(数5)において、径r22はベクトルの径である。ベクトルの径r22は単位ベクトルとして、1としてもよい。また、偏角θ22は実視線ベクトルV2の仰角、偏角φ22は実視線ベクトルV2の方位角である。
検知部111は顔画像Bを用いて算出した実視線ベクトルV2と算出視線ベクトルG2のペアおよび眼球位置E2を含む視線情報と対象者100のIDとを、算出部112に送出する。
算出部112は、対象者100のIDを用いて、記憶部113に対象者100の補正情報が記憶されているかを調べる。算出部112は、記憶部113に補正情報が記憶されている場合、検知部111から受け取った視線情報および記憶部113に記憶されている補正情報を読出して、補正部114に送出する。
また、算出部112は、記憶部113に対象者100の補正情報が記憶されていない場合、すなわち、補正情報が算出されていない場合は、補正情報を算出する。
この場合、算出部112は、検知部111が送出した視線情報を記憶部113に記録するとともに、記憶部113に記録された視線情報の中から2つの視線情報を用いて、個人の視線の補正情報を算出する。なお、記憶部113は、光源130の位置も記録しても良い。
算出部112は、IDを用いて、記憶部113に記録された視線情報を読み込み、補正情報算出処理を行う。この場合、算出部112は、顔画像A、Bを用いて算出された2つの視線情報を読み込む。算出部112は、視線情報に2つの点において算出された視線ベクトルが含まれていない場合、補正情報の算出を行わない。この場合、算出部112は、平均的な補正値を補正情報として、補正部114に送出してもよい。
算出部112は、式(数1)に示す行列H内のω1,ω2,ω3,ω4を、算出視線ベクトルG1と実視線ベクトルV1、および算出視線ベクトルG2と実視線ベクトルV2のペアを用いて算出する。例えば、算出部112は、式(数1)において、補正後の視線ベクトルAに実視線ベクトルV1、補正前の視線ベクトルBに算出視線ベクトルG1を代入して、補正情報である行列Hを算出する。この算出方法には、算出視線ベクトルと実視線ベクトル間の誤差を最小とするようにした最小二乗法を用いても良い。算出部112は、行列Hを算出すると、視線情報と算出した補正情報を出力する。
補正部114は、視線情報および補正情報と、式(数1)を用いて、算出視線ベクトルを補正し、補正視線ベクトルを算出する。補正部114は、補正視線ベクトルを出力する。
[3.効果など]
本開示の視線測定装置10では、光源130は、所定の注視点を注視する対象者100の眼球に角膜反射点を形成するための光を照射し、撮影部120は、光源130からの光が反射した対象者100の顔画像を複数撮影する。検知部111は、撮影部120が撮影した顔画像毎に視線情報を算出する。算出部112は、検知部111が算出した複数の視線情報の中で、所定の位置関係にある視線情報を少なくとも2つ用いて、補正情報を算出する。補正部114は、検知部111が算出した視線情報を、補正情報を用いて補正する。
これにより、算出部112は、対象者100が自然に頭部を動かしている状態で測定した視線情報から、個人固有の視線ベクトルの補正情報を算出することができる。
従って、対象者100の負担を軽減すると共に、高精度に視線を検出することが可能となる。
なお、本実施例では補正情報の算出に使用する注視点Pを表示部20に表示するものとして説明したが、対象者の前方にある、位置が既知の物体に注視点Pを設定することもできる。例えば、車両中であれば、前方にある信号機や車両内のスピードメーターを注視点Pとして用いることが出来る。
この場合、注視点Pは、対象者100の前方に存在する物体の中央に設定するものとする。しかし、対象者100が物体内の良く注視する点もしくは領域が分かっている場合は、その平均位置などに注視点Pを設定しても良い。それ以後の処理は、表示部20上の注視点Pを用いて算出する際と同様に、対象者100の眼球位置の移動を検知し、実視線ベクトルおよび算出視線ベクトルの計算、補正値の算出を行う。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態1を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施の形態にも適用できる。また、上記実施の形態1で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。そこで、以下、他の実施の形態を例示する。
実施の形態1において、光源は1つとしたが、複数の光源を用いても構わない。
実施の形態1において、対象者100を注視させるために注視点を表示部20に表示した。表示部20に表示するものは、点に限るものではなく、例えば、基準となる位置にコンテンツを表示して、対象者100に注視を誘導しても良い。この場合、コンテンツ内の基準となる位置を注視点として、演算を行ってもよい。
なお、視線測定装置10で算出した視線情報を表示部20に表示してもよい。この場合、算出した視線ベクトルと表示部20の交点を算出し、注視先情報として出力してもよい。
また、本実施の形態では、算出部112は2つの視線情報を用いて補正情報を生成したが、3つ以上の視線情報を選択し、それらすべての視線情報で補正情報を算出してもよい。また、2つの組合せで複数算出した補正情報から、最終的な補正情報を作成してもよい。例えば、2つの組合せで算出した複数の補正情報の平均をとるなどしてもよい。このようにすることで、補正情報の精度を向上させることができる。
本開示は、非接触にて視線を測定する視線検出装置に適用可能である。具体的には、車両内の運転者の監視をはじめとした対象者の行動分析、視線を用いた機器の操作などに、本開示は適用可能である。
1 視線測定システム
10 視線測定装置
20 表示部
110 演算装置
111 検知部
112 算出部
113 記憶部
114 補正部
120 撮影部
130 光源
200 眼球
201 瞳孔領域
202 瞳孔中心
203 プルキニエ像
500,510 座標系
G1,G2 算出視線ベクトル
H 行列
P 注視点
V1,V2 実視線ベクトル

Claims (4)

  1. 所定の注視点を注視する対象者の眼球に角膜反射点を形成するための光を照射する光源と、
    前記光源からの光が反射した前記対象者の眼球を含む顔画像を複数撮影する撮影部と、
    前記撮影部が撮影した前記顔画像毎に視線情報を算出する検知部と、
    前記検知部が算出した複数の視線情報の中で、所定の位置関係にある少なくとも2つの視線情報を用いて、補正情報を算出する算出部と、
    前記検知部が算出した前記視線情報を、前記補正情報を用いて補正する補正部と、
    を備え、
    前記算出部は、前記複数の視線情報の中から、前記対象者が前記所定の注視点を注視した際の視線ベクトルの仰角および方位角の差がともに所定角以上である前記少なくとも2つの視線情報を選択して、前記補正情報を算出する視線測定装置。
  2. 前記所定の注視点は、前記対象者の前方に設置されている表示部上に表示されている点もしくは、前記対象者の前方に存在する物体内の点である、請求項1に記載の視線測定装置。
  3. 前記補正情報は、前記視線ベクトルの角度に対する係数と加算値とを含む、請求項1に記載の視線測定装置。
  4. 所定の注視点を注視する対象者の眼球に角膜反射点を形成するための光を照射する光源からの光が反射した前記対象者の眼球を含む顔画像を複数撮影する撮影ステップと、
    前記撮影ステップで撮影された顔画像毎に視線情報を算出する検知ステップと、
    前記検知ステップで算出された複数の視線情報の中で、所定の位置関係にある少なくとも2つの前記視線情報を用いて、補正情報を算出する算出ステップと、
    前記検知ステップで算出された前記視線情報を、前記補正情報を用いて補正する補正ステップと、を有し、
    前記算出ステップは、前記複数の視線情報の中から、前記対象者が前記所定の注視点を注視した際の視線ベクトルの仰角および方位角の差がともに所定角以上である前記少なくとも2つの視線情報を選択して、前記補正情報を算出する視線測定方法。
JP2017555816A 2016-04-13 2017-02-13 視線測定装置および視線測定方法 Active JP6496917B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016080183 2016-04-13
JP2016080183 2016-04-13
PCT/JP2017/005053 WO2017179280A1 (ja) 2016-04-13 2017-02-13 視線測定装置および視線測定方法

Publications (2)

Publication Number Publication Date
JPWO2017179280A1 JPWO2017179280A1 (ja) 2018-04-19
JP6496917B2 true JP6496917B2 (ja) 2019-04-10

Family

ID=60041720

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017555816A Active JP6496917B2 (ja) 2016-04-13 2017-02-13 視線測定装置および視線測定方法

Country Status (3)

Country Link
US (1) US10572730B2 (ja)
JP (1) JP6496917B2 (ja)
WO (1) WO2017179280A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111208904A (zh) * 2020-01-08 2020-05-29 北京未动科技有限公司 一种视线估计设备性能评估方法、系统和设备
JP7431714B2 (ja) * 2020-10-16 2024-02-15 株式会社日立製作所 視線分析装置と視線分析方法及び視線分析システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010259605A (ja) * 2009-05-01 2010-11-18 Nippon Hoso Kyokai <Nhk> 視線測定装置および視線測定プログラム
US9460114B2 (en) * 2009-05-15 2016-10-04 Hyundai Motor Company System for managing relationship and history of combined space of interest (SOI) object and content
JP5560858B2 (ja) * 2010-04-02 2014-07-30 富士通株式会社 補正値算出装置、補正値算出方法および補正値算出プログラム
WO2012020760A1 (ja) 2010-08-09 2012-02-16 国立大学法人静岡大学 注視点検出方法及び注視点検出装置
JP5716345B2 (ja) * 2010-10-06 2015-05-13 富士通株式会社 補正値算出装置、補正値算出方法および補正値算出プログラム
KR20150111164A (ko) * 2014-03-25 2015-10-05 엘지전자 주식회사 터치 보정을 제공하는 디지털 디바이스 및 그 제어 방법

Also Published As

Publication number Publication date
US20180089508A1 (en) 2018-03-29
JPWO2017179280A1 (ja) 2018-04-19
US10572730B2 (en) 2020-02-25
WO2017179280A1 (ja) 2017-10-19

Similar Documents

Publication Publication Date Title
JP6596678B2 (ja) 視線測定装置および視線測定方法
JP6963820B2 (ja) 視線検出装置
US10048750B2 (en) Content projection system and content projection method
JP2020034919A (ja) 構造化光を用いた視線追跡
JP4649319B2 (ja) 視線検出装置、視線検出方法、および視線検出プログラム
US10499808B2 (en) Pupil detection system, gaze detection system, pupil detection method, and pupil detection program
JP6265348B2 (ja) 視線計測装置、視線計測方法および視線計測プログラム
JP4517049B2 (ja) 視線検出方法および視線検出装置
JP6631951B2 (ja) 視線検出装置及び視線検出方法
EP2649932A1 (en) Method for detecting point of gaze and device for detecting point of gaze
US20170344110A1 (en) Line-of-sight detector and line-of-sight detection method
CN107427208B (zh) 用于通过透镜系统提供无漂移的眼部跟踪的头戴式眼部跟踪设备和方法
JP2010259605A (ja) 視線測定装置および視線測定プログラム
JP7168953B2 (ja) 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム
US20160247322A1 (en) Electronic apparatus, method and storage medium
US11624907B2 (en) Method and device for eye metric acquisition
TWI761930B (zh) 頭戴式顯示裝置以及距離量測器
JP2018099174A (ja) 瞳孔検出装置及び瞳孔検出方法
US20190090736A1 (en) Ophthalmologic device and pupil state measuring method
JP6496917B2 (ja) 視線測定装置および視線測定方法
US10747310B1 (en) Time of flight based eye tracker
JP5590487B2 (ja) 視線計測方法及び視線計測装置
KR101817436B1 (ko) 안구 전위 센서를 이용한 영상 표시 장치 및 제어 방법
KR20160038476A (ko) 시선 측정 장치 및 방법
JP2016057906A (ja) 視点位置の計測方法及び計測システム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181113

TRDD Decision of grant or rejection written
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20190123

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190211

R151 Written notification of patent or utility model registration

Ref document number: 6496917

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350