JP6324119B2 - 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム - Google Patents
回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム Download PDFInfo
- Publication number
- JP6324119B2 JP6324119B2 JP2014042124A JP2014042124A JP6324119B2 JP 6324119 B2 JP6324119 B2 JP 6324119B2 JP 2014042124 A JP2014042124 A JP 2014042124A JP 2014042124 A JP2014042124 A JP 2014042124A JP 6324119 B2 JP6324119 B2 JP 6324119B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- rotation angle
- visual axis
- pupil
- coordinates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 75
- 238000000034 method Methods 0.000 title claims description 51
- 238000004364 calculation method Methods 0.000 title claims description 48
- 210000001508 eye Anatomy 0.000 claims description 105
- 230000000007 visual effect Effects 0.000 claims description 99
- 230000003287 optical effect Effects 0.000 claims description 76
- 210000001747 pupil Anatomy 0.000 claims description 52
- 238000012545 processing Methods 0.000 claims description 46
- 210000005252 bulbus oculi Anatomy 0.000 claims description 37
- 210000004087 cornea Anatomy 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 4
- 230000001678 irradiating effect Effects 0.000 claims description 2
- 239000013598 vector Substances 0.000 description 111
- 238000012937 correction Methods 0.000 description 69
- 210000003128 head Anatomy 0.000 description 31
- 230000014509 gene expression Effects 0.000 description 17
- 230000010365 information processing Effects 0.000 description 9
- 238000005452 bending Methods 0.000 description 7
- 238000005286 illumination Methods 0.000 description 7
- 239000011159 matrix material Substances 0.000 description 6
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000001028 reflection method Methods 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Landscapes
- Eye Examination Apparatus (AREA)
- Position Input By Displaying (AREA)
Description
まず、本発明にかかる注視点検出装置を実施するための注視点検出装置の構成について、図面を参照しながら説明する。本発明の注視点検出装置は、対象者の顔画像を基にパーソナルコンピュータ等の情報処理端末のモニター画面上の注視点を検出する装置である。なお、この注視点検出装置は、回転角度算出装置としても機能する。
ここでは、図4に示すように、検出した瞳孔の3次元位置Pを元に、ステレオカメラ2a,2bの開口部9a,9bの中心を原点Oとし、その原点Oと瞳孔中心Pを結ぶ基準線OPを法線とする仮想視点平面X’−Y’を設定する。ここで、X’軸は、世界座標系のXW−YW平面と仮想視点平面X’−Y’との交線に相当する。
によって計算する。ここで、ベクトルr’は、角膜反射点Gから瞳孔中心Pに向かう瞳孔ベクトルの実測値を表す。
上述した注視点検出手順において用いられる原点補正ベクトルr0は、対象者が一の姿勢をとった場合において定まるベクトルであり、対象者の姿勢が変化した場合、特に対象者が頭部を側屈させた場合においては、原点補正ベクトルr0の方向が変化する。そこで、本実施形態の注視点検出方法では、画像処理装置7は、対象者の頭部側屈に応じて、原点補正ベクトルr0を補正する。
注視点検出を開始する前の注視点較正を行う段階では、非常に小さな一点を対象者に凝視させることになるため、対象者の両眼の注視点は、この非常に小さな一点にほぼ一致する。この段階で、左眼及び右眼の原点補正ベクトルr0L及びr0Rは決定される。しかしながら、注視点較正を行った後に、対象者の両眼の視軸のなす角度である輻輳角が小さくなって対象者の両眼の注視点が離れたり、逆に輻輳角が大きくなって左右の眼の視軸が交差し、左右の眼球の注視点が入れ替わったりする場合がある。この場合、先に述べた方法では角度γを正確に算出することができず、その結果、左右の眼球の注視点も正確に算出することができない。
頭部の左右側屈による注視点検出誤差を、上述した補正法による回転補正の前後で比較した。被験者は大学生6名とし、ディスプレイ装置の正面から約80cmの位置において、被験者の頭部を顎台に乗せた状態で実験を行った。予め注視点較正を行った後、画面上に3行3列に配置した視標9点を順に1秒間ずつ被験者に注視させた。なお、頭部の側屈の角度は、約30°〜45°の範囲であり、被験者毎に異なっている。
上述した注視点検出方法によれば、対象者の頭部回転によらずに注視点を検出することができる。さらに式(21)から未知数Xを計算することにより、左右の眼の注視点がどの程度離れているかを算出することもできる。そこで、上述した注視点検出方法に基づいて、以下のような情報入力方法を実施することができる。
Claims (12)
- 2台以上のカメラと、対象者に光を照射する光源と、を用いて前記対象者の顔画像を生成する顔画像生成ステップと、
前記2台以上のカメラによるそれぞれの顔画像に基づいて、前記光源からの光の前記対象者の角膜上の反射点である角膜反射点の座標と、前記対象者の瞳孔の中心である瞳孔中心の座標と、を計算する座標計算ステップと、
前記角膜反射点の座標及び前記瞳孔中心の座標に基づいて、前記対象者の眼球の中心軸である光軸の方向を計算する光軸方向計算ステップと、
前記対象者の眼球の中心窩と前記対象者の注視点とを結ぶ直線を視軸として、前記対象者が一の姿勢をとった時の前記光軸と前記視軸のずれを前記角膜反射点の座標及び瞳孔中心の座標に基づいて計算するずれ計算ステップと、
前記光軸と前記視軸とのずれの前記視軸回りの回転角度が前記対象者の左眼と右眼とで同一であるという拘束条件に基づいて、前記視軸回りの回転角度を算出する回転角度算出ステップと、
前記光軸方向計算ステップで計算された光軸の方向から、前記回転角度算出ステップで算出された前記視軸回りの回転角度に基づいて前記ずれを補正することにより、前記視軸の方向を計算するステップと、
を備える回転角度算出方法。 - 前記回転角度算出ステップでは、前記対象者の左眼の瞳孔の中心と右眼の瞳孔の中心とを結ぶ直線に平行な方向を第一方向とし、前記第一方向及び前記カメラの光軸の両方に垂直な方向を第二方向として、前記第二方向の成分を用いて前記視軸回りの回転角度を算出する請求項1に記載の回転角度算出方法。
- 請求項1または2に記載の回転角度算出方法で算出された前記視軸の方向に基づいて前記対象者の注視点を検出する、
注視点検出方法。 - 請求項3に記載の注視点検出方法により対象者の両眼の注視点を検出する両眼注視点検出ステップと、
前記両眼注視点検出ステップにおいて検出された対象者の両眼の注視点の間の距離に基づいて、対象者による入力がなされたと判定するステップと、
を備える、情報入力方法。 - 対象者の顔画像に基づいて、該対象者の注視点を検出する注視点検出装置であって、
前記対象者の顔画像を取得する2台以上のカメラと、
前記対象者に光を照射する光源と、
前記2台以上のカメラから出力された画像信号を処理する画像処理部と、
を備え、
前記画像処理部は、
前記2台以上のカメラによるそれぞれの顔画像に基づいて、前記光源からの光の前記対象者の角膜上の反射点である角膜反射点の座標と、前記対象者の瞳孔の中心である瞳孔中心の座標と、を計算し、
前記角膜反射点の座標及び前記瞳孔中心の座標に基づいて、前記対象者の眼球の中心軸である光軸の方向を計算し、
前記対象者の眼球の中心窩と前記対象者の注視点とを結ぶ直線を視軸として、前記対象者が一の姿勢をとった時の前記光軸と前記視軸のずれを前記角膜反射点の座標及び瞳孔中心の座標に基づいて計算し、
前記光軸と前記視軸とのずれの前記視軸回りの回転角度が前記対象者の左眼と右眼とで同一であるという拘束条件に基づいて、前記視軸回りの回転角度を算出し、
前記光軸の方向から、前記視軸回りの回転角度に基づいて前記ずれを補正することにより、前記視軸の方向を計算する
回転角度算出装置。 - 前記視軸回りの回転角度を算出する際には、前記対象者の左眼の瞳孔の中心と右眼の瞳孔の中心とを結ぶ直線に平行な方向を第一方向とし、前記第一方向及び前記カメラの光軸の両方に垂直な方向を第二方向として、前記第二方向の成分を用いて前記視軸回りの回転角度を算出する請求項5に記載の回転角度算出装置。
- 請求項5または6に記載の回転角度算出装置により計算された前記視軸の方向に基づいて前記対象者の注視点を検出する、注視点検出装置。
- 請求項7に記載の注視点検出装置により対象者の両眼の注視点を検出する両眼注視点検出手段と、
前記両眼注視点検出手段により検出された対象者の両眼の注視点の間の距離に基づいて、対象者による入力がなされたと判定する入力判定手段と、
を備える、情報入力装置。 - コンピュータを、
2台以上のカメラと、対象者に光を照射する光源と、を用いて前記対象者の顔画像を生成する顔画像生成手段、
前記2台以上のカメラによるそれぞれの顔画像に基づいて、前記光源からの光の前記対象者の角膜上の反射点である角膜反射点の座標と、前記対象者の瞳孔の中心である瞳孔中心の座標と、を計算する座標計算手段、
前記角膜反射点の座標及び前記瞳孔中心の座標に基づいて、前記対象者の眼球の中心軸である光軸の方向を計算する光軸方向計算手段、
前記対象者の眼球の中心窩と前記対象者の注視点とを結ぶ直線を視軸として、前記対象者が一の姿勢をとった時の前記光軸と前記視軸のずれを前記角膜反射点の座標及び瞳孔中心の座標に基づいて計算するずれ計算手段、及び
前記光軸と前記視軸とのずれの前記視軸回りの回転角度が前記対象者の左眼と右眼とで同一であるという拘束条件に基づいて、前記視軸回りの回転角度を算出する回転角度算出手段、
前記光軸方向計算手段により計算された光軸の方向から、前記回転角度算出手段により算出された前記視軸回りの回転角度に基づいて前記ずれを補正することにより、前記視軸の方向を計算する手段
として機能させる回転角度算出プログラム。 - 前記回転角度算出手段は、前記対象者の左眼の瞳孔の中心と右眼の瞳孔の中心とを結ぶ直線に平行な方向を第一方向とし、前記第一方向及び前記カメラの光軸の両方に垂直な方向を第二方向として、前記第二方向の成分を用いて前記視軸回りの回転角度を算出する請求項9に記載の回転角度算出プログラム。
- 請求項9または10に記載の回転角度算出プログラムで算出された前記視軸の方向に基づいて前記対象者の注視点を検出する、
注視点検出プログラム。 - コンピュータを
請求項11に記載の注視点検出プログラムにより対象者の両眼の注視点を検出する両眼注視点検出手段と、
前記両眼注視点検出手段によって検出された対象者の両眼の注視点の間の距離に基づいて、対象者による入力がなされたと判定する入力判定手段、
として機能させる情報入力プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014042124A JP6324119B2 (ja) | 2014-03-04 | 2014-03-04 | 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014042124A JP6324119B2 (ja) | 2014-03-04 | 2014-03-04 | 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015169959A JP2015169959A (ja) | 2015-09-28 |
JP6324119B2 true JP6324119B2 (ja) | 2018-05-16 |
Family
ID=54202689
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014042124A Active JP6324119B2 (ja) | 2014-03-04 | 2014-03-04 | 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6324119B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6638354B2 (ja) * | 2015-12-01 | 2020-01-29 | 株式会社Jvcケンウッド | 視線検出装置及び視線検出方法 |
WO2017134755A1 (ja) * | 2016-02-02 | 2017-08-10 | 富士通株式会社 | 眠気判定プログラム、眠気判定装置、および眠気判定方法 |
JP6403836B1 (ja) * | 2017-06-08 | 2018-10-10 | 株式会社ナックイメージテクノロジー | 視機能検査装置、視機能訓練装置及び方法 |
JP7046347B2 (ja) * | 2017-12-06 | 2022-04-04 | 国立大学法人静岡大学 | 画像処理装置及び画像処理方法 |
AU2020351719A1 (en) * | 2019-09-27 | 2022-02-03 | Alcon Inc. | Instant eye gaze calibration systems and methods |
CN114442312B (zh) * | 2019-11-21 | 2024-06-25 | 苏州思源科安信息技术有限公司 | 一种用于远距离大视场虹膜光学成像装置的虹膜变焦聚焦光学成像系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5163982B2 (ja) * | 2008-06-16 | 2013-03-13 | 国立大学法人神戸大学 | 視線計測装置、視線計測プログラム、視線計測方法、および視線計測装置用ディスプレイ |
NL2003372C2 (en) * | 2009-08-20 | 2011-02-22 | Univ Delft Tech | Apparatus and method for automatically determining a strabismus angle. |
JP5858433B2 (ja) * | 2010-12-08 | 2016-02-10 | 国立大学法人静岡大学 | 注視点検出方法及び注視点検出装置 |
JP2014021893A (ja) * | 2012-07-23 | 2014-02-03 | Nec Casio Mobile Communications Ltd | 情報処理装置、操作信号生成方法、およびプログラム |
-
2014
- 2014-03-04 JP JP2014042124A patent/JP6324119B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015169959A (ja) | 2015-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5858433B2 (ja) | 注視点検出方法及び注視点検出装置 | |
JP5915981B2 (ja) | 注視点検出方法及び注視点検出装置 | |
JP6324119B2 (ja) | 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム | |
JP6340503B2 (ja) | 目追跡システム及び利き目を検出する方法 | |
US10902635B2 (en) | Line-of-sight detection device | |
JP6631951B2 (ja) | 視線検出装置及び視線検出方法 | |
JP6548171B2 (ja) | 瞳孔検出システム、視線検出システム、瞳孔検出方法、および瞳孔検出プログラム | |
US11200646B2 (en) | Compensation for deformation in head mounted display systems | |
JP4649319B2 (ja) | 視線検出装置、視線検出方法、および視線検出プログラム | |
JP2016173313A (ja) | 視線方向推定システム、視線方向推定方法及び視線方向推定プログラム | |
US20150130714A1 (en) | Video analysis device, video analysis method, and point-of-gaze display system | |
JP6452235B2 (ja) | 顔検出方法、顔検出装置、及び顔検出プログラム | |
KR100982171B1 (ko) | 안면 영상 촬영장치 | |
JP2019215688A (ja) | 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム | |
JP7046347B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6452236B2 (ja) | 眼球識別装置及び眼球識別方法 | |
JP6346018B2 (ja) | 眼球計測システム、視線検出システム、眼球計測方法、眼球計測プログラム、視線検出方法、および視線検出プログラム | |
JP6288770B2 (ja) | 顔検出方法、顔検出システム、および顔検出プログラム | |
JP2019128748A (ja) | 視線校正データ生成装置、視線測定装置およびそれらのプログラム | |
JP6780161B2 (ja) | 視線検出装置及び視線検出方法 | |
JP6430813B2 (ja) | 位置検出装置、位置検出方法、注視点検出装置、及び画像生成装置 | |
JP2019021049A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2017179280A1 (ja) | 視線測定装置および視線測定方法 | |
JP2016049258A (ja) | 照明撮像装置及びそれを備えた視線検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180309 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180410 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6324119 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |