JPWO2016098406A1 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JPWO2016098406A1 JPWO2016098406A1 JP2016564705A JP2016564705A JPWO2016098406A1 JP WO2016098406 A1 JPWO2016098406 A1 JP WO2016098406A1 JP 2016564705 A JP2016564705 A JP 2016564705A JP 2016564705 A JP2016564705 A JP 2016564705A JP WO2016098406 A1 JPWO2016098406 A1 JP WO2016098406A1
- Authority
- JP
- Japan
- Prior art keywords
- optical axis
- calibration
- marker
- user
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/0091—Fixation targets for viewing direction
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/11—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring interpupillary distance or diameter of pupils
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
Abstract
Description
1.概要
2.アイウェア端末のハードウェア構成
3.機能構成
4.キャリブレーション処理
(1)注視点マーカ表示(S100)
(2)視線データ取得(S110〜S140)
(3)評価(S150〜S180)
5.検出精度向上への対応
5.1.輝点のペアリング
5.2.注視点マーカ表示位置の動的変更
6.ハードウェア構成
まず、図1を参照して、本開示の一実施形態に係る情報処理装置の概要について説明する。なお、図1は、眼球の構造を示す説明図である。
(手順1)視野内のある点(以下、「注視点」ともいう。)を見たときの光軸を推定
(手順2)角膜曲率中心から注視点への注視点ベクトルと推定された光軸のベクトルとの差分を測定
(手順3)(手順2)で測定した差分に基づき、任意の点を見たときの光軸より、そのときの視軸を推定
本実施形態に係る情報処理装置の説明に先立ち、図2及び図3に基づいて、本実施形態に係る情報処理装置によるキャリブレーションが行われるアイウェア端末100のハードウェア構成を説明する。なお、図2は、アイウェア端末100の、ユーザの眼と対向する側の構成を示す説明図である。図3は、アイウェア端末100が装着されたときの、ユーザの眼球10とアイウェア端末100との位置関係を示す概略側面図である。
次に、図4に基づいて、上述したアイウェア端末100と、当該アイウェア端末100のキャリブレーションを行う情報処理装置200との機能構成を説明する。なお、図4は、アイウェア端末100及び情報処理装置200の機能構成を示す機能ブロック図である。
アイウェア端末100は、図4に示すように、光源110と、撮像部120と、表示部130と、制御部140と、送受信部150とを備える。
次に、情報処理装置200は、図4に示すように、送受信部210と、マーカ制御部220と、演算処理部230と、記憶部240と、評価部250とを備える。
次に、図5〜図14に基づいて、本実施形態に係る情報処理装置200によるアイウェア端末100のキャリブレーション処理について説明する。なお、図5は、本実施形態に係る情報処理装置200によるアイウェア端末100のキャリブレーション処理を示すフローチャートである。図6は、移動して表示される注視点マーカの一表示例を示す説明図である。図7は、瞳孔角膜反射法を用いた光軸ベクトルの算出処理について説明するための説明図である。図8は、マーカベクトルと光軸ベクトルとの関係を示す説明図である。図9は、視線データを取得するキャリブレーション点の一例を示す説明図である。図10は、視線データを取得するキャリブレーション点の他の例を示す説明図である。図11は、光軸のばらつきの評価結果の一例を示すグラフである。図12は、マーカベクトル及び光軸ベクトルの座標を示す説明図である。図13は、キャリブレーション点の位置を変更を説明するための説明図である。図14は、光源から光が照射されたときに眼に現れる輝点の例を示す説明図である。
本実施形態に係る情報処理装置200によるアイウェア端末100のキャリブレーション処理は、表示部130に注視点マーカを表示し、ユーザの視線を注視点マーカに向けさせることから開始する(S100)。注視点マーカの表示制御は、情報処理装置200のマーカ制御部220の指示を受けて、制御部140により行われる。キャリブレーションでは、表示部130の表示領域内の複数位置においてユーザの視線データを取得する。視線データを取得する位置であるキャリブレーション点に注視点マーカを表示させることで、ユーザに意図的に視線を注視点マーカに向けさせ、視線データを取得することが可能となる。
ステップS100にて最初のキャリブレーション点に注視点マーカMが表示されると、そのキャリブレーション点におけるユーザの視線データが取得される(S110)。視線データは、推定されたユーザの視線方向を表す光軸ベクトルと、ユーザの瞳孔中心から注視点マーカへのマーカベクトルとを含む。
光軸ベクトルは、例えば瞳孔角膜反射法を用いて推定される。ここで、図7に基づいて、瞳孔角膜反射法を用いた光軸の推定処理について説明する。瞳孔角膜反射法では、表示部の表示面23を観察するユーザの眼球10に対して光源21から光を照射し、撮像部22により光が照射された眼球10を撮影する。そして、撮像部22により撮影された撮影画像30に基づき、光軸が推定される。ここでは説明を簡単にするため、1つの光源21により眼球10を照射した場合を説明する。
一方、ユーザの瞳孔中心Sから注視点マーカMへのマーカベクトルは、上述のように撮影画像30から特定された瞳孔中心Sから、現在注視点マーカMが表示されている表示面23上の位置に向かうベクトルとして算出することができる。
ここで、演算処理部230は、演算した光軸ベクトルvoがキャリブレーションの検出結果として使用可能な情報であるか否かを判定してもよい。
さらに、上述した検出結果のばらつきを抑制するための判定をクリアした場合であっても、瞳孔や輝点が誤った場所を検出し続けることもある。誤った検出結果を用いると、正しくキャリブレーション処理を行うことができない。そこで、演算処理部230は、このような誤った検出結果をキャリブレーションの検出結果として用いないようにする誤検出判定処理を行ってもよい。例えば、演算された左右の瞳孔の大きさが極端に異なる場合には、瞳孔として誤った場所を認識している可能性が高い。このような場合に取得された視線データは検出結果として用いないようにする。具体的には、例えば左右の瞳孔のサイズ比が所定の値(例えば1.2)を超えた場合には、左右の瞳孔の大きさが極端に異なるとして、取得された視線データは検出結果として用いないようにしてもよい。
注視点マーカMは、ユーザの視線を向けさせるために表示させるものである。ここで、ユーザの視線データを短時間で正しく取得できるように、注視点マーカMの表示制御が行われる。
すべてのキャリブレーション点において視線データが取得されると、評価部250により、キャリブレーションの完了判定が行われる。本実施形態では、キャリブレーションの完了判定は、推定された光軸ベクトルvoの全体としてのばらつきが許容範囲内か否かを判定することにより行われる。
キャリブレーション処理においては、ユーザがハードコンタクトレンズを装着している場合や、ユーザの眼が細い場合等において、検出された光軸ベクトルvoにばらつきが生じやすい傾向がある。ユーザがハードコンタクトレンズを装着していると、瞳孔が歪んだり、光源から照射された光による眼球上の輝点が光源の数以上に検出されたり、コンタクトレンズが角膜上で動いたりするためである。また、ユーザの眼が細い場合には、撮影画像から特定される瞳孔が欠けていたり、光源の数と同数だけ検出されるはずの輝点が光源の数だけ検出されなかったりする。そこで、ユーザの光軸ベクトルvoを正しく検出するために、さらに以下のような処理を行ってもよい。
ユーザの光軸ベクトルvoを正しく検出するために、例えば、撮影画像から特定された輝点についてペアリング処理を行ってもよい。本実施形態に係るアイウェア端末100には、図2に示したように、表示部102R、102Lの周囲には、それぞれ4つの光源103Ra〜103Rd、103La〜103Ldが設けられている。これらの光源103Ra〜103Rd、103La〜103Ldから左右の眼球10に光がそれぞれ照射されると、各眼には図14に示すように4つの輝点Pa、Pb、Pc、Pdがそれぞれ現れる。
また、ユーザの光軸ベクトルvoを正しく検出するために、注視点マーカMを動的に移動させるようにしてもよい。表示領域300においてユーザが視線を向けることが難しい位置に注視点マーカMが表示されたとき、検出された光軸ベクトルvoはマーカベクトルvmからのずれが大きくなることが想定される。このような場合、同一のキャリブレーション点に注視点マーカMを表示させ続けても、光軸ベクトルvoとマーカベクトルvmとのずれは小さくなることはない。
最後に、本実施形態に係る情報処理装置200のハードウェア構成例について説明する。図15は、本実施形態に係る情報処理装置200のハードウェア構成を示すハードウェア構成図である。
(1)
アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させるマーカ制御部と、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算する演算処理部と、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価する評価部と、
を備える、情報処理装置。
(2)
前記マーカ制御部は、前記注視点マーカを表示した状態で、予め設定された前記キャリブレーション点に順に移動させる、前記(1)に記載の情報処理装置。
(3)
前記マーカ制御部は、移動先の前記キャリブレーション点に近づくほど移動速度が遅くなるように前記注視点マーカを移動させる、前記(2)に記載の情報処理装置。
(4)
前記演算処理部は、
演算した現在の光軸ベクトルと、光軸ベクトルの履歴に基づき算出された光軸ベクトルの平均とのなす角が、所定の角度より大きいか否かを判定し、
前記なす角が所定の角度より大きい場合、演算した現在の前記光軸ベクトルを採用しない、前記(1)〜(3)のいずれか1項に記載の情報処理装置。
(5)
前記演算処理部は、
演算した現在の光軸ベクトルと、ユーザの瞳孔中心から前記注視点マーカが表示されているキャリブレーション点へのマーカベクトルとのなす角が所定の角度以下であるか否かに基づいて、演算した現在の光軸ベクトルのばらつきを判定し、
前記なす角が所定の角度より大きい場合、演算した現在の前記光軸ベクトルを採用しない、前記(1)〜(4)のいずれか1項に記載の情報処理装置。
(6)
前記演算処理部は、ユーザの左右の瞳孔の大きさの比が所定の値以上であるとき、演算した前記光軸ベクトルを採用しない、前記(5)に記載の情報処理装置。
(7)
前記マーカ制御部は、前記演算処理部により演算した前記光軸ベクトルが採用されないとき、前記注視点マーカの表示位置を表示領域の中央側へ移動させる、前記(4)〜(6)のいずれか1項に記載の情報処理装置。
(8)
前記評価部は、ユーザの瞳孔中心から前記注視点マーカが表示されているキャリブレーション点へのマーカベクトルと、演算された光軸ベクトルとの相関関係に基づいて、すべての前記キャリブレーション点において演算された光軸ベクトルのばらつきを判定する、前記(1)〜(7)のいずれか1項に記載の情報処理装置。
(9)
前記評価部により前記光軸ベクトルと前記マーカベクトルとの相関関係を表す相関係数が所定の閾値を下回ったとき、
前記マーカ制御部は、前記キャリブレーション点を表示領域の中央に寄せた位置に設定し、再度キャリブレーションを実行する、前記(8)に記載の情報処理装置。
(10)
前記演算処理部は、対となる複数の光源から照射された光による輝点を検出する、前記(1)〜(9)のいずれか1項に記載の情報処理装置。
(11)
情報処理装置により、
アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させること、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算すること、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価すること、
とを含む、情報処理方法。
(12)
コンピュータを、
アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させるマーカ制御部と、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算する演算処理部と、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価する評価部と、
を備える、情報処理装置として機能させるプログラム。
14 角膜
17 瞳孔
100 アイウェア端末
110 光源
120 撮像部
130 表示部
140 制御部
150 送受信部
200 情報処理装置
210 送受信部
220 マーカ制御部
230 演算処理部
240 記憶部
250 評価部
300 表示領域
Claims (12)
- アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させるマーカ制御部と、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算する演算処理部と、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価する評価部と、
を備える、情報処理装置。 - 前記マーカ制御部は、前記注視点マーカを表示した状態で、予め設定された前記キャリブレーション点に順に移動させる、請求項1に記載の情報処理装置。
- 前記マーカ制御部は、移動先の前記キャリブレーション点に近づくほど移動速度が遅くなるように前記注視点マーカを移動させる、請求項2に記載の情報処理装置。
- 前記演算処理部は、
演算した現在の光軸ベクトルと、光軸ベクトルの履歴に基づき算出された光軸ベクトルの平均とのなす角が、所定の角度より大きいか否かを判定し、
前記なす角が所定の角度より大きい場合、演算した現在の前記光軸ベクトルを採用しない、請求項1に記載の情報処理装置。 - 前記演算処理部は、
演算した現在の光軸ベクトルと、ユーザの瞳孔中心から前記注視点マーカが表示されているキャリブレーション点へのマーカベクトルとのなす角が所定の角度以下であるか否かに基づいて、演算した現在の光軸ベクトルのばらつきを判定し、
前記なす角が所定の角度より大きい場合、演算した現在の前記光軸ベクトルを採用しない、請求項1に記載の情報処理装置。 - 前記演算処理部は、ユーザの左右の瞳孔の大きさの比が所定の値以上であるとき、演算した前記光軸ベクトルを採用しない、請求項5に記載の情報処理装置。
- 前記マーカ制御部は、前記演算処理部により演算した前記光軸ベクトルが採用されないとき、前記注視点マーカの表示位置を表示領域の中央側へ移動させる、請求項4に記載の情報処理装置。
- 前記評価部は、ユーザの瞳孔中心から前記注視点マーカが表示されているキャリブレーション点へのマーカベクトルと、演算された光軸ベクトルとの相関関係に基づいて、すべての前記キャリブレーション点において演算された光軸ベクトルのばらつきを判定する、請求項1に記載の情報処理装置。
- 前記評価部により前記光軸ベクトルと前記マーカベクトルとの相関関係を表す相関係数が所定の閾値を下回ったとき、
前記マーカ制御部は、前記キャリブレーション点を表示領域の中央に寄せた位置に設定し、再度キャリブレーションを実行する、請求項8に記載の情報処理装置。 - 前記演算処理部は、対となる複数の光源から照射された光による輝点を検出する、請求項1に記載の情報処理装置。
- 情報処理装置により、
アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させること、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算すること、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価すること、
とを含む、情報処理方法。 - コンピュータを、
アイウェア端末のキャリブレーション時に、前記アイウェア端末の表示部に表示される注視点マーカの表示位置を変化させるマーカ制御部と、
前記アイウェア端末を装着するユーザの眼に光源から光が照射され、キャリブレーション点に前記注視点マーカが表示されているときに撮影されたユーザの眼を含む撮影画像に基づいて、瞳孔角膜反射法により、ユーザの視線方向を表す光軸ベクトルを演算する演算処理部と、
複数の前記キャリブレーション点について演算された光軸ベクトルのばらつきを評価する評価部と、
を備える、情報処理装置として機能させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014254720 | 2014-12-17 | ||
JP2014254720 | 2014-12-17 | ||
PCT/JP2015/075894 WO2016098406A1 (ja) | 2014-12-17 | 2015-09-11 | 情報処理装置、情報処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016098406A1 true JPWO2016098406A1 (ja) | 2017-09-28 |
JP6601417B2 JP6601417B2 (ja) | 2019-11-06 |
Family
ID=56126308
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016564705A Active JP6601417B2 (ja) | 2014-12-17 | 2015-09-11 | 情報処理装置、情報処理方法及びプログラム |
Country Status (6)
Country | Link |
---|---|
US (2) | US10452137B2 (ja) |
EP (1) | EP3236338B1 (ja) |
JP (1) | JP6601417B2 (ja) |
KR (1) | KR102469507B1 (ja) |
CN (2) | CN107003752B (ja) |
WO (1) | WO2016098406A1 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102015204283A1 (de) * | 2015-03-10 | 2016-09-15 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Erfassung der Blickrichtung einer Person |
US10466780B1 (en) * | 2015-10-26 | 2019-11-05 | Pillantas | Systems and methods for eye tracking calibration, eye vergence gestures for interface control, and visual aids therefor |
KR102567431B1 (ko) | 2016-01-19 | 2023-08-14 | 매직 립, 인코포레이티드 | 눈 이미지 수집, 선택 및 결합 |
JP6963820B2 (ja) * | 2016-08-12 | 2021-11-10 | 国立大学法人静岡大学 | 視線検出装置 |
CN106339087B (zh) * | 2016-08-29 | 2019-01-29 | 上海青研科技有限公司 | 一种基于多维坐标的眼球追踪方法及其装置 |
EP3631567B1 (en) | 2017-05-31 | 2022-09-21 | Magic Leap, Inc. | Eye tracking calibration techniques |
JP6403836B1 (ja) * | 2017-06-08 | 2018-10-10 | 株式会社ナックイメージテクノロジー | 視機能検査装置、視機能訓練装置及び方法 |
KR101857466B1 (ko) * | 2017-06-16 | 2018-05-15 | 주식회사 비주얼캠프 | 헤드 마운트 디스플레이 및 그 캘리브레이션 방법 |
JP2019021049A (ja) * | 2017-07-18 | 2019-02-07 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP6971686B2 (ja) * | 2017-08-02 | 2021-11-24 | 株式会社Jvcケンウッド | 視線検出装置及び視線検出方法 |
WO2019154509A1 (en) | 2018-02-09 | 2019-08-15 | Pupil Labs Gmbh | Devices, systems and methods for predicting gaze-related parameters |
WO2019154511A1 (en) | 2018-02-09 | 2019-08-15 | Pupil Labs Gmbh | Devices, systems and methods for predicting gaze-related parameters using a neural network |
US11393251B2 (en) | 2018-02-09 | 2022-07-19 | Pupil Labs Gmbh | Devices, systems and methods for predicting gaze-related parameters |
US11194403B2 (en) * | 2018-02-19 | 2021-12-07 | Murakami Corporation | Reference position setting method and virtual image display device |
CN109144267A (zh) * | 2018-09-03 | 2019-01-04 | 中国农业大学 | 人机交互方法及装置 |
US11537202B2 (en) | 2019-01-16 | 2022-12-27 | Pupil Labs Gmbh | Methods for generating calibration data for head-wearable devices and eye tracking system |
WO2020236827A1 (en) * | 2019-05-20 | 2020-11-26 | Magic Leap, Inc. | Systems and techniques for estimating eye pose |
US11676422B2 (en) | 2019-06-05 | 2023-06-13 | Pupil Labs Gmbh | Devices, systems and methods for predicting gaze-related parameters |
CN110347257A (zh) * | 2019-07-08 | 2019-10-18 | 北京七鑫易维信息技术有限公司 | 眼球追踪设备的校准方法、装置、设备和存储介质 |
JP7342978B2 (ja) * | 2020-02-10 | 2023-09-12 | 日本電気株式会社 | 視線推定システム、視線推定方法、及びコンピュータプログラム |
JP7444358B2 (ja) | 2020-02-18 | 2024-03-06 | 学校法人明治大学 | 眼球運動測定装置、キャリブレーションシステム、眼球運動測定方法及び眼球運動測定プログラム |
CN114296548B (zh) * | 2021-12-14 | 2023-03-24 | 杭州朱道实业有限公司 | 一种展览用智能移动识别信息系统 |
CN114511655B (zh) * | 2022-02-16 | 2022-11-04 | 深圳市恒必达电子科技有限公司 | 一种带气味复现的vr/ar体感装置和气味形成系统 |
Family Cites Families (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05333259A (ja) * | 1992-06-02 | 1993-12-17 | Canon Inc | 視線検出手段を有した光学装置 |
FR2715479B1 (fr) * | 1994-01-25 | 1996-03-15 | Sextant Avionique | Dispositif de contrôle de réglage de position et d'orientation d'un casque par rapport à la tête d'un porteur du casque. |
US6578962B1 (en) * | 2001-04-27 | 2003-06-17 | International Business Machines Corporation | Calibration-free eye gaze tracking |
JP2002345756A (ja) | 2001-05-25 | 2002-12-03 | Canon Inc | 視線検出装置及び光学機器 |
WO2004034178A2 (en) * | 2002-10-11 | 2004-04-22 | Laboratories For Information Technology | Statistical data analysis tool |
JP2004129927A (ja) * | 2002-10-11 | 2004-04-30 | Canon Inc | 視線検出装置 |
CA2545202C (en) * | 2003-11-14 | 2014-01-14 | Queen's University At Kingston | Method and apparatus for calibration-free eye tracking |
US7963652B2 (en) * | 2003-11-14 | 2011-06-21 | Queen's University At Kingston | Method and apparatus for calibration-free eye tracking |
WO2005063114A1 (ja) * | 2003-12-25 | 2005-07-14 | National University Corporation Shizuoka University | 視線検出方法および装置ならびに三次元視点計測装置 |
JP2005245791A (ja) * | 2004-03-04 | 2005-09-15 | Olympus Corp | 視線方向検出装置 |
US7686451B2 (en) * | 2005-04-04 | 2010-03-30 | Lc Technologies, Inc. | Explicit raytracing for gimbal-based gazepoint trackers |
JP5167545B2 (ja) * | 2006-03-31 | 2013-03-21 | 国立大学法人静岡大学 | 視点検出装置 |
JP5163982B2 (ja) * | 2008-06-16 | 2013-03-13 | 国立大学法人神戸大学 | 視線計測装置、視線計測プログラム、視線計測方法、および視線計測装置用ディスプレイ |
CN102149325B (zh) * | 2008-09-26 | 2013-01-02 | 松下电器产业株式会社 | 视线方向判定装置及视线方向判定方法 |
DK2389095T3 (da) * | 2009-01-26 | 2014-11-17 | Tobii Technology Ab | Detektering af blikpunkt hjulpet af optiske referencesignaler |
US20110214082A1 (en) * | 2010-02-28 | 2011-09-01 | Osterhout Group, Inc. | Projection triggering through an external marker in an augmented reality eyepiece |
JP5728866B2 (ja) * | 2010-09-24 | 2015-06-03 | ソニー株式会社 | 情報処理装置、情報処理端末、情報処理方法およびコンピュータプログラム |
JP5466610B2 (ja) | 2010-09-27 | 2014-04-09 | パナソニック株式会社 | 視線推定装置 |
US8885877B2 (en) * | 2011-05-20 | 2014-11-11 | Eyefluence, Inc. | Systems and methods for identifying gaze tracking scene reference locations |
CA2750287C (en) * | 2011-08-29 | 2012-07-03 | Microsoft Corporation | Gaze detection in a see-through, near-eye, mixed reality display |
US9213163B2 (en) * | 2011-08-30 | 2015-12-15 | Microsoft Technology Licensing, Llc | Aligning inter-pupillary distance in a near-eye display system |
US9025252B2 (en) * | 2011-08-30 | 2015-05-05 | Microsoft Technology Licensing, Llc | Adjustment of a mixed reality display for inter-pupillary distance alignment |
US8870654B2 (en) * | 2011-11-23 | 2014-10-28 | Sony Computer Entertainment America Llc | Gaming controller |
JP5873362B2 (ja) * | 2012-03-13 | 2016-03-01 | 日本放送協会 | 視線誤差補正装置、そのプログラム及びその方法 |
JP2014064634A (ja) | 2012-09-25 | 2014-04-17 | Kyocera Corp | 画像処理装置および視線特定装置ならびに瞳画像検出プログラムおよび方法 |
JP5935640B2 (ja) * | 2012-10-01 | 2016-06-15 | ソニー株式会社 | 情報処理装置、表示制御方法及びプログラム |
JP6157165B2 (ja) | 2013-03-22 | 2017-07-05 | キヤノン株式会社 | 視線検出装置及び撮像装置 |
GB201305726D0 (en) * | 2013-03-28 | 2013-05-15 | Eye Tracking Analysts Ltd | A method for calibration free eye tracking |
EP2790126B1 (en) * | 2013-04-08 | 2016-06-01 | Cogisen SRL | Method for gaze tracking |
CN103353790B (zh) * | 2013-06-26 | 2016-09-14 | 林大伟 | 光线寻迹方法与装置 |
US9727135B2 (en) * | 2014-04-30 | 2017-08-08 | Microsoft Technology Licensing, Llc | Gaze calibration |
-
2015
- 2015-09-11 WO PCT/JP2015/075894 patent/WO2016098406A1/ja active Application Filing
- 2015-09-11 CN CN201580067290.4A patent/CN107003752B/zh active Active
- 2015-09-11 US US15/531,963 patent/US10452137B2/en active Active
- 2015-09-11 JP JP2016564705A patent/JP6601417B2/ja active Active
- 2015-09-11 CN CN202010175536.2A patent/CN111493809B/zh active Active
- 2015-09-11 KR KR1020177013177A patent/KR102469507B1/ko active IP Right Grant
- 2015-09-11 EP EP15869614.6A patent/EP3236338B1/en active Active
-
2019
- 2019-07-24 US US16/521,320 patent/US11635806B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN111493809A (zh) | 2020-08-07 |
WO2016098406A1 (ja) | 2016-06-23 |
US11635806B2 (en) | 2023-04-25 |
EP3236338A4 (en) | 2018-12-12 |
EP3236338A1 (en) | 2017-10-25 |
JP6601417B2 (ja) | 2019-11-06 |
EP3236338B1 (en) | 2019-12-18 |
US20190346920A1 (en) | 2019-11-14 |
CN107003752B (zh) | 2020-04-10 |
KR20170095194A (ko) | 2017-08-22 |
KR102469507B1 (ko) | 2022-11-22 |
CN111493809B (zh) | 2023-06-27 |
US20170329400A1 (en) | 2017-11-16 |
US10452137B2 (en) | 2019-10-22 |
CN107003752A (zh) | 2017-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6601417B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US10893801B2 (en) | Eye tracking system and method to detect the dominant eye | |
CN112805659A (zh) | 通过用户分类为多深度平面显示系统选择深度平面 | |
JPWO2017014137A1 (ja) | 眼球観察装置、アイウェア端末、視線検出方法及びプログラム | |
WO2012137801A1 (ja) | 入力装置及び入力方法並びにコンピュータプログラム | |
US11822718B2 (en) | Display systems and methods for determining vertical alignment between left and right displays and a user's eyes | |
US11789262B2 (en) | Systems and methods for operating a head-mounted display system based on user identity | |
JP7081599B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
CN114391117A (zh) | 眼睛跟踪延迟增强 | |
JP2019215688A (ja) | 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム | |
US20210096368A1 (en) | Head-mounted display apparatus and method employing dynamic eye calibration | |
JP6507252B2 (ja) | 機器操作装置、機器操作方法、及び電子機器システム | |
US20190104231A1 (en) | Image display system, image display method, and image display program | |
JPWO2018220963A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2018120299A (ja) | 視線検出用コンピュータプログラム、視線検出装置及び視線検出方法 | |
EP4120052A1 (en) | Head-mountable display systems and methods | |
JP2020162747A (ja) | 情報処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180813 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180813 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190910 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190923 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6601417 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |