JP2019068932A - 視線検出装置及び視線検出プログラム - Google Patents
視線検出装置及び視線検出プログラム Download PDFInfo
- Publication number
- JP2019068932A JP2019068932A JP2017196295A JP2017196295A JP2019068932A JP 2019068932 A JP2019068932 A JP 2019068932A JP 2017196295 A JP2017196295 A JP 2017196295A JP 2017196295 A JP2017196295 A JP 2017196295A JP 2019068932 A JP2019068932 A JP 2019068932A
- Authority
- JP
- Japan
- Prior art keywords
- image
- user
- gaze
- display
- reflected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Eye Examination Apparatus (AREA)
Abstract
【課題】ヘッドマウントディスプレイ等の装置において、簡易且つ安価な構成でユーザの視線を検出できる視線検出装置を提供する。【解決手段】視線検出装置10は、所定の第1画像をディスプレイDに表示させる表示制御部11と、ユーザの目の少なくとも一部を含む領域を撮像して得られた画像であって、ユーザの目により反射された第1画像の反射像を含む画像である第2画像を取得する画像取得部12と、第2画像に含まれる反射像の第1画像に対する歪みに基づいてユーザの視線方向を特定する視線特定部13と、を備える。【選択図】図2
Description
本発明は、視線検出装置及び視線検出プログラムに関する。
近年、安価なヘッドマウントディスプレイが普及してきており、そのためのコンテンツも一般に普及している。ヘッドマウントディスプレイにおける操作入力は、主に、コントローラ及びユーザのジェスチャの検出等により行われる。また、操作入力の方法の一つとして、ユーザの視線の検出に基づく入力がある。例えば、ユーザの正面に配置されたモニタから照射された光がユーザの目の黒目部分に写っているか否かに基づいて、ユーザの視線がモニタの方向に向いているか否かを検出する視線検出方法が知られている(例えば、特許文献1参照)。また、ヘッドマウントディスプレイにおいて、光源から照射されユーザの眼で反射された非可視光を撮像して視線方向を検出する技術が知られている(例えば、特許文献2参照)。
しかしながら、ヘッドマウントディスプレイにおいて、ユーザの視線を操作入力に用いるためには、専用のハードウェアが必要であり、そのコストが高かった。特許文献2に記載された技術においても、所定の非可視光を照射する専用の光源及び撮像装置が必要であり、コストが嵩んでいた。
そこで、本発明は、上記問題点に鑑みてなされたものであり、ヘッドマウントディスプレイ等の装置において、簡易且つ安価な構成でユーザの視線を検出できる視線検出装置及び視線検出プログラムを提供することを目的とする。
上記課題を解決するために、本発明の一形態に係る視線検出装置は、所定の第1画像を表示装置に表示させる表示制御部と、ユーザの目の少なくとも一部を含む領域を撮像して得られた画像であって、ユーザの目により反射された第1画像の反射像を含む画像である第2画像を取得する画像取得部と、第2画像に含まれる反射像の第1画像に対する歪みに基づいてユーザの視線方向を特定する視線特定部と、を備える。
また、本発明の一形態に係る視線検出プログラムは、コンピュータに、所定の第1画像を表示装置に表示させる表示制御機能と、ユーザの目の少なくとも一部を含む領域を撮像して得られた画像であって、ユーザの目により反射された第1画像の反射像を含む画像である第2画像を取得する画像取得機能と、第2画像に含まれる反射像の第1画像に対する歪みに基づいてユーザの視線方向を特定する視線特定機能と、を実現させる。
上記の形態によれば、表示装置に表示させた所定の第1画像の反射像が、ユーザの目を撮像することにより取得される。反射像の形状における第1画像の形状に対する歪みは、ユーザの視線方向が反映されているので、反射像の歪みに基づいてユーザの視線方向を特定できる。これにより、所定の画像の表示及びユーザの目の撮像のための構成の他に特段の構成を必要としないので、簡易かつ安価な構成によりユーザの視線方向を特定できる。さらに、ユーザの視線方向の特定により、表示装置の画面におけるユーザの注視点を特定できるので、注視点の位置に基づく種々の制御を実施できる。
ヘッドマウントディスプレイ等の装置において、簡易且つ安価な構成でユーザの視線を検出できる視線検出装置及び視線検出プログラムを提供することが可能となる。
本発明に係る視線検出装置の実施形態について図面を参照して説明する。なお、可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
図1は、本実施形態に係る視線検出装置10を含むヘッドマウントディスプレイ1を示す図である。図1に示すように、ヘッドマウントディスプレイ1は、略直方体形状の筐体2により構成されており、筐体2の一側面にはユーザが覗くためのレンズLが設けられている。レンズが設けられた側面に対向する側面の筐体2の内側部に視線検出装置10が設けられている。なお、視線検出装置は、レンズ及び筐体を含む装置として構成されてもよい。
本実施形態では、視線検出装置10は、高機能携帯電話機(スマートフォン)や携帯電話機などの携帯端末として構成される。視線検出装置10は、ディスプレイD(表示装置)及びカメラCを備える。視線検出装置10は、映像を含むコンテンツを再生できる。ディスプレイDは、再生されたコンテンツに含まれる映像を表示する。ユーザは、レンズLから筐体2の内部を覗くことにより、ディスプレイDを視認できる。視線検出装置10に備えられたカメラCは、レンズLを覗いているユーザの少なくとも片方の目を撮像できる。
図2は、視線検出装置10の機能的構成を示すブロック図である。図2に示すように、視線検出装置10は、機能的には、表示制御部11、画像取得部12、及び視線特定部13を備える。また、前述のとおり、視線検出装置10は、ディスプレイD及びカメラCを備える。なお、視線検出装置10の各機能部については、後に詳述する。
なお、図2に示したブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び/又は論理的に結合した1つの装置により実現されてもよいし、物理的及び/又は論理的に分離した2つ以上の装置を直接的及び/又は間接的に(例えば、有線及び/又は無線)で接続し、これら複数の装置により実現されてもよい。
例えば、本発明の一実施の形態における視線検出装置10は、コンピュータとして機能してもよい。図3は、本実施形態に係る視線検出装置10のハードウェア構成の一例を示す図である。視線検出装置10は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、バス1007などを含むコンピュータ装置として構成されてもよい。
なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。視線検出装置10のハードウェア構成は、図3に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
視線検出装置10における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることで、プロセッサ1001が演算を行い、通信装置1004による通信や、メモリ1002及びストレージ1003におけるデータの読み出し及び/又は書き込みを制御することで実現される。
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)で構成されてもよい。例えば、図2に示した各機能部11〜13などは、プロセッサ1001で実現されてもよい。
また、プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュールやデータを、ストレージ1003及び/又は通信装置1004からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施の形態で説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、視線検出装置10の各機能部11〜13は、メモリ1002に格納され、プロセッサ1001で動作する制御プログラムによって実現されてもよい。上述の各種処理は、1つのプロセッサ1001で実行される旨を説明してきたが、2以上のプロセッサ1001により同時又は逐次に実行されてもよい。プロセッサ1001は、1以上のチップで実装されてもよい。なお、プログラムは、電気通信回線を介してネットワークから送信されても良い。
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(ElectricallyErasable Programmable ROM)、RAM(Random Access Memory)などの少なくとも1つで構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、本発明の一実施の形態に係る視線検出方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、CD−ROM(Compact Disc ROM)などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Blu−ray(登録商標)ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー(登録商標)ディスク、磁気ストリップなどの少なくとも1つで構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。上述の記憶媒体は、例えば、メモリ1002及び/又はストレージ1003を含むデータベース、サーバその他の適切な媒体であってもよい。
通信装置1004は、有線及び/又は無線ネットワークを介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キーボード、マウス、マイクロフォン、スイッチ、ボタン、センサなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えば、ディスプレイ、スピーカー、LEDランプなど)である。なお、入力装置1005及び出力装置1006は、一体となった構成(例えば、タッチパネル)であってもよい。
また、プロセッサ1001やメモリ1002などの各装置は、情報を通信するためのバス1007で接続される。バス1007は、単一のバスで構成されてもよいし、装置間で異なるバスで構成されてもよい。
また、視線検出装置10は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つで実装されてもよい。
再び図2を参照して、視線検出装置10の各機能部について説明する。表示制御部11は、所定の第1画像をディスプレイDに表示させる。図4は、ディスプレイDに表示された第1画像の例を示す図である。第1画像は、ユーザの目により反射させた反射像を生成するための画像である。図4に示す例では、ディスプレイDに表示された第1画像A1は、ディスプレイDの全面に亘る単色の長方形を呈している。後述するように、第1画像の形状は、ユーザの目により反射された反射像をカメラCで撮像可能であれば、限定されない。第1画像の形状は、長方形に限らず、その他の単一の図形であってもよいし、複数の図形により構成されてもよい。
画像取得部12は、ユーザの目により反射された第1画像の反射像を含む画像である第2画像を取得する。具体的には、画像取得部12は、カメラCにより撮像された画像であって、ユーザの目の少なくとも一部を含む領域を撮像して得られた画像を第2画像として取得する。
図5は、カメラCにより撮像された第2画像Bの例を示す図である。ただし、図5に示す例では、第1画像の反射像は示されていない。図5に示すように、第2画像Bは、ユーザの目Eを含む。画像取得部12は、例えば図5に示されるような第2画像Bを取得する。
視線特定部13は、第2画像に含まれる反射像の第1画像に対する歪みに基づいてユーザの視線方向を特定する。上述のとおり、画像取得部12は、ユーザの目を撮像することにより、第1画像の反射像を含む第2画像を取得できる。反射像の形状は、ユーザの視線方向に応じて、第1画像の形状に対して歪む。
図6は、視線方向に応じた反射像の形状の歪みの例を示す図である。なお、図6は、第1画像が、図4に示したような、単色の長方形を呈する場合の例である。図6では、ユーザの目に向かって撮像された画像に含まれる反射像の例が示されている。図6に示すように、視線方向が左の方向である場合には、ユーザの目E1により反射された反射像F1は、左辺が右辺より長くなるように歪む。また、視線方向が中央の方向である場合には、ユーザの目E2により反射された反射像F2の左辺と右辺とは略等しい。また、視線方向が右の方向である場合には、ユーザの目E3により反射された反射像F3は、左辺が右辺より短くなるように歪む。
また、視線方向が上方向である場合には、反射像は、下辺が上辺より長くなるように歪み、視線方向が下方向である場合には、反射像は、下辺が上辺より短くなるように歪む。
より具体的には、視線特定部13は、第1画像が長方形である場合には、四辺形を呈する反射像の各辺の長さの比に基づいて視線方向を特定する。この場合の視線方向の特定について、図7を参照して具体的に説明する。図7は、反射像Fの例を示す図である。
視線特定部13は、画像取得部12により取得された第2画像に対して、例えばグレースケール処理を施し、所定の閾値を用いて明度の2値化処理を行い、輪郭抽出を行うことにより反射像Fを抽出する。このように、第2画像からの反射像Fの抽出は、当業者に周知の手法により可能である。抽出された反射像Fは、四辺形を呈しており、左辺l1、右辺l2、上辺l3及び下辺l4を有する。
視線特定部13は、左辺l1、右辺l2、上辺l3及び下辺l4の長さの比を、第1画像に対する反射像の歪みを表す特徴量として取得する。例えば、この特徴量と視線方向とを予め対応付けた対応情報を、視線検出装置10がアクセス可能な記憶装置に記憶させておくことにより、視線特定部13は、この対応情報を参照して、反射像Fの歪みに関する特徴量に基づいて、ユーザの視線方向を特定できる。さらに、視線特定部13は、視線方向を表す視線ベクトル、反射像Fが形成されている目Eの位置とディスプレイDとの位置関係に基づいて、ディスプレイDにおけるユーザの注視点を特定できる。
なお、図7を参照して説明した例では、四辺形を呈する反射像Fの各辺の長さの比に基づいて視線方向を特定することとしているが、各頂点の角度に基づいて視線方向を特定することとしてもよい。
次に、図8を参照して、視線方向の特定の処理の他の例を説明する。図8は、第1画像の他の例を示す図である。図8に示す第1画像A2は、複数の図形A21,A22,A23,A24を含む。視線特定部13は、第1画像が複数の所定の図形を含む場合に、反射像に含まれる複数の図形の位置関係に基づいて視線方向を特定することができる。
具体的には、表示制御部11は、図形A21,A22,A23,A24の中心座標が、長方形の頂点に位置するような第1画像A2をディスプレイDに表示させる。画像取得部12は、レンズLを覗くユーザの目により反射された第1画像A2の反射像を含む第2画像を取得する。
反射像において、図形A21,A22,A23,A24にそれぞれ対応する複数の図形の中心座標を頂点とする四辺形が形成される。即ち、視線特定部13は、反射像に含まれる、図形A21,A22,A23,A24にそれぞれ対応する複数の図形の位置関係を特徴量として取得することにより、第1画像A2の形状に対する反射像の歪みを取得できる。視線特定部13は、このように取得された反射像の歪みに基づいて、図7を参照して説明した例と同様に、視線方向を特定できる。
図9は、本実施形態における反射像の取得における課題を説明する図である。図9(a)は、ディスプレイDから発せられた光がカメラCに達するまでの軌跡を模式的に示す図である。図9(b)は、ユーザの目により反射された第1画像の反射像を示す図である。
図1を参照して説明したとおり、ヘッドマウントディスプレイ1の筐体2の側面には、レンズLが設けられている。視線検出装置10は、ディスプレイDとユーザの目との間に設けられたレンズLを含む装置として構成されてもよい。このような場合において、図9(a)に示すように、ディスプレイDから発せられた光は、ユーザの目EYのみならず、レンズLの表面により反射される。具体的には、符号r11に示される光は、レンズLにおけるユーザ側表面において反射されてカメラCに到達する。また、符号r12に示される光は、レンズLにおけるディスプレイD側表面において反射されてカメラCに到達する。
このように反射光がカメラCに到達する場合に、図9(b)に示すように、ユーザの目Eを撮像した第2画像Bにおいて、複数の反射像が形成されることとなる。具体的には、第2画像Bは、ユーザの目EYにより反射された反射像F11の他に、符号r11に示される反射光に基づく反射像F01及び符号r12に示される反射光に基づく反射像F02を含むこととなる。
このように、ディスプレイDに表示された第1画像の反射像が重複して第2画像Bに含まれる場合には、視線特定部13は、第1画像の形状に対する反射像の形状の歪みを適切に算出することができない。そこで、本実施形態の視線検出装置10では、光の反射を低減させる反射防止加工が表面に施されたレンズLが適用されることとしてもよい。これにより、ユーザの目EYにより反射された反射像のみを含む第2画像Bを得ることができる。
次に、図10を参照して、視線検出装置10における視線検出方法について説明する。図10は、本実施形態の視線検出方法の処理内容を示すフローチャートである。
ステップS1において、視線検出装置10は、視線検出機能を備えるコンテンツを起動する。ステップS2において、表示制御部11は、所定の第1画像をディスプレイDに表示させる。
ステップS3において、カメラCは、ユーザの目を撮像する。続くステップS4において、画像取得部12は、ステップS2においてカメラCにより撮像された画像を第2画像として取得する。この第2画像は、ユーザの目による反射された第1画像の反射像を含む。
ステップS5において、視線特定部13は、第2画像に含まれる第1画像の反射像の歪みを算出する。そして、ステップS6において、視線特定部13は、ステップS5において算出された反射像の歪みに基づいて、ユーザの視線方向を特定する。
ステップS7において、視線検出装置10は、ステップS1において起動させたコンテンツを終了させるか否かを判断する。コンテンツを終了させると判断された場合には処理を終了させる。一方、コンテンツを終了させると判断されなかった場合には処理はステップS2に戻る。
次に、コンピュータを、本実施形態の視線検出装置10として機能させるための制御プログラムについて説明する。図11は、視線検出プログラムP1の構成を示す図である。
視線検出プログラムP1は、視線検出装置10における視線検出処理を統括的に制御するメインモジュールm10、表示制御モジュールm11、画像取得モジュールm12及び視線特定モジュールm13を備えて構成される。そして、各モジュールm11〜m13により、視線検出装置10における表示制御部11、画像取得部12及び視線特定部13のための各機能が実現される。なお、視線検出プログラムP1は、通信回線等の伝送媒体を介して伝送される態様であってもよいし、図11に示されるように、記録媒体M1に記憶される態様であってもよい。
以上説明した本実施形態の視線検出装置10、視線検出方法及び視線検出プログラムP1では、ディスプレイDに表示させた所定の第1画像の反射像が、ユーザの目を撮像することにより取得される。反射像の形状における第1画像の形状に対する歪みは、ユーザの視線方向が反映されているので、反射像の歪みに基づいてユーザの視線方向を特定できる。これにより、所定の第1画像の表示及びユーザの目の撮像のための構成の他に特段の構成を必要としないので、簡易かつ安価な構成によりユーザの視線方向を特定できる。さらに、ユーザの視線方向の特定により、ディスプレイDの画面におけるユーザの注視点を特定できるので、注視点の位置に基づく種々の制御を実施できる。
また、別の形態に係る視線検出装置では、第1画像は、長方形であり、反射像は、四辺形を呈することとしてもよい。
上記形態によれば、単純な形状の長方形を第1画像として表示させることにより、視線検出のための構成を実現できる。
また、別の形態に係る視線検出装置では、視線特定部は、反射像の各辺の長さの比に基づいて視線方向を特定することとしてもよい。
上記形態によれば、四辺形を呈する反射像において容易に測定可能な各辺の長さの比を視線方向の算出に用いるので、容易に視線方向を特定できる。
また、別の形態に係る視線検出装置では、第1画像は、複数の所定の図形を含み、視線特定部は、反射像に含まれる複数の図形の位置関係に基づいて視線方向を特定することとしてもよい。
上記形態によれば、反射像に含まれる複数の図形の位置関係に基づいて、第1画像に対する反射像の歪みを取得できるので、容易にユーザの視線方向を特定できる。
また、別の形態に係る視線検出装置では、表示装置とユーザの目との間に設けられたレンズを含み、レンズの表面に、光の反射を低減させる反射防止加工が施されていることとしてもよい。
第1画像が表示される表示装置とユーザの目との間にレンズが設けられている場合には、レンズの表面において光の反射が発生するので、第2画像において、ユーザの目により反射された反射像の他に、レンズ表面により反射された反射像が発生する可能性がある。上記形態によれば、レンズの表面に反射防止加工が施されているので、ユーザの目により反射された反射像のみを含む第2画像を得ることができる。
以上、本実施形態について詳細に説明したが、当業者にとっては、本実施形態が本明細書中に説明した実施形態に限定されるものではないということは明らかである。本実施形態は、特許請求の範囲の記載により定まる本発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本明細書の記載は、例示説明を目的とするものであり、本実施形態に対して何ら制限的な意味を有するものではない。
本明細書で説明した各態様/実施形態は、LTE(Long Term Evolution)、LTE−A(LTE-Advanced)、SUPER 3G、IMT−Advanced、4G、5G、FRA(Future Radio Access)、W−CDMA(登録商標)、GSM(登録商標)、CDMA2000、UMB(Ultra Mobile Broadband)、IEEE 802.11(Wi−Fi)、IEEE 802.16(WiMAX)、IEEE 802.20、UWB(Ultra-WideBand)、Bluetooth(登録商標)、その他の適切なシステムを利用するシステム及び/又はこれらに基づいて拡張された次世代システムに適用されてもよい。
本明細書で説明した各態様/実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本明細書で説明した方法については、例示的な順序で様々なステップの要素を提示しており、提示した特定の順序に限定されない。
情報等は、上位レイヤ(または下位レイヤ)から下位レイヤ(または上位レイヤ)へ出力され得る。複数のネットワークノードを介して入出力されてもよい。
入出力された情報等は特定の場所(例えば、メモリ)に保存されてもよいし、管理テーブルで管理してもよい。入出力される情報等は、上書き、更新、または追記され得る。出力された情報等は削除されてもよい。入力された情報等は他の装置へ送信されてもよい。
判定は、1ビットで表される値(0か1か)によって行われてもよいし、真偽値(Boolean:trueまたはfalse)によって行われてもよいし、数値の比較(例えば、所定の値との比較)によって行われてもよい。
本明細書で説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的に行うものに限られず、暗黙的(例えば、当該所定の情報の通知を行わない)ことによって行われてもよい。
ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
また、ソフトウェア、命令などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア及びデジタル加入者回線(DSL)などの有線技術及び/又は赤外線、無線及びマイクロ波などの無線技術を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び/又は無線技術は、伝送媒体の定義内に含まれる。
本明細書で説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
なお、本明細書で説明した用語及び/又は本明細書の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。
本明細書で使用する「システム」および「ネットワーク」という用語は、互換的に使用される。
また、本明細書で説明した情報、パラメータなどは、絶対値で表されてもよいし、所定の値からの相対値で表されてもよいし、対応する別の情報で表されてもよい。
本明細書で使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。
本明細書で「第1の」、「第2の」などの呼称を使用した場合においては、その要素へのいかなる参照も、それらの要素の量または順序を全般的に限定するものではない。これらの呼称は、2つ以上の要素間を区別する便利な方法として本明細書で使用され得る。したがって、第1および第2の要素への参照は、2つの要素のみがそこで採用され得ること、または何らかの形で第1の要素が第2の要素に先行しなければならないことを意味しない。
「含む(include)」、「含んでいる(including)」、およびそれらの変形が、本明細書あるいは特許請求の範囲で使用されている限り、これら用語は、用語「備える(comprising)」と同様に、包括的であることが意図される。さらに、本明細書あるいは特許請求の範囲において使用されている用語「または(or)」は、排他的論理和ではないことが意図される。
本明細書において、文脈または技術的に明らかに1つのみしか存在しない装置である場合以外は、複数の装置をも含むものとする。
本開示の全体において、文脈から明らかに単数を示したものではなければ、複数のものを含むものとする。
1…ヘッドマウントディスプレイ、2…筐体、10…視線検出装置、11…表示制御部、12…画像取得部、13…視線特定部、C…カメラ、D…ディスプレイ、M1…記録媒体、m10…メインモジュール、m11…表示制御モジュール、m12…画像取得モジュール、m13…視線特定モジュール、P1…視線検出プログラム、L…レンズ。
Claims (6)
- 所定の第1画像を表示装置に表示させる表示制御部と、
ユーザの目の少なくとも一部を含む領域を撮像して得られた画像であって、前記ユーザの目により反射された前記第1画像の反射像を含む画像である第2画像を取得する画像取得部と、
前記第2画像に含まれる前記反射像の前記第1画像に対する歪みに基づいて前記ユーザの視線方向を特定する視線特定部と、
を備える視線検出装置。 - 前記第1画像は、長方形であり、
前記反射像は、四辺形を呈する、
請求項1に記載の視線検出装置。 - 前記視線特定部は、前記反射像の各辺の長さの比に基づいて視線方向を特定する、
請求項2に記載の視線検出装置。 - 前記第1画像は、複数の所定の図形を含み、
前記視線特定部は、前記反射像に含まれる複数の図形の位置関係に基づいて視線方向を特定する、
請求項1に記載の視線検出装置。 - 前記表示装置と前記ユーザの目との間に設けられたレンズを含み、
前記レンズの表面に、光の反射を低減させる反射防止加工が施されている、
請求項1〜3のいずれか一項に記載の視線検出装置。 - コンピュータに、
所定の第1画像を表示装置に表示させる表示制御機能と、
ユーザの目の少なくとも一部を含む領域を撮像して得られた画像であって、前記ユーザの目により反射された前記第1画像の反射像を含む画像である第2画像を取得する画像取得機能と、
前記第2画像に含まれる前記反射像の前記第1画像に対する歪みに基づいて前記ユーザの視線方向を特定する視線特定機能と、
を実現させる視線検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017196295A JP2019068932A (ja) | 2017-10-06 | 2017-10-06 | 視線検出装置及び視線検出プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017196295A JP2019068932A (ja) | 2017-10-06 | 2017-10-06 | 視線検出装置及び視線検出プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019068932A true JP2019068932A (ja) | 2019-05-09 |
Family
ID=66441678
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017196295A Pending JP2019068932A (ja) | 2017-10-06 | 2017-10-06 | 視線検出装置及び視線検出プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019068932A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021020388A1 (ja) * | 2019-07-31 | 2021-02-04 | 瑶一▲郎▼ 小林 | 眼球撮像装置および診断サポートシステム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007271563A (ja) * | 2006-03-31 | 2007-10-18 | Canon Inc | 位置姿勢計測方法及び装置 |
US20110182472A1 (en) * | 2008-07-08 | 2011-07-28 | Dan Witzner Hansen | Eye gaze tracking |
WO2017005608A1 (en) * | 2015-07-03 | 2017-01-12 | Essilor International (Compagnie Generale D'optique) | Methods and systems for augmented reality |
-
2017
- 2017-10-06 JP JP2017196295A patent/JP2019068932A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007271563A (ja) * | 2006-03-31 | 2007-10-18 | Canon Inc | 位置姿勢計測方法及び装置 |
US20110182472A1 (en) * | 2008-07-08 | 2011-07-28 | Dan Witzner Hansen | Eye gaze tracking |
WO2017005608A1 (en) * | 2015-07-03 | 2017-01-12 | Essilor International (Compagnie Generale D'optique) | Methods and systems for augmented reality |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021020388A1 (ja) * | 2019-07-31 | 2021-02-04 | 瑶一▲郎▼ 小林 | 眼球撮像装置および診断サポートシステム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108289161B (zh) | 电子设备及其图像捕捉方法 | |
US9412001B2 (en) | Method and computer-readable recording medium for recognizing object using captured image | |
US10771686B2 (en) | Method and terminal for acquire panoramic image | |
US9967444B2 (en) | Apparatus and method for capturing image in electronic device | |
US9965835B2 (en) | Defogging images and video | |
US20180350042A1 (en) | Image processing method and device, computer readable storage medium and electronic device | |
RU2731370C1 (ru) | Способ распознавания живого организма и терминальное устройство | |
US20150049946A1 (en) | Electronic device and method for adding data to image and extracting added data from image | |
KR20160016068A (ko) | 이미지 생성 방법 및 그 전자 장치 | |
CN110462617B (zh) | 用于通过多个相机认证生物数据的电子装置和方法 | |
US9767360B2 (en) | Image processing method and electronic device implementing the same | |
US20150243063A1 (en) | Method and apparatus for displaying biometric information | |
KR102482067B1 (ko) | 전자 장치 및 그의 동작 방법 | |
JP2018133019A (ja) | 情報処理システム、情報処理方法、およびプログラム | |
WO2018184260A1 (zh) | 文档图像的校正方法及装置 | |
US20110227945A1 (en) | Information processing device, information processing method, and program | |
KR20150141426A (ko) | 전자 장치 및 전자 장치에서의 이미지 처리 방법 | |
KR20150110032A (ko) | 영상데이터 처리 전자장치 및 방법 | |
KR20150113572A (ko) | 영상데이터를 획득하는 전자장치 및 방법 | |
JP2019068932A (ja) | 視線検出装置及び視線検出プログラム | |
CN108604128B (zh) | 一种处理方法及移动设备 | |
CN112446849A (zh) | 一种处理图片的方法及装置 | |
KR20160024208A (ko) | 전자 장치의 근접 감지 방법 및 그 전자 장치 | |
US20220083145A1 (en) | Information display apparatus using line of sight and gestures | |
KR102012043B1 (ko) | 미러 디스플레이 장치 및 그 동작 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200805 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210803 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220215 |