JP2024092949A - 視線検出装置 - Google Patents
視線検出装置 Download PDFInfo
- Publication number
- JP2024092949A JP2024092949A JP2023180846A JP2023180846A JP2024092949A JP 2024092949 A JP2024092949 A JP 2024092949A JP 2023180846 A JP2023180846 A JP 2023180846A JP 2023180846 A JP2023180846 A JP 2023180846A JP 2024092949 A JP2024092949 A JP 2024092949A
- Authority
- JP
- Japan
- Prior art keywords
- light sources
- light
- optical axis
- ired
- gaze
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 105
- 230000000007 visual effect Effects 0.000 title abstract 4
- 230000003287 optical effect Effects 0.000 claims abstract description 214
- 210000004087 cornea Anatomy 0.000 claims description 46
- 238000002834 transmittance Methods 0.000 claims description 16
- 239000000463 material Substances 0.000 claims description 4
- 210000001508 eye Anatomy 0.000 description 114
- 210000005252 bulbus oculi Anatomy 0.000 description 95
- 210000000744 eyelid Anatomy 0.000 description 50
- 238000005286 illumination Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 230000000694 effects Effects 0.000 description 10
- 210000003786 sclera Anatomy 0.000 description 9
- 230000004075 alteration Effects 0.000 description 8
- 235000019557 luminance Nutrition 0.000 description 6
- 238000000034 method Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 4
- 210000001747 pupil Anatomy 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 3
- 210000000887 face Anatomy 0.000 description 3
- 239000003973 paint Substances 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 206010020675 Hypermetropia Diseases 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004305 hyperopia Effects 0.000 description 1
- 201000006318 hyperopia Diseases 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 208000001491 myopia Diseases 0.000 description 1
- 230000004379 myopia Effects 0.000 description 1
- 239000005304 optical glass Substances 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
Images
Landscapes
- Eye Examination Apparatus (AREA)
Abstract
【課題】状況に依らず高精度に視線を検出することを可能にした視線検出装置を提供する。【解決手段】本発明の視線検出装置は、接眼レンズと、前記接眼レンズの縁に配置され、前記接眼レンズに対向する眼の画像を撮影する画像センサーと、前記接眼レンズの縁に沿って配置された複数の第1光源と、前記接眼レンズの縁に沿って配置された複数の第2光源とを有し、前記接眼レンズの光軸に垂直に交わる平面において、前記複数の第2光源のそれぞれを前記平面に投影した位置から前記光軸までの距離は、前記複数の第1光源のそれぞれを前記平面に投影した位置から前記光軸までの距離よりも長いことを特徴とする。【選択図】図8
Description
本発明は、視線検出装置に関する。
ユーザーの視線(視線位置や視線方向)を検出可能な様々な電子機器が実用化されている。例えば、仮想現実(VR)や拡張現実(AR)などの分野において、視線位置を検出し、視線位置に基づいてメニュー選択などの処理を行うヘッドマウントディスプレイが実用化されている。また、視線方向を検出し、検出した視線方向に基づいて測距点選択を行うカメラやビデオカメラなども実用化されている。
視線検出では、視線センサーはユーザーの目を撮像することによって、当該目の画像を取得する。このとき、接眼光学系の周囲に配置された光源がユーザーの目を照明する。光源からの光は角膜の表面で正反射し、視線センサーによって取得された画像に角膜反射像、いわゆるプルキンエ像(プルキニエ像)として映る。視線センサーによって取得された画像における眼球と角膜反射像の座標から、ユーザーの眼球が向く方向を算出することによって視線が検出される。
従来の電子機器(視線検出装置)では、レンズ系(光学系)の光軸の周りを一周取り囲むように複数の光源が配置されている。例えば、特許文献1には、レンズ系の光軸の周りを一周取り囲むように複数の光源が略等間隔で配置された電子機器が開示されている。
しかしながら、従来の視線検出(視線検出装置)では、視線センサーが取得した画像にプルキンエ像が正しく映らず、視線を高精度に検出できないことがある。
本発明は、状況に依らず高精度に視線を検出することを可能にした視線検出装置を提供することを目的とする。
本発明の視線検出装置は、接眼レンズと、前記接眼レンズの縁に配置され、前記接眼レンズに対向する眼の画像を撮影する画像センサーと、前記接眼レンズの縁に沿って配置された複数の第1光源と、前記接眼レンズの縁に沿って配置された複数の第2光源とを有し、前記接眼レンズの光軸に垂直に交わる平面において、前記複数の第2光源のそれぞれを前記平面に投影した位置から前記光軸までの距離は、前記複数の第1光源のそれぞれを前記平面に投影した位置から前記光軸までの距離よりも長いことを特徴とする。
本発明によれば、状況に依らず高精度に視線を検出することを可能にした視線検出装置を提供することができる。
(第1の実施形態)
以下、図1~5を参照して、本発明の第1の実施形態について説明する。第1の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
以下、図1~5を参照して、本発明の第1の実施形態について説明する。第1の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
図1は、第1の実施形態に係るヘッドマウントディスプレイのディスプレイユニット本体101の背面図であり、図2はディスプレイユニット本体101の斜視図である。図1は、ディスプレイユニット本体101をユーザー(ヘッドマウントディスプレイを装着したユーザー)の眼球側から見た状態を示している。
ディスプレイユニット本体101は、ユーザーの右目の視野を制限する右開口部145と、ユーザーの左目の視野を制限する左開口部146とを有する。右開口部145(右開口部内)には、表示光学系である右レンズ系102が設けられており、左開口部146(左開口部内)には、表示光学系である左レンズ系103が設けられている。右レンズ系102と左レンズ系103のそれぞれは一番下流(ユーザー側)に接眼レンズを有している。右開口部145および右レンズ系102は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の右目に対向するように配置される。左開口部146および左レンズ系103は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の左目に対向するように配置される。
図2に示すように、右レンズ系102の周りには、後述の視線検出ユニットを外側から見えないように隠す赤外透過窓104が設けられている。同様に、左レンズ系103の周りには赤外透過窓105が設けられている。視線検出は、赤外光(赤外線)を用いて行われる。赤外透過窓104と赤外透過窓105は、可視光を透過せず且つ赤外光を透過する材料を用いて構成されている。これによって、美観に優れ(内部のユニットが視認不可能)かつ視線検出が可能な構成を実現することができる。なお、可視光を多少透過しても、
可視光の透過率よりも赤外光の透過率が高ければ、内部のユニットが視認しにくくなるため同様の効果を得ることができるが、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていることが好ましい。また、本明細書及び本発明において、赤外光を透過するとは、入射した赤外光の全てを透過することをのみを指すものに限定されず、赤外光を多少遮蔽してもよい。なお、図1では、ディスプレイユニット本体101は、内部のユニットが見えるように赤外透過窓104と赤外透過窓105を取り外した状態になっている。
可視光の透過率よりも赤外光の透過率が高ければ、内部のユニットが視認しにくくなるため同様の効果を得ることができるが、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていることが好ましい。また、本明細書及び本発明において、赤外光を透過するとは、入射した赤外光の全てを透過することをのみを指すものに限定されず、赤外光を多少遮蔽してもよい。なお、図1では、ディスプレイユニット本体101は、内部のユニットが見えるように赤外透過窓104と赤外透過窓105を取り外した状態になっている。
図1に示すように、右開口部145(右レンズ系102)の縁には、右開口部145に対向する右目の方向を向くように、右視線センサー106が配置されている。同様に、左開口部146(左レンズ系103)の縁には、左開口部146に対向する左目の方向を向くように、左視線センサー107が配置されている。尚、右視線センサー106と左視線センサー107とは、ユーザーの目を撮影する画像センサーである。
図5は、右視線センサー106の内部構造を示す模式図である。右視線センサー106は視線センサーレンズ147と視線センサーチップ148を含んでいる。視線センサーレンズ147により視線センサーチップ148に結像した像を用いて、視線検出のための演算が行われる。右視線センサー106が有する視線センサーレンズ147の光軸147a(視線センサーレンズ光軸)が右開口部145に対向する右目の方向を向くように、右視線センサー106が配置される。左視線センサー107の内部構造は、右視線センサー106の内部構造と略同一である。左視線センサー107が有する視線センサーレンズ147の光軸147a(視線センサーレンズ光軸)が左開口部146に対向する左目の方向を向くように、左視線センサー107が配置される。
図1の説明に戻る。右視線センサー106は、右開口部145の中心(右レンズ系102の光軸)を中心として、9時の位置(真上から右回りに270度回転した位置)に配置されている。左視線センサー107は、左開口部146の中心(左レンズ系103の光軸)を中心として、3時の位置(真上から右回りに90度回転した位置)に配置されている。右視線センサー106と左視線センサー107は、略同一の高さ(上下方向の位置)に配置されている。右視線センサー106は右開口部145の左側(右目の目元付近)に配置され、左視線センサー107は左開口部146の右側(左目の目元付近)に配置される。
このように、右視線センサー106と左視線センサー107は、右レンズ系102の光軸と左レンズ系103の光軸とを通る水平線185上(右開口部145の中心と左開口部146の中心とを通る水平線上)に配置されている。
通常、ユーザー(ヘッドマウントディスプレイを装着したユーザー)のマブタは上下に開く。そのため、水平線185の方向から眼球を観察するように右視線センサー106と左視線センサー107を配置することで、視線検出の際に眼球がマブタにけられにくくなり、視線検出の成功率を高くすることができる。
図1では、右開口部145(右レンズ系102)の縁に沿って、眼球(右目)を照明する複数の光源として、複数の赤外発光ダイオード(右IRED)が配置されている。同様に、左開口部146(左レンズ系103)の縁に沿って、眼球(左目)を照明する複数の光源として、複数の赤外発光ダイオード(左IRED)が配置されている。
右開口部145(右レンズ系102)の周囲には、右IRED108,109,111~122が配置されている。右開口部145の中心(右レンズ系102の光軸)を中心として、右IRED108は10時、右IRED109は11時、右IRED111は1時、右IRED112は1時半、右IRED113は2時、右IRED114は2時半の位
置に配置されている。右IRED115は3時、右IRED116は3時半、右IRED117は4時、右IRED118は4時半、右IRED119は5時、右IRED120は6時、右IRED121は7時、右IRED122は8時の位置に配置されている。
置に配置されている。右IRED115は3時、右IRED116は3時半、右IRED117は4時、右IRED118は4時半、右IRED119は5時、右IRED120は6時、右IRED121は7時、右IRED122は8時の位置に配置されている。
左開口部146(左レンズ系103)の周囲には、左IRED123,124,126~137が配置されている。左開口部146の中心(左レンズ系103の光軸)を中心として、左IRED123は2時、左IRED124は1時、左IRED126は11時、左IRED127は10時半、左IRED128は10時、左IRED129は9時半の位置に配置されている。左IRED130は9時、左IRED131は8時半、左IRED132は8時、左IRED133は7時半、左IRED134は7時、左IRED135は6時、左IRED136は5時、左IRED137は4時の位置に配置されている。
第1の実施形態では、右開口部145の中心(右レンズ系102の光軸)を中心とした360度の範囲のうち、右開口部145の中心を挟んで右視線センサー106とは反対の側の範囲において、1度あたりの光源の数(角度密度)が最大となっている。図1では、右視線センサー106が配置されている9時の位置に対向する3時の位置を中心とした120度の範囲(±60度の範囲)に、15度ピッチ(0.0667個/度の角度密度)で9個の右IREDが配置されている。9個の右IREDは、1時、1時半、2時、2時半、3時、3時半、4時、4時半、および5時の位置に配置された右IRED111~119である。上記120度の範囲以外の範囲では、15度ピッチよりも大きいピッチ(0.0667個/度よりも小さい角度密度)で右IREDが配置されている。
右開口部145の中心を挟んで右視線センサー106とは反対の側の範囲(上記120度の範囲)に配置された右IREDの数は、残りの範囲に配置されたIREDの数より多くてもよい。図1では、右開口部145の中心を挟んで右視線センサー106とは反対の側の範囲(上記120度の範囲)に配置された右IREDの数は、残りの範囲に配置されたIREDの数よりも3個以上多い。
同様に、左開口部146の中心(左レンズ系103の光軸)を中心とした360度の範囲のうち、左開口部146の中心を挟んで左視線センサー107とは反対の側の範囲において、1度あたりの光源の数(角度密度)が最大となっている。図1では、左視線センサー107が配置されている3時の位置に対向する9時の位置を中心とした120度の範囲(±60度の範囲)に、15度ピッチ(0.0667個/度の角度密度)で9個の左IREDが配置されている。9個の左IREDは、11時、10時半、10時、9時半、9時、8時半、8時、7時半、および7時の位置に配置された左IRED126~134である。上記120度の範囲以外の範囲では、15度ピッチよりも大きいピッチ(0.0667個/度よりも小さい角度密度)で左IREDが配置されている。
左開口部146の中心を挟んで左視線センサー107とは反対の側の範囲(上記120度の範囲)に配置された左IREDの数は、残りの範囲に配置されたIREDの数より多くてもよい。図1では、左開口部146の中心を挟んで左視線センサー107とは反対の側の範囲(上記120度の範囲)に配置された左IREDの数は、残りの範囲に配置されたIREDの数よりも3個以上多い。
また、第1の実施形態では、右開口部145の下側に配置された右IREDの数は、右開口部145の上側に配置された右IREDの数よりも多い。図1では、12時の位置には右IREDが配置されておらず、水平線185の下側に配置された右IREDの数は、水平線185の上側に配置された右IREDの数よりも多い。水平線185の下側には、右IRED116、右IRED117、右IRED118、右IRED119、右IRED120、右IRED121、右IRED122の7つの右IREDが配置されている。
水平線185の上側には、右IRED108、右IRED109、右IRED111、右IRED112、右IRED113、および右IRED114の6つの右IREDが配置されている。
水平線185の上側には、右IRED108、右IRED109、右IRED111、右IRED112、右IRED113、および右IRED114の6つの右IREDが配置されている。
同様に、左開口部146の下側に配置された左IREDの数は、左開口部146の上側に配置された左IREDの数よりも多い。図1では、12時の位置には左IREDが配置されておらず、水平線185の下側に配置された左IREDの数は、水平線185の上側に配置された左IREDの数よりも多い。水平線185の下側には、左IRED131、左IRED132、左IRED133、左IRED134、左IRED135、左IRED136、左IRED137の7つの左IREDが配置されている。水平線185の上側には、左IRED123、左IRED124、左IRED126、左IRED127、左IRED128、および左IRED129の6つの左IREDが配置されている。
人間のマブタの動きは上マブタと下マブタで異なり、主に上マブタが下マブタに向かって下がる動きをする。眼球光軸に対する下マブタの位置の個人差が小さいが、眼球光軸に対する上マブタの位置の個人差は大きい。例えば、目の細い人の場合は、目がぱっちりした人の場合に比べ、上マブタの位置が低く眼球光軸に近い。
多くのユーザーに対して視線検出を可能とするためには、上マブタの位置が眼球光軸に近い場合でも視線検出を可能とする必要がある。しかし、上マブタの位置が眼球光軸に近い場合は、12時の位置に配置されたIREDからの照明光はマブタにけられてしまい、プルキンエ像(角膜反射像)として画像に映らない。一方で、上マブタの位置に比べ、下マブタの位置は個人差が小さく、眼球光軸から遠いため、6時の位置に配置されたIREDからの照明光はマブタにけられにくく、プルキンエ像(角膜反射像、プルキニエ像)として画像に映りやすい。
このため、水平線185の下側(開口部の下側)に、水平線185の上側(開口部の上側)よりも多くのIREDを配置することによって、多くのユーザーに対して視線検出が可能となる。
右視線センサー106、右IRED108,109,111~122、および不図示のコントロール回路(制御部)によって、右目の視線検出ユニットが構成されている。同様に、左視線センサー107、左IRED123,124,126~137、および不図示のコントロール回路(制御部)によって、左目の視線検出ユニットが構成されている。右目の視線検出ユニットのコントロール回路と、左目の視線検出ユニットのコントロール回路とは共通の1つのコントロール回路であってもよいし、別々のコントロール回路であってもよい。
図3は、ディスプレイユニット本体101を覗いているユーザーの眼球と、ディスプレイユニット本体101との配置を示している。図3は、右視線センサー106の中心と右レンズ系102の中心とを通る平面によって得られる断面を示す。図3には、右目とその周辺が示されている。
表示光学系である右レンズ系102は鏡筒139によって保持されている。右表示パネル140は、ユーザーに画像を表示するための表示パネル(表示部、表示素子)であり、有機ELパネルなどである。ユーザーの眼球141(右目)の内部には角膜142がある。右表示パネル140から出力された像(光)は、右レンズ系102を通って眼球141に入力される(導かれる)。換言すれば、ユーザーは、右表示パネル140に表示された像(映像)を、右レンズ系102(右開口部145)を介して眼球141で視認可能である。
右視線センサー106の光軸は右レンズ系102(表示光学系)の光軸と平行ではなく、眼球141の方向(斜め方向)に傾いている。これによって、右視線センサー106の限られた画角を有効に利用し、アイポイント距離が変化しても右視線センサー106で眼球141を捕らえ続けることができる。
左目周辺の構成は、右眼周辺の上記構成と同様である。
このように、第1の実施形態では、右視線センサー106は、右開口部145(右レンズ系102)の周辺に配置されており、右視線センサー106の視線センサーレンズ光軸147aは右目に向けられている。同様に、左視線センサー107は、左開口部146(左レンズ系103)の周辺に配置されており、左視線センサー107の視線センサーレンズ光軸147aは左目に向けられている。
右IRED115から発せられた照明光は、眼球141(右目)の角膜142と虹彩とを照明する。右視線センサー106は、眼球141の虹彩像を取得するとともに、光路143と光路144を通る光の像(右IRED115の照明光が角膜142で正反射した正反射像、プルキンエ像)も取得する。図3では示されていないが、右レンズ系102の周囲に配置された他の右IREDからの光も虹彩と角膜を照明している。同様に、左目の角膜と虹彩も、複数の左IREDによって照明される。複数のIREDによって単一の虹彩が照明されることにより、虹彩の照明むらが低減される。
図4A,4Bは、IREDから発せられた赤外光(照明光)の反射位置と角膜との関係を示す模式図である。図4A,4Bは、ディスプレイユニット本体101を装着したユーザーの眼球141(右目)をディスプレイユニット本体101側から見た状態を示している。右目の場合を説明するが、左目の場合も右目の場合と同様である。
右レンズ系102の周囲に配置された右IRED108,109,111~122から発せられた赤外光は、反射位置108a,109a,111a~122aで反射して、右視線センサー106に入射する。反射位置108a,109a,111a~122aは、右IRED108,109,111~122にそれぞれ対応する。
図4Aの角膜境界線1422aと図4Bの角膜境界線1422bとは、角膜142と強膜の境界を示す。角膜境界線1422a(角膜境界線1422b)の内側は球面となっている。角膜境界線1422a(角膜境界線1422b)の部分は、球面(角膜)から白目(強膜)に向かうなだらかな曲面となっている。角膜の広さには個人差があり、図4Aの角膜境界線1422aは、角膜が広いユーザーの角膜境界線を示し、図4Bの角膜境界線1422bは、角膜が狭いユーザーの角膜境界線を示す。
図4A,4Bは、眼球141が正面を向いているときの状態を示す。図4Aに示すように、角膜が広いユーザーの角膜境界線1422aの内側、つまり角膜で正反射しているのは、右視線センサー106の対向位置を中心とした120度の範囲に配置された右IRED111~119から発せられた光である。図4Bに示すように、角膜が狭いユーザーの角膜境界線1422bの内側、つまり角膜で正反射しているのは、右視線センサー106の対向位置を中心とした90度の範囲に配置された右IRED112~118から発せられた光である。反射位置112a~118aは眼球光軸付近にあるため、右IRED112~118から発せられた光は、目が回転した場合にも角膜で正反射する可能性が高い。
右IRED108,109,120~122から発せられた赤外光の反射位置108a,109a,120a~122aは強膜部分にある。そのため、図4A,4Bに示すよう
にユーザーが正面を向いている状態では、右IRED108,109,120~122の正反射像(プルキンエ像)は得られない。右IRED108,109,120~122は、眼球141全体を照明したり、眼球141が回転したときにプルキンエ像を得たりするために設けられている。
にユーザーが正面を向いている状態では、右IRED108,109,120~122の正反射像(プルキンエ像)は得られない。右IRED108,109,120~122は、眼球141全体を照明したり、眼球141が回転したときにプルキンエ像を得たりするために設けられている。
このため、右視線センサー106に対向する部分に多くの右IREDを配置することによって、視線検出のための正反射像(プルキンエ像)を取得できる可能性が高くなり、視線検出の成功率を高くすることができる。
なお、第1の実施形態では、角膜の広い人に対応した120度の範囲に多くのIREDを配置しているが、角膜の狭い人に対応した90度の範囲に多くのIREDを配置してもよい。多くのIREDを配する範囲を狭めることによって、コストを低減することができる。
右視線センサー106によって眼球141(右目)の像が得られると、虹彩像内の瞳孔像とプルキンエ像の組み合わせを用いて、視線検出が行われる。例えば特許第3186072号公報に開示されている方法で視線検出が行われる。
以上述べたように、第1の実施形態によれば、ユーザーの目に対向する開口部の中心(表示光学系の光軸)を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている。これによって、状況に依らず高精度に視線を検出することを可能にした頭部装着型表示装置(視線検出装置)を提供することができる。例えば、大型化せずに、ユーザーが目を振った場合にも視線検出が可能な頭部装着型表示装置を提供することができる。
(第2の実施形態)
以下、図6,7を参照して、本発明の第2の実施形態について説明する。第2の実施形態として、視線検出装置を搭載した眼鏡型デバイスの例を説明する。
以下、図6,7を参照して、本発明の第2の実施形態について説明する。第2の実施形態として、視線検出装置を搭載した眼鏡型デバイスの例を説明する。
図6は、第2の実施形態に係る眼鏡型デバイス249の背面図であり、図7は眼鏡型デバイス249の斜視図である。図6は、眼鏡型デバイス249をユーザー(眼鏡型デバイス249を装着したユーザー)の眼球側から見た状態を示している。
眼鏡型デバイス249は、フレーム250、右つる部250a、および左つる部250bを有する。フレーム250には、近視用レンズ、遠視用レンズ、減光レンズ、度無しレンズなど任意のレンズが嵌められていてもよいし、レンズが嵌められていなくてもよい。右つる部250aと左つる部250bは、眼鏡型デバイス249をユーザーの頭部に固定するための固定部である。ユーザーは、右つる部250aを右耳にかけ、左つる部250bを左耳にかけることによって、眼鏡型デバイス249を頭部に固定する。右側つる部250aにはカメラ251が取り付けられており、カメラ251は眼鏡型デバイス249の正面方向に向けられている。
フレーム250には、右視線センサー252、左視線センサー253、右IRED254,255,257~268、および左IRED269,270,272~283が設けられている。カメラ251、右視線センサー252、左視線センサー253、右IRED254,255,257~268、および左IRED269,270,272~283は、不図示のコントロール回路に接続されている。眼鏡型デバイス249は、カメラ251の撮像範囲のどこに視線が向けられているかを検出する機能を有する。
図6に示すように、第2の実施形態では、第1の実施形態と同様に、ユーザーの目に対
向する開口部の中心を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている。
向する開口部の中心を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている。
以上述べたように、第2の実施形態によれば、第1の実施形態と同様に、ユーザーの目に対向する開口部の中心(表示光学系の光軸)を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている。これによって、状況に依らず高精度に視線を検出することを可能にした眼鏡型デバイス(視線検出装置)を提供することができる。
(第3の実施形態)
以下、図8~12を参照して、本発明の第3の実施形態について説明する。第3の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
以下、図8~12を参照して、本発明の第3の実施形態について説明する。第3の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
図8は、第3の実施形態に係るヘッドマウントディスプレイのディスプレイユニット本体301の背面図であり、ディスプレイユニット本体301をユーザー(ヘッドマウントディスプレイを装着したユーザー)の眼球側から見た状態を示している。
ディスプレイユニット本体301は、ユーザーの右目の視野を制限する右開口部345と、ユーザーの左目の視野を制限する左開口部346とを有する。右開口部345(右開口部内)には、表示光学系である右レンズ系302が設けられており、左開口部346(左開口部内)には、表示光学系である左レンズ系303が設けられている。右開口部345および右レンズ系302は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の右目に対向するように配置される。左開口部346および左レンズ系303は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の左目に対向するように配置される。
図8に示すように、右開口部345(右レンズ系302)の縁には、右開口部345に対向する右目の方向を向くように、右視線センサー306が配置されている。同様に、左開口部346(左レンズ系303)の縁には、左開口部346に対向する左目の方向を向くように、左視線センサー307が配置されている。
右視線センサー306は、右開口部345の中心(右レンズ系302の光軸)を中心として、9時の位置(真上から右回りに270度回転した位置)に配置されている。左視線センサー307は、左開口部346の中心(左レンズ系303の光軸)を中心として、3時の位置(真上から右回りに90度回転した位置)に配置されている。右視線センサー306と左視線センサー307は、略同一の高さ(上下方向の位置)に配置されている。右視線センサー306は右開口部345の左側(右目の目元付近)に配置され、左視線センサー307は左開口部346の右側(左目の目元付近)に配置される。
このように、右視線センサー306と左視線センサー307は、右レンズ系302の光軸と左レンズ系303の光軸とを通る水平線385上(右開口部345の中心と左開口部346の中心とを通る水平線上)に配置されている。
通常、ユーザー(ヘッドマウントディスプレイを装着したユーザー)のマブタは上下に開く。そのため、水平線385の方向から眼球を観察するように右視線センサー306と左視線センサー307を配置することで、視線検出の際に眼球がマブタにけられにくくなり、視線検出の成功率を高くすることができる。
図8では、右開口部345(右レンズ系302)の縁に沿って、眼球(右目)を照明す
る複数の光源として、複数の赤外発光ダイオード(右IRED)が配置されている。同様に、左開口部346(左レンズ系303)の縁に沿って、眼球(左目)を照明する複数の光源として、複数の赤外発光ダイオード(左IRED)が配置されている。
る複数の光源として、複数の赤外発光ダイオード(右IRED)が配置されている。同様に、左開口部346(左レンズ系303)の縁に沿って、眼球(左目)を照明する複数の光源として、複数の赤外発光ダイオード(左IRED)が配置されている。
右開口部345(右レンズ系302)の周囲には、第1光源群として右IRED308~311,313,315,317,319~322が配置されており、第2光源群として右IRED386,387が配置されている。第1の光源群は第2光源群の内側に配置されている。右開口部345の中心(右レンズ系302の光軸)を中心として、右IRED308は10時、右IRED309は11時、右IRED310は12時、右IRED311は1時、右IRED313は2時、右IRED315は3時の位置に配置されている。右IRED317は4時、右IRED319は5時、右IRED320は6時、右IRED321は7時、右IRED322は8時の位置に配置されている。右IRED386は、右開口部345の中心(右レンズ系302の光軸)と右IRED317とを通る直線上に配置されている。右IRED387は、右開口部345の中心(右レンズ系302の光軸)と右IRED320とを通る直線上に配置されている。
左開口部346(左レンズ系303)の周囲には、第1光源群として左IRED323~326,328,330,332,334~337が配置されており、第2光源群として左IRED388,389が配置されている。第1の光源群は第2光源群の内側に配置されている。左開口部346の中心(左レンズ系303の光軸)を中心として、左IRED323は2時、左IRED324は1時、左IRED325は12時、左IRED326は11時、左IRED328は10時、左IRED330は9時の位置に配置されている。左IRED332は8時、左IRED334は7時、左IRED335は6時、左IRED336は5時、左IRED337は4時の位置に配置されている。左IRED388は、左開口部346の中心(左レンズ系303の光軸)と左IRED332とを通る直線上に配置されている。左IRED389は、左開口部346の中心(左レンズ系303の光軸)と左IRED335とを通る直線上に配置されている。
第2光源群に含まれる右IRED386,387のそれぞれから右開口部345までの距離は、第1光源群に含まれる右IRED308~311,313,315,317,319~322のそれぞれから右開口部345までの距離よりも長い。また、右開口部345に対して、第1光源群に含まれる右IRED308~311,313,315,317,319~322は、第2光源群に含まれる右IRED386,387の内側に配置されている。同様に、第2光源群に含まれる左IRED388,389のそれぞれから左開口部346までの距離は、第1光源群に含まれる左IRED323~326,328,330,332,334~337のそれぞれから左開口部346までの距離よりも長い。また、左開口部346に対して、第1光源群に含まれる左IRED323~326,328,330,332,334~337は、第2光源群に含まれる左IRED388,389の内側に配置されている。
例えば、第1光源群に含まれる右IRED308~311,313,315,317,319~322(複数の第1光源)は、右側の表示光学系(右レンズ系102)の光軸390から第1距離r1で分布し、第2光源群に含まれる右IRED386,387(複数の第2光源)は、右側の表示光学系の光軸390から第2距離r2で分布する。そして、第2距離r2は第1距離r1よりも大きい。左側も同様であり、第1光源群に含まれる左IRED323~326,328,330,332,334~337(複数の第1光源)は、左側の表示光学系(左レンズ系103)の光軸391から第1距離r1で分布し、第2光源群に含まれる左IRED388,389(複数の第2光源)は、左側の表示光学系の光軸391から第2距離r2で分布する。そして、第2距離r2は第1距離r1よりも大きい。ここで、第1光源群に含まれる複数のIREDそれぞれから表示光学系の光軸ま
での距離(第1距離r1)は、当該光軸に垂直に交わる平面上での距離であり、第1光源群に含まれる複数のIREDそれぞれを当該平面に投影した位置から当該光軸までの距離である。同様に、第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離(第2距離r2)は、当該光軸に垂直に交わる平面上での距離であり、第2光源群に含まれる複数のIREDそれぞれを当該平面に投影した位置から当該光軸までの距離である。なお、第1光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は一定でなくてもよく、第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は一定でなくてもよい。例えば、第1光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は、距離r1a以上かつ距離r1b以下の範囲でばらついていてもよい。第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は、距離r2a以上かつ距離r2b以下の範囲でばらついていてもよい。距離r1,r1a,r1b,r2,r2a,r2bは以下の式を満たす。
r1a<r1≦r1b<r2a≦r2<r2b
での距離(第1距離r1)は、当該光軸に垂直に交わる平面上での距離であり、第1光源群に含まれる複数のIREDそれぞれを当該平面に投影した位置から当該光軸までの距離である。同様に、第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離(第2距離r2)は、当該光軸に垂直に交わる平面上での距離であり、第2光源群に含まれる複数のIREDそれぞれを当該平面に投影した位置から当該光軸までの距離である。なお、第1光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は一定でなくてもよく、第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は一定でなくてもよい。例えば、第1光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は、距離r1a以上かつ距離r1b以下の範囲でばらついていてもよい。第2光源群に含まれる複数のIREDそれぞれから表示光学系の光軸までの距離は、距離r2a以上かつ距離r2b以下の範囲でばらついていてもよい。距離r1,r1a,r1b,r2,r2a,r2bは以下の式を満たす。
r1a<r1≦r1b<r2a≦r2<r2b
また、第2距離r2は第1距離r1の1.2倍以上であることが好ましく、1.5倍以上であることがより好ましい。第1距離r1と第2距離r2とがばらつく場合は、第2距離r2の平均距離が、第1距離r1の平均距離の1.2倍以上であることが好ましく、1.5倍以上であることが好ましい。
図示されていないが、ディスプレイユニット本体301には、各IREDを制御するCPU(制御部)が備えられている。CPUは、各IREDに電流を流すことによって各IREDの点灯を制御する。また、CPUは、視線センサーの出力(プルキンエ像など)に基づいてユーザーの視線を検出する。
図9は、図8の右レンズ系302の光軸を通る縦断面の模式図である。図9には、右目とその周辺が示されている。図9には、右IRED310,320,387から発せられた光の光路が示されている。なお、右視線センサー306は縦断面上には存在しないが、わかりやすさのために記載している。
図9では、右レンズ系302の上側に配置された右IRED310からの光は、ユーザーの上マブタ350でけられており、角膜の表面で正反射していない。そのため、右IRED310からの光は、右視線センサー306によって得られた画像に、正反射像(プルキンエ像)として映らない。これに対し、右レンズ系302の下側に配置された右IRED320からの光は、上マブタ350や下マブタ351によってけられておらず、角膜の表面で正反射している。そのため、右IRED320からの光は、右視線センサー306によって得られた画像に、正反射像(プルキンエ像)として映る。同様に、右レンズ系302の下側に配置された右IRED387からの光は、上マブタ350や下マブタ351によってけられておらず、角膜の表面で正反射している。そのため、右IRED387からの光は、右視線センサー306によって得られた画像に、正反射像(プルキンエ像)として映る。
マブタの形状は人に依って異なり、ディスプレイユニット本体301と目との位置関係も人に依って異なるが、光のけられには或る傾向がある。右視線センサー306と左視線センサー307が右レンズ系302の光軸と左レンズ系303の光軸とを通る水平線385上に配置されている場合を考える。この場合には、水平線385の上側に配置されたIREDからの光よりも水平線385の下側に配置されたIREDからの光のほうがマブタにけられにくい。
そこで、図8では、水平線385の下側(右開口部345や左開口部346の下側)に、水平線385の上側(右開口部345や左開口部346の上側)よりも多く、第2光源
群のIREDを配置している。これにより、全てのIREDからの光がマブタでけられ、正反射像(プルキンエ像)が1つも得られなくいという状況を避けることができ、視線検出の成功率を高くする(視線検出のロバスト性を高める)ことができる。なお、図8では、水平線385の上側(右開口部345や左開口部346の上側)に第2光源群のIREDが1つも設けられていないが、水平線385の上側に第2光源群のIREDを設けてもよい。
群のIREDを配置している。これにより、全てのIREDからの光がマブタでけられ、正反射像(プルキンエ像)が1つも得られなくいという状況を避けることができ、視線検出の成功率を高くする(視線検出のロバスト性を高める)ことができる。なお、図8では、水平線385の上側(右開口部345や左開口部346の上側)に第2光源群のIREDが1つも設けられていないが、水平線385の上側に第2光源群のIREDを設けてもよい。
図9において、第1光源群に属する右IRED310,320は右レンズ系302の内側に配置されており、第2光源群に属する右IRED387は右レンズ系302の外側に配置されている。このため、右IRED310,320は、右レンズ系302を介して外部に光を出射して、眼球341(右目)を照明する。右IRED387は、右レンズ系302を介さずに外部に光を出射して、眼球341を照明する。なお、右IRED310,320,387に限られず、第1光源群に属する右IREDは右レンズ系302を介して外部に光を出射し、第2光源群に属する右IREDは右レンズ系302を介さずに外部に光を出射する。同様に、第1光源群に属する左IREDは左レンズ系303を介して外部に光を出射し、第2光源群に属する左IREDは左レンズ系303を介さずに外部に光を出射する。
これにより、スペースの制約により第1光源群と第2光源群の両方を表示光学系(右レンズ系302や左レンズ系303)の内側に配置できない場合に、第1光源群と第2光源群の両方を表示光学系の外側に配置する場合に比べ、装置を小型化することができる。
なお、美観の観点から、第2光源群に属する各IREDは、可視光を透過せず且つ赤外光を透過する材料を用いて隠されていることが好ましい。但し、第1の実施形態と同様に、可視光の透過率は0に限定されず、可視光を多少透過してもよい。可視光の透過率よりも赤外光の透過率が高ければ同様の効果を得ることができるが、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていることが好ましい。
ここで、第1光源群からの光が表示光学系を通過するときに、当該光の光量が低減される。特に、表示光学系が偏光反射光学系を含んでいる場合に、第1光源群からの光の光量は約半分以下に低減されることがある。このため、全てのIREDを同じ輝度で点灯させると、表示光学系を介して眼球を照明する第1光源群の各IREDと、表示光学系を介さずに眼球を照明する第2光源群の各IREDとで、眼球を照らす照度が異なってしまう。この結果、第1光源群と第2光源群で、正反射像(プルキンエ像)の輝度が異なってしまう。このような輝度の差異は、プルキンエ像の検出に悪影響(精度の低下など)をもたらし、ひいては視線検出に悪影響(精度の低下など)をもたらす。
そこで、第3の実施形態では、CPUは、第1光源群の各IREDと第2光源群の各IREDとを異なる輝度で点灯させる。例えば、CPUは、表示光学系を介して眼球を照明する第1光源群の各IREDの輝度を、表示光学系で吸収される光量分だけ上げ、第1光源群の各IREDを、表示光学系を介さずに眼球を照明する第2光源群の各IREDよりも高い輝度で点灯させる。
これにより、第1光源群のプルキンエ像の輝度と第2光源群のプルキンエ像の輝度とが同等になるため、プルキンエ像の検出の精度が向上し、ひいては視線検出の精度が向上する。
図10A,10Bは、右IRED315と右視線センサー306とを通る横断面の模式図である。図10A,10Bには、右IRED315,386から発せられた光の光路が示されている。なお、右IRED386は横断面上には存在しないが、わかりやすさのた
めに記載している。
めに記載している。
図10Aは、右視線センサー306が配置されている方向(すなわち左側)に眼球341(右目)が回転した様子を示している。図10Bは、右視線センサー306と対向する方向(すなわち右側)に眼球341が回転した様子を示している。
図10Aのように、右視線センサー306が配置されている方向に眼球341が回転した場合には、右IRED386から発せられた光は、角膜境界線3422aの外側(強膜)で反射してしまう。これに対し、右IRED315から発せられた光は、角膜境界線3422aの内側(角膜)で正反射する。
図10Bのように、右視線センサー306と対向する方向に眼球341が回転した場合には、右IRED315から発せられた光は、角膜境界線3422aの外側(強膜)で反射してしまう。これに対し、右IRED386から発せられた光は角膜境界線3422aの内側(角膜)で正反射する。
このように、表示光学系の光軸390との距離が短いIRED(第1光源群)と表示光学系の光軸との距離が長いIRED(第2光源群)とを配置することによって、ユーザーが目を振った場合にも、高確率で正反射像(プルキンエ像)を取得することができる。ひいては、視線検出の成功率を高くする(視線検出のロバスト性を高める)ことができる。
図10Aのように、右視線センサー306が配置されている方向に眼球341が回転した場合には、光軸390との距離が短い右IRED315(第1光源群)の正反射像を用いて視線を検出することができる。
図10Bのように、右視線センサー306と対向する方向に眼球341が回転した場合には、光軸390との距離が長い右IRED386(第2光源群)の正反射像を用いて視線を検出することができる。
言い換えると、ユーザーが正面を向き、角膜境界線3422aの内側である角膜の中心(瞳孔の中心)と表示光学系の光軸390とが交わる場合、距離が長い右IRED386(第2光源群)からユーザーの眼(角膜あるいは強膜)へ入射する光と光軸390とが為す角度を、距離が短い右IRED315(第1光源群)からユーザーの眼へ入射する光と光軸390とが為す角度よりも大きくする。これにより、眼球341が右視線センサー306が配置されている方向に回転した場合であっても、右視線センサー306と対向する方向に回転した場合であっても、高確率で正反射像(プルキンエ像)を取得することができる。
図11は、視線検出のフローチャートである。以下では、右目の視線検出について説明するが、左目の視線検出も同様に行われる。
ステップS3001で、CPUは、全ての右IRED(第1光源群および第2光源群)を点灯させ、右視線センサー306を用いて眼球341(右目)を撮像する。なお、複数の右IREDの全部を点灯させるとしたが、複数の右IREDの一部のみを点灯させてもよい。
ステップS3002で、CPUは、ステップS3001で取得した眼球341の画像に映る全ての反射像を用いて、第1の視線検出(視線の仮検出)を行う。眼球341の画像に映る反射像は、右視線センサー306に結像した反射像と捉えることもできる。ここでは、強膜で反射した反射像(不正確なプルキンエ像)も使用されるため、高精度に視線を
検出することはできないが、眼球341のおおよその回転方向と回転角は分かる。
検出することはできないが、眼球341のおおよその回転方向と回転角は分かる。
ステップS3003で、CPUは、眼球341が右視線センサー306の配置されている方向に回転したのか、右視線センサー306と対向する方向に回転したのかを判定する。CPUは、眼球341が右視線センサー306の配置されている方向に回転したと判定した場合に、ステップS3004に処理を進め、眼球341が右視線センサー306と対向する方向に回転したと判定した場合に、ステップS3005に処理を進める。
ステップS3004で、CPUは、右開口部345との距離が短い第1光源群の反射像(正反射像)を選択し、選択した反射像を用いて第2の視線検出(視線の本検出)を行う。
ステップS3005で、CPUは、右開口部345との距離が長い第2光源群の反射像(正反射像)を選択し、選択した反射像を用いて第2の視線検出(視線の本検出)を行う。
このように、眼球341の回転角に基づいて視線検出に使用する反射像を変える。これにより、常に全ての反射像を使用して視線検出を行う構成と比較して、強膜で反射した不正確なプルキンエ像を使用せずに視線検出を行うことができるため、視線検出の精度が向上する。
なお、最終的に第1光源群の反射像と第2光源群の反射像との一方のみを使用する例を説明したが、これに限られない。例えば、或る部分では第1光源群の反射像と第2光源群の反射像との一方のみを使用し、別の部分では第1光源群の反射像と第2光源群の反射像との他方のみを使用するなどしてもよい。第1光源群の反射像と第2光源群の反射像との両方が正反射像となるシーンでは、第1光源群の反射像と第2光源群の反射像との両方(全ての反射像)を用いた視線検出の結果を、最終的な結果としてもよい。
図12は、視線検出のフローチャートの変形例である。以下では、右目の視線検出について説明するが、左目の視線検出も同様に行われる。
ステップS3006で、CPUは、全ての右IRED(第1光源群および第2光源群)を点灯させ、右視線センサー306を用いて眼球341(右目)を撮像する。
ステップS3007で、CPUは、ステップS3001で取得した眼球341の画像に映る全ての反射像を用いて、第1の視線検出(視線の仮検出)を行う。ここでは、強膜で反射した反射像(不正確なプルキンエ像)も使用されるため、高精度に視線を検出することはできないが、眼球341のおおよその回転方向と回転角は分かる。
ステップS3008で、CPUは、眼球341が右視線センサー306の配置されている方向に回転したのか、右視線センサー306と対向する方向に回転したのかを判定する。CPUは、眼球341が右視線センサー306の配置されている方向に回転したと判定した場合に、ステップS3009に処理を進め、眼球341が右視線センサー306と対向する方向に回転したと判定した場合に、ステップS3010に処理を進める。
ステップS3009で、CPUは、右開口部345との距離が長い第2光源群を消灯し、右開口部345との距離が短い第1光源群のみを点灯させる。
ステップS3010で、CPUは、右開口部345との距離が短い第1光源群を消灯し、右開口部345との距離が長い第2光源群のみを点灯させる。
ステップS3011で、CPUは、複数の右IREDの一部を消灯させた状態で得られた眼球341の画像を用いて、第2の視線検出(視線の本検出)を行う。
このように、眼球341の回転角に基づいて視線検出に使用する右IRED(点灯させる右IRED)を変える。これにより、視線検出に使用しない右IREDを消灯することができるため、省電力化できる。
なお、最終的に第1光源群と第2光源群との一方のみを点灯させる例を説明したが、これに限られない。例えば、或る部分では第1光源群のIRDEと第2光源群のIREDとの一方のみを点灯させ、別の部分では第1光源群のIREDと第2光源群のIREDとの他方のみを点灯させるなどしてもよい。第1光源群の反射像と第2光源群の反射像との両方が正反射像となるシーンでは、第1光源群と第2光源群の両方(全てのIRED)を点灯させて得られた視線検出の結果を、最終的な結果としてもよい。
以上述べたように、第3の実施形態によれば、表示光学系の光軸との距離が短いIRED(第1光源群)と表示光学系の光軸との距離が長いIRED(第2光源群)とが配置される。これによって、状況に依らず高精度に視線を検出することを可能にした頭部装着型表示装置(視線検出装置)を提供することができる。例えば、ユーザーが目を振った場合にも、高確率で正反射像(プルキンエ像)を取得することができる。ひいては、視線検出の成功率を高くする(視線検出のロバスト性を高める)ことができる。
なお、第3の実施形態に第1の実施形態を組み合わせてもよい。例えば、第1光源群と第2光源群の少なくとも一方に着目した場合に、ユーザーの目に対向する開口部の中心(表示光学系の光軸)を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数を最大としてもよい。これによって、視線検出の成功率をより高くすることができる。
<第4の実施形態>
以下、図13~15を参照して、本発明の第4の実施形態について説明する。第4の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
以下、図13~15を参照して、本発明の第4の実施形態について説明する。第4の実施形態として、視線検出装置を搭載した頭部装着型表示装置(ヘッドマウントディスプレイ)の例を説明する。
図13は、第4の実施形態に係るヘッドマウントディスプレイのディスプレイユニット本体401の背面図である。図14は、図13のA-A断面図である。図13は、ディスプレイユニット本体101をユーザー(ヘッドマウントディスプレイを装着したユーザー)の眼球側から見た状態を示している。
ディスプレイユニット本体401は、ユーザーの右目の視野を制限する右開口部445と、ユーザーの左目の視野を制限する左開口部446とを有する。右開口部445(右開口部内)には、表示光学系である右レンズ系402が設けられており、左開口部446(左開口部内)には、表示光学系である左レンズ系403が設けられている。右開口部445および右レンズ系402は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の右目に対向するように配置される。左開口部446および左レンズ系403は、ユーザー(ヘッドマウントディスプレイを装着したユーザー)の左目に対向するように配置される。
図13に示すように、右開口部445(右レンズ系402)の縁には、右開口部445に対向する右目の方向を向くように、右視線センサー406が配置されている。右視線センサー406は右レンズ系402の裏側に配置されており、右視線センサー406には、
外部から右レンズ系402を介して光が入射する。同様に、左開口部446(左レンズ系403)の縁には、左開口部446に対向する左目の方向を向くように、左視線センサー407が配置されている。左視線センサー407は左レンズ系403の裏側に配置されており、左視線センサー407には、外部から左レンズ系403を介して光が入射する。右視線センサー406と左視線センサー407は、赤外光にのみ感度を有しており、例えば900nm±20nmの範囲にのみ感度を有する。尚、右視線センサー406と左視線センサー407とは光学系の光軸からずれた位置に配置されており、目の内側(目頭側)に配置されていることが好ましい。
外部から右レンズ系402を介して光が入射する。同様に、左開口部446(左レンズ系403)の縁には、左開口部446に対向する左目の方向を向くように、左視線センサー407が配置されている。左視線センサー407は左レンズ系403の裏側に配置されており、左視線センサー407には、外部から左レンズ系403を介して光が入射する。右視線センサー406と左視線センサー407は、赤外光にのみ感度を有しており、例えば900nm±20nmの範囲にのみ感度を有する。尚、右視線センサー406と左視線センサー407とは光学系の光軸からずれた位置に配置されており、目の内側(目頭側)に配置されていることが好ましい。
右視線センサー406は、右開口部445の中心(右レンズ系402の光軸)を中心として、9時の位置(真上から右回りに270度回転した位置)に配置されている。左視線センサー407は、左開口部446の中心(左レンズ系403の光軸)を中心として、3時の位置(真上から右回りに90度回転した位置)に配置されている。右視線センサー406と左視線センサー407は、略同一の高さ(上下方向の位置)に配置されている。右視線センサー406は右開口部445の左側(右目の目元付近)に配置され、左視線センサー407は左開口部446の右側(左目の目元付近)に配置される。
このように、右視線センサー406と左視線センサー407は、右レンズ系402の光軸と左レンズ系403の光軸とを通る水平線485上(右開口部445の中心と左開口部446の中心とを通る水平線上)に配置されている。
通常、ユーザー(ヘッドマウントディスプレイを装着したユーザー)のマブタは上下に開く。そのため、水平線485の方向から眼球を観察するように右視線センサー406と左視線センサー407を配置することで、視線検出の際に眼球がマブタにけられにくくなり、視線検出の成功率を高くすることができる。
図13では、右開口部445(右レンズ系402)の縁に沿って、眼球(右目)を照明する複数の光源として、複数の赤外発光ダイオード(右IRED)が配置されている。右IREDは右レンズ系402の裏側に配置されており、右レンズ系402を介して外部に光(赤外光)を出射して、眼球(右目)を照明する。同様に、左開口部446(左レンズ系403)の縁に沿って、眼球(左目)を照明する複数の光源として、複数の赤外発光ダイオード(左IRED)が配置されている。左IREDは左レンズ系403の裏側に配置されており、左レンズ系403を介して外部に光(赤外光)を出射して、眼球(左目)を照明する。
右開口部445(右レンズ系402)の周囲には、右IRED408,409,411~422が配置されている。右開口部445の中心(右レンズ系402の光軸)を中心として、右IRED408は10時、右IRED409は11時、右IRED411は1時、右IRED412は1時半、右IRED413は2時、右IRED414は2時半の位置に配置されている。右IRED415は3時、右IRED416は3時半、右IRED417は4時、右IRED418は4時半、右IRED419は5時、右IRED420は6時、右IRED421は7時、右IRED422は8時の位置に配置されている。
左開口部446(左レンズ系403)の周囲には、左IRED423,424,426~437が配置されている。左開口部446の中心(左レンズ系403の光軸)を中心として、左IRED423は2時、左IRED424は1時、左IRED426は11時、左IRED427は10時半、左IRED428は10時、左IRED429は9時半の位置に配置されている。左IRED430は9時、左IRED431は8時半、左IRED432は8時、左IRED433は7時半、左IRED434は7時、左IRED435は6時、左IRED436は5時、左IRED437は4時の位置に配置されている。
第4の実施形態では、第1の実施形態と同様に、右開口部445の中心(右レンズ系402の光軸)を挟んで右視線センサー406とは反対の側の範囲において、1度あたりの光源の数(角度密度)が最大となっている。同様に、左開口部446の中心(左レンズ系403の光軸)を挟んで左視線センサー407とは反対の側の範囲において、1度あたりの光源の数(角度密度)が最大となっている。これによって、第1の実施形態と同様の効果を得ることができる。
右視線センサー406、右IRED408,409,411~422、および不図示のコントロール回路によって、右目の視線検出ユニットが構成されている。同様に、左視線センサー407、左IRED423,424,426~437、および不図示のコントロール回路によって、左目の視線検出ユニットが構成されている。右目の視線検出ユニットのコントロール回路と、左目の視線検出ユニットのコントロール回路とは共通の1つのコントロール回路であってもよいし、別々のコントロール回路であってもよい。
図14は、ディスプレイユニット本体401を覗いているユーザーの眼球(右目441Rおよび左目441L)と、ディスプレイユニット本体401との配置を示している。
右レンズ系402と左レンズ系403は、偏光反射光学系で構成されている。偏光反射光学系は例えば、特開2020-95205号公報に開示されている技術を用いて実現できる。
右表示パネル450Rは有機ELパネルなどの表示パネルであり、右レンズ系402の裏側に配置されている。ユーザーの右目441Rは、右レンズ系402を介して右表示パネル450Rを視認する。同様に、左表示パネル450Lは有機ELパネルなどの表示パネルであり、左レンズ系403の裏側に配置されている。ユーザーの左目441Lは、左レンズ系403を介して左表示パネル450Lを視認する。
右レンズ系402は、右偏光パネル452、右第1レンズ453、一面(右第1レンズ453側の面)に右偏光ハーフミラー454aを備えた右第2レンズ454、および右偏光反射板455によって構成される。同様に、左レンズ系403は、左偏光パネル462、左第1レンズ463、一面(左第1レンズ463側の面)に左偏光ハーフミラー464aを備えた左第2レンズ464、および左偏光反射板465によって構成される。なお、右第2レンズ454と左第2レンズ464のユーザー側の面は平面であるとする。
右表示パネル450Rの光路は、右第2レンズ454の内部で折り返す表示光路456となる。右偏光パネル452、右偏光ハーフミラー454a、および右偏光反射板455によって反射と透過がコントロールされ、表示光路456が実現される。同様に、左表示パネル450Lの光路は、左第2レンズ464の内部で折り返す表示光路466となる。左偏光パネル462、左偏光ハーフミラー464a、および左偏光反射板465によって反射と透過がコントロールされ、表示光路466が実現される。
右IRED415の前方(ユーザー側)には、可視光の透過率よりも赤外光の透過率が高い右マスク457が配置されている。ここでは、右マスク457は可視光を透過せず且つ赤外光を透過するマスクとするが、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていれば、可視光を多少透過してもよい。図14では右マスク457は右IRED415の前に描かれているが、実際には右IRED408,409,411~422と右第1レンズ453との間に配置されている。同様に、左IRED430の前方(ユーザー側)には、可視光の透過率よりも赤外光の透過率が高い左マスク467が配置されている。ここでは、左マスク467も可視光を透過せず且つ赤外光を透過するマスクとするが、右マ
スク457と同様に、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていれば、可視光を多少透過してもよい。図14では左マスク467は左IRED430の前に描かれているが、実際には左IRED423,424,426~437と左第1レンズ463との間に配置されている。
スク457と同様に、可視光と赤外光とで透過率(遮蔽率)が大きく異なっていれば、可視光を多少透過してもよい。図14では左マスク467は左IRED430の前に描かれているが、実際には左IRED423,424,426~437と左第1レンズ463との間に配置されている。
右IRED415から発せられた光は、右レンズ系402を透過して右目441Rで反射し、右レンズ系402を再び透過して右視線センサー406に入射する。この光路は右視線検出光路460として示されている。同様に、左IRED430から発せられた光は、左レンズ系403を透過して左目441Lで反射し、左レンズ系403を再び透過して左視線センサー407に入射する。この光路は左視線検出光路470として示されている。
図14において、右IRED415から発せられた光は、右目441Rの角膜442Rと虹彩(不図示)を照明している。右視線センサー406は、右目441Rの虹彩像を取得するとともに、右視線検出光路460を通る右IRED415の正反射像(プルキンエ像)も取得する。図14には示されていないが、他の右IREDからの光も同様に右目441Rの角膜442Rと虹彩を照明する。複数の右IREDによって単一の虹彩が照明されるため、虹彩の照明むらは低減される。
同様に、左IRED430から発せられた光は、左目441Lの角膜442Lと虹彩(不図示)を照明している。左視線センサー407は、左目441Lの虹彩像を取得するとともに、左視線検出光路470を通る左IRED430の正反射像(プルキンエ像)も取得する。図14には示されていないが、他の左IREDからの光も同様に左目441Lの角膜442Lと虹彩を照明する。複数の左IREDによって単一の虹彩が照明されるため、虹彩の照明むらは低減される。
図14に示すように、右第1レンズ453の面(右表示パネル450R側の面)のうち、右IRED415(複数の右IRED)に対向する部分(入射面453a)と、右視線センサー406に対向する部分(出射面453b)とは、異なる形状を有する。同様に、左第1レンズ463の面(左表示パネル450L側の面)のうち、左IRED430(複数の左IRED)に対向する部分(入射面463a)と、左視線センサー407に対向する部分(出射面463b)とは、異なる形状を有する。
図15は、右第1レンズ453と右第2レンズ454の斜視図である。右第1レンズ453は回転体の基本形状を有しており、入射面453a(第2の面と呼ぶことがある)は円錐面となっている。出射面453b(第1の面と呼ぶことがある)の部分では、上記円錐面に三角プリズムに類似した光学補正部470aが凸部として一体的に形成されている。そして、出射面453b(右視線センサー406と対向する面、光学補正部470aの頂面)は平面(平坦)となっている。
三角プリズムは、一般的に、波長ごとに屈折角度が変化する特性を有する。しかし、右IREDは限られた波長域の光(赤外光)のみを発する。また、右視線センサー406も限られた波長域の光(赤外光)のみを受光する。そのため、三角プリズムの上記特性(波長ごとに屈折角度が変化する特性)は無視できる。
ここで、出射面453bが平坦でなく曲率を有している場合を考える。その場合には、出射面453bからの光に光学収差が生じ、右視線センサー406によって受光される像が劣化してしまう。出射面453bを平坦としたことにより、光学収差を小さくすることができる。言い換えると、出射面453bは、入射面453aよりも光学収差が小さい。IREDから発せられた光は、虹彩の広範囲を照明して反射した拡散反射光と、角膜で正
反射した正反射光に分けられる。出射面453bを平坦としたことにより、拡散反射光から、光学収差が改善された瞳孔像を検出することができる。正反射光は、点光源の反射光として扱うことができる。そのため、出射面453bを平坦としたことにより、正反射光から、光学収差が改善されたプルキンエ像を検出することもできる。その結果、瞳孔像とプルキンエ像から、視線を高精度に検出することができる。尚、出射面453bは平坦であることが好ましいが、入射面453aよりも光学収差が小さければ効果を奏することができる。出射面453bの曲率半径を入射面453aの曲率半径よりも大きくすることで、光学収差を軽減する効果を奏することができるが、出射面453bは平坦に近いほど大きな効果を得ることができる。
反射した正反射光に分けられる。出射面453bを平坦としたことにより、拡散反射光から、光学収差が改善された瞳孔像を検出することができる。正反射光は、点光源の反射光として扱うことができる。そのため、出射面453bを平坦としたことにより、正反射光から、光学収差が改善されたプルキンエ像を検出することもできる。その結果、瞳孔像とプルキンエ像から、視線を高精度に検出することができる。尚、出射面453bは平坦であることが好ましいが、入射面453aよりも光学収差が小さければ効果を奏することができる。出射面453bの曲率半径を入射面453aの曲率半径よりも大きくすることで、光学収差を軽減する効果を奏することができるが、出射面453bは平坦に近いほど大きな効果を得ることができる。
また、第4の実施形態では、入射面453aの部分がプリズム形状を有していないため、右マスク457を配置することができる。右マスク457を配置することによって、ユーザーが右レンズ系402を覗き込んだ際に右IREDが視認されず、優れた美観を実現することができる。
左目側も、右目側と同様である。左第1レンズ463は回転体の基本形状を有しており、入射面463aは円錐面となっている。出射面463bの部分では、上記円錐面に三角プリズムに類似した光学補正部が一体的に形成されている。そして、出射面463b(左視線センサー407と対向する面、光学補正部の面)は平面(平坦)となっている。これにより、左目側でも、右目側と同様の効果が得られる。
以上述べたように、第4の実施形態によれば、表示光学系の面における、視線センサーの受光面へユーザーの眼からの光を出射する面が平坦とされる。これによって、視線センサーによって得られる像の光学収差を改善することができ、視線検出の精度を向上することができる。尚、第4の実施形態では、右第1レンズ453と光学補正部470aが一体的に形成されているが、複数の光学素子によりこのような光学素子を実現してもよい。
<第5の実施形態>
以下、図16~20を参照して、本発明の第5の実施形態について説明する。第5の実施形態として、視線検出装置を搭載した撮像装置(カメラ本体)の例を説明する。第5の実施形態に係るカメラ本体は、ファインダー(EVF(Electronic ViewFinder)ユニット)を覗くユーザーの視線を検出し、カメラ本体およびユーザーの正面方向に存在する被写体を撮像する。撮影光学系の光軸に平行なカメラ本体の正面方向をZ軸(Z軸方向)とする。カメラ本体の最も基本的な標準の姿勢、いわゆる正位置において、Z軸に垂直な鉛直上方向をY軸(Y軸方向)とする。そして、右手系に従って、Y軸とZ軸に垂直な方向を、X軸(X軸方向)とする。
以下、図16~20を参照して、本発明の第5の実施形態について説明する。第5の実施形態として、視線検出装置を搭載した撮像装置(カメラ本体)の例を説明する。第5の実施形態に係るカメラ本体は、ファインダー(EVF(Electronic ViewFinder)ユニット)を覗くユーザーの視線を検出し、カメラ本体およびユーザーの正面方向に存在する被写体を撮像する。撮影光学系の光軸に平行なカメラ本体の正面方向をZ軸(Z軸方向)とする。カメラ本体の最も基本的な標準の姿勢、いわゆる正位置において、Z軸に垂直な鉛直上方向をY軸(Y軸方向)とする。そして、右手系に従って、Y軸とZ軸に垂直な方向を、X軸(X軸方向)とする。
図16は、第5の実施形態に係るカメラ本体500の断面を示す模式図である。図16は、Y軸とZ軸に平行な平面でカメラ本体500を切断した、いわゆる中央縦断面を示す。カメラ本体500では、不図示の撮影光学系の光軸上にシャッター590と撮像センサー591が並んでいる。撮像センサーは、カメラ本体500の正面方向に存在する被写体を撮像する。カメラ本体500の背面には背面モニター592が設けられている。背面モニター592は、カメラ本体500の操作を受け付けたり、カメラ本体500で得られた画像を鑑賞・編集したりするために、メニューや画像を表示する。背面モニター592はバックライト付きの液晶パネルや有機ELパネルで構成される。通常の一般的なカメラと同様、EVFユニット501、シャッター590、撮像センサー591、および背面モニター592は、CPU593によって制御され、各種の必要な情報の入出力処理を行う。
EVFユニット501は、表示パネルとしてのEVFパネル540、表示光学系としてのEVFレンズ系502、および眼球撮像部としての視線センサー506を含む。EVF
ユニット501は、カメラ本体500のユーザーが、EVFパネル540の表示画面を視認できるように内蔵または取り付けられている。図16では、ユーザーが眼球541でEVFユニット501を覗き込んでいる。
ユニット501は、カメラ本体500のユーザーが、EVFパネル540の表示画面を視認できるように内蔵または取り付けられている。図16では、ユーザーが眼球541でEVFユニット501を覗き込んでいる。
EVFパネル540は表示パネルであり、バックライト付きの有機ELパネルや液晶表示パネルで構成される。EVFパネル540は、Z軸マイナス方向に表示画面が向くように配置されている。EVFレンズ系502はEVFパネル540の表示画面の前に配置されており、Z軸マイナス方向に伸びた表示光学系光軸583(表示光学系(EVFレンズ系502)の光軸)に沿って配置された1枚または複数枚のレンズから構成される。EVFレンズ系502のレンズは、切削と研削、またはモールド成型によって製造される光学ガラスや透明な光学プラスチックレンズである。図16では、EVFレンズ系502は、可視光を透過する光学レンズであるG1レンズ562、G2レンズ563、およびG3接眼レンズ564の3枚のレンズからなる。なお、EVFレンズ系502に含まれるレンズの枚数は3枚に限られず、例えば4枚や5枚などであってもよい。EVFパネル540の表示画面を拡大するために適切な枚数のレンズを組み合わせてEVFレンズ系502を構成することができる。
視線センサー506は、EVFユニット501を覗き込んだ眼球541の像を、視線センサーチップ548に結像させる。視線センサー506は、視線センサー筐体546の内部に視線センサーレンズ547と視線センサーチップ548を有する。視線センサーチップ548は、視線センサーレンズ光軸547a(視線センサーレンズの光軸)上に配置されている。視線センサーレンズ547は眼球541の像を視線センサーチップ548に結像させるために必要な光学系であり、適切な光学レンズによって構成される。図16では視線センサーレンズ547として1枚のレンズを示しているが、視線センサーレンズ547は複数のレンズを含んでいてもよい。視線センサーチップ548は、結像した眼球541の赤外光成分を含む画像をA/D変換し、その結果をCPU593に入力する画像センサーである。視線センサーチップ548として、例えば、いわゆるCMOS撮像センサーやCCDマトリクスセンサーが用いられる。視線センサー506は上記部品を一体に構成してパッケージ化した小型カメラであるが、上記部品は一体化されていなくてもよい。
図17,18を用いて、EVFユニット501についてより詳細に説明する。図17は、カメラ本体500の断面の一部(眼球541に近い部分)を示す模式図である。図18はEVFユニット501を眼球541側から見た模式図、すなわちEVFユニット501をZ軸プラス方向で見た模式図である。
ユーザーがEVFパネル540の表示画面を覗くとき、図17に示すように眼球541はG3接眼レンズ564の表示光学系光軸583付近に位置する。眼球541には上マブタ550および下マブタ551が被さっており、上マブタ550と下マブタ551の間から角膜542が露出している。このとき、G3接眼レンズ564の周囲に配置されたIRED552~561から赤外光が発せられ、当該赤外光によって眼球541が照明される。
G3接眼レンズ564の周囲には、可視光を透過せず(吸収し)且つ赤外光を透過する材料(例えば樹脂)で赤外透過カバー504が配置されており、赤外透過カバー504によって、IRED552~561が外から視認できないように隠されている。赤外透過カバー504には、EVFパネル540の表示画面を視認可能にするために、G3接眼レンズ564を通った可視光の有効光束を通過させる開口部545が設けられている。開口部545は、可視光を透過することができればよく、物理的な開口であってもよいし、そうでなくてもよい。例えば、赤外透過カバー504は、G3接眼レンズ564に塗布された赤外透過塗料(可視光を透過せず且つ赤外光を透過する塗料)であってもよい。その場合
は、開口状に赤外透過塗料を塗らない部分を設け、その部分を開口部545とすればよい。また、第1の実施形態と同様に、赤外透過カバー504の可視光の透過率は0に限定されず、可視光の透過率よりも赤外光の透過率が高ければユーザーからIRED552~561が視認しにくい効果を得ることができる。第1の実施形態と同様に、可視光と赤外光の透過率の差が大きい方が好ましい。
は、開口状に赤外透過塗料を塗らない部分を設け、その部分を開口部545とすればよい。また、第1の実施形態と同様に、赤外透過カバー504の可視光の透過率は0に限定されず、可視光の透過率よりも赤外光の透過率が高ければユーザーからIRED552~561が視認しにくい効果を得ることができる。第1の実施形態と同様に、可視光と赤外光の透過率の差が大きい方が好ましい。
G3接眼レンズ564の周囲には、眼球541の近接を検知するための近接センサー549が配置されている。近接センサー549は赤外光照射部と赤外光受光部を有するユニットであり、例えば照射した赤外光の反射角度や時間差、周波数を用いてG3接眼レンズ564と眼球541との距離を測距する。近接センサー549が測距した距離情報はCPU593に送られ、例えばEVFパネル540やIRED552~561の点灯制御に必要な情報として用いられる。近接センサー549も赤外透過カバー504によって隠されている。
表示光学系光軸583と視線センサーレンズ光軸547aは平行ではなく、角度T510をなす。例えば、カメラ本体500の正位置において、視線センサー506は表示光学系光軸583の下方に位置し、視線センサーレンズ光軸547aは、上方を向く。正位置は、眼球541の左右方向が開口部545の左右方向に略一致する姿勢と捉えることもできる。
眼球541には、上マブタ550と下マブタ551が被さっている。第1の実施形態でも説明したように、ほとんどの場合、上マブタ550のほうが下マブタ551よりも大きく厚い。そして、カメラ本体500は、正位置で使われることが多い。そのため、正位置で下マブタ551側から眼球541を見上げるように視線センサー506を配置する。これによって、正位置で上マブタ550側から眼球541を見下ろすように視線センサー506を配置する場合に比べ、視線センサーチップ548に結像される眼球541の像がマブタによってけられる状況を抑制できる。
図18に示すように、G3接眼レンズ564(または開口部545)の周囲を囲うように10個のIRED552~561が配置されている。表示光学系光軸583を中心として、IRED555は1時、IRED561は1時半、IRED556は2時、IRED557は3時、IRED558は5時の位置に配置されている。IRED559は7時、IRED552は9時、IRED553は10時、IRED560は10時半、IRED554は11時の位置に配置されている。視線センサー506は6時の位置に配置されている。これらの位置は、あくまでおおよその位置であり、上記時刻の位置と完全に一致する必要はない。
第5の実施形態では、第1の実施形態と同様に、ユーザーの目に対向する開口部545の中心を挟んで視線センサー506とは反対の側の範囲において、1度あたりの光源(IRED)の数が最大となっている。ここで、表示光学系光軸583を通るX軸方向の水平線585に注目する。図18では、水平線585に対して視線センサー506が配置されていない側(上側)に、水平線585に対して視線センサー506が配置されている側(下側)よりも多くのIREDが配置されている。視線センサー506が配置されている側(水平線585の下側)にはIRED558とIRED559の2つのIREDが配置されている。一方で、視線センサー506が配置されていない側(水平線585の上側)には、IRED553、IRED554、IRED555、IRED556、IRED560、およびIRED561の6つのIREDが配置されている。
図19A~19Dは、複数のIRED、眼球541、および視線センサー506の関係を示す模式図である。図19A,19Bは、複数のIREDとして、図18に示すIRE
D552~559を用いた場合(第5の実施形態)を示す。図19Aは、G3接眼レンズ564側から眼球541を見た斜視図であり、図19Bは、G3接眼レンズ564側から眼球541を見た正面図である。図19C,19Dは、複数のIREDとして、均等に配置されたIRED552b~559bを用いた場合(比較例)を示す。図19Cは、G3接眼レンズ564側から眼球541を見た斜視図であり、図19Dは、G3接眼レンズ564側から眼球541を見た正面図である。なお、IRED560,561は省略している。
D552~559を用いた場合(第5の実施形態)を示す。図19Aは、G3接眼レンズ564側から眼球541を見た斜視図であり、図19Bは、G3接眼レンズ564側から眼球541を見た正面図である。図19C,19Dは、複数のIREDとして、均等に配置されたIRED552b~559bを用いた場合(比較例)を示す。図19Cは、G3接眼レンズ564側から眼球541を見た斜視図であり、図19Dは、G3接眼レンズ564側から眼球541を見た正面図である。なお、IRED560,561は省略している。
図19A~19Dにおいて、眼球541は表示光学系光軸583上に位置しており、G3接眼レンズ564に近接してEVFパネル540を見ている。IRED552~559(552b~559b)から発せられた主光線は、反射位置R552~R559(R552b~R559b)で反射して、視線センサー506に入射する。反射位置R552~R559(R552b~R559b)のうち、角膜542上の反射位置は、視線センサー506によって撮像された画像にプルキンエ像として映る。そのため、角膜542上に多く反射位置を配置することによって、視線検出の精度を向上することができる。
図19A,19B(第5の実施形態)においては、4つの反射位置R552,R553,R556,R557が角膜542上に位置している。反射位置R553,R554は上マブタ550上に位置しており、反射位置R558,R559は下マブタ551上に位置している。そのため、反射位置R553,R554,R558,R559は、視線センサー506によって撮像された画像にプルキンエ像として映らない。
図19C,19D(比較例)においては、反射位置R552b,R557bも下マブタ551上に位置している。そのため、角膜542上に位置する反射位置は、反射位置R553b,R556bのみとなっている。
視線センサー506は、球状の角膜542を下方から見上げるように配置されている。その結果、図19Dに示すように、IREDから発せられた主光線の反射位置は角膜542の下側に集中する。このような傾向は、ユーザーの目がEVFユニット501に近接している場合に顕著に現れる。
このような理由から、第5の実施形態では、表示光学系光軸583を挟んで視線センサー506とは反対の側にIREDを多く配置する。こうすることによって、角膜542の下側に集中してしまう反射位置を、角膜542の中心に寄せることができ、主光線が下マブタ551によってけられる状況を抑制することができる。
第5の実施形態では複数のIREDを用いているが、高出力で多数のIREDを点灯させるのがユーザーの安全上好ましくない場合がある。また、常に多数のIREDを点灯させると、カメラ本体500の消費電力が大きくなってしまう。そのため、点灯させるIREDの数は多すぎないほうがよい。
図20は、ユーザーがカメラ本体500を反時計回りに略90度回転させた状態、いわゆる縦位置にしてEVFユニット501を覗き込んだ場合の、眼球541とEVFユニット501の関係を示す模式図である。縦位置は、眼球541の左右方向が開口部545の上下方向に略一致する姿勢と捉えることもできる。図20は、EVFパネル540側から眼球541を見た正面図である。眼球541は表示光学系光軸583上に位置している。図20では、カメラ本体500は正位置と同様に示されており、眼球541を反時計周りに90度回転させている。なお、カメラ本体500を回転方向は反時計回りに限られず、カメラ本体500を時計回りに回転させた場合にも、以下の説明と同様の説明が可能である。
図20において、上マブタ550側に配置されたIRED555,556,557,558,560にそれぞれ対応する反射位置R555,R556,R557,R558,R560は、上マブタ550上に位置する。そのため、反射位置R555,R556,R557,R558,R560は、視線センサー506によって撮像された画像にプルキンエ像として映らない。一方で、下マブタ551側に配置されたIRED552,553,554,559,561にそれぞれ対応する反射位置R552,R553,R554,R559,R561は、角膜542上に位置する。そのため、反射位置R552,R553,R554,R559,R561は、視線センサー506によって撮像された画像にプルキンエ像として映る。マブタの形状には個人差があるが、上述したように上マブタ550は下マブタ551よりも大きく眼球541を覆う傾向がある。
図20から、縦位置の場合には、下マブタ551側のIREDを点灯させることが好ましいことがわかる。しかし、縦位置撮影時にカメラ本体500を時計回りに回転させるか、反時計回りに回転させるかはユーザーに依る。また、IREDは、プルキンエ像を得るためだけでなく、視線センサー506が眼球541を捕らえ必要な全体光量を確保するためにも使用される。様々なユーザーや使用状況を想定すると、点灯させるIREDを、左右非対称ではなく、左右対称に選択することが好ましい。
ここで、図19Bと図20を比較する。正位置の場合には、図19Bに示すように、上マブタ550と下マブタ551に挟まれた角膜542は横長に露出する(角膜542は、X軸方向の幅が広い状態で露出する)。一方で、縦位置の場合には、図20に示すように、カメラ本体500の回転方向に依らず、角膜542は縦長に露出する(角膜542は、Y軸方向の幅が広い状態で露出する)。
このため、正位置の場合には、Y軸のプラス側またはマイナス側で遠くに位置するIRED(例えばIRED554,555,558,559)から発せられた光は、視線センサー506によって撮像された画像にプルキンエ像として映る可能性が低い。同様に、縦位置の場合には、X軸のプラス側またはマイナス側で遠くに位置するIRED(例えばIRED552,553,556,557)から発せられた光は、視線センサー506によって撮像された画像にプルキンエ像として映る可能性が低い。
そこで、第5の実施形態では、CPU593は、正位置の場合と縦位置の場合とで点灯するIREDが切り替わるように、複数のIREDのそれぞれを制御する。CPU593は、正位置の場合には、開口部545の中心よりも上側に配置されたIREDのみを含む第1光源群を点灯させ、縦位置の場合には、第1光源群とは異なる第2光源群を点灯させる。複数のIREDの一部は、第1光源群と第2光源群の両方に含まれる。例えば、正位置の場合には、IRED552,553,556,557,560,561を点灯させ、他のIREDは消灯させる。縦位置の場合には、IRED554,555,558,559,560,561を点灯させ、他のIREDは消灯させる。なお、第5の実施形態における第1光源群と第2光源群の定義は、第3の実施形態における第1光源群と第2光源群の定義と異なる。
ここで、IRED560,561から発せられた光は、ユーザーの撮影姿勢に依らず、視線センサー506によって撮像された画像にプルキンエ像として映る可能性が高い。そのため、IRED560,561は、正位置の場合にも縦位置の場合にも点灯させる。表示光学系光軸583を挟んで視線センサー506とは反対の側で斜め方向に配置されたIRED(表示光学系光軸583を通り且つY軸に対して45度±10度に傾いた方向に配置されたIRED)は、常に点灯させることが好ましい。
しかし、眼球541が表示光学系光軸583から離れている場合や眼球541がEVFユニット501に近接しすぎている場合など、点灯させるIREDをユーザーの姿勢に合わせて制御しても十分な数のプルキンエ像を取得できない場合がある。そのため、得られたプルキンエ像(視線センサー506に結像するプルキンエ像)の数が所定数よりも少ない場合には、CPU593は、得られたプルキンエ像の状況に応じて、消灯させている1つ以上のIREDを一時的に点灯させてもよい。所定数は、視線検出に十分な数であり、例えば2個である。こうすることで、取得されるプルキンエ像の数を増やすことができ、視線検出のエラーの発生頻度を低減することができる。
以上述べたように、第5の実施形態によれば、第1の実施形態と同様に、ユーザーの目に対向する開口部の中心(表示光学系の光軸)を挟んで視線センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている。これによって、状況に依らず高精度に視線を検出することを可能にした撮像装置(視線検出装置)を提供することができる。
なお、上記実施形態(変形例を含む)はあくまで一例であり、本発明の要旨の範囲内で上記実施形態の構成を適宜変形したり変更したりすることにより得られる構成も、本発明に含まれる。上記実施形態の構成を適宜組み合わせて得られる構成も、本発明に含まれる。例えば、上記実施形態に、フォーカス(ピント)が合っている領域の輪郭を強調する画像処理(フォーカスピーキング)を組み合わせてもよい。
301:ディスプレイユニット本体
302:右レンズ系 303:左レンズ系
345:右開口部 346:左開口部
306:右視線センサー 307:左視線センサー
308~311,313,315,317:右IRED(第1光源群)
319~322:右IRED(第1光源群)
386,387:右IRED(第2光源群)
323~326,328,330,332:左IRED(第1光源群)
334~337:左IRED(第1光源群)
388,389:左IRED(第2光源群)
390,391:光軸
302:右レンズ系 303:左レンズ系
345:右開口部 346:左開口部
306:右視線センサー 307:左視線センサー
308~311,313,315,317:右IRED(第1光源群)
319~322:右IRED(第1光源群)
386,387:右IRED(第2光源群)
323~326,328,330,332:左IRED(第1光源群)
334~337:左IRED(第1光源群)
388,389:左IRED(第2光源群)
390,391:光軸
Claims (15)
- 接眼レンズと、
前記接眼レンズの縁に配置され、前記接眼レンズに対向する眼の画像を撮影する画像センサーと、
前記接眼レンズの縁に沿って配置された複数の第1光源と、
前記接眼レンズの縁に沿って配置された複数の第2光源と
を有し、
前記接眼レンズの光軸に垂直に交わる平面において、前記複数の第2光源のそれぞれを前記平面に投影した位置から前記光軸までの距離は、前記複数の第1光源のそれぞれを前記平面に投影した位置から前記光軸までの距離よりも長い
ことを特徴とする視線検出装置。 - 前記眼の角膜の中心と前記接眼レンズの光軸とが交わる場合、前記複数の第2光源のそれぞれから前記眼へ入射する光と前記光軸とが為す角度は、前記複数の第1光源のそれぞれから前記眼へ入射する光と前記光軸とが為す角度よりも大きい
ことを特徴とする請求項1に記載の視線検出装置。 - 前記接眼レンズの下側に配置された第2光源の数は、前記接眼レンズの上側に配置された第2光源の数よりも多い
ことを特徴とする請求項1に記載の視線検出装置。 - 前記複数の第1光源のそれぞれは、前記接眼レンズを介して外部に光を出射するように配置されており、
前記複数の第2光源のそれぞれは、前記接眼レンズを介さずに外部に光を出射するように配置されている
ことを特徴とする請求項1に記載の視線検出装置。 - 前記複数の第1光源のそれぞれの輝度は、前記複数の第2光源のそれぞれの輝度よりも高い
ことを特徴とする請求項4に記載の視線検出装置。 - 前記複数の第2光源のそれぞれを前記平面に投影した位置から前記光軸までの距離は、前記複数の第1光源のそれぞれを前記平面に投影した位置から前記光軸までの距離の1.2倍以上である
ことを特徴とする請求項1に記載の視線検出装置。 - 前記複数の第2光源のそれぞれを前記平面に投影した位置から前記光軸までの距離は、前記複数の第1光源のそれぞれを前記平面に投影した位置から前記光軸までの距離の1.5倍以上である
ことを特徴とする請求項1に記載の視線検出装置。 - 前記複数の第1光源のそれぞれと前記複数の第2光源のそれぞれとを制御し、前記画像センサーの出力に基づいてユーザーの視線を検出する制御部をさらに有する
ことを特徴とする請求項1に記載の視線検出装置。 - 前記制御部は、
前記複数の第1光源と前記複数の第2光源とを含む複数の光源の一部または全部に対応する、前記画像センサーに結像した複数の反射像に基づいて、前記ユーザーの視線を仮検出し、
仮検出した視線に基づいて、前記複数の反射像の一部を選択し、
選択した反射像に基づいて、前記ユーザーの視線を本検出する
ことを特徴とする請求項8に記載の視線検出装置。 - 前記制御部は、
前記複数の第1光源と前記複数の第2光源とを含む複数の光源の一部または全部に対応する、前記画像センサーに結像した複数の反射像に基づいて、前記ユーザーの視線を仮検出し、
仮検出した視線に基づいて、前記複数の光源の一部を消灯させ、
前記複数の光源の一部を消灯させた状態で、前記ユーザーの視線を本検出する
ことを特徴とする請求項8に記載の視線検出装置。 - 前記複数の第1光源と前記複数の第2光源との少なくとも一方に着目した場合に、前記光軸を中心とした360度の範囲のうち、前記光軸を挟んで前記画像センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている
ことを特徴とする請求項1に記載の視線検出装置。 - 前記接眼レンズの光軸に対して、前記複数の第1光源は前記複数の第2光源の内側に配置されている
ことを特徴とする請求項1に記載の視線検出装置。 - 前記複数の第2光源のそれぞれは、赤外光を発する光源であり、可視光よりも赤外光の透過率が高い材料を用いてユーザーから隠されている
ことを特徴とする請求項1に記載の視線検出装置。 - 前記接眼レンズを含む光学系をさらに有し、
前記画像センサーには、外部から前記光学系を介して光が入射し、
前記光学系の面における、前記画像センサーに対向する部分は平坦であり、
前記光学系の面における、前記画像センサーに対向しない部分は円錐面であり、
前記複数の第1光源のそれぞれは、前記光学系を介して外部に光を出射するように配置されており、
前記複数の第2光源のそれぞれは、前記光学系を介さずに外部に光を出射するように配置されており、
前記複数の第1光源のそれぞれの輝度は、前記複数の第2光源のそれぞれの輝度よりも高く、
前記複数の第2光源のそれぞれは、赤外光を発する光源であり、
前記複数の第1光源と前記複数の第2光源との少なくとも一方に着目した場合に、前記接眼レンズの光軸を中心とした360度の範囲のうち、前記光軸を挟んで前記画像センサーとは反対の側の範囲において、1度あたりの光源の数が最大となっている
ことを特徴とする請求項1に記載の視線検出装置。 - 請求項1乃至14のいずれか1項に記載の視線検出装置と、
前記接眼レンズを介して視認可能な映像を表示する表示部と、
を有することを特徴とする頭部装着型表示装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US18/394,713 US20240210696A1 (en) | 2022-12-26 | 2023-12-22 | Line-of-sight detection device and head mounted display device |
EP23219847.3A EP4394557A1 (en) | 2022-12-26 | 2023-12-22 | Line-of-sight detection device and head mounted display device |
CN202311795491.9A CN118259465A (zh) | 2022-12-26 | 2023-12-25 | 视线检测装置和头戴式显示装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022208035 | 2022-12-26 | ||
JP2022208035 | 2022-12-26 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024092949A true JP2024092949A (ja) | 2024-07-08 |
Family
ID=91802101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023180846A Pending JP2024092949A (ja) | 2022-12-26 | 2023-10-20 | 視線検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2024092949A (ja) |
-
2023
- 2023-10-20 JP JP2023180846A patent/JP2024092949A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6175945B2 (ja) | 視線検出装置及び視線検出方法 | |
KR102205374B1 (ko) | 아이 트래킹 웨어러블 디바이스들 및 사용을 위한 방법들 | |
US10452911B2 (en) | Gaze-tracking system using curved photo-sensitive chip | |
WO2022199580A1 (zh) | 电子设备及其控制方法 | |
US20220229300A1 (en) | Optical see through (ost) near eye display (ned) system integrating ophthalmic correction | |
JP2003043409A (ja) | 画像表示装置 | |
JP2009240551A (ja) | 視線検出装置 | |
JP4148700B2 (ja) | 目画像撮像装置 | |
JPH08322797A (ja) | 視線検出装置 | |
JP2024092949A (ja) | 視線検出装置 | |
JP2024092950A (ja) | 視線検出装置 | |
JP2024092340A (ja) | 視線検出装置 | |
US20240210696A1 (en) | Line-of-sight detection device and head mounted display device | |
US20240211037A1 (en) | Line-of-sight detection device and head mounted display device | |
TW202026695A (zh) | 近眼顯示器結構 | |
CN114563871B (zh) | 眼动追踪装置及电子设备 | |
CN118259465A (zh) | 视线检测装置和头戴式显示装置 | |
CN118259466A (zh) | 视线检测装置和头戴式显示装置 | |
US10718949B1 (en) | Display apparatus and method of displaying | |
JP2018028728A (ja) | 眼部画像処理装置 | |
TW202104981A (zh) | 影像中繼裝置及影像投影系統 | |
TWI740083B (zh) | 低光源環境顯示結構 | |
US20230128267A1 (en) | Visual line detecting apparatus, image display apparatus, and visual line processing apparatus | |
WO2021085541A1 (ja) | 撮像装置、電子機器、ファインダーユニット | |
JP7246708B2 (ja) | ヘッドマウントディスプレイ |