以下、本発明の複数の実施の形態を図面に基づいて説明する。なお、各実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。また、以下の実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合及び原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aより成る」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合及び原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似又は類似するもの等を含むものとする。
<本発明の第1の実施の形態に係る表示装置10の構成例>
図1は、本発明の第1の実施の形態に係る表示装置10の構成例を示している。
表示装置10は、例えばHMD(Head Mounted Display)等のように、頭部に装着したユーザに対して映像を視認させるためのものである。表示装置10は、ユーザの視線検出機能を有する。なお、表示装置10の形状は、例えば、メガネ型、ゴーグル型、ヘルメット型等のいずれであってもよい。表示装置10は、本発明の表示装置、及び視線検出装置に相当する。
表示装置10は、光走査部1001、光源部1002、光源制御部1003、発光制御部1004、映像制御部1005、映像情報記憶部1006、走査軌跡制御部1007、駆動信号生成部1008、駆動制御部1009、統括部1010、記憶部1011、及び入出力制御部1012を備える。また、表示装置10は、導光光学系1020、第1受光部1031、第2受光部1032、及び視線方向判定部1033を備える。
光走査部1001は、光源部1002から出力されるレーザ光を走査して導光光学系1020に出力する。光源部1002は、光源制御部1003からの制御に従ってレーザ光を出射する。なお、光源部1002が出射する光は、レーザ光に限らず、指向性が高い光であればよい。光源制御部1003は、光源部1002によりレーザ光の出力を制御する。
発光制御部1004、映像制御部1005、走査軌跡制御部1007、及び駆動信号生成部1008は、例えばデジタル回路によって実現できる。具体的には、同一のIC(Integrated Circuit)、例えばFPGA(Field Programable Gate Array)、ASIC(Application Specific Integrated Circuit)等の集積回路内の機能ブロックとして実現していてもよい。
光源制御部1003は、発光制御部1004にて生成された信号に基づき、光源部1002内のLD(Laser Diode)に電流を供給してレーザ光を発生させる。光源部1002は、レーザ光を発生し、光走査部1001に入射する。光走査部1001は、入射されたレーザ光を渦巻状の軌跡で走査しつつ、レーザ光を導光光学系1020に入射する。
発光制御部1004は、映像制御部1005からの画素データに応じて、光源部1002を点灯させるための信号を生成する。また、発光制御部1004は、走査軌跡制御部1007からの情報に基づいて輝度の補正を行ってもよい。
映像制御部1005は、走査軌跡制御部1007からの同期信号に基づき、光走査位置に応じて決まる座標(x,y)を算出する。また、映像制御部1005は、映像情報記憶部1006から座標(x,y)に対応した画素データを読み出す。画素データは、例えばRGBの階調データである。さらに、映像制御部1005は、該画素データを発光制御部1004に出力する。
走査軌跡制御部1007は、統括部1010からの制御に基づき、光走査部1001を駆動させてレーザ光を走査するための同期信号を生成し、映像制御部1005に出力する。また、走査軌跡制御部1007は、生成した同期信号を元に光走査部1001がレーザ光を走査させるときの軌跡パターンを決定して駆動信号生成部1008に通知する。駆動信号生成部1008は、通知された軌跡パターンに基づき、光走査部1001を駆動させるための駆動信号を生成し、駆動制御部1009に出力する。
駆動制御部1009は、例えば増幅器等により実現される。駆動制御部1009は、駆動信号生成部1008からの駆動信号に応じた駆動電力を、光走査部1001内のアクチュエータ部に印加することにより、光走査部1001を駆動させる。
統括部1010は、表示装置10の各ブロックの制御を行う。統括部1010は、例えばCPU(Central Processing Unit)等により実現される。
記憶部1011は、統括部1010が表示装置10を制御するためにプログラムやデータ等が格納されるメモリ領域であり、例えばフラッシュメモリ等により実現される。記憶部1011は、HDD(Hard Disc Drive)や光ディスク等のデータの書き込み、及び読み出しが可能な他の記憶メディアであってもよい。また、RAM(Random Access Memory)等の一時記憶領域であってもよい。
入出力制御部1012は、外部制御装置20と接続し、外部制御装置20から送信される映像信号を受信して映像情報記憶部1006に格納する。入出力制御部1012は、発光制御部1004、映像制御部1005、及び走査軌跡制御部1007とともに同一のデジタル回路としてFPGAやASICに集積されている構成としてもよいし、統括部1010内に集積されているようにしてもよい。
導光光学系1020は、光走査部1001から入射されたレーザ光の光束径である瞳サイズを拡大して出射する。
第1受光部1031及び第2受光部1032は、導光光学系1020を挟んで配置される。第1受光部1031及び第2受光部1032は、PD(Photo Diode)等の光電変換素子から成り、導光光学系1020から照射されて眼球30にて反射(散乱を含む)した反射光を検出し、検出強度を表す受光信号を視線方向判定部1033に出力する。
視線方向判定部1033は、第1受光部1031及び第2受光部1032から入力される受光信号に基づき、ユーザの視線方向を表す視線信号を生成する。
次に、図2は、光走査部1001の構成例を示している。同図に示されるように、光走査部1001は、例えば、光ファイバ走査デバイス401によって実現される。
光走査部1001としての光ファイバ走査デバイス401は、加振部101、導光路102、接合部103、レンズ104、外装部105、支持部材106、及び電気配線部107を備える。
加振部101は、例えば圧電アクチュエータから成り、駆動制御部1009からの駆動電力に応じて振動を発生する。加振部101は、中心部分が中空の円筒型の圧電素子であり、その内外周に複数の電極が配置されている。加振部101の中空の中心部分には、導光路102が配置され、加振部101と導光路102とは接合部103により機械的に接合される。加振部101は支持部材106により、外装部105と固定される。
導光路102は、例えば光ファイバにより実現される。接合部103は、例えば接着剤等により実現される。導光路102の一端は、自由端102aである。導光路102は、その一端に自由端102aを有する突き出し梁のような構造を有しており、振動し易く、固有周波数(固有振動数)を有する。導光路102の自由端102aは、加振部101の振動が接合部103により導光路102に伝達されることによって振動する。
レンズ104は、例えばガラス又は樹脂等により成型されている。レンズ104の形状は任意であり、球面レンズ、非球面レンズ、フレネルレンズ、屈折率分布型レンズ等の何れであってもよい。また、レンズ104は、導光路102の自由端102aと一体化した構造であってもよい。また、レンズ104は、複数のレンズから構成してもよい。
導光路102の自由端102aは、加振部101によって、y軸及びx軸の2軸方向に独立して制御して振動させることができる。したがって、光ファイバ走査デバイス401は、自由端102aの変位により、出射するレーザ光の進行方向を走査することができる。この走査に際して、駆動信号生成部1008が生成するy軸駆動信号の位相と、x軸駆動信号の位相とを90°ずらすことで、レーザ光の軌跡が円を描くように走査することができる。
図3は、駆動信号生成部1008が生成する1フレーム分のy軸駆動信号、及びx軸駆動信号の一例を示している。同図に示されるように、駆動信号生成部1008が生成するy軸駆動信号の位相と、x軸駆動信号の位相とを90°ずらし、且つ、y軸駆動信号の振幅A1と、x軸駆動信号の振幅A2を時間とともに徐々に増加させることで、レーザ光の軌跡は円を描きながら振幅が増加して渦巻き状になる。これにより、点状の光スポットを面状に走査することができる。なお、図3において、共振周期を決める周波数frは、導光路102が有する固有周波数である。
次に、図4は、光ファイバ走査デバイス401によるレーザ光の渦巻状の走査の軌跡の一例を示している。すなわち、図3に示されたように、y軸駆動信号、及びx軸駆動信号を変化させることにより、図4に示されたように、光走査部1001の先にスクリーン60を置いた場合、レーザ光の軌跡は渦巻状となる。
図5は、駆動信号生成部1008が生成する数フレーム分のy軸駆動信号、及びx軸駆動信号の一例を示している。同図に示されるように、駆動信号生成部1008が単位時間(1秒間)毎にNf回繰り返してy軸駆動信号、及びx軸駆動信号を生成することにより、表示装置10は、Nf(フレーム/秒)のフレームレートで映像表示を行うことができる。固有周波数frは、一般的に数キロヘルツ以上であり、フレームレートNfは、一般的に30~90ヘルツ程度である。
光走査部1001は、図2に示された光ファイバ走査デバイス401の他、例えば、可動ミラー走査デバイスによって実現することもできる。図6は、光走査部1001を実現する可動ミラー走査デバイス601の構成例を示している。
可動ミラー走査デバイス601は、2方向の回転軸を有する鏡面部602を有し、入射光603の反射角を変化させて、2次元に走査可能な出射光604を得ることができる。なお、可動ミラー走査デバイス601には、固定ミラーやコリメートレンズ等(何れも不図示)を含んでもよい。
さらに、光走査部1001としての可動ミラー走査デバイスは、ガルバノミラーやポリゴンミラー等の単一の回転軸を持つミラーデバイスを複数個組み合わせて構成してもよい。
以下、光走査部1001として光ファイバ走査デバイス401(図2)を採用した場合を例にして説明する。
次に、図7は、光源部1002の詳細な構成例を示しており、同図(A)は3種類のLDを用いた構成例、同図(B)は4種類のLDを用いた構成例を示している。
同図(A)の場合、光源部1002は、赤色LD(LDr)3001、緑色LD(LDg)3002、及び青色LD(LDb)3003の3原色R,G,Bをそれぞれ発光する3種類のLDから構成される。
赤色LD3001は、アノードに電位VLDrが印加され、カソードに電流制限抵抗3004を介して光源制御部1003からの電位CTRLrが印加される。電位VLDrは任意の値に設定可能であり、赤色LD3001の発光を制御できる。光源制御部1003は、電位CTRLrを変化させることで、赤色LD3001の発光量や発光時間等を制御し、任意の映像を表示できる。
緑色LD3002、及び青色LD3003は、赤色LD3001と同様、それぞれアノードに電位VLDg,VLDbが印加され、カソードに電流制限抵抗3005,3006を介して光源制御部1003からの電位CTRLg,CTRLbが印加される。よって、緑色LD3002、及び青色LD3003についても、赤色LD3001と同様に独立しそれぞれの発光量や発光時間等を制御し、任意の映像を表示できる。
なお、電位VLDr,VLDg,VLDbは、それぞれ異なる値でもよいし、同一の値でもよい。同一の値である場合、赤色LD3001、緑色LD3002、及び青色LD3003のアノードを同一の端子に接続するようにしてもよい。また、電位CTRLr,CTRLg,CTRLbは、それぞれ異なる値でもよいし、同一の値でもよい。同一の値の場合、光源制御部1003と各電流制限抵抗とを同一の端子を分岐して接続してもよい。
同図(B)の場合、光源部1002は、赤色LD3001、緑色LD3002、及び青色LD3003に加えて、赤外光を発する赤外LD(LDi)3007の4種類のLDから構成される。
赤外LD3007は、そのアノードに電位VLDiが印加され、カソードに電流制限抵抗3008を介して光源制御部1003からの電位CTRLiが印加される。電位VLDiは任意の値に設定可能であり、赤外LD3007の発光を制御できる。光源制御部1003は、電位CTRLiを変化させることで、赤外LD3007の発光量や発光時間等を制御することができる。
同図(A)の構成例では、3原色のLDを映像表示と視線検出とに兼用する。同図(B)の構成例では、3原色のLDを映像表示に用い、赤外LDを視線検出に用いる。
同図(A)の構成例では、映像表示と視線検出とに同一のLDを用いるため、表示する映像の内容によってはLDの発光量が減少して、視線検出の感度に影響が生じることがある。一方、同図(B)の構成例では、映像表示のための光源とは別に視線検出のための光源があるので、表示する映像の内容に拘わらず、安定して視線検出を行うことができる。
次に、図8は、導光光学系1020におけるレーザ光の伝搬を説明するための図である。光走査部1001から出射されたレーザ光kは、導光光学系1020のxz面の一方(図面における上面)に設けられた光入力部221から導光光学系1020の内部に入射し、導光光学系1020の内部に設けられたxz面に平行な対向する内側反射面223,224にて全反射しながら導光光学系1020の内部を伝搬する。
導光光学系1020は、表示装置10にて出力するレーザ光の光束径である瞳サイズを拡大する機能を有する。すなわち、導光光学系1020は、光走査部1001から光入力部221に入射したレーザ光kを複数に分割して、導光光学系1020のxz面の他方(図面における下面)に設けられた光出力部222から出射する。これにより、導光光学系1020は、光入力部221から導光板220に入射したレーザ光kの光束径である瞳サイズφ1よりも大きい瞳サイズφ2のレーザ光(同図の場合、複製された3本のレーザ光k)を光出力部222から出射することができる。
次に、図9は、導光光学系1020の複数の構成例を示しており、同図(A)は導光光学系1020の第1の構成例である導光板801、同図(B)は導光光学系1020の第2の構成例である導光板811、同図(C)は導光光学系1020の第3の構成例である導光板821を示している。
同図(A)に示す導光板801は、3つの回折領域802~804を備える。回折領域802は、y軸に略平行な光をz軸に略平行な方向に回折する構造を有する。回折領域803は、xz面内でz軸に略平行な光をx軸に略平行な方向に回折する構造を有する。回折領域804は、x軸に略平行な光をy軸に略平行な方向に回折する構造を有する。回折領域802と回折領域804の回折構造のピッチは互いに略等しく、回折領域803の回折構造のピッチは、回折領域802の回折構造のピッチの1/√2倍に略等しい。
導光板801においては、光走査部1001からのレーザ光が光入力部221に対応する回折領域802に入射する。回折領域802に入射したレーザ光は回折して、導光板801の内部に取り込まれ、導光板801の内部を全反射導光し、回折領域803に到達する。回折領域803に到達したレーザ光の一部は回折領域803で回折し、回折しなかったレーザ光は導光板801の内部で全反射して、再び回折領域803に到達する。そして、回折領域803に到達する毎、レーザ光は複数に複製され、複製されたレーザ光は導光板801の内部を全反射導光し、光出力部222に対応する回折領域804に到達する。
回折領域804に到達したレーザ光の一部は回折領域804で回折し、回折しなかったレーザ光は導光板801の内部で全反射して、再び回折領域804に到達する。そして、回折領域804に到達するごとにレーザ光は複数に分割されて導光板801から出射する。
したがって、導光板801によれば、レーザ光の光束径である瞳サイズを2次元方向に拡大することができる。なお、導光板801は、3つの回折領域802~804を備えるが、例えば、導光板に2つの回折領域を設け、2つの回折領域の回折構造の方向と周期(ピッチ)を略同一としてもよい。これにより、導光板の構造を平易にすることができ、導光板のコストを低減できる。
次に、同図(B)に示す導光板811は、2つの回折領域812,813を備える。
回折領域812は、y軸に略平行な光をxz平面内でx軸に略平行な方向に回折する構造を有する。回折領域813は、xz面において、x軸に略平行な光をx軸から反時計回りに略60度と、略-60度の2方向に回折する構造を有する。回折領域812の回折構造のピッチと、回折領域813の2つの方向の回折構造のピッチは、互いに全て略等しい。
導光板811においては、光走査部1001からのレーザ光が光入力部221に対応する回折領域812に入射する。回折領域812に入射したレーザ光は回折して、導光板811の内部に取り込まれ、導光板811の内部を全反射導光し、光出力部222に対応する回折領域813に到達する。回折領域813はレーザ光を2方向に回折する構造を有するが、導光板811の内部で全反射導光する過程で、回折領域813が有する2方向の回折構造のそれぞれで1回ずつ回折すると、レーザ光は導光板811から出射する。
したがって、導光板811によれば、レーザ光の光束径である瞳サイズを2次元方向に拡大することができる。
次に、同図(C)に示す導光板821は、入射面822、及び複数の部分反射面823を備える。
複数の部分反射面823は、互いに平行で、入射した光の少なくとも一部を反射し、残りを透過する複数枚のビームスプリッタ面である。
導光板821においては、光走査部1001からのレーザ光が光入力部221に対応する入射面822に入射する。入射面822に入射したレーザ光は、導光板821の内部で全反射導光し、複数の部分反射面823に到達する。複数の部分反射面823を構成するそれぞれのビームスプリッタ面がレーザ光を反射することにより、光出力部222に対応する光出力面824からレーザ光が出射する。
したがって、導光板821によれば、レーザ光の光束径である瞳サイズを1次元方向に拡大することが可能となる。
なお、導光光学系1020の構成例は、図9に示された導光板801,811,821に限定されず、レーザ光を複数に分割できる構造であればよい。例えば、導光光学系1020は、導光板801,811,821を組み合わせた構造であってもよい。
上述したように、導光板801,811,821から出射されたレーザ光の一部は、ユーザの眼球30に入射する。眼球30に照射されたレーザ光の一部は、眼球30の瞳孔を通り、網膜に照射され、表示映像としてユーザに視認される。
次に、図10は、ユーザの眼球30に対するレーザ光の照射位置の例を示しており、同図(A)は導光光学系1020を用いない場合、図(A)は導光光学系1020を用いた場合を示している。
同図(A)の場合、導光光学系1020を用いないため、光走査部1001からのレーザ光は、分割されることなく、眼球30上の1点にスポット701として照射される。なお、スポット701は、光走査部1001の走査によって破線で示す渦巻状の軌跡702を描くことになる。
同図(A)に示されたように、スポット701の渦巻き状の軌跡の中央部分と眼球30との位置関係は、表示装置10を装着したユーザの眼球30の位置等に依存しており、個人差がある。このため、レーザ光の渦巻状の軌跡702が眼球30の全体を網羅できない可能性がある。
一方、同図(B)の場合、導光光学系1020を用いているので、光走査部1001からのレーザ光は、複数に分割されてスポット群710を形成し、眼球30の広い範囲に照射される。さらに、スポット群710を形成する各スポットは、同図(A)の場合と同様に渦巻状に走査される。よって、同図(B)の場合、眼球30の全体にレーザ光を照射することができる。
<強膜反射を用いた視線検出の原理>
次に、強膜反射(眼球30の黒目及び白目における散乱の違い)を用いた視線検出の原理について説明する。
図11は、強膜反射の例であり、同図(A)は眼球30が正面を向いている場合の強膜反射の例、図(B)は眼球30が図面の左側を向いている場合の強膜反射の例、図(C)は眼球30が図面の右側を向いている場合の強膜反射の例を示している。なお、図11は、導光光学系1020、第1受光部1031、及び第2受光部1032を上方から見下ろした状態を示している。
導光光学系1020は、光走査部1001から入射されたレーザ光を実線で示す複数の光線1801に分割して眼球30に出射する。複数の光線1801のうち、破線で示す眼球30の白目の部分にて散乱した白目散乱光1802は、点線で示す黒目にて散乱した黒目散乱光1803に比べて高強度となる。
第1受光部1031及び第2受光部1032は、このようにした散乱された白目散乱光1802及び黒目散乱光1803を検出する。第1受光部1031、及び第2受光部1032は、導光光学系1020を挟んで配置され、眼球30の位置に対して略等しい距離に配置される。また、第1受光部1031、及び第2受光部1032は、それぞれの受光面の法線が眼球30に向くように角度をつけて配置される。第1受光部1031及び第2受光部1032は図示しないレンズを含んでもよい。
このように導光光学系1020、第1受光部1031、及び第2受光部1032を配置することにより、同図(A)に示すように眼球30が正面を向いている場合には、左右に配置された第1受光部1031及び第2受光部1032の両方で、高強度の白目散乱光1802が検出される。
また、同図(B)に示すように眼球30が図面の左側を向いている場合には、眼球30の黒目が第1受光部1031に近接し、第1受光部1031では弱い黒目散乱光1803が多く検出されるため、第1受光部1031の検出強度は同図(A)の場合に比べて低下する。一方、第2受光部1032では、強い白目散乱光1802が多く検出されるため、第2受光部1032の検出強度は同図(A)の場合と等しいか増加することになる。
反対に、同図(C)に示すように眼球30が図面の右側を向いている場合には、眼球30の黒目が第2受光部1032に近接し、第2受光部1032では弱い黒目散乱光1803が多く検出されるため、第2受光部1032の検出強度は同図(A)の場合に比べて低下する。一方、第1受光部1031では、強い白目散乱光1802が多く検出されるため、第1受光部1031の検出強度は同図(A)の場合と等しいか増加することになる。
なお、図11に示された例では、第1受光部1031及び第2受光部1032を導光光学系1020の左右に配置してユーザの左右方向への視線を検出したが、第1受光部1031及び第2受光部1032を導光光学系1020の上下に配置すれば、ユーザの上下方向への視線を検出することができる。
また、導光光学系1020の上下左右の4箇所に受光部を配置すれば、ユーザの上下左右方向への視線を検出することができる。
次に、図12は、強膜反射を用いる場合に対応する視線方向判定部1033の構成例(第1の構成例)を示している。視線方向判定部1033の第1の構成例は、信号処理部901,902、減算部903、加算部904、及び除算部905から構成される。
信号処理部901は、増幅器やノイズリダクションフィルタ等から成り、第1受光部1031からの受光信号を整形し、出力信号V1として減算部903及び加算部904に出力する。信号処理部902は、増幅器やノイズリダクションフィルタ等から成り、第2受光部1032からの受光信号を整形し、出力信号V2として減算部903及び加算部904に出力する。
減算部903は、次式(1)に従い、出力信号V1,V2の差信号Difを計算する。
Dif=V2-V1 ・・・(1)
加算部904は、次式(2)に従い、出力信号V1,V2の和信号Sumを計算する。
Sum=V1+V2 ・・・(2)
除算部905は、次式(3)に従い、差信号Difと和信号Sumとの商を計算し、視線信号Vsとして出力する。
Vs=Dif/Sum ・・・(3)
除算部905にて、式(3)を計算することにより、光源部1002が出射する光強度の変動による信号の増減を相殺することができる。これにより、映像表示を行うために連続的に光源部1002が強度変調をしている場合にも視線信号を検出することが可能となる。
除算部905から出力される視線信号Vsは、図11(B)に示されたように眼球30が左側を向いた場合には増加し、図11(C)に示されたように眼球30が右側を向いた場合には減少することになる。
なお、減算部903にて、次式(1’)に従い、出力信号V1,V2の差信号Difを計算するようにしてもよい。
Dif=V1-V2 ・・・(1’)
この場合、視線信号Vsは、図11(B)に示されたように眼球30が左側を向いた場合には減少し、図11(C)に示されたように眼球30が右側を向いた場合には増加することになる。
また、加算部904にて、出力信号V1,V2を加算する代わりに、発光制御部1004から得られる光源部1002の発光強度情報に基づいてSumを計算してもよい。
以上、強膜反射を用いた視線検出の原理について説明した。
<角膜反射を用いた視線検出の原理>
次に、角膜反射(眼球30の角膜又は水晶体における散乱)を用いた視線検出の原理について、図13~図15を参照して説明する。図13~図15は、角膜反射の例を示しており、導光光学系1020、第1受光部1031、及び第2受光部1032を上方から見下ろした状態を示している。
図13は、眼球30が正面を向いている場合の角膜反射の例であり、同図(A)は眼球30に対して導光光学系1020からの光線1801が略垂直に照射される場合、同図(B)は光線1801が図面の右側から照射される場合、同図(C)は光線1801が図面の左側から照射される場合をそれぞれ示している。
導光光学系1020からの光線1801は、眼球30の角膜にて、一点鎖線によって示す反射光1804として反射される。反射光1804の反射方向は、照射する光線1801の角度と眼球30の向きによって決定される。
同図(A)の場合、反射光1804は、眼球30の角膜から導光光学系1020に向かって反射される。このため、第1受光部1031及び第2受光部1032では、反射光1804は検出されない。
同図(B)及び同図(C)の場合、反射光1804は、眼球30の角膜にて、導光光学系1020に向かって所定の角度で反射される。ただし、同図に示すように、眼球30が正面向きである場合には、第1受光部1031及び第2受光部1032では反射光1804は検出されない。
次に、図14は、眼球30が図面の左側を向いている場合の角膜反射の例であり、同図(A)は眼球30に対して導光光学系1020からの光線1801が略垂直に照射される場合、同図(B)は光線1801が図面の右側から照射される場合、同図(C)は光線1801が図面の左側から照射される場合をそれぞれ示している。
同図(A)~(C)に示す反射光1804を比較して明らかなように、眼球30が図面の左側を向いている場合、第1受光部1031による反射光1804の検出強度は、同図(B)の場合においてピークとなる。一方、第2受光部1032は、いずれの場合においても反射光1804を検出しない。
次に、図15は、眼球30が図面の右側を向いている場合の角膜反射の例であり、同図(A)は眼球30に対して導光光学系1020からの光線1801が略垂直に照射される場合、同図(B)は光線1801が図面の右側から照射される場合、同図(C)は光線1801が図面の左側から照射される場合をそれぞれ示している。
同図(A)~同図(C)に示す反射光1804を比較して明らかなように、眼球30が図面の右側を向いている場合、第2受光部1032による反射光1804の検出強度は、同図(C)の場合においてピークとなる。一方、第1受光部1031は、いずれの場合においても反射光1804を検出しない。
このように第1受光部1031及び第2受光部1032の設置位置と受光結果、光線1801の照射角度によって、角膜反射の反射光1804の検出結果が異なるため、これらの情報に基づいて視線方向を判定できる。
次に、図16は、角膜反射を用いる場合に対応する視線方向判定部1033の構成例(第2の構成例)を示している。視線方向判定部1033の第2の構成例は、信号処理部1301,1302、ピーク検出部1303,1304、及び演算部1305から構成される。
導光光学系1020から眼球30に照射される光線1801の照射角度は、光走査部1001により変化される。図4に示すように、渦巻状の走査軌跡を1フレームとして、類似の軌跡での走査が繰り返し行われる。走査軌跡制御部1007は、光走査部1001の走査角度を表す走査角度情報(横ビーム角度、縦ビーム角度)と、1フレーム毎のタイミング情報をピーク検出部1303,1304及び演算部1305に出力する。
信号処理部1301は、増幅器やノイズリダクションフィルタ等から成り、第1受光部1031からの受光信号を整形し、出力信号V1としてピーク検出部1303に出力する。信号処理部1302は、増幅器やノイズリダクションフィルタ等から成り、第2受光部1032からの受光信号を整形し、出力信号V2としてピーク検出部1304に出力する。
ピーク検出部1303は、走査軌跡の1フレームの間における出力信号V1の最大値V1maxと、そのときの走査角度情報Add1を検出し、演算部1305に出力する。ピーク検出部1304は、走査軌跡の1フレームの間における出力信号V2の最大値V2maxと、そのときの走査角度情報Add2を検出し、演算部1305に出力する。
演算部1305は、1フレーム毎に、ピーク検出部1303からの最大値V1max及び走査角度情報Add1、並びにピーク検出部1304から最大値V2max及び走査角度情報に基づいて視線信号Vsを演算する。
ここで、演算部1305による視線信号Vsの第1の演算方法について、図17及び図18を参照して説明する。
図17は、眼球30と導光光学系1020と第1受光部1031との配置例を示しており、同図(A)は側方から見た図、同図(B)は正面から見た図、同図(C)は上方から見た図である。
第1受光部1031は、同図(A)に示されるように、導光光学系1020に対して眼球30の上下方向には傾きを付けずに配置される(φdety≒0)。また、第1受光部1031は、同図(C)に示されるように、眼球30の左右方向に傾きを付けて配置される(φdetx≠0)。
図18は、図17に示された配置例における角膜反射の例を示しており、同図(A)は眼球が正面を向いている場合の角膜反射の例、同図(B)は眼球が正面を向いている場合の第1受光部1031によって検出される反射光の例、同図(C)は眼球が図面の右側を向いている場合の角膜反射の例、同図(D)は眼球が図面の右側を向いている場合の第1受光部1031によって検出される反射光の例を示している。
同図(A)に示されるように、眼球30が正面を向いている場合(眼球30の傾きが0度である場合)、光線1801が眼球30の角膜で反射し、その反射光1804は第1受光部1031によって検出される。第1受光部1031による反射光1804の検出強度は、光線1801の照射角θin1によって変動する。
そして、同図(B)に示されるように、第1受光部1031によって反射光1804が検出される場合、光線1801の照射角θin1は、光線1801が眼球30の角膜に照射される角度α1と一致する。また、反射光1804の反射角β1は、光線1801が眼球30に照射される角度α1と略等しい。
第1受光部1031の検出強度は、反射光1804が第1受光部1031に対して垂直に入射するときに最大となるので、反射角β1=φdetxが成立する場合に検出強度が最大となる。したがって、次式(4)が成立する場合には、眼球30が正面を向いていると判定することができる。
θin1=φdetx ・・・(4)
次に、同図(C)に示されるように、眼球30が傾きΔxだけ図面の右側を向いている場合にも、光線1801が眼球30の角膜で反射し、その反射光1804は第1受光部1031によって検出される。この場合、光線1801が眼球30の角膜に照射される角度α2=θin2+Δxである。また、反射光1804の反射角β2は、角度α2と略等しい。反射角β2は、眼球30の傾きΔxを基準とした角度であるので、反射光1804が、第1受光部1031に対して垂直に入射する条件は、β2+Δx=φdetXである。したがって、次式(5)が成立する場合、第1受光部1031による検出強度が最大となる。
θin2+2×Δx=φdetx ・・・(5)
なお、第1受光部1031の傾きφdetxは固定値であり、表示装置10の設計段階で決まるので、設計情報から取得して定数として扱えばよい。または、式(4)に基づき、眼球30が正面を向いている場合に第1受光部1031による検出強度が最大となる光線1801の照射角θin1を取得して流用してもよい。
したがって、光線1801の照射角θin2が明らかになれば、式(5)に基づいて眼球30の角度Δxを求めることができる。
次に、レーザ光の渦巻状の走査と第1受光部1031及び第2受光部1032による光検出の関係性について、図19及び図20を参照して説明する。
図19は、レーザ光の走査角度情報(横ビーム角度、及び縦ビーム角度)と、第1受光部1031及び第2受光部1032による光検出との関係を示している。図20は、図19に示された関係の時系列変化を示している。
レーザ光を渦巻状に走査した場合、第1受光部1031及び第2受光部1032では、図19に示されるように、X軸変位ビーム角度とY軸変位ビーム角度とがともに特定の角度付近にきたときにだけ反射光を検出することができる。
図20に示されるように、受光信号の最大値V1maxが検出されたときの走査角度情報Add1として、縦ビーム角度Yadd1、及び横ビーム角度Xadd1を取得する。
横ビーム角度Xadd1については、上述した式(5)におけるθin2に代入することができるので、眼球30の横方向の傾きΔxは、次式(6)に従って求めることができる。
Δx=(φdetx-Xadd1)/2 ・・・(6)
同様に、眼球30の縦方向の傾きΔyは、次式(7)に従って求めることができる。
Δy=(φdety-Yadd1)/2 ・・・(7)
さらに、第2受光部1032を、第1受光部1031の設置角度とは異なる設置角度で設置すれば、眼球30の横方向の傾きΔx及び縦方向の傾きΔyの検出精度や検出範囲を増加することができる。
次に、演算部1305による視線信号Vsの第2の演算方法について、図21及び図22を参照して説明する。
図21は、眼球30と導光光学系1020と第1受光部1031との配置例を示しており、同図(A)は側方から見た図、同図(B)は正面から見た図、同図(C)は上方から見た図である。
同図に示されるように、導光光学系1020は、眼球30から距離dだけ離れて配置される。第1受光部1031は、導光光学系1020と略同一の距離dだけ眼球30から離れ、且つ、眼球30が正面を向いているときの視線から距離Lだけ離れて配置される。
図22は、図21に示された配置例における角膜反射の例を示しており、同図(A)は眼球が正面を向いている場合の角膜反射の例、同図(B)は眼球が正面を向いている場合の第1受光部1031によって検出される反射光の例、同図(C)は眼球が図面の右側を向いている場合の角膜反射の例、同図(D)は眼球が図面の右側を向いている場合の第1受光部1031によって検出される反射光の例を示している。
同図(A)に示されるように、眼球30が正面を向いている場合(眼球の傾きが0度である場合)、光線1801が眼球30の角膜で反射し、その反射光1804は第1受光部1031によって検出される。第1受光部1031による反射光1804の検出強度は、光線1801の照射角θin1によって変動する。
そして、同図(B)に示されるように、第1受光部1031によって反射光1804が検出される場合、光線1801の照射角θin1は、光線1801が眼球30の角膜に照射される角度α1と一致する。また、反射光1804の反射角β1は、光線1801が眼球30に照射される角度α1と略等しい。
第1受光部1031の検出強度は、反射光1804が第1受光部1031に入射するときに最大となるので、次式(8)が成立する場合には、眼球30が正面を向いていると判することができる。
θin1=α1=arctan(L/d) ・・・(8)
次に、同図(C)に示されるように、眼球30が傾きΔxだけ図面の右側を向いている場合にも、光線1801が眼球30の角膜で反射し、その反射光1804は第1受光部1031によって検出される。この場合、光線1801が眼球30の角膜に照射される角度α2=θin2+Δxである。また、反射光1804の反射角β2は、角度α2と略等しい。反射角β2は、眼球30の傾きΔxを基準とした角度であるので、反射光1804の第1受光部1031に対する照射角θout2は、次式(9)に示すとおりである。
θout2=β2+Δx=θin2+2×Δx ・・・(9)
そして、眼球30が傾きΔxだけ右側を向いている場合、瞳孔の位置が距離Leyeだけ右側に横にずれると仮定すれば、次式(10)が成立する。
L-Leye=d×tan(θout2) ・・・(10)
また、眼球30の半径をReyeと仮定すれば、次式(11)が成立する。
Leye=Reye×tan(Δx) ・・・(11)
よって、式(10)は、式(8)及び式(11)に基づき、次式(12)に書き換えることができる。
L-Reye×tan(Δx)=d×tan(θin2+2×Δx) ・・・(12)
式(12)における距離d,Lは、固定値であり、表示装置10の設計段階で決まるので、設計情報から取得して定数として扱えばよい。眼球30の半径Reyeは、ユーザが成人である場合、個人差は少ないので、定数として扱うことができる。よって、式(12)における未定の値は、光線1801の照射角θin2、及び眼球30の傾きΔxとなる。
従って、第2の演算方法では、第1の演算方法と同様、図20に示された、受光信号が最大となるときの横ビーム角度Xadd1及び縦ビーム角度Yadd1を取得し、照射角θin2=Xadd1として、式(12)に代入すれば、眼球30の傾きΔxを求めることができる。
なお、上述したように、定数として扱う距離d,Lは、個人差は少ないが、ユーザによっては定数から離れた値となる可能性がある。そこで、距離d,Lについてはキャリブレーションを行ってもよい。具体的には、ユーザが眼球30を指定の方向に向け、そのときの眼球30の傾きΔxを任意の値として照射角θin2を求め、傾きΔx、及び照射角θin2の複数の組み合わせと式(12)とを用い、最小二乗法等によって精度の高い距離d,Lを推定するようにしてもよい。
以上、角膜反射を用いた視線検出の原理について説明した。
ところで、上述した強膜反射及び角膜反射は、実際には同時に発生しており、第1受光部1031及び第2受光部1032では、強膜反射光と角膜反射光とを同時に検出している。したがって、強膜反射を用いた視線検出では、角膜反射光がノイズとなる可能性があり、反対に、角膜反射を用いた視線検出では、強膜反射光がノイズとなる可能性がある。
以下、受光信号から強膜反射成分または角膜反射成分の一方を抽出し、他方を排除する方法について説明する。
角膜反射光は、上述したように、光走査部1001の走査によって変化するので、図20に示されたように、光走査部1001の走査の周波数frに近い周期で検出される。周波数frは数10キロヘルツ以上の周波数である。
一方、強膜反射光は、フレームレートNfに近い周期で検出される。図23は、強膜反射を用いた視線検出におけるレーザ光の走査角度情報(横ビーム角度、及び縦ビーム角度)と、第1受光部1031及び第2受光部1032によって検出される受光信号の時系列変化を示している。フレームレートNfは数10ヘルツ程度である。
そこで、強膜反射を用いて視線検出を行う場合には、図12に示された視線方向判定部1033の第1の構成例における信号処理部901,902に、例えばカットオフ周波数100~1000ヘルツのローパスフィルタを組み込めばよい。これにより、信号処理部901,902が出力する出力信号V1,V2に強膜反射成分を抽出し、角膜反射成分を排除することができる。
反対に、角膜反射を用いて視線検出を行う場合には、図16に示された視線方向判定部1033の第2の構成例における信号処理部1301,1302に、例えばカットオフ周波数100~1000ヘルツのハイパスフィルタを組み込めばよい。これにより、信号処理部1301,1302が出力する出力信号V1,V2に角膜反射成分を抽出し、強膜反射成分を排除することができる。
また、強膜反射を用いて視線検出を行う場合には、図12に示された視線方向判定部1033の第1の構成例を図24に示すように変形してもよい。図24は、視線方向判定部1033の第1の構成例の変形例を示している。該変形例は、図12に示された第1の構成例に、演算部1406を追加したものである。演算部1406は、走査軌跡制御部1007から1フレーム毎に入力されるタイミング情報に基づき、除算部905の出力を1フレーム間で平均化する。これにより、演算部1406から出力される視線信号Vsには、図23に示す第1受光部1031及び第2受光部1032の平均値V1ave,V2aveのように、走査の周波数frに比べて十分に遅い変動成分のみが残り、強膜反射成分のみを抽出することができる。
以上に説明した本発明の第1の実施の形態に係る表示装置10によれば、光源部1002が映像を表示するための光源と視線検出のための光源とを兼ねるので、視線検出専用の光源を設ける場合に比べて、消費電力を抑えることができる。また、表示装置10によれば、導光光学系1020にてレーザ光を複数に分割してユーザの眼球30に照射するので、レーザ光を眼球30の所定の位置に照射するような正確な位置決めを行うことなく、高精度の視線検出を行うことが可能となる。
<本発明の第2の実施の形態に係る表示装置40の構成例>
次に、図25は、本発明の第2の実施の形態に係る表示装置40の構成例を示している。
表示装置40は、表示装置10(図1)に、第1光取込部1041、及び第2光取込部1042を追加したものである。なお、表示装置40の構成要素のうち、表示装置10の構成要素と共通するものについては同一の符号を付してその説明を省略する。
第1光取込部1041、及び第2光取込部1042は、それぞれ光ファイバから成り、光ファイバの一端の開口が、導光光学系1020を挟んで眼球30の位置に対して略等しい距離に配置される。また、第1光取込部1041、及び第2光取込部1042をそれぞれ成す光ファイバの他端の開口は、第1受光部1031、及び第2受光部1032の受光面に向けて配置されている。なお、第1光取込部1041、及び第2光取込部1042は、レンズ等の光学素子を含んでもよい。
すなわち、第1光取込部1041、及び第2光取込部1042は、導光光学系1020から出射されて眼球30にて反射(散乱を含む)した反射光を取り込んで、第1受光部1031または第2受光部1032に導光することができる。
したがって、本発明の第2の実施の形態に係る表示装置40によれば、表示装置10(図1)と同様の効果を実現できる。また、表示装置40によれば、眼球30に近接する導光光学系1020と、第1受光部1031及び第2受光部1032とを物理的に離して配置することができる。よって、表示装置40においては、第1受光部1031及び第2受光部1032を、ユーザが装着する眼鏡型等の装着部位から分離して設けることができ、該装着部位の軽量小型化を実現できる。
<本発明の第3の実施の形態に係る表示装置50の構成例>
図26は、本発明の第3の実施の形態に係る表示装置50の構成例を示している。
上述した表示装置10,40は、眼球30の表面における強膜反射または角膜反射を用いて視線検出を行うが、表示装置50は、眼球30の眼底における網膜反射を用いて視線検出を行う。
表示装置50は、表示装置10(図1)から第1受光部1031及び第2受光部1032を省略し、光分岐部1061及び受光部1062を追加したものである。なお、表示装置50の構成要素のうち、表示装置10の構成要素と共通するものについては同一の符号を付してその説明を省略する。
光分岐部1061は、ハーフミラーやビームスプリッタプリズム、偏光ビームスプリッタ及び波長板からなる構成等によって実現される。光分岐部1061は、光走査部1001から導光光学系1020の光入力部221(図8)に向けて出射されるレーザ光を透過する。また、光分岐部1061は、光出力部222から出射される反射光を受光部1062に向けて反射する。
受光部1062は、PD等の光電変換素子から成り、光分岐部1061にて反射した反射光を検出し、検出強度を表す受光信号を視線方向判定部1033に出力する。
次に、図27は、光分岐部1061及び受光部1062の配置例を示している。光分岐部1061は、光走査部1001から導光光学系1020に対して出射されるレーザ光の光路に配置される。
表示装置50においては、導光光学系1020にて複数に分割され、光出力部222(図8)から出射された光線1801の一部が、眼球30の網膜にて反射される。その反射光1810は、導光光学系1020の光入力部221に入射してその内部を伝搬し、光出力部222から出射され、光分岐部1061により受光部1062に向けて反射され、受光部1062に検出される。
なお、図27は、眼球30が正面を向いている場合を示しており、この場合、瞳孔から眼球30に内部に入射したレーザ光は網膜にて瞳孔に向けて正反射されて導光光学系1020の光入力部221に戻ることができる。よって、受光部1062は、反射光を検出できるので、受光信号の値が大きくなる。一方、眼球30が正面を向いていない場合、瞳孔から眼球30に内部に入射したレーザ光は網膜にて瞳孔以外の方向に向けて正反射されるので、導光光学系1020の光入力部221に戻ることができない。よって、受光部1062は、反射光を検出できず、受光信号の値は小さくなる。
よって、本発明の第3の実施の形態に係る表示装置50によれば、視線方向判定部1033にて受光部1062による受光信号の変化に基づき、ユーザの眼球30が正面を向いているか否かを判定することができる。
本発明は、上記した実施形態や変形例に限定されるものではなく、さらに様々な変形例が含まれる。例えば、上記した各実施形態は、本発明を分かりやすく説明するために詳細に説明したものであり、本発明が、必ずしも説明した全ての構成要素を備えるものに限定されるものではない。また、ある実施形態の構成の一部を、他の実施形態の構成に置き換えることが可能であり、ある実施形態の構成に、他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。