以下、図1等を参照しつつ、本発明に係る虚像表示装置の一実施形態について詳細に説明する。
図1は、本発明を適用した実施形態に係る表示装置としての(Head Mounted Display:頭部装着型表示装置)HMD1の外観構成を示す説明図である。HMD1は、使用者の頭部に装着された状態で使用者に虚像を視認させる虚像表示装置100(表示部)と、虚像表示装置100を制御する制御装置300と、を備えている。制御装置300は、使用者がHMD1を操作するコントローラーとしても機能する。
本実施形態のHMD1は、使用者が、虚像表示装置100によって虚像を視認すると同時に、虚像表示装置100を透過して外景を視認可能な光学透過型の表示装置である。なお、本明細書では、HMD1によって使用者が視認する虚像を便宜的に「表示画像」と呼ぶ。また、画像データに基づいて生成された画像光を虚像表示装置100が射出することを「画像を表示する」ともいう。
虚像表示装置100は、接続ケーブル41で制御装置300に接続される。接続ケーブル41は、制御装置300から虚像表示装置100へ電源を供給する電源ケーブル(図示略)、及び、虚像表示装置100と制御装置300とが各種データを送受信するデータ通信ケーブル(図示略)を内蔵する。
また、制御装置300には、接続ケーブル41と分岐するオーディオケーブル46が接続する。オーディオケーブル46は、右イヤホン32及び左イヤホン34と、マイク63とが接続される。右イヤホン32及び左イヤホン34は、音声処理部190(図7)が出力する音声信号に基づき音声を出力する。
マイク63は、音声を集音して、音声信号を後述する音声処理部190(図7)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
ここで、虚像表示装置100が電池等の電源を有する場合には、虚像表示装置100と制御装置300とを無線通信により接続することも可能である。
まず、虚像表示装置100の構成について説明する。
図1に示すように、虚像表示装置100は、眼鏡のような外観を有するヘッドマウントディスプレイを構成する。虚像表示装置100は、虚像表示装置100を装着した観察者又は使用者に対して虚像による画像光(映像光)を視認させることができるとともに、観察者に外界像(外景)をシースルーで視認又は観察させることができる。虚像表示装置100は、観察者(使用者、ユーザー)の眼前を透視可能に覆う第1及び第2光学部材101a,101bと、両光学部材101a,101bを支持する枠部102と、枠部102の左右両端から後方のつる部分(テンプル)104にかけての部分に付加された第1及び第2像形成本体部105a,105bとを備える。ここで、図面上で左側の第1光学部材101aと第1像形成本体部105aとを組み合わせた第1表示装置100Aは、右眼用の虚像を形成する部分であり、単独でも虚像表示装置として機能する。また、図面上で右側の第2光学部材101bと第2像形成本体部105bとを組み合わせた第2表示装置100Bは、左眼用の虚像を形成する部分であり、単独でも虚像表示装置として機能する。
図2は、虚像表示装置100の内部構造を示しており、図2を図1と比較することで、虚像表示装置100の外観と内部とが対比される。例えば、第1及び第2像形成本体部105a,105bは、鏡筒部39に収納される投射レンズ30や、映像表示素子82を含む画像表示装置80でそれぞれ構成される。
図1から図4までの各図に外観や内部を示すように、虚像表示装置100に設けた枠部102は、上端側に配置されるフレーム107と、フレーム107に沿ってその裏側に配置される樹脂部108とを備える。なお、虚像表示装置100は、下側に枠状の部分のない構成となっている。枠部102を構成するフレーム107は、U字状に折れ曲がった細長い板状の部材であり、観察者にとっての眼の並びに対応する方向である左右の横方向に延びる正面部107aと、観察者にとっての前後に対応する方向である奥行き方向に延びる一対の側面部107b,107cとを備える。両側面部107b,107cは、厳密に平行ではなく、先端に向かって若干広がるように小角を成している。フレーム107、すなわち正面部107aと側面部107b,107cとは、アルミダイカストその他の各種金属材料で形成された金属製の一体部品である。樹脂部108は、フレーム107に沿って配置され、フレーム107と嵌合することでこれと協働して例えば画像形成のための各種ケーブル等を収納可能にしている。フレーム107において、正面部107a及び樹脂部108の奥行き方向の幅は、第1及び第2光学部材101a,101bに対応する導光装置20の厚み又は幅と同程度となっている。フレーム107の左側方、具体的には正面部107aにおける向かって左端部から側面部107bにかけての部分には、第1光学部材101aと第1像形成本体部105aとがアライメントされ例えばネジ止めによって直接固定されることにより、支持されている。また、フレーム107の右側方、具体的には正面部107aにおける向かって右端部から側面部107cにかけての部分には、第2光学部材101bと第2像形成本体部105bとがアライメントされ例えばネジ止めにより直接固定されることによって、支持されている。なお、第1光学部材101aと第1像形成本体部105aとは、嵌合等によって互いにアライメントされ、第2光学部材101bと第2像形成本体部105bとは、嵌合等によって互いにアライメントされる。
枠部102を構成するフレーム107及び樹脂部108は、第1及び第2像形成本体部105a,105bを支持するだけでなく、これらを覆うカバー状の外装部材105dと協働して第1及び第2像形成本体部105a,105bの内部を保護する役割を有する。なお、フレーム107は、第1及び第2像形成本体部105a,105bに連結される第1及び第2光学部材101a,101b又は導光装置20の根元側を除いた上側部分と離間するか又は緩く接している。このため、中央の導光装置20と、フレーム107を含む枠部102との間に熱膨張率の差があっても、枠部102内での導光装置20の膨張が許容され、導光装置20に歪み、変形、破損が生じることを防止できる。
枠部102に付随して、鼻受部40が設けられている。鼻受部40は、観察者の鼻に当接することによって枠部102を支持する役割を有する。つまり、枠部102は、鼻に支持される鼻受部40と耳に支持される一対のテンプル部104とによって、観察者の顔前に配置されることになる。鼻受部40は、枠部102を構成する一方のフレーム107の正面部107aにおいて、ねじ止めによって固定されている。なお、以上のように図1を参照して示す外観は、一例であり、例えばねじ止めによって固定される機構等の、光学的機構として直接関与しない箇所等については、適宜設計を変更することが可能である。
図2等に示すように、第1表示装置100Aは、投影用の光学系である投射透視装置70(光学系)と、映像光を形成する画像表示装置80(出射部)とを備えると見ることができる。画像表示装置80は、投射透視装置70に映像光を投射する投射部に相当する。また、第2表示装置100Bは、第1表示装置100Aと左右対称に構成される。第2表示装置100Bが備える部材や第2表示装置100B内部における部材の配置は、第1表示装置100Aと同様である。このため、以下では第1表示装置100Aについて説明し、第2表示装置100Bの説明に代える。
投射透視装置70は、画像表示装置80によって形成された画像を虚像として観察者の眼に投射する役割を有する。投射透視装置70は、第1光学部材101a又は導光装置20と、結像用の投射レンズ30とを備える。第1光学部材101a又は導光装置20は、導光及び透視用の導光部材10と、透視用の光透過部材50とで構成されている。なお、第1像形成本体部105aは、画像表示装置80と投射レンズ30とで構成される。また、詳しくは後述するが、複数レンズで構成される投射レンズ30は、鏡筒部39に収納されて、鏡筒部39とともに光学装置部130を構成する。光学装置部130すなわち投射レンズ30は、鏡筒部39の端部39tにおいて、嵌合により導光装置20に対して精度よく位置決めされた状態で固定されている。
画像表示装置80は、透過型の空間光変調装置である映像表示素子(映像素子)82のほか、映像表示素子82へ照明光を射出する照明装置81としてバックライト(図7の右バックライト221、左バックライト222)を備える。また、画像表示装置80は、映像表示素子82等の動作を制御する駆動制御部(図7の右駆動制御部211、左駆動制御部212)を有する。映像表示素子82は、映像素子ケース86に収納されており、映像素子ケース86を介して結像用の投射レンズ30を収納する鏡筒部39に組付けされている。言い換えると、鏡筒部39は、映像表示素子82、投射レンズ30、導光装置20等を連結する連結部材となっている。
導光装置20は、既述のように、導光及び透視用の導光部材10と、透視用の光透過部材50とで構成されているブロック状の部材である。導光部材10は、プリズム型の導光装置20の一部であり、一体の部材であるが、光射出側の第1導光部分11と光入射側の第2導光部分12とに分けて捉えることができる。光透過部材50は、導光部材10の透視機能を補助する部材(補助光学ブロック)であり、導光部材10と一体的に固定され1つの導光装置20となっている。上記のような構成を有する導光装置20のうち、光源又は光入射側(根元側)に位置する先端部12jが鏡筒部39の端部39tに嵌合することで、投射レンズ30に精度よく位置決めされ固定されている。
ここで、例えば図3(A)〜3(C)や図4等に示すように、導光装置20を構成する光学面のうち、表側(外側)の露出面である第1露出面20aや裏側(内側)の露出面である第2露出面20bは、外部にさらされ、かつ、シースルーの機能に影響する部分である。なお、図示のように、第1露出面20aは、導光部材10の光学面のうち第3面S13と、光透過部材50の光学面である第3透過面S53とで構成され、第2露出面20bは、導光部材10の光学面のうち第3面S11及び第4面S14と、光透過部材50の光学面のうち第1透過面S51とで構成されている。
以下、図5を参照して、第1像形成本体部105a(図1参照)を構成する画像表示装置80と投射レンズ30とについて詳細に説明する。
画像表示装置80は、上述した映像表示素子82の他に、映像表示素子82に対して照明光を射出する照明装置81と、照明装置81及び映像表示素子82の動作を制御する駆動制御部84とを有する。
画像表示装置80の照明装置81は、赤、緑、及び青の3色を含む光を発生する光源や、この光源からの光を拡散させて矩形断面の光束にするバックライト導光部を有する。映像表示素子(映像素子)82は、例えば液晶表示デバイスで形成され、複数の画素で構成されており、照明装置81からの照明光を空間的に変調して動画像等の表示対象となるべき画像光を形成する。なお、図示を省略するが、駆動制御部84は、照明装置81に電力を供給して安定した輝度の照明光を射出させる光源駆動回路や、映像表示素子(映像素子)82に対して画像信号又は駆動信号を出力することにより、透過率パターンとして動画や静止画の元になるカラーの映像光又は画像光を形成する液晶駆動回路で構成される。なお、液晶駆動回路に画像処理機能を持たせることができるが、外付けの制御回路に画像処理機能を持たせることもできる。
投射レンズ30は、構成要素として、入射側光軸に沿って3つの光学素子であるレンズ31〜33を備える投射光学系であり、これらのレンズ(光学素子)31〜33を収納する鏡筒部39によって支持されている。レンズ31〜33は、非軸対称な非球面(非軸対称非球面)と軸対称な非球面(軸対称非球面)との双方を含む非球面レンズであり、リレー光学系である導光部材10の一部と協働して導光部材10の内部に映像表示素子82の表示像に対応する中間像を形成する。なお、各レンズ(光学素子)31〜33のうち、第1レンズ31の光の射出面であるレンズ面31aは、非軸対称非球面となっており、レンズ面31a以外のレンズ面については、軸対称非球面となっている。
以下、導光装置20等について詳細に説明する。上述のように、導光装置20は、導光部材10と光透過部材50とで構成されている。このうち、導光部材10は、平面視において、鼻に近い中央側(眼前側)の部分が直線状に延びている。導光部材10のうち、鼻に近い中央側つまり光射出側に配置されている第1導光部分11は、光学的な機能を有する面として、第1面S11と、第2面S12と、第3面S13とを有し、鼻から離れた周辺側つまり光入射側に配置されている第2導光部分12は、光学的な機能を有する面として、第4面S14と、第5面S15とを有する。このうち、第1面S11と第4面S14とが連続的に隣接し、第3面S13と第5面S15とが連続的に隣接する。また、第1面S11と第3面S13との間に第2面S12が配置され、第4面S14と第5面S15とは大きな角度を成して隣接している。さらに、ここでは、対向した配置となっている第1面S11と第3面S13とが互いに略平行な平面となっている。一方、光学的な機能を有する他の面、すなわち第2面S12、第4面S14及び第5面S15は、非軸対称な曲面(自由曲面)となっている。
ここで、導光部材10を構成する複数の面のうち、第1面S11から第3面S13までの面以外の面S14,S15については、少なくとも1つの自由曲面について、方向によって曲率の符号が異なっている点を少なくとも1つ含むものとなっている。これにより、映像光の導光を精密に制御しつつ、導光部材10の小型化を可能にしている。
なお、導光装置20において、導光部材10は、光透過部材50と接着層CCを介して接合されており、導光部材10及び光透過部材50の接合面と、接着層CCとで構成される部分を、接合部CNとする。なお、導光装置20は、導光部材10及び光透過部材50となるべき基材が接合部CNで接合された上で、接合された基材をディップ処理によってコーティングされることで形成されている。つまり、導光部材10のハードコート層27は、光透過部材50とともに導光装置20全体に設けられている。
導光部材10のうち本体10sは、可視域で高い光透過性を示す樹脂材料で形成されており、例えば金型内に熱可塑性樹脂を注入・固化させることにより成形する。なお、本体10sの材料としては、例えばシクロオレフィンポリマー等を用いることができる。本体10sは、一体形成品とされているが、導光部材10は、既に説明したように機能的に第1導光部分11と第2導光部分12とに分けて考えることができる。第1導光部分11は、映像光GLの導波及び射出を可能にするとともに、外界光HLの透視を可能にする。第2導光部分12は、映像光GLの入射及び導波を可能にする。
第1導光部分11において、第1面S11は、映像光GLを第1導光部分11外に射出させる屈折面として機能するとともに、映像光GLを内面側で全反射させる全反射面として機能する光学面である。第1面S11は、眼EYの正面に配されるものであり、既述のように、平面形状を成している。なお、第1面S11は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2面S12は、本体10sの表面であり、当該表面にハーフミラー層15が付随している光学面であって非軸対称非球面である。このハーフミラー層15は、光透過性を有する反射膜(すなわち半透過反射膜)である。ハーフミラー層(半透過反射膜)15は、第2面S12の全体ではなく、第2面S12を主にY軸に沿った鉛直方向に関して狭めた部分領域(図示省略)上に形成されている。ハーフミラー層15は、本体10sの下地面のうち部分領域PA上に、金属反射膜や誘電体多層膜を成膜することにより形成される。ハーフミラー層15の映像光GLに対する反射率は、シースルーによる外界光HLの観察を容易にする観点で、想定される映像光GLの入射角範囲において10%以上50%以下とする。具体的な実施例のハーフミラー層15の映像光GLに対する反射率は、例えば20%に設定され、映像光GLに対する透過率は、例えば80%に設定される。
第3面S13は、映像光GLを内面側で全反射させる全反射面として機能する光学面である。第3面S13は、眼EYの略正面に配されるものであり、第1面S11と同様に、平面形状を成しており、かつ、第1面S11と第3面S13とが互いに平行な面であることにより、第1面S11と第3面S13とを通過させて外界光HLを見たときに、視度が0になっており、特に、変倍も生じさせないものとなっている。なお、第3面S13は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2導光部分12において、第4面S14は、映像光GLを内面側で全反射させる全反射面として機能する光学面であって非軸対称非球面である。第4面S14は、映像光GLを第2導光部分12内に入射させる屈折面面としても機能する。すなわち、第4面S14は、外部から導光部材10に映像光GLを入射させる光入射面と、導光部材10の内部において映像光GLを伝搬させる反射面としての機能を兼用している。なお、第4面(光入射面)S14は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2導光部分12において、第5面S15は、本体10sの表面上に無機材料で形成される光反射膜RMを成膜することで形成される光学面である。第5面S15は、反射面として機能する非軸対称非球面である。
光透過部材50は、既述のように導光部材10と一体的に固定され1つの導光装置20となっており、導光部材10の透視機能を補助する部材(補助光学ブロック)である。光透過部材50は、光学的な機能を有する側面として、第1透過面S51と、第2透過面S52と、第3透過面S53とを有する。ここで、第1透過面S51と第3透過面S53との間に第2透過面S52が配置されている。第1透過面S51は、導光部材10の第1面S11を延長した面上にあり、第2透過面S52は、当該第2面S12に対して接着層CCによって接合され一体化されている曲面であり、第3透過面S53は、導光部材10の第3面S13を延長した面上にある。このうち第2透過面S52と導光部材10の第2面S12とは、薄い接着層CCを介しての接合によって一体化されるため、略同じ曲率の形状を有する。
光透過部材(補助光学ブロック)50は、可視域で高い光透過性を示し、光透過部材50の本体部分は、導光部材10の本体10sと略同一の屈折率を有する熱可塑性樹脂材料で形成されている。なお、光透過部材50は、導光部材10と同様、本体部分の表面にハードコート層27が施されたものとなっている。つまり、第1透過面S51と第3透過面S53とは、本体部分の表面に施されたハードコート層27によって形成される面である。
本実施形態では、導光部材10の内部において、映像表示素子82からの映像光を、非軸対称非球面である第2面S12等を含む第1面S11から第5面S15までにおける5回の反射によって導光している。また、全体として眼前を覆う導光装置20が第3面S13や第3透過面S53を第1露出面20aとして含み、かつ、これらに平行な第1面S11や第1透過面S51を第2露出面20bとして含み、第2面S12に沿ってハーフミラー層15を内蔵する。この結果、映像光GLの表示と外界光HLの視認させるシースルーとを両立させ、かつ、導光部材10において映像光GLの収差の補正を行うことが可能になる。
以下、図5を参照して、虚像表示装置100における映像光GL等の光路について具体的に説明する。映像表示素子(映像素子)82から射出された映像光GLは、投射レンズ30を構成する各レンズ31〜33を通過することによって、収束されつつ、所期の非点収差が与えられ導光部材10に設けた正の屈折力を有する第4面S14に入射する。なお、この非点収差は、導光部材10の各面を経る間に相殺されるものとなっており、最終的に初期の表示に対応する状態で観察者の眼に向けて映像光が射出される。
ここで、投射レンズ30を含む光学装置部130の導光部材10に対する配置について説明する。光学装置部130又は投射レンズ30側の第1基準光軸AX1は、導光部材10の光射出側の第2基準光軸AX2に対して5〜45°傾斜している。ここで、第2基準光軸AX2は、観察者の顔の正面方向に対応するZ方向に延びる視線基準軸に相当するものである。見方を変えれば、図6に示すように、投射レンズ30側の第1基準光軸AX1は、眼EYの並び方向に対応するX方向に平行な横基準軸AX3に対して鈍角αをなしている。この場合、横基準軸AX3は、第2基準光軸(視線基準軸)AX2と直交し、第1基準光軸AX1と第4面S14との交点を通るものとする。このような前提の下で、第1基準光軸AX1と横基準軸AX3とが成す鈍角αは、95°〜135°となっている。これにより、投射レンズ30を含む第1像形成本体部105aと、導光部材10を含む導光装置20とを顔面から側頭部に沿って配置する際のフィット性を高めることができ、結果的に装置の薄型化や軽量化も容易になる。なお、第1基準光軸AX1と横基準軸AX3とが成す鈍角αを95°以上とすることにより、投射レンズ30と導光部材10との接続部が角張って顔面から突起することを防止できる。一方、両軸AX1,AX3の成す鈍角αを135°以下とすることにより、投射レンズ30の先端や映像表示素子82に対応する部分が顔面の側方又は横方向にはみ出すことを抑制できる。なお、映像表示素子82に対応する部分等が顔面から突起することをより確実に防止する観点からは、両軸AX1,AX3の成す鈍角αを105°以下とする。つまり、第1基準光軸AX1と横基準軸AX3とが成す鈍角αを95°〜105°とすることがより好ましい。
なお、第1基準光軸AX1及び横基準軸AX3は、図6の紙面に対応しXZ平面に沿って延びる基準平面HM上にある。基準平面HMは、光学設計上の基準面であるが、図3(C)に示すように、前方に向けて若干下向きとなっている。これは、観察者にとって眼EYを若干下向きとすることが自然であり、下向きの視線の方が眼EYへの負担が少ないことを考慮したものである。
横基準軸AX3に対して、導光部材10は、基準平面HMに垂直なY軸のまわりの回転角に関して若干外向きに傾いている。具体的には、導光部材10の第1面S11又は第3面S13は、横基準軸AX3に対して傾斜角βを成す。この結果、図3(A)等に示すように、第1及び第2光学部材101a,101bは、先端側又は両者に挟まれた中央側で外向きに若干突出したような配置となっている。これにより、第1及び第2光学部材101a,101bを顔面に沿って配置する際のフィット性を高めることができる。
図5に戻って、映像光GLの光路について説明すると、導光部材10の第4面S14に入射してこれを通過した映像光GLは、収束しつつ進み、第2導光部分12を経由する際に、比較的弱い正の屈折力を有する第5面S15で反射され、第4面S14に内側から再度入射して反射される。
第2導光部分12の第4面S14で反射された映像光GLは、第1導光部分11において、実質的に屈折力を有しない第3面S13に入射して全反射され、実質的に屈折力を有しない第1面S11に入射して全反射される。映像光GLは、第3面S13を通過する前後において、リレー光学系である導光部材10中に中間像を形成する。この中間像の像面IIは、映像表示素子82の像面OIに対応するものである。
第1面S11で全反射された映像光GLは、第2面S12に入射するが、特にハーフミラー層15に入射した映像光GLは、このハーフミラー層15を部分的に透過しつつも部分的に反射されて第1面S11に再度入射して通過する。なお、ハーフミラー層15は、ここで反射される映像光GLに対して比較的強い正の屈折力を有するものとして作用する。また、第1面S11は、これを通過する映像光GLに対して屈折力を有しないものとして作用する。
第1面S11を通過した映像光GLは、観察者の眼EYの瞳又はその等価位置に略平行光束として入射する。つまり、観察者は、虚像としての映像光GLにより、映像表示素子(映像素子)82上に形成された画像を観察することになる。
一方、外界光HLのうち、導光部材10の第2面S12よりも+X側に入射するものは、第1導光部分11の第3面S13と第1面S11とを通過するが、この際、第3面S13と第1面S11とが互いに略平行な平面(つまり、互いに略平行な平面状の光学面)となっていることで、収差等をほとんど生じない。つまり、観察者は、導光部材10越しに歪みのない外界像を観察することになる。同様に、外界光HLのうち、導光部材10の第2面S12よりも−X側に入射するもの、つまり、光透過部材50に入射したものは、これに設けた第3透過面S53と第1透過面S51とを通過する際に、第3透過面S53と第1透過面S51とが互いに略平行な平面となっていることで、収差等を生じない。つまり、観察者は、光透過部材50越しに歪みのない外界像を観察することになる。さらに、外界光HLのうち、導光部材10の第2面S12に対応する光透過部材50に入射するものは、第3透過面S53と第1面S11とを通過する際に、第3透過面S53と第1面S11とが互いに略平行な平面となっていることで、収差等をほとんど生じない。つまり、観察者は、光透過部材50越しに歪みの少ない外界像を観察することになる。なお、導光部材10の第2面S12と光透過部材50の第2透過面S52とは、略同一の曲面形状をともに有し、略同一の屈折率をともに有し、両者の隙間が略同一の屈折率の接着層CCで充填されている。つまり、導光部材10の第2面S12や光透過部材50の第2透過面S52は、外界光HLに対して屈折面として作用しない。
ただし、ハーフミラー層15に入射した外界光HLは、このハーフミラー層15を部分的に透過しつつも部分的に反射されるので、ハーフミラー層15に対応する方向からの外界光HLは、ハーフミラー層15の透過率に弱められる。その一方で、ハーフミラー層15に対応する方向からは、映像光GLが入射するので、観察者は、ハーフミラー層15の方向に映像表示素子(映像素子)82上に形成された画像とともに外界像を観察することになる。
導光部材10内で伝搬されて第2面S12に入射した映像光GLのうち、ハーフミラー層15で反射されなかったものは、光透過部材50内に入射するが、光透過部材50に設けた不図示の反射防止部によって導光部材10に戻ることが防止される。つまり、第2面S12を通過した映像光GLが光路上に戻されて迷光となることが防止される。また、光透過部材50側から入射してハーフミラー層15で反射された外界光HLは、光透過部材50に戻されるが、光透過部材50に反射防止部を設けることによって導光部材10に射出されることが防止される。つまり、ハーフミラー層15で反射された外界光HLが光路上に戻されて迷光となることが防止される。
また、映像表示素子82の周囲には右光学系駆動部85(変更部)が配置される。右光学系駆動部85は、例えばアクチュエーター(図示略)を備え、映像表示素子82及び投射レンズ30を含む光学装置部130を揺動させる。これにより、導光部材10に対する光学装置部130の角度が、図中矢印SA1、SA2方向に変化する。光学装置部130がSA1方向に傾くと、投射レンズ30から導光部材10に入射する映像光GLの角度が変化する。すなわち、第1基準光軸AX1がSA1側に傾くことにより、導光部材10の内部における映像光GLの反射角の変化により、眼EYに入射する映像光GLは、図中矢印SA2方向に移動する。図5の第1表示装置100Aは使用者の右目に対応し、映像光GLがSA2方向に移動することにより、使用者には映像光GLが右側に移動して見える。
これに対し、右光学系駆動部85がSB1方向に光学装置部130を揺動させると、映像光GLの第1基準光軸AX1の導光部材10に対する角度がSB1側に変化する。これにより、導光部材10における映像光GLの反射角が変化して、眼EYに入射する映像光GLの光軸(第2基準光軸AX2)は矢印SB2側に変化する。このため、使用者の右眼には、映像光GLが左側に移動して見える。
このように、第1表示装置100Aでは、右光学系駆動部85が光学装置部130を動かすことで、使用者の右側の眼EYに入射する映像光GLを左右方向に動かすことができる。
また、第2表示装置100Bには光学装置部130を動かす左光学系駆動部87(図7)が設けられる。左光学系駆動部87(変更部)は、上述した右光学系駆動部85と同様に、アクチュエーター(図示略)等を動力源として備え、光学装置部130を揺動させることにより、導光部材10に対する映像光GLの傾きを変化させる。この左光学系駆動部87の動作により、使用者の左目に入射する映像光GLの傾きを変化させ、映像光GLを左右方向に動かすことができる。
図1及び図3(B)に示すように、虚像表示装置100は、使用者の視線方向を撮像する外カメラ35、36(第2撮像部)を備える。外カメラ35は、虚像表示装置100の右側すなわち第1表示装置100A側の端部に位置する第1像形成本体部105aに埋込設置され、外装部材105dにおいて露出する。また、外カメラ36は、虚像表示装置100の左側すなわち第2表示装置100B側の端部に位置する第2像形成本体部105bに埋込設置され、外装部材105dにおいて露出する。
外カメラ35、36は虚像表示装置100の表側(外側)の露出面に配置され、使用者の顔の略正面方向を向いており、使用者が導光部材10を透過して視認する外景を撮像する。外カメラ35、36の撮像範囲すなわち画角は、虚像表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮影できればよい。また、外カメラ35、36の画角が、導光部材10を透過して使用者に見える視界の全体を撮影できるように設定されていると、より好ましい。
外カメラ35、36は、制御装置300が内蔵する制御部140(図7)に接続され、制御部140の制御に従って撮像を実行し、撮像画像データを出力する。外カメラ35と外カメラ36とは、枠部102において左右に離れて配置されるため、外カメラ35の撮像画像と外カメラ36の撮像画像との間には視差が生じる。従って、外カメラ35、36をステレオカメラとして使用し、外カメラ35の撮像画像と外カメラ36の撮像画像とに基づき、奥行き方向における情報を取得することができる。
虚像表示装置100は、図4に示すように、使用者の眼を向く側、すなわち裏側(内側)の露出面に、4つの内カメラ、37a、37b、38a、38b(第1撮像部)を備える。内カメラ37a、37bは使用者の右眼に対応して第1表示装置100Aに設けられ、内カメラ38a、38bは使用者の左眼に対応して第2表示装置100Bに設けられる。内カメラ37a、38aは鼻受部40の近傍に配置され、内カメラ37b、38bは枠部102の端部に配置される。
内カメラ37aは使用者の右眼を左側上方から撮像し、内カメラ37bは使用者の右眼を右側上方から撮像する。また、内カメラ38aは使用者の左眼を右側上方から撮像し、内カメラ38bは使用者の左眼を左側上方から撮像する。
内カメラ37a、37b、38a、38bは、それぞれ、後述する制御装置300の制御部140(図7)に接続され、制御部140の制御に従って撮像を実行し、撮像画像データを出力する。内カメラ37a、37b、38a、38bは使用者の眼球を撮像するので、この撮像画像を用いて、眼球運動の検出及び計測を行い、使用者の視線方向、及び輻輳角を求めることができる。
眼球を撮像することにより眼球運動を検出し、視線方向を計測する技術は、例えば、撮像画像から眼球に反射する反射像を検出して視線方向を計測する方法がある。また、例えば、撮像画像から眼球の瞳孔中心を検出して注視方向を求める方法がある。また、虚像表示装置100の裏側の露出面に、眼球に対して赤外光を照射する発光素子(図示略)を設け、眼球表面における反射光を内カメラ37a、37b、38a、38bで検出し、注視方向を求める方法もある。
本実施形態では一例として、制御部140が、内カメラ37a、37b、38a、38bの撮像画像から使用者の右眼および左眼のそれぞれについて、下記(1)〜(3)の処理を実行する。
(1)瞳孔中心を検出して瞳孔間距離を求める処理。
(2)瞳孔に現れる虹彩の模様を検出して瞳孔径を求める処理。
(3)瞳孔中心を検出して注視方向を求める処理。
続いて、制御装置300の構成について説明する。
制御装置300は、HMD1を制御するための装置である。制御装置300は、図1に示すように、略箱形の筐体に、HMD1の電源をオン/オフする電源スイッチ301と、使用者が操作するトラックパッド302及びキースイッチ部303とを備える。また、制御装置300は、HMD1の動作状態を示すLED(Light Emitting Diode)インジケーター304、右イヤホン32、左イヤホン34から出力する音量の調整等を行うための上下キー305を備える。
電源スイッチ301はスライド式のスイッチであり、電源スイッチ301の操作により制御装置300の電源だけでなく虚像表示装置100の電源がオン/オフされる。
トラックパッド302は、トラックパッド302の操作面上での使用者の接触操作を検出して、検出した操作位置を示す操作データを出力する。トラックパッド302としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。また、複数の点におけるタッチ操作を同時に検出可能なマルチタッチ方式を採用してもよい。
図7は、HMD1を構成する各部の機能ブロック図である。
図7に示すように、HMD1は、インターフェイス114を介して外部機器OAに接続される。インターフェイス114は、制御装置300に対して、コンテンツの供給元となる種々の外部機器OAを接続する。インターフェイス114としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができる。
外部機器OAは、HMD1に画像を供給する画像供給装置として用いられ、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等が用いられる。
制御装置300は、制御部140と、操作部135と、入力情報取得部110と、記憶部120と、送信部(Tx)51及び送信部(Tx)52とを有している。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した電源スイッチ301、トラックパッド302、キースイッチ部303、及び上下キー305を含む。入力情報取得部110は、使用者による操作入力に対応して操作部135が出力する操作信号あるいは操作データを取得する。
記憶部120は、不揮発性の記憶装置であって、種々のコンピュータープログラムを格納している。また、記憶部120には、HMD1の虚像表示装置100に表示する画像データが格納されていても良い。また、制御部140が、記憶部120に記憶されるプログラムを実行することにより、虚像表示装置100が表示する表示データを生成してもよい。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、3軸センサー113の検出値を制御部140が取得可能である。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置300の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置300の制御部140が計時する時刻を修正させる機能を備えてもよい。
通信部117は、無線LAN(WiFi(登録商標))や、Miracast(登録商標)等の無線通信の規格に準じた無線データ通信を実行する。また、通信部117は、Bluetooth(登録商標)や、Bluetooth Low Energy、RFID、Felica(登録商標)等の近距離無線通信の規格に準じた無線データ通信を実行することも可能である。
外部機器OAが、通信部117に無線接続された場合、制御部140は、コンテンツデータを通信部117より取得して、虚像表示装置100に画像を表示するための制御を行う。一方、外部機器OAが、インターフェイス114に有線接続された場合には、制御部140は、コンテンツデータをインターフェイス114より取得して、虚像表示装置100に画像を表示するための制御を行う。よって、通信部117及びインターフェイス114を、以下総称してデータ取得部DAと呼ぶ。
データ取得部DAは、外部機器OAからコンテンツデータを取得する。データ取得部DAは、HMD1が表示する画像のデータを、外部機器OAから取得する。
制御部140は、CPU、ROM、RAM(いずれも図示略)等を備える。制御部140は、記憶部120またはROMに記憶したプログラムを読み出して実行することにより、HMD1の各部を制御する。また、制御部140は、上記プログラムを実行して、オペレーティングシステム(OS)150、画像処理部160、表示制御部170、撮像制御部181、眼画像解析部182、外画像解析部183、変更制御部184、駆動制御部185、及び音声処理部190として機能する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、コンテンツに含まれる画像を表示するための垂直同期信号VSync、水平同期信号HSync等の同期信号、クロック信号PCLK、及びディジタル画像データ(図中、Data)を送信部51により送信する。また、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理や、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。送信部51、52は、制御装置300と虚像表示装置100との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部170は、虚像表示装置100が備える画像表示装置80に対して制御信号を送信する。表示制御部170は、画像表示装置80が備える右バックライト221、左バックライト222の点灯を制御する右バックライト制御部201及び左バックライト制御部202に対して制御信号を送信する。また、表示制御部170は、映像表示素子82を駆動する右駆動制御部211及び左駆動制御部212に対し制御信号を送信する。
右バックライト制御部201及び左バックライト制御部202は、表示制御部170から受信する制御信号に従って、右バックライト221及び左バックライト222のそれぞれに対し、点灯、消灯の制御および発光輝度の制御を行う。右バックライト221及び左バックライト222は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体であり、レーザー光源やランプを用いて構成してもよい。
また、右駆動制御部211及び左駆動制御部212は、それぞれ、表示制御部170から受信する制御信号に従って、映像表示素子82の駆動のオン/オフを切り替える。従って、表示制御部170の制御により、第1表示装置100A、第2表示装置100Bにおけるバックライトの点灯/消灯や、映像表示素子82による画像の表示が制御される。
音声処理部190は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、オーディオケーブル46により右イヤホン32及び左イヤホン34に出力する。
また、音声処理部190は、マイク63により集音された音声をディジタルデータに変換する。音声処理部190は、ディジタル音声データから特徴を抽出してモデル化することにより、例えば話者認識処理や音声認識処理を実行する。話者認識処理では、マイク63が集音する音声から人間の声を検出し、検出した人間の声を人毎に識別して、声ごとに話している人間を特定する。また、音声認識処理では、例えば、マイク63が集音した音声をテキストに変換するテキスト変換を行う。
虚像表示装置100は、上述したように、第1表示装置100A及び第2表示装置100Bのそれぞれに、投射透視装置70、画像表示装置80を備え、画像表示装置80がインターフェイス25を介して制御部140に接続される。
また、虚像表示装置100が備える外カメラ35、36、内カメラ37a、37b、38a、38b、右光学系駆動部85、及び左光学系駆動部87は、インターフェイス25を介して制御部140に接続される。
インターフェイス25は、接続ケーブル41、及び、接続ケーブル41を接続するコネクター等で構成され、接続ケーブル41に代えて無線通信回線により構成してもよい。インターフェイス25は、送信部51により送信されるクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、画像データDataを、対応する受信部(Rx)53、54に出力する。また、インターフェイス25は、表示制御部170が送信する制御信号を、受信部53、54、及び画像表示装置80に出力する。
また、インターフェイス25は、制御部140が外カメラ35、36、内カメラ37a、37b、38a、38bを制御する制御信号、及び、これらカメラの撮像画像データを送受信する。
また、図示はしないが、虚像表示装置100は、振動センサーや動きセンサー(モーションセンサー)を備えてもよい。振動センサー(図示略)は、例えば、加速度センサーを利用して構成され、使用者が枠部102を叩く操作(ノック操作)を行った場合に、この操作による振動を検出する。また、動きセンサーとしては、加速度センサー、角速度センサー、地磁気センサー等を用いることができる。例えば、加速度センサー(3軸)、角速度センサー(3軸)及び地磁気センサー(3軸)として機能する9軸センサーを実装してもよい。この場合、虚像表示装置100の動き、すなわち虚像表示装置100を装着した使用者の頭の動きや方向を、制御部140で検出できる。これら振動センサー及び動きセンサーは、インターフェイス25を介して制御装置300に接続される。
受信部53、54は、制御装置300と虚像表示装置100との間におけるシリアル伝送のためのレシーバーとして機能する。
HMD1は、虚像表示装置100を装着する使用者の視線方向(注視方向)に対応して、虚像表示装置100で表示する画像の表示態様を調整する機能を具備する。
図8及び図9は画像の表示態様の調整方法を示す説明図であり、これら図8及び図9を参照して、画像の表示態様の調整に関して説明する。
図8(A)は使用者の注視距離と輻輳角を示す模式図である。
使用者が導光部材10を透過して外景すなわち実空間に位置する対象物OBを視認する場合、対象物OBと眼EYとの距離(注視距離)により、左右の眼の輻輳角CAが変化する。図8(A)の左の例は対象物OBが遠方にある状態を示し、同図右側の例は、対象物OBがより近い位置にある状態を示す。
人間の眼球運動として、両眼で一つの対象物OBを注視する場合に、視線が両眼の中央寄りに移動する、いわゆる眼球輻輳運動が知られている。図に示すように、使用者の右眼(図中、EY(R))と左眼(図中、EY(L))の視線(図中一点鎖線)が対象物OBで交差すると考えると、その交差する角度CAが輻輳角に相当する。輻輳角CAは、注視する対象が遠いほど小さく、近いほど大きくなる。言い換えれば、対象物OBが近いほど、使用者の両眼の視線は中央よりになる。
使用者の右眼EYの視線が導光部材10と交わる位置を位置10aとし、左眼EYの視線が導光部材10と交わる位置を位置10bとする。位置10a−位置10b間の距離は、上述した輻輳角CAの大きさと同様、眼EYから対象物OBまでの距離により変化する。つまり、位置10a−位置10b間の距離は輻輳角CAと相関を有し、具体的には、輻輳角CAが大きいほど位置10a−位置10b間の距離が小さく、輻輳角CAが小さいほど位置10a−位置10b間の距離が大きい。
さらに、位置10a−位置10b間の距離は、使用者の両眼の瞳孔間距離に影響される。瞳孔間距離は、内カメラ37a、37b、38a、38bの撮像画像に基づいて求めることができる。
HMD1は、使用者が導光部材10を透過して外景を視認する場合に、外景と重なって視認される画像を表示する。この表示の一態様として、実空間である外景に関する情報を提供する、いわゆるAR(Augmented Reality)効果を奏する画像(以下、AR画像という)を表示することができる。AR画像は、実空間に存在する対象物に関する情報を、対象物と重なって、或いは対象物と並ぶように表示される。AR画像を見ることで、使用者は、対象物と、対象物に関する各種の情報とを同時に見ることができる。AR画像の表示は、使用者にとって対象物が見える位置に合わせて表示することが特徴である。
AR表示を行う場合、使用者の視線は、実空間に存在する対象物OBを注視する。
AR表示を行う場合、HMD1は、AR画像を外景に調和させるために、AR画像またはAR画像に含まれる表示オブジェクト(画像、図形、文字等)の表示サイズ、表示色等を調整できる。また、対象物OBに重なって表示される表示オブジェクトを、対象物OBの前に重なるように表示する表示態様と、対象物OBの後ろに重なって視認されるように表示する表示態様とを切り替えてもよい。また、AR画像に画像処理を施して、表示オブジェクトに影が付いたように視認される表示態様で表示してもよい。
また、使用者が導光部材10を透過して外景を視認する場合にHMD1が表示する別の態様として、使用者が注視する対象物に関する情報に限らず、様々な画像や文字等を含む画像を表示することがある。この場合、使用者にとって対象物が視認される位置に合わせる処理は行われないか、或いは、対象物の視認を妨げないように、使用者の視界の端等に画像を表示する。この種の表示は、例えば、使用者が文書の内容を見ながら、外景を視認するような場合に行われる。この表示を行う場合も、使用者の視線は、実空間に存在する対象物OBを注視し、HMD1の表示画像を見る場合に、視線が対象物OBから離れて表示画像が注視される。
上記のいずれの例においても、使用者は、実空間の対象物OBを見て、必要に応じてHMD1の表示画像を見る。使用者が対象物OBを注視するときの視線は導光部材10において位置10a、10bを通る。HMD1が虚像表示装置100により画像を表示する位置が、位置10a、10bに合わせた位置であれば、使用者は、対象物OBを見るときとHMD1の表示画像を見るときとで、視線を大きく動かす必要がない。
そこで、HMD1は、使用者が視線を大きく動かさずに表示画像を見ることができるように、使用者が注視する外景の対象物OBまでの距離(注視距離)に応じて、表示態様を制御する。本実施形態では表示態様の制御の一例として、使用者が表示画像を見る(視認する)位置、すなわち表示位置を制御する場合を説明する。
図8(B)は使用者の両眼の視野を模式的に示す図である。図の左には、左の眼EYの視野VR(L)を示し、図の右には、右の眼EYの視野VR(R)を示す。
使用者の視野VR(L)及び視野VR(R)には、画像表示装置80が生成し投射透視装置70により投射する表示画像PL、PRがある。投射透視装置70は映像光GLを眼EYに入射させることで虚像を使用者に知覚(視認)させるものであるから、眼EYの前に表示画像PL、PRを表示する物理的な表示面はない。しかしながら、使用者にとっては、映像光GLにより、視野VR(L)、VR(R)の一部を占める画像を視認するので、ここでは模式的に映像光GLが表示画像PL、PRを形成するものとして説明する。
表示画像PL、PRは虚像表示装置100が画像を表示可能な最大の領域であって、表示可能領域ということができる。図中の画像P1は、虚像表示装置100が表示可能範囲である表示画像PL、PRに、実際に表示する画像である。図8(B)の例では使用者の両眼に同じ画像P1を視認させる。
視野VR(L)における画像P1が位置10bに近く、視野VR(R)における画像P1が位置10aに近いと、使用者は、対象物OBと画像P1とを、視線を大きく動かすことなく視認できる。この場合、使用者の視線の奥行き方向(遠近方向)における動きが小さいため、使用者には、遠近方向の焦点調節に係る眼の負担がかかりにくい。従って、実空間の対象物OBと、虚像表示装置100の表示画像とを、例えば交互に見る場合に、使用者の視力に対する負荷を、効果的に軽減できる。
以下、HMD1が実行する表示制御について具体的に説明する。
図9(A)は、機械的動作により表示位置を調整する動作を示し、図9(B)、(C)は画像処理により表示位置を調整する動作を示す。
制御部140は、上述した右光学系駆動部85及び左光学系駆動部87ことにより、第1表示装置100Aと第2表示装置100Bにおいて、導光部材10に対する光学装置部130の角度を変更できる。右光学系駆動部85の動作により、導光部材10から右眼EYに入射する映像光GLの位置が変化するので、視野VR(R)における表示画像PRすなわち表示可能領域が移動する。同様に、左光学系駆動部87の動作により、導光部材10から左眼EYに入射する映像光GLの位置が変化するので、視野VR(L)における表示画像PLすなわち表示可能領域が移動する。表示画像PL、PRが移動すると、表示画像PL、PRのそれぞれにおける画像P1の位置を変化させなくても、使用者が画像P1を視認する位置を変化させることができる。また、図9(A)に示すように、位置10a−位置10b間(図8(A))の距離に合わせて表示画像PL、PRを調整するので、視野VR(L)における表示画像PLの移動方向と、視野VR(R)における表示画像PRの移動方向は逆である。従って、右光学系駆動部85が光学装置部130を動かす方向と、左光学系駆動部87が光学装置部130を動かす方向とは互いに逆である。
制御部140は、表示画像PLで画像P1を表示する位置、及び、表示画像PRで画像P1を表示する位置を画像処理により変更することができる。この画像処理は、右光学系駆動部85及び左光学系駆動部87を動かす制御とは独立して実行でき、例えばソフトウェアで実現できる。
表示画像PL、PRにおける画像P1の位置を動かす場合、制御部140は、画像P1の表示サイズを、表示画像PL、PRより小さくする。ここで、制御部140は、画像P1を縮小してもよいが、画像P1の一部を切り出して表示用の画像P2を生成し、画像P2の表示位置を制御してもよい。画像P2を切り出す処理は画像処理部160(画像生成部)が行えば良い。
例えば、図9(B)に示すように、画像P1の中央寄りの部分を切り出して画像P2とし、図9(C)に示すように、表示画像PL、PRのそれぞれに画像P2を表示する。表示画像PL、PRにおける画像P2の表示位置は、位置10a−位置10b間(図8(A))の距離に合わせて調整される。従って、表示画像PLにおける画像P2の移動方向と、表示画像PRにおける画像P2の移動方向は逆である。
このように、制御部140は、右光学系駆動部85及び左光学系駆動部87を用いて投射透視装置70及び画像表示装置80の構成部品を動かす機械的な調整、及び、画像処理による表示位置の調整を、それぞれ実行できる。また、この機械的な調整と画像処理による調整とを組み合わせて実行することで、より効果的に表示位置を調整できる。
また、制御部140が、図9(A)〜(C)に示す表示態様(表示位置)の制御を行わない初期状態では、所定の輻輳角CAの値に適するように、表示画像PL、PRの位置が設定される。この初期位置(デフォルト位置)が対応する輻輳角CAは、例えば、1°(度)以上かつ5°以下の範囲にあり、より具体的には、使用者の眼EYから対象物OBまでの距離が4mの場合に適した位置となっている。
別の例では、使用者の両眼の視線が真正面を向く場合(対象物OBまでの距離が無限遠)に比べ、視線方向が0.2°〜2°、内側にあることが好ましい。この場合、使用者の瞳孔間距離(PD)の標準値として65mmを採用できる。
上記の調整を行うため、制御部140は、撮像制御部181、眼画像解析部182、外画像解析部183、変更制御部184、及び駆動制御部185を備える。
撮像制御部181は、外カメラ35、36、及び、内カメラ37a、37b、38a、38bをそれぞれ制御して撮像を実行させ、撮像画像データを取得する。
眼画像解析部182は、内カメラ37a、37bの撮像画像データを解析して、虚像表示装置100を装着した使用者の右眼EYの状態に関するデータを生成する。また、眼画像解析部182は、内カメラ38a、38bの撮像画像データを解析して、使用者の左眼EYの状態に関するデータを生成する。
外画像解析部183は、外カメラ35、36の撮像画像データを解析することにより、使用者が注視する方向に存在する対象物OBを検出し、対象物OBまでの距離を求める。外カメラ35、36は上述のように互いに離隔したステレオカメラとして機能する。外画像解析部183は、外カメラ35の撮像画像と、外カメラ36の撮像画像との視差を検出し、検出した視差と、予め設定された外カメラ35、36の間隔とをもとに、演算処理を実行し、対象物OBまでの距離を求めることができる。外画像解析部183が求める距離は、外カメラ35、36から対象物OBまでの距離であってもよい。また、求めた距離を既知のパラメーターを用いて、使用者の眼EYから対象物OBまでの距離に変換してもよい。
さらに、外画像解析部183は、眼画像解析部182が生成する使用者の両眼の状態に関するデータと、外画像解析部183が求めた対象物OBまでの距離とに基づいて、輻輳角CAを算出する。
変更制御部184は、外画像解析部183が算出した輻輳角CAに応じて、第1表示装置100A及び第2表示装置100Bにおける画像の表示位置を調整する。変更制御部184は、第1表示装置100Aと第2表示装置100Bのそれぞれにおける調整量を求める。ここで、変更制御部184は、右光学系駆動部85、左光学系駆動部87を用いた機械的調整の調整量と、画像処理による調整量とを個別に求めることができる。また、変更制御部184は、機械的調整と画像処理とを組み合わせる場合の、機械的調整の調整量と画像処理の調整量とを求めることができる。
また、変更制御部184は、右光学系駆動部85及び左光学系駆動部87の動きによる調整量を求め、駆動制御部185に調整を実行させた後、再び輻輳角CAを求めさせてもよい。この場合、変更制御部184は、機械的調整の後に外画像解析部183が求める輻輳角CAに基づき、画像処理の調整量を求める。
変更制御部184が求める調整量は、予め設定された画像の表示位置である標準位置から、表示位置をシフトさせるシフト量とすることができる。標準位置は、例えば、瞳孔間距離が標準的なサイズの使用者が、標準的な注視距離すなわち輻輳角で外景を見る場合を想定して決定され、設定データ121に含めて記憶部120に記憶される。瞳孔間距離(眼間距離)は、60mm〜65mmが標準的な値とされるため、例えば65mmに設定できる。標準的な注視距離は虚像表示装置100の仕様に合わせて決定でき、例えば一般作業に用いられる仕様では4m、近位置(手元など)の作業に用いられる仕様では1m等に設定すれば良い。シフト量は、映像表示素子82における画素数や、駆動制御部185が駆動する駆動量として決定できる。例えば、注視距離が近く輻輳角が大きい場合には、標準位置よりも表示位置を内側(鼻側)にシフトさせれば良い。
駆動制御部185は、変更制御部184が求める機械的調整の調整量に基づき、右光学系駆動部85と左光学系駆動部87とをそれぞれ制御して駆動させる。
右光学系駆動部85は、光学装置部130を、例えば段階的に揺動させることができる。左光学系駆動部87も同様である。この場合、駆動制御部185は、右光学系駆動部85、左光学系駆動部87を動かす段数を制御する。また、右光学系駆動部85及び左光学系駆動部87が無段階で光学装置部130を傾けることが可能な場合、変更制御部184は、右光学系駆動部85及び左光学系駆動部87の動作量を制御する。
制御部140の眼画像解析部182、外画像解析部183、及び変更制御部184が実行する演算処理に用いる演算式、関数、行列、パラメーター等は、記憶部120に設定データ121として記憶される。また、後述する処理における調整可能範囲の基準値や、目標精度の設定値は、調整基準データ123として記憶部120に記憶される。
さらに、制御部140による調整は、例えば、画像P1、P2の表示位置に適合する輻輳角CAが、使用者の視線に基づき算出した輻輳角CAに対し、±1°となることを目標に行うことが、好ましい。ここで、画像P1、P2の表示位置は、例えば、画像P1、P2の中心の位置とする。
なお、図8(A)では使用者の両眼の中央に対象物OBがある場合、すなわち、使用者が両眼の中心に対象物OBが位置するように、頭を向けて視認する例を示している。使用者の右目、或いは左眼のいずれか一方が明らかに利き眼である場合には、対象物OBの位置は、右眼EYと左眼EYの中央位置から利き眼側にずれた位置となる。
この場合、外画像解析部183は、利き眼の側に偏った対象物OBを検出し、利き眼を基準とする対象物OBまでの距離を算出し、輻輳角CAを算出することが可能な構成としてもよい。また、利き眼を基準とする演算処理に適した演算式、関数、行列、パラメーター等を設定データ121に含めてもよい。また、使用者の操作により利き眼を指定する構成としてもよく、利き眼の入力を求める案内メッセージ等を虚像表示装置100により表示してもよい。また、虚像表示装置100の画像の表示と、制御装置300における操作とによって利き眼を判定する処理を行ってもよい。
この場合、制御部140は、使用者の利き眼に合わせて画像の表示位置を調整することもできる。例えば、利き眼が右眼であると仮定すると、右眼EYに対応する画像表示装置80では基準の位置から20画素シフトした位置に画像を表示し、左眼EYに対応する画像表示装置80では基準の位置から15画素シフトした位置に画像を表示する。このように、輻輳角に対応して表示態様を制御する場合に、利き眼と、利き眼でない側の眼とのそれぞれに対して異なる表示態様で画像を表示することで、より自然な見え方で画像を表示できる。
さらに、輻輳角を検出する場合において、利き眼の影響により、図8(A)に示す位置10a、10bが、両眼の中央に対して対象な位置とならない場合がある。すなわち、対象物OBが使用者の正面でなく利き眼側によった位置となる場合がある。この場合、制御部140は、輻輳角CAを検出する処理において、利き眼側の位置(例えば、位置10a)を基準として輻輳角を求めてもよい。具体的には、位置10aと、位置10aに対して両眼の中央を介して対象な位置10b´を想定し、これら位置10a−位置10b´間の距離に基づき輻輳角を求めてもよい。また、利き眼側の位置(例えば、位置10b)について同様の処理を行って輻輳角を求めてもよい。さらに、このように求めた2つの輻輳角の平均値等を求めることにより、最終的な輻輳角を算出してもよい。
また、利き眼については上記のように検出する方法に限らず、対象物OBが使用者の視界の右側に寄った位置にある場合は右眼を利き眼として輻輳角の検出及び表示態様の制御の処理を行ってもよい。対象物OBが使用者の視界の左側に寄った位置にある場合は左眼を利き眼として輻輳角の検出及び表示態様の制御の処理を行ってもよい。つまり、対象物と使用者との相対位置に応じて、利き眼に関する設定を変更してもよい。また、使用者が利き眼に関する設定を行った場合、この設定を優先してもよい。
図10は、HMD1の動作を示すフローチャートであり、画像の表示位置の調整に係る処理を示す。
制御部140は、使用者の視線方向(注視方向)および注視距離を検出するための基準となる参照データを生成する(ステップST1)。ステップST1で生成される参照データは、参照データ122として記憶部120に記憶される。
制御部140は、画像(映像を含む)の表示を開始してから、或いは表示開始時に、使用者の両眼の輻輳角を検出する輻輳角検出処理を実行する(ステップST2)。続いて、制御部140は、ステップST2で検出した輻輳角に基づき、虚像表示装置100における画像の表示位置を調整する画像調整処理を実行する(ステップST3)。その後、制御部140は、画像の表示を終了するか否かを判定し(ステップST4)、表示を継続する間は(ステップST4;No)、ステップST2に戻る。また、表示を終了する場合は(ステップST4;Yes)、本処理を終了する。
制御部140がステップST1で生成する参照データ122は、HMD1の起動時、或いは、使用者が初めてHMD1を使用する際に実行すればよく、使用者が制御装置300を操作することで、随時、実行できる構成としてもよい。
以下、図10に示した各処理について詳細に説明する。
図11は、図10のステップST1に示す参照データ生成処理を示すフローチャートである。
制御部140は、水平方向、及び垂直方向に視線を向けるよう案内する画像を虚像表示装置100で表示し(ステップST11)。この案内に従って使用者に視線を移動させる(ステップST12)。制御部140は、移動中或いは移動後に内カメラ37a、37b、38a、38bに撮像を実行させた撮像画像データを取得して、取得した撮像画像データを解析することにより、眼球運動及び眼球の方向に関するデータを取得する(ステップST13)。制御部140は、予め設定された全ての方向に関しステップST11〜ST13の処理が完了したか否かを判定し(ステップST14)、未処理の方向がある場合は(ステップST14;No)、ステップST11に戻る。
ステップST11では、例えば、使用者に対して上、下、右、左、右上、右下、左上、左下の8方向及び正面を含む9方向を指定して、視線を向けさせるよう案内する文字や画像を表示する。制御部140は、正面を除く8方向については、使用者に、最大限に視線を指定方向に向けるよう案内する。
ステップST13で、制御部140は、内カメラ37a、37b、38a、38bの撮像画像から使用者の眼球の画像を抽出し、(1)瞳孔間距離、(2)瞳孔径または瞳孔径の変化量、(3)注視方向、を検出し、検出データを生成する。瞳孔径は、眼球の虹彩の画像を検出することで求めることができる。一般に、虹彩の状態は水晶体を変化させる毛様体筋の動きを反映するので、瞳孔径の変化量または瞳孔径に関するデータは、注視距離に関するデータとして利用できる。
ステップST11〜ST13の動作は、使用者の眼球に相対する面内における上記9方向のそれぞれについて、実行すればよい。すなわち、ステップST11では上記9方向のうちいずれかの方向を指定して視線を向けるよう案内する文字や画像を表示し、ステップST13において、指定方向に関する検出データを取得する。この動作を、例えば9回実行すれば、9方向に視線を向けさせて検出データを取得できる。また、ステップST11において視線を向ける9方向と、視線を向ける順序を指定し、その後は内カメラ37a、37b、38a、38bにより眼球の運動を継続して撮像し、9方向の検出データをステップST13でまとめて取得してもよい。
水平及び垂直方向の全てについて処理を行った場合(ステップST14;Yes)、制御部140は、奥行き(遠近)方向に視線を向けるよう案内する画像を虚像表示装置100で表示する(ステップST15)。そして、案内に従って使用者に視線を移動させ(ステップST16)、移動中或いは移動後に内カメラ37a、37b、38a、38bに撮像を実行させた撮像画像データを取得して、取得した撮像画像データを解析することにより、眼球運動及び眼球の方向に関するデータを取得する(ステップST17)。ステップST15では、例えば、最も近い位置、及び、最も遠い位置の2方向に視線を向けるよう案内する。ステップST15〜ST17の処理を2回行って、最も近い位置と最も遠い位置に関する検出データを取得してもよい。
また、ステップST15では、使用者に見える外景すなわち実空間において、予め設定された距離を見るように案内してもよく、この場合、実空間において設定された距離に位置する対象物を指定して、その対象物を注視するように案内してもよい。この場合、事前に使用者が、参照データ生成処理を行うために用いる対象物を、指定した距離に置いておけばよい。
制御部140は、ステップST13、ST17で取得した検出データをもとに、注視方向を検出するために用いる参照データ122を生成し、記憶部120に記憶する(ステップST18)。この例で、参照データ122は、上記9方向及び遠近2方向の、合計11の方向に使用者が視線を向けた場合の、眼球の運動及び/又は方向に関するデータを含む。これにより、内カメラ37a、37b、38a、38bにより眼球を撮像し、撮像画像における眼球の画像と、上記9方向を撮像した場合の眼球の状態とを比較することで、注視方向を特定できる。また、眼球の向きから、注視距離を求めることができる。
図12は、図10のステップST2の輻輳角検出処理を示すフローチャートである。
制御部140は、内カメラ37a、37b、38a、38bにより撮像を実行させて撮像画像データを取得し、撮像画像データを解析することにより、眼球の状態に関するデータを取得する(ステップST31)。ステップST31で取得するデータは、例えば、ステップST13、ST17と同様の処理で得られるデータであり、参照データ122と比較可能なデータであることが好ましい。
制御部140は、参照データ122を参照し、ステップST31で取得したデータに基づいて使用者の注視方向、及び、注視距離を算出する(ステップST32)。
制御部140は、外カメラ35、36により撮像を実行させて撮像画像データを取得し、撮像画像に写る対象物OBを検出する(ステップST33)。制御部140は、撮像画像において物体(物体の一部を含む)として識別可能なもののうち、ステップST32で求めた注視方向及び注視距離に適合する物体を、対象物OBとして検出する。
制御部140は、ステップST33で検出した対象物までの距離を算出する(ステップST34)。外カメラ35、36はステレオカメラを構成するので、外カメラ35の撮像画像と外カメラ36の撮像画像における視差に基づいて、外カメラ35、36から対象物までの距離を求めることができる。ここで、制御部140は、求めた距離を、使用者の眼から対象物までの距離に換算してもよい。
制御部140は、ステップST32で算出した注視方向と、ステップST34で算出した距離とに基づいて、輻輳角を算出する(ステップST35)。ステップST35では、外カメラ35、36の撮像画像から注視距離を求めるため、よりシンプルな演算処理によって高い精度で注視距離を得られるという利点がある。なお、ステップST34の動作を省略し、ステップST32で算出した注視方向及び注視距離を用いて、ステップST35で輻輳角を算出してもよい。
なお、輻輳角を検出する具体的な手法は、図12で説明したようにステレオカメラを用いる方法に限定されず、例えば、単眼のカメラを用いて時間差を設けて複数回の撮像を実行し、これら複数回の撮像で得られる複数の撮像画像を用いて輻輳角を検出してもよい。また、使用者の眼(片眼、或いは両眼)を撮像し、瞳孔径の変化または瞳孔径を検出することにより輻輳角を検出してもよい。一般に、外景(実空間)において注視したい対象を視認した場合に、人間の瞳孔径が短時間で拡大することが知られている。このため、瞳孔径の変化または瞳孔径を検出する機能を、使用者の注視方向を求める処理で利用してもよい。また、制御部140は、撮像画像から注視距離を求める処理において、例えばルックアップテーブル(Lookup table:変換テーブル)を用いてもよい。この場合、制御部140は、カメラまたは撮像画像から求められる検知データに基づきルックアップテーブルを参照することで、注視距離を求めることができる。また、検知データとして瞳孔間距離(眼間距離)を組み合わせてもよい。ルックアップテーブルは、例えば、予め記憶部120に記憶すれば良い。
図13は、図10のステップST3の画像調整処理を示すフローチャートである。
制御部140は、図12の動作で求めた輻輳角が、調整可能範囲内であるか否かを判定する(ステップST51)。HMD1では、右光学系駆動部85、左光学系駆動部87を用いる機械的な調整、及び、画像処理部160が画像処理を行う調整によって調整可能な輻輳角の限界値があり、この限界値に対応する調整可能範囲が予め設定される。制御部140は、輻輳角の値が調整可能範囲内であると判定した場合(ステップST51;Yes)、機械的調整を要するか否かを判定する(ステップST52)。
右光学系駆動部85及び左光学系駆動部87は、例えば段階的に調整を行う構成を有し、光学装置部130を揺動させることで画像の表示位置を大きく動かすことができる。このため、輻輳角に合わせて大きく画像の表示位置を動かす場合には、機械的調整を行い、画像の表示位置の調整量が小さい場合は画像処理のみを利用すると、効率がよい。ステップST52では、機械的調整を行うか否かについて予め設定された閾値を用いて判定する。
制御部140は、機械的調整を要しないと判定した場合(ステップST52;No)、後述するステップST56に移行する。
また、機械的調整を要すると判定した場合(ステップST52;Yes)、制御部140は、右光学系駆動部85及び左光学系駆動部87の調整量を決定する(ステップST53)。制御部140は、ステップST53で決定した調整量に従って右光学系駆動部85及び左光学系駆動部87を動作させ(ステップST54)、調整後に、目標精度を満たすか否かを判定する(ステップST55)。
上述のように、HMD1では、輻輳角に合わせた画像の位置調整の精度が、例えば輻輳角について±1°と設定されている。図12の輻輳角検出処理で検出した輻輳角と、調整後の画像の表示位置に適合する輻輳角とが、設定された精度を満たす場合(ステップST55;Yes)、制御部140は本処理を終了する。
また、調整精度を満たさない場合(ステップST55;No)、制御部140は画質調整の調整量を決定し(ステップST56)、調整を実行する(ステップST57)。制御部140は、調整により目標精度を満たすか否かを判定する(ステップST58)。ステップST58で判定する目標精度は、例えばステップST55と同様である。目標精度を満たさない場合(ステップST58;No)、制御部140はステップST56に戻って、画像処理を繰り返す。なお、ステップST56〜ST57の実行回数に上限を設けてもよく、上限に達した場合にステップST51に戻ってもよい。
また、目標精度を満たすと判定した場合(ステップST58;Yes)、制御部140は本処理を終了する。
なお、ステップST55で目標精度を満たすか否かの判定をする場合、制御部140は、機械的調整の調整量を決定した時点で、調整が目標精度を満たすかどうかを判定できる。このため、ステップST55の判定を、ステップST54で実行してもよい。
また、図12の動作で求めた輻輳角が、調整可能範囲内でないと判定した場合(ステップST51;No)、制御部140は、調整範囲外の輻輳角に対応する表示態様(表示形態)への切り替えを行う。
ステップST59では、例えば、制御部140は、第1表示装置100Aと第2表示装置100Bのいずれか一方の表示を停止し、片方のみ表示する状態への切り替えを行う。片眼のみで一つの画像を視認する場合、輻輳角の影響を受けないため、画像の表示位置を輻輳角に適した位置に調整しなくても、使用者の視機能への負担がない。
また、ステップST59で、制御部140は、VR(Virtual Reality)表示を行ってもよい。VR表示では、外カメラ35、36の撮像画像を第1表示装置100A、第2表示装置100Bの表示可能領域に最大サイズで表示する。ここで、画像表示装置80の輝度を大きくして、導光部材10を透過する外光の強度を相対的に小さくして、外景の視認性を低下させてもよい。また、VR表示において、外カメラ35、36の撮像画像から、図12のステップST33で検出した対象物を含む領域を切り出して表示してもよい。この場合、使用者は表示画像を見ることで対象物を視認するので、外景と表示画像との輻輳角の差の影響を受けにくい。このため、使用者の視機能への負荷を軽減できる。
さらに、VR表示を行う場合、制御部140は、図12のステップST32またはST34で算出した注視距離に応じて、第1表示装置100Aで表示する画像と第2表示装置100Bで表示する画像とに視差を持たせてもよい。すなわち、外カメラ35、36の撮像画像から、視差を有する2つの画像を生成し、この2つの画像を第1表示装置100Aと第2表示装置100Bとでそれぞれ表示してもよい。この2つの画像は3D(立体)画像を構成する。従って、使用者は、立体画像により対象物をVRで見ることができる。
図10〜図13に示す動作において、演算処理に使用する演算式、関数、行列、パラメーター等は、いずれも記憶部120に設定データ121として、予め記憶される。また、図13のステップST51で判定基準となる調整可能範囲に関する基準値や閾値、目標精度を定める基準値や閾値等は、記憶部120に、調整基準データ123として記憶される。これら設定データ121、調整基準データ123は、制御装置300の操作により設定あるいは更新可能であってもよいし、通信部117を介して接続する外部の機器(図示略)から入力されてもよい。
以上説明したように、本発明を適用した実施形態に係るHMD1は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する虚像表示装置100を有する。HMD1は、虚像表示装置100による画像の表示態様を、使用者の注視距離に応じて制御する制御部140を備える。このため、使用者が外景と画像とを視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
制御部140は、使用者の注視距離に対応する両眼の輻輳角に基づき、虚像表示装置100による画像の表示態様を制御する。このため、使用者の両眼の輻輳角に対応して画像の表示態様を制御することで、使用者が注視する距離に適合する表示態様を実現できる。
また、制御部140は、使用者の両眼の輻輳角を求め、求めた輻輳角に対応して、虚像表示装置100が表示する画像を使用者が視認する位置を変化させる。このため、使用者の注視距離に適した位置に画像を表示でき、表示画像の視認性を高めることができ、使用者が外景において注視する距離に適した表示画像を、使用者に視認させることができる。
さらに、HMD1は、使用者の両眼の状態を検出する状態検出部としての外カメラ35、36及び内カメラ37a、37b、38a、38bを備える。制御部140は、状態検出部の検出結果に基づいて、使用者の注視距離を算出し、算出した注視距離に応じて虚像表示装置100による画像の表示態様を制御する。HMD1が使用者の両眼の状態を検出して注視距離を算出するので、使用者が煩雑な操作を行わなくても、画像の表示態様を適切に調整できる。
HMD1は、状態検出部として、使用者の右眼と左眼のそれぞれに対応して設けられる内カメラ37a、37b、38a、38bを備える。制御部140は、内カメラ37a、37b、38a、38bの撮像画像に基づいて、使用者の両眼の瞳孔間距離、瞳孔径、或いは注視方向の注視時間の少なくともいずれかを求めることにより、使用者の注視距離を算出する。これにより、使用者の両眼の状態から高精度で注視距離を算出できる。
また、HMD1は、状態検出部として、使用者の注視方向を撮像する外カメラ35、36を備える。制御部140は、外カメラ35、36の撮像画像に基づいて、使用者が注視する注視対象物までの距離を求めることにより、使用者の注視距離を算出するので、より高精度で注視距離を算出できる。
また、虚像表示装置100は、画像光を出射する画像表示装置80と、画像表示装置80が出射する画像光を使用者の右眼と左眼のそれぞれに導く投射透視装置70とを備える。虚像表示装置100は、画像表示装置80または投射透視装置70を構成する少なくとも一部の部材を変位させ、投射透視装置70から使用者の右眼と左眼とに入射する画像光の角度を変更する右光学系駆動部85及び左光学系駆動部87を備える。制御部140は、使用者の注視距離に応じて右光学系駆動部85及び左光学系駆動部87を動作させるので、機械的な動作により、画像の表示態様を調整できる。
また、制御部140は、使用者の注視距離に応じて、虚像表示装置100が表示する画像を使用者が視認する表示範囲における画像の位置を制御する。これにより、画像の表示位置を、使用者の注視距離に合わせて適切に調整できる。
また、HMD1は、画像データに基づき虚像表示装置100が表示する画像を生成する画像処理部160を備える。制御部140は、使用者の注視距離に応じて、画像処理部160により画像データの一部を切り出して調整用の画像を生成させ、調整用の画像を虚像表示装置100に表示させる。これにより、画像を切り出すことによって、画像の表示位置の調整範囲を拡大することができ、画像の表示位置を変更する場合の違和感を解消できる。
また、制御部140は、使用者の注視距離が予め設定された基準距離より近く、輻輳角が調整可能範囲内でない場合に、虚像表示装置100によって使用者の右眼または左眼のいずれかに対応する画像を表示させる。これにより、使用者の注視距離が近い場合であっても、使用者の負担を軽減できる。
なお、この発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記実施形態では、使用者の注視距離に応じて表示態様を制御する一例として、使用者が表示画像を見る(視認する)表示位置を制御する場合を例に挙げて説明したが、本発明はこれに限定されない。例えば、AR表示を行う場合に、注視距離に応じて、AR画像またはAR画像に含まれる表示オブジェクト(画像、図形、文字等)の表示サイズ、表示色等を変更してもよい。また、対象物OBに重なって表示される表示オブジェクトを、対象物OBの前に重なるように表示する表示態様と、対象物OBの後ろに重なって視認されるように表示する表示態様とを、注視距離に応じて切り替えてもよい。また、AR画像に画像処理を施して、表示オブジェクトに影が付いたように視認される表示態様のオン/オフを、注視距離に応じて切り替えてもよい。
また、使用者の注視距離に応じて表示態様を制御する別の例として、使用者が導光部材10を透過して視認する実空間の対象物OBに画像を重ねて表示する表示態様を制御してもよい。例えば、対象物OBに画像が重なるように表示して、対象物OBの視認性を低下させるマスク表示や、対象物OBの色が異なる色に視認されるようにする表示を、注視距離に応じて切り替え、或いは調整してもよい。この場合、制御部140は、対象物OBに重ねて視認される画像に対し、輝度調整、配色、ドット抜き、シャープネス或いはエッジ強調、階調調整、フォーカス調整(ぼかし処理)等の画像処理を行ってもよい。また、当該画像の表示位置の調整を、上記画像処理に組み合わせて行ってもよい。
また、例えば、上記実施形態において、制御部140は、図12の輻輳角検出処理で算出した輻輳角に基づき、第1表示装置100Aと第2表示装置100Bの両方において同様の調整を行う例を説明した。すなわち、図13のステップST53、ST56で、機械的調整の調整量及び/又は画像処理による調整量を、左右で同量とした。本発明はこれに限定されず、利き眼側と、利き眼でない側とで、異なる調整量を決定してもよい。この場合の調整量の差は、予め設定されたパラメーター等に従ってもよいし、図11のステップST13で算出した検出データから求めてもよい。
また、例えば、虚像表示装置100は、テンプル部104と鼻受部40により眼鏡と同様に使用者の頭部に保持される構成に限定されない。例えば、帽子のように装着する方式を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを分離し、それぞれを使用者の頭部に装着してもよい。また、眼鏡、帽子、ヘルメット等を介して間接的に使用者の身体に装着されてもよい。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよいし、自動車のフロントガラスに用いられるヘッドアップディスプレイ(Head-up Display;HUD)であってもよい。
さらに、上記実施形態では、虚像表示装置100と制御装置300とが分離され、接続ケーブル41を介して接続された構成を例に挙げて説明したが、制御装置300と虚像表示装置100とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。また、制御装置300と虚像表示装置100とをより長いケーブルにより接続した場合に、制御装置300として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置300として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。ここで、制御装置300が表示画面を有する場合、バッテリー交換モードにおいて、制御装置300が備える表示画面を停止させてもよい。
また、例えば、虚像表示装置100において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、画像光を生成する構成として、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像生成部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
また、図7に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図7に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120又は制御装置300内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117又はインターフェイス114を介して取得して実行する構成としてもよい。また、制御装置300に形成された構成のうち、操作部135のみが単独の使用者インターフェイス(UI)として形成されてもよい。また、制御装置300に形成された構成が重複して虚像表示装置100に形成されていてもよい。例えば、図7に示す制御部140が制御装置300と虚像表示装置100との両方に形成されていてもよいし、制御装置300に形成された制御部140と虚像表示装置100に形成されたCPUとが行う機能が別々に分けられている構成としてもよい。