JP6707823B2 - 表示装置、表示装置の制御方法、及び、プログラム - Google Patents

表示装置、表示装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP6707823B2
JP6707823B2 JP2015173682A JP2015173682A JP6707823B2 JP 6707823 B2 JP6707823 B2 JP 6707823B2 JP 2015173682 A JP2015173682 A JP 2015173682A JP 2015173682 A JP2015173682 A JP 2015173682A JP 6707823 B2 JP6707823 B2 JP 6707823B2
Authority
JP
Japan
Prior art keywords
image
display
unit
user
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015173682A
Other languages
English (en)
Other versions
JP2017049468A (ja
Inventor
和夫 西沢
和夫 西沢
高野 正秀
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015173682A priority Critical patent/JP6707823B2/ja
Priority to US15/049,203 priority patent/US10162412B2/en
Priority to CN201610117993.XA priority patent/CN106019584A/zh
Publication of JP2017049468A publication Critical patent/JP2017049468A/ja
Application granted granted Critical
Publication of JP6707823B2 publication Critical patent/JP6707823B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、表示装置、表示装置の制御方法、及び、プログラムに関する。
従来、ヘッドマウント式の表示装置において、実空間の物体の画像を表示するものが知られている(例えば、特許文献1参照)。特許文献1は、表示装置が表示する画像によりユーザーが物体を知覚する位置と実空間でユーザーが物体を見たときとの位置を一致させるため、焦点調節を行う構成を開示する。
特表2013−537784号公報
ところで、表示装置を使用する使用者が、表示装置が表示する画像と外景とを視認する場合、使用者がどの方向、或いはどの程度の距離を注視するかによって、表示画像の見え方が変わる。しかしながら、この種の表示装置においては、表示画像の見え方を調整する例は無かった。
本発明は上記事情に鑑みてなされたものであり、表示装置を使用する使用者が、外景と表示画像とを視認できる場合に、表示画像を適切に調整できるようにすることを目的とする。
上記目的を達成するため、本発明は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部と、前記表示部による画像の表示態様を、前記使用者の注視距離に応じて制御する制御部と、を備えることを特徴とする。
本発明によれば、使用者が外景と画像とを視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の注視距離に応じて、前記表示部による前記画像の表示位置及び/又は前記画像の表示サイズを変更すること、を特徴とする。
本発明によれば、画像の表示位置や表示サイズを、使用者が注視する距離に適合させることができる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の注視距離に対応する両眼の輻輳角に基づき、前記表示部による画像の表示態様を制御すること、を特徴とする。
本発明によれば、使用者の両眼の輻輳角に対応して画像の表示態様を制御することで、使用者が注視する距離に適合する表示態様を実現できる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の両眼の輻輳角を求め、求めた輻輳角に対応して、前記表示部が表示する画像を前記使用者が視認する位置を変化させること、を特徴とする。
本発明によれば、表示装置が使用者の両眼の輻輳角を求めて、表示画像を使用者が視認する位置を変化させるので、使用者の注視距離に適した位置に画像を表示できる。このため、表示画像の視認性を高めることができ、使用者が外景において注視する距離に適した表示画像を、使用者に視認させることができる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の両眼の輻輳角に対応して、前記表示部が前記画像を表示する表示位置を、予め設定された標準位置からシフトさせること、を特徴とする。
本発明によれば、使用者の注視距離に適した位置に画像を表示できる。
また、本発明は、上記表示装置において、前記使用者の両眼の状態を検出する状態検出部を備え、前記制御部は、前記状態検出部の検出結果に基づいて、前記使用者の注視距離を算出し、算出した注視距離に応じて前記表示部による画像の表示態様を制御すること、を特徴とする。
本発明によれば、表示装置が使用者の両眼の状態を検出して注視距離を算出するので、使用者が煩雑な操作を行わなくても、画像の表示態様を適切に調整できる。
また、本発明は、上記表示装置において、前記状態検出部は、前記使用者の右眼と左眼のそれぞれに対応して設けられる第1撮像部を備え、前記制御部は、前記第1撮像部の撮像画像に基づいて、前記使用者の両眼の瞳孔間距離、瞳孔径、或いは注視方向の注視時間の少なくともいずれかを求めることにより、前記使用者の注視距離を算出すること、を特徴とする。
本発明によれば、使用者の両眼の状態から高精度で注視距離を算出できる。
また、本発明は、上記表示装置において、前記状態検出部は、前記使用者の注視方向を撮像する第2撮像部を備え、前記制御部は、前記第2撮像部の撮像画像に基づいて、前記使用者が注視する注視対象物までの距離を求めることにより、前記使用者の注視距離を算出すること、を特徴とする。
本発明によれば、より高精度で注視距離を算出できる。
また、本発明は、上記表示装置において、前記表示部は、画像光を出射する出射部と、前記出射部が出射する画像光を前記使用者の右眼と左眼のそれぞれに導く光学系と、前記出射部または前記光学系を構成する少なくとも一部の部材を変位させ、前記光学系から前記使用者の右眼と左眼とに入射する画像光の角度を変更する変更部と、を備え、前記制御部は、前記使用者の注視距離に応じて前記変更部を動作させること、を特徴とする。
本発明によれば、部材を変位させることによって画像の表示態様を調整できる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の注視距離に応じて、前記表示部が表示する画像を前記使用者が視認する表示範囲における画像の位置を制御すること、を特徴とする。
本発明によれば、画像の表示位置を、使用者の注視距離に合わせて適切に調整できる。
また、本発明は、上記表示装置において、画像データに基づき前記表示部が表示する画像を生成する画像生成部を備え、前記制御部は、前記使用者の注視距離に応じて、前記画像生成部により前記画像データの一部を切り出して調整用の画像を生成させ、前記調整用の画像を前記表示部に表示させること、を特徴とする。
本発明によれば、画像を切り出すことによって、画像の表示位置の調整範囲を拡大することができ、また、画像の表示位置を変更する場合の違和感を解消できる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の注視距離が予め設定された基準距離より近い場合に、前記表示部によって前記使用者の右眼または左眼のいずれかに対応する画像を表示させること、を特徴とする。
本発明によれば、使用者の注視距離が近い場合であっても、使用者の負担を軽減できる。
また、上記目的を達成するため、本発明は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示装置であって、画像光を出射する出射部と、前記出射部が出射する画像光を前記使用者の右眼と左眼のそれぞれに導く光学系と、前記出射部の出射方向または前記光学系から前記使用者の右眼と左眼とに入射する画像光の入射角度を変更する変更部と、を備える表示部と、画像データに基づき前記表示部が表示する画像を生成する画像生成部と、前記使用者の注視距離を算出し、算出した注視距離に応じて、前記変更部を動作させる処理、及び、前記使用者の注視距離に応じて、前記画像生成部により前記画像データの一部を切り出して調整用の画像を生成させ、前記調整用の画像を前記表示部に表示させる処理の少なくともいずれかを実行する制御部と、を備えることを特徴とする。
本発明によれば、使用者が外景と画像とを視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
また、本発明は、上記表示装置において、外部撮像部を備え、前記制御部は、前記外部撮像部の撮像画像に基づく画像を前記表示部に表示させる処理を実行可能であること、を特徴とする。
本発明によれば、表示部の外側の景色である外景を使用者に視認させることができる。
また、本発明は、上記表示装置において、前記表示部は、前記表示部を透過する外光により前記使用者が外景を視認可能に構成され、前記外部撮像部の撮像画像に基づく画像を、前記外景と同時に視認可能に表示すること、を特徴とする。
本発明によれば、外景と表示画像とを視認可能に表示する場合に、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
また、本発明は、上記表示装置において、前記制御部は、前記撮像画像に基づく画像を前記表示部に表示させる場合に、前記表示部を透過する外光に比べ、前記撮像画像に基づく画像の視認性を高める処理を行うこと、を特徴とする。
本発明によれば、表示部が表示する画像を明瞭に視認させることができ、外光により視認する外景と、表示画像とを区別しやすくなる。
また、本発明は、上記表示装置において、前記制御部は、前記撮像画像に基づく画像を前記表示部に表示させる場合に、前記撮像画像に基づく画像の輝度または色彩を変化させ、或いは、前記撮像画像に基づく画像に対するエッジ強調処理を行うことにより、前記撮像画像に基づく画像の視認性を高める処理を行うこと、を特徴とする。
本発明によれば、表示部の表示画像の視認性を、効果的に高めることができる。
また、本発明は、上記表示装置において、前記制御部は、前記外部撮像部の撮像画像に基づく画像を、前記表示部により前記使用者の右眼と左眼のいずれか一方に対応して表示すること、を特徴とする。
本発明によれば、使用者の注視距離に影響されずに、表示部が表示する画像を使用者に視認させることができる。
また、本発明は、上記表示装置において、前記外部撮像部の撮像画像に基づく画像を、前記表示部により、左右の視差を有さない態様で前記使用者の右眼及び左眼のそれぞれに対応して表示すること、を特徴とする。
本発明によれば、使用者の注視距離の影響を受けにくく、表示画像を良好に視認できる。
また、本発明は、上記表示装置において、前記制御部は、前記外部撮像部の撮像画像を拡大して前記表示部により表示すること、を特徴とする。
本発明によれば、外景を拡大して表示できる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の操作を受け付けた場合に、前記外部撮像部の撮像画像に基づく画像を表示すること、を特徴とする。
本発明によれば、使用者の操作に応じて外景を表示できる。
また、本発明は、上記表示装置において、前記制御部は、前記使用者の注視距離を検出し、検出した注視距離が予め設定された距離より短い場合に、前記外部撮像部の撮像画像に基づく画像を表示すること、を特徴とする。
本発明によれば、使用者の注視距離に対応して外景の表示を行うことができる。
また、本発明は、上記表示装置において、前記外部撮像部は、前記表示部の装着状態において前記使用者の視線方向を含む範囲を撮像すること、を特徴とする。
本発明によれば、使用者の視線方向を含む範囲の撮像画像に基づく画像を表示できる。
また、上記目的を達成するため、本発明の表示装置の制御方法は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部を備える表示装置により、前記表示部による画像の表示態様を、前記使用者の注視距離に応じて制御すること、を特徴とする。
本発明によれば、使用者が外景と画像とを視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
また、上記目的を達成するため、本発明は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部を備える表示装置を制御するコンピューターが実行可能なプログラムであって、前記コンピューターを、前記表示部による画像の表示態様を、前記使用者の注視距離に応じて制御する制御部として機能させる。
本発明のプログラムをコンピューターが実行することにより、表示装置が表示する画像と外景とを使用者が視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
本発明の第1実施形態のHMDの外観を説明する斜視図。 虚像表示装置から外装部材を取り除いた内部構造を示す斜視図。 (A)は、虚像表示装置の外観を示す平面図であり、(B)は、正面図であり、(C)は、側面図。 虚像表示装置の外観を別の角度から示す斜視図。 虚像表示装置を構成する本体部分の平面視の断面図。 光学装置部と導光部材との配置関係を説明する断面図。 観察者の視認距離と輻輳角を示す説明図。 輻輳角と表示距離との関係について説明する図表。 HMDの各部の機能ブロック図。 画像の表示態様の調整方法を示す説明図であり、(A)は使用者の注視距離と輻輳角を示す模式図であり、(B)は使用者の両眼の視野を示す模式図である。 画像の表示態様の調整方法を示す説明図であり、(A)は機械的動作により表示位置を調整する動作を示し、(B)及び(C)は画像処理により表示位置を調整する動作を示す。 HMDの動作を示すフローチャート。 参照データ生成処理を示すフローチャート。 輻輳角検出処理を示すフローチャート。 画像調整処理を示すフローチャート。 第2実施形態におけるHMDの動作を示すフローチャート。 マイクロスコープ表示処理を示すフローチャート。 マイクロスコープ表示処理における表示例を示す図。 テレスコープ表示処理を示すフローチャート。 第2実施形態における画像調整処理を示すフローチャート。 第3実施形態におけるHMDの構成を示す図。
[第1実施形態]
以下、図1等を参照しつつ、本発明に係る虚像表示装置の一実施形態について詳細に説明する。
図1は、本発明を適用した第1実施形態に係る表示装置としてのHMD(Head Mounted Display:頭部装着型表示装置)1の外観構成を示す説明図である。HMD1は、使用者の頭部に装着された状態で使用者に虚像を視認させる虚像表示装置100(表示部)と、虚像表示装置100を制御する制御装置300と、を備えている。制御装置300は、使用者がHMD1を操作するコントローラーとしても機能する。
本実施形態のHMD1は、使用者が、虚像表示装置100によって虚像を視認すると同時に、虚像表示装置100を透過して外景を視認可能な光学透過型の表示装置である。なお、本明細書では、HMD1によって使用者が視認する虚像を便宜的に「表示画像」と呼ぶ。また、画像データに基づいて生成された画像光を虚像表示装置100が射出することを「画像を表示する」ともいう。
虚像表示装置100は、接続ケーブル41で制御装置300に接続される。接続ケーブル41は、制御装置300から虚像表示装置100へ電源を供給する電源ケーブル(図示略)、及び、虚像表示装置100と制御装置300とが各種データを送受信するデータ通信ケーブル(図示略)を内蔵する。
また、制御装置300には、接続ケーブル41と分岐するオーディオケーブル46が接続する。オーディオケーブル46は、右イヤホン32及び左イヤホン34と、マイク63とが接続される。右イヤホン32及び左イヤホン34は、音声処理部190(図9)が出力する音声信号に基づき音声を出力する。
マイク63は、音声を集音して、音声信号を後述する音声処理部190(図9)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
ここで、虚像表示装置100が電池等の電源を有する場合には、虚像表示装置100と制御装置300とを無線通信により接続することも可能である。
まず、虚像表示装置100の構成について説明する。
図1に示すように、虚像表示装置100は、眼鏡のような外観を有するヘッドマウントディスプレイを構成する。虚像表示装置100は、虚像表示装置100を装着した観察者又は使用者に対して虚像による画像光(映像光)を視認させることができるとともに、観察者に外界像(外景)をシースルーで視認又は観察させることができる。虚像表示装置100は、観察者(使用者、ユーザー)の眼前を透視可能に覆う第1及び第2光学部材101a,101bと、両光学部材101a,101bを支持する枠部102と、枠部102の左右両端から後方のつる部分(テンプル)104にかけての部分に付加された第1及び第2像形成本体部105a,105bとを備える。ここで、図面上で左側の第1光学部材101aと第1像形成本体部105aとを組み合わせた第1表示装置100Aは、右眼用の虚像を形成する部分であり、単独でも虚像表示装置として機能する。また、図面上で右側の第2光学部材101bと第2像形成本体部105bとを組み合わせた第2表示装置100Bは、左眼用の虚像を形成する部分であり、単独でも虚像表示装置として機能する。
図2は、虚像表示装置100の内部構造を示しており、図2を図1と比較することで、虚像表示装置100の外観と内部とが対比される。例えば、第1及び第2像形成本体部105a,105bは、鏡筒部39に収納される投射レンズ30や、映像表示素子82を含む画像表示装置80でそれぞれ構成される。
図1から図4までの各図に外観や内部を示すように、虚像表示装置100に設けた枠部102は、上端側に配置されるフレーム107と、フレーム107に沿ってその裏側に配置される樹脂部108とを備える。なお、虚像表示装置100は、下側に枠状の部分のない構成となっている。枠部102を構成するフレーム107は、U字状に折れ曲がった細長い板状の部材であり、観察者にとっての眼の並びに対応する方向である左右の横方向に延びる正面部107aと、観察者にとっての前後に対応する方向である奥行き方向に延びる一対の側面部107b,107cとを備える。両側面部107b,107cは、厳密に平行ではなく、先端に向かって若干広がるように小角を成している。フレーム107、すなわち正面部107aと側面部107b,107cとは、アルミダイカストその他の各種金属材料で形成された金属製の一体部品である。樹脂部108は、フレーム107に沿って配置され、フレーム107と嵌合することでこれと協働して例えば画像形成のための各種ケーブル等を収納可能にしている。フレーム107において、正面部107a及び樹脂部108の奥行き方向の幅は、第1及び第2光学部材101a,101bに対応する導光装置20の厚み又は幅と同程度となっている。フレーム107の左側方、具体的には正面部107aにおける向かって左端部から側面部107bにかけての部分には、第1光学部材101aと第1像形成本体部105aとがアライメントされ例えばネジ止めによって直接固定されることにより、支持されている。また、フレーム107の右側方、具体的には正面部107aにおける向かって右端部から側面部107cにかけての部分には、第2光学部材101bと第2像形成本体部105bとがアライメントされ例えばネジ止めにより直接固定されることによって、支持されている。なお、第1光学部材101aと第1像形成本体部105aとは、嵌合等によって互いにアライメントされ、第2光学部材101bと第2像形成本体部105bとは、嵌合等によって互いにアライメントされる。
枠部102を構成するフレーム107及び樹脂部108は、第1及び第2像形成本体部105a,105bを支持するだけでなく、これらを覆うカバー状の外装部材105dと協働して第1及び第2像形成本体部105a,105bの内部を保護する役割を有する。なお、フレーム107は、第1及び第2像形成本体部105a,105bに連結される第1及び第2光学部材101a,101b又は導光装置20の根元側を除いた上側部分と離間するか又は緩く接している。このため、中央の導光装置20と、フレーム107を含む枠部102との間に熱膨張率の差があっても、枠部102内での導光装置20の膨張が許容され、導光装置20に歪み、変形、破損が生じることを防止できる。
枠部102に付随して、鼻受部40が設けられている。鼻受部40は、観察者の鼻に当接することによって枠部102を支持する役割を有する。つまり、枠部102は、鼻に支持される鼻受部40と耳に支持される一対のテンプル部104とによって、観察者の顔前に配置されることになる。鼻受部40は、枠部102を構成する一方のフレーム107の正面部107aにおいて、ねじ止めによって固定されている。なお、以上のように図1を参照して示す外観は一例である。例えば、ねじ止めによって固定される機構など光学的機構として直接関与しない箇所等の構成は、適宜変更できる。
図2等に示すように、第1表示装置100Aは、投影用の光学系である投射透視装置70(光学系)と、映像光を形成する画像表示装置80(出射部)とを備えると見ることができる。画像表示装置80は、投射透視装置70に映像光を投射する投射部に相当する。また、第2表示装置100Bは、第1表示装置100Aと左右対称に構成される。第2表示装置100Bが備える部材や第2表示装置100B内部における部材の配置は、第1表示装置100Aと同様である。このため、以下では第1表示装置100Aについて説明し、第2表示装置100Bの説明に代える。
投射透視装置70は、画像表示装置80によって形成された画像を虚像として観察者の眼に投射する役割を有する。投射透視装置70は、第1光学部材101a又は導光装置20と、結像用の投射レンズ30とを備える。第1光学部材101a又は導光装置20は、導光及び透視用の導光部材10と、透視用の光透過部材50とで構成されている。なお、第1像形成本体部105aは、画像表示装置80と投射レンズ30とで構成される。また、詳しくは後述するが、複数レンズで構成される投射レンズ30は、鏡筒部39に収納されて、鏡筒部39とともに光学装置部130を構成する。光学装置部130すなわち投射レンズ30は、鏡筒部39の端部39tにおいて、嵌合により導光装置20に対して精度よく位置決めされた状態で固定されている。
画像表示装置80は、透過型の空間光変調装置である映像表示素子(映像素子)82のほか、映像表示素子82へ照明光を射出する照明装置81としてバックライト(図9の右バックライト221、左バックライト222)を備える。また、画像表示装置80は、映像表示素子82等の動作を制御する駆動制御部(図9の右駆動制御部211、左駆動制御部212)を有する。映像表示素子82は、映像素子ケース86に収納されており、映像素子ケース86を介して結像用の投射レンズ30を収納する鏡筒部39に組付けされている。言い換えると、鏡筒部39は、映像表示素子82、投射レンズ30、導光装置20等を連結する連結部材となっている。
導光装置20は、既述のように、導光及び透視用の導光部材10と、透視用の光透過部材50とで構成されているブロック状の部材である。導光部材10は、プリズム型の導光装置20の一部であり、一体の部材であるが、光射出側の第1導光部分11と光入射側の第2導光部分12とに分けて捉えることができる。光透過部材50は、導光部材10の透視機能を補助する部材(補助光学ブロック)であり、導光部材10と一体的に固定され1つの導光装置20となっている。上記のような構成を有する導光装置20のうち、光源又は光入射側(根元側)に位置する先端部12jが鏡筒部39の端部39tに嵌合することで、投射レンズ30に精度よく位置決めされ固定されている。
ここで、例えば図3(A)〜図3(C)や図4等に示すように、導光装置20を構成する光学面のうち、表側(外側)の露出面である第1露出面20aや裏側(内側)の露出面である第2露出面20bは、外部にさらされ、かつ、シースルーの機能に影響する部分である。なお、図示のように、第1露出面20aは、導光部材10の光学面のうち第3面S13と、光透過部材50の光学面である第3透過面S53とで構成され、第2露出面20bは、導光部材10の光学面のうち第3面S11及び第4面S14と、光透過部材50の光学面のうち第1透過面S51とで構成されている。
以下、図5を参照して、第1像形成本体部105a(図1参照)を構成する画像表示装置80と投射レンズ30とについて詳細に説明する。
画像表示装置80は、上述した映像表示素子82の他に、映像表示素子82に対して照明光を射出する照明装置81と、照明装置81及び映像表示素子82の動作を制御する駆動制御部84とを有する。
画像表示装置80の照明装置81は、赤、緑、及び青の3色を含む光を発生する光源や、この光源からの光を拡散させて矩形断面の光束にするバックライト導光部を有する。映像表示素子(映像素子)82は、例えば液晶表示デバイスで形成され、複数の画素で構成されており、照明装置81からの照明光を空間的に変調して動画像等の表示対象となるべき画像光を形成する。なお、図示を省略するが、駆動制御部84は、照明装置81に電力を供給して安定した輝度の照明光を射出させる光源駆動回路や、映像表示素子(映像素子)82に対して画像信号又は駆動信号を出力することにより、透過率パターンとして動画や静止画の元になるカラーの映像光又は画像光を形成する液晶駆動回路で構成される。なお、液晶駆動回路に画像処理機能を持たせることができるが、外付けの制御回路に画像処理機能を持たせることもできる。
投射レンズ30は、構成要素として、入射側光軸に沿って3つの光学素子であるレンズ31〜33を備える投射光学系であり、これらのレンズ(光学素子)31〜33を収納する鏡筒部39によって支持されている。レンズ31〜33は、非軸対称な非球面(非軸対称非球面)と軸対称な非球面(軸対称非球面)との双方を含む非球面レンズであり、リレー光学系である導光部材10の一部と協働して導光部材10の内部に映像表示素子82の表示像に対応する中間像を形成する。なお、各レンズ(光学素子)31〜33のうち、第1レンズ31の光の射出面であるレンズ面31aは、非軸対称非球面となっており、レンズ面31a以外のレンズ面については、軸対称非球面となっている。
以下、導光装置20等について詳細に説明する。上述のように、導光装置20は、導光部材10と光透過部材50とで構成されている。このうち、導光部材10は、平面視において、鼻に近い中央側(眼前側)の部分が直線状に延びている。導光部材10のうち、鼻に近い中央側つまり光射出側に配置されている第1導光部分11は、光学的な機能を有する面として、第1面S11と、第2面S12と、第3面S13とを有し、鼻から離れた周辺側つまり光入射側に配置されている第2導光部分12は、光学的な機能を有する面として、第4面S14と、第5面S15とを有する。このうち、第1面S11と第4面S14とが連続的に隣接し、第3面S13と第5面S15とが連続的に隣接する。また、第1面S11と第3面S13との間に第2面S12が配置され、第4面S14と第5面S15とは大きな角度を成して隣接している。さらに、ここでは、対向した配置となっている第1面S11と第3面S13とが互いに略平行な平面となっている。一方、光学的な機能を有する他の面、すなわち第2面S12、第4面S14及び第5面S15は、非軸対称な曲面(自由曲面)となっている。
ここで、導光部材10を構成する複数の面のうち、第1面S11から第3面S13までの面以外の面S14,S15については、少なくとも1つの自由曲面について、方向によって曲率の符号が異なっている点を少なくとも1つ含むものとなっている。これにより、映像光の導光を精密に制御しつつ、導光部材10の小型化を可能にしている。
なお、導光装置20において、導光部材10は、光透過部材50と接着層CCを介して接合されており、導光部材10及び光透過部材50の接合面と、接着層CCとで構成される部分を、接合部CNとする。なお、導光装置20は、導光部材10及び光透過部材50となるべき基材が接合部CNで接合された上で、接合された基材をディップ処理によってコーティングされることで形成されている。つまり、導光部材10のハードコート層27は、光透過部材50とともに導光装置20全体に設けられている。
導光部材10のうち本体10sは、可視域で高い光透過性を示す樹脂材料で形成されており、例えば金型内に熱可塑性樹脂を注入・固化させることにより成形する。なお、本体10sの材料としては、例えばシクロオレフィンポリマー等を用いることができる。本体10sは、一体形成品とされているが、導光部材10は、既に説明したように機能的に第1導光部分11と第2導光部分12とに分けて考えることができる。第1導光部分11は、映像光GLの導波及び射出を可能にするとともに、外界光HLの透視を可能にする。第2導光部分12は、映像光GLの入射及び導波を可能にする。
第1導光部分11において、第1面S11は、映像光GLを第1導光部分11外に射出させる屈折面として機能するとともに、映像光GLを内面側で全反射させる全反射面として機能する光学面である。第1面S11は、眼EYの正面に配されるものであり、既述のように、平面形状を成している。なお、第1面S11は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2面S12は、本体10sの表面であり、当該表面にハーフミラー層15が付随している光学面であって非軸対称非球面である。このハーフミラー層15は、光透過性を有する反射膜(すなわち半透過反射膜)である。ハーフミラー層(半透過反射膜)15は、第2面S12の全体ではなく、第2面S12を主にY軸に沿った鉛直方向に関して狭めた部分領域(図示省略)上に形成されている。ハーフミラー層15は、本体10sの下地面のうち部分領域PA上に、金属反射膜や誘電体多層膜を成膜することにより形成される。ハーフミラー層15の映像光GLに対する反射率は、シースルーによる外界光HLの観察を容易にする観点で、想定される映像光GLの入射角範囲において10%以上50%以下とする。具体的な実施例のハーフミラー層15の映像光GLに対する反射率は、例えば20%に設定され、映像光GLに対する透過率は、例えば80%に設定される。
第3面S13は、映像光GLを内面側で全反射させる全反射面として機能する光学面である。第3面S13は、眼EYの略正面に配されるものであり、第1面S11と同様に、平面形状を成しており、かつ、第1面S11と第3面S13とが互いに平行な面であることにより、第1面S11と第3面S13とを通過させて外界光HLを見たときに、視度が0になっており、特に、変倍も生じさせないものとなっている。なお、第3面S13は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2導光部分12において、第4面S14は、映像光GLを内面側で全反射させる全反射面として機能する光学面であって非軸対称非球面である。第4面S14は、映像光GLを第2導光部分12内に入射させる屈折面面としても機能する。すなわち、第4面S14は、外部から導光部材10に映像光GLを入射させる光入射面と、導光部材10の内部において映像光GLを伝搬させる反射面としての機能を兼用している。なお、第4面(光入射面)S14は、本体10sの表面に施されたハードコート層27によって形成される面である。
第2導光部分12において、第5面S15は、本体10sの表面上に無機材料で形成される光反射膜RMを成膜することで形成される光学面である。第5面S15は、反射面として機能する非軸対称非球面である。
光透過部材50は、既述のように導光部材10と一体的に固定され1つの導光装置20となっており、導光部材10の透視機能を補助する部材(補助光学ブロック)である。光透過部材50は、光学的な機能を有する側面として、第1透過面S51と、第2透過面S52と、第3透過面S53とを有する。ここで、第1透過面S51と第3透過面S53との間に第2透過面S52が配置されている。第1透過面S51は、導光部材10の第1面S11を延長した面上にあり、第2透過面S52は、当該第2面S12に対して接着層CCによって接合され一体化されている曲面であり、第3透過面S53は、導光部材10の第3面S13を延長した面上にある。このうち第2透過面S52と導光部材10の第2面S12とは、薄い接着層CCを介しての接合によって一体化されるため、略同じ曲率の形状を有する。
光透過部材(補助光学ブロック)50は、可視域で高い光透過性を示し、光透過部材50の本体部分は、導光部材10の本体10sと略同一の屈折率を有する熱可塑性樹脂材料で形成されている。なお、光透過部材50は、導光部材10と同様、本体部分の表面にハードコート層27が施されたものとなっている。つまり、第1透過面S51と第3透過面S53とは、本体部分の表面に施されたハードコート層27によって形成される面である。
本実施形態では、導光部材10の内部において、映像表示素子82からの映像光を、非軸対称非球面である第2面S12等を含む第1面S11から第5面S15までにおける5回の反射によって導光している。また、全体として眼前を覆う導光装置20が第3面S13や第3透過面S53を第1露出面20aとして含み、かつ、これらに平行な第1面S11や第1透過面S51を第2露出面20bとして含み、第2面S12に沿ってハーフミラー層15を内蔵する。この結果、映像光GLの表示と外界光HLの視認させるシースルーとを両立させ、かつ、導光部材10において映像光GLの収差の補正を行うことが可能になる。
以下、図5を参照して、虚像表示装置100における映像光GL等の光路について具体的に説明する。映像表示素子(映像素子)82から射出された映像光GLは、投射レンズ30を構成する各レンズ31〜33を通過することによって、収束されつつ、所期の非点収差が与えられ導光部材10に設けた正の屈折力を有する第4面S14に入射する。なお、この非点収差は、導光部材10の各面を経る間に相殺されるものとなっており、最終的に初期の表示に対応する状態で観察者の眼に向けて映像光が射出される。
ここで、投射レンズ30を含む光学装置部130の導光部材10に対する配置について説明する。光学装置部130又は投射レンズ30側の第1基準光軸AX1は、導光部材10の光射出側の第2基準光軸AX2に対して5〜45°傾斜している。ここで、第2基準光軸AX2は、観察者の顔の正面方向に対応するZ方向に延びる視線基準軸に相当するものである。見方を変えれば、図6に示すように、投射レンズ30側の第1基準光軸AX1は、眼EYの並び方向に対応するX方向に平行な横基準軸AX3に対して鈍角αをなしている。この場合、横基準軸AX3は、第2基準光軸(視線基準軸)AX2と直交し、第1基準光軸AX1と第4面S14との交点を通るものとする。このような前提の下で、第1基準光軸AX1と横基準軸AX3とが成す鈍角αは、95°〜135°となっている。これにより、投射レンズ30を含む第1像形成本体部105aと、導光部材10を含む導光装置20とを顔面から側頭部に沿って配置する際のフィット性を高めることができ、結果的に装置の薄型化や軽量化も容易になる。なお、第1基準光軸AX1と横基準軸AX3とが成す鈍角αを95°以上とすることにより、投射レンズ30と導光部材10との接続部が角張って顔面から突起することを防止できる。一方、両軸AX1,AX3の成す鈍角αを135°以下とすることにより、投射レンズ30の先端や映像表示素子82に対応する部分が顔面の側方又は横方向にはみ出すことを抑制できる。なお、映像表示素子82に対応する部分等が顔面から突起することをより確実に防止する観点からは、両軸AX1,AX3の成す鈍角αを105°以下とする。つまり、第1基準光軸AX1と横基準軸AX3とが成す鈍角αを95°〜105°とすることがより好ましい。
なお、第1基準光軸AX1及び横基準軸AX3は、図6の紙面に対応しXZ平面に沿って延びる基準平面HM上にある。基準平面HMは、光学設計上の基準面であるが、図3(C)に示すように、前方に向けて若干下向きとなっている。これは、観察者にとって眼EYを若干下向きとすることが自然であり、下向きの視線の方が眼EYへの負担が少ないことを考慮したものである。
横基準軸AX3に対して、導光部材10は、基準平面HMに垂直なY軸のまわりの回転角に関して若干外向きに傾いている。具体的には、導光部材10の第1面S11又は第3面S13は、横基準軸AX3に対して傾斜角βを成す。この結果、図3(A)等に示すように、第1及び第2光学部材101a,101bは、先端側又は両者に挟まれた中央側で外向きに若干突出したような配置となっている。これにより、第1及び第2光学部材101a,101bを顔面に沿って配置する際のフィット性を高めることができる。
図5に戻って、映像光GLの光路について説明すると、導光部材10の第4面S14に入射してこれを通過した映像光GLは、収束しつつ進み、第2導光部分12を経由する際に、比較的弱い正の屈折力を有する第5面S15で反射され、第4面S14に内側から再度入射して反射される。
第2導光部分12の第4面S14で反射された映像光GLは、第1導光部分11において、実質的に屈折力を有しない第3面S13に入射して全反射され、実質的に屈折力を有しない第1面S11に入射して全反射される。映像光GLは、第3面S13を通過する前後において、リレー光学系である導光部材10中に中間像を形成する。この中間像の像面IIは、映像表示素子82の像面OIに対応するものである。
第1面S11で全反射された映像光GLは、第2面S12に入射するが、特にハーフミラー層15に入射した映像光GLは、このハーフミラー層15を部分的に透過しつつも部分的に反射されて第1面S11に再度入射して通過する。なお、ハーフミラー層15は、ここで反射される映像光GLに対して比較的強い正の屈折力を有するものとして作用する。また、第1面S11は、これを通過する映像光GLに対して屈折力を有しないものとして作用する。
第1面S11を通過した映像光GLは、観察者の眼EYの瞳又はその等価位置に略平行光束として入射する。つまり、観察者は、虚像としての映像光GLにより、映像表示素子(映像素子)82上に形成された画像を観察することになる。
一方、外界光HLのうち、導光部材10の第2面S12よりも+X側に入射するものは、第1導光部分11の第3面S13と第1面S11とを通過するが、この際、第3面S13と第1面S11とが互いに略平行な平面(つまり、互いに略平行な平面状の光学面)となっていることで、収差等をほとんど生じない。つまり、観察者は、導光部材10越しに歪みのない外界像を観察することになる。同様に、外界光HLのうち、導光部材10の第2面S12よりも−X側に入射するもの、つまり、光透過部材50に入射したものは、これに設けた第3透過面S53と第1透過面S51とを通過する際に、第3透過面S53と第1透過面S51とが互いに略平行な平面となっていることで、収差等を生じない。つまり、観察者は、光透過部材50越しに歪みのない外界像を観察することになる。さらに、外界光HLのうち、導光部材10の第2面S12に対応する光透過部材50に入射するものは、第3透過面S53と第1面S11とを通過する際に、第3透過面S53と第1面S11とが互いに略平行な平面となっていることで、収差等をほとんど生じない。つまり、観察者は、光透過部材50越しに歪みの少ない外界像を観察することになる。なお、導光部材10の第2面S12と光透過部材50の第2透過面S52とは、略同一の曲面形状をともに有し、略同一の屈折率をともに有し、両者の隙間が略同一の屈折率の接着層CCで充填されている。つまり、導光部材10の第2面S12や光透過部材50の第2透過面S52は、外界光HLに対して屈折面として作用しない。
ただし、ハーフミラー層15に入射した外界光HLは、このハーフミラー層15を部分的に透過しつつも部分的に反射されるので、ハーフミラー層15に対応する方向からの外界光HLは、ハーフミラー層15の透過率に弱められる。その一方で、ハーフミラー層15に対応する方向からは、映像光GLが入射するので、観察者は、ハーフミラー層15の方向に映像表示素子(映像素子)82上に形成された画像とともに外界像を観察することになる。
導光部材10内で伝搬されて第2面S12に入射した映像光GLのうち、ハーフミラー層15で反射されなかったものは、光透過部材50内に入射するが、光透過部材50に設けた不図示の反射防止部によって導光部材10に戻ることが防止される。つまり、第2面S12を通過した映像光GLが光路上に戻されて迷光となることが防止される。また、光透過部材50側から入射してハーフミラー層15で反射された外界光HLは、光透過部材50に戻されるが、光透過部材50に反射防止部を設けることによって導光部材10に射出されることが防止される。つまり、ハーフミラー層15で反射された外界光HLが光路上に戻されて迷光となることが防止される。
また、映像表示素子82の周囲には右光学系駆動部85(変更部)が配置される。右光学系駆動部85は、例えばアクチュエーター(図示略)を備え、映像表示素子82及び投射レンズ30を含む光学装置部130を揺動させる。これにより、導光部材10に対する光学装置部130の角度が、図中矢印SA1、SA2方向に変化する。光学装置部130がSA1方向に傾くと、投射レンズ30から導光部材10に入射する映像光GLの角度が変化する。すなわち、第1基準光軸AX1がSA1側に傾くことにより、導光部材10の内部における映像光GLの反射角の変化により、眼EYに入射する映像光GLは、図中矢印SA2方向に移動する。図5の第1表示装置100Aは使用者の右眼に対応し、映像光GLがSA2方向に移動することにより、使用者には映像光GLが右側に移動して見える。
これに対し、右光学系駆動部85がSB1方向に光学装置部130を揺動させると、映像光GLの第1基準光軸AX1の導光部材10に対する角度がSB1側に変化する。これにより、導光部材10における映像光GLの反射角が変化して、眼EYに入射する映像光GLの光軸(第2基準光軸AX2)は矢印SB2側に変化する。このため、使用者の右眼には、映像光GLが左側に移動して見える。
このように、第1表示装置100Aでは、右光学系駆動部85が光学装置部130を動かすことで、使用者の右側の眼EYに入射する映像光GLを左右方向に動かすことができる。
また、第2表示装置100Bには光学装置部130を動かす左光学系駆動部87(図9)が設けられる。左光学系駆動部87(変更部)は、上述した右光学系駆動部85と同様に、アクチュエーター(図示略)等を動力源として備え、光学装置部130を揺動させることにより、導光部材10に対する映像光GLの傾きを変化させる。この左光学系駆動部87の動作により、使用者の左眼に入射する映像光GLの傾きを変化させ、映像光GLを左右方向に動かすことができる。
図7は、観察者の視認距離と輻輳角を示す説明図であり、図7(A)と図7(B)とは異なる視認距離を対比して示す。また、図7(C)は輻輳角β、瞳孔間距離PD、及び視認距離dの関係を示す図である。図8は輻輳角βと表示距離との関係について説明する図表である。
図7(A)と図7(B)とを比較すると、図7(A)の例は相対的に両眼EYa,EYbの近く(距離d1)に物体OBを置いて視認させる状態を示し、図7(B)は相対的に両眼EYa,EYbから遠く(距離d2;d2>d1)に物体OBを置いて視認させる状態を示す。図7(A)のように近い位置の物体OBを視認する場合、両眼EYa,EYbは内側に寄るため、左右の眼EYa,EYbの視線がなす角である輻輳角βの値は大きくなる。これに対し、図7(B)に示すように、相対的に両眼EYa,EYbから遠くに物体OBを置いて視認させると、輻輳角βの値は小さくなる。
本実施形態の虚像表示装置100のように両眼視で画像を視認させる場合、表示対象と左右の眼のなす角である輻輳角が、映像光の距離感の把握に関して、重要な役割を持つ。観察者は、表示される画像に左右の視差による影響で輻輳角βが定まり、輻輳角βが大きくなれば画像が近くにあると感じ、輻輳角βが小さくなれば画像が遠くにあると感じる。例えば、図7(C)に示すように、観察者の瞳孔間距離PD(右眼と左眼の間の距離)を65mmと想定すると、画像の中心の1点すなわち主光線の方向の先にある1点として視認される虚像の中心点CEに関する輻輳角βと映像光による虚像の想定位置から眼EYa,EYbの位置(眼想定位置EY)までの距離である表示距離dとの関係は、図8に示すようなグラフで表される。すなわち、図8において、横軸は、表示距離d(m)を示し、縦軸は輻輳角β(°)を示す。この場合、例えば、輻輳角βの値が1.0°であれば、表示距離dは、略4m(又は約4m)となり、輻輳角βの値が5.0°であれば、表示距離dは、数十cm程度となる。
観察者の距離感を定める輻輳角βは、上記のように、透過型表示装置100において設定される視差(輻輳角β)によって定まる。虚像表示装置100が画像を表示する場合の主光線のなす角、この画像を視認する観察者の眼の輻輳角に相当する。つまり、画像の表示位置を調整することで、観察者が画像を視認する場合の輻輳角に影響を与えることができる。このため、観察者が実物体を見る場合の輻輳角に合わせて、画像の表示位置等を調整することにより、実物体と同じ視認距離を感じさせることができる。
例えば、輻輳角βが1.0°〜5.0°の範囲内のいずれかの値になる状態に適した表示を行えば、観察者PEが近くの実物体(対象物)OBを視認する場合に好適である。この例では、観察者PEが手元に対象物OBを手に持った状態で、透過型表示装置100からの映像光により想定表示位置にあるものとして視認される画像である虚像IMを、対象物OBとほぼ同じ位置で時折見ながら作業を行える。つまり、近い位置にある対象物OBと同じように見える画像を表示できる。また、観察者PEから離れた位置にある対象物OB観察者が見ながら画像を視認する場合、輻輳角βの値が5.0°より大きくなるよう調整するなど、多彩な表示が可能となる。つまり、多種多様である作業現場での使用態様のうちの多くの場合において、上記範囲のいずれかに視差すなわち輻輳角βの値を使用態様に合わせて適宜設定することで、適切な距離感の拡張現実感(AR)の世界を観察者に体験させることが可能となる。
また、例えば、映画鑑賞といった比較的遠くにある画像を眺める状態の映像光を視認させることを想定した場合、表示距離を遠くにするような使用態様(例えばd=25m程度)で表示することができる。この場合、輻輳角β値は、例えば0.15°程度となる)とすることが考えられる。このような態様の場合、リラックスした状態で映像を眺めるという使用には適するといえる。
そして、本実施形態では、上記のように左右一対の表示装置100A,100Bを傾けて配置した光学的構造を有することにより左右の映像光について主光線を傾けて左右の画像に視差を設けている。これにより、視差の設定角度に応じて、例えば図5(A)等に示すように虚像IMを観察者の手元にある実物体MAとほぼ同じ位置とすることができる。さらには、同じ位置に重なるように視認させることも可能であり、拡張現実(AR)への対応ができる。また、この場合において、視差に応じて主光線PRa,PRbを傾けていることで観察者の眼の輻輳角の状態が無理なく自然に目的とする表示位置に合うものとなる。さらに、左右一対の表示装置100A,100Bにおいて、焦点距離を調整し、視認される虚像IMの画像表示位置を、視差を示す角θの値に対応する表示距離dに合わせていることで、輻輳角と調節とが合致していないいわゆる輻輳角と調節の矛盾の問題も回避又は抑制される。
また、図8に示すように、観察者の視認距離が長くなるほど輻輳角βが0に近づき、例えば視認距離が15mの場合の輻輳角は0.3°である。つまり、輻輳角βが0.3°以下の場合に、視認距離は15m以上に感じられる。この場合、観察者は、それ以上の視認距離の変化を感じにくいため、輻輳角βが0.3°以下の場合は、輻輳角はほぼゼロであると見なしてよい。本実施形態では、制御部140は、虚像表示装置100によって画像を左右の視差を有さない態様で観察者の右眼及び左眼のそれぞれに対応して表示することができるが、この場合の輻輳角はほぼゼロとされる。具体的には、0.3°以下であり、0.3°以下0.0°以上と言うこともできる。
図1及び図3(B)に示すように、虚像表示装置100は、使用者(観察者)の視線方向を撮像する外カメラ35、36(第2撮像部、外部撮像部)を備える。外カメラ35は、虚像表示装置100の右側すなわち第1表示装置100A側の端部に位置する第1像形成本体部105aに埋込設置され、外装部材105dにおいて露出する。また、外カメラ36は、虚像表示装置100の左側すなわち第2表示装置100B側の端部に位置する第2像形成本体部105bに埋込設置され、外装部材105dにおいて露出する。
外カメラ35、36は虚像表示装置100の表側(外側)の露出面に配置され、使用者の顔の略正面方向を向いており、使用者が導光部材10を透過して視認する外景を撮像する。外カメラ35、36の撮像範囲すなわち画角は、虚像表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮影できればよい。また、外カメラ35、36の画角が、導光部材10を透過して使用者に見える視界の全体を撮影できるように設定されていると、より好ましい。別の言い方をすれば、外カメラ35、36の撮像範囲すなわち画角は、使用者の視線方向を含む方向であることが好ましい。
外カメラ35、36は、制御装置300が内蔵する制御部140(図9)に接続され、制御部140の制御に従って撮像を実行し、撮像画像データを出力する。外カメラ35と外カメラ36とは、枠部102において左右に離れて配置されるため、外カメラ35の撮像画像と外カメラ36の撮像画像との間には視差が生じる。従って、外カメラ35、36をステレオカメラとして使用し、外カメラ35の撮像画像と外カメラ36の撮像画像とに基づき、奥行き方向における情報を取得することができる。
虚像表示装置100は、図4に示すように、使用者の眼を向く側、すなわち裏側(内側)の露出面に、4つの内カメラ、37a、37b、38a、38b(第1撮像部)を備える。内カメラ37a、37bは使用者の右眼に対応して第1表示装置100Aに設けられ、内カメラ38a、38bは使用者の左眼に対応して第2表示装置100Bに設けられる。内カメラ37a、38aは鼻受部40の近傍に配置され、内カメラ37b、38bは枠部102の端部に配置される。
内カメラ37aは使用者の右眼を左側上方から撮像し、内カメラ37bは使用者の右眼を右側上方から撮像する。また、内カメラ38aは使用者の左眼を右側上方から撮像し、内カメラ38bは使用者の左眼を左側上方から撮像する。
内カメラ37a、37b、38a、38bは、それぞれ、後述する制御装置300の制御部140(図9)に接続され、制御部140の制御に従って撮像を実行し、撮像画像データを出力する。内カメラ37a、37b、38a、38bは使用者の眼球を撮像するので、この撮像画像を用いて、眼球運動の検出及び計測を行い、使用者の視線方向、及び輻輳角を求めることができる。
眼球を撮像することにより眼球運動を検出し、視線方向を計測する技術は、例えば、撮像画像から眼球に反射する反射像を検出して視線方向を計測する方法がある。また、例えば、撮像画像から眼球の瞳孔中心を検出して注視方向を求める方法がある。また、虚像表示装置100の裏側の露出面に、眼球に対して赤外光を照射する発光素子(図示略)を設け、眼球表面における反射光を内カメラ37a、37b、38a、38bで検出し、注視方向を求める方法もある。
本実施形態では一例として、制御部140が、内カメラ37a、37b、38a、38bの撮像画像から使用者の右眼および左眼のそれぞれについて、下記(1)〜(3)の処理を実行する。
(1)瞳孔中心を検出して瞳孔間距離を求める処理。
(2)瞳孔に現れる虹彩の模様を検出して瞳孔径を求める処理。
(3)瞳孔中心を検出して注視方向を求める処理。
続いて、制御装置300の構成について説明する。
制御装置300は、HMD1を制御するための装置である。制御装置300は、図1に示すように、略箱形の筐体に、HMD1の電源をオン/オフする電源スイッチ301と、使用者が操作するトラックパッド302及びキースイッチ部303とを備える。また、制御装置300は、HMD1の動作状態を示すLED(Light Emitting Diode)インジケーター304、右イヤホン32、左イヤホン34から出力する音量の調整等を行うための上下キー305を備える。
電源スイッチ301はスライド式のスイッチであり、電源スイッチ301の操作により制御装置300の電源だけでなく虚像表示装置100の電源がオン/オフされる。
トラックパッド302は、トラックパッド302の操作面上での使用者の接触操作を検出して、検出した操作位置を示す操作データを出力する。トラックパッド302としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。また、複数の点におけるタッチ操作を同時に検出可能なマルチタッチ方式を採用してもよい。
図9は、HMD1を構成する各部の機能ブロック図である。
図9に示すように、HMD1は、インターフェイス114を介して外部機器OAに接続される。インターフェイス114は、制御装置300に対して、コンテンツの供給元となる種々の外部機器OAを接続する。インターフェイス114としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができる。
外部機器OAは、HMD1に画像を供給する画像供給装置として用いられ、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等が用いられる。
制御装置300は、制御部140と、操作部135と、入力情報取得部110と、記憶部120と、送信部(Tx)51及び送信部(Tx)52とを有している。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した電源スイッチ301、トラックパッド302、キースイッチ部303、及び上下キー305を含む。入力情報取得部110は、使用者による操作入力に対応して操作部135が出力する操作信号あるいは操作データを取得する。
記憶部120は、不揮発性の記憶装置であって、種々のコンピュータープログラムを格納している。また、記憶部120には、HMD1の虚像表示装置100に表示する画像データが格納されていても良い。また、制御部140が、記憶部120に記憶されるプログラムを実行することにより、虚像表示装置100が表示する表示データを生成してもよい。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、3軸センサー113の検出値を制御部140が取得可能である。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置300の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置300の制御部140が計時する時刻を修正させる機能を備えてもよい。
通信部117は、無線LAN(WiFi(登録商標))や、Miracast(登録商標)等の無線通信の規格に準じた無線データ通信を実行する。また、通信部117は、Bluetooth(登録商標)や、Bluetooth Low Energy、RFID、Felica(登録商標)等の近距離無線通信の規格に準じた無線データ通信を実行することも可能である。
外部機器OAが、通信部117に無線接続された場合、制御部140は、コンテンツデータを通信部117より取得して、虚像表示装置100に画像を表示するための制御を行う。一方、外部機器OAが、インターフェイス114に有線接続された場合には、制御部140は、コンテンツデータをインターフェイス114より取得して、虚像表示装置100に画像を表示するための制御を行う。よって、通信部117及びインターフェイス114を、以下総称してデータ取得部DAと呼ぶ。
データ取得部DAは、外部機器OAからコンテンツデータを取得する。データ取得部DAは、HMD1が表示する画像のデータを、外部機器OAから取得する。
制御部140は、CPU、ROM、RAM(いずれも図示略)等を備える。制御部140は、記憶部120またはROMに記憶したプログラムを読み出して実行することにより、HMD1の各部を制御する。また、制御部140は、上記プログラムを実行して、オペレーティングシステム(OS)150、画像処理部160、表示制御部170、撮像制御部181、眼画像解析部182、外画像解析部183、変更制御部184、駆動制御部185、及び音声処理部190として機能する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、コンテンツに含まれる画像を表示するための垂直同期信号VSync、水平同期信号HSync等の同期信号、クロック信号PCLK、及びディジタル画像データ(図中、Data)を送信部51により送信する。また、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理や、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。送信部51、52は、制御装置300と虚像表示装置100との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部170は、虚像表示装置100が備える画像表示装置80に対して制御信号を送信する。表示制御部170は、画像表示装置80が備える右バックライト221、左バックライト222の点灯を制御する右バックライト制御部201及び左バックライト制御部202に対して制御信号を送信する。また、表示制御部170は、映像表示素子82を駆動する右駆動制御部211及び左駆動制御部212に対し制御信号を送信する。
右バックライト制御部201及び左バックライト制御部202は、表示制御部170から受信する制御信号に従って、右バックライト221及び左バックライト222のそれぞれに対し、点灯、消灯の制御および発光輝度の制御を行う。右バックライト221及び左バックライト222は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体であり、レーザー光源やランプを用いて構成してもよい。
また、右駆動制御部211及び左駆動制御部212は、それぞれ、表示制御部170から受信する制御信号に従って、映像表示素子82の駆動のオン/オフを切り替える。従って、表示制御部170の制御により、第1表示装置100A、第2表示装置100Bにおけるバックライトの点灯/消灯や、映像表示素子82による画像の表示が制御される。
音声処理部190は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、オーディオケーブル46により右イヤホン32及び左イヤホン34に出力する。
また、音声処理部190は、マイク63により集音された音声をディジタルデータに変換する。音声処理部190は、ディジタル音声データから特徴を抽出してモデル化することにより、例えば話者認識処理や音声認識処理を実行する。話者認識処理では、マイク63が集音する音声から人間の声を検出し、検出した人間の声を人毎に識別して、声ごとに話している人間を特定する。また、音声認識処理では、例えば、マイク63が集音した音声をテキストに変換するテキスト変換を行う。
虚像表示装置100は、上述したように、第1表示装置100A及び第2表示装置100Bのそれぞれに、投射透視装置70、画像表示装置80を備え、画像表示装置80がインターフェイス25を介して制御部140に接続される。
また、虚像表示装置100が備える外カメラ35、36、内カメラ37a、37b、38a、38b、右光学系駆動部85、及び左光学系駆動部87は、インターフェイス25を介して制御部140に接続される。
インターフェイス25は、接続ケーブル41、及び、接続ケーブル41を接続するコネクター等で構成され、接続ケーブル41に代えて無線通信回線により構成してもよい。インターフェイス25は、送信部51により送信されるクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、画像データDataを、対応する受信部(Rx)53、54に出力する。また、インターフェイス25は、表示制御部170が送信する制御信号を、受信部53、54、及び画像表示装置80に出力する。
また、インターフェイス25は、制御部140が外カメラ35、36、内カメラ37a、37b、38a、38bを制御する制御信号、及び、これらカメラの撮像画像データを送受信する。
また、図示はしないが、虚像表示装置100は、振動センサーや動きセンサー(モーションセンサー)を備えてもよい。振動センサー(図示略)は、例えば、加速度センサーを利用して構成され、使用者が枠部102を叩く操作(ノック操作)を行った場合に、この操作による振動を検出する。また、動きセンサーとしては、加速度センサー、角速度センサー、地磁気センサー等を用いることができる。例えば、加速度センサー(3軸)、角速度センサー(3軸)及び地磁気センサー(3軸)として機能する9軸センサーを実装してもよい。この場合、虚像表示装置100の動き、すなわち虚像表示装置100を装着した使用者の頭の動きや方向を、制御部140で検出できる。これら振動センサー及び動きセンサーは、インターフェイス25を介して制御装置300に接続される。
受信部53、54は、制御装置300と虚像表示装置100との間におけるシリアル伝送のためのレシーバーとして機能する。
HMD1は、虚像表示装置100を装着する使用者の視線方向(注視方向)に対応して、虚像表示装置100で表示する画像の表示態様を調整する機能を具備する。
図10及び図11は画像の表示態様の調整方法を示す説明図であり、これら図10及び図11を参照して、画像の表示態様の調整に関して説明する。
図10(A)は使用者の注視距離と輻輳角を示す模式図である。
使用者が導光部材10を透過して外景すなわち実空間に位置する対象物OBを視認する場合、対象物OBと眼EYとの距離(注視距離)により、左右の眼の輻輳角CAが変化する。図10(A)の左の例は対象物OBが遠方にある状態を示し、同図右側の例は、対象物OBがより近い位置にある状態を示す。
人間の眼球運動として、両眼で一つの対象物OBを注視する場合に、視線が両眼の中央寄りに移動する、いわゆる眼球輻輳運動が知られている。図に示すように、使用者の右眼(図中、EY(R))と左眼(図中、EY(L))の視線(図中一点鎖線)が対象物OBで交差すると考えると、その交差する角度CAが輻輳角に相当する。輻輳角CAは、注視する対象が遠いほど小さく、近いほど大きくなる。言い換えれば、対象物OBが近いほど、使用者の両眼の視線は中央よりになる。
使用者の右眼EYの視線が導光部材10と交わる位置を位置10aとし、左眼EYの視線が導光部材10と交わる位置を位置10bとする。位置10a−位置10b間の距離は、上述した輻輳角CAの大きさと同様、眼EYから対象物OBまでの距離により変化する。つまり、位置10a−位置10b間の距離は輻輳角CAと相関を有し、具体的には、輻輳角CAが大きいほど位置10a−位置10b間の距離が小さく、輻輳角CAが小さいほど位置10a−位置10b間の距離が大きい。
さらに、位置10a−位置10b間の距離は、使用者の両眼の瞳孔間距離に影響される。瞳孔間距離は、内カメラ37a、37b、38a、38bの撮像画像に基づいて求めることができる。
HMD1は、使用者が導光部材10を透過して外景を視認する場合に、外景と重なって視認される画像を表示する。この表示の一態様として、実空間である外景に関する情報を提供する、いわゆるAR(Augmented Reality)効果を奏する画像(以下、AR画像という)を表示することができる。AR画像は、実空間に存在する対象物に関する情報を、対象物と重なって、或いは対象物と並ぶように表示される。AR画像を見ることで、使用者は、対象物と、対象物に関する各種の情報とを同時に見ることができる。AR画像の表示は、使用者にとって対象物が見える位置に合わせて表示することが特徴である。
AR表示を行う場合、使用者の視線は、実空間に存在する対象物OBを注視する。
AR表示を行う場合、HMD1は、AR画像を外景に調和させるために、AR画像またはAR画像に含まれる表示オブジェクト(画像、図形、文字等)の表示サイズ、表示色等を調整できる。また、対象物OBに重なって表示される表示オブジェクトを、対象物OBの前に重なるように表示する表示態様と、対象物OBの後ろに重なって視認されるように表示する表示態様とを切り替えてもよい。また、AR画像に画像処理を施して、表示オブジェクトに影が付いたように視認される表示態様で表示してもよい。
また、使用者が導光部材10を透過して外景を視認する場合にHMD1が表示する別の態様として、使用者が注視する対象物に関する情報に限らず、様々な画像や文字等を含む画像を表示することがある。この場合、使用者にとって対象物が視認される位置に合わせる処理は行われないか、或いは、対象物の視認を妨げないように、使用者の視界の端等に画像を表示する。この種の表示は、例えば、使用者が文書の内容を見ながら、外景を視認するような場合に行われる。この表示を行う場合も、使用者の視線は、実空間に存在する対象物OBを注視し、HMD1の表示画像を見る場合に、視線が対象物OBから離れて表示画像が注視される。
上記のいずれの例においても、使用者は、実空間の対象物OBを見て、必要に応じてHMD1の表示画像を見る。使用者が対象物OBを注視するときの視線は導光部材10において位置10a、10bを通る。HMD1が虚像表示装置100により画像を表示する位置が、位置10a、10bに合わせた位置であれば、使用者は、対象物OBを見るときとHMD1の表示画像を見るときとで、視線を大きく動かす必要がない。
そこで、HMD1は、使用者が視線を大きく動かさずに表示画像を見ることができるように、使用者が注視する外景の対象物OBまでの距離(注視距離)に応じて、表示態様を制御する。本実施形態では表示態様の制御の一例として、使用者が表示画像を見る(視認する)位置、すなわち表示位置を制御する場合を説明する。
図10(B)は使用者の両眼の視野を模式的に示す図である。図の左には、左の眼EYの視野VR(L)を示し、図の右には、右の眼EYの視野VR(R)を示す。
使用者の視野VR(L)及び視野VR(R)には、画像表示装置80が生成し投射透視装置70により投射する表示画像PL、PRがある。投射透視装置70は映像光GLを眼EYに入射させることで虚像を使用者に知覚(視認)させるものであるから、眼EYの前に表示画像PL、PRを表示する物理的な表示面はない。しかしながら、使用者にとっては、映像光GLにより、視野VR(L)、VR(R)の一部を占める画像を視認するので、ここでは模式的に映像光GLが表示画像PL、PRを形成するものとして説明する。
表示画像PL、PRは虚像表示装置100が画像を表示可能な最大の領域であって、表示可能領域ということができる。図中の画像P1は、虚像表示装置100が表示可能範囲である表示画像PL、PRに、実際に表示する画像である。図10(B)の例では使用者の両眼に同じ画像P1を視認させる。
視野VR(L)における画像P1が位置10bに近く、視野VR(R)における画像P1が位置10aに近いと、使用者は、対象物OBと画像P1とを、視線を大きく動かすことなく視認できる。この場合、使用者の視線の奥行き方向(遠近方向)における動きが小さいため、使用者には、遠近方向の焦点調節に係る眼の負担がかかりにくい。従って、実空間の対象物OBと、虚像表示装置100の表示画像とを、例えば交互に見る場合に、使用者の視力に対する負荷を、効果的に軽減できる。
以下、HMD1が実行する表示制御について具体的に説明する。
図11(A)は、機械的動作により表示位置を調整する動作を示し、図11(B)、(C)は画像処理により表示位置を調整する動作を示す。
制御部140は、上述した右光学系駆動部85及び左光学系駆動部87ことにより、第1表示装置100Aと第2表示装置100Bにおいて、導光部材10に対する光学装置部130の角度を変更できる。右光学系駆動部85の動作により、導光部材10から右眼EYに入射する映像光GLの位置が変化するので、視野VR(R)における表示画像PRすなわち表示可能領域が移動する。同様に、左光学系駆動部87の動作により、導光部材10から左眼EYに入射する映像光GLの位置が変化するので、視野VR(L)における表示画像PLすなわち表示可能領域が移動する。表示画像PL、PRが移動すると、表示画像PL、PRのそれぞれにおける画像P1の位置を変化させなくても、使用者が画像P1を視認する位置を変化させることができる。また、図11(A)に示すように、位置10a−位置10b間(図10(A))の距離に合わせて表示画像PL、PRを調整するので、視野VR(L)における表示画像PLの移動方向と、視野VR(R)における表示画像PRの移動方向は逆である。従って、右光学系駆動部85が光学装置部130を動かす方向と、左光学系駆動部87が光学装置部130を動かす方向とは互いに逆である。
制御部140は、表示画像PLで画像P1を表示する位置、及び、表示画像PRで画像P1を表示する位置を画像処理により変更することができる。この画像処理は、右光学系駆動部85及び左光学系駆動部87を動かす制御とは独立して実行でき、例えばソフトウェアで実現できる。
表示画像PL、PRにおける画像P1の位置を動かす場合、制御部140は、画像P1の表示サイズを、表示画像PL、PRより小さくする。ここで、制御部140は、画像P1を縮小してもよいが、画像P1の一部を切り出して表示用の画像P2を生成し、画像P2の表示位置を制御してもよい。画像P2を切り出す処理は画像処理部160(画像生成部)が行えば良い。
例えば、図11(B)に示すように、画像P1の中央寄りの部分を切り出して画像P2とし、図11(C)に示すように、表示画像PL、PRのそれぞれに画像P2を表示する。表示画像PL、PRにおける画像P2の表示位置は、位置10a−位置10b間(図10(A))の距離に合わせて調整される。従って、表示画像PLにおける画像P2の移動方向と、表示画像PRにおける画像P2の移動方向は逆である。
このように、制御部140は、右光学系駆動部85及び左光学系駆動部87を用いて投射透視装置70及び画像表示装置80の構成部品を動かす機械的な調整、及び、画像処理による表示位置の調整を、それぞれ実行できる。また、この機械的な調整と画像処理による調整とを組み合わせて実行することで、より効果的に表示位置を調整できる。
また、制御部140が、図11(A)〜(C)に示す表示態様(表示位置)の制御を行わない初期状態では、所定の輻輳角CAの値に適するように、表示画像PL、PRの位置が設定される。この初期位置(デフォルト位置)が対応する輻輳角CAは、例えば、1°(度)以上かつ5°以下の範囲にあり、より具体的には、使用者の眼EYから対象物OBまでの距離が4mの場合に適した位置となっている。
別の例では、使用者の両眼の視線が真正面を向く場合(対象物OBまでの距離が無限遠)に比べ、視線方向が0.2°〜2°、内側にあることが好ましい。この場合、使用者の瞳孔間距離(PD)の標準値として65mmを採用できる。
上記の調整を行うため、制御部140は、撮像制御部181、眼画像解析部182、外画像解析部183、変更制御部184、及び駆動制御部185を備える。
撮像制御部181は、外カメラ35、36、及び、内カメラ37a、37b、38a、38bをそれぞれ制御して撮像を実行させ、撮像画像データを取得する。
眼画像解析部182は、内カメラ37a、37bの撮像画像データを解析して、虚像表示装置100を装着した使用者の右眼EYの状態に関するデータを生成する。また、眼画像解析部182は、内カメラ38a、38bの撮像画像データを解析して、使用者の左眼EYの状態に関するデータを生成する。
外画像解析部183は、外カメラ35、36の撮像画像データを解析することにより、使用者が注視する方向に存在する対象物OBを検出し、対象物OBまでの距離を求める。外カメラ35、36は上述のように互いに離隔したステレオカメラとして機能する。外画像解析部183は、外カメラ35の撮像画像と、外カメラ36の撮像画像との視差を検出し、検出した視差と、予め設定された外カメラ35、36の間隔とをもとに、演算処理を実行し、対象物OBまでの距離を求めることができる。外画像解析部183が求める距離は、外カメラ35、36から対象物OBまでの距離であってもよい。また、求めた距離を既知のパラメーターを用いて、使用者の眼EYから対象物OBまでの距離に変換してもよい。
さらに、外画像解析部183は、眼画像解析部182が生成する使用者の両眼の状態に関するデータと、外画像解析部183が求めた対象物OBまでの距離とに基づいて、輻輳角CAを算出する。
変更制御部184は、外画像解析部183が算出した輻輳角CAに応じて、第1表示装置100A及び第2表示装置100Bにおける画像の表示位置を調整する。変更制御部184は、第1表示装置100Aと第2表示装置100Bのそれぞれにおける調整量を求める。ここで、変更制御部184は、右光学系駆動部85、左光学系駆動部87を用いた機械的調整の調整量と、画像処理による調整量とを個別に求めることができる。また、変更制御部184は、機械的調整と画像処理とを組み合わせる場合の、機械的調整の調整量と画像処理の調整量とを求めることができる。
また、変更制御部184は、右光学系駆動部85及び左光学系駆動部87の動きによる調整量を求め、駆動制御部185に調整を実行させた後、再び輻輳角CAを求めさせてもよい。この場合、変更制御部184は、機械的調整の後に外画像解析部183が求める輻輳角CAに基づき、画像処理の調整量を求める。
変更制御部184が求める調整量は、予め設定された画像の表示位置である標準位置から、表示位置をシフトさせるシフト量とすることができる。標準位置は、例えば、瞳孔間距離が標準的なサイズの使用者が、標準的な注視距離すなわち輻輳角で外景を見る場合を想定して決定され、設定データ121に含めて記憶部120に記憶される。瞳孔間距離(眼間距離)は、60mm〜65mmが標準的な値とされるため、例えば65mmに設定できる。標準的な注視距離は虚像表示装置100の仕様に合わせて決定でき、例えば一般作業に用いられる仕様では4m、近位置(手元など)の作業に用いられる仕様では1m等に設定すれば良い。シフト量は、映像表示素子82における画素数や、駆動制御部185が駆動する駆動量として決定できる。例えば、注視距離が近く輻輳角が大きい場合には、標準位置よりも表示位置を内側(鼻側)にシフトさせれば良い。
駆動制御部185は、変更制御部184が求める機械的調整の調整量に基づき、右光学系駆動部85と左光学系駆動部87とをそれぞれ制御して駆動させる。
右光学系駆動部85は、光学装置部130を、例えば段階的に揺動させることができる。左光学系駆動部87も同様である。この場合、駆動制御部185は、右光学系駆動部85、左光学系駆動部87を動かす段数を制御する。また、右光学系駆動部85及び左光学系駆動部87が無段階で光学装置部130を傾けることが可能な場合、変更制御部184は、右光学系駆動部85及び左光学系駆動部87の動作量を制御する。
制御部140の眼画像解析部182、外画像解析部183、及び変更制御部184が実行する演算処理に用いる演算式、関数、行列、パラメーター等は、記憶部120に設定データ121として記憶される。また、後述する処理における調整可能範囲の基準値や、目標精度の設定値は、調整基準データ123として記憶部120に記憶される。
さらに、制御部140による調整は、例えば、画像P1、P2の表示位置に適合する輻輳角CAが、使用者の視線に基づき算出した輻輳角CAに対し、±1°となることを目標に行うことが、好ましい。ここで、画像P1、P2の表示位置は、例えば、画像P1、P2の中心の位置とする。
なお、図10(A)では使用者の両眼の中央に対象物OBがある場合、すなわち、使用者が両眼の中心に対象物OBが位置するように、頭を向けて視認する例を示している。使用者の右眼、或いは左眼のいずれか一方が明らかに利き眼である場合には、対象物OBの位置は、右眼EYと左眼EYの中央位置から利き眼側にずれた位置となる。
この場合、外画像解析部183は、利き眼の側に偏った対象物OBを検出し、利き眼を基準とする対象物OBまでの距離を算出し、輻輳角CAを算出することが可能な構成としてもよい。また、利き眼を基準とする演算処理に適した演算式、関数、行列、パラメーター等を設定データ121に含めてもよい。また、使用者の操作により利き眼を指定する構成としてもよく、利き眼の入力を求める案内メッセージ等を虚像表示装置100により表示してもよい。また、虚像表示装置100の画像の表示と、制御装置300における操作とによって利き眼を判定する処理を行ってもよい。
この場合、制御部140は、使用者の利き眼に合わせて画像の表示位置を調整することもできる。例えば、利き眼が右眼であると仮定すると、右眼EYに対応する画像表示装置80では基準の位置から20画素シフトした位置に画像を表示し、左眼EYに対応する画像表示装置80では基準の位置から15画素シフトした位置に画像を表示する。このように、輻輳角に対応して表示態様を制御する場合に、利き眼と、利き眼でない側の眼とのそれぞれに対して異なる表示態様で画像を表示することで、より自然な見え方で画像を表示できる。
さらに、輻輳角を検出する場合において、利き眼の影響により、図10(A)に示す位置10a、10bが、両眼の中央に対して対象な位置とならない場合がある。すなわち、対象物OBが使用者の正面でなく利き眼側によった位置となる場合がある。この場合、制御部140は、輻輳角CAを検出する処理において、利き眼側の位置(例えば、位置10a)を基準として輻輳角を求めてもよい。具体的には、位置10aと、位置10aに対して両眼の中央を介して対象な位置10b´を想定し、これら位置10a−位置10b´間の距離に基づき輻輳角を求めてもよい。また、利き眼側の位置(例えば、位置10b)について同様の処理を行って輻輳角を求めてもよい。さらに、このように求めた2つの輻輳角の平均値等を求めることにより、最終的な輻輳角を算出してもよい。
また、利き眼については上記のように検出する方法に限らず、対象物OBが使用者の視界の右側に寄った位置にある場合は右眼を利き眼として輻輳角の検出及び表示態様の制御の処理を行ってもよい。対象物OBが使用者の視界の左側に寄った位置にある場合は左眼を利き眼として輻輳角の検出及び表示態様の制御の処理を行ってもよい。つまり、対象物と使用者との相対位置に応じて、利き眼に関する設定を変更してもよい。また、使用者が利き眼に関する設定を行った場合、この設定を優先してもよい。
図12は、HMD1の動作を示すフローチャートであり、画像の表示位置の調整に係る処理を示す。
制御部140は、使用者の視線方向(注視方向)および注視距離を検出するための基準となる参照データを生成する(ステップST1)。ステップST1で生成される参照データは、参照データ122として記憶部120に記憶される。
制御部140は、画像(映像を含む)の表示を開始してから、或いは表示開始時に、使用者の両眼の輻輳角を検出する輻輳角検出処理を実行する(ステップST2)。続いて、制御部140は、ステップST2で検出した輻輳角に基づき、虚像表示装置100における画像の表示位置を調整する画像調整処理を実行する(ステップST3)。その後、制御部140は、画像の表示を終了するか否かを判定し(ステップST4)、表示を継続する間は(ステップST4;No)、ステップST2に戻る。また、表示を終了する場合は(ステップST4;Yes)、本処理を終了する。
制御部140がステップST1で生成する参照データ122は、HMD1の起動時、或いは、使用者が初めてHMD1を使用する際に実行すればよく、使用者が制御装置300を操作することで、随時、実行できる構成としてもよい。
以下、図12に示した各処理について詳細に説明する。
図13は、図12のステップST1に示す参照データ生成処理を示すフローチャートである。
制御部140は、水平方向、及び垂直方向に視線を向けるよう案内する画像を虚像表示装置100で表示し(ステップST11)。この案内に従って使用者に視線を移動させる(ステップST12)。制御部140は、移動中或いは移動後に内カメラ37a、37b、38a、38bに撮像を実行させた撮像画像データを取得して、取得した撮像画像データを解析することにより、眼球運動及び眼球の方向に関するデータを取得する(ステップST13)。制御部140は、予め設定された全ての方向に関しステップST11〜ST13の処理が完了したか否かを判定し(ステップST14)、未処理の方向がある場合は(ステップST14;No)、ステップST11に戻る。
ステップST11では、例えば、使用者に対して上、下、右、左、右上、右下、左上、左下の8方向及び正面を含む9方向を指定して、視線を向けさせるよう案内する文字や画像を表示する。制御部140は、正面を除く8方向については、使用者に、最大限に視線を指定方向に向けるよう案内する。
ステップST13で、制御部140は、内カメラ37a、37b、38a、38bの撮像画像から使用者の眼球の画像を抽出し、(1)瞳孔間距離、(2)瞳孔径または瞳孔径の変化量、(3)注視方向、を検出し、検出データを生成する。瞳孔径は、眼球の虹彩の画像を検出することで求めることができる。一般に、虹彩の状態は水晶体を変化させる毛様体筋の動きを反映するので、瞳孔径の変化量または瞳孔径に関するデータは、注視距離に関するデータとして利用できる。
ステップST11〜ST13の動作は、使用者の眼球に相対する面内における上記9方向のそれぞれについて、実行すればよい。すなわち、ステップST11では上記9方向のうちいずれかの方向を指定して視線を向けるよう案内する文字や画像を表示し、ステップST13において、指定方向に関する検出データを取得する。この動作を、例えば9回実行すれば、9方向に視線を向けさせて検出データを取得できる。また、ステップST11において視線を向ける9方向と、視線を向ける順序を指定し、その後は内カメラ37a、37b、38a、38bにより眼球の運動を継続して撮像し、9方向の検出データをステップST13でまとめて取得してもよい。
水平及び垂直方向の全てについて処理を行った場合(ステップST14;Yes)、制御部140は、奥行き(遠近)方向に視線を向けるよう案内する画像を虚像表示装置100で表示する(ステップST15)。そして、案内に従って使用者に視線を移動させ(ステップST16)、移動中或いは移動後に内カメラ37a、37b、38a、38bに撮像を実行させた撮像画像データを取得して、取得した撮像画像データを解析することにより、眼球運動及び眼球の方向に関するデータを取得する(ステップST17)。ステップST15では、例えば、最も近い位置、及び、最も遠い位置の2方向に視線を向けるよう案内する。ステップST15〜ST17の処理を2回行って、最も近い位置と最も遠い位置に関する検出データを取得してもよい。
また、ステップST15では、使用者に見える外景すなわち実空間において、予め設定された距離を見るように案内してもよく、この場合、実空間において設定された距離に位置する対象物を指定して、その対象物を注視するように案内してもよい。この場合、事前に使用者が、参照データ生成処理を行うために用いる対象物を、指定した距離に置いておけばよい。
制御部140は、ステップST13、ST17で取得した検出データをもとに、注視方向を検出するために用いる参照データ122を生成し、記憶部120に記憶する(ステップST18)。この例で、参照データ122は、上記9方向及び遠近2方向の、合計11の方向に使用者が視線を向けた場合の、眼球の運動及び/又は方向に関するデータを含む。これにより、内カメラ37a、37b、38a、38bにより眼球を撮像し、撮像画像における眼球の画像と、上記9方向を撮像した場合の眼球の状態とを比較することで、注視方向を特定できる。また、眼球の向きから、注視距離を求めることができる。
図14は、図12のステップST2の輻輳角検出処理を示すフローチャートである。
制御部140は、内カメラ37a、37b、38a、38bにより撮像を実行させて撮像画像データを取得し、撮像画像データを解析することにより、眼球の状態に関するデータを取得する(ステップST31)。ステップST31で取得するデータは、例えば、ステップST13、ST17と同様の処理で得られるデータであり、参照データ122と比較可能なデータであることが好ましい。
制御部140は、参照データ122を参照し、ステップST31で取得したデータに基づいて使用者の注視方向、及び、注視距離を算出する(ステップST32)。
制御部140は、外カメラ35、36により撮像を実行させて撮像画像データを取得し、撮像画像に写る対象物OBを検出する(ステップST33)。制御部140は、撮像画像において物体(物体の一部を含む)として識別可能なもののうち、ステップST32で求めた注視方向及び注視距離に適合する物体を、対象物OBとして検出する。
制御部140は、ステップST33で検出した対象物までの距離を算出する(ステップST34)。外カメラ35、36はステレオカメラを構成するので、外カメラ35の撮像画像と外カメラ36の撮像画像における視差に基づいて、外カメラ35、36から対象物までの距離を求めることができる。ここで、制御部140は、求めた距離を、使用者の眼から対象物までの距離に換算してもよい。
制御部140は、ステップST32で算出した注視方向と、ステップST34で算出した距離とに基づいて、輻輳角を算出する(ステップST35)。ステップST35では、外カメラ35、36の撮像画像から注視距離を求めるため、よりシンプルな演算処理によって高い精度で注視距離を得られるという利点がある。なお、ステップST34の動作を省略し、ステップST32で算出した注視方向及び注視距離を用いて、ステップST35で輻輳角を算出してもよい。
なお、輻輳角を検出する具体的な手法は、図14で説明したようにステレオカメラを用いる方法に限定されず、例えば、単眼のカメラを用いて時間差を設けて複数回の撮像を実行し、これら複数回の撮像で得られる複数の撮像画像を用いて輻輳角を検出してもよい。また、使用者の眼(片眼、或いは両眼)を撮像し、瞳孔径の変化または瞳孔径を検出することにより輻輳角を検出してもよい。一般に、外景(実空間)において注視したい対象を視認した場合に、人間の瞳孔径が短時間で拡大することが知られている。このため、瞳孔径の変化または瞳孔径を検出する機能を、使用者の注視方向を求める処理で利用してもよい。また、制御部140は、撮像画像から注視距離を求める処理において、例えばルックアップテーブル(Lookup table:変換テーブル)を用いてもよい。この場合、制御部140は、カメラまたは撮像画像から求められる検知データに基づきルックアップテーブルを参照することで、注視距離を求めることができる。また、検知データとして瞳孔間距離(眼間距離)を組み合わせてもよい。ルックアップテーブルは、例えば、予め記憶部120に記憶すれば良い。
図15は、図12のステップST3の画像調整処理を示すフローチャートである。
制御部140は、図14の動作で求めた輻輳角が、調整可能範囲内であるか否かを判定する(ステップST51)。HMD1では、右光学系駆動部85、左光学系駆動部87を用いる機械的な調整、及び、画像処理部160が画像処理を行う調整によって調整可能な輻輳角の限界値があり、この限界値に対応する調整可能範囲が予め設定される。制御部140は、輻輳角の値が調整可能範囲内であると判定した場合(ステップST51;Yes)、機械的調整を要するか否かを判定する(ステップST52)。
右光学系駆動部85及び左光学系駆動部87は、例えば段階的に調整を行う構成を有し、光学装置部130を揺動させることで画像の表示位置を大きく動かすことができる。このため、輻輳角に合わせて大きく画像の表示位置を動かす場合には、機械的調整を行い、画像の表示位置の調整量が小さい場合は画像処理のみを利用すると、効率がよい。ステップST52では、機械的調整を行うか否かについて予め設定された閾値を用いて判定する。
制御部140は、機械的調整を要しないと判定した場合(ステップST52;No)、後述するステップST56に移行する。
また、機械的調整を要すると判定した場合(ステップST52;Yes)、制御部140は、右光学系駆動部85及び左光学系駆動部87の調整量を決定する(ステップST53)。制御部140は、ステップST53で決定した調整量に従って右光学系駆動部85及び左光学系駆動部87を動作させ(ステップST54)、調整後に、目標精度を満たすか否かを判定する(ステップST55)。
上述のように、HMD1では、輻輳角に合わせた画像の位置調整の精度が、例えば輻輳角について±1°と設定されている。図14の輻輳角検出処理で検出した輻輳角と、調整後の画像の表示位置に適合する輻輳角とが、設定された精度を満たす場合(ステップST55;Yes)、制御部140は本処理を終了する。
また、調整精度を満たさない場合(ステップST55;No)、制御部140は画質調整の調整量を決定し(ステップST56)、調整を実行する(ステップST57)。制御部140は、調整により目標精度を満たすか否かを判定する(ステップST58)。ステップST58で判定する目標精度は、例えばステップST55と同様である。目標精度を満たさない場合(ステップST58;No)、制御部140はステップST56に戻って、画像処理を繰り返す。なお、ステップST56〜ST57の実行回数に上限を設けてもよく、上限に達した場合にステップST51に戻ってもよい。
また、目標精度を満たすと判定した場合(ステップST58;Yes)、制御部140は本処理を終了する。
なお、ステップST55で目標精度を満たすか否かの判定をする場合、制御部140は、機械的調整の調整量を決定した時点で、調整が目標精度を満たすかどうかを判定できる。このため、ステップST55の判定を、ステップST54で実行してもよい。
また、図14の動作で求めた輻輳角が、調整可能範囲内でないと判定した場合(ステップST51;No)、制御部140は、調整範囲外の輻輳角に対応する表示態様(表示形態)への切り替えを行う(ステップST59)。
ステップST59では、例えば、制御部140は、第1表示装置100Aと第2表示装置100Bのいずれか一方の表示を停止し、片方のみ表示する状態への切り替えを行う。片眼のみで一つの画像を視認する場合、輻輳角の影響を受けないため、画像の表示位置を輻輳角に適した位置に調整しなくても、使用者の視機能への負担がない。
また、ステップST59で、制御部140は、VR(Virtual Reality)表示を行ってもよい。VR表示では、外カメラ35、36の撮像画像を第1表示装置100A、第2表示装置100Bの表示可能領域に最大サイズで表示する。ここで、画像表示装置80の輝度を大きくして、導光部材10を透過する外光の強度を相対的に小さくして、外景の視認性を低下させてもよい。また、VR表示において、外カメラ35、36の撮像画像から、図14のステップST33で検出した対象物を含む領域を切り出して表示してもよい。この場合、使用者は表示画像を見ることで対象物を視認するので、外景と表示画像との輻輳角の差の影響を受けにくい。このため、使用者の視機能への負荷を軽減できる。
さらに、VR表示を行う場合、制御部140は、図14のステップST32またはST34で算出した注視距離に応じて、第1表示装置100Aで表示する画像と第2表示装置100Bで表示する画像とに視差を持たせてもよい。すなわち、外カメラ35、36の撮像画像から、視差を有する2つの画像を生成し、この2つの画像を第1表示装置100Aと第2表示装置100Bとでそれぞれ表示してもよい。この2つの画像は3D(立体)画像を構成する。従って、使用者は、立体画像により対象物をVRで見ることができる。
図12〜図15に示す動作において、演算処理に使用する演算式、関数、行列、パラメーター等は、いずれも記憶部120に設定データ121として、予め記憶される。また、図15のステップST51で判定基準となる調整可能範囲に関する基準値や閾値、目標精度を定める基準値や閾値等は、記憶部120に、調整基準データ123として記憶される。これら設定データ121、調整基準データ123は、制御装置300の操作により設定あるいは更新可能であってもよいし、通信部117を介して接続する外部の機器(図示略)から入力されてもよい。
以上説明したように、本発明を適用した実施形態に係るHMD1は、外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する虚像表示装置100を有する。HMD1は、虚像表示装置100による画像の表示態様を、使用者の注視距離に応じて制御する制御部140を備える。このため、使用者が外景と画像とを視認する場合に、画像の表示態様を、使用者が注視する距離に適合させることができる。このため、表示画像を適切に調整することができ、例えば使用者の負荷を軽減し、表示画像の視認性を高めることができる。
制御部140は、使用者の注視距離に対応する両眼の輻輳角に基づき、虚像表示装置100による画像の表示態様を制御する。このため、使用者の両眼の輻輳角に対応して画像の表示態様を制御することで、使用者が注視する距離に適合する表示態様を実現できる。
また、制御部140は、使用者の両眼の輻輳角を求め、求めた輻輳角に対応して、虚像表示装置100が表示する画像を使用者が視認する位置を変化させる。このため、使用者の注視距離に適した位置に画像を表示でき、表示画像の視認性を高めることができ、使用者が外景において注視する距離に適した表示画像を、使用者に視認させることができる。
さらに、HMD1は、使用者の両眼の状態を検出する状態検出部としての外カメラ35、36及び内カメラ37a、37b、38a、38bを備える。制御部140は、状態検出部の検出結果に基づいて、使用者の注視距離を算出し、算出した注視距離に応じて虚像表示装置100による画像の表示態様を制御する。HMD1が使用者の両眼の状態を検出して注視距離を算出するので、使用者が煩雑な操作を行わなくても、画像の表示態様を適切に調整できる。
HMD1は、状態検出部として、使用者の右眼と左眼のそれぞれに対応して設けられる内カメラ37a、37b、38a、38bを備える。制御部140は、内カメラ37a、37b、38a、38bの撮像画像に基づいて、使用者の両眼の瞳孔間距離、瞳孔径、或いは注視方向の注視時間の少なくともいずれかを求めることにより、使用者の注視距離を算出する。これにより、使用者の両眼の状態から高精度で注視距離を算出できる。
また、HMD1は、状態検出部として、使用者の注視方向を撮像する外カメラ35、36を備える。制御部140は、外カメラ35、36の撮像画像に基づいて、使用者が注視する注視対象物までの距離を求めることにより、使用者の注視距離を算出するので、より高精度で注視距離を算出できる。
また、虚像表示装置100は、画像光を出射する画像表示装置80と、画像表示装置80が出射する画像光を使用者の右眼と左眼のそれぞれに導く投射透視装置70とを備える。虚像表示装置100は、画像表示装置80または投射透視装置70を構成する少なくとも一部の部材を変位させ、投射透視装置70から使用者の右眼と左眼とに入射する画像光の角度を変更する右光学系駆動部85及び左光学系駆動部87を備える。制御部140は、使用者の注視距離に応じて右光学系駆動部85及び左光学系駆動部87を動作させるので、機械的な動作により、画像の表示態様を調整できる。
また、制御部140は、使用者の注視距離に応じて、虚像表示装置100が表示する画像を使用者が視認する表示範囲における画像の位置を制御する。これにより、画像の表示位置を、使用者の注視距離に合わせて適切に調整できる。
また、HMD1は、画像データに基づき虚像表示装置100が表示する画像を生成する画像処理部160を備える。制御部140は、使用者の注視距離に応じて、画像処理部160により画像データの一部を切り出して調整用の画像を生成させ、調整用の画像を虚像表示装置100に表示させる。これにより、画像を切り出すことによって、画像の表示位置の調整範囲を拡大することができ、画像の表示位置を変更する場合の違和感を解消できる。
また、制御部140は、使用者の注視距離が予め設定された基準距離より近く、輻輳角が調整可能範囲内でない場合に、虚像表示装置100によって使用者の右眼または左眼のいずれかに対応する画像を表示させる。これにより、使用者の注視距離が近い場合であっても、使用者の負担を軽減できる。
[第2実施形態]
図16は、本発明を適用した第2実施形態におけるHMD1の動作を示すフローチャートである。
第2の実施形態において、HMD1は上記第1実施形態と共通の構成を有するので、共通の構成部に同じ符号を付して図示及び説明を省略する。
第2実施形態のHMD1は、外カメラ35、36の撮像画像を虚像表示装置100により表示する、撮像画像表示モードを実行する。HMD1は、撮像画像表示モードとして、3つの動作モードを実行可能であり、1つはマイクロスコープモード(近領域拡大モード)、1つはテレスコープモード(遠領域拡大モード)、1つは近接表示モードである。撮像画像表示モードは、一種のビデオシースルー表示ということができる。
図16の動作は、図12に示した動作に代えて実行される。図16において、図12と同様の動作(処理)については同ステップ番号を付す。
HMD1の制御部140は、使用者の視線方向(注視方向)および注視距離を検出するための基準となる参照データを生成する(ステップST1)。ステップST1で生成される参照データは、参照データ122として記憶部120に記憶される。
制御部140は、画像(映像を含む)の表示を開始してから、或いは表示開始時に、使用者の両眼の輻輳角を検出する輻輳角検出処理を実行する(ステップST2)。
ここで、制御部140は、入力情報取得部110によって、ズーム(拡大)の指示を受け付けたか否かを判定する(ステップST101)。ズームの指示は、例えば、使用者がトラックパッド302やキースイッチ部303を操作して、視野を拡大して表示するように行う指示である。
ズームの指示を受け付けた場合(ステップST101;Yes)、制御部140は、指示されたズームの倍率(拡大率)が、予め設定された値以上であるか否かを判定する(ステップST102)。ズームの倍率が設定値以上である場合(ステップST102;Yes)、制御部140は、HMD1の動作をマイクロスコープモードに切り替えて(ステップST103)、マイクロスコープ表示処理を実行する(ステップST104)。HMD1がマイクロスコープモードで実行するマイクロスコープ表示処理の詳細は、後述する。
また、ズームの倍率が設定値より小さい場合(ステップST102;No)、制御部140は、HMD1の動作をテレスコープモードに切り替えて(ステップST106)、テレスコープ表示処理を実行する(ステップST107)。HMD1がテレスコープモードで実行するテレスコープ表示処理の詳細は、後述する。
また、ズームの指示を受け付けていない場合(ステップST101;No)、制御部140は、入力情報取得部110により動作モードの切り替えの指示を受け付けたか否かを判定する(ステップST109)。動作モードの切り替えの指示は、例えば、操作部111の操作によって入力され、入力情報取得部110が受け付ける。
ステップST109で、マイクロスコープモードへの切り替えの指示を受け付けた場合、制御部140は、ステップST103に移行する。また、テレスコープモードへの切り替えの指示を受け付けた場合、制御部140は、ステップST106に移行する。また、通常動作モードへの切り替えの指示を受け付けた場合、及び、テレスコープモードやマイクロスコープモードに切り替えない場合、制御部140は、画像調整処理を実行する(ステップST110)。
ステップST104のマイクロスコープ表示処理、ステップST107のテレスコープ表示処理、または、ステップST110の画像調整処理を実行した後、制御部140は、画像の表示を終了するか否かを判定する(ステップST4)。表示を継続する間は(ステップST4;No)、ステップST2に戻る。また、表示を終了する場合は(ステップST4;Yes)、本処理を終了する。
図17は、ステップST104(図16)のマイクロスコープ表示処理を詳細に示すフローチャートである。図18は、マイクロスコープ表示処理における表示例を示す図である。図18(A)は虚像表示装置100を透過して視認される実空間の像(実像)を模式的に示し、図18(B)は撮像画像から表示画像を生成する処理の例を示し、図18(C)はAR表示の例を示す。
制御部140は、ステップST103でマイクロスコープモードに切り替えられたときの外カメラ35、35の撮像方向を、以下の動作で撮像する撮像方向として設定し(ステップST121)、スタビライズ処理を開始する(ステップST122)。制御部140は、外カメラ35、36の撮像を開始し、外カメラ35、36の撮像画像データを取得し、撮像画像から表示画像を生成する処理を開始する(ステップST123)。
ステップST123で、制御部140は、例えば撮像画像の一部をトリミング(切り出し処理)して、表示画像を生成する。マイクロスコープ表示処理では、外カメラ35及び外カメラ36のいずれか一方のみで撮像してもよい。この場合、外カメラ35または外カメラ36の撮像画像の一部をトリミングすることで表示画像を生成できる。外カメラ35及び外カメラ36の両方で撮像を行う場合、制御部140は、外カメラ35及び外カメラ36のそれぞれの撮像画像をトリミングして、2つの画像を取得し、これら2つの画像を組み合わせて表示画像を生成する。例えば、2つの画像から、視差を有する2つの表示画像で構成される立体表示画像を生成してもよい。また、例えば、2つの画像を合成した1つの表示画像を生成してもよい。
図18(A)に示すように、使用者が対象物OBに視線を合わせた状態では、外カメラ35、36の撮像画像P11は、図18(B)に示すように対象物OBを中心に撮像した画像となる。撮像画像P11は外カメラ35、36のいずれかの撮像画像とする。制御部140は、撮像画像P11から、視線の中心から所定範囲に相当するトリミング範囲Aを切り出して、表示画像を生成する。撮像画像P11におけるトリミング範囲Aの位置、及び、範囲またはサイズは適宜設定、変更可能であるが、初期値(デフォルト)では、撮像画像P11の中心に位置する所定サイズの範囲である。
虚像表示装置100が動いた場合、外カメラ35、36の画角が動き、撮像画像の動きを生じる。ステップST123で、撮像画像においてトリミングする位置や範囲を固定すると、撮像画像の動きに対応して表示画像が動く。虚像表示装置100の動きによっては、使用者に、いわゆる映像酔いを喚起する可能性がある。そこで、HMD1は、ステップST122でスタビライズ処理を開始する。スタビライズ処理は、撮像画像の動きを相殺(キャンセル)するように、ステップST123で撮像画像をトリミングする位置及び/または範囲を移動させる処理である。例えば、図18(B)において撮像画像P11から切り出すトリミング範囲Aの位置を、外カメラ35、36の画角が動く方向とは逆方向に変化させることで、動きをキャンセルできる。また、外カメラ35、36が視界の奥行き方向に動く場合には撮像される対象物と撮像画像とのサイズが変化する。この場合、制御部140は、トリミング範囲Aのサイズを変化させれば、動きをキャンセルできる。
制御部140は、撮像画像の動きを、外カメラ35、36から順次入力される複数の撮像画像を比較する処理により検出し特定できる。また、虚像表示装置100が、加速度センサーや角速度センサー等の図示しない慣性センサー(動きセンサー)を備える構成では、制御部140は、慣性センサーの検出値に基づいて外カメラ35、36の画角の動きを特定できる。制御部140は、外カメラ35、36の画角の動きに合わせて、撮像画像をトリミングする位置を変更し、必要に応じてトリミングする範囲を変化させることにより、表示画像を安定させる。
スタビライズ処理は、外カメラ35、36の画角の変化を全てキャンセルする処理でなくてもよい。すなわち、映像酔いを喚起しない、或いは軽減できればよいので、画角の動きのうち予め定められた速さを超える動きをキャンセルする方法を採用できる。この場合、定められた速さ以下の、低速の動きはキャンセルされず、画角の動きに対応して表示画像が変化する。これにより、例えば、使用者が意図して外カメラ35、36の画角を変化させた場合に、使用者の意図に沿った表示を行える。
制御部140は、撮像画像から生成した表示画像の表示を開始する際に、表示する範囲(表示範囲)と実空間との対応関係を示す表示を行う(ステップST124)。例えば、図18(C)に示すように、制御部140は、使用者が外光によって視認する実空間の外景に重なって視認されるように、指標画像P12をAR表示する。指標画像P12は制御部140が表示する表示画像に含まれる範囲を示し、制御部140が撮像画像からトリミングする範囲に対応する。図18(C)の例の指標画像P12はリング形状であるが、使用者に範囲を提示することができればよく、その形状や表示色は限定されない。また、指標画像P11は、実空間の視認を妨げないことが好ましく、例えば、実空間の対象物OBが視認可能な程度の輝度で表示される。この場合、指標画像P11は透き通って視認され、指標画像P11とともに実空間の対象物OBが視認できる。
図18(C)の例では、外光により視認される実空間の実物体(対象物)OBに重なるように指標画像P12が表示され、使用者は、指標画像P12に重なる範囲が外カメラ35、36の撮像画像をもとに表示されることを把握できる。AR表示の表示位置及び表示サイズは、外カメラ35、36の撮像画像を外画像解析部183が解析することで決定できる。
制御部140は、指定されたズームの倍率で画像を表示する前に、初期値の倍率で撮像画像を拡大した表示画像を表示する(ステップST125)。初期値の倍率は、例えば、第1表示装置100A及び第2表示装置100Bを透過して使用者が視認する外景と、概ね同じ大きさで視認される倍率とすることができる。この場合、使用者には、実空間の外景の対象物OBと表示画像における対象物OBとがほぼ同じ大きさで、拡大も縮小もしないように見えるので、この場合の倍率を1倍としてもよい。
使用者が第1表示装置100A及び第2表示装置100Bを透過する外光により、視界に位置する対象物を視認する場合を想定する。この対象物を含む範囲を外カメラ35、36で撮像した撮像画像に基づき制御部140が表示させる対象物の画像と、外光により視認される対象物の像(実像)とが、使用者に、概ね同じ大きさに見える場合を、上記の1倍と呼ぶことができる。
次に、制御部140は、虚像表示装置100により表示する表示画像の倍率を変更する(ステップST126)。制御部140は、ステップST125の初期値のズームの倍率から、目標の倍率まで変化させる。この変化は、例えば段階的な変化とすることができ、例えば、倍率の変化について予め変化率が設定され、設定された変化率を1段階として倍率を変化させることができる。目標の倍率は、ステップST101(図16)で受け付けた指示に対応する倍率、ステップST109でマイクロスコープモードが指定された場合に指定される倍率、または、マイクロスコープモードの目標の倍率として予め設定された倍率である。
1回目にステップST126を実行する場合、制御部140は、ステップST125の初期値の倍率から、1段階に相当する倍率の変更を行う。
制御部140は、倍率の変更に対応して、視認性に係る表示パラメーターを変更する(ステップST127)。視認性に係る表示パラメーターは、映像表示素子82における表示輝度を指定するパラメーター、表示色を指定するパラメーター、及び、エッジ強調処理の有無を指定するパラメーターである。映像表示素子82における表示輝度を変化させる処理は、画像処理部160が表示画像の画像データの輝度を変更する処理、及び/又は、右バックライト221、左バックライト222の発光輝度を変化させる処理により実現できる。
また、表示色を変化させる場合、画像処理部160によって画像データを処理することにより実現できる。また、エッジ強調処理は画像処理部160により実行可能である。上記のパラメーターは、例えば記憶部120に記憶される設定データ121に含めることができる。上記のパラメーターは、倍率の絶対値、或いは、目標の倍率に対する現在の倍率の割合に対応して予め設定される。表示画像の輝度が高いほど、外光により視認される実空間の外景に比べ、表示画像の視認性が高くなる。また、表示画像の色調については、彩度が高いほど表示画像の視認性が高くなる。また、エッジ強調処理を実行すると、実行しない場合に比べて表示画像の視認性が高くなる。上記パラメーターは、表示画像の倍率が高いほど表示画像の視認性が高くなるように、設定される。ステップST127において、制御部140は、ステップST126で変更した倍率に対応して、上記パラメーターを設定あるいは変更する。
また、視認性に係る表示パラメーターは設定データ121に含まれる構成に限定されない。すなわち、制御部140が、視認性に係る表示パラメーターを設定データ121から取得する方法だけでなく、他の方法により表示パラメーターを取得、生成あるいは算出してもよい。
例えば、制御部140は、外カメラ35、36の撮像画像から外景の輝度、色調、撮像画像の輝度、色度分布等を検出し、検出結果に基づいて、表示パラメーターを取得してもよい。この場合、検出結果から表示パラメーターを得るためのLUT(LookUp Table:ルックアップテーブル)や演算式等を予め記憶部120に記憶してもよい。制御部140は、外景の撮像画像に基づき外景の明るさを検出してもよいし、外景の天候を判定してもよいし、外カメラ35、36の撮像画像から得られる輝度、色調、色度分布を予め設定された閾値と比較して比較結果を生成してもよい。また、外カメラ35、36の他にイメージセンサー(図示略)や赤外線センサーを虚像表示装置100に設けて、外界、特に使用者の視線方向を含む範囲の輝度、色調等を検出してもよい。さらに、外カメラ35、36の撮像画像に関する検出結果と、内カメラ37a、37b、38a、38bの検出結果とを比較することにより、外景の輝度、色調、撮像画像の輝度、色度分布等を検出してもよい。
制御部140は、ステップST126で倍率を変更した結果、目標の倍率に達したか否かを判定する(ステップST128)。目標の倍率に達していない場合は(ステップST128;No)、ステップST126に移行して、倍率を変更する。このようにしてステップST126〜ST128を繰り返し実行することで、虚像表示装置100における表示倍率が、目標の倍率に達するまで、徐々に変化する。倍率の変化の度合いは任意に設定可能であり、例えば、0.5倍刻みなど予め設定された倍率を単位として変化させてもよいし、初期値と目標値との差に基づき倍率の1回の変化量を決めてもよい。
目標の倍率に達した場合(ステップST128;Yes)、制御部140は、目標倍率が変更されたか否かを判定する(ステップST129)。例えば、入力情報取得部110によって、目標倍率を変更する使用者の操作を受け付けた場合、制御部140は、目標倍率が変更されたと判定する(ステップST129;Yes)。この場合、制御部140は、変更された目標倍率に基づき、ステップST126に戻って表示倍率を変更する処理を開始する。
また、目標倍率が変更されない場合(ステップST129;No)、制御部140は、画像の表示を終了するか否かを判定する(ステップST130)。表示を継続する間は(ステップST130;No)、ステップST129に戻る。また、表示を終了する場合は(ステップST130;Yes)、本処理を終了する。
図17のマイクロスコープ表示処理では、使用者の視野に含まれる範囲あるいは方向のうちステップST121で特定した方向を、あたかも顕微鏡、或いは拡大鏡のように拡大表示することができる。
マイクロスコープモードは、ステップST102(図16)で設定値以上のズームの倍率が指定された場合、及び、ステップST109でマイクロスコープモードへの移行が指示された場合に、実行される。従って、使用者が視野の一部を大きく拡大して見たいと考えた場合、操作部111への操作により、容易にマイクロスコープモードに切り替えて、視野を大きく拡大して見ることができる。
マイクロスコープ表示処理において、ステップST125〜ST126で表示する画像を、視差を有する立体画像として表示することが可能である。制御部140は、画像処理部160は、使用者の右眼に対応して第1表示装置100Aで表示する画像と、左眼に対応して第2表示装置100Bで表示する画像とに視差を生じさせる。この場合、制御部140は、ステップST127において、左右の画像の視差を指定するパラメーターを変更し、設定してもよい。この場合、外カメラ35、36の撮像画像に基づき生成した画像を、視差を有する画像として表示し、例えば図18(C)の指標画像P12のように、実空間にAR表示するオブジェクトを、視差を有しない平面画像として表示してもよい。指標画像P12に限らず、例えば、作業内容の案内、指示、その他使用者に情報伝達のために制御部140が表示するARコンテンツ中のテキストや画像による案内用のオブジェクトを、視差を有しない画像として表示してもよい。
また、マイクロスコープモードに移行する前に視差を有する画像を表示した場合、制御部140は、マイクロスコープモードに移行する際に、左右の視差を有しない表示態様に切り替えてもよい。この場合、制御部140は、外カメラ35、36の撮像画像に基づいて生成した画像、及び、ARコンテンツに含まれるテキストや画像等のオブジェクトを、視差を有しない画像として表示する。
制御部140は、ステップST122でスタビライズ処理を開始する。スタビライズ処理では、外カメラ35、36の撮像方向が変化した場合に、表示用の画像を切り出す位置を撮像画像の変化を相殺または補償する方向に移動させる。このため、外カメラ35、36の撮像方向が変化しても、撮像画像から生成する表示用の画像が大きく変動しない。また、外カメラ35、36の撮像方向の動き、すなわち撮像画像の変化が大きい場合は、撮像画像から切り出す表示画像も変化するが、この場合も表示画像の変化の速度が抑えられる。従って、外カメラ35、36の撮像方向の変化に追従し、かつ、表示画像の急激な変化を抑えて映像酔いを抑制できる。
また、マイクロスコープ表示処理で、制御部140は、外カメラ35、36の撮像画像から生成する表示画像を、第1表示装置100A、または第2表示装置100Bのいずれか一方で表示し、他方で表示しない構成としてもよい。この表示方法を片眼表示と呼ぶ。例えば、ステップST126で表示倍率を変更したことにより、表示倍率が事前に設定された閾値を超えた場合に、制御部140は、片眼表示への切り替えを行ってもよい。また、目標の倍率が閾値を超える倍率であると判定した場合に、片眼表示への切り替えを行ってもよい。或いは、ステップST127で表示画像の視認性を高めるパラメーターを設定し、このパラメーターの値が事前に設定された閾値を超えた場合に、片眼表示を行ってもよい。片眼表示の実行中、使用者は、画像を表示していない側の目で実空間を視認できる。これにより、一方bの眼では実空間の視認性が確保されるので、他方の目に対して撮像画像に基づく表示画像の視認性を大幅に高めることができる。
また、片眼表示の実行中、第1表示装置100A及び第2表示装置100Bのうち、撮像画像に基づく表示画像を表示しない側において、実空間に重ねてAR表示を行ってもよい。
図19は、ステップST107(図16)のテレスコープ表示処理を詳細に示すフローチャートである。
この図19に示すテレスコープ表示処理は、図17に示したマイクロスコープ表示処理と同様の処理を含む。従って同じ処理については同ステップ番号を付す。
制御部140は、ステップST106でテレスコープモードに切り替えられたときの外カメラ35、35の撮像方向を、以下の動作で撮像する撮像方向として設定し(ステップST121)、スタビライズ処理を開始する(ステップST122)。制御部140は、外カメラ35、36の撮像を開始し、外カメラ35、36の撮像画像データを取得し、撮像画像から表示画像を生成する処理を開始する(ステップST123)。スタビライズ処理は図17を参照して説明した処理と同様である。
制御部140は、ステップST124の表示を行わず、初期値の倍率で撮像画像を拡大した表示画像を表示し(ステップST125)、表示倍率を変更する(ステップST126)。制御部140は、ステップST125の初期値のズームの倍率から、目標の倍率まで変化させる。この変化は、例えば段階的な変化とすることができ、例えば、倍率の変化について予め変化率が設定され、設定された変化率を1段階として倍率を変化させることができる。例えば、1回目にステップST126を実行する場合、制御部140は、ステップST125の初期値の倍率から、1段階に相当する倍率の変更を行う。その後の倍率の変化は、図17を参照して説明した通りである。
制御部140は、倍率の変更に対応して、視認性に係る表示パラメーターを変更する(ステップST127)。視認性に係る表示パラメーターは、ステップST127について上述した通りである。
テレスコープ表示処理では、使用者が、あたかも双眼鏡や望遠鏡のように、遠方を拡大して見る場合に好適である。マイクロスコープ表示処理では、虚像表示装置100から近い位置を大きく拡大して表示することを想定するのに対し、テレスコープ表示処理では、使用者が遠方を見ることを想定することが好ましい。このため、使用者が、虚像表示装置100を透過する外光により実空間を視認できる状態を維持することが好ましい。従って、図19のテレスコープ表示処理におけるステップST127では、外カメラ35、36の撮像画像に基づき表示する表示画像の視認性を、実空間の視認性よりも高くする場合に、実空間の視認性を確保する程度のパラメーターが設定される。
具体的には、ステップST127で設定されるパラメーターについて、図17で説明したマイクロスコープ表示処理とは異なる値が予め設定される。また、制御部140がステップST127で設定するパラメーターの上限値、または下限値が、マイクロスコープ表示処理とは異なる値に設定される。これにより、図19のテレスコープ表示処理では、虚像表示装置100の透過光で視認できる実空間の視界が確保される。
その後、制御部140は、ステップST126で倍率を変更した結果、目標の倍率に達したか否かを判定し(ステップST128)、目標の倍率に達していない場合は(ステップST128;No)、ステップST126に移行して、倍率を変更する。制御部140は、ステップST126〜ST128を繰り返し実行し、虚像表示装置100における表示倍率を目標の倍率まで徐々に変化させる。
目標の倍率に達した場合(ステップST128;Yes)、制御部140は、目標倍率が変更されたか否かを判定する(ステップST129)。制御部140は、目標倍率が変更されたと判定した場合(ステップST129;Yes)、変更された目標倍率に基づき、ステップST126に戻って表示倍率を変更する処理を開始する。目標倍率が変更されない場合(ステップST129;No)、制御部140は、画像の表示を終了するか否かを判定する(ステップST130)。表示を継続する間は(ステップST130;No)、ステップST129に戻る。また、表示を終了する場合は(ステップST130;Yes)、本処理を終了する。
図19のテレスコープ表示処理は、ステップST109でテレスコープモードへの移行が指示された場合に、実行される。従って、使用者が視野の一部を大きく拡大して見たいと考えた場合、操作部111への操作により、容易にマイクロスコープモードに切り替えて、視野を大きく拡大して見ることができる。また、テレスコープ表示処理で拡大表示される範囲はステップST109で移行が指示されたときの視野の中心、または、使用者の視線方向に相当する撮像画像の一部であり、ステップST124で初期値の表示倍率で表示を開始する。従って、テレスコープ表示処理の実行前と比べて急激な視野の変化がなく、使用者は自然に拡大画像を見ることができる。
テレスコープ表示処理で、ステップST125〜ST126で表示する画像を、視差を有する立体画像として表示することが可能である。制御部140は、画像処理部160は、使用者の右眼に対応して第1表示装置100Aで表示する画像と、左眼に対応して第2表示装置100Bで表示する画像とに視差を生じさせる。この場合、制御部140は、ステップST127において、左右の画像の視差を指定するパラメーターを変更し、設定してもよい。また、テレスコープ表示処理で、実空間にオブジェクトをAR表示してもよい。例えば、表示倍率を示すテキストや画像をAR表示してもよい。AR表示は視差を有しない平面画像として表示してもよい。
また、テレスコープモードにおいて、片眼表示を行ってもよい。片眼表示を行う場合のタイミングあるいは条件は、マイクロスコープ表示処理で説明した処理と同様とすることができる。
図20は、ステップST110(図16)の画像調整処理を詳細に示すフローチャートである。
図20の画像調整処理は、上記第1実施形態で説明した画像調整処理(図15)と同様の処理を含むので、同じ処理については同ステップ番号を付す。
制御部140は、ステップST2(図16)で求めた輻輳角が、調整可能範囲内であるか否かを判定する(ステップST51)。輻輳角の値が調整可能範囲内であると判定した場合(ステップST51;Yes)、機械的調整を要するか否かを判定する(ステップST52)。機械的調整を要しないと判定した場合(ステップST52;No)、制御部140は、ステップST56に移行する。
機械的調整を要すると判定した場合(ステップST52;Yes)、制御部140は、右光学系駆動部85及び左光学系駆動部87の調整量を決定する(ステップST53)。制御部140は、ステップST53で決定した調整量に従って右光学系駆動部85及び左光学系駆動部87を動作させ(ステップST54)、調整後に、目標精度を満たすか否かを判定する(ステップST55)。ステップST2の輻輳角検出処理で検出した輻輳角と、調整後の画像の表示位置に適合する輻輳角とが、設定された精度を満たす場合(ステップST55;Yes)、制御部140は本処理を終了する。
また、調整精度を満たさない場合(ステップST55;No)、制御部140は画質調整の調整量を決定し(ステップST56)、調整を実行する(ステップST57)。制御部140は、調整により目標精度を満たすか否かを判定する(ステップST58)。ステップST58で判定する目標精度は、例えばステップST55と同様である。目標精度を満たさない場合(ステップST58;No)、制御部140はステップST56に戻って、画像処理を繰り返す。なお、ステップST56〜ST57の実行回数に上限を設けてもよく、上限に達した場合にステップST51に戻ってもよい。
また、目標精度を満たすと判定した場合(ステップST58;Yes)、制御部140は本処理を終了する。
一方、ステップST2(図16)の輻輳角検出処理で求めた輻輳角が、調整可能範囲内でないと判定した場合(ステップST51;No)、制御部140は、輻輳角が予め設定された上限の角度より大きいか否かを判定する(ステップST161)。上限の角度より大きい場合(ステップST161;Yes)、制御部140は、調整範囲外の輻輳角に対応する表示態様(表示形態)への切り替えを行う(ステップST59)。このステップST59では、例えば、制御部140は、第1表示装置100Aと第2表示装置100Bのいずれか一方の表示を停止し、片方のみ表示する状態への切り替えを行う。片眼のみで一つの画像を視認する場合、輻輳角の影響を受けないため、画像の表示位置を輻輳角に適した位置に調整しなくても、使用者の視機能への負担がない。
また、輻輳角が上限の角度以下であると判定した場合(ステップST161;No)、制御部140は、動作モードを近接表示モードに切り替えて、近接表示処理を開始する(ステップST162)。近接表示モードでは、虚像表示装置100に近接した位置を、外カメラ35、36の撮像画像を利用して見やすく表示する動作モードであり、使用者の視線が、虚像表示装置100に近接した位置に向いている場合に実行する。
制御部140は、外カメラ35、35の撮像方向を設定し(ステップST163)、スタビライズ処理を開始する(ステップST164)。制御部140は、外カメラ35、36の撮像を開始し、外カメラ35、36の撮像画像データを取得し、撮像画像から表示画像を生成する処理を開始する(ステップST165)。
ステップST165で、制御部140は、例えば撮像画像の一部をトリミング(切り出し処理)して、表示画像を生成する。ここで、制御部140は、外カメラ35及び外カメラ36のいずれか一方のみの撮像画像を用いて表示画像を生成してもよい。この場合、外カメラ35または外カメラ36の撮像画像の一部をトリミングすることで表示画像を生成できる。外カメラ35及び外カメラ36の両方の撮像画像を使用する場合、制御部140は、外カメラ35及び外カメラ36のそれぞれの撮像画像をトリミングして、2つの画像を取得し、これら2つの画像を組み合わせて表示画像を生成する。例えば、2つの画像から、視差を有する2つの表示画像で構成される立体表示画像を生成してもよい。また、例えば、2つの画像を合成した1つの表示画像を生成してもよい。
また、スタビライズ処理は、ステップST122(図17)と同様の処理である。制御部140は、外カメラ35、36の画角の動きに起因する撮像画像の動きを、相殺または補償するように、撮像画像においてトリミングする位置や範囲を変化させる。
制御部140は、ステップST165で生成した表示画像の表示を開始する(ステップST166)。ステップST166で、制御部140は、表示する画像の視認性に係る表示パラメーターを設定し、表示調整を行う。調整されるパラメーターは、例えば、映像表示素子82における表示輝度を指定するパラメーター、表示色を指定するパラメーター、及び、エッジ強調処理の有無を指定するパラメーターである。映像表示素子82における表示輝度を変化させる処理は、画像処理部160が表示画像の画像データの輝度を変更する処理、及び/又は、右バックライト221、左バックライト222の発光輝度を変化させる処理により実現できる。また、表示色を変化させる場合、画像処理部160によって画像データを処理することにより実現できる。また、エッジ強調処理は画像処理部160により実行可能である。上記のパラメーターは、例えば記憶部120に記憶される設定データ121に含めることができる。上記のパラメーターは、倍率の絶対値、或いは、目標の倍率に対する現在の倍率の割合に対応して予め設定される。表示画像の輝度が高いほど、外光により視認される実空間の外景に比べ、表示画像の視認性が高くなる。また、表示画像の色調については、彩度が高いほど表示画像の視認性が高くなる。また、エッジ強調処理を実行すると、実行しない場合に比べて表示画像の視認性が高くなる。上記パラメーターは、表示画像の倍率が高いほど表示画像の視認性が高くなるように、設定される。ステップST166で、制御部140は、輻輳角に対応して、上記パラメーターを設定あるいは変更する。
制御部140が撮像画像をトリミングする位置及び範囲は、ステップST2(図16)で検出した輻輳角に対応して決定される。使用者は、肉眼で見ることが容易でないほど近い位置を、外カメラ35、36を利用して見ることができる。また、使用者の輻輳角に応じて、制御部140は、外カメラ35、36の撮像画像から切り出した画像を拡大して表示してもよい。この場合の倍率は、例えば輻輳角に対応して決定してもよい。
このように、本発明を適用した第2実施形態に係るHMD1は、虚像表示装置100の外側を撮像する外カメラ35、36を備え、制御部140は、外カメラ35、36の撮像画像に基づく画像を虚像表示装置100に表示させる撮像画像表示モードを実行可能である。これにより、表示部の外側の景色である外景を使用者に視認させることができる。撮像画像表示モードは、上述したマイクロスコープモード(近領域拡大モード)、テレスコープモード(遠領域拡大モード)、及び近接表示モードが該当する。
制御部140は、撮像画像表示モードの実行中に、虚像表示装置100を透過する外光により視認される実空間に比べて、撮像画像に基づき表示する表示画像の視認性を高める処理を行う。これにより、表示画像により使用者が視認する外景を、虚像表示装置100の透過光により視認する実空間よりも高い視認性で、明瞭に視認できる。また、使用者は、透過光により視認する実空間と、撮像画像に基づき表示される外景とを区別しやすいので、使用者の利便性の向上を図ることができる。
制御部140は、撮像画像表示モードの実行中に、外カメラ35、36の撮像画像に基づく表示画像の輝度または色彩を変化させ、或いは、外カメラ35、36の撮像画像に基づく画像に対するエッジ強調処理を行う。これらの処理により、制御部140は、透過光に比べ表示画像の視認性を高める処理を行うので、表示画像の外景の視認性を、効果的に高めることができる。
制御部140は、撮像画像表示モードで、外カメラ35、36の撮像画像に基づく画像を、第1表示装置100Aと第2表示装置100Bにより、使用者の右眼と左眼のいずれか一方に対応して表示してもよい。この場合、使用者の注視距離に影響されずに、表示画像を使用者に視認させることができる。
また、制御部140は、撮像画像表示モードにおいて、外カメラ35、36の撮像画像に基づく画像を、左右の視差を有さない態様で使用者の右眼及び左眼のそれぞれに対応して表示してもよい。この場合、表示画像を、使用者が立体視をせずに視認できる。このため、使用者の注視距離の影響を受けにくく、表示画像の視認性を高めることができる。
制御部140は、撮像画像表示モードにおいて外カメラ35、36の撮像画像に基づき生成する表示画像を拡大して表示してもよい。また、制御部140は、使用者の操作を入力情報取得部110で受け付けた場合に、撮像画像表示モードを実行してもよい。
また、制御部140は、使用者の注視距離を検出し、検出した注視距離が予め設定された距離より短い場合(例えば、輻輳角が設定された値より大きい場合)に、撮像画像表示モードを実行してもよい。
[第3実施形態]
図21は、第3実施形態におけるHMDの構成を示す図である。
第3実施形態では、図21のように、視差を設定する視差設定部(例えば図1の枠部102参照)において、角度可変部を有する構成となっている。この構成により、導光装置20である第1光学部材101aの組み付け基準方向ASaと、第2光学部材101bの組み付け基準方向ASbとの交差角度が調整可能である。すなわち、第1光学部材101aに対する第2光学部材101bの角度を変更できる。これにより、図示のように、左右の視差を定める主光線PRa,PRbのなす角θの値を変更できる。
なお、角度変更においては、各光学部材101a,101b(導光装置20)のみならず、第1及び第2表示装置100A,100Bを一体的に動かすものとする。この角度可変部については、種々の構成が考えられるが、例えば、左右一対の構成で、左右対称に第1及び第2表示装置100A,100Bの姿勢を変化させるピエゾ素子やマイクロアジャスター等を適用して精密に動作させることが考えられる。また、視差設定部である枠部102(図1参照)の中央部分CPに連続的、あるいは段階的に角度を変更でき、かつ所望の角度で固定できるストッパー付の蝶番(例えば図11に示す蝶番HNと同様の位置に配置)のようなものを精密に動作させる角度調整部材として設けることも考えられる。第1及び第2表示装置100A,100Bの姿勢を所望な状態に変化させるに際しては、典型的には、上記のピエゾ素子や蝶番といった変形可能な可動素子を角度可変部に利用することが考えられる。その他、変形可能な可動素子で、かつ、精密に制御できるものであれば、上記以外のものを角度可変部として適用してもよい。
以上に加え、本第3実施形態では、左右一対の投射レンズ30をそれぞれ構成する光学レンズ(図示略)がフォーカスレンズ群を構成するものとし、これを左右一対のアクチュエータACa,ACbで光軸方向について動かすものとする、すなわち投射レンズ30がフォーカス機構を有するものとなっている。つまり、フォーカス機構が焦点距離を調整する焦点距離調整部として機能する。投射レンズ30において、焦点距離を調整することが可能となることで、上述した視差設定部の角度可変部によって角θの値すなわち視差が変更された場合に、これに対応して各表示装置100A,100Bにおける焦点距離延いては映像光GLにより視認される画像の想定表示位置(虚像IMの想定位置)を変更することが可能となる。
図21の構成において、第1光学部材101aに対する第2光学部材101bの角度を変更する動作は、変更制御部184の制御により右光学系駆動部85及び左光学系駆動部87を用いた機械的調整と合わせて、機械的調整の一部として実行できる。つまり、変更制御部184は、第1光学部材101aに対する第2光学部材101bの角度を変更する動作による調整可能量を、右光学系駆動部85及び左光学系駆動部87を用いた機械的調整の調整可能量に加えて、機械的調整可能な範囲とすることができる。この調整可能な範囲に基づき、変更制御部184は、機械的調整と画像処理とを組み合わせる場合の、機械的調整の調整量と画像処理の調整量とを求めることができる。
また、変更制御部184は、光学系駆動部85及び左光学系駆動部87を用いた機械的調整の調整量と、第1光学部材101aに対する第2光学部材101bの角度を変更する動作による調整量と、画像処理による調整量とを個別に求めることができる。
変更制御部184は、図15及び図20のステップST53において、機械的調整の調整量を求める処理で、光学系駆動部85及び左光学系駆動部87を用いた機械的調整の調整量と、第1光学部材101aに対する第2光学部材101bの角度を変更する動作による調整量とをそれぞれ求める。そして、ステップST54において、求めた調整量に従って、光学系駆動部85及び左光学系駆動部87を用いた機械的調整と、第1光学部材101aに対する第2光学部材101bの角度を変更する動作とを行うことができる。
このように、虚像表示装置100における画像の表示態様を調整することにより、視認距離を調整する処理は、上述した構成に限定されず、種々の態様とすることができる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記実施形態では、使用者の注視距離に応じて表示態様を制御する一例として、使用者が表示画像を見る(視認する)表示位置を制御する場合を例に挙げて説明したが、本発明はこれに限定されない。例えば、AR表示を行う場合に、注視距離に応じて、AR画像またはAR画像に含まれる表示オブジェクト(画像、図形、文字等)の表示サイズ、表示色等を変更してもよい。また、対象物OBに重なって表示される表示オブジェクトを、対象物OBの前に重なるように表示する表示態様と、対象物OBの後ろに重なって視認されるように表示する表示態様とを、注視距離に応じて切り替えてもよい。また、AR画像に画像処理を施して、表示オブジェクトに影が付いたように視認される表示態様のオン/オフを、注視距離に応じて切り替えてもよい。
また、使用者の注視距離に応じて表示態様を制御する別の例として、使用者が導光部材10を透過して視認する実空間の対象物OBに画像を重ねて表示する表示態様を制御してもよい。例えば、対象物OBに画像が重なるように表示して、対象物OBの視認性を低下させるマスク表示や、対象物OBの色が異なる色に視認されるようにする表示を、注視距離に応じて切り替え、或いは調整してもよい。この場合、制御部140は、対象物OBに重ねて視認される画像に対し、輝度調整、配色、ドット抜き、シャープネス或いはエッジ強調、階調調整、フォーカス調整(ぼかし処理)等の画像処理を行ってもよい。また、当該画像の表示位置の調整を、上記画像処理に組み合わせて行ってもよい。
また、例えば、上記実施形態において、制御部140は、図14の輻輳角検出処理で算出した輻輳角に基づき、第1表示装置100Aと第2表示装置100Bの両方において同様の調整を行う例を説明した。すなわち、図15のステップST53、ST56で、機械的調整の調整量及び/又は画像処理による調整量を、左右で同量とした。本発明はこれに限定されず、利き眼側と、利き眼でない側とで、異なる調整量を決定してもよい。この場合の調整量の差は、予め設定されたパラメーター等に従ってもよいし、図13のステップST13で算出した検出データから求めてもよい。
また、例えば、虚像表示装置100は、テンプル部104と鼻受部40により眼鏡と同様に使用者の頭部に保持される構成に限定されない。例えば、帽子のように装着する方式を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを分離し、それぞれを使用者の頭部に装着してもよい。また、眼鏡、帽子、ヘルメット等を介して間接的に使用者の身体に装着されてもよい。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよいし、自動車のフロントガラスに用いられるヘッドアップディスプレイ(Head-up Display;HUD)であってもよい。
さらに、上記実施形態では、虚像表示装置100と制御装置300とが分離され、接続ケーブル41を介して接続された構成を例に挙げて説明したが、制御装置300と虚像表示装置100とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。また、制御装置300と虚像表示装置100とをより長いケーブルにより接続した場合に、制御装置300として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置300として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。ここで、制御装置300が表示画面を有する場合、バッテリー交換モードにおいて、制御装置300が備える表示画面を停止させてもよい。
また、例えば、虚像表示装置100において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、画像光を生成する構成として、LCOS(Liquid crystal on silicon, LCoSは登録商標)を用いる構成とすることができる。また、無機EL(Electro-Luminescence)ディスプレイ、LEDアレイ、デジタル・マイクロミラー・デバイス(DMD)等を用いて、画像光を生成する構成とすることもできる。
また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像生成部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。また、MEMSを利用して光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより使用者に画像を視認させる、上述のレーザー網膜投影型のヘッドマウントディスプレイを構成してもよい。
また、図9に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図9に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120又は制御装置300内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117又はインターフェイス114を介して取得して実行する構成としてもよい。また、制御装置300に形成された構成のうち、操作部135のみが単独の使用者インターフェイス(UI)として形成されてもよい。また、制御装置300に形成された構成が重複して虚像表示装置100に形成されていてもよい。例えば、図9に示す制御部140が制御装置300と虚像表示装置100との両方に形成されていてもよいし、制御装置300に形成された制御部140と虚像表示装置100に形成されたCPUとが行う機能が別々に分けられている構成としてもよい。
1…HMD(表示装置)、10…導光部材、10a、10b…位置、35、36…外カメラ(第2撮像部、外部撮像部)、37a、37b、38a、38b…内カメラ(第1撮像部)、41…接続ケーブル、50…光透過部材、70…投射透視装置(光学系)、80…画像表示装置(出射部)、84…駆動制御部、85…右光学系駆動部(変更部)、86…映像素子ケース、87…左光学系駆動部(変更部)、100…虚像表示装置(表示部)、100A…第1表示装置、100B…第2表示装置、101a…第1光学部材、101b…第2光学部材、102…枠部、104…テンプル部、105a…第1像形成本体部、105b…第2像形成本体部、105d…外装部材、107…フレーム、107a…正面部、107b…側面部、107c…側面部、108…樹脂部、110…入力情報取得部、114…インターフェイス、117…通信部、120…記憶部、121…設定データ、130…光学装置部、135…操作部、140…制御部、160…画像処理部(画像生成部)、170…表示制御部、181…撮像制御部、182…眼画像解析部、183…外画像解析部、184…変更制御部、185…駆動制御部、190…音声処理部、201…右バックライト制御部、202…左バックライト制御部、211…右駆動制御部、212…左駆動制御部、221…右バックライト、222…左バックライト、261…右導光板、262…左導光板、300…制御装置、302…トラックパッド。

Claims (18)

  1. 外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部と、
    前記表示部による前記画像の表示、前記使用者の注視距離に応じて制御する制御部と、
    前記表示部の装着状態において前記使用者の視線方向を含む範囲を撮像する外部撮像部と、
    前記使用者による指示を受け付ける入力情報取得部と、を備え、
    前記表示部は、前記表示部を透過する外光により前記使用者が前記外景を視認可能であり、前記外景と同時に視認可能に前記画像を表示するよう構成され、
    前記制御部は、
    前記表示部を透過する外光に比べ前記表示部に表示される前記画像の視認性を調整可能であり、
    前記使用者の注視距離が設定された距離より短い場合に、前記外部撮像部の撮像画像に基づく前記画像を前記表示部に表示させる撮像画像表示モードを実行し、
    前記撮像画像表示モードにおいて、前記入力情報取得部によって拡大の指示を受け付けた場合であって、設定値以上の拡大倍率が指定された場合に第1表示モードの表示を行い、設定値より小さい拡大倍率が指定された場合に第2表示モードの表示を行い、
    記表示部を透過して視認される前記外景の視認性が前記第1表示モードと前記第2表示モードとで異なり、前記拡大倍率が高いほど前記表示部に表示される前記画像の視認性が高くなるように、前記表示部に表示される前記画像の視認性を調整することを特徴とする表示装置。
  2. 前記制御部は、前記撮像画像表示モードを実行しない場合に、前記使用者の注視距離に応じて、前記表示部による前記画像の表示位置及び/又は前記画像の表示サイズを変更すること、
    を特徴とする請求項1記載の表示装置。
  3. 前記制御部は、前記撮像画像表示モードを実行しない場合に、前記使用者の注視距離に対応する両眼の輻輳角に基づき、前記表示部による前記画像の表示制御すること、
    を特徴とする請求項1または2記載の表示装置。
  4. 前記制御部は、前記撮像画像表示モードを実行しない場合に、前記使用者の両眼の輻輳角を求め、求めた輻輳角に対応して、前記表示部が表示する前記画像を前記使用者が視認する位置を変化させること、
    を特徴とする請求項3記載の表示装置。
  5. 前記制御部は、前記撮像画像表示モードを実行しない場合に、前記使用者の両眼の輻輳角に対応して、前記表示部が前記画像を表示する表示位置を、予め設定された標準位置からシフトさせること、
    を特徴とする請求項4記載の表示装置。
  6. 前記使用者の両眼の状態を検出する状態検出部を備え、
    前記制御部は、前記状態検出部の検出結果に基づいて、前記使用者の注視距離を算出すること、
    を特徴とする請求項1から5のいずれかに記載の表示装置。
  7. 前記状態検出部は、前記使用者の右眼と左眼のそれぞれに対応して設けられる第1撮像部を備え、
    前記制御部は、前記第1撮像部の撮像画像に基づいて、前記使用者の両眼の瞳孔間距離、瞳孔径、或いは注視方向の注視時間の少なくともいずれかを求めることにより、前記使用者の注視距離を算出すること、
    を特徴とする請求項6記載の表示装置。
  8. 前記状態検出部は、前記使用者の注視方向を撮像する第2撮像部を備え、
    前記制御部は、前記第2撮像部の撮像画像に基づいて、前記使用者が注視する注視対象物までの距離を求めることにより、前記使用者の注視距離を算出すること、
    を特徴とする請求項6または7記載の表示装置。
  9. 前記表示部は、画像光を出射する出射部と、
    前記出射部が出射する画像光を前記使用者の右眼と左眼のそれぞれに導く光学系と、
    前記出射部または前記光学系を構成する少なくとも一部の部材を変位させ、前記光学系から前記使用者の右眼と左眼とに入射する画像光の角度を変更する変更部と、を備え、
    前記制御部は、前記使用者の注視距離に応じて前記変更部を動作させること、
    を特徴とする請求項2から8のいずれかに記載の表示装置。
  10. 前記制御部は、前記使用者の注視距離に応じて、前記表示部が表示する前記画像を前記使用者が視認する表示範囲における、前記画像の位置を制御すること、
    を特徴とする請求項2から9のいずれかに記載の表示装置。
  11. 画像データに基づき前記表示部が表示する前記画像を生成する画像生成部を備え、
    前記制御部は、前記使用者の注視距離に応じて、前記画像生成部により前記画像データの一部を切り出して調整用の画像を生成させ、前記調整用の画像を前記表示部に表示させること、
    を特徴とする請求項10記載の表示装置。
  12. 前記制御部は、前記第1表示モードの表示を行う場合に、前記表示部によって前記使用者の右眼または左眼のいずれかに対応する前記画像を表示させること、
    を特徴とする請求項1から11のいずれかに記載の表示装置。
  13. 外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示装置であって、
    画像光を出射する出射部と、
    前記出射部が出射する画像光を前記使用者の右眼と左眼のそれぞれに導く光学系と、
    前記出射部の出射方向または前記光学系から前記使用者の右眼と左眼とに入射する画像光の入射角度を変更する変更部と、を備える表示部であって、前記表示部を透過する外光により前記使用者が前記外景を視認可能であり、前記外景と同時に視認可能に前記画像を表示する表示部と、
    画像データに基づき前記表示部が表示する前記画像を生成する画像生成部と、
    前記使用者の注視距離を算出し、算出した注視距離に応じて、前記変更部を動作させる処理、及び、前記使用者の注視距離に応じて、前記画像生成部により前記画像データの一部を切り出して調整用の画像を生成させ、前記調整用の画像を前記表示部に表示させる処理の少なくともいずれかを実行する制御部と、
    前記表示部の装着状態において前記使用者の視線方向を含む範囲を撮像する外部撮像部と、
    前記使用者による指示を受け付ける入力情報取得部と、を備え、
    前記制御部は、
    前記表示部を透過する外光に比べ前記表示部に表示される前記画像の視認性を調整可能であり、
    前記使用者の注視距離が設定された距離より短い場合に、前記外部撮像部の撮像画像に基づく前記画像を前記表示部に表示させる撮像画像表示モードを実行し、
    前記撮像画像表示モードにおいて、前記入力情報取得部によって拡大の指示を受け付けた場合であって、設定値以上の拡大倍率が指定された場合に第1表示モードの表示を行い、設定値より小さい拡大倍率が指定された場合に第2表示モードの表示を行い、
    記表示部を透過して視認される前記外景の視認性が前記第1表示モードと前記第2表示モードとで異なり、前記拡大倍率が高いほど前記表示部に表示される前記画像の視認性が高くなるように、前記表示部に表示される前記画像の視認性を調整することを特徴とする表示装置。
  14. 前記制御部は、前記表示部に表示される前記画像の表示輝度、表示色、及び、前記表示部におけるエッジ強調処理の有無の少なくともいずれかを調整することにより、前記表示部に表示される前記画像の視認性を調整すること、
    を特徴とする請求項13に記載の表示装置。
  15. 前記制御部は、前記撮像画像表示モードにおいて、入力情報取得部によって拡大の指示を受け付けた場合であって、前記設定値より大きい閾値を超える拡大倍率が指定された場合に、前記外部撮像部の撮像画像に基づく前記画像を前記第1表示モードで表示させ、さらに、前記外部撮像部の撮像画像に基づく前記画像を、前記表示部により前記使用者の右眼と左眼のいずれか一方に対応して表示する片眼表示を行うこと、
    を特徴とする請求項13または14に記載の表示装置。
  16. 前記制御部は、前記外部撮像部の撮像画像に基づく前記画像を、前記表示部により、左右の視差を有さない態様で前記使用者の右眼及び左眼のそれぞれに対応して表示すること、
    を特徴とする請求項13または14に記載の表示装置。
  17. 外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部と、前記表示部の装着状態において前記使用者の視線方向を含む範囲を撮像する外部撮像部と、前記使用者による指示を受け付ける入力情報取得部と、を備え、前記表示部は、前記表示部を透過する外光により前記使用者が前記外景を視認可能であり、前記外景と同時に視認可能に前記画像を表示するよう構成され、前記表示部を透過する外光に比べ前記表示部に表示される前記画像の視認性を調整可能な表示装置の制御方法であって、
    前記表示部による前記画像の表示、前記使用者の注視距離に応じて制御し、
    前記使用者の注視距離が設定された距離より短い場合に、前記外部撮像部の撮像画像に基づく前記画像を前記表示部に表示させる撮像画像表示モードを実行し、
    前記撮像画像表示モードにおいて、前記入力情報取得部によって拡大の指示を受け付けた場合であって、設定値以上の拡大倍率が指定された場合に第1表示モードの表示を行い、設定値より小さい拡大倍率が指定された場合に第2表示モードの表示を行い、
    記表示部を透過して視認される前記外景の視認性が前記第1表示モードと前記第2表示モードとで異なり、前記拡大倍率が高いほど前記表示部に表示される前記画像の視認性が高くなるように、前記表示部に表示される前記画像の視認性を調整すること、
    を特徴とする表示装置の制御方法。
  18. 外景を視認可能に、使用者の右眼と左眼のそれぞれに対応して画像を表示する表示部と、前記表示部の装着状態において前記使用者の視線方向を含む範囲を撮像する外部撮像部と、前記使用者による指示を受け付ける入力情報取得部と、を備え、前記表示部は、前記表示部を透過する外光により前記使用者が前記外景を視認可能であり、前記外景と同時に視認可能に前記画像を表示するよう構成され、前記表示部を透過する外光に比べ前記表示部に表示される前記画像の視認性を調整可能な表示装置を制御するコンピューターが実行可能なプログラムであって、
    前記コンピューターを、前記表示部による前記画像の表示、前記使用者の注視距離に応じて制御する制御部として機能させ、
    前記制御部は、前記使用者の注視距離が設定された距離より短い場合に、前記外部撮像部の撮像画像に基づく前記画像を前記表示部に表示させる撮像画像表示モードを実行し、
    前記撮像画像表示モードにおいて、前記入力情報取得部によって拡大の指示を受け付けた場合であって、設定値以上の拡大倍率が指定された場合に第1表示モードの表示を行い、設定値より小さい拡大倍率が指定された場合に第2表示モードの表示を行い、
    記表示部を透過して視認される前記外景の視認性が前記第1表示モードと前記第2表示モードとで異なり、前記拡大倍率が高いほど前記表示部に表示される前記画像の視認性が高くなるように、前記表示部に表示される前記画像の視認性を調整する、ことを特徴とするプログラム。
JP2015173682A 2015-03-27 2015-09-03 表示装置、表示装置の制御方法、及び、プログラム Active JP6707823B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015173682A JP6707823B2 (ja) 2015-09-03 2015-09-03 表示装置、表示装置の制御方法、及び、プログラム
US15/049,203 US10162412B2 (en) 2015-03-27 2016-02-22 Display, control method of display, and program
CN201610117993.XA CN106019584A (zh) 2015-03-27 2016-03-02 显示装置、显示装置的控制方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015173682A JP6707823B2 (ja) 2015-09-03 2015-09-03 表示装置、表示装置の制御方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2017049468A JP2017049468A (ja) 2017-03-09
JP6707823B2 true JP6707823B2 (ja) 2020-06-10

Family

ID=58279491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015173682A Active JP6707823B2 (ja) 2015-03-27 2015-09-03 表示装置、表示装置の制御方法、及び、プログラム

Country Status (1)

Country Link
JP (1) JP6707823B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7118650B2 (ja) * 2018-01-18 2022-08-16 キヤノン株式会社 表示装置
US11687159B2 (en) 2018-11-01 2023-06-27 Sony Interactive Entertainment Inc. VR sickness reduction system, head-mounted display, VR sickness reduction method, and program
JP7146585B2 (ja) * 2018-11-13 2022-10-04 本田技研工業株式会社 視線検出装置、プログラム、及び、視線検出方法
BR112021014523A2 (pt) * 2019-01-24 2021-09-28 Cao Group, Inc. Lupa eletrônica
WO2020178960A1 (ja) * 2019-03-04 2020-09-10 マクセル株式会社 リモート操作指示システム、及びマウント型デバイス
CN113614611B (zh) * 2019-05-07 2023-09-15 苹果公司 头戴式显示器的调节机构
WO2021152683A1 (ja) * 2020-01-28 2021-08-05 三菱電機株式会社 表示制御装置、表示制御システム及び表示制御方法
WO2024070289A1 (ja) * 2022-09-29 2024-04-04 ソニーグループ株式会社 ヘッドマウントディスプレイ

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3186448B2 (ja) * 1994-08-01 2001-07-11 ミノルタ株式会社 立体テレビカメラ
JP3717653B2 (ja) * 1998-01-20 2005-11-16 株式会社リコー 頭部搭載型画像表示装置
JP5434848B2 (ja) * 2010-08-18 2014-03-05 ソニー株式会社 表示装置
AU2011204946C1 (en) * 2011-07-22 2012-07-26 Microsoft Technology Licensing, Llc Automatic text scrolling on a head-mounted display
JP6111659B2 (ja) * 2012-12-28 2017-04-12 セイコーエプソン株式会社 表示装置、および、表示装置の制御方法
JP6232763B2 (ja) * 2013-06-12 2017-11-22 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6707809B2 (ja) * 2015-03-27 2020-06-10 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム

Also Published As

Publication number Publication date
JP2017049468A (ja) 2017-03-09

Similar Documents

Publication Publication Date Title
US10162412B2 (en) Display, control method of display, and program
JP6707823B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
CN112130329B (zh) 头部佩戴型显示装置以及头部佩戴型显示装置的控制方法
KR101845350B1 (ko) 두부 장착형 표시 장치 및 두부 장착형 표시 장치의 제어 방법
US10645374B2 (en) Head-mounted display device and display control method for head-mounted display device
JP6707809B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6337418B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6089705B2 (ja) 表示装置、および、表示装置の制御方法
US20160133051A1 (en) Display device, method of controlling the same, and program
US20170160550A1 (en) Display device, control method for display device, and program
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6492531B2 (ja) 表示装置、及び、表示装置の制御方法
JP6488786B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
US10416460B2 (en) Head mounted display device, control method for head mounted display device, and computer program
JP6432197B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2016224086A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016122177A (ja) 表示装置、及び、表示装置の制御方法
JP2016024208A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2016033759A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6575117B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6620417B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP2016090853A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6638195B2 (ja) 表示装置、表示装置の制御方法、および、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200504

R150 Certificate of patent or registration of utility model

Ref document number: 6707823

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150