JP6107276B2 - 頭部装着型表示装置および頭部装着型表示装置の制御方法 - Google Patents

頭部装着型表示装置および頭部装着型表示装置の制御方法 Download PDF

Info

Publication number
JP6107276B2
JP6107276B2 JP2013059593A JP2013059593A JP6107276B2 JP 6107276 B2 JP6107276 B2 JP 6107276B2 JP 2013059593 A JP2013059593 A JP 2013059593A JP 2013059593 A JP2013059593 A JP 2013059593A JP 6107276 B2 JP6107276 B2 JP 6107276B2
Authority
JP
Japan
Prior art keywords
unit
display
head
user
virtual image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013059593A
Other languages
English (en)
Other versions
JP2014186089A (ja
Inventor
小林 伸一
伸一 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013059593A priority Critical patent/JP6107276B2/ja
Priority to US14/206,639 priority patent/US9823473B2/en
Publication of JP2014186089A publication Critical patent/JP2014186089A/ja
Application granted granted Critical
Publication of JP6107276B2 publication Critical patent/JP6107276B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems

Description

本発明は、頭部装着型表示装置に関する。
現実環境にコンピューターを用いて情報を付加提示する拡張現実感(AR、Augmented Reality)と呼ばれる技術が知られている。拡張現実感を実現する方法として、画像認識による方法と、パススルー方式に基づく方法と、が知られている。画像認識による方法の場合、例えばWEBカメラ等で撮像された外景の画像を画像認識することで付加提示用の情報が生成される。パススルー方式に基づく方法の場合、例えばGPS等で取得された現在位置情報と、例えば電子コンパス等で取得された方位情報とを用いて付加提示用の情報が生成される。頭部装着型表示装置を装着した状態において使用者の視界が遮断される非透過型の頭部装着型表示装置では、外景の画像と、上記のようにして生成された付加提示用の情報とを重畳させた画像が、液晶ディスプレイに表示される。これにより、使用者は拡張現実感を体感することができる。一方、頭部装着型表示装置を装着した状態で使用者の視界が遮断されない透過型の頭部装着型表示装置では、上記のようにして生成された付加提示用の情報のみが液晶ディスプレイに表示される。使用者は、液晶ディスプレイを介して虚像として表示された付加提示用の情報と、目前のレンズを透過して見える実際の外景との両方を視認することで、拡張現実感を体感することができる。
上記のような拡張現実感を利用して、使用者に対して、使用者が行うべき作業内容や作業手順を案内する技術が知られている。例えば、特許文献1には、透過型の頭部装着型表示装置が備える透光型の液晶表示パネルにアニメーションを表示させる際に、使用者が液晶表示パネルを介して視認する作業対象物そのものに対してアニメーションを重畳させる技術が記載されている。特許文献2には、網膜走査型の頭部装着型表示装置において、使用者が行っている作業に関連した情報を選定し、当該情報に基づいた画像を使用者に視認可能とする技術が記載されている。
特許第3735086号公報 特開2011−114781号公報
特許文献1、2に記載された技術では、使用者が行う作業を支援することができる。しかし、使用者が、虚像として表示されているアニメーションや画像を頭に入れて作業に取り掛かろうとした際、使用者の眼前に表示されている虚像は、使用者の視界を遮り、作業の妨げになる恐れがあるという問題があった。
このような問題は、拡張現実感を利用した作業支援に限られない。このような問題は、例えば透過型や網膜走査型等の使用者が虚像と外景とを視認可能な頭部装着型表示装置における虚像の表示全般に共通する問題であった。
このため、使用者の意図に応じて外景の視認性を向上させることが可能な頭部装着型表示装置が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
本発明の第1の形態は、 使用者が虚像と外景を視認可能な頭部装着型表示装置であって、使用者に前記虚像を視認させる画像表示部と、前記使用者の視線方向を検出する検出部と、検出された前記視線方向に応じて、前記画像表示部による前記虚像の表示を、前記外景を優先する外景優先表示と前記虚像を優先する虚像優先表示との間で切り替える表示切替部と、を備える。前記表示切替部は、第1の動作モードと、第2の動作モードの、少なくとも2つの動作モードを有し、前記第1の動作モードにおいて、前記視線方向が第1の方向である場合は前記虚像優先表示とし、前記視線方向が第2の方向である場合は前記外景優先表示とし、前記第2の動作モードにおいて、前記視線方向が前記第1の方向である場合は前記外景優先表示とし、前記視線方向が前記第2の方向である場合は前記虚像優先表示とする、頭部装着型表示装置である。
この頭部装着型表示装置によれば、検出部が検出する使用者の視線方向には、使用者の見ようとしているもの、すなわち、使用者の意図が反映されている。そして、表示切替部は、この視線方向に応じて、画像表示部による虚像の表示を、外景を優先して外景の視認性を向上させる外景優先表示と、虚像を優先する虚像優先表示と、の間で切り替える。この結果、頭部装着型表示装置において、使用者の意図に応じて外景の視認性を向上させることができる。また、表示切替部は、外景の視認性を向上させる視線方向が異なる複数の動作モードを有するため、使用者は、好みに応じた動作モードで、表示切替部を動作させることができる。この結果、頭部装着型表示装置の使用者の利便性を向上させることができる。
(1)本発明の一形態によれば、使用者が虚像と外景を視認可能な頭部装着型表示装置が提供される。この頭部装着型表示装置は;使用者に前記虚像を視認させる画像表示部と;前記使用者の視線方向を検出する検出部と;検出された前記視線方向に応じて、前記画像表示部による前記虚像の表示を、前記外景を優先する外景優先表示と前記虚像を優先する虚像優先表示との間で切り替える表示切替部と、を備える。この形態の頭部装着型表示装置によれば、検出部が検出する使用者の視線方向には、使用者の見ようとしているもの、すなわち、使用者の意図が反映されている。そして、表示切替部は、この視線方向に応じて、画像表示部による虚像の表示を、外景を優先して外景の視認性を向上させる外景優先表示と、虚像を優先する虚像優先表示と、の間で切り替える。この結果、頭部装着型表示装置において、使用者の意図に応じて外景の視認性を向上させることができる。
(2)上記形態の頭部装着型表示装置では、さらに;前記頭部装着型表示装置の利用状態に応じて、前記検出部による前記検出の感度を変更する変更部を備えてもよい。この形態の頭部装着型表示装置によれば、変更部は、頭部装着型表示装置の利用状態に応じて、検出部による検出の感度を変更することができる。このため、表示切替部は、きめ細かく外景優先表示と虚像優先表示とを切り替えるのか、おおまかに外景優先表示と虚像優先表示とを切り替えるのかを、頭部装着型表示装置の利用状態に応じて変更することができる。この結果、頭部装着型表示装置の使用者の利便性を向上させることができる。
(3)上記形態の頭部装着型表示装置において;前記変更部は、前記利用状態が動的である場合は前記検出の感度を低く変更し、前記利用状態が静的である場合は前記検出の感度を高く変更してもよい。この形態の頭部装着型表示装置によれば、変更部は、使用者の体や頭部や視線がめまぐるしく変化することが多い動的な利用状態において、検出部による検出の感度を低く変更する。このため、検出部によって検出される視線方向の過剰な変化を抑制することができる。また、変更部は、使用者の体や頭部や視線はあまり変化しない静的な利用状態において、検出部による検出の感度を高く変更する。このため、検出部は、視線方向の小さな変化についても検出することが可能となる。
(4)上記形態の頭部装着型表示装置では、さらに;前記使用者の頭の動きを検出する動き検出部を備え;前記変更部は、検出された前記頭の動きを用いて、前記利用状態が動的であるか静的であるかを推定してもよい。この形態の頭部装着型表示装置によれば、変更部は、動き検出部によって検出された使用者の頭の動きを用いて、利用状態が動的であるか静的であるかを推定し、自動的に、検出部による検出の感度を変更することができる。
(5)上記形態の頭部装着型表示装置において;前記視線方向は、少なくとも、前記使用者の視線が略前方方向を向いている第1の方向と、前記使用者の視線が略鉛直方向を向いている第2の方向と、を含んでもよい。この形態の頭部装着型表示装置によれば、視線方向には、少なくとも、使用者の視線が略前方方向を向いている第1の方向と、使用者の視線が略鉛直方向を向いている第2の方向とが含まれることを明確にすることができる。
(6)上記形態の頭部装着型表示装置において;前記表示切替部は;第1の動作モードと、第2の動作モードの、少なくとも2つの動作モードを有し;前記第1の動作モードにおいて、前記視線方向が前記第1の方向である場合は前記虚像優先表示とし、前記視線方向が前記第2の方向である場合は前記外景優先表示とし;前記第2の動作モードにおいて、前記視線方向が前記第1の方向である場合は前記外景優先表示とし、前記視線方向が前記第2の方向である場合は前記虚像優先表示としてもよい。この形態の頭部装着型表示装置によれば、表示切替部は、第1の動作モードにおいて、視線方向が第1の方向である場合は虚像優先表示とし、第2の方向である場合は外景優先表示とするため、使用者が下方に視線を向けた際に外景の視認性を向上させることができる。また、表示切替部は、第2の動作モードにおいて、視線方向が第1の方向である場合は外景優先表示とし、第2の方向である場合は虚像優先表示とするため、使用者が前方に視線を向けた際に外景の視認性を向上させることができる。このように、表示切替部は、外景の視認性を向上させる視線方向が異なる複数の動作モードを有するため、使用者は、好みに応じた動作モードで、表示切替部を動作させることができる。この結果、頭部装着型表示装置の使用者の利便性を向上させることができる。
(7)上記形態の頭部装着型表示装置において;前記表示切替部は、前記虚像を非表示とするか、前記虚像の表示サイズを小さくするか、前記虚像の表示を薄くするか、前記虚像の表示場所を前記使用者の視野の端部近傍とするか、のいずれかの手段を用いて、前記外景優先表示を行ってもよい。この形態の頭部装着型表示装置によれば、表示切替部は、外景優先表示において、虚像を非表示とするか、前虚像の表示サイズを小さくするか、虚像の表示を薄くするか、のいずれかの手段を用いることができる。虚像を非表示とすれば、外景の視認性を向上させることができる。虚像の表示サイズを小さくすれば、虚像が表示されていない他の部分において外景の視認性を向上させることができる。虚像の表示を薄くすれば、使用者が虚像を透過して視認する外景の視認性を向上させることができる。虚像の表示場所を使用者の視野の端部近傍とすれば、虚像が表示されていない他の部分において外景の視認性を向上させることができる。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、画像表示部と、検出部と、表示切替部と、の3つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、画像表示部を有していてもよく、有していなくてもよい。また、この装置は、検出部を有していてもよく、有していなくてもよい。また、この装置は、表示切替部を有していてもよく、有していなくてもよい。こうした装置は、例えば頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、頭部装着型表示装置および頭部装着型表示装置の制御方法、頭部装着型表示システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における頭部装着型表示装置の概略構成を示す説明図である。 ヘッドマウントディスプレイの構成を機能的に示すブロック図である。 使用者に視認される虚像の一例を示す説明図である。 表示切替処理の手順を示すフローチャートである。 使用者の視線方向について説明する説明図である。 視線方向の検出方法について説明する説明図である。 手元作業モードの場合の虚像優先表示と外景優先表示とについて説明するための説明図である。 実況モードの場合の虚像優先表示と外景優先表示とについて説明するための説明図である。 虚像優先表示のバリエーションを示す説明図である。 付加的処理1の手順を示すフローチャートである。 第2実施形態におけるヘッドマウントディスプレイの構成を機能的に示すブロック図である。 状態推定処理の手順を示すフローチャートである。 視線方向の検出感度の変更方法について説明するための説明図である。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.頭部装着型表示装置の構成:
図1は、本発明の一実施形態における頭部装着型表示装置の概略構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。
ヘッドマウントディスプレイ100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部(コントローラー)10とを備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、発光部61と、受光部62と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22は、右保持部21の内側、換言すれば、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。また、左表示駆動部24は、左保持部23の内側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部は、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)241、242や投写光学系251、252等を含む(図2参照)。表示駆動部の構成の詳細は後述する。光学部材としての光学像表示部は、導光板261、262(図2参照)と調光板とを含んでいる。導光板261、262は、光透過性の樹脂材料等によって形成され、表示駆動部から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、画像表示部20の表側(使用者の眼の側とは反対の側)を覆うように配置されている。調光板は、導光板261、262を保護し、導光板261、262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
発光部61は、画像表示部20の内側であって、使用者が画像表示部20を装着した際の使用者の眉間に対向する位置に配置されている。発光部61は、非可視光である赤外線を発光する発光体であり、例えば、赤外線発光ダイオードを用いることができる。受光部62は、画像表示部20の内側であって、使用者が画像表示部20を装着した際の使用者の眉間に対向する位置に配置されている。受光部62は、非可視光である赤外線を受光する受光体であり、例えば、赤外線フォトダイオードが用いられる。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、本体コード48が2本に分岐した右コード42および左コード44と、分岐点に設けられた連結部材46と、を含んでいる。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46には、イヤホンプラグ30を接続するためのジャックが設けられている。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行う。本体コード48における連結部材46とは反対側の端部と、制御部10とのそれぞれには、互いに嵌合するコネクター(図示省略)が設けられており、本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48には、例えば、金属ケーブルや光ファイバーを採用することができる。
制御部10は、ヘッドマウントディスプレイ100を制御するための装置である。制御部10は、点灯部12と、タッチパッド14と、十字キー16と、電源スイッチ18とを含んでいる。点灯部12は、ヘッドマウントディスプレイ100の動作状態(例えば、電源のON/OFF等)を、その発光態様によって通知する。点灯部12としては、例えば、LED(Light Emitting Diode)を用いることができる。タッチパッド14は、タッチパッド14の操作面上での接触操作を検出して、検出内容に応じた信号を出力する。タッチパッド14としては、静電式や圧力検出式、光学式といった種々のタッチパッドを採用することができる。十字キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、ヘッドマウントディスプレイ100の電源の状態を切り替える。
図2は、ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、CPU140と、インターフェイス180と、送信部(Tx)51および52とを備え、各部は図示しないバスにより相互に接続されている。
入力情報取得部110は、例えば、タッチパッド14や十字キー16、電源スイッチ18などに対する操作入力に応じた信号を取得する。記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。記憶部120には、動作モード122が格納されている。動作モード122には、予め定められた表示切替部144の「動作モード」が記憶されている。本実施形態の表示切替部144は、以下に示す2つの動作モードを有する。
(1)使用者の視線方向が略前方方向である場合に虚像優先表示(詳細は後述)とし、略鉛直方向である場合に外景優先表示(詳細は後述)とする手元作業モード。手元作業モードは、特許請求の範囲における「第1の動作モード」に相当する。
(2)使用者の視線方向が略前方方向である場合に外景優先表示とし、略鉛直方向である場合に虚像優先表示とする実況モード。実況モードは、特許請求の範囲における「第2の動作モード」に相当する。
電源130は、ヘッドマウントディスプレイ100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、無線LANやブルートゥースといった所定の無線通信規格に則って、他の機器との間で無線通信を行う。GPSモジュール134は、GPS衛星からの信号を受信することにより、自身の現在位置を検出する。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(ОS)150、画像処理部160、音声処理部170、表示制御部190、検出部142、表示切替部144として機能する。検出部142は、受光部62からの出力信号を用いて、使用者の視線の方向(以降「視線方向」とも呼ぶ。)を検出する。詳細は後述する。表示切替部144は、表示切替処理を実行する。表示切替処理とは、検出部142により検出された視線方向に応じて、画像表示部20による虚像の表示を、外景を優先する外景優先表示と、虚像を有線させた虚像有線表示と、の間で切り替える処理である。詳細は後述する。なお、検出部142と発光部61と受光部62とは、特許請求の範囲における「検出部」に相当する。
画像処理部160は、インターフェイス180や無線通信部132を介して入力されるコンテンツ(映像)に基づいて信号を生成する。そして、画像処理部160は、生成した信号を、接続部40を介して画像表示部20に供給する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。アナログ形式の場合、画像処理部160は、クロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、画像データーDataとを生成・送信する。具体的には、画像処理部160は、コンテンツに含まれる画像信号を取得する。取得した画像信号は、例えば動画像の場合、一般的に1秒あたり30枚のフレーム画像から構成されているアナログ信号である。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離し、それらの周期に応じて、PLL回路等によりクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等を用いてディジタル画像信号に変換する。画像処理部160は、変換後のディジタル画像信号を、RGBデーターの画像データーDataとして、1フレームごとに記憶部120内のDRAMに格納する。一方、ディジタル形式の場合、画像処理部160は、クロック信号PCLKと、画像データーDataとを生成・送信する。具体的には、コンテンツがディジタル形式の場合、クロック信号PCLKが画像信号に同期して出力されるため、垂直同期信号VSyncおよび水平同期信号HSyncの生成と、アナログ画像信号のA/D変換とが不要となる。なお、画像処理部160は、記憶部120に格納された画像データーDataに対して、解像度変換処理や、輝度・彩度の調整といった種々の色調補正処理や、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSyncと、記憶部120内のDRAMに格納された画像データーDataとを、送信部51、52を介してそれぞれ送信する。なお、送信部51を介して送信される画像データーDataを「右眼用画像データーData1」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データーData2」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFFや、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFFや、左バックライト制御部202による左バックライト222の駆動ON/OFFなどを個別に制御することにより、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。また、表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号を、送信部51および52を介してそれぞれ送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号を、それぞれ送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内の図示しないスピーカーおよび左イヤホン34内の図示しないスピーカーに対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34からは、それぞれ、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器ОAとしては、例えば、パーソナルコンピューターPCや携帯電話端末、ゲーム端末等がある。インターフェイス180としては、例えば、USBインターフェイスや、マイクロUSBインターフェイス、メモリーカード用インターフェイス等を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、発光部61と、受光部62と、9軸センサー66とを備えている。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。なお、9軸センサー66は、特許請求の範囲における「動き検出部」に相当する。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データーData1とに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。なお、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出してもよい。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。光学像表示部は、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。
図3は、使用者に視認される虚像の一例を示す説明図である。図3では、使用者の視野VRを例示している。上述のようにして、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像VIを視認する。図3の例では、虚像VIは、ヘッドマウントディスプレイ100のOSの待ち受け画面である。また、使用者は、右光学像表示部26および左光学像表示部28を透過して外景SCを視認する。このように、本実施形態のヘッドマウントディスプレイ100の使用者は、視野VRのうち虚像VIが表示された部分については、虚像VIと、虚像VIの背後に外景SCとを見ることができる。また、視野VRのうち虚像VIが表示されていない部分については、光学像表示部を透過して、外景SCを直接見ることができる。
A−2.表示切替処理:
図4は、表示切替処理の手順を示すフローチャートである。表示切替処理は、使用者の視線方向に応じて、画像表示部20による虚像の表示を、外景を優先する外景優先表示と、虚像を有線させた虚像有線表示と、の間で切り替える処理である。表示切替処理の開始トリガーは任意に定めることができる。例えば、ヘッドマウントディスプレイ100が起動されたこと、換言すれば、電源のONを検出したことを開始トリガーとしてもよい。また、例えば、OS150や、特定のアプリケーションからの処理開始要求を開始トリガーとしてもよい。なお、表示切替処理が特定のアプリケーションから呼び出されて実行される場合、表示切替処理は、特定のアプリケーションのサブルーチンとして動作する。
表示切替処理において、表示切替部144は、記憶部120の動作モード122に記憶されている動作モードを確認する(ステップS102)。表示切替部144は、動作モードが「手元作業モード」である場合は処理をステップS110へ遷移させ、動作モードが「実況モード」である場合は処理をステップS120へ遷移させる(ステップS104)。
動作モードが手元作業モードである場合(ステップS104:手元作業)、表示切替部144は、検出部142に使用者の視線方向を検出させる(ステップS110)。
A−2−1.視線方向の検出:
図5は、使用者の視線方向について説明する説明図である。図5(A)は、視線方向が前方方向である場合の使用者の右眼REと左眼LEとの様子を示している。図示のように、使用者の視線が略前方方向、換言すれば、前方を向いている場合、右眼REの虹彩RIは、右眼REのほぼ中央に位置している。左眼LEの虹彩LIについても同様である。なお、図5(A)のような前方方向は、特許請求の範囲における「第1の方向」に相当する。
図5(B)は、視線方向が鉛直方向である場合の使用者の右眼REと左眼LEとの様子を示している。図示のように、使用者の視線が略鉛直方向、換言すれば、下を向いている場合、右眼REのまぶたRLiは下がった状態となり、右眼REの中央にかかっている。左眼LEのまぶたLLiについても同様である。なお、図5(B)のような鉛直方向は、特許請求の範囲における「第2の方向」に相当する。
図5(C)は、視線方向が側方方向である場合の使用者の右眼REと左眼LEとの様子を示している。図示のように、使用者の視線が略側方方向、換言すれば、側方を向いている場合、右眼REの虹彩RIは右眼REの端部に位置しており、右眼REの中央には白目RWが位置している。左眼LEの虹彩LIについても同様である。
なお、上記で説明した使用者の視線方向(前方方向、鉛直方向、側方方向)は、使用者の視線が向いているおおむねの方向という意味であり、多少のずれを許容する。
図6は、視線方向の検出方法について説明する説明図である。図6(A)は、発光部61と受光部62とについて説明するための説明図である。図6(A)では、ヘッドマウントディスプレイ100を装着した使用者の右眼REを、横から見た際の概観を示している。発光部61および受光部62は、画像表示部20の内側であって、使用者が画像表示部20を装着した際の使用者の眉間に対向する位置に配置されている。発光部61は、使用者の右眼REの中央および左眼LEの中央に向けて、非可視光である赤外線を発光する。発光部61から発光された赤外線は、使用者の右眼REおよび左眼LEに反射する。受光部62は、使用者の右眼REおよび左眼LEによって反射した反射光を受光し、受光した赤外線の大きさに応じた出力信号を、検出部142へ送信する。
図6(B)は、検出部142が、受光部62からの出力信号に基づいて使用者の視線方向を検出する様子を説明する説明図である。使用者の右眼REおよび左眼LEにおける赤外線の反射率は、赤外線が虹彩(黒目)に当たった場合と、赤外線がまぶたに当たった場合と、赤外線が白目に当たった場合と、でそれぞれ異なる。具体的には、赤外線の反射率は、赤外線が虹彩に当たった場合が最も低く、次いで、まぶた、白目の順に高くなっていく。このため、受光部62からの出力信号が示す検出値は、虹彩、まぶた、白目の順に大きくなる。
従って、検出部142は、受光部62からの出力信号が示す検出値が第1の閾値Th1以上である場合は、赤外線が白目に当たったと判定する。同様に、検出部142は、受光部62からの出力信号が示す検出値が第1の閾値Th1より小さく、かつ、第2の閾値Th2より大きい場合は、赤外線がまぶたに当たったと判定する。同様に、検出部142は、受光部62からの出力信号が示す検出値が第2の閾値Th2以下である場合は、赤外線が虹彩(黒目)に当たったと判定する。
検出部142は、受光部62からの出力信号を受信する時間間隔tごとに上記の判定を行い、同じ状態が3回以上継続した場合に、当該状態を使用者の視線方向であると検出する。すなわち、3回以上継続して赤外線が白目に当たったと判定した場合、検出部142が検出する使用者の視線方向は「側方方向」となる。同様に、3回以上継続して赤外線がまぶたに当たったと判定した場合、検出部142が検出する使用者の視線方向は「鉛直方向」となる。同様に、3回以上継続して赤外線が虹彩に当たったと判定した場合、検出部142が検出する使用者の視線方向は「前方方向」となる。
図6(B)の例では、検出部142は、使用者の視線方向が、まぶた、虹彩(黒目)、まぶた、の順に変化したことを検出する。なお、図6(B)の破線で図示した部分(白目の判定)は、無視される。
図4のステップS112において表示切替部144は、使用者の視線方向が鉛直方向であるか否かを判定する。使用者の視線方向が鉛直方向でない場合(ステップS112:NO)、換言すれば、視線方向が側方方向か前方方向である場合、表示切替部144は、画像表示部20による虚像の表示を虚像優先表示とし(ステップS114)、その後、処理をステップS110へ遷移させる。一方、使用者の視線方向が鉛直方向である場合(ステップS112:YES)、表示切替部144は、画像表示部20による虚像の表示を外景優先表示とし(ステップS116)、その後、処理をステップS110へ遷移させる。
A−2−2.虚像優先表示と外景優先表示:
本実施形態において、「虚像優先表示」とは、虚像VI(図3)の表示中において、虚像VIと比較した外景SCの視認性を向上させることによって、外景を優先させた表示を行うことを意味する。「外景優先表示」とは、虚像VIの表示中において、外景SCと比較した虚像VIの視認性を向上させることによって、虚像を優先させた表示を行うことを意味する。
図7は、手元作業モードの場合の虚像優先表示と外景優先表示とについて説明するための説明図である。図7(A)は、手元作業モードの場合の虚像優先表示の様子を表している。虚像優先表示では、図3と同様に、使用者の視野VRの中央から端部近傍にかけての広範な領域に虚像VIが表示される。このため、使用者は、視野VR内に虚像VIをはっきりと視認することができる。図7(A)の例では、虚像VIとして、使用者の作業(半田付け)を補助するための図面である回路図が表示されている。なお、虚像優先表示の場合、表示切替部144は、画像処理部160や表示制御部190に対して何もしない。
図7(B)は、手元作業モードの場合の外景優先表示の様子を表している。外景優先表示では、虚像VIは非表示とされる。具体的には、表示切替部144は、表示制御部190に対して、虚像を非表示とする旨の要求を送信する。要求を受信した表示制御部190は、右表示駆動部22および左表示駆動部24に対する制御信号をOFFにすることで、画像光の生成を停止させる。この結果、使用者は、視野VRにおいて、光学像表示部(右光学像表示部26、左光学像表示部28)を透過して、外景SCをはっきりと視認することができる。
このように、手元作業モード(第1の動作モード)において、表示切替部144は、使用者の視線方向が前方方向(第1の方向)である場合は虚像優先表示とし、鉛直方向(第2の方向)である場合は外景優先表示とする。このため、使用者が前方に視線を向けた際に虚像VIを視認させ、下方に視線を向けた際に外景SCの視認性を向上させることができる。従って、手元作業モードは、組み立て作業や、製造作業、筆記作業、手術等の「使用者が下方に視線を向けながら作業を行う場面」に適している。
図4のステップS104において、動作モードが実況モードである場合(ステップS104:実況)、表示切替部144は、検出部142に使用者の視線方向を検出させる(ステップS120)。詳細は、ステップS110と同様である。その後、ステップS122において表示切替部144は、使用者の視線方向が前方方向であるか否かを判定する。使用者の視線方向が前方方向でない場合(ステップS122:NO)、換言すれば、視線方向が側方方向か鉛直方向である場合、表示切替部144は、画像表示部20による虚像の表示を虚像優先表示とし(ステップS124)、その後、処理をステップS120へ遷移させる。一方、使用者の視線方向が前方方向である場合(ステップS122:YES)、表示切替部144は、画像表示部20による虚像の表示を外景優先表示とし(ステップS126)、その後、処理をステップS120へ遷移させる。
図8は、実況モードの場合の虚像優先表示と外景優先表示とについて説明するための説明図である。図8(A)は、実況モードの場合の外景優先表示の様子を表している。手元作業モードと同様に、外景優先表示では、虚像VIは非表示とされる。詳細は図7(B)で説明したとおりである。図8(B)は、実況モードの場合の虚像優先表示の様子を表している。手元作業モードと同様に、虚像優先表示では、使用者の視野VRの中央から端部近傍にかけての広範な領域に虚像VIが表示される。詳細は図7(A)で説明したとおりである。
このように、実況モード(第2の動作モード)において、表示切替部144は、視線方向が前方方向(第1の方向)である場合は外景優先表示とし、鉛直方向(第2の方向)である場合は虚像優先表示とする。このため、使用者が前方に視線を向けた際に外景SCの視認性を向上させ、下方に視線を向けた際に虚像VIを視認させることができる。従って、実況モードは、スポーツ等の実況中継、司会やニュースの読み上げ、吹き替え作業、運転等の「使用者が前方に視線を向けながら作業を行う場面」に適している。
A−2−3.虚像優先表示のバリエーション:
図9は、虚像優先表示のバリエーションを示す説明図である。図9(A)は、バリエーションの一例を示す。図7(A)および図8(B)で説明した虚像優先表示では、使用者の視野VRの中央から端部近傍にかけての広範な領域に虚像VIが表示される。しかし、虚像優先表示において、表示切替部144は、使用者の視野VRの少なくとも一部を占めるような虚像VIを表示させてもよい。例えば、表示切替部144は、使用者の視野VRを上下や左右に仮想的に分割し、そのいずれか一方に虚像VIを表示させることができる。この場合、表示切替部144は、例えば、虚像VIを表示させる領域を画像処理部160に対して指定してもよい。領域の指定を受信した画像処理部160は、虚像VIとして表示させる画像とダミーの黒色データーとを組み合わせた画像データーを生成し、生成した画像データーを、右眼用画像データーData1および左眼用画像データーData2として画像表示部20へ送信する。また、表示切替部144は、虚像VIとして表示させる画像とダミーの黒データーとを組み合わせた画像データーを生成し、生成した画像データーを画像処理部160に対して送信してもよい。画像データーを受信した画像処理部160は、受信した画像データーを、右眼用画像データーData1および左眼用画像データーData2として画像表示部20へ送信する。
図9(A)の例では、使用者の視野VRが上下に分割され、下方に虚像VIが表示されている(斜線領域参照)。このように、使用者の視野VRを上下に分割して下方に虚像VIを表示する態様は、使用者の視野を確保したい視線方向から虚像VIを遠ざけて表示するという意味で、実況モードに適している。同じ理由により、手元作業モードでは、使用者の視野VRを上下に分割して上方に虚像VIを表示する態様が適している。
図9(B)は、バリエーションの他の例を示す。図9(B)の斜線領域で示すように、表示切替部144は、使用者が奥行感を感じるように、下側の幅を大きくし、上側の幅を小さくした虚像VIを表示させてもよい。
そのほか、虚像優先表示としては、例えば以下のような種々の態様を採用することができる。
・虚像VIの表示を強調するために、画像データーに色変換処理を施す。具体的には、例えば、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。その上で、表示切替部144は、画像データーに対して、カメラにより取得された外景画像の補色を強める色変換処理を施す。
・虚像VIの表示を強調するために、画像データーに加工を施す。具体的には、例えば、表示切替部144は、画像データーに含まれる画像の線や縁取りを太くする。
・虚像VIの表示を強調するために、バックライトのブリンキング動作を停止させる。バックライトのブリンキング動作とは、ある画像から次の画像への切り替わり時において、バックライトを消灯させて、残像を低減する動作である。この場合、表示切替部144は、右バックライト制御部201および左バックライト制御部202に対して、ブリンギング動作の停止指示を送信する。
・虚像VIの表示を強調するために、バックライトの演色性または色温度を高くする。この場合、右バックライト221および左バックライト222は、演色性および色温度が可変な構造を備えるものとする。
・虚像VIの表示を強調するために、画像表示部20の表側に配置されている調光板における外光の透過率を低くする。
A−2−4.外景優先表示のバリエーション:
図7(B)および図8(A)で説明した外景優先表示では、虚像VIが非表示とされる。しかし、外景優先表示において、表示切替部144は、虚像VIの表示サイズを小さくしてもよく、虚像VIの表示を薄くしてもよく、虚像VIの表示場所を、使用者の視野VRの端部近傍としてもよい。例えば、表示切替部144は、使用者の視野VRに占める虚像VIの大きさを、パーソナルコンピューターの画面全体に占めるアイコン程度の大きさに縮小することができる。この場合、表示切替部144は、虚像VIを表示させる領域を画像処理部160に対して指定してもよい。詳細は「A−2−3.虚像優先表示のバリエーション」と同様である。また、表示切替部144は、虚像VIとして表示させるアイコン大の画像とダミーの黒色データーとを組み合わせた画像データーを生成し、生成した画像データーを画像処理部160に対して送信してもよい。詳細は「A−2−3.虚像優先表示のバリエーション」と同様である。このようにして虚像VIの表示サイズを小さくすれば、表示切替部144は、虚像VIが表示されていない他の部分において外景SCの視認性を向上させることができる。また、使用者は、小さな虚像VIを視認することができるため、外景優先表示がされている間でも虚像の存在を認識することができる。
また、例えば、表示切替部144は、虚像VIの表示を薄くすることができる。この場合、制御部10の表示制御部190は、右バックライト制御部201に対して、右バックライト221の駆動ON/OFFを指定する制御信号と共に、右バックライト221の輝度を指定するための制御信号を送信する。左バックライト制御部202についても同様である。バックライトの輝度を指定するための制御信号としては、例えば、PWM(Pulse Width Modulation)信号を用いることができる。表示切替部144は、表示制御部190に対して、虚像VIの表示を薄くする旨の要求を送信する。要求を受信した表示制御部190は、右バックライト制御部201および左バックライト制御部202に対して、右バックライト221および左バックライト222の輝度を低下させるための制御信号(PWM信号)を送信する。右バックライト221および左バックライト222による照明光が暗くなれば、画像光生成部によって射出される画像光が弱くなるため、使用者の視野VRに表示される虚像VIは、薄くぼやけたような表示になる。このようにして虚像VIの表示を薄くすれば、使用者が虚像VIを透過して視認する外景SCの視認性を向上させることができる。また、使用者は、薄く表示された虚像VIを視認することができるため、外景優先表示がされている間でも虚像の存在を認識することができる。
なお、上記において、表示制御部190は、右バックライト制御部201および左バックライト制御部202に対して送信するPWM信号のデューティー比を時間と共に段階的に減少させてもよい。デューティー比の減少幅や、時間等は、任意に定めることができる。PWM信号のデューティー比が段階的に減少されることによって、右バックライト221、左バックライト222による照明光は、段階的に暗くなる(減光する)。こうすれば、使用者の視野VRに表示される虚像VIは、徐々に薄くぼやけたような表示へと変化する。
そのほか、外景優先表示としては、例えば以下のような種々の態様を採用することができる。
・虚像VIを目立たせなくするために、画像データーに色変換処理を施す。具体的には、例えば、表示切替部144は、画像データーに対して、カメラにより取得された外景画像の保護色となるような色変換処理を施す。
・虚像VIを目立たせなくするために、画像データーに加工を施す。具体的には、例えば、表示切替部144は、画像データーに含まれる画像の線や縁取りを細くする。
・虚像VIを目立たせなくするために、バックライトの演色性または色温度を低くする。この場合、右バックライト221および左バックライト222は、演色性および色温度が可変な構造を備えるものとする。
・虚像VIを目立たせなくするために、画像表示部20の表側に配置されている調光板における外光の透過率を高くする。
なお、虚像VIの視認性には、画像光の強さと、外界光の強さとが関連する。従って、外界光の強さを基準として画像光の強さを調節することによって、虚像優先表示と外景優先表示とを切り替えてもよい。
以上のように、第1実施形態によれば、検出部142が検出する使用者の視線方向には、使用者の見ようとしているもの、すなわち、使用者の意図が反映されている。そして、表示切替部144は、検出部142によって検出された視線方向に応じて、画像表示部20による虚像VIの表示を、外景SCを優先して外景SCの視認性を向上させる外景優先表示と、虚像VIを優先する虚像優先表示と、の間で切り替える。この結果、ヘッドマウントディスプレイ100(頭部装着型表示装置)において、使用者の意図に応じて外景SCの視認性を向上させることができる。
さらに、表示切替部144は、外景SCの視認性を向上させる視線方向が異なる複数の動作モード(第1の動作モードとしての手元作業モード、第2の動作モードとしての実況モード)を有するため、使用者は、好みに応じた動作モードで、表示切替部144を動作させることができる。この結果、ヘッドマウントディスプレイ100(頭部装着型表示装置)の使用者の利便性を向上させることができる。
A−3.表示切替処理における付加的処理:
なお、手順管理処理(図4)では、さらに、以下のような付加的処理1、2を行ってもよい。付加的処理1、2は、単独で付加してもよいし、組み合わせて付加してもよい。
A−3−1.付加的処理1:
図10は、付加的処理1の手順を示すフローチャートである。付加的処理1では、検出部142による使用者の視線方向の検出処理を、使用者の目の特徴、使用者の目の動きの特徴、ヘッドマウントディスプレイ100の使用環境等に応じてキャリブレーションする。
検出部142は、使用者の視線方向が前方方向である場合の検出値を取得する(ステップS12)。具体的には、検出部142は、画像表示部20に「まっすぐ前方を見てください」等のメッセージを含む虚像VIを表示させる。そして、発光部61から赤外線を射出させ、受光部62からの出力信号を受信する。ステップS12で受信した出力信号は、赤外線が黒目に当たった場合における受光部62の検出値である。次に検出部142は、使用者の視線方向が鉛直方向である場合の検出値を取得する(ステップS14)。具体的には、検出部142は、画像表示部20に「顔をまっすぐ向けたまま、視線を下に移動させてください」等のメッセージを含む虚像VIを表示させる。そして、発光部61から赤外線を射出させ、受光部62からの出力信号を受信する。ステップS14で受信した出力信号は、赤外線がまぶたに当たった場合における受光部62の検出値である。次に検出部142は、使用者の視線方向が鉛直方向である場合の検出値を取得する(ステップS16)。具体的には、検出部142は、画像表示部20に「顔をまっすぐ向けたまま、視線を横に移動させてください」等のメッセージを含む虚像VIを表示させる。そして、発光部61から赤外線を射出させ、受光部62からの出力信号を受信する。ステップS16で受信した出力信号は、赤外線が白目に当たった場合における受光部62の検出値である。
検出部142は、ステップS12、S14、S16で取得した検出値に基づいて、使用者の視線方向の検出処理で用いる閾値Th1、Th2を決定し、記憶部120へ記憶させる(ステップS18)。閾値Th1、Th2は、例えば以下のようにして決定することができる。
Th1=(ステップS14で取得した検出値+ステップS16で取得した検出値)/2
Th2=(ステップS12で取得した検出値+ステップS14で取得した検出値)/2
このように、付加的処理1によれば、検出部142は、使用者の視線方向が前方方向である場合の受光部62の検出値と、鉛直方向である場合の受光部62の検出値と、側方方向である場合の受光部62の検出値とを取得し、取得した検出値に基づいて、使用者の視線方向の検出処理で用いる閾値Th1、Th2を決定する。このようにすれば、検出部142は、ヘッドマウントディスプレイ100を実際に使う使用者の目の特徴(例えば、目の大きさ、虹彩の色や大きさ、瞳孔の色や大きさ)、目の動きの特徴(例えば、動き方の癖、動き量)、ヘッドマウントディスプレイ100の使用環境(例えば、周囲の明るさ)等の種々の条件を加味して閾値Th1、Th2を決定し、検出部142による使用者の視線方向の検出処理をキャリブレーションすることができる。
A−3−2.付加的処理2:
付加的処理2では、表示切替部144は、使用者の視線方向に応じた外景優先表示と虚像優先表示との切り替えに加えて、使用者の現在位置座標の変化と、頭の動きと、の少なくともいずれか一方に基づいて、外景優先表示と虚像優先表示とを切り替える。具体的には、例えば、表示切替部144は、現在位置座標が所定量以上変化した場合に、虚像優先表示から外景優先表示へと切り替える。使用者の現在位置座標は、GPSモジュール134により検出された制御部10の位置情報により取得する。こうすれば、表示切替部144は、使用者が移動していることを推定して、外景SCの視認性を向上させることができる。また、例えば、表示切替部144は、使用者の頭の動きが所定量以上である場合に、虚像優先表示から外景優先表示へと切り替える。使用者の頭の動きは、9軸センサー66により検出された動き情報により取得する。こうすれば、表示切替部144は、使用者が振り返ったり仰向いたりすることによって、他に注意を向けたことを推定して、外景SCの視認性を向上させることができる。
B.第2実施形態:
本発明の第2実施形態では、頭部装着型表示装置の利用状態に応じて検出部による使用者の視線方向の検出感度を変更することが可能な構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.頭部装着型表示装置の構成:
図11は、第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、制御部10に代えて制御部10aを備える点である。制御部10aは、CPU140に代えてCPU140aを備えている。CPU140aは、第1実施形態で説明した各処理部に加えて、変更部146を備えている。変更部146は、状態推定処理を実行する。
B−2.表示切替処理:
第2実施形態における表示切替処理は、上述の第1実施形態と同様である。
B−3.表示切替処理における付加的処理:
第2実施形態における付加的処理は、上述の第1実施形態と同様である。
B−4.状態推定処理:
図12は、状態推定処理の手順を示すフローチャートである。状態推定処理は、ヘッドマウントディスプレイ100aの利用状態を推定し、推定結果に応じて検出部142による視線方向の検出感度を変更する処理である。状態推定処理は、表示切替処理(図4)が実行される前の初期設定として実行されてもよいし、表示切替処理と並行して実行されてもよい。状態推定処理が表示切替処理の前に実行される場合、本処理によって、表示切替処理のステップS110、S120における視線方向の検出感度の調整をすることができる。状態推定処理が表示切替処理と並行して実行される場合、本処理によって、表示切替処理のステップS110、S120における視線方向の検出感度を動的に変更することができる。
まず、変更部146は、使用者の現在位置座標を取得する(ステップS202)。具体的には、変更部146は、GPSモジュール134により検出された制御部10の位置情報を取得し、取得した位置座標を記憶部120に記憶させる。変更部146は、使用者の頭の動きを取得する(ステップS204)。具体的には、変更部146は、9軸センサー66により検出された動き情報を取得し、取得した動き情報を記憶部120に記憶させる。変更部146は、使用者の現在位置座標と、頭の動きとを所定回数以上、記憶部120に記憶したか否かを判定する(ステップS205)。所定回数とは、任意に定めることができる。所定回数未満である場合(ステップS205:NO)、変更部146は処理をステップS202へ遷移させ、現在位置座標と頭の動きとの取得を継続する。
所定回数以上である場合(ステップS205:YES)、変更部146は、ヘッドマウントディスプレイ100aの利用状態を推定する(ステップS206)。具体的には例えば、変更部146は、以下の手順a〜eによって、利用状態を推定することができる。
(a)変更部146は、記憶部120に記憶されている頭の動きのうち、n回目に記憶された頭の動きとn+1回目に記憶された頭の動きとを比較し、両者の変化量が第3の閾値Th3以上であることを、所定の回数(例えば3回)以上検出した場合に、ヘッドマウントディスプレイ100aの利用状態は「動的」であると推定する。
(b)同様に、変更部146は、記憶部120に記憶されている頭の動きのうち、n回目に記憶された頭の動きとn+1回目に記憶された頭の動きとを比較し、両者の変化量が第4の閾値Th4以下であることを、所定の回数(例えば3回)以上検出した場合に、ヘッドマウントディスプレイ100aの利用状態は「静的」であると推定する。
(c)変更部146は、記憶部120に記憶されている現在位置のうち、n回目に記憶された現在位置とn+1回目に記憶された現在位置とを比較し、両者の変化量が第5の閾値Th5以上であることを、所定の回数(例えば3回)以上検出した場合に、ヘッドマウントディスプレイ100aの利用状態は「動的」であると推定する。
(d)同様に、変更部146は、記憶部120に記憶されている現在位置のうち、n回目に記憶された現在位置とn+1回目に記憶された現在位置とを比較し、両者の変化量が第6の閾値Th6以下であることを、所定の回数(例えば3回)以上検出した場合に、ヘッドマウントディスプレイ100aの利用状態は「静的」であると推定する。
(e)変更部146は、上記a〜dのいずれにも当てはまらない場合、ヘッドマウントディスプレイ100aの利用状態は「どちらでもない」と推定する。なお、上記における所定の閾値Th3〜Th6は、任意に定めることができる。所定の回数についても同様である。
図12のステップS208において、変更部146は、ステップS206の推定結果に応じて処理を分岐させる。利用状態が「動的」であると推定された場合(ステップS208:動的)、変更部146は、検出部142による視線方向の検出感度を低く変更する(ステップS210)。具体的には、変更部146は、検出部142に対して検出感度を低くする旨の要求を送信する。ステップS210終了後、変更部146は処理を終了させる。このように変更部146は、使用者の体や頭部や視線がめまぐるしく変化することが多い動的な利用状態において、検出部142による検出の感度を低く変更する。このため、検出部142によって検出される視線方向の過剰な変化を抑制することができる。
また、利用状態が「静的」であると推定された場合(ステップS208:静的)、変更部146は、検出部142による視線方向の検出感度を高く変更する(ステップS212)。具体的には、変更部146は、検出部142に対して検出感度を高くする旨の要求を送信する。ステップS212終了後、変更部146は処理を終了させる。このように変更部146は、使用者の体や頭部や視線はあまり変化しない静的な利用状態において、検出部142による検出の感度を高く変更する。このため、検出部142は、視線方向の小さな変化についても検出することが可能となる。
また、利用状態が「どちらでもない」と推定された場合(ステップS208:どちらでもない)、変更部146は、検出部142の検出感度を変更することなく、処理を終了させる。
図13は、視線方向の検出感度の変更方法について説明するための説明図である。図13(A)は、初期状態の検出部142が、受光部62からの出力信号に基づいて使用者の視線方向を検出する様子を説明する説明図である。初期状態では、検出部142は、受光部62からの出力信号を受信する時間間隔tごとに、赤外線が白目・まぶた・黒目のいずれに当たったかの判定を行い、同じ状態が「3回以上」継続した場合に、当該状態を使用者の視線方向であると検出する。詳細は図6(B)で説明した通りである。
図13(B)は、検出感度を低くする旨の要求を受信した検出部142が、受光部62からの出力信号に基づいて使用者の視線方向を検出する様子を説明する説明図である。検出感度を低くする旨の要求を受信した検出部142は、初期状態における上記「3回以上」の回数を増やす。図13(B)の例では「5回以上」としている。このようにすれば、(t×5)以内の使用者の視線方向の小さな変動、例えば、図において破線で示した部分は無視されるため、検出部142における視線方向の検出感度を低くすることができる。
図13(C)は、検出感度を高くする旨の要求を受信した検出部142が、受光部62からの出力信号に基づいて使用者の視線方向を検出する様子を説明する説明図である。検出感度を高くする旨の要求を受信した検出部142は、初期状態における上記「3回以上」の回数を減らす。図13(C)の例では「2回以上」としている。このようにすれば、使用者の視線が変動した状態が(t×2)継続するだけで、検出部142は当該視線方向の変動を検出することができるため、検出部142における視線方向の検出感度を高くすることができる。
以上のように、第2実施形態によれば、変更部146は、ヘッドマウントディスプレイ100a(頭部装着型表示装置)の利用状態に応じて、検出部142による検出の感度を変更することができる。このため、表示切替部144は、きめ細かく外景優先表示と虚像優先表示とを切り替えるのか、おおまかに外景優先表示と虚像優先表示とを切り替えるのかを、ヘッドマウントディスプレイ100aの利用状態に応じて変更することができる。この結果、ヘッドマウントディスプレイ100aの使用者の利便性を向上させることができる。
さらに、第2実施形態によれば、変更部146は、9軸センサー66(動き検出部)によって検出された使用者の頭の動きを用いて、利用場面が動的であるか静的であるかを推定し、自動的に、検出部142による検出の感度を変更することができる。この結果、ヘッドマウントディスプレイ100aの使用者の利便性をさらに向上させることができる。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態における、制御部と、画像表示部とに対する構成要素の割り振りは、あくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより接続部(コード)を廃した態様。
上記実施形態では、説明の便宜上、制御部が送信部を備え、画像表示部が受信部を備えるものとした。しかし、上記実施形態の送信部および受信部は、いずれも、双方向通信が可能な機能を備えており、送受信部として機能することができる。また、例えば、図2に示した制御部は、有線の信号伝送路を介して画像表示部と接続されているものとした。しかし、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth(登録商標)等の無線の信号伝送路を介した接続により接続されていてもよい。
例えば、図2に示した制御部、画像表示部の構成は任意に変更することができる。具体的には、例えば、制御部からタッチパッドを省略し、十字キーのみで操作する構成としてもよい。また、制御部に操作用スティック等の他の操作用インターフェイスを備えても良い。また、制御部にはキーボードやマウス等のデバイスを接続可能な構成として、キーボードやマウスから入力を受け付けるものとしてもよい。また、例えば、タッチパッドや十字キーによる操作入力のほか、フットスイッチ(使用者の足により操作するスイッチ)による操作入力を取得してもよい。例えば、画像表示部に赤外線センサー等の視線検知部を設けた上で、使用者の視線を検知し、視線の動きに対応付けられたコマンドによる操作入力を取得してもよい。例えば、カメラを用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得してもよい。ジェスチャー検知の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者の手にする医療器具等を動き検出のための目印にすることができる。フットスイッチや視線による操作入力を取得可能とすれば、使用者が手を離すことが困難である作業においても、入力情報取得部は、使用者からの操作入力を取得することができる。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。
図14は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図14(A)の例の場合、図1に示したヘッドマウントディスプレイ100との違いは、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備える点と、左光学像表示部28に代えて左光学像表示部28bを備える点である。右光学像表示部26bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め上に配置されている。図14(B)の例の場合、図1に示したヘッドマウントディスプレイ100との違いは、画像表示部20cが、右光学像表示部26に代えて右光学像表示部26cを備える点と、左光学像表示部28に代えて左光学像表示部28cを備える点である。右光学像表示部26cは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28cは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。
例えば、画像処理部、表示制御部、検出部、表示切替部、変更部、音声処理部等の機能部は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能部は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて構成されてもよい。
例えば、上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、画像表示部が通常の平面型ディスプレイ装置(液晶ディスプレイ装置、プラズマディスプレイ装置、有機ELディスプレイ装置等)であるとしてもよい。この場合にも、制御部と画像表示部との間の接続は、有線の信号伝送路を介した接続であってもよいし、無線の信号伝送路を介した接続であってもよい。このようにすれば、制御部を、通常の平面型ディスプレイ装置のリモコンとして利用することもできる。
また、画像表示部として、眼鏡のように装着する画像表示部に代えて、例えば帽子のように装着する画像表示部といった他の形状の画像表示部を採用してもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略しても良い。また、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
例えば、上記実施形態では、電源として二次電池を用いることしたが、電源としては二次電池に限らず、種々の電池を使用することができる。例えば、一次電池や、燃料電池、太陽電池、熱電池等を使用してもよい。
例えば、上記実施形態では、画像光生成部は、バックライトと、バックライト制御部と、LCDと、LCD制御部とを用いて構成されるものとした。しかし、上記の態様はあくまで例示である。画像光生成部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としても良い。また、例えば、画像生成部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
・変形例2:
上記実施形態では、表示切替処理の一例を示した。しかし、表示切替処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、ステップS102におけるモードの取得、および、取得したモードによる処理の分岐は省略してもよい。この場合、ヘッドマウントディスプレイは、使用者の視線方向に応じて、虚像優先表示と外景優先表示とを切り替える。視線方向と虚像優先表示と外景優先表示との対応関係は、予め定められて記憶部に記憶されていてもよいし、使用者によって指定されてもいい。
例えば、ステップS102において、表示切替部は、記憶部に記憶されている動作モードを確認することに変えて、他の方法を用いて動作モードを取得してもよい。例えば、表示切替部は、OSから動作モードを取得してもよく、画像表示部に表示された指定画面を介して利用者から指定された動作モードを取得してもよい。
例えば、ステップS110およびS120において、検出部は、受光部からの出力信号を用いて、使用者の視線方向を検出することとした。しかし、検出部は、他の方法を用いて使用者の視線方向を検出してもよい。例えば、画像表示部は、発光部および受光部に代えて、画像表示部の内側方向(ヘッドマウントディスプレイを装着した状態の使用者の眼と向かい合う位置)に配置され、使用者の眼の画像を撮影するカメラを備える構成とする。そして、検出部は、カメラにより撮影された使用者の眼の画像を画像解析することによって、使用者の視線方向(前方方向、側方方向、鉛直方向)を検出してもよい。また、例えば、画像表示部は、発光部および受光部に代えて、使用者の眼の周囲にある筋肉(例えば皺眉筋、眼輪筋)の緊張と弛緩を検出可能な筋活動センサーを備える構成とする。そして、検出部は、筋活動センサーからの出力値に基づいて使用者の視線方向を検出してもよい。
例えば、表示切替部は、使用者の視線方向が側方方向である場合に、虚像優先表示と、外景優先表示とを切り替えてもよい。
例えば、検出部によって検出される視線方向は、前方方向と鉛直方向とを含む限りにおいて、任意に増減可能である。例えば、側方方向の検出を省略してもよい。また、例えば、斜め上方向や斜め下方向も検出してもよい。
・変形例3:
上記実施形態では、状態推定処理の一例を示した。しかし、状態推定処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、ヘッドマウントディスプレイの利用状態を推定する処理(すなわち、ステップS202〜S206)は省略してもよい。この場合、例えば、変更部は、OSから利用状態を取得して、検出部による視線方向の検出感度を変更してもよい。また、変更部は、画像表示部に表示された指定画面を介して利用者から指定された利用状態を取得して、検出部による視線方向の検出感度を変更してもよい。
例えば、ステップS210およびS212における、初期状態「3回」、検出部の検出感度を低くした場合の「5回」、検出部の検出感度を高くした場合の「2回」はあくまで例示である。これらの値は「検出感度を高くした場合の回数<初期状態の回数<検出感度を低くした場合の回数」の関係を満たす限りにおいて任意に変更することができる。
例えば、検出部における視線方向の検出感度を変更する方法として、図13で説明した方法に代えて、検出部が受光部からの出力信号を受信する時間間隔tを調整することによって、検出感度を変更してもよい。
・変形例4:
上記実施形態では、検出部が検出する使用者の視線方向は、前方方向と、鉛直方向と、側方方向とのいずれかであるとした。しかし、検出部が、使用者の視線方向の角度まで検出可能である場合、表示切替部は、上記実施形態で例示した条件と共に、または、上記実施形態で例示した条件に代えて、以下に列挙する各条件を用いて、虚像優先表示と、外景優先表示とを切り替えてもよい。 ・使用者の視線方向の角度が、水平約200°、垂直約125°(例えば、下方向75°、上方向50°)の視野角の範囲内であるとき、虚像優先表示とする。
・使用者の視線方向の角度が、情報受容能力に優れる有効視野である、水平約30°、垂直約20°の範囲内であるとき、虚像優先表示とする。
・使用者の視線方向の角度が、注視点が迅速に安定して見える安定注視野である、水平60°〜90°、垂直45°〜70°の範囲内であるとき、虚像優先表示とする。
・使用者の視線方向の角度が、映像に誘発される自己運動感覚(ベクション)の誘発が起こりはじめる水平約20°から、自己運動感覚が飽和する約110°の範囲内であるとき、虚像優先表示とする。
・変形例5:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部(コントローラー)
12…点灯部
14…タッチパッド
16…十字キー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51…送信部
52…送信部
53…受信部
54…受信部
61…発光部(検出部)
62…受光部(検出部)
110…入力情報取得部
100…ヘッドマウントディスプレイ(頭部装着型表示装置)
120…記憶部
130…電源
140…CPU
142…検出部(検出部)
144…表示切替部(表示切替部)
146…変更部(変更部)
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
PCLK…クロック信号
VSync…垂直同期信号
HSync…水平同期信号
Data…画像データー
Data1…右眼用画像データー
Data2…左眼用画像データー
OA…外部機器
PC…パーソナルコンピューター
SC…外景
RE…右眼
LE…左眼
VI…虚像
ER…端部
EL…端部
AP…先端部
VR…視野
RI…虹彩
LI…虹彩
RLi…まぶた
LLi…まぶた
RW…白目
LW…白目
Th1…第1の閾値
Th2…第2の閾値

Claims (6)

  1. 使用者が虚像と外景を視認可能な頭部装着型表示装置であって、
    使用者に前記虚像を視認させる画像表示部と、
    前記使用者の視線方向を検出する検出部と、
    検出された前記視線方向に応じて、前記画像表示部による前記虚像の表示を、前記外景を優先する外景優先表示と前記虚像を優先する虚像優先表示との間で切り替える表示切替部と、
    を備え
    前記表示切替部は、
    第1の動作モードと、第2の動作モードの、少なくとも2つの動作モードを有し、
    前記第1の動作モードにおいて、前記視線方向が第1の方向である場合は前記虚像優先表示とし、前記視線方向が第2の方向である場合は前記外景優先表示とし、
    前記第2の動作モードにおいて、前記視線方向が前記第1の方向である場合は前記外景優先表示とし、前記視線方向が前記第2の方向である場合は前記虚像優先表示とする、
    頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、さらに、
    前記頭部装着型表示装置の利用状態が動的か静的かに応じて、前記検出部による前記検出の感度を変更する変更部を備え
    前記変更部は、
    前記頭部装着型表示装置が装着された頭の動きを繰り返し検出し、
    前記頭の動きの変化量が予め定めた第1閾値以上であることを所定の回数以上検出した場合に、前記頭部装着型表示装置の利用状態が動的であるものと推定して前記検出の感度を低く設定し、
    前記頭の動きの変化量が予め定めた第2閾値以下であることを所定の回数以上検出した場合に、前記頭部装着型表示装置の利用状態が静的であるものと推定して前記検出の感度を高く設定し、
    前記検出部は、前記使用者の視線が変動した状態が予め定めた継続期間経過したときに前記視線方向が変化したものと決定し、前記検出の感度が高い場合には、前記検出の感度が低い場合に比べて前記継続期間を短く設定する、頭部装着型表示装置。
  3. 請求項1に記載の頭部装着型表示装置であって、さらに、
    前記頭部装着型表示装置の利用状態が動的か静的かに応じて、前記検出部による前記検出の感度を変更する変更部を備え
    前記変更部は、
    前記頭部装着型表示装置の現在位置を繰り返し検出し、
    前記現在位置の変化量が予め定めた第1閾値以上であることを所定の回数以上検出した場合に、前記頭部装着型表示装置の利用状態が動的であるものと推定し、
    前記現在位置の変化量が予め定めた第2閾値以下であることを所定の回数以上検出した場合に、前記頭部装着型表示装置の利用状態が静的であるものと推定し、
    前記検出部は、前記使用者の視線が変動した状態が予め定めた継続期間経過したときに前記視線方向が変化したものと決定し、前記検出の感度が高い場合には、前記検出の感度が低い場合に比べて前記継続期間を短く設定する、頭部装着型表示装置。
  4. 請求項1から請求項のいずれか一項記載の頭部装着型表示装置であって、
    前記第1の方向は前記使用者の視線が略前方方向を向いている方向であり、前記第2の方向は前記使用者の視線が略鉛直方向を向いている方向である、頭部装着型表示装置。
  5. 請求項1から請求項のいずれか一項記載の頭部装着型表示装置であって、
    前記表示切替部は、前記虚像を非表示とするか、前記虚像の表示サイズを小さくするか、前記虚像の表示を薄くするか、前記虚像の表示場所を前記使用者の視野の端部近傍とするか、のいずれかの手段を用いて、前記外景優先表示を行う、頭部装着型表示装置。
  6. 使用者が虚像と外景を視認可能な頭部装着型表示装置の制御方法であって、
    (a)使用者に前記虚像を視認させる工程と、
    (b)前記使用者の視線方向を検出する工程と、
    (c)検出された前記視線方向に応じて、前記工程(a)による前記虚像の表示を、前記外景を優先する外景優先表示と前記虚像を優先する虚像優先表示との間で切り替える工程と、
    を備え
    前記頭部装着型表示装置は、第1の動作モードと、第2の動作モードの、少なくとも2つの動作モードを有し、
    前記工程(c)において、
    前記頭部装着型表示装置が前記第1の動作モードで動作している場合に、前記視線方向が第1の方向である場合は前記虚像優先表示とし、前記視線方向が第2の方向である場合は前記外景優先表示とし、
    前記頭部装着型表示装置が前記第2の動作モードで動作している場合に、前記視線方向が前記第1の方向である場合は前記外景優先表示とし、前記視線方向が前記第2の方向である場合は前記虚像優先表示とする、頭部装着型表示装置の制御方法。
JP2013059593A 2013-03-22 2013-03-22 頭部装着型表示装置および頭部装着型表示装置の制御方法 Active JP6107276B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013059593A JP6107276B2 (ja) 2013-03-22 2013-03-22 頭部装着型表示装置および頭部装着型表示装置の制御方法
US14/206,639 US9823473B2 (en) 2013-03-22 2014-03-12 Head-mounted display device and control method for head-mounted display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013059593A JP6107276B2 (ja) 2013-03-22 2013-03-22 頭部装着型表示装置および頭部装着型表示装置の制御方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017044635A Division JP6369583B2 (ja) 2017-03-09 2017-03-09 頭部装着型表示装置および頭部装着型表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2014186089A JP2014186089A (ja) 2014-10-02
JP6107276B2 true JP6107276B2 (ja) 2017-04-05

Family

ID=51568772

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013059593A Active JP6107276B2 (ja) 2013-03-22 2013-03-22 頭部装着型表示装置および頭部装着型表示装置の制御方法

Country Status (2)

Country Link
US (1) US9823473B2 (ja)
JP (1) JP6107276B2 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9492065B2 (en) 2012-06-27 2016-11-15 Camplex, Inc. Surgical retractor with video cameras
US9642606B2 (en) 2012-06-27 2017-05-09 Camplex, Inc. Surgical visualization system
WO2014189969A1 (en) 2013-05-21 2014-11-27 Camplex, Inc. Surgical visualization systems
US10881286B2 (en) 2013-09-20 2021-01-05 Camplex, Inc. Medical apparatus for use with a surgical tubular retractor
US10028651B2 (en) 2013-09-20 2018-07-24 Camplex, Inc. Surgical visualization systems and displays
US9741169B1 (en) 2014-05-20 2017-08-22 Leap Motion, Inc. Wearable augmented reality devices with object detection and tracking
DE202014103729U1 (de) 2014-08-08 2014-09-09 Leap Motion, Inc. Augmented-Reality mit Bewegungserfassung
WO2016031358A1 (ja) * 2014-08-27 2016-03-03 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
EP3226799A4 (en) 2014-12-05 2018-07-25 Camplex, Inc. Surgical visualization systems and displays
US10656720B1 (en) * 2015-01-16 2020-05-19 Ultrahaptics IP Two Limited Mode switching for integrated gestural interaction and multi-user collaboration in immersive virtual reality environments
EP3277152A4 (en) 2015-03-25 2018-12-26 Camplex, Inc. Surgical visualization systems and displays
JP6426525B2 (ja) 2015-04-20 2018-11-21 ファナック株式会社 表示システム
JP6439935B2 (ja) * 2015-05-07 2018-12-19 パナソニックIpマネジメント株式会社 表示制御方法、ヘッドマウントディスプレイ、およびプログラム
US20180136891A1 (en) * 2015-07-30 2018-05-17 Shenzhen Royole Technologies Co., Ltd. Head-mounted electronic device
JP6630370B2 (ja) 2015-07-30 2020-01-15 シェンジェン ロイオル テクノロジーズ カンパニー リミテッドShenzhen Royole Technologies Co., Ltd. ヘッドマウント電子デバイス
US10962780B2 (en) * 2015-10-26 2021-03-30 Microsoft Technology Licensing, Llc Remote rendering for virtual images
WO2017091704A1 (en) 2015-11-25 2017-06-01 Camplex, Inc. Surgical visualization systems and displays
US10976809B2 (en) * 2016-03-14 2021-04-13 Htc Corporation Interaction method for virtual reality
US9925458B2 (en) 2016-03-21 2018-03-27 Eye Labs, LLC Scent dispersal systems for head-mounted displays
US9925549B2 (en) 2016-03-21 2018-03-27 Eye Labs, LLC Head-mounted displays and attachments that enable interactive sensory experiences
CA3033109A1 (en) 2016-08-12 2018-02-15 Magic Leap, Inc. Word flow annotation
CN109845251B (zh) * 2016-12-07 2021-08-31 三星电子株式会社 用于显示图像的电子设备和方法
JP7265312B2 (ja) * 2017-03-16 2023-04-26 株式会社デンソーウェーブ 情報表示システム
WO2018173159A1 (ja) * 2017-03-22 2018-09-27 マクセル株式会社 映像表示装置
WO2018208691A1 (en) 2017-05-08 2018-11-15 Camplex, Inc. Variable light source
CN107247928B (zh) * 2017-05-23 2020-06-23 武汉秀宝软件有限公司 一种基于识别图的水平角度构建ar场景的方法及系统
US10810773B2 (en) * 2017-06-14 2020-10-20 Dell Products, L.P. Headset display control based upon a user's pupil state
AU2018383640B2 (en) 2017-12-13 2023-11-02 OVR Tech, LLC System and method for generating olfactory stimuli
US11883739B2 (en) 2017-12-13 2024-01-30 OVR Tech, LLC Replaceable liquid scent cartridge
US11351450B2 (en) 2017-12-13 2022-06-07 OVR Tech, LLC Systems and techniques for generating scent
US11577268B2 (en) 2018-10-18 2023-02-14 OVR Tech, LLC Device for atomizing fluid
JP7416048B2 (ja) 2019-03-12 2024-01-17 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
JP7286357B2 (ja) * 2019-03-15 2023-06-05 Dynabook株式会社 電子装置および表示制御方法
WO2021064823A1 (ja) * 2019-09-30 2021-04-08 マクセル株式会社 連携表示システム及びヘッドマウントディスプレイ
JP2023087539A (ja) * 2021-12-13 2023-06-23 トヨタ自動車株式会社 Arグラス
CN114356105B (zh) * 2022-03-18 2022-07-08 北京唱吧科技股份有限公司 基于头部动作的场景控制方法、装置、存储介质及电子设备
US11796803B2 (en) * 2022-03-21 2023-10-24 Lenovo (Singapore) Pte. Ltd. Movement of graphical objects based on user moving between viewing display locations

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3159538B2 (ja) * 1992-08-24 2001-04-23 オリンパス光学工業株式会社 頭部装着式ディスプレイ装置
US5621424A (en) 1992-08-24 1997-04-15 Olympus Optical Co., Ltd. Head mount display apparatus allowing easy switching operation from electronic image to external field image
JPH07261112A (ja) * 1994-03-22 1995-10-13 Hitachi Ltd 頭部搭載型ディスプレイ装置
JP2000221953A (ja) 1999-01-29 2000-08-11 Sony Corp 映像表示装置、映像処理方法及びこれらを応用した映像表示システム
JP3735086B2 (ja) 2002-06-20 2006-01-11 ウエストユニティス株式会社 作業誘導システム
JP2008219286A (ja) 2007-03-01 2008-09-18 Sharp Corp スライドショー装置
JP5217585B2 (ja) * 2008-04-09 2013-06-19 セイコーエプソン株式会社 頭部装着型画像表示装置
JP5141672B2 (ja) 2009-11-30 2013-02-13 ブラザー工業株式会社 ヘッドマウントディスプレイ装置、及びヘッドマウントディスプレイ装置を用いた画像共有システム
US9217867B2 (en) 2011-03-24 2015-12-22 Seiko Epson Corporation Head-mounted display device and control method for the head-mounted display device
JP2012203128A (ja) * 2011-03-24 2012-10-22 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9087471B2 (en) * 2011-11-04 2015-07-21 Google Inc. Adaptive brightness control of head mounted display
US9417692B2 (en) * 2012-06-29 2016-08-16 Microsoft Technology Licensing, Llc Deep augmented reality tags for mixed reality
US9619911B2 (en) * 2012-11-13 2017-04-11 Qualcomm Incorporated Modifying virtual object display properties

Also Published As

Publication number Publication date
US9823473B2 (en) 2017-11-21
JP2014186089A (ja) 2014-10-02
US20140285403A1 (en) 2014-09-25

Similar Documents

Publication Publication Date Title
JP6107276B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9064442B2 (en) Head mounted display apparatus and method of controlling head mounted display apparatus
JP6337418B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6217244B2 (ja) 画像処理装置、これを有する頭部装着型表示装置、画像処理方法およびコンピュータープログラム
JP6398157B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6277673B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2012203128A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016142887A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP6268778B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6135162B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP6369583B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6331374B2 (ja) 頭部装着型表示装置
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6582374B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP6136162B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6273677B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6304415B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2016212320A (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP6287399B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6375662B2 (ja) 頭部装着型表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160127

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170220

R150 Certificate of patent or registration of utility model

Ref document number: 6107276

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150