JP2015056824A - 頭部装着型表示装置および頭部装着型表示装置の制御方法 - Google Patents

頭部装着型表示装置および頭部装着型表示装置の制御方法 Download PDF

Info

Publication number
JP2015056824A
JP2015056824A JP2013190061A JP2013190061A JP2015056824A JP 2015056824 A JP2015056824 A JP 2015056824A JP 2013190061 A JP2013190061 A JP 2013190061A JP 2013190061 A JP2013190061 A JP 2013190061A JP 2015056824 A JP2015056824 A JP 2015056824A
Authority
JP
Japan
Prior art keywords
head
user
image
unit
image light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013190061A
Other languages
English (en)
Other versions
JP6337433B2 (ja
Inventor
由貴 藤巻
Yuki Fujimaki
由貴 藤巻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2013190061A priority Critical patent/JP6337433B2/ja
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to PCT/JP2014/004606 priority patent/WO2015037219A1/en
Priority to US14/914,149 priority patent/US9906781B2/en
Priority to EP14777388.1A priority patent/EP3044957A1/en
Priority to KR1020167007908A priority patent/KR20160048881A/ko
Priority to RU2016113960A priority patent/RU2656714C2/ru
Priority to TW103131215A priority patent/TW201510573A/zh
Priority to CN201410465671.5A priority patent/CN104460004B/zh
Publication of JP2015056824A publication Critical patent/JP2015056824A/ja
Application granted granted Critical
Publication of JP6337433B2 publication Critical patent/JP6337433B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/10Modelling
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0112Head-up displays characterised by optical features comprising device for genereting colour display
    • G02B2027/0116Head-up displays characterised by optical features comprising device for genereting colour display comprising devices for correcting chromatic aberration
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0118Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0149Head-up displays characterised by mechanical features
    • G02B2027/0161Head-up displays characterised by mechanical features characterised by the relative positioning of the constitutive elements
    • G02B2027/0163Electric or electronic control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Business, Economics & Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Abstract

【課題】コンテンツ動画のような画像光を、使用者が視認する外景と一体化させずに、使用者の頭部の動きに応じて使用者に視認させる頭部装着型表示装置を提供する。
【解決手段】頭部装着型表示装置は、画像データに基づいて画像光を生成し射出する画像光生成部を有し、使用者の頭部に装着された状態において、使用者に画像光を虚像として視認させると共に、外景を透過させる画像表示部と;使用者の頭部の動きを検出する検出部と;検出された頭部の動きに基づいて予測された使用者の頭部の位置の周期的な変化に基づいて、画像光生成部が画像光を生成可能な領域における画像光の位置を変化させる画像位置設定部と、を備える。
【選択図】図11

Description

本発明は、頭部装着型表示装置に関する。
頭部に装着した状態で使用される表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display)、HMD)が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイおよび光源を利用して画像を表わす画像光を生成し、生成された画像光を投写光学系や導光板を利用して使用者の眼に導くことにより、使用者に虚像を視認させる。
特許文献1には、虚像が形成される領域において生成された画像光の位置を、頭部装着型表示装置を透過して視認される外景に対して固定されるように生成することで、画像光と外景とが一体として使用者に視認させる技術について開示されている。
特開2011−59435号公報
平崎、鋭矢″歩行中の視線安定を維持する頭部運動と眼球運動″、大阪大学大学院人間科学研究科紀要.26、2000年3月、p.177-193
特許文献1に記載された頭部装着型表示装置では、画像光と外景とが一体として使用者に視認されるが、例えば、コンテンツ動画のような画像光である場合には、外景と一体化せずに、使用者の頭部の動きに応じて常に画像光が使用者に視認されるような状態にしたい場合があった。その上で、例えば、使用者が歩行中である場合には、外景と一体化せずに、かつ、外景と画像光との位置ずれを低減したいとの課題があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、頭部装着型表示装置が提供される。この頭部装着型表示装置は、画像データに基づいて画像光を生成し射出する画像光生成部を有し、使用者の頭部に装着された状態において、使用者に前記画像光を虚像として視認させると共に、外景を透過させる画像表示部と;使用者の頭部の動きを検出する検出部と;検出された前記頭部の動きに基づいて予測された使用者の頭部の位置の周期的な変化に基づいて、前記画像光生成部が前記画像光を生成可能な領域における前記画像光の位置を変化させる画像位置設定部と、を備える。この形態の頭部装着型表示装置によれば、予測された使用者の頭部の位置の変化に合わせて画像光の生成される位置が補正されるため、移動している使用者に同じ大きさの画像光を視認させると共に、画像表示部を透過して使用者に視認される外景と生成された画像光とのずれを低減させることができる。よって、使用者が視認する外景に対する生成された画像光の違和感を抑制でき、使用者に視認される外景と生成された画像光とのずれによって使用者に引き起こされる画像酔いを抑制できる。
(2)上記形態の頭部装着型表示装置において、さらに、使用者の視線方向を特定する視線方向特定部を備え;前記画像位置設定部は、特定された前記視線方向の周期的な変化に基づいて、前記画像光の位置を変化させてもよい。この形態の頭部装着型表示装置によれば、使用者の頭部の位置および向きの変化に加えて、使用者の視線方向も加味して画像光の生成される位置が補正されるため、使用者が視認する外景に対する生成された画像光の違和感をより抑制できる。
(3)上記形態の頭部装着型表示装置において、さらに、使用者の視線方向を特定する視線方向特定部を備え;前記画像位置設定部は、前記頭部の位置の周期的な変化の基点となる使用者の眼から所定の距離だけ離れた頭部基点と、前記視線方向に基づいて特定される使用者の注視点と、に基づいて前記画像光の位置を変化させてもよい。この形態の頭部装着型表示装置によれば、使用者の移動状態に応じて定まる頭部基点と使用者が見ている注視点とに基づいて画像光の生成される位置が補正されるため、使用者が視認する外景に対する生成される画像光の違和感をより抑制できる。
(4)上記形態の頭部装着型表示装置において、前記画像位置設定部は、使用者の眼から前記注視点までの注視点距離が前記所定の距離よりも小さい場合には、予測された前記頭部の位置の変化と同じ方向に前記画像光の位置を変化させ、前記注視点距離が前記所定の距離よりも大きい場合には、予測された前記頭部の位置の変化と逆の方向に前記画像光の位置を変化させてもよい。この形態の頭部装着型表示装置によれば、使用者の移動状態に応じて定まる頭部基点と使用者が見ている注視点とに基づいて画像光の生成される位置が補正されるため、使用者が視認する外景に対する生成される画像光の違和感をより抑制できる。
(5)上記形態の頭部装着型表示装置において、前記画像光生成部は、複数の画素で構成され;前記画像位置設定部は、前記画像光生成部において前記画像光が生成される画素の位置を変化させることで、前記画像光の位置を変化させてもよい。この形態の頭部装着型表示装置によれば、画像光の生成される位置が簡便に設定され、使用者に視認される外景と生成される画像光とのずれを補正しやすい。
上述した本発明の各形態の有する複数の構成要素はすべてが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな他の構成要素との差し替え、限定内容の一部削除を行なうことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、画像表示部と、検出部と、画像位置設定部と、の3つ要素の内の一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、画像表示部を有していてもよく、有していなくてもよい。また、装置は、検出部を有していてもよく、有していなくてもよい。また、装置は、画像位置設定部を有していてもよく、有していなくてもよい。画像表示部は、例えば、画像データに基づいて画像光を生成し射出する画像光生成部を有し、使用者の頭部に装着された状態において、使用者に前記画像光を虚像として視認させると共に、外景を透過させてもよい。検出部は、例えば、使用者の頭部の動きを検出してもよい。画像位置設定部は、例えば、検出された前記頭部の動きに基づいて予測された使用者の頭部の位置の周期的な変化に基づいて、前記画像光生成部が前記画像光を生成可能な領域における前記画像光の位置を変化させてもよい。こうした装置は、例えば、頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。このような形態によれば、装置の操作性の向上および簡易化、装置の一体化や、装置を使用する使用者の利便性の向上、等の種々の課題の少なくとも1つを解決することができる。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
本発明は、頭部装着型表示装置以外の種々の形態で実現することも可能である。例えば、頭部装着型表示装置の制御方法、頭部装着型表示システム、頭部装着型表示システムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号等の形態で実現できる。
頭部装着型表示装置100の外観構成を示す説明図である。 頭部装着型表示装置100の構成を機能的に示すブロック図である。 画像光生成部によって画像光が射出される様子を示す説明図である。 画像位置補正処理の流れを示す説明図である。 頭部装着型表示装置100の使用者USが歩行中である場合の頭部の位置の変化の推移を示す説明図である。 頭部装着型表示装置100の使用者USが歩行中である場合の頭部の位置の変化の推移を示す説明図である。 使用者USの頭部の位置および向きの変化と視線方向EDの変化との関係を示す説明図である。 使用者USの歩行距離に対する使用者USの頭部の向きおよび視線方向EDの推移を示す説明図である。 使用者USの歩行距離に対する使用者USの頭部の向きおよび視線方向EDの推移を示す説明図である。 表示画像IMの位置が補正される前に使用者USが視認する表示画像IMの一例を示す説明図である。 表示画像IMの位置が補正された後に使用者USが視認する表示画像IMの一例を示す説明図である。 変形例における頭部装着型表示装置の外観構成を示す説明図である。
A−1.頭部装着型表示装置の構成:
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者に虚像を視認させると同時に外景も直接視認させることができる光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、右眼撮像カメラ37と、左眼撮像カメラ38と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)を含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
右眼撮像カメラ37および左眼撮像カメラ38(以降、「眼撮像カメラ37,38」とも呼ぶ)は、使用者の右眼および左眼のそれぞれを撮像する小型のCCDカメラである。なお、外景とは、所定の範囲に含まれる物体(例えば、建造物等)を反射して、使用者に視認され得る反射光のことをいう。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、頭部装着型表示装置100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、トラックパッド14と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
図2は、頭部装着型表示装置100の構成を機能的に示すブロック図である。図2に示すように、制御部10は、入力情報取得部110と、記憶部120と、電源130と、操作部135と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。操作部135は、使用者による操作を受け付け、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18、から構成されている。
入力情報取得部110は、使用者による操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、操作部135に配置されたトラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム150(OS150)、表示制御部190、音声処理部170、状態判定部142、視線方向特定部145、および、画像処理部160として機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
視線方向特定部145は、眼撮像カメラ37,38のそれぞれが撮像した使用者の右眼および左眼の画像を解析することで、視線方向を特定する。また、視線方向特定部145は、特定した視線方向によって使用者が見ている位置を推定できるため、使用者の注視点(例えば、図7の注視点PG1や注視点PG2)を特定できる。状態判定部142は、後述する9軸センサー66が検出した画像表示部20の向きや動きを判定することで、使用者の頭部の位置の変化を推定する。例えば、使用者が歩行中の場合には、頭部の位置の変化によって使用者の進行方向が特定され、進行方向に沿って使用者の頭部は鉛直方向および水平方向に周期的に変動している(例えば、図6)。そのため、状態判定部142は、使用者の歩行速度を特定し、周期的な使用者の頭部の位置の変化および視線方向の変化を特定し、鉛直方向および水平方向における頭部の位置の変化の周波数と視線方向の変化の周波数とを特定できる。なお、人間の予測された動きとは、人間工学において、人間の各部位の物理的形状といった身体的特徴、歩行等において行なわれる各部位の動作、および、人間の生理的な反応および変化に基づいて予測され得る動きのことである。眼撮像カメラ37,38と視線方向特定部145とは、請求項における視線方向特定部に相当する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示しない)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示しない)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(RGBデータ)として、1フレームごとに記憶部120内のDRAMに格納する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
また、画像処理部160は、状態判定部142によって使用者の頭部が周期的に変化する場合には、特定された使用者の頭部の位置の変化および視線方向の変化の周波数に基づいて、画像データを補正して画像表示部20に送信する。画像データの補正の内容としては、例えば、画像表示部20を透過して使用者に視認される外景に対して、視線方向の変化の影響を抑制する補正等である。なお、画像処理部160および状態判定部142は、請求項における画像位置設定部に相当する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、9軸センサー66と、右眼撮像カメラ37と、左眼撮像カメラ38と、を備えている。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の位置および位置の変化を検出する。検出された使用者の頭部の位置から画像表示部20の向きが特定される。なお、9軸センサー66と状態判定部142とは、請求項における検出部に相当する。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL222)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図3は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図3のように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−2.画像位置補正処理:
図4は、画像位置補正処理の流れを示す説明図である。画像位置補正処理は、推定された使用者の頭部の位置の変化および特定された視線方向に基づいて、使用者の周期的な頭部の動きが特定され、使用者の移動に伴う外景と表示画像とのずれがなくなるように表示画像の位置が補正される処理である。
画像位置補正処理では、初めに、状態判定部142は、9軸センサー66が検出した画像表示部20の向きや動きを判定することで、使用者の頭部の位置の変化を推定する(ステップS11)。次に、視線方向特定部145は、眼撮像カメラ37,38の撮像画像によって使用者の視線方向および注視点を特定する(ステップS12)。次に、状態判定部142は、使用者の頭部の位置の変化および視線方向の変化が周期的であるか否かを判定する(ステップ13)。
図5および図6は、頭部装着型表示装置100の使用者USが歩行中である場合の頭部の位置の変化の推移を示す説明図である。図5には、使用者USが歩行中である場合に、使用者USの頭部の位置の鉛直方向における変化の推移が示されている。図5に示すように、歩行中の使用者USの頭部の位置は、鉛直方向に沿って周期的に変化する。使用者USの眼の位置は、鉛直方向に沿って変化し、軌跡ESを描く。使用者USの両足が地面GRに着いている場合には、使用者USの頭部の位置が鉛直方向に沿って最も低い位置(以下、「最低点」ともいう)にある。また、使用者USの片足のみが地面GRに着いていて、もう一方の片足が進行方向に沿って地面GRに着いている片足と交差する場合に、使用者USの頭部の位置が鉛直方向に沿って最も高い位置(以下、「最高点」ともいう)にある。本実施形態では、鉛直方向における最低点と最高点との中間点を通る水平軸OL上に注視点PGが存在している。
使用者USの視線方向EDは、周期的な頭部の位置の変化を補正するように変化する。使用者USが注視点PGを見ながら歩行している場合に、使用者USの頭部の位置が水平軸OLよりも低い位置にあると、視線方向EDが水平方向よりも上を向く。逆に、使用者USの頭部の位置が鉛直方向に沿って水平軸OLよりも高い位置にあると、視線方向EDが水平方向よりも下を向く。
図6には、歩行中の使用者USの頭部の位置の水平方向における変化の推移が示されている。図6に示すように、使用者USが歩行中である場合に、使用者USの右足のみが地面GRに着いていて、かつ、最高点である場合には、使用者USの頭部の中心は、進行方向に直交して右側(以下、「最右点」ともいう)に存在する。使用者USの左足のみが地面GRに着いていて、かつ、最高点である場合には、使用者USの頭部の中心は、進行方向に直交して左側(以下、「最左点」ともいう)に存在する。そのため、水平方向における使用者USの頭部の位置は、最右点と最左点との中間点を通る水平軸OLに沿った軌跡ESのように変化する。なお、使用者USの頭部の位置は、最右点と最左点との場合に最高点となる。そのため、使用者USの頭部の位置の変化において、鉛直方向における周期は、水平方向における周期の半分である。すなわち、鉛直方向の周波数は、水平方向における周波数の2倍になる。
図7は、使用者USの頭部の位置および向きの変化と視線方向EDの変化との関係を示す説明図である。図7には、頭部の位置の鉛直方向における変化に伴って補正される頭部の向きおよび視線方向EDが示されている。非特許文献1には、注視点PGが使用者USから2メートル離れている場合には、頭部のpitch rotationによって頭部のnaso-occipital axis(前後軸)が焦点を結ぶ点(Head fixation point、以下、「頭部基点HFP」と呼ぶ)は、注視点PGよりも使用者USに近かった。すなわち、この場合には、頭部の向きは、上下動を過度に代償しており、そのずれを補うために、歩行中には周期的な眼のcompensatory rotaionが必要となることが記載されている。また、頭部のピッチ運動は、使用者USから注視点PGまでの距離によって若干変化するが、その変化量がわずかであることも記載されている。
図7に示すように、使用者USが頭部基点HFPよりも使用者USの眼から遠い位置にある注視点PG1を見ている場合、使用者USの視線方向EDは、使用者USの頭部の向きとは逆向きに変化する。例えば、使用者USの頭部の位置が最高点にある場合には、使用者USの頭部の向きは水平軸OLに対して鉛直方向に沿って下向きに角度θhだけ傾いているが、使用者USの視線方向EDの向きは、使用者USの頭部の向きに対して鉛直方向に沿って上向きに角度θ1だけ傾いている。また、図7に示すように、使用者USが頭部基点HFPよりも使用者USの眼から近い位置にある注視点PG2を見ている場合、使用者USの視線方向EDは、使用者USの頭部の向きと同じ向きに変化する。例えば、使用者USの頭部の位置が最高点にある場合には、使用者USの頭部の向きは水平軸OLに対して鉛直方向に沿って下向きに角度θhだけ傾いているが、使用者USの視線方向EDの向きは、使用者USの頭部の向きに対して鉛直方向に沿ってさらに下向きに角度θ2だけ傾いている。
図8および図9は、使用者USの歩行距離に対する使用者USの頭部の向きおよび視線方向EDの推移を示す説明図である。図8には、使用者USよりも頭部基点HFPよりも離れた注視点PG1を使用者USが見ている場合において、使用者USの歩行距離に対する頭部の向きの角度θh(図7)、および、頭部の向きに対する視線方向EDの角度θ1(図7)の推移が示されている。図8では、縦軸の角度は、水平軸OLに対して上向きの角度を正の値とされ、下向きの角度を負の値とされている。図8に示すように、使用者USの視線方向EDの向きは、使用者USの頭部の向きに対して反対の向きに変化する。そのため、頭部の向きの角度θhが最大値の場合に、視線方向EDの向きの角度θ1が最小値を取り、頭部の向きの角度θhと視線方向EDの向きの角度θ1との関係は、位相が180度ずれた関係となる。
図9には、使用者USよりも頭部基点HFPよりも近い注視点PG2を使用者USが見ている場合において、使用者USの歩行距離に対する頭部の向きの角度θh(図7)、および、視線方向EDの角度θ2(図7)の推移が示されている。図9に示すように、使用者USの視線方向EDの向きは、使用者USの頭部に対して同じ向きに変化するため、頭部の向きの角度θhが最大値の場合に、視線方向EDの向きの角度θ2が最大値を取り、頭部の向きの角度θhと視線方向EDの角度θ2との関係は、位相が全くずれていない関係となる。なお、図8および図9では、使用者USの頭部の位置の鉛直方向における変化について説明したが、使用者USの頭部の位置の水平方向における変化については、鉛直方向における変化の周波数の半分の周波数で、振幅となる角度は異なるものの、視線方向EDの変化について同様のことがいえる。
図4のステップS13の処理において、使用者USの頭部の位置の変化が周期的であると判定された場合には(ステップS14:YES)、状態判定部142は、鉛直方向および水平方向における使用者USの頭部の位置の変化の周波数を特定する(ステップS14)。次に、画像処理部160は、特定された周波数に基づいて視線方向EDの周期的な向きの変化に対応させるように表示画像の位置を補正する(ステップS15)。
図10は、表示画像IMの位置が補正される前に使用者USが視認する表示画像IMの一例を示す説明図である。図10には、頭部基点HFPよりも使用者USの眼から離れた注視点PGに視認される表示画像IMが示されている。図10に示すように、頭部基点HFPを中心に使用者USの頭部の位置および向きが変化するため、画像光生成部において生成される表示画像IMの表示位置が変化しない場合には、表示画像IMは、画像表示部20を透過して視認される外景に対して相対的に動いているように使用者USに視認される。例えば、使用者USの頭部の位置が最高点にある場合には、最低点にある場合と比較して、表示画像IMが鉛直方向に沿って下側にあるように使用者USに視認される。そのため、表示画像IMの中心は、使用者USの頭部の位置の変化に伴って変化する軌跡PGLとなる。
図11は、表示画像IMの位置が補正された後に使用者USが視認する表示画像IMの一例を示す説明図である。図11に示すように、画像処理部160は、表示画像IMの中心である軌跡PGLが軌跡とならずに固定の一点である注視点PGと重なるように、使用者USの視線方向EDの変化に応じて表示画像IMを表示する位置を補正する。図11に示すように、使用者USの眼から注視点PGまでの距離は、使用者USの眼から頭部基点HFPまでの距離よりも大きい。この場合には、表示画像IMが補正される角度θcは、水平軸OLに対する頭部の向きと逆の方向に補正される角度である。図11に示す例とは異なり、使用者USの眼から注視点PGまでの距離が使用者USの眼から頭部基点HFPまでの距離よりも小さい場合には、補正される角度θcは、水平軸OLに対する頭部の向きと同じ方向に補正される角度である。
表示画像IMを生成する画像光生成部は、複数の画素で構成されており、表示画像IMを構成する画素を変化させることで、画像光生成部における表示画像IMの表示位置を変化させる。複数の画素のそれぞれは、使用者USに視認される立体角と予め対応付けられている。そのため、画像処理部160は、予測される周期的な使用者USの頭部の位置の変化と頭部基点HFPとに応じて表示画像IMを構成する画素を変化させることで、透過されて使用者USに視認される外景に対する表示画像IMの相対位置を補正できる。なお、本実施形態における画像光生成部を構成する複数の画素は、請求項における画像光を生成可能な領域に相当する。画像光を生成可能な領域としては、使用者に虚像として視認させる光を射出できる虚像光射出領域であってもよいし、画像光を射出する画像光射出領域であってもよい。また、表示画像IMを構成する画素を変化させることは、画像光を射出する位置を変化させる、または、画像光の射出領域を変化させると言い換えることもできる。
図4のステップS14の処理において、使用者USの頭部の位置の変化が周期的でない、と判定された場合には(ステップS13:NO)、画像処理部160は、画像光生成部における表示画像IMの表示位置を補正しないで、画像位置補正処理を終了する。
以上説明したように、本実施形態の頭部装着型表示装置100では、9軸センサー66と状態判定部142とが使用者USの頭部の動きを検出し、画像処理部160と状態判定部142とが予測された周期的な使用者USの頭部の位置の変化に基づいて表示画像IMの表示位置を変化させる。そのため、本実施形態の頭部装着型表示装置100では、予測された使用者USの頭部の位置の変化に合わせて表示画像IMの表示位置が補正されるため、移動している使用者USに同じ大きさの表示画像IMを視認させると共に、画像表示部20を透過して使用者USに視認される外景と表示画像IMとのずれを低減させることができる。よって、使用者USが視認する外景に対する表示画像IMの違和感を抑制でき、使用者USに視認される外景と表示画像IMとのずれによって使用者USに引き起こされる画像酔いを抑制できる。
また、本実施形態の頭部装着型表示装置100では、画像処理部160と状態判定部142とが使用者USの周期的な視線方向EDの変化に基づいて表示画像IMの表示位置を変化させる。そのため、本実施形態の頭部装着型表示装置100では、使用者USの頭部の位置および向きの変化に加えて、使用者USの視線方向EDも加味して表示画像IMの表示位置が補正されるため、使用者USが視認する外景に対する表示画像IMの違和感をより抑制できる。
また、本実施形態の頭部装着型表示装置100では、画像処理部160と状態判定部142とが使用者USの眼から所定の距離だけ離れた頭部基点HFPと注視点PGとに基づいて表示画像IMの表示位置を補正する。また、使用者USの眼から注視点PGまでの距離が使用者USの眼から頭部基点HFPまでの距離よりも大きい場合には、表示画像IMの表示位置が補正される角度θcは、水平軸OLに対する頭部の向きと逆の方向に補正される角度である。逆に、使用者USの眼から注視点PGまでの距離が使用者USの眼から頭部基点HFPまでの距離よりも小さい場合には、表示画像IMの表示位置が補正される角度θcは、水平軸OLに対する頭部の向きと同じ方向に補正される角度である。そのため、本実施形態の頭部装着型表示装置100では、使用者USの移動状態に応じて定まる頭部基点HFPと使用者USが見ている注視点PGとに基づいて表示画像IMの表示位置が補正されるため、使用者USが視認する外景に対する表示画像IMの違和感をより抑制できる。
また、本実施形態の頭部装着型表示装置100では、画像光生成部における表示画像IMを構成する画素を変化させることで、表示画像IMの表示位置が変更されるため、表示画像IMの表示位置が簡便に設定され、使用者USに視認される外景と表示画像IMとのずれを補正しやすい。
B.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
B1.変形例1:
上記実施形態では、視線方向特定部145は、眼撮像カメラ37,38が撮像した使用者USの眼の撮像画像によって、使用者USの視線方向EDおよび注視点PGを特定したが、必ずしも、使用者USの視線方向EDおよび注視点PGは特定されなくてもよい。表示画像IMの表示位置の補正は、使用者USの周期的な頭部の位置の変化に応じて行なわれてもよい。例えば、注視点PGが無限遠(例えば、焦点距離の2000倍以上の距離)に設定されて、表示画像IMの表示位置が補正されてもよい。この変形例では、使用者USの視線方向EDが特定されなくても、画像処理部160は、使用者USの頭部の向きに応じて表示画像IMの表示位置を補正できる。
上記実施形態では、視線方向特定部145および眼撮像カメラ37,38によって使用者USの視線方向EDが特定されて、頭部基点HFPが特定されたが、必ずしも、頭部基点HFPが特定されなくてもよい。表示画像IMの表示位置の補正は、使用者USの頭部の向きと視線方向EDによって特定された注視点PGとによって行なわれてもよい。
頭部基点HFPは、使用者USの視線方向EDによって特定されるのではなく、例えば、使用者USの移動手段などによって設定されてもよい。使用者USが歩行中の場合、移動速度によって頭部基点HFPが変化することが知られているため、9軸センサー66が検出した使用者USの移動速度によって頭部基点HFPが設定されて、表示画像IMの表示位置が補正されてもよい。
上記実施形態では、使用者USが歩行中の場合を例に挙げたが、周期的な頭部の位置の変化は使用者USが歩行中である場合に限られず、種々変形可能である。例えば、使用者USが走行中の場合であってもよい。また、自動車に乗っていて、周期的なエンジンの振動による影響を補正するように表示画像IMの表示位置が補正されてもよい。また、制御部10の記憶部120に予め使用者USの移動状態における周波数のパターンが記憶され、状態判定部142によって検出された周期的な頭部の位置の変化がこれらのパターンと照合されて、使用者USの移動状態が特定されてもよい。この変形例では、周波数のパターンと照合されることで、ノイズとなる周波数をFFT(Fast Fourier Transform)によって除去することで、表示画像IMの表示位置を外景とのずれがより少なくなるように補正できる。
上記実施形態では、鉛直方向および水平方向に沿った使用者USの頭部の位置の変化が検出されて、表示画像IMの表示位置が補正されたが、検出される方向は必ずしもこれらに限られず、種々変形可能である。例えば、鉛直方向のみにおいて、周期的な頭部の位置の変化が検出されて、表示画像IMの表示位置が補正されてもよい。逆に水平方向のみにおいて、変化の検出と表示画像IMの表示位置の補正が行なわれてもよい。
B2.変形例2:
上記実施形態では、眼撮像カメラ37,38は、小型のCCDカメラが用いられたが、必ずしもこの態様に限られず、種々変形可能である。例えば、CMOSイメージセンサー等の撮像素子が用いられてもよいし、その他の撮像素子が用いられてもよい。眼撮像カメラ37,38の代わりに、使用者USの視線方向EDを検出できる機器が頭部装着型表示装置100に備えられていれば、使用者USが視認する外景に対する表示画像IMの違和感をより抑制できる。
また、上記実施形態では、制御部10に操作部135を形成したが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者USの操作性が向上する。また、操作部135の動きを検出する9軸センサーを操作部135に形成して、検出した動きに基づいて各種操作が行なわれることで、使用者USは、感覚的に頭部装着型表示装置100の操作ができる。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。レーザー網膜投影型の場合、「画像光生成部における画像光の射出可能領域」とは、使用者USの眼に認識される画像領域として定義できる。
また、例えば、ヘッドマウントディスプレイは、光学像表示部が使用者USの眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者USの眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、ヘッドマウントディスプレイは、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。また、ヘッドマウントディスプレイは、光学透過型に限られず、使用者USが外景を透過して視認できない非透過型やビデオ透過型であってもよい。
図12は、変形例における頭部装着型表示装置の外観構成を示す説明図である。図12(A)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備える点と、左光学像表示部28に代えて左光学像表示部28aを備える点である。右光学像表示部26aは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100aの装着時における使用者USの右眼の斜め上に配置されている。同様に、左光学像表示部28aは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100aの装着時における使用者USの左眼の斜め上に配置されている。図12(B)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備える点と、左光学像表示部28に代えて左光学像表示部28bを備える点である。右光学像表示部26bは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者USの右眼の斜め下に配置されている。左光学像表示部28bは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者USの左眼の斜め下に配置されている。このように、光学像表示部は使用者USの眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者USの眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者USの眼を完全に覆わない態様の頭部装着型表示装置100として実現できる。
また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
上記実施形態における頭部装着型表示装置100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部が採用されてもよい。また、イヤホン32,34は適宜省略可能である。
また、上記実施形態において、頭部装着型表示装置100は、使用者USの左右の眼に同じ画像を表わす画像光を導いて使用者USに二次元画像を視認させるとしてもよいし、使用者USの左右の眼に異なる画像を表わす画像光を導いて使用者USに三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図1および図2に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
また、制御部10と画像表示部20とが一体化して、使用者USの衣服に取り付けられるウェアラブルコンピューターの態様であってもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
11…決定キー
12…点灯部
13…表示切替キー
14…トラックパッド
15…輝度切替キー
16…方向キー
17…メニューキー
18…電源スイッチ
20…画像表示部(画像表示部)
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
37…右眼撮像カメラ(視線方向特定部)
38…左眼撮像カメラ(視線方向特定部)
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51,52…送信部
53,54…受信部
66…9軸センサー(検出部)
100…頭部装着型表示装置
110…入力情報取得部
120…記憶部
130…電源
135…操作部
140…CPU
142…状態判定部(画像位置設定部、検出部)
145…視線方向特定部(視線方向特定部)
150…オペレーティングシステム
160…画像処理部(画像位置設定部)
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部(画像光生成部)
202…左バックライト制御部(画像光生成部)
211…右LCD制御部(画像光生成部)
212…左LCD制御部(画像光生成部)
221…右バックライト(画像光生成部)
222…左バックライト(画像光生成部)
241…右LCD(画像光生成部)
242…左LCD(画像光生成部)
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
VSync…垂直同期信号
HSync…水平同期信号
PCLK…クロック信号
θ1,θ2,θh,θc…角度
OA…外部機器
ED…視線方向
RE…右眼
LE…左眼
PG,PG1,PG2…注視点
IL…照明光
PL…画像光
OL…水平軸
EL,ER…端部
IM…表示画像
AP…先端部
GR…地面
US…使用者
ES…軌跡
PGL…軌跡
HFP…頭部基点

Claims (6)

  1. 頭部装着型表示装置であって、
    画像データに基づいて画像光を生成し射出する画像光生成部を有し、使用者の頭部に装着された状態において、使用者に前記画像光を虚像として視認させると共に、外景を透過させる画像表示部と、
    使用者の頭部の動きを検出する検出部と、
    検出された前記頭部の動きに基づいて予測された使用者の頭部の位置の周期的な変化に基づいて、前記画像光生成部が前記画像光を生成可能な領域における前記画像光の位置を変化させる画像位置設定部と、を備える、頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、さらに、
    使用者の視線方向を特定する視線方向特定部を備え、
    前記画像位置設定部は、特定された前記視線方向の周期的な変化に基づいて、前記画像光の位置を変化させる、頭部装着型表示装置。
  3. 請求項1または請求項2に記載の頭部装着型表示装置であって、さらに、
    使用者の視線方向を特定する視線方向特定部を備え、
    前記画像位置設定部は、前記頭部の位置の周期的な変化の基点となる使用者の眼から所定の距離だけ離れた頭部基点と、前記視線方向に基づいて特定される使用者の注視点と、に基づいて前記画像光の位置を変化させる、頭部装着型表示装置。
  4. 請求項3に記載の頭部装着型表示装置であって、
    前記画像位置設定部は、使用者の眼から前記注視点までの注視点距離が前記所定の距離よりも小さい場合には、予測された前記頭部の位置の変化と同じ方向に前記画像光の位置を変化させ、前記注視点距離が前記所定の距離よりも大きい場合には、予測された前記頭部の位置の変化と逆の方向に前記画像光の位置を変化させる、頭部装着型表示装置。
  5. 請求項1から請求項4までのいずれか一項に記載の頭部装着型表示装置であって、
    前記画像光生成部は、複数の画素で構成され、
    前記画像位置設定部は、前記画像光生成部において前記画像光が生成される画素の位置を変化させることで、前記画像光の位置を変化させる、頭部装着型表示装置。
  6. 画像データに基づいて画像光を生成し射出する画像光生成部を有し、使用者の頭部に装着された状態において、使用者に前記画像光を虚像として視認させると共に、外景を透過させる画像表示部を備える、頭部装着型表示装置の制御方法であって、
    使用者の頭部の動きを検出する工程と、
    検出された前記頭部の動きに基づいて予測された使用者の頭部の位置の周期的な変化に基づいて、前記画像光生成部が前記画像光を生成可能な領域における前記画像光の位置を変化させる工程と、を備える、方法。
JP2013190061A 2013-09-13 2013-09-13 頭部装着型表示装置および頭部装着型表示装置の制御方法 Active JP6337433B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2013190061A JP6337433B2 (ja) 2013-09-13 2013-09-13 頭部装着型表示装置および頭部装着型表示装置の制御方法
US14/914,149 US9906781B2 (en) 2013-09-13 2014-09-08 Head mounted display device and control method for head mounted display device
EP14777388.1A EP3044957A1 (en) 2013-09-13 2014-09-08 Head mounted display device and control method for head mounted display device
KR1020167007908A KR20160048881A (ko) 2013-09-13 2014-09-08 두부 장착형 표시 장치 및 두부 장착형 표시 장치의 제어 방법
PCT/JP2014/004606 WO2015037219A1 (en) 2013-09-13 2014-09-08 Head mounted display device and control method for head mounted display device
RU2016113960A RU2656714C2 (ru) 2013-09-13 2014-09-08 Наголовное устройство отображения и способ управления наголовным устройством отображения
TW103131215A TW201510573A (zh) 2013-09-13 2014-09-10 頭部配戴型顯示裝置及頭部配戴型顯示裝置之控制方法
CN201410465671.5A CN104460004B (zh) 2013-09-13 2014-09-12 头部佩戴型显示装置以及头部佩戴型显示装置的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013190061A JP6337433B2 (ja) 2013-09-13 2013-09-13 頭部装着型表示装置および頭部装着型表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2015056824A true JP2015056824A (ja) 2015-03-23
JP6337433B2 JP6337433B2 (ja) 2018-06-06

Family

ID=51628416

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013190061A Active JP6337433B2 (ja) 2013-09-13 2013-09-13 頭部装着型表示装置および頭部装着型表示装置の制御方法

Country Status (8)

Country Link
US (1) US9906781B2 (ja)
EP (1) EP3044957A1 (ja)
JP (1) JP6337433B2 (ja)
KR (1) KR20160048881A (ja)
CN (1) CN104460004B (ja)
RU (1) RU2656714C2 (ja)
TW (1) TW201510573A (ja)
WO (1) WO2015037219A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015166816A (ja) * 2014-03-04 2015-09-24 富士通株式会社 表示装置,表示制御プログラム及び表示制御方法
US20160260251A1 (en) * 2015-03-06 2016-09-08 Sony Computer Entertainment Inc. Tracking System for Head Mounted Display
CN110248269A (zh) * 2019-06-20 2019-09-17 维沃移动通信有限公司 一种信息识别方法、耳机及终端设备
JP2019159335A (ja) * 2019-05-29 2019-09-19 株式会社東芝 ウェアラブル機器及び表示方法
JP2021089744A (ja) * 2021-01-25 2021-06-10 株式会社東芝 ウェアラブル機器及び表示方法

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9690375B2 (en) * 2014-08-18 2017-06-27 Universal City Studios Llc Systems and methods for generating augmented and virtual reality images
WO2016194232A1 (ja) * 2015-06-05 2016-12-08 日立マクセル株式会社 映像表示装置および制御方法
DE102015216984A1 (de) * 2015-09-04 2017-03-09 Robert Bosch Gmbh Verfahren und Vorrichtung zum Einstellen eines Betrachtungsbereichs eines Sichtfeldanzeigegeräts
US10962780B2 (en) * 2015-10-26 2021-03-30 Microsoft Technology Licensing, Llc Remote rendering for virtual images
WO2017162504A1 (en) * 2016-03-21 2017-09-28 Koninklijke Philips N.V. An adaptive lighting system for a mirror component and a method of controlling an adaptive lighting system
US10388071B2 (en) * 2016-03-25 2019-08-20 Sony Interactive Entertainment Inc. Virtual reality (VR) cadence profile adjustments for navigating VR users in VR environments
CN105943327B (zh) * 2016-06-02 2023-12-08 北京伟世万联科技有限公司 具有防眩晕设备的视力锻炼保健系统
WO2018129664A1 (zh) * 2017-01-10 2018-07-19 深圳市柔宇科技有限公司 显示内容的调整方法、系统及头戴式显示设备
KR102519355B1 (ko) 2018-02-02 2023-04-10 삼성디스플레이 주식회사 헤드 마운트 디스플레이 장치 및 이의 구동 방법
CN111837068A (zh) 2018-03-01 2020-10-27 海思智财控股有限公司 具有多重景深显像的近眼显示方法
US11361511B2 (en) * 2019-01-24 2022-06-14 Htc Corporation Method, mixed reality system and recording medium for detecting real-world light source in mixed reality
RU2724442C1 (ru) * 2019-09-12 2020-06-23 Самсунг Электроникс Ко., Лтд. Устройство и способ определения расстояния фокусировки глаза для наголовного устройства отображения, наголовное устройство отображения
CN115685592A (zh) * 2021-07-22 2023-02-03 群创光电股份有限公司 配戴装置的切换方法
US20230274386A1 (en) * 2022-02-28 2023-08-31 Ford Global Technologies, Llc Systems and methods for digital display stabilization

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005252734A (ja) * 2004-03-04 2005-09-15 Olympus Corp 頭部装着型カメラ
WO2013049248A2 (en) * 2011-09-26 2013-04-04 Osterhout Group, Inc. Video display modification based on sensor input for a see-through near-to-eye display

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2298501A (en) * 1994-09-05 1996-09-04 Queen Mary & Westfield College Movement detection
RU2106695C1 (ru) * 1996-08-14 1998-03-10 Нурахмед Нурисламович Латыпов Способ представления виртуального пространства пользователю и система для осуществления способа
RU2161871C2 (ru) * 1998-03-20 2001-01-10 Латыпов Нурахмед Нурисламович Способ и система для создания видеопрограмм
WO2001024518A1 (en) * 1999-09-25 2001-04-05 Koninklijke Philips Electronics N.V. User interface generation
AU2001233019A1 (en) * 2000-01-28 2001-08-07 Intersense, Inc. Self-referenced tracking
JP2002157607A (ja) * 2000-11-17 2002-05-31 Canon Inc 画像生成システム、画像生成方法および記憶媒体
US20020133264A1 (en) * 2001-01-26 2002-09-19 New Jersey Institute Of Technology Virtual reality system for creation of design models and generation of numerically controlled machining trajectories
WO2003034705A2 (en) 2001-10-19 2003-04-24 University Of North Carolina At Chapel Hill Methods and systems for dynamic virtual convergence and head mountable display
RU2339083C2 (ru) * 2003-12-19 2008-11-20 ТиДиВижн Корпорейшн Эс.Эй.ДЕ Си.Ви Система трехмерной видеоигры
JP4522129B2 (ja) * 2004-03-31 2010-08-11 キヤノン株式会社 画像処理方法および画像処理装置
US7563228B2 (en) * 2005-01-24 2009-07-21 Siemens Medical Solutions Usa, Inc. Stereoscopic three or four dimensional ultrasound imaging
JP2010073126A (ja) * 2008-09-22 2010-04-02 Toshiba Corp 情報可視化装置および情報可視化方法
US8289288B2 (en) * 2009-01-15 2012-10-16 Microsoft Corporation Virtual object adjustment via physical object detection
JP2011059435A (ja) 2009-09-10 2011-03-24 Sumitomo Electric Ind Ltd ヘッドマウントディスプレイ
US8884984B2 (en) * 2010-10-15 2014-11-11 Microsoft Corporation Fusing virtual content into real content
US9690099B2 (en) * 2010-12-17 2017-06-27 Microsoft Technology Licensing, Llc Optimized focal area for augmented reality displays
US9217867B2 (en) * 2011-03-24 2015-12-22 Seiko Epson Corporation Head-mounted display device and control method for the head-mounted display device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005252734A (ja) * 2004-03-04 2005-09-15 Olympus Corp 頭部装着型カメラ
WO2013049248A2 (en) * 2011-09-26 2013-04-04 Osterhout Group, Inc. Video display modification based on sensor input for a see-through near-to-eye display

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015166816A (ja) * 2014-03-04 2015-09-24 富士通株式会社 表示装置,表示制御プログラム及び表示制御方法
US20160260251A1 (en) * 2015-03-06 2016-09-08 Sony Computer Entertainment Inc. Tracking System for Head Mounted Display
JP2018514017A (ja) * 2015-03-06 2018-05-31 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイの追跡システム
US10684485B2 (en) * 2015-03-06 2020-06-16 Sony Interactive Entertainment Inc. Tracking system for head mounted display
JP2019159335A (ja) * 2019-05-29 2019-09-19 株式会社東芝 ウェアラブル機器及び表示方法
CN110248269A (zh) * 2019-06-20 2019-09-17 维沃移动通信有限公司 一种信息识别方法、耳机及终端设备
JP2021089744A (ja) * 2021-01-25 2021-06-10 株式会社東芝 ウェアラブル機器及び表示方法
JP7119145B2 (ja) 2021-01-25 2022-08-16 株式会社東芝 ウェアラブル機器及び表示方法

Also Published As

Publication number Publication date
CN104460004A (zh) 2015-03-25
CN104460004B (zh) 2018-12-14
EP3044957A1 (en) 2016-07-20
US9906781B2 (en) 2018-02-27
JP6337433B2 (ja) 2018-06-06
KR20160048881A (ko) 2016-05-04
TW201510573A (zh) 2015-03-16
US20160219272A1 (en) 2016-07-28
WO2015037219A1 (en) 2015-03-19
RU2016113960A (ru) 2017-10-16
RU2656714C2 (ru) 2018-06-06

Similar Documents

Publication Publication Date Title
JP6337433B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9411160B2 (en) Head mounted display, control method for head mounted display, and image display system
JP6277673B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6318596B2 (ja) 情報処理装置および情報処理装置の制御方法
JP6488786B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2016004340A (ja) 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
US10416460B2 (en) Head mounted display device, control method for head mounted display device, and computer program
JP2015115848A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016133399A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016033758A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2016024208A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6268778B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6135162B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015087523A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016109710A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6582374B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP6304415B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP6375662B2 (ja) 頭部装着型表示装置
JP2018107823A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180410

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180423

R150 Certificate of patent or registration of utility model

Ref document number: 6337433

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150