JP6492531B2 - 表示装置、及び、表示装置の制御方法 - Google Patents

表示装置、及び、表示装置の制御方法 Download PDF

Info

Publication number
JP6492531B2
JP6492531B2 JP2014218236A JP2014218236A JP6492531B2 JP 6492531 B2 JP6492531 B2 JP 6492531B2 JP 2014218236 A JP2014218236 A JP 2014218236A JP 2014218236 A JP2014218236 A JP 2014218236A JP 6492531 B2 JP6492531 B2 JP 6492531B2
Authority
JP
Japan
Prior art keywords
image
user
unit
display
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014218236A
Other languages
English (en)
Other versions
JP2016085350A (ja
Inventor
佐藤 慎也
慎也 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014218236A priority Critical patent/JP6492531B2/ja
Priority to US14/882,966 priority patent/US20160116741A1/en
Priority to CN201510690853.7A priority patent/CN105549203A/zh
Publication of JP2016085350A publication Critical patent/JP2016085350A/ja
Application granted granted Critical
Publication of JP6492531B2 publication Critical patent/JP6492531B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris

Description

本発明は、表示装置、及び、表示装置の制御方法に関する。
従来、使用者が頭部に装着して使用する、ヘッドマウントディスプレイ(Head Mounted Display:HMD)と呼ばれる表示装置が知られている。この種の表示装置は、装着位置が標準的な位置からずれると、表示される画像を視認しにくいという問題がある。そこで、従来、使用者の目頭と眼球をカメラで撮像して、ディスプレイに対する目頭や目じりの位置を計測することにより、ディスプレイの位置ずれを検出する方法が提案された(例えば、特許文献1参照)。また、HMDにマーカーを貼り付けて、使用者が鏡に正対してHMDが鏡像を撮影し、撮影画像内のマーカーに基づき、画像の表示位置を調整する手法が提案された(例えば、特許文献2参照)。
特許第5414946号公報 国際公開WO2013/145147号
上記従来の手法では、使用者の目頭と眼球を撮像するカメラ、或いは、HMDに貼付するマーカーなど、位置の検出を行うための装備を設ける必要があった。このため、装置構成の複雑化を招き、位置の検出を行うための使用者の作業の負荷が高いという問題があった。
本発明は上記事情に鑑みてなされたものであり、使用者が表示装置を装着して画像を見る場合に、使用者の負担を増やさずに、使用者が好ましい状態で画像を見ることができるようにすることを目的とする。
上記目的を達成するために、本発明の表示装置は、使用者に装着されるように構成された装着部と、前記装着部に設けられ、画像を表す画像光を、前記使用者に前記装着部が装着された場合に前記使用者の眼に入射させる光学素子を有する表示部と、前記装着部に設けられる撮像部と、前記使用者に前記装着部が装着されている場合に前記撮像部の撮像画像に基づいて前記使用者の眼と前記光学素子との対応状態を検出する処理部と、前記処理部が検出した対応状態に基づいて、前記表示部または前記光学素子を調整する調整制御部と、を備えたことを特徴とする。
本発明によれば、使用者が表示装置を装着した場合に、使用者の眼と光学素子との対応状態を検出して調整するので、使用者は好ましい状態で画像を視認できる。
また、本発明は、上記表示装置において、前記処理部は、前記撮像部の撮像画像に基づいて、前記光学素子と前記眼との相対位置を検出し、前記調整制御部は、前記処理部が検出した前記光学素子と前記眼との相対位置に基づいて、前記画像の位置を前記眼に対応した位置にするため前記表示部または前記光学素子を調整すること、を特徴とする。
本発明によれば、使用者の眼と光学素子との相対位置に基づいて調整を行うので、表示装置の装着位置や角度が最適でなくても、使用者が好ましい状態で画像を視認できる。
また、本発明は、上記表示装置において、前記表示部は、画像光を前記光学素子に射出する光射出部を備え、前記光学素子は前記光射出部から入射する画像光を前記使用者の眼に向けて反射する反射面を有し、前記処理部は、前記使用者の眼の位置と前記反射面の位置との対応状態を検出すること、を特徴とする。
本発明によれば、光学素子が有する反射面と使用者の眼の位置との対応状態を検出するので、使用者の眼に入射する画像光の位置を適切な位置に調整できる。
また、本発明は、上記表示装置において、前記撮像部は、前記使用者に前記装着部が装着されている場合に前記使用者の視線方向を撮像し、前記処理部は、前記撮像部の撮像画像から、前記使用者の視線方向に位置する光反射体に映る前記使用者の像、及び、前記表示部または前記光学素子の像を検出することにより、前記使用者の眼と前記光学素子との対応状態を検出すること、を特徴とする。
本発明によれば、調整以外の目的で使用可能な撮像部を利用するので、調整を目的とした装置構成の複雑化を避けることができる。
また、本発明は、上記表示装置において、前記処理部は、前記光反射体に映る前記使用者の像から前記使用者の眼の像及び前記光学素子の像を検出し、前記使用者の眼の位置と前記光学素子の位置との対応状態を検出すること、を特徴とする。
本発明によれば、光反射体に映る像を利用して、より適切に調整を行うことができる。
また、上記目的を達成するために、本発明の表示装置の制御方法は、使用者に装着されるように構成された装着部に、画像を表す画像光を、前記使用者に前記装着部が装着された場合に前記使用者の眼に入射させる光学素子を有する表示部と、撮像部と、を設けた表示装置を制御して、前記使用者に前記装着部が装着されている場合に前記撮像部の撮像画像に基づいて前記使用者の眼と前記光学素子との対応状態を検出し、検出した対応状態に基づいて、前記表示部または前記光学素子を調整すること、を特徴とする。
本発明によれば、使用者が表示装置を装着した場合に、使用者の眼と光学素子との対応状態を検出して調整するので、使用者は好ましい状態で画像を視認できる。
頭部装着型表示装置の外観構成を示す説明図。 画像表示部の光学系の構成を示す図。 頭部装着型表示装置を構成する各部の機能ブロック図。 使用者の眼と表示画像との相対位置を平面視で示す図。 使用者の眼と対象物との相対位置を側面視で示す図。 調整処理における頭部装着型表示装置の動作を示すフローチャート。 調整処理における使用者の状態の一例を示す図。 使用者の眼とハーフミラーとの相対位置の例を正面視で示す図。
図1は、本発明を適用した実施形態に係る頭部装着型表示装置100(表示装置)の外観構成を示す説明図である。
頭部装着型表示装置100は、使用者の頭部に装着された状態で使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御装置10と、を備えている。制御装置10は、使用者が頭部装着型表示装置100を操作するコントローラーとしても機能する。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、右表示駆動部22(光射出部)と、左保持部23と、左表示駆動部24(光射出部)と、右光学像表示部26と、左光学像表示部28と、カメラ61(撮像部)と、マイク63とを備える。右光学像表示部26及び左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右及び左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに連結されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21及び左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、右表示駆動部22及び左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26及び左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」と呼ぶ)、図3を参照して後述する投写光学系251,252等を含む。
右光学像表示部26及び左光学像表示部28は、導光板261,262(図2)と、調光板20Aとを備える。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24が出力する画像光を、使用者の眼に導く。調光板20Aは、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置される。調光板20Aは、光透過性がほぼ無いもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰又は反射するもの等、種々のものを用いることができる。調光板20Aの光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26及び左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、頭部装着型表示装置100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは、右導光板261及び左導光板262を保護し、右導光板261及び左導光板262の損傷や汚れの付着等を抑制する。
調光板20Aは、右光学像表示部26及び左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、右光学像表示部26と左光学像表示部28との境目部分に配置される。使用者が画像表示部20を装着した状態で、カメラ61の位置は、水平方向においては使用者の両眼のほぼ中間であり、鉛直方向においては使用者の両眼より上である。カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラであり、単眼カメラであってもステレオカメラであってもよい。
カメラ61は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮像する。カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮像できるようにカメラ61の撮像範囲が設定されているとより好ましい。
カメラ61は、制御部140が備える撮像処理部161(図3)の制御に従って撮像を実行し、撮像画像データを撮像処理部161に出力する。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のため使用者の左眼LE及び右眼REを図示する。
左表示駆動部24は、LED等の光源と拡散板とを有する左バックライト222、左バックライト222の拡散板から発せられる光の光路上に配置される透過型の左LCD242、および、左LCD242を透過した画像光Lを導くレンズ群等を備えた左投写光学系252を備える。左LCD242は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
左投写光学系252は、左LCD242から射出された画像光Lを平行状態の光束にするコリメートレンズを有する。コリメートレンズにより平行状態の光束にされた画像光Lは、左導光板262(光学素子)に入射される。左導光板262は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、左導光板262の内部において複数回の反射を経て左眼LE側に導かれる。左導光板262には、左眼LEの眼前に位置するハーフミラー262A(反射面)が形成される。
ハーフミラー262Aで反射した画像光Lは左眼LEに向けて左光学像表示部28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
右表示駆動部22は、左表示駆動部24と左右対称に構成される。右表示駆動部22は、LED等の光源と拡散板とを有する右バックライト221、右バックライト221の拡散板から発せられる光の光路上に配置される透過型の右LCD241、および、右LCD241を透過した画像光Lを導くレンズ群等を備えた右投写光学系251を備える。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光Lを平行状態の光束にするコリメートレンズを有する。コリメートレンズにより平行状態の光束にされた画像光Lは、右導光板261(光学素子)に入射される。右導光板261は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、右導光板261の内部において複数回の反射を経て右眼RE側に導かれる。右導光板261には、右眼REの眼前に位置するハーフミラー261A(反射面)が形成される。
ハーフミラー261Aで反射した画像光Lは右眼REに向けて右光学像表示部26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
使用者の右眼REには、ハーフミラー261Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。左眼LEには、ハーフミラー262Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。このように、頭部装着型表示装置100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させ、使用者にとっては、調光板20Aを透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。このように、頭部装着型表示装置100は、シースルー型の表示装置として機能する。
なお、左投写光学系252と左導光板262とを総称して「左導光部」とも呼び、右投写光学系251と右導光板261とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
画像表示部20は、制御装置10に接続部40を介して接続する。接続部40は、制御装置10に接続される本体コード48、右コード42、左コード44、及び、連結部材46を備える。右コード42及び左コード44は、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続される。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続される。
連結部材46は、本体コード48と、右コード42及び左コード44との分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有する。イヤホンプラグ30からは、右イヤホン32及び左イヤホン34が延伸する。イヤホンプラグ30の近傍にはマイク63が設けられる。イヤホンプラグ30からマイク63までは一本のコードにまとめられ、マイク63からコードが分岐して、右イヤホン32と左イヤホン34のそれぞれに繋がる。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を音声処理部187(図3)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
右コード42、左コード44、及び、本体コード48は、デジタルデータを伝送可能なものであればよく、例えば金属ケーブルや光ファイバーで構成できる。また、右コード42と左コード44とを一本のコードにまとめた構成としてもよい。
画像表示部20と制御装置10とは、接続部40を介して各種信号を伝送する。本体コード48の連結部材46とは反対側の端部、及び、制御装置10には、互いに嵌合するコネクター(図示略)が設けられる。本体コード48のコネクターと制御装置10のコネクターとを嵌合し、或いは、この嵌合を外すことで、制御装置10と画像表示部20とを接離できる。
制御装置10は、頭部装着型表示装置100を制御する。制御装置10は、決定キー11、点灯部12、表示切替キー13、輝度切替キー15、方向キー16、メニューキー17、及び電源スイッチ18を含むスイッチ類を備える。また、制御装置10は、使用者が手指で操作するトラックパッド14を備える。
決定キー11は、押下操作を検出して、制御装置10で操作された内容を決定する信号を出力する。点灯部12は、LED(Light Emitting Diode)等の光源を備え、光源の点灯状態により、頭部装着型表示装置100の動作状態(例えば、電源のON/OFF)を通知する。表示切替キー13は、押下操作に応じて、例えば、画像の表示モードの切り替えを指示する信号を出力する。
トラックパッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式等を採用できる。輝度切替キー15は、押下操作に応じて画像表示部20の輝度の増減を指示する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作に応じて操作信号を出力する。電源スイッチ18は、頭部装着型表示装置100の電源オン/オフを切り替えるスイッチである。
図3は、頭部装着型表示装置100を構成する各部の機能ブロック図である。
頭部装着型表示装置100は、コンテンツの供給元となる種々の外部機器OAを接続するインターフェイス125を備える。インターフェイス125は、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができ、無線通信インターフェイスで構成してもよい。外部機器OAは、頭部装着型表示装置100に画像を供給する画像供給装置であり、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。
制御装置10は、制御部140、入力情報取得部110、記憶部120、送信部(Tx)51及び送信部(Tx)52を有する。
入力情報取得部110は、操作部111に接続される。操作部111は、上記のトラックパッド14、方向キー16、電源スイッチ18等を含み、入力情報取得部110は、操作部111から入力される信号に基づき、入力内容を取得する。また、制御装置10は、電源部(図示略)を備え、制御装置10及び画像表示部20の各部に電源を供給する。
記憶部120は、不揮発性の記憶装置であって、種々のコンピュータープログラム、および、これらのプログラムに係るデータを記憶する。また、記憶部120は、画像表示部20に表示する静止画像や動画像のデータを記憶しても良い。
記憶部120は、設定データ121を記憶する。設定データ121は、後述する画像解析部162及び表示調整部163が使用する各種の設定値を含む。設定データ121が含む設定値は、予め操作部111の操作で入力された値であってもよいし、通信部117またはインターフェイス125を介して外部機器OAまたは他の装置(図示略)から設定値を受信して記憶してもよい。
制御部140には、3軸センサー113、GPS115、通信部117及び音声認識部114が接続される。3軸センサー113は3軸の加速度センサーであり、制御部140は3軸センサー113の検出値を取得する。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を算出する。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御部140が計時する時刻を修正させる機能を備えていてもよい。
通信部117は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth(登録商標)等の規格に準じた無線データ通信を実行する。
外部機器OAが、通信部117に無線接続された場合、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示させる。一方、外部機器OAが、インターフェイス125に有線接続された場合、制御部140は、コンテンツデータをインターフェイス125より取得して、画像表示部20に画像を表示させる。通信部117及びインターフェイス125は、外部機器OAからコンテンツデータを取得するデータ取得部DAとして機能する。
制御部140は、プログラムを実行するCPU(図示略)、CPUが実行するプログラムやデータを一時的に格納するRAM(図示略)、及び、CPUが実行する基本制御プログラムやデータを不揮発的に記憶するROM(図示略)を備える。制御部140は、記憶部120が記憶するコンピュータープログラムを読み出して実行し、オペレーティングシステム(OS)150、画像処理部160、表示制御部170、撮像処理部181、画像解析部182(処理部)、調整制御部183、及び、音声処理部187として機能する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示略)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示略)を用いてディジタル画像信号に変換する。画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(図中、Data)として、1フレームごとに、制御部140のRAMに格納する。この画像データは、例えばRGBデータである。
なお、画像処理部160は、必要に応じて、画像データの解像度を右表示駆動部22及び左表示駆動部24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部160は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。
画像処理部160は、クロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、RAMに格納された画像データDataのそれぞれを送信部51、52を介して送信する。送信部51、52は、トランシーバーとして機能し、制御装置10と画像表示部20との間におけるシリアル伝送を実行する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」と呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」と呼ぶ。
表示制御部170は、右表示駆動部22及び左表示駆動部24を制御する制御信号を生成し、この制御信号により、右表示駆動部22及び左表示駆動部24のそれぞれによる画像光の生成及び射出を制御する。具体的には、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFFを制御する。また、表示制御部170は、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを制御する。
画像処理部160及び表示制御部170は、後述する調整制御部183の制御に従って、右LCD241及び左LCD242における画像の表示位置を変更する機能を有する。具体的には、調整制御部183が、表示位置をシフトさせるシフト量及びシフト方向を示す制御データを生成した場合、この制御データに従って、画像処理部160が画像データをシフトさせる。また、表示制御部170は、調整制御部183が生成する制御データに従って、右LCD制御部211及び左LCD制御部212を制御し、右LCD241及び左LCD242における画像の表示位置をシフトさせる。
さらに、画像処理部160及び表示制御部170は、後述する調整制御部183の制御に従って、右LCD241及び左LCD242における画像の表示サイズを変更する機能を有する。具体的には、調整制御部183が、表示サイズを指定する制御データを生成した場合、この制御データに従って、画像処理部160が画像データを拡大または縮小させる。また、表示制御部170は、調整制御部183が生成する制御データに従って、右LCD制御部211及び左LCD制御部212を制御し、右LCD241及び左LCD242における画像の表示サイズを拡大または縮小させる。
画像処理部160及び表示制御部170のいずれか一方が上記処理を行って表示位置を変更してもよい。また、両方で上記処理を行ってもよく、この場合、調整制御部183は画像処理部160と表示制御部170のそれぞれに対応する制御データを生成してもよい。
音声処理部187は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、右イヤホン32および左イヤホン34に出力する。また、音声処理部187は、マイク63により集音される音声を取得してディジタル音声データに変換する。音声処理部187は、ディジタル音声データに対して予め設定された処理を行ってもよい。
画像表示部20は、インターフェイス25と、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、振動センサー65と、9軸センサー66とを備えている。
振動センサー65は、加速度センサーを利用して構成され、例えば図1に示すように、右保持部21において右光学像表示部26の端部ERの近傍に内蔵される。振動センサー65は、使用者が端部ERを叩く操作(ノック操作)を行った場合に、この操作による振動を検出して、検出結果を制御部140に出力する。この振動センサー65の検出結果により、制御部140は、使用者によるノック操作を検出する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。制御部140は、画像表示部20が使用者の頭部に装着されているとき、9軸センサー66の検出値に基づいて使用者の頭部の動きを検出できる。例えば、制御部140は、9軸センサー66の検出値に基づき、画像表示部20の傾きの大きさと傾きの向きを推定できる。
インターフェイス25は、右コード42と左コード44とが接続されるコネクターを備える。インターフェイス25は、送信部51から送信されるクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、画像データDataを、対応する受信部(Rx)53、54に出力する。また、インターフェイス25は、表示制御部170から送信される制御信号を、対応する受信部53、54、右バックライト制御部201又は左バックライト制御部202に出力する。
また、インターフェイス25は、カメラ61、振動センサー65及び9軸センサー66を接続するインターフェイスである。振動センサー65による振動の検出結果や、9軸センサー66による加速度(3軸)、角速度(3軸)、地磁気(3軸)の検出結果は、インターフェイス25を介して制御部140に送られる。
右表示駆動部22は、上述した右バックライト221、右LCD241、及び右投写光学系251を備える。また、右表示駆動部22は、受信部53、右バックライト(BL)221を制御する右バックライト(BL)制御部201、及び、右LCD241を駆動する右LCD制御部211を備える。
受信部53は、送信部51に対応するレシーバーとして動作し、制御装置10と画像表示部20との間におけるシリアル伝送を実行する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データDataと、に基づいて、右LCD241を駆動する。
左表示駆動部24は、右表示駆動部22と同様の構成を有する。左表示駆動部24は、上述した左バックライト222、左LCD242、及び左投写光学系252を備える。また、左表示駆動部24は、受信部54、左バックライト222を駆動する左バックライト制御部202、及び、左LCD242を駆動する左LCD制御部212を備える。
受信部54は、送信部52に対応するレシーバーとして動作し、制御装置10と画像表示部20との間におけるシリアル伝送を実行する。左バックライト制御部202は、入力された制御信号に基づいて、左バックライト222を駆動する。左LCD制御部212は、受信部54を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データDataと、に基づいて、左LCD242を駆動する。
なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して、右の「画像光生成部」とも呼ぶ。同様に、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242とを総称して、左の「画像光生成部」とも呼ぶ。
ところで、使用者が頭部装着型表示装置100を装着して画像を見る場合に、使用者の眼の位置と、右導光板261及び左導光板262が使用者の眼に入射させる画像光Lの位置とが対応していないと、使用者にとっての画像の見え方に影響が生じる。
図4(A)及び(B)は、使用者の眼と画像表示部20との相対位置を平面視で示す説明図である。図4は、特に、使用者の両眼の左右方向における位置の影響を示す。
図4(A)及び(B)には、使用者が画像表示部20を頭部に装着して、使用者の前方に位置する対象物Oを視認する例を示す。画像表示部20は、AR(Augmented Reality)効果を奏する画像(以下、AR画像という)を、使用者に視認させる。使用者は、実際に使用者の前方にある対象物Oを、右導光板261、左導光板262及び調光板20A越しに視認し、AR画像を視認する。そして、対象物OにAR画像が重なって見えることで、ARの効果が得られる。
画像表示部20は、右導光板261、左導光板262により、画像光Lを使用者の眼に入射させることでAR画像を視認させる。このとき使用者が視認するAR画像は、右導光板261上に形成される実像でなく、画像光Lが眼内に形成する虚像である。図4(A)及び(B)には、画像表示部20が生成する虚像を実像と見なした場合の表示位置を、符号Pで示す。言い換えれば、画像表示位置Pに画像(実像)を表示すると、この画像は画像表示部20が生成する虚像と等価とみなすことができる。
画像表示位置Pは、使用者の両眼と対象物Oとを結ぶ仮想軸線上の位置であり、ハーフミラー261A、262Aの位置により決まるので、図4(A)及び(B)における画像表示位置Pは共通とする。
図4(A)に示すように、使用者が対象物Oを視認する場合、対象物Oから右眼REと左眼LEのそれぞれに、外光OLが入射する。このとき、右眼REには、画像表示位置Pに表示される画像のうち位置RPにあるAR画像が、対象物Oに重なって視認される。また、左眼LEには、画像表示位置Pに表示される画像のうち位置LPにあるAR画像が、対象物Oに重なって視認される。
従って、頭部装着型表示装置100は、位置RP、LPにAR画像を表示すると、AR画像と対象物Oとが重なり、ARの効果を十分に得ることができる。
図4(A)の例に比べて、使用者の右眼REと左眼LEとの間の間隔が大きい例を、図4(B)に示す。使用者の右眼REと左眼LEとの間隔は、使用者の骨格等により個人差がある。右眼REと左眼LEとの間隔が大きい人が頭部装着型表示装置100を使用する場合、図4(B)に例示する状態になる。図4(B)の例では、使用者にAR画像と対象物Oとが重なって視認されるように表示する場合、画像の表示位置は位置LP´、RP´となる。
このように、使用者の両眼が並ぶ方向における位置については次の知見が得られる。すなわち、対象物Oに重なるようにAR画像を視認させるためには、対象物O、使用者及び使用者が装着する画像表示部20の位置が同一であっても、右眼RE及び左眼LEの位置が変化した場合、AR画像の表示位置を変化させる必要がある。別の表現をすれば、使用者の両眼に対し左右方向におけるAR画像の表示位置は、右眼RE及び左眼LEに対応する位置にすることが望ましい。
図5(A)及び(B)は、使用者の眼と対象物Oとの相対位置を側面視で示す説明図である。図5は、特に、対象物Oと右眼RE及び左眼LEとの間の距離の影響を示す。図5(A)及び(B)では、図4(A)及び(B)と同様に、使用者の前方に位置する対象物Oに重なるように、AR画像を視認させる例を示す。また、画像表示部20が実際に形成する虚像に代えて、この虚像を等価な実像に置き換えた場合の画像表示位置を、符号Pで示す。なお、図5(A)及び(B)は側面視を示しているので、使用者の左眼LEを図示するが、使用者の右眼REにおける見え方も同じように考えることができる。
これらの例で、使用者はAR画像を対象物Oに重ねて視認する。つまり、AR画像は、奥行き方向においては対象物Oと同じ位置にあるように知覚される。そこで、画像表示部20が表示するAR画像に対応する、対象物Oの位置におけるサイズを比較すると、図5(A)の例における画像のサイズSは、図5(B)の例における画像のサイズS´よりも小さい。
対象物Oの位置における画像のサイズS、S´の相違は、左眼LEと画像表示位置Pとの距離D1、及び、画像表示位置Pと対象物Oとの距離D2の比に影響される。例えば、図5(A)及び(B)に示すように、距離D1の大きさ(長さ)が異なる場合、対象物OにおけるAR画像のサイズが異なる。
AR画像は対象物Oに重なって見える場合に、実際の景色にない情報を使用者に提供したり、実際の景色と異なる見え方で対象物Oを視認させたりする効果がある。このため、AR画像が視認されるサイズと対象物Oの実際の大きさとを対応させることが望ましい。従って、頭部装着型表示装置100は、左眼LEと画像表示位置Pとの距離D1、及び、画像表示位置Pと対象物Oとの距離D2に合わせて、AR画像の表示サイズを調整することが望ましい。ここで、画像表示位置Pと左眼LEとの距離D1は、画像表示部20の形状、仕様から概ね一定である。このため、少なくとも、画像表示位置Pと対象物Oとの距離D2に合わせて調整を行うことで、AR画像を適正な状態で使用者に視認させる効果が期待できる。
そこで、頭部装着型表示装置100は、使用者が頭部装着型表示装置100を装着し、AR画像を表示する場合に、使用者の右眼RE及び左眼LEと、画像表示部20との相対位置を求め、AR画像の表示位置を調整する。この機能は、制御部140が実行する調整処理により実現される。
図6は、調整処理における頭部装着型表示装置の動作を示すフローチャートである。
使用者が頭部装着型表示装置100を装着し(ステップS11)、操作部111を操作する。制御部140は、操作部111の操作により調整処理の開始が指示されることに対応して、記憶部120に記憶された調整アプリケーションプログラムを読み出して起動する(ステップS12)。この調整アプリケーションプログラムの機能により、撮像処理部181、画像解析部182、及び調整制御部183が調整処理を開始する。
調整制御部183は、表示制御部170に対して案内用の画像データを出力し、使用者に対して調整を行うための立ち位置を案内する画像を、画像表示部20に表示させる(ステップS13)。
図7は、調整処理における使用者の状態の一例を示す図である。この図7に示すように、頭部装着型表示装置100の調整処理では、使用者は鏡Mの前に立つ。好ましくは、カメラ61が、鏡Mに映る使用者の鏡像を撮像できるように、使用者は鏡Mの正面に立つ。
制御部140は、後述するように、カメラ61の撮像画像から、使用者の右眼RE及び左眼LEの位置を検出する。このため、使用者の目線が鏡Mを正面から注視することが好ましい。使用者を支援するため、鏡Mには、使用者が注視する位置を示す目印M1を付してもよい。鏡Mには、使用者の右眼RE及び左眼LEの高さ位置に対応するように、複数の高さ位置に目印M1が付されていてもよい。
調整制御部183は、表示制御部170に対して案内用の画像データを出力し、使用者に対して、鏡Mにおいて注視する位置を案内する画像を、画像表示部20に表示させる(ステップS14)。例えば、調整制御部183は、図7の目印M1を注視位置として指定する画像を表示させる。また、操作部111により使用者の身長が入力された場合、調整制御部183は、入力された身長から調整に適合する注視点の高さを算出し、算出した高さに対応する目印M1を指定する画像を表示させてもよい。ここで、注視点の高さは、使用者の右眼RE及び左眼LEの高さであることが好ましいが、カメラ61の高さであってもよい。
続いて、撮像処理部181は、カメラ61を制御して撮像を実行させ、撮像画像データを生成する(ステップS15)。画像解析部182は、撮像処理部181が生成する撮像画像データを解析して、撮像画像データから、使用者及び頭部装着型表示装置100の鏡像を抽出する(ステップS16)。
画像解析部182は、抽出した画像に基づき、頭部装着型表示装置100の装着状態に関するデータを取得する(ステップS17)。すなわち、画像解析部182は、抽出した画像データから、画像表示部20の右保持部21(図1)と左保持部23(図1)とを結ぶ直線と、使用者の頭部の左右方向を示す直線とを算出し、算出した2つの直線がなす角度のデータを取得する。
調整制御部183は、画像解析部182が取得したデータが、予め設定された適正範囲内の値であるか否かを判定する(ステップS18)。適正範囲を示すデータは、設定データ121として予め記憶部120に記憶される。
装着状態に関するデータが適正範囲内でない場合(ステップS18;NO)、使用者の頭部の傾きと画像表示部20の傾きとが適合していない、すなわち、画像表示部20の装着状態が適正な状態でないと見なすことができる。
この場合、調整制御部183は、表示制御部170に対して案内用の画像データを出力し、使用者に対して、頭部装着型表示装置100の装着状態を正すよう案内する画像を、画像表示部20に表示させる(ステップS19)。その後、制御部140はステップS15に戻って撮像を行う。
装着状態に関するデータが適正範囲内である場合(ステップS18;YES)、調整制御部183は、画像表示部20が備えるセンサーの検出値を取得し(ステップS20)、取得した検出値に基づき使用者の姿勢に関するデータを算出し、或いは取得する(ステップS21)。調整制御部183は、例えば、9軸センサー66が検出する加速度の検出値に基づき、鉛直方向に対する使用者の頭部の傾きを示すデータを算出する。
調整制御部183は、画像解析部182が取得したデータが、予め設定された適正範囲内の値であるか否かを判定する(ステップS22)。適正範囲を示すデータは、設定データ121として予め記憶部120に記憶される。
装着状態に関するデータが適正範囲内でない場合(ステップS22;NO)、画像表示部20の傾き、すなわち使用者の姿勢が適正な状態でないと見なすことができる。
この場合、調整制御部183は、表示制御部170に対して案内用の画像データを出力し、使用者に対して、姿勢を正すよう案内する画像を、画像表示部20に表示させる(ステップS23)。その後、制御部140はステップS20に戻って姿勢の検出を行う。
なお、ステップS20及びS21で、調整制御部183は、カメラ61の撮像画像データに基づいて、姿勢を検出し、姿勢に関するデータを取得してもよい。この場合、画像解析部182が撮像画像データを解析して、使用者の頭部の傾き、或いは画像表示部20の傾きを検出する。例えば、撮像画像データから使用者の頭部または画像表示部20の鏡像を抽出して傾きを算出してもよいし、撮像画像データから鏡Mの縁を検出し、鏡Mの高さ方向に対するカメラ61の傾きを算出してもよい。
この方法を用いる場合、制御部140は、ステップS23の後、ステップS15に戻って再びカメラ61による撮像を実行する。
装着状態に関するデータが適正範囲内である場合(ステップS22;YES)、調整制御部183は、画像の表示位置、及び/又はサイズの調整を実行する。
画像解析部182は、撮像画像データから抽出した画像表示部20の鏡像を解析して、ハーフミラー261A、262Aと使用者の右眼RE、左眼LEの相対位置を解析する(ステップS24)。
図8は、使用者の眼とハーフミラー261A、262Aとの相対位置の例を正面視で示す図である。
画像解析部182は、撮像画像データから抽出した画像表示部20の鏡像から、ハーフミラー261A、262Aの中心位置を、それぞれ特定する。続いて、画像解析部182は、同じ撮像画像データから抽出した像から、右眼REの中心位置と、左眼LEの中心位置とを特定する。ここで、画像解析部182は、特定した位置を、撮像画像データにおける座標で算出してもよい。
画像解析部182は、特定した位置に基づき、ハーフミラー261Aと右眼REとの相対位置、及び、ハーフミラー262Aと左眼LEとの相対位置を解析する。
ここで、画像解析部182は、撮像画像データから、画像表示部20の鏡像を抽出し、この画像表示部20の鏡像の縁からハーフミラー261A、262Aの中心位置を推定し、算出してもよい。右導光板261、左導光板262は、画像表示部20の右保持部21や左保持部23に固定的に設けられ、位置決めされている。このため、画像表示部20の仕様に基づき、画像表示部20の外縁とハーフミラー261A、262Aの中心位置との位置関係が既知である。従って、撮像画像データからハーフミラー261A、262Aの鏡像そのものを抽出する必要はない。これにより、右導光板261、左導光板262、及びハーフミラー261A、262Aの光学特性の影響を受けることなく、ハーフミラー261A、262Aの位置を求めることができる。
また、使用者がまばたきをした場合、及び、使用者の眼がサッカード(サッケード、または、マイクロサッカード)と呼ばれる眼球運動をした場合の影響を回避するため、撮像処理部181が、カメラ61によりタイミングを異ならせて複数回の撮像を行ってもよい。この場合、画像解析部182は、撮像処理部181が生成する複数の撮像画像データのそれぞれに基づき右眼REの位置及び左眼LEの位置を求め、各撮像画像データから求めた位置の平均値を、右眼REの位置及び左眼LEの位置としてもよい。
次に、画像解析部182は、撮像画像データから抽出した画像表示部20の鏡像のサイズに基づき、画像表示部20と鏡Mとの間の距離を算出する(ステップS25)。画像表示部20が鏡Mから遠いほど、撮像画像データにおける画像表示部20の像が小さくなることを利用して、距離を算出できる。また、画像表示部20が、カメラ61の撮像方向とほぼ同じ向きの深度(Depth)センサーや距離計を備えてもよい。この場合、画像解析部182は、深度センサーや距離計の検出値に基づいて、鏡Mまでの距離を算出してもよい。深度センサーや距離計としては、例えば、可視光、赤外光、レーザー光等の光を用いる方式、超音波等を用いる方式のものを採用できる。
ここで、記憶部120は、成人の平均的な眼(瞳)の幅(または直径)を表すデータを、例えば記憶部120に設定値として予め記憶している。画像解析部182は、撮像画像データから抽出した使用者の瞳の幅と、記憶部120に記憶された当該データが表す幅と、に基づき、使用者の瞳と鏡Mとの間の距離を算出する。この使用者の瞳と鏡Mとの間の距離は、当該距離の推定値を求めるために予め設定された演算式を用いて演算を行うことで、導出できる。そして、画像解析部182は、使用者の瞳と鏡Mとの距離と、ステップS25で算出した距離と、の差を求める。当該差は、図5(A)および(B)の距離D1に対応する。
また、記憶部120に、成人の眼の平均的な幅を表すデータに代えて、使用者ごとに測定された瞳の幅を表すデータを記憶していてもよい。また、瞳の幅に代えて記憶部120が平均的な顔の大きさ(縦の長さ、横の幅)に関するデータを記憶し、当該平均的な顔の大きさのデータと、撮像画像データから抽出された使用者の顔の大きさに関するデータと、に基づいて、距離D1を求めることもできる。
画像解析部182は、上述した処理で算出したデータに基づき、右表示駆動部22及び左表示駆動部24が表示する画像の位置、またはサイズに関するデータを生成する(ステップS26)。調整制御部183は、画像解析部182が生成したデータに基づき、表示位置及び/またはサイズを決定し(ステップS27)、表示位置及び/またはサイズを調整する制御データを生成して、画像処理部160及び/または表示制御部170に出力する(ステップS28)。これにより、右LCD241、左LCD242における画像の表示位置、表示サイズが調整される。また、調整制御部183は、表示制御部170に対して案内用の画像データを出力し、画像の表示位置や表示サイズの調整を行ったことを通知してもよい。この場合、使用者が、調整後の画像の表示位置や表示サイズを認容するか否かを、操作部111で入力できるようにしてもよく、調整の終了の指示や、調整のやり直しの指示を、入力できるようにしてもよい。その後、制御部140は、調整アプリケーションプログラムを終了する(ステップS29)。
上記の通り、本実施形態では、調整制御部183が、瞳と画像表示部20との間の距離D1と、画像表示部20と鏡Mとの間の距離と、に基づいて画像のサイズを調整する。このような構成に代えて、距離D1を推定(導出)する処理を省略してもよい。この場合、調整制御部183は、画像表示部20と鏡Mとの間の距離のみに基づいて、画像の表示位置及び/またはサイズを調整することが可能である。この場合、必要があれば、画像のサイズは、使用者によって、例えば操作部111の操作により手動でさらに調整されることも可能である。なお、距離D1の推定の省略に加え、画像表示部20と鏡Mとの間の距離の推定が省略されてもよい。これらの推定が省略された場合でも、右眼REの位置及び左眼LEの位置に対して、右表示駆動部22及び左表示駆動部24が表示する画像の位置の相対位置を適切に調整することが可能である。
以上説明したように、本発明を適用した実施形態の頭部装着型表示装置100は、使用者に装着されるように構成された装着部と、装着部に設けられ、画像を表す画像光Lを、使用者に装着部が装着された場合に使用者の眼に入射させる右導光板261、左導光板262を有する画像表示部20と、カメラ61と、使用者に装着部が装着されている場合にカメラ61の撮像画像に基づいて使用者の眼と右導光板261、左導光板262との対応状態を検出する画像解析部182と、画像解析部182が検出した対応状態に基づいて、画像表示部20または右導光板261、左導光板262を調整する調整制御部183と、を備える。
ここで、装着部は、使用者に装着される部分であればよく、例えば使用者の身体に直接接触する右保持部21及び左保持部23が挙げられるが、右保持部21、及び/又は左保持部23に固定的に設けられた他の構成部を装着部に含めてもよい。また、装着されるという点で使用者の身体に接触しない構成部も装着部に相当し、例えば右導光板261、左導光板262は間接的に使用者の身体に固定または保持されるので装着部に相当する。従って、制御系(受信部53、54、右バックライト制御部201、左バックライト制御部202、右LCD制御部211、及び左LCD制御部212)を除く全ての構成部分が独立して、或いは他の構成部分とともに、装着部に相当する。狭義の装着部としては、使用者の身体に接触する構造物または構造物の一部が装着部に相当する。
この構成によれば、使用者が頭部装着型表示装置100を装着した場合に、使用者の眼と右導光板261、左導光板262との対応状態を検出して調整するので、使用者は好ましい状態で画像を視認できる。
また、画像解析部182は、カメラ61の撮像画像に基づいて、右導光板261、左導光板262と使用者の眼との相対位置を検出し、調整制御部183は、画像解析部182が検出した右導光板261、左導光板262と眼との相対位置に基づいて、画像の位置を眼に対応した位置にするため画像表示部20または右導光板261、左導光板262を調整する。これにより、頭部装着型表示装置100の装着位置や角度が最適でなくても、使用者が好ましい状態で画像を視認できる。
また、画像表示部20は、画像光Lを右導光板261、左導光板262に射出する右表示駆動部22、左表示駆動部24を備え、右導光板261、左導光板262は右表示駆動部22、左表示駆動部24から入射する画像光Lを使用者の眼に向けて反射するハーフミラー261A、262Aを有し、画像解析部182は、使用者の眼の位置とハーフミラー261A、262Aの位置との対応状態を検出するので、使用者の眼に入射する画像光Lの位置を適切な位置に調整できる。
また、カメラ61は、使用者に装着部が装着されている場合に使用者の視線方向を撮像し、画像解析部182は、カメラ61の撮像画像から、使用者の視線方向に位置する光反射体(例えば、鏡M)に映る使用者の像、及び、画像表示部20または右導光板261、左導光板262の像を検出することにより、使用者の眼と右導光板261、左導光板262との対応状態を検出する。例えば、カメラ61は、使用者の視線方向に位置する対象物Oを検出し、認識する目的で使用でき、この対象物Oに対応するAR画像を表示する場合に使用される。このため、調整以外の目的で使用可能なカメラ61を利用するので、調整を目的とした装置構成の複雑化を避けることができる。
また、画像解析部182は、光反射体に映る使用者の像から使用者の眼の像及び右導光板261、左導光板262の像を検出し、使用者の眼の位置と右導光板261、左導光板262の位置との対応状態を検出するので、光反射体に映る像を利用して、より適切に調整を行うことができる。
なお、この発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
また、例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
さらに、上記実施形態では、画像表示部20と制御装置10とが分離され、接続部40を介して接続された構成を例に挙げて説明したが、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置10として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。また、制御装置10が画像表示部20と分離して構成され、制御装置10と画像表示部20との間で無線通信により各種信号を送受信する構成としてもよい。
また、例えば、画像表示部20において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、画像光を生成する構成として、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。
また、画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、光射出部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを光射出部として備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
さらに、本発明の光学素子は、ハーフミラー261A、262Aを有する右導光板261、左導光板262に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図3に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図3に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120または制御装置10内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117又はインターフェイス125を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成のうち、操作部111のみが単独の使用者インターフェイス(UI)として形成されてもよい。また、制御装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図3に示す制御部140が制御装置10と画像表示部20との両方に形成されていてもよいし、制御装置10に形成された制御部140と画像表示部20に形成されたCPUとが行う機能が別々に分けられている構成としてもよい。
10…制御装置、20…画像表示部(表示部)、21…右保持部、22…右表示駆動部(光射出部)、23…左保持部、24…左表示駆動部(光射出部)、25…インターフェイス、26…右光学像表示部、28…左光学像表示部、61…カメラ(撮像部)、63…マイク、100…頭部装着型表示装置(表示装置)、117…通信部、120…記憶部、125…インターフェイス、140…制御部、150…オペレーティングシステム、160…画像処理部、170…表示制御部、181…撮像処理部、182…画像解析部(処理部)、183…調整制御部、187…音声処理部、201…右バックライト制御部、202…左バックライト制御部、211…右LCD制御部、212…左LCD制御部、221…右バックライト、222…左バックライト、241…右LCD、242…左LCD、251…右投写光学系、252…左投写光学系、261…右導光板(光学素子)、262…左導光板(光学素子)、261A、262A…ハーフミラー(反射面)。

Claims (8)

  1. 使用者に装着されるように構成された装着部と、
    前記装着部に設けられ、画像を表す画像光を、前記使用者に前記装着部が装着された場合に前記使用者の眼に入射させる光学素子を有する表示部と、
    前記装着部に設けられ、前記使用者に前記装着部が装着されている場合に前記使用者の前方を撮像する撮像部と、
    前記使用者に前記装着部が装着されている場合に前記撮像部によって前記使用者の前方に位置する光反射体に映る像を撮像した撮像画像に基づいて前記使用者の眼と前記光学素子との対応状態を検出する処理部と、
    前記処理部が検出した対応状態に基づいて、前記表示部または前記光学素子を調整する調整制御部と、
    を備え
    前記処理部は、前記表示部における右部分と左部分とを結ぶ直線と、前記使用者の頭部の左右方向を示す直線とがなす角度のデータを取得し、
    前記調整制御部は、前記データが予め設定された適正範囲内の値であるか否かを判定し、前記データが適正範囲内の値である場合に前記表示部または前記光学素子を調整することを特徴とする表示装置。
  2. 前記使用者の右眼に画像を視認させる右表示部、前記使用者の左眼に画像を視認させる左表示部、及び、前記右表示部の側と前記左表示部の側とで前記表示部を保持する左右一対の保持部を備え、
    前記処理部は、前記表示部における左右一対の前記保持部を結ぶ直線と、前記使用者の頭部の左右方向を示す直線とがなす角度のデータを取得すること、
    を特徴とする請求項1記載の表示装置。
  3. 前記表示部は、前記表示部の傾きを検出するセンサーを備え、
    前記調整制御部は、前記データが適正範囲内の値である場合に、前記センサーの検出値に基づき前記使用者の姿勢が適正範囲内であるか否かを判定し、適正範囲内であると判定した場合に前記表示部または前記光学素子を調整すること、 を特徴とする請求項1または2記載の表示装置。
  4. 前記処理部は、前記撮像部の撮像画像に基づいて、前記光学素子と前記眼との相対位置を検出し、
    前記調整制御部は、前記処理部が検出した前記光学素子と前記眼との相対位置に基づいて、前記画像の位置を前記眼に対応した位置にするため前記表示部または前記光学素子を調整すること、
    を特徴とする請求項1から3のいずれかに記載の表示装置。
  5. 前記表示部は、画像光を前記光学素子に射出する光射出部を備え、
    前記光学素子は前記光射出部から入射する画像光を前記使用者の眼に向けて反射する反射面を有し、
    前記処理部は、前記使用者の眼の位置と前記反射面の位置との対応状態を検出すること、
    を特徴とする請求項記載の表示装置。
  6. 記処理部は、前記撮像部の撮像画像から、前記反射体に映る前記使用者の像、及び、前記表示部または前記光学素子の像を検出することにより、前記使用者の眼と前記光学素子との対応状態を検出すること、
    を特徴とする請求項1からのいずれかに記載の表示装置。
  7. 前記処理部は、前記光反射体に映る前記使用者の像から前記使用者の眼の像及び前記光学素子の像を検出し、前記使用者の眼の位置と前記光学素子の位置との対応状態を検出すること、
    を特徴とする請求項記載の表示装置。
  8. 使用者に装着されるように構成された装着部に、画像を表す画像光を、前記使用者に前記装着部が装着された場合に前記使用者の眼に入射させる光学素子を有する表示部と、前記使用者に前記装着部が装着されている場合に前記使用者の前方を撮像する撮像部と、を設けた表示装置を制御して、
    前記使用者に前記装着部が装着されている場合に前記撮像部によって前記使用者の前方に位置する光反射体に映る像を撮像した撮像画像に基づいて、前記表示部における右部分と左部分とを結ぶ直線と、前記使用者の頭部の左右方向を示す直線とがなす角度のデータを取得し、
    前記データが予め設定された適正範囲内の値であるか否かを判定し、
    前記データが適正範囲内の値である場合に、前記撮像画像に基づいて前記使用者の眼と前記光学素子との対応状態を検出し、
    検出した対応状態に基づいて、前記表示部または前記光学素子を調整すること、
    を特徴とする表示装置の制御方法。
JP2014218236A 2014-10-27 2014-10-27 表示装置、及び、表示装置の制御方法 Active JP6492531B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014218236A JP6492531B2 (ja) 2014-10-27 2014-10-27 表示装置、及び、表示装置の制御方法
US14/882,966 US20160116741A1 (en) 2014-10-27 2015-10-14 Display apparatus and method for controlling display apparatus
CN201510690853.7A CN105549203A (zh) 2014-10-27 2015-10-22 显示装置以及显示装置的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014218236A JP6492531B2 (ja) 2014-10-27 2014-10-27 表示装置、及び、表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2016085350A JP2016085350A (ja) 2016-05-19
JP6492531B2 true JP6492531B2 (ja) 2019-04-03

Family

ID=55791873

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014218236A Active JP6492531B2 (ja) 2014-10-27 2014-10-27 表示装置、及び、表示装置の制御方法

Country Status (3)

Country Link
US (1) US20160116741A1 (ja)
JP (1) JP6492531B2 (ja)
CN (1) CN105549203A (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101594839B1 (ko) * 2014-09-12 2016-02-17 고려대학교 산학협력단 전두엽 활성 게임 제공 방법 및 장치
EP3249934A4 (en) * 2015-01-21 2018-12-05 Sony Corporation Information processing apparatus, communication system, information processing method and program
US9703374B1 (en) * 2015-12-16 2017-07-11 Google, Inc. In-cell gaze tracking for near-eye display
JP6844171B2 (ja) * 2016-09-23 2021-03-17 カシオ計算機株式会社 投影装置、投影方法及びプログラム
CN107065195B (zh) * 2017-06-02 2023-05-02 那家全息互动(深圳)有限公司 一种模块化mr设备成像方法
US10488653B2 (en) 2017-11-17 2019-11-26 Microsoft Technology Licensing, Llc Display alignment tracking in display systems
DE102018105917A1 (de) * 2018-03-14 2019-09-19 tooz technologies GmbH Verfahren zur benutzerindividuellen Kalibrierung einer auf den Kopf eines Benutzers aufsetzbaren Anzeigevorrichtung für eine augmentierte Darstellung
CN108732764A (zh) 2018-06-06 2018-11-02 北京七鑫易维信息技术有限公司 一种智能眼镜、眼球轨迹的追踪方法、装置及存储介质
JP2021047227A (ja) * 2019-09-17 2021-03-25 セイコーエプソン株式会社 表示装置、表示装置の制御プログラム、表示装置の制御方法、及び表示システム
CN114341703B (zh) * 2019-09-25 2024-02-02 Jvc建伍株式会社 显示装置、显示系统、显示调整方法
US11719942B2 (en) * 2021-06-25 2023-08-08 Meta Platforms Technologies, Llc Offsetting image light aberration due to waveguide movement in display assemblies using information from piezoelectric movement sensors

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2939135B1 (fr) * 2008-12-02 2010-12-03 Galderma Res & Dev Nouveaux composes 4-(azacycloalkyl)-benzene-1,3-diol comme inhibiteurs de la tyrosinase, leur procede de preparation et leur utilisation en medecine humaine ainsi qu'en cosmetique
JP2010262232A (ja) * 2009-05-11 2010-11-18 Konica Minolta Opto Inc 映像表示装置およびヘッドマウントディスプレイ
CN103380625A (zh) * 2011-06-16 2013-10-30 松下电器产业株式会社 头戴式显示器及其位置偏差调整方法
JP5844880B2 (ja) * 2012-03-01 2016-01-20 パイオニア株式会社 ヘッドマウントディスプレイ、校正方法及び校正プログラム、並びに記録媒体
US8988519B2 (en) * 2012-03-20 2015-03-24 Cisco Technology, Inc. Automatic magnification of data on display screen based on eye characteristics of user
CN104508538B (zh) * 2012-07-24 2018-06-22 索尼公司 图像显示装置及图像显示方法
CN104603717A (zh) * 2012-09-05 2015-05-06 Nec卡西欧移动通信株式会社 显示装置、显示方法以及程序
JP6264734B2 (ja) * 2013-03-13 2018-01-24 セイコーエプソン株式会社 虚像表示装置
US9672649B2 (en) * 2013-11-04 2017-06-06 At&T Intellectual Property I, Lp System and method for enabling mirror video chat using a wearable display device

Also Published As

Publication number Publication date
JP2016085350A (ja) 2016-05-19
US20160116741A1 (en) 2016-04-28
CN105549203A (zh) 2016-05-04

Similar Documents

Publication Publication Date Title
JP6492531B2 (ja) 表示装置、及び、表示装置の制御方法
US9898868B2 (en) Display device, method of controlling the same, and program
US9959591B2 (en) Display apparatus, method for controlling display apparatus, and program
US10306217B2 (en) Display device, control method for display device, and computer program
JP6089705B2 (ja) 表示装置、および、表示装置の制御方法
CN105739095B (zh) 显示装置以及显示装置的控制方法
JP6337418B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9792710B2 (en) Display device, and method of controlling display device
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6707809B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016122177A (ja) 表示装置、及び、表示装置の制御方法
JP6432197B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
US20160170482A1 (en) Display apparatus, and control method for display apparatus
JP2016224086A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016024208A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2018170554A (ja) ヘッドマウントディスプレイ
US10042171B2 (en) Head mounted display device, control method for head mounted display device, and computer program
JP2016033759A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6428024B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2017092628A (ja) 表示装置、及び、表示装置の制御方法
JP2016090853A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6565310B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016116066A (ja) 表示装置、及び、表示装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171012

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190218

R150 Certificate of patent or registration of utility model

Ref document number: 6492531

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150