JP2016024208A - 表示装置、表示装置の制御方法、および、プログラム - Google Patents

表示装置、表示装置の制御方法、および、プログラム Download PDF

Info

Publication number
JP2016024208A
JP2016024208A JP2014145670A JP2014145670A JP2016024208A JP 2016024208 A JP2016024208 A JP 2016024208A JP 2014145670 A JP2014145670 A JP 2014145670A JP 2014145670 A JP2014145670 A JP 2014145670A JP 2016024208 A JP2016024208 A JP 2016024208A
Authority
JP
Japan
Prior art keywords
unit
display
additional information
image
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2014145670A
Other languages
English (en)
Inventor
和夫 西沢
Kazuo Nishizawa
和夫 西沢
高野 正秀
Masahide Takano
正秀 高野
勇一 毛利
Yuichi Mori
勇一 毛利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014145670A priority Critical patent/JP2016024208A/ja
Priority to US14/748,710 priority patent/US20160021360A1/en
Publication of JP2016024208A publication Critical patent/JP2016024208A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0112Head-up displays characterised by optical features comprising device for genereting colour display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0118Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras

Abstract

【課題】外景とともに画像を表示できる表示装置によって、外景中の物体の付加情報を外景とともに見えるように適切な手法で表示する。【解決手段】頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する透過型の表示装置であって、使用者の左眼に対応して画像を表示する左光学像表示部28、及び、使用者の右眼に対応して画像を表示する右光学像表示部26を有する画像表示部20と、付加情報を取得する付加情報取得部170と、付加情報取得部170により取得した付加情報を、画像表示部20が有する左光学像表示部28、及び、右光学像表示部26のいずれか一方に表示させる制御部140と、を備える。【選択図】図2

Description

本発明は、表示装置、表示装置の制御方法、および、プログラムに関する。
従来、背景映像と、背景映像以外のオブジェクト映像とを重畳して表示する表示装置が知られている(例えば、特許文献1参照)。また、使用者の眼前に装着できる半透過型のディスプレイを備え、使用者の見ている実空間の物体に関連する情報を、物体に重ね合わせて表示する表示装置が知られている(例えば、特許文献2参照)。特許文献2の表示装置は、使用者の視野方向に見えている物体の映像を取り込むカメラを備えている。このカメラで実空間が撮影され、実空間の物体を含む映像が取得される。表示装置は、カメラが撮影した映像中から物体を特定し、特定した物体の付加情報を記憶部から抽出して、付加情報を実空間の対象の物体に重ねて表示する。
特開2011−34086号公報 特開2013−54661号公報
上記従来の表示装置では、使用者が透過型ディスプレイを通して外景を見ると、実空間に存在する対象に重なるように、付加情報を見ることとなる。このため、透過型ディスプレイに表示される付加情報と、実空間の対象との見え方が一定せず、例えば、付加情報が明瞭に見えないことがあった。
本発明は、上述した事情に鑑みてなされたものであり、外景とともに画像を表示できる表示装置によって、外景として見える実空間の対象物体等に関連する情報を、外景とともに見えるように表示することを目的とする。
上記目的を達成するために、本発明の表示装置は、使用者に画像を視認させるとともに外景を透過する透過型の表示装置であって、使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する画像表示部と、付加情報を取得する付加情報取得部と、前記付加情報取得部により取得した付加情報を、前記画像表示部が有する前記第1及び第2の表示部のいずれか一方に表示させる制御部と、を備えることを特徴とする。
本発明によれば、付加情報を、第1及び第2の表示部のいずれか一方に表示させるので、使用者には、付加情報と外景との両方が明瞭に見える。すなわち、使用者は、片方の眼に見える付加情報を視認すればよく、右眼に見える付加情報と左眼に見える付加情報とを像として捉える必要がない。このため、使用者が付加情報を見るときに知覚或いは意識する焦点距離と、外景を見るときに知覚或いは意識する焦点距離との差異に起因する違和感を、解消できる。これにより、付加情報を外景とともに適切な手法で表示できる。
また、本発明は、上記表示装置において、前記表示部を通して視認される前記外景のうち、前記付加情報を重畳する対象を検出する対象検出部を備え、前記制御部は、前記対象検出部により検出された対象に重なるように前記付加情報を表示させること、を特徴とする。
本発明によれば、検出された対象に重なるように、付加情報を、見やすく表示できる。
また、本発明は、上記表示装置において、前記外景を撮像する撮像部を備え、前記対象検出部は、前記撮像部の撮像画像に基づいて前記付加情報を重畳する対象を検出すること、を特徴とする。
本発明によれば、撮像画像から、付加情報を重畳する対象を検出して、付加情報を表示するので、予め設定された認識情報などの条件に基づいて対象を検出することができる。これにより、表示装置が撮像画像から認識情報を認識して動作する場合の利便性の向上を図ることができる。
また、本発明は、上記表示装置において、前記使用者の視線方向を検出する視線検出部を備え、前記制御部は、前記視線検出部により検出された視線方向に基づき、前記付加情報を表示させる表示位置を決定すること、を特徴とする。
本発明によれば、使用者の視線方向にある対象の付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記付加情報の表示方法を選定する表示方法選定部を備え、前記制御部は、前記表示方法選定部により選定された方法に基づいて、前記付加情報を表示させること、を特徴とする。
本発明によれば、表示方法選定部により付加情報の表示方法を選定するので、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記表示方法選定部は、前記外景の環境に応じて、前記付加情報の表示方法を変えること、を特徴とする。
本発明によれば、外景の環境に応じて、付加情報の表示方法を変えるので、付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記表示方法選定部は、前記外景の色に応じて、前記付加情報の色を選定すること、を特徴とする。
本発明によれば、外景の色に応じて、付加情報の色を選定するので、外景に対して見やすい色を選定することができ、付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記表示方法選定部は、前記外景の明るさに応じて、前記付加情報の透過率を変えること、を特徴とする。
本発明によれば、外景の明るさに応じて、付加情報の透過率を変えるので、付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記表示方法選定部は、前記付加情報の重要性に応じて、前記付加情報の表示方法を変えること、を特徴とする。
本発明によれば、付加情報の重要性に応じて、付加情報の表示方法を変えるので、付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、本発明は、上記表示装置において、前記表示方法選定部は、前記付加情報の種類に応じて、前記付加情報を前記第1及び第2の表示部のいずれか一方に表示させるか、或いは、前記第1及び第2の表示部の両方に表示させるかを切り替えること、を特徴とする。
本発明によれば、付加情報の種類に応じて、付加情報の表示を片方の表示部にするか、両方の表示部にするかを切り替える。これにより、付加情報を外景とともに適切な手法で表示して利便性を高めることができる。
また、上記目的を達成するために、本発明は、使用者に画像を視認させるとともに外景を透過し、使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する透過型の表示装置の制御方法であって、付加情報を取得し、前記付加情報を、前記第1及び第2の表示部のいずれか一方に表示させること、を特徴とする。
本発明によれば、付加情報を、第1及び第2の表示部のいずれか一方に表示させるので、使用者には、付加情報と外景との両方が明瞭に見え、付加情報を外景とともに適切な手法で表示できる。
また、上記目的を達成するために、本発明は、使用者に画像を視認させるとともに外景を透過し、使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する透過型の表示装置を制御するコンピューターが実行可能なプログラムであって、前記コンピューターを、付加情報を取得する付加情報取得部と、前記付加情報取得部により取得した付加情報を、前記第1及び第2の表示部のいずれか一方に表示させる制御部として機能させる。
本発明によれば、付加情報を、第1及び第2の表示部のいずれか一方に表示させるので、使用者には、付加情報と外景との両方が明瞭に見え、付加情報を外景とともに適切な手法で表示できる。
頭部装着型表示装置の外観構成を示す説明図である。 頭部装着型表示装置の機能的構成を示すブロック図である。 頭部装着型表示装置の動作を示すフローチャートである。 頭部装着型表示装置の表示の例を示す説明図である。 頭部装着型表示装置の表示の別の例を示す説明図である。
以下、図面を参照して本発明の実施形態について説明する。
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20(表示部)と、画像表示部20を制御する制御装置10(コントローラー)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61(撮像部)と、マイク63と、を備える。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)を備える。また、右光学像表示部26、28の前面側に調光板(図示略)を備えてもよい。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置すればよい。この調光板としては、光透過性がほぼゼロのもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰または反射するもの等、種々のものを用いることができる。調光板の光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26および左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、頭部装着型表示装置100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板を用いる場合について説明する。この調光板は右導光板261、左導光板262を保護し、右導光板261、左導光板262の損傷や汚れの付着等を抑制するために役立つ。
調光板は右光学像表示部26および左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板を交換して装着可能としてもよいし、省略してもよい。
カメラ61は、右光学像表示部26の他端である端部ERに配置される。カメラ61は、使用者の眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。図1に示す本実施形態のカメラ61は、単眼カメラであるが、ステレオカメラであってもよい。
カメラ61は、頭部装着型表示装置100の表側方向を撮像する。カメラ61の画角は、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮像する方向である。また、カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外景を含む範囲であることが好ましい。さらに、調光板を通した使用者の視界の全体を撮像できるようにカメラ61の撮像範囲が設定されていると、より好ましい。
画像表示部20は、さらに、画像表示部20を制御装置10に接続するための接続部40を有している。接続部40は、制御装置10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を備える。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。
連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。イヤホンプラグ30の近傍にはマイク63が設けられている。イヤホンプラグ30からマイク63までは一本のコードにまとめられ、マイク63からコードが分岐して、右イヤホン32と左イヤホン34のそれぞれに繋がっている。
なお、右コード42と左コード44とを一本のコードにまとめることも可能である。具体的には、右コード42の内部の導線を、画像表示部20の本体内部を通して左保持部23側に引き込み、左コード44内部の導線とともに樹脂で被覆して、一本のコードにまとめてもよい。
画像表示部20と制御装置10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御装置10と、のそれぞれには、互いに嵌合するコネクター(図示略)が設けられている。本体コード48のコネクターと制御装置10のコネクターとの嵌合/嵌合解除により、制御装置10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御装置10は、頭部装着型表示装置100を制御するための装置である。制御装置10は、決定キー11、点灯部12、表示切替キー13、輝度切替キー15、方向キー16、メニューキー17、及び電源スイッチ18を含むスイッチ類を備える。また、制御装置10は、使用者が指によりタッチ操作するトラックパッド14を備える。
決定キー11は、押下操作を検出して、制御装置10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。
トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
図2は、頭部装着型表示装置100の機能ブロック図である。図2に示すように、制御装置10は、制御部140と、操作部135と、入力情報取得部110と、記憶部120と、電源130と、インターフェイス180と、送信部(Tx)51および送信部(Tx)52と、を有している。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18の各部を備える。
入力情報取得部110は、使用者による操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、トラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。
電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。
記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。
制御部140は、CPU、ROM、RAM等を備え、ROMまたは記憶部120に記憶されたプログラムを実行することにより、頭部装着型表示装置100の各部を制御する。制御部140は、上記プログラムを実行することにより、頭部装着型表示装置100の基本制御システムであるオペレーティングシステム(ОS)150として機能する。また、制御部140は、上記プログラムを実行して、画像処理部160、視線検出部161、対象検出部163、表示方法選定部185、付加情報取得部170、及び表示制御部190として機能する。これらの機能はオペレーティングシステム150の一部であってもよいし、オペレーティングシステム150上で動作するアプリケーションプログラムの機能であってもよい。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示略)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示略)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(図中、Data)として、1フレームごとに記憶部120内のDRAMに格納する。この画像データは、例えばRGBデータである。
なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御装置10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
視線検出部161は、後述する9軸センサー66が検出した画像表示部20の向きから、使用者の視線方向を検出する。なお、視線検出部161は、使用者の眼球画像を取得して、使用者の注視位置を正確に検出することができる構成であってもよい。
対象検出部163は、カメラ61を制御して撮像(撮影)を実行させ、撮像画像の画像データを取得する。頭部装着型表示装置100は、少なくとも、実空間に存在する対象に関連する付加情報を画像表示部20に表示する情報表示モードと、実空間の対象に関連する付加情報を表示しない通常動作モードと、を含む複数の動作モードを実行可能である。頭部装着型表示装置100では、通常モードと情報表示モードとを切り換えて実行することができる。情報表示モードでは、対象検出部163がカメラ61を動作させて、撮像を行い、撮像画像データを取得する。情報表示モードでは、対象検出部163の制御に従って、カメラ61が予め設定された周期で連続的に撮像を実行し、1フレームを撮像する毎に、対象検出部163が撮像画像データを取得する。このように対象検出部163がカメラ61に撮像をさせる動作は、カメラ61により動画像を撮像する場合と同様であってもよい。また、情報表示モードでは、カメラ61の撮像範囲が、使用者の視界の全体を撮像できるように自動で設定されてもよい。なお、本実施形態では、対象検出部163がカメラ61を制御して撮像を実行する構成としたが、これに限らず、制御部140の他の機能により、カメラ61が制御され撮像が実行されてもよい。例えば、使用者の操作部135の操作により撮像が実行されて、カメラ61が撮像した画像が対象検出部163に入力されてもよい。また、視線検出部161が使用者の視線が一点に注視されたことを検出して、視線検出部161によりカメラ61が制御され撮像が実行されてもよい。
また、対象検出部163は、後述するGPS115によって求められた制御装置10の現在位置を取得する。また、対象検出部163は、視線検出部161によって検出された使用者の視線方向を取得する。
対象検出部163は、カメラ61の撮像画像から、予め設定された認識情報に該当する画像を検出する機能を有する。予め設定された認識情報とは、例えば、検出する対象の画像や、複数の画素の画素値のパターン等である。これらの認識情報は、予め記憶部120に記憶される。対象検出部163は、カメラ61の撮像画像と、記憶部120に予め記憶された対象の画像と、に基づいて画像認識により、撮影画像中の対象を検出する。また、複数の画素の画素値のパターンは、例えばQRコード(登録商標)等の2次元コード、1次元バーコード等の、いわゆるマーカーであり、コンピューターにより光学的に読み取り、認識可能であり、コンピューターが情報を取得可能な画像である。対象検出部163は、カメラ61の撮像画像から、上記のマーカーを検出する。なお、本実施形態では、対象検出部163がカメラ61の撮像画像から認識情報を検出する構成としたが、これに限らず、制御部140の他の機能により、カメラ61の撮像画像から認識情報が検出されてもよい。また、使用者の操作部135の操作により認識情報が特定され、特定された認識情報に基づいて対象検出部163が対象を検出することができる構成であってもよい。
記憶部120には、検出する対象の認識情報と、位置情報と、付加情報と、が紐付けて記憶される。カメラ61の撮像画像には、複数の対象が含まれる場合がある。対象検出部163は、GPS115によって求められた制御装置10の現在位置と、視線検出部161によって検出された使用者の視線方向と、カメラ61の撮像画像内に検出された認識情報と、個々の認識情報に紐付けられた位置情報と、に基づいて、検出する対象を特定する。また、対象検出部163は、検出した対象のLCD241及びLCD242における画素座標を求める。カメラ61の撮影画像における座標と、導光板261及び導光板262の画像(虚像)が使用者に見える位置と、LCD241及びLCD242における画素座標とは、予め対応付けされている。対象検出部163は、撮影画像から対象を検出し、この対象の撮影画像中の座標を求める。対象検出部163は、対象の撮影画像中の座標に基づいて、対象のLCD241及びLCD242における画素座標を求める。
なお、対象検出部163は、制御部140の機能として実現されるものであり、対象検出部163が実行する上記の動作が制御部140の他の機能により実現されてもよい。
付加情報取得部170は、対象検出部163が検出した対象に関連する付加情報を取得する。付加情報取得部170は、対象検出部163が検出した対象を付加情報データベース121に記憶された情報と照合し、対象に紐付けて記憶された対象の付加情報を取得する。
表示方法選定部185は、カメラ61が撮像した撮像画像の画像データを取得する。また、表示方法選定部185は、付加情報取得部170から付加情報を取得する。表示方法選定部185は、カメラ61の撮像画像と、対象に関連する付加情報と、に基づいて表示方法を選定する。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、制御部140は3軸センサー113の検出値を取得して、制御装置10の動き及び動きの方向を検出可能である。
GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置10の制御部140が計時する時刻を修正させる機能を備えていてもよい。また、GPS115は、GPS信号に基づいて求めた現在位置の緯度経度から、現在位置に該当する施設を特定する機能を備えていてもよい。
通信部117は、無線LAN(WiFi(登録商標))や、Miracast(登録商標)、Bluetooth(登録商標)規格に準じた無線データ通信を実行する。
インターフェイス180は、制御装置10に対して、コンテンツの供給元となる種々の画像供給装置OAを接続するためのインターフェイスである。画像供給装置OAが供給するコンテンツは、静止画像または動画像を含み、音声を含んでもよい。画像供給装置OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
ここで、画像供給装置OAを無線通信回線により制御装置10に接続することも可能である。この場合、画像供給装置OAは、通信部117と無線通信を実行して、コンテンツのデータをMiracast(登録商標)等の無線通信技術により送信する。
記憶部120は、検出対象を認識するための認識情報と、検出対象の位置情報と、に紐付けて検出対象の付加情報を記憶する付加情報データベース121を備える。付加情報データベース121には、対象に係る情報が、対象の位置情報(例えば、施設の名称等の情報)に基づいて階層化されて記憶されていている。また、制御装置10は、自己の位置情報(例えば、現在位置に該当する施設等の情報)に基づいて、通信部117、或いは、インターフェイス180に、現在位置に係る対象に関連する情報を、画像供給装置OAから取得させてもよい。なお、付加情報データベース121は、記憶部120が備える構成に限らず、画像供給装置OAが付加情報データベースを備えていてもよい。この場合、制御装置10は、通信部117により画像供給装置OAと無線通信を行って、付加情報データベースに記憶された情報を随時取得してもよい。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、振動センサー65と、9軸センサー66と、を備える。
振動センサー65は、加速度センサーを利用して構成され、図1に示すように画像表示部20の内部に配置される。図1の例では右保持部21において、右光学像表示部26の端部ERの近傍に内蔵される。振動センサー65は、使用者が端部ERを叩く操作(ノック操作)を行った場合に、この操作による振動を検出して、検出結果を制御部140に出力する。振動センサー65の検出結果により、制御部140は、使用者によるノック操作を検出する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。例えば、制御部140は、9軸センサー66で検出された使用者の頭部の動きから画像表示部20の向きを判定し、使用者の視線方向を推定できる。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を備える。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御装置10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データData1と、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を備える。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
そして、左表示駆動部24及び左導光板262は、使用者の左眼に対応して画像を表示する第1の表示部を構成する。また、右表示駆動部22及び右導光板261は、使用者の右眼に対応して画像を表示する第2の表示部を構成する。
頭部装着型表示装置100は、情報表示モードにおいて、カメラ61が撮像を行い、カメラ61の撮像画像データを利用して動作する。カメラ61は、図1に示したように、使用者の頭部に装着される画像表示部20に設けられる。このため、カメラ61の撮像方向は使用者の視線方向と同じ方向であり、使用者が見ている方向が撮像されるため便利である。以下に、情報表示モードでの頭部装着型表示装置100の動作について詳細に説明する。以下の説明では、情報表示モードの一実施例として、図書館内で目当ての書籍コーナーがどこにあるか、注視している書籍はどのような書籍か、などの情報を表示する例を用いて説明する。
図3は、頭部装着型表示装置100の動作を示すフローチャートであり、特に、情報表示モードの実行に係る動作を示す。
情報表示モードは、使用者による操作部135の操作に基づいて、制御部140により開始される。制御部140が、情報表示モードを開始すると(ステップS1)、対象検出部163がカメラ61に撮像を開始させ、撮像画像データを取得する(ステップS2)。次に、対象検出部163は、カメラ61の撮像画像に写っている、認識情報を検出する(ステップS3)。対象検出部163は、GPS115から現在位置情報を取得し、現在位置情報に紐付けて、付加情報データベース121に記憶されているマーカーや対象の画像等の認識情報と一致する認識情報を撮像画像から検出する。対象の画像は、図書館の例では、書籍や雑誌の表紙の画像、図書館内に掲示されている案内サインの画像等である。対象検出部163は、カメラ61の撮像画像中に、付加情報データベース121に記憶されているマーカーと同一のマーカーを検出する。また、対象検出部163は、付加情報データベース121に記憶されている画像と一致する物体がカメラ61の撮像画像にあるかを調べる。対象検出部163は、カメラ61の撮像画像中の局所パターンとほぼ一致する局所パターンを持つ画像を付加情報データベース121中から検索することによって物体認識を行う。
続いて、視線検出部161が、使用者の視線方向、及び/或いは、注視位置を検出する(ステップS4)。対象検出部163は、視線検出部161が検出した使用者の視線方向、及び/或いは、注視位置を取得する。対象検出部163は、撮像画像から検出した認識情報の中から、使用者の視線方向、及び/或いは、注視位置にある認識情報を特定する。対象検出部163は、特定した認識情報に紐付けられた対象を、付加情報データベース121を参照して検出する(ステップS5)。また、対象検出部163は、検出した対象のLCD241及びLCD242における画素座標を特定する(ステップS6)。
続いて付加情報取得部170が、対象検出部163により検出された対象を付加情報データベース121に記憶された情報と照合し、対象に紐付けられて記憶された付加情報を取得する(ステップS7)。対象が書籍の場合、付加情報は、書籍の紹介や、当該書籍が最新刊であるか否か等の情報である。
表示方法選定部185は、対象検出部163により検出された対象の付加情報を表示するための表示方法を選定する(ステップS8)。表示方法選定部185は、付加情報取得部170により取得された対象の付加情報を取得する。また、表示方法選定部185は、カメラ61の撮像画像データを取得する。表示方法選定部185は、取得した対象の付加情報と、カメラ61の撮像画像と、に基づいて、付加情報の表示方法を選定する。
表示方法選定部185は、カメラ61の撮像画像を解析して、外景の色相、及び、明度を求める。また、表示方法選定部185は、カメラ61の撮像画像に基づいて、外景の危険因子を検出する。例えば、表示方法選定部185は、カメラ61が連続的に撮像した複数の撮像画像に基づいて、外景に移動する物体が多い等の危険因子を検出する。
表示方法選定部185は、外景の色相に応じて、付加情報を表示する表示色を選定する。表示方法選定部185は、カメラ61の撮像画像の色相を解析し、外景に少ない色を付加情報の表示色として選定する。
また、表示方法選定部185は、付加情報の種類に応じて、付加情報を右光学像表示部26、及び、左光学像表示部28のいずれか一方に表示させるか、或いは、右光学像表示部26、及び、左光学像表示部28の両方に表示させるかを選定する。
図4(A)、(B)、(C)は、頭部装着型表示装置100の表示例を示す説明図である。
表示方法選定部185は、付加情報が文字や記号等の外景とともに視認しやすい情報の場合には、図4(A)に示すように、右光学像表示部26、及び、左光学像表示部28のいずれか一方に表示させる表示方法を選定する。図4(A)では、左光学像表示部28に表示された左表示画像VLに、対象の書籍に関する付加情報IFが表示されている。つまり、対象の付加情報IFは、使用者の左眼だけに視認可能に表示される。これにより、使用者は、焦点距離を調節することなく、外景と、外景に重畳表示された付加情報と、をはっきりと視認することができる。なお、右光学像表示部26、及び、左光学像表示部28のいずれか一方に表示させる表示方法が選定された場合に、どちらの表示部に表示させるかは、使用者が操作部135に対する操作で設定可能な構成であってもよい。
また、表示方法選定部185は、制御装置10の現在位置と、対象検出部163により検出された対象の位置情報と、を取得して、対象との位置関係に基づいて、付加情報の表示サイズを選定する。表示方法選定部185は、図4(A)示すように、対象との距離が近い場合には、付加情報を大きく表示する表示方法を選定する。また、表示方法選定部185は、図4(B)示すように、対象との距離が遠い場合には、付加情報を小さく表示する表示方法を選定する。図4(B)は、使用者から離れた位置に在る書棚が対象として検出された場合の、表示画像の例を示す。図4(B)に示したように、対象として検出された書棚に関する付加情報IF(例えば、書棚に陳列された書籍の分類等)が、書棚を指し示す矢印と共に左光学像表示部28に左表示画像VLとして表示される。このように、表示方法選定部185は、使用者から対象までの距離に応じて付加情報の表示サイズを変えるため、使用者は、対象までの距離を感覚的に把握することができる。
また、表示方法選定部185は、対象に応じて、付加情報の表示方法を選定してもよい。表示方法選定部185は、例えば、対象が単体の場合には、図4(A)に示すように、対象を枠で囲む線吹き出しを用いて付加情報を表示する表示方法を選定する。また、表示方法選定部185は、例えば、対象が特定の範囲に亘る場合には、図4(B)に示すように、対象の範囲を指し示す矢印と共に付加情報を表示する表示方法を選定する。
また、表示方法選定部185は、外景が明るいときは、付加情報を表示する透過率を下げ、外景が暗いときは、付加情報を表示する透過率を上げてもよい。また、表示方法選定部185は、外景に移動する物体等の危険因子を検出したときには、図4(C)に示すように、付加情報IFを表示する透過率を下げ、外景の見やすさを優先してもよい。図4(C)は、外景に動く子供が検出された場合の、表示画像の例を示す。図4(C)に示したように、外景に移動する物体が検出された場合、表示方法選定部185は、左光学像表示部28に表示する左表示画像VLの付加情報IFを、高い透過率で表示する表示方法を選定する。これにより、使用者は、付加情報と共に、外景の動く子供を視認することができる。このように、表示方法選定部185は、外景に物が多い場合や、眩しい場合等、外景の環境に応じて、付加情報の表示方法を選定する。表示方法選定部185は、外景の環境に応じて付加情報を表示する色や透過率を適宜に選定することができる。また、表示方法選定部185は、外景の環境に応じて付加情報を表示するか否かを判断してもよい。表示方法選定部185は、付加情報を表示せずに、例えば、検出された対象を枠で囲んで示す表示方法を選定してもよい。
図5(A)及び(B)は、頭部装着型表示装置100の別の表示例を示す説明図である。
表示方法選定部185は、付加情報の重要性に応じて、付加情報の表示方法を選定する。付加情報の重要度は、個々の付加情報に紐付けて付加情報データベース121に記憶されている。表示方法選定部185は、重要性の高い付加情報については、図5(A)に示すように、見やすく表示する、或いは、何らかの方法で強調して表示する表示方法を選定する。表示方法選定部185は、重要性の高い付加情報の文字の透過率を下げる、太字にする、点滅表示させる等の方法で強調させて表示する表示方法を選定する。図5(A)は、消火器、或いは、消火器の場所を示すサインが対象として検出された場合の、表示画像VLを示す。図5(A)に示した例では、対象として検出された消火器の位置を示す付加情報IFが点滅表示されている。
表示方法選定部185は、付加情報が画像や映像等の、外景とともに視認しにくい情報の場合には、図5(B)に示すように、右光学像表示部26、及び、左光学像表示部28の両方に表示させる表示方法を選定する。図5(B)に示すように、右光学像表示部26には、右表示画像VRが表示され、左光学像表示部28には、左表示画像VLが表示される。図5(B)の右表示画像VR、及び、左表示画像VLは、図書館内に配置された書籍検索システムや、書籍貸し出しシステムが対象として検出された場合の付加情報IFであり、システムの操作方法を説明する画像である。このように、付加情報IFが画像や映像等の場合には、付加情報IFは、右光学像表示部26、及び、左光学像表示部28の両方に表示される。
また、表示方法選定部185は、図示は省略するが、付加情報の種類や重要性に応じて、付加情報をより判り易い方法で表示することができる。例えば、表示方法選定部185は、付加情報の種類や重要性に応じて、付加情報に紐付けて付加情報データベース121に予め記憶された当該付加情報をより強調する情報を、付加情報と共に表示してもよい。付加情報をより強調する情報として、例えば、付加情報に係るキャラクター等の画像や動画であってもよい。また、表示方法選定部185は、付加情報が文字の場合には、この付加情報を表示する文字色や大きさ、或いは、斜体、影付き、白抜き等の文字の修飾やデザインを適宜に変えて表示することができる。また、表示方法選定部185は、付加情報をより判り易く表示するために、背景色を変えて表示することができてもよい。
さらに、表示方法選定部185は、3D映像の付加情報を表示することもできる。表示方法選定部185は、付加情報データベース121に予め記憶された3D映像の付加情報を取得する。そして、この3D映像の付加情報を右光学像表示部26、及び、左光学像表示部28の両方に表示するとともに、右光学像表示部26と、左光学像表示部28と、の表示に視差を付けることにより、3D映像を表示する。
なお、表示方法選定部185は、制御部140の機能として実現されるものであり、表示方法選定部185が実行する上記の動作が制御部140の他の機能により実現されてもよい。また、使用者の操作部135の操作により表示方法が選定され、選定された表示方法に基づいて付加情報が表示できる構成であってもよい。
制御部140は、表示方法選定部185により選定された方法で、対象検出部163が検出した対象の画素座標に基づき、付加情報取得部170が取得した付加情報を画像表示部20に表示する(ステップS9)。制御部140は、対象検出部163により検出された対象に重なるように、当該対象に関連する付加情報を表示させる。また、付加情報を右光学像表示部26、及び、左光学像表示部28のいずれか一方に表示させる場合、制御部140は、予め設定されている光学像表示部26、及び、左光学像表示部28のいずれか一方に付加情報を表示する。付加情報を右光学像表示部26、及び、左光学像表示部28のいずれか一方に表示させる場合、右光学像表示部26、及び、左光学像表示部28のどちらに付加情報を表示するかは、使用者が操作部135に対する操作で設定可能であってもよい。
また、頭部装着型表示装置100は、使用者が図書館内で目当ての書籍を見つけるための支援を行うことができる。頭部装着型表示装置100は、使用者が操作部135を介して入力した書籍がどこにあるかを、画像表示部20に表示することができる。操作部135を介して、使用者が探している書籍を入力すると、対象検出部163は、データベースに予め記録されている当該書籍の認識情報を取得する。対象検出部163は、カメラ61の撮影画像中に当該書籍の認識情報に一致する認識情報を検出する。制御部140は、対象検出部163が検出した認識情報に重なるように、画像表示部20に当該書籍の場所を示す情報や、付加情報を表示する。
また、頭部装着型表示装置100は、例えば、使用者が作業を行う場合に、マーカー等の認識情報を使用して、作業支援のための情報を提供するシステムとしても用いることができる。頭部装着型表示装置100を用いた作業支援のための情報を提供するシステムでは、作業机等の作業場所またはその近傍にマーカー等の認識情報が付されている。この認識情報がカメラ61によって撮像され、対象検出部163は、カメラ61の撮影画像から認識情報を検出する。制御部140は、対象検出部163が検出した認識情報に紐付けられてデータベースに予め記録された作業支援のための情報を、画像表示部20に表示する。このとき、制御部140は、作業支援のための情報の種類や、作業環境等の外景の状態から、作業支援のための情報の表示方法を選定し、画像表示部20に表示する。
以上説明したように、本発明を適用した実施形態に係る頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する透過型の表示装置であって、使用者の左眼に対応して画像を表示する左光学像表示部28、及び、使用者の右眼に対応して画像を表示する右光学像表示部26を有する画像表示部20と、付加情報を取得する付加情報取得部170と、付加情報取得部170により取得した付加情報を、画像表示部20が有する左光学像表示部28、及び、右光学像表示部26のいずれか一方に表示させる制御部140と、を備える。
このため、付加情報が、左光学像表示部28、及び、右光学像表示部26のいずれか一方に表示されるので、使用者には、付加情報と外景との両方が明瞭に見える。すなわち、使用者は、片方の眼に見える付加情報を視認すればよく、右眼に見える付加情報と左眼に見える付加情報とを合成して1つの像として捉えなくてもよい。このため、使用者が付加情報を見るときに、付加情報に焦点を合わせることなく、付加情報を外景とともに見ることができる。このように、付加情報を使用者の片眼に対して表示することで、外景と付加情報との視認性を両立し、利便性を高めることができる。
また、頭部装着型表示装置100において、画像表示部20を通して視認される外景のうち、付加情報を重畳する対象を検出する対象検出部163を備え、制御部140は、対象検出部163により検出された対象に重なるように付加情報を表示させる。このため、検出された対象の付加情報が、対象に重なるように表示されるので、使用者は、付加情報と対象との関連を感覚的に認識することができる。このように、外景と付加情報との視認性を両立するとともに、付加情報を適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、外景を撮像するカメラ61を備え、対象検出部163は、カメラ61の撮像画像に基づいて付加情報を重畳する対象を検出する。これにより、撮像画像から、付加情報を重畳する対象を検出して、付加情報を表示するので、予め記憶された認識情報などの条件に基づいて対象を検出することができる。これにより、頭部装着型表示装置100が撮像画像から認識情報を認識して動作する場合の利便性の向上を図ることができる。
また、頭部装着型表示装置100において、使用者の視線方向を検出する視線検出部161を備え、制御部140は、視線検出部161により検出された視線方向に基づき、付加情報を表示させる表示位置を決定する。これにより、使用者の視線方向にある対象に対して、付加情報を外景とともに表示することができる。このため、カメラ61の撮像画像中に多数の検出対象がある場合でも、使用者の視線方向の対象を特定して、当該対象に関連する付加情報を表示することができ、撮像画像から対象を検出して動作する場合の利便性を高めることができる。
また、頭部装着型表示装置100において、付加情報の表示方法を選定する表示方法選定部185を備え、制御部140は、表示方法選定部185により選定された方法に基づいて、付加情報を表示させる。これにより、付加情報の表示方法を選定して表示することができ、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、表示方法選定部185は、外景の環境に応じて、付加情報の表示方法を変える。これにより、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、表示方法選定部185は、外景の色に応じて、付加情報の色を選定する。これにより、例えば、外景に少ない色等、外景に対して見やすい色を選定することができ、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、表示方法選定部185は、外景の明るさに応じて、付加情報の透過率を変える。これにより、外景が明るいときは、付加情報の透過率を下げて、外景が暗いときは、付加情報の透過率を上げて、外景に対して付加情報を見やすく表示することができる。このため、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、表示方法選定部185は、付加情報の重要性に応じて、付加情報の表示方法を変える。これにより、例えば、重要な付加情報に関しては強調して表示することができ、付加情報を外景とともに適切に表示して利便性を高めることができる。
また、頭部装着型表示装置100において、表示方法選定部185は、付加情報の種類に応じて、付加情報を左光学像表示部28、及び、右光学像表示部26のいずれか一方に表示させるか、或いは、左光学像表示部28、及び、右光学像表示部26の両方に表示させるかを切り替える。これにより、表示方法選定部185は、付加情報が文字や記号の場合には左光学像表示部28、及び、右光学像表示部26のいずれか一方に表示させ、付加情報が画像や映像の場合には、左光学像表示部28、及び、右光学像表示部26の両方に表示させる。このため、付加情報を外景とともに適切に表示して利便性を高めることができる。
なお、この発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。例えば、制御装置10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御装置10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、上記実施形態では、頭部装着型表示装置100は、両眼タイプの光学透過型であるとしているが、本発明は、例えばビデオ透過型や単眼タイプといった他の形式の頭部装着型表示装置にも同様に適用可能である。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよいし、自動車のフロントガラスに用いられるヘッドアップディスプレイ(Head-up Display;HUD)であってもよい。
さらに、上記実施形態では、画像表示部20と制御装置10とが分離され、接続部40を介して接続された構成を例に挙げて説明したが、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10と画像表示部20とが、より長いケーブルまたは無線通信回線により接続され、制御装置10として、ノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、上記実施形態では、制御装置10は、GPS115によりGPS信号に基づいて現在位置を求める構成としたが、これに限らず、制御装置10は、通信部117が受信したWiFiアクセスポイントからの電波に基づいて、現在位置を測位しても良い。
また、例えば、画像表示部20において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよいし、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像生成部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
また、本発明の表示装置は頭部装着型の表示装置に限定されず、フラットパネルディスプレイやプロジェクター等の各種の表示装置に適用できる。本発明の表示装置は、外光とともに画像光により画像を視認させるものであればよく、例えば、外光を透過させる光学部材により画像光による画像を視認させる構成が挙げられる。具体的には、上記のヘッドマウントディスプレイにおいて外光を透過する光学部材を備えた構成の他、使用者から離れた位置に固定的にまたは可動に設置された透光性の平面や曲面(ガラスや透明なプラスチック等)に、画像光を投射する表示装置にも適用可能である。一例としては、車両の窓ガラスに画像光を投射し、乗車している使用者や車両の外にいる使用者に、画像光による画像とともに、車両内外の景色を視認させる表示装置の構成が挙げられる。また、例えば、建物の窓ガラスなど固定的に設置された透明また半透明、或いは有色透明な表示面に画像光を投射し、表示面の周囲にいる使用者に、画像光による画像とともに、表示面を透かして景色を視認させる表示装置の構成が挙げられる。
また、図2に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図2に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120または制御装置10内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117またはインターフェイス180を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成の内、操作部135のみが単独の使用者インターフェース(UI)として形成されてもよいし、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよい。また、制御装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示す制御部140が制御装置10と画像表示部20との両方に形成されていてもよいし、制御装置10に形成された制御部140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
10…制御装置、20…画像表示部、22…右表示駆動部(第2の表示部)、24…左表示駆動部(第1の表示部)、26…右光学像表示部(第2の表示部)、28…左光学像表示部(第1の表示部)、61…カメラ、65…振動センサー、66…9軸センサー、100…頭部装着型表示装置、110…入力情報取得部、113…3軸センサー、115…GPS、117…通信部、120…記憶部、121…付加情報データベース、135…操作部、140…制御部、150…オペレーティングシステム、160…画像処理部、161…視線検出部、163…対象検出部、170…付加情報取得部、180…インターフェイス、185…表示方法選定部、190…表示制御部、201…右バックライト制御部、202…左バックライト制御部、211…右LCD制御部、212…左LCD制御部、221…右バックライト、222…左バックライト、241…液晶ディスプレイ、251…右投写光学系、252…左投写光学系、261…右導光板、262…左導光板、IF…付加情報、OA…画像供給装置、VL…左表示画像、VR…右表示画像。

Claims (12)

  1. 使用者に画像を視認させるとともに外景を透過する透過型の表示装置であって、
    使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する画像表示部と、
    付加情報を取得する付加情報取得部と、
    前記付加情報取得部により取得した付加情報を、前記画像表示部が有する前記第1及び第2の表示部のいずれか一方に表示させる制御部と、
    を備えることを特徴とする表示装置。
  2. 前記表示部を通して視認される前記外景のうち、前記付加情報を重畳する対象を検出する対象検出部を備え、
    前記制御部は、前記対象検出部により検出された対象に重なるように前記付加情報を表示させること、
    を特徴とする請求項1記載の表示装置。
  3. 前記外景を撮像する撮像部を備え、
    前記対象検出部は、前記撮像部の撮像画像に基づいて前記付加情報を重畳する対象を検出すること、
    を特徴とする請求項2記載の表示装置。
  4. 前記使用者の視線方向を検出する視線検出部を備え、
    前記制御部は、前記視線検出部により検出された視線方向に基づき、前記付加情報を表示させる表示位置を決定すること、
    を特徴とする請求項1から3のいずれかに記載の表示装置。
  5. 前記付加情報の表示方法を選定する表示方法選定部を備え、
    前記制御部は、前記表示方法選定部により選定された方法に基づいて、前記付加情報を表示させること、
    を特徴とする請求項1から4のいずれかに記載の表示装置。
  6. 前記表示方法選定部は、前記外景の環境に応じて、前記付加情報の表示方法を変えること、
    を特徴とする請求項5に記載の表示装置。
  7. 前記表示方法選定部は、前記外景の色に応じて、前記付加情報の色を選定すること、
    を特徴とする請求項5または6に記載の表示装置。
  8. 前記表示方法選定部は、前記外景の明るさに応じて、前記付加情報の透過率を変えること、
    を特徴とする請求項5または6に記載の表示装置。
  9. 前記表示方法選定部は、前記付加情報の重要性に応じて、前記付加情報の表示方法を変えること、
    を特徴とする請求項5から8のいずれかに記載の表示装置。
  10. 前記表示方法選定部は、前記付加情報の種類に応じて、前記付加情報を前記第1及び第2の表示部のいずれか一方に表示させるか、或いは、前記第1及び第2の表示部の両方に表示させるかを切り替えること、
    を特徴とする請求項5から9のいずれかに記載の表示装置。
  11. 使用者に画像を視認させるとともに外景を透過し、使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する透過型の表示装置の制御方法であって、
    付加情報を取得し、
    前記付加情報を、前記第1及び第2の表示部のいずれか一方に表示させること、
    を特徴とする表示装置の制御方法。
  12. 使用者に画像を視認させるとともに外景を透過し、使用者の左眼に対応して画像を表示する第1の表示部、及び、使用者の右眼に対応して画像を表示する第2の表示部を有する透過型の表示装置を制御するコンピューターが実行可能なプログラムであって、
    前記コンピューターを、
    付加情報を取得する付加情報取得部と、
    前記付加情報取得部により取得した付加情報を、前記第1及び第2の表示部のいずれか一方に表示させる制御部と、
    して機能させるためのプログラム。
JP2014145670A 2014-07-16 2014-07-16 表示装置、表示装置の制御方法、および、プログラム Withdrawn JP2016024208A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014145670A JP2016024208A (ja) 2014-07-16 2014-07-16 表示装置、表示装置の制御方法、および、プログラム
US14/748,710 US20160021360A1 (en) 2014-07-16 2015-06-24 Display device, method of controlling display device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014145670A JP2016024208A (ja) 2014-07-16 2014-07-16 表示装置、表示装置の制御方法、および、プログラム

Publications (1)

Publication Number Publication Date
JP2016024208A true JP2016024208A (ja) 2016-02-08

Family

ID=55075686

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014145670A Withdrawn JP2016024208A (ja) 2014-07-16 2014-07-16 表示装置、表示装置の制御方法、および、プログラム

Country Status (2)

Country Link
US (1) US20160021360A1 (ja)
JP (1) JP2016024208A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017221663A1 (ja) * 2016-06-20 2017-12-28 パナソニックIpマネジメント株式会社 映像表示システム
JP2018066823A (ja) * 2016-10-18 2018-04-26 株式会社日立システムズ 情報表示装置、及びその処理制御方法
JP2018170554A (ja) * 2017-03-29 2018-11-01 セイコーエプソン株式会社 ヘッドマウントディスプレイ
WO2023119528A1 (ja) * 2021-12-22 2023-06-29 マクセル株式会社 ヘッドマウントディスプレイ装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3497695A4 (en) * 2016-08-12 2019-12-25 Magic Leap, Inc. WORD STREAM ANNOTATION
JP2018116537A (ja) * 2017-01-19 2018-07-26 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
US10769438B2 (en) 2017-05-23 2020-09-08 Samsung Electronics Company, Ltd. Augmented reality

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09101477A (ja) * 1995-10-04 1997-04-15 Canon Inc 情報表示装置
JP2012169726A (ja) * 2011-02-10 2012-09-06 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2014093050A (ja) * 2012-11-06 2014-05-19 Sony Corp 画像表示装置及び画像表示方法、並びにコンピューター・プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005239042A (ja) * 2004-02-27 2005-09-08 Nippon Seiki Co Ltd 車両用情報表示装置及び車両用情報表示方法
US20120098971A1 (en) * 2010-10-22 2012-04-26 Flir Systems, Inc. Infrared binocular system with dual diopter adjustment
JP5762892B2 (ja) * 2011-09-06 2015-08-12 ビッグローブ株式会社 情報表示システム、情報表示方法、及び情報表示用プログラム
JP5974928B2 (ja) * 2013-02-22 2016-08-23 ソニー株式会社 表示制御装置、表示装置、表示制御方法、およびプログラム
US20160019715A1 (en) * 2014-07-15 2016-01-21 Osterhout Group, Inc. Content presentation in head worn computing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09101477A (ja) * 1995-10-04 1997-04-15 Canon Inc 情報表示装置
JP2012169726A (ja) * 2011-02-10 2012-09-06 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2014093050A (ja) * 2012-11-06 2014-05-19 Sony Corp 画像表示装置及び画像表示方法、並びにコンピューター・プログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017221663A1 (ja) * 2016-06-20 2017-12-28 パナソニックIpマネジメント株式会社 映像表示システム
JPWO2017221663A1 (ja) * 2016-06-20 2019-04-25 パナソニックIpマネジメント株式会社 映像表示システム
JP2018066823A (ja) * 2016-10-18 2018-04-26 株式会社日立システムズ 情報表示装置、及びその処理制御方法
JP2018170554A (ja) * 2017-03-29 2018-11-01 セイコーエプソン株式会社 ヘッドマウントディスプレイ
WO2023119528A1 (ja) * 2021-12-22 2023-06-29 マクセル株式会社 ヘッドマウントディスプレイ装置

Also Published As

Publication number Publication date
US20160021360A1 (en) 2016-01-21

Similar Documents

Publication Publication Date Title
US9898868B2 (en) Display device, method of controlling the same, and program
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9411160B2 (en) Head mounted display, control method for head mounted display, and image display system
JP6089705B2 (ja) 表示装置、および、表示装置の制御方法
US9792710B2 (en) Display device, and method of controlling display device
CN105739095B (zh) 显示装置以及显示装置的控制方法
JP2016024208A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6432197B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016004340A (ja) 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016085350A (ja) 表示装置、及び、表示装置の制御方法
JP2016033757A (ja) 表示装置、表示装置の制御方法、および、プログラム
US20160035137A1 (en) Display device, method of controlling display device, and program
JP2016224086A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6135162B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP6428024B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016091348A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2015087523A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6394108B2 (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2016034091A (ja) 表示装置、表示装置の制御方法、および、プログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160617

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20160628

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20180314