JP2016033758A - 表示装置、表示装置の制御方法、および、プログラム - Google Patents

表示装置、表示装置の制御方法、および、プログラム Download PDF

Info

Publication number
JP2016033758A
JP2016033758A JP2014156646A JP2014156646A JP2016033758A JP 2016033758 A JP2016033758 A JP 2016033758A JP 2014156646 A JP2014156646 A JP 2014156646A JP 2014156646 A JP2014156646 A JP 2014156646A JP 2016033758 A JP2016033758 A JP 2016033758A
Authority
JP
Japan
Prior art keywords
display
unit
image
user
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014156646A
Other languages
English (en)
Other versions
JP6432197B2 (ja
Inventor
薫 千代
Kaoru Sendai
薫 千代
津田 敦也
Atsuya Tsuda
敦也 津田
高野 正秀
Masahide Takano
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2014156646A priority Critical patent/JP6432197B2/ja
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to PCT/JP2015/003718 priority patent/WO2016017130A1/en
Priority to EP15826322.8A priority patent/EP3175334A4/en
Priority to KR1020177004167A priority patent/KR20170030632A/ko
Priority to US15/327,139 priority patent/US20170168562A1/en
Priority to CN201580037814.5A priority patent/CN106662921A/zh
Priority to TW104124434A priority patent/TW201617826A/zh
Publication of JP2016033758A publication Critical patent/JP2016033758A/ja
Application granted granted Critical
Publication of JP6432197B2 publication Critical patent/JP6432197B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0176Head mounted characterised by mechanical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】装置外部の、外的な要因に対応して情報を表示する表示装置、表示装置の制御方法、および、プログラムを提供する。【解決手段】頭部装着型表示装置100は、使用者の身体に装着して使用され、外景を透過し、外景とともに視認できるように画像を表示する画像表示部20を備える。また、頭部装着型表示装置100は、使用者の視線方向の対象物を検出する対象検出部171と、画像表示部20の表示領域に対する対象物の位置を検出する位置検出部172とを備える。さらに、位置検出部172で検出した対象物の位置に基づき情報の表示位置を決定し、情報を画像表示部20に表示させる情報表示制御部174を備える。【選択図】図2

Description

本発明は、表示装置、表示装置の制御方法、および、プログラムに関する。
従来、ウェアラブル表示装置において文章を表示する機能を備えたものが知られている(例えば、特許文献1参照)。特許文献1記載の装置は、表示された文章データの内容をユーザーが把握できるように、文章データの一部の文字又は単語について、フォントサイズや文字の色等の表示属性を変更する。これにより、例えば文章の一部の文字を、より早く、容易に識別することができる。
特開2014−56217号公報
特許文献1記載の装置では、特定の分野を表す言葉のフォントサイズを大きくするなど、表示する情報の内容に対応して表示属性を変更する。これに対し、装置あるいは装置を使用するユーザーの外的な状況に対応した表示を行う手法は従来無かった。例えば、ウェアラブル表示装置が使用される場所や状況まで配慮されていなかった。
本発明は、上述した事情に鑑みてなされたものであり、装置外部の、外的な要因に対応して情報を表示する表示装置、表示装置の制御方法、および、プログラムを提供することを目的とする。
上記目的を達成するために、本発明の表示装置は、使用者の身体に装着して使用される表示装置であって、外景を透過し、前記外景とともに視認できるように画像を表示する表示部と、前記使用者の視線方向の対象物を検出する対象検出部と、前記表示部の表示領域に対する前記対象物の位置を検出する位置検出部と、前記位置検出部で検出した前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させる情報表示制御部と、を備えることを特徴とする。
本発明によれば、表示装置を装着する使用者の視線方向にある対象物に対応して、情報を表示するので、使用者に見える外景と表示する情報との見え方を調整して、情報を表示できる。このため、表示装置外部の、外的な要因に対応して、情報を見やすく表示することができる。
また、本発明は、上記表示装置において、前記使用者の視線方向を撮像する撮像部を備え、前記対象検出部は、前記撮像部の撮像画像に基づき、前記使用者が前記表示部を透過して視認する前記対象物を検出すること、を特徴とする。
本発明によれば、視線方向にある対象物を、より確実に検出できる。
また、本発明は、上記表示装置において、前記位置検出部は、前記撮像部の撮像画像に基づき、前記対象物の位置を検出すること、を特徴とする。
本発明によれば、表示領域に対する対象物の位置を速やかに求めることができる。
また、本発明は、上記表示装置において、前記位置検出部は、前記撮像部の撮像画像を含む複数の情報に基づき、前記対象物の位置を検出すること、を特徴とする。
本発明によれば、表示領域に対する対象物の位置を、より正確に求めることができる。
また、本発明は、上記表示装置において、前記情報表示制御部は、前記対象検出部が検出した前記対象物に関連する付加情報を前記表示部に表示させること、を特徴とする。
本発明によれば、使用者に、対象物に関連する付加情報を、対象物とともに見えるように表示できる。
また、本発明は、上記表示装置において、前記位置検出部は、前記使用者が前記表示部の表示領域を透過して前記対象物を視認する位置を検出すること、を特徴とする。
本発明によれば、使用者が対象物を視認する位置を基準として情報を表示できる。例えば、対象物に重なるように情報を表示したり、対象物を避ける位置に情報を表示したりできる。
また、本発明は、上記表示装置において、前記情報表示制御部は、前記位置検出部が検出した前記対象物の位置に重なるように情報を表示させること、を特徴とする。
本発明によれば、対象物に重なって見えるように情報を表示できる。
また、本発明は、上記表示装置において、前記対象物と前記使用者との距離を検出する距離検出部を備え、前記情報表示制御部は、前記距離検出部が検出した距離に応じて、情報の表示態様を決定し、決定した表示態様で前記表示部に情報を表示させること、を特徴とする。
本発明によれば、対象物と使用者の位置関係に対応して表示態様を変えることができる。
また、上記目的を達成するために、本発明は、外景を透過し、前記外景とともに視認できるように画像を表示する表示部を備え、使用者の身体に装着して使用される表示装置の制御方法であって、前記使用者の視線方向の対象物を検出し、前記表示部の表示領域に対する前記対象物の位置を検出し、前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させること、を特徴とする。
本発明によれば、表示装置を装着する使用者の視線方向にある対象物に対応して、情報を表示するので、使用者に見える外景と表示する情報との見え方を調整して、情報を表示できる。このため、表示装置外部の、外的な要因に対応して、情報を見やすく表示することができる。
また、上記目的を達成するために、本発明は、外景を透過し、前記外景とともに視認できるように画像を表示する表示部を備え、使用者の身体に装着して使用される表示装置を制御するコンピューターが実行可能なプログラムであって、前記コンピューターを、前記使用者の視線方向の対象物を検出する対象検出部と、前記表示部の表示領域に対する前記対象物の位置を検出する位置検出部と、前記位置検出部で検出した前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させる情報表示制御部と、して機能させる。
本発明によれば、表示装置を装着する使用者の視線方向にある対象物に対応して、情報を表示するので、使用者に見える外景と表示する情報との見え方を調整して、情報を表示できる。このため、表示装置外部の、外的な要因に対応して、情報を見やすく表示することができる。
頭部装着型表示装置の外観構成を示す説明図である。 頭部装着型表示装置の機能的構成を示すブロック図である。 頭部装着型表示装置の動作を示すフローチャートである。 対象物検出処理を詳細に示すフローチャートである。 表示処理を詳細に示すフローチャートである。 頭部装着型表示装置の典型的な適用例を示す説明図であり、(A)は頭部装着型表示装置が利用される劇場の構成を示す模式図であり、(B)、(C)及び(D)は劇場で頭部装着型表示装置を使用する使用者の視野の例を示す。 頭部装着型表示装置の典型的な適用例を示す説明図であり、(A)及び(B)は劇場で頭部装着型表示装置を使用する使用者の視野の例を示す。
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御装置10と、を備えている。制御装置10は、使用者が頭部装着型表示装置100を操作するためのコントローラーとしても機能する。画像表示部20は、単に「表示部」とも呼ぶ。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61(撮像部)と、マイク63と、を備える。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)と調光板20Aとを備える。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板20Aは、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板20Aは、光透過性がほぼゼロのもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰または反射するもの等、種々のものを用いることができる。調光板20Aの光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26および左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、頭部装着型表示装置100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは右導光板261、左導光板262を保護し、右導光板261、左導光板262の損傷や汚れの付着等を抑制する。
調光板20Aは右光学像表示部26および左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、右光学像表示部26の他端である端部ERに配置される。カメラ61は、使用者の眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。図1に示す本実施形態のカメラ61は、単眼カメラであるが、ステレオカメラであってもよい。
カメラ61の撮影方向すなわち画角は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮影する方向である。また、カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界(外景)を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮影できるようにカメラ61の撮像範囲が設定されていると、より好ましい。
画像表示部20は、さらに、画像表示部20を制御装置10に接続するための接続部40を有している。接続部40は、制御装置10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を備える。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。
連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。イヤホンプラグ30の近傍にはマイク63が設けられている。イヤホンプラグ30からマイク63までは一本のコードにまとめられ、マイク63からコードが分岐して、右イヤホン32と左イヤホン34のそれぞれに繋がっている。
マイク63の具体的な仕様は任意であり、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。指向性を有するマイクとしては、例えば単一指向性(Cardioid)、狭指向性(Supercardioid)、鋭指向性(Hypercardioid)、超指向性(Ultra Cardioid)等が挙げられる。マイク63が指向性を有する場合、頭部装着型表示装置100を装着した使用者の視線方向からの音声を特に良好に集音し、検出する構成とすればよい。この場合、マイク63の指向性を確保するため、マイク63またはマイク63を収容する部品に構造的な特徴を持たせてもよい。例えば図1の例において、使用者が右イヤホン32及び左イヤホン34を装着した状態で、マイク63の集音部が、使用者の視線方向を向くように、マイク63及び連結部材46が設計されていればよい。或いは、マイク63を、右保持部21または左保持部23に埋込設置してもよい。この場合、右保持部21または左保持部23の前面側、すなわち右光学像表示部26、左光学像表示部28に並ぶ面に集音用の穴を穿設すれば、使用者の視線方向に対応する指向性を持たせることができる。使用者の視線方向とは、例えば、右光学像表示部26及び左光学像表示部28が面する方向、使用者が右光学像表示部26及び左光学像表示部28越しに見る視界の中心を向く方向、カメラ61の撮影方向等と言い換えることができる。なお、マイク63の指向性の方向を可変としてもよい。この場合、使用者の視線方向を検出して、その方向を向くようにマイク63の視線方向を調整する構成としてもよい。
なお、右コード42と左コード44とを一本のコードにまとめることも可能である。具体的には、右コード42の内部の導線を、画像表示部20の本体内部を通して左保持部23側に引き込み、左コード44内部の導線とともに樹脂で被覆して、一本のコードにまとめてもよい。
画像表示部20と制御装置10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御装置10と、のそれぞれには、互いに嵌合するコネクター(図示略)が設けられている。本体コード48のコネクターと制御装置10のコネクターとの嵌合/嵌合解除により、制御装置10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御装置10は、頭部装着型表示装置100を制御するための装置である。制御装置10は、決定キー11、点灯部12、表示切替キー13、輝度切替キー15、方向キー16、メニューキー17、及び電源スイッチ18を含むスイッチ類を備える。また、制御装置10は、使用者が指によりタッチ操作するトラックパッド14を備える。
決定キー11は、押下操作を検出して、制御装置10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとを切り替える信号を出力する。
トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
図2は、実施形態に係る表示システム1を構成する各部の機能ブロック図である。
図2に示すように、表示システム1は、外部機器OAと、頭部装着型表示装置100とを備える。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。外部機器OAは、頭部装着型表示装置100に画像を供給する画像供給装置として用いられる。
頭部装着型表示装置100の制御装置10は、制御部140と、操作部135と、入力情報取得部110と、記憶部120と、電源130と、インターフェイス180と、送信部(Tx)51および送信部(Tx)52と、を有している。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18の各部を備える。
入力情報取得部110は、使用者による操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、トラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。
電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。
記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。記憶部120には、頭部装着型表示装置100の画像表示部20に表示する画像データが格納されていても良い。
インターフェイス180は、制御装置10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができる。
制御部140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、各部の機能を実現する。すなわち、制御部140は、オペレーティングシステム(OS)150、画像処理部160、音声処理部170、対象検出部171、位置検出部172、距離検出部173、情報表示制御部174、及び、表示制御部190、として機能する。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、3軸センサー113の検出値を制御部140が取得可能である。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置10の制御部140が計時する時刻を修正させる機能を備えていてもよい。
通信部117は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth(登録商標)等の規格に準じた無線データ通信を実行する。
外部機器OAが、通信部117に無線接続された場合には、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示するための制御を行う。一方、外部機器OAが、インターフェイス180に有線接続された場合には、制御部140は、コンテンツデータをインターフェイス180より取得して、画像表示部20に画像を表示するための制御を行う。よって、通信部117、及び、インターフェイス180を、以下総称してデータ取得部DAと呼ぶ。
データ取得部DAは、外部機器OAから、頭部装着型表示装置100により表示するコンテンツデータを取得する。コンテンツデータは後述する表示データを含み、表示データは画像データやテキストデータ等の種々のデータとすることができる。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示略)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示略)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(図中、Data)として、1フレームごとに記憶部120内のDRAMに格納する。この画像データは、例えばRGBデータである。
なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御装置10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、振動センサー65と、9軸センサー66と、を備えている。
振動センサー65は、加速度センサーを利用して構成され、図1に示すように画像表示部20の内部に配置される。図1の例では右保持部21において、右光学像表示部26の端部ERの近傍に内蔵される。振動センサー65は、使用者が端部ERを叩く操作(ノック操作)を行った場合に、この操作による振動を検出して、検出結果を制御部140に出力する。この振動センサー65の検出結果により、制御部140は、使用者によるノック操作を検出する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。検出された使用者の頭部の動きから画像表示部20の向きがわかるため、制御部140は、使用者の視線方向を推定できる。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を備える。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御装置10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データData1と、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を備える。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
頭部装着型表示装置100は、使用者が右光学像表示部26及び左光学像表示部28を透過して外景を見ている場合に、この外景に重なるように表示データを表示する。
対象検出部171は、カメラ61に撮像を実行させる制御を行い、撮像画像を取得する。この撮像画像はカラー画像データまたはモノクロ画像データとしてカメラ61から出力されるが、カメラ61が画像信号を出力して、対象検出部171が画像信号から所定のファイルフォーマットに適合する画像データを生成してもよい。
対象検出部171は、取得した撮像画像データを解析し、撮像画像データに写っている対象物を検出する。対象物とは、カメラ61の撮像方向すなわち使用者の視線方向に存在する物体または人である。
位置検出部172は、対象検出部171が検出した対象物の、画像表示部20が画像を表示する表示領域に対する位置を検出する。右光学像表示部26及び左光学像表示部28によって、使用者の両眼に画像が視認され、この画像は調光板20Aを透過する外光と重なる。このため、使用者は、外景と、右光学像表示部26及び左光学像表示部28が表示する画像とを重ねて視認する。ここで、右光学像表示部26及び左光学像表示部28が表示する画像が使用者に見える範囲を、画像表示部20の表示領域とする。この表示領域は画像表示部20が画像を視認させることができる最大の範囲であり、画像表示部20は表示領域の全部または一部に画像を表示する。
位置検出部172は、カメラ61の撮像画像における対象物の画像の位置をもとに、使用者に対象物が見える位置と、画像表示部20が表示する画像が見える位置との相対位置を求める。この処理には、画像表示部20の表示領域とカメラ61の撮像範囲(画角)との位置関係を示す情報が必要である。この情報に代えて、使用者の視野(視界)とカメラ61の撮像範囲(画角)との位置関係を示す情報、及び、使用者の視野(視界)と画像表示部20の表示領域との位置関係を示す情報を用いてもよい。これらの情報は、例えば記憶部120に予め記憶されている。
また、位置検出部172は、対象物の位置とともに、表示領域に対する対象物のサイズを検出してもよい。これにより、画像表示部20が表示する画像と、外景における対象物とが使用者に見える場合に、使用者が知覚する表示画像と対象物の像の大きさが所定の状態となるように、画像を表示できる。
位置検出部172が検出する対象物の位置に基づいて、画像表示部20が画像を表示すると、使用者が対象物を見る位置を避けてデータを表示したり、使用者に対象物が見える位置に重なるようにデータを表示したりできる。
距離検出部173は、対象検出部171が検出した対象物までの距離を求める。例えば、距離検出部173は、カメラ61の撮像画像において対象検出部171が検出した対象物の画像のサイズに基づき、対象物までの距離を求める。
また、頭部装着型表示装置100は、レーザー光または超音波を利用して対象物までの距離を検出する距離計を備えていてもよい。この距離計は、例えば、レーザー光の光源と、この光源が発したレーザー光の反射光を受光する受光部とを備え、レーザー光の受光状態に基づき対象物までの距離を検出する。また、距離計は、例えば、超音波式の距離計としてもよい。すなわち、超音波を発する音源と、対象物に反射した超音波を検出する検出部とを備え、反射した超音波に基づき対象物までの距離を検出する距離計を用いてもよい。さらに、この距離計は、レーザー光を利用する距離計と超音波を用いる距離計とを合わせた構成とすることもできる。このような距離計は、画像表示部20の右保持部21または右表示駆動部22に設けることが好ましく、例えば、調光板20Aと並ぶ面に、前方を向いて設置するとよい。この距離計が距離を測定する方向は、カメラ61の撮像方向と同様に、使用者の視線方向であることが望ましい。
距離検出部173は、カメラ61または距離計から対象物までの距離を検出するが、この距離は、頭部装着型表示装置100の使用者から対象物までの距離と見なすことができる。
情報表示制御部174は、対象検出部171、位置検出部172、及び距離検出部173の処理結果に基づき、画像表示部20によって、表示データを表示させる。頭部装着型表示装置100は、データ取得部DAにより、動画像、静止画像、文字、記号等様々なデータを取得する構成としてもよく、これらのデータを表示データとして利用できる。
情報表示制御部174は、対象検出部171が検出した対象物について位置検出部172が検出した位置及び/又はサイズ、距離検出部173が検出した対象物までの距離等に基づき、表示データの表示属性を決定する。表示属性とは、例えば表示データがテキストデータである場合、文字の表示サイズ、表示色、字体、太字やイタリック等の文字装飾の有無等を含む。また、文字データの背景として、矩形、楕円形、円形等の形状の画像を配置することも可能であり、この背景の有無、背景のサイズ、形状、及び背景の透明度を表示属性に含めてもよい。表示データが画像データである場合、表示属性は、例えば画像の表示サイズ、表示色、透明度等を含む。
この情報表示制御部174の機能により、頭部装着型表示装置100は、使用者が外景とともに視認できるように、表示データを表示する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示略)および左イヤホン34内のスピーカー(図示略)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれから、例えば周波数等が変えられた異なる音が出力される。
また、音声処理部170は、マイク63により集音される音声を取得してディジタル音声データに変換し、音声に係る処理を行う。例えば、音声処理部170は、取得した音声から特徴を抽出してモデル化することで、複数の人の声を別々に認識して、声ごとに話している人を特定する話者認識を行ってもよい。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、制御部140は3軸センサー113の検出値を取得して、制御装置10の動き及び動きの方向を検出可能である。
GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置10の制御部140が計時する時刻を修正させる機能を備えていてもよい。
通信部117は、無線LAN(WiFi(登録商標))やBluetooth(登録商標)規格に準じた無線データ通信を実行する。
インターフェイス180は、制御装置10に対して、コンテンツの供給元となる種々の画像供給装置OAを接続するためのインターフェイスである。画像供給装置OAが供給するコンテンツは、静止画像または動画像を含み、音声を含んでもよい。画像供給装置OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を利用できる。
ここで、画像供給装置OAを無線通信回線により制御装置10に接続することも可能である。この場合、画像供給装置OAは、通信部117と無線通信を実行して、コンテンツのデータをMiracast(登録商標)等の無線通信技術により送信する。
図3は、頭部装着型表示装置100の動作を示すフローチャートであり、特に、情報表示制御部174の機能を利用した、データ表示処理を示す。データ処理は、使用者が右光学像表示部26及び左光学像表示部28を通して外景を見ているときに、その外景に関する文字等の表示データを画像表示部20により表示する処理である。
頭部装着型表示装置100の制御部140は、まず、データ取得部DAにより表示データを取得する(ステップS1)。データ取得部DAにより取得されたデータは記憶部120に記憶される。ステップS1で受信されるデータは上記したように動画像データ、静止画像データ、テキストデータ等の種々のデータとすることができ、本実施形態では文字列からなるテキストデータを取得及び表示する例を説明する。
続いて、対象検出部171が対象物検出処理を実行する(ステップS2)。対象検出部171がカメラ61の撮像画像から対象物の画像を検出し、位置検出部172が対象物の位置を検出する。続いて、距離検出部173が、対象検出部171により検出された対象物までの距離を検出する距離検出処理を実行する(ステップS3)。さらに、情報表示制御部174が表示処理を実行し、対象検出部171、位置検出部172及び距離検出部173の処理結果に基づいて、表示制御部190を制御し、表示データを画像表示部20により表示させる(ステップS5)。
ステップS2及びS4の各処理の詳細は後述する。
その後、制御部140はステップS1で取得したデータの全てについて、ステップS2〜S4で処理したか否かを判定する(ステップS5)。未処理のデータがある場合(ステップS5;NO)、制御部140はステップS2に戻り、未処理のデータに対する処理を行う。また、全てのデータの処理が済んだ場合(ステップS5;YES)、制御部140は表示を終了するか否かを判定する(ステップS6)。表示を継続する場合(ステップS6;NO)、制御部140はステップS1に戻る。また、操作部135が検出した操作等に従って表示を終了する場合(ステップS6;YES)、制御部140は表示制御部190による表示を停止させて本処理を終了する。
図4は、図3のステップS2に示した対象物検出処理を詳細に示すフローチャートである。
対象検出部171は、カメラ61に撮像を実行させて撮像画像を取得し(ステップS11)、撮像画像から対象物の画像を検出する(ステップS12)。対象検出部171が対象物を検出する処理は、例えば2通り挙げられる。第1の処理は、検出する対象物の画像の特徴を示すデータが予め記憶部120に記憶されていて、このデータを利用する処理である。具体的には、対象検出部171は記憶部120から画像の特徴を示すデータを取得し、この特徴に合致する部分を、撮像画像において検索する。この第1の処理で検出される対象物は、予め記憶部120に記憶されたデータにマッチする対象物である。第2の処理は、対象検出部171が撮像画像において輪郭を抽出することにより、撮像画像に写っている人または物体の画像を切り出し、所定以上の大きさの画像が切り出された場合に、切り出した画像を対象物の画像とする処理である。第1及び第2の処理で複数の対象物の画像が検出された場合、対象検出部171は、使用者の視線方向により近い1つの対象物を選択してもよい。例えば、カメラ61の撮像画像において中心に近い対象物の画像を選択すればよい。
続いて、位置検出部172が、対象検出部171により検出された対象物の画像について、表示領域に対する位置を検出する(ステップS13)。ステップS13で、位置検出部172は、上述したように表示領域とカメラ61の画角との位置関係を示す情報等を記憶部120から適宜取得する。
また、対象検出部171は、ステップS12で検出した対象物の画像に基づき、対象物の種類を判定する(ステップS14)。本実施形態では、対象物の種類は、表示データが重ならないようにする対象物か、表示データを重ねる対象物かの2通りが挙げられる。表示データを重ねる対象物を、ここでは背景と呼ぶ。
そして、位置検出部172はステップS13で検出した対象物の位置を出力し、対象検出部171は、ステップS14で判定した対象物の種類を出力し、ステップS3(図3)に移行する(ステップS15)。
図5は、表示処理を詳細に示すフローチャートである。また、図6及び図7は頭部装着型表示装置100の典型的な適用例を示す説明図である。図6(A)は頭部装着型表示装置100が利用される劇場THの構成を示す模式図であり、図6(B)、(C)、(D)及び図7(A)、(B)は、劇場THで頭部装着型表示装置100を使用する使用者の視野VRの例を示す。
図6(A)に示す劇場THは、ステージSTを向くように、頭部装着型表示装置100の使用者を含む観客用の座席SHが多数配置された構成を有する。頭部装着型表示装置100の使用者は、座席SHに着席してステージSTを見るときに、頭部装着型表示装置100を使用する。
図6(B)の視野VRは、画像表示部20の右光学像表示部26及び左光学像表示部28越しに、使用者が見る視野を示している。画像表示部20は外景を透過して視認可能であるという特性を有するので、視野VRには、ステージSTが見えている。視野VRには、ステージSTの上方及び左右端に配置されたカーテンCT、ステージSTの左右の側方にある舞台袖SSが含まれる。ステージSTには出演者Aの姿が見える。この例ではステージST上に出演者Aが居り、使用者は出演者Aを見ている。
この例で、制御部140がステップS1において取得する表示データは、劇場THで上演される演劇プログラムに関するテキストデータであり、出演者Aが発話する台詞、及び、演劇プログラムに関する説明のテキストを含む。制御部140は、ステップS1で、演劇プログラム全体、または、一部についてテキストデータを取得する。このテキストデータが複数の台詞、及び/又は複数の説明のテキストを含む場合、ステップS1で取得された表示データは演劇プログラムの進行に伴い、複数回に分けて表示される。このため、情報表示制御部174は、ステップS1で取得された表示データの中から、今回表示する分の表示データを抽出して取得する(ステップS21)。情報表示制御部174は、演劇プログラムの進行に合わせて、表示データを取得する。例えば、表示データに、テキストデータとともに、テキストデータを表示するタイミングを示すデータが付加されている場合、情報表示制御部174は、付加されたデータに基づき表示データを抽出する。
情報表示制御部174は、取得した表示データと、対象検出部171が検出した対象物との関連の有無を判定する(ステップS22)。例えば、表示データに含まれるテキストデータに、演劇プログラムの台詞であるか説明のテキストであるかを示すデータが付加されている場合、情報表示制御部174は、対象物が出演者Aであって取得した表示データが台詞であれば、関連があると判定する。対象検出部171により対象物が背景でないと判定された場合、対象物が出演者Aであると特定できる。
情報表示制御部174は、表示データの表示属性を決定する(ステップS23)。具体的には、位置検出部172が検出した対象物の位置、対象検出部171が判定した対象物の種類、距離検出部173が検出した対象物までの距離、及び、ステップS22で検索した対象物と表示データとの関連の有無に基づき、表示属性を決定する。その後、情報表示制御部174は、決定した表示属性と表示データとを表示制御部190に出力し、画像表示部20により表示を実行させ、或いは実行中の表示を更新させて(ステップS24)、ステップS5(図3)に移行する。
図6(B)の例では、対象検出部171が検出する対象物が出演者Aであって、背景ではないため、使用者が出演者Aを視認する位置に重ならないように、テキスト311が表示されている。すなわち、テキスト311の表示属性に含まれる表示位置は、出演者Aに重ならない位置に決定される。図6(B)の例では、舞台袖SS側のカーテンCTに重なる位置がテキスト311の表示位置となっている。また、図6(C)に示すように、ステージST上方のカーテンCTに重なる位置を、テキスト311の表示位置としてもよい。また、情報表示制御部174は、表示属性である表示サイズについて、ステージSTに重ならないサイズを設定してもよい。さらに、テキスト311の文字にカーテンCTの色が重なるとテキスト311の視認性が低くなることから、テキスト311に所定色の背景を付してもよい。また、図6(B)、(C)の例ではテキスト311は出演者Aの台詞であるため、対象物である出演者Aとの関連がある。このため、情報表示制御部174は、テキスト311の表示属性として、より目立つように、文字装飾を付したり、表示色をカメラ61の撮影画像において目立つような色に設定したりする。
これに対し、対象検出部171が、検出した対象物が背景であると判定した場合、図6(D)に示すように、対象物に重なる位置にテキスト311が表示される。図6(D)の例では視野VRに前方の座席SH1があり、この座席SH1が対象物として検出される。対象検出部171は、座席SH1について、形状や色に基づき人間に関係しない対象物であると認識して、背景と判定する。この場合、情報表示制御部174は、対象物である座席SH1に重なるように、テキスト311の表示サイズおよび位置を決定する。
図7(A)及び(B)は、情報表示制御部174が、距離検出部173が検出した距離に基づいて表示属性を決定する例を示す。
図7(A)は距離検出部173が検出した距離が所定距離より近い場合の例であり、テキスト311は小さく、かつ、テキスト311が明るく見えるように表示される。一方、図7(B)は距離検出部173が検出した距離が所定距離より遠い場合の例であり、テキスト311は大きく、かつ、テキスト311が暗く見えるように表示される。テキスト311の明るさは、テキスト311の文字部分の輝度、及び、テキスト311の背景(この例では矩形)の色とテキスト311の輝度の比により調整できる。使用者がステージSTに近い位置にいる場合、使用者の目に見える外景すなわちステージSTは、明るく見える。このため、テキスト311を明るくすることで、テキスト311の視認性が良好になる。また、ステージSTが視野VRの大部分を占めるように、大きく見えるので、テキスト311を大きく表示すると出演者Aが見えにくくなるため、テキスト311の表示サイズを小さくすることが好ましい。
これに対し、図7(B)に示すように、使用者がステージSTから離れた位置にいる場合、ステージSTが暗く見えるため、テキスト311を暗く表示すると、ステージST及びテキスト311の両方が良好に視認できる。また、出演者Aが小さく見えるので、テキスト311を大きく表示しても出演者Aに重なる可能性が小さい。
このように、情報表示制御部174は、使用者が視認している外景の状況に合わせて、使用者が見たい外景の視認性を損なうことなく、かつ、見やすく表示データを表示できる。
なお、図6及び図7に示した例のように出演者が出演する劇場では、舞台袖SSにディスプレイが設置されることがある。この種のディスプレイには、出演者が発する音声(台詞など)や演劇プログラムの説明に関するテキストが表示される。従来は上記ディスプレイに表示されていた文字列を、頭部装着型表示装置100がテキスト311として表示できる。また、上記ディスプレイが設置されている場合には視野VRにディスプレイが見える。この場合、頭部装着型表示装置100は、ディスプレイを対象物とし、この対象物に重ならない位置で表示データを表示すればよい。この場合、対象検出部171が、ディスプレイと、出演者Aとの両方を対象物として検出し、各対象物について、種類を判定してもよく、情報表示制御部174は、全ての対象物の種類に対応するように、テキスト311の表示属性を決定すればよい。
以上説明したように、本発明を適用した実施形態に係る頭部装着型表示装置100は、使用者の身体に装着して使用され、外景を透過し、外景とともに視認できるように画像を表示する画像表示部20を備える。また、頭部装着型表示装置100は、使用者の視線方向の対象物を検出する対象検出部171と、画像表示部20の表示領域に対する対象物の位置を検出する位置検出部172とを備える。さらに、位置検出部172で検出した対象物の位置に基づき情報の表示位置を決定し、情報を画像表示部20に表示させる情報表示制御部174を備える。これにより、頭部装着型表示装置100を装着する使用者の視線方向にある対象物に対応して、情報を表示するので、使用者に見える外景と表示する情報との見え方を調整して、情報を表示できる。このため、頭部装着型表示装置100外部の、外的な要因に対応して、情報を見やすく表示することができる。
また、頭部装着型表示装置100は、使用者の視線方向を撮像するカメラ61を備え、対象検出部171は、カメラ61の撮像画像に基づき、使用者が画像表示部20を透過して視認する対象物を検出する。このため、視線方向にある対象物を、より確実に検出できる。
また、情報表示制御部174は、対象検出部171が検出した対象物に関連する付加情報を画像表示部20に表示させるので、使用者に、対象物に関連する付加情報を、対象物とともに見えるように表示できる。ここで、付加情報としてのテキスト311(図6(B))等を表示する場合、情報表示制御部174は、付加情報の属性に応じて、文字フォント、文字の表示色、表示サイズ、背景色、白抜き文字等の文字装飾の有無等を含む表示態様を適宜変化させてもよい。また、使用者の視線方向の対象物、或いは、使用者の視線方向から画像表示部20に入射する外光の明るさ等の状態に応じて、付加情報の表示態様を変化させてもよい。さらに、情報表示制御部174は、付加情報の表示にあたって、右光学像表示部26及び左光学像表示部28により、視差を有する画像を表示させて、使用者に立体(3D)画像を視認させるようにしてもよい。この場合、立体画像として表示するか平面画像として表示するかを、表示態様の1つとして情報表示制御部174が設定、変更してもよい。
また、位置検出部172は、使用者が画像表示部20の表示領域を透過して対象物を視認する位置を検出する。これにより、使用者が対象物を視認する位置を基準として情報を表示できる。例えば、図6(B)、(C)に示したように、対象物を避ける位置に情報を表示できる。
さらに、情報表示制御部174は、位置検出部172が検出した対象物の位置に重なるように情報を表示させるので、例えば、図6(D)に例示したように、対象物に重なって見えるように情報を表示できる。
また、頭部装着型表示装置100は、対象物と使用者との距離を検出する距離検出部173を備え、情報表示制御部174は、距離検出部173が検出した距離に応じて、情報の表示態様を決定し、決定した表示態様で画像表示部20に情報を表示させる。このため、対象物と使用者の位置関係に対応して表示態様を変えることができる。
なお、この発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記実施形態では、表示データであるテキスト311を平面画像として表示する例について説明したが、これらの一部または全部を立体画像として表示してもよい。この場合、情報表示制御部174は、表示データを立体画像として表示するか平面画像として表示するかを、表示属性の1つとして、決定する処理を行ってもよい。
また、位置検出部172は、カメラ61の撮像画像に基づいて対象物の位置を検出するものとして説明したが、本発明はこれに限定されない。例えば、位置検出部172は、外部の他の装置から送信される信号に基づいて、対象物の位置を検出してもよい。具体的には、対象物に装着された装置から可視領域外の光線(赤外線等)が送出された場合に、この光線を受光して、対象物の位置を検出してもよい。光線に代えて、外部の装置から無線信号を送出し、この無線信号を頭部装着型表示装置100が受信して、位置検出部172が位置を検出してもよい。これらの具体例としては、公知の光ビーコンや電波ビーコンが採用できる。この場合、対象物と頭部装着型表示装置100との距離を検出してもよい。さらに、対象物の位置を検出する外部の装置から送信される信号に基づいて対象物の位置を取得してもよい。さらに、位置検出部172は、カメラ61の撮像画像と上記光線または信号など、複数の情報に基づいて対象物の位置を検出してもよい。
また、対象検出部171は、使用者の視線方向の対象物を検出するものであればよく、カメラ61の撮像画像から検出するものに限定されない。例えば、対象検出部171は、外部の他の装置から送信される信号に基づいて、対象物の位置を検出してもよい。具体的には、対象物に装着された装置から可視領域外の光線(赤外線等)が送出された場合に、この光線を受光して、対象物を検出してもよい。光線に代えて、外部の装置から無線信号を送出し、この無線信号を頭部装着型表示装置100が受信して、対象検出部171が対象物を検出してもよい。これらの具体例としては、公知の光ビーコンや電波ビーコンが採用できる。この場合、位置検出部172は、上述したように光または無線信号を受信して、対象物の位置を検出してもよい。
また、対象検出部171及び位置検出部172は、上述したように、制御部140が備える機能の一部として実現される構成に限定されず、制御部140とは別に設けられる機能部、及び、画像表示部20とは別体として構成されるもののいずれであってもよい。
また、画像表示部として、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよいし、自動車のフロントガラスに用いられるヘッドアップディスプレイ(Head-up Display;HUD)であってもよい。さらにまた、使用者の両眼の眼球(例えば、角膜上)に装着して使用する、いわゆるコンタクトレンズ型ディスプレイや、眼球内に埋め込まれるインプラント型ディスプレイなど、使用者の眼球において網膜に結像させるディスプレイを、画像表示部20としてもよい。
また、本願発明は使用者の身体に装着されるものであればよく、他の手法による支持を必要とするか否かは問わず適用可能である。例えば、使用者が両手に持って使用する双眼鏡型のハンドヘルドディスプレイ(Hand Held Display)を、本願の画像表示部20として採用してもよい。この種のディスプレイは、使用者に装着された状態を保持するために使用者が手に持つ必要があるが、使用者がディスプレイの表示を見る場合に使用者の頭部もしくは顔に添えられることから、本発明の表示装置に含まれる。さらに、支持脚等により床面や壁面に固定される表示装置であっても、使用者がディスプレイの表示を見る場合に使用者の頭部もしくは顔に添えられるものであれば、本発明の表示装置に含まれる。
さらに、画像表示部20、または、画像表示部20において画像の表示に係る構成を含む表示部のみが使用者の身体に装着され、この表示部以外の制御装置10、或いは制御装置10と制御部140を含む制御系を、物理的に別体として構成してもよい。例えば、画像表示部20または画像表示部20の一部からなる表示部に、他の制御系を備えた装置を無線接続して、頭部装着型表示装置100と同様に表示装置としてもよい。この制御系を備えた装置としては、スマートフォン、携帯型電話機、タブレット型コンピューター、他の形状のパーソナルコンピューター等、従来からある電子機器を用いることができる。この種の表示装置も本願を適用可能であることは勿論である。
さらに、上記実施形態では、画像表示部20と制御装置10とが分離され、接続部40を介して接続された構成を例に挙げて説明したが、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10と画像表示部20とが、より長いケーブルまたは無線通信回線により接続され、制御装置10として、ノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、例えば、画像表示部20において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよいし、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像生成部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
また、本発明の表示装置は頭部装着型の表示装置に限定されず、フラットパネルディスプレイやプロジェクター等の各種の表示装置に適用できる。本発明の表示装置は、外光とともに画像光により画像を視認させるものであればよく、例えば、外光を透過させる光学部材により画像光による画像を視認させる構成が挙げられる。具体的には、上記のヘッドマウントディスプレイにおいて外光を透過する光学部材を備えた構成の他、使用者から離れた位置に固定的にまたは可動に設置された透光性の平面や曲面(ガラスや透明なプラスチック等)に、画像光を投射する表示装置にも適用可能である。一例としては、車両の窓ガラスに画像光を投射し、乗車している使用者や車両の外にいる使用者に、画像光による画像とともに、車両内外の景色を視認させる表示装置の構成が挙げられる。また、例えば、建物の窓ガラスなど固定的に設置された透明また半透明、或いは有色透明な表示面に画像光を投射し、表示面の周囲にいる使用者に、画像光による画像とともに、表示面を透かして景色を視認させる表示装置の構成が挙げられる。
また、図2に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図2に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120または制御装置10内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117またはインターフェイス180を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成の内、操作部135のみが単独の使用者インターフェース(UI)として形成されてもよいし、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよい。また、制御装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示す制御部140が制御装置10と画像表示部20との両方に形成されていてもよいし、制御装置10に形成された制御部140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
10…制御装置、20…画像表示部(表示部)、21…右保持部、22…右表示駆動部、23…左保持部、24…左表示駆動部、26…右光学像表示部、28…左光学像表示部、61…カメラ(撮像部)、63…マイク、100…頭部装着型表示装置(表示装置)、117…通信部、120…記憶部、140…制御部、150…オペレーティングシステム、160…画像処理部、170…音声処理部、171…対象検出部、172…位置検出部。173…距離検出部、174…情報表示制御部、180…インターフェイス、190…表示制御部、201…右バックライト制御部、202…左バックライト制御部、211…右LCD制御部、212…左LCD制御部、221…右バックライト、222…左バックライト、241…右LCD、242…左LCD、251…右投写光学系、252…左投写光学系、261…右導光板、262…左導光板、311…テキスト(表示データ)、DA…データ取得部。

Claims (10)

  1. 使用者の身体に装着して使用される表示装置であって、
    外景を透過し、前記外景とともに視認できるように画像を表示する表示部と、
    前記使用者の視線方向の対象物を検出する対象検出部と、
    前記表示部の表示領域に対する前記対象物の位置を検出する位置検出部と、
    前記位置検出部で検出した前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させる情報表示制御部と、
    を備えることを特徴とする表示装置。
  2. 前記使用者の視線方向を撮像する撮像部を備え、
    前記対象検出部は、前記撮像部の撮像画像に基づき、前記使用者が前記表示部を透過して視認する前記対象物を検出すること、
    を特徴とする請求項1記載の表示装置。
  3. 前記位置検出部は、前記撮像部の撮像画像に基づき、前記対象物の位置を検出すること、を特徴とする請求項2記載の表示装置。
  4. 前記位置検出部は、前記撮像部の撮像画像を含む複数の情報に基づき、前記対象物の位置を検出すること、を特徴とする請求項3記載の表示装置。
  5. 前記情報表示制御部は、前記対象検出部が検出した前記対象物に関連する付加情報を前記表示部に表示させること、を特徴とする請求項1から4のいずれかに記載の表示装置。
  6. 前記位置検出部は、前記使用者が前記表示部の表示領域を透過して前記対象物を視認する位置を検出すること、
    を特徴とする請求項1から5のいずれかに記載の表示装置。
  7. 前記情報表示制御部は、前記位置検出部が検出した前記対象物の位置に重なるように情報を表示させること、
    を特徴とする請求項6記載の表示装置。
  8. 前記対象物と前記使用者との距離を検出する距離検出部を備え、
    前記情報表示制御部は、前記距離検出部が検出した距離に応じて、情報の表示態様を決定し、決定した表示態様で前記表示部に情報を表示させること、
    を特徴とする請求項1から7のいずれかに記載の表示装置。
  9. 外景を透過し、前記外景とともに視認できるように画像を表示する表示部を備え、使用者の身体に装着して使用される表示装置の制御方法であって、
    前記使用者の視線方向の対象物を検出し、
    前記表示部の表示領域に対する前記対象物の位置を検出し、
    前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させること、
    を特徴とする表示装置の制御方法。
  10. 外景を透過し、前記外景とともに視認できるように画像を表示する表示部を備え、使用者の身体に装着して使用される表示装置を制御するコンピューターが実行可能なプログラムであって、
    前記コンピューターを、
    前記使用者の視線方向の対象物を検出する対象検出部と、
    前記表示部の表示領域に対する前記対象物の位置を検出する位置検出部と、
    前記位置検出部で検出した前記対象物の位置に基づき情報の表示位置を決定し、情報を前記表示部に表示させる情報表示制御部と、
    して機能させるためのプログラム。
JP2014156646A 2014-07-31 2014-07-31 表示装置、表示装置の制御方法、および、プログラム Active JP6432197B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2014156646A JP6432197B2 (ja) 2014-07-31 2014-07-31 表示装置、表示装置の制御方法、および、プログラム
EP15826322.8A EP3175334A4 (en) 2014-07-31 2015-07-24 Display device, method of controlling display device, and program
KR1020177004167A KR20170030632A (ko) 2014-07-31 2015-07-24 표시 장치, 표시 장치의 제어 방법 및, 프로그램을 갖는 컴퓨터 판독 가능 기록 매체
US15/327,139 US20170168562A1 (en) 2014-07-31 2015-07-24 Display device, method of controlling display device, and program
PCT/JP2015/003718 WO2016017130A1 (en) 2014-07-31 2015-07-24 Display device, method of controlling display device, and program
CN201580037814.5A CN106662921A (zh) 2014-07-31 2015-07-24 显示装置、控制显示装置的方法、以及程序
TW104124434A TW201617826A (zh) 2014-07-31 2015-07-28 顯示裝置、顯示裝置之控制方法及程式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014156646A JP6432197B2 (ja) 2014-07-31 2014-07-31 表示装置、表示装置の制御方法、および、プログラム

Publications (2)

Publication Number Publication Date
JP2016033758A true JP2016033758A (ja) 2016-03-10
JP6432197B2 JP6432197B2 (ja) 2018-12-05

Family

ID=55217048

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014156646A Active JP6432197B2 (ja) 2014-07-31 2014-07-31 表示装置、表示装置の制御方法、および、プログラム

Country Status (7)

Country Link
US (1) US20170168562A1 (ja)
EP (1) EP3175334A4 (ja)
JP (1) JP6432197B2 (ja)
KR (1) KR20170030632A (ja)
CN (1) CN106662921A (ja)
TW (1) TW201617826A (ja)
WO (1) WO2016017130A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022153361A (ja) * 2020-12-04 2022-10-12 マクセル株式会社 映像装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI717604B (zh) * 2017-09-11 2021-02-01 宏達國際電子股份有限公司 光學基站
US11047985B2 (en) 2017-09-11 2021-06-29 Htc Corporation Optical base station
US10602302B1 (en) * 2019-02-06 2020-03-24 Philip Scott Lyren Displaying a location of binaural sound outside a field of view
CN110442521B (zh) * 2019-08-02 2023-06-27 腾讯科技(深圳)有限公司 控件单元检测方法及装置
JP7362439B2 (ja) 2019-11-14 2023-10-17 株式会社東芝 電解抽出装置および電解抽出方法
CN113514952A (zh) * 2020-04-09 2021-10-19 华为技术有限公司 抬头显示装置和抬头显示方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006014004A (ja) * 2004-06-28 2006-01-12 Matsushita Electric Ind Co Ltd 2画面テレビ制御方法
JP2006119297A (ja) * 2004-10-20 2006-05-11 Olympus Corp 情報端末装置
JP2012108793A (ja) * 2010-11-18 2012-06-07 Nec Corp 情報表示システム、装置、方法及びプログラム
US20140192092A1 (en) * 2013-01-07 2014-07-10 Seiko Epson Corporation Display device and control method thereof

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004053694A (ja) * 2002-07-16 2004-02-19 Sharp Corp 表示装置、文字・図形表示制御方法、文字・図形表示プログラムおよび可読記録媒体
KR101058040B1 (ko) * 2006-12-21 2011-08-19 삼성전자주식회사 컨텐츠 출력 방법 및 그 장치
JP4600515B2 (ja) * 2008-05-07 2010-12-15 ソニー株式会社 情報提示装置及び情報提示方法、撮像装置、並びにコンピュータ・プログラム
JP5499854B2 (ja) * 2010-04-08 2014-05-21 ソニー株式会社 頭部装着型ディスプレイにおける光学的位置調整方法
CN102446048B (zh) * 2010-09-30 2014-04-02 联想(北京)有限公司 信息处理设备以及信息处理方法
CN103718172A (zh) * 2011-09-21 2014-04-09 株式会社尼康 图像处理装置、程序、图像处理方法及摄像装置
US9096920B1 (en) * 2012-03-22 2015-08-04 Google Inc. User interface method
KR101793628B1 (ko) * 2012-04-08 2017-11-06 삼성전자주식회사 투명 디스플레이 장치 및 그 디스플레이 방법
JP2014056217A (ja) 2012-09-14 2014-03-27 Olympus Corp ウェアラブル携帯型表示装置、頭部装着型表示装置、表示処理システム及びプログラム
KR101984915B1 (ko) * 2012-12-03 2019-09-03 삼성전자주식회사 증강 현실 컨텐츠 운용 방법 및 이를 지원하는 단말기와 시스템
US9996150B2 (en) * 2012-12-19 2018-06-12 Qualcomm Incorporated Enabling augmented reality using eye gaze tracking
KR102019124B1 (ko) * 2013-01-04 2019-09-06 엘지전자 주식회사 헤드 마운트 디스플레이 및 그 제어 방법
JP6155643B2 (ja) * 2013-01-07 2017-07-05 セイコーエプソン株式会社 表示装置、および、表示装置の制御方法
JP6188452B2 (ja) * 2013-06-28 2017-08-30 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP6699547B2 (ja) * 2014-03-12 2020-05-27 日本電気株式会社 陳列状況解析装置、陳列状況解析方法およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006014004A (ja) * 2004-06-28 2006-01-12 Matsushita Electric Ind Co Ltd 2画面テレビ制御方法
JP2006119297A (ja) * 2004-10-20 2006-05-11 Olympus Corp 情報端末装置
JP2012108793A (ja) * 2010-11-18 2012-06-07 Nec Corp 情報表示システム、装置、方法及びプログラム
US20140192092A1 (en) * 2013-01-07 2014-07-10 Seiko Epson Corporation Display device and control method thereof
JP2014132305A (ja) * 2013-01-07 2014-07-17 Seiko Epson Corp 表示装置、および、表示装置の制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022153361A (ja) * 2020-12-04 2022-10-12 マクセル株式会社 映像装置
JP7397918B2 (ja) 2020-12-04 2023-12-13 マクセル株式会社 映像装置

Also Published As

Publication number Publication date
WO2016017130A1 (en) 2016-02-04
TW201617826A (zh) 2016-05-16
KR20170030632A (ko) 2017-03-17
CN106662921A (zh) 2017-05-10
EP3175334A4 (en) 2018-03-28
US20170168562A1 (en) 2017-06-15
JP6432197B2 (ja) 2018-12-05
EP3175334A1 (en) 2017-06-07

Similar Documents

Publication Publication Date Title
JP6344125B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
US9959591B2 (en) Display apparatus, method for controlling display apparatus, and program
US9898868B2 (en) Display device, method of controlling the same, and program
JP6432197B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6155622B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
US20160313973A1 (en) Display device, control method for display device, and computer program
US9972319B2 (en) Display device, method of controlling display device, and program having display of voice and other data
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016004340A (ja) 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
US20160035137A1 (en) Display device, method of controlling display device, and program
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016085350A (ja) 表示装置、及び、表示装置の制御方法
US20160021360A1 (en) Display device, method of controlling display device, and program
JP6364735B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
JP2016186561A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016033611A (ja) 情報提供システム、表示装置、および、表示装置の制御方法
JP6428024B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6394108B2 (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2016034091A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2016051102A (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP2016031373A (ja) 表示装置、表示方法、表示システム、及び、プログラム
JP2016212769A (ja) 表示装置、表示装置の制御方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181022

R150 Certificate of patent or registration of utility model

Ref document number: 6432197

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150