JP6380091B2 - 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム - Google Patents

頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム Download PDF

Info

Publication number
JP6380091B2
JP6380091B2 JP2014264142A JP2014264142A JP6380091B2 JP 6380091 B2 JP6380091 B2 JP 6380091B2 JP 2014264142 A JP2014264142 A JP 2014264142A JP 2014264142 A JP2014264142 A JP 2014264142A JP 6380091 B2 JP6380091 B2 JP 6380091B2
Authority
JP
Japan
Prior art keywords
image
function
unit
head
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014264142A
Other languages
English (en)
Other versions
JP2016126381A (ja
Inventor
薫 千代
薫 千代
嗣 鈴木
嗣 鈴木
総志 木村
総志 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014264142A priority Critical patent/JP6380091B2/ja
Priority to US14/963,907 priority patent/US10114604B2/en
Publication of JP2016126381A publication Critical patent/JP2016126381A/ja
Application granted granted Critical
Publication of JP6380091B2 publication Critical patent/JP6380091B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、頭部装着型表示装置の技術に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display)、HMD)が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイおよび光源を利用して画像光を生成し、生成された画像光を投写光学系や導光板を利用して使用者の眼に導くことにより、使用者に虚像を視認させる。頭部装着型表示装置には、使用者が虚像に加えて外景も視認可能な透過型と、使用者が外景を視認できない非透過型と、の2つのタイプがある。透過型の頭部装着型表示装置には、光学透過型とビデオ透過型とがある。
特許文献1には、発話の様式としての声の抑揚に応じて情報処理装置が行なう情報処理を切り替える技術が記載されている。また、特許文献2には、出力する音声の予告を示す制御信号を送信した後に、予告した音声の出力のタイミングを調整して音声を出力する電子機器が記載されている。また、特許文献3には、予め登録されたユーザーの発話の内容と、ユーザーの発話の内容に基づく応答の内容と、が記憶されたサーバーを有するシステムにおいて、特定されたユーザーの発話の内容にエージェントが登録された内容で応答する技術が開示されている。また、特許文献4には、家電機器を有するシステムネットワークにおいて、特定されたユーザーの発話に対応するように予め記憶された応答の内容をテキスト画像として表示させる技術が記載されている。
特開2012−215673号公報 特開2008−129412号公報 特開2002−132804号公報 特開2006−72992号公報
しかし、特許文献1に記載された技術では、声の抑揚のみで処理を変更する場合に、正しく声の抑揚が識別されないおそれがある。また、特許文献2,3に記載された技術では、ユーザーが意図した応答を得られないおそれがある。また、特許文献4に記載されたネットワークでは、文字画像が表示される画像表示部と実際の景色である外景とがユーザーに別々に視認され、文字画像と外景との関連性がないため、ネットワークの使い勝手の向上の余地があった。そのほか、従来の頭部装着型表示装置の技術では、その小型化や、低コスト化等が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
本発明の第1の形態は、
透過型の頭部装着型表示装置であって、
外部の音声を取得する音声取得部と、
取得された音声の内の特定の音声を識別する音声識別部と、
画像を表示可能であると共に外景を透過可能な画像表示部と、
前記頭部装着型表示装置が実行可能な機能を表す実行機能画像と、前記特定の音声に対応付けられている特定音声画像と、を記憶する画像記憶部と、
前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる表示画像設定部と、
取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する機能を実行する機能実行部と、
使用者の動作を検出する動作検出部と、を備え、
前記機能実行部は、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する、頭部装着型表示装置である。
本発明の第2の形態は、
画像を表示可能であると共に外景を透過可能な画像表示部と、頭部装着型表示装置が実行可能な機能を表す実行機能画像と特定の音声に対応付けられている特定音声画像とを記憶する画像記憶部と、を備える、透過型の頭部装着型表示装置の制御方法であって、
外部の音声を取得する工程と、
取得された音声の内の前記特定の音声を識別する工程と、
前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる工程と、
取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する機能を実行する工程と、
使用者の動作を検出する工程と、を備え、
前記機能を実行する工程において、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する、制御方法である。
本発明の第3の形態は、
画像を表示可能であると共に外景を透過可能な画像表示部と、頭部装着型表示装置が実行可能な機能を表す実行機能画像と特定の音声に対応付けられている特定音声画像とを記憶する画像記憶部と、を備える、透過型の頭部装着型表示装置のためのコンピュータープログラムであって、
外部の音声を取得する音声取得機能と、
取得された音声の内の前記特定の音声を識別する音声識別機能と、
前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる表示画像設定機能と、
取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する実行機能と、
使用者の動作を検出する動作検出機能と、をコンピューターに実現させる、コンピュータープログラムであって、
前記実行機能は、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する機能を含む、コンピュータープログラムである。また、本発明は以下の形態として実現することもできる。
(1)本発明の一形態によれば、透過型の頭部装着型表示装置が提供される。この形態の頭部装着型表示装置によれば、外部の音声を取得する音声取得部と;取得された音声の内の特定の音声を識別する音声識別部と;画像を表示可能であると共に前記外景を透過可能な画像表示部と;前記頭部装着型表示装置が実行可能な機能を表す実行機能画像と、前記特定の音声に対応付けられている特定音声画像と、を記憶する画像記憶部と;前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる表示画像設定部と;取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する機能実行部と、を備える。この形態の頭部装着型表示装置によれば、実行される機能の種類よりも少ない数の特定音声画像に対応する特定の音声によって、対応する処理が行なわれるため、音声識別の精度が向上する。また、特定音声画像の数が限定されるため、短いワードの音声による機能の実行が可能となり、頭部装着型表示装置の使い勝手が向上する。
(2)上記形態の頭部装着型表示装置において、前記表示画像設定部は、複数の前記組み合わせ画像を選択群画像として画像表示部に表示させてもよい。この形態の頭部装着型表示装置によれば、1つの表示画面で複数の機能を実行できる実行機能画像が画像表示部に表示され、使用者の使い勝手が向上する。
(3)上記形態の頭部装着型表示装置において、前記頭部装着型表示装置に実行される機能は、実行される機能に対応付けられた複数の機能を選択可能にする中間機能であり;前記表示画像設定部は、前記中間機能が実行された場合に、実行された前記中間機能に対応付けられた複数の機能を表す複数の前記実行機能画像と、前記複数の実行機能画像のそれぞれと前記特定音声画像とを組み合わせた前記組み合わせ画像を前記画像表示部に表示させてもよい。この形態の頭部装着型表示装置によれば、使用者の使い勝手がさらに向上する。
(4)上記形態の頭部装着型表示装置において、さらに;使用者の動作を検出する動作検出部を備え;前記機能実行部は、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択してもよい。この形態の頭部装着型表示装置によれば、実行される機能の決定において、音声のみでなく、使用者の動作も加えられるため、使用者は、感覚的に頭部装着型表示装置を操作しやすく、使用者の使い勝手が向上する。
(5)上記形態の頭部装着型表示装置において、前記動作検出部は、使用者の頭部の動きを検出してもよい。この形態の頭部装着型表示装置によれば、実行される機能の決定において、音声のみでなく、使用者の頭部の動きも加えられるため、使用者は、感覚的に頭部装着型表示装置を操作しやすく、使用者の使い勝手が向上する。
(6)上記形態の頭部装着型表示装置において、前記特定音声画像は、前記実行機能画像より前記画像表示部に表示される領域が小さい画像であってもよい。この形態の頭部装着型表示装置によれば、不要に画像表示部において機能の実行とは関係のない無駄な画像が表示されず、かつ、選択されると実行される機能の内容を使用者が認識しやすく、使用者の利便性が向上する。
(7)上記形態の頭部装着型表示装置において、前記特定音声画像は、方向を表す画像と、他の前記特定音声画像と異なる色で表される画像と、いずれか一方の画像であってよい。この形態の頭部装着型表示装置によれば、音声識別の精度をより向上させることができる。
(8)上記形態の頭部装着型表示装置において、前記画像表示部に異なる複数の前記組み合わせ画像が表示される場合に、前記複数の画像のそれぞれに組み合わされた特定音声画像のそれぞれは、実行される前記頭部装着型表示装置の機能と関係がなく、同一のカテゴリーに含まれる異なる単語で構成されてもよい。この形態の頭部装着型表示装置によれば、並列に画像表示部に表示された複数の実行機能画像から、間違って使用者が意図しない実行機能画像を選択することを防止できる。
(9)上記形態の頭部装着型表示装置において、さらに;他の装置と情報を送受信可能な通信部を備え;前記実行機能画像は、情報を送受信可能な前記他の装置が実行可能な機能を表す他装置制御画像を含み;前記機能実行部は、取得された前記特定の音声に対応付けられた前記特定音声画像が組み合わされた前記他装置制御画像が実行可能な機能を前記他の装置に実行させてもよい。この形態の頭部装着型表示装置によれば、使用者は、離れた位置に存在する頭部装着型表示装置以外の機能も行なうことができ、使用者の利便性が向上する。
(10)上記形態の頭部装着型表示装置において、前記表示画像設定部は、前記画像表示部が画像を表示可能な画像表示領域における中心を除く領域に前記組み合わせ画像を表示させてもよい。この形態の頭部装着型表示装置によれば、使用者の視野を不要に狭くせず、使用者の利便性が向上する。
(11)上記形態の頭部装着型表示装置において、前記機能実行部は、取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像が実行可能な機能を前記頭部装着型表示装置に実行させてもよい。この形態の頭部装着型表示装置によれば、実行される機能の種類よりも少ない数の特定音声画像に対応する特定の音声によって、頭部装着型表示装置が実行する機能の判断がされるため、音声識別の精度が向上する。
上述した本発明の各形態の有する複数の構成要素はすべてが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな他の構成要素との差し替え、限定内容の一部削除を行なうことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、音声取得部と、音声識別部と、画像表示部と、画像記憶部と、表示画像設定部と、機能実行部と、の6つの要素の内の一つまたは二つ以上を備えた装置として実現可能である。すなわち、この装置は、音声取得部を有していてもよく、有していなくてもよい。また、装置は、音声識別部を有していてもよく、有していなくてもよい。また、装置は、画像表示部を有していてもよく、有していなくてもよい。また、装置は、画像記憶部を有していてもよく、有していなくてもよい。この装置は、表示画像設定部を有していてもよく、有していなくてもよい。この装置は、機能実行部を有していてもよく、有していなくてもよい。音声取得部は、例えば、外部の音声を取得してもよい。音声識別部は、例えば、取得された音声の内の特定の音声を識別してもよい。画像表示部は、例えば、画像を表示可能であると共に前記外景を透過可能であってもよい。画像記憶部は、例えば、前記頭部装着型表示装置が実行可能な機能を表す実行機能画像と、前記特定の音声に対応付けられている特定音声画像と、を記憶してもよい。表示画像設定部は、例えば、前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させてもよい。機能実行部は、例えば、取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応させてもよい。こうした装置は、例えば、頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。このような形態によれば、装置の操作性の向上および簡易化、装置の一体化や、装置を使用する使用者の利便性の向上、等の種々の課題の少なくとも1つを解決することができる。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
本発明は、頭部装着型表示装置以外の種々の形態で実現することも可能である。例えば、頭部装着型表示装置の制御方法、頭部装着型表示装置を含むシステム、頭部装着型表示装置の制御方法およびシステムを実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体、および、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号等の形態で実現できる。
頭部装着型表示装置(HMD)の外観構成を示す説明図である。 HMDの構成を機能的に示すブロック図である。 画像記憶部に階層ごとに区別されたHMDが実行可能な機能の対応関係を概略図である。 画像光生成部によって画像光が射出される様子を示す説明図である。 機能実行処理のフローチャートである。 画像表示部にトリガー画像が表示されたときに使用者が視認する視野VRを示す説明図である。 トリガー画像に対応付けられた組み合わせ画像が表示されたときに使用者が視認する視野を示す説明図である。 第2階層に記憶された複数の機能のそれぞれに対応付けられた画像を含む選択群画像が表示されたときに使用者が視認する視野を示す説明図である。 第4階層に記憶された機能に対応付けられた実行機能画像を含む選択群画像が表示されたときに使用者が視認する視野を示す説明図である。 第2実施形態におけるHMDを含む情報システムの構成を示す説明図である。 第2実施形態におけるHMDの構成を機能的に示すブロック図である。 変形例における実行機能画像を表示させるための十字画像が表示されたときに使用者が視認する視野を示す説明図である。 変形例における十字画像の内の右方向が選択されたときに使用者が視認する視野を示す説明図である。 エラー画像が画像表示最大領域に表示されたときに使用者が視認する視野を示す説明図である。 変形例におけるHMDの外観構成を示す説明図である。
A.第1実施形態:
A−1.情報システムの構成:
図1は、頭部装着型表示装置100(HMD100)の外観構成を示す説明図である。HMD100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のHMD100は、使用者が虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、HMD100によって使用者が視認する虚像を便宜的に「表示画像」ともいう。
HMD100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、マイク63と、10軸センサー66と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
マイク63は、外部の音声を取得する。マイク63は、使用者が画像表示部20を装着した際の右表示駆動部22における使用者と対向する側の反対側(外側)に配置されている。10軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、および、気圧(1軸)を検出するセンサーである。
10軸センサー66は、画像表示部20における右表示駆動部22の近くに内蔵されており、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きや位置を検出する。なお、本実施形態では、使用者の頭部の向きを特定するために地磁気等も検出する10軸センサー66が用いられたが、他の実施形態では、10軸センサー66の代わりに、角速度(3軸)のみを検出するジャイロセンサーが用いられてもよい。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、HMD100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、トラックパッド14と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、HMD100の動作状態を、その発光状態によって通知する。HMD100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LEDが用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、HMD100の電源投入状態を切り替える。
図2は、HMD100の構成を機能的に示すブロック図である。図2に示すように、制御部10は、記憶部120と、電源130と、操作部135と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。操作部135は、使用者による操作を受け付け、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18、から構成されている。
電源130は、HMD100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、無線LANやブルートゥースといった所定の無線通信規格に則って、例えば、コンテンツサーバー、テレビ、パーソナルコンピューターといった他の機器との間で無線通信を行なう。
記憶部120は、コンピュータープログラムを格納しているROMと、CPU140が種々のコンピュータープログラムの書き込みおよび読み取りを実行するときに用いられるRAMと、画像記憶部122と、を有する。画像記憶部122は、HMD100が実行可能な機能を階層に区別して記憶すると共に機能のそれぞれに対応付けた画像も記憶している。画像記憶部122が階層に区別して記憶している機能の詳細については後述する。
CPU140は、記憶部120のROMに格納されているコンピュータープログラムを読み出し、記憶部120のRAMに書き込みおよび読み取りを実行することにより、オペレーティングシステム150(OS150)、表示制御部190、音声処理部170、画像処理部160、センサー制御部168、機能実行部169、および、画像設定部165として機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。なお、画像光を生成することを「画像を表示する」ともいう。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
画像処理部160は、コンテンツに含まれる画像信号を取得し、送信部51,52を介して、取得した画像信号を画像表示部20の受信部53,54へと送信する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。また、音声処理部170は、マイク63が取得した外部の音声に各種処理を行なうことで、音声を識別する。音声処理部170は、取得した音声を文字に変換できる。なお、音声処理部170は、請求項における音声識別部に相当し、音声処理部170およびマイク63は、請求項における音声取得部に相当する。
センサー制御部168は、10軸センサー66によって検出された角速度に基づいて、使用者の頭部の変化を検出する。なお、10軸センサー66およびセンサー制御部168は、請求項における動作検出部に相当する。
画像設定部165は、音声処理部170によって識別された音声と、検出された使用者の頭部の変化と、操作部135が受け付けた操作と、の少なくとも1つに基づいて、画像記憶部122に記憶された画像を画像表示部20に表示させる。なお、以降では、操作とは、特に限定しない限りにおいて、音声処理部170による音声識別と、検出された頭部の変化と、操作部135が受け付けた操作と、を含み、機能実行部169の実行のトリガーとなる全ての概念を含む。
機能実行部169は、画像表示部20によって画像が表示された後に、表示された画像に対応付けられた操作(音声識別等も含む)を受け付けると、受け付けた操作に対応するHMD100が実行可能な機能を、HMD100に実行させる。
図3は、画像記憶部122に階層ごとに区別されたHMD100が実行可能な機能の対応関係を概略図である。図3では、階層構造における記憶された機能の対応関係が示されている。図3には、HMD100が実行可能な機能の1つとして、外部の音声を記録する録音の機能を実行するまでの4つの階層に区別された機能の対応関係が示されている。また、機能のそれぞれには予め特定の画像が対応付けられている。本実施形態では、機能のそれぞれに対応付けられた画像として、当該画像が選択された場合に実行される機能を文字画像で表した画像が用いられるが、他の実施形態では文字画像以外の画像であってもよい。
機能実行部169が所定の操作を受け付けると、画像設定部165は、画像記憶部122の階層の内の最も上の階層である第1階層FR1に記憶された「Menu」の機能に対応付けられた画像を画像表示部20に表示させる。この場合に、画像設定部165は、「Menu」の画像に、取得された特定の音声である「アカ」に対応付けられた色の赤によって作成した画像を組み合わせる。「Menu」の画像と赤で作成された画像とを組み合わせた画像(例えば、図6,7)の詳細については、機能実行処理で後述する。
所定の操作が受け付けられることにより、第1階層FR1の「Menu」が選択されると、画像設定部165は、「Menu」に対応付けられて第2階層FR2に記憶された機能を表す画像を画像表示部20に表示させる。この場合に、画像設定部165は、選択されると下の階層に記憶されたフォルダー一覧を表示する「Folder」を、赤で作成された画像に組み合わせて、選択されるとマイク63が取得した外部の音声を記録する「Record」を青で作成された画像に組み合わせて、選択されると1つ上の階層に戻る「Back」を黄色で作成されたに組み合わせて、画像表示部20に表示させる。すなわち、機能実行部169は、「Menu」が選択されると、「Menu」に対応付けられた機能である1つ下の階層の第2階層FR2に記憶された機能を画像として画像表示部20に表示させる。なお、「Back」は、黄色で作成された画像に対応付けられると共に10軸センサー66によって検出される使用者の頭部の変化にも対応付けられている。「Back」は、10軸センサー66によって使用者の水平方向の首振りが検出された場合にも、「Back」に対応付けられた機能が実行される。本実施形態では、以上の3つの画像が画像表示部20に表示されるとしたが、別の画像が画像表示部20に表示されてもよいし、3つよりも少ない画像が表示されてもよい。図3では、第2階層FR2において、操作によって「Record」が選択された場合について示されている。なお、「Menu」や「Folder」などの画像は、請求項における実行機能画像に相当する。また、「アカ」や「アオ」の音声は、請求項における特定の音声に相当し、「Menu」の実行機能画像に組み合わされた赤で作成された画像や「Record」の実行機能画像に組み合わされ青で作成された画像は、請求項における特定音声画像に相当する。
第2階層FR2において、「Record」が選択されると、画像設定部165は、「Record」の機能である第2階層FR2の下の階層の第3階層FR3に記憶された機能を文字画像として画像表示部20に表示させる。この場合に、画像設定部165は、選択されると新規ファイルを作成する「New」の画像を赤で作成された画像に組み合わせて、選択されると以前に作成したファイルを選択する「Select」の画像を青で作成された画像に組み合わせて、「Back」の画像を黄色で作成された画像に組み合わせて、選択されると1番上の階層である第1階層FR1に戻る「Home」を緑で作成された画像に組み合わせて画像表示部20に表示させる。図3では、第3階層FR3において、「New」が選択された場合について示されている。
第3階層FR3において、「New」が選択されると、画像設定部165は、「New」の機能として、第3階層FR3の下の階層の第4階層FR4に記憶された機能を画像として画像表示部20に表示させる。この場合に、画像設定部165は、選択されると録音を開始する「Start」の画像を赤で作成された画像に組み合わせて、選択されると録音していた場合に録音を終了する「End」の画像を青で作成された画像に組み合わせて、「Back」の画像を黄色で作成された画像に組み合わせて、「Home」の画像を緑で作成された画像に組み合わせて画像表示部20に表示させる。以上説明したとおり、画像記憶部122に記憶された画像は、音声として短いワードである色に対応付けられているため、音声識別による選択の間違いが低減される。また、画像記憶部122に記憶された階層のそれぞれにおいて、同一の色に対応付けられた画像があるため、音声処理部170は、音声識別を行なう際に、取得した音声と予め登録された複数のワードとを比較しなくて済み、さらに、音声識別の精度が向上する。
図2に示すように、画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、マイク63、10軸センサー66と、を備えている。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL222)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図4は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図4に示すように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−2.機能実行処理:
図5は、機能実行処理のフローチャートである。機能実行処理は、受け付けた操作に基づいてCPU140がHMD100に搭載された機能を実行する処理である。特に、本実施形態では、実行される機能(例えば、録音)に対応付けられた音声(色の「赤」など)をマイク63が取得した場合に、取得した音声に対応付けられた特定音声画像に組み合わされた実行機能画像に対応する機能が機能実行部169によって行なわれる。そのため、本実施形態の機能実行処理では、制御部10が受け付けた操作をマイク63および音声処理部170によって識別された外部の音声に限定して説明するが、他の実施形態では、音声以外の操作に基づいて機能が実行されてもよい。
機能実行処理では、初めに、機能実行部169は、音声によって機能を実行するための所定の操作を受け付ける(ステップS11)。この所定の操作としては、操作部135に対しての手動の操作であってもよいし、音声処理部170が識別する音声としての何らかのワードの識別であってもよい。ステップS11の処理において、所定の操作が受け付けられなかった場合には(ステップS11:NO)、引き続き、機能実行部169は、所定の操作の受付を待機する(ステップS11)。所定の操作が受け付けられた場合には(ステップS11:YES)、機能実行部169は、画像設定部165によって、トリガー画像を画像表示部20に表示させる(ステップS13)。トリガー画像は、画像記憶部122の第1階層に記憶された「Menu」の機能に対応付けられた画像を元に作成される「Menu」の文字画像よりも表示領域が小さい画像である。トリガー画像は、元の「Menu」の画像の一部であってもよいし、画像記憶部122において、「Menu」の画像に対応付けられて記憶されたトリガー画像であってもよい。
図6は、画像表示部20にトリガー画像が表示されたときに使用者が視認する視野VRを示す説明図である。図6に示すように、使用者には、光学像表示部26,28を透過した外景SCと、画像表示部20が画像を表示できる最大の領域である画像表示最大領域PNに表示されたトリガー画像としての組み合わせ画像CI1と、が視認される。外景SCには、学校で講義を行なっている教師TEと、その講義を聞いている複数の生徒STと、教師TEがホワイトボートWBに書いた文字と、が含まれている。画像表示最大領域PNに表示された組み合わせ画像CI1は、画像IMG1とひも画像ch1とを含んでいる。画像IMG1は、画像記憶部122における第1階層FR1に記憶された「Menu」(図3)の機能に対応付けられた文字画像の一部であり、「M」の頭文字だけが画像表示最大領域PNに表示されている。ひも画像ch1は、「Menu」の画像に組み合わされた赤の色で作成された画像である。なお、図6および以降の図では、画像表示最大領域PNは、破線で示されているが、説明のために便宜上示しているのであり、使用者には視認されない。
トリガー画像が画像表示部20の画像表示最大領域PNに表示されると(図5のステップS13)、音声処理部170は、トリガー画像を選択する操作として設定された音声を取得する(ステップS15)。本実施形態では、トリガー画像を選択する音声としては、「メニュー」、「Menu」の頭文字である「エム」、「Menu」に対応付けられた色である「アカ(赤)」が設定されている。音声処理部170は、設定された音声を取得しなかった場合には(ステップS15:NO)、引き続き、設定された音声の取得を待機する(ステップS15)。設定された音声が取得された場合には(ステップS15:YES)、画像設定部165は、トリガー画像の画像IMG1に対応付けられ、画像記憶部122の第1階層FR1に記憶された機能の「Menu」の実行機能画像を含む組み合わせ画像CI2を画像表示最大領域PNに表示させる(ステップS17)。
図7は、トリガー画像に対応付けられた組み合わせ画像CI2が表示されたときに使用者が視認する視野VRを示す説明図である。図7に示すように、画像記憶部122の第1階層FR1に記憶された「Menu」が選択された場合に実行される機能を表す画像IMG2を含む組み合わせ画像CI2が画像表示最大領域PNに表示されている。組み合わせ画像CI2は、組み合わせ画像CI1と同様に、赤で表示されたひも画像ch1と、画像IMG2と、を含んでいる。なお、画像設定部165は、組み合わせ画像CI1,CI2などの画像を画像表示最大領域PNの中心部を除く領域に表示させる。本実施形態では、画像表示最大領域PNの中心部は、画像表示最大領域PNの縦と横とのそれぞれを3分割した計9分割の領域の内の真ん中の1つの領域の部分をいう。なお、画像表示最大領域PNにおける中心部の定義については、種々変形可能であり、本実施形態と異なる定義であってもよい。ひも画像ch1は、請求項における特定音声画像に相当する。
画像表示最大領域PNに第1階層FR1に記憶された「Menu」の機能を表す画像IMG2が表示されると(図5のステップS17)、音声処理部170は、画像IMG2を含む組み合わせ画像CI2を選択する音声の取得を待機する(ステップS19)。取得される音声は、ステップS13の処理で組み合わせ画像CI1が選択されるときと同じ音声である。組み合わせ画像CI2を選択する音声が取得されない場合には(ステップS19:NO)、画像設定部165は、組み合わせ画像CI2を画像表示最大領域PNに表示させてから予め定められた一定時間が経過しているか否かを判定する(ステップS21)。予め定められた一定時間がまだ経過していないと判定された場合には(ステップS21:NO)、音声処理部170は、引き続き、組み合わせ画像CI2を選択する音声の取得を待機する(ステップS19)。ステップS21の処理において、機能実行部169が組み合わせ画像CI2を画像表示最大領域PNに表示させてから一定時間が経過したと判定した場合には(ステップS21:YES)、画像設定部165は、組み合わせ画像CI2をトリガー画像である組み合わせ画像CI1に変更して画像表示最大領域PNに表示させる(ステップS13)。
ステップS19の処理において、画像IMG2を含む組み合わせ画像CI2を選択する音声が取得された場合には(ステップS19:YES)、機能実行部169は、画像IMG2が画像記憶部122に記憶された最下層の機能に対応付けられた実行機能画像であるか否かを判定する(ステップS23)。最下層に記憶された機能の実行機能画像が選択されると、機能実行部169は、画像記憶部122に記憶された階層間の表示画像の変更を画像設定部165にさせるのではなく、録音などの選択されたHMD100が実行可能な何らかの機能を実行させる。最下層に記憶された機能に対応付けれた実行機能画像としては、画像記憶部122の第4階層FR4に記憶された機能としての録音を開始するための「Start」や録音を終了するための「End」などが挙げられる。
ステップS23の処理において、選択された組み合わせ画像CI2は、最下層の機能に対応付けられた実行機能画像ではない画像IMG2を含む画像であるため(ステップS23:NO)、画像設定部165は、選択された組み合わせ画像CI2に含まれる画像IMG2に対応付けられた機能が実行された後に選択可能な機能に対応付けられた画像を画像表示最大領域PNに表示させる(ステップS25)。
図8は、第2階層FR2に記憶された複数の機能のそれぞれに対応付けられた画像を含む選択群画像IG1が表示されたときに使用者が視認する視野VRを示す説明図である。選択群画像とは、実行機能画像を2つ以上含む、すなわち、選択可能な複数の画像から構成される画像である。画像IMG2を含む組み合わせ画像CI2が選択された場合には、図8に示すように、画像IMG2に対応付けられた第2階層FR2に記憶された複数の機能のそれぞれに対応付けられた画像と当該画像に組み合わされた色を示す画像を含む選択群画像IG1が画像表示最大領域PNに表示されている。図8に示すように、選択群画像IG1には、「Folder」や「Record」といった同じ階層である第2階層FR2に記憶されている機能に対応付けられた選択可能な複数の実行機能画像と、複数の実行機能画像のそれぞれに組み合わされたひも画像と、を含む複数の組み合わせ画像から構成されている。複数の実行機能画像に組み合わされたそれぞれのひも画像は、異なる色として画像表示最大領域PNに表示されている。そのため、音声処理部170が選択群画像IG1に含まれる実行機能画像に組み合わされたひも画像に対応付けられた色を音声として識別すると、機能実行部169は、識別された色に組み合わされた実行機能画像に基づく機能を実行する。なお、選択群画像IG1,IG3を示す破線は、説明のために便宜上示しており、使用者には視認されない。
選択群画像IG1が画像表示最大領域PNに表示されると(図5のステップS25)、機能実行部169は、画像記憶部122に記憶された最下層の機能に対応付けられた実行機能画像が選択されるまで、ステップS19以降の処理を繰り返す。本実施形態では、第2階層FR2に記憶された複数の機能に対応付けられた実行機能画像を含む選択群画像IG1の内、録音の機能を実行するための実行機能画像である「Record」が選択され、「Record」の選択に基づいて、「Record」の組み合わせ画像を含む選択群画像IG1の1つ下の階層である第3階層FR3に記憶された複数の機能に対応付けられた実行機能画像を含む選択群画像IG2が画像表示最大領域PNに表示される。その後、表示された選択群画像IG2の中に含まれる実行機能画像として「New」(図3)が選択される。選択された「New」に基づいて、「New」の機能に対応付けられた実行機能画像を含む選択群画像IG2の1つ下の階層である第4階層FR4に記憶された複数の機能に対応付けられた実行機能画像を含む選択群画像IG3が画像表示最大領域PNに表示される。
図9は、第4階層FR4に記憶された機能に対応付けられた実行機能画像を含む選択群画像IG3が表示されたときに使用者が視認する視野VRを示す説明図である。選択群画像IG3には、画像記憶部122に記憶された最下層の機能に対応付けられた実行機能画像である「Start」の画像IMG3を含む組み合わせ画像CI3が含まれている。図5のステップS19の処理において、選択群画像IG3の中から組み合わせ画像CI3が選択されると(ステップS19:YES)、組み合わせ画像CI3に含まれる「Start」の画像IMG3は実行機能画像であるため(ステップS23:YES)、CPU140は、選択された実行機能画像である「Start」の画像IMG3に対応付けられている機能としての外部の音声の録音を実行し(ステップS27)、機能実行処理を終了する。
以上説明したように、本実施形態のHMD100では、画像設定部165が実行機能画像としての画像IMG1と、実行機能画像に組み合わされたひも画像ch1と、を含む組み合わせ画像CI1を画像表示部20の画像表示最大領域PNに表示させる。また、マイク63および音声処理部170がひも画像ch1に対応付けられた音声を取得した場合には、機能実行部169は、ひも画像ch1に組み合わされた画像IMG1に対応付けられた機能をHMD100に実行させる。すなわち、HMD100によって実行される機能は、画像表示部20に表示された画像IMG1に組み合わされたひも画像ch1に対応付けられた音声が取得されることで実行される。そのため、本実施形態のHMD100では、実行される機能の種類よりも少ない数のひも画像ch1に対応する音声によって、HMD100が実行する機能の判断がされるため、音声識別の精度が向上する。また、ひも画像ch1の数が限定されるため、短いワードの音声による機能の実行が可能となり、HMD100の使い勝手が向上する。
また、本実施形態のHMD100では、複数の組み合わせ画像を含む選択群画像IG1などが画像表示最大領域PNに表示されるため、1つの表示画面で複数の機能を実行できる実行機能画像が画像表示最大領域PNに表示され、使用者の使い勝手が向上する。
また、本実施形態のHMD100では、実行機能画像に対応付けられた機能として、画像記憶部122に記憶された下の階層の機能を文字画像で画像表示最大領域PNに複数の実行機能画像を一覧で表示するため、使用者の使い勝手がさらに向上する。
また、本実施形態のHMD100では、図7に示すように、組み合わせ画像CI1において、ひも画像ch1が画像表示最大領域PNに表示される領域の大きさは、実行機能画像である画像IMG2が画像表示最大領域PNに表示される領域の大きさよりも小さい。そのため、不要に画像表示最大領域PNにおいて機能の実行とは関係のない無駄な画像が表示されず、かつ、選択されると実行される機能の内容を使用者が認識しやすく、使用者の利便性が向上する。
また、本実施形態のHMD100では、画像IMG1などに対応付けられたひも画像ch1は、色に関連する画像であるため、音声識別の精度をより向上させることができる。
また、本実施形態のHMD100では、画像設定部165は、組み合わせ画像CI1を画像表示最大領域PNにおける中心を除く部分に表示させるため、使用者の視野を不要に狭くせず、使用者の利便性が向上する。
B.第2実施形態:
図10は、第2実施形態におけるHMD100aを含む情報システム500の構成を示す説明図である。図10に示すように、情報システム500は、HMD100aと、他の装置が実行可能な機能に対応付けられた実行機能画像を記憶する記憶部を有するサーバー300と、を有している。
図11は、第2実施形態におけるHMD100aの構成を機能的に示すブロック図である。図11に示すように、第2実施形態のHMD100aは、第1実施形態のHMD100と比較して、制御部10aが無線通信部132を有することと、制御部10aの記憶部120aが画像記憶部122を有しないことと、が異なり、他の構成については、第1実施形態のHMD100と同じである。無線通信部132は、無線LANやブルートゥース(登録商標)といった所定の無線通信方式に則って他の機器との間で無線通信を行なう。制御部10aは、第1実施形態の機能実行処理を行なう所定の操作受け付けると、無線通信部132を介して、サーバー300に記憶された他の装置が実行可能な機能に対応付けられた実行機能画像を取得する。その後、画像設定部165は、取得した実行機能画像のそれぞれに特定の音声(例えば「赤」)などに対応付けられた画像(例えば、ひも画像)を組み合わせた組み合わせ画像を画像表示最大領域PNに表示させる。機能実行部169は、画像表示最大領域PNに表示された画像と使用者から受け付けた操作とに基づいて、無線通信部132を介して、選択された実行機能画像に対応付けられた機能を、HMD100に接続された他の装置に実行させる。なお、無線通信部132は、請求項における通信部に相当する。情報システム500において、第2実施形態では、HMD100とサーバー300とが1つずつしか備えられていないが、他の実施形態では、複数のHMD100や複数のサーバー300が備えられていてもよい。
第2実施形態のHMD100aでは、機能実行部169は、無線通信部132を介して、HMD100a以外の装置の機能を実行させるため、使用者は、離れた位置に存在するHMD100a以外の機能も行なうことができ、使用者の利便性が向上する。
C.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
C−1.変形例1:
第1実施形態では、画像表示部20の画像表示最大領域PNに表示される組み合わせ画像や選択群画像の一例を挙げて説明したが、画像表示最大領域PNに表示される組み合わせ画像や選択群画像については、上記実施形態の態様に限られず、種々変形可能である。この変形例では、画像設定部165は、10軸センサー66およびセンサー制御部168によって検出された使用者の頭部の向きに応じて、選択群画像を画像表示最大領域PNに表示させ、表示された実行機能画像の内から1つの実行機能画像が選択される。選択画像群が画像表示最大領域PNに表示された状態で、機能実行部169は、音声による1つの実行機能画像を選択する操作を受け付けたときに、選択された実行機能画像に対応付けられたHMD100の機能を実行する。
図12は、変形例における実行機能画像を表示させるための十字画像CSが表示されたときに使用者が視認する視野VRを示す説明図である。図12には、第1実施形態の図9に示された選択群画像IG3が画像表示最大領域PNに表示される前に、画像表示最大領域PNに表示される十字画像CSが示されている。図12に示すように、十字画像CSは、上下左右のそれぞれの方向を向いた4つの矢印から構成される画像である。センサー制御部168は、10軸センサー66によって、検出された使用者の頭部の向きの変化が所定の値以上の場合に、上下左右のいずれかに変化したとして検出する。
図13は、変形例における十字画像CSの内の右方向が選択されたときに使用者が視認する視野VRを示す説明図である。センサー制御部168が使用者の頭部の向きが右に変化した(右に首を振った)と判定された場合には、画像設定部165は、十字画像CSに加えて、十字画像CSの右に対応付けられた選択群画像IG3を画像表示最大領域PNに表示させる。この場合に、機能実行部169は、選択群画像IG3に含まれるいずれかの組み合わせ画像を選択する音声が取得されると、取得された音声の実行機能画像に対応する機能を実行させる。この変形例では、10軸センサー66およびセンサー制御部168によって検出された使用者の頭部の向きと、マイク63および音声処理部170によって取得された音声と、に基づいて、機能実行部169が所定の機能をHMD100に実行させる。そのため、この変形例のHMD100では、実行される機能の決定において、音声のみでなく、使用者の頭部の動きも加えられるため、使用者は、感覚的にHMD100を操作しやすく、使用者の使い勝手が向上する。
また、上記実施形態および変形例では、検出された使用者の頭部の向きと識別された音声とに基づいて、各種機能が実行されたが、検出される使用者の動作としては、頭部の向きに限られず、種々変形可能である。例えば、腕や足に装着されたジャイロセンサーなどによって使用者の動作が検出されてもよいし、使用者が装着する時計や筆記時に持つペンなどに内蔵されたジャイロセンサー等と関連付けられて機能実行部169が各種機能をHMD100に実行させてもよい。
C−2.変形例2:
上記実施形態では、画像IMG1などに対応付けられたひも画像ch1として、「赤」や「青」といった色が採用されたが、ひも画像ch1については、種々変形可能である。例えば、ひも画像ch1の代わりに、「ライオン」や「鳥」といった動物の画像が画像IMG1などに付加されて画像表示最大領域PNに表示されてもよい。これらの付加される画像は、誤認識を防止する観点から、日常的な会話に登場しないワードを選択することが好ましい。例えば、機械の組み立てなどを行なう工場では、機械に関係のない動物に関連したワードなどが好ましい。
また、複数の実行機能画像から1つの実行機能画像を選択するという観点から、複数の実行機能画像のそれぞれに対応付けられる画像は、動物や色といった同じカテゴリーの中から選択される画像であることが好ましい。この場合には、並列に画像表示最大領域PNに表示された複数の実行機能画像から、間違って使用者が意図しない実行機能画像を選択することを防止できる。
また、上記第1実施形態では、画像表示最大領域PNにおいて、組み合わせ画像CI2が表示される前に、トリガー画像としての組み合わせ画像CI1が表示されたが、トリガー画像は必ずしも表示される必要はない。また、第1階層FR1以外の階層(例えば第2階層FR2)などにおける選択群画像IG1などが画像表示最大領域PNに表示された場合に、所定の時間が経過すると、選択群画像IG1の一部に対応するトリガー画像に画像表示最大領域PNに表示されてもよい。また、トリガー画像は、ひも画像ch1だけであり、実行機能画像である画像IMG1などが画像表示最大領域PNに表示されてなくもよい。
画像設定部165は、音声が正しく識別されなかった場合に、その旨を使用者に視認させるエラー画像を画像表示最大領域PNに表示させてもよい。図14は、エラー画像Erが画像表示最大領域PNに表示されたときに使用者が視認する視野VRを示す説明図である。図14には、上記実施形態の図9に対して、音声処理部170によって正しく音声識別が行なわれずに、音声識別エラーを示す文字画像であるエラー画像Erが画像表示最大領域PNに表示された状態が示されている。例えば、「アカ」の音声と識別されると、音声処理部170は、「赤」の色として識別するが、「アラ」や「サカ」のように、2文字の内の一方のみが違う場合には、音声識別エラーとして検出する。エラーが検出されると、画像設定部165は、エラー画像Erを画像表示最大領域PNに表示させる。音声処理部170は、識別すべきワードの内の半分未満が違う場合に音声識別エラーとして検出することが好ましいが、この数字に限られず、例えば、80%が違う場合に音声識別エラーとして検出してもよい。
C−3.変形例3:
上記実施形態では、組み合わせ画像CI2などの複数の組み合わせ画像が1つの選択群画像IG1のように画像表示最大領域PNに表示されたが、必ずしも複数の組み合わせ画像がまとめて選択群画像IG2のように画像表示最大領域PNに表示されなくてもよい。例えば、1秒ごとに、画像表示最大領域PNに表示される実行機能画像が順々に変化してもよい。
上記実施形態では、画像記憶部122が階層構造を有していたが、必ずしも階層構造を有している必要はない。例えば、画像記憶部122は、1つの階層に、HMD100が実行可能な機能に対応付けられた複数の実行機能画像を記憶してもよい。また、使用者によって、選択された機能および実行機能画像のみが画像記憶部122に記憶されていてもよい。
上記実施形態では、HMD100が、10軸センサー66およびセンサー制御部168、無線通信部132を構成として備えていたが、必ずしも備えている必要はない。10軸センサー66およびセンサー制御部168によって、必ずしも使用者の動作が検出されなくてもよく、無線通信部132によって、必ずしも他の装置と情報の送受信が行なわれてなくてもよい。
上記実施形態では、組み合わせ画像CI2などが画像表示最大領域PNの中心を除く領域に表示されたが、組み合わせ画像CI2が表示される領域については、種々変形可能である。例えば、目立つように画像表示最大領域PNの中心に組み合わせ画像CI2が表示されてもよいし、検出された使用者の頭部の向きに応じて、画像表示最大領域PNにおける組み合わせ画像CI2が表示される位置が異なっていてもよい。また、組み合わせ画像CI1の内容に応じて、重要性の高い画像のみが画像表示最大領域PNの中心に表示されてもよい。
また、撮像画像に撮像される対象に合わせて、画像設定部165は、画像表示最大領域PNに表示させる画像の大きさや位置の設定を行なってもよい。例えば、撮像画像に含まれる対象までの距離が特定され、距離の大小に応じて、画像設定部165は、画像表示最大領域PNに表示させる文字画像のフォントの大きさを変更してもよい。撮像画像の対象までの距離を測定する方法としては、ステレオカメラによって、2つのカメラの位置と、2つのカメラによって撮像された撮像画像における対象の位置と、に基づいて、2つのカメラに対する対象までの距離を測定してもよい。また、TOFセンサーや赤外線センサーなどによって、画像表示部20から対象までの距離が測定されてもよい。また、自動車等の対象の画像が予め記憶されている場合には、予め記憶された画像と撮像された画像との大きさや向きを比較することで、対象までの距離や位置関係が測定されてもよい。
また、画像設定部165は、撮像された対象に基づく画像を画像表示最大領域PNに表示させてもよい。例えば、HMD100の使用者が物理学などの特定の講義を受講している場合に、講義で使用される専門用語や特殊な図形等が予め登録されており、撮像画像からそれらの専門用語などが検出されると、画像設定部165は、検出された専門用語などの位置に合わせて、専門用語の説明を表示させることができるアイコンを画像表示最大領域PNに表示させてもよい。例えば、画像設定部165は、検出された専門用語の付近に「詳細説明」の文字画像を含むアイコンを赤色などで表示させ、「赤」の音声が取得されると、検出された専門用語に対応付けられて予め記憶された説明文を画像表示最大領域PNに表示させてもよい。また、画像設定部165は、「詳細説明」のアイコンの画像の大きさも、撮像画像の中から検出された専門用語の画像の大きさに対応させて、適宜変更して画像表示最大領域PNに表示させてもよい。以上説明したように、撮像画像の中から検出された対象の画像との距離や位置などの関係によって、画像設定部165は、画像表示最大領域PNに表示させる画像の種類や画像の大きさや画像の位置を適宜設定してもよい。
C−4.変形例4:
上記実施形態では、制御部10に操作部135が形成されたが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者の操作性が向上する。また、制御部10の構成するCPU140や電源130が画像表示部20に全て搭載されたHMD100であってもよい。このHMD100では、画像表示部20と別体で構成されるコントローラーがないため、より小型化できる。また、制御部10と画像表示部20とのそれぞれに、CPU140が搭載されることで、制御部10がコントローラー単体として使用され、画像表示部20が表示装置単体として使用されてもよい。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像光生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のHMD100に対して本発明を適用することも可能である。
また、例えば、HMD100は、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、HMD100は、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。また、HMD100は、両眼タイプの光学透過型であるとしているが、本発明は、例えば、ビデオ透過型といった他の形式の頭部装着型表示装置にも同様に適用可能である。
また、HMD100は、他の装置から受信した画像信号に基づく画像を表示するためだけの表示装置と用いられてもよい。具体的には、デスクトップ型のPCのモニターに相当する表示装置として用いられ、例えば、デスクトップ型のPCから画像信号を受信することで、画像表示部20の画像表示最大領域PNに画像が表示されてもよい。
また、HMD100は、システムの一部として機能するように用いられてもよい。例えば、航空機を含むシステムの一部の機能を実行するための装置としてHMD100が用いられてもよいし、HMD100が用いられるシステムとしては、航空機を含むシステムに限られず、自動車や自転車など含むシステムであってもよい。
また、イヤホンは耳掛け型やヘッドバンド型が採用されてもよく、省略してもよい。また、例えば、自動車や飛行機等の車両に搭載される頭部装着型表示装置として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵された頭部装着型表示装置として構成されてもよい。
C−5.変形例5:
上記実施形態におけるHMD100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16を省略したり、方向キー16やトラックパッド14に加えて、操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、イヤホン32,34は、適宜省略可能である。
図15は、変形例におけるHMDの外観構成を示す説明図である。図15(A)の例の場合、図1に示したHMD100との違いは、画像表示部20xが、右光学像表示部26に代えて右光学像表示部26xを備える点と、左光学像表示部28に代えて左光学像表示部28xを備える点とである。右光学像表示部26xは、上記実施形態の光学部材よりも小さく形成され、HMD100xの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28xは、上記実施形態の光学部材よりも小さく形成され、HMD100xの装着時における使用者の左眼の斜め上に配置されている。図15(B)の例の場合、図1に示したHMD100との違いは、画像表示部20yが、右光学像表示部26に代えて右光学像表示部26yを備える点と、左光学像表示部28に代えて左光学像表示部28yを備える点とである。右光学像表示部26yは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28yは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のHMD100として実現できる。
また、上記実施形態において、HMD100は、使用者の左右の眼に同じ画像を表わす画像光を導いて使用者に二次元画像を視認させるとしてもよいし、使用者の左右の眼に異なる画像を表わす画像光を導いて使用者に三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図1および図4に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
11…決定キー
12…点灯部
13…表示切替キー
14…トラックパッド
15…輝度切替キー
16…方向キー
17…メニューキー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51,52…送信部
53,54…受信部
63…マイク(音声取得部)
66…10軸センサー(動作検出部)
100…HMD
120…記憶部
122…画像記憶部(画像記憶部)
130…電源
132…無線通信部(通信部)
135…操作部
140…CPU
150…オペレーティングシステム
160…画像処理部
165…画像設定部(表示画像設定部)
168…センサー制御部(動作検出部)
169…機能実行部(機能実行部)
170…音声処理部(音声取得部、音声識別部)
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…サーバー
500…情報システム
PCLK…クロック信号
VSync…垂直同期信号
HSync…水平同期信号
IMG1,IMG2,IMG3…画像
WB…ホワイトボート
SC…外景
RE…右眼
LE…左眼
TE…教師
IL…照明光
PL…画像光
PN…画像表示最大領域
AP…先端部
VR…視野
CS…十字画像
ST…生徒
IG1,IG2,IG3…選択群画像(選択群画像)
CI1,CI2,CI3…組み合わせ画像(組み合わせ画像)
FR1…第1階層
FR2…第2階層
FR3…第3階層
FR4…第4階層
ch1…ひも画像(特定音声画像)

Claims (11)

  1. 透過型の頭部装着型表示装置であって、
    外部の音声を取得する音声取得部と、
    取得された音声の内の特定の音声を識別する音声識別部と、
    画像を表示可能であると共に外景を透過可能な画像表示部と、
    前記頭部装着型表示装置が実行可能な機能を表す実行機能画像と、前記特定の音声に対応付けられている特定音声画像と、を記憶する画像記憶部と、
    前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる表示画像設定部と、
    取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する機能を実行する機能実行部と、
    使用者の動作を検出する動作検出部と、を備え
    前記機能実行部は、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する、頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、
    前記表示画像設定部は、複数の前記組み合わせ画像を選択群画像として画像表示部に表示させる、頭部装着型表示装置。
  3. 請求項1または請求項2に記載の頭部装着型表示装置であって、
    前記頭部装着型表示装置に実行される機能は、実行される機能に対応付けられた複数の機能を選択可能にする中間機能であり、
    前記表示画像設定部は、前記中間機能が実行された場合に、実行された前記中間機能に対応付けられた複数の機能を表す複数の前記実行機能画像と、前記複数の実行機能画像のそれぞれと前記特定音声画像とを組み合わせた前記組み合わせ画像を前記画像表示部に表示させる、頭部装着型表示装置。
  4. 請求項1から請求項3までのいずれか一項に記載の頭部装着型表示装置であって、
    前記動作検出部は、使用者の頭部の動きを検出する、頭部装着型表示装置。
  5. 請求項1から請求項までのいずれか一項に記載の頭部装着型表示装置であって、
    前記特定音声画像は、前記実行機能画像より前記画像表示部に表示される領域が小さい画像である、頭部装着型表示装置。
  6. 請求項1から請求項までのいずれか一項に記載の頭部装着型表示装置であって、
    前記画像表示部に異なる複数の前記組み合わせ画像が表示される場合に、前記複数の画像のそれぞれに組み合わされた前記特定音声画像のそれぞれは、実行される前記頭部装着型表示装置の機能と関係がなく、同一のカテゴリーに含まれる異なる画像で構成される、頭部装着型表示装置。
  7. 請求項1から請求項までのいずれか一項に記載の頭部装着型表示装置であって、さらに、
    他の装置と情報を送受信可能な通信部を備え、
    前記実行機能画像は、情報を送受信可能な前記他の装置が実行可能な機能を表す他装置制御画像を含み、
    前記機能実行部は、取得された前記特定の音声に対応付けられた前記特定音声画像が組み合わされた前記他装置制御画像が実行可能な機能を前記他の装置に実行させる、頭部装着型表示装置。
  8. 請求項1から請求項までのいずれか一項に記載の頭部装着型表示装置であって、
    前記表示画像設定部は、前記画像表示部が画像を表示可能な画像表示領域における中心を除く領域に前記組み合わせ画像を表示させる、頭部装着型表示装置。
  9. 請求項1から請求項までのいずれか一項に記載の頭部装着型表示装置であって、
    前記機能実行部は、取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像が実行可能な機能を前記頭部装着型表示装置に実行させる、頭部装着型表示装置。
  10. 画像を表示可能であると共に外景を透過可能な画像表示部と、頭部装着型表示装置が実行可能な機能を表す実行機能画像と特定の音声に対応付けられている特定音声画像とを記憶する画像記憶部と、を備える、透過型の頭部装着型表示装置の制御方法であって、
    外部の音声を取得する工程と、
    取得された音声の内の前記特定の音声を識別する工程と、
    前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる工程と、
    取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する機能を実行する工程と、
    使用者の動作を検出する工程と、を備え
    前記機能を実行する工程において、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する、制御方法。
  11. 画像を表示可能であると共に外景を透過可能な画像表示部と、頭部装着型表示装置が実行可能な機能を表す実行機能画像と特定の音声に対応付けられている特定音声画像とを記憶する画像記憶部と、を備える、透過型の頭部装着型表示装置のためのコンピュータープログラムであって、
    外部の音声を取得する音声取得機能と、
    取得された音声の内の前記特定の音声を識別する音声識別機能と、
    前記実行機能画像と前記特定音声画像とを組み合わせた組み合わせ画像を前記画像表示部に表示させる表示画像設定機能と、
    取得された前記特定の音声に対応付けられた前記特定音声画像と組み合わされた前記実行機能画像に対応する実行機能と、
    使用者の動作を検出する動作検出機能と、をコンピューターに実現させる、コンピュータープログラムであって、
    前記実行機能は、検出された使用者の動作と取得された前記特定の音声との組み合わせに基づいて、前記画像表示部に表示された前記実行機能画像を選択する機能を含む、コンピュータープログラム
JP2014264142A 2014-12-26 2014-12-26 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム Active JP6380091B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014264142A JP6380091B2 (ja) 2014-12-26 2014-12-26 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
US14/963,907 US10114604B2 (en) 2014-12-26 2015-12-09 Head-mounted display device, control method for head-mounted display device, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014264142A JP6380091B2 (ja) 2014-12-26 2014-12-26 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム

Publications (2)

Publication Number Publication Date
JP2016126381A JP2016126381A (ja) 2016-07-11
JP6380091B2 true JP6380091B2 (ja) 2018-08-29

Family

ID=56164238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014264142A Active JP6380091B2 (ja) 2014-12-26 2014-12-26 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム

Country Status (2)

Country Link
US (1) US10114604B2 (ja)
JP (1) JP6380091B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018049622A1 (zh) * 2016-09-14 2018-03-22 深圳市柔宇科技有限公司 头戴显示设备及其眼罩
JP6932917B2 (ja) * 2016-11-30 2021-09-08 セイコーエプソン株式会社 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
US11507216B2 (en) 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications
US11099716B2 (en) 2016-12-23 2021-08-24 Realwear, Inc. Context based content navigation for wearable display
US10620910B2 (en) 2016-12-23 2020-04-14 Realwear, Inc. Hands-free navigation of touch-based operating systems
JP2018189711A (ja) * 2017-04-28 2018-11-29 蔡清來 拡張現実のスマートグラス
US10551614B2 (en) * 2017-08-14 2020-02-04 Facebook Technologies, Llc Camera assembly with programmable diffractive optical element for depth sensing
US10586342B2 (en) 2017-08-31 2020-03-10 Facebook Technologies, Llc Shifting diffractive optical element for adjustable depth sensing resolution
US11906741B2 (en) * 2018-11-06 2024-02-20 Nec Corporation Display control device, display control method, and non-transitory computer-readable medium storing program
US11297285B2 (en) * 2020-03-27 2022-04-05 Sean Solon Pierce Dental and medical loupe system for lighting control, streaming, and augmented reality assisted procedures
EP4202531A4 (en) * 2020-11-24 2024-03-20 Samsung Electronics Co., Ltd. WEARABLE ELECTRONIC DEVICE WITH AUGMENTED REALITY INCLUDING A CAMERA

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002132804A (ja) 2000-10-24 2002-05-10 Sanyo Electric Co Ltd ユーザ支援システム
US6791529B2 (en) 2001-12-13 2004-09-14 Koninklijke Philips Electronics N.V. UI with graphics-assisted voice control system
JP2004233909A (ja) * 2003-01-31 2004-08-19 Nikon Corp ヘッドマウントディスプレイ
US20060036970A1 (en) 2004-08-16 2006-02-16 Charles Rich System for configuring and controlling home appliances
WO2006090402A1 (en) * 2005-02-23 2006-08-31 Hewlett-Packard Development Company, L.P. System and method of voice communication with machines
JP4471128B2 (ja) 2006-11-22 2010-06-02 セイコーエプソン株式会社 半導体集積回路装置、電子機器
CN102037245B (zh) 2008-05-21 2013-12-25 开利公司 用于将液体注入螺杆式压缩机以抑制噪声的方法和系统
JP4824793B2 (ja) 2009-07-06 2011-11-30 東芝テック株式会社 ウエアラブル端末装置及びプログラム
US9122307B2 (en) * 2010-09-20 2015-09-01 Kopin Corporation Advanced remote control of host application using motion and voice commands
JP5629890B2 (ja) * 2011-03-30 2014-11-26 日立マクセル株式会社 ネットスーパーシステムにおける画面表示方法
JP2012215673A (ja) 2011-03-31 2012-11-08 Toshiba Corp 音声処理装置、及び音声処理方法
JP6015223B2 (ja) * 2012-08-09 2016-10-26 株式会社ニコン 電子機器、及び表示装置
WO2014129105A1 (ja) * 2013-02-22 2014-08-28 ソニー株式会社 ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ及びヘッドマウントディスプレイ制御プログラム
WO2016017997A1 (en) * 2014-07-31 2016-02-04 Samsung Electronics Co., Ltd. Wearable glasses and method of providing content using the same

Also Published As

Publication number Publication date
JP2016126381A (ja) 2016-07-11
US20160188283A1 (en) 2016-06-30
US10114604B2 (en) 2018-10-30

Similar Documents

Publication Publication Date Title
JP6380091B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6155622B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
US9542958B2 (en) Display device, head-mount type display device, method of controlling display device, and method of controlling head-mount type display device
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6572600B2 (ja) 情報処理装置、情報処理装置の制御方法、および、コンピュータープログラム
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6488786B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6492673B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
JP6379572B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016004340A (ja) 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
CN107077363B (zh) 信息处理装置、控制信息处理装置的方法、记录介质
JP6432197B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016033757A (ja) 表示装置、表示装置の制御方法、および、プログラム
US20160021360A1 (en) Display device, method of controlling display device, and program
JP6364735B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
JP2016091348A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2015019274A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6582374B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP2017037212A (ja) 音声認識装置、制御方法、及び、コンピュータープログラム
JP6467922B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、情報システム、および、コンピュータープログラム
JP2016109710A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6451222B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2016142966A (ja) 頭部装着型表示装置、情報処理装置、画像表示装置、画像表示システム、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム
JP6394174B2 (ja) 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180417

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180716

R150 Certificate of patent or registration of utility model

Ref document number: 6380091

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150