JP2019129366A - 頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 - Google Patents
頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 Download PDFInfo
- Publication number
- JP2019129366A JP2019129366A JP2018008628A JP2018008628A JP2019129366A JP 2019129366 A JP2019129366 A JP 2019129366A JP 2018008628 A JP2018008628 A JP 2018008628A JP 2018008628 A JP2018008628 A JP 2018008628A JP 2019129366 A JP2019129366 A JP 2019129366A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- audio
- audio signal
- display
- head
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
- H04R1/1041—Mechanical or electronic switches, or control elements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
- H04R1/1016—Earpieces of the intra-aural type
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
- H04R1/1058—Manufacture or assembly
- H04R1/1066—Constructional aspects of the interconnection between earpiece and earpiece support
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/033—Headphones for stereophonic communication
- H04R5/0335—Earpiece support, e.g. headbands or neckrests
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
- H04R1/105—Earpiece supports, e.g. ear hooks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
- H04R2499/10—General applications
- H04R2499/15—Transducers incorporated in visual displaying devices, e.g. televisions, computer displays, laptops
Abstract
【課題】頭部装着型表示装置の使い勝手を向上させる。【解決手段】使用者Uの頭部に装着され、画像を表示する画像表示部20と、使用者Uの左右の耳に装着され、左耳用の左チャンネルと右耳用の右チャンネルの音声信号に基づいて音声を出力する右イヤホン32及び左イヤホン34と、音声信号を受信する第2通信部117と、画像表示部20による表示画像に関連する音声の音声信号、及び第2通信部117で受信した音声信号を左チャンネル、及び右チャンネルにそれぞれ割り当てて、音声として出力させる制御部150と、を備えるHMD100。【選択図】図4
Description
本発明は、頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法に関する。
従来、使用者の頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display)が知られている。
特許文献1は、第1のデバイス及び第2のデバイスに接続されたコントローラーを開示する。コントローラーは、無線技術によって生成された2つの信号を混合信号に統合し、統合した混合信号を第1のデバイスと第2のデバイスの間で伝送するように構成される。
ところで、頭部装着型表示装置は、種々のケースで使用されるようになってきた。使用ケースによっては、頭部装着型表示装置に、複数の音声信号を再生させることで使用者の使い勝手が向上する場面がある。
本発明は、頭部装着型表示装置の使い勝手を向上させることを目的とする。
本発明は、頭部装着型表示装置の使い勝手を向上させることを目的とする。
上記課題を解決するため、本発明は、使用者の頭部に装着され、画像を表示する表示部と、右チャネルと左チャネルとに音声を出力する音声出力部と、音声信号を受信する通信部と、前記表示部による表示画像に関連する音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当てて出力させる制御部と、を備える。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
また、本発明は、音声信号を伴う表示用のコンテンツデータを取得する取得部を備え、前記制御部は、前記取得部により取得された前記コンテンツデータに基づく画像を前記表示部により表示させ、前記コンテンツデータの前記音声信号に基づく音声、及び前記通信部で受信した音声信号に基づく音声を前記音声出力部により出力させる。
この構成によれば、コンテンツデータに基づく画像を表示部により表示させながら、コンテンツデータの音声信号に基づく音声と、通信部で受信した音声信号に基づく音声とを音声出力部から出力することができる。
この構成によれば、コンテンツデータに基づく画像を表示部により表示させながら、コンテンツデータの音声信号に基づく音声と、通信部で受信した音声信号に基づく音声とを音声出力部から出力することができる。
また、本発明は、前記音声出力部により出力される音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付けるユーザーインターフェイス部を備え、前記制御部は、前記ユーザーインターフェイス部により受け付けた指示に従って前記音声出力部により出力させる音声信号のボリューム変更又はミュートを実行させる。
この構成によれば、ユーザーインターフェイスの操作により、音声出力部により出力される音声信号のボリュームを変更又はミュートすることができる。
この構成によれば、ユーザーインターフェイスの操作により、音声出力部により出力される音声信号のボリュームを変更又はミュートすることができる。
また、本発明は、前記ユーザーインターフェイス部は、前記音声出力部のチャネルごとに、音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付ける。
この構成によれば、音声出力部のチャネルごとに、音声信号のボリュームの変更、又は音声信号をミュートすることができる。
この構成によれば、音声出力部のチャネルごとに、音声信号のボリュームの変更、又は音声信号をミュートすることができる。
また、本発明は、前記制御部は、前記コンテンツデータの前記音声信号に基づく音声を右チャネル及び左チャネルのうちのいずれか一方のチャネルから出力させ、前記通信部で受信した音声信号に基づく音声を、右チャネル及び左チャネルのうちの他方のチャネルから出力させる第1音声モードと、前記コンテンツデータの前記音声信号に基づく音声、及び前記通信部で受信した音声信号に基づく音声のいずれか一方を、右チャネル及び左チャネルから出力させる第2音声モードと、を切替可能であり、前記ユーザーインターフェイス部は、前記第1音声モードでは前記音声出力部のチャネルごとに前記指示を受け付け、前記第2音声モードでは音声信号を出力中のチャネルについて前記指示を受け付ける。
この構成によれば、音声モードを変更することで、ボリュームの変更又はミュートを設定可能なチャネルを変更することができる。
この構成によれば、音声モードを変更することで、ボリュームの変更又はミュートを設定可能なチャネルを変更することができる。
また、本発明は、 前記ユーザーインターフェイス部は、前記表示部が表示する画像を含むグラフィカルユーザーインターフェイスで構成される。
この構成によれば、表示部が表示する画像を視認しながら操作を行うことができるので、操作をより簡易に行うことができる。
この構成によれば、表示部が表示する画像を視認しながら操作を行うことができるので、操作をより簡易に行うことができる。
また、本発明は、前記ユーザーインターフェイス部は、操作を受け付ける操作部を含み、前記操作部に対する接触、加圧、或いは衝撃のいずれかを含む操作により音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付ける。
この構成によれば、操作部に対する接触、加圧、或いは衝撃のいずれかの操作により音声信号のボリュームの変更の指示及びミュートの指示を行うことができる。
この構成によれば、操作部に対する接触、加圧、或いは衝撃のいずれかの操作により音声信号のボリュームの変更の指示及びミュートの指示を行うことができる。
また、本発明は、前記表示部は、外景を透過する表示領域に画像を表示する透過型の表示部である。
この構成によれば、外景を透過する表示領域に表示された画像を視認しながら、音声出力部により出力される音声信号のボリュームを変更する操作や、音声信号をミュートする操作を行うことができる。
この構成によれば、外景を透過する表示領域に表示された画像を視認しながら、音声出力部により出力される音声信号のボリュームを変更する操作や、音声信号をミュートする操作を行うことができる。
また、本発明は、前記制御部は、前記通信部で受信した音声信号に基づく音声に対応するテキストを前記表示部に表示させる。
この構成によれば、音声信号に対応したテキストを表示部により表示させることができる。このため、音声信号が聞きにくい場所では、テキストにより音声の内容を把握することができる。
この構成によれば、音声信号に対応したテキストを表示部により表示させることができる。このため、音声信号が聞きにくい場所では、テキストにより音声の内容を把握することができる。
また、本発明は、前記制御部は、前記通信部で受信した音声信号に基づく音声の出力状態を変化させる場合に、前記表示部に表示させる前記テキストの表示状態を変化させる。
この構成によれば、音声信号の出力状態を変化させる場合に、表示部に表示させるテキストの表示状態が変化する。このため、テキストの表示状態により音声信号の出力状態の変化を認識させることができる。
この構成によれば、音声信号の出力状態を変化させる場合に、表示部に表示させるテキストの表示状態が変化する。このため、テキストの表示状態により音声信号の出力状態の変化を認識させることができる。
また、本発明は、前記通信部は無線通信により前記音声信号を受信する。
この構成によれば、音声信号を無線通信により受信することができる。従って、音声信号を受信するために頭部装着型表示装置を有線で接続する必要がなくなり、音声信号を受信可能な範囲を、有線による接続の場合と比較して広げることができる。
この構成によれば、音声信号を無線通信により受信することができる。従って、音声信号を受信するために頭部装着型表示装置を有線で接続する必要がなくなり、音声信号を受信可能な範囲を、有線による接続の場合と比較して広げることができる。
上記課題を解決するため、本発明は、音声信号を送信する送信装置と、前記送信装置が送信する音声信号を受信する頭部装着型表示装置とを有する音声伝送システムであって、前記頭部装着型表示装置は、使用者の頭部に装着され、画像を表示する表示部と、右チャネルと左チャネルとに音声を出力する音声出力部と、音声信号を受信する通信部と、前記表示部による表示画像に関連する音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当てて出力させる制御部と、を備える。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
上記課題を解決するため、本発明は、使用者の頭部に装着され、画像を表示する表示部と、右チャネルと左チャネルとに音声を出力する音声出力部と、通信部とを備える頭部装着型表示装置の制御方法であって、音声信号を前記通信部により受信し、前記表示部による表示画像に関連する音声の音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当て、左チャネルに割り当てた音声信号と、右チャネルに割り当てた音声信号とを前記音声出力部により出力する。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
この構成によれば、使用者に、表示画像に関連する音声の音声信号と、通信部で受信した音声信号とを聞かせることができ、頭部装着型表示装置の使い勝手を向上させることができる。
以下、添付図面を参照しながら本発明の実施形態について説明する。
図1には、実施携帯の音声伝送システム1のシステム構成図を示す。
図1には、実施携帯の音声伝送システム1のシステム構成図を示す。
[システム構成]
音声伝送システム1は、頭部装着型表示装置100と、端末装置300とを備え、これらの装置が無線通信によりデータ通信可能に接続される。端末装置300は、本発明の「送信装置」に対応する装置である。端末装置300は、携帯可能な小型の端末であり、例えば、スマートフォン、タブレット端末、PDA(Personal Digital Assistants)等が用いられる。
頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(以下、HMDと略記する)とも呼ばれる。HMD100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の表示装置である。なお、本明細書では、HMD100によって使用者が視認する虚像を便宜的に「表示画像」と呼ぶ。
また、図1には、1機のHMD100を示すが、端末装置300に無線接続されるHMD100の台数は1台に限定されず任意である。また、以下の説明において、HMD100を使用する者を使用者Uといい、端末装置300を使用する者を案内者Gという。
音声伝送システム1は、頭部装着型表示装置100と、端末装置300とを備え、これらの装置が無線通信によりデータ通信可能に接続される。端末装置300は、本発明の「送信装置」に対応する装置である。端末装置300は、携帯可能な小型の端末であり、例えば、スマートフォン、タブレット端末、PDA(Personal Digital Assistants)等が用いられる。
頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(以下、HMDと略記する)とも呼ばれる。HMD100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の表示装置である。なお、本明細書では、HMD100によって使用者が視認する虚像を便宜的に「表示画像」と呼ぶ。
また、図1には、1機のHMD100を示すが、端末装置300に無線接続されるHMD100の台数は1台に限定されず任意である。また、以下の説明において、HMD100を使用する者を使用者Uといい、端末装置300を使用する者を案内者Gという。
[端末装置の構成]
図2は、端末装置300の構成図である。
端末装置300は、第1通信部310、第2通信部320、操作部330、表示部340、音声出力部350、音声入力部360、記憶部370及び制御部380を備える。
図2は、端末装置300の構成図である。
端末装置300は、第1通信部310、第2通信部320、操作部330、表示部340、音声出力部350、音声入力部360、記憶部370及び制御部380を備える。
第1通信部310は、HMD100を含む他の機器と無線通信を行うインターフェイスである。第1通信部310は、アンテナ、RF回路、ベースバンド回路、通信制御回路等(いずれも不図示)を備える。第1通信部310は、アンテナ、RF回路、ベースバンド回路、通信制御回路等が統合されたデバイスとして構成してもよいし、各種回路が実装された通信モジュール基板であってもよい。
第1通信部310の通信方式には、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access、登録商標)、Bluetooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第1通信部310が、Wi−Fi規格に従った無線通信を行う場合について説明する。
第2通信部320は、HMD100を含む他の機器と通信を行うインターフェイスであり、第1通信部310とは異なる通信方式により無線通信を行う。第2通信部320も、アンテナ、RF回路、ベースバンド回路、通信制御回路等(いずれも不図示)を備える。
また、第2通信部320の通信方式には、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)、BlueTooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第2通信部320が、Bluetooth規格に従った無線通信を行う場合について説明する。
また、第2通信部320の通信方式には、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)、BlueTooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第2通信部320が、Bluetooth規格に従った無線通信を行う場合について説明する。
操作部330は、操作を受け付けるハードウェアのボタンを備える。ボタンには、例えば、電源ボタンや、ホームボタン、メニューボタン等が含まれる。操作部330は、ボタンの操作を受け付けると、操作を受け付けたボタンに対応した操作信号を制御部380に出力する。
表示部340は、表示パネル341と操作検出部343とを備える。表示パネル341には、例えば、液晶パネルや有機ELディスプレイ等が用いられる。表示部340は、制御部380の制御により、表示パネル341に、ウインドウやアイコン、ボタン等のGUI(Graphical User Interface)画像を表示させる。また、制御部380によりコンテンツデータ373を再生する場合、表示パネル341には、コンテンツデータに基づく画像が表示される。
表示部340は、タッチ操作を検出するタッチセンサーを備える。タッチセンサーは、表示パネル341に重ねて、或いは一体に配置される。操作検出部343は、タッチセンサーの出力に基づき、案内者Gの指やペン等の操作子が接触した表示パネル341の接触位置を検出する。操作検出部343は、検出した接触位置を示す座標情報を制御部380に出力する。
音声出力部350は、D/A変換器、増幅器、スピーカー等(いずれも不図示)を備える。音声出力部350には、音声信号が制御部380から入力される。音声出力部350は、入力された音声信号にA/D変換、増幅等の処理を施してスピーカーから出力する。
音声入力部360は、内蔵又は音声端子を介して接続されたマイクにより、端末装置300の周辺の音声を集音し、A/D変換、音声処理等を行って音声信号を生成する。音声入力部360は、生成した音声信号を制御部380に出力する。
本実施形態では、音声入力部360は、案内者Gが発した音声の音声信号を生成して制御部380に出力する。例えば、美術館や博物館等のガイドを行う案内者Gは、端末装置300を所持し、使用者Uと共に美術館や博物館の館内を巡りながら、館内の展示物について使用者Uに案内や説明を行う。案内者Gの発した音声は、音声入力部360により集音され、音声信号として制御部380に入力される。音声入力部360により生成される音声信号を、以下では第2音声信号という。
本実施形態では、音声入力部360は、案内者Gが発した音声の音声信号を生成して制御部380に出力する。例えば、美術館や博物館等のガイドを行う案内者Gは、端末装置300を所持し、使用者Uと共に美術館や博物館の館内を巡りながら、館内の展示物について使用者Uに案内や説明を行う。案内者Gの発した音声は、音声入力部360により集音され、音声信号として制御部380に入力される。音声入力部360により生成される音声信号を、以下では第2音声信号という。
記憶部370は、フラッシュメモリー、EEPROM(Electronically Erasable and Programmable Read Only Memory)等の不揮発性の記憶装置である。記憶部370は、制御プログラム371、コンテンツデータ373、接続情報375を記憶する。制御プログラム371は、制御部380が実行するプログラムであって、OSやアプリケーションプログラムが含まれる。
コンテンツデータ373は、制御部380の制御によって表示部340が表示する画像や映像を含むコンテンツのデータである。コンテンツデータ373は、静止画像データ、映像(動画像)データ、音声データ等を含む。コンテンツデータ373は複数コンテンツのデータを含んでもよい。各コンテンツデータ373には、識別情報が付されている。この識別情報は、HMD100の記憶部140(図5参照)が記憶するコンテンツデータ144に付された識別情報と同一の識別情報である。すなわち、HMD100の記憶部140と、HMD100の記憶部370とは同一のコンテンツデータを記憶し、対応するコンテンツデータ144及びコンテンツデータ373には、同一の識別情報が付されている。
接続情報375は、端末装置300をアクセスポイント(図示省略)に接続するための情報である。接続情報375には、アクセスポイントを識別するSSID(Service Set Identifier)やパスワード等の情報が含まれる。また、接続情報375には、Bluetoothによる通信を実現するための接続情報が含まれる。具体的には、PINコードやパスキー等のコード情報が含まれる。
制御部380は、ハードウェアとしてCPU(Central Processing Unit)や、ROM(Read Only Memory)、RAM(Random access memory)を備える。
CPUは、記憶部370に記憶された様々な制御プログラムをRAMにロードして実行することによって、様々な処理を実行する。CPUの数は1つに限らず、端末装置300が複数のCPUを備える構成であってもよい。ROMは、OS等の制御プログラムを記憶する。RAMは、CPUの演算用のメモリーとして使用される。
CPUは、記憶部370に記憶された様々な制御プログラムをRAMにロードして実行することによって、様々な処理を実行する。CPUの数は1つに限らず、端末装置300が複数のCPUを備える構成であってもよい。ROMは、OS等の制御プログラムを記憶する。RAMは、CPUの演算用のメモリーとして使用される。
制御部380は、機能ブロックとして、通信制御部381及びアプリケーション実行部383を備える。これらの機能ブロックは、CPUが制御プログラム371を実行することで実現される機能をブロックとして便宜的に表現したものであり、特定のアプリケーションや、ハードウェアを意味するものではない。
通信制御部381は、第1通信部310及び第2通信部320を制御して、HMD100を含む他の機器との無線通信を実現する。
通信制御部381は、第1通信部310を制御してアクセスポイント(図示略)との接続を確立する。通信制御部381は、アクセスポイントとの接続の確立の際に、アクセスポイントからの要求に従い、接続情報375に含まれるSSIDやパスワードを記憶部370から読み出してアクセスポイントに送信させる。通信制御部381は、アクセスポイントとの接続が確立されると、同じくアクセスポイントに接続したHMD100等の他の機器との間でWi−Fiによる無線通信を行う。
通信制御部381は、第1通信部310を制御してアクセスポイント(図示略)との接続を確立する。通信制御部381は、アクセスポイントとの接続の確立の際に、アクセスポイントからの要求に従い、接続情報375に含まれるSSIDやパスワードを記憶部370から読み出してアクセスポイントに送信させる。通信制御部381は、アクセスポイントとの接続が確立されると、同じくアクセスポイントに接続したHMD100等の他の機器との間でWi−Fiによる無線通信を行う。
また、通信制御部381は、第2通信部320を制御してHMD100を含む他の機器とBluetoothによる通信を確立する。例えば、通信制御部381は、端末装置300の動作モードがペアリングモードであるときに、HMD100からペアリング要求を受信すると、ペアリングに必要な情報をHMD100に送信する。そして、通信制御部381は、所定の認証方式に従ってお互いを認証し、ペアリングを行った相手の情報を記憶部370に記憶させてペアリングを完了する。
また、通信制御部381は、操作部330によりコンテンツデータ373の選択、及び再生指示を受け付けると、選択されたコンテンツデータ373の識別情報を含む再生指示を第1通信部310によりHMD100に送信させる。
また、通信制御部381は、音声入力部360から第2音声信号が入力されると、入力された第2音声信号に対してエンコード等の処理を行って、データ通信可能な形式の音声データに変換する。通信制御部381は、変換した音声データを第2通信部320によりHMD100に送信させる。音声データは、本発明の「第2音声信号」に相当する。
また、通信制御部381は、音声入力部360から第2音声信号が入力されると、入力された第2音声信号に対してエンコード等の処理を行って、データ通信可能な形式の音声データに変換する。通信制御部381は、変換した音声データを第2通信部320によりHMD100に送信させる。音声データは、本発明の「第2音声信号」に相当する。
アプリケーション実行部383は、制御プログラム371に含まれるアプリケーションプログラムを実行することで実現される機能ブロックである。アプリケーション実行部383は、例えば、動画再生のアプリケーションプログラムを実行する場合、記憶部370に記憶されたコンテンツデータ373を再生し、コンテンツデータ373に含まれる映像信号に基づく画像を表示パネル341に表示させる。また、アプリケーション実行部383は、コンテンツデータ373に含まれる音声信号に基づく音声を音声出力部350に出力させる。
[HMD100の構成]
図3は、HMD100の外観構成を示す図である。
HMD100は、使用者Uが頭部に装着する画像表示部20と、画像表示部20を制御するコントローラー10とを備える。画像表示部20は、本発明の「表示部」に対応した動作を行う機能部であり、使用者Uの頭部に装着された状態で使用者Uに虚像を視認させる。コントローラー10は、使用者UがHMD100を操作する制御装置としても機能する。
図3は、HMD100の外観構成を示す図である。
HMD100は、使用者Uが頭部に装着する画像表示部20と、画像表示部20を制御するコントローラー10とを備える。画像表示部20は、本発明の「表示部」に対応した動作を行う機能部であり、使用者Uの頭部に装着された状態で使用者Uに虚像を視認させる。コントローラー10は、使用者UがHMD100を操作する制御装置としても機能する。
コントローラー10は、箱形の本体11に、使用者Uの操作を受け付ける各種のスイッチや操作パッド14等を備える。画像表示部20は、本実施形態では眼鏡形状を有し、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示ユニット22、左表示ユニット24、右導光板26及び左導光板28を備える。
右保持部21及び左保持部23は、前部フレーム27の両端部から後方に延び、使用者Uの頭部に画像表示部20を保持する。前部フレーム27の両端部のうち画像表示部20の装着時に使用者Uの右側に位置する端部を端部ERとし、左側に位置する端部を端部ELとする。
右導光板26及び左導光板28は、前部フレーム27に設けられる。画像表示部20の装着状態において、右導光板26は使用者Uの右眼の眼前に位置し、左導光板28は使用者Uの左眼の眼前に位置する。
右表示ユニット22及び左表示ユニット24は、光学ユニット及び周辺回路をユニット化したモジュールであり、画像光を出射する。右表示ユニット22は、右保持部21に取り付けられ、左表示ユニット24は、左保持部23に取り付けられる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部品である。例えば、右導光板26及び左導光板28はプリズムである。右導光板26は、右表示ユニット22が出力する画像光を使用者Uの右眼に向けて導き、左導光板28は、左表示ユニット24が出力する画像光を使用者Uの左眼に導く。これにより、使用者Uの両眼に画像光が入射し、使用者Uが画像を視認できる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部品である。例えば、右導光板26及び左導光板28はプリズムである。右導光板26は、右表示ユニット22が出力する画像光を使用者Uの右眼に向けて導き、左導光板28は、左表示ユニット24が出力する画像光を使用者Uの左眼に導く。これにより、使用者Uの両眼に画像光が入射し、使用者Uが画像を視認できる。
HMD100はシースルー型の表示装置であり、使用者Uの右眼REには、右導光板26により導かれた画像光と、右導光板26を透過した外光とが入射する。同様に、左眼LEには、左導光板28により導かれた画像光と、左導光板28を透過した外光とが入射する。このように、HMD100は、内部で処理した画像に対応する画像光と外光とを重ねて使用者Uの眼に入射させ、使用者Uにとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光による画像が視認される。
画像表示部20の前部フレーム27には、照度センサー65が配置される。照度センサー65は、画像表示部20を装着する使用者Uの前方からの外光を受光する。
カメラ61は、画像表示部20の前部フレーム27に配設される。カメラ61の撮像範囲及び撮像方向については後述する。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図2の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
カメラ61は、画像表示部20の前部フレーム27に配設される。カメラ61の撮像範囲及び撮像方向については後述する。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図2の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラであり、本実施形態のカメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ61は、HMD100を装着した状態における使用者Uの視界方向の少なくとも一部の外景(実空間)を撮像し、カメラ61の画角は、使用者Uの正面方向を向き、使用者Uが画像表示部20を透過して視認する外景と重複する。カメラ61の画角は、使用者Uが画像表示部20を透過して視認する視界の全体を含むことがより好ましい。カメラ61は、制御部150の制御に従って撮像を実行し、撮像画像データを制御部150に出力する。
前部フレーム27には、LEDインジケーター67が配置される。LEDインジケーター67は、端部ERにおいてカメラ61の近傍に配置され、カメラ61の動作中に点灯して、撮像中であることを報知する。
前部フレーム27には、距離センサー64が設けられる。距離センサー64は、予め設定された測定方向に位置する測定対象物までの距離を検出する。本実施形態では、距離センサー64は、使用者Uの前方に位置する測定対象物までの距離を検出する。距離センサー64は、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する光反射式距離センサーであってもよい。また、距離センサー64は、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える超音波式の距離センサーであってもよい。また、距離センサー64は、レーザーレンジスキャナー(測域センサー)を用いてもよく、この場合、画像表示部20の前方を含む広範囲の領域に対し測域を行える。
コントローラー10と画像表示部20とは、接続ケーブル40により接続される。接続ケーブル40は、本体11のコネクター42に着脱可能に接続される。
接続ケーブル40は、オーディオコネクター46を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター46に接続される。右イヤホン32は、使用者Uの右耳に装着され、左イヤホン34は、使用者Uの左耳に装着される。右イヤホン32及び左イヤホン34は、本発明の「音声出力部」に対応する機能部である。
マイク63は、音声を集音して、音声信号を音声処理部180(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
接続ケーブル40は、オーディオコネクター46を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター46に接続される。右イヤホン32は、使用者Uの右耳に装着され、左イヤホン34は、使用者Uの左耳に装着される。右イヤホン32及び左イヤホン34は、本発明の「音声出力部」に対応する機能部である。
マイク63は、音声を集音して、音声信号を音声処理部180(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
コントローラー10は、使用者Uにより操作される被操作部として、ホイール操作部12、中央キー13、操作パッド14、上下キー15、LED表示部17、及び電源スイッチ18を備える。これらの被操作部は本体11の表面に配置される。これらの被操作部は、例えば、使用者Uの手指により操作される。
操作パッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式等を採用できる。操作パッド14への接触(タッチ操作)は、例えば、タッチセンサー(不図示)により検出される。操作パッド14は、接触が検出された操作面の位置を示す信号を制御部150に出力する。
本体11にはLED(Light Emitting Diode)表示部17が設置される。LED表示部17は、光を透過可能な透過部(不図示)を有し、透過部の直下に設置されるLEDが点灯することで、透過部に形成された文字、記号、模様等を視認可能な状態とする。LED表示部17に対する使用者Uの手指の接触操作は、タッチセンサー172(図4)により検出される。このため、LED表示部17とタッチセンサー172との組合せはソフトウェアキーとして機能する。
電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチである。また、本体11は、コントローラー10を、外部の装置に接続するインターフェイスとして、USB(Universal Serial Bus)コネクター19を備える。
電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチである。また、本体11は、コントローラー10を、外部の装置に接続するインターフェイスとして、USB(Universal Serial Bus)コネクター19を備える。
[HMDの構成]
図4は、HMD100を構成する各部の構成を示すブロック図である。
コントローラー10は、プログラムを実行してHMD100を制御するメインプロセッサー125を備える。メインプロセッサー125には、メモリー118及び不揮発性記憶部121が接続される。メインプロセッサー125には、入力装置として操作部170が接続される。また、メインプロセッサー125には、センサー類として、6軸センサー111、磁気センサー113及びGPS115が接続される。
図4は、HMD100を構成する各部の構成を示すブロック図である。
コントローラー10は、プログラムを実行してHMD100を制御するメインプロセッサー125を備える。メインプロセッサー125には、メモリー118及び不揮発性記憶部121が接続される。メインプロセッサー125には、入力装置として操作部170が接続される。また、メインプロセッサー125には、センサー類として、6軸センサー111、磁気センサー113及びGPS115が接続される。
メインプロセッサー125には、第1通信部116、第2通信部117、音声処理部180、外部メモリーインターフェイス191、USBコネクター19、センサーハブ193及びFPGA195が接続される。これらは外部とのインターフェイスとして機能する。
メインプロセッサー125は、コントローラー10が内蔵するコントローラー基板120に実装される。本実施形態では、コントローラー基板120に、6軸センサー111、磁気センサー113、GPS115、第1通信部116、第2通信部117、メモリー118、不揮発性記憶部121、音声処理部180等が実装される。また、外部メモリーインターフェイス191、USBコネクター19、センサーハブ193、FPGA195及びインターフェイス197をコントローラー基板120に実装してもよい。また、コネクター42、及びUSBコネクター19を、コントローラー基板120に実装してもよい。
メモリー118は、メインプロセッサー125により実行されるプログラム、及びメインプロセッサー125が処理するデータ等を一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー125が実行するプログラムや、メインプロセッサー125が処理するデータを記憶する。
操作部170は、LED表示部17、タッチセンサー172、及びスイッチ174を含む。タッチセンサー172は、使用者Uによるタッチ操作を検出し、操作位置を特定し、メインプロセッサー125に対して操作信号を出力する。スイッチ174は、上下キー15、及び、電源スイッチ18の操作に応じて、メインプロセッサー125に操作信号を出力する。LED表示部17は、メインプロセッサー125の制御に従って、LEDを点灯、点滅、消灯させる。操作部170は、例えば、LED表示部17、タッチセンサー172、スイッチ174、及び、これらを制御する回路が実装されたスイッチ基板であり、本体11に収容される。操作部170は、本発明の「ユーザーインターフェイス部」に対応する機能部である。
6軸センサー111は、コントローラー10の動きを検出するモーションセンサー(慣性センサー)の一例である。6軸センサー111は、3軸加速度センサー、及び、3軸ジャイロ(角速度)センサーを備える。6軸センサー111は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。
磁気センサー113は、例えば、3軸の地磁気センサーである。
GPS(Global Positioning System)115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信する受信機である。GPS115は、GPS信号に基づき、コントローラー10の現在位置の座標を検出又は算出する。
GPS(Global Positioning System)115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信する受信機である。GPS115は、GPS信号に基づき、コントローラー10の現在位置の座標を検出又は算出する。
6軸センサー111、磁気センサー113及びGPS115は、予め指定されたサンプリング周期に従ってメインプロセッサー125に出力値を出力する。また、6軸センサー111、磁気センサー113及びGPS115は、メインプロセッサー125の要求に応じて、メインプロセッサー125により指定されたタイミングで、検出値をメインプロセッサー125に出力する構成であってもよい。
第1通信部116は、端末装置300を含む外部の機器との間で無線通信を実行する通信装置である。第1通信部116は、図示しないアンテナ、RF回路、ベースバンド回路、通信制御回路等を備える。第1通信部116は、アンテナ、RF回路、ベースバンド回路、通信制御回路等が統合されたデバイスであってもよいし、各種回路が実装された通信モジュール基板であってもよい。
第1通信部116の通信方式には、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access、登録商標)、Bluetooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第1通信部116が、Wi−Fi規格に従った無線通信を行う場合について説明する。すなわち、第1通信部116は、端末装置300の第1通信部310との間でデータの送受信を行う。
第2通信部117は、HMD100を含む他の機器と通信を行うインターフェイスであり、第1通信部116とは異なる通信方式により無線通信を行う。第2通信部117も、アンテナ、RF回路、ベースバンド回路、通信制御回路等(いずれも不図示)を備える。
また、第2通信部117の通信方式は、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)、BlueTooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第2通信部117が、Bluetooth規格に従った無線通信を行う場合について説明する。すなわち、第2通信部117は、端末装置300の第2通信部320との間でデータの送受信を行う。
また、第2通信部117の通信方式は、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)、BlueTooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。本実施形態では、第2通信部117が、Bluetooth規格に従った無線通信を行う場合について説明する。すなわち、第2通信部117は、端末装置300の第2通信部320との間でデータの送受信を行う。
音声処理部180は、オーディオコネクター46(図4)に接続され、音声信号の入出力及び音声信号のエンコード/デコードを行う。また、音声処理部180は、アナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、及びその逆の変換を行うD/Aコンバーターを備える。
外部メモリーインターフェイス191は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。
コントローラー10は、バイブレーター176を搭載する。バイブレーター176は、モーター(不図示)、偏心した回転子(不図示)等を備え、メインプロセッサー125の制御に従って振動を発生する。例えば、操作部170に対する操作や、HMD100の電源のオン/オフに応じて、所定の振動パターンでバイブレーター176が振動を発生する。
インターフェイス(I/F)197は、センサーハブ193及びFPGA(Field Programmable Gate Array)195を、画像表示部20に接続する。
センサーハブ193は、画像表示部20が備える各種センサーの検出値を取得してメインプロセッサー125に出力する。FPGA195は、メインプロセッサー125と画像表示部20の各部との間で送受信するデータの処理、及びインターフェイス197を介した伝送を実行する。
センサーハブ193は、画像表示部20が備える各種センサーの検出値を取得してメインプロセッサー125に出力する。FPGA195は、メインプロセッサー125と画像表示部20の各部との間で送受信するデータの処理、及びインターフェイス197を介した伝送を実行する。
接続ケーブル40、及び、図示しない画像表示部20内部の配線により、コントローラー10に、右表示ユニット22と、左表示ユニット24とが個別に接続される。
右表示ユニット22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。OLEDユニット221が発する画像光は、レンズ群等を含む光学系により、右導光板26に導かれる。左表示ユニット24は、画像光を発するOLEDユニット241を備える。OLEDユニット241が発する画像光は、レンズ群等を含む光学系により、左導光板28に導かれる。
右表示ユニット22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。OLEDユニット221が発する画像光は、レンズ群等を含む光学系により、右導光板26に導かれる。左表示ユニット24は、画像光を発するOLEDユニット241を備える。OLEDユニット241が発する画像光は、レンズ群等を含む光学系により、左導光板28に導かれる。
OLEDユニット221、241は、OLEDパネルやOLEDパネルを駆動する駆動回路を有する。OLEDパネルは、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される、自発光型の表示パネルである。OLEDパネルは、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。駆動回路は、制御部150の制御に従って、OLEDパネルの発光素子の選択及び発光素子への通電を実行して、OLEDパネルの発光素子を発光させる。これにより、OLEDユニット221、241に形成された画像の画像光が、右導光板26及び左導光板28に導かれ、右眼RE及び左眼LEに入射する。
右表示ユニット22は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス197に接続されるインターフェイス(I/F)211、インターフェイス211を介してコントローラー10から入力されるデータを受信する受信部(Rx)213、及び、EEPROM215が実装される。インターフェイス211は、受信部213、EEPROM215、温度センサー69、カメラ61、照度センサー65、及び、LEDインジケーター67を、コントローラー10に接続する。
EEPROM(Electrically Erasable Programmable Read-Only Memory)215は、メインプロセッサー125が読み取り可能にデータを記憶する。EEPROM215は、例えば、画像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22又は左表示ユニット24が備えるセンサーの特性に関するデータなどを記憶する。具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー69、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれ、出荷後はメインプロセッサー125がEEPROM215のデータを利用して処理を行える。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データ、或いは、撮像結果を示す信号をインターフェイス211に出力する。
照度センサー65は、受光量(受光強度)に対応する検出値を、インターフェイス211に出力する。LEDインジケーター67は、インターフェイス211を介して入力される信号に従って点灯及び消灯する。
温度センサー69は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス211に出力する。温度センサー69は、OLEDユニット221が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー69を実装してもよい。
受信部213は、インターフェイス211を介してメインプロセッサー125が送信するデータを受信する。受信部213は、インターフェイス211から画像データを受信した場合に、受信した画像データを、OLEDユニット221に出力する。
左表示ユニット24は、表示ユニット基板230を有する。表示ユニット基板230には、インターフェイス197に接続されるインターフェイス(I/F)231、インターフェイス231を介してコントローラー10から入力されるデータを受信する受信部(Rx)233が実装される。また、表示ユニット基板230には、6軸センサー235、及び、磁気センサー237が実装される。インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を、コントローラー10に接続する。
6軸センサー235は、画像表示部20の動きを検出するモーションセンサーの一例である。6軸センサー235は、3軸加速度センサー、及び3軸ジャイロセンサーを備える。6軸センサー235は、上記のセンサーがモジュール化されたIMU(inertial measurement unit)であってもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。
温度センサー239は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス231に出力する。温度センサー239は、OLEDユニット241が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
カメラ61、照度センサー65、温度センサー69、6軸センサー235、磁気センサー237及び温度センサー239は、コントローラー10のセンサーハブ193に接続される。
センサーハブ193は、メインプロセッサー125の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ193は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ193は、予め設定されたタイミングで、各センサーの検出値をメインプロセッサー125に出力する。センサーハブ193は、メインプロセッサー125に対する出力のタイミングに合わせて、各センサーの検出値を一時的に保持する機能を備えてもよい。また、センサーハブ193は、各センサーの出力値の信号形式、或いはデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー125に出力する機能を備えてもよい。
また、センサーハブ193は、メインプロセッサー125の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
また、センサーハブ193は、メインプロセッサー125の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
コントローラー10は、電源部130を備え、電源部130から供給される電力により動作する。電源部130は充電可能なバッテリー132、及び、バッテリー132の残容量の検出及びバッテリー132への充電の制御を行う電源制御回路134を備える。
USBコントローラー199は、USBデバイスコントローラーとして機能し、USBコネクター19に接続されるUSBホスト装置との間で通信を確立し、データ通信を行う。また、USBコントローラー199は、USBデバイスコントローラーとしての機能に加え、USBホストコントローラーとしての機能を有してもよい。
[HMDの制御系の構成]
図5は、HMD100のコントローラー10の制御系を構成する記憶部140、及び制御部150の機能ブロック図である。図5に示す記憶部140は、不揮発性記憶部121(図4)により構成される論理的な記憶部であり、EEPROM215を含んでもよい。制御部150、及び制御部150が有する各種の機能部は、メインプロセッサー125がプログラムを実行することによって、ソフトウェアとハードウェアとの協働により形成される。制御部150、及び制御部150を構成する各機能部は、例えば、メインプロセッサー125、メモリー118及び不揮発性記憶部121により構成される。
図5は、HMD100のコントローラー10の制御系を構成する記憶部140、及び制御部150の機能ブロック図である。図5に示す記憶部140は、不揮発性記憶部121(図4)により構成される論理的な記憶部であり、EEPROM215を含んでもよい。制御部150、及び制御部150が有する各種の機能部は、メインプロセッサー125がプログラムを実行することによって、ソフトウェアとハードウェアとの協働により形成される。制御部150、及び制御部150を構成する各機能部は、例えば、メインプロセッサー125、メモリー118及び不揮発性記憶部121により構成される。
記憶部140は、メインプロセッサー125が実行する各種のプログラム、及びこれらのプログラムにより処理されるデータを記憶する。記憶部140は、オペレーティングシステム(OS)141、アプリケーションプログラム142、設定データ143及びコンテンツデータ144を記憶する。
制御部150は、記憶部140が記憶するプログラムを実行することにより、記憶部140が記憶するデータを処理して、HMD100を制御する。
オペレーティングシステム141は、メインプロセッサー125が実行するHMD100の基本制御プログラムである。メインプロセッサー125は、電源スイッチ18の操作によってHMD100の電源がオンに切り替わると、オペレーティングシステム141をロードして実行する。メインプロセッサー125がオペレーティングシステム141を実行することで、制御部150の各種機能が実現される。制御部150の機能には、基本制御部151、通信制御部152、画像処理部153、撮像制御部154、表示制御部155、アプリケーション実行部156、音声制御部157及び音声認識部158を含む。
アプリケーションプログラム142は、メインプロセッサー125がオペレーティングシステム141を実行した状態で、メインプロセッサー125が実行するプログラムである。アプリケーションプログラム142は、制御部150の各種機能を利用する。記憶部140が記憶するアプリケーションプログラム142は1つではなく複数であってもよい。例えば、アプリケーションプログラム142は、画像コンテンツ再生、音声コンテンツ再生、ゲーム、カメラ撮影、文書作成、ウェブブラウジング、スケジュール管理、電話(音声通信を含む)、画像通信、経路ナビゲーション等の機能を実現する。
設定データ143は、HMD100の動作に関する各種の設定値を含む。また、制御部150がHMD100を制御する際にパラメーター、行列式、演算式、LUT(LookUp Table)等を用いる場合、これらを設定データ143に含めてもよい。
また、設定データ143には、アプリケーションプログラム142を実行する場合に使用されるデータが含まれる。詳細には、アプリケーションプログラム142に含まれる各種プログラムを実行する場合の実行条件等のデータを含む。例えば、アプリケーションプログラム142の実行時の画像表示サイズ、画面の向き、アプリケーションプログラム142が使用する制御部150の機能部、或いはHMD100のセンサー類等を示すデータを含む。
HMD100では、アプリケーションプログラム142を導入する際に、制御部150の機能によりインストール処理を実行する。インストール処理は、アプリケーションプログラム142を記憶部140に記憶するだけでなく、アプリケーションプログラム142の実行条件の設定等を含む処理である。インストール処理により、記憶部140に、アプリケーションプログラム142に対応した設定データ143が生成又は記憶されると、アプリケーション実行部156がアプリケーションプログラム142を起動できる。
コンテンツデータ144は、制御部150の制御によって画像表示部20が表示する画像や映像を含むコンテンツのデータである。コンテンツデータ144は、静止画像データ、映像(動画像)データ、音声データ等を含む。コンテンツデータ144は複数のコンテンツのデータを含んでもよい。コンテンツデータ144は、双方向型のコンテンツのデータであってもよい。また、各コンテンツデータ144には、識別情報が付されている。この識別情報は、端末装置300の記憶部370が記憶するコンテンツデータ373に付された識別情報と同一の識別情報である。HMD100の記憶部140と、HMD100の記憶部370とは同一のコンテンツデータを記憶し、対応するコンテンツデータ144及びコンテンツデータ373には、同一の識別情報が付されている。
基本制御部151は、HMD100の各部を制御する基本機能を実行する。基本制御部151は、HMD100の電源がオンされたときに起動処理を実行し、HMD100の各部を初期化し、アプリケーション実行部156がアプリケーションプログラム142を実行可能な状態にする。基本制御部151は、コントローラー10の電源をオフにする際のシャットダウン処理を実行し、アプリケーション実行部156を終了し、記憶部140が記憶する各種データを更新し、HMD100を停止させる。シャットダウン処理では画像表示部20に対する電源供給も停止し、HMD100全体がシャットダウンされる。
基本制御部151は、電源部130による電源供給を制御する機能を有する。基本制御部151は、シャットダウン処理で、電源部130からHMD100の各部への電源供給を個別にオフに切り替える。
通信制御部152は、第1通信部116及び第2通信部117が備える通信機能を制御して、端末装置300との間でデータ通信を行う。
通信制御部152は、コンテンツデータ144の識別情報を含む再生指示を第1通信部116により受信する。また、通信制御部152は、端末装置300から送信される音声データを第2通信部117により受信する。通信制御部152は、第2通信部117が受信した音声データに対してデコード等の処理を施して第2音声信号を取り出す。通信制御部152は、取り出した第2音声信号を音声制御部157に出力する。
通信制御部152の機能により、基本制御部151及びアプリケーション実行部156は、他の装置との間でデータを送受信し、例えば受信したデータを利用できる。
通信制御部152は、コンテンツデータ144の識別情報を含む再生指示を第1通信部116により受信する。また、通信制御部152は、端末装置300から送信される音声データを第2通信部117により受信する。通信制御部152は、第2通信部117が受信した音声データに対してデコード等の処理を施して第2音声信号を取り出す。通信制御部152は、取り出した第2音声信号を音声制御部157に出力する。
通信制御部152の機能により、基本制御部151及びアプリケーション実行部156は、他の装置との間でデータを送受信し、例えば受信したデータを利用できる。
画像処理部153は、画像表示部20により表示する画像又は映像の画像データに基づいて、右表示ユニット22及び左表示ユニット24に送信する信号を生成する。画像処理部153が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。画像処理部153は、必要に応じて、画像データの解像度を右表示ユニット22及び左表示ユニット24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部153は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部153は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、画像表示部20に送信する。
画像処理部153は、メインプロセッサー125がオペレーティングシステム141を実行して実現される構成のほか、メインプロセッサー125とは別のハードウェアで構成してもよい。このハードウェアとしては、例えば、DSP(Digital Signal Processor)が挙げられる。
撮像制御部154は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶部140に一時的に記憶する。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部154は撮像画像データをカメラ61から取得して、記憶部140に一時的に記憶する。
表示制御部155は、右表示ユニット22及び左表示ユニット24を制御する制御信号を生成し、右表示ユニット22及び左表示ユニット24のそれぞれによる画像光の生成及び射出を制御する。例えば、表示制御部155は、OLEDパネルによる画像の表示を実行させ、OLEDパネルの描画タイミングの制御、輝度の制御等を行う。
アプリケーション実行部156は、メインプロセッサー125が、オペレーティングシステム141を実行する状態で、アプリケーションプログラム142を実行する機能に相当する。アプリケーション実行部156は、アプリケーションプログラム142を実行して、アプリケーションプログラム142の各種機能を実現する。アプリケーションプログラム142の機能は、上述の通りである。アプリケーション実行部156は、アプリケーションプログラム142の実行中に、制御部150の各部の機能を利用する。
また、アプリケーション実行部156には、端末装置300から送信される識別情報を含む再生指示が入力される。第1通信部116は、端末装置300から識別情報を含む再生指示を受信すると、受信した再生指示を制御部150に出力する。アプリケーション実行部156は、再生指示が入力されると、再生指示に含まれる識別情報を取り出し、識別情報に対応したコンテンツデータ144を記憶部140から取得する。つまり、アプリケーション実行部156は、本発明の「取得部」に対応した動作を行う。アプリケーション実行部156は、読み出したコンテンツデータ144に含まれる音声データを取り出して音声制御部157に出力する。また、アプリケーション実行部156は、コンテンツデータ144に含まれる画像又は映像の画像データを画像処理部153に処理させる。
HMD100は、音声モードとして第1音声モードと第2音声モードとを備える。第1音声モードは、右チャネル及び左チャネルのそれぞれから異なる音声信号を出力するモードである。音声モードが第1音声モードの場合、第1音声信号と第2音声信号とが出力される。右チャネルは、ヘッドセット30の右イヤホン32に音声信号を出力する右耳用のチャネルである。また、左チャネルは、ヘッドセット30の左イヤホン34に音声信号を出力する左耳用のチャネルである。また、第2音声モードは、右チャネル、左チャネル、又は右チャネル及び左チャネルのいずれかのチャネルに1の音声信号を出力するモードである。音声モードが第2音声モードの場合、第1音声信号又は第2音声信号が出力される。
音声制御部157は、音声モードが第1音声モードである場合、音声処理部180を制御して、右イヤホン32及び左イヤホン34から異なる音声の音声信号を出力させる。また、音声制御部157は、音声モードが第2音声モードである場合、音声処理部180を制御して、右イヤホン32、左イヤホン34、又は右イヤホン32及び左イヤホン34に1の音声信号を出力させる。
音声制御部157は、アプリケーション実行部156がコンテンツデータ144を再生中に、第2通信部117が案内者Gの発する音声の音声データを受信した場合、音声モードを第2音声モードから第1音声モードに変更する。また、音声制御部157は、アプリケーション実行部156がコンテンツデータ144を再生中であっても、第2通信部117が案内者Gの音声データを受信していない場合には、音声モードは変更せずに第2音声モードのままとする。音声制御部157は、この他に、操作部170の操作により第1音声モードと第2音声モードとの切り替えを行ってもよい。
音声制御部157には、第2通信部117が音声データを受信した場合、第2音声信号が入力される。また、音声制御部157には、アプリケーション実行部156がコンテンツデータ144から取得した音声データが入力される。音声制御部157は、入力された音声データを処理して、音声信号を生成する。コンテンツデータ144から取得した音声データに基づく音声が、本発明の「表示画像に関連する音声」に相当する。コンテンツデータ144から取得した音声データから取り出した音声信号を、以下では第1音声信号という。表示画像に関連する音声の音声信号の他の例として、ライブ動画、テレビ画像等を含めることができる。
音声制御部157は、音声信号の周波数を必要に応じて変換する。例えば、音声制御部157は、第1音声信号の周波数と、第2音声信号の周波数とが一致しない場合、第1音声信号に対してリサンプリングを行い、第1音声信号の周波数を第2音声信号の周波数に一致させる。音声制御部157は、第1音声信号の周波数と、第2音声信号の周波数とが一致する場合には、周波数の変換は行わない。リサンプリングを行って、第1音声信号の周波数を第2音声信号の周波数に一致させることで、第1音声信号と第2音声信号の出力レベルの調整が容易になり、例えば、1回の操作で、第1音声信号と第2音声信号との両方をミュートすることができる。
音声制御部157は、音声モードが第1音声モードである場合、第1音声信号と、第2音声信号とを音声処理部180に出力する。また、音声制御部157は、音声モードが第2音声モードである場合、第1音声信号と、第2音声信号とのいずれか一方を音声処理部180に出力する。
音声認識部158は、第2通信部117が受信した第2音声信号を音声認識処理して、テキストデータを生成する。音声認識部158は、生成したテキストデータを表示制御部155に出力する。表示制御部155は、画像表示部20を制御して、テキストデータを表示領域VRに表示させる。
[HMDの音声処理系統の構成]
図6は、HMD100の音声処理系統の構成を示す図である。
音声処理部180は、処理部181、チャネル設定部183、右チャネル用D/Aコンバーター185及び左チャネル用D/Aコンバーター187を備える。
図6は、HMD100の音声処理系統の構成を示す図である。
音声処理部180は、処理部181、チャネル設定部183、右チャネル用D/Aコンバーター185及び左チャネル用D/Aコンバーター187を備える。
処理部181は、入力される音声信号の音量調整、すなわち、音声信号の増幅処理等を行う。処理部181は、制御部150から第1音声信号及び第2音声信号が入力された場合、第1音声信号及び第2音声信号の少なくともいずれか一方の音量を調整する。例えば、処理部181は、第1音声信号の音量と、第2音声信号の音量との差が所定値以上ある場合、いずれか一方の音声信号を増幅して音量の差が所定値以内となるように調整する。
音声モードが第1音声モードである場合、処理部181には、第1音声信号と第2音声信号とが入力される。音声制御部157は、音声モードが第1音声モードであり、コンテンツデータ144に含まれる第1音声信号がステレオ信号である場合、処理部181に、第1音声信号の信号形式を変換させる。処理部181は、音声制御部157の制御に従い、第1音声信号の信号形式をモノラルに変換する。又は、処理部181は、第1音声信号がステレオ信号である場合、左チャネルと右チャネルのうちのいずれか一方のチャネルの出力(音声信号)をカットして、他方のチャネルの出力(音声信号)をチャネル設定部183に出力する。
また、音声モードが第2音声モードである場合、処理部181には、第1音声信号と第2音声信号とのうち、いずれか一方の音声信号が入力される。処理部181は、音声モードが第2音声モードである場合、入力された第1音声信号又は第2音声信号をチャネル設定部183に出力する。
また、処理部181は、入力される音声信号の音量を音声制御部157の制御に従って調整する。
音声制御部157は、音声モードが第1音声モードの場合、右チャネル、左チャネル、又は右チャネル及び左チャネルのいずれかのチャネルに対するミュート操作、又は音量を変更(ボリューム変更)する操作を操作部170により受け付ける。また、音声制御部157は、音声モードが第2音声モードの場合、音声信号を出力中のチャネルに対するミュート操作、又は音量を変更する操作を操作部170により受け付ける。例えば、音声制御部157は、音声モードが第2音声モードであり、第2音声信号を右チャネル及び左チャネルに出力している場合、右チャネル、左チャネル、又は右チャネル及び左チャネルに対するミュート操作、又は音量を変更する操作を受け付ける。また、音声制御部157は、音声モードが第2音声モードであり、第2音声信号を左チャネルだけに出力している場合、左チャネルに対するミュート操作、又は音量を変更する操作を受け付ける。
音声制御部157は、音声モードが第1音声モードの場合、右チャネル、左チャネル、又は右チャネル及び左チャネルのいずれかのチャネルに対するミュート操作、又は音量を変更(ボリューム変更)する操作を操作部170により受け付ける。また、音声制御部157は、音声モードが第2音声モードの場合、音声信号を出力中のチャネルに対するミュート操作、又は音量を変更する操作を操作部170により受け付ける。例えば、音声制御部157は、音声モードが第2音声モードであり、第2音声信号を右チャネル及び左チャネルに出力している場合、右チャネル、左チャネル、又は右チャネル及び左チャネルに対するミュート操作、又は音量を変更する操作を受け付ける。また、音声制御部157は、音声モードが第2音声モードであり、第2音声信号を左チャネルだけに出力している場合、左チャネルに対するミュート操作、又は音量を変更する操作を受け付ける。
また、コンテンツデータ144の音声が外国語である場合、使用者Uは、案内者Gの発する音声だけを聞きたいと考える場合がある。このような場合、使用者Uは、操作部170を操作して、コンテンツデータ144の映像と音声の出力をミュートさせることも可能である。制御部150は、映像及び音声をミュートさせる操作を操作部170により受け付けると、第1音声信号の出力と、映像の再生とをミュートする。
また、使用者Uが絵画鑑賞をしている場合であって、鑑賞している絵画について説明したコンテンツデータ144に基づくコンテンツが不要である場合、制御部150は、操作部170等の操作を受け付けた場合にコンテンツの再生をスキップしてもよい。この場合、制御部150は、次の絵画について説明するコンテンツにスキップさせる。
また、使用者Uが絵画鑑賞をしている場合であって、鑑賞している絵画について説明したコンテンツデータ144に基づくコンテンツが不要である場合、制御部150は、操作部170等の操作を受け付けた場合にコンテンツの再生をスキップしてもよい。この場合、制御部150は、次の絵画について説明するコンテンツにスキップさせる。
音声制御部157は、ミュート操作を受け付けた場合、遮断指示と、遮断するチャネルの指定とを含む制御信号を処理部181に出力する。また、音声制御部157は、音量を変更する操作を受け付けた場合、音量の変更指示と、音量を変更するチャネルの指定と、変更する音量とを含む制御信号を処理部181に出力する。
処理部181は、音声制御部157から入力された制御信号に遮断指示が含まれる場合、制御信号により指定されたチャネルへの音声信号の出力を停止する。処理部181は、制御信号により指定されたチャネルに対応付けられた音声信号のチャネル設定部183への出力を停止する。これにより、操作部170により受け付けた操作に対応したチャネルの音声がミュートされる。
また、処理部181は、音声制御部157から入力された制御信号に音量の変更指示が含まれる場合、制御信号により指定されたチャネルに出力する音声信号の音量を、制御信号により指定された音量に変更し、変更後の音声信号をチャネル設定部183に出力する。
また、処理部181は、音声制御部157から入力された制御信号に音量の変更指示が含まれる場合、制御信号により指定されたチャネルに出力する音声信号の音量を、制御信号により指定された音量に変更し、変更後の音声信号をチャネル設定部183に出力する。
チャネル設定部183には、第1音声信号と第2音声信号との少なくともいずれかが入力される。
音声モードが第1音声モードである場合、チャネル設定部183には、第1音声信号及び第2音声信号が入力される。チャネル設定部183は、例えば、第1音声信号の出力チャネルを右チャネルに割り当て、第2音声信号の出力チャネルを左チャネルに割り当てる。第1音声信号を左チャネルに割り当て、第2音声信号を右チャネルに割り当ててもよい。
音声モードが第1音声モードである場合、チャネル設定部183には、第1音声信号及び第2音声信号が入力される。チャネル設定部183は、例えば、第1音声信号の出力チャネルを右チャネルに割り当て、第2音声信号の出力チャネルを左チャネルに割り当てる。第1音声信号を左チャネルに割り当て、第2音声信号を右チャネルに割り当ててもよい。
また、左右の両方のチャネルから第1音声信号及び第2音声信号を出力するようにしてもよい。この場合、左右の両方のチャネルで、第1音声信号及び第2音声信号の出力比率を変更してもよい。例えば、左チャネルは、第1音声信号の出力比率を90%、第2音声信号の出力比率を10%とし、右チャネルは、第1音声信号の出力比率を10%、第2音声信号の出力比率を90%とする。
また、左右の両方のチャネルから第1音声信号及び第2音声信号を出力する場合に、使用者Uと、案内者Gとの位置関係に応じて、左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更してもよい。例えば、案内者Gの方向から音声が聞こえるように左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更する。また、HMD100を美術館において使用する場合、使用者Uが鑑賞している絵画の方向から音声が聞こえるように左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更してもよい。
また、左右の両方のチャネルから第1音声信号及び第2音声信号を出力する場合に、使用者Uと、案内者Gとの位置関係に応じて、左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更してもよい。例えば、案内者Gの方向から音声が聞こえるように左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更する。また、HMD100を美術館において使用する場合、使用者Uが鑑賞している絵画の方向から音声が聞こえるように左チャネルに出力する第1音声信号及び第2音声信号の出力比率と、右チャネルに出力する第1音声信号及び第2音声信号の出力比率とを変更してもよい。
また、音声モードが第2音声モードである場合、チャネル設定部183には、第1音声信号及び第2音声信号のいずれか一方が入力される。チャネル設定部183は、入力された音声信号を、左チャネル及び右チャネルに割り当てる。また、チャネル設定部183は、入力された音声信号を、左チャネル及び右チャネルのいずれか一方のチャネルに割り当ててもよい。
第2音声モードである場合に、1の音声信号を左チャネル及び右チャネルに割り当てるか、左チャネル又は右チャネルに割り当てるかの設定は、使用者Uの事前に設定に応じて変更可能である。
第2音声モードである場合に、1の音声信号を左チャネル及び右チャネルに割り当てるか、左チャネル又は右チャネルに割り当てるかの設定は、使用者Uの事前に設定に応じて変更可能である。
チャネル設定部183は、右チャネルに設定した音声信号を右チャネル用D/Aコンバーター185に出力する。また、チャネル設定部183は、左チャネルに設定した音声信号を左チャネル用D/Aコンバーター187に出力する。
右チャネル用D/Aコンバーター185は、入力された音声信号をD/A変換し、変換したアナログの音声信号を右イヤホン32に出力する。すなわち、チャネル設定部183により出力チャネルが右チャネルに設定された音声信号が右イヤホン32から出力される。
また、左チャネル用D/Aコンバーター187は、入力された音声信号をD/A変換し、変換したアナログの音声信号を左イヤホン34に出力する。すなわち、チャネル設定部183により出力チャネルが左チャネルに設定された音声信号が左イヤホン34から出力される。
また、左チャネル用D/Aコンバーター187は、入力された音声信号をD/A変換し、変換したアナログの音声信号を左イヤホン34に出力する。すなわち、チャネル設定部183により出力チャネルが左チャネルに設定された音声信号が左イヤホン34から出力される。
図7は、表示領域VRを示す図である。
表示領域VRは、画像表示部20を頭部に装着した使用者Uの視野範囲FVにおいて、画像表示部20が表示画像を表示可能な領域である。表示領域VRは外景に重畳され、使用者Uは画像表示部20が表示する表示画像と外景とを同時に視認することができる。図7に示す表示領域VRには、画像表示部20が表示する表示画像の一例として、自転車の画像410と、ポインター420とが表示された状態を示す。表示制御部155は、操作パッド14により受け付けた操作により、ポインター420の表示位置を変更する。
表示制御部155は、画像表示部20を制御して、音声認識部158から入力されたテキストデータを表示領域VRに表示させる。図7には、テキストデータとして「自転車の色を選択してください。」の文字430が表示された状態を示す。
表示領域VRは、画像表示部20を頭部に装着した使用者Uの視野範囲FVにおいて、画像表示部20が表示画像を表示可能な領域である。表示領域VRは外景に重畳され、使用者Uは画像表示部20が表示する表示画像と外景とを同時に視認することができる。図7に示す表示領域VRには、画像表示部20が表示する表示画像の一例として、自転車の画像410と、ポインター420とが表示された状態を示す。表示制御部155は、操作パッド14により受け付けた操作により、ポインター420の表示位置を変更する。
表示制御部155は、画像表示部20を制御して、音声認識部158から入力されたテキストデータを表示領域VRに表示させる。図7には、テキストデータとして「自転車の色を選択してください。」の文字430が表示された状態を示す。
また、表示領域VRには、第1音声信号の音量(ボリューム)を表示する図形450と、第2音声信号の音量(ボリューム)を表示する図形470とが表示される。図形450や470は、グラフィカルユーザーインターフェイスとして表示領域VRに表示される。
図形450は、図形470とは形状が異なり、使用者Uが第1音声信号の音量を認識可能な図形であればよい。同様に、図形470は、図形450とは形状が異なり、使用者Uが第2音声信号の音量を認識可能な図形であればよい。また、図7には、形状が異なる図形450と図形470とを表示させた例を示すが、図形450と図形470とは、形状、色及びサイズのうちのいずれか少なくとも1つが異なればよい。
図形450は、図形470とは形状が異なり、使用者Uが第1音声信号の音量を認識可能な図形であればよい。同様に、図形470は、図形450とは形状が異なり、使用者Uが第2音声信号の音量を認識可能な図形であればよい。また、図7には、形状が異なる図形450と図形470とを表示させた例を示すが、図形450と図形470とは、形状、色及びサイズのうちのいずれか少なくとも1つが異なればよい。
図7に示す表示例は、第1音声信号の音量に対応した数の図形450が表示され、同様に、第2音声信号の音量に対応した数の図形470が表示される。
表示制御部155は、例えば、操作部170により第1音声信号の音量をアップさせる操作を受け付けた場合、アップさせる音量に対応して図形450の数を増加させる。また、表示制御部155は、第1音声信号の音量をダウンさせる場合、ダウンさせた音量に対応して図形450の数を減少させる。
同様に、表示制御部155は、操作部170により第2音声信号の音量をアップさせる操作を受け付けた場合、アップさせる音量に対応して図形470の数を増加させる。また、表示制御部155は、第2音声信号の音量をダウンさせる場合、ダウンさせた音量に対応して図形450の数を減少させる。
表示制御部155は、例えば、操作部170により第1音声信号の音量をアップさせる操作を受け付けた場合、アップさせる音量に対応して図形450の数を増加させる。また、表示制御部155は、第1音声信号の音量をダウンさせる場合、ダウンさせた音量に対応して図形450の数を減少させる。
同様に、表示制御部155は、操作部170により第2音声信号の音量をアップさせる操作を受け付けた場合、アップさせる音量に対応して図形470の数を増加させる。また、表示制御部155は、第2音声信号の音量をダウンさせる場合、ダウンさせた音量に対応して図形450の数を減少させる。
表示制御部155は、音声モードが第1音声モードである場合には、第1音声信号の音量を示す図形450と、第2音声信号の音量を示す図形470とを表示領域VRに表示させる。また、表示制御部155は、音声モードが第2音声モードである場合には、第1音声信号の音量を示す図形450と、第2音声信号の音量を示す図形470とのいずれか一方を表示領域VRに表示させる。すなわち、出力中の音声信号に対応した図形450又は470を表示領域VRに表示させる。
また、第1音声信号の音量に応じて図形450のサイズや、色の濃度を変更してもよい。表示制御部155は、第1音声信号の音量が大きくなるほど、図形450のサイズが大きくなるように図形450のサイズを変更したり、図形450の色の濃度が濃くなるように図形450の表示色を変更したりしてもよい。
同様に、第2音声信号の音量に応じて図形470のサイズや、色の濃度を変更してもよい。表示制御部155は、第2音声信号の音量が大きくなるほど、図形470のサイズが大きくなるように図形470のサイズを変更したり、図形470の色の濃度が濃くなるように図形470の表示色を変更したりしてもよい。
同様に、第2音声信号の音量に応じて図形470のサイズや、色の濃度を変更してもよい。表示制御部155は、第2音声信号の音量が大きくなるほど、図形470のサイズが大きくなるように図形470のサイズを変更したり、図形470の色の濃度が濃くなるように図形470の表示色を変更したりしてもよい。
また、第1音声信号の音量に対応した図形450や、第2音声信号の音量に対応した図形470に代えて、第1音声信号の音量や、第2音声信号の音量を示すテキストを表示領域VRに表示させてもよい。例えば、表示制御部155は、第1音声信号の音量を、0%以上、100%以下の範囲の数値で表示してもよいし、第1音声信号の音量に対応した例えば、大、中、小の文字を表示させてもよい。第2音声信号についても同様である。
また、表示制御部155は、ポインター420をグラフィカルユーザーインターフェイスとして表示領域に表示させる。音声制御部157は、本発明の「操作部」に対応する機能部である操作パッド14の操作面に対する操作を受け付けて、第1音声信号や第2音声信号の音量を変更する。
例えば、使用者Uは、操作パッド14の操作面に対する操作を行って、音量を変更したい音声信号に対応する図形450又は470の表示位置にポインター420を移動させる。表示制御部155は、使用者Uによる操作面に対する操作を受け付け、表示領域VRにおけるポインター420の表示位置を、受け付けた操作に対応して変更する。
使用者Uは、ポインター420が図形450又は図形470に重なると、操作パッド14の操作面に対して操作を行う。この操作は、ポインター420の表示位置を移動させる操作とは異なる操作であり、例えば、操作パッド14操作面への接触、加圧、或いは衝撃のいずれかの操作が含まれる。
使用者Uは、ポインター420が図形450又は図形470に重なると、操作パッド14の操作面に対して操作を行う。この操作は、ポインター420の表示位置を移動させる操作とは異なる操作であり、例えば、操作パッド14操作面への接触、加圧、或いは衝撃のいずれかの操作が含まれる。
例えば、音声制御部157は、操作面の同一位置を複数回叩く操作を受け付けた場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を、叩く操作に対応して大きくする。また、音声制御部157は、操作面の同一位置を長押しする操作を受け付けた場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を、長押しが検出される時間に対応して小さくする。
また、音声信号の音量を変更する操作は、操作パッド14の操作面に対する操作だけではなく、例えば、ジェスチャーにより行うことも可能である。
制御部150は、6軸センサー235の検出値により使用者Uの頭部の動きを検出する。例えば、制御部150は、6軸センサー235の検出値により頭部を上から下に動かす(すなわち、うなずく)動作を検出した場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を大きくする。また、制御部150は、6軸センサー235の検出値により頭部を下から上に動かす動作を検出した場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を小さくする。
制御部150は、6軸センサー235の検出値により使用者Uの頭部の動きを検出する。例えば、制御部150は、6軸センサー235の検出値により頭部を上から下に動かす(すなわち、うなずく)動作を検出した場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を大きくする。また、制御部150は、6軸センサー235の検出値により頭部を下から上に動かす動作を検出した場合、ポインター420が重なる図形450又は470に対応する音声信号の音量を小さくする。
また、制御部150は、6軸センサー235の検出値により使用者Uの頭部を左に回転させる動きが検出された場合に、ポインター420が重なる図形450又は470に対応する音声信号の音量を大きく変更してもよい。また、制御部150は、6軸センサー235の検出値により使用者Uの頭部を右に回転させる動きが検出された場合に、ポインター420が重なる図形450又は470に対応する音声信号の音量を小さく変更してもよい。
また、制御部150は、6軸センサー235の検出値により使用者Uの頭部を左又は右に回転させる動きが検出された場合に、ポインター420が重なる図形450又は470に対応する音声信号をミュートしてもよい。
また、制御部150は、6軸センサー235の検出値により使用者Uの頭部を左又は右に回転させる動きが検出された場合に、ポインター420が重なる図形450又は470に対応する音声信号をミュートしてもよい。
[HMDの動作]
図8及び図9は、制御部150の動作を示すフローチャートである。
制御部150は、使用者Uの操作により選択されたアプリケーションプログラム142を実行する(ステップS1)。ここで、選択されたアプリケーションプログラム142は、動画再生用のアプリケーションプログラム142であると仮定して説明する。
図8及び図9は、制御部150の動作を示すフローチャートである。
制御部150は、使用者Uの操作により選択されたアプリケーションプログラム142を実行する(ステップS1)。ここで、選択されたアプリケーションプログラム142は、動画再生用のアプリケーションプログラム142であると仮定して説明する。
次に、制御部150は、コンテンツデータ144の再生指示を受信したか否かを判定する(ステップS2)。制御部150は、第1通信部116が端末装置300からコンテンツデータ144の識別情報と、再生指示とを受け付けたか否かを判定する(ステップS2)。制御部150は、コンテンツデータ144の再生指示を受信していない場合(ステップS2/NO)、第2通信部117が音声信号を受信したか否かを判定する(ステップS3)。制御部150は、第2通信部117が音声信号を受信した場合(ステップS3/YES)、受信した音声信号が左チャネル及び右チャネルから出力されるように音声処理部180を制御し(ステップS4)、ステップS2の判定に戻る。また、制御部150は、第2通信部117が音声信号を受信していない場合(ステップS3/NO)、ステップS2の判定に戻る。
また、制御部150は、ステップS2において、コンテンツデータ144の再生指示を受信した場合(ステップS2/YES)、再生指示に含まれる識別情報により指定されたコンテンツデータ144の再生を開始する(ステップS5)。次に、制御部150は、第2通信部117が音声信号を受信したか否かを判定する(ステップS6)。
制御部150は、第2通信部117が音声信号を受信していない場合(ステップS6/NO)、ミュート又は音量変更の操作を操作部170により受け付けたか否かを判定する(ステップS7)。制御部150は、ミュート又は音量変更の操作を受け付けた場合(ステップS7/YES)、音声出力のミュート指示又は音量変更の指示を音声処理部180に出力する。音声処理部180は、制御部150から入力されるミュート指示又は音量変更の指示に従い、出力中の音声信号をミュート又は音量を変更する(ステップS8)。また、制御部150は、ミュート又は音量変更の操作を受け付けていない場合(ステップS7/NO)、受け付けた操作に対応した処理を実行し(ステップS9)、ステップS10の判定に移行する。
制御部150は、ステップS10において、コンテンツデータ144の再生が終了したか否かを判定する。制御部150は、コンテンツデータ144の再生が終了していない場合(ステップS10/NO)、ステップS6の判定に戻り、第2通信部117が音声データを受信したか否かを判定する。また、制御部150は、コンテンツデータ144の再生が終了した場合(ステップS10/YES)、ステップS2に戻り、コンテンツデータ144の再生指示を第2通信部117により受信したか否かを判定する。
また、制御部150は、ステップS6において、第2通信部117が音声データを受信したと判定した場合(ステップS6/YES)、音声モードを変更する(ステップS11)。制御部150は、コンテンツデータ144の再生中に、第2通信部117が音声データを受信した場合、音声モードを第2音声モードから第1音声モードに変更する。
制御部150は、音声モードを第1音声モードに変更すると、左チャネル及び右チャネルから異なる音声が出力されるように音声処理部180を制御する(ステップS12)。例えば、制御部150は、コンテンツデータ144に含まれる音声の第1音声信号が左チャネルから出力され、第2通信部117が受信した音声データを処理して得た第2音声信号が右チャネルから出力されるように音声処理部180を制御する。
次に、制御部150は、操作部170により操作を受け付けたか否かを判定する(ステップS13)。制御部150は、操作部170により操作を受け付けていないと判定すると(ステップS13/NO)、ステップS17の判定に移行する。また、制御部150は、操作部170により操作を受け付けた場合(ステップS13/YES)、受け付けた操作がミュート操作又は音量の変更操作であるか否かを判定する(ステップS14)。
制御部150は、受け付けた操作がミュート操作又は音量の変更操作であると判定すると(ステップS14/YES)、ミュートするチャネルを判定し、判定したチャネルへの音声出力をミュートするように音声処理部180を制御する(ステップS15)。また、制御部150は、音量を変更するチャネルを判定し、判定したチャネルに出力する音声信号の音量を変更するように音声処理部180を制御する(ステップS15)。
また、制御部150は、受け付けた操作がミュート操作又は音量の変更操作ではないと判定すると(ステップS14/NO)、受け付けた操作に対応した処理を実行する(ステップS16)。
また、制御部150は、受け付けた操作がミュート操作又は音量の変更操作ではないと判定すると(ステップS14/NO)、受け付けた操作に対応した処理を実行する(ステップS16)。
次に、制御部150は、コンテンツデータ144の再生が終了したか否かを判定する(ステップS17)。制御部150は、コンテンツデータ144の再生が終了していないと判定した場合(ステップS17/NO)、ステップS13の判定に戻り、操作部170により操作を受け付けたか否かを判定する。また、制御部150は、コンテンツデータ144の再生が終了したと判定した場合(ステップS17/YES)、音声モードを第1音声モードから第2音声モードに変更し(ステップS18)、この処理フローを終了する。
上述した実施形態では、HMD100が右イヤホン32及び左イヤホン34を有するヘッドセット30により音声信号を出力する場合について説明したが、右イヤホン32、左イヤホン34に代えて、骨伝導スピーカーを採用してもよい。骨伝導スピーカーを使用者Uの左右の両頬に接触させることで、右チャネルの音声信号を右頬に接触させた骨伝導スピーカーから出力する。また、左チャネルの音声信号を左頬に接触させた骨伝導スピーカーから出力する。
以上説明したように本実施形態のHMD100は、画像表示部20と、右イヤホン32及び左イヤホン34と、第2通信部117と、制御部150とを備える。
画像表示部20は、使用者Uの頭部に装着され、画像を表示する。
右イヤホン32及び左イヤホン34は、使用者Uの右の耳、及び左の耳にそれぞれ装着される。右イヤホン32には、右耳用の右チャンネルの音声信号に基づいて音声が出力される。また、左イヤホン34には、左耳用の左チャネルの音声信号に基づいて音声が出力される。第2通信部117は、音声データを受信する。制御部150は、画像表示部20による表示画像に関連する第1音声信号、及び第2通信部117で受信した第2音声信号を左チャンネル、及び右チャンネルにそれぞれ割り当てて、音声として出力させる。
画像表示部20は、使用者Uの頭部に装着され、画像を表示する。
右イヤホン32及び左イヤホン34は、使用者Uの右の耳、及び左の耳にそれぞれ装着される。右イヤホン32には、右耳用の右チャンネルの音声信号に基づいて音声が出力される。また、左イヤホン34には、左耳用の左チャネルの音声信号に基づいて音声が出力される。第2通信部117は、音声データを受信する。制御部150は、画像表示部20による表示画像に関連する第1音声信号、及び第2通信部117で受信した第2音声信号を左チャンネル、及び右チャンネルにそれぞれ割り当てて、音声として出力させる。
上記構成によれば、HMD100を装着することで、例えば、美術館や博物館等において、案内者Gの発する声と、館内の展示物を説明した動画(コンテンツデータ144)の音声とを両方同時に聞くことができる。
このため、コンテンツデータ144の再生のためにHMD100を装着し、案内者Gの音声を聞くためにレシーバーをさらに装着する場合と比較して、使用者Uに装着させる機器の数を減らすことができる。また、レシーバーとHMD100とを両方操作する場合と比較して、HMD100だけを操作すればよいので、操作性を高めることができる。
このため、コンテンツデータ144の再生のためにHMD100を装着し、案内者Gの音声を聞くためにレシーバーをさらに装着する場合と比較して、使用者Uに装着させる機器の数を減らすことができる。また、レシーバーとHMD100とを両方操作する場合と比較して、HMD100だけを操作すればよいので、操作性を高めることができる。
また、アプリケーション実行部156、又は第1通信部116は、表示用のコンテンツデータ144を取得する取得部として動作する。
制御部150は、取得したコンテンツデータ144に基づく画像を画像表示部20により表示させ、コンテンツデータ144に含まれる第1音声信号、及び第2通信部117で受信した第2音声信号を右イヤホン32及び左イヤホン34により出力させる。
従って、コンテンツデータ144に基づく画像を画像表示部20により表示させながら、コンテンツデータ144に含まれる第1音声信号と、第2通信部117が受信した第2音声信号とを右イヤホン32及び左イヤホン34により出力させることができる。
制御部150は、取得したコンテンツデータ144に基づく画像を画像表示部20により表示させ、コンテンツデータ144に含まれる第1音声信号、及び第2通信部117で受信した第2音声信号を右イヤホン32及び左イヤホン34により出力させる。
従って、コンテンツデータ144に基づく画像を画像表示部20により表示させながら、コンテンツデータ144に含まれる第1音声信号と、第2通信部117が受信した第2音声信号とを右イヤホン32及び左イヤホン34により出力させることができる。
また、HMD100は、右イヤホン32及び左イヤホン34により出力される音声信号の音量の変更指示及びミュートの指示の少なくともいずれかを受け付ける操作部170を、ユーザーインターフェイス部として備える。
制御部150は、操作部170により受け付けた指示に従って右イヤホン32及び左イヤホン34により出力させる音声信号の音量を変更又はミュートを実行させる。
従って、操作部170を操作して、右イヤホン32及び左イヤホン34に出力される音声信号の音量を変更したり、又は音声信号をミュートしたりすることができる。
制御部150は、操作部170により受け付けた指示に従って右イヤホン32及び左イヤホン34により出力させる音声信号の音量を変更又はミュートを実行させる。
従って、操作部170を操作して、右イヤホン32及び左イヤホン34に出力される音声信号の音量を変更したり、又は音声信号をミュートしたりすることができる。
また、操作部170は、右イヤホン32の右チャネル、及び左イヤホン34の左チャネルごとに、音声信号の音量の変更指示、又は音声信号のミュートの指示を受け付ける。
この構成によれば、右チャネル及び左チャネルのチャネルごとに、音声信号の音量を変更し、音声信号をミュートすることができる。
この構成によれば、右チャネル及び左チャネルのチャネルごとに、音声信号の音量を変更し、音声信号をミュートすることができる。
また、制御部150は、コンテンツデータ144に含まれる第1音声信号を右チャネル及び左チャネルのうちのいずれか一方のチャネルに出力させ、第2通信部117で受信した第2音声信号を、他方のチャネルに出力させる第1音声モードを備える。
また、制御部150は、コンテンツデータ144に含まれる第1音声信号、又は第2通信部117で受信した第2音声信号を右チャネル又は左チャネルから出力させる第2音声モードを備える。制御部150は、第1音声モードと第2音声モードとを切り替えて実行可能(切替可能)である。
制御部150は、音声モードが第1音声モードである場合、右チャネル及び左チャネルのチャネルごとに指示を受け付ける。また、制御部150は、音声モードが第2モードである場合、音声信号を出力中のチャネルについて指示を受け付ける。
従って、音声モードを変更することで、音量の変更又はミュートを設定可能なチャネルを変更することができる。
また、制御部150は、コンテンツデータ144に含まれる第1音声信号、又は第2通信部117で受信した第2音声信号を右チャネル又は左チャネルから出力させる第2音声モードを備える。制御部150は、第1音声モードと第2音声モードとを切り替えて実行可能(切替可能)である。
制御部150は、音声モードが第1音声モードである場合、右チャネル及び左チャネルのチャネルごとに指示を受け付ける。また、制御部150は、音声モードが第2モードである場合、音声信号を出力中のチャネルについて指示を受け付ける。
従って、音声モードを変更することで、音量の変更又はミュートを設定可能なチャネルを変更することができる。
また、制御部150は、グラフィカルユーザーインターフェイスとして、第1音声信号の音量に対応した図形450や、第2音声信号の音量に対応した図形470を画像表示部20により表示させる。また、制御部150は、グラフィカルユーザーインターフェイスとして、ポインター420を画像表示部20により表示させる。制御部150は、操作パッド14の操作面に対する使用者Uの操作によりポインター420の表示位置を変更する。制御部150は、ポインター420の操作により第1音声信号及び第2音声信号の音量を変更する操作や、ミュートを指示する操作を受け付ける。
従って、画像表示部20により表示される画像を視認しながら音声信号の音量を変更する操作や、ミュートを指示する操作を行うことができるので、操作をより簡易に行うことができる。
従って、画像表示部20により表示される画像を視認しながら音声信号の音量を変更する操作や、ミュートを指示する操作を行うことができるので、操作をより簡易に行うことができる。
また、HMD100は、ユーザーインターフェイス部として、コントローラー10に搭載された操作パッド14を備え、操作パッド14の操作面に対する操作を受け付ける。
制御部150は、操作パッド14の操作面に対する接触、加圧、或いは衝撃のいずれかを含む操作により音声信号の音量を変更する操作や、ミュートを指示する操作を受け付ける。
従って、操作パッド14の操作面に対する接触、加圧、或いは衝撃の操作により音声信号の音量を変更したり、音声信号をミュートさせたりすることができる。
制御部150は、操作パッド14の操作面に対する接触、加圧、或いは衝撃のいずれかを含む操作により音声信号の音量を変更する操作や、ミュートを指示する操作を受け付ける。
従って、操作パッド14の操作面に対する接触、加圧、或いは衝撃の操作により音声信号の音量を変更したり、音声信号をミュートさせたりすることができる。
また、画像表示部20は、外景を透過する表示領域VRに画像を表示する透過型の表示部である。
従って、外景を透過する表示領域VRに表示された画像を視認しながら、右イヤホン32及び左イヤホン34に出力される音声信号の音量を変更する操作や、音声信号をミュートする操作を行うことができる。
従って、外景を透過する表示領域VRに表示された画像を視認しながら、右イヤホン32及び左イヤホン34に出力される音声信号の音量を変更する操作や、音声信号をミュートする操作を行うことができる。
また、制御部150は、第2通信部117で受信した音声信号に対応するテキストを画像表示部20により表示させる。
従って、音声信号に対応したテキストを画像表示部20により表示させることができる。このため、音声信号が聞きにくい場所では、テキストにより音声の内容を把握することができる。
従って、音声信号に対応したテキストを画像表示部20により表示させることができる。このため、音声信号が聞きにくい場所では、テキストにより音声の内容を把握することができる。
また、制御部150は、第2通信部117で受信した第2音声信号の出力状態を変化させる場合に、画像表示部20により表示させるテキストの表示状態を変化させる。
従って、使用者Uに、テキストの表示状態により音声信号の出力状態の変化を認識させることができる。
従って、使用者Uに、テキストの表示状態により音声信号の出力状態の変化を認識させることができる。
また、第2通信部117は、無線通信により音声データを受信する。
従って、第2音声信号を無線通信により受信することができる。このため、第2音声信号を受信するためにHMD100を有線で接続する必要がなくなり、第2音声信号を受信可能な範囲を、有線による接続の場合と比較して広げることができる。
従って、第2音声信号を無線通信により受信することができる。このため、第2音声信号を受信するためにHMD100を有線で接続する必要がなくなり、第2音声信号を受信可能な範囲を、有線による接続の場合と比較して広げることができる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、端末装置300が、HMD100に再生させるコンテンツデータ373を記憶部370から読み出し、第1通信部310によりHMD100に送信してもよい。HMD100は、端末装置300から受信したコンテンツデータ373をアプリケーション実行部156で再生してもよい。この場合、HMD100の第1通信部116は、本発明の「取得部」に対応した動作を行う。
例えば、端末装置300が、HMD100に再生させるコンテンツデータ373を記憶部370から読み出し、第1通信部310によりHMD100に送信してもよい。HMD100は、端末装置300から受信したコンテンツデータ373をアプリケーション実行部156で再生してもよい。この場合、HMD100の第1通信部116は、本発明の「取得部」に対応した動作を行う。
また、HMD100にノイズキャンセリング機能を設けて、案内者Gと使用者Uとが雑音の多い場所にいる場合に、ノイズをキャンセルするようにしてもよい。
また、上述の実施形態では、音声出力部が右イヤホン32及び左イヤホン34である場合を例にして説明したが、本体11の例えば、右保持部21と左保持部23にスピーカーを設けてもよいし、Bluetooth接続されたイヤホンから音声を出力してもよい。
また、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者Uの左眼に対応して画像を表示する表示部と、使用者Uの右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者Uの身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
さらに、コントローラー10と画像表示部20とが一体に構成され、使用者Uの頭部に装着される構成とすることも可能である。また、コントローラー10として、ノート型コンピューター、タブレット型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、上記実施形態では、画像表示部20とコントローラー10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明したが、コントローラー10と画像表示部20とが無線通信回線によって接続される構成であってもよい。
また、画像光を使用者Uの眼に導く光学系として、右導光板26及び左導光板28は、ハーフミラーを用いてもよいし、回折格子、プリズム等を用いてもよい。また、画像表示部20は、ホログラフィー表示部を用いてもよい。
また、ブロック図に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部150が実行するプログラムは、不揮発性記憶部121またはコントローラー10内の他の記憶装置(図示略)に記憶されてもよい。また、外部の装置に記憶されたプログラムをUSBコネクター19、第1通信部116、第2通信部117、外部メモリーインターフェイス191などを介して取得して実行する構成としてもよい。また、コントローラー10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、メインプロセッサー125と同様のプロセッサーが画像表示部20に配置されてもよいし、コントローラー10が備えるメインプロセッサー125と画像表示部20のプロセッサーとが別々に分けられた機能を実行する構成としてもよい。
また、本発明の頭部装着型表示装置の制御方法を、表示装置を備えたコンピューターを用いて実現する場合、本発明を、上記制御方法を実現するためにコンピューターが実行するプログラム、このプログラムを前記コンピューターで読み取り可能に記録した記録媒体、或いは、このプログラムを伝送する伝送媒体の態様で構成することも可能である。上記記録媒体としては、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、HDD(Hard Disk Drive)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Versatile Disk)、Blu−ray(登録商標) Disc、光磁気ディスク、フラッシュメモリー、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、上記記録媒体は、画像表示装置が備える内部記憶装置であるRAM(Random Access Memory)、ROM(Read Only Memory)、HDD等の不揮発性記憶装置であってもよい。
1…音声伝送システム、10…コントローラー、11…本体、12…ホイール操作部、13…中央キー、14…操作パッド、15…上下キー、17…LED表示部、18…電源スイッチ、19…USBコネクター、20…画像表示部、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、42…コネクター、46…オーディオコネクター、61…カメラ、63…マイク、64…距離センサー、65…照度センサー、67…LEDインジケーター、69…温度センサー、100…HMD、111…6軸センサー、113…磁気センサー、115…GPS、116…第1通信部、117…第2通信部、118…メモリー、120…コントローラー基板、121…不揮発性記憶部、125…メインプロセッサー、130…電源部、132…バッテリー、134…電源制御回路、140…記憶部、141…オペレーティングシステム、142…アプリケーションプログラム、143…設定データ、144…コンテンツデータ、150…制御部、151…基本制御部、152…通信制御部、153…画像処理部、154…撮像制御部、156…アプリケーション実行部、157…音声制御部、158…音声認識部、170…操作部、172…タッチセンサー、174…スイッチ、176…バイブレーター、180…音声処理部、181…処理部、183…チャネル設定部、185…右チャネル用D/Aコンバーター、187…左チャネル用D/Aコンバーター、191…外部メモリーインターフェイス、193…センサーハブ、195…FPGA、197…インターフェイス、199…USBコントローラー、211…インターフェイス、213…受信部、215…EEPROM、221…OLEDユニット、231…インターフェイス、233…受信部、235…6軸センサー、237…磁気センサー、239…温度センサー、241…OLEDユニット、300…端末装置、310…第1通信部、320…第2通信部、330…操作部、343…操作検出部、350…音声出力部、360…音声入力部、370…記憶部、371…制御プログラム、373…コンテンツデータ、375…接続情報、380…制御部、381…通信制御部、383…アプリケーション実行部、410…画像、420…ポインター、430…文字。
Claims (13)
- 使用者の頭部に装着され、画像を表示する表示部と、
右チャネルと左チャネルとに音声を出力する音声出力部と、
音声信号を受信する通信部と、
前記表示部による表示画像に関連する音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当てて出力させる制御部と、
を備える頭部装着型表示装置。 - 音声信号を伴う表示用のコンテンツデータを取得する取得部を備え、
前記制御部は、前記取得部により取得された前記コンテンツデータに基づく画像を前記表示部により表示させ、前記コンテンツデータの前記音声信号に基づく音声、及び前記通信部で受信した音声信号に基づく音声を前記音声出力部により出力させる、請求項1記載の頭部装着型表示装置。 - 前記音声出力部により出力される音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付けるユーザーインターフェイス部を備え、
前記制御部は、前記ユーザーインターフェイス部により受け付けた指示に従って前記音声出力部により出力させる音声信号のボリューム変更又はミュートを実行させる、請求項2記載の頭部装着型表示装置。 - 前記ユーザーインターフェイス部は、前記音声出力部のチャネルごとに、音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付ける、請求項3記載の頭部装着型表示装置。
- 前記制御部は、前記コンテンツデータの前記音声信号に基づく音声を右チャネル及び左チャネルのうちのいずれか一方のチャネルから出力させ、前記通信部で受信した音声信号に基づく音声を、右チャネル及び左チャネルのうちの他方のチャネルから出力させる第1音声モードと、
前記コンテンツデータの前記音声信号に基づく音声、及び前記通信部で受信した音声信号に基づく音声のいずれか一方を、右チャネル及び左チャネルから出力させる第2音声モードと、を切替可能であり、
前記ユーザーインターフェイス部は、前記第1音声モードでは前記音声出力部のチャネルごとに前記指示を受け付け、前記第2音声モードでは音声信号を出力中のチャネルについて前記指示を受け付ける、請求項3記載の頭部装着型表示装置。 - 前記ユーザーインターフェイス部は、前記表示部が表示する画像を含むグラフィカルユーザーインターフェイスで構成される、請求項3項に記載の頭部装着型表示装置。
- 前記ユーザーインターフェイス部は、操作を受け付ける操作部を含み、前記操作部に対する接触、加圧、或いは衝撃のいずれかを含む操作により音声信号のボリュームの変更の指示及びミュートの指示の少なくともいずれかを受け付ける、請求項3から6のいずれか1項に記載の頭部装着型表示装置。
- 前記表示部は、外景を透過する表示領域に画像を表示する透過型の表示部である、請求項1から7のいずれか1項に記載の頭部装着型表示装置。
- 前記制御部は、前記通信部で受信した音声信号に基づく音声に対応するテキストを前記表示部に表示させる、請求項1から8のいずれか1項に記載の頭部装着型表示装置。
- 前記制御部は、前記通信部で受信した音声信号に基づく音声の出力状態を変化させる場合に、前記表示部に表示させる前記テキストの表示状態を変化させる、請求項9記載の頭部装着型表示装置。
- 前記通信部は無線通信により前記音声信号を受信する、請求項1から10のいずれか1項に記載の頭部装着型表示装置。
- 音声信号を送信する送信装置と、前記送信装置が送信する音声信号を受信する頭部装着型表示装置とを有する音声伝送システムであって、
前記頭部装着型表示装置は、
使用者の頭部に装着され、画像を表示する表示部と、
右チャネルと左チャネルとに音声を出力する音声出力部と、
音声信号を受信する通信部と、
前記表示部による表示画像に関連する音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当てて出力させる制御部と、
を備える音声伝送システム。 - 使用者の頭部に装着され、画像を表示する表示部と、右チャネルと左チャネルとに音声を出力する音声出力部と、通信部とを備える頭部装着型表示装置の制御方法であって、
音声信号を前記通信部により受信し、
前記表示部による表示画像に関連する音声の音声信号、及び前記通信部で受信した音声信号に基づく音声を左チャンネル、及び右チャンネルにそれぞれ割り当て、
左チャネルに割り当てた音声信号と、右チャネルに割り当てた音声信号とを前記音声出力部により出力する、頭部装着型表示装置の制御方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018008628A JP2019129366A (ja) | 2018-01-23 | 2018-01-23 | 頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 |
US16/254,062 US10761333B2 (en) | 2018-01-23 | 2019-01-22 | Head mounted display device, sound transmission system, and control method for head mounted display device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018008628A JP2019129366A (ja) | 2018-01-23 | 2018-01-23 | 頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019129366A true JP2019129366A (ja) | 2019-08-01 |
Family
ID=67299197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018008628A Pending JP2019129366A (ja) | 2018-01-23 | 2018-01-23 | 頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10761333B2 (ja) |
JP (1) | JP2019129366A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023149317A1 (ja) * | 2022-02-07 | 2023-08-10 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器、及び制御方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111866672B (zh) * | 2020-08-03 | 2021-03-30 | 苏州索迩电子技术有限公司 | 屏幕发声装置、方法、存储介质及终端设备 |
CN113766383A (zh) * | 2021-09-08 | 2021-12-07 | 度小满科技(北京)有限公司 | 一种控制耳机静音的方法和装置 |
US11765508B2 (en) * | 2021-09-15 | 2023-09-19 | Motorola Mobility Llc | Wearable audio device with centralized stereo image and corresponding methods |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9608739B2 (en) | 2013-10-15 | 2017-03-28 | Visteon Global Technologies, Inc. | System and method for a blended signal |
KR20150107528A (ko) * | 2014-03-14 | 2015-09-23 | 삼성전자주식회사 | 사용자 인터페이스를 제공하는 방법과 전자 장치 |
US9858720B2 (en) * | 2014-07-25 | 2018-01-02 | Microsoft Technology Licensing, Llc | Three-dimensional mixed-reality viewport |
JP6476781B2 (ja) * | 2014-11-17 | 2019-03-06 | セイコーエプソン株式会社 | 情報処理装置、情報処理装置を制御する方法、コンピュータープログラム |
KR20170128820A (ko) * | 2016-05-16 | 2017-11-24 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
CN109983755A (zh) * | 2016-06-30 | 2019-07-05 | 北方公司 | 基于眼睛跟踪自动聚焦的图像捕获系统、设备和方法 |
-
2018
- 2018-01-23 JP JP2018008628A patent/JP2019129366A/ja active Pending
-
2019
- 2019-01-22 US US16/254,062 patent/US10761333B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023149317A1 (ja) * | 2022-02-07 | 2023-08-10 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器、及び制御方法 |
Also Published As
Publication number | Publication date |
---|---|
US10761333B2 (en) | 2020-09-01 |
US20190227323A1 (en) | 2019-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10761333B2 (en) | Head mounted display device, sound transmission system, and control method for head mounted display device | |
US10635182B2 (en) | Head mounted display device and control method for head mounted display device | |
US10949055B2 (en) | Display system, display apparatus, control method for display apparatus | |
JP2018101019A (ja) | 表示装置及び表示装置の制御方法 | |
US10976836B2 (en) | Head-mounted display apparatus and method of controlling head-mounted display apparatus | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
US10261327B2 (en) | Head mounted display and control method for head mounted display | |
US10567730B2 (en) | Display device and control method therefor | |
JP2019105777A (ja) | 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 | |
JP6740584B2 (ja) | 表示システム、表示装置の制御方法、及び、プログラム | |
CN111142838A (zh) | 音频播放方法、装置、计算机设备及存储介质 | |
JP6364735B2 (ja) | 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法 | |
CN114422935B (zh) | 音频处理方法、终端及计算机可读存储介质 | |
KR20150091608A (ko) | 이동 단말기 및 그 제어 방법 | |
JP6439448B2 (ja) | 表示システム、プログラム、及び、表示装置の制御方法 | |
US20190287489A1 (en) | Head-mounted display apparatus and method for controlling head-mounted display apparatus | |
CN110349527B (zh) | 虚拟现实显示方法、装置及系统、存储介质 | |
JP6766403B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム | |
JP2018091882A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2019053644A (ja) | 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 | |
JP2017134630A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2017142294A (ja) | 表示装置、及び、表示装置の制御方法 | |
JP2022144581A (ja) | 表示システム、表示装置及び表示装置の制御方法 | |
JP2017182413A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2017182460A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム |