JP2019128757A - 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 - Google Patents

頭部装着型表示装置、及び頭部装着型表示装置の制御方法 Download PDF

Info

Publication number
JP2019128757A
JP2019128757A JP2018009517A JP2018009517A JP2019128757A JP 2019128757 A JP2019128757 A JP 2019128757A JP 2018009517 A JP2018009517 A JP 2018009517A JP 2018009517 A JP2018009517 A JP 2018009517A JP 2019128757 A JP2019128757 A JP 2019128757A
Authority
JP
Japan
Prior art keywords
head
display
unit
control unit
icon
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018009517A
Other languages
English (en)
Inventor
賢 富澤
Ken Tomizawa
賢 富澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2018009517A priority Critical patent/JP2019128757A/ja
Publication of JP2019128757A publication Critical patent/JP2019128757A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

【課題】適切かつ効果的な案内を表示させて、頭部の動きによる操作をより確実に行うことができるようにする。【解決手段】使用者Uの頭部に装着され、外景とともに視認できるように表示領域VRに画像を表示する画像表示部20と、使用者Uの頭部の動きを検出する6軸センサー235と、HMD100が実行可能な処理の案内表示を画像表示部20により表示領域VRに表示させる制御部150とを備える。制御部150は、6軸センサー235により検出された頭部の動きに対応付けられた処理を実行する処理実行部として動作し、制御部150は、案内表示として、使用者が操作として行う頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトとを表示させる。【選択図】図4

Description

本発明は、頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法に関する。
従来、使用者の頭部に装着される表示装置として頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、以下、HMDとも表記する)が知られている。このHMDでは、使用者の頭部に装着されて使用されるという性質上、従来とは異なる様々な態様の入力手段が提案されている(例えば、特許文献1参照)。
特許文献1は、頭部装着型表示装置を用いて視聴者の視界を超える大きさの映像を表示する際に、視聴者の顔の向きに関する情報に基づいて、映像の再生速度を決定する画像処理装置を開示する。
特開2017−126899号公報
ところで、頭部を動かして行う操作により、映像の再生速度の変更に限らず種々の操作が可能となるが、可能な操作の数が増えるほど、頭部の動きがどの操作に対応付けられているのかが分かり難い場合がある。特に、頭部装着型表示装置の状態に応じて可能な操作が変更される場合、頭部の動きがどの操作に対応付けられているのかが分かり難いという問題がある。
本発明は、適切かつ効果的な案内を表示させて、頭部の動きによる操作をより確実に行うことができるようにすることを目的とする。
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置であって、外景とともに視認できるように表示領域に画像を表示する表示部と、前記頭部の動きを検出する検出部と、前記頭部装着型表示装置が実行可能な処理の案内表示を前記表示部により前記表示領域に表示させる表示制御部と、前記検出部により検出された前記頭部の動きに対応付けられた処理を実行する処理実行部と、を備え、前記表示制御部は、前記案内表示として、使用者が操作として行う前記頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトと、を表示させる。
この構成によれば、頭部の動きを検出して検出して前記頭部の動きに対応付けられた処理を実行する場合に、頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトとが表示領域に表示される。このため、使用者は、状態オブジェクトの表示により頭部装着型表示装置の状態を確認しながら、操作オブジェクトの表示を視認して頭部による操作を行うことができる。このため、頭部の動きによる操作をより確実に行うことができる。
また、本発明は、前記表示制御部は、前記頭部の動きを案内するアイコンと、前記頭部の動きに対応付けられた処理を示す文字とを前記操作オブジェクトとして表示させる。
この構成によれば、アイコンに加えて、頭部の動きに対応付けられた処理を示す文字が表示されるので、頭部の動きによる操作をさらに確実に行うことができる。
また、本発明は、前記表示制御部は、前記処理実行部が実行する処理に応じて、前記表示領域に表示させる前記操作オブジェクトの表示位置、又は表示順序を変更する。
この構成によれば、操作オブジェクトの表示位置又は表示順序により、処理実行部が実行する処理を使用者に認識させることができる。
また、本発明は、前記検出部は、前記頭部の回転量を検出し、前記表示制御部は、前記検出部が検出する前記頭部の回転量に応じて前記アイコンの表示態様を変更する。
この構成によれば、検出部が検出する頭部の回転量に応じてアイコンの表示態様が変更される。従って、頭部装着型表示装置が検出した頭部の回転量を使用者に認識させることができる。
また、本発明は、前記アイコンは、第1領域と、前記第1領域とは異なる第2領域とを有し、前記表示制御部は、前記検出部が検出する前記頭部の回転量に応じて前記第1領域と前記第2領域との面積の比率を変更する。
この構成によれば、頭部の回転量に応じてアイコンの有する第1領域と第2領域との面積の比率が変更される。従って、頭部装着型表示装置が検出した頭部の回転量を使用者に明確に認識させることができる。
また、本発明は、前記表示制御部は、前記第1領域に表示する画像の色、濃度、彩度、明度及び模様の少なくともいずれか1つを、前記第2領域に表示する画像とは変更する。
この構成によれば、第1領域と第2領域の区別を明確につけることができる。このため、頭部装着型表示装置により検出された頭部の回転量を使用者により明確に認識させることができる。
上記課題を解決するため、本発明は、外景とともに視認できるように表示領域に画像を表示する表示部を備え、使用者の頭部に装着される頭部装着型表示装置の制御方法であって、前記頭部装着型表示装置が実行可能な処理の案内表示を前記表示部により前記表示領域に表示させる表示ステップと、前記頭部の動きを検出する検出ステップと、検出された前記頭部の動きに対応付けられた処理を実行する実行ステップと、を有し、前記表示ステップにおいて、前記案内表示として、使用者が操作として行う前記頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトと、を表示させる。
この構成によれば、頭部の動きを検出して検出して前記頭部の動きに対応付けられた処理を実行する場合に、頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトとが表示領域に表示される。このため、使用者は、状態オブジェクトの表示により頭部装着型表示装置の状態を確認しながら、操作オブジェクトの表示を視認して頭部による操作を行うことができる。このため、頭部の動きによる操作をより確実に行うことができる。
HMDの外観構成を示す説明図。 HMDの構成を示すブロック図。 制御装置の機能ブロック図。 表示領域を示す図。 表示領域を示す図。 表示領域を示す図。 表示領域を示す図。 HMDの動作を示すフローチャート。
以下、添付図面を参照しながら本発明の実施形態について説明する。図1は、HMD100の外観構成を示す図である。
HMD100は、使用者Uが頭部に装着する画像表示部20と、画像表示部20を制御するコントローラー10とを備える。画像表示部20は、本発明の「表示部」に対応した動作を行う機能部であり、使用者Uの頭部に装着された状態で使用者Uに虚像を視認させる。コントローラー10は、使用者UがHMD100を操作する制御装置としても機能する。
コントローラー10は、箱形の本体11に、使用者Uの操作を受け付ける各種のスイッチや操作パッド14等を備える。画像表示部20は、本実施形態では眼鏡形状を有し、右保持部21と、左保持部23と、前部フレーム27と、右表示ユニット22と、左表示ユニット24と、右導光板26と、左導光板28とを備える。
右保持部21及び左保持部23は、前部フレーム27の両端部から後方に延び、使用者Uの頭部に画像表示部20を保持する。前部フレーム27の両端部のうち画像表示部20の装着時に使用者Uの右側に位置する端部を端部ERとし、左側に位置する端部を端部ELとする。
右導光板26及び左導光板28は、前部フレーム27に設けられる。画像表示部20の装着状態において、右導光板26は使用者Uの右眼の眼前に位置し、左導光板28は使用者Uの左眼の眼前に位置する。
右表示ユニット22及び左表示ユニット24は、光学ユニット及び周辺回路をユニット化したモジュールであり、画像光を出射する。右表示ユニット22は、右保持部21に取り付けられ、左表示ユニット24は、左保持部23に取り付けられる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部品である。例えば、右導光板26及び左導光板28はプリズムである。右導光板26は、右表示ユニット22が出力する画像光を使用者Uの右眼に向けて導き、左導光板28は、左表示ユニット24が出力する画像光を使用者Uの左眼に導く。これにより、使用者Uの両眼に画像光が入射し、使用者Uが画像を視認できる。
HMD100はシースルー型の表示装置であり、使用者Uの右眼REには、右導光板26により導かれた画像光と、右導光板26を透過した外光とが入射する。同様に、左眼LEには、左導光板28により導かれた画像光と、左導光板28を透過した外光とが入射する。このように、HMD100は、内部で処理した画像に対応する画像光と外光とを重ねて使用者Uの眼に入射させ、使用者Uにとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光による画像が視認される。
画像表示部20の前部フレーム27には、照度センサー65が配置される。照度センサー65は、画像表示部20を装着する使用者Uの前方からの外光を受光する。
カメラ61は、画像表示部20の前部フレーム27に配設される。カメラ61の撮像範囲及び撮像方向については後述する。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図2の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラであり、本実施形態のカメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ61は、HMD100を装着した状態における使用者Uの視界方向の少なくとも一部の外景(実空間)を撮像し、カメラ61の画角は、使用者Uの正面方向を向き、使用者Uが画像表示部20を透過して視認する外景と重複する。カメラ61の画角は、使用者Uが画像表示部20を透過して視認する視界の全体を含むことがより好ましい。カメラ61は、制御部150の制御に従って撮像を実行し、撮像画像データを制御部150に出力する。
前部フレーム27には、LEDインジケーター67が配置される。LEDインジケーター67は、端部ERにおいてカメラ61の近傍に配置され、カメラ61の動作中に点灯して、撮像中であることを報知する。
前部フレーム27には、距離センサー64が設けられる。距離センサー64は、予め設定された測定方向に位置する測定対象物までの距離を検出する。本実施形態では、距離センサー64は、使用者Uの前方に位置する測定対象物までの距離を検出する。距離センサー64は、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する光反射式距離センサーであってもよい。また、距離センサー64は、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える超音波式の距離センサーであってもよい。また、距離センサー64は、レーザーレンジスキャナー(測域センサー)を用いてもよく、この場合、画像表示部20の前方を含む広範囲の領域に対し測域を行える。
コントローラー10と画像表示部20とは、接続ケーブル40により接続される。接続ケーブル40は、本体11のコネクター42に着脱可能に接続される。
接続ケーブル40は、オーディオコネクター46を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター46に接続される。右イヤホン32は、使用者Uの右耳に装着され、左イヤホン34は、使用者Uの左耳に装着される。マイク63は、音声を集音して、音声信号を音声処理部180(図2)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
コントローラー10は、使用者Uにより操作される被操作部として、ホイール操作部12、中央キー13、操作パッド14、上下キー15、LED表示部17、及び電源スイッチ18を備える。これらの被操作部は本体11の表面に配置される。これらの被操作部は、例えば、使用者Uの手指により操作される。
操作パッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式等を採用できる。操作パッド14への接触(タッチ操作)は、例えば、タッチセンサー(不図示)により検出される。操作パッド14は、接触が検出された操作面の位置を示す信号を制御部150に出力する。
本体11にはLED(Light Emitting Diode)表示部17が設置される。LED表示部17は、光を透過可能な透過部(不図示)を有し、透過部の直下に設置されるLEDが点灯することで、透過部に形成された文字、記号、模様等を視認可能な状態とする。LED表示部17に対する使用者Uの手指の接触操作は、タッチセンサー172(図2)により検出される。このため、LED表示部17とタッチセンサー172との組合せはソフトウェアキーとして機能する。
電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチである。また、本体11は、コントローラー10を、外部の装置に接続するインターフェイスとして、USB(Universal Serial Bus)コネクター19を備える。
図2は、HMD100を構成する各部の構成を示すブロック図である。
コントローラー10は、プログラムを実行してHMD100を制御するメインプロセッサー125を備える。メインプロセッサー125には、メモリー118及び不揮発性記憶部121が接続される。メインプロセッサー125には、入力装置として操作部170が接続される。また、メインプロセッサー125には、センサー類として、6軸センサー111、磁気センサー113及びGPS115が接続される。
メインプロセッサー125には、通信部117、音声処理部180、外部メモリーインターフェイス191、USBコネクター19、センサーハブ193及びFPGA195が接続される。これらは外部とのインターフェイスとして機能する。
メインプロセッサー125は、コントローラー10が内蔵するコントローラー基板120に実装される。本実施形態では、コントローラー基板120に、6軸センサー111、磁気センサー113、GPS115、通信部117、メモリー118、不揮発性記憶部121、音声処理部180等が実装される。また、外部メモリーインターフェイス191、USBコネクター19、センサーハブ193、FPGA195及びインターフェイス197をコントローラー基板120に実装してもよい。また、コネクター42、及びUSBコネクター19を、コントローラー基板120に実装してもよい。
メモリー118は、メインプロセッサー125により実行されるプログラム、及びメインプロセッサー125が処理するデータ等を一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー125が実行するプログラムや、メインプロセッサー125が処理するデータを記憶する。
操作部170は、LED表示部17、タッチセンサー172、及びスイッチ174を含む。タッチセンサー172は、使用者Uによるタッチ操作を検出し、操作位置を特定し、メインプロセッサー125に対して操作信号を出力する。スイッチ174は、上下キー15、及び、電源スイッチ18の操作に応じて、メインプロセッサー125に操作信号を出力する。LED表示部17は、メインプロセッサー125の制御に従って、LEDを点灯、点滅、消灯させる。操作部170は、例えば、LED表示部17、タッチセンサー172、スイッチ174、及び、これらを制御する回路が実装されたスイッチ基板であり、本体11に収容される。
6軸センサー111は、コントローラー10の動きを検出するモーションセンサー(慣性センサー)の一例である。6軸センサー111は、3軸加速度センサー、及び、3軸ジャイロ(角速度)センサーを備える。6軸センサー111は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。
磁気センサー113は、例えば、3軸の地磁気センサーである。
GPS(Global Positioning System)115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信する受信機である。GPS115は、GPS信号に基づき、コントローラー10の現在位置の座標を検出又は算出する。
6軸センサー111、磁気センサー113及びGPS115は、予め指定されたサンプリング周期に従ってメインプロセッサー125に出力値を出力する。また、6軸センサー111、磁気センサー113及びGPS115は、メインプロセッサー125の要求に応じて、メインプロセッサー125により指定されたタイミングで、検出値をメインプロセッサー125に出力する構成であってもよい。
通信部117は、外部の機器との間で無線通信を実行する通信装置である。通信部117は、図示しないアンテナ、RF回路、ベースバンド回路、通信制御回路等を備える。通信部117は、アンテナ、RF回路、ベースバンド回路、通信制御回路等が統合されたデバイスであってもよいし、各種回路が実装された通信モジュール基板であってもよい。
通信部117の通信方式には、例えば、Wi−Fi(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access、登録商標)、Bluetooth(登録商標)、BLE(Bluetooth Low Energy)、DECT(Digital Enhanced Cordless Telecommunications)、ZigBee(登録商標)、UWB(Ultra Wide Band)等が用いられる。
音声処理部180は、オーディオコネクター46(図1)に接続され、音声信号の入出力及び音声信号のエンコード/デコードを行う。また、音声処理部180は、アナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、及びその逆の変換を行うD/Aコンバーターを備える。
外部メモリーインターフェイス191は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。
コントローラー10は、バイブレーター176を搭載する。バイブレーター176は、モーター(不図示)、偏心した回転子(不図示)等を備え、メインプロセッサー125の制御に従って振動を発生する。例えば、操作部170に対する操作や、HMD100の電源のオン/オフに応じて、所定の振動パターンでバイブレーター176が振動を発生する。
インターフェイス(I/F)197は、センサーハブ193及びFPGA(Field Programmable Gate Array)195を、画像表示部20に接続する。
センサーハブ193は、画像表示部20が備える各種センサーの検出値を取得してメインプロセッサー125に出力する。FPGA195は、メインプロセッサー125と画像表示部20の各部との間で送受信するデータの処理、及びインターフェイス197を介した伝送を実行する。
接続ケーブル40、及び、図示しない画像表示部20内部の配線により、コントローラー10に、右表示ユニット22と、左表示ユニット24とが個別に接続される。
右表示ユニット22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。OLEDユニット221が発する画像光は、レンズ群等を含む光学系により、右導光板26に導かれる。左表示ユニット24は、画像光を発するOLEDユニット241を備える。OLEDユニット241が発する画像光は、レンズ群等を含む光学系により、左導光板28に導かれる。
OLEDユニット221、241は、OLEDパネルやOLEDパネルを駆動する駆動回路を有する。OLEDパネルは、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される、自発光型の表示パネルである。OLEDパネルは、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。駆動回路は、制御部150の制御に従って、OLEDパネルの発光素子の選択及び発光素子への通電を実行して、OLEDパネルの発光素子を発光させる。これにより、OLEDユニット221、241に形成された画像の画像光が、右導光板26及び左導光板28に導かれ、右眼RE及び左眼LEに入射する。
右表示ユニット22は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス197に接続されるインターフェイス(I/F)211、インターフェイス211を介してコントローラー10から入力されるデータを受信する受信部(Rx)213、及び、EEPROM215が実装される。インターフェイス211は、受信部213、EEPROM215、温度センサー69、カメラ61、照度センサー65、及び、LEDインジケーター67を、コントローラー10に接続する。
EEPROM(Electrically Erasable Programmable Read Only Memory)215は、メインプロセッサー125が読み取り可能にデータを記憶する。EEPROM215は、例えば、画像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22又は左表示ユニット24が備えるセンサーの特性に関するデータなどを記憶する。具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー69、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれ、出荷後はメインプロセッサー125がEEPROM215のデータを利用して処理を行える。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データ、或いは、撮像結果を示す信号をインターフェイス211に出力する。
照度センサー65は、受光量(受光強度)に対応する検出値を、インターフェイス211に出力する。LEDインジケーター67は、インターフェイス211を介して入力される信号に従って点灯及び消灯する。
温度センサー69は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス211に出力する。温度センサー69は、OLEDユニット221が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー69を実装してもよい。
受信部213は、インターフェイス211を介してメインプロセッサー125が送信するデータを受信する。受信部213は、インターフェイス211から画像データを受信した場合に、受信した画像データを、OLEDユニット221に出力する。
左表示ユニット24は、表示ユニット基板230を有する。表示ユニット基板230には、インターフェイス197に接続されるインターフェイス(I/F)231、インターフェイス231を介してコントローラー10から入力されるデータを受信する受信部(Rx)233が実装される。また、表示ユニット基板230には、6軸センサー235、及び、磁気センサー237が実装される。インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を、コントローラー10に接続する。
6軸センサー235は、画像表示部20の動きを検出するモーションセンサーの一例であり、本発明の「検出部」に対応した動作を行う。6軸センサー235は、3軸加速度センサー、及び3軸ジャイロセンサーを備える。6軸センサー235は、上記のセンサーがモジュール化されたIMU(inertial measurement unit)であってもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。
6軸センサー235は、使用者Uの頭部の回転量を検出する。具体的には、6軸センサー235は、図1に示すX軸方向の加速度、Y軸方向の加速度、及びZ軸方向の加速度を測定する。また、6軸センサー235は、内蔵する測定機構(図示略)の測定基準点において、図1に示すX軸まわりの回転の角速度、Y軸まわりの回転の角速度、Z軸まわりの回転の角速度を測定する。X軸、Y軸及びZ軸は、図1に示すように相互に直交する3軸の方向であり、Z軸方向が鉛直方向に対応し、X軸方向が使用者Uの頭部の左右方向に対応し、Y軸方向が使用者Uの頭部の前後方向に対応する。鉛直方向に対応するZ軸方向は、使用者Uの体軸の方向に相当する。6軸センサー235から出力されたアナログの電圧値は、A/D変換器(図示略)によりデジタルの電圧値に変換されて制御部150に入力される。
温度センサー239は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス231に出力する。温度センサー239は、OLEDユニット241が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
カメラ61、照度センサー65、温度センサー69、6軸センサー235、磁気センサー237及び温度センサー239は、コントローラー10のセンサーハブ193に接続される。
センサーハブ193は、メインプロセッサー125の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ193は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ193は、予め設定されたタイミングで、各センサーの検出値をメインプロセッサー125に出力する。センサーハブ193は、メインプロセッサー125に対する出力のタイミングに合わせて、各センサーの検出値を一時的に保持する機能を備えてもよい。また、センサーハブ193は、各センサーの出力値の信号形式、或いはデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー125に出力する機能を備えてもよい。
また、センサーハブ193は、メインプロセッサー125の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
コントローラー10は、電源部130を備え、電源部130から供給される電力により動作する。電源部130は充電可能なバッテリー132、及び、バッテリー132の残容量の検出及びバッテリー132への充電の制御を行う電源制御回路134を備える。
USBコントローラー199は、USBデバイスコントローラーとして機能し、USBコネクター19に接続されるUSBホスト装置との間で通信を確立し、データ通信を行う。また、USBコントローラー199は、USBデバイスコントローラーとしての機能に加え、USBホストコントローラーとしての機能を有してもよい。
図3は、HMD100のコントローラー10の制御系を構成する記憶部140、及び制御部150の機能ブロック図である。図3に示す記憶部140は、不揮発性記憶部121(図2)により構成される論理的な記憶部であり、EEPROM215を含んでもよい。制御部150、及び制御部150が有する各種の機能部は、メインプロセッサー125がプログラムを実行することによって、ソフトウェアとハードウェアとの協働により形成される。制御部150、及び制御部150を構成する各機能部は、例えば、メインプロセッサー125、メモリー118及び不揮発性記憶部121により構成される。
記憶部140は、メインプロセッサー125が実行する各種のプログラム、及びこれらのプログラムにより処理されるデータを記憶する。記憶部140は、オペレーティングシステム(OS)141、アプリケーションプログラム142、設定データ143及びコンテンツデータ144を記憶する。
制御部150は、記憶部140が記憶するプログラムを実行することにより、記憶部140が記憶するデータを処理して、HMD100を制御する。
オペレーティングシステム141は、メインプロセッサー125が実行するHMD100の基本制御プログラムである。メインプロセッサー125は、電源スイッチ18の操作によってHMD100の電源がオンに切り替わると、オペレーティングシステム141をロードして実行する。メインプロセッサー125がオペレーティングシステム141を実行することで、制御部150の各種機能が実現される。制御部150の機能には、基本制御部151、通信制御部152、画像処理部153、撮像制御部154、アプリケーション実行部155、検出制御部156及び表示制御部157を含む。制御部150は、本発明の「表示制御部」及び「処理実行部」として動作する。より詳細には、表示制御部157が本発明の「表示制御部」として動作し、アプリケーション実行部155が本発明の「処理実行部」として動作する。
アプリケーションプログラム142は、メインプロセッサー125がオペレーティングシステム141を実行した状態で、メインプロセッサー125が実行するプログラムである。アプリケーションプログラム142は、制御部150の各種機能を利用する。記憶部140が記憶するアプリケーションプログラム142は1つではなく複数であってもよい。例えば、アプリケーションプログラム142は、画像コンテンツ再生、音声コンテンツ再生、ゲーム、カメラ撮影、文書作成、ウェブブラウジング、スケジュール管理、電話(音声通信を含む)、画像通信、経路ナビゲーション等の機能を実現する。
設定データ143は、HMD100の動作に関する各種の設定値を含む。また、制御部150がHMD100を制御する際にパラメーター、行列式、演算式、LUT(LookUp Table)等を用いる場合、これらを設定データ143に含めてもよい。
また、設定データ143には、アプリケーションプログラム142を実行する場合に使用されるデータが含まれる。詳細には、アプリケーションプログラム142に含まれる各種プログラムを実行する場合の実行条件等のデータを含む。例えば、アプリケーションプログラム142の実行時の画像表示サイズ、画面の向き、アプリケーションプログラム142が使用する制御部150の機能部、或いはHMD100のセンサー類等を示すデータを含む。
HMD100では、アプリケーションプログラム142を導入する際に、制御部150の機能によりインストール処理を実行する。インストール処理は、アプリケーションプログラム142を記憶部140に記憶するだけでなく、アプリケーションプログラム142の実行条件の設定等を含む処理である。インストール処理により、記憶部140に、アプリケーションプログラム142に対応した設定データ143が生成又は記憶されると、アプリケーション実行部155がアプリケーションプログラム142を起動できる。
コンテンツデータ144は、制御部150の制御によって画像表示部20が表示する画像や映像を含むコンテンツのデータである。コンテンツデータ144は、静止画像データ、映像(動画像)データ、音声データ等を含む。コンテンツデータ144は複数のコンテンツのデータを含んでもよい。また、コンテンツデータ144は、双方向型のコンテンツのデータであってもよい。
基本制御部151は、HMD100の各部を制御する基本機能を実行する。基本制御部151は、HMD100の電源がオンされたときに起動処理を実行し、HMD100の各部を初期化し、アプリケーション実行部155がアプリケーションプログラム142を実行可能な状態にする。基本制御部151は、コントローラー10の電源をオフにする際のシャットダウン処理を実行し、アプリケーション実行部155を終了し、記憶部140が記憶する各種データを更新し、HMD100を停止させる。シャットダウン処理では画像表示部20に対する電源供給も停止し、HMD100全体がシャットダウンされる。
基本制御部151は、電源部130による電源供給を制御する機能を有する。基本制御部151は、シャットダウン処理で、電源部130からHMD100の各部への電源供給を個別にオフに切り替える。
通信制御部152は、通信部117を制御して、他の装置との間でデータ通信を行う。
例えば、通信制御部152は、パーソナルコンピューター等の画像供給装置(不図示)から供給されるコンテンツデータを通信部117により受信し、受信したコンテンツデータをコンテンツデータ144として記憶部140に記憶させる。
画像処理部153は、画像表示部20により表示する画像又は映像の画像データに基づいて、右表示ユニット22及び左表示ユニット24に送信する信号を生成する。画像処理部153が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。画像処理部153は、必要に応じて、画像データの解像度を右表示ユニット22及び左表示ユニット24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部153は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部153は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、画像表示部20に送信する。
画像処理部153は、メインプロセッサー125がオペレーティングシステム141を実行して実現される構成のほか、メインプロセッサー125とは別のハードウェアで構成してもよい。このハードウェアとしては、例えば、DSP(Digital Signal Processor)が挙げられる。
撮像制御部154は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶部140に一時的に記憶する。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部154は撮像画像データをカメラ61から取得して、記憶部140に一時的に記憶する。
アプリケーション実行部155は、メインプロセッサー125が、オペレーティングシステム141を実行する状態で、アプリケーションプログラム142を実行する機能に相当する。アプリケーション実行部155は、アプリケーションプログラム142を実行して、アプリケーションプログラム142の各種機能を実現する。例えば、記憶部140に記憶されたコンテンツデータ144のいずれかが操作部170の操作により選択されると、コンテンツデータ144を再生するアプリケーションプログラム142が実行される。これにより制御部150は、コンテンツデータ144を再生するアプリケーション実行部155として動作する。
検出制御部156は、6軸センサー235の検出値に基づいて操作を検出する。具体的には、検出制御部156は、使用者Uの頭部の動きを操作として検出する。6軸センサー235は、所定の周期(例えば、50msec)毎にサンプリング(測定)を実行して、測定された加速度や角速度の値を示すアナログの電圧値を出力する。
検出制御部156は、6軸センサー235の検出値に基づいてZ軸まわりの回転であるロール角、すなわち、使用者Uが頭部(顔)を左右に回転させる動きを検出する。また、検出制御部156は、6軸センサー235の検出値によりY軸まわりの回転であるヨー角、すなわち、使用者Uが頭部を左肩又は右肩方向に傾ける動きを検出する。また、検出制御部156は、6軸センサー235の検出値によりX軸まわりの回転であるピッチ角、すなわち、使用者Uが頭部を前方(視線方向)又は後方に傾ける動きを検出する。検出制御部156は、6軸センサー235の検出値に基づき、頭部の動きが検出された方向と、動いた頭部の角度とを判定する。
表示制御部157は、右表示ユニット22及び左表示ユニット24を制御する制御信号を生成し、右表示ユニット22及び左表示ユニット24のそれぞれによる画像光の生成及び射出を制御する。例えば、表示制御部157は、OLEDパネルによる画像の表示を実行させ、OLEDパネルの描画タイミングの制御、輝度の制御等を行う。表示制御部157は、画像表示部20を制御して表示領域VRに画像を表示させる。
図4は、表示領域VRを示す図である。
表示領域VRは、画像表示部20を頭部に装着した使用者Uの視野範囲において、画像表示部20が画像を表示可能な領域である。表示領域VRは外景に重畳され、使用者Uは画像表示部20が表示する画像と外景とを同時に視認することができる。図4に示す表示領域VRには、コンテンツデータ144としての動画像データや静止画像データに対応した画像を再生する再生画面300が表示された状態を示す。なお、図4には、画像が再生される前の初期画面を示す。上述のようにコンテンツデータ144が選択されると、制御部150はコンテンツデータ144を再生するためのアプリケーションプログラム142を実行する。制御部150がアプリケーションプログラム142に従って動作することで、アプリケーション実行部155が実現される。
また、表示領域VRには、第1オブジェクト領域310及び第2オブジェクト領域330が設けられる。第1オブジェクト領域310には、頭部の動きによる操作を案内する画像である操作オブジェトを含む画像が表示される。頭部の動きには、前述したX軸、Y軸及びZ軸(体軸)まわりの回転、すなわち、頭部を左右方向に回す動き、頭部を左肩方向又は右肩方向に傾ける動き、頭部を前方又は後方に傾ける動きが含まれる。また、第2オブジェクト領域330には、HMD100の動作状態を示す画像である状態オブジェクトを含む画像が表示される。オブジェクト、すなわち、操作オブジェクト及び状態オブジェクトには、例えば、アイコン、記号、マーク、ソフトキー等が含まれる。
第1オブジェクト領域310には、操作オブジェクトとして、第1アイコン311、第2アイコン313及び第3アイコン316が表示される。第1アイコン311、第2アイコン313及び第3アイコン316は、人の頭部の形状を模したアイコンであり、本発明の「アイコン」に相当する。第1アイコン311は、使用者Uの方向を向いたアイコンである。また、第2アイコン313は、使用者Uから見て右方向を向くアイコンである。また、第3アイコン316は、使用者Uから見て左方向を向くアイコンである。また、第1オブジェクト領域310には、一時停止を示すアイコン312が表示される。一時停止を示すアイコン312は、第1アイコン311に対応付けて(第1アイコン311の近く)に表示される。一時停止を示すアイコン312は、第1アイコン311に対応した頭部の動作を行うことで、実行可能な処理を示すアイコンである。これらのアイコン311、313、316のうち、入力が可能な操作に対応したアイコンは点滅状態となる。例えば、図4に示す初期画面では、第2アイコン313が点滅した状態となる。
第1アイコン311は、例えば、頭部を右に向けた後に、正面に戻す状態を示すアイコンである。第1アイコン311が表示領域VRに表示された状態で、6軸センサー235の検出値により頭部を右に向けた後に、正面に戻す動きが検出制御部156により検出されると、アプリケーション実行部155はコンテンツデータ144の再生を一時停止させる。
図4に示す再生画面300において、使用者Uから見て第1アイコン311の右側には第2アイコン313が表示される。第2アイコン313は、使用者Uから見て右方向を向いたアイコンであり、第2アイコン313には、テキストや記号が重ねて表示される。図4に示す第2アイコン313には、「Up」の文字314が重ねて表示される。この「Up」の文字314は、第2アイコン313に対応した頭部の動き、すなわち使用者Uが頭部をZ軸まわり右方向に回転させる動作が、コンテンツデータ144の再生速度を上げる操作であることを示す文字である。同様に、第2アイコン313には、使用者Uが頭部をZ軸まわり右方向に回転させる動作が、コンテンツデータ144の再生速度を上げる操作であることを示す「>>」の記号315が表示される。
6軸センサー235の検出値により頭部を右方向に回転させる動作が検出制御部156により検出された場合、アプリケーション実行部155は、コンテンツデータ144の再生速度を上げる。また、アプリケーション実行部155は、検出制御部156により検出される頭部のZ軸まわりの回転量(角度)、具体的には、頭部の予め定められた基準方向から右方向への回転の角度に応じて、再生速度を上げる程度を設定する。基準方向は、例えば、操作部170の操作が入力されたタイミングで使用者Uの頭部が向く方向を基準方向として設定してもよいし、コンテンツデータ144が選択されたタイミングで使用者Uの頭部が向く方向を基準方向に設定してもよい。
また、図4に示す初期画面において、使用者Uから見て第1アイコン311の左側には第3アイコン316が表示される。第3アイコン316は、使用者Uから見て左方向を向いたアイコンであり、第3アイコン316にも、テキストや記号が重ねて表示される。図4に示す第3アイコン316には、「Down」の文字317が重ねて表示される。この「Down」の文字317は、第3アイコン317に対応した頭部の動き、すなわち使用者Uが頭部をZ軸まわり左方向に回転させる動作が、コンテンツデータ144の再生速度を下げる操作であることを示す文字である。同様に、第3アイコン316には、使用者Uが頭部をZ軸まわり左方向に回転させる動作が、コンテンツデータ144の再生速度を下げる操作であることを示す「<<」の記号318が表示される。
6軸センサー235の検出値により頭部を左方向に回転させる動作が検出制御部156により検出された場合、アプリケーション実行部155は、コンテンツデータ144の再生速度を下げる。また、アプリケーション実行部155は、検出制御部156により検出される頭部のZ軸まわりの回転量(角度)、具体的には、頭部の予め定められた基準方向から左方向への回転の角度に応じて、再生速度を下げる程度を設定する。
第2オブジェクト領域330は、処理実行部として動作するアプリケーション実行部155の動作状態を示す状態オブジェクトが表示される領域である。第2オブジェクト領域330は、第1オブジェクト領域310とは異なる位置に設けられる。すなわち、状態オブジェクトは、アプリケーション実行部155の現在の状態を使用者Uが容易に認識できるようにするため、操作オブジェクトとは異なる位置に表示される。図4に示す例では、操作オブジェクト(第1アイコン311、第2アイコン313及び第3アイコン316)は、使用者Uから見て再生画面300の下に表示される。また、状態アイコン331は、使用者Uから見て再生画面300の上に表示される。また、操作オブジェクトを、使用者Uから見て再生画面300の左側に表示し、状態アイコン331を、使用者Uから見て再生画面300の右側に表示してもよい。また、操作オブジェクトを、使用者Uから見て再生画面300の右側に表示し、状態アイコン331を、使用者Uから見て再生画面300の左側に表示してもよい。
第2オブジェクト領域330には、例えば、再生中や、停止、一時停止、巻き戻し、早送り等を示す状態アイコンが表示される。状態アイコンは、本発明の「状態オブジェクト」に対応する。図4には、コンテンツデータ144が再生される前の停止状態を示す状態アイコン331が表示された状態を示す。第2オブジェクト領域330に表示される状態アイコン331は、コンテンツデータ144の再生状態に応じて変更される。
図5は、表示領域VRを示す図である。特に、図5は、コンテンツデータ144の再生が開始された状態を示す図である。
使用者Uは、HMD100にコンテンツデータ144の再生を開始させる場合、頭部を右方向に回転させる。アプリケーション実行部155は、検出制御部156により頭部のZ軸まわり右方向への回転が検出されると、コンテンツデータ144の再生を開始する。このとき、アプリケーション実行部155は、検出された頭部のZ軸まわりの回転角度に比例した速度でコンテンツデータ144を再生する。このため、再生開始時は、コンテンツデータ144はスロー再生される。検出制御部156により検出される頭部のZ軸まわりの回転角度が大きくなるほど、再生速度は上昇する。
また、表示制御部157は、頭部のZ軸まわり右方向への回転が検出されると、検出された回転角度に対応して第2アイコン313の表示状態を変更する。詳細には、表示制御部157は、第2アイコン313の一部の領域の色を他の領域とは異なる色で表示する。このとき色が変更される第2アイコン313の領域を第1領域321といい、色が変更されない第2アイコン313の領域を第2領域323という。使用者Uから見て、第1領域321は第2アイコン313の左側に位置し、第2領域323は第2アイコン313の右側に位置する。
第1領域321及び第2領域323のサイズ(面積)は、検出された頭部のZ軸まわり右方向への回転角度に応じて変更される。例えば、表示制御部157は、基準方向からZ軸まわり右方向への45度の回転が検出された場合を100%とし、検出される頭部のZ軸まわり右方向への回転角度に応じて第1領域321と第2領域323との面積比を決定する。具体的には、表示制御部157は、頭部のZ軸まわり右方向への回転角度として22.5度が検出された場合、第1領域321の面積を第2アイコン313の50%、第2領域323の面積を第2アイコン313の50%で表示する。また、表示制御部157は、頭部のZ軸まわり右方向への回転角度として45度が検出された場合、第1領域321の面積を第2アイコン313の100%、第2領域323の面積を第2アイコン313の0%で表示する。
また、コンテンツデータ144の再生が開始されると、第2オブジェクト領域330には、停止を示す状態アイコン331に代えて、コンテンツデータ144を再生中であること示す状態アイコン331が表示される。また、第2オブジェクト領域330には、再生速度を示す文字333が表示される。また、図5に示す表示状態では、第2アイコン313と、第3アイコン316とが、入力が可能な操作に対応したアイコンとして点滅する。
図6は、表示領域VRを示す図である。特に、図6は、第1アイコン311と第2アイコン313との表示位置又は表示順序が変更された状態を示す図である。
使用者Uは、頭部を動かして操作を行うと、行った操作を確定させる。使用者Uは、一定の角度回転させた頭部の状態を一定時間維持する。操作を確定させないと、HMD100が頭部の動きに対応した他の処理を実行してしまう場合もある。例えば、使用者Uが頭部を右方向に回転させた後、左方向に回転させると、HMD100は、後に検出された頭部の動きに対応した処理を実行する場合がある。
検出制御部156は、頭部の回転を検出後、Z軸まわりの回転角度が一定時間変化していない状態を検出すると、その旨をアプリケーション実行部155及び表示制御部157に通知する。
アプリケーション実行部155は、検出制御部156から通知を受けると、コンテンツデータ144の再生速度を、一定時間維持された頭部の回転角度に対応した速度に設定する。また、表示制御部157は、検出制御部156から通知を受けると、操作対象のアイコンの表示位置を変更してもよい。操作対象のアイコンとは、対応付けられた頭部の動きが検出されたアイコンである。例えば、頭部のZ軸まわり右方向の回転が検出された場合、第2アイコン313が操作対象のアイコンとなり、頭部のZ軸まわり左方向の回転が検出された場合、第3アイコン316が操作対象のアイコンとなる。
例えば、使用者Uの頭部のZ軸まわり右方向の回転が検出され、第2アイコン313の表示状態が変更された状態で、Z軸まわりの回転角度が一定時間変化していない状態が検出されると、表示制御部157は、第2アイコン313の表示位置を変更する。具体的には、表示制御部157は、第2アイコン313を、第1アイコン311及び一時停止のアイコン312を表示していた位置に表示させ、第1アイコン311及び一時停止のアイコン312を、第2アイコン313を表示していた位置に表示させる。すなわち、操作対象のアイコンである第2アイコン313を第1オブジェクト領域310の中央に表示させる。操作オブジェクトの表示位置が変更されることで、操作の確定を使用者Uに通知することできる。また、操作が確定することで、使用者Uが頭部の向きを元の位置である正面に変更しても確定した操作が元に戻されることはない。
また、第1アイコン311、第2アイコン313、第3アイコン316の表示位置は変更せずに、アイコンに表示される文字や記号の表示位置を変更してもよい。また、図6に示す表示状態では、第2アイコン313と、第3アイコン316とが、入力が可能な操作に対応したアイコンとして点滅する。
また、表示制御部157は、予め設定された表示順序に従ってアイコンを表示させてもよい。例えば、使用者Uから見て、第1オブジェクト領域310の左端に表示されたアイコンの順位が第1位、右端に表示されたアイコンの順位が第3位に設定されている場合、操作対象のアイコンの順位を第1位の位置に変更してもよい。
図7は、表示領域VRを示す図である。特に、図7は、使用者Uが左を向いた場合を示す。
使用者Uは、コンテンツデータ144の再生速度を遅くする場合、頭部を左方向に回転させる。アプリケーション実行部155は、検出制御部156により頭部のZ軸まわり左方向への回転が検出されると、コンテンツデータ144の再生速度を遅くする。また、アプリケーション実行部155は、検出された頭部のZ軸まわりの回転角度に比例してコンテンツデータ144の再生速度を遅くする。この他の動作、例えば、頭部の回転角度に応じて第3アイコン316の第1領域325と第2領域327の面積比を変更する動作や、第3アイコン316の表示位置を変更する操作は、図5及び図6で説明した使用者Uが頭部をZ軸まわり右方向に回転させた場合の動作と同一である。また、図7に示す表示状態では、第2アイコン313と、第3アイコン316とが、入力が可能な操作に対応したアイコンとして点滅する。
図4〜図7を参照して行った説明では、コンテンツデータ144の再生速度を上げる、再生速度を下げる、及び一時停止させる操作について説明したが、使用者Uの頭部の動きにより他の操作を行うことも可能である。
例えば、頭部のY軸まわり右方向への回転、すなわち頭部を右肩側に倒す動作を、コンテンツデータ144の巻き戻し動作に対応付け、Y軸まわり左方向への回転、すなわち頭部を左肩側に倒す動作を、コンテンツデータ144の早送りの動作に対応付けてもよい。また、頭部をX軸まわり後方へ回転させる動作を、再生停止の操作に対応付けてもよい。
この場合、第1オブジェクト領域310には、頭部が右肩側に倒れた状態の第4アイコンや、頭部が左肩側に倒れた状態の第5アイコンを操作オブジェクトとして表示させる。また、頭部を後方に倒す動きに対応した第6アイコンを操作オブジェクトとして第1オブジェクト領域310に表示させる。
なお、使用者Uが行う頭部の動きと、この動きに対応してHMD100が実行する処理との対応付けは任意に変更することができる。例えば、使用者Uは、操作部170を操作して、使用者Uが行う頭部の動きと、この動きに対応してHMD100が実行する処理との対応付けを変更することも可能である。
また、第1オブジェクト領域310に表示させる操作オブジェクトを、アプリケーション実行部155の動作状態に対応させて選択的に表示させてもよい。例えば、コンテンツデータ144の再生を停止させている状態では、再生に対応した操作オブジェクトだけを第1オブジェクト領域310に表示させる。また、コンテンツデータ144の再生を一時停止させている状態では、再生、早送り及び巻き戻しに対応した操作オブジェクトを第1オブジェクト領域310に表示させる。このように、操作対象外の操作オブジェクトの表示を消去することで、操作の選択がさらに容易になる。
図8は、制御部150の動作を示すフローチャートである。
まず、制御部150は、コンテンツデータ144を選択する操作を操作部170が受け付けたか否かを判定する(ステップS1)。制御部150は、操作部170がコンテンツデータ144を選択する操作を受け付けていない場合(ステップS1/NO)、操作を受け付けるまで待機する。
制御部150は、操作部170がコンテンツデータ144を選択する操作を受け付けた場合(ステップS1/YES)、アプリケーションプログラム142を実行する(ステップS2)。制御部150は、アプリケーションプログラム142を実行してコンテンツデータ144の再生画面300を表示させる(ステップS3)。また、制御部150は、再生画面300と共に、第1アイコン311、一時停止を示すアイコン312、第2アイコン313、第3アイコン316等の操作オブジェクトを第1オブジェクト領域310に表示させる。さらに、制御部150は、停止を示す状態アイコン331を第2オブジェクト領域330に表示させる。制御部150がステップS3において行う動作は、本発明の「表示ステップ」に対応した動作である。
制御部150は、表示領域VRに再生画面300を表示させると、6軸センサー235の検出値を入力して、頭部の動きの検出を開始する(ステップS4)。制御部150がステップS4において行う動作は、本発明の「検出ステップ」に対応した動作である。制御部150は、6軸センサー235の検出値により頭部の動きが検出されない場合(ステップS5/NO)、頭部の動きが検出されるまで待機する。また、制御部150は、6軸センサー235の検出値により頭部の動きが検出された場合(ステップS5/YES)、6軸センサー235の検出値により使用者Uが行った操作を特定する(ステップS6)。すなわち、制御部150は、頭部の動きが検出された方向と、回転角度とを求めて動作を特定する。
次に、制御部150は、特定した操作に対応したアイコンの表示状態を変更する(ステップS7)。例えば、ステップS6において頭部をZ軸まわりの右方向に回転させる動作が特定された場合、制御部150は、操作対象のアイコンとして第2アイコン313を選択し、選択した第2アイコン313の表示状態を変更する。具体的には、制御部150は、検出した頭部の回転角度に対応した面積の第1領域321を第2アイコン313に設定し、設定した第1領域321の色を第2領域323の色とは異なる色で表示させる。
次に、制御部150は、ステップS6で特定した操作に対応した処理を実行する(ステップS8)。例えば、頭部のZ軸まわり右方向への回転が検出された場合、制御部150は、コンテンツデータ144の再生を開始する。制御部150がステップS8において行う動作は、本発明の「実行ステップ」に対応した動作である。次に、制御部150は、頭部の回転角度に変化があるか否かを判定する(ステップS9)。制御部150は、頭部の回転角度に変化があると判定すると(ステップS9/YES)、ステップS6に戻り、再度、操作を特定する。また、制御部150は、頭部の回転角度に変化がないと判定すると(ステップS9/NO)、変化のない状態が一定時間経過しているか否かを判定する(ステップS10)。
制御部150は、頭部の回転角度に変化がない状態が一定時間経過していないと判定すると(ステップS10/NO)、ステップS9の判定に戻る。また、制御部150は、頭部の回転角度に変化がない状態が一定時間経過したと判定すると(ステップS10/YES)、操作対象のアイコンの第1オブジェクト領域310における表示位置を変更して(ステップS11)、操作を確定させる。例えば、ステップS7で、表示状態を変更したアイコンが第2アイコン313であった場合、制御部150は、第2アイコン313の表示位置を、第1オブジェクト領域310の中央の位置に表示させる。また、制御部150は、中央の位置に表示させていたアイコンを第2アイコン313の表示位置に変更する。
次に、制御部150は、コンテンツデータ144の再生が終了したか否かを判定する(ステップS12)。制御部150は、コンテンツデータ144の再生が終了していないと判定した場合(ステップS12/NO)、ステップS5の判定に戻り頭部の動きが検出されたか否かを判定する。また、制御部150は、コンテンツデータ144の再生が終了したと判定した場合(ステップS12/YES)、この処理フローを終了させる。
上述の説明では、第2アイコン313や第3アイコン316における第1領域321、325と、第2領域323、327との面積や色を変更することで、検出された頭部の回転角度を使用者Uに通知する方法を説明した。この他の方法として、第1領域321、325と、第2領域323、327とに表示される画像の濃度や、彩度、明度及び模様の少なくともいずれか1つを変更してもよい。
以上説明したように本実施形態のHMD100は、使用者Uの頭部に装着される表示装置であって、画像表示部20、6軸センサー235及び制御部150を備える。
画像表示部20は、外景とともに視認できるように表示領域に画像を表示する。
6軸センサー235は、頭部の動きを検出する。
制御部150は、HMD100が実行可能な処理の案内表示を画像表示部20により表示領域VRに表示させる。また、制御部150は、6軸センサー235により検出された頭部の動きに対応付けられた処理を実行する。さらに、制御部150は、案内表示として、使用者Uが操作として行う頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトと、を表示させる。
従って、使用者Uは、状態オブジェクトの表示によりHMD100の状態を確認しながら、操作オブジェクトの表示を視認して頭部による操作を行うことができる。このため、頭部の動きによる操作をより確実に行うことができる。
また、制御部150は、頭部の動きを案内するアイコンと、頭部の動きに対応付けられた処理を示す文字とを操作オブジェクトとして表示させる。
従って、アイコンに加えて、頭部の動きに対応付けられた処理を示す文字が表示されるので、頭部の動きによる操作をさらに確実に行うことができる。
また、制御部150は、実行する処理に応じて、表示領域VRに表示させる操作オブジェクトの表示位置、又は表示順序を変更する。
従って、操作オブジェクトの表示位置又は表示順序により、実行する処理を使用者Uに認識させることができる。
また、6軸センサー235は、頭部の回転量を検出する。制御部150は、6軸センサー235が検出する頭部の回転量に応じてアイコンの表示態様を変更する。
従って、HMD100により検出された頭部の回転量を使用者Uに認識させることができる。
また、アイコンは、第1領域321、325と、第1領域321、325とは異なる第2領域323、327とを有する。
制御部150は、6軸センサー235が検出する頭部の回転量に応じて第1領域321、325と第2領域323、327との面積の比率を変更する。
従って、HMD100が検出した頭部の回転量を使用者Uに明確に認識させることができる。
また、制御部150は、第1領域321、325に表示する画像の色、濃度、彩度、明度及び模様の少なくともいずれか1つを、第2領域323、327に表示する画像とは変更する。
従って、第1領域321、325と第2領域323、327の区別を明確につけることができる。このため、HMD100により検出された頭部の回転量を使用者Uにより明確に認識させることができる。
この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者Uの左眼に対応して画像を表示する表示部と、使用者Uの右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者Uの身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
さらに、コントローラー10と画像表示部20とが一体に構成され、使用者Uの頭部に装着される構成とすることも可能である。また、コントローラー10として、ノート型コンピューター、タブレット型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、上記実施形態では、画像表示部20とコントローラー10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明したが、コントローラー10と画像表示部20とが無線通信回線によって接続される構成であってもよい。
また、画像光を使用者Uの眼に導く光学系として、右導光板26及び左導光板28は、ハーフミラーを用いてもよいし、回折格子、プリズム等を用いてもよい。また、画像表示部20は、ホログラフィー表示部を用いてもよい。
また、ブロック図に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部150が実行するプログラムは、不揮発性記憶部121またはコントローラー10内の他の記憶装置(図示略)に記憶されてもよい。また、外部の装置に記憶されたプログラムをUSBコネクター19、通信部117、外部メモリーインターフェイス191などを介して取得して実行する構成としてもよい。また、コントローラー10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、メインプロセッサー125と同様のプロセッサーが画像表示部20に配置されてもよいし、コントローラー10が備えるメインプロセッサー125と画像表示部20のプロセッサーとが別々に分けられた機能を実行する構成としてもよい。
また、本発明の頭部装着型表示装置の制御方法を、表示装置を備えたコンピューターを用いて実現する場合、本発明を、上記制御方法を実現するためにコンピューターが実行するプログラム、このプログラムを前記コンピューターで読み取り可能に記録した記録媒体、或いは、このプログラムを伝送する伝送媒体の態様で構成することも可能である。上記記録媒体としては、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、HDD(Hard Disk Drive)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Versatile Disk)、Blu−ray(登録商標) Disc、光磁気ディスク、フラッシュメモリー、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、上記記録媒体は、画像表示装置が備える内部記憶装置であるRAM(Random Access Memory)、ROM(Read Only Memory)、HDD等の不揮発性記憶装置であってもよい。
10…コントローラー、11…本体、12…ホイール操作部、13…中央キー、14…操作パッド、15…上下キー、17…LED表示部、18…電源スイッチ、19…USBコネクター、20…画像表示部、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、42…コネクター、46…オーディオコネクター、61…カメラ、63…マイク、64…距離センサー、65…照度センサー、67…LEDインジケーター、69…温度センサー、100…HMD、111…6軸センサー、113…磁気センサー、115…GPS、117…通信部、118…メモリー、120…コントローラー基板、121…不揮発性記憶部、125…メインプロセッサー、130…電源部、132…バッテリー、134…電源制御回路、140…記憶部、141…オペレーティングシステム、142…アプリケーションプログラム、143…設定データ、144…コンテンツデータ、150…制御部、151…基本制御部、152…通信制御部、153…画像処理部、154…撮像制御部、155…アプリケーション実行部、156…検出制御部、157…表示制御部、170…操作部、172…タッチセンサー、174…スイッチ、176…バイブレーター、180…音声処理部、191…外部メモリーインターフェイス、193…センサーハブ、195…FPGA、197…インターフェイス、199…USBコントローラー、211…インターフェイス、213…受信部、215…EEPROM、221…OLEDユニット、231…インターフェイス、233…受信部、235…6軸センサー、237…磁気センサー、239…温度センサー、241…OLEDユニット、300…表示画面、310…第1オブジェクト領域、311…第1アイコン、312…一時停止を示すアイコン、313…第2アイコン、314、317、333…文字、315、318…記号、330…第2オブジェクト領域、331…状態アイコン。

Claims (7)

  1. 使用者の頭部に装着される頭部装着型表示装置であって、
    外景とともに視認できるように表示領域に画像を表示する表示部と、
    前記頭部の動きを検出する検出部と、
    前記頭部装着型表示装置が実行可能な処理の案内表示を前記表示部により前記表示領域に表示させる表示制御部と、
    前記検出部により検出された前記頭部の動きに対応付けられた処理を実行する処理実行部と、を備え、
    前記表示制御部は、前記案内表示として、使用者が操作として行う前記頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトとを表示させる、頭部装着型表示装置。
  2. 前記表示制御部は、前記頭部の動きを案内するアイコンと、前記頭部の動きに対応付けられた処理を示す文字とを前記操作オブジェクトとして表示させる、請求項1記載の頭部装着型表示装置。
  3. 前記表示制御部は、前記処理実行部が実行する処理に応じて、前記表示領域に表示させる前記操作オブジェクトの表示位置、又は表示順序を変更する、請求項1又は2記載の頭部装着型表示装置。
  4. 前記検出部は、前記頭部の回転量を検出し、
    前記表示制御部は、前記検出部が検出する前記頭部の回転量に応じて前記アイコンの表示態様を変更する、請求項1から3のいずれか1項に記載の頭部装着型表示装置。
  5. 前記アイコンは、第1領域と、前記第1領域とは異なる第2領域とを有し、
    前記表示制御部は、前記検出部が検出する前記頭部の回転量に応じて前記第1領域と前記第2領域との面積の比率を変更する、請求項4記載の頭部装着型表示装置。
  6. 前記表示制御部は、前記第1領域に表示する画像の色、濃度、彩度、明度及び模様の少なくともいずれか1つを、前記第2領域に表示する画像とは変更する、請求項5記載の頭部装着型表示装置。
  7. 外景とともに視認できるように表示領域に画像を表示する表示部を備え、使用者の頭部に装着される頭部装着型表示装置の制御方法であって、
    前記頭部装着型表示装置が実行可能な処理の案内表示を前記表示部により前記表示領域に表示させる表示ステップと、
    前記頭部の動きを検出する検出ステップと、
    検出された前記頭部の動きに対応付けられた処理を実行する実行ステップと、を有し、
    前記表示ステップにおいて、前記案内表示として、使用者が操作として行う前記頭部の動きを案内する操作オブジェクトと、処理実行部の動作状態を示す状態オブジェクトとを表示させる、頭部装着型表示装置の制御方法。
JP2018009517A 2018-01-24 2018-01-24 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 Pending JP2019128757A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018009517A JP2019128757A (ja) 2018-01-24 2018-01-24 頭部装着型表示装置、及び頭部装着型表示装置の制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018009517A JP2019128757A (ja) 2018-01-24 2018-01-24 頭部装着型表示装置、及び頭部装着型表示装置の制御方法

Publications (1)

Publication Number Publication Date
JP2019128757A true JP2019128757A (ja) 2019-08-01

Family

ID=67472260

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018009517A Pending JP2019128757A (ja) 2018-01-24 2018-01-24 頭部装着型表示装置、及び頭部装着型表示装置の制御方法

Country Status (1)

Country Link
JP (1) JP2019128757A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021118237A1 (ko) * 2019-12-10 2021-06-17 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR20210072900A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 증강현실 내에서 훈련에 따른 피드백을 공유하는 전술 훈련 시스템
KR102299346B1 (ko) * 2020-07-29 2021-09-08 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치의 시야를 공유하는 전술 훈련 시스템
KR20230050160A (ko) * 2021-10-07 2023-04-14 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치를 위한 확인 이벤트 처리 방법 및 장치

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021118237A1 (ko) * 2019-12-10 2021-06-17 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR20210072900A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 증강현실 내에서 훈련에 따른 피드백을 공유하는 전술 훈련 시스템
KR20210072902A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR102305408B1 (ko) * 2019-12-10 2021-09-29 주식회사 피앤씨솔루션 증강현실 내에서 훈련에 따른 피드백을 공유하는 전술 훈련 시스템
KR102305409B1 (ko) * 2019-12-10 2021-09-29 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR102299346B1 (ko) * 2020-07-29 2021-09-08 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치의 시야를 공유하는 전술 훈련 시스템
KR20230050160A (ko) * 2021-10-07 2023-04-14 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치를 위한 확인 이벤트 처리 방법 및 장치
KR102633493B1 (ko) 2021-10-07 2024-02-06 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치를 위한 확인 이벤트 처리 방법 및 장치

Similar Documents

Publication Publication Date Title
US11310483B2 (en) Display apparatus and method for controlling display apparatus
US10635182B2 (en) Head mounted display device and control method for head mounted display device
JP2019128757A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
US20180259775A1 (en) Transmission-type display device, display control method, and computer program
US10976836B2 (en) Head-mounted display apparatus and method of controlling head-mounted display apparatus
US10718948B2 (en) Head-mounted display apparatus, display control method, and computer program
US20170289533A1 (en) Head mounted display, control method thereof, and computer program
US10261327B2 (en) Head mounted display and control method for head mounted display
US10296104B2 (en) Display device, method of controlling display device, and program
JP2018097160A (ja) 表示システム、表示装置、及び、表示装置の制御方法
JP2019105777A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
US10761333B2 (en) Head mounted display device, sound transmission system, and control method for head mounted display device
JP2017116562A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6776578B2 (ja) 入力装置、入力方法、コンピュータープログラム
US20190287489A1 (en) Head-mounted display apparatus and method for controlling head-mounted display apparatus
US10685595B2 (en) Connection device, display device, and control method for the display device
JP2019128758A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
CN113050279B (zh) 显示系统、显示方法以及记录介质
JP6932917B2 (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
CN113050278B (zh) 显示系统、显示方法以及记录介质
JP2017134630A (ja) 表示装置、表示装置の制御方法、及び、プログラム
US10902819B2 (en) Connection device, display device, and control method for the display device
JP2017142294A (ja) 表示装置、及び、表示装置の制御方法
JP2017182413A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
US20190265854A1 (en) Head-mounted display apparatus and method for controlling head-mounted display apparatus