JP2010134152A - ヘッドマウントディスプレイ - Google Patents
ヘッドマウントディスプレイ Download PDFInfo
- Publication number
- JP2010134152A JP2010134152A JP2008309512A JP2008309512A JP2010134152A JP 2010134152 A JP2010134152 A JP 2010134152A JP 2008309512 A JP2008309512 A JP 2008309512A JP 2008309512 A JP2008309512 A JP 2008309512A JP 2010134152 A JP2010134152 A JP 2010134152A
- Authority
- JP
- Japan
- Prior art keywords
- display
- image
- foot
- user
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】足の動きで操作可能なヘッドマウントディスプレイの提供。
【解決手段】ヘッドマウントディスプレイ1は、足入力操作モードがONになっているときにユーザの足の動きを検出すると、検出した足の動きに応じて、ユーザの網膜に投影される画像(表示コンテンツ)を制御する。これにより、ユーザは、両手がふさがっている状態であっても表示コンテンツを操作でき、作業効率を高めることができる。
【選択図】図6
【解決手段】ヘッドマウントディスプレイ1は、足入力操作モードがONになっているときにユーザの足の動きを検出すると、検出した足の動きに応じて、ユーザの網膜に投影される画像(表示コンテンツ)を制御する。これにより、ユーザは、両手がふさがっている状態であっても表示コンテンツを操作でき、作業効率を高めることができる。
【選択図】図6
Description
本発明は、足の動きで操作可能なヘッドマウントディスプレイに関するものである。
従来、所定のデバイスを足で操作する技術が種々提案されている。例えば、下記特許文献1では、コンピュータへの座標入力を足で行う座標入力装置が記載されている。
上記特許文献1に記載された座標入力装置は、いわゆる「2ボタンマウス装置」と同等の機能を果たすことができるものの(特許文献1の[0023]参照)、特殊な構造を有するデバイスであるため汎用的ではなく、また、製造コストを必要とする。また、この座標入力装置をヘッドマウントディスプレイに適用する場合、ヘッドマウントディスプレイと座標入力装置とを接続するための配線が必要であり、その配線が邪魔となって、ヘッドマウントディスプレイを装着したユーザの動きを制約するおそれがある。
本発明は、上述した問題点を解決するためになされたものであり、特殊なデバイスを用いることなく簡易な構成により実現できる足の動きで操作可能なヘッドマウントディスプレイを提供することを目的とする。
請求項1に係る発明は、ユーザに装着されるヘッドマウントディスプレイであって、表示画像を表示する表示手段と、前記ユーザの足元周辺の画像を撮像する撮像手段と、前記撮像された画像に基いて、前記ユーザの足元の動きを認識する画像認識手段と、前記認識された動きに基いて、前記表示画像の表示態様を制御する制御手段とを有することを特徴とする。
上記ヘッドマウントディスプレイによれば、足の動きによって表示画像を制御することができる。これにより、ヘッドマウントディスプレイを装着しているユーザは、両手がふさがっている状態であっても表示画像を操作できるので、作業効率を高めることができる。また、足元周辺の画像を撮像するので、撮像範囲をユーザの足元に限定することができ、作業対象、作業に伴う手の動き、及び他の作業者の身体等が撮像されることがなくなるため、確実かつ信頼性の高い表示画像の表示態様の制御を行うことができる。
請求項2に係る発明は、請求項1のヘッドマウントディスプレイであって、前記撮像手段は、前記ユーザの一方の足元周辺の画像を撮像することを特徴とする。
上記ヘッドマウントディスプレイによれば、ユーザの一方の足の動きに基いて表示画像を制御することができる。これにより、両足の動きに基づく表示画像の制御と比較して画像処理に係る計算量を削減することができる。
請求項3に係る発明は、請求項1または請求項2のヘッドマウントディスプレイであって、前記制御手段は、前記認識された動きが第1の所定動作であったときに、前記表示態様の制御を開始し、前記認識された動きが第2の所定動作であったときに、前記表示態様の制御を終了することを特徴とする。
上記ヘッドマウントディスプレイによれば、足の動きに基いて表示画像の表示開始及び表示終了を制御することができる。これにより、足の動きで表示画像に関する全ての操作が可能となるので、作業効率をより高めることができる。
請求項4に係る発明は、請求項1乃至請求項3のいずれかのヘッドマウントディスプレイであって、前記表示手段は、前記表示画像を外界からの光線に重畳させて前記ユーザの網膜上に投影表示することを特徴とする。
上記ヘッドマウントディスプレイによれば、光学シースルー型のヘッドマウントディスプレイであるので、ユーザは外光を認識することができる。これにより、ヘッドマウントディスプレイを装着した状態で作業対象を視認できるとともに、ヘッドマウントディスプレイの表示画像を見ながら手による作業を行うことができる。また、表示画像の制御を足の動きで行うので、当該制御時に手による作業を中断する必要がなく、作業性及び利便性を向上させることができる。
請求項5に係る発明は、請求項1乃至請求項4のいずれかのヘッドマウントディスプレイであって、前記撮像手段の撮像方向を変化させる変化手段を有し、前記撮像手段は、前記変化手段の動作により、前記ユーザの足元周辺以外の画像を撮像可能であることを特徴とする。
上記ヘッドマウントディスプレイによれば、足元周辺以外の画像を撮像することができる。これにより、例えば、ユーザの正面方向の画像を撮像して外部に出力することができる。
本発明によれば、特殊なデバイスを用いることなく簡易な構成によって、足で操作可能なヘッドマウントディスプレイを実現することができる。
以下、本発明の一実施形態に係るヘッドマウンドディスプレイについて、図面を参照しつつ詳細に説明する。図1及び図2は、本実施形態のヘッドマウントディスプレイがユーザに装着された状態を示している。なお、図1及び図2に示されるヘッドマウントディスプレイの外観は単なる一例であり、本発明は、当該外観を有するヘッドマウントディスプレイに限定されるものではない。
なお、以下の説明では、本発明を網膜走査ディスプレイに適用した実施形態について説明するが、本発明は、液晶や有機EL等を用いて画像を表示する種々のヘッドマウントディスプレイに適用することができる。また、本発明は、光学シースルー型のヘッドマウントディスプレイのみならず、ビデオシースルー型のヘッドマウントディスプレイにも適用することができる。
ヘッドマウントディスプレイ1は、表示されるコンテンツに応じて変調された画像光(ビーム光)を走査しながら出射させ、ユーザの少なくとも一方の眼の網膜に画像を投影する。以下、網膜に投影される画像を、「表示コンテンツ」という。
また、ヘッドマウントディスプレイ1は、ユーザの視野の一部のみに表示コンテンツを投影するため、ユーザは、その部分以外の視野で外界を視認することができる。
また、ヘッドマウントディスプレイ1は、ユーザの視野の一部のみに表示コンテンツを投影するため、ユーザは、その部分以外の視野で外界を視認することができる。
ヘッドマウントディスプレイ1は、図1及び図2に示すように、表示コンテンツに応じた画像光Z2を出射する出射装置11と、画像光Z2をユーザの眼に向かって反射させるプリズム16と、CCDセンサ13と、LED14と、輝度センサ15と、これらの部材を支持する支持部材12とから基本的に構成される。なお、図2では、CCDセンサ13、LED14、輝度センサ15を省略している。
プリズム16は、不図示のビームスプリッタ部を備えており、外界からの外光Z1を透過させ、透過された外光Z1は、ユーザにより視認される。これにより、ユーザは、表示コンテンツを外光に重畳して視認することができる。
CCDセンサ13には、不図示の撮像方向変化部材が備えられており、撮像方向変化部材の回動角度を変えることでCCDセンサ13の撮像方向を調整することができる。これにより、CCDセンサ13は、ユーザの足元周辺や正面方向を撮像することができる。また、CCDセンサ13の撮像方向に関する情報は、後述の「足入力操作モード」のON/OFF制御に用いられる。また、CCDセンサ13の撮像方向は、後述の撮像方向検出器17により検出される。
また、CCDセンサ13が撮像した足の画像(動画像)は、CPU101(後述)によって画像処理され、画像処理の結果に基いて表示コンテンツが制御される。これにより、ユーザは、足を動かすことにより、対象物400を扱いつつ手を用いることなく表示コンテンツを操作することができる(図1参照)。
LED14は、CCDセンサ13の撮像領域を照らすことができる。輝度センサ15は、外界の明るさを検出し、外界の明るさが所定値を下回ったときに、LED14は、CCDセンサ13の撮像領域を照らす。
(ヘッドマウントディスプレイ1の電気的構成)
次に、ヘッドマウントディスプレイ1の電気的構成について説明する。図3は、ヘッドマウントディスプレイ1の電気的構成を示すブロック図である。
次に、ヘッドマウントディスプレイ1の電気的構成について説明する。図3は、ヘッドマウントディスプレイ1の電気的構成を示すブロック図である。
制御部100は、CPU101と、フラッシュメモリ102と、RAM103とから構成され、各構成要素はバスで接続されている。
CPU101は、ヘッドマウントディスプレイ1全体を制御し、本実施形態を実現するために必要な各種プログラムの実行及び画像処理を行う。
CPU101は、ヘッドマウントディスプレイ1全体を制御し、本実施形態を実現するために必要な各種プログラムの実行及び画像処理を行う。
フラッシュメモリ102には、上記各種プログラム及び表示コンテンツの基となる各種コンテンツデータが記憶されている。ここで、各種コンテンツデータには、作業手順書(文書ファイル)、表計算ファイル、動画ファイル等が含まれる。
また、上記各種プログラムの一部または全部を、読み出し専用のROM(不図示)に記憶するように構成してもよい。
また、上記各種プログラムの一部または全部を、読み出し専用のROM(不図示)に記憶するように構成してもよい。
RAM103には、CPU101による各種プログラムの実行の際に、種々の一時的なデータの読み込み/書き込みが行われる。また、RAM103には、CCDセンサ13が撮像した画像信号が記憶される画像エリアが確保されている。ここで、画像エリアは、少なくとも1フレーム分の画像信号が記憶できるだけの大きさを必要とする。また、画像エリアを2フレーム分確保し、一方の画像エリアにCCDセンサ13からの画像信号を書き込んでいるときに、もう一方の画像エリアの画像信号を処理するダブルバッファリングを用いてもよい。
ビデオRAM110は、画像信号を一時的に記憶する。ビデオRAM110に記憶された画像信号は、出射装置11に出力され、表示コンテンツとしてユーザの網膜に投影される。CPU101は、表示コンテンツに対応する画像信号をフラッシュメモリ102から読み出し、読み出した画像信号をビデオRAM110に書き込むことによって、表示コンテンツを制御することができる。出射装置11の詳細については後述する。
操作部121は、ユーザがヘッドマウントディスプレイ1を操作するためのボタン群やスイッチ群であり、操作部121が操作されると、操作されたボタンやスイッチに対応する制御信号が、入力制御回路122を介して制御部100に入力される。
CCDセンサ13で撮像された画像信号は、CCDコントローラ132を介して、RAM103の画像エリアに書き込まれる。また、CCDセンサ13で撮像された画像信号は、後述する外部接続モジュール161及び外部接続制御回路162を介して、外部に出力することができる。
輝度センサ15が検出した明るさの情報は、入力制御回路152を介して制御部100に出力される。制御部100は、受信した情報に基いた所定の制御信号をLEDコントローラ142に送信する。LEDコントローラ142は、受信した制御信号に基いて、LED14を制御する。これにより、外界の明るさが所定値を下回ったときに、LED14は、CCDセンサ13の撮像領域を照らすことができる。なお、制御部100を介することなく、入力制御回路152とLEDコントローラ142との間で情報の送受信を行うように構成してもよい。
撮像方向検出器17は、撮像方向変化部材の角度を検出するものであり、これによりCCDセンサ13の撮像方向を検出することができる。また、CCDセンサ13の撮像方向(角度)は、ユーザの手により変化できるように構成することができる。
撮像方向検出器17は、例えば、CCDセンサ13が下方に向いているときに「閉」、水平方向に向いているときに「開」となるスイッチとして実現してもよい。そして、スイッチの状態を示す信号は、入力制御回路172を介して制御部100に出力され、後述の「足入力操作モード」のON/OFF制御に用いられる。
撮像方向検出器17は、例えば、CCDセンサ13が下方に向いているときに「閉」、水平方向に向いているときに「開」となるスイッチとして実現してもよい。そして、スイッチの状態を示す信号は、入力制御回路172を介して制御部100に出力され、後述の「足入力操作モード」のON/OFF制御に用いられる。
また、角度センサを用い、CCDセンサ13の角度が、ヘッドマウントディスプレイ1の鉛直下方に対し±30°の範囲内であれば、後述の「足入力操作モード」をONとするための信号を、入力制御回路172を介して制御部100に出力し、また、±30°の範囲外であれば、後述の「足入力操作モード」をOFFとするための信号を、入力制御回路172を介して制御部100に出力するように構成してもよい。なお、検出したCCDセンサ13の角度を、入力制御回路172を介して制御部100に出力し、制御部100側で後述の「足入力操作モード」のON/OFFを判断するように構成してもよい。
さらに、リモコンやヘッドマウントディスプレイ1のスイッチ操作に基いて撮像方向変化部材の角度(CCDセンサ13の角度)を変化させてもよく、モータ等を駆動回路で駆動し、撮像方向変化部材の角度を変化させることができる。この場合、スイッチ操作や駆動回路による回転角によって撮像方向変化部材の角度を検出することができる。
外部接続モジュール161は、外部機器(例えば、パーソナルコンピュータ)と接続し、コンテンツデータを取得する。コンテンツデータは、外部接続制御回路162を介して、フラッシュメモリ102に記憶される。
また、CCDセンサ13で撮像した画像信号は、外部接続モジュール161及び外部接続制御回路162を介して、外部に出力することができる。
なお、外部接続モジュール161と外部機器との接続は、有線/無線のいずれでもよい。
また、CCDセンサ13で撮像した画像信号は、外部接続モジュール161及び外部接続制御回路162を介して、外部に出力することができる。
なお、外部接続モジュール161と外部機器との接続は、有線/無線のいずれでもよい。
なお、上述したヘッドマウントディスプレイ1の電気的構成は、単なる一例にすぎない。また、画像処理を行うための専用のプロセッサ及び/またはメモリを備えてもよい。
(出射装置11の電気的構成)
次に、出射装置11の電気的及び光学的構成について説明する。図4は、出射装置11の電気的及び光学的構成のブロック図である。
次に、出射装置11の電気的及び光学的構成について説明する。図4は、出射装置11の電気的及び光学的構成のブロック図である。
図4に示すように、出射装置11は、ビデオRAM110からの画像信号に応じた画像光を生成する画像光生成部20と、生成された画像光を平行光化するコリメート光学系61と、平行光化された画像光を水平方向に往復走査する水平走査部70と、水平方向に走査された画像光を垂直方向(水平方向と略直交する方向)に往復走査する垂直走査部80と、水平方向及び垂直方向に走査(2次元的に走査)された画像光をユーザの眼Eの瞳孔Eaへ出射するリレー光学系90とを備えている。
また、画像光生成部20とコリメート光学系61とは、光ファイバ51を介して接続され、水平走査部70と垂直走査部80との間には、リレー光学系75が設けられ、リレー光学系90と瞳孔Eaとの間には、プリズム16が設けられている。
次に、画像光生成部20の詳細について説明する。
画像光生成部20には、ビデオRAM110からの画像信号に基いて制御信号22a〜22cを出力する信号処理回路21と、各制御信号に基いてR(赤色)、G(緑色)、B(青色)の各画像光を出力する光源部30と、各画像光を1つの画像光に結合する光結合部40を備えている。
画像光生成部20には、ビデオRAM110からの画像信号に基いて制御信号22a〜22cを出力する信号処理回路21と、各制御信号に基いてR(赤色)、G(緑色)、B(青色)の各画像光を出力する光源部30と、各画像光を1つの画像光に結合する光結合部40を備えている。
信号処理回路21は、ビデオRAM110からの画像信号に基いて、ドットクロック毎に各制御信号22a〜22cを、光源部30に出力する。
光源部30は、Rレーザドライバ31と、Gレーザドライバ32と、Bレーザドライバ33と、Rレーザ34と、Gレーザ35と、Bレーザ36とから構成されている。
Rレーザドライバ31は、制御信号22aに基いてRレーザ34を制御し、赤色の画像光を出力する。Gレーザドライバ32は、制御信号22bに基いてGレーザ35を制御し、緑色の画像光を出力する。Bレーザドライバ33は、制御信号22cに基いてBレーザ36を制御し、青色の画像光を出力する。
なお、各レーザ34〜36は、例えば、半導体レーザや高調波発生機構付き固体レーザにより構成することができる。なお、半導体レーザを用いる場合は駆動電流を直接変調して、画像光の強度変調を行い、また、固体レーザを用いる場合は、各レーザそれぞれに外部変調器を備えて画像光の強度変調を行う。
光結合部40は、コリメート光学系41〜43と、ダイクロイックミラー44〜46と、結合光学系47とを備えている。
各レーザ34〜36から出力された各画像光は、コリメート光学系41〜43によって平行化され、ダイクロイックミラー44〜46に出力される。出力された各画像光は、ダイクロイックミラー44〜46により波長に応じて選択的に反射・透過され、1つの画像光として結合光学系47に到達する。
結合光学系47に到達した画像光は、光ファイバ51を介してコリメート光学系61に伝送される。コリメート光学系61は、伝送された画像光を平行光化し、平行光化した画像光を水平走査部70に出力する。
水平走査部70は、画像光を水平方向に走査する共振型偏向素子71と、共振型偏向素子71を揺動させる水平走査駆動回路72と、共振型偏向素子71の揺動範囲及び揺動周波数等の揺動状態を検出する水平走査角検出回路73とを備えている。
水平走査部70と垂直走査部80との間に設けられているリレー光学系75は、水平走査部70で水平方向に走査された画像光を、垂直走査部80の偏向素子81に収束させる。
垂直走査部80は、画像光を垂直方向に走査する偏向素子81と、偏向素子81を駆動させる垂直走査制御回路82と、偏向素子81の揺動範囲及び揺動周波数等の揺動状態を検出する垂直走査角検出回路83とを備えている。
ここで、水平走査駆動回路72は、信号処理回路21から出力される水平駆動信号23に基いて駆動し、垂直走査制御回路82は、信号処理回路21から出力される垂直駆動信号24に基いて駆動する。また、信号処理回路21は、CPU101からの制御信号に基いて、水平駆動信号23及び垂直駆動信号24を出力する。
水平走査角検出回路73は、検出した共振型偏向素子71の揺動状態を示す信号74をCPU101に出力し、垂直走査角検出回路83は、検出した偏向素子81の揺動状態を示す信号84をCPU101に出力する。
CPU101は、受信した信号74及び信号84に基いて、信号処理回路21に出力する制御信号を決定する。これにより、共振型偏向素子71及び偏向素子81の状態は、CPU101によりフィードバック制御されることになる。
なお、信号74及び信号84を信号処理回路21に出力するように構成し、信号処理回路21が、信号74及び信号84に基いて水平駆動信号23及び垂直駆動信号24を決定するように構成してもよい。すなわち、共振型偏向素子71及び偏向素子81の状態を、信号処理回路21によってフィードバック制御してもよい。
なお、信号74及び信号84を信号処理回路21に出力するように構成し、信号処理回路21が、信号74及び信号84に基いて水平駆動信号23及び垂直駆動信号24を決定するように構成してもよい。すなわち、共振型偏向素子71及び偏向素子81の状態を、信号処理回路21によってフィードバック制御してもよい。
水平走査部70及び垂直走査部80により2次元的に走査された画像光は、リレー光学系90に出力され、リレー光学系90は、画像光をユーザの瞳孔Eaに入射させる。
なお、本実施形態においては、光結合部40から伝送された画像光を、水平走査部70で水平方向に走査した後、垂直走査部80によって垂直方向に走査しているが、水平走査部70と垂直走査部80との位置を入れ替え、垂直走査部80によって垂直方向に走査した後、水平走査部70で水平方向に走査するように構成してもよい。
(足入力操作モード)
次に、足入力操作モードについて説明する。足入力操作モードがONとなると、ユーザは、足の動きによって表示コンテンツを操作することができる。CCDセンサ13の撮像方向がユーザの足元周辺となっている場合に、足入力操作モードはONとなる。また、CCDセンサ13の撮像方向は、例えば、撮像方向変化部材の角度に基いて認識することができる。
次に、足入力操作モードについて説明する。足入力操作モードがONとなると、ユーザは、足の動きによって表示コンテンツを操作することができる。CCDセンサ13の撮像方向がユーザの足元周辺となっている場合に、足入力操作モードはONとなる。また、CCDセンサ13の撮像方向は、例えば、撮像方向変化部材の角度に基いて認識することができる。
図5は、CCDセンサ13の向きと足入力操作モードのON/OFF状態との関係を示している。
CCDセンサ13が足元周辺以外の方向を撮像しているときは(図5(A))、足入力操作モードはOFFとなる。また、この状態で撮像された画像信号は、外部接続制御回路162及び外部接続モジュール161を介して、外部機器に出力することができる。
また、CCDセンサ13が足元周辺を撮像しているときは(図5(B)または(C))、足入力操作モードはONとなる。
CCDセンサ13が足元周辺以外の方向を撮像しているときは(図5(A))、足入力操作モードはOFFとなる。また、この状態で撮像された画像信号は、外部接続制御回路162及び外部接続モジュール161を介して、外部機器に出力することができる。
また、CCDセンサ13が足元周辺を撮像しているときは(図5(B)または(C))、足入力操作モードはONとなる。
(コンテンツ表示制御処理)
次に、コンテンツ表示制御処理について説明する。コンテンツ表示制御処理のプログラムは、フラッシュメモリ102に記憶されている。
次に、コンテンツ表示制御処理について説明する。コンテンツ表示制御処理のプログラムは、フラッシュメモリ102に記憶されている。
コンテンツ表示制御処理は、足入力操作モードがONとなっているときに、CPU101により繰り返し実行される。また、足入力操作モードがOFFとなると、コンテンツ表示制御処理は終了する。また、コンテンツ表示制御処理が開始されると、CCDセンサ13が撮像した画像信号は、RAM103の画像エリアに所定のフレームレートで書き込まれる。
なお、表示制御対象となるコンテンツデータは、予めフラッシュメモリ102に記憶されているものとする。また、複数のコンテンツデータがフラッシュメモリ102に記憶されている場合は、どのコンテンツデータを表示するのかについて予め設定されているものとする。
図6は、コンテンツ表示制御処理のフローチャートである。
S11において、表示開始を指示する足の動きを検出したか否かを判断する。図7は、表示開始を指示する足の動きの一例を示している。図7に示すように、「S字」を描くような動きを検出したときに、S11で「YES」と判断することができる。また、動き検出には、公知の動き検出法(例えば、マッチング法、勾配法)を用いることができる。
S11において、表示開始を指示する足の動きを検出したか否かを判断する。図7は、表示開始を指示する足の動きの一例を示している。図7に示すように、「S字」を描くような動きを検出したときに、S11で「YES」と判断することができる。また、動き検出には、公知の動き検出法(例えば、マッチング法、勾配法)を用いることができる。
図8は、表示開始を指示する足の動きの他の一例を示している。図8に示すように、ユーザの足がカメラ視野に入ったときに、S11で「YES」と判断してもよい。
なお、図7、図8、及び後述する図9〜図12では、素足での動きを示しているが、靴や靴下を履いた状態であっても本発明は実現可能である。また、画像処理を容易にするために、所定の色マーク等を靴や靴下に付してもよい。
なお、図7、図8、及び後述する図9〜図12では、素足での動きを示しているが、靴や靴下を履いた状態であっても本発明は実現可能である。また、画像処理を容易にするために、所定の色マーク等を靴や靴下に付してもよい。
表示開始を指示する足の動きを検出していないと判断した場合は(S11:NO)、S11に戻る。これにより、表示開始を指示する足の動きを検出するまでの間、処理はS11で待機することになる。一方、表示開始を指示する足の動きを検出したと判断した場合は(S11:YES)、S12に移行する。
S12において、コンテンツデータの表示を開始する。表示するコンテンツデータが文書データである場合は、文書の最初のページを表示することができる。また、表示するコンテンツデータが表計算ファイルである場合は、表計算ファイルの最初の部分を表示することができる。また、表示するコンテンツデータが動画像ファイルである場合は、動画像ファイルの最初から再生を開始することができる。
S13において、足の動きを検出したか否かを判断する。足の動きを検出していないと判断した場合は(S13:NO)、S13に戻る。これにより、足の動きを検出するまでの間、処理はS13で待機することになる。
一方、足の動きを検出したと判断した場合は(S13:YES)、S14に移行する。
一方、足の動きを検出したと判断した場合は(S13:YES)、S14に移行する。
ここで、S13で検出する足の動きは、例えば、図9〜図12に示すように、
(1)前に移動(図9)
(2)後ろに移動(図9)
(3)左に移動(図9)
(4)右に移動(図9)
(5)踵を支点にして左回転(図10)
(6)踵を支点にして右回転(図10)
(7)×印を描くように移動(図11)
(8)カメラ視野から外れる(図12)
(9)その他
のいずれか1つとすることができる。
(1)前に移動(図9)
(2)後ろに移動(図9)
(3)左に移動(図9)
(4)右に移動(図9)
(5)踵を支点にして左回転(図10)
(6)踵を支点にして右回転(図10)
(7)×印を描くように移動(図11)
(8)カメラ視野から外れる(図12)
(9)その他
のいずれか1つとすることができる。
S14において、S13で検出した足の動きが表示終了を指示する動きであるか否かを判断する。図11のように、「×印」を描くような動きを検出したときに、S14で「YES」と判断することができる。また、図12のように、ユーザの足がカメラ視野から外れたときに、S14で「YES」と判断してもよい。
表示終了を指示する動きであると判断した場合は(S14:YES)、S15に移行する。S15において、コンテンツデータの表示を終了し、S11に戻る。一方、表示終了を指示する動きではないと判断した場合は(S14:NO)、S16に移行する。
S16において、S13で検出した足の動きが表示中のコンテンツデータに対して有効な動きであるか否かを判断する。ここで、有効な動きであるか否かは、制御テーブルを参照して判断することができる。
図13は、制御テーブルの内容の一例を示している。図13に示すように、コンテンツデータごとに、有効な足の動きと制御内容が定義されている。
図13は、制御テーブルの内容の一例を示している。図13に示すように、コンテンツデータごとに、有効な足の動きと制御内容が定義されている。
例えば、表示中のコンテンツデータが「作業手順書」の場合、「足が前に移動した」ことを検出したときは、有効な動きであると判断される。一方、表示中のコンテンツデータが「作業手順書」の場合、「足が踵を支点に左回転した」ことを検出したときは、コンテンツデータに対する制御内容が定義されていないため、無効な動きであると判断される。
無効な動きであると判断した場合は(S16:NO)、S13に戻る。一方、有効な動きであると判断した場合は(S16:YES)、S17に移行する。
S17において、制御テーブルの内容に基いて表示コンテンツを制御する。例えば、表示中のコンテンツデータが「作業手順書」の場合、「足が左に移動した」ことを検出したときは、制御テーブルに基いて、表示中のコンテンツデータに対して「頁戻し」を行う。
S17において、制御テーブルの内容に基いて表示コンテンツを制御する。例えば、表示中のコンテンツデータが「作業手順書」の場合、「足が左に移動した」ことを検出したときは、制御テーブルに基いて、表示中のコンテンツデータに対して「頁戻し」を行う。
また、表示中のコンテンツデータが「表計算ファイル」の場合、「足が前に移動した」ことを検出したときは、制御テーブルに基いて、表示中のコンテンツデータに対して「上スクロール」を行う。なお、スクロール量は、所定の行数/列数とすることができる。また、動きの速度を認識し、認識した速度に応じてスクロール量を決定してもよい。
また、表示中のコンテンツデータが「動画像ファイル」の場合、「踵を支点に左回転した」ことを検出したときは、制御テーブルに基いて、動画像ファイルの再生位置を戻す。なお、再生位置の戻し/進み量は、1チャプター分や所定時間(例えば、30sec)分とすることができる。また、左/右回転時の速度を認識し、認識した速度に応じて戻し/進み量を決定してもよい。
図14は、足の動きと表示されるコンテンツ(作業手順書)との関係を示している。なお、図14では、見開きページ表示(2ページ分の表示)としているが、単一ページ表示としてもよいことはいうまでもない。
図14に示すように、2ページ目と3ページ目とが表示されている状態で、足が右に移動されると、4ページ目と5ページ目とが表示される。また、4ページ目と5ページ目とが表示されている状態で、足が左に移動されると、2ページ目と3ページ目とが表示される。
図15は、足の動きと表示されるコンテンツ(作業手順書)との関係を示している。図15に示すように、3ページ目全体が表示されている状態で、足が後ろに移動されると、3ページ目の後半部分と4ページ目の前半部分とが表示される。また、3ページ目の後半部分と4ページ目の前半部分とが表示されている状態で、足が前に移動されると、3ページ目全体が表示される。
以上説明したとおり、本実施形態のヘッドマウントディスプレイ1は、足入力操作モードがONになっているときにユーザの足の動きを検出すると、検出した足の動きに応じて、ユーザの網膜に投影される画像(表示コンテンツ)を制御する。これにより、ユーザは、両手がふさがっている状態であっても表示コンテンツを操作でき、作業効率を高めることができる。例えば、図1において、対象物400に関する作業説明書をヘッドマウントディスプレイ1に表示している場合、両手で対象物400を扱いつつ、足の動きで作業説明書の所定のページを表示させることができる。
なお、上述したフローチャートは単なる一例であり、該フローチャートの処理と同等の結果を得ることができるものであれば、他の処理によって本発明を実現してもよい。
また、本発明は、上述した実施形態に限定されるものではなく、上述した実施形態に対して種々の改良、変形したヘッドマウントディスプレイとして実現可能であることはいうまでもない。
例えば、両足を撮像し、両足の動きに基いて表示コンテンツを制御するように構成してもよい。このとき、複数のCCDセンサを有する構成としてもよい。また、右足の動きと左足の動きの組合せに基いて表示コンテンツを制御することができる。
また、表示コンテンツ以外についても足の動きで操作するように構成してもよい。例えば、LED14の明るさや、操作ボタン群121の操作対象の一部または全部を、足の動きでも操作できるように構成してもよい。
また、ヘッドマウントディスプレイ1にミラーを設け、ミラーの向きによってCCDセンサ13の撮像方向を調整するように構成してもよい。
なお、上述した実施形態において、出射装置11は表示手段の一例、CCDセンサ13は撮像手段の一例、撮像方向変化部材は変化手段の一例である。また、CPU101は、コンテンツ表示制御処理のプログラムを実行することにより、画像認識手段及び制御手段として機能する。
また、上述したヘッドマウントディスプレイに係る方法、該方法をコンピュータに実行させるためのプログラム、該プログラムを記録した記録媒体等としても本発明は実現可能である。
すなわち、本発明は、例えば、
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御方法であって、
前記ユーザの足元周辺の画像を撮像し、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識し、
前記認識された動きに基いて、前記表示画像の表示態様を制御する、
表示制御方法。
としても実現することができる。
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御方法であって、
前記ユーザの足元周辺の画像を撮像し、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識し、
前記認識された動きに基いて、前記表示画像の表示態様を制御する、
表示制御方法。
としても実現することができる。
また、本発明は、例えば、
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御プログラムであって、
コンピュータに、
前記ユーザの足元周辺の画像を撮像するステップ、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識するステップ、
前記認識された動きに基いて、前記表示画像の表示態様を制御するステップ、
を実行させるための表示制御プログラム。
としても実現することができる。
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御プログラムであって、
コンピュータに、
前記ユーザの足元周辺の画像を撮像するステップ、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識するステップ、
前記認識された動きに基いて、前記表示画像の表示態様を制御するステップ、
を実行させるための表示制御プログラム。
としても実現することができる。
また、本発明は、例えば、
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御プログラムを記録したコンピュータ読み取り可能な記録媒体であって、
コンピュータに、
前記ユーザの足元周辺の画像を撮像するステップ、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識するステップ、
前記認識された動きに基いて、前記表示画像の表示態様を制御するステップ、
を実行させるための表示制御プログラムを記録した記録媒体。
としても実現することができる。
ユーザに装着されるヘッドマウントディスプレイの表示画像を制御する表示制御プログラムを記録したコンピュータ読み取り可能な記録媒体であって、
コンピュータに、
前記ユーザの足元周辺の画像を撮像するステップ、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識するステップ、
前記認識された動きに基いて、前記表示画像の表示態様を制御するステップ、
を実行させるための表示制御プログラムを記録した記録媒体。
としても実現することができる。
1 ヘッドマウントディスプレイ
11 出射装置
13 CCDセンサ
101 CPU
102 フラッシュメモリ
103 RAM
110 ビデオRAM
11 出射装置
13 CCDセンサ
101 CPU
102 フラッシュメモリ
103 RAM
110 ビデオRAM
Claims (5)
- ユーザに装着されるヘッドマウントディスプレイであって、
表示画像を表示する表示手段と、
前記ユーザの足元周辺の画像を撮像する撮像手段と、
前記撮像された画像に基いて、前記ユーザの足元の動きを認識する画像認識手段と、
前記認識された動きに基いて、前記表示画像の表示態様を制御する制御手段と、
を有することを特徴とするヘッドマウントディスプレイ。 - 前記撮像手段は、前記ユーザの一方の足元周辺の画像を撮像する、
ことを特徴とする請求項1のヘッドマウントディスプレイ。 - 前記制御手段は、前記認識された動きが第1の所定動作であったときに、前記表示態様の制御を開始し、前記認識された動きが第2の所定動作であったときに、前記表示態様の制御を終了する、
ことを特徴とする請求項1または請求項2のヘッドマウントディスプレイ。 - 前記表示手段は、前記表示画像を外界からの光線に重畳させて前記ユーザの網膜上に投影表示する、
ことを特徴とする請求項1乃至請求項3いずれかのヘッドマウントディスプレイ。 - 前記撮像手段の撮像方向を変化させる変化手段を有し、
前記撮像手段は、前記変化手段の動作により、前記ユーザの足元周辺以外の画像を撮像可能である、
ことを特徴とする請求項1乃至請求項4いずれかのヘッドマウントディスプレイ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008309512A JP2010134152A (ja) | 2008-12-04 | 2008-12-04 | ヘッドマウントディスプレイ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008309512A JP2010134152A (ja) | 2008-12-04 | 2008-12-04 | ヘッドマウントディスプレイ |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010134152A true JP2010134152A (ja) | 2010-06-17 |
Family
ID=42345513
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008309512A Pending JP2010134152A (ja) | 2008-12-04 | 2008-12-04 | ヘッドマウントディスプレイ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010134152A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107066081A (zh) * | 2016-12-23 | 2017-08-18 | 歌尔科技有限公司 | 一种虚拟现实系统的交互控制方法和装置及虚拟现实设备 |
US10073519B2 (en) | 2013-08-26 | 2018-09-11 | Samsung Electronics Co., Ltd. | Apparatus and method for providing information by recognizing user's intentions |
JP2018185780A (ja) * | 2017-04-24 | 2018-11-22 | 金寶電子工業股▲ふん▼有限公司 | 対話機能を実行するための電子装置及び方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09181972A (ja) * | 1995-12-25 | 1997-07-11 | Olympus Optical Co Ltd | 画像合成装置 |
JPH10301675A (ja) * | 1997-02-28 | 1998-11-13 | Toshiba Corp | マルチモーダルインタフェース装置およびマルチモーダルインタフェース方法 |
JP2000033184A (ja) * | 1998-05-14 | 2000-02-02 | Masanobu Kujirada | 全身動作入力型のゲ―ム及びイベント装置 |
JP2008089934A (ja) * | 2006-09-29 | 2008-04-17 | Brother Ind Ltd | 画像表示装置及び同装置による画像の輝度調整方法 |
JP2008154192A (ja) * | 2006-11-22 | 2008-07-03 | Sony Corp | 画像表示システム、表示装置、表示方法 |
-
2008
- 2008-12-04 JP JP2008309512A patent/JP2010134152A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09181972A (ja) * | 1995-12-25 | 1997-07-11 | Olympus Optical Co Ltd | 画像合成装置 |
JPH10301675A (ja) * | 1997-02-28 | 1998-11-13 | Toshiba Corp | マルチモーダルインタフェース装置およびマルチモーダルインタフェース方法 |
JP2000033184A (ja) * | 1998-05-14 | 2000-02-02 | Masanobu Kujirada | 全身動作入力型のゲ―ム及びイベント装置 |
JP2008089934A (ja) * | 2006-09-29 | 2008-04-17 | Brother Ind Ltd | 画像表示装置及び同装置による画像の輝度調整方法 |
JP2008154192A (ja) * | 2006-11-22 | 2008-07-03 | Sony Corp | 画像表示システム、表示装置、表示方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10073519B2 (en) | 2013-08-26 | 2018-09-11 | Samsung Electronics Co., Ltd. | Apparatus and method for providing information by recognizing user's intentions |
CN107066081A (zh) * | 2016-12-23 | 2017-08-18 | 歌尔科技有限公司 | 一种虚拟现实系统的交互控制方法和装置及虚拟现实设备 |
CN107066081B (zh) * | 2016-12-23 | 2023-09-15 | 歌尔科技有限公司 | 一种虚拟现实系统的交互控制方法和装置及虚拟现实设备 |
JP2018185780A (ja) * | 2017-04-24 | 2018-11-22 | 金寶電子工業股▲ふん▼有限公司 | 対話機能を実行するための電子装置及び方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2010073879A1 (ja) | ヘッドマウントディスプレイ | |
JP5262688B2 (ja) | プレゼンテーションシステム及びそのプログラム | |
EP2107414A1 (en) | Head mount display and head mount display system | |
JP2010244484A (ja) | 画像表示装置、画像表示方法および画像表示プログラム | |
WO2010107072A1 (ja) | ヘッドマウントディスプレイ | |
JP5258399B2 (ja) | 画像投影装置及びその制御方法 | |
JP6828465B2 (ja) | 内視鏡操作支援システム | |
JP5411380B1 (ja) | 医療用撮像記録装置 | |
US20110316763A1 (en) | Head-mounted display apparatus, image control method and image control program | |
JP2004312733A (ja) | 網膜トラッキングを組み込んだ装置及び方法 | |
JP2011114781A (ja) | ヘッドマウントディスプレイ装置、及びヘッドマウントディスプレイ装置を用いた画像共有システム | |
JP2010139901A (ja) | ヘッドマウントディスプレイ | |
JP2008287142A (ja) | 画像投影装置 | |
JP2015031817A (ja) | プロジェクター、及び、プロジェクターの制御方法 | |
JP5970700B2 (ja) | プロジェクター、プロジェクターの制御方法、プログラム、および、プロジェクションシステム | |
US10284751B2 (en) | Optical scanning head-mounted display and retinal scanning head-mounted display | |
JP5251813B2 (ja) | 作業支援システム、ヘッドマウントディスプレイ及びプログラム | |
JP2010067154A (ja) | ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ | |
JP2010134152A (ja) | ヘッドマウントディスプレイ | |
JP5109952B2 (ja) | ヘッドマウントディスプレイ | |
JP2008146463A (ja) | 位置検出装置 | |
WO2014188820A1 (ja) | 医療用撮像記録装置 | |
JP2011076503A (ja) | ヘッドマウントディスプレイ | |
JP2011070093A (ja) | ヘッドマウントディスプレイ | |
EP3165266B1 (en) | Information processing system, information processing apparatus, information processing method, information processing program, and hand-held information processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110310 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130604 |