JP2010152443A - ヘッドマウントディスプレイ - Google Patents

ヘッドマウントディスプレイ Download PDF

Info

Publication number
JP2010152443A
JP2010152443A JP2008326991A JP2008326991A JP2010152443A JP 2010152443 A JP2010152443 A JP 2010152443A JP 2008326991 A JP2008326991 A JP 2008326991A JP 2008326991 A JP2008326991 A JP 2008326991A JP 2010152443 A JP2010152443 A JP 2010152443A
Authority
JP
Japan
Prior art keywords
eye
image
display
eyelid
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008326991A
Other languages
English (en)
Inventor
Kunihiro Ito
邦宏 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2008326991A priority Critical patent/JP2010152443A/ja
Priority to PCT/JP2009/070151 priority patent/WO2010073879A1/ja
Publication of JP2010152443A publication Critical patent/JP2010152443A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning

Abstract

【課題】表示された画像の表示状態の変更を眼の動作で正確に操作でき、誤動作を防止することが可能となるヘッドマウントディスプレイを提供する。
【解決手段】CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aの動作を検出する。そして、CPU51は、右眼6の瞼6Aが閉じられている場合には、CCDセンサ16を介して検出された左眼5の眼球5Aの眼球運動に従って左眼5に表示されるコンテンツ(画像)の表示制御を行う。
【選択図】図5

Description

本発明は、ヘッドマウントディスプレイに関するものである。
従来より、利用者の頭部に装着されて、画像を投影表示するヘッドマウントディスプレイに関して種々提案されている。
例えば、眼球運動検出用の撮像手段によって観察者の眼の瞬き運動を検出するように映像表示装置を構成する。そして、この撮像手段によって得られた観察者の眼の瞬き回数が、予め規定された基準値以下である場合には、通常の画像データによる映像が、特定の画像データによる映像に切り換えられるように構成された映像表示装置がある(例えば、特許文献1参照。)。
特開2000−221953号公報(段落(0020)〜(0029)、図1)
しかしながら、上述した特許文献1に記載される構成の映像表示装置では、映像の切り換えを眼の瞬き回数で操作する場合には、当該操作を行うための瞬き動作と生理的に行う瞬きとの区別が困難であるため、誤動作が生じる虞がある。
そこで、本発明は、上述した問題点を解決するためになされたものであり、表示された画像の表示状態の変更を眼の動作で正確に操作でき、誤動作を防止することが可能となるヘッドマウントディスプレイを提供することを目的とする。
前記目的を達成するため請求項1に係るヘッドマウントディスプレイは、表示情報の画像をユーザの一方の眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたヘッドマウントディスプレイにおいて、前記ユーザの前記一方の眼を撮像する投射側撮像手段と、前記ユーザの他方の眼を撮像する他方側撮像手段と、前記投射側撮像手段と前記他方側撮像手段のうちの少なくとも片方を介して前記ユーザの少なくとも片側の眼の眼球運動を検出する眼球運動検出手段と、前記他方側撮像手段を介して前記他方の眼の所定の瞼の動作を検出する瞼動作検出手段と、前記瞼動作検出手段を介して前記所定の瞼の動作を検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された眼球運動に従って変更させるように前記表示手段を制御する表示制御手段と、を備えたことを特徴とする。
また、請求項2に係るヘッドマウントディスプレイは、請求項1に記載のヘッドマウントディスプレイにおいて、前記眼球運動検出手段は、前記投射側撮像手段と前記他方側撮像手段のうちの一方を介して前記ユーザの片側の眼の眼球運動を検出することを特徴とする。
また、請求項3に係るヘッドマウントディスプレイは、表示情報の画像をユーザの一方の眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたヘッドマウントディスプレイにおいて、前記ユーザの他方の眼を撮像する他方側撮像手段と、前記他方側撮像手段を介して前記ユーザの前記他方の眼の眼球運動を検出する眼球運動検出手段と、前記他方側撮像手段を介して前記他方の眼の所定の瞼の動作を検出する瞼動作検出手段と、前記瞼動作検出手段を介して前記所定の瞼の動作を検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された眼球運動に従って変更させるように前記表示手段を制御する表示制御手段と、を備えたことを特徴とする。
また、請求項4に係るヘッドマウントディスプレイは、請求項1乃至請求項3のいずれかに記載のヘッドマウントディスプレイにおいて、前記所定の瞼の動作は、前記他方の眼の瞼を所定時間以上閉じた後開ける動作であることを特徴とする。
更に、請求項5に係るヘッドマウントディスプレイは、請求項1又は請求項2に記載のヘッドマウントディスプレイにおいて、前記所定の瞼の動作は、前記他方の眼の瞼を閉じる動作であって、前記眼球運動検出手段は、前記投射側撮像手段を介して前記ユーザの前記一方の眼の眼球運動を検出して、前記表示制御手段は、前記瞼動作検出手段を介して前記他方の眼の瞼が閉じられていることを検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された前記ユーザの前記一方の眼の眼球運動に従って変更させるように前記表示手段を制御し、該瞼動作検出手段を介して該他方の眼の瞼が開けられていることを検出した場合には、該画像の表示状態の変更を停止させるように該表示手段を制御することを特徴とする。
請求項1に係るヘッドマウントディスプレイでは、ユーザは画像が投射されていない他方の眼の瞼で所定の動作をすることによって、画像が投射されている一方の眼の視線方向又は他方の眼の視線方向のうちの少なくとも片方の視線方向を変えることによって、視認している画像の表示状態を変更させることが可能となる。
例えば、ユーザは画像が投射されている一方の眼と他方の眼のうちの片側の眼の視線方向、又は、両方の眼の視線方向を左方向又は右方向に動かすことによって、眼に表示されているマニュアル等のページを左方向又は右方向にスクロール表示させことが可能となる。また、ユーザは、画像が投射されている一方の眼と他方の眼のうちの片側の眼の視線方向、又は、両方の眼の視線方向を上方向又は下方向に動かすことによって、眼に表示されているマニュアル等のページを上方向又は下方向にスクロール表示させることが可能となる。これにより、画像を見ていない方の眼で瞼の操作を行うので、連続スクロール中の画像を止めたり、動画操作など画像を見ながら操作タイミングを計って操作を行う場合に、瞼を閉じていてタイミングを逸するということを防止できる。
また、請求項2に係るヘッドマウントディスプレイでは、ユーザは画像が投射されていない他方の眼の瞼で所定の動作をすることによって、装着側の眼で絶えず表示画像を確認しながら片側の眼の視線方向を変えることによって、視認している画像の表示状態を変更させることが可能となる。例えば、ユーザは片側の眼の視線方向を左方向又は右方向に動かすことによって、眼に表示されているマニュアル等のページを左方向又は右方向にスクロール表示させることが可能となる。
また、ユーザは、片側の眼の視線を上方向又は下方向に動かすことによって、眼に表示されているマニュアル等のページを上方向又は下方向にスクロール表示させることが可能となる。これにより、画像を見ていない方の眼で瞼の操作を行うので、連続スクロール中の画像を止めたり、動画操作など画像を見ながら操作タイミングを計って操作を行う場合に、瞼を閉じていてタイミングを逸するということ確実に防止することができる。
また、請求項3に係るヘッドマウントディスプレイでは、ユーザは画像が投射されていない他方の眼の瞼で所定の動作をすることによって、この他方の眼の視線方向を変えることによって、視認している画像の表示状態を変更させることが可能となる。例えば、ユーザは画像が投射されていない他方の眼の視線方向を左方向又は右方向に動かすことによって、眼に表示されているマニュアル等のページを左方向又は右方向にスクロール表示させことが可能となる。また、ユーザは、画像が投射されていない他方の眼の視線方向を上方向又は下方向に動かすことによって、眼に表示されているマニュアル等のページを上方向又は下方向にスクロール表示させることが可能となる。
これにより、画像を見ていない方の眼の眼球と瞼の動作を行うので、連続スクロール中の画像を止めたり、動画操作など画像を見ながら操作タイミングを計って操作を行う場合に、瞼を閉じていてタイミングを逸するということもなくなる。例えば、装着側の眼で画面を見ながら、所定時間以上非装着側の瞼を閉じたままでタイミングを計り、操作タイミングで瞼を開けて視線入力を行うことで、生理的な眼の動きによる誤検出のない確実な操作を行うことができる。
また、請求項4に係るヘッドマウントディスプレイでは、ユーザは画像が投射されていない他方の眼の瞼を所定時間以上閉じた後開ける動作をした場合に、視認している画像の表示状態を視線方向の変更によって操作することが可能となる。これにより、画像が投射されていない他方の眼の瞼の動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイの誤動作を防止することが可能となる。
更に、請求項5に係るヘッドマウントディスプレイでは、画像が投射されていない他方の眼の瞼が閉じられている間だけ、画像が投射されている一方の眼の視線方向の変更によって、視認している画像の表示状態を操作することが可能となる。これにより、画像が投射されていない他方の眼の瞼の動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイの誤動作を防止することが可能となる。また、画像を見ていない方の眼で瞼を閉じる動作を行うので、装着側の眼の眼球運動で連続スクロール中の画面を止めたり、動画操作など画像を見ながら操作を行う場合にも生理的な瞬きによる誤動作をなくすことが可能となる。
以下、本発明に係るヘッドマウントディスプレイについて具体化した実施例1乃至実施例4に基づき図面を参照しつつ詳細に説明する。
[ヘッドマウントディスプレイ1の概略構成]
先ず、実施例1に係るヘッドマウントディスプレイ1の概略構成について図1及び図2に基づいて説明する。図1は実施例1に係るヘッドマウントディスプレイ1がユーザ2に装着されている状態を示す図である。図2はヘッドマウントディスプレイ1の外観を示す平面図である。
尚、図1及び図2に示されるヘッドマウントディスプレイ1の外観は単なる一例であり、本発明は、当該外観を有するヘッドマウントディスプレイ1に限定されるものではない。また、以下の説明では、本発明を網膜走査ディスプレイに適用した実施形態について説明するが、本発明は、液晶素子や有機EL素子等を用いて画像表示を行う種々のヘッドマウントディスプレイに適用できる。また、以下の説明では、本発明を光学シースルー型のヘッドマウントディスプレイに適用した実施例について説明するが、本発明は、ユーザの一方の眼に画像を表示するヘッドマウントディスプレイであれば、ビデオシースルー型、外界非透過型のヘッドマウントディスプレイにも適用することができる。
図1に示すように、ヘッドマウントディスプレイ1は、外部から入力された動画ファイル、静止画ファイル、文書ファイル(例えば、作業手順書や表計算ファイル等である。)等の各種コンテンツ情報を画像信号に変換し、この画像信号に応じて変調されたビーム光(以下、「画像光」という。)をユーザ2の左眼5(図4、図6参照)の網膜上に走査させることにより、ユーザ2にコンテンツ情報に対応する画像(以下、「コンテンツ」という。)を視認させることができるように構成されている(図4参照)。
また、このヘッドマウントディスプレイ1は、コンテンツを表示している最中であっても、ユーザ2の視野の中で、そのコンテンツを表示している領域外の領域では、外界の対象物3や風景等を視認できるように構成されている。即ち、このヘッドマウントディスプレイ1は、外光を透過しつつ、つまり、外界が視認可能な状態で、画像光をユーザ2の左目5に投射するシースルー型のヘッドマウントディスプレイである。
そして、図1及び図2に示すように、このヘッドマウントディスプレイ1は、ユーザ2の左眼5を撮像するCCDカメラ7と、ユーザ2の右眼6(図6参照)を撮像するCCDカメラ8と、ユーザ2の左眼5に画像光Z1を出射する出射装置11と、この画像光Z1をユーザ2の左眼5に向かって反射させるプリズム12と、これらを支持する支持部材13とから基本的に構成されている。
また、このプリズム12は、不図示のビームスプリッタ部を備えており、外界からの外光Z2を透過させ、ユーザ2の左眼5に導く。このように、プリズム12は、ユーザ2の側方から入射された画像光Z1をユーザ2の左眼5に入射させると共に、外界からの外光Z2をユーザ2の左眼5に入射させる光学系であるため、ユーザ2はコンテンツを外界の風景に重畳させて視認することができる。
尚、プリズム12に代えてハーフミラーを用いることもできる。すなわち、出射装置11からの画像光Z1は、ハーフミラーに反射されてユーザ2の左眼5に入射すると共に、外光Z2はハーフミラーを透過してユーザ2の眼に入射するのである。
また、CCDカメラ7は、CCDカメラ7の全体を制御する各CCDコントローラ15(図3参照)と、CCDカメラ7に対向する左眼5を撮像するCCDセンサ16(図3参照)とを備えている。また、CCDカメラ8は、CCDカメラ8の全体を制御する各CCDコントローラ17(図3参照)と、CCDカメラ8に対向する右眼6を撮像するCCDセンサ18(図3参照)とを備えている。
そして、CCDコントローラ15は、CCDセンサ16によって撮像された画像を制御部36のRAM53の左眼画像記憶領域へ記憶する。RAM53の左眼画像記憶領域へ記憶された画像は、CPU51によって画像処理され、後述のようにこの画像処理結果に基づいてコンテンツが表示制御される(図5参照)。また、CCDコントローラ17は、CCDセンサ18によって撮像された画像を制御部36のRAM53の右眼画像記憶領域へ記憶する。RAM53の右眼画像記憶領域へ記憶された画像は、CPU51によって画像処理され、後述のようにこの画像処理結果に基づいてコンテンツの表示の開始と終了、即ち、コンテンツの表示のオン、オフが制御される(図5参照)。
[ヘッドマウントディスプレイ1の電気的構成]
次に、ヘッドマウントディスプレイ1の電気的構成について図3に基づいて説明する。図3はヘッドマウントディスプレイ1の電気的構成を示すブロック図である。
図3に示すように、ヘッドマウントディスプレイ1は、ユーザ2の左眼5を撮像するCCDカメラ7と、ユーザ2の右眼6を撮像するCCDカメラ8と、ユーザ2の左眼5に画像光を出射する出射装置11と、各種操作やデータの入力を行うための入力部31と、外部からのコンテンツ情報が入力される外部接続部32と、出射装置11によって表示するコンテンツやテキスト等のイメージデータを格納するビデオRAM34と、出射装置11によって表示するテキストのフォントデータを格納するフォントROM35と、ヘッドマウントディスプレイ1の全体を制御する制御部36と、電源部37等とから構成されている。尚、出射装置11の詳細については、図4に基づいて後述する。
CCDカメラ7は、CCDコントローラ15とCCDセンサ16等から構成され、CCDコントローラ15は、CCDセンサ16によって撮像された左眼5の撮像画像を制御部36のRAM53の左眼画像記憶領域へ記憶する。また、CCDカメラ8は、CCDコントローラ117とCCDセンサ18等から構成され、CCDコントローラ17は、CCDセンサ18によって撮像された、右眼6の撮像画像を制御部36のRAM53の右眼画像記憶領域へ記憶する。
また、入力部31は、各種機能キー等からなる操作ボタン群41と、入力制御回路42とから構成されている。この入力制御回路42は、操作ボタン群41のキー操作がされたことを検出して、操作されたキーに対応する制御信号を制御部36に出力する。例えば、不図示のアイマウス開始キーが操作された場合には、入力制御回路42は、後述の「コンテンツ表示制御処理1」のプログラム(図5参照)を実行するように指示する制御信号を制御部36に出力する。また、不図示のアイマウス停止キーが操作された場合には、入力制御回路42は、後述の「コンテンツ表示制御処理1」のプログラムの実行を終了するように指示する制御信号を制御部36に出力する。
また、外部接続部32は、外部機器(例えば、パーソナルコンピュータである。)に接続されてコンテンツ情報を取得する外部接続モジュール45と、外部接続制御回路46とから構成されている。そして、外部接続制御回路46は外部接続モジュール45から入力されたコンテンツ情報を制御部36に出力し、当該コンテンツ情報はフラッシュメモリ52に記憶される。
また、制御部36は、CPU51、フラッシュメモリ52、RAM53等とから構成され、これらは不図示のバス線により相互に接続されて、相互にデータのやり取りが行われる。
また、CPU51は、ヘッドマウントディスプレイ1の全体を制御し、ヘッドマウントディスプレイ1の動作に関する全てのデータを管理する演算処理装置である。また、CPU51は、各種コンテンツ情報を画像信号に変換してビデオRAM34に記憶する。また、後述のように、CPU51は、RAM53の左眼画像記憶領域と右眼画像記憶領域に記憶される各CCDセンサ16、18によって撮像されたユーザ2の両眼5、6の撮像画像を画像処理して、それぞれの瞼の動きや眼球運動を検出し、この検出結果に従ってユーザ2の左眼5に投射するコンテンツを表示制御する(図5参照)。
また、フラッシュメモリ52は、後述のヘッドマウントディスプレイ1により表示するコンテンツを左眼5又は右眼6の眼球運動に従って左頁戻し、右頁戻し、上スクロール、下スクロール等の表示制御を行う際に、出射装置11を駆動制御するための制御処理プログラム等、CPU51によって実行される各種プログラムを記憶している。また、フラッシュメモリ52には、外部接続制御回路46から入力されたコンテンツ情報等が記憶される。
ここで、各種コンテンツ情報には、作業手順書(文書ファイル)、表計算ファイル、動画ファイル等が含まれる。また、上記各種プログラムの一部または全部を、読み出し専用のROM(不図示)に記憶するように構成してもよい。
また、RAM53は、各CCDセンサ16、18によって撮像された撮像画像を一時的に記憶し、CPU51が種々の制御を実行する際に、各種データを一時的に記憶するものである。
また、ビデオRAM34は、画像信号を一時的に記憶する。そして、このビデオRAM34に記憶された画像信号は、出射装置11の映像信号処理回路63に出力されて、コンテンツとしてユーザの網膜に投影される。従って、CPU51は、コンテンツ情報をフラッシュメモリ52から読み出し、読み出したコンテンツ情報を画像信号に変換してビデオRAM34に書き込むことによって、表示するコンテンツを制御することができる。
また、電源部37は、ヘッドマウントディスプレイ1を駆動させるための電源となる電池56と、電池56の電力をヘッドマウントディスプレイ1に供給すると共に、充電用アダプタ(図示せず)から供給される電力を電池56へ供給して電池56の充電を行う充電制御回路57とを備えている。
[出射装置11の電気的及び光学的構成]
次に、出射装置11の電気的及び光学的構成について図3及び図4に基づいて説明する。図4は出射装置11の電気的構成及び光学的構成を示すブロック図である。
図3及び図4に示すように、出射装置11には、ビデオRAM34から入力される画像信号に基づいて、画像光を生成すると共に、CPU51から入力された走査制御信号に基づいて画像光の水平方向と垂直方向の走査制御を行う光源ユニット部61が設けられている。
また、光源ユニット部61には、ビデオRAM34から画像信号が入力されると共に、CPU51から走査制御信号が入力されて、それに応じた映像を合成するための要素となる各信号を発生する映像信号処理回路63が設けられ、この映像信号処理回路63から、各画素毎の青(B)、緑(G)、赤(R)の各出力制御信号65A〜65C、水平同期信号66、及び垂直同期信号67が出力される。
また、光源ユニット部61には、映像信号処理回路63からドットクロック毎に出力される3つの出力制御信号65A〜65Cをそれぞれ画像光にする画像光出力部として機能する光源部71と、これらの3つの画像光を1つの画像光に結合して任意の画像光を生成するための光合成部72とを備えている。
光源部71は、青色の画像光を発生させるBレーザ74及び出力制御信号65Aに従ってBレーザ74を駆動するBレーザドライバ75と、緑色の画像光を発生させるGレーザ76及び出力制御信号65Bに従ってGレーザ76を駆動するGレーザドライバ77と、赤色の画像光を発生させるRレーザ78及び出力制御信号65Cに従ってRレーザ78を駆動するRレーザドライバ79とを備えている。
尚、各レーザ74、76、78は、例えば、半導体レーザや高調波発生機構付き固体レーザとして構成することが可能である。なお、半導体レーザを用いる場合は駆動電流を直接変調して、画像光の強度変調を行うことができるが、固体レーザを用いる場合は、各レーザそれぞれに外部変調器を備えて画像光の強度変調を行う必要がある。
また、光合成部72は、光源部71から入射する3つの画像光をそれぞれ平行光にコリメートするように設けられた各コリメート光学系81、82、83と、このコリメートされた3つの画像光を合成するための各ダイクロイックミラー84、85、86と、合成された画像光を光ファイバ88に導く結合光学系87とを備えている。
そして、各レーザ74、76、78から出射したレーザ光は、各コリメート光学系81、82、83によってそれぞれ平行化された後に、各ダイクロイックミラー84、85、86に入射される。その後、これらのダイクロイックミラー84、85、86により、各画像光が波長に関して選択的に反射・透過されて結合光学系87に達し、集光されて光ファイバ88へ入射される。
また、出射装置11には、光源ユニット部61で生成され、光ファイバ88を介して出射される画像光を平行光にコリメートするコリメート光学系89と、コリメートされた画像光を水平方向に往復走査する水平走査部92と、水平走査部92によって水平方向に往復走査された画像光を垂直方向に走査する垂直走査部93と、水平走査部92と垂直走査部93との間に設けられたリレー光学系94と、このように水平方向と垂直方向に走査(2次元的に走査)された画像光をユーザ2の左眼5の瞳孔95へ出射するためのリレー光学系96とが設けられている。また、プリズム12は、リレー光学系96とユーザ2の瞳孔95との間に配置され、出射装置11から出射された画像光を全反射させる等してユーザ2の瞳孔95に導くこととなる。
また、水平走査部92には、画像光を水平方向に往復走査するための反射面101Aを有する共振型偏向素子101と、映像信号処理回路63から入力された水平同期信号66に基づいて、この共振型偏向素子101を共振駆動して反射面101Aを揺動させるように駆動制御する水平走査制御回路102と、共振型偏向素子101の揺動角度や揺動周波数等の揺動状態を検出する水平走査角検出回路103とが設けられている。
また、垂直走査部93には、画像光を垂直方向に走査するための反射面105Aを有する偏向素子105と、映像信号処理回路63から入力された垂直同期信号67に基づいて、この偏向素子105を駆動して反射面105Aを揺動させるように駆動制御する垂直走査制御回路106と、偏向素子105の揺動角度や揺動周波数等の揺動状態を検出する垂直走査角検出回路107とが設けられている。
ここで、水平走査角検出回路103は、検出した共振型偏向素子101の揺動状態を示す揺動信号104をCPU51に出力し、垂直走査角検出回路107は、検出した偏向素子105の揺動状態を示す揺動信号108をCPU51に出力する。そして、CPU51は、受信した各揺動信号104、108に基いて、映像信号処理回路63に出力する走査制御信号を決定する。これにより、共振型偏向素子101及び偏向素子105の駆動状態は、CPU51によりフィードバック制御されることになる。
尚、各揺動信号104、108を映像信号処理回路63に出力するように構成し、映像信号処理回路63が、各揺動信号104、108に基いて水平同期信号66及び垂直同期信号67を出力するように構成してもよい。すなわち、共振型偏向素子101及び偏向素子105の駆動状態を、映像信号処理回路63によってフィードバック制御するようにしてもよい。
また、共振型偏向素子101によって水平方向に走査された光は、水平走査部92と垂直走査部93との間に設けられたリレー光学系94によって偏向素子105の反射面105Aに収束され、偏向素子105によって垂直方向に走査されて、2次元的に走査された走査画像光として、リレー光学系96へ出射される。また、リレー光学系96は、垂直走査部93から出射された表示用の走査画像光を、それぞれほぼ平行な画像光に変換すると共に、これらの画像光の中心線をユーザ2の瞳孔95に収束するように変換する。
尚、水平走査部92と垂直走査部93との配置を入れ替え、光ファイバ88から入射された画像光を、垂直走査部93によって垂直方向に走査した後、水平走査部92で水平方向に走査するようにしてもよい。
[コンテンツ表示制御処理1]
次に、上記のように構成されたヘッドマウントディスプレイ1のCPU51によって実行される処理であって、出射装置11によって表示されるコンテンツ(画像)をユーザ2の左眼5の眼球運動に従って表示制御する「コンテンツ表示制御処理1」について図5乃至図9に基づいて説明する。
図5は出射装置11によって表示されるコンテンツをユーザ2の左眼5の眼球運動に従って表示制御する「コンテンツ表示制御処理1」を示すフローチャートである。尚、図5にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれるアイマウス開始キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。また、図5にフローチャートで示されるプログラムは、操作ボタン群41に含まれるアイマウス停止キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行が終了される。
また、「コンテンツ表示制御処理1」の実行が開始されると、各CCDセンサ16、18が撮像した画像信号は、RAM53の左眼画像記憶領域、右眼画像記憶領域に、それぞれ所定のフレームレート(例えば、1秒間に約30フレームである。)で書き込まれる。尚、表示制御対象となるコンテンツ情報は、予めフラッシュメモリ52に記憶されているものとする。また、複数のコンテンツ情報がフラッシュメモリ52に記憶されている場合には、どのコンテンツ情報を表示するのかについて予め設定されているものとする。
図5に示すように、先ず、ステップ(以下、Sと略記する)11において、CPU51は、外部接続制御回路46から入力されてフラッシュメモリ52に記憶された作業手順書(文書ファイル)等のコンテンツ情報がある場合には、当該コンテンツ情報を読み出して画像信号に変換してビデオRAM34に記憶する。これにより、ビデオRAM34から映像信号処理部63へ画像信号が入力されて、当該コンテンツ情報に対応するコンテンツ(画像)が、出射装置11を介してユーザ2の左眼5に表示される。
例えば、コンテンツ情報が作業手順書(文書ファイル)の場合には、その第1頁目に対応するコンテンツ(図8参照)や、見開き状態の第1頁及び第2頁(図9参照)が、出射装置11を介してユーザ2の左眼5に表示される。
そして、S12において、CPU51は、RAM53の右眼画像記憶領域に記憶されている画像データを所定フレーム数(例えば、約30フレームである。)画像認識し、ユーザ2の右眼6、つまり、出射装置11が装着されていない側の右眼6の所定フレーム数分の画像認識データをRAM53に記憶する。この画像認識では、眼球の白眼と黒目(瞳の色である。)の領域が検出された場合には、瞼は閉じられていないと認識され、一方、眼球の白眼と黒目の領域が検出されず、主として肌色が検出された場合には、瞼が閉じられていると認識される。
続いて、S13において、CPU51は、RAM53からユーザ2の右眼6の所定フレーム数分の画像認識データを読み出し、右眼6の瞼6A(図6参照)が連続して閉じられているか否かを判定する判定処理を実行する。具体的には、CPU51は、右眼6の所定フレーム数分の画像認識データを読み出し、右眼6の眼球が検出されない、即ち、主として肌色が検出された場合は、瞼6Aが閉じられていると判定する。
そして、右眼6の所定フレーム数分の画像認識データにおいて、右眼6の瞼6Aが連続して閉じられていない場合、つまり、右眼6が開いて、白眼や瞳の色が認識されている場合には(S13:NO)、CPU51は、再度S11以降の処理を実行する。
一方、右眼6の所定フレーム数分の画像認識データにおいて、右眼6の瞼6Aが連続して閉じられて、白眼や瞳の色が認識されず、主として肌色が検出されている場合には(S13:YES)、CPU51は、S14の処理に移行する。
S14において、CPU51は、RAM53の左眼画像記憶領域に記憶されている画像データを所定フレーム数(例えば、約30フレームである。)画像認識し、ユーザ2の左眼5、つまり、出射装置11が装着されている側の左眼5の所定フレーム数分の画像認識データをRAM53に記憶する。
続いて、S15において、CPU51は、RAM53からユーザ2の左眼5の所定フレーム数分の画像認識データを読み出し、左眼5の眼球5A(図6参照)が移動したか否かを判定する判定処理を実行する。
ここで、ユーザ2の左眼5の所定フレーム数分の画像認識データから検出される眼球5Aの移動方向の一例について図6に基づいて説明する。図6は左眼5の所定フレーム数分の画像認識データから検出される眼球5Aの移動方向の一例を示す図である。
図6に示すように、CPU51は、CCDカメラ7によって撮像された左眼5の所定フレーム数分の画像認識データから、眼球5Aの移動方向、つまり、眼球5Aの瞳の移動方向を検出する。
そして、眼球5Aの瞳が上方向121、下方向122、左方向123又は右方向124のうちのいずれかの方向に移動した場合には、CPU51は、眼球5Aがその方向に移動したと判定し、この移動方向を眼球5Aの移動方向としてRAM53に記憶する。尚、CPU51は、眼球5Aの瞳が白眼の中央位置よりも上方向121、下方向122、左方向123又は右方向124に移動した場合に、それぞれの方向に眼球5Aが移動したと判定する。
一方、眼球5Aの瞳が上方向121、下方向122、左方向123又は右方向124のうちのいずれの方向にも移動していない場合には、CPU51は、眼球5Aは移動していないと判定する。
そして、図5に示すように、S15において、左眼5の眼球5Aは移動していないと判定した場合には(S15:NO)、CPU51は、再度S11以降の処理を実行する。
一方、S15において、眼球5Aが移動したと判定した場合には(S15:YES)、CPU51は、S16の処理に移行する。S16において、CPU51は、フラッシュメモリ52に予め記憶されている制御テーブル131(図7参照)の内容に基づいてコンテンツ(画像)の表示制御を行った後、再度S12以降の処理を実行する。
ここで、フラッシュメモリ52に予め記憶されている制御テーブル131の内容に基づいてコンテンツ(画像)の表示制御を行った一例を図7乃至図9に基づいて説明する。図7は眼球運動とコンテンツ(画像)の制御との関係を示す制御テーブル131の一例を示す図である。図8及び図9は左眼5の眼球5Aの移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。尚、図9では、見開きページ表示(2頁分の表示)としているが、単一頁の表示としてもよいことはいうまでもない。
図7に示すように、上記S11で表示したコンテンツ情報が「作業手順書」の場合には、上記S15で左眼5の眼球5Aが上方向121に移動した場合、つまり、「上に移動」した場合には、表示中のコンテンツ(画像)に対して「上スクロール」を行う。また、上記S15で左眼5の眼球5Aが下方向122に移動した場合、つまり、「下に移動」した場合には、表示中のコンテンツ(画像)に対して「下スクロール」を行う。
例えば、図8に示すように、3頁目全体が表示されている状態で、左眼5の眼球5Aが下方向122に移動されると、3頁目の後半部分と4頁目の前半部分とが表示される。また、3頁目の後半部分と4頁目の前半部分とが表示されている状態で、左眼5の眼球5Aが上方向121に移動されると、3頁目全体が表示される。
尚、スクロール量は、所定の行数/列数とすることができる。また、眼球5Aの移動速度を認識し、認識した速度に応じてスクロール量を決定してもよい。
また、図7に示すように、上記S11で表示したコンテンツ情報が「作業手順書」の場合には、上記S15で左眼5の眼球5Aが左方向123に移動した場合、つまり、「左に移動」した場合には、表示中のコンテンツ(画像)に対して「左頁送り」を行う。また、上記S15で左眼5の眼球5Aが右方向124に移動した場合、つまり、「右に移動」した場合には、表示中のコンテンツ(画像)に対して「右頁送り」を行う。
例えば、図9に示すように、2頁目と3頁目とが表示されている状態で、左眼5の眼球5Aが右方向124に移動されると、4頁目と5頁目とが表示される。また、4頁目と5頁目とが表示されている状態で、左眼5の眼球5Aが左方向123に移動されると、2頁目と3頁目とが表示される。
また、図7に示すように、上記S11で表示したコンテンツ情報が「表計算ファイル」の場合には、上記S15で左眼5の眼球5Aが上方向121、下方向122、左方向123又は右方向124に移動した場合、つまり、「上に移動」、「下に移動」、「左に移動」又は「右に移動」した場合には、表示中のコンテンツ(画像)に対して、それぞれ「上スクロール」、「下スクロール」、「左スクロール」又は「右スクロール」を行う。
また、図7に示すように、上記S11で表示したコンテンツ情報が「動画像ファイル」の場合には、上記S15で左眼5の眼球5Aが左方向123に移動した場合、つまり、「左に移動」した場合には、動画像ファイルの再生位置を戻し、左眼5の眼球5Aが右方向124に移動した場合、つまり、「右に移動」した場合には、動画像ファイルの再生位置を進める。尚、再生位置の戻し/進み量は、1チャプター分や所定時間(例えば、約30秒である。)分とすることができる。また、眼球5Aの移動速度を認識し、認識した速度に応じて再生位置の戻し/進み量を決定してもよい。これにより、操作を開始するため非装着側の右眼6を閉じても、装着側の左眼5では常に動画を認識できるので、動画の一部を見損なうことがなく、適切な操作を行うことができる。
ここで、出射装置11、ビデオRAM34は、表示手段の一例を構成する。また、CCDカメラ7は、投射側撮像手段の一例として機能する。また、CCDカメラ8は、他方側撮像手段の一例として機能する。また、CPU51、RAM53は、眼球運動検出手段、瞼動作検出手段の一例を構成する。また、CPU51、フラッシュメモリ52、ビデオRAM34は、表示制御手段の一例として機能する。
以上説明した通り、実施例1に係るヘッドマウントディスプレイ1では、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aが閉じられている場合には、CCDセンサ16によって撮像された左眼5の撮像画像を画像認識して、コンテンツ(画像)が投射されている眼球5Aの移動方向を検出する。
そして、CPU51は、眼球5Aの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、コンテンツ(画像)の上スクロール、下スクロール等の表示制御を行う。
また、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aが開かれた場合には、眼球5Aの移動方向の検出を終了し、コンテンツ(画像)の眼球5Aの移動による表示制御を終了して通常のコンテンツ表示を行う。
従って、ユーザ2は、コンテンツが投射されていない右眼6を閉じることによって、左眼5の視線方向を上方向121、下方向122、左方向123又は右方向124に動かして、左眼5に表示されている作業手順書等のコンテンツ(画像)を上下方向又は左右方向にスクロール表示や頁送りをしたり、左眼5に表示されている動画像の再生位置を変更することが可能となる。
これにより、ユーザ2は、両手がふさがっている状態であっても、右眼6の瞼6Aを閉じて、左眼5の視線方向を上方向121、下方向122、左方向123又は右方向124に動かすことによって、コンテンツ(画像)を操作でき、作業効率を高めることができる。例えば、図1において、対象物3に関する作業手順書等をヘッドマウントディスプレイ1に表示している場合、両手で対象物3を扱いつつ、左眼5の視線を上下又は左右に移動させることによって、作業手順書等の所定のページを表示させることができる。
また、右眼6の瞼6Aが閉じられている間だけ、左眼5の視線を上下又は左右に動かして、左眼5で視認しているコンテンツ(画像)の表示状態を操作することが可能となり、右眼6の瞼6Aの動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイ1の誤動作を防止することが可能となる。また、左眼5の生理的な動きと操作のために眼球5Aを動かしたときの動きとを、右眼6の瞼6Aの開閉で区別できるので、左眼5の生理的な動きによるヘッドマウントディスプレイ1の誤動作も防止できる。
次に、実施例2に係るヘッドマウントディスプレイ151について図10に基づいて説明する。尚、上記実施例1に係るヘッドマウントディスプレイ1と同一符号は、上記実施例1に係るヘッドマウントディスプレイ1と同一あるいは相当する部分を示すものである。
実施例2に係るヘッドマウントディスプレイ151の概略構成は、実施例1に係るヘッドマウントディスプレイ1と同じ構成である。また、ヘッドマウントディスプレイ151の各種制御処理も実施例1に係るヘッドマウントディスプレイ1とほぼ同じ制御処理である。但し、ヘッドマウントディスプレイ151のCPU51は、上記「コンテンツ表示制御処理1」(S11〜S16)に替えて、後述の「コンテンツ表示制御処理2」を実行する点で異なっている。
[コンテンツ表示制御処理2]
ここで、実施例2に係るヘッドマウントディスプレイ151のCPU51によって実行される処理であって、出射装置11によって表示されるコンテンツ(画像)をユーザ2の左眼5の眼球運動に従って表示制御する「コンテンツ表示制御処理2」について図10に基づいて説明する。
図10は出射装置11によって表示されるコンテンツをユーザ2の左眼5の眼球運動に従って表示制御する「コンテンツ表示制御処理2」を示すフローチャートである。尚、図10にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれるアイマウス開始キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。また、図10にフローチャートで示されるプログラムは、操作ボタン群41に含まれるアイマウス停止キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行が終了される。
図10に示すように、S111乃至S112において、CPU51は、上記S11乃至S12と同様の処理(図5参照)を実行する。但し、S112において、CPU51は、出射装置11が装着されていない側の右眼6の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
その後、S113において、CPU51は、RAM53からユーザ2の右眼6の所定時間(例えば、約2秒である。)に相当するフレーム数分(例えば、約60フレーム分である。)の画像認識データを読み出して、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれているか否かを判定する判定処理を実行する。
そして、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられていない場合、つまり、右眼6の瞼6Aが所定時間、閉じられていない場合や、瞬きで閉じられた場合には(S113:NO)、CPU51は、再度S111以降の処理を実行する。
一方、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S113:YES)、CPU51は、S114の処理に移行する。S114乃至S115において、CPU51は、上記S14乃至S15と同様の処理(図5参照)を実行する。
そして、S115において、CPU51は、眼球5Aは移動していないと判定した場合には(S115:NO)、後述のS117の処理に移行する。
一方、S115において、CPU51は、眼球5Aが移動したと判定した場合には(S115:YES)、S116の処理に移行する。S116において、CPU51は、上記S16と同様の処理(図5参照)を実行する、つまり、フラッシュメモリ52に予め記憶されている制御テーブル131(図7参照)の内容に基づいてコンテンツ(画像)の表示制御を行った後、S117の処理に移行する。
S117乃至S118において、CPU51は、上記S112乃至S113と同様の処理を実行する。
そして、S118において、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれていない場合、つまり、右眼6の瞼6Aが閉じられていない場合や、瞬きで閉じられた場合には(S118:NO)、CPU51は、再度S114以降の処理を実行する。
一方、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S118:YES)、CPU51は、再度S111以降の処理を実行する。
以上説明した通り、実施例2に係るヘッドマウントディスプレイ151では、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれた場合には、CPU51は、CCDセンサ16によって撮像された左眼5の撮像画像を画像認識して、コンテンツ(画像)が投射されている眼球5Aの移動方向を検出する。尚、CPU51は、眼球5Aの瞳が白眼の中央位置よりも上方向121、下方向122、左方向123又は右方向124に移動した場合に、それぞれの方向に眼球5Aが移動したと判定する。
そして、CPU51は、眼球5Aの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、コンテンツ(画像)の上スクロール、下スクロール等の表示制御を行う。
また、再度、右眼6の瞼6Aが所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、眼球5Aの移動方向の検出を終了し、コンテンツ(画像)の眼球5Aの移動による表示制御を終了して通常のコンテンツ表示を行う。
従って、ユーザ2は、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、左眼5の視線方向を上方向121、下方向122、左方向123又は右方向124に動かして、左眼5に表示されている作業手順書等のコンテンツ(画像)を上下方向又は左右方向にスクロール表示や頁送りをしたり、左眼5に表示されている動画像の再生位置を変更することが可能となる。
また、ユーザ2は、再度、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、左眼5の視線方向の変更による作業手順書等のコンテンツ(画像)のスクロール表示や頁送りを中止することが可能となる。このため、ユーザ2の不必要な左眼5の視線方向の変更によるコンテンツ(画像)の表示状態の変更を防止することが可能となる。
これにより、ユーザ2は、両手がふさがっている状態であっても、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、左眼5の視線方向を上方向121、下方向122、左方向123又は右方向124に動かすことによって、コンテンツ(画像)を操作でき、作業効率を高めることができる。例えば、図1において、対象物3に関する作業手順書等をヘッドマウントディスプレイ151に表示している場合、両手で対象物3を扱いつつ、左眼5の視線方向を上下又は左右に移動させることによって、作業手順書等の所定のページを表示させることができる。
そして、ユーザ2は、再度、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、左眼5の視線方向によるコンテンツ(画像)の操作を中止でき、作業手順書等の所定のページを開いた状態で両眼5、6の視線方向を自由に変更することが可能となる。
また、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、左眼5の視線方向を上下又は左右に動かして、左眼5で視認しているコンテンツ(画像)の表示状態を操作することが可能となり、右眼6の瞼6Aの動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイ151の誤動作を防止することが可能となる。
次に、実施例3に係るヘッドマウントディスプレイ161について図11乃至図14に基づいて説明する。尚、上記実施例1に係るヘッドマウントディスプレイ1と同一符号は、上記実施例1に係るヘッドマウントディスプレイ1と同一あるいは相当する部分を示すものである。
実施例3に係るヘッドマウントディスプレイ161の概略構成は、実施例1に係るヘッドマウントディスプレイ1と同じ構成である。また、ヘッドマウントディスプレイ161の各種制御処理は、実施例2に係るヘッドマウントディスプレイ151とほぼ同じ制御処理である。但し、ヘッドマウントディスプレイ161のCPU51は、上記「コンテンツ表示制御処理2」(S111〜S118)に替えて、後述のコンテンツ(画像)をユーザ2の両眼5、6の眼球運動に従って表示制御する「コンテンツ表示制御処理3」を実行する点で異なっている。
[コンテンツ表示制御処理3]
ここで、実施例3に係るヘッドマウントディスプレイ161のCPU51によって実行される処理であって、出射装置11によって表示されるコンテンツ(画像)をユーザ2の両眼5、6の眼球運動に従って表示制御する「コンテンツ表示制御処理3」について図11乃至図14に基づいて説明する。
図11は出射装置11によって表示されるコンテンツをユーザ2の両眼5、6の眼球運動に従って表示制御する「コンテンツ表示制御処理3」を示すフローチャートである。尚、図11にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれるアイマウス開始キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。また、図11にフローチャートで示されるプログラムは、操作ボタン群41に含まれるアイマウス停止キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行が終了される。
図11に示すように、S211乃至S213において、CPU51は、上記S111乃至S113と同様の処理(図10参照)を実行する。そして、S213において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられていない場合、つまり、右眼6の瞼6Aが所定時間、閉じられていない場合や、瞬きで閉じられた場合には(S213:NO)、再度S211以降の処理を実行する。尚、S212において、CPU51は、出射装置11が装着されていない側の右眼6の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
一方、S213において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S213:YES)、S214の処理に移行する。
S214において、CPU51は、RAM53の左眼画像記憶領域と右眼画像記憶領域に記憶されている同じタイミングの各画像データをそれぞれ所定フレーム数(例えば、約30フレームである。)画像認識し、ユーザ2の両眼5、6の同じタイミングにおけるそれぞれの所定フレーム数分の画像認識データをRAM53に記憶する。
続いて、S215において、CPU51は、RAM53からユーザ2の両眼5、6の同じタイミングにおけるそれぞれの所定フレーム数分の画像認識データを読み出し、両眼5、6の各眼球5A、6B(図12参照)が同時に移動したか否かを判定する判定処理を実行する。
ここで、ユーザ2の両眼5、6の同じタイミングにおけるそれぞれの所定フレーム数分の画像認識データから検出される各眼球5A、6Bの移動方向の一例について図12に基づいて説明する。図12は両眼5、6の同じタイミングにおけるそれぞれの所定フレーム数分の画像認識データから検出される各眼球5A、6Bの移動方向の一例を示す図である。
図12に示すように、CPU51は、各CCDカメラ7、8によって撮像された両眼5、6の同じタイミングにおけるそれぞれの所定フレーム数分の画像認識データから、各眼球5A、6Bの移動方向、つまり、各眼球5A、6Bの瞳の移動方向を検出する。尚、CPU51は、各眼球5A、6Bの瞳が白眼の中央位置よりも上方向121、下方向122、左方向123又は右方向124に移動した場合に、それぞれの方向に各眼球5A、6Bが移動したと判定する。
そして、各眼球5A、6Bの瞳が、ほぼ同時に上方向121、下方向122、左方向123又は右方向124のうちのいずれかの方向に移動した場合には、CPU51は、各眼球5A、6Bが、同時にその方向に移動したと判定し、この移動方向を各眼球5A、6Bの移動方向としてRAM53に記憶する。
一方、各眼球5A、6Bの瞳が、ほぼ同時に上方向121、下方向122、左方向123又は右方向124のうちのいずれの方向にも移動していない場合には、CPU51は、各眼球5A、6Bは同時に移動していないと判定する。
そして、図11に示すように、S215において、各眼球5A、6Bは同時に移動していないと判定した場合には(S215)、CPU51は、後述のS217の処理に移行する。
一方、S215において、各眼球5A、6Bが同時に移動したと判定した場合には(S215:YES)、CPU51は、S216の処理に移行する。S216において、CPU51は、フラッシュメモリ52に予め記憶されている制御テーブル131(図7参照)の内容に基づいてコンテンツ(画像)の表示制御を行った後、S217の処理に移行する。
ここで、フラッシュメモリ52に予め記憶されている制御テーブル131の内容に基づいてコンテンツ(画像)の表示制御を行った一例を図7、図13及び図14に基づいて説明する。図13及び図14は両眼5、6の各眼球5A、6Bの移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。尚、図14では、見開きページ表示(2頁分の表示)としているが、単一頁の表示としてもよいことはいうまでもない。
図7に示すように、上記S211で表示したコンテンツ情報が「作業手順書」の場合には、上記S215で両眼5、6の各眼球5A、6Bが、同時に上方向121に移動した場合、つまり、「上に移動」した場合には、表示中のコンテンツ(画像)に対して「上スクロール」を行う。また、上記S215で両眼5、6の各眼球5A、6Bが、同時に下方向122に移動した場合、つまり、「下に移動」した場合には、表示中のコンテンツ(画像)に対して「下スクロール」を行う。
例えば、図13に示すように、3頁目全体が表示されている状態で、両眼5、6の各眼球5A、6Bが、同時に下方向122に移動されると、3頁目の後半部分と4頁目の前半部分とが表示される。また、3頁目の後半部分と4頁目の前半部分とが表示されている状態で、両眼5、6の各眼球5A、6Bが、同時に上方向121に移動されると、3頁目全体が表示される。
尚、スクロール量は、所定の行数/列数とすることができる。また、各眼球5A、6Bの移動速度を認識し、認識した速度に応じてスクロール量を決定してもよい。
また、図7に示すように、上記S211で表示したコンテンツ情報が「作業手順書」の場合には、上記S215で両眼5、6の各眼球5A、6Bが、同時に左方向123に移動した場合、つまり、「左に移動」した場合には、表示中のコンテンツ(画像)に対して「左頁送り」を行う。また、上記S215で両眼5、6の各眼球5A、6Bが、同時に右方向124に移動した場合、つまり、「右に移動」した場合には、表示中のコンテンツ(画像)に対して「右頁送り」を行う。
例えば、図14に示すように、2頁目と3頁目とが表示されている状態で、両眼5、6の各眼球5A、6Bが、同時に右方向124に移動されると、4頁目と5頁目とが表示される。また、4頁目と5頁目とが表示されている状態で、両眼5、6の各眼球5A、6Bが、同時に左方向123に移動されると、2頁目と3頁目とが表示される。
また、図7に示すように、上記S211で表示したコンテンツ情報が「表計算ファイル」の場合には、上記S215で両眼5、6の各眼球5A、6Bが、同時に上方向121、下方向122、左方向123又は右方向124に移動した場合、つまり、「上に移動」、「下に移動」、「左に移動」又は「右に移動」した場合には、表示中のコンテンツ(画像)に対して、それぞれ「上スクロール」、「下スクロール」、「左スクロール」又は「右スクロール」を行う。
また、図7に示すように、上記S211で表示したコンテンツ情報が「動画像ファイル」の場合には、上記S215で両眼5、6の各眼球5A、6Bが、同時に左方向123に移動した場合、つまり、「左に移動」した場合には、動画像ファイルの再生位置を戻し、両眼5、6の各眼球5A、6Bが、同時に右方向124に移動した場合、つまり、「右に移動」した場合には、動画像ファイルの再生位置を進める。尚、再生位置の戻し/進み量は、1チャプター分や所定時間(例えば、約30秒である。)分とすることができる。また、各眼球5A、6Bの移動速度を認識し、認識した速度に応じて再生位置の戻し/進み量を決定してもよい。これにより、操作を開始するため非装着側の右眼6を一定時間閉じても、装着側の左眼5では常に動画を認識できるので、動画の一部を見損なうことがなく、適切な操作を行うことができる。
続いて、図11に示すように、S217乃至S218において、CPU51は、上記S212乃至S213と同様の処理を実行する。
そして、S218において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられていない場合、つまり、右眼6の瞼6Aが所定時間、閉じられていない場合や、瞬きで閉じられた場合には(S218:NO)、再度S214以降の処理を実行する。
一方、S218において、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S218:YES)、再度S211以降の処理を実行する。
以上説明した通り、実施例3に係るヘッドマウントディスプレイ161では、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれた場合には、CPU51は、各CCDセンサ16、18によって撮像された両眼5、6の撮像画像を画像認識して、両眼5、6の各眼球5A、6Bの移動方向を検出する。
そして、CPU51は、各眼球5A、6Bの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、左眼5に投射されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行う。
また、再度、右眼6の瞼6Aが所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、各眼球5A、6Bの移動方向の検出を終了し、コンテンツ(画像)の各眼球5A、6Bの移動による表示制御を終了して通常のコンテンツ表示を行う。
従って、ユーザ2は、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、両眼5、6の視線方向を同時に上方向121、下方向122、左方向123又は右方向124に動かして、左眼5に表示されている作業手順書等のコンテンツ(画像)を上下方向又は左右方向にスクロール表示や頁送りをしたり、左眼5に表示されている動画像の再生位置を変更することが可能となる。
また、ユーザ2は、再度、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、両眼5、6の視線方向の変更による作業手順書等のコンテンツ(画像)のスクロール表示や頁送りを中止することが可能となる。このため、ユーザ2の不必要な視線方向の変更によるコンテンツ(画像)の表示状態の変更を防止することが可能となる。
これにより、ユーザ2は、両手がふさがっている状態であっても、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、両眼5、6の視線方向を同時に上方向121、下方向122、左方向123又は右方向124に動かすことによって、コンテンツ(画像)を操作でき、作業効率を高めることができる。例えば、図1において、対象物3に関する作業手順書等をヘッドマウントディスプレイ161に表示している場合、両手で対象物3を扱いつつ、両眼5、6の視線方向を同時に上下又は左右に移動させることによって、作業手順書等の所定のページを表示させることができる。
そして、ユーザ2は、再度、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、両眼5、6の視線方向によるコンテンツ(画像)の操作を中止でき、作業手順書等の所定のページを開いた状態で両眼5、6の視線方向を自由に変更することが可能となる。
また、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、両眼5、6の視線方向を同時に上下又は左右に動かして、左眼5で視認しているコンテンツ(画像)の表示状態を操作することが可能となり、右眼6の瞼6Aの動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイ161の誤動作を防止することが可能となる。
次に、実施例4に係るヘッドマウントディスプレイ171について図15乃至図20に基づいて説明する。尚、上記実施例1に係るヘッドマウントディスプレイ1と同一符号は、上記実施例1に係るヘッドマウントディスプレイ1と同一あるいは相当する部分を示すものである。
[ヘッドマウントディスプレイ171の概略構成、電気的構成]
先ず、実施例4に係るヘッドマウントディスプレイ171の概略構成と電気的構成を図15及び図16に基づいて説明する。図15は実施例4に係るヘッドマウントディスプレイ171がユーザ2に装着されている状態を示す図である。図16はヘッドマウントディスプレイ171の電気的構成を示すブロック図である。
図15に示すように、実施例4に係るヘッドマウントディスプレイ171の概略構成は、実施例1に係るヘッドマウントディスプレイ1(図1参照)とほぼ同じ構成である。
但し、ヘッドマウントディスプレイ171は、ユーザ2の左眼5を撮像するCCDカメラ7が設けられていない点で、実施例1に係るヘッドマウントディスプレイ1と異なっている。
従って、図16に示すように、ヘッドマウントディスプレイ171は、ユーザ2の右眼6を撮像するCCDカメラ8と、ユーザ2の左眼5に画像光を出射する出射装置11と、各種操作やデータの入力を行うための入力部31と、外部からのコンテンツ情報が入力される外部接続部32と、出射装置11によって表示するコンテンツやテキスト等のイメージデータを格納するビデオRAM34と、出射装置11によって表示するテキストのフォントデータを格納するフォントROM35と、ヘッドマウントディスプレイ1の全体を制御する制御部36と、電源部37等とから構成されている。
また、ヘッドマウントディスプレイ171の各種制御処理は、実施例2に係るヘッドマウントディスプレイ151とほぼ同じ制御処理である。
但し、ヘッドマウントディスプレイ171のCPU51は、上記「コンテンツ表示制御処理2」(S111〜S118)に替えて、後述のコンテンツ(画像)をユーザ2の右眼6の眼球運動に従って表示制御する「コンテンツ表示制御処理4」を実行する点で異なっている。
[コンテンツ表示制御処理4]
次に、実施例4に係るヘッドマウントディスプレイ171のCPU51によって実行される処理であって、出射装置11によって表示されるコンテンツ(画像)をユーザ2の右眼6の眼球運動に従って表示制御する「コンテンツ表示制御処理4」について図17乃至図20に基づいて説明する。
図17は出射装置11によって表示されるコンテンツをユーザ2の右眼6の眼球運動に従って表示制御する「コンテンツ表示制御処理4」を示すフローチャートである。尚、図17にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれるアイマウス開始キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。また、図17にフローチャートで示されるプログラムは、操作ボタン群41に含まれるアイマウス停止キー(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行が終了される。
図17に示すように、S311乃至S313において、CPU51は、上記S111乃至S113と同様の処理(図10参照)を実行する。
そして、S313において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられていない場合、つまり、右眼6の瞼6Aが所定時間、閉じられていない場合や、瞬きで閉じられた場合には(S313:NO)、再度S311以降の処理を実行する。尚、S312において、CPU51は、出射装置11が装着されていない側の右眼6の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
一方、S313において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S313:YES)、S314の処理に移行する。
S314において、CPU51は、RAM53の右眼画像記憶領域に記憶されている画像データを所定フレーム数(例えば、約30フレームである。)ずつ画像認識し、ユーザ2の右眼6、つまり、出射装置11が装着されていない側の右眼6の所定フレーム数分の画像認識データをRAM53に記憶する。
続いて、S315において、CPU51は、RAM53からユーザ2の右眼6の所定フレーム数分の画像認識データを読み出し、右眼6の眼球6B(図18参照)が移動したか否かを判定する判定処理を実行する。尚、CPU51は、眼球6Bの瞳が白眼の中央位置よりも上方向121、下方向122、左方向123又は右方向124に移動した場合に、それぞれの方向に眼球6Bが移動したと判定する。
ここで、ユーザ2の右眼6の所定フレーム数分の画像認識データから検出される眼球6Bの移動方向の一例について図18に基づいて説明する。図18は右眼6の所定フレーム数分の画像認識データから検出される眼球6Bの移動方向の一例を示す図である。
図18に示すように、CPU51は、CCDカメラ8によって撮像された右眼6の所定フレーム数分の画像認識データから、眼球6Bの移動方向、つまり、眼球6Bの瞳の移動方向を検出する。
そして、眼球6Bの瞳が上方向121、下方向122、左方向123又は右方向124のうちのいずれかの方向に移動した場合には、CPU51は、眼球6Bがその方向に移動したと判定し、この移動方向を眼球6Bの移動方向としてRAM53に記憶する。
一方、眼球6Bの瞳が上方向121、下方向122、左方向123又は右方向124のうちのいずれの方向にも移動していない場合には、CPU51は、眼球6Bは移動していないと判定する。
そして、図17に示すように、S315において、右眼6の眼球6Bは移動していないと判定した場合には(S315:NO)、CPU51は、後述のS317の処理に移行する。
一方、S315において、右眼6の眼球6Bが移動したと判定した場合には(S315:YES)、CPU51は、S316の処理に移行する。S316において、CPU51は、フラッシュメモリ52に予め記憶されている制御テーブル131(図7参照)の内容に基づいてコンテンツ(画像)の表示制御を行った後、S317の処理に移行する。
ここで、フラッシュメモリ52に予め記憶されている制御テーブル131の内容に基づいてコンテンツ(画像)の表示制御を行った一例を図7、図19及び図20に基づいて説明する。図19及び図20は右眼6の眼球6Bの移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。尚、図20では、見開きページ表示(2頁分の表示)としているが、単一頁の表示としてもよいことはいうまでもない。
図7に示すように、上記S311で表示したコンテンツ情報が「作業手順書」の場合には、上記S315で右眼6の眼球6Bが上方向121に移動した場合、つまり、「上に移動」した場合には、表示中のコンテンツ(画像)に対して「上スクロール」を行う。また、上記S315で右眼6の眼球6Bが下方向122に移動した場合、つまり、「下に移動」した場合には、表示中のコンテンツ(画像)に対して「下スクロール」を行う。
例えば、図19に示すように、3頁目全体が表示されている状態で、右眼6の眼球6Bが下方向122に移動されると、3頁目の後半部分と4頁目の前半部分とが表示される。また、3頁目の後半部分と4頁目の前半部分とが表示されている状態で、右眼6の眼球6Bが上方向121に移動されると、3頁目全体が表示される。
尚、スクロール量は、所定の行数/列数とすることができる。また、眼球6Bの移動速度を認識し、認識した速度に応じてスクロール量を決定してもよい。
また、図7に示すように、上記S311で表示したコンテンツ情報が「作業手順書」の場合には、上記S315で右眼6の眼球6Bが左方向123に移動した場合、つまり、「左に移動」した場合には、表示中のコンテンツ(画像)に対して「左頁送り」を行う。また、上記S315で右眼6の眼球6Bが右方向124に移動した場合、つまり、「右に移動」した場合には、表示中のコンテンツ(画像)に対して「右頁送り」を行う。
例えば、図20に示すように、2頁目と3頁目とが表示されている状態で、右眼6の眼球6Bが右方向124に移動されると、4頁目と5頁目とが表示される。また、4頁目と5頁目とが表示されている状態で、右眼6の眼球6Bが左方向123に移動されると、2頁目と3頁目とが表示される。
また、図7に示すように、上記S311で表示したコンテンツ情報が「表計算ファイル」の場合には、上記S315で右眼6の眼球6Bが上方向121、下方向122、左方向123又は右方向124に移動した場合、つまり、「上に移動」、「下に移動」、「左に移動」又は「右に移動」した場合には、表示中のコンテンツ(画像)に対して、それぞれ「上スクロール」、「下スクロール」、「左スクロール」又は「右スクロール」を行う。
また、図7に示すように、上記S311で表示したコンテンツ情報が「動画像ファイル」の場合には、上記S315で右眼6の眼球6Bが左方向123に移動した場合、つまり、「左に移動」した場合には、動画像ファイルの再生位置を戻し、右眼6の眼球6Bが右方向124に移動した場合、つまり、「右に移動」した場合には、動画像ファイルの再生位置を進める。尚、再生位置の戻し/進み量は、1チャプター分や所定時間(例えば、約30秒である。)分とすることができる。また、眼球6Bの移動速度を認識し、認識した速度に応じて再生位置の戻し/進み量を決定してもよい。これにより、操作を開始するため非装着側の右眼6を一定時間閉じても、装着側の左眼5では常に動画を認識できるので、動画の一部を見損なうことがなく、適切な操作を行うことができる。
続いて、図17に示すように、S317乃至S318において、CPU51は、上記S312乃至S313と同様の処理を実行する。
そして、S318において、CPU51は、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられていない場合、つまり、右眼6の瞼6Aが所定時間、閉じられていない場合や、瞬きで閉じられた場合には(S318:NO)、再度S314以降の処理を実行する。
一方、S318において、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には(S318:YES)、再度S311以降の処理を実行する。
ここで、出射装置11、ビデオRAM34は、表示手段の一例を構成する。また、CCDカメラ8は、他方側撮像手段の一例として機能する。また、CPU51、RAM53は、眼球運動検出手段、瞼動作検出手段の一例を構成する。また、CPU51、フラッシュメモリ52、ビデオRAM34は、表示制御手段の一例として機能する。
以上説明した通り、実施例4に係るヘッドマウントディスプレイ171では、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識することによって、右眼6の瞼6Aが所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれた場合には、CPU51は、CCDセンサ18によって撮像された右眼6の撮像画像を画像認識して、右眼6の眼球6Bの移動方向を検出する。
そして、CPU51は、眼球6Bの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、左眼5に投射されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行う。
また、再度、右眼6の瞼6Aが所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、右眼6の眼球6Bの移動方向の検出を終了し、左眼5に投射されるコンテンツ(画像)の眼球6Bの移動による表示制御を終了して通常のコンテンツ表示を行う。
従って、ユーザ2は、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、右眼6の視線方向を上方向121、下方向122、左方向123又は右方向124に動かして、左眼5に表示されている作業手順書等のコンテンツ(画像)を上下方向又は左右方向にスクロール表示や頁送りをしたり、左眼5に表示されている動画像の再生位置を変更することが可能となる。
また、ユーザ2は、再度、コンテンツが投射されていない右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、右眼6の視線方向の変更による作業手順書等のコンテンツ(画像)のスクロール表示や頁送りを中止することが可能となる。このため、ユーザ2の不必要な右眼6の視線方向の変更によるコンテンツ(画像)の表示状態の変更を防止することが可能となる。
これにより、ユーザ2は、両手がふさがっている状態であっても、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、右眼6の視線方向を上方向121、下方向122、左方向123又は右方向124に動かすことによって、コンテンツ(画像)を操作でき、作業効率を高めることができる。例えば、図15において、対象物3に関する作業手順書等をヘッドマウントディスプレイ171に表示している場合、両手で対象物3を扱いつつ、右眼6の視線方向を上下又は左右に移動させることによって、作業手順書等の所定のページを表示させることができる。
そして、ユーザ2は、再度、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、右眼6の視線方向によるコンテンツ(画像)の操作を中止でき、作業手順書等の所定のページを開いた状態で両眼5、6の視線方向を自由に変更することが可能となる。
また、右眼6の瞼6Aを所定時間(例えば、約1秒である。)閉じた後、開くことによって、右眼6の視線方向を上下又は左右に動かして、左眼5で視認しているコンテンツ(画像)の表示状態を操作することが可能となり、右眼6の瞼6Aの動作と生理的な瞬きとを正確に区別することができ、ヘッドマウントディスプレイ171の誤動作を防止することが可能となる。
尚、本発明は前記実施例1乃至実施例4に限定されることはなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。例えば、以下のようにしてもよい。
(A)上記実施例1において、ヘッドマウントディスプレイ1の出射装置11を右眼6側に装着してもよい。この場合には、上記S12乃至S13において、CPU51は、RAM53の左眼画像記憶領域に記憶されている画像データに基づいて、左眼5の瞼が閉じられているか否かを判定するようにしてもよい。
そして、上記S14乃至S16において、CPU51は、左眼5の瞼が閉じられている場合には、RAM53の右眼画像記憶領域に記憶されている画像データに基づいて、右眼6の眼球6Bの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、右眼6に表示されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行うようにしてもよい。
(B)また、上記実施例2において、ヘッドマウントディスプレイ151の出射装置11を右眼6側に装着してもよい。この場合には、上記S112乃至S113において、RAM53の左眼画像記憶領域に記憶されている画像データに基づいて、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれているか否かを判定するようにしてもよい。尚、S112において、CPU51は、出射装置11が装着されていない側の左眼5の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
そして、上記S114乃至S116において、CPU51は、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には、RAM53の右眼画像記憶領域に記憶されている画像データから、右眼6の眼球6Bの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、右眼6に表示されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行うようにしてもよい。
また、上記S117乃至S118において、再度、左眼5の瞼が所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、右眼6の眼球6Bの移動方向の検出を終了し、右眼6に表示されるコンテンツ(画像)の眼球6Bの移動による表示制御を終了して通常のコンテンツ表示を行うようにしてもよい。
(C)また、上記実施例3において、ヘッドマウントディスプレイ161の出射装置11を右眼6側に装着してもよい。この場合には、上記S212乃至S213において、RAM53の左眼画像記憶領域に記憶されている画像データに基づいて、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれているか否かを判定するようにしてもよい。尚、S212において、CPU51は、出射装置11が装着されていない側の左眼5の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
そして、上記S214乃至S216において、CPU51は、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には、RAM53の左眼画像記憶領域と右眼画像記憶領域に記憶されている画像データから、両眼5、6の各眼球5A、6Bの同じタイミングでの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、右眼6に表示されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行うようにしてもよい。
また、上記S217乃至S218において、再度、左眼5の瞼が所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、両眼5、6の各眼球5A、6Bの移動方向の検出を終了し、右眼6に表示されるコンテンツ(画像)の各眼球5A、6Bの移動による表示制御を終了して通常のコンテンツ表示を行うようにしてもよい。
(D)また、上記実施例4において、ヘッドマウントディスプレイ171の出射装置11を右眼6側に装着してもよい。また、ユーザ2の左眼5を撮像するCCDカメラ7だけを設け、右眼6を撮像するCCDカメラ8を設けないようにしてもよい。
この場合には、上記S312乃至S313において、RAM53の左眼画像記憶領域に記憶されている画像データに基づいて、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれているか否かを判定するようにしてもよい。但し、S312において、CPU51は、出射装置11が装着されていない側の左眼5の所定時間(例えば、約2秒である。)に相当するフレーム数分の画像認識データをRAM53に記憶する。
そして、上記S314乃至S316において、CPU51は、左眼5の瞼が所定時間(例えば、約1秒間である。)のフレーム数分(例えば、約30フレームである。)閉じられた後、連続して開かれている場合には、RAM53の左眼画像記憶領域に記憶されている画像データに基づいて、左眼5の眼球5Aの上方向121、下方向122、左方向123又は右方向124への移動に基づいて、右眼6に表示されるコンテンツ(画像)の上スクロール、下スクロール等の表示制御を行うようにしてもよい。
また、上記S317乃至S318において、再度、左眼5の瞼が所定時間のフレーム数分閉じられた後、連続して開かれた場合には、CPU51は、左眼5の眼球5Aの移動方向の検出を終了し、右眼6に表示されるコンテンツ(画像)の眼球5Aの移動による表示制御を終了して通常のコンテンツ表示を行うようにしてもよい。
実施例1に係るヘッドマウントディスプレイがユーザに装着されている状態を示す図である。 ヘッドマウントディスプレイの外観を示す平面図である。 ヘッドマウントディスプレイの電気的構成を示すブロック図である。 出射装置の電気的構成及び光学的構成を示すブロック図である。 出射装置によって表示されるコンテンツをユーザの左眼の眼球運動に従って表示制御する「コンテンツ表示制御処理1」を示すフローチャートである。 実施例1において検出される眼球運動の一例を示す説明図である。 眼球運動とコンテンツ(画像)の制御との関係を示す制御テーブルの一例を示す図である。 左眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。 左眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。 実施例2に係るヘッドマウントディスプレイの出射装置によって表示されるコンテンツをユーザの左眼の眼球運動に従って表示制御する「コンテンツ表示制御処理2」を示すフローチャートである。 実施例3に係るヘッドマウントディスプレイの出射装置によって表示されるコンテンツをユーザの両眼の眼球運動に従って表示制御する「コンテンツ表示制御処理3」を示すフローチャートである。 実施例3において検出される眼球運動の一例を示す説明図である。 両眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。 両眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。 実施例4に係るヘッドマウントディスプレイがユーザに装着されている状態を示す図である。 実施例4に係るヘッドマウントディスプレイの電気的構成を示すブロック図である。 実施例4に係るヘッドマウントディスプレイの出射装置によって表示されるコンテンツをユーザの右眼の眼球運動に従って表示制御する「コンテンツ表示制御処理4」を示すフローチャートである。 実施例4において検出される眼球運動の一例を示す説明図である。 右眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。 右眼の眼球の移動と表示されるコンテンツ(作業手順書)との関係の一例を示す図である。
符号の説明
1、151、161、171 ヘッドマウントディスプレイ
5 左眼
5A、6B 眼球
6 右眼
6A 瞼
7、8 CCDカメラ
11 出射装置
15、17 CCDコントローラ
16、18 CCDセンサ
34 ビデオRAM
51 CPU
52 フラッシュメモリ
53 RAM
131 制御テーブル

Claims (5)

  1. 表示情報の画像をユーザの一方の眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたヘッドマウントディスプレイにおいて、
    前記ユーザの前記一方の眼を撮像する投射側撮像手段と、
    前記ユーザの他方の眼を撮像する他方側撮像手段と、
    前記投射側撮像手段と前記他方側撮像手段のうちの少なくとも片方を介して前記ユーザの少なくとも片側の眼の眼球運動を検出する眼球運動検出手段と、
    前記他方側撮像手段を介して前記他方の眼の所定の瞼の動作を検出する瞼動作検出手段と、
    前記瞼動作検出手段を介して前記所定の瞼の動作を検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された眼球運動に従って変更させるように前記表示手段を制御する表示制御手段と、
    を備えたことを特徴とするヘッドマウントディスプレイ。
  2. 前記眼球運動検出手段は、前記投射側撮像手段と前記他方側撮像手段のうちの一方を介して前記ユーザの片側の眼の眼球運動を検出することを特徴とする請求項1に記載のヘッドマウントディスプレイ。
  3. 表示情報の画像をユーザの一方の眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたヘッドマウントディスプレイにおいて、
    前記ユーザの他方の眼を撮像する他方側撮像手段と、
    前記他方側撮像手段を介して前記ユーザの前記他方の眼の眼球運動を検出する眼球運動検出手段と、
    前記他方側撮像手段を介して前記他方の眼の所定の瞼の動作を検出する瞼動作検出手段と、
    前記瞼動作検出手段を介して前記所定の瞼の動作を検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された眼球運動に従って変更させるように前記表示手段を制御する表示制御手段と、
    を備えたことを特徴とするヘッドマウントディスプレイ。
  4. 前記所定の瞼の動作は、前記他方の眼の瞼を所定時間以上閉じた後開ける動作であることを特徴とする請求項1乃至請求項3のいずれかに記載のヘッドマウントディスプレイ。
  5. 前記所定の瞼の動作は、前記他方の眼の瞼を閉じる動作であって、
    前記眼球運動検出手段は、前記投射側撮像手段を介して前記ユーザの前記一方の眼の眼球運動を検出して、
    前記表示制御手段は、前記瞼動作検出手段を介して前記他方の眼の瞼が閉じられていることを検出した場合には、前記画像の表示状態を前記眼球運動検出手段によって検出された前記ユーザの前記一方の眼の眼球運動に従って変更させるように前記表示手段を制御し、該瞼動作検出手段を介して該他方の眼の瞼が開けられていることを検出した場合には、該画像の表示状態の変更を停止させるように該表示手段を制御することを特徴とする請求項1又は請求項2に記載のヘッドマウントディスプレイ。
JP2008326991A 2008-12-24 2008-12-24 ヘッドマウントディスプレイ Pending JP2010152443A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008326991A JP2010152443A (ja) 2008-12-24 2008-12-24 ヘッドマウントディスプレイ
PCT/JP2009/070151 WO2010073879A1 (ja) 2008-12-24 2009-12-01 ヘッドマウントディスプレイ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008326991A JP2010152443A (ja) 2008-12-24 2008-12-24 ヘッドマウントディスプレイ

Publications (1)

Publication Number Publication Date
JP2010152443A true JP2010152443A (ja) 2010-07-08

Family

ID=42287497

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008326991A Pending JP2010152443A (ja) 2008-12-24 2008-12-24 ヘッドマウントディスプレイ

Country Status (2)

Country Link
JP (1) JP2010152443A (ja)
WO (1) WO2010073879A1 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012063899A (ja) * 2010-09-15 2012-03-29 Nec Casio Mobile Communications Ltd 画面表示装置、画面表示制御方法及び画面表示制御プログラム並びに情報端末装置
US8836641B1 (en) 2013-08-28 2014-09-16 Lg Electronics Inc. Head mounted display and method of controlling therefor
EP2784632A2 (en) 2013-03-25 2014-10-01 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
JP2014187574A (ja) * 2013-03-25 2014-10-02 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2014191386A (ja) * 2013-03-26 2014-10-06 Seiko Epson Corp 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2015088177A (ja) * 2013-09-04 2015-05-07 ジョンソン・アンド・ジョンソン・ビジョン・ケア・インコーポレイテッドJohnson & Johnson Vision Care, Inc. 外部デバイスとインターフェイス接続可能な眼用レンズシステム
US9389683B2 (en) 2013-08-28 2016-07-12 Lg Electronics Inc. Wearable display and method of controlling therefor
JP2016136351A (ja) * 2015-01-23 2016-07-28 京セラ株式会社 電子機器及び制御方法
JP2016177819A (ja) * 2016-04-26 2016-10-06 京セラ株式会社 表示装置、制御方法および制御プログラム
JP2016181264A (ja) * 2016-04-26 2016-10-13 京セラ株式会社 表示装置、制御方法および制御プログラム
JP2017009986A (ja) * 2015-06-25 2017-01-12 株式会社Qdレーザ 画像投影装置
JP2017016599A (ja) * 2015-07-07 2017-01-19 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
WO2017119213A1 (ja) * 2016-01-05 2017-07-13 株式会社Qdレーザ 画像投影装置
JPWO2016113951A1 (ja) * 2015-01-15 2017-09-07 株式会社ソニー・インタラクティブエンタテインメント 頭部装着型表示装置、及び映像表示システム
JP2020103907A (ja) * 2014-03-19 2020-07-09 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 立体ビューワのための視線追跡を統合する医療装置、システム、及び方法
US11147640B2 (en) 2014-03-19 2021-10-19 Intuitive Surgical Operations, Inc. Medical devices, systems, and methods using eye gaze tracking

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103455746B (zh) * 2013-09-10 2016-10-05 百度在线网络技术(北京)有限公司 头戴式显示设备
CN106484107A (zh) * 2016-09-29 2017-03-08 宇龙计算机通信科技(深圳)有限公司 一种信息交互的方法及虚拟现实眼镜
EP4113464A1 (en) 2021-06-30 2023-01-04 Tobii AB An eye tracking system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001100903A (ja) * 1999-09-28 2001-04-13 Sanyo Electric Co Ltd 視線検出機能搭載装置
JP2003230539A (ja) * 2002-02-07 2003-08-19 Minolta Co Ltd 視線検出装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001100903A (ja) * 1999-09-28 2001-04-13 Sanyo Electric Co Ltd 視線検出機能搭載装置
JP2003230539A (ja) * 2002-02-07 2003-08-19 Minolta Co Ltd 視線検出装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
新井 康平,外1名: "視線入力による会話支援システム", 電気学会論文誌C, vol. 第128巻,第11号, JPN6012040702, 1 November 2008 (2008-11-01), JP, pages 1679 - 1686, ISSN: 0002297408 *

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8866860B2 (en) 2010-09-15 2014-10-21 Nec Casio Mobile Communications Ltd. Screen display device, screen display control method, screen display control program, and information terminal device
JP2012063899A (ja) * 2010-09-15 2012-03-29 Nec Casio Mobile Communications Ltd 画面表示装置、画面表示制御方法及び画面表示制御プログラム並びに情報端末装置
US9335547B2 (en) 2013-03-25 2016-05-10 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
US9921646B2 (en) 2013-03-25 2018-03-20 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
EP2784632A2 (en) 2013-03-25 2014-10-01 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
JP2014187574A (ja) * 2013-03-25 2014-10-02 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2014191386A (ja) * 2013-03-26 2014-10-06 Seiko Epson Corp 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
WO2015030306A1 (en) * 2013-08-28 2015-03-05 Lg Electronics Inc. Head mounted display and method of controlling therefor
US9389683B2 (en) 2013-08-28 2016-07-12 Lg Electronics Inc. Wearable display and method of controlling therefor
US8836641B1 (en) 2013-08-28 2014-09-16 Lg Electronics Inc. Head mounted display and method of controlling therefor
JP2015088177A (ja) * 2013-09-04 2015-05-07 ジョンソン・アンド・ジョンソン・ビジョン・ケア・インコーポレイテッドJohnson & Johnson Vision Care, Inc. 外部デバイスとインターフェイス接続可能な眼用レンズシステム
JP2020103907A (ja) * 2014-03-19 2020-07-09 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 立体ビューワのための視線追跡を統合する医療装置、システム、及び方法
US11792386B2 (en) 2014-03-19 2023-10-17 Intuitive Surgical Operations, Inc. Medical devices, systems, and methods using eye gaze tracking for stereo viewer
US11438572B2 (en) 2014-03-19 2022-09-06 Intuitive Surgical Operations, Inc. Medical devices, systems and methods using eye gaze tracking for stereo viewer
US11147640B2 (en) 2014-03-19 2021-10-19 Intuitive Surgical Operations, Inc. Medical devices, systems, and methods using eye gaze tracking
JP7080915B2 (ja) 2014-03-19 2022-06-06 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 立体ビューワのための視線追跡を統合する医療装置、システム、及び方法
JPWO2016113951A1 (ja) * 2015-01-15 2017-09-07 株式会社ソニー・インタラクティブエンタテインメント 頭部装着型表示装置、及び映像表示システム
US10591735B2 (en) 2015-01-15 2020-03-17 Sony Interactive Entertainment Inc. Head-mounted display device and image display system
JP2016136351A (ja) * 2015-01-23 2016-07-28 京セラ株式会社 電子機器及び制御方法
JP2017009986A (ja) * 2015-06-25 2017-01-12 株式会社Qdレーザ 画像投影装置
US10444519B2 (en) 2015-06-25 2019-10-15 Qd Laser, Inc. Image projection device
JP2017016599A (ja) * 2015-07-07 2017-01-19 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP2017122775A (ja) * 2016-01-05 2017-07-13 株式会社Qdレーザ 画像投影装置
US10761329B2 (en) 2016-01-05 2020-09-01 Qd Laser, Inc. Image projection device
WO2017119213A1 (ja) * 2016-01-05 2017-07-13 株式会社Qdレーザ 画像投影装置
JP2016181264A (ja) * 2016-04-26 2016-10-13 京セラ株式会社 表示装置、制御方法および制御プログラム
JP2016177819A (ja) * 2016-04-26 2016-10-06 京セラ株式会社 表示装置、制御方法および制御プログラム

Also Published As

Publication number Publication date
WO2010073879A1 (ja) 2010-07-01

Similar Documents

Publication Publication Date Title
WO2010073879A1 (ja) ヘッドマウントディスプレイ
US8514148B2 (en) Head mount display
US8494212B2 (en) Head mounted display
EP2163937A1 (en) Head mount display
WO2010071110A1 (ja) ヘッドマウントディスプレイ
JP5272827B2 (ja) ヘッドマウントディスプレイ
JP5195537B2 (ja) ヘッドマウントディスプレイ
JP2010139901A (ja) ヘッドマウントディスプレイ
US20110267321A1 (en) Head mounted display and drive method thereof
EP2107414A1 (en) Head mount display and head mount display system
US9261959B1 (en) Input detection
JP2011091789A (ja) ヘッドマウントディスプレイ
JP6231541B2 (ja) 画像投影装置
US20110316763A1 (en) Head-mounted display apparatus, image control method and image control program
JP2011075956A (ja) ヘッドマウントディスプレイ
JP2010139711A (ja) ヘッドマウントディスプレイ
JP2010067154A (ja) ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ
JP2006017991A (ja) 映像表示装置
JP5251813B2 (ja) 作業支援システム、ヘッドマウントディスプレイ及びプログラム
JP5109952B2 (ja) ヘッドマウントディスプレイ
JP5163535B2 (ja) ヘッドマウントディスプレイ
JP6394165B2 (ja) 虚像表示装置及び方法
WO2016208266A1 (ja) 画像投影装置
JP5163534B2 (ja) ヘッドマウントディスプレイ
JP2010134152A (ja) ヘッドマウントディスプレイ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130108