次に、本発明の実施の形態を実施形態に基づいて以下の順序で説明する。
A.第1実施形態:
A−1.頭部装着型表示装置の構成:
A−2.視線操作入力処理:
B.第2実施形態:
C.第3実施形態:
D.変形例:
A.第1実施形態:
A−1.頭部装着型表示装置の構成:
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、外景撮像カメラ61と、距離センサー63と、右眼撮像カメラ37と、左眼撮像カメラ38と、右眼照度センサー45と、左眼照度センサー47と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図3参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
外景撮像カメラ61は、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。外景撮像カメラ61は、外部の景色である外景を撮像し、外景画像を取得する。本実施形態における外景撮像カメラ61は、単眼カメラであるが、ステレオカメラであってもよい。外景撮像カメラ61は、請求項における撮像部に相当する。
距離センサー63は、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。距離センサー63は、赤外線を発光すると共に、対象物に反射した赤外線を受光し、反射光の受光位置に基づいて、距離センサー63と対象物との距離を測定する赤外線距離センサーである。本実施形態で用いられる距離センサー63は、特定の位置における距離センサー63と対象物との距離を測定することで、距離センサー63から所定の距離にある対象物を検出する。他の実施形態では、距離センサー63は、複数の発光部を有し、対象物の大きさや位置も測定する赤外線距離センサーであってもよい。また、距離センサー63は、赤外線センサーではなく、光学センサーや超音波センサーであってもよい。距離センサー63は、請求項における画像認識部に相当する。
右眼撮像カメラ37および左眼撮像カメラ38(以降、「眼撮像カメラ37,38」とも呼ぶ)は、使用者の右眼および左眼のそれぞれを撮像する小型のCCDカメラである。右眼照度センサー45および左眼照度センサー47(以降、「照度センサー45,47」とも呼ぶ)は、使用者の右眼および左眼のそれぞれが視認する外景の照度を検出するセンサーである。なお、眼撮像カメラ37,38は、請求項における検出部に相当する。また、照度センサー45,47は、請求項における検出部に相当し、右眼照度センサー45が検出する照度および左眼照度センサー47が検出する照度のそれぞれは、請求項における右眼前指標値および左眼前指標値に相当する。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、頭部装着型表示装置100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、トラックパッド14と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
図2は、頭部装着型表示装置100の構成を機能的に示すブロック図である。図2に示すように、制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、操作部135と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。操作部135は、使用者による操作を受け付け、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18、から構成されている。
入力情報取得部110は、使用者による操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、操作部135に配置されたトラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。無線通信部132は、無線LANやブルートゥースといった所定の無線通信規格に則って、例えば、コンテンツサーバー、テレビ、パーソナルコンピューターといった他の機器との間で無線通信を行なう。CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム150(OS150)、表示制御部190、音声処理部170、方向判定部161、照度処理部145、画像判定部142、視線入力部175、画像処理部160、として機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
方向判定部161は、後述する9軸センサー66が検出した画像表示部20の向きに基づいて推定された使用者の頭部の傾きと、重力方向および重力方向に直交する水平面と、がなす角度を算出する。なお、方向判定部161および9軸センサー66は、請求項における向き検出部に相当する。
照度処理部145は、照度センサー45,47のそれぞれが検出した使用者の右眼および左眼に視認される外景の照度に対して各種計算を行なう。本実施形態における照度処理部145は、右眼の外景の照度と左眼の外景の照度との差、および、一定期間において検出された照度の変化を算出する。照度処理部145は、算出した照度の差、および、照度が変化する前後の照度の差が予め設定された閾値以上であるか否かを判定する。例えば、昼の晴天下で、使用者が自分の手などで右光学像表示部26または左光学像表示部28のいずれか一方のみを覆った場合に、照度処理部145は、右眼の外景の照度と左眼の外景の照度とに閾値以上の差があると判定する。なお、照度処理部145は、請求項における検出部に相当する。
画像判定部142は、眼撮像カメラ37,38のそれぞれが撮像した使用者の右眼および左眼の画像を解析することで、右眼および左眼のそれぞれにおけるまぶたの開閉具合を判定し、また、視線方向を検出する。画像判定部142は、眼撮像カメラ37,38が撮像した使用者の右眼および左眼のそれぞれに対して、まぶたの開閉状態のパターンマッチングを行なうことで、まぶたが閉じている状態やまぶたが半分閉じている薄目の状態等を判定する。また、画像判定部142は、距離センサー63が検出した対象物に対して、予め登録された設定対象物と同じであるかのパターンマッチングを行なう。なお、画像判定部142は、請求項における検出部および画像認識部に相当する。
視線入力部175は、照度処理部145が算出した照度の差および照度の変化、画像判定部142が判定したまぶたの開閉状態等、に基づいて、画像表示部20に対して、使用者からの入力を受け付ける制御用画像を表示させる。画像表示部20に表示される制御用画像には、複数の選択可能なボタンと、検出された視線方向に対応する位置を表わす位置画像と、が含まれている。視線入力部175は、まぶたの開閉状態、視線方向等に基づいて、頭部装着型表示装置100、および、頭部装着型表示装置100に接続された各種装置を制御する。なお、頭部装着型表示装置100に接続された装置とは、直接、コード等で接続されている装置に限られず、無線通信部132を介して通信される装置も含まれる。視線入力部175は、請求項における制御部に相当する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示しない)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示しない)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データData(RGBデータ)として、1フレームごとに記憶部120内のDRAMに格納する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、外景撮像カメラ61と、距離センサー63と、9軸センサー66と、右眼撮像カメラ37と、左眼撮像カメラ38と、右眼照度センサー45と、左眼照度センサー47と、を備えている。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。検出された使用者の頭部の動きから画像表示部20の向きが特定され、方向判定部161は、使用者の頭部の向きを推定する。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL202)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図3は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図3のように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−2.視線操作入力処理:
図4および図5は、視線操作入力処理の流れを示す説明図である。視線操作入力処理では、予め定められた使用者のまぶたの状態が検出されると、画像表示部20の表示モードが視線入力モードへと移行し、使用者は、手を使わずにまぶたの開閉状態に基づいて頭部装着型表示装置100等の制御を行なうことができる。初めに、眼撮像カメラ37,38は、所定の期間に予め定められた使用者のまぶたの状態が検出されるかを監視する(ステップS310)。本実施形態では、予め定められたまぶたの状態は、使用者の利き目である右眼が開いた状態、かつ、利き目ではない左眼のまぶたが閉じた状態、の組み合わせである。なお、一般に、利き目は、利き目でないもう一方の眼に比べて、外景を視認しやすく、利き目でないもう一方の眼は、利き目に比べて、まぶたを閉じやすい。そのため、本実施形態では、予め定められたまぶたの状態の組み合わせは、使用者にとって使い勝手が良い。利き目と利き目でないもう一方の眼とは、使用者が予め設定してもよいし、他の実施形態では、まぶたの状態の組み合わせは、利き目に限られず、右まぶたと左まぶたとの状態の組み合わせであってもよい。
ステップS310の処理において、所定の期間に予め定められたまぶたの状態が検出されない場合には(ステップS310:NO)、眼撮像カメラ37,38は、引き続き、まぶたの状態を監視する(ステップS310)。所定の期間に予め定められたまぶたの状態が検出されると(ステップS310:YES)、画像表示部20は、表示モードを視線入力モードへと移行する。(ステップS320)。視線入力モードでは、画像表示部20が制御用画像を表示する。視線入力部175は、使用者の視線方向に対応する位置を示す位置画像を含む制御用画像と使用者のまぶたの開閉状態とに基づいて、頭部装着型表示装置100、および、頭部装着型表示装置100に接続された各種装置を制御する。なお、視線入力モードを含め、以降で示す画像表示部20の表示モードでは、各表示モードへと移行した後に、使用者の両まぶたが開いた状態である通常の状態に変化しても、他の表示モードへと移行しない。画像表示部20は、表示モードを変更する特定のまぶたの状態が検出された場合のみ、他の表示モードへと移行する。
次に、距離センサー63は、距離センサー63から所定の距離にある特定の対象物の検出を監視する(ステップS330)。特定の対象物が検出されない場合には(ステップS330:NO)、引き続き、距離センサー63は、特定の対象物の検出を監視する(ステップS330)。特定の対象物が検出されると(ステップS330:YES)、画像判定部142は、パターンマッチングによって、特定の対象物が予め設定された設定対象物であるかの判定を行なう(ステップS340)。本実施形態では、設定対象物として、人の手のひらが予め設定されているが、他の実施形態では、手のひら以外の対象物であってもよいし、設定対象物を使用者が任意に変更できる態様であってもよい。
ステップS340の処理において、検出された特定の対象物が設定対象物でないと判定された場合には(ステップS340:NO)、再度、距離センサー63は、検出された特定の対象物とは異なる対象物の検出を監視する(ステップS330)。特定の対象物が設定対象物であると判定された場合には(ステップS340:YES)、画像判定部142は、特定の対象物の大きさが予め定められた所定の大きさ以上であるか否かの判定を行なう(ステップS350)。画像表示部20は、撮像された特定の対象物の大きさに応じて設定した制御用画像を表示する。
特定の対象物の大きさが所定の大きさ以上ではないと判定された場合には(ステップS350:NO)、画像判定部142は、検出された特定の対象物に合わせて、制御用画像の大きさを調整する(ステップS360)。制御用画像の大きさが調整された場合(ステップS360)、または、ステップS340の処理において、制御用画像の大きさが所定の大きさ以上であると判定された場合には(ステップS340:YES)、画像表示部20は、検出された使用者の視線方向を示す位置画像を含む制御用画像を表示する(ステップS370)。
図6は、大きさが調整される前の制御用画像CIの一例を示す説明図である。図6には、制御用画像CIの大きさが調整される前に、仮に、制御用画像CIが画像表示部20に表示された場合に、使用者が視認する視野VRが示されている。なお、制御用画像CIは、所定の大きさ以上ではないと判断された場合には、画像表示部20に表示されない。そのため、大きさが調整される前の制御用画像CIは、使用者に視認されることはない。図6に示すように、使用者の視野VRでは、透過された外景SCが視認され、外景SCには、使用者の手のひらHDが含まれている。なお、最大画像表示領域PNは、画像表示部20が生成した画像光を使用者に視認させることができる最大領域を示している。最大画像表示領域PNの外枠は、使用者には視認されないが、図6では、便宜上、実線で示されている。
画像表示部20が制御用画像CIを表示する場合、初めに、画像判定部142は、パターンマッチングにより検出した使用者の手のひらHDにおいて、予め設定された親指の先端SP1、人差し指の先端SP2、小指の先端SP3、の位置を検出する。画像表示部20は、親指の先端SP1、人差し指の先端SP2、小指の先端SP3の内、少なくとも1つの先端を頂点とし、かつ、残り2つの先端を通り、最大画像表示領域PNの横軸および縦軸と平行な線を外枠とする矩形状の制御用画像CIを表示する。図6では、小指の先端SP3を頂点として、親指の先端SP1および人差し指の先端SP2を通る矩形状の制御用画像CIが示されている。画像判定部142は、生成された制御用画像CIの外枠の縦および横の辺の長さのそれぞれが所定の長さ以上であるか否かを判定することで、制御用画像CIが所定の大きさ以上であるか否かを判定する。図6では、大きさを調整する前の制御用画像CIにおける縦の外枠が所定の長さ未満であるため、制御用画像CIが所定の大きさ以上ではないと判定され、画像表示部20は、制御用画像CIの大きさを調整して表示する。
図7は、大きさが調整された後の制御用画像CIの一例を示す説明図である。図7には、画像表示部20が大きさを調整した制御用画像CIが表示され、使用者が視認する視野VRが示されている。図7に示すように、画像表示部20は、所定の長さ未満であると判定された縦の外枠を長くする調整を行なった制御用画像CIを表示する。図6では、大きさが調整される前の制御用画像CIが仮に表示された場合、制御用画像CIが最大画像表示領域PNにおける上の部分に生成されている。そのため、制御用画像CIの大きさが調整された後では、図7に示すように、画像表示部20は、制御用画像CIの縦の外枠を下に延長して表示する。本実施形態では、延長される外枠の縦の長さは、予め制御用画像CIが表示される場合に設定されている長さに対して足りない長さである。
図7に示すように、表示される制御用画像CIには、ポインターP1と、キーボードKBと、入力スペースIB1,IB2と、検索ボタンB1と、切替キーB2と、メニュー切替キーB3と、が含まれている。ポインターP1は、制御用画像CIにおける使用者の視線方向に対応する位置を表わす位置画像である。キーボードKBは、アルファベットが配置されているキーボードであり、キーボードKBとポインターP1とを用いて入力された文字が入力スペースIB1,IB2に表示される。キーボードKBは、アルファベットの大文字と小文字とを切り替える切替キーB2を含んでいる。検索ボタンB1は、入力スペースIB1,IB2に入力された文字に基づいてインターネットでの検索を実行するボタンである。メニュー切替キーB3は、制御用画像CIを、例えば、特定のフォルダーに保存されたファイルの一覧を表示するといった、異なる制御用画像へと切り替えるボタンである。なお、キーボードKBに含まれる各アルファベットに対応するキー、検索ボタンB1、切替キーB2、および、メニュー切替キーB3は、請求項におけるオブジェクトに相当し、ポインターP1は、請求項におけるポインターに相当する。
制御用画像CIが表示されると(図4のステップ370)、次に、視線入力部175は、使用者の視線方向とまぶたの状態とに基づく入力の検出を監視する(図5のステップS380)。本実施形態では、画像判定部142が撮像される使用者の右眼の視線方向を判定し、画像表示部20は、右眼の視線方向に対応する位置にポインターP1を表示する。そのため、使用者の視線方向の変化に応じて、ポインターP1は、制御用画像CIにおける位置を変更する。視線入力部175は、予め定められた決定の操作を示すまぶたの状態が検出されない場合には(ステップS380:NO)、引き続き、決定の操作を示すまぶたの状態の検出を監視する(ステップS380)。
ステップS380の処理において、ポインターP1が制御用画像CIの選択可能なボタンと重なっている状態で、決定の操作を示すまぶたの状態である左まぶたが所定の期間閉じた状態で右まぶたの瞬きが検出された場合には(ステップS380:YES)、視線入力部175は、入力の操作を行なう。視線入力部175は、ポインターP1が重なっているキーを決定して入力の操作を行ない、画像表示部20が入力結果を入力スペースIB1,IB2に表示する(ステップS390)。図7に示すように、入力スペースIB1,IB2には、アルファベットの大文字で、「A」、「B」、「C」が入力されて表示されている。本実施形態では、切替キーB2が決定された後に、「a」のアルファベットが決定されると、画像表示部20は、大文字の「A」を入力スペースIB1,IB2に表示する。そのため、図7における入力スペースIB1,IB2の入力結果は、切替キーB2、「a」、切替キーB2、「b」、切替キーB2、「c」のキーが順番に選択された状態である。なお、他の実施形態では、切替キーB2が決定されると、それ以降のアルファベットの大小が入れ替わって固定されてもよいし、キーボードKBの各キーに表示された小文字のアルファベットが大文字に変化して表示されてもよい。
次に、眼撮像カメラ37,38は、入力スペースIB1,IB2への入力を終了してインターネット検索を行なう操作を示すまぶたの状態の検出を監視する(図4のステップS400)。インターネット検索を行なう操作を示すまぶたの状態が検出されない場合には(ステップS400:NO)、引き続き、決定の操作を示すまぶたの状態の検出を監視する(ステップS380)。インターネット検索を行なう操作を示す検索ボタンB1を決定するまぶたの状態が検出されると(ステップS400:YES)、制御部10が無線通信部132を介してインターネット検索を行ない、画像表示部20は、検索結果を表示する(ステップS410)。検索結果が表示されると、制御用画像CIが表示された場合と同じように、画像判定部142が判定した視線方向の変化に基づいてポインターP1が表示される位置が変更される。また、決定を示すまぶたの状態が検出されると、視線入力部175は、表示された検索結果における選択可能なアイコン等とポインターP1との位置に基づいて各種操作を行なう。
次に、眼撮像カメラ37,38は、画像表示部20に表示された検索結果を異なる表示画像へと変更する操作を示すまぶたの状態の検出を監視する(ステップS420)。表示された検索結果を変更する操作として、所定の時間に右まぶたが閉じた状態で左まぶたが開いた状態が検出されると(ステップS420:YES)、眼撮像カメラ37,38が入力の検出を監視する(ステップS380)。表示された検索結果を変更するまぶたの状態が検出されない場合には(ステップS420:NO)、眼撮像カメラ37,38は、視線操作入力処理を終了する操作を示すまぶたの状態の検出を監視する(ステップS430)。視線操作入力処理を終了する操作を示すまぶたの状態が検出されない場合には(ステップS430:NO)、眼撮像カメラ37,38が入力の検出を監視する(ステップS380)。視線操作入力を終了する操作として、両まぶたを所定の時間閉じた後に右まぶたのみを所定の時間開いた状態が検出されると(ステップS430:YES)、制御部10は、視線操作入力処理を終了する。
以上説明したように、本実施形態における頭部装着型表示装置100では、画像表示部20は、ポインターP1と、キーボードKBと、入力スペースIB1,IB2と、検索ボタンB1と、切替キーB2と、メニュー切替キーB3と、を含む制御用画像CIを表示する。視線入力部175は、キーボードKB等とポインターP1との位置関係に基づいて、頭部装着型表示装置100を制御する。そのため、本実施形態における頭部装着型表示装置100では、使用者の視線方向に基づいて、使用者が手を使わなくても頭部装着型表示装置100の各種制御を行なうことができ、使用者の操作性が向上する。また、物体として形を持ったキーボード等のユーザーインターフェースがなくても、使用者が頭部装着型表示装置100の制御を行なうことができ、頭部装着型表示装置100の携帯性が向上する。
また、本実施形態における頭部装着型表示装置100では、眼撮像カメラ37,38が使用者の右眼および左眼のそれぞれを撮像し、画像判定部142が両まぶたの開閉状態を判定する。視線入力部175は、キーボードKBとポインターP1の位置関係に基づいてキーボードKBにおけるアルファベットのキーを選択し、両まぶたの開閉状態に基づいて選択したキーの決定を行なう。そのため、本実施形態における頭部装着型表示装置100では、使用者の視線方向と両まぶたの開閉状態に基づいて頭部装着型表示装置100が制御されるため、使用者は全く手を使わずに頭部装着型表示装置100を制御でき、使用者の操作性が向上する。また、両まぶたの開閉状態の組み合わせに基づいて、決定が行なわれるため、操作の種類に対応した多くの決定の組み合わせを使用者に提供でき、使用者の操作性が向上する。
また、本実施形態における頭部装着型表示装置100では、画像判定部142は、距離センサー63が検出した対象物に対して、予め登録された設定対象物と同じであるかのパターンマッチングを行なう。画像判定部142のパターンマッチングによって、特定の対象物が予め設定された設定対象物である場合に、画像表示部20は、撮像された特定の対象物の大きさに応じて設定した制御用画像CIを表示する。そのため、本実施形態の頭部装着型表示装置100では、画像判定部142が認識した対象物の大きさに応じて制御用画像CIの大きさを変更するため、使用者は、感覚的に制御用画像CIの大きさを調整することができ、使用者の利便性が向上する。また、制御用画像CIが非表示の状態から表示の状態へと変化させるために、使用者は、単に手のひらHDを目の前にかざすだけでよいので、使用者の利便性が向上する。
B.第2実施形態:
図8は、第2実施形態における頭部装着型表示装置100aの外観構成を示す説明図である。第2実施形態では、第1実施形態と比べて、外景撮像カメラ61aの形状がことなり、画像表示部20aにトラックパッド36が形成されている。第2実施形態における外景撮像カメラ61aは、単眼カメラであるが、ステレオカメラであってもよい。第2実施形態で用いられる外景撮像カメラ61aの画角は、光軸を起点として、上下においてはそれぞれ40度であり、左右においてはそれぞれ60度である。
トラックパッド36は、トラックパッド36の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド36は、使用者が画像表示部20aを頭部に装着した場合に、右表示駆動部22に対向する使用者の側頭部と反対側の面に配置されている。トラックパッド36としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。なお、第2実施形態では、トラックパッド36は、右表示駆動部22に配置されているが、他の実施形態では、左表示駆動部24に配置されてもよいし、画像表示部20aに対して着脱可能な構成であってもよい。
図9は、画像表示部20aにおける各種センサーと使用者のまぶたとの関係の概略を示す説明図である。図9には、画像表示部20aと、画像表示部20aを頭部に装着した使用者とを、使用者の頭上から見た場合の概略が示されている。右眼撮像カメラ37および左眼撮像カメラ38のそれぞれは、使用者の右眼REおよび左眼LEを撮像しているため、使用者の右まぶたRLおよび左まぶたLLも同時に撮像する。そのため、眼撮像カメラ37,38は、使用者の両まぶたの開閉状態を撮像する。
右眼照度センサー45および左眼照度センサー47のそれぞれは、発光素子と受光素子とを備えており、照度センサー45,47の発光に対して、右眼REと左光学像表示部28との間、および、左眼LEと右光学像表示部26との間からの反射光を検出することで照度を検出する。
図10は、頭部装着型表示装置100aの構成を機能的に示すブロック図である。第2実施形態では、第1実施形態と比べて、制御部10aにおけるCPU140aが視線入力部175の代わりに撮像設定部176として機能する点が異なる。
撮像設定部176は、方向判定部161が算出した角度、照度処理部145の判定、画像判定部142が判定したまぶたの開閉具合および推定した視線方向等、に基づいて、外景撮像カメラ61aの各種設定を行ない、画像表示部20aに対して、撮像される外景の全部または一部を示す画像信号を生成する。方向判定部161は、9軸センサー66によって検出された使用者の頭部の動きから画像表示部20aの向きがわかるため、使用者の視線方向を推定できる。
図11および図12は、撮像画像表示処理の流れを示す説明図である。撮像画像表示処理では、予め定められた使用者のまぶたの状態が検出されると、画像表示部20aの表示モードを、使用者がまぶたの状態に基づいて外景を撮像できる撮像調整モードへと移行する。
図13は、撮像画像表示処理におけるまぶたの開閉状態に割り当てられた処理の一例を示す説明図である。図13には、画像表示部20aの表示モードの移行、および、各表示モードにおける処理を行なうためのまぶたの状態が一覧で示されている。本実施形態では、例えば、画像表示部20aの表示モードを撮像調整モードへと移行させるまぶたの状態は、使用者の利き目である右眼が開いた状態、かつ、利き目ではない左眼のまぶたが閉じた状態、の組み合わせ(ウインク)である。
撮像画像表示処理では、初めに、眼撮像カメラ37,38は、予め定められた使用者のまぶたの状態が所定の期間検出されるかを監視する(図5のステップS510)。予め定められたまぶたの状態が所定の期間検出されない場合には(ステップS510:NO)、眼撮像カメラ37,38は、引き続き、まぶたの状態を監視する(ステップS510)。予め定められたまぶたの状態が所定の期間検出されると(ステップS510:YES)、撮像設定部176は、画像表示部20aの表示モードを撮像調整モードへと移行させる(ステップS520)。撮像調整モードでは、使用者の両まぶたの開閉状態および使用者の右眼の視線方向に基づいて、撮像設定部176は、外景撮像カメラ61aが撮像する外景の内、生成されて保存される画像データや画像表示部20に表示される画像を設定する。なお、撮像調整モードを含め、以降で示す画像表示部20aの表示モードでは、各表示モードへと移行した後に、使用者の両まぶたが通常の状態へと戻っても、表示モードを変更するまぶたの状態が検出されない限りは、他の表示モードへと移行されない。
図14から図20までの各図は、使用者が視認する視野VRの一例を示す説明図である。図14には、撮像調整モードへと移行する前の視野VRが示され、図15には、撮像調整モードにおける視野VRが示されている。図14には、画像表示部20aを透過して使用者が視認する外景SCが示され、外景SCの中には被写体であるヨットOBが含まれている。第2実施形態における最大画像表示領域PNは、横の画素数が960であり、縦の画素数が540であるが、他の実施形態では異なる画素数であってもよい。
図15では、図16に対して、画像表示部20aが生成される画像データの範囲を表わす画像範囲外枠IAを表示している点が異なる。画像範囲外枠IAは、青色の線であり、撮像調整モードへと移行した初期状態では、最大画像表示領域PNの外枠と同じであり、その後、使用者の視線方向等の設定により変更される。撮像調整モードにおいて、外景撮像カメラ61aの光学ズームレンズの焦点距離が変更されると、撮像設定部176は、撮像調整モードにおいて、焦点距離が35ミリメートル以上50ミリメートル以下の場合に、画像範囲外枠IAを表示する。焦点距離が35ミリメートル未満および50ミリメートルを超える場合についての詳細は後述する。なお、画像範囲外枠IAは、青色の線に限られず、他の色で、線種が異なっていてもよいし、使用者に画像範囲外枠IAに囲まれる領域を視認させることができる範囲で種々変形可能である。
画像範囲外枠IAが表示されると、次に、撮像設定部176は、受け付けた操作に基づいて外景撮像カメラ61aが撮像する外景SCの一部の領域を指定する(図11のステップS530)。図16には、撮像調整モードにおいて、撮像される外景SCの一部の領域が指定された場合に、使用者が視認する視野VRが示されている。図16には、推定された使用者の視線方向を表わすポインターPO1と、ポインターPO1を中心とする所定の領域を表わす撮像画像VI1と、が示されている。撮像調整モードにおいて、右眼の薄目の状態が検出されると、画像表示部20aは、ポインターPO1を表示する。ポインターPO1が表示された状態で、左眼の視線方向が変更されると、左眼撮像カメラ38および画像判定部142が視線方向を推定する。画像表示部20aは、推定された視線方向に基づいて、ポインターPO1を表示する位置を変更し、ポインターPO1を中心として、予め定められた領域を表わす画像を撮像画像VI1に表示する。
ポインターPO1が表示された状態で、撮像設定部176が焦点距離を変更すると、撮像画像VI1に表示される画像が拡大または縮小される。本実施形態では、右眼が薄目の状態の場合、自動で焦点距離が徐々に大きくなり、ある焦点距離まで達すると、焦点距離が徐々に小さくなる。画像判定部142は、右眼が薄目の状態から通常の開いた状態への変化を検出すると、撮像設定部176は、右眼が通常の開いた状態を検出した時点での焦点距離に設定する。焦点距離が35ミリメートル未満の場合には、画像表示部20aは、ポインターPO1を中心とする一部の領域を拡大した外景画像を撮像画像VI1に表示する。焦点距離が50ミリメートルを超える場合には、画像表示部20aは、ポインターPO1を中心とする一部の領域を縮小した外景画像を撮像画像VI1に表示する。光学ズームレンズの焦点距離が35ミリメートル以上50ミリメートル以下の場合には、使用者が視認する外景SCに近い大きさの外景画像が撮像されるため、撮像画像VI1を表示しないことで、使用者は、より広い範囲で外景SCを視認できる。また、光学ズームレンズの焦点距離が35ミリメートル未満、または、50ミリメートルを超える場合には、撮像画像VI1が表示されることで、使用者は、撮像される外景画像を確認しつつ、外景SCを視認できる。
図17には、撮像調整モードにおいて、外景撮像カメラ61aの焦点距離が35ミリメートル以上50ミリメートル以下に設定された場合に、使用者が視認する視野VRが示されている。焦点距離が35ミリメートル以上50ミリメートル以下に設定されると、撮像設定部176は、撮像画像VI1を非表示にして、ポインターPO1を中心とする画像範囲外枠IAを表示する。なお、他の実施形態では、焦点距離にかかわらず、画像範囲外枠IAではなく、撮像画像VI1が表示され続けてもよい。
次に、ポインターPO1が表示された状態で、右眼撮像カメラ37は、ポインターPO1を中心とする一部の領域を固定して撮像し続ける撮像領域固定モードへの移行を示すまぶたの状態の検出を監視する(図11のステップS540)。右眼撮像カメラ37が右まぶたが所定の期間閉じた状態を検出すると(ステップS540:YES)、撮像設定部176は、画像表示部20aの表示モードを、ポインターPO1を中心とする一部の領域を撮像し続ける撮像領域固定モードへと移行する(ステップS550)。
図18には、撮像領域固定モードにおいて、使用者がさらに上の方向を向いたときに視認する視野VRが示されている。撮像設定部176は、9軸センサー66および方向判定部161が検出した画像表示部20aの向きに基づいて、外景撮像カメラ61aが設定されたポインターPO1の方向を撮像するように、画像表示部20aに対する外景撮像カメラ61aの向きを調整する。外景撮像カメラ61aの向きが調整されると、右眼撮像カメラ37は、外景SCを撮像する操作を示すまぶたの状態の検出を監視する(図11のステップS560)。撮像する操作を示すまぶたの状態を示す右眼のまぶたが所定の期間に2回の開閉の状態が検出されない場合には(ステップS560:NO)、引き続き、右眼撮像カメラ37は、まぶたの状態を監視する(ステップS560)。ステップS560の処理において、所定のまぶたの状態が検出されると(ステップS560:YES)、外景撮像カメラ61aが外景SCを撮像して、撮像設定部176は、撮像画像VI1に表示されている外景SCを表わす画像データを生成して保存する(ステップS570)。画像表示部20aは、生成した画像データを表わす画像を、最大画像表示領域PNにおける所定の範囲に一定期間表示した後、撮像領域固定モードへと戻る。
ステップS540の処理において、撮像領域固定モードへと移行するまぶたの状態が検出されなかった場合には(ステップS540:NO)、撮像調整モードで、右眼撮像カメラ37は、ステップS560の処理と同じ撮像する操作を示すまぶたの状態の検出を監視する(ステップS565)。撮像する操作を示すまぶたの状態が検出されない場合には(ステップS565:NO)、右眼撮像カメラ37は、撮像領域固定モードへの移行を示すまぶたの状態を監視する(ステップS540)。ステップS565の処理において、撮像する操作を示すまぶたの状態が検出された場合には(ステップS565:YES)、外景撮像カメラ61aが外景SCを撮像して、撮像設定部176は、撮像画像VI1に表示されている外景SCを表わす画像データを生成して保存する(ステップS570)。画像表示部20aは、生成した画像データを表わす画像を、最大画像表示領域PNにおける所定の範囲に一定期間表示した後、撮像調整モードへと戻る。
次に、眼撮像カメラ37,38は、撮像処理を終了する操作を示すまぶたの状態の検出を監視する(図12のステップS580)。撮像処理を終了する操作を示す眼撮像カメラ37,38は、撮像処理を終了する操作を示す使用者の両まぶたが開いた状態が検出されない場合には(ステップS580:NO)、再度、ステップS320以降の処理を行なう。眼撮像カメラ37,38は、撮像処理を終了する操作を示すまぶたの状態を検出すると(ステップS580:YES)、保存した外景画像を一覧表示するサムネイル表示モードへの移行を示すまぶたの状態の検出を監視する(ステップS590)。眼撮像カメラ37,38がサムネイル表示モードへの移行を示すまぶたの状態を示す所定の期間内に両まぶたが3回の瞬きを検出した場合には(ステップS590:YES)、撮像設定部176は、画像表示部20aの表示モードを、サムネイル表示モードへと移行させる(ステップS600)。
図19には、サムネイル表示モードにおいて、使用者が視認する視野VRが示されている。図19に示すように、使用者は、画像表示部20aに表示される撮像画像IMG1、IMG2と、ポインターPO2と、を視認する。サムネイル表示モードにおいて、眼撮像カメラ37,38が使用者の右眼を閉じると共に左眼を開いたまぶたの状態(ウインク)を所定の期間検出すると、画像表示部20aは、ポインターPO2を表示する。ポインターPO2が表示された状態で、使用者の左眼の視線方向を変更すると、左眼撮像カメラ38および画像判定部142が視線方向を推定する。推定された視線方向の変化に基づいて、画像表示部20aは、使用者の視線方向を示すポインターPO2を表示する位置を変更する。
次に、左眼撮像カメラ38は、最大画像表示領域PNに表示された撮像画像IMG1,IMG2から1つの画像が選択される操作を示すまぶたの状態の検出を監視する(図12のステップS610)。図19に示すように、ポインターPO2が撮像画像IMG1に重なった状態で、撮像画像IMG1が選択される操作を示す左眼撮像カメラ38が所定の期間に左眼のまばたきを2回検出すると(ステップS610:YES)、撮像設定部176は、画像表示部20aの表示モードを、選択画像拡大モードへと移行させる(ステップS620)。
図20には、選択画像拡大モードにおいて、使用者が視認する視野VRが示されている。図20に示すように、撮像画像IMG1が選択された選択画像拡大モードでは、最大画像表示領域PNの全領域に撮像画像IMG1が拡大されて表示される。撮像画像IMG1が拡大して表示されている場合に、眼撮像カメラ37,38は、選択画像拡大モードを終了する操作を示すまぶたの状態の検出を監視する(図12のステップS625)。選択画像拡大モードを終了するまぶたの状態を示す一定期間両まぶたが閉じた状態が検出されない場合には(ステップS625:NO)、引き続き、最大画像表示領域PNに撮像画像IMG1が拡大されて表示される。選択画像拡大モードを終了するまぶたの状態が検出された場合には(ステップS625:YES)、撮像設定部176は、画像表示部20aの表示モードをサムネイル表示モードへと移行させ、ステップS600以降の処理が行なわれる。
ステップS590の処理、または、ステップS610の処理において、所定のまぶたの状態が検出されなかった場合には(ステップS590:NO、ステップS610:NO)、眼撮像カメラ37,38は、撮像画像表示処理を終了する操作を示すまぶたの状態の検出を監視する(ステップS630)。撮像画像表示処理の終了を示す左眼を閉じたウインクから右眼を閉じたウインクへのまぶたが変化する状態が検出されない場合には(ステップS630:NO)、再度、図11のステップS520以降の処理が行なわれる。図12のステップS630の処理において、撮像画像表示処理の終了を示すまぶたの状態が検出されると(ステップS630:YES)、撮像画像表示処理が終了する。
以上説明したように、第2実施形態における頭部装着型表示装置100aでは、眼撮像カメラ37,38および画像判定部142が使用者の視線を遮る遮蔽物としてのまぶたの状態を検出し、撮像設定部176は、画像判定部142が解析した視線を遮る遮蔽物であるまぶたの検出結果に基づいて画像表示部20の操作を行なう。そのため、第2実施形態における頭部装着型表示装置100aでは、使用者が外景SCを視認しながら撮像することで、外景SCの一部の領域を表わす画像データが生成される。よって、使用者は、わざわざファインダー等をのぞかずに、外景SCを視認しながら撮像でき、撮像するタイミングを容易に計ることができ、使用者の利便性が向上する。また、使用者は、制御部10aおよび画像表示部20aに触らないで、外景SCを撮像できるので、手振れを抑制して撮像できる。
また、第2実施形態における頭部装着型表示装置100aでは、右眼撮像カメラ37が使用者の右まぶたの開閉状態を検出し、左眼撮像カメラ38が使用者の左まぶたの開閉状態を検出する。撮像設定部176は、検出された右まぶたおよび左まぶたの開閉状態の組み合わせに基づいて、頭部装着型表示装置100aの各種操作を行なう。そのため、第2実施形態の頭部装着型表示装置100aでは、使用者が手を使わないで、外景撮像カメラ61aを用いて外景SCを撮像でき、使用者の利便性が向上する。
また、第2実施形態における頭部装着型表示装置100aでは、眼撮像カメラ37,38および画像判定部142が使用者の視線方向を推定し、画像表示部20aは、推定された使用者の視線方向を表わすポインターPO1を表示する。撮像設定部176は、推定された視線方向とまぶたの検出とに基づいて外景SCの一部の領域を指定し、指定した一部の領域を示す画像範囲外枠IAまたは撮像画像VI1を画像表示部20aに表示させる。そのため、第2実施形態の頭部装着型表示装置100aでは、使用者が手を使わないで、外景撮像カメラ61aが撮像する一部の領域を選択して、選択された領域の画像データを生成でき、使用者の使い勝手、利便性、操作性が向上する。
また、第2実施形態における頭部装着型表示装置100aでは、眼撮像カメラ37,38および画像判定部142が検出したまぶたの状態に基づいて外景撮像カメラ61aの焦点距離を設定する。画像表示部20aは、焦点距離が35ミリメートル以上50ミリメートル以下の範囲の場合には、画像範囲外枠IAを表示し、焦点距離がそれ以外の範囲の場合には、ポインターPO1を中心とする一部の領域を表わす画像を表示する。そのため、本実施形態における頭部装着型表示装置100aでは、使用者が手を使わないで、生成する画像データの焦点距離を設定できるため、使用者の利便性が向上する。また、設定された焦点距離が視認される外景SCと同じような外景SCとなる画像データを生成する焦点距離である場合には、画像表示部20aは、画像データを生成する一部の領域を画像範囲外枠IAによって示して使用者に外景SCを透過させる。また、設定された焦点距離が視認される外景SCと異なるような外景SCとなる画像データを生成する焦点距離である場合には、画像表示部20aは、画像データを表わす画像を画像表示部20aに表示する。よって、使用者が視認する外景SCと生成される画像データの外景SCとの比較に応じて、画像表示部20aが表示する画像を変更するため、使用者の視認性および操作性が向上する。
C.第3実施形態:
第3実施形態では、上記実施形態に対して、視線方向の特定の方法が異なる。使用者は、特定の点である注視点を凝視している場合、実際には、注視点の一点のみを凝視しているわけではなく、注視点を中心とする所定の範囲内を凝視している。このように、人間が注視点を凝視しているつもりでも、不随意的に常に起こっている細かな眼の揺れは、固視微動と呼ばれる。第3実施形態では、固視微動において、所定の時間内における眼の揺れの注視点からの距離や、眼の揺れの周波数特定等に基づいて視線方向が特定される。
第3実施形態では、画像判定部142は、固視微動における眼の揺れを解析することで、使用者の視線方向を特定すると共に、使用者が注視点を凝視しているか否かを判定する。図21および図22は、固視微動の概略を示す説明図である。図21には、使用者の左眼LEが注視点PCを凝視している場合に、所定の時間において、使用者の左眼LEの揺れED1(以下、「視線方向の揺れED1」とも呼ぶ)の揺れ範囲EC1が判定円JCに含まれている場合が示されている。判定円JCは、注視点PCから所定の距離R離れた円である。図22には、図21と異なり、使用者の左眼LEの揺れED2(視線方向の揺れED2)の揺れ範囲EC2が判定円JCに含まれていない場合が示されている。なお、注視点PCは、請求項における特定の点に相当する。また、左眼LEの揺れED1,ED2は、請求項における視線の揺らぎに相当し、判定円JCは、請求項における所定の範囲に相当し、距離Rは、請求項における視線の揺らぎの振幅に相当する。第3実施形態では、視線方向とは、使用者の眼から揺れED1を含む揺れ範囲EC1における任意の点までの方向をいう。
また、使用者が注視点PCを脳で認識してから、注視点PCを凝視するまでにかかる時間について以下のことが知られている。図23は、使用者が視線方向を移動させたときの経過時間と視線移動量との関係の一例を示す説明図である。図23には、使用者が注視点PC1を凝視していた後に、注視点PC1とは異なる注視点PC2へと視線方向を移動させた場合に、経過時間(s)に対する視線移動量L1が示されている。経過時間は、注視点PC1が凝視すべき点として黒点で示された状態から、注視点PC1の位置の黒点を非表示にすると同時に、注視点PC2の位置の黒点を表示した瞬間を開始時刻として計測されている。図23に示すように、使用者は、注視点PC2の位置の黒点が表示された後、約0.3秒(s)経過してから視線を移動し始めて、約0.4(s)経過した後に注視点PC2を凝視している。このことから、使用者にとって、新たな注視点PC2を脳で認識してから視線を移動し始めるには一定の時間がかかり、かつ、視線を移動し始めてから注視点PC2を凝視するまでには一定の時間がかかることがわかる。
図24は、使用者が視線方向を移動させたときの経過時間に対する視線移動量および移動量変化量の関係の一例を示す説明図である。図24には、図23に示した視線移動量L1に加えて、経過時間に対する視線移動量の変化量L2(以下、「移動量変化量L2」とも呼ぶ)が示されている。図24に示すように、注視点PC1から注視点PC2へと黒点の表示が移ってからの期間は、潜期間PT1と視線移動期間PT2と定常期間PT3とに分けられている。潜期間PT1は、注視点PC1から注視点PC2へと黒点の表示が移ってからの約0.3秒間である。視線移動期間PT2は、潜期間PT1が終了してから視線が移動しなくなるまでの期間であり、潜期間PT1が終了してから、注視点PC1から注視点PC2へと黒点の表示が移ってから約0.7秒までの期間である。定常期間PT3は、注視点PC2が凝視されて使用者の視線が動かない期間であり、視線移動期間PT2が終了して以降の期間である。以上を踏まえて、第3実施形態では、使用者が注視点PCを凝視しているかの判定に用いる所定の時間として、視線移動期間PT2の0.4秒(s)を用いるが、他の実施形態では、所定の時間は0.4秒以外の時間であってもよい。
画像判定部142は、継続的に撮像されている使用者の眼RE,LEにおいて、最小二乗法を用いて、所定の時間として0.4秒間ごとにおける注視点PCを算出する。画像判定部142は、算出した注視点PCから予め定められた距離Rの判定円JCの中に、0.4秒間における使用者の眼RE,LEの揺れ範囲が納まるか否かを判定する。判定円JCの中に眼RE,LEの揺れ範囲が納まる場合には、画像判定部142は、使用者が注視点PCを注視していると判定し、判定円JCの中に眼RE,LEの揺れ範囲が納まらない場合には、使用者が注視点PCを注視していないと判定する。すなわち、画像判定部142は、使用者の眼RE,LEの揺れの振幅が距離R未満の場合には、使用者が注視点PCを注視していると判定する。
図25は、第3実施形態における制御用画像表示処理の流れを示す説明図である。制御用画像処理は、第1実施形態の視線操作入力処理におけるステップS370の処理に相当する。制御用画像処理は、ポインターP1を含まない制御用画像CI(図7)が最大画像表示領域PNに表示された後に行なわれる処理である。初めに、画像判定部142は、使用者が所定の時間、注視点PCを凝視していたか否かを判定する(ステップS372)。所定の時間である0.4秒間に、継続して、範囲EC2が判定円JC内に含まれておらず、注視点PCが凝視されていなかったと判定された場合には(ステップS372:NO)、画像判定部142は、引き続き、使用者が注視点PCを凝視するのを監視する(ステップS372)。0.4秒間、継続して、範囲EC1が判定円JC内に納まり続け、注視点PCが凝視されていたと判定された場合には(ステップS372:YES)、視線入力部175は、画像表示部20に、制御用画像CIとしてポインターP1を追加して表示させる(ステップS374)。
次に、視線入力部175は、ポインターP1が制御用画像CIにおいて選択可能なボタン(例えば、検索ボタンB1等)に重複しているか否かを判定する(ステップS376)。例えば、ポインターP1がいずれの選択可能なボタンにも重複していないと判定された場合には(ステップS376:NO)、画像判定部142は、現時点で表示されているポインターP1とは異なる新たな注視点PCが凝視されるのを監視する(ステップS372)。第3実施形態では、使用者がどの位置を凝視しているのかを視認させるために、ポインターP1を一定時間、最大画像表示領域PNに表示させるが、他の実施形態では、ポインターP1が制御用画像CIにおける選択可能なボタンと重複していないと判定された時点で、ポインターP1が表示されなくてもよい。
ステップS376の処理において、ポインターP1が制御用画像CIにおける選択可能なボタンに重複していると判定された場合には(ステップS376:YES)、画像表示部20が重複している選択可能なボタンのポップアップ表示し、かつ、音声処理部170およびイヤホン32,34が選択可能なボタンを示す音声を出力する。図26は、使用者が視認する視野VRの一例を示す説明図である。図26に示すように、画像表示部20は、ポインターP1が重複しているキーボードKBにおけるアルファベット「C」の文字をポップアップPUとして大きく表示する。また、音声処理部170は、イヤホン32,34を介して、「C」の音声を使用者に出力する。
以上説明したとおり、第3実施形態における頭部装着型表示装置100では、画像判定部142が使用者の眼RE,LEから注視点PCまでを結んだ視線方向に対する眼の揺れを検出し、視線入力部175は、判定円JCの中に眼RE,LEの揺れ範囲が納まる場合には、制御用画像CIとしてポインターP1を表示させる。そのため、第3実施形態の頭部装着型表示装置100では、使用者の眼の揺れを考慮した視線方向に基づいて表示画像の制御が行なわれるため、制御の精度を向上させることができる。
また、第3実施形態における頭部装着型表示装置100では、画像判定部142は、使用者の眼RE,LEの揺れの振幅が判定円JCの半径である距離R未満の場合には、使用者が注視点PCを凝視していると判定する。また、画像判定部142は、判定円JCの中に眼RE,LEの揺れ範囲が納まる場合には、使用者が注視点PCを凝視していると判定する。そのため、第3実施形態における頭部装着型表示装置100では、判定円JCの半径である距離Rの設定によって、使用者が注視点PCを凝視しているか否かの判定を簡便に行なえる。
また、第3実施形態における頭部装着型表示装置100では、使用者が注視点PCを凝視していると判定された場合には、音声処理部170は、最大画像表示領域PNにおいて、イヤホン32,34を介して、注視点PCを示すポインターP1が重複しているキーボードKBにおけるアルファベット「C」の音声を使用者に出力する。この第3実施形態における頭部装着型表示装置100では、使用者が表示画像を制御可能な状態であることを音声によって使用者に認識させることができ、使用者の利便性が向上する。
また、第3実施形態における頭部装着型表示装置100では、画像表示部20は、制御用画像CIを表示し、使用者が注視点PCを凝視していると判定された場合には、視線入力部175は、画像表示部20に、ポインターP1を表示させて、制御用画像CIに含まれるキーボードKB等のキーを選択可能な状態にする。そのため、第3実施形態における頭部装着型表示装置100では、使用者が制御用画像CIにおける選択可能なキーを凝視していないにもかかわらず、当該キーが選択される誤操作を防止でき、使用者の意図を反映した正確な操作が行なわれる。
D.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
D1.変形例1:
図27は、画像表示部20に表示される制御用画像CIaの一例を示す説明図である。図27には、使用者が視認する外景SCおよび表示された制御用画像CIaを含む視野VRが示されている。制御用画像CIaは、無線通信部132を介して頭部装着型表示装置100に接続されたテレビの操作部(リモコン)を表わす画像である。制御用画像CIaには、テレビの電源のON/OFFを切り替える電源ボタンPWと、テレビの音量を調節する音量ボタンVup,Vdwと、テレビのチャンネルを変更するチャンネル変更ボタンCup,Cdwと、が含まれている。音量ボタンVupが選択されて決定されると、テレビの音量が所定の数値だけ大きくなり、音量ボタンVdwが選択されて決定されると、テレビの音量が所定の数値だけ小さくなる。チャンネル変更ボタンCupが選択されて決定されると、テレビは、受信してチャンネル数を所定の数だけ大きいチャンネル数に設定して受信する。チャンネル変更ボタンCdwが選択されて決定されると、テレビは、受信してチャンネル数を所定の数だけ小さいチャンネル数に設定して受信する。また、制御用画像CIaには、テレビと有線で接続されているDVD再生機の操作を行なう複数のボタンを有するDVD操作ボタン群PBも含まれている。図27に示すように、ポインターP1は、DVD操作ボタン群PBに含まれるDVD再生機の再生を停止する停止ボタンSBに重なる位置に表示されている。上記実施形態と同じように、眼撮像カメラ37,38が決定の操作を示すまぶたの状態を検出すると、視線入力部175は、DVD再生機で再生されているコンテンツを停止させる。この変形例では、頭部装着型表示装置100と接続している装置の調整が、使用者の視線方向およびまぶたの状態によって操作される。
図28は、画像表示部20に表示される制御用画像CIbの一例を示す説明図である。図28には、使用者が視認する外景SCおよび表示された制御用画像CIbを含む視野VRが示されている。図27に示す制御用画像CIbは、記憶部120に記憶されている動画や音楽といったコンテンツに関連付けられた文字で表わされた複数のアイコン画像を一覧として表示する画像である。制御用画像CIbは、カーソル画像C1と、一覧画像C2と、ポインターP1と、から構成されている。この変形例では、カーソル画像C1は、十字の形をしており、上下左右の方向のそれぞれが選択される画像である。図27に示すように、ポインターP1が十字の右方向を指す矢印の部分に重なった状態で、決定の操作を示すまぶたの状態が検出されると、一覧画像C2において、地図のアイコン画像を選択していることを表示している選択表示画像SIが1つ右に移動する。この変形例では、一覧画像C2において、地図のアイコン画像の右に他のアイコン画像がないため、選択表示画像SIは、ループして左のメールのアイコン画像に移動して、メールのアイコン画像に重なって表示される。また、この変形例では、カーソル画像C1の十字方向のいずれかにポインターP1を重ねた状態で決定の操作が行なわれなくても、ポインターP1を一覧画像C2のいずれかのアイコン画像に重ねた状態で特定のアイコン画像を選択して決定することもできる。特定のアイコン画像が選択表示画像SIと重なって表示されている状態で、ポインターP1が決定キーRBに重なった状態で決定の操作が行なわれると、選択表示画像SIと重なって表示されているアイコン画像が決定されて、当該アイコン画像に関連付けられた操作が行なわれる。
D2.変形例2:
また、上記実施形態では、まぶたの開閉状態に基づいて決定の操作が検出されたが、決定の操作を検出する方法はまぶたの開閉状態に限られず、種々変形可能である。まぶたが開いている状態であっても、使用者が視認する外景の色や照度に基づいて各種操作が行なわれてもよい。この変形例では、照度センサー45,47が使用者の右眼および左眼に視認されると想定される外景の照度を検出する。そのため、使用者がまぶたを閉じなくても、例えば、使用者の手のひらによって左光学像表示部28の表面が覆われると、左眼に外景画視認されなくなるため、左眼照度センサー47は、右眼照度センサー45が検出する照度よりも小さい値の照度を検出する。照度処理部145が左眼照度センサー47によって検出する照度が右眼照度センサー45によって検出する照度よりも所定の閾値以上小さいと判定した場合に、視線入力部175は、上記実施形態における左のまぶたが閉じられた状態と同様の操作を行なう。そのため、この変形例の頭部装着型表示装置100では、使用者は、まぶたの状態による操作に疲れた場合に、手のひら等の体の一部を用いて感覚的に操作を行なうことができ、使用者の利便性が向上する。
また、他の変形例では、照度センサー45,47の代わりに、右眼および左眼のそれぞれの視線方向のRGBデータを検出するRGBカラーセンサーが配置されてもよい。右眼および左眼のそれぞれに対応したRGBカラーセンサーが検出した値によって、各種操作が行なわれてもよい。例えば、左光学像表示部28の表面が覆われた場合に、左眼に対応するRGBカラーセンサーは、黒に近い色を表わすRGBデータを検出する。逆に、右眼に対応するRGBカラーセンサーが検出したRGBデータが黒に近い色を表わさない場合に、使用者の左まぶたが閉じられている状態と判定されてもよい。
D3.変形例3:
また、上記実施形態では、制御用画像CIが予め定められた位置に表示されるとしたが、制御用画像CIが表示される位置は予め定められた位置等に固定される必要はなく、制御用画像CIの表示位置および表示位置の変更方法については、種々変形可能である。この変形例の頭部装着型表示装置100では、9軸センサー66および方向判定部161が使用者の頭部の向きを推定して、推定した頭部の向きと重力方向とがなす角度を算出する。例えば、使用者が上を向いて、方向判定部161が算出した角度が所定の角度以上である場合には、画像表示部20は、制御用画像CIを最大画像表示領域PNにおける上の部分以外に表示する。そのため、この変形例の頭部装着型表示装置100では、使用者が頭部の向きを変更して、使用者が視認したい対象が変更されたことが推定され、使用者の視界を妨げない位置に自動的に制御用画像CIが表示されるため、使用者の利便性が向上する。
また、画像表示部20が制御用画像CIを表示する位置が使用者の視線方向やまぶたの開閉状態等に基づいて変更されてもよい。例えば、眼撮像カメラ37,38が使用者の右まぶただけが所定の時間閉じた状態を検出した後、ある一定の期間内に、左まぶただけが所定の時間閉じた状態を検出すると、使用者の視線方向に基づいて制御用画像CIが最大画像表示領域PNにおける位置が変更されてもよい。この変形例の頭部装着型表示装置100では、使用者の意思に基づいて制御用画像CIを表示させる位置を、手などを使わずに設定できるため、使用者の操作性および利便性が向上する。
また、上記実施形態では、設定対象物としての手のひらHDが検出されると、撮像された手のひらHDの大きさに応じて制御用画像CIが表示されたが、設定対象物と制御用画像CIとの関係についてはこれに限られず、種々変形可能である。例えば、撮像された手のひらHDの大きさや形に応じて、表示される制御用画像CIの種類が変更されてもよい。また、撮像された手のひらHDと画像表示部20との位置関係に基づいて、制御用画像CIの表示位置が最大画像表示領域PNの中心以外に設定されてもよい。この変形例では、撮像された設定対象物の位置や大きさに基づいて、透過する外景SCと制御用画像CIとが多くの領域で重複しないように使用者に視認させることができ、使用者の利便性が向上する。
D4.変形例4:
また、上記実施形態では、距離センサー63によって、距離センサー63から所定の距離内にある対象物が検出されたが、頭部装着型表示装置100が必ずしも距離センサー63を備える必要はなく、頭部装着型表示装置100の構成については種々変形可能である。例えば、外景撮像カメラ61および画像判定部142が、対象物との距離とは関係なく、撮像した対象物に対してパターンマッチングを行なって設定対象物であるか否かを判定してもよい。
また、上記実施形態では、眼撮像カメラ37,38および画像判定部142によってまぶたの開閉状態が判定されたが、使用者の視線方向を遮る遮蔽物を検出する方法はこれに限られず、種々変形可能である。例えば、眼撮像カメラ37,38の代わりに、赤外線センサーを用いてもよい。赤外線センサーは、発光した赤外線が使用者の眼またはまぶたに反射し、反射した反射光に基づいて、使用者のまぶたの開閉状態を判定する。また、画像判定部142は、パターンマッチングではなく、眼撮像カメラ37,38が取得した画像のRGBデータを黒と白とに2値化し、2値化したデータに基づいて使用者のまぶたの開閉状態を判定してもよい。
また、眼撮像カメラ37,38には、スタビライザー機能は備え付けられていてもよい。スタビライザー機能によって、眼撮像カメラ37,38は、例えば、使用者が歩行中の場合に、歩行によって生じるぶれを軽減するため、まぶたの状態をより正確に検出して判定できる。
また、操作部135と検出されたまぶたの状態とに基づいて、電源130の電力消費が抑制される態様であってもよい。例えば、操作部135におけるトラックパッド14が使用者からの操作を受け付けている場合には、使用者のまぶたの状態を検出する眼撮像カメラ37,38および照度センサー45,47への電力供給を停止してもよい。また、使用者の視線方向およびまぶたの状態によって頭部装着型表示装置100および頭部装着型表示装置100に接続された装置が操作されている場合には、操作部135への電力供給を停止してもよい。この変形例では、操作部135と制御用画像CIとの内の一方の操作部によって使用者からの操作を受け付けている場合に、操作を受け付けていない操作部への電力を停止することで、頭部装着型表示装置100が消費する電力を抑制できる。また、制御部10の代わりに、例えば、スマートフォンのような携帯端末と接続されて、接続された携帯端末の電力消費を抑制してもよい。
また、上記実施形態では、視線入力部175が使用者の視線方向およびまぶたの状態に基づいて頭部装着型表示装置100の操作を行なったが、必ずしも頭部装着型表示装置100を操作する方法はこれに限られず、種々変形可能である。例えば、眼撮像カメラ37,38および画像判定部142は使用者の視線方向のみを検出して、視線方向に基づいて制御用画像CIに含まれるいずれかのキーが選択されて、操作部135に含まれるいずれかのボタンで決定されてもよい。また、操作部135に含まれるボタンではなく、別途、別に備えられたユーザーインターフェースであってもよいし、画像表示部20に形成された決定ボタン等であってもよい。この変形例では、単に視線方向のみで選択が行なわれ、決定がまぶたの状態ではなく、操作部135に備え付けられたボタン等で行なわれるため、使用者が簡単に決定の操作を行なうことができ、使用者の利便性および操作性が向上する。
また、上記実施形態では、請求項におけるオブジェクトに相当する具体例として、キーボードKBに含まれる各アルファベットに対応するキー、検索ボタンB1、切替キーB2、および、メニュー切替キーB3を例に挙げ、請求項におけるポインターに相当する具体例として、ポインターP1を例に挙げて説明したが、オブジェクトおよびポインターについては、種々変形可能である。例えば、請求項におけるオブジェクトまたはポインターとして、目印、標識、マーカー、記号、選択ボタン、ソフトキー、および、ソフトキーボードといったように、形状、色、および、図形等が変形された態様であってもよい。
また、上記実施形態では、眼撮像カメラ37,38は、眼撮像カメラ37,38から所定の距離にあり、視線方向上にあるまぶたの開閉を検出したが、必ずしも、所定の距離にあるまぶた等の遮蔽物を検出しなくてもよい。例えば、所定の距離までの一定の範囲内に存在する遮蔽物を検出することで、まぶたの開閉を検出したことと同様の操作が行なわれてもよい。
D5.変形例5:
また、外景撮像カメラ61は、制御部10に配置されてもよいし、制御部10や画像表示部20とは別体で、例えば、使用者が装着するヘルメットの上部等に配置されてもよい。
また、上記実施形態では、図2に示すように、9軸センサー66、距離センサー63、外景撮像カメラ61、眼撮像カメラ37,38、および、照度センサー45,47は、画像表示部20に配置されたが、必ずしも画像表示部20に配置される必要はなく、配置については種々変形可能である。例えば、右眼撮像カメラ37,38は、画像表示部20とは別体になっており、画像表示部20とは別に頭部に装着される態様であってもよいし、画像表示部20に着脱可能に形成されてもよい。
上記実施形態では、制御部10に操作部135が形成されたが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者の操作性が向上する。また、操作部135の動きを検出する9軸センサーが操作部135に形成されて、検出した動きに基づいて各種操作が行なわれることで、使用者は、感覚的に頭部装着型表示装置100の操作ができる。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。レーザー網膜投影型の場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
また、例えば、ヘッドマウントディスプレイは、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、ヘッドマウントディスプレイは、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。
また、イヤホンは耳掛け型やヘッドバンド型が採用されてもよく、省略してもよい。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
D6.変形例6:
図29は、撮像調整モードにおいて使用者が視認する視野VRの一例を示す説明図である。図29には、使用者が右へ首を傾けた状態、すなわち、使用者の頭部の向きが重力方向に対して傾いて水平面となす角度が90度未満の状態において、使用者が視認する視野VRが示されている。図29に示す撮像画像VI2には、外景撮像カメラ61aの光軸が重力方向と直交する水平面に平行な軸とした場合に、撮像される外景画像が示されている。この変形例では、方向判定部161および9軸センサー66が使用者の頭部の向きを推定して、方向判定部161は、推定した頭部の向きと重力方向とがなす角度を算出する。方向判定部161が算出した角度が所定の角度以上である場合には、撮像設定部176は、算出された角度の分だけ補正して、画像表示部20aが表示する撮像画像VI2を表示する。なお、重力方向または水平面と使用者の頭部の向きとがなす角度については、図29に示す例に限られず、種々変形可能である。例えば、使用者が上下に首を所定の角度以上に傾けた状態が検出された場合に、撮像画像VI2に表示される画像が補正されてもよい。なお、撮像画像VI2は、算出された角度の分だけ補正された外景画像であるが、角度の補正が行われずに、算出された角度に基づいて外景撮像カメラ61aが画像表示部20aに対して向きを変更して、水平面に平行な軸を光軸として外景撮像カメラ61aが外景SCを撮像してもよい。
この変形例における頭部装着型表示装置100aでは、9軸センサー66および方向判定部161が重力方向に対する使用者の頭部の向きを検出し、検出された重力方向と頭部の向きとがなす角度が所定の角度以上の場合に、重力方向に直交する水平面に平行な軸を光軸として外景撮像カメラ61aが撮像する外景SCを表示する。そのため、この変形例における頭部装着型表示装置100aでは、例えば、使用者が首を回したりして、一時的に頭部の向きを変更した場合であっても、使用者が撮像したいと想定される水平面に平行な外景SCを撮像できるので、使用者の使い勝手が向上する。
D7.変形例7:
また、上記実施形態では、眼撮像カメラ37,38が検出したまぶたの開閉状態に基づいて、画像表示部20aの表示モードの設定、および、撮像される外景SCにおける一部の領域の設定等の操作が行なわれたが、これらの操作は、まぶたの開閉状態以外の使用者の視線方向を遮る遮蔽物の検出結果によって行なわれてもよい。例えば、使用者の両まぶたが開いている状態であっても、使用者が視認する外景SCの色や照度に基づいて、画像表示部20および外景撮像カメラ61aの操作が行なわれてもよい。この変形例では、照度センサー45,47が使用者の右眼および左眼に視認されると想定される外景SCの照度を検出し、検出された照度の数値に基づいて操作が行なわれる。使用者がまぶたを閉じなくても、例えば、使用者の手によって左光学像表示部28の表面が覆われると、左眼照度センサー47に検出される照度の数値が右眼照度センサー45に検出される照度の数値に比べて小さくなる。この場合に、照度処理部145は、上記実施形態における画像判定部142が左まぶたを閉じた状態と同じ判定をして、撮像設定部176が当該判定に基づいて画像表示部20および外景撮像カメラ61aの操作を行なう。また、照度センサー45,47が一定期間における照度の検出を行ない、照度処理部145が2つの時点における照度の差を比較することで、上記実施形態におけるまぶたの開閉状態に代えて、画像表示部20aおよび外景撮像カメラ61aの操作が行なわれてもよい。
この変形例の頭部装着型表示装置100aでは、照度センサー45,47が使用者の右眼と左眼とのそれぞれから光学像表示部26,28の表面を手で覆う所までの所定の範囲における照度を検出し、撮像設定部176は、当該検出結果に基づいて画像表示部20a等の操作を行なう。そのため、この変形例の頭部装着型表示装置100aでは、使用者は、ウインク等のまぶたの状態の変化による操作に対して疲れた場合に、手のひら等の体の一部を用いて、まぶたの状態の変化と同じような操作を感覚的に行なうことができ、使用者の利便性が向上する。
また、右眼および左眼のそれぞれに配置されたRGBカラーセンサーが、使用者の右眼および左眼のそれぞれから、光学像表示部26,28の表面までの範囲におけるRGBデータを検出してもよい。撮像設定部176は、右眼および左眼のそれぞれに対応したRGBカラーセンサーによって検出された値に基づいて、各種操作を行なってもよい。例えば、左光学像表示部28の表面が使用者の手によって覆われた場合に、左眼に対応するRGBカラーセンサーは、黒に近い色を表わすRGBデータを検出する。それに対し、右眼に対応するRGBカラーセンサーが検出したRGBデータが、昼の晴天下で白を表わすRGBデータであった場合に、上記実施形態における使用者の左まぶたが閉じられているウインクと同じように判定されてもよい。
また、照度センサー45,47の代わりに、赤外線センサーが配置されてもよい。赤外線センサーから発光された赤外線が視線方向を遮る遮蔽物に反射した反射光を、赤外線センサーの受光部が検出することで、上記実施形態におけるまぶたの開閉状態に代えて、画像表示部20aおよび外景撮像カメラ61aの操作が行なわれてもよい。この変形例では、夜の比較的暗い場所においても遮蔽物を検出でき、使用者の利便性が向上する。
また、上記実施形態では、光学ズームレンズの焦点距離は、使用者の右眼が薄目の状態の場合に、自動的に変更されたが、焦点距離の調整方法はこれに限られず、種々変形可能である。例えば、使用者の手によって左光学像表示部28の表面が覆われると、左眼照度センサー47が検出した照度の変化によって、焦点距離が徐々に大きくなる設定であってもよい。また、使用者の手によって右光学像表示部26の表面が覆われると、右眼照度センサー45が検出した照度の変化によって、焦点距離が徐々に小さくなる設定であってもよい。
また、上記実施形態では、外景撮像カメラ61aは、画像表示部20aに対して、撮像する方向を変更できるように形成されたが、画像表示部20aに固定されていてもよいし、画像表示部20aとは別体で形成されてもよい。また、外景撮像カメラ61aは、光学ズームレンズの焦点距離を変更できたが、デジタルズームによって、撮像範囲の一部を拡大した画像を生成する態様であってもよい。
D8.変形例8:
また、上記実施形態では、画像表示部20aの表示モードが撮像領域固定モードの場合に、撮像される外景SCに含まれる一部の領域が特定される態様としたが、画像判定部142が特定の対象を認識して、認識された特定の対象を外景撮像カメラ61が追尾して撮像する態様であってもよい。この変形例では、撮像される外景SCに含まれる特定の対象がまぶたの状態や視線方向に基づいて選択されると、画像判定部142が特定の対象物を認識する。画像判定部142は、一定期間撮像された外景画像の内から、複数の時点において、外景画像における特定の対象物の変化を算出することで、算出された変化に基づいて特定の対象物を特定する。その後、撮像される外景SCに特定の対象物が含まれる場合には、撮像設定部176は、特定の対象物を含む外景SCの一部の領域を設定する。外景撮像カメラ61aは、画像表示部20に対して向きを変更し、設定された一部の領域を撮像し、画像表示部20aが特定の対象物を含む外景SCを表示する。また、例えば、認識された特定の対象物の移動速度が急に大きくなって、撮像される外景SCに特定の対象物が含まれなくなった場合には、撮像設定部176は、撮像される外景SCに特定の対象物が含まれていたときの特定の対象物の移動変化に基づいて、特定の対象物の位置を推定する。外景撮像カメラ61aは、推定された特定の対象物の位置へと撮像する向きを変更して撮像する。
この変形例における頭部装着型表示装置100aでは、発信機等を特定の対象物に装着させなくても、特定の対象物が画像認識されることで、特定の対象物が自動で追尾されて撮像されるので、使用者の使い勝手および操作性が向上する。また、撮像される特定の対象物を含む外景画像が視認される外景SCと異なっていても画像表示部20aに表示されるため、使用者は、特定の対象物を含む外景SCを撮像したい場合に、特定の対象物を視認する必要がなく、使用者の利便性が向上する。また、特定の対象物が撮像される外景SCから外れた場合であっても、自動で特定の対象物の位置が推定されて、特定の対象物を含む外景SCが撮像されるため、使用者の利便性が向上する。
D9.変形例9:
また、上記実施形態では、外景撮像カメラ61aは、外景SCを撮像した外景画像を保存するとしたが、撮像するのは特定の時点における静止画の画像に限られず、動画であってもよい。検出されたまぶたの開閉状態および推定された使用者の視線方向に基づいて、画像表示部20aのモードが、画像を撮像するモードと、動画を録画するモードと、に変更される態様であってもよい。
また、上記実施形態では、外景撮像カメラ61aの焦点距離が右眼撮像カメラ37および画像判定部142によって検出された使用者の右眼の開閉状態によって設定されたが、焦点距離を設定する操作については、これに限られず種々変形可能である。例えば、撮像調整モードにおいて、画像表示部20aに配置されたトラックパッド36に使用者の指が触れると、ポインターPO1が表示されて、使用者の指の動きに基づいて焦点距離が設定されてもよい。例えば、トラックパッド36に触れている使用者の指が右耳から使用者の前方の方向へと移動されると、画像表示部20は、ポインターPO1を中心とする一部の領域を拡大した外景画像を撮像画像VI1に表示してもよい。逆に、トラックパッド36に触れている使用者の指が使用者の前方から右耳の方向へと移動されると、画像表示部20は、ポインターPO1を中心とする一部の領域を縮小した外景画像を撮像画像VI1に表示してもよい。
D10.変形例10:
固視微動には、ドリフト、トレマ、および、フリックがある。ドリフトは、小さな滑らかな動きであり、トレマは、非常に小さな高周波の振動である。フリックは、小さな跳ぶような動きであり、サッケードを小さくしたような動きである。画像判定部142は、ドリフトとトレマとフリックとの少なくとも1つの周波数特性を解析することで、距離Rや注視点PCを特定して、使用者が注視点PCを凝視しているか否かを判定してもよい。
上記第3実施形態における図24に示すように、使用者は注視点PC1から注視点PC2へと凝視する視線位置を移動させるのに、少なくとも潜期間PT1と視線移動期間PT2とを加えた約0.7秒間が必要である。そのため、使用者が注視点PCを凝視しているかの判定は、視線移動期間PT2の0.4秒を用い、使用者が凝視する注視点PCを移動させたか否かの判定には、0.7秒を用いてもよい。例えば、使用者が注視点PC1を凝視した状態から、注視点PC2を凝視する状態に変化するまでに、閾値として0.7秒を設定してもよい。この場合、0.7秒以下の時間内に、注視点PCの位置が変化した場合には、当該変化は、使用者の意図的なものではないと判断する。なお、使用者が凝視する注視点PCを移動させたか否かの判定に用いる閾値は0.7秒に限られず、例えば、1秒といった期間でもよい。
また、上記第3実施形態では、図26に示すように、ポインターP1が制御用画像CIにおける選択可能なボタンに重複していると判定された場合には、重複している選択可能なボタンがポップアップ表示されたが、選択可能なボタンとポインターP1との表示方法はこれに限られず、種々変形可能である。例えば、あるボタンが選択された場合には、ポップアップを点滅させたり、拡大させたりして表示させてもよい。また、ポインターP1が選択可能なボタンに重複していると判定される範囲を、ポインターP1付近のボタンに対して表示させてもよいし、全てのボタンに対して判定される範囲を表示させてもよい。また、最大画像表示領域PNに、図21または図22で示すような判定円JC、注視点PC、および、範囲EC1の関係が表示されてもよい。これらが表示されることで、使用者が注視点PCを凝視しているか否かの程度が判定円JCと範囲EC1との関係によって使用者に視認させることができ、使用者の利便性が向上する。また、算出された注視点PCが使用者に視認されることで、使用者が意図しないボタンの選択を抑制でき、使用者による誤操作を軽減できる。
また、上記第3実施形態の頭部装着型表示装置100において、使用者が操作部135等を操作することで、視線移動期間PT2の秒数や判定円JCにおける距離Rが任意に設定されてもよい。この変形例の頭部装着型表示装置100では、使用者が任意に視線方向の特定に関する設定を変更でき、使用者の利便性がより向上する。
また、使用者の年齢や性別といった個人差や、使用者が頭部装着型表示装置100を使用する環境の明るさ等に応じて、複数のパターンに分類された視線移動期間PT2の秒数や判定円JCにおける距離Rから、最適なパターンが選択されてもよい。これらのパターンは、操作部135等の操作や、使用者の視線方向に基づく各種操作によって設定されてもよい。また、これらのパターンが設定される設定モードと、通常の表示モード等と、が使用者によって注視点PCが注視されている時間や使用者の眼のまばたきによって変更されてもよい。また、頭部装着型表示装置100がパーソナルコンピューター(PC)と接続されたときに、PCに付属されているマウスの追従性が使用者の視線方向に基づく各種操作や、視線方向の変化速度に基づいて設定されてもよい。
また、上記第3実施形態では、ポインターP1が制御用画像CIにおける選択可能なボタンに重複していると判定された場合には、重複している選択可能なボタンがポップアップ表示され、かつ、選択可能なボタンを示す音声が出力されたが、必ずしもポップアップ表示と音声出力との両方が行なわれる必要はない。例えば、ポップアップ表示のみであってもよいし、音声出力のみであってもよい。また、音声出力については、音声を右イヤホン32と左イヤホン34との両方に出力される必要はなく、片方にのみ出力されてもよい。また、ポップアップの表示や出力される音声については種々変形可能である。例えば、ポップアップ表示がされると共に、音声においては、「入力可能です」という音声が出力されてもよい。
また、まぶたの開閉による所定の処理の決定時や、使用者が注視点PCを凝視していると判定された時に、使用者に対して、音声出力による通知が行なわれてもよいし、注視点PCまたは最大画像表示領域PNにおける少なくとも一部の領域が点滅してもよい。また、音声出力や点滅の代わりに、画像表示部20や制御部10が振動によって使用者に通知が行なわれてもよいし、所定の時間、ポインターP1が固定されることで使用者に通知が行なわれてもよい。
D11.変形例11:
上記実施形態における頭部装着型表示装置100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、イヤホン32,34や外景撮像カメラ61は、適宜省略可能である。また、上記実施形態では、画像光を生成する構成として、LCDと光源とを利用しているが、これらに代えて、有機ELディスプレイといった他の表示素子を採用してもよい。また、上記実施形態では、使用者の頭の動きを検出するセンサーとして9軸センサー66を利用しているが、これに代えて、加速度センサー、角速度センサー、地磁気センサーのうちの1つまたは2つから構成されたセンサーを利用するとしてもよい。また、上記実施形態では、頭部装着型表示装置100は、両眼タイプの光学透過型であるとしているが、本発明は、例えばビデオ透過型や単眼タイプといった他の形式の頭部装着型表示装置にも同様に適用可能である。
図30は、変形例における頭部装着型表示装置の外観構成を示す説明図である。図30(A)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備える点と、左光学像表示部28に代えて左光学像表示部28bを備える点とである。右光学像表示部26bは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100bの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28bは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100bの装着時における使用者の左眼の斜め上に配置されている。図30(B)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20cが、右光学像表示部26に代えて右光学像表示部26cを備える点と、左光学像表示部28に代えて左光学像表示部28cを備える点とである。右光学像表示部26cは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28cは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様の頭部装着型表示装置100として実現できる。
また、上記実施形態において、頭部装着型表示装置100は、使用者の左右の眼に同じ画像を表わす画像光を導いて使用者に二次元画像を視認させるとしてもよいし、使用者の左右の眼に異なる画像を表わす画像光を導いて使用者に三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図1および図2に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
また、制御部10がパーソナルコンピューター(PC)に内蔵されて、PCのモニターに代えて画像表示部20が使用される態様であってもよいし、制御部10と画像表示部20とが一体化して、使用者の衣服に取り付けられるウェアラブルコンピューターの態様であってもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。