JP2017111537A - ヘッドマウントディスプレイおよびヘッドマウントディスプレイのプログラム - Google Patents

Abstract

【課題】短時間で確実に文字の入力または選択を行うことができるヘッドマウントディスプレイおよびヘッドマウントディスプレイのプログラムを提供する。【解決手段】眼鏡表示装置は、立体視像を生成可能な半透過ディスプレイと、手までの距離を測定する赤外線検知ユニットと、半透過ディスプレイに仮想表示された入力文字と、赤外線検知ユニットによる手の動作に応じて仮想表示された入力文字の入力を判定する制御ユニットと、を含む。制御ユニットは、赤外線検知ユニットにより手の一の指と他の指とを認識し、一の指と他の指との動作に応じて入力判定を行う。【選択図】図２４

Description

本発明は、ヘッドマウントディスプレイおよびヘッドマウントディスプレイのプログラムに関する。

近年、タッチパネルまたはキーボード等の入力システムについては、種々の研究開発が行われている。

特開２０１４−１８３３３６号公報（特許文献１）には、タッチパネルによる操作情報の盗難を防ぐ入力方法について開示されている。
特許文献１記載の入力方法は、左眼用の画面と右眼用の画面とを、タッチパネルの同一の表示領域に表示する表示処理と、表示領域内における操作に係るイベントを取得する取得処理と、左眼用の画面と右眼用の画面とのうち基準となる画面を特定する第１特定処理と、基準となる画面に基づいて、イベントによる指示を特定する第２特定処理とを含む。上記イベントによる指示は、数字、文字又は記号に係るコードを受け付けさせる指示であってもよい。

特開２０１４−１７４７９０号公報（特許文献２）には、現場でのプロセスオペレーションの実施時に、オペレータにとって良好な作業環境を提供するウェアラブルコンピュータ入力装置について開示されている。
特許文献２記載のウェアラブルコンピュータ入力装置は、入力操作画面およびマウスポインタを表示するディスプレイを含み、オペレータの頭部に装着される画像表示装置と、画像表示装置に固定され、所定周期で質問電波を送信する質問電波送信器と、この質問電波送信器の質問電波に対する応答電波を受信可能に、画像表示装置に所定の間隔で配置された複数の応答電波受信器と、オペレータの手部に固定され、質問電波を受信して、第１のタグＩＤで変調された応答電波を送信する第１のＲＦＩＤタグと、オペレータの少なくとも２本の指先に固定された複数の接触センサと、これらの接触センサが互いに接触することによって動作し、質問電波を受信して、第２のタグＩＤで変調された応答電波を送信する第２のＲＦＩＤタグと、複数の応答電波受信器から出力された第１のタグＩＤに係る応答電波に基づいて手部から複数の応答電波受信器までの距離を演算し、この距離に基づいて入力操作画面の所定の位置にマウスポインタを表示させると共に、第２のタグＩＤに係る応答電波に基づいて入力操作画面における入力操作を受付ける通信制御装置と、を備えるものである。

特開２００１−１５４７９４号公報（特許文献３）には、補助装置を使うことなくクリック動作を実現可能としたポインティング装置もついて開示されている。
特許文献３記載のまばたきによるクリック機能を有するポインティング装置は、眼の動きを捕捉し、ディスプレイ上の凝視している位置を検出し、眼のまばたきにより入力機能を実現する。入力機能は、クリック機能を中心とし、ディスプレイは、眼鏡型でコンピュータ画面を表示する眼鏡ディスプレイ２であり、眼の動きを捕捉し、眼鏡ディスプレイ２のどこを凝視しているかを検出するアイカメラ３を備え、眼鏡ディスプレイ２を支える眼鏡型フレーム１を備え、まばたきのうち左目および右目のまばたきを検出する左目まばたきセンサ４および右目まばたきセンサ５を備え、左目または右目の一方だけ閉じている期間が一定時間を超えている場合に、片目まばたきと判断し、両目が閉じていると判断したときにポインティング操作のキャンセルを行う機能を有する。

特開２０００−３３０７１４号公報（特許文献４）には、入力した空間座標が視線方向でばらつくことなく入力することができる空間図形入力装置について開示されている。
特許文献４記載の空間図形入力装置は、図形入力が開始されるまで仮想物体の画像データによる立体画像を表示し、図形入力が開始で、位置入力装置の磁気座標及びオペレータの位置を読み取り、実空間の座標値に変換する。次に視点位置を演算して視線方向を設定した後に視線方向を法線とし指示した座標点を通過する入力平面を生成し、入力平面により入力座標を制限し座標を出力する。従って、視線方向を法線とする入力平面上の座標成分のみ座標入力が可能のため、奥行き方向にぶれなく安定した入力が可能となる。

特開２０００−１５５６３９号公報（特許文献５）には、ウエアブルコンピュータ等の入力装置として利用可能なキーボード装置であって、利用者が立ったまま、又は歩きながらでも使用することができ、かつ、両手入力による速いキー入力が可能なキーボード装置について開示されている。
特許文献５記載のキーボード装置は、コンピュータ本体に情報を入力するキーボード装置は、左手入力用キー入力部と右手入力用キー入力部の２つのユニットから構成される。各キー入力部、には身体装着用のベルトが設けられ、左手入力用キー入力部は利用者の右前腕部に、右手入力用キー入力部は左前腕部にそれぞれ装着される。また、利用者の頭部には眼鏡型のアイグラスディスプレイが装着され、左右のキー入力部から入力した情報内容は該ディスプレイを通して確認することができる。なお、左右のキー入力部は左右の上腕部や脚に装着してもよい。

特開平１０−２２２２８７号公報（特許文献６）には、操作性良く、且つ正確に、画面上の位置に関連した情報を入力することができるようにする情報入力装置について開示されている。
特許文献６の情報入力装置において、ＨＭＤは、使用者の頭部に装着される眼鏡形状の保持枠を備えている。保持枠には、使用者の左右の各眼球に対向する位置に、画像を表示するためのＬＣＤパネルが設けられ、ＬＣＤパネルの下側にそれぞれ、使用者の左右の各眼球における視線を検出する視線検出器が設けられている。ＨＭＤを制御するコントローラは、視線検出器からの信号に基づいて、画面上の視点位置を決定し、この視点位置に関する情報を出力する。

特開平１０−１６１８０１号公報（特許文献７）には、マウスは、頻繁に移動させる必要があり面倒である上に、手などにハンディキャップを持つ者にとっては操作が難しくない入力装置について開示されている。
特許文献７の入力装置において、作業者は、信号処理部を介してコンピュータに接続されている入出力部を、眼鏡のように頭部に装着する。コンピュータから出力された画像信号が画像拡大縮小部を介して画像表示部に入力され画像が表示される。作業者は、その画像を見ながら所望のオブジェクトに視点を移し、音声入力部に向かって所定の単語を発声する。すると、アイカメラはその視点を検出し視点位置計算部において座標変換を行い、また音声認識部がその単語を認識し、信号変換部でその視点位置および音声入力が対応付けられてコンピュータに入力される。コンピュータは、作業者が選択したオブジェクトを特定し、発声された単語の種類に対応した処理を行うものである。

特開平９−２１２２９９号公報（特許文献８）には、マウス、トラックボール、ペン入力装置に代わるような、情報入力装置および情報入力方法を提供する。このため、ディスプレイと空間的に離れた指し棒で、ディスプレイ上のある位置を指し、しかもその指した位置が、遠隔地にあるディスプレイ上で位置として表示される情報入力装置および情報入力方法について開示されている。
特許文献８記載の情報入力装置および情報入力方法は、指し棒の赤外線発信部から赤外線、超音波発信部から超音波を同時に発信させる。ディスプレイ上の赤外線センサは赤外線を受信し、超音波センサは超音波を受信する。赤外線センサが赤外線を受信した時間を基準として、超音波センサが超音波を受信した時間との差を測定する。その時間の差と音速をかけ合わせることによって、超音波発信部と超音波センサまたは超音波発信部と超音波センサの距離を測定して、指し棒がディスプレイ上の指している位置を情報入力する。

特開平９−４４２９７号公報（特許文献９）には、人間の自然な動きを用いてコンピュータシステムに情報を入力することが可能なデータ入力方法及びその装置について開示されている。
特許文献９のデータ入力方法及びその装置には、眼鏡に内蔵された頭部動作検出部（ＨＭＤ）により装置利用者の頭部の動きを検出する。例えば、情報処理装置（装置）によって表示された「はい」或いは「いいえ」の応答を促すメッセージに対して、装置利用者が“うなずく”動作をすれば、装置はこれをロー軸回りの回転と捉えて「はい」の応答とみなす。これに対して、装置利用者が“かぶりを振る”動作をすれば、装置はこれをピッチ軸回りの回転と捉えて「いいえ」の応答とみなすものである。

特開平７−５９７８号公報（特許文献１０）には、現実世界から遊離せずに、仮想世界に対して所定の入力を行うことができるようにする入力装置について開示されている。
特許文献１０の入力装置は、ディスプレイに電卓の３次元映像を表示する。このとき、ディスプレイは、現実に存在する机を透過して見ることができるようにする。ボタンを操作したか否かを、指先の位置とボタンの位置とから計算して求める。

特開平５−１００１９２号公報（特許文献１１）には、ワープロなどの電子機器の携行を容易にし、電子機器により表示される情報とキーボードなどの外界とを、目の位置を僅かに動かすだけで容易に見ることができ、キーボードなどの操作を短時間に疲労せずに行なうことのできるメガネ型ディスプレイについて開示されている。 特許文献１１記載のメガネ型ディスプレイにおいては、液晶表示装置と拡大レンズとをメガネ型のフレームに収納してなるメガネ型ディスプレイにおいて、前記フレームの前面の視野の一部により前記ディスプレイを視認し、他の一部により前記ディスプレイ以外の外界を見るように構成したことを特徴とするものである。

特開２０１４−１８３３３６号公報 特開２０１４−１７４７９０号公報 特開２００１−１５４７９４号公報 特開２０００−３３０７１４号公報 特開２０００−１５５６３９号公報 特開平１０−２２２２８７号公報 特開平１０−１６１８０１号公報 特開平９−２１２２９９号公報 特開平９−４４２９７号公報 特開平７−５９７８号公報 特開平５−１００１９２号公報

以上のように、上記特許文献１から特許文献１１においては、種々の入力方法が開発されている。

しかしながら、視線を抽出して、視線により操作を行うことは、訓練が必要であり、意図しない状態で視線が動いてしまう場合があり、意図する動作を行うことは、困難である。
また、仮想現実において、短時間で入力操作を行うことは、困難である。ウェアラブル、ヘッドマウントディスプレイにおいて短時間で入力操作を行うことが困難である。

本発明の主な目的は、短時間で確実に文字の入力または選択を行うことができるヘッドマウントディスプレイおよびヘッドマウントディスプレイのプログラムを提供することである。

（１）
一局面に従うヘッドマウントディスプレイは、立体視像を生成可能な表示装置と、手までの距離を測定する深度センサと、表示装置に仮想表示された入力文字と、深度センサによる手の動作に応じて仮想表示された入力文字の入力を判定する制御部と、を含み、制御部は、深度センサにより手の一の指と少なくとも他の指とを認識し、一の指と他の指との動作に応じて入力判定を行うものである。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、一の指と他の指の動作で文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（２）
第２の発明にかかるヘッドマウントディスプレイは、一局面に従うヘッドマウントディスプレイにおいて、一の指は、親指からなり、他の指は、人差し指および中指の少なくとも一方からなり、制御部は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態を判定して、当該入力文字の一部の位置を選定したと判定してもよい。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、親指と人差し指および中指の少なくとも一方とをくっつける動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（３）
第３の発明にかかるヘッドマウントディスプレイは、一局面に従うヘッドマウントディスプレイにおいて、一の指は、親指からなり、他の指は、人差し指および中指の少なくとも一方からなり、制御部は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とを接触した状態から離れた状態を判定して、当該入力文字の一部の位置を選定したと判定してもよい。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、親指と人差し指および中指の少なくとも一方を離す動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（４）
第４の発明にかかるヘッドマウントディスプレイは、一局面から第３の発明にかかるヘッドマウントディスプレイにおいて、入力文字は、仮想表示されたキーボードからなってもよい。

この場合、入力文字は、仮想表示されたキーボードからなるので、使い慣れたキーボード配置を容易に利用することができる。

（５）
第５の発明にかかるヘッドマウントディスプレイは、一局面に従うヘッドマウントディスプレイにおいて、一の指は、親指からなり、他の指は、人差し指および中指の少なくとも一方からなり、制御部は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態、当該接触した状態で入力文字の他部の位置まで移動した状態、および当該移動後前記手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定し、入力文字の一部から他部までの文字列を選定したと判定してもよい。

この場合、入力文字の選択を行うことができる。例えば、親指と人差し指および中指の少なくとも一方とをくっつけて、移動させて移動後に、親指と人差し指および中指の少なくとも一方とを離すことで、文字の選択を行うことができる。

（６）
他の局面に従うヘッドマウントディスプレイのプログラムは、立体視像を生成可能な表示処理と、手までの距離を測定する深度センサ処理と、表示処理により仮想表示された入力文字と、深度センサ処理による手の動作に応じて仮想表示された入力文字の入力を判定する制御処理と、を含み、制御処理は、深度センサ処理により手の一の指と少なくとも他の指とを認識し、一の指と他の指との動作に応じて入力判定を行うものである。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、一の指と他の指の動作で文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（７）
第７の発明にかかるヘッドマウントディスプレイのプログラムは、他の局面に従うヘッドマウントディスプレイのプログラムにおいて、一の指は、親指からなり、他の指は、人差し指および中指の少なくとも一方からなり、制御処理は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態を判定して、当該入力文字の一部の位置を選定したと判定してもよい。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、親指と人差し指および中指の少なくとも一方とをくっつける動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（８）
第８の発明にかかるヘッドマウントディスプレイのプログラムは、他の局面に従うヘッドマウントディスプレイのプログラムにおいて、一の指は、親指からなり、他の指は、人差し指および中指の少なくとも一方からなり、制御処理は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定して、当該入力文字の一部の位置を選定したと判定してもよい。

この場合、ヘッドマウントディスプレイに表示された入力文字に対して、親指と人差し指および中指の少なくとも一方を離す動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

（９）
第９のヘッドマウントディスプレイのプログラムは、他の局面に従うヘッドマウントディスプレイのプログラムにおいて、一の指は、親指からなり、 他の指は、人差し指および中指の少なくとも一方からなり、制御処理は、仮想表示された入力文字の一部の位置において、手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態、当該接触した状態で入力文字の他部の位置まで移動した状態、および当該移動後手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定し、入力文字の一部から他部までの文字列を選定したと判定してもよい。

この場合、入力文字の選択を行うことができる。例えば、親指と人差し指および中指の少なくとも一方とをくっつけて、移動させて移動後に、親指と人差し指および中指の少なくとも一方とを離すことで、文字の選択を行うことができる。

一実施の形態にかかる眼鏡表示装置の基本構成の一例を示す模式的外観正面図である。 眼鏡表示装置の一例を示す模式的外観斜視図である。 操作システムの制御ユニットの構成の一例を示す模式図である。 操作システムにおける処理の流れを示すフローチャートである。 図４のフローチャートに応じた概念を示す模式図である。 赤外線検知ユニットの検知領域と、一対の半透過ディスプレイの仮想表示領域とを説明するための模式的斜視図である。 図６の上面図である。 図６の側面図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域における操作領域とジェスチャ領域との一例を示す模式図である。 検知領域における操作領域とジェスチャ領域との一例を示す模式図である。 キャリブレーション処理の説明を行なうためのフローチャートである。 指認識の一例を示す模式図である。 指認識の処理の一例を示すフローチャートである。 掌認識の一例を示す模式図である。 親指認識の一例を示す模式図である。 眼鏡表示装置の半透過ディスプレイの表示の一例を示す模式図である。 図１２から図１４において説明した操作領域の他の例を示す模式図である。 図１２から図１４において説明した操作領域の他の例を示す模式図である。 図１２から図１４において説明した操作領域の他の例を示す模式図である。 図１２から図１４において説明した操作領域の他の例を示す模式図である。 文字入力における眼鏡表示装置の制御ユニットの動作の一例を示すフローチャートである。 半透過ディスプレイに表示されたキーボードの一例を示す模式図である。 半透過ディスプレイに表示されたキーボードおよび手の一例を示す模式図である。 半透過ディスプレイに表示されたキーボードおよび手の一例を示す模式図である。 半透過ディスプレイに表示されたキーボードおよび手の一例を示す模式図である。 半透過ディスプレイに表示されたキーボードおよび手の一例を示す模式図である。 図２６に示したキーボードの入力の他の例を示す模式図である。 図２４のフローチャートの他の例である。 図２５に示したキーボードの他の例を示す模式図である。 図２６から図２９で示した手の一例を示す模式図である。 図２６から図２９で示した手の一例を示す模式図である。

以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
また、本発明は、以下に説明する眼鏡表示装置に限定されるものではなく、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタ等にも適用することができる。

（眼鏡表示装置の構成概略）
図１は、一実施の形態にかかる眼鏡表示装置１００の基本構成の一例を示す模式的外観正面図であり、図２は、眼鏡表示装置１００の一例を示す模式的外観斜視図である。

図１または図２に示すように、眼鏡表示装置１００は、眼鏡型の表示装置である。当該眼鏡表示装置１００は、後述するように、ユーザの顔に装着して使用される。

図１および図２に示すように、眼鏡表示装置１００は、主に、眼鏡ユニット２００、通信システム３００および操作システム４００からなる。

（眼鏡ユニット２００）
図１および図２に示すように、眼鏡ユニット２００は、眼鏡フレーム２１０、一対の半透過ディスプレイ２２０および一対の表示調整機構６００からなる。眼鏡フレーム２１０は、主にリムユニット２１１、テンプルユニット２１２を含む。
眼鏡フレーム２１０のリムユニット２１１により一対の半透過ディスプレイ２２０が支持される。また、リムユニット２１１には、一対の表示調整機構６００が設けられる。さらに、リムユニット２１１には、赤外線検知ユニット４１０およびユニット調整機構５００が設けられる。ユニット調整機構５００の詳細については後述する。
一対の表示調整機構６００は、後述するように一対の半透過ディスプレイ２２０の角度および位置を調整することができる。一対の表示調整機構６００の詳細については、後述する。

本実施の形態においては、眼鏡表示装置１００には、リムユニット２１１の一対の表示調整機構６００に一対の半透過ディスプレイ２２０を設けることとしているが、これに限定されず、眼鏡表示装置１００のリムユニット２１１の一対の表示調整機構６００に通常のサングラスレンズ、紫外線カットレンズ、または眼鏡レンズなどのレンズ類を設け、別に１個の半透過ディスプレイ２２０または一対の半透過ディスプレイ２２０を設けてもよい。
また、当該レンズ類の一部に、半透過ディスプレイ２２０を埋め込んで設けてもよい。
また、一対の表示調整機構６００を半透過ディスプレイ２２０の側部に設けているが、これに限定されず、半透過ディスプレイ２２０の周囲または内部に設けてもよい。

さらに、本実施の形態は、眼鏡タイプに限定するものではなく、人体に装着し、装着者の視野に配設できるタイプであれば、帽子タイプその他任意のヘッドマウントディスプレイ装置に使用することができる。

（通信システム３００）
次に、通信システム３００について説明を行なう。
通信システム３００は、バッテリーユニット３０１、アンテナモジュール３０２、カメラユニット３０３、スピーカユニット３０４、ＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）ユニット３０７、マイクユニット３０８、ＳＩＭ（Ｓｕｂｓｃｒｉｂｅｒ Ｉｄｅｎｔｉｔｙ Ｍｏｄｕｌｅ Ｃａｒｄ）ユニット３０９およびメインユニット３１０を含む。
なお、カメラユニット３０３にはＣＣＤセンサが備えられてもよい。スピーカユニット３０４は、ノーマルイヤホンであってもよいし、骨伝導イヤホンであってもよい。ＳＩＭユニット３０９には、ＮＦＣ（Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ：近距離無線通信）ユニットおよび他の接触式ＩＣカードユニット、ならびに非接触式ＩＣカードユニットを含んでもよい。

以上のように、本実施の形態にかかる通信システム３００は、少なくとも携帯電話、スマートフォンおよびタブレット端末のいずれかの機能を含むものである。具体的には、電話機能、インターネット機能、ブラウザ機能、メール機能、および撮像機能（録画機能を含む）等を含むものである。
したがって、ユーザは、眼鏡表示装置１００を用いて、通信装置、スピーカおよびマイクにより、携帯電話と同様の通話機能を使用することができる。また、眼鏡型であるので、両手を利用せず、通話を行なうことができる。

（操作システム４００）
続いて、操作システム４００は、赤外線検知ユニット４１０、ジャイロセンサユニット４２０、加速度検知ユニット４３０および制御ユニット４５０からなる。赤外線検知ユニット４１０は、主に赤外線照射素子４１１および赤外線検知カメラ４１２からなる。

（ユニット調整機構５００）
図２に示すように、ユニット調整機構５００は、赤外線検知ユニット４１０の角度を調整することができる。具体的には、ユニット調整機構５００は、矢印Ｖ５の水平軸周り、および、矢印Ｈ５の垂直軸周り、に赤外線検知ユニット４１０の角度を調整可能な構造である。

ユニット調整機構５００は、制御ユニット４５０からの指示により矢印Ｖ５および矢印Ｈ５の方向に移動調整する。
例えば、制御ユニット４５０により所定のジェスチャを認識した場合に、ユニット調整機構５００を所定の角度で動作させてもよい。その場合、ユーザは、所定のジェスチャを行うことにより赤外線検知ユニット４１０の角度の調整を行うことができる。

なお、本実施の形態においては制御ユニット４５０によりユニット調整機構５００が動作することとしているが、これに限定されず、手動により図１の調整部５２０を操作して、矢印Ｖ５の方向および矢印Ｈ５の方向に移動調整できることとしてもよい。

続いて、操作システム４００の構成、処理の流れおよび概念について説明を行なう。図３は、操作システム４００の制御ユニット４５０の構成の一例を示す模式図である。

図３に示すように、制御ユニット４５０は、イメージセンサ演算ユニット４５１、デプスマップ演算ユニット４５２、イメージ処理ユニット４５３、解剖学的認識ユニット４５４、ジェスチャデータ記録ユニット４５５、ジェスチャ識別ユニット４５６、キャリブレーションデータ記録ユニット４５７、合成演算ユニット４５８、アプリケーションソフトユニット４５９、イベントサービスユニット４６０、キャリブレーションサービスユニット４６１、表示サービスユニット４６２、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４、および６軸駆動ドライバユニット４６５を含む。

なお、制御ユニット４５０は、上記の全てを含む必要はなく、適宜必要な１または複数のユニットを含んでもよい。たとえば、ジェスチャデータ記録ユニット４５５およびキャリブレーションデータ記録ユニット４５７は、クラウド上に配置してもよく、合成演算ユニット４５８を特に設けなくてもよい。

次に、図４は、操作システム４００における処理の流れを示すフローチャートであり、図５は図４のフローチャートに応じた概念を示す模式図である。

まず、図４に示すように、赤外線検知ユニット４１０から対象のデータを取得し、デプスマップ演算ユニット４５２により深さ演算を行なう（ステップＳ１）。次に、イメージ処理ユニット４５３により外形イメージデータを処理する（ステップＳ２）。

次いで、解剖学的認識ユニット４５４により、標準的な人体の構造に基づき、ステップＳ２において処理された外形イメージデータから、解剖学的特徴を識別する。これにより、外形が認識される（ステップＳ３）。

さらに、ジェスチャ識別ユニット４５６により、ステップＳ３で得た解剖学的特徴に基づいてジェスチャを識別する（ステップＳ４）。
ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５に記録されたジェスチャデータを参照し、解剖学的特徴が識別された外形からジェスチャの識別を行なう。なお、ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５からのジェスチャデータを参照することとしているが、参照することに限定されず、他の任意のデータを参照してもよく、全く参照することなく処理してもよい。
以上により、図５（ａ）に示すように、手のジェスチャを認識する。

続いて、アプリケーションソフトユニット４５９およびイベントサービスユニット４６０は、ジェスチャ識別ユニット４５６により判定されたジェスチャに応じて所定のイベントを実施する（ステップＳ５）。
これによって、図５（ｂ）に示すように、たとえば写真アプリによる画像が表示される。この際、当該画面には、カメラユニット３０３からの撮像データが表示されてよい。

最後に、表示サービスユニット４６２、キャリブレーションサービスユニット４６１、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４および合成演算ユニット４５８により、半透過ディスプレイ２２０に、イメージの表示、またはイメージの仮想表示が行なわれる（ステップＳ６）。これによって、図５（ｃ）に示すようにジェスチャを示す手のスケルトンの表示が行われ、図５（ｄ）に示すように、当該スケルトンの形状および大きさに写真の形状および大きさが合致するように合成されたイメージが表示される。

なお、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を検知し、ディスプレイ演算ユニット４６４に姿勢状況を伝達する。

眼鏡表示装置１００を装着したユーザが眼鏡表示装置１００を傾斜させた場合には、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を受信し、イメージの表示の制御を行なう。当該制御においては、イメージの表示を水平に維持させてもよいし、イメージの表示を傾斜にあわせて調整してもよい。

（検知領域と仮想表示領域との一例）
次に、操作システム４００の赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域との関係について説明を行なう。
図６は、赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域とを説明するための模式的斜視図であり、図７は図６の上面図であり、図８は、図６の側面図である。

以下において、説明の便宜上、図６に示すように、ｘ軸、ｙ軸およびｚ軸からなる三次元直交座標系が定義される。以下の図におけるｘ軸の矢印は、水平方向を指す。ｙ軸の矢印は、鉛直方向またはユーザの体の長軸方向を指す。ｚ軸の矢印は、深度方向を指す。ｚ軸正方向は、より大きい深度の方向を指す。それぞれの矢印の向きは、他の図においても同じである。

図６から図８に示すように、眼鏡表示装置１００は操作システム４００の赤外線検知ユニット４１０により検知可能な三次元空間検知領域（３Ｄスペース）４１０３Ｄを有する。
三次元空間検知領域４１０３Ｄは、赤外線検知ユニット４１０からの円錐状または角錐状の三次元空間からなる。

すなわち、赤外線検知ユニット４１０は、赤外線照射素子４１１から、照射された赤外線を、赤外線検知カメラ４１２により検知できるので、三次元空間検知領域４１０３Ｄ内のジェスチャを認識することができる。
また、本実施の形態においては、赤外線検知ユニット４１０を１個設けることとしているが、これに限定されず、赤外線検知ユニット４１０を複数個設けてもよいし、赤外線照射素子４１１を１個、赤外線検知カメラ４１２を複数個設けてもよい。

続いて、図６から図８に示すように一対の半透過ディスプレイ２２０は、ユーザに、実際に設けられた眼鏡表示装置１００の部分ではなく、眼鏡表示装置１００から離れた場所となる仮想イメージ表示領域２２０３Ｄに、奥行きを持って仮想表示されたものとして視認させる。当該奥行きは、仮想イメージ表示領域２２０３Ｄが有する仮想立体形状の深度方向（ｚ軸方向）の厚みに対応する。したがって、当該仮想立体形状の深度方向（ｚ軸方向）の厚みに応じて奥行きが設けられる。
すなわち、実際には眼鏡表示装置１００の半透過ディスプレイ２２０に表示されるものの、ユーザは、右目のイメージは右目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＲで認識し、左目のイメージは左目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＬで認識する。その結果、認識された両イメージがユーザの脳内で合成されることにより、仮想イメージ表示領域２２０３Ｄで仮想イメージとして認識することができる。

また、仮想イメージ表示領域２２０３Ｄは、フレーム・シーケンシャル方式、偏光方式、直線偏光方式、円偏光方式、トップ・アンド・ボトム方式、サイド・バイ・サイド方式、アナグリフ方式、レンチキュラ方式、パララックス・バリア方式、液晶パララックス・バリア方式、２視差方式および３視差以上を利用する多視差方式のいずれかを利用して表示されてもよい。

また、本実施の形態においては、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。特に、図６および図７に示すように、三次元空間検知領域４１０３Ｄの内部に、仮想イメージ表示領域２２０３Ｄが存在するため、仮想イメージ表示領域２２０３Ｄが共有領域となる。

なお、仮想イメージ表示領域２２０３Ｄの形状およびサイズについては、一対の半透過ディスプレイ２２０への表示方法により任意に調整することができる。
また、図８に示すように、一対の半透過ディスプレイ２２０よりも赤外線検知ユニット４１０が上方（ｙ軸正方向）に配設されている場合について説明しているが、鉛直方向（ｙ軸方向）に対して、赤外線検知ユニット４１０の配設位置が半透過ディスプレイ２２０よりも下方（ｙ軸負方向）または半透過ディスプレイ２２０と同位置であっても、同様に、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。

（検知領域と仮想表示領域との他の例）
続いて、図９から図１１は、図６から図８において示した検知領域と仮想表示領域との他の例を示す模式図である。

例えば、図９から図１１に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０の代わりに、他の入出力装置、表示装置、テレビジョン、モニタ等を用いてもよい。以下、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタを総称して入出力装置９００と略記する。

図９に示すように、入出力装置９００からｚ軸負方向に仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００にｚ軸方向で対向する位置に配設された赤外線検知ユニット４１０からｚ軸正方向に三次元空間検知領域４１０３Ｄが形成されてもよい。
この場合、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

また、図１０に示すように、入出力装置９００から仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００と同方向（ｘｙ平面を基準としていずれもｚ軸正側の方向）に赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄが形成されてもよい。
この場合でも、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

次に、図１１に示すように、入出力装置９００から鉛直上方向（ｙ軸正方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよい。図１１においても、図９、図１０と同様に、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

また、図示していないが、入出力装置９００を三次元空間検知領域４１０３Ｄより上方側（ｙ軸正方向の側）に配置し、鉛直下方向（ｙ軸負方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよく、水平方向（ｘ軸方向）から出力されてもよく、プロジェクタまたは映画館のように、後上方（ｚ軸負方向かつｙ軸正方向）から出力されてもよい。

（操作領域とジェスチャ領域）
続いて、検知領域における操作領域とジェスチャ領域とについて説明する。図１２および図１３は、検知領域における操作領域と、ジェスチャ領域との一例を示す模式図である。

まず、図１２に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を水平移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。

また、図１３に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を鉛直移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。

すなわち、図１２および図１３に示すように、ユーザは、両手を右肩関節ＲＰおよび左肩関節ＬＰをそれぞれ回転中心とした欠球状（深度方向に凸のアーチ状曲面を有する）の立体空間内で移動させることができる。

次に、赤外線検知ユニット４１０による三次元空間検知領域４１０３Ｄと、仮想イメージ表示領域が存在しうる領域（図１２では仮想イメージ表示領域２２０３Ｄを例示）と、腕の移動領域Ｌおよび移動領域Ｒを合わせた領域との全てが重なる空間領域を、操作領域４１０ｃとして設定する。
また、三次元空間検知領域４１０３Ｄ内における操作領域４１０ｃ以外の部分で、かつ腕の移動領域Ｌおよび移動領域Ｒを合わせた領域と重なる部分をジェスチャ領域４１０ｇとして設定する。

ここで、操作領域４１０ｃが、深度方向に最も遠い面が深度方向（ｚ軸正方向）に凸のアーチ状に湾曲した曲面である立体形状を有することに対し、仮想イメージ表示領域２２０３Ｄは、深度方向に最も遠い面が平面である立体形状を有する。このように両領域の間で当該面の形状が異なることに起因し、ユーザは、当該操作において体感的に違和感を覚える。当該違和感を取り除くためにキャリブレーション処理で調整を行なう。また、キャリブレーション処理の詳細については、後述する。

（キャリブレーションの説明）
次いで、キャリブレーション処理について説明を行なう。図１４は、キャリブレーション処理の説明を行なうためのフローチャートである。

図１２および図１３に示したように、ユーザが仮想イメージ表示領域２２０３Ｄに沿って手を動かそうとすると、補助のない平面に沿って動作させる必要がある。したがって、後述する認識処理により仮想イメージ表示領域２２０３Ｄにおいて、操作をし易くするためにキャリブレーション処理を行なう。
また、キャリブレーション処理には、ユーザの個々で異なる指の長さ、手の長さ、腕の長さの調整も行なう。

以下、図１４を用いて説明を行なう。まず、ユーザが、眼鏡表示装置１００を装着し、両腕を最大限に伸張する。その結果、赤外線検知ユニット４１０が、操作領域４１０ｃの最大領域を認識する（ステップＳ１１）。
すなわち、ユーザによりユーザの個々で異なる指の長さ、手の長さ、腕の長さが異なるので、操作領域４１０ｃの調整を行なうものである。

次に、眼鏡表示装置１００においては、仮想イメージ表示領域２２０３Ｄの表示位置を決定する（ステップＳ１２）。すなわち、仮想イメージ表示領域２２０３Ｄを操作領域４１０ｃの外側に配置するとユーザによる操作が不可能となるため、操作領域４１０ｃの内部に配置する。

続いて、眼鏡表示装置１００の赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄ内で、かつ仮想イメージ表示領域２２０３Ｄの表示位置と重ならない位置に、ジェスチャ領域４１０ｇの最大領域を設定する（ステップＳ１３）。
なお、ジェスチャ領域４１０ｇは、仮想イメージ表示領域２２０３Ｄと重ならないように配置しかつ深さ方向（ｚ軸正方向）に厚みを持たせることが好ましい。

本実施の形態においては、以上の手法により、操作領域４１０ｃ、仮想イメージ表示領域２２０３Ｄ、ジェスチャ領域４１０ｇが設定される。

続いて、操作領域４１０ｃ内における仮想イメージ表示領域２２０３Ｄのキャリブレーションについて説明する。

操作領域４１０ｃ内の仮想イメージ表示領域２２０３Ｄの外部周囲にユーザの指、手、または腕が存在すると判定された場合に、あたかも仮想イメージ表示領域２２０３Ｄの内部に存在するように、丸め込みを行なう（ステップＳ１４）。

図１２および図１３に示すように、半透過ディスプレイ２２０により仮想表示されたイメージの中央部近辺では、両腕を最大限に伸ばした状態にすると、両手先が仮想イメージ表示領域２２０３Ｄ内に留まることなく深さ方向（ｚ軸正方向）の外部へ外れてしまう。また、仮想表示されたイメージの端部においては、両腕を最大限に伸ばさない限り、両手先が仮想イメージ表示領域２２０３Ｄ内に存在すると判定されない。
そのため、赤外線検知ユニット４１０からの信号を無処理のまま使用すると、ユーザは、手先が仮想イメージ表示領域２２０３Ｄから外れたとしても、そのような状態であることを体感しにくい。

したがって、本実施の形態におけるステップＳ１４の処理においては、仮想イメージ表示領域２２０３Ｄから外部へ突き出た手先が、仮想イメージ表示領域２２０３Ｄ内にあるものとして補正すべく、赤外線検知ユニット４１０からの信号を処理する。
その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。

なお、本実施の形態においては、仮想イメージ表示領域２２０３Ｄを、深度方向に最も遠い面が平面である三次元空間領域からなることとしているが、これに限定されず、深度方向に最も遠い面領域Ｌ，Ｒの深度方向に最も遠い面に沿った形状の曲面である三次元空間領域からなることとしてもよい。その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。

さらに、半透過ディスプレイ２２０は、仮想イメージ表示領域２２０３Ｄに矩形状の像を表示させる。例えば、図５（ｂ）に示したように、矩形状の像を表示させる（ステップＳ１５）。
続いて、半透過ディスプレイ２２０に、像の周囲を指で囲んでくださいと、表示を行なう（ステップＳ１６）。ここで、像の近傍に指の形の像を薄く表示してもよいし、半透過ディスプレイ２２０に表示を行なう代わりにスピーカから音声により指示をユーザに伝えてもよい。

ユーザは、指示に従い図５（ｄ）に示すように、指を像の見える部分にあわせる。そして、仮想イメージ表示領域２２０３Ｄの表示領域と、赤外線検知ユニット４１０との相関関係が自動調整される（ステップＳ１７）。
なお、上記においては、指で矩形を形作り、そのように定められた矩形と、像の外縁の矩形にあわせる。このことによって、指により定められた矩形の視認サイズおよび位置と像の外縁の矩形の視認サイズ及び位置とを合わせることとした。しかしながら、指によって形状を定める手法はこれに限定されず、表示された像の外縁を指でなぞる手法、表示された像の外縁上の複数の点を指で指し示す手法等、他の任意の手法であってもよい。また、これらの手法を複数のサイズの像について行ってもよい。

なお、上記のキャリブレーション処理の説明においては、眼鏡表示装置１００の場合についてのみ説明を行ったが、入出力装置９００の場合には、ステップＳ１１の処理において、像を表示させ、ステップＳ１７の処理の当該像と赤外線検知ユニット４１０との相関関係を調整してもよい。

（指、掌、腕認識）
次いで、指認識について説明を行い、その後掌認識、腕認識の順で説明を行なう。図１５は、指認識の一例を示す模式図である。図１５において、（Ａ）は指の先端付近の拡大図であり、（Ｂ）は指の根元付近の拡大図である。図１６は、指認識の処理の一例を示すフローチャートである。

図１６に示すように、本実施の形態においては、デバイスの初期化を行なう（ステップＳ２１）。次に、赤外線照射素子４１１から照射され、手に反射した赤外線が、赤外線検知カメラ４１２により検出される（ステップＳ２２）。
次に、赤外線検知ユニット４１０により画像データをピクセル単位で距離に置き換える（ステップＳ２３）。この場合、赤外線の明るさは、距離の三乗に反比例する。これを利用し、デプスマップを作成する（ステップＳ２４）。

次いで、作成したデプスマップに適切な閾値を設ける。そして、画像データを二値化する（ステップＳ２５）。すなわち、デプスマップのノイズを除去する。
続いて、二値化した画像データから約１００個の頂点を持つポリゴンを作成する（ステップＳ２６）。そして、頂点が滑らかになるようにローパスフィルタ（ＬＰＦ）により、より多くの頂点ｐ_ｎを有する新たな多角形を作成することによって、図１５に示す手の外形ＯＦを抽出する（ステップＳ２７）。
なお、本実施の形態においては、ステップＳ２６において二値化したデータからポリゴンを作成するために抽出する頂点の数を約１００個としているが、これに限定されず、１０００個、その他の任意の個数であってもよい。

ステップＳ２７で作成した新たな多角形の頂点ｐ_ｎの集合から、Ｃｏｎｖｅｘ Ｈｕｌｌを用いて、凸包を抽出する（ステップＳ２８）。
その後、ステップＳ２７で作成された新たな多角形と、ステップＳ２８で作成された凸包との共有の頂点ｐ_０を抽出する（ステップＳ２９）。このように抽出された共有の頂点ｐ_０自体を指の先端点として用いることができる。
さらに、頂点ｐ_０の位置に基づいて算出される他の点を指の先端点として用いてもよい。例えば、図１５（Ａ）に示すように頂点ｐ_０における外形ＯＦの内接円の中心を先端点Ｐ０として算出することもできる。

そして、図１５に示すように、頂点ｐ_０に隣接する左右一対の頂点ｐ_１を通る基準線分ＰＰ_１のベクトルを算出する。その後、頂点ｐ_１と、隣接する頂点ｐ_２とを結ぶ辺ｐｐ_２を選択し、そのベクトルを算出する。同様に、外形ＯＦを構成する頂点ｐ_ｎを用い、辺のベクトルを求める処理を外形ＯＦの外周に沿って繰り返す。各辺の向きと基準線分ＰＰ_１の向きとを調べ、基準線分ＰＰ_１と平行に近くなる辺ｐｐ_ｋが指の股の位置に存在すると判定する。そして、辺ｐｐ_ｋの位置に基づき、指の根元点Ｐ１を算出する（ステップＳ３０）。指の先端点Ｐ０と指の根元点Ｐ１とを直線で結ぶことで、指のスケルトンが得られる（ステップＳ３１）。指のスケルトンを得ることで、指の延在方向を認識することができる。
全ての指について同様の処理を行なうことで、全ての指のスケルトンを得る。これにより、手のポーズを認識することができる。すなわち、親指、人差し指、中指、薬指、小指のいずれの指が広げられ、いずれの指が握られているかを認識することができる。

続いて、直前に実施した数フレームの画像データと比較して、手のポーズの違いを検知する（ステップＳ３２）。すなわち、直前の数フレームの画像データと比較することにより、手の動きを認識することができる。

次いで、認識した手の形状を、ジェスチャデータとしてイベントサービスユニット４６０へイベント配送する（ステップＳ３３）。

次いで、アプリケーションソフトユニット４５９によりイベントに応じた振る舞いを実施する（ステップＳ３４）。

続いて、表示サービスユニット４６２により、三次元空間に描画を要求する（ステップＳ３５）。
グラフィック演算ユニット４６３は、キャリブレーションサービスユニット４６１を用いてキャリブレーションデータ記録ユニット４５７を参照し、表示の補正を行なう（ステップＳ３６）。
最後に、ディスプレイ演算ユニット４６４により半透過ディスプレイ２２０に表示を行なう（ステップＳ３７）。

なお、本実施の形態においては、ステップＳ３０の処理およびステップＳ３１の処理により指の根元点を検出したが、根元点の検出方法はこれに限定されない。例えば、まず、頂点ｐ_０の一方の側と他方の側において隣接する一対の頂点ｐ_１を結ぶ基準線分ＰＰ_１の長さを算出する。次に、当該一方の側と他方の側における一対の頂点ｐ_２間を結ぶ線分の長さを算出する。同様に、当該一方の側と他方の側における一対の頂点間を結ぶ線分の長さを、頂点ｐ_０により近い位置にある頂点からより遠い位置にある頂点への順で算出していく。このような線分は、外形ＯＦ内で交わることなく、互いにおおよそ平行となる。当該線分の両端の頂点が指の部分にある場合は、線分の長さは指の幅に相当するため、その変化量は小さい。一方、線分の両端の頂点の少なくともいずれかが指の股の部分に達した場合は、当該長さの変化量が大きくなる。したがって、当該長さの変化量が所定量を超えずかつ頂点ｐ_０から最も遠い線分を検知し、検知された線分上の１点を抽出することによって、根元点を決定することができる。

（掌認識）
次いで、図１７は、掌認識の一例を示す模式図である。

図１７に示すように、指認識を実施した後、画像データの外形ＯＦに内接する最大内接円Ｃを抽出する。当該最大内接円Ｃの位置が、掌の位置として認識できる。

次いで、図１８は、親指認識の一例を示す模式図である。

図１８に示すように、親指は、人差し指、中指、薬指、および小指の他の４指とは異なる特徴を有する。例えば、掌の位置を示す最大内接円Ｃの中心と各指の根元点Ｐ１とを結ぶ直線が相互になす角度θ１，θ２，θ３，θ４のうち、親指が関与するθ１が最も大きい傾向にある。また、各指の先端点Ｐ０と各指の根元点Ｐ１とを結んだ直線が相互になす角度θ１１，θ１２，θ１３，θ１４のうち、親指が関与するθ１１が最も大きい傾向にある。このような傾向に基づき親指の判定を行なう。その結果、右手か左手か、または掌の表か裏かを判定することができる。

（腕認識）
次いで、腕認識について説明を行なう。本実施の形態において、腕認識は、指、掌および親指のいずれかを認識した後に実施する。なお、腕認識は、指、掌および親指のいずれかを認識する前、またはそれらの少なくともいずれかと同時に実施してもよい。

本実施の形態においては、画像データの手の形のポリゴンよりも大きな領域でポリゴンを抽出する。例えば、長さ５ｃｍ以上１００ｃｍ以下の範囲、より好ましくは、１０ｃｍ以上４０ｃｍ以下の範囲で、ステップＳ２１からＳ２７の処理を実施し、外形を抽出する。
その後、抽出した外形に外接する四角枠を選定する。本実施の形態においては、当該四角枠は、平行四辺形または長方形からなる。
この場合、平行四辺形または長方形は、対向する長辺を有するので、長辺の延在方向から腕の延在方向を認識することができ、長辺の向きから腕の向きを判定することが出来る。なお、ステップＳ３２の処理と同様に、直前の数フレームの画像データと比較して、腕の動きを検知させてもよい。

なお、上記の説明においては、２次元像から指、掌、親指、腕を検出することとしているが、上記に限定されず、赤外線検知ユニット４１０をさらに増設してもよく、赤外線検知カメラ４１２のみをさらに増設し、２次元像から、３次元像を認識させてもよい。その結果、さらに認識確度を高めることができる。

（半透過ディスプレイの表示例）
次に、図１９は、眼鏡表示装置１００の半透過ディスプレイ２２０の表示の一例を示す模式図である。

図１９に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０には、一部には広告２２１が表示され、さらに一部には地図２２２が表示され、その他には、眼鏡表示装置１００の半透過ディスプレイ２２０を透過して風景２２３が視認され、その他に天気予報２２４および時刻２２５が表示される。

（操作領域４１０ｃの詳細）
図２０から図２３は、図１２から図１４において説明した操作領域４１０ｃの他の例を示す模式図である。
図２０および図２１は、ユーザを上方から視認した状態を示す模式図であり、図２２および図２３は、ユーザを側方から視認した状態を示す模式図である。

図２０は、ユーザは、腕ａｒｍ１、腕ａｒｍ２および手Ｈ１を伸ばし切った場合を示し、この場合の手Ｈ１は、右肩関節ＲＰを中心に移動軌跡ＲＬ１を通過する。この場合、移動軌跡ＲＬ１の曲率半径はｒａｄ１である。

一方、図２１は、ユーザは、腕ａｒｍ１および腕ａｒｍ２を屈曲させた場合を示し、この場合の手Ｈ１は、移動軌跡ＲＬ２を通過する。
すなわち、図２１においては、ユーザが水平方向に手Ｈ１を移動させようとしているが、直線に近い移動軌跡ＲＬ２を通ることとなる。この場合、移動軌跡ＲＬ２の曲率半径はｒａｄ２である。ここで、人間工学に基づいて、当然のことながら、曲率半径ｒａｄ１は、曲率半径ｒａｄ２よりも小さい値となる。

この場合、制御ユニット４５０は、赤外線ユニット４１０から移動軌跡ＲＬ１を検知した場合でも、直線移動であるとキャリブレーションする。同様に、制御ユニット４５０は、移動軌跡ＲＬ２を検知した場合でも、直線移動であるとキャリブレーションする。

次いで、図２２は、ユーザは、腕ａｒｍ１、腕ａｒｍ２および手Ｈ１を伸ばし切った場合を示し、この場合の手Ｈ１は、右肩関節ＲＰを中心に移動軌跡ＲＬ３を通過する。この場合、移動軌跡ＲＬ３の曲率半径はｒａｄ３である。

一方、図２３に示すように、ユーザは、腕ａｒｍ１および腕ａｒｍ２を屈曲させた場合を示し、この場合の手Ｈ１は、移動軌跡ＲＬ４を通過する。
すなわち、図２３においては、ユーザが鉛直方向に手Ｈ１を移動させようとしているが、直線に近い移動軌跡ＲＬ４を通ることとなる。この場合、移動軌跡ＲＬ４の曲率半径はｒａｄ４である。ここで、人間工学に基づいて、当然のことながら、曲率半径ｒａｄ３は、曲率半径ｒａｄ４よりも小さい値となる。

この場合、制御ユニット４５０は、赤外線ユニット４１０から移動軌跡ＲＬ３を検知した場合でも、直線移動であるとキャリブレーションする。同様に、制御ユニット４５０は、移動軌跡ＲＬ４を検知した場合でも、直線移動であるとキャリブレーションする。

（仮想キーボード入力）
図２４は、文字入力における眼鏡表示装置１００の制御ユニット４５０の動作の一例を示すフローチャートであり、図２５は、半透過ディスプレイ２２０に表示されたキーボードＫＹの一例を示す模式図である。
また、図２６、図２７、図２８および図２９は、半透過ディスプレイ２２０に表示されたキーボードＫＹおよび手Ｈ１の一例を示す模式図である。

図２４に示すように、制御ユニット４５０は、半透過ディスプレイ２２０にキーボード表示を行う（ステップＳ７１）。

制御ユニット４５０は、図２５に示すように、半透過ディスプレイ２２０にキーボードＫＹの表示を行う。ここで、図２５に示すキーボードＫＹの表示は、英語と数字と日本語とを含む。キーボードＫＹは、英語と数字と日本語とを切り替え自在に設けられている。

続いて、制御ユニット４５０は、ジェスチャ領域４１０ｇにユーザの手Ｈ１を検出し、手Ｈ１の指認識を行う（ステップＳ７２）。
ここで、本実施の形態にかかる手Ｈ１の指認識は、親指と人差し指とを認識する。特に左手の手Ｈ１として認識する。

続いて、制御ユニット４５０は、指同士接触を判定する（ステップＳ７３）。具体的に、制御ユニット４５０は、半透過ディスプレイ２２０に表示されているキーボードのいずれの位置で、親指と人差し指とが接触したかを判定する。
ここで、本実施の形態においては、親指と人差し指との接触を判定することとしているが、後述するように、親指と中指との接触、または親指と、人差し指および中指との接触を判定してもよい。

次いで、制御ユニット４５０は、指同士が接触したと判定した場合、当該キーボードの文字認識を行う（ステップＳ７４）。
ここで、図２６に示すように、制御ユニット４５０は、「あ」の文字を入力したと認識する。

続いて、制御ユニット４５０は、指が接触した状態で移動したか否かを判定する（ステップＳ７５）。指が接触した状態で移動しない場合（ステップＳ７５のＮｏ）、制御ユニット４５０は、文字入力が実施される（ステップＳ８１）。
この場合、文字「あ」が入力される。

一方、指が接触した状態で移動した場合（ステップＳ７５のＹｅｓ）、接触した指同士が離間したか否かを判定する（ステップＳ７６）。
ここで、接触した指同士が離間していないと判定した場合、制御ユニット４５０は、ステップＳ７５の処理に戻り、処理を繰り返す。

接触した指同士が離間したと判定した場合（ステップＳ７６のＹｅｓ）、制御ユニット４５０は、移動文字選択を行う（ステップＳ７７）。
例えば、図２７に示すように、文字「え」と文字「お」との間の位置または文字「お」の位置で、指を接触させる。次いで、図２８に示すように、文字「お」の位置から文字「さ」の位置まで移動させる。続いて、図２９に示すように、文字「さ」の位置において、指を離間させる。

その結果、文字「おかきくけこさ」を選択することができる。最後に、制御ユニット４５０は、選択した文字に対して、カット＆ペーストを行う（ステップＳ７８）。なお、本実施の形態においては、カット＆ペーストであるとしたが、これに限定されず、コピーなど他の任意の操作を行ってもよい。

続いて、図３０は、図２６に示したキーボードＫＹの入力の他の例を示す模式図であり、図３１は、図２４のフローチャートの他の例である。
図３０および図３１に示すように、半透過ディスプレイ２２０に表示されたキーボードＫＹの「あ」の位置から親指と人差し指とを接触させた状態（ステップＳ７３）で上方向（図中矢印方向）の文字「う」の位置に移動（ステップＳ７５ａ））させて、文字「う」の位置で指同士離間（ステップＳ７６ａ）を行った場合、制御ユニット４５０は、文字「う」を入力文字として認識する（ステップＳ７９ａ）。
この場合、制御ユニット４５０は、指同士離間により入力文字を判定するので、文字「あ」の位置で、指同士接触が行われているが、文字「あ」を入力文字として認識せず、指同士離間の位置の文字「う」を入力文字として認識する。最後に、制御ユニット４５０は、文字「う」を入力文字として文字入力を行う（ステップＳ８１ａ）。
なお、文字「あ」の位置で指同士離間が行われた場合には、当然、制御ユニット４５０は、文字「あ」を入力文字として認識する。

図３２は、図２５に示したキーボードＫＹの他の例を示す模式図である。
図３２に示すように、半透過ディスプレイ２２０に表示されるキーボードＫＹは、パーソナルコンピュータ等で使用されるキーボードの配置であってもよい。
その結果、パーソナルコンピュータのキーボードの扱いに習熟しているユーザが容易に入力を行うことができる。

図３３および図３４は、図２６から図２９で示した手Ｈ１の一例を示す模式図である。
図３３に示すように、制御ユニット４５０は、ステップＳ７３の処理である指同士接触を親指と人差し指および中指との接触で判定してもよく、図３４に示すように、ステップＳ７３の処理である指同士接触を親指と中指との接触で判定してもよい。
また、図示していないが、制御ユニット４５０は、手Ｈ１の親指から小指までの全指を接触させて判定してもよい。

以上のように、眼鏡表示装置１００の半透過ディスプレイ２２０に表示された入力文字に対して、一の指と少なくとも他の指の動作で文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。
この場合、眼鏡表示装置１００の半透過ディスプレイ２２０に表示された入力文字に対して、親指と人差し指および中指の少なくとも一方とをくっつける動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。
なお、一の指と他の指とは、片側の手における親指、人差し指、中指、薬指、小指の少なくともいずれかと、当該片側の手における親指、人差し指、中指、薬指、小指の少なくともいずれかとであってもよく、または右手の親指、人差し指、中指、薬指、小指の少なくともいずれかと、左手の親指、人差し指、中指、薬指、小指の少なくともいずれかとであってもよいので、それぞれがくっつくことにより、文字の入力をすることができる。
例えば、上記の例以外に、ピースサインの人差し指と中指とをくっつけてもよく、左手の親指と右手の親指とをくっつけてもよく、左手の人差し指と右手の人差し指とをくっつけてもよく、左右の中指、左右の薬指、左右の小指をそれぞれくっつけてもよく、左手の親指と、右手の少なくともいずれかの指とをくっつけてもよく、左手の人指し指と、右手の少なくともいずれかの指とをくっつけてもよく、左手の薬指と、右手の少なくともいずれかの指とをくっつけてもよく、左手の中指と、右手の少なくともいずれかの指とをくっつけてもよく、左手の小指と、右手の少なくともいずれかの指とをくっつけてもよく、右手の親指と、左手の少なくともいずれかの指とをくっつけてもよく、右手の人指し指と、左手の少なくともいずれかの指とをくっつけてもよく、右手の薬指と、左手の少なくともいずれかの指とをくっつけてもよく、右手の中指と、左手の少なくともいずれかの指とをくっつけてもよく、右手の小指と、左手の少なくともいずれかの指とをくっつけてもよい。

また、眼鏡表示装置１００の半透過ディスプレイ２２０に表示された入力文字に対して、親指と人差し指および中指の少なくとも一方を離す動作を行うことで、文字の入力を行うことができる。その結果、短時間で文字の入力操作を行うことができる。

この場合、入力文字は、仮想表示されたキーボードＫＹからなるので、使い慣れたキーボード配置を容易に利用することができる。

この場合、入力文字の選択を行うことができる。例えば、親指と人差し指および中指の少なくとも一方とをくっつけて、移動させて移動後に、親指と人差し指および中指の少なくとも一方とを離すことで、文字の選択を行うことができる。

本発明においては、眼鏡表示装置１００の半透過ディスプレイ２２０が「表示装置」に相当し、赤外線検知ユニット４１０が「深度センサ」に相当し、手Ｈ１、腕ａｒｍ２が「対象物」に相当し、制御ユニット４５０が「制御部」に相当し、眼鏡表示装置１００が「ヘッドマウントディスプレイ」に相当する。

本発明の好ましい一実施の形態は上記の通りであるが、本発明はそれだけに制限されない。本発明の精神と範囲から逸脱することのない様々な実施形態が他になされることは理解されよう。さらに、本実施形態において、本発明の構成による作用および効果を述べているが、これら作用および効果は、一例であり、本発明を限定するものではない。

１００ 眼鏡表示装置
２２０ 半透過ディスプレイ
２２０３Ｄ 仮想イメージ表示領域（共有領域）
３００ 通信システム
３０３ カメラユニット
４１０ 赤外線検知ユニット
４１０ｃ 操作領域
４２０ ジャイロセンサユニット
４３０ 加速度検知ユニット
４１０３Ｄ 三次元空間検知領域
４５０ 制御ユニット
４５４ 解剖学的認識ユニット
４５６ ジェスチャ識別ユニット
４６０ イベントサービスユニット
４６１ キャリブレーションサービスユニット
Ｈ１ 手
ＲＰ 右肩関節
ＬＰ 左肩関節

Claims (9)

1. 立体視像を生成可能な表示装置と、
   手までの距離を測定する深度センサと、
   前記表示装置に仮想表示された入力文字と、
   前記深度センサによる手の動作に応じて前記仮想表示された入力文字の入力を判定する制御部と、を含み、
   前記制御部は、前記深度センサにより前記手の一の指と少なくとも他の指とを認識し、前記一の指と他の指との動作に応じて入力判定を行う、ヘッドマウントディスプレイ。
2. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御部は、仮想表示された入力文字の一部の位置において、前記手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態を判定して、当該入力文字の一部の位置を選定したと判定する、請求項１記載のヘッドマウントディスプレイ。
3. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御部は、仮想表示された入力文字の一部の位置において、前記手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定して、当該入力文字の一部の位置を選定したと判定する、請求項１記載のヘッドマウントディスプレイ。
4. 前記入力文字は、仮想表示されたキーボードからなる、請求項１から３のいずれか１項に記載のヘッドマウントディスプレイ。
5. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御部は、仮想表示された入力文字の一部の位置において、前記親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態、当該接触した状態で入力文字の他部の位置まで移動した状態、および当該移動後、前記親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定し、前記入力文字の一部から他部までの文字列を選定したと判定する、請求項１記載のヘッドマウントディスプレイ。
6. 立体視像を生成可能な表示処理と、
   手までの距離を測定する深度センサ処理と、
   前記表示処理により仮想表示された入力文字と、
   前記深度センサ処理による手の動作に応じて前記仮想表示された入力文字の入力を判定する制御処理と、を含み、
   前記制御処理は、前記深度センサ処理により前記手の一の親指と少なくとも他の指とを認識し、前記親指と人差し指との動作に応じて入力判定を行う、ヘッドマウントディスプレイのプログラム。
7. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御処理は、仮想表示された入力文字の一部の位置において、前記手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態を判定して、当該入力文字の一部の位置を選定したと判定する、請求項６記載のヘッドマウントディスプレイのプログラム。
8. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御処理は、仮想表示された入力文字の一部の位置において、前記手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定して、当該入力文字の一部の位置を選定したと判定する、請求項６記載のヘッドマウントディスプレイのプログラム。
9. 前記一の指は、親指からなり、
   前記他の指は、人差し指および中指の少なくとも一方からなり、
   前記制御処理は、仮想表示された入力文字の一部の位置において、前記手の親指と人差し指および中指の少なくとも一方とが離れた状態から接触した状態、当該接触した状態で入力文字の他部の位置まで移動した状態、および当該移動後前記手の親指と人差し指および中指の少なくとも一方とが接触した状態から離れた状態を判定し、前記入力文字の一部から他部までの文字列を選定したと判定する、請求項６記載のヘッドマウントディスプレイのプログラム。
   

Images