JP6195893B2 - 形状認識装置、形状認識プログラム、および形状認識方法 - Google Patents

Description

本発明は、形状認識装置、形状認識プログラムおよび形状認識方法に関する。特に、本発明は、対象の解剖学的特徴を認識するための形状認識装置、形状認識プログラムおよび形状認識方法に関する。

日本国特公平８−３１１４０号公報（特許文献１）には、高速で臨場感のある画像をスクリーン上に表示するようなコンピュータグラフィックス、すなわち高速画像生成表示方法が開示されている。
特許文献１に記載の高速画像生成表示方法においては、立体構造をもつ対象を２次元画面に投影して表示する高速画像生成表示方法であって、対象の構成面は、対象座標系において、領域の大きさを少なくとも１つの要素として階層的に記述され、任意の視点から見た時の該対象の構成面を２次元画面へ投影するに際して、表示基準座標系原点または視点から対象座標系で表される該対象の任意の点までの距離を少なくとも１つのパラメータとして階層度を設定することを特徴とする。

日本国特開２００４−１２６９０２号公報（特許文献２）には、観測者に負担のない立体視映像を効率よく生成する立体視画像生成方法および立体視画像生成装置が開示されている。
特許文献２に記載の立体視画像生成方法は、三次元座標を有するポリゴンで構成されるオブジェクトのうち、平面視表示させるオブジェクトデータを基準カメラを原点とする基準カメラ座標系データに、立体視表示させるオブジェクトのデータを所定の視差角を有する右眼用及び左眼用視差カメラをそれぞれ原点とする右眼用及び左眼用視差カメラ座標系データに変換し、基準カメラ座標系のオブジェクトのデータと、右眼用視差カメラ座標系のオブジェクトのデータを右眼用画像データとして、ビデオメモリに描画し、基準カメラ座標系のオブジェクトのデータと、左眼用視差カメラ座標系のオブジェクトのデータを左眼用画像データとして、ビデオメモリに描画し、ビデオメモリに描画された右眼用画像データと左眼用画像データを合成して、立体視オブジェクトと平面視オブジェクトの混在する画像を立体視表示装置に表示することを特徴とする。

日本国特表２０１２−５３３１２０号公報（特許文献３）には、顔認識及びジェスチャ／体位認識技法を使用する方法が開示されている。
特許文献３に記載の方法は、ユーザの気質を示す属性を視覚表示に適用するための方法であって、ユーザの視覚表示をレンダリングするステップと、物理的な空間のデータを受信するステップであって、データが、物理的な空間内のユーザを代表しているものと、ユーザの気質を推論するために、少なくとも１つの検出可能な特徴を解析するステップと、ユーザの気質を示す属性を視覚表示に適用するステップと、を含む。

日本国特表２０１２−５２８４０５号公報（特許文献４）においては、空間またはジェスチャ計算システムにマルチモード入力を供給するシステムおよび方法が開示されている。
特許文献４に記載のシステムは、入力デバイスと、プロセッサに結合され、入力デバイスの方位を検出する検出器と、を備えているシステムであって、入力デバイスが、方位に対応する複数のモード方位を有し、複数のモード方位が、ジェスチャ制御システムの複数の入力モードに対応し、検出器が、ジェスチャ制御システムに結合され、方位に応答して、複数の入力モードからの入力モードの選択を自動的に制御する。

日本国特表２０１２−５２１０３９号公報（特許文献５）においては、仮想オブジェクトを操作するためのシステム、方法及びコンピューター読み取り可能な媒体が開示されている。特許文献５に記載の方法は、仮想空間において仮想オブジェクトを操作する方法であって、仮想オブジェクトを操作するためにユーザが利用する少なくとも１つのコントローラーを決定するステップと、コントローラーを仮想空間におけるカーソルにマッピングするステップと、ユーザがカーソルによって仮想オブジェクトを操作することを示すコントローラー入力を決定するステップと、操作の結果を表示するステップとを含む方法。

日本国特開２０１２−１０６００５号公報（特許文献６）においては、画像表示装置の観察者が、実際には存在しない立体像に対してあたかも直接的に操作を行えるかのような感覚を得ることができる画像表示装置、ゲームプログラム、ゲーム制御方法が開示されている。特許文献６に記載の画像表示装置は、表示画面に視差画像を表示する画像表示手段と、視差画像の観察者によって表示画面と観察者との間に認識される立体像の仮想的な空間座標を算出する第１座標算出手段と、観察者の操作対象である操作体の空間座標を算出する第２座標算出手段と、第１座標算出手段によって算出された立体像の少なくとも１点の空間座標と、第２座標算出手段によって算出された操作体の少なくとも１点の空間座標との間の距離が所定の閾値以下になったときに、視差画像、または視差画像以外の表示画面上の画像の少なくとも一方の変化を伴う所定のイベントを発生させるイベント発生手段と、を備える。

日本国特公平８−３１１４０号公報 日本国特開２００４−１２６９０２号公報 日本国特表２０１２−５３３１２０号公報 日本国特表２０１２−５２８４０５号公報 日本国特表２０１２−５２１０３９号公報 日本国特開２０１２−１０６００５号公報

本発明の目的は、対象物の外形を識別するためのより正確な情報を得ることができる形状認識装置、形状認識プログラムおよび形状認識方法を提供することにある。

（１）
一局面に従う形状認識装置は、対象物の外形を検知する外形検知部と、外形検知部により検知された外形に基づいて、外形上の第１特徴点を抽出する第１抽出部と、外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する第２抽出部と、を含むものである。

本発明にかかる形状認識装置においては、外形検知部と、第１抽出部と、第２抽出部とを含む。外形検知部は、対象物の外形を検知する。第１抽出部は、外形検知部により検知された外形に基づいて、外形上の第１特徴点を抽出する。第２抽出部は外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する。

この場合、第１抽出部のみならず、第２抽出部により、第１特徴点のみならず、第２特徴点を抽出することができる。その結果、特徴点が増加するので、対象物の外形を識別するためのより正確な情報を得ることができる。

（２）
第２の発明にかかる形状認識装置は、一局面に従う形状認識装置において、第１抽出部は、外形検知部によって検知された外形に基づき、複数の外形点を頂点とする多角形を生成し、多角形の頂点から１点を第１特徴点として抽出してもよい。
さらに、第２抽出部は、第１特徴点の両側に位置する一対の頂点を結ぶ線分の方向を算出し、第１特徴点から多角形の外周に沿って順に、多角形を構成する辺の方向を算出し、当該線分の方向に対して最も平行に近い方向を有する多角形の辺が検知された場合に、当該検知された辺の位置に基づいた点を第２特徴点として抽出してもよい。

この場合、対象物の外形の特徴を生じている部分の位置を容易に知ることができる。

なお、第１抽出部においては、外形検知部によって検知された外形に基づいて複数の外形点を頂点に有する多角形を生成し、当該多角形と、当該多角形の凸包との共有頂点を第１特徴点として抽出してもよい。

（３）
第３の発明にかかる形状認識装置は、一局面に従う形状認識装置において、第１抽出部は、外形検知部によって検知された外形に沿って所定の間隔で複数の外形点を検知し、外形点から１点を第１特徴点として抽出してもよい。
さらに、第２抽出部は、第１特徴点の一方の側と他方の側とにそれぞれ存在する複数の外形点から選択された一対の外形点を結ぶ線分の長さを、第１特徴点により近い位置からより遠い位置への順で算出し、線分の長さの変化量が所定量を超えず且つ第１特徴点から最も遠い線分を検知し、検知された線分上の１点を第２特徴点として抽出してもよい。

この場合、対象物の外形の特徴を生じている部分の位置を容易に知ることができる。

（４）
第３の発明にかかる形状認識装置は、一局面および第３の発明のいずれかにかかる形状認識装置において、対象物は、少なくとも人体の指、掌、手、または腕であってよい。

この場合、人体の指、掌、手、または腕の解剖学的特徴を容易に認識することができる。

（５）
第５の発明にかかる形状認識装置は、一局面および第４の発明のいずれかにかかる形状認識装置において、形状認識装置は、延在方向検出部をさらに含んでもよい。

延在方向検出部は、対象物が延在する方向を検出する。延在方向検出部は、第１特徴点と第２特徴点とを結ぶ線分の方向が対象物の延在方向であると判定してもよい。
この場合、対象物の延在方向を知ることができる。

（６）
第６の発明にかかる形状認識装置は、一局面および第５の発明のいずれかにかかる形状認識装置において、形状認識装置は、枠検出部をさらに含んでもよい。
さらに、枠検出部は、外形検知部により検知された外形、または当該外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出する。延在方向検出部は、四角枠を構成する長辺の方向を検出してもよい。

この場合、延在方向を有する対象物の延在方向を知ることができる。

（７）
第７の発明にかかる形状認識装置は、第４から第６の発明のいずれかにかかる形状認識装置において、対象物は手であってよい。さらに、第１抽出部は、第１特徴点として指の先端部の点を抽出し、第２抽出部は、第２特徴点として指の根元部の点を抽出することにより指を認識してもよい。

この場合、指の先端部および根元部が認識できるので、指の方向を認識することができる。すなわち、複雑な形状を有する手の指の認識を容易に行なうことができる。

（８）
第８の発明にかかる形状認識装置は、第４から第７の発明のいずれかにかかる形状認識装置において、形状認識装置は、掌部分を認識する掌認識部をさらに含んでもよい。
さらに、掌認識部は、外形検知部によって検知された外形、または当該外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識してもよい。

この場合、掌を容易かつ確実に認識することができる。

（９）
第９の発明にかかる形状認識装置は、第４から第８の発明のいずれかにかかる形状認識装置において、形状認識装置は、手の親指を認識する親指認識部をさらに含んでもよい。
さらに、親指認識部は、複数の指についての第１特徴点および第２特徴点の少なくともいずれかに基づいて親指を認識してもよい。

この場合、親指の有無を容易かつ確実に認識することができる。また、親指を認識することにより、手の甲および掌の判定を容易に行なうことができる。

（１０）
第１０の発明にかかる形状認識装置は、第９の発明にかかる形状認識装置において、形状認識装置は、手形状識別部をさらに含んでもよい。
さらに、手形状識別部は、第１抽出部および第２抽出部により認識された指と親指認識部によって認識された親指との情報に基づいて手の形状を識別してもよい。

この場合、指、掌が認識されるので、複雑な形状をとることができる手のポーズの識別を容易に行なうことができる。

（１１）
第１１の発明にかかる形状認識装置は、一局面から第１０の発明のいずれかにかかる形状認識装置において外形検知部は、赤外線カメラであってもよい。

この場合、赤外線により対象物の外形を正確に検知することができる。

（１２）
第１２の発明にかかる形状認識装置は、一局面から第１１の発明のいずれかにかかる形状認識装置において形状識別処理装置は、立体視像を表示可能な表示装置をさらに含んでもよい。さらに、外形検知部は、対象物までの距離を測定する深度センサを含んでもよい。なおかつ、外形検知部は、深度センサの深度検知領域、および、表示装置により生成された立体視像の立体視領域と深度検知領域とが共有する共有領域の少なくともいずれかにおいて、対象物の外形を検知してもよい。

この場合、共有領域中の立体視像の視認と、当該立体視像の視界中に存在する対象物の形状識別とを同時に行なうことができる。すなわち、立体視像を表示させつつ、対象物の形状識別を行なうことができる。
また、深度とは、深度センサから検知対象となる対象物までの距離をいう。

（１３）
他の局面にかかるヘッドマウントディスプレイ装置は、請求項１から請求項１２のいずれか１項に記載の形状認識装置を有するものである。

第１３の発明にかかるヘッドマウントディスプレイ装置は、請求項１から請求項１２のいずれか１項に記載の形状認識装置を有する。

この場合、形状認識装置がヘッドマウントディスプレイ装置に設けられるので、身体に装着しつつ、形状認識を行なうことができる。

（１４）
さらに他の局面に従う形状認識プログラムは、対象物の外形を検知する外形検知処理と、外形検知処理により検知された外形に基づいて、外形上の第１特徴点を抽出する第１抽出処理と、外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する第２抽出処理とを含むものである。

第１３の発明にかかる形状認識プログラムは、外形検知処理と、第１抽出処理と、第２抽出処理とを含む。外形検知処理は、対象物の外形を検知する。第１抽出処理は、外形検知処理により検知された外形に基づいて、外形上の第１特徴点を抽出する。第２抽出処理は、対象物の外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する。

この場合、第１抽出部のみならず、第２抽出部により、第１特徴点のみならず、第２特徴点を抽出することができる。その結果、特徴点が増加するので、対象物の外形を識別するためのより正確な情報を得ることができる。

（１５）
第１５の発明にかかる形状認識プログラムは、さらに他の局面に従う形状認識プログラムにおいて、対象物が延在する方向を検出する延在方向検出処理をさらに含んでもよい。延在方向検出処理は、第１特徴点と第２特徴点とを結ぶ線分の方向が対象物の延在方向であると判定してもよい。

この場合、対象物の延在方向を知ることができる。

（１６）
第１６の発明にかかる形状認識プログラムは、さらに他の局面および第１５にかかる形状認識プログラムにおいて、枠検出処理をさらに含んでもよい。さらに、枠検出処理は、外形検知処理により検知された外形、または外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出してもよい。延在方向検出処理は、四角枠を構成する長辺の方向を検出してもよい。

この場合、対象物の延在方向を知ることができる。

（１７）
第１７の発明にかかる形状認識プログラムは、さらに他の局面から第１６のいずれかの発明にかかる形状認識プログラムにおいて、対象物は手であり、第１抽出処理は第１指認識処理を含み、第２抽出処理は第２指認識処理を含んでもよい。第１指認識処理は、第１特徴点として指の先端部の点を抽出してもよい。第２抽出処理は、第２特徴点として指の根元部の点を抽出してもよい。これら先端部の点と根元部の点とから、指を認識してもよい。

この場合、指の先端部および根元部が認識できるので、指の方向を認識することができる。すなわち、複雑な形状を有する手の指の認識を容易に行なうことができる。

（１８）
第１８の発明にかかる形状認識プログラムは、第１７の発明にかかる形状認識プログラムにおいて、掌部分を認識する掌認識処理をさらに含んでもよい。掌認識処理は、外形検知処理によって検知された外形、または外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識してもよい。

この場合、掌を容易かつ確実に認識することができる。

（１９）
第１９の発明にかかる形状認識プログラムは、第１７または第１８の発明にかかる形状認識プログラムにおいて、手の親指を認識する親指認識処理をさらに含んでもよい。親指認識処理は、複数の指についての第１特徴点および第２特徴点の少なくともいずれかに基づいて親指を認識してもよい。

この場合、親指の有無を容易かつ確実に認識することができる。また、親指を認識することにより、手の甲および掌の判定を容易に行なうことができる。

（２０）
第２０の発明にかかる形状認識プログラムは、第１９の発明にかかる形状認識プログラムにおいて、手形状識別処理をさらに含んでもよい。手形状識別処理は、第１抽出処理および第２抽出処理により認識された指と親指認識処理によって認識された親指との情報に基づいて手の形状を識別してもよい。

この場合、指、掌が認識されるので、複雑な形状をとることができる手のポーズの識別を容易に行なうことができる。

（２１）
第２１の発明にかかる形状認識プログラムは、さらに他の局面から第２０の発明のいずれかにかかる形状認識プログラムにおいて、立体視像を表示可能な表示処理をさらに含んでもよい。外形検知処理は、対象物までの距離を測定する深度センサ処理を含み、且つ、深度センサ処理により検知される深度検知領域、および表示処理により生成された立体視像の立体視領域と深度検知領域とが共有する共有領域の少なくともいずれかにおいて、対象物の外形を検知してもよい。

この場合、共有領域中の立体視像の視認と、当該立体視像の視界中に存在する対象物の形状識別とを同時に行なうことができる。すなわち、立体視像を表示させつつ、対象物の形状識別を行なうことができる。
また、深度とは、深度センサから検知対象となる対象物までの距離をいう。

（２２）
さらに他の局面に従う形状認識方法は、対象物の外形を検知する外形検知工程と、外形検知工程により検知された外形に基づいて、外形上の第１特徴点を抽出する第１抽出工程と、外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する第２抽出工程とを含むものである。

本発明にかかる形状認識方法においては、外形検知工程と、第１抽出工程と、第２抽出工程とを含む。外形検知工程は、対象物の外形を検知する。第１抽出工程は、外形検知工程により検知された外形に基づいて、外形上の第１特徴点を抽出する。第２抽出工程は、対象物の外形上または外形内に存在しかつ第１特徴点とは異なる第２特徴点を抽出する。

この場合、第１抽出部のみならず、第２抽出部により、第１特徴点のみならず、第２特徴点を抽出することができる。その結果、特徴点が増加するので、対象物の外形を識別するためのより正確な情報を得ることができる。

（２３）
第２３の発明にかかる形状認識方法は、さらに他の局面に従う形状認識方法において、対象物が延在する方向を検出する延在方向検出工程をさらに含んでもよい。延在方向検出工程は、第１特徴点と第２特徴点とを結ぶ線分の方向が対象物の延在方向であると判定してもよい。

この場合、対象物の延在方向を知ることができる。

（２４）
第２４の発明にかかる形状認識方法は、さらに他の局面および第２３にかかる形状認識方法において、枠検出工程をさらに含んでもよい。枠検出工程は、外形検知工程により検知された外形、または外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出してもよい。延在方向検出工程は、四角枠を構成する長辺の方向を検出してもよい。

この場合、対象物の延在方向を知ることができる。

（２５）
第２５の発明にかかる形状認識方法は、さらに他の局面から第２４のいずれかの発明にかかる形状認識方法において、対象物は手であり、第１抽出工程は第１指認識工程を含み、第２抽出工程は第２指認識工程を含んでもよい。第１指認識工程は、第１特徴点として指の先端部の点を抽出してもよい。第２抽出工程は、第２特徴点として指の根元部の点を抽出してもよい。これら先端部の点と根元部の点とから、指を認識してもよい。

この場合、指の先端部および根元部が認識できるので、指の方向を認識することができる。すなわち、複雑な形状を有する手の指の認識を容易に行なうことができる。

（２６）
第２６の発明にかかる形状認識方法は、第２５の発明にかかる形状認識方法において、掌部分を認識する掌認識工程をさらに含んでもよい。掌認識工程は、外形検知工程によって検知された外形、または外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識してもよい。

この場合、掌を容易かつ確実に認識することができる。

（２７）
第２７の発明にかかる形状認識方法は、第２５または第２６の発明にかかる形状認識方法において、手の親指を認識する親指認識工程をさらに含んでもよい。親指認識工程は、複数の指についての第１特徴点および第２特徴点の少なくともいずれかに基づいて親指を認識してもよい。

この場合、親指の有無を容易かつ確実に認識することができる。また、親指を認識することにより、手の甲および掌の判定を容易に行なうことができる。

（２８）
第２８の発明にかかる形状認識方法は、第２７の発明にかかる形状認識方法において、手形状識別工程をさらに含んでもよい。手形状識別工程は、第１抽出工程および第２抽出工程により認識された指と親指認識工程によって認識された親指との情報に基づいて手の形状を識別してもよい。

この場合、指、掌が認識されるので、複雑な形状をとることができる手のポーズの識別を容易に行なうことができる。

（２９）
第２９の発明にかかる形状認識方法は、さらに他の局面から第２８の発明のいずれかにかかる形状認識方法において、立体視像を表示可能な表示工程をさらに含んでもよい。外形検知工程は、対象物までの距離を測定する深度センサ工程を含み、且つ、深度センサ工程により検知される深度検知領域、および表示工程により生成された立体視像の立体視領域と深度検知領域とが共有する共有領域の少なくともいずれかにおいて、対象物の外形を検知してもよい。

この場合、共有領域中の立体視像の視認と、当該立体視像の視界中に存在する対象物の形状識別とを同時に行なうことができる。すなわち、立体視像を表示させつつ、対象物の形状識別を行なうことができる。
また、深度とは、深度センサから検知対象となる対象物までの距離をいう。

本発明によれば、対象物の外形を識別するためのより正確な情報を得ることができる形状認識装置、形状認識プログラムおよび形状認識方法を提供することができる。

一実施の形態にかかる眼鏡表示装置１００の基本構成の一例を示す模式的外観正面図である。 眼鏡表示装置１００の一例を示す模式的外観斜視図である 操作システム４００の制御ユニット４５０の構成の一例を示す模式図である。 操作システム４００における処理の流れを示すフローチャートである。 図４のフローチャートに応じた概念を示す模式図である。 赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域とを説明するための模式的斜視図である。 図６の上面図である。 図６の側面図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域と仮想表示領域との他の例を示す模式図である。 検知領域における操作領域とジェスチャ領域との一例を示す模式図である。 検知領域における操作領域とジェスチャ領域との一例を示す模式図である。 キャリブレーション処理の説明を行なうためのフローチャートである。 指認識の一例を示す模式図である。 指認識の処理の一例を示すフローチャートである。 掌認識の一例を示す模式図である。 親指認識の一例を示す模式図である。 眼鏡表示装置１００の半透過ディスプレイ２２０の表示の一例を示す模式図である。 半透過ディスプレイ２２０の視野の一例（ａ）、および半透明ディスプレイ２２０の表示の一例（ｂ）を示す模式図である。 イベント発生の一例を示す模式図である。 イベント発生の他の例を示す模式図である。 イベント発生の他の例を示す模式図である。 眼鏡表示装置の操作の一例を示す模式図である。 眼鏡表示装置の操作の他の一例を示す模式図である。 ジェスチャ認識の一例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。 ジェスチャ認識の他の例を示す模式図である。

１００ 眼鏡表示装置
２２０ 半透過ディスプレイ
２２１ 広告
２２０３Ｄ 仮想イメージ表示領域（共有領域）
３００ 通信システム
３０３ カメラユニット
４１０ 赤外線検知ユニット
４１０ｃ 操作領域
４２０ ジャイロセンサユニット
４３０ 加速度検知ユニット
４１０３Ｄ 三次元空間検知領域
４５０ 制御ユニット
４５４ 解剖学的認識ユニット
４５６ ジェスチャ識別ユニット
４６０ イベントサービスユニット
４６１ キャリブレーションサービスユニット
７０１，〜，７０７ 表示
９００ 入出力装置
Ｈ１ 手
Ｈ２，Ｈ３ 陰影
ＲＰ 右肩関節
ＬＰ 左肩関節
ＯＦ 外形
ｐ_ｎ，ｐ_０，ｐ_１ 頂点
ＰＰ_１ 基準線分
ｐｐ_２ 辺
ｐｐ_ｋ 辺
Ｐ０ 先端点
Ｐ１ 根元点
Ｃ 最大内接円
Ｖ３ 顔認識アプリ画面
Ｖ５ ＳＮＳアプリ画面

以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
また、本発明は、以下に説明する眼鏡表示装置に限定されるものではなく、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタ等にも適用することができる。

（眼鏡表示装置の構成概略）
図１は、一実施の形態にかかる眼鏡表示装置１００の基本構成の一例を示す模式的外観正面図であり、図２は、眼鏡表示装置１００の一例を示す模式的外観斜視図である。

図１または図２に示すように、眼鏡表示装置１００は、眼鏡型の表示装置である。当該眼鏡表示装置１００は、後述するように、ユーザの顔に装着して使用される。

図１および図２に示すように、眼鏡表示装置１００は、主に、眼鏡ユニット２００、通信システム３００および操作システム４００からなる。

（眼鏡ユニット２００）
図１および図２に示すように、眼鏡ユニット２００は、眼鏡フレーム２１０および一対の半透過ディスプレイ２２０からなる。眼鏡フレーム２１０は、主にリムユニット２１１、テンプルユニット２１２を含む。
眼鏡フレーム２１０のリムユニット２１１により一対の半透過ディスプレイ２２０が支持される。

本実施の形態においては、眼鏡表示装置１００には、リムユニット２１１に一対の半透過ディスプレイ２２０を設けることとしているが、これに限定されず、眼鏡表示装置１００のリムユニット２１１に通常のサングラスレンズ、紫外線カットレンズ、または眼鏡レンズなどのレンズ類を設け、別に１個の半透過ディスプレイ２２０または一対の半透過ディスプレイ２２０を設けてもよい。
また、当該レンズ類の一部に、半透過ディスプレイ２２０を埋め込んで設けてもよい。

さらに、本実施の形態は、眼鏡タイプに限定するものではなく、人体に装着し、装着者の視野に配設できるタイプであれば、帽子タイプその他任意のヘッドマウントディスプレイ装置に使用することができる。

（通信システム３００）
次に、通信システム３００について説明を行なう。
通信システム３００は、バッテリーユニット３０１、アンテナモジュール３０２、カメラユニット３０３、スピーカユニット３０４、ＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）ユニット３０７、マイクユニット３０８、ＳＩＭ（Ｓｕｂｓｃｒｉｂｅｒ Ｉｄｅｎｔｉｔｙ Ｍｏｄｕｌｅ Ｃａｒｄ）ユニット３０９およびメインユニット３１０を含む。
なお、カメラユニットにはＣＣＤセンサが備えられてよい。スピーカユニット３０４は、ノーマルイヤホンであってもよいし、骨伝導イヤホンであってもよい。ＳＩＭユニット３０９には、ＮＦＣ（Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ：近距離無線通信）ユニットおよび他の接触式ＩＣカードユニット、ならびに非接触式ＩＣカードユニットを含む。

以上のように、本実施の形態にかかる通信システム３００は、少なくとも携帯電話、スマートフォンおよびタブレット端末のいずれかの機能を含むものである。具体的には、電話機能、インターネット機能、ブラウザ機能、メール機能、および撮像機能等を含むものである。
したがって、ユーザは、眼鏡表示装置１００を用いて、通信装置、スピーカおよびマイクにより、携帯電話と同様の通話機能を使用することができる。また、眼鏡型であるので、両手を利用せず、通話を行なうことができる。

（操作システム４００）
続いて、操作システム４００は、赤外線検知ユニット４１０、ジャイロセンサユニット４２０、加速度検知ユニット４３０および制御ユニット４５０からなる。赤外線検知ユニット４１０は、主に赤外線照射素子４１１および赤外線検知カメラ４１２からなる。

続いて、操作システム４００の構成、処理の流れおよび概念について説明を行なう。図３は、操作システム４００の制御ユニット４５０の構成の一例を示す模式図である。

図３に示すように、制御ユニット４５０は、イメージセンサ演算ユニット４５１、デプスマップ演算ユニット４５２、イメージ処理ユニット４５３、解剖学的認識ユニット４５４、ジェスチャデータ記録ユニット４５５、ジェスチャ識別ユニット４５６、キャリブレーションデータ記録ユニット４５７、合成演算ユニット４５８、アプリケーションソフトユニット４５９、イベントサービスユニット４６０、キャリブレーションサービスユニット４６１、表示サービスユニット４６２、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４、および６軸駆動ドライバユニット４６５を含む。

なお、制御ユニット４５０は、上記の全てを含む必要はなく、適宜必要な１または複数のユニットを含んでもよい。たとえば、ジェスチャデータ記録ユニット４５５およびキャリブレーションデータ記録ユニット４５７は、クラウド上に配置してもよく、合成演算ユニット４５８を特に設けなくてもよい。

次に、図４は、操作システム４００における処理の流れを示すフローチャートであり、図５は図４のフローチャートに応じた概念を示す模式図である。

まず、図４に示すように、赤外線検知ユニット４１０から対象のデータを取得し、デプスマップ演算ユニット４５２により深さ演算を行なう（ステップＳ１。次に、イメージ処理ユニット４５３により外形イメージデータを処理する（ステップＳ２）。

次いで、解剖学的認識ユニット４５４により、標準的な人体の構造に基づき、ステップＳ２において処理された外形イメージデータから、解剖学的特徴を識別する。これにより、外形が認識される（ステップＳ３）。

さらに、ジェスチャ識別ユニット４５６により、ステップＳ３で得た解剖学的特徴に基づいてジェスチャを識別する（ステップＳ４）。
ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５に記録されたジェスチャデータを参照し、解剖学的特徴が識別された外形からジェスチャの識別を行なう。なお、ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５からのジェスチャデータを参照することとしているが、参照することに限定されず、他の任意のデータを参照してもよく、全く参照することなく処理してもよい。
以上により、図５（ａ）に示すように、手のジェスチャを認識する。

続いて、アプリケーションソフトユニット４５９およびイベントサービスユニット４６０は、ジェスチャ識別ユニット４５６により判定されたジェスチャに応じて所定のイベントを実施する（ステップＳ５）。
これによって、図５（ｂ）に示すように、たとえば写真アプリによる画像が表示される。この際、当該画面には、カメラユニット３０３からの撮像データが表示されてよい。

最後に、表示サービスユニット４６２、キャリブレーションサービスユニット４６１、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４および合成演算ユニット４５８により、半透過ディスプレイ２２０に、イメージの表示、またはイメージの仮想表示が行なわれる（ステップＳ６）これによって、図５（ｃ）に示すようにジェスチャを示す手のスケルトンの表示が行われ、図５（ｄ）に示すように、当該スケルトンの形状および大きさに写真の形状および大きさが合致するように合成されたイメージが表示される。

なお、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を検知し、ディスプレイ演算ユニット４６４に姿勢状況を伝達する。

眼鏡表示装置１００を装着したユーザが眼鏡表示装置１００を傾斜させた場合には、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を受信し、イメージの表示の制御を行なう。当該制御においては、イメージの表示を水平に維持させてもよいし、イメージの表示を傾斜にあわせて調整してもよい。

（検知領域と仮想表示領域との一例）
次に、操作システム４００の赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域との関係について説明を行なう。
図６は、赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域とを説明するための模式的斜視図であり、図７は図６の上面図であり、図８は、図６の側面図である。

以下において、説明の便宜上、図６に示すように、ｘ軸、ｙ軸およびｚ軸からなる三次元直交座標系が定義される。以下の図におけるｘ軸の矢印は、水平方向を指す。ｙ軸の矢印は、鉛直方向またはユーザの体の長軸方向を指す。ｚ軸の矢印は、深度方向を指す。ｚ軸正方向は、より大きい深度の方向を指す。それぞれの矢印の向きは、他の図においても同じである。

図６から図８に示すように、操作システム４００の赤外線検知ユニット４１０により検知可能な三次元空間検知領域（３Ｄスペース）４１０３Ｄを有する。
三次元空間検知領域４１０３Ｄは、赤外線検知ユニット４１０からの円錐状または角錐状の三次元空間からなる。

すなわち、赤外線検知ユニット４１０は、赤外線照射素子４１１から、照射された赤外線を、赤外線検知カメラ４１２により検知できるので、三次元空間検知領域４１０３Ｄ内のジェスチャを認識することができる。
また、本実施の形態においては、赤外線検知ユニット４１０を１個設けることとしているが、これに限定されず、赤外線検知ユニット４１０を複数個設けてもよいし、赤外線照射素子４１１を１個、赤外線検知カメラ４１２を複数個設けてもよい。

続いて、図６から図８に示すように一対の半透過ディスプレイ２２０は、ユーザに、実際に設けられた眼鏡表示装置１００の部分ではなく、眼鏡表示装置１００から離れた場所となる仮想イメージ表示領域２２０３Ｄに、奥行きを持って仮想表示されたものとして視認させる。当該奥行きは、仮想イメージ表示領域２２０３Ｄが有する仮想立体形状の深度方向（ｚ軸方向）の厚みに対応する。したがって、当該仮想立体形状の深度方向（ｚ軸方向）の厚みに応じて奥行きが設けられる。
すなわち、実際には眼鏡表示装置１００の半透過ディスプレイ２２０に表示されるものの、ユーザは、右目のイメージは右目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＲで認識し、左目のイメージは左目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＬで認識する。その結果、認識された両イメージがユーザの脳内で合成されることにより、仮想イメージ表示領域２２０３Ｄで仮想イメージとして認識することができる。

また、仮想イメージ表示領域２２０３Ｄは、フレーム・シーケンシャル方式、偏光方式、直線偏光方式、円偏光方式、トップ・アンド・ボトム方式、サイド・バイ・サイド方式、アナグリフ方式、レンチキュラ方式、パララックス・バリア方式、液晶パララックス・バリア方式、２視差方式および３視差以上を利用する多視差方式のいずれかを利用して表示されたものである。

また、本実施の形態においては、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。特に、図６および図７に示すように、三次元空間検知領域４１０３Ｄの内部に、仮想イメージ表示領域２２０３Ｄが存在するため、仮想イメージ表示領域２２０３Ｄが共有領域となる。

なお、仮想イメージ表示領域２２０３Ｄの形状およびサイズについては、一対の半透過ディスプレイ２２０への表示方法により任意に調整することができる。
また、図８に示すように、一対の半透過ディスプレイ２２０よりも赤外線検知ユニット４１０が上方（ｙ軸正方向）に配設されている場合について説明しているが、鉛直方向（ｙ軸方向）に対して、赤外線検知ユニット４１０の配設位置が半透過ディスプレイ２２０よりも下方（ｙ軸負方向）または半透過ディスプレイ２２０と同位置であっても、同様に、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。

（検知領域と仮想表示領域との他の例）
続いて、図９から図１１は、図６から図８において示した検知領域と仮想表示領域との他の例を示す模式図である。

例えば、図９から図１１に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０の代わりに、他の入出力装置、表示装置、テレビジョン、モニタ等を用いてもよい。以下、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタを総称して入出力装置９００と略記する。

図９に示すように、入出力装置９００からｚ軸負方向に仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００にｚ軸方向で対向する位置に配設された赤外線検知ユニット４１０からｚ軸正方向に三次元空間検知領域４１０３Ｄが形成されてもよい。
この場合、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

また、図１０に示すように、入出力装置９００から仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００と同方向（ｘｙ平面を基準としていずれもｚ軸正側の方向）に赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄが形成されてもよい。
この場合でも、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

次に、図１１に示すように、入出力装置９００から鉛直上方向（ｙ軸正方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよい。図１１においても、図９、図１０と同様に、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。

また、図示していないが、入出力装置９００を三次元空間検知領域４１０３Ｄより上方側（ｙ軸正方向の側）に配置し、鉛直下方向（ｙ軸負方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよく、水平方向（ｘ軸方向）から出力されてもよく、プロジェクタまたは映画館のように、後上方（ｚ軸正方向かつｙ軸正方向）から出力されてもよい。

（操作領域とジェスチャ領域）
続いて、検知領域における操作領域とジェスチャ領域とについて説明する。図１２および図１３は、検知領域における操作領域と、ジェスチャ領域との一例を示す模式図である。

まず、図１２に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を水平移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。

また、図１３に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を鉛直移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。

すなわち、図１２および図１３に示すように、ユーザは、両手を右肩関節ＲＰおよび左肩関節ＬＰをそれぞれ回転中心とした欠球状（深度方向に凸のアーチ状曲面を有する）の立体空間内で移動させることができる。

次に、赤外線検知ユニット４１０による三次元空間検知領域４１０３Ｄと、仮想イメージ表示領域が存在しうる領域（図１２では仮想イメージ表示領域２２０３Ｄを例示）と、腕の移動領域Ｌおよび移動領域Ｒを合わせた領域との全てが重なる空間領域を、操作領域４１０ｃとして設定する。
また、三次元空間検知領域４１０３Ｄ内における操作領域４１０ｃ以外の部分で、かつ腕の移動領域Ｌおよび移動領域Ｒを合わせた領域と重なる部分をジェスチャ領域４１０ｇとして設定する。

ここで、操作領域４１０ｃが、深度方向に最も遠い面が深度方向（ｚ軸正方向）に凸のアーチ状に湾曲した曲面である立体形状を有することに対し、仮想イメージ表示領域２２０３Ｄは、深度方向に最も遠い面が平面である立体形状を有する。このように両領域の間で当該面の形状が異なることに起因し、ユーザは、当該操作において体感的に違和感を覚える。当該違和感を取り除くためにキャリブレーション処理で調整を行なう。また、キャリブレーション処理の詳細については、後述する。

（キャリブレーションの説明）
次いで、キャリブレーション処理について説明を行なう。図１４は、キャリブレーション処理の説明を行なうためのフローチャートである。

図１２および図１３に示したように、ユーザが仮想イメージ表示領域２２０３Ｄに沿って手を動かそうとすると、補助のない平面に沿って動作させる必要がある。したがって、後述する認識処理により仮想イメージ表示領域２２０３Ｄにおいて、操作をし易くするためにキャリブレーション処理を行なう。
また、キャリブレーション処理には、ユーザの個々で異なる指の長さ、手の長さ、腕の長さの調整も行なう。

以下、図１４を用いて説明を行なう。まず、ユーザが、眼鏡表示装置１００を装着し、両腕を最大限に伸張する。その結果、赤外線検知ユニット４１０が、操作領域４１０ｃの最大領域を認識する（ステップＳ１１）。
すなわち、ユーザによりユーザの個々で異なる指の長さ、手の長さ、腕の長さが異なるので、操作領域４１０ｃの調整を行なうものである。

次に、眼鏡表示装置１００においては、仮想イメージ表示領域２２０３Ｄの表示位置を決定する（ステップＳ１２）。すなわち、仮想イメージ表示領域２２０３Ｄを操作領域４１０ｃの外側に配置するとユーザによる操作が不可能となるため、操作領域４１０ｃの内部に配置する。

続いて、眼鏡表示装置１００の赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄ内で、かつ仮想イメージ表示領域２２０３Ｄの表示位置と重ならない位置に、ジェスチャ領域４１０ｇの最大領域を設定する（ステップＳ１３）。
なお、ジェスチャ領域４１０ｇは、仮想イメージ表示領域２２０３Ｄと重ならないように配置しかつ深さ方向（ｚ軸正方向）に厚みを持たせることが好ましい。

本実施の形態においては、以上の手法により、操作領域４１０ｃ、仮想イメージ表示領域２２０３Ｄ、ジェスチャ領域４１０ｇが設定される。

続いて、操作領域４１０ｃ内における仮想イメージ表示領域２２０３Ｄのキャリブレーションについて説明する。

操作領域４１０ｃ内の仮想イメージ表示領域２２０３Ｄの外部周囲にユーザの指、手、または腕が存在すると判定された場合に、あたかも仮想イメージ表示領域２２０３Ｄの内部に存在するように、丸め込みを行なう（ステップＳ１４）。

図１２および図１３に示すように、半透過ディスプレイ２２０により仮想表示されたイメージの中央部近辺では、両腕を最大限に伸ばした状態にすると、両手先が仮想イメージ表示領域２２０３Ｄ内に留まることなく深さ方向（ｚ軸正方向）の外部へ外れてしまう。また、仮想表示されたイメージの端部においては、両腕を最大限に伸ばさない限り、両手先が仮想イメージ表示領域２２０３Ｄ内に存在すると判定されない。
そのため、赤外線検知ユニット４１０からの信号を無処理のまま使用すると、ユーザは、手先が仮想イメージ表示領域２２０３Ｄから外れたとしても、そのような状態であることを体感しにくい。

したがって、本実施の形態におけるステップＳ１４の処理においては、仮想イメージ表示領域２２０３Ｄから外部へ突き出た手先が、仮想イメージ表示領域２２０３Ｄ内にあるものとして補正すべく、赤外線検知ユニット４１０からの信号を処理する。
その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。

なお、本実施の形態においては、仮想イメージ表示領域２２０３Ｄを、深度方向に最も遠い面が平面である三次元空間領域からなることとしているが、これに限定されず、深度方向に最も遠い面領域Ｌ，Ｒの深度方向に最も遠い面に沿った形状の曲面である三次元空間領域からなることとしてもよい。その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。

さらに、半透過ディスプレイ２２０は、仮想イメージ表示領域２２０３Ｄに矩形状の像を表示させる。例えば、図５（ｂ）に示したように、矩形状の像を表示させる（ステップＳ１５）。
続いて、半透過ディスプレイ２２０に、像の周囲を指で囲んでくださいと、表示を行なう（ステップＳ１６）。ここで、像の近傍に指の形の像を薄く表示してもよいし、半透過ディスプレイ２２０に表示を行なう代わりにスピーカから音声により指示をユーザに伝えてもよい。

ユーザは、指示に従い図５（ｄ）に示すように、指を像の見える部分にあわせる。そして、仮想イメージ表示領域２２０３Ｄの表示領域と、赤外線検知ユニット４１０との相関関係が自動調整される（ステップＳ１７）。
なお、上記においては、指で矩形を形作り、そのように定められた矩形と、像の外縁の矩形にあわせる。このことによって、指により定められた矩形の視認サイズおよび位置と像の外縁の矩形の視認サイズ及び位置とを合わせることとした。しかしながら、指によって形状を定める手法はこれに限定されず、表示された像の外縁を指でなぞる手法、表示された像の外縁上の複数の点を指で指し示す手法等、他の任意の手法であってもよい。また、これらの手法を複数のサイズの像について行ってもよい。

なお、上記のキャリブレーション処理の説明においては、眼鏡表示装置１００の場合についてのみ説明を行ったが、入出力装置９００の場合には、ステップＳ１１の処理において、像を表示させ、ステップＳ１７の処理の当該像と赤外線検知ユニット４１０との相関関係を調整してもよい。

（指、掌、腕認識）
次いで、指認識について説明を行い、その後掌認識、腕認識の順で説明を行なう。図１５は、指認識の一例を示す模式図である。図１５において、（Ａ）は指の先端付近の拡大図であり、（Ｂ）は指の根元付近の拡大図である。図１６は、指認識の処理の一例を示すフローチャートである。

図１６に示すように、本実施の形態においては、デバイスの初期化を行なう（ステップＳ２１）。次に、赤外線照射素子４１１から照射され、手に反射した赤外線が、赤外線検知カメラ４１２により検出される（ステップＳ２２）。
次に、赤外線検知ユニット４１０により画像データをピクセル単位で距離に置き換える（ステップＳ２３）。この場合、赤外線の明るさは、距離の三乗に反比例する。これを利用し、デプスマップを作成する（ステップＳ２４）。

次いで、作成したデプスマップに適切な閾値を設ける。そして、画像データを二値化する（ステップＳ２５）すなわち、デプスマップのノイズを除去する。
続いて、二値化した画像データから約１００個の頂点を持つポリゴンを作成する（ステップＳ２６）。そして、頂点が滑らかになるようにローパスフィルタ（ＬＰＦ）により、より多くの頂点ｐ_ｎを有する新たな多角形を作成することによって、図１５に示す手の外形ＯＦを抽出する（ステップＳ２７）。
なお、本実施の形態においては、ステップＳ２６において二値化したデータからポリゴンを作成するために抽出する頂点の数を約１００個としているが、これに限定されず、１０００個、その他の任意の個数であってもよい。

ステップＳ２７で作成した新たな多角形の頂点ｐ_ｎの集合から、Ｃｏｎｖｅｘ Ｈｕｌｌを用いて、凸包を抽出する（ステップＳ２８）。
その後、ステップＳ２７で作成された新たな多角形と、ステップＳ２８で作成された凸包との共有の頂点ｐ_０を抽出する（ステップＳ２９）。このように抽出された共有の頂点ｐ_０自体を指の先端点として用いることができる。
さらに、頂点ｐ_０の位置に基づいて算出される他の点を指の先端点として用いてもよい。例えば、図１５（Ａ）に示すように頂点ｐ_０における外形ＯＦの内接円の中心を先端点Ｐ０として算出することもできる。

そして、図１５に示すように、頂点ｐ_０に隣接する左右一対の頂点ｐ_１を通る基準線分ＰＰ_１のベクトルを算出する。その後、頂点ｐ_１と、隣接する頂点ｐ_２とを結ぶ辺ｐｐ_２を選択し、そのベクトルを算出する。同様に、外形ＯＦを構成する頂点ｐ_ｎを用い、辺のベクトルを求める処理を外形ＯＦの外周に沿って繰り返す。各辺の向きとステップＳ３０の処理による基準線分ＰＰ_１の向きとを調べ、基準線分ＰＰ_１と平行に近くなる辺ｐｐ_ｋが指の股の位置に存在すると判定する。そして、辺ｐｐ_ｋの位置に基づき、指の根元点Ｐ１を算出する（ステップＳ３０）。指の先端点Ｐ０と指の根元点Ｐ１とを直線で結ぶことで、指のスケルトンが得られる（ステップＳ３１）。指のスケルトンを得ることで、指の延在方向を認識することができる。
全ての指について同様の処理を行なうことで、全ての指のスケルトンを得る。これにより、手のポーズを認識することができる。すなわち、親指、人差し指、中指、薬指、小指のいずれの指が広げられ、いずれの指が握られているかを認識することができる。

続いて、直前に実施した数フレームの画像データと比較して、手のポーズの違いを検知する（ステップＳ３２）。すなわち、直前の数フレームの画像データと比較することにより、手の動きを認識することができる。

次いで、認識した手の形状を、ジェスチャデータとしてイベントサービスユニット４６０へイベント配送する（ステップＳ３３）。

次いで、アプリケーションソフトユニット４５９によりイベントに応じた振る舞いを実施する（ステップＳ３４）。

続いて、表示サービスユニット４６２により、三次元空間に描画を要求する（ステップＳ３５）。
グラフィック演算ユニット４６３は、キャリブレーションサービスユニット４６１を用いてキャリブレーションデータ記録ユニット４５７を参照し、表示の補正を行なう（ステップＳ３６）。
最後に、ディスプレイ演算ユニット４６４により半透過ディスプレイ２２０に表示を行なう（ステップＳ３７）。

なお、本実施の形態においては、ステップＳ３０の処理およびステップＳ３１の処理により指の根元点を検出したが、根元点の検出方法はこれに限定されない。例えば、まず、頂点ｐ_０の一方の側と他方の側において隣接する一対の頂点ｐ_１を結ぶ基準線分ＰＰ_１の長さを算出する。次に、当該一方の側と他方の側における一対の頂点ｐ_２間を結ぶ線分の長さを算出する。同様に、当該一方の側と他方の側における一対の頂点間を結ぶ線分の長さを、頂点ｐ_０により近い位置にある頂点からより遠い位置にある頂点への順で算出していく。このような線分は、外形ＯＦ内で交わることなく、互いにおおよそ平行となる。当該線分の両端の頂点が指の部分にある場合は、線分の長さは指の幅に相当するため、その変化量は小さい。一方、線分の両端の頂点の少なくともいずれかが指の股の部分に達した場合は、当該長さの変化量が大きくなる。したがって、当該長さの変化量が所定量を超えずかつ頂点ｐ_０から最も遠い線分を検知し、検知された線分上の１点を抽出することによって、根元点を決定することができる。

（掌認識）
次いで、図１７は、掌認識の一例を示す模式図である。

図１７に示すように、指認識を実施した後、画像データの外形ＯＦに内接する最大内接円Ｃを抽出する。当該最大内接円Ｃの位置が、掌の位置として認識できる。

次いで、図１８は、親指認識の一例を示す模式図である。

図１８に示すように、親指は、人差し指、中指、薬指、および小指の他の４指とは異なる特徴を有する。例えば、掌の位置を示す最大内接円Ｃの中心と各指の根元点Ｐ１とを結ぶ直線が相互になす角度θ１，θ２，θ３，θ４のうち、親指が関与するθ１が最も大きい傾向にある。また、各指の先端点Ｐ０と各指の根元点Ｐ１とを結んだ直線が相互になす角度θ１１，θ１２，θ１３，θ１４のうち、親指が関与するθ１１が最も大きい傾向にある。このような傾向に基づき親指の判定を行なう。その結果、右手か左手か、または掌の表か裏かを判定することができる。

（腕認識）
次いで、腕認識について説明を行なう。本実施の形態において、腕認識は、指、掌および親指のいずれかを認識した後に実施する。なお、腕認識は、指、掌および親指のいずれかを認識する前、またはそれらの少なくともいずれかと同時に実施してもよい。

本実施の形態においては、画像データの手の形のポリゴンよりも大きな領域でポリゴンを抽出する。例えば、長さ５ｃｍ以上１００ｃｍ以下の範囲、より好ましくは、１０ｃｍ以上４０ｃｍ以下の範囲で、ステップＳ２１からＳ２７の処理を実施し、外形を抽出する。
その後、抽出した外形に外接する四角枠を選定する。本実施の形態においては、当該四角枠は、平行四辺形または長方形からなる。
この場合、平行四辺形または長方形は、対向する長辺を有するので、長辺の延在方向から腕の延在方向を認識することができ、長辺の向きから腕の向きを判定することが出来る。なお、ステップＳ３２の処理と同様に、直前の数フレームの画像データと比較して、腕の動きを検知させてもよい。

なお、上記の説明においては、２次元像から指、掌、親指、腕を検出することとしているが、上記に限定されず、赤外線検知ユニット４１０をさらに増設してもよく、赤外線検知カメラ４１２のみをさらに増設し、２次元像から、３次元像を認識させてもよい。その結果、さらに認識確度を高めることができる。

（半透過ディスプレイの表示例）
次に、図１９は、眼鏡表示装置１００の半透過ディスプレイ２２０の表示の一例を示す模式図である。

図１９に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０には、一部には広告２２１が表示され、さらに一部には地図２２２が表示され、その他には、眼鏡表示装置１００の半透過ディスプレイ２２０を透過して風景２２３が視認され、その他に天気予報２２４および時刻２２５が表示される。

（視野の説明）
次に、眼鏡表示装置１００の半透過ディスプレイ２２０に表示される表示の一例について説明を行なう。図２０（ａ）は、半透過ディスプレイ２２０の視野の一例、図２０（ｂ）は、半透明ディスプレイ２２０の表示の一例を説明する図である。

図２０に示すように、本実施の形態においては、眼鏡表示装置１００が視認させることができる表示は、複数の表示７０１，〜，７０７から構成される。複数の表示は、それら全てが一体化した連続像の一部をなすセグメントである。連続像のうち視認部分を遷移させることにより、複数の表示を途切れさせることなくスムーズに遷移させる切換え表示を行なう。
図２０に示すように、縦方向に表示７０３、７０２、７０１、７０４、７０５の表示が設けられており、表示７０１を中央として、左右に表示７０６，７０７が設けられる。なお、当然のことながら、当該表示７０１，〜，７０７は、ユーザによって自由に削除または変更することができ、さらに他の表示を追加することもできる。
なお、本実施の形態においては、表示７０１，〜，７０７はシームレスに連続した画像であるが、切換えされるべき表示は、それぞれが独立した非連続の像であってもよい。

具体的には、眼鏡表示装置１００の姿勢が水平方向である場合、すなわち、ユーザが眼鏡表示装置１００を装着し、水平前方を向いた場合、表示７０１が表示される。

続いて、ユーザが眼鏡表示装置１００を装着し、水平面（すなわち水平方向に平行の面）を基準として３０度程度斜め上方を向いた場合、表示７０２が表示される。すなわち、眼鏡表示装置１００におけるジャイロセンサユニット４２０および加速度検知ユニット４３０の少なくとも一方からの信号に基づいて、ユーザの向く方向を認識する。なお、表示７０２は、例えば顔認識アプリの画面が表示されてよい。

さらに、水平面を基準として４５度程度斜め上方を向いた場合、表示７０３が表示される。表示７０３には天気予報が示されてよい。また、表示７０３にはその他の天空情報が表示されてもよく、時間帯によっては、例えば星座の像を表示させてもよい。

同様に、ユーザが眼鏡表示装置１００を装着し、水平面を基準として３０度程度斜め下方を向いた場合、表示７０４（例えば、メール画面）が表示され、水平面を基準として４５度程度斜め下方を向いた場合、表示７０５（例えば、地図）が表示され、鉛直面を基準として３０度程度右方を向いた場合、表示７０６（例えば、インターネットブラウザ）が表示され、鉛直面を基準として３０度程度左方を向いた場合、表示７０７（例えば、通話画面）が表示される。

また、表示７０１乃至表示７０７の切換えは、上記の説明においては、ジャイロセンサユニット４２０および加速度検知ユニット４３０の少なくとも一方からの信号に基づいて行なうこととしているが、これに限定されず、上述した指、掌、腕認識により切換えを行なってもよい。

さらに、ユーザが歩行する場合、表示７０１から表示７０２へ、表示７０１から表示７０４へ、表示７０１から表示７０７へ、および表示７０１から表示７０６への少なくともいずれかの切換えを行なう条件として、ジャイロセンサユニット４２０および加速度検知ユニット４３０の少なくとも一方からの信号のレベルを高めに設定してもよい。それにより、歩行時に短時間で表示７０１から他の表示に切り替わることを防止できる。また、緊急に振り向く場合には、特に切換えない設定を設けてもよい。
一方、天空情報の表示７０３および地図情報の表示７０５はパノラマ表示であってよく、この場合、左右方向の動きに伴ってそれら表示７０３，７０５をスクロールさせてよい。

（イベント発生）
続いて、指、掌、手、腕が操作領域４１０ｃに存在する場合と、ジェスチャ領域４１０ｇに存在する場合との違いをユーザが認識し易いように、所定のイベントを発生させる。以下、所定のイベントについて説明を行なう。図２１は、所定のイベント発生の一例を示す模式図であり、図２２は、図２１のイベント発生の他の例を示す模式図であり、図２３は、他のイベント発生の一例を示す模式図である。

まず、図２１に示すように、仮想イメージには、赤外線検知ユニット４１０により検知された手Ｈ１の形状が表示される。さらに、ユーザの手が操作領域４１０ｃから離れている場合には、イベントの一例として、手Ｈ１の形状の陰影Ｈ２を表示する。
これにより、ユーザは、ジェスチャ領域４１０ｇに手が存在することを容易に認識できる。

続いて、図２２に示すように、仮想イメージには、赤外線検知ユニット４１０により検知された手Ｈ１の形状が表示され、陰影Ｈ２よりも濃い陰影Ｈ３が、手Ｈ１の形状の周囲に小さな面積で表示される。したがって、ユーザは、図２１の場合よりも手が操作領域４１０ｃに近づいたことを容易に認識することができる。さらに、手が操作領域４１０ｃ内にある場合には、陰影Ｈ２、Ｈ３は、表示されない。

その結果、ユーザは、試行錯誤または手探りで操作領域４１０ｃを探す必要がなくなる。すなわち、操作領域４１０ｃまでの距離を陰影の濃度、手の形状と陰影とのずれ方により容易に認識することができる。

また、図２３に示すように、手が操作領域４１０ｃ内にある場合に、指先に円表示Ｈ４を行なってもよい。

なお、上記の実施の形態においては、陰影Ｈ２、Ｈ３、円表示Ｈ４が表示されるイベント発生態様について説明したが、これに限定されず、操作領域４１０ｃ内にある場合に、表示に波紋を発生させてもよく、眼鏡表示装置１００に振動発生装置を設けて振動を発生させてもよく、音を発生させてもよく、表示の点滅態様および点灯照度の少なくともいずれかによって表示を変化させてもよい。例えば、操作領域４１０ｃまでの距離を点滅間隔により表してもよく、操作領域４１０ｃまでの距離を点灯照度により表してもよい。例えば、操作領域４１０ｃから離れるほど点滅間隔を長く、近づくほど点滅間隔を短くする、または、操作領域４１０ｃから離れるほど点灯照度を低く、近づくほど点灯照度を高くする、または、操作領域４１０ｃから離れるほどより濃い色による点灯（赤、黒、紫など）を行い、近づくほどより淡い色による点灯（青、黄、ピンクなど）を行なうなど、その他、人間の感覚（視覚、聴覚および触覚に代表される）に訴える任意のイベントを発生させてもよい。

（眼鏡表示装置の操作）
以上の指、掌、腕認識およびイベント発生を伴う眼鏡表示装置１００の使用態様について説明する。

まず、ユーザが操作領域４１０ｃ内に手を入れることにより、手の認識が行なわれ、仮想イメージ表示を操作することができる。例えば、仮想イメージ表示を拡大させたり、縮小させたり、表示をスクロールさせたり、ポイントを選択したりすることができる。

例えば、図２４に示すように、広告２２１の表示をタッチすることで、追加表示を行なってもよい。
例えば、広告２２１には、店舗の、商品、サービス等の情報が表示されている。ユーザがその広告２２１をタッチした場合、当該店舗に関するさらに詳しい情報を追加表示させてもよい。たとえば、飲食店の場合には、当該飲食店の代表メニュ、ユーザからの評価、価格帯等を表示させてもよい。
なお、広告２２１は、店舗をカメラユニット３０３で撮影された像そのものであってもよいし、カメラユニット３０３による当該店舗の撮像データに基づいて店舗認識を自動で開始し、その結果、店舗認識アプリ画面に表示された認識結果情報であってもよい。

（パロディモードによる表示）
また、図２５に示すように、半透過ディスプレイ２２０に一の企業（○○社）のロゴマークが表示されている際に、画面中のロゴマークにタッチ等行なうことで、競合又は非競合の他の企業（△△社）に関連する情報を表示させることができる。この場合、例えばパロディモードとして、当該他の企業のロゴを表示させてもよい。

（ジェスチャ認識による表示）
また、ユーザがジェスチャ領域４１０ｇ内で所定の手のポーズを作ることにより、予め設定された動作が実施される。図２６から図３３は、ジェスチャ認識の例を示す模式図である。

例えば、図２６に示すように、ユーザが握った手Ｈ１の親指と人差し指を９０度に開いて伸ばしたＬ字サインを作った場合、親指と人差し指との間に、メニュ画面Ｖ１が表示されてもよい。

また、図２７に示すように、握った手Ｈ１の人差し指と中指とを延ばし広げた、いわゆるピースサインの場合には、人差し指と中指との間に、所定の画像Ｖ２を表示させてもよい。

また、図２８に示すように、挨拶行為により、手Ｈ１を軽く開いて矢印方向に移動させた場合には、顔認識のアプリを自動的に起動させる。カメラユニット３０３で取得した相手の人物の顔データに基づいて顔認識を自動で開始し、顔認識アプリ画面Ｖ３に、氏名、企業名、役職、最後に会った日時および場所等の情報を表示させる。さらに顔認識アプリの認識による同一人物に会うたびにフラグを立て、フラグの数を顔認識アプリ画面Ｖ３に表示させてもよい。この場合、フラグの数によって、顔認識アプリ画面Ｖ３の背景および色等を異ならせてもよい。

さらに、図２９に示すように、握った手Ｈ１の親指と小指を広げた、いわゆるアロハサインを作り、矢印方向にゆすった場合には、電話のアプリが自動的に起動し、連絡帳のデータＶ４が表示される。ユーザは、電話のアプリを操作して、所定の相手に電話をかけることができる。

また、図３０に示すように、手Ｈ１の指でアルファベットのＳの文字を描くことにより、ＳＮＳ（ＳＯＣＩＡＬ ＮＥＴＷＯＲＫＩＮＧ ＳＥＲＶＩＣＥ）アプリを自動的に起動させ、ＳＮＳアプリ画面Ｖ５を表示させることができる。

さらに、図３１に示すように、漢字アプリを起動させ、手Ｈ１の人差し指を認識させることにより人差し指の位置に筆の画像をさらに追加表示させ、漢字の練習アプリ画面Ｖ６に漢字を書いて練習できる。

また、図３２に示すように、手Ｈ１を手刀の形状にした場合、刀アプリを起動させ、手刀上の手の位置に刀の画像をさらに追加表示させ、仮想イメージ表示画面Ｖ７を切ることができる。

また、図３３に示すように、両手Ｈ１の指で、四角を形成した場合、カメラアプリが自動起動され、カメラアプリ画面Ｖ８中で、形成した四角から抽出される撮像用フレーム内の風景等を撮像してもよい。

以上のように、本発明にかかる形状認識装置によると、第１抽出部のみならず、第２抽出部により、指の先端の特徴を示す点である頂点ｐ_０または先端点Ｐ０のみならず、指の根元の特徴を示す点である根元点Ｐ１を抽出することができる。その結果、特徴点が増加するので、手Ｈ１の外形ＯＦを識別するためのより正確な情報を得ることができる。

また、本発明にかかる形状認識装置によると、第１抽出部が、赤外線検知ユニット４１０によって検知された外形に基づき、外形点として複数の頂点ｐ_ｎを有する多角形である外形ＯＦを生成し、外形ＯＦの頂点ｐ_ｎから１点ｐ_０を指の先端の特徴を示す点として抽出し、さらに、第２抽出部が、指の先端の特徴を示す点としての頂点ｐ_０の両側に位置する一対の頂点ｐ_１を結ぶ基準線分ＰＰ_１の方向を算出し、頂点ｐ_ｎから外形ＯＦの外周に沿って順に、外形ＯＦを構成する辺の方向を算出し、基準線分ＰＰ_１の方向に対して最も平行に近い方向を有する外形ＯＦの辺ｐｐ_ｋが検知された場合に、当該検知された辺ｐｐ_ｋの位置に基づいた点を指の根元の特徴を示す点として抽出することができる。したがって、手Ｈ１の外形の特徴を生じている部分の位置を容易に知ることができる。

また、本発明にかかる形状認識装置によると、第１抽出部が、赤外線検知ユニット４１０によって検知された外形に沿って所定の間隔で複数の頂点ｐ_ｎを外形点として検知し、頂点ｐ_ｎから１点ｐ_０を指の先端の特徴を示す点としてとして抽出し、第２抽出部が、頂点ｐ_０の一方の側と他方の側とにそれぞれ存在する複数の頂点ｐ_ｎから選択された一対の頂点（たとえばｐ_２）を結ぶ線分ｐｐ_２の長さを、頂点ｐ_０により近い位置からより遠い位置への順で算出し、線分の長さの変化量が所定量を超えず且つ第１特徴点から最も遠い線分を検知し、検知された線分上の１点を指の根元の特徴を示す点として抽出することができる。したがって、手Ｈ１の外形の特徴を生じている部分の位置を容易に知ることができる。

また、本発明にかかる形状認識装置によると、対象物が手Ｈ１であるため、人体の指、掌、手、または腕の解剖学的特徴を容易に認識することができる。

また、本発明に係る形状認識装置によると、延在方向検出部によって、指の先端の特徴を示す点（頂点ｐ_０または先端点Ｐ０）と指の根元の特徴を示す点（根元点Ｐ１）とを結ぶ線分の方向が指の延在方向であると判定することができる。すなわち、複雑な形状を有する手の指の認識を容易に行なうことができる。

また、本発明にかかる形状認識装置によると、掌認識部により、外形ＯＦとしての多角形の最大内接円Ｃに基づいて掌部分を認識するため、掌を容易かつ確実に認識することができる。

また、本発明にかかる形状認識装置によると、ジェスチャ識別ユニット４５６により、複雑な形状をとりうる手のポーズの識別を容易に行なうことができる。

また、本発明にかかる形状認識装置によると、赤外線検知ユニット４１０を用いるため、赤外線により手Ｈ１の外形を正確に検知することができる。

また、本発明にかかる形状認識装置によると、立体視像を表示可能な半透過ディスプレイ２２０を含み、赤外線検知ユニット４１０は、手Ｈ１までの距離を測定する深度センサを含み、なおかつ、赤外線検知ユニット４１０は、深度センサによる三次元空間検知領域４１０３Ｄ、および、半透過ディスプレイ２２０により生成された立体視像の仮想イメージ表示領域２２０３Ｄと三次元空間検知領域４１０３Ｄとが共有される共有領域の少なくともいずれかにおいて、手Ｈ１の外形を検知することができるため、当該共有領域中の立体視像の視認と、当該立体視像の視界中に存在する手Ｈ１の形状識別とを同時に行なうことができる。すなわち、立体視像を表示させつつ、手Ｈ１の形状識別を行なうことができる。

また、本発明に係る形状認識装置は、他の構成とともに眼鏡表示装置１００として体現されるため、身体に装着しつつ、手Ｈ１の形状認識を行なうことができる。

本発明においては、制御ユニット４５０が「形状認識装置」に相当し、手Ｈ１および手Ｈ１の指が「対象物」に相当し、外形ＯＦが「外形検知部により検知された外形」に相当し、頂点ｐ_０が「第１特徴点」および「先端部の点」に相当し、根元点Ｐ１が「第２特徴点」および「根元部の点」に相当し、頂点ｐ_ｎが「複数の外形点」に相当し、頂点ｐ_１が「第１特徴点の両側に位置する一対の頂点」を構成するものであり、基準線分ＰＰ_１が「第１特徴点の両側に位置する一対の頂点を結ぶ線分」に相当し、辺ｐｐ_２，ｐｐ_ｋが「多角形を構成する辺」に相当し、ｐｐ_ｋが「最も平行に近い方向を有する多角形の辺」に相当し、根元点Ｐ１が「第２特徴点」に相当し、最大内接円Ｃが「最大内接円」に相当し、半透過ディスプレイ２２０が「表示装置」に相当し、赤外線検知ユニット４１０が「深度センサ」に相当し、仮想イメージ表示領域２２０３Ｄが「立体視領域」に相当し、三次元空間検知領域４１０３Ｄが「深度検知領域」に相当し、共有領域（仮想イメージ表示領域２２０３Ｄと一致）が「共有領域」に相当し、眼鏡表示装置１００が「ヘッドマウントディスプレイ装置」に相当する。

本発明の好ましい一実施の形態は上記の通りであるが、本発明はそれだけに制限されない。本発明の精神と範囲から逸脱することのない様々な実施形態が他になされることは理解されよう。さらに、本実施形態において、本発明の構成による作用および効果を述べているが、これら作用および効果は、一例であり、本発明を限定するものではない。

Claims (25)

1. 人体の指および手の外形を検知する外形検知部と、
   前記外形検知部により検知された前記外形に基づいて、前記外形上の第１特徴点を抽出する第１抽出部と、
   前記外形上または前記外形内に存在しかつ前記第１特徴点とは異なる第２特徴点を抽出する第２抽出部と、を含み、
   前記第１抽出部が、前記外形に基づいて複数の外形点を頂点とする多角形を生成し、前記多角形の頂点と凸包との共有点を前記第１特徴点として抽出し、
   前記第２抽出部が、前記第１特徴点の両側に位置する一対の頂点を結ぶ線分の方向を算出し、前記第１特徴点から前記多角形の外周に沿って順に、前記多角形を構成する辺の方向を算出し、前記線分の方向に対して最も平行に近い方向を有する前記多角形の辺が検知された場合に、前記検知された辺の位置に基づいた点を前記第２特徴点とする、形状認識装置。
2. 前記第１抽出部が、前記外形に沿って所定の間隔で複数の外形点を検知し、前記外形点から１点を前記第１特徴点として抽出し、
   前記第２抽出部が、前記第１特徴点の一方の側と他方の側とにそれぞれ存在する前記複数の外形点から選択された一対の外形点を結ぶ線分の長さを、前記第１特徴点により近い位置からより遠い位置への順で算出し、前記線分の長さの変化量が所定量を超えず且つ前記第１特徴点から最も遠い線分を検知し、前記検知された線分上の１点を前記第２特徴点として抽出する、請求項１に記載の形状認識装置。
3. 前記人体の指が延在する方向を検出する延在方向検出部をさらに含み、
   前記延在方向検出部が、前記第１特徴点と前記第２特徴点とを結ぶ線分の方向が前記人体の指の延在方向であると判定する、請求項１または２に記載の形状認識装置。
4. 人体の腕を検知する外形検知部と、
   前記外形検知部により検知された前記人体の腕の外形、または前記人体の腕の外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出する枠検出部をさらに含み、
   延在方向検出部が、前記四角枠を構成する長辺の方向を検出する、請求項１から３のいずれか１項に記載の形状認識装置。
5. 前記第１抽出部は、前記第１特徴点として指の先端部の点を抽出し、前記第２抽出部は、前記第２特徴点として指の根元部の点を抽出することにより指を認識する、請求項１または２記載の形状認識装置。
6. 掌部分を認識する掌認識部をさらに含み、
   前記掌認識部は、前記外形検知部によって検知された前記手の外形、または前記手の外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識する、請求項３から５のいずれか１項に記載の形状認識装置。
7. 手の親指を認識する親指認識部をさらに含み、
   前記親指認識部は、複数の指についての前記第１特徴点および前記第２特徴点の少なくともいずれかに基づいて前記親指を認識する、請求項３から６のいずれかに記載の形状認識装置。
8. 前記第１抽出部および前記第２抽出部により前記認識された指と前記親指認識部によって認識された親指との情報に基づいて手の形状を識別する手形状識別部をさらに含む、請求項７に記載の形状認識装置。
9. 前記外形検知部は、赤外線カメラである、請求項１から８のいずれか１項に記載の形状認識装置。
10. 立体視像を表示可能な表示装置をさらに含み、
    前記外形検知部が、前記人体の指および手の外形までの距離を測定する深度センサを含み、且つ、前記深度センサの深度検知領域、および前記表示装置により生成された立体視像の立体視領域と前記深度検知領域とが共有する共有領域の少なくともいずれかにおいて、前記人体の指および手の外形を検知する、請求項１から９のいずれか１項に記載の形状認識装置。
11. 請求項１から請求項１０のいずれか１項に記載の形状認識装置を有するヘッドマウントディスプレイ装置。
12. 人体の指および手の外形を検知する外形検知処理と、
    前記外形検知処理により検知された前記外形に基づいて、前記外形上の第１特徴点を抽出する第１抽出処理と、
    前記外形上または前記外形内に存在しかつ前記第１特徴点とは異なる第２特徴点を抽出する第２抽出処理と、を含み、
    前記第１抽出処理が、前記外形に基づいて複数の外形点を頂点とする多角形を生成し、前記多角形の頂点と凸包との共有点を前記第１特徴点として抽出し、
    前記第２抽出処理が、前記第１特徴点の両側に位置する一対の頂点を結ぶ線分の方向を算出し、前記第１特徴点から前記多角形の外周に沿って順に、前記多角形を構成する辺の方向を算出し、前記線分の方向に対して最も平行に近い方向を有する前記多角形の辺が検知された場合に、前記検知された辺の位置に基づいた点を前記第２特徴点とする、形状認識プログラム。
13. 人体の腕を検知する外形検知処理と、
    前記外形検知処理により検知された前記人体の腕の外形、または前記人体の腕の外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出する枠検出処理をさらに含み、
    延在方向検出処理が、前記四角枠を構成する長辺の方向を検出する、請求項１２に記載の形状認識プログラム。
14. 前記第１抽出処理は、前記第１特徴点として指の先端部の点を抽出する第１指認識処理を含み、前記第２抽出処理は、前記第２特徴点として指の根元部の点を抽出することにより指を認識する第２指認識処理を有する、請求項１２または１３に記載の形状認識プログラム。
15. 掌部分を認識する掌認識処理をさらに含み、
    前記掌認識処理は、前記外形検知処理によって検知された前記手の外形、または前記手の外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識する、請求項１４に記載の形状認識プログラム。
16. 手の親指を認識する親指認識処理をさらに含み、
    前記親指認識処理は、複数の指についての前記第１特徴点および前記第２特徴点の少なくともいずれかに基づいて前記親指を認識する、請求項１４または１５に記載の形状認識プログラム。
17. 前記第１抽出処理および前記第２抽出処理により認識された指と前記親指認識処理によって認識された親指との情報に基づいて手の形状を識別する手形状識別処理をさらに含む、請求項１６に記載の形状認識プログラム。
18. 立体視像を表示可能な表示処理をさらに含み、
    前記外形検知処理が、前記人体の指および手の外形までの距離を測定する深度センサ処理を含み、且つ、
    前記深度センサ処理により検知される深度検知領域、および前記表示処理により生成された立体視像の立体視領域と前記深度検知領域とが共有する共有領域の少なくともいずれかにおいて、前記人体の指および手の外形を検知する、請求項１２から１７のいずれか１項に記載の形状認識プログラム。
19. 人体の指および手の外形を検知する外形検知工程と、
    前記外形検知工程により検知された前記外形に基づいて、前記外形上の第１特徴点を抽出する第１抽出工程と、
    前記外形上または前記外形内に存在しかつ前記第１特徴点とは異なる第２特徴点を抽出する第２抽出工程と、を含み、
    前記第１抽出工程が、前記外形に基づいて複数の外形点を頂点とする多角形を生成し、前記多角形の頂点と凸包との共有点を前記第１特徴点として抽出し、
    前記第２抽出工程が、前記第１特徴点の両側に位置する一対の頂点を結ぶ線分の方向を算出し、前記第１特徴点から前記多角形の外周に沿って順に、前記多角形を構成する辺の方向を算出し、前記線分の方向に対して最も平行に近い方向を有する前記多角形の辺が検知された場合に、前記検知された辺の位置に基づいた点を前記第２特徴点とする、形状認識方法。
20. 人体の腕を検知する外形検知工程と、
    前記外形検知工程により検知された前記人体の腕の外形、または前記人体の腕の外形に基づいて生成される複数の外形点を頂点とする多角形を囲む四角枠を検出する枠検出工程をさらに含み、
    延在方向検出工程が、前記四角枠を構成する長辺の方向を検出する、請求項１９に記載の形状認識方法。
21. 前記第１抽出工程は、前記第１特徴点として指の先端部の点を抽出する第１指認識工程を含み、前記第２抽出工程は、前記第２特徴点として指の根元部の点を抽出することにより指を認識する第２指認識工程を有する、請求項１９または２０に記載の形状認識方法。
22. 掌部分を認識する掌認識工程をさらに含み、
    前記掌認識工程は、前記外形検知工程によって検知された前記手の外形、または前記手の外形に基づいて生成される複数の外形点を頂点とする多角形の最大内接円に基づいて掌部分を認識する、請求項２１に記載の形状認識方法。
23. 手の親指を認識する親指認識工程をさらに含み、
    前記親指認識工程は、複数の指についての前記第１特徴点および前記第２特徴点の少なくともいずれかに基づいて前記親指を認識する、請求項２１または２２に記載の形状認識方法。
24. 前記第１抽出工程および前記第２抽出工程により前記認識された指と前記親指認識工程によって認識された親指との情報に基づいて手の形状を識別する手形状識別工程をさらに含む、請求項２３に記載の形状認識方法。
25. 立体視像を表示可能な表示工程をさらに含み、
    前記外形検知工程が、前記人体の指および手の外形までの距離を測定する深度センサ工程を含み、且つ、
    前記深度センサ工程により検知される深度検知領域、および前記表示工程により生成された立体視像の立体視領域と前記深度検知領域とが共有する共有領域の少なくともいずれかにおいて、前記人体の指および手の外形を検知する、請求項１９から２４のいずれか１項に記載の形状認識方法。

Images