JP2012529088A - ジェスチャー・ショートカット - Google Patents

ジェスチャー・ショートカット Download PDF

Info

Publication number
JP2012529088A
JP2012529088A JP2012513349A JP2012513349A JP2012529088A JP 2012529088 A JP2012529088 A JP 2012529088A JP 2012513349 A JP2012513349 A JP 2012513349A JP 2012513349 A JP2012513349 A JP 2012513349A JP 2012529088 A JP2012529088 A JP 2012529088A
Authority
JP
Japan
Prior art keywords
gesture
user
shortcut
full version
application
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012513349A
Other languages
English (en)
Other versions
JP5775514B2 (ja
JP2012529088A5 (ja
Inventor
ラッタ,スティーヴン
ガイスナー,ケヴィン
クラヴィン,ジョン
ツノダ,クド
ペレス,キャスリン・ストーン
マルコビッチ,レルジャ
スヌーク,グレゴリー・エヌ
キップマン,アレックス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2012529088A publication Critical patent/JP2012529088A/ja
Publication of JP2012529088A5 publication Critical patent/JP2012529088A5/ja
Application granted granted Critical
Publication of JP5775514B2 publication Critical patent/JP5775514B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs

Abstract

ジェスチャー・ショートカットのためのシステム、方法、およびコンピューター読み取り可能記憶媒体について開示する。システムのキャプチャー・デバイスによって、ユーザーの動きまたは体の位置が取り込まれ、システムを制御するための入力として用いられる。システムによって認識されるジェスチャーには、そのジェスチャーの完全バージョンと、そのジェスチャーのショートカットとがあってもよい。システムが、ジェスチャーの完全バージョンまたはジェスチャーのショートカットのいずれかが行われたことを確認すると、システム認識ジェスチャーが観察されたことの指示を、対応するアプリケーションに送る。ショートカットがジェスチャーの完全バージョンの部分集合を含み、ユーザーがジェスチャーの完全バージョンを行ったときにショートカットおよび完全バージョン双方が認識された場合、システムは、1つのジェスチャーのみが行われたと認識し、アプリケーションにそのように指示する。
【選択図】図9

Description

従来技術
[0001] コンピューター・ゲーム、マルチメディア・アプリケーション、オフィス・アプリケーション等のような多くの計算アプリケーションは、制御を用いて、ユーザーがアプリケーションのゲーム・キャラクターまたは他の側面を操作することを可能にする。通例、このような制御は、例えば、コントローラー、リモコン、キーボード、マウス等を用いる入力である。
生憎、このような制御は習得することが難しいために、ユーザーとこのようなゲームおよびアプリケーションとの間に障壁が生ずる可能性がある。更に、このような制御は、これらの制御が用いられる対象である実際のゲーム動作または他のアプリケーション動作とは異なる場合もある。例えば、ゲーム・キャラクターに野球のバットを振らせるゲーム制御が、野球のバットを振る実際のモーションには対応しない場合がある。
[0002] 本明細書において開示するのは、ジェスチャー・ショートカットのためのシステムおよび方法である。
[0003] 一実施形態では、計算機が一連の画像データーをカメラから受け取る。このカメラは、カラー・カメラ(赤−緑−青即ちRGBのようなカメラ)、深度カメラ、および三次元(3D)カメラを含むことができる。このデーターは、別々の深度画像および色画像、深度情報および色情報を組み込んだ組み合わせ画像、またはスケルトン・マッピングされた人のような、オブジェクトを特定する解析画像を含むことができる。このデーターは、少なくとも一人のユーザーによって行われたモーションまたはポーズを取り込む。これらのモーションまたはポーズは、一種の入力、即ち、ジェスチャー入力として、計算機によって認識することができる。所与のジェスチャー(例えば、上に向かってナビゲートする)について、ユーザーが行うことができるそのジェスチャーの完全バージョンと、ユーザーが行うことができるそのジェスチャーのショートカットとを備えることができる。ジェスチャーのショートカットは、ユーザーにとって、短い時間、少ない動き、または簡単な動きで済むのが一般的である。
[0004] ユーザーによって、ジェスチャーのショートカットまたはジェスチャー・ショートカットの完全バージョンのいずれかが行われたと計算機が認識すると、ジェスチャーを入力として用いるアプリケーションに、これの指示を送る。
[0005] ショートカットがジェスチャーの完全バージョンの部分集合を構成し、ユーザーがジェスチャーの完全バージョンを行ったときにジェスチャーのショートカットおよび完全バージョンの双方が認識される一実施形態では、計算機は、1回のジェスチャーだけが行われたと認識し、このことの指示をアプリケーションに送る。
[0006] 以上に述べたのは摘要であり、したがって、必要上、簡略化、一般化、および詳細の省略を含む。この摘要は例示であり、限定であることは全く意図されていないことは、当業者には認められよう。
[0007] 本明細書によるジェスチャー・ショートカットのためのシステム、方法、およびコンピュータ読み取り可能記憶媒体について、添付図面を参照しながら更に説明する。
図1Aは、ターゲット認識、分析、および追跡システムの一実施形態例を、ゲームをプレーするユーザーと共に示す。 図1Bは、ターゲット認識、分析、および追跡システムの一実施形態例を、ゲームをプレーするユーザーと共に示す。 図2は、ターゲット認識、分析、および追跡システムにおいて使うことができるキャプチャー・デバイスの一実施形態例を示す。 図3Aは、ターゲット認識、分析、および追跡システムにおいて1つ以上のジェスチャーを解釈するために使うことができる計算環境の一実施形態例を示す。 図3Bは、ターゲット認識、分析、および追跡システムにおいて1つ以上のジェスチャーを解釈するために使うことができる計算環境の他の実施形態例を示す。 図4Aは、図2のターゲット認識、分析、および追跡システムから生成されたユーザーのスケルトン・マッピングを示す。 図4Bは、図2に示したジェスチャー認識アーキテクチャーを更に詳細に示す。 図5Aは、更に複雑なジェスチャー・フィルタを作成するために、どのようにフィルタを重ねればよいかを示す。 図5Bは、更に複雑なジェスチャー・フィルタを作成するために、どのようにフィルタを重ねればよいかを示す。 図6Aは、フットボール・ビデオ・ゲームにおいてユーザーが「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。 図6Bは、フットボール・ビデオ・ゲームにおいてユーザーが「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。 図6Cは、フットボール・ビデオ・ゲームにおいてユーザーが「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。 図6Dは、フットボール・ビデオ・ゲームにおいてユーザーが「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。 図6Eは、フットボール・ビデオ・ゲームにおいてユーザーが「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。 図7Aは、ユーザーのスケルトン・マップを生成するために画像データーの各フレームを解析したときの、図6Aから図6Eの「フェア・キャッチ」のジェスチャー例を示す。 図7Bは、ユーザーのスケルトン・マップを生成するために画像データーの各フレームを解析したときの、図6Aから図6Eの「フェア・キャッチ」のジェスチャー例を示す。 図7Cは、ユーザーのスケルトン・マップを生成するために画像データーの各フレームを解析したときの、図6Aから図6Eの「フェア・キャッチ」のジェスチャー例を示す。 図7Dは、ユーザーのスケルトン・マップを生成するために画像データーの各フレームを解析したときの、図6Aから図6Eの「フェア・キャッチ」のジェスチャー例を示す。 図7Eは、ユーザーのスケルトン・マップを生成するために画像データーの各フレームを解析したときの、図6Aから図6Eの「フェア・キャッチ」のジェスチャー例を示す。 図8Aは、完全走行ジェスチャーを行っているユーザーを示す。 図8Bは、ショートカット走行ジェスチャーを行っているユーザーを示し、このショートカット・ジェスチャーは、図8Aの完全走行ジェスチャーの動きの部分集合を含む。 図8Cは、ショートカット走行ジェスチャーを行っているユーザーを示し、この第2タイプのショートカット走行ジェスチャーは、図8Aの完全走行ジェスチャーとは別の動きを含む。 図9は、ジェスチャー・ショートカットの動作手順例を示す。
[0021] 本明細書において記載するように、ユーザーは、ゲーム・コンソール、コンピューター等のような計算環境において実行するアプリケーションを、1つ以上のジェスチャーを行うことによって制御することができる。一実施形態によれば、ジェスチャーは、例えば、キャプチャー・デバイスから受け取ることができる。例えば、キャプチャー・デバイスは、シーンの深度画像を取り込むことができる。一実施形態では、キャプチャー・デバイスは、シーンにおける1つ以上のターゲットまたはオブジェクトが、ユーザーのようなヒトのターゲットに対応するか否か判断することができる。シーンにおけるターゲットまたはオブジェクトがヒトのターゲットに対応するか否か判断するには、ターゲットの各々を塗りつぶし、ヒトの体モデルのパターンと比較すればよい。次に、ヒトの体モデルと一致した各ターゲットまたはオブジェクトを走査して、それと関連付けられたスケルトン・モデルを生成する。次いで、このスケルトン・モデルを計算環境に供給することができ、計算環境はスケルトン・モデルを追跡し、スケルトン・モデルと関連付けられているアバターをレンダリングすることができ、更に、例えば、スケルトン・モデルから認識されたユーザーのジェスチャーに基づいて、計算環境において実行中のアプリケーションにおいて何の制御を実行すべきか決定することができる。ジェスチャー認識エンジンは、そのアーキテクチャーについては以下で更に詳しく説明するが、これを用いて、特定のジェスチャーがいつユーザーによって行われたのか判断する。
[0022] 図1Aおよび図1Bは、ターゲット認識、分析、および追跡システム10の構成の一実施形態例を、ゲームをプレーするユーザー18と共に示す。一実施形態例では、目標認識、分析、および追跡システム10は、ユーザー18のようなヒトのターゲットを認識し、分析し、および/または追跡するために使うことができる。
[0023] 図1Aに示すように、ターゲット認識、分析、および追跡システム10は、計算環境12を含む。計算環境12は、コンピューター、ゲーミング・システムまたはコンソール等であればよい。一実施形態例によれば、ゲーミング・アプリケーション、ゲーミング以外のアプリケーション等のようなアプリケーションを実行するために計算環境12を使うことができるように、計算環境12はハードウェア・コンポーネントおよび/またはソフトウェア・コンポーネントを含むことができる。
[0024] 図1Aに示すように、ターゲット認識、分析、および追跡システム10は、更に、キャプチャー・デバイス20を含むことができる。キャプチャー・デバイス20は、例えば、ユーザー18のような、一人以上のユーザーを視覚的に監視するために使うことができるカメラとすればよく、一人以上のユーザーによって行われるジェスチャーおよび/またはモーションを取り込み、分析し、そして追跡して、アプリケーションにおいて1つ以上の制御または動作を実行する、および/またはアバター、画面上のキャラクター、画面上のオブジェクト等のような、仮想キャラクターを動画化することができる。これについては、以下で更に詳しく説明する。
[0025] 一実施形態によれば、ターゲット認識、分析、および追跡システム10は、テレビジョン、モニター、高品位テレビジョン(HDTV)等のような、ゲームまたはアプリケーションの映像(visual)および/または音声(audio)をユーザー18のようなユーザーに与えることができるオーディオビジュアル・デバイス16に接続することができる。例えば、計算環境12は、グラフィクスカードのようなビデオ・アダプターおよび/またはサウンド・カードのようなオーディオ・アダプターを含むことができる。これらは、ゲーム・アプリケーション、ゲーム以外のアプリケーション等と関連のあるオーディオビジュアル信号を供給することができる。オーディオビジュアル・デバイス16は、計算環境12からオーディビジュアル信号を受け取ることができ、次いで、これらのオーディオビジュアル信号と関連付けられたゲームまたはアプリケーションの映像および/または音声をユーザー18に出力することができる。一実施形態によれば、オーディオビジュアル・デバイス16は、例えば、S−Videoケーブル、同軸ケーブル、HDMIケーブル、DVIケーブル、VGAケーブル等によって、計算環境12に接続することができる。
[0026] 図1Aおよび図1Bに示すように、ターゲット認識、分析、および追跡システム10は、ユーザー18のようなヒトのターゲットを認識、分析、および/または追跡するために使うことができる。例えば、ユーザー18を、キャプチャー・デバイス20を使って追跡し、ユーザー18のジェスチャーおよび/またはモーションを取り込んで、アバター、画面上のキャラクター、画面上のオブジェクト等のような仮想キャラクターを動画化することができ、および/または計算環境12によって実行されているアプリケーションに作用するために使うことができる制御として解釈することができる。このように、一実施形態によれば、ユーザー18は彼または彼女の体を動かして、アプリケーションを制御すること、および/または仮想オブジェクトを動画化することができる。
[0027] 図1Aおよび図1Bに示すように、一実施形態例では、計算環境12において実行するアプリケーションは、ユーザー18がプレーしているかもしれないボクシング・ゲームであってもよい。例えば、コンピューター環境12は、オーディオビジュアル・デバイス16を使って、ボクシングの相手38の視覚的表現をユーザー18に与えることができる。また、計算環境12は、オーディオビジュアル・デバイス16を使って、ユーザー18が彼または彼女の動きで制御することができるプレーヤー・アバター24の視覚表現も与えることができる。例えば、図1Bに示すように、ユーザー18はプレーヤー・アバター24にゲーム空間においてパンチを打たせるために、実空間おいてパンチを打つことができる。このように、一実施形態例によれば、計算環境12、ならびにターゲット認識、分析、および追跡システム10のキャプチャー・デバイス20は、実空間におけるユーザー18のパンチを認識および分析するために使うことができ、このパンチをゲーム空間におけるプレーヤー・アバター24のゲーム制御として解釈することができるようになる。
[0028] ユーザー18による他の動きも、軽く叩く、行ったり来たりする、あちこち動き回る、防御する、ジャブする、または種々の異なる力のパンチを出すように制御するというように、プレーヤー・アバターを動画化するために用いられる他の制御または動作として解釈することができる。更に、動きの中には、プレーヤー・アバター24を制御する以外の動作に対応することもできる制御として解釈してもよい場合もある。例えば、プレーヤーは、動きを使って、ゲームを終了する、一時停止する、またはセーブする、レベルを選択する、高スコアを見る、友人と通信する等を行うこともできる。
[0029] 実施形態例では、ユーザー18のようなヒトのターゲットがオブジェクトを有することもできる。このような実施形態では、電子ゲームのユーザーがそのオブジェクトを保持していればよく、ゲームのパラメータを調節および/または制御するために、プレーヤーおよびオブジェクトのモーションを使うことができるようにするとよい。例えば、ラケットを保持しているプレーヤーのモーションを追跡し、電子スポーツ・ゲームにおける画面上のラケットを制御するために利用することができる。他の実施形態例では、オブジェクトを保持しているプレーヤーのモーションを追跡し、電子戦争ゲームにおける画面上の兵器を制御するために利用することができる。
[0030] 他の実施形態例では、ターゲット認識、分析、および追跡システム10は、更に、ターゲットの動きを、ゲームの範囲の外側にあるオペレーティング・システムおよび/またはアプリケーション制御として解釈するために使うこともできる。例えば、オペレーティング・システムおよび/またはアプリケーションの事実上あらゆる制御可能な態様を、ユーザー18のようなターゲットの動きによって制御することができる。
[0031] 図2は、ターゲット認識、分析、および追跡システム10において使うことができるキャプチャー・デバイス20の一実施形態例を示す。一実施形態例によれば、キャプチャー・デバイス20は、例えば、飛行時間、構造化光、立体画像等を含む任意の適した技法によって、深度値を含むことができる深度画像を含む深度情報と共にビデオを取り込むように構成することができる。一実施形態によれば、キャプチャー・デバイス20は、深度情報を「Zレイヤー」、または深度カメラからその視線に沿って延びるZ軸に対して垂直となることができるレイヤーに編成することができる。
[0032] 図2に示すように、キャプチャー・デバイス20は、画像カメラ・コンポーネント22を含むことができる。一実施形態例によれば、画像カメラ・コンポーネント22は、シーンの深度画像を取り込むことができる深度カメラとするとよい。深度カメラは、取り込まれたシーンの二次元(2D)画素エリアを含むことができ、この2D画素エリアにおける各画素は、カメラから取り込まれたシーンにおけるオブジェクトの、例えば、センチメートル、ミリメートル等の単位の長さまたは距離というような、深度値を表すことができる。
[0033] 図2に示すように、一実施形態例によれば、画像カメラ・コンポーネント22は、シーンの深度画像を取り込むために使うことができるIR発光コンポーネント24、三次元(3D)カメラ26、およびRGBカメラ28を含むことができる。例えば、飛行時間分析では、キャプチャー・デバイス20のIR発光コンポーネント24は、シーンに向けて赤外線光を放出することができ、次いでセンサ(図示せず)を使って、そのシーンの中にある1つ以上のターゲットおよびオブジェクトの表面から散乱される光を、例えば、3Dカメラ26および/またはRGBカメラ28を使って検出することができる。実施形態の中には、パルス状赤外線光を使って、発信光パルスと対応する入射光パルスとの間の時間を測定し、キャプチャー・デバイス20からシーン内にあるターゲットまたはオブジェクト上における特定の場所までの物理的距離を判定するために使うことができるようにするとよい場合がある。加えて、他の実施形態例では、発信光波の位相を着信光波の位相と比較して、位相ずれを判定するとよい場合もある。次いで、位相ずれを使って、キャプチャー・デバイスからターゲットまたはオブジェクト上の特定の場所までの物理的距離を判定することができる。
[0034] 他の実施形態例によれば、例えば、散乱光パルス撮像を含む種々の技法によって、経時的な光の反射ビームの強度を分析することによって、飛行時間分析を使って、キャプチャー・デバイス20からターゲットまたはオブジェクト上の特定の場所までの物理的距離を間接的に判定することができる。
[0035] 他の実施形態例によれば、キャプチャー・デバイス20は、構造化光を使って深度情報を取り込むことができる。このような分析では、パターン光(即ち、格子パターン、縞パターンのような既知のパターンとして表示される光)を、例えば、IR発光コンポーネント24によってシーンに向けて投射する。シーンにおいて1つ以上のターゲットまたはオブジェクトの表面に衝突したときに、それに応答して、パターンが変形する可能性がある。このようなパターンの変形を、例えば、3Dカメラ26および/またはRGBカメラ28によって取り込むことができ、次いで分析して、キャプチャー・デバイスからターゲットまたはオブジェクト上における特定の場所までの物理的距離を判定することができる。
[0036] 他の実施形態によれば、キャプチャー・デバイス20は、2つ以上の物理的に分離されたカメラを含むことができ、これらが異なる角度からのシーンを捕らえて、視覚的な立体像を得て、これを解明することによって深度情報を発生することができる。
[0037] キャプチャー・デバイス20は、更に、マイクロフォン30を含むことができる。マイクロフォン30は、音響を受信し電気信号に変換するトランスデューサまたはセンサを含むことができる。一実施形態によれば、マイクロフォン30を使うと、ターゲット認識、分析、および追跡システム10においてキャプチャー・デバイス20と計算環境12との間におけるフィードバックを低減することができる。加えて、マイクロフォン30を使うと、ユーザーによって供給することもできるオーディオ信号を受信し、計算環境12において実行することができるゲーム・アプリケーション、ゲーム以外のアプリケーション等のようなアプリケーションを制御することができる。
[0038] 一実施形態例では、キャプチャー・デバイス20は、更に、画像カメラ・コンポーネント22と動作的に通信することができるプロセッサー32を含むことができる。プロセッサー32は、標準化されたプロセッサー、特殊化されたプロセッサー、マイクロプロセッサー等を含むことができ、このプロセッサーは、深度画像を受け取る命令、この深度画像に適したターゲットが含まれている可能背があるか否か判断する命令、適したターゲットをそのターゲットのスケルトン表現またはモデルに変換する命令、あるいは任意の他の適した命令を実行することができる。
[0039] 更に、キャプチャー・デバイス20は、メモリー・コンポーネント34を含むことができる。メモリー・コンポーネント34は、プロセッサー32によって実行することができる命令、3DカメラまたはRGBカメラによって取り込まれた画像またはフレーム、あるいは任意の他の適した情報、画像等を格納することができる。一実施形態例によれば、メモリー・コンポーネント34は、ランダム・アクセス・メモリー(RAM)、リード・オンリー・メモリー(ROM)、キャッシュ、フラッシュ・メモリー、ハード・ディスク、または任意の他の適した記憶コンポーネントを含むことができる。図2に示すように、一実施形態では、メモリー・コンポーネント34は、画像キャプチャー・コンポーネント22およびプロセッサー32と通信する別のコンポーネントとすることができる。他の実施形態によれば、メモリー・コンポーネント34をプロセッサー32および/または画像キャプチャー・コンポーネント22に統合してもよい。
[0040] 図2に示すように、キャプチャー・デバイス20は、通信リンク36を通して、計算環境12と通信状態に置くことができる。通信リンク36は、例えば、USB接続、Firewire接続、イーサネット・ケーブル接続等を含む有線接続、および/またはワイヤレス802.11b、g、a、またはn接続のようなワイヤレス接続とすることができる。一実施形態によれば、計算環境12は、クロックをキャプチャー・デバイス20に供給することができ、通信リンク36を通して、例えば、いつシーンを取り込むか判断するために、このクロックを使うことができる。
[0041] 加えて、キャプチャー・デバイス20は、例えば、3Dカメラ26および/またはRGBカメラ28によって取り込まれた深度情報および画像、および/またはキャプチャー・デバイス20によって生成することができるスケルトン・モデルを、計算環境12に通信リンク36を通して供給することができる。次いで、計算環境12は、このスケルトン・モデル、深度情報、および取り込まれた画像を使って、例えば、ユーザーのジェスチャーを認識し、応答して、ゲームまたはワード・プロセッサーのようなアプリケーションを制御することができる。例えば、図2に示すように、計算環境12は、ジェスチャー認識エンジン190を含むことができる。ジェスチャー認識エンジン190は、ジェスチャー・フィルターの集合体を含むことができ、各フィルターは、(ユーザーが動くに連れて)スケルトン・モデルによって実行することができるジェスチャーに関する情報を含む。カメラ26、28およびキャプチャー・デバイス20によって取り込まれたスケルトン・モデルの形態のデーター、およびそれと関連付けられた動きを、ジェスチャー認識エンジン190の中にあるジェスチャー・フィルターと比較して、いつユーザー(スケルトン・モデルによって表現される)が1つ以上のジェスチャーを行ったのか特定することができる。これらのジェスチャーは、アプリケーションの種々の制御と関連付けることができる。つまり、計算環境12は、ジェスチャー認識エンジン190を使って、スケルトン・モデルの動きを解釈し、その動きに基づいてアプリケーションを制御することができる。
[0042] 図3Aは、図1Aから図2の計算環境12を実現するために使うことができる計算環境の一実施形態例を示す。この計算環境は、ゲーミング・コンソールのような、マルチメディア・コンソール100とするとよい。図3Aに示すように、マルチメディア・コンソール100は、レベル1キャッシュ102、レベル2キャッシュ104、およびフラッシュROM(リード・オンリー・メモリー)106を有する中央処理ユニット(CPU)101を有する。レベル1キャッシュ102およびレベル2キャッシュ104は、一時的にデーターを格納し、こうしてメモリー・アクセス・サイクルの回数を減らすことによって、処理速度およびスループットを向上させる。CPU101は、1つよりも多いコア、つまり、追加のレベル1およびレベル2キャッシュ102および104を有して設けることもできる。フラッシュROM106は、実行可能コードを格納することができる。実行可能コードは、マルチメディア・コンソール100の電源をオンにしたときに、ブート・プロセスの初期段階中にロードされる。
[0043] グラフィクス処理ユニット(GPU)108およびビデオ・エンコーダー/ビデオ・コデック(コーダー/デコーダー)114が、高速および高分解能グラフィクス処理のためにビデオ処理パイプラインを形成する。データーは、バスを通して、グラフィクス処理ユニット108からビデオ・エンコーダー/ビデオ・コデック114に伝達される。ビデオ処理パイプラインは、テレビジョンまたは他のディスプレイに送信するために、データーをA/V(オーディオ/ビデオ)ポート140に出力する。メモリー・コントローラー110がGPU108に接続されており、限定ではなく、RAM(ランダム・アクセス・メモリー)のような、種々のタイプのメモリー112にプロセッサーがアクセスし易くなっている。
[0044] マルチメディア・コンソール100は、I/Oコントローラー120、システム管理コントローラー122、オーディオ処理ユニット123、ネットワーク・インターフェース・コントローラー124、第1USBホスト・コントローラー126、第2USBコントローラー128、およびフロント・パネルI/Oサブアセンブリ130を含む。好ましくは、これらをモジュール118に実装する。USBコントローラー126および128は、周辺コントローラー142(1)〜142(2)、ワイヤレス・アダプター148、および外部メモリー・デバイス146(例えば、フラッシュ・メモリー、外部CD/DVD ROMドライブ、リムーバブル媒体等)のためのホストとしての役割を果たす。ネットワーク・インターフェース124および/またはワイヤレス・アダプター148は、ネットワーク(例えば、インターネット、ホーム・ネットワーク等)へのアクセスを与え、イーサネット・カード、モデム、Bluetoothモジュール、ケーブル・モデム等を含む広範囲の種々の有線またはワイヤレス・アダプター・コンポーネントの内任意のものとすることができる。
[0045] システム・メモリー143は、ブート・プロセスの間にロードされるアプリケーション・データーを格納するために設けられている。メディア・ドライブ144が設けられており、DVD/CDドライブ、ハード・ドライブ、またはその他のリムーバブル・メディア・ドライブ等を備えることができる。メディア・ドライブ144は、マルチメディア・コンソール100の内部にあっても外部にあってもよい。アプリエーション・データーは、実行、再生等のためにマルチメディア・コンソール100によってメディア・ドライブ144を通してアクセスすることができる。メディア・ドライブ144は、シリアルATAバスまたはその他の高速接続(例えば、IEEE1394)のようなバスを通して、I/Oコントローラー120に接続されている。
[0046] システム管理コントローラー122は、メディア・コンソール100の利用可能性を確保することに関する種々のサービス機能を提供する。オーディオ処理ユニット123およびオーディオ・コデック132は、高忠実度およびステレオ処理を行う、対応のオーディオ処理パイプラインを形成する。オーディオ・データーは、通信リンクを通して、オーディオ処理ユニット123とオーディオ・コデック132との間で伝達される。オーディオ処理パイプラインは、外部オーディオ・プレーヤーまたはオーディオ処理能力を有するデバイスによる再生のために、データーをA/Vポート140に出力する。
[0047] フロント・パネルI/Oサブアセンブリ130は、電力ボタン150およびイジェクト・ボタン152の機能をサポートするだけでなく、マルチメディア・コンソール100の外面上に露出する任意のLED(発光ダイオード)またはその他のインディケーターもサポートする。システム電源モジュール136が、マルチメディア・コンソール100のコンポーネントに電力を供給する。ファン138は、マルチメディア・コンソール100内部にある回路を冷却する。
[0048] CPU101、GPU108、メモリー・コントローラー110、およびマルチメディア・コンソール100内部にある種々のその他のコンポーネントは、1系統以上のバスを通して相互接続されている。これらのバスには、シリアルおよびパラレル・バス、メモリー・バス、周辺バス、および種々のバス・アーキテクチャーの内任意のものを使うプロセッサー・バスまたはローカル・バスが含まれる。一例として、このようなアーキテクチャーは、ペリフェラル・コンポーネント相互接続(PCI)バス、PCI−Expressバス等を含むことができる。
[0049] マルチメディア・コンソール100の電源をオンにすると、システム・メモリー143からメモリー112および/またはキャッシュ102、104にアプリケーション・データーをロードし、CPU101において実行することができる。アプリケーションは、グラフィカル・ユーザー・インターフェースを提示することができる。グラフィカル・ユーザー・インターフェースは、マルチメディア・コンソール100において利用可能な異なるタイプのメディアにナビゲートするときに、一貫性のあるユーザー体験を提供する。動作において、アプリケーションおよび/またはメディア・ドライブ144に含まれている他のメディアをメディア・ドライブ144から起動または再生して、マルチメディア・コンソール100に追加の機能を設けることもできる。
[0050] マルチメディア・コンソール100は、単にシステムをテレビジョンまたはその他のディスプレイに接続することによって、スタンドアロン・システムとして動作させることができる。このスタンドアロン・モードでは、マルチメディア・コンソール100は、一人以上のユーザーがシステムと相互作用を行い、ムービーを見ること、または音楽を聞くことを可能にする。しかしながら、ネットワーク・インターフェース124またはワイヤレス・アダプター148によって利用可能となるブロードバンド接続機能を統合することにより、マルチメディア・コンソール100を更に大きなネットワーク・コミュニティにおける一構成要素(participant)として動作させることもできる。
[0051] マルチメディア・コンソール100の電源をオンにすると、マルチメディア・コンソールのオペレーティング・システムによって、設定されている量のハードウェア・リソースがシステムの使用のために確保される。これらのリソースは、メモリー(例えば、16MB)、CPUおよびGPUサイクル(例えば、5%)、ネットワーキング帯域幅(例えば、8kbs)等の確保を含むことができる。これらのリソースは、システムのブート時に確保されるので、確保されたリソースは、アプリケーションの視点からは存在しない。
[0052] 特に、メモリーの確保は、起動カーネル、コンカレント・システム・アプリケーション、およびドライバーを含めるのに十分大きいことが好ましい。サーブされたCPUの使用がそのシステム・アプリケーションによって用いられない場合、アイドル状態にあるスレッドが未使用サイクルの内任意のものを消費するように、CPUの確保を一定レベルに維持することが好ましい。
[0053] GPUの確保に関して、GPU割り込みを用いることによって、システム・アプリケーション(例えば、ポップアップ)によって発生される軽量メッセージを表示して、ポップアップをオーバーレイにレンダリングするコードをスケジューリングする。オーバーレイに用いられるメモリー量は、オーバーレイのエリア・サイズに依存し、オーバーレイは画面の解像度と共にスケーリングする(scale)ことが好ましい。コンカレント・システム・アプリケーションによってフル・ユーザー・インターフェースが用いられる場合、アプリケーションの解像度とは独立した解像度を使うことが好ましい。周波数を変更しTVの同期を取り直す必要性をなくすように、スケーラーを使ってこの解像度を設定するとよい。
[0054] マルチメディア・コンソール100がブートして、システム・リソースを確保した後、コンカレント・システム・アプリケーションが実行してシステム機能を提供する。システム機能は、前述の確保したシステム・リソースの内部で実行する1組のシステム・アプリケーションの中にカプセル化されている。オペレーティング・システム・カーネルは、システム・アプリケーション・スレッドと、ゲーミング・アプリケーション・スレッドとの間でスレッドを識別する。一貫したシステム・リソース・ビューをアプリケーションに提供するために、システム・アプリケーションは、所定の時点および間隔でCPU101において実行するようにスケジューリングされていることが好ましい。このスケジューリングは、コンソールにおいて実行しているゲーミング・アプリケーションに対するキャッシュの分裂(disruption)を最少に抑えるためにある。
[0055] コンカレント・システム・アプリケーションがオーディオを必要とする場合、時間に敏感であるため、オーディオ処理を非同期にゲーミング・アプリケーションにスケジューリングする。マルチメディア・コンソール・アプリケーション管理部(以下で説明する)は、システム・アプリケーションがアクティブのとき、ゲーミング・アプリケーションのオーディオ・レベル(例えば、無音化、減衰)を制御する。
[0056] 入力デバイス(例えば、コントローラー142(1)および142(2))は、ゲーミング・アプリケーションおよびシステム・アプリケーションによって共有される。入力デバイスは、確保されたリソースではないが、システム・アプリケーションとマルチメディア・アプリケーションとの間で切り換えられて、各々がそのデバイスのフォーカス(a focus of the device)を有するようにする。アプリケーション管理部は、好ましくは、マルチメディア・アプリケーションの知識を用いずに入力ストリームの切換を制御し、ドライバーはフォーカス・スイッチ(focus switches)に関する状態情報を維持する。カメラ26、28およびキャプチャー・デバイス20は、コンソール100のための追加の入力デバイスを定めることができる。
[0057] 図3Bは、ターゲット認識、分析、および追跡システムにおいて1つ以上のジェスチャーを解釈するため、および/またはターゲット認識、分析、および追跡システムによって表示された、アバター、画面上のキャラクター、画面上のオブジェクト等のような、仮想キャラクターを動画化するために用いられる、図1Aから図2に示した計算環境12の他の実施形態例を示す。計算システム環境220は、適した計算環境の一例に過ぎず、本明細書において開示される主題の使用範囲または機能に関して、いかなる限定をも示唆する意図はない。また、計算環境220が、本明細書において例示されるいずれの1つのコンポーネントまたはコンポーネントの組み合わせに関して何らかの依存性または要件を有するように解釈してはならない。実施形態によっては、図示する種々の計算エレメントが、本開示の特定の態様をインスタンス化するように構成されている回路を含むこともあり得る。例えば、本開示において用いられる回路という用語は、ファームウェアまたはスイッチによって機能(1つまたは複数)を実行するように構成されている特殊ハードウェア・コンポーネントを含むことができる。別の実施形態例では、回路という用語は、機能(1つまたは複数)を実行するために動作可能なロジックを具現化するソフトウェア命令によって構成される汎用処理ユニット、メモリー等を含むことができる。回路がハードウェアおよびソフトウェアの組み合わせを含む実施形態例では、実装者(implementer)は、ロジックを具現化するソース・コードを書くことができ、ソース・コードを機械読み取り可能コードにコンパイルすることができ、この機械読み取り可能コードを汎用処理ユニットによって処理することができる。技術的現状では、ハードウェア、ソフトウェア、またはハードウェア/ソフトウェアの組み合わせの間には殆ど差がないというところまで発展していることを当業者は認めることができるので、特定の機能を実行するためにハードウェアまたはソフトウェアのどちらを選択するかということは、実装者に委ねられた設計選択事項である。更に具体的には、ソフトウェア・プロセスを等価のハードウェア構造に変換することができ、更にハードウェア構造自体を等価のソフトウェア・プロセスに変換することができることを、当業者は認めることができる。つまり、ハードウェアの実施態様およびソフトウェアの実施態様のどちらを選択するかということは、実装者に委ねられた設計選択事項の1つである。
[0058] 図3Bにおいて、計算環境220は、コンピューター241を含む。コンピューター241は、通例、種々のコンピューター読み取り可能媒体を含む。コンピューター読み取り可能媒体は、コンピューター241がアクセス可能な入手可能な媒体であればいずれでも可能であり、揮発性および不揮発性の双方、リムーバブル、および非リムーバブル媒体を含む。システム・メモリー222は、リード・オンリー・メモリー(ROM)223およびランダム・アクセス・メモリー(RAM)260のような揮発性および/または不揮発性メモリーの形態で、コンピューター記憶媒体を含む。基本入出力システム224(BIOS)は、起動中のように、コンピューター241内のエレメント間におけるデーター転送を補助する基本的なルーチンを含み、通例ROM223内に格納されている。RAM260は、通例、処理ユニット259が直ちにアクセス可能であるデーターおよび/またはプログラム・モジュール、または現在これによって処理されているデーターおよび/またはプログラム・モジュールを収容する。一例として、そして限定ではなく、図3Bは、オペレーティング・システム225、アプリケーション・プログラム226、その他のプログラム・モジュール227、およびプログラム・データー228を示す。
[0059] また、コンピューター241は、その他のリムーバブル/非リムーバブル揮発性/不揮発性コンピューター記憶媒体も含むことができる。一例にすぎないが、図3Bは、非リムーバブル不揮発性磁気媒体からの読み取りおよびこれへの書き込みを行なうハード・ディスク・ドライブ238、リムーバブル不揮発性磁気ディスク254からの読み取りおよびこれへの書き込みを行なう磁気ディスク・ドライブ239、ならびにCD ROMまたはその他の光媒体のようなリムーバブル不揮発性光ディスク253からの読み取りおよびこれへの書き込みを行なう光ディスク・ドライブ240を示す。動作環境の一例において使用可能なその他のリムーバブル/非リムーバブル、揮発性/不揮発性コンピューター記憶媒体には、限定する訳ではないが、磁気テープ・カセット、フラッシュ・メモリー・カード、ディジタル・バーサタイル・ディスク、ディジタル・ビデオ・テープ、ソリッド・ステートRAM、ソリッド・ステートROM等が含まれる。ハード・ディスク・ドライブ238は、通例、インターフェース234のような非リムーバブル・メモリー・インターフェースを介してシステム・バス221に接続され、磁気ディスク・ドライブ239および光ディスク・ドライブ240は、通例、インターフェース235のようなリムーバブル・メモリー・インターフェースによって、システム・バス221に接続する。
[0060] 先に論じ図3Bに示すドライブおよびそれらに関連するコンピューター記憶媒体は、コンピューター読み取り可能命令、データー構造、プログラム・モジュール、およびコンピューター241のその他のデーターを格納する。図3Bでは、例えば、ハード・ディスク・ドライブ238は、オペレーティング・システム258、アプリケーション・プログラム257、他のプログラム・モジュール256、およびプログラム・データー255を格納するように示されている。尚、これらの構成要素は、オペレーティング・システム225、アプリケーション・プログラム226、他のプログラム・モジュール227、およびプログラム・データー228と同じでも異なっていても可能であることを注記しておく。オペレーティング・システム258、アプリケーション・プログラム257、他のプログラム・モジュール256、およびプログラム・データー255は、ここで、少なくともこれらが異なるコピーであることを示すために、異なる番号が与えられている。ユーザーは、キーボード251、および一般にマウス、トラックボールまたはタッチ・パッドと呼ばれているポインティング・デバイス252のような入力デバイスによって、コマンドおよび情報をコンピューター241に入力することができる。他の入力デバイス(図示せず)には、マイクロフォン、ジョイスティック、ゲーム・パッド、衛星ディッシュ、スキャナー等を含むことができる。これらおよびその他の入力デバイスは、多くの場合、ユーザー入力インターフェース236を介して、処理ユニット259に接続されている。ユーザー入力インターフェース236は、システム・バスに結合されているが、パラレル・ポート、ゲーム・ポート、またはユニバーサル・シリアル・バス(USB)によって接続することも可能である。カメラ26、28およびキャプチャー・デバイス20は、コンソール100の追加入力デバイスを定めることができる。モニター242またはその他のタイプの表示装置も、ビデオ・インターフェース232のようなインターフェースを介して、システム・バス221に接続されている。モニターに加えて、コンピューターは、スピーカー244およびプリンター243のような、その他の周辺出力装置も含むことができ、これらは出力周辺インターフェース233を通して接続することができる。
[0061] コンピューター241は、リモート・コンピューター246のような1つ以上のリモート・コンピューターへの論理接続を使って、ネットワーク環境において動作することも可能である。リモート・コンピューター246は、パーソナル・コンピューター、サーバー、ルータ、ネットワークPC、ピア・デバイス、またはその他の共通ネットワーク・ノードとすることができ、通例、コンピューター241に関して先に説明したエレメントの多くまたは全てを含むが、図3Bにはメモリー記憶装置247のみを示す。図3Bに示す論理接続は、ローカル・エリア・ネットワーク(LAN)245およびワイド・エリア・ネットワーク(WAN)249を含むが、他のネットワークも含むことができる。このようなネットワーク環境は、事務所、企業規模のコンピューター・ネットワーク、イントラネットおよびインターネットにおいては一般的である。
[0062] LANネットワーク環境で使う場合、コンピューター241は、ネットワーク・インターフェースまたはアダプター237を介してLAN245に接続する。WANネットワーク環境で使う場合、コンピューター241は、通例、モデム250、またはインターネットのようなWAN249を通して通信を設定するその他の手段を含む。モデム250は、内蔵でも外付けでもよく、ユーザー入力インターフェース236またはその他の適切な機構を介してシステム・バス221に接続することができる。ネットワーク環境では、コンピューター241に関係付けて図示したプログラム・モジュール、またはその一部は、リモート・メモリー記憶装置に格納することもできる。一例として、そして限定ではなく、図3Bは、リモート・アプリケーション・プログラム248がメモリー・デバイス247に存在するものとして示している。尚、図示のネットワーク接続は一例であり、コンピューター間で通信リンクを設定する他の手段も使用可能であることは認められよう。
***以上939から流用

[0063] 図4Aは、キャプチャー・デバイス20から生成することができるユーザーのスケルトン・マッピングの一例を示す。この実施形態では、種々の関節および骨が識別され、各手302、各前腕304、各肘306、各上腕二頭筋308、各肩310、各臀部312、各腿314、各膝316、各前肢318、各足320、頭部322、胴324、脊椎の最上部326および最下部328、ならびにウェスト330がある。もっと多くのポイントを追跡する場合、指またはつま先の骨および関節、あるいは鼻および目のような顔の個々の構造というような、追加の構造を識別すればよい。
[0064] ユーザーは、彼の体を動かすことによって、ジェスチャーを行うことができる。ジェスチャーとは、ユーザーによるモーションまたはポーズから成り、画像データーとして取り込み、解析して意味を求めることができる。ジェスチャーは、ボールを投射のを真似するというようなモーションを含み、動的であってもよい。ジェスチャーは、人が胴体324の前で前腕304を組んだままにしているというような、静止ポーズであってもよい。また、ジェスチャーは、偽の剣を振るというように、小道具を組み込んでもよい。また、ジェスチャーは、手302同士を叩くというような、1つよりも多い体部分を含んでもよく、または人がその唇をすぼめるというような些細なモーションであてもよい。
[0065] ジェスチャーは、一般的な計算コンテキストにおける入力に用いることができる。例えば、手302または他の体部分の種々のモーションは、階層リストにおいて上下にナビゲートする、ファイルを開く、ファイルを閉じる、ファイルをセーブするというような、共通するシステム全体のタスクに対応することもできる。また、ゲームによっては、ジェスチャーをビデオ・ゲーム特定のコンテキストで用いることもできる。例えば、運転ゲームでは、手302および足320の種々のモーションが、ある方向に車両を操縦すること、ギアをシフトすること、アクセルを踏むこと、およびブレーキをかけることに対応するとよい。
[0066] ユーザーは、彼自身がその場で歩行または走行することによって、歩行または走行に対応するジェスチャーを生成することができる。ユーザーは、動くことなく歩行を模擬するうために、各足312〜320を交互に上げ下げすればよい。本システムは、各臀部312および各腿314を分析することによって、このジェスチャーを解析することができる。1つの臀部−膝の角度(垂直線に対して測定する。この場合、直立しているときの足の臀部−腿の角度は0度であり、前方に水平に延ばした足の臀部−腿の角度は90度である)が、他方の腿に対してあるしきい値を超えたときに、歩進(step)を認識することができる。歩行または走行は、交互の足によるある回数の連続する歩進の後に、認識することができる。最新の2回の歩進間の時間は、周期と考えることができる。ある回数の周期の後、しきい値角度が満たされない場合、本システムは、歩行または走行ジェスチャーが停止したと判断することができる。
[0067] 「歩行または走行」ジェスチャーを仮定して、アプリケーションは、このジェスチャーと関連のあるパラメータに値を設定することができる。これらのパラメーターは、前述のしきい値角、歩行または走行ジェスチャーを開始するのに必要な歩進数、ジェスチャーを終了するために歩進が行われなかった周期の数、およびジェスチャーが歩行または走行か否か判断するしきい値周期を含むことができる。ユーザーが彼の足を素早く動かしたときの速い周期は走行に対応することができ、それよりも遅い周期は歩行に対応することができる。
[0068] ジェスチャーには、1組のデフォルト・パラメーターを最初に関連付けることができ、アプリケーションは、それ自体のパラメーターで、デフォルト・パラメーターを無効にすることができる。このシナリオでは、アプリケーションはパラメーターを供給することを強制されないが、代わりに、アプリケーションが定めたパラメーターがない場合にジェスチャーを認識することを可能にする1組のデフォルト・パラメーターを使うことができる。
[0069] ジェスチャーと関連付けることができる種々の出力がある。ジェスチャーが行われているか否かについてベースラインの「はいまたはいいえ」があるとよい。また、ユーザーの追跡されている動きがジェスチャーに対応する可能性に対応する、確実度レベルがあってもよい。これは、0および1の間で、0および1を含む浮動小数点数を範囲とする線形目盛りとすることができる。このジェスチャー情報を受け取ったアプリケーションが擬陽性を入力として受け入れることができない場合、少なくとも0.95というような、高い確実度レベルを有する認識されたジェスチャーのみを用いるとよい。アプリケーションが、擬陽性を犠牲にしてでも、そのジェスチャーのあらゆるインスタンスを認識しなければならない場合、僅かに0.2よりも大きいというような、遙かに低い確実度レベルを少なくとも有するジェスチャーを用いてもよい。ジェスチャーは、最新の2回の歩進間の時間についての出力を有することができ、最初の歩進のみが登録されている場合、これを、−1のような、予約値に設定するとよい(何故なら、任意の2回の歩進の間の時間は、正でなければならないからである)。また、ジェスチャーは、最新の歩進間に達した最も高い腿の角についての出力も有することもできる。
[0070] 他のジェスチャー例に、「踵上げジャンプ」(heel lift jump)がある。この場合、ユーザーは、彼の踵を地面から上げるが、彼のつま先を付けたままにすることによって、このジェスチャーを行うことができる。あるいは、ユーザーは空中にジャンプすることもでき、この場合彼の両足320は完全に地上から離れている。本システムは、肩310、臀部312、および膝316の角度関係を分析することによって、このジェスチャーについてスケルトンを解析し、これらが、真っ直ぐに直立するときと等しい並び(alignment)の位置にあるか否か調べることができる。次いで、これらのポイントならびに上下の脊椎ポイント326および328を監視して、あらゆる上方向への加速度を求めることができる。十分な加速度の組み合わせがあると、ジャンプ・ジェスチャーをトリガーすることができる。
[0071] この「踵上げジャンプ」ジェスチャーを仮定すると、アプリケーションは、このジェスチャーと関連のあるパラメーターに値を設定することができる。これらのパラメーターは、このジェスチャーをトリガーするためには、ユーザーの肩310、臀部312、および膝316の何らかの組み合わせが、どの位速く上に動かなければならないかを決定する前述の加速度しきい値、ならびに、ジャンプをまだトリガーすることができる肩310、臀部312、および膝の間の並びの最大角を含むことができる。
[0072] 出力は、確実度レベル、およびジャンプの時点におけるユーザーの体の角度を含むとよい。
[0073] ジェスチャーを受け取るアプリケーションの特性(particulars)に基づいてそのジェスチャーについてのパラメーターを設定することは、ジェスチャーを精度高く識別するには重要である。ジェスチャーおよびユーザーの意図を適正に識別すると、疑いの余地のないユーザー体験を作り出すのに大いに役立つ。ジェスチャー認識システムが敏感過ぎ、手302の些細な前方へのモーションでさえも投げると解釈されると、ユーザーは苛々してくる可能性がある。何故なら、彼がジェスチャーを行う意図がないときにそのジェスチャーが認識されるからであり、つまり彼はシステムを制御できないからである。感度スペクトルのいずれの端部においても、ユーザーは適正に入力をシステムに供給することができないので、苛々してくることになる。
[0074] ジェスチャーに対する他のパラメーターは、動いた距離とするとよい。ユーザーのジェスチャーが仮想環境におけるアバターの行為を制御する場合、そのアバターがボールからの腕の距離であってもよい。ユーザーがボールと相互作用しそれを掴みたい場合、ユーザーが、掴むジェスチャーを行いながら、彼の腕302〜310を最大限延ばすことが必要になる。この状況では、同様の掴むジェスチャーであっても、ユーザーが彼の腕302〜310を部分的に延ばすだけでは、ボールと相互作用するという結果には至らないようにするとよい。
[0075] ジェスチャーまたはその一部が、それが行われなければならない空間のボリュームを、パラメーターとして有してもよい。この空間のボリュームは、通例、体に関して表現することができ、ジェスチャーが体の動きを含む。例えば、右利きのユーザーがフットボールを投げるジェスチャーは、右肩310aよりも高い空間のボリューム、そして頭部322の投げる腕302a〜310aと同じ側だけで認識されればよい。この投射ジェスチャーの場合のように、ボリュームの全ての境界を定める必要はない場合もある。この場合、体から遠ざかる外側の境界は定められないままにされており、ボリュームは定められずに広がるか、または監視されているシーンのエッジまで広がる。
[0076] 図4Bは、図2のジェスチャー認識エンジン190の一実施形態例を更に詳細に示す。図示のように、ジェスチャー認識エンジン190は、1つのジェスチャーまたは複数のジェスチャーを判定するために、少なくとも1つのフィルター418を備えることができる。フィルター418は、ジェスチャー426(以後、「ジェスチャー」と呼ぶ)を定める情報を、そのジェスチャーについてのパラメーター428、またはメタデーターと共に備えている。例えば、投げる場合、一方の手が体の背後から体の前を通過するモーションが含まれ、ユーザーの一方の手が体の背後から体の前を通過する動きを表す情報を含むジェスチャー426として実現することができる。この動きは、深度カメラによって取り込むことができる。次いで、このジェスチャー428に合わせて、パラメーター428を設定することができる。ジェスチャー426が「投げる」の場合、パラメーター428は、手が到達しなければならないしきい値速度、手が移動しなければならない距離(絶対的またはユーザー全体の大きさに対して相対的な距離)、および認識エンジンによる、そのジェスチャーが行われたことの確実度の格付けとすることができる。ジェスチャー426についてのこれらのパラメーター428は、アプリケーション間、1つのアプリケーションのコンテキスト間、または1つのアプリケーションの1つのコンテキスト内において経時的に変わっていってもよい。
[0077] フィルターは、モジュール状または相互交換可能であるとよい。一実施形態では、フィルタは、複数の入力と複数の出力とを有し、これらの入力の各々がタイプを有し、これらの出力の各々がタイプを有する。この状況では、第1フィルタを、この第1フィルタと同じ数および同じタイプの入力と出力とを有する第2フィルタと交換することができ、認識エンジンのアーキテクチャーの他の態様を全く変更することはない。例えば、入力としてスケルトン・データーを取り込み、そのフィルタと関連のあるジェスチャーが行われている確実度と、操縦角度とを出力する駆動用第1フィルターがあってもよい。おそらくは第2駆動フィルタの方が効率的であり必要な処理リソースが少なくて済むために、この第1駆動フィルタを第2駆動フィルタと交換したい場合、第2フィルタが同じ入力および出力、即ち、スケルトン・データー型である1つの入力と、確実度型および角度型である2つの出力を有する限り、単に第1フィルタを第2フィルタと交換することによって、そうすることができる。
[0078] フィルターは、パラメーターを有する必要はない。例えば、ユーザーの身長を戻す「ユーザー身長」フィルターが、調整することができるあらゆるパラメーターを考慮することはない。代わりの「ユーザー身長」フィルタが、ユーザーの身長を判定するときに、ユーザーの靴、髪型、帽子、および姿勢を考慮に入れるべきか否かというような、調整可能なパラメーターを有すればよい。
[0079] フィルターへの入力は、関節において合体する骨によって形成される角度のような、ユーザーの関節位置についての関節データー、シーンからのRGBカラー・データー、およびユーザーの態様の変化率、というような事項が含まれるとよい。フィルターからの出力は、所与のジェスチャーが行われる確実度、ジェスチャーのモーションが行われる速度、およびジェスチャーのモーションが行われた時刻というような事項を含むとよい。
[0080] コンテキストは、風習コンテキスト(cultural context)であってもよく、そして環境コンテキストであってもよい。風習コンテキストとは、システムを使うユーザーの風習に言及する。風習が異なると、同様のジェスチャーを用いても、全く異なる意味を伝えることもあり得る。例えば、アメリカ人のユーザーが他のユーザーに「見る」または「自分の目を使う」ように指示したいとき、彼の目の遠位端に近い彼の頭の上に載せることがある。しかしながら、イタリア人にとって、このジェスチャーはマフィアを仄めかす(reference)と解釈されるかもしれない。
[0081] 同様に、1つのアプリケーションでも異なる環境間には、異なるコンテキストがある場合もある。自動車を運転することを伴うファースト・パーソン・シューター・ゲーム(first-person shooter game)を取り上げる。ユーザーが歩きながら、指を地面に向けて拳を作り、体から離れるように前方にその拳を広げると、パンチを打つジェスチャーを表すことができる。ユーザーが運転のコンテンツにある間では、その同じモーションが「ギア・シフト」モーションを表すこともある。また、1つ以上のメニュー環境がある場合もあり、その場合、ユーザーは彼のゲームをセーブすることができ、彼のキャラクターの装備間で選択することができ、または直接ゲーム・プレーを構成しない同様の行為を行うことができる。その環境では、この同じジェスチャーが、何かを選択するまたは他の画面に進むというような、第3の意味を有することもある。
[0082] ジェスチャー認識エンジン190は、ゲーム・フィルター418に機能を与える基本認識エンジン416を有することができる。一実施形態では、認識エンジン416が実装する機能は、認識されたジェスチャーおよび他の入力を追跡する経時的入力アーカイブ、隠れマルコフ・モデルの実装(モデル化されるシステムは、未知のパラメーターを有するマルコフ・プロセスであると仮定される。このプロセスでは、現在の状態が、今後の状態を判定するために必要なあらゆる過去の状態情報をカプセル化するので、この目的のために他の過去の状態情報を維持しなくてもよい。隠れているパラメーターは、観察可能なデーターから判定される)、およびジェスチャー認識の特定の実例(instance)を解決するために必要とされる他の機能を含む。
[0083] フィルター418は、基本認識エンジン416の上にロードおよび実装され、エンジン416によって全てのフィルター418に提供されるサービスを利用することができる。一実施形態では、基本認識エンジン416は、受け取ったデーターを処理して、それが任意のフィルター418の要件を満たすか否か判定する。入力を解析するというような、これらの提供されるサービスは、各フィルター418によってではなく、基本認識エンジン416によって1回提供されるので、このようなサービスは、ある時間期間に1回だけ処理されればよく、その期間の間フィルター418毎に1回処理されるのではないので、ジェスチャーを判定するために必要とされる処理が減少する。
[0084] アプリケーションは、認識エンジン190によって提供されるフィルター418を用いることができ、またはそれ自体のフィルター418を設け、基本認識エンジン416にプラグインしてもよい。一実施形態では、全てのフィルタ418がこのプラグイン特性をイネーブルするために、共通のインターフェースを有する。更に、全てのフィルター418がパラメーター428を利用することができるので、以下で説明するような1つのジェスチャー・ツールを使って、フィルター・システム418全体をデバッグおよび調整することができる。
[0085] これらのパラメーター428は、ジェスチャー・ツール420によって、アプリケーションに合わせてまたはアプリケーションのコンテキストに合わせて調整することができる。一実施形態では、ジェスチャー・ツール420は、複数のスライダー422を備えており、各スライダー422が1つのパラメーター428に対応する。また、ジェスチャー・ツール420は、体424の描画表現も備えている。パラメーター428が対応するスライダー422によって調節されるに連れて、体424は、これらのパラメーター428によってジェスチャーとして認識される行為、およびこれらのパラメーター428によってジェスチャーとして認識されるのではなく、そのまま識別される行為の双方を表すことができる。このジェスチャーのパラメーター428の可視化によって、ジェスチャーをデバッグし微調整する有効な手段が得られる。
[0086] 図5は、重なり合ったジェスチャーまたはフィルター418から作られた一層複雑なジェスチャーまたはフィルター418を示す。ジェスチャーは互いに重なり合うことができる。即ち、一度に1つよりも多いジェスチャーをユーザーが表すことができる。例えば、投射ジェスチャー(throw gesture)が行われるときに、投げる以外のあらゆる入力を禁止する、またはユーザーが動かずにいることを要求すると、むしろジェスチャーの成分が少なくなる(例えば、1本の腕のみを伴う投射ジェスチャーを行う間静止する)。ジェスチャーが重なる場合、ユーザーはジャンプのジェスチャーと投射ジェスチャーとを同時に行うことができ、これらのジェスチャー双方がジェスチャー・エンジンによって認識される。
[0087] 図5Aは、重ね合わせの枠組み(stacking paradigm)による1つのジェスチャー・フィルター418を示す。IFilterフィルタ502は、あらゆるジェスチャー・フィルターにおいて使うことができる基本的なフィルタ418である。IFilter502は、ユーザー位置データー504を取り込み、ジェスチャーが行われたことの確実度レベル506を出力する。また、この位置データー504をハンドル・フィルター508に供給する。ハンドル・フィルター508は、これを入力として取り込み、ユーザーが操縦している角度(例えば、ユーザーの現在の方位の右に40度)510を出力する。
[0088] 図5Bは、フィルター418を図5Aのジェスチャー・フィルターの上に重ねる更に複雑なジェスチャーを示す。IFilter502およびハンドル508に加えて、ITrackingフィルター512がある。このフィルター512は、IFilter502から位置データー504を受け取り、ユーザーがジェスチャー514によって行った進みの量を出力する。また、ITracking512は、位置データー504をGreaseLightning516およびEBrake518に供給する。これらは、緊急ブレーキを使うというような、車両を運転するときに行われる場合がある他のジェスチャーに関するフィルター418である。
[0089] 図6は、ユーザーがフットボール・ビデオ・ゲームにおいて「フェア・キャッチ」を伝えるために行うことができるジェスチャー例を示す。これらの図は、様々な時点におけるユーザーを示し、図6Aが最初の時点であり、図6Eが最後の時点である。これらの図の各々は、深度カメラ402によって取り込まれた画像データーのスナップショットまたはフレームに対応することができるが、必ずしも連続的な画像データーのフレームとは限らない。何故なら、深度カメラ402は、ユーザーが距離をカバーできるよりも素早くフレームを取り込むことができるからである。例えば、このジェスチャーは3秒の期間にわたって行われることがあり、深度カメラが毎秒40フレームでデーターを取り込む場合、ユーザー602がこのフェア・キャッチ・ジェスチャーを行った間に、60フレームの画像データーを取り込むことになる。
[0090] 図6Aでは、ユーザー602が彼の腕604を彼の両側に下ろした状態で開始する。次いで、ユーザーは、図6Bに示すように、腕を彼の肩の上まで上げ、更に図6Cに示すように、ほぼ彼の頭まで上げる。そこから、図6Dに示すように、彼は彼の腕604を肩のレベルまで下げ、更に図6Eに示すように、ほぼ彼の頭のレベルに再度上げる。このジェスチャーが取り消されたこと、または他のジェスチャーが行われていることを伝えることができる中間位置(intervening position)が全く生ずることなく、システムがユーザー602によるこれらの位置を取り込むと、フェア・キャッチ・ジェスチャー・フィルターに、ユーザー602がフェア・キャッチ・ジェスチャーを行ったことの高い確実度レベルを出力させることができる。
[0091] 図7は、画像データーの各フレームが解析されてユーザーのスケルトン・マップが生成されるときの、図5の「フェア・キャッチ」ジェスチャー例を示す。ユーザーの深度画像からスケルトン・マップを生成し終えると、本システムは、ここで、そのユーザーの体が経時的にどのように動くか判定し、その判定からジェスチャーを解析することができる。
[0092] 図7Aでは、ユーザーの肩310は彼の肘306よりも上にあり、一方、肘306は彼の頭302の上にある。ここで、肩310、肘306、および手302は、図7Bにおいて均一レベルにある。次いで、図7Cにおいて、本システムは、手302が肘よりも上にあり、肘が肩310の上にあることを検出する。図7Dでは、ユーザーは図7Bの位置に戻っており、肩310、肘306、および手302が均一レベルにある。図7Eに示す、このジェスチャーの最終位置では、ユーザーは図7Cの位置に戻り、手302が肘の上にあり、肘は肩310の上にある。
[0093] いずれの1つの画像においてもユーザーが静止して見えるように、キャプチャ・デバイス20が一連の静止画像を取り込む間、ユーザーは、このジェスチャーを行う間動いている(先に論じたような、静止ジェスチャーではない)。本システムは、各静止画像においてこの一連のポーズを取り込むことができ、このポーズから、ユーザーが行っている動きのジェスチャーの確実度レベルを判定することができる。
[0094] 前述のジェスチャーを行うとき、ユーザーが、彼の右肩310a、右肘306a、および右手302aによって形成される角度を、例えば、140度と145度の間で作ることができる可能性は低い。したがって、このフェア・キャッチ・ジェスチャー426にフィルター418を使うアプリケーションは、アプリケーションの細目(specifics)に最良にサーブするように、関連のあるパラメーター428を調整することができる。例えば、図7Cおよび図7Eにおける位置は、ユーザーが彼の手302を彼の肩310よりも上に上げているときにはいつでも、肘306の位置には関係なく、認識することができる。もっと厳格な1組のパラメーターがある場合、両手302が頭310の上にあり、両肘306が双方共両肩310の上で頭322と手302の間になければならないこともある。加えて、フェア・キャッチ・ジェスチャー426のパラメーター428は、ユーザーが図7Aの位置から図7Eの位置まで、1.5秒というような、指定された時間期間以内に動くことを要求することもあり、ユーザーが動いてこれらの位置を通るのに1.5秒よりも長くかかった場合、フェア・キャッチ418として認識されなくなり、非常に低い確実度レベルが出力される可能性がある。
[0095] 図8Aから図8Cは、システムが認識した走行ジェスチャーを行っているユーザーを、異なる動きおよびポーズを取り込むことによって示す。
[0096] 図8Aは、完全走行ジェスチャーを行っているユーザーを示す。ユーザー18は、キャプチャ・デバイス20によって取り込まれる。ユーザー18は、同じ場所で走行することによって、即ち、彼の膝の各々を交互にほぼウェストの高さまで上げて、次いで足を地面まで下ろすことによって、この完全走行ジェスチャーを形成する。完全走行ジェスチャーのこのバージョンは、ユーザー18が、ジェスチャーを構成するモーションを、彼がジェスチャーを続けたい期間だけ繰り返すということから、周期的ジェスチャーである。
[0097] 図8Bは、ショートカット走行ジェスチャーを行っているユーザーを示し、このショートカット走行ジェスチャーは、図8Aの完全走行ジェスチャーの動きの部分集合を含む。ショートカット走行ジェスチャーのこのバージョンを行うには、ユーザー18は、彼の膝がほぼ臀部のレベルになるように彼の足の一方を上げて、このポーズを維持する。このジェスチャー・ショートカットは、図8Aの完全ジェスチャーの動きの内部分集合から成る。図8Aにおけるユーザーは繰り返し彼の両膝を上げたり下ろしたりするが、図8Bでは、ユーザーは彼の膝を1回だけ上げてそのポーズを維持する。図8Aの完全ジェスチャーは周期的な動きを伴うが、この実施形態では、ショートカット・ジェスチャーは、一連の繰り返しではない動きを伴うか、または一連の動きを伴うが、その一連全体は繰り返されない。一実施形態では、ユーザー18がジェスチャーを終了したいとき、ユーザー18は彼の膝を直立ポーズまで下ろす。一実施形態では、この膝を下ろす行為は、完全ジェスチャーの部分集合を構成することもできる。一実施形態では、計算環境12は、ユーザー18が彼の膝をほぼ臀部のレベルで、指定された時間量よりも長く維持したときに、このジェスチャーが、完全ジェスチャーを生成するのではなく、このジェスチャー・ショートカットを終了するためであると判断する。
[0098] 図8Cは、第2タイプのショートカット走行ジェスチャーを行っているユーザーを示す。この第2タイプのショートカット走行ジェスチャーは、図8Aの完全ランニング・ジェスチャーとは別の動きを含む。ここでは、ユーザー18は、一歩前に出て一方の足を他方の前に置き、双方の足を地面に付けて、彼が走行ジェスチャーを生成したい期間だけこのポーズを維持する。この位置は、図8Aの完全走行ジェスチャーでは見られない。ユーザー18は、このジェスチャーを終わらせるには、足を戻して直立姿勢になればよい。このジェスチャーは、図8Bのそれと同様であり、双方共、ジェスチャーを開始する動きを伴い、ジェスチャーを維持するためにポーズを維持し、ジェスチャーを終わらせる動きを伴う。
[0099] 図9は、ジェスチャー・ショートカットの動作手順例を示す。先に論じたように、計算機への1つのジェスチャー入力が、計算機によって、ユーザーによって行われた複数の方法の結果として認識することができる。一実施形態では、ユーザーによってジェスチャーを行うことができるこの複数の方法には、ジェスチャーの完全バージョンおよびジェスチャーのショートカットが含まれる。
[0100] ジェスチャー・ショートカットは、種々のアプリケーション・コンテキストにおいて使うことができる。例えば、走行ジェスチャー・ショートカットは、陸上競技ゲームのような、走行を伴うアプリケーションにおいて使うことができる。アプリケーションのテキスト入力コンテキストでは、テキスト入力ショートカットを使うことができる。例えば、ユーザーは、手話ジェスチャー(sign language gesture)を使ってテキストを入力することができる。手話ジェスチャーの完全バージョンは、H-E-A-R-Tのように、単語の各文字を身振りで示すことを含むとよい。「heart」の手話ジェスチャーのショートカットは、ユーザーが手を心臓の表現に形成するというように、心臓を示す1つのジェスチャーを含むとよい。このようなサイン言語は、アメリカ手話(ASL:American Sign Language)を含むことができる。
[0101] ジェスチャー・ショートカットは、対応する完全バージョンのジェスチャーとは異なる体部分を伴うのであってもよい。例えば、ユーザーが彼の脚部の使用を止めるが、走行ジェスチャーの完全バージョンが同じ位置で走ることを伴う場合、このジェスチャーのショートカットは、ユーザーの手で走るモーションを真似することを含めばよい。
[0102] 任意選択の動作902は、ジェスチャーのショートカットを定めることに対応するユーザー入力を受け取ることを示す。例えば、ユーザーは、計算機によって促されることによって、または彼がそのようにしたいことを計算機に指示することによって、モーションまたはポーズを取ることができ、ジェスチャーを行う1つの方法として、これがキャプチャー・デバイスによって取り込まれて格納される。
[0103] 一実施形態では、ユーザーが彼の動きまたはポーズによってジェスチャーのショートカットを定めた場合、次に本システムにおいてこのジェスチャー・ショートカットをリファインすることができる。例えば、フィルタおよび対応するパラメーターを使ってジェスチャーが認識される場合、ユーザーは、先に論じたような方法で、彼のジェスチャー・ショートカットのパラメーターを調整することができる。
[0104] 一実施形態では、ジェスチャーのショートカットが、第2ジェスチャーの完全バージョンに対応する。1つのジェスチャー・ショートカットが、複数の完全ジェスチャーに対応する場合もあり、ユーザーがショートカットを定めるときに、そのショートカットが複数の完全ジェスチャーに対応することを、ユーザーが示すことができる。例えば、テキスト・ファイルを印刷するコンテキストでは、ユーザーは、用紙の向きを縦にするように選択する完全ジェスチャー、4枚のコピーを印刷することを選択する完全ジェスチャー、および印刷するために特定のプリンターを選択するジェスチャーに対応する1つのジェスチャー・ショートカットを定めることができる。
[0105] ジェスチャー・フィルターおよびパラメーターによってジェスチャーが認識される一実施形態では、ジェスチャーのショートカットおよびジェスチャーの完全バージョンが、同じジェスチャー・フィルターを使うこともできるが、1つ以上のパラメーターには異なる値が用いられる。例えば、「投球」ジェスチャーの完全バージョンでは、ユーザーが彼の手を彼の胴体の後ろからほぼ腕の長さだけ彼の胴体の前に動かすことが必要となることがある。ショートカットでは、手をそれほど後ろにまたは前に延ばす必要がなくなるように、手を動かさなければならない必要な距離を短縮することができる。これは、「最短の手の距離」についてのパラメーター値のような、1つまたは複数のパラメーター値を変更するために実施することができる。
[0106] 動作904は、キャプチャー・デバイスによって取り込まれたデーターを受け取ることを示し、このデーターは、ユーザーが行ったジェスチャーに対応する。キャプチャー・デバイスは、ユーザーが位置する距離における部屋の床から天井まで、および各側の壁までというように、ユーザーの全てを含むシーンを取り込むことができる。また、キャプチャー・デバイスは、ユーザーが机に向かって座っているときの腹部よりも上のユーザーというような、ユーザーの一部のみを含むシーンを取り込むこともできる。また、キャプチャー・デバイスは、ユーザーが彼または彼女の手に持っているプロップ・カメラ(prop camera)のような、ユーザーによって制御される物体を取り込むこともできる。
[0107] 任意選択動作906は、ジェスチャーのショートカットを使ってデーターを処理することを、アプリケーションから決定することを示す。アプリケーションは、何らかの方法で入力として用いられるショートカットを制限することもできる。例えば、陸上競技ゲームでは、走行はそのプロセスに統合されていると見なされることもあり、アプリケーションは走行ジェスチャーのショートカットを禁止またはディスエーブルし、ユーザーが走ることを望むときには、完全な走行ジェスチャーを行うようにユーザーに要求することもできる。対照的に、ファースト・パーソン・シューター・ゲームでは、走行は、ゲームの使用にとって付帯的と見なされることもあり、したがって、走行ジェスチャーのショートカットの使用を許可してもよい。このファースト・パーソン・シューター・ゲームでは、小火器を発射する操作は、このプロセスに統合されていると見なされることもあり、アプリケーションは、狙いを定めるジェスチャーや発火するジェスチャーのショートカットを禁止またはディスエーブルすることもできる。
[0108] 一実施形態では、ユーザーは、先に論じたように、ユーザーが同時に複数のジェスチャーを行うのと同様に、認識されたジェスチャーのショートカットおよびジェスチャーの完全バージョンの双方を行うことができる。ファースト・パーソン・シューターの例を用いると、ユーザーは、走行ジェスチャーのショートカット、および狙いを定めるジェスチャーの完全バージョンを同時に行うことができる。
[0109] 一実施形態では、ジェスチャーのショートカットを使ってデーターを処理するというこの決定は、ユーザーから発せられる。例えば、どのショートカットを処理するかは、ユーザーが選択したアプリケーションの難易度に対応することがある。ユーザーが最も低い難易度を選択した場合、全てのショートカットを処理することができる。ユーザーが難易度を上げていくに連れて、ショートカットを全く処理しない最高の難易度になるまで、処理することが許可されるショートカットの数が減少すればよい。
[0110] この決定は、ユーザーの能力に適合するように、時間と共に変化してもよい。例えば、アプリケーション・セッションの開始時に、デフォルトで許可されているショートカットの設定を行っておき、セッションの間に、ユーザーがジェスチャーをうまく行う能力を示したとき、またはこのような能力の欠如を示したときに、許可されているショートカットを増加または減少させることができる。更に、セッション過程の間にユーザーが疲れるにつれて、または能力が増大するに連れて、許可されているショートカットを、ユーザーの現在の能力状態に対応するように、増加または減少させることができる。
[0111] 動作908は、ユーザーがジェスチャーのショートカットを行ったか否かに対応する出力を決定するために、データーを処理することを示し、このジェスチャーのショートカットは、ジェスチャーの完全バージョンに対応する。一実施形態では、この出力は、ジェスチャーが行われたことの確実度レベルを含むとよい。一実施形態では、これは、ジェスチャーの完全バージョンまたはジェスチャーのショートカットのどちらが観察されたのかについての指示を含むこともできる。
[0112] 動作910は、ジェスチャーのショートカットに対応する出力をアプリケーションに送ることを示す。現在の動作がアプリケーションによって行われると、処理されたユーザー入力を取り込みそれをアプリケーション内部動作にマッピングする、アプリケーションのコンポーネントに出力を送ることができる。
[0113] 任意選択の動作912は、ユーザーがジェスチャーの完全バージョンを行ったか否かに対応する出力を決定するためにデーターを処理し、ジェスチャーの完全バージョンに対応する出力をアプリケーションに送ることを示す。
[0114] 一実施形態では、ジェスチャーのショートカットが、ジェスチャーの完全バージョンを構成するユーザーの動きの部分集合を含むユーザーの動きを含む。
[0115] 一実施形態では、ジェスチャーのショートカットに対応する出力は、ユーザーがそのジェスチャーをトリガーしたことの高い可能性に対応し、ジェスチャーの完全バージョンい対応する出力は、ユーザーがそのジェスチャーをトリガーした高い可能性に対応し、アプリケーションは1つのユーザー・ジェスチャーのみを認識する。ジェスチャーのショートカットが、そのジェスチャーの完全バージョンの部分集合を含む場合、ユーザーがそのジェスチャーの完全バージョンを行うと、そのジェスチャーのショートカットも行うことになる。このため、1つの意図したジェスチャー入力に対して、2つのジェスチャーが認識される可能性がある。一実施形態では、ジェスチャーのショートカットおよびジェスチャーの完全バージョンの双方が、予め定められた時間期間以内に認識された場合(ジェスチャーおよび/またはユーザーにとって特定であってもよい時間期間)、一方のみが入力として用いられ、他方は無視される。
[0116] 一実施形態では、ジェスチャーのショートカットに対応する出力は、ユーザーがそのジェスチャーをトリガーしたことの高い可能性に対応し、ジェスチャーの完全バージョンに対応する出力は、ユーザーがそのジェスチャーをトリガーしたことの高い可能性に対応し、アプリケーションは、ジェスチャーに詳細を追加するために、ジェスチャーの完全バージョンに対応する出力を使う。ジェスチャーのショートカットが、アプリケーションによって入力として認識され処理された場合(対応するアニメーションまたは結果がディスプレイ・デバイス上に表示されるというような場合)、ジェスチャーのショートカットが処理されている間に、ジェスチャーの完全バージョンが認識され、この処理において、ジェスチャーの完全バージョンからの出力を使うことができる。
[0117] 例えば、「ジャンプ」ジェスチャーの完全バージョンは、ジャンプするユーザーを含むことができる。この「ジャンプ」ジェスチャーのショートカットは、ジェスチャーの完全バージョンの内初期のモーション、屈んで飛び上がるモーションを含み、ジェスチャーが行われた確実度レベルを出力することができる。ジャンプ・ジェスチャーのショートカットを観察した結果、アプリケーションは、ユーザーのアバターがジャンプしている様子を表示することによって、これを処理することができる。これが行われている間に、ユーザーが引き続き飛び上がって両足が地面から離れることによって、ジャンプ・ジェスチャーの完全バージョンを完成した場合、アプリケーションは、ユーザーが物理的にジャンプした高さを使って、対応する高さまでジャンプするアバターを表示し、現在処理されているジャンプのショートカットに詳細を追加することができる。ユーザーがジャンプのジェスチャーのショートカットのみを行った場合、アプリケーションはアバターにデフォルトの高さだけジャンプさせればよい。
[0118] 一実施形態では、ユーザーがジェスチャーのショートカットを行った場合、ユーザーがそのジェスチャーの完全バージョンを行った場合よりも、アプリケーション内部における少ない成果に対応してもよい。例えば、獲得したポイントによってユーザーの演技を格付けするスケートボード・ゲームでは、ユーザーがスケートボード・トリック・ジェスチャーのショートカットを使って、所与のトリックを行った場合、スケートボード・トリック・ジェスチャーの完全バージョンを使ってその所与のトリックを行ったときよりも低いポイントを受けるようにすることもできる。
結論
[0119] 以上、種々の図に示したような、好ましい態様に関連付けて、本開示について説明したが、他の同様の態様も用いることができること、あるいは本開示から逸脱することなく、その同じ機能を実行するために、記載した態様に変更や追加を行ってもよいことは言うまでもない。したがって、本開示をいずれの1つの態様にも限定してはならず、逆に、添付した特許請求の範囲にしたがって、その広さおよび範囲を解釈してしかるべきである。例えば、本明細書において記載した種々の手順は、ハードウェアまたはソフトウェア、あるいは双方の組み合わせで実現することができる。つまり、開示した実施形態の方法および装置、あるいはその中のある種の態様または部分は、フロッピー・ディスク、CD−ROM、ハード・ドライブ、または他の機械読み取り可能記憶媒体の内任意のものというような、有形媒体に具体化されるプログラム・コード(即ち、命令)の形態を取ることができる。プログラム・コードがコンピューターのようなマシンにロードされ実行されると、このマシンが、開示した実施形態を実施するように構成された装置となる。本明細書において明示的に説明した特定の実施態様に加えて、ここに開示した明細書を検討することによって、他の態様や実施態様も明白となろう。本明細書および図示した実施態様は、一例のみとして見なされることを意図している。

Claims (15)

  1. ユーザー(18)のジェスチャーをアプリケーションへの入力として取り込むシステムにおいて、ジェスチャー・ショートカットを使用する方法であって、
    キャプチャー・デバイス(20)によって取り込んだデーターを受け取るステップであって、前記データーが、ユーザーが行ったジェスチャーに対応する、ステップ(902)と、
    ユーザーがジェスチャーのショートカットを行ったか否かに対応する出力を決定するために、前記データーを処理するステップ(908)であって、前記ジェスチャーのショートカットが、前記ジェスチャーの完全バージョンに対応する、ステップと、
    前記ジェスチャーのショートカットに対応する前記出力を前記アプリケーションに送るステップ(910)と、
    を含む、方法。
  2. 請求項1記載の方法であって、更に、
    前記ユーザーが前記ジェスチャーの完全バージョンを行ったか否かに対応する出力を決定するために、前記データーを処理するステップと、
    前記ジェスチャーの完全バージョンに対応する前記出力を、前記アプリケーションに送るステップと、
    を含む、方法。
  3. 請求項2記載の方法において、前記ジェスチャーのショートカットが、前記ジェスチャーの完全バージョンを構成するユーザーの動きの部分集合を含むユーザーの動きを含む、方法。
  4. 請求項3記載の方法において、前記ジェスチャーのショートカットに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記ジェスチャーの完全バージョンに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記アプリケーションが、ユーザーが1つのユーザー・ジェスチャーのみを行ったと認識する、方法。
  5. 請求項3記載の方法において、前記ジェスチャーのショートカットに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記ジェスチャーの完全バージョンに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記アプリケーションが、前記ジェスチャーに詳細を追加するために、前記ジェスチャーの完全バージョンに対応する出力を使用する、方法。
  6. 請求項1記載の方法であって、更に、
    前記ジェスチャーのショートカットを定めることに対応するユーザー入力を受け取るステップを含む、方法。
  7. 請求項1記載の方法において、前記ジェスチャーのショートカットが、第2ジェスチャーの完全バージョンにも対応する、方法。
  8. 請求項1記載の方法において、前記ジェスチャーのショートカットが、ジェスチャー・フィルタおよび少なくとも1つのパラメーターに対応し、前記ジェスチャーの完全バージョンが、前記ジェスチャー・フィルタおよび前記少なくとも1つのパラメーターに対応し、前記ジェスチャーのショートカットに対応する少なくとも1つのパラメーターの値が、前記ジェスチャーの完全バージョンに対応する少なくとも1つのパラメーターの値とは異なる、方法。
  9. 請求項1記載の方法であって、更に、
    ユーザーが前記ジェスチャーのショートカットを行ったか否かに対応する前記出力を決定するために前記データーを処理する前に、前記ジェスチャーのショートカットにより前記データーを処理することを、前記アプリケーションから決定するステップを含む、方法。
  10. 請求項9記載の方法において、ユーザーがジェスチャーのショートカットを行ったか否かに対応する出力を決定するために前記データーを処理する前記動作が、そのような処理が望まれることの指示をユーザーから受けた後のみに行われる、方法。
  11. 請求項1記載の方法において、前記ユーザーが前記ジェスチャーのショートカットを行うことは、前記ユーザーが前記ジェスチャーの完全バージョンを行うことよりも小さな成果に対応する、方法。
  12. ユーザー(18)のジェスチャーをアプリケーションへの入力として取り込むシステムにおいて、ジェスチャー・ショートカットを使用するシステムであって、
    ユーザーが行ったジェスチャーに対応するデーターを発生するキャプチャー・デバイス(20)と、
    前記キャプチャー・デバイスによって取り込まれたデーターを受け取り、ユーザーがジェスチャーのショートカットを行ったか否かに対応する出力を決定するために前記データーを処理するプロセッサー(101)であって、前記ジェスチャーのショートカットが、前記ジェスチャーの完全バージョンに対応し、前記ジェスチャーのショートカットに対応する前記出力を前記アプリケーションに送る、プロセッサー(101)と、
    を含む、システム。
  13. 請求項12記載のシステムにおいて、前記プロセッサが、更に、
    ユーザーがジェスチャーの完全バージョンを行ったか否かに対応する出力を決定するために、前記データーを処理し、
    前記ジェスチャーの完全バージョンに対応する前記出力を、前記アプリケーションに送る、システム。
  14. 請求項13記載のシステムにおいて、前記ジェスチャーのショートカットが、前記ジェスチャーの完全バージョンを構成するユーザーの動きの部分集合を含むユーザーの動きを含む、システム。
  15. 請求項13記載のシステムにおいて、前記ジェスチャーのショートカットに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記ジェスチャーの完全バージョンに対応する前記出力が、ユーザーが前記ジェスチャーをトリガーしたことの高い可能性に対応し、前記アプリケーションが、ユーザーが1つのユーザー・ジェスチャーのみを行ったと認識する、システム。
JP2012513349A 2009-05-29 2010-05-29 ジェスチャー・ショートカット Active JP5775514B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/474,781 US9400559B2 (en) 2009-05-29 2009-05-29 Gesture shortcuts
US12/474,781 2009-05-29
PCT/US2010/036774 WO2010138952A2 (en) 2009-05-29 2010-05-29 Gesture shortcuts

Publications (3)

Publication Number Publication Date
JP2012529088A true JP2012529088A (ja) 2012-11-15
JP2012529088A5 JP2012529088A5 (ja) 2013-07-18
JP5775514B2 JP5775514B2 (ja) 2015-09-09

Family

ID=43221718

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012513349A Active JP5775514B2 (ja) 2009-05-29 2010-05-29 ジェスチャー・ショートカット

Country Status (7)

Country Link
US (1) US9400559B2 (ja)
EP (1) EP2435892B1 (ja)
JP (1) JP5775514B2 (ja)
KR (1) KR101658937B1 (ja)
CN (1) CN102449576B (ja)
BR (1) BRPI1011212B1 (ja)
WO (1) WO2010138952A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014510336A (ja) * 2011-02-11 2014-04-24 得鋒 黄 ヒューマンコンピュータインタラクションの制御方法及びその運用

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101633332B1 (ko) * 2009-09-30 2016-06-24 엘지전자 주식회사 단말기 및 그 제어 방법
KR101676881B1 (ko) * 2010-08-17 2016-11-16 엘지전자 주식회사 디스플레이 장치 및 그의 제어 방법
EP2474950B1 (en) * 2011-01-05 2013-08-21 Softkinetic Software Natural gesture based user interface methods and systems
KR101858531B1 (ko) 2011-01-06 2018-05-17 삼성전자주식회사 모션에 의해 제어되는 디스플레이 장치 및 그 모션 제어 방법
KR101795574B1 (ko) 2011-01-06 2017-11-13 삼성전자주식회사 모션에 의해 제어되는 전자기기 및 그 제어 방법
US10146329B2 (en) * 2011-02-25 2018-12-04 Nokia Technologies Oy Method and apparatus for providing different user interface effects for different motion gestures and motion properties
US9857868B2 (en) 2011-03-19 2018-01-02 The Board Of Trustees Of The Leland Stanford Junior University Method and system for ergonomic touch-free interface
US8840466B2 (en) 2011-04-25 2014-09-23 Aquifi, Inc. Method and system to create three-dimensional mapping in a two-dimensional game
US8845431B2 (en) 2011-05-31 2014-09-30 Microsoft Corporation Shape trace gesturing
US8657683B2 (en) 2011-05-31 2014-02-25 Microsoft Corporation Action selection gesturing
US8740702B2 (en) 2011-05-31 2014-06-03 Microsoft Corporation Action trigger gesturing
JP6074170B2 (ja) * 2011-06-23 2017-02-01 インテル・コーポレーション 近距離動作のトラッキングのシステムおよび方法
US11048333B2 (en) 2011-06-23 2021-06-29 Intel Corporation System and method for close-range movement tracking
US8751972B2 (en) 2011-09-20 2014-06-10 Google Inc. Collaborative gesture-based input language
US9628843B2 (en) * 2011-11-21 2017-04-18 Microsoft Technology Licensing, Llc Methods for controlling electronic devices using gestures
US8854433B1 (en) 2012-02-03 2014-10-07 Aquifi, Inc. Method and system enabling natural user interface gestures with an electronic system
EP2650754A3 (en) * 2012-03-15 2014-09-24 Omron Corporation Gesture recognition apparatus, electronic device, gesture recognition method, control program, and recording medium
US9111135B2 (en) 2012-06-25 2015-08-18 Aquifi, Inc. Systems and methods for tracking human hands using parts based template matching using corresponding pixels in bounded regions of a sequence of frames that are a specified distance interval from a reference camera
US9098739B2 (en) 2012-06-25 2015-08-04 Aquifi, Inc. Systems and methods for tracking human hands using parts based template matching
US8836768B1 (en) 2012-09-04 2014-09-16 Aquifi, Inc. Method and system enabling natural user interface gestures with user wearable glasses
US9092665B2 (en) 2013-01-30 2015-07-28 Aquifi, Inc Systems and methods for initializing motion tracking of human hands
US9129155B2 (en) 2013-01-30 2015-09-08 Aquifi, Inc. Systems and methods for initializing motion tracking of human hands using template matching within bounded regions determined using a depth map
RU2013105987A (ru) * 2013-02-12 2014-08-20 Александр Михайлович Пермяков Способ имитации игры в футбол для игровой тренировки футболистов, для игры в футбольное караоке и непосредственного проведения виртуальных футбольных матчей и устройство для его реализации
US10134267B2 (en) 2013-02-22 2018-11-20 Universal City Studios Llc System and method for tracking a passive wand and actuating an effect based on a detected wand path
US9298266B2 (en) 2013-04-02 2016-03-29 Aquifi, Inc. Systems and methods for implementing three-dimensional (3D) gesture based graphical user interfaces (GUI) that incorporate gesture reactive interface objects
KR102163996B1 (ko) * 2013-04-03 2020-10-13 삼성전자 주식회사 사용자 기기의 비접촉식 인식 기능 성능 향상 방법 및 장치
KR102148809B1 (ko) 2013-04-22 2020-08-27 삼성전자주식회사 단축 아이콘 윈도우 표시 장치, 방법 및 컴퓨터 판독 가능한 기록 매체
US9873038B2 (en) 2013-06-14 2018-01-23 Intercontinental Great Brands Llc Interactive electronic games based on chewing motion
US9798388B1 (en) 2013-07-31 2017-10-24 Aquifi, Inc. Vibrotactile system to augment 3D input systems
US9423946B2 (en) 2013-08-12 2016-08-23 Apple Inc. Context sensitive actions in response to touch input
TWI537767B (zh) * 2013-10-04 2016-06-11 財團法人工業技術研究院 可調體感範圍之多人指引系統與其方法
US20160262685A1 (en) 2013-11-12 2016-09-15 Highland Instruments, Inc. Motion analysis systemsand methods of use thereof
US9507417B2 (en) 2014-01-07 2016-11-29 Aquifi, Inc. Systems and methods for implementing head tracking based graphical user interfaces (GUI) that incorporate gesture reactive interface objects
US9619105B1 (en) 2014-01-30 2017-04-11 Aquifi, Inc. Systems and methods for gesture based interaction with viewpoint dependent user interfaces
US9361732B2 (en) * 2014-05-01 2016-06-07 Microsoft Technology Licensing, Llc Transitions between body-locked and world-locked augmented reality
US9430038B2 (en) * 2014-05-01 2016-08-30 Microsoft Technology Licensing, Llc World-locked display quality feedback
US9433870B2 (en) 2014-05-21 2016-09-06 Universal City Studios Llc Ride vehicle tracking and control system using passive tracking elements
US10207193B2 (en) 2014-05-21 2019-02-19 Universal City Studios Llc Optical tracking system for automation of amusement park elements
US9616350B2 (en) 2014-05-21 2017-04-11 Universal City Studios Llc Enhanced interactivity in an amusement park environment using passive tracking elements
US10061058B2 (en) 2014-05-21 2018-08-28 Universal City Studios Llc Tracking system and method for use in surveying amusement park equipment
US9600999B2 (en) 2014-05-21 2017-03-21 Universal City Studios Llc Amusement park element tracking system
US9429398B2 (en) 2014-05-21 2016-08-30 Universal City Studios Llc Optical tracking for controlling pyrotechnic show elements
US10025990B2 (en) 2014-05-21 2018-07-17 Universal City Studios Llc System and method for tracking vehicles in parking structures and intersections
US10238979B2 (en) 2014-09-26 2019-03-26 Universal City Sudios LLC Video game ride
JP6597198B2 (ja) * 2015-11-05 2019-10-30 アイシン精機株式会社 操作入力検知装置及び車両用開閉体制御装置
CN108970112A (zh) * 2018-07-05 2018-12-11 腾讯科技(深圳)有限公司 姿势的调整方法和装置、存储介质、电子装置
EP4281843A1 (en) * 2021-01-20 2023-11-29 Apple Inc. Methods for interacting with objects in an environment
US20230038709A1 (en) * 2021-07-28 2023-02-09 Purdue Research Foundation System and Method for Authoring Freehand Interactive Augmented Reality Applications

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08315154A (ja) * 1995-02-21 1996-11-29 Mitsubishi Electric Res Lab Inc ジェスチャ認識システム
JPH10261090A (ja) * 1997-03-19 1998-09-29 Tokyo Electric Power Co Inc:The モーションキャプチャシステム
JP2002342320A (ja) * 2002-03-25 2002-11-29 Sony Corp 文章入力装置及び方法
JP2003527708A (ja) * 2000-03-13 2003-09-16 アーベー イン クレデブル ジェスチャ認識システム
JP2007503653A (ja) * 2003-05-15 2007-02-22 キネテイツク・リミテツド 非接触ヒューマンコンピュータインターフェイス
JP2007207228A (ja) * 2006-02-01 2007-08-16 Memsic Inc 携帯装置用のエアーライティング及び動き検知入力
JP2007334443A (ja) * 2006-06-12 2007-12-27 Kyushu Institute Of Technology アバター動作制御システム、そのプログラム及び方法
JP2009527041A (ja) * 2006-02-16 2009-07-23 エフティーケー テクノロジーズ エルティーディー. コンピューティングシステムにデータを入力するシステム及び方法
JP2010507163A (ja) * 2006-10-18 2010-03-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表面へのインタラクションを使用した電子的システム制御
JP2012514811A (ja) * 2009-01-07 2012-06-28 マイクロソフト コーポレーション 仮想ページめくり
JP2014021864A (ja) * 2012-07-20 2014-02-03 Mizuho Information & Research Institute Inc 入力支援プログラム及び入力支援装置

Family Cites Families (223)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4288078A (en) * 1979-11-20 1981-09-08 Lugo Julio I Game apparatus
US4695953A (en) * 1983-08-25 1987-09-22 Blair Preston E TV animation interactively controlled by the viewer
US4630910A (en) * 1984-02-16 1986-12-23 Robotic Vision Systems, Inc. Method of measuring in three-dimensions at high speed
US4627620A (en) * 1984-12-26 1986-12-09 Yang John P Electronic athlete trainer for improving skills in reflex, speed and accuracy
US4645458A (en) * 1985-04-15 1987-02-24 Harald Phillip Athletic evaluation and training apparatus
US4702475A (en) * 1985-08-16 1987-10-27 Innovating Training Products, Inc. Sports technique and reaction training system
US4843568A (en) * 1986-04-11 1989-06-27 Krueger Myron W Real time perception of and response to the actions of an unencumbered participant/user
US4711543A (en) * 1986-04-14 1987-12-08 Blair Preston E TV animation interactively controlled by the viewer
US4796997A (en) * 1986-05-27 1989-01-10 Synthetic Vision Systems, Inc. Method and system for high-speed, 3-D imaging of an object at a vision station
US5184295A (en) * 1986-05-30 1993-02-02 Mann Ralph V System and method for teaching physical skills
US4751642A (en) * 1986-08-29 1988-06-14 Silva John M Interactive sports simulation system with physiological sensing and psychological conditioning
US4809065A (en) * 1986-12-01 1989-02-28 Kabushiki Kaisha Toshiba Interactive system and related method for displaying data to produce a three-dimensional image of an object
US4817950A (en) * 1987-05-08 1989-04-04 Goo Paul E Video game control unit and attitude sensor
US5239463A (en) * 1988-08-04 1993-08-24 Blair Preston E Method and apparatus for player interaction with animated characters and objects
US5239464A (en) * 1988-08-04 1993-08-24 Blair Preston E Interactive video system providing repeated switching of multiple tracks of actions sequences
US4901362A (en) * 1988-08-08 1990-02-13 Raytheon Company Method of recognizing patterns
US4893183A (en) * 1988-08-11 1990-01-09 Carnegie-Mellon University Robotic vision system
JPH02199526A (ja) * 1988-10-14 1990-08-07 David G Capper 制御インターフェース装置
US4925189A (en) * 1989-01-13 1990-05-15 Braeunig Thomas F Body-mounted video game exercise device
US5229756A (en) * 1989-02-07 1993-07-20 Yamaha Corporation Image control apparatus
US5469740A (en) * 1989-07-14 1995-11-28 Impulse Technology, Inc. Interactive video testing and training system
JPH03103822U (ja) * 1990-02-13 1991-10-29
US5101444A (en) * 1990-05-18 1992-03-31 Panacea, Inc. Method and apparatus for high speed object location
US5148154A (en) * 1990-12-04 1992-09-15 Sony Corporation Of America Multi-dimensional user interface
US5534917A (en) * 1991-05-09 1996-07-09 Very Vivid, Inc. Video image based control system
US5417210A (en) * 1992-05-27 1995-05-23 International Business Machines Corporation System and method for augmentation of endoscopic surgery
US5295491A (en) * 1991-09-26 1994-03-22 Sam Technology, Inc. Non-invasive human neurocognitive performance capability testing method and system
US6054991A (en) * 1991-12-02 2000-04-25 Texas Instruments Incorporated Method of modeling player position and movement in a virtual reality system
JPH06508788A (ja) 1991-12-03 1994-10-06 フレンチ スポーテク コーポレイション 対話型ビデオ式検査および訓練システム
US5875108A (en) * 1991-12-23 1999-02-23 Hoffberg; Steven M. Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
JPH07325934A (ja) 1992-07-10 1995-12-12 Walt Disney Co:The 仮想世界に向上したグラフィックスを提供する方法および装置
US5999908A (en) 1992-08-06 1999-12-07 Abelow; Daniel H. Customer-based product design module
US5320538A (en) * 1992-09-23 1994-06-14 Hughes Training, Inc. Interactive aircraft training system and method
IT1257294B (it) * 1992-11-20 1996-01-12 Dispositivo atto a rilevare la configurazione di un'unita' fisiologicadistale,da utilizzarsi in particolare come interfaccia avanzata per macchine e calcolatori.
US5495576A (en) * 1993-01-11 1996-02-27 Ritchey; Kurtis J. Panoramic image based virtual reality/telepresence audio-visual system and method
US5690582A (en) * 1993-02-02 1997-11-25 Tectrix Fitness Equipment, Inc. Interactive exercise apparatus
JP2799126B2 (ja) * 1993-03-26 1998-09-17 株式会社ナムコ ビデオゲーム装置及びゲーム用入力装置
US5405152A (en) * 1993-06-08 1995-04-11 The Walt Disney Company Method and apparatus for an interactive video game with physical feedback
US5454043A (en) * 1993-07-30 1995-09-26 Mitsubishi Electric Research Laboratories, Inc. Dynamic and static hand gesture recognition through low-level image analysis
US5423554A (en) * 1993-09-24 1995-06-13 Metamedia Ventures, Inc. Virtual reality game method and apparatus
US5980256A (en) * 1993-10-29 1999-11-09 Carmein; David E. E. Virtual reality system with enhanced sensory apparatus
JP3419050B2 (ja) * 1993-11-19 2003-06-23 株式会社日立製作所 入力装置
US5347306A (en) * 1993-12-17 1994-09-13 Mitsubishi Electric Research Laboratories, Inc. Animated electronic meeting place
JP2552427B2 (ja) * 1993-12-28 1996-11-13 コナミ株式会社 テレビ遊戯システム
US5577981A (en) * 1994-01-19 1996-11-26 Jarvik; Robert Virtual reality exercise machine and computer controlled video system
US5580249A (en) * 1994-02-14 1996-12-03 Sarcos Group Apparatus for simulating mobility of a human
US5597309A (en) * 1994-03-28 1997-01-28 Riess; Thomas Method and apparatus for treatment of gait problems associated with parkinson's disease
US5385519A (en) * 1994-04-19 1995-01-31 Hsu; Chi-Hsueh Running machine
US5524637A (en) * 1994-06-29 1996-06-11 Erickson; Jon W. Interactive system for measuring physiological exertion
JPH0844490A (ja) 1994-07-28 1996-02-16 Matsushita Electric Ind Co Ltd インターフェイス装置
US5563988A (en) * 1994-08-01 1996-10-08 Massachusetts Institute Of Technology Method and system for facilitating wireless, full-body, real-time user interaction with a digitally represented visual environment
US6714665B1 (en) 1994-09-02 2004-03-30 Sarnoff Corporation Fully automated iris recognition system utilizing wide and narrow fields of view
US5516105A (en) * 1994-10-06 1996-05-14 Exergame, Inc. Acceleration activated joystick
US5638300A (en) * 1994-12-05 1997-06-10 Johnson; Lee E. Golf swing analysis system
JPH08161292A (ja) * 1994-12-09 1996-06-21 Matsushita Electric Ind Co Ltd 混雑度検知方法およびそのシステム
US5682229A (en) * 1995-04-14 1997-10-28 Schwartz Electro-Optics, Inc. Laser range camera
US5913727A (en) * 1995-06-02 1999-06-22 Ahdoot; Ned Interactive movement and contact simulation game
JP3481631B2 (ja) 1995-06-07 2003-12-22 ザ トラスティース オブ コロンビア ユニヴァーシティー イン ザ シティー オブ ニューヨーク 能動型照明及びデフォーカスに起因する画像中の相対的なぼけを用いる物体の3次元形状を決定する装置及び方法
US6057909A (en) 1995-06-22 2000-05-02 3Dv Systems Ltd. Optical ranging camera
IL114278A (en) 1995-06-22 2010-06-16 Microsoft Internat Holdings B Camera and method
US5682196A (en) * 1995-06-22 1997-10-28 Actv, Inc. Three-dimensional (3D) video presentation system providing interactive 3D presentation with personalized audio responses for multiple viewers
US5702323A (en) * 1995-07-26 1997-12-30 Poulton; Craig K. Electronic exercise enhancer
US6098458A (en) * 1995-11-06 2000-08-08 Impulse Technology, Ltd. Testing and training system for assessing movement and agility skills without a confining field
US6073489A (en) * 1995-11-06 2000-06-13 French; Barry J. Testing and training system for assessing the ability of a player to complete a task
US6430997B1 (en) 1995-11-06 2002-08-13 Trazer Technologies, Inc. System and method for tracking and assessing movement skills in multidimensional space
US6308565B1 (en) 1995-11-06 2001-10-30 Impulse Technology Ltd. System and method for tracking and assessing movement skills in multidimensional space
WO1999044698A2 (en) 1998-03-03 1999-09-10 Arena, Inc. System and method for tracking and assessing movement skills in multidimensional space
US6176782B1 (en) 1997-12-22 2001-01-23 Philips Electronics North America Corp. Motion-based command generation technology
US5933125A (en) * 1995-11-27 1999-08-03 Cae Electronics, Ltd. Method and apparatus for reducing instability in the display of a virtual environment
US5641288A (en) * 1996-01-11 1997-06-24 Zaenglein, Jr.; William G. Shooting simulating process and training device using a virtual reality display screen
WO1997041925A1 (en) 1996-05-08 1997-11-13 Real Vision Corporation Real time simulation using position sensing
US6173066B1 (en) 1996-05-21 2001-01-09 Cybernet Systems Corporation Pose determination and tracking by matching 3D objects to a 2D sensor
US5982389A (en) * 1996-06-17 1999-11-09 Microsoft Corporation Generating optimized motion transitions for computer animated objects
US5989157A (en) * 1996-08-06 1999-11-23 Walton; Charles A. Exercising system with electronic inertial game playing
EP0959444A4 (en) * 1996-08-14 2005-12-07 Nurakhmed Nurislamovic Latypov METHOD FOR TRACKING AND REPRESENTING THE POSITION AND ORIENTATION OF A SUBJECT IN THE SPACE, METHOD FOR PRESENTING A VIRTUAL SPACE THEREON, AND SYSTEMS FOR CARRYING OUT SAID METHODS
JP3064928B2 (ja) * 1996-09-20 2000-07-12 日本電気株式会社 被写体抽出方式
EP0849697B1 (en) 1996-12-20 2003-02-12 Hitachi Europe Limited A hand gesture recognition system and method
US6009210A (en) * 1997-03-05 1999-12-28 Digital Equipment Corporation Hands-free interface to a virtual reality environment using head tracking
US6100896A (en) * 1997-03-24 2000-08-08 Mitsubishi Electric Information Technology Center America, Inc. System for designing graphical multi-participant environments
US5877803A (en) * 1997-04-07 1999-03-02 Tritech Mircoelectronics International, Ltd. 3-D image detector
US6215898B1 (en) 1997-04-15 2001-04-10 Interval Research Corporation Data processing system and method
JP3077745B2 (ja) 1997-07-31 2000-08-14 日本電気株式会社 データ処理方法および装置、情報記憶媒体
US6188777B1 (en) 1997-08-01 2001-02-13 Interval Research Corporation Method and apparatus for personnel detection and tracking
US6720949B1 (en) 1997-08-22 2004-04-13 Timothy R. Pryor Man machine interfaces and applications
US6289112B1 (en) 1997-08-22 2001-09-11 International Business Machines Corporation System and method for determining block direction in fingerprint images
AUPO894497A0 (en) 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
EP1017973A1 (en) 1997-09-24 2000-07-12 3DV Systems Ltd. Acoustical imaging system
EP0905644A3 (en) 1997-09-26 2004-02-25 Matsushita Electric Industrial Co., Ltd. Hand gesture recognizing device
US6141463A (en) 1997-10-10 2000-10-31 Electric Planet Interactive Method and system for estimating jointed-figure configurations
US6130677A (en) 1997-10-15 2000-10-10 Electric Planet, Inc. Interactive computer vision system
AU9808298A (en) 1997-10-15 1999-05-03 Electric Planet, Inc. A system and method for generating an animatable character
US6101289A (en) 1997-10-15 2000-08-08 Electric Planet, Inc. Method and apparatus for unencumbered capture of an object
AU1099899A (en) 1997-10-15 1999-05-03 Electric Planet, Inc. Method and apparatus for performing a clean background subtraction
US6072494A (en) * 1997-10-15 2000-06-06 Electric Planet, Inc. Method and apparatus for real-time gesture recognition
US6181343B1 (en) 1997-12-23 2001-01-30 Philips Electronics North America Corp. System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs
US6159100A (en) 1998-04-23 2000-12-12 Smith; Michael D. Virtual reality game
US6077201A (en) * 1998-06-12 2000-06-20 Cheng; Chau-Yang Exercise bicycle
US6801637B2 (en) 1999-08-10 2004-10-05 Cybernet Systems Corporation Optical body tracker
US6950534B2 (en) 1998-08-10 2005-09-27 Cybernet Systems Corporation Gesture-controlled interfaces for self-service machines and other applications
US6681031B2 (en) 1998-08-10 2004-01-20 Cybernet Systems Corporation Gesture-controlled interfaces for self-service machines and other applications
US20010008561A1 (en) 1999-08-10 2001-07-19 Paul George V. Real-time object tracking system
US7121946B2 (en) 1998-08-10 2006-10-17 Cybernet Systems Corporation Real-time head tracking system for computer games and other applications
US7036094B1 (en) 1998-08-10 2006-04-25 Cybernet Systems Corporation Behavior recognition system
IL126284A (en) 1998-09-17 2002-12-01 Netmor Ltd System and method for three dimensional positioning and tracking
EP0991011B1 (en) 1998-09-28 2007-07-25 Matsushita Electric Industrial Co., Ltd. Method and device for segmenting hand gestures
US6501515B1 (en) 1998-10-13 2002-12-31 Sony Corporation Remote control system
US6661918B1 (en) 1998-12-04 2003-12-09 Interval Research Corporation Background estimation and segmentation based on range and color
US6147678A (en) 1998-12-09 2000-11-14 Lucent Technologies Inc. Video hand image-three-dimensional computer interface with multiple degrees of freedom
WO2000036372A1 (en) 1998-12-16 2000-06-22 3Dv Systems, Ltd. Self gating photosurface
US6570555B1 (en) 1998-12-30 2003-05-27 Fuji Xerox Co., Ltd. Method and apparatus for embodied conversational characters with multimodal input/output in an interface device
US6363160B1 (en) 1999-01-22 2002-03-26 Intel Corporation Interface using pattern recognition and tracking
US7003134B1 (en) 1999-03-08 2006-02-21 Vulcan Patents Llc Three dimensional object pose estimation which employs dense depth information
US6299308B1 (en) 1999-04-02 2001-10-09 Cybernet Systems Corporation Low-cost non-imaging eye tracker system for computer control
US6614422B1 (en) 1999-11-04 2003-09-02 Canesta, Inc. Method and apparatus for entering data using a virtual input device
US6503195B1 (en) 1999-05-24 2003-01-07 University Of North Carolina At Chapel Hill Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction
US6476834B1 (en) 1999-05-28 2002-11-05 International Business Machines Corporation Dynamic creation of selectable items on surfaces
US6873723B1 (en) 1999-06-30 2005-03-29 Intel Corporation Segmenting three-dimensional video images using stereo
US6738066B1 (en) 1999-07-30 2004-05-18 Electric Plant, Inc. System, method and article of manufacture for detecting collisions between video images generated by a camera and an object depicted on a display
US7113918B1 (en) 1999-08-01 2006-09-26 Electric Planet, Inc. Method for video enabled electronic commerce
US7050606B2 (en) 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
ATE285079T1 (de) 1999-09-08 2005-01-15 3Dv Systems Ltd 3d- bilderzeugungssystem
US6512838B1 (en) * 1999-09-22 2003-01-28 Canesta, Inc. Methods for enhancing performance and data acquired from three-dimensional image systems
US7006236B2 (en) 2002-05-22 2006-02-28 Canesta, Inc. Method and apparatus for approximating depth of an object's placement onto a monitored region with applications to virtual interface devices
US6690618B2 (en) 2001-04-03 2004-02-10 Canesta, Inc. Method and apparatus for approximating a source position of a sound-causing event for determining an input used in operating an electronic device
US7050177B2 (en) 2002-05-22 2006-05-23 Canesta, Inc. Method and apparatus for approximating depth of an object's placement onto a monitored region with applications to virtual interface devices
US20030132950A1 (en) 2001-11-27 2003-07-17 Fahri Surucu Detecting, classifying, and interpreting input events based on stimuli in multiple sensory domains
DE19960180B4 (de) 1999-12-14 2006-03-09 Rheinmetall W & M Gmbh Verfahren zur Herstellung eines Sprenggeschosses
US6674877B1 (en) * 2000-02-03 2004-01-06 Microsoft Corporation System and method for visually tracking occluded objects in real time
US6663491B2 (en) * 2000-02-18 2003-12-16 Namco Ltd. Game apparatus, storage medium and computer program that adjust tempo of sound
US6633294B1 (en) 2000-03-09 2003-10-14 Seth Rosenthal Method and apparatus for using captured high density motion for animation
EP1152261A1 (en) 2000-04-28 2001-11-07 CSEM Centre Suisse d'Electronique et de Microtechnique SA Device and method for spatially resolved photodetection and demodulation of modulated electromagnetic waves
US6640202B1 (en) 2000-05-25 2003-10-28 International Business Machines Corporation Elastic sensor mesh system for 3-dimensional measurement, mapping and kinematics applications
US6731799B1 (en) 2000-06-01 2004-05-04 University Of Washington Object segmentation with background extraction and moving boundary techniques
US6788809B1 (en) 2000-06-30 2004-09-07 Intel Corporation System and method for gesture recognition in three dimensions using stereo imaging and color vision
US7227526B2 (en) 2000-07-24 2007-06-05 Gesturetek, Inc. Video-based image control system
US7058204B2 (en) 2000-10-03 2006-06-06 Gesturetek, Inc. Multiple camera control system
JP3725460B2 (ja) 2000-10-06 2005-12-14 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス
US7039676B1 (en) 2000-10-31 2006-05-02 International Business Machines Corporation Using video image analysis to automatically transmit gestures over a network in a chat or instant messaging session
RU2201618C2 (ru) 2001-03-23 2003-03-27 Супрун Антон Евгеньевич Способ ввода информации в малогабаритный терминал, размещающийся в руке пользователя, в частности радиотелефонную трубку, пейджер, органайзер
US6539931B2 (en) * 2001-04-16 2003-04-01 Koninklijke Philips Electronics N.V. Ball throwing assistant
US8035612B2 (en) 2002-05-28 2011-10-11 Intellectual Ventures Holding 67 Llc Self-contained interactive video display system
US7259747B2 (en) 2001-06-05 2007-08-21 Reactrix Systems, Inc. Interactive video display system
WO2003001722A2 (en) 2001-06-22 2003-01-03 Canesta, Inc. Method and system to display a virtual input device
JP3420221B2 (ja) 2001-06-29 2003-06-23 株式会社コナミコンピュータエンタテインメント東京 ゲーム装置及びプログラム
US6937742B2 (en) 2001-09-28 2005-08-30 Bellsouth Intellectual Property Corporation Gesture activated home appliance
WO2003054683A2 (en) 2001-12-07 2003-07-03 Canesta Inc. User interface for electronic devices
WO2003071410A2 (en) 2002-02-15 2003-08-28 Canesta, Inc. Gesture recognition system using depth perceptive sensors
US20030169906A1 (en) 2002-02-26 2003-09-11 Gokturk Salih Burak Method and apparatus for recognizing objects
US7310431B2 (en) 2002-04-10 2007-12-18 Canesta, Inc. Optical methods for remotely measuring objects
DE50302813D1 (de) 2002-04-19 2006-05-18 Iee Sarl Sicherheitsvorrichtung für ein fahrzeug
US7348963B2 (en) 2002-05-28 2008-03-25 Reactrix Systems, Inc. Interactive video display system
US7710391B2 (en) 2002-05-28 2010-05-04 Matthew Bell Processing an image utilizing a spatially varying pattern
US7170492B2 (en) 2002-05-28 2007-01-30 Reactrix Systems, Inc. Interactive video display system
US7489812B2 (en) 2002-06-07 2009-02-10 Dynamic Digital Depth Research Pty Ltd. Conversion and encoding techniques
US7623115B2 (en) 2002-07-27 2009-11-24 Sony Computer Entertainment Inc. Method and apparatus for light input device
US7646372B2 (en) 2003-09-15 2010-01-12 Sony Computer Entertainment Inc. Methods and systems for enabling direction detection when interfacing with a computer program
US7883415B2 (en) 2003-09-15 2011-02-08 Sony Computer Entertainment Inc. Method and apparatus for adjusting a view of a scene being displayed according to tracked head motion
US7151530B2 (en) 2002-08-20 2006-12-19 Canesta, Inc. System and method for determining an input selected by a user through a virtual interface
EP1408443B1 (en) * 2002-10-07 2006-10-18 Sony France S.A. Method and apparatus for analysing gestures produced by a human, e.g. for commanding apparatus by gesture recognition
US7576727B2 (en) 2002-12-13 2009-08-18 Matthew Bell Interactive directed light/sound system
JP4235729B2 (ja) 2003-02-03 2009-03-11 国立大学法人静岡大学 距離画像センサ
US8745541B2 (en) * 2003-03-25 2014-06-03 Microsoft Corporation Architecture for controlling a computer using hand gestures
US7886236B2 (en) 2003-03-28 2011-02-08 Microsoft Corporation Dynamic feedback for gestures
DE602004006190T8 (de) 2003-03-31 2008-04-10 Honda Motor Co., Ltd. Vorrichtung, Verfahren und Programm zur Gestenerkennung
US7372977B2 (en) * 2003-05-29 2008-05-13 Honda Motor Co., Ltd. Visual tracking using depth data
US8072470B2 (en) 2003-05-29 2011-12-06 Sony Computer Entertainment Inc. System and method for providing a real-time three-dimensional interactive environment
EP1631937B1 (en) 2003-06-12 2018-03-28 Honda Motor Co., Ltd. Target orientation estimation using depth sensing
US7874917B2 (en) 2003-09-15 2011-01-25 Sony Computer Entertainment Inc. Methods and systems for enabling depth and direction detection when interfacing with a computer program
WO2005041579A2 (en) 2003-10-24 2005-05-06 Reactrix Systems, Inc. Method and system for processing captured image information in an interactive video display system
KR20050065198A (ko) 2003-12-24 2005-06-29 한국전자통신연구원 사용자의 움직임을 이용한 3차원 동작명령 인식기
JP3847753B2 (ja) 2004-01-30 2006-11-22 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス
FI117308B (fi) * 2004-02-06 2006-08-31 Nokia Corp Eleohjausjärjestelmä
US7379563B2 (en) 2004-04-15 2008-05-27 Gesturetek, Inc. Tracking bimanual movements
US7308112B2 (en) * 2004-05-14 2007-12-11 Honda Motor Co., Ltd. Sign based human-machine interaction
US7519223B2 (en) 2004-06-28 2009-04-14 Microsoft Corporation Recognizing gestures and using gestures for interacting with software applications
US7704135B2 (en) 2004-08-23 2010-04-27 Harrison Jr Shelton E Integrated game system, method, and device
WO2006025137A1 (ja) 2004-09-01 2006-03-09 Sony Computer Entertainment Inc. 画像処理装置、ゲーム装置および画像処理方法
US7319385B2 (en) * 2004-09-17 2008-01-15 Nokia Corporation Sensor data sharing
EP1645944B1 (en) 2004-10-05 2012-08-15 Sony France S.A. A content-management interface
JP4449723B2 (ja) 2004-12-08 2010-04-14 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
KR20060070280A (ko) 2004-12-20 2006-06-23 한국전자통신연구원 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법
WO2006074310A2 (en) 2005-01-07 2006-07-13 Gesturetek, Inc. Creating 3d images of objects by illuminating with infrared patterns
BRPI0606477A2 (pt) 2005-01-07 2009-06-30 Gesturetek Inc sensor de inclinação baseado em fluxo ótico
WO2006074289A2 (en) 2005-01-07 2006-07-13 Gesturetek, Inc. Detecting and tracking objects in images
CN1306367C (zh) 2005-02-06 2007-03-21 赖银樑 多功能人机交互式运动器材
CN101536494B (zh) 2005-02-08 2017-04-26 奥布隆工业有限公司 用于基于姿势的控制系统的系统和方法
US8009871B2 (en) 2005-02-08 2011-08-30 Microsoft Corporation Method and system to segment depth images and to detect shapes in three-dimensionally acquired data
KR100688743B1 (ko) 2005-03-11 2007-03-02 삼성전기주식회사 멀티 레이어 커패시터 내장형의 인쇄회로기판의 제조방법
JP4686595B2 (ja) * 2005-03-17 2011-05-25 本田技研工業株式会社 クリティカルポイント解析に基づくポーズ推定
WO2006124935A2 (en) 2005-05-17 2006-11-23 Gesturetek, Inc. Orientation-sensitive signal output
EP1752748B1 (en) 2005-08-12 2008-10-29 MESA Imaging AG Highly sensitive, fast pixel for use in an image sensor
US20080026838A1 (en) 2005-08-22 2008-01-31 Dunstan James E Multi-player non-role-playing virtual world games: method for two-way interaction between participants and multi-player virtual world games
US7450736B2 (en) 2005-10-28 2008-11-11 Honda Motor Co., Ltd. Monocular tracking of 3D human motion with a coordinated mixture of factor analyzers
GB2431717A (en) 2005-10-31 2007-05-02 Sony Uk Ltd Scene analysis
US8094928B2 (en) * 2005-11-14 2012-01-10 Microsoft Corporation Stereo video for gaming
US20070117628A1 (en) * 2005-11-19 2007-05-24 Stanley Mark J Method and apparatus for providing realistic gun motion input to a video game
US20070130547A1 (en) * 2005-12-01 2007-06-07 Navisense, Llc Method and system for touchless user interface control
WO2007082037A2 (en) * 2006-01-10 2007-07-19 Cirque Corporation Touchpad control of character actions in a virtual environment using gestures
JP4917615B2 (ja) 2006-02-27 2012-04-18 プライム センス リミティド スペックルの無相関を使用した距離マッピング(rangemapping)
US8146018B2 (en) * 2006-04-28 2012-03-27 Nintendo Co., Ltd. Gesture-based control of multiple game characters and other animated objects
EP2194509A1 (en) 2006-05-07 2010-06-09 Sony Computer Entertainment Inc. Method for providing affective characteristics to computer generated avatar during gameplay
US7721207B2 (en) 2006-05-31 2010-05-18 Sony Ericsson Mobile Communications Ab Camera based control
US8169421B2 (en) * 2006-06-19 2012-05-01 Cypress Semiconductor Corporation Apparatus and method for detecting a touch-sensor pad gesture
US20080040692A1 (en) * 2006-06-29 2008-02-14 Microsoft Corporation Gesture input
US7701439B2 (en) * 2006-07-13 2010-04-20 Northrop Grumman Corporation Gesture recognition simulation system and method
US9696808B2 (en) * 2006-07-13 2017-07-04 Northrop Grumman Systems Corporation Hand-gesture recognition method
US8395658B2 (en) 2006-09-07 2013-03-12 Sony Computer Entertainment Inc. Touch screen-like user interface that does not require actual touching
JP5395323B2 (ja) 2006-09-29 2014-01-22 ブレインビジョン株式会社 固体撮像素子
US20080134102A1 (en) 2006-12-05 2008-06-05 Sony Ericsson Mobile Communications Ab Method and system for detecting movement of an object
US8351646B2 (en) * 2006-12-21 2013-01-08 Honda Motor Co., Ltd. Human pose estimation and tracking using label assignment
US7412077B2 (en) 2006-12-29 2008-08-12 Motorola, Inc. Apparatus and methods for head pose estimation and head gesture detection
US20090262074A1 (en) * 2007-01-05 2009-10-22 Invensense Inc. Controlling and accessing content using motion processing on mobile devices
GB0703974D0 (en) 2007-03-01 2007-04-11 Sony Comp Entertainment Europe Entertainment device
US7729530B2 (en) 2007-03-03 2010-06-01 Sergey Antonov Method and apparatus for 3-D data input to a personal computer with a multimedia oriented operating system
US7895518B2 (en) * 2007-04-27 2011-02-22 Shapewriter Inc. System and method for preview and selection of words
US7852262B2 (en) 2007-08-16 2010-12-14 Cybernet Systems Corporation Wireless mobile indoor/outdoor tracking system
CN101842810B (zh) 2007-10-30 2012-09-26 惠普开发有限公司 具有协作姿态检测的交互式显示系统
US20090221368A1 (en) * 2007-11-28 2009-09-03 Ailive Inc., Method and system for creating a shared game space for a networked game
GB2455316B (en) * 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
US8149210B2 (en) 2007-12-31 2012-04-03 Microsoft International Holdings B.V. Pointing device and method
TW200937254A (en) * 2008-02-29 2009-09-01 Inventec Appliances Corp A method for inputting control commands and a handheld device thereof
US9772689B2 (en) * 2008-03-04 2017-09-26 Qualcomm Incorporated Enhanced gesture-based image manipulation
CN201254344Y (zh) 2008-08-20 2009-06-10 中国农业科学院草原研究所 植物标本及种子存贮器

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08315154A (ja) * 1995-02-21 1996-11-29 Mitsubishi Electric Res Lab Inc ジェスチャ認識システム
JPH10261090A (ja) * 1997-03-19 1998-09-29 Tokyo Electric Power Co Inc:The モーションキャプチャシステム
JP2003527708A (ja) * 2000-03-13 2003-09-16 アーベー イン クレデブル ジェスチャ認識システム
JP2002342320A (ja) * 2002-03-25 2002-11-29 Sony Corp 文章入力装置及び方法
JP2007503653A (ja) * 2003-05-15 2007-02-22 キネテイツク・リミテツド 非接触ヒューマンコンピュータインターフェイス
JP2007207228A (ja) * 2006-02-01 2007-08-16 Memsic Inc 携帯装置用のエアーライティング及び動き検知入力
JP2009527041A (ja) * 2006-02-16 2009-07-23 エフティーケー テクノロジーズ エルティーディー. コンピューティングシステムにデータを入力するシステム及び方法
JP2007334443A (ja) * 2006-06-12 2007-12-27 Kyushu Institute Of Technology アバター動作制御システム、そのプログラム及び方法
JP2010507163A (ja) * 2006-10-18 2010-03-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表面へのインタラクションを使用した電子的システム制御
JP2012514811A (ja) * 2009-01-07 2012-06-28 マイクロソフト コーポレーション 仮想ページめくり
JP2014021864A (ja) * 2012-07-20 2014-02-03 Mizuho Information & Research Institute Inc 入力支援プログラム及び入力支援装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014510336A (ja) * 2011-02-11 2014-04-24 得鋒 黄 ヒューマンコンピュータインタラクションの制御方法及びその運用

Also Published As

Publication number Publication date
EP2435892A2 (en) 2012-04-04
JP5775514B2 (ja) 2015-09-09
KR20120026072A (ko) 2012-03-16
CN102449576A (zh) 2012-05-09
CN102449576B (zh) 2017-02-22
EP2435892B1 (en) 2019-06-26
BRPI1011212B1 (pt) 2020-05-05
US9400559B2 (en) 2016-07-26
RU2011148344A (ru) 2013-06-10
WO2010138952A3 (en) 2011-03-31
BRPI1011212A2 (pt) 2016-03-15
KR101658937B1 (ko) 2016-09-22
WO2010138952A2 (en) 2010-12-02
EP2435892A4 (en) 2016-06-08
US20100306714A1 (en) 2010-12-02

Similar Documents

Publication Publication Date Title
JP5775514B2 (ja) ジェスチャー・ショートカット
US10691216B2 (en) Combining gestures beyond skeletal
US9824480B2 (en) Chaining animations
US8856691B2 (en) Gesture tool
US9280203B2 (en) Gesture recognizer system architecture
US7971157B2 (en) Predictive determination
JP5827616B2 (ja) 仮想オブジェクトの操作
JP2012516507A (ja) 標準的なジェスチャー
RU2574830C2 (ru) Жестовые сокращения

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150311

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150703

R150 Certificate of patent or registration of utility model

Ref document number: 5775514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250