JP4874450B2 - オプション選択に基づくジェスチャー方法及び装置 - Google Patents
オプション選択に基づくジェスチャー方法及び装置 Download PDFInfo
- Publication number
- JP4874450B2 JP4874450B2 JP53352599A JP53352599A JP4874450B2 JP 4874450 B2 JP4874450 B2 JP 4874450B2 JP 53352599 A JP53352599 A JP 53352599A JP 53352599 A JP53352599 A JP 53352599A JP 4874450 B2 JP4874450 B2 JP 4874450B2
- Authority
- JP
- Japan
- Prior art keywords
- user
- arm
- projection
- determining
- option
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
- A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/10—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
- A63F2300/1012—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/10—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
- A63F2300/1087—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/10—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
- A63F2300/1087—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
- A63F2300/1093—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera using visible light
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/60—Methods for processing data by generating or executing the game program
- A63F2300/6045—Methods for processing data by generating or executing the game program for mapping control signals received from the input arrangement into game commands
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/8029—Fighting without shooting
Description
本発明は、ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにするに当たり、
− 前記一組の選択可能なオプションを各オプション位置に表示するステップと、
− 前記ユーザが前記特定のオプションを物理的に指定することを許容される間に前記ユーザの像を撮影するステップと、
− 前記ユーザが前記特定のオプションを選択したか否かを前記像から確定するステップと、
− 前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定するステップとを具える方法に関するものである。
また、本発明は、ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする装置であって、
− 前記一組の選択可能なオプションを各オプション位置に表示する表示手段と、
− 前記ユーザの像を撮影する撮像手段と、
− 前記ユーザが前記特定のオプションを選択したか否かを前記像から確定する確定手段と、
− 前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定する決定手段とを具える装置に関するものである。
そのような方法及び装置は、米国特許出願明細書第5,528,263号に記載されている。既知の装置は、ボタンと称される1個以上の選択可能なオプションを有するビデオイメージを投影スクリーン上に投影する投影機を有する。装置は、スクリーン上に投影された像のイメージを記録するカメラを具える。さらに、装置を配置して、カメラに記録された像と投影機に供給された元の像とを比較する。投影された像に並んで立つユーザは、投影スクリーンと異なる光反射を発生させるオブジェクトを特定の選択可能なオプションにカバーすることによって装置に関係する。オブジェクトを、ユーザの手又はペンや定規のような専用の指示装置とすることができる。カメラ像と元の像とを比較する際、特定のオプションのカバーを検知し、そのオプションに対応する動作を装置によって実行する。これを、表示を形成する一連の像における次のビデオイメージの投影とすることができる。既知の装置において、カメラは、単一フレーム中に投影ビデオイメージ及びユーザを記録する必要がある。これは、投影スクリーンの付近に留まる必要があるユーザの移動を制限する。さらに、ユーザは、投影されたイメージにおいて特定のオプションをカバーして、このオプションの選択を表示する必要がある。これは、ユーザがそのオプションに近接して存在することも要求する。さらに、ユーザは、スクリーン上のこのオプション又は他のオプションを身体の一部で故意にカバーしないように注意するとともに、スクリーン上の1個以上のオプションに対するカメラの視野を遮断することを回避する必要がある。そのような既知の装置との関連に対して、ユーザが移動できる領域及び選択可能なオプションの位置が制限される。
発明の要約
本発明の目的は、ユーザによる指定を決定する向上した方法を有する既に説明したような方法を提供することである。この目的を、前記像に基づいて、前記ユーザの身体の形状の位置を3次元空間で決定するステップと前記ユーザが前記特定のオプションを選択したか否かを前記像から確定するステップを更に具え、前記身体の形状の位置及び前記特定のオプションの位置に基づいて実行する本発明による方法によって達成する。ユーザが特定のオプションを指定したか否かの決定がユーザの像のみに基づくものであるので、選択可能なオプションがその像中にあることを要求することなく、ユーザは、既知の方法に比べて大きな移動の自由度が与えられる。3次元におけるユーザの身体の形状の位置を確立することによって、このオプションが像に存在しない間にユーザが特定のオプションを指定したか否かを決定することができる。3次元空間におけるオプションの指定は、ある入力装置を操作する必要がなく、ユーザの選択として非常に自然であるとともに直感的な方法である。これは、コンピュータの操作になれないユーザに対して特に有利である。さらに、専用の入力装置及び他の移動装置が存在しないことによって、この方法を公共の場所で適用するのに非常に魅力的である。その理由は、これら装置が取り去られたり損傷されたりするおそれがないからである。
このようなユーザの像に基づいてアプリケーションを制御することは既知である。国際特許出願公開明細書第96/30856号は、1個以上の身体の部分を動かすことによってユーザが見るスクリーン上のグラフィック、例えば、動画キャラクターをユーザが制御する装置を記載している。この装置には、ユーザの像を撮影するカメラが搭載されている。その像のユーザのシルエットが分析され、像の1個以上の特定の領域の身体の部分の位置及び動作が、グラフィックを制御する入力として用いられる。ユーザが仮定することができるポーズはシルエット中で簡単に識別することができ、表示されたオプションへの指定はない。装置は、ユーザの像をシルエットとしてのみ2次元で分析し、3次元におけるユーザの身体の位置の決定は行われない。この方法と本発明による方法との間の重大な差は次の通りである。
− 関係の形式が相違する。既知の方法では、特定のシルエットを生じるポーズによってアプリケーション中に対応するコマンド及び動作が生じ、これによって、ポーズと結果的に生じる動作との間に自然な一致がなく、それに対して、本発明は、選択すべきオプションに対する自然な指定が行われる。
− 既知の方法では、各身体の部分のシルエットが像の対応する領域にあると仮定するために身体のポーズ及び位置が制限され、それに対して、本発明は、ユーザが仮定することができる位置及びポーズが非常に自由である。
− 既知の方法では、ユーザのポーズの分析が像の2次元においてのみ行われるが、それに対して、本発明では、身体のポーズは、ユーザが関係する3次元空間で決定され、したがって、非常に直感的なインタフェースをユーザに与える。その理由は、それは人間の感覚に従うからである。
本発明による方法を、ユーザが装置と関係する種々のアプリケーションに用いることができる。それはコマンドを装置に入力するのに用いられるが、個別の入力装置を必要としない。例示すると、図書館、画廊、博物館のような公共の建物の情報検索装置及び遊歩商店街、小売店、デパートのような公共の買い物地域のショッピングシステムがある。他のアプリケーションは、ユーザが所望の食品アイテムを指定することができるファーストフードプロバイダーのような公共事業設備や、ホームシアター装置を有するインタラクションのような家庭の使用を含む。
本発明による方法の一例において、前記一組の選択可能なオブジェクトを、前記ユーザに対向するビデオスクリーン上に表示する。選択可能なオプションをスクリーン上に表示することによって、これらオプションをユーザに対して柔軟に表示する。この表示を、現在選択を行っているユーザに対して容易に適合させることができる。表示されたオプションの高さをスクリーンの前に立つユーザの高さに整合することができ、スクリーン上に表示されたオプションのサイズを、スクリーンからのユーザが立っている位置までの距離に適合させることができる。さらに、この方法を用いる装置を容易に維持することができる。その理由は、スクリーン上の一組の選択可能なオプションの変更が、更に容易になるとともに一組の選択可能なオプションのハードウェアセットアップを変更するよりも廉価であるからである。
本発明による方法の一例において、前記身体の形状を前記ユーザの腕の端部とする。ユーザが1本以上の指及び手によって指定することができることによって、非常に自然で直感的な指定が行われる。指定する腕の端部、すなわち、指又は腕を像から認識することができ、その位置を計算することができる。
本発明による方法の一例は、前記像に基づいて、前記ユーザの足の位置、前記像の像平面上への前記ユーザの腕の投影及び前記像の像平面上の前記ユーザの身体の長軸を決定するステップを更に具え、前記身体の形状の位置を決定するステップが、
− 前記特定のオプションの位置と前記足の位置との間の距離を決定するステップと、
− 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定するステップと、
− 前記ユーザの腕の長さの見積もり値及び決定された前記腕の投影の長さに基づいて、前記ユーザの腕と前記像の像平面との間の第2の角度を決定するステップとを具える。足の位置に基づいて身体と特定のオプションとの間の距離を決定するステップ及び指定する腕の二つの角度に基づいて身体に対する身体の指定する身体形状の位置を決定するステップは、3次元空間でこのように指定する身体の形状の位置を決定するのに信頼のおける方法であることが確認された。
本発明によるイメージ検索装置の一例は、前記ユーザの高さを決定する初期化ステップを具え、前記腕の長さの見積もり値を、前記ユーザの高さに基づく生物測定学データから得る。必要な腕の長さに対する見積もりを生物測定学データから得ることが適切であることが確認されている。そのような生物測定学データは、数年に亘って多数の相違する人の測定に起因するものであり、多数の場所、例えば図書館でアクセスすることができる。
本発明の他の目的は、ユーザによる指定を決定する向上した機構を有する既に説明したような装置を提供することである。この目的を、前記像に基づいて、前記ユーザの身体の形状の位置を3次元空間で決定する形状決定手段と前記確定手段を、前記身体の形状の位置及び前記特定のオプションの位置に基づいて前記ユーザが前記特定のオプションを指定したか否かを確定するように配置したことを特徴とする本発明による装置によって達成する。装置が、ユーザの像に基づいて、特に、指定する身体の形状の位置を決定することによって、ユーザが特定のアイテムを指定したか否かを決定するので、指定中のユーザの位置及びポーズに対する柔軟性が高くなる。さらに、装置との関連を非接触で行い、すなわち、押すべきボタン又は操作すべき指定装置がない。これによって、装置が強固になるとともに公共の場所における使用に適するようになる。その理由は、装置のパーツが取り去られたり損傷したりするおそれが少なくなるからである。
本発明による装置の一例は、前記表示手段が、前記一組の選択可能なオブジェクトを表示するように前記ユーザに対向するビデオスクリーンを具える。一組の選択可能なオプションを表示するビデオスクリーンによって装置の維持が容易になる。セットの内容すなわち出現の変更を、スクリーン上にイメージを発生させるソフトウェアを変更することによって行い、装置のハードウェア部の任意の変更を必要としない。
本発明の他の好適な実施の形態を以下説明する。
【図面の簡単な説明】
本発明及びそれに付随する利点を、実施の形態及び添付図面を参照して詳細に説明する。
図1は、本発明による装置を線形的に示す。
図2は、本発明による方法の主要ステップを有するフローチャートを示す。
図3は、カメラによって撮影された像の分析の中間結果を示す。
図4は、指定する手の位置を計算するステップを示す。
図5は、手の位置に基づく指定されたオプションの決定を示す。
図6は、本発明による装置の最重要構成要素を示す。
図面中、対応する形態に同一符号を付すものとする。
好適な実施の形態の説明
図1は、本発明による装置を線形的に示す。装置100は、2×3mのビデオスクリーン102と、インタラクションエリア104とを有する。装置は、ビデオスクリーンの前方でインタラクションエリアに立つユーザ108の像を撮影するカメラ106を有する。装置は一組の選択可能なオプション110をビデオスクリーン上に表示し、ユーザはそれを指示することによってオプションを選択する。選択可能なオプション及び適用可能な場合の他のサポーティング情報の説明を有する追加のオブジェクト112を表示するように装置を配置する。撮影されたユーザのカメライメージ114は、装置の視覚識別部116で分析される。視覚識別部は、ユーザの現在の姿勢を決定し、3次元空間におけるユーザの指示する手の位置を計算する。装置のアプリケーション部118において、3次元データは、ビデオスクリーン上に表示された選択可能なオプションのうちの1個をユーザが指定したか否かを決定するのに用いられる。アプリケーション部は、視覚識別部から受信したユーザの手が指定する位置及びアプリケーション部がオプションの表示を発生させるために既知である選択可能なオプションの各々の位置に基づいた計算を行う。選択した特定のオプションに基づいて、アプリケーション部は、対応する動作を実行する。選択されるオプションがメニュー階層中の選択である場合、メニュー階層中の次のレベルを表す新たな一組の選択可能な表示動作を行う。選択されるオプションが特定の情報アイテムに対する要求を表す場合、この情報アイテムの検索及びそれに続くビデオスクリーン上への情報アイテムの表示動作を行う。
オプションの選択は2段階で行われる。第1段階において、ユーザは所望のオプションを指定し、第2段階では、ユーザは、これが所望のオプションであることを確認する。この2段階のアプローチは、不所望な選択を回避し、かつ、マウスに対して用いられる指定及びクリックに似ている。本発明による装置の実施の形態において、予め設定された期間中にユーザの所望のオプションの指定を維持することによって確認が行われる。この期間が経過すると、装置は、ユーザによる確認を認識し、対応する動作を実行する。確認の他の方法が考察され、現在のところそれは考察中である。第1の代案は、ユーザが指によって所望のオプションを丸で囲むことである。ユーザが丸を完成させると、確認が行われ、かつ、所望のオプションが選択される。第2の代案は、確認のために音声入力を用いることである。この場合、ユーザは、所望のオプションを指定する間「これ」と声を発する。この語句を発することによって確認が行われ、所望のオプションが選択される。
図2は、本発明による方法の主要ステップを有するフローチャートを示す。ステップ202において、選択可能なオプションをビデオスクリーン上に表示し、次いで、ステップ204において、インタラクションエリアでスクリーンの前に立つユーザから像を撮影する。装置のカメラは、インタラクションエリアのシーンを連続的に記録し、適切な瞬時に装置が分析用の単一像を取り出す。ステップ206において、この像が分析され、3次元空間におけるユーザの手の指定する位置を決定する。このステップ206を、後に図3及び4を用いて更に詳細に説明する。次いで、ステップ208は、像のユーザが特定のオプションを指定しているか否か検査する。指定していない場合、処理は新たな像を取り出すためにステップ204に戻り、処理を繰り返す。ステップ208においてユーザが特定のオプションを指定していることを決定した場合、そのオプションに対応する動作をステップ210で実行する。次いで、ステップ212において、新たな一組の選択可能なオプションを有する新たなビデオイメージをビデオスクリーン上に表示すべきか否か検査する。表示すべき場合、このビデオイメージを表示するためにプロセスはステップ202に戻り、その後、それに続くステップをこの新たなビデオイメージに対して実行する。図2のフローチャートは、本発明の主要ステップのみを示す。実際には、本発明は、更に詳細なプロセス及び制御ステップを具えるが、明瞭のためにこれらを省略する。
図3は、カメラによって撮影されたイメージの分析の中間結果を示す。カメラによって撮影された像を処理する第1ステップにおいて、ビデオスクリーンの前に立つユーザの身体の輪郭302を得る。この第1処理ステップは、本発明の主要要素ではなく、簡潔のために本明細書では更に詳細に説明しない。身体の輪郭を得る処理ステップは、1997年7月に刊行されたIEEE Transactions on Pattern Analysis and Machine Intelligence,Vol.19,No.7のDarrel T.,Wren C.,Azarbayejani A及びPentland Aによる“Pfinder:Real-time tracking of the human body”に記載されている。次のステップにおいて、身体の輪郭を包囲する区域ボックス304を決定する。区域ボックス304は、水平方向に同一サイズの3行及び垂直方向に同一サイズの3列にボックスを分割することによって9個のセルに分割する。3列に対して左から右にA,B及びCを付し、3行に対して上から下に1,2及び3を付す。身体の輪郭をセルごとに分析して、ユーザの身体の種々の特徴を識別する。以下の測定は各セルに対して行われたものであり、(x,y)は、xが左から右に続くとともにyが下から上に続く場合の像の位置を表す。
身体の輪郭に応じて、全ての測定を存在させる必要はない。図3において、得られた測定を正の符号で表し、セルごとに以下の参照番号を有する。
A1:306 B1:312 C1:318
A2:308 B2:(なし) C2:320
A3:310 B3:314及び316 C3:322
種々の身体の形状は、上記測定に基づいて識別される。この識別は、身体の特徴ごとに擬似コードで以下のように与えられる。この場合、//−符号は、擬似コードの関連のラインに対するコメントを表す。
右手:
A1−測定が存在する場合//右手は肩の位置の上
右手=A1−測定
そうでない場合//右手は肩の下
A2−測定が存在する場合
右手=A2−測定
そうでない場合//この像では右手が見えない。
右手=無効
左手:
C1−測定が存在する場合//左手は肩の位置の上
左手=C1−測定
そうでない場合//左手は肩の下
C2−測定が存在する場合
右手=C2−測定
そうでない場合//この像では左手が見えない。
左手=無効
頭:
B1−測定が存在する場合
頭=B1−測定
そうでない場合//この像では頭が見えない。
頭=無効
右足:
A3−測定が存在する場合//足を広げている。
右足=A3−測定
そうでない場合//足が揃っている。
B3−MIN(x)測定が存在する場合
右足=B3−MIN(x)−測定
そうでない場合//この像では右足が見えない。
右足=無効
左足:
C3−測定が存在する場合//足を広げている。
左足=C3−測定
そうでない場合//足が揃っている。
B3−MAN(x)測定が存在する場合
左足=B3−MAN(x)−測定
そうでない場合//この像では右足が見えない。
左足=無効
さらに、複数の身体の形状を識別する。中央の形状を区域ボックス304の中央で識別し、基底の形状を区域ボックスの底部中央で識別する。左右の肩の形状を、頭の形状からそれぞれx及びyオフセットして識別する。
区画ボックスを9個のセルに分割することによって、ユーザが頭の上に手を上げているポーズを分析することができる。単一の区域ボックス304を用いる場合、ボックス中で見つけられる最高位置が頭であると仮定される。これによって、ユーザが指定する方向を明らかに誤って決定するおそれがある。
図4は、指定する手の位置を計算するステップを示す。これらステップは、図3に関連して既に説明したようにして計算した形状に基づくものである。ステップ402は、カメラをユーザの前に直接配置されないときに実行する必要があるカメラ校正のステップである。カメラ校正ステップの出力を、カメラ位置及び方向を装置の座標フレームに関連させる回転及び移動を表す4×4行列とする。この座標フレームは、床の上のX軸及びZ軸並びに上方向のY軸を有する。カメラによって撮影された像は、カメラ校正行列を用いてXY面に変換される。変換された像は、ユーザの前に直接配置されたカメラによって撮影された像となる。その結果、カメラがどの角度にあっても、カメラ校正行列を用いて、足の実際の3次元位置及びそれに関連するXY平面の頭及び手の位置を決定する。以下続くステップは、カメラ位置を考慮して像をXY面に変換した後の像で行われる。
ステップ404において、ユーザの腕の全長lを得る。これは、腕の実際の長さであり、像に出現する長さではない。先ず、ユーザの高さを、像の身体の輪郭の頭の形状及び基底形状から計算する。ユーザが床の上に立っていると仮定すると、カメラとユーザ位置との間の距離は、像の基底形状の位置によって決定される。この距離が与えられると、身体の輪郭の高さをユーザの実際の高さにスケール化される。次いで、装置は、生物測定学のテーブルからユーザの腕の実際の長さに対する見積もりを得る。これら生物測定学データは、多数の人物の統計的な測定データから決定され、その人物の高さが与えられると、それを用いて人物の種々の身体寸法を見積もる。ステップ406において、ユーザの身体の長軸に対してベクトルbが決定される。ベクトルbは、基底形状から頭の形状への方向を有し、1単位の長さが与えられる。ステップ408において、ユーザの指定する腕に対してベクトルaを規定する。肩の位置を、頭の形状の位置からの所定のオフセットとして生物測定学データのテーブルから得る。ベクトルは、肩の位置から腕の位置への方向を有し、1単位の長さが与えられる。ステップ410において、像に出現するユーザの腕の長さ
を測定する。像の腕は、実際の3次元の腕の像への投影となり、投影の短縮のために実際の全長lよりも短い。
最後に、ステップ412及び414において、腕の位置を、既に得られたデータに基づいて計算する。ステップ412において、ベクトルaとベクトルbとの間の角度Θ1を、以下の式を用いて計算する。
Θ1=cos-1(a.b) (1)
a及びbが単位長さのベクトルであるので、この簡単な関係は正しい。ベクトルa及びbは両方とも像平面に存在し、したがって角度Θ1となる。ステップ414において、ユーザの指定する腕と像平面との間の角度Θ2を、以下の式を用いて計算する。
既に説明したように、長さlを腕の実際の長さとし、長さ
を像に見える腕の長さとする。腕が像の像平面から離れて指定するに従って、長さ
が短くなる。これは、式(2)に従う。
肩の位置、角度Θ1,角度Θ2及び腕の長さlを与えると、腕の位置は装置の座標フレームの3次元で十分に決定される。次いで、この腕の位置を用いて、ユーザがどのオプションを指定したかを決定する。ステップ404−414の測定及び計算を、像をXY面に変換した後のユーザの像で実行する。この変換を、カメラがユーザの前に直接配置されていないことを考慮して行う。カメラがユーザの前に直接配置されている場合、変換を行う必要がない。
図5は、手の位置に基づく指定位置の決定を示す。この図5は、選択可能なオプション110を有するビデオスクリーン102及びインタラクションエリア104に立つユーザ108を側面で示す。指定する腕の位置を、カメラ106によって撮影された像に基づいて計算する。本実施の形態において、ユーザがどのオプションを選択するかを決定するために、捕捉ライン504をユーザの目及び手によって決定する。目の位置は、頭の形状の位置からの所定のオフセットとなり、生物測定学データのテーブルから得られる。ユーザの目及び手の既知の位置並びにビデオスクリーンの位置が与えられると、ライン504とビデオスクリーン102との間の捕捉点506が計算される。足の位置によって表されたユーザとビデオスクリーン上に表示された選択可能なオブジェクトとの間の距離を、上記ステップに従って計算する。捕捉点506と選択可能なオプションの既知の位置との比較から、ユーザがどのオプションを指定しているかを所望に応じて容易に決定することができる。捕捉ライン504を規定する代案が存在し、例えば、ユーザの肩及び腕を通じたラインをユーザの指定する腕に一致させる。
図6は、本発明による装置の最重要構成要素を示す。装置600を、既知のアーキテクチャによって実現し、汎用コンピュータ上で実現することができる。装置は、ワーキングメモリ604にロードされたアプリケーションプログラムのインストラクションを実行する。装置は、周辺装置と通信するインタフェース606も有する。装置の種々の構成要素間でコマンド及びデータの交換を行うバス608がある。装置の周辺は、実行可能なプログラムを有する記憶媒体610を有する。記憶媒体610を磁気ヘッドディスクとするが、種々の個別の装置、場合によっては相違する種類の装置として実現することもできる。本発明の用途は装置のタイプに限定されるものではなく、使用できる記憶装置は、光ディスク、磁気ディスク、テープ、チップカード、固体装置又はこれら装置の組合わせを有する。装置は、選択可能なオプションを有するビデオイメージをビデオ表示スクリーンに送信する出力部614も有する。さらに、装置は、カメラによって撮影されたビデオを受信する入力部616を有する。
種々のタスクを実行するために、複数のソフトウェアユニットをワーキングメモリ604にロードし、そのうちの一つは次の通りである。
− ユーザの高さを決定する初期化ユニット618。
− 像に基づいて3次元空間におけるユーザの身体の形状の位置を決定する形状決定ユニット620。
− 像に基づいてユーザの足の位置、像の像平面の上へのユーザの腕の投影及び像の面上のユーザの身体の長軸を決定する別の決定ユニット622。
− ユーザが特定のオプションを指定したか否かを像から確定する確定ユニット624。
− ユーザが特定のオプションを選択したことを決定する決定ユニット626。この場合、確定手段は、ユーザが特定のオプションを指定したことを確定する。
さらに、ワーキングメモリ604は、装置によって分析される像の身体の輪郭及び種々の身体の形状の位置のような入力データ、出力データ及び中間結果を一時的に格納するメモリスペース628を有する。
本発明を、比較的大きなビデオスクリーン上に表示されたオプションをユーザが腕によって指定する装置で説明した。本発明をそれより小さいサイズの装置にも適用できること理解すべきである。一例として、選択可能なオプションが比較的小さいコンピュータモニタ上に表示されるとともにユーザが所望のオプションを指で指定することができるパーソナルコンピュータが挙げられる。この場合、既に説明したようにして、ユーザが指定するオプションを、指がさした3次元位置を計算するとともにこれをモニタに表示された選択可能なオプションの各位置に関連させることによって決定する。
Claims (16)
- ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする方法において、
前記一組の選択可能なオプションを各オプション位置に表示するステップと、
前記ユーザが前記特定のオプションを物理的に指定することを許容される間に前記ユーザの単一の像を撮影するステップであって、前記単一の像は、前記選択可能なオプションの像を含まないステップと;
前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定するステップと、
前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定するステップと、
前記単一の像に基づいて、3次元空間内の前記ユーザの身体の特徴的部分の位置を決定するステップとを具え、
前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定するステップを、前記身体の特徴的部分の位置及び前記特定のオプションの位置に基づいて実行し、
前記方法が、前記単一の像に基づいて、前記ユーザの足の位置、前記単一の像の像平面上における前記ユーザの腕の投影、及び前記単一の像の像平面上における前記ユーザの身体の長軸を決定するステップを更に具え、前記身体の特徴的部分の位置を決定するステップが、
前記特定のオプションの位置と前記足の位置との間の距離を決定するステップと、
前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定するステップと、
生物測定学に基づく前記ユーザの腕の長さの見積もり値及び前記決定した腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定するステップとを具えることを特徴とする方法。 - 前記一組の選択可能なオプションを、前記ユーザに対向するビデオスクリーン上に表示することを特徴とする請求項1記載の方法。
- 前記身体の特徴的部分を前記ユーザの腕の端部とすることを特徴とする請求項1記載の方法。
- 前記ユーザの高さを決定する初期化ステップを具え、前記腕の長さの見積もり値を、前記ユーザの高さに基づいて、生物測定学データから得ることを特徴とする請求項1記載の方法。
- 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度は、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の角度であることを特徴とする請求項1記載の方法。
- 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項5記載の方法。
- ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする装置であって、
前記一組の選択可能なオプションを各オプション位置に表示する表示手段と、
前記ユーザの単一の像を撮影する単一の撮像手段であって、前記単一の像は、前記選択可能なオプションの像を含まない撮像手段と、
前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定する確定手段と、
前記ユーザが前記特定のオプションを選択したことを前記確定手段が確定した場合、前記ユーザが前記特定のオプションを選択したことを決定する決定手段と、
前記単一の像に基づいて、3次元空間内の前記ユーザの身体の特徴的部分の位置を決定する特徴的部分決定手段とを具え、
前記確定手段を、前記身体の特徴的部分の位置及び前記特定のオプションの位置に基づいて前記ユーザが前記特定のオプションを指定したか否かを確定するように構成し、
前記装置が、前記単一の像に基づいて、前記ユーザの足の位置、前記単一の像の像平面上における前記ユーザの腕の投影、及び前記単一の像の像平面上における前記ユーザの身体の長軸を決定する更なる決定手段を更に具え、前記特徴的部分決定手段を、
前記特定のオプションの位置と前記足の位置との間の距離を決定し、
前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定し、
生物測定学に基づく前記ユーザの腕の長さの見積もり値及び前記決定した腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定するように構成したことを特徴とする装置。 - 前記表示手段が、前記ユーザに対向して前記一組の選択可能なオブジェクトを表示するビデオスクリーンを具えることを特徴とする請求項7記載の装置。
- 前記身体の特徴的部分を前記ユーザの腕の端部としたことを特徴とする請求項7記載の装置。
- 前記ユーザの高さを決定する初期化手段を具え、前記特徴的部分決定手段を、前記腕の長さの見積もり値を、前記ユーザの高さに基づいて、生物測定学データから得るように構成したことを特徴とする請求項7記載の装置。
- 前記特徴的部分決定手段が、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度を、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影及び前記ユーザの身体の長軸の投影を利用して決定するように構成されていることを特徴とする請求項7記載の装置。
- 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項11記載の装置。
- ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにするプログラムを記憶するコンピュータ可読媒体であって、
前記プログラムは、コンピュータに
前記一組の選択可能なオプションを各オプション位置に表示する手順と、
前記特定のオプションを選択中の前記ユーザの単一の像を受信する手順であって、前記単一の像は、前記選択可能なオプションの像を含まない手順と、
前記ユーザが前記特定のオプションを選択したか否かを、3次元空間内の前記ユーザの身体の特徴的部分の位置、及び前記特定のオプションのオプション位置に基づいて、前記単一の像から決定する手順と
を実行させるためのプログラムであり、
前記ユーザが前記特定のオプションを選択したか否かを決定する手順は、コンピュータに
前記特定のオプションのオプション位置と前記ユーザの足の位置との間の距離を決定する手順と、
前記単一の像の像平面上における前記ユーザの腕の投影と、前記単一の像の像平面上における前記ユーザの身体の長軸の投影との間の第1の角度を決定する手順と、
生物測定学に基づく前記ユーザの腕の長さの見積もり値及び決定される前記腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定する手順と
を実行させることを含む、コンピュータ可読媒体。 - 前記身体の特徴的部分が前記ユーザの腕の端部であることを特徴とする請求項13記載のコンピュータ可読媒体。
- 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度は、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の角度であることを特徴とする請求項13記載のコンピュータ可読媒体。
- 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項15記載のコンピュータ可読媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US08/995,823 US6176782B1 (en) | 1997-12-22 | 1997-12-22 | Motion-based command generation technology |
US08/995,823 | 1997-12-22 | ||
PCT/IB1998/002018 WO1999032959A2 (en) | 1997-12-22 | 1998-12-14 | Method and system for gesture based option selection |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001513244A JP2001513244A (ja) | 2001-08-28 |
JP4874450B2 true JP4874450B2 (ja) | 2012-02-15 |
Family
ID=25542253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP53352599A Expired - Lifetime JP4874450B2 (ja) | 1997-12-22 | 1998-12-14 | オプション選択に基づくジェスチャー方法及び装置 |
Country Status (5)
Country | Link |
---|---|
US (2) | US6176782B1 (ja) |
EP (1) | EP0961965B1 (ja) |
JP (1) | JP4874450B2 (ja) |
DE (1) | DE69816789T2 (ja) |
WO (1) | WO1999032959A2 (ja) |
Families Citing this family (353)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8352400B2 (en) | 1991-12-23 | 2013-01-08 | Hoffberg Steven M | Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore |
GB2330669B (en) * | 1997-10-24 | 2002-09-11 | Sony Uk Ltd | Data processing |
IL127569A0 (en) | 1998-09-16 | 1999-10-28 | Comsense Technologies Ltd | Interactive toys |
DE19845030A1 (de) * | 1998-09-30 | 2000-04-20 | Siemens Ag | Bildsystem |
US7904187B2 (en) | 1999-02-01 | 2011-03-08 | Hoffberg Steven M | Internet appliance system and method |
US6732915B1 (en) * | 1999-09-10 | 2004-05-11 | Fuji Xerox Co., Ltd. | Systems and methods for controlling a presentation using physical objects |
US20030174125A1 (en) * | 1999-11-04 | 2003-09-18 | Ilhami Torunoglu | Multiple input modes in overlapping physical space |
US20030132950A1 (en) * | 2001-11-27 | 2003-07-17 | Fahri Surucu | Detecting, classifying, and interpreting input events based on stimuli in multiple sensory domains |
JP2001145779A (ja) * | 1999-11-22 | 2001-05-29 | Namco Ltd | サイン認識システム、ゲームシステム、ゲーム用のプログラムが記録されたコンピュータ読み取り可能な記録媒体 |
US7028269B1 (en) | 2000-01-20 | 2006-04-11 | Koninklijke Philips Electronics N.V. | Multi-modal video target acquisition and re-direction system and method |
GB0012275D0 (en) * | 2000-05-22 | 2000-07-12 | Secr Defence Brit | Three dimensional human computer interface |
US7206029B2 (en) * | 2000-12-15 | 2007-04-17 | Koninklijke Philips Electronics N.V. | Picture-in-picture repositioning and/or resizing based on video content analysis |
US6600475B2 (en) * | 2001-01-22 | 2003-07-29 | Koninklijke Philips Electronics N.V. | Single camera system for gesture-based input and target indication |
US6704447B2 (en) * | 2001-02-21 | 2004-03-09 | Justsystem Corporation | Method and apparatus for using illumination from a display for computer vision based user interfaces and biometric authentication |
US6931596B2 (en) * | 2001-03-05 | 2005-08-16 | Koninklijke Philips Electronics N.V. | Automatic positioning of display depending upon the viewer's location |
US7259747B2 (en) * | 2001-06-05 | 2007-08-21 | Reactrix Systems, Inc. | Interactive video display system |
EP1689172B1 (en) * | 2001-06-05 | 2016-03-09 | Microsoft Technology Licensing, LLC | Interactive video display system |
US8300042B2 (en) * | 2001-06-05 | 2012-10-30 | Microsoft Corporation | Interactive video display system using strobed light |
US8035612B2 (en) * | 2002-05-28 | 2011-10-11 | Intellectual Ventures Holding 67 Llc | Self-contained interactive video display system |
JP3417555B2 (ja) * | 2001-06-29 | 2003-06-16 | 株式会社コナミコンピュータエンタテインメント東京 | ゲーム装置、人物画像処理方法及びプログラム |
KR100480770B1 (ko) * | 2001-07-12 | 2005-04-06 | 삼성전자주식회사 | 3차원 공간상의 정보 포인팅 방법 |
JP3611807B2 (ja) * | 2001-07-19 | 2005-01-19 | コナミ株式会社 | ビデオゲーム装置、ビデオゲームにおける擬似カメラ視点移動制御方法及びプログラム |
US20030095154A1 (en) * | 2001-11-19 | 2003-05-22 | Koninklijke Philips Electronics N.V. | Method and apparatus for a gesture-based user interface |
US6990639B2 (en) | 2002-02-07 | 2006-01-24 | Microsoft Corporation | System and process for controlling electronic components in a ubiquitous computing environment using multimodal integration |
US7274803B1 (en) * | 2002-04-02 | 2007-09-25 | Videomining Corporation | Method and system for detecting conscious hand movement patterns and computer-generated visual feedback for facilitating human-computer interaction |
US7203911B2 (en) * | 2002-05-13 | 2007-04-10 | Microsoft Corporation | Altering a display on a viewing device based upon a user proximity to the viewing device |
US7348963B2 (en) * | 2002-05-28 | 2008-03-25 | Reactrix Systems, Inc. | Interactive video display system |
US7710391B2 (en) | 2002-05-28 | 2010-05-04 | Matthew Bell | Processing an image utilizing a spatially varying pattern |
US7134080B2 (en) * | 2002-08-23 | 2006-11-07 | International Business Machines Corporation | Method and system for a user-following interface |
US6996460B1 (en) * | 2002-10-03 | 2006-02-07 | Advanced Interfaces, Inc. | Method and apparatus for providing virtual touch interaction in the drive-thru |
US7576727B2 (en) * | 2002-12-13 | 2009-08-18 | Matthew Bell | Interactive directed light/sound system |
WO2004055776A1 (en) | 2002-12-13 | 2004-07-01 | Reactrix Systems | Interactive directed light/sound system |
JP4035610B2 (ja) * | 2002-12-18 | 2008-01-23 | 独立行政法人産業技術総合研究所 | インタフェース装置 |
DE10260305A1 (de) * | 2002-12-20 | 2004-07-15 | Siemens Ag | HMI Einrichtung mit einem optischem Touch Screen |
US7618323B2 (en) * | 2003-02-26 | 2009-11-17 | Wms Gaming Inc. | Gaming machine system having a gesture-sensing mechanism |
US8745541B2 (en) | 2003-03-25 | 2014-06-03 | Microsoft Corporation | Architecture for controlling a computer using hand gestures |
US7665041B2 (en) | 2003-03-25 | 2010-02-16 | Microsoft Corporation | Architecture for controlling a computer using hand gestures |
EP1510407A3 (en) * | 2003-09-01 | 2005-07-27 | Matsushita Electric Industrial Co., Ltd. | Image displaying apparatus |
KR20060091310A (ko) * | 2003-09-30 | 2006-08-18 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 디스플레이 상의 컨텐트 윈도우의 위치, 크기 및/또는컨텐트를 정의하는 제스쳐 |
JP4794453B2 (ja) * | 2003-10-24 | 2011-10-19 | インテレクチュアル ベンチャーズ ホールディング 67 エルエルシー | インタラクティブ・ビデオ・ディスプレイ・システムを管理する方法及びシステム |
WO2005041579A2 (en) | 2003-10-24 | 2005-05-06 | Reactrix Systems, Inc. | Method and system for processing captured image information in an interactive video display system |
WO2005041167A1 (ja) * | 2003-10-28 | 2005-05-06 | Matsushita Electric Industrial Co., Ltd. | 画像表示装置および画像表示方法 |
FI117308B (fi) * | 2004-02-06 | 2006-08-31 | Nokia Corp | Eleohjausjärjestelmä |
US7893920B2 (en) * | 2004-05-06 | 2011-02-22 | Alpine Electronics, Inc. | Operation input device and method of operation input |
US8560972B2 (en) * | 2004-08-10 | 2013-10-15 | Microsoft Corporation | Surface UI for gesture-based interaction |
JP4433948B2 (ja) * | 2004-09-02 | 2010-03-17 | 株式会社セガ | 背景画像取得プログラム、ビデオゲーム装置、背景画像取得方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP2006068315A (ja) * | 2004-09-02 | 2006-03-16 | Sega Corp | ポーズ検出プログラム、ビデオゲーム装置、ポーズ検出方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体 |
JPWO2006038577A1 (ja) * | 2004-10-05 | 2008-05-15 | 株式会社ニコン | プロジェクタ装置を有する電子機器 |
US9128519B1 (en) | 2005-04-15 | 2015-09-08 | Intellectual Ventures Holding 67 Llc | Method and system for state-based control of objects |
CN100359437C (zh) * | 2005-05-11 | 2008-01-02 | 凌阳科技股份有限公司 | 交互式影像游戏系统 |
US8081822B1 (en) | 2005-05-31 | 2011-12-20 | Intellectual Ventures Holding 67 Llc | System and method for sensing a feature of an object in an interactive video display |
TWI412392B (zh) * | 2005-08-12 | 2013-10-21 | Koninkl Philips Electronics Nv | 互動式娛樂系統及其操作方法 |
US7697827B2 (en) | 2005-10-17 | 2010-04-13 | Konicek Jeffrey C | User-friendlier interfaces for a camera |
US8209620B2 (en) | 2006-01-31 | 2012-06-26 | Accenture Global Services Limited | System for storage and navigation of application states and interactions |
US7599520B2 (en) * | 2005-11-18 | 2009-10-06 | Accenture Global Services Gmbh | Detection of multiple targets on a plane of interest |
US8098277B1 (en) | 2005-12-02 | 2012-01-17 | Intellectual Ventures Holding 67 Llc | Systems and methods for communication between a reactive video system and a mobile communication device |
US20070159455A1 (en) * | 2006-01-06 | 2007-07-12 | Ronmee Industrial Corporation | Image-sensing game-controlling device |
US8125526B2 (en) * | 2006-02-03 | 2012-02-28 | Olympus Imaging Corp. | Camera for selecting an image from a plurality of images based on a face portion and contour of a subject in the image |
US8062115B2 (en) * | 2006-04-27 | 2011-11-22 | Wms Gaming Inc. | Wagering game with multi-point gesture sensing device |
US8628418B2 (en) | 2006-05-03 | 2014-01-14 | Igt | Method and apparatus for operating a mobile gaming system |
US9104270B2 (en) * | 2006-05-22 | 2015-08-11 | Thomson Licensing | Video system having a touch screen |
US8005238B2 (en) | 2007-03-22 | 2011-08-23 | Microsoft Corporation | Robust adaptive beamforming with enhanced noise suppression |
US8005237B2 (en) | 2007-05-17 | 2011-08-23 | Microsoft Corp. | Sensor array beamformer post-processor |
US8678896B2 (en) | 2007-06-14 | 2014-03-25 | Harmonix Music Systems, Inc. | Systems and methods for asynchronous band interaction in a rhythm action game |
US8439733B2 (en) | 2007-06-14 | 2013-05-14 | Harmonix Music Systems, Inc. | Systems and methods for reinstating a player within a rhythm-action game |
US8726194B2 (en) | 2007-07-27 | 2014-05-13 | Qualcomm Incorporated | Item selection using enhanced control |
JP5430572B2 (ja) | 2007-09-14 | 2014-03-05 | インテレクチュアル ベンチャーズ ホールディング 67 エルエルシー | ジェスチャベースのユーザインタラクションの処理 |
US8629976B2 (en) * | 2007-10-02 | 2014-01-14 | Microsoft Corporation | Methods and systems for hierarchical de-aliasing time-of-flight (TOF) systems |
TWI372645B (en) * | 2007-10-17 | 2012-09-21 | Cywee Group Ltd | An electronic game controller with motion-sensing capability |
US8159682B2 (en) | 2007-11-12 | 2012-04-17 | Intellectual Ventures Holding 67 Llc | Lens system |
US20090166684A1 (en) * | 2007-12-26 | 2009-07-02 | 3Dv Systems Ltd. | Photogate cmos pixel for 3d cameras having reduced intra-pixel cross talk |
TWI378329B (en) * | 2008-02-12 | 2012-12-01 | Shenzhen China Star Optoelect | Method for controlling angle of display and self-adjusting display device |
US8259163B2 (en) | 2008-03-07 | 2012-09-04 | Intellectual Ventures Holding 67 Llc | Display with built in 3D sensing |
JP5120754B2 (ja) * | 2008-03-28 | 2013-01-16 | 株式会社国際電気通信基礎技術研究所 | 動作検出装置 |
DE102008020772A1 (de) * | 2008-04-21 | 2009-10-22 | Carl Zeiss 3D Metrology Services Gmbh | Darstellung von Ergebnissen einer Vermessung von Werkstücken |
JP4318056B1 (ja) * | 2008-06-03 | 2009-08-19 | 島根県 | 画像認識装置および操作判定方法 |
US8595218B2 (en) * | 2008-06-12 | 2013-11-26 | Intellectual Ventures Holding 67 Llc | Interactive display management systems and methods |
US8385557B2 (en) * | 2008-06-19 | 2013-02-26 | Microsoft Corporation | Multichannel acoustic echo reduction |
US8325909B2 (en) | 2008-06-25 | 2012-12-04 | Microsoft Corporation | Acoustic echo suppression |
US8203699B2 (en) | 2008-06-30 | 2012-06-19 | Microsoft Corporation | System architecture design for time-of-flight system having reduced differential pixel size, and time-of-flight systems so designed |
WO2010006054A1 (en) | 2008-07-08 | 2010-01-14 | Harmonix Music Systems, Inc. | Systems and methods for simulating a rock and band experience |
US8681321B2 (en) * | 2009-01-04 | 2014-03-25 | Microsoft International Holdings B.V. | Gated 3D camera |
JP2010176510A (ja) * | 2009-01-30 | 2010-08-12 | Sanyo Electric Co Ltd | 情報表示装置 |
US8682028B2 (en) * | 2009-01-30 | 2014-03-25 | Microsoft Corporation | Visual target tracking |
US8588465B2 (en) | 2009-01-30 | 2013-11-19 | Microsoft Corporation | Visual target tracking |
US8565477B2 (en) | 2009-01-30 | 2013-10-22 | Microsoft Corporation | Visual target tracking |
US8487938B2 (en) * | 2009-01-30 | 2013-07-16 | Microsoft Corporation | Standard Gestures |
US8267781B2 (en) | 2009-01-30 | 2012-09-18 | Microsoft Corporation | Visual target tracking |
US8577085B2 (en) * | 2009-01-30 | 2013-11-05 | Microsoft Corporation | Visual target tracking |
US8577084B2 (en) * | 2009-01-30 | 2013-11-05 | Microsoft Corporation | Visual target tracking |
US20100199231A1 (en) | 2009-01-30 | 2010-08-05 | Microsoft Corporation | Predictive determination |
US8295546B2 (en) * | 2009-01-30 | 2012-10-23 | Microsoft Corporation | Pose tracking pipeline |
US20100199228A1 (en) * | 2009-01-30 | 2010-08-05 | Microsoft Corporation | Gesture Keyboarding |
US7996793B2 (en) | 2009-01-30 | 2011-08-09 | Microsoft Corporation | Gesture recognizer system architecture |
US8294767B2 (en) | 2009-01-30 | 2012-10-23 | Microsoft Corporation | Body scan |
US8448094B2 (en) | 2009-01-30 | 2013-05-21 | Microsoft Corporation | Mapping a natural input device to a legacy system |
US8565476B2 (en) | 2009-01-30 | 2013-10-22 | Microsoft Corporation | Visual target tracking |
KR20100101389A (ko) | 2009-03-09 | 2010-09-17 | 삼성전자주식회사 | 사용자 메뉴를 제공하는 디스플레이 장치 및 이에 적용되는ui제공 방법 |
US8773355B2 (en) | 2009-03-16 | 2014-07-08 | Microsoft Corporation | Adaptive cursor sizing |
US9256282B2 (en) | 2009-03-20 | 2016-02-09 | Microsoft Technology Licensing, Llc | Virtual object manipulation |
US8988437B2 (en) | 2009-03-20 | 2015-03-24 | Microsoft Technology Licensing, Llc | Chaining animations |
US9313376B1 (en) | 2009-04-01 | 2016-04-12 | Microsoft Technology Licensing, Llc | Dynamic depth power equalization |
US8181123B2 (en) | 2009-05-01 | 2012-05-15 | Microsoft Corporation | Managing virtual port associations to users in a gesture-based computing environment |
US9498718B2 (en) | 2009-05-01 | 2016-11-22 | Microsoft Technology Licensing, Llc | Altering a view perspective within a display environment |
US8638985B2 (en) | 2009-05-01 | 2014-01-28 | Microsoft Corporation | Human body pose estimation |
US8503720B2 (en) | 2009-05-01 | 2013-08-06 | Microsoft Corporation | Human body pose estimation |
US8253746B2 (en) | 2009-05-01 | 2012-08-28 | Microsoft Corporation | Determine intended motions |
US8942428B2 (en) | 2009-05-01 | 2015-01-27 | Microsoft Corporation | Isolate extraneous motions |
US9377857B2 (en) | 2009-05-01 | 2016-06-28 | Microsoft Technology Licensing, Llc | Show body position |
US8649554B2 (en) | 2009-05-01 | 2014-02-11 | Microsoft Corporation | Method to control perspective for a camera-controlled computer |
US9898675B2 (en) | 2009-05-01 | 2018-02-20 | Microsoft Technology Licensing, Llc | User movement tracking feedback to improve tracking |
US9015638B2 (en) | 2009-05-01 | 2015-04-21 | Microsoft Technology Licensing, Llc | Binding users to a gesture based system and providing feedback to the users |
US8660303B2 (en) * | 2009-05-01 | 2014-02-25 | Microsoft Corporation | Detection of body and props |
US8340432B2 (en) | 2009-05-01 | 2012-12-25 | Microsoft Corporation | Systems and methods for detecting a tilt angle from a depth image |
US20100295782A1 (en) | 2009-05-21 | 2010-11-25 | Yehuda Binder | System and method for control based on face ore hand gesture detection |
US8418085B2 (en) | 2009-05-29 | 2013-04-09 | Microsoft Corporation | Gesture coach |
US8509479B2 (en) | 2009-05-29 | 2013-08-13 | Microsoft Corporation | Virtual object |
US8625837B2 (en) | 2009-05-29 | 2014-01-07 | Microsoft Corporation | Protocol and format for communicating an image from a camera to a computing environment |
US8693724B2 (en) | 2009-05-29 | 2014-04-08 | Microsoft Corporation | Method and system implementing user-centric gesture control |
US8856691B2 (en) | 2009-05-29 | 2014-10-07 | Microsoft Corporation | Gesture tool |
US9383823B2 (en) | 2009-05-29 | 2016-07-05 | Microsoft Technology Licensing, Llc | Combining gestures beyond skeletal |
US9182814B2 (en) | 2009-05-29 | 2015-11-10 | Microsoft Technology Licensing, Llc | Systems and methods for estimating a non-visible or occluded body part |
US8320619B2 (en) | 2009-05-29 | 2012-11-27 | Microsoft Corporation | Systems and methods for tracking a model |
US8449360B2 (en) | 2009-05-29 | 2013-05-28 | Harmonix Music Systems, Inc. | Displaying song lyrics and vocal cues |
US8379101B2 (en) | 2009-05-29 | 2013-02-19 | Microsoft Corporation | Environment and/or target segmentation |
US9400559B2 (en) | 2009-05-29 | 2016-07-26 | Microsoft Technology Licensing, Llc | Gesture shortcuts |
US8542252B2 (en) | 2009-05-29 | 2013-09-24 | Microsoft Corporation | Target digitization, extraction, and tracking |
US8744121B2 (en) | 2009-05-29 | 2014-06-03 | Microsoft Corporation | Device for identifying and tracking multiple humans over time |
US8465366B2 (en) | 2009-05-29 | 2013-06-18 | Harmonix Music Systems, Inc. | Biasing a musical performance input to a part |
US8487871B2 (en) * | 2009-06-01 | 2013-07-16 | Microsoft Corporation | Virtual desktop coordinate transformation |
US8390680B2 (en) | 2009-07-09 | 2013-03-05 | Microsoft Corporation | Visual representation expression based on player expression |
US9159151B2 (en) | 2009-07-13 | 2015-10-13 | Microsoft Technology Licensing, Llc | Bringing a visual representation to life via learned input from the user |
US8565479B2 (en) * | 2009-08-13 | 2013-10-22 | Primesense Ltd. | Extraction of skeletons from 3D maps |
US8264536B2 (en) * | 2009-08-25 | 2012-09-11 | Microsoft Corporation | Depth-sensitive imaging via polarization-state mapping |
US9141193B2 (en) | 2009-08-31 | 2015-09-22 | Microsoft Technology Licensing, Llc | Techniques for using human gestures to control gesture unaware programs |
US8508919B2 (en) | 2009-09-14 | 2013-08-13 | Microsoft Corporation | Separation of electrical and optical components |
US8330134B2 (en) * | 2009-09-14 | 2012-12-11 | Microsoft Corporation | Optical fault monitoring |
US8760571B2 (en) | 2009-09-21 | 2014-06-24 | Microsoft Corporation | Alignment of lens and image sensor |
US8976986B2 (en) * | 2009-09-21 | 2015-03-10 | Microsoft Technology Licensing, Llc | Volume adjustment based on listener position |
US8428340B2 (en) * | 2009-09-21 | 2013-04-23 | Microsoft Corporation | Screen space plane identification |
US9014546B2 (en) | 2009-09-23 | 2015-04-21 | Rovi Guides, Inc. | Systems and methods for automatically detecting users within detection regions of media devices |
US8452087B2 (en) | 2009-09-30 | 2013-05-28 | Microsoft Corporation | Image selection techniques |
US8723118B2 (en) | 2009-10-01 | 2014-05-13 | Microsoft Corporation | Imager for constructing color and depth images |
US7961910B2 (en) | 2009-10-07 | 2011-06-14 | Microsoft Corporation | Systems and methods for tracking a model |
US8963829B2 (en) | 2009-10-07 | 2015-02-24 | Microsoft Corporation | Methods and systems for determining and tracking extremities of a target |
US8867820B2 (en) | 2009-10-07 | 2014-10-21 | Microsoft Corporation | Systems and methods for removing a background of an image |
US8564534B2 (en) | 2009-10-07 | 2013-10-22 | Microsoft Corporation | Human tracking system |
US9400548B2 (en) * | 2009-10-19 | 2016-07-26 | Microsoft Technology Licensing, Llc | Gesture personalization and profile roaming |
US9981193B2 (en) | 2009-10-27 | 2018-05-29 | Harmonix Music Systems, Inc. | Movement based recognition and evaluation |
EP2494432B1 (en) | 2009-10-27 | 2019-05-29 | Harmonix Music Systems, Inc. | Gesture-based user interface |
US8988432B2 (en) | 2009-11-05 | 2015-03-24 | Microsoft Technology Licensing, Llc | Systems and methods for processing an image for target tracking |
US8843857B2 (en) | 2009-11-19 | 2014-09-23 | Microsoft Corporation | Distance scalable no touch computing |
US9244533B2 (en) | 2009-12-17 | 2016-01-26 | Microsoft Technology Licensing, Llc | Camera navigation for presentations |
KR20110069563A (ko) * | 2009-12-17 | 2011-06-23 | 엘지전자 주식회사 | 영상표시장치 및 그 동작 방법 |
US20110151974A1 (en) * | 2009-12-18 | 2011-06-23 | Microsoft Corporation | Gesture style recognition and reward |
US20110150271A1 (en) | 2009-12-18 | 2011-06-23 | Microsoft Corporation | Motion detection using depth images |
US8320621B2 (en) | 2009-12-21 | 2012-11-27 | Microsoft Corporation | Depth projector system with integrated VCSEL array |
US9019201B2 (en) | 2010-01-08 | 2015-04-28 | Microsoft Technology Licensing, Llc | Evolving universal gesture sets |
US8631355B2 (en) | 2010-01-08 | 2014-01-14 | Microsoft Corporation | Assigning gesture dictionaries |
US9268404B2 (en) * | 2010-01-08 | 2016-02-23 | Microsoft Technology Licensing, Llc | Application gesture interpretation |
US8334842B2 (en) | 2010-01-15 | 2012-12-18 | Microsoft Corporation | Recognizing user intent in motion capture system |
US8933884B2 (en) | 2010-01-15 | 2015-01-13 | Microsoft Corporation | Tracking groups of users in motion capture system |
US8676581B2 (en) | 2010-01-22 | 2014-03-18 | Microsoft Corporation | Speech recognition analysis via identification information |
US8265341B2 (en) | 2010-01-25 | 2012-09-11 | Microsoft Corporation | Voice-body identity correlation |
US8864581B2 (en) | 2010-01-29 | 2014-10-21 | Microsoft Corporation | Visual based identitiy tracking |
US8891067B2 (en) * | 2010-02-01 | 2014-11-18 | Microsoft Corporation | Multiple synchronized optical sources for time-of-flight range finding systems |
US8687044B2 (en) | 2010-02-02 | 2014-04-01 | Microsoft Corporation | Depth camera compatibility |
US8619122B2 (en) | 2010-02-02 | 2013-12-31 | Microsoft Corporation | Depth camera compatibility |
US8717469B2 (en) | 2010-02-03 | 2014-05-06 | Microsoft Corporation | Fast gating photosurface |
US8499257B2 (en) * | 2010-02-09 | 2013-07-30 | Microsoft Corporation | Handles interactions for human—computer interface |
US8659658B2 (en) * | 2010-02-09 | 2014-02-25 | Microsoft Corporation | Physical interaction zone for gesture-based user interfaces |
US8633890B2 (en) * | 2010-02-16 | 2014-01-21 | Microsoft Corporation | Gesture detection based on joint skipping |
US8928579B2 (en) * | 2010-02-22 | 2015-01-06 | Andrew David Wilson | Interacting with an omni-directionally projected display |
US8787663B2 (en) * | 2010-03-01 | 2014-07-22 | Primesense Ltd. | Tracking body parts by combined color image and depth processing |
US8422769B2 (en) | 2010-03-05 | 2013-04-16 | Microsoft Corporation | Image segmentation using reduced foreground training data |
US8655069B2 (en) | 2010-03-05 | 2014-02-18 | Microsoft Corporation | Updating image segmentation following user input |
US8411948B2 (en) | 2010-03-05 | 2013-04-02 | Microsoft Corporation | Up-sampling binary images for segmentation |
US20110221755A1 (en) * | 2010-03-12 | 2011-09-15 | Kevin Geisner | Bionic motion |
US20110223995A1 (en) | 2010-03-12 | 2011-09-15 | Kevin Geisner | Interacting with a computer based application |
US8568234B2 (en) | 2010-03-16 | 2013-10-29 | Harmonix Music Systems, Inc. | Simulating musical instruments |
US8279418B2 (en) | 2010-03-17 | 2012-10-02 | Microsoft Corporation | Raster scanning for depth detection |
US8213680B2 (en) * | 2010-03-19 | 2012-07-03 | Microsoft Corporation | Proxy training data for human body tracking |
US20110234481A1 (en) * | 2010-03-26 | 2011-09-29 | Sagi Katz | Enhancing presentations using depth sensing cameras |
US8514269B2 (en) * | 2010-03-26 | 2013-08-20 | Microsoft Corporation | De-aliasing depth images |
US8523667B2 (en) * | 2010-03-29 | 2013-09-03 | Microsoft Corporation | Parental control settings based on body dimensions |
US8605763B2 (en) | 2010-03-31 | 2013-12-10 | Microsoft Corporation | Temperature measurement and control for laser and light-emitting diodes |
WO2011123743A1 (en) | 2010-04-01 | 2011-10-06 | Sealed Air Corporation (Us) | Automated monitoring and control of contamination in a production area |
WO2013189058A1 (en) | 2012-06-21 | 2013-12-27 | Microsoft Corporation | Avatar construction using depth camera |
US9189949B2 (en) | 2010-12-09 | 2015-11-17 | Sealed Air Corporation (Us) | Automated monitoring and control of contamination in a production area |
US9406212B2 (en) | 2010-04-01 | 2016-08-02 | Sealed Air Corporation (Us) | Automated monitoring and control of contamination activity in a production area |
US9098873B2 (en) | 2010-04-01 | 2015-08-04 | Microsoft Technology Licensing, Llc | Motion-based interactive shopping environment |
CA2795136A1 (en) | 2010-04-01 | 2011-10-06 | Sealed Air Corporation (Us) | Automated monitoring and control of safety in a production area |
US9646340B2 (en) | 2010-04-01 | 2017-05-09 | Microsoft Technology Licensing, Llc | Avatar-based virtual dressing room |
US9143843B2 (en) | 2010-12-09 | 2015-09-22 | Sealed Air Corporation | Automated monitoring and control of safety in a production area |
US8351651B2 (en) | 2010-04-26 | 2013-01-08 | Microsoft Corporation | Hand-location post-process refinement in a tracking system |
US8379919B2 (en) | 2010-04-29 | 2013-02-19 | Microsoft Corporation | Multiple centroid condensation of probability distribution clouds |
US8284847B2 (en) | 2010-05-03 | 2012-10-09 | Microsoft Corporation | Detecting motion for a multifunction sensor device |
US8885890B2 (en) | 2010-05-07 | 2014-11-11 | Microsoft Corporation | Depth map confidence filtering |
US8498481B2 (en) | 2010-05-07 | 2013-07-30 | Microsoft Corporation | Image segmentation using star-convexity constraints |
US8457353B2 (en) * | 2010-05-18 | 2013-06-04 | Microsoft Corporation | Gestures and gesture modifiers for manipulating a user-interface |
US8594425B2 (en) | 2010-05-31 | 2013-11-26 | Primesense Ltd. | Analysis of three-dimensional scenes |
US8803888B2 (en) | 2010-06-02 | 2014-08-12 | Microsoft Corporation | Recognition system for sharing information |
US8751215B2 (en) | 2010-06-04 | 2014-06-10 | Microsoft Corporation | Machine based sign language interpreter |
US9008355B2 (en) | 2010-06-04 | 2015-04-14 | Microsoft Technology Licensing, Llc | Automatic depth camera aiming |
US9557574B2 (en) | 2010-06-08 | 2017-01-31 | Microsoft Technology Licensing, Llc | Depth illumination and detection optics |
US8330822B2 (en) | 2010-06-09 | 2012-12-11 | Microsoft Corporation | Thermally-tuned depth camera light source |
US9358456B1 (en) | 2010-06-11 | 2016-06-07 | Harmonix Music Systems, Inc. | Dance competition game |
US9384329B2 (en) | 2010-06-11 | 2016-07-05 | Microsoft Technology Licensing, Llc | Caloric burn determination from body movement |
CA2802348A1 (en) | 2010-06-11 | 2011-12-15 | Harmonix Music Systems, Inc. | Dance game and tutorial |
US8562403B2 (en) | 2010-06-11 | 2013-10-22 | Harmonix Music Systems, Inc. | Prompting a player of a dance game |
US8749557B2 (en) | 2010-06-11 | 2014-06-10 | Microsoft Corporation | Interacting with user interface via avatar |
US8675981B2 (en) | 2010-06-11 | 2014-03-18 | Microsoft Corporation | Multi-modal gender recognition including depth data |
US8982151B2 (en) | 2010-06-14 | 2015-03-17 | Microsoft Technology Licensing, Llc | Independently processing planes of display data |
US8558873B2 (en) | 2010-06-16 | 2013-10-15 | Microsoft Corporation | Use of wavefront coding to create a depth image |
US8670029B2 (en) | 2010-06-16 | 2014-03-11 | Microsoft Corporation | Depth camera illuminator with superluminescent light-emitting diode |
US8296151B2 (en) | 2010-06-18 | 2012-10-23 | Microsoft Corporation | Compound gesture-speech commands |
US8381108B2 (en) | 2010-06-21 | 2013-02-19 | Microsoft Corporation | Natural user input for driving interactive stories |
US8416187B2 (en) | 2010-06-22 | 2013-04-09 | Microsoft Corporation | Item navigation using motion-capture data |
EP2410400B1 (de) * | 2010-07-23 | 2013-06-12 | BrainLAB AG | Medizintechnisches Anzeigegerät mit einer Eingabeoberfläche und Verfahren zum Ansteuern eines solchen Geräts |
US9075434B2 (en) | 2010-08-20 | 2015-07-07 | Microsoft Technology Licensing, Llc | Translating user motion into multiple object responses |
US8613666B2 (en) | 2010-08-31 | 2013-12-24 | Microsoft Corporation | User selection and navigation based on looped motions |
US8437506B2 (en) | 2010-09-07 | 2013-05-07 | Microsoft Corporation | System for fast, probabilistic skeletal tracking |
US20120058824A1 (en) | 2010-09-07 | 2012-03-08 | Microsoft Corporation | Scalable real-time motion recognition |
US9024166B2 (en) | 2010-09-09 | 2015-05-05 | Harmonix Music Systems, Inc. | Preventing subtractive track separation |
US8582867B2 (en) | 2010-09-16 | 2013-11-12 | Primesense Ltd | Learning-based pose estimation from depth maps |
US8760432B2 (en) * | 2010-09-21 | 2014-06-24 | Visteon Global Technologies, Inc. | Finger pointing, gesture based human-machine interface for vehicles |
US8988508B2 (en) | 2010-09-24 | 2015-03-24 | Microsoft Technology Licensing, Llc. | Wide angle field of view active illumination imaging system |
US8681255B2 (en) | 2010-09-28 | 2014-03-25 | Microsoft Corporation | Integrated low power depth camera and projection device |
US8548270B2 (en) | 2010-10-04 | 2013-10-01 | Microsoft Corporation | Time-of-flight depth imaging |
US9011607B2 (en) | 2010-10-07 | 2015-04-21 | Sealed Air Corporation (Us) | Automated monitoring and control of cleaning in a production area |
US9484065B2 (en) | 2010-10-15 | 2016-11-01 | Microsoft Technology Licensing, Llc | Intelligent determination of replays based on event identification |
US8592739B2 (en) | 2010-11-02 | 2013-11-26 | Microsoft Corporation | Detection of configuration changes of an optical element in an illumination system |
US8866889B2 (en) | 2010-11-03 | 2014-10-21 | Microsoft Corporation | In-home depth camera calibration |
US8667519B2 (en) | 2010-11-12 | 2014-03-04 | Microsoft Corporation | Automatic passive and anonymous feedback system |
US10726861B2 (en) | 2010-11-15 | 2020-07-28 | Microsoft Technology Licensing, Llc | Semi-private communication in open environments |
US9349040B2 (en) | 2010-11-19 | 2016-05-24 | Microsoft Technology Licensing, Llc | Bi-modal depth-image analysis |
US10234545B2 (en) | 2010-12-01 | 2019-03-19 | Microsoft Technology Licensing, Llc | Light source module |
US8553934B2 (en) | 2010-12-08 | 2013-10-08 | Microsoft Corporation | Orienting the position of a sensor |
US8618405B2 (en) | 2010-12-09 | 2013-12-31 | Microsoft Corp. | Free-space gesture musical instrument digital interface (MIDI) controller |
US8408706B2 (en) | 2010-12-13 | 2013-04-02 | Microsoft Corporation | 3D gaze tracker |
US8884968B2 (en) | 2010-12-15 | 2014-11-11 | Microsoft Corporation | Modeling an object from image data |
US9171264B2 (en) | 2010-12-15 | 2015-10-27 | Microsoft Technology Licensing, Llc | Parallel processing machine learning decision tree training |
US8920241B2 (en) | 2010-12-15 | 2014-12-30 | Microsoft Corporation | Gesture controlled persistent handles for interface guides |
US8448056B2 (en) | 2010-12-17 | 2013-05-21 | Microsoft Corporation | Validation analysis of human target |
US8803952B2 (en) | 2010-12-20 | 2014-08-12 | Microsoft Corporation | Plural detector time-of-flight depth mapping |
US9848106B2 (en) | 2010-12-21 | 2017-12-19 | Microsoft Technology Licensing, Llc | Intelligent gameplay photo capture |
US8385596B2 (en) | 2010-12-21 | 2013-02-26 | Microsoft Corporation | First person shooter control with virtual skeleton |
US9821224B2 (en) | 2010-12-21 | 2017-11-21 | Microsoft Technology Licensing, Llc | Driving simulator control with virtual skeleton |
US8994718B2 (en) | 2010-12-21 | 2015-03-31 | Microsoft Technology Licensing, Llc | Skeletal control of three-dimensional virtual world |
US9823339B2 (en) | 2010-12-21 | 2017-11-21 | Microsoft Technology Licensing, Llc | Plural anode time-of-flight sensor |
US9123316B2 (en) | 2010-12-27 | 2015-09-01 | Microsoft Technology Licensing, Llc | Interactive content creation |
US8488888B2 (en) | 2010-12-28 | 2013-07-16 | Microsoft Corporation | Classification of posture states |
US9247238B2 (en) | 2011-01-31 | 2016-01-26 | Microsoft Technology Licensing, Llc | Reducing interference between multiple infra-red depth cameras |
US8401242B2 (en) | 2011-01-31 | 2013-03-19 | Microsoft Corporation | Real-time camera tracking using depth maps |
US8401225B2 (en) | 2011-01-31 | 2013-03-19 | Microsoft Corporation | Moving object segmentation using depth images |
US8587583B2 (en) | 2011-01-31 | 2013-11-19 | Microsoft Corporation | Three-dimensional environment reconstruction |
US8724887B2 (en) | 2011-02-03 | 2014-05-13 | Microsoft Corporation | Environmental modifications to mitigate environmental factors |
US8942917B2 (en) | 2011-02-14 | 2015-01-27 | Microsoft Corporation | Change invariant scene recognition by an agent |
US8497838B2 (en) | 2011-02-16 | 2013-07-30 | Microsoft Corporation | Push actuation of interface controls |
US9551914B2 (en) | 2011-03-07 | 2017-01-24 | Microsoft Technology Licensing, Llc | Illuminator with refractive optical element |
US9067136B2 (en) | 2011-03-10 | 2015-06-30 | Microsoft Technology Licensing, Llc | Push personalization of interface controls |
EP2686254B1 (de) * | 2011-03-17 | 2018-08-15 | SSI Schäfer Automation GmbH | Steuerung und überwachung einer lager- und kommissionieranlage durch bewegung und sprache |
US8571263B2 (en) | 2011-03-17 | 2013-10-29 | Microsoft Corporation | Predicting joint positions |
JP5730086B2 (ja) * | 2011-03-18 | 2015-06-03 | Necパーソナルコンピュータ株式会社 | 入力装置および入力方法 |
US9470778B2 (en) | 2011-03-29 | 2016-10-18 | Microsoft Technology Licensing, Llc | Learning from high quality depth measurements |
US9760566B2 (en) | 2011-03-31 | 2017-09-12 | Microsoft Technology Licensing, Llc | Augmented conversational understanding agent to identify conversation context between two humans and taking an agent action thereof |
US9298287B2 (en) | 2011-03-31 | 2016-03-29 | Microsoft Technology Licensing, Llc | Combined activation for natural user interface systems |
US10642934B2 (en) | 2011-03-31 | 2020-05-05 | Microsoft Technology Licensing, Llc | Augmented conversational understanding architecture |
US9842168B2 (en) | 2011-03-31 | 2017-12-12 | Microsoft Technology Licensing, Llc | Task driven user intents |
US8824749B2 (en) | 2011-04-05 | 2014-09-02 | Microsoft Corporation | Biometric recognition |
US8503494B2 (en) | 2011-04-05 | 2013-08-06 | Microsoft Corporation | Thermal management system |
US20120257035A1 (en) * | 2011-04-08 | 2012-10-11 | Sony Computer Entertainment Inc. | Systems and methods for providing feedback by tracking user gaze and gestures |
US9372540B2 (en) * | 2011-04-19 | 2016-06-21 | Lg Electronics Inc. | Method and electronic device for gesture recognition |
WO2012144145A1 (ja) * | 2011-04-22 | 2012-10-26 | パナソニック株式会社 | ポインティング制御装置とその集積回路、およびポインティング制御方法 |
RU2589395C2 (ru) | 2011-04-22 | 2016-07-10 | Пепсико, Инк. | Раздаточная система для напитков с возможностями социальных сервисов |
US8620113B2 (en) | 2011-04-25 | 2013-12-31 | Microsoft Corporation | Laser diode modes |
US9259643B2 (en) | 2011-04-28 | 2016-02-16 | Microsoft Technology Licensing, Llc | Control of separate computer game elements |
US8702507B2 (en) | 2011-04-28 | 2014-04-22 | Microsoft Corporation | Manual and camera-based avatar control |
US10671841B2 (en) | 2011-05-02 | 2020-06-02 | Microsoft Technology Licensing, Llc | Attribute state classification |
US8888331B2 (en) | 2011-05-09 | 2014-11-18 | Microsoft Corporation | Low inductance light source module |
US9064006B2 (en) | 2012-08-23 | 2015-06-23 | Microsoft Technology Licensing, Llc | Translating natural language utterances to keyword search queries |
US9137463B2 (en) | 2011-05-12 | 2015-09-15 | Microsoft Technology Licensing, Llc | Adaptive high dynamic range camera |
US8788973B2 (en) | 2011-05-23 | 2014-07-22 | Microsoft Corporation | Three-dimensional gesture controlled avatar configuration interface |
US8760395B2 (en) | 2011-05-31 | 2014-06-24 | Microsoft Corporation | Gesture recognition techniques |
US8526734B2 (en) | 2011-06-01 | 2013-09-03 | Microsoft Corporation | Three-dimensional background removal for vision system |
US9594430B2 (en) | 2011-06-01 | 2017-03-14 | Microsoft Technology Licensing, Llc | Three-dimensional foreground selection for vision system |
US8897491B2 (en) | 2011-06-06 | 2014-11-25 | Microsoft Corporation | System for finger recognition and tracking |
US9208571B2 (en) | 2011-06-06 | 2015-12-08 | Microsoft Technology Licensing, Llc | Object digitization |
US9013489B2 (en) | 2011-06-06 | 2015-04-21 | Microsoft Technology Licensing, Llc | Generation of avatar reflecting player appearance |
US9098110B2 (en) | 2011-06-06 | 2015-08-04 | Microsoft Technology Licensing, Llc | Head rotation tracking from depth-based center of mass |
US9724600B2 (en) | 2011-06-06 | 2017-08-08 | Microsoft Technology Licensing, Llc | Controlling objects in a virtual environment |
US8597142B2 (en) | 2011-06-06 | 2013-12-03 | Microsoft Corporation | Dynamic camera based practice mode |
US10796494B2 (en) | 2011-06-06 | 2020-10-06 | Microsoft Technology Licensing, Llc | Adding attributes to virtual representations of real-world objects |
US8929612B2 (en) | 2011-06-06 | 2015-01-06 | Microsoft Corporation | System for recognizing an open or closed hand |
US9597587B2 (en) | 2011-06-08 | 2017-03-21 | Microsoft Technology Licensing, Llc | Locational node device |
US8959459B2 (en) | 2011-06-15 | 2015-02-17 | Wms Gaming Inc. | Gesture sensing enhancement system for a wagering game |
WO2013018099A2 (en) * | 2011-08-04 | 2013-02-07 | Eyesight Mobile Technologies Ltd. | System and method for interfacing with a device via a 3d display |
US8786730B2 (en) | 2011-08-18 | 2014-07-22 | Microsoft Corporation | Image exposure using exclusion regions |
US9002099B2 (en) | 2011-09-11 | 2015-04-07 | Apple Inc. | Learning-based estimation of hand and finger pose |
US9218704B2 (en) | 2011-11-01 | 2015-12-22 | Pepsico, Inc. | Dispensing system and user interface |
US9557836B2 (en) | 2011-11-01 | 2017-01-31 | Microsoft Technology Licensing, Llc | Depth image compression |
US9117281B2 (en) | 2011-11-02 | 2015-08-25 | Microsoft Corporation | Surface segmentation from RGB and depth images |
US8854426B2 (en) | 2011-11-07 | 2014-10-07 | Microsoft Corporation | Time-of-flight camera with guided light |
US8724906B2 (en) | 2011-11-18 | 2014-05-13 | Microsoft Corporation | Computing pose and/or shape of modifiable entities |
JP2013114466A (ja) * | 2011-11-29 | 2013-06-10 | Nikon Corp | 表示システム、表示方法およびプログラム |
US8509545B2 (en) | 2011-11-29 | 2013-08-13 | Microsoft Corporation | Foreground subject detection |
US8635637B2 (en) | 2011-12-02 | 2014-01-21 | Microsoft Corporation | User interface presenting an animated avatar performing a media reaction |
US8803800B2 (en) | 2011-12-02 | 2014-08-12 | Microsoft Corporation | User interface control based on head orientation |
US9100685B2 (en) | 2011-12-09 | 2015-08-04 | Microsoft Technology Licensing, Llc | Determining audience state or interest using passive sensor data |
US8879831B2 (en) | 2011-12-15 | 2014-11-04 | Microsoft Corporation | Using high-level attributes to guide image processing |
US8630457B2 (en) | 2011-12-15 | 2014-01-14 | Microsoft Corporation | Problem states for pose tracking pipeline |
US8971612B2 (en) | 2011-12-15 | 2015-03-03 | Microsoft Corporation | Learning image processing tasks from scene reconstructions |
US8811938B2 (en) | 2011-12-16 | 2014-08-19 | Microsoft Corporation | Providing a user interface experience based on inferred vehicle state |
US9342139B2 (en) | 2011-12-19 | 2016-05-17 | Microsoft Technology Licensing, Llc | Pairing a computing device to a user |
US9720089B2 (en) | 2012-01-23 | 2017-08-01 | Microsoft Technology Licensing, Llc | 3D zoom imager |
WO2013136333A1 (en) * | 2012-03-13 | 2013-09-19 | Eyesight Mobile Technologies Ltd. | Touch free user interface |
US8898687B2 (en) | 2012-04-04 | 2014-11-25 | Microsoft Corporation | Controlling a media program based on a media reaction |
KR101533320B1 (ko) * | 2012-04-23 | 2015-07-03 | 주식회사 브이터치 | 포인터가 불필요한 3차원 객체 정보 획득 장치 |
US9047507B2 (en) | 2012-05-02 | 2015-06-02 | Apple Inc. | Upper-body skeleton extraction from depth maps |
US9210401B2 (en) | 2012-05-03 | 2015-12-08 | Microsoft Technology Licensing, Llc | Projected visual cues for guiding physical movement |
US9086732B2 (en) | 2012-05-03 | 2015-07-21 | Wms Gaming Inc. | Gesture fusion |
CA2775700C (en) | 2012-05-04 | 2013-07-23 | Microsoft Corporation | Determining a future portion of a currently presented media program |
US9836590B2 (en) | 2012-06-22 | 2017-12-05 | Microsoft Technology Licensing, Llc | Enhanced accuracy of user presence status determination |
US9696427B2 (en) | 2012-08-14 | 2017-07-04 | Microsoft Technology Licensing, Llc | Wide angle depth detection |
US9019267B2 (en) | 2012-10-30 | 2015-04-28 | Apple Inc. | Depth mapping with enhanced resolution |
US8882310B2 (en) | 2012-12-10 | 2014-11-11 | Microsoft Corporation | Laser die light source module with low inductance |
TWI454968B (zh) * | 2012-12-24 | 2014-10-01 | Ind Tech Res Inst | 三維互動裝置及其操控方法 |
US9857470B2 (en) | 2012-12-28 | 2018-01-02 | Microsoft Technology Licensing, Llc | Using photometric stereo for 3D environment modeling |
US9251590B2 (en) | 2013-01-24 | 2016-02-02 | Microsoft Technology Licensing, Llc | Camera pose estimation for 3D reconstruction |
US9052746B2 (en) | 2013-02-15 | 2015-06-09 | Microsoft Technology Licensing, Llc | User center-of-mass and mass distribution extraction using depth images |
US9940553B2 (en) | 2013-02-22 | 2018-04-10 | Microsoft Technology Licensing, Llc | Camera/object pose from predicted coordinates |
US9507425B2 (en) * | 2013-03-06 | 2016-11-29 | Sony Corporation | Apparatus and method for operating a user interface of a device |
US9135516B2 (en) | 2013-03-08 | 2015-09-15 | Microsoft Technology Licensing, Llc | User body angle, curvature and average extremity positions extraction using depth images |
US9092657B2 (en) | 2013-03-13 | 2015-07-28 | Microsoft Technology Licensing, Llc | Depth image processing |
US9274606B2 (en) | 2013-03-14 | 2016-03-01 | Microsoft Technology Licensing, Llc | NUI video conference controls |
US9953213B2 (en) | 2013-03-27 | 2018-04-24 | Microsoft Technology Licensing, Llc | Self discovery of autonomous NUI devices |
DE102013207528A1 (de) | 2013-04-25 | 2014-10-30 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren zum Interagieren mit einem auf einer Datenbrille angezeigten Objekt |
US9442186B2 (en) | 2013-05-13 | 2016-09-13 | Microsoft Technology Licensing, Llc | Interference reduction for TOF systems |
US9462253B2 (en) | 2013-09-23 | 2016-10-04 | Microsoft Technology Licensing, Llc | Optical modules that reduce speckle contrast and diffraction artifacts |
US9443310B2 (en) | 2013-10-09 | 2016-09-13 | Microsoft Technology Licensing, Llc | Illumination modules that emit structured light |
US9674563B2 (en) | 2013-11-04 | 2017-06-06 | Rovi Guides, Inc. | Systems and methods for recommending content |
US9769459B2 (en) | 2013-11-12 | 2017-09-19 | Microsoft Technology Licensing, Llc | Power efficient laser diode driver circuit and method |
US9508385B2 (en) | 2013-11-21 | 2016-11-29 | Microsoft Technology Licensing, Llc | Audio-visual project generator |
US9971491B2 (en) | 2014-01-09 | 2018-05-15 | Microsoft Technology Licensing, Llc | Gesture library for natural user input |
KR102209354B1 (ko) * | 2014-06-20 | 2021-01-29 | 엘지전자 주식회사 | 영상 표시 기기 및 그의 동작 방법 |
JP6592940B2 (ja) * | 2015-04-07 | 2019-10-23 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US10043279B1 (en) | 2015-12-07 | 2018-08-07 | Apple Inc. | Robust detection and classification of body parts in a depth map |
US10412280B2 (en) | 2016-02-10 | 2019-09-10 | Microsoft Technology Licensing, Llc | Camera with light valve over sensor array |
US10257932B2 (en) | 2016-02-16 | 2019-04-09 | Microsoft Technology Licensing, Llc. | Laser diode chip on printed circuit board |
US10462452B2 (en) | 2016-03-16 | 2019-10-29 | Microsoft Technology Licensing, Llc | Synchronizing active illumination cameras |
US11604517B2 (en) * | 2016-09-02 | 2023-03-14 | Rakuten Group, Inc. | Information processing device, information processing method for a gesture control user interface |
US10366278B2 (en) | 2016-09-20 | 2019-07-30 | Apple Inc. | Curvature-based face detector |
CN107977071B (zh) * | 2016-10-24 | 2020-02-28 | 中国移动通信有限公司研究院 | 一种适用于空间系统的操作方法及装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE571702T1 (de) | 1992-05-26 | 1994-04-28 | Takenaka Corp | Handzeige-Eingabegerät und Wandcomputereinheit. |
US5686940A (en) * | 1993-12-24 | 1997-11-11 | Rohm Co., Ltd. | Display apparatus |
US5528263A (en) | 1994-06-15 | 1996-06-18 | Daniel M. Platzker | Interactive projected video image display system |
US5704836A (en) | 1995-03-23 | 1998-01-06 | Perception Systems, Inc. | Motion-based command generation technology |
GB9505916D0 (en) * | 1995-03-23 | 1995-05-10 | Norton John M | Controller |
US6191773B1 (en) * | 1995-04-28 | 2001-02-20 | Matsushita Electric Industrial Co., Ltd. | Interface apparatus |
US6176872B1 (en) * | 1995-08-15 | 2001-01-23 | Ethicon, Inc. | Radial strength stent |
US6181343B1 (en) * | 1997-12-23 | 2001-01-30 | Philips Electronics North America Corp. | System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs |
-
1997
- 1997-12-22 US US08/995,823 patent/US6176782B1/en not_active Expired - Lifetime
-
1998
- 1998-12-14 DE DE69816789T patent/DE69816789T2/de not_active Expired - Lifetime
- 1998-12-14 JP JP53352599A patent/JP4874450B2/ja not_active Expired - Lifetime
- 1998-12-14 EP EP98957077A patent/EP0961965B1/en not_active Expired - Lifetime
- 1998-12-14 WO PCT/IB1998/002018 patent/WO1999032959A2/en active IP Right Grant
-
2000
- 2000-08-14 US US09/638,132 patent/US6283860B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
EP0961965B1 (en) | 2003-07-30 |
US6176782B1 (en) | 2001-01-23 |
WO1999032959A3 (en) | 1999-08-19 |
EP0961965A2 (en) | 1999-12-08 |
JP2001513244A (ja) | 2001-08-28 |
DE69816789D1 (de) | 2003-09-04 |
WO1999032959A2 (en) | 1999-07-01 |
DE69816789T2 (de) | 2004-05-27 |
US6283860B1 (en) | 2001-09-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4874450B2 (ja) | オプション選択に基づくジェスチャー方法及び装置 | |
US9600078B2 (en) | Method and system enabling natural user interface gestures with an electronic system | |
Starner et al. | The perceptive workbench: Computer-vision-based gesture tracking, object tracking, and 3D reconstruction for augmented desks | |
US8081822B1 (en) | System and method for sensing a feature of an object in an interactive video display | |
CN101796474B (zh) | 图像投影设备及其控制方法 | |
KR100650296B1 (ko) | 카메라-기반 제스쳐 입력들을 이용하여 3차원 이미지들을 구축하는 시스템 및 방법 | |
JP4149213B2 (ja) | 指示位置検出装置及び自律ロボット | |
Leibe et al. | The perceptive workbench: Toward spontaneous and natural interaction in semi-immersive virtual environments | |
Leibe et al. | Toward spontaneous interaction with the perceptive workbench | |
JP7162079B2 (ja) | 頭部のジェスチャーを介してディスプレイ装置を遠隔制御する方法、システムおよびコンピュータプログラムを記録する記録媒体 | |
US20140139429A1 (en) | System and method for computer vision based hand gesture identification | |
CN104364733A (zh) | 注视位置检测装置、注视位置检测方法和注视位置检测程序 | |
CN102622774A (zh) | 起居室电影创建 | |
JP2014517957A (ja) | 空間ジェスチャからの空間オブジェクト説明の推測 | |
JPH11259660A (ja) | 三次元動作復元システム | |
JP2002197463A (ja) | 挙動検出装置および挙動検出システム | |
JP5526465B2 (ja) | 爪位置データ検出装置及び爪位置データ検出方法、並びに爪位置データ検出プログラム | |
Yang et al. | Hybridtrak: Adding full-body tracking to vr using an off-the-shelf webcam | |
JP2015153180A (ja) | 情報処理装置および情報処理方法 | |
CN107967062B (zh) | 一种基于体感交互的智能试衣方法、系统和橱窗 | |
JP2019192224A (ja) | 画像生成装置及び画像生成プログラム | |
Berger | The role of rgb-d benchmark datasets: an overview | |
JP6461394B1 (ja) | 画像生成装置及び画像生成プログラム | |
Das | Real time direction estimation for pointing interactions using a depth sensor and a nine axis inertial motion unit | |
US20230386049A1 (en) | Tracking apparatus, tracking system, tracking method, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080408 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080331 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080708 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081006 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20081118 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20081120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090318 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20090402 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20090521 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20110704 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20110711 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110930 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111124 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141202 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |