JP4874450B2 - オプション選択に基づくジェスチャー方法及び装置 - Google Patents

オプション選択に基づくジェスチャー方法及び装置 Download PDF

Info

Publication number
JP4874450B2
JP4874450B2 JP53352599A JP53352599A JP4874450B2 JP 4874450 B2 JP4874450 B2 JP 4874450B2 JP 53352599 A JP53352599 A JP 53352599A JP 53352599 A JP53352599 A JP 53352599A JP 4874450 B2 JP4874450 B2 JP 4874450B2
Authority
JP
Japan
Prior art keywords
user
arm
projection
determining
option
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP53352599A
Other languages
English (en)
Other versions
JP2001513244A (ja
Inventor
ダミアン エム リオンス
トーマス ヘー マーフィー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2001513244A publication Critical patent/JP2001513244A/ja
Application granted granted Critical
Publication of JP4874450B2 publication Critical patent/JP4874450B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1012Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1087Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1087Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
    • A63F2300/1093Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera using visible light
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60Methods for processing data by generating or executing the game program
    • A63F2300/6045Methods for processing data by generating or executing the game program for mapping control signals received from the input arrangement into game commands
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/80Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
    • A63F2300/8029Fighting without shooting

Description

発明の背景
本発明は、ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにするに当たり、
− 前記一組の選択可能なオプションを各オプション位置に表示するステップと、
− 前記ユーザが前記特定のオプションを物理的に指定することを許容される間に前記ユーザの像を撮影するステップと、
− 前記ユーザが前記特定のオプションを選択したか否かを前記像から確定するステップと、
− 前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定するステップとを具える方法に関するものである。
また、本発明は、ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする装置であって、
− 前記一組の選択可能なオプションを各オプション位置に表示する表示手段と、
− 前記ユーザの像を撮影する撮像手段と、
− 前記ユーザが前記特定のオプションを選択したか否かを前記像から確定する確定手段と、
− 前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定する決定手段とを具える装置に関するものである。
そのような方法及び装置は、米国特許出願明細書第5,528,263号に記載されている。既知の装置は、ボタンと称される1個以上の選択可能なオプションを有するビデオイメージを投影スクリーン上に投影する投影機を有する。装置は、スクリーン上に投影された像のイメージを記録するカメラを具える。さらに、装置を配置して、カメラに記録された像と投影機に供給された元の像とを比較する。投影された像に並んで立つユーザは、投影スクリーンと異なる光反射を発生させるオブジェクトを特定の選択可能なオプションにカバーすることによって装置に関係する。オブジェクトを、ユーザの手又はペンや定規のような専用の指示装置とすることができる。カメラ像と元の像とを比較する際、特定のオプションのカバーを検知し、そのオプションに対応する動作を装置によって実行する。これを、表示を形成する一連の像における次のビデオイメージの投影とすることができる。既知の装置において、カメラは、単一フレーム中に投影ビデオイメージ及びユーザを記録する必要がある。これは、投影スクリーンの付近に留まる必要があるユーザの移動を制限する。さらに、ユーザは、投影されたイメージにおいて特定のオプションをカバーして、このオプションの選択を表示する必要がある。これは、ユーザがそのオプションに近接して存在することも要求する。さらに、ユーザは、スクリーン上のこのオプション又は他のオプションを身体の一部で故意にカバーしないように注意するとともに、スクリーン上の1個以上のオプションに対するカメラの視野を遮断することを回避する必要がある。そのような既知の装置との関連に対して、ユーザが移動できる領域及び選択可能なオプションの位置が制限される。
発明の要約
本発明の目的は、ユーザによる指定を決定する向上した方法を有する既に説明したような方法を提供することである。この目的を、前記像に基づいて、前記ユーザの身体の形状の位置を3次元空間で決定するステップと前記ユーザが前記特定のオプションを選択したか否かを前記像から確定するステップを更に具え、前記身体の形状の位置及び前記特定のオプションの位置に基づいて実行する本発明による方法によって達成する。ユーザが特定のオプションを指定したか否かの決定がユーザの像のみに基づくものであるので、選択可能なオプションがその像中にあることを要求することなく、ユーザは、既知の方法に比べて大きな移動の自由度が与えられる。3次元におけるユーザの身体の形状の位置を確立することによって、このオプションが像に存在しない間にユーザが特定のオプションを指定したか否かを決定することができる。3次元空間におけるオプションの指定は、ある入力装置を操作する必要がなく、ユーザの選択として非常に自然であるとともに直感的な方法である。これは、コンピュータの操作になれないユーザに対して特に有利である。さらに、専用の入力装置及び他の移動装置が存在しないことによって、この方法を公共の場所で適用するのに非常に魅力的である。その理由は、これら装置が取り去られたり損傷されたりするおそれがないからである。
このようなユーザの像に基づいてアプリケーションを制御することは既知である。国際特許出願公開明細書第96/30856号は、1個以上の身体の部分を動かすことによってユーザが見るスクリーン上のグラフィック、例えば、動画キャラクターをユーザが制御する装置を記載している。この装置には、ユーザの像を撮影するカメラが搭載されている。その像のユーザのシルエットが分析され、像の1個以上の特定の領域の身体の部分の位置及び動作が、グラフィックを制御する入力として用いられる。ユーザが仮定することができるポーズはシルエット中で簡単に識別することができ、表示されたオプションへの指定はない。装置は、ユーザの像をシルエットとしてのみ2次元で分析し、3次元におけるユーザの身体の位置の決定は行われない。この方法と本発明による方法との間の重大な差は次の通りである。
− 関係の形式が相違する。既知の方法では、特定のシルエットを生じるポーズによってアプリケーション中に対応するコマンド及び動作が生じ、これによって、ポーズと結果的に生じる動作との間に自然な一致がなく、それに対して、本発明は、選択すべきオプションに対する自然な指定が行われる。
− 既知の方法では、各身体の部分のシルエットが像の対応する領域にあると仮定するために身体のポーズ及び位置が制限され、それに対して、本発明は、ユーザが仮定することができる位置及びポーズが非常に自由である。
− 既知の方法では、ユーザのポーズの分析が像の2次元においてのみ行われるが、それに対して、本発明では、身体のポーズは、ユーザが関係する3次元空間で決定され、したがって、非常に直感的なインタフェースをユーザに与える。その理由は、それは人間の感覚に従うからである。
本発明による方法を、ユーザが装置と関係する種々のアプリケーションに用いることができる。それはコマンドを装置に入力するのに用いられるが、個別の入力装置を必要としない。例示すると、図書館、画廊、博物館のような公共の建物の情報検索装置及び遊歩商店街、小売店、デパートのような公共の買い物地域のショッピングシステムがある。他のアプリケーションは、ユーザが所望の食品アイテムを指定することができるファーストフードプロバイダーのような公共事業設備や、ホームシアター装置を有するインタラクションのような家庭の使用を含む。
本発明による方法の一例において、前記一組の選択可能なオブジェクトを、前記ユーザに対向するビデオスクリーン上に表示する。選択可能なオプションをスクリーン上に表示することによって、これらオプションをユーザに対して柔軟に表示する。この表示を、現在選択を行っているユーザに対して容易に適合させることができる。表示されたオプションの高さをスクリーンの前に立つユーザの高さに整合することができ、スクリーン上に表示されたオプションのサイズを、スクリーンからのユーザが立っている位置までの距離に適合させることができる。さらに、この方法を用いる装置を容易に維持することができる。その理由は、スクリーン上の一組の選択可能なオプションの変更が、更に容易になるとともに一組の選択可能なオプションのハードウェアセットアップを変更するよりも廉価であるからである。
本発明による方法の一例において、前記身体の形状を前記ユーザの腕の端部とする。ユーザが1本以上の指及び手によって指定することができることによって、非常に自然で直感的な指定が行われる。指定する腕の端部、すなわち、指又は腕を像から認識することができ、その位置を計算することができる。
本発明による方法の一例は、前記像に基づいて、前記ユーザの足の位置、前記像の像平面上への前記ユーザの腕の投影及び前記像の像平面上の前記ユーザの身体の長軸を決定するステップを更に具え、前記身体の形状の位置を決定するステップが、
− 前記特定のオプションの位置と前記足の位置との間の距離を決定するステップと、
− 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定するステップと、
− 前記ユーザの腕の長さの見積もり値及び決定された前記腕の投影の長さに基づいて、前記ユーザの腕と前記像の像平面との間の第2の角度を決定するステップとを具える。足の位置に基づいて身体と特定のオプションとの間の距離を決定するステップ及び指定する腕の二つの角度に基づいて身体に対する身体の指定する身体形状の位置を決定するステップは、3次元空間でこのように指定する身体の形状の位置を決定するのに信頼のおける方法であることが確認された。
本発明によるイメージ検索装置の一例は、前記ユーザの高さを決定する初期化ステップを具え、前記腕の長さの見積もり値を、前記ユーザの高さに基づく生物測定学データから得る。必要な腕の長さに対する見積もりを生物測定学データから得ることが適切であることが確認されている。そのような生物測定学データは、数年に亘って多数の相違する人の測定に起因するものであり、多数の場所、例えば図書館でアクセスすることができる。
本発明の他の目的は、ユーザによる指定を決定する向上した機構を有する既に説明したような装置を提供することである。この目的を、前記像に基づいて、前記ユーザの身体の形状の位置を3次元空間で決定する形状決定手段と前記確定手段を、前記身体の形状の位置及び前記特定のオプションの位置に基づいて前記ユーザが前記特定のオプションを指定したか否かを確定するように配置したことを特徴とする本発明による装置によって達成する。装置が、ユーザの像に基づいて、特に、指定する身体の形状の位置を決定することによって、ユーザが特定のアイテムを指定したか否かを決定するので、指定中のユーザの位置及びポーズに対する柔軟性が高くなる。さらに、装置との関連を非接触で行い、すなわち、押すべきボタン又は操作すべき指定装置がない。これによって、装置が強固になるとともに公共の場所における使用に適するようになる。その理由は、装置のパーツが取り去られたり損傷したりするおそれが少なくなるからである。
本発明による装置の一例は、前記表示手段が、前記一組の選択可能なオブジェクトを表示するように前記ユーザに対向するビデオスクリーンを具える。一組の選択可能なオプションを表示するビデオスクリーンによって装置の維持が容易になる。セットの内容すなわち出現の変更を、スクリーン上にイメージを発生させるソフトウェアを変更することによって行い、装置のハードウェア部の任意の変更を必要としない。
本発明の他の好適な実施の形態を以下説明する。
【図面の簡単な説明】
本発明及びそれに付随する利点を、実施の形態及び添付図面を参照して詳細に説明する。
図1は、本発明による装置を線形的に示す。
図2は、本発明による方法の主要ステップを有するフローチャートを示す。
図3は、カメラによって撮影された像の分析の中間結果を示す。
図4は、指定する手の位置を計算するステップを示す。
図5は、手の位置に基づく指定されたオプションの決定を示す。
図6は、本発明による装置の最重要構成要素を示す。
図面中、対応する形態に同一符号を付すものとする。
好適な実施の形態の説明
図1は、本発明による装置を線形的に示す。装置100は、2×3mのビデオスクリーン102と、インタラクションエリア104とを有する。装置は、ビデオスクリーンの前方でインタラクションエリアに立つユーザ108の像を撮影するカメラ106を有する。装置は一組の選択可能なオプション110をビデオスクリーン上に表示し、ユーザはそれを指示することによってオプションを選択する。選択可能なオプション及び適用可能な場合の他のサポーティング情報の説明を有する追加のオブジェクト112を表示するように装置を配置する。撮影されたユーザのカメライメージ114は、装置の視覚識別部116で分析される。視覚識別部は、ユーザの現在の姿勢を決定し、3次元空間におけるユーザの指示する手の位置を計算する。装置のアプリケーション部118において、3次元データは、ビデオスクリーン上に表示された選択可能なオプションのうちの1個をユーザが指定したか否かを決定するのに用いられる。アプリケーション部は、視覚識別部から受信したユーザの手が指定する位置及びアプリケーション部がオプションの表示を発生させるために既知である選択可能なオプションの各々の位置に基づいた計算を行う。選択した特定のオプションに基づいて、アプリケーション部は、対応する動作を実行する。選択されるオプションがメニュー階層中の選択である場合、メニュー階層中の次のレベルを表す新たな一組の選択可能な表示動作を行う。選択されるオプションが特定の情報アイテムに対する要求を表す場合、この情報アイテムの検索及びそれに続くビデオスクリーン上への情報アイテムの表示動作を行う。
オプションの選択は2段階で行われる。第1段階において、ユーザは所望のオプションを指定し、第2段階では、ユーザは、これが所望のオプションであることを確認する。この2段階のアプローチは、不所望な選択を回避し、かつ、マウスに対して用いられる指定及びクリックに似ている。本発明による装置の実施の形態において、予め設定された期間中にユーザの所望のオプションの指定を維持することによって確認が行われる。この期間が経過すると、装置は、ユーザによる確認を認識し、対応する動作を実行する。確認の他の方法が考察され、現在のところそれは考察中である。第1の代案は、ユーザが指によって所望のオプションを丸で囲むことである。ユーザが丸を完成させると、確認が行われ、かつ、所望のオプションが選択される。第2の代案は、確認のために音声入力を用いることである。この場合、ユーザは、所望のオプションを指定する間「これ」と声を発する。この語句を発することによって確認が行われ、所望のオプションが選択される。
図2は、本発明による方法の主要ステップを有するフローチャートを示す。ステップ202において、選択可能なオプションをビデオスクリーン上に表示し、次いで、ステップ204において、インタラクションエリアでスクリーンの前に立つユーザから像を撮影する。装置のカメラは、インタラクションエリアのシーンを連続的に記録し、適切な瞬時に装置が分析用の単一像を取り出す。ステップ206において、この像が分析され、3次元空間におけるユーザの手の指定する位置を決定する。このステップ206を、後に図3及び4を用いて更に詳細に説明する。次いで、ステップ208は、像のユーザが特定のオプションを指定しているか否か検査する。指定していない場合、処理は新たな像を取り出すためにステップ204に戻り、処理を繰り返す。ステップ208においてユーザが特定のオプションを指定していることを決定した場合、そのオプションに対応する動作をステップ210で実行する。次いで、ステップ212において、新たな一組の選択可能なオプションを有する新たなビデオイメージをビデオスクリーン上に表示すべきか否か検査する。表示すべき場合、このビデオイメージを表示するためにプロセスはステップ202に戻り、その後、それに続くステップをこの新たなビデオイメージに対して実行する。図2のフローチャートは、本発明の主要ステップのみを示す。実際には、本発明は、更に詳細なプロセス及び制御ステップを具えるが、明瞭のためにこれらを省略する。
図3は、カメラによって撮影されたイメージの分析の中間結果を示す。カメラによって撮影された像を処理する第1ステップにおいて、ビデオスクリーンの前に立つユーザの身体の輪郭302を得る。この第1処理ステップは、本発明の主要要素ではなく、簡潔のために本明細書では更に詳細に説明しない。身体の輪郭を得る処理ステップは、1997年7月に刊行されたIEEE Transactions on Pattern Analysis and Machine Intelligence,Vol.19,No.7のDarrel T.,Wren C.,Azarbayejani A及びPentland Aによる“Pfinder:Real-time tracking of the human body”に記載されている。次のステップにおいて、身体の輪郭を包囲する区域ボックス304を決定する。区域ボックス304は、水平方向に同一サイズの3行及び垂直方向に同一サイズの3列にボックスを分割することによって9個のセルに分割する。3列に対して左から右にA,B及びCを付し、3行に対して上から下に1,2及び3を付す。身体の輪郭をセルごとに分析して、ユーザの身体の種々の特徴を識別する。以下の測定は各セルに対して行われたものであり、(x,y)は、xが左から右に続くとともにyが下から上に続く場合の像の位置を表す。
Figure 0004874450
身体の輪郭に応じて、全ての測定を存在させる必要はない。図3において、得られた測定を正の符号で表し、セルごとに以下の参照番号を有する。
A1:306 B1:312 C1:318
A2:308 B2:(なし) C2:320
A3:310 B3:314及び316 C3:322
種々の身体の形状は、上記測定に基づいて識別される。この識別は、身体の特徴ごとに擬似コードで以下のように与えられる。この場合、//−符号は、擬似コードの関連のラインに対するコメントを表す。
右手:
A1−測定が存在する場合//右手は肩の位置の上
右手=A1−測定
そうでない場合//右手は肩の下
A2−測定が存在する場合
右手=A2−測定
そうでない場合//この像では右手が見えない。
右手=無効
左手:
C1−測定が存在する場合//左手は肩の位置の上
左手=C1−測定
そうでない場合//左手は肩の下
C2−測定が存在する場合
右手=C2−測定
そうでない場合//この像では左手が見えない。
左手=無効
頭:
B1−測定が存在する場合
頭=B1−測定
そうでない場合//この像では頭が見えない。
頭=無効
右足:
A3−測定が存在する場合//足を広げている。
右足=A3−測定
そうでない場合//足が揃っている。
B3−MIN(x)測定が存在する場合
右足=B3−MIN(x)−測定
そうでない場合//この像では右足が見えない。
右足=無効
左足:
C3−測定が存在する場合//足を広げている。
左足=C3−測定
そうでない場合//足が揃っている。
B3−MAN(x)測定が存在する場合
左足=B3−MAN(x)−測定
そうでない場合//この像では右足が見えない。
左足=無効
さらに、複数の身体の形状を識別する。中央の形状を区域ボックス304の中央で識別し、基底の形状を区域ボックスの底部中央で識別する。左右の肩の形状を、頭の形状からそれぞれx及びyオフセットして識別する。
区画ボックスを9個のセルに分割することによって、ユーザが頭の上に手を上げているポーズを分析することができる。単一の区域ボックス304を用いる場合、ボックス中で見つけられる最高位置が頭であると仮定される。これによって、ユーザが指定する方向を明らかに誤って決定するおそれがある。
図4は、指定する手の位置を計算するステップを示す。これらステップは、図3に関連して既に説明したようにして計算した形状に基づくものである。ステップ402は、カメラをユーザの前に直接配置されないときに実行する必要があるカメラ校正のステップである。カメラ校正ステップの出力を、カメラ位置及び方向を装置の座標フレームに関連させる回転及び移動を表す4×4行列とする。この座標フレームは、床の上のX軸及びZ軸並びに上方向のY軸を有する。カメラによって撮影された像は、カメラ校正行列を用いてXY面に変換される。変換された像は、ユーザの前に直接配置されたカメラによって撮影された像となる。その結果、カメラがどの角度にあっても、カメラ校正行列を用いて、足の実際の3次元位置及びそれに関連するXY平面の頭及び手の位置を決定する。以下続くステップは、カメラ位置を考慮して像をXY面に変換した後の像で行われる。
ステップ404において、ユーザの腕の全長lを得る。これは、腕の実際の長さであり、像に出現する長さではない。先ず、ユーザの高さを、像の身体の輪郭の頭の形状及び基底形状から計算する。ユーザが床の上に立っていると仮定すると、カメラとユーザ位置との間の距離は、像の基底形状の位置によって決定される。この距離が与えられると、身体の輪郭の高さをユーザの実際の高さにスケール化される。次いで、装置は、生物測定学のテーブルからユーザの腕の実際の長さに対する見積もりを得る。これら生物測定学データは、多数の人物の統計的な測定データから決定され、その人物の高さが与えられると、それを用いて人物の種々の身体寸法を見積もる。ステップ406において、ユーザの身体の長軸に対してベクトルbが決定される。ベクトルbは、基底形状から頭の形状への方向を有し、1単位の長さが与えられる。ステップ408において、ユーザの指定する腕に対してベクトルaを規定する。肩の位置を、頭の形状の位置からの所定のオフセットとして生物測定学データのテーブルから得る。ベクトルは、肩の位置から腕の位置への方向を有し、1単位の長さが与えられる。ステップ410において、像に出現するユーザの腕の長さ
Figure 0004874450
を測定する。像の腕は、実際の3次元の腕の像への投影となり、投影の短縮のために実際の全長lよりも短い。
最後に、ステップ412及び414において、腕の位置を、既に得られたデータに基づいて計算する。ステップ412において、ベクトルaとベクトルbとの間の角度Θ1を、以下の式を用いて計算する。
Θ1=cos-1(a.b) (1)
a及びbが単位長さのベクトルであるので、この簡単な関係は正しい。ベクトルa及びbは両方とも像平面に存在し、したがって角度Θ1となる。ステップ414において、ユーザの指定する腕と像平面との間の角度Θ2を、以下の式を用いて計算する。
Figure 0004874450
既に説明したように、長さlを腕の実際の長さとし、長さ
Figure 0004874450
を像に見える腕の長さとする。腕が像の像平面から離れて指定するに従って、長さ
Figure 0004874450
が短くなる。これは、式(2)に従う。
肩の位置、角度Θ1,角度Θ2及び腕の長さlを与えると、腕の位置は装置の座標フレームの3次元で十分に決定される。次いで、この腕の位置を用いて、ユーザがどのオプションを指定したかを決定する。ステップ404−414の測定及び計算を、像をXY面に変換した後のユーザの像で実行する。この変換を、カメラがユーザの前に直接配置されていないことを考慮して行う。カメラがユーザの前に直接配置されている場合、変換を行う必要がない。
図5は、手の位置に基づく指定位置の決定を示す。この図5は、選択可能なオプション110を有するビデオスクリーン102及びインタラクションエリア104に立つユーザ108を側面で示す。指定する腕の位置を、カメラ106によって撮影された像に基づいて計算する。本実施の形態において、ユーザがどのオプションを選択するかを決定するために、捕捉ライン504をユーザの目及び手によって決定する。目の位置は、頭の形状の位置からの所定のオフセットとなり、生物測定学データのテーブルから得られる。ユーザの目及び手の既知の位置並びにビデオスクリーンの位置が与えられると、ライン504とビデオスクリーン102との間の捕捉点506が計算される。足の位置によって表されたユーザとビデオスクリーン上に表示された選択可能なオブジェクトとの間の距離を、上記ステップに従って計算する。捕捉点506と選択可能なオプションの既知の位置との比較から、ユーザがどのオプションを指定しているかを所望に応じて容易に決定することができる。捕捉ライン504を規定する代案が存在し、例えば、ユーザの肩及び腕を通じたラインをユーザの指定する腕に一致させる。
図6は、本発明による装置の最重要構成要素を示す。装置600を、既知のアーキテクチャによって実現し、汎用コンピュータ上で実現することができる。装置は、ワーキングメモリ604にロードされたアプリケーションプログラムのインストラクションを実行する。装置は、周辺装置と通信するインタフェース606も有する。装置の種々の構成要素間でコマンド及びデータの交換を行うバス608がある。装置の周辺は、実行可能なプログラムを有する記憶媒体610を有する。記憶媒体610を磁気ヘッドディスクとするが、種々の個別の装置、場合によっては相違する種類の装置として実現することもできる。本発明の用途は装置のタイプに限定されるものではなく、使用できる記憶装置は、光ディスク、磁気ディスク、テープ、チップカード、固体装置又はこれら装置の組合わせを有する。装置は、選択可能なオプションを有するビデオイメージをビデオ表示スクリーンに送信する出力部614も有する。さらに、装置は、カメラによって撮影されたビデオを受信する入力部616を有する。
種々のタスクを実行するために、複数のソフトウェアユニットをワーキングメモリ604にロードし、そのうちの一つは次の通りである。
− ユーザの高さを決定する初期化ユニット618。
− 像に基づいて3次元空間におけるユーザの身体の形状の位置を決定する形状決定ユニット620。
− 像に基づいてユーザの足の位置、像の像平面の上へのユーザの腕の投影及び像の面上のユーザの身体の長軸を決定する別の決定ユニット622。
− ユーザが特定のオプションを指定したか否かを像から確定する確定ユニット624。
− ユーザが特定のオプションを選択したことを決定する決定ユニット626。この場合、確定手段は、ユーザが特定のオプションを指定したことを確定する。
さらに、ワーキングメモリ604は、装置によって分析される像の身体の輪郭及び種々の身体の形状の位置のような入力データ、出力データ及び中間結果を一時的に格納するメモリスペース628を有する。
本発明を、比較的大きなビデオスクリーン上に表示されたオプションをユーザが腕によって指定する装置で説明した。本発明をそれより小さいサイズの装置にも適用できること理解すべきである。一例として、選択可能なオプションが比較的小さいコンピュータモニタ上に表示されるとともにユーザが所望のオプションを指で指定することができるパーソナルコンピュータが挙げられる。この場合、既に説明したようにして、ユーザが指定するオプションを、指がさした3次元位置を計算するとともにこれをモニタに表示された選択可能なオプションの各位置に関連させることによって決定する。

Claims (16)

  1. ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする方法において
    前記一組の選択可能なオプションを各オプション位置に表示するステップと、
    前記ユーザが前記特定のオプションを物理的に指定することを許容される間に前記ユーザの単一の像を撮影するステップであって、前記単一の像は、前記選択可能なオプションの像を含まないステップと;
    前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定するステップと、
    前記ユーザが前記特定のオプションを選択した場合、前記ユーザが前記特定のオプションを選択したことを決定するステップと、
    前記単一の像に基づいて、3次元空間内の前記ユーザの身体の特徴的部分の位置を決定するステップとを具え、
    前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定するステップを、前記身体の特徴的部分の位置及び前記特定のオプションの位置に基づいて実行し、
    前記方法が、前記単一の像に基づいて、前記ユーザの足の位置、前記単一の像の像平面上における前記ユーザの腕の投影、及び前記単一の像の像平面上における前記ユーザの身体の長軸を決定するステップを更に具え、前記身体の特徴的部分の位置を決定するステップが、
    前記特定のオプションの位置と前記足の位置との間の距離を決定するステップと、
    前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定するステップと、
    生物測定学に基づく前記ユーザの腕の長さの見積もり値及び前記決定した腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定するステップとを具えることを特徴とする方法。
  2. 前記一組の選択可能なオプションを、前記ユーザに対向するビデオスクリーン上に表示することを特徴とする請求項1記載の方法。
  3. 前記身体の特徴的部分を前記ユーザの腕の端部とすることを特徴とする請求項1記載の方法。
  4. 前記ユーザの高さを決定する初期化ステップを具え、前記腕の長さの見積もり値を、前記ユーザの高さに基づいて、生物測定学データから得ることを特徴とする請求項1記載の方法。
  5. 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度は、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の角度であることを特徴とする請求項1記載の方法。
  6. 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項5記載の方法。
  7. ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにする装置であって、
    前記一組の選択可能なオプションを各オプション位置に表示する表示手段と、
    前記ユーザの単一の像を撮影する単一の撮像手段であって、前記単一の像は、前記選択可能なオプションの像を含まない撮像手段と、
    前記ユーザが前記特定のオプションを選択したか否かを前記単一の像から確定する確定手段と、
    前記ユーザが前記特定のオプションを選択したことを前記確定手段が確定した場合、前記ユーザが前記特定のオプションを選択したことを決定する決定手段と、
    前記単一の像に基づいて、3次元空間内の前記ユーザの身体の特徴的部分の位置を決定する特徴的部分決定手段とを具え、
    前記確定手段を、前記身体の特徴的部分の位置及び前記特定のオプションの位置に基づいて前記ユーザが前記特定のオプションを指定したか否かを確定するように構成し
    前記装置が、前記単一の像に基づいて、前記ユーザの足の位置、前記単一の像の像平面上における前記ユーザの腕の投影、及び前記単一の像の像平面上における前記ユーザの身体の長軸を決定する更なる決定手段を更に具え、前記特徴的部分決定手段を、
    前記特定のオプションの位置と前記足の位置との間の距離を決定し、
    前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の第1の角度を決定し、
    生物測定学に基づく前記ユーザの腕の長さの見積もり値及び前記決定した腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定するように構成したことを特徴とする装置。
  8. 前記表示手段が、前記ユーザに対向して前記一組の選択可能なオブジェクトを表示するビデオスクリーンを具えることを特徴とする請求項7記載の装置。
  9. 前記身体の特徴的部分を前記ユーザの腕の端部としたことを特徴とする請求項7記載の装置。
  10. 前記ユーザの高さを決定する初期化手段を具え、前記特徴的部分決定手段を、前記腕の長さの見積もり値を、前記ユーザの高さに基づいて、生物測定学データから得るように構成したことを特徴とする請求項7記載の装置。
  11. 前記特徴的部分決定手段が、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度を、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影及び前記ユーザの身体の長軸の投影を利用して決定するように構成されていることを特徴とする請求項7記載の装置。
  12. 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項11記載の装置。
  13. ユーザが一組の選択可能なオプションから特定のオプションを選択できるようにするプログラムを記憶するコンピュータ可読媒体であって、
    前記プログラムは、コンピュータに
    前記一組の選択可能なオプションを各オプション位置に表示する手順と、
    前記特定のオプションを選択中の前記ユーザの単一の像を受信する手順であって、前記単一の像は、前記選択可能なオプションの像を含まない手順と、
    前記ユーザが前記特定のオプションを選択したか否かを、3次元空間内の前記ユーザの身体の特徴的部分の位置、及び前記特定のオプションのオプション位置に基づいて、前記単一の像から決定する手順と
    を実行させるためのプログラムであり、
    前記ユーザが前記特定のオプションを選択したか否かを決定する手順は、コンピュータに
    前記特定のオプションのオプション位置と前記ユーザの足の位置との間の距離を決定する手順と、
    前記単一の像の像平面上における前記ユーザの腕の投影と、前記単一の像の像平面上における前記ユーザの身体の長軸の投影との間の第1の角度を決定する手順と、
    生物測定学に基づく前記ユーザの腕の長さの見積もり値及び決定される前記腕の投影の長さに基づいて、前記ユーザの腕と前記単一の像の像平面との間の第2の角度を決定する手順と
    を実行させることを含む、コンピュータ可読媒体。
  14. 前記身体の特徴的部分が前記ユーザの腕の端部であることを特徴とする請求項13記載のコンピュータ可読媒体。
  15. 前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の前記第1の角度は、前記ユーザの直接前にある位置から捕捉した、前記ユーザの腕の投影と前記ユーザの身体の長軸の投影との間の角度であることを特徴とする請求項13記載のコンピュータ可読媒体。
  16. 前記ユーザの直接前にある位置から捕捉した前記ユーザの身体の長軸の投影を、記憶している生物測定学データを利用して決定することを特徴とする請求項15記載のコンピュータ可読媒体。
JP53352599A 1997-12-22 1998-12-14 オプション選択に基づくジェスチャー方法及び装置 Expired - Lifetime JP4874450B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US08/995,823 US6176782B1 (en) 1997-12-22 1997-12-22 Motion-based command generation technology
US08/995,823 1997-12-22
PCT/IB1998/002018 WO1999032959A2 (en) 1997-12-22 1998-12-14 Method and system for gesture based option selection

Publications (2)

Publication Number Publication Date
JP2001513244A JP2001513244A (ja) 2001-08-28
JP4874450B2 true JP4874450B2 (ja) 2012-02-15

Family

ID=25542253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP53352599A Expired - Lifetime JP4874450B2 (ja) 1997-12-22 1998-12-14 オプション選択に基づくジェスチャー方法及び装置

Country Status (5)

Country Link
US (2) US6176782B1 (ja)
EP (1) EP0961965B1 (ja)
JP (1) JP4874450B2 (ja)
DE (1) DE69816789T2 (ja)
WO (1) WO1999032959A2 (ja)

Families Citing this family (353)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
GB2330669B (en) * 1997-10-24 2002-09-11 Sony Uk Ltd Data processing
IL127569A0 (en) 1998-09-16 1999-10-28 Comsense Technologies Ltd Interactive toys
DE19845030A1 (de) * 1998-09-30 2000-04-20 Siemens Ag Bildsystem
US7904187B2 (en) 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
US6732915B1 (en) * 1999-09-10 2004-05-11 Fuji Xerox Co., Ltd. Systems and methods for controlling a presentation using physical objects
US20030174125A1 (en) * 1999-11-04 2003-09-18 Ilhami Torunoglu Multiple input modes in overlapping physical space
US20030132950A1 (en) * 2001-11-27 2003-07-17 Fahri Surucu Detecting, classifying, and interpreting input events based on stimuli in multiple sensory domains
JP2001145779A (ja) * 1999-11-22 2001-05-29 Namco Ltd サイン認識システム、ゲームシステム、ゲーム用のプログラムが記録されたコンピュータ読み取り可能な記録媒体
US7028269B1 (en) 2000-01-20 2006-04-11 Koninklijke Philips Electronics N.V. Multi-modal video target acquisition and re-direction system and method
GB0012275D0 (en) * 2000-05-22 2000-07-12 Secr Defence Brit Three dimensional human computer interface
US7206029B2 (en) * 2000-12-15 2007-04-17 Koninklijke Philips Electronics N.V. Picture-in-picture repositioning and/or resizing based on video content analysis
US6600475B2 (en) * 2001-01-22 2003-07-29 Koninklijke Philips Electronics N.V. Single camera system for gesture-based input and target indication
US6704447B2 (en) * 2001-02-21 2004-03-09 Justsystem Corporation Method and apparatus for using illumination from a display for computer vision based user interfaces and biometric authentication
US6931596B2 (en) * 2001-03-05 2005-08-16 Koninklijke Philips Electronics N.V. Automatic positioning of display depending upon the viewer's location
US7259747B2 (en) * 2001-06-05 2007-08-21 Reactrix Systems, Inc. Interactive video display system
EP1689172B1 (en) * 2001-06-05 2016-03-09 Microsoft Technology Licensing, LLC Interactive video display system
US8300042B2 (en) * 2001-06-05 2012-10-30 Microsoft Corporation Interactive video display system using strobed light
US8035612B2 (en) * 2002-05-28 2011-10-11 Intellectual Ventures Holding 67 Llc Self-contained interactive video display system
JP3417555B2 (ja) * 2001-06-29 2003-06-16 株式会社コナミコンピュータエンタテインメント東京 ゲーム装置、人物画像処理方法及びプログラム
KR100480770B1 (ko) * 2001-07-12 2005-04-06 삼성전자주식회사 3차원 공간상의 정보 포인팅 방법
JP3611807B2 (ja) * 2001-07-19 2005-01-19 コナミ株式会社 ビデオゲーム装置、ビデオゲームにおける擬似カメラ視点移動制御方法及びプログラム
US20030095154A1 (en) * 2001-11-19 2003-05-22 Koninklijke Philips Electronics N.V. Method and apparatus for a gesture-based user interface
US6990639B2 (en) 2002-02-07 2006-01-24 Microsoft Corporation System and process for controlling electronic components in a ubiquitous computing environment using multimodal integration
US7274803B1 (en) * 2002-04-02 2007-09-25 Videomining Corporation Method and system for detecting conscious hand movement patterns and computer-generated visual feedback for facilitating human-computer interaction
US7203911B2 (en) * 2002-05-13 2007-04-10 Microsoft Corporation Altering a display on a viewing device based upon a user proximity to the viewing device
US7348963B2 (en) * 2002-05-28 2008-03-25 Reactrix Systems, Inc. Interactive video display system
US7710391B2 (en) 2002-05-28 2010-05-04 Matthew Bell Processing an image utilizing a spatially varying pattern
US7134080B2 (en) * 2002-08-23 2006-11-07 International Business Machines Corporation Method and system for a user-following interface
US6996460B1 (en) * 2002-10-03 2006-02-07 Advanced Interfaces, Inc. Method and apparatus for providing virtual touch interaction in the drive-thru
US7576727B2 (en) * 2002-12-13 2009-08-18 Matthew Bell Interactive directed light/sound system
WO2004055776A1 (en) 2002-12-13 2004-07-01 Reactrix Systems Interactive directed light/sound system
JP4035610B2 (ja) * 2002-12-18 2008-01-23 独立行政法人産業技術総合研究所 インタフェース装置
DE10260305A1 (de) * 2002-12-20 2004-07-15 Siemens Ag HMI Einrichtung mit einem optischem Touch Screen
US7618323B2 (en) * 2003-02-26 2009-11-17 Wms Gaming Inc. Gaming machine system having a gesture-sensing mechanism
US8745541B2 (en) 2003-03-25 2014-06-03 Microsoft Corporation Architecture for controlling a computer using hand gestures
US7665041B2 (en) 2003-03-25 2010-02-16 Microsoft Corporation Architecture for controlling a computer using hand gestures
EP1510407A3 (en) * 2003-09-01 2005-07-27 Matsushita Electric Industrial Co., Ltd. Image displaying apparatus
KR20060091310A (ko) * 2003-09-30 2006-08-18 코닌클리케 필립스 일렉트로닉스 엔.브이. 디스플레이 상의 컨텐트 윈도우의 위치, 크기 및/또는컨텐트를 정의하는 제스쳐
JP4794453B2 (ja) * 2003-10-24 2011-10-19 インテレクチュアル ベンチャーズ ホールディング 67 エルエルシー インタラクティブ・ビデオ・ディスプレイ・システムを管理する方法及びシステム
WO2005041579A2 (en) 2003-10-24 2005-05-06 Reactrix Systems, Inc. Method and system for processing captured image information in an interactive video display system
WO2005041167A1 (ja) * 2003-10-28 2005-05-06 Matsushita Electric Industrial Co., Ltd. 画像表示装置および画像表示方法
FI117308B (fi) * 2004-02-06 2006-08-31 Nokia Corp Eleohjausjärjestelmä
US7893920B2 (en) * 2004-05-06 2011-02-22 Alpine Electronics, Inc. Operation input device and method of operation input
US8560972B2 (en) * 2004-08-10 2013-10-15 Microsoft Corporation Surface UI for gesture-based interaction
JP4433948B2 (ja) * 2004-09-02 2010-03-17 株式会社セガ 背景画像取得プログラム、ビデオゲーム装置、背景画像取得方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006068315A (ja) * 2004-09-02 2006-03-16 Sega Corp ポーズ検出プログラム、ビデオゲーム装置、ポーズ検出方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体
JPWO2006038577A1 (ja) * 2004-10-05 2008-05-15 株式会社ニコン プロジェクタ装置を有する電子機器
US9128519B1 (en) 2005-04-15 2015-09-08 Intellectual Ventures Holding 67 Llc Method and system for state-based control of objects
CN100359437C (zh) * 2005-05-11 2008-01-02 凌阳科技股份有限公司 交互式影像游戏系统
US8081822B1 (en) 2005-05-31 2011-12-20 Intellectual Ventures Holding 67 Llc System and method for sensing a feature of an object in an interactive video display
TWI412392B (zh) * 2005-08-12 2013-10-21 Koninkl Philips Electronics Nv 互動式娛樂系統及其操作方法
US7697827B2 (en) 2005-10-17 2010-04-13 Konicek Jeffrey C User-friendlier interfaces for a camera
US8209620B2 (en) 2006-01-31 2012-06-26 Accenture Global Services Limited System for storage and navigation of application states and interactions
US7599520B2 (en) * 2005-11-18 2009-10-06 Accenture Global Services Gmbh Detection of multiple targets on a plane of interest
US8098277B1 (en) 2005-12-02 2012-01-17 Intellectual Ventures Holding 67 Llc Systems and methods for communication between a reactive video system and a mobile communication device
US20070159455A1 (en) * 2006-01-06 2007-07-12 Ronmee Industrial Corporation Image-sensing game-controlling device
US8125526B2 (en) * 2006-02-03 2012-02-28 Olympus Imaging Corp. Camera for selecting an image from a plurality of images based on a face portion and contour of a subject in the image
US8062115B2 (en) * 2006-04-27 2011-11-22 Wms Gaming Inc. Wagering game with multi-point gesture sensing device
US8628418B2 (en) 2006-05-03 2014-01-14 Igt Method and apparatus for operating a mobile gaming system
US9104270B2 (en) * 2006-05-22 2015-08-11 Thomson Licensing Video system having a touch screen
US8005238B2 (en) 2007-03-22 2011-08-23 Microsoft Corporation Robust adaptive beamforming with enhanced noise suppression
US8005237B2 (en) 2007-05-17 2011-08-23 Microsoft Corp. Sensor array beamformer post-processor
US8678896B2 (en) 2007-06-14 2014-03-25 Harmonix Music Systems, Inc. Systems and methods for asynchronous band interaction in a rhythm action game
US8439733B2 (en) 2007-06-14 2013-05-14 Harmonix Music Systems, Inc. Systems and methods for reinstating a player within a rhythm-action game
US8726194B2 (en) 2007-07-27 2014-05-13 Qualcomm Incorporated Item selection using enhanced control
JP5430572B2 (ja) 2007-09-14 2014-03-05 インテレクチュアル ベンチャーズ ホールディング 67 エルエルシー ジェスチャベースのユーザインタラクションの処理
US8629976B2 (en) * 2007-10-02 2014-01-14 Microsoft Corporation Methods and systems for hierarchical de-aliasing time-of-flight (TOF) systems
TWI372645B (en) * 2007-10-17 2012-09-21 Cywee Group Ltd An electronic game controller with motion-sensing capability
US8159682B2 (en) 2007-11-12 2012-04-17 Intellectual Ventures Holding 67 Llc Lens system
US20090166684A1 (en) * 2007-12-26 2009-07-02 3Dv Systems Ltd. Photogate cmos pixel for 3d cameras having reduced intra-pixel cross talk
TWI378329B (en) * 2008-02-12 2012-12-01 Shenzhen China Star Optoelect Method for controlling angle of display and self-adjusting display device
US8259163B2 (en) 2008-03-07 2012-09-04 Intellectual Ventures Holding 67 Llc Display with built in 3D sensing
JP5120754B2 (ja) * 2008-03-28 2013-01-16 株式会社国際電気通信基礎技術研究所 動作検出装置
DE102008020772A1 (de) * 2008-04-21 2009-10-22 Carl Zeiss 3D Metrology Services Gmbh Darstellung von Ergebnissen einer Vermessung von Werkstücken
JP4318056B1 (ja) * 2008-06-03 2009-08-19 島根県 画像認識装置および操作判定方法
US8595218B2 (en) * 2008-06-12 2013-11-26 Intellectual Ventures Holding 67 Llc Interactive display management systems and methods
US8385557B2 (en) * 2008-06-19 2013-02-26 Microsoft Corporation Multichannel acoustic echo reduction
US8325909B2 (en) 2008-06-25 2012-12-04 Microsoft Corporation Acoustic echo suppression
US8203699B2 (en) 2008-06-30 2012-06-19 Microsoft Corporation System architecture design for time-of-flight system having reduced differential pixel size, and time-of-flight systems so designed
WO2010006054A1 (en) 2008-07-08 2010-01-14 Harmonix Music Systems, Inc. Systems and methods for simulating a rock and band experience
US8681321B2 (en) * 2009-01-04 2014-03-25 Microsoft International Holdings B.V. Gated 3D camera
JP2010176510A (ja) * 2009-01-30 2010-08-12 Sanyo Electric Co Ltd 情報表示装置
US8682028B2 (en) * 2009-01-30 2014-03-25 Microsoft Corporation Visual target tracking
US8588465B2 (en) 2009-01-30 2013-11-19 Microsoft Corporation Visual target tracking
US8565477B2 (en) 2009-01-30 2013-10-22 Microsoft Corporation Visual target tracking
US8487938B2 (en) * 2009-01-30 2013-07-16 Microsoft Corporation Standard Gestures
US8267781B2 (en) 2009-01-30 2012-09-18 Microsoft Corporation Visual target tracking
US8577085B2 (en) * 2009-01-30 2013-11-05 Microsoft Corporation Visual target tracking
US8577084B2 (en) * 2009-01-30 2013-11-05 Microsoft Corporation Visual target tracking
US20100199231A1 (en) 2009-01-30 2010-08-05 Microsoft Corporation Predictive determination
US8295546B2 (en) * 2009-01-30 2012-10-23 Microsoft Corporation Pose tracking pipeline
US20100199228A1 (en) * 2009-01-30 2010-08-05 Microsoft Corporation Gesture Keyboarding
US7996793B2 (en) 2009-01-30 2011-08-09 Microsoft Corporation Gesture recognizer system architecture
US8294767B2 (en) 2009-01-30 2012-10-23 Microsoft Corporation Body scan
US8448094B2 (en) 2009-01-30 2013-05-21 Microsoft Corporation Mapping a natural input device to a legacy system
US8565476B2 (en) 2009-01-30 2013-10-22 Microsoft Corporation Visual target tracking
KR20100101389A (ko) 2009-03-09 2010-09-17 삼성전자주식회사 사용자 메뉴를 제공하는 디스플레이 장치 및 이에 적용되는ui제공 방법
US8773355B2 (en) 2009-03-16 2014-07-08 Microsoft Corporation Adaptive cursor sizing
US9256282B2 (en) 2009-03-20 2016-02-09 Microsoft Technology Licensing, Llc Virtual object manipulation
US8988437B2 (en) 2009-03-20 2015-03-24 Microsoft Technology Licensing, Llc Chaining animations
US9313376B1 (en) 2009-04-01 2016-04-12 Microsoft Technology Licensing, Llc Dynamic depth power equalization
US8181123B2 (en) 2009-05-01 2012-05-15 Microsoft Corporation Managing virtual port associations to users in a gesture-based computing environment
US9498718B2 (en) 2009-05-01 2016-11-22 Microsoft Technology Licensing, Llc Altering a view perspective within a display environment
US8638985B2 (en) 2009-05-01 2014-01-28 Microsoft Corporation Human body pose estimation
US8503720B2 (en) 2009-05-01 2013-08-06 Microsoft Corporation Human body pose estimation
US8253746B2 (en) 2009-05-01 2012-08-28 Microsoft Corporation Determine intended motions
US8942428B2 (en) 2009-05-01 2015-01-27 Microsoft Corporation Isolate extraneous motions
US9377857B2 (en) 2009-05-01 2016-06-28 Microsoft Technology Licensing, Llc Show body position
US8649554B2 (en) 2009-05-01 2014-02-11 Microsoft Corporation Method to control perspective for a camera-controlled computer
US9898675B2 (en) 2009-05-01 2018-02-20 Microsoft Technology Licensing, Llc User movement tracking feedback to improve tracking
US9015638B2 (en) 2009-05-01 2015-04-21 Microsoft Technology Licensing, Llc Binding users to a gesture based system and providing feedback to the users
US8660303B2 (en) * 2009-05-01 2014-02-25 Microsoft Corporation Detection of body and props
US8340432B2 (en) 2009-05-01 2012-12-25 Microsoft Corporation Systems and methods for detecting a tilt angle from a depth image
US20100295782A1 (en) 2009-05-21 2010-11-25 Yehuda Binder System and method for control based on face ore hand gesture detection
US8418085B2 (en) 2009-05-29 2013-04-09 Microsoft Corporation Gesture coach
US8509479B2 (en) 2009-05-29 2013-08-13 Microsoft Corporation Virtual object
US8625837B2 (en) 2009-05-29 2014-01-07 Microsoft Corporation Protocol and format for communicating an image from a camera to a computing environment
US8693724B2 (en) 2009-05-29 2014-04-08 Microsoft Corporation Method and system implementing user-centric gesture control
US8856691B2 (en) 2009-05-29 2014-10-07 Microsoft Corporation Gesture tool
US9383823B2 (en) 2009-05-29 2016-07-05 Microsoft Technology Licensing, Llc Combining gestures beyond skeletal
US9182814B2 (en) 2009-05-29 2015-11-10 Microsoft Technology Licensing, Llc Systems and methods for estimating a non-visible or occluded body part
US8320619B2 (en) 2009-05-29 2012-11-27 Microsoft Corporation Systems and methods for tracking a model
US8449360B2 (en) 2009-05-29 2013-05-28 Harmonix Music Systems, Inc. Displaying song lyrics and vocal cues
US8379101B2 (en) 2009-05-29 2013-02-19 Microsoft Corporation Environment and/or target segmentation
US9400559B2 (en) 2009-05-29 2016-07-26 Microsoft Technology Licensing, Llc Gesture shortcuts
US8542252B2 (en) 2009-05-29 2013-09-24 Microsoft Corporation Target digitization, extraction, and tracking
US8744121B2 (en) 2009-05-29 2014-06-03 Microsoft Corporation Device for identifying and tracking multiple humans over time
US8465366B2 (en) 2009-05-29 2013-06-18 Harmonix Music Systems, Inc. Biasing a musical performance input to a part
US8487871B2 (en) * 2009-06-01 2013-07-16 Microsoft Corporation Virtual desktop coordinate transformation
US8390680B2 (en) 2009-07-09 2013-03-05 Microsoft Corporation Visual representation expression based on player expression
US9159151B2 (en) 2009-07-13 2015-10-13 Microsoft Technology Licensing, Llc Bringing a visual representation to life via learned input from the user
US8565479B2 (en) * 2009-08-13 2013-10-22 Primesense Ltd. Extraction of skeletons from 3D maps
US8264536B2 (en) * 2009-08-25 2012-09-11 Microsoft Corporation Depth-sensitive imaging via polarization-state mapping
US9141193B2 (en) 2009-08-31 2015-09-22 Microsoft Technology Licensing, Llc Techniques for using human gestures to control gesture unaware programs
US8508919B2 (en) 2009-09-14 2013-08-13 Microsoft Corporation Separation of electrical and optical components
US8330134B2 (en) * 2009-09-14 2012-12-11 Microsoft Corporation Optical fault monitoring
US8760571B2 (en) 2009-09-21 2014-06-24 Microsoft Corporation Alignment of lens and image sensor
US8976986B2 (en) * 2009-09-21 2015-03-10 Microsoft Technology Licensing, Llc Volume adjustment based on listener position
US8428340B2 (en) * 2009-09-21 2013-04-23 Microsoft Corporation Screen space plane identification
US9014546B2 (en) 2009-09-23 2015-04-21 Rovi Guides, Inc. Systems and methods for automatically detecting users within detection regions of media devices
US8452087B2 (en) 2009-09-30 2013-05-28 Microsoft Corporation Image selection techniques
US8723118B2 (en) 2009-10-01 2014-05-13 Microsoft Corporation Imager for constructing color and depth images
US7961910B2 (en) 2009-10-07 2011-06-14 Microsoft Corporation Systems and methods for tracking a model
US8963829B2 (en) 2009-10-07 2015-02-24 Microsoft Corporation Methods and systems for determining and tracking extremities of a target
US8867820B2 (en) 2009-10-07 2014-10-21 Microsoft Corporation Systems and methods for removing a background of an image
US8564534B2 (en) 2009-10-07 2013-10-22 Microsoft Corporation Human tracking system
US9400548B2 (en) * 2009-10-19 2016-07-26 Microsoft Technology Licensing, Llc Gesture personalization and profile roaming
US9981193B2 (en) 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
EP2494432B1 (en) 2009-10-27 2019-05-29 Harmonix Music Systems, Inc. Gesture-based user interface
US8988432B2 (en) 2009-11-05 2015-03-24 Microsoft Technology Licensing, Llc Systems and methods for processing an image for target tracking
US8843857B2 (en) 2009-11-19 2014-09-23 Microsoft Corporation Distance scalable no touch computing
US9244533B2 (en) 2009-12-17 2016-01-26 Microsoft Technology Licensing, Llc Camera navigation for presentations
KR20110069563A (ko) * 2009-12-17 2011-06-23 엘지전자 주식회사 영상표시장치 및 그 동작 방법
US20110151974A1 (en) * 2009-12-18 2011-06-23 Microsoft Corporation Gesture style recognition and reward
US20110150271A1 (en) 2009-12-18 2011-06-23 Microsoft Corporation Motion detection using depth images
US8320621B2 (en) 2009-12-21 2012-11-27 Microsoft Corporation Depth projector system with integrated VCSEL array
US9019201B2 (en) 2010-01-08 2015-04-28 Microsoft Technology Licensing, Llc Evolving universal gesture sets
US8631355B2 (en) 2010-01-08 2014-01-14 Microsoft Corporation Assigning gesture dictionaries
US9268404B2 (en) * 2010-01-08 2016-02-23 Microsoft Technology Licensing, Llc Application gesture interpretation
US8334842B2 (en) 2010-01-15 2012-12-18 Microsoft Corporation Recognizing user intent in motion capture system
US8933884B2 (en) 2010-01-15 2015-01-13 Microsoft Corporation Tracking groups of users in motion capture system
US8676581B2 (en) 2010-01-22 2014-03-18 Microsoft Corporation Speech recognition analysis via identification information
US8265341B2 (en) 2010-01-25 2012-09-11 Microsoft Corporation Voice-body identity correlation
US8864581B2 (en) 2010-01-29 2014-10-21 Microsoft Corporation Visual based identitiy tracking
US8891067B2 (en) * 2010-02-01 2014-11-18 Microsoft Corporation Multiple synchronized optical sources for time-of-flight range finding systems
US8687044B2 (en) 2010-02-02 2014-04-01 Microsoft Corporation Depth camera compatibility
US8619122B2 (en) 2010-02-02 2013-12-31 Microsoft Corporation Depth camera compatibility
US8717469B2 (en) 2010-02-03 2014-05-06 Microsoft Corporation Fast gating photosurface
US8499257B2 (en) * 2010-02-09 2013-07-30 Microsoft Corporation Handles interactions for human—computer interface
US8659658B2 (en) * 2010-02-09 2014-02-25 Microsoft Corporation Physical interaction zone for gesture-based user interfaces
US8633890B2 (en) * 2010-02-16 2014-01-21 Microsoft Corporation Gesture detection based on joint skipping
US8928579B2 (en) * 2010-02-22 2015-01-06 Andrew David Wilson Interacting with an omni-directionally projected display
US8787663B2 (en) * 2010-03-01 2014-07-22 Primesense Ltd. Tracking body parts by combined color image and depth processing
US8422769B2 (en) 2010-03-05 2013-04-16 Microsoft Corporation Image segmentation using reduced foreground training data
US8655069B2 (en) 2010-03-05 2014-02-18 Microsoft Corporation Updating image segmentation following user input
US8411948B2 (en) 2010-03-05 2013-04-02 Microsoft Corporation Up-sampling binary images for segmentation
US20110221755A1 (en) * 2010-03-12 2011-09-15 Kevin Geisner Bionic motion
US20110223995A1 (en) 2010-03-12 2011-09-15 Kevin Geisner Interacting with a computer based application
US8568234B2 (en) 2010-03-16 2013-10-29 Harmonix Music Systems, Inc. Simulating musical instruments
US8279418B2 (en) 2010-03-17 2012-10-02 Microsoft Corporation Raster scanning for depth detection
US8213680B2 (en) * 2010-03-19 2012-07-03 Microsoft Corporation Proxy training data for human body tracking
US20110234481A1 (en) * 2010-03-26 2011-09-29 Sagi Katz Enhancing presentations using depth sensing cameras
US8514269B2 (en) * 2010-03-26 2013-08-20 Microsoft Corporation De-aliasing depth images
US8523667B2 (en) * 2010-03-29 2013-09-03 Microsoft Corporation Parental control settings based on body dimensions
US8605763B2 (en) 2010-03-31 2013-12-10 Microsoft Corporation Temperature measurement and control for laser and light-emitting diodes
WO2011123743A1 (en) 2010-04-01 2011-10-06 Sealed Air Corporation (Us) Automated monitoring and control of contamination in a production area
WO2013189058A1 (en) 2012-06-21 2013-12-27 Microsoft Corporation Avatar construction using depth camera
US9189949B2 (en) 2010-12-09 2015-11-17 Sealed Air Corporation (Us) Automated monitoring and control of contamination in a production area
US9406212B2 (en) 2010-04-01 2016-08-02 Sealed Air Corporation (Us) Automated monitoring and control of contamination activity in a production area
US9098873B2 (en) 2010-04-01 2015-08-04 Microsoft Technology Licensing, Llc Motion-based interactive shopping environment
CA2795136A1 (en) 2010-04-01 2011-10-06 Sealed Air Corporation (Us) Automated monitoring and control of safety in a production area
US9646340B2 (en) 2010-04-01 2017-05-09 Microsoft Technology Licensing, Llc Avatar-based virtual dressing room
US9143843B2 (en) 2010-12-09 2015-09-22 Sealed Air Corporation Automated monitoring and control of safety in a production area
US8351651B2 (en) 2010-04-26 2013-01-08 Microsoft Corporation Hand-location post-process refinement in a tracking system
US8379919B2 (en) 2010-04-29 2013-02-19 Microsoft Corporation Multiple centroid condensation of probability distribution clouds
US8284847B2 (en) 2010-05-03 2012-10-09 Microsoft Corporation Detecting motion for a multifunction sensor device
US8885890B2 (en) 2010-05-07 2014-11-11 Microsoft Corporation Depth map confidence filtering
US8498481B2 (en) 2010-05-07 2013-07-30 Microsoft Corporation Image segmentation using star-convexity constraints
US8457353B2 (en) * 2010-05-18 2013-06-04 Microsoft Corporation Gestures and gesture modifiers for manipulating a user-interface
US8594425B2 (en) 2010-05-31 2013-11-26 Primesense Ltd. Analysis of three-dimensional scenes
US8803888B2 (en) 2010-06-02 2014-08-12 Microsoft Corporation Recognition system for sharing information
US8751215B2 (en) 2010-06-04 2014-06-10 Microsoft Corporation Machine based sign language interpreter
US9008355B2 (en) 2010-06-04 2015-04-14 Microsoft Technology Licensing, Llc Automatic depth camera aiming
US9557574B2 (en) 2010-06-08 2017-01-31 Microsoft Technology Licensing, Llc Depth illumination and detection optics
US8330822B2 (en) 2010-06-09 2012-12-11 Microsoft Corporation Thermally-tuned depth camera light source
US9358456B1 (en) 2010-06-11 2016-06-07 Harmonix Music Systems, Inc. Dance competition game
US9384329B2 (en) 2010-06-11 2016-07-05 Microsoft Technology Licensing, Llc Caloric burn determination from body movement
CA2802348A1 (en) 2010-06-11 2011-12-15 Harmonix Music Systems, Inc. Dance game and tutorial
US8562403B2 (en) 2010-06-11 2013-10-22 Harmonix Music Systems, Inc. Prompting a player of a dance game
US8749557B2 (en) 2010-06-11 2014-06-10 Microsoft Corporation Interacting with user interface via avatar
US8675981B2 (en) 2010-06-11 2014-03-18 Microsoft Corporation Multi-modal gender recognition including depth data
US8982151B2 (en) 2010-06-14 2015-03-17 Microsoft Technology Licensing, Llc Independently processing planes of display data
US8558873B2 (en) 2010-06-16 2013-10-15 Microsoft Corporation Use of wavefront coding to create a depth image
US8670029B2 (en) 2010-06-16 2014-03-11 Microsoft Corporation Depth camera illuminator with superluminescent light-emitting diode
US8296151B2 (en) 2010-06-18 2012-10-23 Microsoft Corporation Compound gesture-speech commands
US8381108B2 (en) 2010-06-21 2013-02-19 Microsoft Corporation Natural user input for driving interactive stories
US8416187B2 (en) 2010-06-22 2013-04-09 Microsoft Corporation Item navigation using motion-capture data
EP2410400B1 (de) * 2010-07-23 2013-06-12 BrainLAB AG Medizintechnisches Anzeigegerät mit einer Eingabeoberfläche und Verfahren zum Ansteuern eines solchen Geräts
US9075434B2 (en) 2010-08-20 2015-07-07 Microsoft Technology Licensing, Llc Translating user motion into multiple object responses
US8613666B2 (en) 2010-08-31 2013-12-24 Microsoft Corporation User selection and navigation based on looped motions
US8437506B2 (en) 2010-09-07 2013-05-07 Microsoft Corporation System for fast, probabilistic skeletal tracking
US20120058824A1 (en) 2010-09-07 2012-03-08 Microsoft Corporation Scalable real-time motion recognition
US9024166B2 (en) 2010-09-09 2015-05-05 Harmonix Music Systems, Inc. Preventing subtractive track separation
US8582867B2 (en) 2010-09-16 2013-11-12 Primesense Ltd Learning-based pose estimation from depth maps
US8760432B2 (en) * 2010-09-21 2014-06-24 Visteon Global Technologies, Inc. Finger pointing, gesture based human-machine interface for vehicles
US8988508B2 (en) 2010-09-24 2015-03-24 Microsoft Technology Licensing, Llc. Wide angle field of view active illumination imaging system
US8681255B2 (en) 2010-09-28 2014-03-25 Microsoft Corporation Integrated low power depth camera and projection device
US8548270B2 (en) 2010-10-04 2013-10-01 Microsoft Corporation Time-of-flight depth imaging
US9011607B2 (en) 2010-10-07 2015-04-21 Sealed Air Corporation (Us) Automated monitoring and control of cleaning in a production area
US9484065B2 (en) 2010-10-15 2016-11-01 Microsoft Technology Licensing, Llc Intelligent determination of replays based on event identification
US8592739B2 (en) 2010-11-02 2013-11-26 Microsoft Corporation Detection of configuration changes of an optical element in an illumination system
US8866889B2 (en) 2010-11-03 2014-10-21 Microsoft Corporation In-home depth camera calibration
US8667519B2 (en) 2010-11-12 2014-03-04 Microsoft Corporation Automatic passive and anonymous feedback system
US10726861B2 (en) 2010-11-15 2020-07-28 Microsoft Technology Licensing, Llc Semi-private communication in open environments
US9349040B2 (en) 2010-11-19 2016-05-24 Microsoft Technology Licensing, Llc Bi-modal depth-image analysis
US10234545B2 (en) 2010-12-01 2019-03-19 Microsoft Technology Licensing, Llc Light source module
US8553934B2 (en) 2010-12-08 2013-10-08 Microsoft Corporation Orienting the position of a sensor
US8618405B2 (en) 2010-12-09 2013-12-31 Microsoft Corp. Free-space gesture musical instrument digital interface (MIDI) controller
US8408706B2 (en) 2010-12-13 2013-04-02 Microsoft Corporation 3D gaze tracker
US8884968B2 (en) 2010-12-15 2014-11-11 Microsoft Corporation Modeling an object from image data
US9171264B2 (en) 2010-12-15 2015-10-27 Microsoft Technology Licensing, Llc Parallel processing machine learning decision tree training
US8920241B2 (en) 2010-12-15 2014-12-30 Microsoft Corporation Gesture controlled persistent handles for interface guides
US8448056B2 (en) 2010-12-17 2013-05-21 Microsoft Corporation Validation analysis of human target
US8803952B2 (en) 2010-12-20 2014-08-12 Microsoft Corporation Plural detector time-of-flight depth mapping
US9848106B2 (en) 2010-12-21 2017-12-19 Microsoft Technology Licensing, Llc Intelligent gameplay photo capture
US8385596B2 (en) 2010-12-21 2013-02-26 Microsoft Corporation First person shooter control with virtual skeleton
US9821224B2 (en) 2010-12-21 2017-11-21 Microsoft Technology Licensing, Llc Driving simulator control with virtual skeleton
US8994718B2 (en) 2010-12-21 2015-03-31 Microsoft Technology Licensing, Llc Skeletal control of three-dimensional virtual world
US9823339B2 (en) 2010-12-21 2017-11-21 Microsoft Technology Licensing, Llc Plural anode time-of-flight sensor
US9123316B2 (en) 2010-12-27 2015-09-01 Microsoft Technology Licensing, Llc Interactive content creation
US8488888B2 (en) 2010-12-28 2013-07-16 Microsoft Corporation Classification of posture states
US9247238B2 (en) 2011-01-31 2016-01-26 Microsoft Technology Licensing, Llc Reducing interference between multiple infra-red depth cameras
US8401242B2 (en) 2011-01-31 2013-03-19 Microsoft Corporation Real-time camera tracking using depth maps
US8401225B2 (en) 2011-01-31 2013-03-19 Microsoft Corporation Moving object segmentation using depth images
US8587583B2 (en) 2011-01-31 2013-11-19 Microsoft Corporation Three-dimensional environment reconstruction
US8724887B2 (en) 2011-02-03 2014-05-13 Microsoft Corporation Environmental modifications to mitigate environmental factors
US8942917B2 (en) 2011-02-14 2015-01-27 Microsoft Corporation Change invariant scene recognition by an agent
US8497838B2 (en) 2011-02-16 2013-07-30 Microsoft Corporation Push actuation of interface controls
US9551914B2 (en) 2011-03-07 2017-01-24 Microsoft Technology Licensing, Llc Illuminator with refractive optical element
US9067136B2 (en) 2011-03-10 2015-06-30 Microsoft Technology Licensing, Llc Push personalization of interface controls
EP2686254B1 (de) * 2011-03-17 2018-08-15 SSI Schäfer Automation GmbH Steuerung und überwachung einer lager- und kommissionieranlage durch bewegung und sprache
US8571263B2 (en) 2011-03-17 2013-10-29 Microsoft Corporation Predicting joint positions
JP5730086B2 (ja) * 2011-03-18 2015-06-03 Necパーソナルコンピュータ株式会社 入力装置および入力方法
US9470778B2 (en) 2011-03-29 2016-10-18 Microsoft Technology Licensing, Llc Learning from high quality depth measurements
US9760566B2 (en) 2011-03-31 2017-09-12 Microsoft Technology Licensing, Llc Augmented conversational understanding agent to identify conversation context between two humans and taking an agent action thereof
US9298287B2 (en) 2011-03-31 2016-03-29 Microsoft Technology Licensing, Llc Combined activation for natural user interface systems
US10642934B2 (en) 2011-03-31 2020-05-05 Microsoft Technology Licensing, Llc Augmented conversational understanding architecture
US9842168B2 (en) 2011-03-31 2017-12-12 Microsoft Technology Licensing, Llc Task driven user intents
US8824749B2 (en) 2011-04-05 2014-09-02 Microsoft Corporation Biometric recognition
US8503494B2 (en) 2011-04-05 2013-08-06 Microsoft Corporation Thermal management system
US20120257035A1 (en) * 2011-04-08 2012-10-11 Sony Computer Entertainment Inc. Systems and methods for providing feedback by tracking user gaze and gestures
US9372540B2 (en) * 2011-04-19 2016-06-21 Lg Electronics Inc. Method and electronic device for gesture recognition
WO2012144145A1 (ja) * 2011-04-22 2012-10-26 パナソニック株式会社 ポインティング制御装置とその集積回路、およびポインティング制御方法
RU2589395C2 (ru) 2011-04-22 2016-07-10 Пепсико, Инк. Раздаточная система для напитков с возможностями социальных сервисов
US8620113B2 (en) 2011-04-25 2013-12-31 Microsoft Corporation Laser diode modes
US9259643B2 (en) 2011-04-28 2016-02-16 Microsoft Technology Licensing, Llc Control of separate computer game elements
US8702507B2 (en) 2011-04-28 2014-04-22 Microsoft Corporation Manual and camera-based avatar control
US10671841B2 (en) 2011-05-02 2020-06-02 Microsoft Technology Licensing, Llc Attribute state classification
US8888331B2 (en) 2011-05-09 2014-11-18 Microsoft Corporation Low inductance light source module
US9064006B2 (en) 2012-08-23 2015-06-23 Microsoft Technology Licensing, Llc Translating natural language utterances to keyword search queries
US9137463B2 (en) 2011-05-12 2015-09-15 Microsoft Technology Licensing, Llc Adaptive high dynamic range camera
US8788973B2 (en) 2011-05-23 2014-07-22 Microsoft Corporation Three-dimensional gesture controlled avatar configuration interface
US8760395B2 (en) 2011-05-31 2014-06-24 Microsoft Corporation Gesture recognition techniques
US8526734B2 (en) 2011-06-01 2013-09-03 Microsoft Corporation Three-dimensional background removal for vision system
US9594430B2 (en) 2011-06-01 2017-03-14 Microsoft Technology Licensing, Llc Three-dimensional foreground selection for vision system
US8897491B2 (en) 2011-06-06 2014-11-25 Microsoft Corporation System for finger recognition and tracking
US9208571B2 (en) 2011-06-06 2015-12-08 Microsoft Technology Licensing, Llc Object digitization
US9013489B2 (en) 2011-06-06 2015-04-21 Microsoft Technology Licensing, Llc Generation of avatar reflecting player appearance
US9098110B2 (en) 2011-06-06 2015-08-04 Microsoft Technology Licensing, Llc Head rotation tracking from depth-based center of mass
US9724600B2 (en) 2011-06-06 2017-08-08 Microsoft Technology Licensing, Llc Controlling objects in a virtual environment
US8597142B2 (en) 2011-06-06 2013-12-03 Microsoft Corporation Dynamic camera based practice mode
US10796494B2 (en) 2011-06-06 2020-10-06 Microsoft Technology Licensing, Llc Adding attributes to virtual representations of real-world objects
US8929612B2 (en) 2011-06-06 2015-01-06 Microsoft Corporation System for recognizing an open or closed hand
US9597587B2 (en) 2011-06-08 2017-03-21 Microsoft Technology Licensing, Llc Locational node device
US8959459B2 (en) 2011-06-15 2015-02-17 Wms Gaming Inc. Gesture sensing enhancement system for a wagering game
WO2013018099A2 (en) * 2011-08-04 2013-02-07 Eyesight Mobile Technologies Ltd. System and method for interfacing with a device via a 3d display
US8786730B2 (en) 2011-08-18 2014-07-22 Microsoft Corporation Image exposure using exclusion regions
US9002099B2 (en) 2011-09-11 2015-04-07 Apple Inc. Learning-based estimation of hand and finger pose
US9218704B2 (en) 2011-11-01 2015-12-22 Pepsico, Inc. Dispensing system and user interface
US9557836B2 (en) 2011-11-01 2017-01-31 Microsoft Technology Licensing, Llc Depth image compression
US9117281B2 (en) 2011-11-02 2015-08-25 Microsoft Corporation Surface segmentation from RGB and depth images
US8854426B2 (en) 2011-11-07 2014-10-07 Microsoft Corporation Time-of-flight camera with guided light
US8724906B2 (en) 2011-11-18 2014-05-13 Microsoft Corporation Computing pose and/or shape of modifiable entities
JP2013114466A (ja) * 2011-11-29 2013-06-10 Nikon Corp 表示システム、表示方法およびプログラム
US8509545B2 (en) 2011-11-29 2013-08-13 Microsoft Corporation Foreground subject detection
US8635637B2 (en) 2011-12-02 2014-01-21 Microsoft Corporation User interface presenting an animated avatar performing a media reaction
US8803800B2 (en) 2011-12-02 2014-08-12 Microsoft Corporation User interface control based on head orientation
US9100685B2 (en) 2011-12-09 2015-08-04 Microsoft Technology Licensing, Llc Determining audience state or interest using passive sensor data
US8879831B2 (en) 2011-12-15 2014-11-04 Microsoft Corporation Using high-level attributes to guide image processing
US8630457B2 (en) 2011-12-15 2014-01-14 Microsoft Corporation Problem states for pose tracking pipeline
US8971612B2 (en) 2011-12-15 2015-03-03 Microsoft Corporation Learning image processing tasks from scene reconstructions
US8811938B2 (en) 2011-12-16 2014-08-19 Microsoft Corporation Providing a user interface experience based on inferred vehicle state
US9342139B2 (en) 2011-12-19 2016-05-17 Microsoft Technology Licensing, Llc Pairing a computing device to a user
US9720089B2 (en) 2012-01-23 2017-08-01 Microsoft Technology Licensing, Llc 3D zoom imager
WO2013136333A1 (en) * 2012-03-13 2013-09-19 Eyesight Mobile Technologies Ltd. Touch free user interface
US8898687B2 (en) 2012-04-04 2014-11-25 Microsoft Corporation Controlling a media program based on a media reaction
KR101533320B1 (ko) * 2012-04-23 2015-07-03 주식회사 브이터치 포인터가 불필요한 3차원 객체 정보 획득 장치
US9047507B2 (en) 2012-05-02 2015-06-02 Apple Inc. Upper-body skeleton extraction from depth maps
US9210401B2 (en) 2012-05-03 2015-12-08 Microsoft Technology Licensing, Llc Projected visual cues for guiding physical movement
US9086732B2 (en) 2012-05-03 2015-07-21 Wms Gaming Inc. Gesture fusion
CA2775700C (en) 2012-05-04 2013-07-23 Microsoft Corporation Determining a future portion of a currently presented media program
US9836590B2 (en) 2012-06-22 2017-12-05 Microsoft Technology Licensing, Llc Enhanced accuracy of user presence status determination
US9696427B2 (en) 2012-08-14 2017-07-04 Microsoft Technology Licensing, Llc Wide angle depth detection
US9019267B2 (en) 2012-10-30 2015-04-28 Apple Inc. Depth mapping with enhanced resolution
US8882310B2 (en) 2012-12-10 2014-11-11 Microsoft Corporation Laser die light source module with low inductance
TWI454968B (zh) * 2012-12-24 2014-10-01 Ind Tech Res Inst 三維互動裝置及其操控方法
US9857470B2 (en) 2012-12-28 2018-01-02 Microsoft Technology Licensing, Llc Using photometric stereo for 3D environment modeling
US9251590B2 (en) 2013-01-24 2016-02-02 Microsoft Technology Licensing, Llc Camera pose estimation for 3D reconstruction
US9052746B2 (en) 2013-02-15 2015-06-09 Microsoft Technology Licensing, Llc User center-of-mass and mass distribution extraction using depth images
US9940553B2 (en) 2013-02-22 2018-04-10 Microsoft Technology Licensing, Llc Camera/object pose from predicted coordinates
US9507425B2 (en) * 2013-03-06 2016-11-29 Sony Corporation Apparatus and method for operating a user interface of a device
US9135516B2 (en) 2013-03-08 2015-09-15 Microsoft Technology Licensing, Llc User body angle, curvature and average extremity positions extraction using depth images
US9092657B2 (en) 2013-03-13 2015-07-28 Microsoft Technology Licensing, Llc Depth image processing
US9274606B2 (en) 2013-03-14 2016-03-01 Microsoft Technology Licensing, Llc NUI video conference controls
US9953213B2 (en) 2013-03-27 2018-04-24 Microsoft Technology Licensing, Llc Self discovery of autonomous NUI devices
DE102013207528A1 (de) 2013-04-25 2014-10-30 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Interagieren mit einem auf einer Datenbrille angezeigten Objekt
US9442186B2 (en) 2013-05-13 2016-09-13 Microsoft Technology Licensing, Llc Interference reduction for TOF systems
US9462253B2 (en) 2013-09-23 2016-10-04 Microsoft Technology Licensing, Llc Optical modules that reduce speckle contrast and diffraction artifacts
US9443310B2 (en) 2013-10-09 2016-09-13 Microsoft Technology Licensing, Llc Illumination modules that emit structured light
US9674563B2 (en) 2013-11-04 2017-06-06 Rovi Guides, Inc. Systems and methods for recommending content
US9769459B2 (en) 2013-11-12 2017-09-19 Microsoft Technology Licensing, Llc Power efficient laser diode driver circuit and method
US9508385B2 (en) 2013-11-21 2016-11-29 Microsoft Technology Licensing, Llc Audio-visual project generator
US9971491B2 (en) 2014-01-09 2018-05-15 Microsoft Technology Licensing, Llc Gesture library for natural user input
KR102209354B1 (ko) * 2014-06-20 2021-01-29 엘지전자 주식회사 영상 표시 기기 및 그의 동작 방법
JP6592940B2 (ja) * 2015-04-07 2019-10-23 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US10043279B1 (en) 2015-12-07 2018-08-07 Apple Inc. Robust detection and classification of body parts in a depth map
US10412280B2 (en) 2016-02-10 2019-09-10 Microsoft Technology Licensing, Llc Camera with light valve over sensor array
US10257932B2 (en) 2016-02-16 2019-04-09 Microsoft Technology Licensing, Llc. Laser diode chip on printed circuit board
US10462452B2 (en) 2016-03-16 2019-10-29 Microsoft Technology Licensing, Llc Synchronizing active illumination cameras
US11604517B2 (en) * 2016-09-02 2023-03-14 Rakuten Group, Inc. Information processing device, information processing method for a gesture control user interface
US10366278B2 (en) 2016-09-20 2019-07-30 Apple Inc. Curvature-based face detector
CN107977071B (zh) * 2016-10-24 2020-02-28 中国移动通信有限公司研究院 一种适用于空间系统的操作方法及装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE571702T1 (de) 1992-05-26 1994-04-28 Takenaka Corp Handzeige-Eingabegerät und Wandcomputereinheit.
US5686940A (en) * 1993-12-24 1997-11-11 Rohm Co., Ltd. Display apparatus
US5528263A (en) 1994-06-15 1996-06-18 Daniel M. Platzker Interactive projected video image display system
US5704836A (en) 1995-03-23 1998-01-06 Perception Systems, Inc. Motion-based command generation technology
GB9505916D0 (en) * 1995-03-23 1995-05-10 Norton John M Controller
US6191773B1 (en) * 1995-04-28 2001-02-20 Matsushita Electric Industrial Co., Ltd. Interface apparatus
US6176872B1 (en) * 1995-08-15 2001-01-23 Ethicon, Inc. Radial strength stent
US6181343B1 (en) * 1997-12-23 2001-01-30 Philips Electronics North America Corp. System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs

Also Published As

Publication number Publication date
EP0961965B1 (en) 2003-07-30
US6176782B1 (en) 2001-01-23
WO1999032959A3 (en) 1999-08-19
EP0961965A2 (en) 1999-12-08
JP2001513244A (ja) 2001-08-28
DE69816789D1 (de) 2003-09-04
WO1999032959A2 (en) 1999-07-01
DE69816789T2 (de) 2004-05-27
US6283860B1 (en) 2001-09-04

Similar Documents

Publication Publication Date Title
JP4874450B2 (ja) オプション選択に基づくジェスチャー方法及び装置
US9600078B2 (en) Method and system enabling natural user interface gestures with an electronic system
Starner et al. The perceptive workbench: Computer-vision-based gesture tracking, object tracking, and 3D reconstruction for augmented desks
US8081822B1 (en) System and method for sensing a feature of an object in an interactive video display
CN101796474B (zh) 图像投影设备及其控制方法
KR100650296B1 (ko) 카메라-기반 제스쳐 입력들을 이용하여 3차원 이미지들을 구축하는 시스템 및 방법
JP4149213B2 (ja) 指示位置検出装置及び自律ロボット
Leibe et al. The perceptive workbench: Toward spontaneous and natural interaction in semi-immersive virtual environments
Leibe et al. Toward spontaneous interaction with the perceptive workbench
JP7162079B2 (ja) 頭部のジェスチャーを介してディスプレイ装置を遠隔制御する方法、システムおよびコンピュータプログラムを記録する記録媒体
US20140139429A1 (en) System and method for computer vision based hand gesture identification
CN104364733A (zh) 注视位置检测装置、注视位置检测方法和注视位置检测程序
CN102622774A (zh) 起居室电影创建
JP2014517957A (ja) 空間ジェスチャからの空間オブジェクト説明の推測
JPH11259660A (ja) 三次元動作復元システム
JP2002197463A (ja) 挙動検出装置および挙動検出システム
JP5526465B2 (ja) 爪位置データ検出装置及び爪位置データ検出方法、並びに爪位置データ検出プログラム
Yang et al. Hybridtrak: Adding full-body tracking to vr using an off-the-shelf webcam
JP2015153180A (ja) 情報処理装置および情報処理方法
CN107967062B (zh) 一种基于体感交互的智能试衣方法、系统和橱窗
JP2019192224A (ja) 画像生成装置及び画像生成プログラム
Berger The role of rgb-d benchmark datasets: an overview
JP6461394B1 (ja) 画像生成装置及び画像生成プログラム
Das Real time direction estimation for pointing interactions using a depth sensor and a nine axis inertial motion unit
US20230386049A1 (en) Tracking apparatus, tracking system, tracking method, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080331

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080708

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081006

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081118

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20081120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090318

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090402

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20090521

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110704

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141202

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term