JP4912388B2 - 2次元見え方およびマルチキュー奥行き推定を使用する実世界の物体の視覚的追跡方法 - Google Patents
2次元見え方およびマルチキュー奥行き推定を使用する実世界の物体の視覚的追跡方法Info
- Publication number
- JP4912388B2 JP4912388B2 JP2008314454A JP2008314454A JP4912388B2 JP 4912388 B2 JP4912388 B2 JP 4912388B2 JP 2008314454 A JP2008314454 A JP 2008314454A JP 2008314454 A JP2008314454 A JP 2008314454A JP 4912388 B2 JP4912388 B2 JP 4912388B2
- Authority
- JP
- Japan
- Prior art keywords
- depth
- camera
- dimensional
- time
- estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/285—Analysis of motion using a sequence of stereo image pairs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
視覚的追跡とは、カメラ手段によって供給される信号を使用して、経時的に実世界物体を、その動的パラメータ(位置、速度等)およびカメラにおけるその2次元見え方が変化するにも関わらず、視覚的に識別しかつ追従する能力である。カメラの見え方は、実世界3次元物体の視覚的特性の2次元スクリーンへの透視投影の性格を成すので、本質的に2次元である。それは、(外部光スペクトル、光源の位置の変更、反射率、および日陰効果のような)変わりやすい外部条件によって生じる様々な表面効果のため、物体の変形のような内部特性のため、または単に物体が回転して奥行きの位置が変わったために、かなり変化することがあるので、透視投影は、捕捉された画像における物体の異なる2次元見え方を導く。
(2.1)グローバル空間におけるカメラの位置および向きの変化を考慮に入れて、カメラおよび/またはそれが搭載されたプラットフォームの動きを補償するステップ、
を含む。
a)ステップ1.8からの2次元変換の推定は、ステップ1.7からの予想される奥行き変化/奥行き速度を考慮に入れることによって行なわれる。すなわち、奥行きの増加/減少によって生じる予想されるサイズの増減が、変換探索手順で考慮される。
b)ステップ1.7からの物体の奥行き推定は、ステップ1.11で計算された物理的サイズから導出される予想奥行き、およびステップ1.8からの追跡対象物体のスケール/サイズの予想変化に関する事前の情報を使用することによって行なわれる。
Claims (7)
- 2次元見え方ヒントおよびマルチキュー奥行き推定を使用して、実世界物体の3次元位置および3次元速度を推定することによって、実世界物体を視覚的に追跡するためのコンピュータにより実行される方法であって、
(1.1)時間tに計測されるカメラ画像を撮影するステップと、
(1.2)時間tの入力特徴を得るために一連のキューを使用して、時間tのカメラ画像のうちの追跡される物体が予想される部分領域を前処理するステップと、
(1.3)時間tの視覚的入力の領域が追加的アルゴリズムまたはユーザインタラクションのいずれかにより指示されることに応答して、前記時間tの入力特徴を使用してトラッカのテンプレートを初期化するステップと、
(1.4)時間t+dtに次のカメラ画像を撮影するステップと、
(1.5)時間t+dtのカメラ画像の部分領域をステップ1.2と同様に前処理するステップと、
(1.6)時間tおよびt+dtの入力特徴に2次元トラッカを使用して、カメラ画像の2次元座標における物体の見え方の2次元位置および2次元速度の推定値を得るステップと、
(1.7)2つの連続時間ステップtおよびt+dtで測定された、追加的キューからの時間tの前記物体の奥行きの推定値を使用して奥行き変化を概算するステップと、
(1.8)時間tおよびt+dtのカメラ画像または選択された入力特徴に2次元変換推定を使用して、追跡される物体のスケール/サイズの相対的変化を抽出するステップと、
(1.9)ステップ1.7からの前記物体の奥行きおよび奥行き変化の概算値およびステップ1.8からのスケール/サイズの相対的変化に基づいて、前記物体の奥行きおよび奥行き変化を求めるステップと、
(1.10)カメラ座標におけるステップ1.6からの追跡される物体の2次元位置および2次元速度、ならびにステップ1.9からの奥行きおよび奥行き変化の推定値を使用して、前記物体の3次元座標を求めるステップと、
(1.11)前記3次元座標を使用して、前記物体の大まかな物理的サイズを計算するステップと、
(1.12)停止基準が満たされるまで、物体を追跡しながらステップ1.4〜1.11を繰り返すステップと、
を含む方法。 - (2.1)グローバル空間におけるカメラの位置および向きの変化を考慮に入れて、カメラおよび/または前記カメラが搭載されたプラットフォームの動きを補償するステップ、をさらに含む、請求項1に記載の方法。
- (3.1)ステップ1.6、1.7、またはステップ1.9に確率論的方法を使用する、請求項1または2に記載の方法。
- (5.1)単一の概算奥行き推定の代わりに、異なるキューおよび/または測定技術に基づく一連の奥行き推定が使用され、次いでそれらが再び、ステップ1.9の場合と同様にスケール/サイズの変化推定で2次元変化と結合される、請求項1ないし3のいずれか1項に記載の方法。
- (6.1)ステップ1.8からの2次元変換の推定が、ステップ1.7からの予想される奥行き変化/奥行き速度を考慮に入れることによって行なわれ、すなわち、奥行きの増加/減少によって生じる予想されるサイズの増減が、変換探索手順で考慮され、
(6.2)ステップ1.7からの物体の奥行き推定が、ステップ1.11で計算された物理的サイズから導出される予想奥行き、およびステップ1.8からの追跡対象物体のスケール/サイズの予想変化に関する事前の情報を使用することによって行なわれる、という意味で、2つの推定ステップ1.7および1.8が相互に影響を及ぼす、請求項1ないし4に記載の方法。 - カメラ手段の位置および向きを適応させるためのアクチュエータを制御することによって、カメラ手段の入力視野内の追跡される物体の位置および向きを制御するビジュアルサーボユニットに、ステップ1.12の結果が転送される、請求項1ないし5のいずれか1項に記載の方法。
- コンピューティング装置で実行したときに請求項1ないし6のいずれか1項に記載の方法を実現する、コンピュータソフトウェアプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP07122829A EP2071515A1 (en) | 2007-12-11 | 2007-12-11 | Visually tracking an object in real world using 2D appearance and multicue depth estimations |
EP07122829.0 | 2007-12-11 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009146406A JP2009146406A (ja) | 2009-07-02 |
JP4912388B2 true JP4912388B2 (ja) | 2012-04-11 |
Family
ID=39365416
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008314454A Expired - Fee Related JP4912388B2 (ja) | 2007-12-11 | 2008-12-10 | 2次元見え方およびマルチキュー奥行き推定を使用する実世界の物体の視覚的追跡方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8711221B2 (ja) |
EP (1) | EP2071515A1 (ja) |
JP (1) | JP4912388B2 (ja) |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9736368B2 (en) | 2013-03-15 | 2017-08-15 | Spatial Cam Llc | Camera in a headframe for object tracking |
US10896327B1 (en) | 2013-03-15 | 2021-01-19 | Spatial Cam Llc | Device with a camera for locating hidden object |
US10585344B1 (en) | 2008-05-19 | 2020-03-10 | Spatial Cam Llc | Camera system with a plurality of image sensors |
US11119396B1 (en) | 2008-05-19 | 2021-09-14 | Spatial Cam Llc | Camera system with a plurality of image sensors |
US10354407B2 (en) | 2013-03-15 | 2019-07-16 | Spatial Cam Llc | Camera for locating hidden objects |
ES2400708T3 (es) * | 2008-08-27 | 2013-04-11 | Saab Ab | Utilización de un sensor de imágenes y de un filtro de seguimiento de tiempo restante para evitar colisiones en vuelo |
DE102009028742A1 (de) * | 2009-08-20 | 2011-02-24 | Robert Bosch Gmbh | Verfahren und Steuergerät zur Bestimmung einer Bewegungsinformation eines Objekts |
TWI425445B (zh) * | 2009-09-29 | 2014-02-01 | Nat Univ Tsing Hua | 用於判斷一移動平台之自我運動量的方法以及偵測系統 |
US8988432B2 (en) | 2009-11-05 | 2015-03-24 | Microsoft Technology Licensing, Llc | Systems and methods for processing an image for target tracking |
KR101251184B1 (ko) * | 2010-08-05 | 2013-04-08 | 서울대학교산학협력단 | 구동 명령을 이용한 비젼 트래킹 시스템 및 방법 |
KR101450491B1 (ko) * | 2010-08-27 | 2014-10-13 | 인텔 코오퍼레이션 | 원격 제어형 장치들의 트랜스코더 가능 클라우드 |
CN102069821B (zh) * | 2010-11-22 | 2013-07-10 | 南京大学 | 非接触式钢轨中垂面的测量方法 |
US8520895B2 (en) * | 2010-12-29 | 2013-08-27 | Honeywell International Inc. | System and method for range and velocity estimation in video data as a function of anthropometric measures |
WO2013012335A1 (en) * | 2011-07-21 | 2013-01-24 | Ziv Attar | Imaging device for motion detection of objects in a scene, and method for motion detection of objects in a scene |
US9198737B2 (en) * | 2012-11-08 | 2015-12-01 | Navigate Surgical Technologies, Inc. | System and method for determining the three-dimensional location and orientation of identification markers |
US11304777B2 (en) | 2011-10-28 | 2022-04-19 | Navigate Surgical Technologies, Inc | System and method for determining the three-dimensional location and orientation of identification markers |
CN102622767B (zh) * | 2012-03-05 | 2014-07-30 | 广州乐庚信息科技有限公司 | 双目非标定空间定位方法 |
US20140198977A1 (en) * | 2012-03-21 | 2014-07-17 | Texas Instruments Incorporated | Enhancement of Stereo Depth Maps |
JP5727969B2 (ja) * | 2012-06-15 | 2015-06-03 | 株式会社東芝 | 位置推定装置、方法、及びプログラム |
TWI471814B (zh) * | 2012-07-18 | 2015-02-01 | Pixart Imaging Inc | 降低背景干擾的手勢判斷方法及其裝置 |
TWI496090B (zh) * | 2012-09-05 | 2015-08-11 | Ind Tech Res Inst | 使用深度影像的物件定位方法與裝置 |
US9336597B2 (en) * | 2012-11-08 | 2016-05-10 | Navigate Surgical Technologies, Inc. | System and method for determining the three-dimensional location and orienation of identification markers |
US9111348B2 (en) * | 2013-03-15 | 2015-08-18 | Toyota Motor Engineering & Manufacturing North America, Inc. | Computer-based method and system of dynamic category object recognition |
JP5847117B2 (ja) * | 2013-05-28 | 2016-01-20 | 東芝テック株式会社 | 認識辞書作成装置及び認識辞書作成プログラム |
EP3011737A4 (en) | 2013-06-20 | 2017-02-22 | Thomson Licensing | Method and device for detecting an object |
US9742974B2 (en) * | 2013-08-10 | 2017-08-22 | Hai Yu | Local positioning and motion estimation based camera viewing system and methods |
US9483829B2 (en) | 2013-09-04 | 2016-11-01 | International Business Machines Corporation | Efficient visual surface finding |
US9679369B2 (en) | 2013-09-12 | 2017-06-13 | Ventana 3D Llc | Depth key compositing for video and holographic projection |
DE102013017895B4 (de) | 2013-10-29 | 2018-06-28 | Rwth Aachen | Verfahren zur kontinuierlichen Ermittlung der 3D-Positionen und Trajektorie der Bewegung eines dynamischen Fertigungsgegenstandes |
US9189689B2 (en) * | 2013-10-30 | 2015-11-17 | Nec Laboratories America, Inc. | Robust scale estimation in real-time monocular SFM for autonomous driving |
JP6186072B2 (ja) * | 2014-02-20 | 2017-08-23 | エヌイーシー ラボラトリーズ アメリカ インクNEC Laboratories America, Inc. | 単一カメラを用いた3dでの移動物体の位置測定 |
JP6317618B2 (ja) * | 2014-05-01 | 2018-04-25 | キヤノン株式会社 | 情報処理装置およびその方法、計測装置、並びに、作業装置 |
US9539944B2 (en) * | 2014-06-11 | 2017-01-10 | GM Global Technology Operations LLC | Systems and methods of improving driver experience |
CN113256730B (zh) * | 2014-09-29 | 2023-09-05 | 快图有限公司 | 用于阵列相机的动态校准的系统和方法 |
US9792664B2 (en) | 2015-01-29 | 2017-10-17 | Wipro Limited | System and method for mapping object coordinates from a video to real world coordinates using perspective transformation |
CN104680556A (zh) * | 2015-02-16 | 2015-06-03 | 燕山大学 | 基于视差的鱼类运动三维轨迹跟踪方法 |
CN104865896A (zh) * | 2015-03-18 | 2015-08-26 | 贵州翰凯斯智能技术有限公司 | 一种工业机器人个性化作图方法 |
US10198954B2 (en) * | 2015-12-30 | 2019-02-05 | Motorola Solutions, Inc. | Method and apparatus for positioning an unmanned robotic vehicle |
KR102529119B1 (ko) * | 2016-06-27 | 2023-05-04 | 삼성전자주식회사 | 객체의 깊이 정보를 획득하는 방법, 디바이스 및 기록매체 |
US20180091797A1 (en) * | 2016-09-27 | 2018-03-29 | The Boeing Company | Apparatus and method of compensating for relative motion of at least two aircraft-mounted cameras |
US10318826B2 (en) | 2016-10-07 | 2019-06-11 | Ford Global Technologies, Llc | Rear obstacle detection and distance estimation |
JP7071054B2 (ja) * | 2017-01-20 | 2022-05-18 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
IT201700009585A1 (it) * | 2017-01-30 | 2018-07-30 | The Edge Company S R L | Metodo per il riconoscimento di oggeti per motori di realta' aumentata mediante un dispositivo elettronico |
US10552691B2 (en) | 2017-04-25 | 2020-02-04 | TuSimple | System and method for vehicle position and velocity estimation based on camera and lidar data |
JP2019015553A (ja) * | 2017-07-05 | 2019-01-31 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法および個体撮像装置 |
US11303877B2 (en) * | 2019-08-13 | 2022-04-12 | Avigilon Corporation | Method and system for enhancing use of two-dimensional video analytics by using depth data |
EP3786889A1 (en) | 2019-08-30 | 2021-03-03 | Tata Consultancy Services Limited | Method and system for tracking motion of subjects in three dimensional scene |
CN112325767B (zh) * | 2020-10-16 | 2022-07-26 | 华中科技大学鄂州工业技术研究院 | 一种融合机器视觉和飞行时间测量的空间平面尺寸测量方法 |
WO2023076709A1 (en) * | 2021-11-01 | 2023-05-04 | Brookhurst Garage, Inc. | Thin object detection and avoidance in aerial robots |
CN117140539B (zh) * | 2023-11-01 | 2024-01-23 | 成都交大光芒科技股份有限公司 | 基于空间坐标变换矩阵的机器人三维协同巡检方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3651745B2 (ja) * | 1998-03-17 | 2005-05-25 | 株式会社東芝 | 物体領域追跡装置および物体領域追跡方法 |
JP2002157599A (ja) * | 2000-11-17 | 2002-05-31 | Nippon Telegr & Teleph Corp <Ntt> | 物体検出認識方法,物体検出認識プログラムを記録した記録媒体および物体監視追跡装置 |
US6829384B2 (en) * | 2001-02-28 | 2004-12-07 | Carnegie Mellon University | Object finder for photographic images |
US8599266B2 (en) * | 2002-07-01 | 2013-12-03 | The Regents Of The University Of California | Digital processing of video images |
JP4355341B2 (ja) | 2003-05-29 | 2009-10-28 | 本田技研工業株式会社 | 深度データを用いたビジュアルトラッキング |
US8896725B2 (en) * | 2007-06-21 | 2014-11-25 | Fotonation Limited | Image capture device with contemporaneous reference image capture mechanism |
JP4140567B2 (ja) * | 2004-07-14 | 2008-08-27 | 松下電器産業株式会社 | 物体追跡装置および物体追跡方法 |
US7333634B2 (en) * | 2004-07-21 | 2008-02-19 | University Of South Florida | Method and apparatus for a velocity detection system using optical growth rate |
JP2006172064A (ja) * | 2004-12-15 | 2006-06-29 | Nissan Motor Co Ltd | 物体追跡装置、および方法 |
JP4859205B2 (ja) * | 2005-02-04 | 2012-01-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US7869649B2 (en) * | 2006-05-08 | 2011-01-11 | Panasonic Corporation | Image processing device, image processing method, program, storage medium and integrated circuit |
US8184159B2 (en) * | 2007-03-26 | 2012-05-22 | Trw Automotive U.S. Llc | Forward looking sensor system |
-
2007
- 2007-12-11 EP EP07122829A patent/EP2071515A1/en not_active Withdrawn
-
2008
- 2008-12-09 US US12/331,202 patent/US8711221B2/en not_active Expired - Fee Related
- 2008-12-10 JP JP2008314454A patent/JP4912388B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009146406A (ja) | 2009-07-02 |
EP2071515A1 (en) | 2009-06-17 |
US20090213219A1 (en) | 2009-08-27 |
US8711221B2 (en) | 2014-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4912388B2 (ja) | 2次元見え方およびマルチキュー奥行き推定を使用する実世界の物体の視覚的追跡方法 | |
EP2948927B1 (en) | A method of detecting structural parts of a scene | |
KR101776622B1 (ko) | 다이렉트 트래킹을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
Gemeiner et al. | Simultaneous motion and structure estimation by fusion of inertial and vision data | |
Scherer et al. | Using depth in visual simultaneous localisation and mapping | |
Lee et al. | Two-frame structure from motion using optical flow probability distributions for unmanned air vehicle obstacle avoidance | |
Tamjidi et al. | 6-DOF pose estimation of a portable navigation aid for the visually impaired | |
Theodorou et al. | Visual SLAM algorithms and their application for AR, mapping, localization and wayfinding | |
Herghelegiu et al. | Robust ground plane detection and tracking in stereo sequences using camera orientation | |
Dao et al. | Visual navigation for indoor mobile robots using a single camera | |
Zhou et al. | The chameleon-like vision system | |
Rogez et al. | Monocular 3-D gait tracking in surveillance scenes | |
Barth et al. | Vehicle tracking at urban intersections using dense stereo | |
Jung et al. | A model-based 3-D tracking of rigid objects from a sequence of multiple perspective views | |
Martínez et al. | Driving assistance system based on the detection of head-on collisions | |
Mair et al. | Efficient camera-based pose estimation for real-time applications | |
Yang et al. | Moving target tracking and measurement with a binocular vision system | |
Franke et al. | Towards optimal stereo analysis of image sequences | |
Vestena et al. | A weighted closed-form solution for RGB-D data registration | |
Einhorn et al. | Monocular detection and estimation of moving obstacles for robot navigation | |
Liu et al. | Cascaded particle filter for real-time tracking using RGB-D sensor | |
Schubert et al. | Towards camera based navigation in 3d maps by synthesizing depth images | |
Riecický et al. | Optical-inertial Synchronization of MoCap Suit with Single Camera Setup for Reliable Position Tracking. | |
Martínez et al. | A closed-loop approach for tracking a humanoid robot using particle filtering and depth data | |
Koutlemanis et al. | Foreground detection with a moving RGBD camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100929 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20101216 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20101221 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110517 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110804 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120117 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150127 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
LAPS | Cancellation because of no payment of annual fees |