JP5205561B2 - 適応的に客体を追跡する方法、システム、及びコンピュータ読み取り可能な記録媒体 - Google Patents
適応的に客体を追跡する方法、システム、及びコンピュータ読み取り可能な記録媒体 Download PDFInfo
- Publication number
- JP5205561B2 JP5205561B2 JP2012539812A JP2012539812A JP5205561B2 JP 5205561 B2 JP5205561 B2 JP 5205561B2 JP 2012539812 A JP2012539812 A JP 2012539812A JP 2012539812 A JP2012539812 A JP 2012539812A JP 5205561 B2 JP5205561 B2 JP 5205561B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- block
- specific object
- area
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/62—Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Description
また、本発明の他の目的は、所定の臨界値を基準として客体検出技術とブロックマッチング技術を選択的に用いることによって、動画フレームに含まれている客体を適応的に追跡するアルゴリズムを提供できるようにすることにある。
本発明の一態様によれば、 適応的に客体を追跡する方法であって、(a)第1フレームで特定客体に該当する領域を示す第1ブロックと第2フレームに含まれる少なくとも1つのブロックとを比較して、前記第2フレームに含まれる少なくとも1つのブロックのうち、前記第1ブロックとの一致度が最も高いブロックを前記特定客体に該当する領域を示す第2ブロックとして決定するステップ、及び(b)前記第1ブロックと前記第2ブロックとの間の一致度が既に設定されている臨界値未満であれば、客体検出技術を利用して前記第2フレームの少なくとも一部領域から前記特定客体を検出し、前記検出された特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを再設定するステップを含む方法が提供される。
客体追跡システムの構成
以下では、本発明の実現のために重要な機能を行う客体追跡システムの内部構成及び各構成要素の機能について説明する。
図1に示すように、本発明の一実施形態に係る客体追跡システム100は、客体検出部110、ブロックマッチング部120、追跡方法決定部130、状況適応部140、通信部150及び制御部160を含むことができ、状況適応部140は、臨界値調節部141、客体動き推定部142、自動更新部143を含むことができる。本発明の一実施形態によれば、客体検出部110、ブロックマッチング部120、追跡方法決定部130、状況適応部140、通信部150及び制御部160は、そのうちの少なくとも一部が外部システム(図示せず)と通信するプログラムモジュールであり得る。このようなプログラムモジュールは、オペレーティングシステム、応用プログラムモジュール及びその他プログラムモジュールの形態で客体追跡システム100に含まれることができ、物理的には様々な公知となっている記憶装置上に格納されることができる。また、このようなプログラムモジュールは、客体追跡システム100と通信可能な遠隔記憶装置に格納されることもできる。一方、このようなプログラムモジュールは、本発明によって後述する特定の業務を行ったり、特定の抽象データタイプを実行するルーチン、サブルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを包括するが、これに制限されるものではない。
110 客体検出部
120 ブロックマッチング部
130 追跡方法決定部
140 状況適応部
141 臨界値調節部
142 客体動き推定部
143 自動更新部
150 通信部
160 制御部
Claims (23)
- 適応的に客体を追跡する方法であって、
(a)第1フレームで特定客体に該当する領域を示す第1ブロックと第2フレームに含まれる少なくとも1つのブロックとを比較して、前記第2フレームに含まれる少なくとも1つのブロックのうち、前記第1ブロックとの一致度が最も高いブロックを前記特定客体に該当する領域を示す第2ブロックとして決定するステップ、及び
(b)前記第1ブロックと前記第2ブロックとの間の一致度が既に設定されている臨界値未満であれば、客体検出技術を利用して前記第2フレームの少なくとも一部領域から前記特定客体を検出し、前記検出された特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを再設定するステップ
を含む方法。 - 前記第1及び第2フレームは、時間的に互いに隣接するフレームであることを特徴とする請求項1に記載の方法。
- 前記(a)ステップで、
前記第1ブロックは、客体検出技術によって前記第1フレームの全体領域を対象に検出された前記特定客体を基準として設定されることを特徴とする請求項1に記載の方法。 - 前記(a)ステップで、
前記第2フレームに含まれる少なくとも1つのブロックは、前記第2フレームのうち、前記第1フレームでの前記第1ブロックの位置を基準として設定される探索領域内に存在することを特徴とする請求項1に記載の方法。 - 前記一致度は、前記第1ブロックの各ピクセル値と前記第2ブロックの各ピクセル値との間の二乗和を参照して決定されることを特徴とする請求項1に記載の方法。
- 前記(b)ステップで、
前記第2フレームの少なくとも一部領域からの前記特定客体の検出は、前記第2フレームのうち、前記第1フレームでの前記第1ブロックの位置を基準として設定される探索領域に対してのみ行われることを特徴とする請求項1に記載の方法。 - 前記(b)ステップで、
前記第2フレームの前記探索領域から前記特定客体の検出が失敗すれば、前記第2フレームの全体領域から前記特定客体を検出し、前記第2フレームの全体領域から検出された前記特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを再設定することを特徴とする請求項6に記載の方法。 - 前記(b)ステップは、
(b−1)撮影環境のコントラストによって前記既に設定されている臨界値を適応的に決定するステップ
を含むことを特徴とする請求項1に記載の方法。 - 前記(b−1)ステップで、
前記コントラストが大きいほど前記既に設定されている臨界値を低く設定することを特徴とする請求項8に記載の方法。 - 前記(b)ステップは、
(b−2)前記第2フレームでブロックマッチング又は客体検出の対象となる領域を設定するにおいて前記特定客体の動きを推定し、前記推定された動きの一部のみを反映して前記領域を設定するステップ
を含むことを特徴とする請求項1に記載の方法。 - 前記(b)ステップは、
(b−3)前記第1フレームに含まれている前記特定客体の外観と前記第2フレームに含まれている前記特定客体の外観間との間に既に設定されている程度を超える急激な変化が発生すれば、客体検出技術を利用して前記第2フレームの少なくとも一部領域から前記特定客体を検出し、前記検出された特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを自動で再設定するステップ
を含むことを特徴とする請求項1に記載の方法。 - 適応的に客体を追跡するシステムであって、
動画フレームの少なくとも一部領域から特定客体を検出する客体検出部、
第1フレームで特定客体に該当する領域を示す第1ブロックと第2フレームとに含まれる少なくとも1つのブロックとを比較して、前記第2フレームに含まれる少なくとも1つのブロックのうち、前記第1ブロックとの一致度が最も高いブロックを前記特定客体に該当する領域を示す第2ブロックとして決定するブロックマッチング部、及び
前記第1ブロックと前記第2ブロックとの間の一致度が既に設定されている臨界値未満であれば、前記客体検出部によって前記第2フレームの少なくとも一部領域から検出される前記特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを再設定する追跡方法決定部
を含むシステム。 - 前記第1及び第2フレームは、時間的に互いに隣接するフレームであることを特徴とする請求項12に記載のシステム。
- 前記第1ブロックは、客体検出技術によって前記第1フレームの全体領域を対象に検出された前記特定客体を基準として設定されることを特徴とする請求項12に記載のシステム。
- 前記ブロックマッチング部において、
前記第2フレームに含まれる少なくとも1つのブロックは、前記第2フレームのうち、前記第1フレームでの前記第1ブロックの位置を基準として設定される探索領域内に存在することを特徴とする請求項12に記載のシステム。 - 前記一致度は、前記第1ブロックの各ピクセル値と前記第2ブロックの各ピクセル値との間の二乗和を参照して決定されることを特徴とする請求項12に記載のシステム。
- 前記追跡方法決定部において、
前記第2フレームの少なくとも一部領域からの前記特定客体の検出は、前記第2フレームのうち、前記第1フレームでの前記第1ブロックの位置を基準として設定される探索領域に対してのみ行われることを特徴とする請求項12に記載のシステム。 - 前記追跡方法決定部は、前記第2フレームの前記探索領域から前記特定客体の検出が失敗すれば、客体検出部によって前記第2フレームの全体領域から検出された前記特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを再設定することを特徴とする請求項17に記載のシステム。
- 撮影環境のコントラストによって前記既に設定されている臨界値を適応的に決定する臨界値調節部
を更に含むことを特徴とする請求項12に記載のシステム。 - 前記臨界値調節部は、前記コントラストが大きいほど前記既に設定されている臨界値を低く設定することを特徴とする請求項19に記載のシステム。
- 前記第2フレームでブロックマッチング又は客体検出の対象となる領域を設定するにおいて前記特定客体の動きを推定し、前記推定された動きの一部のみを反映して前記領域を設定する客体動き推定部
を更に含むことを特徴とする請求項12に記載のシステム。 - 前記第1フレームに含まれている前記特定客体の外観と前記第2フレームに含まれている前記特定客体の外観間との間に既に設定されている程度を超える急激な変化が発生すれば、客体検出技術を利用して前記第2フレームの少なくとも一部領域から前記特定客体を検出し、前記検出された特定客体に該当する領域を基準として前記第2フレームで前記第2ブロックを自動で再設定する自動更新部
を更に含むことを特徴とする請求項12に記載のシステム。 - 請求項1ないし11のいずれか1項に記載の方法を実行するためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2009-0113560 | 2009-11-23 | ||
KR1020090113560A KR100970119B1 (ko) | 2009-11-23 | 2009-11-23 | 적응적으로 객체를 추적하는 방법, 시스템, 및 컴퓨터 판독 가능한 기록 매체 |
PCT/KR2010/008163 WO2011062430A2 (ko) | 2009-11-23 | 2010-11-18 | 적응적으로 객체를 추적하는 방법, 시스템, 및 컴퓨터 판독 가능한 기록 매체 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013512481A JP2013512481A (ja) | 2013-04-11 |
JP5205561B2 true JP5205561B2 (ja) | 2013-06-05 |
Family
ID=42645560
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012539812A Expired - Fee Related JP5205561B2 (ja) | 2009-11-23 | 2010-11-18 | 適応的に客体を追跡する方法、システム、及びコンピュータ読み取り可能な記録媒体 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20120093368A1 (ja) |
EP (1) | EP2506562B1 (ja) |
JP (1) | JP5205561B2 (ja) |
KR (1) | KR100970119B1 (ja) |
WO (1) | WO2011062430A2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101289087B1 (ko) | 2011-11-03 | 2013-08-07 | 인텔 코오퍼레이션 | 얼굴 검출 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체 |
JP5939705B2 (ja) * | 2012-02-08 | 2016-06-22 | カシオ計算機株式会社 | 被写体判定装置、被写体判定方法及びプログラム |
CN103873755B (zh) * | 2012-12-14 | 2017-06-16 | 鸿富锦精密工业(深圳)有限公司 | 跳跃人像拍摄系统及方法 |
KR102223313B1 (ko) * | 2013-02-21 | 2021-03-08 | 삼성전자주식회사 | 전자장치 및 전자장치를 동작하는 방법 |
EP2833325A1 (en) * | 2013-07-30 | 2015-02-04 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Apparatus and method for resource-adaptive object detection and tracking |
US20160259980A1 (en) * | 2015-03-03 | 2016-09-08 | Umm Al-Qura University | Systems and methodologies for performing intelligent perception based real-time counting |
KR102032459B1 (ko) * | 2017-07-03 | 2019-10-15 | 한국철도기술연구원 | 전기철도차량 팬터그래프 모니터링 장치 및 방법 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63216184A (ja) * | 1987-03-04 | 1988-09-08 | Nippon Telegr & Teleph Corp <Ntt> | 動画像の動き情報抽出方式 |
DK0973137T3 (da) * | 1998-07-06 | 2003-05-05 | Siemens Building Tech Ag | Bevægelsesmelder |
US6741725B2 (en) * | 1999-05-26 | 2004-05-25 | Princeton Video Image, Inc. | Motion tracking using image-texture templates |
KR100348357B1 (ko) | 2000-12-22 | 2002-08-09 | (주)버추얼미디어 | 하이퍼링크 비디오를 위한 임의 객체의 효과적인 추적 장치 및 방법 |
KR100470931B1 (ko) * | 2001-12-05 | 2005-02-22 | 가부시키가이샤 히다치 고쿠사이 덴키 | 템플레이트 매칭을 이용한 물체추적방법 및 장치 |
US8159536B2 (en) * | 2004-06-14 | 2012-04-17 | Agency For Science, Technology And Research | Method for detecting desired objects in a highly dynamic environment by a monitoring system |
US8098885B2 (en) * | 2005-11-02 | 2012-01-17 | Microsoft Corporation | Robust online face tracking |
US7835542B2 (en) * | 2005-12-29 | 2010-11-16 | Industrial Technology Research Institute | Object tracking systems and methods utilizing compressed-domain motion-based segmentation |
JP4559375B2 (ja) * | 2006-02-28 | 2010-10-06 | 日本電信電話株式会社 | 対象物位置追跡方法、装置、およびプログラム |
KR20080073933A (ko) * | 2007-02-07 | 2008-08-12 | 삼성전자주식회사 | 객체 트래킹 방법 및 장치, 그리고 객체 포즈 정보 산출방법 및 장치 |
US8064639B2 (en) * | 2007-07-19 | 2011-11-22 | Honeywell International Inc. | Multi-pose face tracking using multiple appearance models |
JP2009053815A (ja) * | 2007-08-24 | 2009-03-12 | Nikon Corp | 被写体追跡プログラム、および被写体追跡装置 |
JP5238220B2 (ja) * | 2007-10-29 | 2013-07-17 | 株式会社東芝 | 解像度変換装置、方法およびプログラム |
JP5024033B2 (ja) * | 2007-12-27 | 2012-09-12 | カシオ計算機株式会社 | 被写対象追跡装置、被写対象追跡プログラム及び被写対象追跡方法 |
US20090208053A1 (en) * | 2008-02-19 | 2009-08-20 | Benjamin Kent | Automatic identification and removal of objects in an image, such as wires in a frame of video |
JP4507129B2 (ja) * | 2008-06-06 | 2010-07-21 | ソニー株式会社 | 追尾点検出装置および方法、プログラム、並びに記録媒体 |
TWI366140B (en) * | 2008-06-11 | 2012-06-11 | Vatics Inc | Method for tracking multiple objects with spatial-color statistical model |
-
2009
- 2009-11-23 KR KR1020090113560A patent/KR100970119B1/ko not_active IP Right Cessation
-
2010
- 2010-11-18 JP JP2012539812A patent/JP5205561B2/ja not_active Expired - Fee Related
- 2010-11-18 EP EP10831797.5A patent/EP2506562B1/en not_active Not-in-force
- 2010-11-18 WO PCT/KR2010/008163 patent/WO2011062430A2/ko active Application Filing
- 2010-11-18 US US13/377,950 patent/US20120093368A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
WO2011062430A3 (ko) | 2011-11-03 |
KR100970119B1 (ko) | 2010-07-15 |
WO2011062430A2 (ko) | 2011-05-26 |
EP2506562A2 (en) | 2012-10-03 |
US20120093368A1 (en) | 2012-04-19 |
EP2506562A4 (en) | 2014-01-22 |
EP2506562B1 (en) | 2018-07-25 |
JP2013512481A (ja) | 2013-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5205561B2 (ja) | 適応的に客体を追跡する方法、システム、及びコンピュータ読み取り可能な記録媒体 | |
JP7227145B2 (ja) | マッチムーブ用のハイブリッド追跡器のシステム及び方法 | |
KR101850586B1 (ko) | 향상된 안구 추적을 위한 장면 분석 | |
JP6140278B2 (ja) | ビジョン支援慣性カメラポーズ推定とビジョンベースのみのカメラポーズ推定との間の適応的な切替え | |
JP6162805B2 (ja) | 拡張の継続性の維持 | |
US8130277B2 (en) | Method and system for intelligent and efficient camera motion estimation for video stabilization | |
US10021381B2 (en) | Camera pose estimation | |
JP5628293B2 (ja) | 動き情報によって支援された3a技術 | |
JP4645223B2 (ja) | 顔追跡プログラムおよび顔追跡方法 | |
US10853927B2 (en) | Image fusion architecture | |
JP6007682B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2016514251A (ja) | カメラ補助による動き方向および速度推定 | |
JP2013541096A (ja) | クラウド支援型拡張現実のための適応可能なフレームワーク | |
CN111462185A (zh) | 跟踪器辅助的图像捕获 | |
KR20100098726A (ko) | 이미지 센서를 사용하는 터치 사용자 인터페이스를 위한 장치 및 방법 | |
US10705408B2 (en) | Electronic device to autofocus on objects of interest within field-of-view of electronic device | |
WO2013064891A1 (en) | Method and system for luminance adjustment of images in an image sequence | |
KR20240068636A (ko) | 전자 디바이스들을 위한 관심 영역 캡처 | |
Shi et al. | Steadiface: Real-time face-centric stabilization on mobile phones | |
KR101783990B1 (ko) | 디지털 영상 처리 장치 및 영상의 대표 움직임 예측 방법 | |
JP2010074315A (ja) | 被写体追尾方法及び撮像装置 | |
JP2007510994A (ja) | ビデオ画像内でのオブジェクトトラッキング | |
JP7474849B2 (ja) | エネルギー効率の良い自己位置推定のためのセンサのアクティブ化と非アクティブ化の制御 | |
US10708501B2 (en) | Prominent region detection in scenes from sequence of image frames | |
JP2017016592A (ja) | 主被写体検出装置、主被写体検出方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121002 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160301 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5205561 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |