JP4722923B2 - コンピュータビジョンによりシーンをモデル化する方法 - Google Patents
コンピュータビジョンによりシーンをモデル化する方法 Download PDFInfo
- Publication number
- JP4722923B2 JP4722923B2 JP2007524102A JP2007524102A JP4722923B2 JP 4722923 B2 JP4722923 B2 JP 4722923B2 JP 2007524102 A JP2007524102 A JP 2007524102A JP 2007524102 A JP2007524102 A JP 2007524102A JP 4722923 B2 JP4722923 B2 JP 4722923B2
- Authority
- JP
- Japan
- Prior art keywords
- shadow
- pixel
- background
- model
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/273—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion removing elements interfering with the pattern to be recognised
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/28—Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
Description
時刻tにおける画像シーケンス(ビデオ)101中の各現フレーム110(画像)はIt(px,y)であり、ここで、px,yは画像中の位置x,yにある画素を表す。
S* t(x,μ)−B* t(p,μ)
を求める。ここで、μはモデルの平均である。
(RGB)色空間に関して図4に示すように、モデルの信頼度により重み付けされた視差ベクトルを集約し、各ビンcの平均Ft(c,μ)及び分散Ft(c,σ)を求めて陰影フローFt(c)を得る。異なる陰影タイプ及び異なる背景の陰影フローベクトル401は異なる。
SIt(p)=Ft(B* t(p),μ)
に、背景画像を用いて逆射影する。最後に、現前景画素と陰影画像とを比較し、陰影色分散Ft(c,σ)を用いて陰影画素を求める。
弱い陰影分類器400は、各画素を評価し、その画素が陰影画素または前景物体の一部である可能性があるかどうかを判定する。ここで、分類に関する最終決定は行わない。したがって、分類は弱い。その代わりに、本発明では、以下のステップにおいて多変量陰影モデルを更新するために用いられる画素を選択する。他のタイプの分類器、例えば弱い明るさ分類器を用いることもできることに留意すべきである。弱い明るさ分類器を用いる場合、シーン中のハイライトされた、すなわち明るい領域を検出することが可能になる。これにより、照明の変化の検出が可能になる。
(C>U)∧(C>S)→Cであり、
(S>U)∧(S>C)→Sであり、
それ以外の場合、Uである。
本発明では、ガウス分布の「混合」の代わりに、各画素を多変量ガウス分布の複数の「競合」層として定義する(Tuzel他により2005年5月20日付で出願された「ベイズ推定による低フレームレートのビデオのモデル化(Modeling Low Frame Rate Video with Bayesian Estimation)」と題する米国特許出願第11/133,894号(さらなる詳細に関しては参照により本明細書中に援用される)を参照のこと)。各層は画素の様々な外観に対応する。
Claims (15)
- コンピュータビジョンによりシーンをモデル化する方法であって、
シーンのビデオを取得することであって、前記ビデオのフレーム毎に、
各画素に関して一組の背景モデルを更新すること、
各画素に関して一組の陰影モデルを更新すること、
各背景色に関して前記一組の陰影モデルから一組の陰影フローベクトルを更新すること、及び
各画素に関して前記一組の陰影フローベクトルを用いて背景陰影マップを更新することによって、前記ビデオ中の陰影を検出すること
を含み、
前記陰影フローベクトルは、陰影のない画像を陰影付きの画像に変換するための情報であって、
各背景モデル及び各陰影モデル中の前記画素を複数の層により表現することをさらに含み、各層は複数のガウス分布を含み、各ガウス分布は平均及び共分散を含み、該共分散は逆ウィシャート分布であり、前記更新は、再帰的なベイズ推定プロセスに従って行われ、
各画素に関して各モデルの信頼度スコアを求めること、
各画素に関して最も信頼度の高い陰影モデルを最も信頼度の高い背景モデルと比較することによって、視差ベクトルを求めること、
前記視差ベクトルを、複数のビンを含む量子化された色空間中に射影することであって、各ビンは前記シーンの背景における色値を表し、各ビンに関して前記射影された視差ベクトルを集約することによって、各ビンにおいて前記陰影フローベクトルを見付けること
をさらに含む、
コンピュータビジョンによりシーンをモデル化する方法。 - 各画素を前景画素、陰影画素または未知の画素として弱分類器により分類することをさらに含み、前記陰影画素のみに関して前記一組の陰影モデルを更新することをさらに含む、請求項1に記載の方法。
- 前記一組の陰影モデルから一組の陰影フローベクトルを得ることをさらに含む、請求項2に記載の方法。
- 前記一組の陰影フローベクトルに従って前記分類を精緻化することをさらに含む、請求項3に記載の方法。
- 前記一組の陰影フローベクトルに従って前記背景陰影マップを更新することをさらに含む、請求項3に記載の方法。
- 前記一組の背景モデル及び前記一組の陰影モデルを用いて物体領域を推定することをさらに含む、請求項1に記載の方法。
- 前記一組の背景モデル及び前記背景陰影マップを用いて物体領域を推定することをさらに含む、請求項1に記載の方法。
- 前記フレーム中の前記画素の色の変化を前記背景陰影マップ中の対応する画素と比較することによって、移動するキャストシャドウ領域を推定することをさらに含む、請求項1に記載の方法。
- 前記ビデオは監視ビデオである、請求項1に記載の方法。
- 前記ビデオを固定カメラにより取得することをさらに含む、請求項1に記載の方法。
- 前記ビデオは娯楽ビデオである、請求項1に記載の方法。
- 前記ビデオは双方向ビデオである、請求項1に記載の方法。
- 前記射影された視差ベクトルを前記モデルの前記信頼度スコアにより重み付けすることをさらに含む、請求項1に記載の方法。
- 前記分類は、弱い明るさ分類器を用いて前記シーン中の照明の変化を検出する、請求項2に記載の方法。
- 前記一組の陰影フローベクトルの平均により前記弱分類器の最大の暗さ閾値及び最大の明るさ閾値を求めることをさらに含む、請求項3に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US11/167,611 | 2005-06-27 | ||
US11/167,611 US7574043B2 (en) | 2005-06-27 | 2005-06-27 | Method for modeling cast shadows in videos |
PCT/JP2006/312561 WO2007000938A2 (en) | 2005-06-27 | 2006-06-16 | Method for modeling a scene |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008544334A JP2008544334A (ja) | 2008-12-04 |
JP4722923B2 true JP4722923B2 (ja) | 2011-07-13 |
Family
ID=37056497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007524102A Expired - Fee Related JP4722923B2 (ja) | 2005-06-27 | 2006-06-16 | コンピュータビジョンによりシーンをモデル化する方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7574043B2 (ja) |
JP (1) | JP4722923B2 (ja) |
WO (1) | WO2007000938A2 (ja) |
Families Citing this family (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7359552B2 (en) * | 2004-12-15 | 2008-04-15 | Mitsubishi Electric Research Laboratories, Inc. | Foreground detection using intrinsic images |
US7916944B2 (en) * | 2007-01-31 | 2011-03-29 | Fuji Xerox Co., Ltd. | System and method for feature level foreground segmentation |
EP2255339A1 (en) * | 2008-03-10 | 2010-12-01 | Koninklijke Philips Electronics N.V. | Method and apparatus for modifying a digital image |
DK2260646T3 (en) * | 2008-03-28 | 2019-04-23 | On Net Surveillance Systems Inc | METHOD AND SYSTEMS FOR VIDEO COLLECTION AND ANALYSIS THEREOF |
TWI368185B (en) * | 2008-11-06 | 2012-07-11 | Ind Tech Res Inst | Method for detecting shadow of object |
IL196161A (en) * | 2008-12-24 | 2015-03-31 | Rafael Advanced Defense Sys | Download shadows from images within a video signal |
CN102576412B (zh) * | 2009-01-13 | 2014-11-05 | 华为技术有限公司 | 图像处理以为图像中的对象进行分类的方法和系统 |
TWI376648B (en) * | 2009-02-25 | 2012-11-11 | Micro Star Int Co Ltd | Method and device for keeping image background by multiple gauss models |
FR2944132A1 (fr) | 2009-04-01 | 2010-10-08 | Commissariat Energie Atomique | Structure de stockage optique d'informations et procede d'optimisation de realisation de cette structure. |
FR2944629B1 (fr) * | 2009-04-17 | 2017-01-20 | Univ De Tech De Troyes | Systeme et procede de localisation de cible par un reseau de cameras |
US8547457B2 (en) * | 2009-06-22 | 2013-10-01 | Empire Technology Development Llc | Camera flash mitigation |
JP2011076214A (ja) * | 2009-09-29 | 2011-04-14 | Alps Electric Co Ltd | 障害物検出装置 |
JP5537121B2 (ja) * | 2009-10-30 | 2014-07-02 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
CN101777186B (zh) * | 2010-01-13 | 2011-12-14 | 西安理工大学 | 一种多模态自动更新替换的背景建模方法 |
US9628722B2 (en) | 2010-03-30 | 2017-04-18 | Personify, Inc. | Systems and methods for embedding a foreground video into a background feed based on a control input |
US8649592B2 (en) | 2010-08-30 | 2014-02-11 | University Of Illinois At Urbana-Champaign | System for background subtraction with 3D camera |
AU2010238543B2 (en) * | 2010-10-29 | 2013-10-31 | Canon Kabushiki Kaisha | Method for video object detection |
US9514566B2 (en) | 2012-05-04 | 2016-12-06 | Sunfish Studio, Llc | Image-generated system using beta distribution to provide accurate shadow mapping |
US9213781B1 (en) | 2012-09-19 | 2015-12-15 | Placemeter LLC | System and method for processing image data |
US9905010B2 (en) | 2013-06-18 | 2018-02-27 | Panasonic Intellectual Property Management Co., Ltd. | Image position determination device and image position determination method for reducing an image of a closed eye person |
US9774548B2 (en) | 2013-12-18 | 2017-09-26 | Personify, Inc. | Integrating user personas with chat sessions |
US9386303B2 (en) | 2013-12-31 | 2016-07-05 | Personify, Inc. | Transmitting video and sharing content via a network using multiple encoding techniques |
US9485433B2 (en) | 2013-12-31 | 2016-11-01 | Personify, Inc. | Systems and methods for iterative adjustment of video-capture settings based on identified persona |
US9414016B2 (en) | 2013-12-31 | 2016-08-09 | Personify, Inc. | System and methods for persona identification using combined probability maps |
WO2015122161A1 (ja) | 2014-02-14 | 2015-08-20 | 日本電気株式会社 | 映像解析システム |
WO2015171355A1 (en) * | 2014-05-08 | 2015-11-12 | Tandent Vision Science, Inc. | A method for identifying color-based vectors for analysis of frames of a video |
EP3149909A4 (en) | 2014-05-30 | 2018-03-07 | Placemeter Inc. | System and method for activity monitoring using video data |
CN103971347A (zh) * | 2014-06-04 | 2014-08-06 | 深圳市赛为智能股份有限公司 | 视频图像中阴影的处理方法及装置 |
US10043078B2 (en) | 2015-04-21 | 2018-08-07 | Placemeter LLC | Virtual turnstile system and method |
WO2016171878A1 (en) * | 2015-04-21 | 2016-10-27 | Placemeter, Inc. | Virtual turnstile counter system and method |
US11334751B2 (en) | 2015-04-21 | 2022-05-17 | Placemeter Inc. | Systems and methods for processing video data for activity monitoring |
US9916668B2 (en) | 2015-05-19 | 2018-03-13 | Personify, Inc. | Methods and systems for identifying background in video data using geometric primitives |
US9563962B2 (en) | 2015-05-19 | 2017-02-07 | Personify, Inc. | Methods and systems for assigning pixels distance-cost values using a flood fill technique |
US10244224B2 (en) | 2015-05-26 | 2019-03-26 | Personify, Inc. | Methods and systems for classifying pixels as foreground using both short-range depth data and long-range depth data |
US11138442B2 (en) | 2015-06-01 | 2021-10-05 | Placemeter, Inc. | Robust, adaptive and efficient object detection, classification and tracking |
US9607397B2 (en) | 2015-09-01 | 2017-03-28 | Personify, Inc. | Methods and systems for generating a user-hair-color model |
US9883155B2 (en) | 2016-06-14 | 2018-01-30 | Personify, Inc. | Methods and systems for combining foreground video and background video using chromatic matching |
US9881207B1 (en) | 2016-10-25 | 2018-01-30 | Personify, Inc. | Methods and systems for real-time user extraction using deep learning networks |
US10438072B2 (en) | 2017-02-27 | 2019-10-08 | Echelon Corporation | Video data background tracking and subtraction with multiple layers of stationary foreground and background regions |
US10181192B1 (en) * | 2017-06-30 | 2019-01-15 | Canon Kabushiki Kaisha | Background modelling of sport videos |
TWI689893B (zh) * | 2018-12-25 | 2020-04-01 | 瑞昱半導體股份有限公司 | 背景模型更新的方法與相關裝置 |
US11800056B2 (en) | 2021-02-11 | 2023-10-24 | Logitech Europe S.A. | Smart webcam system |
US11800048B2 (en) | 2021-02-24 | 2023-10-24 | Logitech Europe S.A. | Image generating system with background replacement or modification capabilities |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05225340A (ja) * | 1992-02-10 | 1993-09-03 | Nippon Telegr & Teleph Corp <Ntt> | 物体像の抽出処理方法 |
JP2006331416A (ja) * | 2005-05-20 | 2006-12-07 | Mitsubishi Electric Research Laboratories Inc | シーンをモデル化する方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU1099899A (en) * | 1997-10-15 | 1999-05-03 | Electric Planet, Inc. | Method and apparatus for performing a clean background subtraction |
US6999620B1 (en) * | 2001-12-10 | 2006-02-14 | Hewlett-Packard Development Company, L.P. | Segmenting video input using high-level feedback |
WO2005036456A2 (en) * | 2003-05-12 | 2005-04-21 | Princeton University | Method and apparatus for foreground segmentation of video sequences |
-
2005
- 2005-06-27 US US11/167,611 patent/US7574043B2/en not_active Expired - Fee Related
-
2006
- 2006-06-16 JP JP2007524102A patent/JP4722923B2/ja not_active Expired - Fee Related
- 2006-06-16 WO PCT/JP2006/312561 patent/WO2007000938A2/en active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05225340A (ja) * | 1992-02-10 | 1993-09-03 | Nippon Telegr & Teleph Corp <Ntt> | 物体像の抽出処理方法 |
JP2006331416A (ja) * | 2005-05-20 | 2006-12-07 | Mitsubishi Electric Research Laboratories Inc | シーンをモデル化する方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2007000938A2 (en) | 2007-01-04 |
JP2008544334A (ja) | 2008-12-04 |
WO2007000938A3 (en) | 2007-07-12 |
US7574043B2 (en) | 2009-08-11 |
US20060290780A1 (en) | 2006-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4722923B2 (ja) | コンピュータビジョンによりシーンをモデル化する方法 | |
Porikli et al. | Shadow flow: A recursive method to learn moving cast shadows | |
Salvador et al. | Cast shadow segmentation using invariant color features | |
Joze et al. | The role of bright pixels in illumination estimation | |
Martel-Brisson et al. | Learning and removing cast shadows through a multidistribution approach | |
Soriano et al. | Adaptive skin color modeling using the skin locus for selecting training pixels | |
Zarit et al. | Comparison of five color models in skin pixel classification | |
US7254268B2 (en) | Object extraction | |
JP4746050B2 (ja) | ビデオデータを処理するための方法及びシステム | |
US20110268359A1 (en) | Foreground/Background Segmentation in Digital Images | |
Martel-Brisson et al. | Kernel-based learning of cast shadows from a physical model of light sources and surfaces for low-level segmentation | |
Benedek et al. | Study on color space selection for detecting cast shadows in video surveillance | |
Russell et al. | An evaluation of moving shadow detection techniques | |
EP2380111A1 (en) | Method for speeding up face detection | |
CN108921857A (zh) | 一种面向监视场景的视频图像焦点区域分割方法 | |
Russell et al. | Moving shadow detection based on spatial-temporal constancy | |
Madsen et al. | Shadow detection in dynamic scenes using dense stereo information and an outdoor illumination model | |
Nallaperumal et al. | An analysis of suitable color space for visually plausible shadow-free scene reconstruction from single image | |
Riaz et al. | Visibility restoration using generalized haze-lines | |
Vincent et al. | Shadow detection: A review of various approaches to enhance image quality | |
Nandini et al. | A survey of the existing shadow detection techniques | |
Hardas et al. | Moving Object Detection for Video Surveillance using Different Color Spaces | |
Withagen et al. | Shadow detection using a physical basis | |
Das et al. | A survey on shadow detection and removal in images | |
Gawde et al. | Lightweight and robust shadow removal for foreground detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090525 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110405 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110406 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140415 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |