JP2008538665A - ビデオプリミティブを用いたビデオ監視システム - Google Patents

ビデオプリミティブを用いたビデオ監視システム Download PDF

Info

Publication number
JP2008538665A
JP2008538665A JP2007556153A JP2007556153A JP2008538665A JP 2008538665 A JP2008538665 A JP 2008538665A JP 2007556153 A JP2007556153 A JP 2007556153A JP 2007556153 A JP2007556153 A JP 2007556153A JP 2008538665 A JP2008538665 A JP 2008538665A
Authority
JP
Japan
Prior art keywords
video
video surveillance
surveillance
primitive
query
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007556153A
Other languages
English (en)
Inventor
ピーター, エル. ヴェネティアナー,
アラン, ジェイ. リプトン,
アンドリュー, ジェイ. チョサク,
マシュー, エフ. フラジアー,
ニールズ ハエリング,
ゲリー, ダブリュー. マイヤーズ,
ウェイホン イン,
ツォン ツァン,
Original Assignee
オブジェクトビデオ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オブジェクトビデオ インコーポレイテッド filed Critical オブジェクトビデオ インコーポレイテッド
Publication of JP2008538665A publication Critical patent/JP2008538665A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/785Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using colour or luminescence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/7854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using shape
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/786Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using motion, e.g. object motion or camera motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19606Discriminating between target movement or movement in an area of interest and other non-signicative movements, e.g. target movements induced by camera shake or movements of pets, falling leaves, rotating fan
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/1961Movement detection not involving frame subtraction, e.g. motion detection on the basis of luminance changes in the image
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • G08B13/19615Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion wherein said pattern is defined by the user
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19663Surveillance related processing done local to the camera
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19665Details related to the storage of video surveillance data
    • G08B13/19667Details realated to data compression, encryption or encoding, e.g. resolution modes for reducing data volume to lower transmission bandwidth or memory requirements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19665Details related to the storage of video surveillance data
    • G08B13/19671Addition of non-video data, i.e. metadata, to video stream
    • G08B13/19673Addition of time stamp, i.e. time metadata, to video stream
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19684Portable terminal, e.g. mobile phone, used for viewing video remotely
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19695Arrangements wherein non-video detectors start video recording or forwarding but do not generate an alarm themselves
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23412Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs for generating or manipulating the scene composition of objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234318Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)
  • Image Processing (AREA)

Abstract

ビデオ監視システムがセットアップされ、較正され、タスク割り当てが行われ、運用される。システムは、ビデオプリミティブを抽出し、イベント判別子を使ってビデオプリミティブからイベント発生を抽出する。システムは、抽出されたイベント発生に基づいて、警報などの応答を引き受けることができる。
【選択図】 図16a

Description

本発明は、ビデオプリミティブを用いた自動ビデオ監視のシステムに関する。
参照文献
読者の便宜のため、以下に本明細書で参照する参照文献を列挙する。本明細書では、{}で括った数字で個々の参照文献を指す。列挙する参照文献は、参照により、本明細書に組み込むものである。
以下の参照文献には、移動目標検出について記載されている。
{1}A.Lipton、H.FujiyoshiおよびR.S.Patil、「Moving Target Detection and Classification from Real−Time Video」、IEEE WACV ’98予稿集、プリンストン、ニュージャージ州、1998年、8〜14頁。
{2}W.E.L.Grimsonら、「Using Adaptive Tracking to Classify and Monitor Activities in a Site」、CVPR、22〜29頁、1998年6月。
{3}A.J.Lipton、H.Fujiyoshi、R.S.Patil、「Moving Target Classification and Tracking from Real−time Video」、IUW、129〜136頁、1998年。
{4}T.J.OlsonおよびF.Z.Brill、「Moving Object Detection and Event Recognition Algorithm for Smart Cameras」、IUW、159〜175頁、1997年5月。
以下の参照文献には、人間の検出と追跡について記載されている。
{5}A.J.Lipton、「Local Application of Optical Flow to Analyse Rigid Versus Non−Rigid Motion」、International Conference on Computer Vision、コルフ、ギリシャ、1999年9月。
{6}F.Bartolini、V.Cappellini、およびA.Mecocci、「Counting people getting in and out of a bus by real−time image−sequence processing」、IVC、12(1):36〜41頁、1994年1月。
{7}M.RossiおよびA.Bozzoli、「Tracking and counting moving people」、ICIP94、212〜216頁、1994年。
{8}C.R.Wren、A.Azarbayejani、T.Darrell、およびA.Pentland、「Pfinder: Real−time tracking of the human body」、Vismod、1995年。
{9}L.Khoudour、L.Duvieubourg、J.P.Deparis、「Real−Time Pedestrian Counting by Active Linear Cameras」、JEI、5(4):452〜459頁、1996年10月。
{10}S.Ioffe、D.A.Forsyth、「Probabilistic Methods for Finding People」、IJCV、43(1):45〜68頁、2001年6月。
{11}M.IsardおよびJ.MacCormick、「BraMBLe: A Bayesian Multiple−Blob Tracker」、ICCV、2001年。
以下の参照文献には、ブロブ分析について記載されている。
{12}D.M.Gavrila、「The Visual Analysis of Human Movement: A Survey」、CVIU、73(1):82〜98頁、1999年1月。
{13}Niels HaeringおよびNiels da Vitoria Lobo、「Visual Event Detection」、Video Computing Series、Mubarak Shah編集、2001年。
以下の参照文献には、トラック、乗用車、人々のブロブ分析について記載されている。
{14}Collins、Lipton、Kanade、Fujiyoshi、Duggins、Tsin、Tolliver、Enomoto、およびHasegawa、「A System for Video Surveillance and Monitoring: VSAM Final Report」、Technical Report CMU−RI−TR−00−12、カーネギーメロン大学ロボット研究所、2000年5月。
{15}Lipton、Fujiyoshi、およびPatil、「Moving Target Classification and Tracking from Real−time Video」、98 Darpa IUW、1998年11月20〜23日。
以下の参照文献には、1人の人のブロブとその輪郭の分析について記載されている。
{16}C.R.Wren、A.Azarbayejani、T.Darrell、およびA.P.Pentland、「Pfinder: Real−Time Tracking of the Human Body」、PAMI、第19巻、780〜784頁、1997年。
以下の参照文献には、任意の運動ベースの区分化を含めて、ブロブの内部運動について記載されている。
{17}M.AllmenおよびC.Dyer、「Long−Range Spatiotemporal Motion Understanding Using Spatiotemporal Flow Curves」、IEEE CVPR予稿集、ラハイナ、マウイ島、ハワイ州、303〜309頁、1991年。
{18}L.Wixson、「Detecting Salient Motion by Accumulating Directionally Consistent Flow」、IEEE会報、Pattern Analysis and Machine Intelligence、第22巻、774〜781頁、2000年8月。
発明の背景
公共空間のビデオ監視が大いに普及し、一般社会に受け入れられている。残念ながら、従来のビデオ監視システムは、非常に膨大な量のデータを生じるため、扱いにくい問題は、結果としてビデオ監視データの分析となる。
ビデオ監視データの分析を行うことができるように、ビデオ監視データの量を低減する必要がある。
ビデオ監視データの所望の部分を識別するために、ビデオ監視データをフィルタにかける必要がある。
発明の概要
本発明の一目的は、ビデオ監視データの分析を行うことができるようにビデオ監視データの量を低減することである。
本発明の一目的は、ビデオ監視データの所望の部分を識別するために、ビデオ監視データをフィルタにかけることである。
本発明の一目的は、ビデオ監視データからのイベントの自動検出に基づいて、リアルタイムの警報を生成することである。
本発明の一目的は、サーチ能力の改善のために、ビデオ以外の監視センサからのデータを統合することである。
本発明の一目的は、イベント検出能力の改善のために、ビデオ以外の監視センサからのデータを統合することである。
本発明は、ビデオ監視の製造品、方法、システム、および装置を含む。
本発明の製造品は、ビデオプリミティブに基づいてビデオ監視システムを動作させるコードセグメントを備える、ビデオ監視システムのソフトウェアを備えるコンピュータ可読媒体を含む。
本発明の製造品は、アーカイブされたビデオプリミティブにアクセスするコードセグメントと、アクセスしたアーカイブビデオプリミティブからイベント発生を抽出するコードセグメントを備える、ビデオ監視システムのソフトウェアを備えるコンピュータ可読媒体を含む。
本発明のシステムは、本発明に従ってコンピュータを動作させるソフトウェアを有するコンピュータ可読媒体を含むコンピュータシステムを含む。
本発明の装置は、本発明に従ってコンピュータを動作させるソフトウェアを有するコンピュータ可読媒体を含むコンピュータを含む。
本発明の製造品は、本発明に従ってコンピュータを動作させるソフトウェアを有するコンピュータ可読媒体を含む。
さらに、本発明の上記の目的および利点は、本発明によって達成され得る目的および利点を例示するものであり、これらを網羅するものではない。よって、本発明の上記その他の目的および利点は、本明細書で例示するものも、当業者には明らかな任意の変形を考慮して変更されるものも、本明細書の説明を読めば明らかになるであろう。
定義
「ビデオ」とは、アナログおよび/またはデジタル形式で表される動画をいう。ビデオの例には、テレビ、映画、ビデオカメラその他の観測装置からの画像シーケンス、コンピュータ生成画像シーケンスなどが含まれる。
「フレーム」とは、ビデオ内の個々の画像その他の個別単位をいう。
「オブジェクト」とは、ビデオ内の対象となる項目をいう。オブジェクトの例には、人、車両、動物、物理的対象などが含まれる。
「アクティビティ」とは、1つまたは複数のオブジェクトの1つまたは複数の動作および/または1つまたは複数の複合動作をいう。アクティビティの例には、入る、出る、止まる、動く、上がる、下がる、伸びる、縮むなどが含まれる。
「場所」とは、アクティビティが発生し得る空間をいう。場所は、例えば、場面ベースの、または画像ベースのものとすることができる。場面ベースの場所の例には、公共空間、店舗、小売スペース、事務所、倉庫、ホテルの部屋、ホテルのロビー、建物のロビー、カジノ、バス停留所、鉄道駅、空港、港、バス、列車、飛行機、船などが含まれる。画像ベースの場所の例には、ビデオ画像、ビデオ画像内の線、ビデオ画像内の区域、ビデオ画像の長方形の区画、ビデオ画像の多角形の区画などが含まれる。
「イベント」とは、アクティビティに関与する1つまたは複数のオブジェクトをいう。イベントは、場所および/または時刻との関連で参照され得る。
「コンピュータ」とは、構造化入力を受け入れ、所定の規則に従って構造化入力を処理し、処理の結果を出力として生成することのできる任意の装置をいう。コンピュータの例には、コンピュータ、汎用コンピュータ、スーパーコンピュータ、メインフレーム、スーパーミニコンピュータ、ミニコンピュータ、ワークステーション、マイクロコンピュータ、サーバ、対話型テレビ、コンピュータと対話型テレビの一体型機、コンピュータおよび/またはソフトウェアをエミュレートする特定用途向けハードウェアなどが含まれる。コンピュータは、単一のプロセッサを有することも、複数のプロセッサを有することもでき、複数のプロセッサは、並列に、かつ/または非並列に動作することができる。また、コンピュータは、コンピュータ間で情報を送受信するために、ネットワークを介して相互に接続された2台以上のコンピュータも指す。かかるコンピュータの一例には、ネットワークでリンクされたコンピュータを介して情報を処理する分散コンピュータシステムが含まれる。
「コンピュータ可読媒体」とは、コンピュータによってアクセス可能なデータを格納するのに使用される任意の記憶装置をいう。コンピュータ可読媒体の例には、磁気ハードディスク、フロッピーディスク、CD−ROMやDVDなどの光ディスク、磁気テープ、メモリチップ、Eメールの送受信や、ネットワークへのアクセスに際して使用されるものなど、コンピュータ可読電子データを搬送するのに使用される搬送波などが含まれる。
「ソフトウェア」とは、コンピュータを動作させるための所定の規則をいう。ソフトウェアの例には、ソフトウェア、コードセグメント、命令、コンピュータプログラム、プログラム化論理などが含まれる。
「コンピュータシステム」とは、コンピュータを有するシステムをいい、その場合、コンピュータは、コンピュータを動作させるソフトウェアを実施するコンピュータ可読媒体を備える。
「ネットワーク」とは、通信設備によって接続されている多数のコンピュータと関連付けられる機器をいう。ネットワークは、ケーブルなどの永久接続、または電話その他の通信リンクを介して行われるものなどの一時接続を伴う。ネットワークの例には、インターネットなどの相互接続ネットワーク、イントラネット、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、インターネットとイントラネットなどネットワークの組み合わせが含まれる。
本発明の実施形態を、図面によってさらに詳細に説明する。図面において同じ参照番号は同じ特徴を指す。
発明の詳細な説明
本発明の自動ビデオ監視システムは、例えば、市場調査や警備などの目的で場所を監視するためのものである。このシステムは、特定用途向けに作られた監視機器を備える専用ビデオ監視設備とすることもでき、監視ビデオフィードを利用する、既存のビデオ監視装置への後付設備とすることもできる。このシステムは、ライブソースからの、または記録された媒体からのビデオデータを分析することができる。このシステムは、リアルタイムでビデオデータを処理し、後で超高速のフォレンジックイベント検出を可能にするように、抽出されたビデオプリミティブを格納することができる。このシステムは、データを記録する、警報機構を作動させる、別のセンサシステムを作動させるなど、分析に対する所定の応答を有し得る。また、このシステムは、他の監視システム構成要素と統合することもできる。このシステムは、例えば、オペレータの必要に応じてカスタマイズすることができ、任意選択で、対話式Webベースインターフェースや、他の報告機構によって提示することもできる、警備報告や市場調査報告などを生成するのに使用され得る。
オペレータには、イベント判別子を使ったシステム構成に際して、最大限の柔軟性が提供される。イベント判別子は、(その記述がビデオプリミティブに基づくものである)1つまたは複数のオブジェクトを、1つまたは複数の任意選択の空間属性、および/または1つまたは複数の任意選択の時間属性と共に用いて識別される。例えば、オペレータは、(本例で「徘徊」イベントと呼ぶ)イベント判別子を、「10:00PMから6:00AMまでの間」、「15分超の期間」にわたって、「現金自動預入支払機」の所にいる「人」オブジェクトとして定義することができる。イベント判別子を、修飾されたブール演算子と組み合わせて、より複雑な問い合わせを形成することができる。
本発明のビデオ監視システムは、パブリックドメインから得た公知のコンピュータビジョン技術を利用するものであるが、本発明のビデオ監視システムは、現在利用することのできない、いくつかの独自で、新規な特徴を有する。例えば、現在のビデオ監視システムは、情報交換の1次産品として大量のビデオ画像を使用する。本発明のシステムは、1次産品としてビデオプリミティブを使用し、代表的なビデオ画像を付帯証拠として使用する。また、本発明のシステムは、(手動、半自動、または自動で)較正され、その後、ビデオ画像からビデオプリミティブを自動的に推論することもできる。このシステムは、さらに、以前に処理したビデオを、そのビデオを完全に再処理する必要もなく分析することもできる。以前に処理したビデオを分析することによって、システムは、以前に記録したビデオプリミティブに基づいて推論分析を行うことができ、コンピュータシステムの分析速度を大幅に改善する。
また、ビデオプリミティブの使用は、ビデオの記憶所要量も大幅に低減し得る。これは、イベント検出応答サブシステムが、ビデオを、検出を示すためだけに使用するからである。その結果、ビデオは、より低い品質で格納され得る。可能な実施形態では、ビデオは、常時ではなく、アクティビティが検出されるときに限って格納されてもよい。別の可能な実施形態では、格納されるビデオの品質が、アクティビティが検出されるかどうかによって決まってもよい。すなわち、ビデオは、アクティビティが検出されるときには高品質で(高いフレーム速度および/またはビット速度)で、その他のときには低品質で格納され得る。別の例示的実施形態では、ビデオの記憶とデータベースが、例えば、デジタルビデオレコーダ(DVR)などによって別に処理され、ビデオ処理サブシステムは、データが格納されるかどうかと、どんな品質で格納されるかを制御するだけでもよい。
別の例として、本発明のシステムは、独自のシステムタスク割り当てを提供する。現在のビデオシステムは、装置制御指示文を使って、ユーザが、ビデオセンサを位置決めすることを可能にし、いくつかの洗練された従来のシステムでは、対象領域または非対象領域にマスキングすることを可能にする。装置制御指示文は、ビデオカメラの位置、向き、および焦点を制御する命令である。本発明のシステムは、装置制御指示文の代わりに、1次タスク割り当て機構として、ビデオプリミティブに基づくイベント判別子を使用する。イベント判別子とビデオプリミティブを用いれば、オペレータに、システムから有用な情報を抽出するための、従来のシステムよりもずっと直観的な手法が提供される。本発明のシステムでは、システムに「カメラAを左に45°パンする」などの装置制御指示文でタスクを割り当てるのではなく、「人が制限区域Aに入る」など、ビデオプリミティブに基づく1つまたは複数のイベント判別子を用いた、人間が直観的に理解する態様でタスク割り当てが行われ得る。
本発明を市場調査に使用する場合、本発明を用いて行われ得る種類のビデオ監視の例は、店内の人々を数える、店の一部にいる人々を数える、店内の特定の場所で立ち止まる人々を数える、店内で人々がどれ程の時間を過ごすか測定する、店の一部で人々がどれ程の時間を過ごすか測定する、店内の線の長さを測定するなどである。
本発明を警備に使用する場合、本発明を用いて行われ得る種類のビデオ監視の例は、誰かが制限区域に入ったときを判定し、関連付けられる画像を格納する、人が異常な時刻に区域に入ったときを判定する、許可されていない可能性のある棚スペースと格納スペースの変化が発生したときを判定する、航空機に搭乗している乗客が操縦室に接近したときを判定する、人々が保護された入口をテールゲートして(前の人との間隔を空けずに)通ったときを判定する、空港内に放置されたバッグがあるかどうか判定する、資産の盗難があるかどうか判定するなどである。
適用分野の一例がアクセス制御であり、これには、例えば、人がフェンスを乗り越えたかどうか、または禁止区域に入ったかどうか検出する、誰かが誤った方向に移動したかどうか(例えば、空港で、出口を通って保護区域に入るなど)検出する、対象区域内で検出されるオブジェクトの数が、入場のためのRFIDタグまたはカード読み取りに基づく期待される数と一致せず、無許可の人員の存在を指示しているかどうか判定するなどが含まれ得る。また、これは、ビデオ監視システムが人とペットの動きを区別することができ、よって、誤った警報の大部分を無くすことのできる住居の適用例でも役立ち得る。多くの住居適用例では、プライバシーが問題となり得ることに留意されたい。例えば、住宅所有者は、別の人に住宅を遠隔で監視させ、住宅内に何があり、住宅内で何が起こっているか見られるのを望まないこともある。したがって、かかる適用例で使用されるいくつかの実施形態では、ビデオ処理がローカルで行われ、必要なとき(例えば、それだけに限らないが、犯罪活動やその他の危険な状況の検出など)に限り、任意選択のビデオまたはスナップ写真が、1つまたは複数のリモート監視所に送られてもよい。
別の適用分野の例が、資産監視である。これは、場面からオブジェクトが持ち去られるかどうか、例えば、芸術品が美術館から取り除かれるかどうか検出することを意味し得る。小売環境では、資産監視にはいくつかの態様が考えられ、例えば、1人の人が、疑わしいほど多数の所与の品物を取るかどうか検出する、人が、入口を通って出るかどうか、特に、ショッピングカートを押しながらこれを行うかどうか判定する、人が、品物に適合しない値札を添付するかどうか、例えば、袋に、最も高価な種類のコーヒを、より安価な種類のものの値札を使って詰めるなどを判定する、あるいは、人が、大きな箱と共に荷積み場所を離れるかどうか検出するなどが含まれ得る。
別の適用分野の例が、安全のためである。これには、例えば、人が、店舗や駐車場などで、滑って転ぶかどうか検出する、車が駐車場でスピードを出しすぎているかどうか検出する、駅に列車が停車していないときに、人が、鉄道または地下鉄駅のホームの縁に近づきすぎているかどうか検出する、人がレール上にいるかどうか検出する、列車が動き始めるときに、人が列車のドアに挟まっているかどうか検出する、施設に出入りする人の数を数えて、緊急時に非常に重要になり得る正確な人数を記録するなどが含まれ得る。
別の適用分野の例が、交通監視である。これには、車両が、特に、橋やトンネルのような場所で停止したかどうか検出する、あるいは車両が駐車禁止区域で駐車するかどうか検出するなどが含まれ得る。
別の適用分野の例が、テロ行為の防止である。これには、前述の適用例のいくつかに加えて、オブジェクトが空港のコンコースに置き忘れられているかどうか、オブジェクトがフェンスを超えて投げ入れられるかどうか、あるいはオブジェクトが線路上に放置されているかどうか検出する、重要なインフラストラクチャ周辺での人の徘徊または車両の巡回を検出する、あるいは、港湾または開放水域内の船に接近する、高速で移動するボートを検出するなどが含まれ得る。
別の適用分野の例が、たとえ自宅であっても、病人と高齢者の介護の場合である。これには、例えば、人が転ぶかどうか検出する、あるいは、人が、長期間台所に入らないなどの異常な行動を検出するなどが含まれ得る。
図1に、本発明のビデオ監視システムの平面図を示す。コンピュータシステム11は、本発明に従ってコンピュータ12を動作させるソフトウェアを実施するコンピュータ可読媒体13を有するコンピュータ12を備える。コンピュータシステム11は、1つまたは複数のビデオセンサ14と、1つまたは複数のビデオレコーダ15と、1つまたは複数の入力/出力(入出力)装置16に結合されている。また、ビデオセンサ14は、任意選択で、ビデオ監視データの直接記録のために、ビデオレコーダ15にも結合することもできる。コンピュータシステムは、任意選択で、他のセンサ17にも結合されている。
ビデオセンサ14は、コンピュータシステム11にソースビデオを提供する。各ビデオセンサ14は、例えば、直接接続(ファイアワイヤデジタルカメラインターフェースなど)やネットワークなどを使って、コンピュータシステム11に結合することができる。ビデオセンサ14は、本発明の導入前にあってもよく、本発明の一部として導入することもできる。ビデオセンサ14の例には、ビデオカメラ、デジタルビデオカメラ、カラーカメラ、白黒カメラ、カメラ、カメラ一体型ビデオ、PCカメラ、Webカム、赤外線ビデオカメラ、CCTVカメラなどが含まれる。
ビデオレコーダ15は、記録するためにコンピュータシステム11からビデオ監視データを受け取り、および/または、コンピュータシステム11にソースビデオを提供する。各ビデオレコーダ15は、例えば、直接接続やネットワークなどを使ってコンピュータシステム11に結合することができる。ビデオレコーダ15は、本発明の導入前にあってもよく、本発明の一部として導入することもできる。コンピュータシステム11内のビデオ監視システムは、ビデオレコーダ15が、ビデオを、いつ、どんな品質設定で記録するか制御し得る。ビデオレコーダ15の例には、ビデオテープレコーダ、デジタルビデオレコーダ、ビデオディスク、DVD、コンピュータ可読媒体などが含まれる。
入出力装置16は、コンピュータシステム11に入力を提供し、コンピュータシステム11から出力を受け取る。入出力装置16は、コンピュータシステム11にタスクを割り当て、コンピュータシステム11から報告を生成するのに使用され得る。入出力装置16の例には、キーボード、マウス、スタイラス、モニタ、プリンタ、別のコンピュータシステム、ネットワーク、警報装置などが含まれる。
その他のセンサ17は、コンピュータシステム11に別の入力を提供する。その他の各センサ17は、例えば、直接接続やネットワークなどを使ってコンピュータシステム11に結合することができる。その他のセンサ17は、本発明の導入前に終了することもでき、本発明の一部として導入することもできる。別のセンサ17の例には、それだけに限らないが、動きセンサ、光学式仕掛け線、生体測定センサ、RFIDセンサ、カード式またはキーパッド式の許可システムなどが含まれる。その他のセンサ17の出力は、コンピュータシステム11、記録装置、および/または記録システムによって記録され得る。
図2に、本発明のビデオ監視システムの流れ図を示す。本発明の様々な態様を、食料品店の監視に適用された本発明のビデオ監視システムの例が示されている図10〜15を参照して例示する。
ブロック21で、図1について論じたように、ビデオ監視システムがセットアップされる。各ビデオセンサ14が、ビデオ監視の場所に向けられる。コンピュータシステム11は、ビデオ装置14、15からのビデオフィードに接続される。ビデオ監視システムは、既存の装置、またはその場所に新規に設置される装置を使って実施され得る。
ブロック22で、ビデオ監視システムが較正される。ビデオ監視システムが、ブロック21から所定の位置に置かれた後で、較正が行われる。ブロック22の結果、ビデオ監視システムは、ビデオセンサによって提供されるビデオ画像内の様々な場所における特定のオブジェクト(人など)のおおよその実寸と速さを判定することができるようになる。システムは、手動較正、半自動較正、および自動較正を使って較正され得る。較正については、ブロック24の考察後にさらに説明する。
図2のブロック23で、ビデオ監視システムにタスクが割り当てられる。タスク割り当ては、ブロック22の較正後に行われ、任意選択である。ビデオ監視システムへのタスク割り当ては、1つまたは複数のイベント判別子の指定を伴う。タスク割り当てを行わない場合、ビデオ監視システムは、図4のブロック45と同様に、処置を講じずに、ビデオプリミティブと関連付けられるビデオ画像を検出し、アーカイブする動作を行う。
図3に、イベント判別子を決定するためのビデオ監視システムへのタスク割り当ての流れ図を示す。イベント判別子とは、任意選択で、1つまたは複数の空間属性および/または1つまたは複数の時間属性と相互作用する1つまたは複数のオブジェクトをいう。イベント判別子は、ビデオプリミティブ(アクティビティ記述メタデータともいう)に関して記述される。ビデオプリミティブ設計基準の中には、リアルタイムでビデオストリームから抽出され得る能力、ビデオからのすべての関連情報を含めること、表現の簡潔さが含まれる。
ビデオストリームからのビデオプリミティブのリアルタイム抽出は、システムが、リアルタイムの警告を生成することを可能にするのに求められるものであり、そのためには、ビデオは連続する入力ストリームを提供するので、システムは後れを取ってはならない。
また、ビデオプリミティブは、ビデオからのすべての関連情報を含む必要がある。というのは、ビデオプリミティブの抽出時には、ユーザ定義の規則がシステムに知られていないからである。したがって、ビデオプリミティブは、ビデオに戻って、これを再分析すること必要とせずに、ユーザによって指定される任意のイベントを検出することのできる情報を含む必要がある。
また、複数の理由で、簡潔な表現も求められる。提案する発明の一目標は、監視システムの記憶再利用時間を延長することである。これは、高品質ビデオを常時格納することを、アクティビティ記述メタデータと、前述のような、アクティビティの有無に応じた品質を有するビデオを格納することで置き換えることによって達成され得る。したがって、ビデオプリミティブが簡潔であるほど、より多くのデータが格納され得る。加えて、ビデオプリミティブ表現が簡潔であるほど、データアクセスは高速になり、これは、ひいては、フォレンジックサーチを加速し得る。
ビデオプリミティブの厳密な内容は、用途と、潜在的な対象イベントによって異なり得る。以下で、いくつかの例示的実施形態について説明する。
ビデオプリミティブの一例示的実施形態は、全般的な場面とビデオを記述する、場面/ビデオ記述子を含み得る。一般に、これは、空、葉、人造物、水などの場所といった場面の様相、および/または、降水、霧の有無などの気象条件の詳細な記述を含み得る。ビデオ監視用途では、例えば、全体図における変化が重要となり得る。記述子の例は、突然の照明の変化を記述し得る。これらの記述子は、カメラの動き、特に、カメラが動き始め、または動きを停止したことを示し、後者の場合には、カメラが、その以前の視野または少なくとも以前に知っていた視野に戻ったかどうかを示すこともある。これらの記述子は、ビデオフィードの品質の変化、例えば、ビデオフィードに、突然、雑音が生じ、またはビデオフィードが暗くなり、潜在的にフィードの改ざんを示しているかどうかなどを示すこともある。あるいは、これらの記述子は、水域に沿った喫水線の変化を示すこともある(この後者の問題の具体的手法の詳細については、例えば、参照により本明細書に組み込まれる、2004年10月1日に出願した、同時係属の米国特許出願第10/954479号明細書などを参照し得る)。
ビデオプリミティブの別の例示的実施形態は、ビデオフィードに見られるオブジェクトの観測可能な属性に言及するオブジェクト記述子を含み得る。オブジェクトに関してどんな情報が格納されるかは、適用分野と、利用可能な処理機能に左右され得る。オブジェクト記述子の例には、それだけに限らないが、サイズ、形状、外周、位置、軌道、動きの速さと方向、動きの顕著性と特徴、色、剛性、テクスチャ、および/または分類を含む一般的特性が含まれ得る。また、オブジェクト記述子は、さらに若干の用途と種類に特有の情報も含み得る。人間では、これには、肌の色合い、性別、および人種情報の有無と割合、人間の形状とポーズを記述する何らかの人体モデルが含まれ、車両では、車種(トラック、SUV、セダン、バイクなど)、メーカ、型式、ナンバープレートの番号が含まれ得る。また、オブジェクト記述子は、それだけに限らないが、オブジェクトを持ち運ぶ、走る、歩く、立ち上がる、両腕を上げるなどを含むアクティビティも含み得る。また、話す、戦う、衝突するなどのいくつかのアクティビティは、他のオブジェクトにも言及し得る。またオブジェクト記述子は、それだけに限らないが、顔や歩調などを含む識別情報も含み得る。
ビデオプリミティブの別の例示的実施形態は、ビデオのあらゆる領域の動きの方向を記述するフロー記述子を含み得る。かかる記述子は、例えば、禁止された方向への任意の動きを検出することにより、パスバックイベントを検出するのに使用され得る(この後者の問題の具体的手法の詳細については、例えば、参照により本明細書に組み込まれる、2004年1月30日に出願した、同時係属の米国特許出願第10/766949号明細書などを参照し得る)。
また、プリミティブは、オーディオセンサ、熱センサ、圧力センサ、カード読取装置、RFIDタグ、生体測定センサなどの非ビデオソースからももたらされ得る。
分類とは、オブジェクトの、特定のカテゴリまたはクラスに属するものとしての識別をいう。分類の例には、人、犬、車両、パトカー、個人、特定の種類のオブジェクトなどが含まれる。
サイズとは、オブジェクトの寸法属性をいう。サイズの例には、大、中、小、均一、6フィート(約182.88cm)より高い、1フィート(約30.48cm)より短い、3フィート(約91.44cm)より幅広い、4フィート(約121.92cm)より薄い、ほぼ人間のサイズ、人間より大きい、人間より小さい、ほぼ車のサイズ、おおよその画素単位の寸法を有する画像中の長方形、画素数などが含まれる。
位置とは、オブジェクトの空間属性をいう。位置は、例えば、画素座標で表される画像位置、ある世界座標系における実世界の絶対位置、陸標または別のオブジェクトに対する位置などとすることができる。
色とは、オブジェクトの色属性をいう。色の例には、白、黒、グレー、赤、HSV値の範囲、YUV値の範囲、RGB値の範囲、平均RGB値、平均YUV値、およびRGB値のヒストグラムなどが含まれる。
剛性とは、オブジェクトの形状一貫性属性をいう。非剛性オブジェクト(人々や動物など)の形状は、フレームごとに変化し、剛性オブジェクト(車両や住宅など)の形状は、(おそらく、回転によるわずかな変化を除いて)フレームごとにほぼ不変のままとし得る。
テクスチャとは、オブジェクトのパターン属性をいう。テクスチャの例には、自己相似性、スペクトルパワー、直線性、粗さなどが含まれる。
内部運動とは、オブジェクトの剛性の尺度をいう。相当に剛性を有するオブジェクトの一例が車であり、車は、あまり大きな量の内部運動を示さない。相当に剛性のないオブジェクトの一例が、揺れ動く腕と脚を有する人であり、人は、大きな量の内部運動を示す。
動きとは、自動的に検出され得る任意の動きをいう。動きの例には、オブジェクトの出現、オブジェクトの消失、オブジェクトの垂直移動、オブジェクトの水平移動、オブジェクトの周期的運動などが含まれる。
顕著な動きとは、自動的に検出され、ある期間にわたって追跡され得る任意の動きをいう。このような動くオブジェクトは、明らかに、意図的な動きを示す。顕著な動きの例には、ある場所から別の場所へ移動する、動いて別のオブジェクトと相互作用するなどが含まれる。
顕著な動きの特徴とは、顕著な動きの特性をいう。顕著な動きの特徴の例には、軌道、画像空間内での軌道の長さ、環境の3次元表現内での軌道のおおよその長さ、時間の関数としての画像空間内でのオブジェクトの位置、時間の関数としての環境の3次元表現内でのオブジェクトのおおよその位置、軌道の期間、画像空間内での速度(速さと方向など)、環境の3次元表現内でのおおよその速度(速さと方向など)、ある速度での期間、画像空間内での速度の変化、環境の3次元表現での速度のおおよその変化、速度の変化の期間、動きの休止、動きの休止の期間などが含まれる。速度とは、特定の時刻におけるオブジェクトの速さと方向をいう。軌道とは、オブジェクトが追跡され得る限りの長さにわたる、またはある期間にわたるオブジェクトの(位置,速度)対の集合である。
場面変化とは、ある期間におよぶ変化として検出され得る場面の任意の領域をいう。場面変化の例には、場面を去る静止オブジェクト、場面に入り、静止状態になるオブジェクト、場面内で位置を変えるオブジェクト、外観(色、形状、サイズなど)を変えるオブジェクトなどが含まれる。
場面変化の特徴とは、場面変化の特性をいう。場面変化の特徴の例には、画像空間内での場面変化のサイズ、環境の3次元表現内での場面変化のおおよそのサイズ、場面変化が発生した時刻、画像空間内での場面変化の場所、環境の3次元表現内での場面変化のおおよその場所などが含まれる。
事前定義モデルとは、オブジェクトの先験的に知られているモデルをいう。事前定義モデルの例には、大人、子供、車両、セミトレーラなどが含まれ得る。
図16aに、本発明の一実施形態によるビデオ監視システムのビデオ分析部分の例を示す。図16aでは、ビデオセンサ(例えば、それだけに限らないが、ビデオカメラなど)1601が、ビデオ分析サブシステム1603にビデオストリーム1602を提供し得る。次いで、ビデオ分析サブシステム1603は、ビデオストリーム1602の分析を行ってビデオプリミティブを導出し、それらのビデオプリミティブが、プリミティブ記憶1605に格納され得る。プリミティブ記憶1605は、非ビデオプリミティブの格納にも使用され得る。ビデオ分析サブシステム1603は、さらに、前述のように、ビデオ記憶1604内のビデオストリーム1602の全部または部分の記憶、例えば、ビデオの品質および/または量を制御し得る。
次に、図16bを参照すると、ビデオおよび、他のセンサがある場合には、非ビデオプリミティブ161が利用可能になると、システムは、イベントを検出し得る。ユーザは、規則応答定義インターフェース162を使って規則163と対応する応答164を定義することによってシステムにタスクを割り当てる。規則はイベント判別子に変換され、システムは、対応するイベント発生165を抽出する。検出されるイベント発生166は、ユーザ定義の応答167をトリガする。応答は、ビデオ記憶168(図16aのビデオ記憶1604と同じであっても、同じでなくてもよい)からの検出イベントのビデオのスナップ写真を含み得る。ビデオ記憶168は、ビデオ監視システムの一部とすることもでき、別個の記録装置15とすることもできる。応答の例には、それだけに限らないが、システムディスプレイ上で視覚および/または音声警告を作動させる、その場所で視覚および/または音声警報を作動させる、無音警報を作動させる、高速応答機構を作動させる、ドアをロックする、セキュリティサービスに連絡する、データ(画像データ、ビデオデータ、ビデオプリミティブ、および/または分析済みデータなど)を、それだけに限らないが、インターネットなどのネットワークを介して、別のコンピュータシステムに転送する、かかるデータを指定されたコンピュータ可読媒体に保存する、他の何らかのセンサまたは監視システムを作動させる、コンピュータシステム11および/または別のコンピュータシステムにタスクを割り当てる、ならびに/またはコンピュータシステム11および/または別のコンピュータシステムに指図するなどが含まれ得る。
プリミティブデータは、データベースに格納されたデータと考えられ得る。プリミティブデータ内のイベント発生を検出するために、効率のよい問い合わせ言語が必要とされる。本発明のシステムの実施形態は、以下で説明するアクティビティ推論言語を含み得る。
従来のリレーショナルデータベース問い合わせスキーマは、しばしば、ユーザが、様々な種類の格納データに関して柔軟な問い合わせを作成することができるように、ブール2分木構造に従う。葉ノードは、普通、「特性 関係 値」の形式のものであり、特性とは、(時刻や名前など)データの何らかの重要な特徴であり、関係とは、普通、数値演算子(「>」、「<」、「=」など)であり、値とは、その特性の有効な状態である。分岐ノードは、普通、「AND」、「OR」、「NOT」などの単項または2項ブール論理演算子を表す。
これは、本発明の実施形態の場合と同様に、アクティビティ問い合わせ定式化スキーマの基礎を形成し得る。ビデオ監視用途の場合、特性は、サイズ、速さ、色、分類(人間、車両)といった、ビデオストリームで検出されるオブジェクトの特徴とすることもでき、あるいは、場面変化特性とすることもできる。図17に、かかる問い合わせの使用例を示す。図17aでは、問い合わせ「赤い車両を示せ」171が提示される。これは、オブジェクトの分類が車両であるかどうか173と、その色が主として赤であるかどうか174を検査する2つの「特性 関係 値」(または単に「特性」)問い合わせに分解される。これら2つの副問い合わせは、ブール演算子「AND」172で組み合わされ得る。同様に、図17bでは、問い合わせ「カメラが動きを開始し、または停止したときを示せ」が、特性副問い合わせ、「カメラは動きを開始しているか」177と、「カメラは動きを停止しているか」178のブール「OR」176組み合わせとして表され得る。
本発明の実施形態は、この種のデータベース問い合わせスキーマを、次の2つの例示的な態様で拡張し得る。すなわち、(1)基本の葉ノードは、場面内の空間アクティビティを記述するアクティビティ検出子を用いて増補され、(2)ブール演算子分岐ノードは、空間、時間およびオブジェクトの相互関係を指定する修飾子を用いて増補され得る。
アクティビティ検出子は、ビデオ場面の区域に関連する挙動に対応する。アクティビティ検出子は、オブジェクトが、場面内の場所とどのように相互作用し得るか記述する。図18に、3つのアクティビティ検出子の例を示す。図18aには、仮想ビデオ仕掛け線を使って、特定の方向に外周を横切る挙動が表されている(かかる仮想ビデオ仕掛け線がどのようにして実施され得るかの詳細については、例えば米国特許第6696945号明細書を参照し得る)。図18bには、線路上をある期間にわたって徘徊する挙動が表されている。図18cには、壁の一部から何かを取り去る挙動が表されている(これがどのようにしてなされ得るかの手法例については、2003年1月30日に出願された、「Video Scene Background Maintenance − Change Detection & Classification」という名称の、米国特許出願第10/331778号明細書を参照し得る)。他のアクティビティ検出子の例には、人が転ぶのを検出する、人が方向または速さを変更するのを検出する、人がある区域に入るのを検出する、または人が誤った方向に進むのを検出するなどが含まれ得る。
図19に、赤い車両がビデオ仕掛け線191を横切るかどうか検出するために、アクティビティ検出子葉ノード(この場合、仕掛け線横断)が、どのようにして単純な特性問い合わせと組み合わされ得るかの一例を示す。特性問い合わせ172、173、174およびアクティビティ検出子193は、ブール「AND」演算子192と組み合わされる。
問い合わせを修飾されたブール演算子(結合子)と組み合わせれば、さらに柔軟性が加わる。修飾子の例には、空間、時間、オブジェクト、およびカウンタ修飾子などが含まれる。
空間修飾子は、ブール演算子を、場面内で近接している/近接していない子アクティビティ(すなわち、図19などでブール演算子の下に示されるブール演算子の引き数)だけに作用させ得る。例えば、「AND から50画素以内」は、「AND」が、アクティビティ間の距離が50画素未満の場合にのみ適用されることを意味するのに使用され得る。
時間修飾子は、ブール演算子を、相互から指定された期間内に、かかる期間外に、またはある範囲内の時刻に発生する子アクティビティにのみ作用させ得る。また、各イベントの時間順序も指定され得る。例えば、「AND 第2から10秒以内に第1」は、「AND」が、第2の子アクティビティが、第1の子アクティビティ後10秒以内に発生する場合に限って適用されることを意味するのに使用され得る。
オブジェクト修飾子は、ブール演算子を、同じオブジェクトまたは異なるオブジェクトが関与して発生する子アクティビティだけに作用させ得る。例えば、「AND 同じオブジェクトが関与する」は、「AND」が、2つの子アクティビティに、同じ特定のオブジェクトが関与する場合に限って適用されることを意味するのに使用され得る。
カウンタ修飾子は、ブール演算子を、(1つまたは複数の)条件が所定の回数満たされた場合に限ってトリガさせ得る。カウンタ修飾子は、一般に、「少なくともn回」、「厳密にn回」、「多くともn回」などの数値関係を含み得る。例えば、「OR 少なくとも2回」は、「OR」演算子の副問い合わせの少なくとも2つが真でなければならないことを意味するのに使用され得る。カウンタ修飾子の別の用法は、「同じ人が、棚から少なくとも5個の品物を取った場合に警告する」のような規則を実施するものである。
図20に、結合子の使用例を示す。ここで、必要とされるアクティビティ問い合わせは、「違法な左折を行う赤い車両を見つける」201というものである。違法な左折は、アクティビティ記述子と修飾されたブール演算子の組み合わせによって捕捉され得る。1つの仮想仕掛け線を使って、脇道から出てくるオブジェクト193が検出され、別の仮想仕掛け線を使って、道に沿って左へ進むオブジェクト205が検出され得る。これらは、修飾された「AND」演算子202によって組み合わされ得る。標準のブール「AND」演算子は、アクティビティ193と205の両方が検出されるべきことを保証する。オブジェクト修飾子203は、同じオブジェクトが両方の仕掛け線を横切ったことをチェックし、時間修飾子204は、まず、下から上への仕掛け線193が横切られ、続いて、その後10秒以内に、右から左への仕掛け線205が横切られたことをチェックする。
また、この例は、結合子の能力を示すものでもある。理論的には、単純なアクティビティ検出子と結合子を利用せずに、左折に別個のアクティビティ検出子を定義することは可能である。しかしながら、この検出子は柔軟性がなく、任意の回転角度および方向に対応するのを困難にするはずであり、また、すべての潜在的イベントに別々の検出子を書くのも面倒であろう。これに対して、結合子と単純な検出子を使用すれば、大きな柔軟性がもたらされる。
より単純な検出子の組み合わせとして検出され得る複合アクティビティの別の例には、駐車する車と車から降りる人や、グループを形成する複数の人々、テールゲーティングなどが含まれ得る。また、これらの結合子は、異なる種類とソースのプリミティブを組み合わせることもできる。例としては、「明かりが消される前に室内にいる人を示せ」、「直前にカードを読み取らせずにドアから入る人を示せ」、「対象区域に、RFIDタグ読取装置によって予期されるより多くのオブジェクトがあるかどうか(すなわち、RFIDタグのない違法なオブジェクトがその区域にあることを)示せ」などの規則が含まれ得る。
結合子は、任意の数の副問い合わせを組み合わせることができ、他の結合子を、任意の深さまで組み合わせることさえもできる。一例が、図21aと21bに示す、車が左折し2101、次いで、右折する2104かどうか検出する規則である。左折2101は、方向仕掛け線2102、2103を用いて検出され、右折2104は、方向仕掛け線2105、2106を用いて検出され得る。左折は、それぞれ、仕掛け線2102と2103に対応する、仕掛け線アクティビティ検出子2112と2113が、オブジェクト修飾子「同じ」2117と時間修飾子「2113の前に2112」2118を伴う「AND」結合子2111で接続されたものとして表され得る。同様に、右折は、それぞれ、仕掛け線2105と2106に対応する仕掛け線アクティビティ検出子2115と2116が、オブジェクト修飾子「同じ」2119と時間修飾子「2116の前に2115」2120を伴う「AND」結合子2114で接続されたものとして表され得る。最初に左折し、次いで右折する同じオブジェクトを検出するために、左折検出子2111と右折検出子2114は、オブジェクト修飾子「同じ」2122と時間修飾子「2114の前に2111」2123を伴う「AND」結合子2121で接続される。最後に、検出されたオブジェクトが車両であることを確認するために、ブール「AND」演算子2125を使って、左折と右折の検出子2121と特性問い合わせ2124が組み合わされる。
これらすべての検出子は、任意選択で、時間属性と組み合わされ得る。時間属性の例には、15分毎、9:00PMから6:30AMまでの間、5分未満、30秒より長い間、週末にかけてなどが含まれる。
図2のブロック24で、ビデオ監視システムが運用される。本発明のビデオ監視システムは、自動的に動作し、場面内のオブジェクトのビデオプリミティブを検出してアーカイブし、イベント判別子を使ってリアルタイムでイベント発生を検出する。加えて、警報を作動させる、報告を生成する、出力を生成するなどの処置が、適宜、リアルタイムで講じられる。報告と出力は、システムに対してローカルで、またはインターネットなどのネットワークを介して別の場所で表示され、かつ/または格納され得る。図4に、ビデオ監視システムの動作の流れ図を示す。
ブロック41で、コンピュータシステム11は、ビデオセンサ14および/またはビデオレコーダ15からソースビデオを獲得する。
ブロック42で、ビデオプリミティブが、ソースビデオからリアルタイムで抽出される。任意選択で、非ビデオプリミティブが、1つまたは複数のその他のセンサ17から獲得され、かつ/または抽出され、本発明と共に使用されてもよい。ビデオプリミティブの抽出を図5で示す。
図5に、ビデオ監視システムでのビデオプリミティブ抽出の流れ図を示す。ブロック51と52は、並列に動作し、任意の順序で、または同時に行われ得る。ブロック51では、動きによってオブジェクトが検出される。このブロックでは、画素レベルでフレーム間の動きを検出する任意の動き検出アルゴリズムが使用され得る。一例として、{1}で論じられている3フレーム差分技法を使用することができる。検出されたオブジェクトは、ブロック53に送られる。
ブロック52では、変化によってオブジェクトが検出される。このブロックでは、背景モデルからの変化を検出する任意の変化検出アルゴリズムが使用され得る。このブロックでは、フレーム内の1つまたは複数の画素が、そのフレームの背景モデルに適合しないため、フレームの前景にあるものとみなされる場合に、オブジェクトが検出される。一例として、{1}と、2000年10月24日に出願された米国特許出願第09/694712号明細書に記載されている、動的適応背景減法などの確率的背景モデル化技法が使用され得る。検出されたオブジェクトは、ブロック53に送られる。
ブロック51の動き検出技法と、ブロック52の変化検出技法は、相補的な技法であり、各技法が、有利には、他方の技法における不備に対処する。任意選択で、ブロック51と52について論じている技法に、追加の、かつ/または代替の検出方式を使用することもできる。追加の、かつ/または代替の検出方式の例には、{8}に記載されている人々を見つけるPfinder検出方式、肌の色合い検出方式、顔検出方式、モデルベースの検出方式などが含まれる。かかる追加の、かつ/または代替の検出方式の結果は、ブロック53に提供される。
任意選択で、ビデオセンサ14が動きを有する場合(例えば、掃引、ズーム、および/または変換を行うビデオカメラなど)、ブロック51と52の間のブロックの前に追加のブロックを挿入して、ブロック51と52にビデオ安定化のための入力を提供することもできる。ビデオ安定化は、アフィン変換による、または射影的な大域的動き補償によって達成され得る。例えば、参照により本明細書に組み込まれる、2000年7月3日に出願された米国特許出願第09/609919号、現在の米国特許第6738424号明細書に記載されている画像整合などを使って、ビデオ安定化が獲得され得る。
ブロック53で、ブロブが生成される。一般に、ブロブとは、フレーム内の任意のオブジェクトである。ブロブの例には、人や車両などの動くオブジェクト、家具、衣料品、小売商品などの消費者製品などが含まれる。ブロブは、ブロック32と33からの検出オブジェクトを使って生成される。このブロックでは、ブロブを生成する任意の技法が使用され得る。動き検出と変化検出からブロブを生成する技法の一例は、連結成分方式を使用する。例えば、{1}に記載されている、形態学および連結成分アルゴリズムなどが使用され得る。
ブロック54で、ブロブが追跡される。このブロックでは、ブロブを追跡する任意の技法が使用され得る。例えば、カルマンフィルタリングまたは圧縮アルゴリズムなどが使用され得る。別の例として、{1}に記載されているような、テンプレートマッチング技法も使用され得る。別の例として、{5}に記載されている、多重仮説カルマントラッカも使用され得る。別の例として、2000年10月24日に出願された米国特許出願第09/694712号明細書に記載されているフレームごとの追跡技法も使用され得る。場所が食料品店である例では、追跡され得るオブジェクトの例には、動く人々、在庫商品、ショッピングカートや台車などの在庫移動器具などが含まれる。
任意選択で、ブロック51〜54は、当業者に知られている任意の検出および追跡方式で置き換えることもできる。かかる検出および追跡方式の一例が、{11}に記載されている。
ブロック55で、追跡されるオブジェクトの各軌道が分析されて、その軌道が顕著であるかどうか判定される。軌道が顕著でない場合、軌道は不安定な動きを呈するオブジェクトを表し、または不安定なサイズまたは色のオブジェクトを表し、対応するオブジェクトは拒絶され、それ以上システムによって分析されなくなる。軌道が顕著である場合、その軌道は、潜在的に対象とされるオブジェクトを表す。軌道が顕著であるか、それとも顕著でないかは、その軌道に顕著性尺度を適用することによって判定される。軌道が顕著であるか、それとも顕著でないか判定する技法は、{13}と{18}に記載されている。
ブロック56で、各オブジェクトが分類される。各オブジェクトの一般的な種類は、オブジェクトの分類として決定される。分類は、いくつかの技法によって実行することができ、かかる技法の例には、ニューラルネットワーク分類子を使用するもの{14}や、線形判別分類子を使用するもの{14}などが含まれる。分類の例は、ブロック23で論じたものと同じである。
ブロック57で、ブロック51〜56からの情報と、必要に応じて追加の処理を使って、ビデオプリミティブが識別される。識別されるビデオプリミティブの例は、ブロック23で論じたものと同じである。一例として、サイズには、システムは、ブロック22での較正から獲得される情報をビデオプリミティブとして使用することができる。較正から、システムは、オブジェクトのおおよそのサイズを判定するのに十分な情報を有する。別の例として、システムは、ブロック54から測定される速度をビデオプリミティブとして使用することもできる。
ブロック43で、ブロック42からのビデオプリミティブがアーカイブされる。ビデオプリミティブは、コンピュータ可読媒体13または別のコンピュータ可読媒体にアーカイブされ得る。ビデオプリミティブと一緒に、ソースビデオからの関連付けられるフレームまたはビデオ画像もアーカイブされ得る。このアーカイブするステップは、任意選択である。すなわち、システムがリアルタイムイベント検出だけに使用される場合、アーカイブするステップは、省略され得る。
ブロック44で、ビデオプリミティブから、イベント判別子を使って、イベント発生が抽出される。ビデオプリミティブは、ブロック42で決定され、イベント判別子は、ブロック23におけるシステムへのタスク割り当てから決定される。イベント判別子は、ビデオプリミティブをフィルタにかけて、イベント発生が発生したかどうか判定するのに使用される。例えば、イベント判別子は、9:00AMから5:00PMまでの間に、ある区域に「誤進入」する人と定義される「誤進入」イベントを見つけることもできる。イベント判別子は、図5に従って生成されるすべてのビデオプリミティブをチェックし、9:00AMから5:00PMまでの間のタイムスタンプ、「人」または「人々の集まり」という分類、その区域内の位置、および「誤った」運動方向という特性を有するビデオプリミティブの有無を判定する。また、イベント判別子は、前述のような、他の種類のプリミティブを使用してもよく、かつ/または複数のビデオソースからのビデオプリミティブを組み合わせてイベント発生を検出してもよい。
ブロック45で、ブロック44で抽出された各イベント発生ごとに、適宜、処置が講じられる。図6に、ビデオ監視システムでの処置の流れ図を示す。
ブロック61で、イベント発生を検出したイベント判別子によって指図されるように応答が引き受けられる。応答は、もしあれば、ブロック34でイベント判別子ごとに識別される。
ブロック62で、発生した各イベント発生ごとに、アクティビティレコードが生成される。アクティビティレコードは、例えば、オブジェクトの軌道の詳細、オブジェクトの検出時刻、オブジェクトの検出位置、用いられたイベント判別子の記述または定義などを含む。アクティビティレコードは、イベント判別子によって必要とされる、ビデオプリミティブなどの情報を含み得る。また、アクティビティレコードは、イベント発生に関与する(1つまたは複数の)オブジェクトおよび/または(1つまたは複数の)区域の代表的なビデオまたは静止画像も含み得る。アクティビティレコードは、コンピュータ可読媒体上に格納される。
ブロック63で、出力が生成される。出力は、ブロック44で抽出されたイベント発生と、ブロック41からのソースビデオの直接供給に基づくものである。出力は、コンピュータ可読媒体上に格納され、コンピュータシステム11または別のコンピュータシステムに表示され、あるいは別のコンピュータシステムに転送される。システムが動作する際、イベント発生に関する情報が収集され、この情報は、オペレータによって、リアルタイムを含めて、いつでも確認され得る。情報を受け取る形式の例には、コンピュータシステムのモニタ上の表示、ハードコピー、コンピュータ可読媒体、対話式Webページなどが含まれる。
出力は、ブロック41からのソースビデオの直接供給からの表示を含み得る。例えば、ソースビデオは、コンピュータシステムのモニタのウィンドウ上に表示することも、閉回路モニタ上に表示することもできる。さらに、出力は、イベント発生に関与するオブジェクトおよび/または区域を強調表示するグラフィックスでマークされたソースビデオを含むこともできる。システムがフォレンジック分析モードで動作している場合、ビデオは、ビデオレコーダから供給されてもよい。
出力は、オペレータおよび/またはイベント発生の要件に基づく、オペレータのための1つまたは複数の報告を含み得る。報告の例には、発生したイベント発生の数、イベント発生が発生した場面内の位置、イベント発生が発生した時刻、各イベント発生の代表的画像、各イベント発生の代表的ビデオ、生の統計データ、イベント発生の統計(数量、頻度、場所、時刻など)、および/または人間可読グラフィック表示などが含まれる。
図13と14に、図15の食料品店内の通路についての報告例を示す。図13と14では、ブロック22においていくつかの区域が識別され、画像内でしかるべくラベル付けされる。図13内の各区域は図12内の各区域と一致し、図14内の各区域は、これらとは異なる。システムに、この区域内で立ち止まる人々を探すようタスクが割り当てられる。
図13では、報告例は、ラベル、グラフィックス、統計情報、および統計情報の分析を含むように指定が書き込まれたビデオからの画像である。例えば、コーヒと識別されている区域は、この区域の平均顧客数が2人/時間であり、この区域の平均滞留時間が5秒であるという統計情報を有する。システムは、この区域が、「冷たい」領域である、すなわち、この領域ではあまり商業アクティビティが生じてないと判定した。別の例として、炭酸飲料と識別されている区域は、この区域の平均顧客数が15人/時間であり、この区域の平均滞留時間が22秒であるという統計情報を有する。システムは、この区域が、「熱い」領域である、すなわち、この領域には大量の商業アクティビティが生じていると判定した。
図14では、報告例は、ラベル、グラフィックス、統計情報、および統計情報の分析を含むように指定が書き込まれたビデオからの画像である。例えば、通路の奥の区域は、平均顧客数が14人/時間であり、人通りが少ないと判定されている。別の例として、通路の手前の区域は、平均顧客数が83人/時間であり、人通りが多いと判定されている。
図13または図14で、オペレータが任意の特定の区域または任意の特定の区域に関するより多くの情報を求める場合、ポイントアンドクリックインターフェースにより、オペレータは、システムが検出し、アーカイブしている領域および/またはアクティビティの代表的な静止画像とビデオ画像をナビゲートすることができる。
図15に、食料品店内の通路の別の報告例を示す。この報告例は、ラベルと、軌道指示と、指定付きの画像を記述するテキストを含むように指定が書き込まれたビデオからの画像を含む。例示のシステムには、いくつかの区域で、オブジェクトの軌道の長さ、位置および時間、オブジェクトが動かなかった時間と場所、オペレータによって指定される軌道と区域との相関関係、およびオブジェクトの分類が人以外か、1人か、2人か、3人以上かをサーチするタスクが割り当てられている。
図15のビデオ画像は、軌道が記録された期間からのものである。3つのオブジェクトのうち、2つのオブジェクトは、それぞれ、1人であると分類され、1つのオブジェクトは、人以外であると分類されている。各オブジェクトには、ラベル、すなわち、人ID1032、人ID1033、およびオブジェクトID32001が割り当てられる。人ID1032について、システムは、この人が、この区域内で52秒、○で指定される位置で18秒過ごしたと判定した。人ID1033について、システムは、この人が、この区域内で1分8秒、○で指定される位置で12秒過ごしたと判定した。人ID1032と人ID1033の軌道は、指定付き画像内に含まれる。オブジェクトID32001について、システムは、それ以上このオブジェクトを分析せず、このオブジェクトの位置を×で示した。
図2のブロック22に戻って、較正は、(1)手動、(2)ビデオセンサまたはビデオレコーダからの画像を使った半自動、あるいは(3)ビデオセンサまたはビデオレコーダからの画像を使った自動とすることができる。画像が必要とされる場合、コンピュータシステム11によって分析されるべきソースビデオは、較正に使用されたソースビデオを獲得したビデオセンサからのものであると想定される。
手動較正では、オペレータは、コンピュータシステム11に、ビデオセンサ14のそれぞれの向きと内部パラメータ、ならびに各ビデオセンサ14のその場所に対する配置を提供する。コンピュータシステム11は、任意選択で、その場所の地図を維持することができ、ビデオセンサ14の配置は、地図上に示され得る。地図は、環境の2次元または3次元表現とすることができる。加えて、手動較正は、システムに、オブジェクトのおおよそのサイズと相対的位置を決定するのに十分な情報も提供する。
代替として、手動較正では、オペレータが、センサからのビデオ画像に、人など、知られているサイズのオブジェクトの外観を表すグラフィックを用いて指定を書き込むこともできる。オペレータが、画像内の少なくとも2つの異なる場所に指定を書き込み得る場合、システムは、おおよそのカメラ較正情報を推論することができる。
半自動および自動較正では、カメラパラメータの知識も場面配置の知識も不要である。半自動および自動較正から、場面内の様々な区域におけるオブジェクトのサイズを近似するようにルックアップ表が生成され、またはカメラの内部と外部のカメラ較正パラメータが推論される。
半自動較正では、ビデオ監視システムは、ビデオソースをオペレータからの入力と組み合わせて使って較正される。半自動較正されるべきビデオセンサの視界に1人の人が配置される。コンピュータシステム11は、その1人に関するソースビデオを受け取り、このデータに基づいて人のサイズを自動的に推論する。その人が見られるビデオセンサの視界内の場所数が増大し、その人が、ビデオセンサの視界内で見られる期間が長くなるに従って、半自動較正の正確さが向上する。
図7に、ビデオ監視システムの半自動較正の流れ図を示す。ブロック71は、典型的なオブジェクトが、様々な軌道で場面を移動することを除いて、ブロック41と同じである。典型的なオブジェクトは、様々な速度を有し、様々な位置で静止し得る。例えば、典型的なオブジェクトは、可能な限りビデオセンサに近づき、次いで、可能な限りビデオセンサから遠ざかる。典型的なオブジェクトによるこの動きは、必要に応じて繰り返され得る。
ブロック72〜25は、それぞれ、ブロック51〜54と同じである。
ブロック76で、典型的なオブジェクトが、場面の至るところで監視される。追跡される唯一の(または少なくとも最も)安定したオブジェクトは、場面内の較正オブジェクト(すなわち、場面を移動する典型的なオブジェクト)であるものと仮定される。安定したオブジェクトのサイズは、それが観測される場面内のあらゆる地点について収集され、この情報を使って、較正情報が生成される。
ブロック77で、典型的なオブジェクトのサイズが、場面全体の様々な区域について特定される。典型的なオブジェクトのサイズを使って、場面内の様々な区域における類似のオブジェクトのおおよそのサイズが決定される。この情報を用いて、画像内の様々な区域における典型的なオブジェクトの典型的な見かけ上のサイズにマッチするルックアップ表が生成され、あるいは内部と外部のカメラ較正パラメータが推論される。サンプル出力として、システムが適切な高さとして決定したものを、画像の様々な区域内の棒型の人物の表示で示す。かかる棒型の人物が、図11に示されている。
自動較正では、コンピュータシステム11が、各ビデオセンサの視界内の場所に関する情報を判定する学習フェーズが行われる。自動較正の間、コンピュータシステム11は、その場面に典型的なオブジェクトの統計的に有意なサンプリングを獲得し、それによって、典型的な見かけ上のサイズと場所を推論するのに十分な、代表的な期間(数分間、数時間、または数日間など)にわたって、その場所のソースビデオを受け取る。
図8に、ビデオ監視システムの自動較正の流れ図を示す。ブロック81〜86は、図7のブロック71〜76と同じである。
ブロック87で、ビデオセンサの視界内の追跡可能領域が識別される。追跡可能領域とは、オブジェクトが、容易に、かつ/または正確に追跡され得る、ビデオセンサの視界内の領域をいう。追跡不能領域とは、オブジェクトが、容易に、かつ/または正確に追跡されず、かつ/または追跡するのが困難な、ビデオセンサの視界内の領域をいう。追跡不能領域を、不安定または非顕著領域と呼ぶこともできる。オブジェクトは、そのオブジェクトが小さすぎるために(所定の閾値より小さいなど)、あまりにも短時間しか出現しないために(所定の閾値より短いなど)、あるいは顕著でない動きを示すため(意図的でないなど)に、追跡するのが難しいこともある。追跡可能領域は、例えば、{13}に記載されている技法などを使って識別され得る。
図10に、食料品店内の通路について決定された追跡可能領域を示す。通路の向こう側の区域は、この区域内にあまりにも多くの混乱要素が見えるため、顕著でないと判定されている。混乱要素とは、追跡方式を混乱させるビデオ内のものをいう。混乱要素の例には、風に揺れる葉、雨、一部が遮られて見えないオブジェクト、正確に追跡するにはあまりにも短期間しか現れないオブジェクトなどが含まれる。これに対して、通路のこちら側の区域は、この区域では良好な軌道が判定されるため、顕著であると判定されている。
ブロック88で、場面全体の様々な区域でのオブジェクトのサイズが識別される。オブジェクトのサイズは、場面内の様々な区域における類似のオブジェクトのおおよそのサイズを決定するのに使用される。ヒストグラムや統計的中央値を使用するなどの技法を使って、オブジェクトの典型的な見かけ上の高さと幅が、場面内の場所の関数として求められる。場面の画像のある部分では、典型的なオブジェクトは、典型的な見かけ上の高さと幅を持ち得る。この情報を用いて、画像内の様々な区域におけるオブジェクトの典型的な見かけ上のサイズにマッチするルックアップ表が生成され、または内部と外部のカメラ較正パラメータが推論され得る。
図11に、図10の食料品店の通路内の典型的なオブジェクトの典型的なサイズの識別を示す。典型的なオブジェクトは、人々であるものと想定され、ラベルによってしかるべく識別される。人々の典型的なサイズは、顕著な領域で検出される人々の平均身長と平均幅のグラフによって決定される。例では、グラフAが、平均的な人の平均身長について求められ、グラフBが、1人、2人、および3人の人の平均的な幅について求められる。
グラフAでは、x軸に、ブロブの高さを画素数で示し、y軸に、発生する、x軸上で識別される個々の高さの例の数を示す。グラフAの線のピークは、場面の指定領域内で最も一般的なブロブの高さに対応し、この例では、ピークは、指定領域に立つ人の平均身長に対応する。
人々がゆるくまとまったグループとして進むものと仮定して、グラフAに類似のグラフが、幅についてグラフBとして生成される。グラフBでは、x軸に、ブロブの幅を画素数で示し、y軸に、発生する、x軸上で識別される個々の幅の例の数を示す。グラフBの線の各ピークは、いくつかのブロブの平均幅に対応する。大部分のグループがただ1人の人を含むものと仮定すると、最大のピークが、最も一般的な幅に対応し、これが、指定領域内の人1人の平均幅に対応する。同様に、2番目に大きいピークは、指定領域内の人2人の平均幅に対応し、3番目に大きいピークは、指定領域内の人3人の平均幅に対応する。
図9に、本発明のビデオ監視システムの追加の流れ図を示す。この追加の実施形態では、システムは、アーカイブされたビデオプリミティブをイベント判別子と共に分析して、例えば、ソースビデオ全体を見直す必要もなく、追加の報告を生成する。本発明に従ってビデオソースが処理された後の任意のときに、ソースビデオのビデオプリミティブが、図4のブロック43でアーカイブされる。追加の実施形態では、ビデオプリミティブだけが見直され、ビデオソースは、再処理されないため、ビデオコンテンツが、比較的短時間で再分析され得る。これは、現在の最新のシステムに優る大幅な効率改善を提供する。というのは、ビデオ画像データの処理は、極めて計算上に高くつくが、ビデオから抜粋された小規模なビデオプリミティブを分析すれば、極めて計算上に安くつくからである。一例として、「最近2ヶ月間に区域Aにおいて10分より長く立ち止まった人の数」というイベント判別子が生成され得る。この追加の実施形態では、最近2ヶ月間のソースビデオが見直される必要はない。そうではなく、最近2ヶ月間のビデオプリミティブが見直されるだけでよく、これは、大幅に効率のよいプロセスである。
ブロック91は、図2のブロック23と同じである。
ブロック92で、アーカイブされたビデオプリミティブにアクセスされる。ビデオプリミティブは、図4のブロック43でアーカイブされる。
ブロック93と94は,図4のブロック44と45と同じである。
用途の一例として、本発明は、小売陳列の効率性を評価することによって、小売市場空間を分析するのに使用され得る。小売陳列には、陳列商品と副次的商品両方の販売を促進するためにできるだけ人目を引こうと、多額の金が投入される。本発明のビデオ監視システムは、これらの小売陳列の効率性を評価するように構成され得る。
この適用例では、ビデオ監視システムが、ビデオセンサの視界を、所望の小売陳列の周囲の空間に向けてセットアップされる。タスク割り当て時に、オペレータは、所望の小売陳列の周囲の空間を表す区域を選択する。判別子として、オペレータは、その区域に入り、測定可能な速度の低下を示し、または相当の時間にわたって立ち止まる人の大きさのオブジェクトを監視しようとすることを定義する。
ある期間にわたって動作した後、ビデオ監視システムは、市場分析の報告を提供し得る。報告には、この小売陳列の周囲で歩調をゆるめた人の数、この小売陳列で立ち止まった人の数、この小売陳列に興味を示した人の、時間の関数としての内訳、例えば、何人が週末にかけて興味を示したかや、何人が夕方に興味を示したかなど、この小売陳列に興味を示した人のビデオスナップ写真が含まれ得る。ビデオ監視システムから獲得される市場調査情報は、店の売上情報および店の顧客記録と組み合わされて、分析者による小売陳列の有効性の理解を向上させることができる。
本明細書で論じている実施形態および例は、非限定的な例である。
本発明は、好ましい実施形態に関して詳細に説明されており、以上の説明より、本発明のより一般的な態様から逸脱することなく変更および改変を加えることができ、したがって、特許請求の範囲で定義される本発明は、かかるすべての変更および改変を、本発明の真の趣旨に含まれるものとして包含するものであることが、当業者には明らかであろう。
本発明のビデオ監視システムを示す平面図である。 本発明のビデオ監視システムを示す流れ図である。 ビデオ監視システムのタスク割り当てを示す流れ図である。 ビデオ監視システムの動作を示す流れ図である。 ビデオ監視システムのビデオプリミティブの抽出を示す流れ図である。 ビデオ監視システムでの処置を示す流れ図である。 ビデオ監視システムの半自動較正を示す流れ図である。 ビデオ監視システムの自動較正を示す流れ図である。 本発明のビデオ監視システムを示す追加の流れ図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 食料品店の監視に適用された本発明のビデオ監視システムの例を示す図である。 本発明の一実施形態によるビデオ分析サブシステムを示す流れ図である。 本発明の一実施形態によるイベント発生検出応答サブシステムを示す流れ図である。 データベース問い合わせの例を示す図である。 本発明の様々な実施形態による、仕掛け線横断を検出するアクティビティ検出子の例を示す図である。 本発明の様々な実施形態による、徘徊を検出するアクティビティ検出子の例を示す図である。 本発明の様々な実施形態による、盗難を検出するアクティビティ検出子の例を示す図である。 本発明の一実施形態によるアクティビティ検出子問い合わせを示す図である。 本発明の一実施形態による、アクティビティ検出子と修飾子を伴うブール演算子を使った問い合わせの例を示す図である。 複数レベルの結合子と、アクティビティ検出子と、特性問い合わせとを使った問い合わせの例を示す図である。 複数レベルの結合子と、アクティビティ検出子と、特性問い合わせとを使った問い合わせの例を示す図である。

Claims (40)

  1. 少なくとも1つのビデオまたは非ビデオプリミティブに基づいて1つまたは複数のイベント発生を抽出するステップを備えるビデオ監視方法。
  2. 入力ビデオシーケンスから少なくとも1つのビデオプリミティブを導出するステップをさらに備える、請求項1に記載のビデオ監視方法。
  3. 前記抽出するステップが、
    前記少なくとも1つのビデオまたは非ビデオプリミティブに少なくとも1つの問い合わせを適用する工程を備える、請求項1に記載のビデオ監視方法。
  4. 前記少なくとも1つの問い合わせを適用する工程が、
    前記少なくとも1つのビデオまたは非ビデオプリミティブに少なくとも2つの副問い合わせを適用することと、
    前記少なくとも2つの副問い合わせの結果に少なくとも1つの結合子を適用することと、
    を備える、請求項3に記載のビデオ監視方法。
  5. 前記結合子が、ブール演算子を備える、請求項4に記載のビデオ監視方法。
  6. 前記結合子が、修飾子をさらに備える、請求項5に記載のビデオ監視方法。
  7. 前記修飾子が、時間修飾子と、空間修飾子と、オブジェクト修飾子と、カウンタ修飾子からなるグループから選択される、請求項6に記載のビデオ監視方法。
  8. 前記少なくとも1つの問い合わせが、少なくとも1つのアクティビティ記述子問い合わせを備える、請求項3に記載のビデオ監視方法。
  9. 前記少なくとも1つの問い合わせが、少なくとも1つの特性問い合わせを備える、請求項3に記載のビデオ監視方法。
  10. 前記少なくとも1つの問い合わせが、
    少なくとも3つの副問い合わせと、
    少なくとも2つの結合子と、
    を備える少なくとも1つの多層問い合わせを備える、請求項3に記載のビデオ監視方法。
  11. アーカイブから少なくとも1つのビデオまたは非ビデオプリミティブを検索するステップをさらに備える、請求項1に記載のビデオ監視方法。
  12. 前記ビデオプリミティブが、場面/ビデオ記述子と、オブジェクト記述子と、フロー記述子からなるグループから選択される種類のビデオプリミティブのうち少なくとも1つを備える、請求項1に記載のビデオ監視方法。
  13. コンピュータシステム上で実行されると、前記コンピュータシステムに、請求項1に記載の方法を実施させる命令を含むコンピュータ可読媒体。
  14. 前記抽出する命令が、前記少なくとも1つのビデオまたは非ビデオプリミティブに少なくとも1つの問い合わせを適用する命令を備える、請求項13に記載のコンピュータ可読媒体。
  15. 前記問い合わせが、特性問い合わせと、アクティビティ記述子問い合わせと、複数の副問い合わせを組み合わせることによって形成される問い合わせからなるグループのうちの少なくとも1つを備える、請求項14に記載のコンピュータ可読媒体。
  16. 請求項1に記載のビデオ監視方法を備えるビデオベースの警備方法。
  17. 請求項1に記載のビデオ監視方法を備えるビデオベースの安全化方法。
  18. 請求項1に記載のビデオ監視方法を備えるビデオベースの交通監視方法。
  19. 請求項1に記載のビデオ監視方法を備えるビデオベースの市場調査分析方法。
  20. ビデオシーケンスから抽出される少なくとも1つのビデオプリミティブを保存するステップと、
    前記ビデオシーケンスの少なくとも一部分を保存するステップであり、前記ビデオシーケンスの前記少なくとも一部分を保存する手段が前記ビデオシーケンスの分析によって決まる前記ステップと
    を備えるビデオ監視方法。
  21. 前記ビデオシーケンスの前記少なくとも一部分が、前記ビデオシーケンスの品質より低い品質で保存される、請求項20に記載のビデオ監視方法。
  22. 前記ビデオシーケンスの少なくとも一部分を保存する前記ステップが、
    少なくとも1つのアクティビティが検出される前記ビデオシーケンスの部分だけを保存する工程
    を備える、請求項20に記載のビデオ監視方法。
  23. 前記ビデオシーケンスの少なくとも一部分を保存する前記ステップが、
    検出アクティビティを含む前記ビデオシーケンスの部分を、検出アクティビティを含まない前記ビデオシーケンスの部分より高い品質で保存する工程
    を備える、請求項20に記載のビデオ監視方法。
  24. コンピュータシステムによって実行されると、前記コンピュータシステムに、請求項20に記載の方法を実施させる命令を含むコンピュータ可読媒体。
  25. 請求項20に記載のビデオ監視方法を備えるビデオベースの警備方法。
  26. 請求項20に記載のビデオ監視方法を備えるビデオベースの安全化方法。
  27. 請求項20に記載のビデオ監視方法を備えるビデオベースの交通監視方法。
  28. 請求項20に記載のビデオ監視方法を備えるビデオベースの市場調査分析方法。
  29. ビデオ監視システムであって、
    ビデオシーケンスを提供する少なくとも1つのビデオソースを含む少なくとも1つのセンサと、
    前記ビデオシーケンスを分析するビデオ分析サブシステムであり、少なくとも1つのビデオプリミティブを導出する前記ビデオ分析サブシステムと、
    前記少なくとも1つのビデオプリミティブを格納する少なくとも1つの記憶設備と、
    を備えるビデオ監視システム。
  30. 前記少なくとも1つの記憶設備が、少なくとも1つの非ビデオプリミティブを格納する、請求項29に記載のビデオ監視システム。
  31. 前記ビデオ分析サブシステムが、前記少なくとも1つの記憶設備内の前記ビデオシーケンスの少なくとも一部分の記憶を制御するようになっている、請求項29に記載のビデオ監視システム。
  32. 前記ビデオ分析サブシステムが、前記少なくとも1つの記憶設備に格納されるべき前記ビデオシーケンスの少なくとも一部分のビデオ品質を制御するようになっている、請求項31に記載のビデオ監視システム。
  33. 前記少なくとも1つの記憶設備に結合されたイベント発生検出応答サブシステムと、
    前記ビデオ分析サブシステムに、イベント分析規則と検出イベントへの応答からなるグループから選択される少なくとも1つの入力を提供する、前記アクティビティイベント分析サブシステムに結合された規則応答定義インターフェースと、
    をさらに備える、請求項29に記載のビデオ監視システム。
  34. 前記イベント発生検出応答サブシステムが、前記少なくとも1つの記憶設備に格納された少なくとも1つのビデオまたは非ビデオプリミティブを使って、前記イベント分析規則を適用するようになっている、請求項33に記載のビデオ監視システム。
  35. 請求項29に記載のビデオ監視システムを備えるビデオベースの警備システム。
  36. アクセス制御と、資産監視と、テロ行為防止からなるグループから選択される少なくとも1つの機能を実行するようになっている、請求項35に記載のビデオベースの警備システム。
  37. 請求項29に記載のビデオ監視システムを備えるビデオベースの安全化システム。
  38. 潜在的に危険な状況の検出と、病人の監視と、高齢者の監視からなるグループから選択される少なくとも1つの機能を実行するようになっている、請求項37に記載のビデオベースの安全化システム。
  39. 請求項29に記載のビデオ監視システムを備えるビデオベースの交通監視システム。
  40. 請求項29に記載のビデオ監視システムを備えるビデオベースの市場調査分析システム。
JP2007556153A 2005-02-15 2006-01-26 ビデオプリミティブを用いたビデオ監視システム Pending JP2008538665A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/057,154 US20050162515A1 (en) 2000-10-24 2005-02-15 Video surveillance system
PCT/US2006/002700 WO2006088618A2 (en) 2005-02-15 2006-01-26 Video surveillance system employing video primitives

Publications (1)

Publication Number Publication Date
JP2008538665A true JP2008538665A (ja) 2008-10-30

Family

ID=36916915

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007556153A Pending JP2008538665A (ja) 2005-02-15 2006-01-26 ビデオプリミティブを用いたビデオ監視システム

Country Status (10)

Country Link
US (1) US20050162515A1 (ja)
EP (1) EP1864495A2 (ja)
JP (1) JP2008538665A (ja)
KR (1) KR20070101401A (ja)
CN (3) CN101180880A (ja)
CA (1) CA2597908A1 (ja)
IL (1) IL185203A0 (ja)
MX (1) MX2007009894A (ja)
TW (1) TW200703154A (ja)
WO (1) WO2006088618A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017537357A (ja) * 2015-10-28 2017-12-14 小米科技有限責任公司Xiaomi Inc. 警報方法および装置

Families Citing this family (120)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7868912B2 (en) * 2000-10-24 2011-01-11 Objectvideo, Inc. Video surveillance system employing video primitives
US8711217B2 (en) * 2000-10-24 2014-04-29 Objectvideo, Inc. Video surveillance system employing video primitives
US20050146605A1 (en) 2000-10-24 2005-07-07 Lipton Alan J. Video surveillance system employing video primitives
US9892606B2 (en) * 2001-11-15 2018-02-13 Avigilon Fortress Corporation Video surveillance system employing video primitives
US8564661B2 (en) 2000-10-24 2013-10-22 Objectvideo, Inc. Video analytic rule detection system and method
US7339609B2 (en) * 2001-08-10 2008-03-04 Sony Corporation System and method for enhancing real-time data feeds
US20060067562A1 (en) * 2004-09-30 2006-03-30 The Regents Of The University Of California Detection of moving objects in a video
US7286056B2 (en) * 2005-03-22 2007-10-23 Lawrence Kates System and method for pest detection
TW200634674A (en) * 2005-03-28 2006-10-01 Avermedia Tech Inc Surveillance system having multi-area motion-detection function
WO2006103744A1 (ja) * 2005-03-29 2006-10-05 Fujitsu Limited 映像管理システム
GB0510890D0 (en) * 2005-05-27 2005-07-06 Overview Ltd Apparatus, system and method for processing and transferring captured video data
JP4718602B2 (ja) * 2005-06-02 2011-07-06 ヒョグ キム 動体入退方向認識装置
US7801330B2 (en) * 2005-06-24 2010-09-21 Objectvideo, Inc. Target detection and tracking from video streams
US7796780B2 (en) * 2005-06-24 2010-09-14 Objectvideo, Inc. Target detection and tracking from overhead video streams
US7944468B2 (en) * 2005-07-05 2011-05-17 Northrop Grumman Systems Corporation Automated asymmetric threat detection using backward tracking and behavioral analysis
US20070085907A1 (en) * 2005-10-14 2007-04-19 Smiths Aerospace Llc Video storage uplink system
CN100417223C (zh) * 2005-12-30 2008-09-03 浙江工业大学 基于全方位视觉传感器的智能安保装置
US7613360B2 (en) * 2006-02-01 2009-11-03 Honeywell International Inc Multi-spectral fusion for video surveillance
ITRM20060153A1 (it) * 2006-03-20 2007-09-21 Neatec S P A Metodo per il riconoscimento di eventi per la videosorveglianza attiva
TW200745996A (en) 2006-05-24 2007-12-16 Objectvideo Inc Intelligent imagery-based sensor
US7925536B2 (en) * 2006-05-25 2011-04-12 Objectvideo, Inc. Intelligent video verification of point of sale (POS) transactions
CN100459704C (zh) * 2006-05-25 2009-02-04 浙江工业大学 基于全方位计算机视觉的智能隧道安全监控装置
EP2581888B1 (en) * 2006-06-02 2014-03-19 Sensormatic Electronics, LLC Systems and methods for distributed monitoring of remote sites
US7671728B2 (en) * 2006-06-02 2010-03-02 Sensormatic Electronics, LLC Systems and methods for distributed monitoring of remote sites
US7778445B2 (en) * 2006-06-07 2010-08-17 Honeywell International Inc. Method and system for the detection of removed objects in video images
US7468662B2 (en) * 2006-06-16 2008-12-23 International Business Machines Corporation Method for spatio-temporal event detection using composite definitions for camera systems
TW200822751A (en) * 2006-07-14 2008-05-16 Objectvideo Inc Video analytics for retail business process monitoring
US20080122926A1 (en) * 2006-08-14 2008-05-29 Fuji Xerox Co., Ltd. System and method for process segmentation using motion detection
US7411497B2 (en) * 2006-08-15 2008-08-12 Lawrence Kates System and method for intruder detection
US7791477B2 (en) * 2006-08-16 2010-09-07 Tyco Safety Products Canada Ltd. Method and apparatus for analyzing video data of a security system based on infrared data
US20080074496A1 (en) * 2006-09-22 2008-03-27 Object Video, Inc. Video analytics for banking business process monitoring
DE102006047892A1 (de) * 2006-10-10 2008-04-17 Atlas Elektronik Gmbh Verfahren zur Überwachung eines Sicherungsbereichs
US8873794B2 (en) * 2007-02-12 2014-10-28 Shopper Scientist, Llc Still image shopping event monitoring and analysis system and method
US20080198159A1 (en) * 2007-02-16 2008-08-21 Matsushita Electric Industrial Co., Ltd. Method and apparatus for efficient and flexible surveillance visualization with context sensitive privacy preserving and power lens data mining
US8146811B2 (en) * 2007-03-12 2012-04-03 Stoplift, Inc. Cart inspection for suspicious items
US7949150B2 (en) * 2007-04-02 2011-05-24 Objectvideo, Inc. Automatic camera calibration and geo-registration using objects that provide positional information
US20080273754A1 (en) * 2007-05-04 2008-11-06 Leviton Manufacturing Co., Inc. Apparatus and method for defining an area of interest for image sensing
GB0709329D0 (en) * 2007-05-15 2007-06-20 Ipsotek Ltd Data processing apparatus
FR2916562B1 (fr) * 2007-05-22 2010-10-08 Commissariat Energie Atomique Procede de detection d'un objet en mouvement dans un flux d'images
WO2008147874A2 (en) * 2007-05-22 2008-12-04 Vidsys, Inc. Event capture, cross device event correlation, and responsive actions
JP4948276B2 (ja) * 2007-06-15 2012-06-06 三菱電機株式会社 データベース検索装置及びデータベース検索プログラム
WO2009045218A1 (en) 2007-10-04 2009-04-09 Donovan John J A video surveillance, storage, and alerting system having network management, hierarchical data storage, video tip processing, and vehicle plate analysis
US20090150246A1 (en) * 2007-12-06 2009-06-11 Honeywell International, Inc. Automatic filtering of pos data
US8949143B2 (en) * 2007-12-17 2015-02-03 Honeywell International Inc. Smart data filter for POS systems
AU2008200966B2 (en) * 2008-02-28 2012-03-15 Canon Kabushiki Kaisha Stationary object detection using multi-mode background modelling
US9019381B2 (en) 2008-05-09 2015-04-28 Intuvision Inc. Video tracking systems and methods employing cognitive vision
US20100036875A1 (en) * 2008-08-07 2010-02-11 Honeywell International Inc. system for automatic social network construction from image data
US8797404B2 (en) * 2008-07-14 2014-08-05 Honeywell International Inc. Managing memory in a surveillance system
US8502869B1 (en) * 2008-09-03 2013-08-06 Target Brands Inc. End cap analytic monitoring method and apparatus
US20100114617A1 (en) * 2008-10-30 2010-05-06 International Business Machines Corporation Detecting potentially fraudulent transactions
US7962365B2 (en) * 2008-10-31 2011-06-14 International Business Machines Corporation Using detailed process information at a point of sale
US8345101B2 (en) * 2008-10-31 2013-01-01 International Business Machines Corporation Automatically calibrating regions of interest for video surveillance
US8429016B2 (en) * 2008-10-31 2013-04-23 International Business Machines Corporation Generating an alert based on absence of a given person in a transaction
US8612286B2 (en) * 2008-10-31 2013-12-17 International Business Machines Corporation Creating a training tool
US9299229B2 (en) * 2008-10-31 2016-03-29 Toshiba Global Commerce Solutions Holdings Corporation Detecting primitive events at checkout
WO2010055205A1 (en) * 2008-11-11 2010-05-20 Reijo Kortesalmi Method, system and computer program for monitoring a person
US8253831B2 (en) * 2008-11-29 2012-08-28 International Business Machines Corporation Location-aware event detection
US8165349B2 (en) * 2008-11-29 2012-04-24 International Business Machines Corporation Analyzing repetitive sequential events
US20100201815A1 (en) * 2009-02-09 2010-08-12 Vitamin D, Inc. Systems and methods for video monitoring
JP5570176B2 (ja) * 2009-10-19 2014-08-13 キヤノン株式会社 画像処理システム及び情報処理方法
US8988495B2 (en) 2009-11-03 2015-03-24 Lg Eletronics Inc. Image display apparatus, method for controlling the image display apparatus, and image display system
TWI478117B (zh) * 2010-01-21 2015-03-21 Hon Hai Prec Ind Co Ltd 影像監控系統及方法
CN101840422A (zh) * 2010-04-09 2010-09-22 江苏东大金智建筑智能化系统工程有限公司 基于目标特征和报警行为的智能视频检索系统和方法
TWI423148B (zh) * 2010-07-23 2014-01-11 Utechzone Co Ltd Method and system of monitoring and monitoring of fighting behavior
US8532390B2 (en) 2010-07-28 2013-09-10 International Business Machines Corporation Semantic parsing of objects in video
US9134399B2 (en) 2010-07-28 2015-09-15 International Business Machines Corporation Attribute-based person tracking across multiple cameras
US8515127B2 (en) 2010-07-28 2013-08-20 International Business Machines Corporation Multispectral detection of personal attributes for video surveillance
US10424342B2 (en) * 2010-07-28 2019-09-24 International Business Machines Corporation Facilitating people search in video surveillance
CN102419750A (zh) * 2010-09-27 2012-04-18 北京中星微电子有限公司 一种视频检索方法及系统
US20120182172A1 (en) * 2011-01-14 2012-07-19 Shopper Scientist, Llc Detecting Shopper Presence in a Shopping Environment Based on Shopper Emanated Wireless Signals
EP2826029A4 (en) * 2012-03-15 2016-10-26 Behavioral Recognition Sys Inc ALERT DIRECTIVES AND TARGETED ALERT DIRECTIVES IN A BEHAVIORAL RECOGNITION SYSTEM
CN102665071B (zh) * 2012-05-14 2014-04-09 安徽三联交通应用技术股份有限公司 一种社会治安视频监控图像智能处理和检索方法
US8825368B2 (en) * 2012-05-21 2014-09-02 International Business Machines Corporation Physical object search
TWI555407B (zh) * 2012-07-18 2016-10-21 晶睿通訊股份有限公司 影像播放設定方法
US10289917B1 (en) * 2013-11-12 2019-05-14 Kuna Systems Corporation Sensor to characterize the behavior of a visitor or a notable event
US9639760B2 (en) 2012-09-07 2017-05-02 Siemens Schweiz Ag Methods and apparatus for establishing exit/entry criteria for a secure location
CN103761826B (zh) * 2012-09-10 2016-03-30 南京恩博科技有限公司 一种热成像视频双鉴林火识别系统的识别方法
CA2834877A1 (en) * 2012-11-28 2014-05-28 Henry Leung System and method for event monitoring and detection
CN103049746B (zh) * 2012-12-30 2015-07-29 信帧电子技术(北京)有限公司 基于面部识别的检测打架行为的方法
KR20140098959A (ko) * 2013-01-31 2014-08-11 한국전자통신연구원 증거 영상 생성 장치 및 방법
US20180278894A1 (en) * 2013-02-07 2018-09-27 Iomniscient Pty Ltd Surveillance system
US20140226007A1 (en) * 2013-02-08 2014-08-14 G-Star International Telecommunication Co., Ltd Surveillance device with display module
DE102013204155A1 (de) * 2013-03-11 2014-09-11 Marco Systemanalyse Und Entwicklung Gmbh Verfahren und Vorrichtung zur Positionsbestimmung
WO2014142881A1 (en) 2013-03-14 2014-09-18 Intel Corporation Asynchronous representation of alternate reality characters
US10248700B2 (en) 2013-03-15 2019-04-02 Remote Sensing Metrics, Llc System and methods for efficient selection and use of content
US9965528B2 (en) 2013-06-10 2018-05-08 Remote Sensing Metrics, Llc System and methods for generating quality, verified, synthesized, and coded information
US10657755B2 (en) * 2013-03-15 2020-05-19 James Carey Investigation generation in an observation and surveillance system
US9542627B2 (en) 2013-03-15 2017-01-10 Remote Sensing Metrics, Llc System and methods for generating quality, verified, and synthesized information
WO2014144504A1 (en) 2013-03-15 2014-09-18 James Carey Investigation generation in an observation and surveillance system
WO2015025704A1 (ja) * 2013-08-23 2015-02-26 日本電気株式会社 映像処理装置、映像処理方法および映像処理プログラム
KR101359332B1 (ko) * 2013-12-05 2014-02-24 (주)엔토스정보통신 불법 주정차 단속을 위한 자동차 번호판 추적 및 인식 방법
US20150287295A1 (en) * 2014-04-02 2015-10-08 Tyco Fire & Security Gmbh Smart Emergency Exit Signs
TWI659397B (zh) * 2014-03-03 2019-05-11 比利時商Vsk電子股份有限公司 利用動作感應的侵入偵測技術
US20150288928A1 (en) * 2014-04-08 2015-10-08 Sony Corporation Security camera system use of object location tracking data
JP5834254B2 (ja) * 2014-04-11 2015-12-16 パナソニックIpマネジメント株式会社 人数計測装置、人数計測システムおよび人数計測方法
WO2015166612A1 (ja) 2014-04-28 2015-11-05 日本電気株式会社 映像解析システム、映像解析方法および映像解析プログラム
JP6197952B2 (ja) * 2014-05-12 2017-09-20 富士通株式会社 商品情報出力方法、商品情報出力プログラムおよび制御装置
US10140827B2 (en) 2014-07-07 2018-11-27 Google Llc Method and system for processing motion event notifications
US9449229B1 (en) 2014-07-07 2016-09-20 Google Inc. Systems and methods for categorizing motion event candidates
US9420331B2 (en) 2014-07-07 2016-08-16 Google Inc. Method and system for categorizing detected motion events
US9501915B1 (en) 2014-07-07 2016-11-22 Google Inc. Systems and methods for analyzing a video stream
US9354794B2 (en) 2014-07-07 2016-05-31 Google Inc. Method and system for performing client-side zooming of a remote video feed
US10127783B2 (en) 2014-07-07 2018-11-13 Google Llc Method and device for processing motion events
USD782495S1 (en) 2014-10-07 2017-03-28 Google Inc. Display screen or portion thereof with graphical user interface
US9953187B2 (en) * 2014-11-25 2018-04-24 Honeywell International Inc. System and method of contextual adjustment of video fidelity to protect privacy
US9743041B1 (en) * 2015-01-22 2017-08-22 Lawrence J. Owen AskMe now system and method
US9361011B1 (en) 2015-06-14 2016-06-07 Google Inc. Methods and systems for presenting multiple live video feeds in a user interface
US10631040B2 (en) * 2015-12-14 2020-04-21 Afero, Inc. System and method for internet of things (IoT) video camera implementations
US10506237B1 (en) 2016-05-27 2019-12-10 Google Llc Methods and devices for dynamic adaptation of encoding bitrate for video streaming
US10380429B2 (en) 2016-07-11 2019-08-13 Google Llc Methods and systems for person detection in a video feed
US11783010B2 (en) 2017-05-30 2023-10-10 Google Llc Systems and methods of person recognition in video streams
US10664688B2 (en) 2017-09-20 2020-05-26 Google Llc Systems and methods of detecting and responding to a visitor to a smart home environment
TWI749364B (zh) 2019-09-06 2021-12-11 瑞昱半導體股份有限公司 移動偵測方法及移動偵測系統
CN112507765A (zh) * 2019-09-16 2021-03-16 瑞昱半导体股份有限公司 移动检测方法及移动检测系统
CN111582152A (zh) * 2020-05-07 2020-08-25 微特技术有限公司 一种识别图像中复杂事件的方法及系统
CN111582231A (zh) * 2020-05-21 2020-08-25 河海大学常州校区 一种基于视频监控的跌倒检测报警系统、方法
US11334085B2 (en) * 2020-05-22 2022-05-17 The Regents Of The University Of California Method to optimize robot motion planning using deep learning
CN112182286B (zh) * 2020-09-04 2022-11-18 中国电子科技集团公司电子科学研究院 一种基于三维实景地图的智能视频管控方法
US20220174076A1 (en) * 2020-11-30 2022-06-02 Microsoft Technology Licensing, Llc Methods and systems for recognizing video stream hijacking on edge devices
EP4020981A1 (en) * 2020-12-22 2022-06-29 Axis AB A camera and a method therein for facilitating installation of the camera

Family Cites Families (116)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2715083C3 (de) * 1977-04-04 1983-02-24 Robert Bosch Gmbh, 7000 Stuttgart System zur Diskrimination eines Videosignals
CA1116286A (en) * 1979-02-20 1982-01-12 Control Data Canada, Ltd. Perimeter surveillance system
US4257063A (en) * 1979-03-23 1981-03-17 Ham Industries, Inc. Video monitoring system and method
GB2183878B (en) * 1985-10-11 1989-09-20 Matsushita Electric Works Ltd Abnormality supervising system
JPH0695008B2 (ja) * 1987-12-11 1994-11-24 株式会社東芝 監視装置
US5099322A (en) * 1990-02-27 1992-03-24 Texas Instruments Incorporated Scene change detection system and method
US5091780A (en) * 1990-05-09 1992-02-25 Carnegie-Mellon University A trainable security system emthod for the same
US5296852A (en) * 1991-02-27 1994-03-22 Rathi Rajendra P Method and apparatus for monitoring traffic flow
US5610653A (en) * 1992-02-07 1997-03-11 Abecassis; Max Method and system for automatically tracking a zoomed video image
FR2706652B1 (fr) * 1993-06-09 1995-08-18 Alsthom Cge Alcatel Dispositif de détection d'intrusions et d'usagers suspects pour ensemble informatique et système de sécurité comportant un tel dispositif.
US7859551B2 (en) * 1993-10-15 2010-12-28 Bulman Richard L Object customization and presentation system
US6351265B1 (en) * 1993-10-15 2002-02-26 Personalized Online Photo Llc Method and apparatus for producing an electronic image
US5491511A (en) * 1994-02-04 1996-02-13 Odle; James A. Multimedia capture and audit system for a video surveillance network
US6014461A (en) * 1994-11-30 2000-01-11 Texas Instruments Incorporated Apparatus and method for automatic knowlege-based object identification
KR960028217A (ko) * 1994-12-22 1996-07-22 엘리 웨이스 움직임 검출 카메라 시스템 및 방법
US5485611A (en) * 1994-12-30 1996-01-16 Intel Corporation Video database indexing and method of presenting video database index to a user
US6028626A (en) * 1995-01-03 2000-02-22 Arc Incorporated Abnormality detection and surveillance system
US6044166A (en) * 1995-01-17 2000-03-28 Sarnoff Corporation Parallel-pipelined image processing system
US5623249A (en) * 1995-01-26 1997-04-22 New Product Development, Inc. Video monitor motion sensor
US5708767A (en) * 1995-02-03 1998-01-13 The Trustees Of Princeton University Method and apparatus for video browsing based on content and structure
US5872865A (en) * 1995-02-08 1999-02-16 Apple Computer, Inc. Method and system for automatic classification of video images
JP3569992B2 (ja) * 1995-02-17 2004-09-29 株式会社日立製作所 移動体検出・抽出装置、移動体検出・抽出方法及び移動体監視システム
US5724456A (en) * 1995-03-31 1998-03-03 Polaroid Corporation Brightness adjustment of images using digital scene analysis
US5860086A (en) * 1995-06-07 1999-01-12 International Business Machines Corporation Video processor with serialization FIFO
US7076102B2 (en) * 2001-09-27 2006-07-11 Koninklijke Philips Electronics N.V. Video monitoring system employing hierarchical hidden markov model (HMM) event learning and classification
US5886701A (en) * 1995-08-04 1999-03-23 Microsoft Corporation Graphics rendering device and method for operating same
US6049363A (en) * 1996-02-05 2000-04-11 Texas Instruments Incorporated Object detection method and system for scene change analysis in TV and IR data
US6205239B1 (en) * 1996-05-31 2001-03-20 Texas Instruments Incorporated System and method for circuit repair
KR100211055B1 (ko) * 1996-10-28 1999-07-15 정선종 내용기반으로 분할된 영상객체들의 스케러블 전송방법
US6031573A (en) * 1996-10-31 2000-02-29 Sensormatic Electronics Corporation Intelligent video information management system performing multiple functions in parallel
US5875304A (en) * 1996-10-31 1999-02-23 Sensormatic Electronics Corporation User-settable features of an intelligent video information management system
US5875305A (en) * 1996-10-31 1999-02-23 Sensormatic Electronics Corporation Video information management system which provides intelligent responses to video data content features
TR199700058A2 (xx) * 1997-01-29 1998-08-21 Onural Levent Kurallara dayalı hareketli nesne bölütlemesi.
GB9702849D0 (en) * 1997-02-12 1997-04-02 Trafficmaster Plc Traffic monitoring
US6256115B1 (en) * 1997-02-21 2001-07-03 Worldquest Network, Inc. Facsimile network
US6115420A (en) * 1997-03-14 2000-09-05 Microsoft Corporation Digital video signal encoder and encoding method
US6195458B1 (en) * 1997-07-29 2001-02-27 Eastman Kodak Company Method for content-based temporal segmentation of video
US6188777B1 (en) * 1997-08-01 2001-02-13 Interval Research Corporation Method and apparatus for personnel detection and tracking
US6360234B2 (en) * 1997-08-14 2002-03-19 Virage, Inc. Video cataloger system with synchronized encoders
US6188381B1 (en) * 1997-09-08 2001-02-13 Sarnoff Corporation Modular parallel-pipelined vision system for real-time video processing
US6349113B1 (en) * 1997-11-03 2002-02-19 At&T Corp. Method for detecting moving cast shadows object segmentation
US6182022B1 (en) * 1998-01-26 2001-01-30 Hewlett-Packard Company Automated adaptive baselining and thresholding method and system
US6724915B1 (en) * 1998-03-13 2004-04-20 Siemens Corporate Research, Inc. Method for tracking a video object in a time-ordered sequence of image frames
KR100281463B1 (ko) * 1998-03-14 2001-02-01 전주범 물체 기반 부호화 시스템의 보조 정보 부호화 장치
US6697103B1 (en) * 1998-03-19 2004-02-24 Dennis Sunga Fernandez Integrated network for monitoring remote objects
US6201476B1 (en) * 1998-05-06 2001-03-13 Csem-Centre Suisse D'electronique Et De Microtechnique S.A. Device for monitoring the activity of a person and/or detecting a fall, in particular with a view to providing help in the event of an incident hazardous to life or limb
EP1082234A4 (en) * 1998-06-01 2003-07-16 Robert Jeff Scaman VEHICLE-MOUNTED EVENT REGISTRATION DEVICE
EP0971242A1 (en) * 1998-07-10 2000-01-12 Cambridge Consultants Limited Sensor signal processing
US20030025599A1 (en) * 2001-05-11 2003-02-06 Monroe David A. Method and apparatus for collecting, sending, archiving and retrieving motion video and still images and notification of detected events
US6628835B1 (en) * 1998-08-31 2003-09-30 Texas Instruments Incorporated Method and system for defining and recognizing complex events in a video sequence
JP2000090277A (ja) * 1998-09-10 2000-03-31 Hitachi Denshi Ltd 基準背景画像更新方法及び侵入物体検出方法並びに侵入物体検出装置
US6721454B1 (en) * 1998-10-09 2004-04-13 Sharp Laboratories Of America, Inc. Method for automatic extraction of semantically significant events from video
GB9822956D0 (en) * 1998-10-20 1998-12-16 Vsd Limited Smoke detection
US7653635B1 (en) * 1998-11-06 2010-01-26 The Trustees Of Columbia University In The City Of New York Systems and methods for interoperable multimedia content descriptions
US6201473B1 (en) * 1999-04-23 2001-03-13 Sensormatic Electronics Corporation Surveillance system for observing shopping carts
JP2000339923A (ja) * 1999-05-27 2000-12-08 Mitsubishi Electric Corp 映像収集装置および映像収集方法
US6408293B1 (en) * 1999-06-09 2002-06-18 International Business Machines Corporation Interactive framework for understanding user's perception of multimedia data
US6754664B1 (en) * 1999-07-02 2004-06-22 Microsoft Corporation Schema-based computer system health monitoring
US6545706B1 (en) * 1999-07-30 2003-04-08 Electric Planet, Inc. System, method and article of manufacture for tracking a head of a camera-generated image of a person
GB2352859A (en) * 1999-07-31 2001-02-07 Ibm Automatic zone monitoring using two or more cameras
US6546135B1 (en) * 1999-08-30 2003-04-08 Mitsubishi Electric Research Laboratories, Inc Method for representing and comparing multimedia content
US6539396B1 (en) * 1999-08-31 2003-03-25 Accenture Llp Multi-object identifier system and method for information service pattern environment
US6698021B1 (en) * 1999-10-12 2004-02-24 Vigilos, Inc. System and method for remote control of surveillance devices
US6707486B1 (en) * 1999-12-15 2004-03-16 Advanced Technology Video, Inc. Directional motion estimator
US6774905B2 (en) * 1999-12-23 2004-08-10 Wespot Ab Image data processing
US6697104B1 (en) * 2000-01-13 2004-02-24 Countwise, Llc Video based system and method for detecting and counting persons traversing an area being monitored
US6542840B2 (en) * 2000-01-27 2003-04-01 Matsushita Electric Industrial Co., Ltd. Calibration system, target apparatus and calibration method
US6940998B2 (en) * 2000-02-04 2005-09-06 Cernium, Inc. System for automated screening of security cameras
US6509926B1 (en) * 2000-02-17 2003-01-21 Sensormatic Electronics Corporation Surveillance apparatus for camera surveillance system
US7823066B1 (en) * 2000-03-03 2010-10-26 Tibco Software Inc. Intelligent console for content-based interactivity
AU2001250802A1 (en) * 2000-03-07 2001-09-17 Sarnoff Corporation Camera pose estimation
AU4355801A (en) * 2000-03-10 2001-09-24 Sarnoff Corp Method and apparatus for qualitative spatiotemporal data processing
AU2001247315A1 (en) * 2000-03-10 2001-09-24 Sensormatic Electronics Corporation Method and apparatus for object tracking and detection
KR100776529B1 (ko) * 2000-03-13 2007-11-16 소니 가부시끼 가이샤 간결한 트랜스코딩 힌트 메타데이터를 생성하는 방법 및 장치
US7167575B1 (en) * 2000-04-29 2007-01-23 Cognex Corporation Video safety detector with projected pattern
US6504479B1 (en) * 2000-09-07 2003-01-07 Comtrak Technologies Llc Integrated security system
US7319479B1 (en) * 2000-09-22 2008-01-15 Brickstream Corporation System and method for multi-camera linking and analysis
JP3828349B2 (ja) * 2000-09-27 2006-10-04 株式会社日立製作所 移動体検出測定方法、その装置および移動体検出測定プログラムを記録した記録媒体
US20050146605A1 (en) * 2000-10-24 2005-07-07 Lipton Alan J. Video surveillance system employing video primitives
US9892606B2 (en) * 2001-11-15 2018-02-13 Avigilon Fortress Corporation Video surveillance system employing video primitives
US6525663B2 (en) * 2001-03-15 2003-02-25 Koninklijke Philips Electronics N.V. Automatic system for monitoring persons entering and leaving changing room
EP1396799B1 (en) * 2001-06-11 2008-04-23 Matsushita Electric Industrial Co., Ltd. Content management system
US6525658B2 (en) * 2001-06-11 2003-02-25 Ensco, Inc. Method and device for event detection utilizing data from a multiplicity of sensor sources
US7295755B2 (en) * 2001-06-22 2007-11-13 Thomson Licensing Method and apparatus for simplifying the access of metadata
US20030053659A1 (en) * 2001-06-29 2003-03-20 Honeywell International Inc. Moving object assessment system and method
US20030058111A1 (en) * 2001-09-27 2003-03-27 Koninklijke Philips Electronics N.V. Computer vision based elderly care monitoring system
US7110569B2 (en) * 2001-09-27 2006-09-19 Koninklijke Philips Electronics N.V. Video based detection of fall-down and other events
US6696945B1 (en) * 2001-10-09 2004-02-24 Diamondback Vision, Inc. Video tripwire
US7650058B1 (en) * 2001-11-08 2010-01-19 Cernium Corporation Object selective video recording
US6859803B2 (en) * 2001-11-13 2005-02-22 Koninklijke Philips Electronics N.V. Apparatus and method for program selection utilizing exclusive and inclusive metadata searches
US7167519B2 (en) * 2001-12-20 2007-01-23 Siemens Corporate Research, Inc. Real-time video object generation for smart cameras
WO2003067360A2 (en) * 2002-02-06 2003-08-14 Nice Systems Ltd. System and method for video content analysis-based detection, surveillance and alarm management
CN100367794C (zh) * 2002-04-12 2008-02-06 三菱电机株式会社 元数据编辑装置
US7197072B1 (en) * 2002-05-30 2007-03-27 Intervideo, Inc. Systems and methods for resetting rate control state variables upon the detection of a scene change within a group of pictures
US8752197B2 (en) * 2002-06-18 2014-06-10 International Business Machines Corporation Application independent system, method, and architecture for privacy protection, enhancement, control, and accountability in imaging service systems
US20030010345A1 (en) * 2002-08-02 2003-01-16 Arthur Koblasz Patient monitoring devices and methods
US20040113933A1 (en) * 2002-10-08 2004-06-17 Northrop Grumman Corporation Split and merge behavior analysis and understanding using Hidden Markov Models
US7184777B2 (en) * 2002-11-27 2007-02-27 Cognio, Inc. Server and multiple sensor system for monitoring activity in a shared radio frequency band
EP1567995A2 (en) * 2002-12-03 2005-08-31 3rd Millennium Solutions, Ltd. Surveillance system with identification correlation
US6987883B2 (en) * 2002-12-31 2006-01-17 Objectvideo, Inc. Video scene background maintenance using statistical pixel modeling
US20040225681A1 (en) * 2003-05-09 2004-11-11 Chaney Donald Lewis Information system
US7310442B2 (en) * 2003-07-02 2007-12-18 Lockheed Martin Corporation Scene analysis surveillance system
US7660439B1 (en) * 2003-12-16 2010-02-09 Verificon Corporation Method and system for flow detection and motion analysis
US7774326B2 (en) * 2004-06-25 2010-08-10 Apple Inc. Methods and systems for managing data
US7487072B2 (en) * 2004-08-04 2009-02-03 International Business Machines Corporation Method and system for querying multimedia data where adjusting the conversion of the current portion of the multimedia data signal based on the comparing at least one set of confidence values to the threshold
US7733369B2 (en) * 2004-09-28 2010-06-08 Objectvideo, Inc. View handling in video surveillance systems
US7982738B2 (en) * 2004-12-01 2011-07-19 Microsoft Corporation Interactive montages of sprites for indexing and summarizing video
CN100372769C (zh) * 2004-12-16 2008-03-05 复旦大学 一种用于合成纳米/亚微米高硅zsm-5沸石的非晶态无机结构导向剂及其制备方法
US7308443B1 (en) * 2004-12-23 2007-12-11 Ricoh Company, Ltd. Techniques for video retrieval based on HMM similarity
US20060200842A1 (en) * 2005-03-01 2006-09-07 Microsoft Corporation Picture-in-picture (PIP) alerts
US20070002141A1 (en) * 2005-04-19 2007-01-04 Objectvideo, Inc. Video-based human, non-human, and/or motion verification system and method
US8026945B2 (en) * 2005-07-22 2011-09-27 Cernium Corporation Directed attention digital video recordation
US9363487B2 (en) * 2005-09-08 2016-06-07 Avigilon Fortress Corporation Scanning camera-based video surveillance system
US7884849B2 (en) * 2005-09-26 2011-02-08 Objectvideo, Inc. Video surveillance system with omni-directional camera
CN100533541C (zh) * 2006-01-19 2009-08-26 财团法人工业技术研究院 以视觉绩效自动调整显示器参数的装置及其方法
US8325228B2 (en) * 2008-07-25 2012-12-04 International Business Machines Corporation Performing real-time analytics using a network processing solution able to directly ingest IP camera video streams

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017537357A (ja) * 2015-10-28 2017-12-14 小米科技有限責任公司Xiaomi Inc. 警報方法および装置
US10147288B2 (en) 2015-10-28 2018-12-04 Xiaomi Inc. Alarm method and device

Also Published As

Publication number Publication date
CN105120221B (zh) 2018-09-25
WO2006088618A3 (en) 2007-06-07
CA2597908A1 (en) 2006-08-24
CN105120222A (zh) 2015-12-02
TW200703154A (en) 2007-01-16
EP1864495A2 (en) 2007-12-12
CN105120221A (zh) 2015-12-02
IL185203A0 (en) 2008-01-06
CN101180880A (zh) 2008-05-14
MX2007009894A (es) 2008-04-16
WO2006088618A2 (en) 2006-08-24
KR20070101401A (ko) 2007-10-16
US20050162515A1 (en) 2005-07-28

Similar Documents

Publication Publication Date Title
US10347101B2 (en) Video surveillance system employing video primitives
JP2008538665A (ja) ビデオプリミティブを用いたビデオ監視システム
EP1872583B1 (en) Method of video processing, computer readable medium containing instructions implementing said method and video processing system.
US9892606B2 (en) Video surveillance system employing video primitives
US8564661B2 (en) Video analytic rule detection system and method
JP4369233B2 (ja) ビデオプリミティブを利用する監視テレビ装置