JP2009500917A - ビデオプリミティブを使用するビデオ監視システム - Google Patents

ビデオプリミティブを使用するビデオ監視システム Download PDF

Info

Publication number
JP2009500917A
JP2009500917A JP2008519525A JP2008519525A JP2009500917A JP 2009500917 A JP2009500917 A JP 2009500917A JP 2008519525 A JP2008519525 A JP 2008519525A JP 2008519525 A JP2008519525 A JP 2008519525A JP 2009500917 A JP2009500917 A JP 2009500917A
Authority
JP
Japan
Prior art keywords
video
block
event
rule
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008519525A
Other languages
English (en)
Inventor
ピーター, エル. ヴェネティアナー,
アラン , ジェイ. リプトン,
アンドリュー, ジェイ. チョサック,
マシュー, エフ. フランジアー,
ニールズ ハーリング,
ゲリー, ダブリュー. マイヤーズ,
ウェイホン イン,
ツォン ツァン,
ロバート カッティング,
Original Assignee
オブジェクトビデオ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=37596024&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2009500917(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by オブジェクトビデオ インコーポレイテッド filed Critical オブジェクトビデオ インコーポレイテッド
Publication of JP2009500917A publication Critical patent/JP2009500917A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/1968Interfaces for setting up or customising the system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19606Discriminating between target movement or movement in an area of interest and other non-signicative movements, e.g. target movements induced by camera shake or movements of pets, falling leaves, rotating fan
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/1961Movement detection not involving frame subtraction, e.g. motion detection on the basis of luminance changes in the image
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • G08B13/19615Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion wherein said pattern is defined by the user
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19652Systems using zones in a single scene defined for different treatment, e.g. outer zone gives pre-alarm, inner zone gives alarm
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position

Abstract

ビデオ監視システムは、ビデオプリミティブを抽出し、イベント判別子を使用してビデオプリミティブからイベント発生を抽出する。このシステムは、抽出されたイベント発生に基づいて警報といった応答を行うことができる。
【選択図】 図26

Description

発明の分野
[1]本発明は、ビデオプリミティブを使用する自動的ビデオ監視のためのシステムに関する。
参考文献
[2]読者の便宜のためにここで参照される参考文献は、下記にリストアップされている。本明細書では括弧内の数字はそれぞれの参考文献を指す。リストアップされた参考文献は参照として本明細書に組み込まれている。
[3]下記の参考文献は動く目標の検出を説明している。
[4]{1} A. Lipton, H. Fujiyoshi and R. S. Patil, "Moving TargetDetection and Classification from Real-Time Video," Proceedings of IEEEWACV '98, Princeton, NJ, 1998, pp. 8-14.
[5]{2} W.E.L. Grimson, et al., "Using Adaptive Tracking toClassify and Monitor Activities in a Site", CVPR, pp. 22-29, June 1998.
[6]{3} AJ. Lipton, H. Fujiyoshi, R.S. Patil, "Moving TargetClassification and Tracking from Real-time Video," JUW, pp. 129-136, 1998.
[7]{4} TJ. Olson and F.Z. Brill, "Moving Object Detection andEvent Recognition Algorithm for Smart Cameras," IUW, pp. 159-175, May1997.
[8]The following references describe detecting and tracking humans:
[9]{5} A. J. Lipton, "Local Application of Optical Flow toAnalyse Rigid Versus Non- Rigid Motion," International Conference onComputer Vision, Corfu, Greece, September 1999.
[10]{6} F. Bartolini, V. Cappellini, and A. Mecocci, "Countingpeople getting in and out of a bus by real-time image-sequenceprocessing," IVC, 12(1):36-41, January 1994.
[11]{7} M. Rossi and A. Bozzoli, "Tracking and counting movingpeople," ICIP94, pp. 212-216, 1994.
[12]{8}CR. Wren, A. Azarbayejani, T. Darrell, and A. Pentland,"finder: Realtime tracking of the human body," Vismod, 1995.
[13]{9} L. Khoudour, L. Duvieubourg, J.P. Deparis, "Real-TimePedestrian Counting by Active Linear Cameras," JEI, 5(4):452-459, October1996.
[14]{10} S. Ioffe, D.A. Forsyth, "Probabilistic Methods for FindingPeople," IJCV, 43(l):45-68, June 2001.
[15]{11} M. Isard and J. MacCormick, "BraMBLe: A BayesianMultiple-Blob Tracker," ICCV, 2001.
[16]The following references describe blob analysis:
[17]{12} D.M. Gavrila, "The Visual Analysis of Human Movement:A Survey," CVIU, 73(l):82-98, January 1999.
[18]{13} Niels Haering and Niels da Vitoria Lobo, "Visual EventDetection," Video Computing Series, Editor Mubarak Shah, 2001.
[19]The following references describe blob analysis for trucks,cars, and people:
[20]{14} Collins, Lipton, Kanade, Fujiyoshi, Duggins, Tsin,Tolliver, Enomoto, and Hasegawa, "A System for Video Surveillance andMonitoring: VSAM Final Report," Technical Report CMU-RI-TR-00- 12,Robotics Institute, Carnegie Mellon University, May 2000.
[21]{15} Lipton, Fujiyoshi, and Patil, "Moving TargetClassification and Tracking from Real-time Video," 98 Darpa IUW, Nov. 20-23, 1998.
[22]The following reference describes analyzing a single-person bloband its contours:
[23]{16} CR. Wren, A. Azarbayejani, T. Darrell, and A.P. Pentland."Pfinder: Real- Time Tracking of the Human Body," PAMI, vol 19, pp.780-784, 1997.
[24]The following reference describes internal motion of blobs,including any motion-based segmentation:
[25]{17} M. Allmen and C. Dyer, "Long-Range SpatiotemporalMotion Understanding Using Spatiotemporal Flow Curves," Proc. IEEE CVPR,Lahaina, Maui, Hawaii, pp. 303-309, 1991.
[26]{18} L. Wixson, "Detecting Salient Motion by AccumulatingDirectionally Consistent Flow", IEEE Trans. Pattern Anal. Mach. Intell,vol. 22, pp. 774-781, Aug, 2000.
発明の背景
[27]公共の場所のビデオ監視は、極めて広く普及してきており、一般の公衆に受け入れられてきている。不都合なことに従来のビデオ監視システムは、ビデオ監視データの分析において扱い難い問題が結果として生じるほど膨大なデータ量を生成している。
[28]ビデオ監視データの分析が実行可能であるように、ビデオ監視データの量を削減する必要性が存在する。
[29]ビデオ監視データの所望部分を識別するためにビデオ監視データをフィルタリングする必要性が存在する。
発明の概要
[30]本発明の目的は、ビデオ監視データの分析が実行され得るように、ビデオ監視データの量を削減することである。
[31]本発明の目的は、ビデオ監視データの所望部分を識別するために、ビデオ監視データをフィルタリングすることである。
[32]本発明の目的は、ビデオ監視データからイベントの自動検出に基づいてリアルタイム警報を生成することである。
[33]本発明の目的は、改善された探索能力のためにビデオ以外の監視センサからのデータを統合することである。
[34]本発明の目的は、改善されたイベント検出能力のためにビデオビデオ以外の監視センサからのデータを統合することである。
[35]本発明は、ビデオ監視のための製品、方法、システムおよび装置を含む。
[36]本発明の製品は、ビデオプリミティブに基づいてビデオ監視システムを動作させるためのコードセグメントを備えるビデオ監視システムのためのソフトウエアを備えるコンピュータ可読媒体を含む。
[37]本発明の製品は、アーカイブ保管されたビデオプリミティブにアクセスするためのコードセグメントと、アクセスされたアーカイブ保管ビデオプリミティブからイベント発生を抽出するためのコードセグメントと、を備えるビデオ監視システムのためのソフトウエアを備えるコンピュータ可読媒体を含む。
[38]本発明のシステムは、本発明にしたがってコンピュータを動作させるためのソフトウエアを有するコンピュータ可読媒体を含むコンピュータシステムを含む。
[39]本発明の装置は、本発明にしたがってコンピュータを動作させるためのソフトウエアを有するコンピュータ可読媒体を含むコンピュータを含む。
[40]本発明の製品は、本発明にしたがってコンピュータを動作させるためのソフトウエアを有するコンピュータ可読媒体を含む。
[41]更に本発明の上記の目的と利点は、本発明によって達成され得るものを例示するものであって、網羅するものではない。したがって本発明のこれらおよび他の目的と利点は、ここに具体化されるように、また当業者にとって明らかであろう任意の変形版を考慮して修正されるように、本明細書での説明から明らかになるであろう。
(定義)
[42]「ビデオ」は、アナログおよび/またはデジタル形式で表現される動画像を指す。ビデオの例は、テレビジョン、映画、ビデオカメラまたは他の観測装置からの画像系列、およびコンピュータ生成の画像系列を含む。
[43]「フレーム」は、ビデオ内のある特定の画像または他の個別ユニットを指す。
[44]「対象物」は、ビデオ内の関心のアイテムを指す。対象物の例は、人、車両、動物および物理的主体を含む。
[45]「アクティビティ」は、1つ以上の対象物の行動および/または行動の1つ以上の複合を指す。アクティビティの例は、入場、退場、停止、移動、上昇、下降、成長、および収縮を含む。
[46]「場所」は、アクティビティが発生し得る空間を指す。場所は、例えばシーンベースまたは画像ベースであり得る。シーンベースの場所は、公共の空間;商店;小売空間;オフィス;倉庫;ホテルの部屋;ホテルのロビー;ビルのロビー;カジノ;バス停;列車の駅;空港;港;バス;列車;飛行機;および船を含む。画像ベースの場所の例は、ビデオ画像;ビデオ画像内の線;ビデオ画像内の領域、ビデオ画像の矩形部分;およびビデオ画像の多角形部分を含む。
[47]「イベント」はアクティビティに関わっている1つ以上の対象物を指す。イベントは、場所および/または時間に関して参照され得る。
[48]「コンピュータ」は、構造化入力を受け入れ、規定されたルールにしたがって構造化入力を処理し、処理の結果を出力として生成することができる任意の装置を指す。コンピュータの例は:コンピュータ;汎用コンピュータ;スーパーコンピュータ;メインフレーム;スーパーミニコンピュータ;ミニコンピュータ;ワークステーション;マイクロコンピュータ;サーバ;対話型テレビ;コンピュータと対話型テレビの混成組合せ;およびコンピュータおよび/またはソフトウエアをエミュレートする特定用途向けハードウエア;を含む。コンピュータは、単一のプロセッサまたは同時に、および/または同時にではなく動作できる多数のプロセッサを有することができる。コンピュータはまた、コンピュータ間で情報を送信または受信するためのネットワークを介して互いに接続された2つ以上のコンピュータを指す。このようなコンピュータの例は、ネットワークによってリンクされたコンピュータを介して情報を処理するための分散コンピュータシステムを含む。
[49]「コンピュータ可読媒体」は、コンピュータによってアクセス可能なデータを記憶するために使用される如何なる記憶デバイスをも指す。コンピュータ可読媒体の例は:磁気ハードディスク;フロッピーディスク;CD−ROMおよびDVDといった光ディスク;磁気テープ;メモリチップ;およびEメールを送受信する際に、またはネットワークにアクセスする際に使用されるものといったコンピュータ可読電子データを搬送するために使用される搬送波;を含む。
[50]「ソフトウエア」は、コンピュータを動作させるための規定されたルールを指す。ソフトウエアの例は:ソフトウエア;コードセグメント;命令;コンピュータプログラム;およびプログラムされた論理;を含む。
[51]「コンピュータシステム」は、コンピュータを動作させるためのソフトウエアを具体化するコンピュータ可読媒体をコンピュータが備える、コンピュータを有するシステムを指す。
[52]「ネットワーク」は、通信設備によって接続された多数のコンピュータおよび関連デバイスを指す。ネットワークは、ケーブルといった永久的接続部または電話または他の通信リンクを介して行われる接続といった一時的接続部を含む。ネットワークの例は:インターネットといったいネット;イントラネット;ローカルエリアネットワーク(LAN);ワイドエリアネットワーク(WAN);およびインターネット、イントラネットといったネットワークの組合せ;を含む。
[53]本発明の実施形態は、同じ参照数字が同じ特徴要素を指す図面を介して、より詳細に説明されている。
発明の詳細な説明
[78]本発明の自動ビデオ監視システムは、例えばマーケットリサーチ、またはセキュリティ目的のために場所を監視するためのものである。本システムは、目的を持って構築された監視構成要素を有する専用のビデオ監視設備であり得るか、あるいは本システムは監視ビデオ供給をピギーバック送出する既存のビデオ監視装置の改良装置であり得る。このシステムは、生の情報源から、または記録された媒体からのビデオデータを分析することができる。本システムは、ビデオデータをリアルタイムに処理して、後の極めて高速の法廷的イベント検出を可能にするために抽出されたビデオプリミティブを記憶することができる。記録データといった分析に対する規定された応答を有し、警報機構を起動し、あるいは別のセンサシステムを起動できる。本システムは、他の監視システム構成要素と統合することもできる。本システムは、例えば運用者の必要にしたがって注文仕立てされ得るセキュリティ報告またはマーケットリサーチ報告を作成するために使用可能であり、またオプションとして対話型ウェブベースインタフェースまたは他の報告機構を介して公開可能である。
[79]運用者は、イベント判別子を使用することによってシステムを構成する際の最大限の柔軟性を与えられる。イベント判別子は、1つ以上の任意の空間属性および/または1つ以上の任意の時間属性と共に1つ以上の対象物(これの説明はビデオプリミティブに基づいている)によって識別される。例えば運用者は、イベント判別子(この例では「ぶらついている」イベントと呼ばれる)を「15分より長時間」、そして「午後10時と午前6時の間」、「ATM(自動預け払い機)」空間内にいる「人」対象物として定義できる。イベント判別子は、より複雑な問合せを形成するために修正されたブール演算子と組み合わされることが可能である。
[80]本発明のビデオ監視システムは、公有財産から周知のコンピュータビジョン技法に依存するが、本発明のビデオ監視システムは現在利用可能でない幾つかの独自の新規な特徴を有する。例えば現在のビデオ監視システムは、情報交換の主要な物として大量のビデオ画像を使用する。本発明のシステムは、付帯証拠として使用される代表的ビデオ画像を有する主要物としてビデオプリミティブを使用する。本発明のシステムはまた、較正されることが可能であり(手動的、半自動的または自動的に)、その後にビデオ画像からビデオプリミティブを自動的に推測できる。本システムは更に、ビデオを完全に再処理することを必要とせずに前に処理されたビデオを分析できる。前に処理されたビデオを分析することによってこのシステムは、前に記録されたビデオプリミティブに基づいて推測分析を実行でき、これがコンピュータシステムの分析速度を大幅に改善する。
[81]ビデオプリミティブの使用はまた、ビデオのための記憶要件をかなり減らし得る。これは、イベント検出および応答サブシステムが検出を説明するためにだけビデオを使用するからである。その結果、ビデオは低品質で記憶あるいは送信され得る。可能性のある実施形態ではビデオは、いつもではなくアクティビティが検出されたときにだけ記憶または送信され得る。別の可能性のある実施形態では、記憶または送信されるビデオの品質は、アクティビティが検出されるかどうかに依存する可能性があり:ビデオはアクティビティが検出されたときには高品質(より高いフレームおよび/またはビットレート)で、他の時には低品質で記憶または送信され得る。別の例示的な実施形態では、ビデオ記憶デバイスおよびデータベースは別々に、例えばデジタルビデオレコーダ(DVR)によって取り扱われ、またビデオ処理サブシステムは単に、データがどんな品質で記憶されるかを制御できる。別の実施形態ではビデオ監視システム(またはそれの構成要素)は、デジタルビデオカメラ、ネットワークビデオサーバ、DVR、またはネットワークビデオレコーダ(NVR)といったビデオ管理デバイス内の処理デバイス(例えば汎用プロセッサ、DSP、マイクロコントローラ、ASIC、FPGA、または他の装置)上に存在することが可能であり、この装置から流されるビデオの帯域幅は本システムによって調整され得る。高品質ビデオ(高いビットレートまたはフレームレート)は単に、関心のアクティビティが検出されたときにだけIPビデオネットワークを経由して送信される必要がある。この実施形態では知的装置からのプリミティブは、単一のカメラネットワークが分散処理を介して多目的アプリケーションを提供することを可能にするために、物理的に異なる場所の多数のアクティビティ推測アプリケーションにネットワークを介して同報され得る。
[82]図22は、ビデオ監視システムの一実現形態の1つの構成を示す。ブロック221は、未処理(非圧縮)デジタルビデオ入力を表す。これは、例えばアナログビデオ信号のアナログツーデジタル捕捉、またはデジタルビデオ信号の復号を介して取得され得る。ブロック222は、ビデオ監視システムの主要構成要素(ビデオ内容分析−ブロック225−およびアクティビティ推測−ブロック226)を収容するハードウエアプラットフォームを表す。このハードウエアプラットフォームは、オペレーティングシステム(ブロック223);任意の利用可能な圧縮方式(JPEG、MJPEG、MPEG1、MPEG2、MPEG4、H.263、H.264、Wavelet、その他任意のもの)を使用してビデオストリーミングまたはビデオ記憶のために未処理デジタルビデオを圧縮するビデオ符号器(ブロック224);ビデオ、圧縮ビデオ、警告およびビデオプリミティブといったデータを保持するための記憶機構(ブロック227)−この記憶デバイスは例えばハードディスク、オンボードRAM、オンボードFLASHメモリ、または他のメモリ媒体であり得る;および例えば通信チャネル(ブロック229)上での送信のためにデータをパケット化および/またはデジタル化し得る通信層(ブロック228);といった他の構成要素を含み得る。
[83]通信チャネル229が接続するネットワークの他のノードには、計算プラットフォーム上に常駐する他のソフトウエア構成要素が存在し得る。ブロック2210は、ビデオ監視ルールを作成するためのユーザインタフェースであるルール管理ツールを示す。ブロック2211は、ユーザに警告と報告とを表示するための警告コンソールを示す。ブロック2212は、更なる事後処理のために警告とプリミティブとビデオとを記憶するための記憶デバイス(例えばDVR、NVR、またはPC)を示す。
[84]ハードウエアプラットフォーム(ブロック222)上の構成要素は、ビデオカメラ、デジタルビデオカメラ、IPビデオカメラ、IPビデオサーバ、デジタルビデオレコーダ(DVR)、ネットワークビデオレコーダ(NVR)、PC、ラップトップ、または他の装置といった任意のビデオ捕捉、処理、または管理デバイス上の如何なる処理ハードウエア(汎用プロセッサ、マイクロコントローラ、DSP、ASIC、FPGA、または他の処理デバイス)上でも実現可能である。この構成に関しては多数の異なる可能な動作モードが存在する。
[85]1つのモードでは、システムは、特定のイベントを探すようにプログラムされる。これらのイベントが発生すると、通信チャネル(ブロック229)を介して他のシステムへ警告が送信される。
[86]別のモードでは、ビデオは、ビデオデバイスがビデオデータを分析している間にこのビデオデバイスから流される。イベントが発生すると、通信チャネル(ブロック229)を介して警告が送信される。
[87]別のモードでは、ビデオ符号化およびストリーミングは、内容分析およびアクティビティ推測によって調整される。アクティビティが存在しない(プリミティブが生成されていない)ときには、ビデオは流されない(または低い品質、ビットレート、フレームレート、解像度のビデオが流される)。あるアクティビティが存在する(プリミティブが生成されている)ときには、高い品質、ビットレート、フレームレート、解像度のビデオが流される。イベント推測によって関心のイベントが検出されると、極めて高い品質、ビットレート、フレームレート、解像度のビデオが流される。
[88]別の動作モードでは、情報はオンボード記憶デバイス(ブロック227)に記憶される。記憶されるデータは、デジタルビデオ(未処理または圧縮済み)、ビデオプリミティブ、警告、または他の情報からなり得る。記憶されるビデオの品質はまた、プリミティブまたは警告の存在によって制御され得る。プリミティブおよび警告が存在するときには、より高い品質、ビットレート、フレームレート、解像度のビデオが記憶され得る。
[89]図23は、ビデオ監視システムの実現形態の別の構成を示す。ブロック231は、未処理(非圧縮)デジタルビデオ入力を表す。これは、例えばアナログビデオ信号のアナログツーデジタル捕捉、またはデジタルビデオ信号の復号、を介して取得され得る。ブロック232は、ビデオ監視システム(ブロック235)の分析構成要素を収容するハードウエアプラットフォームを表す。このハードウエアプラットフォームは、オペレーティングシステム(ブロック233);任意の利用可能な圧縮方式(JPEG、MJPEG、MPEG1、MPEG2、MPEG4、H.263、H.264、Wavelet、その他任意のもの)を使用してビデオストリーミングまたはビデオ記憶のために未処理デジタルビデオを圧縮するビデオ符号器(ブロック234);ビデオ、圧縮ビデオ、警報およびビデオプリミティブといったデータを保持するための記憶機構(ブロック236)−この記憶デバイスは例えばハードディスク、オンボードRAM、オンボードFLASHメモリ、または他のメモリ媒体であり得る;および例えば通信チャネル(ブロック238)上での送信のためにデータをパケット化および/またはデジタル化し得る通信層(ブロック237);といった他の構成要素を含み得る。図23に示された本発明の実施形態では、アクティビティ推測構成要素(ブロック2311)は、通信チャネル238が接続するネットワークに接続された別のハードウエア構成要素(ブロック239)上に示されている。
[90]このネットワークの他のノード(ブロック239)には、計算プラットフォーム上に常駐する他のソフトウエア構成要素も存在し得る。ブロック2310は、ビデオ監視ルールを作成するためのユーザインタフェースであるルール管理ツールを示す。ブロック2312は、ユーザに警告と報告とを表示するための警告コンソールを示す。ブロック2313は、同じハードウエアプラットフォーム上に物理的に配置され得る記憶デバイス(例えばハードディスク、フロッピーディスク、他の磁気ディスク、CD、DVD、他の光ディスク、MDまたは他の光磁気ディスク、RAMまたはFLASH RAMといった固体記憶素子、または他の記憶デバイス)を示すか、または別個の記憶デバイス(例えば外部ディスクドライブ、PC、ラップトップ、DVR、NVR、または他の記憶デバイス)であり得る。
[91]ハードウエアプラットフォーム(ブロック222)上の構成要素は、ビデオカメラ、デジタルビデオカメラ、IPビデオカメラ、IPビデオサーバ、デジタルビデオレコーダ(DVR)、ネットワークビデオレコーダ(NVR)、PC、ラップトップ、または他の装置といった任意のビデオ捕捉、処理、または管理デバイス上の如何なる処理プラットフォーム(汎用プロセッサ、マイクロコントローラ、DSP、FPGA、ASIC、または任意の他の処理プラットフォーム)上でも実現可能である。バックエンドハードウエアプラットフォーム(ブロック239)上の構成要素は、PC、ラップトップ、シングルボードコンピュータ、DVR、NVR、ビデオサーバ、ネットワークルータ、ハンドヘルドデバイス(例えばテレビ電話、ポケベルまたはPDA)といった任意の処理デバイス上の任意の処理ハードウエア(汎用プロセッサ、マイクロコントローラ、DSP、FPGA、ASICまたは任意の他のデバイス)上で実現可能である。この構成に関しては多数の異なる可能な動作モードが存在する。
[92]1つのモードでは、システムは、特定のイベントを探すようにバックエンドデバイス(またはバックエンドデバイスに接続された任意の他の装置)上でプログラムされる。ビデオ処理プラットフォーム(ブロック232)上の内容分析モジュール(ブロック235)は、バックエンド処理プラットフォーム(ブロック239)に送信されるプリミティブを生成する。イベント推測モジュール(ブロック2311)は、ルールが侵されたかどうかを決定し、警告コンソール(ブロック2312)上に表示され得る、または後の分析のために記憶デバイス(ブロック2313)に記憶され得る警告を生成する。
[93]別のモードでは、ビデオプリミティブとビデオは、後の分析のためにバックエンドプラットフォーム上の記憶デバイス(ブロック2313)に記憶され得る。
[94]別のモードでは、記憶されたビデオの品質、ビットレート、フレームレート、解像度は、警告によって調整され得る。警告があると、ビデオは、より高い品質、ビットレート、フレームレート、解像度で記憶され得る。
[95]別のモードでは、ビデオプリミティブは後の分析のために通信チャネルを介してビデオ処理デバイス(ブロック232内のブロック236)上に記憶され得る。
[96]別のモードでは、ビデオ処理デバイス(ブロック232内のブロック236)上に記憶されたビデオの品質は、プリミティブの存在によって調整され得る。プリミティブが存在するとき(何かが発生しているとき)には、記憶されるビデオの品質、ビットレート、フレームレート、解像度は改善され得る。
[97]別のモードではビデオは、符号器(234)を介してビデオプロセッサから通信チャネル238を介してネットワーク上の他の装置に流されることが可能である。
[98]別のモードでは、ビデオ品質は、内容分析モジュール(235)によって調整可能である。プリミティブが存在しない(何も発生していない)ときにはビデオは流されない(または低い品質、ビットレート、フレームレート、解像度のビデオが流される)。アクティビティが存在するときには、より高い品質、ビットレート、フレームレート、解像度のビデオが流される。
[99]別のモードでは、流されるビデオの品質、ビットレート、フレームレート、解像度は、警告の存在によって調整され得る。バックエンドのイベント推測モジュール(ブロック2311)が関心のイベントを検出すると、このモジュールはビデオ(またはより高い品質、ビットレート、フレームレート、解像度のビデオ)を要求するビデオ処置構成要素(ブロック232)に信号またはコマンドを送り得る。この要求が受信されると、ビデオ圧縮構成要素(ブロック234)と通信層(ブロック237)は、圧縮およびストリーミングパラメータを変更できる。
[100]別のモードでは、ビデオ処理デバイス内(ブロック232内のブロック236)に記憶されるビデオの品質は警告の存在によって調整され得る。警告がバックエンドプロセッサ(ブロック239)上のイベント推測モジュール(2311)によって生成されると、このモジュールは、オンボード記憶デバイス(238)に記憶されるビデオの品質、ビットレート、フレームレート、解像度を改善するために通信チャネル(ブロック238)を介してビデオ処理ハードウエア(232)にメッセージを送ることができる。
[101]図24は、図23で説明された構成の拡張を示す。ビデオ内容分析とバックエンド・アクティビティ推測の機能を分離することによって、後のアプリケーション結合のプロセスを介して多目的知的ビデオ監視システムを使用可能にすることが可能である。知的カメラの単一ネットワークは、ある組織の異なる部分(異なる物理的場所にある)におけるバックエンドアプリケーションを分離するためにビデオプリミティブの単一ストリームを同報することができ、また多数の機能を達成できる。これは、プリミティブストリームがシーンにおいて進行しているすべてのことに関する情報を含んでおり、特定のアプリケーション領域に結び付けられないので、可能である。図24に描かれた例は、小売環境に関連しているが一般的に商店主を例示しており、また他の如何なるアプリケーション分野にもまた他の如何なる監視機能にも適用可能である。ブロック241は、ある施設内の、または多数の施設に亘る1つ以上のビデオカメラの知的ネットワークを示す。内容分析構成要素(単数または複数)は、カメラ内、ビデオサーバ内、ネットワークルータ内の処理デバイス上に、またはDVR上に、NVR上に、PC上に、ラップトップ上に、またはネットワークに接続された任意の他のビデオ処理デバイス上に、常駐し得る。これらの内容分析構成要素からプリミティブのストリームは、異なる目的のために使用される物理的に異なる領域に常駐するバックエンドプロセッサ(ブロック242〜245)上のアクティビティ推測モジュールに標準ネットワークを介して同報される。バックエンドプロセッサは、コンピュータ、ラップトップ、DVR、NVR、ネットワークルータ、ハンドヘルドデバイス(電話、ポケベル、PDA)または他の計算装置内に存在し得る。この分散化にとって1つの利点は、すべての可能なアプリケーションのためにすべての処理をするようにプログラムされなくてはならない中央処理アプリケーションが必要ないということである。別の利点は、ある組織の一部が、ネットワーク内の他の誰もこの情報へのアクセス権を持たないようにローカルに記憶されたルール上でアクティビティ推測を実行できるほど安全であることである。
[102]ブロック242では、知的カメラネットワークからのプリミティブストリームは、境界侵犯、破壊行為があったかどうかを決定するため、および重要な資産を保護するために、物理的セキュリティアプリケーションに関して分析される。これらのアプリケーションが単に例示的であって、他の如何なるアプリケーションも可能であることは無論である。
[103]ブロック243では、知的カメラネットワークからのプリミティブストリームは、荷積みドックを監視し、顧客または従業員の窃盗を警戒し、倉庫を監視し、在庫品を追跡するために、損失防止アプリケーションに関して分析される。これらのアプリケーションが単に例示的であって、他の如何なるアプリケーションも可能であることは無論である。
[104]ブロック244では、知的カメラネットワークからのプリミティブストリームは、駐車場における人や車の速すぎる動きに関して監視し、人のスリップや転倒を警戒し、そして施設内または施設の周りの群集を監視するために:公衆安全および損害賠償アプリケーションに関して分析される。これらのアプリケーションが単に例示的であって、他の如何なるアプリケーションも可能であることは無論である。
[105]ブロック245では、知的カメラネットワークからのプリミティブストリームは、待ち行列の長さを見守り、顧客行動を追跡し、行動のパターンを学習し、人々がいないときの照明と暖房の制御といったビルディング管理職務を実行するために:ビジネスインテリジェンスアプリケーションに関して分析される。これらのアプリケーションが単に例示的であって、他の如何なるアプリケーションも可能であることは無論である。
[106]図25は、ネットワークに接続された多数の可能性のある知的装置を有するネットワーク(ブロック251)を示す。ブロック252は、ネットワーク上でプリミティブを流すことができる内容分析構成要素を内蔵するIPカメラである。ブロック253は、直接ルールを用いてプログラムされることができ、ネットワーク警告を直接生成する内容分析構成要素とアクティビティ推測構成要素の両者を内蔵するIPカメラである。ブロック254は、知的構成要素を内蔵しない標準的アナログカメラであるが;このカメラは、内容分析とアクティビティ推測ばかりでなくビデオのデジタル化と圧縮も実行するIPビデオ管理プラットフォーム(ブロック256)に接続される。このプラットフォームは、ビュー固有のルールを用いてプログラムでき、ネットワークを介してプリミティブストリームと警告とを送信できる。ブロック255は、他の装置からのプリミティブストリームを採取して警告を生成できるアクティビティ推測構成要素を有するDVRである。ブロック257は、アクティビティ推測アルゴリズムを内蔵しており、ネットワークからのビデオプリミティブを受け入れて警告を表示できる無線ネットワーク通信によって使用可能にされるハンドヘルドPDAである。ブロック258は、アナログまたはデジタルビデオストリームを受け入れて内容分析とアクティビティ推測とを実行し、一連の警告コンソール上に警告を表示できる完全な知的ビデオ分析システムである。
[107]図26は、ビデオ監視システムの一実現形態の別の構成を示す。ブロック2601は、ビデオ監視システムの主要構成要素ならびに更なる処理およびインタフェース構成要素を収容できるハードウエアプラットフォームを表す。ブロック2602は、ビデオ監視システムの主要構成要素(ビデオ内容分析−ブロック2603−およびアクティビティ推測−ブロック2604)を収容するハードウエアサブプラットフォームを表し、またこれらの構成要素とインタフェースするためのアプリケーションプログラミングインタフェース(API)、ブロック2605を含み得る。未処理(非圧縮)デジタルビデオ入力は、例えばブロック2607においてアナログビデオ信号のアナログツーデジタル捕捉を介して、またはデジタルビデオ信号の復号を介して取得され得る。ハードウエアプラットフォーム2601は、1つ以上の主要デジタル信号プロセッサ(DSP)アプリケーション(ブロック2606);任意の利用可能な圧縮方式(JPEG、MJPEG、MPEG1、MPEG2、MPEG4、H.263、H.264、Wavelet、その他任意のもの)を使用してビデオストリーミングまたはビデオ記憶のために、未処理デジタルビデオを圧縮するために使用され得るビデオ符号器(ブロック2609);ビデオ、圧縮ビデオ、警告およびビデオプリミティブといったデータを保持するための記憶機構(図示せず)−この記憶デバイスは例えばハードディスク、オンボードRAM、オンボードFLASHメモリ、または他のメモリ媒体であり得る;および例えば通信チャネル上での送信のためにデータをパケット化および/またはデジタル化し得る、図26ではTCP/IPスタックとして示されている通信層;といった他の構成要素を含み得る。
[108]ハードウエアプラットフォーム2601は、センサ2610に接続され得る。センサ2610は、ハードウエア、ファームウエア、ソフトウエア、またはこれらの組合せにおいて実現され得る。センサ2601は、ハードウエアプラットフォーム2601とネットワーク2611との間のインタフェースとして機能し得る。センサ2610は、サーバ層を含み得る、あるいはサーバ層はどこか他のところ、例えばセンサ2610とネットワーク2611との間に、あるいはネットワーク2611の一部として実現され得る。
[109]ネットワーク2611の他のノードには、計算プラットフォーム上に常駐する他のソフトウエア構成要素が存在し得る。ブロック2612は、再びビデオ監視ルールを作成するためのユーザインタフェースであるルール管理ツールを示す。ブロック2613は、ユーザに警告と報告とを表示するための警告コンソールを示す。
[110]ハードウエアプラットフォーム(ブロック2601)上の構成要素は、ビデオカメラ、デジタルビデオカメラ、IPビデオカメラ、IPビデオサーバ、デジタルビデオレコーダ(DVR)、ネットワークビデオレコーダ(NVR)、PC、ラップトップ、または他のデバイスといった任意のビデオ捕捉、処理、または管理デバイス上の如何なる処理ハードウエア(汎用プロセッサ、マイクロコントローラ、DSP、ASIC、FPGA、または他の処理デバイス)上でも実現可能である。前述のように、この構成に関しては多数の異なる可能な動作モードが存在する。
[111]図26の構成では、警告はDSPレベルで処理され、APIフレームワーク2605は警告APIサポートを含み得る。これは、装置内の種々のコマンドおよび制御機能に関する警告の使用をサポートし得る。
[112]例えば本発明のある幾つかの実施形態では、主要DSPアプリケーション2606は、警告を取り入れてこの警告をハードウエアプラットフォーム2601上で動作する他のアルゴリズムに送ることができる。これは例えば、起動される人ベースのルール上で実行される顔認識アルゴリズムであり得る。このような場合、対象物タイプが人であることを示す対象物フィールドをこの警告が含んでいればハンドオフか行われ得る。
[113]本発明の幾つかの実施形態で実現可能である別の例は、ビデオ圧縮および/またはストリーミングを制御するために警告を使用することである。これは例えば、簡単なオン/オフ制御、解像度の制御などであり得る。しかしながら本発明は必ずしもこれらの例に限定されない。このような制御は、例えば警告の存在に、および/または警告の細部に基づき得る。
[114]一般に警告は、画像改善ソフトウエアの制御と、パン・チルト・ズーム(PTZ)機能の制御と、他のセンサの制御と、を更に含み得るがこれらに限定されない種々のコマンドおよび制御機能のために使用され得る。
[115]図27は、ビデオ監視システムの一実現形態の更に別の構成を示す。ブロック2701は、ビデオ監視システムの主要構成要素ならびに更なる処理およびインタフェース構成要素を収容できるハードウエアプラットフォームを表す。ブロック2702は、ビデオ監視システムの主要構成要素(ビデオ内容分析−ブロック2703−およびアクティビティ推測−ブロック2704)を収容するハードウエアサブプラットフォームを表し、またこれらの構成要素とインタフェースするためのアプリケーションプログラミングインタフェース(API)、ブロック2705を含み得る。未処理(非圧縮)デジタルビデオ入力は、例えばブロック2707においてアナログビデオ入力のアナログツーデジタル捕捉を介して、またはデジタルビデオ信号の復号を介して取得され得る。ハードウエアプラットフォーム2701は、1つ以上の主要デジタル信号処理(DSP)アプリケーション(ブロック2706);任意の利用可能な圧縮方式(JPEG、MJPEG、MPEG1、MPEG2、MPEG4、H.263、H.264、Wavelet、その他任意のもの)を使用してビデオストリーミングまたはビデオ記憶のために、未処理デジタルビデオを圧縮するために使用され得るビデオ符号器(ブロック2709);ビデオ、圧縮ビデオ、警告およびビデオプリミティブといったデータを保持するための記憶機構(図示せず)−この記憶デバイスは例えばハードディスク、オンボードRAM、オンボードFLASHメモリ、または他のメモリ媒体であり得る;および例えば通信チャネル上での送信のためにデータをパケット化および/またはデジタル化し得る、図27ではTCP/IPスタック2708として示されている通信層;といった他の構成要素を含み得る。
[116]ハードウエアプラットフォーム2701は、センサ2710に接続され得る。センサ2710は、ハードウエア、ファームウエア、ソフトウエア、またはこれらの組合せにおいて実現され得る。センサ2701は、ハードウエアプラットフォーム2701とネットワーク2711との間のインタフェースとして機能し得る。センサ2710は、サーバ層を含み得る、あるいはサーバ層はどこか他のところ、例えばセンサ2610とネットワーク2711との間に、あるいはネットワーク2711の一部として実現され得る。
[117]前述のように、ネットワーク2711の他のノードには計算プラットフォーム上に常駐する他のソフトウエア構成要素が存在し得る。ブロック2715は、ユーザに警告と報告とを表示するための警告コンソールを示す。ブロック2712は、ルールソフトウエア開発キット(SDK)2713とこのSDK2713のための適切なセンササポート2714とに接続されたパートナールール・ユーザインタフェースを示す。センササポート2714は、サーバへの依存性を除去することができ(直ぐ前のパラグラフで論じられたように)、したがってこれは独立したSDK能力を可能にし得る。
[118]構成要素2712〜2714は、ユーザまたは製造業者がシステムに関するルールを作成することを可能にするために使用されることが可能であり、これは図示のようにイベント推測モジュール2704に伝達され得る。構成要素2712〜2714は、例えばコンピュータ、ラップトップコンピュータなどといった遠隔装置上でホスト的に機能し得る。
[119]ルールSDK2713は、実際には少なくとも2つの異なる形式を取り得る。第1の形式ではルールSDK2713は、完全に形成されたルール、例えば「人がトリップワイヤを横切る」をユーザに示し得る。このような場合、ユーザは、このようなルールの上にユーザインタフェース(UI)を作成する必要があり得る。
[120]第2の形式ではSDK2713は、基底にあるルール言語および/またはプリミティブ定義をユーザに示し得る。このような場合、ユーザは、彼/彼女自身のルール要素を作成し得る可能性がある。例えばこのようなルール言語およびプリミティブ定義は、対象物分類(例えば「トラック」または「動物」)、ビデオトリップワイヤの新しいタイプ(ビデオトリップワイヤは以下で更に論じられる)、または関心の領域の新しいタイプを定義するように組み合わされ得る。
[121]ハードウエアプラットフォーム(ブロック2701)上の構成要素は、ビデオカメラ、デジタルビデオカメラ、IPビデオカメラ、IPビデオサーバ、デジタルビデオレコーダ(DVR)、ネットワークビデオレコーダ(NVR)、PC、ラップトップ、または他の装置といった任意のビデオ捕捉、処理、または管理デバイス上の如何なる処理ハードウエア(汎用プロセッサ、マイクロコントローラ、DSP、ASIC、FPGA、または他の処理デバイス)上でも実現可能である。前述のように、この構成に関しては多数の異なる可能な動作モードが存在する。
[122]図28は、ビデオ監視システムの一実現形態の更に別の構成を示す。図28に示された構成は、システムがインターネットを介して遠隔装置とインタフェースすることを可能にするために使用され得る。図28の構成は概ね、前に論じられた構成と類似しているが、幾つかの修正点を有する。ブロック2801は、ビデオ監視システムの主要構成要素ならびに更なる処理およびインタフェース構成要素を収容できるハードウエアプラットフォームを表す。ブロック2802は、ビデオ監視システムの主要構成要素(ビデオ内容分析−ブロック2803−およびアクティビティ推測−ブロック2804)を収容するハードウエアサブプラットフォームを表し、またこれらの構成要素とインタフェースするためのアプリケーションプログラミングインタフェース(API)、ブロック2805を含み得る。ブロック2802は、イベント推測モジュール2804のための新しいルールの作成を可能にするためのルールSDK2806を更に含み得る。未処理(非圧縮)デジタルビデオ入力は、例えばブロック2809においてアナログビデオ入力のアナログツーデジタル捕捉を介して、またはデジタルビデオ信号の復号を介して取得され得る。ハードウエアプラットフォーム2801は、1つ以上の主要デジタル信号処理(DSP)アプリケーション(ブロック2807);任意の利用可能な圧縮方式(JPEG、MJPEG、MPEG1、MPEG2、MPEG4、H.263、H.264、Wavelet、その他任意のもの)を使用してビデオストリーミングまたはビデオ記憶のために、未処理デジタルビデオを圧縮するために使用され得るビデオ符号器(ブロック2811);ビデオ、圧縮ビデオ、警告およびビデオプリミティブといったデータを保持するための記憶機構(図示せず)−この記憶デバイスは例えばハードディスク、オンボードRAM、オンボードFLASHメモリ、または他のメモリ媒体であり得る;および例えば通信チャネル上での送信のためにデータをパケット化および/またはデジタル化し得る、図28ではTCP/IPスタック2810として示されている通信層;といった他の構成要素を含み得る。図28の構成ではハードウエアプラットフォーム2801は、TCP/IPスタック2810を介してのインターネットベースの装置との通信を容易にするために使用され得るハイパーテキストトランスポートプロトコル(HTTP)ウェブサービスモジュール2808を更に含み得る。
[123]ハードウエアプラットフォーム(ブロック2801)上の構成要素は、ビデオカメラ、デジタルビデオカメラ、IPビデオカメラ、IPビデオサーバ、デジタルビデオレコーダ(DVR)、ネットワークビデオレコーダ(NVR)、PC、ラップトップ、または他の装置といった任意のビデオ捕捉、処理、または管理デバイス上の如何なる処理ハードウエア(汎用プロセッサ、マイクロコントローラ、DSP、ASIC、FPGA、または他の処理デバイス)上でも実現可能である。前述のように、この構成に関しては多数の異なる可能な動作モードが存在する。
[124]前に論じられたように、図28の構成は、インターネットを介しての遠隔装置とのシステムの対話を可能にするように設計されている。このような遠隔装置はこのように限定されるべきでないが、図28はこのような遠隔装置上でホスト的に機能し得るウェブブラウザ2812を示す。ウェブブラウザ2812を介してユーザは、ルールSDK2806を使用して新しいルールを作成するためにシステムと通信できる。警告はシステムによって生成されることが可能であり、1つ以上の外部装置(図示せず)に伝達され、またこれはインターネットを介して、および/または何らかの他の通信ネットワークまたはチャネルを介して行われ得る。
[125]別の例として本発明のシステムは、独自のシステム仕事賦課を与える。装置制御指令を使用して現在のビデオシステムは、ユーザがビデオセンサを配置することを、ある幾つかの精巧な従来システムでは関心のまたは無関心の領域をマスクすることを可能にする。装置制御指令は、ビデオカメラの位置、方位、および焦点を制御するための命令である。装置制御命令の代わりに本発明のシステムは、主要仕事賦課機構としてビデオプリミティブに基づいてイベント判別子を使用する。イベント判別子とビデオプリミティブとによって運用者は、システムから有用な情報を抽出するために従来システムより遥かに直感的に理解できるアプローチを与えられる。「カメラAは左に45度パンする」といった装置制御指令でシステムに仕事を賦課するよりむしろ本発明のシステムは、「人が制限領域Aに入る」といったビデオプリミティブに基づいて1つ以上のイベント判別子によって人間が直感的に理解できる仕方で仕事を賦課され得る。
[126]マーケットリサーチのために本発明を使用する場合、下記は:商店内の人数をカウントする;商店に一部分にいる人数をカウントする;商店内のある特定の場所で立ち止まる人々をカウントする;人々が商店内でどれほど長く過ごすかを測定する;商店の一部分において人々がどれほど長く過ごすかを測定する;商店内の列の長さを測定する;といった本発明で実行され得るビデオ監視のタイプの例である。
[127]セキュリティのために本発明を使用する場合、下記は:いつ誰かが制限領域に入ったかを決定して関連画像を記憶する;いつ人が異常な時間に、ある領域に入ったかを決定する;認可されていない可能性のある棚空間と貯蔵空間の変化がいつ起こったかを決定する;航空機に乗っている旅客がいつコックピットに近づいたかを決定する;いつ人々が安全口を通ってテールゲート通行するかを決定する;空港に無人のバッグが存在するかどうかを決定する;および資産の窃盗があるかどうかを決定する;といった本発明で実行可能であるビデオ監視のタイプの例である。
[128]例示的なアプリケーション分野は、例えば人が塀を乗り越えたか、禁止領域に入ったかどうかを検出すること;誰かが間違った方向に移動している(例えば空港で出口を通って安全領域に入って行く)かどうかを検出すること;関心の領域内で検出された対象物の数がRFIDタグに基づいて、または入場時のカード読取りに基づいて予期される数と一致しないか、無認可要員の存在を示すかどうかを決定すること;を含み得るアクセス制御であり得る。これはまた、ビデオ監視システムが人の動きとペットの動きとの間を弁別し、それによって大部分の誤った警報をなくすことができる住居アプリケーションにおいても有用であり得る。多くの住居アプリケーションではプライバシーが重要であり得ることに留意のこと;例えば自家所有者は他人が離れたところから家を監視すること、家に何があるか、家の中で何が起きているかを見ることができることを望まない可能性がある。したがってこのようなアプリケーションで使用されるある幾つかの実施形態では、ビデオ処理はローカルに実行されることが可能であり、任意のビデオまたはスナップショットは、必要なとき(例えば犯罪行為または他の危険な状況の検出時、しかしこれらに限定されない)だけに1つ以上の遠隔監視ステーションに送られ得る。
[129]別の例示的なアプリケーション分野は、資産監視であり得る。これは、現場からある対象物が持ち去られるかどうか、例えば美術館から芸術品が持ち去られるかどうかを検出することを意味し得る。小売環境では資産監視は、これに対して幾つかの態様を持つことができ、例えば:1人の人が疑わしいほど多数の所定の品物を取るかどうかを検出すること;人が入口を通って出て行くかどうか、特にショッピングカートを押しながらこれをするかどうかを決定すること;人が品物にマッチしない値札を貼り付けるかどうか、例えば最も高価なタイプのコーヒーでバッグを一杯にしているがより低価格のタイプの値札を使用しているかどうかを決定すること;あるいは人が大きな箱を持って荷積みドックを去るかどうかを検出すること;を含み得る。
[130]別の例示的なアプリケーション分野は、安全目的のためのものであり得る。これは例えば:人が例えば商店内または駐車場内で滑って転倒するかどうかを検出すること;車が駐車場内であまりにも速く運転しているかどうかを検出すること;列車が駅にないときに列車または地下鉄の駅のプラットフォームのエッジに近づきすぎているかどうかを検出すること;人がレールの上にいるかどうかを検出すること;列車が動き始めるときに人が列車のドアに挟まれているかどうかを検出すること;または、ある施設に出入りする人々の人数をカウントし、非常の場合に極めて重要であり得る正確な人数を把握すること;を含み得る。
[131]別の例示的なアプリケーション分野は、交通監視であり得る。これは、車両が特に橋またはトンネルのような場所で停止したかどうかを検出すること、または車両が駐車場でない領域に駐車しているかどうかを検出することを含み得る。
[132]別の例示的なアプリケーション分野は、テロ防止であり得る。これは前述のアプリケーションの幾つかに加えて、ある対象物が空港コンコースに置き去りにされているかどうか、ある対象物が塀を越えて投げ込まれるかどうか、あるいは対象物が線路上に残されているかどうかを検出すること;重要なインフラストラクチャの周りをぶらついている人、または巡回している車両を検出すること;または港内で、またはオープン水域で船舶に接近する高速船を検出すること;を含み得る。
[133]別の例示的なアプリケーション分野は、家庭における病人や年配者のケアにあり得る。これは例えば、人が転ぶかどうかを検出すること;または人が長時間の間、キッチンに入らないというような異常な行動を検出すること;を含み得る。
[134]図1は、本発明のビデオ監視システムの平面図を示す。コンピュータシステム11は、本発明にしたがってコンピュータ12を動作させるためのソフトウエアを具体化するコンピュータ可読媒体13を有するコンピュータ12を備える。コンピュータシステム11は、1つ以上のビデオセンサ14と1つ以上のビデオレコーダ15と1つ以上の入/出力(I/O)装置16とに接続される。ビデオセンサ14はまた、ビデオ監視データの直接記録のためにビデオレコーダ15に場合によって接続され得る。コンピュータシステムは、他のセンサ17に場合によって接続される。
[135]ビデオセンサ14は、ソースビデオをコンピュータシステム11に与える。各ビデオセンサ14は、例えば直接接続(例えばファイヤワイヤ(firewire)デジタルカメラインタフェース)またはネットワークを使用してコンピュータシステム11に接続され得る。ビデオセンサ14は、本発明の設置に先立って存在し得るか、本発明の一部として設置され得る。ビデオセンサ14の例は:ビデオカメラ;デジタルカメラ;カラーカメラ;モノクロカメラ;カメラ;カムコーダー;PCカメラ;ウェブカメラ;赤外線ビデオカメラ;およびCCTVカメラを含む。
[136]ビデオレコーダ15は、記録のためにコンピュータシステム11からビデオ監視データを受信する、および/またはコンピュータシステム11にソースビデオを与える。各ビデオレコーダ15は、例えば直接接続またはネットワークを使用してコンピュータシステム11に接続され得る。ビデオレコーダ15は、本発明の設置に先立って存在し得るか、本発明の一部として設置され得る。コンピュータシステム11内のビデオ監視システムは、いつ、どんな品質設定でビデオレコーダがビデオを記録するかを制御できる。ビデオレコーダ15の例は:ビデオテープレコーダ;デジタルビデオレコーダ;ネットワークビデオレコーダ;ビデオディスク;DVD;およびコンピュータ可読媒体を含む。このシステムはまた、ビデオ符号器とストリーミングプロトコルとを制御することによってネットワーク上を流されるビデオの帯域幅と品質とを調整できる。関心のアクティビティが検出されると、より高いビットレート、フレームレートまたは解像度の画像が符号化されて流され得る。
[137]I/O装置16は、コンピュータシステム11に入力を供給し、コンピュータシステム11から出力を受信する。I/O装置16は、コンピュータシステム11に仕事を賦課し、コンピュータシステム11からの報告を生成するために使用され得る。I/O装置16の例は:キーボード;マウス;スタイラス;モニタ;プリンタ;別のコンピュータシステム;ネットワーク;および警報を含む。
[138]他のセンサ17は、コンピュータシステム11に更なる入力を与える。各他のセンサ17は、例えば直接接続またはネットワークを使用してコンピュータシステム11に接続される。他のセンサ17は、本発明の設置に先立って退出し得るか、本発明の一部として設置され得る。他のセンサ17の例は:運動センサ;光トリップワイヤ;生体認証センサ;RFIDセンサ;およびカードベースまたはキーパッドベースの認可システムを含むが、これらに限定されない。他のセンサ17の出力は、コンピュータシステム11、記録デバイスおよび/または記録システムによって記録され得る。
[139]図2は、本発明のビデオ監視システムに関する流れ図を示す。本発明の種々の態様は、食料品雑貨店を監視することに適用される本発明のビデオ監視システムの例を示す図10〜15を参照しながら例示される。
[140]ブロック21では、図1に関して論じられたようにビデオ監視システムがセットアップされる。各ビデオセンサ14は、ビデオ監視のためにある場所に向けられる。コンピュータシステム11は、ビデオデバイス14、15からのビデオ供給部に接続される。このビデオ監視システムは、既存の装置またはこの場所のために新しく設置された装置を使用して実現され得る。
[141]ブロック22で、ビデオ監視システムは較正される。いったんビデオ監視システムがブロック21で適所に置かれると、較正が行われる。ブロック22の結果は、ビデオセンサによって与えられるビデオ画像内の種々の場所における特定の対象物(例えば人)の近似的な絶対サイズおよび速度を決定するためのビデオ監視システムの能力である。本システムは、手動較正、半自動較正、および自動較正を使用して較正され得る。較正は、ブロック24の論議の後に更に説明される。
[142]図2のブロック23において、ビデオ監視システムは、仕事を賦課される。仕事賦課は、ブロック22における較正の後に行われ、任意的である。ビデオ監視システムに仕事を賦課することは、1つ以上のイベント判別子を指定することを含む。仕事賦課なしの場合、ビデオ監視システムは、図4のブロック45におけるように、如何なる措置も取らずにビデオプリミティブと関連ビデオ画像とを検出してアーカイブ保管することによって作業する。
[143]図3は、イベント判別子を決定するようにビデオ監視システムに仕事を賦課するための流れ図を示す。イベント判別子は、1つ以上の空間属性および/または1つ以上の時間属性と場合によって相互作用する1つ以上の対象物を指す。イベント判別子は、ビデオプリミティブ(アクティビティ記述メタデータとも呼ばれる)の点から説明される。ビデオプリミティブ設計基準の幾つかは、下記:ビデオストリームからリアルタイムに抽出される能力;ビデオからのすべての関連情報の包含;および表現の簡潔さを含む。
[144]ビデオストリームからのビデオプリミティブのリアルタイム抽出は、システムがリアルタイムに警告を生成し得ることを可能にするために望ましく、またそうするためにはビデオは連続する入力ストリームを供給するので、システムは遅れることができない。
[145]ビデオプリミティブはまた、ビデオプリミティブを抽出するときにユーザ定義のルールがシステムに知られていないので、ビデオからのすべての関連情報を含むべきである。したがってビデオプリミティブは、ビデオに戻ってビデオを再分析する必要なしに、ユーザによって指定された如何なるイベントも検出できるための情報を含むべきである。
[146]簡潔な表現もまた、多数の理由から望ましい。提案されている発明の1つの目的は、監視システムの記憶再生時間を延長することであり得る。これは、前に論じられたようにアクティビティの存在に依存する品質でアクティビティ記述メタデータとビデオとを記憶することで、絶えず良好な品質のビデオを記憶することを置き換えることによって達成され得る。したがってビデオプリミティブか簡潔であるほど、より多くのデータが記憶され得る。更にビデオプリミティブ表現が簡潔であるほど、データアクセスはより高速になり、今度はこのことが法機関による捜査を迅速化し得る。
[147]ビデオプリミティブの正確な内容は、アプリケーションと可能性のある関心のイベントとに依存し得る。ある幾つかの例示的な実施形態が下記に説明される。
[148]ビデオプリミティブの例示的な一実施形態は、全体のシーンとビデオとを記述するシーン/ビデオ記述子を含み得る。一般にこれは、シーン、例えばスキー場、群葉、人工物、水などの外観の詳細な記述;および/または気象条件、例えば降水、霧などの存在/不在を含み得る。ビデオ監視アプリケーションのために、例えば全体的ビューの変化は重要であり得る。例示的な記述子は、突然の照明の変化を記述し得る;これらの記述子は、カメラの動き、特にカメラが動き始めた、または停止したということを指示でき、また後者の場合にはカメラがカメラの前のビューに、または少なくとも前に知られたビューに戻ったかどうかを指示し得る;これらの記述子はビデオ供給の品質の変化、例えばビデオ供給が突然、雑音が多くなったか暗くなったかどうかを指示して、ビデオ供給部をいじったことを指示する;またはこれらの記述子は水域に沿って変化する水位線を示し得る(この後者の問題への特定のアプローチについての更なる情報に関しては、例えば2004年10月1日に出願され、参照として本明細書に組み込まれている同時係属中の米国特許出願第10/954,479号を参照できる)。
[149]ビデオプリミティブの別の例示的な実施形態は、ビデオ供給に見られる対象物の観察可能な属性を指す対象物記述子を含み得る。対象物に関してどのような情報が記憶されるかは、アプリケーション分野と利用可能な処理能力とに依存し得る。例示的な対象物記述子は、サイズ、形状、周囲、位置、軌跡、運動の速度と方向、運動顕著性とそれの特徴、色、剛性、テクスチャ、および/または分類を含むが、これらに限定されない一般特性を含み得る。対象物記述子はまた、何らかのより多くのアプリケーションおよびタイプ固有の情報を含み得る:人に関してこの対象物記述子は肌色、性別、人種情報の存在と比率、人の形と姿勢とを記述する人体モデルを含み得る;あるいは車両に関して対象物記述子はタイプ(例えばトラック、SUV、セダン、バイクなど)、作り、モデル、ナンバープレート番号を含み得る。対象物記述子はまた、物を運ぶこと、走ること、歩くこと、立っていること、または腕を上げることを含むがこれらに限定されない行動を含み得る。話す、戦うまたは衝突するといった幾つかの行動もまた他の対象を指す。対象物記述子はまた顔または歩き方を含むがこれに限定されない識別情報を含み得る。
[150]ビデオプリミティブの別の例示的な実施形態は、ビデオのすべての領域の運動方向を記述する流れ記述子を含み得る。このような記述子は例えば、禁じられた方向への如何なる動きも検出することによってパスバックイベントを検出するために使用され得る(この後者の問題への特定のアプローチについての更なる情報に関しては、例えば2004年1月30日に出願され、参照として本明細書に組み込まれている同時係属中の米国特許出願第10/766,949号を参照できる)。
[151]プリミティブはまた、オーディオセンサ、熱センサ、圧力センサ、カードリーダー、RFIDタグ、生体認証センサなどといった非ビデオ情報源からも、取得され得る。
[152]分類は、特定のカテゴリまたはクラスに属するような対象物の識別を指す。分類の例は:人;犬;車両;パトカー;個人;および特定のタイプの対象物を含む。
[153]サイズは、対象物の寸法的属性を指す。サイズの例は:大きい;中ぐらい;小さい;平べったい;6フィートより高い;1フートより短い;3フィートより幅広い;4フィートより薄い;ほぼ人の大きさ;人より大きい;人より小さい;ほぼ車の大きさ;ピクセル単位で近似的寸法を有する画像内の矩形;および画像ピクセルの数を含む。
[154]位置は、対象の空間属性を指す。位置は、例えばピクセル座標における画像位置、ある世界座標系における絶対現実世界位置、またはランドマーク(陸標)または他の対象物に関する位置であり得る。
[155]色は、対象物の色彩的属性を指す。色の例は:白色;黒色;灰色;赤色;HSV値の範囲;YUV値の範囲;RGB値の範囲;平均RGB値;平均YUV値;およびRGB値のヒストグラムを含む。
[156]剛性は、対象の形状不変性属性を指す。非剛性対象物(例えば人または動物)の形状はフレーム間で変化する可能性があるが、剛性対象物(例えば車両または家屋)の形状はフレーム間で概ね変化せずに留まり得る(おそらく、旋回による僅かな変化を除いて)。
[157]テクスチャは、対象物のパターン属性を指す。テクスチャ特徴の例は:自己相似性;スペクトルパワー;線形性;および粗さを含む。
[158]内部運動は、対象物の剛性の尺度を指す。かなり剛性の対象物の例は、あまり大きな内部運動量を示さない車である。かなり非剛性の対象物の例は揺れ動く腕と脚とを有する人であって、これは多量の内部運動を示す。
[159]運動は、自動的に検出され得る如何なる動きをも指す。運動の例は:対象物の出現;対象物の消失;対象物の垂直運動;対象物の水平運動;および対象物の周期運動を含む。
[160]顕著な運動(salient motion)は、自動的に検出可能であって、ある期間の間、追跡され得る如何なる運動をも指す。このような動く対象物は明らかに意図的な運動を示す。顕著な運動の例は、場所間の移動;および他の対象物と相互作用するための動きを含む。
[161]顕著な運動の特徴は、顕著な運動の特性を指す。顕著な運動の特徴の例は:軌跡;画像空間内の軌跡の長さ;環境の3次元表現における軌跡の近似的長さ;画像空間内の対象物の時間の関数としての位置;環境の3次元表現における対象物の時間の関数としての近似的位置;軌跡の持続時間;画像空間内の速度(例えば速さと方向);環境の3次元的表現における近似的速度(例えば速さと方向);ある速度の持続時間;画像空間における速度の変化;環境の3次元表現における速度の近似的変化;速度変化の持続時間;運動の停止;および運動停止の持続時間を含む。速度は、ある特定の時刻における対象物の速さと方向とを指す。軌跡は、対象物が追跡されることが可能である限りの間の、またはある期間中のこの対象物に関する1セットの(位置、速度)ペアを指す。
[162]シーン変化は、ある時間に亘る変化として検出され得るシーンの如何なる領域をも指す。シーン変化の例は:シーンを去る静止対象物;シーンに入って静止する対象物;シーン内で位置を変える対象物;および外観(例えば色、形状またはサイズ)を変える対象物を含む。
[163]シーン変化の特徴は、シーン変化の特性を指す。シーン変化の特徴の例は:画像空間におけるシーン変化のサイズ;環境の3次元表現におけるシーン変化の近似的サイズ;シーン変化が発生した時刻;画像空間におけるシーン変化の位置;および環境の3次元表現におけるシーン変化の近似的位置を含む。
[164]事前定義モデルは、対象物のアプリオリに知られたモデルを指す。事前定義モデルの例は:成人;子供;車両;およびセミトレーラーを含み得る。
[165]図16aは、本発明の一実施形態によるビデオ監視システムの例示的なビデオ分析部を示す。図16aにおいて、ビデオセンサ(例えばビデオカメラ、しかしこれに限定されない)1601は、ビデオ分析サブシステム1603にビデオストリーム1602を与え得る。それからビデオ分析サブシステム1603は、プリミティブ記憶デバイス1605に記憶され得るビデオプリミティブを導き出すためにビデオストリーム1602の分析を実行し得る。ビデオプリミティブ記憶デバイス1605は、非ビデオプリミティブも同様に記憶するために使用され得る。ビデオ分析サブシステム1603は更に、ビデオ記憶デバイス1604内のビデオストリームの全部または一部を、例えば前に論じられたようなビデオの品質および/または量の記憶を制御し得る。
[166]ここで図16bを参照すると、いったんビデオプリミティブと、他のセンサが存在する場合には非ビデオプリミティブとが利用可能になると、システムはイベントを検出できる。ユーザは、ルールおよび応答定義インタフェース162を使用してルール163と、対応する応答164とを定義することによってシステムに仕事を賦課する。これらのルールはイベント判別子に移され、システムは対応するイベント発生165を抽出する。検出されたイベント発生166は、ユーザ定義の応答167を起動する。応答は、ビデオ記憶デバイス168(図16aのビデオ記憶デバイス1604と同じであることも、ないこともあり得る)からの検出イベントのビデオのスナップショットを含み得る。ビデオ記憶デバイス168は、ビデオ監視システムの一部であるか、または別の記録デバイス15である可能性もある。応答の例は、下記:システム表示装置上でビジュアルおよび/またはオーディオ警告を活性化すること;指定場所においてビジュアルおよび/またはオーディオ警報システムを活性化すること;サイレントアラームを活性化すること;高速応答機構を活性化すること;ドアを施錠すること;セキュリティサービスに連絡すること;インターネットといった、しかしこれに限定されたいネットワークを介して他のコンピュータシステムにデータ(例えば画像データ、ビデオデータ、ビデオプリミティブ、および/または分析データ)を転送すること、または流すこと;このようなデータを指定されたコンピュータ可読媒体に保存すること;何か他のセンサまたは監視システムを活性化すること;コンピュータシステム11および/または他のコンピュータシステムに仕事を賦課すること;および/またはコンピュータシステム11および/または他のコンピュータシステムに指図すること;を含み得るが、必ずしもこれらに限定されない。
[167]プリミティブデータは、データベースに記憶されるデータと考えられ得る。プリミティブデータにおけるイベント発生を検出するために、効率的な問合せ言語が必要とされる。本発明のシステムの実施形態は、下記に説明されるアクティビティ推測言語を含み得る。
[168]伝統的なリレーショナルデータベース問合せ方式はしばしば、ユーザが種々のタイプの記憶データに対して柔軟な問合せを作成することを可能にするためにブール2分木構造にしたがう。葉ノードは通常、「特性関係値(property relationship value)」という形式になっており、ここで特性(property)はデータ(時間または名前といった)の或る基本的特徴であり、関係(relationship)は通常、数値演算子(「>」、「<」、「=」など)であり、値(value)はこの特性に関する値状態である。分岐ノードは通常、「and」(論理積)、「or」(論理和)、「not」(否定)のような単項または2項ブール論理演算子を表す。
[169]これは、本発明の実施形態におけるように、アクティビティ問合せ定式化方式の基礎を形成し得る。あるビデオ監視アプリケーションの場合に特性は、サイズ、速さ、色、分類(人、車)といったビデオストリームにおいて検出される対象物の特徴であり得るか、あるいは特性はシーン変化特性であり得る。図17は、このような問合せを使用する例を与える。図17aに、「私にどれか赤い車を見せてください」という問合せ171が提示されている。これは、対象物の分類が車両であるかどうか173、またそれの色が主として赤色であるかどうか174をテストする2つの「特性関係値」(または単に「特性」)問合せに分解されることが可能である。これら2つのサブ問合せは、ブール演算子「and」172によって結合され得る。同様に図17bでは、問合せ「カメラがいつ動き出すか、停止するかを示してください」は、特性サブ問合せ「カメラを動かし始めてもらう」177と「カメラを停止させてもらう」178のブール「or」176結合として表され得る。
[170]本発明の実施形態は、(1)基本的葉ノードがシーン内の空間的アクティビティを記述するアクティビティ検出子によって増強され得る;(2)ブール演算子分岐ノードが空間的、時間的および対象物の相互関係を指定する修飾子によって増強され得る;という2つの例示的な仕方でこのタイプのデータベース問合せ方式を拡張し得る。
[171]アクティビティ検出子は、ビデオシーンの領域に関連する行動に対応する。これらの検出子は対象物がシーン内のある場所とどのように相互作用し得るかを記述する。図18は、3つの例示的なアクティビティ検出子を示す。図18aは、仮想ビデオトリップワイヤを使用して特定の方向に境界を横切る行動を表す(このような仮想ビデオトリップワイヤがどのように実現され得るかについての情報に関しては、例えば米国特許第6,696,945号が参照可能である)。図18bは、鉄道線路上をある時間の間ぶらつく行動を表す。図18cは、壁の一部分からあるものを持ち去る行動を表す(これがどのようになされ得るかに対する例示的なアプローチに関しては2003年1月30日に出願された「Video Scene Background Maintenance − Change Detection & Classification」()と題する米国特許出願第10/331,778号が参照可能である)。他の例示的なアクティビティ検出子は、転倒する人を検出すること、方向または速さを変える人を検出すること、ある領域に入る人を検出すること、または間違った方向に行く人を検出すること、を含み得る。
[172]図19は、赤い車がビデオトリップワイヤを横切るかどうか191を検出するために、どのようにしてアクティビティ検出子葉ノード(ここではトリップワイヤ横断)が単純な特性問合せと結合され得るかの例を示す。特性問合せ172、173、174とアクティビティ検出子193はブール「and」演算子192によって結合される。
[173]問合せを修飾ブール演算子(結合子)と結合させることは、更なる柔軟性を加え得る。例示的な修飾子は、空間的、時間的、対象物およびカウンタ修飾子を含む。
[174]空間修飾子は、シーン内で近い/近くない子供のアクティビティについてだけブール演算子が作用するようにさせ得る(すなわち、例えば図19のブール演算子の下に示されたようなブール演算子の増加)。例えば「and−within 50 pixels of」はアクティビティ間の距離が50ピクセルより小さい場合にだけ「and」が当てはまることを意味するために使用され得る。
[175]時間修飾子は、互いの指定された時間内に、またはこのような時間外に、またはある時間の範囲内に、発生する子供のアクティビティについてだけブール演算子が作用するようにさせ得る。イベントの時間順序付けもまた指定され得る。例えば「and−first within 10 seconds of second」は第2の子供アクティビティが第1の子供アクティビティの後10秒以内に発生する場合だけに「and」が当てはまることを意味するために使用され得る。
[176]対象物修飾子は、同じ、または異なる対象物に関して発生する子供アクティビティについてだけブール演算子が作用するようにさせ得る。例えば「and−involving the same object」は2つの子供アクティビティが同じ特的の対象物に関連している場合だけに「and」が当てはまることを意味するために使用され得る。
[177]カウンタ修飾子は、条件(単数または複数)が規定された回数、満たされる場合にだけブール演算子が起動されるようにさせ得る。一般にカウンタ修飾子は、「at least n times(少なくともn回)」、「exactly n times(正確にn回)」、「at most n times(多くともn回)」などといった数値関係を含み得る。例えば「or−at least twice(or−少なくとも2回)」は、「or」演算子のサブ問合せの少なくとも2つが真でなければならないことを意味するために使用され得る。カウンタ修飾子の別の使用は、「同じ人が1つの棚から少なくとも5品目をとる場合に警告する」のようなルールを実現することであり得る。
[178]図20は、結合子を使用する一例を示す。ここでは必要とされるアクティビティ問合せは、「違法左折をする赤い車を発見する」こと201である。違法左折は、アクティビティ記述子と修飾ブール演算子との結合を介して捕捉され得る。脇道から現れる対象物193を検出するために1つの仮想とリップワイヤが使用され、また道路に沿って左側を走行する対象物205を検出するために別の仮想トリップワイヤが使用され得る。これらは、修飾「and」演算子202によって結合され得る。標準ブール「and」演算子は、両アクティビティ193、205が検出されなくてはならないことを保証する。対象物修飾子203は、同じ対象物が両トリップワイヤを横切ったことをチェックするが、時間修飾子は、先ず上下のトリップワイヤ193が横切られ、それに続いて10秒以内後に左右のトリップワイヤの横断が行われたことをチェックする。
[179]この例はまた、結合子のパワーを示す。理論的には簡単なアクティビティ検出子と結合子とに依存せずに、左折に関して別のアクティビティ検出子を定義することは可能である。しかしながらこの検出子は柔軟ではなく、任意の曲がり角と曲がり方向に適応することを困難にし、またすべての可能性のあるイベントに関して別の検出子に書き込むことは煩わしいであろう。対照的に、結合子と簡単な検出子とを使用することは大きな柔軟性を与える。
[180]より単純なアクティビティの組合せとして検出され得る複雑なアクティビティの他の例は、駐車する車とこの車から出てくる人、またはテールゲート(密着通り抜け)しているグループを形成する大勢の人々を含み得る。これらの結合子はまた、異なるタイプまたはソースのプリミティブを結合できる。例は、「ライトが消される前に室内の人を示す」、「先立つカード読取りせずにドアに入る人を示す」または「RFIDタグリーダによって予測されるより多くの対象物が関心の領域に存在するかどうかを示す」すなわちRFIDタグを持たない違法な対象物がこの領域内に存在する、といったルールを含み得る。
[181]結合子は、任意の数のサブ問合せを結合でき、またこれは他の結合子を任意の深さに結合することもできる。図21a、21bに示された例は、車が左折し2101、それから右折する2104かどうかを検出するためのルールであり得る。左折2101は方向トリップワイヤ2102、2103を用いて検出でき、右折2104は方向トリップワイヤ2105、2106を用いて検出され得る。左折は、対象物修飾子「同じ」2117と時間修飾子「2113より前に2112」2118とを有する「and」結合子2111に接合されたトリップワイヤ2102、2103それぞれに対応するトリップワイヤアクティビティ検出子2112、2113として表現され得る。同様に右折は、対象物修飾子「同じ」2119と時間修飾子「2116より前に2115」2120とを有する「and」結合子2114に接合されたトリップワイヤ2105、2106それぞれに対応するトリップワイヤアクティビティ検出子2115、2116として表現され得る。同じ対象物が最初に左折し、それから右折したことを検出するために、左折検出子2111と右折検出子2114は、対象物修飾子「同じ」2122と時間修飾子「2114の前に2111」2123とを有する「and」結合子2121に接合される。最後に検出された対象物が車両であることを保証するためにブール「and」演算子2125が使用されて左折・右折検出子2121と特性問合せ2124とを結合する。
[182]これらすべての検出子は場合によって時間属性と結合され得る。時間属性の例は、15分ごとに;午後9時と午前6時30分との間に;5分より短く;30秒より長く;週末に亘って;を含む。
[183]図2のブロック24で、ビデオ監視システムが動作させられる。本発明のビデオ監視システムは、自動的に動作し、シーン内の対象物のビデオプリミティブを検出してアーカイブ保管し、イベント判別子を使用してリアルタイムにイベント発生を検出する。更に警報を起動すること、報告を生成すること、および出力を生成することといった措置が必要に応じてリアルタイムに取られる。報告と出力は、システムにローカルに、またはインターネットといったネットワークを介してどこか別の場所に表示および/または記憶され得る。図4は、ビデオ監視システムを動作させるための流れ図を示す。
[184]ブロック41でコンピュータシステム11は、ビデオセンサ14および/またはビデオレコーダ15からソースビデオを取得する。
[185]ブロック42で、ソースビデオからリアルタイムにビデオプリミティブが抽出される。オプションとして非ビデオプリミティブが1つ以上の他のセンサ17から取得および/または抽出され、本発明で使用され得る。ビデオプリミティブの抽出は図5で示される。
[186]図5は、ビデオ監視システムに関してビデオプリミティブを抽出するための流れ図を示す。ブロック51、52は、同時に動作し、任意の順序で、または同時に実行され得る。ブロック51で、対象物が動きを介して検出される。このブロックのために、ピクセルレベルでフレーム間の動きを検出するための如何なる動き検出アルゴリズムでも使用可能である。一例として3フレーム弁別技法が使用可能であり、これは{1}で論じられている。検出された対象物はブロック53に転送される。
[187]ブロック52で、対象物は変化を介して検出される。背景モデルから変化を検出するための如何なる変化検出アルゴリズムでも、このブロックのために使用可能である。1フレーム内の1つ以上のピクセルはこのフレームの背景モデルに整合しないので、これらのピクセルがこのフレームの前景に在ると思われれば、対象物はこのブロックにおいて検出される。一例として{1}と2000年10月24日に出願された米国特許出願第09/694,712号とに記載されている動的に適応できる背景減算といった確率的背景モデル化技法が使用可能である。検出された対象物はブロック53に転送される。
[188]ブロック51の動き検出技法とブロック52の変化検出技法は、相補的技法であって、各技法は他方の技法の欠陥に有益に取り組んでいる。オプションとしてブロック51、52に関して論じられた技法のために、追加および/または代替の検出方式が使用可能である。追加および/または代替の検出方式の例は、下記:{8}記載されているような人々を発見するためのPファインダー検出方式;肌色検出方式;顔検出方式;およびモデルベースの検出方式;を含む。このような追加および/または代替の検出方式の結果はブロック53に与えられる。
[189]オプションとして、ビデオセンサ14が動き(例えばスイープ(掃引)する、ズーム(拡大縮小)する、および/または平行移動するビデオカメラ)を有するならば、ビデオ安定化のための入力をブロック51、52に与えるためにブロック51、52間のブロックの前に追加ブロックが挿入され得る。ビデオ安定化は、アフィンまたは射影全体運動補正によって達成され得る。例えば参照として本明細書に組み込まれている、2000年7月3日に出願された米国特許出願第09/609,919号、現在の米国特許第6,738,424号に記載されている画像整列は、ビデオ安定化を取得するために使用可能である。
[190]ブロック53で、ブロブが生成される。一般にブロブは、フレーム内の任意の対象物である。ブロブの例は:人または車両といった動く対象物;および1個の家具、衣料品または小売棚品目といった消費者製品;を含む。ブロブは、ブロック32、33からの検出された対象物を使用して生成される。このブロックのために、ブロブを生成するための如何なる技法でも使用可能である。動き検出と変化検出からブロブを生成するための例示的な技法は、関連構成要素方式を使用する。例えば形態学と関連構成要素アルゴリズムとが使用可能であって、これは{1}に記載されている。
[191]ブロック54で、ブロブは追跡される。ブロブを追跡するための如何なる技法も、このブロックのために使用可能である。例えばカルマン(Kalman)フィルタリングまたはCONDENSATIONアルゴリズムが使用可能である。別の例として{1}に記載されているようなテンプレートマッチング技法が使用可能である。更なる例として{5}に記載されている多仮説カルマン追跡子が使用可能である。更なる他の例として2000年10月24日に出願された米国特許出願第09/694,712号に記載されたフレーム間追跡技法が使用可能である。食料品雑貨店である場所の例として、追跡され得る対象物の例は、動く人々と、在庫品目と、ショッピングカートまたはトロリといった在庫の移動器具と、を含む。
[192]オプションとしてブロック51〜54は、通常のスキルを有する人々に知られているような如何なる検出および追跡方式によっても置き換えられ得る。このような検出および追跡方式の例は{11}に記載されている。
[193]ブロック55で、追跡される対象物の各軌跡は、軌跡が顕著であるかどうかを決定するために分析される。軌跡が非顕著であれば、軌跡は不安定な動きを示す対象物を表すか、あるいは不安定なサイズまたは色の対象物を表し、この対応する対象物はシステムによって拒絶されるか、はもはや分析されない。軌跡が顕著であれば、この軌跡は潜在的に関心のある対象物を表す。軌跡は、この軌跡に顕著度を適用することによって顕著であるか非顕著であるかが決定される。軌跡が顕著または非顕著であることを決定するための技法は{13}と{18}に記載されている。
[194]ブロック56で各対象物は分類される。各対象物の一般的タイプは、対象物の分類として決定される。分類は多数の技法によって実行されることが可能であり、このような技法の例は、ニューラルネットワーク分類子を使用すること{14}と、線形判別式(判別手段)分類子を使用すること{14}と、を含む。分類の例は、ブロック23に関して論じられたものと同じである。
[195]ブロック57で、ビデオプリミティブはブロック51〜56からの情報と、必要に応じて追加の処理と、を使用して識別される。識別されるビデオプリミティブの例は、ブロック23に関して論じられたものと同じである。一例としてサイズに関してシステムは、ビデオプリミティブとしてブロック22における較正から取得された情報を使用できる。較正からシステムは、対象物の近似的サイズを決定するために十分な情報を有する。別の例としてシステムは、ビデオプリミティブとしてブロック54から測定されたような速度を使用できる。
[196]ブロック43で、ブロック42からのビデオプリミティブはアーカイブ保管される。ビデオプリミティブは、コンピュータ可読媒体13または他のコンピュータ可読媒体にアーカイブ保管され得る。ビデオプリミティブと共に、ソースビデオからの関連フレームまたはビデオ画像がアーカイブ保管され得る。このアーカイブ保管ステップは任意的であって;システムがリアルタイムのイベント検出のためにだけ使用されることになっていれば、このアーカイブ保管ステップはスキップされ得る。
[197]ブロック44で、イベント判別子を使用してビデオプリミティブからイベント発生が抽出される。ビデオプリミティブはブロック42において決定され、イベント判別子はブロック23でシステムに仕事を賦課することから決定される。何らかのイベント発生が起こったかどうかを決定するために、イベント判別子が使用されてビデオプリミティブをフィルタリングする。例えばイベント判別子は、午前9時と午後5時との間に、ある領域内に「間違った道」を行く人によって定義されるような「間違った道」を探していることが可能である。このイベント判別子は、図5にしたがって生成されたすべてのビデオプリミティブをチェックし、下記の特性:午前9時と午後5時との間のタイムスタンプと、「人」または「人々のグループ」の分類と、この領域内のある位置と、「間違った」運動方向と、を有する何らかのビデオプリミティブが存在するかどうかを決定する。イベント判別子はまた、前に論じられたような他のタイプのプリミティブも使用できる、および/またはイベント発生を検出するために多数のビデオソースからのビデオプリミティブを結合することもできる。
[198]ブロック45で、必要に応じてブロック44で抽出された各イベント発生のための措置が取られる。図6は、ビデオ監視システムに対して措置を取るための流れ図を示す。
[199]ブロック61で、イベント発生を検出したイベント判別子によって指図されたように応答が行われる。あればこれらの応答は、ブロック34で各イベント判別子に関して識別される。
[200]ブロック62で、発生した各イベント発生に関してアクティビティレコードが生成される。アクティビティレコードは、例えば:対象物の軌跡の詳細と;対象物の検出時刻と;対象物の検出位置と;使用されたイベント判別子の記述または定義と;を含む。アクティビティレコードは、イベント判別子によって必要とされる、ビデオプリミティブといった情報を含み得る。アクティビティレコードはまた、イベント発生に関係した対象物(単数または複数)および/または領域(単数または複数)の代表的ビデオ画像または静止画像を含み得る。アクティビティレコードは、コンピュータ可読媒体に記憶される。
[201]ブロック63で、出力が生成される。この出力は、ブロック44において抽出されたイベント発生とブロック41からのビデオソースの直接供給とに基づいている。この出力は、コンピュータ可読媒体に記憶されるか、コンピュータシステム11または他のコンピュータシステムに表示されるか、あるいは他のコンピュータシステムに転送される。システムが動作すると、イベント発生に関する情報が収集され、この情報はリアルタイムを含めていつでも運用者によって見られることが可能である。この情報を受信するためのフォーマットの例は:コンピュータシステムのモニタ上の表示と;ハードコピーと;コンピュータ可読媒体と;対話型ウェブページと;を含む。
[202]この出力は、アナログビデオ伝送手段を介して、またはネットワークビデオストリーミングを介して送信されたブロック41からのソースビデオの直接供給からの表示を含み得る。例えばソースビデオは、コンピュータシステムのモニタのウィンドウ上に、または閉回路モニタ上に表示され得る。更に出力は、イベント発生に関連する対象物および/または領域をハイライト(強調)するために図形でマーク付けされたソースビデオを含み得る。システムが法的分析モードで動作しているならば、ビデオはビデオレコーダから来ることができる。
[203]この出力は、運用者の要件および/またはイベント発生に基づく、運用者のための1つ以上の報告を含み得る。報告の例は:発生したイベント発生の数;イベントが発生したシーンにおける位置;イベント発生が起こった時間;各イベント発生の代表的画像;各イベント発生の代表的ビデオ;生の統計データ;イベント発生の統計(例えば、どのくらいの数、どれくらいの頻度、何処で、何時);および/または人間可読図形表示;を含み得る。
[204]図13、14は、図15の食料品雑貨店内の通路に関する例示的な報告を示す。図13、13において幾つかの領域はブロック22で識別され、それにしたがって画像内でラベル付けされる。図13内の領域は図12内の領域と一致しており、図14内の領域は異なる領域である。システムは、この領域内に立ち止まる人々を探すように仕事を賦課される。
[205]図13おいて例示的な報告は、ラベル、図形、統計情報、および統計情報の分析を含むようにマーク付けされたビデオからの画像である。例えばコーヒーと識別された領域は、1時間当たり2人という領域内の顧客の平均人数と5秒というこの領域内の平均滞留時間との統計情報を有する。システムは、この領域を、この領域を通る商業的アクティビティがあまり多く存在しないことを意味する「コールド」領域であると決定した。別の例としてソーダと識別された領域は、1時間当たり15人という領域内の顧客の平均人数と22秒というこの領域内の平均滞留時間との統計情報を有する。システムは、この領域を、この領域には多量の商業的アクティビティが存在することを意味する「ホット」領域であると決定した。
[206]図14おいて例示的な報告は、ラベル、図形、統計情報、および統計情報の分析を含むようにマーク付けされたビデオからの画像である。例えば通路の後部の領域は、1時間当たり14人という顧客の平均人数を持っており、低い交通量を持つと決定される。別の例として通路の前部の領域は、1時間当たり83人という顧客の平均人数を持っており、高い交通量を有すると決定される。
[207]図13または図14について、運用者が何か特定の領域または何か特定の領域に関してより多くの情報を所望するならば、ポイントアンドクリック・インタフェースは、システムが検出してアーカイブ保管している領域および/またはアクティビティの代表的静止画像とビデオ画像とを介して運用者がナビゲートすること可能にする。
[208]図15は、食料品雑貨店内の通路に関する別の例示的な報告を示す。この例示的な報告は、ラベルと軌跡指示とマーク付けされた画像を記述するテキストとを含むようにマーク付けされたビデオからの画像を含む。この例のシステムは、領域の数:対象物の軌跡の長さ、位置および時間;対象物が静止していた時間と場所;運用者によって指定されたような領域と軌跡との相互関係;および人ではない、1人の人、2人の人々、および3人以上の人々といった対象物の分類;に関して探索するという仕事を賦課されている。
[209]図15のビデオ画像は、軌跡が記録された時間からのものである。これら3つの対象物のうち2つの対象物は各々1人の人として分類されており、1つの対象物は人ではないものとして分類されている。各対象物は、ラベルを、すなわち人ID1032、人ID1033および物体ID32001を割り当てられている。人ID1032に関してシステムはこの人がこの領域で52秒を過ごし、円によって指示された位置で18秒を過ごしたと決定した。人ID1033に関してシステムはこの人がこの領域で1分8秒を過ごし、円によって指定された位置で12秒を過ごしたと決定した。人ID1032と人ID1033とに関する軌跡はマーク付けされた画像に含まれる。物体ID32001に関してシステムはこの物体を更には分析せず、物体の位置をXで示した。
[210]戻って図2のブロック22を参照すると、較正は、(1)手動的で、(2)ビデオセンサまたはビデオレコーダからの画像を使用して半自動的で、(3)ビデオセンサまたはビデオレコーダからの画像を使用して自動的で、あり得る。画像が必要であれば、コンピュータシステム11によって分析されるべきソースビデオは較正のために使用されたソースビデオを取得したビデオセンサからであると仮定される。
[211]手動較正のために運用者は、ビデオセンサ14の各々に関する方位および内部パラメータとこの場所に関する各ビデオセンサ14の配置とをコンピュータシステム11に与える。コンピュータシステム11は、この場所の地図を場合によって保持でき、またビデオセンサ14の配置は、この地図上で指示されることが可能である。この地図は環境の2次元的または3次元的表現であり得る。更に手動較正は、システムに対象物の近似的サイズと相対的位置とを決定するために十分な情報を与える。
[212]代替として、手動較正のために運用者は、人といった知られたサイズの対象物の外観を表す図形でセンサからのビデオ画像をマーク付けできる。運用者が少なくとも2つの場所において1つの画像をマーク付けできれば、システムは近似的カメラ較正情報を推測できる。
[213]半自動および自動較正のために、カメラパラメータまたはシーン形状または配置の知識は必要とされない。半自動および自動較正からシーン内の種々の領域における対象物のサイズを近似するためにルックアップテーブルが生成されるか、あるいはカメラの内部および外部カメラ較正パラメータが推測される。
[214]半自動較正に関してビデオ監視システムは、運用者からの入力と結合されたビデオソースを使用して較正される。半自動較正されるビデオセンサの視界に1人の人が配置される。コンピュータシステム11は、この1人の人に関するソースビデオを受信して、このデータに基づいて人のサイズを自動的に推測する。この人が見られるビデオセンサの視界内の場所の数が増やされ、またこの人がビデオセンサの視界内で見られる時間が増やされると、半自動較正の精度は改善される。
[215]図7は、ビデオ監視システムの半自動較正の流れ図を示す。ブロック71は、典型的な対象物が種々の軌跡でシーンを通って移動することを除いてブロック41と同じである。この典型的対象物は、種々の速度を持つことができ、また種々の位置で静止していることができる。例えばこの典型的対象物は、できるだけビデオセンサに近づき、それからできるだけビデオセンサから遠ざかる。典型的対象物によるこの運動は、必要に応じて繰り返されることが可能である。
[216]ブロック72〜75は、それぞれブロック51〜54と同じである。
[217]ブロック76において典型的対象物は、シーン全体に亘って監視される。追跡されている単に(または少なくとも最も)安定な対象物はシーン内の較正対象物(シーン内を移動する典型的対象物)であることが仮定されている。この安定な対象物のサイズは、これが観察されるシーン内のすべての点に関して収集され、この情報は較正情報を生成するために使用される。
[218]ブロック77において典型的対象物のサイズは、シーン全体における異なる領域に関して識別される。典型的対象物のサイズは、シーン内の種々の領域における同様の対象物の近似的サイズを決定するために使用される。この情報によって、画像内の種々の領域における典型的対象物の典型的な見掛けのサイズと一致するルックアップテーブルが生成されるか、あるいは内部および外部カメラ較正パラメータが推測される。サンプル出力として画像の種々の領域におけるステッキサイズの人影の表示は、システムが適当な高さと決定したものを示している。このようなステッキサイズの人影は、図11に示されている。
[219]自動較正のために、コンピュータシステム11が各ビデオセンサの視界内の場所に関する情報を決定する学習フェーズが実行される。自動較正時にコンピュータシステム11は、シーンにとって典型的な対象物の統計的に有意なサンプリングを取得し、それによって典型的な見掛けのサイズと場所とを推測するために十分である代表的時間(例えば分、時間または日)の間、その場所のソースビデオを受信する。
[220]図8は、ビデオ監視システムの自動較正の流れ図を示す。ブロック81〜86は、図7のブロック71〜76と同じである。
[221]ブロック87においてビデオセンサの視界内の追跡可能な領域が識別される。追跡可能領域は、対象物が容易に、および/または精確に追跡されることができるビデオセンサの視界内の領域を指す。追跡不能領域は、対象物が容易には、および/または精確には追跡されない、および/または追跡することが困難であるビデオセンサの視界内の領域を指す。追跡不能領域は、不安定または非顕著な領域であると呼ばれ得る。対象物は、この対象物が余りに小さい(例えば所定の閾値より小さい)、または余りに短い時間(例えば所定の閾値より短い)の間、現れている、または顕著でない(例えば意図的でない)動きを示すという理由で追跡困難になり得る。追跡可能領域は、例えば{13}に記載された技法を使用して識別され得る。
[222]図10は、食料品雑貨店内の通路に関して決定される追跡可能領域を示す。この通路の遠端部の領域は、余りに多くの混乱させるもの(confuser)がこの領域に見えるので非顕著であると決定される。混乱させるものは、追跡方式を混乱させるビデオ内のあるものを指す。混乱させるものの例は、風に吹かれる葉;雨;部分的に遮断された対象物;および精確に追跡されるには余りにも短い時間しか見えない対象物;を含む。対照的にこの通路の近端部の領域は、この領域に関して良好な通り道が決定されるので顕著であると決定される。
[223]ブロック88において、シーン全体に亘って異なる領域に関して対象物のサイズが識別される。対象物のサイズは、シーン内の種々の領域における同様の対象物の近似的サイズを決定するために使用される。シーン内の位置の関数として対象物の典型的な見掛けの高さと幅とを決定するために、ヒストグラムまたは統計的中央値を使用するといった技法が使用される。シーンの画像の一部において典型的対象物は、典型的な見掛けの高さと幅を持つことができる。この情報によって、画像内の種々の領域における典型的対象物の典型的な見掛けのサイズと一致するルックアップテーブルが生成されるか、あるいは内部および外部カメラ較正パラメータが推測される。
[224]図11は、図10からの食料品雑貨店の通路における典型的対象物に関して典型的サイズを識別することを示す。典型的対象物は人々であると仮定されており、したがってラベルによって識別される。人々の典型的サイズは、顕著領域において検出される人々に関する平均高さと平均幅とのプロットを介して決定される。この例ではプロットAは平均的な人の平均身長に関して決定され、プロットBは1人、2人および3人の平均的幅に関して決定される。
[225]プロットAに関して、X軸はブロブの高さをピクセル単位で描いており、Y軸は発生する、X軸上で識別されるような特定の高さの事例の数を描いている。プロットAに関するラインのピークは、シーン内の指定された領域におけるブロブの最も共通的な高さに対応しており、この例ではピークは指定領域内に立っている人の平均高さに対応する。
[226]人々がゆるく寄り合ったグループで移動すると仮定すると、プロットBとしてプロットAに類似のグラフが幅に関して生成される。プロットBに関してX軸は、ブロブの幅をピクセル単位で描いており、Y軸は発生する、X軸上で識別されるような特定の幅の事例の数を描いている。プロットBに関するラインのピークは、多数のブロブの平均高さに対応している。大抵のグループは単に1人の人を含むと仮定すると、最も大きなピークは、指定された領域内の1人の人の平均的幅に対応する最も共通的な幅に対応する。同様に2番目に大きなピークは、指定された領域内の2人の人々の平均的幅に対応し、3番目に大きなピークは指定された領域内の3人の人々の平均的幅に対応する。
[227]図9は、本発明のビデオ監視システムに関する更なる流れ図を示す。この更なる実施形態ではシステムは、全ソースビデオを精査することを必要とせずに、例えば追加の報告を生成するためにイベント判別子を用いて、アーカイブ保管されたビデオプリミティブを分析する。本発明にしたがってビデオソースが処理された後いつでも、このソースビデオに関するビデオプリミティブは、図4のブロック43でアーカイブ保管される。ビデオの内容は、ビデオプリミティブだけが精査されて、ビデオソースは再処理されないので、比較的短時間にこの更なる実施形態で再分析され得る。これは、ビデオ画像データを処理することが計算的に極めて高価であるのに対して、ビデオから抽出された小さなサイズのビデオプリミティブを分析することは計算的に極めて安価であるので、現在の最新技術のシステムに対して大幅な効率改善をもたらす。一例として下記のイベント判別子が生成され得る:「最近2ヶ月間で領域Aに10分より長く立ち止まる人々の数」。この更なる実施形態によって、ソースビデオの最近2ヶ月は、精査される必要がない。その代わり最近2ヶ月からのビデオプリミティブだけが精査される必要があり、これは著しく効率的なプロセスである。
[228]ブロック91は図2のブロック23と同じである。
[229]ブロック92において、アーカイブ保管されたビデオプリミティブがアクセスされる。これらのビデオプリミティブは、図4のブロック43でアーカイブ保管される。
[230]ブロック93、94は図4のブロック44、45と同じである。
[231]例示的なアプリケーションとして本発明は、小売陳列の有効性を測定することによって小売市場空間を分析するために使用され得る。陳列上の品目と補助品目との両者の販売を促進するためにできるだけ目立たせるように努力して、大きな合計金額が小売陳列に注入される。本発明のビデオ監視システムは、これらの小売陳列の有効性を測定するように構成可能である。
[232]この例示的なアプリケーションに関して本ビデオ監視システムは、所望の小売陳列の周りの空間の方にビデオセンサの視界を向けることによってセットアップされる。仕事を賦課するときに運用者は、所望の小売陳列の周りの空間を表す領域を選択する。運用者は、この領域に入って測定可能な速度の減少を示すか、かなりの時間そこに立ち止まる人々サイズの対象物を運用者が監視したいと思うことを判別子として定義する。
[233]ある時間の間、動作した後にビデオ監視システムは、市場分析に関する報告を与えることができる。これらの報告は:小売陳列の周りでスローダウンした人々の人数と;この小売陳列で立ち止まった人々の人数と;どれほどの人数が週末において関心を持ったか、どれほどの人数が夕方において関心を持ったか、といった時間の関数としてこの小売陳列に興味を持った人々の内訳と;この小売陳列に興味を示した人々のスナップショットと;を含み得る。このビデオ監視システムから得られたマーケットリサーチ情報は、小売陳列の有効性の分析理解を改善するために商店からの販売情報と商店からの顧客記録とに結合され得る。
[234]本明細書に論じられた実施形態と例は、非限定的な例である。
[235]本発明は好適な実施形態に関して詳細に説明されており、本発明のより広い態様において本発明から逸脱せずに変更と修正とが行われ得ることは、今や当業者にとって前述の説明から明らかであろうし、またしたがって本発明は請求項に記載されたように、本発明の真の精神内に入るようなすべての変更と修正とをカバーするように意図されている。
本発明のビデオ監視システムの平面図を図示している。 本発明のビデオ監視システムに関する流れ図を図示している。 本ビデオ監視システムに仕事を賦課するための流れ図を図示している。 本ビデオ監視システムを動作させるための流れ図を図示している。 本ビデオ監視システムのためにビデオプリミティブを抽出するための流れ図を図示している。 本ビデオ監視システムに対して措置を取るための流れ図を図示している。 本ビデオ監視システムの半自動較正に関する流れ図を図示している。 本ビデオ監視システムの自動較正に関する流れ図を図示している。 本発明のビデオ監視システムに関する更なる流れ図を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 食料品雑貨店を監視することに適用された本発明のビデオ監視システムの例を図示している。 本発明の一実施形態によるビデオ分析サブシステムの流れ図を示している。 本発明の一実施形態によるイベント発生検出および応答サブシステムの流れ図を示している。 例示的なデータベース問合せを示している。 本発明の種々の実施形態による3つの例示的なアクティビティ検出子:トリップワイヤ横切り(図18a)と、ぶらつき(図18b)と、窃盗(図18c)とを検出することを示している。 本発明の一実施形態によるアクティビティ検出子問合せを示している。 本発明の一実施形態によるアクティビティ検出子と修飾子を有するブール演算子とを使用する例示的な問合せを示している。 結合子とアクティビティ検出子と特性問合せとの多数のレベルを使用する例示的な問合せを示している。 結合子とアクティビティ検出子と特性問合せとの多数のレベルを使用する例示的な問合せを示している。 本発明の一実施形態によるビデオ監視システムの例示的な構成を示している。 本発明の一実施形態によるビデオ監視システムの別の例示的な構成を示している。 本発明の一実施形態によるビデオ監視システムの別の例示的な構成を示している。 本発明の実施形態の例示的な構成において使用され得るネットワークを示している。 本発明の一実施形態によるビデオ監視システムの例示的な構成を示している。 本発明の一実施形態によるビデオ監視システムの例示的な構成を示している。 本発明の一実施形態によるビデオ監視システムの例示的な構成を示している。

Claims (25)

  1. 入力ビデオ系列を分析し、少なくとも1つのビデオプリミティブを導き出すためのビデオ内容分析モジュールと、
    1つ以上のルールに基づいて少なくとも1つのイベントを検出するために前記ビデオ内容分析モジュールに接続されたイベント推測モジュールと、
    ユーザが前記イベント推測モジュールに関するルールを定義することを可能にするために前記イベント推測モジュールに接続されたアプリケーションプログラミングインタフェース(API)フレームワークと、
    を備えるビデオ処理装置。
  2. 当該ビデオ処理装置の外部のデバイスと前記APIフレームワークとの間の通信を容易にするために前記APIフレームワークに接続された通信モジュールを更に備える、請求項1に記載のビデオ処理装置。
  3. 前記通信モジュールがインターネットを介した通信を容易にするようになっている、請求項2に記載のビデオ処理装置。
  4. 前記ビデオ内容分析モジュールと前記イベント推測モジュールと前記APIフレームワークとは、処理サブシステム上でホスト的に機能し、
    当該ビデオ処理装置が、前記処理サブシステムに接続された主要処理システムを更に備え、
    前記主要処理システムが、
    前記ビデオ内容分析モジュールと前記イベント推測モジュールと前記APIフレームワークとによって与えられるアプリケーションとは異なる少なくとも1つの主要処理アプリケーションと、
    前記装置の外部のデバイスと前記装置との間の通信を容易にするように接続された通信モジュールとを備える、請求項1に記載のビデオ処理装置。
  5. 前記処理サブシステムが、ユーザが前記イベント推測モジュールに関してルールを作成することを可能にするために前記APIフレームワークに接続されたルールソフトウエア開発キット(SDK)を更に備える、請求項4に記載のビデオ処理装置。
  6. 前記ルールSDKが少なくとも1つの完全に形成され、所定のルールを前記ユーザに公開する、請求項5に記載のビデオ処理装置。
  7. 前記ルールSDKがルール言語と少なくとも1つの所定のプリミティブ定義とを前記ユーザに公開する、請求項5に記載のビデオ処理装置。
  8. 前記主要処理システムが前記通信モジュールに接続されたウェブサービスモジュールを更に備える、請求項4に記載のビデオ処理装置。
  9. 前記少なくとも1つの主要処理アプリケーションが前記イベント推測モジュールからの警告を受信するようになっている、請求項4に記載のビデオ処理装置。
  10. 前記主要処理アプリケーションが前記警告に応答して当該ビデオ処理装置の少なくとも1つの機能を制御するようになっている、請求項9に記載のビデオ処理装置。
  11. 前記主要処理システムと前記処理サブシステムとは共通のハードウエアプラットフォーム上でホスト的に機能する、請求項4に記載のビデオ処理装置。
  12. 前記主要処理システムと前記処理サブシステムとは別々のハードウエアプラットフォーム上でホスト的に機能する、請求項4に記載のビデオ処理装置。
  13. 前記別々のハードウエアプラットフォームが互いに電気的に接続される、請求項12に記載のビデオ処理装置。
  14. 請求項2に記載のビデオ処理装置と、
    通信ネットワークとのインタフェースを与えるために前記通信モジュールに接続されたセンサと、
    を備えるビデオ分析システム。
  15. 前記装置から遠く離れて配置され、圧縮されたビデオと警告とからなるグループの少なくとも1つを受信するために前記ネットワークに接続された警告ユニットを更に備える、請求項14に記載のビデオ分析システム。
  16. 前記イベント推測モジュールに少なくとも1つのルールを与えるために前記ネットワークに接続されたルール管理ツールを更に備える、請求項14に記載のビデオ分析システム。
  17. 前記イベント推測モジュールによる使用のためのルールをユーザが開発することを可能にするためのルールユーザインタフェースと、
    前記ルールユーザインタフェースに接続され、前記ネットワークを介した前記センサとの通信を容易にするためのサポートを含むルールSDKと、
    を更に備える、請求項14に記載のビデオ分析システム。
  18. 前記ルールSDKが少なくとも1つの完全に形成され、所定のルールを前記ユーザに公開する、請求項17に記載のビデオ分析システム。
  19. 前記ルールSDKがルール言語と1つ以上の所定のプリミティブ定義とを前記ユーザに公開する、請求項17に記載のビデオ分析システム。
  20. 請求項8に記載のビデオ処理装置と、
    前記イベント推測モジュールに関するルールをユーザが作成することを可能にするためにインターネットを介して前記装置に接続されたデバイスと、
    を備えるビデオ分析システム。
  21. 少なくとも1つの検出されたビデオプリミティブに基づいてビデオ系列における少なくとも1つのアクティビティを検出するための少なくとも1つのルールを作成するステップと、
    前記少なくとも1つのルールに基づいて前記ビデオ系列内に少なくとも1つのアクティビティが存在するかどうかを検出するステップと、
    を備えるビデオ処理方法。
  22. 前記検出することが前記少なくとも1つのアクティビティを検出する場合に、少なくとも1つの警告を生成するステップを更に備える、請求項21に記載のビデオ処理方法。
  23. 前記作成するステップが、
    ルールとルールを作成するための命令とからなるグループの少なくとも1つを、前記少なくとも1つのアクティビティを検出するための装置の外部のデバイスから前記少なくとも1つのアクティビティを検出するための前記装置に伝達する工程を備える、請求項21に記載のビデオ処理方法。
  24. コンピュータシステムによって実行されるときに前記コンピュータシステムに請求項21に記載のビデオ処理方法を実行させる命令を含むコンピュータ可読媒体。
  25. 請求項24に記載のコンピュータ可読媒体と、
    前記コンピュータ可読媒体に含まれる前記命令を実行するために前記コンピュータ可読媒体に接続されたコンピュータと、
    を備えるビデオ処理システム。
JP2008519525A 2005-06-28 2006-06-27 ビデオプリミティブを使用するビデオ監視システム Pending JP2009500917A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/167,218 US9892606B2 (en) 2001-11-15 2005-06-28 Video surveillance system employing video primitives
PCT/US2006/025196 WO2007002763A2 (en) 2005-06-28 2006-06-27 Video surveillance system employing video primitives

Publications (1)

Publication Number Publication Date
JP2009500917A true JP2009500917A (ja) 2009-01-08

Family

ID=37596024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008519525A Pending JP2009500917A (ja) 2005-06-28 2006-06-27 ビデオプリミティブを使用するビデオ監視システム

Country Status (10)

Country Link
US (1) US9892606B2 (ja)
EP (1) EP1900215A4 (ja)
JP (1) JP2009500917A (ja)
KR (1) KR20080024541A (ja)
CN (1) CN101310288B (ja)
CA (1) CA2613602A1 (ja)
IL (1) IL188426A0 (ja)
MX (1) MX2008000421A (ja)
TW (1) TW200714075A (ja)
WO (1) WO2007002763A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010226687A (ja) * 2009-02-27 2010-10-07 Sony Corp 画像処理装置、画像処理システム、カメラ装置、画像処理方法、およびプログラム
JP2010272947A (ja) * 2009-05-19 2010-12-02 Panasonic Corp 持ち去り/置き去り判定装置及び持ち去り/置き去り判定方法

Families Citing this family (166)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8711217B2 (en) 2000-10-24 2014-04-29 Objectvideo, Inc. Video surveillance system employing video primitives
US8564661B2 (en) 2000-10-24 2013-10-22 Objectvideo, Inc. Video analytic rule detection system and method
US7868912B2 (en) * 2000-10-24 2011-01-11 Objectvideo, Inc. Video surveillance system employing video primitives
US20050162515A1 (en) * 2000-10-24 2005-07-28 Objectvideo, Inc. Video surveillance system
US20050146605A1 (en) 2000-10-24 2005-07-07 Lipton Alan J. Video surveillance system employing video primitives
US8081214B2 (en) 2004-10-12 2011-12-20 Enforcement Video, Llc Method of and system for mobile surveillance and event recording
US9910341B2 (en) 2005-01-31 2018-03-06 The Invention Science Fund I, Llc Shared image device designation
US9489717B2 (en) 2005-01-31 2016-11-08 Invention Science Fund I, Llc Shared image device
US9325781B2 (en) 2005-01-31 2016-04-26 Invention Science Fund I, Llc Audio sharing
US8112326B2 (en) * 2005-02-03 2012-02-07 TimeSight Systems, Inc. Inventory management tracking control system
US9967424B2 (en) 2005-06-02 2018-05-08 Invention Science Fund I, Llc Data storage usage protocol
US10003762B2 (en) 2005-04-26 2018-06-19 Invention Science Fund I, Llc Shared image devices
US9191611B2 (en) 2005-06-02 2015-11-17 Invention Science Fund I, Llc Conditional alteration of a saved image
US9621749B2 (en) 2005-06-02 2017-04-11 Invention Science Fund I, Llc Capturing selected image objects
US9451200B2 (en) 2005-06-02 2016-09-20 Invention Science Fund I, Llc Storage access technique for captured data
US20070098348A1 (en) * 2005-10-31 2007-05-03 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Degradation/preservation management of captured data
US9819490B2 (en) 2005-05-04 2017-11-14 Invention Science Fund I, Llc Regional proximity for shared image device(s)
US9942511B2 (en) 2005-10-31 2018-04-10 Invention Science Fund I, Llc Preservation/degradation of video/audio aspects of a data stream
JP4718602B2 (ja) * 2005-06-02 2011-07-06 ヒョグ キム 動体入退方向認識装置
US7801330B2 (en) * 2005-06-24 2010-09-21 Objectvideo, Inc. Target detection and tracking from video streams
US7796780B2 (en) * 2005-06-24 2010-09-14 Objectvideo, Inc. Target detection and tracking from overhead video streams
KR20080075091A (ko) * 2005-09-12 2008-08-14 쓰리브이알 시큐리티, 인크. 실시간 경보 및 포렌식 분석을 위한 비디오 분석 데이터의저장
TW200727684A (en) * 2006-01-03 2007-07-16 Avermedia Tech Inc A system for grabbing images from an IP camera
WO2007127556A1 (en) * 2006-04-28 2007-11-08 Symbol Technologies, Inc. Methods and apparatus for visual tracking of rf elements
US8334906B2 (en) * 2006-05-24 2012-12-18 Objectvideo, Inc. Video imagery-based sensor
US7468662B2 (en) * 2006-06-16 2008-12-23 International Business Machines Corporation Method for spatio-temporal event detection using composite definitions for camera systems
TW200822751A (en) * 2006-07-14 2008-05-16 Objectvideo Inc Video analytics for retail business process monitoring
JP4148285B2 (ja) * 2006-07-27 2008-09-10 ソニー株式会社 監視装置、フィルタ較正方法及びフィルタ較正プログラム
US20080074496A1 (en) * 2006-09-22 2008-03-27 Object Video, Inc. Video analytics for banking business process monitoring
US20080184245A1 (en) * 2007-01-30 2008-07-31 March Networks Corporation Method and system for task-based video analytics processing
US7840515B2 (en) * 2007-02-16 2010-11-23 Panasonic Corporation System architecture and process for automating intelligent surveillance center operations
US20080273754A1 (en) * 2007-05-04 2008-11-06 Leviton Manufacturing Co., Inc. Apparatus and method for defining an area of interest for image sensing
GB0709329D0 (en) * 2007-05-15 2007-06-20 Ipsotek Ltd Data processing apparatus
TW200924534A (en) * 2007-06-04 2009-06-01 Objectvideo Inc Intelligent video network protocol
US20090031381A1 (en) * 2007-07-24 2009-01-29 Honeywell International, Inc. Proxy video server for video surveillance
JP2009033369A (ja) * 2007-07-26 2009-02-12 Sony Corp 記録装置、再生装置、記録再生装置、撮像装置、記録方法およびプログラム
US9858580B2 (en) 2007-11-07 2018-01-02 Martin S. Lyons Enhanced method of presenting multiple casino video games
US20100153146A1 (en) * 2008-12-11 2010-06-17 International Business Machines Corporation Generating Generalized Risk Cohorts
CN101472146B (zh) * 2007-12-28 2010-11-10 鸿富锦精密工业(深圳)有限公司 视频监控系统及方法
US9270950B2 (en) * 2008-01-03 2016-02-23 International Business Machines Corporation Identifying a locale for controlling capture of data by a digital life recorder based on location
JP5213105B2 (ja) * 2008-01-17 2013-06-19 株式会社日立製作所 映像ネットワークシステム及び映像データ管理方法
US20090213218A1 (en) 2008-02-15 2009-08-27 Andrew Cilia System and method for multi-resolution storage of images
TWI394401B (zh) * 2008-02-22 2013-04-21 Chunghwa Telecom Co Ltd 遠端視訊監控管理系統
AU2008200926B2 (en) * 2008-02-28 2011-09-29 Canon Kabushiki Kaisha On-camera summarisation of object relationships
US9019381B2 (en) 2008-05-09 2015-04-28 Intuvision Inc. Video tracking systems and methods employing cognitive vision
SG191663A1 (en) * 2008-06-23 2013-07-31 Mitsubishi Electric Corp In-train monitor system and in-train monitor method
US8941735B2 (en) * 2008-07-25 2015-01-27 International Business Machines Corporation Network based real-time analytics of raw video streams
US8325228B2 (en) * 2008-07-25 2012-12-04 International Business Machines Corporation Performing real-time analytics using a network processing solution able to directly ingest IP camera video streams
US9214074B1 (en) 2008-08-29 2015-12-15 Target Brands, Inc. Video monitoring system for a path
US8502869B1 (en) 2008-09-03 2013-08-06 Target Brands Inc. End cap analytic monitoring method and apparatus
US8301443B2 (en) 2008-11-21 2012-10-30 International Business Machines Corporation Identifying and generating audio cohorts based on audio data input
US8749570B2 (en) 2008-12-11 2014-06-10 International Business Machines Corporation Identifying and generating color and texture video cohorts based on video input
US8417035B2 (en) * 2008-12-12 2013-04-09 International Business Machines Corporation Generating cohorts based on attributes of objects identified using video input
US20100153174A1 (en) * 2008-12-12 2010-06-17 International Business Machines Corporation Generating Retail Cohorts From Retail Data
US8190544B2 (en) * 2008-12-12 2012-05-29 International Business Machines Corporation Identifying and generating biometric cohorts based on biometric sensor input
US20100153147A1 (en) * 2008-12-12 2010-06-17 International Business Machines Corporation Generating Specific Risk Cohorts
US20100153597A1 (en) * 2008-12-15 2010-06-17 International Business Machines Corporation Generating Furtive Glance Cohorts from Video Data
US20100153133A1 (en) * 2008-12-16 2010-06-17 International Business Machines Corporation Generating Never-Event Cohorts from Patient Care Data
US8219554B2 (en) 2008-12-16 2012-07-10 International Business Machines Corporation Generating receptivity scores for cohorts
US20100153390A1 (en) * 2008-12-16 2010-06-17 International Business Machines Corporation Scoring Deportment and Comportment Cohorts
US11145393B2 (en) 2008-12-16 2021-10-12 International Business Machines Corporation Controlling equipment in a patient care facility based on never-event cohorts from patient care data
US8493216B2 (en) 2008-12-16 2013-07-23 International Business Machines Corporation Generating deportment and comportment cohorts
US20100153180A1 (en) * 2008-12-16 2010-06-17 International Business Machines Corporation Generating Receptivity Cohorts
US9293017B2 (en) * 2009-02-26 2016-03-22 Tko Enterprises, Inc. Image processing sensor systems
US9277878B2 (en) * 2009-02-26 2016-03-08 Tko Enterprises, Inc. Image processing sensor systems
US9740921B2 (en) 2009-02-26 2017-08-22 Tko Enterprises, Inc. Image processing sensor systems
US9788017B2 (en) 2009-10-07 2017-10-10 Robert Laganiere Video analytics with pre-processing at the source end
WO2011041904A1 (en) 2009-10-07 2011-04-14 Telewatch Inc. Video analytics method and system
JP5570176B2 (ja) * 2009-10-19 2014-08-13 キヤノン株式会社 画像処理システム及び情報処理方法
EP2497272A1 (en) * 2009-11-04 2012-09-12 Koninklijke Philips Electronics N.V. Methods and systems for providing a combination of media data and metadata
US20110181716A1 (en) * 2010-01-22 2011-07-28 Crime Point, Incorporated Video surveillance enhancement facilitating real-time proactive decision making
FR2957180B1 (fr) * 2010-03-03 2012-10-26 Jovan Zisic Procede de surveillance de la trajectoire d'un objet traversant le reseau des capteurs infrarouges et de generation d'avertissements precoces par controle d'itineraire
SE534706C2 (sv) * 2010-04-16 2011-11-22 Metod för videoövervakning av ett område med beteendeanalys och datorsystem för genomförande av metoden
US9143739B2 (en) 2010-05-07 2015-09-22 Iwatchlife, Inc. Video analytics with burst-like transmission of video data
US8594482B2 (en) 2010-05-13 2013-11-26 International Business Machines Corporation Auditing video analytics through essence generation
CN101873414B (zh) * 2010-05-17 2012-02-08 清华大学 一种基于分层结构的事件视频检测系统
US8478048B2 (en) 2010-07-08 2013-07-02 International Business Machines Corporation Optimization of human activity determination from video
CA2748060A1 (en) 2010-08-04 2012-02-04 Iwatchlife Inc. Method and system for making video calls
CA2748065A1 (en) 2010-08-04 2012-02-04 Iwatchlife Inc. Method and system for locating an individual
US8885007B2 (en) 2010-08-04 2014-11-11 Iwatchlife, Inc. Method and system for initiating communication via a communication network
TWI407386B (zh) * 2010-08-19 2013-09-01 Jung Pin Sung 影像自動追蹤之監控方法
TWI502552B (zh) * 2010-08-19 2015-10-01 Jung Pin Sung 影像監控方法
US9609281B2 (en) * 2010-09-29 2017-03-28 International Business Machines Corporation Validating asset movement using virtual tripwires and a RFID-enabled asset management system
US10318877B2 (en) 2010-10-19 2019-06-11 International Business Machines Corporation Cohort-based prediction of a future event
US9049348B1 (en) * 2010-11-10 2015-06-02 Target Brands, Inc. Video analytics for simulating the motion tracking functionality of a surveillance camera
US8958478B2 (en) * 2010-12-03 2015-02-17 Technische Universitaet Berlin Method and device for processing pixels contained in a video sequence
US9226037B2 (en) 2010-12-30 2015-12-29 Pelco, Inc. Inference engine for video analytics metadata-based event detection and forensic search
US8737688B2 (en) 2011-02-10 2014-05-27 William A. Murphy Targeted content acquisition using image analysis
EP2681722B1 (de) * 2011-03-04 2017-12-20 Deutsche Telekom AG Verfahren und system zur sturzerkennung und weitergabe eines alarms
GB201109026D0 (en) * 2011-05-31 2011-07-13 Thomas Nithin Data distribution system
TWI448975B (zh) * 2011-07-15 2014-08-11 Chunghwa Telecom Co Ltd 應用於影像監控平台的分散式運算系統
TWI448147B (zh) * 2011-09-06 2014-08-01 Hon Hai Prec Ind Co Ltd 電子裝置及其選單選擇方法
EP2568414A1 (en) * 2011-09-09 2013-03-13 Nederlandse Organisatie voor toegepast- natuurwetenschappelijk onderzoek TNO Surveillance system and method for detecting behavior of groups of actors
JP6190369B2 (ja) * 2011-09-22 2017-08-30 フィリップス ライティング ホールディング ビー ヴィ 屋外照明ネットワークを使用する撮像サービス
US8917913B2 (en) 2011-09-22 2014-12-23 International Business Machines Corporation Searching with face recognition and social networking profiles
TWI450207B (zh) 2011-12-26 2014-08-21 Ind Tech Res Inst 物件追蹤的方法、系統、電腦程式產品與記錄媒體
CN102620673A (zh) * 2012-03-16 2012-08-01 同济大学 基于图像分析的隧道变形在线监测系统及其应用
US8947515B2 (en) * 2012-05-15 2015-02-03 Elwha Llc Systems and methods for registering advertisement viewing
CA2822217A1 (en) 2012-08-02 2014-02-02 Iwatchlife Inc. Method and system for anonymous video analytics processing
US10289917B1 (en) 2013-11-12 2019-05-14 Kuna Systems Corporation Sensor to characterize the behavior of a visitor or a notable event
DE102012215544A1 (de) * 2012-08-31 2014-03-06 Siemens Aktiengesellschaft Überwachung einer Bahnstrecke
US9230250B1 (en) * 2012-08-31 2016-01-05 Amazon Technologies, Inc. Selective high-resolution video monitoring in a materials handling facility
WO2014039050A1 (en) 2012-09-07 2014-03-13 Siemens Aktiengesellschaft Methods and apparatus for establishing exit/entry criteria for a secure location
US9940525B2 (en) * 2012-11-19 2018-04-10 Mace Wolf Image capture with privacy protection
KR101747218B1 (ko) * 2012-12-03 2017-06-15 한화테크윈 주식회사 감시 시스템에서의 호스트 장치의 동작 방법, 및 이 방법을 채용한 감시 시스템
US8866612B1 (en) 2012-12-14 2014-10-21 Target Brands, Inc. Suppressing alerts for RFID systems
US20140200739A1 (en) * 2013-01-15 2014-07-17 Honda Motor Co., Ltd. Enhancing vehicle connectivity
US20180278894A1 (en) * 2013-02-07 2018-09-27 Iomniscient Pty Ltd Surveillance system
CA3091605A1 (en) 2013-03-15 2014-09-15 James Carey Investigation generation in an observation and surveillance system
US10657755B2 (en) * 2013-03-15 2020-05-19 James Carey Investigation generation in an observation and surveillance system
KR101331195B1 (ko) * 2013-05-24 2013-11-19 주식회사 이도링크 사생활보호형 감시시스템
US9436692B1 (en) * 2013-06-25 2016-09-06 Emc Corporation Large scale video analytics architecture
JP5683663B1 (ja) * 2013-09-27 2015-03-11 パナソニックIpマネジメント株式会社 滞留時間測定装置、滞留時間測定システムおよび滞留時間測定方法
US20150249548A1 (en) * 2014-02-28 2015-09-03 Tyco Fire & Security Gmbh Establishing Links Between Sub-Nets
US9316720B2 (en) * 2014-02-28 2016-04-19 Tyco Fire & Security Gmbh Context specific management in wireless sensor network
JP5834254B2 (ja) * 2014-04-11 2015-12-16 パナソニックIpマネジメント株式会社 人数計測装置、人数計測システムおよび人数計測方法
JPWO2015166612A1 (ja) * 2014-04-28 2017-04-20 日本電気株式会社 映像解析システム、映像解析方法および映像解析プログラム
US10679671B2 (en) * 2014-06-09 2020-06-09 Pelco, Inc. Smart video digest system and method
US10699130B2 (en) * 2014-07-25 2020-06-30 Nec Corporation Image processing apparatus, monitoring system, image processing method, and program
CN104270619B (zh) * 2014-10-22 2018-05-18 中国建设银行股份有限公司 一种安全告警方法及装置
US9861178B1 (en) 2014-10-23 2018-01-09 WatchGuard, Inc. Method and system of securing wearable equipment
CN104301686A (zh) * 2014-10-27 2015-01-21 青岛宝微视控信息技术有限公司 智能视频分析系统及视频分析方法
CA2972798A1 (en) * 2014-12-30 2016-07-07 Morphotrust Usa, Llc Video triggered analyses
US9660744B1 (en) 2015-01-13 2017-05-23 Enforcement Video, Llc Systems and methods for adaptive frequency synchronization
US9602761B1 (en) 2015-01-22 2017-03-21 Enforcement Video, Llc Systems and methods for intelligently recording a live media stream
US10250804B2 (en) * 2015-04-07 2019-04-02 Vivint, Inc. Induction-powered camera
DE102015208273A1 (de) * 2015-05-05 2016-11-10 Siemens Aktiengesellschaft Verfahren und Vorrichtung zum Anzeigen eines Prozessgeschehens zumindest einer Eisenbahnsicherungseinrichtung sowie Eisenbahnsicherungssystem mit einer derartigen Vorrichtung
US10007849B2 (en) * 2015-05-29 2018-06-26 Accenture Global Solutions Limited Predicting external events from digital video content
WO2017046651A2 (en) * 2015-09-17 2017-03-23 Valdhorn Dan Method and apparatus for privacy preserving optical monitoring
US10378911B1 (en) 2016-01-05 2019-08-13 Open Invention Network Llc Navigation application providing collaborative navigation information
US20170254876A1 (en) * 2016-03-07 2017-09-07 Symbol Technologies, Llc Arrangement for, and method of, sensing targets with improved performance in a venue
US10250433B1 (en) 2016-03-25 2019-04-02 WatchGuard, Inc. Method and system for peer-to-peer operation of multiple recording devices
US20170289504A1 (en) * 2016-03-31 2017-10-05 Ants Technology (Hk) Limited. Privacy Supporting Computer Vision Systems, Methods, Apparatuses and Associated Computer Executable Code
US10341605B1 (en) 2016-04-07 2019-07-02 WatchGuard, Inc. Systems and methods for multiple-resolution storage of media streams
US11438552B2 (en) * 2016-05-27 2022-09-06 Hanwha Techwin Co., Ltd. Device and method for controlling OSD protocol
WO2018081328A1 (en) * 2016-10-26 2018-05-03 Ring Inc. Customizable intrusion zones for audio/video recording and communication devices
US11563895B2 (en) * 2016-12-21 2023-01-24 Motorola Solutions, Inc. System and method for displaying objects of interest at an incident scene
WO2018163547A1 (ja) * 2017-03-06 2018-09-13 日本電気株式会社 商品監視装置、商品監視システム、出力先装置、商品監視方法、表示方法及びプログラム
CN108304755B (zh) * 2017-03-08 2021-05-18 腾讯科技(深圳)有限公司 用于图像处理的神经网络模型的训练方法和装置
US20180300557A1 (en) * 2017-04-18 2018-10-18 Amazon Technologies, Inc. Object analysis in live video content
US10489654B1 (en) * 2017-08-04 2019-11-26 Amazon Technologies, Inc. Video analysis method and system
KR101972331B1 (ko) 2017-08-29 2019-04-25 키튼플래닛 주식회사 영상 얼라인먼트 방법 및 그 장치
US10594940B1 (en) * 2018-01-12 2020-03-17 Vulcan Inc. Reduction of temporal and spatial jitter in high-precision motion quantification systems
US10972647B2 (en) * 2018-02-09 2021-04-06 Camera Control At A Distance, Llc System to control camera function remotely
EP3547165B1 (en) * 2018-03-26 2023-06-07 Rosemount Aerospace Limited Image tile request service
US10659514B2 (en) * 2018-03-28 2020-05-19 Arlo Technologies, Inc. System for video monitoring with adaptive bitrate to sustain image quality
US11206375B2 (en) 2018-03-28 2021-12-21 Gal Zuckerman Analyzing past events by utilizing imagery data captured by a plurality of on-road vehicles
US11138418B2 (en) 2018-08-06 2021-10-05 Gal Zuckerman Systems and methods for tracking persons by utilizing imagery data captured by on-road vehicles
TWI675331B (zh) * 2018-08-31 2019-10-21 財團法人工業技術研究院 儲物裝置及儲物方法
KR102600203B1 (ko) * 2018-09-04 2023-11-10 현대자동차주식회사 영상 처리 장치, 그를 가지는 차량 및 그 제어 방법
CN109089160B (zh) * 2018-09-19 2020-11-03 中国石油大学(华东) 一种高校餐厅食品加工违规行为视频分析系统及方法
US11321568B1 (en) * 2018-10-16 2022-05-03 EVES Technology, Inc. Method for real-time integrated t+2D DWT video compression and low-level video analysis within an intelligent camera optionally embedded in an end-to-end AAL system
US11670080B2 (en) * 2018-11-26 2023-06-06 Vulcan, Inc. Techniques for enhancing awareness of personnel
US10872400B1 (en) 2018-11-28 2020-12-22 Vulcan Inc. Spectral selection and transformation of image frames
US11044404B1 (en) 2018-11-28 2021-06-22 Vulcan Inc. High-precision detection of homogeneous object activity in a sequence of images
AU2020202221A1 (en) * 2019-03-29 2020-10-22 Round Pixel Pty Ltd Privacy preserving visitor recognition and movement pattern analysis based on computer vision
US10867187B2 (en) * 2019-04-12 2020-12-15 Ncr Corporation Visual-based security compliance processing
US11037225B2 (en) * 2019-04-25 2021-06-15 Capital One Services, Llc Generating augmented reality vehicle information for a vehicle captured by cameras in a vehicle lot
CN110602631B (zh) * 2019-06-11 2021-03-05 东华大学 Lbs中抵御推测攻击的位置数据的处理方法和处理装置
US11757706B2 (en) * 2019-07-19 2023-09-12 Razberi Secure Technologies, Llc Switch monitoring system and method of use
LU101413B1 (en) 2019-09-27 2021-03-31 Clear Image Ai S A R L Connected entities tracking
WO2021150976A1 (en) * 2020-01-24 2021-07-29 Synchrony Bank Systems and methods for machine vision based object recognition
FR3114718A1 (fr) * 2020-09-30 2022-04-01 Commissariat à l'énergie atomique et aux énergies alternatives Dispositif de compensation du mouvement d’un capteur événementiel et système d’observation et procédé associés
US11523145B2 (en) * 2021-01-04 2022-12-06 Western Digital Technologies, Inc. Data storage device and method for real-time data locking in surveillance storage
WO2023084258A1 (en) * 2021-11-10 2023-05-19 Digital Surgery Limited Compression of catalogue of surgical video
WO2023191768A1 (en) * 2022-03-28 2023-10-05 Eyes Technology, Inc. A method for real-time integrated 't+2d' dwt video compression and low-level video analysis within and intelligent camera optinally embedded in an end-to-end aal system

Family Cites Families (418)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3812287A (en) * 1969-05-12 1974-05-21 J Lemelson Video detection system
US3812278A (en) 1972-02-01 1974-05-21 Kustom Electronics Special effect amplifier for electrical musical instruments
US3988533A (en) 1974-09-30 1976-10-26 Video Tek, Inc. Video-type universal motion and intrusion detection system
DE2617111C3 (de) 1976-04-17 1986-02-20 Robert Bosch Gmbh, 7000 Stuttgart Verfahren zum Feststellen einer Bewegung im Überwachungsbereich einer Fernsehkamera
DE2715083C3 (de) 1977-04-04 1983-02-24 Robert Bosch Gmbh, 7000 Stuttgart System zur Diskrimination eines Videosignals
CA1116286A (en) * 1979-02-20 1982-01-12 Control Data Canada, Ltd. Perimeter surveillance system
US4257063A (en) * 1979-03-23 1981-03-17 Ham Industries, Inc. Video monitoring system and method
EP0062655B1 (en) 1980-10-22 1986-10-15 The Commonwealth Of Australia Video movement detector
IT1172823B (it) 1983-02-16 1987-06-18 Veltronic Spa Apparecchiatura di telesegnalazione, particolarmente adatta per funzioni di telesorveglianza
US4539590A (en) * 1983-03-08 1985-09-03 Gage Richard J Method and apparatus for processing optical tracking signals
JP2528789B2 (ja) 1985-06-26 1996-08-28 中央電子 株式会社 映像情報管理装置
GB2183878B (en) * 1985-10-11 1989-09-20 Matsushita Electric Works Ltd Abnormality supervising system
US4764971A (en) 1985-11-25 1988-08-16 Eastman Kodak Company Image processing method including image segmentation
JP2508439B2 (ja) 1987-05-29 1996-06-19 ソニー株式会社 高能率符号化装置
US4941182A (en) 1987-07-29 1990-07-10 Phoenix Software Development Co. Vision system and method for automated painting equipment
US4949389A (en) 1987-10-09 1990-08-14 The United States Of America As Represented By The United States Department Of Energy Optical ranked-order filtering using threshold decomposition
JPH0695008B2 (ja) * 1987-12-11 1994-11-24 株式会社東芝 監視装置
JPH01177195A (ja) 1988-01-06 1989-07-13 Oki Electric Ind Co Ltd 監視装置
JPH01244598A (ja) 1988-03-25 1989-09-28 Toshiba Corp 画像監視装置
US4857912A (en) 1988-07-27 1989-08-15 The United States Of America As Represented By The Secretary Of The Navy Intelligent security assessment system
JP2865697B2 (ja) 1989-03-20 1999-03-08 株式会社日立製作所 エクスチャ分離方法
JPH0335399A (ja) * 1989-06-30 1991-02-15 Toshiba Corp 変化領域統合装置
JPH03242592A (ja) 1990-02-21 1991-10-29 Toshiba Corp 画像監視装置
US5099322A (en) 1990-02-27 1992-03-24 Texas Instruments Incorporated Scene change detection system and method
US5048095A (en) 1990-03-30 1991-09-10 Honeywell Inc. Adaptive image segmentation system
US5091780A (en) 1990-05-09 1992-02-25 Carnegie-Mellon University A trainable security system emthod for the same
JP3222456B2 (ja) 1990-07-30 2001-10-29 株式会社東芝 映像監視システム、送信装置、受信装置、および映像監視方法
US5161107A (en) 1990-10-25 1992-11-03 Mestech Creation Corporation Traffic surveillance system
US5243418A (en) * 1990-11-27 1993-09-07 Kabushiki Kaisha Toshiba Display monitoring system for detecting and tracking an intruder in a monitor area
US5321396A (en) 1991-02-07 1994-06-14 Xerox Corporation Indexing of audio/video data
US5296852A (en) 1991-02-27 1994-03-22 Rathi Rajendra P Method and apparatus for monitoring traffic flow
US5159647A (en) 1991-03-04 1992-10-27 David Sarnoff Research Center, Inc. Fast and efficient search method for graphical data
JPH0514891A (ja) 1991-06-28 1993-01-22 Toshiba Corp 画像監視装置
US5164827A (en) * 1991-08-22 1992-11-17 Sensormatic Electronics Corporation Surveillance system with master camera control of slave cameras
US5610653A (en) * 1992-02-07 1997-03-11 Abecassis; Max Method and system for automatically tracking a zoomed video image
JPH05284501A (ja) 1992-04-06 1993-10-29 Mitsubishi Electric Corp 侵入監視画像装置
US5576972A (en) 1992-05-08 1996-11-19 Harrison; Dana C. Intelligent area monitoring system
WO1994003014A1 (en) 1992-07-24 1994-02-03 Koz Mark C Low power video security monitoring system
JPH0652311A (ja) 1992-07-31 1994-02-25 Kubota Corp 画像処理方法
JPH0676047A (ja) 1992-08-27 1994-03-18 Toshiba Corp 画像処理装置
US5331417A (en) * 1992-09-15 1994-07-19 Digital Pictures, Inc. System and method of displaying a plurality of digital video images
JP2894113B2 (ja) 1992-11-04 1999-05-24 松下電器産業株式会社 画像クラスタリング装置
US5987211A (en) 1993-01-11 1999-11-16 Abecassis; Max Seamless transmission of non-sequential video segments
JPH08272926A (ja) 1993-03-31 1996-10-18 Y M Syst Kk 人数検出装置
US6167143A (en) 1993-05-03 2000-12-26 U.S. Philips Corporation Monitoring system
CA2161873C (en) 1993-05-14 1999-11-09 Gary L. Conrad Video traffic monitor for retail establishments and the like
FR2706652B1 (fr) 1993-06-09 1995-08-18 Alsthom Cge Alcatel Dispositif de détection d'intrusions et d'usagers suspects pour ensemble informatique et système de sécurité comportant un tel dispositif.
US5696503A (en) 1993-07-23 1997-12-09 Condition Monitoring Systems, Inc. Wide area traffic surveillance using a multisensor tracking system
US5801943A (en) * 1993-07-23 1998-09-01 Condition Monitoring Systems Traffic surveillance and simulation apparatus
US5983251A (en) 1993-09-08 1999-11-09 Idt, Inc. Method and apparatus for data analysis
US7301536B2 (en) 1993-09-10 2007-11-27 Geovector Corporation Electro-optic vision systems
WO1995010915A1 (en) 1993-10-12 1995-04-20 Orad, Inc. Sports event video
US7859551B2 (en) * 1993-10-15 2010-12-28 Bulman Richard L Object customization and presentation system
US6351265B1 (en) * 1993-10-15 2002-02-26 Personalized Online Photo Llc Method and apparatus for producing an electronic image
JP3461190B2 (ja) 1993-12-07 2003-10-27 株式会社東芝 画像監視装置
US5586200A (en) 1994-01-07 1996-12-17 Panasonic Technologies, Inc. Segmentation based image compression system
US5515453A (en) * 1994-01-21 1996-05-07 Beacon System, Inc. Apparatus and method for image processing in symbolic space
US5491511A (en) * 1994-02-04 1996-02-13 Odle; James A. Multimedia capture and audit system for a video surveillance network
DE4407528C2 (de) 1994-03-07 1998-04-09 Sq Services Ag Bewegungsmelder und Verfahren zur Bewegungsmeldung
JP3123587B2 (ja) 1994-03-09 2001-01-15 日本電信電話株式会社 背景差分による動物体領域抽出方法
IL113434A0 (en) * 1994-04-25 1995-07-31 Katz Barry Surveillance system and method for asynchronously recording digital data with respect to video data
US5521634A (en) * 1994-06-17 1996-05-28 Harris Corporation Automatic detection and prioritized image transmission system and method
US5526133A (en) 1994-06-28 1996-06-11 Sensormatic Electronics Corporation System and method for logging and retrieving information on video cassettes in a computer controlled surveillance system
US5774569A (en) 1994-07-25 1998-06-30 Waldenmaier; H. Eugene W. Surveillance system
JP3428166B2 (ja) 1994-08-26 2003-07-22 松下電工株式会社 クラスタリング方法およびその装置
US5461353A (en) * 1994-08-30 1995-10-24 Motorola, Inc. Printed circuit board inductor
JP3183320B2 (ja) 1994-08-31 2001-07-09 日本電信電話株式会社 移動物体方向別計数方法および装置
US5671294A (en) 1994-09-15 1997-09-23 The United States Of America As Represented By The Secretary Of The Navy System and method for incorporating segmentation boundaries into the calculation of fractal dimension features for texture discrimination
US5844603A (en) 1994-09-21 1998-12-01 Kabushiki Kaisha Toshiba Image data processing apparatus having functions of dividing the image data, and method of processing image data
US5802361A (en) * 1994-09-30 1998-09-01 Apple Computer, Inc. Method and system for searching graphic images and videos
JP3153718B2 (ja) 1994-11-07 2001-04-09 ニッタン株式会社 侵入物検出装置および侵入物検出方法
US6014461A (en) * 1994-11-30 2000-01-11 Texas Instruments Incorporated Apparatus and method for automatic knowlege-based object identification
JPH08171681A (ja) 1994-12-19 1996-07-02 Hitachi Ltd 画像監視装置
KR960028217A (ko) 1994-12-22 1996-07-22 엘리 웨이스 움직임 검출 카메라 시스템 및 방법
US5485611A (en) 1994-12-30 1996-01-16 Intel Corporation Video database indexing and method of presenting video database index to a user
US5666157A (en) 1995-01-03 1997-09-09 Arc Incorporated Abnormality detection and surveillance system
US6044166A (en) 1995-01-17 2000-03-28 Sarnoff Corporation Parallel-pipelined image processing system
US5623249A (en) * 1995-01-26 1997-04-22 New Product Development, Inc. Video monitor motion sensor
US5708767A (en) 1995-02-03 1998-01-13 The Trustees Of Princeton University Method and apparatus for video browsing based on content and structure
US5872865A (en) * 1995-02-08 1999-02-16 Apple Computer, Inc. Method and system for automatic classification of video images
US5751345A (en) 1995-02-10 1998-05-12 Dozier Financial Corporation Image retention and information security system
JP3569992B2 (ja) 1995-02-17 2004-09-29 株式会社日立製作所 移動体検出・抽出装置、移動体検出・抽出方法及び移動体監視システム
US5850352A (en) 1995-03-31 1998-12-15 The Regents Of The University Of California Immersive video, including video hypermosaicing to generate from multiple video views of a scene a three-dimensional video mosaic from which diverse virtual video scene images are synthesized, including panoramic, scene interactive and stereoscopic images
US5724456A (en) 1995-03-31 1998-03-03 Polaroid Corporation Brightness adjustment of images using digital scene analysis
US5860086A (en) * 1995-06-07 1999-01-12 International Business Machines Corporation Video processor with serialization FIFO
US7076102B2 (en) 2001-09-27 2006-07-11 Koninklijke Philips Electronics N.V. Video monitoring system employing hierarchical hidden markov model (HMM) event learning and classification
US5684715A (en) 1995-06-07 1997-11-04 Canon Information Systems, Inc. Interactive video system with dynamic video object descriptors
US5802203A (en) 1995-06-07 1998-09-01 Xerox Corporation Image segmentation using robust mixture models
US5912980A (en) * 1995-07-13 1999-06-15 Hunke; H. Martin Target acquisition and tracking
US5926210A (en) * 1995-07-28 1999-07-20 Kalatel, Inc. Mobile, ground-based platform security system which transmits images that were taken prior to the generation of an input signal
US5999189A (en) 1995-08-04 1999-12-07 Microsoft Corporation Image compression to reduce pixel and texture memory requirements in a real-time image generator
US5886701A (en) * 1995-08-04 1999-03-23 Microsoft Corporation Graphics rendering device and method for operating same
US5864342A (en) 1995-08-04 1999-01-26 Microsoft Corporation Method and system for rendering graphical objects to image chunks
JPH0950585A (ja) 1995-08-07 1997-02-18 Hitachi Ltd 侵入者監視装置
JPH0954883A (ja) 1995-08-11 1997-02-25 Toshiba Corp 既知物体の進入検出方法およびその進入検出装置
JP3055438B2 (ja) 1995-09-27 2000-06-26 日本電気株式会社 3次元画像符号化装置
US5768413A (en) 1995-10-04 1998-06-16 Arch Development Corp. Method and apparatus for segmenting images using stochastically deformable contours
JPH09130783A (ja) 1995-10-31 1997-05-16 Matsushita Electric Ind Co Ltd 分散映像監視装置
DE19601005A1 (de) * 1996-01-15 1997-07-17 Bosch Gmbh Robert Verfahren zur Erkennung bewegter Objekte in zeitlich aufeinanderfolgenden Bildern
US5969755A (en) * 1996-02-05 1999-10-19 Texas Instruments Incorporated Motion based event detection system and method
US6049363A (en) 1996-02-05 2000-04-11 Texas Instruments Incorporated Object detection method and system for scene change analysis in TV and IR data
US5959690A (en) * 1996-02-20 1999-09-28 Sas Institute, Inc. Method and apparatus for transitions and other special effects in digital motion video
JPH09247654A (ja) 1996-03-07 1997-09-19 Fujitsu General Ltd 監視カメラシステム
JPH09252467A (ja) 1996-03-18 1997-09-22 Toshiba Corp 移動体検出装置
US5956081A (en) * 1996-10-23 1999-09-21 Katz; Barry Surveillance system having graphic video integration controller and full motion video switcher
JP3200663B2 (ja) 1996-03-29 2001-08-20 技研トラステム株式会社 移動体検出方法,移動体検出装置,及び移動体計数装置
JP3435623B2 (ja) 1996-05-15 2003-08-11 株式会社日立製作所 交通流監視装置
JP3279479B2 (ja) 1996-05-31 2002-04-30 株式会社日立国際電気 映像監視方法及び装置
US6091846A (en) 1996-05-31 2000-07-18 Texas Instruments Incorporated Method and system for anomaly detection
US6205239B1 (en) 1996-05-31 2001-03-20 Texas Instruments Incorporated System and method for circuit repair
JPH09330415A (ja) 1996-06-10 1997-12-22 Hitachi Ltd 画像監視方法および画像監視システム
US6084912A (en) 1996-06-28 2000-07-04 Sarnoff Corporation Very low bit rate video coding/decoding method and apparatus
GB9614837D0 (en) 1996-07-12 1996-09-04 Rank Xerox Ltd Interactive desktop system with multiple image capture and display modes
JP3800257B2 (ja) 1996-08-02 2006-07-26 オムロン株式会社 注目情報計測方法及び装置並びにそれを用いた各種システム
US6078619A (en) 1996-09-12 2000-06-20 University Of Bath Object-oriented video system
JPH10150656A (ja) 1996-09-20 1998-06-02 Hitachi Ltd 画像処理装置及び侵入者監視装置
KR100501902B1 (ko) 1996-09-25 2005-10-10 주식회사 팬택앤큐리텔 영상정보부호화/복호화장치및방법
JPH10116359A (ja) 1996-10-09 1998-05-06 Sony Corp カメラパラメータ演算装置及び画像合成装置
KR100211055B1 (ko) * 1996-10-28 1999-07-15 정선종 내용기반으로 분할된 영상객체들의 스케러블 전송방법
US5875305A (en) 1996-10-31 1999-02-23 Sensormatic Electronics Corporation Video information management system which provides intelligent responses to video data content features
EP1450306A3 (en) 1996-10-31 2009-07-15 Sensormatic Electronics Corporation Intelligent video information management system
US6031573A (en) * 1996-10-31 2000-02-29 Sensormatic Electronics Corporation Intelligent video information management system performing multiple functions in parallel
US5974235A (en) * 1996-10-31 1999-10-26 Sensormatic Electronics Corporation Apparatus having flexible capabilities for analysis of video information
US6035341A (en) * 1996-10-31 2000-03-07 Sensormatic Electronics Corporation Multimedia data analysis in intelligent video information management system
US5875304A (en) 1996-10-31 1999-02-23 Sensormatic Electronics Corporation User-settable features of an intelligent video information management system
US6088484A (en) * 1996-11-08 2000-07-11 Hughes Electronics Corporation Downloading of personalization layers for symbolically compressed objects
US5937092A (en) 1996-12-23 1999-08-10 Esco Electronics Rejection of light intrusion false alarms in a video security system
US5963203A (en) * 1997-07-03 1999-10-05 Obvious Technology, Inc. Interactive video icon with designated viewing position
TR199700058A2 (xx) 1997-01-29 1998-08-21 Onural Levent Kurallara dayalı hareketli nesne bölütlemesi.
US5983147A (en) 1997-02-06 1999-11-09 Sandia Corporation Video occupant detection and classification
GB9702849D0 (en) * 1997-02-12 1997-04-02 Trafficmaster Plc Traffic monitoring
US6008865A (en) 1997-02-14 1999-12-28 Eastman Kodak Company Segmentation-based method for motion-compensated frame interpolation
US6256115B1 (en) * 1997-02-21 2001-07-03 Worldquest Network, Inc. Facsimile network
US6115420A (en) * 1997-03-14 2000-09-05 Microsoft Corporation Digital video signal encoder and encoding method
US5764306A (en) 1997-03-18 1998-06-09 The Metaphor Group Real-time method of digitally altering a video data stream to remove portions of the original image and substitute elements to create a new image
US6249613B1 (en) 1997-03-31 2001-06-19 Sharp Laboratories Of America, Inc. Mosaic generation and sprite-based coding with automatic foreground and background separation
JP3812985B2 (ja) * 1997-04-04 2006-08-23 富士通株式会社 自動監視装置
JPH10283584A (ja) 1997-04-08 1998-10-23 Mitsubishi Heavy Ind Ltd 船舶航行監視装置及び方法
US6727938B1 (en) * 1997-04-14 2004-04-27 Robert Bosch Gmbh Security system with maskable motion detection and camera with an adjustable field of view
JPH10290449A (ja) 1997-04-14 1998-10-27 Shimizu Corp 映像監視システム
US5963202A (en) * 1997-04-14 1999-10-05 Instant Video Technologies, Inc. System and method for distributing and managing digital video information in a video distribution network
US5800549A (en) 1997-04-30 1998-09-01 Howmedica Inc. Method and apparatus for injecting an elastic spinal implant
EP0878965A3 (en) * 1997-05-14 2000-01-12 Hitachi Denshi Kabushiki Kaisha Method for tracking entering object and apparatus for tracking and monitoring entering object
US6456320B2 (en) 1997-05-27 2002-09-24 Sanyo Electric Co., Ltd. Monitoring system and imaging system
JP2002501711A (ja) 1997-06-04 2002-01-15 アスコム システツク アクチエンゲゼルシヤフト あらかじめ与えられた監視範囲を監視する方法
JPH1115982A (ja) 1997-06-24 1999-01-22 Nippon Denki Denpa Kiki Eng Kk 移動物体検出方法
JP3343056B2 (ja) 1997-06-25 2002-11-11 橋本義肢製作株式会社 頸椎装具
US8073921B2 (en) * 1997-07-01 2011-12-06 Advanced Technology Company, LLC Methods for remote monitoring and control of appliances over a computer network
US6573907B1 (en) * 1997-07-03 2003-06-03 Obvious Technology Network distribution and management of interactive video and multi-media containers
KR100251051B1 (ko) 1997-07-14 2000-04-15 윤종용 임의 형상 부호화 방법
EP0893923A1 (en) 1997-07-23 1999-01-27 Texas Instruments France Video communication system
JP3223246B2 (ja) 1997-07-25 2001-10-29 東レ・ダウコーニング・シリコーン株式会社 半導体装置
US6195458B1 (en) 1997-07-29 2001-02-27 Eastman Kodak Company Method for content-based temporal segmentation of video
US6091771A (en) * 1997-08-01 2000-07-18 Wells Fargo Alarm Services, Inc. Workstation for video security system
JP3774549B2 (ja) 1997-08-01 2006-05-17 キヤノン株式会社 印刷装置およびその給排紙指定方法
US6188777B1 (en) 1997-08-01 2001-02-13 Interval Research Corporation Method and apparatus for personnel detection and tracking
US6097429A (en) * 1997-08-01 2000-08-01 Esco Electronics Corporation Site control unit for video security system
US6069655A (en) 1997-08-01 2000-05-30 Wells Fargo Alarm Services, Inc. Advanced video security system
FR2766946B1 (fr) 1997-08-04 2000-08-11 Thomson Multimedia Sa Procede et dispositif de pretraitement pour estimation de mouvement
US6360234B2 (en) * 1997-08-14 2002-03-19 Virage, Inc. Video cataloger system with synchronized encoders
JP3171569B2 (ja) 1997-09-03 2001-05-28 日本電信電話株式会社 Atm通信網
US6188381B1 (en) 1997-09-08 2001-02-13 Sarnoff Corporation Modular parallel-pipelined vision system for real-time video processing
US6570610B1 (en) 1997-09-15 2003-05-27 Alan Kipust Security system with proximity sensing for an electronic device
US6058210A (en) 1997-09-15 2000-05-02 Xerox Corporation Using encoding cost data for segmentation of compressed image sequences
GB2329542B (en) * 1997-09-17 2002-03-27 Sony Uk Ltd Security control system and method of operation
US5990955A (en) 1997-10-03 1999-11-23 Innovacom Inc. Dual encoding/compression method and system for picture quality/data density enhancement
JP3567066B2 (ja) 1997-10-31 2004-09-15 株式会社日立製作所 移動体組合せ検出装置および方法
US6349113B1 (en) 1997-11-03 2002-02-19 At&T Corp. Method for detecting moving cast shadows object segmentation
GB9808712D0 (en) * 1997-11-05 1998-06-24 British Aerospace Automatic target recognition apparatus and process
US6304669B1 (en) 1997-11-10 2001-10-16 Asahi Kogaku Kogyo Kabushiki Kaisha Photogrammetric analytical measurement system
US6396961B1 (en) 1997-11-12 2002-05-28 Sarnoff Corporation Method and apparatus for fixating a camera on a target point using image alignment
KR100248374B1 (ko) 1997-11-25 2000-03-15 정선종 증강현실 시스템에서 카메라와 트랙커간의 오차 보정방법
US6166744A (en) 1997-11-26 2000-12-26 Pathfinder Systems, Inc. System for combining virtual images with real-world scenes
JPH11177973A (ja) 1997-12-12 1999-07-02 Hitachi Denshi Ltd 移動物体検知画像処理システム
JP4071336B2 (ja) 1998-01-20 2008-04-02 三菱電機株式会社 監視用画像処理装置
US6182022B1 (en) 1998-01-26 2001-01-30 Hewlett-Packard Company Automated adaptive baselining and thresholding method and system
US6724915B1 (en) * 1998-03-13 2004-04-20 Siemens Corporate Research, Inc. Method for tracking a video object in a time-ordered sequence of image frames
KR100281464B1 (ko) 1998-03-14 2001-02-01 전주범 물체 기반 부호화 시스템의 보조 정보 부호화 장치
KR100281463B1 (ko) * 1998-03-14 2001-02-01 전주범 물체 기반 부호화 시스템의 보조 정보 부호화 장치
US6697103B1 (en) 1998-03-19 2004-02-24 Dennis Sunga Fernandez Integrated network for monitoring remote objects
US6393054B1 (en) 1998-04-20 2002-05-21 Hewlett-Packard Company System and method for automatically detecting shot boundary and key frame from a compressed video data
US7023469B1 (en) * 1998-04-30 2006-04-04 Texas Instruments Incorporated Automatic video monitoring system which selectively saves information
US6816184B1 (en) 1998-04-30 2004-11-09 Texas Instruments Incorporated Method and apparatus for mapping a location from a video image to a map
EP0967584B1 (en) 1998-04-30 2004-10-20 Texas Instruments Incorporated Automatic video monitoring system
US6385772B1 (en) 1998-04-30 2002-05-07 Texas Instruments Incorporated Monitoring system having wireless remote viewing and control
US6201476B1 (en) 1998-05-06 2001-03-13 Csem-Centre Suisse D'electronique Et De Microtechnique S.A. Device for monitoring the activity of a person and/or detecting a fall, in particular with a view to providing help in the event of an incident hazardous to life or limb
GB2337146B (en) 1998-05-08 2000-07-19 Primary Image Limited Method and apparatus for detecting motion across a surveillance area
EP1082234A4 (en) * 1998-06-01 2003-07-16 Robert Jeff Scaman VEHICLE-MOUNTED EVENT REGISTRATION DEVICE
JPH11355759A (ja) 1998-06-03 1999-12-24 Kokusai Electric Co Ltd 遠隔監視システム
US6278466B1 (en) 1998-06-11 2001-08-21 Presenter.Com, Inc. Creating animation from a video
US6393056B1 (en) * 1998-07-01 2002-05-21 Texas Instruments Incorporated Compression of information from one detector as a function of information from another detector
EP0971242A1 (en) 1998-07-10 2000-01-12 Cambridge Consultants Limited Sensor signal processing
US6144375A (en) 1998-08-14 2000-11-07 Praja Inc. Multi-perspective viewer for content-based interactivity
US20030025599A1 (en) 2001-05-11 2003-02-06 Monroe David A. Method and apparatus for collecting, sending, archiving and retrieving motion video and still images and notification of detected events
US6628835B1 (en) * 1998-08-31 2003-09-30 Texas Instruments Incorporated Method and system for defining and recognizing complex events in a video sequence
US6408296B1 (en) * 1998-09-01 2002-06-18 Lucent Technologies Inc. Computer implemented method and apparatus for enhancing access to a file
JP2000090277A (ja) 1998-09-10 2000-03-31 Hitachi Denshi Ltd 基準背景画像更新方法及び侵入物体検出方法並びに侵入物体検出装置
US6570608B1 (en) * 1998-09-30 2003-05-27 Texas Instruments Incorporated System and method for detecting interactions of people and vehicles
US6271752B1 (en) * 1998-10-02 2001-08-07 Lucent Technologies, Inc. Intelligent multi-access system
US6721454B1 (en) * 1998-10-09 2004-04-13 Sharp Laboratories Of America, Inc. Method for automatic extraction of semantically significant events from video
GB9822956D0 (en) * 1998-10-20 1998-12-16 Vsd Limited Smoke detection
DE19848490B4 (de) 1998-10-21 2012-02-02 Robert Bosch Gmbh Bildinformationsübertragungsverfahren und -vorrichtung
KR20000026757A (ko) 1998-10-22 2000-05-15 국필종 동작 검출 시스템 및 방법
EP1125227A4 (en) * 1998-11-06 2004-04-14 Univ Columbia SYSTEMS AND METHODS FOR INTEROPERABLE MULTIMEDIA CONTENTS
WO2000028498A1 (en) 1998-11-12 2000-05-18 Smith Micro Software Inc. Computer system with motion-triggered alarm procedure
JP2000175174A (ja) 1998-12-07 2000-06-23 Mitsubishi Electric Corp 監視用画像処理装置
US6226388B1 (en) * 1999-01-05 2001-05-01 Sharp Labs Of America, Inc. Method and apparatus for object tracking for automatic controls in video devices
JP3900726B2 (ja) 1999-01-18 2007-04-04 松下電工株式会社 転倒検知装置
JP2000207664A (ja) 1999-01-18 2000-07-28 Matsushita Electric Works Ltd 転倒検知装置
US6490370B1 (en) 1999-01-28 2002-12-03 Koninklijke Philips Electronics N.V. System and method for describing multimedia content
JP3826598B2 (ja) * 1999-01-29 2006-09-27 株式会社日立製作所 画像監視装置及び記録媒体
US6924801B1 (en) * 1999-02-09 2005-08-02 Microsoft Corporation Method and apparatus for early culling of occluded objects
US6396535B1 (en) 1999-02-16 2002-05-28 Mitsubishi Electric Research Laboratories, Inc. Situation awareness system
US6253064B1 (en) * 1999-02-25 2001-06-26 David A. Monroe Terminal based traffic management and security surveillance system for aircraft and other commercial vehicles
JP2000253382A (ja) 1999-02-25 2000-09-14 Matsushita Electric Works Ltd 転倒検知装置
US6404925B1 (en) 1999-03-11 2002-06-11 Fuji Xerox Co., Ltd. Methods and apparatuses for segmenting an audio-visual recording using image similarity searching and audio speaker recognition
JP2000285223A (ja) 1999-03-30 2000-10-13 Matsushita Electric Works Ltd 転倒検知装置
JP3588564B2 (ja) 1999-03-31 2004-11-10 株式会社東芝 映像データ記録装置
JP2000295600A (ja) 1999-04-08 2000-10-20 Toshiba Corp 監視装置
US6201473B1 (en) * 1999-04-23 2001-03-13 Sensormatic Electronics Corporation Surveillance system for observing shopping carts
JP2000339923A (ja) * 1999-05-27 2000-12-08 Mitsubishi Electric Corp 映像収集装置および映像収集方法
SG89282A1 (en) 1999-05-28 2002-06-18 Kent Ridge Digital Labs Motion information extraction system
US6408293B1 (en) 1999-06-09 2002-06-18 International Business Machines Corporation Interactive framework for understanding user's perception of multimedia data
US6437819B1 (en) 1999-06-25 2002-08-20 Rohan Christopher Loveland Automated video person tracking system
US6754664B1 (en) * 1999-07-02 2004-06-22 Microsoft Corporation Schema-based computer system health monitoring
US6411724B1 (en) * 1999-07-02 2002-06-25 Koninklijke Philips Electronics N.V. Using meta-descriptors to represent multimedia information
US7356830B1 (en) * 1999-07-09 2008-04-08 Koninklijke Philips Electronics N.V. Method and apparatus for linking a video segment to another segment or information source
JP2001045465A (ja) 1999-07-29 2001-02-16 Nec Eng Ltd 遠隔監視方式
US6545706B1 (en) 1999-07-30 2003-04-08 Electric Planet, Inc. System, method and article of manufacture for tracking a head of a camera-generated image of a person
GB2352859A (en) 1999-07-31 2001-02-07 Ibm Automatic zone monitoring using two or more cameras
US6123123A (en) * 1999-08-03 2000-09-26 M. Carder Industries, Incorporated Non-stretch breakaway hose particularly for fuel dispenser
US6546135B1 (en) 1999-08-30 2003-04-08 Mitsubishi Electric Research Laboratories, Inc Method for representing and comparing multimedia content
US6539396B1 (en) 1999-08-31 2003-03-25 Accenture Llp Multi-object identifier system and method for information service pattern environment
JP3738631B2 (ja) 1999-09-27 2006-01-25 三菱電機株式会社 画像検索システムおよび画像検索方法
US6754367B1 (en) 1999-09-30 2004-06-22 Hitachi Denshi Kabushiki Kaisha Method and apparatus for automatically detecting intrusion object into view of image pickup device
US6954859B1 (en) 1999-10-08 2005-10-11 Axcess, Inc. Networked digital security system and methods
US6424370B1 (en) * 1999-10-08 2002-07-23 Texas Instruments Incorporated Motion based event detection system and method
US7181757B1 (en) * 1999-10-11 2007-02-20 Electronics And Telecommunications Research Institute Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing
US6698021B1 (en) 1999-10-12 2004-02-24 Vigilos, Inc. System and method for remote control of surveillance devices
WO2001033503A1 (en) 1999-11-03 2001-05-10 Cet Technologies Pte Ltd Image processing techniques for a video based traffic monitoring system and methods therefor
JP3785880B2 (ja) 1999-11-18 2006-06-14 株式会社明電舎 映像監視システムおよび映像監視方法
US6297844B1 (en) * 1999-11-24 2001-10-02 Cognex Corporation Video safety curtain
US6658136B1 (en) 1999-12-06 2003-12-02 Microsoft Corporation System and process for locating and tracking a person or object in a scene using a series of range images
US6707486B1 (en) 1999-12-15 2004-03-16 Advanced Technology Video, Inc. Directional motion estimator
US7702014B1 (en) * 1999-12-16 2010-04-20 Muvee Technologies Pte. Ltd. System and method for video production
JP2001175868A (ja) 1999-12-22 2001-06-29 Nec Corp 人物検出方法及び装置
US7479980B2 (en) * 1999-12-23 2009-01-20 Wespot Technologies Ab Monitoring system
US6774905B2 (en) * 1999-12-23 2004-08-10 Wespot Ab Image data processing
US6738424B1 (en) * 1999-12-27 2004-05-18 Objectvideo, Inc. Scene model generation from video for use in video processing
JP2001189925A (ja) 1999-12-28 2001-07-10 Glowing Shinko:Kk 移動物体監視システム
US6697104B1 (en) 2000-01-13 2004-02-24 Countwise, Llc Video based system and method for detecting and counting persons traversing an area being monitored
JP4140159B2 (ja) 2000-01-19 2008-08-27 株式会社明電舎 監視カメラの監視エリア設定装置及びその方法
JP3387911B2 (ja) 2000-01-27 2003-03-17 松下電器産業株式会社 キャリブレーションシステムおよびキャリブレーション方法
US6542840B2 (en) 2000-01-27 2003-04-01 Matsushita Electric Industrial Co., Ltd. Calibration system, target apparatus and calibration method
US6940998B2 (en) * 2000-02-04 2005-09-06 Cernium, Inc. System for automated screening of security cameras
GB2359437A (en) 2000-02-16 2001-08-22 Stephen Albert Wilson Stand alone secure access web camera
US6509926B1 (en) 2000-02-17 2003-01-21 Sensormatic Electronics Corporation Surveillance apparatus for camera surveillance system
DE60138330D1 (de) * 2000-02-28 2009-05-28 Hitachi Int Electric Inc Vorricht ung und Systemzur Überwachung von eingedrungenen Objekte
US7522186B2 (en) * 2000-03-07 2009-04-21 L-3 Communications Corporation Method and apparatus for providing immersive surveillance
AU2001250802A1 (en) 2000-03-07 2001-09-17 Sarnoff Corporation Camera pose estimation
AU4355801A (en) 2000-03-10 2001-09-24 Sarnoff Corp Method and apparatus for qualitative spatiotemporal data processing
AU2001240100A1 (en) * 2000-03-10 2001-09-24 Sensormatic Electronics Corporation Method and apparatus for video surveillance with defined zones
KR100844816B1 (ko) * 2000-03-13 2008-07-09 소니 가부시끼 가이샤 간결한 트랜스코딩 힌트 메타데이터를 생성하는 방법 및장치
JP2001266131A (ja) 2000-03-23 2001-09-28 Minolta Co Ltd 監視システム
US6570496B2 (en) 2000-04-04 2003-05-27 Rick A. Britton Networks and circuits for alarm system operations
JP2001292439A (ja) 2000-04-06 2001-10-19 Mitsubishi Heavy Ind Ltd 監視システム
US6975220B1 (en) 2000-04-10 2005-12-13 Radia Technologies Corporation Internet based security, fire and emergency identification and communication system
AUPQ684600A0 (en) 2000-04-11 2000-05-11 Safehouse International Limited An object monitoring system
US7167575B1 (en) 2000-04-29 2007-01-23 Cognex Corporation Video safety detector with projected pattern
US6469734B1 (en) 2000-04-29 2002-10-22 Cognex Corporation Video safety detector with shadow elimination
US6829371B1 (en) 2000-04-29 2004-12-07 Cognex Corporation Auto-setup of a video safety curtain system
US6646676B1 (en) 2000-05-17 2003-11-11 Mitsubishi Electric Research Laboratories, Inc. Networked surveillance and control system
US20020063154A1 (en) 2000-05-26 2002-05-30 Hector Hoyos Security system database management
US6807361B1 (en) 2000-07-18 2004-10-19 Fuji Xerox Co., Ltd. Interactive custom video creation system
US20020157116A1 (en) * 2000-07-28 2002-10-24 Koninklijke Philips Electronics N.V. Context and content based information processing for multimedia segmentation and indexing
WO2002019698A2 (en) 2000-08-31 2002-03-07 Rytec Corporation Sensor and imaging system
US7082209B2 (en) 2000-08-31 2006-07-25 Hitachi Kokusai Electric, Inc. Object detecting method and object detecting apparatus and intruding object monitoring apparatus employing the object detecting method
US7734724B2 (en) 2000-09-06 2010-06-08 Xanboo Inc. Automated upload of content based on captured event
US6504479B1 (en) * 2000-09-07 2003-01-07 Comtrak Technologies Llc Integrated security system
JP3828349B2 (ja) 2000-09-27 2006-10-04 株式会社日立製作所 移動体検出測定方法、その装置および移動体検出測定プログラムを記録した記録媒体
US6542075B2 (en) * 2000-09-28 2003-04-01 Vigilos, Inc. System and method for providing configurable security monitoring utilizing an integrated information portal
US7627665B2 (en) * 2000-09-28 2009-12-01 Barker Geoffrey T System and method for providing configurable security monitoring utilizing an integrated information system
EP1330812A1 (en) * 2000-09-28 2003-07-30 Vigilos, Inc. System and method for dynamic interaction with remote devices
US7215795B2 (en) * 2000-09-28 2007-05-08 Hitachi Kokusai Electric Inc. Intruding object detecting method and intruding object monitoring apparatus employing the method
US6801662B1 (en) 2000-10-10 2004-10-05 Hrl Laboratories, Llc Sensor fusion architecture for vision-based occupant detection
US6792319B1 (en) 2000-10-19 2004-09-14 Destiny Networks, Inc. Home automation system and method
US7868912B2 (en) * 2000-10-24 2011-01-11 Objectvideo, Inc. Video surveillance system employing video primitives
US6954498B1 (en) 2000-10-24 2005-10-11 Objectvideo, Inc. Interactive video manipulation
US8711217B2 (en) * 2000-10-24 2014-04-29 Objectvideo, Inc. Video surveillance system employing video primitives
US20050162515A1 (en) * 2000-10-24 2005-07-28 Objectvideo, Inc. Video surveillance system
US20050146605A1 (en) 2000-10-24 2005-07-07 Lipton Alan J. Video surveillance system employing video primitives
US7035430B2 (en) 2000-10-31 2006-04-25 Hitachi Kokusai Electric Inc. Intruding object detection method and intruding object monitor apparatus which automatically set a threshold for object detection
US20020082769A1 (en) * 2000-11-21 2002-06-27 Gary Church Airport auditing and information system
US20020104094A1 (en) * 2000-12-01 2002-08-01 Bruce Alexander System and method for processing video data utilizing motion detection and subdivided video fields
US6411209B1 (en) 2000-12-06 2002-06-25 Koninklijke Philips Electronics N.V. Method and apparatus to select the best video frame to transmit to a remote station for CCTV based residential security monitoring
US6441734B1 (en) 2000-12-12 2002-08-27 Koninklijke Philips Electronics N.V. Intruder detection through trajectory analysis in monitoring and surveillance systems
US6930689B1 (en) 2000-12-26 2005-08-16 Texas Instruments Incorporated Hardware extensions for image and video processing
US6525663B2 (en) 2001-03-15 2003-02-25 Koninklijke Philips Electronics N.V. Automatic system for monitoring persons entering and leaving changing room
US6625310B2 (en) 2001-03-23 2003-09-23 Diamondback Vision, Inc. Video segmentation using statistical pixel modeling
JP2002298142A (ja) 2001-03-29 2002-10-11 Minolta Co Ltd 人物画像検出方法、この方法を実行するためのプログラムを記録した記録媒体、人物画像検出装置及びこの装置を備えた撮影装置
WO2002087152A1 (en) 2001-04-18 2002-10-31 Caveo Technology, Llc Universal, customizable security system for computers and other devices
US20020191851A1 (en) 2001-05-01 2002-12-19 Giora Keinan Efficient encoding of video frames using pre-encoded primitives
US20020163577A1 (en) 2001-05-07 2002-11-07 Comtrak Technologies, Inc. Event detection in a video recording system
US7423666B2 (en) 2001-05-25 2008-09-09 Minolta Co., Ltd. Image pickup system employing a three-dimensional reference object
US7768549B2 (en) 2001-06-08 2010-08-03 Honeywell International Inc. Machine safety system with mutual exclusion zone
WO2002101588A1 (fr) * 2001-06-11 2002-12-19 Matsushita Electric Industrial Co., Ltd. Systeme de gestion de contenus
US6525658B2 (en) * 2001-06-11 2003-02-25 Ensco, Inc. Method and device for event detection utilizing data from a multiplicity of sensor sources
US7295755B2 (en) * 2001-06-22 2007-11-13 Thomson Licensing Method and apparatus for simplifying the access of metadata
US20030053659A1 (en) * 2001-06-29 2003-03-20 Honeywell International Inc. Moving object assessment system and method
US20030023974A1 (en) * 2001-07-25 2003-01-30 Koninklijke Philips Electronics N.V. Method and apparatus to track objects in sports programs and select an appropriate camera view
GB2378339A (en) 2001-07-31 2003-02-05 Hewlett Packard Co Predictive control of multiple image capture devices.
US6721452B2 (en) * 2001-09-12 2004-04-13 Auburn University System and method of handwritten character recognition
US20030058111A1 (en) 2001-09-27 2003-03-27 Koninklijke Philips Electronics N.V. Computer vision based elderly care monitoring system
US7110569B2 (en) 2001-09-27 2006-09-19 Koninklijke Philips Electronics N.V. Video based detection of fall-down and other events
US6696945B1 (en) * 2001-10-09 2004-02-24 Diamondback Vision, Inc. Video tripwire
US6970083B2 (en) 2001-10-09 2005-11-29 Objectvideo, Inc. Video tripwire
DE10153484B4 (de) 2001-10-22 2007-07-19 Robert Bosch Gmbh Video-/Audio-System und Auswertungsverfahren für Video-/Audio-Daten
US7650058B1 (en) 2001-11-08 2010-01-19 Cernium Corporation Object selective video recording
US6859803B2 (en) 2001-11-13 2005-02-22 Koninklijke Philips Electronics N.V. Apparatus and method for program selection utilizing exclusive and inclusive metadata searches
AU2002365345A1 (en) 2001-11-21 2003-06-10 Etreppid Technologies, Llc Method and apparatus for storing digital video content provided from a plurality of cameras
CN100476153C (zh) 2001-12-10 2009-04-08 欧姆龙株式会社 物体探测装置及控制装置
US7167519B2 (en) * 2001-12-20 2007-01-23 Siemens Corporate Research, Inc. Real-time video object generation for smart cameras
US20030126622A1 (en) 2001-12-27 2003-07-03 Koninklijke Philips Electronics N.V. Method for efficiently storing the trajectory of tracked objects in video
KR100465244B1 (ko) 2002-02-05 2005-01-13 삼성전자주식회사 영상 데이터의 움직임 감지장치 및 방법
US9052386B2 (en) * 2002-02-06 2015-06-09 Nice Systems, Ltd Method and apparatus for video frame sequence-based object tracking
US7683929B2 (en) * 2002-02-06 2010-03-23 Nice Systems, Ltd. System and method for video content analysis-based detection, surveillance and alarm management
US7436887B2 (en) * 2002-02-06 2008-10-14 Playtex Products, Inc. Method and apparatus for video frame sequence-based object tracking
US7456875B2 (en) 2002-03-14 2008-11-25 Sony Corporation Image pickup apparatus and method, signal processing apparatus and method, and wearable signal processing apparatus
US7382895B2 (en) * 2002-04-08 2008-06-03 Newton Security, Inc. Tailgating and reverse entry detection, alarm, recording and prevention using machine vision
US7197072B1 (en) * 2002-05-30 2007-03-27 Intervideo, Inc. Systems and methods for resetting rate control state variables upon the detection of a scene change within a group of pictures
JP4023727B2 (ja) 2002-06-17 2007-12-19 株式会社モノリス 監視装置、および監視方法
US20070201694A1 (en) * 2002-06-18 2007-08-30 Bolle Rudolf M Privacy management in imaging system
US8752197B2 (en) * 2002-06-18 2014-06-10 International Business Machines Corporation Application independent system, method, and architecture for privacy protection, enhancement, control, and accountability in imaging service systems
US6975346B2 (en) 2002-06-27 2005-12-13 International Business Machines Corporation Method for suspect identification using scanning of surveillance media
US20040006424A1 (en) * 2002-06-28 2004-01-08 Joyce Glenn J. Control system for tracking and targeting multiple autonomous objects
AU2003237579A1 (en) 2002-07-05 2004-01-23 Aspectus Ltd A method and system for effectively performing event detection in a large number of concurrent image sequences
US20030010345A1 (en) 2002-08-02 2003-01-16 Arthur Koblasz Patient monitoring devices and methods
US7227893B1 (en) * 2002-08-22 2007-06-05 Xlabs Holdings, Llc Application-specific object-based segmentation and recognition system
US20040113933A1 (en) * 2002-10-08 2004-06-17 Northrop Grumman Corporation Split and merge behavior analysis and understanding using Hidden Markov Models
US7602413B2 (en) 2002-10-18 2009-10-13 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US20040143602A1 (en) 2002-10-18 2004-07-22 Antonio Ruiz Apparatus, system and method for automated and adaptive digital image/video surveillance for events and configurations using a rich multimedia relational database
CA2505831C (en) * 2002-11-12 2014-06-10 Intellivid Corporation Method and system for tracking and behavioral monitoring of multiple objects moving through multiple fields-of-view
DE10252731A1 (de) 2002-11-13 2004-05-27 Robert Bosch Gmbh Verfahren zur Überwachung einer Szene mit wenigstens einem bildgebenden Sensor
SE0203483D0 (sv) 2002-11-21 2002-11-21 Wespot Ab Method and device for fall detection
US7184777B2 (en) 2002-11-27 2007-02-27 Cognio, Inc. Server and multiple sensor system for monitoring activity in a shared radio frequency band
AU2003296850A1 (en) 2002-12-03 2004-06-23 3Rd Millenium Solutions, Ltd. Surveillance system with identification correlation
US7400344B2 (en) 2002-12-19 2008-07-15 Hitachi Kokusai Electric Inc. Object tracking method and object tracking apparatus
US6987883B2 (en) * 2002-12-31 2006-01-17 Objectvideo, Inc. Video scene background maintenance using statistical pixel modeling
US6998987B2 (en) * 2003-02-26 2006-02-14 Activseye, Inc. Integrated RFID and video tracking system
US6940397B1 (en) 2003-03-07 2005-09-06 Benjamin E Le Mire Vehicle surveillance system
WO2004088592A2 (en) 2003-03-25 2004-10-14 General Electric Company Methods for processing color image data employing a chroma, hue, and intensity color representation
US20040225681A1 (en) 2003-05-09 2004-11-11 Chaney Donald Lewis Information system
US7817716B2 (en) 2003-05-29 2010-10-19 Lsi Corporation Method and/or apparatus for analyzing the content of a surveillance image
US7246156B2 (en) * 2003-06-09 2007-07-17 Industrial Defender, Inc. Method and computer program product for monitoring an industrial network
JP2007525068A (ja) 2003-06-19 2007-08-30 エル3 コミュニケーションズ コーポレイション 拡張可能なマルチカメラ分散ビデオ処理および可視化監視システムを提供する方法および装置
US7310442B2 (en) 2003-07-02 2007-12-18 Lockheed Martin Corporation Scene analysis surveillance system
JP2005092740A (ja) 2003-09-19 2005-04-07 Sony Corp 監視システム、情報処理装置および方法、記録媒体、並びにプログラム
WO2005029264A2 (en) * 2003-09-19 2005-03-31 Alphatech, Inc. Tracking systems and methods
US7660439B1 (en) * 2003-12-16 2010-02-09 Verificon Corporation Method and system for flow detection and motion analysis
US8558892B2 (en) * 2004-01-20 2013-10-15 Honeywell International Inc. Object blocking zones to reduce false alarms in video surveillance systems
US7646401B2 (en) * 2004-01-30 2010-01-12 ObjectVideo, Inc Video-based passback event detection
WO2005076852A2 (en) 2004-02-04 2005-08-25 Perseus Wireless, Inc. Method and system for providing information to remote clients
US7447331B2 (en) * 2004-02-24 2008-11-04 International Business Machines Corporation System and method for generating a viewable video index for low bandwidth applications
US7218756B2 (en) 2004-03-24 2007-05-15 Cernium, Inc. Video analysis using segmentation gain by area
CN1946451A (zh) * 2004-04-30 2007-04-11 C.R.巴德有限公司 静脉插管的阀式护套导入器
US20070226616A1 (en) * 2004-06-01 2007-09-27 L-3 Communications Corporation Method and System For Wide Area Security Monitoring, Sensor Management and Situational Awareness
US20050275549A1 (en) 2004-06-14 2005-12-15 Barclay Deborah L Network support for emergency smoke detector/motion detector
US7774326B2 (en) * 2004-06-25 2010-08-10 Apple Inc. Methods and systems for managing data
US8289390B2 (en) * 2004-07-28 2012-10-16 Sri International Method and apparatus for total situational awareness and monitoring
US20060072014A1 (en) * 2004-08-02 2006-04-06 Geng Z J Smart optical sensor (SOS) hardware and software platform
US7487072B2 (en) * 2004-08-04 2009-02-03 International Business Machines Corporation Method and system for querying multimedia data where adjusting the conversion of the current portion of the multimedia data signal based on the comparing at least one set of confidence values to the threshold
US7733369B2 (en) 2004-09-28 2010-06-08 Objectvideo, Inc. View handling in video surveillance systems
US7424167B1 (en) 2004-10-01 2008-09-09 Objectvideo, Inc. Tide filtering for video surveillance system
US7982738B2 (en) * 2004-12-01 2011-07-19 Microsoft Corporation Interactive montages of sprites for indexing and summarizing video
US20060203090A1 (en) * 2004-12-04 2006-09-14 Proximex, Corporation Video surveillance using stationary-dynamic camera assemblies for wide-area video surveillance and allow for selective focus-of-attention
US7308443B1 (en) 2004-12-23 2007-12-11 Ricoh Company, Ltd. Techniques for video retrieval based on HMM similarity
US20060170769A1 (en) * 2005-01-31 2006-08-03 Jianpeng Zhou Human and object recognition in digital video
US20060200842A1 (en) * 2005-03-01 2006-09-07 Microsoft Corporation Picture-in-picture (PIP) alerts
US7599894B2 (en) * 2005-03-04 2009-10-06 Hrl Laboratories, Llc Object recognition using a cognitive swarm vision framework with attention mechanisms
CA2601477C (en) * 2005-03-25 2015-09-15 Intellivid Corporation Intelligent camera selection and object tracking
WO2006105286A2 (en) * 2005-03-30 2006-10-05 Cernium Corporation Intelligent video behavior recognition with multiple masks and configurable logic inference module
US20060238616A1 (en) * 2005-03-31 2006-10-26 Honeywell International Inc. Video image processing appliance manager
US8316407B2 (en) * 2005-04-04 2012-11-20 Honeywell International Inc. Video system interface kernel
US7583815B2 (en) 2005-04-05 2009-09-01 Objectvideo Inc. Wide-area site-based video surveillance system
US20080291278A1 (en) 2005-04-05 2008-11-27 Objectvideo, Inc. Wide-area site-based video surveillance system
US20060232673A1 (en) 2005-04-19 2006-10-19 Objectvideo, Inc. Video-based human verification system and method
US20070002141A1 (en) * 2005-04-19 2007-01-04 Objectvideo, Inc. Video-based human, non-human, and/or motion verification system and method
US7825954B2 (en) 2005-05-31 2010-11-02 Objectvideo, Inc. Multi-state target tracking
US20070122000A1 (en) 2005-11-29 2007-05-31 Objectvideo, Inc. Detection of stationary objects in video
US7623677B2 (en) 2005-06-17 2009-11-24 Fuji Xerox Co., Ltd. Methods and interfaces for visualizing activity across video frames in an action keyframe
US7822224B2 (en) 2005-06-22 2010-10-26 Cernium Corporation Terrain map summary elements
US7801330B2 (en) * 2005-06-24 2010-09-21 Objectvideo, Inc. Target detection and tracking from video streams
US7796780B2 (en) 2005-06-24 2010-09-14 Objectvideo, Inc. Target detection and tracking from overhead video streams
US7613324B2 (en) 2005-06-24 2009-11-03 ObjectVideo, Inc Detection of change in posture in video
US8026945B2 (en) 2005-07-22 2011-09-27 Cernium Corporation Directed attention digital video recordation
US9036028B2 (en) * 2005-09-02 2015-05-19 Sensormatic Electronics, LLC Object tracking and alerts
US9363487B2 (en) * 2005-09-08 2016-06-07 Avigilon Fortress Corporation Scanning camera-based video surveillance system
US20070059838A1 (en) * 2005-09-13 2007-03-15 Pavilion Technologies, Inc. Dynamic constrained optimization of chemical manufacturing
US7884849B2 (en) 2005-09-26 2011-02-08 Objectvideo, Inc. Video surveillance system with omni-directional camera
EP1966728A1 (en) * 2005-09-30 2008-09-10 Robert Bosch Gmbh Method and software program for searching image information
FR2896583B1 (fr) 2006-01-20 2008-10-17 Onera (Off Nat Aerospatiale) Interferometre optique achromatique et compact, du type a decalage trilateral
US8184154B2 (en) * 2006-02-27 2012-05-22 Texas Instruments Incorporated Video surveillance correlating detected moving objects and RF signals
US7883230B2 (en) * 2006-03-08 2011-02-08 Samsung Electronics Co., Ltd. Supporting member for liquid crystal display device, backlight assembly having the same and liquid crystal display device having the same
US7956735B2 (en) 2006-05-15 2011-06-07 Cernium Corporation Automated, remotely-verified alarm system with intrusion and video surveillance and digital video recording
US7671728B2 (en) * 2006-06-02 2010-03-02 Sensormatic Electronics, LLC Systems and methods for distributed monitoring of remote sites
US7825792B2 (en) * 2006-06-02 2010-11-02 Sensormatic Electronics Llc Systems and methods for distributed monitoring of remote sites
US7468662B2 (en) 2006-06-16 2008-12-23 International Business Machines Corporation Method for spatio-temporal event detection using composite definitions for camera systems
DE102006047892A1 (de) 2006-10-10 2008-04-17 Atlas Elektronik Gmbh Verfahren zur Überwachung eines Sicherungsbereichs
US7595815B2 (en) 2007-05-08 2009-09-29 Kd Secure, Llc Apparatus, methods, and systems for intelligent security and safety
US20080294588A1 (en) 2007-05-22 2008-11-27 Stephen Jeffrey Morris Event capture, cross device event correlation, and responsive actions
GB2450478A (en) 2007-06-20 2008-12-31 Sony Uk Ltd A security device and system
US7382244B1 (en) 2007-10-04 2008-06-03 Kd Secure Video surveillance, storage, and alerting system having network management, hierarchical data storage, video tip processing, and vehicle plate analysis
GB2492248B (en) 2008-03-03 2013-04-10 Videoiq Inc Dynamic object classification
WO2009120616A1 (en) 2008-03-25 2009-10-01 Wms Gaming, Inc. Generating casino floor maps
US8325228B2 (en) 2008-07-25 2012-12-04 International Business Machines Corporation Performing real-time analytics using a network processing solution able to directly ingest IP camera video streams
EP2204783A1 (en) 2008-12-31 2010-07-07 Thales Security system comprising sensors in a corridor for uncovering hazardous items
FR2944934B1 (fr) 2009-04-27 2012-06-01 Scutum Procede et systeme de surveillance
IL201200A0 (en) 2009-09-24 2011-07-31 Elbit Systems Ltd System and method for long-range surveillance of a scene and alerting of predetermined unusual activity

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010226687A (ja) * 2009-02-27 2010-10-07 Sony Corp 画像処理装置、画像処理システム、カメラ装置、画像処理方法、およびプログラム
US8970695B2 (en) 2009-02-27 2015-03-03 Sony Corporation Image processing device, image processing system, camera device, image processing method, and program
JP2010272947A (ja) * 2009-05-19 2010-12-02 Panasonic Corp 持ち去り/置き去り判定装置及び持ち去り/置き去り判定方法

Also Published As

Publication number Publication date
US9892606B2 (en) 2018-02-13
WO2007002763A3 (en) 2008-08-14
CA2613602A1 (en) 2007-01-04
CN101310288A (zh) 2008-11-19
EP1900215A4 (en) 2013-10-09
CN101310288B (zh) 2011-07-27
WO2007002763A2 (en) 2007-01-04
EP1900215A2 (en) 2008-03-19
MX2008000421A (es) 2008-03-10
KR20080024541A (ko) 2008-03-18
IL188426A0 (en) 2008-11-03
TW200714075A (en) 2007-04-01
US20070013776A1 (en) 2007-01-18

Similar Documents

Publication Publication Date Title
US10347101B2 (en) Video surveillance system employing video primitives
JP2009500917A (ja) ビデオプリミティブを使用するビデオ監視システム
EP1872583B1 (en) Method of video processing, computer readable medium containing instructions implementing said method and video processing system.
US10645350B2 (en) Video analytic rule detection system and method
JP4369233B2 (ja) ビデオプリミティブを利用する監視テレビ装置
US20050162515A1 (en) Video surveillance system