JP2008219570A - カメラ間連結関係情報生成装置 - Google Patents

カメラ間連結関係情報生成装置 Download PDF

Info

Publication number
JP2008219570A
JP2008219570A JP2007055473A JP2007055473A JP2008219570A JP 2008219570 A JP2008219570 A JP 2008219570A JP 2007055473 A JP2007055473 A JP 2007055473A JP 2007055473 A JP2007055473 A JP 2007055473A JP 2008219570 A JP2008219570 A JP 2008219570A
Authority
JP
Japan
Prior art keywords
camera
cameras
display
point
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007055473A
Other languages
English (en)
Other versions
JP4881766B2 (ja
Inventor
Sumio Yokomitsu
澄男 横光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2007055473A priority Critical patent/JP4881766B2/ja
Priority to PCT/JP2008/000413 priority patent/WO2008108087A1/ja
Priority to US12/529,648 priority patent/US8284255B2/en
Priority to EP08710516.9A priority patent/EP2117232A4/en
Priority to CN2008800074830A priority patent/CN101627630B/zh
Publication of JP2008219570A publication Critical patent/JP2008219570A/ja
Application granted granted Critical
Publication of JP4881766B2 publication Critical patent/JP4881766B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】信頼性の高いカメラ間の連結関係の推定が行えるカメラ間連結関係情報生成装置を提供する。
【解決手段】複数のカメラで撮影された映像から被写体の特徴量を抽出する特徴量抽出部21と、撮影された映像の各々において被写体が出現/消失した点であるIn/Out点を抽出するIn/Out点抽出部22と、抽出されたIn/Out点に基づいてIn/Out領域を形成するIn/Out領域形成部23と、In/Out領域に含まれるIn/Out点の複数の組合せ各々について、被写体の特徴量毎の類似度の総和を求めることにより相関値を算出する相関値算出部24と、相関値に基づき頻度ヒストグラムを作成する頻度ヒストグラム作成部25と、頻度ヒストグラムのピークを抽出することから複数のカメラ間の連結関係の有無を推定して連結関係情報を生成する連結関係情報生成部26と、を備える。
【選択図】図1

Description

本発明は、複数の監視カメラで構成される監視システムにおいて、人物の追尾等を行う際に、信頼性の高いカメラ間の連結関係の推定が行えるカメラ間連結関係情報生成装置に関する。
複数のカメラからの監視映像を利用して広範囲にわたる監視を行うシステムでは、予め把握したそれぞれのカメラの配置と撮影領域の対応関係に基づいて、画面に表示するカメラ映像を自動的に切り替え、人物等の追尾を行うシステムが提案されている(例えば、特許文献1参照)。
特開2005−12415号公報(第4頁〜第14頁、図1)
複数のカメラで広域範囲を監視する場合、複数のカメラ間の連携処理が必須となる。特に、カメラ間で人物の照合を行う際、カメラ間の連結関係(トポロジー)情報を利用することにより人物の照合精度が向上する。この連結関係情報を取得する方法として、手動で事前に付与する方法もあるが、カメラ数が多ければ多いほど処理が煩雑であるという問題があった。また、それぞれのカメラで観測される対象物を用いて自動的に推定する方法もあるが、カメラ毎に抽出される全ての対象物の出現時間及び消失時間の頻度分布に基づいて推定する方法では、誤対応となるデータが多く、精度が低いという問題があった。
そこで、本発明は上記従来の課題に鑑みてなされたものであって、カメラ間の誤対応による連結関係の有無の精度悪化を改善し、類似した被写体ペア例えば人物ペアのみを用いた信頼性の高いカメラ間の連結関係の推定が行えるカメラ間連結関係情報生成装置を提供することを目的とする。
本発明のカメラ間連結関係情報生成装置は、複数のカメラで撮影された映像から被写体の特徴量を抽出する特徴量抽出手段と、前記複数のカメラで撮影された映像の各々において被写体が出現した点であるIn点及び消失した点であるOut点を抽出するIn/Out点抽出手段と、前記In/Out点抽出手段で抽出された前記In点に基づき前記In点を含むIn領域及び前記In/Out点抽出手段で抽出された前記Out点に基づき前記Out点を含むOut領域を形成するIn/Out領域形成手段と、前記In/Out領域形成手段で形成された前記In領域に含まれるIn点と前記Out領域に含まれるOut点の複数の組合せ各々について、前記特徴量抽出手段で抽出された前記被写体の特徴量毎の類似度の総和を求めることにより相関値を算出する相関値算出手段と、前記相関値算出手段で算出された前記相関値に基づき頻度ヒストグラムを作成する頻度ヒストグラム作成手段と、前記頻度ヒストグラム作成手段で作成された前記頻度ヒストグラムのピークを抽出することから前記複数のカメラ間の連結関係の有無を推定して連結関係情報を生成する連結関係情報生成手段と、を備えることを特徴とする。
上記構成によれば、被写体情報として人物情報を用いて、信頼性の高いカメラ間連結関係の推定が行える。
本発明のカメラ間連結関係情報生成装置は、前記複数のカメラで撮影された映像を表示する表示手段と、前記表示手段の表示形態を制御する表示制御手段と、を備えることを特徴とする。
上記構成によれば、推定したカメラ間の連結関係の有無を示す連結関係情報に基づいて、人物追尾等が行える適切な画面表示を行うことができる。
本発明のカメラ間連結関係情報生成装置は、前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、移動後の前記被写体が表示される確率の高い前記複数のカメラのうち他のカメラの前記In領域に対応する前記表示手段の表示位置をハイライトすることを特徴とする。
上記構成によれば、人物を追尾する際、次に出現するカメラ番号、及び出現領域候補が視覚的に把握でき、また、カメラのスイッチングなどの煩雑な操作を行う必要がないため、監視者の監視負担が軽減され、容易且つ的確に人物追尾等を行うことができる。
本発明のカメラ間連結関係情報生成装置は、前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、前記複数のカメラのうち他のカメラに対応する前記表示手段の表示面積を通常より大きくすることを特徴とする。
上記構成によれば、カメラのスイッチングなどの煩雑な操作を行う必要がないため、監視者の監視負担が軽減され、容易且つ的確に人物追尾等を行うことができる。
本発明のカメラ間連結関係情報生成装置は、前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、移動後の前記被写体が表示される確率の高い前記複数のカメラのうち他のカメラの前記In領域に対応する前記表示手段の表示位置が、前記一カメラの前記Out領域に対応する前記表示手段の表示位置と隣接するように、前記各カメラに対応する前記表示手段の表示位置を変更することを特徴とする。
上記構成によれば、カメラのスイッチングなどの煩雑な操作を行う必要がないため、監視者の監視負担が軽減され、容易且つ的確に人物追尾等を行うことができる。
本発明のカメラ間連結関係情報生成装置は、前記連結関係情報生成手段で生成された前記連結関係情報は前記複数のカメラのうち一カメラの任意領域と他のカメラの任意領域との間の移動時間情報を含んでおり、前記表示制御手段は、前記連結関係情報に応じて、前記一カメラに対応する前記表示手段の表示位置と前記他のカメラに対応する前記表示手段の表示位置とを離間させることを特徴とする。
上記構成によれば、カメラ間の連結関係を視覚的に把握しやすいため、監視者の監視負担が軽減され、容易且つ的確に人物追尾等を行うことができる。
本発明のカメラ間連結関係情報生成装置は、前記表示制御手段は、前記複数のカメラのうち一カメラの撮影範囲と他のカメラの撮影範囲とが重複している場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、前記一カメラに対応する前記表示手段の表示位置と前記他のカメラに対応する前記表示手段の表示位置とを重複させることを特徴とする。
上記構成によれば、カメラ間の撮影範囲の関係を視覚的に把握しやすいため、監視者の監視負担が軽減され、容易且つ的確に人物追尾等を行うことができる。
本発明によれば、類似した被写体ペア例えば人物ペアのみを用いて連結関係の推定を行うため、カメラ間の誤対応による連結関係の有無の精度悪化が改善され、信頼性の高いカメラ間の連結関係の推定が行える。また、In/Out領域を事前に形成し、領域毎の経路推定を行うことにより、経路数の増加による破綻を防止しながら、カメラ間の連結関係情報を用いてカメラ間にまたがる人物の追尾(モニタリング)等を適切に行うことができる。
以下、本発明の実施の形態におけるカメラ間連結関係情報生成装置について図面を用いて詳細に説明する。
[実施の形態1]
図1は、本発明の実施の形態1におけるカメラ間連結関係情報生成装置の内部構成を示すブロック図である。カメラ間連結関係情報生成装置100は、主に、インターフェース(I/F)部10、特徴量抽出部21、In/Out点抽出部22、In/Out領域形成部23、相関値算出部24、頻度ヒストグラム作成部25、連結関係情報生成部26、パラメータ設定部27、データベース30、表示制御部40、表示部50などで構成される。
カメラ間連結関係情報生成装置100は、複数の監視カメラ(図中では、例としてカメラ200から202まで3台のカメラを示している)からの映像をネットワーク回線300等を通じて取得し、後述する判断や制御を行って装置内の表示部50に映像を表示する。
インターフェース部10は、複数のカメラ200、201、202からの映像をネットワーク回線300等を通じて取得する。
特徴量抽出部21は、各カメラが撮影する映像の中の人物の特徴量を抽出する。抽出する特徴量は、身長、速度、色、テクスチャ等の情報である。
In/Out点抽出部22は、各カメラで観測される人物情報の中から、カメラ視野に出現した点をIn点、カメラ視野から消失した点をOut点として識別し、カメラ毎にIn/Out点情報を一定期間収集する。
In/Out領域形成部23は、得られたIn/Out点集合をもとにIn/Out領域を決定するためk−meansアルゴリズム等の領域分割処理によりによりIn/Out領域候補群として抽出する。そして、In/Out領域候補群の中でIn/Out点情報が少ない領域または他領域と隣接する領域を統合して、最終的なIn/Out領域を決定する。
図2から図5は、上記のIn/Out点抽出部22とIn/Out領域形成部23の機能部の動作例として、In領域が形成される様子を説明するための図である。
はじめに、In/Out点抽出部22は、任意時間だけ計測したIn点を収集する(図2)。次に、画像領域を12領域(3×4)に初期分割し、各領域内に含まれるIn点情報を用いてk−means法により領域分割処理を行う(図3)。更に、初期分割結果を用いてk−means法を適用し、12個の分割された各領域の中に含まれるIn点情報を要素として、特異値分解による各領域の楕円近似を行う。また、各領域に含まれるIn点情報が、事前に設定した閾値よりも少ない場合は、ノイズ領域とみなし消去する(図4)。
次に、In/Out領域形成部23は、楕円近似された各領域に対して、統合処理を行う。閾値以上近接している領域を統合する処理を繰り返し、統合する領域がなくなるまで継続する。統合された領域内に含まれるIn点の集合を用いて、特異値分解による楕円近似を行い最終的なIn点の領域を獲得する(図5)。
相関値算出部24は、上記の要領で得られた出現領域(In領域)と消失領域(Out領域)を用いて、各領域の対応関係を推定するための相関値を算出する。各カメラで観測される人物のIn/Out点情報は、時間、重心、高さ、横幅、色情報などの各種特徴量を保持している。カメラの撮影範囲に重複がない場合、連結関係を持つ領域に関して、ある消失領域から消失した人物は、一定期間後には連結関係のある出現領域に現れる(カメラの撮影範囲に重複がある場合には、一定期間前に出現領域に現れる)。一定期間内に出現する人物情報の中から、類似する特徴量を持つ人物だけを対応候補として選択し、連結関係の推定に使用する。In/Out点における人物特徴量の類似度は、以下の式1により相関値で評価する。
Figure 2008219570
ここで、wiは各特徴量の重み係数、類似度iは各特徴量の類似度を示し、tは探索時間窓を示す。即ち、所定の探索時間窓における相関値は、重み付けを行った類似度の特徴量の種類(即ち、i個)分の総和で算出される。上記の評価式から、閾値以上の類似度を持つ人物情報のみを連結関係の推定処理に用いる。
頻度ヒストグラム作成部25は、得られたIn/Out点のペアを、カメラ間のIn/Out領域毎に構築されるIn/Out点対応頻度分布に投票する。実際に連結関係のあるIn領域とOut領域のペアは、領域間距離に応じた時間付近に対応頻度のピークを持ち、そのピークを検出することで連結関係の有無を判定することができる。
ここで、In/Out領域の対応処理について例を用いて説明する。
図6は、複数カメラ間における人物の移動例を示す図である。あるカメラから消えた人物は、別のカメラに再度出現する。図6の例では、時刻t6にカメラ1(以降、Cam1と称する)のOut1で示す地点(以降、単にOut1と称する)から消失した人物が、時刻t10にカメラ2(以降、Cam2と称する)のIn3で示す地点(以降、単にIn3と称する)に出現している。各カメラが撮影するエリアに重複する部分がないと仮定した場合、In点に出現した人物は、過去の一定時間内にいずれかのカメラから消失した人物(Out点)と対応することが多いと考えられる。従って、カメラ間で対応する人物ペアを求め、その人物ペアが対応するまでの時間を計測することで複数カメラ間の領域対応、即ち、複数カメラ間の連結関係を推定することができる。尚、図7は、Out点の候補が存在する時間的範囲を概念的に示す模式図である。
頻度ヒストグラム作成部25は、各カメラの全In領域及びOut領域の組み合わせに対して、In点/Out点の対応点をプロットするヒストグラムを作成する。図8は、頻度ヒストグラム作成部25が作成するヒストグラムの対応ペアのプロットの様子を説明するための図である。この図では、図6に示した人物移動例に関して、In3に対応するOut領域を導出する過程を示している。図6及び図7から判断されるように、In3に対応するOut領域は、Out1、Out6、Out5があるので、対応候補として保持する。
図の例では、Out1に連結関係があるため、In3/Out1の特定時間の部分についての人物ペアが多くカウントされる。尚、他のOut点の出現タイミングの関係から、連結関係がないにもかかわらずIn/Out点の対応ペアが生じる場合もあるが、そのような対応は特定ヒストグラム要素に対しピークを持つ可能性が少ない。以上のような過程でプロットが行われ、最終的には図8の下段に示すようにピークを持つヒストグラム要素(図中、楕円で示すピーク)が特定される。
連結関係情報生成部26は、このヒストグラム要素を抽出してカメラ間の連結関係の有無を推定し、連結関係情報を生成する。
尚、図8のヒストグラムの例ではピークが1つの場合を示したが、実際の歩行速度は、人物または物体によりさまざまである(図9参照)。そこで、本実施の形態におけるカメラ間連結関係情報生成装置100では、あるカメラから別のカメラへの移動時間を導出するときに、複数の速度を持つと仮定することで、複数の移動時間計算も可能としている。図10に示すように、複数のピークは、人物の場合は歩行速度の異なりに対応し、また、人物、自転車、自動車等の種別の異なりとして把握することも可能である。
パラメータ設定部27は、上記で説明した各種の計算で用いるパラメータの設定を行う。また、データベース30は、計算に用いる各種データやカメラ間連結関係情報等を保持する。
[実施の形態2]
図11は、本発明の実施の形態2におけるカメラ間連結関係情報生成装置の内部構成を示すブロック図である。実施の形態2のカメラ間連結関係情報生成装置101は、実施の形態1と比較して、連結関係情報生成部26で生成された連結関係情報が相関値算出部24へフィードバックされ、後述する類似度基準を算出する点が異なる。その他の構成は、実施の形態1と同じであるため、詳細な説明を省略する。
上記構成のカメラ間連結関係情報生成装置101の類似度基準算出動作について説明する。相関値算出部24は、実施の形態1で説明した連結関係情報に基づいて、人物Aと人物Bの類似度を判定する。類似度基準は以下の式2で算出される。
Figure 2008219570
ここで、wiは各特徴量の重み係数、類似度iは各特徴量の類似度を示す。
また、同一人物判定基準は、以下の式3に基づいて判定が行われる。
Figure 2008219570
式2に示すように、身長、速度、色、テクスチャの類似度計算の積和に対して、連結関係情報(連結関係ABの連結確率)を掛け合わせる。即ち、人物Aが現れたカメラの領域番号と人物Bが消失したカメラの領域番号の連結確率を重みとして用いる。ここで用いる連結関係ABの連結確率は、実施の形態1で説明した推定されたカメラ間の連結関係を示す情報で、図12に示すようなマトリックスに整理されている。
例えば、連結確率が80%の場合、類似度計算の積和に対して80%の値を掛け、最終的な類似度値とする。相関値算出部24は、新たにカメラに出現した人物Aの対応候補として、複数の対応候補と類似度計算を行い、閾値(MATCH_TH)を超過した候補の中で最大の値をもつ候補を対応人物として選択する。
複数カメラ間で人物の追尾を行う場合、あるカメラから消失した人物は、一定時間後に別のカメラに現れることが多い。つまり、新たにカメラに現れた人物Aの対応候補としては、今まで各カメラから消失した人物を対応候補としてピックアップすればよい。以下に、相関値算出部24が行う人物対応候補の選択動作について説明する。
図13は、複数カメラ間における人物の移動例を示す図である。時刻t10において、Cam2のIn3に新たな人物が出現した場合(基準となるIn点とする)、このIn点に対応する人物は、任意のカメラから消失した人物(Out点とする)となる。基準In点と対応するOut点の候補は、In点から過去TH時間に消失したOut点となる。図14に示すように、t10からTH時間遡った範囲内にあるOut1(t6)、Out6(t5)、Out4(t4)がOut点の候補となることが判る。これら3つの候補との類似度をそれぞれ計算し、最も類似度が高く、且つ、判定基準の閾値を超過した候補を対応させる。
次に、本発明の実施の形態におけるカメラ間連結関係情報生成装置の表示制御処理について説明する。
例えば、実施の形態2で説明したような同一人物判定基準に基づいて、移動する人物の追尾を行う場合、表示制御部40は、監視者が監視を行いやすいように次のような表示制御を行う。
(1)カメラ間連結関係情報に応じて、次に移動する確率の高いカメラの撮影領域をハイライト表示する。例えば、9台の監視カメラが配置されており、通常は各カメラからの映像を画面を9分割して表示している例において、図15に示すように、Cam1から右側に移動した人物がCam6内のある領域に出現する確率が高い場合、当該領域をハイライト表示する。(2)カメラ間連結関係情報に応じて、次に移動する確率の高いカメラの映像を拡大表示する。例えば、図16に示すように、Cam1から右側に移動した人物がCam6内のある領域に出現する確率が高い場合、Cam6の画像を大きく表示する。(3)カメラ間連結関係情報に応じて、次に移動する確率の高いカメラの映像が、移動前のカメラ映像の表示に隣接するように配置を修正して表示する。例えば、図17に示すように、Cam1から消失した人物がCam3内に出現する確率が高い場合、Cam3の画像をCam1の右側に配置変更して表示する。
以上のような表示制御により、人物があるカメラの撮影範囲から別のカメラの撮影範囲へ移動しても、監視者は容易に人物の追尾が行える。なお、このような表示制御は、前述した実施の形態1において移動する人物の追尾を行う場合であっても、表示制御部40により行うことが可能である。
次に、本発明の実施の形態におけるカメラ間連結関係情報生成装置のマップ表示について説明する。
本発明の実施の形態におけるカメラ間連結関係情報生成装置では、取得したカメラ間連結関係情報に基づいて、連結関係に応じた映像の配置を行う。例えば、あるカメラのOut点とあるカメラのIn点の連結確率が高く、且つ対応する領域における人物の消失及び出現に時間的距離がある場合、表示制御部40は、図18に示すように双方のカメラの映像を離間させて表示する。一方、あるカメラのOut点とあるカメラのIn点の連結確率が高く、且つ対応する領域における人物の消失及び出現が同時であるような場合(双方のカメラの撮影範囲が重複している場合)、表示制御部40は、図19に示すように双方のカメラの映像を適切に重複させて表示する。
以上のような表示制御により、人物があるカメラの撮影範囲から別のカメラの撮影範囲へ移動しても、監視者は容易に視認して人物の追尾が行える。なお、このようなマップ表示に係る表示制御についても、前述した実施の形態1において移動する人物の追尾を行う場合であっても、表示制御部40により行うことが可能である。
本発明にかかるカメラ間連結関係情報生成装置は、信頼性の高い連結関係の推定により被写体の移動先を予測して対応先を絞り込めるという効果を有し、複数のカメラを用いて広域監視を行うような監視システムなどにおいて有用である。
本発明の実施の形態1におけるカメラ間連結関係情報生成装置の内部構成を示すブロック図 In領域が形成される様子を説明するための図(In点収集) In領域が形成される様子を説明するための図(領域分割) In領域が形成される様子を説明するための図(楕円近似) In領域が形成される様子を説明するための図(統合処理) 複数カメラ間における人物の移動例を示す図 Out点の候補が存在する時間的範囲を概念的に示す模式図 頻度ヒストグラム作成部が作成するヒストグラムの対応ペアのプロットの様子を説明するための図 歩行速度により到達時間に差異が生じることを示す図 複数ピークを持つヒストグラム例を示す図 本発明の実施の形態2におけるカメラ間連結関係情報生成装置の内部構成を示すブロック図 カメラ間の連結関係情報を概念的に示す図 複数カメラ間における人物の移動例を示す図 Out点の候補が存在する時間的範囲を概念的に示す模式図 出現する確率が高い領域をハイライト表示する表示例を示す図 出現する確率が高い領域を拡大表示する表示例を示す図 出現する確率が高い領域を移動前の映像に隣接するように表示する表示例を示す図 カメラ間の連結関係に基づいて映像を配置する表示例を示す図(離間) カメラ間の連結関係に基づいて映像を配置する表示例を示す図(重複)
符号の説明
10 インターフェース部
21 特徴量抽出部
22 In/Out点抽出部
23 In/Out領域形成部
24 相関値算出部
25 頻度ヒストグラム作成部
26 連結関係情報生成部
27 パラメータ設定部
30 データベース
40 表示制御部
50 表示部
100、101 カメラ間連結関係情報生成装置
200、201、202 監視カメラ
300 ネットワーク回線

Claims (7)

  1. 複数のカメラで撮影された映像から被写体の特徴量を抽出する特徴量抽出手段と、
    前記複数のカメラで撮影された映像の各々において被写体が出現した点であるIn点及び消失した点であるOut点を抽出するIn/Out点抽出手段と、
    前記In/Out点抽出手段で抽出された前記In点に基づき前記In点を含むIn領域及び前記In/Out点抽出手段で抽出された前記Out点に基づき前記Out点を含むOut領域を形成するIn/Out領域形成手段と、
    前記In/Out領域形成手段で形成された前記In領域に含まれるIn点と前記Out領域に含まれるOut点の複数の組合せ各々について、前記特徴量抽出手段で抽出された前記被写体の特徴量毎の類似度の総和を求めることにより相関値を算出する相関値算出手段と、
    前記相関値算出手段で算出された前記相関値に基づき頻度ヒストグラムを作成する頻度ヒストグラム作成手段と、
    前記頻度ヒストグラム作成手段で作成された前記頻度ヒストグラムのピークを抽出することから前記複数のカメラ間の連結関係の有無を推定して連結関係情報を生成する連結関係情報生成手段と、
    を備えるカメラ間連結関係情報生成装置。
  2. 前記複数のカメラで撮影された映像を表示する表示手段と、前記表示手段の表示形態を制御する表示制御手段と、を備える請求項1に記載のカメラ間連結関係情報生成装置。
  3. 前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、移動後の前記被写体が表示される確率の高い前記複数のカメラのうち他のカメラの前記In領域に対応する前記表示手段の表示位置をハイライトする請求項2に記載のカメラ間連結関係情報生成装置。
  4. 前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、前記複数のカメラのうち他のカメラに対応する前記表示手段の表示面積を通常より大きくする請求項2に記載のカメラ間連結関係情報生成装置。
  5. 前記表示制御手段は、前記複数のカメラのうち一カメラの前記Out領域に対応する前記表示手段の表示位置に移動する被写体が表示されている場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、移動後の前記被写体が表示される確率の高い前記複数のカメラのうち他のカメラの前記In領域に対応する前記表示手段の表示位置が、前記一カメラの前記Out領域に対応する前記表示手段の表示位置と隣接するように、前記各カメラに対応する前記表示手段の表示位置を変更する請求項2に記載のカメラ間連結関係情報生成装置。
  6. 前記連結関係情報生成手段で生成された前記連結関係情報は前記複数のカメラのうち一カメラの任意領域と他のカメラの任意領域との間の移動時間情報を含んでおり、前記表示制御手段は、前記連結関係情報に応じて、前記一カメラに対応する前記表示手段の表示位置と前記他のカメラに対応する前記表示手段の表示位置とを離間させる請求項2に記載のカメラ間連結関係情報生成装置。
  7. 前記表示制御手段は、前記複数のカメラのうち一カメラの撮影範囲と他のカメラの撮影範囲とが重複している場合、前記連結関係情報生成手段で生成された前記連結関係情報に応じて、前記一カメラに対応する前記表示手段の表示位置と前記他のカメラに対応する前記表示手段の表示位置とを重複させる請求項2に記載のカメラ間連結関係情報生成装置。
JP2007055473A 2007-03-06 2007-03-06 カメラ間連結関係情報生成装置 Expired - Fee Related JP4881766B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2007055473A JP4881766B2 (ja) 2007-03-06 2007-03-06 カメラ間連結関係情報生成装置
PCT/JP2008/000413 WO2008108087A1 (ja) 2007-03-06 2008-02-29 カメラ間連結関係情報生成装置
US12/529,648 US8284255B2 (en) 2007-03-06 2008-02-29 Inter-camera ink relation information generating apparatus
EP08710516.9A EP2117232A4 (en) 2007-03-06 2008-02-29 DEVICE FOR GENERATING CAMERA COUPLING RELATIONSHIP INFORMATION
CN2008800074830A CN101627630B (zh) 2007-03-06 2008-02-29 相机间联系关系信息生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007055473A JP4881766B2 (ja) 2007-03-06 2007-03-06 カメラ間連結関係情報生成装置

Publications (2)

Publication Number Publication Date
JP2008219570A true JP2008219570A (ja) 2008-09-18
JP4881766B2 JP4881766B2 (ja) 2012-02-22

Family

ID=39737984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007055473A Expired - Fee Related JP4881766B2 (ja) 2007-03-06 2007-03-06 カメラ間連結関係情報生成装置

Country Status (5)

Country Link
US (1) US8284255B2 (ja)
EP (1) EP2117232A4 (ja)
JP (1) JP4881766B2 (ja)
CN (1) CN101627630B (ja)
WO (1) WO2008108087A1 (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010116969A1 (ja) 2009-04-10 2010-10-14 オムロン株式会社 監視システム、および監視端末
WO2013057904A1 (ja) * 2011-10-19 2013-04-25 パナソニック株式会社 蝟集判定装置及び蝟集判定方法
JP2013247586A (ja) * 2012-05-28 2013-12-09 Fujitsu Ltd 位置関係判定プログラム、位置関係判定方法および位置関係判定装置
WO2014041912A1 (ja) * 2012-09-13 2014-03-20 日本電気株式会社 画像処理システム、画像処理方法及びプログラム
WO2014050432A1 (ja) * 2012-09-27 2014-04-03 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014061342A1 (ja) 2012-10-18 2014-04-24 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014069088A1 (ja) * 2012-10-29 2014-05-08 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014103673A1 (ja) * 2012-12-28 2014-07-03 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014125882A1 (ja) * 2013-02-15 2014-08-21 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
JP2014155159A (ja) * 2013-02-13 2014-08-25 Nec Corp 情報処理システム、情報処理方法及びプログラム
WO2014155979A1 (ja) * 2013-03-27 2014-10-02 パナソニック株式会社 追尾処理装置及びこれを備えた追尾処理システム並びに追尾処理方法
WO2014171061A1 (ja) * 2013-04-19 2014-10-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ カメラ制御装置、カメラ制御方法およびカメラ制御システム
JP2016127563A (ja) * 2015-01-08 2016-07-11 パナソニックIpマネジメント株式会社 人物追尾システム及び人物追尾方法
JP2016181743A (ja) * 2015-03-23 2016-10-13 株式会社東芝 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム
JPWO2014155958A1 (ja) * 2013-03-29 2017-02-16 日本電気株式会社 対象物監視システム、対象物監視方法および監視対象抽出プログラム
US9984300B2 (en) 2012-09-19 2018-05-29 Nec Corporation Image processing system, image processing method, and program
US10368010B2 (en) 2012-07-31 2019-07-30 Nec Corporation Image processing system, image processing method, and program
US10750113B2 (en) 2012-07-31 2020-08-18 Nec Corporation Image processing system, image processing method, and program
JPWO2021166032A1 (ja) * 2020-02-17 2021-08-26

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011090408A (ja) * 2009-10-20 2011-05-06 Canon Inc 情報処理装置、その行動推定方法及びプログラム
US9746988B2 (en) * 2011-05-23 2017-08-29 The Boeing Company Multi-sensor surveillance system with a common operating picture
JP5506990B1 (ja) * 2013-07-11 2014-05-28 パナソニック株式会社 追跡支援装置、追跡支援システムおよび追跡支援方法
JP5506989B1 (ja) 2013-07-11 2014-05-28 パナソニック株式会社 追跡支援装置、追跡支援システムおよび追跡支援方法
US9355310B2 (en) 2014-05-27 2016-05-31 International Business Machines Corporation Monitoring individuals using distributed data sources
JP6465600B2 (ja) * 2014-09-19 2019-02-06 キヤノン株式会社 映像処理装置および映像処理方法
CN105744223B (zh) * 2016-02-04 2019-01-29 北京旷视科技有限公司 视频数据处理方法和装置
KR20180086662A (ko) * 2017-01-23 2018-08-01 한화에어로스페이스 주식회사 모니터링 장치 및 시스템
CN107862240B (zh) * 2017-09-19 2021-10-08 中科(深圳)科技服务有限公司 一种多摄像头协同的人脸追踪方法
CN113785299B (zh) 2019-05-03 2023-12-19 丰田汽车欧洲股份有限公司 用于发现对象的图像获取设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE9902328A0 (sv) * 1999-06-18 2000-12-19 Ericsson Telefon Ab L M Förfarande och system för att alstra sammanfattad video
US7319479B1 (en) * 2000-09-22 2008-01-15 Brickstream Corporation System and method for multi-camera linking and analysis
JP4307050B2 (ja) * 2002-11-07 2009-08-05 富士通株式会社 ハイライトシーンの抽出装置
JP4195991B2 (ja) 2003-06-18 2008-12-17 パナソニック株式会社 監視映像モニタリングシステム、監視映像生成方法、および監視映像モニタリングサーバ
CN100541535C (zh) * 2004-01-06 2009-09-16 索尼株式会社 图像处理设备和方法
JP4418935B2 (ja) * 2004-07-15 2010-02-24 株式会社国際電気通信基礎技術研究所 光学マーカシステム
US7629995B2 (en) * 2004-08-06 2009-12-08 Sony Corporation System and method for correlating camera views
JP4229105B2 (ja) 2005-08-25 2009-02-25 トヨタ自動車株式会社 ハイブリッド車およびその制御方法
US7872593B1 (en) * 2006-04-28 2011-01-18 At&T Intellectual Property Ii, L.P. System and method for collecting image data

Cited By (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102388608B (zh) * 2009-04-10 2014-07-02 欧姆龙株式会社 监视系统及监视终端
CN102388608A (zh) * 2009-04-10 2012-03-21 欧姆龙株式会社 监视系统及监视终端
JP5267659B2 (ja) * 2009-04-10 2013-08-21 オムロン株式会社 監視システム、および監視端末
US9041786B2 (en) 2009-04-10 2015-05-26 Omron Corporation Monitoring system and monitoring terminal
WO2010116969A1 (ja) 2009-04-10 2010-10-14 オムロン株式会社 監視システム、および監視端末
WO2013057904A1 (ja) * 2011-10-19 2013-04-25 パナソニック株式会社 蝟集判定装置及び蝟集判定方法
US9165195B2 (en) 2011-10-19 2015-10-20 Panasonic Intellectual Property Management Co., Ltd. Thronging determination device and thronging determination method
JPWO2013057904A1 (ja) * 2011-10-19 2015-04-02 パナソニックIpマネジメント株式会社 蝟集判定装置及び蝟集判定方法
JP2013247586A (ja) * 2012-05-28 2013-12-09 Fujitsu Ltd 位置関係判定プログラム、位置関係判定方法および位置関係判定装置
US10554905B2 (en) 2012-07-31 2020-02-04 Nec Corporation Image processing system, image processing method, and program
US10841528B2 (en) 2012-07-31 2020-11-17 Nec Corporation Systems, methods and apparatuses for tracking persons by processing images
US10750113B2 (en) 2012-07-31 2020-08-18 Nec Corporation Image processing system, image processing method, and program
US10623659B2 (en) 2012-07-31 2020-04-14 Nec Corporation Image processing system, image processing method, and program
US11343575B2 (en) 2012-07-31 2022-05-24 Nec Corporation Image processing system, image processing method, and program
US11082634B2 (en) 2012-07-31 2021-08-03 Nec Corporation Image processing system, image processing method, and program
US10999635B2 (en) 2012-07-31 2021-05-04 Nec Corporation Image processing system, image processing method, and program
US10778931B2 (en) 2012-07-31 2020-09-15 Nec Corporation Image processing system, image processing method, and program
US10368010B2 (en) 2012-07-31 2019-07-30 Nec Corporation Image processing system, image processing method, and program
WO2014041912A1 (ja) * 2012-09-13 2014-03-20 日本電気株式会社 画像処理システム、画像処理方法及びプログラム
US9684835B2 (en) 2012-09-13 2017-06-20 Nec Corporation Image processing system, image processing method, and program
JPWO2014041912A1 (ja) * 2012-09-13 2016-08-18 日本電気株式会社 画像処理システム、画像処理方法及びプログラム
US9984300B2 (en) 2012-09-19 2018-05-29 Nec Corporation Image processing system, image processing method, and program
WO2014050432A1 (ja) * 2012-09-27 2014-04-03 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
US9589192B2 (en) 2012-09-27 2017-03-07 Nec Corporation Information processing system, information processing method, and program
JPWO2014061342A1 (ja) * 2012-10-18 2016-09-05 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
US9390332B2 (en) 2012-10-18 2016-07-12 Nec Corporation Information processing system, information processing method and program
WO2014061342A1 (ja) 2012-10-18 2014-04-24 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
JPWO2014069088A1 (ja) * 2012-10-29 2016-09-08 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014069088A1 (ja) * 2012-10-29 2014-05-08 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
US9633253B2 (en) 2012-10-29 2017-04-25 Nec Corporation Moving body appearance prediction information processing system, and method
JPWO2014103673A1 (ja) * 2012-12-28 2017-01-12 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
WO2014103673A1 (ja) * 2012-12-28 2014-07-03 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
JP2014155159A (ja) * 2013-02-13 2014-08-25 Nec Corp 情報処理システム、情報処理方法及びプログラム
WO2014125882A1 (ja) * 2013-02-15 2014-08-21 日本電気株式会社 情報処理システム、情報処理方法及びプログラム
US9697420B2 (en) 2013-02-15 2017-07-04 Nec Corporation Information processing system, information processing method, and computer-readable recording medium
JP2014192700A (ja) * 2013-03-27 2014-10-06 Panasonic Corp 追尾処理装置及びこれを備えた追尾処理システム並びに追尾処理方法
GB2529943A (en) * 2013-03-27 2016-03-09 Panasonic Ip Man Co Ltd Tracking processing device and tracking processing system provided with same, and tracking processing method
US10445887B2 (en) 2013-03-27 2019-10-15 Panasonic Intellectual Property Management Co., Ltd. Tracking processing device and tracking processing system provided with same, and tracking processing method
GB2529943B (en) * 2013-03-27 2019-11-06 Panasonic Ip Man Co Ltd Tracking processing device and tracking processing system provided with same, and tracking processing method
WO2014155979A1 (ja) * 2013-03-27 2014-10-02 パナソニック株式会社 追尾処理装置及びこれを備えた追尾処理システム並びに追尾処理方法
JPWO2014155958A1 (ja) * 2013-03-29 2017-02-16 日本電気株式会社 対象物監視システム、対象物監視方法および監視対象抽出プログラム
US10171774B2 (en) 2013-04-19 2019-01-01 Panasonic Intellectual Property Corporation Of America Camera control device, camera control method, and camera control system
WO2014171061A1 (ja) * 2013-04-19 2014-10-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ カメラ制御装置、カメラ制御方法およびカメラ制御システム
JPWO2014171061A1 (ja) * 2013-04-19 2017-02-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America カメラ制御装置、カメラ制御方法およびカメラ制御システム
JP2016127563A (ja) * 2015-01-08 2016-07-11 パナソニックIpマネジメント株式会社 人物追尾システム及び人物追尾方法
US10592730B2 (en) 2015-01-08 2020-03-17 Panasonic I-Pro Sensing Solutions Co., Ltd. Person tracking system and person tracking method
WO2016110903A1 (ja) * 2015-01-08 2016-07-14 パナソニックIpマネジメント株式会社 人物追尾システム及び人物追尾方法
JP2016181743A (ja) * 2015-03-23 2016-10-13 株式会社東芝 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム
JPWO2021166032A1 (ja) * 2020-02-17 2021-08-26
WO2021166032A1 (ja) * 2020-02-17 2021-08-26 日本電信電話株式会社 デバイス間位置関係推定装置、デバイス間位置関係推定方法およびプログラム
JP7287564B2 (ja) 2020-02-17 2023-06-06 日本電信電話株式会社 デバイス間位置関係推定装置、デバイス間位置関係推定方法およびプログラム

Also Published As

Publication number Publication date
CN101627630A (zh) 2010-01-13
WO2008108087A1 (ja) 2008-09-12
EP2117232A1 (en) 2009-11-11
US8284255B2 (en) 2012-10-09
CN101627630B (zh) 2011-07-13
JP4881766B2 (ja) 2012-02-22
US20100097475A1 (en) 2010-04-22
EP2117232A4 (en) 2014-03-05

Similar Documents

Publication Publication Date Title
JP4881766B2 (ja) カメラ間連結関係情報生成装置
CN111325089B (zh) 跟踪对象的方法和设备
JP5001260B2 (ja) オブジェクト追跡方法及びオブジェクト追跡装置
KR102153591B1 (ko) 영상 감시 시스템에서의 실시간 쓰레기 투기 행위 탐지 방법 및 장치
JP5603403B2 (ja) 対象物計数方法、対象物計数装置および対象物計数プログラム
JP5227911B2 (ja) 監視映像検索装置及び監視システム
EP2450832B1 (en) Image processing apparatus and image processing method
JP5424852B2 (ja) 映像情報処理方法及びその装置
WO2016114134A1 (ja) 移動状況推定装置、移動状況推定方法およびプログラム記録媒体
CN102414718B (zh) 对象位置估计设备和对象位置估计方法
JP6172551B1 (ja) 画像検索装置、画像検索システム及び画像検索方法
US20110158540A1 (en) Pattern recognition method and pattern recognition apparatus
JP6120404B2 (ja) 移動体行動分析・予測装置
US9245247B2 (en) Queue analysis
JP6503079B2 (ja) 特定人物検知システム、特定人物検知方法および検知装置
KR101577751B1 (ko) 정보 관리를 위한 장치 및 방법
CN109583373A (zh) 一种行人重识别实现方法
JP2019020777A (ja) 情報処理装置、及び、情報処理装置の制御方法、コンピュータプログラム、記憶媒体
JP2018081654A (ja) 検索装置、表示装置および検索方法
JP2021077039A (ja) 画像処理装置、画像処理方法、及びプログラム。
JP2002218449A (ja) 移動物体追跡装置
JP5051885B2 (ja) 人物検索装置及び人物検索方法
JP6866621B2 (ja) 移動物状態量推定装置及びプログラム
JP3810755B2 (ja) 位置判別装置、移動経路算出装置、位置判別方法およびプログラム
JP2011043863A (ja) 対象領域判定・追跡装置、方法、プログラム及び対象領域判定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090629

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111205

R150 Certificate of patent or registration of utility model

Ref document number: 4881766

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141209

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees