JP2009017179A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2009017179A JP2009017179A JP2007176039A JP2007176039A JP2009017179A JP 2009017179 A JP2009017179 A JP 2009017179A JP 2007176039 A JP2007176039 A JP 2007176039A JP 2007176039 A JP2007176039 A JP 2007176039A JP 2009017179 A JP2009017179 A JP 2009017179A
- Authority
- JP
- Japan
- Prior art keywords
- coordinate system
- image
- monitoring
- information
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 94
- 238000003384 imaging method Methods 0.000 claims abstract description 211
- 238000006243 chemical reaction Methods 0.000 claims abstract description 35
- 238000000034 method Methods 0.000 claims description 63
- 230000008569 process Effects 0.000 claims description 25
- 238000001514 detection method Methods 0.000 claims description 15
- 238000012806 monitoring device Methods 0.000 abstract description 148
- 238000012544 monitoring process Methods 0.000 description 209
- 230000006870 function Effects 0.000 description 16
- 238000009434 installation Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 4
- 238000002372 labelling Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012905 input function Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Abstract
【解決手段】画像処理装置を構成する監視装置11〜13では、表示手段が撮像装置による撮像時の座標系である第1の座標系の画像が当該撮像装置の配置に基づいて基準となる平面上に設けられた第2の座標系の画像へ変換された当該画像を表示し、受付手段が表示された画像に関する設定情報をユーザから受け付け、座標系変換手段が受け付けられた設定情報を第2の座標系の情報から撮像装置の配置によらない基準となる平面上に設けられた第3の座標系の情報へ変換する。
【選択図】 図2
Description
図12を参照して、差分法の基本的な処理の様子を説明する。
図12には、差分法による物体検出方法の概略の一例を示してある。
まず、入力画像301と、予め用意された背景画像302がある。差分器303は、入力画像301と背景画像302との画素毎の差分を計算し、差分画像304を算出する。ここで、入力画像301に映る人型の物体(検出すべき物体)311は、差分画像304中で、差分が生じた領域312として検出される。次に、二値化器305は、差分画像304の各画素の値と所定のしきい値(例えば、1画素8ビットを仮定して、しきい値20)とを比較し、しきい値以上の画素の値を“255”とする一方でしきい値未満の画素の値を“0”とする変換を行う。これにより、二値化画像306が得られる。ここで、差分画像304で差分が生じた領域312は、二値化された画素(検出された物体)313として検出され、更にラベリングなどの処理によって、二値化された画素のかたまりを番号付けすることで、検出された物体が存在する領域314が得られる。
図13(a)には、撮像装置による入力画像321の一例を示してあり、建物322が映っている。
図13(b)には、図13(a)に示される入力画像321において指定されて設定された多角形の監視領域331を示してある。
例えば、入力画像321中の建物322に近づく物体を検出する場合には、図13(b)に示されるように、入力画像321に対して所定の指示装置を用いて、例えば多角形331のような領域(図13(b)中の点線部分)を指定する。このようにして指定された多角形331の中に、上述した差分法などのような方法で物体が検出されるか否かを判断することにより、建物332に近づく物体を検出することができる。
図1及び図5(a)〜図5(c)を参照して、このような監視方法を説明する。なお、図1及び図5(a)〜図5(c)は、後述する本発明に係る実施例で参照されるものであるが、ここでは、本発明を不要に限定する意図は無い。
図1には、監視領域を地面に垂直な方向から見下ろした見取り図101の一例が示されている。
本例では、3台の監視装置を用いて、多角形の監視領域114に侵入する物体を監視することを想定する。図1に示されるように配置された撮像装置111、撮像装置112、撮像装置113を用いて領域を撮像する。
このような監視方法では、それぞれの映像(入力画像)について、領域情報を多角形122、132、142のように指定して、差分法によって指定領域に侵入する物体の自動検出をそれぞれの監視装置で行う。それぞれの監視装置による検出結果を見ることで、1台の監視装置で監視するよりも、全体的な監視領域の死角を少なくして、広範囲での監視を実現することができる。
領域の設定作業は、例えば、撮像装置から離れている場所(例えば、画像の上部)ほど撮像装置に近い場所(例えば、画像の下部)と比較して建物等の見かけの大きさが小さくなるため、撮像装置から離れている場所への設定作業は細かく困難な作業となるなどのように、熟練性と時間を要する作業である。このような作業が、監視装置(撮像装置)の数を増やすことや撮像装置の位置などを変更することに伴って必要となることは、監視装置の利用者にとって大きな負担となっていた。
また、設定する情報としては、領域の情報に限られず、例えば、検出対象とする物体に関する情報などもあり、設定作業の負担が大きかった。
すなわち、表示手段が、撮像装置による撮像時の座標系である第1の座標系(カメラ座標系)の画像が当該撮像装置の配置に基づいて基準となる平面上に設けられた第2の座標系(シーン座標系)の画像へ変換された当該画像(第2の座標系の画像)を表示する。受付手段が、前記表示手段により表示された画像に関する設定情報をユーザから受け付ける。座標系変換手段が、前記受付手段により受け付けられた設定情報を、第2の座標系の情報から、撮像装置の配置によらない基準となる平面上に設けられた第3の座標系(ワールド座標系)の情報へ変換する。
これにより、例えば、異なる配置を有する複数の撮像装置を用いる場合や或いは撮像装置の配置を変更するような場合においても、撮像装置により撮像される画像に対する領域などの情報の設定に要する作業の負担を低減することができる。また、撮像装置を追加する場合や、設定情報を追加或いは変更する場合などにおいても、設定情報を効率的に設定することができる。
なお、画像を撮像する撮像装置としては、例えば、画像処理装置に備えられてもよく、或いは、画像処理装置の外部に備えられて、撮像装置により撮像された画像が画像処理装置に入力されてもよい。
また、位置の情報としては、例えば、緯度や経度などのように絶対的な位置の情報を用いることもでき、或いは、1つの撮像装置などの位置を基準として相対的な位置の情報を用いることもできる。
また、基準となる平面上に設けられた第2の座標系(シーン座標系)としては、例えば、地面の平面を基準となる平面として、当該平面(地面)に対して真上から見た座標系が用いられる。第2の座標系は、撮像装置の配置に依存して異なり得る。
また、基準となる平面上に設けられた第3の座標系(ワールド座標系)としては、例えば、地面の平面を基準となる平面として、当該平面(地面)に対して真上から見た座標系が用いられる。第3の座標系は、撮像装置の配置に依存せずに一定である。
具体例として、第2の座標系は、撮像装置毎に、設置位置を原点として、高さ方向をz軸として、初期的な視点方向(或いは、雲台の方向などのように所定の方向)に応じて予め決められた直交するx軸及びy軸から構成され、また、第3の座標系は、高さ方向をZ軸として、予め決められた直交するX軸及びY軸から構成される。
また、第2の座標系(シーン座標系)と第3の座標系(ワールド座標系)とは、例えば、同一の基準となる平面上に設けられるため、これらの座標変換は、回転や平行移動により行うことができる。具体的には、第2の座標系の原点と第3の座標系の原点との差異(位置の差異)を補正するために平行移動し、第2の座標系の平面上の座標軸(例えば、直交するx軸及びy軸)と第3の座標系の平面上の座標軸との差異(角度の差異)を補正するために回転する。なお、第2の座標系と第3の座標系とで、基準となる平面が異なっていて平行である(つまり、高さ方向のみ異なる)場合には、高さ方向の移動の処理を加えて、これらの座標変換を行うことができる。
また、必要に応じて、第1の座標系と第3の座標系との間で直接的に座標変換が行われてもよい。
撮像装置の配置や焦点距離などの情報は、例えば、ユーザにより画像処理装置に設定されてもよく、或いは、画像処理装置が撮像装置などからの情報に基づいて(自動的に)検出してもよく、或いは、画像処理装置が撮像装置の配置や焦点距離などを制御し、その制御により実現される撮像装置の配置や焦点距離などの情報を用いてもよい。
また、ユーザにより入力される情報を受け付ける態様としては、例えば、画面に表示された第2の座標系(或いは、他の構成例として、他の座標系)の画像を見ながらユーザが操作部を操作して情報を入力することができるような態様や、ユーザから受け付けた例えば領域や大きさや長さや数値などの情報をその画面上に表示するような態様を用いることにより、ユーザにとって利便性を高めることが可能である。
また、ユーザから受け付ける設定情報としては、種々な情報が用いられてもよく、例えば、画像を処理する際に使用されるパラメータなどの数値や各種の条件の情報を用いることができる。
すなわち、前記座標系変換手段は、所定の配置を有する一の撮像装置により撮像された画像に基づいて取得された第3の座標系の設定情報を、前記所定の配置とは異なる配置に対応した第2の座標系の情報へ変換する。
また、当該画像処理装置では、変換情報設定手段が、前記座標系変換手段により変換された情報(第2の座標系の設定情報)を、前記所定の配置とは異なる配置を有する前記一の撮像装置とは異なる撮像装置又は配置が変更された前記一の撮像装置により得られる画像に関して設定する。
通常、第2の座標系の設定情報が設定される場合には、その設定情報を用いて第2の座標系の画像が処理され、また、第1の座標系の設定情報が設定される場合には、その設定情報を用いて第1の座標系の画像が処理される。また、第3の座標系の設定情報を用いて第3の座標系の画像が処理されてもよい。
すなわち、前記画像に関する設定情報として、監視する領域を指定する情報、又は、検出の対象に関する情報、のうちの少なくとも一方が用いられる。
従って、これらの情報を、異なる配置を有する同一又は異なる撮像装置の間で共有することができる。
また、検出の対象としては、例えば、画像に映る所定の物体などを用いることができる。
また、検出の対象に関する情報としては、種々な情報が用いられてもよく、例えば、対象の大きさや幅や高さや長さなどに関する閾値の情報を用いることができる。一例として、対象の大きさ等がその閾値以上である場合(又は、その閾値以下や、ある範囲(範囲を表す閾値)内などでもよい)に、その対象を検出するような処理を行うことができる。
また、画像に関する設定情報としては、これらに限られず、種々なものが用いられてもよい。
本発明に係る方法では、装置やシステムにおいて各手段が各種の処理を実行する。
本発明に係るプログラムでは、装置やシステムを構成するコンピュータに実行させるものであって、当該コンピュータを各種の手段として機能させる。
本発明に係る記録媒体では、装置やシステムを構成するコンピュータに実行させるプログラムを当該コンピュータの入力手段により読み取り可能に記録したものであって、当該プログラムは各種の処理(手順)を当該コンピュータに実行させる。
本例では、少なくとも1台(1台以上)の監視装置を用いて監視を行う監視システムの例を示す。
図1には、本例の監視システムで監視を行う監視領域並びにその周辺の見取り図101の一例を示してある。この見取り図101は、監視領域を地面に垂直な方向から見下ろしたものである。
具体的には、道路や建物や空き地があり、第1の監視装置に備えられた第1の撮像装置111の配置(位置や方向)と、第2の監視装置に備えられた第2の撮像装置112の配置と、第3の監視装置に備えられた第3の撮像装置113の配置と、建物の付近に設定された多角形の監視領域114が示されている。
本例の監視システム1は、3台の監視装置11、12、13(第1の監視装置11、第2の監視装置12、第3の監視装置13)を備えており、これらがネットワーク14で接続されている。
各監視装置11、12、13は、本例では、監視の対象となる領域を撮像して領域内に進入する物体を自動検出する装置であり、例えばTCP(Transmission Control Protocol)/IP(Internet Protocol)のプロトコルを使用するネットワーク14を介してそれぞれ接続され、それぞれの監視装置11、12、13で異なる位置や角度やレンズの焦点距離などによって監視を行っている。各監視装置11、12、13における撮像装置111、112、113は、それぞれ、図1に示されるように配置されている。
本例の監視装置11は、例えばカメラを用いて構成された撮像装置21と、映像入力回路22と、画像処理プロセッサ23と、プログラムメモリ24と、ワークメモリ25と、例えば直接的に或いはネットワーク14などを介して間接的に外部の装置と接続される外部I/F回路26と、映像出力回路27と、例えば表示画面を有する表示装置28と、例えば人により操作されるキーボードやマウスなどを有する入力装置29と、入力回路30と、例えばメモリを用いて構成された記憶装置31と、データバス32を備えている。映像入力回路22と画像処理プロセッサ23とプログラムメモリ24とワークメモリ25と外部I/F回路26と映像出力回路27と入力回路30と記憶装置31は、データバス32に接続されている。
なお、撮像装置21の構成としては、例えば、従来より知られる技術として、撮像装置21の制御のための装置や、各種の外部記録装置等の構成要素を持つものも存在するが、本例では、説明を簡単にするために、それらについては図示や詳しい説明を省略する。
撮像装置21は監視の対象となる領域を撮像する。撮像装置21により撮像された映像(入力画像)は、映像入力回路22を介して、ワークメモリ25に記録される。
画像処理プロセッサ23は、プログラムメモリ24に記録されているプログラムに従って、ワークメモリ25内に記録された入力画像を処理(例えば、物体検出処理)し、その処理結果を映像出力回路27を介して表示装置28に表示する。また、画像処理プロセッサ23は、物体検出処理以外にも、各種の処理を実行する。
記憶装置31は、監視を所望する領域の情報などの保持や、監視装置11により出力された監視結果の情報などの保存を行う。なお、領域情報などはワークメモリ25内にも記録されてもよい。
なお、図4では、説明を分かり易くするために、処理のステップS1〜S9以外に、ワークメモリ25(或いは、記憶装置31など)に記録される背景画像T1及び領域情報T2と、表示装置28と、入力装置29(或いは、外部I/F回路26を介する監視装置11の外部からの入力機能でもよい)と、記憶装置31(或いは、外部I/F回路26を介する監視装置11の外部にある記憶装置でもよい)を示してある。また、図4において、点線で示す矢印は、データの流れを表している。
次に、設定判定処理ステップでは、入力装置29からオペレータの設定指示があるか否かを判定し、このような設定指示があった場合には領域設定処理ステップ(ステップS9)へ分岐し、このような設定指示がなかった場合には差分処理ステップ(ステップS3)へ分岐する(ステップS2)。
ここで、入力装置29からの領域の設定に関する指示は、例えば、領域情報としてオペレータなどが任意の情報を指定することや、或いは、記憶装置31に予め記録された領域情報を参照することにより実現する。
次に、二値化処理ステップでは、差分画像の各画素の値と所定のしきい値(例えば、1画素8ビットを仮定して、しきい値20)とを比較し、しきい値以上の画素の値を“255”とする一方でしきい値未満の画素の値を“0”とする変換を行う(ステップS4)。これにより、二値化画像(図12では、二値化画像306)を得る。
次に、背景更新処理ステップでは、画像入力処理ステップ(ステップS1)で得られた入力画像を用いてワークメモリ25内に記録している背景画像T1を更新する(ステップS6)。
ここで、背景画像の更新としては、例えば、背景画像T1と入力画像の画素毎の移動平均などの方法を用いて新しい背景画像T1を作成することができ、これにより、監視環境の天候変化などによる照度変化に追従して、背景画像T1を常に最新の状態に保つことができる。
次に、処理結果表示ステップでは、領域判定処理ステップ(ステップS7)の判定結果を、例えば表示装置28の画面に表示する(ステップS8)。この処理結果表示ステップの処理が終了すると、画像入力処理ステップ(ステップS1)へ分岐する。
なお、本例では、領域情報T2の設定について示したが、例えば、物体検出に関する他の情報が設定されてもよい。
図5(a)には、画像入力処理ステップ(ステップS1)において第1の撮像装置111(図3では、撮像装置21)により撮像された入力画像121の一例を示してある。また、多角形の監視領域(点線)122の一例を示してある。
図5(b)には、画像入力処理ステップ(ステップS1)において第2の撮像装置112(図3では、撮像装置21)により撮像された入力画像131の一例を示してある。また、多角形の監視領域(点線)132の一例を示してある。
図5(c)には、画像入力処理ステップ(ステップS1)において第3の撮像装置113(図3では、撮像装置21)により撮像された入力画像141の一例を示してある。また、多角形の監視領域(点線)142の一例を示してある。
図5(e)には、第2の監視装置について、第2の撮像装置112の位置や撮像角度や焦点距離などの情報に基づいて、入力画像131を撮像装置112が設置された地面に対して平行な平面に投影したシーン座標系のシーン画像161の一例を示してある。
図5(f)には、第3の監視装置について、第3の撮像装置113の位置や撮像角度や焦点距離などの情報に基づいて、入力画像141を撮像装置113が設置された地面に対して平行な平面に投影したシーン座標系のシーン画像171の一例を示してある。
また、この場合、シーン座標系で設定された領域情報は、ワールド座標系の情報へ変換されて記憶される。
なお、本例では、カメラ座標系からワールド座標系への直接的な座標変換は場合によっては計算が複雑となることや、シーン座標系が領域などの設定に役立つことなどから、最初に、ワールド座標系を回転や並行移動した座標系であって撮像装置21の鉛直下向きベクトルと地面との交点を原点とするシーン座標系へカメラ座標系から変換し、その後に、シーン座標系からワールド座標系へ変換する処理を示す。
つまり、本例では、カメラ座標系とシーン座標系との変換や、シーン座標系とワールド座標系との変換を行う。
本例では、カメラ座標系の入力画像121からシーン画像151への変換はカメラ座標系からシーン座標系への座標変換により行う。また、シーン座標系はワールド座標系を単純に回転や平行移動した直交座標系であるため、シーン画像151は、その回転や平行移動の逆変換を行うことにより、ワールド座標系上で表現することができる。
図6(b)には、地面に対して垂直な方向で(真上から)撮像装置21を見た場合の様子の一例を示してある。
図6(a)及び図6(b)は、シーン座標系で表現されている。本例では、シーン座標系は、原点Oを撮像装置21の鉛直下向き(z方向)で基準となる平面(地面)と交差する点として、地面の平面上にx軸及びy軸を取り、高さ方向にz軸を取る直交座標系である。また、撮像装置21が向いている視線方向(光軸方向)にr軸を設けてある。
また、撮像装置21の横方向の視野角をθHで表している。なお、撮像装置21の縦方向の視野角θVは、撮像装置21の横方向の視野角θHから撮像素子のアスペクト比(縦横比)によって算出することができる。
また、撮像装置21により撮像される画像の視野の中で、撮像装置21から最も近い所までの水平距離をLNで表しており、撮像装置21から最も遠い所までの水平距離をLFで表している。
撮像範囲の位置の算出方法を示す。本例では、説明を簡易化するために、監視対象領域は平面であり、地面の凹凸が無いとする。
撮像装置21の横方向の視野角である画角θHは(式1)により求められる。
これらの距離LN、LFについて説明する。
撮像装置21の縦方向の視野角である画角θVは(式2)により求められる。
距離LN及び距離LFは、(式3)により求められる。
一例として、1/3インチの撮像素子を使用して、撮像レンズの焦点距離をf=8.00mmとし、雲台の現在の方向をθT=30°とし、撮像装置21の設置高をH=5.0mとした場合には、LN=5.42m、LF=16.1mとなる。
この結果に基づいて、視野範囲に含まれるカメラ座標系の画像上の各位置(x’、y’)をシーン座標系の(x、y)座標へ変換することができる。
例えば、画像上(x’、y’)で表される画素が図6(a)における点Cの位置を撮像したものである場合、入力画像121の縦方向の画素数を480画素とすると、点Cを撮像する俯角θyは(式4)により表される。
ここでは、第1の撮像装置111(撮像装置21)について説明したが、他の撮像装置112、113により撮影されたカメラ座標における入力画像131、141についても、(式1)〜(式6)と同様な座標変換を行うことで、シーン座標系上で表現されるシーン画像161、171へ変換することができる。
このため、全ての監視装置11、12、13(全ての撮像装置111、112、113)から得られたシーン画像151、161、171を統一された座標系で見るためには、各シーン座標系から唯一の座標系であるワールド座標系への座標変換が必要となる。
図7(a)には、シーン画像151をワールド座標系上で表現したもの(シーン画像181)と、多角形の監視領域(点線)182(図5(d)における監視領域152に対応するもの)を示してある。
例えば、図13(b)に示されるようなカメラ座標系の画像を用いた従来の領域指定方法では、建物322から一定距離の領域を指定するような場合に、画像上の位置によって見かけの大きさが異なってしまう問題があったが、本例のように、(各撮像装置毎に個別のシーン座標系における、又は、全ての撮像装置に共通なワールド座標系における)シーン画像を用いて領域を指定する場合には、画像上の位置によって見かけの大きさが異なる問題は発生しない。
監視領域の設定や共有を行うために、まず、各監視装置11、12、13において撮像した入力画像121、131、141を、(式1)〜(式6)によって、それぞれ、シーン座標系のシーン画像151、161、171へ変換する。次に、例えば1つの監視装置11において、入力装置29を用いて、そのシーン座標系のシーン画像151上で監視を所望する領域を例えば多角形152で設定する。そして、(式7)により、各シーン座標系のシーン画像151、161、171及び設定された監視領域152の座標系をワールド座標系へ変換する。
監視装置11では、ワールド座標系で表現される監視領域194の情報を、例えば記憶装置31に保存するなどして、他の監視装置12、13と共有できるように保持しておく。そして、監視装置11は、当該監視装置11上で定めた監視領域194のワールド座標の情報を、必要に応じて、他の監視装置12、13に対してネットワーク14を介して伝送する。
具体的には、監視領域194と各シーン画像192、193は、ワールド座標系上では図7(b)に示されるように表現できるため、それぞれのシーン画像192、193と監視領域194とが重複する領域の座標を、各監視装置12、13における監視領域として設定する。つまり、1つの監視装置11上で決定した監視領域194(監視領域152に対応するもの)と同等な監視領域を、他の監視装置12、13で共有して設定することができる。また、ワールド座標系上での監視領域の設定情報をそれぞれの監視装置12、13に対応するシーン座標系の情報やカメラ座標系の情報へ変換して設定することができる。
これに対して、本例の場合には、1つの監視装置によって得られたシーン座標系(或いは、ワールド座標系)のシーン画像に対して、例えば図5(d)における多角形152のように監視領域の設定を行えば、監視装置の台数に係らず、他の全ての監視装置に対して、前記監視領域と等しい監視領域を自動的且つ瞬時に設定することが可能である。
また、本例の監視装置11〜13では、領域情報や各監視装置11〜13における検出結果の情報などを保持(記憶)するための記憶装置31を備えており、例えば、記憶装置31などに対して領域情報などを入力するための入力装置29を備えている。
また、本例の監視装置11〜13では、前記した入力画像を処理するために必要な情報として、物体を検出する領域を表す検出領域(監視領域)の情報が用いられる。
また、本例の監視装置11〜13では、第3の座標系として、前記監視領域を監視する全ての監視装置において共通な座標系であるワールド座標系を用いている。ワールド座標系も、前記監視領域の地図に相似する座標系である。
1台以上の監視装置において撮影した監視領域の画像は、それぞれの監視装置の撮像条件で見え方が異なる情報であり、すなわちそれぞれのカメラ座標系毎に異なる情報となるが、これらの異なるカメラ座標系で表現された入力画像情報を物体の絶対的な位置を示すことができる共通のワールド座標系で表現できるように座標変換することで、監視領域などの情報を異なる監視装置間並びに異なる監視条件間で共有して扱うことができる状況が実現される。また、カメラ座標系の入力画像を各撮像装置毎のシーン座標系のシーン画像へ変換し、得られたシーン座標系のシーン画像上で所望の監視領域の設定などを行うことで、人にとって感覚的に分かり易いシーン座標系のシーン画像を用いて領域などの設定を効果的に行うことができる。なお、ワールド座標系の画像において領域などの設定が行われてもよい。
また、シーン座標系やワールド座標系は、監視領域の地面に対して平行な平面に投影した座標系として、当該監視領域の地図に相似する座標系にすることが可能であり、このような座標系とすることで、領域などの情報を人により直感的且つ簡単に設定することが可能となる。
これに対して、本例のような監視装置や監視情報の設定方法では、撮像装置により撮像された入力画像を地図に相似するワールド座標系で表現可能なシーン画像へ変換することで、ワールド座標系で全ての撮像装置で撮像された入力画像情報や領域情報などを表現することができ、シーン座標系或いはワールド座標系で所望の領域などを設定して、当該領域などの情報を全ての撮像装置で共有することができる。これにより、監視装置の追加や使用条件の変更に伴う領域などの設定作業の手間が削減され、より効率的で簡単で容易な監視装置の運用が可能となる。
また、本例では、監視領域の形状として、多角形を用いたが、他の任意の形状が用いられてもよい。
本例の画像処理装置では、例えば、監視装置11〜13に備えられた表示装置28により画像を表示する機能により表示手段が構成されており、監視装置11〜13に備えられた入力装置29などによりユーザ(人)から領域などの設定情報を受け付ける機能により受付手段が構成されており、監視装置11〜13に備えられた画像処理プロセッサ23などにより情報の座標系を変換する機能により座標系変換手段が構成されており、ある撮像装置の配置で取得された設定情報を他の配置を有する(前記ある撮像装置と同一の又は異なる)撮像装置に設定する機能により変換情報設定手段が構成されている。
本例では、例えば、各監視装置11〜13毎に自装置で取得された設定情報などをワールド座標系の情報へ変換して、監視装置11〜13の間ではワールド座標系の情報を通信するが、他の態様が用いられてもよい。
なお、上記した第1実施例の場合と同様な構成や動作については詳しい説明を省略する。
上記した第1実施例では、少なくとも1つの監視装置の各々で設定した監視領域のワールド座標系で表される情報を、例えばネットワークを介して他の監視装置で共有できるようにした。この監視領域の情報は、少なくとも1つの監視装置で共有するものであるため、情報の保存管理を担う情報サーバを設ける形態を用いることも可能であり、本例では、このような形態について説明する。
本例の監視システム41は、3台以上の監視装置51、52、53(第1の監視装置51、第2の監視装置52、第3の監視装置53、・・・)を備えており、これらがネットワーク55で接続されており、また、ネットワーク55に接続された情報サーバ54を備えている。情報サーバ54は、例えば、人により操作されることや、各種の情報を内部或いは外部の記憶装置に記憶することや、各種の情報を画面に表示することなどが可能である。
なお、監視装置の数は任意であってもよく、本例では、説明の便宜上から、まず3台として説明し、次に1台追加する場合を示す。
ここで、本例では、情報サーバ54には、ワールド座標系の情報が保持されるが、必要に応じて、各監視装置毎のシーン座標系やカメラ座標系の情報が保持されてもよい。
本例のように、監視装置51、52、53間に、情報の保存管理を行う情報サーバ54を設けることで、監視領域204の情報を一括管理することができるとともに、監視領域204の設定や変更なども一括して行うことができる。
図9(b)には、ワールド座標系上でシーン画像を表現したものの一例を示してある。具体的には、3つの監視装置51、52、53により得られたシーン画像211、212、213(シーン画像201、202、203と同じもの)と、既に設定されている多角形の監視領域(点線)214(監視領域204と同じもの)と、新たに設定された多角形の監視領域(点線)215をワールド座標系上で示してある。
これに対して、本例では、例えばいずれかの監視装置51、52、53或いは情報サーバ54を用いて追加を所望する監視領域をマウスなどの入力装置によって手動で設定して、当該監視領域のワールド座標の情報を情報サーバ54から各監視装置51、52、53へ送信することにより、一度の追加領域の設定で全ての監視装置51、52、53に対してその追加領域を瞬時に反映させることができ、監視装置51、52、53を運用する利用者の負担を削減することができる。
図10には、本例の監視システム41で監視を行う監視領域並びにその周辺の見取り図221の一例を示してある。この見取り図221は、監視領域を地面に垂直な方向から見下ろしたものである。
具体的には、道路や建物や空き地があり、第1の監視装置51に備えられた第1の撮像装置231の配置(位置や方向)と、第2の監視装置52に備えられた第2の撮像装置232の配置と、第3の監視装置53に備えられた第3の撮像装置233の配置と、第4の監視装置(新規な監視装置)に備えられた第4の撮像装置234の配置が示されている。
例えば、監視精度の向上などを目的として、図10に示される地図上におけるある地点(建物の屋上)234に撮像装置を持つ新たな監視装置Pを追加する場合においても、本例の監視システム41では、この新規な監視装置Pに対して監視領域などの情報を設定することを簡単に実現することができる。
図11(b)には、新規な監視装置Pにおいて、図11(a)に示される入力画像241を(式1)〜(式6)により変換して得られたシーン画像251の一例を示してある。
図11(c)には、図11(b)に示されるシーン座標系上のシーン画像251を(式7)により変換して得られたワールド座標系上のシーン画像261の一例を示してあり、また、多角形の監視領域262の一例をワールド座標系上で示してある。
図11(d)には、4つの監視装置(本例では、監視装置51、52、53及び新規な監視装置P)により得られたシーン画像271、272、273、274の一例と、共通な監視領域275の一例をワールド座標系上で示してある。
これに対して、本例では、監視システム41で共有可能とした監視領域の情報をワールド座標系に変換することで、当該監視領域を監視する全ての監視装置において数値的に設定することが可能であるため、たとえ監視装置を何台追加することとなっても、当該監視領域を監視する分には、新たに手動で監視領域を設定する必要はなくなり、監視システム41の運用者は非常に少ない負担で監視装置を追加することができる。
例えば、図11(c)に示される監視領域262を監視する監視装置Pにおける撮像装置の位置と角度と焦点距離を変更したところ、図11(a)に示されるように撮像されていた入力画像241が、撮像装置の位置と角度と焦点距離の変更に伴って図11(e)に示される入力画像281のように変化した場合を考える。
図11(e)には、監視装置Pの撮像装置により撮像された入力画像281の一例と、監視領域(点線)282の一例を示してある。
これに対して、本例では、撮像装置の設定を変更する前における監視装置Pの監視領域をワールド座標系上で図11(c)に示される多角形262のように設定してワールド座標の値を保持しておく。これにより、たとえ撮像装置の設定を変更して入力画像が図11(e)に示されるように変化した場合においても、この入力画像281を図11(f)に示されるワールド座標系上のシーン画像291へ変換することでワールド座標上で表現することが可能であるため、撮像装置の設定を変更する前に決定した監視領域262の座標を撮像装置の設定変更後もそのまま監視領域として用いることができ、新たに監視領域を設定し直す手間が削減される。
図11(f)には、図11(e)に示される入力画像281をワールド座標系上で表現したシーン画像291の一例と、監視領域292の一例をワールド座標系上で示してある。
例えば、図9(a)に示されるワールド座標系上で表現されたシーン画像201、202、203と、図1に示されるこれらの領域を真上から見下ろした見取り図101とは相似であり、建物の位置などの情報において相違ない。
従って、本例では、監視装置51、52、53の外部に設けられた情報サーバ54により、複数の監視装置51、52、53に関する情報を共有して一括して記憶や管理や設定などすることができる。
また、本例の画像処理装置では、画像を表示する表示手段の機能や、ユーザ(人)から設定情報を受け付ける受付手段の機能や、情報の座標系を変換する座標系変換手段の機能や、配置が異なる撮像装置間で設定情報を設定する変換情報設定手段の機能の一部又は全部が情報サーバ54に備えられており、また、これらの機能の一部又は全部は監視装置51〜53にも備えられている。
本例では、例えば、各監視装置51〜53毎に自装置で取得された設定情報などをワールド座標系の情報へ変換して、監視装置51〜53と情報サーバ54との間ではワールド座標系の情報を通信するが、他の態様が用いられてもよい。
また、本発明の適用分野としては、必ずしも以上に示したものに限られず、本発明は、種々な分野に適用することが可能なものである。
また、本発明に係るシステムや装置などにおいて行われる各種の処理としては、例えばプロセッサやメモリ等を備えたハードウエア資源においてプロセッサがROM(Read Only Memory)に格納された制御プログラムを実行することにより制御される構成が用いられてもよく、また、例えば当該処理を実行するための各機能手段が独立したハードウエア回路として構成されてもよい。
また、本発明は上記の制御プログラムを格納したフロッピー(登録商標)ディスクやCD(Compact Disc)−ROM等のコンピュータにより読み取り可能な記録媒体や当該プログラム(自体)として把握することもでき、当該制御プログラムを当該記録媒体からコンピュータに入力してプロセッサに実行させることにより、本発明に係る処理を遂行させることができる。
101、221・・見取り図、 111〜113、231〜234・・撮像装置、 114、122、132、142、152、182、194、204、214、215、242、262、275、282、292・・監視領域、 121、131、141、241、281・・入力画像、 151、161、171、181、191〜193、201〜203、211〜213、251、261、271〜274、291・・シーン画像、
301、321・・入力画像、 302・・背景画像、 303・・差分器、 304・・差分画像、 305・・二値化器、 306・・二値化画像、 311・・物体、 312・・領域、 313・・画素、 314・・領域、 322・・建物、 331・・監視領域、
T1・・背景画像、 T2・・領域情報、
Claims (3)
- 画像を処理する画像処理装置において、
撮像装置による撮像時の座標系である第1の座標系の画像が当該撮像装置の配置に基づいて基準となる平面上に設けられた第2の座標系の画像へ変換された当該画像を表示する表示手段と、
前記表示手段により表示された画像に関する設定情報をユーザから受け付ける受付手段と、
前記受付手段により受け付けられた設定情報を第2の座標系の情報から撮像装置の配置によらない基準となる平面上に設けられた第3の座標系の情報へ変換する座標系変換手段と、
を備えたことを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置において、
前記座標系変換手段は、所定の配置を有する一の撮像装置により撮像された画像に基づいて取得された第3の座標系の設定情報を、前記所定の配置とは異なる配置に対応した第2の座標系の情報へ変換し、
当該画像処理装置は、前記座標系変換手段により変換された情報を、前記所定の配置とは異なる配置を有する前記一の撮像装置とは異なる撮像装置又は配置が変更された前記一の撮像装置により得られる画像に関して設定する変換情報設定手段を備えた、
ことを特徴とする画像処理装置。 - 請求項1又は請求項2に記載の画像処理装置において、
前記画像に関する設定情報として、監視する領域を指定する情報又は検出の対象に関する情報のうちの少なくとも一方が用いられる、
ことを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007176039A JP4976939B2 (ja) | 2007-07-04 | 2007-07-04 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007176039A JP4976939B2 (ja) | 2007-07-04 | 2007-07-04 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009017179A true JP2009017179A (ja) | 2009-01-22 |
JP4976939B2 JP4976939B2 (ja) | 2012-07-18 |
Family
ID=40357526
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007176039A Active JP4976939B2 (ja) | 2007-07-04 | 2007-07-04 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4976939B2 (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013175836A1 (ja) | 2012-05-23 | 2013-11-28 | ソニー株式会社 | 監視カメラ管理装置、監視カメラ管理方法およびプログラム |
JP2014179923A (ja) * | 2013-03-15 | 2014-09-25 | Canon Inc | 情報処理装置、情報処理装置の制御方法、およびプログラム |
JP2014179922A (ja) * | 2013-03-15 | 2014-09-25 | Canon Inc | 表示装置、表示装置の制御方法、およびプログラム |
JP2015109937A (ja) * | 2013-01-23 | 2015-06-18 | 株式会社東芝 | 動作情報処理装置 |
WO2016035211A1 (ja) * | 2014-09-05 | 2016-03-10 | 堺ディスプレイプロダクト株式会社 | 画像生成装置、画像生成方法及びコンピュータプログラム |
JP2016115082A (ja) * | 2014-12-12 | 2016-06-23 | 株式会社日立システムズ | 画像検索システム及び画像検索方法 |
JP2016220145A (ja) * | 2015-05-25 | 2016-12-22 | キヤノン株式会社 | 画像解析装置、画像解析方法、およびプログラム |
JP2017152800A (ja) * | 2016-02-22 | 2017-08-31 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
WO2019188994A1 (ja) * | 2018-03-28 | 2019-10-03 | 日本電気株式会社 | 映像監視支援装置、映像監視支援方法、及びコンピュータ読み取り可能な記録媒体 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016157330A1 (ja) | 2015-03-27 | 2016-10-06 | 日本電気株式会社 | モバイル監視装置、プログラム、及び制御方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001319218A (ja) * | 2000-02-29 | 2001-11-16 | Hitachi Ltd | 画像監視装置 |
JP2005286685A (ja) * | 2004-03-30 | 2005-10-13 | Hitachi Ltd | 画像生成装置、システムまたは画像合成方法。 |
-
2007
- 2007-07-04 JP JP2007176039A patent/JP4976939B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001319218A (ja) * | 2000-02-29 | 2001-11-16 | Hitachi Ltd | 画像監視装置 |
JP2005286685A (ja) * | 2004-03-30 | 2005-10-13 | Hitachi Ltd | 画像生成装置、システムまたは画像合成方法。 |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9948897B2 (en) | 2012-05-23 | 2018-04-17 | Sony Corporation | Surveillance camera management device, surveillance camera management method, and program |
WO2013175836A1 (ja) | 2012-05-23 | 2013-11-28 | ソニー株式会社 | 監視カメラ管理装置、監視カメラ管理方法およびプログラム |
JP2015109937A (ja) * | 2013-01-23 | 2015-06-18 | 株式会社東芝 | 動作情報処理装置 |
JP2014179923A (ja) * | 2013-03-15 | 2014-09-25 | Canon Inc | 情報処理装置、情報処理装置の制御方法、およびプログラム |
JP2014179922A (ja) * | 2013-03-15 | 2014-09-25 | Canon Inc | 表示装置、表示装置の制御方法、およびプログラム |
US10796543B2 (en) | 2013-03-15 | 2020-10-06 | Canon Kabushiki Kaisha | Display control apparatus, display control method, camera system, control method for camera system, and storage medium |
US10404947B2 (en) | 2013-03-15 | 2019-09-03 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, camera system, control method for camera system, and storage medium |
US10373459B2 (en) | 2013-03-15 | 2019-08-06 | Canon Kabushiki Kaisha | Display control apparatus, display control method, camera system, control method for camera system, and storage medium |
WO2016035211A1 (ja) * | 2014-09-05 | 2016-03-10 | 堺ディスプレイプロダクト株式会社 | 画像生成装置、画像生成方法及びコンピュータプログラム |
JPWO2016035211A1 (ja) * | 2014-09-05 | 2017-04-27 | 堺ディスプレイプロダクト株式会社 | 画像生成装置、画像生成方法及びコンピュータプログラム |
US10032249B2 (en) | 2014-09-05 | 2018-07-24 | Sakai Display Products Corporation | Image generating apparatus, image generating method, and computer program |
JP6091720B2 (ja) * | 2014-09-05 | 2017-03-08 | 堺ディスプレイプロダクト株式会社 | 画像生成装置、画像生成方法及びコンピュータプログラム |
JP2016115082A (ja) * | 2014-12-12 | 2016-06-23 | 株式会社日立システムズ | 画像検索システム及び画像検索方法 |
JP2016220145A (ja) * | 2015-05-25 | 2016-12-22 | キヤノン株式会社 | 画像解析装置、画像解析方法、およびプログラム |
JP2017152800A (ja) * | 2016-02-22 | 2017-08-31 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
WO2019188994A1 (ja) * | 2018-03-28 | 2019-10-03 | 日本電気株式会社 | 映像監視支援装置、映像監視支援方法、及びコンピュータ読み取り可能な記録媒体 |
JPWO2019188994A1 (ja) * | 2018-03-28 | 2021-02-18 | 日本電気株式会社 | 映像監視支援装置、映像監視支援方法、及びプログラム |
US11457180B2 (en) | 2018-03-28 | 2022-09-27 | Nec Corporation | Video monitoring support apparatus, video monitoring support method, and computer readable recording medium |
Also Published As
Publication number | Publication date |
---|---|
JP4976939B2 (ja) | 2012-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4976939B2 (ja) | 画像処理装置 | |
US10095458B2 (en) | Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system | |
US10061486B2 (en) | Area monitoring system implementing a virtual environment | |
EP3550513B1 (en) | Method of generating panorama views on a mobile mapping system | |
JP2010128727A (ja) | 画像処理装置 | |
JP5183152B2 (ja) | 画像処理装置 | |
JP2015043488A (ja) | 遠隔操作装置及びそれを用いた遠隔施工方法 | |
US20190303685A1 (en) | Monitoring system, monitoring method, and non-transitory computer-readable storage medium | |
US20170109932A1 (en) | Content projection apparatus, content projection method, and computer readable storage medium | |
JP6381265B2 (ja) | 情報処理装置、表示方法、及びプログラム | |
CN104459974A (zh) | 信息处理装置、信息处理方法、程序和影像测量装置 | |
WO2017017790A1 (ja) | 画像生成装置、画像生成システム及び画像生成方法 | |
US10462448B2 (en) | Image generation system and image generation method | |
JP5574551B2 (ja) | 画像処理装置および画像処理方法 | |
JP2016197797A (ja) | 画像処理装置、画像処理方法、及び画像処理システム | |
TWI556651B (zh) | 具攝影機自動調派功能之3d影像監控系統及其監控方法 | |
US20200186778A1 (en) | Control device for a camera apparatus, camera arrangement and method for the stereoscopic recording of a monitoring area | |
JP6269014B2 (ja) | フォーカス制御装置およびフォーカス制御方法 | |
US10089726B2 (en) | Image processing apparatus, image processing method, and storage medium, relating to generating an image corresponding to a predetermined three-dimensional shape by transforming a captured image | |
WO2021138856A1 (zh) | 相机控制方法、设备及计算机可读存储介质 | |
CA3201066A1 (en) | Collaborative augmented reality measurement systems and methods | |
US20190080179A1 (en) | Monitoring system and terminal device | |
JP4478047B2 (ja) | 情報提示装置及び情報提示方法とそのプログラム | |
JP2020065218A (ja) | 画像処理プログラム、画像処理装置、画像処理システム及び画像処理方法 | |
JP2000083245A (ja) | 撮像装置の遠隔制御装置、撮像システム、および撮像装置の遠隔制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100702 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20101216 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20110509 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120327 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120413 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4976939 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150420 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |