JP2002074369A - 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体 - Google Patents

動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体

Info

Publication number
JP2002074369A
JP2002074369A JP2000257935A JP2000257935A JP2002074369A JP 2002074369 A JP2002074369 A JP 2002074369A JP 2000257935 A JP2000257935 A JP 2000257935A JP 2000257935 A JP2000257935 A JP 2000257935A JP 2002074369 A JP2002074369 A JP 2002074369A
Authority
JP
Japan
Prior art keywords
vector
speed
area
velocity
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2000257935A
Other languages
English (en)
Inventor
Koji Miyajima
耕治 宮島
Kenichiro Nakamura
憲市郎 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CED SYSTEM Inc
NTT Data Group Corp
Original Assignee
CED SYSTEM Inc
NTT Data Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CED SYSTEM Inc, NTT Data Corp filed Critical CED SYSTEM Inc
Priority to JP2000257935A priority Critical patent/JP2002074369A/ja
Publication of JP2002074369A publication Critical patent/JP2002074369A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 動画像から監視対象である移動物体の動きだ
けを精度良く検出することができる監視システムを提供
する。 【解決手段】 図2(a)は入力フレーム画像の一枚を
示すもので、図示のように2つの落石A、Bが映ってい
る。この(a)のフレーム画像とこれより1フレーム後
(又は前)のフレーム画像とが入力されるものとする。
同図(b)は2つの入力画像から求めた落石の動きベク
トルから求めた速度場ベクトルを示す。図示のように大
部分のベクトルは略同じ方向を向いているが、ノイズ等
により異なる方向を向いているものがある。この速度場
ベクトルにおいて落石の塊を同一ベクトル方向毎に領域
分割したものが、同図(c)の状態であり、このように
領域分割する速度場ラベリング処理を行うことにより、
移動物体の形状、面積等を推定して落石の有無を精度良
く検出することができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、カメラで撮影した
動画像を用いて監視対象となる物体の動きを監視する監
視システムに関し、特に例えば落石等の監視に用いて好
適なものである。
【0002】
【従来の技術】従来、落石、侵入物体、走行車両などの
高速運動する移動物体を監視する場合は、接触センサか
らの検出信号やビデオカメラからの動画像を処理するこ
とにより行われている。接触センサによる監視は、セン
サを設置した特定のポイントのみの監視に止まるのに対
し、ビデオカメラからの動画像による監視は撮影エリア
全体を監視できる利点がある。
【0003】従来の動画像による監視システムにおいて
は、連続する2フレーム画像間の動きベクトル(オプテ
ィカルフロー)を推定し、この動きベクトルを解析する
ことにより、落石や侵入物体、車両等の面積、形状を求
め、これに基づいて異常な動き、即ち、監視対象物体の
有無を検出するようにしている。
【0004】
【発明が解決しようとする課題】しかしながら、監視対
象である移動物体の色が単一色である場合は、背景濃度
との差が明確な移動物体の輪郭部のみに動きベクトルが
検出され、移動物体の内側では動きベクトルが検出でき
ず、空隙が発生するという問題があった。また、移動物
体の挙動によっては反射光量が変化し、移動物体の輪郭
部分でも一部背景との濃度差がなくなり、動きベクトル
が検出されないことがあった。このように自然環境下で
の監視システムにおいては、複雑な背景濃度や日陰、陰
影等による反射光量の変動があり、動きベクトルの非連
結の問題が多く発生していた。このため、正しい動きベ
クトルが検出できず、その結果、移動物体の面積が推定
できなくなったり、また、1個の移動物体が複数個であ
ると誤検出されてしまう等の問題があった。
【0005】また、動きベクトル(オプティカルフロ
ー)は微分量の扱いであるため、監視画像に含まれるノ
イズ成分に極めて敏感であり、誤検出の原因になってい
た。
【0006】また、インターレース走査する2フレーム
の画像信号を用いて動きベクトルを検出するため、偶数
ラインと奇数ラインの時間差により走査線方向に短冊形
あるいはギザギザ等のズレ変形が生じ、これが空間勾配
に影響を与え、移動物体の推定速度に誤差をもたらす原
因となっていた。
【0007】さらに、屋外においては、木々が揺れた
り、天気が変わったり、鳥が飛ぶというような様々な自
然な正常な動きが存在する。これらの正常な動きと移動
物体の異常な動きとを精度良く識別することは、従来の
フレーム間画像の動きベクトル解析では難しい。そのた
め、従来の動画像による監視は屋外監視には不向きであ
った。
【0008】従って、本発明の目的は、監視対象である
移動物体の動きだけを精度良く検出することができる動
画像による監視システムを提供することにある。
【0009】
【課題を解決するための手段】上記の目的を達成するた
めに、本発明は、監視エリアの動画像を分析することに
より監視エリア内で目的の動きをする物体の有無を判断
する監視システムであって、前記動画像に含まれる時間
的に異なる2つの画像から、画像内の各画素に対応した
速度ベクトルを計算し、該速度ベクトルを座標配列した
速度場ベクトルを求めるベクトル計算手段と、前記速度
場ベクトルの各ベクトルの方向性に応じて領域分割する
速度場ラベリング処理を行うラベリング手段と、前記速
度場ラベリング処理結果に基づいて前記目的の動きをす
る物体の有無を検出する検出手段とを備えた動画像によ
る監視システムを提供する。
【0010】また、本発明は、監視エリアの動画像を分
析することにより監視エリア内で目的の動きをする物体
の有無を判断する監視方法であって、前記動画像に含ま
れる時間的に異なる2つの画像から、画像内の各画素に
対応した速度ベクトルを計算し、該速度ベクトルを座標
配列した速度場ベクトルを求めるベクトル計算手順と、
前記速度場ベクトルの各ベクトルの方向に応じて領域分
割する速度場ラベリング処理を行うラベリング手順と、
前記速度場ラベリング処理結果に基づいて前記目的の動
きをする物体の有無を検出する検出手順とを含むことを
特徴とする動画像による監視方法を提供する。
【0011】さらに、本発明は、監視エリアの動画像を
分析することにより監視エリア内で目的の動きをする物
体の有無を判断するプログラムを記録した記録媒体であ
って、監視エリアの動画像に含まれる時間的に異なる2
つの画像から、画像内の各画素に対応した速度ベクトル
を計算する計算処理と、前記速度ベクトルを座標配列し
た速度場ベクトルを求める計算処理と、前記速度場ベク
トルの各ベクトルの方向に応じて領域分割する速度場ラ
ベリング処理と、前記速度場ラベリング処理結果に基づ
いて前記監視エリア内で前記目的の動きをする物体の有
無を検出する検出処理とをコンピュータに実行させるプ
ログラムを記録したコンピュータ読み取り可能な記録媒
体を提供する。
【0012】
【作用】従って、本発明によれば、2つの入力動画像か
ら画素毎の動きベクトルを算出し、その動きベクトルを
実平面に写像した速度ベクトルを算出し、この定速度ベ
クトルを座標配列して速度場ベクトルを求める。次に、
速度場ラベリング処理を行うことにより速度場ベクトル
を同一とみなすことのできるベクトル方向毎に領域分割
し、このラベリング処理結果から目的の移動を行う物体
の有無を判断する。ここで、速度場ラベリングを行うこ
とにより、移動物体が単一色であったり、反射光量が変
化したりしても監視対象物体を精度良く検出することが
できると共に、ノイズに強い検出を行うことができるよ
うになる。
【0013】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。図1は本発明の第1の実施の形態
による動画像による監視システムの構成を示すブロック
図である。本実施の形態における監視システムは、山地
等における落石の検出を目的とするものとして以下に説
明する。
【0014】図1において、監視システムは、崖等の落
石が生じる可能性のある場所(監視エリア)を撮影して
その監視エリアの動画像を出力するビデオカメラ1と、
監視エリアに設置された風向風速計2及び雨量計3と、
ビデオカメラ1からの動画像を画面に表示するディスプ
レイ装置4と、ビデオカメラ1からの動画像データ、風
向風速計2からの風向および風速データ及び雨量計3か
らの雨量データを取り込んで処理することにより監視エ
リア内の物体の動きベクトル(オプティカルフロー)を
求め、監視エリア内の異常な移動物体(つまり、落石)
を検出する動きベクトル処理装置5と、動きベクトル処
理装置5が異常な移動物体を検出すると警報を発信する
警報発信装置6とを備える。
【0015】動きベクトル処理装置5は、典型的にはコ
ンピュータシステムで構成され、監視用プログラムを実
行することで、監視エリア内の物体の動きベクトル(オ
プティカルフロー)を求めて監視エリア内の異常な移動
物体(落石)を検出すると共に、落石を検出する都度、
その旨を示す監視ログファイルを作成して監視ログファ
イルDB(データベース)7に蓄積し、かつ、監視エリ
アの動画像データから異常な移動物体を検出した時点の
フレーム画像を抽出して監視静止画DB8に蓄積する。
【0016】尚、通常は、ビデオカメラ1、風向風速計
2、雨量計3は落石の生じる場所近くに設置され、他の
装置はそこから離れた場所にある管理事務所等に設置さ
れている。その場合、ビデオカメラ等と管理事務所との
通信は有線又は無線により行われる。また、ビデオカメ
ラ1は固定されているものとする。尚、ビデオカメラ1
からの動画像を記録する動画像記録装置を設けてもよ
い。
【0017】次に、本実施の形態の特徴である速度場ラ
ベリングと正則化パラメータについて説明する。ここで
は概略的に説明し、詳細は後述する。まず、速度場ラベ
リングについて図2を参照して説明する。図2(a)は
入力フレーム画像の一枚を示すもので、図示のように2
つの落石A、Bが映っている。落石Aは単一色、落石B
は模様があるものとする。この(a)のフレーム画像と
これより1フレーム後(又は前)のフレーム画像との2
つの時系列画像が入力されるものとする。
【0018】同図(b)は2つの入力画像から求めた画
像上の落石の動きを示す動きベクトルを実際の監視エリ
アとなる実平面に写像することにより得られる速度ベク
トルを計算し、この速度ベクトルを座標配列した速度場
ベクトルを示す。図示のように大部分のベクトルは略同
じ方向を向いているが、反射光量の変化やノイズ等によ
り異なる方向を向いているものがある。この速度場ベク
トルにおいて落石の塊をベクトルの方向性に応じて領域
分割したものが、同図(c)の状態である。このように
所定の範囲内で同一と認めうるベクトル方向毎に領域分
割する処理を速度場ラベリングと呼ぶものとする。
【0019】本実施の形態は、上記(c)の速度場ラベ
リング結果に基づいて同図(d)のように落石の塊の動
きの方向を推定することで、落石の形状、面積を推定
し、落石の有無を検出するようにしたものである。
【0020】次に、正則化パラメータについて説明す
る。図3は、ビデオカメラ1から見た監視エリアの光景
の一例を示す。図3の例では、監視エリア100内に2
つの山があり、この監視エリア100は、落石や木々等
の動きの性質が異なる複数の領域にA〜Eに分けられて
いる。領域Aは空の領域である。領域BとEは、樹木で
覆われた森林領域である。領域Cは、急な斜度を持つ岩
肌の露出した急崖領域である。領域Dは、緩やかな斜度
を持つ岩肌の露出した緩崖領域である。
【0021】これらの領域A〜Eでは、その領域内に存
在する物体(岩石、樹木、雲等)の動きの性質(落石の
移動方向、移動方向の分散の度合い、異なる木々や岩石
の動きのばらつき具合等)が領域によって異なる。その
ため、例えばその山地の斜面の傾斜方向や斜度、樹木の
多寡や岩肌の露出割合、風速や風向や降雨雪量等の天候
要素、カメラからその場所までの距離等の環境要素は、
カメラで撮影した動画像上での、監視対象物である落石
の移動方向や移動速度や動きの複雑さ、樹木の揺動や降
雨雪の動きといった外乱となる動きの性質、落石と落石
以外の物体の動きとの相関関係等に影響する。その結
果、監視エリア内の諸物体の動きの連続性、即ち、「動
きベクトルの空間的な滑らかさの度合い」に影響を与え
る。
【0022】そのため、本実施の形態においては、動き
ベクトル処理装置5は、監視エリアの動画像に含まれる
時間的に異なる2フレームの画像から、動きベクトルを
計算する際に、動きベクトルの空間的な滑らかさの度合
いを示すパラメータを正則化パラメータとして用いてい
る。そして、監視エリア内外の環境要素に応じて、正則
化パラメータの最適値を設定する。この正則化パラメー
タを用いて動きベクトルを計算することにより、監視エ
リアの環境に応じて精度良く目的の動きをする物体の動
きベクトルを求めることができる。
【0023】その場合、例えば、樹木が多い場所や風の
強い時には、正則化パラメータを大きい値に設定するこ
とで、風によって樹木が一斉に略同じ方向に揺れ動くと
いう外乱の動きが動きベクトルに反映され難くして、監
視目的の落石の動きを樹木の揺れ動きから識別し易くす
ることにより、監視精度を高めることができる。
【0024】次に、動きベクトル処理装置5が行う処理
について図4のフローチャートを参照して説明する。ま
ず、ビデオカメラ1から入力される画像信号のコントラ
スト制御及び輝度制御を行い、画像内に指定した監視エ
リアの画質評価と制御を逐次実行することにより、入力
画像の画質を一定にする(ステップS1、以下、ステッ
プ略)。次に、画質制御された画像信号から2つのフレ
ーム画像を第1画像、第2画像として時系列で入力する
(S2)。第1画像(又は第2画像)は例えば図2
(a)に示すものである。
【0025】次に、正則化パラメータを用いたオプティ
カルフロー推定処理を行う(S3、S4)。このオプテ
ィカルフロー推定処理は、例えば特開平9−29785
1号等で紹介されている公知の正則化手法に、正則化パ
ラメータを用いる改良を加えた方法である。ここで、正
則化手法によるオプティカルフロー推定処理とは、ある
1つのフレームの画像上の各画素の座標点(x,y)と
その動きベクトル、つまりオプティカルフロー(u,
v)との間には、そのフレーム画像内の空間的な明るさ
の勾配を(Ix,Iy)、そのフレームと次のフレーム
間の明るさの勾配をItとしたときに、以下の式が成立
することを用いた解析手法である。
【数1】
【0026】しかし、この(1)式だけからは未知数
u,vを推定することができず、他の拘束条件が必要と
なる。これについては、例えば、「Determining Optica
l Flow」(Artificial Intelligence 17 185〜203 頁
(1981))に記載された技術を利用する。この技術にお
いては、「画像中の移動物体が剛体である」及び「画像
中の近傍領域でのオプティカルフロー分布は滑らかであ
る」という2つの仮定をそれぞれ評価関数で表し、弛緩
法を用いてこれらの2つの評価関数の和を最小化させる
ことによってオプティカルフローの推定を行う。
【0027】具体的には、αを正則化パラメータとし
て、繰り返し演算によって次の(2)式を最小にする
u,vを求める。
【数2】
【0028】即ち、(2)式の右辺において、Eaは移
動物体の剛体性を反映した評価関数であり、画像中の移
動物体が完全な剛体、つまり、変形せずそれ自体の輝度
も変化しない物に近いほど(1)式が成立し易くなりE
aはゼロに近づく。また、Ebはオプティカルフローの
空間分布の滑さを反映した評価関数であり、オプティカ
ルフローの空間分布が完全に滑らかな、つまり、オプテ
ィカルフローが空間的に変化しない、つまり、画像内の
どの画素も全て同じ方向へ同じ距離だけ移動する状態に
近いほどEbはゼロに近づく。
【0029】要するに、(2)式の右辺は、画像の積分
領域における移動物体の剛体性とオプティカルフローの
空間分布の滑らかさとを統合的に評価した関数であり、
その積分範囲の領域で上記2つの仮定「画像中の移動物
体が剛体である」及び「画像中の近傍領域でのオプティ
カルフロー分布は滑らかである」が良好に成立するほ
ど、(2)式の右辺は小さい値となる。換言すれば、画
像のある点の近傍領域で上記2つの仮定が成立するな
ら、その近傍領域で(2)式の関数を最小にするような
u,vがその点における妥当なオプティカルフローと推
定される。
【0030】ここで、正則化パラメータαは、(2)式
の右辺における「オプティカルフロー分布の滑らかさ」
の相対的な重みを反映している。つまり、αを大きく設
定するほど、オプティカルフロー分布の滑らかさを重視
していることになる。よって、正期化パラメータαは解
析する画像に応じ、その画像中に存在する各種物体の複
雑さや動きの性質や動きの大きさなどに関連して適切に
設定されるべきである。
【0031】また、本実施の形態では、前記特開平9−
297851号でもそうしていたように、前述の(2)
式の評価関数をそのまま用いるのではなく、前述の
(1)式の誤差を考慮するために、座標点(x,y)の
近傍での(1)式の左辺の値の分散σ2を(2)式に導
入して、以下の(3)式の評価関数を最小とするu,v
を、弛緩法を用いた反復演算によって求めるようにして
いる。
【数3】
【0032】上記の方法でフレーム画像内の全画素座標
(x、y)についての動きベクトルつまりオプティカル
(u,v)を求めた後、次に、それらの動きベクトルを
解析して、それらの動きベクトルの中から、物体の異常
な動き(つまり、落石)と見倣し得るものだけを検出す
る。その方法として、落石の移動方向は特定の方向範囲
(例えば、斜面の最大傾斜方向を中心にした所定の角度
範囲)に限定されることに着目して、その特定の方向範
囲に移動する動きだけを抽出する。
【0033】この場合、斜面によって最大傾斜方向や落
石の方向が分散する幅が違ってくるので、図3に例示し
た領域A〜E毎に上記の特定の方向範囲を最適に設定す
ることになる。また、風速や風向によっても落石の移動
方向が分散する幅が変わってくる。例えば、水平方向の
風速が強くなれば、落石の落下方向が最大傾斜方向から
ずれる度合いが大きくなるから、風速や風向に応じて上
記の特定の方向範囲を調節することも行う。このような
方法で、画像内の動きベクトルの中から、風による木々
の左右の揺れなどの正常な動きと、落石という異常な動
きとを峻別することができる。また、風速や風向の外に
例えば降雨量や降雪量等に応じて正則化パラメータを設
定してもよい。
【0034】監視時系列画像には、背景を形成するテク
スチャと移動物体のテクスチャとが混在しており、その
中でオプティカルフロー計算をすることになる。従っ
て、演算画素周辺の輝度分散や空間周波数の状態から適
切な正則化パラメータ値が要求される。また、計算コス
トの低減から厳密な計算をせずにリアルタイム処理が望
まれる。また、通常の監視では、移動物体の表面組成情
報が予め特定できない。このため、演算画素周辺の輝度
分布状態を1次微分で把握し、微分値を引数とする正則
化パラメータテーブルから予め設計した最適な正則化パ
ラメータを引用してオプティカルフローの計算を行う。
【0035】正則化パラメータテーブル設計には、様々
な実写映像の実験結果で検証した最適値と、同一速度の
複数の移動物体を仮定したときに自然環境では各移動物
体毎に背景間の空間勾配が異なることによる各移動物体
の推定速度に差が生じる問題を正則化パラメータで疑似
的に補正する機能を持たせる。これによりオプティカル
フロー計算に用いる正則化パラメータとして、画素単位
で実空間の実態である対象物の複雑さに適した値を選択
することができる。また、引数である空間処理の工夫で
周辺の光量変化に強く、孤立点ノイズによる影響を除去
することができる。
【0036】次に、上記のようにして計算されたオプテ
ィカルフローから抽出された局所的な動きベクトルを相
関法を用いて検証し、信頼度を確保する(S5)。即
ち、落石や高速車両等を撮影した時系列画像には、移動
物体の移動量が1画素/フレーム以上の動きベクトルが
抽出されるケースがあり、その際、ベクトルの信頼性の
評価として正規化相関で検証する。オプティカルフロー
計算で次のフレームの推定移動位置(画素単位に丸め
る)が判明しているので、テンプレートによる探査動作
をせずに相関計算を行うことができる。テンプレートは
オプティカルフロー演算画素を中心で8又は24近傍を
範囲とする。相関係数が0.5以上の結果のオプティカ
ルフローを有効とする。
【0037】尚、相関係数(R)は時系列の第1画像、
第2画像のそれぞれのテンプレート濃度分布を、aij
ij(1≦i≦m、1≦j≦n)としたとき次式で定義
される
【0038】
【数4】
【0039】次に、限定角度フィルタにより、3次元空
間運動の中で明らかに監視対象方向とは異なる動きベク
トルを除去する(S6)。その後、除去されずに残った
動きベクトルをカメラの距離補正により実平面に写像す
る処理を次のように行う(S7)。この処理により、画
像上の動きベクトルが監視エリアとなる実平面上の動き
ベクトルに換算される。この実平面に写像された動きベ
クトルを速度ベクトルと呼ぶ。
【0040】ここでは、画像上の動きベクトルの実平面
上への写像として、カメラ距離の幾何変換を用いて、オ
プティカルフロー計算結果である画像上の動きベクトル
を実平面上の速度ベクトルに導く。なお、この処理は座
標変換により実現でき、具体的には次の2次射影変換式
で行われる。
【数5】 (x,y)は第1、第2画像のメモリ座標の位置、
(X,Y)は実平面(速度測定面)の位置である。
(a,b,c,d,e,f,g,h)は変換係数であ
り、未知数は8個となる。
【0041】逆変換は、
【数6】
【0042】監視画像に映る測定平面(崖の断面、車両
の走行道等を意味する)に存在する既知の4個所の実寸
法が判明していれば(5)(6)式は解法できる。従っ
て、カメラから移動物体までの距離を求めるアルゴリズ
ムを得ることができる。故にビデオカメラ1におけるC
CD等の撮像素子の受光面積、レンズの焦点距離が判明
していれば、上記の既知の4個所の距離関係から幾何学
計算により目標位置の距離を求めることができる。
【0043】次に、速度ベクトルを座標配列した推定速
度場をメモリ上に作成し、予め設定した小領域を単位と
して推定速度場メモリ内部を均一に探査する(S8)。
小領域は例えば10×10画素である。探査の際、小領
域内部の画素速度ベクトルの実在数及び速度ベクトルの
平均値を求める。小領域に存在するベクトル個数を予め
定義した有効と判定する割合個数以下なら、その探査位
置の小領域は孤立点ノイズとして除去する。また、画像
信号に特有なノイズ成分を考慮して、探査領域内部で特
定の走査線方向に連続し、他の走査線方向に存在しない
ような孤立列の速度ベクトルも除去する。ここまでの処
理で、例えば図2(b)の速度場ベクトルが得られる。
【0044】次に、速度場ラベリング処理を行う(S
9)。上記S8による除去処理後の小領域について、後
述により詳しく説明するように1次ラベリング、2次ラ
ベリングを行って、移動物体の推定面積、推定形状を求
め、実態を認識する。ここまでの処理により、例えば図
2(c)の速度場ラベリング処理結果が得られる。
【0045】そして、上記推定面積、推定形状を閾値と
比較する等の方法により、落石の有無を判定する(S1
0)。ここまでの処理で例えば図2(d)のように、落
石形状認識を行うことができる。そして、落石が有れ
ば、推定速度、推定面積、推定形状、座標推定落石規模
等のログファイルを作成して監視ログファイルDB13
に蓄積すると共に、落石を検出した時のフレームの静止
画を抽出して監視静止画DB15に蓄積する(S1
1)。また、警報発信装置17より危険警報を発する
(S12)。また、落石が無い場合はS1に戻る。
【0046】次に、上記S9の速度場ラベリング処理に
ついて詳細に説明する。本実施の形態による速度場ラベ
リング処理においては、前記速度場ベクトル上の小領域
について、推定速度の平均、方向、座標データの1次ラ
ベリングテーブルを作成する。2次ラベリングでは、探
査小領域の面積と座標から連結性を調べると共に、同一
移動物体であるかの判断基準として、連結小領域の速度
ベクトルの平均値である平均速度ベクトルの相関関係を
調べ、明らかに移動方向性が異なる小領域は非連結とし
ている。
【0047】また面積の推定は、ラベリング処理後、各
ラベルの外接面積を確定し、外接面積に対応する第2画
像の輝度分布から2値化処理の閾値を決定し、2値化処
理により背景と移動物体を分離する。次に、移動物体の
外接面積に含まれる全ての速度ベクトルの座標を集計し
てその重心位置を求め、重心位置の2値化データに対応
する0又は1の個数を外接面積内部でカウントする(移
動物体で抽出するオプティカルフローの分布は、物体の
輪郭の周辺(ズレ)に存在するため、オプティカルフロ
ーの強度で対応せずに発生位置の重心座標で物体内部と
判断する)。次に、移動物体の形状認識プロセスにおい
ては、速度場ラベリングにより移動物体の座標を求め、
第2画像の濃度情報を空間画像計測により実態認識す
る。 上述した速度場ラベリング処理を行うことによ
り、前述した速度ベクトルの非連結の問題及び空隙の問
題を解決することができる。
【0048】次に、前述した偶数、奇数ラインの走査方
向のズレにより発生する変形を除去するための方向性優
先フィルタについて説明する。予め速度が判明している
移動物体をカメラ撮影する場合には、当然最適なシャッ
タスピードの設定が可能であるが、本実施の形態の場合
は、移動物体の速度が予め判明していない事象の計測で
あるため、シャッタスピードの選択では解決することは
できない。
【0049】落石や走行車両等の高速運動を撮影した動
画像から抽出するオプティカルフローは、前述したよう
にインターレース走査により、走査周期より速く運動す
る画像要素が存在すると、その画像要素は偶数、奇数ラ
イン毎に光量電気変換の時間差が原因で、一般的に走査
線方向に短冊状のズレ変形が生じ、これが空間勾配に影
響を与え、推定速度に誤差をもたらす。本実施の形態に
よる方向性優先フィルタは上記の問題を解決するもので
ある。
【0050】この方向性優先フィルタは、移動物体の推
定速度を決定する段階で、速度場ラベリング処理で決定
した移動物体の外接領域内に存在する速度ベクトルの角
度データを集計し、その分散計算から物体の移動方向主
成分をまず決定し、その主成分の所定角度範囲内で選別
した速度ベクトルを有効とし、さらに、その速度ベクト
ルの絶対値である速度データを集計してその分散を求
め、中心値を物体の推定速度として決定するものであ
る。
【0051】前記の問題解決の段階で移動物体の形状の
サイズによっては速度ベクトルの発生数が少なく、方向
性優先フィルタ処理が困難になる。本実施の形態におけ
る動きベクトル処理装置5に汎用コンピュータ(パソコ
ン等)を用いる場合は、汎用コンピュータによるリアル
タイム処理を実現するため、オプティカルフロー算出の
計算コストを削減する目的で、演算画素数を間引きする
場合がある。方向性優先フィルタ処理が困難な状態で
は、オプティカルフロー算出のための演算画素数の間隔
数及び位置(奇偶数)を制御し、前記速度場ラベリング
処理で決定した移動物体の外接領域内のみより速度ベク
トルを再抽出する。移動物体周辺には速度ベクトルの母
集団を大きく確保させる制御を行う。監視画像空間全体
のピラミッド処理でなく、小領域に関する再計算のため
リアルタイム性を維持することができる。
【0052】図5は上述した速度場ラベリング処理を動
きベクトル処理装置5が実行するためのフローチャート
を示す。まず、前記探査小領域の平均速度ベクトルの絶
対値である速度スカラ値が所定の最低速度値以下ならラ
ベリング対象の探査小領域から除外する(S91)。次
に、ステップS91で除外されなかった探査小領域のう
ちN個目(初期値はN=1)の探査小領域に実在する速
度ベクトルの集計数nからN<Kn(Kn:孤立点ノイ
ズと判定する割合)により有効な速度ベクトルの有無を
判定する(S92)。有効な速度ベクトルが有れば探査
小領域における平均速度ベクトルの角度θi(iは整
数)で分類される1次ラベリングテーブルに登録する
(S93)。その場合、各θiに対して上限値θa、下
限値θbの限定角度を設定し、各探査小領域の平均速度
ベクトルがこの範囲内であれば同一のラベリングとす
る。上記登録後又は有効な速度ベクトルがN番目の探査
小領域に存在し無い場合は、S91で除外されなかった
すべての探査小領域の掃引が終了したかを判定し、終了
していなければ次の探査小領域の1次ラベリングのため
にS92に戻る(S94)。
【0053】掃引が終了していれば、2次ラベリングを
行う(S95)。即ち、1次ラベリングテーブルでθ値
が等しいかを接近する探査小領域間の空間接合を調べ、
接合すれば、同一ラベリング番号を付与し、空間接合が
なければ、連番のラベル番号を付与する。次に、各ラベ
ル番号の左右端部における速度ベクトルの発生点をチェ
ーン符号化し、発生配列状況を判定し、発生点が走査線
毎に短冊状であると判定されたら、領域の右端部を補正
する(S96)。次に、ラベル番号が重複しているなら
各平均速度ベクトルをさらに平均し、該当ラベル番号の
推定速度とする(S97)。そして、ラベル番号毎に外
接面積を求め、移動物体の推定形状及び実態を認識する
(S98)。
【0054】以上説明した第1の実施の形態は落石を検
出する場合であるが、次に、第2の実施の形態として走
行車両を検出する場合の処理について図6のフローチャ
ートを参照して説明する。図6においては、S9までの
処理は図4と共通である。S9の速度場ラベリング処理
の結果に基き、前述した落石の有無を検出する場合と同
様にして移動物体(走行車両)の有無を検出する(S1
3)。移動物体が無ければS1に戻り、移動物体が有れ
ば各ラベリング領域について移動方向毎に分類する(S
14)。次に、分類結果から同一方向のラベルの外接四
辺形から走行車両の外形寸法を推定する(S15)。
【0055】外形寸法を推定された車両の推定速度、推
定方向を分類し(S16)、推定速度が設定値A以下の
場合は、渋滞が検出されたものとする(S17)。推定
速度が設定値B以下の場合は通行車両を計測する(S1
8)。また、推定移動方向が設定角度幅外であれば、進
入禁止車両が検出されたものとする(S19)。
【0056】次に、本発明の実施の形態によるコンピュ
ータ読み取り可能な記録媒体について説明する。図1の
動きベクトル処理装置5のコンピュータシステムにおけ
るCPUが実行するためのプログラムを格納する記録媒
体は、コンピュータ読み取り可能な記録媒体を構成す
る。この記録媒体には、各フローチャートで説明した処
理をCPUが実行するためのプログラムが格納される。
【0057】この記録媒体としては、光磁気ディスク、
光ディスク、半導体メモリ、磁気記録媒体等を用いるこ
とができ、これらをROM、RAM、CD−ROM、フ
ロッピー(登録商標)ディスク、メモリカード等に構成
して用いてよい。
【0058】またこの記録媒体は、インターネット等の
ネットワークや電話回線等の通信回線を介してプログラ
ムが送信された場合のサーバやクライアントとなるコン
ピュータシステム内部のRAM等の揮発性メモリのよう
に、一定時間プログラムを保持するものも含まれる。
【0059】また上記プログラムは、このプログラムを
記憶装置等に格納したコンピュータシステムから伝送媒
体を介して、あるいは伝送媒体中の伝送波により他のコ
ンピュータシステムに伝送されるものであってもよい。
上記伝送媒体とは、インターネット等のネットワーク
(通信網)や電話回線等の通信回線(通信線)のように
情報を伝送する機能を有する媒体をいうものとする。
【0060】また、上記プログラムは、前述した機能の
一部を実現するためであってもよい。さらに、前述した
機能をコンピュータシステムに既に記録されているプロ
グラムとの組み合わせで実現できるもの、いわゆる差分
ファイル(差分プログラム)であってもよい。
【0061】従って、この記録媒体を図1の装置又はシ
ステムとは異なるシステム又は装置において用い、その
装置又はシステムのコンピュータがこの記録媒体に格納
されたプログラムを実行することによっても、各実施の
形態で説明した機能及び効果と同等の機能及び効果を得
ることができ、本発明の目的を達成することができる。
【0062】以上、本発明の実施の形態を説明したが、
これは本発明を説明するための例示に過ぎない。従っ
て、本発明は上記実施の形態以外の様々な実施の態様に
も適用することができる。例えば、本発明は屋外の落石
や走行車両の検出だけでなく、不審者の侵入検出や、屋
内の物体監視など様々な監視目的に適用することができ
る。その場合、監視目的や監視対象に応じて、速度場ラ
ベリングにおける各種設定、正則化パラメータや移動方
向範囲の設定の仕方、調節の仕方を異ならせてもよい。
また、本発明の実施の形態では、図4のステップS7に
より画像上の各画素の動きベクトルを監視エリアとなる
実平面上での動きを示す速度ベクトルに写像している。
これにより、監視対象となる物体の実際の形状等を推定
できるようになるとともに、監視対象となる物体の設定
を実際の大きさを基準にできるため監視対象となる物体
の設定が容易になるが、これに限定されるものではな
い。たとえば、画面上の画素を大きさの基準とした物体
の監視を行うならば図4のステップS7は省略可能であ
る。なお、この場合、動きベクトルと速度ベクトルは同
義となる。
【0063】
【発明の効果】以上説明したように本発明によれば、速
度場ラベリングを行うことにより、移動物体が単一色で
あったり、反射光量が変化したりしても監視対象物体を
精度良く検出することができると共に、ノイズに強い検
出を行うことができる。また、画像内の各画素の動きを
示す動きベクトルを計算し、この動きベクトルを監視エ
リアである実平面に写像することにより得られた速度ベ
クトルより速度場ベクトルを得ている。これにより監視
対象となる物体の実際の形状等を推定できるようにな
り、監視対象となる物体の設定も容易におこなうことが
できる。また、方向性優先フィルタを用いることによ
り、動画像における特に高速な移動物体のインターレー
ス走査によるズレ変形を除去することができる。さら
に、正則化パラメータ等の動きベクトルの空間的な滑ら
かさを示すパラメータを導入することにより、監視環境
の条件等に応じてより精度の高い検出を実現することが
できる。
【図面の簡単な説明】
【図1】 本発明の第1、第2の実施の形態による監視
システムの構成を示すブロック図である。
【図2】 落石を検出する場合における速度場ラベリン
グ処理を概略的に説明するための構成図である。
【図3】 ビデオカメラから見た監視エリアの光景の一
例を示す構成図である。
【図4】 落石を検出する場合における動きベクトル処
理装置が行う処理を示すフローチャートである。
【図5】 速度場ラベリング処理を示すフローチャート
である。
【図6】 本発明の第2の実施の形態による走行車両を
検出する場合における動きベクトル処理装置が行う速度
場ラベリング処理以降の処理を示すフローチャートであ
る。
【符号の説明】
1 ビデオカメラ 2 風向風速計 3 雨量計 4 ディスプレイ装置 5 動きベクトル処理装置 6 警報発信装置 7 監視ログファイルDB 8 監視静止画DB 100 監視エリア
───────────────────────────────────────────────────── フロントページの続き (72)発明者 中村 憲市郎 東京都千代田区神田神保町三丁目13番8号 株式会社シー・イー・デー・システム内 Fターム(参考) 5C054 AA01 EA07 FC13 FF06 GB02 GB06 GD04 HA18 5L096 BA02 CA04 FA33 FA34 FA67 GA34 GA55 HA04

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 監視エリアの動画像を分析することによ
    り監視エリア内で目的の動きをする物体の有無を判断す
    る監視システムにおいて、 前記動画像に含まれる時間的に異なる2つの画像から、
    画像内の各画素に対応した速度ベクトルを計算し、該速
    度ベクトルを座標配列した速度場ベクトルを求めるベク
    トル計算手段と、 前記速度場ベクトルの各ベクトルの方向性に応じて領域
    分割する速度場ラベリング処理を行うラベリング手段
    と、 前記速度場ラベリング処理結果に基づいて前記目的の動
    きをする物体の有無を検出する検出手段とを備えたこと
    を特徴とする動画像による監視システム。
  2. 【請求項2】 前記ベクトル計算手段は、 画像内の各画素の動きを示す動きベクトルを計算し、該
    動きベクトルを監視エリアである実平面に写像すること
    により前記速度ベクトルを計算することを特徴とする請
    求項1に記載の動画像による監視システム。
  3. 【請求項3】 前記監視システムは、 前記速度場ラベリング処理で決定した前記物体の外接領
    域内に存在する速度ベクトルの角度データを集計し、該
    分散計算から物体の移動方向主成分を決定し、該主成分
    の所定角度範囲内で選別した速度ベクトルを有効とし、
    該選択された速度ベクトルを集計して分散を求め、分散
    における中心値を物体の推定速度とする方向性優先フィ
    ルタ手段をさらに備えることを特徴とする請求項1また
    は請求項2に記載の監視システム。
  4. 【請求項4】 前記動きベクトル計算手段は、 動きベクトルの平面的な滑らかさの度合いを示すパラメ
    ータを用いて動きベクトルを計算することを特徴とする
    請求項2記載の動画像による監視システム。
  5. 【請求項5】 前記監視システムは、 前記監視エリアの環境要素に応じて前記パラメータを設
    定するパラメータ設定手段をさらに備えることを特徴と
    する請求項4記載の動画像による監視システム。
  6. 【請求項6】 監視エリアの動画像を分析することによ
    り監視エリア内で目的の動きをする物体の有無を判断す
    る監視方法において、 前記動画像に含まれる時間的に異なる2つの画像から、
    画像内の各画素に対応した速度ベクトルを計算し、該速
    度ベクトルを座標配列した速度場ベクトルを求めるベク
    トル計算手順と、 前記速度場ベクトルの各ベクトルの方向に応じて領域分
    割する速度場ラベリング処理を行うラベリング手順と、 前記速度場ラベリング処理結果に基づいて前記目的の動
    きをする物体の有無を検出する検出手順とを含むことを
    特徴とする動画像による監視方法。
  7. 【請求項7】 監視エリアの動画像を分析することによ
    り監視エリア内で目的の動きをする物体の有無を判断す
    るプログラムを記録した記録媒体であって、 監視エリアの動画像に含まれる時間的に異なる2つの画
    像から、画像内の各画素に対応した速度ベクトルを計算
    する計算処理と、 前記速度ベクトルを座標配列した速度場ベクトルを求め
    る計算処理と、 前記速度場ベクトルの各ベクトルの方向に応じて領域分
    割する速度場ラベリング処理と、 前記速度場ラベリング処理結果に基づいて前記監視エリ
    ア内で前記目的の動きをする物体の有無を検出する検出
    処理とをコンピュータに実行させるプログラムを記録し
    たコンピュータ読み取り可能な記録媒体。
JP2000257935A 2000-08-28 2000-08-28 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体 Withdrawn JP2002074369A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000257935A JP2002074369A (ja) 2000-08-28 2000-08-28 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000257935A JP2002074369A (ja) 2000-08-28 2000-08-28 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体

Publications (1)

Publication Number Publication Date
JP2002074369A true JP2002074369A (ja) 2002-03-15

Family

ID=18746317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000257935A Withdrawn JP2002074369A (ja) 2000-08-28 2000-08-28 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP2002074369A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001256475A (ja) * 2001-04-27 2001-09-21 Ced System Inc 黒煙検知システム
JP2003109001A (ja) * 2001-09-27 2003-04-11 Ced System Inc 人物検出システム、及び人物検出プログラム
JP2004120223A (ja) * 2002-09-25 2004-04-15 Fuji Photo Film Co Ltd 撮影システム
JP2005234904A (ja) * 2004-02-19 2005-09-02 Sony Corp 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体
JP2009110424A (ja) * 2007-10-31 2009-05-21 Toshiba Elevator Co Ltd 異常動作検出装置
JP2014504410A (ja) * 2010-12-20 2014-02-20 インターナショナル・ビジネス・マシーンズ・コーポレーション 移動オブジェクトの検出及び追跡
JP2014527210A (ja) * 2011-06-14 2014-10-09 クゥアルコム・インコーポレイテッド オプティカルフローを決定するためのコンテンツ適応型システム、方法、及び装置
CN111274914A (zh) * 2020-01-13 2020-06-12 目骉资讯有限公司 一种基于深度学习的马匹速度计算系统及方法
KR102140606B1 (ko) * 2019-11-02 2020-08-03 씨티씨 주식회사 가상공간을 이용한 영상정보 기반 급경사지 위험 감시 방법
JP2021028807A (ja) * 2019-08-09 2021-02-25 フジテック株式会社 画像処理装置および画像処理方法
CN112529844A (zh) * 2020-11-24 2021-03-19 成都理工大学 一种基于三维激光扫描的岩体结构面识别与信息提取方法

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001256475A (ja) * 2001-04-27 2001-09-21 Ced System Inc 黒煙検知システム
JP2003109001A (ja) * 2001-09-27 2003-04-11 Ced System Inc 人物検出システム、及び人物検出プログラム
JP4607394B2 (ja) * 2001-09-27 2011-01-05 株式会社シー・イー・デー・システム 人物検出システム、及び人物検出プログラム
JP2004120223A (ja) * 2002-09-25 2004-04-15 Fuji Photo Film Co Ltd 撮影システム
JP2005234904A (ja) * 2004-02-19 2005-09-02 Sony Corp 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体
JP4534518B2 (ja) * 2004-02-19 2010-09-01 ソニー株式会社 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体
JP2009110424A (ja) * 2007-10-31 2009-05-21 Toshiba Elevator Co Ltd 異常動作検出装置
JP2015181042A (ja) * 2010-12-20 2015-10-15 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 移動オブジェクトの検出及び追跡
JP2014504410A (ja) * 2010-12-20 2014-02-20 インターナショナル・ビジネス・マシーンズ・コーポレーション 移動オブジェクトの検出及び追跡
US9147260B2 (en) 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
JP2014527210A (ja) * 2011-06-14 2014-10-09 クゥアルコム・インコーポレイテッド オプティカルフローを決定するためのコンテンツ適応型システム、方法、及び装置
US9323988B2 (en) 2011-06-14 2016-04-26 Qualcomm Incorporated Content-adaptive pixel processing systems, methods and apparatus
JP2021028807A (ja) * 2019-08-09 2021-02-25 フジテック株式会社 画像処理装置および画像処理方法
KR102140606B1 (ko) * 2019-11-02 2020-08-03 씨티씨 주식회사 가상공간을 이용한 영상정보 기반 급경사지 위험 감시 방법
CN111274914A (zh) * 2020-01-13 2020-06-12 目骉资讯有限公司 一种基于深度学习的马匹速度计算系统及方法
CN111274914B (zh) * 2020-01-13 2023-04-18 目骉资讯有限公司 一种基于深度学习的马匹速度计算系统及方法
CN112529844A (zh) * 2020-11-24 2021-03-19 成都理工大学 一种基于三维激光扫描的岩体结构面识别与信息提取方法

Similar Documents

Publication Publication Date Title
CN110794405B (zh) 一种基于相机和雷达融合的目标检测方法及系统
US7460691B2 (en) Image processing techniques for a video based traffic monitoring system and methods therefor
US9646212B2 (en) Methods, devices and systems for detecting objects in a video
JP6180482B2 (ja) マルチキュー・オブジェクトの検出および分析のための方法、システム、製品、およびコンピュータ・プログラム(マルチキュー・オブジェクトの検出および分析)
KR100377067B1 (ko) 이미지 시퀀스내의 객체의 움직임을 검출하기 위한 방법 및장치
US9070023B2 (en) System and method of alerting a driver that visual perception of pedestrian may be difficult
US20140028842A1 (en) Calibration device and method for use in a surveillance system for event detection
EP1995691B1 (en) Method and apparatus for segmenting a motion area
JP2002074370A (ja) 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体
US20070058717A1 (en) Enhanced processing for scanning video
KR102253989B1 (ko) 딥러닝 객체 검출기를 이용한 cctv 영상의 객체 추적 방법
CN113671480A (zh) 雷达与视频融合交通目标跟踪方法、系统、设备、终端
JP7272024B2 (ja) 物体追跡装置、監視システムおよび物体追跡方法
CN101167086A (zh) 用于安全应用的人体检测和跟踪
US20060221181A1 (en) Video ghost detection by outline
CN115184917B (zh) 一种融合毫米波雷达与相机的区域目标跟踪方法
JP2002074369A (ja) 動画像による監視システム、方法及びコンピュータ読み取り可能な記録媒体
US11410459B2 (en) Face detection and recognition method using light field camera system
JP2011513876A (ja) 物体の動作を特徴づけるための方法およびシステム
JP3953710B2 (ja) 動画像による監視システム
CN111199177A (zh) 一种基于鱼眼图像校正的汽车后视行人检测报警方法
Sharma et al. Automatic vehicle detection using spatial time frame and object based classification
JP7271373B2 (ja) 映像処理装置、映像処理システムおよび映像処理方法
JP4697761B2 (ja) 待ち行列検出方法及び待ち行列検出装置
JPH09212791A (ja) 路面監視方法と装置

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20071106