本発明の実施例を図面に言及して説明する。同様な部材には同様な参照符号を付す。本発明の一実施例を図1、図2を用いて説明する。まず、図2は、本発明を実施するためのシステム構成を示すブロック図である。図2において、201は、撮像装置であり、TVカメラ201a、ズームレンズ(撮像レンズ)201b、カメラ雲台(カメラの駆動機構部)201cで構成されている。202は、信号処理装置であり、画像入力部202a、雲台制御部202b、レンズ制御部202c、操作入力部202d、画像メモリ202e、MPU(Micro Processing Unit)202f、ワークメモリ202g、外部入出力部202h、画像出力部202i、警報出力部202jおよびデータバス202kで構成されている。203は、操作部であり、ジョイスティック203a、第一のボタン203b、第ニのボタン203cで構成されている。204は、外部記憶装置、205は、画像モニタ、206は、警報装置、例えば、警告灯である。TVカメラ201aの出力は、画像入力部202aを介してデータバス202kに接続され、ズームレンズ201bの制御部は、レンズ制御部202cを介してデータバス202kに接続されている。
TVカメラ201aを搭載するカメラ雲台201cは、雲台制御部202bを介してデータバス202kに接続される。操作部203の出力は、操作入力部202dを介してデータバス202kに接続されている。また、外部記憶装置204は、外部入出力部202hを介してデータバス202kに接続され、監視用の画像モニタ205は、画像出力部202iを介してデータバス202kに接続され、警告装置206は、警報出力部202jを介してデータバス202kに接続されている。MPU202fとワークメモリ202gは、そのままデータバス202kに接続されている。
TVカメラ201aは、監視対象領域をその視野内に捉え、監視対象領域を撮像して映像信号を出力し、侵入物体を撮像する機能を有している。この目的のためにTVカメラ201aは、カメラ雲台201cに搭載され、TVカメラ201aをパン、チルト方向に自在に旋回できるように構成され、かつ、ズームレンズ201bを備え、映像の拡大する機能も有している。撮像された映像信号は、画像入力部202aからデータバス202kを介して画像メモリ202eに蓄積される。外部記憶装置204は、プログラムやデータなどを記憶する働きをし、プログラムやデータなどが必要に応じて外部入出力部202hを介してワークメモリ202gに読み込まれ、また反対にワークメモリ202gから外部記憶装置204に保存される。
MPU 202fは、信号処理装置202の動作時に外部記憶装置204に保存されたプログラムをワークメモリ202gに読み込み、必要な信号処理を実行する。即ち、ワークメモリ202g内で画像メモリ202eに蓄積された画像の解析を行なう。そして、この処理結果に応じてMPU202fは、カメラ雲台201c、ズームレンズ201bを制御し、TVカメラ201aの撮像視野を変えると共に侵入物体を追跡する。また、必要に応じて監視モニタ205に侵入物体検出結果を表示し、警告装置206を駆動して警告する働きをする。
次に、上記システム構成を用いた本発明の動作を図1により説明する。まず、初期化処理ステップ101は、本発明の物体追尾方法を実行するために操作部203を用いて外部機器や、各部の変数、画像メモリ等の初期化を行なう。次に、ステップ102に進む。ステップ102は、差分法を用いた物体認識処理を実行するプロセスである。
ここで、差分法を用いた物体認識処理について図3を用いて説明する。第1の画像入力ステップ102aでは、TVカメラ201aから、例えば横方向320画素、高さ方向240画素の入力画像301を得る。差分処理ステップ102bでは、第1の画像入力ステップ102aで得た入力画像301と予め作成し、画像メモリ202eに記録しておいた侵入物体の映っていない基準背景画像302との間で、MPU202fの減算器306(図3に示す。)において各画素毎の輝度値の差分値を計算する。二値化処理ステップ102cでは、差分処理ステップ102bで得られた差分画像303の画素値(差分値)を、例えば、1画素の画素値を8ビットで計算し、これを256階調で表し、所定のしきい値Th(例えば、Th=20)未満の画素値を“0”、しきい値Th以上の画素の画素値を“255”として二値化画像304を得る。なお、しきい値Thは、上記実施例では、20と設定したが、20に限定されるものではなく、侵入物体の検出条件、入力画像の状態等で実験的に定められる。
ラベリング処理ステップ102dでは、二値化処理ステップ102cで得られた二値化画像304中の画素値“255”となる画素のかたまりを検出し、各々に番号を付けて区別できるようにする。侵入物体存在判定ステップ102eでは、ラベリング処理ステップ102dで番号付けされた画素値“255”となる画素のかたまりが所定の条件(例えば大きさが横方向20画素以上、高さ方向50画素以上)であれば、監視対象領域内に侵入物体が存在すると判定する。
これによって入力画像301に映った人型の物体309は、減算器306によって差分が生じた領域310として計算されので、人型の物体310が残り、背景部分は、表示されない。従って、二値化器307(図3に示す。)によって画像311として検出される。以上が差分処理による侵入物体検出処理102の処理の概要である。
もし、侵入物体存在判定ステップ102eで侵入物体が存在すると判定された場合、警報・検出情報表示ステップ103に進む。警報・検出情報表示ステップ103では、例えば侵入物体を発見したことを表す警報を監視員に伝えるために画像出力部202iを介して監視モニタ205に侵入物体の情報(位置、人数など)を表示し、警報出力部202jを介して警告装置206で警報を鳴らす等が行われる。侵入物体が存在しないと判定された場合、再び画像入力ステップ102aに戻り、侵入物体検出のための差分法を繰返す。
次に、侵入物体存在判定ステップ102eで侵入物体が存在すると判定された場合、テンプレートマッチング法による侵入物体追尾ステップ104に進む。ここで、テンプレートマッチング法による侵入物体追尾ステップ104について図3および図4を用いて説明する。テンプレート登録ステップ104aでは、ラベリング処理ステップ102dで番号付けされた画素値“255”となる画素のかたまりの外接矩形312(図3に示す。)に基づいて、入力画像301中の侵入物体の画像を切り出し器308(図3に示す。)で切り出し、テンプレート画像305を得る。このテンプレート画像305中には、侵入物体309のテンプレート313が含まれており、これがテンプレートマッチング法による侵入物体追尾処理の初期テンプレートとして登録される。
次に、第2の画像入力ステップ104bでは、第1の画像入力ステップ102aと同様にTVカメラ201aから、例えば横方向320画素、高さ方向240画素の入力画像を得る。テンプレートマッチングステップ104cでは、第2の画像入力ステップ104bで得た入力画像の中でテンプレート313と最も一致度が高い画像を検出する。通常、テンプレートと入力画像全体を比較すると計算処理時間がかかるため、テンプレートに対して所定の範囲、例えば、テンプレート313に対して上下方向で20画素ずつ、左右方向で50画素ずつ広げた領域を探索領域として、探索領域内でテンプレート313と最も一致度が高い画像を検出する。一致度としては、例えば正規化相関値r(Δx,Δy)が適用でき、数1で表わされる。
また、f(x,y)は、入力画像を表し、g(x,y)は、テンプレート画像を表す。(x0,y0)は、テンプレート313(図4では、401a)の左上角の座標を表す。画像401の座標軸は、画像401の左上角を原点(0,0)とする。Dは、テンプレート313(401a)の大きさ、即ち、二値化画像304で検出された侵入物体の外接矩形312の大きさであり、例えば、横方向20画素、縦方向50画素を表す。正規化相関値r(Δx,Δy)は、−1≦r(Δx,Δy)≦1の値を取り、入力画像とテンプレートが全く一致した場合は、“1”となる。テンプレートマッチングは、Δx、Δyを探索範囲内で走査、即ち、上記の場合、−50≦Δx≦50、−20≦Δy≦20と変化させた場合に、正規化相関値r(Δx,Δy)がもっとも大きくなる位置(Δx,Δy)を検出する処理である。
次に、一致度判定ステップ104dでは、一致度r(Δx,Δy)を判定し、上記数1で表される正規化相関値を用いた場合、例えば0.7以上であれば一致度が高いと判定し、テンプレート更新ステップ104eへ進む。0.7未満であれば第1の画像入力ステップ102aに戻り、これまでの処理を繰返す。一致度が大きいということは、第2の入力画像中でテンプレート313に似た画像がある、即ち、監視対象領域内に侵入物体が存在し、その位置がテンプレートの位置に相対して(Δx,Δy)にあることを意味する。その場合は、引き続き侵入物体の移動量を検出する。一致度が小さいということは、入力画像中でテンプレート313に似た画像がない、即ち、監視対象領域内に侵入物体が存在しないことを意味し、その場合は、第1の画像入力ステップに戻り、これまでの処理を繰返す。なお、正規化相関値を0.7として説明したが、これに限定されるものではなく、実験的に設定されることは言うまでもない。
次に、テンプレート更新ステップ104eでは、新たに求められた侵入物体の位置に基づいて第2の画像入力ステップ104bで得られた入力画像から侵入物体の画像を切り出し、新たなテンプレート画像とする。このようにテンプレートを逐次更新することで、テンプレートには、最新の侵入物体の画像が記録され、侵入物体が移動あるいは姿勢変化を起こした場合でも安定に侵入物体の移動量を検出できるので、侵入物体の追尾を容易に行うことができる。
ここで、侵入物体移動量検出処理を図3及び図4を用いて更に詳細に説明する。図3において、入力画像301中に存在する侵入物体309は、ラベリング処理ステップ102dによって二値化画像内の画素値“255”のかたまりとして検出される。この侵入物体311の外接矩形312に基づいて切り出し器308で切り出され、テンプレート画像305が得られる。テンプレート画像305中には、侵入物体309のテンプレート313が含まれており、これがテンプレートマッチング法による侵入物体追跡処理の初期テンプレートとなる。
次に、初期テンプレート313に基づいてテンプレートマッチングが実行される。図4は、テンプレートマッチング法による侵入物体追跡処理を実行して侵入物体を追跡する処理の流れを表す。401は、テンプレート画像、401aは、テンプレートを表す。ここで、括弧内に記した記号305、313は、それぞれ図3で示したテンプレート画像305、テンプレート313と同一のものである。図4においては、テンプレート画像401を取得した時刻をt0と表す。以下同様に所定の時間間隔(例えば、100ms)で逐次入力する入力画像402、404、406、・・の取得時刻を入力順にそれぞれt0+1、t0+2、t0+3、・・・とする。画像401は、時刻t0におけるテンプレート画像を表しており、画像401aは、時刻t0におけるテンプレートを表している。また、画像402は、時刻t0+1における入力画像、画像402において矩形領域402bは、時刻t0における侵入物体の位置(テンプレート401aの位置)を表し、矩形領域402cは、テンプレートマッチングの対象となる領域(探索領域)を表す。
ここで、テンプレートマッチング処理409(テンプレートマッチングステップ104c)を実行すると、テンプレートマッチングの探索領域402cの中でテンプレート401aにもっとも一致する画像402aで一致度がもっとも大きくなり、侵入物体は、時刻t0+1において画像402aの位置に存在していることが分かる。すなわち、侵入物体は矢印402dだけ(移動量(Δx,Δy)だけ)移動したことが分かる。
次に、テンプレート更新処理410(テンプレート更新ステップ104e)において、テンプレート401aにもっとも一致した画像402aを時刻t0+1における新たなテンプレートとして更新する。すなわち、入力画像402から侵入物体の位置402aを切り出し、これをテンプレート画像403とし、侵入物体の画像402aを時刻t0+1における新たなテンプレート403aとして更新する。この処理をTVカメラから逐次入力される入力画像に対して順次実行すると、時刻t0+2における入力画像404中にテンプレート403aの位置404bに基づいて前述と同様に探索領域404cを設定し、時刻t0+1におけるテンプレート画像403中のテンプレート403aを用いてテンプレートマッチング処理409によって侵入物体の位置404aを検出する。その結果、侵入物体は、矢印404dのように移動したことが分かる。さらにテンプレート更新処理410によって時刻t0+2におけるテンプレート画像405および侵入物体のテンプレート405aを更新する。
更に、時刻t0+3における入力画像406中にテンプレート405aの位置406bに基づいて探索領域406cを設定し、時刻t0+2におけるテンプレート画像405中のテンプレート405aを用いてテンプレートマッチング処理409によって侵入物体の位置406aを検出する。結果として侵入物体は、矢印406dのように移動したことが分かる。更に、テンプレート更新処理410によって時刻t0+3におけるテンプレート画像407および侵入物体のテンプレート407aを更新する。時刻t0+4における入力画像408中にテンプレート407aの位置408bに基づいて探索領域408cを設定し、時刻t0+3におけるテンプレート画像407中のテンプレート407aを用いてテンプレートマッチング処理409によって侵入物体の位置408aを検出する。結果として侵入物体は、矢印408dのように移動したことが分かる。即ち、テンプレートマッチングを逐次実行することで侵入物体を追跡することができる。
次の視野範囲判定ステップ105の説明の前に、以下で本実施例で解決しようとする問題を更に説明する。近年、監視カメラの普及に伴って一般住民のプライバシーが脅かされるという問題が発生している。上述したテンプレートマッチング法を用いた物体追尾方法は、侵入物体の移動に伴ってカメラ雲台201cを自動的に制御して侵入物体をTVカメラ201aの視野内に捉えるように動作するので、何等の制限もなく実施されると、そのTVカメラ201aの視野内には、もし監視対象ではない民家やプライバシーが問題となる場所などがあればそれらも映ってしまうであろう。一方、監視対象ではない民家やプライバシーが問題となる場所を除いた場所は、侵入物体の動きに応じてカメラ雲台201cを制御して侵入物体を確実に追尾する必要がある。そのため本発明では、カメラの視野範囲の制御を行い、監視対象ではない民家やプライバシーが問題となる場所は、撮影しないが、その場所以外は、侵入物体の動きに応じて侵入物体を確実に追尾できるように構成されている。以下、これについて詳細に説明する。
テンプレートマッチング法による侵入物体追尾ステップ104で侵入物体が検出されると、上述したテンプレートの動きに応じてカメラ雲台201cがカメラ雲台制御ステップ106で制御され、物体を追尾するが、ここで監視対象ではない民家やプライバシーが問題となる場所を視野範囲に取込むのを阻止するために視野範囲判定ステップ105を実行する。ここで視野範囲判定ステップ105を説明する前に侵入物体の動きに応じて侵入物体を確実に追尾できるようにしたカメラ雲台201cのカメラ雲台/ズーム制御量算出ステップ106aとカメラ雲台/ズーム制御ステップ106bについて図5を用いて説明する。
図5において、テンプレート画像501の中にテンプレート502で示されるような位置に侵入物体505が検出されたとする。この場合、侵入物体505の中心位置をテンプレートの中心位置503とすると、テンプレート画像501の中心504からテンプレートの中心位置503の変位dx、dyが算出される。
ここで、テンプレート502の中心位置503がテンプレート画像501(入力画像に相当する。)の中心位置504より所定量S(侵入物体が画像の中心付近に存在する場合は、カメラ雲台201cを制御する必要がないため、所定量Sによってカメラ雲台制御を開始する位置を指定することができる。例えばS=50画素)以上左側(dx<-S)であればカメラ雲台201cを左にパンさせ、右側(dx>S)であれば右にパンさせる。また、テンプレート502の中心位置503が入力画像の中心504より上側(dy<-S)であればカメラ雲台201cを上にチルトさせ、下側(dy>S)であれば下にチルトさせる。更に、更新されたテンプレートの大きさ、即ち、検出された侵入物体の画像上の大きさによっては、TVカメラ201aのズーミングを変えるため撮像レンズ201bの焦点距離の変更量も取得してもよい。一例として、テンプレートの高さが所定の値以下である場合は撮像レンズ201bをズームアップし、所定の値より大きいときはズームアウトする。
所定の値としては、例えば、400画素(入力画像の大きさを横方向640画素、高さ方向480画素とした場合)と言う値を用いることができる。この場合、例えば、現在のテンプレートの高さが300画素、ワークメモリ202gに記録した現在の撮像レンズ201bの焦点距離がf=30mmであったとすると、テンプレートの高さを400画素にするためには、撮像レンズ201bの焦点距離をf=30×(400/300)=40mmにすれば良い。したがって、MPU202fは、レンズ制御部202cを介して、撮像レンズ201bの焦点距離を40mmに制御する。このようにすることで、侵入物体をTVカメラ201aの視野内に適切な大きさで捉えることができる。なお、ズーミングの設定の変更は、これに限らず任意の基準、任意の方法で実施することができることは言うまでもない。例えば、テンプレートの高さが予め設定した範囲の外にあるときにのみズーミングを変えるようにしても良い。また、ズームアップとして、焦点距離を例えば1.0mm長くするという処理を行い、ズームアウトとして、焦点距離を1.0mm短くするという簡易的な処理でも撮像レンズ201bを制御することができる。侵入物体を追跡する処理は逐次繰り返し実行されるため、このように簡易的な処理でも、焦点距離の制御が足りない場合は、次の処理フレームでも同様に制御が行われる。したがって、侵入物体を追跡する処理を繰り返すことで、撮像レンズ201bの焦点距離は適切な値に制御され、テンプレートの高さを所定の大きさに合わせることができる。ここで、焦点距離の変化量1.0mmというのは、経験的に算出されるものであって、この値が大きいと、テンプレートの高さを所定の大きさに迅速に合わせることができるが、適切な値付近では焦点距離の振動現象が発生する可能性がある(over damping)。また、焦点距離の変化量が小さいと、テンプレートの高さが所定の大きさに合うまでに時間がかかる場合がある(under damping)。ここで、焦点距離の変更量は、例えば予めワークメモリ202g上に記憶させておく。なお、ズーミングは撮像レンズ201bの焦点距離を変えることにより実現する他、TVカメラ201aから得られた入力画像を電子的に拡大することにより実現しても良い。
具体的には、カメラ雲台/ズーム制御量算出ステップ106aで変位dx、dyの算出とパン及びチルトの制御量(カメラ雲台の移動量)とズーム量(撮像レンズ201bの焦点距離)を算出し、カメラ雲台/ズーム制御ステップ106bにおいて、算出した制御量に基づきカメラ雲台と撮像レンズの制御を実行する。なお、dx及びdyの絶対値によってパン、チルトモータの制御速度を変化させるようにしても良い(dxあるいはdyの絶対値が大きいほど制御速度を大きくする)。
また、本実施例では、カメラ雲台の制御を伴った侵入物体の追跡を“追尾”と呼んでいる。このようにすることで侵入物体をTVカメラ201aの視野内に捉えながらカメラ雲台201cを自動的に制御し、侵入物体を追尾することができる。
次に、視野範囲判定ステップ105について説明する。まず、視野情報取得ステップ105aでは、雲台制御部202bを介してカメラ雲台201cの現在の方向(カメラ雲台正面を原点とし、パン角θP、チルト角θT)を取得し、レンズ制御部202cを介して撮像レンズ201bの現在の焦点距離fを取得する。
視野範囲算出ステップ105bでは、視野情報取得ステップ105aで取得したカメラ雲台201cの現在の方向θP、θT、撮像レンズ201bの現在の焦点距離fに基づいて撮像範囲の位置を算出する。ここで、撮像範囲の位置の算出方法を図6及び図7を用いて説明する。簡単のために監視対象領域は、平面で、地面の凹凸がないものとする。図6は、TVカメラ601を座標原点とし、その真上から見た平面図である。これを用いてTVカメラ601の画角θH(カメラ横方向の視野角)は、数2で求めることができる。
ここで、wは、TVカメラ601の撮像素子、例えば、CCD(Charge Coupled Device)素子の横幅であり、例えば1/3インチ(素子サイズ4.8mm×3.6mm)の撮像素子を使用した場合、w=4.8mmである。また、1/3インチの撮像素子を使い、撮像レンズの焦点距離をf=8.0mmとした場合、TVカメラ601の画角は、θH=33.4°となる。即ち、TVカメラ601の視野は横方向33.4°の範囲を持つ。ところで、TVカメラ601は、監視領域に比べ高い位置に設置される場合がほとんどであり、カメラ雲台201cの現在の方向θTに応じてTVカメラ601真下領域は撮像できない領域がある。この領域は、TVカメラ601から視線方向LNの範囲に現れる(領域602で示される)。それ以上の領域603(LF−LNで示される領域)は、TVカメラ601の視野に必ず入る。
この距離LN及びLFを図7で説明する。図7は、TVカメラの視線方向を横軸として、TVカメラ701(TVカメラ601と同じ。)を横から見た図で、数2の場合と同様に、TVカメラ701の画角θV(カメラ縦方向の視野角)は、数3で求めることが出来る。
ここで、hは、TVカメラ701の撮像素子、例えばCCD素子の縦幅あり、例えば1/3インチの撮像素子を使用した場合、h=3.6mmである。前述の条件と同様、1/3インチの撮像素子を使い、撮像レンズの焦点距離をf=8.0mmとした場合、TVカメラ701の画角は、θV=25.4°となる。即ち、TVカメラ701の視野は、縦方向25.4°の範囲を持つ。ここで、TVカメラ701の設置高をHとすると、LN、LFは、数4で求めることが出来る。
以上の結果、TVカメラ601(701)で撮像できる範囲は、図6で示される領域603と図7で示される領域702となる。前述の条件と同様、1/3インチの撮像素子を使い、撮像レンズの焦点距離をf=8.0mm、カメラ雲台201cの現在の方向θT=30°、TVカメラ701の設置高をH=5.0mとした場合、LN=5.42m、LF=16.1mとなる。
次に、撮像禁止領域外判定ステップ105cは、上記視野範囲算出ステップ105bによって算出されたTVカメラ201aの視野範囲(図6及び図7で示される斜線領域603および702)が監視対象範囲以外の領域(撮像禁止領域)を含まない場合、カメラ雲台制御量算出ステップ106aへ進み、撮像禁止領域を含む場合は、カメラ雲台停止処理ステップ108へ進む。
ここで撮像禁止領域外判定ステップ105cの判定処理について、図8および図9を用いて説明する。図8は、例えば、監視マップ801と呼ばれるものであり、監視領域内の構造物情報を、地図情報(またはベクトル情報)等の手段によって表現したものである。この監視マップ801には、TVカメラ802、視野範囲803、重要監視ポイント804、撮像禁止領域805を重ねて表示している。なお、この監視マップ801の地図情報は、例えば、x、y座標軸で(x,y)座標に変換し、監視システムの画像メモリ202eにメモリテーブルとして記憶されている(あるいは外部記憶装置204に記憶することも出来る。)。撮像禁止領域805は、例えば、監視対象領域に隣接する民家やプライバシー保護の対象となる場所で、この領域805は、TVカメラ802では撮像してはいけない領域である。但し、ゲート806の直前までは、監視対象領域である。
一方、TVカメラ802の視野範囲803の位置は、視野範囲算出ステップ105bで説明したように数2〜数4で演算されるので、その結果に基づいて視野範囲803の位置を監視マップ801の(x,y)座標に変換する。即ち、図8に示す視野範囲803(斜線で示す範囲)の各位置をx、y座標に変換する。例えば、視野範囲803の各頂点P1、P2、P3およびP4は、P1=(x1,y1)、P2=(x2,y2)、P3=(x3,y3)およびP4=(x4,y4)として、数5により求めることが出来る。
ここで、θPは、TVカメラ802のパン角であるが、ここでは、x軸とTVカメラ802の光軸とのなす角を示す。同様に、視野範囲803の各x、y位置座標を計算すると、TVカメラ802の視野範囲803の位置をx、y座標系に変換できる。なお、この視野範囲803の位置座標は、TVカメラ802のパン、チルトおよびズームにより変化することは言うまでもない。
次に、上述した、TVカメラ802の視野範囲803が撮像禁止領域805を撮像しないように制御する方法について、図9を用いて説明する。図9において901は、画像メモリ202eに記憶されている監視マップ801で、例えば、x、y座標位置で記憶されている。902は、撮像禁止領域を示している。903は、TVカメラ904(802と同じもの)およびTVカメラ904の視野範囲905の位置を演算により求めたメモリ上の画像(以下視野範囲画像903と称する)で、上記監視マップ901と同様にx、y座標位置で記憶している様子を模式的に表現したものである。なお、TVカメラ904のレンズの位置をx、y座標系の原点(0,0)とする。次に、監視マップ901と視野範囲画像903とを画像メモリ202eから読出し、MPU292fで演算処理(AND処理)903を行う。即ち、撮像禁止領域902と視野範囲905とのAND処理を監視マップ901の全画面について画素毎に行うと、906で示される処理結果の画像が得られる。結果としてTVカメラの視野範囲905に撮像禁止領域902が含まれると、撮像禁止領域部分907として表示される。すなわち、この撮像禁止領域部分907が検出されるということは、視野範囲905に撮像禁止領域が映ってしまうことを意味する。この場合、MPU202fは、雲台制御部202bを介して、カメラ雲台201cのパン、チルトモータの動作を停止する(カメラ雲台停止処理ステップ108)。同様に、ステップ108では、撮像レンズ201bの制御を停止する。このようにすることで、視野範囲905に撮像禁止領域902が含まれてしまうことを抑制することが可能となり、従って、TVカメラ904のパン、チルトおよびズームを制御して視野範囲905が撮像禁止領域902を含まないように制御することが可能となる。
このように、カメラ雲台停止処理ステップ108では、TVカメラ201aの視野範囲が監視対象範囲以外の領域(撮像禁止領域部分907)を含む場合にカメラ雲台201cのパン、チルトモータの動作を停止させる処理を行うが、これに加えて、視野範囲905に映ってしまった撮像禁止領域部分907の画像についてはマスク処理をして映らないようにするマスク処理を含むようにしてもよい。
以上の説明では、撮像禁止領域部分907が検出された場合に、カメラ雲台201cのパンチルトモータの動作を停止するようにしたが、代替として、撮像禁止領域部分907が検出された場合に、カメラ雲台201cのパンチルトモータを逆方向に制御し、所定時間(例えば1制御サイクル分、例えば100mS)経過後にパンチルトモータを停止するようにしても良い。ここで、パンチルトモータを逆方向に制御するとは、例えば、前フレームのカメラ雲台制御ステップ106bにおいてカメラ雲台201cを右上方向に制御していた場合、その逆の方向、即ち、左下方向に制御する。このようにすることで、確実に視野範囲905に撮像禁止領域を含まないようにできる。なお、撮像禁止領域部分907が検出された場合に、カメラ雲台停止処理ステップ108で、カメラ雲台の停止処理に加えて、撮像禁止領域部分907が検出されたのでカメラ雲台の制御を停止した旨のメッセージをモニタ205上に表示させる処理をするようにしても良い。
また、他の一実施例として、撮像禁止領域部分907が検出された場合に、カメラ雲台201c及び撮像レンズ(ズームレンズ)201bを制御して撮像禁止領域部分が検出されないようにすることもできる。この方法を図13を用いて説明する。
この方法では、現在の視野範囲を基準に、パン角、チルト角、撮像レンズの焦点距離を微小量ずつ変化させて撮像禁止領域902と重ならなくなる視野範囲を選定する。そして、TVカメラ201aが選定された視野範囲を映すようにカメラ雲台201c及び撮像レンズ201bを制御する。具体的には、例えば、現在のパン角、チルト角、撮像レンズの焦点距離をそれぞれθP0、θT0、f0とし、パン角、チルト角、ズームレンズの焦点距離の最小の刻み量をΔθP、ΔθT、Δfとする。また、パン角、チルト角、ズームレンズの焦点距離を変化させるための係数をそれぞれl、m、nとすると、変化後のパン角、チルト角、撮像レンズの焦点距離θP、θT、fは、数6で表される。
そして、数2、数3、数4、数5に数6を適用し、視野範囲803の各頂点P1、P2、P3及びP4を求め、視野範囲905が撮像禁止領域902と重なるか否かを判定する。ここで、ΔθP、ΔθT、Δfは、例えば、それぞれΔθP=1°、ΔθT=0.5°、Δf=1mmであり、視野範囲905に撮像禁止領域902が映らないようにするには、例えば、−10≦l≦10、−10≦m≦10、−10≦n≦10の範囲でl、m、nを変化させ、視野範囲905が撮像禁止領域902と重ならないl、m、nの組合せを見つける。なお、撮像禁止領域902と重ならないl、m、nの組合せが複数存在するような場合には、例えば、現在のパン角、チルト角、撮像レンズの焦点距離θP0、θT0、f0からの変化量が最も少なくて済むl、m、nの組合せを選択するようにしても良い。そして、この時のθP、θT、fに従ってカメラ雲台201cとズームレンズ201bを制御すれば、視野範囲905に撮像禁止領域部分907を含まないようにできる。以上の処理は、MPU202fが行う。なお、この方法を簡略化した方法として、撮像禁止領域部分907が検出された場合にズームレンズ201bの焦点距離を所定距離だけ長くして、視野範囲を狭くするようにしても良い。図13では、簡略化のため、パン角(θP0)を変化させた場合についてのみが描かれており、また、図13では、上記記載では−10≦l≦10としているところを簡略して、−2≦l≦2の範囲でパン角を変化させた場合についてのものが描かれている。
カメラ雲台制御ステップ106bに続き、警報/追尾情報表示ステップ107が実行される。ステップ107の処理内容は既述のステップ103と同様であるので、説明は省略する。
警報/追尾情報表示ステップ107は、撮像禁止領域外判定ステップ105cでの判定NOの場合にもカメラ雲台停止処理ステップ108の処理に続き実施される。
上記実施例の監視システムによれば、図5を用いて詳細に説明したように、侵入物体が検出された場合、侵入物体をテンプレートマッチング法による侵入物体追尾ステップ104で追跡し、テンプレートの動きに応じてカメラ雲台201cを制御することにより侵入物体を追尾できる。従って、この物体追尾方法を用いれば、図8に示すTVカメラ802の視野範囲803の位置は、例えば、ゲート804から侵入した物体がゲート806に移動すると、この移動物体に応じて視野範囲803の位置は、移動するが移動物体がゲート806に入る直前まで視野範囲803の位置を移動できる。しかし、撮像禁止領域805は、視野範囲803には含まれないようにカメラのパン、チルト、ズームを制御して視野範囲803の位置の移動を制限できるので、極めて正確な物体追尾方法を実現できる。なお、図5に示すテンプレート画像501は、矩形であるのに対して視野範囲803は、台形の形状をしているが、これは図8がTVカメラ802の視野を真上から監視マップ801に投影しているためであり、テンプレート画像501は、視野範囲803の一部を切出して作成されるものであるので、特に問題になることはない。
更に、上述した実施例では、視野範囲803に撮像禁止領域805が部分的に入るような場合、TVカメラ904のパン、チルトおよびズームを制御して視野範囲905の位置を撮像禁止領域902を含まないように制御するものであるが、TVカメラ904の視野範囲803と撮像禁止領域902と重なる面積は、撮像禁止領域902の性格にも依存し、適宜、監視システムの設置時に実験的に定められる。また、上述のように、侵入物体監視のために視野範囲803と撮像禁止領域902とが一部重なるような場合、例えば周知のマスク処理により、視野範囲803と撮像禁止領域902とが重なる部分をマスクし、撮像禁止領域の情報をTVカメラに写らないようにすることも容易に実施できる。
次に、本発明の別の実施例による物体追尾方法を図10のフローチャートに言及して説明する。図1の実施例では、カメラ雲台制御量算出ステップ106aは視野範囲判定ステップ105の後に配置されているが、図10のフローチャートにおいては侵入物体追尾ステップ104と視野範囲判定ステップ105の間に配置されている。
図10において、カメラ雲台/ズーム制御量算出ステップ106aはテンプレート更新ステップ104eで算出された侵入物体の位置に基きカメラ雲台201cパン及びチルト量及び撮像レンズ201bのズーム量が算出される。算出の方法は図5に関連して既に説明した通りである。視野情報取得ステップ105aでは、現在のパン角θP、チルト角θTを取得し、更に、レンズ制御部202cを介して撮像レンズ201bの現在の焦点距離fを取得する。視野範囲算出ステップ105b1では、視野情報取得ステップ105aで取得したカメラ雲台201cの現在の方向θP、θTと、ステップ106aで算出したパン及びチルト量を考慮して、カメラ雲台制御後のカメラ雲台201cの方向を予測して、当該予測結果であるパン角θp1、チルト角θt1を算出する。また、視野情報取得ステップ105aで取得した撮像レンズ201bの現在の焦点距離fと、ステップ106aで算出した撮像レンズ201bのズーム量を考慮して、撮像レンズ制御後の撮像レンズ201bの焦点距離を予測して、当該予測結果である焦点距離f1を算出する。そして、この算出した方向θp1、θt1と撮像レンズ201bの焦点距離f1に基づいて撮像範囲の位置を算出する。算出された撮像範囲の位置は予測位置である。従って、撮像禁止領域外判定ステップ105cでは、予測した、カメラ雲台とズームの制御後の視野範囲内に撮像禁止領域が含まれるか否かが判定される。カメラ雲台/ズーム制御ステップ106bでは、もし、予測したカメラ雲台とズームの制御後の視野範囲内に撮像禁止領域が含まれない場合は、カメラ雲台/ズーム制御量算出ステップ106aで算出した制御量に基きカメラ雲台201cと撮像レンズ201bを制御する。
本実施例によれば、予測した視野範囲が撮像禁止領域を含むか否かを、実際に視野範囲を更新する前に知ることができるので、より正確な撮像禁止領域撮像の回避が可能となり、かつ迅速な侵入物体の追尾が期待できる。本実施例はカメラ雲台/ズーム制御量算出ステップ106aをテンプレート更新ステップ104eと視野情報取得ステップ105aとの間に移した点と、視野範囲算出ステップ105bを視野範囲算出ステップ105b1とした点が図1と異なる以外は、図1のフローチャートと同様であるので、これ以上の説明は省略する。
以上説明したように本発明では、TVカメラは、侵入物体を追跡するようにパン方向、チルト方向およびレンズのズームが制御されるが、撮影禁止場所を含むようになると、TVカメラの視野範囲の位置は、撮影禁止場所を含まないようにその位置が制御されるので、侵入物体を確実に追跡でき、しかも撮影禁止場所を撮影しないという極めて優れたTVカメラの視野範囲制御を実現することができるものである。
次に、本発明の更に別の実施例の侵入物体追尾方法を図11を用いて説明する。上述の実施例では、TVカメラの視野範囲内に撮像禁止領域を映さないようにするものであるが、監視マップ内に監視の重要領域を設け、この重要領域が必ず視野範囲内に映るように設定することもできる。このようにすると、検出した侵入物体を重要領域が映る範囲で追尾を実行し、侵入物体に加え重要領域をも撮像できるようになる。図11はこのような、重要監視領域を必ず監視することができる侵入物体追尾方法の実施例のフローチャートを示す。図1における撮像禁止領域外判定ステップ105cが図11のフローチャートでは、重要領域内判定ステップ105c1に置きかえられている。そして、このステップ以外は、図11のフローチャートは、図1のそれと同様である。すなわち、図1のフローチャートでは、TVカメラ201aの視野範囲に撮像禁止領域が含まれていると撮像禁止領域外判定ステップ105cで処理がNOに分岐し、カメラ雲台201cを停止する。一方、本実施例では、TVカメラ201aの視野範囲に重要領域が含まれない場合、重要領域内判定ステップ105c1で処理がNOに分岐しカメラ雲台停止処理ステップ108に行く。カメラ雲台停止処理ステップ108では、カメラ雲台201cを停止する処理を行う。なお、カメラ雲台停止処理ステップ108では、カメラ雲台201cを停止するようにしたが、代替として、カメラ雲台201cのパンチルトモータを逆方向に制御し、所定時間経過後にパンチルトモータを停止するようにしてTVカメラ201aの向きを重要領域内に戻すようにしても良い。また、TVカメラ201aの視野範囲に重要領域が含まれない場合に、カメラ雲台停止処理ステップ108では、カメラ雲台の停止処理に加えて、重要領域が含まれなくなったのでカメラ雲台の制御を停止した旨のメッセージをモニタ205上に表示させる処理をするようにしても良い。
なお、図1で説明した処理と、図11で説明した処理とを組み合わせて、TVカメラの視野範囲内に撮像禁止領域を映さないようにして、かつ、重要領域が必ず視野範囲内に映るようにズームレンズ201b、カメラ雲台201cを制御することも可能である。
本発明の更に別の実施例の侵入物体追尾方法を図12を用いて説明する。上述の実施例は、いずれも侵入物体の自動追尾に向けられていたが、本発明は自動追尾に限定されず、手動で侵入物体を追尾する場合にも適用できる。
図12のフローチャートは、侵入物体の自動追尾に加え、監視員による手動追尾の際にも撮像禁止領域の撮像を回避できる侵入物体追尾方法を表す。図12において、初期化処理101に続き、監視員が自動追尾か手動追尾かを選択する(ステップ110)。自動追尾が選択されると、図1で説明した自動追尾が実施される。手動追尾が選択されると、TVカメラ201aから、例えば横方向320画素、高さ方向240画素の入力画像を得る(ステップ111)。MPU202fは操作員によるTVカメラ201aの監視操作の有無を調べている(ステップ112)。TVカメラ201aの操作(撮像方向の制御)は操作部203によって行う。操作員は、操作部203によって、TVカメラ201aのズームを手動で行うこともできる。TVカメラ201aの監視操作が検出されると、操作入力部202dを介して、操作入力情報を取得し(ステップ113)、処理は自動追尾における視野範囲判定ステップ105と同様の視野範囲判定ステップ105'に移る。視野情報取得ステップ105a'では、雲台制御部202bを介してカメラ雲台201cの現在の方向(カメラ雲台正面を原点とし、パン角θP、チルト角θT)を取得し、レンズ制御部202cを介して撮像レンズ201bの現在の焦点距離fを取得する。
視野範囲算出ステップ105b'では、視野情報取得ステップ105a'で取得したカメラ雲台201cの方向θP、θT、撮像レンズ201bの現在の焦点距離fに基づいて撮像範囲の位置を算出する。撮像範囲の位置の算出方法は既に説明した通りであるので説明は省略する。
次に、撮像禁止領域外判定ステップ105c'は、視野範囲算出ステップ105b'によって算出されたTVカメラ201aの視野範囲が監視対象範囲以外の領域(撮像禁止領域)を含まない場合、カメラ雲台/ズーム制御ステップ106b'へ進み、撮像禁止領域を含む場合は、カメラ雲台停止処理ステップ108'へ進む。
カメラ雲台/ズーム制御ステップ106b'では、操作入力取得ステップ113で取得した操作入力情報に基き監視員に指定された方向にTVカメラ201aを動かし、続く入力画像表示ステップ114では、TVカメラ201aの撮像した画像を監視モニタ205上に表示する。操作入力取得ステップ113で取得した操作入力情報にズームの変更量の情報が含まれている場合には、カメラ雲台/ズーム制御ステップ106b'では撮像レンズ201cのズームの制御も実行する。
一方、視野範囲算出ステップ105b'によって算出されたTVカメラ201aの視野範囲が監視対象範囲以外の領域(撮像禁止領域)を含む場合は、カメラ雲台停止処理ステップ108'にてカメラ雲台を停止させる。加えて、カメラ雲台を逆方向に制御したり、監視モニタ205上に、TVカメラ201aの視野範囲に撮像禁止領域が含まれたのでTVカメラ201aを停止させた旨のメッセージを表示するようにしても良い。
なお、ステップ105'、105a'、105b'、105c'、106'、108'の詳細はそれぞれ既に説明したステップ105、105a、105b、105c、106、108と同様なので詳しい説明は無用であろう。また、監視員による手動追尾の際にも、図11で説明した内容と同様に、重要領域が必ず視野範囲内に映るように制御することができることは言うまでもない。また、以上の説明では、監視員は、信号処理装置202に接続された操作部203によりTVカメラ201aの操作を行う場合について説明したが、監視員は、例えば、信号処理装置202とLANやインターネットなどの外部ネットワークを介して接続される遠隔地のPC(パーソナルコンピュータ)によりTVカメラ201aを操作することも可能である。
以上の説明では、物体検出方法として差分法、物体移動量検出方法としてテンプレートマッチング法を挙げて説明したが、物体検出、物体移動量検出が実現できるものであればこれら以外の方法でも使用可能であることは、言うまでもない。
以上、本発明について詳細に説明したが、本発明は、ここに記載された物体追尾方法及び物体追尾装置に限定されるものではなく、上記以外に物体追尾方法及び物体追尾装置に広く適応することが出来ることは、言うまでも無い。
101:初期化ステップ、102:物体検出ステップ、102a:第1の画像入力ステップ、102b:差分処理ステップ、102c:二値化処理ステップ、102d:ラベリング処理ステップ、102e:侵入物体存在判定ステップ、103:警報・検出情報表示ステップ、104:侵入物体追尾ステップ、104a:テンプレート登録ステップ、104b:第2の画像入力ステップ、104c:テンプレートマッチングステップ、104d:一致度判定ステップ、104e:テンプレート更新ステップ、105:視野範囲判定ステップ、105a:視野情報取得ステップ、105b:視野範囲算出ステップ、105c:視野範囲内判定ステップ、106:カメラ雲台制御ステップ、107:警報・追尾情報表示ステップ、201:撮像装置、201a:TVカメラ、201b:ズームレンズ、201c:カメラ雲台、202:信号処理装置、202a:画像入力部、202b:雲台制御部、202c:レンズ制御部、202d:操作入力部、202e:画像メモリ部、202f:MPU(処理装置、Micro Processing Unit)、202g:ワー
クメモリ、202h:外部入出力部、202i:画像出力部、202j:警報出力部、202K:データバス、203:操作手段、203a:ジョイスティック、203b、203c:ボタン、204:外部記憶装置、205:出力モニタ、206:警告装置。