JP2002329207A - 動体追跡表示システム - Google Patents

動体追跡表示システム

Info

Publication number
JP2002329207A
JP2002329207A JP2001134993A JP2001134993A JP2002329207A JP 2002329207 A JP2002329207 A JP 2002329207A JP 2001134993 A JP2001134993 A JP 2001134993A JP 2001134993 A JP2001134993 A JP 2001134993A JP 2002329207 A JP2002329207 A JP 2002329207A
Authority
JP
Japan
Prior art keywords
image data
moving object
unit
image
storage unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001134993A
Other languages
English (en)
Other versions
JP3523847B2 (ja
Inventor
Shuichi Katayama
修市 片山
Osamu Tanimoto
修 谷本
Shin Ri
森 李
Masahiro Kondo
正浩 近藤
Yuichi Omori
優一 大森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
RIOSU CORP KK
Original Assignee
RIOSU CORP KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by RIOSU CORP KK filed Critical RIOSU CORP KK
Priority to JP2001134993A priority Critical patent/JP3523847B2/ja
Publication of JP2002329207A publication Critical patent/JP2002329207A/ja
Application granted granted Critical
Publication of JP3523847B2 publication Critical patent/JP3523847B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 撮像された画像データ中に入った動体が、
次に撮像される画像データ中にも存する場合には、両画
像データ中に存する同一動体を関連付ける動体追跡表示
システムを提供する。 【解決手段】時系列的に撮像された画像データを順次入
力する画像入力手段と、該画像入力手段によって順次入
力された該画像データ中それぞれに動体の画像が存する
か否か判断する動体検出手段と、該動体検出手段が現在
画像データ中に動体が存すると判断した場合には、該現
在画像データ中の動体が該現在画像データよりも前の前
コマ画像データ中に存するか否か判断する同一判断手段
と、該動体検出手段が該現在画像データ中に存すると判
断した動体が該同一判断手段によって該前コマ画像デー
タ中に存すると判断された場合には該前コマ画像データ
中に存する動体と該現在画像データ中に存する動体とを
関連付ける関連画像生成手段と、を備えてなる、動体追
跡表示システム。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、動体追跡表示シス
テムに関し、より詳細には、時系列的に撮像された複数
の画像データ中に存する同一の動体を示す画像を関連付
ける動体追跡表示システムに関する。
【0002】
【従来の技術】監視カメラ等によって時系列的に撮像さ
れた画像データのように、ある定まった場所を撮像した
画像データ中に動体が存するか否かを判断し、動体が存
すると判断した場合、撮像された画像データを記憶した
り出力する装置が知られていた。例えば、前記ある定ま
った場所に動体が存しないときに撮像された画像データ
を背景画像として記憶しておき、その時々に撮像された
画像データと該背景画像との差分処理を行って両者間に
差が生じる領域が存すれば、その時々に撮像された画像
データに動体が存すると判断し、該撮像された画像デー
タを記憶したり出力するものが知られていた(即ち、動
体が存すると判断された画像データのみを記憶したり出
力する。)。
【0003】
【発明が解決しようとする課題】しかしながら、上記し
た従来の装置では、画像データ中に動体が存すると判断
した場合、撮像された画像データ全体が記憶されたり出
力されるので、一度、撮像された画像データ中に入った
動体が、次に撮像される画像データ中でどのようになっ
ているか対応がつかないという問題があった。このこと
は、注目している動体が、次々撮像される画像データ中
においてどのような状態にあるかがうまく把握できない
という問題を引き起こしていた。また、この問題は、画
像データ中に複数の動体が存すると一段と顕著になる。
【0004】そこで本発明では、撮像された画像データ
中に入った動体が、次に撮像される画像データ中にも存
する場合には、両画像データ中に存する同一動体を関連
付ける動体追跡表示システムを提供することを目的とす
る。
【0005】
【課題を解決するための手段】本発明の動体追跡表示シ
ステム(以下、「本システム」という。)は、時系列的
に撮像された画像データを順次入力する画像入力手段
と、該画像入力手段によって順次入力された該画像デー
タ中それぞれに動体の画像が存するか否か判断する動体
検出手段と、該動体検出手段が現在画像データ中に動体
が存すると判断した場合には、該現在画像データ中の動
体が該現在画像データよりも前の前コマ画像データ中に
存するか否か判断する同一判断手段と、該動体検出手段
が該現在画像データ中に存すると判断した動体が該同一
判断手段によって該前コマ画像データ中に存すると判断
された場合には該前コマ画像データ中に存する動体と該
現在画像データ中に存する動体とを関連付ける関連画像
生成手段と、を備えてなる、動体追跡表示システムであ
る。
【0006】本システムの画像入力手段は、時系列的に
撮像された画像データを順次入力する。ここに「時系列
的に撮像された画像データ」とは、時間の流れに沿って
撮像される画像データをいい、撮像される間隔は等間隔
であるか不等間隔であるかを問わない。そして、本シス
テムの動体検出手段は、画像入力手段によって順次入力
された該画像データ中それぞれに動体の画像が存するか
否か判断する。さらに、本システムの同一判断手段は、
該動体検出手段が現在画像データ中に動体が存すると判
断した場合には、該現在画像データ中の動体が該現在画
像データよりも前の前コマ画像データ中に存するか否か
判断する。ここに「現在画像データ」と「前コマ画像デ
ータ」とは、該画像入力手段によって順次入力された画
像データの連続した2コマのうち、後に入力された画像
データと前に入力された画像データとをそれぞれいう。
最後に、本システムの関連画像生成手段が、該動体検出
手段が該現在画像データ中に存すると判断した動体が該
同一判断手段によって該前コマ画像データ中に存すると
判断された場合には該前コマ画像データ中に存する動体
と該現在画像データ中に存する動体とを関連付ける。こ
のため本システムでは、時系列的に撮像され順次入力さ
れた画像データの連続した2コマである「現在画像デー
タ」と「前コマ画像データ」との両方に同一の動体が存
する場合には、該前コマ画像データ中に存する動体と該
現在画像データ中に存する動体とを関連付ける。従っ
て。本システムにおいては、撮像された画像データ中に
入った動体が、次に撮像される画像データ中にも存する
場合には、両画像データ中に存する同一動体を関連付け
ることができる。
【0007】前記画像データが魚眼レンズによって撮像
され、該魚眼レンズによって撮像された画像データから
前記動体検出手段によって検出された動体を含むように
切り出された動体画像に含まれる該魚眼レンズにより生
じる歪みを除去する歪み除去手段を、さらに備えるもの
であってもよい。ここにいう「魚眼レンズ」とは、画角
が少なくとも150度以上、好ましくは160度以上、
より好ましくは170度以上のものをいう(特別に画角
の上限はないが、一般的には200度以下、より一般的
には190度以下である。)。このような大きな画角の
魚眼レンズによって撮像することで極めて広範囲の画像
データを入力することができるので、撮影レンズの個数
を減少させたり、撮影レンズを様々な方向に駆動するこ
となく広範囲をモニターできる。また、かかる魚眼レン
ズを用いて撮像された画像データは、該魚眼レンズの特
性に応じた特有の歪みを有するので、該画像データ中に
含まれる動体の形状等を認識しやすくするため、該画像
データから前記動体検出手段によって検出された動体を
含むように切り出された動体画像に含まれる該魚眼レン
ズにより生じる歪みを除去する歪み除去手段を、さらに
備えるものであることが好ましい。魚眼レンズにより生
じる歪みを除去する歪み除去手段は、既に公知の技術で
あるので詳しい説明は省略するが、例えば、昭和62年
特許出願公告第16073号に記載の技術等を例示する
ことができる。
【0008】前記現在画像データ中に複数の動体が存す
る場合、前記同一判断手段が該複数の動体それぞれにつ
いて前記前コマ画像データ中に存するか否か判断し、前
記同一判断手段が前記前コマ画像データ中に存すると判
断した動体それぞれについて前記関連画像生成手段が該
前コマ画像データ中に存する動体と該現在画像データ中
に存する動体とを関連付けるものであってもよい。こう
することで画像データ中に複数の動体が存在しても、該
複数の動体それぞれについて前コマ画像データ中に存す
る動体と現在画像データ中に存する動体とを関連付ける
ので、該複数の動体それぞれの状態を確実に把握するこ
とができる。
【0009】前記同一判断手段が、前記前コマ画像デー
タ中に存する動体に対する前記現在画像データ中に存す
る動体の移動距離、移動方向及び色彩の差異のうち少な
くとも一を考慮して両動体が同一か否か判断するもので
あってもよい。同一判断手段は、前述した通り、該動体
検出手段が現在画像データ中に動体が存すると判断した
場合には、該現在画像データ中の動体が該現在画像デー
タよりも前の前コマ画像データ中に存するか否か判断す
るものであればいかなるものであってもよいが、現在画
像データ中の動体(以下、「現在動体」という。)と前
コマ画像データ中に存する動体(以下、「前コマ動体」
という。)とが同一であれば(即ち、現在動体が前コマ
画像データ中に存する場合)、前コマ動体に対する現在
動体の移動距離又は移動方向は一定の限界が存する場合
が多い。例えば、動体として人を考えたとき、前コマ画
像データと現在画像データとの撮像時刻の差(両画像デ
ータが撮像される間の時間)に応じて動体(人)が移動
できる距離には限界がある。このためかかる場合では、
該撮像時刻の差に応じて動体(人)が移動できる距離の
上限よりも大きな移動距離となるような前コマ動体と現
在動体とは異なるものと判断することができる。さら
に、前コマ動体と現在動体とが同一と判断するとあまり
にも急激な移動方向の変化となるような場合も前コマ動
体と現在動体とは異なるものと判断することができる。
さらに、現在動体と前コマ動体とが同一であれば(即
ち、現在動体が前コマ画像データ中に存する場合)、前
コマ動体に対する現在動体の色彩の差異もそれほど大き
くない場合が多い。従って、前コマ動体に対する現在動
体の色彩の差異があまりにも大きい場合には前コマ動体
と現在動体とは異なるものと判断することができる。加
えて、前コマ動体に対する現在動体の移動距離、移動方
向及び色彩の差異の3要素のうち、1要素のみを用いて
前コマ動体と現在動体との異同を判断するよりも2要素
を用いる方がより正確な判断ができ、3要素全てを用い
れば2要素を用いるよりもより正確な判断が可能とな
る。
【0010】前記同一判断手段が、前記前コマ画像デー
タ中に存する動体に対する前記現在画像データ中に存す
る動体の移動距離、移動方向及び色彩の差異のうち少な
くとも一を考慮して両動体が同一か否か判断する場合、
前記移動距離又は前記移動方向が、前記前コマ画像デー
タ中に存する動体の重心位置に対する前記現在画像デー
タ中に存する動体の重心位置の変化によって決定される
ものであってもよい。前コマ動体に対する現在動体の移
動距離及び移動方向を決定する際、前コマ動体と現在動
体とは画像データ中においてある程度の広がりを有して
いることが通常であるから前コマ動体のいずれの部分と
現在動体のいずれの部分とを用いて移動距離や移動方向
を決定するかが問題になることがある(特に、前コマ動
体と現在動体との形状が画像データ中で変化している際
には特に問題になる。)。かかる問題を回避するには、
画像データ中における前コマ動体の重心位置に対する現
在動体の重心位置の変化によって移動距離及び移動方向
を決定するようにしてもよい。このように重心位置を基
準にとることで、動体の実際の移動状態を反映させて移
動距離及び移動方向を決定することができる。なお、同
様に、前記同一判断手段が、前記前コマ画像データ中に
存する動体に対する前記現在画像データ中に存する動体
の色彩の差異を考慮して両動体が同一か否か判断する場
合、前コマ動体の重心位置近傍の色彩と現在動体の重心
位置近傍の色彩とを比較するようにしてもよい。
【0011】前記関連画像生成手段が、互いに関連付け
た前記前コマ画像データ中に存する動体と前記現在画像
データ中に存する動体との画像を動画として生成するも
のであってもよい。こうすることで現在動体が前コマ画
像データ中に存すると判断した場合、関連画像生成手段
が、動体の前コマ画像データの画像と現在画像データの
画像とを動画として生成するので、同一の動体の状態を
動画として観察や記録することができるので該状態の迅
速かつ的確な把握を可能ならしめる。
【0012】前記関連画像生成手段が、前記現在画像デ
ータ中に存する動体の大きさに応じて該動体を表示する
拡大縮小率を設定し、該拡大縮小率に従って該物体の画
像を拡大縮小する拡大縮小手段を、さらに有してなるも
のであってもよい。こうすることで画像データ中に存し
うる様々な大きさの動体を、観察又は記憶するのに適し
た大きさに拡大又は縮小することができるので、画像デ
ータ中に様々な大きさの動体が存してもそれぞれの動体
の大きさに応じて適した大きさへと該物体の画像が拡大
又は縮小されるので動体を確実かつ的確に把握すること
ができる。
【0013】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。しかしながら、これらによって本
発明は何ら制限されるものではない。
【0014】図1は、一実施形態の本システムのハード
ウエア構成を示す概略ブロック図である。図1を参照し
て、一実施形態の本システムのハードウエア構成につい
て説明する。本実施形態では、本システムは、プログラ
ムを内蔵させたコンピュータとそれに接続されたキーボ
ード及びデジタルビデオカメラを含んでなる。なお、こ
こではデジタルビデオカメラを用いているが、撮像可能
なものであればいかなるものが用いられてよいことは言
うまでもなく、例えば、アナログビデオカメラを用いて
よいことは言うまでもない。本システムは、演算処理を
行うCPU110a、CPU110aの作業領域等とな
るRAM110b、制御プログラム等を記録するROM
110c、魚眼レンズ115(画角:約180度)によ
って撮影された信号をCCDによってデジタル信号に変
換して所定時間毎(ここでは具体的には1コマ/0.0
67秒)に出力するデジタルビデオカメラ117と、情
報を入力するためのキーボード119と、画像等を表示
するためのモニタ613と、キーボード119やデジタ
ルビデオカメラ117やモニタ613と情報のやり取り
を行うためのインターフェイス110dを有する。な
お、ここでは魚眼レンズ115は、室内の天井部分にそ
の光軸が略鉛直下方向を向くように取付られると共に、
魚眼レンズ115の画角が約180度(光軸に対して約
90度)であることから、1個の魚眼レンズ115によ
って該室内の状況のほとんど全てを撮影することができ
るようになっている。
【0015】図2に、図1のハードウエアと主としてR
OM110cに記録されるプログラムにより実現される
本システム101の機能ブロック図を示す。本システム
101は、機能的には、キーボード119等から本シス
テム101の運転パラメータ等を受け付ける条件入力部
201と、デジタルビデオカメラ117から入力された
画像データ中に動体が存しないときの画像(以下、「背
景画像データ」という。)と現に入力された画像データ
との間の違いを検出する変化検出部301と、変化検出
部301にて背景画像データと異なるとして検出された
ものを特徴付ける特徴量を算出等する移動体分析部40
1と、同一の動体の画像を同一フレームに動画としてモ
ニタ613に出力等する追跡部601と、魚眼レンズ1
15の特性によって生じる画像中の歪みを除去すると共
に画像中に存する動体の大きさに応じて該物体の画像を
拡大縮小等する正像変換部801と、を有してなる。次
いで、これら条件入力部201、変化検出部301、移
動体分析部401、追跡部601及び正像変換部801
のそれぞれについて詳しく説明する。
【0016】図3は、条件入力部201の詳細図であ
る。図3を参照して、条件入力部201を詳細に説明す
る。条件入力部201は、条件受付部203と条件記憶
部205とを有してなる。条件受付部203は、キーボ
ード119を経由して入力された条件を受け付け、それ
ら条件を条件記憶部205へ記憶させる。ここで条件受
付部203が受け付け条件記憶部205へ記憶される条
件としては、検出感度しきい値、検出精度、カメラ位置
(床からのカメラ高さ:単位m)、レンズ種別(予め、
種々のレンズ特性を条件記憶部205に記憶させてお
き、そのいずれが選択されたかを入力するもの)の5種
類の条件である。これら検出感度しきい値、検出精度、
カメラ位置、レンズ種別の4種類の条件は、条件受付部
203によって受け付けられ、条件記憶部205に各々
記憶される。そして、後述するように、これらの条件
は、条件記憶部205にアクセスすることで読み出され
用いられる。
【0017】図4は、変化検出部301の詳細図であ
る。図4を参照して、変化検出部301を詳細に説明す
る。変化検出部301は、画像受付部303と背景画像
記憶部305と現画像記憶部307と差分処理部309
と差分画像記憶部311と動的検知感度計算部313と
を有してなる。まず、デジタルビデオカメラ117は、
魚眼レンズ115(画角:約180度)によって撮影さ
れた信号をCCDによってデジタル信号に変換して所定
時間毎(ここでは具体的には1コマ/0.067秒)に
画像受付部303に送信し、画像受付部303はこの画
像データを受け付ける。このとき画像受付部303は、
キーボード119から特別な信号(具体的には、ここで
は「000」又は「999」)が入力されたか否か判断
し、該特別な信号のうち「000」が入力された直後に
受け付けた1コマ分の画像データは背景画像記憶部30
5へ送信する。また、画像受付部303が、キーボード
119から特別な信号たる「999」が入力されたと判
断した場合、背景画像記憶部305が記憶している画像
データD1を読み出すと共に、「999」が入力された
直後に受け付けた1コマ分の画像データD2とを用い
て、合成画像D3(ただしD3=D1×p+D2×(1
−p)によってD1とD2で互いに対応する画素のRG
B値を計算してD3を構成する各画素のRGB値を算出
する。なお、pは0以上1以下の経験的に求められた係
数であり、ここでは0.8とした。)を形成し、合成画
像D3を背景画像記憶部305へ送信し背景画像記憶部
305に記憶させる。また、画像受付部303が、キー
ボード119から「000」又は「999」が入力され
ていると判断しない場合には、受け付けた画像データは
全て現画像記憶部307へ送信する。なお、画像受付部
303は、キーボード119から特別な信号(具体的に
は、ここでは「000」又は「999」)が入力される
と該特別な信号が入力されたことを記憶しており、その
後、該特別な信号に対する上記したような動作を完了す
ると該特別な信号が入力された記憶を失うようになって
いる。なお、このように特別な信号(具体的には、ここ
では「000」又は「999」)が入力された後に、画
像受付部303から背景画像記憶部305へ送信され背
景画像記憶部305に記憶された画像データは、後述す
るように、画像データ中に動体が存しない画像データ
(即ち、背景画像)として用いられる。
【0018】画像受付部303から画像データを受け取
った背景画像記憶部305及び現画像記憶部307は、
それぞれ受け取った画像データを記憶する。なお、背景
画像記憶部305は、画像受付部303から画像データ
を受け取ると該受け取った画像データをそれまで記憶し
ていた画像データの上に上書きして記憶する。現画像記
憶部307も画像受付部303から画像データを受け取
ると該受け取った画像データをそれまで記憶していた画
像データの上に上書きして記憶する。現画像記憶部30
7は、画像受付部303から画像データを受け取ると、
該受け取った画像データを記憶すると共に、差分処理部
309へと送信する。なお、一例として、図5に背景画
像記憶部305に記憶された画像データと、図6に現画
像記憶部307に記憶されると共に差分処理部309へ
送信された画像データとを、模式的に示す。図5及び図
6のいずれも長方形のフレームFの中に円形の円形画像
Aが示されている。なお、長方形のフレームFに含まれ
る部分で円形画像Aを除いた部分Bは映像を含まない
(通常、黒色)。また、図5及び図6の円形画像Aは事
務所内を撮影したものであり、ロッカーC、観葉植物
D、デスクEが映し出されており、さらに図6の円形画
像Aにはこれらに加えて人物P1、P2が映し出されて
いる。
【0019】現画像記憶部307から画像データを受け
取った差分処理部309は、背景画像記憶部305にア
クセスし背景画像記憶部305が記憶している背景画像
を読み出す。そして差分処理部309は、現画像記憶部
307から受け取った画像データから、背景画像記憶部
305から読み出した背景画像データの差分をとる(こ
の両画像データの差分によって生じる画像データを「差
分画像データ」という。)。即ち、上述した図5及び図
6を用いて具体的に説明すれば、差分処理部309は、
図6に示した画像データ(現画像記憶部307から受け
取った画像データ)から図5に示した画像データ(背景
画像記憶部305から読み出した背景画像データ)の差
分を計算し、図7に示すような差分画像データを生成す
る。図7に示したように、図6に示した画像データから
図5に示した画像データの差分をとるので両画像データ
に共通して存する映像(ここではロッカーC、観葉植物
D及びデスクEの映像)は消滅し、図6にのみ存する人
物P1、P2の映像のみが残留している。かかる差分処
理によって生成した図7に示す差分画像データは、差分
処理部309から差分画像記憶部311へ送信され、差
分画像記憶部311において記憶されると共に差分画像
記憶部311から後述する動的検知感度計算部313と
二値化処理部403へ並列的に出力される。
【0020】差分画像記憶部311から差分画像データ
を受信した動的検知感度計算部313は、該受信した差
分画像データのうち長方形のフレームFに含まれる部分
で円形画像Aを除いた部分Bの輝度を用いて動的検知感
度を計算する。ここに動的検知感度とは、本システムの
輝度に関するゆらぎ(変化)を補正するためのものであ
り次のような考えかたによって与えられる。即ち、本シ
ステム自体が時間経過と伴に変化する輝度に関するゆら
ぎ(変化)を有さない場合には、現画像記憶部307か
ら受け取った画像データと背景画像記憶部305から読
み出した背景画像データとは同じ輝度であるはずであ
る。しかしながら、実際には、本システム自体が時間経
過と伴に変化する輝度に関するゆらぎ(変化)を有する
ためこれを補正する必要が生じる。ここにかかるゆらぎ
(変化)がなければ現画像記憶部307から受け取った
画像データの部分Bと背景画像記憶部305から読み出
した背景画像データの部分Bとは本来同じ輝度であるは
ずであるが、ゆらぎ(変化)によって両画像データの部
分Bの輝度は異なることがある。従って、両画像データ
の部分Bの輝度を等しくするように補正してやれば、両
画像データの円形画像Aの輝度も等しく補正できるとの
考えによる。具体的には、動的検知感度計算部313
は、差分画像記憶部311から受信した差分画像データ
(具体的には、図7に示す差分画像データ)の長方形の
フレームFに含まれる部分で円形画像Aを除いた部分B
の輝度K(なお、部分Bの輝度Kは、部分Bの平均輝度
であり、具体的には、部分Bの所定の数点における輝度
の算術平均をとるようになっている。)を計算する。そ
の後、動的検知感度計算部313は、条件記憶部205
にアクセスし、条件記憶部205が記憶している検知感
度しきい値Tbを読み出す。そして、動的検知感度計算
部313は、該計算された部分Bの輝度Kと該読み出さ
れた検知感度しきい値Tbとを加えたものを動的検知感
度しきい値Ttとして算出する。最後に、動的検知感度
計算部313は、該算出された動的検知感度しきい値T
tを動的検知感度記憶部409に送信し、動的検知感度
記憶部409は受信した動的検知感度しきい値Ttを記
憶すると共に受信した動的検知感度しきい値Ttを二値
化処理部403へ送信する。なお、動的検知感度記憶部
409は、動的検知感度計算部313から動的検知感度
しきい値Ttを受信すると、既に動的検知感度しきい値
Ttを記憶している場合には該記憶されている動的検知
感度しきい値Ttの上に該受信した動的検知感度しきい
値Ttを上書きするようにして記憶する。
【0021】図8は、移動体分析部401の詳細図であ
る。図8を参照して、移動体分析部401を詳細に説明
する。移動体分析部401は、二値化処理部403と二
値化画像記憶部405と膨張・収縮処理部407と動的
検知感度記憶部409とノイズ除去処理部411とラベ
リング部413とラベリング記憶部415と特徴量計算
部417と特徴量記憶部419とを有してなる。
【0022】二値化処理部403は、差分画像記憶部3
11から差分画像データ(具体的には、図7に示す差分
画像データ)と動的検知感度記憶部409から動的検知
感度しきい値Ttとの両者を受信すると、差分画像記憶
部311から受信した差分画像データ(具体的には、図
7に示す差分画像データ)中の全画素について画素値中
の輝度が動的検知感度しきい値Tt以上か否か判断し、
輝度が動的検知感度しきい値Tt以上の画素については
該画素の輝度を255(最大値)とし、輝度が動的検知
感度しきい値Tt未満の画素については該画素の輝度を
0(最小値)とする(かかる操作を「二値化処理」とい
う。)。二値化処理部403は、差分画像データ(具体
的には、図7に示す差分画像データ)中の全画素につい
てかかる二値化処理を完了すると、二値化処理された画
像データを二値化画像記憶部405へ送信し二値化画像
記憶部405に記憶させる。図7に示す差分画像データ
を受信した二値化処理部403が、図7に示す差分画像
データに含まれる人物P1、P2に含まれる全画素につ
いて画素値中の輝度が動的検知感度しきい値Tt以上と
判断した場合の二値化画像記憶部405が記憶するデー
タを図9に模式的に示した。
【0023】二値化処理部403からデータを受け取っ
た二値化画像記憶部405は、前述した通りそれを記憶
するとともに、それを膨張・収縮処理部407へ送信す
る。膨張・収縮処理部407は、二値化画像記憶部40
5からデータを受け取ると、該データについて次の膨張
処理を施す。即ち、ここで膨張処理とは、二値化画像記
憶部405から受け取ったデータに含まれる各画素につ
いて該画素の隣接範囲内(例えば、該画素から数えて所
定個数(例えば、1又は2)内)の画素の少なくとも一
に輝度255を有する場合には該画素の輝度を255
(最大値)としそうでなければ該画素の輝度を0(最小
値)とする処理を二値化画像記憶部405から受け取っ
たデータに含まれる全画素について行うことをいう。図
10に、図9のデータを受け取った膨張・収縮処理部4
07が膨張処理を行った後のデータを模式的に示す。な
お、図10中には理解を容易にするために、膨張・収縮
処理部407が二値化画像記憶部405から受け取った
データ(即ち、図9に示したもの)を点線P1A、P2
Aによって示し、膨張・収縮処理部407が膨張処理を
行った後のデータを実線P1B、P2Bによって示し
た。膨張・収縮処理部407は、上記した膨張処理が完
了すると、該膨張処理がされたデータに次の収縮処理を
施す。即ち、ここで収縮処理とは、膨張処理を施したデ
ータに含まれる各画素について該画素の隣接範囲内(例
えば、該画素から数えて所定個数(例えば、1又は2)
内)の画素の少なくとも一に輝度0を有する場合には該
画素の輝度を0(最小値)としそうでなければ該画素の
輝度を255(最大値)とするする処理を、膨張処理を
施したデータに含まれる全画素について行うことをい
う。図11に、膨張・収縮処理部407が、膨張処理が
されたデータに次の収縮処理を行った後のデータを模式
的に示す。なお、図11中には理解を容易にするため
に、膨張処理がされたデータ(即ち、図10に示したも
の)を点線P1B、P2Bによって示し、膨張・収縮処
理部407が収縮処理を行った後のデータを実線P1
C、P2Cによって示した。かかる膨張処理と収縮処理
とを行うことで、膨張・収縮処理部407が二値化画像
記憶部405から受け取ったデータ中に本来分割される
べきものではないものが分割されている場合、まず膨張
処理によって該分割されたものが連結され、さらに収縮
処理をされることで不要部分を削除することができる。
このように膨張・収縮処理部407によって膨張処理及
び収縮処理を施されたデータは、膨張・収縮処理部40
7によって二値化画像記憶部405へ送信され、それを
受信した二値化画像記憶部405は該受信したデータに
対応する記憶を該受信したデータによって書き換え記憶
する。
【0024】上述したように、膨張・収縮処理部407
によって記憶が書き換えられた二値化画像記憶部405
は、膨張・収縮処理部407から受信し書き換えたデー
タ(即ち、膨張処理及び収縮処理が完了したデータ)を
ラベリング部413へ送信する。該データを受信したラ
ベリング部413は、該データ中に含まれるひとかたま
りの画像部分ごとにラベルを付す。このラベルは、ひと
かたまりの画像部分に標識付けを行うものであり、ここ
では具体的には、ひとかたまりの画像部分ごとに所定の
規則に従って連番の数字を付すものである。図12は、
図11に示した膨張処理及び収縮処理が完了したデータ
にラベリング部413がどのようにラベルを付すかを概
念的に説明した図である。ここではラベリング部413
は、画面F中の最も左方向(図12中、矢印L方向)に
位置するひとかたまりの画像部分にラベル「1」を付
し、それから右方向(図12中、矢印R方向)に位置す
るものほど大きな番号になるように連番の数字たるラベ
ルを付していく。なお、ひとかたまりの画像部分に含ま
れる画素のうち最も左方向に位置する画素(図12中で
ラベル「1」が付されたものであれば画素X1であり、
ラベル「2」が付されたものであれば画素X2であ
る。)の左右によってラベルの数字の大小を決するよう
になっている。ここでは画素X1の方が画素X2よりも
左方向に存するので画素X1を含むひとかたまりの画像
部分にラベル「1」が付され、画素X2を含むひとかた
まりの画像部分にラベル「2」が付されている。また、
ひとかたまりの画像部分に含まれる画素のうち最も左方
向に位置する画素が左右方向に関して同位置である際に
は、ひとかたまりの画像部分に含まれる画素のうち最も
右方向に位置する画素がより左方向に位置するものほど
小さな番号になるようにラベルの数字の大小を決する。
このようにしてラベリング部413によってひとかたま
りの画像部分ごとにラベル「1」「2」「3」・・・・
が付されたデータは、ラベリング部413からラベリン
グ記憶部415へ送信され、ラベリング記憶部415に
おいて記憶される(即ち、概念的には、図12に示すよ
うな情報がラベリング記憶部415に記憶される。)。
なお、ラベリング部413が、二値化画像記憶部405
から受信した前記データ中にひとかたまりの画像部分が
存しないと判断した場合には、後述する特徴量データが
ないことを示す信号を特徴量記憶部419へ発信し、該
信号をラベリング部413から受信した特徴量記憶部4
19は、自らが記憶している特徴量を削除する。
【0025】ラベリング部413からデータを受信した
ラベリング記憶部415は、上述したようにそれを自ら
記憶すると共に、自らが記憶したデータを特徴量計算部
417へ送信する。ラベリング記憶部415からデータ
を受け取った特徴量計算部417は、次のような特徴量
を各ラベル(ラベリング部413においてひとかたまり
の画像部分ごとに付されたラベル「1」「2」「3」・
・・)ごとに計算する。ここにいう特徴量とは、特徴量
を計算するラベルによって特定されるひとかたまりの画
像部分の面積(具体的には、該ひとかたまりの画像部分
に含まれる画素数)、該ひとかたまりの画像部分の重心
位置(具体的には、該ひとかたまりの画像部分に含まれ
る全画素の位置の数平均たる平均位置)、該ひとかたま
りの画像部分に外接する外接長方形の始点座標・長辺
(長辺を示す方程式)・短辺(短辺を示す方程式)、該
ひとかたまりの画像部分に含まれる画素のうち該重心位
置から距離が小さいものから順番に10個の画素を選択
し該選択された10個の画素のRGB値の平均値をい
う。
【0026】前記した特徴量のうち、前記外接長方形の
始点座標・長辺(長辺を示す方程式)・短辺(短辺を示
す方程式)について簡単に説明しておく。図13は、外
接長方形の始点座標・長辺(長辺を示す方程式)・短辺
(短辺を示す方程式)について説明するための図であ
る。図13では、説明を簡単にするために長方形のフレ
ームFにひとかたまりの画像部分901が1個のみ存す
る場合(勿論、該1個のひとかたまりの画像部分にはラ
ベル「1」が付されている。また、ひとかたまりの画像
部分901を認識しやすくするために画像部分901に
は斜線を付している。)を図示している。まず、フレー
ムFに所定の方向に沿ってxy直交座標を定め(ここで
はフレームFが形成する長方形の長辺と平行になるよう
にx軸をとり、該長方形の短辺と平行になるようにy軸
をとり、そして原点(x,y)=(0,0)が該長方形
の対角線の交点に存するようにされる。)、次いで、ひ
とかたまりの画像部分901の重心位置903を求め
る。そして、原点(x,y)=(0,0)と重心位置9
03とを通過する直線Gを引く。次いで、直線Gに平行
な一対の直線であってひとかたまりの画像部分901に
属する画素の全てが該一対の直線の間に存するか又は該
一対の直線に属するような該一対の直線のうち該一対の
直線の間の距離が最少となる該一対の直線g1、g2を
引く。さらに、直線Gに垂直な一対の直線であってひと
かたまりの画像部分901に属する画素の全てが該一対
の直線の間に存するか又は該一対の直線に属するような
該一対の直線のうち該一対の直線の間の距離が最少とな
る該一対の直線g3、g4を引く。これらの直線g1、
g2、g3、g4によって囲まれて形成される長方形
が、ここにいう前記外接長方形である。また、直線g
3、g4のうち原点(x,y)=(0,0)に近い方の
直線g3と直線g1、g2との交点h1、h3のうちそ
れらと原点(x,y)=(0,0)とを結んだ線分とが
形成する回転角θ(図13中に示すようにx軸(x>
0)と該線分とが原点(x,y)=(0,0)において
形成する角度であって、x軸(x>0)から反時計回り
に該角度を測定したものをいう。)が大きい交点h1
(即ち、図13から明らかなようにθ1>θ3)が、こ
こにいう前記外接長方形の始点であり、この交点h1の
座標が始点座標である。加えて、直線g1、g2、g
3、g4によって囲まれて形成される長方形が有する4
辺のうち直線g1及び直線g2の一部となる2辺を長辺
といい、該4辺のうち直線g3及び直線g4の一部とな
る2辺を短辺という。前記した特徴量を構成する長辺
(長辺を示す方程式)及び短辺(短辺を示す方程式)
は、具体的にはこれら長辺及び短辺となる線分を示す式
を含む。
【0027】以上のようにして特徴量計算部417が計
算して求めた特徴量の一例を表1に示す。 (表1) 特徴量の一例 ラベル 1 2 3 面積 110 48 128 重心位置 (-7,94) (-85,57) (51,63) 外接長方形 始点座標 (-10,100) (-83,48) (45,60) 長辺方程式 y=-13.43x-44 y=-0.67x-8 y=1.24x+5 y=-13.43x+50 y=-0.67x+4 y=1.24x-9 短辺方程式 y=0.074x+100 y=1.49x+172 y=-0.81x+96 y=0.074x+108 y=1.49x+180 y=-0.81x+116 RGB値の平均値 R:124 R: 52 R: 12 G: 81 G: 93 G: 30 B:226 B:188 B:209
【0028】このようにして特徴量計算部417が計算
して求めた特徴量は、特徴量計算部417から特徴量記
憶部419へ送信される。特徴量計算部417から特徴
量を受信した特徴量記憶部419は、該受信した特徴量
を自ら記憶すると共に(なお、特徴量記憶部419は、
特徴量計算部417から特徴量記憶部419へ送信され
た特徴量のうち、外接長方形に関するデータ(具体的に
は、始点座標、長辺方程式、短辺方程式)を除いたもの
を記憶する。後述の表2及び(表3−1)を参照された
い。)、特徴量を受信し記憶した旨をノイズ除去処理部
411へ通報する。また、ラベリング部413から前記
特徴量データがないことを示す信号を受信した特徴量記
憶部419は、自らが記憶している特徴量を削除すると
共に、削除処理を行ったことを示す信号をノイズ除去処
理部411へ通報する。特徴量記憶部419からの通報
(特徴量を受信し記憶した旨の通報か、削除処理を行っ
たことを示す通報か、のいずれか)を受けたノイズ除去
処理部411は、条件記憶部205へアクセスし条件記
憶部205が記憶している検出精度を読み出す。そし
て、ノイズ除去処理部411は、特徴量記憶部419へ
アクセスし特徴量記憶部419が記憶している特徴量た
る各ラベルの面積が該条件記憶部205から読み出した
検出精度よりも小さいか否か判断し、該面積が検出精度
よりも小さいラベル(番号)を取得する。例えば、条件
記憶部205から読み出した検出精度が50であり、表
1に示した特徴量が特徴量記憶部419に記憶されてい
るとすると、ラベル「1」の面積は110(50よりも
小さくない)であり、ラベル「2」の面積は48(50
よりも小さい)であり、ラベル「3」の面積は128
(50よりも小さくない)であるので、ノイズ除去処理
部411はラベル「2」を取得する。なお、ノイズ除去
処理部411が、該面積が検出精度よりも小さいラベル
(番号)が特徴量記憶部419に全く記憶されていない
と判断すると、ノイズ除去処理部411は、後述する動
体対応付け部603に開始信号を発する。その後、ノイ
ズ除去処理部411は、二値化画像記憶部405とラベ
リング記憶部415と特徴量記憶部419とにアクセス
し、面積が検出精度よりも小さいと判断して取得したラ
ベル(上記した例ではラベル「2」)に該当する各記憶
を削除する(即ち、二値化画像記憶部405に記憶され
たものと、ラベリング記憶部415に記憶されたもの
と、特徴量記憶部419に記憶されたものとの3種の記
憶のうち、該取得したラベルに該当するもののみを削除
する。)。
【0029】かかる削除が行われた後、二値化画像記憶
部405は自らの記憶内容(削除されなかった部分の記
憶)をラベリング部413へ送信する。ラベリング部4
13では、上述したと同様、受信したデータ中に含まれ
るひとかたまりの画像部分ごとにラベルを付し、該ラベ
ルを付されたデータはラベリング記憶部415へ送信さ
れる。そして、ラベリング記憶部415へ送信されたデ
ータは、ラベリング記憶部415においてラベリング記
憶部415が記憶しているデータに上書きされて記憶さ
れる。次いで、ラベリング記憶部415は、上書きによ
って記憶したデータを特徴量計算部417へ送信する。
そして、ラベリング記憶部415からデータを受け取っ
た特徴量計算部417は、上記したような特徴量を各ラ
ベルごとに計算する。さらに、特徴量計算部417が計
算して求めた特徴量は、特徴量計算部417から特徴量
記憶部419へ送信され、特徴量記憶部419において
特徴量記憶部419が記憶している特徴量に上書きされ
て記憶される(なお、特徴量記憶部419は、特徴量計
算部417から特徴量記憶部419へ送信された特徴量
のうち、外接長方形に関するデータ(具体的には、始点
座標、長辺方程式、短辺方程式)を除いたものを記憶す
る。後述の表2及び(表3−1)を参照されたい。)。
【0030】このようにしてノイズ除去処理部411に
よって、面積が検出精度よりも小さいと判断されたラベ
ルに該当するデータ(上記した例ではラベル「2」)が
削除され、最終的に特徴量記憶部419に記憶された特
徴量の一例を表2に示す。 (表2) 削除後の特徴量の一例 ラベル 1 3 面積 110 128 重心位置 (-7,94) (51,63) RGB値の平均値 R:124 R: 12 G: 81 G: 30 B:226 B:209 そして、前述したと同様、特徴量記憶部419は、特徴
量を受信し記憶した旨をノイズ除去処理部411へ通報
する。そして、ノイズ除去処理部411が、特徴量記憶
部419へアクセスし特徴量記憶部419が記憶してい
る特徴量たる各ラベルの面積が条件記憶部205から読
み出した検出精度よりも小さいか否か判断するが、今回
は、該面積が検出精度よりも小さいラベル(番号)は存
しないのでノイズ除去処理部411は動体対応付け部6
03に開始信号を発する。
【0031】図14は、追跡部601の詳細図である。
図14を参照して、追跡部601を詳細に説明する。追
跡部601は、動体対応付け部603と動体履歴記憶部
605と履歴削除部607と出力部609と情報量記憶
部611とを有してなる。まず、前述したように、ノイ
ズ除去処理部411が、特徴量記憶部419に記憶され
た特徴量の中に面積が検出精度よりも小さいラベル(番
号)が全く存しないと判断した際、ノイズ除去処理部4
11から動体対応付け部603に発せられた前記開始信
号を受信した動体対応付け部603は次のような動作を
行う。即ち、動体対応付け部603は、特徴量記憶部4
19にアクセスして特徴量記憶部419に記憶されてい
る特徴量を読み出し取得する。次いで、動体対応付け部
603は、後述する動体履歴記憶部605にアクセスし
て動体履歴記憶部605が既に履歴情報(後述する「前
コマ」の特徴量)を記憶しているか否か判断し、動体履
歴記憶部605が既に履歴情報を記憶していない場合に
は特徴量記憶部419から読み出し取得した特徴量を動
体履歴記憶部605に送信し、それを動体履歴記憶部6
05に記憶するように命令し(動体履歴記憶部605は
これを記憶する。)、動体履歴記憶部605が既に履歴
情報を記憶している場合には特徴量記憶部419から読
み出し取得した特徴量を動体履歴記憶部605に送信し
ない(動体履歴記憶部605は既に記憶していた情報を
そのまま記憶する。)。
【0032】次いで、動体対応付け部603は、特徴量
記憶部419に記憶された特徴量と、動体履歴記憶部6
05に記憶された履歴情報(後述するように、この中に
は、通常、特徴量記憶部419に記憶されたコマ(以
下、「現在コマ」という。)よりも1コマ前(以下、
「前コマ」という。)の特徴量と、前コマの1コマ前の
コマ(以下、「前々コマ」という。)の特徴量と、が記
憶されている。)と、を用いて、次に示す式によって計
算される類似度を計算する。
【0033】 (類似度)=1/((1−A1/A0)+(1−B1/B0)+C)(式1 )
【0034】ただし、式1中、A1及びA0は重心が移
動した方向を示す角度である。具体的には、A1は前コ
マから現在コマに移る際の重心移動方向を示すものであ
り、A0は前々コマから前コマに移る際の重心移動方向
を示すものである。ここでA1及びA0の表し方は、こ
れら重心位置の移動を図13に示したようなxy直交座
標上におけるベクトルとして示し、該ベクトルの起点が
原点(x,y)=(0,0)になるように該ベクトルを
平行移動させ、そのとき該平行移動されたベクトルがx
軸(x>0)との間に形成する回転角θ(x軸(x>
0)と該平行移動されたベクトルとが原点(x,y)=
(0,0)において形成する角度であって、x軸(x>
0)から反時計回りに該角度を測定したものをいう。)
によって示す。なお、これらA1を決定するための前コ
マにおける重心位置(ベクトルの起点)と現在コマにお
ける重心位置(ベクトルの終点)と、A0を決定するた
めの前々コマにおける重心位置(ベクトルの起点)と前
コマにおける重心位置(ベクトルの終点)と、の3の重
心位置データ(前コマは重複している。)のうち現在コ
マにおける重心位置のみは動体対応付け部603が特徴
量記憶部419にアクセスして読み出すことによって取
得するが、他の2の重心位置データは動体対応付け部6
03が動体履歴記憶部605にアクセスして読み出すこ
とによって取得する(なお、動体履歴記憶部605は、
前コマと前々コマとの2コマ分の特徴量を記憶するよう
になっている。)。
【0035】そして、式1中、B1及びB0は重心が移
動した距離を示している。具体的には、B1は前コマか
ら現在コマに移る際の重心移動距離を示すものであり、
B0は前々コマから前コマに移る際の重心移動距離を示
すものである。ここでB1及びB0の表し方は、これら
重心位置の移動を図13に示したようなxy直交座標上
に示し、B1は前コマから現在コマに移る際の重心移動
距離を該xy直交座標上での距離として示し、B0は前
々コマから前コマに移る際の重心移動距離を該xy直交
座標上での距離として示したものである。なお、これら
B1及びB0を決定するための前コマ、現在コマ及び前
々コマにおける3の重心位置データは、上記したA1及
びA0と同様に動体対応付け部603が取得する。
【0036】さらに、式1中、Cは、前コマにおけるR
GB値の平均値と現在コマにおけるRGB値の平均値と
の変化度合いを示す指数(RGB変化指数)であり、次
の式2によって計算される。 C=((r1−r0)+(g1−g0)+(b1−b0)0.5 ( 式2) ただし、式2中、r1、g1、b1それぞれは現在コマ
におけるRGB値の平均値(R値、G値、B値)であ
り、r0、g0、b0それぞれは前コマにおけるRGB
値の平均値(R値、G値、B値)である。なお、現在コ
マにおけるRGB値の平均値は動体対応付け部603が
特徴量記憶部419にアクセスして読み出すことによっ
て取得し、前コマにおけるRGB値の平均値は動体対応
付け部603が動体履歴記憶部605にアクセスして読
み出すことによって取得する。
【0037】このような類似度を動体対応付け部603
は次のような組み合わせについて計算する。即ち、動体
対応付け部603は、動体対応付け部603にアクセス
して前コマにおける各ラベルを行にとり、特徴量記憶部
419にアクセスして現在コマにおける各ラベルを列に
とり、これら行と列によって形成される表(以下、「対
応表」という。)を作成する。この対応表の一例を表3
に示す。
【0038】 (表3) 対応表の一例 (前コマのラベル→) 1 4 5 9 10 (現在コマのラベル↓) 2 0.000 0.050 0.004 0.000 0.003 3 0.053 0.001 0.005 0.002 0.005 8 0.000 0.001 0.004 0.097 0.004 12 0.000 0.002 0.005 0.000 0.004
【0039】表3に示すような対応表を作成するのに必
要な類似度の具体的な計算の一例を簡単に説明してお
く。まず、特徴量記憶部419に記憶されている特徴量
(現在コマのもの)の一例を表3−1に示す。 (表3−1)特徴量記憶部419に記憶されている特徴量 ラベル 2 3 8 12 面積 150 605 201 250 重心位置 (84.6,28.0)(-32.4,-23.0)(-80.1,31.9)(90.0,90.0) RGB値の平均値 R:184 152 167 0 G:191 148 165 0 B:198 136 165 150
【0040】次いで、動体履歴記憶部605に記憶され
ている履歴情報(前コマ及び前々コマのもの)の一例を
表3−2に示す。 (表3−2)動体履歴記憶部605に記憶されている履歴情報 (a)前コマのもの ラベル 1 4 5 面積 608 169 315 重心位置 (-32.4,-23.2) (82.6,31.7) (40.0,40.0) RGB値の平均値 R:160 172 0 G:161 181 150 B:146 186 0 ラベル 9 10 面積 209 200 重心位置 (-79.1,36.8) (10.0,-10.0) RGB値の平均値 R:157 150 G:162 0 B:165 0 (b)前々コマのもの ラベル 1 4 9 10 面積 618 186 160 200 重心位置 (-31.5,-21.9) (81.1,35.5) (-79.0,39.9) (10.0,-10.0) RGB値の平均値 R:153 159 152 150 G:153 170 152 0 B:142 175 156 0
【0041】表3の対応表の中で前コマのラベル「1」
と現在コマのラベル「2」とに関する類似度の計算につ
いて例示する。まず、上記した式1中、A1は前コマか
ら現在コマに移る際の重心移動方向を示すものであるの
で、前コマのラベル「1」の重心位置 (-32.4,-23.2)か
ら現在コマのラベル「2」の重心位置(84.6,28.0)へ
向かうxy直交座標上のベクトルを考え、該ベクトルの
起点を原点(x,y)=(0,0)になるように該ベク
トルを平行移動させ、そのとき該平行移動されたベクト
ルがx軸(x>0)との間に形成する回転角θ(x軸
(x>0)と該平行移動されたベクトルとが原点(x,
y)=(0,0)において形成する角度であって、x軸
(x>0)から反時計回りに該角度を測定したものをい
う。)を求めるとここでは具体的にはθ=0.4119
ラジアン(A1)である。同様に、A0は前々コマから
前コマに移る際の重心移動方向を示すものであるので、
前コマのラベル「1」の前々コマの重心位置(-31.5,-
21.9)から前コマのラベル「1」の前コマの重心位置(-
32.4,-23.2)へ向かうxy直交座標上のベクトルを考
え、回転角θを求めるとここでは具体的にはθ=0.9
616ラジアン(A0)である。なお、A0を求める際
に前々コマの重心位置のデータが存しない場合には、前
々コマの重心位置を原点(x,y)=(0,0)として
計算する。次いで、上記した式1中、B1は前コマから
現在コマに移る際の重心移動距離を示すものであるの
で、前コマのラベル「1」の重心位置(-32.4,-23.2)か
ら現在コマのラベル「2」の重心位置(84.6,28.0)へ
向かうxy直交座標上の距離を求めるとここでは具体的
には127.64(B1)である。同様に、B0は前々
コマから前コマに移る際の重心移動距離を示すものであ
るので前コマのラベル「1」の前々コマの重心位置(-3
1.5,-21.9)から前コマのラベル「1」の前コマの重心
位置(-32.4,-23.2)へ向かうxy直交座標上の距離を求
めるとここでは具体的には1.481(B0)である。
なお、B0を求める際に前々コマの重心位置のデータが
存しない場合にはB0=20とする(ここでB0=20
の「20」は、ここでの1コマの時間経過の間に人間
(ここで対象とする動体)が移動する画像上の平均的な
移動距離である。)。さらに、上記した式1中、Cは、
上記した式2によって計算され、r1、g1、b1それ
ぞれは現在コマにおけるRGB値の平均値(184、191、
198)であり、r0、g0、b0それぞれは前コマにお
けるRGB値の平均値(160、161、146)である。従っ
て、これらの数値を式2に代入して計算すると、C=6
5.18となる。最後に、以上の数値及び上記した式1
を用いて類似度を計算すると、(類似度)=1/((1
−A1/A0)+(1−B1/B0)+C)=1/
((1−0.4119/0.9616)+(1−12
7.64/1.481)+65.18)=0.000
1となる(小数点第4位を四捨五入して、表3にて前述
したように「0.000」となる。)。なお、後述する
ように、動体履歴記憶部605には、同じ動体として関
係付けられた前コマのラベルと前々コマのラベルとは同
じラベルが付されているので、その関係を用いてA0及
びB0を上記のように計算することができる。以下、同
様にして他のラベルの組み合わせについても類似度を計
算し、最終的に表3に示す現在コマ「2」「3」「8」
「12」の4つの場合それぞれについて前コマ「1」
「4」「5」「9」「10」の5つの場合が計算され、
合計20の類似度が計算される。
【0042】このように計算された類似度によって満た
された表3に示すような対応表を動体対応付け部603
が完成すると、次いで、動体対応付け部603は、この
対応表に存する前コマのラベル(表3では具体的には
「1」「4」「5」「9」「10」の5種類)それぞれ
について現在コマのラベル(表3では具体的には「2」
「3」「8」「12」の4種類)それぞれに対して計算
された類似度のうち、所定値(具体的には、ここでは
0.04)を超えるものであって最大のものを選択しこ
の選択されたものを与える現在コマのラベルと前コマの
ラベルとを関係付ける(なお、現在コマのラベルそれぞ
れに対して計算された類似度のうち、所定値を超えるも
のがない場合には選択せず、現在コマのラベルと前コマ
のラベルとの関係付けは行わない。)。この具体例を示
せば、まず、動体対応付け部603は、前コマのラベル
のうち「1」について現在コマのラベル「2」「3」
「8」「12」それぞれに対して計算された類似度0.00
0、0.053、0.000、0.000の4つに注目し、所定値たる
0.04を超えるもの即ち0.053を選択し(なお、
所定値たる0.04を超えるものが複数あれば、それら
のもののうち最大のものを選択する。)、この選択され
たもの0.053を与える現在コマのラベル「3」と前
コマのラベル「1」とを関係付ける。次いで、動体対応
付け部603は、前コマのラベルのうち「4」について
現在コマのラベル「2」「3」「8」「12」それぞれ
に対して計算された類似度0.050、0.001、0.001、0.002
の4つに注目し、所定値たる0.04を超えるもの即ち
0.050を選択し(なお、所定値たる0.04を超え
るものが複数あれば、それらのもののうち最大のものを
選択する。)、この選択されたもの0.050を与える
現在コマのラベル「2」と前コマのラベル「4」とを関
係付ける。そして、動体対応付け部603は、前コマの
ラベルのうち「5」について現在コマのラベル「2」
「3」「8」「12」それぞれに対して計算された類似
度0.004、0.005、0.004、0.005の4つに注目し、所定値
たる0.04を超えるものを探すがここでは存しないの
で、現在コマのラベルと前コマのラベル「5」とを関係
付けない。以下同様にして、動体対応付け部603は、
前コマのラベルのうち「9」「10」についても現在コ
マのラベル「2」「3」「8」「12」それぞれに対し
て計算された類似度に注目し、現在コマのラベルと前コ
マのラベルとの関係付けを試みる(なお、ここでは現在
コマのラベル「8」と前コマのラベル「9」との関係付
けに成功しているが、前コマのラベル「10」は現在コ
マのラベルのいずれとも関係付けができていない。)。
【0043】以上のように、現在コマのラベルと前コマ
のラベルとの関係付けを試みた動体対応付け部603
は、現在コマのラベルと前コマのラベルとの関係付けが
できた該現在コマのラベル(上記した例では、表3の
「2」「3」「8」)に該当する特徴量データを特徴量
記憶部419にアクセスして読み出し取得し、該現在コ
マのラベルとそれに関係付けられた前コマのラベルとの
関係を付記して該読み出し取得した特徴量データを動体
履歴記憶部605へ送信する。動体履歴記憶部605
は、動体対応付け部603からかかる特徴量データを受
信すると、まず、前コマの特徴量として記憶しているデ
ータを前々コマの特徴量データに上書きして記憶させる
(即ち、ここで前コマの特徴量が前々コマの特徴量とし
て記憶され、該特徴量データを受信する前に前々コマの
特徴量として記憶されていたデータは消去される。な
お、この段階では、該特徴量データを受信する前に前コ
マの特徴量として記憶されていたデータはまだ前コマの
特徴量として記憶された状態である。)。表3−2に示
した情報を記憶していた動体履歴記憶部605が、動体
対応付け部603からかかる特徴量データを受信して前
コマの特徴量として記憶しているデータを前々コマの特
徴量データに上書きして記憶した記憶内容を表4に示
す。 (表4)前コマの特徴量として記憶しているデータを前々コマの特徴量データに 上書きして記憶した記憶内容 (a)前コマのもの ラベル 1 4 5 面積 608 169 315 重心位置 (-32.4,-23.2) (82.6,31.7) (40.0,40.0) RGB値の平均値 R:160 172 0 G:161 181 150 B:146 186 0 ラベル 9 10 面積 209 200 重心位置 (-79.1,36.8) (10.0,-10.0) RGB値の平均値 R:157 150 G:162 0 B:165 0 (b)前々コマのもの ラベル 1 4 5 面積 608 169 315 重心位置 (-32.4,-23.2) (82.6,31.7) (40.0,40.0) RGB値の平均値 R:160 172 0 G:161 181 150 B:146 186 0 ラベル 9 10 面積 209 200 重心位置 (-79.1,36.8) (10.0,-10.0) RGB値の平均値 R:157 150 G:162 0 B:165 0
【0044】次いで、動体履歴記憶部605は、動体対
応付け部603から前記受信したデータに含まれる前記
現在コマのラベルとそれに関係付けられた前コマのラベ
ルとの関係を用い、動体履歴記憶部605が記憶してい
る前コマのラベルをそれと対応する現在コマのラベルに
書き換え(具体的には、前述した例を用いれば、前コマ
のラベル「1」をそれと関係付けられ対応する現在コマ
のラベル「3」に書き換える。また、動体履歴記憶部6
05は、ここで書き換えられたラベルはいずれかを記憶
している。)、動体履歴記憶部605が記憶している特
徴量を該現在コマのラベルに該当する特徴量に書き換え
る。そして、前々コマの特徴量データ(動体対応付け部
603から特徴量データを受信する前は前コマの特徴量
として記憶されていたデータ)に存するラベルをそれと
対応する現在コマのラベルに書き換える(動体履歴記憶
部605が、動体対応付け部603から前記受信したデ
ータに含まれる現在コマのラベルとそれに関係付けられ
た前コマのラベルとの関係を用いて行う。具体的には、
前述した例を用いれば、前コマのラベル「1」をそれと
関係付けられ対応する現在コマのラベル「3」に書き換
える。また、動体履歴記憶部605は、ここで書き換え
られたラベルはいずれかを記憶している。)。以上のよ
うにして、前コマのラベルと前々コマのラベルを書き換
えられた後の動体履歴記憶部605の記憶内容を表5に
示す。なお、表5中、ラベルの番号の後に( )内に示
された数字は、書き換えられる前のラベルの番号であ
り、ラベルの数字にかかる( )が付記されているか否
かで書き換えられたラベルであるかどうかを認識するこ
とができる。
【0045】 (表5)前コマのラベルと前々コマのラベルを書き換えられた後の記憶内容 (a)前コマのもの ラベル 3(1) 2(4) 5 面積 605 150 315 重心位置 (-32.4,-23.0) (84.6,28.0) (40.0,40.0) RGB値の平均値 R:152 184 0 G:148 191 150 B:136 198 0 ラベル 8(9) 10 面積 201 200 重心位置 (-80.1,31.9) (10.0,-10.0) RGB値の平均値 R:167 150 G:165 0 B:165 0 (b)前々コマのもの ラベル 3(1) 2(4) 5 面積 608 169 315 重心位置 (-32.4,-23.2)(82.6,31.7)(40.0,40.0) RGB値の平均値 R:160 172 0 G:161 181 150 B:146 186 0 ラベル 8(9) 10 面積 209 200 重心位置 (-79.1,36.8) (10.0,-10.0) RGB値の平均値 R:157 150 G:162 0 B:165 0
【0046】さらに、前述のように、現在コマのラベル
と前コマのラベルとの関係付けを試みた動体対応付け部
603は、現在コマのラベルと前コマのラベルとの関係
付けができなかった該現在コマのラベル(上記した例で
は、表3の「12」)に該当する特徴量データを特徴量
記憶部419にアクセスして読み出し取得し、該読み出
し取得した特徴量データを動体履歴記憶部605へ送信
する。そして、動体履歴記憶部605は、動体対応付け
部603からかかる特徴量データを受信すると、動体履
歴記憶部605の前コマの記憶データ(既に、動体対応
付け部603が現在コマのラベルと前コマのラベルとの
関係付けができた該現在コマのラベル(上記した例で
は、表3の「2」「3」「8」)に該当する特徴量デー
タを記憶している。)に該受信した該関係付けができな
かった該現在コマのラベル(上記した例では、表3の
「12」)に該当する特徴量データを追加して記憶す
る。従って、以上の動作により、動体対応付け部603
によって前コマのラベルと関係付けを試みられた現在コ
マのラベルすべては、現在コマのラベルと前コマのラベ
ルとの関係付けができたもの(上記した例では、表3の
「2」「3」「8」)と、現在コマのラベルと前コマの
ラベルとの関係付けができなかったもの(上記した例で
は、表3の「12」)と、のいずれに関係する特徴量も
動体履歴記憶部605において記憶される。この状態の
動体履歴記憶部605の記憶内容を表6に示す。
【0047】 (表6)関係付けができなかった現在コマのラベルに該当するデータ追加後の記 憶内容 (a)前コマのもの ラベル 3(1) 2(4) 5 8(9) 面積 605 150 315 201 重心位置 (-32.4,-23.0) (84.6,28.0) (40.0,40.0) (-80.1,31.9) RGB値の平均値 R:152 184 0 167 G:148 191 150 165 B:136 198 0 165 ラベル 10 12(−) 面積 200 250 重心位置 (10.0,-10.0) (90.0,90.0) RGB値の平均値 R:150 0 G: 0 0 B: 0 150 (b)前々コマのもの ラベル 3(1) 2(4) 5 面積 608 169 315 重心位置 (-32.4,-23.2) (82.6,31.7) (40.0,40.0) RGB値の平均値 R:160 172 0 G:161 181 150 B:146 186 0 ラベル 8(9) 10 面積 209 200 重心位置 (-79.1,36.8) (10.0,-10.0) RGB値の平均値 R:157 150 G:162 0 B:165 0
【0048】加えて、前述したように動体対応付け部6
03が現在コマのラベルと前コマのラベルとの関係付け
を試みて現在コマのラベルと前コマのラベルとの関係付
けができなかった該前コマのラベル(上記した例では、
表3の「5」と「10」)については、動体対応付け部
603は履歴削除部607に命じて動体履歴記憶部60
5が記憶している前コマの特徴量と前々コマの特徴量と
から消去する。該関係付けができなかった該前コマのラ
ベルに関するデータを消去した後の動体履歴記憶部60
5の記憶内容を表7に示す。 (表7)関係付けができなかった該前コマのラベルに関するデータを消去した後 の記憶内容 (a)前コマのもの ラベル 3(1) 2(4) 8(9) 12(−) 面積 605 150 201 250 重心位置 (-32.4,-23.0) (84.6,28.0) (-80.1,31.9) (90.0,90.0) RGB値の平均値 R:152 184 167 0 G:148 191 165 0 B:136 198 165 150 (b)前々コマのもの ラベル 3(1) 2(4) 8(9) 面積 608 169 209 重心位置 (-32.4,-23.2) (82.6,31.7) (-79.1,36.8) RGB値の平均値 R:160 172 157 G:161 181 162 B:146 186 165
【0049】そして履歴削除部607は、動体履歴記憶
部605のかかる記憶消去が完了すると、その旨を動体
対応付け部603に連絡する(動体対応付け部603は
かかる記憶消去作業が完了したことを知る。)。動体対
応付け部603は、以上の作業(類似度の計算、対応表
の作成、動体履歴記憶部605の記憶内容の書き換え
等)が完了すると、完了した旨の信号を出力部609へ
発する。
【0050】動体対応付け部603から該完了した旨の
信号を受信した出力部609は、動体履歴記憶部605
にアクセスして動体履歴記憶部605が記憶している前
コマのラベルのうち上位5個のラベルを選択し(各ラベ
ルに該当する面積が大きいものから5個選択する。な
お、動体履歴記憶部605が記憶している前コマのラベ
ルの個数が5個よりも小さいときには該記憶している前
コマのラベル全てを選択する。)、該選択された上位5
個のラベルそれぞれに該当する特徴量を読み出し取得
し、該読み出し取得された特徴量を正像変換処理部80
5へ送信する(該読み出し取得された特徴量を受信した
正像変換処理部805は、後述するように該選択された
上位5個のラベルそれぞれに該当する画像を正像化(魚
眼レンズによって画像に生じた歪みを除去する。)す
る。)。なお、ここでは動体履歴記憶部605が記憶し
ている前コマのラベルの個数が5個よりも小さいので、
表7(a)に示した全てのラベルそれぞれに該当する特
徴量を読み出し取得し、該読み出し取得された特徴量を
正像変換処理部805へ送信する。その後、出力部60
9は、動体履歴記憶部605にアクセスして動体履歴記
憶部605が記憶している前コマのラベルの個数と、前
記上位5個のラベルそれぞれの面積と、を読み出し、こ
れらを情報量記憶部611に送信し情報量記憶部611
に記憶させる。この後の出力部609等に関する動作
は、正像変換部801を説明した後に説明する。
【0051】図15は、正像変換部801の詳細図であ
る。図15を参照して、正像変換部801を詳細に説明
する。正像変換部801は、視点パラメータ等計算部8
03と正像変換処理部805と実空間位置計算部807
と正像画像記憶部809とを有してなる。出力部609
から前記読み出し取得された特徴量を受信した正像変換
処理部805は、その受信した特徴量を視点パラメータ
等計算部803へ送信する。この特徴量を正像変換処理
部805から受信した視点パラメータ等計算部803
は、まず条件記憶部205にアクセスして条件記憶部2
05が記憶しているカメラ位置(床からのカメラ高さ:
単位m)とレンズ種別(予め、種々のレンズ特性を条件
記憶部205は記憶しており、そのいずれのレンズ特性
が選択されたかが条件記憶部205に入力されるので、
選択されたレンズ特性を視点パラメータ等計算部803
は読み出し取得することができる。)とを読み出し取得
する。そして、視点パラメータ等計算部803は、正像
変換処理部805から受信した特徴量と、条件記憶部2
05から読み出し取得したカメラ位置、レンズ種別及び
検出精度と、を用いて次に示すような方位角(az)と
天頂角(ze)とによって構成される視点パラメータと
拡大率(ma)とを計算する。
【0052】図16は、方位角(az)の計算方法を説
明する図である。図16を参照して、方位角(az)の
計算方法について説明する。図16(a)(b)(c)
(d)は、いずれも図13に示したのと同様にxy直交
座標(魚眼レンズによって撮影された円形画像riが形
成する円形の中心に原点(x,y)=(0,0)を一致
させている。)をとったところを示したものである。ま
た、図16中において、「Λ」は「かつ」を意味してい
る。図16(a)(b)(c)(d)に示すように、ま
ず、視点パラメータ等計算部803は、各ラベルごと
に、正像変換処理部805から受信した特徴量に含まれ
る重心位置(x,y)から重心と原点(x,y)=
(0,0)とを結ぶ線分を考える。そして視点パラメー
タ等計算部803は、該線分とx軸(x>0)とがなす
角がx軸(x>0)から反時計回りに何度になるか算出
し、該算出された角度を方位角(az)とする。図16
(a)(b)(c)(d)には、xとyとの正、負に応
じて方位角(az)の現れ方を示した。なお、図16に
は、xとyとの正、0、負に応じて方位角(az)を算
出する式を示した。
【0053】図17は、天頂角(ze)の計算方法を説
明する図である。図17を参照して、天頂角(ze)の
計算方法について説明する。図17においては、魚眼レ
ンズによって撮像された円形画像riを含む平面に図1
3に示したのと同様にxy直交座標(円形画像riが形
成する円形の中心に原点(x,y)=(0,0)を一致
させている。)をとっている。そして、xy直交座標面
に垂直方向であって円形画像riを撮像する方向(魚眼
レンズの光軸方向)に向かって原点(x,y)=(0,
0)を通過するようにz軸をとったものである。さら
に、半球面Oは、魚眼レンズにより撮影される全周面を
仮想的に想定したものである。ここで天頂角(ze)
は、xy直交座標面に存する円形画像に存する重心位置
(x,y)が現実に存していた位置Pと原点(x,y,
z)=(0,0,0)とを結ぶ線分を考え、該線分とz
軸(z>0)とがなす角(0以上π未満)を天頂角(z
e)とする。例えば、視点パラメータ等計算部803
が、条件記憶部205から読み出し取得したレンズ種別
が、レンズ特性h=f・ze(ただし、hはxy直交座
標面に存する円形画像における像高(原点(x,y)=
(0,0)から重心位置(x,y)までの距離)、fは
焦点距離)である場合を例にとって具体的に説明すれば
次のごときである。まず、天頂角(ze)が最大である
ときはxy直交座標面の円形画像における像高hは該円
形画像の半径Rと一致する。従って、焦点距離fは、
式:f=2・R/πによって与えられる。また、像高h
は、式:h=(x+y0.5によって与えられ
る。これらの関係をレンズ特性式h=f・zeに代入し
て整理すれば、天頂角(ze)=π・(x+y
0.5/(2・R)と求められる。
【0054】そして、拡大率(ma)は、式:拡大率
(ma)=m1−(m1−m2)(ar−AA)/(b
−AA))によって計算される。ただし、AAは、視点
パラメータ等計算部803が条件記憶部205から読み
出し取得した検出精度であり、m1は面積がAAのもの
を拡大し人間が判別可能な大きさにするための最小の拡
大率であり、bは画面上で見た対象物が最も大きく表示
された際の面積であり、m2は面積bの対象物を適当な
大きさで表示するための拡大(縮小)率である。また、
arは視点パラメータ等計算部803が正像変換処理部
805から受信した特徴量に含まれる面積(ラベルご
と)である。なお、上記の式によって計算した拡大率
(ma)がm2未満となった場合には、拡大率(ma)
をm2とする。
【0055】このようにして視点パラメータ等計算部8
03が各ラベルごとに計算した方位角(az)、天頂角
(ze)及び拡大率(ma)は、視点パラメータ等計算
部803から正像変換処理部805と実空間位置計算部
807とへ並列的に送信される。表8に、視点パラメー
タ等計算部803から正像変換処理部805と実空間位
置計算部807とへ並列的に送信されるデータの一例を
示す。 (表8)視点パラメータ等計算部803から送信されるデータ例 ラベル 3(1) 2(4) 8(9) 12(−) 面積 605 150 201 250 重心位置 (-32.4,-23.0) (84.6,28.0) (-80.1,31.9) (90.0,90.0) RGB値の平均値 R:152 184 167 0 G:148 191 165 0 B:136 198 165 150 方位角(az) 215度 18度 159度 45度 天頂角(ze) 29度 66度 64度 95度 拡大率(ma) 0.58 1.09 1.03 0.98
【0056】視点パラメータ等計算部803から各ラベ
ルごとの方位角(az)、天頂角(ze)及び拡大率
(ma)を受信した正像変換処理部805は、現画像記
憶部307にアクセスし現画像記憶部307が記憶して
いる画像データを読み出して取得する。そして、正像変
換処理部805は、該読み出し取得した画像データか
ら、既に出力部609から通知されている前記選択され
た上位5個のラベルそれぞれに該当する画像を切り出し
正像化(魚眼レンズによって画像に生じた歪みを除去す
る。)する。なお、正像変換処理部805が現画像記憶
部307から該読み出し取得した画像データから前記選
択された上位5個のラベルそれぞれに該当する画像を切
り出す方法は、視点パラメータ等計算部803から正像
変換処理部805が受信した各ラベルごとの方位角(a
z)、天頂角(ze)及び拡大率(ma)に従って切り
出す。即ち、方位角(az)及び天頂角(ze)から画
像を切り出す中心位置が確定され、加えて、拡大率(m
a)によって切り出す大きさが確定されるため、正像変
換処理部805は、現画像記憶部307から該読み出し
取得した画像データから前記選択された上位5個のラベ
ルそれぞれに該当する画像を切り出すことができる。こ
こに、魚眼レンズのように規則的な歪みが画像に生じる
レンズを用いて撮像された歪みを含む画像から、該規則
的な歪みを座標変換によって除去する技術は公知であ
り、ここでは詳しい説明は省略するが、一例を挙げると
すると、昭和62年特許出願公告第16073号を例示
することができる。さらに、かかる正像化処理がなされ
た正像データ(歪みが除去されたもの)において前記歪
みを含む画像からのデータが存しない画素については、
正像変換処理部805が補間処理(共一次補間処理)を
行う。具体的には、前記歪みを含む画像からのデータが
存しない画素のRGB値については、その周囲に存する
画素のRGB値から推算(例えば、平均値)したものを
用いる。この補間処理によって、正像データの画質を向
上させることができる(画素を密にする)。このように
して正像変換処理部805により、出力部609から通
知された前記選択された上位5個のラベルそれぞれに該
当し切り出され正像化等された正像データ(歪みが除去
されたものであり、それぞれの正像データには該当する
ラベルの番号が付記されている。)は、正像変換処理部
805から正像画像記憶部809へ送信され、正像画像
記憶部809において記憶される。なお、この正像デー
タを正像画像記憶部809に記憶させると、正像変換処
理部805が記憶が完了した旨の信号を出力部609に
発する。
【0057】一方、視点パラメータ等計算部803から
各ラベルごとの方位角(az)、天頂角(ze)及び拡
大率(ma)を受信した実空間位置計算部807は、条
件記憶部205にアクセスして条件記憶部205が記憶
しているカメラ位置とレンズ種別とを読み出し取得し
て、カメラ位置、レンズ種別、各ラベルごとの方位角
(az)及び天頂角(ze)を用いて各ラベルごとの重
心位置が実空間においていずれの位置に存するかを算出
する。該算出された各ラベルごとの実空間における重心
位置は、実空間位置計算部807から情報量記憶部61
1へ送信され、情報量記憶部611において次のように
記憶される。即ち、情報量記憶部611では、前述した
ように、動体履歴記憶部605が記憶している前コマの
ラベルの個数と、前記上位5個のラベルそれぞれの面積
と、が記憶されているので、ラベルそれぞれの実空間に
おける重心位置を同じラベルの面積と関連付けて記憶さ
れる。このようにして情報量記憶部611に記憶された
内容の一例を表9に示す。 (表9)情報量記憶部611の記憶内容 (a)前コマのラベルの個数:4個 (b)各ラベル情報 ラベル 3(1) 2(4) 8(9) 12(−) 面積 605 150 201 250 重心位置 (-32.4,-23.0) (84.6,28.0) (-80.1,31.9) (90.0,90.0) RGB値の平均値 R:152 184 167 0 G:148 191 165 0 B:136 198 165 150 方位角(az) 215度 18度 159度 45度 天頂角(ze) 29度 66度 64度 95度 拡大率(ma) 0.58 1.09 1.03 0.98 実空間重心位置(0.19,0.98) (3.52,-2.06) (-2.32,2.94) (-1.00,-18.81)
【0058】再び、出力部609等の追跡部601の動
作について説明する。再び、図14を参照して、出力部
609等の追跡部601の動作を説明する。正像変換処
理部805からの前記記憶が完了した旨の信号を受信し
た出力部609は、まず、現画像記憶部307にアクセ
スして現画像記憶部307が記憶している円形画像(魚
眼レンズの撮像によって生じた歪みを有する。)を読み
出してモニタ613に円形画像615として表示させ
る。次いで、出力部609は、正像画像記憶部809に
アクセスし正像画像記憶部809が記憶している正像デ
ータ(歪みが除去されたもの)をそれぞれ読み出し、こ
れら読み出された正像データそれぞれを別々のフレーム
617に配置してモニタ613に表示する。このとき各
正像データに付記されたラベル(ここでは具体的には
「3(1)」「2(4)」「8(9)」「12
(−)」)を出力部609は読みとり、( )内に数字
が記憶されている場合には、( )内に記載された数字
のラベルに該当する動体を前回表示したフレーム617
にその正像を表示させる。具体的には、例えば、出力部
609はラベル「3(1)」を読みとると、( )内の
数字「1」を読みとり、前回ラベル「1」に該当する動
体を表示したフレーム617にラベル「3(1)」が付
された正像データを表示させる。これによって、現在コ
マのラベルと前コマのラベルとの関係付けができた動体
についてはコマが経過しても同一のフレーム617に表
示される。そして、出力部609はラベルの( )内に
数字が記憶されていない場合(ここでは具体的には「1
2(−)」)には、モニタ613に新しくフレームを作
成し該新しく作成されたフレームに、ラベルの( )内
に数字が記憶されていない正像データを表示する。最後
に、出力部609は、情報量記憶部611にアクセスし
情報量記憶部611が記憶している前コマのラベルの個
数(即ち、検出されている動体の個数)、前記上位5個
のラベルそれぞれの面積及び前記上位5個の各ラベルご
との実空間における重心位置に関する各データを読み出
し、これらのデータを数値データ619としてモニタ6
13に表示する。なお、現画像記憶部307が画像受付
部303から第1の画像データを受け取ってから次の第
2の画像データを受け取る迄の時間(具体的には、ここ
では約0.067秒)は、現画像記憶部307が画像受
付部303から該第1の画像データを受け取ってから出
力部609が現画像記憶部307にアクセスして該第1
の画像データを読み出してモニタ613に円形画像61
5として表示させるまでの時間よりもはるかに長い。
【0059】最後に、本システム101の動作について
説明する。図18は、条件入力部201の動作を示すフ
ローチャートである。図18を参照して、条件入力部2
01の動作について説明する。まず、条件受付部203
は、キーボード119を経由して条件を受け付けたか否
か判断し(s1201)、条件を受け付けたと判断した
場合(YES)にはそれら条件を条件記憶部205へ記
憶させ(s1202)、条件を受け付けたと判断しない
場合(NO)にはs1203へ行く。そしてs1202
の後、作業終了か否か判断し(s1203)、作業終了
と判断した場合には作業を終了し(END)、作業終了
と判断しない場合には再びs1201へ戻る。
【0060】図19は、変化検出部301の動作を示す
フローチャートである。図19を参照して、変化検出部
301の動作について説明する。まず、画像受付部30
3はデジタルビデオカメラ117から画像データを受け
付けたか否か判断し(s1301)、画像データを受け
付けたと判断した場合(YES)には特別な信号が入力
されたか否か判断し(s1302)、特別な信号が入力
されたと判断した場合(YES)にはs1304へ行
き、特別な信号が入力されたと判断しない場合(NO)
には受け付けた画像データを現画像記憶部307へ送信
する(s1303)。なお、s1303の後、後述のs
1321へ行く。s1301において画像データを受け
付けたと判断しない場合(NO)には、後述のs130
9へ行く。s1304においては、特別な信号が「00
0」であるか否か判断し(s1304)、特別な信号が
「000」であると判断した場合(YES)には受け付
けた1コマ分の画像データは背景画像記憶部305へ送
信し(s1305)、特別な信号が「000」であると
判断しない場合(NO)には特別な信号が「999」で
あるか否か判断し(s1306)、特別な信号が「99
9」であると判断した場合(YES)には画像受付部3
03が背景画像記憶部305が記憶している画像データ
D1を読み出し(s1307)、合成画像D3を合成し
合成画像D3を背景画像記憶部305へ送信し背景画像
記憶部305に記憶させる(s1308)。なお、s1
305の後、後述のs1309へ行く。s1306にお
いて特別な信号が「999」であると判断しない場合
(NO)にはs1309へ行く。s1309では、作業
終了か否か判断し、作業終了と判断した場合(YES)
には作業を終了し(END)、作業終了と判断しない場
合には再びs1301へ戻る。なお、画像受付部303
から画像データを受け取った背景画像記憶部305及び
現画像記憶部307は、それぞれ受け取った画像データ
を記憶する。
【0061】s1303において画像データを現画像記
憶部307へ送信した後のフローチャートを図20に示
す。現画像記憶部307は、画像受付部303から画像
データを受け取ると、該受け取った画像データを記憶す
ると共に、差分処理部309へと送信する(s132
1)。現画像記憶部307から画像データを受け取った
差分処理部309は、背景画像記憶部305にアクセス
し背景画像記憶部305が記憶している背景画像を読み
出す(s1322)。そして差分処理部309は、現画
像記憶部307から受け取った画像データから、背景画
像記憶部305から読み出した背景画像データの差分を
とり(s1323)、かかる差分処理によって生成した
差分画像データを差分処理部309は差分画像記憶部3
11へ送信する(s1324)。さらに、差分画像記憶
部311は、該差分画像データを記憶すると共に、該差
分画像データを動的検知感度計算部313と二値化処理
部403とへ並列的に出力する(s1325)。
【0062】差分画像記憶部311から差分画像データ
を受信した動的検知感度計算部313は、該受信した差
分画像データのうち長方形のフレームFに含まれる部分
で円形画像Aを除いた部分Bの輝度を用いて動的検知感
度しきい値Ttを計算する(s1326)。そして、動
的検知感度計算部313は、該算出された動的検知感度
しきい値Ttを動的検知感度記憶部409に送信し、動
的検知感度記憶部409は受信した動的検知感度しきい
値Ttを記憶すると共に受信した動的検知感度しきい値
Ttを二値化処理部403へ送信する(s1327)。
その後、s1401へ行く。
【0063】図21は、移動体分析部401の動作を示
すフローチャートである。図21を参照して、移動体分
析部401の動作について説明する。まず、二値化処理
部403は、差分画像記憶部311から差分画像データ
と動的検知感度記憶部409から動的検知感度しきい値
Ttとの両者を受信したか否か判断し(s1401)、
両者を受信したと判断した場合(YES)には二値化処
理を行い(s1402)、両者を受信したと判断しない
場合(NO)にはs1401へ戻る。s1402にて二
値化処理を完了した二値化処理部403は、二値化処理
された画像データを二値化画像記憶部405へ送信す
る。二値化処理部403からデータを受け取った二値化
画像記憶部405は、前述した通りそれを記憶するとと
もに、それを膨張・収縮処理部407へ送信する(s1
403)。膨張・収縮処理部407は、二値化画像記憶
部405からデータを受け取ると、該データについて膨
張処理と収縮処理を施す(s1404)。そして、膨張
・収縮処理部407は、膨張処理及び収縮処理を施され
たデータを二値化画像記憶部405へ送信し、それを受
信した二値化画像記憶部405は該受信したデータに対
応する記憶を該受信したデータによって書き換え記憶す
る(s1405)。
【0064】さらに、膨張・収縮処理部407によって
記憶が書き換えられた二値化画像記憶部405は、膨張
・収縮処理部407から受信し書き換えたデータ(即
ち、膨張処理及び収縮処理が完了したデータ)をラベリ
ング部413へ送信する。該データを受信したラベリン
グ部413は、該受信したデータにひとかたまりの画像
部分が存するか否か判断し(s1406)、該受信した
データにひとかたまりの画像部分が存すると判断した場
合(YES)にはラベルを付し(s1407)、該受信
したデータにひとかたまりの画像部分が存すると判断し
ない場合(NO)には、後述する特徴量データがないこ
とを示す信号を特徴量記憶部419へ発信し(s142
2)、該信号をラベリング部413から受信した特徴量
記憶部419は、自らが記憶している特徴量を削除しノ
イズ除去処理部411へ通報し、その後、s1411へ
行く。ラベリング部413によってひとかたまりの画像
部分ごとにラベル「1」「2」「3」・・・・が付され
たデータは、ラベリング部413からラベリング記憶部
415へ送信される。ラベリング部413からデータを
受信したラベリング記憶部415は、それを自ら記憶す
ると共に、自らが記憶したデータを特徴量計算部417
へ送信する(s1408)。
【0065】ラベリング記憶部415からデータを受け
取った特徴量計算部417は、特徴量を各ラベル(ラベ
リング部413においてひとかたまりの画像部分ごとに
付されたラベル「1」「2」「3」・・・)ごとに計算
する(s1409)。特徴量計算部417が計算して求
めた特徴量は、特徴量計算部417が特徴量記憶部41
9へ送信する。特徴量計算部417から特徴量を受信し
た特徴量記憶部419は、該受信した特徴量を自ら記憶
すると共に(なお、特徴量記憶部419は、特徴量計算
部417から特徴量記憶部419へ送信された特徴量の
うち、外接長方形に関するデータ(具体的には、始点座
標、長辺方程式、短辺方程式)を除いたものを記憶す
る。)、特徴量を受信し記憶した旨をノイズ除去処理部
411へ通報する(s1410)。図22は、s141
0の後のs1411以降の動作を示すフローチャートで
ある。特徴量記憶部419からの通報(s1422又は
s1410のいずれかにおいて発信された通報)を受け
たノイズ除去処理部411は、条件記憶部205へアク
セスし条件記憶部205が記憶している検出精度を読み
出す(s1411)。そして、ノイズ除去処理部411
は、特徴量記憶部419へアクセスし特徴量記憶部41
9が記憶している特徴量たる各ラベルの面積が該条件記
憶部205から読み出した検出精度よりも小さいか否か
判断し、該面積が検出精度よりも小さいラベル(番号)
が存するか否か判断し(s1412)、面積が検出精度
よりも小さいラベル(番号)が存すると判断した場合
(YES)には面積が検出精度よりも小さいラベルを取
得し(s1413)、面積が検出精度よりも小さいラベ
ル(番号)が存すると判断しない場合(NO)にはノイ
ズ除去処理部411は動体対応付け部603に開始信号
を発する(s1414)。なお、s1414の後、s1
601へ行く。s1413の後、ノイズ除去処理部41
1は、二値化画像記憶部405とラベリング記憶部41
5と特徴量記憶部419とにアクセスし、面積が検出精
度よりも小さいと判断して取得したラベルに該当する各
記憶を削除する(s1415)。
【0066】s1415にてかかる削除が行われた後、
二値化画像記憶部405は自らの記憶内容(削除されな
かった部分の記憶)をラベリング部413へ送信する
(s1416)。ラベリング部413では、上述したと
同様、受信したデータ中に含まれるひとかたまりの画像
部分ごとにラベルを付し(s1417)、該ラベルを付
されたデータはラベリング記憶部415へ送信される。
そして、ラベリング記憶部415へ送信されたデータ
は、ラベリング記憶部415においてラベリング記憶部
415が記憶しているデータに上書きされて記憶され、
次いで、ラベリング記憶部415は、上書きによって記
憶したデータを特徴量計算部417へ送信する(s14
18)。そして、ラベリング記憶部415からデータを
受け取った特徴量計算部417は、特徴量を各ラベルご
とに計算する(s1419)。さらに、特徴量計算部4
17が計算して求めた特徴量は、特徴量計算部417か
ら特徴量記憶部419へ送信される。特徴量記憶部41
9は、特徴量計算部417から受信した特徴量を、特徴
量記憶部419が記憶している特徴量に上書きして記憶
し、特徴量を受信し記憶した旨をノイズ除去処理部41
1へ通報する(s1420)。s1420の後、再びs
1411へ行く。
【0067】図23は、追跡部601の動作を示すフロ
ーチャートである。図23を参照して、追跡部601の
動作について説明する。s1414にてノイズ除去処理
部411から発せられた開始信号を受信した動体対応付
け部603は、特徴量記憶部419にアクセスして特徴
量記憶部419に記憶されている特徴量を読み出し(s
1601)、その後、動体対応付け部603は動体履歴
記憶部605にアクセスして動体履歴記憶部605が既
に履歴情報を記憶しているか否か判断し(s160
2)、動体履歴記憶部605が既に履歴情報を記憶して
いない場合(NO)には特徴量記憶部419から読み出
し取得した特徴量を動体履歴記憶部605に送信し、そ
れを動体履歴記憶部605に記憶するように命令し(s
1603)その後、s1301へ戻る。s1602にお
いて動体履歴記憶部605が既に履歴情報を記憶してい
る場合(YES)には、特徴量記憶部419から読み出
し取得した特徴量を動体履歴記憶部605に送信しない
(動体履歴記憶部605は既に記憶していた情報をその
まま記憶する。)。
【0068】次いで、動体対応付け部603は、特徴量
記憶部419に記憶された特徴量と、動体履歴記憶部6
05に記憶された履歴情報と、を用いて類似度を計算し
て対応表を作成する(s1604)。得られた対応表か
ら、動体対応付け部603は、この対応表に存する前コ
マのラベルそれぞれについて現在コマのラベルそれぞれ
に対して計算された類似度から前コマのラベルと現在コ
マのラベルとの関係付けを行う(s1605)。なお、
かかる関係付けは、前コマのラベルそれぞれについて現
在コマのラベルそれぞれに対して計算された類似度が、
所定値を超えるものであって最大のものを選択しこの選
択されたものを与える現在コマのラベルと前コマのラベ
ルとを関係付けることによって行われる。そして、動体
対応付け部603は、現在コマのラベルと前コマのラベ
ルとの関係付けができた該現在コマのラベルに該当する
特徴量データを特徴量記憶部419にアクセスして読み
出し、該現在コマのラベルとそれに関係付けられた前コ
マのラベルとの関係を付記して該読み出し取得した特徴
量データを動体履歴記憶部605へ送信する(s160
6)。動体履歴記憶部605は、動体対応付け部603
からかかる特徴量データを受信すると、まず、前コマの
特徴量として記憶しているデータを前々コマの特徴量デ
ータに上書きして記憶させる(s1607)。
【0069】次いで、動体履歴記憶部605は、動体対
応付け部603から前記受信したデータに含まれる前記
現在コマのラベルとそれに関係付けられた前コマのラベ
ルとの関係を用い、動体履歴記憶部605が記憶してい
る前コマのラベルをそれと対応する現在コマのラベルに
書き換え動体履歴記憶部605が記憶している特徴量を
該現在コマのラベルに該当する特徴量に書き換えると共
に、前々コマの特徴量データ(動体対応付け部603か
ら特徴量データを受信する前は前コマの特徴量として記
憶されていたデータ)に存するラベルをそれと対応する
現在コマのラベルに書き換える(s1608)。さら
に、動体対応付け部603は、現在コマのラベルと前コ
マのラベルとの関係付けができなかった該現在コマのラ
ベルに該当する特徴量データを特徴量記憶部419にア
クセスして読み出し、動体履歴記憶部605へ送信する
(s1609)。そして、動体履歴記憶部605は、動
体対応付け部603からかかる特徴量データを受信する
と、動体履歴記憶部605の前コマの記憶データに該受
信した該関係付けができなかった該現在コマのラベルに
該当する特徴量データを追加して記憶する(s161
0)。加えて、動体対応付け部603が現在コマのラベ
ルと前コマのラベルとの関係付けを試みて現在コマのラ
ベルと前コマのラベルとの関係付けができなかった該前
コマのラベルについては、動体対応付け部603は履歴
削除部607に命じて動体履歴記憶部605が記憶して
いる前コマの特徴量と前々コマの特徴量とから消去する
(s1611)。動体対応付け部603は、以上の作業
(類似度の計算、対応表の作成、動体履歴記憶部605
の記憶内容の書き換え等)が完了すると、完了した旨の
信号を出力部609へ発する(s1612)。
【0070】動体対応付け部603から該完了した旨の
信号を受信した出力部609は、動体履歴記憶部605
にアクセスして動体履歴記憶部605が記憶している前
コマのラベルのうち上位5個のラベルを選択し(各ラベ
ルに該当する面積が大きいものから5個選択する。な
お、動体履歴記憶部605が記憶している前コマのラベ
ルの個数が5個よりも小さいときには該記憶している前
コマのラベル全てを選択する。)、該選択された上位5
個のラベルそれぞれに該当する特徴量を読み出し取得
し、該読み出し取得された特徴量を正像変換処理部80
5へ送信する(s1613)。その後、出力部609
は、動体履歴記憶部605にアクセスして動体履歴記憶
部605が記憶している前コマのラベルの個数と、前記
上位5個のラベルそれぞれの面積と、を読み出し、これ
らを情報量記憶部611に送信し情報量記憶部611に
記憶させる(s1614)。s1614の後、s180
1へ行く。
【0071】図24は、正像変換部801の動作を示す
フローチャートである。図24を参照して、正像変換部
801の動作について説明する。まず、s1613にお
いて出力部609から送信された前記読み出し取得され
た特徴量を受信した正像変換処理部805は、その受信
した特徴量を視点パラメータ等計算部803へ送信する
(s1801)。この特徴量を正像変換処理部805か
ら受信した視点パラメータ等計算部803は、まず条件
記憶部205にアクセスして条件記憶部205が記憶し
ているカメラ位置とレンズ種別(レンズ特性)とを読み
出し取得する(s1802)。そして、視点パラメータ
等計算部803は、方位角(az)と天頂角(ze)と
によって構成される視点パラメータと拡大率(ma)と
を計算し、正像変換処理部805と実空間位置計算部8
07とへ並列的に送信される(s1803)。
【0072】視点パラメータ等計算部803から各ラベ
ルごとの方位角(az)、天頂角(ze)及び拡大率
(ma)を受信した正像変換処理部805は、現画像記
憶部307にアクセスし現画像記憶部307が記憶して
いる画像データを読み出して取得する(s1804)。
そして、正像変換処理部805は、該読み出し取得した
画像データから、既に出力部609から通知されている
前記選択された上位5個のラベルそれぞれに該当する画
像を切り出し正像化(魚眼レンズによって画像に生じた
歪みを除去する。)する(s1805)。その後、正像
化処理がなされた正像データ(歪みが除去されたもの)
において前記歪みを含む画像からのデータが存しない画
素については、正像変換処理部805が補間処理(共一
次補間処理)を行う(s1806)。このようにして正
像変換処理部805により、出力部609から通知され
た前記選択された上位5個のラベルそれぞれに該当し切
り出され正像化等された正像データ(歪みが除去された
ものであり、それぞれの正像データには該当するラベル
の番号が付記されている。)は、正像変換処理部805
から正像画像記憶部809へ送信され、正像画像記憶部
809において記憶される(s1808)。そして、こ
の正像データを正像画像記憶部809に記憶させると、
正像変換処理部805が記憶が完了した旨の信号を出力
部609に発する(s1809)。
【0073】一方、視点パラメータ等計算部803から
各ラベルごとの方位角(az)、天頂角(ze)及び拡
大率(ma)を受信した実空間位置計算部807は、条
件記憶部205にアクセスして条件記憶部205が記憶
しているカメラ位置とレンズ種別とを読み出し(s18
10)、カメラ位置、レンズ種別、各ラベルごとの方位
角(az)及び天頂角(ze)を用いて各ラベルごとの
重心位置が実空間においていずれの位置(極座標値)に
存するかを算出する(s1811)。該算出された各ラ
ベルごとの実空間における重心位置は、実空間位置計算
部807から情報量記憶部611へ送信され、情報量記
憶部611において記憶される(s1812)。s18
12の後、s1631へ行く。
【0074】再び、出力部609等の追跡部601の動
作について説明する。図25は、出力部609等の追跡
部601の動作のうちs1812に続くs1631以降
のフローチャートである。s1809において正像変換
処理部805が発した前記記憶が完了した旨の信号を受
信した出力部609は、現画像記憶部307にアクセス
して現画像記憶部307が記憶している円形画像(魚眼
レンズの撮像によって生じた歪みを有する。)を読み出
してモニタ613に円形画像615として表示させる
(s1631)。次いで、出力部609は、正像画像記
憶部809にアクセスし正像画像記憶部809が記憶し
ている正像データ(歪みが除去されたもの)をそれぞれ
読み出し、これら読み出された正像データそれぞれを別
々のフレーム617に配置してモニタ613に表示する
(s1632)。最後に、出力部609は、情報量記憶
部611にアクセスし情報量記憶部611が記憶してい
る前コマのラベルの個数(即ち、検出されている動体の
個数)、前記上位5個のラベルそれぞれの面積及び前記
上位5個の各ラベルごとの実空間における重心位置に関
する各データを読み出し、これらのデータを数値データ
619としてモニタ613に表示する(s1633)。
そしてs1633の後、作業終了か否か判断し(s16
34)、作業終了と判断した場合には作業を終了し(E
ND)、作業終了と判断しない場合には再びs1301
へ戻る。
【0075】以上説明したように、本システム101は
次のように本発明のシステムを構成している。即ち、画
像受付部303と現画像記憶部307とによって、時系
列的に撮像された画像データを順次入力する画像入力手
段が構成されている。そして、差分処理部309によっ
て、画像入力手段によって順次入力された該画像データ
中それぞれに動体の画像が存するか否か判断する動体検
出手段が構成されている。さらに、動体対応付け部60
3が、動体検出手段が現在画像データ中に動体が存する
と判断した場合には、該現在画像データ中の動体が該現
在画像データよりも前の前コマ画像データ中に存するか
否か判断する同一判断手段を構成している。そして、出
力部609と視点パラメータ等計算部803と正像変換
処理部805と正像画像記憶部809とが、動体検出手
段が該現在画像データ中に存すると判断した動体が同一
判断手段によって該前コマ画像データ中に存すると判断
された場合には該前コマ画像データ中に存する動体と該
現在画像データ中に存する動体とを関連付ける関連画像
生成手段を構成している。
【0076】また、本システムにおいては、画像データ
が魚眼レンズ115によって撮像される。そして、本シ
ステムの正像変換処理部805が、魚眼レンズ115に
よって撮像された画像データから前記動体検出手段によ
って検出された動体を含むように切り出された動体画像
に含まれる魚眼レンズ115により生じる歪みを除去す
る歪み除去手段を構成している。さらに、本システムで
は、現在画像データ中に複数の動体が存する場合、前記
同一判断手段(動体対応付け部603)が該複数の動体
それぞれについて前記前コマ画像データ中に存するか否
か判断し、前記同一判断手段が前記前コマ画像データ中
に存すると判断した動体それぞれについて前記関連画像
生成手段が該前コマ画像データ中に存する動体と該現在
画像データ中に存する動体とを関連付けるようになって
いる(ここでは両動体を同じフレームに表示する)。
【0077】本システムでは、前記同一判断手段たる動
体対応付け部603が、前記前コマ画像データ中に存す
る動体に対する前記現在画像データ中に存する動体の移
動距離、移動方向及び色彩の差異の3要素の全ての要素
を考慮して両動体が同一か否か判断する(即ち、動体対
応付け部603が形成する対応表に記載される類似度は
これら3要素全てを用いて計算される。)。そして、前
記移動距離又は前記移動方向が、前記前コマ画像データ
中に存する動体の重心位置に対する前記現在画像データ
中に存する動体の重心位置の変化によって決定される。
また、前記色彩の差異についても、前記前コマ画像デー
タ中に存する動体の重心位置の近傍の色彩に対する前記
現在画像データ中に存する動体の重心位置の近傍の色彩
の変化によって決定される。
【0078】本システムにおいては、前記同一判断手段
たる動体対応付け部603が、前記現在画像データ中の
動体それぞれが前記前コマ画像データ中に存するか否か
判断し、前記同一判断手段たる動体対応付け部603
が、前記現在画像データ中の動体が前記前コマ画像デー
タ中に存すると判断した場合、前記関連画像生成手段た
る出力部609と視点パラメータ等計算部803と正像
変換処理部805と正像画像記憶部809とが、該動体
の前記前コマ画像データの画像と前記現在画像データの
画像とを動画として生成する(ここでは該動体の前記前
コマ画像データの画像と前記現在画像データの画像とを
同じフレームに表示することで、動画を生成する。)。
即ち、本システムにおいては、前記関連画像生成手段た
る出力部609と視点パラメータ等計算部803と正像
変換処理部805と正像画像記憶部809とが、互いに
関連付けた前記前コマ画像データ中に存する動体と前記
現在画像データ中に存する動体との画像を動画として生
成する。そして、本システムの前記関連画像生成手段た
る出力部609と視点パラメータ等計算部803と正像
変換処理部805と正像画像記憶部809とが、前記現
在画像データ中に存する動体の大きさに応じて該動体を
表示する拡大縮小率を設定し、該拡大縮小率に従って該
物体の画像を拡大縮小する拡大縮小手段(主として、視
点パラメータ等計算部803と正像変換処理部805と
によって構成される。)を有する。
【0079】なお、ここでは類似度は、前述の式1に従
って計算したが、動体の同一性の判断に資するものであ
ればいかなるものであってもよく、式1に限定されるも
のではない。例えば、次に示す式3によって類似度を計
算してもよい。 (類似度)=1/(C+(1−cos(Q))/4+(B1/W))(式 3) ただし、式3中のそれぞれの数値について説明すれば次
のごときである。即ち、Cは上記した式2によって計算
される数値である。そして、Qは、上記したA1(前コ
マから現在コマに移る際の重心移動方向の回転角θ)及
びA0(前々コマから前コマに移る際の重心移動方向の
回転角θ)を用いて、(A1−A0)の絶対値をとった
ものである。さらに、B1は、上述したように、前コマ
から現在コマに移る際の重心移動距離を示す。最後に、
Wは、本システムが対象とする動体が移動する際の平均
的な重心移動距離に相当する数値を示しており、例え
ば、W=20としてもよい。このような式3を用いて類
似度を算出することで、式2よりも動体の同一性を的確
かつ正確に判断することができる場合がある。
【図面の簡単な説明】
【図1】一実施形態の本システムのハードウエア構成を
示す概略ブロック図である。
【図2】図1に示した本システムの機能ブロック図であ
る。
【図3】条件入力部の詳細図である。
【図4】変化検出部の詳細図である。
【図5】背景画像記憶部に記憶された画像データの一例
を模式的に示した図である。
【図6】現画像記憶部に記憶されると共に差分処理部へ
送信された画像データの一例を模式的に示した図であ
る。
【図7】差分画像データの一例を模式的に示した図であ
る。
【図8】移動体分析部の詳細図である。
【図9】二値化画像記憶部が記憶するデータの一例を模
式的に示した図である。
【図10】膨張・収縮処理部が膨張処理を行った後のデ
ータの一例を模式的に示した図である。
【図11】膨張・収縮処理部が、膨張処理がされたデー
タに収縮処理を行った後のデータを模式的に示した図で
ある。
【図12】膨張処理及び収縮処理が完了したデータにラ
ベリング部がどのようにラベルを付すかを概念的に説明
した図である。
【図13】特徴量に含まれる外接長方形の始点座標・長
辺(長辺を示す方程式)・短辺(短辺を示す方程式)に
ついて説明するための図である。
【図14】追跡部の詳細図である。
【図15】正像変換部の詳細図である。
【図16】方位角(az)の計算方法を説明する図であ
る。
【図17】天頂角(ze)の計算方法を説明する図であ
る。
【図18】条件入力部の動作を示すフローチャートであ
る。
【図19】変化検出部の動作を示すフローチャートであ
る。
【図20】s1303において画像データを現画像記憶
部へ送信した後のフローチャートである。
【図21】移動体分析部の動作を示すフローチャートで
ある。
【図22】s1410の後のs1411以降の動作を示
すフローチャートである。
【図23】追跡部の動作を示すフローチャートである。
【図24】正像変換部の動作を示すフローチャートであ
る。
【図25】出力部等の追跡部の動作のうちs1812に
続くs1631以降のフローチャートである。
【符号の説明】
101 本システム 110a CPU 110b RAM 110c ROM 110d インターフェイス 115 魚眼レンズ 117 デジタルビデオカメラ 119 キーボード 201 条件入力部 203 条件受付部 205 条件記憶部 301 変化検出部 303 画像受付部 305 背景画像記憶部 307 現画像記憶部 309 差分処理部 311 差分画像記憶部 313 動的検知感度計算部 401 移動体分析部 403 二値化処理部 405 二値化画像記憶部 407 膨張・収縮処理部 409 動的検知感度記憶部 411 ノイズ除去処理部 413 ラベリング部 415 ラベリング記憶部 417 特徴量計算部 419 特徴量記憶部 601 追跡部 603 動体対応付け部 605 動体履歴記憶部 607 履歴削除部 609 出力部 611 情報量記憶部 613 モニタ 615 円形画像 617 フレーム 619 数値データ 801 正像変換部 803 視点パラメータ等計算部 805 正像変換処理部 807 実空間位置計算部 809 正像画像記憶部 901 ひとかたまりの画像部分 903 重心位置
───────────────────────────────────────────────────── フロントページの続き (72)発明者 李 森 岡山県岡山市豊成2丁目7番16号 株式会 社リオスコーポレーション内 (72)発明者 近藤 正浩 岡山県岡山市豊成2丁目7番16号 株式会 社リオスコーポレーション内 (72)発明者 大森 優一 岡山県岡山市豊成2丁目7番16号 株式会 社リオスコーポレーション内 Fターム(参考) 5C022 AA01 AC42 AC54 5C054 AA01 AA05 CA04 CC03 CC05 CE02 CE16 CH01 EA05 FB03 FC05 FC12 HA19 HA31 5C084 AA02 AA07 AA13 BB31 CC17 DD11 GG43 GG52 GG78 HH10 HH12 HH13 5L096 AA06 BA02 CA04 DA01 EA02 EA03 EA05 EA43 FA18 FA60 GA08 GA34 HA05 JA11

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】時系列的に撮像された画像データを順次入
    力する画像入力手段と、 該画像入力手段によって順次入力された該画像データ中
    それぞれに動体の画像が存するか否か判断する動体検出
    手段と、 該動体検出手段が現在画像データ中に動体が存すると判
    断した場合には、該現在画像データ中の動体が該現在画
    像データよりも前の前コマ画像データ中に存するか否か
    判断する同一判断手段と、 該動体検出手段が該現在画像データ中に存すると判断し
    た動体が該同一判断手段によって該前コマ画像データ中
    に存すると判断された場合には該前コマ画像データ中に
    存する動体と該現在画像データ中に存する動体とを関連
    付ける関連画像生成手段と、を備えてなる、動体追跡表
    示システム。
  2. 【請求項2】前記画像データが魚眼レンズによって撮像
    され、 該魚眼レンズによって撮像された画像データから前記動
    体検出手段によって検出された動体を含むように切り出
    された動体画像に含まれる該魚眼レンズにより生じる歪
    みを除去する歪み除去手段を、さらに備えるものであ
    る、請求項1に記載の動体追跡表示システム。
  3. 【請求項3】前記現在画像データ中に複数の動体が存す
    る場合、前記同一判断手段が該複数の動体それぞれにつ
    いて前記前コマ画像データ中に存するか否か判断し、 前記同一判断手段が前記前コマ画像データ中に存すると
    判断した動体それぞれについて前記関連画像生成手段が
    該前コマ画像データ中に存する動体と該現在画像データ
    中に存する動体とを関連付けるものである、請求項2に
    記載の動体追跡表示システム。
  4. 【請求項4】前記同一判断手段が、前記前コマ画像デー
    タ中に存する動体に対する前記現在画像データ中に存す
    る動体の移動距離、移動方向及び色彩の差異のうち少な
    くとも一を考慮して両動体が同一か否か判断するもので
    ある、請求項1乃至3のいずれかに記載の動体追跡表示
    システム。
  5. 【請求項5】前記移動距離又は前記移動方向が、前記前
    コマ画像データ中に存する動体の重心位置に対する前記
    現在画像データ中に存する動体の重心位置の変化によっ
    て決定されるものである、請求項4に記載の動体追跡表
    示システム。
  6. 【請求項6】前記関連画像生成手段が、互いに関連付け
    た前記前コマ画像データ中に存する動体と前記現在画像
    データ中に存する動体との画像を動画として生成するも
    のである、請求項1乃至5のいずれかに記載の動体追跡
    表示システム。
  7. 【請求項7】前記関連画像生成手段が、前記現在画像デ
    ータ中に存する動体の大きさに応じて該動体を表示する
    拡大縮小率を設定し、該拡大縮小率に従って該物体の画
    像を拡大縮小する拡大縮小手段を、さらに有してなる、
    請求項1乃至6のいずれかに記載の動体追跡表示システ
    ム。
  8. 【請求項8】請求項1乃至7のいずれかに記載の動体追
    跡表示システムをコンピュータに実現させるためのプロ
    グラム。
  9. 【請求項9】請求項1乃至7のいずれかに記載の動体追
    跡表示システムをコンピュータに実現させるためのプロ
    グラムを記録したコンピュータ読み取り可能な記憶媒
    体。
JP2001134993A 2001-05-02 2001-05-02 動体関連付けシステム Expired - Lifetime JP3523847B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001134993A JP3523847B2 (ja) 2001-05-02 2001-05-02 動体関連付けシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001134993A JP3523847B2 (ja) 2001-05-02 2001-05-02 動体関連付けシステム

Publications (2)

Publication Number Publication Date
JP2002329207A true JP2002329207A (ja) 2002-11-15
JP3523847B2 JP3523847B2 (ja) 2004-04-26

Family

ID=18982551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001134993A Expired - Lifetime JP3523847B2 (ja) 2001-05-02 2001-05-02 動体関連付けシステム

Country Status (1)

Country Link
JP (1) JP3523847B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008250430A (ja) * 2007-03-29 2008-10-16 Ricoh Co Ltd 人物追跡装置、人物追跡方法およびそのプログラム
JP2011061511A (ja) * 2009-09-10 2011-03-24 Dainippon Printing Co Ltd 魚眼監視システム
JP2011076573A (ja) * 2009-10-02 2011-04-14 Fujitsu Ltd 監視カメラシステム及びその異常検出方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05205052A (ja) * 1992-01-23 1993-08-13 Matsushita Electric Ind Co Ltd 自動追尾装置
JPH06266840A (ja) * 1993-03-11 1994-09-22 Hitachi Ltd 移動物体の状態検出装置
JPH06325180A (ja) * 1993-05-14 1994-11-25 Matsushita Electric Ind Co Ltd 移動体自動追跡装置
JPH10111946A (ja) * 1996-10-04 1998-04-28 Matsushita Electric Ind Co Ltd 画像追跡装置
JPH10188145A (ja) * 1996-12-20 1998-07-21 Shigeki Kobayashi 自動ズーム監視装置
JPH11261868A (ja) * 1998-03-13 1999-09-24 Fujitsu Ltd 魚眼レンズカメラ装置及びその画像歪み補正方法及び画像抽出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05205052A (ja) * 1992-01-23 1993-08-13 Matsushita Electric Ind Co Ltd 自動追尾装置
JPH06266840A (ja) * 1993-03-11 1994-09-22 Hitachi Ltd 移動物体の状態検出装置
JPH06325180A (ja) * 1993-05-14 1994-11-25 Matsushita Electric Ind Co Ltd 移動体自動追跡装置
JPH10111946A (ja) * 1996-10-04 1998-04-28 Matsushita Electric Ind Co Ltd 画像追跡装置
JPH10188145A (ja) * 1996-12-20 1998-07-21 Shigeki Kobayashi 自動ズーム監視装置
JPH11261868A (ja) * 1998-03-13 1999-09-24 Fujitsu Ltd 魚眼レンズカメラ装置及びその画像歪み補正方法及び画像抽出方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008250430A (ja) * 2007-03-29 2008-10-16 Ricoh Co Ltd 人物追跡装置、人物追跡方法およびそのプログラム
JP2011061511A (ja) * 2009-09-10 2011-03-24 Dainippon Printing Co Ltd 魚眼監視システム
JP2011076573A (ja) * 2009-10-02 2011-04-14 Fujitsu Ltd 監視カメラシステム及びその異常検出方法

Also Published As

Publication number Publication date
JP3523847B2 (ja) 2004-04-26

Similar Documents

Publication Publication Date Title
JP4568009B2 (ja) カメラ連携による監視装置
JP2001067463A (ja) 異なる視点からの複数のフェイシャル画像に基づき新たな視点からのフェイシャル画像を生成するフェイシャル画像生成装置及び方法並びにその応用装置及び記録媒体
JP2019029935A (ja) 画像処理装置およびその制御方法
CN112261293A (zh) 变电站远程巡检方法、装置和电子设备
JP4203279B2 (ja) 注目判定装置
CN111191356A (zh) 一种基于虚拟现实的昏暗环境探测仿真方法
JP3757008B2 (ja) 画像合成装置
CN101681510A (zh) 登记设备、检查设备、程序和数据结构
US20240096094A1 (en) Multi-view visual data damage detection
WO2024022301A1 (zh) 视角路径获取方法、装置、电子设备及介质
JP3523847B2 (ja) 動体関連付けシステム
JP3307075B2 (ja) 撮影装置
JPH0766436B2 (ja) 連続シルエット画像による3次元モデル構成装置
CN114998980B (zh) 一种虹膜检测方法、装置、电子设备及存储介质
JP3276949B2 (ja) 3次元有向体の定位方法及び画像処理装置
JPH09130714A (ja) 画像情報抽出装置および方法
CN116249015A (zh) 摄像头遮挡检测方法、装置、摄像头设备及存储介质
CN116051736A (zh) 一种三维重建方法、装置、边缘设备和存储介质
TW466452B (en) Method and apparatus for photographing/recognizing a face
CN115035466A (zh) 一种用于安全监视的红外全景雷达系统
US10989525B2 (en) Laser guided scanning systems and methods for scanning of symmetrical and unsymmetrical objects
CN116012508B (zh) 车道线的渲染方法、装置及存储介质
JP2003333582A (ja) 全方位画像撮像装置及び全方位画像撮像装置の制御方法及びプログラム及び記憶媒体
JPH08147475A (ja) 移動物体検出装置
CN113160149B (zh) 一种目标显示方法、装置、电子设备及内窥镜系统

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20031218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040209

R150 Certificate of patent or registration of utility model

Ref document number: 3523847

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 10

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term