JPH08147477A - 局所領域画像追跡装置 - Google Patents

局所領域画像追跡装置

Info

Publication number
JPH08147477A
JPH08147477A JP7170058A JP17005895A JPH08147477A JP H08147477 A JPH08147477 A JP H08147477A JP 7170058 A JP7170058 A JP 7170058A JP 17005895 A JP17005895 A JP 17005895A JP H08147477 A JPH08147477 A JP H08147477A
Authority
JP
Japan
Prior art keywords
image data
image
correlation
reference image
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP7170058A
Other languages
English (en)
Inventor
Naoyuki Sawazaki
直之 沢崎
Masahiko Sato
雅彦 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP7170058A priority Critical patent/JPH08147477A/ja
Priority to DE69523709T priority patent/DE69523709T2/de
Priority to US08/521,076 priority patent/US5838365A/en
Priority to EP95113551A priority patent/EP0703548B1/en
Priority to CN95116558A priority patent/CN1106114C/zh
Priority to KR1019950030912A priority patent/KR100270461B1/ko
Publication of JPH08147477A publication Critical patent/JPH08147477A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/15Correlation function computation including computation of convolution operations
    • G06F17/153Multidimensional correlation or convolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/231Analysis of motion using block-matching using full search
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Algebra (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Input (AREA)

Abstract

(57)【要約】 【課題】 本発明は局所領域画像追跡装置に関し、高速
で追跡処理を行え、追跡処理中の任意の時点で相関演算
に用いる参照画像データを更新することができるように
することを目的とする。 【解決手段】 撮像手段1により撮像された入力画像デ
ータのうち、追跡処理を施すべき探索画像データを任意
の局所領域に関する参照画像データと比較して、該探索
画像データで表される探索画像内の該任意の局所領域を
連続的に追跡する局所領域画像追跡装置において、該撮
像手段1からの入力画像データを転送する画像データバ
ス3と、該画像データバスに並列に接続されており、各
々少なくとも1つの探索画像に対する追跡処理を独立し
て行える複数の相関追跡処理装置4−1〜4−Mとを有
し、1又は複数の探索画像に対する追跡処理を該複数の
相関追跡処理装置4−1〜4−Mで分散して行うように
構成する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は局所領域画像追跡装
置に係り、特にテレビカメラ等で撮影される画像内で運
動している物体を連続的に追跡する局所領域画像追跡装
置に関する。撮像画面内で運動する物体を追跡する局所
領域画像追跡装置は、加速度センサ等を使用しない非接
触型の動き計測や動きベクトルの可視化システム、監視
や観察の自動化システム、人間のジェスチャ、表情や視
線の認識システム、映画やスポーツ中継でのカメラ制御
システム、移動ロボットや自律走行車の制御システム、
人工衛生からの移動物体の追跡システム等で使用され
る。
【0002】
【従来の技術】図72は、従来の局所領域画像追跡装置
の一例の要部を示すブロック図である。同図中、局所領
域画像追跡装置は大略撮像装置501、アナログ/ディ
ジタル(A/D)変換器502、探索画像メモリ50
3、参照画像メモリ504、相関演算器505、アドレ
ス発生器506及び相関値ピーク位置検出器507から
なる。
【0003】撮像装置501により撮像された画像に関
するアナログ画像データは、A/D変換器502により
ディジタル画像データに変換され、順次探索画像メモリ
503に格納される。参照画像メモリ504には、予め
追跡するべき所定物体に関する固定の参照画像データが
格納されている。相関演算器505は、相関演算を行う
ことにより、探索画像メモリ503内の画像データと参
照画像メモリ504内の参照画像データの間の相関性を
示す相関値を求める。相関値ピーク位置検出器507
は、この相関値のピーク位置、即ち、撮像画面中相関性
の最も高い位置を検出する。相関値ピーク位置検出器5
07からのピーク位置は、アドレス発生器506へフィ
ードバックされ、アドレス発生器506はピーク位置に
対応するメモリアドレスを発生して探索画像メモリ50
3及び参照画像メモリ504に供給する。従って、相関
値ピーク位置検出器507からは、常に相関値のピーク
位置が得られ、このピーク位置に基づいて撮像画面内の
所定物体を実時間で追跡することができる。
【0004】
【発明が解決しようとする課題】しかし、従来の局所領
域画像追跡装置では、以下の問題点があった。第1に、
撮像装置501からの画像データをA/D変換器502
を介して探索画像メモリ503に書き込む期間中には、
探索画像メモリ503から画像データを読み出して相関
演算器505で相関演算を行うことができず、撮像され
た画像に対して各フレーム毎に追跡処理をすることがで
きないという問題があった。このため、従来の局所領域
画像追跡装置では、相関演算器505での相関演算は、
例えば画像データの1フレームおき毎に行って、1フレ
ームおき毎の追跡処理を行わざるを得なかった。つま
り、従来は、追跡処理を高速に行うことはできなかっ
た。
【0005】第2に、撮像装置501に対して1つの相
関演算器505しか設けられていないため、相関演算器
505の処理能力によって1度に追跡可能な物体の数が
限定されてしまうという問題があった。つまり、撮像装
置501からは1フレーム毎に新しい画像データが送ら
れて来るため、相関演算器505では相関演算を1フレ
ーム期間内に終了しなければならない。しかし、1度に
追跡するべき物体の数が大きいと、各物体に対する相関
処理を1フレーム期間内に終了することは不可能とな
り、相関演算器505の処理能力によっては1度に1つ
の物体しか追跡できなかった。即ち、従来は、追跡処理
を高速に行うことはできなかった。
【0006】第3に、参照画像メモリ504には、予め
追跡するべき所定物体に関する固定の参照画像データが
格納されており、追跡処理中の任意の時点で参照画像メ
モリ504の内容を更新することができないという問題
があった。本発明は上記の問題点に鑑みてなされたもの
であり、高速で追跡処理を行え、追跡処理中の任意の時
点で相関演算に用いる参照画像データを更新することが
できる局所領域画像追跡装置を提供することを目的とす
る。
【0007】
【課題を解決するための手段】上記の課題は、請求項1
記載の、撮像手段により撮像された入力画像データのう
ち、追跡処理を施すべき探索画像データを任意の局所領
域に関する参照画像データと比較して、該探索画像デー
タで表される探索画像内の該任意の局所領域を連続的に
追跡する局所領域画像追跡装置において、該撮像手段か
らの入力画像データを転送する画像データバスと、該画
像データバスに並列に接続されており、各々少なくとも
1つの探索画像に対する追跡処理を独立して行える複数
の相関追跡処理装置とを有し、1又は複数の探索画像に
対する追跡処理を該複数の相関追跡処理装置で分散して
行う局所領域画像追跡装置によって達成される。
【0008】請求項2記載の発明では、請求項1記載の
発明において、各相関追跡処理装置は、少なくとも3以
上の画像メモリと、該画像メモリを入力画像データを格
納する入力画像メモリと、探索画像データを格納する探
索画像メモリと、参照画像データを格納する参照画像メ
モリとに選択的に切り換えるセレクタ手段と、該参照画
像メモリ及び該探索画像メモリから参照画像データ及び
探索画像データを読み出すためのアドレスを発生するア
ドレス発生手段と、該参照画像メモリに格納された参照
画像データと該探索画像メモリに格納された探索画像デ
ータとの間の相関性を表す相関値を相関演算処理により
算出する相関演算手段と、該相関演算手段からの相関値
のピーク位置を求めるピーク位置検出手段とを有する。
【0009】請求項3記載の発明では、請求項2記載の
発明において、前記セレクタ手段は、入力画像データの
該画像メモリへの格納順序を固定的に制御することによ
り、入力画像データの各フレーム毎の追跡処理、各フレ
ーム毎の探索画像データの該画像メモリへの格納及び任
意のフレーム間隔での参照画像データの更新を行う。
【0010】請求項4記載の発明では、請求項2記載の
発明において、前記画像メモリは4以上設けられてお
り、前記セレクタ手段は、入力画像データの該画像メモ
リへの格納順序を固定的に制御することにより、入力画
像データの各フレーム毎の追跡処理、各フレーム毎の探
索画像データの該画像メモリへの格納、複数の参照画像
データの複数の画像メモリへの格納及び任意のフレーム
間隔での参照画像データの更新を行う。
【0011】請求項5記載の発明では、請求項2〜4記
載のいずれかの発明において、前記相関演算手段は、1
6画素×16画素の参照画像について、これより大きい
探索画像内の複数の部分領域画像と相関演算を行って相
関値を求める。請求項6記載の発明では、請求項1〜5
記載のいずれかの発明において、前記画像メモリから読
み出された探索画像データ及び参照画像データを一時的
に順次格納するファースト・イン・ファースト・アウト
(FIFO)手段を更に有し、前記相関演算手段は該フ
ァースト・イン・ファースト・アウト(FIFO)手段
から読み出された探索画像データ及び参照画像データに
基づいて相関演算を行うことにより、探索画像データ及
び参照画像データの読み出しと相関演算とを並列に行
う。
【0012】請求項7記載の発明では、請求項1記載の
発明において、制御計算機と、該制御計算機と接続され
た制御計算機バスとを更に有し、前記複数の相関追跡処
理装置は、夫々該制御計算機バスに並列に接続されてお
り、該制御計算機は、該制御計算機バスを介して各相関
追跡処理装置での参照画像データの更新に関する制御、
前記画像メモリの選択や切り換えに関する制御等を行
う。
【0013】請求項8記載の発明では、請求項7記載の
発明において、各相関追跡処理装置は、少なくとも3以
上の画像メモリと、該画像メモリを入力画像データを格
納する入力画像メモリと、探索画像データを格納する探
索画像メモリと、参照画像データを格納する参照画像メ
モリとに選択的に切り換えるセレクタ手段と、該参照画
像メモリに格納された参照画像データと該探索画像メモ
リに格納された探索画像データとの間の相関性を表す相
関値を相関演算処理により算出する相関演算手段と、該
相関演算手段からの相関値のピーク位置を求めるピーク
位置検出手段と、少なくとも該セレクタ手段及び前記制
御計算機バスに接続されており、各相関追跡処理装置と
前記制御計算機との間のインタフェースを司る制御計算
機インタフェースとを有する。
【0014】請求項9記載の発明では、請求項8記載の
発明において、前記制御計算機は、前記制御計算機バス
を介して前記制御計算機インタフェースに対して参照画
像データの更新を任意の時点で指示する。請求項10記
載の発明では、請求項8記載の発明において、前記制御
計算機は、前記制御計算機バスを介して前記制御計算機
インタフェースに対して前記探索画像メモリ及び前記参
照画像メモリから切り出す局所領域を任意の時点で指示
する。
【0015】請求項11記載の発明では、請求項8記載
の発明において、前記制御計算機インタフェースは、前
記相関演算手段からの相関値及び前記ピーク位置検出手
段からのピーク位置のうち少なくとも一方を格納する格
納手段を有し、前記制御計算機は前記制御計算機バスを
介して任意の時点で該格納手段に格納された情報を読み
出す。
【0016】請求項12記載の発明では、請求項7〜1
1のうちいずれかの発明において、前記画像メモリから
読み出された探索画像データ及び参照画像データを一時
的に順次格納するファースト・イン・ファースト・アウ
ト(FIFO)手段を更に有し、前記相関演算手段は該
ファースト・イン・ファースト・アウト(FIFO)手
段から読み出された探索画像データ及び参照画像データ
に基づいて相関演算を行うことにより、探索画像データ
及び参照画像データの読み出しと相関演算とを並列に行
う。
【0017】請求項13記載の発明では、請求項8〜1
1のうちいずれかの発明において、前記制御計算機イン
タフェースは、前記制御計算機からの指示を順次格納す
る第1のファースト・イン・ファースト・アウト(FI
FO)手段を有し、各相関追跡処理装置は該第1のファ
ースト・イン・ファースト・アウト(FIFO)手段に
格納された複数の指示に従って複数の追跡処理を一括し
て該制御計算機の介在なしに行う。
【0018】請求項14記載の発明では、請求項13の
発明において、前記制御計算機インタフェースは、前記
相関演算手段からの相関値及び前記ピーク位置検出手段
からのピーク位置のうち少なくとも一方を順次格納する
第2のファースト・イン・ファースト・アウト(FIF
O)手段を有し、該制御計算機は任意の時点で該第2の
ファースト・イン・ファースト・アウト(FIFO)手
段に格納された情報を読み出す。
【0019】請求項15記載の発明では、請求項8の発
明において、前記制御計算機インタフェースは、追跡処
理で前記相関演算手段から得られる相関値の相関値分布
を格納する格納手段と、複数回の追跡処理の各々で得ら
れる相関値分布を順次加算する加算手段とを有する。
【0020】請求項16記載の発明では、請求項15の
発明において、前記制御計算機インタフェースは、前記
加算手段により複数回の追跡処理の各々で得られる相関
値分布を順次加算するか否かを前記制御計算機からの指
示により制御される。請求項17記載の発明では、請求
項8の発明において、前記制御計算機は、固定サイズの
隣接する参照画像に対する追跡処理結果である相関値分
布を全て加算し、そのピーク位置を求めることにより、
任意倍の参照画像について追跡処理を行うように前記制
御計算機インタフェースを制御する。
【0021】請求項18記載の発明では、請求項1〜1
7のうちいずれかの発明において、前記撮像手段からの
入力画像データのビット数を、前記相関演算手段の処理
ビット数に合うように変換する変換手段を更に有する。
請求項19記載の発明では、請求項18の発明におい
て、前記変換手段は、m>nとするとmビットのカラー
画像データをnビットの疑似カラー画像データに変換す
る。
【0022】上記の課題は、請求項20記載の、撮像手
段により撮像された入力画像データのうち、追跡処理を
施すべき探索画像データを任意の局所領域に関する参照
画像データと比較して、該探索画像データで表される探
索画像内の該任意の局所領域を連続的に追跡する局所領
域画像追跡装置において、少なくとも3以上の画像メモ
リと、該画像メモリを入力画像データを格納する入力画
像メモリと、探索画像データを格納する探索画像メモリ
と、参照画像データを格納する参照画像メモリとに選択
的に切り換えるセレクタ手段と、該参照画像メモリに格
納された参照画像データと該探索画像メモリに格納され
た探索画像データとの間の相関性を表す相関値を相関演
算処理により算出する相関演算手段と、該相関演算手段
からの相関値のピーク位置を求めるピーク位置検出手段
と、該ピーク位置検出手段からのピーク位置に基づいて
該セレクタ手段を制御して参照画像データの履歴を順次
該画像メモリに格納することにより、参照画像データを
格納された該探索画像メモリ内の相関値のピーク位置の
履歴に基づいて更新する画像メモリ管理手段とを有する
局所領域画像追跡装置によっても達成できる。
【0023】請求項21記載の発明では、請求項20の
発明において、前記ピーク位置検出手段からのピーク位
置に基づいて、追跡処理により相関度が最大となる参照
画像データを格納している画像メモリを前記画像メモリ
管理手段を介して参照画像メモリに設定することにより
参照画像データを更新する相関度比較手段を更に有す
る。
【0024】請求項22記載の発明では、請求項20の
発明において、前記ピーク位置検出手段からのピーク位
置に基づいて、追跡処理により参照画像メモリに格納さ
れている参照画像データによる相関度を評価して、相関
度に応じて参照画像データを更新する相関度評価手段を
更に有する。
【0025】請求項23記載の発明では、請求項22の
発明において、前記相関度評価手段は、追跡処理におい
て相関度が所定のしきい値以下となった場合にのみ参照
画像データを最新の参照画像データに更新する。請求項
24記載の発明では、請求項20の発明において、前記
相関度評価手段が追跡処理において相関度が所定のしき
い値以下となったことを検知した場合にのみ、前記ピー
ク位置検出手段からのピーク位置に基づいて、追跡処理
により相関度が最大となる参照画像データを格納してい
る画像メモリを前記画像メモリ管理手段を介して参照画
像メモリに設定することにより参照画像データを更新す
る相関度比較手段を更に有する。
【0026】上記の課題は、請求項25記載の、移動手
段に支持された撮像手段により撮像された入力画像デー
タのうち、追跡処理を施すべき探索画像データを任意の
局所領域に関する参照画像データと比較して、該探索画
像データで表される探索画像内の該任意の局所領域を連
続的に追跡する局所領域画像追跡装置において、少なく
とも該探索画像データ及び該参照画像データを格納する
メモリ手段と、該参照画像データを前記入力画像データ
から自動的に生成する参照画像データ生成手段と、該メ
モリ手段から該探索画像データ及び該参照画像データを
読み出すためのアドレスを発生するアドレス発生手段
と、該メモリ手段から読み出された該探索画像データと
該参照画像データとの間の相関性を相関演算処理により
算出する相関演算手段と、該相関演算手段からの相関値
のピーク位置に基づいて、該移動手段が該撮像手段を該
任意の局所領域を追跡するように移動させる移動指令を
出力する制御手段とを備えた局所領域画像追跡装置によ
っても達成できる。
【0027】請求項26記載の発明では、請求項25の
発明において、前記メモリ手段は前記入力画像データを
格納し、前記参照画像データ生成手段は、予め設定され
た背景画像データと該入力画像データとを比較して、比
較された画像データの不一致の度合いに基づいて該参照
画像データを生成する。
【0028】請求項27記載の発明では、請求項25の
発明において、前記参照画像データ生成手段は、所定時
間間隔をおいた前記入力画像データを夫々複数の領域に
分割し、前記相関演算手段により各分割領域について相
関演算を行わせることにより動きが発生した領域を求
め、該動きが発生した領域の数が所定数を越えたか否か
に基づいて前記参照画像データを生成する。
【0029】請求項28記載の発明では、請求項25〜
27のいずれかの発明において、前記制御手段は、前記
相関値のピーク値が所定値を越えると前記探索画像デー
タのアドレスを前記参照画像データのアドレスとして前
記アドレス発生手段に設定し、該参照画像データの更新
を行う。
【0030】請求項29記載の発明では、請求項25〜
28のいずれかの発明において、前記撮像手段はズーム
手段を有し、前記制御手段は前記任意の局所領域が徐々
に予め設定されたズーム設定値で撮像されるように該ズ
ーム手段のズーム値を制御する。
【0031】請求項30記載の発明では、請求項29の
発明において、前記制御手段は、前記任意の局所領域の
動き及びズーム値に基づいて警報又は入力画像データの
記録開始を示す信号を出力する。請求項31記載の発明
では、請求項25〜30のいずれかの発明において、前
記制御手段は、複数の局所領域に識別用のラベルを付け
る手段と、該ラベルを付けられた複数の局所領域のうち
最も大きな局所領域に対して追跡処理を行わせる手段と
を含む。
【0032】請求項32記載の発明では、請求項25〜
28のいずれかの発明において、前記撮像手段は、夫々
が前記移動手段により移動可能に支持された第1の撮像
装置及びズーム手段を有する第2の撮像装置を含み、前
記制御手段は前記任意の局所領域の追跡を該第1の撮像
装置に行わせると共に、ズーム比に応じて該第2の撮像
装置の方向を制御する移動指令を出力する。
【0033】請求項33記載の発明では、請求項32の
発明において、前記制御手段は、複数の局所領域に識別
用のラベルを付ける手段と、該ラベルを付けられた複数
の局所領域の追跡を前記第1の撮像装置に行わせると共
に各々の局所領域を順番に前記第2の撮像装置でズーム
アップして撮像させる手段とを含む。
【0034】上記の課題は、請求項34記載の、撮像手
段により撮像された入力画像データのうち、追跡処理を
施すべき探索画像データを任意の局所領域に関する参照
画像データと比較して、該探索画像データで表される探
索画像内の該任意の局所領域を連続的に追跡する局所領
域画像追跡装置において、少なくとも該探索画像データ
及び該参照画像データを格納するメモリ手段と、複数の
局所領域に関する参照画像データを前記入力画像データ
から自動的に生成する参照画像データ生成手段と、該複
数の局所領域に識別用のラベルを付けるラベリング手段
と、該メモリ手段から該探索画像データ及び該参照画像
データを読み出すためのアドレスを発生するアドレス発
生手段と、該ラベルを付けられた複数の局所領域の各々
に対して該メモリ手段から読み出された該探索画像デー
タと該参照画像データとの間の相関性を相関演算処理に
より算出する相関演算手段と、該相関演算手段からの相
関値のピーク位置に基づいて該複数の局所領域を追跡す
る制御手段とを備えた局所領域画像追跡装置によっても
達成できる。
【0035】請求項35記載の発明では、請求項34の
発明において、前記メモリ手段は前記入力画像データを
格納し、前記参照画像データ生成手段は、予め設定され
た背景画像データと該入力画像データとを比較して、比
較された画像データの不一致の度合いに基づいて該参照
画像データを生成する。
【0036】請求項36記載の発明では、請求項34の
発明において、前記参照画像データ生成手段は、所定時
間間隔をおいた前記入力画像データを夫々複数の領域に
分割し、前記相関演算手段により各分割領域について相
関演算を行わせることにより動きが発生した領域を求
め、該動きが発生した領域の数が所定数を越えたか否か
に基づいて前記参照画像データを生成する。
【0037】請求項37記載の発明では、請求項34〜
36のいずれかの発明において、前記制御手段は、前記
相関値のピーク値が所定値を越えると前記探索画像デー
タのアドレスを前記参照画像データのアドレスとして前
記アドレス発生手段に設定し、各局所領域に関する参照
画像データの更新を行う。
【0038】請求項38記載の発明では、請求項34〜
37のいずれかの発明において、前記制御手段は、前記
複数の局所領域の動きに基づいて警報又は入力画像デー
タの記録開始を示す信号を出力する。請求項1記載の発
明によれば、複数の相関追跡処理装置を並列に動作させ
ることにより、高速で追跡処理を行える。
【0039】請求項2記載の発明によれば、複数の相関
追跡処理装置を並列に動作させることにより、高速で追
跡処理を行えると共に、追跡処理中の任意の時点で相関
演算に用いる参照画像データを更新することができる。
又、アドレス発生手段を設けることで、1つの相関演算
手段で1フレーム間に複数回の相関演算を実行できる。
更に、参照画像メモリ内の複数の参照画像データについ
ての相関演算や、同一の参照画像データに対して探索画
像メモリ内の複数の領域で相関演算を行うことで探索範
囲を見かけ上広げることもできる。つまり、1フレーム
間に複数回繰り返して追跡処理を行うことができる。
【0040】請求項3記載の発明によれば、追跡処理中
の任意の時点で相関演算に用いる参照画像データを更新
することができる。請求項4記載の発明によれば、複数
の参照画像データを画像メモリに格納することができ
る。
【0041】請求項5記載の発明によれば、現存のLS
I化された相関演算手段等を用いることができ、好都合
である。請求項6記載の発明によれば、探索画像データ
及び参照画像データの読み出しと相関演算とを並列に行
えるので、追跡処理のより高速化が可能である。
【0042】請求項7記載の発明によれば、制御計算機
により複数の相関追跡処理装置を一括して制御して各種
追跡処理管理することができる。請求項8記載の発明に
よれば、制御計算機は制御計算機インタフェースを介し
て各種制御を行うことができると共に、制御計算機イン
タフェースを介して各種情報を相関追跡処理装置から読
み出すことができる。
【0043】請求項9記載の発明によれば、制御計算機
から参照画像データの更新を任意の時点で行える。請求
項10記載の発明によれば、制御計算機から探索画像内
の局所領域を任意の時点で指示することができるので、
1フレーム間に複数の参照画像データについて複数回の
相関演算を行う場合にも好都合である。
【0044】請求項11記載の発明によれば、制御計算
機から任意の時点で各相関追跡処理装置でえられた相関
値やピーク位置等の情報を読み出すことができる。請求
項12記載の発明によれば、探索画像データ及び参照画
像データの読み出しと相関演算とを並列に行えるので、
追跡処理のより高速化が可能である。
【0045】請求項13記載の発明によれば、制御計算
機インタフェースは制御計算機からの指示を順次格納す
るので、各相関追跡処理装置では格納された複数の指示
に従って複数の追跡処理を一括して制御計算機の介在な
しに行える。請求項14記載の発明によれば、制御計算
機から任意の時点で各相関追跡処理装置でえられた相関
値やピーク位置等の情報を読み出すことができる。
【0046】請求項15記載の発明によれば、複数回の
追跡処理の夫々で得られる相関値分布を順次加算するこ
とができる。請求項16記載の発明によれば、制御計算
機にから、複数回の追跡処理の夫々で得られる相関値分
布を順次加算するか否かを制御することができる。
【0047】請求項17記載の発明によれば、任意倍の
参照画像について追跡処理を行うことができる。請求項
18記載の発明によれば、相関追跡処理装置としては例
えば現存のものを用いて、入力側で必要ばビット数変換
を行うことができる。
【0048】請求項19記載の発明によれば、簡単な手
段で疑似カラー画像データを各相関追跡処理装置に入力
することができる。請求項20記載の発明によれば、追
跡処理の信頼性を向上することができる。請求項21記
載の発明によれば、参照画像データの履歴に基づいて参
照画像データを更新することができる。
【0049】請求項22記載の発明によれば、参照画像
データを、入力画像データとの相関度の高いものに更新
することができる。請求項23記載の発明によれば、入
力画像データとの相関度が低くなると、参照画像データ
を最新の参照画像データに更新することができる。
【0050】請求項24記載の発明によれば、入力画像
データとの相関度が低くなると、参照画像データを、入
力画像データとの相関度の高いものに更新することがで
きる。請求項25記載の発明によれば、撮像手段で撮像
された入力画像中の移動物体を自動的に検知して追跡処
理を行うことができるので、監視システムや防犯システ
ム等を自動化することができる。
【0051】請求項26記載の発明によれば、比較的簡
単な構成を用いて移動物体を検知することができる。請
求項27記載の発明によれば、物体の動きを検知するた
めの専用の部分を設けることなく、相関演算手段を用い
て移動物体を検知可能である。
【0052】請求項28記載の発明によれば、たとえ移
動物体の見え方が変化しても、参照画像データを順次更
新することにより良好に移動物体を追跡することができ
る。請求項29記載の発明によれば、移動物体を追跡し
てそのズームアップされた画像を捉えることができるの
で、特に防犯システム等に好適である。
【0053】請求項30記載の発明によれば、ビデオレ
コーダを接続することにより、監視するべき領域の要所
要所を自動的に記録しておくことができる。請求項31
記載の発明によれば、複数の移動物体のうち最も大きな
移動物体を自動的に追跡することができる。
【0054】請求項32記載の発明によれば、移動物体
の追跡とそのズームアップ撮像とを2つの撮像装置に分
担させているので、より正確な追跡処理及び移動物体の
撮像を行うことができる。請求項33記載の発明によれ
ば、複数の移動物体を追跡しながら各移動物体のズーム
アップ撮像を同時に行うことができる。
【0055】請求項34記載の発明によれば、単一の、
且つ、固定の撮像装置を用いても、複数の移動物体を良
好に追跡して撮像することが可能である。請求項35記
載の発明によれば、比較的簡単な構成を用いて移動物体
を検知することができる。
【0056】請求項36記載の発明によれば、物体の動
きを検知するための専用の部分を設けることなく、相関
演算手段を用いて移動物体を検知可能である。請求項3
7記載の発明によれば、たとえ移動物体の見え方が変化
しても、参照画像データを順次更新することにより良好
に移動物体を追跡することができる。
【0057】請求項38記載の発明によれば、ビデオレ
コーダを接続することにより、監視するべき領域の要所
要所を自動的に記録しておくことができる。従って、本
発明によれば、高速で追跡処理を行え、追跡処理中の任
意の時点で相関演算に用いる参照画像データを更新する
ことができると共に、追跡処理の信頼性を向上すること
ができる。
【0058】
【発明の実施の形態】以下に、本発明の実施の形態を、
各種実施例を例にとって説明する。
【0059】
【実施例】先ず、本発明になる局所領域画像追跡装置の
第1実施例を図1〜図9と共に説明する。図1は、局所
領域画像追跡装置の第1実施例の概略構成を示すブロッ
ク図である。
【0060】図1中、局所領域画像追跡装置は大略カメ
ラ等の撮像装置1と、A/D変換器を含む画像入力装置
2と、画像データバス3を介して画像入力装置2に接続
された複数の相関追跡処理装置4−1〜4−Mとからな
る。つまり、複数の相関追跡処理装置4−1〜4−M
が、画像データバス3を介して画像入力装置2に対して
並列に接続されている。相関追跡処理装置4−1〜4−
Mは、夫々同一の構成を有する。
【0061】撮像装置1により撮像された画像に関する
画像データは、画像入力装置2によりディジタル画像デ
ータに変換され、画像データバス3のフレーム同期信号
線、ピクセルクロック信号線及び画像データ信号線を介
して各相関追跡処理装置4−1〜4−Mに供給される。
ピクセルクロック信号線上を転送されるプクセルクロッ
クと、画像データ信号線上を転送される画像データとの
タイミングは、例えば図2に示す如き関係となってい
る。各相関追跡処理装置4−1〜4−Mは、ピクセルク
ロックの立上りエッジに応答して各画素(ピクセル)デ
ータをラッチして対応する画像メモリ内に格納する。
【0062】相関追跡処理装置4−1〜4−Mのうち、
任意の相関追跡処理装置を選択的に並列動作させること
により、追跡処理を高速に行うことができる。各相関追
跡処理装置4−1〜4−Mでは、画像メモリを選択的に
切り換えて使用することにより、画像メモリへの書き込
みと、画像メモリからの読み出し及び相関演算とを並列
に実行することにより、画像データの各フレーム毎の追
跡処理を行うことができる。
【0063】図3は、本実施例における相関追跡処理装
置4の構成を示すブロック図である。同図中、相関追跡
処理装置4は、画像データバス3に接続された画像入力
制御部5と、探索画像メモリ6と、参照画像メモリ7
と、相関演算器8とからなる。画像入力制御部5と、探
索画像メモリ6と、参照画像メモリ7と相関演算器8と
は、全て1枚の基板上に設けられている。
【0064】撮像装置1により撮像された画像に関する
アナログ画像データは、画像入力装置2によりディジタ
ル画像データに変換され、相関追跡処理装置4の画像入
力制御部5を介して順次探索画像メモリ6に格納され
る。参照画像メモリ7には、予め追跡するべき所定物体
に関する参照画像データが格納されている。相関演算器
8は、相関演算を行うことにより、探索画像メモリ6内
の画像データと参照画像メモリ7内の参照画像データの
間の相関性を示す相関値を求める。この相関値のピーク
位置、即ち、撮像画面中で相関性の最も高い位置は、相
関値ピーク位置検出器(図示せず)により検出される。
従って、相関値ピーク位置検出器からは、常に相関値の
ピーク位置が得られ、このピーク位置に基づいて撮像画
面内の所定物体を実時間で追跡することができる。
【0065】相関演算器8は、探索画像メモリ6内の画
像データと参照画像メモリ7内の参照画像データに対し
て次のような演算を施す。ここで、説明の便宜上、参照
画像を図4に示すように8画素×8画素とし、参照画像
内の画素値をXi,j と表すものとする。この場合、相関
演算器8は、例えば図5に示す16画素×16画素の探
索画像に対して、図6に示すように、探索画像内の参照
画像と同じ大きさの部分領域画像と次式の演算を行う。
尚、次式中、Yi,j は探索画像内の画素値を表し、D
m,n は2つの画像がどのくらい似ているかを数値で表す
相関値を示し、m=0〜7、n=0〜7である。
【0066】
【数1】
【0067】上記の式中、Dm,n の値は、2つの画像が
似ている程小さくなる。図7は参照画像の一例を示し、
図8は探索画像の一例を示す。又、図9は、図7の参照
画像及び図8の探索画像に対して相関演算器8が相関演
算を行った結果を示す。この例では、m=5,n=4で
m,n が最小値となっており、この位置にある部分領域
画像が参照画像と最も似ていることを表している。
【0068】このように、画像の相関演算は、参照画像
に最も似ている箇所を探し出すことができるので、この
相関演算処理を動画像に対して毎フレーム行うことで、
画面内の運動物体を追跡することができる。尚、上記の
式で表される相関演算処理を行う相関演算器8は、16
画素×16画素の参照画像について32画素×32画素
の探索画像内の256個の部分領域画像と相関演算を行
って相関値を求める程度のものであれば、相関値のピー
ク位置の検出を行うピーク位置検出器を含めても、既に
大規模集積回路(LSI)化されており、相関演算処理
に要する計算は500μs以下で行うことが可能であ
る。一例として、相関演算器8には、エス・ジー・エス
・トムソン社製のSTI3220を使用することができ
る。従って、本実施例の如く参照画像の大きさを16画
素×16画素とすることで、1フレーム期間に50回〜
70回の相関演算を行うことのできる小規模で高速な局
所領域画像追跡装置を構成できる。
【0069】又、追跡するべき物体の数が多くても、各
物体に対して行うべき相関演算等を複数の相関追跡処理
装置4−1〜4−Mで分散して並列に行うことができる
ので、追跡するべき物体の数に拘らず高速な追跡処理が
可能である。次に、本発明になる局所領域画像追跡装置
の第2実施例を図10〜16と共に説明する。本実施例
では、第1実施例と同様に、図1に示す基本構成を用い
る。
【0070】図10は、本実施例における相関追跡処理
装置4の構成を示すブロック図である。同図中、相関追
跡処理装置4は、セレクタ11,17,18と、画像メ
モリ12−1,12−2,12−3と、アドレスセレク
タ15,16と、メモリ選択器19と、参照画像アドレ
ス発生器20と、探索画像アドレス発生器21と、相関
演算器22と、ピーク位置検出器23とからなる。本実
施例では、3つの画像メモリ12−1〜12−3を切り
換えて使用することにより、毎フレームでの追跡処理、
毎フレームでの探索画像入力及び任意フレーム間隔での
参照画像の更新を可能とするものである。
【0071】セレクタ11には、画像データバス3の画
像データ信号線から得られる8ビットの入力画像データ
が供給される。セレクタ11は、メモリ選択器19から
の2ビットの入力メモリ選択信号に基づいて、8ビット
の入力画像データを3つの画像メモリ12−1〜12−
3のうち選択された1つの画像メモリに供給する。
【0072】図11は、メモリ選択器19の一実施例を
示すブロック図である。同図中、メモリ選択器19は、
定数ROM31と、コンパレータ32と、フレームカウ
ンタ33と、ラッチ回路34と、インバータ35と、フ
リップフロップ36と、ROM37とからなる。
【0073】定数ROM31には、予め参照画像を切り
換える間隔を示す定数が格納されている。他方、画像デ
ータバス3のフレーム同期信号線から得られるフレーム
同期信号は、インバータ35を介してフレームカウンタ
33及びフリップフロップ36のクロック入力端子に供
給される。従って、フレームカウンタ33は、インバー
タ35からの反転フレーム同期信号をカウントして、カ
ウント値をコンパレータ32に供給する。コンパレータ
32は、定数ROM31からの定数とフレームカウンタ
33からのカウント値とを比較し、一致すると切り換え
パルスを出力する。この切り換えパルスは、参照画像メ
モリの切り換えを起動する信号であり、図10の参照画
像アドレス発生器20に供給されると共に、ラッチ回路
34及びフリップフロップ36のクリア端子にも供給さ
れる。
【0074】フリップフロップ36のQバー(/Q)出
力は、そのデータ入力端子Dに供給され、Q出力は、R
OM37アドレス信号のうち1ビットとしてROM37
に供給される。ROM37には、ラッチ回路34からR
OM37のアドレス信号の残りの4ビットが供給され
る。ROM37には、予め画像メモリ12−1〜12−
3の選択に関する選択データが格納されており、5ビッ
トのアドレス信号により指定されたアドレスから読み出
された選択データは、2ビットの入力画像メモリ選択信
号と、2ビットの探索画像メモリ選択信号と、2ビット
の参照画像メモリ選択信号として出力される。入力画像
メモリ選択信号は、画像メモリ12−1〜12−3のう
ちどの画像メモリを入力画像データを格納する入力画像
メモリとして使用するかを決定する。同様に、探索画像
メモリ選択信号は、画像メモリ12−1〜12−3のう
ちどの画像メモリを探索画像データを格納する探索画像
メモリとして使用するかを決定し、参照画像メモリ選択
信号は、画像メモリ12−1〜12−3のうちどの画像
メモリを参照画像データを格納する参照画像メモリとし
て使用するかを決定する。
【0075】2ビットの入力画像メモリ選択信号と2ビ
ットの探索画像メモリ選択信号とは、ラッチ回路34を
介してROM37に上記アドレス信号の残りの4ビット
として供給される。又、2ビットの入力画像メモリ選択
信号はセレクタ11に供給され、2ビットの探索画像メ
モリ選択信号はアドレスセレクタ15及びセレクタ18
に供給され、2ビットの参照画像メモリ選択信号はアド
レスセレクタ16及びセレクタ17に供給される。
【0076】図12は、ROM37に供給される5ビッ
トのアドレス信号を示す図である。同図に示すように、
アドレス信号はビットA0〜A4からなる。ビットA0
は、フリップフロップ36からの信号に対応している。
又、ビットA1,A2は、ラッチ回路34を介して得ら
れる2ビットの探索画像メモリ選択信号に対応してお
り、ビットA3,A4は、ラッチ回路34を介して得ら
れる2ビットの入力画像メモリ選択信号に対応してい
る。ビットA0が「0」か「1」かに応じて、参照画像
メモリ以外の2つの画像メモリへ交互に画像を入力する
ように画像メモリ12−1〜12−3の切り換えが行わ
れる。
【0077】図13は、ROM37に供給される5ビッ
トのアドレス信号(ROMアドレス)の値と、ROMア
ドレスに応じてROM37から読み出される選択デー
タ、即ち、2ビットの入力画像メモリ選択信号、2ビッ
トの探索画像メモリ選択信号及び2ビットの参照画像メ
モリ選択信号の値との関係を示す図である。例えば、R
OMアドレスの値が「2」の場合、入力画像メモリ選択
信号の値が「2」、探索画像メモリ選択信号の値が
「0」、参照画像メモリ選択信号の値が「1」である。
この例では、画像メモリ選択信号の値が「0」のときに
画像メモリ12−1が選択され、「1」のときに画像メ
モリ12−2が選択され、「2」のときに画像メモリ1
2−3が選択される。従って、ROMアドレスが「2」
の場合は、画像メモリ12−3が入力画像メモリとして
選択され、画像メモリ12−1が探索画像メモリとして
選択され、画像メモリ12−2が参照画像メモリとして
選択される。つまり、図10のセレクタ11は、入力画
像メモリ選択信号の値が「0」、「1」又は「2」であ
るかに応じて画像データを画像メモリ12−1、12−
2又は12−3に選択的に供給する。尚、図13は言う
までもなく全ての関係を示すものではなく、一部分のみ
を示すものである。
【0078】図10のアドレスセレクタ15は、探索画
像アドレス発生器21から発生された18ビットの探索
画像アドレスを、メモリ選択器19からの探索画像メモ
リ選択信号に基づいて、画像メモリ12−1〜12−3
のうち探索画像メモリとして選択された画像メモリに供
給する。又、アドレスセレクタ16は、参照画像アドレ
ス発生器20から発生された18ビットの参照画像アド
レスを、メモリ選択器19からの参照画像メモリ選択信
号に基づいて、画像メモリ12−1〜12−3のうち参
照画像メモリとして選択された画像メモリに供給する。
【0079】画像メモリ12−1〜12−3から読み出
された画像データは、セレクタ17,18の各々に供給
される。上述の如く、セレクタ17にはメモリ選択器1
9からの探索画像メモリ選択信号が供給され、セレクタ
19にはメモリ選択器19からの参照画像メモリ選択信
号が供給されている。従って、セレクタ17,18は、
画像メモリ12−1〜12−3から読み出された画像デ
ータのうち、探索画像データ及び参照画像データのみを
選択して相関演算器22に供給する。相関演算器22
は、上記第1実施例の場合と同様にして相関演算処理を
行って相関値を求める。相関値は、相関演算器22から
ピーク位置検出器23に供給され、ピーク位置検出器2
3で相関値のピーク位置が検出される。ピーク位置検出
器23は、ピーク位置を示す18ビットのピーク位置ア
ドレスを出力するので、このピーク位置アドレスに基づ
いて撮像画面内の所定物体を実時間で追跡することがで
きる。尚、ピーク位置検出器23から出力される18ビ
ットのピーク位置アドレスは、参照画像アドレス発生器
20及び探索画像アドレス発生器21に供給される。
【0080】図14は、探索画像アドレス発生器21の
一実施例を示すブロック図である。同図中、探索画像ア
ドレス発生器21は、定数ROM41,43,47,4
9と、加算器42,46,48,52と、Xアドレスカ
ウンタ44と、コンパレータ45,51と、Yアドレス
カウンタ50とからなる。
【0081】定数ROM41には、予め9ビットのXア
ドレス最小値(オフセット値)が格納されている。加算
器42は、図10のピーク位置検出器23からの18ビ
ットのピーク位置アドレスのうち、画像データのXアド
レスに関する9ビットと定数ROM41から読み出され
た9ビットのXアドレス最小値とを加算して、9ビット
の加算値を加算器46に供給する。Xアドレスカウンタ
44は、画像データバス3のピクセルクロック信号線か
ら得られるピクセルクロックをカウントして、9ビット
のカウント値を加算器46及びコンパレータ45に供給
する。ピクセルクロックは、画像データを構成する各ピ
クセル(画素)に対応して発生されるクロック信号であ
る。
【0082】他方、定数ROM43には、予めXサイズ
が9ビットで格納されている。このXサイズは、探索画
像のX方向のサイズ(大きさ)を示す。コンパレータ4
5は、定数ROM43から読み出されたXサイズとXア
ドレスカウンタ44からのカウント値とを比較して、一
致すると一致信号を出力する。この一致信号は、Xアド
レスカウンタ44のクリア端子に供給されてこれをクリ
アすると共に、Yアドレスカウンタ50にも供給され
る。
【0083】Yアドレスカウンタ50は、一致信号をカ
ウントして、9ビットのカウント値を加算器52及びコ
ンパレータ51に供給する。定数ROM47には、予め
9ビットのYアドレス最小値(オフセット値)が格納さ
れている。加算器48は、図10のピーク位置検出器2
3からの18ビットのピーク位置アドレスのうち、画像
データのYアドレスに関する9ビットと定数ROM47
から読み出された9ビットのYアドレス最小値とを加算
して、9ビットの加算値を加算器52に供給する。定数
ROM49には、予めYサイズが9ビットで格納されて
いる。このYサイズは、探索画像のY方向のサイズ(大
きさ)を示す。コンパレータ51は、定数ROM49か
ら読み出されたYサイズとYアドレスカウンタ50から
のカウント値とを比較して、一致すると一致信号を出力
する。この一致信号は、Yアドレスカウンタ50のクリ
ア端子に供給されてこれをクリアする。
【0084】このようにして、加算器46からは探索画
像アドレスの9ビットの下位アドレスが得られ、加算器
52からは探索画像アドレスの9ビットの上位アドレス
が得られる。加算器46,52からの合計18ビットの
探索画像アドレスは、図10のアドレスセレクタ15に
供給される。
【0085】図15は、参照画像アドレス発生器20の
一実施例を示すブロック図である。同図中、参照画像ア
ドレス発生器20は、ラッチ回路55と、定数ROM5
6,58,62,64と、セレクタ57,63と、Xア
ドレスカウンタ59と、コンパレータ60,66と、Y
アドレスカウンタ65と、加算器61,67とからな
る。
【0086】ラッチ回路55には、図10のメモリ選択
器19からの切り換えパルスが供給され、このラッチ回
路55の出力はセレクタ57,63に供給される。定数
ROM56には、予め9ビットのXアドレス最小値が格
納されている。又、定数ROM62には、予め9ビット
のYアドレス最小値が格納されている。セレクタ57に
は、図10のピーク位置検出器23からの18ビットの
ピーク位置アドレスのうち、画像データのXアドレスに
関する9ビットが供給される。又、セレクタ63には、
ピーク位置検出器23からの18ビットのピーク位置ア
ドレスのうち、画像データのYアドレスに関する9ビッ
トが供給される。セレクタ57は、定数ROM56から
のXアドレス最小値とピーク位置アドレス中Xアドレス
とのうち一方を、ラッチ回路55の出力に応じて加算器
61へ選択出力する。セレクタ63は、定数ROM62
からのYアドレス最小値とピーク位置アドレス中Yアド
レスとのうち一方を、ラッチ回路55の出力に応じて加
算器67へ選択出力する。
【0087】Xアドレスカウンタ59は、画像データバ
ス3のピクセルクロック信号線から得られるピクセルク
ロックをカウントして、9ビットのカウント値を加算器
61及びコンパレータ60に供給する。他方、定数RO
M58には、予めXサイズが9ビットで格納されてい
る。このXサイズは、参照画像のX方向のサイズ(大き
さ)を示す。コンパレータ60は、定数ROM58から
読み出されたXサイズとXアドレスカウンタ59からの
カウント値とを比較して、一致すると一致信号を出力す
る。この一致信号は、Xアドレスカウンタ59のクリア
端子に供給されてこれをクリアすると共に、Yアドレス
カウンタ65にも供給される。
【0088】Yアドレスカウンタ65は、一致信号をカ
ウントして、9ビットのカウント値を加算器67及びコ
ンパレータ66に供給する。定数ROM64には、予め
Yサイズが9ビットで格納されている。このYサイズ
は、参照画像のY方向のサイズ(大きさ)を示す。コン
パレータ66は、定数ROM64から読み出されたYサ
イズとYアドレスカウンタ65からのカウント値とを比
較して、一致すると一致信号を出力する。この一致信号
は、Yアドレスカウンタ65のクリア端子に供給されて
これをクリアする。
【0089】このようにして、加算器61からは参照画
像アドレスの9ビットの下位アドレスが得られ、加算器
67からは参照画像アドレスの9ビットの上位アドレス
が得られる。加算器61,67からの合計18ビットの
参照画像アドレスは、図10のアドレスセレクタ16に
供給される。
【0090】上記の如く、本実施例では、参照画像を固
定して入力画像に対して追跡処理を行う場合、参照画像
用に選択した画像メモリ以外の画像メモリの1つを探索
画像用として選択し、残りの1つを入力画像用として選
択する。相関演算器22での相関演算は、入力を完了し
ている最新の入力画像を探索画像として使用する。又、
現フレームで探索画像メモリとして使用した画像メモリ
を次のフレーム以降では参照画像メモリとして使用する
ことにより、参照画像の更新を行うことができる。参照
画像の更新直後のフレームでは、その前のフレームで画
像入力メモリとして使用していた画像メモリを探索画像
メモリとして使用し、前のフレームまでは参照画像メモ
リとして使用していた画像メモリを入力画像メモリとし
て使用する。これにより、3つの画像メモリ12−1〜
12−3を切り換えて使用することにより、毎フレーム
での追跡処理、毎フレームでの探索画像入力及び任意フ
レーム間隔での参照画像の更新を可能とするものであ
る。
【0091】図16は、本実施例における画像メモリ1
2−1〜12−3の切り換えを説明する図である。同図
中、□印は画像メモリが参照画像データを格納している
ことを示し、○印は画像メモリが探索画像データを格納
していることを示し、太い実線は画像メモリが入力画像
データを格納していることを示す。又、矢印SW1,S
W2は、図10のメモリ選択器19からの切り換えパル
スに基づいて参照画像メモリが切り換えられる時点を示
し、SW1は参照画像メモリを画像メモリ12−1から
画像メモリ12−2に変更するタイミング、SW2は参
照画像メモリを画像メモリ12−2から画像メモリ12
−3に変更するタイミングを示す。
【0092】次に、本発明になる局所領域画像追跡装置
の第3実施例を図17〜21と共に説明する。本実施例
では、第1実施例と同様に、図1に示す基本構成を用い
る。図17は、本実施例における相関追跡処理装置4の
構成を示すブロック図である。同図中、図10と同一部
分には同一符号を付し、その説明は省略する。
【0093】本実施例では、図17に示すように、Nを
4以上の整数とすると、N個の画像メモリ12−1〜1
2−Nが設けられている。又、メモリ選択器19Aは、
nビットの入力画像メモリ選択信号と、nビットの探索
画像メモリ選択信号と、nビットの参照画像メモリ選択
信号を出力する。その他の部分は、図10に示す構成と
同じである。尚、本実施例では2n-1 <N−1<2n
ある。
【0094】図18は、図17のメモリ選択器19Aの
一実施例を示すブロック図である。図18中、図11と
同一部分には同一符号を付し、その説明は省略する。図
18に示すメモリ選択器19Aにおいて、ROMアドレ
スは3n+1ビットで、ROM37は各nビットの入力
画像メモリ選択信号と、探索画像メモリ選択信号と、参
照画像メモリ選択信号とを出力する。更に、ラッチ回路
34には、ROM37からのnビットの入力画像メモリ
選択信号も供給される。これらの点を除いて、図18の
メモリ選択器19Aの動作は、図11のメモリ選択器1
9の動作と基本的には同じである。
【0095】図19は、図18のROM37に供給され
る3n+1ビットのアドレス信号を示す図である。同図
に示すように、アドレス信号はビットA0〜A3nから
なる。ビットA0は、フリップフロップ36からの信号
に対応している。又、ビットA1〜Anは、ラッチ回路
34を介して得られるnビットの入力画像メモリ選択信
号に対応しており、ビットAn+1〜A2nは、ラッチ
回路34を介して得られるnビットの探索画像メモリ選
択信号に対応しており、ビットA2n+1〜A3nは、
ラッチ回路34を介して得られるnビットの参照画像メ
モリ選択信号に対応している。ビットA0が「0」か
「1」かに応じて、参照画像メモリ以外の2つの画像メ
モリへ交互に画像を入力するように画像メモリ12−1
〜12−Nの切り換えが行われる。
【0096】図20は、図18のROM37に供給され
る3n+1ビットのアドレス信号(ROMアドレス)の
値と、ROMアドレスに応じてROM37から読み出さ
れる選択データ、即ち、nビットの入力画像メモリ選択
信号、nビットの探索画像メモリ選択信号及びnビット
の参照画像メモリ選択信号の値との関係を示す図であ
る。ここでは、説明の便宜上、n=3でN=6の場合を
示す。例えば、ROMアドレスの値が「34」の場合、
入力画像メモリ選択信号の値が「3」、探索画像メモリ
選択信号の値が「1」、参照画像メモリ選択信号の値が
「2」である。この例では、画像メモリ選択信号の値が
「0」のときに画像メモリ12−1が選択され、「1」
のときに画像メモリ12−2が選択され、「2」のとき
に画像メモリ12−3が選択され、画像メモリ選択信号
の値が「3」のときに画像メモリ12−4が選択され
る。従って、ROMアドレスが「34」の場合は、画像
メモリ12−4が入力画像メモリとして選択され、画像
メモリ12−2が探索画像メモリとして選択され、画像
メモリ12−3が参照画像メモリとして選択される。つ
まり、図17のセレクタ11は、入力画像メモリ選択信
号の値が「0」、「1」、...又は「N−1」である
かに応じて画像データを画像メモリ12−1、12−
2、...又は12−Nに選択的に供給する。尚、図1
3は言うまでもなく全ての関係を示すものではなく、一
部分のみを示すものである。
【0097】上記の如く、本実施例では、参照画像を固
定して入力画像に対して追跡処理を行う場合、参照画像
用に選択した画像メモリ以外の画像メモリの1つを探索
画像用として選択し、さらに他の1つを入力画像用とし
て選択する。相関演算器22での相関演算は、入力を完
了している最新の入力画像を探索画像として使用する。
又、現フレームで探索画像メモリとして使用した画像メ
モリを次のフレーム以降では参照画像メモリとして使用
することにより、参照画像の更新を行うことができる。
参照画像の更新直後のフレームでは、その前のフレーム
で画像入力メモリとして使用していた画像メモリを探索
画像メモリとして使用し、前のフレームまでは参照画像
メモリとして使用していた画像メモリを入力画像メモリ
として使用することもできる。これにより、N個の画像
メモリ12−1〜12−Nを切り換えて使用することに
より、毎フレームでの追跡処理、毎フレームでの探索画
像入力及び任意フレーム間隔での参照画像の更新を可能
とするものである。
【0098】更に、参照画像を更新する場合、前のフレ
ームで参照画像メモリとして使用していた画像メモリ
を、選択されていない画像メモリであって参照画像デー
タを格納していない画像メモリに置き換えることができ
る。選択されていない画像メモリの全てに過去の参照画
像データが格納されている場合には、最も古い参照画像
データが格納されている画像メモリに置き換えることが
できる。又、メモリ選択器19Aは、参照画像データが
格納されている画像メモリを、任意のフレームで、その
時点で参照画像メモリとして使用している画像メモリと
置き換える機能も有する。従って、参照画像の候補を複
数格納しておくことができると共に、過去に更新した参
照画像の中から最も相関値の高い参照画像を選択して使
用することにより、安定度の高い追跡処理を行うことが
できる。
【0099】図21は、本実施例における画像メモリ1
2−1〜12−Nの切り換えを説明する図である。同図
中、□印は画像メモリが参照画像データを格納している
ことを示し、○印は画像メモリが探索画像データを格納
していることを示し、太い実線は画像メモリが入力画像
データを格納していることを示す。又、矢印SW1,S
W2は、図17のメモリ選択器19Aからの切り換えパ
ルスに基づいて参照画像メモリが切り換えられる時点を
示し、SW1は参照画像メモリを画像メモリ12−iか
ら画像メモリ12−jに変更するタイミング、SW2は
参照画像メモリを画像メモリ12−jから画像メモリ1
2−kに変更するタイミングを示す。尚、i,j,kは
夫々1〜Nの間の互いに異なる整数である。
【0100】次に、本発明になる局所領域画像追跡装置
の第4実施例を図22と共に説明する。本実施例では、
第1実施例と同様に、図1に示す基本構成を用いる。図
22は、本実施例における相関追跡処理装置4の構成を
示すブロック図である。同図中、図17と同一部分には
同一符号を付し、その説明は省略する。
【0101】本実施例では、図22に示すように、セレ
クタ17と相関演算器22との間にファースト・イン・
ファースト・アウト(FIFO)68が設けられ、セレ
クタ18と相関演算器22との間にFIFO69が設け
られている。セレクタ18,19からの探索画像データ
及び参照画像データは、対応するFIFO68,69に
供給され、順次これらのFIFO68,69に格納され
る。相関演算器22は、FIFO68,69内に読み出
せる探索画像データ及び参照画像データが存在すると起
動されて、探索画像データ及び参照画像データをFIF
O68,69から読み出して相関演算を行う。
【0102】本実施例によれば、セレクタ17,18に
よる探索画像データ及び参照画像データの抽出、即ち、
画像メモリ12−1〜12−Nからの読み出しと、相関
演算器22による探索画像データ及び参照画像データに
対する相関演算処理とが並行して行えるので、追跡処理
速度を更に向上することができる。
【0103】次に、本発明になる局所領域画像追跡装置
の第5実施例を図23〜26と共に説明する。図23
は、局所領域画像追跡装置の第5実施例の概略構成を示
すブロック図である。図23中、局所領域画像追跡装置
は大略カメラ等の撮像装置1と、A/D変換器を含む画
像入力装置2と、画像データバス3を介して画像入力装
置2に接続された複数の相関追跡処理装置4−1〜4−
Mと、制御計算機70と、制御計算機バス71とからな
る。つまり、複数の相関追跡処理装置4−1〜4−M
が、画像データバス3を介して画像入力装置2に対して
並列に接続されると共に、制御計算機バス71を介して
制御計算機70に対して並列に接続されている。相関追
跡処理装置4−1〜4−Mは、夫々同一の構成を有す
る。
【0104】撮像装置1により撮像された画像に関する
画像データは、画像入力装置2によりディジタル画像デ
ータに変換され、画像データバス3のフレーム同期信号
線、ピクセルクロック信号線及び画像データ信号線を介
して各相関追跡処理装置4−1〜4−Mに供給される。
ピクセルクロック信号線上を転送されるピクセルクロッ
クと、画像データ信号線上を転送される画像データとの
タイミングは、例えば図2に示す如き関係となってい
る。各相関追跡処理装置4−1〜4−Mは、ピクセルク
ロックの立上りエッジに応答して各画素(ピクセル)デ
ータをラッチして対応する画像メモリ内に格納する。
【0105】相関追跡処理装置4−1〜4−Mのうち、
任意の相関追跡処理装置を選択的に並列動作させること
により、追跡処理を高速に行うことができる。各相関追
跡処理装置4−1〜4−Mでは、画像メモリを選択的に
切り換えて使用することにより、画像メモリへの書き込
みと、画像メモリからの読み出し及び相関演算とを並列
に実行することにより、画像データの各フレーム毎の追
跡処理を行うことができる。
【0106】制御計算機70は、制御計算機バス71を
介して相関追跡処理装置4−1〜4−Mに対して各種制
御を行う。制御計算機70が相関追跡処理装置4−1〜
4−Mに対して行う制御としては、例えば参照画像の更
新に関する制御、画像メモリの選択や切り換えに関する
制御等がある。後述する如く、相関追跡処理装置4−1
〜4−Mは、夫々各種制御レジスタが設けられた制御計
算機インタフェースを有し、各相関追跡処理装置4−1
〜4−Mの動作は、各自の制御計算機インタフェース内
の制御レジスタに設定された値に基づいて制御される。
各制御計算機インタフェース内の制御レジスタは、制御
計算機バス71の異なるアドレス空間にマップされてお
り、制御計算機70が所定のアドレス空間にアクセスす
ることにより各制御計算機インタフェース内の制御レジ
スタに対して書き込み及び読みだしが行われる。つま
り、制御レジスタに設定する値は、制御計算機70から
自由に設定可能である。又、制御計算機70は、制御計
算機バス71を介して得られる各相関追跡処理装置4−
1〜4−Mからの相関値のピーク位置を管理して、1又
は複数の運動物体を容易に追跡することができる。
【0107】尚、制御計算機バス71としては、例えば
VME規格のバスを使用でき、この場合はVMEバス仕
様のボードコンピュータを制御計算機70として使用す
る。図24は、本実施例における相関追跡処理装置4の
構成を示すブロック図である。同図中、図17と同一部
分には同一符号を付し、その説明は省略する。
【0108】本実施例では、図24に示すように、制御
計算機インタフェース(I/F)74が設けられてい
る。この制御計算機I/F74は、制御計算機バス71
を介して制御計算機70と接続されている。又、制御計
算機I/F74は、メモリ選択器19Bにも接続されて
いる。
【0109】図25は、メモリ選択器19Bの一実施例
を制御計算機I/F74の一部と共に示すブロック図で
ある。同図中、図18と同一部分には同一符号を付し、
その説明は省略する。図25において、メモリ選択器1
9Bは、図18のコンパレータ32及びフレームカウン
タ33の代わりに、ラッチ回路76を有する。このラッ
チ回路76には、制御計算機I/F74内の制御レジス
タ77に格納された更新指示フラグRNが供給されてい
る。更新指示フラグRNは、制御計算機70から制御計
算機バス71を介してセットでき、セットされていると
メモリ選択器19Bに参照画像の更新を指示する。ラッ
チ回路76には、インバータ35を介して得られる反転
フレーム同期信号も供給されており、図26に示すよう
に、更新指示フラグRNがセットされている状態でフレ
ーム同期信号が立ち下がると、この立ち下りエッジに応
答して切り換えパルスを出力する。尚、制御計算機I/
F74の制御レジスタ77には、更新指示フラグRNの
他にも各種フラグが格納されているが、本発明の要旨と
は直接関係がないので、その図示及び説明は省略する。
【0110】次に、本発明になる局所領域画像追跡装置
の第6実施例を図27及び図28と共に説明する。本実
施例では、第5実施例と同様に、図23に示す基本構成
を用いる。図27は、本実施例における相関追跡処理装
置4の構成を示すブロック図である。同図中、図22及
び図24と同一部分には同一符号を付し、その説明は省
略する。
【0111】本実施例では、参照画像アドレス発生器2
0B及び探索画像アドレス発生器21Bが、夫々制御計
算機I/F74B及び制御計算機バス71を介して制御
計算機70に接続されている。これにより、参照画像ア
ドレス発生器20B及び探索画像アドレス発生器21B
は、制御計算機70からの指示に従って参照画像アドレ
ス及び探索画像アドレスを発生できる。
【0112】図28は、参照画像アドレス発生器20
B、探索画像アドレス発生器21B及び制御計算機I/
F74Bの要部を示すブロック図である。同図中、図1
4及び図15と同一部分には同一符号を付し、その説明
は省略する。図28に示すように、参照画像アドレス発
生器20BにはXアドレス最小値を格納する定数ROM
56及びYアドレス最小値を格納する定数ROM62が
設けられておらず、定数ROM56に対応するXアドレ
ス最小値レジスタ56B及び定数ROM62に対応する
Yアドレス最小値レジスタ62Bが夫々制御計算機I/
F74B内に設けられている。同様に、探索画像アドレ
ス発生器21BにはXアドレス最小値を格納する定数R
OM41及びYアドレス最小値を格納する定数ROM4
7が設けられておらず、定数ROM41に対応するXア
ドレス最小値レジスタ41B及び定数ROM47に対応
するYアドレス最小値レジスタ47Bが夫々制御計算機
I/F74B内に設けられている。
【0113】従って、本実施例によれば、制御計算機7
0から制御計算機I/F74B内の各レジスタ56B,
62B,41B,47Bを設定することにより、参照画
像のX,Yアドレス最小値及び探索画像のX,Yアドレ
ス最小値を任意に決定することができる。又、図示は省
略するが、参照画像アドレス発生器20B内の定数RO
M58,64も省略して対応するレジスタを制御計算機
I/F74Bに設けることにより、参照画像のX,Yサ
イズを制御計算機70から同様に任意のサイズに設定す
ることも可能である。更に、探索画像アドレス発生器2
1B内の定数ROM43,49も省略して対応するレジ
スタを制御計算機I/F74Bに設けることにより、探
索画像のX,Yサイズを制御計算機70から同様に任意
のサイズに設定することも可能である。
【0114】次に、本発明になる局所領域画像追跡装置
の第7実施例を図29〜図35と共に説明する。本実施
例では、第5実施例と同様に、図23に示す基本構成を
用いる。図29は、本実施例における相関追跡処理装置
4の構成を示すブロック図である。同図中、図27と同
一部分には同一符号を付し、その説明は省略する。
【0115】本実施例では、制御計算機I/F74C
が、相関演算器22、ピーク位置検出器23、メモリ選
択器19B、参照画像アドレス発生器20B及び探索画
像アドレス発生器21Bに接続されている。図30は、
図29の制御計算機I/F74Cの第1実施例の要部を
示すブロック図である。制御計算機I/F74Cは、F
IFO81,84と、アドレス発生カウンタ82と、デ
ュアルポートメモリ83と、レジスタ85とを含む。F
IFO81には、相関演算器22からの相関値が順次格
納され、デュアルポートメモリ83内のアドレス発生カ
ウンタ82により発生されたアドレスに格納される。相
関演算器22が、探索画像内の256の部分領域画像と
参照画像との相関値を演算するものとすると、アドレス
発生カウンタ82は「0」〜「255」のアドレスを繰
り返し発生する。デュアルポートメモリ83内の相関値
は、制御計算機バス71を介して制御計算機70から参
照可能である。他方、FIFO84には、ピーク位置検
出器23からのピーク位置が順次格納され、例えば上記
256個の相関値に対して1つのピーク位置がレジスタ
85に格納される。このレジスタ85内のピーク位置
も、制御計算機バス71を介して制御計算機70から参
照可能である。
【0116】図31は、上記256個の相関値のデュア
ルポートメモリ83への格納を示す図である。同図中、
左側は探索画像を示し、右側はデュアルポートメモリ8
3に格納される相関値Di,j を示す。図32は、図29
の制御計算機I/F74Cの第2実施例の要部を示すブ
ロック図である。図32中、図30と同一部分には同一
符号を付し、その説明は省略する。
【0117】図32において、制御計算機I/F74C
は、FIFO81と、アドレス発生カウンタ82と、デ
ュアルポートメモリ83と、加算器87と、ラッチ回路
88とを含む。デュアルポートメモリ83は、最初の1
フレーム期間の開始時に、フレーム同期信号の立上りエ
ッジに応答してクリアされる。その後は、デュアルポー
トメモリ83から読み出された相関値がラッチ回路88
を介して加算器87へ供給されるので、デュアルポート
メモリ83へは今までの相関値と今回の相関値との加算
値が加算器87から供給されて格納される。
【0118】図33は、クリアされたデュアルポートメ
モリ83への上記256個の相関値の格納を示す図であ
る。同図中、左側は探索画像を示し、右側はデュアルポ
ートメモリ83に「0」に加算して格納される相関値D
i,j を示す。図34は、図33の状態以降での上記25
6個の相関値のデュアルポートメモリ83への格納を示
す図である。同図中、左側は探索画像を示し、右側はデ
ュアルポートメモリ83に今までの相関値Di,j に加算
して格納される相関値D’i, j を示す。
【0119】従って、制御計算機I/F74Cの第2実
施例によると、複数回の追跡処理の夫々で得られる相関
値分布を順次加算してデュアルメモリ83に格納する。
図35は、図29の制御計算機I/F74Cの第3実施
例の要部を示すブロック図である。図35中、図32と
同一部分には同一符号を付し、その説明は省略する。
【0120】図35において、制御計算機I/F74C
は、FIFO81と、アドレス発生カウンタ82と、デ
ュアルポートメモリ83と、加算器87と、ラッチ回路
88と、セレクタ89と、定数ROM90と、制御レジ
スタ91とを含む。セレクタ89には、加算器87から
の加算値と定数ROM90からの「0」なる値が供給さ
れており、制御レジスタ91内のクリアフラグCFがセ
ットされていると、「0」をデュアルポートメモリ83
に供給して格納することによりデュアルメモリ83をク
リアする。クリアフラグCFがセットされていないと、
セレクタ89は加算器87からの加算値をデュアルポー
トメモリ83に供給して格納する。
【0121】従って、制御計算機I/F74Cの第3実
施例によると、複数回の追跡処理の夫々で得られる相関
値分布を順次加算してデュアルメモリ83に格納するか
否かを、制御計算機70から制御レジスタ91内のクリ
アフラグCFをセット又はリセットすることにより指示
することが可能である。
【0122】次に、本発明になる局所領域画像追跡装置
の第8実施例を図36と共に説明する。本実施例では、
第5実施例と同様に、図23に示す基本構成を用いる。
図36は、本実施例における相関追跡処理装置4の構成
の要部を制御計算機70と共に示すブロック図である。
同図中、図29と同一部分には同一符号を付し、その説
明は省略する。
【0123】本実施例では、制御計算機70が、制御計
算機バス71を介して参照画像及び探索画像の位置を表
すアドレスのデータブロックを、順次制御計算機I/F
74D内のFIFO95,96に書き込む。即ち、FI
FO95には、参照画像アドレス発生器20Bに供給す
るべき参照画像Xアドレス最小値及び参照画像Yアドレ
ス最小値が、予め制御計算機70から書き込まれる。
又、FIFO96には、探索画像アドレス発生器21B
に供給するべき探索画像Xアドレス最小値及び探索画像
Yアドレス最小値が、予め制御計算機70から書き込ま
れる。従って、本実施例は、レジスタの代わりにFIF
O95,96が使用される点を除けば、図27及び図2
8と共に説明した第6実施例と同じである。
【0124】本実施例によれば、複数のデータブロック
をFIFO95,96に書き込んでおくことにより、複
数回の追跡処理を一括して制御計算機70の介在なしに
実行することができる。次に、本発明になる局所領域画
像追跡装置の第9実施例を図37と共に説明する。本実
施例では、第5実施例と同様に、図23に示す基本構成
を用いる。
【0125】図37は、本実施例における相関追跡処理
装置4の構成の要部を制御計算機70と共に示すブロッ
ク図である。本実施例では、相関演算器22からの相関
値が順次制御計算機I/F74E内のFIFO98に書
き込まれ、ピーク位置検出器23からのピーク位置が順
次制御計算機I/F74E内のFIFO99に書き込ま
れる。デュアルポートメモリやレジスタを使用しない点
を除けば、基本的には図29及び図30と共に説明した
第7実施例と同じである。 本実施例によれば、制御計
算機70は、任意の時点で制御計算機I/F74E内の
FIFO98,99を参照して、書き込まれた相関値及
びピーク位置があればこれらを読み出すことができる。
【0126】尚、図36及び図37に示す構成を1つの
制御計算機I/F内に設けても良いことは言うまでもな
い。次に、本発明になる局所領域画像追跡装置の第10
実施例を図38〜41と共に説明する。本実施例では、
第5実施例と同様に、図23に示す基本構成を用いる。
又、相関追跡処理装置4の要部は、例えば図29の構成
を有し、制御計算機I/F74Cは例えば図35及び図
36の構成を有する。
【0127】図38は、本実施例における動作を説明す
るフローチャートである。説明の便宜上、16n画素×
16m画素の参照画像について追跡処理を行うものとす
る。同図中、制御計算機70は、ステップS1で制御計
算機I/F74内のデュアルポートメモリ83の内容を
クリアし、ステップS2,S3で夫々j及びiを「0」
に設定する。又、制御計算機70は、ステップS4で制
御計算機I/F74内のFIFO95に参照画像アドレ
スRx,Ryを設定し、ステップS5で制御計算機I/
F74内のFIFO96に探索画像アドレスSx,Sy
を設定する。ここで、RxはRx0+16×iで表され
る上記参照画像Xアドレス最小値であり、RyはRy0
+16×jで表される上記参照画像Yアドレス最小値で
ある。又、SxはSx0+16×iで表される上記探索
画像Xアドレス最小値であり、SyはSy0+16×j
で表される上記探索画像Yアドレス最小値である。
【0128】相関演算器22は、ステップS6で相関演
算を行う。その後、制御計算機70は、ステップS7で
iをインクリメントし、ステップS8でi=nであるか
否かを判定する。ステップS8の判定結果がNOであれ
ば、処理はステップS4へ戻る。他方、ステップS8の
判定結果がYESであれば、制御計算機70は、ステッ
プS9でjをインクリメントして、ステップS10でj
=mであるか否かを判定する。ステップS10の判定結
果がNOであれば、処理はステップS3へ戻る。他方、
ステップS10の判定結果がYESであれば、ピーク位
置検出器23で相関値のピーク位置が検出される。制御
計算機70は、動きベクトルをvx,vyとすると、S
x0にvxを加算し、Sy0にvyを加算して、処理は
ステップS1に戻る。
【0129】図39において、(a)は隣接する参照画
像のうちの一方を示し、(b)はこれに対応する探索画
像を示し、(c)はこれらから得られる相関値分布を示
す。又、図40において、(a)は隣接する参照画像の
うちの他方を示し、(b)はこれに対応する探索画像を
示し、(c)はこれらから得られる相関値分布を示す。
更に、図41において、(a)は図39(a)及び図4
0(a)に示す2つの隣接する参照画像からなる参照画
像を示し、(b)はこれに対応する探索画像を示し、
(c)は図39(c)及び図40(c)の相関値分布を
加算して得られる相関値分布を示す。つまり、制御計算
機I/F74Cの加算器87が図39(c)及び図40
(c)の相関値分布を加算することにより、図41
(c)の相関値分布がデュアルポートメモリ83に格納
される。
【0130】本実施例によれば、隣接する参照画像に対
する追跡処理結果である相関値分布を全て加算し、その
ピーク位置を求めることにより、16n画素×16m画
素(即ち、任意倍)の参照画像について追跡処理を行う
ことができる。次に、本発明になる局所領域画像追跡装
置の第11実施例を図42と共に説明する。本実施例で
は、第1実施例と同様に図1の基本構成を用いても、第
5実施例と同様に図23に示す基本構成を用いても良
い。又、相関追跡処理装置4の要部は、上記いずれの実
施例の構成でも使用し得る。
【0131】上記第2実施例以降の各実施例において
は、画像入力装置2の出力する画像データは、8ビット
のモノクロ或はカラー情報であるため、各相関追跡処理
装置4−1〜4−Mは8ビットの構成を有すれば良い。
即ち、相関演算器22等には、既に市販されている8ビ
ットのLSI等を使用することができ、好都合である。
しかし、画像入力装置2の出力する画像データが、例え
ば24ビットのカラー情報である場合、各相関追跡処理
装置4−1〜4−Mは24ビットの構成に変更しなけれ
ばならない。
【0132】図42は、本実施例の要部を示すブロック
図である。同図中、16Mバイトのメモリ(ROM)1
00は、画像入力装置2からの24ビットのカラー画像
データを8ビットの疑似カラー画像データに変換する変
換テーブルを予め格納している。具体的には、24ビッ
トのカラー画像データがアドレスとしてメモリ100に
入力され、入力されたアドレスから8ビットの疑似カラ
ー画像データが出力される。
【0133】尚、メモリ100は、画像入力装置2内に
設けても、画像入力装置2と画像データバス3との間に
設けても、各相関追跡処理装置4−1〜4−M内に設け
ても良い。本実施例によれば、画像入力装置2の出力す
る画像データのビット数と各相関追跡処理装置4−1〜
4−Mが処理するビット数が異なっていても、メモリ1
00で必要な変換を行うことにより、各相関追跡処理装
置4−1〜4−M内では固定のビット数を処理する構成
とすることができる。尚、メモリ100の入力ビット数
及び出力ビット数は、夫々24と8に限定されるもでは
ないことは言うまでもない。
【0134】ところで、参照画像は、各フレーム毎に無
条件で、探索画像内の相関値分布のピーク位置の領域の
画像に更新することが考えられる。図43は、この考え
られる局所領域画像追跡装置を示すブロック図である。
同図中、図72と同一部分には同一符号を付し、その説
明は省略する。
【0135】図43において、参照画像メモリ504に
は予め参照画像データが格納されているものとする。先
ず、最初の1フレームでは、入力切換器511は、バッ
ファメモリ514にA/D変換器502からの画像デー
タを供給して格納するように切り換えられている。又、
出力切換器512は、参照画像メモリ504から読み出
された参照画像データを相関演算器505に供給するよ
うに切り換えられている。
【0136】このようにして、最初の1フレームについ
て相関値のピーク位置が検出されて相関値ピーク位置検
出器507からアドレス発生器506にフィードバック
されると、入力切換器511及び出力切り換え器512
が共に上記の状態から切り換えられて、A/D変換器5
02からの画像データが参照画像メモリ504に格納さ
れると共に、バッファメモリ514から読み出された画
像データが参照画像データとして相関値演算器505に
供給される。これにより、参照画像は、各フレーム毎に
無条件で、探索画像内の相関値分布のピーク位置の領域
の画像に更新される。
【0137】しかし、このように各フレーム毎に参照画
像を更新する方法を採用すると、参照画像との相関値が
低い領域の画像を新たな参照画像として用いて追跡処理
を行ってしまう可能性があり、追跡処理の誤差が累積さ
れ易い。又、ノイズを含む領域の画像を参照画像として
用いてしまうと、追跡処理の誤差が大きくなってしま
い、局所領域画像追跡装置がノイズに影響され易い。
【0138】そこで、これらの不都合を解消し得る局所
領域画像追跡装置を以下に説明する。次に、本発明にな
る局所領域画像追跡装置の第12実施例を図44〜図4
8と共に説明する。図44は、局所領域画像追跡装置の
第12実施例の構成を示すブロック図である。同図中、
図43と同一部分には同一符号を付し、その説明は省略
する。
【0139】図44中、局所領域画像追跡装置は、撮像
装置501と、A/D変換器502と、探索画像メモリ
503と、相関演算器505と、相関値ピーク位置検出
器507と、入力選択器111と、出力選択器112
と、画像メモリ113−1〜113−Nと、相関度比較
器115と、画像メモリ管理部116とからなる。尚、
Nは3以上の整数である。 本実施例では、N個の画像
メモリ113−1〜113−Nのうち、少なくとも2つ
の画像メモリを参照画像メモリとして使用し、1つの画
像メモリを入力画像メモリとして使用する。
【0140】撮像装置501により撮像された画像に関
するアナログ画像データは、A/D変換器502により
ディジタル画像データに変換され、順次探索画像メモリ
6に格納されると共に、入力選択器111に供給され
る。画像メモリ113−1〜113−Nは、過去の入力
画像データを格納するために設けられている。相関演算
器505は、相関演算を行うことにより、探索画像メモ
リ503内の画像データと画像メモリ113−1〜11
3−Nのうち参照画像メモリとして使用される1つの画
像メモリ内の参照画像データの間の相関性を示す相関値
を求める。この相関値のピーク位置、即ち、撮像画面中
で相関性の最も高い位置は、相関値ピーク位置検出器5
07により検出される。従って、相関値ピーク位置検出
器507からは、常に相関値のピーク位置が得られ、こ
のピーク位置に基づいて撮像画面内の所定物体を実時間
で追跡することができる。
【0141】相関演算器505は、探索画像メモリ50
3内の画像データと参照画像メモリ内の参照画像データ
に対して次のような演算を施す。ここで、説明の便宜
上、参照画像を上記図4に示すように8画素×8画素と
し、参照画像内の画素値をXi, j と表すものとする。こ
の場合、相関演算器505は、例えば上記図5に示す1
6画素×16画素の探索画像に対して、上記図6に示す
ように、探索画像内の参照画像と同じ大きさの部分領域
画像と次式の演算を行う。尚、次式中、Yi,j は探索画
像内の画素値を表し、Dm,n は2つの画像がどのくらい
似ているかを数値で表す相関値を示し、m=0〜7、n
=0〜7である。
【0142】
【数2】
【0143】上記の式中、Dm,n の値は、2つの画像が
似ている程小さくなる。上記図7は参照画像の一例を示
し、上記図8は探索画像の一例を示す。又、上記図9
は、図7の参照画像及び図8の探索画像に対して相関演
算器505が相関演算を行った結果を示す。この例で
は、m=5,n=4でDm,n が最小値となっており、こ
の位置にある部分領域画像が参照画像と最も似ているこ
とを表している。
【0144】このように、画像の相関演算は、参照画像
に最も似ている箇所を探し出すことができるので、この
相関演算処理を動画像に対して毎フレーム行うことで、
画面内の運動物体を追跡することができる。尚、上記の
式で表される相関演算処理を行う相関演算器505は、
16画素×16画素の参照画像について32画素×32
画素の探索画像内の256個の部分領域画像と相関演算
を行って相関値を求める程度のものであれば、相関値の
ピーク位置の検出を行うピーク位置検出器を含めても、
既に大規模集積回路(LSI)化されており、相関演算
処理に要する計算は500μs以下で行うことが可能で
ある。一例として、相関演算器505には、エス・ジー
・エス・トムソン社製のSTI3220を使用すること
ができる。従って、本実施例の如く参照画像の大きさを
16画素×16画素とすることで、1フレーム期間に5
0回〜70回の相関演算を行うことのできる小規模で高
速な局所領域画像追跡装置を構成できる。
【0145】相関値ピーク位置検出器507は、図9の
相関値分布から相関値のピーク位置を検出し、相関度比
較器115を介して画像メモリ管理部116に供給す
る。このピーク位置は、画像メモリ管理部116で画像
メモリのアドレスを発生する際に用いられる。又、画像
メモリ管理部116は、入力画像メモリとして使用した
画像メモリの番号と相関値のピーク位置のペアを保存す
ると共に、各フレームで参照画像メモリ及び入力画像メ
モリとして使用する画像メモリを決定して、この決定に
応じた切り換え信号を入力切換器111及び出力切換器
112に供給する。各フレームでの追跡処理において、
画像メモリ113−1〜113−Nのうち入力画像メモ
リ及び参照画像メモリとして使用する画像メモリを切り
換えることにより、探索画像内の相関値分布のピーク位
置の領域の画像の履歴を保存し、又、参照画像を画像の
履歴から選択された画像へ更新する。
【0146】相関度比較器115は、相関値ピーク位置
検出器507からの各相関値分布のピーク位置を比較し
て、相関度が最大である参照画像を格納している画像メ
モリ(参照画像メモリ)及び相関度が最小である参照画
像を格納している画像メモリ(参照画像メモリ)を決定
して画像メモリ管理部116に通知する。この相関度比
較器115での画像メモリ(参照画像メモリ)の決定及
び通知は、1フレーム期間中に、入力画像メモリとして
使用していない画像メモリを順番に参照画像メモリとし
てN−1回の追跡処理を行う際に行われる。
【0147】従って、画像メモリ管理部116は、最大
の相関度に対するピーク位置と現在入力画像メモリとし
て使用している画像メモリの番号のペアを保存し、相関
度が最大である参照画像を格納している画像メモリを参
照画像メモリとする。又、空き(未使用の)画像メモリ
が存在する場合には、その空き画像メモリを、そして空
き画像メモリが存在しない場合には相関度が最小である
参照画像を格納している画像メモリを、次のフレームの
入力画像メモリとして使用するように、切り換え信号を
入力切換器111及び出力切換器112に供給する。
【0148】尚、相関度比較器115は、画像メモリ管
理部116の一部であっても良い。本実施例によれば、
参照画像を、画像の履歴のうち入力画像メモリに格納さ
れている入力画像との相関度が高い画像に順次更新する
ので、追跡中に見え方が変化する物体の追跡等の場合に
も、追跡処理の信頼性を向上することができる。
【0149】次に、本実施例の動作を、図45のフロー
チャートと共に説明する。図45は、画像メモリ管理部
116が中央処理装置(CPU)で構成されている場合
のCPUの動作を示すフローチャートである。図45に
おいて、ステップS21は、メモリ番号Mem〔I〕の
画像メモリを入力画像メモリ、メモリ番号Mem〔S〕
の画像メモリを探索画像メモリ、メモリ番号Rの画像メ
モリを参照画像メモリに設定する。本実施例では、メモ
リ番号の配列は、図46の如くになっている。図46
中、Sは探索画像メモリの配列インデックスを示し、I
は入力画像メモリの配列インデックスを示す。又、図4
7は、メモリ番号の配列の初期状態を示す図であり、参
照画像メモリ番号Rは「0」に設定されている。
【0150】ステップS22は、相関演算器505に参
照画像データを供給して相関演算処理、即ち、追跡処理
を開始する。ステップS23は、図48に示すメモリテ
ーブルのメモリ番号Mem〔S〕のスロットに相関値の
ピーク位置の座標を記入する。ステップS24は、参照
画像を更新するか否かを判定する。図48のメモリテー
ブルにおいて、「0」〜「N−1」はメモリ番号、「X
0」〜「X6」は相関値のピーク位置のX座標、「Y
0」〜「Y6」は相関値のピーク位置のY座標を示し、
「−1」は未記入であることを示す。
【0151】ステップS24の判定結果がNOである
と、ステップS25で探索画像メモリの配列インデック
スSをインクリメントする。ステップS26は、探索画
像メモリの配列インデックスSがN−2であるか否かを
判定し、判定結果がYESであるとステップS27で探
索画像メモリの配列インデックスSを「0」に設定す
る。ステップS27の後、又は、ステップS26の判定
結果がNOであると、ステップS28で入力画像メモリ
の配列インデックスIをインクリメントする。ステップ
S29は、入力画像メモリの配列インデックスIがN−
2であるか否かを判定し、判定結果がYESであるとス
テップS30で入力画像メモリの配列インデックスIを
「0」に設定する。ステップS30の後、又は、ステッ
プS29の判定結果がNOであると、処理はステップS
21へ戻る。
【0152】他方、ステップS24の判定結果がYES
であると、ステップS31で更新後の探索画像メモリの
配列インデックスS*をS−1に設定する。ステップS
32は、更新後の探索画像メモリの配列インデックスS
*が「0」より小さいが否かを判定し、判定結果がYE
SであるとステップS33で更新後の探索画像メモリの
配列インデックスS*をN−2に設定する。ステップS
33の後、又は、ステップS32の判定結果がNOであ
ると、ステップS34で更新後の入力画像メモリの配列
インデックスI*をI+1に設定する。ステップS35
は、更新後の入力画像メモリの配列インデックスI*が
N−2より大きいか否かを判定し、判定結果がYESで
あるとステップS36で更新後の入力画像メモリの配列
インデックスI*を0に設定する。ステップS36の
後、又は、ステップS35の判定結果がNOであると、
処理はステップS37に進む。
【0153】ステップS37は、I*=S*の場合はM
em〔I*〕の、I*<S*の場合はMem〔I*〕〜
Mem〔S*〕の、その他の場合はMem〔I*〕〜M
em〔N−2〕,Mem
〔0〕〜Mem〔S*〕のうち
未入力でないものを順番に参照画像メモリ、Mem
〔S〕を探索画像メモリとして追跡処理を行う。そし
て、最も相関度の高い参照画像データを格納している参
照画像メモリのインデックスMaxと、最も相関度の低
い参照画像データを格納している参照画像メモリのイン
デックスMinとを求める。ただし、未入力の画像メモ
リが存在する場合には、その画像メモリのインデックス
をMinとする。
【0154】次に、ステップS38は、Mem〔N−
2〕にR、Mem
〔0〕にMem〔S〕、Mem〔1〕
にMem〔I〕、Mem〔2〕にMem〔Min〕、M
em〔3〕〜Mem〔N−3〕にI*<S*の時はMe
m〔I*〕〜Mem〔S*〕、I*>S*の時はMem
〔I*〕〜Mem〔N−2〕,Mem
〔0〕〜Mem
〔S*〕でインデックスがMax,Minでないものを
順番に設定し、R=Mem〔Max〕とする。
【0155】ステップS39は、探索画像メモリの配列
インデックスSを「1」に設定すると共に、入力画像メ
モリの配列インデックスIを「2」に設定する。ステッ
プS39の後、処理はステップS21に戻る。次に、本
発明になる局所領域画像追跡装置の第13実施例を図4
9及び図50と共に説明する。図49は、局所領域画像
追跡装置の第13実施例の構成を示すブロック図であ
る。同図中、図44と同一部分には同一符号を付し、そ
の説明は省略する。
【0156】本実施例では、図49に示すように、図4
4の相関度比較器115の代わりに相関度評価器117
が設けられている。この相関度評価器117は、各フレ
ーム毎での追跡処理で得られる相関値分布のピーク位置
の相関度を予め設定されたしきい値と比較して、相関度
がしきい値以下であった場合にのみ参照画像メモリを切
り換えて参照画像の更新を行う。 つまり、参照画像メ
モリ及び探索画像メモリに格納されている画像データ間
で相関演算を行って追跡処理を行うが、相関度評価器1
17において相関度のピーク値と予め設定されているし
きい値との比較を行う。この比較の結果、相関度のピー
ク置がしきい値より大きいと、現在の入力画像メモリの
番号と相関度のピーク値のペアを記録する。空き画像メ
モリが存在する場合にはその空き画像メモリを、存在し
ない場合には最も過去に入力がされた画像メモリを、次
の入力画像メモリとする。他方、相関度のピーク値がし
きい値以下の場合は、最も最近に入力がなされた画像メ
モリを参照画像メモリとして現在の入力画像データに対
して追跡処理を再実行すると共に、この場合の相関度の
ピーク位置と現在の入力画像メモリの番号とのペアを記
録する。そして、空き画像メモリが存在する場合には、
その空き画像メモリを、存在しない場合には最も過去に
入力がなされた画像メモリを、次の入力画像メモリとす
る。
【0157】尚、相関度評価器117は、画像メモリ管
理部116の一部であっても良い。本実施例によれば、
参照画像を、画像の履歴のうち入力画像メモリに格納さ
れている入力画像との相関度が高い画像に順次更新する
ので、追跡中に見え方が変化する物体の追跡等の場合に
も、追跡処理の信頼性を向上することができる。又、追
跡処理において相関度が設定されたしきい値以下となっ
た場合に、参照画像を画像メモリ内の最新の画像に更新
できる。
【0158】次に、本実施例の動作を、図50のフロー
チャートと共に説明する。図50は、画像メモリ管理部
116が中央処理装置(CPU)で構成されている場合
のCPUの動作を示すフローチャートである。図50
中、図45と同一のステップには同一符号を付し、その
説明は省略する。
【0159】図50において、ステップS44は、相関
度のピーク値がしきい値より小さいか否かを判定する。
ステップS44の判定結果がNOであれば、処理はステ
ップS25へ進む。他方、ステップS44の判定結果が
YESであれば、処理はステップS31へ進む。 ステ
ップS47は、I*=S*の場合はMem〔I*〕の、
I*<S*の場合はMem〔I*〕〜Mem〔S*〕
の、その他の場合はMem〔I*〕〜Mem〔N−
2〕,Mem
〔0〕〜Mem〔S*〕のうち未入力でな
い最初の画像メモリのインデックスをMinとし、最後
の画像メモリのインデックスをMaxとする。
【0160】次に、本発明になる局所領域画像追跡装置
の第14実施例を図51及び図52と共に説明する。図
51は、局所領域画像追跡装置の第14実施例の構成を
示すブロック図である。同図中、図44及び図49と同
一部分には同一符号を付し、その説明は省略する。 本
実施例では、図51に示すように、相関度比較器115
と相関度評価器117の他にモード切換器118が設け
られている。相関度比較器115及び相関度評価器11
7の動作は、上記第12及び第13実施例の場合と同様
である。モード切換器118は、モードを切り換えるこ
とで、第12実施例の動作又は第13実施例の動作を選
択的に行える。
【0161】参照画像メモリ及び探索画像メモリに格納
されている画像データ間で相関演算を行って追跡処理を
行うが、相関度評価器117において相関度のピーク値
と予め設定されているしきい値との比較を行う。この比
較の結果、相関度のピーク置がしきい値より大きいと、
現在の入力画像メモリの番号と相関度のピーク値のペア
を記録する。空き画像メモリが存在する場合にはその空
き画像メモリを、存在しない場合には最も過去に入力が
された画像メモリを、次の入力画像メモリとする。他
方、相関度のピーク値がしきい値以下の場合は、次の手
順で参照画像を更新する。
【0162】相関度のピーク値がしきい値以下の場合
は、相関度比較器115は、相関値ピーク位置検出器5
07からの各相関値分布のピーク位置を比較して、相関
度が最大である参照画像を格納している画像メモリ(参
照画像メモリ)及び相関度が最小である参照画像を格納
している画像メモリ(参照画像メモリ)を決定して画像
メモリ管理部116に通知する。この相関度比較器11
5での画像メモリ(参照画像メモリ)の決定及び通知
は、1フレーム期間中に、入力画像メモリとして使用し
ていない画像メモリを順番に参照画像メモリとしてN−
1回の追跡処理を行う際に行われる。従って、画像メモ
リ管理部116は、最大の相関度に対するピーク位置と
現在入力画像メモリとして使用している画像メモリの番
号のペアを保存し、相関度が最大である参照画像を格納
している画像メモリを参照画像メモリとする。又、空き
(未使用の)画像メモリが存在する場合には、その空き
画像メモリを、そして空き画像メモリが存在しない場合
には相関度が最小である参照画像を格納している画像メ
モリを、次のフレームの入力画像メモリとして使用する
ように、切り換え信号を入力切換器111及び出力切換
器112に供給する。
【0163】尚、相関度比較器115と相関度評価器1
17とモード切換器118とは、夫々画像メモリ管理部
116の一部であっても良い。次に、本実施例の動作
を、図52のフローチャートと共に説明する。図52
は、画像メモリ管理部116が中央処理装置(CPU)
で構成されている場合のCPUの動作を示すフローチャ
ートである。図52中、図45及び図50と同一のステ
ップには同一符号を付し、その説明は省略する。
【0164】図52において、ステップS44は図50
のステップS44と同一であり、ステップS37,S3
8は図45のステップS37,S38と同一である。
尚、上記第12〜14実施例を、第1図又は第23図の
如き基本構成にも適用できることは言うまでもない。
【0165】ところで、上記局所領域画像追跡装置の各
実施例を侵入者を自動的に追跡撮像する自動警備システ
ムや防犯システム及びテレビカメラで野球やゴルフのボ
ールを自動的に追跡撮像する自動撮像システム等に適用
する場合、参照画像データは予めわかってはおらず、追
跡撮像動作を行う都度設定する必要がある。以下に、参
照画像データを自動的に検出して設定することのできる
実施例を説明する。
【0166】図53は、本発明になる局所領域画像追跡
装置の第15実施例の構成を示すブロック図である。同
図中、図44と同一部分には同一符号を付し、その説明
は省略する。図53において、局所領域画像追跡装置
は、図示の如く接続された撮像装置(テレビカメラ)5
01と、A/D変換器502と、ビデオレコーダ201
と、入力画像メモリ202と、動き検出器203と、背
景画像メモリ204と、警報装置205と、入力切換器
206と、探索画像メモリ503と、参照画像メモリ2
07と、相関演算器505と、アドレス発生器506A
と、相関値ピーク位置検出器507と、カメラ台制御器
208と、カメラ台209とからなる。カメラ台209
には、カメラ501を移動するためのモータ等が含まれ
る。
【0167】A/D変換器502からは、カメラ501
が例えば図54(a)に示す入力画像を撮像することに
より得られた入力画像データが出力されて入力画像メモ
リ503に格納されると共に、入力切換器206を介し
て参照画像メモリ207に格納される。他方、背景画像
メモリ204には、予め例えば図54(b)に示す背景
画像に関する背景画像データが格納されている。従っ
て、動き検出器203は、入力画像メモリ202から読
み出された入力画像データから背景画像メモリ204か
ら読み出された背景画像データを減算することにより、
図54(c)に示す差分画像に関する差分画像データを
求める。
【0168】本実施例及び後述する各実施例では、説明
の便宜上、局所領域画像追跡装置が防犯システムに適用
されているものとする。従って、図54(b)に示す背
景画像に関する背景画像データは監視している部屋に関
するもので固定である。動き検出器203は、上記差分
画像データが所定値以上であると部屋に侵入物体がある
ものと判断して検出信号を警報装置205及び入力切換
器206に供給する。これにより、警報装置205は、
動き検出器203からの検出信号に応答して警報を発生
する。
【0169】尚、カメラ501からの入力画像データ
は、ビデオレコーダ201にも供給されて記録媒体に記
録される。このビデオレコーダ201は、警報装置20
5にも接続されているので、警報装置205が警報を発
生した時点での入力画像データを、記録済み入力画像デ
ータの中から特定することができる。又、ビデオレコー
ダ201は、警報装置205が警報を発生した時点から
入力画像データを記録するようにしても良い。後者の場
合、ビデオレコーダ201で使用する記録媒体の記憶容
量の低減が可能となる。
【0170】入力切換器206は、動き検出器203か
らの検出信号に応答してA/D変換器502からの入力
画像データを探索画像メモリ503に供給するように切
り換えられる。これにより、上記差分画像データが所定
値以上となった時点以降の入力画像データは探索画像メ
モリ503に格納される。
【0171】動き検出器203は、差分画像データから
追跡処理用の参照画像の位置を求め、アドレス発生器5
06Aに設定する。これにより、探索画像メモリ503
及び参照画像メモリ207からは夫々図54(a)に示
す探索画像データ及び図54(d)に示す参照画像デー
タが切り出され、相関演算器505に供給される。相関
演算器505は、既に説明した方法で相関値を求め、相
関値ピーク位置検出器507は相関値のピーク位置を既
に説明した方法で求める。従って、相関値ピーク位置検
出器507は、結果的に侵入物体の移動量を求め、この
移動量をアドレス発生器506Aに供給して探索画像ア
ドレスに加算する。又、相関値ピーク位置検出器507
は、侵入物体の移動量をカメラ台制御器208に供給す
る。カメラ台制御器208は、移動量に基づいて、侵入
物体が画面の中央部分に位置するようにカメラ台209
を移動してカメラ501の撮像位置を制御する。
【0172】尚、一旦参照画像データが参照画像メモリ
207に格納された後の局所領域画像追跡処理自体は、
上記実施例のいずれの方法を用いても良いことは言うま
でもない。図55は、第15実施例の動作を説明するフ
ローチャートである。同図中、ステップS51は、入力
画像メモリ202及び参照画像メモリ207に同時に入
力画像データを入力格納する。ステップS52は、入力
画像メモリ202に格納された入力画像データと背景画
像メモリ204に格納された背景画像データとの差分画
像データを求め、ステップS53は、入力画像データに
背景画像データからの変化があるか否かを判定する。具
体的には、ステップS53は、雑音等に過敏に反応しな
いように、差分画像データが所定値以上となると上記変
化があるものと判断する。ステップS53の判定結果が
NOの場合、処理はステップS51へ戻る。他方、ステ
ップS53の判定結果がYESであると、ステップS5
4でビデオレコーダ201による入力画像データの記録
を開始し、警報装置205による警報の発生を行う。ス
テップS55は、動き検出器203により、追跡処理用
の参照画像(テンプレート画像)の位置を探索画像アド
レス及び参照画像アドレスとしてアドレス発生器506
Aに設定する。
【0173】ステップS56は、動き検出器203によ
り入力切換器206を切り換えて入力画像データが探索
画像メモリ503に供給されるようにする。これによ
り、ステップS57は、探索画像メモリ503に入力画
像データを格納する。ステップS58は、アドレス発生
器506Aより発生されるアドレスに基づいて探索画像
メモリ503及び参照画像メモリ207から夫々探索画
像データ及び参照画像データを読み出して相関演算器5
05に供給し、相関値を求める。ステップS59は、相
関演算器505により求めた相関値に基づいて、相関値
ピーク位置検出器507により侵入物体の移動量を求め
る。ステップS60は、求めた移動量をアドレス発生器
506Aに供給して探索画像アドレスに加算する。又、
ステップS61は、移動量に応じて侵入物体がカメラ5
01が撮像している画面の中央部分に位置するようにカ
メラ台209を動かす移動指令をカメラ台209に供給
し、処理はステップS57へ戻る。
【0174】図56は、カメラ台209の制御を説明す
る図である。図56は、カメラ501により撮像された
入力画像を示し、画面の中心座標は(Cx,Cy)、侵
入物体の中心座標は(Tx,Ty)で示されている。こ
の場合、侵入物体の中心座標(Tx,Ty)は、画面の
中心座標(Cx,Cy)からx軸上距離Δxだけ離れ、
y軸上距離Δyだけ離れている。そこで、この様な場
合、カメラ台制御器208は、侵入物体の中心座標(T
x,Ty)が略画面の中心座標(Cx,Cy)と一致し
て侵入物体の追跡が容易となるようにカメラ台209を
移動制御する。具体的には、カメラ台209に供給され
る移動指令はx軸方向の移動量を指示するΔpan=K
p・Δxとy軸方向の移動量を指示するΔtilt=K
t・Δyとからなる。ここで、Kp,Ktは、夫々カメ
ラ台209のモータ等に応じて設定された定数である。
上記移動指令は、例えば1/30秒といった所定時間間
隔毎にカメラ台制御器208からカメラ台209に供給
される。
【0175】これにより、本実施例によれば、参照画像
データを自動的に検出して設定することができる。図5
7は、本発明になる局所領域画像追跡装置の第16実施
例の構成を示すブロック図である。同図中、図53と同
一部分には同一符号を付し、その説明は省略する。本実
施例では、入力画像中の動きも相関演算器により求め
る。
【0176】図57において、局所領域画像追跡装置
は、図示の如く接続されたカメラ501と、A/D変換
器502と、ビデオレコーダ201と、警報装置205
と、探索画像メモリ503と、参照画像メモリ207−
1,207−2と、相関演算器505と、アドレス発生
器506Bと、相関値ピーク位置検出器507と、入力
切換器210と、出力切換器211と、制御計算機21
2と、カメラ台制御器208と、カメラ台209とから
なる。
【0177】図58は、第16実施例の動作を説明する
フローチャートであり、以下に本実施例の動作をこのフ
ローチャートと共に説明する。本実施例では、カメラ5
01からの入力画像データがA/D変換器502を介し
て探索画像メモリ503及び入力切換器210に供給さ
れると共に、ビデオレコーダ201にも供給される。図
58中、ステップS71は、入力切換器210が入力画
像データを参照画像メモリ207−1に供給し、出力切
換器211がこの参照画像メモリ207−1から読み出
した入力画像データを出力するように、制御計算機21
2により入力切換器210及び出力切換器211を切り
換え制御する。ステップS72は、制御計算機212に
より入力切換器210を切り換えて、入力画像データが
もう一方の参照画像メモリ207−2に入力されるよう
にする。つまり、制御計算機212は、参照画像メモリ
207−1,207−2のうち一方に書き込みを行って
いる場合には他方から読み出しが行われ、一方から読み
出しを行っている場合には他方に書き込みを行うように
アクセスの制御行う。
【0178】ステップS73は、制御計算機212によ
りアドレス発生器506Bを制御することにより、アド
レス発生器506Bの発生するアドレスに基づいて探索
画像メモリ503及び参照画像メモリ207−1から夫
々探索画像データ及び参照画像データを読み出す。この
読み出された画像データは、所定時間間隔をおいた入力
画像データに対応し、夫々図59に示すように、画面内
の複数の小領域に分割されて相関演算器505に供給さ
れるので、相関演算器505は各小領域について上記の
如き相関演算を行う。図59中、1画面は25の正方形
の小領域に分割されているが、小領域の数及び形状はこ
れに限定されるものではない。図59は、侵入物体がA
からA’の位置へ移動する場合を示している。相関演算
器505は、探索画像データと参照画像データとの間で
各小領域の相関値を求め、相関演算器505の出力は相
関値ピーク位置検出器507を介して制御計算機212
に供給されるので、制御計算機212は各小領域につい
ての相関値の変化から入力画像中の動きを検出すること
ができる。
【0179】ステップS74は、制御計算器212によ
り動きの検出された小領域の数がしきい値より大きいか
否かを判定し、判定結果がNOであると、ステップS7
5は出力切換器211が参照画像メモリ207−2から
読み出した参照画像データを出力するように出力切換器
211を切り換え制御し、処理がステップS72に戻
る。他方、ステップS74の判定結果がYESの場合に
は、ステップS76はビデオレコーダ201が入力画像
データを記録し警報装置205が警報を発生するよう
に、制御計算機212によりビデオレコーダ201及び
警報装置205を制御する。
【0180】ステップS77は、制御計算機212によ
り、追跡処理用の参照画像(テンプレート画像)の位置
を探索画像アドレス及び参照画像アドレスとしてアドレ
ス発生器506Bに設定する。ステップS78は、制御
計算機212により入力切換器210を切り換えて参照
画像データを格納していない方の例えば参照画像メモリ
207−1に入力画像データが供給されるようにする。
又、ステップS79は、探索画像メモリ503に入力画
像データを格納する。ステップS80は、アドレス発生
器506Bより発生されるアドレスに基づいて探索画像
メモリ503及び参照画像メモリ207−1から夫々探
索画像データ及び参照画像データを読み出して相関演算
器505に供給し、相関値を求める。ステップS81
は、相関演算器505により求めた相関値に基づいて、
相関値ピーク位置検出器507により侵入物体の移動量
を求める。ステップS82は、求めた移動量をアドレス
発生器506Bに供給して探索画像アドレスに加算す
る。又、ステップS83は、移動量に応じて侵入物体が
カメラ501が撮像している画面の中央部分に位置する
ようにカメラ台209を動かす移動指令をカメラ台20
9に供給し、処理はステップS79へ戻る。
【0181】本実施例では、入力画像中の動きを検出す
るための専用の動き検出器等が不要であるため、比較的
簡単な構成を用いて参照画像データを自動的に検出して
設定することができる。図60は、本発明になる局所領
域画像追跡装置の第17実施例の動作を説明するフロー
チャートである。本実施例では、局所領域画像追跡装置
の構成は図57に示した構成と同じで良いので、その図
示は省略する。又、図60中、図58と同一ステップに
は同一符号を付し、その説明は省略する。本実施例で
は、相関値のピーク値がしきい値以下となると、参照画
像を入力画像に更新する。
【0182】図60において、ステップS79−1は、
図57に示す探索画像メモリ503に入力画像データを
格納すると同時に空いている方の例えば参照画像メモリ
207−2にも入力画像データを格納する。ステップS
80は、アドレス発生器506Bより発生されるアドレ
スに基づいて探索画像メモリ503及び参照画像メモリ
207−1から夫々探索画像データ及び参照画像データ
を読み出して相関演算器505に供給し、相関値を求め
る。ステップS81は、相関演算器505により求めた
相関値に基づいて、相関値ピーク位置検出器507によ
り侵入物体の移動量を求める。ステップS82は、求め
た移動量をアドレス発生器506Bに供給して探索画像
アドレスに加算する。ステップS85は、相関値ピーク
位置検出器507で求めた相関値のピーク値がしきい値
より大きいか否かを判定し、判定結果がNOであれば処
理がステップS83に進む。ステップS83は、移動量
に応じて侵入物体がカメラ501が撮像している画面の
中央部分に位置するようにカメラ台209を動かす移動
指令をカメラ台209に供給し、処理はステップS79
−1へ戻る。
【0183】他方、ステップS85の判定結果がYES
であると、ステップS86は制御計算機212により探
索画像アドレスを参照画像アドレスとしてアドレス発生
器506Bに設定する。又、ステップS87は、制御計
算機212により入力切換器210及び出力切換器21
1を切り換え制御し、処理がステップS83に進む。こ
れにより、局所領域画像追跡処理に使用する参照画像デ
ータは、探索画像メモリ503に格納されている入力画
像データに更新されるので、侵入物体を追跡中に侵入物
体の見方、即ち、画面上で現われる二次元映像が捉えら
れた角度等により変化した場合でも、安定した追跡が可
能となる。
【0184】図61は、本発明になる局所領域画像追跡
装置の第18実施例の構成を示すブロック図である。同
図中、図57と同一部分には同一符号を付し、その説明
は省略する。本実施例では、ズーム機構を用いて侵入物
体のクローズアップ画像を記録する。
【0185】本実施例では、図61に示すようにカメラ
501にズーム機構222が設けられており、制御計算
機212は、ズーム制御器221を介してズーム機構2
22のズーム設定を行う。ズーム制御器221及びズー
ム機構222を除く局所領域画像追跡装置の部分は、図
57に示す局所領域画像追跡装置と同じである。
【0186】図62は、第18実施例の動作を説明する
フローチャートである。同図中、図60と同一ステップ
には同一符号を付し、その説明は省略する。図62にお
いて、ステップS71からステップS87までの処理
は、図60の処理と同一である。しかし、本実施例で
は、ステップS83の後、ステップS91は制御計算機
212によりズーム機構222のズーム設定値が予め設
定されている目標値より小さいか否かを判定し、判定結
果がYESであれば処理がステップS79−1へ戻る。
他方、ステップS91の判定結果がNOであると、ステ
ップS92は制御計算機212によりズーム制御器22
1を制御することによりズーム設定値を増大させる。ス
テップS92の後は、処理がステップS79−1へ戻
る。
【0187】従って、本実施例では、上記第17実施例
と同様に参照画像データを更新しながらズーム設定値を
徐々に目標値に近付けることにより、安定に侵入物体を
追跡しながら侵入物体をズームアップしてクローズアッ
プ画像をビデオレコーダ201で記録することができ
る。このため、本実施例を防犯システムに適用した場合
には、侵入物体である侵入者の顔のクローズアップが記
録でき、防犯システムの性能を向上することが可能であ
る。
【0188】図63は、本発明になる局所領域画像追跡
装置の第19実施例の構成を示すブロック図である。同
図中、図57と同一部分には同一符号を付し、その説明
は省略する。本実施例では、2つのカメラのうち一方の
ズーム機構を用いて侵入物体のクローズアップ画像を記
録する。
【0189】本実施例では、図63に示すようにカメラ
501に加えて、ズーム機構が設けられた撮像装置(ズ
ームカメラ)501−1がカメラ台209−1に支持さ
れている。制御計算機212は、カメラ台制御器208
−1を介してズームカメラ501−1のズーム設定及び
位置制御を行う。カメラ台制御器208−1、カメラ台
209−1及びズームカメラ501−1を除く局所領域
画像追跡装置の部分は、図57に示す局所領域画像追跡
装置と同じである。
【0190】図63は、第19実施例の動作を説明する
フローチャートである。同図中、図60と同一ステップ
には同一符号を付し、その説明は省略する。図63にお
いて、ステップS71からステップS87までの処理
は、図60の処理と同一である。しかし、本実施例で
は、ステップS83の後、ステップS94は制御計算機
212により、ズーム設定(ズーム比)に応じてズーム
カメラ501−1のカメラ台209−1を制御するため
の移動指令がカメラ台制御器208−1より出力される
ようにカメラ台制御器208−1を制御する。ステップ
S94の後は、処理がステップS79−1へ戻る。
【0191】これにより、本実施例では、ズームダウン
したカメラ501により撮像した入力画像で侵入物体の
追跡処理を行いながら、ズームアップしたズームカメラ
501−1の位置を制御することで、速い動きの侵入物
体であっても見失うことなく安定に追跡し、且つ、侵入
物体のクローズアップをビデオレコーダ201により記
録することができる。従って、本実施例を防犯システム
に適用した場合には、侵入物体である侵入者の顔のクロ
ーズアップが確実に記録でき、防犯システムの性能を向
上することが可能である。
【0192】図65は、本発明になる局所領域画像追跡
装置の第20実施例の動作を説明するフローチャートで
ある。本実施例では、局所領域画像追跡装置の構成は図
61に示した構成と同じで良いので、その図示は省略す
る。又、図65中、図62と同一ステップには同一符号
を付し、その説明は省略する。図65において、ステッ
プS71からステップS87までの処理は、図62の処
理と同一である。本実施例では、限定的にズームを制御
してズームアップ画像を得る。
【0193】図65において、ステップS83の後、ス
テップS101は制御計算機212によりビデオレコー
ダ201によ入力画像データの記録が開始されたか否か
を判定し、判定結果がYESであるとステップS102
は制御計算機212によりズーム設定値が目標値より小
さいか否かを判定する。ステップS102の判定結果が
YESであるとステップS103でズームアップするよ
うにズーム制御器221を制御して処理がステップS7
9−1へ戻る。他方、ステップS102の判定結果がN
Oであると、ステップS104でビデオレコーダ201
による入力画像データの記録を開始して処理がステップ
S79−1へ戻る。
【0194】ステップS101の判定結果がNOの場
合、ステップS105は制御計算機212によりビデオ
レコーダ201による入力画像データの記録が終了した
か否かを判定し、判定結果がNOであると処理がステッ
プS79−1へ戻る。ステップS105の判定結果がY
ESの場合は、ステップS106は制御計算機212に
おいてズーム設定値が初期値より大きいか否かを判定す
る。ステップS106の判定結果がYESであるとステ
ップS107でズーム設定値を減少させるようにズーム
制御器221を制御し、処理がステップS79−1へ戻
る。他方、ステップS106の判定結果がNOである
と、処理はステップS79−1へ戻る。
【0195】尚、ビデオレコーダ201による入力画像
データの記録開始及び記録終了の指示は、例えば一定の
時間間隔で行い、入力画像データを一定の時間記録す
る。次に、本発明になる局所領域画像追跡装置の第21
実施例を図66〜図68と共に説明する。本実施例で
は、局所領域画像追跡装置の構成は図57に示した構成
と同様で良いので、その図示は省略する。図66はラベ
リング処理を説明する図であり、図67はラベリング処
理を説明するフローチャートである。又、図68は、第
21実施例の動作を説明するフローチャートである。本
実施例では、複数の侵入物体を検出して追跡する。
【0196】先ず、図66及び図67と共にラベリング
処理について説明する。侵入物体が複数存在する場合、
各侵入物体にラベリング処理を施して各侵入物体を識別
する。図66(a)において、ハッチングで示す部分は
入力画像中動きが発生した部分、即ち、侵入物体を示
す。ラベリング処理は、図66(b)に示す如く、動き
が検出された領域を独立した領域に分割し、分割された
夫々の領域を個別の侵入物体として分離する。これによ
り、各侵入物体に対して例えばA〜Eなるラベルが付け
られる。
【0197】図67に示すラベリング処理は、例えば図
57に示す制御計算機212により行われる。図67
中、ステップS501は、移動物体に付ける移動物番号
(ラベル)Lを「1」に初期設定すると共に、領域
(i,j)のi及びjを共に「0」に初期設定する。ス
テップS502は、領域(i,j)で動きが発生したか
否かを判定する。この動きを検出する処理は、上記実施
例のいずれかで採用された方法を用い得る。ステップS
502の判定結果がYESであると、ステップS503
は領域(i,j)のラベルをL、kを「0」、lを
「0」、countを「0」に設定する。ステップS5
04は、領域(k,l)のラベルがLであるか否かを判
定し、判定結果がYESであるとステップS505で領
域(k−1,l−1)で動きが発生し、且つ、未ラベル
であるか否かを判定する。ステップS505の判定結果
がYESであると、ステップS506で領域(k−1,
l−1)のラベルをLとし、countを「1」だけイ
ンクリメントする。ステップS504の判定結果がNO
であると、処理は後述するステップS521へ進む。
【0198】ステップS505の判定結果がNO又はス
テップS506の後、ステップS507で領域(k−
1,l)で動きが発生し、且つ、未ラベルであるか否か
を判定する。ステップS507の判定結果がYESであ
ると、ステップS508で領域(k−1,l)のラベル
をLとし、countを「1」だけインクリメントす
る。ステップS507の判定結果がNO又はステップS
508の後、ステップS509で領域(k−1,l+
1)で動きが発生し、且つ、未ラベルであるか否かを判
定する。ステップS509の判定結果がYESである
と、ステップS510で領域(k−1,l+1)のラベ
ルをLとし、countを「1」だけインクリメントす
る。
【0199】ステップS509の判定結果がNO又はス
テップS510の後、ステップS511で領域(k,l
−1)で動きが発生し、且つ、未ラベルであるか否かを
判定する。ステップS511の判定結果がYESである
と、ステップS512で領域(k,l−1)のラベルを
Lとし、countを「1」だけインクリメントする。
ステップS511の判定結果がNO又はステップS51
2の後、ステップS513で領域(k,l+1)で動き
が発生し、且つ、未ラベルであるか否かを判定する。ス
テップS513の判定結果がYESであると、ステップ
S514で領域(k,l+1)のラベルをLとし、co
untを「1」だけインクリメントする。
【0200】ステップS513の判定結果がNO又はス
テップS514の後、ステップS515で領域(k+
1,l−1)で動きが発生し、且つ、未ラベルであるか
否かを判定する。ステップS515の判定結果がYES
であると、ステップS516で領域(k+1,l−1)
のラベルをLとし、countを「1」だけインクリメ
ントする。ステップS515の判定結果がNO又はステ
ップS516の後、ステップS517で領域(k+1,
l)で動きが発生し、且つ、未ラベルであるか否かを判
定する。ステップS517の判定結果がYESである
と、ステップS518で領域(k+1,l)のラベルを
Lとし、countを「1」だけインクリメントする。
【0201】ステップS517の判定結果がNO又はス
テップS518の後、ステップS519で領域(k+
1,l+1)で動きが発生し、且つ、未ラベルであるか
否かを判定する。ステップS519の判定結果がYES
であると、ステップS520で領域(k+1,l+1)
のラベルをLとし、countを「1」だけインクリメ
ントする。ステップS519の判定結果がNO又はステ
ップS520の後、ステップS521でlを「1」だけ
インクリメントし、ステップS522でlがNUM_X
と等しいか否かを判定する。ステップS522の判定結
果がNOの場合は処理がステップS504へ戻り、YE
Sの場合はステップS523でlを「0」に設定すると
共にkを「1」だけインクリメントする。又、ステップ
S524は、kがNUM_Yと等しいか否かを判定し、
判定結果がNOであると処理がステップS504へ戻
る。ステップS524の判定結果がYESであると、ス
テップS525でcountが「0」であるか否かを判
定し、判定結果がYESであるとステップS526でL
を「1」だけインクリメントする。尚、ステップS52
5の判定結果がNOの場合は、処理がステップS503
へ戻る。
【0202】ステップS502の判定結果がNOの場
合、又は、ステップS526の後、ステップS527は
jを「1」だけインクリメントし、ステップS528は
jがNUM_Xと等しいか否かを判定する。ステップS
528の判定結果がYESであると、ステップS529
でjを「0」に設定すると共にiを「1」だけインクリ
メントする。ステップS530は、iがNUM_Yと等
しいか否かを判定し、判定結果がYESであると処理は
終了する。他方、ステップS528又はステップS53
0の判定結果がNOであると、処理はステップS502
へ戻る。
【0203】この様にして、入力画像のうち動きのある
各領域にラベルを自動的に付けることができる。図68
は、第21実施例の動作を説明するフローチャートであ
り、同図中、図58と同一ステップには同一符号を付
し、その説明は省略する。本実施例では、便宜上カメラ
501が固定であり、この固定カメラ501の視野内の
複数の移動物体(侵入物体)を自動的に追跡するものと
する。従って、図57に示すカメラ台制御器208及び
モータ等の移動手段を備えたカメラ台209は省略可能
である。固定カメラ501としては、広い視野を有する
広角レンズをカメラ等が適している。
【0204】図68において、ステップS71からステ
ップS73までの処理が行われると、ステップS111
が制御計算機212により入力画像のうち動きの発生し
た各領域に対してラベリング処理を行い、個々の侵入物
体に分ける。このステップS111は、図67に示す処
理に対応する。次に、ステップS112は制御計算機2
12により動きの発生した領域の数がしきい値より大き
くなる物体があるか否かを判定し、判定結果がNOであ
るとステップS113が制御計算機212により出力切
換器211を切り換え制御し、処理がステップS72へ
戻る。
【0205】他方、ステップS112の判定結果がYE
Sであると、ステップS114は制御計算機212によ
りビデオレコーダ201による入力画像データの記録を
開始させると共に、警報装置205に警報を発生させ
る。ステップS115は、動きが発生した領域の数がし
きい値より大きい各侵入物体(又は移動物体)の追跡処
理用参照画像(テンプレート画像)の位置を夫々探索画
像アドレス及び参照画像アドレスの初期値として制御計
算機212内又は制御計算機212に接続されたメモリ
に記憶する。ステップS116は、制御計算機212に
より入力切換器210を切り換え制御し、ステップS1
17は、探索画像メモリ503に入力画像データを格納
する。ステップS118は、制御計算機212によりi
を「0」に設定する。
【0206】ステップS119は、制御計算機212に
より侵入物体(i)について格納されている探索画像ア
ドレス及び参照画像アドレスをアドレス発生器506B
に設定し、相関演算器505は相関演算を行う。又、ス
テップS120では、相関値ピーク位置検出器507が
侵入物体(i)の移動量を求め、ステップS121で
は、制御計算機212が侵入物体(i)の探索画像アド
レスに移動量を加算して探索画像アドレスを更新する。
ステップS122は、制御計算機212によりiを
「1」だけインクリメントし、ステップS123は、i
が侵入物体数より小さいか否かを判定する。ステップS
123の判定結果がYESの場合、処理はステップS1
19へ戻り、NOの場合は処理がステップS117へ戻
る。
【0207】本実施例によれば、固定カメラの視野内の
複数の侵入物体(移動物体)の夫々に対して追跡処理を
行うことができる。次に、本発明になる局所領域画像追
跡装置の第22実施例を図69と共に説明する。本実施
例では、局所領域画像追跡装置の構成は図57に示した
構成と同様で良いので、その図示は省略する。図69
は、第22実施例の動作を説明するフローチャートであ
り、同図中、図68と同一ステップには同一符号を付
し、その説明は省略する。本実施例では、便宜上カメラ
501が固定であり、この固定カメラ501の視野内の
複数の移動物体(侵入物体)を、参照画像を自動的に更
新しながら自動的に追跡するものとする。従って、図5
7に示すカメラ台制御器208及びモータ等の移動手段
を備えたカメラ台209は省略可能である。固定カメラ
501としては、広い視野を有する広角レンズをカメラ
等が適している。
【0208】図69において、ステップS71からステ
ップS122までの処理は、図68の場合と同一であ
る。しかし、図69では、ステップS123の判定結果
がNOであると、処理がステップS125へ進む。ステ
ップS125は、制御計算機212により、相関値のピ
ーク値がしきい値より大きい侵入物体があるか否かを判
定し、判定結果がNOであると処理はステップS117
へ戻る。他方、ステップS125の判定結果がYESで
あると、ステップS126は制御計算機212により各
侵入物体の参照画像アドレスを現在の探索画像アドレス
に更新する。又、ステップS127は、制御計算機21
2により入力切換器210及び出力切換器211を切り
換え制御し、処理がステップS117へ戻る。
【0209】本実施例によれば、相関値が劣化した侵入
物体が1つでもある場合に、画面毎に参照画像を更新、
即ち、全ての侵入物体の参照画像を更新するので、各侵
入物体を確実に追跡することができる。次に、本発明に
なる局所領域画像追跡装置の第23実施例を図70と共
に説明する。本実施例では、局所領域画像追跡装置の構
成は図57に示した構成と同様で良いので、その図示は
省略する。図70は、第23実施例の動作を説明するフ
ローチャートであり、同図中、図68と同一ステップに
は同一符号を付し、その説明は省略する。本実施例で
は、カメラ501はカメラ台制御器208及びモータ等
の移動手段を備えたカメラ台209により移動可能であ
る。
【0210】図70において、ステップS114の後、
ステップS115−1は、制御計算機212により、動
きの発生した領域数の最も大きい侵入物体に対して追跡
処理を行うための参照画像の位置を、探索画像アドレス
及び参照画像アドレスとしてアドレス発生器506Bに
設定する。ステップS116及びステップS117は、
図68と同じである。ステップS117の後、ステップ
S131は、制御計算機212によりアドレス発生器5
06Bを制御し、探索画像メモリ503及び参照画像メ
モリ207−1又は207−2から探索画像データ及び
参照画像データを読み出して相関演算器505により相
関演算を行う。ステップS132は、相関値ピーク位置
検出器507により侵入物体の移動量を求め、ステップ
S133は、制御計算機212により探索画像アドレス
に移動量を加算してアドレス発生器506Bに設定す
る。ステップS134は、制御計算機212により、移
動量に応じて侵入物体が画面の中央部分に位置するよう
にカメラ台209をカメラ台制御器208を介して制御
する移動指令を出力し、処理はステップS117へ戻
る。
【0211】本実施例によれば、検出された複数の侵入
物体のうち、最も大きなもの、即ち、動きが検出された
領域の総和が最も大きいものを自動的に選択してカメラ
台209を制御することにより自動的に追跡するので、
特に無人の監視システム等への適用に適している。
【0212】次に、本発明になる局所領域画像追跡装置
の第24実施例を図71と共に説明する。本実施例で
は、局所領域画像追跡装置の構成は図63に示した構成
と同様で良いので、その図示は省略する。図71は、第
24実施例の動作を説明するフローチャートであり、同
図中、図68と同一ステップには同一符号を付し、その
説明は省略する。本実施例では、2台のカメラ501,
501−1を用い、好ましくは視野の広いカメラ501
で複数の侵入物体を参照画像の更新を行いながら追跡す
ると共に、個々の侵入物体を順番にズームカメラ501
−1で撮像する。
【0213】図70において、ステップS112の判定
結果がYESであると、ステップS141は制御計算機
212により動きの発生した領域の数がしきい値より大
きい各侵入物体(又は移動物体)の追跡処理用参照画像
(テンプレート画像)の位置を夫々探索画像アドレス及
び参照画像アドレスの初期値として制御計算機212内
又は制御計算機212に接続されたメモリに記憶する。
ステップS142は、制御計算機212により入力切換
器210を切り換え制御すると共に、jを「0」に設定
する。ステップS143は、探索画像メモリ503に入
力画像データを格納すると共に、iを「0」に設定す
る。
【0214】ステップS144は、制御計算機212に
より侵入物体(i)について格納されている探索画像ア
ドレス及び参照画像アドレスをアドレス発生器506B
に設定し、相関演算器505は相関演算を行う。又、ス
テップS145では、相関値ピーク位置検出器507が
侵入物体(i)の移動量を求め、ステップS146で
は、制御計算機212が侵入物体(i)の探索画像アド
レスに移動量を加算して探索画像アドレスを更新する。
ステップS147は、制御計算機212によりiを
「1」だけインクリメントし、ステップS148は、i
が侵入物体数より小さいか否かを判定する。ステップS
148の判定結果がYESの場合、処理はステップS1
44へ戻り、NOの場合は処理がステップS150へ進
む。
【0215】ステップS150は、制御計算機212に
より各侵入物体の参照画像アドレスを現在の探索画像ア
ドレスに更新する。ステップS151は、制御計算機2
12により入力切換器210及び出力切換器211の切
り換え制御を行い、ステップS152は、制御計算機2
12により撮影(撮像)時間が終了したか否かを判定す
る。ステップS152の判定結果がYESであると、ス
テップS153は制御計算機212によりjを「1」だ
けインクリメントし、ステップS154は、制御計算機
212によりjが侵入物体数より小さいか否かを判定す
る。ステップS154の判定結果がYESであると、ス
テップS155は、制御計算機212により侵入物体
(i)の方向へズームカメラ501−1が向くようにカ
メラ台209−1を制御する移動指令をカメラ台制御器
208−1を介して出力して撮像を開始する。ステップ
S152又はステップS154の判定結果がNOの場
合、或いは、ステップS155の後、処理はステップS
143へ戻る。
【0216】本実施例によれば、複数の侵入物体を参照
画像の更新を行いながら追跡すると共に、個々の侵入物
体を順番にズームカメラで撮像することができ、複数の
侵入物体に対する監視を良好に行うことができる。尚、
上記各実施例において、カメラ、カメラ台、A/D変換
器、ビデオレコーダ及び警報装置を除く局所領域画像追
跡装置の部分は、例えば半導体装置又は半導体装置ユニ
ットとして容易にパッケージ化することができる。又、
カメラ台制御器はパッケージに含まず外付けの形態を取
っても良く、A/D変換器はパッケージに含む構成とす
ることも可能である。
【0217】更に、上記第15実施例〜第24実施例
は、任意に組み合わせ可能であることは言うまでもな
い。以上、本発明を実施例により説明したが、本発明は
これらの実施例に限定されるものではなく、本発明の範
囲内で種々の改良及び変形が可能であることは言うまで
もない。
【0218】
【発明の効果】請求項1記載の局所領域画像追跡装置に
よれば、複数の相関追跡処理装置を並列に動作させるこ
とにより、高速で追跡処理を行える。請求項2記載の局
所領域画像追跡装置によれば、複数の相関追跡処理装置
を並列に動作させることにより、高速で追跡処理を行え
ると共に、追跡処理中の任意の時点で相関演算に用いる
参照画像データを更新することができる。又、アドレス
発生手段を設けることで、1つの相関演算手段で1フレ
ーム間に複数回の相関演算を実行できる。更に、参照画
像メモリ内の複数の参照画像データについての相関演算
や、同一の参照画像データに対して探索画像メモリ内の
複数の領域で相関演算を行うことで探索範囲を見かけ上
広げることもできる。つまり、1フレーム間に複数回繰
り返して追跡処理を行うことができる。
【0219】請求項3記載の局所領域画像追跡装置によ
れば、追跡処理中の任意の時点で相関演算に用いる参照
画像データを更新することができる。請求項4記載の局
所領域画像追跡装置によれば、複数の参照画像データを
画像メモリに格納することができる。
【0220】請求項5記載の局所領域画像追跡装置によ
れば、現存のLSI化された相関演算手段等を用いるこ
とができ、好都合である。請求項6記載の局所領域画像
追跡装置によれば、探索画像データ及び参照画像データ
の読み出しと相関演算とを並列に行えるので、追跡処理
のより高速化が可能である。 請求項7記載の局所領域
画像追跡装置によれば、制御計算機により複数の相関追
跡処理装置を一括して制御して各種追跡処理管理するこ
とができる。
【0221】請求項8記載の局所領域画像追跡装置によ
れば、制御計算機は制御計算機インタフェースを介して
各種制御を行うことができると共に、制御計算機インタ
フェースを介して各種情報を相関追跡処理装置から読み
出すことができる。請求項9記載の局所領域画像追跡装
置によれば、制御計算機から参照画像データの更新を任
意の時点で行える。
【0222】請求項10記載の局所領域画像追跡装置に
よれば、制御計算機から探索画像内の局所領域を任意の
時点で指示することができるので、1フレーム間に複数
の参照画像データについて複数回の相関演算を行う場合
にも好都合である。請求項11記載の局所領域画像追跡
装置によれば、制御計算機から任意の時点で各相関追跡
処理装置でえられた相関値やピーク位置等の情報を読み
出すことができる。
【0223】請求項12記載の局所領域画像追跡装置に
よれば、探索画像データ及び参照画像データの読み出し
と相関演算とを並列に行えるので、追跡処理のより高速
化が可能である。請求項13記載の局所領域画像追跡装
置によれば、制御計算機インタフェースは制御計算機か
らの指示を順次格納するので、各相関追跡処理装置では
格納された複数の指示に従って複数の追跡処理を一括し
て制御計算機の介在なしに行える。
【0224】請求項14記載の局所領域画像追跡装置に
よれば、制御計算機から任意の時点で各相関追跡処理装
置でえられた相関値やピーク位置等の情報を読み出すこ
とができる。請求項15記載の局所領域画像追跡装置に
よれば、複数回の追跡処理の夫々で得られる相関値分布
を順次加算することができる。
【0225】請求項16記載の局所領域画像追跡装置に
よれば、制御計算機にから、複数回の追跡処理の夫々で
得られる相関値分布を順次加算するか否かを制御するこ
とができる。請求項17記載の局所領域画像追跡装置に
よれば、任意倍の参照画像について追跡処理を行うこと
ができる。
【0226】請求項18記載の局所領域画像追跡装置に
よれば、相関追跡処理装置としては例えば現存のものを
用いて、入力側で必要ばビット数変換を行うことができ
る。請求項19記載の局所領域画像追跡装置によれば、
簡単な手段で疑似カラー画像データを各相関追跡処理装
置に入力することができる。
【0227】請求項20記載の局所領域画像追跡装置に
よれば、追跡処理の信頼性を向上することができる。請
求項21記載の局所領域画像追跡装置によれば、参照画
像データの履歴に基づいて参照画像データを更新するこ
とができる。
【0228】請求項22記載の局所領域画像追跡装置に
よれば、参照画像データを、入力画像データとの相関度
の高いものに更新することができる。請求項23記載の
局所領域画像追跡装置によれば、入力画像データとの相
関度が低くなると、参照画像データを最新の参照画像デ
ータに更新することができる。
【0229】請求項24記載の局所領域画像追跡装置に
よれば、入力画像データとの相関度が低くなると、参照
画像データを、入力画像データとの相関度の高いものに
更新することができる。請求項25記載の発明によれ
ば、撮像手段で撮像された入力画像中の移動物体を自動
的に検知して追跡処理を行うことができるので、監視シ
ステムや防犯システム等を自動化することができる。
【0230】請求項26記載の発明によれば、比較的簡
単な構成を用いて移動物体を検知することができる。請
求項27記載の発明によれば、物体の動きを検知するた
めの専用の部分を設けることなく、相関演算手段を用い
て移動物体を検知可能である。
【0231】請求項28記載の発明によれば、たとえ移
動物体の見え方が変化しても、参照画像データを順次更
新することにより良好に移動物体を追跡することができ
る。請求項29記載の発明によれば、移動物体を追跡し
てそのズームアップされた画像を捉えることができるの
で、特に防犯システム等に好適である。
【0232】請求項30記載の発明によれば、ビデオレ
コーダを接続することにより、監視するべき領域の要所
要所を自動的に記録しておくことができる。請求項31
記載の発明によれば、複数の移動物体のうち最も大きな
移動物体を自動的に追跡することができる。
【0233】請求項32記載の発明によれば、移動物体
の追跡とそのズームアップ撮像とを2つの撮像装置に分
担させているので、より正確な追跡処理及び移動物体の
撮像を行うことができる。請求項33記載の発明によれ
ば、複数の移動物体を追跡しながら各移動物体のズーム
アップ撮像を同時に行うことができる。
【0234】請求項34記載の発明によれば、単一の、
且つ、固定の撮像装置を用いても、複数の移動物体を良
好に追跡して撮像することが可能である。請求項35記
載の発明によれば、比較的簡単な構成を用いて移動物体
を検知することができる。
【0235】請求項36記載の発明によれば、物体の動
きを検知するための専用の部分を設けることなく、相関
演算手段を用いて移動物体を検知可能である。請求項3
7記載の発明によれば、たとえ移動物体の見え方が変化
しても、参照画像データを順次更新することにより良好
に移動物体を追跡することができる。
【0236】請求項38記載の発明によれば、ビデオレ
コーダを接続することにより、監視するべき領域の要所
要所を自動的に記録しておくことができる。従って、本
発明によれば、高速で追跡処理を行え、追跡処理中の任
意の時点で相関演算に用いる参照画像データを更新する
ことができると共に、追跡処理の信頼性を向上すること
ができ、実用的には極めて有用である。
【図面の簡単な説明】
【図1】本発明になる局所領域画像追跡装置の第1実施
例の概略構成を示すブロック図である。
【図2】ピクセルクロックと画像データとの関係を示す
図である。
【図3】第1実施例における相関追跡処理装置の構成を
示すブロック図である。
【図4】8画素×8画素の参照画像を示す図である。
【図5】16画素×16画素の探索画像を示す図であ
る。
【図6】探索画像内の参照画像と同じ大きさの部分領域
画像を説明する図である。
【図7】参照画像の一例を示す図である。
【図8】探索画像の一例を示す図である。
【図9】図7の参照画像及び図8の探索画像に対して相
関演算を行った結果を示す図である。
【図10】第2実施例における相関追跡処理装置の構成
を示すブロック図である。
【図11】メモリ選択器の一実施例を示すブロック図で
ある。
【図12】ROMに供給される5ビットのアドレス信号
を示す図である。
【図13】ROMに供給される5ビットのアドレス信号
の値とROMから読み出される選択データの値との関係
を示す図である。
【図14】探索画像アドレス発生器の一実施例を示すブ
ロック図である。
【図15】参照画像アドレス発生器の一実施例を示すブ
ロック図である。
【図16】本発明の第2実施例における画像メモリの切
り換えを説明する図である。
【図17】本発明の第3実施例における相関追跡処理装
置の構成を示すブロック図である。
【図18】図17のメモリ選択器の一実施例を示すブロ
ック図である。
【図19】図18のROMに供給される3n+1ビット
のアドレス信号を示す図である。
【図20】図18のROMに供給される3n+1ビット
のアドレス信号の値とROMから読み出される選択デー
タの値との関係を示す図である。
【図21】第3実施例における画像メモリの切り換えを
説明する図である。
【図22】本発明の第4実施例における相関追跡処理装
置の構成を示すブロック図である。
【図23】本発明になる局所領域画像追跡装置の第5実
施例の概略構成を示すブロック図である。
【図24】第4実施例における相関追跡処理装置の構成
を示すブロック図である。
【図25】メモリ選択器の一実施例を制御計算機I/F
の一部と共に示すブロック図である。
【図26】フレーム同期信号と更新指示フラグとの関係
を説明する図である。
【図27】本発明の第6実施例における相関追跡処理装
置の構成を示すブロック図である。
【図28】参照画像アドレス発生器、探索画像アドレス
発生器及び制御計算機I/Fの要部を示すブロック図で
ある。
【図29】本発明の第7実施例における相関追跡処理装
置の構成を示すブロック図である。
【図30】図29の制御計算機I/Fの第1実施例の要
部を示すブロック図である。
【図31】256個の相関値のデュアルポートメモリへ
の格納を示す図である。
【図32】図29の制御計算機I/Fの第2実施例の要
部を示すブロック図である。
【図33】クリアされたデュアルポートメモリへの25
6個の相関値の格納を示す図である。
【図34】図33の状態以降での256個の相関値のデ
ュアルポートメモリへの格納を示す図である。
【図35】図29の制御計算機I/Fの第3実施例の要
部を示すブロック図である。
【図36】本発明の第8実施例における相関追跡処理装
置の構成の要部を制御計算機と共に示すブロック図であ
る。
【図37】本発明の第9実施例における相関追跡処理装
置の構成の要部を制御計算機と共に示すブロック図であ
る。
【図38】本発明の第10実施例における動作を説明す
るフローチャートである。
【図39】第10実施例の動作を説明するための図であ
る。
【図40】第10実施例の動作を説明するための図であ
る。
【図41】第10実施例の動作を説明するための図であ
る。
【図42】本発明の第11実施例の要部を示すブロック
図である。
【図43】考えられる局所領域画像追跡装置を示すブロ
ック図である。
【図44】本発明になる局所領域画像追跡装置の第12
実施例の構成を示すブロック図である。
【図45】画像メモリ管理部がCPUで構成されている
場合のCPUの動作を示すフローチャートである。
【図46】画像メモリの番号の配列を説明する図であ
る。
【図47】画像メモリの番号の配列の初期状態を示す図
である。
【図48】メモリテーブルを説明する図である。
【図49】本発明になる局所領域画像追跡装置の第13
実施例の構成を示すブロック図である。
【図50】画像メモリ管理部がCPUで構成されている
場合のCPUの動作を示すフローチャートである。
【図51】本発明になる局所領域画像追跡装置の第14
実施例の構成を示すブロック図である。
【図52】画像メモリ管理部がCPUで構成されている
場合のCPUの動作を示すフローチャートである。
【図53】本発明になる局所領域画像追跡装置の第15
実施例の構成を示すブロック図である。
【図54】第15実施例の動作を説明する図である。
【図55】第15実施例の動作を説明するフローチャー
トである。
【図56】カメラ台の制御を説明する図である。
【図57】本発明になる局所領域画像追跡装置の第16
実施例の構成を示すブロック図である。
【図58】第16実施例の動作を説明するフローチャー
トである。
【図59】第16実施例の動作を説明する図である。
【図60】本発明になる局所領域画像追跡装置の第17
実施例の動作を説明するフローチャートである。
【図61】本発明になる局所領域画像追跡装置の第18
実施例の構成を示すブロック図である。
【図62】第18実施例の動作を説明するフローチャー
トである。
【図63】本発明になる局所領域画像追跡装置の第19
実施例の構成を示すブロック図である。
【図64】第19実施例の動作を説明するフローチャー
トである。
【図65】本発明になる局所領域画像追跡装置の第20
実施例の動作を説明するフローチャートである。
【図66】複数の侵入物体を追跡する際のラベリング処
理を説明する図である。
【図67】ラベリング処理を説明するフローチャートで
ある。
【図68】本発明になる局所領域画像追跡装置の第21
実施例の動作を説明するフローチャートである。
【図69】本発明になる局所領域画像追跡装置の第22
実施例の動作を説明するフローチャートである。
【図70】本発明になる局所領域画像追跡装置の第23
実施例の動作を説明するフローチャートである。
【図71】本発明になる局所領域画像追跡装置の第24
実施例の動作を説明するフローチャートである。
【図72】従来の局所領域画像追跡装置の一例の要部を
示すブロック図である。
【符号の説明】
1 撮像装置 2 画像入力装置 3 画像データバス 4−1〜4−M 相関追跡処理装置 5 画像入力制御部 6 探索画像メモリ 7 参照画像メモリ 8 相関演算器 11,17,18 セレクタ 12−1〜12−N 画像メモリ 15,16 アドレスセレクタ 19,19A,19B メモリ選択器 20,20B 参照画像アドレス発生器 21,21B 探索画像アドレス発生器 22 相関演算器 23 ピーク位置検出器 31,41,43,47,49,56,58,62,6
4,90 定数ROM32,45,51,60,6
6 コンパレータ 33 フレームカウンタ 34,76,88 ラッチ回路 35 インバータ 36 フリップフロップ 37 ROM 42,46,48,52,61,67,87 加算
器 44,59 Xアドレスカウンタ 50,65 Yアドレスカウンタ 57,63,89 セレクタ 68,69,81,84,95,96,98,99
FIFO 70 制御計算機 71 制御計算機バス 74,74B,74C,74D,74E 制御計算
機I/F 77,91 制御レジスタ 56B,62B,41B,47B,85 レジスタ 82 アドレス発生カウンタ 83 デュアルポートメモリ 100 メモリ 111 入力選択器 112 出力選択器 113−1〜113−N 画像メモリ 115 相関度比較器 116 画像メモリ管理部 117 相関度評価器 118 モード切換器 501 撮像装置 502 A/D変換器 503 探索画像メモリ 505 相関演算器 507 相関値ピーク位置検出器

Claims (38)

    【特許請求の範囲】
  1. 【請求項1】 撮像手段により撮像された入力画像デー
    タのうち、追跡処理を施すべき探索画像データを任意の
    局所領域に関する参照画像データと比較して、該探索画
    像データで表される探索画像内の該任意の局所領域を連
    続的に追跡する局所領域画像追跡装置において、 該撮像手段からの入力画像データを転送する画像データ
    バスと、 該画像データバスに並列に接続されており、各々少なく
    とも1つの探索画像に対する追跡処理を独立して行える
    複数の相関追跡処理装置とを有し、 1又は複数の探索画像に対する追跡処理を該複数の相関
    追跡処理装置で分散して行う、局所領域画像追跡装置。
  2. 【請求項2】 各相関追跡処理装置は、 少なくとも3以上の画像メモリと、 該画像メモリを入力画像データを格納する入力画像メモ
    リと、探索画像データを格納する探索画像メモリと、参
    照画像データを格納する参照画像メモリとに選択的に切
    り換えるセレクタ手段と、 該参照画像メモリ及び該探索画像メモリから参照画像デ
    ータ及び探索画像データを読み出すためのアドレスを発
    生するアドレス発生手段と、 該参照画像メモリに格納された参照画像データと該探索
    画像メモリに格納された探索画像データとの間の相関性
    を表す相関値を相関演算処理により算出する相関演算手
    段と、 該相関演算手段からの相関値のピーク位置を求めるピー
    ク位置検出手段とを有する、請求項1記載の局所領域画
    像追跡装置。
  3. 【請求項3】 前記セレクタ手段は、入力画像データの
    該画像メモリへの格納順序を固定的に制御することによ
    り、入力画像データの各フレーム毎の追跡処理、各フレ
    ーム毎の探索画像データの該画像メモリへの格納及び任
    意のフレーム間隔での参照画像データの更新を行う、請
    求項2記載の局所領域画像追跡装置。
  4. 【請求項4】 前記画像メモリは4以上設けられてお
    り、前記セレクタ手段は、入力画像データの該画像メモ
    リへの格納順序を固定的に制御することにより、入力画
    像データの各フレーム毎の追跡処理、各フレーム毎の探
    索画像データの該画像メモリへの格納、複数の参照画像
    データの複数の画像メモリへの格納及び任意のフレーム
    間隔での参照画像データの更新を行う、請求項2記載の
    局所領域画像追跡装置。
  5. 【請求項5】 前記相関演算手段は、16画素×16画
    素の参照画像について、これより大きい探索画像内の複
    数の部分領域画像と相関演算を行って相関値を求める、
    請求項2〜4のうちいずれか1項記載の局所領域画像追
    跡装置。
  6. 【請求項6】 前記画像メモリから読み出された探索画
    像データ及び参照画像データを一時的に順次格納するフ
    ァースト・イン・ファースト・アウト(FIFO)手段
    を更に有し、前記相関演算手段は該ファースト・イン・
    ファースト・アウト(FIFO)手段から読み出された
    探索画像データ及び参照画像データに基づいて相関演算
    を行うことにより、探索画像データ及び参照画像データ
    の読み出しと相関演算とを並列に行う、請求項1〜5の
    うちいずれか1項記載の局所領域画像追跡装置。
  7. 【請求項7】 制御計算機と、 該制御計算機と接続された制御計算機バスとを更に有
    し、 前記複数の相関追跡処理装置は、夫々該制御計算機バス
    に並列に接続されており、 該制御計算機は、該制御計算機バスを介して各相関追跡
    処理装置での参照画像データの更新に関する制御、前記
    画像メモリの選択や切り換えに関する制御等を行う、請
    求項1記載の局所領域画像追跡装置。
  8. 【請求項8】 各相関追跡処理装置は、 少なくとも3以上の画像メモリと、 該画像メモリを入力画像データを格納する入力画像メモ
    リと、探索画像データを格納する探索画像メモリと、参
    照画像データを格納する参照画像メモリとに選択的に切
    り換えるセレクタ手段と、 該参照画像メモリに格納された参照画像データと該探索
    画像メモリに格納された探索画像データとの間の相関性
    を表す相関値を相関演算処理により算出する相関演算手
    段と、 該相関演算手段からの相関値のピーク位置を求めるピー
    ク位置検出手段と、 少なくとも該セレクタ手段及び前記制御計算機バスに接
    続されており、各相関追跡処理装置と前記制御計算機と
    の間のインタフェースを司る制御計算機インタフェース
    とを有する、請求項7記載の局所領域画像追跡装置。
  9. 【請求項9】 前記制御計算機は、前記制御計算機バス
    を介して前記制御計算機インタフェースに対して参照画
    像データの更新を任意の時点で指示する、請求項8記載
    の局所領域画像追跡装置。
  10. 【請求項10】 前記制御計算機は、前記制御計算機バ
    スを介して前記制御計算機インタフェースに対して前記
    探索画像メモリ及び前記参照画像メモリから切り出す局
    所領域を任意の時点で指示する、請求項8記載の局所領
    域画像追跡装置。
  11. 【請求項11】 前記制御計算機インタフェースは、前
    記相関演算手段からの相関値及び前記ピーク位置検出手
    段からのピーク位置のうち少なくとも一方を格納する格
    納手段を有し、前記制御計算機は前記制御計算機バスを
    介して任意の時点で該格納手段に格納された情報を読み
    出す、請求項8記載の局所領域画像追跡装置。
  12. 【請求項12】 前記画像メモリから読み出された探索
    画像データ及び参照画像データを一時的に順次格納する
    ファースト・イン・ファースト・アウト(FIFO)手
    段を更に有し、前記相関演算手段は該ファースト・イン
    ・ファースト・アウト(FIFO)手段から読み出され
    た探索画像データ及び参照画像データに基づいて相関演
    算を行うことにより、探索画像データ及び参照画像デー
    タの読み出しと相関演算とを並列に行う、請求項7〜1
    1のうちいずれか1項記載の局所領域画像追跡装置。
  13. 【請求項13】 前記制御計算機インタフェースは、前
    記制御計算機からの指示を順次格納する第1のファース
    ト・イン・ファースト・アウト(FIFO)手段を有
    し、各相関追跡処理装置は該第1のファースト・イン・
    ファースト・アウト(FIFO)手段に格納された複数
    の指示に従って複数の追跡処理を一括して該制御計算機
    の介在なしに行う、請求項8〜12のうちいずれか1項
    記載の局所領域画像追跡装置。
  14. 【請求項14】 前記制御計算機インタフェースは、前
    記相関演算手段からの相関値及び前記ピーク位置検出手
    段からのピーク位置のうち少なくとも一方を順次格納す
    る第2のファースト・イン・ファースト・アウト(FI
    FO)手段を有し、該制御計算機は任意の時点で該第2
    のファースト・イン・ファースト・アウト(FIFO)
    手段に格納された情報を読み出す、請求項13記載の局
    所領域画像追跡装置。
  15. 【請求項15】 前記制御計算機インタフェースは、追
    跡処理で前記相関演算手段から得られる相関値の相関値
    分布を格納する格納手段と、複数回の追跡処理の各々で
    得られる相関値分布を順次加算する加算手段とを有す
    る、請求項8記載の局所領域画像追跡装置。
  16. 【請求項16】 前記制御計算機インタフェースは、前
    記加算手段により複数回の追跡処理の各々で得られる相
    関値分布を順次加算するか否かを前記制御計算機からの
    指示により制御される、請求項15記載の局所領域画像
    追跡装置。
  17. 【請求項17】 前記制御計算機は、固定サイズの隣接
    する参照画像に対する追跡処理結果である相関値分布を
    全て加算し、そのピーク位置を求めることにより、任意
    倍の参照画像について追跡処理を行うように前記制御計
    算機インタフェースを制御する、請求項8記載の局所領
    域画像追跡装置。
  18. 【請求項18】 前記撮像手段からの入力画像データの
    ビット数を、前記相関演算手段の処理ビット数に合うよ
    うに変換する変換手段を更に有する、請求項1〜17の
    うちいずれか1項記載の局所領域画像追跡装置。
  19. 【請求項19】 前記変換手段は、m>nとするとmビ
    ットのカラー画像データをnビットの疑似カラー画像デ
    ータに変換する、請求項18記載の局所領域画像追跡装
    置。
  20. 【請求項20】 撮像手段により撮像された入力画像デ
    ータのうち、追跡処理を施すべき探索画像データを任意
    の局所領域に関する参照画像データと比較して、該探索
    画像データで表される探索画像内の該任意の局所領域を
    連続的に追跡する局所領域画像追跡装置において、 少なくとも3以上の画像メモリと、 該画像メモリを入力画像データを格納する入力画像メモ
    リと、探索画像データを格納する探索画像メモリと、参
    照画像データを格納する参照画像メモリとに選択的に切
    り換えるセレクタ手段と、 該参照画像メモリに格納された参照画像データと該探索
    画像メモリに格納された探索画像データとの間の相関性
    を表す相関値を相関演算処理により算出する相関演算手
    段と、 該相関演算手段からの相関値のピーク位置を求めるピー
    ク位置検出手段と、 該ピーク位置検出手段からのピーク位置に基づいて該セ
    レクタ手段を制御して参照画像データの履歴を順次該画
    像メモリに格納することにより、参照画像データを格納
    された該探索画像メモリ内の相関値のピーク位置の履歴
    に基づいて更新する画像メモリ管理手段とを有する、局
    所領域画像追跡装置。
  21. 【請求項21】 前記ピーク位置検出手段からのピーク
    位置に基づいて、追跡処理により相関度が最大となる参
    照画像データを格納している画像メモリを前記画像メモ
    リ管理手段を介して参照画像メモリに設定することによ
    り参照画像データを更新する相関度比較手段を更に有す
    る、請求項20記載の局所領域画像追跡装置。
  22. 【請求項22】 前記ピーク位置検出手段からのピーク
    位置に基づいて、追跡処理により参照画像メモリに格納
    されている参照画像データによる相関度を評価して、相
    関度に応じて参照画像データを更新する相関度評価手段
    を更に有する、請求項20記載の局所領域画像追跡装
    置。
  23. 【請求項23】 前記相関度評価手段は、追跡処理にお
    いて相関度が所定のしきい値以下となった場合にのみ参
    照画像データを最新の参照画像データに更新する、請求
    項22記載の局所領域画像追跡装置。
  24. 【請求項24】 前記相関度評価手段が追跡処理におい
    て相関度が所定のしきい値以下となったことを検知した
    場合にのみ、前記ピーク位置検出手段からのピーク位置
    に基づいて、追跡処理により相関度が最大となる参照画
    像データを格納している画像メモリを前記画像メモリ管
    理手段を介して参照画像メモリに設定することにより参
    照画像データを更新する相関度比較手段を更に有する、
    請求項20記載の局所領域画像追跡装置。
  25. 【請求項25】 移動手段に支持された撮像手段により
    撮像された入力画像データのうち、追跡処理を施すべき
    探索画像データを任意の局所領域に関する参照画像デー
    タと比較して、該探索画像データで表される探索画像内
    の該任意の局所領域を連続的に追跡する局所領域画像追
    跡装置において、 少なくとも該探索画像データ及び該参照画像データを格
    納するメモリ手段と、 該参照画像データを前記入力画像データから自動的に生
    成する参照画像データ生成手段と、 該メモリ手段から該探索画像データ及び該参照画像デー
    タを読み出すためのアドレスを発生するアドレス発生手
    段と、 該メモリ手段から読み出された該探索画像データと該参
    照画像データとの間の相関性を相関演算処理により算出
    する相関演算手段と、 該相関演算手段からの相関値のピーク位置に基づいて、
    該移動手段が該撮像手段を該任意の局所領域を追跡する
    ように移動させる移動指令を出力する制御手段とを備え
    た、局所領域画像追跡装置。
  26. 【請求項26】 前記メモリ手段は前記入力画像データ
    を格納し、前記参照画像データ生成手段は、予め設定さ
    れた背景画像データと該入力画像データとを比較して、
    比較された画像データの不一致の度合いに基づいて該参
    照画像データを生成する、請求項25記載の局所領域画
    像追跡装置。
  27. 【請求項27】 前記参照画像データ生成手段は、所定
    時間間隔をおいた前記入力画像データを夫々複数の領域
    に分割し、前記相関演算手段により各分割領域について
    相関演算を行わせることにより動きが発生した領域を求
    め、該動きが発生した領域の数が所定数を越えたか否か
    に基づいて前記参照画像データを生成する、請求項25
    記載の局所領域画像追跡装置。
  28. 【請求項28】 前記制御手段は、前記相関値のピーク
    値が所定値を越えると前記探索画像データのアドレスを
    前記参照画像データのアドレスとして前記アドレス発生
    手段に設定し、該参照画像データの更新を行う、請求項
    25〜27のうちいずれか1項記載の局所領域画像追跡
    装置。
  29. 【請求項29】 前記撮像手段はズーム手段を有し、前
    記制御手段は前記任意の局所領域が徐々に予め設定され
    たズーム設定値で撮像されるように該ズーム手段のズー
    ム値を制御する、請求項25〜28のうちいずれか1項
    記載の局所領域画像追跡装置。
  30. 【請求項30】 前記制御手段は、前記任意の局所領域
    の動き及びズーム値に基づいて警報又は入力画像データ
    の記録開始を示す信号を出力する、請求項29記載の局
    所領域画像追跡装置。
  31. 【請求項31】 前記制御手段は、複数の局所領域に識
    別用のラベルを付ける手段と、該ラベルを付けられた複
    数の局所領域のうち最も大きな局所領域に対して追跡処
    理を行わせる手段とを含む、請求項25〜30のうちい
    ずれか1項記載の局所領域画像追跡装置。
  32. 【請求項32】 前記撮像手段は、夫々が前記移動手段
    により移動可能に支持された第1の撮像装置及びズーム
    手段を有する第2の撮像装置を含み、前記制御手段は前
    記任意の局所領域の追跡を該第1の撮像装置に行わせる
    と共に、ズーム比に応じて該第2の撮像装置の方向を制
    御する移動指令を出力する、請求項25〜28のうちい
    ずれか1項記載の局所領域画像追跡装置。
  33. 【請求項33】 前記制御手段は、複数の局所領域に識
    別用のラベルを付ける手段と、該ラベルを付けられた複
    数の局所領域の追跡を前記第1の撮像装置に行わせると
    共に各々の局所領域を順番に前記第2の撮像装置でズー
    ムアップして撮像させる手段とを含む、請求項32記載
    の局所領域画像追跡装置。
  34. 【請求項34】 撮像手段により撮像された入力画像デ
    ータのうち、追跡処理を施すべき探索画像データを任意
    の局所領域に関する参照画像データと比較して、該探索
    画像データで表される探索画像内の該任意の局所領域を
    連続的に追跡する局所領域画像追跡装置において、 少なくとも該探索画像データ及び該参照画像データを格
    納するメモリ手段と、 複数の局所領域に関する参照画像データを前記入力画像
    データから自動的に生成する参照画像データ生成手段
    と、 該複数の局所領域に識別用のラベルを付けるラベリング
    手段と、 該メモリ手段から該探索画像データ及び該参照画像デー
    タを読み出すためのアドレスを発生するアドレス発生手
    段と、 該ラベルを付けられた複数の局所領域の各々に対して該
    メモリ手段から読み出された該探索画像データと該参照
    画像データとの間の相関性を相関演算処理により算出す
    る相関演算手段と、 該相関演算手段からの相関値のピーク位置に基づいて該
    複数の局所領域を追跡する制御手段とを備えた、局所領
    域画像追跡装置。
  35. 【請求項35】 前記メモリ手段は前記入力画像データ
    を格納し、前記参照画像データ生成手段は、予め設定さ
    れた背景画像データと該入力画像データとを比較して、
    比較された画像データの不一致の度合いに基づいて該参
    照画像データを生成する、請求項34記載の局所領域画
    像追跡装置。
  36. 【請求項36】 前記参照画像データ生成手段は、所定
    時間間隔をおいた前記入力画像データを夫々複数の領域
    に分割し、前記相関演算手段により各分割領域について
    相関演算を行わせることにより動きが発生した領域を求
    め、該動きが発生した領域の数が所定数を越えたか否か
    に基づいて前記参照画像データを生成する、請求項34
    記載の局所領域画像追跡装置。
  37. 【請求項37】 前記制御手段は、前記相関値のピーク
    値が所定値を越えると前記探索画像データのアドレスを
    前記参照画像データのアドレスとして前記アドレス発生
    手段に設定し、各局所領域に関する参照画像データの更
    新を行う、請求項34〜36のうちいずれか1項記載の
    局所領域画像追跡装置。
  38. 【請求項38】 前記制御手段は、前記複数の局所領域
    の動きに基づいて警報又は入力画像データの記録開始を
    示す信号を出力する、請求項34〜37のうちいずれか
    1項記載の局所領域画像追跡装置。
JP7170058A 1994-09-20 1995-07-05 局所領域画像追跡装置 Pending JPH08147477A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP7170058A JPH08147477A (ja) 1994-09-20 1995-07-05 局所領域画像追跡装置
DE69523709T DE69523709T2 (de) 1994-09-20 1995-08-29 Verfolgungsgerät zur Bildverfolgung in einem lokalen Bereich
US08/521,076 US5838365A (en) 1994-09-20 1995-08-29 Tracking apparatus for tracking image in local region
EP95113551A EP0703548B1 (en) 1994-09-20 1995-08-29 Tracking apparatus for tracking image in local region
CN95116558A CN1106114C (zh) 1994-09-20 1995-09-20 用于在局部区域跟踪图象的跟踪装置
KR1019950030912A KR100270461B1 (ko) 1994-09-20 1995-09-20 국소영역 화상 추적장치

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP6-225419 1994-09-20
JP22541994 1994-09-20
JP7170058A JPH08147477A (ja) 1994-09-20 1995-07-05 局所領域画像追跡装置

Publications (1)

Publication Number Publication Date
JPH08147477A true JPH08147477A (ja) 1996-06-07

Family

ID=26493184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7170058A Pending JPH08147477A (ja) 1994-09-20 1995-07-05 局所領域画像追跡装置

Country Status (6)

Country Link
US (1) US5838365A (ja)
EP (1) EP0703548B1 (ja)
JP (1) JPH08147477A (ja)
KR (1) KR100270461B1 (ja)
CN (1) CN1106114C (ja)
DE (1) DE69523709T2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100259226B1 (ko) * 1996-07-23 2000-06-15 아끼구사 나오유끼 국소영역화상추적장치
WO2001084844A1 (en) * 2000-04-28 2001-11-08 Network Korea Co., Ltd. System for tracking and monitoring multiple moving objects
JP2009505247A (ja) * 2005-08-17 2009-02-05 シーリアル、テクノロジーズ、ゲーエムベーハー 複数の観察者の眼のトラッキングとリアルタイム検出のための方法と回路配置

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6661838B2 (en) * 1995-05-26 2003-12-09 Canon Kabushiki Kaisha Image processing apparatus for detecting changes of an image signal and image processing method therefor
JPH1091795A (ja) * 1996-09-12 1998-04-10 Toshiba Corp 移動物体検出装置及び移動物体検出方法
US7036094B1 (en) 1998-08-10 2006-04-25 Cybernet Systems Corporation Behavior recognition system
US20010008561A1 (en) * 1999-08-10 2001-07-19 Paul George V. Real-time object tracking system
US7050606B2 (en) * 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
US6813586B1 (en) * 1999-09-07 2004-11-02 Phatrat Technology, Inc. Event and sport performance methods and systems
US6754367B1 (en) * 1999-09-30 2004-06-22 Hitachi Denshi Kabushiki Kaisha Method and apparatus for automatically detecting intrusion object into view of image pickup device
US7433494B2 (en) * 2002-09-19 2008-10-07 Denso Corporation Moving body detecting apparatus
US20080065291A1 (en) * 2002-11-04 2008-03-13 Automotive Technologies International, Inc. Gesture-Based Control of Vehicular Components
US7136506B2 (en) * 2003-03-03 2006-11-14 Lockheed Martin Corporation Correlation based in frame video tracker
US20100002070A1 (en) 2004-04-30 2010-01-07 Grandeye Ltd. Method and System of Simultaneously Displaying Multiple Views for Video Surveillance
US7528881B2 (en) * 2003-05-02 2009-05-05 Grandeye, Ltd. Multiple object processing in wide-angle video camera
US8972380B2 (en) * 2003-09-29 2015-03-03 International Business Machines Corporaton System and method for monitoring events against continual range queries
US7835953B2 (en) * 2003-09-29 2010-11-16 International Business Machines Corporation Method and structure for monitoring moving objects
KR101108634B1 (ko) * 2004-01-06 2012-01-31 소니 주식회사 화상 처리 장치 및 화상 처리 방법 및 기록 매체
US8427538B2 (en) * 2004-04-30 2013-04-23 Oncam Grandeye Multiple view and multiple object processing in wide-angle video camera
KR20070106709A (ko) * 2005-01-03 2007-11-05 부미, 인코포레이티드 야간 감시를 위한 시스템 및 방법
US7804981B2 (en) * 2005-01-13 2010-09-28 Sensis Corporation Method and system for tracking position of an object using imaging and non-imaging surveillance devices
JP4559935B2 (ja) * 2005-08-25 2010-10-13 株式会社東芝 画像記憶装置及び方法
US20070192215A1 (en) * 2006-02-10 2007-08-16 Taylor Thomas B Computer-implemented registration for providing inventory fulfillment services to merchants
US7853480B2 (en) * 2007-05-21 2010-12-14 Amazon Technologies, Inc. System and method for providing export services to merchants
US9241094B2 (en) * 2008-03-18 2016-01-19 Intel Corporation Capturing event information using a digital video camera
US9256789B2 (en) 2008-03-21 2016-02-09 Intel Corporation Estimating motion of an event captured using a digital video camera
US9251423B2 (en) 2008-03-21 2016-02-02 Intel Corporation Estimating motion of an event captured using a digital video camera
JP5801577B2 (ja) * 2010-03-25 2015-10-28 キヤノン株式会社 光断層撮像装置及び光断層撮像装置の制御方法
TWI457863B (zh) * 2011-12-20 2014-10-21 Univ Nat Taiwan Ocean 防災預警裝置及其方法
US9047196B2 (en) * 2012-06-19 2015-06-02 Concurix Corporation Usage aware NUMA process scheduling
US9575813B2 (en) 2012-07-17 2017-02-21 Microsoft Technology Licensing, Llc Pattern matching process scheduler with upstream optimization
CN105138015A (zh) * 2015-10-08 2015-12-09 安徽省极索智能科技有限公司 一种具有高层楼宇清洁功能的智能飞行机器人
CN110216685B (zh) * 2019-03-12 2021-02-02 汕头大学 一种用于煤仓内壁缺陷检测的悬索并联机器人及控制方法
KR102104246B1 (ko) * 2020-02-17 2020-04-24 주식회사 비에이템 화면 분할을 이용한 이미지 병렬 검색 시스템

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4220967A (en) * 1976-09-27 1980-09-02 Hughes Aircraft Company Scene tracker using multiple independent correlators
EP0005918B1 (en) * 1979-05-09 1983-05-04 Hughes Aircraft Company Scene tracker system
JPS58163019A (ja) * 1982-03-23 1983-09-27 Nec Corp 移動物体追跡方式
JPS5979868A (ja) * 1982-10-29 1984-05-09 Nec Corp 移動物体追跡装置
US4864629A (en) * 1985-12-31 1989-09-05 Schlumberger Technologies, Inc. Image correlation system
DE3634414C2 (de) * 1986-10-09 1994-12-08 Thomson Brandt Gmbh Fernsehkamera mit einem Target
GB8703931D0 (en) * 1987-02-19 1993-05-05 British Aerospace Tracking systems
US4958224A (en) * 1989-08-15 1990-09-18 Hughes Aircraft Company Forced correlation/mixed mode tracking system
JPH04115376A (ja) * 1990-09-06 1992-04-16 Fujitsu Ltd 画像追尾装置
US5365269A (en) * 1992-10-22 1994-11-15 Santa Barbara Instrument Group, Inc. Electronic camera with automatic image tracking and multi-frame registration and accumulation

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100259226B1 (ko) * 1996-07-23 2000-06-15 아끼구사 나오유끼 국소영역화상추적장치
US6298170B1 (en) 1996-07-23 2001-10-02 Fujitsu Limited Image tracking apparatus for tracking an image within a local region to continuously track a moving object
WO2001084844A1 (en) * 2000-04-28 2001-11-08 Network Korea Co., Ltd. System for tracking and monitoring multiple moving objects
JP2009505247A (ja) * 2005-08-17 2009-02-05 シーリアル、テクノロジーズ、ゲーエムベーハー 複数の観察者の眼のトラッキングとリアルタイム検出のための方法と回路配置
KR101278430B1 (ko) * 2005-08-17 2013-06-24 씨리얼 테크놀로지스 게엠베하 실시간으로 몇몇 사람들의 눈을 인식하고 추적하기 위한 방법 및 회로 장치

Also Published As

Publication number Publication date
DE69523709D1 (de) 2001-12-13
EP0703548B1 (en) 2001-11-07
DE69523709T2 (de) 2002-05-08
CN1129382A (zh) 1996-08-21
EP0703548A3 (en) 1996-07-24
US5838365A (en) 1998-11-17
CN1106114C (zh) 2003-04-16
EP0703548A2 (en) 1996-03-27
KR960012969A (ko) 1996-04-20
KR100270461B1 (ko) 2000-11-01

Similar Documents

Publication Publication Date Title
JPH08147477A (ja) 局所領域画像追跡装置
US11227397B2 (en) Block-matching optical flow and stereo vision for dynamic vision sensors
CN109682373B (zh) 一种无人平台的感知系统
JP4809291B2 (ja) 計測装置及びプログラム
JP6573361B2 (ja) 画像処理装置、画像処理システム、画像処理方法及びコンピュータプログラム
JP4478510B2 (ja) カメラシステム、カメラ、及びカメラの制御方法
US9477891B2 (en) Surveillance system and method based on accumulated feature of object
JP2953712B2 (ja) 移動物体検知装置
WO2010079556A1 (ja) 移動体検出方法および移動体検出装置
JP3874985B2 (ja) 画像演算装置
JP3434979B2 (ja) 局所領域画像追跡装置
CN110751674A (zh) 多目标跟踪方法及相应视频分析系统
JP2004354257A (ja) キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム
JPWO2005124687A1 (ja) 光学式モーションキャプチャシステムにおけるマーカトラッキング方法、光学式モーションキャプチャ方法及びシステム
CN111930226A (zh) 手势追踪方法及装置
CN111623773B (zh) 一种基于鱼眼视觉和惯性测量的目标定位方法及装置
CN112183506A (zh) 一种人体姿态生成方法及其系统
CN113256691A (zh) 一种目标跟踪方法、装置、设备和存储介质
CN113610835B (zh) 看护摄像机的人形检测方法
JP2018173882A (ja) 情報処理装置、方法、及びプログラム
JP2020064466A (ja) 画像処理装置、画像処理方法、及びプログラム
WO2022018811A1 (ja) 被写体の3次元姿勢推定装置、3次元姿勢推定方法、及びプログラム
US20030067986A1 (en) Circuit and method for full search block matching
CN113572983A (zh) 云端视频的处理方法及系统
Ali et al. Object tracking using correlation, Kalman filter and fast means shift algorithms

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20030415