JP2005236508A - Automatic tracking device and method - Google Patents

Automatic tracking device and method Download PDF

Info

Publication number
JP2005236508A
JP2005236508A JP2004041276A JP2004041276A JP2005236508A JP 2005236508 A JP2005236508 A JP 2005236508A JP 2004041276 A JP2004041276 A JP 2004041276A JP 2004041276 A JP2004041276 A JP 2004041276A JP 2005236508 A JP2005236508 A JP 2005236508A
Authority
JP
Japan
Prior art keywords
template
image
automatic tracking
shape change
target object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004041276A
Other languages
Japanese (ja)
Other versions
JP4597543B2 (en
Inventor
Yasuyuki Domoto
泰之 道本
Mitsuyoshi Yamamoto
光慶 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2004041276A priority Critical patent/JP4597543B2/en
Publication of JP2005236508A publication Critical patent/JP2005236508A/en
Application granted granted Critical
Publication of JP4597543B2 publication Critical patent/JP4597543B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide automatic tracking device and method capable of performing tracking stably with no interruption at the time of tracking an object, e.g. an intruder, in an image. <P>SOLUTION: A template setting section 102 registers the object region in an image inputted from an image input section 101 as a template image. A template matching section 103 searches a region having high correlation with a registered template image among new input images by correlation operation. An apparent profile variation detecting section 104 detects apparent variation in profile of the object under search in template matching process. Depending on detection results from the apparent profile variation detecting section 104, a template holding control section 105 alters the upper limit of the holding number of template images or the update frequency of template when the apparent profile of the tracking object varies significantly. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、侵入物体等の監視システムにおいて撮影画像中の特定の物体を追跡する自動追尾装置及び自動追尾方法に関する。   The present invention relates to an automatic tracking device and an automatic tracking method for tracking a specific object in a captured image in a monitoring system for an intruding object or the like.

遠隔監視カメラシステムが普及し、遠隔地にある特定地点を撮影した画像を監視し、侵入者等の追跡ができるようになってきた。監視カメラシステムで用いられるカメラは、一般的に広域を監視するため撮影用レンズとして広角レンズが装着されており、侵入物体の有無は判定できるものの、例えば侵入者の人相や表情などの詳細までは把握ことができない欠点がある。   Remote monitoring camera systems have become widespread, and it has become possible to monitor an image taken at a specific point in a remote place and track an intruder or the like. Cameras used in surveillance camera systems are generally equipped with a wide-angle lens as a photographic lens to monitor a wide area, and although it is possible to determine the presence or absence of an intruding object, details such as the intruder's human phase and facial expression, etc. Has a drawback that cannot be grasped.

そこで、広角レンズを装着したカメラ以外に、パン、チルト、ズーム(以下、まとめてPTZとよぶ)の機能を備えたカメラを設置し、監視員のPTZ制御により、侵入者の人相等のより詳細な画像を取得できるようにした監視システムがある(非特許文献1)。しかし、ジョイスティック等の操作装置によりPTZ機能を持つカメラを手動操作して侵入者を追尾し続けることは高度な技術が必要であり、困難を感じる監視員が多い。このため、画像認識技術を用いて、自動的に撮影画像中の侵入者等の追跡物体を追尾できる自動追尾装置が望まれている。   Therefore, in addition to cameras equipped with wide-angle lenses, cameras equipped with pan, tilt, and zoom (hereinafter collectively referred to as PTZ) functions are installed, and the details of the intruder's human phase, etc. are controlled by the PTZ control of the observer. There is a monitoring system that can acquire a simple image (Non-Patent Document 1). However, manual operation of a camera having a PTZ function using an operation device such as a joystick to keep track of an intruder requires advanced technology, and many observers feel difficulty. Therefore, an automatic tracking device that can automatically track a tracking object such as an intruder in a captured image using an image recognition technique is desired.

このような自動追尾が可能な装置として、テンプレートマッチングの手法を利用した物体追跡方法及び物体追跡装置が提案されている(特許文献1)。テンプレートマッチングは、ある時刻の追跡物体の画像領域を切り出した部分画像をテンプレート画像として、異なる時刻の画像内でテンプレート画像と最も相関が高い領域を相関演算などにより求め、追跡物体を追跡する方法である。   As an apparatus capable of such automatic tracking, an object tracking method and an object tracking apparatus using a template matching method have been proposed (Patent Document 1). Template matching is a method in which a partial image obtained by cutting out an image area of a tracking object at a certain time is used as a template image, and an area having the highest correlation with the template image is obtained by correlation calculation or the like in images at different times, and the tracking object is tracked. is there.

図8は上記特許文献1の従来例における物体追跡時の動作を示すフローチャートである。まず、ある時刻t1の入力画像において物体検出処理を行い(ステップ901)、検出された物体領域の画像を初期のテンプレート画像として登録する(ステップ902)。次に、新たな時刻t2の入力画像を入力し(ステップ903)、テンプレートマッチングを行って入力画像からテンプレート画像と相関が最も高い領域を検出し、物体を追跡する(ステップ904)。   FIG. 8 is a flowchart showing the operation at the time of object tracking in the conventional example of Patent Document 1. First, object detection processing is performed on an input image at a certain time t1 (step 901), and an image of the detected object region is registered as an initial template image (step 902). Next, an input image at a new time t2 is input (step 903), template matching is performed to detect a region having the highest correlation with the template image from the input image, and the object is tracked (step 904).

そして、保存されているすべてのテンプレート画像についてテンプレートマッチング処理がなされたかを判定し(ステップ905)、すべてのテンプレートマッチング処理が終了している場合には、最大一致度の判定処理を行う(ステップ906)。すべてのテンプレートマッチング処理が終了していない場合は、終了するまでステップ904のテンプレートマッチング処理を繰り返す。   Then, it is determined whether template matching processing has been performed for all stored template images (step 905). If all template matching processing has been completed, maximum matching determination processing is performed (step 906). ). If all the template matching processes are not completed, the template matching process in step 904 is repeated until the template matching process is completed.

ステップ906において、最大一致度が所定値以下の場合は、入力画像中に追跡物体がいなくなったものとして、ステップ901に戻って再度物体検出処理を行う。一方、最大一致度が所定値以上である場合、テンプレートマッチングの結果に応じてテンプレート画像の位置を補正し(ステップ907)、補正した複数のテンプレート画像を保存する(ステップ908)。複数のテンプレート画像は、それぞれ取得時刻または更新時刻が異なり、見掛けが多少異なるものの同一物体に関するテンプレート画像である。続いて、カメラの光軸方向が追跡物体に向くようにカメラ雲台を制御する(ステップ909)。そして、例えば追跡物体が所定の警報を出す範囲に存在する場合に警報を鳴らしたり、監視モニタに追跡物体の画像を表示したりする(ステップ910)。   In step 906, if the maximum matching degree is equal to or smaller than the predetermined value, it is determined that there is no tracking object in the input image, and the process returns to step 901 to perform object detection processing again. On the other hand, when the maximum matching degree is a predetermined value or more, the position of the template image is corrected according to the result of template matching (step 907), and the corrected plurality of template images are stored (step 908). The plurality of template images are template images related to the same object although the acquisition time or update time is different and the appearance is slightly different. Subsequently, the camera platform is controlled so that the optical axis direction of the camera faces the tracking object (step 909). Then, for example, when the tracked object is present within a predetermined alarm range, an alarm is sounded or an image of the tracked object is displayed on the monitoring monitor (step 910).

特開2001−60269号公報JP 2001-60269 A 羽下、藤原、鷲見著「首振り、ズームカメラを用いたトラッキング型侵入監視システム」、電子情報通信学会 信学技報PRMU99−67(P23−30)、1999年9月Ushita, Fujiwara, Tadami, “Swinging, Tracking Intrusion Monitoring System Using Zoom Camera”, IEICE Technical Report PRMU 99-67 (P23-30), September 1999

しかしながら、上記のような従来の自動追尾方法においては、複数のテンプレート画像中に、最新の追跡物体の見掛けの形状とは差異が大きく、むしろ背景領域と相関が高い不適切なデータが保持されてしまうことがあった。このような場合、テンプレートマッチングにおいて背景への誤対応が発生しやすく、結果として追跡物体の追跡が中断され、追跡に失敗しやすいという問題が生じる。   However, in the conventional automatic tracking method as described above, inappropriate data having a large difference from the apparent shape of the latest tracked object and having a high correlation with the background region is retained in a plurality of template images. There was a case. In such a case, erroneous correspondence to the background is likely to occur in template matching, resulting in a problem that tracking of the tracked object is interrupted and tracking is likely to fail.

本発明は、上記事情に鑑みてなされたもので、画像中の侵入者等の物体を追跡する際に、追跡の中断がなく安定した追尾が可能な自動追尾装置及び自動追尾方法を提供することを目的とする。   The present invention has been made in view of the above circumstances, and provides an automatic tracking device and an automatic tracking method capable of stable tracking without tracking interruption when tracking an object such as an intruder in an image. With the goal.

本発明の自動追尾装置は、撮像手段によって撮影された画像を入力し、前記画像中の対象物体を追跡する自動追尾装置であって、前記対象物体の特徴を示すテンプレート画像と入力画像との相関演算を行うテンプレートマッチング手段と、前記対象物体の形状変化を検出する形状変化検出手段と、前記形状変化検出手段の処理結果に応じて、前記テンプレート画像の更新アルゴリズムを制御するテンプレート保持制御手段とを備えるものである。   An automatic tracking device according to the present invention is an automatic tracking device that inputs an image captured by an imaging unit and tracks a target object in the image, and correlates a template image indicating the characteristics of the target object with an input image. A template matching means for performing calculation, a shape change detecting means for detecting a shape change of the target object, and a template holding control means for controlling an update algorithm of the template image in accordance with a processing result of the shape change detecting means. It is to be prepared.

この構成により、例えば、対象物体の形状変化があった場合、テンプレート画像の更新アルゴリズムを変更することにより、テンプレート画像の保持内容を適応的に変更することができ、物体をより安定に追跡することが可能となる。テンプレート画像の更新アルゴリズムとしては、例えば、通常はテンプレート画像を複数保持して相関演算を行うため、この保持するテンプレートの上限数、テンプレート画像の更新頻度などがある。   With this configuration, for example, when there is a change in the shape of the target object, the content stored in the template image can be adaptively changed by changing the template image update algorithm, and the object can be tracked more stably. Is possible. As the template image update algorithm, for example, since a plurality of template images are normally held and correlation calculation is performed, there are an upper limit number of templates to be held, a template image update frequency, and the like.

また、本発明の一態様として、上記の自動追尾装置であって、前記形状変化検出手段は、前記対象物体が前記撮像手段の光軸を横切る方向に移動する場合には見掛けの変化が大きく、前記光軸に沿う方向に移動する場合には見掛けの変化が小さいと判断するものも含まれる。   Further, as one aspect of the present invention, in the automatic tracking device described above, the shape change detection unit has a large apparent change when the target object moves in a direction crossing the optical axis of the imaging unit, In the case of moving in the direction along the optical axis, it is included that it is determined that the apparent change is small.

この構成により、対象物体の移動方向によってこの対象物体の形状の変化を適切に判断することが可能となり、テンプレート画像の保持内容を適切に制御することができる。   With this configuration, it is possible to appropriately determine a change in the shape of the target object according to the moving direction of the target object, and it is possible to appropriately control the content held in the template image.

また、本発明の一態様として、上記の自動追尾装置であって、前記形状変化検出手段は、前記撮像手段のパンチルト角度またはズーム比率が所定値以上制御された場合に前記対象物体の見掛けの変化が発生したと判断するものも含まれる。   Also, as one aspect of the present invention, in the automatic tracking device described above, the shape change detection unit may change the apparent change of the target object when a pan / tilt angle or a zoom ratio of the imaging unit is controlled to a predetermined value or more. Also included are those that are judged to have occurred.

この構成により、撮像手段のパン、チルトの制御量、あるいはズーム比率の制御量によって対象物体の形状の変化を適切に判断することが可能となり、テンプレート画像の保持内容を適切に制御することができる。   With this configuration, it is possible to appropriately determine a change in the shape of the target object based on the pan / tilt control amount or the zoom ratio control amount of the imaging unit, and the content held in the template image can be appropriately controlled. .

また、本発明の一態様として、上記の自動追尾装置であって、前記テンプレート保持制御手段は、前記形状変化検出手段において前記対象物体に形状変化があったと判断された場合に、前記テンプレート画像の保持数上限を下げるものも含まれる。   Further, as one aspect of the present invention, in the automatic tracking device described above, the template holding control unit may detect the template image when the shape change detecting unit determines that the target object has a shape change. Also included are those that lower the retention limit.

この構成により、対象物体の形状変化がある場合にテンプレート画像の保持数上限を小さくすることで、背景との相関が高いテンプレート画像が保存されることを低減できる。このため、背景とのテンプレートマッチングにより物体の追跡が中断されてしまうことを防止でき、より安定して物体を追跡することが可能になる。   With this configuration, when there is a change in the shape of the target object, it is possible to reduce the retention of the template image having a high correlation with the background by reducing the upper limit of the number of template images retained. For this reason, it is possible to prevent the tracking of the object from being interrupted due to the template matching with the background, and it is possible to track the object more stably.

また、本発明の一態様として、上記の自動追尾装置であって、前記テンプレート保持制御手段は、前記形状変化検出手段において前記対象物体に形状変化があったと判断された場合に、前記テンプレート画像の更新頻度を上げるものも含まれる。   Further, as one aspect of the present invention, in the automatic tracking device described above, the template holding control unit may detect the template image when the shape change detecting unit determines that the target object has a shape change. Some of them increase the update frequency.

この構成により、対象物体の形状変化がある場合にテンプレート画像の更新頻度を上げることで、比較的近い時刻に更新したテンプレート画像の比率を高めることができ、より安定して物体を追跡することが可能になる。   With this configuration, by increasing the update frequency of the template image when there is a change in the shape of the target object, the ratio of the template image updated at a relatively close time can be increased, and the object can be tracked more stably. It becomes possible.

本発明の自動追尾方法は、撮像手段によって撮影された画像を入力し、前記画像中の対象物体を追跡する自動追尾方法であって、入力画像中の対象物体の特徴を示すテンプレート画像を設定するテンプレート設定ステップと、前記対象物体を含む新たな入力画像と前記テンプレート画像との相関演算を行うテンプレートマッチングステップと、前記対象物体の形状変化を検出する形状変化検出ステップと、前記形状変化検出の処理結果に応じて、前記テンプレート画像の更新アルゴリズムを制御するテンプレート保持制御ステップとを有するものである。   The automatic tracking method of the present invention is an automatic tracking method for inputting an image taken by an imaging means and tracking a target object in the image, and setting a template image indicating the characteristics of the target object in the input image. A template setting step, a template matching step for calculating a correlation between the new input image including the target object and the template image, a shape change detecting step for detecting a shape change of the target object, and the shape change detection process And a template holding control step for controlling an update algorithm of the template image according to the result.

この手順により、例えば、対象物体の形状変化があった場合、テンプレート画像の更新アルゴリズムを変更することにより、テンプレート画像の保持内容を適応的に変更することができ、物体をより安定に追跡することが可能となる。   By this procedure, for example, when there is a change in the shape of the target object, the content stored in the template image can be adaptively changed by changing the template image update algorithm, and the object can be tracked more stably. Is possible.

また、本発明は、上記の自動追尾方法の各手順をコンピュータに実行させるためのプログラムを提供する。このプログラムにより、本発明に係る自動追尾方法をコンピュータにより実行させて実現することが可能となる。このプログラムは、メモリ、ハードディスク、CD−ROMなどの記録媒体に格納することも可能である。   The present invention also provides a program for causing a computer to execute each procedure of the automatic tracking method. With this program, the automatic tracking method according to the present invention can be implemented by a computer. This program can also be stored in a recording medium such as a memory, a hard disk, or a CD-ROM.

本発明によれば、画像中の侵入者等の物体を追跡する際に、追跡の中断がなく安定した追尾が可能な自動追尾装置及び自動追尾方法を提供できる。   ADVANTAGE OF THE INVENTION According to this invention, when tracking objects, such as an intruder, in an image, the automatic tracking apparatus and automatic tracking method which can perform stable tracking without interruption of tracking can be provided.

以下、本発明の実施形態として、侵入物体等を監視する遠隔監視システムにおいて、テンプレートを用いて撮影画像中の物体を追跡し、カメラのパン、チルト、ズーム動作(PTZ動作)を制御して詳細に侵入物体を監視するための自動追尾カメラ等の自動追尾装置、及び自動追尾方法の例を説明する。   Hereinafter, as an embodiment of the present invention, in a remote monitoring system for monitoring an intruding object or the like, an object in a captured image is tracked using a template, and panning, tilting, and zooming operations (PTZ operation) of the camera are controlled in detail. An example of an automatic tracking device such as an automatic tracking camera for monitoring an intruding object and an automatic tracking method will be described.

(第1の実施形態)
図1は本発明の第1の実施形態に係る自動追尾装置の機能構成を示す図である。
(First embodiment)
FIG. 1 is a diagram showing a functional configuration of an automatic tracking apparatus according to the first embodiment of the present invention.

自動追尾装置100は、撮像装置108によって撮影された画像を入力する画像入力部101と、入力画像中の物体領域(対象物体の領域)をテンプレート画像として登録するテンプレート設定部102と、入力画像の中から登録済みのテンプレート画像との相関が高い領域を探索するテンプレートマッチング部103と、テンプレートマッチング処理において追跡中の対象物体の見掛けの形状変化を検出する見掛け形状変化検出部104と、対象物体の見掛けの形状の変化に応じてテンプレートの保持数上限を制御するテンプレート保持制御部105と、対象物体が撮影画像の中央部に映る(位置する)ように撮像装置108をPTZ動作させる撮像装置制御部106と、画像を外部の画像表示装置109に出力する画像出力部107とを有する構成である。   The automatic tracking device 100 includes an image input unit 101 that inputs an image captured by the imaging device 108, a template setting unit 102 that registers an object region (target object region) in the input image as a template image, and an input image A template matching unit 103 that searches for a region having a high correlation with the registered template image from among the templates, an apparent shape change detection unit 104 that detects an apparent shape change of the target object being tracked in the template matching process, A template holding control unit 105 that controls the upper limit of the template holding number according to a change in the apparent shape, and an imaging device control unit that causes the imaging device 108 to perform a PTZ operation so that the target object appears (positions) in the center of the captured image. 106 and an image output unit 107 that outputs an image to an external image display device 109. It is configured to.

本実施形態では、撮像装置108で撮影され画像入力部101より入力された撮影画像について、テンプレート設定部102において画像中の物体領域がテンプレート画像として登録されてテンプレートが設定される。その後、画像入力部101より入力された新たな撮影画像について、テンプレートマッチング部103において登録済みのテンプレート画像との相関が高い領域が検索される。ここで、追跡中の物体の見掛けの形状変化が検出された場合、追跡物体の見掛けの変化に応じてテンプレート画像の保存数上限がテンプレート保持制御部105の制御により変更される。例えば、追跡物体の見掛けの形状が大きく変化したと判断された場合、テンプレート画像の保存数上限が下げられる。   In the present embodiment, for a captured image captured by the imaging device 108 and input from the image input unit 101, the template setting unit 102 registers an object region in the image as a template image and sets a template. Thereafter, for a new captured image input from the image input unit 101, the template matching unit 103 searches for a region having a high correlation with the registered template image. Here, when a change in the apparent shape of the object being tracked is detected, the upper limit of the number of saved template images is changed by the control of the template holding control unit 105 in accordance with the change in the appearance of the tracked object. For example, if it is determined that the apparent shape of the tracking object has changed significantly, the upper limit of the number of saved template images is lowered.

次に、自動追尾装置100の主要部分の動作について説明する。まず、テンプレート設定部102では、入力画像(撮像装置108による撮影画像)から追跡したい物体領域の画素を含む矩形領域をテンプレート画像として設定する。テンプレート画像の設定方法としては、操作者が入力画像を見ながら物体領域上に手動で指示操作して設定しても良いし、入力画像中に輝度変化が発生した領域を物体領域と見なして、ラベリング処理後同一ラベルを付与された画素を含む領域をテンプレート画像として自動設定しても良い。   Next, the operation of the main part of the automatic tracking device 100 will be described. First, the template setting unit 102 sets, as a template image, a rectangular area including pixels of an object area to be tracked from an input image (an image taken by the imaging device 108). As a setting method of the template image, the operator may manually set and operate the object region while looking at the input image, or the region where the luminance change has occurred in the input image is regarded as the object region. An area including pixels assigned with the same label after the labeling process may be automatically set as a template image.

テンプレート画像は、同一物体について取得時刻や更新時刻が異なる複数枚保持することを想定しているが、単数でも構わない。テンプレート画像と入力画像との相関が低くなった場合等には、テンプレートを保存可能な上限枚数まで追加する。上限枚数に達した際は、一部のテンプレートを削除して新しいものを追加する。テンプレート削除のルールとしては、例えば古いものから削除する、相関が低いものから削除するなどがある。   It is assumed that a plurality of template images are held for the same object with different acquisition times and update times, but a single template image may be used. When the correlation between the template image and the input image becomes low, the maximum number of templates that can be stored is added. When the maximum number is reached, delete some templates and add new ones. Examples of the template deletion rule include deletion from an old one, deletion from a lower correlation, and the like.

なお、テンプレートの設定方法としては、上記例に限らず、パターン認識技術を利用して、ある画像領域が追跡すべき物体と認識された場合にこの物体領域をテンプレートとして設定してもよい。また、テンプレートのサイズは、物体領域全体を含む大きさに設定するのが一般的であるが、物体領域の頭部周辺等の一部分をテンプレート画像として設定しても良い。また、テンプレート画像は、入力画像から切り出したものであり、入力画像の一部であるが、特に処理を加えずに用いても良いし、エッジ抽出や各種フィルタ処理を施してテンプレート画像としてもよい。   The template setting method is not limited to the above example, and a pattern recognition technique may be used to set an object region as a template when a certain image region is recognized as an object to be tracked. The size of the template is generally set to a size including the entire object region, but a part of the object region such as the periphery of the head may be set as a template image. Further, the template image is cut out from the input image and is a part of the input image. However, the template image may be used without any particular processing, or may be used as a template image by performing edge extraction or various filter processes. .

図2は、テンプレートマッチング部103の動作を説明する図である。テンプレートマッチング部103は、画像入力部101より入力された新たな入力画像と登録済みのテンプレート画像との相関を求め、相関性の高い領域を探索する。図2において、(a)に示すようなテンプレート設定部102で設定された直前のフレームのテンプレート画像をテンプレート画像Tとし、(b)に示すような新たに入力された入力画像を入力画像Iとする。テンプレートマッチング部103では、入力画像Iからテンプレート画像Tと最も相関が高くなる対応領域201を探索する。ここで、対応領域201の探索は、数十〜数百ms周期毎に繰り返すことで物体位置を追跡することができる。複数のテンプレート画像Tが存在する場合には、対象となる全てのテンプレート画像を用いて探索する。   FIG. 2 is a diagram for explaining the operation of the template matching unit 103. The template matching unit 103 obtains a correlation between the new input image input from the image input unit 101 and the registered template image, and searches for a highly correlated area. In FIG. 2, the template image of the immediately preceding frame set by the template setting unit 102 as shown in FIG. 2A is set as a template image T, and the newly input input image as shown in FIG. To do. The template matching unit 103 searches the corresponding area 201 having the highest correlation with the template image T from the input image I. Here, the search for the corresponding region 201 can be repeated every tens to hundreds of milliseconds to track the object position. When there are a plurality of template images T, the search is performed using all target template images.

このとき、直前フレームの処理において相関が最も高かった領域を基準に、最新の入力画像Iに水平垂直数十画素程度の探索範囲202を設定する。相関性を求めるとき、探索範囲202内を走査しながらテンプレート画像Tとの相関を順次に求める。探索範囲202を入力画像全体とすることも考えられるが、演算量が大きすぎることや誤対応が発生しやすいこと等から、一般的には探索範囲を限定する。探索範囲202の広さは、物体の動きにもよるが、水平垂直方向に数画素から数十画素程度である。   At this time, a search range 202 of about several tens of pixels in the horizontal and vertical directions is set in the latest input image I with reference to the region having the highest correlation in the processing of the immediately preceding frame. When obtaining the correlation, the correlation with the template image T is sequentially obtained while scanning the search range 202. Although it is conceivable that the search range 202 is the entire input image, the search range is generally limited because the amount of calculation is too large or miscorrespondence is likely to occur. The width of the search range 202 is about several to several tens of pixels in the horizontal and vertical directions, depending on the movement of the object.

画像における相関値の算出方法として、正規化相関を用いる場合の例を説明する。テンプレート画像Tの大きさをK(H)*L(V)画素とし、このテンプレート画像T(p,q)が移動して、現フレーム画像I(x,y)内の矩形領域K(H)*L(V)画素になったものとする。このテンプレート画像T(p,q)と現フレーム画像I(x,y)内の矩形領域K(H)*L(V)画素との正規化相関値NRML(xv,yv)は以下の式(1)のように表すことができる。   An example of using normalized correlation as a method for calculating a correlation value in an image will be described. The size of the template image T is set to K (H) * L (V) pixels, and the template image T (p, q) is moved so that the rectangular area K (H) in the current frame image I (x, y) is moved. * L (V) pixels are assumed. The normalized correlation value NRML (xv, yv) between the template image T (p, q) and the rectangular area K (H) * L (V) pixel in the current frame image I (x, y) is expressed by the following formula ( It can be expressed as 1).

Figure 2005236508
Figure 2005236508

正規化相関値NRMLは、両画像間の相関が高いほど1.0に近い値となり、相関が無い場合は0である。探索範囲202内にテンプレート画像Tと全く同じ画素値を持つ画像が存在した場合、正規化相関値NRMLは1.0となる。最も相関が高くなる現フレーム上の位置を対応領域201とする。直前のフレームで抽出したテンプレート画像の位置からの対応領域201の移動量が(xv,yv)であり、これがテンプレートの動きベクトルを示す。   The normalized correlation value NRML is closer to 1.0 as the correlation between both images is higher, and is 0 when there is no correlation. When an image having exactly the same pixel value as that of the template image T exists in the search range 202, the normalized correlation value NRML is 1.0. A position on the current frame having the highest correlation is defined as a corresponding area 201. The movement amount of the corresponding area 201 from the position of the template image extracted in the immediately preceding frame is (xv, yv), which indicates the motion vector of the template.

なお、上記例では正規化相関によって新たな入力画像とテンプレート画像との相関値を求める方法を説明したが、相関値の算出方法としては、より演算量が小さい差分法や差分絶対値和法などの手法も利用できる。   In the above example, the method of obtaining a correlation value between a new input image and a template image by normalized correlation has been described. However, as a correlation value calculation method, a difference method or a difference absolute value sum method with a smaller amount of calculation is used. This method can also be used.

見掛け形状変化検出部104では、追跡中の物体の見かけの形状が変化したことを検知し、後述するテンプレート保持制御部105に通知する。追跡物体の見掛けが変化することは、例えば侵入者の移動方向を用いて判定することができる。   The apparent shape change detection unit 104 detects that the apparent shape of the object being tracked has changed, and notifies the template holding control unit 105 described later. The change in the appearance of the tracked object can be determined using the moving direction of the intruder, for example.

図3は、物体の移動方向とこの物体の撮影画像における見掛けの変化の一例を示す図であり、(a)は撮像装置の光軸を横切る方向へ移動する場合、(b)は撮像装置の光軸に沿う方向へ移動する場合をそれぞれ示している。   FIG. 3 is a diagram illustrating an example of a moving direction of an object and an apparent change in a captured image of the object. FIG. 3A illustrates a case of moving in a direction crossing the optical axis of the imaging apparatus, and FIG. The cases of moving in the direction along the optical axis are shown.

図3(a)のように追跡物体301がカメラ等の撮像装置302の光軸を横切る方向へ移動する場合、撮像装置302から見ると、追跡物体301は初めの内は正面が観察されるが、移動するに従い側面を観察することなり、さらに移動すると裏面が観察される。この場合、撮像装置302による撮影画像において、追跡物体301の移動に伴って異なる面が撮影される。したがって、撮影画像において水平方向へ移動する物体は、移動に伴って見掛けの形状変化が大きくなる。   When the tracking object 301 moves in a direction crossing the optical axis of the imaging device 302 such as a camera as shown in FIG. 3A, the tracking object 301 is initially observed from the front when viewed from the imaging device 302. The side will be observed as it moves, and the back will be observed as it moves further. In this case, in the captured image by the imaging device 302, a different surface is captured as the tracking object 301 moves. Therefore, the apparent shape change of the object moving in the horizontal direction in the captured image increases with the movement.

図3(b)のように追跡物体301が撮像装置302の光軸に沿うような移動をする場合、撮像装置302から見ると、追跡物体301は常に正面付近が観察され、移動距離あたりの見掛けの変化が小さい。このとき、別途ズームの制御を適切に行えば画像上での物体の大きさをほぼ一定にすることができる。したがって、撮影画像において垂直方向や奥行き方向に移動する物体や、あるいは画像上での動きが小さい物体は、見掛けの形状変化が小さくなる。ただし、撮像装置の下を通過する場合のように、撮像装置のチルト角(俯角)が大きい状態では、移動方向によらず見掛けの形状変化は大きくなる。   When the tracking object 301 moves so as to follow the optical axis of the imaging device 302 as shown in FIG. 3B, when viewed from the imaging device 302, the tracking object 301 is always observed near the front, and the apparent per moving distance is observed. The change is small. At this time, if the zoom control is appropriately performed, the size of the object on the image can be made substantially constant. Therefore, the apparent shape change of an object moving in the vertical direction or depth direction in the captured image or an object having a small movement on the image is small. However, the apparent shape change becomes large regardless of the moving direction when the tilt angle (the depression angle) of the imaging device is large as in the case of passing under the imaging device.

追跡物体の移動方向は、テンプレートマッチングによって得られる画像上での移動画素数を方向別に積分することなどで把握することができるが、自動追尾装置の場合、常に物体が画像の中央付近となるよう撮像装置自体がパンチルト制御されるため、このパンチルト制御量を用いて移動方向を判定することができる。   The moving direction of the tracking object can be grasped by integrating the number of moving pixels on the image obtained by template matching according to the direction, but in the case of an automatic tracking device, the object is always near the center of the image. Since the imaging apparatus itself is pan-tilt controlled, the moving direction can be determined using this pan-tilt control amount.

したがって、見掛け形状変化検出部104は、追跡物体301が撮像装置302の光軸を横切る方向に移動する場合には見掛けの変化が大きく、撮像装置302の光軸に沿う方向に移動する場合には見掛けの変化が小さいと判断する。あるいは、撮像装置302のパンチルト角度またはズーム比率が所定値以上制御された場合に、見掛けの変化が発生したと判断する。   Therefore, the apparent shape change detection unit 104 has a large apparent change when the tracking object 301 moves in a direction crossing the optical axis of the imaging device 302, and when the tracking object 301 moves in a direction along the optical axis of the imaging device 302. Judge that the change in appearance is small. Alternatively, it is determined that an apparent change has occurred when the pan / tilt angle or the zoom ratio of the imaging device 302 is controlled to a predetermined value or more.

テンプレート保持制御部105は、見掛け形状変化検出部104の処理結果を受けて、画像の保持数上限を適応的に変更した後、テンプレート画像を保存する。このテンプレート画像は、同一物体について複数枚設定し保持することを想定しているが、単数でも構わない。テンプレート画像と入力画像との相関が低くなった場合等には、保存可能な上限枚数までテンプレート画像を追加する。上限枚数に達した際は、所定のルールでテンプレート画像を更新する。例えば古いものを削除した後に新しく追加する。以下に、テンプレート画像と入力画像との相関値とテンプレート画像の数との関係について説明する。   The template holding control unit 105 receives the processing result of the apparent shape change detection unit 104, adaptively changes the upper limit of the number of held images, and then saves the template image. Although it is assumed that a plurality of template images are set and held for the same object, a single template image may be used. When the correlation between the template image and the input image becomes low, the template images are added up to the maximum number that can be stored. When the upper limit is reached, the template image is updated according to a predetermined rule. For example, after deleting the old one, add a new one. The relationship between the correlation value between the template image and the input image and the number of template images will be described below.

テンプレートマッチング部103において相関演算を行うと、各テンプレート画像と入力画像との相関値CORR、例えば上記式(1)記載の正規化相関値NRMLが結果として得られる。ここで、入力画像と複数のテンプレート画像との相関値が下記の式(2)の条件を満たす場合には、テンプレート画像を追加する。   When correlation calculation is performed in the template matching unit 103, a correlation value CORR between each template image and the input image, for example, a normalized correlation value NRML described in the above equation (1) is obtained as a result. Here, when the correlation value between the input image and the plurality of template images satisfies the condition of the following expression (2), the template image is added.

相関値CORR≦相関値閾値TH_CORR …(2)       Correlation value CORR ≦ correlation value threshold TH_CORR (2)

複数のテンプレート画像が存在する場合は複数の相関値が得られるが、最大値をもって式(2)の相関値CORRとする。つまり、複数のテンプレート画像と入力画像との相関値CORRが所定の相関値閾値TH_CORR以下となり、相関が低くなった場合は、新しいテンプレートを追加する。   If there are a plurality of template images, a plurality of correlation values can be obtained, and the maximum value is taken as the correlation value CORR of equation (2). That is, when the correlation value CORR between the plurality of template images and the input image is equal to or smaller than the predetermined correlation value threshold TH_CORR and the correlation becomes low, a new template is added.

テンプレート画像の保存数は、ある程度保持した方が追跡物体の形状変化に対応することができると考えられるが、多すぎる場合には背景パターンとの相関が高いテンプレートも保存される可能性が高くなる。実際、長時間にわたって取得した多数のテンプレート画像を保持していると、背景のパターンと相関が高いものも保存されてしまい、テンプレートが背景に貼り付いて物体追跡が中断する現象が発生する。   It is considered that the number of stored template images can cope with the shape change of the tracking object if it is held to some extent, but if it is too much, a template having a high correlation with the background pattern is likely to be stored. . In fact, if a large number of template images acquired over a long period of time are held, those having a high correlation with the background pattern are stored, and a phenomenon occurs in which the template is stuck on the background and object tracking is interrupted.

そこで、本実施形態では、物体の見掛けが大きく変化したと判定された場合には、テンプレート画像の保存数上限を通常より少なくし、追跡性能を劣化させるテンプレート画像を削除して利用されないようにする。既に保存数上限を超えていた場合は、所定のルールで一部のテンプレート画像を削除する。例えば、削除するルールとしては、古いものから削除したり、テンプレートマッチングで追跡物体との相関が低いものから削除したりすることが考えられる。   Therefore, in this embodiment, when it is determined that the appearance of the object has changed significantly, the upper limit of the number of template images to be saved is made smaller than usual, and the template image that deteriorates the tracking performance is deleted and not used. . If the storage number upper limit has already been exceeded, some template images are deleted according to a predetermined rule. For example, as a rule to be deleted, it is possible to delete from the oldest one, or delete from the one having a low correlation with the tracking object by template matching.

図4は第1の実施形態におけるテンプレート保持制御部105によるテンプレート画像の制御動作を示すフローチャートである。   FIG. 4 is a flowchart showing a template image control operation by the template holding control unit 105 in the first embodiment.

テンプレート保持制御部105は、見掛け形状変化検出部104における検出結果により、追跡物体の見掛けの形状変化があるかを判断する(ステップ401)。ステップ401において、追跡物体の見掛けの形状変化が所定量以上あると判断した場合、テンプレート画像の保存数上限を通常より少なくする(ステップ402)。これにより、追跡物体の見掛けの形状が大きく変化した場合に、追跡性能を劣化させるテンプレート画像を削除して利用されないようにする。既に保存数上限を超えていた場合は、所定のルールで一部のテンプレート画像を削除する。一方、ステップ401で追跡物体の見掛けの形状変化がないと判断した場合、テンプレート画像の保存数上限を変化させずに処理を終了する。   The template holding control unit 105 determines whether there is an apparent shape change of the tracked object based on the detection result in the apparent shape change detection unit 104 (step 401). If it is determined in step 401 that the apparent shape change of the tracking object is greater than or equal to a predetermined amount, the upper limit of the number of template images stored is reduced below normal (step 402). As a result, when the apparent shape of the tracked object changes greatly, the template image that degrades the tracking performance is deleted and is not used. If the storage number upper limit has already been exceeded, some template images are deleted according to a predetermined rule. On the other hand, if it is determined in step 401 that there is no change in the apparent shape of the tracked object, the process ends without changing the upper limit of the number of saved template images.

撮像装置制御部106は、追跡物体が存在する方向に撮像装置108のカメラの光軸(カメラの視野方向)が向くように、パン、チルト等を行うカメラ駆動機構を制御する。これにより、追跡物体が撮影画像の中央部に位置するように撮像装置108が駆動制御される。このとき、テンプレートマッチングによって検出された追跡物体の中心位置と入力画像の中心位置とを比較し、検出された追跡物体の中心位置が入力画像の中心位置に対して左右方向のずれがあった場合、カメラのパンモータを制御し、カメラの光軸を水平方向へ移動させて調節する。また、追跡物体の中心位置が入力画像の中心位置に対して上下方向のずれがあった場合、カメラのチルトモータを制御し、カメラの光軸を垂直方向へ移動させて調節する。   The imaging device control unit 106 controls a camera driving mechanism that performs panning, tilting, and the like so that the optical axis of the camera of the imaging device 108 (the viewing direction of the camera) faces in the direction in which the tracking object exists. As a result, the imaging device 108 is driven and controlled so that the tracking object is positioned at the center of the captured image. At this time, the center position of the tracking object detected by template matching is compared with the center position of the input image, and the center position of the detected tracking object is shifted in the left-right direction with respect to the center position of the input image. Control the pan motor of the camera and adjust it by moving the optical axis of the camera in the horizontal direction. Further, when the center position of the tracking object is shifted in the vertical direction with respect to the center position of the input image, the camera is adjusted by moving the optical axis of the camera in the vertical direction by controlling the tilt motor of the camera.

次に、上記のように構成された第1の実施形態の自動追尾装置の全体の動作を図5に基づき説明する。図5は第1の実施形態における自動追尾装置の動作手順を示すフローチャートである。   Next, the overall operation of the automatic tracking device of the first embodiment configured as described above will be described with reference to FIG. FIG. 5 is a flowchart showing an operation procedure of the automatic tracking device according to the first embodiment.

まず、画像入力部101において、撮像装置108によって撮影された画像を入力する(ステップ501)。そして、テンプレート設定部102において、入力された画像の中の物体領域(追跡対象となる物体の画素領域)をテンプレート画像として登録することで、テンプレートを設定する(ステップ502)。次に、画像入力部101において撮像装置108によって新たに撮影された画像を入力する(ステップ503)。   First, the image input unit 101 inputs an image captured by the imaging device 108 (step 501). Then, the template setting unit 102 sets a template by registering an object region (a pixel region of an object to be tracked) in the input image as a template image (step 502). Next, an image newly captured by the imaging device 108 is input in the image input unit 101 (step 503).

そして、テンプレートマッチング部103において、新たな入力画像とテンプレート画像とを比較して相関値を算出し、新たな入力画像の中から登録済みのテンプレート画像との相関が高い領域を探索する(ステップ504)。このテンプレートマッチング処理により、追跡物体の画素位置が抽出される。   Then, the template matching unit 103 compares the new input image with the template image to calculate a correlation value, and searches for a region having a high correlation with the registered template image from the new input image (step 504). ). By this template matching process, the pixel position of the tracking object is extracted.

次に、見掛け形状変化検出部104において、追跡物体の見掛けの形状変化があるかどうかを判定し、判定結果をテンプレート保持制御部105に通知する(ステップ505)。ここで、追跡物体の見掛けの形状変化が大きいと判断した場合、テンプレート保持制御部105において、追跡物体の見掛けの変化に応じてテンプレート画像の保持数上限を下げるように制御する(ステップ506)。一方、追跡物体の見掛けの形状変化が小さいと判断した場合、ステップ506をスキップする。なお、テンプレートの保持数上限を下げるときに、テンプレートの保持数上限を超えている場合は、一部のテンプレート画像を削除する。   Next, the apparent shape change detection unit 104 determines whether there is a change in the apparent shape of the tracked object, and notifies the template holding control unit 105 of the determination result (step 505). If it is determined that the apparent shape change of the tracking object is large, the template holding control unit 105 performs control so as to lower the upper limit of the number of template images held in accordance with the change in the appearance of the tracking object (step 506). On the other hand, if it is determined that the apparent shape change of the tracking object is small, step 506 is skipped. Note that when the upper limit of template retention is lowered and the upper limit of template retention is exceeded, some template images are deleted.

そして、テンプレート保持制御部105において、テンプレートマッチング部103での処理結果に基づき、入力画像とテンプレート画像との相関値が所定の閾値以下かどうかを判定し、閾値以下の場合はテンプレート画像を更新する。そして、更新後のテンプレート画像を保存する(ステップ507)。   Then, the template holding control unit 105 determines whether the correlation value between the input image and the template image is equal to or less than a predetermined threshold based on the processing result in the template matching unit 103, and updates the template image if it is equal to or less than the threshold. . Then, the updated template image is stored (step 507).

その後、撮像装置制御部106において、撮像装置108のパン、チルト、ズームの制御を行い、追跡物体が画像の中央部に位置するように撮像装置108をPTZ動作させ(ステップ508)、撮像装置108で追跡物体を含む監視領域を撮像する(ステップ509)。そして、画像出力部107において、撮像装置108で撮影した画像を外部の画像表示装置に出力する(ステップ510)。その後、ステップ503の新たな画像入力処理に戻り、同様の処理を繰り返す。   Thereafter, the imaging device control unit 106 controls panning, tilting, and zooming of the imaging device 108 and causes the imaging device 108 to perform a PTZ operation so that the tracking object is positioned at the center of the image (step 508). Then, the monitoring area including the tracking object is imaged (step 509). Then, the image output unit 107 outputs the image captured by the imaging device 108 to an external image display device (step 510). Thereafter, the process returns to the new image input process in step 503, and the same process is repeated.

上記のように、第1の実施形態の自動追尾装置では、見掛け形状変化検出部104において追跡対象の物体の見掛けの形状変化を物体の移動方向を元に判定し、見掛けの形状変化がある場合に、相関演算で用いるテンプレート画像の更新アルゴリズムを変更する。具体的には、テンプレート保持制御部105においてテンプレート画像の保存数上限を小さくするようにする。このように、追跡物体の見掛けの変化の検出結果に応じて、テンプレート画像の保持内容を適応的に変更する制御によって、背景パターンとの相関が高いテンプレート画像が保存されることを低減できる。これにより、物体の追跡が中断されてしまうことを防止でき、より安定して物体を追跡することが可能になる。   As described above, in the automatic tracking device according to the first embodiment, the apparent shape change detection unit 104 determines the apparent shape change of the tracking target object based on the moving direction of the object, and there is an apparent shape change. In addition, the template image update algorithm used in the correlation calculation is changed. Specifically, the template storage control unit 105 reduces the upper limit of the number of template images stored. As described above, it is possible to reduce the storage of a template image having a high correlation with the background pattern by adaptively changing the held content of the template image according to the detection result of the apparent change of the tracking object. As a result, the tracking of the object can be prevented from being interrupted, and the object can be tracked more stably.

(第2の実施形態)
第2の実施形態は、自動追尾装置100におけるテンプレート保持制御部105の機能を変更した例である。その他の構成及び動作は前述した第1の実施形態と同様であり、ここでは第2の実施形態の特徴部分を中心に説明する。
(Second Embodiment)
The second embodiment is an example in which the function of the template holding control unit 105 in the automatic tracking device 100 is changed. Other configurations and operations are the same as those of the first embodiment described above, and here, the description will focus on the features of the second embodiment.

第2の実施形態では、テンプレート保持制御部105は対象物体の見掛けの形状の変化に応じてテンプレートの更新頻度を制御する。すなわち、テンプレート保持制御部105は、見掛け形状変化検出部104の処理結果を受けて、画像の更新頻度を適応的に変更した後、テンプレート画像を保存する。画像入力部101より入力された画像は、テンプレートマッチング部103において登録済みのテンプレート画像との相関が高い領域が探索され、追跡中の物体の見掛けの変化が検出された場合、この変化量に応じてテンプレート保持制御部605の制御によりテンプレートの更新頻度が変更される。このとき、物体の見掛けの形状が大きく変化したと判定された場合には、テンプレート画像の更新頻度を通常より高くする。   In the second embodiment, the template holding control unit 105 controls the template update frequency according to the change in the apparent shape of the target object. That is, the template holding control unit 105 receives the processing result of the apparent shape change detection unit 104, adaptively changes the image update frequency, and then stores the template image. The image input from the image input unit 101 is searched for a region having a high correlation with the registered template image in the template matching unit 103, and when an apparent change in the object being tracked is detected, the amount of change is determined. The template update frequency is changed under the control of the template holding control unit 605. At this time, if it is determined that the apparent shape of the object has changed significantly, the update frequency of the template image is set higher than usual.

テンプレート画像は、物体の形状変化に対応すべく、複数持つことが有効であるが、比較的大きな見掛け形状の変化を伴なう動き方をする場合には、テンプレートの更新頻度を高くし、より現在の形状に近いテンプレート画像を保持できるようにする。具体的には、見掛けが大きく変化したと判定された場合には、例えば式(2)で利用したようなテンプレート更新の際に用いる相関値閾値を下げて、テンプレート画像の更新がより頻繁に行われるように変更する。   It is effective to have multiple template images to cope with changes in the shape of the object, but if the movement is accompanied by a relatively large change in the apparent shape, the template update frequency is increased, and more A template image close to the current shape can be held. Specifically, when it is determined that the appearance has changed significantly, for example, the template value is updated more frequently by lowering the correlation value threshold used when updating the template as used in Equation (2). To change.

図6は第2の実施形態におけるテンプレート保持制御部105によるテンプレート画像の制御動作を示すフローチャートである。   FIG. 6 is a flowchart showing a template image control operation by the template holding control unit 105 according to the second embodiment.

テンプレート保持制御部105は、見掛け形状変化検出部104における検出結果により、追跡物体の見掛けの形状変化があるかを判断する(ステップ601)。ステップ601において、追跡物体の見掛けの形状変化が所定量以上あると判断した場合、テンプレート画像の更新頻度を上げる(ステップ602)。これにより、追跡物体の見掛けの形状が大きく変化した場合に、テンプレート画像更新がより頻繁に行われるようにする。一方、ステップ601で追跡物体の見掛けの形状変化がないと判断した場合、テンプレート画像の更新頻度を変化させずに処理を終了する。   The template holding control unit 105 determines whether there is an apparent shape change of the tracked object based on the detection result in the apparent shape change detection unit 104 (step 601). If it is determined in step 601 that the apparent shape change of the tracking object is greater than or equal to a predetermined amount, the template image update frequency is increased (step 602). As a result, when the apparent shape of the tracking object changes greatly, the template image is updated more frequently. On the other hand, if it is determined in step 601 that there is no change in the apparent shape of the tracked object, the process ends without changing the update frequency of the template image.

次に、第2の実施形態の自動追尾装置の全体の動作を図7に基づき説明する。図7は第2の実施形態における自動追尾装置の動作手順を示すフローチャートである。   Next, the overall operation of the automatic tracking device according to the second embodiment will be described with reference to FIG. FIG. 7 is a flowchart showing an operation procedure of the automatic tracking device according to the second embodiment.

図7において、画像入力から追跡物体の見掛けの変化を判断するまでの手順、すなわちステップ501〜505の動作は、図5に示した第1の実施形態と同様である。ステップ505で追跡物体の見掛けの形状変化が大きいと判断した場合、テンプレート保持制御部105において、追跡物体の見掛けの変化に応じてテンプレート画像の更新頻度を上げるように制御する(ステップ706)。一方、追跡物体の見掛けの形状変化が小さいと判断した場合、ステップ706をスキップする。なお、テンプレート画像の更新、保存を行う手順以降、すなわちステップ507以降の動作についても、図5に示した第1の実施形態と同様である。   In FIG. 7, the procedure from the image input to the determination of the apparent change of the tracked object, that is, the operations in steps 501 to 505 are the same as those in the first embodiment shown in FIG. If it is determined in step 505 that the apparent shape change of the tracking object is large, the template holding control unit 105 controls the template image to be updated at a higher frequency according to the change in the tracking object appearance (step 706). On the other hand, if it is determined that the apparent shape change of the tracked object is small, step 706 is skipped. Note that the operations after the procedure for updating and saving the template image, that is, the operations after step 507 are the same as those in the first embodiment shown in FIG.

上記のように、第2の実施形態の自動追尾装置では、見掛け形状変化検出部104において追跡対象の物体の見掛けの形状変化を物体の移動方向を元に判定し、見掛けの形状変化がある場合に、相関演算で用いるテンプレート画像の更新アルゴリズムを変更する。具体的には、テンプレート保持制御部105においてテンプレート画像の更新頻度を上げるようにする。このように、追跡物体の見掛けの変化の検出結果に応じて、テンプレート画像の保持内容を適応的に変更する制御によって、より現在の形状に近いテンプレート画像を保持することができ、追跡物体の見掛け形状の変化に追従してより安定に物体を追跡することができる。   As described above, in the automatic tracking device according to the second embodiment, the apparent shape change detection unit 104 determines the apparent shape change of the object to be tracked based on the moving direction of the object, and there is an apparent shape change. In addition, the template image update algorithm used in the correlation calculation is changed. Specifically, the template holding control unit 105 increases the update frequency of the template image. In this way, a template image closer to the current shape can be retained by control to adaptively change the retained content of the template image according to the detection result of the apparent change of the tracking object, and the apparent appearance of the tracking object can be retained. The object can be tracked more stably following the change in shape.

本発明は、画像中の侵入者等の物体を追跡する際に、追跡の中断がなく安定した追尾が可能となる効果を有し、侵入物体等の監視システムにおいて撮影画像中の特定の物体を追跡する自動追尾装置及び自動追尾方法等に有用である。   The present invention has an effect of enabling stable tracking without tracking interruption when tracking an object such as an intruder in an image, and a specific object in a captured image is detected in a monitoring system such as an intruding object. This is useful for an automatic tracking device and an automatic tracking method for tracking.

本発明の第1の実施形態に係る自動追尾装置の機能構成を示す図The figure which shows the function structure of the automatic tracking apparatus which concerns on the 1st Embodiment of this invention. (a)本実施形態のテンプレートマッチング部の動作において直前のフレームのテンプレート画像Tを示す図、(b)本実施形態のテンプレートマッチング部の動作において入力画像Iを示す図(A) The figure which shows the template image T of the last frame in operation | movement of the template matching part of this embodiment, (b) The figure which shows the input image I in operation | movement of the template matching part of this embodiment. (a)本実施形態において物体が撮像装置の光軸を横切る方向へ移動する場合の見掛けの変化の一例を示す図、(b)本実施形態において物体が撮像装置の光軸に沿う方向へ移動する場合の見掛けの変化の一例を示す図(A) The figure which shows an example of an apparent change when an object moves to the direction which crosses the optical axis of an imaging device in this embodiment, (b) In this embodiment, an object moves to the direction along the optical axis of an imaging device. Showing an example of apparent change when 第1の実施形態におけるテンプレート保持制御部によるテンプレート画像の制御動作を示すフローチャート6 is a flowchart illustrating a template image control operation by the template holding control unit according to the first embodiment. 第1の実施形態における自動追尾装置の動作手順を示すフローチャートThe flowchart which shows the operation | movement procedure of the automatic tracking apparatus in 1st Embodiment. 第2の実施形態におけるテンプレート保持制御部によるテンプレート画像の制御動作を示すフローチャート8 is a flowchart showing a template image control operation by the template holding control unit according to the second embodiment. 第2の実施形態における自動追尾装置の動作手順を示すフローチャートThe flowchart which shows the operation | movement procedure of the automatic tracking apparatus in 2nd Embodiment. 従来例における物体追跡時の動作を示すフローチャートFlow chart showing the operation at the time of object tracking in the conventional example

符号の説明Explanation of symbols

100 自動追尾装置
101 画像入力部
102 テンプレート設定部
103 テンプレートマッチング部
104 見かけ形状変化検出部
105 テンプレート保持制御部
106 撮像装置制御部
107 画像出力部
108、302 撮像装置
109 画像表示装置
301 追跡物体
DESCRIPTION OF SYMBOLS 100 Automatic tracking apparatus 101 Image input part 102 Template setting part 103 Template matching part 104 Apparent shape change detection part 105 Template holding | maintenance control part 106 Imaging device control part 107 Image output part 108,302 Imaging device 109 Image display apparatus 301 Tracking object

Claims (7)

撮像手段によって撮影された画像を入力し、前記画像中の対象物体を追跡する自動追尾装置であって、
前記対象物体の特徴を示すテンプレート画像と入力画像との相関演算を行うテンプレートマッチング手段と、
前記対象物体の形状変化を検出する形状変化検出手段と、
前記形状変化検出手段の処理結果に応じて、前記テンプレート画像の更新アルゴリズムを制御するテンプレート保持制御手段と
を備えることを特徴とする自動追尾装置。
An automatic tracking device that inputs an image captured by an imaging unit and tracks a target object in the image,
Template matching means for performing a correlation operation between a template image indicating the characteristics of the target object and an input image;
A shape change detecting means for detecting a shape change of the target object;
An automatic tracking device comprising: a template holding control unit that controls an update algorithm of the template image according to a processing result of the shape change detection unit.
請求項1記載の自動追尾装置であって、
前記形状変化検出手段は、前記対象物体が前記撮像手段の光軸を横切る方向に移動する場合には見掛けの変化が大きく、前記光軸に沿う方向に移動する場合には見掛けの変化が小さいと判断することを特徴とする自動追尾装置。
The automatic tracking device according to claim 1,
The shape change detecting means has a large apparent change when the target object moves in a direction crossing the optical axis of the imaging means, and a small apparent change when the target object moves in a direction along the optical axis. An automatic tracking device characterized by judging.
請求項1記載の自動追尾装置であって、
前記形状変化検出手段は、前記撮像手段のパンチルト角度またはズーム比率が所定値以上制御された場合に前記対象物体の見掛けの変化が発生したと判断することを特徴とする自動追尾装置。
The automatic tracking device according to claim 1,
The automatic tracking device, wherein the shape change detecting means determines that an apparent change of the target object has occurred when a pan / tilt angle or a zoom ratio of the imaging means is controlled to a predetermined value or more.
請求項1〜3のいずれか一項記載の自動追尾装置であって、
前記テンプレート保持制御手段は、前記形状変化検出手段において前記対象物体に形状変化があったと判断された場合に、前記テンプレート画像の保持数上限を下げることを特徴とする自動追尾装置。
The automatic tracking device according to any one of claims 1 to 3,
The automatic tracking apparatus, wherein the template holding control means lowers the upper limit of the number of holding template images when the shape change detecting means determines that the target object has a shape change.
請求項1〜3のいずれか一項記載の自動追尾装置であって、
前記テンプレート保持制御手段は、前記形状変化検出手段において前記対象物体に形状変化があったと判断された場合に、前記テンプレート画像の更新頻度を上げることを特徴とする自動追尾装置。
The automatic tracking device according to any one of claims 1 to 3,
The automatic tracking device, wherein the template holding control means increases the update frequency of the template image when the shape change detecting means determines that the target object has a shape change.
撮像手段によって撮影された画像を入力し、前記画像中の対象物体を追跡する自動追尾方法であって、
入力画像中の対象物体の特徴を示すテンプレート画像を設定するテンプレート設定ステップと、
前記対象物体を含む新たな入力画像と前記テンプレート画像との相関演算を行うテンプレートマッチングステップと、
前記対象物体の形状変化を検出する形状変化検出ステップと、
前記形状変化検出の処理結果に応じて、前記テンプレート画像の更新アルゴリズムを制御するテンプレート保持制御ステップと
を有することを特徴とする自動追尾方法。
An automatic tracking method for inputting an image taken by an imaging means and tracking a target object in the image,
A template setting step for setting a template image indicating the characteristics of the target object in the input image;
A template matching step for performing a correlation operation between the new input image including the target object and the template image;
A shape change detecting step for detecting a shape change of the target object;
A template holding control step of controlling an update algorithm of the template image in accordance with a processing result of the shape change detection.
請求項6記載の自動追尾方法の各手順をコンピュータに実行させるためのプログラム。   The program for making a computer perform each procedure of the automatic tracking method of Claim 6.
JP2004041276A 2004-02-18 2004-02-18 Automatic tracking device and automatic tracking method Expired - Fee Related JP4597543B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004041276A JP4597543B2 (en) 2004-02-18 2004-02-18 Automatic tracking device and automatic tracking method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004041276A JP4597543B2 (en) 2004-02-18 2004-02-18 Automatic tracking device and automatic tracking method

Publications (2)

Publication Number Publication Date
JP2005236508A true JP2005236508A (en) 2005-09-02
JP4597543B2 JP4597543B2 (en) 2010-12-15

Family

ID=35019038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004041276A Expired - Fee Related JP4597543B2 (en) 2004-02-18 2004-02-18 Automatic tracking device and automatic tracking method

Country Status (1)

Country Link
JP (1) JP4597543B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007272436A (en) * 2006-03-30 2007-10-18 Univ Of Electro-Communications Object tracking device, abnormal state detector and object tracking method
WO2010103623A1 (en) 2009-03-10 2010-09-16 三菱重工業株式会社 Controller of radiation therapy equipment and method for measuring position of specific part
WO2010128579A1 (en) * 2009-05-07 2010-11-11 パナソニック株式会社 Electron camera, image processing device, and image processing method
CN103179335A (en) * 2011-09-01 2013-06-26 瑞萨电子株式会社 Object tracking device
JP2015041383A (en) * 2013-08-23 2015-03-02 株式会社リコー Object tracking method and object tracking device
JP2018142907A (en) * 2017-02-28 2018-09-13 キヤノンマーケティングジャパン株式会社 Information processing apparatus, control method and program of information processing apparatus
WO2020079807A1 (en) * 2018-10-18 2020-04-23 日本電気株式会社 Object tracking device, object tracking method, and program

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09265538A (en) * 1996-03-29 1997-10-07 Matsushita Electric Works Ltd Automatic tracking device
JPH10208059A (en) * 1997-01-22 1998-08-07 Matsushita Electric Ind Co Ltd Mobile object extracting device
JPH11284997A (en) * 1998-03-31 1999-10-15 Oki Electric Ind Co Ltd Traveling object sensing device
JP2000113158A (en) * 1998-10-01 2000-04-21 Toshiba Corp Device and method for tracking object
JP2000259838A (en) * 1999-03-12 2000-09-22 Fujitsu Ltd Image tracking device and recording medium
JP2001060265A (en) * 1999-08-24 2001-03-06 Sony Corp Device and method for image processing and medium
JP2001285695A (en) * 2000-03-30 2001-10-12 Nec Corp Mobile body tracking method and device therefor
WO2002067199A1 (en) * 2001-02-19 2002-08-29 Honda Giken Kogyo Kabushiki Kaisha Target recognizing device and target recognizing method
JP2003178310A (en) * 2001-12-07 2003-06-27 Toshiba Corp Object image tracking method and program
JP2003235035A (en) * 2001-12-05 2003-08-22 Hitachi Kokusai Electric Inc Object detecting method, object detecting apparatus employing the same, object tracking method, and object tracking apparatus employing the same

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09265538A (en) * 1996-03-29 1997-10-07 Matsushita Electric Works Ltd Automatic tracking device
JPH10208059A (en) * 1997-01-22 1998-08-07 Matsushita Electric Ind Co Ltd Mobile object extracting device
JPH11284997A (en) * 1998-03-31 1999-10-15 Oki Electric Ind Co Ltd Traveling object sensing device
JP2000113158A (en) * 1998-10-01 2000-04-21 Toshiba Corp Device and method for tracking object
JP2000259838A (en) * 1999-03-12 2000-09-22 Fujitsu Ltd Image tracking device and recording medium
JP2001060265A (en) * 1999-08-24 2001-03-06 Sony Corp Device and method for image processing and medium
JP2001285695A (en) * 2000-03-30 2001-10-12 Nec Corp Mobile body tracking method and device therefor
WO2002067199A1 (en) * 2001-02-19 2002-08-29 Honda Giken Kogyo Kabushiki Kaisha Target recognizing device and target recognizing method
JP2003235035A (en) * 2001-12-05 2003-08-22 Hitachi Kokusai Electric Inc Object detecting method, object detecting apparatus employing the same, object tracking method, and object tracking apparatus employing the same
JP2003178310A (en) * 2001-12-07 2003-06-27 Toshiba Corp Object image tracking method and program

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007272436A (en) * 2006-03-30 2007-10-18 Univ Of Electro-Communications Object tracking device, abnormal state detector and object tracking method
WO2010103623A1 (en) 2009-03-10 2010-09-16 三菱重工業株式会社 Controller of radiation therapy equipment and method for measuring position of specific part
JP5124045B2 (en) * 2009-03-10 2013-01-23 三菱重工業株式会社 Radiotherapy apparatus control apparatus and specific part position measurement method
US9433802B2 (en) 2009-03-10 2016-09-06 Mitsubishi Heavy Industries, Ltd. Radiotherapy apparatus control apparatus and specific site position measuring method
WO2010128579A1 (en) * 2009-05-07 2010-11-11 パナソニック株式会社 Electron camera, image processing device, and image processing method
JP2010263439A (en) * 2009-05-07 2010-11-18 Panasonic Corp Electronic camera, image processing device, and image processing method
CN103179335B (en) * 2011-09-01 2017-12-12 瑞萨电子株式会社 Object tracking device
CN103179335A (en) * 2011-09-01 2013-06-26 瑞萨电子株式会社 Object tracking device
JP2015041383A (en) * 2013-08-23 2015-03-02 株式会社リコー Object tracking method and object tracking device
JP2018142907A (en) * 2017-02-28 2018-09-13 キヤノンマーケティングジャパン株式会社 Information processing apparatus, control method and program of information processing apparatus
WO2020079807A1 (en) * 2018-10-18 2020-04-23 日本電気株式会社 Object tracking device, object tracking method, and program
JPWO2020079807A1 (en) * 2018-10-18 2021-10-14 日本電気株式会社 Object tracking device, object tracking method, and program
JP7136222B2 (en) 2018-10-18 2022-09-13 日本電気株式会社 Object tracking device, object tracking method, and program
US20220309682A1 (en) * 2018-10-18 2022-09-29 Nec Corporation Object tracking apparatus, object tracking method, and program

Also Published As

Publication number Publication date
JP4597543B2 (en) 2010-12-15

Similar Documents

Publication Publication Date Title
JP4699040B2 (en) Automatic tracking control device, automatic tracking control method, program, and automatic tracking system
JP4241742B2 (en) Automatic tracking device and automatic tracking method
US7113616B2 (en) Object tracking method and apparatus using template matching
JP4575829B2 (en) Display screen position analysis device and display screen position analysis program
KR101071352B1 (en) Apparatus and method for tracking object based on PTZ camera using coordinate map
JP4697810B2 (en) Automatic tracking device and automatic tracking method
JP3440916B2 (en) Automatic tracking device, automatic tracking method, and recording medium recording automatic tracking program
JP2006523043A (en) Method and system for monitoring
JP4578864B2 (en) Automatic tracking device and automatic tracking method
JP2007129480A (en) Imaging device
KR20170033126A (en) Method and apparatus of estimating a motion of an image, method and apparatus of image stabilization and computer-readable recording medium for executing the method
US20050052533A1 (en) Object tracking method and object tracking apparatus
EP3018891B1 (en) Tracking device, tracking method, and non-transitory recording medium having tracking program stored therein
US20110102454A1 (en) Image processing device, image processing method, image processing program, and imaging device
WO2013121215A1 (en) Video tracking apparatus and method
JP4597543B2 (en) Automatic tracking device and automatic tracking method
JP4699056B2 (en) Automatic tracking device and automatic tracking method
JP4594197B2 (en) Automatic tracking device
JP7125843B2 (en) Fault detection system
KR20190026625A (en) Image displaying method, Computer program and Recording medium storing computer program for the same
JP2010011016A (en) Tracking point detection apparatus, method, program, and recording medium
JP4794903B2 (en) Terminal device, control method performed by terminal device, and program
JP3828096B2 (en) Object tracking device
KR101576426B1 (en) Apparatus and Method for surveillance using fish eyes lens
JP2007036782A (en) Moving object detection apparatus

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060327

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070131

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071114

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071121

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071128

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071205

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100824

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100922

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131001

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees