JP2007287093A - Program, method and device for detecting mobile object - Google Patents

Program, method and device for detecting mobile object Download PDF

Info

Publication number
JP2007287093A
JP2007287093A JP2006116786A JP2006116786A JP2007287093A JP 2007287093 A JP2007287093 A JP 2007287093A JP 2006116786 A JP2006116786 A JP 2006116786A JP 2006116786 A JP2006116786 A JP 2006116786A JP 2007287093 A JP2007287093 A JP 2007287093A
Authority
JP
Japan
Prior art keywords
detection
image
moving body
moving
instruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006116786A
Other languages
Japanese (ja)
Inventor
Kazuhiro Tomizawa
一博 富澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Frontech Ltd
Original Assignee
Fujitsu Frontech Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Frontech Ltd filed Critical Fujitsu Frontech Ltd
Priority to JP2006116786A priority Critical patent/JP2007287093A/en
Publication of JP2007287093A publication Critical patent/JP2007287093A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a device for detecting a mobile object, which easily and appropriately responds to a situation when an undetected object is generated. <P>SOLUTION: An image obtaining unit 101 stores the obtained image in an image storage unit 102. A first mobile object detector 103 and a second mobile object detector 104 detect a mobile objects image photographed as a shooting image by different detection methods. A detection control unit 107 operates, at first, the first mobile object detector 103 to detect the image of the mobile object. A display control unit 105 makes a display device 120 display the result of detection. The detection control unit 107 makes the first mobile object detector 103, in accordance with a set of settings, detect the image by changing detection conditions for the image for the mobile object, or the second mobile object detector 104 detect the image, when receiving a notice from an input part 106 that a re-detection of the image for the mobile object has been instructed by an operator. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、撮影画像中に被写体として撮影された移動体を検出する移動体検出装置に関する。   The present invention relates to a moving body detection apparatus that detects a moving body photographed as a subject in a captured image.

移動体を検出する移動体検出装置は、交通事象解析、或いは高齢者・障害者の移動支援などのために利用されている。その移動体検出装置としては、例えば特許文献1に記載されているように、画像処理技術を用いたもの、つまり撮影画像中に被写体として撮影された移動体の画像(移動体画像)を検出するものが一般的である。   A moving body detection device that detects a moving body is used for traffic event analysis or for assisting movement of elderly and disabled persons. As the moving body detection device, as described in Patent Document 1, for example, an apparatus using an image processing technique, that is, an image of a moving body (moving body image) captured as a subject in a captured image is detected. Things are common.

移動体検出には普通、背景差分法、或いはフレーム間差分法が用いられる。背景差分法は、予め撮影場所の背景画像(モデル)を用意し、その背景画像(モデル)と撮影画像との間の差分(画素毎に求めた画素値の差)から移動体画像を検出するものである。フレーム間差分法は、撮影画像(フレーム)間の差分から移動体画像を検出するものである。   Usually, a background subtraction method or an interframe subtraction method is used for moving object detection. In the background subtraction method, a background image (model) of a shooting location is prepared in advance, and a moving body image is detected from a difference between the background image (model) and the shot image (difference in pixel value obtained for each pixel). Is. The inter-frame difference method is to detect a moving body image from a difference between captured images (frames).

図10は、背景差分法による移動体検出を説明する図である。図中、縦軸は背景画像と撮影画像間の差分値、つまりそれらの間の画素値の差(以降「画素差分値」と呼ぶ)を示し、横軸は撮影画像におけるX或いはY軸に沿ったライン上の位置を示している。それにより図10は、そのラインで得られた差分値の位置による変化を模式的に示している。なお、ライン上の画素差分値の変化は、実際には図10に示すような直線的なものとはならない。   FIG. 10 is a diagram for explaining the moving object detection by the background subtraction method. In the figure, the vertical axis indicates the difference value between the background image and the captured image, that is, the difference between the pixel values (hereinafter referred to as “pixel difference value”), and the horizontal axis indicates the X or Y axis in the captured image. The position on the line is shown. Accordingly, FIG. 10 schematically shows a change depending on the position of the difference value obtained in the line. Note that the change of the pixel difference value on the line is not actually linear as shown in FIG.

そのライン上に移動体A、Bの2つの移動体が存在する場合、図10に示すように、移動体A、Bが存在する場所の画素差分値は大きくなる。そのため、移動体と見なすべき画素差分値の閾値を適切に設定することにより、移動体画像を検出することができる。図10に示す例では、その閾値として、検出レベル1、及び2のなかで検出レベル2を設定することにより、移動体A、Bを共に検出することができる。以降、その閾値は「検出レベル」と呼ぶことにする。   When two moving bodies A and B exist on the line, the pixel difference value at the location where the moving bodies A and B are present increases as shown in FIG. Therefore, a moving body image can be detected by appropriately setting a threshold value of a pixel difference value that should be regarded as a moving body. In the example shown in FIG. 10, by setting the detection level 2 among the detection levels 1 and 2 as the threshold value, both the moving bodies A and B can be detected. Hereinafter, the threshold is referred to as “detection level”.

画素差分値は正負の何れの値も存在しうる。その絶対値を算出するようにした場合には、設定する検出レベルは一つとすることもできる。ここでは説明上、便宜的に特に断らない限り、画素差分値は絶対値として求めたものを想定する。   The pixel difference value can be either positive or negative. When the absolute value is calculated, the detection level to be set can be set to one. Here, for convenience of explanation, it is assumed that the pixel difference value is obtained as an absolute value unless otherwise specified.

実際の背景画像は、天候や時間帯によって変化する。その変化に対応するために、従来の移動体検出装置のなかには、モデルとする背景画像(以降、実際の背景画像と区別するために「背景モデル」と呼ぶ)を複数、用意、或いは推定し、適用させる背景モデルを適宜、切り換えるものがある。   The actual background image changes depending on the weather and time zone. In order to cope with the change, a plurality of background images as models (hereinafter referred to as “background models” to be distinguished from actual background images) are prepared or estimated in the conventional moving body detection device, Some background models are applied as appropriate.

適用させる背景モデルを最適なものとすることにより、移動体画像はより高精度に検出できるようになる。しかし、移動体の状態(色や明るさ、等)は移動体によって異なり、その幅は広い。このため、全ての移動体を確実に検出できる検出レベルを設定するのは非常に困難である。また、同じ天候、同じ時間帯であっても移動体によって撮影条件が異なる場合もある。例えば移動体としての車両の検出では、バスなどの大型の車両の影に小型の車両が入ることがある。そのような状況では、大型と小型の車両では明るさが異なってしまう。その明るさの違いが大きく異なっているほど、小型の車両を検出できない可能性はより高くなる。これらのことから、移動体を全て確実に検出できるようにはなっていないのが実情となっている。それにより、移動体を検出できなかった場合に、より容易、且つ適切に対応できるようにすることも重要であると考えられる。
特許第3461201号公報 特開平6−203157号公報 特開平11−132740号公報
By optimizing the background model to be applied, the moving body image can be detected with higher accuracy. However, the state of the moving body (color, brightness, etc.) varies depending on the moving body, and its width is wide. For this reason, it is very difficult to set a detection level that can reliably detect all moving objects. Even in the same weather and the same time zone, shooting conditions may vary depending on the moving object. For example, in detecting a vehicle as a moving body, a small vehicle may enter the shadow of a large vehicle such as a bus. In such a situation, the brightness differs between large and small vehicles. The greater the difference in brightness, the higher the possibility that a small vehicle cannot be detected. From these facts, it is a fact that not all moving bodies can be reliably detected. Thereby, it is considered important to be able to cope more easily and appropriately when a moving body cannot be detected.
Japanese Patent No. 3461201 JP-A-6-203157 Japanese Patent Laid-Open No. 11-132740

本発明は、検出できなかった移動体が生じた場合に、より容易、且つ適切な対応が可能な移動体検出装置を提供することを目的とする。   It is an object of the present invention to provide a moving body detection apparatus that can more easily and appropriately cope with a moving body that cannot be detected.

本発明の第1、及び第2の態様の移動体検出装置は共に、撮影画像中に被写体として撮影された移動体を検出することを前提とし、それぞれ以下の手段を具備する。
第1の態様の移動体検出装置は、撮影画像を取得する画像取得手段と、画像取得手段が取得した撮影画像中に存在する移動体画像の検出を行う移動体検出手段と、移動体検出手段による検出結果を撮影画像と併せて表示装置に表示させる表示制御手段と、移動体画像の再検出の実行を指示するための指示手段と、指示手段により再検出の実行が指示された場合に、移動体画像の検出条件を変更させて、移動体検出手段に該移動体画像の検出を再度、実行させる検出制御手段と、を具備する。
Both of the moving body detection apparatuses according to the first and second aspects of the present invention are based on the premise that a moving body photographed as a subject in a photographed image is detected, and each includes the following means.
A moving body detection apparatus according to a first aspect includes an image acquisition unit that acquires a captured image, a moving body detection unit that detects a moving body image present in the captured image acquired by the image acquisition unit, and a moving body detection unit. Display control means for displaying the detection result by the display device together with the captured image, instruction means for instructing execution of redetection of the moving body image, and execution of redetection by the instruction means, Detecting means for changing the detection condition of the moving body image, and causing the moving body detection means to execute the detection of the moving body image again.

なお、上記移動体検出手段は、撮影画像と予め用意した背景画像との間の差分から移動体画像を検出し、検出制御手段は、移動体画像と見なす差分の条件を変更することにより、検出条件を変更させる、ことが望ましい。指示手段による再検出の指示は、表示制御手段により表示されている、移動体検出手段が検出していない移動体画像を指定させて行わせ、検出制御手段は、指示手段により指定された位置、及びその近傍に適用させる差分の条件を変更させる、ことが望ましい。   The moving body detecting means detects the moving body image from the difference between the captured image and the background image prepared in advance, and the detection control means detects the moving body image by changing the condition of the difference to be regarded as the moving body image. It is desirable to change the conditions. The re-detection instruction by the instruction unit is performed by designating a moving body image displayed by the display control unit and not detected by the moving body detection unit, and the detection control unit includes a position designated by the instruction unit, It is desirable to change the condition of the difference applied to the vicinity thereof.

また、上記移動体検出手段は、撮影画像と予め用意した背景画像との間の差分から移動体画像を検出し、指示手段による再検出の指示は、表示制御手段により移動体画像が表示されていない部分を指定させて行わせ、検出制御手段は、指示手段により部分が指定された場合に、該指定された部分を背景画像と比較し、該比較結果を基に該背景画像を一時的に変更することにより検出条件を変更させる、ことが望ましい。   The moving body detecting means detects the moving body image from the difference between the photographed image and the background image prepared in advance, and the redetection instruction by the instruction means is displayed by the display control means. The detection control means compares the designated part with the background image when the part is designated by the instruction means, and temporarily compares the background image based on the comparison result. It is desirable to change the detection condition by changing.

上記移動体検出手段としては、撮影画像として白黒画像、及びカラー画像をそれぞれ対象とする第1、及び第2の移動体検出手段、を備え、検出制御手段は、指示手段により再検出の実行が指示された場合に、移動体画像を検出させる対象を第1の移動体検出手段から第2の移動体検出手段に切り換えることにより、検出条件を変更させる、ことが望ましい。その第2の移動体検出手段は、撮影画像として、色相情報、彩度情報、及び明度情報で表現されるカラー画像を扱うことにより、該カラー画像と予め用意した背景画像間の差分から移動体画像の検出を行い、検出制御手段は、指示手段により再検出の実行が指示された場合に、カラー画像、及び背景画像のうちの一方の明度情報を他方の明度情報に変更させて、第2の移動体検出手段に移動体画像の再検出を行わせる、ことが望ましい。或いは、第2の移動体検出手段は、カラー画像として、赤、緑、及び青の3つの色情報で表現されるカラー画像を扱い、該3つの色情報をそれぞれ座標軸とする座標系を想定し、該カラー画像の3つの色情報で表される該座標系の位置を基に、移動体画像の検出を行う、ことが望ましい。その場合、座標系の原点と位置を結ぶ直線の方向、及び該直線の距離をそれぞれ特定し、該特定した方向、及び距離の差から移動体画像の検出を行う、ことが望ましい。更には、指示手段による再検出の指示は、3つの色情報のうちの一つを指定させて行わせることができ、検出制御手段は、指示手段により指定された色情報を操作させて第2の移動体検出手段に移動体画像の検出を行わせる、ことが望ましい。   The moving body detecting means includes first and second moving body detecting means that target black and white images and color images as captured images, respectively, and the detection control means performs re-detection by the instruction means. When instructed, it is desirable to change the detection condition by switching the object for detecting the moving body image from the first moving body detecting means to the second moving body detecting means. The second moving body detection means treats a color image expressed by hue information, saturation information, and brightness information as a captured image, thereby moving the moving body from a difference between the color image and a background image prepared in advance. The image detection is performed, and when the execution of re-detection is instructed by the instruction unit, the detection control unit changes the lightness information of one of the color image and the background image to the lightness information of the other, and the second It is desirable to cause the moving body detection means to re-detect the moving body image. Alternatively, the second moving body detecting means assumes a coordinate system in which a color image expressed by three color information of red, green, and blue is handled as a color image, and each of the three color information is a coordinate axis. It is desirable to detect the moving body image based on the position of the coordinate system represented by the three color information of the color image. In that case, it is desirable to specify the direction of the straight line connecting the origin and the position of the coordinate system and the distance of the straight line, and to detect the moving body image from the difference between the specified direction and the distance. Further, the re-detection instruction by the instruction unit can be performed by designating one of the three color information, and the detection control unit operates the color information designated by the instruction unit to operate the second color information. It is desirable to cause the moving body detection means to detect the moving body image.

また、上記画像取得手段は撮影画像として動画像を取得し、検出制御手段は、指示手段により再検出の実行が指示された場合に、検出条件を変更させて、該指示が行われた時点で表示制御手段が表示させていた動画像上の表示位置より過去の分に遡って移動体検出手段に移動体画像を検出させる、ことが望ましい。   The image acquisition means acquires a moving image as a captured image, and the detection control means changes the detection condition when the instruction means instructs execution of re-detection, and when the instruction is executed. It is desirable that the moving body detection means detect the moving body image retroactively from the display position on the moving image displayed by the display control means.

第2の態様の移動体検出装置は、撮影画像として、赤、緑、及び青の3つの色情報で表現されるカラー画像を取得する画像取得手段と、3つの色情報をそれぞれ座標軸とする座標系を想定して、画像取得手段が取得したカラー画像が有する3つの色情報で表される該座標系の位置を特定し、該特定した位置と該座標系の原点とを結ぶ直線の方向、及び該直線の距離をそれぞれ更に特定し、該特定した方向、及び距離の差から移動体画像の検出を行う移動体検出手段と、を具備する。   The moving body detection apparatus according to the second aspect includes image acquisition means for acquiring a color image represented by three color information of red, green, and blue as captured images, and coordinates having the three color information as coordinate axes, respectively. Assuming a system, the position of the coordinate system represented by the three color information of the color image acquired by the image acquisition means is specified, and the direction of a straight line connecting the specified position and the origin of the coordinate system, And a moving body detecting means for further identifying the distance of the straight line and detecting a moving body image from the difference between the identified direction and the distance.

本発明の移動体検出方法は、撮影画像中に被写体として撮影された移動体を検出するためのものであり、撮影画像中に存在する移動体画像の検出を行って、該検出結果を表示させ、検出結果の表示によって検出されていないことが認識される移動体画像を対象とした再検出を、該再検出の指示により検出条件を自動的に変更させて行わせる。   The moving object detection method of the present invention is for detecting a moving object photographed as a subject in a photographed image, detects a moving object image present in the photographed image, and displays the detection result. Then, the re-detection for the moving body image that is recognized not to be detected by displaying the detection result is performed by automatically changing the detection condition according to the re-detection instruction.

本発明のプログラムは、撮影画像中に被写体として撮影された移動体を検出する移動体検出装置として用いるコンピュータに実行させることを前提とし、撮影画像を取得する画像取得機能と、画像取得機能により取得した撮影画像中に存在する移動体画像の検出を行う移動体検出機能と、移動体検出機能による検出結果を撮影画像と併せて表示装置に表示させる表示制御機能と、移動体画像の再検出の実行を指示するための指示機能と、指示機能により再検出の実行が指示された場合に、移動体画像の検出条件を変更させて、移動体検出機能による該移動体画像の検出を再度、実行させる検出制御機能と、を実現させる。   The program of the present invention is acquired by an image acquisition function for acquiring a captured image and an image acquisition function on the premise that the program is used by a computer used as a mobile object detection device that detects a mobile object captured as a subject in a captured image. A moving body detection function for detecting a moving body image existing in the captured image, a display control function for displaying a detection result by the moving body detection function on the display device together with the captured image, and a redetection of the moving body image. When an instruction function for instructing execution and execution of re-detection are instructed by the instruction function, the detection condition of the moving object image is changed, and the detection of the moving object image by the moving object detection function is executed again. And a detection control function.

本発明では、撮影画像中に存在する移動体画像の検出を行って、該検出結果を表示させ、検出結果の表示によって検出されていないことが認識される移動体画像を対象とした再検出を、オペレータによる再検出の指示により検出条件を自動的に変更させて行わせる。   In the present invention, detection of a moving body image present in a captured image is performed, the detection result is displayed, and redetection for a moving body image that is recognized as not detected by the display of the detection result is performed. The detection condition is automatically changed according to the re-detection instruction by the operator.

その検出条件を変更することにより、検出できなかった移動体画像を検出することができるようになる。その検出条件を自動的に変更するために、オペレータは検出できなかった移動体画像を容易に検出させることができるようになる。これらの結果、検出できなかった移動体が生じても、より容易に適切な対応を移動体検出装置に行わせることができるようになって、高い利便性が得られることとなる。   By changing the detection condition, it becomes possible to detect a moving body image that could not be detected. Since the detection condition is automatically changed, the operator can easily detect the moving body image that could not be detected. As a result, even if a mobile object that could not be detected is generated, the mobile object detection device can be made to take an appropriate action more easily, and high convenience can be obtained.

以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
図1は、本実施の形態による移動体検出装置の機能構成図である。その移動体検出装置は、例えば検出対象とする移動体が移動する場所を撮影場所として撮影装置で撮影することにより得られた撮影画像を取得して、その場所を移動することで被写体として撮影された移動体の検出を行うものである。図1に示すように、その撮影画像を取得する画像取得部101と、その取得部101が取得した撮影画像を記憶する画像記憶部102と、その記憶部102に記憶された撮影画像中に被写体として撮影された移動体画像を検出する第1、及び第2の移動体検出部103、及び104と、その撮影画像を第1、或いは第2の移動体検出部103、或いは104による検出結果と併せて表示装置120上に表示させる表示制御部105と、オペレータ(ユーザ)が各種入力を行うための入力部106と、各部101〜106の制御を行う検出制御部107と、を備えた構成となっている。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a functional configuration diagram of a moving object detection device according to the present embodiment. The moving body detection device acquires a captured image obtained by shooting with a shooting device, for example, a place where a moving body to be detected moves as a shooting place, and is taken as a subject by moving the place. The moving object is detected. As illustrated in FIG. 1, an image acquisition unit 101 that acquires the captured image, an image storage unit 102 that stores the captured image acquired by the acquisition unit 101, and a subject in the captured image stored in the storage unit 102. First and second moving body detection units 103 and 104 that detect moving body images photographed as images, and detection results of the captured images by the first or second moving body detection unit 103 or 104 In addition, a configuration including a display control unit 105 to be displayed on the display device 120, an input unit 106 for an operator (user) to perform various inputs, and a detection control unit 107 for controlling the units 101 to 106 It has become.

上記画像取得部101は、例えば撮影装置と接続された端末装置から通信ネットワークを介して撮影画像を受信するか、或いは光ディスク等の記録媒体にアクセスしてそれに記録された撮影画像を読み出すものである。上記入力部106は、マウス等のポインティングデバイスをオペレータが操作して指示したコマンド、或いはデータを入力するものである。表示制御部105が検出結果を表示させる表示装置120は、移動体検出装置と接続されているか、或いは搭載されたものである。上記画像記憶部102は、例えばハードディスク装置、或いは半導体メモリである。撮影装置により撮影が行われる撮影場所は、例えば車両が通行する道路である。   The image acquisition unit 101 receives a captured image from a terminal device connected to the imaging device, for example, via a communication network, or accesses a recording medium such as an optical disk and reads the recorded image recorded on the recording medium. . The input unit 106 is for inputting a command or data instructed by an operator operating a pointing device such as a mouse. The display device 120 on which the display control unit 105 displays the detection result is connected to or mounted on the moving object detection device. The image storage unit 102 is, for example, a hard disk device or a semiconductor memory. The shooting location where the shooting is performed by the shooting device is, for example, a road on which a vehicle passes.

上記のような構成の移動体検出装置は、例えばパーソナル・コンピュータ(PC)に、後述するような動作をさせるプログラムを実行させることで実現されるものである。PC、つまりそれに搭載されたCPUに実行させるそのプログラムは、搭載、或いは接続されたハードディスク装置に格納しても良いが、光ディスク、光磁気ディスク等の記録媒体に記録しても良い。或いは通信ネットワークを介して受信できるようにしても良い。   The moving body detection apparatus having the above-described configuration is realized by causing a personal computer (PC) to execute a program that performs an operation as described later, for example. The program to be executed by the PC, that is, the CPU mounted thereon, may be stored in a mounted or connected hard disk device, but may be recorded in a recording medium such as an optical disk or a magneto-optical disk. Or you may enable it to receive via a communication network.

上記第1の移動体検出部103は撮影画像として白黒画像を扱い、上記第2の移動体検出部104はその撮影画像としてカラー画像を扱うものである。それにより、上記撮影装置がカラー画像で撮影を行う場合、つまり画像取得部101が撮影画像としてカラー画像を取得する場合、第1の移動体検出部103はカラー画像から変換された白黒画像を対象に移動体画像の検出を行う。   The first moving body detection unit 103 handles a monochrome image as a captured image, and the second moving body detection unit 104 handles a color image as the captured image. As a result, when the photographing apparatus captures a color image, that is, when the image acquisition unit 101 acquires a color image as a captured image, the first moving body detection unit 103 targets a monochrome image converted from the color image. The moving body image is detected.

検出制御部107は、移動体画像の検出を第1、或いは第2の移動体検出部103、或いは104に行わせ、その検出結果を受け取り、表示制御部105に出力する。それにより表示制御部105は、画像記憶部102から得た撮影画像と併せて検出結果を表示装置120に表示させる。   The detection control unit 107 causes the first or second moving body detection unit 103 or 104 to detect the moving body image, receives the detection result, and outputs the detection result to the display control unit 105. Thereby, the display control unit 105 causes the display device 120 to display the detection result together with the captured image obtained from the image storage unit 102.

図6は、移動体画像の検出結果の表示方法を説明するための図である。図中の601は撮影された被写体画像、602はマウスカーソルである。本実施の形態では、撮影画像中に存在する被写体画像601のなかで検出できたものは矩形の枠で囲むようにしている。それにより、その枠の有無により検出できたか否かをオペレータが被写体画像601毎に認識できるようにさせている。そのような枠を表示できるように、各移動検出部103、104は、例えば検出した移動体画像601毎に、その中心位置、及びXY軸上の幅を検出制御部107に通知するようになっている。   FIG. 6 is a diagram for explaining a method of displaying the detection result of the moving object image. In the figure, reference numeral 601 denotes a photographed subject image, and reference numeral 602 denotes a mouse cursor. In the present embodiment, what can be detected in the subject image 601 present in the captured image is surrounded by a rectangular frame. Thus, the operator can recognize for each subject image 601 whether or not the detection is possible based on the presence or absence of the frame. In order to display such a frame, for example, each movement detection unit 103, 104 notifies the detection control unit 107 of the center position and the width on the XY axis for each detected moving body image 601. ing.

撮影画像中の被写体画像601を常に確実に検出できるようにすることは非常に困難であるのが実情である。このことから本実施の形態では、オペレータの指示に応じて移動体画像601の再検出を行うようにさせている。その再検出は、検出できなかった移動体画像601を検出できるようにするために、検出条件を自動的に変更させて行うようにさせている。その検出条件を自動的に変更させての再検出は、予め指定された指定方法に沿って行うようにさせている。以降、図7〜図9の説明図を参照して、再検出方法について具体的に説明する。   Actually, it is very difficult to always reliably detect the subject image 601 in the captured image. For this reason, in the present embodiment, the moving object image 601 is re-detected in accordance with an instruction from the operator. The re-detection is performed by automatically changing the detection condition so that the moving body image 601 that could not be detected can be detected. The re-detection by automatically changing the detection condition is performed in accordance with a designation method designated in advance. Hereinafter, the re-detection method will be specifically described with reference to the explanatory diagrams of FIGS.

計算量を抑えるために、移動体画像601の検出は初めに第1の移動体検出部103に行わせる。その第1の移動体検出部103は、背景差分法、つまり適用中の背景モデルと撮影画像間の差分から移動体画像601の検出を行うものである。再検出は、指定内容(以降、便宜的に「再検出設定内容」と呼ぶ)に応じて、第1、或いは第2の移動体検出部103、或いは104に行わせる。始めに第1の移動体検出部103により行わせる再検出について詳細に説明する。背景モデルは画像記憶部102に記憶されている。   In order to reduce the amount of calculation, the detection of the moving object image 601 is first performed by the first moving object detection unit 103. The first moving object detection unit 103 detects the moving object image 601 from the background difference method, that is, the difference between the applied background model and the captured image. The re-detection is performed by the first or second moving body detection unit 103 or 104 according to the designated content (hereinafter referred to as “re-detection setting content” for convenience). First, the redetection performed by the first moving body detection unit 103 will be described in detail. The background model is stored in the image storage unit 102.

図7は、第1の移動体検出部103により行わせる第1の再検出方法を説明する図である。図10と同様に、縦軸は背景モデルと撮影画像間の差分値(画素差分値。図中「レベル」と表記)を示し、横軸は撮影画像におけるX或いはY軸に沿ったライン上の位置を示している。それにより図7は、そのライン上で得られた画素差分値の位置による変化を示している。なお、図10と同様に、ライン上の画素差分値の変化は直線的なものとはならない。これは他でも同様である。   FIG. 7 is a diagram for explaining a first re-detection method performed by the first moving object detection unit 103. Similar to FIG. 10, the vertical axis represents the difference value between the background model and the captured image (pixel difference value, expressed as “level” in the figure), and the horizontal axis represents the line on the line along the X or Y axis in the captured image. Indicates the position. Accordingly, FIG. 7 shows a change depending on the position of the pixel difference value obtained on the line. As in FIG. 10, the change in the pixel difference value on the line is not linear. The same applies to other cases.

移動体画像601を構成すると見なす画素差分値の閾値である検出レベルが大きくなるほど、移動体画像601と見なす幅は狭くなる傾向にある。移動体画像601は想定する移動体に応じた範囲内の大きさであることを条件に検出を行うようになっている。このことから第1の再検出方法では、検出レベルを自動的に調整して、適切な大きさ(XY軸上共に適切な幅)の移動体画像601の再検出を行わせるようにしている。図1中の111は、その自動調整を行う自動調整部である。   As the detection level that is the threshold value of the pixel difference value that is regarded as constituting the moving object image 601 increases, the width that is regarded as the moving object image 601 tends to become narrower. The moving body image 601 is detected on the condition that the size is within a range corresponding to the assumed moving body. For this reason, in the first redetection method, the detection level is automatically adjusted to redetect a moving body image 601 having an appropriate size (appropriate width on both XY axes). Reference numeral 111 in FIG. 1 denotes an automatic adjustment unit that performs the automatic adjustment.

検出レベルの自動調整は、現在、移動体画像601と見なす幅の大きさに応じて、その幅が適切なものとさせる方向で行う。例えば現在の検出レベルがVであり、そのレベルVのときの移動体画像601の幅が小さすぎる場合には、そのレベルVを次に半分のレベルV/2にする。そのレベルV/2でも幅が小さすぎる場合には、そのレベルV/2を更に半分のレベルV/4にする。一方、そのレベルV/2で幅が大きすぎるようになる場合には、そのレベルV/2を次に1.5倍のレベル3V/4にする。そのようにして、幅が大きすぎればレベルを次に現在のレベルの半分にし、その幅が小さすぎればレベルを次に現在のレベルの1.5倍にする形で順次、自動調整を行う。   The automatic adjustment of the detection level is performed in a direction that makes the width appropriate according to the width of the moving body image 601 that is currently considered. For example, if the current detection level is V and the width of the moving object image 601 at that level V is too small, the level V is then set to the half level V / 2. If the width is too small even at the level V / 2, the level V / 2 is further reduced to half the level V / 4. On the other hand, when the width becomes too large at the level V / 2, the level V / 2 is then set to 1.5 times the level 3V / 4. In this way, if the width is too large, the level is set to the next half of the current level, and if the width is too small, the level is then set to 1.5 times the current level.

そのような自動調整(検出条件の変更)を行うことにより、検出されなかった移動体画像601にとって適切な検出レベルが存在すればそれを探し出すことができる。このため、検出されなかった移動体画像601を再検出により認識できるようになる。上述したような形で自動調整を行うのは、より迅速に適切な検出レベルを探し出すためである。検出レベルを自動調整(変更)しながらの再検出は、検出レベルの調整では移動体画像601を適切に検出できない可能性があることから、例えば移動体画像601とする幅が適切なものとなる前に、次に設定する検出レベルと過去に設定した検出レベル間の差の絶対値が所定値以下となれば終了させるようにしている。   By performing such automatic adjustment (change of detection conditions), if a detection level appropriate for the moving body image 601 that has not been detected exists, it can be found. For this reason, the moving body image 601 that has not been detected can be recognized by re-detection. The reason why the automatic adjustment is performed in the above-described manner is to find an appropriate detection level more quickly. Redetection while automatically adjusting (changing) the detection level may not be able to properly detect the moving object image 601 by adjusting the detection level, and therefore, for example, the width of the moving object image 601 is appropriate. If the absolute value of the difference between the detection level set next and the detection level set in the past is equal to or less than a predetermined value, the process is terminated.

上記第1の再検出方法による再検出を指示させる場合には、検出されなかった移動体画像601を指定させるようにしている。その指定は、マウスカーソル602を該当する位置に移動させてのクリック操作により行うようにさせている。そのようなクリック操作が行われた旨を入力部106から通知された検出制御部107は、そのクリック操作が行われた位置を第1の移動体検出部103に通知して再検出の実行を指示する。それにより第1の移動体検出部103は、自動調整部111により自動調整を行いながら移動体画像601の検出を行う。   When instructing redetection by the first redetection method, a moving body image 601 that has not been detected is designated. The designation is performed by a click operation with the mouse cursor 602 moved to the corresponding position. The detection control unit 107 notified from the input unit 106 that such a click operation has been performed notifies the first moving body detection unit 103 of the position where the click operation has been performed, and performs re-detection. Instruct. Accordingly, the first moving body detection unit 103 detects the moving body image 601 while performing automatic adjustment by the automatic adjustment unit 111.

図8は、第1の移動体検出部103により行わせる第2の再検出方法を説明する図である。図8において、縦軸は適用中の背景モデルを基準とした撮影画像の画素値(輝度値)、つまり画素差分値を示し、横軸は撮影画像におけるX或いはY軸に沿ったライン上の位置を示している。それにより図8は、そのライン上で得られた画素差分値の位置による変化を示している。   FIG. 8 is a diagram for explaining a second redetection method performed by the first moving body detection unit 103. In FIG. 8, the vertical axis indicates the pixel value (luminance value) of the captured image, that is, the pixel difference value based on the applied background model, and the horizontal axis indicates the position on the line along the X or Y axis in the captured image. Is shown. Accordingly, FIG. 8 shows a change due to the position of the pixel difference value obtained on the line.

移動体画像601は撮影状況によって変化する。そのため、背景モデルは複数、用意するか、或いはそのモデルを適用的に推定するようになっている。背景モデルを適応させる原因としては、天候・時間帯等による背景変化、及び木の揺れなどの背景物体の変化、が代表である。   The moving body image 601 changes depending on the shooting situation. Therefore, a plurality of background models are prepared, or the models are estimated appropriately. Typical causes for adapting the background model include background changes due to weather and time zones, and background object changes such as tree shaking.

移動体間で撮影条件が異なる場合がある。例えばバスなどの大型の車両の影に小型の車両が入ることがある。そのような状況では、大型の車両は明るく、小型の車両は暗くなる。それによって大型、小型の車両のそれぞれにとって適切な背景モデルが異なってしまうことが考えられる。このことから第2の再検出方法では、背景モデルと撮影画像の背景部分とを比較し、その比較結果に応じて背景モデルを一時的に変更するようにしている。背景モデルを変更するのは、背景モデルを変更対象としたほうが計算量をより抑えられるためである。その変更によって背景モデルをより適切なものとすることにより、検出されなかった移動体画像601を検出できるようになる。   There may be a case where shooting conditions differ between moving bodies. For example, a small vehicle may enter the shadow of a large vehicle such as a bus. In such a situation, large vehicles are bright and small vehicles are dark. As a result, the appropriate background model for large and small vehicles may be different. Therefore, in the second re-detection method, the background model is compared with the background portion of the captured image, and the background model is temporarily changed according to the comparison result. The reason for changing the background model is that the amount of calculation can be further suppressed when the background model is changed. By making the background model more appropriate by the change, the moving body image 601 that has not been detected can be detected.

撮影画像中の移動体画像601を全て適切に検出できなければ背景部分を正確に特定することはできない。このことから、第2の再検出方法による再検出を指示させる場合、オペレータに背景部分を指定させるようにしている。そのために、上記第2の再検出方法では、検出されなかった移動体画像601の近傍を指定させるようにしている。その近傍を指定させるのは、背景モデルの変更をより適切に行える可能性が高いと考えられるからである。その指定は上記第1の再検出方法と同様に、マウスカーソル602を該当する位置に移動させてのクリック操作により行うようにさせている。   If all the moving body images 601 in the captured image cannot be properly detected, the background portion cannot be specified accurately. For this reason, when instructing redetection by the second redetection method, the operator is allowed to designate the background portion. Therefore, in the second re-detection method, the vicinity of the moving body image 601 that has not been detected is designated. The reason for specifying the neighborhood is that it is highly likely that the background model can be changed more appropriately. The designation is performed by a click operation by moving the mouse cursor 602 to the corresponding position, as in the first redetection method.

そのようなクリック操作が行われた旨を入力部106から通知された検出制御部107は、そのクリック操作が行われた位置を第1の移動体検出部103に通知して再検出の実行を指示する。このとき自動調整部111は、その位置、及びその近傍に限定して、背景モデルと撮影画像間の画素値を比較し、その画素値間の所定値以上の差が存在していれば、その差に応じて背景モデルの画素値を変更する。それにより第1の移動体検出部103は、自動調整部111により背景モデルを必要に応じて変更した後、移動体画像601の検出を行う。   The detection control unit 107 notified from the input unit 106 that such a click operation has been performed notifies the first moving body detection unit 103 of the position where the click operation has been performed, and performs re-detection. Instruct. At this time, the automatic adjustment unit 111 compares the pixel value between the background model and the photographed image only in the position and the vicinity thereof, and if there is a difference between the pixel value more than a predetermined value, The pixel value of the background model is changed according to the difference. Thus, the first moving body detection unit 103 detects the moving body image 601 after the automatic adjustment unit 111 changes the background model as necessary.

第1の移動体検出部103による再検出は、再検出設定内容に応じて第1、或いは第2の再検出方法で行われる。次に第2の移動体検出部104による再検出について詳細に説明する。その再検出は、第3〜第5の再検出方法のうちの何れかで行われる。   The re-detection by the first moving body detection unit 103 is performed by the first or second re-detection method according to the re-detection setting content. Next, re-detection by the second moving body detection unit 104 will be described in detail. The re-detection is performed by any one of the third to fifth re-detection methods.

第3の再検出方法では、撮影画像として、色相情報、彩度情報、及び明度情報で表現されるカラー画像を対象に移動体画像601の検出を行う。その検出は、撮影画像、及び背景モデルのうちの一方の明度情報を他方の明度情報と合わせて行う。明度情報を合わせるための変更は、例えば上記第2の再検出方法と同様に、背景モデルの明度情報を撮影画像のそれに変更することで行う。   In the third redetection method, the moving body image 601 is detected for a color image expressed by hue information, saturation information, and brightness information as a captured image. The detection is performed by combining the brightness information of one of the photographed image and the background model with the brightness information of the other. The change for matching the lightness information is performed by changing the lightness information of the background model to that of the photographed image, for example, as in the second redetection method.

そのように明度情報を変更することにより、移動体による明るさの違いを吸収する、つまりその影響を回避することができる。それにより、残った色相情報、及び彩度情報から、移動体の明るさの違いによる影響を低減した移動体画像601の検出を行うことができる。明度情報の変更のために、第2の再検出方法と同様の指定をオペレータに行わせるようになっている。検出制御部107は、入力部106から入力したクリック操作の位置情報を第2の移動体検出部104に通知して再検出の実行を指示する。   By changing the brightness information in such a manner, it is possible to absorb the difference in brightness due to the moving object, that is, to avoid the influence thereof. Thereby, it is possible to detect the moving object image 601 in which the influence of the difference in brightness of the moving object is reduced from the remaining hue information and saturation information. In order to change the brightness information, the operator performs the same designation as in the second redetection method. The detection control unit 107 notifies the second moving body detection unit 104 of the position information of the click operation input from the input unit 106 and instructs execution of re-detection.

図9は、第2の移動体検出部104により行わせる第4の再検出方法を説明する図である。
この再検出方法では、撮影画像として赤、緑、及び青(RGB)の各色情報で表現されるカラー画像を対象に移動体画像601の検出を行う。その検出は、RGBの各色情報をそれぞれ座標軸とする座標系を想定して行う。その座標系の原点としては、例えば完全な黒、或いは白を想定する。それにより画素毎に、その原点を基準とした各色情報を算出し、算出した各色情報によって特定される座標位置と原点を結ぶ直線の方向(色角度)、及びその直線の距離(以降「色距離」)をそれぞれ計算する。図9中に示す原点を基点とした3つの矢印a〜cはそれぞれ、異なる色の座標位置と原点を結ぶ直線を表している。このことから、それらの矢印で表される色に対応するシンボルを付して表記することにする。
FIG. 9 is a diagram for explaining a fourth redetection method performed by the second moving body detection unit 104.
In this re-detection method, the moving body image 601 is detected for a color image represented by each color information of red, green, and blue (RGB) as a captured image. The detection is performed assuming a coordinate system having each color information of RGB as coordinate axes. As the origin of the coordinate system, for example, perfect black or white is assumed. Thereby, for each pixel, each color information with respect to the origin is calculated, the direction of the straight line (color angle) connecting the coordinate position specified by the calculated color information and the origin, and the distance of the straight line (hereinafter referred to as “color distance”). )). The three arrows a to c with the origin as the base point shown in FIG. 9 each represent a straight line connecting the coordinate position of the different color and the origin. For this reason, a symbol corresponding to the color represented by the arrows is attached and described.

色aと色bは、色角度はほぼ同じで色距離に違いがあっても比較的に小さい範囲内となっている。同じ色でも明るさが或る程度、異なっている場合、そのようなことが生じる。このことから、それら色aと色bは実際には同じか、或いは近い色と見なす。色aと色cについては、それらの色距離はほぼ同じだが色角度は大きく異なっている。このため、それらは異なる色と見なす。そのようにして、色角度の差が許容範囲内であれば二つの色の間に違いは無いと見なし、その差が許容範囲外であれば、色距離の間に許容範囲外の差が更にあれば2つの色の間に違いがあると見なすようにしている。   The color a and the color b are in a relatively small range even if the color angles are substantially the same and the color distance is different. This happens when the same color is different to some extent in brightness. From this, the color a and the color b are actually regarded as the same or close colors. For the colors a and c, the color distances are almost the same, but the color angles are greatly different. For this reason, they are considered different colors. As such, if the color angle difference is within the allowable range, it is considered that there is no difference between the two colors, and if the difference is outside the allowable range, the difference outside the allowable range is further increased between the color distances. If so, it is considered that there is a difference between the two colors.

このようなことから移動体画像601の検出は、背景モデルと撮影画像間で座標位置を比較して行う。それにより、背景モデルと撮影画像間の色角度の差に着目し、次に色距離の差に着目する形でそれらの間における色の相違を検出し、移動体画像601と見なすべき部分を特定するようにしている。   For this reason, the moving body image 601 is detected by comparing the coordinate position between the background model and the captured image. Thereby, paying attention to the difference in color angle between the background model and the captured image, and then detecting the color difference between them in the form paying attention to the difference in color distance, the part to be regarded as the moving object image 601 is specified. Like to do.

移動体は白色光以外の光で照らされる場合がある。特に暗い状況下では照らされる光の色、その光量によって移動体の撮影状態は大きな影響を受ける。このことから本実施の形態では、3つの色情報のなかで削除すべき色情報を指定できるようにしている。それにより、例えば赤色の照明が移動体の近くに存在する状況下では、赤情報を削除、或いはその情報量を削減できるようにしている。そのようにして、より適切な移動体情報601の検出を行えるようにしている。   The moving object may be illuminated with light other than white light. In particular, under dark conditions, the shooting state of the moving object is greatly affected by the color of the illuminated light and the amount of light. For this reason, in the present embodiment, color information to be deleted can be specified among the three pieces of color information. Thereby, for example, in a situation where red illumination is present near the moving body, red information can be deleted or the amount of information can be reduced. In this way, more appropriate mobile object information 601 can be detected.

色情報の指定は、影響の排除を望む色をオペレータに選択させることで行わせている。この第4の再検出方法による再検出は、上記第1〜第3の再検出方法とは異なり、再検出をオペレータが指示することで行われる。その指示が行われた旨を入力部106から通知された検出制御部107は、第2の移動体検出部104に指示して、その第4の再検出方法による再検出を行わせる。   The color information is specified by allowing the operator to select a color whose influence is desired to be eliminated. Unlike the first to third redetection methods, redetection by the fourth redetection method is performed by an operator instructing redetection. The detection control unit 107 notified from the input unit 106 that the instruction has been given instructs the second moving body detection unit 104 to perform re-detection by the fourth re-detection method.

上記撮影画像は静止画、或いは動画である。撮影画像が動画であった場合、検出制御部107は、オペレータによる再検出の指示により移動体画像601を新たに検出すると、その時点より過去に遡ってその移動体画像601の検出を行わせる。その検出は、移動体画像601を検出した再検出方法を用いて行わせる。それにより動画では、移動体画像601を検出できる期間、検出するようにしている。   The photographed image is a still image or a moving image. When the captured image is a moving image, the detection control unit 107 detects the moving body image 601 retroactively from the time when the moving body image 601 is newly detected by an instruction of re-detection by the operator. The detection is performed using a redetection method in which the moving body image 601 is detected. Thereby, the moving image 601 is detected in the moving image for a period during which it can be detected.

このようにして本実施の形態では、再検出に用いる再検出方法を予めオペレータに指定させ、そのオペレータが再検出を指示すると、指定された再検出方法により移動体画像601の再検出を行うようになっている。その再検出方法は前に用いられた検出方法とは異なるものである。そのため、移動体画像601の検出条件を自動的に変更する形となり、その検出条件の変更によって、検出できなかった移動体画像601を検出できるようになる。その検出条件は自動的に変更されるため、オペレータにとっては、より多くの移動体画像601をより容易に検出させることができるようになる。これらのことから、オペレータにとっては高い利便性が得られることとなる。   In this way, in this embodiment, when an operator designates a redetection method used for redetection in advance, and the operator instructs redetection, the moving body image 601 is redetected by the designated redetection method. It has become. The redetection method is different from the previously used detection method. Therefore, the detection condition of the moving body image 601 is automatically changed, and the moving body image 601 that could not be detected can be detected by changing the detection condition. Since the detection condition is automatically changed, more moving body images 601 can be detected more easily for the operator. For these reasons, high convenience is obtained for the operator.

図2は、移動体検出処理のフローチャートである。その移動体検出処理は、撮影画像として静止画を取得した場合に実行される処理である。次に図2を参照して、その検出処理について詳細に説明する。その検出処理は、上述したように、PCに搭載されたCPUに上記プログラムを実行させることで実現される。   FIG. 2 is a flowchart of the moving object detection process. The moving body detection process is a process executed when a still image is acquired as a captured image. Next, the detection process will be described in detail with reference to FIG. The detection process is realized by causing the CPU mounted on the PC to execute the program as described above.

先ず、ステップS1では、撮影画像上のそれぞれの位置における移動体画像601の大きさの範囲(長さや面積)や形状を設定する。続くステップS2では、画像記憶部102から撮影画像を読み出し、移動体画像601を検出する自動計測を行う。その後はステップS3に移行して、移動体画像601の検出結果を表示装置120に表示させる。ステップS2の処理を実行することにより、第1の移動体検出部103が実現される。   First, in step S1, a range (length and area) and shape of the moving body image 601 at each position on the captured image are set. In subsequent step S <b> 2, a captured image is read from the image storage unit 102, and automatic measurement for detecting the moving body image 601 is performed. Thereafter, the process proceeds to step S3, and the detection result of the moving object image 601 is displayed on the display device 120. By executing the processing in step S2, the first moving body detection unit 103 is realized.

ステップS3に続くステップS4では、再検出の指示が行われたか否か判定する。その指示をオペレータが行った旨を入力部106から受け取った場合、判定はYESとなってステップS5に移行し、予め設定された際検出設定内容に従って移動体画像601を再検出する再検出処理を実行する。その後は上記ステップS3に戻る。一方、そうでない場合には、判定はNOとなってそのステップS3に戻る。そのようにして、オペレータが終了を指示するまでの間、再検出の指示を行える状態を維持させる。   In step S4 following step S3, it is determined whether or not a re-detection instruction has been issued. If the operator has received an instruction from the input unit 106 that the instruction has been given, the determination is yes and the process proceeds to step S5, where re-detection processing is performed to re-detect the mobile object image 601 according to the detection setting contents when preset. Execute. Thereafter, the process returns to step S3. On the other hand, if not, the determination is no and the process returns to step S3. In this manner, a state in which an instruction for redetection can be given is maintained until the operator gives an instruction to end.

上記第1〜第4の再検出方法による再検出は、再検出設定内容に応じて上記再検出処理で行われる。以降は図3〜図5に示す各種処理を参照して、その再検出を実現させる動作について詳細に説明する。   Redetection by the first to fourth redetection methods is performed by the redetection process according to the redetection setting content. Hereinafter, the operation for realizing the re-detection will be described in detail with reference to various processes shown in FIGS.

図3は、第1の検出処理のフローチャートである。その検出処理は、上記第1の再検出方法による再検出を実現させるために実行される処理である。次に図3を参照して、その検出処理について詳細に説明する。   FIG. 3 is a flowchart of the first detection process. The detection process is a process executed to realize redetection by the first redetection method. Next, the detection process will be described in detail with reference to FIG.

先ず、ステップS11では、入力部106からオペレータがクリック操作した位置を検出エラー地点として指定する。次のステップS12では、前回の検出レベルを初期値に設定する。その次に移行するステップS13では、今回の検出レベルを初期値の1/2に設定する。その後はステップS14に移行する。   First, in step S11, the position where the operator clicks from the input unit 106 is designated as a detection error point. In the next step S12, the previous detection level is set to an initial value. In the next step S13, the current detection level is set to ½ of the initial value. Thereafter, the process proceeds to step S14.

背景差分法では、撮影場所の微少な変化、或いは背景物体の変化(木などの揺れ)などを原因とするノイズが発生する。このことからステップS14では、今回の検出レベルがノイズ領域か否か判定する。その検出レベルがノイズ領域であった場合、判定はYESとなってステップS15に移行し、検出エラー地点で移動体画像601は検出できない旨を表示装置120に表示させた後、ここで一連の処理を終了する。そうでない場合には、判定はNOとなってステップS16に移行する。そのステップS14では、今回の検出レベルと過去に設定した検出レベル間の差の絶対値が所定値以下か否かの判定も併せて行うようにしている。それにより、その差の絶対値が所定値以下となった場合にはYESと判定させて、検出レベルを必要以上に細かく変化させての再検出を回避させている。   In the background subtraction method, noise is caused by a slight change in the shooting location or a change in the background object (swing of a tree or the like). Therefore, in step S14, it is determined whether or not the current detection level is a noise region. If the detection level is the noise region, the determination is YES, the process proceeds to step S15, and a message indicating that the mobile object image 601 cannot be detected at the detection error point is displayed on the display device 120. Exit. Otherwise, the determination is no and the process moves to step S16. In step S14, it is also determined whether or not the absolute value of the difference between the current detection level and the detection level set in the past is equal to or less than a predetermined value. Thereby, when the absolute value of the difference becomes equal to or less than a predetermined value, it is determined as YES, and re-detection is avoided by changing the detection level more finely than necessary.

ステップS16では、今回の検出レベルで移動体画像601の検出を行う。次のステップS17では、その検出によって移動体画像601を検出したか否か判定する。その移動体画像601を検出できなかった場合、判定はNOとなってステップS18に移行し、新たな今回の検出レベルとして、今回の検出レベルと前回の検出レベルの中央の値を設定し、前回の検出レベルとして今回の検出レベルを設定した後、上記ステップS14に移行する。そうでない場合には、判定はNOとなってステップS19に移行する。   In step S16, the moving body image 601 is detected at the current detection level. In the next step S17, it is determined whether or not the moving object image 601 has been detected by the detection. If the moving body image 601 cannot be detected, the determination is no and the process proceeds to step S18, where the current detection level and the center value of the previous detection level are set as the new current detection level. After the current detection level is set as the detection level, the process proceeds to step S14. Otherwise, the determination is no and the process moves to step S19.

ステップS19では、検出した移動体画像601の大きさを基準、つまり上記ステップS1で設定した大きさの範囲と比較する。その大きさが大きい側の範囲外であった場合、その旨が判定されてステップS18に移行する。その大きさが小さい側の範囲外であった場合には、その旨が判定されてステップS20に移行し、前回の検出レベルに今回の検出レベル、新たな今回の検出レベルとして今回の検出レベルの1/2をそれぞれ設定した後、上記ステップS14に戻る。その大きさが範囲内であった場合には、その旨が判定され、移動体画像601を新たに検出したことを表示装置120で表示させた後、一連の処理を終了する。   In step S19, the size of the detected moving body image 601 is compared with the reference, that is, the size range set in step S1. If the size is out of the larger range, it is determined and the process proceeds to step S18. If the size is out of the smaller range, the determination is made and the process proceeds to step S20, where the current detection level is set as the previous detection level and the current detection level is set as the new detection level. After setting 1/2, the process returns to step S14. If the size is within the range, it is determined that the moving body image 601 has been newly detected is displayed on the display device 120, and then the series of processing ends.

図4は、第2の検出処理のフローチャートである。その検出処理は、上記第2の再検出方法による再検出を実現させるために実行される処理である。次に図4を参照して、その検出処理について詳細に説明する。   FIG. 4 is a flowchart of the second detection process. The detection process is a process executed to realize redetection by the second redetection method. Next, the detection process will be described in detail with reference to FIG.

先ず、ステップS31では、入力部106からオペレータがクリック操作した位置を背景の部分として指定する。次のステップS32では、指定した背景部分と適用中の背景モデル中の対応する部分間で対応させて画素値の相違の累算値、或いは平均値を計算する。その計算後はステップS33に移行する。   First, in step S31, the position clicked by the operator from the input unit 106 is designated as the background portion. In the next step S32, an accumulated value or an average value of pixel value differences is calculated in correspondence between the designated background portion and corresponding portions in the applied background model. After the calculation, the process proceeds to step S33.

ステップS33では、計算した累算値、或いは平均値が予め定めた許容範囲内でなければ、背景モデルの画素値を撮影画像のそれに合致するように変更(調整)する。次のステップS34では、その変更を行った後の背景モデルを用いて移動体画像601の検出を行う。その検出を行った後は、その検出結果を表示装置120に表示させてから一連の処理を終了する。   In step S33, if the calculated accumulated value or average value is not within a predetermined allowable range, the pixel value of the background model is changed (adjusted) to match that of the photographed image. In the next step S34, the moving body image 601 is detected using the background model after the change. After performing the detection, the detection result is displayed on the display device 120, and then the series of processes is terminated.

第3の再検出方法では、ステップS31で背景部分を指定した後、背景モデルの明度情報を撮影画像のそれに合致するように変更を行い、移動体画像601の検出を行う。それにより、第2の再検出方法と同様に、移動体による明るさの違いが移動体画像601の検出に及ぼす影響を回避、或いは低減させている。   In the third re-detection method, after specifying the background portion in step S31, the brightness information of the background model is changed to match that of the photographed image, and the moving body image 601 is detected. Thereby, similarly to the second re-detection method, the influence of the difference in brightness due to the moving body on the detection of the moving body image 601 is avoided or reduced.

図5は、第4の検出処理のフローチャートである。その検出処理は、上記第4の再検出方法による再検出を実現させるために実行される処理である。最後に図5を参照して、その検出処理について詳細に説明する。ここでは色角度、及び色距離を計算後に実行される処理のみを示している。   FIG. 5 is a flowchart of the fourth detection process. The detection process is a process executed to realize redetection by the fourth redetection method. Finally, the detection process will be described in detail with reference to FIG. Here, only the processing executed after calculating the color angle and the color distance is shown.

先ず、ステップS41では、背景モデルと撮影画像間の色角度の差を判定する。その差(絶対値)が許容範囲内でない画素(図2のステップS1で設定した大きさの範囲を満たすだけの画素群)が存在した場合、その旨が判定されてステップS43に移行する。そうでない場合には、つまりその差が許容範囲内の大きさであった場合には、その旨が判定されてステップS42に移行し、新たに検出した移動体画像601を表示装置120で示した後、一連の処理を終了する。   First, in step S41, the color angle difference between the background model and the captured image is determined. If there is a pixel whose difference (absolute value) is not within the allowable range (a pixel group that only satisfies the size range set in step S1 in FIG. 2), this is determined and the process proceeds to step S43. If not, that is, if the difference is within the allowable range, the fact is determined and the process proceeds to step S42, and the newly detected mobile object image 601 is shown on the display device 120. Thereafter, the series of processing is terminated.

ステップS43では、それらの間の色距離の差を判定する。その差(絶対値)が許容範囲内であった場合、その旨が判定されてステップS44に移行し、移動体画像601を新たに検出できなかった旨を表示装置120により表示させた後、一連の処理を終了する。そうでない場合には、つまりその差が距両範囲外の大きさであった場合には、その旨が判定されて上記ステップS42に移行する。   In step S43, a difference in color distance between them is determined. If the difference (absolute value) is within the allowable range, it is determined that the process proceeds to step S44, and the display device 120 displays that the mobile object image 601 could not be newly detected. Terminate the process. If not, that is, if the difference is outside the distance range, it is determined to that effect and the process proceeds to step S42.

なお、本実施の形態では、移動体画像601の検出は初めに白黒画像の撮影画像を対象に行うようにしているが、カラー画像の撮影画像を初めから対象にその検出を行うようにしても良い。その場合、明度情報を操作する前の背景モデルを用いた移動体画像601の検出を初めに行い、その再検出は明度情報を操作した後の背景モデルを用いて行うようにしても良い。その再検出は、第4の再検出方法により行うようにしても良い。撮影画像として動画像を対象にする場合には、フレーム間差分法を用いても良い。このようなことから明らかなように、検出条件の変更方法は様々に変形することができる。   In the present embodiment, the detection of the moving body image 601 is first performed on a black and white image, but the detection may be performed on a color image. good. In that case, detection of the moving body image 601 using the background model before operating the brightness information may be performed first, and the re-detection may be performed using the background model after operating the brightness information. The re-detection may be performed by a fourth re-detection method. When a moving image is targeted as a captured image, an inter-frame difference method may be used. As apparent from the above, the detection condition changing method can be variously modified.

本実施の形態による移動体検出装置は、1台のPCにより実現したものである。複数台のPCによりその移動体検出装置を実現させても良い。   The moving body detection apparatus according to the present embodiment is realized by a single PC. The moving body detection apparatus may be realized by a plurality of PCs.

本実施の形態による移動体検出装置の機能構成図である。It is a functional block diagram of the moving body detection apparatus by this Embodiment. 移動体検出処理のフローチャートである。It is a flowchart of a mobile body detection process. 第1の検出処理のフローチャートである。It is a flowchart of a 1st detection process. 第2の検出処理のフローチャートである。It is a flowchart of a 2nd detection process. 第4の検出処理のフローチャートである。It is a flowchart of a 4th detection process. 移動体画像の検出結果の表示方法を説明するための図である。It is a figure for demonstrating the display method of the detection result of a moving body image. 第1の移動体検出部103により行わせる第1の再検出方法を説明する図である。It is a figure explaining the 1st re-detection method performed by the 1st mobile body detection part 103. FIG. 第1の移動体検出部103により行わせる第2の再検出方法を説明する図である。It is a figure explaining the 2nd re-detection method performed by the 1st mobile body detection part 103. FIG. 第2の移動体検出部104により行わせる第4の再検出方法を説明する図である。It is a figure explaining the 4th re-detection method performed by the 2nd mobile body detection part. 背景差分法による移動体検出を説明する図である。It is a figure explaining the mobile body detection by a background difference method.

符号の説明Explanation of symbols

101 画像取得部
102 画像記憶部
103 第1の移動体検出部
104 第2の移動体検出部
105 表示制御部
106 入力部
107 検出制御部
111 自動調整部
120 表示装置
DESCRIPTION OF SYMBOLS 101 Image acquisition part 102 Image memory | storage part 103 1st moving body detection part 104 2nd moving body detection part 105 Display control part 106 Input part 107 Detection control part 111 Automatic adjustment part 120 Display apparatus

Claims (13)

撮影画像中に被写体として撮影された移動体を検出する移動体検出装置において、
前記撮影画像を取得する画像取得手段と、
前記画像取得手段が取得した撮影画像中に存在する移動体画像の検出を行う移動体検出手段と、
前記移動体検出手段による検出結果を前記撮影画像と併せて表示装置に表示させる表示制御手段と、
前記移動体画像の再検出の実行を指示するための指示手段と、
前記指示手段により前記再検出の実行が指示された場合に、前記移動体画像の検出条件を変更させて、前記移動体検出手段に該移動体画像の検出を再度、実行させる検出制御手段と、
を具備することを特徴とする移動体検出装置。
In a moving body detection apparatus that detects a moving body photographed as a subject in a captured image,
Image acquisition means for acquiring the captured image;
Moving body detection means for detecting a moving body image present in the captured image acquired by the image acquisition means;
Display control means for displaying a detection result by the moving body detection means together with the captured image on a display device;
Instruction means for instructing execution of re-detection of the moving object image;
Detection control means for changing the detection condition of the moving object image and causing the moving object detection means to execute detection of the moving object image again when execution of the re-detection is instructed by the instruction means;
A moving body detection apparatus comprising:
前記移動体検出手段は、前記撮影画像と予め用意した背景画像との間の差分から前記移動体画像を検出し、
前記検出制御手段は、前記移動体画像と見なす差分の条件を変更することにより、前記検出条件を変更させる、
ことを特徴とする請求項1記載の移動体検出装置。
The moving body detection means detects the moving body image from a difference between the captured image and a background image prepared in advance,
The detection control means changes the detection condition by changing a difference condition regarded as the moving body image.
The moving body detection apparatus according to claim 1.
前記指示手段による再検出の指示は、前記表示制御手段により表示されている、前記移動体検出手段が検出していない移動体画像を指定させて行わせ、
前記検出制御手段は、前記指示手段により指定された位置、及びその近傍に適用させる前記差分の条件を変更させる、
ことを特徴とする請求項2記載の移動体検出装置。
The re-detection instruction by the instruction means is performed by designating a moving body image displayed by the display control means and not detected by the moving body detection means,
The detection control means changes the condition of the difference applied to the position designated by the instruction means and the vicinity thereof,
The moving body detection apparatus according to claim 2.
前記移動体検出手段は、前記撮影画像と予め用意した背景画像との間の差分から前記移動体画像を検出し、
前記指示手段による再検出の指示は、前記表示制御手段により前記移動体画像が表示されていない部分を指定させて行わせ、
前記検出制御手段は、前記指示手段により前記部分が指定された場合に、該指定された部分を前記背景画像と比較し、該比較結果を基に該背景画像を一時的に変更することにより前記検出条件を変更させる、
ことを特徴とする請求項1記載の移動体検出装置。
The moving body detection means detects the moving body image from a difference between the captured image and a background image prepared in advance,
The re-detection instruction by the instruction unit is performed by causing the display control unit to designate a portion where the moving body image is not displayed,
When the part is designated by the instruction means, the detection control means compares the designated part with the background image, and temporarily changes the background image based on the comparison result. Change detection conditions,
The moving body detection apparatus according to claim 1.
前記移動体検出手段として、前記撮影画像として白黒画像、及びカラー画像をそれぞれ対象とする第1、及び第2の移動体検出手段、を備え、
前記検出制御手段は、前記指示手段により前記再検出の実行が指示された場合に、前記移動体画像を検出させる対象を前記第1の移動体検出手段から第2の移動体検出手段に切り換えることにより、前記検出条件を変更させる、
ことを特徴とする請求項1記載の移動体検出装置。
The moving body detecting means includes first and second moving body detecting means that target black and white images and color images as the captured images, respectively.
The detection control means switches the object for detecting the moving body image from the first moving body detection means to the second moving body detection means when the instruction means instructs execution of the re-detection. To change the detection condition,
The moving body detection apparatus according to claim 1.
前記第2の移動体検出手段は、前記撮影画像として、色相情報、彩度情報、及び明度情報で表現されるカラー画像を扱うことにより、該カラー画像と予め用意した背景画像間の差分から前記移動体画像の検出を行い、
前記検出制御手段は、前記指示手段により前記再検出の実行が指示された場合に、前記カラー画像、及び背景画像のうちの一方の明度情報を他方の明度情報に変更させて、前記第2の移動体検出手段に前記移動体画像の再検出を行わせる、
ことを特徴とする請求項5記載の移動体検出装置。
The second moving body detection means treats a color image represented by hue information, saturation information, and brightness information as the photographed image, so that the difference between the color image and a background image prepared in advance is used. Detect moving body images,
The detection control means changes the lightness information of one of the color image and the background image to the lightness information of the other when the instruction means instructs execution of the re-detection, and Causing the moving body detection means to re-detect the moving body image;
The moving body detection apparatus according to claim 5.
前記第2の移動体検出手段は、前記カラー画像として、赤、緑、及び青の3つの色情報で表現されるカラー画像を扱い、該3つの色情報をそれぞれ座標軸とする座標系を想定し、該カラー画像の3つの色情報で表される該座標系の位置を基に、前記移動体画像の検出を行う、
ことを特徴とする請求項5記載の移動体検出装置。
The second moving body detection means handles a color image represented by three color information of red, green, and blue as the color image, and assumes a coordinate system having the three color information as coordinate axes. Detecting the moving body image based on the position of the coordinate system represented by the three color information of the color image;
The moving body detection apparatus according to claim 5.
前記第2の移動体検出手段は、前記座標系の原点と前記位置を結ぶ直線の方向、及び該直線の距離をそれぞれ特定し、該特定した方向、及び距離の差から前記移動体画像の検出を行う、
ことを特徴とする請求項7記載の移動体検出装置。
The second moving body detecting means specifies a direction of a straight line connecting the origin of the coordinate system and the position, and a distance of the straight line, and detects the moving body image from a difference between the specified direction and the distance. I do,
The moving body detection device according to claim 7.
前記指示手段による再検出の指示は、前記3つの色情報のうちの一つを指定させて行わせることができ、
前記検出制御手段は、前記指示手段により指定された色情報を操作させて前記第2の移動体検出手段に前記移動体画像の検出を行わせる、
ことを特徴とする請求項7記載の移動体検出装置。
The re-detection instruction by the instruction means can be performed by designating one of the three color information,
The detection control means operates the color information designated by the instruction means to cause the second moving body detection means to detect the moving body image;
The moving body detection device according to claim 7.
前記画像取得手段は前記撮影画像として動画像を取得し、
前記検出制御手段は、前記指示手段により前記再検出の実行が指示された場合に、前記検出条件を変更させて、該指示が行われた時点で前記表示制御手段が表示させていた動画像上の表示位置より過去の分に遡って前記移動体検出手段に前記移動体画像を検出させる、
ことを特徴とする請求項1記載の移動体検出装置。
The image acquisition means acquires a moving image as the captured image,
When the instruction means instructs the execution of the re-detection, the detection control means changes the detection condition and displays the moving image on the moving image displayed by the display control means when the instruction is given. The moving body detection means to detect the moving body image retroactively from the display position of
The moving body detection apparatus according to claim 1.
撮影画像中に被写体として撮影された移動体を検出する移動体検出装置において、
前記撮影画像として、赤、緑、及び青の3つの色情報で表現されるカラー画像を取得する画像取得手段と、
前記3つの色情報をそれぞれ座標軸とする座標系を想定して、前記画像取得手段が取得したカラー画像が有する3つの色情報で表される該座標系の位置を特定し、該特定した位置と該座標系の原点とを結ぶ直線の方向、及び該直線の距離をそれぞれ更に特定し、該特定した方向、及び距離の差から前記移動体画像の検出を行う移動体検出手段と、
を具備することを特徴とする移動体検出装置。
In a moving body detection apparatus that detects a moving body photographed as a subject in a captured image,
Image acquisition means for acquiring a color image represented by three color information of red, green, and blue as the captured image;
Assuming a coordinate system having the three color information as coordinate axes, the position of the coordinate system represented by the three color information included in the color image acquired by the image acquisition unit is specified, and the specified position A moving body detection means for further specifying the direction of the straight line connecting the origin of the coordinate system and the distance of the straight line, and detecting the moving body image from the difference between the specified direction and the distance;
A moving body detection apparatus comprising:
撮影画像中に被写体として撮影された移動体を検出するための移動体検出方法において、
前記撮影画像中に存在する移動体画像の検出を行って、該検出結果を表示させ、
前記検出結果の表示によって検出されていないことが認識される移動体画像を対象とした再検出を、該再検出の指示により検出条件を自動的に変更させて行わせる、
ことを特徴とする移動体検出方法。
In a moving object detection method for detecting a moving object photographed as a subject in a captured image,
Detecting a moving body image present in the captured image, and displaying the detection result;
Re-detection for a moving body image that is recognized not to be detected by display of the detection result is performed by automatically changing detection conditions according to the re-detection instruction;
A moving body detection method characterized by the above.
撮影画像中に被写体として撮影された移動体を検出する移動体検出装置として用いるコンピュータに実行させるプログラムにおいて、
前記撮影画像を取得する画像取得機能と、
前記画像取得機能により取得した撮影画像中に存在する移動体画像の検出を行う移動体検出機能と、
前記移動体検出機能による検出結果を前記撮影画像と併せて表示装置に表示させる表示制御機能と、
前記移動体画像の再検出の実行を指示するための指示機能と、
前記指示機能により前記再検出の実行が指示された場合に、前記移動体画像の検出条件を変更させて、前記移動体検出機能による該移動体画像の検出を再度、実行させる検出制御機能と、
を実現させるためのプログラム。
In a program to be executed by a computer used as a moving body detection device that detects a moving body photographed as a subject in a captured image,
An image acquisition function for acquiring the captured image;
A moving body detection function for detecting a moving body image present in a captured image acquired by the image acquisition function;
A display control function for displaying a detection result by the moving body detection function together with the captured image on a display device;
An instruction function for instructing execution of re-detection of the moving object image;
A detection control function for changing the detection condition of the moving body image and executing the detection of the moving body image again by the moving body detection function when execution of the re-detection is instructed by the instruction function;
A program to realize
JP2006116786A 2006-04-20 2006-04-20 Program, method and device for detecting mobile object Pending JP2007287093A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006116786A JP2007287093A (en) 2006-04-20 2006-04-20 Program, method and device for detecting mobile object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006116786A JP2007287093A (en) 2006-04-20 2006-04-20 Program, method and device for detecting mobile object

Publications (1)

Publication Number Publication Date
JP2007287093A true JP2007287093A (en) 2007-11-01

Family

ID=38758776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006116786A Pending JP2007287093A (en) 2006-04-20 2006-04-20 Program, method and device for detecting mobile object

Country Status (1)

Country Link
JP (1) JP2007287093A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009139857A (en) * 2007-12-10 2009-06-25 Unicast Corp Contents display control device, contents display control method, and contents display control program
KR101070565B1 (en) * 2008-03-14 2011-10-05 오므론 가부시키가이샤 Object image detection device and control method thereof, recording medium of control program, and electronic apparatus having object image detection device
JP7469100B2 (en) 2020-03-27 2024-04-16 Nttテクノクロス株式会社 Detection device and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06203157A (en) * 1992-10-14 1994-07-22 Fujitsu Ltd Method for processing color image and device thereof
JP2001229488A (en) * 2000-02-15 2001-08-24 Hitachi Ltd Vehicle tracking method and traffic state tracking device
JP2002352248A (en) * 2001-05-25 2002-12-06 Nhk Engineering Services Inc Supporting device for video object extraction

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06203157A (en) * 1992-10-14 1994-07-22 Fujitsu Ltd Method for processing color image and device thereof
JP2001229488A (en) * 2000-02-15 2001-08-24 Hitachi Ltd Vehicle tracking method and traffic state tracking device
JP2002352248A (en) * 2001-05-25 2002-12-06 Nhk Engineering Services Inc Supporting device for video object extraction

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009139857A (en) * 2007-12-10 2009-06-25 Unicast Corp Contents display control device, contents display control method, and contents display control program
KR101070565B1 (en) * 2008-03-14 2011-10-05 오므론 가부시키가이샤 Object image detection device and control method thereof, recording medium of control program, and electronic apparatus having object image detection device
US9189683B2 (en) 2008-03-14 2015-11-17 Omron Corporation Target image detection device, controlling method of the same, control program and recording medium recorded with program, and electronic apparatus equipped with target image detection device
JP7469100B2 (en) 2020-03-27 2024-04-16 Nttテクノクロス株式会社 Detection device and program

Similar Documents

Publication Publication Date Title
JP5710589B2 (en) Improved handheld screen detection pointer
US9860446B2 (en) Flare detection and mitigation in panoramic images
US8400506B2 (en) Camera control apparatus, method for controlling camera, and storage medium
CN108668093B (en) HDR image generation method and device
WO2006008944A1 (en) Image processor, image processing method, image processing program, and recording medium on which the program is recorded
CN108965839B (en) Method and device for automatically adjusting projection picture
US8948452B2 (en) Image processing apparatus and control method thereof
WO2020110576A1 (en) Information processing device
JP2004157979A (en) Image motion detection apparatus and computer program
JP2008259161A (en) Target tracing device
JP3729533B2 (en) Pointing system
JP4848521B2 (en) Method for substituting mouse for projector projected image and system for substituting mouse for the same
WO2022091577A1 (en) Information processing device and information processing method
JP7387261B2 (en) Information processing device, information processing method and program
JP4412929B2 (en) Face detection device
WO2013114803A1 (en) Image processing device, image processing method therefor, computer program, and image processing system
JP2007287093A (en) Program, method and device for detecting mobile object
JPH1021408A (en) Device and method for extracting image
JP2000081950A (en) Image processor, image processing method, presentation medium, and presentation system
JP4715653B2 (en) Laser pointer position determination system and laser pointer position determination method
JP5015121B2 (en) Imaging device
JP2006133055A (en) Unevenness defect detection method and device, spatial filter, unevenness defect inspection system, and program for unevenness defect detection method
JPH02123877A (en) Automatic tracking device for mobile object
JP4665808B2 (en) Detection device
WO2021175125A1 (en) System and method for automatically adjusting focus of a camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101026

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110301