JP2003196786A - Method and device for detecting moving object - Google Patents

Method and device for detecting moving object

Info

Publication number
JP2003196786A
JP2003196786A JP2001394755A JP2001394755A JP2003196786A JP 2003196786 A JP2003196786 A JP 2003196786A JP 2001394755 A JP2001394755 A JP 2001394755A JP 2001394755 A JP2001394755 A JP 2001394755A JP 2003196786 A JP2003196786 A JP 2003196786A
Authority
JP
Japan
Prior art keywords
image
moving body
photographed
moving
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001394755A
Other languages
Japanese (ja)
Other versions
JP3857129B2 (en
Inventor
Takeshi Kumazawa
剛 熊澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sekisui Jushi Corp
Tietech Co Ltd
Original Assignee
Sekisui Jushi Corp
Tietech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sekisui Jushi Corp, Tietech Co Ltd filed Critical Sekisui Jushi Corp
Priority to JP2001394755A priority Critical patent/JP3857129B2/en
Publication of JP2003196786A publication Critical patent/JP2003196786A/en
Application granted granted Critical
Publication of JP3857129B2 publication Critical patent/JP3857129B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a moving object detecting method and a moving object detecting device capable of detecting a moving object (vehicle, etc.), with accuracy even at night or the like with a small quantity of light. <P>SOLUTION: A detection area is photographed in a first time interval, and a photographed image is obtained and stored. The photographed image is composed of a plurality of regions, and each of the regions has brightness data of the each region. A part where the area of a group of regions with brightness that is prescribed brightness or more in the photographed image is detected to be a moving object. In other words, a photographed binarized image (i) obtained by dividing each region of the photographed image (i) at a point of time (i) into two types of regions: one region has the prescribed brightness or more and the other region has brightness being less than the prescribed brightness is calculated. A moving object image (i) corresponding to the point of time (i) is calculated on the basis of the calculated, photographed and binarized image (i) and the photographed image (i). The moving object is detected on the basis of information of the calculated moving object image (i). <P>COPYRIGHT: (C)2003,JPO

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、移動体の検出方法
及び移動体検出装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a moving body detecting method and a moving body detecting device.

【0002】[0002]

【従来の技術】交通事故の抑制等を目的として、道路上
を走行する移動体(車両等)の挙動を検出する技術が求
められている。例えば、特開平10−105689号公
報には、予め設定された検出領域を撮影し、背景画像
(移動体(車両等)が存在しない時の道路の画像)と現
在画像(現在、撮影した画像)との差分から移動体(車
両等)を検出する移動体挙動検知装置が提案されてい
る。
2. Description of the Related Art A technique for detecting the behavior of a moving body (vehicle or the like) traveling on a road is required for the purpose of suppressing traffic accidents. For example, in Japanese Unexamined Patent Publication No. 10-105689, a preset detection area is photographed, and a background image (an image of a road when a moving body (vehicle, etc.) does not exist) and a current image (an image currently photographed) are taken. There has been proposed a moving body behavior detection device that detects a moving body (vehicle or the like) based on the difference between and.

【0003】[0003]

【発明が解決しようとする課題】従来の移動体の検出方
法では、背景画像と現在画像との差分から背景を除去し
て移動体のみを抽出している。しかし、従来の移動体の
検出方法では、夜間等の光量が少ない場合、夜間の背景
画像と移動体画像との色彩あるいは明るさ(輝度)の差
が小さくなり、背景と移動体の区別が困難になること
で、移動体を精度よく検出できない可能性がある。検出
領域を照らす照明を設けることができればよいが、広範
囲を照射可能な大型の照明の設置、あるいは通常の照明
を広範囲に複数設置することが必要であり、希望する検
出領域に照明を設けることは費用及び場所等の制約によ
り、非常に困難である。本発明は、このような点に鑑み
て創案されたものであり、光量が少ない夜間等であって
も精度良く移動体(車両等)を検出できる移動体検出方
法及び移動体検出装置を提供することを目的とする。
In the conventional method of detecting a moving body, the background is removed from the difference between the background image and the current image to extract only the moving body. However, in the conventional moving object detection method, when the amount of light at night is small, the difference in color or brightness (luminance) between the background image and the moving object image at night becomes small, making it difficult to distinguish the background from the moving object. Therefore, there is a possibility that the moving body cannot be detected accurately. It suffices to be able to provide illumination that illuminates the detection area, but it is necessary to install large-scale illumination that can illuminate a wide area, or to install multiple ordinary lights in a wide area. It is very difficult due to cost and space constraints. The present invention has been devised in view of such a point, and provides a moving body detection method and a moving body detection device capable of accurately detecting a moving body (vehicle or the like) even at night when the amount of light is small. The purpose is to

【0004】[0004]

【課題を解決するための手段】上記課題を解決するため
の本発明の第1発明は、請求項1に記載されたとおりの
移動体検出方法である。請求項1に記載の移動体検出方
法では、背景画像を用いることなく、移動体(車両等)
が発光するライト及び当該ライト等に照射された領域を
検出し、間接的に移動体を判定することで、光量が少な
い夜間等であっても精度良く移動体(車両等)を検出で
きる。また、所定輝度以上の領域のかたまり(例えば、
途切れることなく隣り合う領域が連続して所定輝度以上
の部分)の面積が所定値以上である部分を移動体である
と判定することで、細かなノイズ成分を除去することが
できる。
A first invention of the present invention for solving the above-mentioned problems is a method for detecting a moving body as set forth in claim 1. The moving object detection method according to claim 1, wherein a moving object (vehicle or the like) is used without using a background image.
By detecting the light that emits light and the area irradiated by the light, and indirectly determining the moving body, the moving body (vehicle or the like) can be accurately detected even at night when the light amount is small. In addition, a group of areas with a predetermined brightness or higher (for example,
It is possible to remove a fine noise component by determining that a portion in which adjacent areas are continuously adjacent to each other without interruption and the area of which is equal to or higher than a predetermined luminance is a predetermined value or more is a moving body.

【0005】また、本発明の第2発明は、請求項2に記
載されたとおりの移動体検出方法である。請求項2に記
載の移動体検出方法では、背景画像を用いることなく、
撮影画像[i]から所定輝度以上の領域を抽出して撮影
2値化画像[i]を求め、求めた撮影2値化画像[i]
と撮影画像[i]とに基づいて、移動体画像[i]を求
める。このため、移動体(車両等)が発光するライト及
び当該ライト等に照射された領域を検出し、光量が少な
い夜間等であっても、容易に、精度良く移動体(車両
等)を検出できる。
A second aspect of the present invention is a method for detecting a moving body as set forth in claim 2. In the moving object detection method according to claim 2, without using a background image,
An area having a predetermined brightness or higher is extracted from the captured image [i] to obtain a captured binary image [i], and the obtained captured binary image [i]
The moving object image [i] is calculated based on the captured image [i] and the captured image [i]. Therefore, the light emitted by the moving body (vehicle or the like) and the area irradiated by the light or the like are detected, and the moving body (vehicle or the like) can be easily and accurately detected even at night when the light amount is small. .

【0006】また、本発明の第3発明は、請求項3に記
載されたとおりの移動体検出方法である。請求項3に記
載の移動体検出方法では、背景画像を用いることなく、
撮影画像[i−n]と撮影画像[i]と撮影画像[i+
n]を用い、移動体(車両等)が発光するライト及び当
該ライト等に照射された領域を検出し、移動体を検出す
ることで、光量が少ない夜間等であっても精度良く移動
体(車両等)を検出できる。また、時間的に非常に接近
した3つの撮影画像を用いることで、色彩あるいは明る
さ(輝度)の変化に対してほとんど影響を受けることな
く、背景を除去することができる。また、輝度の変化分
が重畳して結果的に変化なしと判定された領域を含む可
能性がある差分2値化画像と、所定輝度以上の領域を抽
出した撮影2値化画像とに基づいて2値化画像を求める
ことで、2値化画像における移動体の情報量を増加さ
せ、光量が少ない夜間等であっても、より精度良く移動
体(車両等)を検出できる。また、nは1以上の整数で
あり、例えば、検出した移動体(車両等)の挙動に応じ
て警報等を発生させる場合、警報等を発生させるために
必要なサンプリング間隔(第1の所定時間間隔)を維持
すると同時に、移動体の検出に最適なサンプリング間隔
(n=2の場合は第1の所定時間間隔の2倍、n=3の
場合は第1の所定時間間隔の3倍等)を設定することが
できる。
The third invention of the present invention is a method for detecting a moving object as described in claim 3. In the moving object detection method according to claim 3, without using a background image,
Captured image [i-n], captured image [i] and captured image [i +
[n] is used to detect the light emitted by the moving body (vehicle or the like) and the area illuminated by the light, and to detect the moving body, so that the moving body can be accurately measured even at night when the light amount is small. Vehicle) can be detected. Further, by using three captured images that are very close in time, it is possible to remove the background with almost no effect on changes in color or brightness (luminance). In addition, based on a difference binarized image that may include a region determined to be unchanged as a result of superimposing a change in luminance, and a captured binarized image in which a region having a predetermined luminance or higher is extracted. By obtaining the binarized image, the amount of information of the moving body in the binarized image is increased, and the moving body (vehicle or the like) can be detected more accurately even at night when the light amount is small. In addition, n is an integer of 1 or more, and for example, when an alarm or the like is generated according to the detected behavior of the moving body (vehicle or the like), a sampling interval (first predetermined time) necessary for generating the alarm or the like. (Spacing) is maintained, and at the same time, the optimum sampling interval for detecting a moving object (two times the first predetermined time interval when n = 2, three times the first predetermined time interval when n = 3, etc.) Can be set.

【0007】また、本発明の第4発明は、請求項4に記
載されたとおりの移動体検出方法である。請求項4に記
載の移動体検出方法では、撮影画像の領域の輝度分布に
基づいて閾値を適切に変更することで、効果的にノイズ
成分を除去することができ、2つの撮影画像の差分に基
づく差分2値化画像を容易に且つ適切に求めることがで
きる。
A fourth invention of the present invention is a method for detecting a moving object as described in claim 4. In the moving body detection method according to claim 4, the noise component can be effectively removed by appropriately changing the threshold value based on the luminance distribution of the region of the captured image, and the difference between the two captured images can be obtained. Based on this, it is possible to easily and appropriately obtain the differential binarized image.

【0008】また、本発明の第5発明は、請求項5に記
載されたとおりの移動体検出方法である。請求項5に記
載の移動体検出方法では、例えば、移動体までの距離が
遠い場合、あるいは移動体の速度が遅い場合等では、n
の値を大きくして移動体を検出するサンプリング間隔を
長くする。また、移動体までの距離が近い場合、あるい
は移動体の速度が速い場合等では、nの値を小さくし
て、移動体を検出するサンプリング間隔を短くする。あ
るいは、移動体の位置と速度に応じてnの値を適切な値
に設定する。このように、状況に応じて移動体の検出に
最適なサンプリング間隔を設定することができる。
A fifth aspect of the present invention is a method for detecting a moving body as set forth in claim 5. In the moving object detection method according to claim 5, for example, when the distance to the moving object is long, or when the speed of the moving object is slow, n
The value of is increased to increase the sampling interval for detecting a moving object. Further, when the distance to the moving body is short, or when the moving body has a high speed, the value of n is reduced to shorten the sampling interval for detecting the moving body. Alternatively, the value of n is set to an appropriate value according to the position and speed of the moving body. In this way, it is possible to set the optimum sampling interval for detecting the moving body depending on the situation.

【0009】また、本発明の第6発明は、請求項6に記
載されたとおりの移動体検出方法である。請求項6に記
載の移動体検出方法では、移動体を検出した場合は第1
の所定時間間隔を短くし、移動体を検出しなかった場合
は第1の所定時間間隔を長くすることで、不要な作動を
抑制し、電源等の寿命を延長させることができる。
A sixth aspect of the present invention is a method for detecting a moving body as set forth in claim 6. In the moving body detection method according to claim 6, when the moving body is detected, the first
By shortening the predetermined time interval and increasing the first predetermined time interval when a moving object is not detected, unnecessary operation can be suppressed and the life of the power supply or the like can be extended.

【0010】また、本発明の第7発明は、請求項7に記
載されたとおりの移動体検出装置である。請求項7に記
載の移動体検出装置を用いれば、光量が少ない夜間等で
あっても精度良く移動体(車両等)を検出できる移動体
検出装置を実現できる。
Further, a seventh invention of the present invention is a moving object detecting device as described in claim 7. By using the moving body detection device according to the seventh aspect, it is possible to realize a moving body detection device that can accurately detect a moving body (vehicle or the like) even at night when the amount of light is small.

【0011】また、本発明の第8発明は、請求項8に記
載されたとおりの移動体検出装置である。請求項8に記
載の移動体検出装置を用いれば、少なくとも2つの移動
体画像に基づいて、検出した移動体の位置と移動方向を
求め、所定地点(交差点等)に移動体(車両等)が接近
している場合、警報を発生させることで、警報装置の近
傍の人々に注意を促すことができる。
An eighth invention of the present invention is a moving object detecting device as described in claim 8. If the moving body detection device according to claim 8 is used, the position and the moving direction of the detected moving body are obtained based on at least two moving body images, and the moving body (vehicle or the like) is located at a predetermined point (intersection or the like). When approaching, an alarm can be issued to alert people in the vicinity of the alarm device.

【0012】また、本発明の第9発明は、請求項9に記
載されたとおりの移動体検出装置である。請求項9に記
載の移動体検出装置を用いれば、適切な電源を用いて、
移動体検出装置を動作させることができる。また、太陽
電池を用いた場合は、移動体検出装置を動作させるため
のエネルギーコストを低減させることができる。
The ninth invention of the present invention is a moving object detecting apparatus as described in claim 9. If the moving body detection device according to claim 9 is used, by using an appropriate power source,
The moving body detection device can be operated. Further, when the solar cell is used, the energy cost for operating the moving body detection device can be reduced.

【0013】また、本発明の第10発明は、請求項10
に記載されたとおりの車両接近警報装置である。請求項
10に記載の車両接近警報装置を用いれば、検出した移
動体の大きさに基づいて移動体が車両であるか否かを判
定し、少なくとも2つの移動体画像に基づいて、判定し
た車両の位置と移動方向を求め、当該車両が所定地点
(交差点等)に接近している場合、警報装置から警報を
発生させることで、交通事故等を抑制させることが期待
できる。
The tenth invention of the present invention is the tenth aspect.
The vehicle approach warning device as described in 1. If the vehicle approach warning device according to claim 10 is used, it is determined whether or not the moving body is a vehicle based on the size of the detected moving body, and the determined vehicle is based on at least two moving body images. When the vehicle is approaching a predetermined point (intersection or the like) by determining the position and the moving direction of the vehicle, it is possible to suppress a traffic accident by issuing an alarm from an alarm device.

【0014】また、本発明の第11発明は、請求項11
に記載されたとおりの車両接近警報装置である。請求項
11に記載の車両接近警報装置を用いれば、適切な電源
を用いて、車両接近警報装置を動作させることができ
る。また、太陽電池を用いた場合は、車両接近警報装置
を動作させるためのエネルギーコストを低減させること
ができる。
The eleventh invention of the present invention is the eleventh invention.
The vehicle approach warning device as described in 1. If the vehicle approach warning device according to the eleventh aspect is used, the vehicle approach warning device can be operated by using an appropriate power source. Further, when the solar cell is used, the energy cost for operating the vehicle approach warning device can be reduced.

【0015】[0015]

【発明の実施の形態】以下に本発明の実施の形態を図面
を用いて説明する。図1は、本発明の移動体検出方法を
適用した移動体検出装置の一実施の形態の概略構成図を
示している。図1は、移動体Cが、見通しの悪い路地β
から幹線道路αを横断しようとしている(直進しようと
している)例を示している。この例では、移動体Cの左
側には障害物γがあり、移動体Cからの視界では、左側
の幹線道路αが見えない状況にある。通常の場合は、移
動体Cの運転者は、徐行して交差点に近づき、(幹線道
路αの)左右の交通状況を確認する。そして、幹線道路
αを走行して交差点に向かって来る移動体(車両等)が
存在しないことを確認した後に、幹線道路αを横断す
る。しかし、夕暮れ時等、薄暗い場合では、移動体Cの
運転者が、幹線道路αを走行して交差点に向かって来る
移動体Aの存在を見落とし、交通事故につながる可能性
がある。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 shows a schematic configuration diagram of an embodiment of a moving body detection apparatus to which the moving body detection method of the present invention is applied. In FIG. 1, the moving body C shows an alley β with poor visibility.
It shows an example of trying to cross the highway α from (is trying to go straight). In this example, there is an obstacle γ on the left side of the moving body C, and the main road α on the left side cannot be seen in the view from the moving body C. In the normal case, the driver of the mobile unit C slowly moves to the intersection and checks the traffic conditions on the left and right (of the main road α). Then, after traveling on the main road α and confirming that there is no moving body (vehicle or the like) coming toward the intersection, the vehicle crosses the main road α. However, in the case of dim light such as at dusk, the driver of the mobile body C may overlook the existence of the mobile body A traveling on the main road α and coming toward the intersection, which may lead to a traffic accident.

【0016】撮影装置1は、第1の所定時間間隔で、
(図1中の移動体Aを含む)検出領域の画像を撮影す
る。処理装置2は、第1の所定時間間隔で、撮影された
画像を記憶装置3に記憶するとともに、記憶装置3に記
憶されている撮影画像をプログラムに従って処理して移
動体を検出する。そして、処理装置2は、幹線道路αを
走行して交差点に向かって来る移動体Aを検出すると、
警報装置4に警報動作信号を送る。警報装置4は、処理
装置2から警報動作信号を受け取ると、音声あるいは光
等(警報の方法は、種々の方法が可能である)で警報を
発生する。移動体Cの運転者は、警報装置4から警報が
発生していることにより、交差点に他の移動体(この場
合は、移動体A)が進入してくることを判別することが
できる。これにより、安全に幹線道路αを横断すること
ができる。なお、撮影装置1、処理装置2、記憶装置
3、警報装置4は、各々個別の装置であってもよいし、
いくつかをまとめた装置(図1の例では、処理装置2と
記憶装置3をまとめている)であってもよい。また、処
理装置2と警報装置4は、無線回線で接続してもよい
し、有線回線で接続してもよい。また、設置場所も、種
々変更が可能である。また、各装置の駆動用電源として
は、交流電源を用いてもよいし、太陽電池を用いてもよ
いし、交流電源あるいは太陽電池の双方を具備し、必要
に応じて切り替えて用いてもよい。電源には、種々の電
源を用いることができる。なお、太陽電池を備える場合
は、例えば、電池パネルを撮影装置1の上部等に設け
る。
The image pickup apparatus 1 has a first predetermined time interval,
An image of the detection area (including the moving body A in FIG. 1) is captured. The processing device 2 stores the captured image in the storage device 3 at the first predetermined time interval, and processes the captured image stored in the storage device 3 according to the program to detect the moving body. Then, when the processing device 2 detects the moving body A traveling on the main road α and coming toward the intersection,
An alarm operation signal is sent to the alarm device 4. When the alarm device 4 receives the alarm operation signal from the processing device 2, the alarm device 4 generates an alarm by voice or light (various methods of alarm can be used). The driver of the moving body C can determine that another moving body (in this case, the moving body A) is approaching the intersection because the warning is issued from the warning device 4. As a result, the main road α can be safely crossed. The image capturing device 1, the processing device 2, the storage device 3, and the alarm device 4 may be separate devices, respectively.
It may be a device in which some of them are integrated (in the example of FIG. 1, the processing device 2 and the storage device 3 are integrated). The processing device 2 and the alarm device 4 may be connected by a wireless line or a wired line. Further, the installation place can be variously changed. As a power supply for driving each device, an AC power supply may be used, a solar cell may be used, or both an AC power supply and a solar cell may be provided and switched as needed. . Various power sources can be used as the power source. In the case where a solar cell is provided, for example, a battery panel is provided on the upper portion of the image capturing device 1 or the like.

【0017】◆[移動体の検出原理(光量が多い日中等
(デイモード)の場合)]次に、図2を用いて、光量が
多い日中等(デイモード)の場合における移動体検出方
法の検出原理を説明する。本実施例で用いている画像
は、全て、明るさ(輝度)をデジタル量(例えば、0〜
255の数字で表され、「0」が最も暗く、「255」
が最も明るい値)に変換した個々の画素が、整然と配列
(例えば、縦方向:480画素、横方向:640画素)
されて構成された、デジタル画像である。また、各図面
において、各画像間を結ぶ矢印は、処理の流れを明確に
するために、適宜、実線、点線、1点鎖線、2点鎖線等
を用いている。まず、撮影装置1にて、第1の所定時間
間隔(例えば、1/8秒間隔)で検出領域を撮影し、処
理装置2は撮影画像を記憶装置3に記憶する。図2の例
では、時間[i−1]、[i]、[i+1]で、撮影画
像[i−1]、撮影画像[i]、撮影画像[i+1]を
得るとともに記憶装置3に記憶している。時間[i]の
時点では、処理装置2は、撮影画像[i]を得て記憶装
置3に記憶し、更に、撮影画像[i−1]と撮影画像
[i]との差分に基づいて2値化した差分2値化画像
[i−1、i]を求め、記憶装置3に記憶する。この例
では、差分2値化画像は、移動体が黒色で示され、移動
体を除いた背景が白色で示されている(黒色と白色の2
値で表現されている)。時間[i−1]と時間[i]が
非常に近接した時間なので、天候等の変化による背景の
明るさ等の変化がほとんどなく、適切に背景を除去する
ことが可能である。また、第1の所定時間間隔が短い場
合、あるいは移動体の速度が遅い場合は、差分2値化画
像において、移動体が重畳し、明るさ(輝度)の差が小
さい部分は、差分を求めた場合に除去される。このた
め、図2において、重畳した部分の一部は除去され、背
景と同様に白色になっている(以下、この状態を中抜け
状態という)。なお、差分2値化画像の求め方の詳細に
ついては後述する。
[Principle of detection of moving body (in daytime with a large amount of light (day mode)]] Next, referring to FIG. 2, a method of detecting a moving body in a case of daytime with a large amount of light (day mode) will be described. The detection principle will be described. In all the images used in this embodiment, the brightness (luminance) is represented by a digital value (for example, 0 to 0).
It is represented by the number 255, "0" is the darkest, "255"
The individual pixels converted to the brightest value are arranged in an orderly manner (eg, vertical direction: 480 pixels, horizontal direction: 640 pixels)
It is a digital image that has been configured. In addition, in each drawing, solid lines, dotted lines, one-dot chain lines, two-dot chain lines, etc. are appropriately used for the arrows connecting the respective images in order to clarify the flow of processing. First, the image capturing apparatus 1 captures an image of the detection area at a first predetermined time interval (for example, 1/8 second interval), and the processing apparatus 2 stores the captured image in the storage device 3. In the example of FIG. 2, the captured image [i-1], captured image [i], and captured image [i + 1] are obtained and stored in the storage device 3 at times [i-1], [i], and [i + 1]. ing. At time [i], the processing device 2 obtains the captured image [i] and stores it in the storage device 3, and further, based on the difference between the captured image [i-1] and the captured image [i]. The binarized difference binarized image [i-1, i] is obtained and stored in the storage device 3. In this example, the differential binarized image shows the moving body in black and the background excluding the moving body in white (black and white 2).
Is represented by a value). Since the time [i-1] and the time [i] are very close to each other, there is almost no change in the brightness of the background or the like due to changes in the weather or the like, and the background can be appropriately removed. Further, when the first predetermined time interval is short or when the speed of the moving body is slow, the difference is calculated for the portion where the moving body is superposed and the difference in brightness (luminance) is small in the difference binarized image. Will be removed. For this reason, in FIG. 2, a part of the overlapped portion is removed, and it is white like the background (hereinafter, this state is referred to as a hollow state). The details of how to obtain the difference binarized image will be described later.

【0018】時間[i+1]の時点では、処理装置2
は、撮影画像[i+1]を得て記憶装置3に記憶し、撮
影画像[i]と撮影画像[i+1]との差分に基づいて
2値化した差分2値化画像[i、i+1]を求め、記憶
装置3に記憶する。そして、差分2値化画像[i−1、
i]と差分2値化画像[i、i+1]との論理積から、
マスク画像[i]を求める。ここで、マスク画像は、2
値で表現されており、時間[i+1]で得られるマスク
画像は、時間[i+1]に対応するマスク画像でなく、
時間[i]に対応するマスク画像[i]である。なお、
マスク画像の求め方の詳細については後述する。続い
て、求めたマスク画像[i]と、時間[i]に対応する
撮影画像[i]とに基づいて、移動体画像[i]を得
る。撮影画像[i]からマスク画像[i]の黒色部分の
みを抽出したものが移動体画像[i]である。移動体画
像は、撮影画像から移動体以外の背景が除去され、移動
体のみが存在している。なお、移動体画像の求め方の詳
細については後述する。この例では、時間[i]に撮影
した撮影画像[i]に対応する移動体画像[i]は、時
間[i]でなく、時間[i+1]に抽出されるが、時間
[i]と時間[i+1]の間隔が短い(本実施例では、
1/8秒)ので、移動体の検出及び警報の発生等に、ほ
とんど影響しない。
At time [i + 1], the processing device 2
Obtains the captured image [i + 1], stores it in the storage device 3, and obtains a binarized difference image [i, i + 1] based on the difference between the captured image [i] and the captured image [i + 1]. , In the storage device 3. Then, the difference binarized image [i-1,
i] and the binary difference image [i, i + 1],
Find the mask image [i]. Here, the mask image is 2
The mask image represented by the value and obtained at time [i + 1] is not the mask image corresponding to time [i + 1],
It is a mask image [i] corresponding to time [i]. In addition,
Details of how to obtain the mask image will be described later. Then, the moving body image [i] is obtained based on the obtained mask image [i] and the captured image [i] corresponding to the time [i]. The moving object image [i] is obtained by extracting only the black portion of the mask image [i] from the captured image [i]. In the moving body image, the background other than the moving body is removed from the captured image, and only the moving body exists. Details of how to obtain the moving body image will be described later. In this example, the moving image [i] corresponding to the captured image [i] captured at the time [i] is extracted at the time [i + 1] instead of the time [i]. The interval of [i + 1] is short (in this embodiment,
Since it is 1/8 second), it has almost no influence on the detection of a moving body and the generation of an alarm.

【0019】◆[第1の実施の形態(撮影画像の差分を
用いて移動体を検出)]第1の実施の形態では、「デイ
モード」の場合と同様に撮影画像の差分を用いて移動体
画像を求める。ただし、「デイモード」と異なる方法で
移動体画像を求めるので、以下に、その詳細を説明す
る。
[First Embodiment (Detecting Moving Object Using Difference in Photographed Image)] In the first embodiment, movement is performed using the difference in photographed image as in the case of the “day mode”. Find the body image. However, since the moving object image is obtained by a method different from the “day mode”, the details will be described below.

【0020】◆[移動体の検出原理(光量が少ない夜間
等(ナイトモード)の場合)]図3を用いて、本発明
の、光量が少ない夜間等(ナイトモード)の場合におけ
る移動体検出方法の検出原理を説明する。以下、図2と
の相違点について説明する。時間[i−1]の時点で
は、処理装置2は、撮影画像[i−1]を得て記憶装置
3に記憶する。更に、撮影画像[i−1]の各領域(各
画素)を所定輝度以上(例えば、輝度「220」以上)
の領域と、所定輝度未満の2種類の領域に分類して2値
化した(所定輝度以上の領域を黒色に、所定輝度未満の
領域を白色の2値で表現した)撮影2値化画像[i−
1]を求める。この場合、移動体Aのライト及び当該ラ
イトで照射された領域と、移動体Bのライトに照射され
た領域と、街灯及び当該街灯近傍の領域が、所定輝度以
上の領域として抽出されている。
[Principle of detection of moving body (in the case of night time when the light amount is small (night mode)]] With reference to FIG. 3, the moving body detecting method of the present invention in the case of night time (night mode) where the light amount is small. The detection principle of is explained. Hereinafter, differences from FIG. 2 will be described. At time [i-1], the processing device 2 obtains the captured image [i-1] and stores it in the storage device 3. Furthermore, each area (each pixel) of the captured image [i-1] has a predetermined brightness or higher (for example, brightness "220" or higher).
And a binarized image obtained by classifying into two types of regions of less than a predetermined brightness (regions of a predetermined brightness or higher are expressed in black, and regions of a predetermined brightness or lower are expressed in white). i-
1] is required. In this case, the light of the moving body A and the area illuminated by the light, the area illuminated by the light of the moving body B, the streetlight and the area in the vicinity of the streetlight are extracted as areas having a predetermined brightness or higher.

【0021】時間[i]の時点では、時間[i−1]の
時点と同様に、撮影2値化画像[i]を求め、図2と同
様に、差分2値化画像[i−1、i]を求める。差分2
値化画像[i−1、i]は、図2と同様に、中抜け状態
である。また、光量が少ない夜間では、背景と移動体自
体の輝度の差が小さいので、移動体自体もほぼ除去され
る可能性が高い。しかし、ライト及び当該ライトで照射
された領域(高輝度の領域)が差分として現れる。ま
た、図2と異なり、ライトで照射された領域は、移動体
自体の領域に比較して、輝度の均一性が高い(輝度の値
の差が小さい)ので、広範囲に渡って中抜け状態になる
可能性が高い。そこで、差分2値化画像[i−1、i]
に、撮影2値化画像[i−1]と撮影2値化画像[i]
を論理和等を用いて加え、2値化画像[i−1、i]を
求める。
At time [i], the photographed binarized image [i] is obtained in the same manner as at time [i-1], and the difference binarized image [i-1, i] is calculated. Difference 2
The binarized image [i-1, i] is in a hollow state, as in FIG. In addition, at night when the amount of light is small, the difference in brightness between the background and the moving body itself is small, and thus the moving body itself is likely to be almost removed. However, the light and the area illuminated by the light (high-luminance area) appear as a difference. In addition, unlike FIG. 2, the area illuminated by the light has a higher uniformity of brightness (smaller difference in brightness value) than the area of the moving body itself, and thus a hollow area is present over a wide range. Is likely to be. Therefore, the difference binarized image [i-1, i]
, The photographed binary image [i-1] and the photographed binary image [i]
Is added using a logical sum or the like to obtain a binarized image [i-1, i].

【0022】時間[i+1]の時点では、時間[i]の
時点と同様に、撮影2値化画像[i+1]を求め、図2
と同様に、差分2値化画像[i、i+1]を求め、2値
化画像[i、i+1]を求める。そして、2値化画像
[i−1、i]と2値化画像[i、i+1]との論理積
から、マスク画像[i]を求める。図2と同様に差分2
値化画像[i−1、i]と差分2値化画像[i、i+
1]との論理積を求めた場合は、中抜け状態の部分が大
きいことにより、図3中の論理積画像[i]に示すよう
に、僅かな情報しか残らず、移動体の検出に用いること
が困難である。しかし、撮影2値化画像との論理和を求
めて情報量を増加させることで、移動体を精度よく検出
することができる程度の情報量を持つマスク画像[i]
を得ることができる。
At time [i + 1], the photographed binarized image [i + 1] is obtained in the same manner as at time [i],
Similarly, the difference binarized image [i, i + 1] is obtained, and the binarized image [i, i + 1] is obtained. Then, the mask image [i] is obtained from the logical product of the binarized image [i-1, i] and the binarized image [i, i + 1]. Difference 2 as in FIG.
The binarized image [i-1, i] and the difference binarized image [i, i +
When the logical product with 1] is obtained, since a part of the hollow area is large, only a small amount of information remains as shown in the logical product image [i] in FIG. Is difficult. However, by increasing the amount of information by obtaining the logical sum of the captured binary image, the mask image [i] having the amount of information that can accurately detect the moving object.
Can be obtained.

【0023】続いて、求めたマスク画像[i]と、時間
[i]に対応する撮影画像[i]とに基づいて、移動体
画像[i]を得る。撮影画像[i]からマスク画像
[i]の黒色部分のみを抽出したものが移動体画像
[i]である。移動体画像は、撮影画像から移動体以外
の背景が除去され、移動体のみが存在している。ただ
し、この場合は、移動体(車両等)自身でなく、移動体
(車両等)が発光するライト等に照射された領域と、移
動していないが所定輝度以上である街灯が検出されてい
る(以降、これらを高輝度体と記載する)。街灯等の移
動体でないノイズ成分の除去方法については後述する。
なお、光量が多い日中等(デイモード)と、光量が少な
い夜間等(ナイトモード)の判定は、例えば、撮影画像
の輝度分布が図11(A)に近似している場合に日中
(デイモード)と判定し、撮影画像の輝度分布が図11
(B)に近似している場合に夜間(ナイトモード)と判
定する。この場合、近似の方法は、種々の方法が可能で
ある。また、以下の実施の形態は、本発明であるナイト
モード(光量が少ない夜間等の場合)における移動体検
出方法について説明する。
Then, the moving body image [i] is obtained based on the obtained mask image [i] and the photographed image [i] corresponding to the time [i]. The moving object image [i] is obtained by extracting only the black portion of the mask image [i] from the captured image [i]. In the moving body image, the background other than the moving body is removed from the captured image, and only the moving body exists. However, in this case, not the moving body (vehicle or the like) but the area illuminated by the light or the like emitted by the moving body (the vehicle or the like) and the street light which is not moving but has a predetermined brightness or higher are detected. (Hereinafter, these are referred to as high-luminance bodies). A method of removing a noise component such as a street light that is not a moving object will be described later.
It should be noted that the determination of daytime etc. with a large amount of light (day mode) and nighttime etc. with a small amount of light (night mode) can be made, for example, in the daytime (daytime) when the brightness distribution of the captured image is close to that of FIG. Mode) and the brightness distribution of the captured image is shown in FIG.
If it is close to (B), it is determined to be night (night mode). In this case, various approximation methods are possible. In addition, the following embodiments will describe a moving object detection method in the night mode (when the amount of light is small, such as at night) according to the present invention.

【0024】◆[移動体の検出原理(ナイトモードにお
ける連続撮影及び連続処理)]図4は、上記で説明した
図3の処理を、第1の所定時間間隔で、連続的に実行し
ていく様子を示している。なお、図4では、撮影2値化
画像と差分2値化画像を省略して記載しているが、図3
と同様にして2値化画像を求めている。例えば、時間
[i]の時点では、撮影画像[i]を得て記憶し、撮影
画像[i−1]と撮影画像[i]との差分に基づいて2
値化した差分2値化画像[i−1、i]を求めて記憶
し、撮影画像[i]の所定輝度以上の領域を抽出した撮
影2値化画像[i]を求めて記憶する。そして、差分2
値化画像[i−1、i]に、撮影2値化画像[i−1]
と撮影2値化画像[i]を論理和等を用いて加え、2値
化画像[i−1、i]を求めて記憶する。そして、2値
化画像[i−2、i−1]と2値化画像[i−1、i]
との論理積からマスク画像[i−1]を求め、撮影画像
[i−1]からマスク画像[i−1]の黒色部分を抽出
して移動体画像[i−1]を得ることができる。同様に
して、時間[i+1]では移動体画像[i]を得ること
ができ、時間[i+2]では移動体画像[i+1]を得
ることができる。そして、第1の所定時間間隔毎の移動
体画像[i−1]、移動体画像[i]、移動体画像[i
−1]に基づいて、移動体(高輝度体)の移動方向及び
移動速度、あるいは移動体(高輝度体)までの距離等を
求めることができる。移動体(高輝度体)までの距離
は、各移動体画像における移動体(高輝度体)の位置で
推定することが可能である(本実施例では、移動体(高
輝度体)は地上を移動するため)。なお、移動体(高輝
度体)の移動方向、移動速度、位置等の求め方は後述す
る。
[Principle of Detection of Moving Object (Continuous Shooting and Continuous Processing in Night Mode)] FIG. 4 continuously executes the processing of FIG. 3 described above at a first predetermined time interval. It shows the situation. Although the photographed binary image and the difference binary image are omitted in FIG. 4, FIG.
The binarized image is obtained in the same manner as. For example, at time [i], the captured image [i] is obtained and stored, and 2 is calculated based on the difference between the captured image [i-1] and the captured image [i].
The binarized difference binarized image [i-1, i] is obtained and stored, and the photographed binarized image [i] obtained by extracting the region of the photographed image [i] having a predetermined brightness or higher is obtained and stored. And the difference 2
For the binarized image [i-1, i], the captured binarized image [i-1]
And the captured binarized image [i] are added using a logical sum or the like to obtain and store the binarized image [i-1, i]. Then, the binarized image [i-2, i-1] and the binarized image [i-1, i]
The moving object image [i-1] can be obtained by obtaining the mask image [i-1] from the logical product of and and extracting the black portion of the mask image [i-1] from the captured image [i-1]. . Similarly, the moving body image [i] can be obtained at time [i + 1], and the moving body image [i + 1] can be obtained at time [i + 2]. Then, the moving body image [i-1], moving body image [i], moving body image [i
−1], the moving direction and moving speed of the moving body (high-luminance body), the distance to the moving body (high-luminance body), or the like can be obtained. The distance to the moving object (high brightness object) can be estimated by the position of the moving object (high brightness object) in each moving object image (in this embodiment, the moving object (high brightness object) is on the ground. To move). The method of obtaining the moving direction, moving speed, position, etc. of the moving body (high brightness body) will be described later.

【0025】◆[差分2値化画像の求め方]次に、図5
を用いて、2つの撮影画像の差分から差分2値化画像を
求める方法について説明する。図5は、説明のために、
撮影画像を8×8のブロック(X、Y)に分割してい
る。また、この例では、各ブロック(X、Y)は、4×
4の合計16個の画素が整然と配列されて構成されてお
り、各画素には明るさ(輝度)に基づく測定値が入って
いる。例えば、各画素は明るさ(輝度)を測定する。図
5に示すように、撮影画像[i−1]のブロック(6、
5)及びブロック(6、6)と、撮影画像[i]のブロ
ック(6、5)及びブロック(6、6)の各画素の値
は、各画素で検出された明るさ(輝度)の量である(点
線で示す部分は、移動体(この場合、ライト等に照射さ
れた領域)の外形部分を参考として示している)。ま
た、各ブロック中に色彩を変更している部分は、参考と
して輝度の違いを示している。
[How to obtain difference binary image] Next, referring to FIG.
A method for obtaining a difference binarized image from the difference between two captured images will be described using. FIG. 5 illustrates
The captured image is divided into 8 × 8 blocks (X, Y). Also, in this example, each block (X, Y) is 4 ×
A total of 16 pixels of 4 are arranged in an orderly manner, and each pixel has a measured value based on the brightness (luminance). For example, each pixel measures the brightness (luminance). As shown in FIG. 5, the block (6,
5) and the block (6, 6), and the value of each pixel of the block (6, 5) and the block (6, 6) of the captured image [i] is the amount of brightness (luminance) detected by each pixel. (The portion indicated by the dotted line indicates the outer shape portion of the moving body (in this case, the area illuminated by the light or the like) for reference). In addition, a portion where the color is changed in each block shows a difference in luminance as a reference.

【0026】ここで、撮影画像[i−1]と撮影画像
[i]との差分を求めるには、撮影画像[i]の各画素
のデジタル量から、撮影画像[i−1]の対応する画素
のデジタル量を減算する。そして、求めた差分の絶対値
を演算する。例えば、撮影画像[i]のブロック(6、
6)の右上の画素のデジタル量(50)から、撮影画像
[i−1]のブロック(6、6)の右上のデジタル量
(120)を減算する。そして、各画素毎に差分の絶対
値を演算(この場合「70」)して、対応する画素の部
分に、演算した値を格納する。次に、差分の絶対値を2
値化する。例えば、差分の絶対値が閾値以上(例えば、
「60」以上)である画素の部分を「1」に設定し、差
分の絶対値が閾値未満(例えば、「60」未満)である
画素の部分を「0」に設定する。これにより、2つの撮
影画像の差分から「1」と「0」の2値のみを有する差
分2値化画像を得ることができる。例えば、「0」の画
素の部分を白色に設定し、「1」の画素の部分を黒色に
設定すると、図5に示す差分2値化画像[i−1、i]
が得られる。この方法によると、非常に短い時間間隔の
2つの撮影画像の差分であるため、移動体以外の背景を
精度良く除去することが可能である。しかし、明るさ
(輝度)の差が小さい画素を背景とみなして除去するた
め、移動体(高輝度体)の明るさ(輝度)がほぼ均一
で、且つ移動体(高輝度体)の移動速度が低速、あるい
は撮影の間隔(第1の所定時間間隔)が短い場合、撮影
画像[i−1]と撮影画像[i]において、同一の移動
体(高輝度体)が重畳した部分(図5中の「移動体重畳
画素」)では、移動体(高輝度体)が存在しているにも
かかわらず、背景として除去されてしまう場合がある。
この対処方法については、既に説明したように、差分2
値化画像と撮影2値化画像との論理和等を用いて、中抜
け状態の部分を補正した2値化画像を求めることで対処
できる。
Here, in order to obtain the difference between the photographed image [i-1] and the photographed image [i], the digital amount of each pixel of the photographed image [i] corresponds to the photographed image [i-1]. Subtract the digital amount of pixels. Then, the absolute value of the obtained difference is calculated. For example, the block (6,
The digital amount (120) at the upper right of the block (6, 6) of the captured image [i-1] is subtracted from the digital amount (50) of the pixel at the upper right of 6). Then, the absolute value of the difference is calculated for each pixel (“70” in this case), and the calculated value is stored in the corresponding pixel portion. Next, set the absolute value of the difference to 2
Quantify. For example, the absolute value of the difference is greater than or equal to a threshold value (for example,
Pixel portions which are "60" or more) are set to "1", and pixel portions whose absolute difference is less than the threshold value (for example, less than "60") are set to "0". This makes it possible to obtain a difference binarized image having only the binary values of “1” and “0” from the difference between the two captured images. For example, if the pixel portion of "0" is set to white and the pixel portion of "1" is set to black, the difference binarized image [i-1, i] shown in FIG.
Is obtained. According to this method, it is possible to remove the background other than the moving object with high accuracy because the difference is between the two captured images at a very short time interval. However, since the pixels with a small difference in brightness (luminance) are regarded as the background and are removed, the brightness (luminance) of the moving body (high-luminance body) is almost uniform, and the moving speed of the moving body (high-luminance body) is high. When the shooting speed is low or the shooting interval (first predetermined time interval) is short, in the captured image [i-1] and the captured image [i], the same moving body (high brightness body) is overlapped (see FIG. 5). In the "moving object superimposed pixel" therein, there is a case where the moving object (high brightness object) is removed as a background even though the moving object (high brightness object) exists.
As for this coping method, as described above, the difference 2
This can be dealt with by using a logical sum of the binarized image and the photographed binarized image or the like to obtain the binarized image in which the portion in the hollow state is corrected.

【0027】◆[マスク画像の求め方]次に、2つの2
値化画像の論理積からマスク画像を求める方法について
説明する。2値化画像は、各画素が「0」あるいは
「1」のいずれかである。この各画素毎に、対応する画
素との論理積を求める。例えば、「デイモード」におい
ては、図2に示す差分2値化画像[i−1、i]と差分
2値化画像[i、i+1]との論理積を求めた結果、例
えば、「0」の画素の部分を白色に設定し、「1」の画
素の部分を黒色に設定すると、図2に示すマスク画像
[i]が得られる。また、例えば、「ナイトモード」に
おいては、図3に示す2値化画像[i−1、i]と2値
化画像[i、i+1]との論理積を求めた結果、例え
ば、「0」の画素の部分を白色に設定し、「1」の画素
の部分を黒色に設定すると、図3に示すマスク画像
[i]が得られる。
[How to obtain mask image] Next, two 2
A method of obtaining the mask image from the logical product of the binarized images will be described. In the binarized image, each pixel is either “0” or “1”. For each pixel, a logical product with the corresponding pixel is obtained. For example, in the "day mode", the result of obtaining the logical product of the difference binarized image [i-1, i] and the difference binarized image [i, i + 1] shown in FIG. 2, for example, "0" When the pixel portion of is set to white and the pixel portion of "1" is set to black, the mask image [i] shown in FIG. 2 is obtained. Further, for example, in the “night mode”, as a result of obtaining the logical product of the binarized image [i−1, i] and the binarized image [i, i + 1] shown in FIG. 3, for example, “0” When the pixel portion of is set to white and the pixel portion of "1" is set to black, the mask image [i] shown in FIG. 3 is obtained.

【0028】◆[移動体画像の求め方]次に、撮影画像
とマスク画像から移動体画像を得る方法について説明す
る。マスク画像は、上記に説明したように、各画素の部
分が「0」あるいは「1」のいずれかである。例えば、
図2あるいは図3において、マスク画像[i]の画素が
「0」の部分(この場合、マスク画像[i]中の白色部
分)に対応する撮影画像[i]の画素の部分を「0」に
する(この場合、白色にしている)。また、マスク画像
[i]の画素が「1」の部分(この場合、マスク画像
[i]中の黒色部分)に対応する撮影画像[i]の画素
は、そのままのデジタル量を保持させる。このように、
移動体画像[i]を得ることができる。
[How to obtain moving body image] Next, a method of obtaining a moving body image from a photographed image and a mask image will be described. As described above, in the mask image, each pixel portion is either "0" or "1". For example,
2 or 3, the pixel portion of the photographed image [i] corresponding to the portion where the pixel of the mask image [i] is "0" (in this case, the white portion in the mask image [i]) is "0". (In this case, it is white). In addition, the pixels of the captured image [i] corresponding to the portion where the pixels of the mask image [i] are “1” (in this case, the black portion in the mask image [i]) retain the digital amount as they are. in this way,
The moving body image [i] can be obtained.

【0029】◆[第1の所定時間間隔の設定(1)(移
動体が低速時)]本実施の形態では、移動体が極低速の
場合を想定しない。極低速の場合は、移動体(高輝度
体)として検出して警報を発生させる必要がないからで
ある。例えば、15km/h以上程度の速度で移動する
移動体(高輝度体)を検出することができればよい。第
1の所定時間間隔は、検出領域の道路における車両の速
度等に影響されるが、1/4秒以上が好ましい。なお、
この値は、検出領域の道路毎に設定を変更してもよい。
[Setting of First Predetermined Time Interval (1) (When Mobile Object is at Low Speed)] In the present embodiment, it is not assumed that the mobile object is at an extremely low speed. This is because in the case of extremely low speed, it is not necessary to detect as a moving body (high brightness body) and issue an alarm. For example, it is only necessary to be able to detect a moving body (high-luminance body) that moves at a speed of about 15 km / h or more. The first predetermined time interval is influenced by the speed of the vehicle on the road in the detection area and the like, but is preferably ¼ second or more. In addition,
The setting of this value may be changed for each road in the detection area.

【0030】◆[第1の所定時間間隔の設定(2)(移
動体が高速時)]図6は、移動体(高輝度体)の移動速
度が高速、あるいは撮影の間隔(第1の所定時間間隔)
が長い場合であって、移動体(高輝度体)が存在する撮
影画像が少ない例を示している。例えば、図6に示すよ
うに、移動体(高輝度体)が撮影画像[i]のみに存在
する場合、移動体画像[i−1]及び移動体画像[i+
1]には移動体(高輝度体)が存在せず、移動体画像
[i]のみに移動体が存在する。(図6の例では、移動
体画像[i−1]、[i+1]には、移動していない高
輝度体(街灯)が含まれているが、実際に移動している
高輝度体(車両等)は含まれていない。)この場合、移
動体画像[i−1]、[i]、[i+1]を用いても、
移動体(高輝度体)の移動方向及び移動速度を求めるこ
とができない。よって、第1の所定時間間隔を、検出す
べき移動体(高輝度体)が存在する撮影画像が多くなる
ように設定する。第1の所定時間間隔は、検出領域の道
路における車両の速度等に影響されるが、1/8秒以下
が好ましい。なお、この値は、検出領域の道路毎に設定
を変更してもよい。
[Setting of first predetermined time interval (2) (when moving body is at high speed)] FIG. 6 shows that the moving speed of the moving body (high-luminance body) is high, or the shooting interval (first predetermined time). Time interval)
Shows a case where there is a moving object (high brightness object) and the number of captured images is small. For example, as shown in FIG. 6, when the moving body (high-luminance body) exists only in the captured image [i], the moving body image [i-1] and the moving body image [i +
1] has no moving body (high-luminance body), and the moving body exists only in the moving body image [i]. (In the example of FIG. 6, although the moving body images [i-1] and [i + 1] include the high-intensity body (street light) that is not moving, the high-intensity body (vehicle that is actually moving) (vehicle Etc.) is not included.) In this case, even if the moving body images [i-1], [i], and [i + 1] are used,
The moving direction and moving speed of the moving body (high brightness body) cannot be obtained. Therefore, the first predetermined time interval is set so that the number of captured images in which the moving body (high-luminance body) to be detected is large. The first predetermined time interval is influenced by the speed of the vehicle on the road in the detection area and the like, but is preferably ⅛ second or less. The setting of this value may be changed for each road in the detection area.

【0031】◆[低速あるいは高速の移動体を検出する
時間間隔の最適化]以上の説明より、各撮影画像の差分
を用いて低速の移動体(高輝度体)を精度よく検出する
ためには第1の所定時間間隔を1/4秒以上に設定する
ことが好ましく、各撮影画像毎に高速の移動体(高輝度
体)を精度よく検出するためには第1の所定時間間隔を
1/8秒以下に設定することが好ましい。これを解決す
る方法を、図7を用いて説明する。例えば、図7に示す
ように、各撮影画像を1/8秒毎に撮影する。ただし、
2値化画像を1回過去の撮影画像でなく、n回(nは、
2以上の整数)過去の撮影画像から求める。同様に、マ
スク画像及び移動体画像も、n回過去の画像から求め
る。図7は、「n=2」に設定した場合の例(撮影画像
は1/8秒毎に撮影した例)を示している。例えば、時
間[i+1]の時点では、撮影画像[i+1]を得て記
憶し、(2回過去の)撮影画像[i−1]と、(今回撮
影した)撮影画像[i+1]との差分に基づいて2値化
した差分2値化画像[i−1、i+1]を求めて記憶
し、更に、差分2値化画像[i−1、i+1]と撮影2
値化画像[i−1]と撮影2値化画像[i+1]との論
理和を求め、2値化画像[i−1、i+1]を求めて記
憶する。次に、求めた2値化画像[i−1、i+1]
と、2回過去の2値化画像[i−3、i−1]との論理
積から、マスク画像[i−1]を求める。そして、求め
たマスク画像[i−1]と撮影画像[i−1]から、移
動体画像[i−1]を得ることができる。つまり、この
場合、1/4秒毎の撮影画像の差分に基づいて移動体画
像を求めていることになる。この場合、時間[i−1]
に撮影した撮影画像[i−1]に対応する移動体画像
[i−1]は、時間[i−1]でなく、時間[i+1]
に抽出されるが、時間[i−1]と時間[i+1]の間
隔が短い(この場合、1/4秒)ので、警報の発生等
に、ほとんど影響を及ぼさない。
[Optimization of Time Interval for Detecting Low-speed or High-speed Moving Object] From the above description, in order to accurately detect a low-speed moving object (high-luminance object) using the difference between the captured images. It is preferable to set the first predetermined time interval to 1/4 second or more. To accurately detect a high-speed moving object (high brightness object) in each captured image, the first predetermined time interval is set to 1 / second. It is preferably set to 8 seconds or less. A method for solving this will be described with reference to FIG. For example, as shown in FIG. 7, each captured image is captured every ⅛ second. However,
The binarized image is not taken once, but n times (n is
(An integer of 2 or more) Obtained from past captured images. Similarly, the mask image and the moving body image are also obtained from images n times past. FIG. 7 shows an example in which “n = 2” is set (photographed images are photographed every 1/8 second). For example, at time [i + 1], the captured image [i + 1] is obtained and stored, and the difference between the captured image [i-1] (twice past) and the captured image [i + 1] (currently captured) is calculated. The binarized difference binary image [i−1, i + 1] is obtained and stored, and the difference binarized image [i−1, i + 1] and the captured image 2 are stored.
The logical sum of the binarized image [i-1] and the photographed binarized image [i + 1] is obtained, and the binarized image [i-1, i + 1] is obtained and stored. Next, the obtained binarized image [i-1, i + 1]
Then, the mask image [i-1] is obtained from the logical product of the two-time past binarized image [i-3, i-1]. Then, the moving body image [i-1] can be obtained from the obtained mask image [i-1] and captured image [i-1]. In other words, in this case, the moving body image is obtained based on the difference between the photographed images every 1/4 second. In this case, time [i-1]
The moving body image [i-1] corresponding to the captured image [i-1] captured in the above is not the time [i-1] but the time [i + 1].
However, since the interval between the time [i-1] and the time [i + 1] is short (in this case, 1/4 second), it hardly affects the occurrence of an alarm.

【0032】また、時間[i+2]の時点では、撮影画
像[i+2]を得て記憶し、(2回過去の)撮影画像
[i]と、(今回撮影した)撮影画像[i+2]との差
分に基づいて2値化した差分2値化画像[i、i+2]
を求めて記憶し、更に、差分2値化画像[i、i+2]
と撮影2値化画像[i]と撮影2値化画像[i+2]と
の論理和を求め、2値化画像[i、i+2]を求めて記
憶する。次に、求めた2値化画像[i、i+2]と、2
回過去の2値化画像[i−2、i]との論理積から、マ
スク画像[i]を求める。そして、求めたマスク画像
[i]と撮影画像[i]から、移動体画像[i]を得る
ことができる。移動体画像を求める処理を撮影毎に実行
するので、時間[i+1]と時間[i+2]の時間間隔
は1/8秒である。このため、移動体画像[i−1]、
[i]、[i+1]は、1/8秒毎の撮影画像中に存在
する移動体を示している。
At time [i + 2], a photographed image [i + 2] is obtained and stored, and the difference between the photographed image [i] (twice past) and the photographed image [i + 2] (currently photographed) is obtained. Difference binarized image [i, i + 2] based on
Is calculated and stored, and the difference binarized image [i, i + 2]
And the binarized image [i] and the binarized image [i + 2] are ORed to obtain and store the binarized image [i, i + 2]. Next, the obtained binarized image [i, i + 2] and 2
The mask image [i] is obtained from the logical product of the binary image [i-2, i] of the past times. Then, the moving object image [i] can be obtained from the obtained mask image [i] and captured image [i]. Since the process of obtaining the moving body image is executed for each shooting, the time interval between the time [i + 1] and the time [i + 2] is 1/8 second. Therefore, the moving body image [i-1],
[I] and [i + 1] represent moving objects existing in the captured image every 1/8 second.

【0033】つまり、第1の所定時間間隔で撮影して撮
影画像を得るとともに記憶し、時点[i]における撮影
画像[i]と、撮影画像[i]に対してn回過去の撮影
画像[i−n](nは、1以上の整数)と、撮影画像
[i]に対してn回未来の撮影画像[i+n]とを用
い、撮影画像[i−n]と撮影画像[i]との差分に基
づいて2値化した差分2値化画像[i−n、i]と、撮
影画像[i]と撮影画像[i+n]との差分に基づいて
2値化した差分2値化画像[i、i+n]とを求め、撮
影画像[i−n]、撮影画像[i]及び撮影画像[i+
n]の各々に対して各領域を、所定輝度以上の領域と所
定輝度未満の領域の2種類の領域に分類した撮影2値化
画像[i−n]、撮影2値化画像[i]及び撮影2値化
画像[i+n]を求め、求めた差分2値化画像[i−
n、i]と撮影2値化画像[i−n]と撮影2値化画像
[i]とに基づいた2値化画像[i−n、i]と、求め
た差分2値化画像[i、i+n]と撮影2値化画像
[i]と撮影2値化画像[i+n]とに基づいた2値化
画像[i、i+n]とを求め、求めた2値化画像[i−
n、i]と2値化画像[i、i+n]とに基づいて、時
点[i]に対応するマスク画像[i]を求め、求めたマ
スク画像[i]と撮影画像[i]とに基づいて、時点
[i]に対応する移動体画像[i]を求め、求めた移動
体画像[i]の情報に基づいて、移動体を検出する。こ
の例では、第1の所定時間間隔が1/8秒であり、n=
2であるので、1/4秒毎の差分に基づいて、1/8秒
毎に移動体を抽出する。これにより、低速及び高速の移
動体を精度よく検出することができる。
That is, a photographed image is obtained by photographing at the first predetermined time interval and stored, and the photographed image [i] at the time [i] and the photographed image n times past the photographed image [i] are displayed. i-n] (n is an integer greater than or equal to 1) and a captured image [i + n] of the captured image [i] n times in the future, the captured image [i-n] and the captured image [i] are obtained. Difference binarized image [i−n, i] binarized based on the difference between the captured image [i] and captured image [i + n] i, i + n], and the captured image [i−n], captured image [i], and captured image [i +
n], the respective regions are classified into two types of regions, that is, a region having a brightness equal to or higher than a predetermined brightness and a region having a brightness lower than the predetermined brightness, a captured binary image [i-n], a captured binary image [i], and The captured binary image [i + n] is obtained, and the obtained difference binary image [i-
[n, i], the photographed binary image [i-n], and the photographed binary image [i], and the calculated difference binary image [i] , I + n], the captured binary image [i], and the captured binary image [i + n], and the obtained binary image [i-
[n, i] and the binarized image [i, i + n], the mask image [i] corresponding to the time point [i] is obtained, and based on the obtained mask image [i] and the captured image [i]. Then, the moving body image [i] corresponding to the time point [i] is obtained, and the moving body is detected based on the obtained information of the moving body image [i]. In this example, the first predetermined time interval is 1/8 second and n =
Since it is 2, the moving object is extracted every 1/8 second based on the difference every 1/4 second. This makes it possible to accurately detect low-speed and high-speed moving bodies.

【0034】◆[移動体の移動方向及び移動速度の求め
方]次に、図8を用いて、求めた移動体画像に基づいて
移動体(高輝度体)の移動方向及び移動速度を求める方
法について説明する。例えば、図8に示すように、求め
た移動体画像を8×8のブロック(X、Y)に分割す
る。また、この例では、各ブロック(X、Y)は、4×
4の合計16個の画素が整然と配列されて構成されてお
り、各画素には明るさ(輝度)に基づく測定値が入って
いる。このブロック間のマッチングを用いて、移動体
(高輝度体)が存在する各ブロック(X[i]、Y
[i])の移動先ブロック(X[i+1]、Y[i+
1])を検出し、当該ブロックの移動方向と移動距離
(動きベクトル)を求める。なお、移動速度は、所定時
間における移動距離から求めることができる。
[How to obtain moving direction and moving speed of moving body] Next, referring to FIG. 8, a method for obtaining the moving direction and moving speed of the moving body (high brightness body) based on the obtained moving body image. Will be described. For example, as shown in FIG. 8, the obtained moving body image is divided into 8 × 8 blocks (X, Y). Also, in this example, each block (X, Y) is 4 ×
A total of 16 pixels of 4 are arranged in an orderly manner, and each pixel has a measured value based on the brightness (luminance). By using the matching between the blocks, each block (X [i], Y in which a moving body (high brightness body) exists
[I]) destination block (X [i + 1], Y [i +
1]) is detected, and the moving direction and moving distance (motion vector) of the block are obtained. The moving speed can be calculated from the moving distance in a predetermined time.

【0035】図8を用いて、移動体画像[i−1]と移
動体画像[i]から、動きベクトル平面[i−1、i]
(時間[i−1]から時間[i]における、移動体(高
輝度体)の動きベクトル)を求める方法を説明する。例
えば、移動体画像[i−1]のブロック(6、5)内の
各画素に入っているデジタル量が、図8に示す値とす
る。また、移動体画像[i]のブロック(7、5)内の
各画素に入っているデジタル量が、図8に示す値とす
る。(点線で示す部分は移動体(高輝度体)の外形を参
考として示し、ブロック中の色彩を変更している部分は
移動体(高輝度体)の一部であることを参考として示し
ている。)この場合、移動体画像[i−1]のブロック
(6、5)と、移動体画像[i]のブロック(7、5)
がマッチしたと判定し、動きベクトル平面[i−1、
i]上において、ブロック(6、5)からブロック
(7、5)へ向かうベクトルが得られる。同様に、各ブ
ロックにおける「(ブロック)動きベクトル」を求め、
類似方向及び類似距離の「(ブロック)動きベクトル」
を平均化して、「(移動体)動きベクトル」を求める。
そして、「(移動体)動きベクトル」より、移動体(高
輝度体)の移動方向及び移動距離を求めることができ
る。また、所定時間における移動距離から、移動体(高
輝度体)の移動速度を求めることができる。なお、ブロ
ック間のマッチングを求める方法としては、従来技術
の、(1)ブロック内画素の差分階調値の絶対値の和、
(2)ブロック内画素の平均階調値の差の絶対値、
(3)ブロック内画素の階調値の標準偏差の差の絶対
値、(4)ブロック内画素の階調値の相互相関係数、
(5)ブロック内画素の階調値のフーリエ係数による一
致度、等種々の方法がある。本実施の形態では、(1)
ブロック内画素の差分階調値の絶対値の和を用いたが、
他の方法を用いてもよい。
Referring to FIG. 8, the motion vector plane [i-1, i] is calculated from the moving body image [i-1] and the moving body image [i].
A method of obtaining a (motion vector of a moving body (high-luminance body) from time [i-1] to time [i]) will be described. For example, the digital amount contained in each pixel in the block (6, 5) of the moving body image [i-1] has the value shown in FIG. Further, the digital amount contained in each pixel in the block (7, 5) of the moving body image [i] has the value shown in FIG. (The part indicated by the dotted line shows the outer shape of the moving body (high brightness body) as a reference, and the part in which the color in the block is changed is shown as a part of the moving body (high brightness body). .) In this case, the blocks (6, 5) of the moving body image [i-1] and the blocks (7, 5) of the moving body image [i].
Are determined to match, and the motion vector plane [i-1,
On i], the vector going from block (6, 5) to block (7, 5) is obtained. Similarly, the "(block) motion vector" in each block is calculated,
“(Block) motion vector” with similar direction and similar distance
Are averaged to obtain a “(moving body) motion vector”.
Then, the moving direction and the moving distance of the moving body (high brightness body) can be obtained from the “(moving body) motion vector”. Further, the moving speed of the moving body (high brightness body) can be obtained from the moving distance in a predetermined time. Note that, as a method of obtaining matching between blocks, there is (1) the sum of absolute values of difference gradation values of pixels in the block of the related art,
(2) Absolute value of the difference between the average gradation values of the pixels in the block,
(3) absolute value of difference in standard deviation of tone values of pixels in block, (4) cross-correlation coefficient of tone values of pixels in block,
(5) There are various methods such as the degree of coincidence of the gradation value of the pixel in the block by the Fourier coefficient. In the present embodiment, (1)
The sum of absolute values of the difference gradation values of the pixels in the block was used,
Other methods may be used.

【0036】◆[撮影タイミング(第1の所定時間間
隔)、n値(n回過去及びn回未来の画像との差分を求
める場合の「n(nは、1以上の整数)」の値)の変
更]以上の説明では、第1の所定時間間隔を「1/8
秒」に固定し、nを「2」に固定した例で説明したが、
状況に応じて変更することも可能である。 [第1の所定時間間隔の変更]例えば、移動体画像を求
めた際に、移動体画像中に移動体(高輝度体)が存在し
なかった場合、第1の所定時間間隔を長くしてもよい
(例えば、1秒)。また、移動体画像中の移動体(高輝
度体)の位置に基づいた移動体(高輝度体)までの距離
が大きい(移動体が遠い)場合は、第1の所定時間間隔
を長くしてもよい。また、所定時間における移動距離か
ら求めた移動体(高輝度体)の移動速度が小さい場合
は、第1の所定時間間隔を長くしてもよい。また、逆の
場合は、第1の所定時間間隔を短くしてもよい。これに
より、移動体(高輝度体)の検出に最適なサンプリング
間隔を設定することができる。なお、第1の所定時間間
隔を変更した場合は、第1の所定時間間隔の変更に伴
い、移動速度の演算も変更する。
[Shooting timing (first predetermined time interval), n value (“n (n is an integer greater than or equal to 1)” when obtaining the difference between the image n times past and n times future)) Change] In the above description, the first predetermined time interval is "1/8".
It was explained with the example that it is fixed to "second" and n is fixed to "2".
It can be changed according to the situation. [Change of First Predetermined Time Interval] For example, when the moving body image is obtained and there is no moving body (high brightness body) in the moving body image, the first predetermined time interval is increased. (For example, 1 second). When the distance to the moving body (high brightness body) based on the position of the moving body (high brightness body) in the moving body image is large (the moving body is far), the first predetermined time interval is lengthened. Good. Further, when the moving speed of the moving body (high brightness body) obtained from the moving distance in the predetermined time is small, the first predetermined time interval may be lengthened. In the opposite case, the first predetermined time interval may be shortened. This makes it possible to set an optimum sampling interval for detecting a moving body (high-luminance body). In addition, when the first predetermined time interval is changed, the calculation of the moving speed is also changed along with the change of the first predetermined time interval.

【0037】[n値の変更]また、例えば、移動体画像
を求めた際に、移動体画像中の移動体(高輝度体)の位
置に基づいた移動体(高輝度体)までの距離が大きい
(移動体が遠い)場合は、n値を大きくしてもよい(例
えば、n=8)。あるいは、所定時間における移動距離
から求めた移動体(高輝度体)の移動速度が小さい場合
は、n値を大きくしてもよい。また、逆の場合は、n値
を小さくしてもよい。あるいは、移動体(高輝度体)の
位置と速度に応じてnの値を適切に設定するようにして
もよい。これにより、移動体(高輝度体)の検出に最適
なサンプリング間隔を設定することができる。なお、n
値を変更した場合は、n値の変更に伴い、移動速度の演
算も変更する。
[Change of n Value] Further, for example, when the moving body image is obtained, the distance to the moving body (high brightness body) is determined based on the position of the moving body (high brightness body) in the moving body image. When it is large (the moving body is far), the n value may be increased (for example, n = 8). Alternatively, when the moving speed of the moving body (high brightness body) obtained from the moving distance in a predetermined time is small, the n value may be increased. In the opposite case, the n value may be reduced. Alternatively, the value of n may be set appropriately according to the position and speed of the moving body (high brightness body). This makes it possible to set an optimum sampling interval for detecting a moving body (high-luminance body). Note that n
When the value is changed, the calculation of the moving speed is also changed with the change of the n value.

【0038】◆[移動していない高輝度体(固定高輝度
体)の除去]次に、図9を用いて、街灯等、移動してい
ないが移動体(高輝度体)として検出されてしまう物体
(本説明では、固定高輝度体と記載する)の除去方法に
ついて説明する。なお、図9は、固定高輝度体の除去方
法を判り易く説明するために、n値を「1」に設定して
いる。本発明では、所定地点(例えば、図1に示す交差
点)に接近する車両等の移動体(高輝度体)を検出し、
警報を発生させるので、固定高輝度体は移動体として検
出すべきでない。しかし、第1の所定時間間隔で撮影さ
れる各撮影画像中で「所定以上の輝度」があるため、移
動体画像中に移動体(高輝度体)として抽出される。例
えば、図9に示すように、撮影画像中に固定高輝度体
(この例では、街灯)が存在する場合、各撮影画像にて
「所定以上の輝度」がある。このため、固定高輝度体
は、各2値化画像中、各マスク画像中及び各移動体画像
中にも存在する。固定高輝度体が移動体画像中に存在す
る場合、図8に示す「(ブロック)動きベクトル」によ
り、固定高輝度体が存在するブロックの移動方向と移動
距離が検出されることになる。(実際には固定高輝度体
は移動していないので、「(ブロック)動きベクトル」
なし、と検出されるが、処理装置2の処理負荷が増加す
るので好ましくない。)そこで、「(ブロック)動きベ
クトル」を求める前に、「(ブロック)動きベクトル」
を求めるべきブロックか、求めるべきでないブロック
か、を区別する。
[Removal of High-Brightness Object (Fixed High-Brightness Object) that Has Not Moved] Next, referring to FIG. 9, it is detected as a moving object (high-brightness object) such as a street lamp that has not moved. A method of removing an object (in this description, referred to as a fixed high-intensity body) will be described. In FIG. 9, the n value is set to “1” in order to easily understand the method of removing the fixed high-intensity body. In the present invention, a moving body (high brightness body) such as a vehicle approaching a predetermined point (for example, the intersection shown in FIG. 1) is detected,
Fixed bright objects should not be detected as moving objects as they will generate an alarm. However, since each photographed image photographed at the first predetermined time interval has “brightness above a predetermined level”, it is extracted as a moving body (high-luminance body) in the moving body image. For example, as shown in FIG. 9, when a fixed high-intensity body (a streetlight in this example) is present in a captured image, there is "brightness above a predetermined level" in each captured image. Therefore, the fixed high-intensity body also exists in each binarized image, each mask image, and each moving body image. When the fixed high-intensity body exists in the moving body image, the moving direction and the moving distance of the block in which the fixed high-intensity body exists are detected by the "(block) motion vector" shown in FIG. (Actually, the fixed high-intensity body does not move, so "(block) motion vector"
None is detected, but this is not preferable because the processing load of the processing device 2 increases. ) Therefore, before obtaining the "(block) motion vector", "(block) motion vector"
Distinguish between blocks that should be obtained and blocks that should not be obtained.

【0039】図9を用いて、「(ブロック)動きベクト
ル」を求めるべきブロックか、求めるべきでないブロッ
クか、を区別する方法について説明する。図9は、図8
と同様に、求めた移動体画像を8×8のブロック(X、
Y)に分割する。そして、ブロックに分割された移動体
画像から、加算マップを求める。加算マップでは、例え
ば、移動体(高輝度体)が存在するブロックには「+
2」が割り付けられ、移動体(高輝度体)が存在しない
ブロックには「−1」が割り付けられる。なお、加算マ
ップ中で色彩を施した部分は、移動体(高輝度体)が存
在する領域を参考として示している。例えば、移動体画
像[i]から求めた加算マップ[i]では、ブロック
(1、2)、(2、1)〜(2、2)、(2、4)〜
(2、5)、(3、3)〜(3、6)、(4、3)〜
(4、4)、(5、4)〜(5、6)、(6、4)〜
(6、6)、(7、4)〜(7、6)に移動体(高輝度
体)が存在するので、当該ブロックに「+2(第1の所
定値)」を割り付け、その他のブロック(移動体が存在
しないブロック)には「−1(第2の所定値)」を割り
付ける。そして、累積マップに、各ブロック毎の累積値
(判定値)を記憶する。なお、累積マップ中で色彩を施
した部分は、固定高輝度体と判定された領域を参考とし
て示している。
A method of distinguishing between a block for which a "(block) motion vector" should be obtained and a block for which it should not be obtained will be described with reference to FIG. FIG. 9 corresponds to FIG.
In the same manner as the above, the obtained moving body image is divided into 8 × 8 blocks (X,
Y). Then, an addition map is obtained from the moving body image divided into blocks. In the addition map, for example, “+” is added to a block in which a moving body (high-luminance body) exists.
"2" is allocated, and "-1" is allocated to a block in which no moving body (high brightness body) exists. It should be noted that the colored portion in the addition map indicates the region in which the moving body (high-luminance body) exists as a reference. For example, in the addition map [i] obtained from the moving body image [i], blocks (1, 2), (2, 1) to (2, 2), (2, 4) to
(2,5), (3,3) to (3,6), (4,3) to
(4,4), (5,4) to (5,6), (6,4) to
Since (6, 6), (7, 4) to (7, 6) have moving bodies (high brightness bodies), "+2 (first predetermined value)" is assigned to the block and other blocks ( "-1 (second predetermined value)" is assigned to a block in which no moving body exists. Then, the cumulative value (judgment value) of each block is stored in the cumulative map. It should be noted that the colored portion in the cumulative map is shown by reference to the area determined to be the fixed high-intensity body.

【0040】ここで、「(ブロック)動きベクトル」を
求めるべきブロックか、求めるべきでないブロックか、
を区別する2つの方法について説明する。 [第1の方法]第1の方法は、移動体画像を分割した各
ブロックにおいて、各ブロック毎に移動体(高輝度体)
が存在している継続時間を求める方法である。第1の方
法では、加算マップと累積マップを省略してもよい。た
だし、各ブロック毎に、移動体(高輝度体)が存在した
継続時間を記憶するための継続時間マップ(図示せず)
を必要とする。継続時間が第2の所定時間以上となった
ブロックを、移動体(高輝度体)の判定から除外する。
図9の例では、ブロック(1、2)とブロック(2、
1)とブロック(2、2)の各ブロックに連続して移動
体(高輝度体)が存在している。この各ブロックにおい
て、第2の所定時間(例えば、5秒)以上、連続して移
動体(高輝度体)が存在した場合、ブロック(1、2)
とブロック(2、1)とブロック(2、2)を、「(ブ
ロック)動きベクトル」を求めるべきでないブロックと
判定する。当該ブロック以外のブロックで、移動体(高
輝度体)が存在するブロックが、「(ブロック)動きベ
クトル」を求めるべきブロックである。なお、第1の方
法では、移動体(高輝度体)が存在しなくなった場合
に、移動体(高輝度体)の判定除外から復帰(移動体の
判定に戻す)する。
Here, whether the block for which the "(block) motion vector" should be obtained or the block for which it should not be obtained,
Two methods for distinguishing between will be described. [First Method] In the first method, in each block obtained by dividing a moving body image, a moving body (high brightness body) is provided for each block.
Is a method of determining the duration of time that exists. In the first method, the addition map and the cumulative map may be omitted. However, a duration map (not shown) for storing the duration in which the moving body (high-luminance body) was present for each block
Need. A block whose duration is equal to or longer than the second predetermined time is excluded from the determination of the moving body (high brightness body).
In the example of FIG. 9, the block (1, 2) and the block (2,
The moving body (high-luminance body) continuously exists in each block of 1) and the block (2, 2). In each of these blocks, if a moving object (high brightness object) continuously exists for a second predetermined time (for example, 5 seconds) or more, the block (1, 2)
The block (2, 1) and the block (2, 2) are determined as the blocks for which the “(block) motion vector” should not be obtained. A block other than the block in which the moving body (high-luminance body) exists is a block for which the “(block) motion vector” should be obtained. In the first method, when the moving body (high-luminance body) no longer exists, the determination exclusion of the moving body (high-luminance body) is restored (returning to the determination of the moving body).

【0041】[第2の方法]第2の方法は、移動体画像
を分割した各ブロックにおいて、移動体(高輝度体)が
存在した場合に第1の所定値を加算し、移動体が存在し
ない場合に第2の所定値を減算し、その累積値(判定
値)を求める方法である。累積値(判定値)が第3の所
定値以上となった場合に、当該ブロックを移動体の判定
から除外する。図9の例では、累積マップに各ブロック
の累積値(判定値)が記憶されている。例えば、累積マ
ップ[i−1]の各ブロックの累積値(判定値)に、加
算マップ[i]の各ブロックの加算値(「+2」あるい
は「−1」)を加算すると、累積マップ[i]が得られ
る。この累積マップにおいて、累積値(判定値)が第3
の所定値(例えば、50)以上となったブロックを、移
動体の判定から除外する。また、移動体の判定除外から
の復帰(移動体の判定に戻す)は、図9中の「ブロック
毎グラフ」に示すように、ヒステリシスを設ける(この
例では、50以上で判定から除外(固定高輝度体と判
定)し、30以下で判定に戻すことを示している)こと
が好ましい。
[Second Method] In the second method, the first predetermined value is added when a moving body (high-luminance body) exists in each block obtained by dividing the moving body image, and the moving body exists. If not, the second predetermined value is subtracted and the cumulative value (judgment value) is obtained. When the cumulative value (judgment value) becomes equal to or larger than the third predetermined value, the block is excluded from the judgment of the moving body. In the example of FIG. 9, the cumulative value (judgment value) of each block is stored in the cumulative map. For example, when the addition value (“+2” or “−1”) of each block of the addition map [i] is added to the accumulation value (judgment value) of each block of the accumulation map [i−1], the accumulation map [i ] Is obtained. In this cumulative map, the cumulative value (judgment value) is the third
A block having a predetermined value of 50 or more (for example, 50) or more is excluded from the determination of the moving body. In addition, the return from the judgment exclusion of the moving object (returning to the judgment of the moving object) is provided with a hysteresis as shown in the “graph for each block” in FIG. It is shown that the object is judged to be a high-luminance body), and the judgment is returned to 30 or less).

【0042】また、累積マップ中の累積値(判定値)
は、適切な上下限値(例えば、上限値:100、下限
値:0)を設定することが好ましい。(図9は、下限:
0を設定した例である。) 第2の方法を用いて、第1の所定値、第2の所定値、第
3の所定値を適切に設定することで、点滅している固定
高輝度体、及び振動している(風等で揺れている)固定
高輝度体も移動体の判定から適切に除外することができ
る。移動体の判定から除外されたブロックは、「(ブロ
ック)動きベクトル」を求めるべきでないブロックと判
定される。また、当該ブロック以外のブロックで、移動
体が存在するブロックが、「(ブロック)動きベクト
ル」を求めるべきブロックである。なお、第1の方法及
び第2の方法ともに、第1〜第3の所定値を、状況に応
じて変更することも可能である。例えば、固定高輝度体
が存在する領域が多い場合(夕方あるいは雨天時等、乱
反射が多い場合)は、第1の所定値を小さくしたり、第
3の所定値を大きくして、固定高輝度体の判定領域を少
なくするようにすることもできる。
The cumulative value (judgment value) in the cumulative map
It is preferable to set appropriate upper and lower limit values (for example, upper limit value: 100, lower limit value: 0). (FIG. 9 shows the lower limit:
In this example, 0 is set. ) By appropriately setting the first predetermined value, the second predetermined value, and the third predetermined value using the second method, the fixed high-intensity body that is blinking, and the vibrating (the wind) Fixed high-intensity objects can be appropriately excluded from the determination of moving objects. The block excluded from the determination of the moving body is determined as the block for which the “(block) motion vector” should not be obtained. In addition, blocks other than the block in which the moving body exists are blocks for which the “(block) motion vector” should be obtained. In addition, in both the first method and the second method, the first to third predetermined values can be changed according to the situation. For example, when there are many areas where the fixed high-intensity body exists (in the evening or in the case of a lot of diffused reflection such as in rainy weather), the first predetermined value may be decreased or the third predetermined value may be increased to increase the fixed high brightness. It is also possible to reduce the body determination area.

【0043】◆[その他のノイズ成分の除去]次に、図
10を用いて、その他のノイズ成分(所定輝度以上の領
域の境界近傍または夕方、雨天時における乱反射等)の
除去方法について説明する。図10は、夕方から徐々に
暗くなり(時間[i−2])、夜間(時間[i−1]及
び[i])を経て、徐々に明るくなり(時間[i+
1])、朝を迎えた(時間[i+2])様子を示してい
る。よって、図10においては、時間[i−2]の時点
では「デイモード」であり、時間[i−1]及び時間
[i]の時点では「ナイトモード」であり、時間[i+
1]及び時間[i+2]の時点では「デイモード」であ
る。「デーモード」と「ナイトモード」の切替わりの判
定方法は、例えば、撮影画像の輝度分布が図11(A)
に近似している場合に日中(デイモード)と判定し、撮
影画像の輝度分布が図11(B)に近似している場合に
夜間(ナイトモード)と判定する。
[Removal of Other Noise Components] Next, referring to FIG. 10, a method of removing other noise components (such as diffuse reflection in the vicinity of the boundary of a region having a predetermined luminance or higher or in the evening or in rainy weather) will be described. In FIG. 10, it becomes gradually darker in the evening (time [i-2]), becomes darker gradually at night (time [i-1] and [i]) (time [i +]).
1]) and the morning (time [i + 2]). Therefore, in FIG. 10, the time [i-2] is in the "day mode", the time [i-1] and the time [i] are in the "night mode", and the time [i +
1] and time [i + 2], it is the “day mode”. The switching method between the “day mode” and the “night mode” is determined by, for example, the brightness distribution of the captured image shown in FIG.
When the brightness distribution of the photographed image is close to that in FIG. 11B, it is determined to be nighttime (night mode).

【0044】なお、図10は、その他のノイズ成分の除
去方法を判り易く説明するために、n値を「1」に設定
している。上記の固定高輝度体の除去と同様、その他の
ノイズ成分も移動体(高輝度体)として検出すべきでな
い。しかし、第1の所定時間間隔で撮影される各撮影画
像中で「所定値以上の輝度」があるため、移動体画像中
に移動体(高輝度体)として抽出される。例えば、図1
0に示すように、撮影画像中にその他のノイズ成分(所
定輝度以上の領域の境界近傍または夕方、雨天時におけ
る乱反射等)が存在する場合、その他のノイズ成分は、
撮影2値化画像(図示せず)、差分2値化画像(一部を
図示せず)、2値化画像、マスク画像及び移動体画像に
も存在する。
Note that, in FIG. 10, the n value is set to "1" in order to easily understand the method of removing other noise components. Similar to the removal of the fixed high-intensity body, other noise components should not be detected as a moving body (high-intensity body). However, since each photographed image photographed at the first predetermined time interval has "brightness equal to or higher than a predetermined value", it is extracted as a moving body (high-luminance body) in the moving body image. For example, in FIG.
As shown in 0, when other noise components (near the boundary of a region with a predetermined brightness or more, in the evening, diffuse reflection in the rain, etc.) exist in the captured image, the other noise components are
It also exists in a photographed binary image (not shown), a differential binary image (partly not shown), a binary image, a mask image, and a moving object image.

【0045】例えば、時間[i−1]の時点は、「デイ
モード」から「ナイトモード」に切替わったところであ
る。この時点では、時間[i−2]が「デイモード」で
あるため、図2に示すように、撮影2値化画像[i−
2]及び2値化画像[i−3、i−2]が存在しない。
よって、2値化画像[i−2、i−1]は、例えば、差
分2値化画像[i−2、i−1]と撮影2値化画像[i
−1]との論理和から求め、マスク画像[i−2]は、
例えば、差分2値化画像[i−3、i−2]と2値化画
像[i−2、i−1]との論理積から求める。また、差
分2値化画像[i−2、i−1]を求める場合、2値に
判定する閾値は、「デイモード」と「ナイトモード」で
切替える。例えば、当該閾値を、「デイモード」では輝
度「30」程度に設定し、「ナイトモード」では輝度
「60」程度に増加させる。「ナイトモード」の方が、
明暗の差が大きいため、閾値を上げないと差分2値化画
像にノイズが多く発生するためである。
For example, at the time [i-1], the "day mode" is switched to the "night mode". At this point in time, the time [i-2] is in the "day mode", so as shown in FIG.
2] and the binarized image [i-3, i-2] do not exist.
Therefore, the binarized image [i-2, i-1] is, for example, the difference binarized image [i-2, i-1] and the captured binarized image [i.
-1] and the mask image [i-2] is
For example, it is obtained from the logical product of the difference binary image [i-3, i-2] and the binary image [i-2, i-1]. Further, when the differential binarized image [i−2, i−1] is obtained, the threshold value for binary determination is switched between “day mode” and “night mode”. For example, the threshold is set to about "30" in the "day mode" and increased to about "60" in the "night mode". "Night mode" is better
This is because the difference between light and dark is large, and unless the threshold value is raised, a lot of noise occurs in the difference binary image.

【0046】図10に示す例では、時間[i]、時間
[i+1]、時間[i+2]の時点において、移動体画
像等にノイズが混在している様子を示している。その他
のノイズ成分が移動体画像中に存在する場合、図8に示
す「(ブロック)動きベクトル」により、その他のノイ
ズ成分が存在するブロックの移動方向と移動距離が検出
されることになる。そこで、移動体画像を求める前に、
その他のノイズ成分を除去する。
The example shown in FIG. 10 shows a state in which noise is mixed in a moving image or the like at time [i], time [i + 1], and time [i + 2]. When other noise components are present in the moving body image, the moving direction and moving distance of the block in which the other noise components are present are detected by the “(block) motion vector” shown in FIG. Therefore, before obtaining the moving image,
Remove other noise components.

【0047】ここで、移動体画像を求める前に、その他
のノイズ成分を除去する2つの方法について説明する。 [第1の方法]第1の方法は、移動体画像中において、
孤立した微小な移動体(高輝度体)をノイズとみなす方
法である。既に説明したように、本実施例で用いている
画像は、全て、明るさ(輝度)を測定する個々の画素が
整然と配列されて構成された、デジタル画像である。ま
た、移動体画像[i]は、マスク画像[i]の画素が
「0」の部分(この場合、マスク画像[i]中の白色部
分)に対応する撮影画像[i]の画素の部分を「0」に
して(この場合、白色にして)、移動体画像[i]を得
ることができる。これより、移動体画像中において、孤
立した移動体(高輝度体)であることの判定は、画素が
「0」の部分で囲まれていることを判定すればよい。ま
た、微小な移動体(高輝度体)であることの判定は、孤
立した移動体(高輝度体)を構成する画素の数を計数
し、所定の数(例えば、6)以下であることを判定すれ
ばよい。上記の方法により、移動体画像中から、孤立し
た微小な移動体(その他のノイズ成分)を除去すること
ができる。
Here, two methods for removing other noise components before obtaining the moving body image will be described. [First Method] In the first method,
This is a method in which an isolated minute moving body (high-luminance body) is regarded as noise. As described above, the images used in this embodiment are all digital images in which individual pixels for measuring brightness (luminance) are arranged in an orderly manner. In addition, the moving image [i] has a pixel portion of the captured image [i] corresponding to a portion of the mask image [i] where the pixel is “0” (in this case, a white portion in the mask image [i]). The moving object image [i] can be obtained by setting it to "0" (in this case, white). From this, in the moving body image, it can be determined that the moving body is an isolated moving body (high-luminance body) by determining that the pixel is surrounded by "0". Further, the determination as to a minute moving body (high-luminance body) is performed by counting the number of pixels forming an isolated moving body (high-luminance body), and determining that the number of pixels is a predetermined number (for example, 6) or less. Just make a decision. By the above method, an isolated minute moving object (other noise component) can be removed from the moving object image.

【0048】[第2の方法]第2の方法は、差分2値化
画像を得る処理において、差分の絶対値から「1」ある
いは「0」の2値に判定するための閾値を適切に変更
し、差分2値化画像からその他のノイズ成分を除去する
方法である。閾値を、差分2値化画像中の差分の絶対値
が閾値以上である領域(画素)の合計面積(「1」の画
素の数等)と、2値化画像の全面積(構成する全画素の
数等)との比に応じて変更する。なお、差分2値化画像
中の差分の絶対値が閾値以上である領域(画素)の合計
面積と、閾値未満である領域(画素)の合計面積との比
に応じて閾値を変更してもよい。差分2値化画像中の差
分の絶対値が閾値以上である領域(画素)の面積に基づ
いて閾値を変更する方法は、種々の方法が可能である。
[Second Method] In the second method, in the process of obtaining the binary difference image, the threshold value for judging the binary value of "1" or "0" from the absolute value of the difference is appropriately changed. However, this is a method of removing other noise components from the differential binary image. The threshold value is the total area (the number of pixels of “1”, etc.) of the area (pixels) in which the absolute value of the difference in the difference binary image is equal to or more than the threshold value, and the total area of the binarized image (all the constituent pixels (Number of etc.) and the ratio. Even if the threshold is changed according to the ratio of the total area of the regions (pixels) in which the absolute value of the difference in the difference binarized image is equal to or greater than the threshold to the total area of the regions (pixels) less than the threshold. Good. Various methods are possible for changing the threshold value based on the area of the region (pixel) in which the absolute value of the difference in the difference binarized image is equal to or larger than the threshold value.

【0049】例えば、図10において、時間[i−1]
における差分2値化画像[i−2、i−1]では、閾値
が「60」である。この例では、差分2値化画像[i−
2、i−1]にノイズ成分が残ったため、2値化画像
[i−2、i−1]にノイズ成分が残っている。例え
ば、全面積に対して、差分2値化画像中の差分の絶対値
が閾値以上である領域(画素)の合計面積の割合が第1
の所定割合以上になった場合、閾値を「70」に増加さ
せ、次回の差分2値化画像を得る処理で用いる。また、
逆に、例えば、全面積に対して、差分2値化画像中の差
分の絶対値が閾値以上である領域(画素)の合計面積の
割合が第2の所定割合未満(第1の所定割合>第2の所
定割合)になった場合、閾値を「60」に減少させ、次
回の差分2値化画像を得る処理で用いる。このように、
高輝度領域の量に応じて閾値を変更することで、ノイズ
量を低減させることが可能である。
For example, in FIG. 10, time [i-1]
In the difference binarized image [i-2, i-1] in, the threshold value is "60". In this example, the difference binarized image [i-
Since the noise component remains in [2, i-1], the noise component remains in the binarized image [i-2, i-1]. For example, the ratio of the total area of the regions (pixels) in which the absolute value of the difference in the difference binarized image is equal to or more than the threshold to the total area is the first
When the ratio becomes equal to or more than a predetermined ratio, the threshold value is increased to “70” and is used in the next process of obtaining the difference binarized image. Also,
On the contrary, for example, the ratio of the total area of the regions (pixels) in which the absolute value of the difference in the difference binarized image is equal to or more than the threshold value to the entire area is less than the second predetermined ratio (first predetermined ratio> When it reaches the second predetermined ratio), the threshold value is reduced to “60” and is used in the next process for obtaining the difference binarized image. in this way,
It is possible to reduce the noise amount by changing the threshold value according to the amount of the high brightness area.

【0050】◆[第2の実施の形態(差分を用いず、輝
度情報のみから移動体を検出)]次に、図12を用い
て、「ナイトモード」における、第2の実施の形態につ
いて説明する。第2の実施の形態では、検出領域を第1
の所定時間間隔で撮影し、撮影画像を得るとともに記憶
する。また、撮影画像は複数の領域で構成されており、
各領域は当該領域毎の輝度データを有し、撮影画像にお
ける所定輝度以上の領域のかたまり(例えば、途切れる
ことなく隣り合う領域が連続して所定輝度以上の部分)
の面積が所定値以上である部分を移動体であると検出す
る。例えば、時間[i]の時点では、処理装置2は、撮
影画像[i]を得て記憶装置3に記憶し、撮影画像
[i]において所定輝度以上(例えば、輝度「220」
以上)の領域を「1(黒色)」に設定し、所定輝度未満
の領域を「0(白色)」に設定した撮影2値化画像
[i]を求める。そして、撮影画像[i]から、撮影2
値化画像[i]の「1(黒色)」部分のみを抽出した移
動体画像[i]を求める。そして、孤立した部分で且つ
所定面積以上(例えば、画素数「100」以上)の領域
(かたまりの部分)を移動体と判定する。なお、ノイズ
成分、固定高輝度体の除去、「動きベクトル」等の処理
方法は、同様であるので省略する。このように、第2の
実施の形態では、第1の実施の形態と比較して、より容
易に移動体画像を得ることができる。
[Second Embodiment (A Moving Object is Detected Only from Luminance Information Without Using Difference)] Next, a second embodiment in the "night mode" will be described with reference to FIG. To do. In the second embodiment, the detection area is set to the first
The images are taken at predetermined time intervals, and the taken images are obtained and stored. In addition, the captured image is composed of multiple areas,
Each area has brightness data for each area, and is a cluster of areas having a predetermined brightness or higher in a captured image (for example, a portion where adjacent areas are continuously higher than the predetermined brightness without interruption).
A portion having an area equal to or larger than a predetermined value is detected as a moving body. For example, at time [i], the processing device 2 obtains the captured image [i] and stores the captured image [i] in the storage device 3, and the captured image [i] has a predetermined brightness or higher (for example, the brightness “220”).
The above area) is set to “1 (black)”, and the area less than the predetermined brightness is set to “0 (white)” to obtain the photographed binary image [i]. Then, from the photographed image [i], the photograph 2
The moving body image [i] is obtained by extracting only the "1 (black)" portion of the binarized image [i]. Then, a region (lump portion) that is an isolated portion and has a predetermined area or more (for example, the number of pixels “100” or more) is determined as a moving body. The noise component, the removal of the fixed high-intensity body, and the processing method of “motion vector” are the same, and the description thereof will be omitted. As described above, in the second embodiment, the moving body image can be obtained more easily than in the first embodiment.

【0051】なお、この場合は、時間[i]に撮影した
撮影画像[i]に対応する移動体画像[i]は、時間
[i]の時点に抽出される。また、「デイモード」から
「ナイトモード」への切替わり時、及び「ナイトモー
ド」から「デイモード」への切替わり時は、差分2値化
画像の有無、移動体画像中の移動体(移動体自体の場合
と、高輝度体の場合)が異なるので、例えば、切替わり
時のみは、動きベクトルの検出等を実行しない。
In this case, the moving body image [i] corresponding to the photographed image [i] photographed at the time [i] is extracted at the time [i]. In addition, when switching from the “day mode” to the “night mode” and when switching from the “night mode” to the “day mode”, the presence / absence of the differential binarized image, the moving object in the moving object image ( Since the case of the moving body itself and the case of the high-luminance body are different, for example, the detection of the motion vector is not executed only at the time of switching.

【0052】◆[車両接近警報装置への適用]以上の移
動体検出方法により、「ナイトモード」において、求め
た移動体(高輝度体)が、所定の大きさ(面積)以上で
ある場合、当該移動体(高輝度体)を車両であると認識
する。そして、少なくとも2つの移動体画像に基づい
て、認識した車両の「(移動体)動きベクトル」を求
め、「(移動体)動きベクトル」の方向、速度、位置に
基づいて、警報装置から警報を発生させる。例えば、図
8中の動きベクトル平面[i−1、i]において、
「(移動体)動きベクトル」が、所定地点(例えば、交
差点であり、この場合は、動きベクトル平面[i−1、
i]の下端)の方向に向かっている(接近している)場
合、警報を発生する。あるいは、所定地点(この場合
は、動きベクトル平面[i−1、i]の下端)の方向に
向かっている(接近している)「(移動体)動きベクト
ル」の大きさが、所定の大きさより大きい場合(速度が
大きい場合)、警報を発生する。あるいは、所定地点
(この場合は、動きベクトル平面[i−1、i]の下
端)の方向に向かっている(接近している)「(移動
体)動きベクトル」の位置が、所定の位置に到達した場
合(例えば、ブロック(5、1)〜ブロック(8、8)
のいずれかの位置に到達した場合)、警報を発生する。
[Application to Vehicle Approach Warning Device] When the moving body (high brightness body) obtained in the “night mode” is larger than a predetermined size (area) by the above moving body detection method, The moving body (high brightness body) is recognized as a vehicle. Then, the "(moving body) motion vector" of the recognized vehicle is obtained based on at least two moving body images, and an alarm is issued from the alarm device based on the direction, speed, and position of the "(moving body) motion vector". generate. For example, in the motion vector plane [i-1, i] in FIG.
The “(moving body) motion vector” is a predetermined point (for example, an intersection, and in this case, the motion vector plane [i−1,
If it is moving toward (approaching) the bottom edge of i], an alarm is issued. Alternatively, the size of the “(moving object) motion vector” that is (approaching) toward the predetermined point (in this case, the lower end of the motion vector plane [i-1, i]) is the predetermined size. If it is larger than that (when the speed is high), an alarm is generated. Alternatively, the position of the “(moving object) motion vector” heading (approaching) in the direction of the predetermined point (in this case, the lower end of the motion vector plane [i-1, i]) becomes the predetermined position. When arrived (for example, block (5, 1) to block (8, 8)
If either position is reached), an alarm is generated.

【0053】本発明の移動体検出方法及び移動体検出装
置は、本実施の形態で説明した処理あるいは構成に限定
されず、本発明の要旨を変更しない範囲で種々の変更、
追加、削除が可能である。例えば、移動体検出装置の構
成は、図1に限定されず、種々の構成が可能である。本
発明は、道路上を走行する移動体(車両)の検出に限定
されず、種々の移動体の検出に適用することが可能であ
る。本実施の形態では、輝度情報を用いて説明したが、
色彩情報を用いることも可能である。(類似した色彩情
報のかたまりを移動体と判別することも可能である。)
また、本実施の形態で説明した「デイモード」と「ナイ
トモード」の切替え判定方法及び切替え時の処理方法
は、本実施の形態の説明に限定されず、種々の方法が可
能である。本実施の形態の説明に用いた数値は一例であ
り、この数値に限定されるものではない。本実施の形態
で示した各画像、グラフ等は一例であり、これらの画
像、グラフ等に限定されるものではない。また、以上
(≧)、以下(≦)、より大きい(>)、未満(<)等
は、等号を含んでも含まなくてもよい。
The moving body detection method and the moving body detection apparatus of the present invention are not limited to the processing or the configuration described in the present embodiment, and various modifications can be made without departing from the scope of the present invention.
It can be added and deleted. For example, the configuration of the moving body detection device is not limited to that shown in FIG. 1, and various configurations are possible. The present invention is not limited to the detection of a moving body (vehicle) traveling on a road, but can be applied to the detection of various moving bodies. Although the present embodiment has been described using the luminance information,
It is also possible to use color information. (It is also possible to distinguish a similar group of color information as a moving body.)
Further, the method for determining whether to switch between the “day mode” and the “night mode” and the processing method at the time of switching described in the present embodiment are not limited to the description of the present embodiment, and various methods are possible. The numerical values used in the description of the present embodiment are examples, and the present invention is not limited to these numerical values. The images, graphs, etc. shown in the present embodiment are examples, and the present invention is not limited to these images, graphs, etc. Further, the above (≧), the following (≦), the greater (>), the less than (<) and the like may or may not include an equal sign.

【0054】[0054]

【発明の効果】以上説明したように、請求項1〜6に記
載の移動体検出方法あるいは請求項7〜9に記載の移動
体検出装置あるいは請求項10〜11に記載の車両接近
警報装置を用いれば、光量が少ない夜間等であっても精
度良く移動体(車両等)を検出できる。
As described above, the moving object detecting method according to any one of claims 1 to 6, the moving object detecting device according to any one of claims 7 to 9 or the vehicle approach warning device according to any one of claims 10 to 11 is provided. If used, a moving object (vehicle or the like) can be accurately detected even at night when the amount of light is small.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の移動体検出装置の一実施の形態の概略
構成図である。
FIG. 1 is a schematic configuration diagram of an embodiment of a moving body detection device of the present invention.

【図2】光量が多い日中等(デイモード)の場合におけ
る移動体検出方法の検出原理を説明する図である。
FIG. 2 is a diagram illustrating a detection principle of a moving object detection method in the case of daytime or the like (day mode) where the light amount is large.

【図3】本発明の、光量が少ない夜間等(ナイトモー
ド)の場合における、移動体検出方法の検出原理を説明
する図である。
FIG. 3 is a diagram for explaining the detection principle of the moving body detection method in the case of nighttime when the amount of light is small (night mode) according to the present invention.

【図4】図3の処理を、第1の所定時間間隔で、連続的
に実行していく様子を示す図である。
FIG. 4 is a diagram showing how the process of FIG. 3 is continuously executed at first predetermined time intervals.

【図5】2つの撮影画像の差分から差分2値化画像を求
める方法について説明する図である。
FIG. 5 is a diagram illustrating a method of obtaining a difference binarized image from a difference between two captured images.

【図6】移動体が存在する撮影画像が少ない例を示す図
である。
FIG. 6 is a diagram showing an example in which there are few captured images in which a moving body exists.

【図7】低速の移動体を精度よく検出するとともに、高
速の移動体をも精度よく検出する方法を説明する図であ
る。
FIG. 7 is a diagram illustrating a method of accurately detecting a low-speed moving body and a high-speed moving body with high accuracy.

【図8】求めた移動体画像に基づいて移動体の移動方向
及び移動速度を求める方法について説明する図である。
FIG. 8 is a diagram illustrating a method of obtaining a moving direction and a moving speed of a moving body based on the obtained moving body image.

【図9】移動していないが移動体(高輝度体)として検
出されてしまう物体(固定高輝度体)の除去方法につい
て説明する図である。
FIG. 9 is a diagram illustrating a method of removing an object (fixed high-intensity body) that is not moving but is detected as a moving body (high-intensity body).

【図10】その他のノイズ成分の除去方法について説明
する図である。
FIG. 10 is a diagram illustrating another method of removing a noise component.

【図11】輝度分布の例を示す図である。FIG. 11 is a diagram showing an example of a luminance distribution.

【図12】本発明の、光量が少ない夜間等(ナイトモー
ド)の場合における、第2の実施の形態を説明する図で
ある。
FIG. 12 is a diagram for explaining a second embodiment of the present invention in the case of nighttime or the like (night mode) where the amount of light is small.

【符号の説明】[Explanation of symbols]

1 撮影装置 2 処理装置 3 記憶装置 4 警報装置 1 Imaging device 2 processing equipment 3 storage devices 4 Alarm device

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 7/60 G06T 7/60 150J G08G 1/056 G08G 1/056 // B60R 21/00 628 B60R 21/00 628B Fターム(参考) 5B057 AA16 BA29 BA30 CA08 CE12 DA07 DB09 DC04 DC22 5H180 BB09 BB15 CC04 DD02 GG09 5L096 AA06 BA04 DA03 FA59 FA69 GA08 GA19 GA51 HA04 ─────────────────────────────────────────────────── ─── Continuation of front page (51) Int.Cl. 7 Identification code FI theme code (reference) G06T 7/60 G06T 7/60 150J G08G 1/056 G08G 1/056 // B60R 21/00 628 B60R 21 / 00 628B F term (reference) 5B057 AA16 BA29 BA30 CA08 CE12 DA07 DB09 DC04 DC22 5H180 BB09 BB15 CC04 DD02 GG09 5L096 AA06 BA04 DA03 FA59 FA69 GA08 GA19 GA51 HA04

Claims (11)

【特許請求の範囲】[Claims] 【請求項1】 検出領域を第1の所定時間間隔で撮影
し、撮影画像を得るとともに記憶し、 撮影画像は複数の領域で構成されており、各領域は当該
領域毎の輝度データを有し、 撮影画像における所定輝度以上の領域のかたまりの面積
が所定値以上である部分を移動体であると検出する、移
動体検出方法。
1. A detection region is photographed at a first predetermined time interval, a photographed image is obtained and stored, and the photographed image is composed of a plurality of regions, and each region has luminance data for each region. A moving body detection method, which detects a portion in which a lumped area of a region having a predetermined luminance or more in a captured image is a predetermined value or more as a moving body.
【請求項2】 請求項1に記載の移動体検出方法であっ
て、 時点[i]における撮影画像[i]の各領域を、所定輝
度以上の領域と所定輝度未満の領域の2種類の領域に分
類した撮影2値化画像[i]を求め、 求めた撮影2値化画像[i]と撮影画像[i]とに基づ
いて、時点[i]に対応する移動体画像[i]を求め、
求めた移動体画像[i]の情報に基づいて、移動体を検
出する、移動体検出方法。
2. The moving object detection method according to claim 1, wherein each region of the photographed image [i] at time [i] has two types of regions, a region having a predetermined brightness or more and a region having a predetermined brightness or less. The photographed binary image [i] classified into the above is obtained, and the moving body image [i] corresponding to the time point [i] is obtained based on the obtained photographed binary image [i] and the photographed image [i]. ,
A moving body detection method for detecting a moving body based on the obtained information of the moving body image [i].
【請求項3】 検出領域を第1の所定時間間隔で撮影
し、撮影画像を得るとともに記憶し、 撮影画像は複数の領域で構成されており、各領域は当該
領域毎の輝度データを有し、 時点[i]における撮影画像[i]と、撮影画像[i]
に対してn回過去の撮影画像[i−n](nは、1以上
の整数)と、撮影画像[i]に対してn回未来の撮影画
像[i+n]とを用い、 撮影画像[i−n]と撮影画像[i]との差分に基づい
て2値化した差分2値化画像[i−n、i]と、撮影画
像[i]と撮影画像[i+n]との差分に基づいて2値
化した差分2値化画像[i、i+n]を求め、 撮影画像[i−n]、撮影画像[i]及び撮影画像[i
+n]の各々に対して各領域を、所定輝度以上の領域と
所定輝度未満の領域の2種類の領域に分類した撮影2値
化画像[i−n]、撮影2値化画像[i]及び撮影2値
化画像[i+n]を求め、 求めた差分2値化画像[i−n、i]と撮影2値化画像
[i−n]と撮影2値化画像[i]とに基づいた2値化
画像[i−n、i]と、求めた差分2値化画像[i、i
+n]と撮影2値化画像[i]と撮影2値化画像[i+
n]とに基づいた2値化画像[i、i+n]とを求め、 求めた2値化画像[i−n、i]と2値化画像[i、i
+n]とに基づいて、時点[i]に対応するマスク画像
[i]を求め、求めたマスク画像[i]と撮影画像
[i]とに基づいて、時点[i]に対応する移動体画像
[i]を求め、求めた移動体画像[i]の情報に基づい
て、移動体を検出する、移動体検出方法。
3. A detection area is photographed at a first predetermined time interval, a photographed image is obtained and stored, and the photographed image is composed of a plurality of areas, and each area has luminance data for each area. , The captured image [i] at time [i] and the captured image [i]
For the captured image [i] (n is an integer greater than or equal to 1) and the captured image [i + n] n times in the future for the captured image [i], the captured image [i -N] based on the difference between the captured image [i] and the binarized image [i-n, i] based on the difference between the captured image [i] and the captured image [i + n] The binarized difference binary image [i, i + n] is obtained, and the captured image [i-n], the captured image [i], and the captured image [i
+ N], each region is classified into two types of regions, that is, a region having a luminance equal to or higher than a predetermined luminance and a region having a luminance lower than the predetermined luminance, a photographed binarized image [i-n], a photographed binarized image [i], and A photographed binarized image [i + n] is obtained, and 2 based on the obtained difference binarized image [i-n, i], photographed binarized image [i-n], and photographed binarized image [i]. The binarized image [i-n, i] and the calculated difference binarized image [i, i
+ N] and the captured binary image [i] and the captured binary image [i +
n] and the binarized image [i, i + n], and the binarized image [i−n, i] and the binarized image [i, i]
+ N], the mask image [i] corresponding to the time point [i] is obtained, and the moving body image corresponding to the time point [i] is obtained based on the obtained mask image [i] and the captured image [i]. A moving body detection method of obtaining [i] and detecting the moving body based on the obtained information of the moving body image [i].
【請求項4】 請求項3に記載の移動体検出方法であっ
て、 差分2値化画像を求める場合、2つの撮影画像の対応す
る領域の輝度データの差分の絶対値が閾値以上である領
域と、閾値未満である領域の2種類の領域に分類して差
分2値化画像を求め、 撮影画像の領域の輝度分布に基づいて閾値を変更する、
移動体検出方法。
4. The moving object detection method according to claim 3, wherein when a difference binarized image is obtained, an area in which an absolute value of a difference between brightness data of corresponding areas of two captured images is equal to or more than a threshold value. Then, the difference binarized image is obtained by classifying into two types of regions that are less than the threshold value, and the threshold value is changed based on the brightness distribution of the region of the captured image,
Moving object detection method.
【請求項5】 請求項3または4に記載の移動体検出方
法であって、 検出した移動体の位置と速度の少なくとも一方に基づい
て、nの値を変更する、移動体検出方法。
5. The moving body detection method according to claim 3, wherein the value of n is changed based on at least one of the detected position and speed of the moving body.
【請求項6】 請求項1〜5のいずれかに記載の移動体
検出方法であって、 移動体を検出した場合は第1の所定時間間隔を短くし、
移動体を検出しなかった場合は第1の所定時間間隔を長
くする、移動体検出方法。
6. The moving body detection method according to claim 1, wherein when the moving body is detected, the first predetermined time interval is shortened,
A method of detecting a moving body, wherein the first predetermined time interval is lengthened when the moving body is not detected.
【請求項7】 撮影装置と処理装置と記憶装置とを備
え、 撮影装置は、第1の所定時間間隔で、検出領域の画像を
撮影し、 処理装置は、第1の所定時間間隔で、撮影された画像を
記憶装置に記憶するとともに、請求項1〜6のいずれか
に記載の移動体検出方法を用いて移動体を検出する、移
動体検出装置。
7. An imaging device, a processing device, and a storage device, wherein the imaging device captures an image of the detection region at a first predetermined time interval, and the processing device captures an image at a first predetermined time interval. A moving body detection device that stores the captured image in a storage device and detects the moving body using the moving body detection method according to any one of claims 1 to 6.
【請求項8】 撮影装置と処理装置と記憶装置と警報装
置とを備え、 撮影装置は、第1の所定時間間隔で、検出領域の画像を
撮影し、 処理装置は、第1の所定時間間隔で、撮影された画像を
記憶装置に記憶するとともに、請求項2〜6のいずれか
に記載の移動体検出方法を用いて移動体を検出し、少な
くとも2つの移動体画像に基づいて移動体の位置と移動
方向を求め、移動体が所定地点に接近している場合、警
報装置から警報を発生させる、移動体検出装置。
8. An imaging device, a processing device, a storage device, and an alarm device are provided, the imaging device captures an image of the detection region at a first predetermined time interval, and the processing device has a first predetermined time interval. Then, the captured image is stored in the storage device, the moving body is detected by using the moving body detection method according to claim 2, and the moving body is detected based on at least two moving body images. A moving body detection device which obtains an alarm from a warning device when a moving body is approaching a predetermined point by obtaining a position and a moving direction.
【請求項9】 請求項7または8に記載の移動体検出装
置であって、 電源として、交流電源あるいは太陽電池の少なくとも一
方を具備する、移動体検出装置。
9. The moving body detection device according to claim 7, further comprising at least one of an AC power supply and a solar cell as a power supply.
【請求項10】 撮影装置と処理装置と記憶装置と警報
装置とを備え、 撮影装置は、第1の所定時間間隔で、検出領域の画像を
撮影し、 処理装置は、第1の所定時間間隔で、撮影された画像を
記憶装置に記憶するとともに、請求項2〜6のいずれか
に記載の移動体検出方法を用いて移動体を検出し、検出
した移動体の大きさに基づいて移動体が車両であるか否
かを判定し、少なくとも2つの移動体画像に基づいて、
判定した車両の位置と移動方向を求め、当該車両が所定
地点に接近している場合、警報装置から警報を発生させ
る、車両接近警報装置。
10. An imaging device, a processing device, a storage device, and an alarm device, wherein the imaging device captures an image of the detection region at a first predetermined time interval, and the processing device has a first predetermined time interval. Then, the captured image is stored in a storage device, the moving body is detected by using the moving body detecting method according to claim 2, and the moving body is detected based on the size of the detected moving body. Is a vehicle, and based on at least two moving body images,
A vehicle approach warning device that obtains the determined position and moving direction of a vehicle and issues an alarm from an alarm device when the vehicle is approaching a predetermined point.
【請求項11】 請求項10に記載の車両接近警報装置
であって、 電源として、交流電源あるいは太陽電池の少なくとも一
方を具備する、車両接近警報装置。
11. The vehicle approach warning device according to claim 10, comprising at least one of an AC power supply and a solar battery as a power supply.
JP2001394755A 2001-12-26 2001-12-26 Moving object detection method and moving object detection apparatus Expired - Fee Related JP3857129B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001394755A JP3857129B2 (en) 2001-12-26 2001-12-26 Moving object detection method and moving object detection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001394755A JP3857129B2 (en) 2001-12-26 2001-12-26 Moving object detection method and moving object detection apparatus

Publications (2)

Publication Number Publication Date
JP2003196786A true JP2003196786A (en) 2003-07-11
JP3857129B2 JP3857129B2 (en) 2006-12-13

Family

ID=27601384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001394755A Expired - Fee Related JP3857129B2 (en) 2001-12-26 2001-12-26 Moving object detection method and moving object detection apparatus

Country Status (1)

Country Link
JP (1) JP3857129B2 (en)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005252657A (en) * 2004-03-04 2005-09-15 Nikon Corp Electronic still camera
JP2007129277A (en) * 2005-10-31 2007-05-24 Fujitsu Ltd Image processor
JP2010103612A (en) * 2008-10-21 2010-05-06 Nikon Corp Electronic camera and image processing program
JP2010122936A (en) * 2008-11-20 2010-06-03 Seiko Epson Corp Sensing circuit, display and electronic apparatus
JP2011028371A (en) * 2009-07-22 2011-02-10 Fujitsu Ltd Moving body detecting device and moving body detecting method
US8179442B2 (en) 2005-05-26 2012-05-15 Sony Corporation Imaging device and method for performing surveillance by infrared radiation measurement
US8548200B2 (en) 2010-02-12 2013-10-01 Denso Corporation Lane-marker recognition system with improved recognition-performance
JP2014164524A (en) * 2013-02-25 2014-09-08 East Nippon Expressway Co Ltd Vehicle accident prediction (dangerous traveling vehicle detection) device
JP2015207212A (en) * 2014-04-22 2015-11-19 サクサ株式会社 Vehicle detection device and system, and program
JP2016164745A (en) * 2015-03-06 2016-09-08 富士通テン株式会社 Obstacle detection device and obstacle detection method
CN110688907A (en) * 2019-09-04 2020-01-14 火丁智能照明(广东)有限公司 Method and device for identifying object based on road light source at night
JP2020005838A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device
JP2020005827A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device
JP2020005837A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0652485A (en) * 1992-07-28 1994-02-25 Nippon Signal Co Ltd:The Dangerous traffic event detecting method
JPH06276524A (en) * 1993-03-19 1994-09-30 Toyota Motor Corp Device for recognizing vehicle running in opposite direction
JPH08185521A (en) * 1994-12-28 1996-07-16 Clarion Co Ltd Mobile object counter
JPH08263770A (en) * 1995-03-23 1996-10-11 Yuichi Goto Traffic alarm device
JPH11284997A (en) * 1998-03-31 1999-10-15 Oki Electric Ind Co Ltd Traveling object sensing device
JP2001143197A (en) * 1999-11-10 2001-05-25 Nippon Telegr & Teleph Corp <Ntt> Roadside device, device and method for preventing collision of vehicles as they passing by and recording medium
JP2001167282A (en) * 1999-12-10 2001-06-22 Toshiba Corp Device and method for extracting moving object

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0652485A (en) * 1992-07-28 1994-02-25 Nippon Signal Co Ltd:The Dangerous traffic event detecting method
JPH06276524A (en) * 1993-03-19 1994-09-30 Toyota Motor Corp Device for recognizing vehicle running in opposite direction
JPH08185521A (en) * 1994-12-28 1996-07-16 Clarion Co Ltd Mobile object counter
JPH08263770A (en) * 1995-03-23 1996-10-11 Yuichi Goto Traffic alarm device
JPH11284997A (en) * 1998-03-31 1999-10-15 Oki Electric Ind Co Ltd Traveling object sensing device
JP2001143197A (en) * 1999-11-10 2001-05-25 Nippon Telegr & Teleph Corp <Ntt> Roadside device, device and method for preventing collision of vehicles as they passing by and recording medium
JP2001167282A (en) * 1999-12-10 2001-06-22 Toshiba Corp Device and method for extracting moving object

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005252657A (en) * 2004-03-04 2005-09-15 Nikon Corp Electronic still camera
US8179442B2 (en) 2005-05-26 2012-05-15 Sony Corporation Imaging device and method for performing surveillance by infrared radiation measurement
JP2007129277A (en) * 2005-10-31 2007-05-24 Fujitsu Ltd Image processor
JP4678649B2 (en) * 2005-10-31 2011-04-27 富士通株式会社 Image processing device
JP2010103612A (en) * 2008-10-21 2010-05-06 Nikon Corp Electronic camera and image processing program
JP2010122936A (en) * 2008-11-20 2010-06-03 Seiko Epson Corp Sensing circuit, display and electronic apparatus
JP2011028371A (en) * 2009-07-22 2011-02-10 Fujitsu Ltd Moving body detecting device and moving body detecting method
US8548200B2 (en) 2010-02-12 2013-10-01 Denso Corporation Lane-marker recognition system with improved recognition-performance
JP2014164524A (en) * 2013-02-25 2014-09-08 East Nippon Expressway Co Ltd Vehicle accident prediction (dangerous traveling vehicle detection) device
JP2015207212A (en) * 2014-04-22 2015-11-19 サクサ株式会社 Vehicle detection device and system, and program
JP2016164745A (en) * 2015-03-06 2016-09-08 富士通テン株式会社 Obstacle detection device and obstacle detection method
JP2020005838A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device
JP2020005827A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device
JP2020005837A (en) * 2018-07-06 2020-01-16 株式会社ユニバーサルエンターテインメント Game machine and game device
JP7078474B2 (en) 2018-07-06 2022-05-31 株式会社ユニバーサルエンターテインメント Gaming machines and equipment for gaming
JP7093248B2 (en) 2018-07-06 2022-06-29 株式会社ユニバーサルエンターテインメント Gaming machines and equipment for gaming
JP7093253B2 (en) 2018-07-06 2022-06-29 株式会社ユニバーサルエンターテインメント Gaming machines and equipment for gaming
CN110688907A (en) * 2019-09-04 2020-01-14 火丁智能照明(广东)有限公司 Method and device for identifying object based on road light source at night
CN110688907B (en) * 2019-09-04 2024-01-23 火丁智能照明(广东)有限公司 Method and device for identifying object based on night road light source

Also Published As

Publication number Publication date
JP3857129B2 (en) 2006-12-13

Similar Documents

Publication Publication Date Title
EP1962226B1 (en) Image recognition device for vehicle and vehicle head lamp controller and method of controlling head lamps
US20060215882A1 (en) Image processing apparatus and method, recording medium, and program
JP3857129B2 (en) Moving object detection method and moving object detection apparatus
CN104050620B (en) Body detection device
CN113246846B (en) Vehicle light control method and device and vehicle
US20120203427A1 (en) Method and device for the distance-based debouncing of light-characteristic changes,
JP5547160B2 (en) Vehicle periphery monitoring device
JP4807354B2 (en) Vehicle detection device, vehicle detection system, and vehicle detection method
CN106778534B (en) Method for identifying ambient light during vehicle running
JP2014153167A (en) Object recognition device, object recognition method, and object recognition program
CN108357418A (en) A kind of front truck driving intention analysis method based on taillight identification
JP2012240530A (en) Image processing apparatus
CN106915295A (en) The control method and device of automobile front lamp state
CN106218492A (en) One running light automatic switching control equipment at night and changing method
CN113438779A (en) Method for triggering street lamp illumination intensity adjustment based on image
CN104008518B (en) Body detection device
EP2986086A1 (en) Road lighting control device
JP2005318408A (en) Vehicle surrounding monitoring apparatus and method
JP4972116B2 (en) Vehicle periphery monitoring device
Sasaki et al. Development of ranging method for inter-vehicle distance using visible light communication and image processing
JP2007076428A (en) Head lamp system
CN102779272B (en) A kind of changing method of vehicle detection mode
JP5056679B2 (en) Night view system
JP2005308437A (en) Snow detection system
JP2003173435A (en) Moving body detecting method and moving body detecting device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050802

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060913

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130922

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140922

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees