JP2002218452A - Method and device for monitoring moving object - Google Patents

Method and device for monitoring moving object

Info

Publication number
JP2002218452A
JP2002218452A JP2001010829A JP2001010829A JP2002218452A JP 2002218452 A JP2002218452 A JP 2002218452A JP 2001010829 A JP2001010829 A JP 2001010829A JP 2001010829 A JP2001010829 A JP 2001010829A JP 2002218452 A JP2002218452 A JP 2002218452A
Authority
JP
Japan
Prior art keywords
image
difference
moving object
images
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001010829A
Other languages
Japanese (ja)
Other versions
JP3456972B2 (en
Inventor
Masayuki Enomoto
雅幸 榎本
Takao Kanamaru
孝夫 金丸
Nobunao Nagai
信尚 永井
Masayuki Mitsue
雅幸 三津江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kawasaki Heavy Industries Ltd
Original Assignee
Kawasaki Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kawasaki Heavy Industries Ltd filed Critical Kawasaki Heavy Industries Ltd
Priority to JP2001010829A priority Critical patent/JP3456972B2/en
Publication of JP2002218452A publication Critical patent/JP2002218452A/en
Application granted granted Critical
Publication of JP3456972B2 publication Critical patent/JP3456972B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a method and a device for detecting a relatively slow moving object within a video where a large quantity of noise that fast changes occurs. SOLUTION: Photographed images of a target area are sequentially stored as much as the prescribed number of images in equal space with the latest photographed image stored first, a first difference image DI1 composed of the difference between the stored latest photographed image It and its adjacent photographed image It-1 and a second difference image DIn composed of the difference between the latest photographed image It and a photographed image It-n away in prescribed space are formed, and a composite image SIt is formed to be defined as an intermediate image by performing image subtraction of the first difference image DI1 from an image obtained by multiplying an image obtained by performing image addition of a previously calculated intermediate image SIt-1 to the second difference image DIn by an attenuation coefficient (a). A binarized image BIt is subsequently obtained by binarizing the calculated composite image SIt by using a prescribed threshold during repeating the same process, and when a region being larger than a prescribed area is detected from the video of the binarized image, the region is reported.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、移動体を自動的に
判別して移動状態を監視する方法と装置に関し、特に水
上を移動する船舶を自動的に検知する監視方法および装
置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method and apparatus for automatically determining a moving object and monitoring a moving state, and more particularly to a monitoring method and apparatus for automatically detecting a ship moving on water.

【0002】[0002]

【従来の技術】特に、港湾やその近海あるいは関門など
においては、貨物船や漁船など商用船舶の往来が多く、
海上交通安全の立場から航行船の監視をする必要があ
る。たとえば、港湾を管理する者は目視とTVカメラを
併用して入出港する船舶を監視するが、定時から外れて
航行する船舶も多く、また船舶数が著しく少ない時間帯
にもに落ちの無いように監視する必要があるので、管理
者の負荷が大きい。
2. Description of the Related Art Commercial vessels such as freighters and fishing boats often come and go, especially in harbors, near seas, and barriers.
It is necessary to monitor the sailing vessels from the viewpoint of maritime traffic safety. For example, port managers use both visual and TV cameras to monitor vessels entering and leaving the port, but many vessels sail outside of the regular time, and make sure that there is no drop during times when the number of vessels is extremely small. Monitoring is necessary, so the load on the administrator is large.

【0003】管理者の負担を小さくするために、航行す
る船舶を自動的に検出して警報する監視装置が利用でき
れば便利である。撮影画像を用いて移動体を認識する方
法として、移動体が存在しない背景画像を作成しておい
て計測画像との差分を取ることにより移動体を検出する
方法や、一定時間間隔をおいて撮影した画像の差分を取
ることにより画像中で移動した部分を検出して表示する
方法が知られている。しかし、背景画像を使用する方法
は、室内など定常的な背景を有する環境では有効に作動
するが、日照変化する野外や背景となる風景が時間変化
する環境では役に立たないので、移動する船舶を検出す
るためには利用できない。
[0003] In order to reduce the burden on the administrator, it would be convenient if a monitoring device that automatically detects and alerts a navigating ship can be used. As a method of recognizing a moving object using a captured image, a method of creating a background image in which no moving object exists and detecting the moving object by taking a difference from a measurement image, or a method of photographing at a fixed time interval There is known a method of detecting and displaying a moved portion in an image by calculating a difference between the images. However, the method using a background image works effectively in an environment with a steady background, such as indoors, but it is not useful in an environment where the sunshine changes or the background scenery changes with time. Not available to do.

【0004】一方、時間間隔をおいた画像の差分を取る
方法は環境変化がある野外などでも利用できる。この方
法を船舶監視に適用したものとして、たとえば特開平7
−65299に、港湾または河川の水面に対して設定し
た観測エリアをテレビカメラで撮影し、適当な時間間隔
で取り込んだビデオ画像データを2値化処理した上で隣
接時間毎に逐次差分処理を行い、さらに得られた差分画
像の隣同士について論理積を取ることにより両者に共通
な部分を抽出して移動体を検出し、その重心位置を追跡
するようにした水面監視システムが記載されている。
On the other hand, a method of obtaining a difference between images at time intervals can be used even in an outdoor environment where there is an environmental change. As an application of this method to ship monitoring, see, for example,
At -65299, the observation area set for the water surface of the port or river was photographed with a TV camera, and the video image data captured at appropriate time intervals was binarized, and then successively subtracted for each adjacent time. Further, there is described a water surface monitoring system in which a logical product is obtained between adjacent obtained difference images to extract a portion common to the two and detect a moving body and track the position of the center of gravity.

【0005】しかし、画像差分を利用した検出方法で
は、背景に明度変化するものが存在すると差分画像中の
ノイズとなって移動体を正しく抽出することができな
い。特に水面上の移動体を監視対象とするときには、太
陽が水面で反射したり水面が波立って画面中に高速で変
化する明度差の大きな背景ノイズが発生するため、船舶
などの移動体のみを画像から抽出することがなかなか難
しい。上記公報にはノイズの発生を抑制するため撮影時
間間隔をできるだけ短くする旨の言及がある。明度ノイ
ズが2枚の連続撮影画像中に写し込まれていれば相殺に
より消去できるからである。一方、時間間隔を短くする
と船舶の移動を捉えることが困難になるので、船舶の画
像の重なりをも考慮した結果として0.2〜0.3秒間
各毎に撮影するとされている。しかし、特に出入港管理
など水面を航行する船舶を遠距離から撮影して広範囲に
監視するような場合は、この程度の撮影間隔では商用船
舶など比較的低速な船舶移動を検出することが困難であ
る。
However, in the detection method using the image difference, if there is an object whose brightness changes in the background, it becomes noise in the difference image and the moving object cannot be correctly extracted. Especially when monitoring moving objects on the water surface, the sun reflects on the surface of the water or the surface of the water undulates, causing background noise with a large brightness difference that changes at high speed in the screen. It is very difficult to extract from images. The above-mentioned publication discloses that the photographing time interval is made as short as possible in order to suppress the generation of noise. This is because if the brightness noise is captured in two consecutively shot images, it can be eliminated by canceling. On the other hand, if the time interval is shortened, it becomes difficult to catch the movement of the ship, so that it is said that the images are taken every 0.2 to 0.3 seconds as a result of considering the overlap of the images of the ship. However, when monitoring vessels over a long distance by navigating the surface of the water, such as port departure and entry control, it is difficult to detect relatively low-speed movement of commercial vessels such as commercial vessels at such an interval. is there.

【0006】[0006]

【発明が解決しようとする課題】そこで、本発明が解決
しようとする課題は、高速変化するノイズが多量に発生
する映像中から比較的低速の移動体を検出する方法を提
供することであり、特に水面を移動する船舶を検知する
監視方法および監視装置を提供することである。
SUMMARY OF THE INVENTION An object of the present invention is to provide a method for detecting a relatively slow moving object from an image in which a large amount of rapidly changing noise is generated. In particular, it is an object of the present invention to provide a monitoring method and a monitoring device for detecting a ship moving on the water surface.

【0007】[0007]

【課題を解決するための手段】上記課題を解決するた
め、本発明の移動体の監視方法は、対象領域の撮影画像
を所定の周期で取り込み、撮影画像を取り込むたびに相
互に隣接する画像同士の差分をとって第1差分画像とま
た所定間隔離れた画像同士の差分をとって第2差分画像
とし、第2差分画像を所定数画像加算したものから第1
差分画像を同じ所定数画像加算したものを画像減算して
合成画像を形成し、この合成画像を2値化した2値化画
像から所定の面積より大きい領域を検出したときに報知
することを特徴とする。
In order to solve the above-mentioned problems, a moving object monitoring method according to the present invention captures a photographed image of a target area at a predetermined cycle, and connects the mutually adjacent images each time the photographed image is captured. The difference between the first difference image and the image separated by a predetermined distance is taken as a second difference image, and the second difference image is added to a predetermined number of images to obtain a first difference image.
A combined image is formed by subtracting the difference image obtained by adding the same predetermined number of images to form a composite image, and a notification is made when an area larger than a predetermined area is detected from a binarized image obtained by binarizing the composite image. And

【0008】本発明の移動体監視方法は、船舶などの移
動体の移動速度と比較して、海面の波や太陽光反射状態
などの変化が十分速いことに注目し、簡単な画像処理を
用いたバンドパスフィルタに相当する処理によってノイ
ズを相殺して移動体の検出を行うものである。等間隔で
取得した画像のうち時間的に離れた画像同士で画像差分
をとって第2差分画像を求めると船舶など低速変化する
対象を検出することができる。しかし、この第2差分画
像には海面の波や太陽光変化など高速変化するノイズ成
分を含むため、明確な移動検出ができない。
The moving object monitoring method of the present invention focuses on the fact that changes in the waves on the sea surface and the state of reflection of sunlight are sufficiently fast as compared with the moving speed of a moving object such as a ship, and uses simple image processing. The processing corresponding to the band-pass filter that has been performed cancels noise to detect a moving object. If a second difference image is obtained by taking an image difference between temporally distant images among images acquired at equal intervals, an object that changes at a low speed such as a ship can be detected. However, since the second difference image includes a fast-changing noise component such as a sea surface wave or a change in sunlight, clear movement detection cannot be performed.

【0009】一方、等間隔で取得した画像のうち相互に
隣接した画像同士で画像差分をとって第1差分画像を求
めると、高速変化するノイズ成分を検出することができ
る。ところが、海面の変化は早くまた発生位置が決まっ
ていないので、第1差分画像中のノイズは第2差分画像
中のノイズと重なるわけではなく、第1差分画像から第
2差分画像を差し引く処理を行ってもノイズの影響を相
殺することはできない。
On the other hand, if the first difference image is obtained by calculating an image difference between mutually adjacent images among images acquired at equal intervals, a noise component that changes at a high speed can be detected. However, since the change in the sea surface occurs quickly and the position of occurrence is not determined, the noise in the first difference image does not overlap with the noise in the second difference image, and a process of subtracting the second difference image from the first difference image is performed. This does not offset the effects of noise.

【0010】しかし、海面変化が生ずる領域について満
遍なくノイズを検出するので、適当な回数積算すると第
1差分画像のノイズ発生領域と第2差分画像のノイズ発
生領域は同じ程度のノイズ状態となる。したがって、第
2差分画像の積算画像から第1差分画像の積算画像を差
し引くことにより海面などのノイズ発生領域におけるノ
イズ成分を相殺して船舶などの移動体を抽出することが
できる。本方法は、水上を航行する船舶に限らず、高速
変化するノイズと低速変化する移動体を峻別して検出す
る場合に広く利用できることは言うまでもない。
However, since noise is detected evenly in a region where a sea level change occurs, the noise generation region of the first difference image and the noise generation region of the second difference image have the same level of noise when integrated a suitable number of times. Therefore, by subtracting the integrated image of the first differential image from the integrated image of the second differential image, a noise component in a noise generation region such as the sea surface can be canceled to extract a moving object such as a ship. It is needless to say that the present method can be widely used not only for vessels navigating on the water but also for detecting noise that changes at a high speed and a moving object that changes at a low speed.

【0011】さらに、上記課題を解決するため、本発明
第2の移動体の監視方法は、対象領域の画像を所定の周
期で取り込み、対象領域の撮影画像を等間隔で最新のも
のから順次所定枚数だけ記憶する。記憶した最新の撮影
画像と隣接する撮影画像の差分でなる第1差分画像と最
新撮影画像と所定間隔離れた撮影画像との差分でなる第
2差分画像を形成し、前に求めた中間画像と第2差分画
像を画像加算して減衰係数を掛けたものから第1差分画
像を画像減算して合成画像を形成して中間画像とする。
その後も同じ工程を繰り返す間に、求めた合成画像を所
定の閾値を用いて2値化して2値化画像を得、2値化画
像の映像から所定の面積より大きい領域を検出したとき
に報知することを特徴とする。
Further, in order to solve the above-mentioned problems, a second method for monitoring a moving object according to the present invention captures an image of a target area at a predetermined cycle, and sequentially captures images of the target area at equal intervals from the latest one. Store only the number. A first difference image that is a difference between the stored latest captured image and an adjacent captured image and a second difference image that is a difference between the latest captured image and a captured image separated by a predetermined interval are formed. The second difference image is added to the image and multiplied by the attenuation coefficient, and the first difference image is subtracted from the image to form a composite image to be an intermediate image.
Thereafter, while the same process is repeated, the obtained composite image is binarized using a predetermined threshold to obtain a binarized image, and a notification is made when an area larger than a predetermined area is detected from the image of the binarized image. It is characterized by doing.

【0012】本発明第2の移動体監視方法によれば、等
間隔で取得した画像のうち最新の画像と時間的に離れた
画像で画像差分をとって求めた第2差分画像により船舶
など低速変化する対象を検出する。ここでも、等間隔で
取得した画像のうち最新のものとその直前のものの画像
差分をとって求めた第1差分画像により高速変化するノ
イズ成分を検出し、第2差分画像に第1差分画像を作用
させた結果を適当な回数繰り返して積算することにより
海面など第2差分画像中のノイズ発生領域に生成するノ
イズ成分を相殺して、第2差分画像に含まれる海面の波
や太陽光変化などの背景から低速変化する船舶などの移
動体を検出することができる。
According to the second moving body monitoring method of the present invention, a low speed image of a ship or the like can be obtained by using a second difference image obtained by calculating an image difference between an image obtained at equal intervals and an image temporally separated from the latest image. Detect objects that change. Here, too, a noise component that changes at a high speed is detected from the first difference image obtained by calculating the image difference between the latest image and the immediately preceding image among the images acquired at equal intervals, and the first difference image is used as the second difference image. The noise component generated in the noise generation area in the second difference image such as the sea surface is canceled by repeating the operation results an appropriate number of times and integrated, and the sea surface wave or sunlight change included in the second difference image is removed. A moving object such as a ship changing at a low speed can be detected from the background of the image.

【0013】なお、積算する項に減衰係数を掛けて過去
の事象の影響度合いを抑制して、過去の事象により影響
を受けないようにすることが好ましい。減衰係数はウイ
ンドウの幅を決めるものであって、どの程度の過去事象
を考慮するかは減衰係数の大きさにより調整することが
できる。また、合成画像は時間的に離れた2枚の画像間
における差異として現れた低速移動物体の移動部分が所
定時間分重なった形状により移動体の存在を検知するこ
とができる。上記移動部分の重なりは移動体の先端と後
端に形成され移動体の幅を持ち移動方向に長さを有する
図形であって、減衰係数の影響で、最近の移動部分が濃
く時間が経過するほど薄く表示されているので、人なら
ば容易に認識することができる。
It is preferable that the term to be integrated is multiplied by a damping coefficient to suppress the degree of influence of past events so as not to be affected by past events. The attenuation coefficient determines the width of the window, and how much past events are considered can be adjusted by the magnitude of the attenuation coefficient. In addition, the presence of a moving object can be detected by a shape in which a moving portion of a low-speed moving object, which appears as a difference between two images separated in time, overlaps for a predetermined time. The overlap of the moving parts is a figure formed at the front and rear ends of the moving body, having the width of the moving body and having a length in the moving direction. Since it is displayed as thin as possible, it can be easily recognized by a person.

【0014】本発明の方法では、さらに移動体を機械的
に抽出するために、適当な閾値を用いて上記合成画像を
2値化画像に変換した上で移動部分の重なりを抽出し、
重なり領域が適当な大きさを持つときに移動体として認
識するようにしている。なお、このとき使用する閾値
は、撮影画像の濃度ヒストグラムをとり、その結果を利
用して決定するようにしてもよい。海面の反射などノイ
ズの発生条件は、環境により大きく影響される。太陽光
がカメラの後方から照射する順光条件では、画面全体が
均等に明るくなり濃度ヒストグラムの広がりが小さい画
面となるので、閾値を低くして移動体を的確に検出でき
るようにする。しかし、逆光条件では海面に太陽光の反
射による高輝度部分が生じて他の領域とのコントラスト
が大きくなり、海面変化の影響が順光のときより大きく
なるため、移動体自体の検出性能が低下しても2値化閾
値を高めに設定して細かいノイズを除去することが好ま
しい。このような条件ではヒストグラムの幅が広がるの
で、ヒストグラムの分布を指標として閾値を決めること
ができる。
In the method of the present invention, in order to further mechanically extract the moving object, the composite image is converted into a binarized image using an appropriate threshold value, and the overlap of the moving parts is extracted.
When the overlapping area has an appropriate size, it is recognized as a moving object. The threshold value used at this time may be determined by taking a density histogram of the photographed image and using the result. Noise generation conditions such as sea surface reflection are greatly affected by the environment. Under the direct light condition in which sunlight is irradiated from behind the camera, the entire screen becomes evenly bright and the screen has a small spread of the density histogram. Therefore, the threshold value is lowered so that the moving object can be accurately detected. However, under backlight conditions, high-brightness areas occur due to the reflection of sunlight on the sea surface, increasing the contrast with other areas, and the effect of sea-level changes is greater than in normal light, which reduces the detection performance of the mobile object itself. Even so, it is preferable to set a high binarization threshold to remove fine noise. Under such conditions, the width of the histogram is widened, so that the threshold can be determined using the distribution of the histogram as an index.

【0015】また、上記課題を解決するため、本発明の
移動体監視装置は、撮像装置が所定の周期で対象領域の
画像を取り込み、撮像画像メモリが撮像装置の取得した
等間隔の撮影画像を最新のものから順次所定枚数だけ記
憶し、画像処理装置が最新の画像と隣接する画像の差の
絶対値をとって第1差分画像を生成し、最新画像と所定
間隔離れた画像との差の絶対値をとって第2差分画像を
生成し、中間画像メモリに記録された中間画像と第2差
分画像を画像加算して減衰係数を掛けたものから第1差
分画像を画像減算して合成画像を形成し、この合成画像
を中間画像メモリに格納し、さらに合成画像を2値化し
て得られる2値化画像をラベリング処理して所定の面積
より大きい領域を検出したときに、警報装置が警報する
ことを特徴とする。
In order to solve the above-mentioned problems, a moving object monitoring apparatus according to the present invention is characterized in that an imaging device captures an image of a target area at a predetermined cycle, and a captured image memory stores captured images at equal intervals acquired by the imaging device. A predetermined number of images are sequentially stored from the latest image, and the image processing apparatus generates a first difference image by taking an absolute value of a difference between the latest image and an adjacent image, and calculates a difference between the latest image and an image separated by a predetermined interval. A second differential image is generated by taking an absolute value, and the intermediate image recorded in the intermediate image memory and the second differential image are image-added and multiplied by an attenuation coefficient, and the first differential image is subjected to image subtraction to obtain a composite image. Is formed, the combined image is stored in an intermediate image memory, and a binarized image obtained by binarizing the combined image is subjected to labeling processing to detect an area larger than a predetermined area. Characterized by

【0016】なお、2値化閾値は撮影画像における明度
に関するヒストグラムに基づいて決定するようにしても
よい。さらに、中間画像の画素毎に上限値または下限値
で飽和するようにすることが好ましい。デジタル表示式
の画素値は上限を超えると直ちに下限値に戻り、下限を
超えると上限値に戻ってしまうため、演算結果が異常に
ならないようにそれぞれの方向に飽和するようにするこ
とが好ましいからである。
[0016] The binarization threshold may be determined based on a histogram relating to the lightness in the captured image. Further, it is preferable to saturate at an upper limit value or a lower limit value for each pixel of the intermediate image. Since the pixel value of the digital display type returns to the lower limit immediately after exceeding the upper limit, and returns to the upper limit when exceeding the lower limit, it is preferable to saturate in each direction so that the calculation result does not become abnormal. It is.

【0017】本発明の移動体監視装置は、本発明第2の
移動体監視方法を実施し、海面の波や太陽光反射状態な
ど高速変化するノイズ成分を相殺して船舶など低速変化
する移動体の検出を行うことができる。なお、積算を含
む画像演算の結果として得られる中間画像は画素値が物
理的な限界を超えることがあるので、上限値と下限値を
設定してそれを超えるときには飽和するようにして、異
常値が出現することを予防することが好ましい。なお、
本装置は、水上を航行する船舶に限らず、高速変化する
ノイズ成分中に存在する低速変化する移動体を検出する
場合に広く利用できることは言うまでもない。
The moving object monitoring apparatus of the present invention implements the second moving object monitoring method of the present invention, and cancels a high-speed changing noise component such as a sea surface wave or a sunlight reflection state, and a low-speed changing moving object such as a ship. Can be detected. In addition, since the pixel value of the intermediate image obtained as a result of the image operation including the integration may exceed the physical limit, the upper limit and the lower limit are set, and when the upper limit and the upper limit are exceeded, the saturation is performed, and the abnormal value is set. Is preferably prevented from appearing. In addition,
It is needless to say that the present apparatus can be widely used not only for ships navigating on water, but also for detecting a slowly changing moving object existing in a rapidly changing noise component.

【0018】[0018]

【発明の実施の形態】以下実施例を用いて本発明を詳細
に説明する。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS The present invention will be described below in detail with reference to embodiments.

【0019】[0019]

【実施例1】図1は本実施例の移動体監視装置のブロッ
ク図、図2はその構成図、図3は本発明における検出原
理を説明する概念図、図4は本実施例における画像処理
のフロー図、図5は画像処理工程中の画像を模式的に表
した工程図である。
Embodiment 1 FIG. 1 is a block diagram of a moving object monitoring apparatus according to the present embodiment, FIG. 2 is a configuration diagram thereof, FIG. 3 is a conceptual diagram illustrating a detection principle in the present invention, and FIG. FIG. 5 is a process diagram schematically showing an image during the image processing process.

【0020】本実施例の移動体監視装置は、監視カメラ
1、演算処理装置2、ディスプレイ3、スピーカ4から
構成されている。監視カメラ1は港湾や関門を見渡すこ
とができる定点に設置され、取得した画像を演算処理装
置2に供給する。演算処理装置2が取得画像について本
発明方法に基づく画像処理をして移動する船舶を検知す
ると、ディスプレイ3またはスピーカ4を通してオペレ
ータにその結果を報知する。オペレータは移動船舶発見
との警報を受けてから船舶の動きを目視で確認すること
ができる。本装置により監視員が常時ディスプレイを注
視している必要が無くなるので、監視作業と並行して他
の作業を行うことができるようになり、港湾監視などに
おいて省力化省人化を図ることができる。
The moving object monitoring apparatus of this embodiment comprises a monitoring camera 1, an arithmetic processing unit 2, a display 3, and a speaker 4. The surveillance camera 1 is installed at a fixed point overlooking a port or a gateway, and supplies the acquired image to the arithmetic processing device 2. When the arithmetic processing device 2 detects a moving ship by performing image processing on the acquired image based on the method of the present invention, the result is notified to the operator through the display 3 or the speaker 4. The operator can visually confirm the movement of the ship after receiving the warning that the moving ship has been found. This device eliminates the need for the observer to keep an eye on the display at all times, so that other operations can be performed in parallel with the monitoring operation, and labor and labor can be saved in port monitoring and the like. .

【0021】監視カメラ1は、監視方向に向け視野を固
定して使用される。視野内に移動物体が存在するか否か
は、フレーム間差分を用いて検出する。すなわち、図3
に示すように、時間間隔をおいた2枚の画像(a)
(b)の間で画像差分を行い、得られた画像を適当な閾
値を用いて2値化して2値化画像(c)を生成すると、
静止している物体は両方の画像中の同じ位置にあるため
差をとると0になり2値化画像中に現れないが、移動物
体は両画像の位置が異なり移動部分に相当する部分が1
となって高輝度領域として残るので検知することができ
る。しかし、監視領域が海面である場合は、移動物体が
存在しないときにも風により波頭が発生したり太陽が波
面で反射したりするので、画面中に大量のノイズが発生
し、移動物体のみを検出することが難しい。
The surveillance camera 1 is used with the visual field fixed in the surveillance direction. Whether or not a moving object is present in the field of view is detected using an inter-frame difference. That is, FIG.
As shown in the figure, two images with a time interval (a)
When an image difference is performed between (b) and the obtained image is binarized using an appropriate threshold to generate a binarized image (c),
Since a stationary object is located at the same position in both images, the difference is 0 and does not appear in the binarized image, but the moving object has a different position in both images and a portion corresponding to the moving portion is 1
And remains as a high-luminance area, so that it can be detected. However, when the monitoring area is the sea surface, even when there is no moving object, the wind generates a wavefront or the sun reflects on the wavefront, so a large amount of noise occurs on the screen and only the moving object is Difficult to detect.

【0022】そこで、本実施例の装置では、フレーム間
差分法に海面変化の影響を抑えるノイズ抑制処理を施
し、さらに船舶など低速で移動する物体の検出感度を相
対的に向上させる蓄積処理を加えることで、低速移動体
を高い認識率で検出するようにした。本実施例は、船舶
の移動速度に比べて海面の波や太陽光の反射による光線
変化の速度が非常に早いことに着目して、低速変化を検
出するバンドパスフィルタ機能を極く簡単な画像処理で
実現したことに特徴を有する。
Therefore, in the apparatus of this embodiment, noise suppression processing for suppressing the influence of sea level change is applied to the inter-frame difference method, and accumulation processing for relatively improving the detection sensitivity of a low-speed moving object such as a ship is added. As a result, a low-speed moving object is detected with a high recognition rate. This embodiment focuses on the fact that the speed of light change due to the reflection of sea surface waves and sunlight is very fast compared to the moving speed of a ship, and a bandpass filter function for detecting a low speed change is an extremely simple image. It is characterized by being realized by processing.

【0023】画像演算を実施する演算処理装置2は、図
1に示すように、内部に撮像画像を格納する第1の画像
メモリ11、2つの画像差分装置12、13、画像演算
装置14、中間画像を格納する第2の画像メモリ15、
画像処理装置16、判定装置17、およびディスプレイ
3またはスピーカ4を作動させる報知装置18を備え
る。監視カメラ1が撮像した画像を適当なインターバル
で第1の画像メモリ11に順次格納する。第1画像メモ
リ11は、新しく画像を取り込むたびに最も古い画像が
消去され、常に最新のものから所定枚数の画像を保持す
るメモリスタックである。
As shown in FIG. 1, an arithmetic processing unit 2 for executing an image operation includes a first image memory 11 for storing a picked-up image therein, two image difference units 12, 13, an image operation unit 14, and an intermediate unit. A second image memory 15 for storing images,
An image processing device 16, a determination device 17, and a notification device 18 for operating the display 3 or the speaker 4 are provided. Images captured by the monitoring camera 1 are sequentially stored in the first image memory 11 at appropriate intervals. The first image memory 11 is a memory stack in which the oldest image is deleted each time a new image is captured, and a predetermined number of images are always stored from the latest image.

【0024】画像格納のインターバルは高速変化するノ
イズ成分の検出が可能な時間間隔から決められるもの
で、港湾内の海面を観察するときにはたとえば200〜
300ミリ秒とすればよい。また、画像格納フレーム数
は画像中を低速移動する移動体を検出するために有利な
間隔から決められるものであって、監視カメラ1の位置
にも左右されるが、たとえば10フレーム程度とするこ
とができる。
The image storage interval is determined from a time interval at which a fast-changing noise component can be detected. When observing the sea surface in a port, for example, 200 to
What is necessary is just 300 milliseconds. The number of image storage frames is determined from an advantageous interval for detecting a moving object moving at a low speed in an image, and depends on the position of the surveillance camera 1. Can be.

【0025】演算処理装置2の処理内容を図4に示し
た。始めに、初期状態を設定するため、画像をn枚(こ
こでは9枚)取り込んで第1画像メモリ11に格納する
(S1)。また、初期設定として第2画像メモリ15に
格納される前回の移動体検出画像SIt-1を0とする
(S2)。その上で、新しい画像Itを取り込んで、通
常の移動体検出処理を開始する(S3)。この新しい画
像Itには、たとえば図5の(a)に示すような船体と
波に起因する光点が写し込まれている。
FIG. 4 shows the processing contents of the arithmetic processing unit 2. First, in order to set an initial state, n images (here, nine images) are fetched and stored in the first image memory 11 (S1). Further, the previous moving object detection image SIt -1 stored in the second image memory 15 as an initial setting is set to 0 (S2). On top of that, captures a new image I t, starts the normal moving object detection process (S3). This new image I t, is imprinted spot due to for example the hull and waves as shown in FIG. 5 (a).

【0026】画像のフレーム間差分は2種類の組合せで
行う。まず、海面における光ノイズを検知するために、
第1の画像差分装置12に最新の時刻tにおける画像I
tと1フレーム前の画像It-1を取り込んで画素毎の値に
ついて差分の絶対値を計算し差分画像DI1(すなわ
ち、DI1=|It−It-1|)を求める。差分画像DI1
はたとえば図5の(b)のように、海面上の光点が検出
されるが船体部分は殆ど相殺されて画像上に現れない。
なお、ここで使用する画像は最新のものに限らず、最新
画像とn個離れた画像のほぼ中間の画像を使用すること
もできる。
The difference between frames of an image is determined by two types of combinations. First, in order to detect light noise on the sea surface,
The image I at the latest time t is stored in the first image difference device 12.
The difference image DI 1 (that is, DI 1 = | I t −I t−1 |) is obtained by taking in t and the image It −1 one frame before, and calculating the absolute value of the difference for each pixel value. Difference image DI 1
For example, as shown in FIG. 5B, a light spot on the sea surface is detected, but the hull portion is almost canceled and does not appear on the image.
It should be noted that the image used here is not limited to the latest image, and it is also possible to use an image substantially intermediate between the latest image and an image n away from the latest image.

【0027】同時に、船舶の移動を確実に検知するため
に、第2の画像差分装置13に最新の時刻tにおける画
像Itとnフレーム前の画像It-nを取り込んで画素毎に
差分の絶対値を計算し差分画像DIn(すなわち、DIn
=|It−It-n|)を求める。(S4)。ここで、nは
たとえば9である。差分画像DInはたとえば図5の
(c)のようになり、海面上の光点に加えて、移動する
船体の先端部分と後端部分が高輝度点として残る。
At the same time, in order to reliably detect the movement of the ship, the image It at the latest time t and the image Itn before the nth frame are taken into the second image difference device 13 and the absolute value of the difference is determined for each pixel. To calculate the difference image DI n (that is, DI n
= | I t -I tn |) seek. (S4). Here, n is 9, for example. The difference image DI n is, for example, as shown in FIG. 5 (c), and the front and rear ends of the moving hull remain as high brightness points in addition to the light spots on the sea surface.

【0028】次に、画像演算装置14が2つの差分画像
DI1とDInを入力し下の式に基づいて移動体検出画像
SItを算出する(S5)。 SIt=FIX{a(SIt-1 +DIn)− DI1 } ここで、FIXは飽和演算子であって、画素値の最小
値、0以下の値に対して最小値0、画素値の最大値たと
えばFF(16進数)以上の値に対して最大値FF、そ
れらの中間の値xに対してその値xをとる。また、aは
減衰係数であって0以上1以下の正数、SIt-1は第2
の画像メモリ15に格納されている前回求めた移動体検
出画像である。演算は画像の全面にわたり画素の位置毎
に行われる。減衰係数aは演算対象を時間軸方向に制限
するウインドウを設定するものである。なお、上の式で
は(SIt-1 +DIn)に減衰係数aを掛けているが、
DInには減数係数aを掛けないようにしてもよい。
Next, the image calculation unit 14 calculates the moving object detection image SI t based on the equation below and enter the two difference images DI 1 and DI n (S5). SI t = FIX {a (SI t−1 + DI n ) −DI 1 } where FIX is a saturation operator, and the minimum value of a pixel value, the minimum value of 0 or less, and the minimum value of 0 The maximum value FF is taken for a value equal to or larger than the maximum value, for example, FF (hexadecimal number), and the value x is taken for an intermediate value x between them. A is a damping coefficient, which is a positive number between 0 and 1, and SIt -1 is a second number.
Is a previously detected moving object detection image stored in the image memory 15 of FIG. The calculation is performed for each pixel position over the entire surface of the image. The attenuation coefficient a sets a window for limiting the calculation target in the time axis direction. In the above equation, (SI t-1 + DI n ) is multiplied by the attenuation coefficient a.
DI n may not be multiplied by the reduction coefficient a.

【0029】上の式によると、前回求めた移動体検出画
像SIt-1に船舶の移動部分と水面上の光ノイズが可視
化されている差分画像DInを加えたものに減衰係数a
を乗じたものから、水面上の光ノイズのみが可視化され
ている差分画像DI1を差し引いたものを移動体検出画
像SItとして、繰り返し演算をしている。すなわち、
移動体検出画像SItはそれまでに求めた移動体検出画
像に減衰係数aを掛けて積算したものを含んでおり、差
分画像DInの積算画像から差分画像DI1の積算画像を
減算したものをウインドウ処理したものに相当する。
According to the above equation, the attenuation coefficient a is obtained by adding the difference image DI n in which the moving part of the ship and the optical noise on the water surface are visualized to the moving object detection image SI t-1 obtained last time.
From multiplied by, those only light noise on the water surface is obtained by subtracting the difference image DI 1, which is visualized as moving object detection image SI t, it has a repetitive operation. That is,
Moving object detecting image SI t has include those obtained by integrating over the attenuation coefficient a in the moving object detection image obtained so far, that the accumulated image of the difference image DI 1 from the accumulated image of the difference image DI n by subtracting Is equivalent to window-processed.

【0030】水面上の光点は発生位置が決まっていない
ので、差分画像DInから差分画像DI1を差し引いても
1回の処理サイクルではノイズを消去することはできな
いが、処理を繰り返して積算するうちに、水面全体にお
いてノイズ成分が同等に発生して相殺され、全体的にノ
イズが抑制される結果になる。また、船舶の移動は画像
取り込み間隔と比較すると非常に遅いため、n枚離れた
画像同士の差分画像DInにおける船舶移動部分は毎回
の画像処理毎に大部分が重なる一方、光点ノイズはラン
ダムに発生するので、これらを積算処理することにより
船舶移動部分と水面上の光点ノイズとのコントラストは
極めて明確になる。
[0030] Since the light spot generation position on the surface of the water is not determined, but it is not possible to erase the noise even in a single process cycle by subtracting the difference image DI 1 from the difference image DI n, accumulated by repeating the process In the meantime, noise components are equally generated and offset on the entire water surface, and the result is that noise is suppressed as a whole. In addition, since the movement of the ship is very slow as compared with the image capturing interval, the ship movement portion in the difference image DI n between the images n distances apart largely overlaps with each image processing, while the light spot noise is random. Therefore, the contrast between the moving part of the ship and the light spot noise on the water surface becomes extremely clear by integrating these.

【0031】画像演算装置14で求めた移動体検出画像
SItは、たとえば図5の(d)のように、減衰係数a
により決まる時間幅だけ移動体の先端部分と後端部分が
重なって表され、移動体の移動軌跡を見ることができ
る。なお、減衰係数aの作用により新しい事象の方が濃
く古い事象ほど薄く表現されている。また、減衰係数a
により規定される仮想ウインドウからはみ出た過去の事
象は画像中から消去されている。水面上の光ノイズは2
つの差分画像DI1とDInの中にほぼ同じ程度集積され
るので相殺されて消去される。ただし、水面上の光点の
内で2つの差分画像で相殺されなかったものが僅かに画
像中に残っている。移動体検出画像SItは第2の画像
メモリ15に格納されて(S6)、次回の演算に使用さ
れる。
The image computing unit moving object detecting image SI t obtained in 14, for example as in FIG. 5 (d), the attenuation coefficient a
The leading end portion and the trailing end portion of the moving body are overlapped for a time width determined by, and the moving trajectory of the moving body can be seen. Due to the effect of the attenuation coefficient a, newer events are darker and older events are lighter. Also, the attenuation coefficient a
Past events that have run out of the virtual window defined by are deleted from the image. Light noise on the water surface is 2
Is erased offset because it is substantially the same extent integrated into One difference image DI 1 and DI n. However, among the light spots on the water surface, those that were not offset by the two difference images slightly remain in the image. Moving object detecting image SI t is stored in the second image memory 15 (S6), it is used for the next operation.

【0032】次に、移動体検出画像SItから移動領域
を明るく静止領域を暗く表現した2値化画像を生成し移
動体の移動状況を可視化して判定を容易にする。まず、
最新の撮影画像Itの濃度ヒストグラムを作成して画面
中の明度分布から適当な2値化閾値を決定する(S
7)。移動体検出画像SItにおける移動体移動部分
は、背景部分と移動体の明度差が所定の減衰率を掛けた
上で積算されたものとして表示される。
Next, the moving state of the generated mobile binarized image darker in brighter still region movement area from the moving object detecting image SI t facilitate determination visualized. First,
By creating a density histogram of the latest captured image I t to determine the appropriate binarization threshold lightness distribution on the screen (S
7). Mobile moving portion in the moving object detection image SI t is displayed as brightness difference of the background portion and the moving body is accumulated on multiplied by the predetermined attenuation rate.

【0033】たとえば、太陽光がカメラの背後から照射
する順光条件では、画面全体に落ち着いた光線状態にな
るため濃度ヒストグラムの広がりが小さな画像になる。
このとき、背景と移動体の明度差は余り大きくないため
移動体検出画像SItの2値化閾値を低く設定する必要
がある。一方、太陽がカメラの前方から照射する逆光条
件の場合は、波面で反射する太陽光が高速変化する高輝
度光点となってカメラに入射するため、画面の濃度ヒス
トグラムは大きく広がったものとなる。このときは、2
値化閾値を高くすると細かいノイズを拾って高度な画像
処理が必要となるが、背景と移動体の明度差が大きくな
るため2値化閾値を高くすることにより容易に細かいノ
イズを除去することができる。そこで、撮影画像It
濃度ヒストグラムの広がりに基づいて2値化閾値を決定
する。なお、2値化閾値を決定するために使用する撮像
画像は最新のものでなくてもよい。
For example, under a normal light condition in which sunlight is radiated from behind the camera, an image having a small spread of the density histogram is obtained because the light beam is settled on the entire screen.
In this case, it is necessary to set a lower binarization threshold of the moving object detection image SI t for background and brightness difference of the moving object is not so large. On the other hand, in the case of a backlight condition in which the sun irradiates from the front of the camera, the sunlight reflected on the wavefront becomes a high-brightness light spot that changes at a high speed and enters the camera, so that the density histogram on the screen is greatly expanded. . In this case, 2
If the binarization threshold is raised, fine noise is picked up and advanced image processing is required.However, since the brightness difference between the background and the moving object increases, it is possible to easily remove the fine noise by increasing the binarization threshold. it can. Therefore, to determine a binarization threshold based on the spread of the density histogram of the captured image I t. Note that the captured image used to determine the binarization threshold may not be the latest one.

【0034】移動体検出画像SItにおける画素毎に明
度値が2値化閾値より大きいか否かを判定し、その結果
に基づいて0,1で表示した2値化画像BItを生成す
る(S8)。2値化画像BItには、移動領域が明るく
静止領域が暗く表現されている。2値化画像BIt中の
移動領域部分は、移動体の幅と移動速度に比例した長さ
を持っている。2値化画像BItには、光点ノイズも含
まれる場合がある。本実施例の移動体監視装置では、撮
影画像Itの濃度ヒストグラムの広がりに基づいて2値
化閾値を決定することにより、順光、逆光いずれの場合
にも適切な2値化が可能となる。
The brightness value for each pixel in the moving object detection image SI t is determined whether greater or not than the binarization threshold to generate a binary image BI t displaying 0,1 based on the result ( S8). The binarized image BI t, movement area still region is darker expressed brightly. Moving area portion in the binary image BI t has the length proportional to the width and the moving speed of the moving body. The binarized image BI t, there is a case where the light spot noise included. In the mobile monitoring device of the present embodiment, by determining the binarization threshold based on the spread of the density histogram of the captured image I t, thereby enabling appropriate binarization any case frontlit, backlit .

【0035】次に、2値化画像BItはラベリング処理
により連続領域を検出し番号付けする(S9)。そし
て、同じ番号を持つ領域内の画素数を計数してその連続
領域の面積Sを代表する値とする(S10)。ノイズ成
分は領域面積Sが小さく、移動体の移動領域の面積Sは
ノイズと比較して大きい。そこで移動体を判定するた
め、各領域面積Sを予め決めた閾値Sthと比較する(S
11)。
Next, the binarized image BI t numbering detects continuous area by the labeling processing (S9). Then, the number of pixels in the region having the same number is counted and set as a value representative of the area S of the continuous region (S10). The noise component has a small area S, and the area S of the moving area of the moving object is larger than the noise. Then, in order to determine the moving object, each area S is compared with a predetermined threshold value S th (S
11).

【0036】領域面積Sが閾値Sthより大きければ移動
体が存在すると判定し、報知装置18によりディスプレ
イ3またはスピーカ4を介してオペレータに報知する
(S12)。オペレータは報知を受けたときに改めてモ
ニタに表示された撮影画像あるいは直視により移動体を
確認して必要な作業を行うことができる。なお、領域面
積Sが閾値Sthに達しなければ、移動体が存在しないと
して、画像取り込み工程(S3)に戻って以下同じ処理
を繰り返す。このように、本実施例の移動体監視装置が
有れば常時監視していなくてもよいので、オペレータは
他の作業と並行して監視作業を行うことができる。
The region area S is determined that the mobile is greater than the threshold S th is present, informs the operator via the display 3 or the speaker 4 by the notification device 18 (S12). When the operator receives the notification, the operator can check the moving object again by the photographed image displayed on the monitor or directly, and can perform necessary work. If the area S does not reach the threshold value S th , it is determined that there is no moving object, the process returns to the image capturing step (S3), and the same process is repeated. As described above, since there is no need to constantly monitor if the mobile monitoring apparatus of the present embodiment is present, the operator can perform monitoring work in parallel with other work.

【0037】[0037]

【実施例2】図6は本実施例の移動体監視装置における
画像処理のフロー図、図7は画像処理工程中の画像を模
式的に表した工程図である。
[Embodiment 2] FIG. 6 is a flowchart of image processing in the moving object monitoring apparatus of the present embodiment, and FIG. 7 is a process diagram schematically showing an image in an image processing process.

【0038】本実施例の移動体監視装置は、画像処理工
程のみが実施例1と異なるので、相違する部分について
図6と図7を用い重点的に説明する。始めに、演算処理
の準備のため、画像をn枚取り込んで第1画像メモリ1
1に格納する。また、初期設定として前回の積算画像Σ
nt-1、ΣD1t-1をそれぞれ0とする(S21)。その
上で、新しい画像Itを取り込んで、通常の移動体検出
処理を開始する(S22)。この新しい画像Itは、図
7の(a)に示すような画像になる。次に、第1の画像
差分装置12で最新の画像Itと1フレーム前の画像I
t-1について差分の絶対値を計算し差分画像DI1(すな
わち、DI1=|It−It-1|)を求める。差分画像D
1は図7の(b)のようになる。
The moving object monitoring apparatus of the present embodiment is different from the first embodiment only in the image processing process. Therefore, the different parts will be mainly described with reference to FIGS. First, in preparation for arithmetic processing, n images are fetched and stored in the first image memory 1.
1 is stored. In addition, as the initial setting,
Dnt-1 and ΣD1t -1 are each set to 0 (S21). On top of that, captures a new image I t, starts the normal moving object detection process (S22). This new image I t will image as shown in (a) of FIG. Then, the latest image in the first image difference device 12 I t and the previous frame image I
difference image DI 1 calculates the absolute value of the difference for the t-1 (i.e., DI 1 = | I t -I t-1 |) determined. Difference image D
I 1 is as shown in FIG. 7 of (b).

【0039】また、第2の画像差分装置13に最新の画
像Itとnフレーム前の画像It-nについて差分の絶対値
を計算し差分画像DIn(すなわち、DIn=|It−I
t-n|)を求める。(S23)。この差分画像DInは図
7の(c)のようになる。次に、画像演算装置14が2
つの差分画像DI1とDInを入力し下の式に基づいて2
つの積算画像ΣD1tとΣDntを算出する(S24)。 ΣDnt=DIn+aΣDnt-1 ΣD1t=DI1+aΣD1t-1 ここで、aは減衰係数である。
Further, the second image difference device 13 to the latest image I t and n frames before the image I tn calculates the absolute value of the difference the difference image DI n (i.e., DI n = | I t -I
tn |). (S23). This difference image DI n is as shown in FIG. Next, the image processing device 14
The two difference images DI 1 and DI n are input and 2
Two integrated images ΣD 1t and ΣD nt are calculated (S24). ΣD nt = DI n + aΣD nt-1 ΣD 1t = DI 1 + aΣD 1t-1 where a is an attenuation coefficient.

【0040】積算画像ΣD1tは、図7(d)に示すよう
に船体部分が白く抜けて水面上の光点が満遍なく広がっ
た画面となる。新しい光点ほど濃く古い光点ほど薄くな
っている。また、積算画像ΣDntは、図7(e)に示す
ように水面上の光点以外に船体の先端部分と後端部分に
移動方向に幅を持った濃い領域が現れた画面となる。船
体の前後に現れる領域の幅は移動速度と減衰係数により
影響される。また、船体の移動部分についても新しいほ
ど濃く古いほど薄くなる。
As shown in FIG. 7D, the integrated image ΣD 1t is a screen in which the hull is white and the light spots on the water surface are spread evenly. The new light spot is darker and the old light spot is thinner. Further, the accumulated image .SIGMA.D nt is a screen dark area having a width in the moving direction other than the light spot on the water surface at the tip portion and the rear portion of the hull, as shown in FIG. 7 (e) appeared. The width of the area that appears before and after the hull is affected by the speed of movement and the damping coefficient. Also, the moving part of the hull is newer and darker and older and thinner.

【0041】画像演算装置14は、さらに積算画像ΣD
ntからΣD1tを引いて移動体検出画像SIt(SIt=Σ
nt−ΣD1t)を算出する(S25)。こうして得られ
る移動体検出画像SItは、図7(f)に示すように、
実施例1の移動体監視装置により得られる移動体検出画
像とほぼ同じものとなり、高速変化する光点ノイズを相
殺して低速移動する移動体を検出することができる。こ
の後の処理は、実施例1と同じで、撮影画像Itの濃度
ヒストグラムから適当な2値化閾値を決定し、これに基
づいて移動体検出画像SItを2値化して2値化画像B
tを生成する(S26)。2値化画像BItは図7
(g)のようになる。
The image calculation device 14 further calculates the integrated image ΣD
ΣD 1t is subtracted from nt to detect the moving object detection image SI t (SI t = Σ
D nt -ΣD 1t) calculates a (S25). Moving object detecting image SI t thus obtained, as shown in FIG. 7 (f),
This is almost the same as the moving object detection image obtained by the moving object monitoring device of the first embodiment, and a moving object moving at a low speed can be detected by offsetting the light spot noise that changes at a high speed. The subsequent processing is the same as in Example 1, to determine the appropriate binarization threshold from the density histogram of the captured image I t, binary image by binarizing the moving object detection image SI t Based on this B
To generate the I t (S26). Binary image BI t Figure 7
(G).

【0042】次に、2値化画像BItはラベリング処理
され(S27)、画像中に現れる独立した各領域の面積
iが求められる(S28)。さらに、各領域面積Si
予め決めた閾値Sthと比較して(S29)、閾値St h
り大きい領域面積Siがあれば移動体が存在すると判定
し、報知装置18によりオペレータに報知する(S3
0)。閾値Sthに達した領域面積Siがなければ、移動
体が存在しないとして、画像取り込み工程(S22)に
戻って以下同じ処理を繰り返す。
Next, the binarized image BI t is labeling (S27), the area S i of each region independent appearing in the image is determined (S28). Furthermore, compared with the predetermined threshold value S th each region area S i (S29), determines that the mobile if the threshold S t h a larger region area S i is present, the operator notification by the notification device 18 Yes (S3
0). If there is no area S i that has reached the threshold value S th , it is determined that there is no moving object, the process returns to the image capturing step (S22), and the same processing is repeated thereafter.

【0043】[0043]

【発明の効果】以上説明した通り、本発明の移動体監視
方法および装置は、高速変化するノイズが多量に発生す
る映像中から比較的低速の移動体を検出することができ
るから、たとえば港湾管理や関門監視など、水面を移動
する船舶を自動的に検知するために使用することがで
き、監視作業の省人化・省力化を実現することができ
る。
As described above, the moving object monitoring method and apparatus according to the present invention can detect a relatively slow moving object from an image in which a large amount of rapidly changing noise is generated. It can be used to automatically detect a ship moving on the water surface, such as a gate and a gate monitor, and can realize labor-saving and labor-saving monitoring work.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明第1の実施例を示す移動体監視装置のブ
ロック図である。
FIG. 1 is a block diagram of a mobile monitoring apparatus according to a first embodiment of the present invention.

【図2】本実施例の構成図である。FIG. 2 is a configuration diagram of the present embodiment.

【図3】本発明における検出原理を説明する概念図であ
る。
FIG. 3 is a conceptual diagram illustrating a detection principle according to the present invention.

【図4】本実施例における画像処理のフロー図である。FIG. 4 is a flowchart of image processing in the present embodiment.

【図5】本実施例における画像処理工程中の画像を模式
的に表した工程図である。
FIG. 5 is a process chart schematically showing an image in an image processing step in the present embodiment.

【図6】本発明第2の実施例における画像処理のフロー
図である。
FIG. 6 is a flowchart of image processing in a second embodiment of the present invention.

【図7】本実施例における画像処理工程中の画像を模式
的に表した工程図である。
FIG. 7 is a process diagram schematically illustrating an image in an image processing process in the present embodiment.

【符号の説明】[Explanation of symbols]

1 監視カメラ 2 演算処理装置 3 ディスプレイ 4 スピーカ 11 第1の画像メモリ 12、13 画像差分装置 14 画像演算装置 15 第2の画像メモリ 16 画像処理装置 17 判定装置 18 報知装置 REFERENCE SIGNS LIST 1 surveillance camera 2 arithmetic processing device 3 display 4 speaker 11 first image memory 12, 13 image difference device 14 image calculation device 15 second image memory 16 image processing device 17 determination device 18 notification device

───────────────────────────────────────────────────── フロントページの続き (72)発明者 永井 信尚 兵庫県明石市川崎町1番1号 川重テクノ サービス株式会社明石事業所内 (72)発明者 三津江 雅幸 千葉県野田市二ツ塚118番地 川重テクノ サービス株式会社関東事業所内 Fターム(参考) 2F065 AA07 AA67 BB15 DD04 FF01 FF04 JJ03 JJ09 JJ26 MM02 QQ13 QQ24 QQ25 QQ38 RR07 SS09 SS13 UU05 5B057 AA16 AA19 BA02 CA08 CA12 CA16 CB06 CB12 CB16 CC01 CE12 CH08 DA06 DA15 DB02 DB09 DC04 DC32 5C054 AA01 EA07 FC01 FC05 FC13 FF06 GA04 HA18 HA26 5L096 AA06 BA02 CA02 DA03 EA43 FA35 FA59 GA08 HA03  ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Nobuo Nagai 1-1, Kawasaki-cho, Akashi-shi, Hyogo Prefecture Kawashige Techno Service Co., Ltd. F-term (reference) in Kanto Works Co., Ltd. EA07 FC01 FC05 FC13 FF06 GA04 HA18 HA26 5L096 AA06 BA02 CA02 DA03 EA43 FA35 FA59 GA08 HA03

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 対象領域の撮影画像を所定の周期で取り
込み、撮影画像を取り込むたびに相互に隣接する撮影画
像同士の差の絶対値をとって第1差分画像とし、また所
定間隔離れた撮影画像同士の差の絶対値をとって第2差
分画像とし、前記第2差分画像を所定数画像加算したも
のから前記第1差分画像を同じ所定数画像加算したもの
を画像減算して合成画像を形成し、該合成画像を所定の
閾値を用いて2値化して2値化画像を得、該2値化画像
の映像から所定の面積より大きい領域を検出したときに
報知することを特徴とする移動体監視方法。
1. A captured image of a target area is captured at a predetermined cycle, and each time a captured image is captured, an absolute value of a difference between adjacent captured images is calculated as a first difference image, and captured at a predetermined interval. An absolute value of the difference between the images is taken as a second difference image, and a combined image obtained by adding the first difference image to the same predetermined number of images is subtracted from the sum of the second difference image and a predetermined number of images. Forming a binary image using a predetermined threshold value to obtain a binary image, and notifying when a region larger than a predetermined area is detected from a video of the binary image. Mobile monitoring method.
【請求項2】 対象領域の撮影画像を所定の周期で取り
込み、該対象領域の撮影画像を等間隔で最新のものから
順次所定枚数だけ記憶し、最新の撮影画像と隣接する撮
影画像の差の絶対値でなる第1差分画像と該最新撮影画
像と所定間隔離れた撮影画像との差の絶対値でなる第2
差分画像を形成し、前に求めた中間画像と前記第2差分
画像を画像加算して減衰係数を掛けたものから第1差分
画像を画像減算して合成画像を形成して中間画像とし、
その後同じ工程を繰り返し、この間に前記合成画像を所
定の閾値を用いて2値化して2値化画像を得、該2値化
画像の映像から所定の面積より大きい領域を検出したと
きに報知することを特徴とする移動体監視方法。
2. A photographic image of a target area is fetched at a predetermined cycle, and a predetermined number of photographic images of the target area are sequentially stored at regular intervals from the latest one, and the difference between the latest photographic image and an adjacent photographic image is calculated. A second difference value which is an absolute value of a difference between the first difference image which is an absolute value and a shot image separated by a predetermined distance from the latest shot image.
Forming a difference image, subtracting the first difference image from the image obtained by multiplying the previously obtained intermediate image and the second difference image by an attenuation coefficient, and forming a composite image as an intermediate image;
Thereafter, the same process is repeated, and during this time, the composite image is binarized using a predetermined threshold to obtain a binarized image, and a notification is made when an area larger than a predetermined area is detected from the image of the binarized image. A method for monitoring a moving object, comprising:
【請求項3】 前記2値化閾値が前記対象領域の撮像画
像における明度に関するヒストグラムに基づいて決定さ
れることを特徴とする請求項1または2記載の移動体監
視方法。
3. The moving object monitoring method according to claim 1, wherein the binarization threshold is determined based on a histogram relating to brightness in a captured image of the target area.
【請求項4】 撮像装置と画像処理装置と画像メモリと
警報装置を備え、撮像装置が所定の周期で対象領域の画
像を取り込み、前記画像メモリが撮像画像メモリと中間
画像メモリと合成画像メモリを備えて、該撮像画像メモ
リに前記撮像装置の取得した等間隔の画像を最新のもの
から順次所定枚数だけ記憶し、前記画像処理装置が最新
の画像と隣接する画像の差の絶対値でなる第1差分画像
と所定間隔離れた画像との差の絶対値でなる第2差分画
像を形成し、前記中間画像メモリに記録された中間画像
と前記第2差分画像を画像加算して減衰係数を掛けたも
のから第1差分画像を画像減算して合成画像を形成し、
該合成画像を前記中間画像メモリに格納し、該合成画像
を2値化して得られる2値化画像をラベリング処理して
所定の面積より大きい領域を検出したときに、前記警報
装置を介して警報することを特徴とする移動体監視装
置。
4. An image capturing apparatus, an image processing apparatus, an image memory, and an alarm device, wherein the image capturing apparatus captures an image of a target area at a predetermined cycle, and the image memory stores a captured image memory, an intermediate image memory, and a composite image memory. A predetermined number of equally-spaced images acquired by the imaging device are sequentially stored in the captured image memory from the latest one, and the image processing device stores the image at the absolute value of the difference between the latest image and the adjacent image. Forming a second difference image having an absolute value of a difference between the one difference image and an image separated by a predetermined distance, adding the intermediate image recorded in the intermediate image memory and the second difference image, and multiplying by an attenuation coefficient; Subtracting the first difference image from the image to form a composite image,
The composite image is stored in the intermediate image memory, and when a binarized image obtained by binarizing the composite image is detected to detect a region larger than a predetermined area, an alarm is issued via the alarm device. A moving object monitoring device characterized in that:
【請求項5】 前記2値化閾値が前記対象領域の画像に
おける明度に関するヒストグラムに基づいて決定される
ことを特徴とする請求項4記載の移動体監視装置。
5. The moving object monitoring apparatus according to claim 4, wherein the binarization threshold is determined based on a histogram relating to brightness in an image of the target area.
【請求項6】 前記中間画像は画素毎に上限値または下
限値で飽和することを特徴とする請求項4または5記載
の移動体監視装置。
6. The moving object monitoring apparatus according to claim 4, wherein the intermediate image is saturated at an upper limit value or a lower limit value for each pixel.
JP2001010829A 2001-01-18 2001-01-18 MONITOR MONITORING METHOD AND DEVICE Expired - Fee Related JP3456972B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001010829A JP3456972B2 (en) 2001-01-18 2001-01-18 MONITOR MONITORING METHOD AND DEVICE

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001010829A JP3456972B2 (en) 2001-01-18 2001-01-18 MONITOR MONITORING METHOD AND DEVICE

Publications (2)

Publication Number Publication Date
JP2002218452A true JP2002218452A (en) 2002-08-02
JP3456972B2 JP3456972B2 (en) 2003-10-14

Family

ID=18878074

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001010829A Expired - Fee Related JP3456972B2 (en) 2001-01-18 2001-01-18 MONITOR MONITORING METHOD AND DEVICE

Country Status (1)

Country Link
JP (1) JP3456972B2 (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006203500A (en) * 2005-01-20 2006-08-03 Ikegami Tsushinki Co Ltd Image preparation method for moving-object extraction
JP2007028282A (en) * 2005-07-19 2007-02-01 Megachips System Solutions Inc Camera system and intercom
JP2007201933A (en) * 2006-01-27 2007-08-09 Secom Co Ltd Monitoring device using image
JP2010079419A (en) * 2008-09-24 2010-04-08 Mitsubishi Electric Corp Number-of-person counter and number-of-person counting method
JP2011199765A (en) * 2010-03-23 2011-10-06 Fujifilm Corp Imaging apparatus, and control method of the same
JP2017503284A (en) * 2013-11-11 2017-01-26 オスラム・シルバニア・インコーポレイテッド Human detection technology
US9639763B2 (en) 2012-08-30 2017-05-02 Fujitsu Limited Image target detecting apparatus and method
WO2018047616A1 (en) * 2016-09-08 2018-03-15 ソニー株式会社 Arithmetic device and sensor
JP2020149221A (en) * 2019-03-12 2020-09-17 セコム株式会社 Image processing device and image processing program

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5602530B2 (en) * 2010-07-29 2014-10-08 日立Geニュークリア・エナジー株式会社 Visual inspection device and method of creating visual inspection video

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4614778B2 (en) * 2005-01-20 2011-01-19 池上通信機株式会社 Image creation method for moving object extraction
JP2006203500A (en) * 2005-01-20 2006-08-03 Ikegami Tsushinki Co Ltd Image preparation method for moving-object extraction
JP2007028282A (en) * 2005-07-19 2007-02-01 Megachips System Solutions Inc Camera system and intercom
JP4503505B2 (en) * 2005-07-19 2010-07-14 株式会社メガチップス Camera system and door phone
JP2007201933A (en) * 2006-01-27 2007-08-09 Secom Co Ltd Monitoring device using image
JP4740755B2 (en) * 2006-01-27 2011-08-03 セコム株式会社 Monitoring device using images
JP2010079419A (en) * 2008-09-24 2010-04-08 Mitsubishi Electric Corp Number-of-person counter and number-of-person counting method
JP2011199765A (en) * 2010-03-23 2011-10-06 Fujifilm Corp Imaging apparatus, and control method of the same
US9639763B2 (en) 2012-08-30 2017-05-02 Fujitsu Limited Image target detecting apparatus and method
JP2017503284A (en) * 2013-11-11 2017-01-26 オスラム・シルバニア・インコーポレイテッド Human detection technology
WO2018047616A1 (en) * 2016-09-08 2018-03-15 ソニー株式会社 Arithmetic device and sensor
JPWO2018047616A1 (en) * 2016-09-08 2019-06-24 ソニー株式会社 Arithmetic unit and sensor
US10891706B2 (en) 2016-09-08 2021-01-12 Sony Corporation Arithmetic device and sensor to track movement of object between frames
JP7058010B2 (en) 2016-09-08 2022-04-21 ソニーグループ株式会社 Arithmetic logic unit and sensor
JP2020149221A (en) * 2019-03-12 2020-09-17 セコム株式会社 Image processing device and image processing program
JP7221092B2 (en) 2019-03-12 2023-02-13 セコム株式会社 Image processing device and image processing program

Also Published As

Publication number Publication date
JP3456972B2 (en) 2003-10-14

Similar Documents

Publication Publication Date Title
US10692225B2 (en) System and method for detecting moving object in an image
CN109215018A (en) Based on Canny operator and the morphologic ship detecting method of Gauss
CN110572636B (en) Camera contamination detection method and device, storage medium and electronic equipment
JP2002218452A (en) Method and device for monitoring moving object
CN111860120A (en) Automatic shielding detection method and device for vehicle-mounted camera
KR20090043416A (en) Surveillance camera apparatus for detecting and suppressing camera shift and control method thereof
CN107798688A (en) Motion estimate method, method for early warning and automobile anti-rear end collision prior-warning device
CN113507577A (en) Target object detection method, device, equipment and storage medium
JP2002352340A (en) Image monitoring device
JP3134845B2 (en) Apparatus and method for extracting object in moving image
WO2001009823A1 (en) System and method for multispectral image processing of ocean imagery
JPH06308256A (en) Cloudy fog detecting method
Smith et al. Identification and tracking of maritime objects in near-infrared image sequences for collision avoidance
Balcilar et al. Extracting vehicle density from background estimation using Kalman filter
KR100994418B1 (en) System For Processing Imaging For Detecting the Invasion Of Building and Method Thereof
JP3736836B2 (en) Object detection method, object detection apparatus, and program
JPH05300516A (en) Animation processor
JP6977200B2 (en) Image processing equipment, image processing methods and programs
KR19990062036A (en) Edge Detection Method Using Differential Operators
JP4482623B2 (en) Extraction method of ships from time series voyage images
Nelson et al. Fractal-based image processing for mine detection
EP3282420B1 (en) Method and apparatus for soiling detection, image processing system and advanced driver assistance system
Smith et al. The statistical characterization of the sea for the segmentation of maritime images
Stojanović et al. Improved dehazing techniques for maritime surveillance image enhancement
KR900702471A (en) Split method for use on moving objects

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080801

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090801

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100801

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110801

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110801

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120801

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120801

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130801

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130801

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees