JP2002352340A - Image monitoring device - Google Patents

Image monitoring device

Info

Publication number
JP2002352340A
JP2002352340A JP2001161684A JP2001161684A JP2002352340A JP 2002352340 A JP2002352340 A JP 2002352340A JP 2001161684 A JP2001161684 A JP 2001161684A JP 2001161684 A JP2001161684 A JP 2001161684A JP 2002352340 A JP2002352340 A JP 2002352340A
Authority
JP
Japan
Prior art keywords
image
detection
area
detecting means
intruding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001161684A
Other languages
Japanese (ja)
Other versions
JP3997062B2 (en
Inventor
Kazuya Takahashi
一哉 高橋
Chieko Konuma
小沼  知恵子
Keisuke Nakajima
啓介 中島
Toshimichi Okada
俊道 岡田
Miyuki Fujii
幸 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Ltd
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd, Hitachi Kokusai Electric Inc filed Critical Hitachi Ltd
Priority to JP2001161684A priority Critical patent/JP3997062B2/en
Publication of JP2002352340A publication Critical patent/JP2002352340A/en
Application granted granted Critical
Publication of JP3997062B2 publication Critical patent/JP3997062B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To solve the problem that a conventional method can not follow a dynamic change such as a sunlight condition of an area to be monitored, resulting in false detection and failure in detection of an intruding object. SOLUTION: An object which moves fast is detected on the basis of a rapidly updated luminance difference between a reference image and a monitored image, an object which moves at a low speed is detected by using an averaging monitored image, and an object which is silhouetted by a silhouette object detecting means is detected when a reflected state is discriminated by an environment analyzing means.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は動きのある背景中に
おいて監視対象物を検出して監視する画像監視装置に係
り、特に水面の波や照り返しなどの動きのある場面や、
木々の揺らぎなど動きのある場面の中で侵入物体の動き
を選択的に検出して報知する画像監視装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image monitoring apparatus for detecting and monitoring an object to be monitored in a moving background, and particularly to a moving scene such as a wave on a water surface or reflection.
The present invention relates to an image monitoring device that selectively detects and notifies the movement of an intruding object in a moving scene such as the fluctuation of trees.

【0002】[0002]

【従来の技術】画像監視装置として、監視対象領域内に
侵入物体を検知すると侵入物体の存在を監視員に報知す
る装置が多数紹介されている。従来の画像監視装置とし
ては、例えばプリセット機能付カメラと、赤外線センサ
ーと、モニターと、録画装置から成る画像監視装置があ
る。
2. Description of the Related Art As an image monitoring apparatus, there have been introduced a large number of apparatuses which, when an intruding object is detected in a monitoring target area, notify an observer of the presence of the intruding object. Conventional image monitoring devices include, for example, an image monitoring device including a camera with a preset function, an infrared sensor, a monitor, and a recording device.

【0003】プリセット機能付カメラとは画角の向きと
拡大率を制御できるTVカメラであって、あらかじめ複数
箇所の画角の向きと拡大率の組合せを記憶して随時選択
できる機能を有するカメラである。赤外線センサーは赤
外線の照射部と受光部を向かい合わせて設置し、侵入物
体が照射部と受光部の間を通り赤外線を遮る事の検出を
もって侵入物体の検出としている。
A camera with a preset function is a TV camera capable of controlling the direction of the angle of view and the enlargement ratio, and has a function of storing in advance a combination of the direction of the angle of view and the enlargement ratio at a plurality of locations and selecting the combination at any time. is there. The infrared sensor is installed with the infrared irradiating part and the light receiving part facing each other, and detects the intruding object by detecting that the intruding object passes between the irradiating part and the light receiving part and blocks the infrared ray.

【0004】監視対象領域内の1箇所あるいは数箇所に
赤外線センサーを設け、プリセット機能付カメラの画角
の向きと拡大率を前記赤外線センサーの位置に合わせ
る。赤外線センサーの一つが侵入物体を検出すると、こ
れに連動して画角の向きと拡大率が選択されて前記プリ
セット機能付カメラで捉えた画像を録画装置で録画する
動作をする。
An infrared sensor is provided at one or several places in the monitored area, and the direction of the angle of view and the magnification of the camera with the preset function are adjusted to the position of the infrared sensor. When one of the infrared sensors detects an intruding object, the direction of the angle of view and the magnification are selected in conjunction with the detection, and the image captured by the camera with the preset function is recorded by the recording device.

【0005】また、特開2000−209571号公報
に記載の発明では、前述の従来型画像監視装置に画像処
理装置を加えた構成で、赤外線センサーで侵入物体を検
出し、侵入物体を含む画像を画像処理装置で処理して輝
度の変化に応じてプリセット機能付カメラの画角と拡大
率を決定している。
Further, in the invention described in Japanese Patent Application Laid-Open No. 2000-209571, an intrusion object is detected by an infrared sensor and an image including the intrusion object is detected by using an infrared sensor to detect an intruding object. The angle of view and the enlargement ratio of the camera with the preset function are determined according to the change in luminance by processing in the image processing device.

【0006】さらに、特開平11−45379号公報に
記載の発明では、カメラと、録画装置と、モニターと、
画像処理装置から成り、カメラの画像を画像処理装置で
処理して、監視対象領域内の動きを検出して、該動き部
分を侵入物体として録画したり、監視員に報知したりし
ている。
Further, according to the invention described in Japanese Patent Application Laid-Open No. H11-45379, a camera, a recording device, a monitor,
The image processing apparatus processes an image from a camera, detects a movement in the monitoring target area, records the moving portion as an intruding object, or notifies a monitoring person.

【0007】また、特開平11−355764号公報に
記載の発明では、侵入物体の存在しない監視対象領域の
画像を基準画像として保持し、監視対象領域の現画像と
基準画像の輝度を比較し、輝度差を生じる部分を侵入物
体として検出している。更に侵入物体の位置が中心にく
るようにカメラの画角と拡大率を決定している。
In the invention described in Japanese Patent Application Laid-Open No. H11-355564, an image of a monitoring target area where no intruding object exists is held as a reference image, and the luminance of the current image of the monitoring target area and the luminance of the reference image are compared. The part that produces a difference in luminance is detected as an intruding object. Further, the angle of view and the magnification of the camera are determined so that the position of the intruding object is at the center.

【0008】[0008]

【発明が解決しようとする課題】しかし、上述の従来型
画像監視装置と特開2000−209571号公報に記
載の発明では、監視対象領域内の赤外線センサーの設置
してある場所でのみ侵入物体の検出が可能であり、これ
以外の場所では侵入物体を検出できないという第一の課
題を有している。
However, according to the conventional image monitoring apparatus described above and the invention described in Japanese Patent Application Laid-Open No. 2000-209571, an intruding object is detected only at a place where an infrared sensor is installed in a monitoring target area. The first problem is that detection is possible, and an intruding object cannot be detected in other places.

【0009】また、水面の波や照り返しや、木々の枝葉
など、背景に動きのある場面で特開平11−45379
号公報と特開平11−355764号公報に記載の発明
を用いると、侵入物体が存在しないときでも監視対象領
域内のこれらの動きを侵入物体と誤って検出するという
第二の課題がある。
[0009] Further, in a scene where the background is moving, such as waves and reflections on the water surface and branches and leaves of trees, Japanese Patent Application Laid-Open No. H11-45379.
When the invention described in Japanese Patent Application Laid-Open No. H11-355564 and Japanese Patent Application Laid-Open No. 11-355564 are used, there is a second problem that even when no intruding object exists, these movements in the monitoring target area are erroneously detected as an intruding object.

【0010】ところで、洋上を船舶が航行すると該船舶
の後方に航跡が発生する。船舶が高速であると航跡は際
立って現れ、しかも船舶の大きさの数倍にも達する。以
上のような状況で特開平11−45379号公報および
特開平11−355764号公報に記載の発明を適用す
ると、侵入物体として該船舶の航跡を捉えてしまい、録
画画像にも航跡しか記録されないという第三の課題があ
る。
[0010] By the way, when a ship sails on the sea, a wake occurs behind the ship. When a ship is fast, the wake is noticeable and can be several times the size of the ship. When the inventions described in JP-A-11-45379 and JP-A-11-355768 are applied in such a situation, the wake of the ship is captured as an intruding object, and only the wake is recorded in the recorded image. There is a third challenge.

【0011】本発明の目的は、水面の波や照り返しや、
木々の枝葉などの背景に動きを誤検出することなしに精
度よく侵入物体を検出することができる画像監視装置を
提供することにある。
[0011] The object of the present invention is to create a wave or reflection on the water surface,
It is an object of the present invention to provide an image monitoring device capable of detecting an intruding object with high accuracy without erroneously detecting a motion in a background such as a branch of a tree.

【0012】本発明の他の目的は、侵入物体の存在座標
を正確に計測し、該座標にカメラの画角を向けることが
できる画像処理装置を提供することにある。
Another object of the present invention is to provide an image processing apparatus capable of accurately measuring the coordinates of the presence of an intruding object and pointing the angle of view of the camera to the coordinates.

【0013】[0013]

【課題を解決するための手段】第一の課題を解決するた
めの、本発明の第一様態として、監視対象領域の画像を
処理して、基準画像との局所的な輝度差をもって侵入物
体候補とし、前記侵入物体候補を数フレームに亘って追
跡し、所定の距離以上移動したことを確認したうえで侵
入物体として判定して監視員に報知したり、録画装置に
録画したりする。
As a first aspect of the present invention for solving the first problem, an image of a monitoring target area is processed, and an intruding object candidate is determined based on a local luminance difference from a reference image. Then, the intruding object candidate is tracked over several frames, and after confirming that the intruding object has moved a predetermined distance or more, the intruding object candidate is determined as an intruding object and reported to a supervisor or recorded on a recording device.

【0014】以上の構成によって監視対象領域全域をテ
レビカメラの画角に収めれば、監視対象領域全域で侵入
物体の検出が可能となる。そもそも侵入物体がいくらか
移動した後に報知してもかまわない場合が多く、第一様
態を採ることで、枝葉や旗の往復運動や、水面の揺らぎ
に反応することなく、移動する侵入物体を捉えることが
可能となる。
With the above configuration, if the whole area to be monitored is set within the angle of view of the television camera, an intruding object can be detected in the whole area to be monitored. In most cases, it is acceptable to notify after the intruding object has moved to some extent, and by adopting the first uniformity, catching the intruding object that moves without reacting to the reciprocating motion of the branches and leaves or the flag or the fluctuation of the water surface Becomes possible.

【0015】第二の課題を解決するための、本発明の第
二様態として、第一の様態と同様の構成に付加するもの
として、前記基準画像として検出対象別に複数の基準画
像を有し、各々の基準画像と監視対象領域画像の局所的
な輝度差に基づき侵入物体を検出することを特徴とする
画像監視装置を提供する。
According to a second aspect of the present invention for solving the second problem, a plurality of reference images are provided for each detection target as the reference image, in addition to the same configuration as the first aspect. Provided is an image monitoring device characterized by detecting an intruding object based on a local luminance difference between each reference image and a monitoring target region image.

【0016】複数の基準画像中の、第一基準画像は1フ
レームから数フレーム過去の監視対象領域画像を用いて
十分速やかに更新される基準画像であって、波や木々の
揺らぎも取り込まれた基準画像なので、波や木々の揺ら
ぎに基づく輝度差が生じにくく、これら波や木々の揺ら
ぎを侵入物体と誤検出することが少ない一方で、監視対
象領域を侵入物体がある程度の速度で横切ると基準画像
との間に輝度差が生じて前記侵入物体を検出することが
できる。
The first reference image of the plurality of reference images is a reference image which is updated sufficiently quickly using the monitoring target region image from one frame to several frames in the past, and also incorporates fluctuations of waves and trees. Since this is a reference image, it is unlikely that a luminance difference due to fluctuations of waves and trees will occur, and it is unlikely that these waves and fluctuations of trees will be erroneously detected as intruding objects. A luminance difference occurs between the image and the image, so that the intruding object can be detected.

【0017】ただし、侵入物体が非常な低速で侵入する
場合は揺らぐ波や木々と同ように侵入物体も第一基準画
像に取り込まれてしまい、低速の侵入物体を捉えられな
いという問題がある。この問題を解消するために第二基
準画像を用いるものであって、第二基準画像は過去の数
フレームを所定の加重で加算平均して得られる。数フレ
ームを加算平均すると、波や木々の揺らぎは平均化され
て時間的な輝度変動は相殺される一方で、静止した岩や
建造物はコントラストの良いくっきりとした基準画像に
なる。
However, when an intruding object enters at an extremely low speed, the intruding object is also captured in the first reference image, like waves and trees that fluctuate, and there is a problem that the intruding object at a low speed cannot be captured. In order to solve this problem, a second reference image is used. The second reference image is obtained by averaging several past frames with a predetermined weight. When several frames are added and averaged, fluctuations of waves and trees are averaged out, and temporal luminance fluctuations are canceled out, while stationary rocks and buildings become sharp reference images with good contrast.

【0018】また、監視画像として監視対象領域の画像
の過去数フレームから現フレームまでを所定の加重で加
算平均すると、波や木々の揺らぎによる輝度の時間変動
は相殺される一方で、低速で移動したり静止したりして
いる侵入物体はコントラストの良いくっきりとした監視
画像になる。第二基準画像と加算平均による監視画像の
局所的輝度差を求めると、波や木々の揺らぎを捉えるこ
となく侵入物体を検出できる。
Further, when a surveillance image is averaged with a predetermined weight from the past several frames to the current frame of the image of the surveillance area, the temporal fluctuation of the luminance due to the fluctuation of the waves and trees is canceled out, but the moving speed is low. A moving or stationary intruding object results in a sharp monitoring image with good contrast. When the local luminance difference between the second reference image and the monitoring image based on the averaging is obtained, an intruding object can be detected without catching fluctuations of waves and trees.

【0019】しかし、加算平均による監視画像では高速
で移動する物体はぼやける傾向にあって検出し難い。そ
こで第一基準画像で、ある速度以上の侵入物体を検出し
て第二の基準画像である速度以下の侵入物体を検出する
のが望ましい。
However, an object moving at a high speed tends to be blurred in the monitoring image based on the averaging and is hard to detect. Therefore, it is desirable to detect an intruding object higher than a certain speed in the first reference image and detect an intruding object lower than the speed as the second reference image.

【0020】第二の課題を解決するための、本発明の第
三様態として、第二様態と同様の構成に付加するものと
して、反射光検出手段とシルエット物体検出手段を設け
ることを特徴とする。
A third aspect of the present invention for solving the second problem is characterized in that a reflected light detecting means and a silhouette object detecting means are provided as additions to the same configuration as the second aspect. .

【0021】反射光検出手段は侵入物体候補として検出
された領域の輝度が所定の輝度よりも高い場合は、侵入
者物体候補は太陽等の照り返し、即ち反射光であるとし
て、侵入者物体候補の領域に対して局所的に第一基準画
像と第二基準画像に基づく物体検出処理を一時的に無効
化する。すなわち、侵入者物体候補の領域に対して一時
的に物体検出処理のマスクをする。
When the luminance of the area detected as the intruder object candidate is higher than a predetermined luminance, the reflected light detection means determines that the intruder object candidate is a reflection of the sun or the like, that is, reflected light, and determines that the intruder object candidate is reflected light. The object detection processing based on the first reference image and the second reference image is temporarily invalidated locally for the region. In other words, the area of the intruder object candidate area is temporarily masked for the object detection processing.

【0022】このように反射光が存在する領域に侵入物
体が存在すると、侵入物体が強力な発光体でない限りは
必ず物体部分が黒く塗りつぶされたシルエット状態にな
る。そこでシルエット状態になった侵入物体をシルエッ
ト物体検出手段で検出すれば、第一基準画像と第二基準
画像に基づく物体検出処理を一時的に無効化された領域
に侵入物体が在ってもこれを検出することが可能でしか
も反射光を侵入物体と誤検出することがない。
When an intruding object is present in the area where the reflected light exists, as long as the intruding object is not a powerful luminous body, a silhouette state is obtained in which the object portion is always painted black. Therefore, if the intruding object in the silhouette state is detected by the silhouette object detecting means, even if there is an intruding object in the area where the object detection processing based on the first reference image and the second reference image is temporarily invalidated, Can be detected, and the reflected light is not erroneously detected as an intruding object.

【0023】このように第三の様態にすると、太陽など
の強力光源が水面で反射する場合は波の揺らぎに応じて
反射光が動き、第一の基準画像と監視画像の間に局所的
な差異が生じ、誤検出が生じるという問題を解決するこ
とができる。
According to the third aspect, when an intense light source such as the sun is reflected on the water surface, the reflected light moves in accordance with the fluctuation of the wave, and a local light exists between the first reference image and the monitoring image. It is possible to solve the problem that a difference occurs and an erroneous detection occurs.

【0024】第三の課題を解決するための、本発明の第
四様態として、第一から第三の様態の何れかの構成にし
て、侵入物体候補を追跡する際に侵入物体候補の速度ま
たは移動方向を計測し、侵入物体候補の移動方向側の輪
郭を含む部分を侵入物体候補の位置として、監視員に報
知したり、録画したり、もう一つのカメラの画角と拡大
率を合わせたりすることを特徴とする。以上の追跡処理
により、侵入物体の後に航跡が残っていても侵入物体自
体を的確に捉えることができる。
As a fourth aspect of the present invention for solving the third problem, according to any one of the first to third aspects, when tracking an intruding object candidate, the speed or the speed of the intruding object candidate is determined. Measures the moving direction, notifies the observer of the part including the contour on the moving direction side of the intruding object candidate as the position of the intruding object candidate, records it, matches the view angle of another camera with the magnification, and It is characterized by doing. With the above tracking process, even if a wake remains after the intruding object, the intruding object itself can be accurately caught.

【0025】なお、カメラから得られる動画像は静止画
像の系列からなっており、本明細書においてはこの系列
画像である静止画の一枚一枚をフレームと称することに
する。標準的なNTSC仕様のテレビカメラの動画像は毎秒
約30枚のフレームによって構成されている。
A moving image obtained from a camera is composed of a series of still images, and in the present specification, each still image which is a series of images is referred to as a frame. A moving image of a standard NTSC television camera is composed of about 30 frames per second.

【0026】[0026]

【発明の実施の形態】本発明の実施の形態について図面
を参照して説明する。以下では洋上の侵入船監視装置を
例として説明するが、本発明はこれに限られない。
Embodiments of the present invention will be described with reference to the drawings. In the following, a description will be given of an intruder monitoring apparatus at sea as an example, but the present invention is not limited to this.

【0027】図13は本発明の画像監視装置の実施形態
の一例である。図13において、岸壁あるいは臨海建造
物1304に固定された支柱1303にカメラ1301
とカメラ1302が設置されている。カメラ1301は
画角調整装置1306によって向きを変えたり拡大率を
変えたりすることができる。カメラ1302は監視対象
領域全体を覆うように画角を設定してある。
FIG. 13 shows an example of an embodiment of the image monitoring apparatus according to the present invention. In FIG. 13, a camera 1301 is attached to a support 1303 fixed to a quay or a seaside building 1304.
And a camera 1302. The camera 1301 can be changed in direction and magnification by the angle-of-view adjusting device 1306. The angle of view of the camera 1302 is set so as to cover the entire monitoring target area.

【0028】カメラ1301の映像はモニター1305
を介して監視員が目視可能であり、録画装置1308に
録画することができる。画角調整装置1306と、録画
装置1308と、モニター1305には図示されていな
いがマンマシンのインタフェースが存在して、該マンマ
シンインタフェースを介して監視員が手動でカメラ13
01の画角を制御してモニター1305を介して前記監
視対象領域を目視することができる。必要に応じてカメ
ラ1301の映像を録画装置1308に録画することが
できる。
An image of the camera 1301 is displayed on a monitor 1305.
Can be visually observed by the observer, and can be recorded on the recording device 1308. Although not shown, a man-machine interface exists on the angle-of-view adjusting device 1306, the recording device 1308, and the monitor 1305, and the monitor manually operates the camera 13 via the man-machine interface.
By controlling the angle of view 01, the monitoring target area can be visually observed via the monitor 1305. The video of the camera 1301 can be recorded on the recording device 1308 as needed.

【0029】本発明の画像処理装置を自動モードにする
と、画像処理装置1305がカメラ1302の映像を処
理して、監視対象領域に例えば侵入船1312が存在す
るとこれを検出して、侵入船1312の検出位置に応じ
て画角調整装置1306を介してカメラ1301の画角
と拡大率を自動制御する。
When the image processing apparatus of the present invention is set to the automatic mode, the image processing apparatus 1305 processes the image of the camera 1302 and detects, for example, if the intruding ship 1312 exists in the monitoring target area, The angle of view and the magnification of the camera 1301 are automatically controlled via the angle-of-view adjusting device 1306 according to the detected position.

【0030】画像処理装置1305は録画装置1308
を制御してカメラ1301の画像を録画するとともに、
報知装置1307を介して監視員に報知する。報知手段
1307によって監視員に知らせる。知らせる方法とし
ては音声や光の点滅等の方法がとれる。
The image processing device 1305 is a recording device 1308
To record the image of the camera 1301,
A monitoring member is notified via the notification device 1307. The monitoring means is notified by the notification means 1307. As a method of notifying, a method such as sound or blinking of light can be used.

【0031】また、モニター1310を設けてカメラ1
302の映像を確認できるようにしてもよいし、録画装
置1308を設けてカメラ1302の映像を録画できる
ようにしてもよい。また、録画装置1308に上書き録
画可能な機能を有するものを用いて常時録画しておき、
画像処理装置1305の出力で録画動作を停止すれば、
侵入船1312が侵入する以前から侵入直後までの映像
を残すことができる。
A monitor 1310 is provided so that the camera 1
The image of the camera 302 may be recorded, or the recording device 1308 may be provided so that the image of the camera 1302 can be recorded. Also, the recording device 1308 is always recorded using a device having a function capable of overwriting recording,
If the recording operation is stopped at the output of the image processing device 1305,
An image from before the intruding ship 1312 intrudes to immediately after it intrudes can be left.

【0032】なお、カメラ1301とカメラ1302は
必ずしも同一の支柱に設置する必要はない。
The cameras 1301 and 1302 do not necessarily need to be installed on the same support.

【0033】以上の構成を採ることにより、監視対象領
域全域をテレビカメラの画角におさめれば、監視対象領
域全域で侵入物体の検出が可能となる効果がある。そも
そも侵入物体がいくらか移動した後に報知してもかまわ
ない場合が多く、以上の様態を採ることで、枝葉や旗の
往復運動や、水面の揺らぎに反応することなく、移動す
る侵入物体を捉えることが可能となる効果がある。
By adopting the above configuration, if the whole area to be monitored is set to the angle of view of the television camera, there is an effect that an intruding object can be detected in the whole area to be monitored. In most cases, it is OK to notify after the intruding object has moved to some extent, and by adopting the above-mentioned mode, it is possible to catch the moving intruding object without responding to the reciprocating motion of the branches and leaves or the flag, and the fluctuation of the water surface There is an effect that becomes possible.

【0034】次に本発明の画像監視装置の第二の実施例
を説明する。本発明の画像監視装置の第二実施例は第一
実施例と同様の構成にして、画像処理装置1305の構
成は、図1に示すように、画像入力手段101と、時系
列画像保持手段102と、加算平均画像作成手段103
と、高速及び通常速度の移動物体検出手段104と、シ
ルエット物体検出手段105と、低速及び停止物体検出
手段106と、検出物体選択手段107と、環境分析手
段108と、物体追跡手段109と、侵入物体判定手段
110と、表示手段111から成る。
Next, a description will be given of a second embodiment of the image monitoring apparatus according to the present invention. The second embodiment of the image monitoring apparatus of the present invention has the same configuration as that of the first embodiment, and the configuration of the image processing apparatus 1305 includes an image input unit 101 and a time-series image holding unit 102 as shown in FIG. And the averaging image creating means 103
High-speed and normal-speed moving object detection means 104, silhouette object detection means 105, low-speed and stop object detection means 106, detection object selection means 107, environment analysis means 108, object tracking means 109, It comprises an object determining means 110 and a display means 111.

【0035】画像入力手段101はカメラ1302の画
像を取込んでアナログ/デジタル変換する。時系列画像
保持手段102は時系列の画像を複数枚保持する。加算
平均画像作成手段103は時系列画像保持手段102の
画像を所定の加重で加算平均して加算画像を作成する。
高速及び通常速度の移動物体検出手段104は時系列画
像保持手段102の時系列画像から揺らぎ入り基準画像
を作成して保持する。
The image input means 101 takes in the image of the camera 1302 and performs analog / digital conversion. The time-series image holding unit 102 holds a plurality of time-series images. The averaging image creating unit 103 creates an added image by averaging the images of the time-series image holding unit 102 with a predetermined weight.
The high-speed and normal-speed moving object detection unit 104 creates and stores a fluctuation-based reference image from the time-series image of the time-series image holding unit 102.

【0036】揺らぎ入り基準画像は波や木立などの背景
の揺らぎを取込んで更新する基準画像であり、背景の揺
らぎよりも大きな輝度変動を伴う変化を排除した基準画
像である。高速及び通常速度の移動物体検出手段104
は時系列画像保持手段の保持する最新画象と前記揺らぎ
入り背景画像との輝度差が所定の値以上の領域を侵入物
体候補として出力する。出力形式は侵入物体候補領域と
それ以外の領域を二値化した二値画像データでもよい
し、該侵入物体候補領域の外接矩形の座標でもよい。
The fluctuation-added reference image is a reference image which is updated by taking in the fluctuation of the background such as a wave or a grove, and is a reference image from which a change accompanied by a luminance fluctuation larger than the fluctuation of the background is excluded. High-speed and normal-speed moving object detecting means 104
Outputs, as an intruding object candidate, an area in which the luminance difference between the latest image held by the time-series image holding means and the fluctuation-containing background image is equal to or larger than a predetermined value. The output format may be binary image data obtained by binarizing an intruding object candidate area and other areas, or coordinates of a circumscribed rectangle of the intruding object candidate area.

【0037】高速及び通常速度の移動物体検出手段10
4は加算平均画像作成手段103の加算平均画像と、時
系列画像保持手段102の最新画象との輝度差の分布か
ら揺らぎの激しい部分と激しくない部分に分類する。最
新画象と揺らぎ入り背景画像との輝度差を所定の値をし
きい値として侵入物体候補を検出しているが、揺らぎの
激しい部分と激しくない部分で前記しきい値を可変と
し、例えば揺らぎの激しい部分ではしきい値を高くする
ことで、波や木立の揺らぎによる侵入物体の誤検出の可
能性を減ずることもできる。しかしこれは必須ではな
い。
High-speed and normal-speed moving object detecting means 10
No. 4 classifies into a part with a strong fluctuation and a part with a small fluctuation from the distribution of the luminance difference between the addition average image of the addition average image creating means 103 and the latest image of the time-series image holding means 102. Although the intruding object candidate is detected by using a predetermined value as a threshold value for the luminance difference between the latest image and the background image with fluctuation, the threshold value is made variable in a portion where the fluctuation is severe and a portion where the fluctuation is not severe. By increasing the threshold value in a severe part, the possibility of erroneous detection of an intruding object due to fluctuations of waves or trees can be reduced. But this is not required.

【0038】ところで、カメラと太陽などの光源の間に
侵入物体が存在すると侵入物体はシルエット化する。こ
のときカメラの映像は光源による照り返しの高輝度の領
域が存在し、高輝度の領域内の低輝度領域として、該侵
入物体のシルエット化が見られる。
By the way, if an intruding object exists between the camera and the light source such as the sun, the intruding object becomes a silhouette. At this time, the image of the camera has a high-luminance area reflected by the light source, and a silhouette of the intruding object is seen as a low-luminance area within the high-luminance area.

【0039】シルエット物体検出手段105はこのシル
エット化した侵入物体を検出する機能を有する。シルエ
ット物体検出手段105は加算平均画像作成手段103
の加算平均画像の中で所定の輝度しきい値以上の領域を
照り返し領域と見なし、時系列画像保持手段102の最
新画象の前記照り返し領域内において、シルエット検出
用輝度しきい値以下の領域をシルエット化した侵入物体
候補として検出する。
The silhouette object detecting means 105 has a function of detecting the silhouetted intruding object. The silhouette object detection means 105 is an addition average image creation means 103
In the addition average image, a region having a luminance threshold or higher is regarded as a reflection region, and a region having a luminance detection threshold or less in the latest reflection image of the time-series image holding unit 102 is defined as a reflection region. It is detected as a silhouetted intruding object candidate.

【0040】低速物体及び停止物体検出手段106は加
算平均画像作成手段103の加算平均画像の空間的な輝
度変化の大きい領域を、低速物体あるいは停止物体の候
補として検出する。
The low-speed object and stationary object detecting means 106 detects an area of the averaging image of the averaging image generating means 103 where the spatial luminance change is large as a candidate for a low-speed object or a stationary object.

【0041】以上説明した3つの物体候補検出手段すな
わち高速及び通常速度の移動物体検出手段104と、シ
ルエット物体検出手段105と、低速物体及び停止物体
検出手段106は侵入物体の移動速度の高低や監視対象
領域の照り返しの有無などで侵入物体検出性能が変わる
ので、これらを併用して組み合わせると効果的な監視装
置になる。
The three object candidate detecting means described above, that is, the moving object detecting means 104 at a high speed and a normal speed, the silhouette object detecting means 105, and the low speed object and the stationary object detecting means 106 are used for monitoring the moving speed of the intruding object. Since the intruding object detection performance changes depending on the presence or absence of reflection of the target area, an effective monitoring device can be obtained by using these in combination.

【0042】検出物体選択手段107は、それぞれ高速
及び通常速度の移動物体検出手段104と、シルエット
物体検出手段105と、低速物体及び停止物体検出手段
106による検出結果を統合する。
The detection object selection means 107 integrates the detection results of the high-speed and normal-speed moving object detection means 104, the silhouette object detection means 105, and the low-speed and stationary object detection means 106, respectively.

【0043】本発明の画像監視装置は運用環境に応じて
検出物体選択手段107の機能を設定できる。たとえ
ば、監視業務に専念する監視員を配置する運用では監視
員の判断で検出物体選択手段107を手動で操作して、
それぞれ高速及び通常速度の移動物体検出手段104
と、シルエット物体検出手段105と、低速物体及び停
止物体検出手段106による検出結果を無効にしたり有
効にしたりすることができる。このとき、有効な検出物
体は各手法の結果を論理和した状態になる。
The image monitoring apparatus of the present invention can set the function of the detection object selection means 107 according to the operating environment. For example, in an operation of arranging a monitor dedicated to monitoring work, the detected object selecting means 107 is manually operated at the discretion of the monitor,
High-speed and normal-speed moving object detection means 104
The detection results by the silhouette object detection means 105 and the low-speed object / stop object detection means 106 can be invalidated or validated. At this time, the effective detected object is in the state of the logical sum of the results of each method.

【0044】更に、環境分析手段108を設けて監視対
象領域の環境を判定し、検出物体選択手段107におけ
る各検出結果の有効無効の切り替えを自動化しても良
い。
Furthermore, the environment analyzing means 108 may be provided to determine the environment of the monitoring target area, and the detection object selecting means 107 may automatically switch the validity / invalidity of each detection result.

【0045】表示手段111は環境分析手段108の動
作状況を表示するもので、監視対象領域の分析結果や、
検出物体選択手段107の選択結果を表示することがで
きる。監視員が検出物体選択手段107を手動で操作す
るときは表示手段111が表示する環境分析結果を参考
にすることもできる。
The display unit 111 displays the operation status of the environment analysis unit 108.
The selection result of the detection object selection means 107 can be displayed. When the observer manually operates the detection object selection unit 107, the environment analysis result displayed by the display unit 111 can be referred to.

【0046】物体追跡手段109は検出物体選択手段1
07で有効となった検出物体を複数フレームに亘って追
跡する。侵入物体判定手段110は物体追跡手段109
の追跡結果をもとに追跡物体が侵入物体なのか揺らぎ等
によるノイズなのかを判定してその結果を画像処理装置
1305の出力とする。
The object tracking means 109 is the detection object selecting means 1
The detection object validated in 07 is tracked over a plurality of frames. The intruding object determining means 110 is the object tracking means 109
It is determined whether the tracking object is an intruding object or noise due to fluctuation or the like on the basis of the tracking result, and the result is used as an output of the image processing apparatus 1305.

【0047】以上の構成を採ることで、枝葉や旗の往復
運動や、水面の揺らぎで誤動作することを大幅に抑えら
れるのに加えて、これら背景の揺らぎよりも動きの少な
い侵入物体や、逆光でシルエット状態になった侵入物体
も感度良く捉えることができる。更に、環境分析手段1
08の分析結果を表示することで、監視員にとって動作
状況を把握し易く、扱いやすいシステムとなる効果があ
る。
By adopting the above configuration, reciprocal movement of branches and leaves and flags, and malfunction due to fluctuations in the water surface can be greatly suppressed. In addition, intruding objects having less movement than these background fluctuations and backlighting , The intruding object in the silhouette state can be caught with high sensitivity. Furthermore, environmental analysis means 1
By displaying the analysis result of 08, there is an effect that the operation status can be easily grasped and monitored by the monitor.

【0048】本発明の監視装置は画像取得インタフェー
スと信号出力インタフェースを備えたコンピュータによ
って実現することも可能で、図2に示す処理の流れにな
る。
The monitoring device of the present invention can be realized by a computer having an image acquisition interface and a signal output interface, and the processing flow is as shown in FIG.

【0049】図2において、各パラメータと画像格納用
のメモリ領域を初期化する(ステップ1)。これにより
誤作動を防止できるのに加えて監視サイクル開始後に速
やかに侵入物体検出動作に入れる。監視サイクル開始後
に終了命令の割込みの有無をチェックし、終了割込みが
ある場合は処理を終了し、終了割込みの無い場合はステ
ップ3に移行する(ステップ2)。
In FIG. 2, each parameter and a memory area for storing an image are initialized (step 1). As a result, malfunction can be prevented, and in addition, the operation for detecting an intruding object is started immediately after the start of the monitoring cycle. After the start of the monitoring cycle, it is checked whether or not there is a termination instruction interrupt. If there is a termination interrupt, the process is terminated. If there is no termination interrupt, the process proceeds to step 3 (step 2).

【0050】監視対象領域の画像を、画像取得インタフ
ェースを介して取得する(ステップ3)。必要な枚数の
時系列画像を保持しつつ、ステップ3で取得した画像で
更新する(ステップ4)。現在までの時系列画像の加算
平均画像を更新する(ステップ5)。
An image of the monitoring target area is acquired via the image acquisition interface (Step 3). While retaining the required number of time-series images, updating is performed with the images acquired in step 3 (step 4). The averaging image of the time-series images up to the present is updated (step 5).

【0051】高速船有効フラグと、シルエット有効フラ
グと、低速船有効フラグを設け、ステップ1の初期設定
であらかじめ有効または無効を設定しておく。高速船有
効フラグが有効であれば高速船及び通常速度の移動物体
検出処理を行う(ステップ6)。シルエット有効フラグ
が有効であればシルエット物体検出処理を行う(ステッ
プ7)。低速船有効フラグが有効であれば低速及び停止
物体検出処理を行う(ステップ8)。ステップ6乃至ス
テップ8の処理は図2の順序に限ることなしにどの順に
行ってもよい。
A high-speed ship valid flag, a silhouette valid flag, and a low-speed ship valid flag are provided, and valid or invalid is set in advance in the initial setting of step 1. If the high-speed ship valid flag is valid, a moving object detection process of the high-speed ship and the normal speed is performed (step 6). If the silhouette valid flag is valid, a silhouette object detection process is performed (step 7). If the low-speed ship valid flag is valid, low-speed and stationary object detection processing is performed (step 8). The processing of steps 6 to 8 may be performed in any order without being limited to the order of FIG.

【0052】環境分析処理では、平均加算画像の輝度と
ステップ6乃至ステップ8による侵入物体候補の大きさ
や個数から波の荒れ模様や白波の立ち具合や照り返しの
有無を判断してステップ6乃至ステップ8の有効フラグ
の“有効”、“無効”を設定したり、ステップ6乃至ス
テップ8の、侵入物体候補検出のしきい値の高低を制御
したりする(ステップ9)。これらフラグとしきい値は
次の監視サイクルすなわちステップ3で再び画像取得し
てステップ6乃至8を実行するときに有効となる。
In the environment analysis processing, it is determined from the luminance of the average added image and the size and the number of the intruding object candidates in steps 6 to 8 whether or not the rough pattern of the waves, the standing of the white waves, and the presence or absence of the reflection are determined in steps 6 to 8. Is set to "valid" or "invalid" of the valid flag, and the level of the threshold value for detecting the intruding object candidate in steps 6 to 8 is controlled (step 9). These flags and threshold values are effective when the image is acquired again in the next monitoring cycle, that is, in step 3, and steps 6 to 8 are executed.

【0053】ステップ9の環境分析の一例として、加算
平均画像の一部領域の平均輝度が所定の値よりも大きい
時はカメラ1302が光源に向いた逆光状態と判定し、
照り返しで誤検出しやすいステップ6の検出法を一時停
止したりまたは検出しきい値を上げて感度を鈍らせたり
する。
As an example of the environment analysis in step 9, when the average luminance of a partial area of the averaging image is larger than a predetermined value, it is determined that the camera 1302 is in a backlight state facing the light source,
The detection method in step 6 that is likely to be erroneously detected by reflection is temporarily stopped, or the sensitivity is increased by increasing the detection threshold.

【0054】このような逆光状態では、侵入物体はシル
エット状に成るのでステップ7の検出法の感度を上げ
る。また、ステップ6の検出法で検出されるも結局は侵
入物体の判定までに至らないものすなわちノイズが多い
場合は、波が荒れて白波が多数立っている状態と判断し
てステップ6の感度を弱めて誤検出の可能性を減ずる一
方で、波間に隠れて低速で侵入してくる物体を検出する
ためにステップ8の低速船を検出する処理の感度を維持
する。
In such a backlight state, the sensitivity of the detection method in step 7 is increased because the intruding object has a silhouette shape. If the detection method of step 6 does not reach the determination of the intruding object, that is, if there is a lot of noise, it is determined that the waves are rough and many white waves are standing, and the sensitivity of step 6 is increased. While reducing the possibility of false detection by weakening, the sensitivity of the processing for detecting a low-speed ship in step 8 to detect an object hidden at a low speed and invading at a low speed is maintained.

【0055】物体追跡処理(ステップ10)では前監視
サイクルで検出した侵入物体候補の位置と特徴をあらか
じめ保持していて、現監視サイクルで検出した侵入物体
候補の位置と特徴を照合して、該侵入物体候補の移動状
況を計測する。このような監視サイクル間の侵入物体候
補の照合は、たとえば各監視サイクルで一つまたは複数
の侵入物体候補が検出されている場合に、監視サイクル
間で該侵入物体候補の位置する距離を計算して最近傍の
侵入物体候補を同一侵入物体候補の移動とみなして行
う。
In the object tracking process (step 10), the positions and characteristics of the intruding object candidates detected in the previous monitoring cycle are held in advance, and the positions and characteristics of the intruding object candidates detected in the current monitoring cycle are collated. The movement status of the intruding object candidate is measured. Such matching of the intruding object candidate during the monitoring cycle is performed, for example, when one or more intruding object candidates are detected in each monitoring cycle, the distance at which the intruding object candidate is located between the monitoring cycles is calculated. Then, the nearest intruder candidate is regarded as the movement of the same intruder candidate.

【0056】また、監視サイクル間で侵入物体候補の大
きさが大きく異なる場合と、距離が大きい場合は照合の
候補から外すこともできる。さらに、該侵入物体候補の
輝度分布の類似性をパターンマッチング処理で計測して
照合することもできる。また、前フレームまでの速度の
変化を最小になるように照合することもできる。
Further, when the size of the intruding object candidate differs greatly between monitoring cycles and when the distance is large, it can be excluded from the candidates for collation. Further, the similarity of the luminance distribution of the intruding object candidate can be measured and collated by pattern matching processing. In addition, it is also possible to perform collation so that a change in speed up to the previous frame is minimized.

【0057】表示処理(ステップ11)では必要に応じ
てステップ9の環境分析の結果を表示したり、ステップ
6乃至ステップ8の動作状況を表示したり、監視対象領
域に侵入物体が存在する場合は枠で囲んで表示したりす
ることができる。侵入物体判定処理(ステップ12)で
は前記侵入物体候補の追跡状況から侵入物体と判定し、
信号出力インタフェースを通じて画角調整装置1306
でカメラ1301を追従させたり、報知手段1307で
監視員に報知したり、録画装置1308で侵入物体の映
像を記録したりする。
In the display process (step 11), the result of the environment analysis of step 9 is displayed as necessary, the operation status of steps 6 to 8 is displayed, and if an intruding object exists in the monitoring target area, It can be displayed in a frame. In the intruding object determination process (step 12), it is determined as an intruding object from the tracking status of the intruding object candidate,
Angle of view adjustment device 1306 through signal output interface
To cause the camera 1301 to follow, the notifying unit 1307 to notify the observer, and the recording device 1308 to record the image of the intruding object.

【0058】次にステップ2で終了割込みのチェックを
経てステップ3の画像取得に至り、監視サイクルを繰り
返す。
Next, in step 2, after checking for an end interrupt, the process reaches the image acquisition in step 3, and the monitoring cycle is repeated.

【0059】以上がコンピュータで画像処理装置130
5を実施する場合の処理の流れで、常に最新のパソコン
の計算速度を利用して侵入物体の検出を行えるという効
果がある。
The above is a computer-based image processing apparatus 130.
5 has the effect that the intruding object can be always detected using the latest calculation speed of the personal computer.

【0060】次に“高速及び通常速度の移動物体検出手
段104”を検出手段104と略称し、検出手段104
の第一実施例の詳細を図3に基づいて説明する。
Next, "moving object detecting means 104 at high speed and normal speed" is abbreviated as detecting means 104.
The first embodiment will be described in detail with reference to FIG.

【0061】図3において、検出手段104は揺らぎ量
計測手段301と、揺らぎ入り基準画像作成手段302
と、検出無効領域設定手段303と、物体検出手段30
4と、検出物体有効無効判定手段305から成る。侵入
物体の存在しない監視対象領域の画像を基準画像として
保持し、物体の侵入に伴って生ずる、前記監視対象領域
の画像の輝度変化を捉えて侵入物体を検出するのが基本
原理である。
In FIG. 3, a detecting means 104 includes a fluctuation amount measuring means 301 and a fluctuation reference image creating means 302.
The detection invalid area setting means 303 and the object detection means 30
4 and detection object valid / invalid determination means 305. The basic principle is that an image of a monitoring target area where no intruding object exists is retained as a reference image, and a change in luminance of the image of the monitoring target area caused by the intrusion of the object is detected to detect the intruding object.

【0062】しかし、波や木々等揺らぐ背景下で誤検出
を防ぐには基準画像に揺らぎを取込む必要がある。ま
た、取込むべき揺らぎ量は時々刻々と変化するので、こ
の変化を計測して揺らぎの取込量を自動的に調整する必
要がある。
However, in order to prevent erroneous detection under a background such as a wave or trees, it is necessary to incorporate the fluctuation into the reference image. In addition, since the fluctuation amount to be captured changes every moment, it is necessary to measure this change and automatically adjust the fluctuation capturing amount.

【0063】検出手段104はこれを実現する構成をし
ていて、揺らぎ量計測手段301は時系列画像保持手段
102の最新フレームまでの数フレームにおける揺らぐ
領域の輝度変動量を計測する。
The detecting means 104 has a configuration for realizing this, and the fluctuation amount measuring means 301 measures the luminance fluctuation amount of the fluctuation area in several frames up to the latest frame of the time-series image holding means 102.

【0064】揺らぎ量の計測の一例として、図4に示す
ように揺らぎ量観測窓401乃至404を設ける。図4
はカメラ1302で捉えた洋上の画像であって、図4
(a)は最新フレームの監視対象領域の画像であり、図4
(b)は数フレーム過去の監視対象領域の画像である。
As an example of measuring the fluctuation amount, fluctuation amount observation windows 401 to 404 are provided as shown in FIG. FIG.
FIG. 4 is an ocean image captured by the camera 1302, and FIG.
(a) is an image of the monitoring target area of the latest frame, and FIG.
(b) is an image of the monitoring target area several frames before.

【0065】たとえば揺らぐ波による輝度の変動量を計
測するために四箇所に揺らぎ量観測窓401乃至404
を設ける。揺らぎ観測窓401内の輝度は波の揺らぎの
ために変動していて、図4(a)は最新フレームと図4(b)
は数フレーム過去画像で輝度差分をとって所定のしきい
値で二値化すると図5(a)の画像になる。
For example, fluctuation amount observation windows 401 to 404 are provided at four positions to measure the fluctuation amount of the luminance due to the fluctuation wave.
Is provided. The brightness in the fluctuation observation window 401 fluctuates due to the fluctuation of the wave, and FIG. 4A shows the latest frame and FIG.
FIG. 5A shows an image obtained by calculating a luminance difference in a several frame past image and binarizing the image with a predetermined threshold value.

【0066】波の揺らぎの大きい状態になるとフレーム
毎の輝度変化は大きくなるので、所定のしきい値で二値
化すると図5(a)よりも差分の面積は大きく、たとえば
図5(b)のようになる。波の揺らぎの少ない状態になると
フレーム毎の輝度変化は少なくなるので、該所定のしき
い値で二値化すると図5(a)よりも差分の面積は少な
く、たとえば図5(c)のようになる。
When the state of the wave fluctuation is large, the luminance change for each frame is large. Therefore, when binarization is performed at a predetermined threshold value, the area of the difference is larger than that of FIG. become that way. When the state of wave fluctuation is small, the luminance change for each frame is small. Therefore, when binarization is performed at the predetermined threshold value, the area of the difference is smaller than that in FIG. 5A, for example, as shown in FIG. 5C. become.

【0067】以上の説明から分かるように、しきい値の
固定化した場合は波の揺らぎが大きくなるほど二値化物
体の面積が図5(b)のように大きく、波の揺らぎが小さい
ほど二値化物体の面積は図5(c)のように小さくなる。
As can be seen from the above description, when the threshold value is fixed, the area of the binarized object increases as the fluctuation of the wave increases, as shown in FIG. 5B, and the area decreases as the fluctuation of the wave decreases. The area of the binarized object becomes smaller as shown in FIG.

【0068】二値化物体の面積を二つの固定数値と比較
して、二値化物体の面積が二つの固定数値の両方より大
きい場合は二値化しきい値を大きくし、二値化物体の面
積が二つの固定数値の両方より小さい場合は二値化しき
い値を小さくすることで、二値物体の面積を一定の範囲
に保って、波の揺らぎの大きさに応じてしきい値の大き
さを変動させることができる。
The area of the binarized object is compared with the two fixed numerical values. If the area of the binarized object is larger than both of the two fixed numerical values, the binarization threshold is increased, and If the area is smaller than both of the two fixed numerical values, the binarization threshold is reduced to keep the area of the binary object within a certain range, and to increase the threshold according to the magnitude of the wave fluctuation. Can be varied.

【0069】すなわち、波の揺らぎが大きくなるとしき
い値は大きくなってその結果フレーム間の輝度が大きく
変化する部分も二値物体として検出されにくくなる。波
の揺らぎが小さくなるとしきい値は小さくなってその結
果フレーム間の輝度変化の少ない部分でも二値化物体と
して検出されやすくなる。
That is, when the fluctuation of the wave becomes large, the threshold value becomes large, and as a result, the part where the luminance between the frames greatly changes becomes difficult to be detected as a binary object. As the fluctuation of the wave becomes smaller, the threshold value becomes smaller, and as a result, even a portion where there is little change in luminance between frames is easily detected as a binarized object.

【0070】ここで、揺らぎ量計測手段301の出力は
揺らぎ量観測窓401乃至404内の二値化物体の面積
を所定の値近傍にするための二値化しきい値であるとす
る。揺らぎ量観測窓401乃至404から各々異なるし
きい値が得られる場合は4つのしきい値の平均値を最終
的なしきい値とする事もできるし、中央値をとることも
できる。以後これを揺らぎしきい値と呼称する。
Here, it is assumed that the output of the fluctuation amount measuring means 301 is a binarization threshold value for making the area of the binarized object in the fluctuation amount observation windows 401 to 404 close to a predetermined value. When different threshold values are obtained from the fluctuation amount observation windows 401 to 404, the average value of the four threshold values can be used as the final threshold value, or the median value can be used. Hereinafter, this is referred to as a fluctuation threshold.

【0071】揺らぎ入り基準画像作成手段302は時系
列画像保持手段102の時系列画像を用いて揺らぎ入り
基準画像を作成する。具体的には初期設定(ステップ
1)においてカメラ1302取得の最新画象を前記揺ら
ぎ入り基準画像とする。続く監視サイクル毎に、時系列
画像保持手段102の最新画象と前記揺らぎ入り基準画
像との輝度差分画像を作成し、揺らぎしきい値で二値化
する。このとき検出される二値物体は揺らぎ量観測窓4
01乃至404内の波の揺らぎよりも大きな輝度変動を
生じる領域である。
The fluctuation reference image creating means 302 creates a fluctuation reference image using the time series image of the time series image holding means 102. Specifically, the initial settings (step
In 1), the latest image acquired by the camera 1302 is set as the fluctuation-containing reference image. For each subsequent monitoring cycle, a brightness difference image between the latest image of the time-series image holding means 102 and the fluctuation-containing reference image is created and binarized by the fluctuation threshold. The binary object detected at this time is the fluctuation amount observation window 4.
This is an area in which a luminance fluctuation larger than the fluctuation of the waves in 01 to 404 occurs.

【0072】一方、該領域以外は揺らぎ量観測窓401
乃至404内の波の揺らぎよりも輝度変動の少ない領域
であり、この領域に限り最新画象の輝度分布で揺らぎ入
り基準画像を更新する。
On the other hand, the fluctuation amount observation window 401 outside the region
To 404, the fluctuation of the luminance is smaller than the fluctuation of the wave in the area 404. In this area only, the reference image with fluctuation is updated with the luminance distribution of the latest image.

【0073】以上の処理によって、揺らぎ入り基準画像
は揺らぎ量観測窓401乃至404内の、波の揺らぎ以
下の変動を取込んだ揺らぎ入りの基準画像となる。
By the above processing, the reference image with fluctuations becomes a reference image with fluctuations in the fluctuation amount observation windows 401 to 404 that captures fluctuations smaller than the fluctuations of the waves.

【0074】物体検出手段304は時系列画像保持手段
102の最新画像と揺らぎ入り基準画像作成手段302
の基準画像との輝度差分画像を作成し、所定のしきい値
で二値化することによって、揺らぎ量観測窓401乃至
404内の波の揺らぎよりも大きな輝度変動を生じる部
分を二値化物体として検出できる。
The object detecting means 304 includes the latest image of the time-series image holding means 102 and the reference image forming means 302 with fluctuation.
A luminance difference image with respect to the reference image is generated and binarized at a predetermined threshold value, so that a portion where a luminance fluctuation larger than the fluctuation of the wave in the fluctuation amount observation windows 401 to 404 is generated is converted into a binarized object. Can be detected as

【0075】検出物体有効無効判定手段305は二値化
物体の外接矩形を設定して大きさを計測し、所定の範囲
の二値化物体を侵入物体候補として出力する。以上の構
成を採ることによって、背景の揺らぎ量の変化に迅速に
対応して自動調整が可能で、誤検出が少なく感度の良い
画像監視装置を実現できる効果がある。
The detection object validity / invalidity determination means 305 sets a circumscribed rectangle of the binarized object, measures the size, and outputs a binarized object in a predetermined range as an intruding object candidate. By adopting the above configuration, it is possible to automatically adjust in response to a change in the amount of fluctuation of the background, and to achieve an image monitoring apparatus with less erroneous detection and high sensitivity.

【0076】高速及び通常速度の移動物体検出手段10
4の、第二実施例として、第1の例に検出無効領域設定
手段303を加えた構成である。検出無効領域設定手段
303は時系列画像保持手段102の最新画像と、加算
平均作成手段103の加算平均画像と、検出物体有効無
効判定手段の前監視サイクルのノイズ発生状況から監視
対象領域内の局所的な波の荒さと照り返しの有無を判定
し、波の荒い部分では物体検出手段304の二値化しき
い値を高くして誤検出の発生を防止できる。
High speed and normal speed moving object detecting means 10
The fourth embodiment has a configuration in which a detection invalid area setting means 303 is added to the first embodiment. The detection invalid area setting means 303 determines a local area within the monitoring target area based on the latest image of the time-series image holding means 102, the average image of the addition average creation means 103, and the noise occurrence state of the previous monitoring cycle of the detection object valid / invalid determination means. By judging the roughness of the wave and the presence or absence of reflection, the binarization threshold value of the object detection means 304 can be increased in the rough portion of the wave to prevent erroneous detection.

【0077】また、照り返しのある部分では完全に検出
しないように設定することで誤検出の発生を防止する。
前記照返し領域への侵入物体の検出はシルエット物体検
出手段105で補うことができる。
Further, by setting so as not to completely detect a part having a reflection, the occurrence of erroneous detection is prevented.
The detection of the intruding object into the illuminated area can be supplemented by the silhouette object detecting means 105.

【0078】図6に検出無効領域設定手段303の動作
例を示す。図6(a)は監視対象領域の画面であり、60
1は揺らぎのない岸壁部分で、それ以外の部分は波の揺
らぐ部分である。監視対象領域の画像を加算平均画像作
成手段103で処理を加えて加算平均画像を作成する
と、領域601の部分は監視対象領域の対応箇所と同様
の輝度分布をして、領域601以外の揺らぐ部分は該当
部分の平均輝度で、照り返しがなければ、ほぼ一様な輝
度になる。
FIG. 6 shows an operation example of the detection invalid area setting means 303. FIG. 6A shows a screen of the monitoring target area.
1 is a quay part without fluctuation, and the other part is a wave fluctuation part. When the image of the monitoring target area is processed by the averaging image generating means 103 to generate an averaging image, the area 601 has the same luminance distribution as the corresponding portion of the monitoring target area, and the part other than the area 601 fluctuates. Is the average luminance of the corresponding part, and if there is no reflection, the luminance becomes almost uniform.

【0079】監視サイクル毎に加算平均画像と監視対象
領域の画像の輝度差分布を複数サイクルに亘って蓄積し
てから所定のしきい値で二値化すると、図6(b)に示す
ように601に対応する領域602は黒く、それ以外の
領域は白くなる。白色領域は揺らぎによる輝度変動の激
しい部分なので物体検出手段304の検出しきい値を高
く設定して誤検出を防止できる。
When the luminance difference distribution between the averaging image and the image of the monitored area is accumulated over a plurality of cycles for each monitoring cycle and then binarized with a predetermined threshold value, as shown in FIG. The area 602 corresponding to 601 is black, and the other areas are white. Since the white area is a part in which the fluctuation of luminance due to the fluctuation is severe, the detection threshold of the object detecting means 304 is set high, so that erroneous detection can be prevented.

【0080】一方、黒色領域は輝度変動の小さい部分な
ので、物体検出手段304の検出しきい値を低く設定し
て検出感度を高めても誤発報の可能性を低くできる。さ
らに、白色領域で、かつ、加算平均画像の輝度値が所定
の値よりも高い部分は照り返しの発生している部分とし
て物体検出手段304の処理を停止することもできる。
On the other hand, since the black area has a small luminance variation, the possibility of false alarm can be reduced even if the detection threshold of the object detection means 304 is set low to increase the detection sensitivity. Furthermore, the processing of the object detection unit 304 can be stopped in a white area where the luminance value of the averaging image is higher than a predetermined value as a part where reflection occurs.

【0081】以上の構成を採ることで、一画面内に揺ら
ぎや照返しの激しい部分があっても、各々の領域に最適
な調整が為されるので、検出感度を落とさずに、誤検出
を抑制する効果がある。
By adopting the above configuration, even if there is a portion with a lot of fluctuation or reflection in one screen, the optimal adjustment is performed for each area, so that erroneous detection can be performed without lowering the detection sensitivity. It has the effect of suppressing.

【0082】次にシルエット物体検出手段105の第一
実施例の詳細を図7に基づいて説明する。
Next, details of the first embodiment of the silhouette object detecting means 105 will be described with reference to FIG.

【0083】図7において、シルエット物体検出手段1
05は、シルエット領域検出手段701と物体検出手段
702で構成される。シルエット領域検出手段701に
て、加算平均画像作成手段103による加算平均画像で
所定の輝度以上の領域を選択する。
In FIG. 7, the silhouette object detecting means 1
05 comprises a silhouette area detecting means 701 and an object detecting means 702. In the silhouette area detecting means 701, an area having a predetermined brightness or more is selected in the average image by the average image creating means 103.

【0084】更に、所定の輝度以上の領域内で、時系列
画像保持手段102の最新画像をもう一つの所定の輝度
をしきい値として二値化し、輝度の低い領域をシルエッ
ト物体候補とする。物体検出手段702はシルエット領
域検出手段701によるシルエット物体候補をシルエッ
ト化した侵入物体候補としてシルエット物体検出手段1
05より出力する。以上の構成を採ることで、シルエッ
ト化した侵入物体を、その移動速度に関係無しに、捉え
ることができるという効果がある。
Further, within the region having the predetermined luminance or higher, the latest image of the time-series image holding means 102 is binarized using another predetermined luminance as a threshold, and the region having low luminance is set as a silhouette object candidate. The object detecting means 702 is a silhouette object detecting means 1 as an intruding object candidate obtained by converting the silhouette object candidate by the silhouette area detecting means 701 into a silhouette.
Output from 05. By adopting the above configuration, there is an effect that a silhouetted intruding object can be caught regardless of its moving speed.

【0085】監視領域によっては、監視対象領域内に建
造物が存在することがあり、逆光状態ではこれらもシル
エット化し、シルエット物体検出手段105の第一実施
例ではシルエット化した侵入物体候補になってしまう。
そこで、シルエット物体検出手段105の第二実施例は
第一実施例の構成に基準画像作成手段703と検出無効
領域設定手段704を加えた構成である。
In some surveillance areas, buildings may be present in the surveillance area. In the backlight state, these are also silhouetted. In the first embodiment of the silhouette object detection means 105, the silhouetted intrusion object candidates are turned into silhouettes. I will.
Therefore, the second embodiment of the silhouette object detecting unit 105 has a configuration in which a reference image creating unit 703 and a detection invalid area setting unit 704 are added to the configuration of the first embodiment.

【0086】監視動作に先立ち、カメラ102から、侵
入物体の存在しない映像を入力すると、第一実施例と同
ように該監視領域内の建造物のシルエット化したものが
検出されるので、これを基準画像として基準画像作成手
段703に保持する。検出無効領域設定手段704は基
準画像設定手段703の保持する基準画像で建造物の領
域を無効領域として出力する。
Before the surveillance operation, when an image without an intruding object is input from the camera 102, a silhouette of the building in the surveillance area is detected as in the first embodiment. The reference image is stored in the reference image creation unit 703 as a reference image. The detection invalid area setting means 704 outputs the area of the building in the reference image held by the reference image setting means 703 as an invalid area.

【0087】監視稼動時に物体検出手段702はシルエ
ット領域検出手段701によるシルエット化物体から検
出無効領域設定手段704の無効領域を除いたものをシ
ルエット化した物体として出力する。
During the monitoring operation, the object detecting means 702 outputs a silhouetted object obtained by removing the invalid area of the detection invalid area setting means 704 from the silhouetted object by the silhouette area detecting means 701.

【0088】以上の構成を採ることで、監視領域内に建
造物などがあってこれらがシルエット化するときでも誤
検出無しに侵入物体を捉えられるという効果がある。
By adopting the above configuration, there is an effect that an intruding object can be caught without erroneous detection even when there are buildings and the like in the monitoring area and these are silhouetted.

【0089】しかし時間とともに太陽などの光源が移動
すると、建造物の影も移動する。そこでシルエット物体
検出手段105の第三実施例は第二実施例の構成に更新
時期発生手段705を加えた構成である。
However, as the light source such as the sun moves over time, the shadow of the building also moves. Therefore, the third embodiment of the silhouette object detection unit 105 has a configuration obtained by adding an update time generation unit 705 to the configuration of the second embodiment.

【0090】更新時期発生手段705はあらかじめ決め
られた時間間隔で信号を作り出し、侵入物体が存在して
いないときのみに、更新信号として基準画像作成手段7
03に伝えられる。更新信号がくると、基準画像作成手
段703はこの時点でのシルエット領域検出手段701
の出力を、新たな基準画像として、以後これを、次回更
新時まで、検出無効領域とする。
The update time generation means 705 generates a signal at a predetermined time interval, and only when no intruding object is present, generates a signal as a reference signal.
It is told to 03. When an update signal is received, the reference image creating means 703 outputs the silhouette area detecting means 701 at this time.
Is used as a new reference image, and this is hereinafter referred to as a detection invalid area until the next update.

【0091】以上の構成を採ることで、光源の移動に伴
ってシルエットのでき方が変化しても誤検出をすること
無しに侵入物体を捉えられるという効果がある。
By adopting the above configuration, there is an effect that an intruding object can be caught without erroneous detection even if the manner of forming the silhouette changes with the movement of the light source.

【0092】次に“低速及び停止物体検出手段106”
を物体検出手段106と略記し、物体検出手段106の
第一実施例の詳細を図8に基づいて説明する。
Next, "low speed and stationary object detecting means 106"
Is abbreviated as object detection means 106, and details of the first embodiment of the object detection means 106 will be described with reference to FIG.

【0093】波間のように絶えず変動している監視映像
を加算平均画像作成手段103で処理すると、輝度の変
動部分は時間的に平均化され、空間的にも明暗が緩やか
に変化する、動きの乏しい画像になる。領域内で侵入物
体が静止していると加算平均処理の作用で、侵入物体の
輝度分布は信号ノイズ比が良いくっきりとした画像にな
る。また、侵入物体が低速で移動する場合は、侵入物体
の画像は、ぼけはするが、常時変動している波よりもは
っきりとした輝度分布が現れる。
When the surveillance video which is constantly fluctuating like a wave is processed by the averaging image generating means 103, the fluctuation portion of the luminance is temporally averaged, and the brightness gradually changes spatially. Poor image. If the intruding object is stationary in the area, the brightness distribution of the intruding object becomes a clear image with a good signal-to-noise ratio due to the effect of the averaging process. Also, when the intruding object moves at a low speed, the image of the intruding object is blurred, but has a clearer luminance distribution than the constantly fluctuating wave.

【0094】物体検出手段106はこの性質を用いて低
速で移動もしくは停止している侵入物体を検出する手段
で、空間微分処理手段801と物体検出手段802で構
成される。空間微分処理手段801は空間的に急激に輝
度の変わる領域を検出する処理で、隣接する画素同士の
差分処理を行う。差分処理の変わりに公知である微分演
算子を作用させても良い。以上の手法で空間的に大きく
輝度を変える領域を強調した後に所定のしきい値で二値
化して物体を検出する。
The object detecting means 106 is a means for detecting an intruding object moving or stopping at a low speed using this property, and is constituted by a spatial differentiation processing means 801 and an object detecting means 802. The spatial differentiation processing means 801 is a process for detecting a region where the luminance changes suddenly spatially, and performs a difference process between adjacent pixels. A well-known differential operator may be used instead of the difference processing. An object is detected by emphasizing a region where the luminance is largely changed spatially by the above-described method, and then binarizing the region with a predetermined threshold value.

【0095】物体検出手段802は空間微分処理手段8
01の検出した物体を低速または停止している侵入物体
候補として低速及び停止物体検出手段106から出力す
る。以上の構成を採ることで、背景の揺らぎよりも動き
の少ない侵入物体も検出できるという効果がある。
The object detecting means 802 is the spatial differential processing means 8
01 is output from the low-speed and stopped object detecting means 106 as a low-speed or stopped intruding object candidate. By adopting the above configuration, there is an effect that an intruding object having less movement than the fluctuation of the background can be detected.

【0096】監視領域によっては、監視対象領域内に建
造物が存在することがあり、加算平均画像ではこれらも
輝度分布がはっきりして物体候補として検出されてしま
う。そこで、低速及び停止物体検出手段106の第二実
施例は第一実施例の構成に基準画像作成手段803と検
出無効領域設定手段804を加えた構成である。
In some monitoring areas, buildings may be present in the monitoring target area, and in the averaging image, the brightness distribution is also clear and detected as an object candidate. Therefore, the second embodiment of the low-speed and stopped object detection unit 106 has a configuration in which a reference image creation unit 803 and a detection invalid area setting unit 804 are added to the configuration of the first embodiment.

【0097】監視動作に先立ち、カメラ102から、侵
入物体の存在しない映像を入力すると、第1実施例と同
ように該監視領域内の建造物の大きく変化するものが検
出されるので、これを基準画像として基準画像作成手段
803に保持する。検出無効領域設定手段804は基準
画像作成手段803の保持する基準画像で建造物の領域
を無効領域として出力する。
When a video image free of an intruding object is input from the camera 102 prior to the monitoring operation, a greatly changing building in the monitoring area is detected as in the first embodiment. The reference image is stored in the reference image creation unit 803 as a reference image. The detection invalid area setting means 804 outputs the area of the building as an invalid area in the reference image held by the reference image creating means 803.

【0098】監視稼動時に物体検出手段802は空間微
分処理手段801による検出物体から検出無効領域設定
手段804の無効領域を除いたものを低速及び停止中の
物体として出力する。以上の構成を採ることによって検
出領域内に制止した建造物や岩などがあってもこれらを
誤検出すること無く、侵入物体を検出できる効果があ
る。
At the time of monitoring operation, the object detection means 802 outputs the object detected by the spatial differentiation processing means 801 excluding the invalid area of the detection invalid area setting means 804 as a low-speed and stopped object. By adopting the above configuration, there is an effect that even if there is a building or a rock stopped in the detection area, an intruding object can be detected without erroneously detecting these.

【0099】波の満ち引きとともに建造物の輝度パター
ンは変化する。そこで物体検出手段106の第三実施例
は第二実施例の構成に更新時期発生手段805を加えた
構成である。更新時期発生手段805はあらかじめ決め
られた時間間隔で信号を作り出し、侵入物体が存在して
いないときのみに、更新信号として基準画像作成手段8
03に伝えられる。更新信号がくると、基準画像作成手
段803はこの時点での空間微分処理手段801の出力
を、新たな基準画像として、以後これを次回更新時まで
検出無効領域とする。以上の構成を採ることで、時刻と
共に建造物や岩などが変化してもこれらを誤検出するこ
と無しに、侵入物体を捉えられる効果がある。
The brightness pattern of a building changes with the ebb and flow of waves. Therefore, the third embodiment of the object detection unit 106 has a configuration obtained by adding an update time generation unit 805 to the configuration of the second embodiment. The update time generation means 805 generates a signal at a predetermined time interval, and only when no intruding object is present, generates an update signal as the reference image generation means 8.
It is told to 03. When an update signal is received, the reference image creation unit 803 uses the output of the spatial differentiation processing unit 801 at this time as a new reference image, and sets this as a detection invalid area until the next update. By adopting the above configuration, even if a building or a rock changes with time, an intruding object can be captured without erroneously detecting these.

【0100】次に環境分析手段108の動作を図9で説
明する。高速及び通常速度の移動物体検出手段104で
検出しながらも、検出物体と選択されなかった物体の単
位時間当たりの発生数を計数する(ステップ1)。ステ
ップ1の計数結果とあらかじめ決めておいた個数を比較
して、発生数の方が多い場合はステップ2に進み、少な
いか同じ場合はステップ3に進む。
Next, the operation of the environment analyzing means 108 will be described with reference to FIG. The number of detected objects that have not been selected as detected objects per unit time is counted while being detected by the high-speed and normal-speed moving object detection means 104 (step 1). The count result of step 1 is compared with a predetermined number. If the number of occurrences is larger, the process proceeds to step 2;

【0101】高速及び通常速度の移動物体検出手段10
4でノイズが多いのは波などの揺らぎが大きい場合か、
逆光で照り返しの強い場合であるので、これらの情報を
表示手段111で表示する(ステップ2)。検出物体選
択手段107が自動切換えモードのときは、高速及び通
常速度の移動物体検出手段104の出力結果を全面的に
無効にして、その旨を表示手段111に表示したり、検
出無効領域設定手段303の設定する無効化領域の面積
を広げたりする(ステップ2)。
High speed and normal speed moving object detecting means 10
4 is that there is a lot of noise when there is a lot of fluctuation such as waves,
Since the reflected light is strong, the information is displayed on the display unit 111 (step 2). When the detection object selection means 107 is in the automatic switching mode, the output results of the high-speed and normal-speed moving object detection means 104 are completely invalidated, the fact is displayed on the display means 111, and the detection invalid area setting means is set. For example, the area of the invalidation area set in 303 is increased (step 2).

【0102】また、加算平均画像103の加算平均画像
の輝度が高い場合は、逆光状態で照り返しが発生してい
ると判断してその旨を表示手段111に表示したりする
(ステップ2)。シルエット物体検出手段105で検出
しながらも、検出物体と選択されなかった物体の単位時
間当たりの発生数を計数する(ステップ3)。ステップ
3の計数結果とあらかじめ決めておいた個数を比較し
て、発生数の方が多い場合はステップ4に進み、少ない
か同じ場合はステップ5に進む。
If the brightness of the averaged image 103 is high, it is determined that reflection has occurred in a backlight state, and that fact is displayed on the display means 111 (step 2). The number of occurrences per unit time of an object that is not selected as a detected object while being detected by the silhouette object detecting means 105 is counted (step 3). The count result of step 3 is compared with a predetermined number. If the number of occurrences is larger, the process proceeds to step 4;

【0103】シルエット物体検出手段105でノイズが
多いのは光源の移動に伴い、シルエット用の基準画像作
成手段703の基準画像が不適切なためで、前記基準画
像の更新を行うと共に、これらの情報を表示手段111
で表示する(ステップ4)。低速及び停止物体検出手段
106で検出しながらも、検出物体と選択されなかった
物体の単位時間当たりの発生数を計数する(ステップ
5)。ステップ5の計数結果とあらかじめ決めておいた
個数を比較して、発生数の方が多い場合はステップ6に
進み、少ないか同じ場合は終了する。
The reason why there is much noise in the silhouette object detecting means 105 is that the reference image of the silhouette reference image creating means 703 is inappropriate due to the movement of the light source. Display means 111
(Step 4). While being detected by the low-speed and stationary object detection means 106, the number of occurrences of an object not detected as a detected object per unit time is counted (step 5). The count result of step 5 is compared with a predetermined number. If the number of occurrences is larger, the process proceeds to step 6, and if the number is smaller or equal, the process ends.

【0104】低速及び停止物体検出手段106でノイズ
が多いのは光源の移動に伴い、建造物などの影が変化し
て、基準画像作成手段803の基準画像が不適切なため
で、基準画像の更新を行うと共に、これらの情報を表示
手段111で表示する(ステップ6)。
The reason why there is a lot of noise in the low-speed and stationary object detection means 106 is because the shadow of a building or the like changes with the movement of the light source and the reference image of the reference image creation means 803 is inappropriate. At the same time, the information is updated and displayed on the display unit 111 (step 6).

【0105】以上の構成を採ることによって、監視対象
の現環境に適合した処理に自動調整されると共に、稼動
状況が表示されるので、監視員にとって扱いやすく、し
かも故障などの不具合も早期に見つけて対応しやすいと
いう効果がある。
By adopting the above configuration, the process is automatically adjusted to the process suitable for the current environment to be monitored, and the operation status is displayed. It has the effect of being easy to handle.

【0106】次に物体追跡手段109の詳細を説明す
る。図10に基づき、物体追跡手段109の物体追跡法
と従来の物体追跡法の差異を説明する。
Next, the details of the object tracking means 109 will be described. The difference between the object tracking method of the object tracking means 109 and the conventional object tracking method will be described with reference to FIG.

【0107】図10(a)は従来の物体追跡法を示す図で
あって、現フレームで検出した物体1001と前フレー
ムで検出した物体1002を同一画面上に重ねて表示し
ている。物体1001の中心あるいは物体1001の外
接矩形の中心をAと表記し、物体1002の中心あるい
は物体1002の外接矩形の中心をBと表記している。
従来の物体追跡法では中心Aと中心Bを結ぶベクトルABを
前記フレーム間の、物体の移動としていた。
FIG. 10A shows a conventional object tracking method, in which an object 1001 detected in the current frame and an object 1002 detected in the previous frame are displayed on the same screen. The center of the object 1001 or the center of the circumscribed rectangle of the object 1001 is denoted by A, and the center of the object 1002 or the center of the circumscribed rectangle of the object 1002 is denoted by B.
In the conventional object tracking method, the vector AB connecting the center A and the center B is defined as the movement of the object between the frames.

【0108】図10(b)は物体検出手段109の物体追
跡法を示す図であって、現フレームで検出した物体10
01と前フレームで検出した物体1002を同一画面上
に重ねて表示している。
FIG. 10B is a diagram showing the object tracking method of the object detection means 109, and shows the object 10 detected in the current frame.
01 and the object 1002 detected in the previous frame are displayed superimposed on the same screen.

【0109】物体1001の中心あるいは物体1001
の外接矩形の中心をAと表記し、物体1002の中心あ
るいは物体1002の外接矩形の中心をBと表記してい
る。また、ベクトル1003は前フレームまでの該物体
の移動を表すベクトルである。Cは物体1001の中心
あるいは外接矩形の中心Aからベクトル1003に平行
に伸ばした線分と、物体1001の輪郭あるいは外接矩
形の輪郭との交差地点を示している。Dは物体1002
の中心あるいは外接矩形の中心Bからベクトル1003
に平行に伸ばした線分と、物体1002の輪郭あるいは
外接矩形の輪郭との交差地点を示している。このとき、
DとCを結ぶベクトルDCを前記フレーム間の物体の移動と
する。
The center of the object 1001 or the object 1001
Is described as A, and the center of the object 1002 or the center of the circumscribed rectangle of the object 1002 is described as B. A vector 1003 is a vector representing the movement of the object up to the previous frame. C indicates the intersection of a line extending from the center A of the object 1001 or the center A of the circumscribed rectangle in parallel with the vector 1003 and the outline of the object 1001 or the outline of the circumscribed rectangle. D is the object 1002
1003 from the center of the circle or the center B of the circumscribed rectangle
, And the intersection of the contour of the object 1002 or the contour of the circumscribed rectangle. At this time,
The vector DC connecting D and C is defined as the movement of the object between the frames.

【0110】図10の例ではフレーム間の物体1001
と1002は剛体のように形を変えないものであるが、
ロケットやミサイルなどの煙を出しながら移動する飛行
物体や波しぶきを上げて航行する船舶を追跡する場合
は、煙やしぶきも含めて物体として検出するので、中心
AとBは必ずしも移動物体自身の中心でないことが多く、
従来法では該物体の移動を正しく計測できない問題があ
った。
In the example of FIG. 10, an object 1001 between frames is set.
And 1002 do not change shape like a rigid body,
When tracking a flying object that moves while emitting smoke, such as a rocket or a missile, or a ship that is navigating with a splash of waves, it detects it as an object including smoke and splashes.
A and B are not always the center of the moving object itself,
The conventional method has a problem that the movement of the object cannot be measured correctly.

【0111】一方、物体追跡手段109は常に該移動物
体の移動方向の先端を捉えているので、移動物体自身を
追跡する可能性が高く、該物体の移動方向を正しく計測
できる。物体追跡手段109は、物体の追跡開始直後は
参照すべき移動ベクトル1003が得られないので従来
の方法で移動ベクトルを求めるが、この移動ベクトルあ
るいは複数フレームに亘る移動ベクトルの平均を参照ベ
クトル1003として、物体の移動方向先端を求めて、
移動ベクトルを計測する。
On the other hand, since the object tracking means 109 always captures the leading end of the moving object in the moving direction, there is a high possibility that the moving object itself is tracked, and the moving direction of the object can be correctly measured. The object tracking means 109 obtains a movement vector by a conventional method since the movement vector 1003 to be referred to cannot be obtained immediately after the start of tracking of the object, but this movement vector or the average of the movement vectors over a plurality of frames is used as the reference vector 1003. , Find the tip of the moving direction of the object,
Measure the movement vector.

【0112】以上は検出物体が一つの場合の追跡法であ
るが、図11に基づいて検出物体が二つ以上存在する場
合の動作について説明する。
The above is the tracking method when there is one detected object. The operation when there are two or more detected objects will be described with reference to FIG.

【0113】図11(a)は検出物体が低速で移動する場
合であって、物体1001と物体1101は現フレーム
で検出された物体であり、物体1002は前フレームで
検出された物体である。Eは検出物体1101の中心あ
るいは外接矩形の中心で、Fは移動ベクトル1003の
方向に伸ばした線分と物体1101の輪郭の交差する点
である。
FIG. 11A shows the case where the detected object moves at a low speed. The objects 1001 and 1101 are the objects detected in the current frame, and the object 1002 is the object detected in the previous frame. E is the center of the detected object 1101 or the center of the circumscribed rectangle, and F is the point where the line segment extending in the direction of the movement vector 1003 intersects the contour of the object 1101.

【0114】物体が低速であるため、前フレームまでの
追跡で求められた移動ベクトル1003は小さく、移動
方向の信頼性は低い。そこで、フレーム間の物体の照合
は距離の近いもの同士を照合させるものとする。たとえ
ば、検出物体1002が次フレームで移動する候補とし
ては物体1001と1101である。移動ベクトル10
03の方向と合致する物体は1001であるが、移動ベ
クトル1003が小さい場合は距離の最小の物体すなわ
ち1101を対応付け、ベクトルBEあるいはベクトルDF
を新たな移動のベクトルとする。
Since the object is slow, the movement vector 1003 obtained by tracking up to the previous frame is small, and the reliability of the movement direction is low. Therefore, collation of objects between frames is performed by collating objects having a short distance. For example, candidates for the detected object 1002 to move in the next frame are the objects 1001 and 1101. Movement vector 10
The object that matches the direction of 03 is 1001, but if the movement vector 1003 is small, the object having the smallest distance, that is, 1101 is associated with the vector BE or the vector DF.
Is a new movement vector.

【0115】一方、図11(b)は検出物体が高速で移動
する場合であって、物体1001と物体1102は現フ
レームで検出された物体であり、物体1002は前フレ
ームで検出された物体である。Gは検出物体1102の
中心あるいは外接矩形の中心を通って移動ベクトル10
03の方向に伸ばした線分と物体1102の輪郭との交
点である。このとき、フレーム間の移動ベクトルとして
考えられるのはベクトルDGあるいはベクトルDCである。
On the other hand, FIG. 11B shows a case where the detected object moves at high speed. The objects 1001 and 1102 are the objects detected in the current frame, and the object 1002 is the object detected in the previous frame. is there. G is the motion vector 10 through the center of the detected object 1102 or the center of the circumscribed rectangle.
The intersection of the line segment extended in the direction 03 and the contour of the object 1102. At this time, a vector DG or a vector DC can be considered as a movement vector between frames.

【0116】一般的に高速移動中の物体は急激に移動方
向を変えることはできない。これを考慮すると、前フレ
ームまでの移動ベクトル1003に方向と大きさが近い
ものとして、ベクトルDCが選択され、したがって、前フ
レームの物体1002は現フレームで物体1001に移
動したと判断される。
In general, an object moving at high speed cannot change its moving direction rapidly. In consideration of this, the vector DC is selected as having a direction and magnitude close to the movement vector 1003 to the previous frame, and therefore, it is determined that the object 1002 in the previous frame has moved to the object 1001 in the current frame.

【0117】以上の動作を実施する物体追跡手段109
の一例を図12に示す。
Object tracking means 109 for performing the above operation
Is shown in FIG.

【0118】物体追跡手段109は外接矩形設定手段1
201と、中心座標と先端座標計測手段1202と、移
動ベクトル評価手段1203と、移動ベクトル選定手段
1204と、中心座標と先端座標と移動ベクトル保持手
段1205と、物体座標出力手段1206で構成され
る。
The object tracking means 109 is the circumscribed rectangle setting means 1
201, a center coordinate and tip coordinate measuring unit 1202, a movement vector evaluation unit 1203, a movement vector selection unit 1204, a center coordinate, a tip coordinate and a movement vector holding unit 1205, and an object coordinate output unit 1206.

【0119】外接矩形設定手段1201では、検出物体
選択手段107の二値画像を処理して検出物体の外接矩
形を設定する。外接矩形は物体が内接する矩形である。
中心座標と先端座標計測手段1202では前記外接矩形
の中心座標を求めると共に、中心座標と先端座標と移動
ベクトル保持手段1205保持の前フレームまでの移動
ベクトルを基に先端座標を計測する。
The circumscribed rectangle setting means 1201 processes the binary image of the detected object selection means 107 to set a circumscribed rectangle of the detected object. The circumscribed rectangle is a rectangle that the object inscribes.
The center coordinates and tip coordinates measuring means 1202 determine the center coordinates of the circumscribed rectangle, and also measure the tip coordinates based on the center coordinates, the tip coordinates, and the movement vector up to the previous frame held by the movement vector holding means 1205.

【0120】移動ベクトル評価手段1203では、中心
座標と先端座標と移動ベクトル保持手段1205の保持
する、前フレームの外接矩形の中心座標と先端座標と現
フレームの中心座標と先端座標を用いて、可能な移動ベ
クトルを全て計算する。移動ベクトル選定手段1204
は、中心座標と先端座標と移動ベクトル保持手段120
5の保持する、前フレームまでの移動ベクトルの大きさ
すなわち移動物体の速度に応じて適切な移動ベクトルを
選定する。選定された移動ベクトルより、現フレームま
での中心座標と、先端座標と、移動ベクトルが決定され
るので、これらを中心座標と先端座標と移動ベクトル保
持手段1205に保持する。
The movement vector evaluation means 1203 can use the center coordinates, the tip coordinates, the center coordinates and the tip coordinates of the circumscribed rectangle of the previous frame, and the center coordinates and the tip coordinates of the current frame held by the movement vector holding means 1205. Calculate all the moving vectors. Moving vector selecting means 1204
Are the center coordinates, the tip coordinates and the movement vector holding means 120
5, an appropriate motion vector is selected according to the magnitude of the motion vector up to the previous frame, that is, the speed of the moving object. The center coordinates, the tip coordinates, and the movement vector up to the current frame are determined from the selected movement vector, and these are held in the center coordinates, the tip coordinates, and the movement vector holding unit 1205.

【0121】物体座標出力手段1206は移動ベクトル
選定手段1204の選定した移動ベクトルより現フレー
ムに於ける移動物体の座標を算出して、物体追跡手段1
09の出力とする。以上の構成を採ることによって、ロ
ケットやミサイルなどの煙を出しながら移動する飛行物
体や波しぶきを上げて航行する船舶を追跡する場合で
も、正確に進行方向の先頭を捉えるので、この追跡結果
に基づきカメラを移動させれば、後続の煙や水しぶきな
どを捉えること無く、侵入物体を映像におさめることが
できるという効果がある。
The object coordinate output means 1206 calculates the coordinates of the moving object in the current frame from the movement vector selected by the movement vector selection means 1204,
09 output. By adopting the above configuration, even when tracking a flying object moving while emitting smoke such as a rocket or a missile or a ship navigating with a splash of waves, the head of the traveling direction can be accurately detected. If the camera is moved based on this, there is an effect that the intruding object can be included in the image without catching the subsequent smoke and splashes.

【0122】次に侵入物体判定手段110は、物体追跡
手段109の、フレーム毎の、物体の座標の変化を累積
して前記物体の移動軌跡を算出すると共に所定の移動距
離を超えて移動する場合は侵入物体と判定し、報知手段
1307を動作させて監視員に報知したり、画角調整装
置1306を制御してカメラ1301を制御したり、録
画装置1308を制御して映像を録画したりする。以上
の構成を採ることによって、監視員が常時モニターを目
視していなくとも、侵入物体を検出して該侵入物体の映
像を記録できるという効果がある。
Next, the intruding object determination means 110 calculates the movement locus of the object by accumulating the change in the coordinates of the object for each frame of the object tracking means 109 and moves the object over a predetermined movement distance. Is determined to be an intruding object, and the notifying unit 1307 is operated to notify the observer, the angle of view adjustment device 1306 is controlled to control the camera 1301, and the recording device 1308 is controlled to record an image. . By adopting the above configuration, there is an effect that an intruding object can be detected and an image of the intruding object can be recorded even if the observer does not always look at the monitor.

【0123】以上に記したTVカメラは可視波長域のカメ
ラに限らず、近赤外カメラや遠赤外カメラなど、多種に
わたる波長のカメラでも良い。例えば、遠赤外カメラを
用いれば、夜間は照明装置を用いずに監視動作を実施で
き、侵入者にも監視されていることが分かり難い効果が
ある。
The TV camera described above is not limited to a camera in the visible wavelength range, but may be a camera with a wide variety of wavelengths such as a near-infrared camera and a far-infrared camera. For example, if a far-infrared camera is used, a monitoring operation can be performed at night without using an illuminating device.

【0124】また、近赤外カメラを用いると、可視モノ
クロカメラに似た映像が得られると共に、近赤外LED照
明装置を用いると、可視域の強度は小さいために、侵入
者に気づかれ難く関しできるという効果がある。
When a near-infrared camera is used, an image similar to that of a visible monochrome camera can be obtained. When a near-infrared LED illuminator is used, the intensity in the visible region is small, so that it is difficult for an intruder to notice. There is an effect that can be related.

【0125】[0125]

【発明の効果】本発明の第一実施例によれば、監視対象
領域全域をテレビカメラの画角におさめれば、該監視対
象領域全域で侵入物体の検出が可能となる効果がある。
しかも侵入物体がいくらか移動した後に該侵入物体を検
出して報知すれば、枝葉や旗の往復運動や、水面の揺ら
ぎに反応することなく、移動する該侵入物体を捉えるこ
とが可能となる効果がある。
According to the first embodiment of the present invention, if the whole area to be monitored is set at the angle of view of the television camera, there is an effect that an intruding object can be detected in the whole area to be monitored.
Moreover, if the intruding object is detected and reported after some movement of the intruding object, it is possible to capture the moving intruding object without reacting to the reciprocating movement of the branches and leaves or the flag or the fluctuation of the water surface. is there.

【0126】本発明の第二実施例によれば、環境分析手
段の分析結果を表示することで、監視員にとって動作状
況を把握し易く、扱いやすいシステムとなる効果があ
る。
According to the second embodiment of the present invention, by displaying the analysis result of the environment analysis means, there is an effect that the operation status can be easily grasped by the monitor and the system can be easily handled.

【0127】本発明の第二実施例をコンピュータで実施
すると、常に最新のコンピュータの計算速度を利用して
侵入物体の検出を行えるという効果がある。
When the second embodiment of the present invention is implemented by a computer, there is an effect that an intruding object can be always detected by using the latest calculation speed of the computer.

【0128】本発明の画像監視装置の、高速船検出手段
の第一実施例によれば、背景の揺らぎ量の変化に迅速に
対応して自動調整が可能で、誤検出が少なく感度の良い
画像監視装置を実現できる効果がある。
According to the first embodiment of the high-speed ship detecting means of the image monitoring apparatus of the present invention, an automatic adjustment can be performed quickly in response to a change in the fluctuation amount of the background, and an image having a small number of erroneous detections and a high sensitivity can be obtained. There is an effect that a monitoring device can be realized.

【0129】本発明の画像監視装置の、高速船検出手段
の第二実施例によれば、一画面内に揺らぎや照返しの激
しい部分があっても、各々の領域に最適な調整が為され
るので、検出感度を落とさずに、誤検出を抑制する効果
がある。
According to the second embodiment of the high-speed ship detecting means of the image monitoring apparatus of the present invention, even if there is a portion where the fluctuation or reflection is severe in one screen, the optimum adjustment is made for each region. Therefore, there is an effect that erroneous detection is suppressed without lowering the detection sensitivity.

【0130】本発明の画像監視装置の、シルエット物体
検出手段の第一実施例によれば、シルエット化した侵入
物体を、その移動速度に依存せずに、捉えることができ
るという効果がある。
According to the first embodiment of the silhouette object detecting means of the image monitoring apparatus of the present invention, there is an effect that a silhouetted intruding object can be caught without depending on its moving speed.

【0131】本発明の画像監視装置の、シルエット物体
検出手段の第二実施例によれば、監視領域内に建造物な
どがあってこれらがシルエット化するときでも誤検出無
しに侵入物体を捉えられるという効果がある。
According to the second embodiment of the silhouette object detecting means of the image monitoring apparatus of the present invention, even if there are buildings and the like in the monitoring area and these are turned into silhouettes, an intruding object can be captured without erroneous detection. This has the effect.

【0132】本発明の画像監視装置の、シルエット物体
検出手段の第三実施例によれば、光源の移動に伴ってシ
ルエットのでき方が変化しても誤検出をすること無しに
侵入物体を捉えられるという効果がある。
According to the third embodiment of the silhouette object detecting means of the image monitoring apparatus of the present invention, even if the manner of forming the silhouette changes with the movement of the light source, the intruding object can be detected without erroneous detection. There is an effect that it can be.

【0133】本発明の画像監視装置の、低速及び停止物
体検出手段の第一実施例によれば、背景の揺らぎよりも
動きの少ない侵入物体も検出できるという効果がある。
According to the first embodiment of the low-speed and stationary object detecting means of the image monitoring apparatus of the present invention, there is an effect that an intruding object having less movement than fluctuation of the background can be detected.

【0134】本発明の画像監視装置の、低速及び停止物
体検出手段の第二実施例によれば、検出領域内に制止し
た建造物や岩などがあってもこれらを誤検出すること無
く侵入物体を検出できる効果がある。
According to the second embodiment of the low-speed and stationary object detecting means of the image monitoring apparatus of the present invention, even if there are buildings or rocks that are stopped in the detection area, they can be detected without erroneous detection. Has the effect of being able to detect

【0135】本発明の画像監視装置の、低速及び停止物
体検出手段の第三実施例によれば、時刻と共に建造物や
岩などが変化してもこれらを誤検出すること無しに侵入
物体を捉えられる効果がある。
According to the third embodiment of the low-speed and stationary object detecting means of the image monitoring apparatus of the present invention, even if a building or a rock changes with time, an intruding object can be detected without erroneous detection. Has the effect.

【0136】本発明の画像監視装置の、環境分析手段に
よれば、監視対象の現環境に適合した処理に自動調整さ
れると共に稼動状況が表示されるので、監視員にとって
扱いやすく、しかも故障などの不具合も早期に見つけて
対応しやすいという効果がある。
According to the environment analysis means of the image monitoring apparatus of the present invention, the processing is automatically adjusted to the processing suitable for the current environment to be monitored and the operation status is displayed. There is an effect that it is easy to find the defect at an early stage and to deal with it.

【0137】本発明の画像監視装置の、物体追跡手段に
よれば、ロケットやミサイルなどの煙を出しながら移動
する飛行物体や波しぶきを上げて航行する船舶を追跡す
る場合でも、正確に進行方向の先頭を捉えるので、この
追跡結果に基づきカメラを移動させれば、後続の煙や水
しぶきなどを捉えること無く侵入物体を映像におさめる
ことができるという効果がある。
According to the object tracking means of the image monitoring apparatus of the present invention, even when tracking a flying object moving while emitting smoke such as a rocket or a missile or a ship navigating with a splash of waves, the traveling direction can be accurately determined. Therefore, if the camera is moved based on the tracking result, the intruding object can be included in the image without catching the subsequent smoke, splash, and the like.

【0138】本発明の画像監視装置の、侵入物体判定手
段によれば、監視員が常時モニターを目視していなくと
も、侵入物体を検出して該侵入物体の映像を記録できる
という効果がある。
According to the intruding object determining means of the image monitoring apparatus of the present invention, there is an effect that an intruding object can be detected and an image of the intruding object can be recorded, even if the observer does not always look at the monitor.

【図面の簡単な説明】[Brief description of the drawings]

【図1】 本発明の、画像監視装置の第二実施例を示す
図である。
FIG. 1 is a diagram showing a second embodiment of the image monitoring apparatus of the present invention.

【図2】 本発明の、画像監視装置の第二実施例をコン
ピュータで実施する場合の処理の図である。
FIG. 2 is a diagram of processing when a second embodiment of the image monitoring apparatus of the present invention is implemented by a computer.

【図3】 本発明の、高速及び通常速度の移動物体検出
手段の、第一実施例の図である。
FIG. 3 is a diagram of a first embodiment of high-speed and normal-speed moving object detection means of the present invention.

【図4】 本発明の揺らぎ量計測手段の、揺らぎ量計測
の一例を示す図である。
FIG. 4 is a diagram showing an example of fluctuation amount measurement by the fluctuation amount measuring means of the present invention.

【図5】 本発明の揺らぎ量計測手段の、揺らぎ量計測
窓の一例を示す図である。
FIG. 5 is a diagram showing an example of a fluctuation amount measurement window of the fluctuation amount measuring means of the present invention.

【図6】 本発明の検出無効領域設定手段の、計測無効
化の一例を示す図である。
FIG. 6 is a diagram showing an example of measurement invalidation of the detection invalid area setting means of the present invention.

【図7】 本発明のシルエット物体検出手段の一例を示
す図である。
FIG. 7 is a diagram illustrating an example of a silhouette object detection unit according to the present invention.

【図8】 本発明の低速及び停止物体検出手段の一例を
示す図である。
FIG. 8 is a diagram illustrating an example of a low-speed and stationary object detection unit according to the present invention.

【図9】 環境分析手段の処理の一例を示す図である。FIG. 9 is a diagram illustrating an example of processing of an environment analysis unit.

【図10】 本発明の物体追跡手段の追跡と、従来の追
跡の差異を示す図である。
FIG. 10 is a diagram showing a difference between tracking by the object tracking means of the present invention and conventional tracking.

【図11】 本発明の、物体追跡手段の追跡法の一例を
示す図である。
FIG. 11 is a diagram showing an example of a tracking method of the object tracking means of the present invention.

【図12】 本発明の物体追跡手段の、一例を示す図で
ある。
FIG. 12 is a diagram showing an example of the object tracking means of the present invention.

【図13】 本発明の、画像監視装置の実施形態の一例
を示す図である。
FIG. 13 is a diagram illustrating an example of an embodiment of an image monitoring device according to the present invention.

【符号の説明】[Explanation of symbols]

101…画像入力手段、102…時系列画像保持手段、
103…加算平均画像作成手段、104…高速及び通常
速度の移動物体検出手段、105…シルエット物体検出
手段、106…低速及び停止物体検出手段、107…検
出物体選択手段、108…環境分析手段、109…物体
追跡手段、110…侵入物体判定手段、111…表示手
段。
101: image input means, 102: time-series image holding means,
103: Mean averaging image creation means; 104: High speed and normal speed moving object detecting means; 105: Silhouette object detecting means; 106: Low speed and stationary object detecting means; 107: Detected object selecting means; ... object tracking means, 110 ... intruding object determination means, 111 ... display means.

───────────────────────────────────────────────────── フロントページの続き (72)発明者 小沼 知恵子 茨城県日立市大みか町七丁目1番1号 株 式会社日立製作所日立研究所内 (72)発明者 中島 啓介 茨城県日立市大みか町七丁目1番1号 株 式会社日立製作所日立研究所内 (72)発明者 岡田 俊道 東京都小平市御幸町32番地 株式会社日立 国際電気小金井工場内 (72)発明者 藤井 幸 東京都小平市御幸町32番地 株式会社日立 国際電気小金井工場内 Fターム(参考) 5C054 AA01 CA04 CA05 CC05 CH01 EA05 ED17 EF06 FC01 FC03 FC12 FC13 FC14 FC15 FE09 FF06 GB02 HA18 HA19 5C084 AA07 AA14 BB06 BB34 CC16 DD13 DD57 EE02 GG78 5L096 AA06 BA02 CA05 DA03 EA05 FA18 FA32 FA37 FA62 FA66 FA69 GA02 GA19 GA57 HA03 JA16 KA03  ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Chieko Onuma 7-1-1, Omikacho, Hitachi City, Ibaraki Prefecture Inside the Hitachi Research Laboratory, Hitachi, Ltd. (72) Keisuke Nakajima 7-1 Omikamachi, Hitachi City, Ibaraki Prefecture No. 1 Inside Hitachi, Ltd.Hitachi Research Laboratory (72) Inventor Toshimichi Okada 32 Miyukicho, Kodaira-shi, Tokyo Inside Hitachi Kokusai Electric Koganei Plant (72) Inventor Sachi Fujii 32 Miyukicho, Kodaira-shi, Tokyo Stock F-term in Hitachi Kokusai Electric Koganei Plant (reference) FA37 FA62 FA66 FA69 GA02 GA19 GA57 HA03 JA16 KA03

Claims (24)

【特許請求の範囲】[Claims] 【請求項1】画像入力手段と、移動速度別の複数の物体
検出手段と、前記複数の物体検出手法による検出結果を
統合する検出物体選択手段と、前記検出物体選択手段に
より選別された物体を複数フレームにわたり追跡する物
体追跡手段と、前記物体追跡手段によって所定の距離以
上に追跡できた場合に侵入物体の検出と判断する侵入物
体判定手段を具備することを特徴とする画像監視装置。
1. An image input unit, a plurality of object detection units for different moving speeds, a detection object selection unit for integrating detection results obtained by the plurality of object detection methods, and an object selected by the detection object selection unit An image monitoring apparatus comprising: an object tracking unit that tracks over a plurality of frames; and an intruding object determination unit that determines that an intruding object has been detected when the object tracking unit can track over a predetermined distance.
【請求項2】画像入力手段と、移動速度別の複数の物体
検出手段と、シルエット状の物体を検出するシルエット
物体検出手段と、前記複数の物体検出手段及びシルエッ
ト物体検出手段による検出結果を統合する検出物体選択
手段と、前記検出物体選択手段により選別された物体を
複数フレームにわたり追跡する物体追跡手段と、前記物
体追跡手段によって所定の距離以上に追跡できた場合に
侵入物体の検出と判断する侵入物体判定手段を具備する
ことを特徴とする画像監視装置。
2. An image input means, a plurality of object detecting means for each moving speed, a silhouette object detecting means for detecting a silhouette-like object, and the detection results of the plurality of object detecting means and the silhouette object detecting means are integrated. Detecting object selecting means, an object tracking means for tracking an object selected by the detecting object selecting means over a plurality of frames, and determining that an intruding object has been detected when the object tracking means can track a predetermined distance or more. An image monitoring device comprising an intruding object determination unit.
【請求項3】画像入力手段と、非シルエット物体を検出
する物体検出手段と、シルエット状の物体を検出するシ
ルエット物体検出手段と、前記物体検出手段及びシルエ
ット物体検出手段による検出結果を統合する検出物体選
択手段と、前記検出物体選択手段により選別された物体
を複数フレームにわたり追跡する物体追跡手段と、前記
物体追跡手段によって所定の距離以上に追跡できた場合
に侵入物体の検出と判断する侵入物体判定手段を具備す
ることを特徴とする画像監視装置。
3. An image input means, an object detecting means for detecting a non-silhouette object, a silhouette object detecting means for detecting a silhouette-like object, and a detecting means for integrating detection results by the object detecting means and the silhouette object detecting means. An object selection unit, an object tracking unit that tracks the object selected by the detection object selection unit over a plurality of frames, and an intruding object that determines that an intruding object has been detected when the object tracking unit can track the object over a predetermined distance. An image monitoring device comprising a determination unit.
【請求項4】請求項1乃至3のいずれか1項において、
環境分析手段を設け、前記環境分析手段の分析結果に応
じて前記検出物体選択手段で選別することを特徴とする
画像監視装置。
4. The method according to claim 1, wherein
An image monitoring apparatus, comprising: an environment analysis unit, wherein the detection object selection unit selects according to an analysis result of the environment analysis unit.
【請求項5】請求項4において、前記環境分析手段の分
析結果は表示されることを特徴とする画像監視装置。
5. An image monitoring apparatus according to claim 4, wherein an analysis result of said environment analysis means is displayed.
【請求項6】請求項4において、前記検出物体選択手段
の選別状態は表示されることを特徴とする画像監視装
置。
6. An image monitoring apparatus according to claim 4, wherein a selection state of said detected object selecting means is displayed.
【請求項7】請求項1乃至6のいずれか1項において、
監視員が前記検出物体選択手段を操作して選別すること
を特徴とする画像監視装置。
7. The method according to claim 1, wherein
An image surveillance device, wherein a surveillant operates the detection object selection means to select the object.
【請求項8】請求項1乃至7のいずれか1項において、
監視領域の背景画像の輝度変化を計測する揺らぎ量計測
手段と、前記揺らぎ計測手段による計測輝度変化以上の
輝度変化をもたらす侵入物体検出手段と、前記揺らぎ計
測手段による計測輝度変化以下の輝度変化をもたらす侵
入物体検出手段を有することを特徴とする画像監視装
置。
8. The method according to claim 1, wherein
A fluctuation amount measuring means for measuring a luminance change of the background image of the monitoring area, an intruding object detecting means for providing a luminance change equal to or greater than the luminance change measured by the fluctuation measuring means, and a luminance change equal to or less than the luminance change measured by the fluctuation measuring means. An image surveillance device, comprising an intruding object detecting means for bringing in.
【請求項9】請求項8において、監視領域の背景画像の
揺らぎ量を計測する揺らぎ量計測手段と、前記揺らぎ量
計測手段による計測揺らぎ量以下の揺らぎを取込むべく
迅速に更新して作成された揺らぎ入り基準画像を作成す
る揺らぎ画像作成手段と、前記揺らぎ入り基準画像と監
視画像の輝度差のある領域の検出をもって物体検出とす
る物体検出手段から成る高速及び通常速度の移動体検出
手段を具備することを特徴とする画像監視装置。
9. A fluctuation amount measuring means for measuring a fluctuation amount of a background image of a monitoring area, and a fluctuation amount which is promptly updated so as to incorporate fluctuation less than the fluctuation amount measured by the fluctuation amount measuring means. A high-speed and normal-speed moving object detecting means, comprising: a fluctuation image generating means for generating a reference image with fluctuation, and an object detecting means for detecting an area having a luminance difference between the fluctuation-containing reference image and the monitoring image as an object detection. An image monitoring device, comprising:
【請求項10】請求項8または9において、監視領域内
の背景画像の輝度変動を計測し、所定の輝度変動よりも
大きく変動する領域に対して前記揺らぎ計測手段による
計測輝度変化以上の輝度変化をもたらす侵入物体を検出
する物体検出手段を無効にすることを特徴とする画像監
視装置。
10. The luminance variation of a background image in a monitoring area according to claim 8 or 9, wherein a luminance variation greater than a luminance variation measured by said fluctuation measuring means is measured for an area that fluctuates more than a predetermined luminance fluctuation. An image monitoring apparatus characterized in that an object detecting means for detecting an intruding object causing the above is invalidated.
【請求項11】請求項4乃至10のいずれか1項におい
て、監視領域の基準画像に対して所定の輝度差以上の変
化を持つ領域の検出を持って物体検出とする物体検出手
段を有し、前記物体検出手段において、検出物体の大き
さを計測した上で所定の大きさに満たない検出物体をノ
イズとして、追跡を放棄することを特徴とする画像監視
装置。
11. An object detection means according to claim 4, wherein said object detection is performed by detecting an area having a change greater than a predetermined luminance difference with respect to a reference image of a monitoring area. An image monitoring apparatus, wherein the object detection means measures a size of the detected object and abandons tracking with a detected object smaller than a predetermined size as noise.
【請求項12】請求項11において、前記物体検出手段
で発生したノイズの個数を計数して、前記物体検出手段
が誤検出しやすい環境下で動作しているか否かの判定を
する環境分析手段を具備することを特徴とする画像監視
装置。
12. An environment analyzing means according to claim 11, wherein the number of noises generated by said object detecting means is counted to determine whether or not said object detecting means is operating in an environment in which erroneous detection is likely. An image monitoring device, comprising:
【請求項13】請求項12において、異なる手法による
物体検出手段と、前記異なる手法による物体検出手段で
発生するノイズの個数を前記物体検出手段毎に計数し、
前記計数結果から、現環境に適した物体検出手法を判定
する環境分析手段を具備することを特徴とする画像監視
装置。
13. The object detecting means according to claim 12, wherein the number of noises generated by the object detecting means using a different method and the number of noises generated by the object detecting means using the different method are counted for each of the object detecting means.
An image monitoring apparatus comprising: an environment analysis unit that determines an object detection method suitable for a current environment from the counting result.
【請求項14】請求項1乃至13のいずれか1項におい
て、監視領域の数フレームを画素毎に輝度平均した監視
画像で輝度の空間的変化の度合いが所定の大きさ以上の
領域を侵入物体とする低速及び停止物体検出手段を具備
することを特徴とする画像監視装置。
14. A surveillance image according to any one of claims 1 to 13, wherein several frames of the surveillance area are averaged in luminance for each pixel, and an area in which the degree of spatial change in luminance is equal to or greater than a predetermined size is detected. An image monitoring device comprising: a low-speed and stationary object detection unit.
【請求項15】請求項14において、監視領域の時系列
画像を複数フレームにわたって画素毎に平均して作成す
る基準画像を有し、前記基準画像で輝度の空間的変化の
度合いが所定の大きさ以上の領域を侵入物体検出無効領
域と定める低速及び停止物体検出手段を具備することを
特徴とする画像監視装置。
15. A reference image according to claim 14, wherein the reference image is formed by averaging a time-series image of the monitoring area for each pixel over a plurality of frames, and the degree of spatial change of luminance in the reference image is a predetermined size. An image monitoring apparatus comprising: a low-speed and stationary object detection unit that determines the above area as an intruding object detection invalid area.
【請求項16】請求項15において、前記基準画像を一
定時間毎に作成する低速及び停止物体検出手段を具備す
ることを特徴とする画像監視装置。
16. An image monitoring apparatus according to claim 15, further comprising a low-speed and stationary object detecting means for generating said reference image at regular intervals.
【請求項17】請求項1乃至16のいずれか1項におい
て、監視領域の時系列画像を加算平均した加算平均画像
を保持し、前記加算平均画像内の所定輝度以上の領域に
対して、第二の所定輝度以下の領域を検出するとこれを
侵入物体とするシルエット物体検出手段を具備すること
を特徴とする画像監視装置。
17. The image processing apparatus according to claim 1, wherein an averaged image obtained by averaging the time-series images in the monitoring area is held, and an area having a predetermined brightness or more in the averaged image is processed. An image monitoring apparatus, comprising: a silhouette object detection unit that detects an area having a brightness equal to or lower than a predetermined brightness and uses the detected area as an intruding object.
【請求項18】請求項17において、前記加算平均画像
の前記所定輝度以上の領域に対して、侵入物体が存在し
ないときに第二の所定輝度以下の領域を検出して該領域
とこれ以外の領域の二値画像を作成して前記二値画像を
基準画像として保持し、前記二値画像で前記第二の所定
輝度以下の領域を侵入物体検出無効領域とするシルエッ
ト物体検出手段を具備することを特徴とする画像監視装
置。
18. The image processing apparatus according to claim 17, wherein, when no intruding object is present, a region having a second predetermined brightness or less is detected for the region having the predetermined brightness or more in the averaging image, and the region is determined as the other region. A silhouette object detecting unit that creates a binary image of an area, holds the binary image as a reference image, and sets an area having the second predetermined brightness or less in the binary image as an intruding object detection invalid area. An image monitoring device characterized by the above-mentioned.
【請求項19】請求項18において、前記基準画像を定
期的に作成するシルエット物体検出手段を具備すること
を特徴とする画像監視装置。
19. An image monitoring apparatus according to claim 18, further comprising a silhouette object detecting means for periodically creating said reference image.
【請求項20】請求項1乃至19のいずれか1項におい
て、フレーム毎の検出した物体をフレーム間で照合し
て、前記フレーム間での該物体の移動方向と大きさを移
動ベクトルとし、前記移動ベクトルの大きさに基づき次
回のフレーム間照合時における前記物体の位置を代表す
る部分を選択する物体追跡手段を具備することを特徴と
する画像監視装置。
20. The method according to claim 1, wherein a detected object of each frame is collated between frames, and a moving direction and a size of the object between the frames are set as a motion vector. An image monitoring apparatus, comprising: an object tracking unit that selects a portion representing the position of the object at the time of the next inter-frame collation based on the magnitude of the movement vector.
【請求項21】請求項20において、前記移動ベクトル
が所定の大きさ以下の場合は、フレーム間照合時におけ
る物体の外接矩形の中心を前記物体の代表位置とし、前
記移動ベクトルが所定の大きさより大きい場合は前記物
体の外接矩形中心から前記移動ベクトル方向へ引いた線
分と前記物体の輪郭あるいは前記外接矩形の輪郭との交
点を前記物体の代表位置とする物体追跡手段を具備する
ことを特徴とする画像監視装置。
21. The method according to claim 20, wherein when the movement vector is smaller than a predetermined size, the center of a circumscribed rectangle of the object at the time of inter-frame matching is set as a representative position of the object, and the movement vector is smaller than a predetermined size. In the case where the object is large, an object tracking means is provided which sets an intersection of a line drawn from the center of the circumscribed rectangle of the object in the direction of the movement vector and the contour of the object or the outline of the circumscribed rectangle as a representative position of the object. Image monitoring device.
【請求項22】請求項1乃至21のいずれか1項におい
て、画像入力インタフェースおよび画像表示インタフェ
ースを備えたコンピュータで構成されることを特徴とす
る画像監視装置。
22. An image monitoring apparatus according to claim 1, comprising a computer having an image input interface and an image display interface.
【請求項23】請求項1乃至22のいずれか1項におい
て、TVカメラとして赤外線カメラを用いることを特徴と
する画像監視装置。
23. An image monitoring apparatus according to claim 1, wherein an infrared camera is used as the TV camera.
【請求項24】請求項23において、赤外線照射装置を
有することを特徴とする画像監視装置。
24. The image monitoring device according to claim 23, further comprising an infrared irradiation device.
JP2001161684A 2001-05-30 2001-05-30 Image monitoring device Expired - Fee Related JP3997062B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001161684A JP3997062B2 (en) 2001-05-30 2001-05-30 Image monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001161684A JP3997062B2 (en) 2001-05-30 2001-05-30 Image monitoring device

Publications (2)

Publication Number Publication Date
JP2002352340A true JP2002352340A (en) 2002-12-06
JP3997062B2 JP3997062B2 (en) 2007-10-24

Family

ID=19004923

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001161684A Expired - Fee Related JP3997062B2 (en) 2001-05-30 2001-05-30 Image monitoring device

Country Status (1)

Country Link
JP (1) JP3997062B2 (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005025313A (en) * 2003-06-30 2005-01-27 Secom Co Ltd System for detecting stayer
JP2007074448A (en) * 2005-09-07 2007-03-22 National Institute Of Advanced Industrial & Technology Table top community system
JP2008042423A (en) * 2006-08-04 2008-02-21 Hitachi Ltd Image monitoring apparatus
JP2008047991A (en) * 2006-08-11 2008-02-28 Hitachi Kokusai Electric Inc Image processor
JP2008241707A (en) * 2008-03-17 2008-10-09 Hitachi Kokusai Electric Inc Automatic monitoring system
US7602413B2 (en) 2002-10-18 2009-10-13 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US8280108B2 (en) 2008-06-24 2012-10-02 Sony Corporation Image processing system, image processing method, and computer program
JP2016111576A (en) * 2014-12-08 2016-06-20 キヤノン株式会社 Imaging apparatus
JP2018503200A (en) * 2014-11-24 2018-02-01 レイセオン カンパニー Method and system for processing a series of images to identify, track and / or target objects in a water body
JP6336693B1 (en) * 2016-12-09 2018-06-06 株式会社日立国際電気 Water intrusion detection system and method
WO2018158823A1 (en) * 2017-02-28 2018-09-07 株式会社オプティム Anomaly detection system, anomaly detection method, and program
JP2018152106A (en) * 2018-05-02 2018-09-27 株式会社日立国際電気 System for detecting invasion on water and method for the same
JP2020065218A (en) * 2018-10-19 2020-04-23 株式会社トヨタシステムズ Image processing program, image processing apparatus, image processing system, and image processing method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319141A (en) * 1993-05-10 1994-11-15 Toshiba Corp Supervisory equipment
JPH07262355A (en) * 1994-03-18 1995-10-13 Fuji Electric Co Ltd Image monitoring device
JPH10283466A (en) * 1997-04-08 1998-10-23 Omron Corp Device for detecting intruding object
JP2000125288A (en) * 1998-10-12 2000-04-28 Hitachi Denshi Ltd Object tracking method and object tracking device
JP2000156852A (en) * 1998-11-18 2000-06-06 Hitachi Ltd Monitoring device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319141A (en) * 1993-05-10 1994-11-15 Toshiba Corp Supervisory equipment
JPH07262355A (en) * 1994-03-18 1995-10-13 Fuji Electric Co Ltd Image monitoring device
JPH10283466A (en) * 1997-04-08 1998-10-23 Omron Corp Device for detecting intruding object
JP2000125288A (en) * 1998-10-12 2000-04-28 Hitachi Denshi Ltd Object tracking method and object tracking device
JP2000156852A (en) * 1998-11-18 2000-06-06 Hitachi Ltd Monitoring device

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7830410B2 (en) 2002-10-18 2010-11-09 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US9648288B2 (en) 2002-10-18 2017-05-09 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US9729836B2 (en) 2002-10-18 2017-08-08 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US10356370B2 (en) 2002-10-18 2019-07-16 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US8803969B2 (en) 2002-10-18 2014-08-12 Sony Corporation Event monitoring report and display system
US7602413B2 (en) 2002-10-18 2009-10-13 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US7605841B2 (en) 2002-10-18 2009-10-20 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US7840284B2 (en) 2002-10-18 2010-11-23 Sony Corporation Information processing system and associated methodology of surveillance event monitoring
US8072491B2 (en) 2002-10-18 2011-12-06 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
US9532014B2 (en) 2002-10-18 2016-12-27 Sony Corporation Information processing system and method, information processing apparatus, image-capturing device and method, recording medium, and program
JP2005025313A (en) * 2003-06-30 2005-01-27 Secom Co Ltd System for detecting stayer
JP4578072B2 (en) * 2003-06-30 2010-11-10 セコム株式会社 Resident detection system
JP4543157B2 (en) * 2005-09-07 2010-09-15 独立行政法人産業技術総合研究所 Table top community system
JP2007074448A (en) * 2005-09-07 2007-03-22 National Institute Of Advanced Industrial & Technology Table top community system
JP2008042423A (en) * 2006-08-04 2008-02-21 Hitachi Ltd Image monitoring apparatus
JP4664878B2 (en) * 2006-08-11 2011-04-06 株式会社日立国際電気 Image processing device
JP2008047991A (en) * 2006-08-11 2008-02-28 Hitachi Kokusai Electric Inc Image processor
JP2008241707A (en) * 2008-03-17 2008-10-09 Hitachi Kokusai Electric Inc Automatic monitoring system
JP4694589B2 (en) * 2008-03-17 2011-06-08 株式会社日立国際電気 Automatic monitoring system
US8280108B2 (en) 2008-06-24 2012-10-02 Sony Corporation Image processing system, image processing method, and computer program
US8891826B2 (en) 2008-06-24 2014-11-18 Sony Corporation Image processing system, image processing method, and computer program
JP2018503200A (en) * 2014-11-24 2018-02-01 レイセオン カンパニー Method and system for processing a series of images to identify, track and / or target objects in a water body
JP2016111576A (en) * 2014-12-08 2016-06-20 キヤノン株式会社 Imaging apparatus
JP6336693B1 (en) * 2016-12-09 2018-06-06 株式会社日立国際電気 Water intrusion detection system and method
WO2018105112A1 (en) * 2016-12-09 2018-06-14 株式会社日立国際電気 Water intrusion detection system and method
US10282622B2 (en) 2016-12-09 2019-05-07 Hitachi Kokusai Electric Inc. Marine intrusion detection system and method
WO2018158823A1 (en) * 2017-02-28 2018-09-07 株式会社オプティム Anomaly detection system, anomaly detection method, and program
JPWO2018158823A1 (en) * 2017-02-28 2019-11-07 株式会社オプティム Anomaly detection system, anomaly detection method and program
US10636174B2 (en) 2017-02-28 2020-04-28 Optim Corporation Abnormality detection system, abnormality detection method, and program
JP2018152106A (en) * 2018-05-02 2018-09-27 株式会社日立国際電気 System for detecting invasion on water and method for the same
JP2020065218A (en) * 2018-10-19 2020-04-23 株式会社トヨタシステムズ Image processing program, image processing apparatus, image processing system, and image processing method

Also Published As

Publication number Publication date
JP3997062B2 (en) 2007-10-24

Similar Documents

Publication Publication Date Title
US8964030B2 (en) Surveillance camera system having camera malfunction detection function to detect types of failure via block and entire image processing
CN102163361B (en) Image-type fire detection method based on cumulative prospect image
CN101441771B (en) Video fire hazard smoke detecting method based on color saturation degree and movement mode
US20150104064A1 (en) Method and system for detection of foreign objects in maritime environments
US6104831A (en) Method for rejection of flickering lights in an imaging system
US6711279B1 (en) Object detection
JP3123587B2 (en) Moving object region extraction method using background subtraction
CN107948465B (en) A kind of method and apparatus that detection camera is disturbed
US20060170769A1 (en) Human and object recognition in digital video
JP2002352340A (en) Image monitoring device
JP4694589B2 (en) Automatic monitoring system
JP4611776B2 (en) Image signal processing device
US20160117837A1 (en) Modification of at least one parameter used by a video processing algorithm for monitoring of a scene
JP4542929B2 (en) Image signal processing device
JP3569163B2 (en) Moving object monitoring device
JP4491360B2 (en) Image signal processing device
Haga et al. Human detection in outdoor scene using spatio-temporal motion analysis
CN101930540A (en) Video-based multi-feature fusion flame detecting device and method
JP3456972B2 (en) MONITOR MONITORING METHOD AND DEVICE
JP2000156852A (en) Monitoring device
JP4664878B2 (en) Image processing device
JPH10289321A (en) Image monitoring device
JPH0514891A (en) Image monitor device
JPH05300516A (en) Animation processor
JP6977200B2 (en) Image processing equipment, image processing methods and programs

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070806

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 3997062

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130810

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140810

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees