JP2002034027A - Method for recognizing picture and device for the same and monitoring system - Google Patents

Method for recognizing picture and device for the same and monitoring system

Info

Publication number
JP2002034027A
JP2002034027A JP2000213438A JP2000213438A JP2002034027A JP 2002034027 A JP2002034027 A JP 2002034027A JP 2000213438 A JP2000213438 A JP 2000213438A JP 2000213438 A JP2000213438 A JP 2000213438A JP 2002034027 A JP2002034027 A JP 2002034027A
Authority
JP
Japan
Prior art keywords
alarm
image
target
postponement
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000213438A
Other languages
Japanese (ja)
Other versions
JP4338294B2 (en
Inventor
Yasuyuki Domoto
泰之 道本
Katsumasa Onda
勝政 恩田
Teruo Ishida
照男 石田
Masaharu Morishita
正治 森下
Naoki Yamanashi
直樹 山梨
Yuji Suzuki
裕二 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central Japan Railway Co
Panasonic Holdings Corp
Original Assignee
Central Japan Railway Co
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central Japan Railway Co, Matsushita Electric Industrial Co Ltd filed Critical Central Japan Railway Co
Priority to JP2000213438A priority Critical patent/JP4338294B2/en
Publication of JP2002034027A publication Critical patent/JP2002034027A/en
Application granted granted Critical
Publication of JP4338294B2 publication Critical patent/JP4338294B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To prevent any erroneous warning due to any erroneous recognition under bad conditions such as rainy weather or luminance shortage. SOLUTION: Even when an object recognizing part 7 recognizes once any object other than the target of warning as an intruder being the target of warning, a warning delaying part 8 delays the warning only in a prescribed period under a condition that any object other than the the target of warning is preliminarily detected, or the notification of a warning delay signal is received from the other picture recognizing device or the like, and when it is re-recognized that the object in a picture is any object other than the target of warning during that time, a warning canceling part 9 cancels the warning. When any object other than the target of warning is detected, a delay signal outputting part 10 outputs the warning delay signal to the other picture recognizing device so that it is possible to prevent any erroneous warning due to the other picture recognizing device.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、画像を処理して画
像中の侵入者や侵入物体を精度良く検出する画像認識方
法および装置とその装置を利用した監視システムに関す
る。
[0001] 1. Field of the Invention [0002] The present invention relates to an image recognition method and apparatus for processing an image to accurately detect an intruder or an intruder in the image, and a monitoring system using the apparatus.

【0002】[0002]

【従来の技術】従来の画像認識方法および装置(例え
ば、特開平11-203567号公報)は、画像を処理して侵入
物体の面積や速度、縦横寸法などを特徴量として算出
し、各特徴量を一定期間中平均し、あらかじめ設定して
あるパラメータによる判定条件が満たされた場合、発報
対象の物体であると判断してブザー等発報手段により即
座に発報を行っていた。
2. Description of the Related Art A conventional image recognition method and apparatus (for example, Japanese Patent Application Laid-Open No. H11-203567) process an image, calculate the area, speed, vertical and horizontal dimensions, etc., of an intruding object as feature quantities. Are averaged over a certain period of time, and when a determination condition based on a preset parameter is satisfied, the object is determined to be an alarm target and an alarm is immediately issued by an alarm means such as a buzzer.

【0003】[0003]

【発明が解決しようとする課題】しかしながら、上記従
来の画像認識方法および装置では、例えば悪天候時や低
照度時等、撮像装置から出力される画像の画質が低下し
て、特に遠方の侵入物体について十分な精度で特徴量が
得られない場合において、本来発報対象外の物体であっ
ても、特徴量が所定のパラメータによる判定条件を満た
して発報することがある。このように誤って発報した
後、物体が撮像装置に接近するなどして比較的精度良く
特徴量が得られて、本来発報すべき物体ではなかったこ
とが分かっても、先の発報を取り消すことができず、誤
発報となってしまう。
However, in the above-described conventional image recognition method and apparatus, the image quality of the image output from the image pickup device is degraded, for example, in bad weather or low illuminance. In the case where the feature amount cannot be obtained with sufficient accuracy, even if the object is not originally a target of the alert, the alert may be issued when the feature amount satisfies the determination condition based on the predetermined parameter. After such an erroneous alert, if the object approaches the imaging device, the feature amount can be obtained with relatively high accuracy, and even if it is found that the feature is not the object to be originally alerted, Cannot be cancelled, resulting in a false alarm.

【0004】本発明は、このような問題を解決するため
になされたもので、誤って発報することが少ない画像認
識方法および装置と、この装置を利用した監視システム
を提供することを目的とする。
The present invention has been made to solve such a problem, and an object of the present invention is to provide an image recognition method and apparatus which are less likely to give a false alarm, and a monitoring system using this apparatus. I do.

【0005】[0005]

【課題を解決するための手段】本発明の画像認識方法
は、撮像して得られた画像から発報対象外の物体を検出
した場合、その後に前記画像から検出した発報対象につ
いての発報を所定期間延期し、前記発報を延期している
期間中に前記画像から発報対象外の物体を検出した場
合、前記延期している発報対象についての発報を取り消
すことを特徴とするものである。この方法により、画像
から発報対象外の物体を検出した場合は、その後に発報
対象である物体を検出した場合でも、誤認識の可能性が
あるので所定期間は発報を延期し、その間に発報対象外
の物体を検出した場合は、先の発報対象の検出は誤認識
であるとして、延期している発報自体を取り消すことに
より、誤発報を防止できることとなる。
According to the image recognition method of the present invention, when an object which is not an alarm target is detected from an image obtained by capturing an image, an alarm is issued to the alarm target detected from the image. Is postponed for a predetermined period, and when an object that is not a target of alarm is detected from the image during the period of postponing the alarm, the alarm for the postponed alarm is canceled. Things. According to this method, if an object that is not a target for alarm is detected from an image, even if an object that is a target for alarm is subsequently detected, there is a possibility of erroneous recognition. If an object that is not the alarm target is detected in advance, it is determined that the previous alarm target is erroneously recognized, and by canceling the postponed alarm itself, erroneous alarm can be prevented.

【0006】また、本発明の画像認識方法は、別系統か
ら発報対象外の物体を検出したことを示す発報延期信号
を通知された場合、その後に撮像画像から検出した発報
対象についての発報を所定期間延期し、前記発報を延期
している期間中に前記画像から発報対象外の物体を検出
した場合、前記延期している発報対象についての発報を
取り消すことを特徴とするものである。この方法によ
り、別系統から発報対象外の物体を検出したことを示す
発報延期信号を通知された場合は、その後に発報対象で
ある物体を検出した場合でも、誤認識の可能性があるの
で所定期間は発報を延期し、その間に発報対象外の物体
を検出した場合は、先の発報対象の検出は誤認識である
として、延期している発報自体を取り消すことにより、
誤発報を防止できることとなる。
Further, the image recognition method of the present invention, when a notification postponement signal indicating that a non-reporting object has been detected from another system, is notified, the Postponing the alarm for a predetermined period, and when detecting an object that is not the alarm target from the image during the period in which the alarm is postponed, canceling the alarm for the alarm target that is postponed. It is assumed that. According to this method, if an alarm postponement signal indicating that an object that is not an alarm target has been detected is notified from another system, the possibility of erroneous recognition may be increased even if an object that is an alarm target is subsequently detected. There is a postponement of the report for a predetermined period, and if an object that is not a report target is detected during that time, it is assumed that the detection of the previous report target is erroneous recognition, and by canceling the postponed report itself ,
False alarms can be prevented.

【0007】また、本発明の画像認識方法は、前記画像
から発報対象外の物体を検出した際に、発報延期信号を
別系統の画像認識装置へ通知することを特徴とするもの
である。この方法により、例えばパトロール車両のよう
な発報対象外の物体が検出された場合、隣接区間を監視
する画像認識装置に向けて発報延期信号を通知すること
により、他の画像認識装置が誤発報するのを防止できる
こととなる。
Further, the image recognition method according to the present invention is characterized in that, when an object which is not an alarm target is detected from the image, an alarm postponement signal is notified to an image recognition apparatus of another system. . According to this method, when an object that is not a notification target such as a patrol vehicle is detected, a notification postponement signal is notified to an image recognition device that monitors an adjacent section, so that the other image recognition devices may detect an error. It is possible to prevent the alarm from being issued.

【0008】また、本発明の画像認識装置は、撮像して
得られた画像から発報対象外の物体を検出した場合に非
発報延期モードから発報延期モードに切り替えるととも
に、前記発報延期モードの期間中に前記画像から発報対
象を検出した場合に、前記検出した発報対象についての
発報を所定期間延期する発報延期部と、前記発報を延期
している期間中に前記画像から発報対象外の物体を検出
した場合に、前記延期している発報対象についての発報
を取り消す発報取消部とを備えたことを特徴とするもの
である。この構成により、画像から発報対象外の物体を
検出した場合は、その後に発報対象である物体を検出し
た場合でも、誤認識の可能性があるので所定期間は発報
を延期し、その間に発報対象外の物体を検出した場合
は、先の発報対象の検出は誤認識であるとして、延期し
ている発報自体を取り消すことにより、誤発報を防止で
きることとなる。
Further, the image recognition apparatus of the present invention switches from the non-delivery postponement mode to the postponement notification mode when detecting an object that is not to be reported from the image obtained by capturing the image. When an alarm target is detected from the image during the mode, an alarm postponing unit that postpones the alarm for the detected alarm target for a predetermined period, and during the period in which the alarm is postponed, When a non-reporting object is detected from the image, a report canceling unit for canceling the report about the postponed report object is provided. With this configuration, if an object that is not a target for alarm is detected from an image, even if an object that is a target for alarm is subsequently detected, the alarm is postponed for a predetermined period because there is a possibility of erroneous recognition. If an object that is not the alarm target is detected in advance, it is determined that the previous alarm target is erroneously recognized, and by canceling the postponed alarm itself, erroneous alarm can be prevented.

【0009】また、本発明の画像認識装置は、別系統か
ら発報対象外の物体を検出したことを示す発報延期信号
を通知された場合に非発報延期モードから発報延期モー
ドに切り替えるとともに、前記発報延期モードの期間中
に前記画像から発報対象を検出した場合に、前記検出し
た発報対象についての発報を所定期間延期する発報延期
部と、前記発報を延期している期間中に前記画像から発
報対象外の物体を検出した場合に、前記延期している発
報対象についての発報を取り消す発報取消部とを備えた
ことを特徴とするものである。この構成により、別系統
から発報対象外の物体を検出したことを示す発報延期信
号を通知された場合は、その後に発報対象である物体を
検出した場合でも、誤認識の可能性があるので所定期間
は発報を延期し、その間に発報対象外の物体を検出した
場合は、先の発報対象の検出は誤認識であるとして、延
期している発報自体を取り消すことにより、誤発報を防
止できることとなる。
Further, the image recognition apparatus of the present invention switches from the non-delivery postponement mode to the report postponement mode when a notification postponement signal indicating that a non-reporting object has been detected is notified from another system. In addition, when an alarm target is detected from the image during the alarm postponement mode, an alarm postponing unit that postpones the alarm for the detected alarm target for a predetermined period, and postpones the alarm. And a notification canceling unit for canceling a report on the postponed report target when an object that is not a report target is detected from the image during the period. . With this configuration, when an alarm postponement signal indicating that an object that is not an alarm target has been detected is notified from another system, the possibility of erroneous recognition is increased even if an object that is an alarm target is subsequently detected. There is a postponement of the report for a predetermined period, and if an object that is not a report target is detected during that time, it is assumed that the detection of the previous report target is erroneous recognition, and by canceling the postponed report itself Erroneous notification can be prevented.

【0010】また、本発明の画像認識装置は、前記画像
から発報対象外の物体を検出した際に、発報延期信号を
別系統の画像認識装置へ通知する延期信号出力部を備え
たことを特徴とするものである。この構成により、例え
ばパトロール車両のような発報対象外の物体が検出され
た場合、隣接区間を監視する画像認識装置に向けて発報
延期信号を通知することにより、他の画像認識装置が誤
発報するのを防止できることとなる。
Further, the image recognition apparatus of the present invention further comprises a postponement signal output unit for notifying the postponement notification signal to an image recognition apparatus of another system when an object not to be notified is detected from the image. It is characterized by the following. With this configuration, when an object that is not to be alerted, such as a patrol vehicle, is detected, the alerting postponement signal is notified to the image recognition device that monitors the adjacent section, so that the other image recognition devices are erroneously notified. It is possible to prevent the alarm from being issued.

【0011】また、本発明の画像認識装置は、前記発報
対象物体の位置を画像上に図形として重畳して表示する
とともに、発報を延期しているか否かにより図形の表示
色を変化させる表示部を備えたことを特徴とするもので
ある。この構成により、物体の位置を示す目的で画像中
に矩形等図形を重畳して表示する際、発報の延期中と延
期終了後つまり発報後とで図形の表示色を切り替えるこ
とにより、発報を延期していることを明示的に表示でき
ることなる。
Further, the image recognition apparatus of the present invention displays the position of the object to be alerted superimposed on the image as a figure, and changes the display color of the figure depending on whether or not the alert is postponed. A display unit is provided. With this configuration, when a figure such as a rectangle is superimposed and displayed in an image for the purpose of indicating the position of an object, the display color of the figure is switched between during the postponement of the alarm and after the postponement, that is, after the alarm is issued. It will be possible to explicitly indicate that the report has been postponed.

【0012】また、本発明の画像認識装置は、前記画像
から発報対象外の物体を検出した際に物体の移動方向を
予測し、これに応じて前記発報延期信号の通知先を選択
する通知先選択部を備えたことを特徴とするものであ
る。この構成により、通過物体の移動方向にある監視区
域の画像認識装置にのみ発報延期信号を通知することに
より、他の画像認識装置が誤発報するのを効率的に防止
できることとなる。
Further, the image recognition device of the present invention predicts the moving direction of the object when detecting an object that is not the target of the alarm from the image, and selects a notification destination of the alarm postponement signal accordingly. A notification destination selecting unit is provided. With this configuration, by notifying the alarm postponement signal only to the image recognition apparatuses in the monitoring area in the moving direction of the passing object, it is possible to efficiently prevent the other image recognition apparatuses from erroneously issuing an alarm.

【0013】また、本発明の監視システムは、複数の撮
像装置と、前記撮像装置の画像を処理して発報対象の物
体が画像中に存在する場合に発報を行う上記した複数台
の画像認識装置と、画像を遅延させる複数のフレームバ
ッファーと、各装置間で情報を送受信するための伝送手
段と、撮像装置の画像および画像認識装置の処理結果を
表示する複数の画像表示装置とを備えたことを特徴とす
るものである。この構成により、ある画像認識装置が画
像を処理して発報対象外の通過物体を検出した場合に
は、伝送手段を通じて別の画像認識装置に発報延期信号
を通知することにより、誤発報を効果的に防止すること
のできる監視システムを実現できることとなる。
Further, the monitoring system of the present invention comprises a plurality of image pickup devices, and the plurality of image pickup devices for processing an image of the image pickup device and issuing an alert when an object to be alerted is present in the image. A recognition device, a plurality of frame buffers for delaying an image, transmission means for transmitting and receiving information between the devices, and a plurality of image display devices for displaying an image of the imaging device and a processing result of the image recognition device. It is characterized by having. With this configuration, when a certain image recognition device detects a passing object that is not a target to be processed by processing an image, a notification postponement signal is notified to another image recognition device through a transmission unit, thereby generating a false alarm. A monitoring system capable of effectively preventing the above can be realized.

【0014】また、本発明の監視システムは、撮像装置
と、発報対象外の通過物体を識別して前記発報延期信号
を通知する通過物体感知器と、前記撮像装置の画像を処
理して発報対象の侵入物体が画像中に存在する場合に発
報を行う請求項4、5、6、7または8のいずれかに記
載の画像認識装置と、画像を遅延させるフレームバッフ
ァーと、各装置間で情報を送受信するための伝送手段
と、撮像装置の画像および画像認識装置の処理結果を表
示する画像表示装置とを備えたことを特徴とするもので
ある。この構成により、通過物体感知器が発報対象外の
物体を検出した場合に画像認識装置に発報延期信号を通
知することにより、誤発報を効果的に防止することので
きる監視システムを実現できることとなる。
[0014] The monitoring system of the present invention processes an image of the imaging device, a passing object detector that identifies a passing object that is not an alarm target, and notifies the alarm postponement signal, and an image of the imaging device. 9. The image recognition device according to claim 4, which issues a notification when an intruding object to be reported exists in the image, a frame buffer for delaying the image, and each device. And a transmission means for transmitting and receiving information between the imaging device and an image display device for displaying an image of the imaging device and a processing result of the image recognition device. This configuration realizes a monitoring system that can effectively prevent false alarms by notifying the image recognition device of an alarm postponement signal when the passing object detector detects an object that is not an alarm target. You can do it.

【0015】また、本発明の監視システムは、発報対象
外の通過物体を識別して前記発報延期信号を通知する通
過物体感知器が、音により通過物体を識別することを特
徴とするものである。この構成により、物体の通過音に
より発報対象外の物体を検出して画像認識装置に発報延
期信号を通知することにより、誤発報を効果的に防止す
ることのできる監視システムを実現できることとなる。
The monitoring system according to the present invention is characterized in that the passing object detector that identifies a passing object that is not a target of notification and notifies the postponement signal of the notification identifies the passing object by sound. It is. With this configuration, it is possible to realize a monitoring system that can effectively prevent erroneous alarms by detecting an object that is not an alarm target by a passing sound of the object and notifying the image recognition device of an alarm postponement signal. Becomes

【0016】また、本発明の監視システムは、発報対象
外の通過物体を識別して前記発報延期信号を通知する通
過物体感知器が、磁気変動により通過物体を識別するこ
とを特徴とするものである。この構成により、通過に伴
う磁気変動により発報対象外の物体を検出して画像認識
装置に発報延期信号を通知することにより、誤発報を効
果的に防止することのできる監視システムを実現できる
こととなる。
The monitoring system according to the present invention is characterized in that a passing object detector that identifies a passing object that is not a target of notification and notifies the postponement signal of the notification identifies the passing object by magnetic fluctuation. Things. With this configuration, a surveillance system that can effectively prevent false alarms by detecting objects that are not the object of alarm due to magnetic fluctuations caused by passing and notifying the image recognition device of the alarm postponement signal You can do it.

【0017】[0017]

【発明の実施の形態】以下、本発明の実施の形態につい
て、図1〜図9を用いて説明する。 (実施の形態1)図1は本発明の第1の実施の形態にお
ける画像認識装置の構成を示すものである。撮像装置1
は、監視区域の画像を撮影して画像認識装置12へ出力
する。画像認識装置12は、撮像装置1により得られた
画像を処理して発報対象である侵入物体を検出した場合
に発報を行う。画像認識装置12において物体を誤認識
することは稀ではあるが、気象条件や照度条件により撮
像装置からの画像が劣化し、特徴量が正しく得られない
こと等を要因として発報対象外の物体を発報対象と誤認
識する場合もある。
DESCRIPTION OF THE PREFERRED EMBODIMENTS Embodiments of the present invention will be described below with reference to FIGS. (Embodiment 1) FIG. 1 shows the configuration of an image recognition apparatus according to a first embodiment of the present invention. Imaging device 1
Captures an image of the monitored area and outputs it to the image recognition device 12. The image recognition device 12 processes an image obtained by the imaging device 1 and issues an alert when an intruding object to be alerted is detected. Although it is rare for the image recognition device 12 to misrecognize an object, it is rare for an object not to be reported due to a deterioration in an image from the imaging device due to weather conditions or illuminance conditions and a feature amount not being obtained correctly. May be erroneously recognized as an alarm target.

【0018】撮像装置1から入力される映像信号は、画
像入力部2においてA/D変換され、入力画像メモリ3に
記憶される。物体抽出部4は、背景画像メモリ5に記憶
されている物体の存在しない画像いわゆる背景画像と、
入力画像メモリ3に記憶されている現在の入力画像とを
比較して、変化の生じた領域を物体領域として抽出す
る。特徴量算出部6は、物体の特徴量として、面積比、
移動量、移動速度、追跡期間等を算出する。物体識別部
7は、特徴量算出部6で得られた特徴量を、あらかじめ
設定してある閾値と比較して物体を識別し、その物体が
発報すべき物体であれば発報を指示する。発報延期部8
は、物体識別部7にて発報対象外の物体が検出された場
合、その後に発報対象の物体が検出された場合はその発
報を所定期間延期する。発報取り消部9は、発報延期期
間中に物体識別部7にて発報対象外の物体が検出された
場合、延期中の発報を取り消す。延期信号出力部10
は、物体識別部7にて発報対象外の物体を検出した場
合、発報延期信号を別系統の画像認識装置に向けて通知
する。表示部11は、発報対象物の位置を枠等の図形に
より表示する際、発報延期中かまたは発報後かによって
図形の色を切り替える。
A video signal input from the image pickup device 1 is A / D converted in the image input unit 2 and stored in the input image memory 3. The object extraction unit 4 includes an image in which no object is stored in the background image memory 5, that is, a so-called background image,
By comparing the current input image stored in the input image memory 3 with the current input image, an area where a change has occurred is extracted as an object area. The feature amount calculation unit 6 calculates an area ratio,
Calculate the moving amount, moving speed, tracking period, and the like. The object identifying unit 7 compares the feature amount obtained by the feature amount calculating unit 6 with a preset threshold to identify the object, and instructs to issue an alert if the object is an object to be alerted. . Postponement part 8
When the object identification unit 7 detects an object that is not a notification target, and subsequently detects an object that is a notification target, the notification is postponed for a predetermined period. The alarm canceling unit 9 cancels the alarm during the postponement when the object identification unit 7 detects an object that is not to be issued during the alarm postponing period. Postponement signal output unit 10
When the object identification unit 7 detects an object that is not a notification target, the notification unit notifies a notification postponement signal to another system of image recognition devices. When displaying the position of the alert target using a graphic such as a frame, the display unit 11 switches the color of the graphic depending on whether the alarm is postponed or after the alarm.

【0019】次に、画像入力部2、物体抽出部4、特徴
量算出部6、物体識別部7、発報延期部8、発報取り消
部9、延期信号出力部10、表示部11の動作について
さらに詳細に説明する。
Next, the image input unit 2, the object extraction unit 4, the feature amount calculation unit 6, the object identification unit 7, the alarm postponement unit 8, the alarm cancellation unit 9, the postponement signal output unit 10, and the display unit 11 The operation will be described in further detail.

【0020】画像入力部2では、撮像装置1から出力さ
れた映像信号をA/D変換してディジタルの画像データと
する。例えば画素サイズが水平方向(X)192画素、垂
直方向(Y)242画素の256階調モノクロ画像データを獲
得する。なお、撮像装置1がディジタルの画像データを
出力する場合は、A/D変換は行わないが、以降の処理に
あわせて解像度変換等を行う。
The image input unit 2 converts the video signal output from the image pickup apparatus 1 into digital image data by A / D conversion. For example, 256-gradation monochrome image data having a pixel size of 192 pixels in the horizontal direction (X) and 242 pixels in the vertical direction (Y) is acquired. When the imaging apparatus 1 outputs digital image data, A / D conversion is not performed, but resolution conversion and the like are performed in accordance with subsequent processing.

【0021】物体抽出部4では、入力画像I(X,Y)と侵
入物体が存在しない画像である背景画像B(X,Y)との間
で輝度の差分絶対値S(X,Y)を下記式(1)により求
め、移動物体により発生する画像上での輝度変化を検出
する。 S(X,Y) = | I(X, Y)− B(X, Y) | (1) この輝度の差分絶対値に対して閾値処理を行い、閾値TH
biを超える画素を1、閾値THbiを超えない画素を0とす
るなどして2値化し、画像中の輝度変化領域を抽出す
る。撮像装置1から出力される画像の画質が低下し、低
コントラストになった場合等は、物体の領域が正しく抽
出できない場合もある。
The object extracting section 4 calculates the absolute difference S (X, Y) of the luminance between the input image I (X, Y) and the background image B (X, Y) which is an image in which no intruding object exists. The change in luminance on the image caused by the moving object is detected by the following equation (1). S (X, Y) = | I (X, Y) −B (X, Y) | (1) A threshold process is performed on the absolute value of the difference between the luminance values, and a threshold value TH is calculated.
Pixels exceeding bi are set to 1 and pixels not exceeding the threshold THbi are set to 0, for example, to be binarized, and a luminance change area in the image is extracted. When the image quality of the image output from the imaging device 1 is lowered and the contrast is low, the region of the object may not be correctly extracted in some cases.

【0022】以上説明した物体抽出の手法は背景差分方
式として知られている。次に、レベル1となった画素に
対してラベリング処理を行い、隣接する画素が互いにレ
ベル1である領域に固有のラベルを与える。ラベリング
処理によって各ラベルの面積、重心位置を獲得する。な
お、物体抽出部4において物体を抽出する際、背景差分
方式以外にパターンマッチングやオプティカルフローに
より物体の領域を抽出する方法を用いても良い。
The above-described object extraction method is known as a background subtraction method. Next, a labeling process is performed on the pixels at level 1, and a unique label is given to a region where adjacent pixels are at level 1 from each other. The area and the center of gravity of each label are obtained by the labeling process. When the object is extracted by the object extraction unit 4, a method of extracting an area of the object by pattern matching or optical flow may be used in addition to the background difference method.

【0023】特徴量算出部6では、物体を識別するため
の特徴量を算出する。ここでは特徴量として面積比Rと
追跡期間TTとを用いる場合について説明する。まず、物
体抽出部4にて抽出された物体の位置を時間的に関連付
けして追跡する。1フレーム前の物体位置と現在の物体
位置とが十分に近く、物体領域の面積や形状の変化量が
所定範囲内である場合に追跡成立とする。同一物体の追
跡中に物体抽出部4で抽出された物体の面積Sobと、基
準面積Sstとを用いて下記式(2)により物体の大きさ
を示す面積比を処理周期毎算出する。基準面積とは、物
体が抽出された同位置において平均的体格の人間が抽出
された場合の画像上での面積値とする。基準面積は撮像
装置の俯角や撮像素子の大きさ、レンズの焦点距離から
算出することができる。平均的な体格の侵入者を抽出し
た場合、面積比は100%前後となる。 面積比R = (Sob / Sst)×100[%] (2) 追跡期間TTは追跡開始時から現在までの経過時間であ
る。入力した画像が低コントラストである等、画質が低
下している場合には精度よく特徴量が得られない場合も
ある。なお、上記説明では、特徴量として面積比と追跡
期間とを算出する場合について説明したが、移動量、移
動方向、移動速度、輝度等を算出することも考えられ
る。
The feature value calculator 6 calculates a feature value for identifying an object. Here, a case where the area ratio R and the tracking period TT are used as the feature amount will be described. First, the positions of the objects extracted by the object extraction unit 4 are temporally correlated and tracked. Tracking is established when the object position one frame before and the current object position are sufficiently close to each other and the change amount of the area or shape of the object area is within a predetermined range. Using the area Sob of the object extracted by the object extraction unit 4 during the tracking of the same object and the reference area Sst, the area ratio indicating the size of the object is calculated for each processing cycle by the following equation (2). The reference area is an area value on an image when a person of average physique is extracted at the same position where the object is extracted. The reference area can be calculated from the depression angle of the imaging device, the size of the imaging device, and the focal length of the lens. If an average intruder is extracted, the area ratio will be around 100%. Area ratio R = (Sob / Sst) × 100 [%] (2) The tracking period TT is an elapsed time from the start of tracking to the present. When the image quality is low, such as when the input image has low contrast, the feature amount may not be obtained with high accuracy. In the above description, the case where the area ratio and the tracking period are calculated as the feature amounts has been described. However, the movement amount, the movement direction, the movement speed, the luminance, and the like may be calculated.

【0024】物体識別部7では、特徴量を用いて発報す
べき物体であるか判定する。ここでは発報対象とする物
体が監視区域への侵入者であり、発報対象外の物体は
猫、鳥等の小動物やパトロール車両等であるとする。面
積比Rと追跡期間TTとを用いて侵入者を判別する処理の
フローを図2に示す。追跡開始時からの最大の面積比Rm
axを記憶しておき、追跡期間TTが閾値TTTHを超えた時点
以降において(ステップS1)、最大面積比Rmaxが下限
閾値RTH1を一度でも超え(ステップS2)、かつ上限閾
値RTH2を一度も超えない場合に(ステップS3)、侵入
者であると判断する。最大の面積比Rmaxが下限閾値RTH1
未満である物体は、小動物やノイズ等であると判断し、
上限閾値RTH2より大きな物体は、車両等の物体であると
判断する。追跡期間の閾値TTTHを大きくし、長期間をか
けて認識を行えば誤認識を低減することができるが、侵
入が起こってから発報が行われるまでに遅れが生じた
り、追跡期間閾値を満たさない侵入物体を見逃すなどの
問題が発生するため、追跡期間閾値TTTHは数秒程度が適
当である。面積比の下限閾値RTH1は小動物等がとり得る
最大の面積比程度とし、上限閾値RTH2は侵入者が取り得
る最大の面積比程度とするのが適当である。なお、上記
説明では、特徴量として追跡期間TTと面積比Rとを用い
て物体を認識する例を述べたが、その他に移動量、移動
方向、移動速度、輝度等の特徴量を組み合わせて認識す
ることも考えられる。
The object identifying unit 7 determines whether the object is an object to be notified using the feature amount. Here, it is assumed that the object to be alerted is an intruder into the monitored area, and the objects not to be alerted are small animals such as cats and birds and patrol vehicles. FIG. 2 shows a flow of a process for determining an intruder using the area ratio R and the tracking period TT. Maximum area ratio Rm from the start of tracking
ax is stored, and after the tracking period TT exceeds the threshold TT TH (step S1), the maximum area ratio Rmax exceeds the lower threshold R TH1 at least once (step S2), and the upper threshold R TH2 is once exceeded. If the number does not exceed (Step S3), it is determined that the user is an intruder. The maximum area ratio Rmax is the lower threshold R TH1
Objects that are less than are determined to be small animals, noise, etc.
An object larger than the upper threshold RTH2 is determined to be an object such as a vehicle. By increasing the threshold TT TH for the tracking period and performing recognition over a long period of time, false recognition can be reduced.However, there is a delay between the occurrence of intrusion and the generation of an alert, Since a problem such as overlooking an intruding object that is not satisfied occurs, the tracking period threshold TT TH is appropriately about several seconds. It is appropriate that the lower limit R TH1 of the area ratio is about the maximum area ratio that a small animal or the like can take, and the upper threshold R TH2 is about the maximum area ratio that an intruder can take. In the above description, an example has been described in which the object is recognized using the tracking period TT and the area ratio R as the feature amount. It is also possible to do.

【0025】発報延期部8では、物体識別部7にて発報
対象外の物体が検出された場合、その後に発報対象の物
体が検出された場合の発報を所定期間TAだけ延期する発
報延期モードとなり、この発報延期モード時に発報対象
の物体が検出された場合は、発報延期期間TBだけ発報を
延期する。所定期間TA経過後には非発報延期モードとな
り、発報の延期は行わない。各モードの状態遷移の様子
を図3に示す。発報延期モードとなる期間TAは、物体が
別の監視区間へ移動するための所用時間程度がふさわし
く、数十秒程度が適当である場合が多い。発報延期期間
TBは、例えば物体が遠方から接近してくる場合、物体が
遠方からカメラ手前まで移動する時間程度であり、数秒
〜数十秒程度が適当である。
The notification postponing section 8 postpones the notification when the object discriminating section 7 detects a non-reporting object and thereafter detects a notification target object by a predetermined period TA. The mode is the postponement mode, and when an object to be issued is detected in the postponement mode, the postponement is postponed for the postponement period TB. After the elapse of the predetermined period TA, a non-delivery postponement mode is set, and postponement of the notification is not performed. FIG. 3 shows a state transition in each mode. In the period TA during which the alarm is postponed, the time required for the object to move to another monitoring section is appropriate, and in many cases, about several tens of seconds is appropriate. Postponement period
For example, when an object approaches from a distant place, TB is about the time required for the object to move from a distant place to the camera side, and several seconds to several tens of seconds are appropriate.

【0026】発報取り消部9では、物体識別部7におい
て発報対象外の物体、例えばパトロール車両が検出され
た場合に、延期中の発報があればこれを取り消す。発報
取り消部9は発報の延期期間中以外は機能しない。
The alarm canceling unit 9 cancels any postponed alarm, if an object other than the alarm target, for example, a patrol vehicle, is detected by the object identification unit 7. The alarm canceling unit 9 does not function except during the postponement period of the alarm.

【0027】延期信号出力部10では、物体識別部7に
おいて発報対象外の物体、例えばパトロール車両が検出
された場合に、隣接区域を監視する他の画像認識装置に
向けて発報延期信号を通知する。
The postponement signal output unit 10 outputs a postponement notification signal to another image recognition device that monitors an adjacent area when an object that is not a notification target, for example, a patrol vehicle, is detected by the object identification unit 7. Notice.

【0028】表示部11では、侵入物体の画像上位置を
矩形枠等図形で示す際、発報延期中の場合は矩形枠を黄
色で表示し、発報後は矩形枠を赤で表示するなど、図形
の色を切り替えて監視員等に発報を延期していることを
分かりやすくする。その他、表示部11では、画像に文
字や図形を重畳して物体の識別結果等を表示する。
When the position on the image of the intruding object is indicated by a graphic such as a rectangular frame, the display unit 11 displays the rectangular frame in yellow when the report is postponed, and displays the rectangular frame in red after the report. By changing the color of the figure, it is easy for the observer or the like to understand that the report is postponed. In addition, the display unit 11 displays the identification result of the object by superimposing a character or a figure on the image.

【0029】なお、以上の説明において、発報対象であ
る物体を監視区域への侵入者とし、発報対象外の物体は
小動物やパトロール車両等であるとしたが、小動物およ
び車両が発報対象となっても良いし、発報対象外の物体
は作業員や工事用車両等であっても良い。
In the above description, it is assumed that the object to be alerted is an intruder into the monitoring area, and the objects not to be alerted are small animals and patrol vehicles. The object that is not the alarm target may be a worker, a construction vehicle, or the like.

【0030】このように、本実施の形態1によれば、物
体識別部7にて発報対象外の物体を検出した場合は、発
報延期部8が非発報延期モードから所定期間TAの発報延
期モードに切り替え、その後に発報対象である物体を検
出した場合は、誤認識の可能性があるので、所定の発報
延期期間TBの間は発報を延期し、その間に発報対象外の
物体を検出した場合は、先の発報対象の検出は誤認識で
あるとして、発報取消部9が、延期している発報自体を
取り消すことにより、誤発報を防止することができる。
As described above, according to the first embodiment, when the object discriminating unit 7 detects an object that is not a notification target, the notification postponing unit 8 switches from the non-report postponing mode to the predetermined period TA. If the mode is switched to the alert postponement mode and an object to be alerted is detected after that, there is a possibility of erroneous recognition.Therefore, the alert is postponed for the predetermined alert postponement period TB, and If an object other than the target is detected, it is determined that the detection of the previous notification target is erroneous recognition, and the notification cancellation unit 9 cancels the postponed notification itself to prevent the erroneous notification. Can be.

【0031】また、延期信号出力部10が、物体識別部
7にて発報対象外の物体、例えばパトロール車両を検出
した場合は、隣接区域を監視する他の画像認識装置に向
けて発報延期信号を通知することにより、他の画像認識
装置が発報対象外の物体を発報対象物体と認識して誤発
報するのを防止することができる。
When the postponement signal output unit 10 detects an object that is not a target of notification, for example, a patrol vehicle, in the object identification unit 7, the postponement of the notification is performed to another image recognition device that monitors the adjacent area. By notifying the signal, it is possible to prevent another image recognition device from recognizing an object that is not an alarm target as an alarm target object and causing an erroneous alarm.

【0032】(実施の形態2)次に、本発明の第2の実
施の形態について説明する。本実施の形態2における構
成は、実施の形態1で説明した画像認識装置の発報延期
部8に、隣接区域を監視する別系統の画像認識装置等か
ら発報延期信号が入力されることが異なるのみであり、
画像入力部2、入力画像メモリ3、物体抽出部4、背景
画像メモリ5、特徴量算出部6、物体識別部7、発報取
り消部9、延期信号出力部10、表示部12については
実施の形態1で説明した通りであるので説明を省略す
る。
(Embodiment 2) Next, a second embodiment of the present invention will be described. In the configuration of the second embodiment, the alarm deferral signal is input to the alarm deferral unit 8 of the image recognition device described in the first embodiment from an image recognition device of another system that monitors an adjacent area. Only different
The image input unit 2, input image memory 3, object extraction unit 4, background image memory 5, feature amount calculation unit 6, object identification unit 7, alarm cancellation unit 9, postponement signal output unit 10, and display unit 12 are implemented. As described in the first embodiment, the description is omitted.

【0033】本実施の形態2における発報延期部8で
は、隣接区域を監視する別系統の画像認識装置等からの
発報延期信号の被通知有無により、発報を延期させるか
どうかのモード切り替えを行う。外部から発報延期信号
の通知を受けた場合、所定期間TAは発報延期モードとな
り、発報延期モード時には発報を発報延期期間TBだけ延
期する。最後に受信した発報延期信号から所定期間TA経
過後には非発報延期モードとなり、発報の延期は行われ
ない。各モードの状態遷移の様子を図5に示す。ここで
は、発報延期信号は、隣接区間を監視する別系統の画像
認識装置や各種センサーにおいて発報対象外であるパト
ロール車両等を検出した際に、この画像認識装置12に
向けて通知するものとする。発報延期モードとなる期間
TAは、物体が別の監視区間へ移動するための所用時間程
度がふさわしく、数十秒程度が適当である場合が多い。
期間TBは、例えば物体が遠方から接近してくる場合、物
体が遠方からカメラ手前まで移動する時間程度であり、
数秒〜数十秒程度が適当である。
In the alarm postponement unit 8 according to the second embodiment, the mode switching of whether or not to postpone the alarm is performed according to the presence / absence of the notification postponement of the alarm postponement signal from the image recognition apparatus of another system which monitors the adjacent area. I do. When the notification of the alarm postponement signal is received from the outside, the predetermined period TA is in the alarm postponement mode, and in the alarm postponement mode, the alarm is postponed by the alarm postponement period TB. After a lapse of a predetermined period TA from the last received notification postponement signal, the non-report postponement mode is set, and the postponement of the notification is not performed. FIG. 5 shows the state transition in each mode. Here, the notification postponement signal is a signal that notifies the image recognition device 12 when a patrol vehicle or the like that is not a target of notification is detected by an image recognition device of another system that monitors an adjacent section or various sensors. And Period during which the alarm is postponed
As for the TA, the time required for the object to move to another monitoring section is appropriate, and about tens of seconds is often appropriate.
The period TB is, for example, when an object approaches from a distance, is a time period in which the object moves from a distance to the camera.
Several seconds to several tens of seconds are appropriate.

【0034】このように、本実施の形態2によれば、発
報対象外の物体を侵入者であると一旦は発報対象として
認識しても、発報対象外の物体をあらかじめ検出してい
る画像認識装置等からの通知を受けた場合にはその発報
を延期し、その間に画像中の物体が発報対象外であると
再認識した場合は、その発報を取り消すようにしたの
で、誤発報を防止することができる。
As described above, according to the second embodiment, even if an object that is not an alarm target is once recognized as an intruder, the object that is not an alarm target is detected in advance. The notification is postponed if a notification is received from an image recognition device or the like, and if the object in the image is re-recognized as not being a target for the notification during that time, the notification is canceled. In addition, false alarms can be prevented.

【0035】(実施の形態3)次に、本発明の第3の実
施の形態について説明する。本実施の形態3は、上記実
施の形態2の一部をソフトウエアにより実現する場合で
あり、図6の処理のフローを用いて説明する。
(Embodiment 3) Next, a third embodiment of the present invention will be described. The third embodiment is a case where a part of the second embodiment is realized by software, and will be described with reference to the processing flow of FIG.

【0036】物体抽出部工程F1において、背景差分方
式により物体領域を抽出する。背景差分方式とは、入力
画像と別途記憶されている過去の画像いわゆる背景画像
とを比較して、変化のあった画像領域を物体領域として
抽出する方式である。特徴量算出工程F2では、物体の
特徴量として、面積比、移動量、移動速度、追跡期間等
を算出する。物体識別工程F3では特徴量算出工程F2
で得られた特徴量を、あらかじめ設定してある閾値と比
較して発報すべき物体かを識別する。発報延期工程F4
では、発報延期信号を受信した場合に発報を所定期間延
期する。発報取り消工程F5では、画像中から発報対象
外の物体が検出された場合に遅延中の発報を取り消す。
延期信号出力工程F6では、物体識別工程F3にて発報
対象外の物体を検出した場合、発報延期信号を別系統の
画像認識へ通知する。発報延期工程F4、発報取り消工
程F5、延期信号出力工程F6については、以下にさら
に詳細に説明する。
In the object extracting step F1, an object area is extracted by the background subtraction method. The background subtraction method is a method in which an input image is compared with a past image that is separately stored, that is, a background image, and an image region that has changed is extracted as an object region. In the feature amount calculating step F2, an area ratio, a moving amount, a moving speed, a tracking period, and the like are calculated as the feature amounts of the object. In the object identification step F3, the feature amount calculation step F2
Is compared with a threshold value set in advance to identify whether the object should be an alarm. Alert postponement process F4
Then, the notification is postponed for a predetermined period when the notification postponement signal is received. In the alarm canceling process F5, the alarm that is being delayed is canceled when an object that is not an alarm target is detected from the image.
In the postponement signal output step F6, when an object that is not a notification target is detected in the object identification step F3, a notification postponement signal is notified to another system of image recognition. The alarm postponement step F4, the alarm cancellation step F5, and the postponement signal output step F6 will be described in further detail below.

【0037】発報延期工程F4では、外部から発報延期
信号が入力中の場合や入力後所定期間TA以内の発報延期
モード時は、物体識別工程F3において発報対象の物体
が検出されてから所定期間TB遅延させて発報する。発報
延期信号が未通知の場合や最後の通知から所定期間TA経
過後の非発報延期モード時は延期せずに発報する。発報
延期モードとなる期間は、物体が別の監視区間へ移動す
るための所用時間程度が適当であり、数十秒程度である
場合が多い。また、発報指示信号を遅延する期間TBは、
例えば物体が遠方から接近してくる場合物体が遠方から
カメラ手前まで移動する時間程度であり、数秒から数十
秒が適当である。
In the alarm postponement step F4, when an alarm postponement signal is being input from the outside or in the alarm postponement mode within a predetermined period TA after the input, an object to be output is detected in the object identification step F3. Is issued after a delay of TB for a predetermined period. In the case where the notification postponement signal has not been notified, or in the non-report postponement mode after a predetermined period TA has elapsed since the last notification, the notification is issued without postponement. The period during which the notification postponement mode is set is appropriately about the time required for the object to move to another monitoring section, and is often about several tens of seconds. Also, the period TB for delaying the alarm instruction signal is
For example, when the object is approaching from a distance, it is about the time required for the object to move from a distance to the camera, and several seconds to several tens of seconds are appropriate.

【0038】発報取り消工程F5では、画像から発報対
象外であるパトロール車両等を検出した場合、遅延中の
発報があればこれを取り消す。
In the notification canceling step F5, when a patrol vehicle or the like which is not to be notified from the image is detected, if there is a report that is being delayed, this is canceled.

【0039】延期信号出力工程F6では、物体識別工程
F3において画像中にパトロール車両等の発報対象外の
物体が存在すると判断された場合、隣接する別の画像認
識装置に向けて、パトロール車両等発報対象外の物体が
付近に存在することを示す発報延期信号を通知する。
In the postponement signal output step F6, when it is determined in the object identification step F3 that there is an object not to be alerted such as a patrol vehicle in the image, the patrol vehicle or the like is sent to another adjacent image recognition device. A notification postponement signal indicating that an object not to be issued is present in the vicinity is notified.

【0040】このように、本実施の形態3によれば、発
報対象外の物体を侵入者であると誤認識した場合であっ
ても、後に発報対象外の物体であることが分かった場合
は、先の誤発報を取り消すことができる。
As described above, according to the third embodiment, even if an object that is not a target of alarm is erroneously recognized as an intruder, it is later determined that the object is not a target of alarm. In such a case, the previous false alarm can be canceled.

【0041】(実施の形態4)次に、本発明の第4の実
施の形態について図7を用いて説明する。本実施の形態
4における構成は、実施の形態1および実施の形態2で
説明した画像認識装置12に、通知先選択部13を加え
たものであり、画像入力部2、入力画像メモリ3、物体
抽出部4、背景画像メモリ5、特徴量算出部6、物体識
別部7、発報延期部8、発報取り消部9、延期信号出力
部10、表示部12については実施の形態1および実施
の形態2で説明した通りであるので説明を省略する。
(Embodiment 4) Next, a fourth embodiment of the present invention will be described with reference to FIG. The configuration according to the fourth embodiment is obtained by adding a notification destination selection unit 13 to the image recognition device 12 described in the first and second embodiments, and includes an image input unit 2, an input image memory 3, an object The extraction unit 4, the background image memory 5, the feature amount calculation unit 6, the object identification unit 7, the alarm postponement unit 8, the alarm cancellation unit 9, the postponement signal output unit 10, and the display unit 12 are the same as those in the first embodiment. The description is omitted because it is as described in the second embodiment.

【0042】通知先選択部13は、まず、特徴量算出部
6における物体追跡処理の結果を受けて、発報対象外の
物体の移動方向を予想する。例えば、図8(a)に示す
ように、左上を原点(0、0)とする画像上において、
追跡開始時の位置を(X0、Y0)とし、現在の位置が(X
1,Y1)であるとする。簡単のため水平X方向の移動につ
いては考慮しない場合、Y0 < Y1であれば物体が画像下
方向に移動、つまり撮像装置に接近していることとな
り、今後も画像下方向へ移動していくものと予想するこ
とができる。なお、移動方向の予測は画像左右方向につ
いて行っても良い。
The notification destination selection unit 13 first receives the result of the object tracking processing in the feature amount calculation unit 6 and predicts the moving direction of an object that is not to be notified. For example, as shown in FIG. 8A, on an image having the upper left as the origin (0, 0),
The position at the start of tracking is (X0, Y0), and the current position is (X0, Y0).
1, Y1). If the horizontal X direction is not considered for simplicity, if Y0 <Y1, the object moves downward in the image, that is, it is approaching the imaging device, and will continue to move downward in the image Can be expected. The prediction of the moving direction may be performed in the left-right direction of the image.

【0043】次に、延期信号出力部10から出力された
発報延期信号の通知先を、予測した移動方向によって切
り替える。例えば、図8(b)に示すように、注目する
監視区域A1より遠方に監視区域A0、A1より手前に監視
区域A2が存在し、A0とA1、A1とA2がそれぞれ隣接してい
る場合を想定する。監視区域A1を撮影している画像中を
上方向つまり撮像装置1から遠ざかるように移動する発
報対象外の物体があるとした場合、今後は監視区域A1の
奥に隣接する監視区域A0に物体が移動することが予想さ
れる。よって、監視区域A0を監視している画像認識装置
にのみ発報延期信号を通知する。逆に、画像中を下方向
へ移動する物体が存在する場合は、監視区域A1の手前に
隣接する監視区域A2の画像認識装置にのみ発報延期信号
を通知する。発報延期信号の通知を受けた画像認識装置
12の発報延期部8は、所定期間だけ発報を延期し、延
期中に物体が発報対象外であると再認識すれば、発報取
消部9において発報を取り消す。
Next, the notification destination of the alarm postponement signal output from the postponement signal output unit 10 is switched according to the predicted moving direction. For example, as shown in FIG. 8B, a case where the monitoring area A0 is located farther than the monitoring area A1 of interest and the monitoring area A2 is located before the monitoring area A1, and A0 and A1 and A1 and A2 are adjacent to each other. Suppose. Assuming that there is a non-reporting object moving upward in the image capturing the monitoring area A1, that is, moving away from the imaging device 1, the object is now located in the monitoring area A0 adjacent to the back of the monitoring area A1. Is expected to move. Therefore, the notification postponement signal is notified only to the image recognition device monitoring the monitoring area A0. Conversely, when there is an object that moves downward in the image, the notification postponement signal is notified only to the image recognition device in the adjacent monitoring area A2 before the monitoring area A1. The notification postponing unit 8 of the image recognition device 12 that has received the notification of the notification postponement signal postpones the report for a predetermined period, and cancels the report if the object is re-recognized as being out of the report target during the postponement. In the part 9, the alarm is canceled.

【0044】このように、本実施の形態4によれば、万
一画像中の発報対象外の物体を発報対象と一旦は誤認識
しても、発報延期信号の通知により発報を延期するの
で、所定期間内に物体が発報対象外の物体であると再認
識された場合は、延期中の発報を取り消すことができる
とともに、発報延期信号を別系統へ通知する際、隣接す
る全ての画像認識装置に通知するのではなく、物体の進
入が予想される画像認識装置にのみ通知するので、物体
が進入しない画像認識装置の発報まで遅れないようにす
ることができる。
As described above, according to the fourth embodiment, even if an object that is not a target of alarm in an image is erroneously recognized as a target of alarm once, the alarm is notified by the notification of the alarm postponement signal. Since the postponement, if the object is re-recognized as a non-reporting object within the predetermined period, it is possible to cancel the postponement of the postponement, and when notifying the postponement signal to another system, Notifying all the adjacent image recognition apparatuses, but not only the image recognition apparatuses that are expected to enter the object, it is possible to prevent the image recognition apparatus that does not enter the object from being delayed.

【0045】(実施の形態5)次に、本発明の第5の実
施の形態について図9を用いて説明する。本実施の形態
5は、上記した画像認識装置12を用いた監視システム
であり、複数の撮像装置1a、1bは、それぞれ隣接する
別の監視区域A、Bを撮影する。各撮像装置1a、1bの
画像を入力した画像認識装置12a、12bは、画像中の進入
物体を認識し、発報対象である物体が存在すれば発報す
る。通過物体感知器SENは、発報対象外の物体を感知し
て発報延期信号を出力する。フレームバッファーFBは、
発報の瞬間とその前後の画像を記憶する。伝送手段CAB
は、撮像装置1a、1b、画像認識装置12a、12b、通過物
体感知器SENが出力する画像や、発報延期信号を伝送す
る。警報装置CAUは、ブザー等の発報手段を備えて警報
を発する。表示装置MONは、画像認識装置12a、12bおよ
び撮像装置1a、1bが出力する画像を表示する。画像認
識装置12a、12bについては、実施の形態1から4でも説
明したように、撮像装置1a、1bから入力した画像を処
理して画像中に発報対象となる物体が存在すれば発報す
る。また、発報対象外の物体を検出した際は、隣接区間
を監視する画像認識装置に対して発報延期信号を出力す
る。
(Embodiment 5) Next, a fifth embodiment of the present invention will be described with reference to FIG. The fifth embodiment is a monitoring system using the above-described image recognition device 12, and the plurality of imaging devices 1a and 1b capture images of different adjacent monitoring areas A and B, respectively. The image recognition devices 12a and 12b that have received the images of the respective imaging devices 1a and 1b recognize the approaching objects in the images and issue an alert if there is an object to be alerted. The passing object detector SEN detects an object that is not the target of the alarm and outputs an alarm postponement signal. The frame buffer FB is
The moment of the alarm and the images before and after it are stored. Transmission means CAB
Transmits the images output by the imaging devices 1a and 1b, the image recognition devices 12a and 12b, the passing object detector SEN, and the alarm postponement signal. The alarm device CAU is provided with an alarm means such as a buzzer to issue an alarm. The display device MON displays images output from the image recognition devices 12a and 12b and the imaging devices 1a and 1b. As described in the first to fourth embodiments, the image recognition devices 12a and 12b process images input from the imaging devices 1a and 1b and issue an alert if an object to be alerted exists in the images. . Further, when an object not to be alerted is detected, an alert postponement signal is output to an image recognition device monitoring an adjacent section.

【0046】本システムの動作の一例について説明す
る。発報対象外の物体CARが、図9において左方向から
右方向へ移動しているとする。物体は、撮像装置1aの画
角内の監視区域Aに進入し、画像認識装置12aにより発
報対象外の物体であるパトロール車両であると認識され
る。画像認識装置12aは、隣接監視区域の画像認識装置1
2bに対して発報延期信号を通知する。パトロール車両
は、次に監視区域Bに進入し、画像認識装置12bにより同
パトロール車両の認識が行われる。画像認識装置12bが
侵入者であると誤認識した場合であっても、発報延期信
号をあらかじめ通知されているため発報は延期し、延期
中に先の物体がパトロール車両であると再認識された場
合には、遅延中の発報を取り消す。なお、画像認識装置
12bにおいて、パトロール車両と再認識されなかった場
合、つまりパトロール車両が監視区域Bに進入したので
はなく、実際に侵入者が存在した場合等は、発報を所定
期間延期した後に発報することになる。発報の瞬間およ
びその前後の画像は、フレームバッファーFBにより記録
しておき、監視員による発報要因の確認等に用いる。
An example of the operation of the present system will be described. It is assumed that the object CAR not to be alerted moves from left to right in FIG. The object enters the monitoring area A within the angle of view of the imaging device 1a, and is recognized by the image recognition device 12a as a patrol vehicle that is an object that is not an alarm target. The image recognition device 12a is an image recognition device 1 in the adjacent monitoring area.
Notify 2b of the alarm postponement signal. The patrol vehicle then enters the monitoring area B, and the image recognition device 12b recognizes the patrol vehicle. Even if the image recognition device 12b erroneously recognizes as an intruder, the notification is postponed because the notification postponement signal has been notified in advance, and during the postponement, the previous object is a patrol vehicle again. If so, cancel the delayed alert. In addition, the image recognition device
In 12b, if it is not re-recognized as a patrol vehicle, that is, if the patrol vehicle does not enter the monitoring area B but there is actually an intruder, etc. become. The image at the moment of the alarm and the images before and after the alarm are recorded by the frame buffer FB, and are used by the supervisor to confirm the alarm factor.

【0047】発報延期信号は、通過物体感知器SENから
発信することも考えられる。通過物体感知器SENがパト
ロール車両等発報対象外の物体を感知した場合に、付近
の画像認識装置へ発報延期信号を通知する。発報延期信
号を受けた画像認識装置は、誤認識しても発報延期信号
を受けて発報を延期し、後でパトロール車両等発報対象
外の物体であると再認識された場合は延期中の発報を取
り消す。なお、通過物体感知器SENとしては、例えば車
両通過時の音響を認識する音声認識装置や、車両通過時
の磁気の変化をとらえる磁気センサー等が考えられる。
It is conceivable that the alarm postponement signal is transmitted from the passing object detector SEN. When the passing object detector SEN detects an object that is not a reporting target such as a patrol vehicle, it notifies the nearby image recognition device of a report postponement signal. The image recognition device that has received the alarm postponement signal, even if erroneously recognized, receives the alarm postponement signal and postpones the alarm, and if it is later re-recognized as an object such as a patrol vehicle that is not an alarm target Cancel postponed alerts. As the passing object detector SEN, for example, a voice recognition device that recognizes sound when the vehicle passes, a magnetic sensor that captures a change in magnetism when the vehicle passes, and the like are considered.

【0048】このように、本実施の形態5によれば、一
旦は発報すべき物体であると誤認識した場合であって
も、隣接する区間を監視する画像認識装置および通過物
体感知器が発報対象外の物体を検出していた場合には発
報を遅延し、画像中の物体を再認識して発報対象外の物
体であることが分かれば、発報を取り消すことができる
ので、結果として誤発報を防止することができる。
As described above, according to the fifth embodiment, even if the object is once erroneously recognized as an object to be alerted, the image recognition device and the passing object detector that monitor the adjacent section are not required. If an object that is not an alarm target is detected, the alarm is delayed, and if the object in the image is recognized again and it is found that the object is not an alarm target, the alarm can be canceled. As a result, false alarms can be prevented.

【0049】[0049]

【発明の効果】以上説明したように、本発明によれば、
発報対象外の物体を侵入者であると一旦は発報対象とし
て認識しても、発報対象外の物体をあらかじめ検出して
いたり、他の画像認識装置等から発報延期信号の通知を
受けた場合には、その発報を所定期間だけ延期し、その
間に画像中の物体が発報対象外であると再認識した場合
は、その発報を取り消すようにしたので、誤発報を防止
することが、監視装置としての信頼性を向上させること
ができる。
As described above, according to the present invention,
Even if an object that is not an alarm target is once recognized as an intruder, the object that is not an alarm target is detected in advance, or a notification of an alarm postponement signal is sent from another image recognition device or the like. If the notification is received, the notification is postponed for a predetermined period, and if the object in the image is re-recognized as being out of the notification target during that time, the notification is canceled so Prevention can improve the reliability of the monitoring device.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施の形態1における画像認識装置の
構成を示すブロック図
FIG. 1 is a block diagram illustrating a configuration of an image recognition device according to a first embodiment of the present invention.

【図2】本発明の実施の形態1における物体識別処理を
示すフロー図
FIG. 2 is a flowchart showing an object identification process according to the first embodiment of the present invention.

【図3】本発明の実施の形態1における発報延期部の状
態遷移を示す模式図
FIG. 3 is a schematic diagram showing a state transition of an alarm postponing unit according to the first embodiment of the present invention.

【図4】本発明の実施の形態2における画像認識装置の
構成を示すブロック図
FIG. 4 is a block diagram illustrating a configuration of an image recognition device according to a second embodiment of the present invention.

【図5】本発明の実施の形態2における発報延期部の状
態遷移を示す模式図
FIG. 5 is a schematic diagram showing a state transition of an alarm deferral unit according to Embodiment 2 of the present invention.

【図6】本発明の実施の形態3における画像認識処理を
示すフロー図
FIG. 6 is a flowchart showing an image recognition process according to the third embodiment of the present invention.

【図7】本発明の実施の形態4における画像認識装置の
構成を示すブロック図
FIG. 7 is a block diagram illustrating a configuration of an image recognition device according to a fourth embodiment of the present invention.

【図8】(a)実施の形態4における物体の移動方向を
検出する際の模式図 (b)実施の形態4における物体の移動先監視区域を検
出する際の模式図
8A is a schematic diagram when detecting a moving direction of an object according to a fourth embodiment. FIG. 8B is a schematic diagram when detecting a destination monitoring area of an object according to a fourth embodiment.

【図9】本発明の実施の形態5における侵入者監視シス
テムの構成を示すブロック図
FIG. 9 is a block diagram showing a configuration of an intruder monitoring system according to a fifth embodiment of the present invention.

【符号の説明】[Explanation of symbols]

1 撮像装置 2 画像入力部 3 入力画像メモリ 4 物体抽出部 5 背景画像メモリ 6 特徴量算出部 7 物体識別部 8 発報延期部 9 発報取り消部 10 延期信号出力部 11 表示部 12 画像認識装置 F1 物体抽出工程 F2 特徴量算出工程 F3 物体識別工程 F4 発報延期工程 F5 発報取り消工程 F6 延期信号出力工程 13 通知先選択部 1a、1b 撮像装置 12a、12b 画像認識装置 CAR 物体 SEN 通過物体感知器 FB フレームバッファー CAB 伝送手段 CAU 警報装置 MON 表示装置 1 Imaging device 2 Image input unit 3 Input image memory 4 Object extraction unit 5 Background image memory 6 Feature value calculation unit 7 Object identification unit 8 Alarm postponement unit 9 Alarm cancellation unit 10 Postponement signal output unit 11 Display unit 12 Image recognition Device F1 Object extraction process F2 Feature amount calculation process F3 Object identification process F4 Notification postponement process F5 Notification cancellation process F6 Postponement signal output process 13 Notification destination selection section 1a, 1b Imaging device 12a, 12b Image recognition device CAR Object SEN Pass Object sensor FB Frame buffer CAB Transmission means CAU alarm device MON display device

───────────────────────────────────────────────────── フロントページの続き (72)発明者 恩田 勝政 神奈川県横浜市港北区綱島東四丁目3番1 号 松下通信工業株式会社内 (72)発明者 石田 照男 愛知県名古屋市中村区名駅一丁目1番4号 東海旅客鉄道株式会社内 (72)発明者 森下 正治 愛知県名古屋市中村区名駅一丁目1番4号 東海旅客鉄道株式会社内 (72)発明者 山梨 直樹 愛知県名古屋市中村区名駅一丁目1番4号 東海旅客鉄道株式会社内 (72)発明者 鈴木 裕二 愛知県名古屋市中村区名駅一丁目1番4号 東海旅客鉄道株式会社内 Fターム(参考) 5C054 AA05 CA04 CC03 ED07 ED17 FA00 FC04 FC05 FC12 FC15 FE16 FE28 GA04 HA18 5C087 AA02 AA16 BB74 CC46 DD03 EE08 FF01 FF04 GG40 GG66 GG70 GG83  ──────────────────────────────────────────────────続 き Continuing from the front page (72) Inventor Katsumasa Onda 4-3-1 Tsunashima Higashi, Kohoku-ku, Yokohama-shi, Kanagawa Prefecture Inside Matsushita Communication Industrial Co., Ltd. 1-4-1 Tokai Passenger Railway Co., Ltd. (72) Inventor Shoji Morishita 1-4-1 Meiji Station, Nakamura-ku, Nagoya-shi, Aichi Prefecture Tokai Passenger Railway Co., Ltd. (72) Inventor Naoki Yamanashi Nakamura, Aichi Prefecture 1-4-1 Kuname Station Inside Tokai Passenger Railway Co., Ltd. (72) Inventor Yuji Suzuki 1-4-1 Meiji Station Nakamura-ku Nagoya-shi, Aichi Prefecture Tokai Passenger Railway Co., Ltd. F-term (reference) 5C054 AA05 CA04 CC03 ED07 ED17 FA00 FC04 FC05 FC12 FC15 FE16 FE28 GA04 HA18 5C087 AA02 AA16 BB74 CC46 DD03 EE08 FF01 FF04 GG40 GG66 GG70 GG83

Claims (12)

【特許請求の範囲】[Claims] 【請求項1】 撮像して得られた画像から発報対象外の
物体を検出した場合、その後に前記画像から検出した発
報対象についての発報を所定期間延期し、前記発報を延
期している期間中に前記画像から発報対象外の物体を検
出した場合、前記延期している発報対象についての発報
を取り消すことを特徴とする画像認識方法。
When detecting an object that is not an alarm target from an image obtained by capturing an image, the alarm for the alarm target detected from the image is postponed for a predetermined period, and the alarm is postponed. An image recognizing method comprising: canceling a report on the postponed report target when an object that is not a report target is detected from the image during the period.
【請求項2】 別系統から発報対象外の物体を検出した
ことを示す発報延期信号を通知された場合、その後に撮
像画像から検出した発報対象についての発報を所定期間
延期し、前記発報を延期している期間中に前記画像から
発報対象外の物体を検出した場合、前記延期している発
報対象についての発報を取り消すことを特徴とする画像
認識方法。
2. When an alarm postponement signal indicating that an object that is not an alarm target is detected is notified from another system, the alarm for the alarm target detected from the captured image is postponed for a predetermined period after that, An image recognizing method, wherein, when an object that is not an alarm target is detected from the image during the period in which the alarm is postponed, the alarm for the postponed alarm target is canceled.
【請求項3】 前記画像から発報対象外の物体を検出し
た際に、発報延期信号を別系統の画像認識装置へ通知す
ることを特徴とする請求項1または2記載の画像認識方
法。
3. The image recognition method according to claim 1, wherein, when an object that is not an alarm target is detected from the image, an alarm postponement signal is notified to an image recognition apparatus of another system.
【請求項4】 撮像して得られた画像から発報対象外の
物体を検出した場合に非発報延期モードから発報延期モ
ードに切り替えるとともに、前記発報延期モードの期間
中に前記画像から発報対象を検出した場合に、前記検出
した発報対象についての発報を所定期間延期する発報延
期部と、前記発報を延期している期間中に前記画像から
発報対象外の物体を検出した場合に、前記延期している
発報対象についての発報を取り消す発報取消部とを備え
たことを特徴とする画像認識装置。
4. When a non-reporting object is detected from an image obtained by imaging, the mode is switched from the non-reporting postponement mode to the report postponement mode, and the image is transmitted from the image during the report postponement mode. An alarm postponing unit that postpones the alarm for the detected alarm target for a predetermined period when an alarm target is detected, and an object that is not an alarm target from the image during the period in which the alarm is postponed. And an alarm canceling unit for canceling the alarm for the postponed alarm target when the alarm is detected.
【請求項5】 別系統から発報対象外の物体を検出した
ことを示す発報延期信号を通知された場合に非発報延期
モードから発報延期モードに切り替えるとともに、前記
発報延期モードの期間中に前記画像から発報対象を検出
した場合に、前記検出した発報対象についての発報を所
定期間延期する発報延期部と、前記発報を延期している
期間中に前記画像から発報対象外の物体を検出した場合
に、前記延期している発報対象についての発報を取り消
す発報取消部とを備えたことを特徴とする画像認識装
置。
5. When a notification postponement signal indicating that a non-reporting object has been detected is notified from another system, the non-report postponement mode is switched to the report postponement mode, and the report postponement mode is set. When an alarm target is detected from the image during the period, an alarm postponing unit that postpones the alarm for the detected alarm target for a predetermined period, and from the image during the period during which the alarm is postponed. An image recognizing device comprising: a report canceling unit that cancels a report on the postponed report target when an object that is not a report target is detected.
【請求項6】 前記画像から発報対象外の物体を検出し
た際に、発報延期信号を別系統の画像認識装置へ通知す
る延期信号出力部を備えたことを特徴とする請求項4ま
たは5記載の画像認識装置。
6. A postponement signal output unit for notifying an alarm postponement signal to another type of image recognition device when an object not to be notified is detected from the image. 5. The image recognition device according to 5.
【請求項7】 前記発報対象物体の位置を画像上に図形
として重畳して表示するとともに、発報を延期している
か否かにより図形の表示色を変化させる表示部を備えた
ことを特徴とする請求項4から6のいずれかに記載の画
像認識装置。
7. A display unit which superimposes and displays the position of the notification target object as a graphic on an image and changes a display color of the graphic depending on whether or not the notification is postponed. The image recognition device according to any one of claims 4 to 6.
【請求項8】 前記画像から発報対象外の物体を検出し
た際に物体の移動方向を予測し、これに応じて前記発報
延期信号の通知先を選択する通知先選択部を備えたこと
を特徴とする請求項6記載の画像認識装置。
8. A notification destination selection unit for predicting a moving direction of an object when an object not to be notified is detected from the image and selecting a notification destination of the notification postponement signal in accordance with the prediction. The image recognition device according to claim 6, wherein:
【請求項9】 複数の撮像装置と、前記撮像装置の画像
を処理して発報対象の物体が画像中に存在する場合に発
報を行う複数台の請求項4、5、6、7または8のいず
れかに記載の画像認識装置と、画像を遅延させる複数の
フレームバッファーと、各装置間で情報を送受信するた
めの伝送手段と、撮像装置の画像および画像認識装置の
処理結果を表示する複数の画像表示装置とを備えたこと
を特徴とする監視システム。
9. A plurality of image pickup devices and a plurality of image pickup devices for processing an image of the image pickup device and issuing an alert when an object to be alerted is present in the image. 8. An image recognition device according to any one of the items 8, a plurality of frame buffers for delaying the image, a transmission unit for transmitting and receiving information between the devices, and an image of the imaging device and a processing result of the image recognition device. A monitoring system comprising a plurality of image display devices.
【請求項10】 撮像装置と、発報対象外の通過物体を
識別して前記発報延期信号を通知する通過物体感知器
と、前記撮像装置の画像を処理して発報対象の侵入物体
が画像中に存在する場合に発報を行う請求項4、5、
6、7または8のいずれかに記載の画像認識装置と、画
像を遅延させるフレームバッファーと、各装置間で情報
を送受信するための伝送手段と、撮像装置の画像および
画像認識装置の処理結果を表示する画像表示装置とを備
えたことを特徴とする監視システム。
10. An image pickup apparatus, a passing object detector that identifies a passing object that is not an alarm target and notifies the alarm postponement signal, and processes an image of the image pickup apparatus to generate an intruding object that is an alarm target. 4. An alarm is issued when the image is present in an image.
6. The image recognition device according to any one of 6, 7, or 8, a frame buffer for delaying the image, a transmission unit for transmitting and receiving information between the devices, and an image of the imaging device and a processing result of the image recognition device. A monitoring system comprising an image display device for displaying.
【請求項11】 発報対象外の通過物体を識別して前記
発報延期信号を通知する通過物体感知器が、音により通
過物体を識別することを特徴とする請求項10記載の監
視システム。
11. The surveillance system according to claim 10, wherein a passing object detector that identifies a passing object that is not an alarm target and notifies the alarm postponement signal identifies the passing object by sound.
【請求項12】 発報対象外の通過物体を識別して前記
発報延期信号を通知する通過物体感知器が、磁気変動に
より通過物体を識別することを特徴とする請求項10記
載の監視システム。
12. The surveillance system according to claim 10, wherein a passing object detector that identifies a passing object that is not an alarm target and notifies the alarm postponement signal identifies the passing object by magnetic fluctuation. .
JP2000213438A 2000-07-13 2000-07-13 Image recognition method and apparatus and monitoring system Expired - Fee Related JP4338294B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000213438A JP4338294B2 (en) 2000-07-13 2000-07-13 Image recognition method and apparatus and monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000213438A JP4338294B2 (en) 2000-07-13 2000-07-13 Image recognition method and apparatus and monitoring system

Publications (2)

Publication Number Publication Date
JP2002034027A true JP2002034027A (en) 2002-01-31
JP4338294B2 JP4338294B2 (en) 2009-10-07

Family

ID=18709190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000213438A Expired - Fee Related JP4338294B2 (en) 2000-07-13 2000-07-13 Image recognition method and apparatus and monitoring system

Country Status (1)

Country Link
JP (1) JP4338294B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267510A (en) * 2004-03-22 2005-09-29 Secom Co Ltd Image processing device, image processing method, and intruder detection system
JP2017054393A (en) * 2015-09-11 2017-03-16 パナソニックIpマネジメント株式会社 Monitoring system, movement detecting device used for the same, and monitoring device
CN112598865A (en) * 2020-12-14 2021-04-02 深圳供电局有限公司 Monitoring method and system for preventing cable line from being damaged by external force

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267510A (en) * 2004-03-22 2005-09-29 Secom Co Ltd Image processing device, image processing method, and intruder detection system
JP2017054393A (en) * 2015-09-11 2017-03-16 パナソニックIpマネジメント株式会社 Monitoring system, movement detecting device used for the same, and monitoring device
CN112598865A (en) * 2020-12-14 2021-04-02 深圳供电局有限公司 Monitoring method and system for preventing cable line from being damaged by external force

Also Published As

Publication number Publication date
JP4338294B2 (en) 2009-10-07

Similar Documents

Publication Publication Date Title
EP2564380B1 (en) Method and system for security system tampering detection
US9117123B2 (en) Vehicular rear view camera display system with lifecheck function
US8437504B2 (en) Imaging system and imaging method
US9053621B2 (en) Image surveillance system and image surveillance method
JP7459916B2 (en) Object tracking method, object tracking device, and program
US20090069973A1 (en) Warning method and device for deviation of a moving vehicle
JP2007026301A (en) Stopping/low-speed vehicle detector and stopping/low-speed vehicle detection method
CN211236276U (en) Intelligent monitoring system for railway platform end intrusion
JP2005515733A (en) Method and apparatus for identifying or displaying image errors in an imaging system
US9524644B2 (en) Notification control method and notification control device
JP2006171944A (en) Combined crime prevention sensor
JP6553249B1 (en) Elevator alerting system
JP2001160146A (en) Method and device for recognizing image
JP2010256194A (en) Invasion detecting device
JP2002034027A (en) Method for recognizing picture and device for the same and monitoring system
JP2000209573A (en) Intruder detecting system
JP2009157763A (en) Composite intrusion detecting device
KR102456190B1 (en) Black box system for offshore fishing vessels
JP2009295018A (en) Vehicle periphery monitoring device
JPH10269492A (en) Vehicle monitoring device
JP2003331397A (en) Start annunciator arrangement
JP2004030022A (en) Invasion detection system
JP2006333146A (en) Human body detector
JP5027646B2 (en) Combined intrusion detection device
JPH0397080A (en) Picture monitoring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061030

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090421

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090630

R150 Certificate of patent or registration of utility model

Ref document number: 4338294

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120710

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130710

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130710

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees