JP4698260B2 - Image recording apparatus and monitoring system - Google Patents

Image recording apparatus and monitoring system Download PDF

Info

Publication number
JP4698260B2
JP4698260B2 JP2005087553A JP2005087553A JP4698260B2 JP 4698260 B2 JP4698260 B2 JP 4698260B2 JP 2005087553 A JP2005087553 A JP 2005087553A JP 2005087553 A JP2005087553 A JP 2005087553A JP 4698260 B2 JP4698260 B2 JP 4698260B2
Authority
JP
Japan
Prior art keywords
image
image recording
encoded
data size
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005087553A
Other languages
Japanese (ja)
Other versions
JP2006270666A (en
Inventor
尚洋 吉村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2005087553A priority Critical patent/JP4698260B2/en
Publication of JP2006270666A publication Critical patent/JP2006270666A/en
Application granted granted Critical
Publication of JP4698260B2 publication Critical patent/JP4698260B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、主として監視画像を記録するために用いられる画像記録装置と、そのような画像記録装置を含む監視システムとに関する。   The present invention relates to an image recording apparatus mainly used for recording a monitoring image and a monitoring system including such an image recording apparatus.

ビルディング等の建物やショッピングセンター等の店舗では、一般的に、複数の監視カメラで撮影した動画像(以下、「画像」と称する)を、監視室にて表示することで、不審者の侵入や盗難等について監視がなされている。ハードディスクに代表される記録媒体の密度密度の向上と、MPEG(Moving Picture Experts Group)方式に代表される画像圧縮符号化技術の発展と、ネットワーク通信技術の発展とによって、監視カメラで撮影された画像を、画像記録装置にて圧縮符号化して記録媒体に記録すると共に、LAN(Local Area Network)等のネットワークを介して、再生手段及び表示手段を具えた管理装置に、圧縮符号化された画像を転送する監視システムが普及しつつある(特許文献1参照)。   In a building such as a building or a store such as a shopping center, in general, moving images (hereinafter referred to as “images”) taken by a plurality of surveillance cameras are displayed in a monitoring room, so that a suspicious person can Theft is monitored. Images taken with a surveillance camera by improving the density density of recording media represented by hard disks, by developing image compression coding technology represented by the MPEG (Moving Picture Experts Group) system, and by developing network communication technology Is compressed and encoded by an image recording device and recorded on a recording medium, and the compressed and encoded image is transmitted to a management device including a reproducing unit and a display unit via a network such as a LAN (Local Area Network). A monitoring system for transferring is becoming widespread (see Patent Document 1).

建物や店舗が大規模になるほど、監視カメラ及び画像記録装置の設置台数は増加する。故に、全ての監視カメラの画像を管理装置に表示しても、監視員がそれらの画像を同時に見ることは困難であり、さらには設置スペースの関係から、管理装置の表示画面の数は、設置された監視カメラの数よりも少なくされる。また、監視カメラの設置台数が多い場合、全ての画像記録装置の画像データを管理装置に常時転送すると、ネットワークの帯域が不足して、画像データの転送に支障を来す。   The larger the number of buildings and stores, the greater the number of surveillance cameras and image recording devices installed. Therefore, even if the images of all the monitoring cameras are displayed on the management device, it is difficult for the surveillance staff to see those images at the same time. Further, due to the installation space, the number of display screens of the management device is Less than the number of monitored cameras. In addition, when there are a large number of surveillance cameras, if the image data of all the image recording devices is constantly transferred to the management device, the network bandwidth is insufficient and the transfer of the image data is hindered.

以上の事情から、ある種の監視システムでは、人物を検知するセンサが監視カメラと共に設けられており、そのセンサが反応すると、画像記録装置から管理装置にその旨を伝えるアラーム信号が送られて、管理装置は、その画像記録装置から画像を取得して表示する。また、画像を解析して人物の移動等の画像の変化を検知するモーションディテクト機能を画像記録装置に与えて、画像の変化又は動きが検知された場合に、画像記録装置から管理装置にアラーム信号を送ることも行われている。このような構成によって、監視員は異常の発生を迅速に知ることが可能となり、ある監視カメラの画像が管理装置にて表示されていない場合に、その監視カメラの監視区域において何らかの変化があると、別の監視カメラの画像に代わって、その監視カメラの画像が管理装置に表示される。また、全ての監視カメラの画像を管理装置に常時転送する必要もなくなる。なお、管理装置にてリアルタイムで確認できなかった画像(又はある時間帯の画像)は、画像記録装置に記録されている画像データを再生することで別途確認可能である。   From the above circumstances, in a certain type of monitoring system, a sensor for detecting a person is provided together with a monitoring camera, and when that sensor reacts, an alarm signal is sent from the image recording device to the management device to that effect, The management apparatus acquires an image from the image recording apparatus and displays it. In addition, when an image recording apparatus is provided with a motion detect function that detects an image change such as movement of a person by analyzing the image, and an image change or movement is detected, an alarm signal is sent from the image recording apparatus to the management apparatus. Sending is also done. With such a configuration, it becomes possible for the monitoring staff to quickly know the occurrence of an abnormality, and if there is any change in the monitoring area of the monitoring camera when the image of the monitoring camera is not displayed on the management device Instead of another surveillance camera image, the surveillance camera image is displayed on the management device. Further, it is not necessary to always transfer images of all the monitoring cameras to the management apparatus. Note that an image (or an image in a certain time period) that cannot be confirmed in real time by the management apparatus can be separately confirmed by reproducing the image data recorded in the image recording apparatus.

特開2000−106667公報JP 2000-106667 A

しかしながら、監視カメラと共にセンサを設けた監視システムには、以下の問題がある。例えば、受動式の赤外線センサを設けても、熱源である人物(又は動物)の検知しかできず、遮断式の赤外線センサを設けても、ある場所を人物(又は物体)が横切ったことのみしか検知できない。従って、アラーム信号を送信するトリガとして、又は、管理装置にて監視画像を切り替えるトリガとしてセンサ出力が用いられる場合、監視カメラの周辺に幾つかのセンサを組み合わせて設置する必要がある。これでは、監視システムのコストと、監視システムの設置及び設定の手間とが増大してしまう。また、監視カメラが配置される環境は様々であって、ある種のセンサが配置不可能である事態も頻繁に起こり得る。   However, the monitoring system provided with the sensor together with the monitoring camera has the following problems. For example, even if a passive infrared sensor is provided, only a person (or animal) that is a heat source can be detected, and even if a shielded infrared sensor is provided, only a person (or object) crosses a certain place. It cannot be detected. Therefore, when the sensor output is used as a trigger for transmitting an alarm signal or as a trigger for switching the monitoring image in the management apparatus, it is necessary to install several sensors around the monitoring camera. This increases the cost of the monitoring system and the trouble of installing and setting the monitoring system. In addition, there are various environments in which surveillance cameras are arranged, and a situation in which certain sensors cannot be arranged frequently occurs.

一方で、画像記録装置にモーションディテクト機能を与えるためには、その機能に対応したハードウェアを付加する必要があることから、監視システムのコストが増大する。さらに、モーションディテクト機能では、所定の範囲内における画像の変化が検出されることから、その範囲の外にて画像に変化が起こった場合には、アラーム信号の送信や監視画像の切替えが管理装置にて行われない事態が起こり得る。   On the other hand, in order to provide a motion detection function to the image recording apparatus, it is necessary to add hardware corresponding to the function, and thus the cost of the monitoring system increases. Furthermore, in the motion detect function, since a change in the image within a predetermined range is detected, if the image changes outside the range, the alarm signal is transmitted and the monitoring image is switched. Things that don't happen in can happen.

本発明は、上記の問題を解決するものであり、センサやモーションディテクト機能を用いることなく、異常の検知及びアラーム信号の送信を可能とし、 監視区域に異常があった監視カメラの画像を、管理装置にて切替表示することを可能にする画像記録装置及び監視システムを提供する。   The present invention solves the above-mentioned problem, enables detection of an abnormality and transmission of an alarm signal without using a sensor or a motion detection function, and manages an image of a monitoring camera having an abnormality in a monitoring area. An image recording apparatus and a monitoring system that enable switching display on the apparatus are provided.

本発明の画像記録装置は、撮像装置から出力された画像信号を、フレーム相関を利用した予測圧縮符号化して記録すると共に、符号化された画像信号をネットワークに適宜送信する画像記録装置において、1つのフレームが符号化される毎に、そのフレームを含む過去に符号化された所定数のフレームの全データサイズを求めて、前記全データサイズが所定の閾値以上であるか否かを判別し、前記全データサイズが前記閾値以上である場合、アラーム信号を前記ネットワークに送信することを特徴とする。   An image recording apparatus of the present invention is an image recording apparatus that records an image signal output from an imaging apparatus by predictive compression encoding using frame correlation, and transmits the encoded image signal to a network as appropriate. Each time one frame is encoded, the total data size of a predetermined number of frames encoded in the past including the frame is obtained, and it is determined whether or not the total data size is a predetermined threshold value or more. When the total data size is equal to or larger than the threshold, an alarm signal is transmitted to the network.

本発明の監視システムは、複数の画像記録装置と、前記複数の画像記録装置と通信接続される管理装置とを具えており、各画像記録装置は、それに接続された撮像装置から出力された画像信号を符号化して記録すると共に、符号化された画像信号を前記管理装置に適宜送信し、前記管理装置は、前記複数の画像記録装置の中の少なくとも1つの画像記録装置から送信される画像信号を再生する監視システムにおいて、各画像記録装置は、フレーム相関を利用した予測圧縮符号化を前記画像信号に施し、1つのフレームが符号化される毎に、そのフレームを含む過去に符号化された所定数のフレームの全データサイズを求めて、前記全データサイズが所定の閾値以上であるか否かを判別し、前記全データサイズが前記閾値以上である場合、アラーム信号を前記管理装置に送信し、前記管理装置は、ある画像記録装置のアラーム信号を受信した後、その画像記録装置から送られる画像信号を再生することを特徴とする。   The monitoring system of the present invention includes a plurality of image recording devices and a management device that is connected to the plurality of image recording devices, and each image recording device outputs an image output from an imaging device connected thereto. A signal is encoded and recorded, and the encoded image signal is appropriately transmitted to the management apparatus, and the management apparatus transmits an image signal transmitted from at least one of the plurality of image recording apparatuses. In the monitoring system for reproducing the image, each image recording device performs predictive compression encoding using the frame correlation on the image signal, and each time one frame is encoded, the image is encoded in the past including the frame. The total data size of a predetermined number of frames is obtained to determine whether or not the total data size is equal to or greater than a predetermined threshold. If the total data size is equal to or greater than the threshold, Transmits a beam signal to the management apparatus, the management apparatus, after receiving the alarm signal of an image recording apparatus, characterized in that the picture signals sent from the image recording apparatus.

本発明では、画像信号を構成する1つのフレームが、画像記録装置にて符号化されると、そのフレームを含む過去に符号化された所定数のフレームの全データサイズが求められる。フレーム相関を利用した予測圧縮符号化が画像信号に施されることから、全データサイズは、画像に変化又は動きがないとほぼ一定であるが、撮影された画像に変化又は動きが生じると、顕著に増加する。故に、全データサイズがある閾値以上であるか否かを判別することで、撮影装置の撮像領域に異常が発生したか否かを判断し、異常が発生した場合にアラーム信号を送信して、その旨を監視室に通報することが可能となる。また、監視室に居る監視員は、撮像装置の画像を見ることなく、異常発生を知ることができる。   In the present invention, when one frame constituting an image signal is encoded by the image recording apparatus, the total data size of a predetermined number of frames encoded in the past including the frame is obtained. Since the image signal is subjected to predictive compression coding using frame correlation, the total data size is almost constant when there is no change or movement in the image, but when a change or movement occurs in the captured image, Increase significantly. Therefore, by determining whether or not the total data size is greater than or equal to a certain threshold, it is determined whether or not an abnormality has occurred in the imaging area of the imaging device, and when an abnormality has occurred, an alarm signal is transmitted, This can be notified to the monitoring room. Moreover, the monitoring person in the monitoring room can know the occurrence of abnormality without looking at the image of the imaging device.

また、本発明の監視システムでは、アラーム信号を受信した後に、そのアラーム信号を送信した画像記録装置から送られる画像信号が、管理装置にて再生されることで、異常の発生に対応して、監視画像の切替えが管理装置にて行われる。さらに、所定数のフレームの全データサイズに基づいて異常の発生が判断されるので、本発明の画像記録装置及び監視システムは、従来の画像記録装置に特別なハードウェアを追加することなく、ソフトウェアの変更又は追加を行うことで実施可能である。なお、予測圧縮符号化は、VBR(可変ビットレート)モードで行われる。また、予測圧縮符号化は、MPEG方式に基づいて行われ、全データサイズを求めるフレーム数は、1GOPに含まれるフレーム数と等しくされるのが好ましい。   Further, in the monitoring system of the present invention, after receiving the alarm signal, the image signal sent from the image recording device that transmitted the alarm signal is reproduced by the management device, so that the occurrence of an abnormality The monitoring image is switched by the management apparatus. Furthermore, since occurrence of an abnormality is determined based on the total data size of a predetermined number of frames, the image recording apparatus and the monitoring system of the present invention can be used without adding special hardware to the conventional image recording apparatus. It can be implemented by making changes or additions. Note that the predictive compression encoding is performed in a VBR (variable bit rate) mode. Predictive compression encoding is performed based on the MPEG system, and the number of frames for obtaining the total data size is preferably equal to the number of frames included in one GOP.

以下、本発明を図を用いて説明する。図1は、本発明の実施例である監視システムの概要を示す説明図である。監視システムは、複数の撮像装置、具体的には監視カメラ(1)と、それら監視カメラ(1)の各々について設けられた画像記録装置(3)と、それら画像記録装置(3)とネットワーク(5)を介して通信する管理装置(7)とを含んでいる。監視カメラ(1)が撮影した画像に係る画像信号は、画像記録装置(3)にて圧縮符号化されて記録される。監視カメラ(1)は常時撮影を行っていることから、画像記録装置(3)は、記録された画像信号のデータ量が所定値を超えないように、古い画像信号を削除しつつ新たな画像信号を記録媒体に記録する。ネットワーク(5)はLAN又はWAN(Wide Area Network)等であって、例えば、監視カメラ(1)等から地理的にかなり離れた場所に管理装置(7)が設けられて、管理装置(7)と画像記録装置(3)との間で、公共通信網及びインターネットを介して通信が行われてもよい。管理装置(7)は、ネットワーク(5)に接続された画像記録装置(3)から画像信号を選択的に取得して、再生及び表示する。また、後述するように、ある画像記録装置(3)から管理装置(7)にアラーム信号が送られると、管理装置(7)は、その画像記録装置(3)から画像信号を取得して再生する。   Hereinafter, the present invention will be described with reference to the drawings. FIG. 1 is an explanatory diagram showing an overview of a monitoring system according to an embodiment of the present invention. The monitoring system includes a plurality of imaging devices, specifically, a monitoring camera (1), an image recording device (3) provided for each of the monitoring cameras (1), an image recording device (3) and a network ( And a management device (7) communicating via 5). An image signal related to an image taken by the monitoring camera (1) is compressed and encoded by the image recording device (3) and recorded. Since the surveillance camera (1) always shoots, the image recording device (3) deletes the old image signal so that the data amount of the recorded image signal does not exceed the predetermined value. A signal is recorded on a recording medium. The network (5) is a LAN or WAN (Wide Area Network) or the like. For example, a management device (7) is provided at a location that is geographically far from the monitoring camera (1) or the like, and the management device (7) And the image recording device (3) may communicate with each other via a public communication network and the Internet. The management device (7) selectively acquires an image signal from the image recording device (3) connected to the network (5), and reproduces and displays it. As will be described later, when an alarm signal is sent from a certain image recording device (3) to the management device (7), the management device (7) acquires the image signal from the image recording device (3) and reproduces it. To do.

画像記録装置(3)では、監視カメラ(1)から送られた(デジタル)画像信号に、フレーム相関を利用した予測圧縮符号化が施される。本実施例では、監視カメラ(1)の画像信号は、MPEG方式に基づいて圧縮符号化される。図2は、MPEG方式における画像信号のフレーム構成を時系列的に示す説明図である。周知のように、MPEG方式では、画像信号を構成するフレームが、3つのタイプに分類されて符号化される。図2中にて文字「I」が付されたフレーム(Iピクチャ)は、イントラピクチャ(フレーム内符号化画像)であり、その他のピクチャの情報を用いずに自己の情報のみで符号化される。文字「P」が付されたフレーム(Pピクチャ)は、予測符号化ピクチャ(フレーム間予測符号化画像)と呼ばれており、過去のイントラピクチャ又は予測符号化ピクチャを参照して、時間軸上で前向き予測符号化される。文字「B」が付されたフレーム(Bピクチャ)は、双方向予測符号化ピクチャ(双方向予測符号化画像)であり、過去及び将来のIピクチャ又はPピクチャを参照して時間軸上で前向き及び後向き予測符号化される。Bピクチャのデータは、前後のピクチャの相関を利用して作成されるので、画像の背景の複雑さに影響されることなく、画像に変化又は動きがあると増加する。   In the image recording device (3), the (digital) image signal sent from the surveillance camera (1) is subjected to predictive compression coding using frame correlation. In this embodiment, the image signal of the surveillance camera (1) is compression-encoded based on the MPEG system. FIG. 2 is an explanatory diagram showing the frame structure of an image signal in the MPEG system in time series. As is well known, in the MPEG system, frames constituting an image signal are classified into three types and encoded. A frame (I picture) with the letter “I” in FIG. 2 is an intra picture (intra-frame encoded image), and is encoded using only its own information without using other picture information. . A frame (P picture) with the letter “P” is called a predictive encoded picture (inter-frame predictive encoded picture), and refers to a past intra picture or predictive encoded picture on the time axis. Forward-predictive coding. A frame (B picture) with the letter “B” is a bidirectional predictive coded picture (bidirectional predictive coded picture), and is forward-facing on the time axis with reference to past and future I pictures or P pictures. And backward predictive coding. Since the B picture data is created using the correlation between the previous and next pictures, the B picture data increases if there is a change or motion in the image without being affected by the complexity of the background of the image.

図3は、画像記録装置(3)の構成を示すブロック図である。監視カメラ(1)から出力された画像信号は、MPEG符号化手段(31)にて符号化される。MPEG符号化手段(31)は、動き推定部、DCT(Discrete Cosine Transform)部、量子化部及び局部復号部等(何れも図示せず)から構成されている。なお、MPEG符号化手段(31)は、VBRモードで符号化を行う。図4は、MPEG符号化手段(31)で符号化された画像信号におけるピクチャの並び順の一例を示している。図4に示すように、通常、MPEG方式で符号化された画像信号では、タイプが異なる複数のピクチャが、所定の規則に基づいて配列されており、この配列を構成するピクチャ群は、GOP(Group of pictures)と呼ばれている。図4に示す例では、また通常、Iピクチャから次のIピクチャの手前にあるBピクチャまでのピクチャが、1GOPになっている。なお、図4に示す数字は、ピクチャの再生順序を示している。   FIG. 3 is a block diagram showing the configuration of the image recording apparatus (3). The image signal output from the surveillance camera (1) is encoded by the MPEG encoding means (31). The MPEG encoding means (31) includes a motion estimation unit, a DCT (Discrete Cosine Transform) unit, a quantization unit, a local decoding unit, and the like (all not shown). The MPEG encoding means (31) performs encoding in the VBR mode. FIG. 4 shows an example of the order of pictures in the image signal encoded by the MPEG encoding means (31). As shown in FIG. 4, normally, in an image signal encoded by the MPEG method, a plurality of pictures of different types are arranged based on a predetermined rule, and a group of pictures constituting this arrangement is GOP ( Group of pictures). In the example shown in FIG. 4, usually, the picture from the I picture to the B picture before the next I picture is 1 GOP. Note that the numbers shown in FIG. 4 indicate the playback order of pictures.

一般的な監視カメラは、ズーム、パン又はチルト等の機能を有しておらず、常に一定の監視区域を撮影している。また、監視システムで用いられる監視カメラは、それらの機能を有していても、一定の監視区域を撮影している状態が長い。本実施例の監視システムの監視カメラ(1)も同様であって、画像記録装置(3)では、基本的にシーンチェンジ検出が行われないことから、MPEG符号化手段(31)で符号化された画像信号では、図4に示すGOPが、ピクチャの配列が変更されることなく、繰り返されることになる。   A general surveillance camera does not have functions such as zoom, pan, and tilt, and always captures a certain surveillance area. Moreover, even if the surveillance camera used in the surveillance system has these functions, it is long to photograph a certain surveillance area. The same applies to the monitoring camera (1) of the monitoring system of the present embodiment, and the image recording device (3) basically does not detect a scene change, so it is encoded by the MPEG encoding means (31). In the image signal, the GOP shown in FIG. 4 is repeated without changing the arrangement of pictures.

監視カメラ(1)が一定の監視区域を撮影していることから、侵入者が監視区域に入るなどの異常が起こらない限り、撮影された画像に変化又は動きは生じない。このような場合、MPEG符号化手段(31)で符号化された画像信号において、Iピクチャのデータサイズは一定になる。PピクチャとBピクチャは、上述のようにフレーム相関を利用して予測符号化されるので、それらのデータサイズは、Iピクチャと比較して小さくなる。一方、監視カメラ(1)の監視区域にて異常が発生して、監視カメラ(1)が撮影した画像に変化又は動きが生じた場合、PピクチャとBピクチャのデータサイズは増加する。そして、結果的に、GOP全体のデータサイズも増加する。   Since the surveillance camera (1) captures a certain surveillance area, no change or movement occurs in the photographed image unless an intruder enters the surveillance area or the like. In such a case, the data size of the I picture is constant in the image signal encoded by the MPEG encoding means (31). Since the P picture and the B picture are predictively encoded using the frame correlation as described above, their data size is smaller than that of the I picture. On the other hand, when an abnormality occurs in the monitoring area of the monitoring camera (1) and a change or movement occurs in the image captured by the monitoring camera (1), the data size of the P picture and B picture increases. As a result, the data size of the entire GOP also increases.

画像記録装置(3)のピクチャサイズ取得手段(33)は、MPEG符号化手段(31)において、画像信号を構成する各ピクチャの符号化が完了する毎に、そのピクチャのデータサイズを求める。異常判定手段(35)は、ピクチャサイズ取得手段(33)から送られるピクチャのデータサイズ情報に基づいて、異常事態に起因した変化又は動きが、監視カメラ(1)の画像に生じたか否かを判定して、そのような変化又は動きが生じた場合には、異常が発生した旨を制御手段(37)に知らせる。制御手段(37)は、画像記録装置(3)における各種制御及び処理を行うものであり、異常が発生した旨が通知されると、アラーム信号を生成して通信手段(39)に送ると共に、その送信を指示する。通信手段(39)は、所定の通信プロトコル(例えば、TCP/IP)に基づいて、ネットワーク(5)を介して画像記録装置(3)と管理装置(7)との間で行われる通信を管理しており、制御手段(37)からの指示があると、アラーム信号を管理装置(7)に送信する。また、管理装置(7)から画像の送信要求が送られて、該要求が通信手段(39)にて受信されると、制御手段(37)の指示により、MPEG符号化手段(31)は、管理装置(7)での復号化処理に必要な情報を付加して、符号化された画像信号を通信手段(39)に出力する。そして、通信手段(39)は、画像信号を通信プロトコルに基づいた所定の形式に変換して、管理装置(7)に送信する。   The picture size acquisition means (33) of the image recording device (3) obtains the data size of the picture every time the MPEG encoding means (31) completes the encoding of each picture constituting the image signal. Based on the data size information of the picture sent from the picture size acquisition means (33), the abnormality determination means (35) determines whether a change or movement caused by an abnormal situation has occurred in the image of the monitoring camera (1). If such a change or movement occurs, the control means (37) is informed that an abnormality has occurred. The control means (37) performs various controls and processes in the image recording device (3), and when notified that an abnormality has occurred, generates an alarm signal and sends it to the communication means (39), The transmission is instructed. The communication means (39) manages communication performed between the image recording device (3) and the management device (7) via the network (5) based on a predetermined communication protocol (for example, TCP / IP). When there is an instruction from the control means (37), an alarm signal is transmitted to the management device (7). When an image transmission request is sent from the management device (7) and the request is received by the communication means (39), the MPEG encoding means (31) Information necessary for the decoding process in the management device (7) is added, and the encoded image signal is output to the communication means (39). Then, the communication means (39) converts the image signal into a predetermined format based on the communication protocol, and transmits it to the management device (7).

上記の処理と並行して、画像記録装置(3)では、MPEG符号化手段(31)で符号化された画像信号が、記録媒体ドライバ(41)を介して記録媒体(43)に記録する処理が継続して行われる。また、管理装置(7)から画像記録装置(3)に、記録媒体(43)に記録された画像信号の送信要求が送られると、制御手段(37)からの指示により、記録されている画像信号の全て又は一部が管理装置(7)に送信される。   In parallel with the above processing, the image recording device (3) records the image signal encoded by the MPEG encoding means (31) on the recording medium (43) via the recording medium driver (41). Will continue. Further, when a transmission request for the image signal recorded on the recording medium (43) is sent from the management device (7) to the image recording device (3), the recorded image is transmitted according to an instruction from the control means (37). All or part of the signal is transmitted to the management device (7).

例えば、制御手段(37)は、CPU、ROM及びRAM等と、ROMに記憶されてCPUで実行されるプログラムとで実現される。MPEG符号化手段(31)は、ASIC(Application Specific Integrated Circuit)で実現される。ピクチャサイズ取得手段(33)及び異常判定手段(35)は、それらに関する処理を記述したプログラムが上述のCPUにて実行されることで実現される。また、記録媒体(43)にはハードディスクが、通信手段(39)には、ネットワークインターフェースカードが用いられる。   For example, the control means (37) is realized by a CPU, a ROM, a RAM, and the like, and a program stored in the ROM and executed by the CPU. The MPEG encoding means (31) is realized by an ASIC (Application Specific Integrated Circuit). The picture size acquisition means (33) and the abnormality determination means (35) are realized by executing a program describing processing related to them on the CPU. Further, a hard disk is used as the recording medium (43), and a network interface card is used as the communication means (39).

図5は、管理装置(7)の概要を示すブロック図である。管理装置(7)は、画像記録装置(3)に画像の送信要求を適宜送信し、受信した画像信号を復号化して表示手段(71)に再生する。通信手段(73)は、ネットワーク(5)を介して管理装置(7)と画像記録装置(3)との間で行われる通信を管理する。制御手段(75)は、管理装置(7)における各種制御及び処理を行う。例えば、画像記録装置(3)からアラーム信号が送られると、制御手段(75)は、通信手段(73)を通じて、画像の送信要求をその画像記録装置(3)に送る。画像記録装置(3)から受信した画像信号は、MPEG復号化手段(77)にて復号化されて、表示手段(71)にて再生される。通信手段(73)が、制御手段(75)の指令に基づいて、ネットワーク(5)に接続された画像記録装置(3)に対して順番に、画像の送信要求又は送信中止要求を、所定の周期で送信することで、表示手段(71)にて監視画像の切替えが順番に且つ周期的に行われる。なお、制御手段(75)及びMPEG復号化手段(77)等を複数設けて、表示手段(71)の表示画面を分割可能にすることで、管理装置(7)において複数の監視画像を表示することができる。この場合、例えば、複数の監視画像が順次切り替えられる。制御手段(75)には、警報手段(79)が接続されており、管理装置(7)にアラーム信号が送られると、制御手段(75)は、警報手段(79)に警報を発するように指令を出す。   FIG. 5 is a block diagram showing an outline of the management device (7). The management device (7) appropriately transmits an image transmission request to the image recording device (3), decodes the received image signal, and reproduces it on the display means (71). The communication means (73) manages communication performed between the management device (7) and the image recording device (3) via the network (5). The control means (75) performs various controls and processes in the management device (7). For example, when an alarm signal is sent from the image recording device (3), the control means (75) sends an image transmission request to the image recording device (3) through the communication means (73). The image signal received from the image recording device (3) is decoded by the MPEG decoding means (77) and reproduced by the display means (71). Based on the command of the control means (75), the communication means (73) sequentially sends an image transmission request or a transmission stop request to the image recording device (3) connected to the network (5). By transmitting in a cycle, the display means (71) switches the monitoring images in order and periodically. It should be noted that a plurality of control images (75), MPEG decoding means (77), etc. are provided so that the display screen of the display means (71) can be divided, thereby displaying a plurality of monitoring images in the management device (7). be able to. In this case, for example, a plurality of monitoring images are sequentially switched. Alarm means (79) is connected to the control means (75), and when an alarm signal is sent to the management device (7), the control means (75) issues an alarm to the alarm means (79). Issue a command.

先と同様に、例えば、制御手段(75)は、CPU、ROM及びRAM等と、ROMに記憶されてCPUで実行されるプログラムとで実現される。MPEG復号化手段(77)には、ASICが用いられ、通信手段(73)には、ネットワークインターフェースカードが用いられる。表示手段(71)には、LCD表示装置が用いられる。また、警報手段(79)は、スピーカやランプ等で構成されて、監視区域における異常の発生を音声で及び視覚的に通知する。   Similarly to the above, for example, the control means (75) is realized by a CPU, a ROM, a RAM and the like and a program stored in the ROM and executed by the CPU. An ASIC is used for the MPEG decoding means (77), and a network interface card is used for the communication means (73). An LCD display device is used as the display means (71). The alarm means (79) is composed of a speaker, a lamp, and the like, and notifies the occurrence of an abnormality in the monitoring area by sound and visual.

次に、異常判定手段(35)を用いた画像記録装置(3)の画像信号送信動作について説明する。図6は、この動作を示すフローチャートである。MPEG符号化手段(31)は、監視カメラ(1)から出力された画像信号に対して、MPEG方式に基づいて符号化を行い、記録媒体(43)に記録する(S1)。ステップS1の処理は常時行われて、MPEG符号化手段(31)が、出力された画像信号の1フレーム分について、Iピクチャ、Pピクチャ又はBピクチャの符号化が完了すると、ピクチャサイズ取得手段(33)は、符号化が完了したピクチャのピクチャサイズを取得し、異常判定手段(35)に送る(S3)。そして、異常判定手段(35)は、今回及び過去に送られたピクチャサイズ情報を用いて、現在までに符号化が完了した1GOP分のピクチャについて全データサイズを計算する(S5)。   Next, the image signal transmission operation of the image recording device (3) using the abnormality determination means (35) will be described. FIG. 6 is a flowchart showing this operation. The MPEG encoding means (31) encodes the image signal output from the surveillance camera (1) based on the MPEG system and records it on the recording medium (43) (S1). The process of step S1 is always performed, and when the MPEG encoding means (31) completes the encoding of the I picture, P picture or B picture for one frame of the output image signal, the picture size acquisition means ( 33) acquires the picture size of the picture that has been encoded, and sends it to the abnormality determination means (35) (S3). Then, the abnormality determination means (35) uses the picture size information sent this time and in the past to calculate the total data size for 1 GOP pictures that have been encoded so far (S5).

MPEG符号化手段(31)から出力される画像信号が、図4に示すようなピクチャ配列を有している場合、例えば、番号14が付されたBピクチャの符号化が完了すると、図中にてG1で示す、番号3が付されたIピクチャから番号14が付されたBピクチャまでの合計15個のピクチャについて、全データサイズ(これらデータサイズの和)が、ステップS5にて計算される。ステップS5は繰り返し実行されるが、ピクチャ群G1の後は、ピクチャ群G2、G3、さらにはG4について、全データサイズが求められる。   When the image signal output from the MPEG encoding means (31) has a picture arrangement as shown in FIG. 4, for example, when the encoding of the B picture numbered 14 is completed, The total data size (the sum of these data sizes) is calculated in step S5 for a total of 15 pictures indicated by G1 from the I picture with the number 3 to the B picture with the number 14. . Step S5 is repeatedly executed, but after the picture group G1, all data sizes are obtained for the picture groups G2, G3, and further G4.

ステップS5の後、異常判定手段(35)は、計算した全データサイズが所定の閾値以上であるか否かを判別する(S7)。この閾値は、MPEG符号化手段(31)の特性等を考慮して決定される。ステップS7にて、全データサイズが所定の閾値未満である場合、ステップS3が再度行われる。全データサイズが所定の閾値以上である場合、つまり異常が発生したと判定される場合、制御手段(37)は、通信手段(39)を通じて、アラーム信号を管理装置(7)に送信する(S9)。ステップS9の後、画像記録装置(3)は、画像信号の送信を現在行っているか否かを確認する(S11)。画像信号が送信されていない場合、通信手段(39)にて画像の送信要求を受信したか否か判別されて(S13)、管理装置(7)から送られた送信要求が受信されると、MPEG符号化手段(31)から通信手段(39)に画像信号が出力されて、管理装置(7)に送信される(S15)。なお、ステップ13において、画像記録装置(3)が画像信号を送信している場合、ステップS13が行われることなく、画像信号の送信が継続される。また、ステップS15の後、ステップS3以後の処理が再度行われる。   After step S5, the abnormality determining means (35) determines whether or not the calculated total data size is equal to or larger than a predetermined threshold (S7). This threshold value is determined in consideration of the characteristics of the MPEG encoding means (31). If the total data size is less than the predetermined threshold value in step S7, step S3 is performed again. When the total data size is equal to or larger than the predetermined threshold, that is, when it is determined that an abnormality has occurred, the control means (37) transmits an alarm signal to the management device (7) through the communication means (39) (S9). ). After step S9, the image recording device (3) checks whether or not the image signal is currently being transmitted (S11). When the image signal is not transmitted, it is determined whether or not the image transmission request is received by the communication means (39) (S13), and when the transmission request transmitted from the management device (7) is received, An image signal is output from the MPEG encoding means (31) to the communication means (39) and transmitted to the management device (7) (S15). In step 13, when the image recording device (3) is transmitting an image signal, the transmission of the image signal is continued without performing step S13. Further, after step S15, the processing after step S3 is performed again.

次に、画像記録装置(3)が送信したアラーム信号に基づく管理装置(7)の動作について説明する。図7は、この動作を示すフローチャートである。管理装置(7)の制御手段(75)は、通信手段(73)にてアラーム信号を受信したか否かを判別し(S31)、アラーム信号を受信すると、警報手段(79)に警報を発するように指示する(S33)。その後、管理装置(7)が、アラーム信号を送信した画像記録装置(3)から画像信号を受信中であるか否かが判別される(S35)。   Next, the operation of the management device (7) based on the alarm signal transmitted from the image recording device (3) will be described. FIG. 7 is a flowchart showing this operation. The control means (75) of the management device (7) determines whether or not the alarm signal is received by the communication means (73) (S31), and when the alarm signal is received, issues an alarm to the alarm means (79). (S33). Thereafter, it is determined whether or not the management device (7) is receiving an image signal from the image recording device (3) that has transmitted the alarm signal (S35).

ステップS35にて、アラーム信号を送信した画像記録装置(3)から画像信号を受信していないと判断された場合、現在画像信号を送信している画像記録装置(3)に対して、画像の送信中止要求が送信されて(S37)、アラーム信号を送信した画像記録装置(3)に対して、画像の送信要求が送信される(S39)。ステップS39の後、その画像記録装置(3)から送られた画像信号が表示手段(71)にて再生される(S41)。その後、ステップS31が再度行われる。また、ステップS35にて、アラーム信号を送信した画像記録装置(3)から画像信号を現在受信している場合、その画像信号の再生が継続される。   If it is determined in step S35 that no image signal has been received from the image recording device (3) that has transmitted the alarm signal, the image recording device (3) that is currently transmitting the image signal is informed of the image. A transmission stop request is transmitted (S37), and an image transmission request is transmitted to the image recording apparatus (3) that transmitted the alarm signal (S39). After step S39, the image signal sent from the image recording device (3) is reproduced on the display means (71) (S41). Thereafter, step S31 is performed again. In step S35, when the image signal is currently received from the image recording apparatus (3) that transmitted the alarm signal, the reproduction of the image signal is continued.

上記実施例では、管理装置(7)の送信要求に基づいて画像記録装置(3)から画像信号が送信されているが、管理装置(7)にて、ネットワーク(5)に接続された全ての画像記録装置(3)から送信される画像信号を受信して、アラーム信号の受信に応じて、再生される画像信号が選択されてもよい。また、上記実施例では、異常の発生からアラーム信号の送信に至る処理を迅速に行うために、画像信号の1つのピクチャの符号化が完了する毎に、そのピクチャを含む過去1GOP分のピクチャについて全データサイズが計算されているが、1つのGOPについて符号化が完了する毎に、そのGOPについて全データサイズが計算されて、異常判定が行われてもよい。   In the above embodiment, the image signal is transmitted from the image recording device (3) based on the transmission request of the management device (7), but all the devices connected to the network (5) in the management device (7). An image signal transmitted from the image recording device (3) may be received, and an image signal to be reproduced may be selected in response to reception of the alarm signal. Further, in the above embodiment, in order to quickly perform processing from occurrence of abnormality to transmission of an alarm signal, every time one picture of an image signal is encoded, pictures for the past 1 GOP including that picture are included. Although the total data size is calculated, every time encoding is completed for one GOP, the total data size may be calculated for the GOP and abnormality determination may be performed.

上記実施例の説明は、本発明を説明するためのものであって、特許請求の範囲に記載の発明を限定し、或は範囲を減縮する様に解すべきではない。本発明の各部構成は上記実施例に限らず、特許請求の範囲に記載の技術的範囲内で種々の変形が可能であることは勿論である。   The above description of the embodiments is for explaining the present invention, and should not be construed as limiting the invention described in the claims or reducing the scope thereof. Each part configuration of the present invention is not limited to the above embodiment, and various modifications can be made within the technical scope described in the claims.

本発明の実施例である監視システムの概要を示す説明図である。It is explanatory drawing which shows the outline | summary of the monitoring system which is an Example of this invention. MPEG方式における画像信号のフレーム構成を時系列的に示す説明図である。It is explanatory drawing which shows the frame structure of the image signal in MPEG system in time series. 本発明の実施例である画像記録装置の構成を示すブロック図である。1 is a block diagram illustrating a configuration of an image recording apparatus that is an embodiment of the present invention. 本発明の実施例である画像記録装置にて符号化された画像信号における、ピクチャの並び順を示している。4 shows the arrangement order of pictures in an image signal encoded by an image recording apparatus according to an embodiment of the present invention. 本発明の監視システムに含まれる管理装置の概要を示すブロック図である。It is a block diagram which shows the outline | summary of the management apparatus contained in the monitoring system of this invention. 本発明の画像記録装置の画像信号送信動作を示すフローチャートである。3 is a flowchart showing an image signal transmission operation of the image recording apparatus of the present invention. アラーム信号に基づく管理装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the management apparatus based on an alarm signal.

符号の説明Explanation of symbols

(1) 監視カメラ
(3) 画像記録装置
(5) ネットワーク
(7) 管理装置
(31) MPEG符号化手段
(33) ピクチャサイズ取得手段
(35) 異常判定手段
(37) 制御手段
(71) 表示手段
(75) 制御手段
(77) MPEG復号化手段
(79) 警報手段
(1) Surveillance camera
(3) Image recording device
(5) Network
(7) Management device
(31) MPEG encoding means
(33) Picture size acquisition means
(35) Abnormality judgment means
(37) Control means
(71) Display means
(75) Control means
(77) MPEG decoding means
(79) Alarm means

Claims (4)

撮像装置から出力された画像信号を、フレーム相関を利用した予測圧縮符号化して記録すると共に、ネットワークからの要求に応じて符号化された画像信号をネットワークに送信する画像記録装置において、
1つのフレームが符号化される毎に、そのフレームを含む過去に符号化された所定数のフレームの全データサイズを求めて、前記全データサイズが所定の閾値以上であるか否かを判別し、
前記全データサイズが前記閾値以上である場合、アラーム信号を前記ネットワークに送信することを特徴とする画像記録装置。
An image signal output from the imaging device, and records and predictive compressive coding utilizing the frame correlation, in the image recording apparatus to be transmitted to the network the coded image signal in response to a request from the network,
Every time one frame is encoded, the total data size of a predetermined number of frames encoded in the past including the frame is obtained, and it is determined whether or not the total data size is equal to or greater than a predetermined threshold. ,
When the total data size is equal to or larger than the threshold, an alarm signal is transmitted to the network.
前記予測圧縮符号化は、MPEG方式に基づいて行われ、前記所定数は、1GOPに含まれるフレーム数と等しい、請求項1に記載の画像記録装置。   The image recording apparatus according to claim 1, wherein the predictive compression encoding is performed based on an MPEG system, and the predetermined number is equal to the number of frames included in one GOP. 複数の画像記録装置と、前記複数の画像記録装置と通信接続される管理装置とを具えており、各画像記録装置は、それに接続された撮像装置から出力された画像信号を符号化して記録すると共に、前記管理装置からの要求に応じて符号化された画像信号を前記管理装置に送信し、前記管理装置は、前記複数の画像記録装置の中の少なくとも1つの画像記録装置から送信される画像信号を再生する監視システムにおいて、
各画像記録装置は、フレーム相関を利用した予測圧縮符号化を前記画像信号に施し、
1つのフレームが符号化される毎に、そのフレームを含む過去に符号化された所定数のフレームの全データサイズを求めて、前記全データサイズが所定の閾値以上であるか否かを判別し、
前記全データサイズが前記閾値以上である場合、アラーム信号を前記管理装置に送信し、
前記管理装置は、ある画像記録装置のアラーム信号を受信した後、その画像記録装置から送られる画像信号を再生することを特徴とする監視システム。
A plurality of image recording devices and a management device that is connected to the plurality of image recording devices are provided. Each image recording device encodes and records an image signal output from an imaging device connected thereto. In addition, an image signal encoded in response to a request from the management apparatus is transmitted to the management apparatus, and the management apparatus transmits an image transmitted from at least one of the plurality of image recording apparatuses. In a monitoring system that reproduces signals,
Each image recording device performs predictive compression coding using frame correlation on the image signal,
Every time one frame is encoded, the total data size of a predetermined number of frames encoded in the past including the frame is obtained, and it is determined whether or not the total data size is equal to or greater than a predetermined threshold. ,
If the total data size is greater than or equal to the threshold, send an alarm signal to the management device,
The management apparatus, after receiving an alarm signal of an image recording apparatus, reproduces an image signal sent from the image recording apparatus.
前記予測圧縮符号化は、MPEG方式に基づいて行われ、前記所定数は、1GOPに含まれるフレーム数と等しい、請求項3に記載の監視システム。   The monitoring system according to claim 3, wherein the predictive compression encoding is performed based on an MPEG system, and the predetermined number is equal to the number of frames included in one GOP.
JP2005087553A 2005-03-25 2005-03-25 Image recording apparatus and monitoring system Expired - Fee Related JP4698260B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005087553A JP4698260B2 (en) 2005-03-25 2005-03-25 Image recording apparatus and monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005087553A JP4698260B2 (en) 2005-03-25 2005-03-25 Image recording apparatus and monitoring system

Publications (2)

Publication Number Publication Date
JP2006270666A JP2006270666A (en) 2006-10-05
JP4698260B2 true JP4698260B2 (en) 2011-06-08

Family

ID=37206131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005087553A Expired - Fee Related JP4698260B2 (en) 2005-03-25 2005-03-25 Image recording apparatus and monitoring system

Country Status (1)

Country Link
JP (1) JP4698260B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008225947A (en) * 2007-03-14 2008-09-25 Mitsubishi Electric Corp Video monitoring system
WO2009085534A1 (en) 2007-12-27 2009-07-09 Siemens Heathcare Diagnostics Inc. Method and apparatus for remote multiple-process graphical monitoring
JP5477019B2 (en) * 2010-01-26 2014-04-23 富士通株式会社 Detection system and detection method

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08265747A (en) * 1995-03-20 1996-10-11 Matsushita Electric Ind Co Ltd Picture encoding method, picture encoding device and optical disk
JPH09205640A (en) * 1996-01-25 1997-08-05 Matsushita Electric Ind Co Ltd Remote monitor system
JPH10210449A (en) * 1997-01-24 1998-08-07 Toshiba Corp Monitoring device
JPH11275581A (en) * 1998-03-26 1999-10-08 Kyocera Corp Abnormal image detecting device
JP2000261788A (en) * 1999-03-09 2000-09-22 Toshiba Corp Monitor device using image
JP2000358237A (en) * 1999-06-17 2000-12-26 Ishikawajima Harima Heavy Ind Co Ltd Monitor and method for detecting fault in monitor area
JP2001160963A (en) * 1999-12-03 2001-06-12 Matsushita Electric Ind Co Ltd Supervisory system
JP2001292439A (en) * 2000-04-06 2001-10-19 Mitsubishi Heavy Ind Ltd Supervisory system
JP2003111061A (en) * 2001-10-02 2003-04-11 Yozan Inc Moving body detector, moving body detection system and moving body detection method
JP2003288599A (en) * 2002-02-05 2003-10-10 Samsung Electronics Co Ltd Apparatus detecting motion of image data and detecting method thereof

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08265747A (en) * 1995-03-20 1996-10-11 Matsushita Electric Ind Co Ltd Picture encoding method, picture encoding device and optical disk
JPH09205640A (en) * 1996-01-25 1997-08-05 Matsushita Electric Ind Co Ltd Remote monitor system
JPH10210449A (en) * 1997-01-24 1998-08-07 Toshiba Corp Monitoring device
JPH11275581A (en) * 1998-03-26 1999-10-08 Kyocera Corp Abnormal image detecting device
JP2000261788A (en) * 1999-03-09 2000-09-22 Toshiba Corp Monitor device using image
JP2000358237A (en) * 1999-06-17 2000-12-26 Ishikawajima Harima Heavy Ind Co Ltd Monitor and method for detecting fault in monitor area
JP2001160963A (en) * 1999-12-03 2001-06-12 Matsushita Electric Ind Co Ltd Supervisory system
JP2001292439A (en) * 2000-04-06 2001-10-19 Mitsubishi Heavy Ind Ltd Supervisory system
JP2003111061A (en) * 2001-10-02 2003-04-11 Yozan Inc Moving body detector, moving body detection system and moving body detection method
JP2003288599A (en) * 2002-02-05 2003-10-10 Samsung Electronics Co Ltd Apparatus detecting motion of image data and detecting method thereof

Also Published As

Publication number Publication date
JP2006270666A (en) 2006-10-05

Similar Documents

Publication Publication Date Title
JP5731672B2 (en) Video coding system using implicit reference frame
JP2001309354A (en) Image processor
JP2007194928A (en) Remote monitoring device and method
JP2008042695A (en) Monitor camera apparatus, monitor camera system, and method of recording monitor camera image
JP3917506B2 (en) Video signal recording and transmitting apparatus, monitoring system, and monitoring apparatus
JP2007053717A (en) Security monitoring system capable of outputting still image
JP2002262273A (en) Digital supervisory system and supervisory camera
JP4698260B2 (en) Image recording apparatus and monitoring system
JP4474063B2 (en) Digital surveillance camera system and control device
JP2009100259A (en) Monitoring camera and image monitoring system
JPH07222137A (en) Remote supervisory system
JP2009111677A (en) Video imaging control system
JPH07231442A (en) Security monitor device
JP2001292083A (en) Remote monitor system and remote monitor method in real time utilizing adsl modem in reverse direction
JP2003284062A (en) Monitoring system
CN114513629A (en) Alert generation based on event detection in video feeds
JPWO2018105059A1 (en) Elevator monitoring device
KR100899666B1 (en) Dispersed multistreaming transmission apparatus
JPH1169298A (en) Supervisory image recorder
JP2005300943A (en) Information display position control method and device
JP3061430U (en) Remote monitoring security system
JP3658016B2 (en) Digital image communication / recording device, transmitting device, receiving device
KR200452908Y1 (en) Monitering camera which has digital video recoder
JP2005184070A (en) Monitoring system
JP6448386B2 (en) Encoding device, decoding device, and video transmission / reception system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080229

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110107

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110301

LAPS Cancellation because of no payment of annual fees