JP2008040616A - Monitoring method and device in dark place - Google Patents

Monitoring method and device in dark place Download PDF

Info

Publication number
JP2008040616A
JP2008040616A JP2006211334A JP2006211334A JP2008040616A JP 2008040616 A JP2008040616 A JP 2008040616A JP 2006211334 A JP2006211334 A JP 2006211334A JP 2006211334 A JP2006211334 A JP 2006211334A JP 2008040616 A JP2008040616 A JP 2008040616A
Authority
JP
Japan
Prior art keywords
monitoring
ccd camera
marks
mark
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006211334A
Other languages
Japanese (ja)
Other versions
JP4578447B2 (en
Inventor
Masayuki Arai
正之 荒井
Kazuhiro Akumoto
一裕 飽本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Teikyo University
Original Assignee
Teikyo University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Teikyo University filed Critical Teikyo University
Priority to JP2006211334A priority Critical patent/JP4578447B2/en
Publication of JP2008040616A publication Critical patent/JP2008040616A/en
Application granted granted Critical
Publication of JP4578447B2 publication Critical patent/JP4578447B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technology for monitoring in a dark place for simultaneously and easily monitoring a plurality of monitor objects at low costs. <P>SOLUTION: A plurality of monitor objects 40 in a dark place are simultaneously monitored by using an infrared CCD camera 10, a processor (personal computer) 20 for carrying out image processing and marks 30 attached to the monitor objects 40. The marks 30 on which near infrared rays are reflected are respectively attached to the plurality of monitor objects 40, and the marks 30 attached to the plurality of monitor objects 40 are irradiated with the near infrared rays by the infrared CCD camera 10, and the reflected rays of light from the marks 30 are received. The processor 20 receives the information of the marks 30 received by the infrared CCD camera 10 as image information, and judges the presence/absence of the existence of the monitor objects 40 by processing the image information. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、暗所における監視方法と監視装置に関するものである。より詳しくは、本発明は、暗所において自動車等の複数の監視対象物を低コストで同時に監視することができる監視方法と監視装置に関するものである。   The present invention relates to a monitoring method and a monitoring apparatus in a dark place. More specifically, the present invention relates to a monitoring method and a monitoring apparatus capable of simultaneously monitoring a plurality of monitoring objects such as an automobile in a dark place at a low cost.

近年、我が国における治安の悪化とともに、盗難などの犯罪も急増しており、車の盗難の場合、統計では、平成元年から平成10年までの10年間は35000件前後で推移してきたが、平成11年には43000件と20%近く増加し、平成13年には63000件と、急増していることが報告されている。おおよそ1分に1件の割合で発生していることになる。車の盗難は夜間に高級車が盗難されるケースが多く、1台当たりの被害額は甚大である。   In recent years, crimes such as theft have increased rapidly with the deterioration of security in Japan. In the case of car theft, statistics have been around 35,000 in the 10 years from 1989 to 1998. It has been reported that the number increased nearly 20% in 2011 to 43,000 cases, and increased rapidly to 63,000 cases in 2001. It occurs at a rate of approximately one per minute. In many cases, luxury cars are stolen at night, and the amount of damage per car is enormous.

日本においても車の盗難発生は深刻な問題であるが、表1からわかるように、アメリカをはじめヨーロッパ各国では、さらに多くの車が被害にあっていることがわかる。   In Japan, theft of cars is a serious problem, but as you can see from Table 1, it can be seen that in the United States and other European countries, more cars are being damaged.

従来より、車の監視や盗難防止のために多くのシステムが開発され、利用されている。これらのシステムで用いられる主な手法としては、(1)異常を検知するセンサ等を用いる方法、(2)イモビライザーによる方法、(3)GPSと携帯電話を用いる方法、(4)室内カメラを用いて異常を検知する方法、がある。 Conventionally, many systems have been developed and used for vehicle monitoring and theft prevention. The main methods used in these systems are (1) a method using an abnormality detection sensor, (2) a method using an immobilizer, (3) a method using GPS and a mobile phone, and (4) using an indoor camera. There is a method to detect abnormalities.

上記(1)の方法は、車への衝撃や、ドアが開くなどの異常があった場合、たとえば音圧センサ、ドップラーセンサ、傾動センサ等のセンサによりそれを検知し、車のユーザにそれを報告したり、不審者を威嚇したりするものである(非特許文献1等)。音圧センサは音に反応するため、ドアが開いたり、強い衝撃を受けたりしたときにそれを検知する。ドップラーセンサは物体が近づいたときに反応し、不審者の接近やうろつき、侵入を検知する。傾動センサは、車体の傾きに反応し、たとえばレッカー移動をされた場合等にそれを車のユーザに報告することができる。   In the above method (1), when there is an abnormality such as an impact on the car or an opening of the door, it is detected by a sensor such as a sound pressure sensor, a Doppler sensor, a tilt sensor, etc. Report or threaten a suspicious person (Non-Patent Document 1, etc.). Since the sound pressure sensor responds to sound, it detects when the door opens or receives a strong impact. The Doppler sensor reacts when an object approaches and detects the approaching, wandering, and intrusion of a suspicious person. The tilt sensor reacts to the tilt of the vehicle body, and can report it to the user of the car, for example, when a tow truck is moved.

上記(2)の方法で用いるイモビライザーとは、鍵に受け込まれているIDコードと車両本体内の電子制御装置に予め登録されたIDコードとが一致しなければ、電気的にエンジンを始動しないという仕組みである。このシステムが装着されていれば、鍵山を完全に複製しても、エンジンを始動することができないため、盗難を防止することができる(非特許文献2等)。   The immobilizer used in the method (2) above does not electrically start the engine unless the ID code received in the key matches the ID code registered in advance in the electronic control unit in the vehicle body. This is the mechanism. If this system is installed, the engine cannot be started even if the key pile is completely duplicated, so that theft can be prevented (Non-Patent Document 2, etc.).

上記(3)のGPSと携帯電話とを組み合わせた車両盗難検知方法としては、たとえば非特許文献3において提示されているシステムがある。このシステムは、警戒モードと追跡モードの2つの盗難防止モードをもつ。警戒モード中に誰かが車のドアやトランクを開けると車両のハザードが点滅し、同時に車のユーザの電話に警戒メールが届き、また車の位置やドアの開閉も携帯電話で確認でき、エンジンがかかると再度警告メールが届き、クラクションがなるようになっている。また、ユーザが追跡モードに変更すると、随時、車の位置がGPS情報で確認できるようになっている。   As a vehicle theft detection method combining the GPS and the mobile phone in (3) above, for example, there is a system presented in Non-Patent Document 3. This system has two anti-theft modes, a warning mode and a tracking mode. If someone opens the door or trunk of the car in the alert mode, the hazard of the vehicle will flash, and at the same time a warning email will be sent to the car user's phone, and the location of the car and the opening and closing of the door can be confirmed with the mobile phone When this happens, you will receive a warning email again and you will be able to horn. Further, when the user changes to the tracking mode, the position of the car can be confirmed from the GPS information at any time.

上記(4)の室内カメラを用いる方法は、車室の適所に室内カメラを設置し、室内カメラにより運転席の画像を撮り、その画像信号を管理センター等に送って画像処理を行い、異常が認められた場合には、車のユーザに通報するようになっている(特許文献1、2)。
ホームページhttp://www.carmoni.com/ ホームページhttp://www.jama.or.jp/lib/jamareport/066/04.html ホームページhttp://www.meiwa.tv/new_page_171.htm 特開2003−291782号公報 特開2003−291783号公報
In the method using the indoor camera in (4) above, an indoor camera is installed at a proper position in the passenger compartment, an image of the driver's seat is taken by the indoor camera, the image signal is sent to a management center, etc., and image processing is performed. If it is recognized, it is reported to the car user (Patent Documents 1 and 2).
Homepage http://www.carmoni.com/ Homepage http://www.jama.or.jp/lib/jamareport/066/04.html Homepage http://www.meiwa.tv/new_page_171.htm JP 2003-291882 A Japanese Patent Laid-Open No. 2003-291784

しかしながら、上記従来の各種の手法は、監視対象物である車両が1つに限られており、数台ないし十台程度の複数車両を同時に監視することができないものであった。また、特別なハードウェアが必要であったり、監視システムの設置にコストがかかったりランニングコストがかかったりするケースが多いという問題があった。   However, the above-mentioned various conventional methods are limited to one vehicle that is an object to be monitored, and cannot monitor several to about ten vehicles at the same time. In addition, there are many cases where special hardware is required, installation of a monitoring system is expensive, and running costs are high.

本発明は、以上の通りの事情に鑑みてなされたものであり、低コストで複数の監視対象物を同時にかつ容易に監視することができる暗所における監視方法と監視装置を提供することを課題とする。   The present invention has been made in view of the circumstances as described above, and it is an object to provide a monitoring method and a monitoring device in a dark place that can simultaneously and easily monitor a plurality of monitoring objects at low cost. And

本発明は、上記課題を解決するため、第1には、暗所における複数の監視対象物を、赤外線CCDカメラ、画像処理を行う処理装置および監視対象物に貼着するマークを用いて同時に監視する方法であって、複数の監視対象物に、近赤外線を反射させるマークをそれぞれ貼着しておき、赤外線CCDカメラにより、近赤外線を複数の監視対象物に貼着した前記マークに照射し前記マークからの反射光を受光し、処理装置は、赤外線CCDカメラが受光した複数のマークの配列情報を画像情報として受信し、処理装置は、受信した複数のマークの配列情報を、予め記憶させておいた複数のマークの配列情報と比較し、その比較結果に基づいて、監視対象物の存在の有無を判断することを特徴とする暗所における監視方法を提供する。   In order to solve the above problems, the present invention firstly monitors a plurality of monitoring objects in a dark place at the same time using an infrared CCD camera, a processing device for performing image processing, and a mark attached to the monitoring object. In this method, marks that reflect near infrared rays are attached to a plurality of monitoring objects, respectively, and the infrared rays are applied to the marks that are attached to a plurality of monitoring objects by an infrared CCD camera. The reflected light from the mark is received, the processing device receives the arrangement information of the plurality of marks received by the infrared CCD camera as image information, and the processing device stores the received arrangement information of the plurality of marks in advance. There is provided a monitoring method in a dark place, characterized by comparing the arrangement information of a plurality of marks and determining the presence or absence of a monitoring object based on the comparison result.

第2には、上記第2の発明において、処理装置は、それぞれ前記マークを貼着した全ての監視対象物が揃っているときに赤外線CCDカメラから受信した画像情報を元画像情報として用意しておくことを特徴とする暗所における監視方法を提供する。   Second, in the second invention, the processing device prepares image information received from the infrared CCD camera as original image information when all the monitoring objects to which the marks are attached are prepared. A monitoring method in a dark place is provided.

第3には、暗所における複数の監視対象物を、赤外線CCDカメラ、画像処理を行う処理装置および監視対象物に貼着するマークを用いて同時に監視する方法であって、複数の監視対象物に、近赤外線を反射させる、異なった形状のマークをそれぞれ貼着しておき、赤外線CCDカメラにより、近赤外線を複数の監視対象物に貼着した前記マークに照射し前記マークからの反射光を受光し、処理装置は、赤外線CCDカメラが受光した複数のマークの形状情報を画像情報として受信し、処理装置は、受信した画像情報を走査し、得られたマークの形状情報を、予め作成しておいた、複数の監視対象物に貼着したマークと同じ形状のテンプレートとマッチングし、そのマッチング結果に基づいて、監視対象物の存在の有無を判断することを特徴とする暗所における監視方法を提供する。   Third, there is a method of simultaneously monitoring a plurality of monitoring objects in a dark place using an infrared CCD camera, a processing device for performing image processing, and a mark attached to the monitoring object. In addition, a mark having a different shape that reflects near infrared rays is pasted, and the infrared CCD camera irradiates the mark that is pasted on a plurality of objects to be monitored with reflected light from the mark. The processing device receives the shape information of a plurality of marks received by the infrared CCD camera as image information, and the processing device scans the received image information and creates the shape information of the obtained mark in advance. Matching with a template of the same shape as the mark pasted on multiple monitoring objects, and based on the matching result, the presence or absence of the monitoring object is judged It provides a monitoring method in the dark for.

第4には、上記第1ないし第3のいずれかの発明において、処理装置は、監視対象物が存在しなくなったことを判断したときにアラームを発するかまたはその旨の情報を監視者に知らせる警告手段を備えることを特徴とする暗所における監視方法を提供する。   Fourth, in any one of the first to third inventions, the processing device issues an alarm when it is determined that the monitoring target is no longer present, or informs the monitor of that fact. There is provided a monitoring method in a dark place characterized by comprising a warning means.

第5には、上記第1ないし第4のいずれかの発明において、処理装置は、赤外線CCDカメラから画像情報を有線または無線により受信することを特徴とする暗所における監視方法を提供する。   Fifth, in any one of the first to fourth inventions, the processing apparatus provides a monitoring method in a dark place, characterized in that it receives image information from an infrared CCD camera by wire or wirelessly.

第6には、暗所における複数の監視対象物を同時に監視する装置であって、複数の監視対象物にそれぞれ貼着され、近赤外線を反射するマークと、近赤外線を前記マークに照射し、その反射光を受光する赤外線CCDカメラと、赤外線CCDカメラが受光した複数のマークの配列情報を画像情報として受信し、受信した複数のマークの配列情報を、予め記憶させておいた複数のマークの配列情報と比較し、その比較結果に基づいて、監視対象物の存在の有無を判断する画像処理部を有する処理装置を備えることを特徴とする暗所における監視装置を提供する。   Sixth, it is an apparatus for simultaneously monitoring a plurality of monitoring objects in a dark place, and is attached to each of the plurality of monitoring objects, irradiating the mark with near-infrared rays and a mark that reflects near-infrared rays, The infrared CCD camera that receives the reflected light and the arrangement information of the plurality of marks received by the infrared CCD camera are received as image information, and the received arrangement information of the plurality of marks is stored in the plurality of marks stored in advance. There is provided a monitoring device in a dark place comprising a processing device having an image processing unit for comparing with arrangement information and determining the presence / absence of a monitoring object based on the comparison result.

第7には、上記第6の発明において、処理装置は、それぞれ前記マークを貼着した全ての監視対象物が揃っているときに赤外線CCDカメラから受信した画像情報を元画像情報として用意しておくことを特徴とする暗所における監視装置を提供する。   Seventh, in the sixth invention, the processing device prepares image information received from the infrared CCD camera as original image information when all the monitoring objects to which the marks are attached are prepared. A monitoring device in a dark place is provided.

第8には、暗所における複数の監視対象物を同時に監視する装置であって、複数の監視対象物にそれぞれ貼着され、それぞれ異なる形状を有し近赤外線を反射するマークと、近赤外線を前記マークに照射し、その反射光を受光する赤外線CCDカメラと、赤外線CCDカメラが受光した複数のマークの形状情報を画像情報として受信し、受信した画像情報を走査し、得られたマークの形状情報を、予め作成しておいた、複数の監視対象物に貼着したマークと同じ形状のテンプレートとマッチングし、そのマッチング結果に基づいて、監視対象物の存在の有無を判断する画像処理部を有する処理装置を備えることを特徴とする暗所における監視装置を提供する。   Eighth, an apparatus for simultaneously monitoring a plurality of monitoring objects in a dark place, each of which is attached to a plurality of monitoring objects, has a different shape and reflects near infrared rays, and a near infrared ray. An infrared CCD camera that irradiates the mark and receives its reflected light, and receives shape information of a plurality of marks received by the infrared CCD camera as image information, scans the received image information, and obtains the shape of the mark An image processing unit that matches information with a template that has been created in advance and has the same shape as a mark attached to a plurality of monitoring objects, and determines the presence or absence of the monitoring object based on the matching result. There is provided a monitoring device in a dark place, characterized by comprising a processing device having the above.

第9には、上記第6ないし第8のいずれかの発明において、処理装置は、監視対象物が存在しなくなったことを判断したときにアラームを発するかまたはその旨の情報を監視者に知らせる警告手段を備えることを特徴とする暗所における監視装置。   Ninthly, in any of the sixth to eighth inventions, the processing device issues an alarm when notifying that the monitoring object is no longer present, or notifies the monitoring person of the information to that effect. A monitoring device in a dark place, comprising a warning means.

第10には、上記第6ないし第9のいずれかの発明において、処理装置は、赤外線CCDカメラから画像情報を有線または無線により受信することを特徴とする暗所における監視装置を提供する。   Tenth, in any one of the sixth to ninth inventions, there is provided a monitoring device in a dark place, wherein the processing device receives image information from an infrared CCD camera by wire or wirelessly.

本発明によれば、暗所における車等の複数の監視対象物を、赤外線CCDカメラ、画像処理を行う処理装置および監視対象物に貼着するマークを用いるだけで、特別なハードウェアを必要とせず、同時にかつ簡便な手法、低コストで監視することが可能となる。   According to the present invention, special hardware is required only by using an infrared CCD camera, a processing device that performs image processing, and a mark that is attached to the monitoring object, such as a car in a dark place. In addition, it is possible to monitor at the same time with a simple method and low cost.

以下、本発明の実施形態を詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail.

図1は、本発明による暗所における監視システムのイメージを模式的に示した図であり、この監視システムは、赤外線CCDカメラ10、画像処理等を行う処理装置としてのパーソナルコンピュータ20、複数の監視対象物40に貼着するマーク30を用いる。パーソナルコンピュータ20としては市販のパーソナルコンピュータを使用することができる。すなわち、本発明による暗所における監視システムは、実質的に、赤外線CCDカメラ10と、この赤外線CCDカメラ10で撮った画像の処理等を行うパーソナルコンピュータ20とだけの比較的安価で設置も容易なシステム構成で構築できるメリットがある。   FIG. 1 is a diagram schematically showing an image of a monitoring system in a dark place according to the present invention. This monitoring system includes an infrared CCD camera 10, a personal computer 20 as a processing apparatus for performing image processing, and a plurality of monitoring systems. A mark 30 to be attached to the object 40 is used. A commercially available personal computer can be used as the personal computer 20. That is, the monitoring system in the dark place according to the present invention is substantially relatively inexpensive and easy to install with only the infrared CCD camera 10 and the personal computer 20 for processing an image taken by the infrared CCD camera 10. There is a merit that can be built with system configuration.

前述したように、車等の監視対象物40の盗難は、夜間や照明が弱かったり無かったりする暗所で発生することが多い。暗所の場合、赤外線CCDカメラ10を用いても監視対象物40を捉えることは非常に難しい。そこで本発明では、複数の監視対象物40に対してそれぞれ、近赤外線が照射されるとそれを反射する近赤外線反射性のマーク30を貼着する。このような近赤外線反射性のマーク30は、その材質は近赤外線を反射しやすい材料であることが必要である。この条件を満足するものであれば材料としては特に限定されず、市販されているシールやシートを用いてもよい。本発明者はマーク30の反射特性を調べるため、鏡、アルミホイール、CD(コンパクトディスク)の裏面、プラスチック製プレートの反射板、プラスチック製シートの反射板等様々な材料を用いて実験を行ったが、特に有効なものは、プラスチック製プレートの反射板、プラスチック製シートであった。   As described above, the theft of the monitored object 40 such as a car often occurs at night or in a dark place where lighting is weak or absent. In the dark place, it is very difficult to capture the monitoring object 40 using the infrared CCD camera 10. Therefore, in the present invention, a near-infrared reflective mark 30 that reflects the near-infrared rays when the near-infrared rays are irradiated to each of the plurality of monitoring objects 40 is attached. The near-infrared reflective mark 30 needs to be made of a material that easily reflects near-infrared rays. As long as these conditions are satisfied, the material is not particularly limited, and a commercially available seal or sheet may be used. In order to investigate the reflection characteristics of the mark 30, the inventor conducted experiments using various materials such as a mirror, an aluminum wheel, the back surface of a CD (compact disc), a reflection plate made of a plastic plate, a reflection plate made of a plastic sheet, and the like. However, particularly effective ones were a reflector made of a plastic plate and a plastic sheet.

本発明では、監視に用いる画像認識方法として、後述する差分法とテンプレートマッチング法を用いるが、両者の方法により、用いるマーク30の形状を変える。差分法の場合には、監視領域における監視対象物40に貼着するマーク30はいずれも同じであっても異なっていてもよいが、テンプレートマッチング法の場合には、監視対象物40によって形状を異ならせる必要がある。マーク30の形状は正方形や長方形、円、楕円等のシンプルな形状のみならず、星型、多角形等任意の形状とすることができる。マーク30の形状や寸法は、監視対象物40に貼着したときの美観や画像処理のしやすさ等を考慮して設定することができる。車の場合で差分法による画像認識を行うときには、例えば20cm×20cmの寸法の正方形とすることができるが、もちろんこれに限定されない。また、マーク30の貼着位置は赤外線CCDカメラ10に写る場所であればよく、監視対象物40の美観や不審者に気づかれにくいこと等を考慮することができる。   In the present invention, a difference method and a template matching method, which will be described later, are used as an image recognition method used for monitoring, but the shape of the mark 30 to be used is changed by both methods. In the case of the difference method, the marks 30 to be attached to the monitoring object 40 in the monitoring region may be the same or different, but in the case of the template matching method, the shape is determined by the monitoring object 40. Need to be different. The shape of the mark 30 is not limited to a simple shape such as a square, a rectangle, a circle, or an ellipse, but may be an arbitrary shape such as a star or a polygon. The shape and dimensions of the mark 30 can be set in consideration of the aesthetic appearance when it is attached to the monitoring object 40, ease of image processing, and the like. When performing image recognition by the difference method in the case of a car, for example, a square having a size of 20 cm × 20 cm can be used. However, the present invention is not limited to this. Further, the attachment position of the mark 30 may be a place that is reflected in the infrared CCD camera 10, and it is possible to take into consideration the beauty of the monitoring object 40 and the difficulty of being noticed by suspicious persons.

赤外線カメラとしては、物体から自然に放射される赤外線を検知して熱画像を撮るタイプのものと、近赤外線を照射して物体からの反射光を捉えるタイプのものがあるが、本発明では後者のタイプのものである赤外線CCDカメラ10を用いる。赤外線CCDカメラ10は、1台で、車が監視対象物40の場合、数台ないし十台程度の含まれる領域をカバーできることが好ましい。また、そのような領域をカバーできるような位置に設置することが好ましい。   As an infrared camera, there are a type that detects infrared rays naturally emitted from an object and takes a thermal image, and a type that captures reflected light from an object by irradiating near infrared rays. An infrared CCD camera 10 of this type is used. It is preferable that the number of the infrared CCD camera 10 is one, and when the car is the monitoring object 40, an area including several to about ten can be covered. Moreover, it is preferable to install in the position which can cover such an area | region.

パーソナルコンピュータ20は監視対象物40の存在する領域の近くの監視室ないし監視センターに設けてもよいし、遠隔の場所の監視室ないし監視センターに設けてもよい。赤外線CCDカメラ10とパーソナルコンピュータ20は有線で接続されていても無線で接続されていてもよい。その有線接続、無線接続の仕方としては、現在使用されている各種方法を用いることができる。   The personal computer 20 may be provided in a monitoring room or a monitoring center near the area where the monitoring object 40 exists, or may be provided in a monitoring room or a monitoring center in a remote place. The infrared CCD camera 10 and the personal computer 20 may be connected by wire or wirelessly. Various methods currently used can be used for the wired connection and the wireless connection.

図2に、パーソナルコンピュータ20のハードウェア概略構成をブロック図で示す。このパーソナルコンピュータ20は、入力部21、処理部22、主記憶装置23、大容量記憶装置24、出力部25を備え、これらはバス26で相互接続されている。入力部21は、赤外線CCDカメラ10からの画像情報を受信するほか、データ処理等に必要な各種情報を入力することができるようになっている。処理部22は、通常のコンピュータのCPUとしての処理の他、主記憶装置23に格納された制御プログラムにより必要な画像処理、複数のマーク配列情報の比較、監視対象物40の存在の有無の判断、監視対象物40が存在しなくたったことを判断したときにアラームまたはその旨の情報を監視者に知らせる等の監視に必要な各種処理を行うようになっている。主記憶装置23は、監視のための画像処理を行うためのプログラムの他、監視に必要な各種処理を処理部22が行うためのプログラムを格納することができるようになっている。大容量記憶装置24は、内蔵あるいは外付けのハードディスク装置や、MO、DVD装置等、大容量データを記憶するものであり、監視に必要な各種データを記憶する。出力部25は、ディスプレイのような画面出力あるいはプリンター等の印刷出力等ができるものである。   FIG. 2 is a block diagram showing a schematic hardware configuration of the personal computer 20. The personal computer 20 includes an input unit 21, a processing unit 22, a main storage device 23, a mass storage device 24, and an output unit 25, which are interconnected by a bus 26. The input unit 21 receives image information from the infrared CCD camera 10 and can input various information necessary for data processing and the like. In addition to processing as a normal computer CPU, the processing unit 22 performs necessary image processing by a control program stored in the main storage device 23, comparison of a plurality of mark arrangement information, and determination of the presence or absence of the monitoring object 40. When it is determined that the monitoring object 40 no longer exists, various processes necessary for monitoring such as notifying the monitor of an alarm or information to that effect are performed. The main storage device 23 can store a program for the processing unit 22 to perform various processes necessary for monitoring, in addition to a program for performing image processing for monitoring. The large-capacity storage device 24 stores large-capacity data such as a built-in or external hard disk device, MO, DVD device, etc., and stores various data necessary for monitoring. The output unit 25 can perform screen output such as a display or print output such as a printer.

次に、本発明の監視システムの動作について、画像認識方法として「差分法」を用いて、駐車場の車を監視する場合を例に説明する。   Next, the operation of the monitoring system of the present invention will be described by taking as an example the case of monitoring a car in a parking lot using the “difference method” as an image recognition method.

差分法は、主に監視対象物40が静止物である場合に適用が容易な画像認識方法である。図3は、差分法の説明図である。   The difference method is an image recognition method that can be easily applied mainly when the monitoring object 40 is a stationary object. FIG. 3 is an explanatory diagram of the difference method.

まず、予め図3の左に模式的に示すように、全ての監視対象物40にマーク30を貼着し、全ての監視対象物40が監視対象領域に存在する状態の画像を元画像51として用意しておく。これは、赤外線CCDカメラ10で予め撮っておいたものをパーソナルコンピュータ20の処理部22で処理して、そのデータを元画像51のデータ(複数のマーク30の配列情報)として、たとえば大容量記憶装置24に記憶させておく。この処理は、画像処理を含み、通常の画像処理で行われるノイズ除去処理のほか、領域抽出処理も行う。この領域抽出処理は、監視対象領域に存在する各監視対象物40をそれぞれの個別領域に分割し、その個別領域の中の監視対象物40に対応する画像データの大きさや位置等の情報を得るものである。   First, as schematically shown in the left of FIG. 3, marks 30 are attached to all the monitoring objects 40, and an image in a state where all the monitoring objects 40 exist in the monitoring object area is used as an original image 51. Have it ready. This is because the image taken in advance by the infrared CCD camera 10 is processed by the processing unit 22 of the personal computer 20 and the data is stored as data of the original image 51 (arrangement information of the plurality of marks 30), for example, in a large capacity storage. It is stored in the device 24. This processing includes image processing, and performs region extraction processing in addition to noise removal processing performed in normal image processing. In this area extraction processing, each monitoring object 40 existing in the monitoring object area is divided into individual areas, and information such as the size and position of image data corresponding to the monitoring object 40 in the individual area is obtained. Is.

次に、予め定めた時間間隔で定期的に赤外線CCDカメラ10を用いて、その時刻における画像(複数のマーク30の配列情報)を撮影し、パーソナルコンピュータ20の処理部22は、その都度、複数のマーク30の配列情報を撮影画像52として図3の右側のように求め、元画像51と撮影画像52における複数のマーク30の配列情報を比較し、差分画像53のデータを得る。図3の右側の図はマーク30が1つ写っていない画像の例である。したがって、差分画像53は図3の下側の図のようになる。処理装置22は、この例の場合、差分画像53のデータにおける差分領域の大きさや位置等の情報に基づいて、差分がマーク30が写っていないことにより発生したか否か判断し、マーク30が写っていないことにより発生したと判断した場合には、ユーザに対して通報等を行う。なお、監視対象物40が監視状態にあるときに、ユーザがたとえば車等を使用する場合、適切な方法でパーソナルコンピュータ20に使用情報を伝達できるようにしておく。ここで、監視状態の解除は、たとえば、使用する車を移動した後か、使用する車からマーク30を取り外した(この場合、マーク30は着脱自在としておく)後に、元画像情報51を取り直し、更新することにより行うことができる。   Next, using the infrared CCD camera 10 periodically at predetermined time intervals, images at that time (arrangement information of the plurality of marks 30) are taken, and the processing unit 22 of the personal computer 20 performs a plurality of times each time. The arrangement information of the marks 30 is obtained as the photographed image 52 as shown on the right side of FIG. 3, the arrangement information of the plurality of marks 30 in the original image 51 and the photographed image 52 is compared, and data of the difference image 53 is obtained. 3 is an example of an image in which one mark 30 is not shown. Therefore, the difference image 53 is as shown in the lower diagram of FIG. In this example, the processing device 22 determines whether or not the difference has occurred due to the absence of the mark 30 based on information such as the size and position of the difference area in the data of the difference image 53. If it is determined that the error has occurred, the user is notified. In addition, when the monitoring target 40 is in the monitoring state, when the user uses a car or the like, the usage information can be transmitted to the personal computer 20 by an appropriate method. Here, the monitoring state can be released, for example, after moving the vehicle to be used or after removing the mark 30 from the vehicle to be used (in this case, the mark 30 is detachable), and the original image information 51 is read again. This can be done by updating.

次に、本発明の監視システムの動作について、画像認識方法として「テンプレートマッチング法」を用いて、ある程度動く監視対象物40を監視する場合を例に説明する。   Next, the operation of the monitoring system of the present invention will be described by taking as an example the case where the monitoring target 40 that moves to some extent is monitored using the “template matching method” as the image recognition method.

テンプレートマッチング法は、主に監視対象物40がある程度動くものに対しても適用が容易な画像認識方法である。図4は、テンプレートマッチング法の説明図である。   The template matching method is an image recognition method that can be easily applied mainly to a case where the monitoring object 40 moves to some extent. FIG. 4 is an explanatory diagram of the template matching method.

まず、予め図4の右に模式的に示すように、監視対象物40に貼着したマーク30と同じ形状のテンプレート61を予め用意しておく。この場合、監視対象物40ごとに異なる形状のマーク30としておき、それに対応する形状のテンプレート61を用意しておく。このテンプレート61はパーソナルコンピュータ20の大容量記憶装置24に記憶させておいてよい。   First, as schematically shown in advance on the right side of FIG. 4, a template 61 having the same shape as the mark 30 attached to the monitoring object 40 is prepared in advance. In this case, a mark 30 having a different shape is set for each monitoring object 40, and a template 61 having a shape corresponding to the mark 30 is prepared. The template 61 may be stored in the mass storage device 24 of the personal computer 20.

次に、予め定めた時間間隔で定期的に赤外線CCDカメラ10を用いて、その時刻における画像を撮影し、パーソナルコンピュータ20の処理部22は、その都度、複数のマーク30の形状情報を62として図4の左側のように求め、その都度、図4に示すように撮影画像62を走査し、テンプレート61とマッチングを行う。処理部22は、テンプレート61とマッチングできなかった場合、その形状のマーク30が貼着されていた監視対象物40がなくなったものと判断し、ユーザに対して通報等を行う。もちろんこの場合も、監視対象物40が監視状態にあるときに、ユーザがたとえば車等を使用する場合、適切な方法でパーソナルコンピュータ20に使用情報を伝達できるようにしておく。ここで、監視状態の解除は、たとえば、パーソナルコンピュータ20が、監視対象物40に貼着しているマーク30の形状をテンプレート61から除外する処理を実行することで行うことができる。   Next, the infrared CCD camera 10 is periodically used to capture an image at that time, and the processing unit 22 of the personal computer 20 sets the shape information of the plurality of marks 30 as 62 each time. As shown on the left side of FIG. 4, each time the captured image 62 is scanned as shown in FIG. 4, matching with the template 61 is performed. If the processing unit 22 fails to match the template 61, the processing unit 22 determines that the monitoring target 40 to which the mark 30 of the shape is attached is gone, and notifies the user. Of course, also in this case, when the monitoring object 40 is in the monitoring state, when the user uses a car or the like, the usage information can be transmitted to the personal computer 20 by an appropriate method. Here, the monitoring state can be released, for example, by the personal computer 20 executing a process of excluding the shape of the mark 30 attached to the monitoring object 40 from the template 61.

以上、本発明を実施形態に基づき詳細に説明してきたが、本発明によれば、種々の変形、変更が可能である。   As described above, the present invention has been described in detail on the basis of the embodiment. However, according to the present invention, various modifications and changes can be made.

たとえば、本発明の監視対象は、車のみならず、暗所に保存されている商品等各種のものを監視対象とすることができる。   For example, the monitoring target of the present invention can be not only a car but also various items such as merchandise stored in a dark place.

本発明による暗所における監視システムのイメージを模式的に示した図である。It is the figure which showed typically the image of the monitoring system in the dark place by this invention. 本発明による暗所における監視システムで用いるパーソナルコンピュータのハードウェア概略構成を示すブロック図である。It is a block diagram which shows the hardware schematic structure of the personal computer used with the monitoring system in the dark place by this invention. 本発明において画像認識方法として用いる差分法の説明図である。It is explanatory drawing of the difference method used as an image recognition method in this invention. 本発明において画像認識方法として用いるテンプレートマッチング法の説明図である。It is explanatory drawing of the template matching method used as an image recognition method in this invention.

符号の説明Explanation of symbols

10 赤外線CCDカメラ
20 パーソナルコンピュータ
30 マーク
40 監視対象物
21 入力部
22 処理部
23 主記憶装置
24 大容量記憶装置
25 出力部
51 元画像
52 撮影画像
53 差分画像
61 テンプレート
62 撮影画像
DESCRIPTION OF SYMBOLS 10 Infrared CCD camera 20 Personal computer 30 Mark 40 Monitoring object 21 Input part 22 Processing part 23 Main memory device 24 Mass storage device 25 Output part 51 Original image 52 Photographed image 53 Difference image 61 Template 62 Photographed image

Claims (10)

暗所における複数の監視対象物を、赤外線CCDカメラ、画像処理を行う処理装置および監視対象物に貼着するマークを用いて同時に監視する方法であって、
複数の監視対象物に、近赤外線を反射させるマークをそれぞれ貼着しておき、
赤外線CCDカメラにより、近赤外線を複数の監視対象物に貼着した前記マークに照射し前記マークからの反射光を受光し、
処理装置は、赤外線CCDカメラが受光した複数のマークの配列情報を画像情報として受信し、
処理装置は、受信した複数のマークの配列情報を、予め記憶させておいた複数のマークの配列情報と比較し、その比較結果に基づいて、監視対象物の存在の有無を判断することを特徴とする暗所における監視方法。
A method of simultaneously monitoring a plurality of objects to be monitored in a dark place using an infrared CCD camera, a processing device for performing image processing, and a mark attached to the object to be monitored,
Paste marks that reflect near-infrared rays to multiple monitoring objects,
The infrared CCD camera irradiates the mark attached to a plurality of monitoring objects with near-infrared light and receives reflected light from the mark,
The processing device receives array information of a plurality of marks received by the infrared CCD camera as image information,
The processing device compares the received arrangement information of the plurality of marks with the arrangement information of the plurality of marks stored in advance, and determines whether or not the monitoring target exists based on the comparison result. Monitoring method in the dark.
処理装置は、それぞれ前記マークを貼着した全ての監視対象物が揃っているときに赤外線CCDカメラから受信した画像情報を元画像情報として用意しておくことを特徴とする請求項1に記載の暗所における監視方法。   The processing apparatus prepares image information received from an infrared CCD camera as original image information when all the monitoring objects to which the marks are attached are prepared, respectively. Monitoring method in the dark. 暗所における複数の監視対象物を、赤外線CCDカメラ、画像処理を行う処理装置および監視対象物に貼着するマークを用いて同時に監視する方法であって、
複数の監視対象物に、近赤外線を反射させる、異なった形状のマークをそれぞれ貼着しておき、
赤外線CCDカメラにより、近赤外線を複数の監視対象物に貼着した前記マークに照射し前記マークからの反射光を受光し、
処理装置は、赤外線CCDカメラが受光した複数のマークの形状情報を画像情報として受信し、
処理装置は、受信した画像情報を走査し、得られたマークの形状情報を、予め作成しておいた、複数の監視対象物に貼着したマークと同じ形状のテンプレートとマッチングし、そのマッチング結果に基づいて、監視対象物の存在の有無を判断することを特徴とする暗所における監視方法。
A method of simultaneously monitoring a plurality of objects to be monitored in a dark place using an infrared CCD camera, a processing device for performing image processing, and a mark attached to the object to be monitored,
A plurality of marks that reflect near-infrared rays are attached to multiple monitoring objects,
The infrared CCD camera irradiates the mark attached to a plurality of monitoring objects with near-infrared light and receives reflected light from the mark,
The processing device receives shape information of a plurality of marks received by the infrared CCD camera as image information,
The processing device scans the received image information, and matches the shape information of the obtained mark with a template that has been created in advance and has the same shape as the mark attached to a plurality of monitoring objects. A method for monitoring in a dark place, wherein the presence or absence of a monitoring object is determined based on the above.
処理装置は、監視対象物が存在しなくなったことを判断したときにアラームを発するかまたはその旨の情報を監視者に知らせる警告手段を備えることを特徴とする請求項1ないし3いずれか一項に記載の暗所における監視方法。   4. The processing apparatus according to claim 1, further comprising a warning unit that issues an alarm when it is determined that the monitoring target is no longer present, or informs the monitor of the information to that effect. Monitoring method in the dark as described in 1. 処理装置は、赤外線CCDカメラから画像情報を有線または無線により受信することを特徴とする請求項1ないし4いずれか一項に記載の暗所における監視方法。   5. The dark place monitoring method according to claim 1, wherein the processing device receives image information from the infrared CCD camera by wire or wireless. 暗所における複数の監視対象物を同時に監視する装置であって、
複数の監視対象物にそれぞれ貼着され、近赤外線を反射するマークと、
近赤外線を前記マークに照射し、その反射光を受光する赤外線CCDカメラと、
赤外線CCDカメラが受光した複数のマークの配列情報を画像情報として受信し、受信した複数のマークの配列情報を、予め記憶させておいた複数のマークの配列情報と比較し、その比較結果に基づいて、監視対象物の存在の有無を判断する画像処理部を有する処理装置を備えることを特徴とする暗所における監視装置。
A device for simultaneously monitoring a plurality of monitoring objects in a dark place,
A mark that is attached to each of a plurality of monitoring objects and reflects near infrared rays,
An infrared CCD camera that irradiates the mark with near infrared rays and receives the reflected light; and
The arrangement information of the plurality of marks received by the infrared CCD camera is received as image information, the received arrangement information of the plurality of marks is compared with the arrangement information of the plurality of marks stored in advance, and based on the comparison result And a monitoring device in a dark place, comprising a processing device having an image processing unit for determining the presence or absence of a monitoring object.
処理装置は、それぞれ前記マークを貼着した全ての監視対象物が揃っているときに赤外線CCDカメラから受信した画像情報を元画像情報として用意しておくことを特徴とする請求項6に記載の暗所における監視装置。   The processing apparatus prepares image information received from an infrared CCD camera as original image information when all the monitoring objects to which the marks are attached are prepared, respectively. A monitoring device in the dark. 暗所における複数の監視対象物を同時に監視する装置であって、
複数の監視対象物にそれぞれ貼着され、それぞれ異なる形状を有し近赤外線を反射するマークと、
近赤外線を前記マークに照射し、その反射光を受光する赤外線CCDカメラと、
赤外線CCDカメラが受光した複数のマークの形状情報を画像情報として受信し、受信した画像情報を走査し、得られたマークの形状情報を、予め作成しておいた、複数の監視対象物に貼着したマークと同じ形状のテンプレートとマッチングし、そのマッチング結果に基づいて、監視対象物の存在の有無を判断する画像処理部を有する処理装置を備えることを特徴とする暗所における監視装置。
A device for simultaneously monitoring a plurality of monitoring objects in a dark place,
A mark that is attached to each of a plurality of monitoring objects, has a different shape, and reflects near infrared rays;
An infrared CCD camera that irradiates the mark with near infrared rays and receives the reflected light; and
The shape information of a plurality of marks received by the infrared CCD camera is received as image information, the received image information is scanned, and the shape information of the obtained marks is pasted on a plurality of previously created monitoring objects. A monitoring device in a dark place, comprising a processing device having an image processing unit that matches a template having the same shape as a worn mark and determines the presence / absence of a monitoring target based on the matching result.
処理装置は、監視対象物が存在しなくなったことを判断したときにアラームを発生するかまたはその旨の情報を監視者に知らせる警告手段を備えることを特徴とする請求項6ないし8いずれか一項に記載の暗所における監視装置。   9. The processing apparatus according to claim 6, further comprising warning means for generating an alarm when it is determined that the monitoring object is no longer present or notifying the monitoring person of information to that effect. The monitoring device in the dark place as described in the item. 処理装置は、赤外線CCDカメラから画像情報を有線または無線により受信することを特徴とする請求項6ないし9いずれか一項に記載の暗所における監視装置。   The monitoring apparatus in a dark place according to any one of claims 6 to 9, wherein the processing apparatus receives image information from the infrared CCD camera by wire or wirelessly.
JP2006211334A 2006-08-02 2006-08-02 Multiple vehicle monitoring method and monitoring system in dark place Expired - Fee Related JP4578447B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006211334A JP4578447B2 (en) 2006-08-02 2006-08-02 Multiple vehicle monitoring method and monitoring system in dark place

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006211334A JP4578447B2 (en) 2006-08-02 2006-08-02 Multiple vehicle monitoring method and monitoring system in dark place

Publications (2)

Publication Number Publication Date
JP2008040616A true JP2008040616A (en) 2008-02-21
JP4578447B2 JP4578447B2 (en) 2010-11-10

Family

ID=39175568

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006211334A Expired - Fee Related JP4578447B2 (en) 2006-08-02 2006-08-02 Multiple vehicle monitoring method and monitoring system in dark place

Country Status (1)

Country Link
JP (1) JP4578447B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018055429A (en) * 2016-09-29 2018-04-05 ファナック株式会社 Object recognition device and object recognition method
JP2019134331A (en) * 2018-01-31 2019-08-08 セコム株式会社 Image processing system
CN115249396A (en) * 2021-04-28 2022-10-28 深圳市熠摄科技有限公司 Security monitoring system and security monitoring method

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08238976A (en) * 1995-03-03 1996-09-17 Fujitsu Ten Ltd Load monitor
JPH11211831A (en) * 1998-01-23 1999-08-06 Nippon Telegr & Teleph Corp <Ntt> Position measuring method of plurality of moving objects, record medium recorded with position measuring program, and position measuring system of plurality of moving objects
JPH11283132A (en) * 1998-03-30 1999-10-15 Matsushita Electric Works Ltd Burglar preventing device
JP2001283218A (en) * 2000-03-31 2001-10-12 Nagoya Electric Works Co Ltd Congestion state deciding method and device therefor
JP2002137369A (en) * 2000-10-31 2002-05-14 Suntory Ltd Method and apparatus for imaging, object to be imaged and method for printing
JP2002267619A (en) * 2001-03-09 2002-09-18 Dainippon Printing Co Ltd Defect inspection method and device therefor
JP2002366896A (en) * 2001-06-07 2002-12-20 Mitsubishi Electric Corp Device and method for discriminating seal impression
JP2004215113A (en) * 2003-01-07 2004-07-29 Tamura Seisakusho Co Ltd Change detecting method and apparatus
JP2005086151A (en) * 2003-09-11 2005-03-31 Matsushita Electric Ind Co Ltd Component mounting device and tool replacement method thereof

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08238976A (en) * 1995-03-03 1996-09-17 Fujitsu Ten Ltd Load monitor
JPH11211831A (en) * 1998-01-23 1999-08-06 Nippon Telegr & Teleph Corp <Ntt> Position measuring method of plurality of moving objects, record medium recorded with position measuring program, and position measuring system of plurality of moving objects
JPH11283132A (en) * 1998-03-30 1999-10-15 Matsushita Electric Works Ltd Burglar preventing device
JP2001283218A (en) * 2000-03-31 2001-10-12 Nagoya Electric Works Co Ltd Congestion state deciding method and device therefor
JP2002137369A (en) * 2000-10-31 2002-05-14 Suntory Ltd Method and apparatus for imaging, object to be imaged and method for printing
JP2002267619A (en) * 2001-03-09 2002-09-18 Dainippon Printing Co Ltd Defect inspection method and device therefor
JP2002366896A (en) * 2001-06-07 2002-12-20 Mitsubishi Electric Corp Device and method for discriminating seal impression
JP2004215113A (en) * 2003-01-07 2004-07-29 Tamura Seisakusho Co Ltd Change detecting method and apparatus
JP2005086151A (en) * 2003-09-11 2005-03-31 Matsushita Electric Ind Co Ltd Component mounting device and tool replacement method thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018055429A (en) * 2016-09-29 2018-04-05 ファナック株式会社 Object recognition device and object recognition method
US10482341B2 (en) 2016-09-29 2019-11-19 Fanuc Corporation Object recognition device and object recognition method
JP2019134331A (en) * 2018-01-31 2019-08-08 セコム株式会社 Image processing system
CN115249396A (en) * 2021-04-28 2022-10-28 深圳市熠摄科技有限公司 Security monitoring system and security monitoring method

Also Published As

Publication number Publication date
JP4578447B2 (en) 2010-11-10

Similar Documents

Publication Publication Date Title
US11012668B2 (en) Vehicular security system that limits vehicle access responsive to signal jamming detection
US10654448B2 (en) Vehicle security system
US10308222B2 (en) Vehicle security system
JP5316995B2 (en) Vehicle recording device
RU2533645C2 (en) Intelligent transport system and method for use thereof
US20180072270A1 (en) Vehicle surround security system
CN107809577A (en) Vehicle intrusion detection is carried out by panorama camera
JP6002887B2 (en) Vehicle recording device
JP2003157483A (en) Antitheft device of vehicle and antitheft information center
JP2010257249A (en) On-vehicle security device
JP2010204847A (en) Driver condition detection device and collision early detection device using same
JP2004122969A (en) Vehicle antitheft device
JP4984521B2 (en) In-vehicle camera control device
JP2005280526A (en) Vehicle camera device, vehicle alarm system using vehicle camera device and vehicle alarm method
JP2013257883A (en) Video recording device for vehicle
JP2007326380A (en) Security device and monitoring method
JP4578447B2 (en) Multiple vehicle monitoring method and monitoring system in dark place
KR20070104100A (en) The vehicle robbery warning apparatus which uses the camera
WO2015172498A1 (en) Concealed human face identification monitoring device
JP3775272B2 (en) Car interior monitor system
US20040140885A1 (en) Vehicle security system
JP6500692B2 (en) Vehicle security system, vehicle security method
JP2020149088A (en) Vehicle-crime prevention device
US10471933B2 (en) Vehicle security system
CN108216124A (en) Automotive anti-theft alarming system and its monitoring device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100506

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100727

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100824

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4578447

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees