JP2012109732A - Object identification apparatus and object identification method - Google Patents

Object identification apparatus and object identification method Download PDF

Info

Publication number
JP2012109732A
JP2012109732A JP2010256087A JP2010256087A JP2012109732A JP 2012109732 A JP2012109732 A JP 2012109732A JP 2010256087 A JP2010256087 A JP 2010256087A JP 2010256087 A JP2010256087 A JP 2010256087A JP 2012109732 A JP2012109732 A JP 2012109732A
Authority
JP
Japan
Prior art keywords
moving object
unit
analysis
light receiving
receiving element
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010256087A
Other languages
Japanese (ja)
Other versions
JP5699557B2 (en
Inventor
Toru Murase
亨 村瀬
Shigenori Takagishi
成典 高岸
Miki Kusao
幹 草尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2010256087A priority Critical patent/JP5699557B2/en
Publication of JP2012109732A publication Critical patent/JP2012109732A/en
Application granted granted Critical
Publication of JP5699557B2 publication Critical patent/JP5699557B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an object identification apparatus that, when a moving object is included in a predetermined imaging area, can accurately identify whether or not the moving object is a human.SOLUTION: A monitoring apparatus 3 as an object identification apparatus includes: an acquisition section 21 for, when a moving object is included in a pickup image 200 imaging a predetermined monitored area 4, acquiring an enlarged image 300 of the moving object, which includes a visible area and an infrared area; an analysis section 22 for detecting spectra of a plurality of particular wavelengths in the infrared region on the basis of the enlarged image 300, and analyzing the material of the moving object on the basis of the results of the detection; and an identification section 23 for identifying the type of the moving object on the basis of the result of analysis by the analysis section 22.

Description

本発明は、対象識別装置及び対象識別方法に関し、特に、所定の撮影エリア内に含まれている移動物体が人間であるか否かを識別するための対象識別装置及び対象識別方法に関する。   The present invention relates to a target identification device and a target identification method, and more particularly, to a target identification device and a target identification method for identifying whether or not a moving object included in a predetermined imaging area is a human being.

監視カメラによって所定の監視エリアを撮影することにより、監視エリアへの侵入者を検知する監視装置が広く実用化されている。このような監視装置においては、例えば、人間の外見に関する複数のテンプレート画像を予め準備し、当該テンプレート画像を用いたパターンマッチングを行うことによって、撮影画像内に人間(侵入者)が含まれているか否かが判定される。   A monitoring device that detects an intruder into a monitoring area by photographing a predetermined monitoring area with a monitoring camera has been widely put into practical use. In such a monitoring apparatus, for example, by preparing a plurality of template images related to the appearance of a human in advance and performing pattern matching using the template image, whether a human (intruder) is included in the captured image It is determined whether or not.

下記特許文献1には、屋内への侵入者を監視する監視装置が開示されている。当該監視装置は、カメラによって屋内を撮影し、フレーム間の差分画像に基づいて変化領域を抽出し、変化領域に関してパターンマッチングを行うことによって、移動物体(侵入者)を検出する。   Patent Document 1 below discloses a monitoring device that monitors intruders indoors. The monitoring apparatus captures indoors with a camera, extracts a change area based on a difference image between frames, and detects a moving object (intruder) by performing pattern matching on the change area.

特許第3423861号公報Japanese Patent No. 3423861

しかしながら、テンプレート画像を用いたパターンマッチングによって人間の有無を判定する手法には、以下のような問題がある。つまり、山中に設置された通信基地局等の特定施設への侵入者を監視する場合には、外見が人間に類似した動物(例えば猿)と人間とを正確に区別することが困難である。そのため、動物が特定施設の監視エリアに近付いた場合に、当該動物が侵入者として誤って検知される可能性が高い。   However, the method for determining the presence or absence of a person by pattern matching using a template image has the following problems. That is, when monitoring an intruder into a specific facility such as a communication base station installed in a mountain, it is difficult to accurately distinguish an animal (eg, a monkey) whose appearance is similar to a human and a human. Therefore, when an animal approaches the monitoring area of a specific facility, there is a high possibility that the animal is erroneously detected as an intruder.

また、広角の監視カメラによって上記特定施設の監視エリアの全体を撮影する場合には、撮影画像内に含まれる対象物のサイズが小さくなるため、パターンマッチングによる誤検知の可能性はさらに高まる。   In addition, when the entire surveillance area of the specific facility is photographed with a wide-angle surveillance camera, the size of the target object included in the photographed image is reduced, so that the possibility of erroneous detection due to pattern matching is further increased.

本発明はかかる問題を解決するために成されたものであり、所定の撮影エリア内に移動物体が含まれている場合に、その移動物体が人間であるか否かを正確に識別することが可能な、対象識別装置及び対象識別方法を得ることを目的とするものである。   The present invention has been made to solve such a problem. When a moving object is included in a predetermined imaging area, it is possible to accurately identify whether or not the moving object is a human. The object is to obtain a target identification device and a target identification method.

本発明の第1の態様に係る対象識別装置は、所定の撮影エリアを撮影した撮影画像内に移動物体が含まれている場合に、可視域及び赤外域を含む当該移動物体の拡大画像を取得する取得手段と、前記拡大画像に基づいて、赤外域における特定の複数の波長のスペクトルを検出し、当該検出の結果に基づいて前記移動物体の材質を分析する分析手段と、前記分析手段による分析の結果に基づいて、前記移動物体の種別を識別する識別手段と、を備えることを特徴とするものである。   The object identification device according to the first aspect of the present invention acquires an enlarged image of a moving object including a visible region and an infrared region when a moving object is included in a captured image obtained by capturing a predetermined capturing area. An acquiring unit that detects a spectrum of a plurality of wavelengths in the infrared region based on the enlarged image, and analyzes the material of the moving object based on the detection result, and the analysis by the analyzing unit And identifying means for identifying the type of the moving object based on the result.

第1の態様に係る対象識別装置によれば、識別手段は、分析手段による材質分析の結果に基づいて、撮影エリア内に含まれている移動物体の種別を識別する。従って、材質分析の結果、人肌や化学繊維等が含まれている場合には、その移動物体は人間であると識別することができる。しかも、取得手段は、移動物体の拡大画像を取得し、分析手段は、当該拡大画像に基づいて材質分析を行う。従って、移動物体とは無関係の背景領域の影響を排除して、移動物体の材質分析を高精度に行うことができる。その結果、所定の撮影エリア内に移動物体が含まれている場合に、その移動物体が人間であるかそれ以外の動物等であるかを正確に識別することが可能となる。   According to the object identification device according to the first aspect, the identification unit identifies the type of the moving object included in the imaging area based on the result of the material analysis by the analysis unit. Therefore, when human skin, chemical fiber, or the like is included as a result of material analysis, the moving object can be identified as a human. In addition, the acquisition unit acquires an enlarged image of the moving object, and the analysis unit performs material analysis based on the enlarged image. Therefore, the influence of the background area unrelated to the moving object can be eliminated, and the material analysis of the moving object can be performed with high accuracy. As a result, when a moving object is included in a predetermined imaging area, it is possible to accurately identify whether the moving object is a human being or an animal other than that.

本発明の第2の態様に係る対象識別装置は、第1の態様に係る対象識別装置において特に、前記取得手段は、前記撮影エリアの全体を撮影する比較的広画角の第1のカメラと、前記第1のカメラが撮影した画像に前記移動物体が含まれている場合に、前記撮影エリア内における前記移動物体の位置を特定する特定手段と、前記特定手段が特定した位置を撮影することによって前記拡大画像を得る比較的狭画角の第2のカメラと、を有することを特徴とするものである。   The object identification device according to a second aspect of the present invention is the object identification device according to the first aspect, in particular, the acquisition means includes a first camera with a relatively wide angle of view that images the entire imaging area. , When the moving object is included in the image captured by the first camera, the specifying means for specifying the position of the moving object in the shooting area, and the position specified by the specifying means And a second camera having a relatively narrow angle of view to obtain the enlarged image.

第2の態様に係る対象識別装置によれば、取得手段は、比較的広画角の第1のカメラによって撮影エリアの全体を撮影し、その撮影画像に移動物体が含まれている場合に、比較的狭画角の第2のカメラによって移動物体を撮影することにより、移動物体の拡大画像を得る。従って、第1のカメラによって撮影エリアの全体を広く撮影しつつ、第2のカメラによって移動物体の詳細な撮影を行うことが可能となる。しかも、特定手段は、第1のカメラの撮影画像に移動物体が含まれている場合に、撮影エリア内における移動物体の位置を特定し、第2のカメラは、特定手段から指定された位置を撮影する。従って、狭画角の第2のカメラによって移動物体を探索する必要がないため、第2のカメラによる移動物体の撮影動作を遅滞なく開始することができる。   According to the object identification device according to the second aspect, the acquisition unit captures the entire imaging area with the first camera having a relatively wide angle of view, and the captured image includes a moving object. An enlarged image of the moving object is obtained by photographing the moving object with the second camera having a relatively narrow angle of view. Accordingly, it is possible to perform detailed imaging of a moving object with the second camera while imaging the entire imaging area widely with the first camera. In addition, the specifying unit specifies the position of the moving object in the shooting area when the moving image is included in the captured image of the first camera, and the second camera determines the position specified by the specifying unit. Take a picture. Accordingly, since it is not necessary to search for a moving object with the second camera having a narrow angle of view, the moving object photographing operation by the second camera can be started without delay.

本発明の第3の態様に係る対象識別装置は、第2の態様に係る対象識別装置において特に、前記第2のカメラは、第1の受光素子部と、前記移動物体からの反射光を前記第1の受光素子部上に導光する第1の光学系と、を有し、前記分析手段は、第2の受光素子部と、前記第1の受光素子部と前記第1の光学系との間に配置され、前記第1の光学系から前記第1の受光素子部に向かう反射光を分岐させる分岐手段と、前記分岐手段によって分岐された反射光を前記第2の受光素子部上に導光する第2の光学系と、を有することを特徴とするものである。   The object identification device according to a third aspect of the present invention is the object identification device according to the second aspect, in particular, the second camera transmits the reflected light from the first light receiving element portion and the moving object. A first optical system that guides light onto the first light receiving element unit, and the analysis means includes a second light receiving element unit, the first light receiving element unit, and the first optical system. Between the first optical system and the first light receiving element portion, and branching means for branching the reflected light from the first optical system to the first light receiving element portion, and the reflected light branched by the branching means on the second light receiving element portion And a second optical system for guiding light.

第3の態様に係る対象識別装置によれば、第1の受光素子部と第1の光学系との間に分岐手段を配置し、第1の光学系から第1の受光素子部に向かう反射光を、分岐手段によって第2の光学系に向けて分岐させる。これにより、第1の光学系によって第1の受光素子部上に導光される反射光と共通の反射光を、第2の光学系によって第2の受光素子部上に導光することができる。その結果、分析手段は、第2のカメラによって得られる拡大画像に基づく材質分析を正確に行うことが可能となる。しかも、材質分析を行うための専用カメラを第2のカメラとは別に設ける必要がないため、装置を小型化できるとともに、共通の拡大画像を得るべく専用カメラの動作と第2のカメラの動作とを同期させる制御も不要となる。   According to the object identification device according to the third aspect, the branching means is disposed between the first light receiving element portion and the first optical system, and the reflection is directed from the first optical system toward the first light receiving element portion. The light is branched toward the second optical system by the branching unit. Thereby, the reflected light common to the reflected light guided to the first light receiving element portion by the first optical system can be guided to the second light receiving element portion by the second optical system. . As a result, the analysis means can accurately perform material analysis based on the enlarged image obtained by the second camera. In addition, since it is not necessary to provide a dedicated camera for performing material analysis separately from the second camera, the apparatus can be reduced in size, and the operation of the dedicated camera and the operation of the second camera to obtain a common enlarged image. The control which synchronizes is also unnecessary.

本発明の第4の態様に係る対象識別装置は、第1〜第3のいずれか一つの態様に係る対象識別装置において特に、前記分析手段は、前記拡大画像の全体領域、前記拡大画像を分割した複数の小領域、及び前記拡大画像内に含まれる円形又は楕円形の領域の少なくとも一つを対象として材質分析を行うことを特徴とするものである。   The object identification device according to a fourth aspect of the present invention is the object identification device according to any one of the first to third aspects, in particular, the analysis means divides the entire area of the enlarged image and the enlarged image. The material analysis is performed on at least one of the plurality of small regions and a circular or elliptical region included in the enlarged image.

第4の態様に係る対象識別装置によれば、分析手段は、拡大画像の全体領域、拡大画像を分割した複数の小領域、及び拡大画像内に含まれる円形又は楕円形の領域の少なくとも一つを対象として材質分析を行う。拡大画像の全体領域を分析対象とすることにより、材質分析を簡易に行うことができる。拡大画像を分割した複数の小領域を分析対象とすることにより、全体領域を分析対象とする場合と比較して高精度な分析を行うことができる。拡大画像内に含まれる円形又は楕円形の領域を分析対象とすることにより、拡大画像内に顔が含まれている場合に、その顔を対象とした材質分析を行うことができるため、移動物体が人間であるかそれ以外の動物等であるかを高精度に識別することが可能となる。   According to the object identification device according to the fourth aspect, the analysis means includes at least one of the entire area of the enlarged image, a plurality of small areas obtained by dividing the enlarged image, and a circular or elliptical area included in the enlarged image. Material analysis is performed on the target. By using the entire area of the enlarged image as an analysis target, material analysis can be easily performed. By using a plurality of small regions obtained by dividing the enlarged image as an analysis target, it is possible to perform a highly accurate analysis as compared with a case where the entire region is an analysis target. By using a circular or elliptical area included in the enlarged image as the analysis target, when a face is included in the enlarged image, material analysis can be performed for that face, so moving objects It is possible to identify with high accuracy whether the person is a human or other animal.

本発明の第5の態様に係る対象識別方法は、(A)所定の撮影エリアを撮影した撮影画像内に移動物体が含まれている場合に、可視域及び赤外域を含む当該移動物体の拡大画像を取得するステップと、(B)前記拡大画像に基づいて、赤外域における特定の複数の波長のスペクトルを検出し、当該検出の結果に基づいて前記移動物体の材質を分析するステップと、(C)前記ステップ(B)による分析の結果に基づいて、前記移動物体の種別を識別するステップと、を備えることを特徴とするものである。   In the object identification method according to the fifth aspect of the present invention, (A) when a moving object is included in a photographed image obtained by photographing a predetermined photographing area, the moving object including the visible region and the infrared region is enlarged. (B) detecting a spectrum of a plurality of specific wavelengths in the infrared region based on the enlarged image, and analyzing the material of the moving object based on the detection result; C) identifying the type of the moving object based on the result of the analysis in step (B).

第5の態様に係る対象識別方法によれば、ステップ(C)では、ステップ(B)による材質分析の結果に基づいて、撮影エリア内に含まれている移動物体の種別が識別される。従って、材質分析の結果、人肌や化学繊維等が含まれている場合には、その移動物体は人間であると識別することができる。しかも、ステップ(A)では、移動物体の拡大画像が取得され、ステップ(B)では、当該拡大画像に基づいて材質分析が行われる。従って、移動物体とは無関係の背景領域の影響を排除して、移動物体の材質分析を高精度に行うことができる。その結果、所定の撮影エリア内に移動物体が含まれている場合に、その移動物体が人間であるかそれ以外の動物等であるかを正確に識別することが可能となる。   According to the object identification method according to the fifth aspect, in step (C), the type of the moving object included in the imaging area is identified based on the result of the material analysis in step (B). Therefore, when human skin, chemical fiber, or the like is included as a result of material analysis, the moving object can be identified as a human. Moreover, in step (A), an enlarged image of the moving object is acquired, and in step (B), material analysis is performed based on the enlarged image. Therefore, the influence of the background area unrelated to the moving object can be eliminated, and the material analysis of the moving object can be performed with high accuracy. As a result, when a moving object is included in a predetermined imaging area, it is possible to accurately identify whether the moving object is a human being or an animal other than that.

本発明によれば、所定の撮影エリア内に移動物体が含まれている場合に、その移動物体が人間であるか否かを正確に識別することが可能な、対象識別装置及び対象識別方法を得ることができる。   According to the present invention, there is provided a target identification device and a target identification method capable of accurately identifying whether or not a moving object is a human when the predetermined photographing area includes the moving object. Obtainable.

本発明の実施の形態に係る対象識別装置としての監視装置の使用状況の一例を示す図である。It is a figure which shows an example of the usage condition of the monitoring apparatus as an object identification apparatus which concerns on embodiment of this invention. 監視装置の外観を模式的に示す図である。It is a figure which shows typically the external appearance of a monitoring apparatus. 監視装置の機能を概略的に示すブロック図である。It is a block diagram which shows the function of a monitoring apparatus roughly. 取得部の構成を概略的に示すブロック図である。It is a block diagram which shows the structure of an acquisition part roughly. 監視装置の全体動作を概略的に示すフローチャートである。It is a flowchart which shows the whole operation | movement of a monitoring apparatus roughly. 監視装置によって撮影された撮影画像の一例を模式的に示す図である。It is a figure which shows typically an example of the picked-up image image | photographed with the monitoring apparatus. 望遠カメラの内部構造を概略的に示す図である。It is a figure which shows schematically the internal structure of a telephoto camera. 光学系の構成を示す図である。It is a figure which shows the structure of an optical system. 受光素子部の受光面を示す平面図である。It is a top view which shows the light-receiving surface of a light-receiving element part. 光学系に入射された反射光の垂直方向における光路の一例を概略的に示す図である。It is a figure which shows roughly an example of the optical path in the orthogonal | vertical direction of the reflected light which injected into the optical system. 光学系に入射された光の水平方向における光路の一例を概略的に示す図である。It is a figure which shows roughly an example of the optical path in the horizontal direction of the light which injected into the optical system. 演算部の構成を示すブロック図である。It is a block diagram which shows the structure of a calculating part. 識別部による対象物の識別処理を示すフローチャートである。It is a flowchart which shows the identification process of the target object by an identification part. 識別部による対象物の識別処理を示すフローチャートである。It is a flowchart which shows the identification process of the target object by an identification part. 解析対象範囲の他の設定例を示す図である。It is a figure which shows the other example of a setting of an analysis object range.

以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. In addition, the element which attached | subjected the same code | symbol in different drawing shall show the same or corresponding element.

図1は、本発明の実施の形態に係る対象識別装置としての監視装置3の使用状況の一例を示す図である。通信基地局1が山中に設置されており、通信基地局1の周囲はフェンス2で取り囲まれている。この例において、監視装置3は、所定の撮影エリアとして、フェンス2を含む監視エリア4を撮影することにより、フェンス2を乗り越えて通信基地局1へ侵入しようとする侵入者を監視する用途で使用される。なお、図1の例では通信基地局1に一つの監視装置3のみが設置されているが、通信基地局1の周囲を死角無く監視するために、複数の監視装置3が設置されてもよい。   FIG. 1 is a diagram illustrating an example of a usage state of a monitoring device 3 as a target identification device according to an embodiment of the present invention. A communication base station 1 is installed in the mountains, and the communication base station 1 is surrounded by a fence 2. In this example, the monitoring device 3 is used for the purpose of monitoring an intruder trying to get over the fence 2 and enter the communication base station 1 by shooting the monitoring area 4 including the fence 2 as a predetermined shooting area. Is done. In the example of FIG. 1, only one monitoring device 3 is installed in the communication base station 1, but a plurality of monitoring devices 3 may be installed in order to monitor the surroundings of the communication base station 1 without blind spots. .

図2は、監視装置3の外観を模式的に示す図である。ステレオカメラとして機能する一対の広角カメラ11A,11Bと、望遠カメラ12と、制御装置13とが、フレーム10に取り付けられている。広角カメラ11A,11Bは、監視エリア4の全体を撮影可能なように、視野が固定されている。望遠カメラ12は、例えば、パンチルト機能及びズーム機能を搭載したPTZカメラである。広角カメラ11A,11B及び望遠カメラ12は、対象物からの太陽光の反射光を受光することによって対象物を撮影する。但し、監視装置3においては、夜間における撮影をも可能とすべく、ハロゲン光又は赤外光を監視エリア4に向けて照射する光照射器を備えてもよい。   FIG. 2 is a diagram schematically illustrating the appearance of the monitoring device 3. A pair of wide-angle cameras 11 </ b> A and 11 </ b> B functioning as a stereo camera, a telephoto camera 12, and a control device 13 are attached to the frame 10. The wide-angle cameras 11A and 11B have a fixed field of view so that the entire monitoring area 4 can be photographed. The telephoto camera 12 is, for example, a PTZ camera equipped with a pan / tilt function and a zoom function. The wide-angle cameras 11A and 11B and the telephoto camera 12 capture the object by receiving reflected sunlight from the object. However, the monitoring device 3 may be provided with a light irradiator for irradiating the monitoring area 4 with halogen light or infrared light so as to enable photographing at night.

図3は、監視装置3の機能を概略的に示すブロック図である。監視装置3は、取得部21、分析部22、及び識別部23を備えている。取得部21は、監視エリア4を撮影した撮影画像内に移動物体が含まれている場合に、可視領域及び赤外領域を含むその移動物体の拡大画像を取得する。分析部22は、取得部21が取得した拡大画像に基づいて、赤外領域の特定の複数の波長のスペクトルを検出し、当該検出の結果に基づいて移動物体の材質を分析する。識別部23は、分析部22による分析の結果に基づいて、移動物体の種別を識別する。   FIG. 3 is a block diagram schematically showing functions of the monitoring device 3. The monitoring device 3 includes an acquisition unit 21, an analysis unit 22, and an identification unit 23. When the captured image obtained by capturing the monitoring area 4 includes a moving object, the acquiring unit 21 acquires an enlarged image of the moving object including the visible region and the infrared region. The analysis unit 22 detects a spectrum of specific wavelengths in the infrared region based on the enlarged image acquired by the acquisition unit 21, and analyzes the material of the moving object based on the detection result. The identification unit 23 identifies the type of the moving object based on the analysis result by the analysis unit 22.

図4は、取得部21の構成を概略的に示すブロック図である。取得部21は、広角カメラ11A,11B、望遠カメラ12、及び位置特定部31を備えている。また、図5は、監視装置3の全体動作を概略的に示すフローチャートである。また、図6は、監視装置3によって撮影された撮影画像の一例を模式的に示す図である。図6の(A)には、広角カメラ11A,11Bの撮影画像200を示しており、図6の(B)には、望遠カメラ12によって撮影された拡大画像300を示している。   FIG. 4 is a block diagram schematically showing the configuration of the acquisition unit 21. The acquisition unit 21 includes wide-angle cameras 11A and 11B, a telephoto camera 12, and a position specifying unit 31. FIG. 5 is a flowchart schematically showing the overall operation of the monitoring device 3. FIG. 6 is a diagram schematically illustrating an example of a captured image captured by the monitoring device 3. 6A shows captured images 200 of the wide-angle cameras 11A and 11B, and FIG. 6B shows an enlarged image 300 captured by the telephoto camera 12. FIG.

図4〜6を参照して、広角カメラ11A,11Bは、監視エリア4の全体を常時撮影しており、これにより、撮影画像200が得られる(ステップP11)。広角カメラ11A,11Bの撮影画像200に基づいて監視エリア4内に何等かの移動物体が検出されると(ステップP12の判定結果が「YES」)、位置特定部31は、広角カメラ11A,11B間の距離、及び、広角カメラ11A,11Bの各撮影画像200内における移動物体の位置関係に基づいて、監視エリア4内における移動物体の位置(例えば中心位置201)を特定する(ステップP13)。なお、本実施の形態の例では、フェンス2を乗り越えて通信基地局1へ侵入しようとする侵入者を監視する用途での監視装置3の使用を想定しており、フェンス2を乗り越える際の高さ方向の移動量をも考慮する必要があるために、二つの広角カメラ11A,11Bを用いてステレオカメラを構成している。しかし、高さ方向への移動量を考慮する必要がない場合には、必ずしもステレオカメラを用いる必要はなく、一つの広角カメラのみを用いて移動物体の位置を特定することができる。   4 to 6, the wide-angle cameras 11A and 11B always shoot the entire monitoring area 4, and a captured image 200 is thereby obtained (step P11). If any moving object is detected in the monitoring area 4 based on the captured images 200 of the wide-angle cameras 11A and 11B (the determination result in step P12 is “YES”), the position specifying unit 31 may select the wide-angle cameras 11A and 11B. The position of the moving object in the monitoring area 4 (for example, the center position 201) is specified based on the distance between them and the positional relationship of the moving object in the captured images 200 of the wide-angle cameras 11A and 11B (step P13). In the example of the present embodiment, it is assumed that the monitoring device 3 is used for monitoring an intruder trying to get over the fence 2 and enter the communication base station 1. Since it is necessary to consider the amount of movement in the vertical direction, a stereo camera is configured using the two wide-angle cameras 11A and 11B. However, when it is not necessary to consider the amount of movement in the height direction, it is not always necessary to use a stereo camera, and the position of a moving object can be specified using only one wide-angle camera.

次に、位置特定部31によって特定された移動物体の位置を視野の中心として望遠カメラ12による撮影を行うことにより、可視領域及び赤外領域を含む移動物体の拡大画像300が取得部21によって取得される(ステップP14)。次に、分析部22は、取得部21が取得した拡大画像300に対して、ハイパースペクトル解析技術を用いて移動物体の材質分析を行う(ステップP15)。次に、識別部23は、分析部22による分析の結果に基づいて、移動物体が人間であるか否かを判定する(ステップP16)。   Next, the acquisition unit 21 acquires an enlarged image 300 of the moving object including the visible region and the infrared region by performing imaging with the telephoto camera 12 with the position of the moving object specified by the position specifying unit 31 as the center of the visual field. (Step P14). Next, the analysis unit 22 performs material analysis of the moving object using the hyperspectral analysis technique on the enlarged image 300 acquired by the acquisition unit 21 (step P15). Next, the identification unit 23 determines whether or not the moving object is a human based on the result of the analysis by the analysis unit 22 (step P16).

移動物体が人間でない場合には(ステップP16の判定結果が「NO」)、ステップP11に戻って上記と同様の動作が繰り返される。一方、移動物体が人間(つまり侵入者)である場合には(ステップP16の判定結果が「YES」)、音又は光等によって侵入者に対して警告を行うとともに、望遠カメラ12によって侵入者を追跡して撮影し、その撮影画像を記録する(ステップP17)。侵入者の追跡のための望遠カメラ12の駆動制御は、図2に示した制御部13によって行われる。但し、追跡のための所定の制御プログラムを格納したFPGA(Field Programmable Gate Array)及びDSP(Digital Signal Processor)を望遠カメラ12内に実装することにより、望遠カメラ12自らの制御によって侵入者の追跡を行ってもよい。侵入者の追跡の結果、侵入者が監視エリア4から去った場合には(ステップP18の判定結果が「YES」)、ステップP11に戻って上記と同様の動作が繰り返される。   If the moving object is not a human (the determination result in Step P16 is “NO”), the process returns to Step P11 and the same operation as described above is repeated. On the other hand, when the moving object is a human (that is, an intruder) (the determination result in Step P16 is “YES”), the intruder is warned by sound or light, and the telephoto camera 12 detects the intruder. The captured image is tracked and the captured image is recorded (step P17). Drive control of the telephoto camera 12 for tracking an intruder is performed by the control unit 13 shown in FIG. However, by mounting an FPGA (Field Programmable Gate Array) and DSP (Digital Signal Processor) storing a predetermined control program for tracking in the telephoto camera 12, tracking of the intruder can be performed by controlling the telephoto camera 12 itself. You may go. If the intruder leaves the monitoring area 4 as a result of tracking the intruder (the determination result in step P18 is “YES”), the process returns to step P11 and the same operation as described above is repeated.

図7は、望遠カメラ12の内部構造を概略的に示す図である。望遠カメラ12は、ズームレンズを含む光学系41と、CCD等の受光素子部42とを備えている。移動物体からの反射光(可視光及び赤外光を含む)は、光学系41によって受光素子部42上に導光される。受光素子部42を構成する各受光素子は、可視光の波長域における反射光の受光強度に応じた大きさの電気信号を出力する。望遠カメラ12によって撮影された拡大画像300は、通信基地局1内又は遠隔地の監視センタ内に設置された液晶ディスプレイ等の表示部43に表示される。   FIG. 7 is a diagram schematically showing the internal structure of the telephoto camera 12. The telephoto camera 12 includes an optical system 41 including a zoom lens and a light receiving element unit 42 such as a CCD. Reflected light (including visible light and infrared light) from the moving object is guided onto the light receiving element unit 42 by the optical system 41. Each light receiving element constituting the light receiving element unit 42 outputs an electrical signal having a magnitude corresponding to the received light intensity of the reflected light in the visible light wavelength region. The enlarged image 300 taken by the telephoto camera 12 is displayed on a display unit 43 such as a liquid crystal display installed in the communication base station 1 or a remote monitoring center.

また、図7に示すように、分析部22は、分岐部51、光学系52、受光素子部53、及び演算部54を備えている。分岐部51は、プリズム又はハーフミラー等であり、光学系41と受光素子部42との間に配置されている。光学系41から受光素子部42に向かう反射光は、分岐部51によって光学系52に向けて分岐される。分岐された反射光は、光学系52によって受光素子部53上に導光される。受光素子部53を構成する各受光素子は、赤外光の波長域における反射光の受光強度に応じた大きさの電気信号を出力する。受光素子部53から出力された電気信号は、演算部54に入力される。演算部54から出力された信号は、識別部23に入力される。   As illustrated in FIG. 7, the analysis unit 22 includes a branching unit 51, an optical system 52, a light receiving element unit 53, and a calculation unit 54. The branching unit 51 is a prism or a half mirror, and is disposed between the optical system 41 and the light receiving element unit 42. The reflected light traveling from the optical system 41 toward the light receiving element unit 42 is branched by the branching unit 51 toward the optical system 52. The branched reflected light is guided onto the light receiving element portion 53 by the optical system 52. Each light receiving element constituting the light receiving element unit 53 outputs an electric signal having a magnitude corresponding to the received light intensity of the reflected light in the wavelength range of infrared light. The electrical signal output from the light receiving element unit 53 is input to the calculation unit 54. The signal output from the calculation unit 54 is input to the identification unit 23.

なお、プリズム又はハーフミラー等を用いる代わりに、挿退可能な反射鏡を光学系41と受光素子部42との間に配置してもよい。第1のタイミングにおいて、光学系41と受光素子部42との間の光路上から上記反射鏡を退避させる。これにより、移動物体からの反射光が受光素子部42上に導光される。また、第2のタイミングにおいて、光学系41と受光素子部42との間の光路上に上記反射鏡を挿入する。光学系41から受光素子部42に向かう反射光は、反射鏡によって光学系52に向けて反射される。これにより、移動物体からの反射光が受光素子部53上に導光される。上記第1及び第2のタイミングは、所定の微小時間間隔で交互に繰り返される。   Instead of using a prism or a half mirror, an insertable / retractable reflecting mirror may be disposed between the optical system 41 and the light receiving element portion 42. At the first timing, the reflecting mirror is retracted from the optical path between the optical system 41 and the light receiving element unit 42. Thereby, the reflected light from the moving object is guided onto the light receiving element portion 42. Further, at the second timing, the reflecting mirror is inserted on the optical path between the optical system 41 and the light receiving element portion 42. The reflected light from the optical system 41 toward the light receiving element unit 42 is reflected toward the optical system 52 by the reflecting mirror. Thereby, the reflected light from the moving object is guided onto the light receiving element portion 53. The first and second timings are alternately repeated at predetermined minute time intervals.

図8は、光学系52の構成を示す図である。光学系52は、拡散部61、集光部62、及び選択透過部63を有している。図中に示すX方向は水平方向を示し、Y方向は垂直方向を示し、Z方向はX方向及びY方向の双方に直交する方向を示す。拡散部61、集光部62、及び選択透過部63は、Z方向において互いに重なるように配置されている。   FIG. 8 is a diagram illustrating a configuration of the optical system 52. The optical system 52 includes a diffusing unit 61, a condensing unit 62, and a selective transmission unit 63. The X direction shown in the figure indicates the horizontal direction, the Y direction indicates the vertical direction, and the Z direction indicates a direction orthogonal to both the X direction and the Y direction. The diffusing unit 61, the light collecting unit 62, and the selective transmission unit 63 are arranged so as to overlap each other in the Z direction.

拡散部61は、X方向に沿って延在する複数のシリンドリカルレンズ64がY方向に沿って並設された構造を有するレンチキュラーレンズである。拡散部61は、ガラス等の透明材料によって形成されている。拡散部61は、入射された移動物体からの反射光をY方向に拡散する。   The diffusing unit 61 is a lenticular lens having a structure in which a plurality of cylindrical lenses 64 extending along the X direction are arranged in parallel along the Y direction. The diffusion part 61 is made of a transparent material such as glass. The diffusion unit 61 diffuses the reflected light from the incident moving object in the Y direction.

集光部62は、ガラス等の透明材料によって形成されたシリンドリカルレンズ65を有している。集光部62は、拡散部61によってY方向に拡散された反射光を、X方向において集光させる。   The condensing part 62 has the cylindrical lens 65 formed with transparent materials, such as glass. The condensing unit 62 condenses the reflected light diffused in the Y direction by the diffusing unit 61 in the X direction.

選択透過部63は、X方向に沿って延在する複数の波長選択フィルタ661〜665がY方向に沿って並設された構造を有している。本実施の形態の例において、波長選択フィルタ661,662,663,664,665は、集光部62から入射された光のうち、それぞれ1100nm帯、1200nm帯、1300nm帯、1500nm帯、及び1600nm帯の波長成分のみを透過する。   The selective transmission unit 63 has a structure in which a plurality of wavelength selection filters 661 to 665 extending along the X direction are arranged in parallel along the Y direction. In the example of the present embodiment, the wavelength selection filters 661, 662, 663, 664, and 665 are the 1100 nm band, the 1200 nm band, the 1300 nm band, the 1500 nm band, and the 1600 nm band of the light incident from the light collecting unit 62, respectively. Only the wavelength component is transmitted.

なお、変形例として、それぞれ1100nm帯、1200nm帯、1300nm帯、1500nm帯、及び1600nm帯の波長成分のみを透過する5枚の波長選択フィルタを準備し、上記第2のタイミングにおいて当該5枚の波長選択フィルタを光学系41(図6参照)内に順に挿入する構成とすることにより、選択透過部63の配設を省略することもできる。   As a modification, five wavelength selective filters that transmit only the wavelength components in the 1100 nm band, the 1200 nm band, the 1300 nm band, the 1500 nm band, and the 1600 nm band are prepared, and the five wavelengths are used at the second timing. By arranging the selection filter in order in the optical system 41 (see FIG. 6), the arrangement of the selective transmission part 63 can be omitted.

図8を参照して、選択透過部63の透過面に近接して受光素子部53が配置される。受光素子部53の受光面の大きさは、選択透過部63の透過面の大きさに略等しい。受光素子部53は、InGaAs等を用いた複数の受光素子が行列状に配置された構造を有している。各受光素子は、受光強度に応じた大きさの電気信号を出力する。なお、選択透過部63と受光素子部53との間に投影レンズを配置することにより、受光素子部53の受光面の大きさを、選択透過部63の透過面の大きさよりも小さくすることができる。   Referring to FIG. 8, the light receiving element portion 53 is disposed in the vicinity of the transmission surface of the selective transmission portion 63. The size of the light receiving surface of the light receiving element unit 53 is substantially equal to the size of the transmission surface of the selective transmission unit 63. The light receiving element portion 53 has a structure in which a plurality of light receiving elements using InGaAs or the like are arranged in a matrix. Each light receiving element outputs an electrical signal having a magnitude corresponding to the received light intensity. In addition, by arranging a projection lens between the selective transmission unit 63 and the light receiving element unit 53, the size of the light receiving surface of the light receiving element unit 53 can be made smaller than the size of the transmission surface of the selective transmission unit 63. it can.

図9は、受光素子部53の受光面を示す平面図である。受光素子部53の受光面は、波長選択フィルタ661,662,663,664,665の各透過面にそれぞれ対応する受光領域71,72,73,74,75を有している。   FIG. 9 is a plan view showing a light receiving surface of the light receiving element portion 53. The light receiving surface of the light receiving element portion 53 has light receiving regions 71, 72, 73, 74, 75 corresponding to the transmission surfaces of the wavelength selection filters 661, 662, 663, 664, 665, respectively.

図10は、光学系52に入射された反射光の垂直方向(Y方向)における光路の一例を概略的に示す図である。監視装置3の前方に柱状の対象物100が存在する場合、対象物100からの反射光は、分岐部51によって光学系52に向けて分岐された後、拡散部61に入射される。拡散部61に入射された反射光は、シリンドリカルレンズ64によってY方向の入射角度に応じて屈折されることにより、Y方向に分散される。分散部61によって分散された反射光は、集光部62を通過した後、波長に応じて選択透過部63を選択的に透過することにより、受光素子部53の受光面に入射される。   FIG. 10 is a diagram schematically illustrating an example of an optical path in the vertical direction (Y direction) of the reflected light incident on the optical system 52. When the columnar target object 100 is present in front of the monitoring device 3, the reflected light from the target object 100 is branched toward the optical system 52 by the branching part 51 and then enters the diffusion part 61. The reflected light incident on the diffusing unit 61 is refracted by the cylindrical lens 64 according to the incident angle in the Y direction, and is dispersed in the Y direction. The reflected light dispersed by the dispersion unit 61 is incident on the light receiving surface of the light receiving element unit 53 by passing through the light collecting unit 62 and then selectively passing through the selective transmission unit 63 according to the wavelength.

ここで、拡散部61の表面におけるシリンドリカルレンズ64の形成ピッチは、拡散部61と対象物100との距離に比べて十分に小さい。従って、対象物100からの反射光は、他のシリンドリカルレンズ64にも入射されて、それぞれのシリンドリカルレンズ64において、その入射角度に応じて様々な方向に屈折される。従って、対象物100からの反射光は、拡散部61によって拡散されることにより、その波長に応じて選択透過部63の全ての波長選択フィルタ661〜665を透過する。   Here, the formation pitch of the cylindrical lenses 64 on the surface of the diffusion part 61 is sufficiently smaller than the distance between the diffusion part 61 and the object 100. Therefore, the reflected light from the object 100 is also incident on the other cylindrical lenses 64, and is refracted in various directions in each cylindrical lens 64 according to the incident angle. Therefore, the reflected light from the object 100 is diffused by the diffusing unit 61 and passes through all the wavelength selection filters 661 to 665 of the selective transmission unit 63 according to the wavelength.

図11は、光学系52に入射された光の水平方向(X方向)における光路の一例を概略的に示す図である。対象物100からの反射光は、分岐部51によって光学系52に向けて分岐された後、拡散部61を通過して集光部62に入射される。集光部62は、入射された反射光を、X方向に関する対象物100の位置に応じて、受光素子部53の受光面におけるX方向の異なる位置に集光させる。その際、集光部62から受光素子部53に向かう反射光は、上記の通り、波長に応じて選択透過部63を選択的に透過する。   FIG. 11 is a diagram schematically illustrating an example of an optical path in the horizontal direction (X direction) of light incident on the optical system 52. The reflected light from the object 100 is branched toward the optical system 52 by the branching unit 51, then passes through the diffusion unit 61 and enters the light collecting unit 62. The condensing unit 62 condenses the incident reflected light at different positions in the X direction on the light receiving surface of the light receiving element unit 53 according to the position of the object 100 in the X direction. At that time, the reflected light traveling from the light collecting unit 62 toward the light receiving element unit 53 selectively transmits through the selective transmission unit 63 according to the wavelength as described above.

図12は、図7に示した演算部54の構成を示すブロック図である。演算部54は、反射率算出部91、正規化指標算出部92、及び二次微分値算出部93を備えている。   12 is a block diagram showing a configuration of the calculation unit 54 shown in FIG. The calculation unit 54 includes a reflectance calculation unit 91, a normalization index calculation unit 92, and a secondary differential value calculation unit 93.

上記の通り、受光素子部53を構成する各受光素子は、反射光の受光強度に応じた大きさの電気信号を出力する。当該電気信号は、各受光素子から反射率算出部91に入力される。   As described above, each light receiving element constituting the light receiving element unit 53 outputs an electrical signal having a magnitude corresponding to the received light intensity of the reflected light. The electrical signal is input to the reflectance calculation unit 91 from each light receiving element.

反射率算出部91は、受光素子部53から入力された電気信号に基づいて、1100nm帯、1200nm帯、1300nm帯、1500nm帯、及び1600nm帯の各波長成分に関する反射率R1100,R1200,R1300,R1500,R1600を算出する。   Based on the electrical signal input from the light receiving element unit 53, the reflectance calculation unit 91 reflects the reflectances R1100, R1200, R1300, and R1500 for each wavelength component in the 1100 nm band, 1200 nm band, 1300 nm band, 1500 nm band, and 1600 nm band. , R1600.

正規化指標算出部92は、反射率算出部91によって算出された反射率R1100,R1200,R1300,R1500,R1600に基づいて、以下に示す式により定義される正規化指標ND1〜ND4を算出する。
ND1 : (R1500−R1300)/(R1500+R1300)
ND2 : (R1500−R1200)/(R1500+R1200)
ND3 : (R1600−R1300)/(R1600+R1300)
ND4 : (R1300−R1100)/(R1300+R1100)
Based on the reflectances R1100, R1200, R1300, R1500, and R1600 calculated by the reflectance calculation unit 91, the normalization index calculation unit 92 calculates normalization indexes ND1 to ND4 defined by the following expressions.
ND1: (R1500-R1300) / (R1500 + R1300)
ND2: (R1500-R1200) / (R1500 + R1200)
ND3: (R1600-R1300) / (R1600 + R1300)
ND4: (R1300-R1100) / (R1300 + R1100)

また、二次微分値算出部93は、上記反射率と波長との関数の二次微分値を算出する。本実施の形態の例では、二次微分値算出部93は、反射率算出部91によって算出された反射率R1100,R1200,R1300,R1500,R1600に基づいて、以下に示す式により定義される近似的な二次微分値2ndder1,2ndder2を算出する。
ndder1 :
[{(R1500−R1300)/(R1500+R1300)}/200]
−[{(R1300−R1200)/(R1300+R1200)}/100]
ndder2 :
[{(R1500−R1200)/(R1500+R1200)}/300]
−[{(R1200−R1100)/(R1200+R1100)}/100]
Moreover, the secondary differential value calculation part 93 calculates the secondary differential value of the function of the said reflectance and a wavelength. In the example of the present embodiment, the second derivative calculation unit 93 is an approximation defined by the following formula based on the reflectances R1100, R1200, R1300, R1500, and R1600 calculated by the reflectance calculation unit 91. to calculate the specific secondary differential value 2 nd der1,2 nd der2.
2 nd der1:
[{(R1500-R1300) / (R1500 + R1300)} / 200]
-[{(R1300-R1200) / (R1300 + R1200)} / 100]
2 nd der2:
[{(R1500-R1200) / (R1500 + R1200)} / 300]
-[{(R1200-R1100) / (R1200 + R1100)} / 100]

反射率R1100,R1200,R1300,R1500,R1600、正規化指標ND1〜ND4、及び二次微分値2ndder1,2ndder2は、演算部54から識別部23に入力される。 The reflectances R1100, R1200, R1300, R1500, R1600, the normalization indices ND1 to ND4, and the second derivative values 2 nd der1 and nd der2 are input from the calculation unit 54 to the identification unit 23.

識別部23は、演算部54から入力されたこれらの情報に基づいて、対象物(つまり監視エリア4内に含まれている移動物体)の種別を識別する。   The identification unit 23 identifies the type of the target (that is, the moving object included in the monitoring area 4) based on the information input from the calculation unit 54.

図13,14は、識別部23による対象物の識別処理を示すフローチャートである。まずステップP21において識別部23は、各反射率R1100,R1200,R1300,R1500,R1600の値が近似的に0であるか否かを判定する。例えば、反射率の値が所定値(例えば0.02)未満である場合にはその反射率は近似的に0であると判定し、反射率の値が当該所定値以上である場合にはその反射率は近似的に0でないと判定する。全ての反射率R1100,R1200,R1300,R1500,R1600の値が近似的に0である場合(つまりステップP21における判定結果が「YES」である場合)には、識別部23は、解析対象範囲内(この例では拡大画像300の全体領域内)に窓ガラスが存在すると判定する。   FIGS. 13 and 14 are flowcharts showing the object identifying process by the identifying unit 23. First, in step P21, the identification unit 23 determines whether or not the values of the reflectances R1100, R1200, R1300, R1500, and R1600 are approximately zero. For example, when the reflectance value is less than a predetermined value (for example, 0.02), the reflectance is determined to be approximately 0, and when the reflectance value is greater than or equal to the predetermined value, It is determined that the reflectance is not approximately 0. When the values of all the reflectances R1100, R1200, R1300, R1500, R1600 are approximately 0 (that is, when the determination result in step P21 is “YES”), the identification unit 23 is within the analysis target range. It is determined that the window glass exists in the entire area of the enlarged image 300 in this example.

一方、いずれかの反射率R1100,R1200,R1300,R1500,R1600の値が近似的に0でない場合(つまりステップP21における判定結果が「NO」である場合)には、次にステップP22において識別部23は、二次微分値2ndder1に正規化指標ND1,ND3の和を乗じた値「2ndder1×(ND1+ND3)」が所定の閾値Th11未満であるか否かを判定する。 On the other hand, if any of the reflectances R1100, R1200, R1300, R1500, R1600 is not approximately 0 (that is, if the determination result in step P21 is “NO”), then in step P22, the identification unit 23 determines whether a value “2 nd der1 × (ND1 + ND3)” obtained by multiplying the secondary differential value 2 nd der1 by the sum of the normalization indices ND1 and ND3 is less than a predetermined threshold Th11.

「2ndder1×(ND1+ND3)」の値が閾値Th11以上である場合(つまりステップP22における判定結果が「NO」である場合)には、次にステップP23において識別部23は、正規化指標ND2の値が所定の閾値Th12より大きいか否かを判定する。 When the value of “2 nd der1 × (ND1 + ND3)” is equal to or greater than the threshold Th11 (that is, when the determination result in Step P22 is “NO”), in Step P23, the identifying unit 23 then performs the normalization index ND2. It is determined whether the value of is greater than a predetermined threshold Th12.

正規化指標ND2の値が閾値Th12より大きい場合(つまりステップP23における判定結果が「YES」である場合)には、識別部23は、解析対象範囲内に動物又は布地が存在すると判定する。   When the value of the normalization index ND2 is larger than the threshold Th12 (that is, when the determination result in Step P23 is “YES”), the identification unit 23 determines that there is an animal or cloth within the analysis target range.

一方、正規化指標ND2の値が閾値Th12以下である場合(つまりステップP23における判定結果が「NO」である場合)には、次にステップP24において識別部23は、二次微分値2ndder2の値が所定の閾値Th13未満であるか否かを判定する。 On the other hand, when the value of the normalization index ND2 is equal to or less than the threshold Th12 (that is, when the determination result in Step P23 is “NO”), in Step P24, the identification unit 23 then determines the second derivative value 2 nd der2 It is determined whether the value of is less than a predetermined threshold value Th13.

二次微分値2ndder2の値が閾値Th13未満である場合(つまりステップP24における判定結果が「YES」である場合)には、識別部23は、解析対象範囲内に植物が存在すると判定する。 When the value of the secondary differential value 2 nd der2 is less than the threshold Th13 (that is, when the determination result in Step P24 is “YES”), the identification unit 23 determines that a plant exists in the analysis target range. .

一方、二次微分値2ndder2の値が閾値Th13以上である場合(つまりステップP24における判定結果が「NO」である場合)には、識別部23は、解析対象範囲内に人肌が存在すると判定する。 On the other hand, when the value of the second derivative 2 nd der2 is equal to or greater than the threshold Th13 (that is, when the determination result in Step P24 is “NO”), the identification unit 23 has human skin within the analysis target range. Judge that.

上記ステップP22の判定において、「2ndder1×(ND1+ND3)」の値が閾値Th11以上である場合(つまりステップP22における判定結果が「NO」である場合)には、次にステップP25において識別部23は、正規化指標ND3の値が所定の閾値Th14未満であるか否かを判定する。 If the value of “2 nd der1 × (ND1 + ND3)” is greater than or equal to the threshold Th11 in the determination in step P22 (that is, if the determination result in step P22 is “NO”), then in step P25, the identification unit 23 determines whether the value of the normalization index ND3 is less than a predetermined threshold Th14.

正規化指標ND3の値が閾値Th14未満である場合(つまりステップP25における判定結果が「YES」である場合)には、次にステップP26において識別部23は、正規化指標ND4の値が所定の閾値Th15未満であるか否かを判定する。   If the value of the normalized index ND3 is less than the threshold Th14 (that is, if the determination result in Step P25 is “YES”), then in Step P26, the identifying unit 23 determines that the value of the normalized index ND4 is a predetermined value. It is determined whether or not the threshold value is less than Th15.

正規化指標ND4の値が閾値Th15未満である場合(つまりステップP26における判定結果が「YES」である場合)には、識別部23は、解析対象範囲内に金属が存在すると判定する。   When the value of the normalization index ND4 is less than the threshold Th15 (that is, when the determination result in Step P26 is “YES”), the identification unit 23 determines that the metal exists within the analysis target range.

一方、正規化指標ND4の値が閾値Th15以上である場合(つまりステップP26における判定結果が「NO」である場合)には、識別部23は、解析対象範囲内にコンクリート又は石が存在すると判定する。   On the other hand, when the value of the normalization index ND4 is equal to or greater than the threshold Th15 (that is, when the determination result in Step P26 is “NO”), the identification unit 23 determines that concrete or stone exists within the analysis target range. To do.

上記ステップP25の判定において、正規化指標ND3の値が閾値Th14以上である場合(つまりステップP25における判定結果が「NO」である場合)には、次にステップP27において識別部23は、正規化指標ND2の値が所定の閾値Th16未満であるか否かを判定する。   If the value of the normalization index ND3 is equal to or greater than the threshold value Th14 in the determination in step P25 (that is, if the determination result in step P25 is “NO”), then in step P27, the identification unit 23 performs normalization. It is determined whether or not the value of the index ND2 is less than a predetermined threshold Th16.

正規化指標ND2の値が閾値Th16未満である場合(つまりステップP27における判定結果が「YES」である場合)には、識別部23は、解析対象範囲内にアスファルトが存在すると判定する。   When the value of the normalization index ND2 is less than the threshold Th16 (that is, when the determination result in Step P27 is “YES”), the identification unit 23 determines that asphalt exists within the analysis target range.

一方、正規化指標ND2の値が閾値Th16以上である場合(つまりステップP27における判定結果が「NO」である場合)には、識別部23は、解析対象範囲内にコンクリート又は石が存在すると判定する。   On the other hand, when the value of the normalization index ND2 is equal to or greater than the threshold Th16 (that is, when the determination result in Step P27 is “NO”), the identification unit 23 determines that concrete or stone exists within the analysis target range. To do.

なお、各閾値Th11〜Th16は、予め、金属や人肌等の既知の対象に対して測定領域を設定して識別部23による上記識別フローを実施することにより、対象を正確に識別できる適切な値に設定される。   In addition, each threshold value Th11 to Th16 is an appropriate value that can accurately identify a target by setting a measurement region for a known target such as metal or human skin in advance and performing the identification flow by the identification unit 23. Set to a value.

以上の結果、識別部23は、解析対象範囲内に人肌が存在すると判定した場合には、監視エリア4内に含まれている移動物体の種別は人間であると識別する。一方、それ以外の場合には、監視エリア4内に含まれている移動物体の種別は人間でないと識別する。例えば、解析対象範囲内に窓ガラス又は金属が存在すると判定した場合には、監視エリア4内に含まれている移動物体の種別は車であると識別する。   As a result, when the identification unit 23 determines that human skin exists within the analysis target range, the identification unit 23 identifies that the type of the moving object included in the monitoring area 4 is human. On the other hand, in other cases, the type of the moving object included in the monitoring area 4 is identified as not being human. For example, when it is determined that a window glass or metal exists within the analysis target range, the type of the moving object included in the monitoring area 4 is identified as a car.

なお、監視エリア4への侵入者が覆面や手袋を着用することによって人肌が露出していない状況も想定される。そのため、人間のみが着用する化学繊維等の材質を検出可能な識別フローを設定することにより、解析対象範囲内に化学繊維が存在すると判定した場合には、監視エリア4内に含まれている移動物体の種別は人間であると識別してもよい。   In addition, the situation where the intruder into the monitoring area 4 does not expose human skin by wearing a cover or gloves is also assumed. Therefore, if it is determined that a chemical fiber is present in the analysis target range by setting an identification flow that can detect a material such as a chemical fiber worn only by humans, the movement included in the monitoring area 4 The object type may be identified as human.

また、以上の説明では材質分析を行う解析対象範囲を拡大画像300の全体領域に設定したが、これとは異なる領域を解析対象範囲として設定することもできる。図15は、解析対象範囲の他の設定例を示す図である。拡大画像300の全体領域を複数の小領域301に分割し、各小領域301を解析対象範囲として順に設定することにより、各小領域301に関する材質分析を順に実行する。そして、複数の小領域301の少なくとも一つにおいて、人肌(又は化学繊維)が存在すると判定した場合には、識別部23は、監視エリア4内に含まれている移動物体の種別は人間であると識別する。他の例として、人間の頭部は円形又は楕円形であることに着目して、拡大画像300内に含まれている円形又は楕円形の領域302をパターンマッチング等によって抽出し、領域302を解析対象範囲として設定することにより、領域302に関する材質分析を実行する。そして、領域302内に人肌(又は化学繊維)が存在すると判定した場合には、識別部23は、監視エリア4内に含まれている移動物体の種別は人間であると識別する。なお、拡大画像300の全体領域を解析対象範囲として設定する手法、複数の小領域301を解析対象範囲として順に設定する手法、及び、円形又は楕円形の領域302を解析対象範囲として設定する手法は、互いに組み合わせて適用することもでき、複数の手法を組み合わせることによって識別精度を向上することができる。   In the above description, the analysis target range in which material analysis is performed is set in the entire area of the enlarged image 300. However, a different area can be set as the analysis target range. FIG. 15 is a diagram illustrating another setting example of the analysis target range. By dividing the entire area of the enlarged image 300 into a plurality of small areas 301 and sequentially setting each small area 301 as an analysis target range, material analysis on each small area 301 is sequentially executed. When it is determined that human skin (or chemical fiber) exists in at least one of the plurality of small regions 301, the identification unit 23 determines that the type of the moving object included in the monitoring area 4 is human. Identify it. As another example, paying attention to the human head having a circular or elliptical shape, a circular or elliptical region 302 included in the enlarged image 300 is extracted by pattern matching or the like, and the region 302 is analyzed. By setting the target range, the material analysis regarding the region 302 is executed. When it is determined that human skin (or chemical fiber) is present in the region 302, the identification unit 23 identifies that the type of the moving object included in the monitoring area 4 is human. A method for setting the entire region of the enlarged image 300 as an analysis target range, a method for sequentially setting a plurality of small regions 301 as an analysis target range, and a method for setting a circular or elliptical region 302 as an analysis target range are as follows. These can be applied in combination with each other, and the identification accuracy can be improved by combining a plurality of methods.

このように本実施の形態に係る監視装置3によれば、識別部23は、分析部22による材質分析の結果に基づいて、監視エリア4内に含まれている移動物体の種別を識別する。従って、材質分析の結果、人肌や化学繊維等が含まれている場合には、その移動物体は人間であると識別することができる。しかも、取得部21は、移動物体の拡大画像300を取得し、分析部22は、当該拡大画像300に基づいて材質分析を行う。従って、移動物体とは無関係の背景領域の影響を排除して、移動物体の材質分析を高精度に行うことができる。その結果、所定の監視エリア4内に移動物体が含まれている場合に、その移動物体が人間であるかそれ以外の動物等であるかを正確に識別することが可能となる。   As described above, according to the monitoring device 3 according to the present embodiment, the identification unit 23 identifies the type of the moving object included in the monitoring area 4 based on the result of the material analysis by the analysis unit 22. Therefore, when human skin, chemical fiber, or the like is included as a result of material analysis, the moving object can be identified as a human. Moreover, the acquisition unit 21 acquires the enlarged image 300 of the moving object, and the analysis unit 22 performs material analysis based on the enlarged image 300. Therefore, the influence of the background area unrelated to the moving object can be eliminated, and the material analysis of the moving object can be performed with high accuracy. As a result, when a moving object is included in the predetermined monitoring area 4, it is possible to accurately identify whether the moving object is a human being or an animal other than that.

また、本実施の形態に係る監視装置3によれば、取得部21は、広角カメラ11A,11Bによって監視エリア4の全体を撮影し、その撮影画像200に移動物体が含まれている場合に、望遠カメラ12によって移動物体を撮影することにより、移動物体の拡大画像300を得る。従って、広角カメラ11A,11Bによって監視エリア4の全体を広く撮影しつつ、望遠カメラ12によって移動物体の詳細な撮影を行うことが可能となる。しかも、位置特定部31は、広角カメラ11A,11Bの撮影画像200に移動物体が含まれている場合に、監視エリア4内における移動物体の位置を特定し、望遠カメラ12は、位置特定部31から指定された位置を撮影する。従って、望遠カメラ12によって移動物体を探索する必要がないため、望遠カメラ12による移動物体の撮影動作を遅滞なく開始することができる。   Moreover, according to the monitoring device 3 according to the present embodiment, the acquisition unit 21 captures the entire monitoring area 4 with the wide-angle cameras 11A and 11B, and when the captured image 200 includes a moving object, By capturing a moving object with the telephoto camera 12, an enlarged image 300 of the moving object is obtained. Accordingly, it is possible to take a detailed picture of a moving object with the telephoto camera 12 while photographing the entire monitoring area 4 widely with the wide-angle cameras 11A and 11B. Moreover, the position specifying unit 31 specifies the position of the moving object in the monitoring area 4 when the captured images 200 of the wide-angle cameras 11A and 11B include the moving object, and the telephoto camera 12 includes the position specifying unit 31. Shoots the position specified from. Accordingly, since it is not necessary to search for a moving object with the telephoto camera 12, the moving object photographing operation by the telephoto camera 12 can be started without delay.

また、本実施の形態に係る監視装置3によれば、受光素子部42と光学系41との間に分岐部51を配置し、光学系41から受光素子部42に向かう反射光を、分岐部51によって光学系52に向けて分岐させる。これにより、光学系41によって受光素子部42上に導光される反射光と共通の反射光を、光学系52によって受光素子部53上に導光することができる。その結果、分析部22は、望遠カメラ12によって得られる拡大画像300に対するスペクトル分析を正確に行うことが可能となる。しかも、スペクトル分析を行うための専用カメラ(ハイパースペクトルカメラ)を望遠カメラ12とは別に設ける必要がないため、装置を小型化できるとともに、共通の拡大画像を得るべく専用カメラの動作と望遠カメラ12の動作とを同期させる制御も不要となる。   Further, according to the monitoring device 3 according to the present embodiment, the branching unit 51 is arranged between the light receiving element unit 42 and the optical system 41, and the reflected light traveling from the optical system 41 toward the light receiving element unit 42 is separated from the branching unit 51. Branches 51 toward the optical system 52. Accordingly, the reflected light that is common to the reflected light guided onto the light receiving element unit 42 by the optical system 41 can be guided onto the light receiving element unit 53 by the optical system 52. As a result, the analysis unit 22 can accurately perform spectrum analysis on the enlarged image 300 obtained by the telephoto camera 12. In addition, since it is not necessary to provide a dedicated camera (hyperspectral camera) for performing spectrum analysis separately from the telephoto camera 12, the apparatus can be downsized and the operation of the dedicated camera and the telephoto camera 12 to obtain a common enlarged image. Control to synchronize with the operation is also unnecessary.

また、本実施の形態に係る監視装置3によれば、分析部22は、拡大画像300の全体領域、拡大画像300を分割した複数の小領域301、及び拡大画像300内に含まれる円形又は楕円形の領域302の少なくとも一つを対象としてスペクトル分析を行う。拡大画像300の全体領域を分析対象とすることにより、スペクトル分析を簡易に行うことができる。拡大画像300を分割した複数の小領域301を分析対象とすることにより、全体領域を分析対象とする場合と比較して高精度な分析を行うことができる。拡大画像300内に含まれる円形又は楕円形の領域302を分析対象とすることにより、拡大画像300内に顔が含まれている場合に、その顔を対象としたスペクトル分析を行うことができるため、移動物体が人間であるかそれ以外の動物等であるかを高精度に識別することが可能となる。   Further, according to the monitoring device 3 according to the present embodiment, the analysis unit 22 includes the entire area of the enlarged image 300, a plurality of small areas 301 obtained by dividing the enlarged image 300, and a circle or an ellipse included in the enlarged image 300. Spectral analysis is performed on at least one of the regions 302 of the shape. By using the entire area of the enlarged image 300 as an analysis target, spectrum analysis can be easily performed. By using a plurality of small regions 301 obtained by dividing the enlarged image 300 as analysis targets, it is possible to perform analysis with higher accuracy than when the entire region is set as an analysis target. Since a circular or elliptical region 302 included in the enlarged image 300 is set as an analysis target, when a face is included in the enlarged image 300, spectrum analysis can be performed on the face. It becomes possible to identify with high accuracy whether the moving object is a human being or an animal other than that.

なお、今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれることが意図される。   The embodiment disclosed this time should be considered as illustrative in all points and not restrictive. The scope of the present invention is defined not by the above-mentioned meaning but by the scope of claims for patent, and is intended to include all modifications within the scope and meaning equivalent to the scope of claims for patent.

3 監視装置
4 監視エリア
11A,11B 広角カメラ
12 望遠カメラ
21 取得部
22 分析部
23 識別部
31 位置特定部
41,52 光学系
42,53 受光素子部
51 分岐部
54 演算部
300 拡大画像
301 小領域
302 領域
DESCRIPTION OF SYMBOLS 3 Monitoring apparatus 4 Monitoring area 11A, 11B Wide angle camera 12 Telephoto camera 21 Acquisition part 22 Analysis part 23 Identification part 31 Position specification part 41,52 Optical system 42,53 Light receiving element part 51 Branch part 54 Operation part 300 Enlarged image 301 Small area 302 area

Claims (5)

所定の撮影エリアを撮影した撮影画像内に移動物体が含まれている場合に、可視域及び赤外域を含む当該移動物体の拡大画像を取得する取得手段と、
前記拡大画像に基づいて、赤外域における特定の複数の波長のスペクトルを検出し、当該検出の結果に基づいて前記移動物体の材質を分析する分析手段と、
前記分析手段による分析の結果に基づいて、前記移動物体の種別を識別する識別手段と、
を備える、対象識別装置。
An acquisition means for acquiring an enlarged image of the moving object including a visible region and an infrared region when a moving object is included in a captured image obtained by capturing a predetermined capturing area;
Analyzing means for detecting a spectrum of a plurality of specific wavelengths in the infrared region based on the enlarged image, and analyzing the material of the moving object based on the detection result;
Identification means for identifying the type of the moving object based on the result of analysis by the analysis means;
An object identification device comprising:
前記取得手段は、
前記撮影エリアの全体を撮影する比較的広画角の第1のカメラと、
前記第1のカメラが撮影した画像に前記移動物体が含まれている場合に、前記撮影エリア内における前記移動物体の位置を特定する特定手段と、
前記特定手段が特定した位置を撮影することによって前記拡大画像を得る比較的狭画角の第2のカメラと、
を有する、請求項1に記載の対象識別装置。
The acquisition means includes
A first camera with a relatively wide angle of view that captures the entire imaging area;
A specifying means for specifying a position of the moving object in the shooting area when the moving object is included in an image captured by the first camera;
A second camera with a relatively narrow angle of view that obtains the enlarged image by photographing the position specified by the specifying means;
The object identification device according to claim 1, comprising:
前記第2のカメラは、
第1の受光素子部と、
前記移動物体からの反射光を前記第1の受光素子部上に導光する第1の光学系と、
を有し、
前記分析手段は、
第2の受光素子部と、
前記第1の受光素子部と前記第1の光学系との間に配置され、前記第1の光学系から前記第1の受光素子部に向かう反射光を分岐させる分岐手段と、
前記分岐手段によって分岐された反射光を前記第2の受光素子部上に導光する第2の光学系と、
を有する、請求項2に記載の対象識別装置。
The second camera is
A first light receiving element portion;
A first optical system for guiding reflected light from the moving object onto the first light receiving element unit;
Have
The analysis means includes
A second light receiving element portion;
A branching unit that is disposed between the first light receiving element unit and the first optical system and branches reflected light from the first optical system toward the first light receiving element unit;
A second optical system that guides the reflected light branched by the branching unit onto the second light receiving element unit;
The object identification device according to claim 2, comprising:
前記分析手段は、
前記拡大画像の全体領域、
前記拡大画像を分割した複数の小領域、及び
前記拡大画像内に含まれる円形又は楕円形の領域
の少なくとも一つを対象として前記スペクトル分析を行う、請求項1〜3のいずれか一つに記載の対象識別装置。
The analysis means includes
The entire area of the enlarged image,
4. The spectrum analysis according to claim 1, wherein the spectrum analysis is performed on at least one of a plurality of small regions obtained by dividing the enlarged image and a circular or elliptical region included in the enlarged image. Object identification device.
(A)所定の撮影エリアを撮影した撮影画像内に移動物体が含まれている場合に、可視域及び赤外域を含む当該移動物体の拡大画像を取得するステップと、
(B)前記拡大画像に基づいて、赤外域における特定の複数の波長のスペクトルを検出し、当該検出の結果に基づいて前記移動物体の材質を分析するステップと、
(C)前記ステップ(B)による分析の結果に基づいて、前記移動物体の種別を識別するステップと、
を備える、対象識別方法。
(A) acquiring a magnified image of the moving object including a visible region and an infrared region when a moving object is included in a captured image obtained by capturing a predetermined capturing area;
(B) detecting a spectrum of a plurality of specific wavelengths in the infrared region based on the enlarged image, and analyzing the material of the moving object based on the detection result;
(C) identifying the type of the moving object based on the result of the analysis in step (B);
An object identification method comprising:
JP2010256087A 2010-11-16 2010-11-16 Object identification device and object identification method Expired - Fee Related JP5699557B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010256087A JP5699557B2 (en) 2010-11-16 2010-11-16 Object identification device and object identification method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010256087A JP5699557B2 (en) 2010-11-16 2010-11-16 Object identification device and object identification method

Publications (2)

Publication Number Publication Date
JP2012109732A true JP2012109732A (en) 2012-06-07
JP5699557B2 JP5699557B2 (en) 2015-04-15

Family

ID=46494898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010256087A Expired - Fee Related JP5699557B2 (en) 2010-11-16 2010-11-16 Object identification device and object identification method

Country Status (1)

Country Link
JP (1) JP5699557B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019194455A1 (en) * 2018-04-03 2019-10-10 Samsung Electronics Co., Ltd. Apparatus and method for recognizing object in image

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01299488A (en) * 1988-05-27 1989-12-04 Nippon Telegr & Teleph Corp <Ntt> Apparatus for detecting organism
JPH0997337A (en) * 1995-09-29 1997-04-08 Fuji Heavy Ind Ltd Trespasser monitor device
JP2005229317A (en) * 2004-02-12 2005-08-25 Sumitomo Electric Ind Ltd Image display system and imaging device
JP2006081125A (en) * 2004-09-13 2006-03-23 Sony Corp Imaging system and imaging method
JP2008003499A (en) * 2006-06-26 2008-01-10 Nikon Corp Focus detecting device, camera, and focus detecting method
JP2008199390A (en) * 2007-02-14 2008-08-28 Matsushita Electric Ind Co Ltd Surveillance camera and surveillance camera control method
JP2008292195A (en) * 2007-05-22 2008-12-04 Toyota Central R&D Labs Inc Object identification unit and program
JP2010217149A (en) * 2009-03-19 2010-09-30 Tokyo Institute Of Technology Object discerning device

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01299488A (en) * 1988-05-27 1989-12-04 Nippon Telegr & Teleph Corp <Ntt> Apparatus for detecting organism
JPH0997337A (en) * 1995-09-29 1997-04-08 Fuji Heavy Ind Ltd Trespasser monitor device
JP2005229317A (en) * 2004-02-12 2005-08-25 Sumitomo Electric Ind Ltd Image display system and imaging device
JP2006081125A (en) * 2004-09-13 2006-03-23 Sony Corp Imaging system and imaging method
JP2008003499A (en) * 2006-06-26 2008-01-10 Nikon Corp Focus detecting device, camera, and focus detecting method
JP2008199390A (en) * 2007-02-14 2008-08-28 Matsushita Electric Ind Co Ltd Surveillance camera and surveillance camera control method
JP2008292195A (en) * 2007-05-22 2008-12-04 Toyota Central R&D Labs Inc Object identification unit and program
JP2010217149A (en) * 2009-03-19 2010-09-30 Tokyo Institute Of Technology Object discerning device

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019194455A1 (en) * 2018-04-03 2019-10-10 Samsung Electronics Co., Ltd. Apparatus and method for recognizing object in image
CN111919222A (en) * 2018-04-03 2020-11-10 三星电子株式会社 Apparatus and method for recognizing object in image
US11017263B2 (en) 2018-04-03 2021-05-25 Samsung Electronics Co., Ltd Apparatus and method for recognizing object in image
CN111919222B (en) * 2018-04-03 2024-04-26 三星电子株式会社 Apparatus and method for recognizing object in image

Also Published As

Publication number Publication date
JP5699557B2 (en) 2015-04-15

Similar Documents

Publication Publication Date Title
JP5664161B2 (en) Monitoring system and monitoring device
US9407819B2 (en) System and method for multidirectional imaging
JP6260006B2 (en) IMAGING DEVICE, IMAGING SYSTEM USING THE SAME, ELECTRONIC MIRROR SYSTEM, AND RANGING DEVICE
JP5426174B2 (en) Monocular 3D imaging
US9996748B2 (en) Emitter tracking system
US9258468B2 (en) Method and apparatus for separate spectral imaging and sensing
CN102809434A (en) Methods and apparatus for thermographic measurements
JP2013207415A (en) Imaging system and imaging method
CN108603997A (en) control device, control method and control program
US8860868B2 (en) Method of setting focus of a digital video camera and a digital video camera doing the same
JP5605565B2 (en) Object identification device and object identification method
JP5942343B2 (en) Imaging device
JP5845858B2 (en) Object detection apparatus and object detection method
JP5344608B2 (en) Shooting system
US20200128188A1 (en) Image pickup device and image pickup system
JP5771955B2 (en) Object identification device and object identification method
JP5699557B2 (en) Object identification device and object identification method
CN105391998A (en) Automatic detection method and apparatus for resolution of low-light night vision device
KR101128022B1 (en) A multipurpose watching camera
JP5862244B2 (en) Object detection apparatus and object detection method
JP5452540B2 (en) Imaging device
JP2013032920A (en) Object detection device, and object detection method
KR102614389B1 (en) Apparatus and method for acquiring thermal image with high frame rate
JP5749442B2 (en) Monitoring device
JP2013113802A (en) Object detection device, and object detection method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130926

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150202

R150 Certificate of patent or registration of utility model

Ref document number: 5699557

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees