JP2019105550A - Object detection device, control method and control program for object detection device - Google Patents

Object detection device, control method and control program for object detection device Download PDF

Info

Publication number
JP2019105550A
JP2019105550A JP2017238498A JP2017238498A JP2019105550A JP 2019105550 A JP2019105550 A JP 2019105550A JP 2017238498 A JP2017238498 A JP 2017238498A JP 2017238498 A JP2017238498 A JP 2017238498A JP 2019105550 A JP2019105550 A JP 2019105550A
Authority
JP
Japan
Prior art keywords
background image
distance
recognition
processing unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017238498A
Other languages
Japanese (ja)
Other versions
JP7020096B2 (en
Inventor
健二 寺田
Kenji Terada
健二 寺田
将則 吉澤
Masanori Yoshizawa
将則 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2017238498A priority Critical patent/JP7020096B2/en
Publication of JP2019105550A publication Critical patent/JP2019105550A/en
Application granted granted Critical
Publication of JP7020096B2 publication Critical patent/JP7020096B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

To provide an object detection device that can distinguish a background even when an object with a low reflectance moves.SOLUTION: The object detection device includes a light emitting/receiving unit 100, a processing unit PROC and a storage unit. The light emitting/receiving unit 100 emits a laser beam into a space while performing a scan, and receives a reflected laser beam from an object. The processing unit PROC obtains a value of distance to an object using a time difference between the emission time of a laser beam and the light receiving time of a laser beam reflected from the object, and generates a distance image showing the distribution of values of distance in a space that is obtained by laser beam scanning. The storage unit stores a background image. The processing unit PROC compares a background image and a present image acquired at a present time point; clusters different regions of the present image from the background image to identify them; checks whether or not there is an overlapped part of the region of an identified object and an infinity region that was present in the background image; determines, when the proportion of the infinity region to the region of an identified object is equal to or more than a predetermined value, that the identified object is an object overlapping with the infinity region that was present in the background image.SELECTED DRAWING: Figure 1

Description

本発明は、物体検出装置、物体検出装置の制御方法、および物体検出装置の制御プログラムに関する。   The present invention relates to an object detection device, a control method of the object detection device, and a control program of the object detection device.

物体検出装置は、レーザー光を空間へ向けて発射し、その発射から反射光の受光までの時間などから空間内の物体までの距離を計測する。このレーザーを用いた装置をレーザーレーダーといい、LiDER(Light Detection and Ranging、またはLaser Imaging Detection and Ranging)と称されることもある。このような物体検出装置では、レーザー光の送出方向を順次変えて空間内を二次元的に走査することにより、空間を向いた複数の方向に関する情報を得ることができる。得られた情報は距離画像と称し、レーザー光の送受部から見た物体の方向と、その物体までの距離という情報を有する。   The object detection apparatus emits laser light toward space, and measures the distance to an object in space from the time from the emission to reception of reflected light. The apparatus using this laser is called laser radar, and it may be called LiDER (Light Detection and Ranging or Laser Imaging Detection and Ranging). In such an object detection apparatus, information on a plurality of directions facing the space can be obtained by scanning the space two-dimensionally by sequentially changing the delivery direction of the laser light. The obtained information is referred to as a distance image, and includes information on the direction of the object as viewed from the laser light transmitting / receiving unit and the distance to the object.

このような物体検出装置では、あらかじめ背景となる距離画像(背景画像)を求め、その背景画像と、入力された距離画像(現在画像)とを比較し、距離が変化した画素を抽出して変化領域を求める、いわゆる背景差分法が用いられる。   In such an object detection apparatus, a distance image (background image) serving as a background is obtained in advance, and the background image is compared with the input distance image (current image) to extract and change pixels whose distance has changed. A so-called background subtraction method is used to obtain a region.

従来、この背景を取得する際に、一定時間周期で取得したデータを使って背景を更新することが行われている(特許文献1)。   Conventionally, when acquiring this background, it is performed to update the background using data acquired at a constant time cycle (Patent Document 1).

この背景差分法では、レーザー光の反射を使用して距離画像を得ているため、レーザー光が反射しない物体を認識することができない。たとえば、検出範囲内にレーザー光を反射しない物体または反射率が低い物体がある場合には、そのような物体が存在する部分からはレーザー光が返らず、または反射しても検出できずに、その部分は無限遠と認識されてしまう。このため、上記従来技術で背景を更新すると、このレーザー光の反射を検出できなかった無限遠領域が存在する距離画像が背景画像となる。   In this background subtraction method, reflection of laser light is used to obtain a distance image, so it is not possible to recognize an object that does not reflect laser light. For example, if there is an object that does not reflect laser light or an object with low reflectance within the detection range, the laser light does not return from the portion where such an object exists, or can not be detected even if it is reflected. That part is recognized as infinity. For this reason, when the background is updated by the above-mentioned conventional technology, a distance image in which an infinite distance area where the reflection of the laser light can not be detected becomes a background image.

そうすると、レーザー光を反射しない物体または反射率が低い物体が移動した場合に、背景差分法により背景画像と現在画像を比較して物体の検出を行うと、無限遠領域の後ろ(レーザー光の出射位置からより遠い位置)の物体が、あたかもそこに表れたものと検出されてしまう。   Then, when an object that does not reflect laser light or an object with a low reflectance moves, the object is detected by comparing the background image with the current image by the background subtraction method, the back of the infinite distance region (laser light emission An object farther from the position is detected as if it appeared there.

従来、このレーザー光を反射しない物体または反射率が低い物体に関する処理として、横断路を含むよう設定された監視領域内へレーザー光線を走査しながら発射し、反射したレーザー光線を受光しない場合には受光なしを示す距離データを関連付けることで、レーザー光を反射しない物体または反射率が低い物体を検出している。これは、たとえば、受光ありの状態から受光なしとなった場合にはこのようなレーザー光を反射しない物体または反射率が低い物体が監視空間内に侵入したと判断している(特許文献2)。   Conventionally, as processing for an object that does not reflect the laser light or an object with a low reflectance, the laser beam is emitted while scanning the laser beam into the monitoring area set to include the crossing path, and no light reception is received when the reflected laser beam is not received. By associating the distance data indicating, an object that does not reflect laser light or an object with a low reflectance is detected. This is because, for example, it is determined that an object that does not reflect such a laser beam or an object with a low reflectance intrudes into the monitoring space when no light is received from the state of light reception (Patent Document 2) .

特開2005−300259号公報JP 2005-300259 A 特開2007−126025号公報JP 2007-126025 A

しかしながら、特許文献2の技術では、反射レーザー光の受光ありから受光なしに変化したことで物体を検出しているため、背景画像に無限遠領域となるようなレーザー光を反射しない物体または反射率が低い物体が存在していた場合には、そのような物体が移動すると、反射レーザー光の受光なしから受光ありとなる。このためレーザー光を反射しない物体または反射率が低い物体が移動することで現れた、それらの後ろにある背景が動体と検知されてしまい、レーザー光を反射しない物体または反射率が低い物体の移動とその背景とを見分けられないという問題が依然として残っている。   However, in the technique of Patent Document 2, since the object is detected by the change from the reception of the reflected laser light to the absence of the light reception, the object or the reflectance that does not reflect the laser light that becomes an infinite distance region in the background image When there is an object with a lower value of, when such an object moves, it becomes from the absence of reception of the reflected laser light to the presence of light reception. For this reason, the movement of an object that does not reflect laser light or an object that does not reflect laser light appears as movement of an object that does not reflect laser light appears as a moving object. There still remains the problem of not being able to distinguish between it and its background.

本発明は、上記事情に鑑みなされたものであり、本発明の目的は、背景画像において無限遠領域として存在していたレーザー光を反射しない物体または反射率が低い物体が移動した場合でも、無限遠領域となっていた物体とその背景を見分けることができる物体検出装置を提供することである。   The present invention has been made in view of the above circumstances, and it is an object of the present invention to provide an object which does not reflect laser light, which has been present as an infinite area in a background image, or which has low reflectance. The object is to provide an object detection device which can distinguish an object which has been in a far area and its background.

また、本発明の他の目的は、背景画像において無限遠領域として存在していたレーザー光を反射しない物体または反射率が低い物体が移動した場合でも、無限遠領域となっていた物体とその背景を見分けることができる物体検出装置の制御方法を提供することである。   In addition, another object of the present invention is to provide an object that is an infinite area and its background even when an object that does not reflect laser light, which has been present as an infinite area in a background image, or an object with a low reflectance moves. It is providing the control method of the object detection apparatus which can distinguish.

さらに、本発明の他の目的は、背景画像において無限遠領域として存在していたレーザー光を反射しない物体または反射率が低い物体が移動した場合でも、無限遠領域となっていた物体とその背景を見分けることができる物体検出装置の制御プログラムを提供することである。   Furthermore, another object of the present invention is to provide an object that is an infinite area and its background even when an object that does not reflect laser light, which has been present as an infinite area in a background image, or an object with a low reflectance moves. It is providing the control program of the object detection apparatus which can distinguish.

本発明の上記目的は、下記の手段によって達成される。   The above object of the present invention is achieved by the following means.

(1)レーザー光を出射する出射部と、
前記レーザー光を空間内で走査する走査部と、
前記空間内の物体から反射したレーザー光を受光する受光部と、
前記出射部よりレーザー光を出射した出射時刻と、前記物体から反射したレーザー光を前記受光部で受光した受光時刻との時間差に基づいて、前記物体までの距離値を求め、前記走査部による前記レーザー光の走査によって得られた前記空間内の距離値の分布を示す距離画像を生成する処理部と、
前記処理部により生成された前記距離画像に基づいて取得した背景画像を記憶する記憶部と、
を有し、
前記処理部は、前記背景画像と、現在時点で取得した前記距離画像である現在画像とを比較して、前記現在画像のなかで前記背景画像と異なる領域を領域毎にクラスタリングして認識物体を抽出し、当該認識物体毎に、前記背景画像に存在していた無限遠領域と重なる部分があるか否かを調べ、前記認識物体の領域に対する前記無限遠領域の割合が所定値以上の場合に、前記認識物体は前記背景画像における無限遠領域と重なる物体であると判定する、物体検出装置。
(1) an emitting unit for emitting a laser beam;
A scanning unit that scans the laser light in space;
A light receiving unit that receives laser light reflected from an object in the space;
The distance value to the object is determined based on the time difference between the emission time when the laser light is emitted from the emission unit and the light reception time when the laser light reflected from the object is received by the light receiving unit, the distance value by the scanning unit A processing unit that generates a distance image indicating a distribution of distance values in the space obtained by scanning of laser light;
A storage unit that stores a background image acquired based on the distance image generated by the processing unit;
Have
The processing unit compares the background image with a current image which is the distance image acquired at the current time, clusters regions different from the background image in the current image for each region, and recognizes a recognition object. It is extracted and checked for each recognition object whether or not there is a portion overlapping with the infinity region existing in the background image, and the ratio of the infinity region to the region of the recognition object is a predetermined value or more. An object detection device that determines that the recognition object is an object overlapping an infinite distance area in the background image;

(2)前記処理部は、前記距離画像が時系列で並んだ複数のフレームのうち、前記認識物体が所定フレーム以上連続して認識され、かつ、前記複数のフレームのなかで、前記認識物体の初回出現時のフレーム内の位置から、所定フレーム数経過後の位置までの距離が所定距離以上離れている場合に、前記認識物体は、動体であると判定する、上記(1)に記載の物体検出装置。   (2) The processing unit is configured to continuously recognize the recognition object of a predetermined number of frames or more among the plurality of frames in which the distance images are arranged in time series, and to select the recognition object of the plurality of frames. The object according to (1), wherein the recognition object is determined to be a moving object when the distance from the position in the frame at the time of first appearance to the position after a predetermined number of frames has passed is a predetermined distance or more Detection device.

(3)前記処理部は、前記記憶部に記憶している前記背景画像を所定のタイミングで更新し、
前記処理部は、前記背景画像を更新するタイミングまでに前記動体と判定されなかった前記認識物体がある場合には、前記認識物体を含めて前記背景画像として前記記憶部に記憶させる、上記(2)に記載の物体検出装置。
(3) The processing unit updates the background image stored in the storage unit at a predetermined timing,
The processing unit stores the recognition object in the storage unit as the background image including the recognition object when the recognition object is not determined to be the moving object by the timing of updating the background image. The object detection apparatus as described in 2.).

(4)前記処理部は、前記認識物体が前記背景画像における無限遠領域と重なる物体であると判定した場合、前記認識物体が無限遠領域にあったことを示すための識別情報を付ける、上記(1)〜(3)のいずれか1つに記載の物体検出装置。   (4) The processing unit adds identification information to indicate that the recognition object is in the infinite distance region when it is determined that the recognition object is an object overlapping the infinite distance region in the background image. The object detection apparatus as described in any one of (1)-(3).

(5)レーザー光を出射する出射部と、
前記レーザー光を空間内で走査する走査部と、
前記空間内の物体から反射したレーザー光を受光する受光部と、
前記出射部よりレーザー光を出射した出射時刻と、前記物体から反射したレーザー光を前記受光部で受光した受光時刻との時間差に基づいて、前記物体までの距離値を求め、前記走査部による前記レーザー光の走査によって得られた前記空間内の距離値の分布を示す距離画像を生成する処理部と、
前記処理部により生成された前記距離画像に基づいて取得した背景画像を記憶する記憶部と、
を有する物体検出装置の制御方法であって、
前記背景画像と、現在時点で取得した前記距離画像である現在画像とを比較して、前記現在画像のなかで前記背景画像と異なる領域があるか否かを判断する段階(a)と、
段階(a)において異なる領域がある場合は、当該異なる領域を領域毎にクラスタリングして認識物体として抽出し、当該認識物体毎に、前記背景画像に存在していた無限遠領域と重なる部分があるか否かを調べ、前記認識物体の領域に対する前記無限遠領域の割合が所定値以上の場合に、前記認識物体は前記背景画像における無限遠領域と重なる物体であると判定する段階(b)と、
を有する物体検出装置の制御方法。
(5) an emitting unit for emitting a laser beam;
A scanning unit that scans the laser light in space;
A light receiving unit that receives laser light reflected from an object in the space;
The distance value to the object is determined based on the time difference between the emission time when the laser light is emitted from the emission unit and the light reception time when the laser light reflected from the object is received by the light receiving unit, the distance value by the scanning unit A processing unit that generates a distance image indicating a distribution of distance values in the space obtained by scanning of laser light;
A storage unit that stores a background image acquired based on the distance image generated by the processing unit;
A control method of an object detection device having
Determining whether there is an area different from the background image in the current image by comparing the background image with the current image which is the distance image acquired at the current time,
If there are different regions in step (a), the different regions are clustered for each region and extracted as a recognition object, and each recognition object has a portion overlapping the infinite distance region that was present in the background image (B) determining whether or not the recognition object is an object overlapping the infinity area in the background image if the ratio of the infinity area to the area of the recognition object is not less than a predetermined value; ,
Control method of an object detection apparatus having:

(6)前記段階(b)の後、さらに、前記距離画像が時系列で並んだ複数のフレームのうち、前記認識物体が所定フレーム以上連続して認識され、かつ、前記複数のフレームのなかで、前記認識物体の初回出現時のフレーム内の位置から、所定フレーム数経過後の位置までの距離が所定距離以上離れている場合に、前記認識物体は、動体であると判定する段階(c)を有する、上記(5)記載の物体検出装置の制御方法。   (6) After the step (b), among the plurality of frames in which the distance images are arranged in time series, the recognition object is continuously recognized for at least a predetermined number of frames, and among the plurality of frames Determining that the recognition object is a moving object when the distance from the position in the frame when the recognition object first appears to the position after a predetermined number of frames is greater than a predetermined distance (c) The control method of the object detection apparatus according to the above (5), comprising:

(7)さらに、前記記憶部に記憶している前記背景画像を所定のタイミングで更新する段階(d)を有し、
前記背景画像を更新するタイミングまでに前記動体と判定されなかった前記認識物体がある場合には、前記認識物体を含めて前記背景画像として前記記憶部に記憶させる段階(e)を有する、上記(6)記載の物体検出装置の制御方法。
(7) The method further includes the step (d) of updating the background image stored in the storage unit at a predetermined timing.
(E) storing the recognition object in the storage unit as the background image including the recognition object when the recognition object is not determined to be the moving object by the timing of updating the background image; 6) A control method of the object detection device according to the above.

(8)前記段階(b)で、前記認識物体が前記背景画像における無限遠領域と重なる物体であると判定された場合、前記認識物体の物体が無限遠領域にあったことを示すための識別情報を付ける段階(f)を有する、上記(5)〜(7)のいずれか1つに記載の物体検出装置の制御方法。   (8) In the step (b), when it is determined that the recognition object is an object overlapping the infinity region in the background image, identification for indicating that the object of the recognition object is in the infinity region The control method of the object detection device according to any one of the above (5) to (7), including the step (f) of adding information.

(9)上記(5)〜(8)のいずれか1つに記載の物体検出装置の制御方法を前記物体検出装置内の処理部に実行させる、物体検出装置の制御プログラム。   (9) A control program of an object detection device which causes a processing unit in the object detection device to execute the control method of the object detection device according to any one of (5) to (8).

本発明によれば、現在画像のなかで認識された物体(認識物体)と背景画像に存在していた無限遠領域とを比較して、認識物体の領域に無限遠領域が所定割合含まれる場合に、その認識物体は背景画像における無限遠領域と重なっていた物体である判定することとした。これにより背景画像における無限遠領域と重なっていた物体は、無限遠領域が移動することで現れた物体であると見分けることができるようになる。   According to the present invention, in the case where the object (recognition object) recognized in the current image is compared with the infinity region existing in the background image, the region of the recognition object includes a predetermined proportion of the infinity region In this case, it is determined that the recognition object is an object overlapping the infinity area in the background image. This makes it possible to distinguish an object that has overlapped with the infinite area in the background image as an object that has appeared as the infinite area moves.

実施形態にかかる監視装置の断面図である。It is a sectional view of a monitoring device concerning an embodiment. 処理部の構成を示すブロック図である。It is a block diagram which shows the structure of a process part. 監視装置の監視空間内を走査する状態を説明するための説明図である。It is explanatory drawing for demonstrating the state which scans the inside of the monitoring space of a monitoring apparatus. 監視空間を側方から見た状態を説明する説明図である。It is explanatory drawing explaining the state which looked at the monitoring space from the side. 監視空間を側方から見た状態を説明する説明図であり、距離画像を取得する際の課題を説明するための図である。It is explanatory drawing explaining the state which looked at the monitoring space from the side, and is a figure for demonstrating the subject at the time of acquiring a distance image. 監視空間を側方から見た状態を説明する説明図であり、距離画像を取得する際の課題を説明するための図である。It is explanatory drawing explaining the state which looked at the monitoring space from the side, and is a figure for demonstrating the subject at the time of acquiring a distance image. 背景画像に存在していた無限遠領域に重なる物体か否かを判定するための処理手順を示すフローチャートである。It is a flowchart which shows the process sequence for determining whether it is an object which overlaps with the infinity area which existed in the background image. 図7に続く、背景画像に存在していた無限遠領域に重なる物体か否かを判定するための処理手順を示すフローチャートである。FIG. 8 is a flowchart showing a processing procedure for determining whether or not the object is an object overlapping the infinity area existing in the background image, following FIG. 7;

以下、図面を参照して、本発明の実施形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。また、図面の寸法比率は、説明の都合上誇張されており、実際の比率とは異なる場合がある。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. In the description of the drawings, the same elements will be denoted by the same reference symbols, without redundant description. Also, the dimensional proportions of the drawings are exaggerated for the convenience of the description, and may differ from the actual proportions.

本実施形態では、本発明の物体検出装置を監視装置として用いる例を説明する。   In the present embodiment, an example in which the object detection device of the present invention is used as a monitoring device will be described.

図1は、本実施形態にかかる監視装置の断面図である。   FIG. 1 is a cross-sectional view of the monitoring device according to the present embodiment.

監視装置MDは、レーザー光を出射する出射部LPSと、物体からのレーザー光反射を手交する受光部RPSと、ミラーユニットMUを有し、これらが投受光ユニット100を構成する。   The monitoring device MD includes an emitting unit LPS that emits a laser beam, a light receiving unit RPS that handles laser light reflection from an object, and a mirror unit MU, which constitute the light emitting and receiving unit 100.

出射部LPSは、レーザー光を出射するパルス式の半導体レーザーLDと、半導体レーザーLDからの発散光を平行光に変換するコリメートレンズCLを有する。   The emitting unit LPS includes a pulse-type semiconductor laser LD that emits a laser beam, and a collimator lens CL that converts divergent light from the semiconductor laser LD into parallel light.

ミラーユニットMUは、コリメートレンズCLで平行とされたレーザー光を回転するミラー面により監視空間に向かって走査投光すると共に、物体からの反射光を反射させる。ミラーユニットMUは回転駆動するモータMTによって回転する。   The mirror unit MU scans and projects the laser light collimated by the collimator lens CL toward the monitoring space by the rotating mirror surface, and reflects the reflected light from the object. The mirror unit MU is rotated by the motor MT that is rotationally driven.

受光部RPSは、ミラーユニットMUで反射された物体からの反射光を集光するレンズLSと、レンズLSにより集光された光を受光するフォトダイオードPDとを有する。フォトダイオードPDは、Z方向に並んだ複数の画素を有する。   The light receiving unit RPS has a lens LS for collecting the light reflected from the object reflected by the mirror unit MU, and a photodiode PD for receiving the light collected by the lens LS. The photodiode PD has a plurality of pixels arranged in the Z direction.

出射部LPSおよび受光部RPSの光軸は、ミラーユニットMUの回転軸ROに対して直交していることが好ましい。   It is preferable that the optical axes of the light emitting unit LPS and the light receiving unit RPS be orthogonal to the rotation axis RO of the mirror unit MU.

監視装置MDは、半導体レーザーLDの出射タイミングとフォトダイオードPDの受光タイミングとの時間差に応じて距離情報を求める処理部PROCを有する。   The monitoring device MD includes a processing unit PROC that obtains distance information according to the time difference between the emission timing of the semiconductor laser LD and the light reception timing of the photodiode PD.

図2は、処理部PROCの構成を示すブロック図である。   FIG. 2 is a block diagram showing the configuration of the processing unit PROC.

処理部PROCは、コンピューターであり、演算装置であるCPU11、ワークエリアや一時記憶に用いられるRAM12、基本プログラムを記憶しているROM13、および必要に応じて設けられ、プログラムやパラメーターデータなどを記憶する不揮発性メモリ14を有し、互いにバスによって接続されている。また、バスには(直接または外部機器接続のためのインターフェースを介して)投受光ユニット100が接続され、CPU11の制御により、レーザー光の出射、受光、およびミラーユニットの回転の制御などを行っている。これらは、周知のコンピューターの構成や機能であるので詳細な説明は省略する。また、監視装置MDには、ディスプレイ(不図示)を接続して、距離画像(映像)が見られるようにしてもよい。また、他のコンピューターなどが接続されて、監視装置MDからのデータを記憶したり利用したりできるようにしてもよい。   The processing unit PROC is a computer, and is provided with a CPU 11, which is an arithmetic unit, a work area, a RAM 12 used for temporary storage, a ROM 13 storing basic programs, and as necessary, stores programs and parameter data. The nonvolatile memory 14 is provided and connected to one another by a bus. In addition, the light emitting and receiving unit 100 is connected to the bus (directly or via an interface for connecting an external device), and under the control of the CPU 11, emission of laser light, reception of light, and control of rotation of the mirror unit are performed. There is. Since these are configurations and functions of known computers, detailed description will be omitted. Further, a display (not shown) may be connected to the monitoring device MD so that a distance image (video) can be viewed. In addition, another computer or the like may be connected so that data from the monitoring device MD can be stored or used.

各部は筐体CSに収容されている。筐体CSは、剛体である壁WL等に固定されたボックス形状をしており、上壁CSaと、これに対向する下壁CSbと、上壁CSaと下壁CSbとを連結する側壁CScとを有する。   Each part is accommodated in a housing CS. The casing CS has a box shape fixed to the rigid wall WL or the like, and includes an upper wall CSa, a lower wall CSb opposite thereto, and a side wall CSc connecting the upper wall CSa and the lower wall CSb. Have.

側壁CScの一部に開口CSdが形成され、開口CSdには透明板TRが取り付けられている。   An opening CSd is formed in part of the side wall CSc, and a transparent plate TR is attached to the opening CSd.

ミラーユニットMUは、2つの四角錐を逆向きに接合して一体化した形状を有し、すなわち対になって向き合う方向に傾いたミラー面M1、M2を4対(ただし4対に限られない)有している。
ミラー面M1、M2は、ミラーユニットの形状をした樹脂素材(たとえばポリカーボネート)の表面に、反射膜を蒸着することにより形成されていると好ましい。
The mirror unit MU has a shape in which two square pyramids are joined in an opposite direction and integrated, that is, four pairs (but not limited to four pairs) of mirror surfaces M1 and M2 inclined in opposite directions. ) Have.
The mirror surfaces M1 and M2 are preferably formed by vapor deposition of a reflective film on the surface of a resin material (for example, polycarbonate) in the shape of a mirror unit.

ミラーユニットMUは、筐体CSに固定されたモータMTの軸MTaに連結され、回転駆動されるようになっている。軸MTaの軸線(回転軸線)が鉛直方向であるZ方向に延在しており、Z方向に直交するX方向およびY方向によりなすXY平面が水平面となっているが、軸MTaの軸線を鉛直方向に対して傾けても良い。   The mirror unit MU is connected to the shaft MTa of the motor MT fixed to the housing CS, and is rotationally driven. The axis (rotational axis) of the axis MTa extends in the Z direction, which is the vertical direction, and the XY plane formed by the X and Y directions orthogonal to the Z direction is a horizontal plane. However, the axis of the axis MTa is vertical You may incline to the direction.

この監視装置MDの物体検出原理について説明する。   The object detection principle of the monitoring device MD will be described.

図1において、走査投光された光束のうち物体に当たって反射したレーザー光の一部は、再び透明板TRを透過して筐体CS内のミラーユニットMUの第2ミラー面M2に入射し、ここで反射され、さらに第1ミラー面M1で反射されて、レンズLSにより集光され、それぞれフォトダイオードPDの受光面で画素毎に検知される。   In FIG. 1, a part of the scanned and projected light flux that strikes the object and is reflected again passes through the transparent plate TR and is incident on the second mirror surface M2 of the mirror unit MU in the housing CS. , And is reflected by the first mirror surface M1, condensed by the lens LS, and detected for each pixel by the light receiving surface of the photodiode PD.

そして、処理部である処理部PROCが、半導体レーザーLDの出射時刻とフォトダイオードPDの受光時刻との時間差に応じて距離情報(距離値)を求める。このようにして、監視空間内の全領域で物体の検出を行って、画素毎に距離情報を持つ距離画像としてのフレームFL(図3参照)を得ることができる。   Then, the processing unit PROC, which is a processing unit, obtains distance information (distance value) according to the time difference between the emission time of the semiconductor laser LD and the light reception time of the photodiode PD. In this manner, the object is detected in the entire area in the monitoring space, and a frame FL (see FIG. 3) as a distance image having distance information for each pixel can be obtained.

さらに詳しく説明する。   It will be described in more detail.

半導体レーザーLDからパルス状に間欠的に出射された発散光は、コリメートレンズCLで平行光束に変換され、回転するミラーユニットMUの第1ミラー面M1に入射し、ここで反射され、さらに第2ミラー面M2で反射した後、透明板TRを透過して外部の監視空間に向けて、たとえば縦長の矩形断面を持つレーザースポット光として走査投光される。   The divergent light intermittently emitted in a pulse form from the semiconductor laser LD is converted into a parallel light beam by the collimator lens CL, is incident on the first mirror surface M1 of the rotating mirror unit MU, is reflected there, and is further transmitted After being reflected by the mirror surface M2, the light is transmitted as a laser spot light having, for example, a vertically long rectangular cross section, through the transparent plate TR and directed toward the outside monitoring space.

出射されたレーザースポット光が物体で反射し、反射光として戻ってくる方向を投受光方向という。同一投受光方向に進行するレーザースポット光は、同一の画素で検出される。   The direction in which the emitted laser spot light is reflected by the object and returns as the reflected light is referred to as a light emitting / receiving direction. The laser spot light traveling in the same light emitting and receiving direction is detected by the same pixel.

図3は、監視装置MDの監視空間内を走査する状態を説明するための説明図である。図3において、ミラーユニットMUの回転に応じて、出射するレーザースポット光SB(ハッチングで示す)で示す。   FIG. 3 is an explanatory diagram for describing a state in which the inside of the monitoring space of the monitoring device MD is scanned. In FIG. 3, the laser spot beam SB (shown by hatching) is emitted according to the rotation of the mirror unit MU.

ここで、ミラーユニットMUは走査部となるものであり、は、第1ミラー面M1と第2ミラー面M2の組み合わせにおいて、それぞれ交差角が異なっている。   Here, the mirror unit MU serves as a scanning unit, and the crossing angles are different in the combination of the first mirror surface M1 and the second mirror surface M2.

レーザー光は、回転する第1ミラー面M1と第2ミラー面M2にて、順次反射される。   The laser light is sequentially reflected by the rotating first mirror surface M1 and the rotating second mirror surface M2.

まず1番対の第1ミラー面M1と第2ミラー面M2にて反射したレーザー光は、ミラーユニットMUの回転に応じて、監視空間の1番上の領域Ln1を水平方向に左から右へと走査される。   First, the laser light reflected by the first mirror surface M1 and the second mirror surface M2 of the first pair is horizontally shifted from left to right in the first area Ln1 of the monitoring space according to the rotation of the mirror unit MU. Is scanned.

次に、2番対の第1ミラー面M1と第2ミラー面M2で反射したレーザー光は、ミラーユニットMUの回転に応じて、監視空間の上から2番目の領域Ln2を水平方向に左から右へと走査される。   Next, the laser light reflected by the first mirror surface M1 and the second mirror surface M2 of the second pair is horizontally oriented from the left in the second region Ln2 from the top of the monitoring space according to the rotation of the mirror unit MU. It is scanned to the right.

次に、3番対の第1ミラー面M1と第2ミラー面M2で反射したレーザー光は、ミラーユニットMUの回転に応じて、監視空間の上から3番目の領域Ln3を水平方向に左から右へと走査される。   Next, the laser light reflected by the third mirror surface M1 and the second mirror surface M2 of the third pair horizontally from the left in the third region Ln3 from the top of the monitoring space according to the rotation of the mirror unit MU It is scanned to the right.

次に、4番対の第1ミラー面M1と第2ミラー面で反射したレーザー光は、ミラーユニットMUの回転に応じて、監視空間の最も下の領域Ln4を水平方向に左から右へと走査される。   Next, the laser light reflected by the fourth mirror surface M1 and the second mirror surface of the fourth pair horizontally from left to right in the lowermost region Ln4 of the monitoring space according to the rotation of the mirror unit MU. It is scanned.

これにより監視装置MDが監視可能な空間全体の1回の走査が完了する。この領域Ln1〜Ln4の走査により得られた画像を組み合わせて、1つのフレームFLが得られる。   This completes one scan of the entire space that can be monitored by the monitoring device MD. One frame FL is obtained by combining the images obtained by scanning the regions Ln1 to Ln4.

そして、ミラーユニットMUが1回転した後、1番対の第1ミラー面M1と第2ミラー面M2が戻ってくれば、再び監視空間の1番上の領域Ln1から最も下の領域Ln4までの走査を繰り返し、次のフレームFLが得られる。   Then, after the mirror unit MU makes one rotation, if the first mirror surface M1 and the second mirror surface M2 of the first pair return, again from the first area Ln1 to the lower area Ln4 of the monitoring space The scan is repeated to obtain the next frame FL.

図3において、物体が建物BLの白い壁面(レーザー光の入射位置P1)の場合、ほぼ等しい反射率を持つ平坦な面であることから反射条件が一様となり、走査毎に距離値のバラツキが生じにくい。このためほぼ等しい距離値を得ることができる。   In FIG. 3, when the object is a white wall surface of the building BL (the incident position P1 of the laser beam), the reflection condition is uniform since the surface is a flat surface having approximately the same reflectance, and the distance value varies from scan to scan. It is hard to occur. Thus, approximately equal distance values can be obtained.

これに対し、物体が樹木等(レーザー光の入射位置P2)の場合、凹凸があったり局所的に物体の色が変わるなどのため反射条件が安定しない。このため、それらからの反射光に基づいて距離値を求めると、走査毎に距離値がばらつくことになるが、距離値は得られる。   On the other hand, when the object is a tree or the like (the incident position P2 of the laser light), the reflection condition is not stable because the surface is uneven or the color of the object is locally changed. Therefore, if the distance value is determined based on the reflected light from them, the distance value will vary for each scan, but the distance value can be obtained.

物体が建物BLのエッジ等(レーザー光の入射位置P3)の場合、ミラーユニットMUの振れ等により、ある時はレーザースポット光が建物BLに当たり、またある時は建物BLから逸れて奥の木に当たったりする。これらの場合、同じ画素上で走査毎に2群のデータ(すなわち建物までの距離値または木までの距離値)が得られることとなる。このように複数回の走査で2群の距離値を持つ画素はカスリ画素と呼ばれることがある。このような場合でも距離値は得られる。   If the object is an edge etc. of the building BL (the incident position P3 of the laser light), the laser spot light hits the building BL at one time due to the deflection of the mirror unit MU etc. I hit it. In these cases, two groups of data (i.e., a distance value to a building or a distance value to a tree) are obtained for each scan on the same pixel. Thus, a pixel having a distance value of two groups in a plurality of scans may be called a blank pixel. Even in such a case, the distance value can be obtained.

一方、物体が建物BLの黒い塗装部分等(レーザー光の入射位置P4)の場合、レーザー光の照射具合によっては、その反射光をフォトダイオードPDの同一画素で検出できない場合がある。検出できない場合は距離値が不明となる。この距離値が不明となった画素が存在する領域が無限遠領域である。したがって、図3におけるレーザー光の入射位置P4の位置は無限遠領域となる。   On the other hand, when the object is a black painted part of the building BL or the like (the incident position P4 of the laser light), the reflected light may not be detected by the same pixel of the photodiode PD depending on the irradiation condition of the laser light. If it can not be detected, the distance value becomes unknown. An area in which a pixel whose distance value is unknown is present is an infinite area. Therefore, the position of the incident position P4 of the laser beam in FIG. 3 is an infinite distance region.

処理部PROCは、フォトダイオードPDでの受光量が所定値以下の場合、その画素を距離値不明とし、そのような画素がある領域を無限遠領域と認識する。無限遠領域の画素は、レーザー光反射がないため、その画素の距離情報(距離値)は、無限遠を示すデータとして、たとえば空データ、この測定ではありえない大きな距離値、または−(マイナス)の距離値などが記憶される。   When the amount of light received by the photodiode PD is equal to or less than a predetermined value, the processing unit PROC sets the pixel as the unknown distance value, and recognizes an area in which such a pixel is present as an infinite area. Since the pixel in the infinity area has no laser light reflection, the distance information (distance value) of the pixel is, for example, sky data, a large distance value which can not be measured in this measurement, or-(minus) as data indicating infinity. A distance value etc. are stored.

無限遠領域となるのは、建物の黒い塗装部分のほかにも、たとえば、黒い色の自動車や、レーザー光を透過してしまう物体(たとえば、ガラスや樹脂製の窓)などもある。   In addition to the black painted part of the building, there are, for example, black cars and objects that transmit laser light (for example, windows made of glass or resin), etc. in addition to the black painted part of the building.

次に、背景差分法を用いた、監視装置MDの物体の検出について説明する。図4は、監視空間を側方から見た状態を説明する説明図である。   Next, detection of an object of the monitoring device MD using the background subtraction method will be described. FIG. 4 is an explanatory view illustrating the monitoring space viewed from the side.

背景差分法では、基準となる画像を背景画像としてRAM12に記憶(登録ともいう)する。このため、RAM12は記憶部となる。具体的には、監視の前準備(前処理)として監視装置MDの起動時および一定時間周期で背景画像の登録を行う。背景画像は、理想的には、図4(a)に示すように、自動車や、人間、動物等の移動物体が存在しない状態で、監視装置MDからレーザースポット光SBを走査する。このとき、理想的には、背景となる物体(背景物体BGという)のみが存在する距離画像が、背景画像として登録される。   In the background subtraction method, an image as a reference is stored (also referred to as registration) in the RAM 12 as a background image. Therefore, the RAM 12 is a storage unit. Specifically, as preparation for monitoring (preprocessing), registration of the background image is performed at startup of the monitoring device MD and at a predetermined time cycle. The background image ideally scans the laser spot light SB from the monitoring device MD in the absence of moving objects such as cars, humans and animals, as shown in FIG. 4A. At this time, a distance image in which only an object serving as a background (referred to as a background object BG) ideally exists is registered as a background image.

この背景画像はたとえば、監視装置MDの起動時、一定時間周期、またユーザーからの指示などの所定のタイミングで新たに取得されてRAM12内に記憶される。RAM12内に、既に背景画像が記憶されている場合は、新たに取得された距離画像により更新される。   The background image is newly acquired, for example, at start-up of the monitoring device MD, for a predetermined time period, or at a predetermined timing such as an instruction from the user, and stored in the RAM 12. If the background image is already stored in the RAM 12, it is updated by the newly acquired distance image.

監視時においては、現在時点における距離画像が取得される。これを現在画像という。たとえば、図4(b)に示すように、背景物体BGの手前に侵入物(者)OBJが現れた場合、侵入物OBJからの反射光RB2が新たに生じることとなる。図においては、侵入物OBJとして自動車の例を示したが、自動車に限定されず、たとえば、自転車、人、動物などの場合もある。   At the time of monitoring, a distance image at the current time is acquired. This is called the current image. For example, as shown in FIG. 4B, when the intruder (person) OBJ appears in front of the background object BG, the reflected light RB2 from the intruder OBJ is newly generated. In the figure, an example of a car is shown as the intruder OBJ, but it is not limited to a car, and may be, for example, a bicycle, a person, an animal or the like.

処理部PROCは、図4(a)で取得した背景画像と、図4(b)で取得した現在画像とを比較して、異なる領域がある場合、その異なる領域を、基本的には背景には存在しなかった物体(前景)であると認識する。ここでは侵入物OBJとして認識する。侵入物OBJを認識したなら、たとえば、警報を発したり、動体追跡したりする。警報は、処理部PROCに警報装置(ランプや音)を接続しておいて、侵入物OBJを認識することで処理部PROCから警報装置を作動させればよい。動体追跡は、侵入物OBJをクラスタリングして、侵入物OBJが移動している場合、走査を繰り返して得られる複数のフレームでクラスタリングした侵入物OBJの位置が変わることから、侵入物OBJを追跡して、移動方向や速度を求める。   The processing unit PROC compares the background image acquired in FIG. 4A with the current image acquired in FIG. 4B, and if there is a different area, the different area is basically set as the background. Is recognized as an object (foreground) that did not exist. Here, it is recognized as an intruder OBJ. If the intruder OBJ is recognized, for example, an alarm is issued or a moving object is tracked. For the alarm, an alarm device (a lamp or a sound) may be connected to the processing unit PROC, and the alarm device may be activated from the processing unit PROC by recognizing the intruder OBJ. The movement tracking is performed by clustering the intruder OBJ, and if the intruder OBJ is moving, the intruder OBJ is tracked because the position of the intruder OBJ clustered in multiple frames obtained by repeating scanning changes. To determine the movement direction and speed.

次に、距離画像を取得する際の課題について詳しく説明する。   Next, the subject at the time of acquiring a distance image is demonstrated in detail.

図5および図6は、監視空間を側方から見た状態を説明する説明図であり、距離画像を取得する際の課題を説明するための図である。   FIG. 5 and FIG. 6 are explanatory diagrams for explaining a state in which the monitoring space is viewed from the side, and are diagrams for describing a problem when acquiring a distance image.

図5の場合には、レーザー光反射率の高い自動車OB1(反射物体)の手前(監視装置MDから見て監視装置MDに近い側)に、レーザー光の反射がほとんどない、たとえば黒い自動車OB2(以下、低反射物体ともいう)が駐車している場合である。   In the case of FIG. 5, there is almost no reflection of the laser light in front of the automobile OB1 (reflecting object) with high laser light reflectivity (closer to the surveillance apparatus MD when viewed from the surveillance apparatus MD). Hereinafter, it is a case where the low reflective object is parked.

このような場合、処理部PROCは、黒い自動車OB2からの反射がないため、その部分を無限遠領域と認識する。この無限遠領域と認識される低反射物体があるときに、たまたま背景画像を取得するタイミングになると、そのタイミングで記憶された背景画像のなかに無限遠領域が存在することになる。   In such a case, the processing unit PROC recognizes that portion as an infinite distance region because there is no reflection from the black automobile OB2. When there is a low reflection object that is recognized as this infinite area, it happens that when it comes to timing to acquire a background image, there is an infinite area in the background image stored at that timing.

この状態から、図6に示すように、自動車OB2が移動すると、監視装置MDから見て自動車OB2に隠されていた自動車OB1からの反射光RB2が検出されるようになる。そうすると、背景画像のなかの無限遠領域の部分に、自動車OB1からの反射光RB2が検出されるため、あたかも、そのときに自動車OB1が侵入してきたと判定されてしまう。しかし、実際には、背景画像取得時より前から駐車していた自動車OB1が検出されただけであるので、少なくとも背景画像取得時と比較して侵入物があったわけではない。したがって、この時点で自動車OB1を侵入物と判定することは誤判定となってしまう。   From this state, as shown in FIG. 6, when the car OB2 moves, the reflected light RB2 from the car OB1 hidden from the car OB2 as viewed from the monitoring device MD is detected. Then, since the reflected light RB2 from the automobile OB1 is detected in the part of the background image at infinity, it is determined that the automobile OB1 has entered at that time. However, in actuality, since only the automobile OB1 parked before the background image acquisition time is detected, there is no intruder at least compared to the background image acquisition time. Therefore, determining that the vehicle OB1 is an intruder at this point is an erroneous determination.

本実施形態では、背景画像のなかに無限遠領域が登録されている場合に、現在画像において反射率の高い物体が現れた場合に、その現れた物体が背景画像に存在していた無限遠領域と重なる物体か否かを判定する。   In the present embodiment, when an infinite area is registered in the background image, when an object with high reflectance appears in the current image, the infinite area in which the appearing object was present in the background image It is determined whether the object overlaps with the object.

図7および図8は、背景画像に存在していた無限遠領域に重なる物体か否かを判定するための処理手順を示すフローチャートである。この処理手順は、処理部PROCが、監視装置MDの制御方法として作成されたプログラムを実行することで実施される。なお、この処理手順では、背景画像に存在していた無限遠領域に重なる物体か否かを判定するだけでなく、その重なるとされた物体が動体であるか否かも判定する手順である。   FIG. 7 and FIG. 8 are flowcharts showing processing procedures for determining whether or not the object is an object overlapping the infinite area existing in the background image. The processing procedure is implemented by the processing unit PROC executing a program created as a control method of the monitoring device MD. In this processing procedure, not only it is determined whether or not the object overlaps the infinite area existing in the background image, and it is also determined whether or not the overlapped object is a moving object.

まず、処理部PROCは、背景画像を登録する(S10)。S10での背景画像の登録はたとえば、監視装置MDの起動時である。なお、一定周期毎の背景画像の登録は、この手順では、後のステップで行うことになる。   First, the processing unit PROC registers a background image (S10). The registration of the background image in S10 is, for example, at the time of activation of the monitoring device MD. In addition, registration of the background image for every fixed period will be performed in a later step in this procedure.

続いて、処理部PROCは、現在画像を取得する(S11)。   Subsequently, the processing unit PROC acquires a current image (S11).

続いて、処理部PROCは、背景差分法を用いて、登録された背景画像と現在画像を比較して現在画像のなかに背景画像と異なる領域があればその異なる領域を抽出する(S12)。   Subsequently, the processing unit PROC compares the registered background image with the current image using the background subtraction method, and if there is an area different from the background image in the current image, extracts the different area (S12).

続いて、処理部PROCは、抽出された異なる領域をクラスタリングする(S13)。異なる領域が複数ある場合は、領域毎にクラスタリングする。これにより背景差分法で背景画像にはなかった物体、すなわち、現在画像で現れた物体がクラスタリングされて認識される。ここではこのクラスタリングされた物体を認識物体という。クラスタリングされた物体が複数の場合は、認識物体も複数となる。   Subsequently, the processing unit PROC clusters the extracted different regions (S13). When there are a plurality of different areas, clustering is performed for each area. As a result, objects that were not present in the background image by the background subtraction method, that is, objects that appeared in the current image are clustered and recognized. Here, this clustered object is called a recognition object. When there are a plurality of clustered objects, there are also a plurality of recognition objects.

続いて、処理部PROCは、それぞれの認識物体毎に、その領域のなかに、背景画像にある無限遠領域と重なる部分が所定以上の割合で含まれているか否かを判断する(S14)。   Subsequently, the processing unit PROC determines, for each of the recognized objects, whether or not a portion overlapping the infinity area in the background image is included in the area at a predetermined ratio or more (S14).

S14の判断は、まず、現在画像における認識物体の画素と背景画像のなかの同じ位置の領域内の画素を比較して、背景画像内の画素が無限遠領域となっている画素があるか否かを判定する。そして、無限遠領域の画素があれば、その画素数をカウントして、認識物体の画素数との割合を求める。ここで、たとえば認識物体の画素のうち、8割(80%)以上が無限遠の画素と重なっている場合、現在画像での認識物体が背景画像における無限遠領域に重なる物体と判定する。つまりS14でYESとなる。もちろんこの判断割合は任意であり、たとえば9割(90%)以上や10割(100%)としてもよい。逆に、3割(30%)以上や5割(50%)以上など、無限遠領域に重なる部分が少なくても、無限遠領域に重なる物体であると判断してもよい。   In the determination of S14, first, the pixel of the recognition object in the current image and the pixel in the area at the same position in the background image are compared, Determine if Then, if there is a pixel in the infinite area, the number of pixels is counted to obtain a ratio to the number of pixels of the recognition object. Here, for example, when 80% (80%) or more of the pixels of the recognition object overlap the pixel at infinity, it is determined that the recognition object in the current image is an object overlapping the infinity region in the background image. That is, YES is obtained in S14. Of course, this judgment ratio is arbitrary, and may be, for example, 90% (90%) or more or 100% (100%). Conversely, it may be determined that the object overlaps the infinite distance area even if there are few portions overlapping the infinite distance area, such as 30% (30%) or more and 50% (50%) or more.

この割合は、たとえば背景画像のなかに広い無限遠領域があった場合、たとえば、空が常に映っているような場合、認識物体と空である無限遠物体とを比較すると、認識物体と無限遠領域の重なりの割合は少ない。一方、図5に示したように、黒い自動車OB2の場合に、それが移動すると後ろの自動車OB1が現れるので、認識物体である自動車OB1と背景画像にあった無限遠領域である自動車OB2の領域を比較することになる。このような場合は、その重なりの割合は大きくなり、ここでは10割となる。このように、この割合が大きい方が無限遠領域の後ろに物体があって、無限遠領域となっていた物体が移動したことで見えてきた可能性が高いと判断できる。   This ratio is, for example, when there is a wide infinity area in the background image, for example, when the sky is always visible, when the recognition object is compared with the infinity object which is the sky, the recognition object and the infinity object are compared. The percentage of area overlap is small. On the other hand, as shown in FIG. 5, in the case of the black car OB2, since the car OB1 behind appears when it moves, the area of the car OB1 which is a recognition object and the car OB2 which is an infinite area at the background image. Will be compared. In such a case, the ratio of the overlap becomes large, and is 100% here. As described above, it can be determined that the larger the ratio, the higher the probability that the object is behind the infinite area and the object which has been in the infinite area is moved.

S14において処理部PROCは、認識物体の領域と無限遠領域が所定割合以上重なると判断したなら(S14:YES)、その認識物体を背景画像の無限遠領域に重なる物体であるとする(S16)。このような無限遠領域に重なる物体を無限遠領域重複物体と称する。これにより無限遠領域となっていた低反射物体が移動していなくなったことで、その背後にあった物体が、現在画像において無限遠領域に重なる物体として認識される。   If the processing unit PROC determines that the region of the recognition object and the infinity region overlap with each other by a predetermined ratio or more in S14 (S14: YES), the recognition object is an object overlapping the infinity region of the background image (S16) . An object overlapping such an infinite distance region is referred to as an infinite distance region overlapping object. As a result, since the low reflection object which has been in the infinity region is not moving, the object behind it is recognized as an object overlapping the infinity region in the current image.

続いて、処理部PROCは、無限遠領域重複物体であるとされた認識物体に識別情報を付ける(S17)。処理部PROCは、この認識物体に識別情報を付けて記憶する。また、無限遠領域重複物体であるとされた認識物体を画面に表示する際には、たとえば、その認識物体を囲む線(線の色を他の物体と変える)を付けたり、矢印を付けたり、また、その認識物体自体に色を付けたり他と違えたりすることが好ましい。   Subsequently, the processing unit PROC adds identification information to the recognized object which is determined to be an infinite area overlapping object (S17). The processing unit PROC attaches identification information to this recognition object and stores it. Also, when displaying a recognized object that is considered to be an infinite area overlapping object on the screen, for example, a line surrounding the recognized object (the color of the line is changed from another object) or an arrow is attached Also, it is preferable to color or distinguish the recognition object itself.

S14においてNOと判断された場合、およびS16の後、処理部PROCは、続いて、認識物体の中心位置を算出(クラスタリングデータから物体の中心位置を算出)して、その認識物体に識別符号(ID)を割り当てる(S15)。   If NO is determined in S14, and after S16, the processing unit PROC subsequently calculates the center position of the recognized object (calculates the center position of the object from the clustering data), and identifies the identified object with the identification code ( ID) is assigned (S15).

続いて、処理部PROCは、認識物体は既に動体と判定されているか否かを判断する(S18)。ここで、処理部PROCは、認識物体が既に動体であると判断した場合は(S18:YES)、認識物体を継続して動体とする(S25)。なお、動体とされている認識物体には、その認識物体のIDに動体である旨をひも付けして記憶している(後述)。   Subsequently, the processing unit PROC determines whether the recognition object is already determined to be a moving object (S18). Here, when it is determined that the recognition object is already a moving object (S18: YES), the processing unit PROC continues the recognition object to be a moving object (S25). In the recognition object which is a moving object, the ID of the recognition object is stored in association with the fact that the object is a moving object (described later).

処理部PROCは、S18において認識物体が動体とされていないと判断した場合(S18:NO)、続いて、所定フレーム数となるまで認識物体が連続して検出されたか否かを判断する(S19)。たとえば、このステップでのフレームでクラスタリングされている物体とこの前のフレームで同じクラスタがあれば、同じ物体であると判断する。そして、そのクラスタが所定フレーム数連続したか否かを判断する。所定フレーム数は、たとえば2フレームまたは3フレームである。この所定フレーム数は、動体か否かを確認するためのフレーム数である。   If it is determined that the recognition object is not a moving object in S18 (S18: NO), the processing unit PROC determines whether the recognition object is continuously detected until the number of frames reaches a predetermined number (S19). ). For example, if there is the same cluster in the previous frame and the object clustered in the frame in this step, it is determined to be the same object. Then, it is determined whether or not the cluster has continued for a predetermined number of frames. The predetermined number of frames is, for example, two frames or three frames. The predetermined number of frames is the number of frames for confirming whether or not it is a moving object.

処理部PROCは、S19において、所定フレーム数となるまで認識物体が連続して検出されていないと判断したなら(S19:NO)、S11へ戻ることになる。ここで所定フレーム数が経過するまでの間に、背景画像を定期的に更新するための時間となる可能性がある。しかし、所定フレーム数は上記のように、たとえば2フレームまたは3フレームである。したがって、所定フレーム数となるまでの時間はわずかなので、S11へ戻って処理を継続しても差し支えはない(なお、再起動などがあれば、S10から処理が再開される)。   If the processing unit PROC determines that the recognition object is not continuously detected until the predetermined number of frames is reached in S19 (S19: NO), the processing returns to S11. Here, it may be time to periodically update the background image until the predetermined number of frames elapses. However, as described above, the predetermined number of frames is, for example, 2 frames or 3 frames. Therefore, since the time until the predetermined number of frames is reached is small, it is safe to return to S11 and continue the process (if restart or the like, the process is restarted from S10).

処理部PROCは、S19において、所定フレーム数となるまで認識物体が連続して検出されていると判断したなら(S19:YES)、続いて、認識物体は無限遠領域重複物体か否かを判断する(S20)。この判断は、S17において無限遠領域と重なる物体としての識別情報が付いているか否かで判断する。   If it is determined in S19 that the recognition object is continuously detected until the predetermined number of frames is reached (S19: YES), the processing unit PROC then determines whether the recognition object is an infinite distance area overlapping object. To do (S20). This determination is made based on whether or not identification information as an object overlapping the infinity area is attached in S17.

処理部PROCは、S20において無限遠領域重複物体ではないと判断したなら(S20:NO)、認識物体を動体として判定する(S25)。これはこのステップで、認識物体が無限遠領域重複物体でなければ、その物体は背景画像には存在していなかった物体であるから、どこかから移動してきた物体、すなわち動体である。このステップS25で初めて動体と判定された認識物体は、動体である旨をIDにひも付けして記憶する。   If the processing unit PROC determines in S20 that the object is not an infinite area overlapping object (S20: NO), it determines the recognition object as a moving object (S25). In this step, if the recognition object is not an infinite area overlap object, it is an object that has moved from somewhere, that is, a moving object, since the object is an object that did not exist in the background image. The recognition object determined to be a moving object for the first time in this step S25 is stored as a moving object linked to the ID.

処理部PROCは、S20において認識物体が無限遠領域重複物体であると判断したなら(S20:YES)、続いて、処理部PROCは、認識物体の所定フレーム数経過した時点の位置が、初出現時の位置から所定距離以上移動しているか否かを判断する(S21)。ここで、認識物体が初出現から所定距離以上移動していると判断されたなら(S21:YES)、認識物体を動体として判定する(S25)。これはこのステップで、認識物体が初出現から所定フレーム数経過した時点で所定距離以上移動しているということは、その認識物体が移動しているということなので、動体とする。処理部PROCは、このステップS25で初めて動体と判定された認識物体のIDに、動体である旨をひも付けして記憶する。なお、所定距離は動体として検出したい物体によって異なる。たとえば、監視対象物(物体)が、人の場合には数cm〜50cm程度とすることが好ましい。自動車のように速度の速いものの場合は、10cm〜1m程度としてもよい。   If the processing unit PROC determines that the recognition object is an infinite area overlapping object in S20 (S20: YES), then the processing unit PROC determines that the position at which the predetermined number of frames of the recognition object has elapsed is the first appearance It is determined whether or not a predetermined distance or more has been moved from the position of (S21). Here, if it is determined that the recognition object has moved a predetermined distance or more from the first appearance (S21: YES), the recognition object is determined as a moving object (S25). This is because, in this step, that the recognition object is moving by a predetermined distance or more when the predetermined number of frames has passed since the first appearance, it means that the recognition object is moving, so it is a moving body. The processing unit PROC associates the ID of the recognition object determined to be a moving object for the first time in this step S25 with the fact that it is a moving object and stores it. The predetermined distance varies depending on the object to be detected as a moving object. For example, in the case of a human being, it is preferable that the monitoring target (object) be about several cm to 50 cm. In the case of an automobile having a high speed, it may be about 10 cm to 1 m.

処理部PROCは、S21において認識物体が初出現から所定距離以上移動していないと判断したなら(S21:NO)、続いて、背景画像更新のタイミングか否かを判断する(S22)。このステップにおける背景画像更新のタイミングとは既に説明した一定周期で背景画像を登録することである。処理部PROCは、S22において背景画像更新のタイミングでないと判断したなら(S22:NO)、認識物体を静止物と判定する(S23)。一方、処理部PROCは、S22において背景画像更新のタイミングであると判断したなら(S22:YES)、認識物体を含めて背景画像として登録する(S24)。このステップまで来て、動体ではなく、かつ、静止物に分類されない静止物は、背景画像として登録することになる。   If it is determined that the recognition object has not moved by a predetermined distance or more from the first appearance in S21 (S21: NO), the processing unit PROC then determines whether it is time to update the background image (S22). The timing of the background image update in this step is to register the background image at a constant cycle described above. If the processing unit PROC determines in S22 that it is not the timing of updating the background image (S22: NO), it determines that the recognition object is a stationary object (S23). On the other hand, if the processing unit PROC determines that it is the timing of updating the background image in S22 (S22: YES), it includes the recognition object and registers it as a background image (S24). Coming up to this step, stationary objects that are not moving objects and are not classified as stationary objects will be registered as a background image.

S23、S24、およびS25の後は、S11へ戻り、処理を繰り返すことになる。   After S23, S24, and S25, the process returns to S11 to repeat the process.

以上説明したように、本実施形態によれば、現在画像のなかで、背景差分法によって認識された物体(認識物体)の領域が、背景画像に存在した無限遠領域を所定割合以上含む場合に、その認識物体は背景画像における無限遠領域と重なっていた物体である判定することとした。これにより、現在画像で現れた認識物体は背景画像における無限遠領域と所定割合以上重なっていたので、無限遠領域が移動したことで、その後ろに隠れていた物体が現れたものと判断できる。したがって、本実施形態によって背景画像において無限遠領域とされている物体に隠れていた物体を見分けることができる。   As described above, according to the present embodiment, the region of the object (recognized object) recognized by the background subtraction method in the current image includes a predetermined proportion or more of the infinity region in the background image. The object to be recognized was determined to be an object overlapping with an infinite area in the background image. As a result, since the recognition object appearing in the current image overlaps the infinity area in the background image by a predetermined ratio or more, it can be determined that the object hidden behind appears due to the movement of the infinity area. Therefore, according to the present embodiment, it is possible to distinguish an object hidden in an object regarded as an infinite region in the background image.

さらに本実施形態では、背景差分法で認識された物体(認識物体)が、無限遠領域の後ろに隠れた物体か否かを判定した後、初回出現時から所定フレーム数経過後に移動しているかどうかを判断することで、無限遠領域の後ろに隠れた物体が、動体か、静止物かを判断している。これにより、監視装置においては、無限遠領域の背後にある物体が検出されたとしても、その物体が移動していない限り動体として判定しない。したがって、たとえば、窓ガラスや黒い自動車などの反射光が返ってこない物体が背景画像に登録された後、窓ガラスや黒い自動車が移動した場合でも、これらの後ろにあった停止物体(静止物)に対しては動体検出せず、移動している物体に対してのみ動体検出することが可能となる。その結果、停止しているだけの自動車などに対しての誤報を防ぐことができる。   Furthermore, in the present embodiment, after it is determined whether the object (recognized object) recognized by the background difference method is an object hidden behind an infinite distance area, is it moved after a predetermined number of frames have elapsed since the first appearance? By determining whether it is, it is determined whether an object hidden behind an infinite area is a moving object or a stationary object. Thereby, in the monitoring apparatus, even if an object behind an infinite area is detected, it is not determined as a moving body unless the object is moving. Therefore, for example, after an object such as a window glass or a black car that does not return reflected light is registered in the background image, even if the window glass or the black car moves, the stop object behind them (stationary object) However, moving objects can be detected only for moving objects without detection of moving objects. As a result, it is possible to prevent a false alarm on a car that is only stopped.

以上本発明を適用した実施形態を説明したが、本発明は、これら実施形態に限定されるものではない。本発明は特許請求の範囲に記載された構成に基づき様々な改変が可能であり、それらについても本発明の範疇である。   Although the embodiments to which the present invention is applied have been described above, the present invention is not limited to these embodiments. The present invention can be variously modified based on the configuration described in the claims, and is also within the scope of the present invention.

11 CPU、
12 RAM、
13 ROM、
14 不揮発性メモリ、
100 投受光ユニット、
CL コリメートレンズ、
CS 筐体、
CSa 上壁、
CSb 下壁、
CSc 側壁、
CSd 開口、
FL フレーム、
FS フェンス、
LD 半導体レーザー、
LPS 出射部、
LS レンズ、
M1、M2 ミラー面、
MD 監視装置、
MT モータ、
MTa 軸、
MU ミラーユニット、
OBJ 侵入物、
OB1 レーザー光反射率の高い自動車(反射物体)、
OB2 黒い自動車(低反射物体)、
PD フォトダイオード、
PROC 処理部、
RB1、RB2 反射光、
RO 回転軸、
RPS 受光部、
SB レーザースポット光。
11 CPU,
12 RAM,
13 ROM,
14 non-volatile memory,
100 emitting and receiving units,
CL collimate lens,
CS case,
CSa top wall,
CSb lower wall,
CSc side wall,
CSd opening,
FL frame,
FS fence,
LD semiconductor laser,
LPS emitting part,
LS lens,
M1, M2 mirror surface,
MD monitoring device,
MT motor,
MTa axis,
MU mirror unit,
OBJ intruders,
OB1 laser light reflective car (reflective object),
OB2 black car (low reflection object),
PD photodiode,
PROC processing unit,
RB1, RB2 reflected light,
RO rotation axis,
RPS light receiver,
SB laser spot light.

Claims (9)

レーザー光を出射する出射部と、
前記レーザー光を空間内で走査する走査部と、
前記空間内の物体から反射したレーザー光を受光する受光部と、
前記出射部よりレーザー光を出射した出射時刻と、前記物体から反射したレーザー光を前記受光部で受光した受光時刻との時間差に基づいて、前記物体までの距離値を求め、前記走査部による前記レーザー光の走査によって得られた前記空間内の距離値の分布を示す距離画像を生成する処理部と、
前記処理部により生成された前記距離画像に基づいて取得した背景画像を記憶する記憶部と、
を有し、
前記処理部は、前記背景画像と、現在時点で取得した前記距離画像である現在画像とを比較して、前記現在画像のなかで前記背景画像と異なる領域を領域毎にクラスタリングして認識物体を抽出し、当該認識物体毎に、前記背景画像に存在していた無限遠領域と重なる部分があるか否かを調べ、前記認識物体の領域に対する前記無限遠領域の割合が所定値以上の場合に、前記認識物体は前記背景画像における無限遠領域と重なる物体であると判定する、物体検出装置。
An emitting unit for emitting laser light;
A scanning unit that scans the laser light in space;
A light receiving unit that receives laser light reflected from an object in the space;
The distance value to the object is determined based on the time difference between the emission time when the laser light is emitted from the emission unit and the light reception time when the laser light reflected from the object is received by the light receiving unit, the distance value by the scanning unit A processing unit that generates a distance image indicating a distribution of distance values in the space obtained by scanning of laser light;
A storage unit that stores a background image acquired based on the distance image generated by the processing unit;
Have
The processing unit compares the background image with a current image which is the distance image acquired at the current time, clusters regions different from the background image in the current image for each region, and recognizes a recognition object. It is extracted and checked for each recognition object whether or not there is a portion overlapping with the infinity region existing in the background image, and the ratio of the infinity region to the region of the recognition object is a predetermined value or more. An object detection device that determines that the recognition object is an object overlapping an infinite distance area in the background image;
前記処理部は、前記距離画像が時系列で並んだ複数のフレームのうち、前記認識物体が所定フレーム以上連続して認識され、かつ、前記複数のフレームのなかで、前記認識物体の初回出現時のフレーム内の位置から、所定フレーム数経過後の位置までの距離が所定距離以上離れている場合に、前記認識物体は、動体であると判定する、請求項1に記載の物体検出装置。   The processing unit is configured such that the recognition object is continuously recognized as a predetermined frame or more among a plurality of frames in which the distance images are arranged in time series, and the recognition object is first displayed among the plurality of frames. The object detection apparatus according to claim 1, wherein the recognition object is determined to be a moving object when the distance from the position in the frame to the position after a predetermined number of frames has elapsed is a predetermined distance or more. 前記処理部は、前記記憶部に記憶している前記背景画像を所定のタイミングで更新し、
前記処理部は、前記背景画像を更新するタイミングまでに前記動体と判定されなかった前記認識物体がある場合には、前記認識物体を含めて前記背景画像として前記記憶部に記憶させる、請求項2に記載の物体検出装置。
The processing unit updates the background image stored in the storage unit at a predetermined timing.
The processing unit, when there is the recognition object not determined to be the moving object by the timing of updating the background image, stores the recognition object in the storage unit as the background image. The object detection apparatus according to claim 1.
前記処理部は、前記認識物体が前記背景画像における無限遠領域と重なる物体であると判定した場合、前記認識物体が無限遠領域にあったことを示すための識別情報を付ける、請求項1〜3のいずれか1つに記載の物体検出装置。   The processing unit adds identification information to indicate that the recognition object is in an infinite distance region, when it is determined that the recognition object is an object overlapping the infinite distance region in the background image. The object detection device according to any one of 3. レーザー光を出射する出射部と、
前記レーザー光を空間内で走査する走査部と、
前記空間内の物体から反射したレーザー光を受光する受光部と、
前記出射部よりレーザー光を出射した出射時刻と、前記物体から反射したレーザー光を前記受光部で受光した受光時刻との時間差に基づいて、前記物体までの距離値を求め、前記走査部による前記レーザー光の走査によって得られた前記空間内の距離値の分布を示す距離画像を生成する処理部と、
前記処理部により生成された前記距離画像に基づいて取得した背景画像を記憶する記憶部と、
を有する物体検出装置の制御方法であって、
前記背景画像と、現在時点で取得した前記距離画像である現在画像とを比較して、前記現在画像のなかで前記背景画像と異なる領域があるか否かを判断する段階(a)と、
段階(a)において異なる領域がある場合は、当該異なる領域を領域毎にクラスタリングして認識物体として抽出し、当該認識物体毎に、前記背景画像に存在していた無限遠領域と重なる部分があるか否かを調べ、前記認識物体の領域に対する前記無限遠領域の割合が所定値以上の場合に、前記認識物体は前記背景画像における無限遠領域と重なる物体であると判定する段階(b)と、
を有する物体検出装置の制御方法。
An emitting unit for emitting laser light;
A scanning unit that scans the laser light in space;
A light receiving unit that receives laser light reflected from an object in the space;
The distance value to the object is determined based on the time difference between the emission time when the laser light is emitted from the emission unit and the light reception time when the laser light reflected from the object is received by the light receiving unit, the distance value by the scanning unit A processing unit that generates a distance image indicating a distribution of distance values in the space obtained by scanning of laser light;
A storage unit that stores a background image acquired based on the distance image generated by the processing unit;
A control method of an object detection device having
Determining whether there is an area different from the background image in the current image by comparing the background image with the current image which is the distance image acquired at the current time,
If there are different regions in step (a), the different regions are clustered for each region and extracted as a recognition object, and each recognition object has a portion overlapping the infinite distance region that was present in the background image (B) determining whether or not the recognition object is an object overlapping the infinity area in the background image if the ratio of the infinity area to the area of the recognition object is not less than a predetermined value; ,
Control method of an object detection apparatus having:
前記段階(b)の後、さらに、前記距離画像が時系列で並んだ複数のフレームのうち、前記認識物体が所定フレーム以上連続して認識され、かつ、前記複数のフレームのなかで、前記認識物体の初回出現時のフレーム内の位置から、所定フレーム数経過後の位置までの距離が所定距離以上離れている場合に、前記認識物体は、動体であると判定する段階(c)を有する、請求項5に記載の物体検出装置の制御方法。   After the step (b), the recognition object is continuously recognized for a predetermined number of frames or more among the plurality of frames in which the distance images are arranged in time series, and the recognition is performed among the plurality of frames. Determining that the recognition object is a moving object, when the distance from the position in the frame when the object first appears to the position after a predetermined number of frames has exceeded the predetermined distance, The control method of the object detection apparatus according to claim 5. さらに、前記記憶部に記憶している前記背景画像を所定のタイミングで更新する段階(d)を有し、
前記背景画像を更新するタイミングまでに前記動体と判定されなかった前記認識物体がある場合には、前記認識物体を含めて前記背景画像として前記記憶部に記憶させる段階(e)を有する、請求項6に記載の物体検出装置の制御方法。
The method further comprises the step (d) of updating the background image stored in the storage unit at a predetermined timing.
When the recognition object is not determined to be the moving object by the timing of updating the background image, the method further includes the step (e) of storing the recognition object and the background image as the background image. 6. The control method of the object detection apparatus according to 6.
前記段階(b)で、前記認識物体が前記背景画像における無限遠領域と重なる物体であると判定された場合、前記認識物体の物体が無限遠領域にあったことを示すための識別情報を付ける段階(f)を有する、請求項5〜7のいずれか1つに記載の物体検出装置の制御方法。   If it is determined in the step (b) that the recognition object is an object overlapping the infinity area in the background image, identification information is added to indicate that the object of the recognition object is in the infinity area. The control method of the object detection device according to any one of claims 5 to 7, comprising the step (f). 請求項5〜8のいずれか1つに記載の物体検出装置の制御方法を物体検出装置内の処理部に実行させるための、物体検出装置の制御プログラム。   A control program of an object detection device for causing a processing unit in an object detection device to execute the control method of an object detection device according to any one of claims 5 to 8.
JP2017238498A 2017-12-13 2017-12-13 Object detection device, control method of object detection device, and control program of object detection device Active JP7020096B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017238498A JP7020096B2 (en) 2017-12-13 2017-12-13 Object detection device, control method of object detection device, and control program of object detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017238498A JP7020096B2 (en) 2017-12-13 2017-12-13 Object detection device, control method of object detection device, and control program of object detection device

Publications (2)

Publication Number Publication Date
JP2019105550A true JP2019105550A (en) 2019-06-27
JP7020096B2 JP7020096B2 (en) 2022-02-16

Family

ID=67061560

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017238498A Active JP7020096B2 (en) 2017-12-13 2017-12-13 Object detection device, control method of object detection device, and control program of object detection device

Country Status (1)

Country Link
JP (1) JP7020096B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022115288A1 (en) * 2020-11-24 2022-06-02 Waymo Llc Methods of using background images from a light detection and ranging (lidar) device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122507A (en) * 2005-10-28 2007-05-17 Secom Co Ltd Intrusion detection apparatus
JP2007121158A (en) * 2005-10-28 2007-05-17 Secom Co Ltd Intrusion detector
JP2011186633A (en) * 2010-03-05 2011-09-22 Secom Co Ltd Object detector
JP2012084009A (en) * 2010-10-13 2012-04-26 Secom Co Ltd Image sensor
WO2017195754A1 (en) * 2016-05-13 2017-11-16 コニカミノルタ株式会社 Surveillance system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122507A (en) * 2005-10-28 2007-05-17 Secom Co Ltd Intrusion detection apparatus
JP2007121158A (en) * 2005-10-28 2007-05-17 Secom Co Ltd Intrusion detector
JP2011186633A (en) * 2010-03-05 2011-09-22 Secom Co Ltd Object detector
JP2012084009A (en) * 2010-10-13 2012-04-26 Secom Co Ltd Image sensor
WO2017195754A1 (en) * 2016-05-13 2017-11-16 コニカミノルタ株式会社 Surveillance system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022115288A1 (en) * 2020-11-24 2022-06-02 Waymo Llc Methods of using background images from a light detection and ranging (lidar) device

Also Published As

Publication number Publication date
JP7020096B2 (en) 2022-02-16

Similar Documents

Publication Publication Date Title
US11723762B2 (en) LIDAR based 3-D imaging with far-field illumination overlap
CN111724558B (en) Monitoring method, monitoring device and intrusion alarm system
JP2000329852A (en) Obstacle recognition device
KR102135177B1 (en) Method and apparatus for implemeting active imaging system
WO2020105527A1 (en) Image analysis device, image analysis system, and control program
JP5761942B2 (en) Object detection sensor
US11619725B1 (en) Method and device for the recognition of blooming in a lidar measurement
JP2019105550A (en) Object detection device, control method and control program for object detection device
JP2017215642A (en) Monitoring system
JP6988797B2 (en) Monitoring system
CN114966714A (en) Window occlusion detection method and device
US10048492B2 (en) Scanning optical system and radar
JP2018181114A (en) Intrusion monitoring method, intrusion monitoring program, and intrusion monitoring system
Alefs et al. Hypothesis based vehicle detection for increased simplicity in multi-sensor ACC
JP2006521557A (en) Detection system, method for detecting an object, and computer program therefor
JP2014085124A (en) Laser monitoring method and laser monitoring device
JP6932971B2 (en) Motion tracking methods, motion tracking programs, and motion tracking systems
WO2020021306A1 (en) Method for material discrimination and respective implementation system
JP6898587B2 (en) Object tracking methods, object tracking programs, and object tracking systems
JP6835079B2 (en) Monitoring system
CN110839131A (en) Synchronization control method, synchronization control device, electronic equipment and computer readable medium
US10605917B2 (en) Optical-scanning-type object detection device having a mirror surface to be inclined in a direction crossing a rotation axis
WO2017195755A1 (en) Surveillance system
WO2020105225A1 (en) Machine learning method, trained model, control program, and object detection system
JP7201002B2 (en) Image processing device, control program, and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220117

R150 Certificate of patent or registration of utility model

Ref document number: 7020096

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150