JP6699019B2 - Wall measuring device, flying robot and wall inspection system - Google Patents

Wall measuring device, flying robot and wall inspection system Download PDF

Info

Publication number
JP6699019B2
JP6699019B2 JP2016014083A JP2016014083A JP6699019B2 JP 6699019 B2 JP6699019 B2 JP 6699019B2 JP 2016014083 A JP2016014083 A JP 2016014083A JP 2016014083 A JP2016014083 A JP 2016014083A JP 6699019 B2 JP6699019 B2 JP 6699019B2
Authority
JP
Japan
Prior art keywords
wall surface
laser light
measuring device
mirrors
mirror
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016014083A
Other languages
Japanese (ja)
Other versions
JP2017133949A (en
Inventor
西田 信一郎
信一郎 西田
弦 関原
弦 関原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujita Corp
Tottori University
Original Assignee
Fujita Corp
Tottori University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujita Corp, Tottori University filed Critical Fujita Corp
Priority to JP2016014083A priority Critical patent/JP6699019B2/en
Publication of JP2017133949A publication Critical patent/JP2017133949A/en
Application granted granted Critical
Publication of JP6699019B2 publication Critical patent/JP6699019B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、レーザ光を用いて壁面の距離および傾きを計測する壁面計測装置、当該壁面計測装置を搭載した飛行ロボット、および、当該飛行ロボットを用いた壁面検査システムに関する。   The present invention relates to a wall surface measuring device that measures a distance and an inclination of a wall surface by using a laser beam, a flying robot equipped with the wall surface measuring device, and a wall surface inspection system using the flying robot.

橋脚等の構造物は、時間の経過とともに老朽化する。このため、この種の構造物では、定期的に壁面の状況が点検され、適宜、修復等の措置が採られる。この場合、たとえば、カメラを用いて壁面の状況が検査される。カメラで撮像した画像を解析することにより、たとえば、橋脚等の表面に生じた亀裂が確認される。   Structures such as piers will deteriorate over time. Therefore, in this type of structure, the condition of the wall surface is regularly inspected, and appropriate measures such as restoration are taken. In this case, for example, the condition of the wall surface is inspected using a camera. By analyzing the image captured by the camera, for example, cracks formed on the surface of the pier or the like are confirmed.

以下の特許文献1には、レーザ光を用いて壁面の距離および傾きを計測する壁面検出手段が記載されている。特許文献1の構成では、自動車に搭載されたレーザスキャナによりレーザ光を水平方向および垂直方向に走査させて、三次元の座標点群のデータが取得される。こうして取得された座標点群データに基づいて、道路の付属物の壁面や道路付近の建物、塀等の壁面が検出される。   The following Patent Document 1 describes a wall surface detection unit that measures the distance and the inclination of the wall surface using laser light. In the configuration of Patent Document 1, a laser scanner mounted on an automobile scans a laser beam in a horizontal direction and a vertical direction to acquire data of a three-dimensional coordinate point group. On the basis of the coordinate point cloud data acquired in this way, the wall surface of an accessory of the road, the wall surface of the building near the road, the wall, etc. is detected.

特開2013−54522号公報JP, 2013-54522, A

橋脚等の構造物は、高さが非常に高い場合がしばしばある。また、橋脚が、河川に架けられた橋の橋脚である場合、点検を行う作業者が橋脚付近に近づくことが極めて困難な場合がある。このような場合、空中で停止可能な飛行ロボットにカメラを搭載して構造物の表面を撮像することが有効である。   Structures such as piers are often very tall. Further, when the pier is a pier of a bridge spanning a river, it may be extremely difficult for an operator who performs inspection to approach the vicinity of the pier. In such a case, it is effective to mount a camera on a flying robot that can be stopped in the air and image the surface of the structure.

飛行ロボットにカメラを搭載する場合、カメラの撮像方向が構造物の壁面に対して略垂直となるように、飛行ロボットの姿勢を制御する必要がある。この制御のため、飛行ロボットには、構造物の壁面までの距離および傾きを計測する壁面計測装置が搭載され得る。この場合、飛行ロボットの負荷を軽減するため、搭載される壁面計測装置は、なるべく質量が小さいことが好ましい。これに対し、自動車に搭載されるレーザスキャナは、通常、レーザ光を水平方向および垂直方向にそれぞれ個別に走査させるための2つのアクチュエータが設けられるため、壁面計測装置の質量が大きくなってしまう。   When mounting a camera on a flying robot, it is necessary to control the attitude of the flying robot so that the imaging direction of the camera is substantially perpendicular to the wall surface of the structure. For this control, the flying robot can be equipped with a wall surface measuring device that measures the distance to the wall surface and the inclination of the structure. In this case, in order to reduce the load on the flying robot, it is preferable that the mounted wall surface measuring device has a mass as small as possible. On the other hand, a laser scanner mounted on an automobile is usually provided with two actuators for individually scanning the laser beam in the horizontal direction and the vertical direction, respectively, so that the mass of the wall surface measuring device becomes large.

本発明は、かかる課題に鑑みてなされたものであり、質量をなるべく小さくすることが可能な壁面計測装置、当該壁面計測装置を搭載した飛行ロボット、および、当該飛行ロボット用いた壁面検査システムを提供することを目的とする。   The present invention has been made in view of the above problems, and provides a wall surface measuring device capable of reducing the mass as much as possible, a flight robot equipped with the wall surface measuring device, and a wall surface inspection system using the flight robot. The purpose is to do.

本発明の第1の態様は、壁面計測装置に関する。この態様に係る壁面計測装置は、レーザ光を出射する光源と、物体から反射された前記レーザ光を受光する光検出器と、前記光源と前記光検出器を1つの軸回りに一体的に回転させる回転部と、前記回転部を支持する支持部材と、前記支持部材に設置され、前記回転部による一部の回転範囲において前記光源から出射された前記レーザ光を反射するミラーと、前記光検出器から出力される信号に基づいて、前記レーザ光が照射された位置における前記物体の壁面について、前記壁面までの距離および傾きをそれぞれ算出する演算処理部と、を備える。前記回転部の回転に伴い前記物体が互いに異なる複数の走査経路で走査されるように、前記ミラーが構成される。また、前記演算処理部は、前記複数の走査経路に沿って前記物体までの距離を計測して得た3次元の座標点群に整合する平面を、前記物体の壁面として取得する。 A first aspect of the present invention relates to a wall surface measuring device. A wall surface measuring device according to this aspect includes a light source that emits a laser beam, a photodetector that receives the laser beam reflected from an object, and the light source and the photodetector that are integrally rotated around one axis. A rotating unit, a supporting member that supports the rotating unit, a mirror that is installed on the supporting member, and that reflects the laser light emitted from the light source in a partial rotation range of the rotating unit; And a calculation processing unit that calculates a distance to the wall surface and an inclination of the wall surface of the object at the position irradiated with the laser light based on a signal output from the container. The mirror is configured so that the object is scanned in a plurality of different scanning paths as the rotating unit rotates. Further, the arithmetic processing unit acquires, as a wall surface of the object, a plane that matches a three-dimensional coordinate point group obtained by measuring distances to the object along the plurality of scanning paths.

本態様に係る壁面計測装置によれば、レーザ光を走査させるための構成として、1軸周りに回転する回転部と、レーザ光を反射するミラーを設けるのみでよい。このため、レーザ光を水平方向および垂直方向にそれぞれ個別に走査させるための2つのアクチュエータを設ける場合に比べて、壁面計測装置の質量を顕著に小さくできる。よって、壁面計測装置を飛行ロボットに搭載する場合に、飛行ロボットにかかる負荷を効果的に抑制できる。さらに、回転部とミラーを配置する構成であるため、壁面計測装置の簡素化および小型化を図ることができる。よって、この点からも、本態様に係る壁面計測装置は、飛行ロボットに搭載する場合に有利である。   According to the wall surface measuring apparatus of this aspect, only a rotating unit that rotates about one axis and a mirror that reflects the laser light need to be provided as a configuration for scanning the laser light. Therefore, the mass of the wall surface measuring device can be significantly reduced as compared with the case where two actuators for individually scanning the laser light in the horizontal direction and the vertical direction are provided. Therefore, when the wall surface measuring device is mounted on the flying robot, the load on the flying robot can be effectively suppressed. Furthermore, since the rotating unit and the mirror are arranged, the wall surface measuring device can be simplified and downsized. Therefore, also from this point, the wall surface measuring device according to this aspect is advantageous when mounted on a flying robot.

第1の態様に係る壁面計測装置は、前記回転部を囲むように3つの前記ミラーが配置され、前記光源から出射された前記レーザ光の光軸を前記3つのミラーで折り曲げることにより、各ミラーに対応する3つの走査経路で前記物体が走査されるよう構成され得る。このように3つの走査経路で物体を走査することにより、物体の壁面を精度良く計測できる。   In the wall surface measuring device according to the first aspect, the three mirrors are arranged so as to surround the rotating portion, and the optical axes of the laser beams emitted from the light source are bent by the three mirrors, whereby the respective mirrors are bent. Can be configured to be scanned in three scanning paths corresponding to By scanning the object through the three scanning paths in this manner, the wall surface of the object can be accurately measured.

また、第1の態様に係る壁面計測装置は、前記回転部を挟むように2つの前記ミラーが配置され、前記光源から出射された前記レーザ光の光軸を前記2つのミラーで折り曲げることにより、各ミラーに対応する2つの走査経路を含む複数の走査経路で前記物体が走査されるよう構成され得る。この構成では、上記のように3つのミラーを用いる場合に比べて、ミラーを1つ削減でき、壁面計測装置の質量を抑制できる。   In the wall surface measuring device according to the first aspect, the two mirrors are arranged so as to sandwich the rotating portion, and the optical axis of the laser light emitted from the light source is bent by the two mirrors. The object may be configured to be scanned in multiple scan paths, including two scan paths corresponding to each mirror. With this configuration, as compared with the case where three mirrors are used as described above, one mirror can be reduced and the mass of the wall surface measuring device can be suppressed.

この場合、壁面計測装置は、前記2つのミラーの間の隙間を前記レーザ光が通過することにより生じる走査経路と、前記2つのミラーにより前記レーザ光が反射されることにより生じる2つの走査経路で、前記物体が走査されるように、前記2つのミラーが配置された構成とされ得る。こうすると、3つの走査経路で物体が走査されるため、物体の壁面を精度良く計測できる。   In this case, the wall surface measuring device has a scanning path generated when the laser light passes through the gap between the two mirrors and two scanning paths generated when the laser light is reflected by the two mirrors. , The two mirrors may be arranged so that the object is scanned. By doing so, the object is scanned through the three scanning paths, so that the wall surface of the object can be accurately measured.

また、第1の態様に係る壁面計測装置は、前記回転部の周囲に1つの前記ミラーが配置され、前記ミラーが配置されていない領域を前記レーザ光が通過することにより生じる走査経路と、前記ミラーにより前記レーザ光が反射されることにより生じる走査経路で、前記物体が走査されるように、前記ミラーが配置された構成とされ得る。この構成では、走査に用いるミラーが1つであるため、壁面計測装置の質量をさらに抑制できる。   Further, the wall surface measuring apparatus according to the first aspect is configured such that one of the mirrors is arranged around the rotating portion, and the scanning path is generated when the laser light passes through a region where the mirror is not arranged, The mirror may be arranged so that the object is scanned in a scanning path generated by the laser beam being reflected by the mirror. With this configuration, since only one mirror is used for scanning, the mass of the wall surface measuring device can be further suppressed.

第1の態様に係る壁面計測装置において、前記複数の走査経路は、当該壁面計測装置に正対向する平面において三角形の各辺に略沿うように設定され得る。こうすると、測定により取得された壁面は、正規の壁面に対して、どの方向項においても傾きの誤差が生じにくくなる。よって、壁面の計測精度を高めることができる。   In the wall surface measuring device according to the first aspect, the plurality of scanning paths may be set so as to substantially follow each side of the triangle in a plane that directly faces the wall surface measuring device. In this way, the wall surface obtained by the measurement is less likely to cause an error in inclination in any direction term with respect to the regular wall surface. Therefore, the measurement accuracy of the wall surface can be improved.

また、第1の態様に係る壁面計測装置は、前記ミラーの反射面が、平面、且つ、一方向に長い形状を有し、前記回転部の回転に伴い前記レーザ光の光軸が前記反射面の長手方向に移動するように、前記ミラーが配置された構成とされ得る。こうすると、簡素な構成のミラーを用いながら、物体における走査軌跡を3方向に設定できる。このため、物体壁面の計測精度を高めることができる。   Further, in the wall surface measuring apparatus according to the first aspect, the reflecting surface of the mirror has a flat surface and a shape that is long in one direction, and the optical axis of the laser light is the reflecting surface as the rotating portion rotates. The mirror may be arranged so as to move in the longitudinal direction. By doing so, the scanning locus of the object can be set in three directions while using a mirror having a simple structure. Therefore, the measurement accuracy of the object wall surface can be improved.

第1の態様に係る壁面計測装置において、前記演算処理部は、平面までの距離および平面の傾きを変化させてその平面に含まれる前記座標点群の数を計数し、計数した数が最も多い平面を、前記物体の前記壁面として取得するよう構成され得る。こうすると、座標点群から円滑に、物体の壁面を取得できる。   In the wall surface measuring device according to the first aspect, the arithmetic processing unit changes the distance to the plane and the inclination of the plane to count the number of the coordinate point groups included in the plane, and the counted number is the largest. It may be configured to capture a plane as the wall surface of the object. By doing so, the wall surface of the object can be smoothly acquired from the coordinate point group.

本発明の第2の態様は、飛行ロボットに関する。この態様に係る飛行ロボットは、上記第1の態様に係る壁面計測装置と、前記壁面を撮像する撮像装置と、静止可能に飛行するためのプロペラ駆動部と、前記壁面計測装置による計測結果に基づいて飛行姿勢を制御する制御部と、を備える。   A second aspect of the present invention relates to a flying robot. A flight robot according to this aspect is based on the wall surface measuring device according to the first embodiment, an imaging device that images the wall surface, a propeller drive unit for flying in a stationary manner, and a measurement result by the wall surface measuring device. And a control unit for controlling the flight attitude.

本態様に係る飛行ロボットによれば、上記のように質量が抑制された壁面計測装置が搭載されるため、飛行の際の負荷が軽減される。よって、円滑かつ安定的に目標の壁面位置へと飛行して壁面の撮像を行うことができる。   According to the flying robot of this aspect, since the wall surface measuring device whose mass is suppressed as described above is mounted, the load during flight is reduced. Therefore, it is possible to smoothly and stably fly to the target wall surface position and image the wall surface.

本発明の第3の態様は、壁面検査システムに関する。この態様に係る壁面検査システムは、第2の態様に係る飛行ロボットと、前記撮像装置により撮像された画像を処理して前記壁面の状況を評価する情報処理装置と、を備える。   A third aspect of the present invention relates to a wall surface inspection system. A wall surface inspection system according to this aspect includes the flying robot according to the second aspect, and an information processing device that processes an image captured by the image capturing device to evaluate the situation of the wall surface.

本態様に係る壁面検査システムによれば、上記の飛行ロボットが用いられるため、円滑かつ安定的に壁面の撮像を行うことができ、壁面の検査を円滑に進めることができる。   According to the wall surface inspection system of this aspect, since the above flying robot is used, the wall surface can be smoothly and stably imaged, and the wall surface can be smoothly inspected.

以上のとおり本発明によれば、質量をなるべく小さくすることが可能な壁面計測装置、当該壁面計測装置を搭載した飛行ロボット、および、当該飛行ロボット用いた壁面検査システムを提供することができる。   As described above, according to the present invention, it is possible to provide a wall surface measuring device capable of reducing the mass as much as possible, a flight robot equipped with the wall surface measuring device, and a wall surface inspection system using the flight robot.

本発明の特徴は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも、本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。   The features of the present invention will be further clarified by the following description of the embodiments. However, the following embodiment is just one embodiment of the present invention, and the meanings of the terms of the present invention and each constituent element are not limited to those described in the following embodiment. Absent.

図1は、実施の形態に係る壁面検査システムの外観を示す斜視図である。FIG. 1 is a perspective view showing the appearance of a wall surface inspection system according to an embodiment. 図2(a)、(b)は、それぞれ、実施の形態に係る走査検出部の構成を示す平面図および側面図である。図2(c)は、実施の形態に係る回転部に保持された光学系の構成を示す図である。図2(d)は、物体までの距離を計測する手法を説明するタイミングチャートである。2A and 2B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit according to the embodiment. FIG. 2C is a diagram showing the configuration of the optical system held by the rotating unit according to the embodiment. FIG. 2D is a timing chart illustrating a method of measuring the distance to the object. 図3(a)は、実施の形態に係る走査経路を模式的に示す図、図3(b)は、実施の形態に係る壁面の検出方法を説明するための図である。FIG. 3A is a diagram schematically showing a scanning path according to the embodiment, and FIG. 3B is a diagram for explaining a wall surface detection method according to the embodiment. 図4は、実施の形態に係る飛行ロボットの構成を示すブロック図である。FIG. 4 is a block diagram showing the configuration of the flying robot according to the embodiment. 図5(a)は、実施の形態に係る壁面計測装置の処理を示すフローチャートである。図5(b)は、実施の形態に係る壁面計測処理を示すフローチャートである。FIG. 5A is a flowchart showing the process of the wall surface measuring device according to the embodiment. FIG. 5B is a flowchart showing the wall surface measuring process according to the embodiment. 図6(a)、(b)は、それぞれ、変更例1に係る走査検出部の構成を示す平面図および側面図である。図6(c)は、変更例1に係る走査経路を模式的に示す図である。6A and 6B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit according to the first modification. FIG. 6C is a diagram schematically showing the scanning path according to the first modification. 図7(a)、(b)は、それぞれ、変更例2に係る走査検出部の構成を示す平面図および側面図である。図7(c)は、変更例2に係る走査経路を模式的に示す図である。7A and 7B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit according to the second modification. FIG. 7C is a diagram schematically showing the scanning path according to the second modification. 図8(a)、(b)は、それぞれ、変更例3に係る走査検出部の構成を示す平面図および側面図である。図8(c)は、変更例3に係る走査経路を模式的に示す図である。8A and 8B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit according to the third modification. FIG. 8C is a diagram schematically showing the scanning path according to the third modification.

図1は、実施の形態に係る壁面検査システム1の外観を示す斜視図である。図1には、便宜上、飛行ロボット10の前後方向、左右方向および上下方向が実線矢印で示されている。   FIG. 1 is a perspective view showing an appearance of a wall surface inspection system 1 according to an embodiment. In FIG. 1, for convenience, the front-back direction, the left-right direction, and the up-down direction of the flying robot 10 are indicated by solid arrows.

図1に示すように、壁面検査システム1は、飛行ロボット10と、情報処理装置20とを備える。   As shown in FIG. 1, the wall surface inspection system 1 includes a flying robot 10 and an information processing device 20.

飛行ロボット10は、6つのプロペラ11を備える。飛行ロボット10は、プロペラ11を駆動して飛行し、また、プロペラ11を制御して、所定の姿勢で空中に静止することが可能である。飛行ロボット10は、着陸のための一対の脚部12を備えている。   The flying robot 10 includes six propellers 11. The flying robot 10 is capable of driving the propeller 11 to fly, and controlling the propeller 11 to stand still in the air in a predetermined posture. The flying robot 10 includes a pair of legs 12 for landing.

さらに、飛行ロボット10は、前方向に直線状に延びる筒状のシャフト13を備えている。シャフト13の先端に回転可能に滑車14が装着されている。滑車14の回転軸は、左右方向に平行である。滑車14の回転軸には、滑車14の回転を検出するためのエンコーダ(図示せず)が配されている。エンコーダは、シャフト13の内部を通る配線によって、飛行ロボット10本体の回路部に接続されている。   Furthermore, the flying robot 10 includes a cylindrical shaft 13 that linearly extends in the front direction. A pulley 14 is rotatably attached to the tip of the shaft 13. The rotation axis of the pulley 14 is parallel to the left-right direction. An encoder (not shown) for detecting the rotation of the pulley 14 is arranged on the rotary shaft of the pulley 14. The encoder is connected to the circuit section of the main body of the flying robot 10 by wiring passing through the inside of the shaft 13.

橋脚等の壁面2を検査する際、飛行ロボット10は、壁面2に滑車14を接触させた状態で、上下方向に移動する。飛行ロボット10は、この移動の際にエンコーダから出力される信号に基づいて、上下方向における壁面2の位置を取得する。滑車14とエンコーダを用いた構成以外の構成により、上下方向の位置が検出されてもよい。たとえば、飛行ロボット10にGPS(Global Positioning System)の機能を持たせることも可能である。しかし、橋脚では、橋に遮られてGPSの機能が不能となることがある。また、GPSによる測位には所定の誤差がある。このことから、上下方向における壁面2の位置は、図1に示すような構成により、壁面2から直接取得することが好ましい。飛行ロボット10は、さらに、気圧センサやジャイロセンサ等の高度検出用のセンサを備えていてもよい。飛行ロボット10は、このセンサによって、高さ方向における壁面2の位置を取得するよう構成されてもよい。   When inspecting the wall surface 2 such as a bridge pier, the flying robot 10 moves in the vertical direction with the pulley 14 in contact with the wall surface 2. The flying robot 10 acquires the position of the wall surface 2 in the vertical direction based on the signal output from the encoder during this movement. The vertical position may be detected by a configuration other than the configuration using the pulley 14 and the encoder. For example, the flying robot 10 can be provided with a GPS (Global Positioning System) function. However, on the pier, the GPS function may be disabled due to the obstruction by the bridge. Further, there is a predetermined error in the positioning by GPS. From this, it is preferable that the position of the wall surface 2 in the vertical direction be directly obtained from the wall surface 2 by the configuration shown in FIG. The flying robot 10 may further include a sensor for altitude detection, such as an atmospheric pressure sensor or a gyro sensor. The flying robot 10 may be configured to acquire the position of the wall surface 2 in the height direction by this sensor.

飛行ロボット10の下面には、棚15が設けられている。この棚15に壁面計測装置30、撮像装置40およびメモリドライブ50が設置されている。壁面計測装置30およびメモリドライブ50は棚15の上面に設置され、撮像装置40は棚15の下面に設置されている。   A shelf 15 is provided on the lower surface of the flying robot 10. A wall surface measuring device 30, an imaging device 40, and a memory drive 50 are installed on this shelf 15. The wall surface measuring device 30 and the memory drive 50 are installed on the upper surface of the shelf 15, and the imaging device 40 is installed on the lower surface of the shelf 15.

壁面計測装置30は、前方向にレーザ光を出射し、壁面2からの反射光を受光して、壁面2までの距離および壁面2の傾きを算出する。壁面計測装置30の構成および壁面計測の方法は、追って、図2(a)〜図3(b)を参照して説明する。   The wall surface measuring device 30 emits laser light in the forward direction, receives reflected light from the wall surface 2, and calculates the distance to the wall surface 2 and the inclination of the wall surface 2. The configuration of the wall surface measuring device 30 and the wall surface measuring method will be described later with reference to FIGS. 2(a) to 3(b).

撮像装置40は、飛行ロボット10の前方の領域を撮像する。撮像装置40の撮像方向は、飛行ロボット10の前方向に一致する。メモリドライブ50は、壁面計測装置30の後方に配置されている。メモリドライブ50には、SDカード等の記憶媒体が着脱可能である。メモリドライブ50は、撮像装置40によって撮像された画像を随時記憶媒体に書き込んでいく。   The imaging device 40 images the area in front of the flying robot 10. The imaging direction of the imaging device 40 matches the front direction of the flying robot 10. The memory drive 50 is arranged behind the wall surface measuring device 30. A storage medium such as an SD card can be attached to and detached from the memory drive 50. The memory drive 50 writes the image picked up by the image pickup device 40 into the storage medium as needed.

飛行ロボット10は、壁面計測装置30により算出された壁面2までの距離および壁面の傾きに基づいて、撮像装置40の撮像方向が壁面2に対して略垂直となり、且つ、滑車14が壁面2に接触するように、自身の位置および姿勢を制御する。この制御を行いつつ、飛行ロボット10は、壁面2に沿って周方向に移動する。その間、撮像装置40は、壁面2を撮像する。撮像された画像は、逐次、メモリドライブ50の記憶媒体に書き込まれる。   Based on the distance to the wall surface 2 and the inclination of the wall surface calculated by the wall surface measuring device 30, the flying robot 10 sets the imaging direction of the imaging device 40 to be substantially perpendicular to the wall surface 2, and the pulley 14 on the wall surface 2. Controls its own position and attitude to make contact. While performing this control, the flying robot 10 moves in the circumferential direction along the wall surface 2. Meanwhile, the imaging device 40 images the wall surface 2. The captured images are sequentially written in the storage medium of the memory drive 50.

飛行ロボット10の飛行経路は、情報処理装置20を介してユーザにより設定される。情報処理装置20は、ケーブルによってリモートコントロール装置60に接続されている。情報処理装置20は、ユーザにより設定された飛行経路に沿って飛行ロボット10を飛行させるための指令信号を、リモートコントロール装置60を介して飛行ロボット10に送信する。   The flight path of the flying robot 10 is set by the user via the information processing device 20. The information processing device 20 is connected to the remote control device 60 by a cable. The information processing device 20 transmits a command signal for causing the flying robot 10 to fly along the flight route set by the user to the flying robot 10 via the remote control device 60.

飛行ロボット10の自動位置制御機能は、主として後述する飛行ロボット10の制御部84(図4参照)が実行する。情報処理装置20は、飛行経路となる次の目標位置および飛行動作を指示する指令信号を、リモートコントロール装置30を介して飛行ロボット10の制御部84に送信する。たとえば、壁面2との距離を一定距離に保ちながら壁面2に沿って数メートル降下する旨の指令信号がリモートコントロール装置30から飛行ロボット10に送信される。この指令信号に基づき、飛行ロボット10の制御部84は、プロペラ11を制御して、指令に応じた飛行動作を実行する。これにより、飛行ロボット10は、設定された飛行経路に沿って、壁面2付近を飛行する。   The automatic position control function of the flying robot 10 is mainly executed by a control unit 84 (see FIG. 4) of the flying robot 10 described later. The information processing device 20 transmits a command signal for instructing a next target position to be a flight path and a flight operation to the control unit 84 of the flying robot 10 via the remote control device 30. For example, the remote control device 30 transmits a command signal to the flying robot 10 to drop a few meters along the wall surface 2 while keeping the distance from the wall surface 2 at a constant distance. Based on this command signal, the control unit 84 of the flying robot 10 controls the propeller 11 to execute a flight operation according to the command. As a result, the flying robot 10 flies near the wall surface 2 along the set flight path.

飛行ロボット10は、こうしてユーザが設定した飛行経路に沿って飛行しつつ、壁面計測装置30により算出された壁面2までの距離および壁面2の傾きに基づいて、上記のように、自身の位置および姿勢を制御する。   The flying robot 10 thus flies along the flight path set by the user, and based on the distance to the wall surface 2 and the inclination of the wall surface 2 calculated by the wall surface measuring device 30, as described above, Control your posture.

飛行ロボット10が飛行する間、滑車14とエンコーダにより検出された飛行ロボット10の位置情報が、随時、飛行ロボット10からリモートコントロール装置60に送信され、情報処理装置20に提供される。情報処理装置20は、受信した位置情報に基づいて、飛行ロボット10が所期の飛行経路に沿って飛行するよう制御する。こうして、飛行ロボット10は、ユーザが設定した飛行経路に沿って飛行する。   While the flying robot 10 is flying, position information of the flying robot 10 detected by the pulley 14 and the encoder is transmitted from the flying robot 10 to the remote control device 60 at any time and provided to the information processing device 20. The information processing device 20 controls the flying robot 10 to fly along a desired flight path based on the received position information. In this way, the flying robot 10 flies along the flight path set by the user.

この他、ユーザがリモートコントロール装置60を操作してマニュアルで飛行ロボット10を壁面2付近で飛行させてもよい。この場合、撮像装置40により取得された画像がリモートコントロール装置60に随時送信され、リモートコントロール装置60のモニタ61に表示される。ユーザは、モニタ61を参照しながら、リモートコントロール装置60を操作して、飛行ロボット10を壁面2に沿って移動させる。この場合も、飛行ロボット10は、壁面計測装置30により算出された壁面2までの距離および壁面2の傾きに基づいて、撮像装置40の撮像方向が壁面2に対して略垂直となり、且つ、滑車14が壁面2に接触するように、自身の位置および姿勢を制御する。   Alternatively, the user may operate the remote control device 60 to manually fly the flying robot 10 near the wall surface 2. In this case, the image acquired by the imaging device 40 is transmitted to the remote control device 60 at any time and displayed on the monitor 61 of the remote control device 60. The user operates the remote control device 60 while referring to the monitor 61 to move the flying robot 10 along the wall surface 2. Also in this case, the flying robot 10 makes the imaging direction of the imaging device 40 substantially perpendicular to the wall surface 2 based on the distance to the wall surface 2 calculated by the wall surface measuring device 30 and the inclination of the wall surface 2, and also the pulley. The position and the posture of itself are controlled so that 14 contacts the wall surface 2.

壁面2の検査が終了すると、ユーザは、飛行ロボット10を回収し、メモリドライブ50から記憶媒体を取り出す。ユーザは、取り出した記憶媒体を情報処理装置20に装着する。情報処理装置20は、たとえば、パーソナルコンピュータで構成される。情報処理装置20は、ユーザからの操作に応じて、記憶媒体から画像情報を読み出し、読み出した画像情報を解析処理して、壁面2の状況を評価する。情報処理装置20は、評価結果を画面に表示する。たとえば、解析処理により、壁面2に亀裂等が見つかると、情報処理装置20は、ユーザにそのことを報知する画面を表示する。   When the inspection of the wall surface 2 is completed, the user collects the flying robot 10 and takes out the storage medium from the memory drive 50. The user mounts the removed storage medium on the information processing device 20. The information processing device 20 is composed of, for example, a personal computer. The information processing device 20 reads the image information from the storage medium according to the operation of the user, analyzes the read image information, and evaluates the situation of the wall surface 2. The information processing device 20 displays the evaluation result on the screen. For example, when a crack or the like is found on the wall surface 2 by the analysis process, the information processing device 20 displays a screen notifying the user of that.

図2(a)、(b)は、それぞれ、壁面計測装置30に配された走査検出部31の構成を示す平面図および側面図である。図2(a)、(b)には、図1に示した飛行ロボット10の前後、左右および上下の方向が示されている。また、図2(a)、(b)には、走査検出部31とともに演算処理部32が示されている。演算処理部32は、走査検出部31から出力される信号に基づいて、壁面2までの距離および壁面2の傾きを算出する。   2A and 2B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit 31 arranged in the wall surface measuring device 30. 2A and 2B show the front-back, left-right, and up-down directions of the flying robot 10 shown in FIG. 2A and 2B, the arithmetic processing unit 32 is shown together with the scanning detection unit 31. The arithmetic processing unit 32 calculates the distance to the wall surface 2 and the inclination of the wall surface 2 based on the signal output from the scan detection unit 31.

図2(a)、(b)に示すように、走査検出部31は、3つのミラー311、312、313と回転部314とを備える。3つのミラー311、312、313と回転部314は、支持部材315に設置されている。3つのミラー311、312、313は、回転部314を囲むように、所定の三角形の各辺に沿って配置されている。ミラー311、312、313は、それぞれ、板状の直方体形状を有し、回転部314側に反射面311a、312a、313aを有する。反射面311a、312a、313aは、それぞれ、平面である。ミラー311、312、313は、たとえば、樹脂等の軽量な素材からなる本体の側面に反射面311a、312a、313aを塗布または蒸着により形成することによって構成される。   As shown in FIGS. 2A and 2B, the scanning detection unit 31 includes three mirrors 311, 312, 313 and a rotating unit 314. The three mirrors 311, 312, 313 and the rotating portion 314 are installed on the support member 315. The three mirrors 311, 312, 313 are arranged along each side of a predetermined triangle so as to surround the rotating portion 314. The mirrors 311, 312, 313 each have a plate-like rectangular parallelepiped shape, and have reflecting surfaces 311a, 312a, 313a on the rotating unit 314 side. The reflection surfaces 311a, 312a, 313a are flat surfaces, respectively. The mirrors 311, 312, 313 are formed, for example, by forming reflecting surfaces 311a, 312a, 313a on the side surface of the main body made of a lightweight material such as resin by coating or vapor deposition.

ミラー311は、平面視において、反射面311aの長手方向が左右方向に平行となるように配置されている。ミラー312は、平面視において、反射面312aの長手方向が上下方向に対して所定角度だけ右方向に傾くように配置されている。ミラー313は、平面視において、反射面313aの長手方向が上下方向に対して所定角度だけ左方向に傾くように配置されている。ミラー312、313は、平面視において、上下方向に平行な対称軸について対称となる位置に配置され、この対称軸に、回転部314の回転軸が垂直に交差している。また、ミラー311は、平面視において、前記対称軸により2等分されるように配置されている。   The mirror 311 is arranged so that the longitudinal direction of the reflecting surface 311a is parallel to the left-right direction in a plan view. The mirror 312 is arranged such that the longitudinal direction of the reflecting surface 312a is inclined rightward by a predetermined angle with respect to the vertical direction in a plan view. The mirror 313 is arranged such that, in a plan view, the longitudinal direction of the reflecting surface 313a is inclined leftward by a predetermined angle with respect to the vertical direction. The mirrors 312 and 313 are arranged at positions symmetrical with respect to an axis of symmetry that is parallel to the vertical direction in a plan view, and the axis of rotation of the rotating unit 314 perpendicularly intersects the axis of symmetry. Further, the mirror 311 is arranged so as to be divided into two equal parts by the symmetry axis in a plan view.

なお、ミラー311、312、313の配置方法は、これに限られるものではない。後述のように、壁面2におけるレーザ光の3つの走査経路が三角形の各辺に略沿うように設定されれば、他の配置方法でミラー311、312、313が配置されてもよい。   The arrangement method of the mirrors 311, 312, 313 is not limited to this. As will be described later, if the three scanning paths of the laser light on the wall surface 2 are set so as to substantially follow each side of the triangle, the mirrors 311, 312, 313 may be arranged by another arrangement method.

回転部314は、飛行ロボット10の前後方向に平行な軸を回転軸として回転する。平面視において回転部314は円形である。回転部314の回転軸は平面視において回転部314の中心に位置付けられている。回転部314は、その側面から、回転軸に垂直な方向にレーザ光を出射する。回転部314の回転に伴って、レーザ光が回転する。ミラー311、312、313は、反射面311a、312a、313aが、それぞれ、回転部314から入射したレーザ光を、飛行ロボット10の前方向に反射するように、配置されている。ミラー311、312、313は、上下左右に平行な平面に対して、反射面311a、312a、313aが同じ角度で傾くように配置されている。なお、上下左右に平行な平面に対する反射面311a、312a、313aの傾き角は、必ずしも互いに同じでなくてもよい。   The rotating unit 314 rotates about an axis parallel to the front-back direction of the flying robot 10 as a rotation axis. The rotating unit 314 has a circular shape in a plan view. The rotation axis of the rotating unit 314 is positioned at the center of the rotating unit 314 in plan view. The rotating unit 314 emits laser light from its side surface in a direction perpendicular to the rotation axis. The laser light rotates as the rotating unit 314 rotates. The mirrors 311, 312, 313 are arranged such that the reflection surfaces 311 a, 312 a, 313 a respectively reflect the laser light incident from the rotating unit 314 in the forward direction of the flying robot 10. The mirrors 311, 312, 313 are arranged such that the reflection surfaces 311a, 312a, 313a are inclined at the same angle with respect to the plane parallel to the top, bottom, left and right. The tilt angles of the reflecting surfaces 311a, 312a, 313a with respect to the planes parallel to the top, bottom, left and right need not necessarily be the same.

図2(c)は、回転部314に保持された光学系の構成を示す図である。   FIG. 2C is a diagram showing the configuration of the optical system held by the rotating unit 314.

回転部314には、光源314aと、ミラー314bと、コリメータレンズ314cと、集光レンズ314dと、フィルタ314eと、ミラー314fと、光検出器314gとが設置されている。光源314aは、たとえば、所定波長のレーザ光を出射する半導体レーザである。光源314aから出射されたレーザ光は、ミラー314bで反射された後、コリメータレンズ314cで平行光に変換される。こうして平行光に変換されたレーザ光が、図2(a)に破線矢印で示すように、回転部314の側面から出射される。その後、レーザ光は、ミラー311、312、313の何れかにより反射され、図1に示す壁面2に照射される。   A light source 314a, a mirror 314b, a collimator lens 314c, a condenser lens 314d, a filter 314e, a mirror 314f, and a photodetector 314g are installed in the rotating unit 314. The light source 314a is, for example, a semiconductor laser that emits laser light having a predetermined wavelength. The laser light emitted from the light source 314a is reflected by the mirror 314b and then converted into parallel light by the collimator lens 314c. The laser light thus converted into parallel light is emitted from the side surface of the rotating unit 314, as indicated by the broken line arrow in FIG. After that, the laser light is reflected by any of the mirrors 311, 312, and 313, and irradiates the wall surface 2 shown in FIG.

壁面2で反射されたレーザ光は、集光レンズ314dによって集光される。フィルタ314eは、光源314aから出射されるレーザ光の波長以外の波長の光をカットする。集光レンズ314dで集光されたレーザ光は、フィルタ314eを透過し、さらに、ミラー314fで反射されて、光検出器314gに収束する。光検出器314gは、受光したレーザ光の強度に応じた信号を、図2(a)、(b)に示す演算処理部32に出力する。   The laser light reflected by the wall surface 2 is condensed by the condenser lens 314d. The filter 314e cuts light having a wavelength other than the wavelength of the laser light emitted from the light source 314a. The laser light condensed by the condenser lens 314d passes through the filter 314e, is further reflected by the mirror 314f, and is converged on the photodetector 314g. The photodetector 314g outputs a signal according to the intensity of the received laser beam to the arithmetic processing unit 32 shown in FIGS. 2A and 2B.

回転部314の側面は、たとえば、コリメータレンズ314cから壁面2に向かうレーザ光の通過位置と、壁面2から集光レンズ314dに向かうレーザ光の通過位置が開放されている。あるいは、回転部314の側面の全てが、光を透過可能なカバーによって覆われていてもよい。   On the side surface of the rotating portion 314, for example, a laser light passage position from the collimator lens 314c toward the wall surface 2 and a laser light passage position from the wall surface 2 toward the condenser lens 314d are open. Alternatively, the entire side surface of the rotating portion 314 may be covered with a light-transmittable cover.

壁面計測動作時、回転部314は、光源314aを駆動した状態で回転する。これにより、図2(c)の光学系と光源314aおよび光検出器314gが一体的に回転する。こうして、上記のように、回転部314の側面から出射されるレーザ光が、回転部314の回転に伴い回転する。光源314aは、一定周期でパルス状に発振される。演算処理部32は、光源314aから出射されるレーザ光と光検出器314gによって受光されるレーザ光との位相差により、壁面2までの距離を計測する。   During the wall surface measurement operation, the rotating unit 314 rotates while driving the light source 314a. As a result, the optical system of FIG. 2C, the light source 314a, and the photodetector 314g rotate integrally. Thus, as described above, the laser light emitted from the side surface of the rotating unit 314 rotates as the rotating unit 314 rotates. The light source 314a is oscillated in a pulse shape at a constant cycle. The arithmetic processing unit 32 measures the distance to the wall surface 2 based on the phase difference between the laser light emitted from the light source 314a and the laser light received by the photodetector 314g.

図2(d)は、物体までの距離を計測する手法を説明するタイミングチャートである。   FIG. 2D is a timing chart illustrating a method of measuring the distance to the object.

図2(d)の上段は、光源314aを駆動する駆動信号(パルス列)を示し、図2(d)の下段は、光検出器314gから出力される検出信号(パルス列)を示している。演算処理部32は、駆動信号と検出信号との間の位相差D1に基づいて、タイミングt1で出射されたレーザ光が照射された壁面2の位置までの距離を計測する。具体的には、演算処理部32は、位相差D1と光速とを乗算して距離を算出する。他のタイミングにおいても、同様に、壁面2までの距離が計測される。他のパルスのタイミングにおいても同様の処理により、壁面2までの距離が計測される。   The upper part of FIG. 2D shows a drive signal (pulse train) for driving the light source 314a, and the lower part of FIG. 2D shows a detection signal (pulse train) output from the photodetector 314g. The arithmetic processing unit 32 measures the distance to the position of the wall surface 2 irradiated with the laser light emitted at the timing t1 based on the phase difference D1 between the drive signal and the detection signal. Specifically, the arithmetic processing unit 32 calculates the distance by multiplying the phase difference D1 and the speed of light. Similarly at other timings, the distance to the wall surface 2 is measured. The distance to the wall surface 2 is measured by similar processing at the timing of other pulses.

なお、回転部314から壁面2に照射されるレーザ光は、必ずしも、パルスでなくてもよく、正弦波であってもよい。たとえば、走査経路上の各タイミングにおいて、正弦波のレーザ光を数周期分、壁面2に照射し、壁面2からの反射光の位相を検波回路で検知する、いわゆるチャープ式の距離計測方法を用いてもよい。レーザ光を用いた距離検出の手法として、従来周知の種々の手法を用いることができる。   The laser light emitted from the rotating unit 314 to the wall surface 2 is not necessarily a pulse and may be a sine wave. For example, at each timing on the scanning path, a so-called chirp-type distance measuring method is used in which a wall surface 2 is irradiated with a sinusoidal laser beam for several cycles and the phase of light reflected from the wall surface 2 is detected by a detection circuit. May be. As a distance detection method using laser light, various conventionally known methods can be used.

図3(a)は、回転部314を回転させた際のレーザ光の走査経路を模式的に示す図である。図3(a)には、壁面計測装置30の前後方向に垂直な壁面2を壁面計測装置30の前側から壁面計測装置30の後方に向かって透視した場合の走査経路が示されている。図3(a)にも、図1に示した飛行ロボット10の左右および上下の方向が示されている。   FIG. 3A is a diagram schematically showing the scanning path of the laser light when the rotating unit 314 is rotated. FIG. 3A shows a scanning path when the wall surface 2 perpendicular to the front-back direction of the wall surface measuring device 30 is seen through from the front side of the wall surface measuring device 30 toward the rear of the wall surface measuring device 30. FIG. 3A also shows the left, right, up and down directions of the flying robot 10 shown in FIG.

走査経路L1は、回転部314から出射されるレーザ光が図2(a)の反射面311aに入射する期間に、レーザ光が壁面2を移動する走査経路である。走査経路L2は、回転部314から出射されるレーザ光が図2(a)の反射面312aに入射する期間に、レーザ光が壁面2を移動する走査経路である。走査経路L3は、回転部314から出射されるレーザ光が図2(a)の反射面313aに入射する期間に、レーザ光が壁面2を移動する走査経路である。   The scanning path L1 is a scanning path in which the laser light moves on the wall surface 2 while the laser light emitted from the rotating unit 314 is incident on the reflecting surface 311a of FIG. The scanning path L2 is a scanning path through which the laser light moves on the wall surface 2 during a period in which the laser light emitted from the rotating unit 314 is incident on the reflection surface 312a of FIG. The scanning path L3 is a scanning path in which the laser light moves on the wall surface 2 while the laser light emitted from the rotating unit 314 is incident on the reflecting surface 313a of FIG.

図3(a)に示すように、本実施の形態では、図2(a)に示す3つのミラー311、312、313によって、壁面2に3つの走査経路L1、L2、L3が設定される。壁面2が壁面計測装置30の前後方向に垂直である場合、すなわち、壁面2が壁面計測装置30に正対向する平面である場合、図3(a)に示すように、走査経路L1、L2、L3は、三角形の各辺に略沿うように設定される。   As shown in FIG. 3A, in this embodiment, three scanning paths L1, L2, L3 are set on the wall surface 2 by the three mirrors 311, 312, 313 shown in FIG. 2A. When the wall surface 2 is perpendicular to the front-back direction of the wall surface measuring device 30, that is, when the wall surface 2 is a plane that directly faces the wall surface measuring device 30, as shown in FIG. 3A, the scanning paths L1, L2, L3 is set to be substantially along each side of the triangle.

図2(a)、(b)に示す演算処理部32は、図2(c)の光検出器314gからの検出信号に基づいて、図3(a)に示す走査経路L1、L2、L3に沿って、所定間隔ごとに、壁面2までの距離を計測する。そして、演算処理部32は、計測した距離と、そのタイミングにおけるレーザ光の走査位置とから、回転部314が1回転する間の3次元座標点群を取得し、取得した3次元の座標点群に整合する平面を、壁面2として取得する。   The arithmetic processing unit 32 shown in FIGS. 2(a) and 2(b) performs scanning paths L1, L2, L3 shown in FIG. 3(a) based on the detection signal from the photodetector 314g of FIG. 2(c). Along this, the distance to the wall surface 2 is measured at predetermined intervals. Then, the arithmetic processing unit 32 acquires a three-dimensional coordinate point group during one rotation of the rotating unit 314 from the measured distance and the scanning position of the laser light at that timing, and the acquired three-dimensional coordinate point group. A plane matching with is acquired as the wall surface 2.

なお、3つのミラー311、312、313で反射されたレーザ光の距離計測の起点が光源314aの鏡像位置になるため、ミラー311、312、313ごとに起点位置が異なることになる。このため、演算処理部32は、ミラー311、312、313ごとの起点位置からの距離により、壁面2上の光点(レーザ光の照射点)の3次元位置を算出する。   Since the origin of distance measurement of the laser light reflected by the three mirrors 311, 312, 313 is the mirror image position of the light source 314a, the origin positions of the mirrors 311, 312, 313 are different. Therefore, the arithmetic processing unit 32 calculates the three-dimensional position of the light spot (irradiation point of laser light) on the wall surface 2 based on the distance from the starting position for each of the mirrors 311, 312, and 313.

図3(b)は、壁面2の検出方法を説明するための図である。この検出方法は、ハフ変換に基づく壁面2の検出方法である。   FIG. 3B is a diagram for explaining a method of detecting the wall surface 2. This detection method is a method for detecting the wall surface 2 based on Hough transform.

図3(b)において、点O(0,0,0)は、撮像装置40の視点(第一主点)である。撮像装置40の撮像方向は、図3(b)のy軸方向である。この場合、点Oから所定の平面H上に下した垂線の足を点P(p,p、p)、平面H上の点P以外の任意の点をQ(q,q、q)とすると、次式が成り立つ。 In FIG. 3B, the point O(0,0,0) is the viewpoint (first principal point) of the imaging device 40. The imaging direction of the imaging device 40 is the y-axis direction in FIG. In this case, the point O from the predetermined plane H on the beat was perpendicular foot point P (p x, p y, p z), an arbitrary point other than the point P on the plane H Q (q x, q y , Q z ), the following equation holds.

{p,p,p}・{(q−p),(q−p),(q−p)}T=0 … (1) {P x, p y, p z} · {(q x -p x), (q y -p y), (q z -p y)} T = 0 ... (1)

また、OPの長さをρ、OPの方向を図3(b)に示す角度φ、θで表すと、以下の関係が成り立つ。   Further, when the length of OP is represented by ρ and the direction of OP is represented by angles φ and θ shown in FIG. 3B, the following relationship is established.

=ρcosθ・cosφ
=ρcosθ・sinφ
=ρsinθ
p x =ρ cos θ·cos φ
p y =ρ cos θ·sin φ
p z =ρ sin θ

投票による探索のために、P1≦ρ≦P2、φ1≦φ≦φ2、θ1≦θ≦θ2の範囲で一定のきざみで各変数を振って平面Hを変化させる3重ループを構成する。このループの内側において、上述の距離計測結果で得られた各3次元座標点R(r,r,r)について、式(1)より、次式のeが一定の値ε以下の場合に、その平面Hに1票を投じる。 For the search by voting, a triple loop that changes the plane H by swinging each variable in constant steps in the range of P1≦ρ≦P2, φ1≦φ≦φ2, θ1≦θ≦θ2 is configured. Inside this loop, for each three-dimensional coordinate point R(r x , r y , r z ) obtained from the above distance measurement result, from the equation (1), e in the following equation is equal to or less than a constant value ε. In that case, cast one vote on the plane H.

e=p+p+p−ρ2 e=p x r x +p y r y +p z r z −ρ 2

すなわち、ρ、φ、θを上記範囲で変化させて得られる平面Hに、距離計測結果の各3次元座標点R(r,r,r)が含まれると見做せる場合に、その平面に1票を投じる。この処理を、処理対象とされる全ての3次元座標点R(r,r,r)について実行し、平面Hに対する投票数(点数)を求める。こうして、投票数が最も多かった平面Hを壁面2として取得する。 That is, when it can be considered that the plane H obtained by changing ρ, φ, and θ within the above range includes each three-dimensional coordinate point R (r x , r y , r z ) of the distance measurement result, Cast one vote on the plane. This process is executed for all three-dimensional coordinate points R(r x , r y , r z ) to be processed, and the number of votes (points) for the plane H is obtained. In this way, the plane H having the largest number of votes is acquired as the wall surface 2.

演算処理部32は、図2(c)の光検出器314gからの検出信号に基づく距離計測により得た3次元座標点群について、上記処理を実行し、3次元座標点群に整合する平面Hを、壁面2として取得する。そして、演算処理部32は、壁面2として取得した平面Hにおける変数ρの値を壁面2までの距離として取得し、また、この平面Hの変数φ、θの値を壁面2の傾きとして取得する。   The arithmetic processing unit 32 executes the above processing on the three-dimensional coordinate point group obtained by distance measurement based on the detection signal from the photodetector 314g of FIG. 2C, and the plane H that matches the three-dimensional coordinate point group. Is acquired as the wall surface 2. Then, the arithmetic processing unit 32 acquires the value of the variable ρ on the plane H acquired as the wall surface 2 as the distance to the wall surface 2, and also acquires the values of the variables φ and θ of the plane H as the inclination of the wall surface 2. ..

図4は、飛行ロボット10の構成を示すブロック図である。   FIG. 4 is a block diagram showing the configuration of the flying robot 10.

飛行ロボット10は、位置検出部81と、プロペラ駆動部82と、無線通信部83と、制御部84と、インタフェース85とを備える。   The flying robot 10 includes a position detection unit 81, a propeller drive unit 82, a wireless communication unit 83, a control unit 84, and an interface 85.

位置検出部81は、図1に示すシャフト13、滑車14および滑車14の回転軸に配置されたエンコーダを含む。プロペラ駆動部82は、図1に示すプロペラ11を駆動するモータを含む。無線通信部83は、図1に示すリモートコントロール装置60と通信を行う。制御部84は、CPU(Central Processing Unit)等の処理回路とROM(Read OnlyMemory)、RAM(Random Access Memory)等のメモリを備え、メモリに保持されたプログラムに従って各部を制御する。インタフェース85は、壁面計測装置30および撮像装置40と通信を行うためのインタフェースである。   The position detection unit 81 includes the shaft 13, the pulley 14, and the encoder arranged on the rotation shaft of the pulley 14 shown in FIG. 1. The propeller drive unit 82 includes a motor that drives the propeller 11 shown in FIG. The wireless communication unit 83 communicates with the remote control device 60 shown in FIG. The control unit 84 includes a processing circuit such as a CPU (Central Processing Unit) and a memory such as a ROM (Read Only Memory) and a RAM (Random Access Memory), and controls each unit according to a program stored in the memory. The interface 85 is an interface for communicating with the wall surface measuring device 30 and the imaging device 40.

壁面計測装置30は、図2(a)、(b)に示す走査検出部31および演算処理部32に他に、制御部33と、インタフェース34とを備える。制御部33は、CPU等の処理回路とROM、RAM等のメモリを備え、メモリに保持されたプログラムに従って各部を制御する。インタフェース34は、制御部84と通信を行うためのインタフェースである。   The wall surface measuring device 30 includes a control unit 33 and an interface 34 in addition to the scan detection unit 31 and the arithmetic processing unit 32 shown in FIGS. The control unit 33 includes a processing circuit such as a CPU and a memory such as a ROM and a RAM, and controls each unit according to a program stored in the memory. The interface 34 is an interface for communicating with the control unit 84.

撮像装置40は、カメラ部41と、画像処理部42と、制御部43と、インタフェース44とを備える。カメラ部41は、撮像レンズやイメージセンサ等の光学ブロックを含む。画像処理部42は、カメラ部41から入力される撮像データを所定の圧縮方式で圧縮し画像データを生成する。制御部43は、CPU等の処理回路とROM、RAM等のメモリを備え、メモリに保持されたプログラムに従って各部を制御する。インタフェース44は、制御部84およびメモリドライブ50と通信を行うためのインタフェースである。   The imaging device 40 includes a camera unit 41, an image processing unit 42, a control unit 43, and an interface 44. The camera unit 41 includes optical blocks such as an imaging lens and an image sensor. The image processing unit 42 compresses the imaged data input from the camera unit 41 by a predetermined compression method to generate image data. The control unit 43 includes a processing circuit such as a CPU and a memory such as a ROM and a RAM, and controls each unit according to a program stored in the memory. The interface 44 is an interface for communicating with the control unit 84 and the memory drive 50.

壁面検査動作時において、壁面計測装置30の制御部33は、演算処理部32により算出された壁面2までの距離および壁面2の傾きを、制御部84に送信する。制御部84は、壁面計測装置30から受信した情報に基づいて、プロペラ駆動部82を制御する。制御部84は、演算処理部32から受信した壁面2までの距離および壁面2の傾きに基づいて、撮像装置40の撮像方向が壁面2に対して略垂直となり、且つ、滑車14が壁面2に接触するように、自身の位置および姿勢を制御する。   During the wall surface inspection operation, the control unit 33 of the wall surface measuring device 30 transmits the distance to the wall surface 2 and the inclination of the wall surface 2 calculated by the arithmetic processing unit 32 to the control unit 84. The control unit 84 controls the propeller drive unit 82 based on the information received from the wall surface measuring device 30. Based on the distance to the wall surface 2 and the inclination of the wall surface 2 received from the arithmetic processing unit 32, the control unit 84 causes the imaging direction of the imaging device 40 to be substantially perpendicular to the wall surface 2, and the pulley 14 on the wall surface 2. Controls its own position and attitude to make contact.

また、壁面検査動作時において、撮像装置40の制御部43は、画像処理部42により生成された画像データを随時、制御部84に送信する。制御部84は、受信した画像データを位置検出部81により検出された壁面2の位置を示す位置データに対応付けて、メモリドライブ50に保持された記憶媒体51に書き込む。この際、飛行ロボット10内の時計(図示せず)によって取得された時刻データが記憶媒体51に併せて記憶される。飛行ロボット10内の時計は、予め、情報処理装置20の時計と時刻が合わされている。   Further, during the wall surface inspection operation, the control unit 43 of the imaging device 40 transmits the image data generated by the image processing unit 42 to the control unit 84 at any time. The control unit 84 writes the received image data in the storage medium 51 held in the memory drive 50 in association with the position data indicating the position of the wall surface 2 detected by the position detection unit 81. At this time, the time data acquired by the clock (not shown) in the flying robot 10 is also stored in the storage medium 51. The clock in the flying robot 10 is set in advance with the clock of the information processing device 20.

なお、画像データは、撮像装置40の制御部43が直接、メモリドライブ50の記憶媒体51に書き込んでもよい。この場合、飛行ロボット10本体側の制御部84は、位置検出部81によって検出された位置データを、随時、記憶媒体51上の、画像データに対応するアドレスに書き込む。   Note that the image data may be directly written in the storage medium 51 of the memory drive 50 by the control unit 43 of the imaging device 40. In this case, the control unit 84 on the main body side of the flying robot 10 writes the position data detected by the position detection unit 81 to the address corresponding to the image data on the storage medium 51 as needed.

図5(a)は、壁面計測動作時における壁面計測装置30の処理を示すフローチャートである。   FIG. 5A is a flowchart showing the processing of the wall surface measuring device 30 during the wall surface measuring operation.

壁面計測装置30の制御部33は、図2(c)の光源314aを駆動した状態で、図2(a)、(b)の回転部314を1回転させ、壁面2をレーザ光で走査する(S11)。制御部33は、この走査において所定の間隔で、壁面2までの距離を計測する処理を演算処理部32に実行させ、3次元座標点群を取得させる(S12)。さらに、制御部33は、取得した3次元座標点群に基づいて、壁面2の傾きを計測する処理を演算処理部32実行させる(S13)。制御部33は、演算処理部32が計測した距離と傾きを、飛行ロボット10本体側の制御部84に送信する(S14)。   The control unit 33 of the wall surface measurement device 30 drives the light source 314a of FIG. 2C to rotate the rotating unit 314 of FIGS. 2A and 2B once to scan the wall surface 2 with laser light. (S11). The control unit 33 causes the arithmetic processing unit 32 to perform a process of measuring the distance to the wall surface 2 at a predetermined interval in this scanning, and obtain a three-dimensional coordinate point group (S12). Further, the control unit 33 causes the arithmetic processing unit 32 to execute a process of measuring the inclination of the wall surface 2 based on the acquired three-dimensional coordinate point group (S13). The control unit 33 transmits the distance and the inclination measured by the arithmetic processing unit 32 to the control unit 84 on the main body of the flying robot 10 (S14).

その後、制御部33は、壁面計測動作の終了が指示されたか否かを判定する(S15)。壁面計測動作の終了指示がなされていない場合(S15:NO)、制御部33は、処理をステップS11に戻して、壁面2の計測処理を継続する。壁面計測動作の終了指示がなされていると(S15:NO)、制御部33は、処理を終了する。   After that, the control unit 33 determines whether or not the end of the wall surface measuring operation is instructed (S15). When the end instruction of the wall surface measurement operation has not been issued (S15: NO), the control unit 33 returns the processing to step S11 and continues the measurement processing of the wall surface 2. When the end instruction of the wall surface measurement operation is issued (S15: NO), the control unit 33 ends the process.

図5(b)は、図5(a)のステップS13において実行される壁面計測処理を示すフローチャートである。   FIG. 5B is a flowchart showing the wall surface measurement process executed in step S13 of FIG. 5A.

演算処理部32は、図3(b)を参照して説明したように、変数ρ、φ、θに所定の値を与えて平面Hを設定する(S101)。演算処理部32は、設定した平面Hに3次元座標点Rが含まれている場合(S102:YES)、設定した平面Hに1点を加算する(S103)。設定した平面Hに3次元座標点Rが含まれていない場合(S102:NO)、演算処理部32は、設定した平面Hに1点を加算しない。演算処理部32は、ステップS102、S103の処理を全ての3次元座標点について実行し(S104)、当該平面Hに対する点数を決定する。   The arithmetic processing unit 32 sets the plane H by giving predetermined values to the variables ρ, φ, and θ, as described with reference to FIG. 3B (S101). When the set plane H includes the three-dimensional coordinate point R (S102: YES), the arithmetic processing unit 32 adds one point to the set plane H (S103). When the set plane H does not include the three-dimensional coordinate point R (S102: NO), the arithmetic processing unit 32 does not add one point to the set plane H. The arithmetic processing unit 32 executes the processing of steps S102 and S103 for all three-dimensional coordinate points (S104), and determines the score for the plane H.

その後、演算処理部32は、変数ρ、φ、θを変化させ得る範囲の全ての平面Hについて、ステップS102〜S104の処理が終了したか否かを判定する(S105)。全ての平面Hについて、ステップS102〜S104の処理が終了していない場合(S105:NO)、演算処理部32は、変数ρ、φ、θに所定の値を与えて、新たに平面Hを設定する(S101)。そして、演算処理部32は、新たに設定した平面Hに対して、ステップS102〜S104の処理を実行し、当該平面Hに対する点数を決定する。   After that, the arithmetic processing unit 32 determines whether or not the processes of steps S102 to S104 have been completed for all planes H in the range in which the variables ρ, φ, and θ can be changed (S105). When the processes of steps S102 to S104 have not been completed for all the planes H (S105: NO), the arithmetic processing unit 32 sets a new plane H by giving predetermined values to the variables ρ, φ, and θ. Yes (S101). Then, the arithmetic processing unit 32 executes the processing of steps S102 to S104 on the newly set plane H to determine the score for the plane H.

こうして、全ての平面Hについて点数を決定した後(S105:YES)、演算処理部32は、点数が最も高い平面Hを、壁面2に設定する(S106)。そして、この平面Hまでの距離、すなわち、図3(b)のρを壁面2までの距離として取得し、この平面Hの傾き、すなわち、図3(b)のφ、θを壁面2の傾きとして取得する。これらの距離ρおよび傾きφ、θは、図5(a)のステップS14の処理により、飛行ロボット10本体側の制御部84に送信される。これを受けて、飛行ロボット10の制御部84は、上記のように、自身の位置および姿勢を制御する。   After determining the scores for all the planes H (S105: YES), the arithmetic processing unit 32 sets the plane H having the highest score on the wall surface 2 (S106). Then, the distance to the plane H, that is, ρ in FIG. 3B is acquired as the distance to the wall surface 2, and the inclination of this plane H, that is, φ and θ in FIG. 3B, is the inclination of the wall surface 2. To get as. The distance ρ and the inclinations φ and θ are transmitted to the control unit 84 on the main body side of the flying robot 10 by the process of step S14 of FIG. In response to this, the control unit 84 of the flying robot 10 controls its own position and attitude as described above.

なお、図5(a)のステップS12で取得される3次元座標点群については、飛行ロボット10に近すぎる座標点および飛行ロボット10から遠すぎる座標点をステップS13における処理対象から除外することが好ましい。たとえば、図1のシャフト13および滑車14により決定される壁面計測装置30からの距離に対して、飛行ロボット10に近づく方向と離れる方向とに距離の閾値を設定し、これら閾値間の範囲から外れる距離の座標点を処理対象から除外する。こうすると、演算処理に要する時間を短縮できる。なお、除外した座標点の数が多い場合は、壁面2の検査位置が壁面2の端付近にあると判定してもよく、あるいは、距離探索に異常があったと判定としてもよい。   Regarding the three-dimensional coordinate point group acquired in step S12 of FIG. 5A, the coordinate points too close to the flying robot 10 and the coordinate points too far from the flying robot 10 may be excluded from the processing target in step S13. preferable. For example, with respect to the distance from the wall surface measuring device 30 determined by the shaft 13 and the pulley 14 in FIG. 1, thresholds of distances are set in a direction approaching the flight robot 10 and a direction departing from the flight robot 10, and the distance is out of the range between these thresholds. Exclude the coordinate points of the distance from the processing target. This can reduce the time required for the arithmetic processing. When the number of excluded coordinate points is large, it may be determined that the inspection position of the wall surface 2 is near the end of the wall surface 2, or it may be determined that the distance search is abnormal.

また、図5(a)の工程が2回目以降において実行される場合、図5(b)のステップS101において設定される壁面Hは、前回の工程によって算出された距離および傾きの壁面を基準として、所定の範囲でパラメータを振って、設定することが好ましい。こうすると、壁面Hを振るパラメータの範囲を極力小さくでき、ハフ変換に基づく壁面の探索処理を高速化できる。   Further, when the step of FIG. 5A is executed after the second time, the wall surface H set in step S101 of FIG. 5B is based on the wall surface of the distance and the inclination calculated in the previous step. It is preferable to set the parameters by shaking them in a predetermined range. By doing so, the range of parameters for shaking the wall surface H can be minimized, and the wall surface search processing based on the Hough transform can be speeded up.

なお、上記のように、図5(a)のステップS12で取得される3次元座標点群について、飛行ロボット10に近すぎる座標点および飛行ロボット10から遠すぎる座標点をステップS13における処理対象から除外する場合、全体の座標点に対して除外する座標点の比率が多い場合は、壁面2の検査位置が壁面2の端付近である可能性がある。この場合、壁面2の端に他の壁面が続くコーナー部分に検査位置が差し掛かりつつあることが想定され得る。したがって、このように除外する座標点の比率が多い場合は、2番目に点数が高い平面Hや、3番目に点数が高い平面Hが最も点数が高い平面Hに繋がる平面となり得るかを判定してもよい。そして、これらの平面Hが最も点数が高い平面Hに繋がる平面となり得ると判定できる場合は、最も点数が高い平面Hが飛行ロボット10の正面にある検査対象の壁面Hの平面であると判定してもよい。   As described above, regarding the three-dimensional coordinate point group acquired in step S12 of FIG. 5A, the coordinate points that are too close to the flying robot 10 and the coordinate points that are too far from the flying robot 10 are selected from the processing targets in step S13. In the case of excluding, if the ratio of the excluding coordinate points to the whole coordinate points is large, the inspection position of the wall surface 2 may be near the end of the wall surface 2. In this case, it can be assumed that the inspection position is approaching the corner portion where another wall surface follows the end of the wall surface 2. Therefore, when the ratio of coordinate points to be excluded is large as described above, it is determined whether the plane H having the second highest score or the plane H having the third highest score can be a plane connected to the plane H having the highest score. May be. When it can be determined that these planes H can be connected to the plane H having the highest score, it is determined that the plane H having the highest score is the plane of the wall surface H to be inspected in front of the flying robot 10. May be.

<実施の形態の効果>
本実施の形態によれば、以下の効果が奏され得る。
<Effects of the embodiment>
According to this embodiment, the following effects can be achieved.

壁面計測装置30は、レーザ光を走査させるための構成として、1軸周りに回転する回転部314と、レーザ光を反射するミラー311、312、313を設けるのみでよい。このため、レーザ光を水平方向および垂直方向にそれぞれ個別に走査させるための2つのアクチュエータを設ける場合に比べて、壁面計測装置30の質量を顕著に小さくできる。よって、壁面計測装置30を飛行ロボット10に搭載する場合に、飛行ロボット10にかかる負荷を効果的に抑制できる。また、回転部314とミラー311、312、313を配置する構成であるため、壁面計測装置30の簡素化および小型化を図ることができる。よって、この点からも、壁面計測装置30を飛行ロボット10に円滑に搭載させ得る。   The wall surface measuring device 30 need only be provided with a rotating unit 314 that rotates about one axis and mirrors 311, 312, and 313 that reflect the laser light, as a configuration for scanning the laser light. Therefore, the mass of the wall surface measuring device 30 can be significantly reduced as compared with the case where two actuators for individually scanning the laser light in the horizontal direction and the vertical direction are provided. Therefore, when the wall surface measuring device 30 is mounted on the flying robot 10, the load on the flying robot 10 can be effectively suppressed. Further, since the rotating unit 314 and the mirrors 311, 312, 313 are arranged, the wall surface measuring device 30 can be simplified and downsized. Therefore, also from this point, the wall surface measuring device 30 can be smoothly mounted on the flying robot 10.

また、本実施の形態では、図2(a)、(b)に示すように、回転部314を囲むように配置された3つのミラー311、312、313によってレーザ光の光軸を折り曲げることにより、各ミラーに対応する3つの走査経路L1、L2、L3で壁面2が走査される。このように、3つの走査経路L1、L2、L3で壁面2を走査することにより、壁面2の探索に用いる3次元座標点群を分散させつつ座標点群の数を多くできる。よって、壁面2の探索精度を高めることができる。   Further, in the present embodiment, as shown in FIGS. 2A and 2B, the optical axis of the laser light is bent by the three mirrors 311, 312, 313 arranged so as to surround the rotating portion 314. , The wall surface 2 is scanned by three scanning paths L1, L2, L3 corresponding to each mirror. In this manner, by scanning the wall surface 2 with the three scanning paths L1, L2, and L3, the number of coordinate point groups can be increased while dispersing the three-dimensional coordinate point group used for searching the wall surface 2. Therefore, the search accuracy of the wall surface 2 can be improved.

また、本実施の形態では、図3(a)に示すように、三角形に略沿った3つの走査経路L1、L2、L3でレーザ光を走査させて壁面2が探索される。このため、探索された壁面2は、正規の壁面に対して、どの方向においても傾きの誤差(ブレ)が生じにくい。よって、壁面2の計測精度を高めることができる。   Further, in the present embodiment, as shown in FIG. 3A, the wall surface 2 is searched by scanning the laser light on three scanning paths L1, L2, and L3 substantially along the triangle. For this reason, the searched wall surface 2 is unlikely to cause an inclination error (blurring) in any direction with respect to the regular wall surface. Therefore, the measurement accuracy of the wall surface 2 can be improved.

また、本実施の形態では、図2(a)、(b)に示すように、ミラー311、312、313の反射面311a、312a、313aが、平面、且つ、一方向に長い形状を有し、回転部314の回転に伴いレーザ光の光軸が反射面311a、312a、313aの長手方向に移動するように、ミラー311、312、313が配置されている。これにより、簡素な構成のミラー311、312、313を用いながら、壁面2における走査軌跡L1、L2、L3を3方向に設定できる。このため、壁面2の計測精度を高めることができる。   Further, in the present embodiment, as shown in FIGS. 2A and 2B, the reflecting surfaces 311a, 312a, 313a of the mirrors 311, 312, 313 have a plane shape and a shape elongated in one direction. The mirrors 311, 312, 313 are arranged so that the optical axis of the laser beam moves in the longitudinal direction of the reflecting surfaces 311a, 312a, 313a as the rotating section 314 rotates. Thereby, the scanning loci L1, L2, L3 on the wall surface 2 can be set in three directions while using the mirrors 311, 312, 313 having a simple structure. Therefore, the measurement accuracy of the wall surface 2 can be improved.

また、本実施の形態において、演算処理部32は、図3(b)を参照して説明したように、平面Hまでの距離および平面Hの傾きを変化させてその平面Hに含まれる3次元座標点群の数を計数し、計数した数が最も多い平面Hを、壁面2として取得するよう構成されている。これにより、3次元座標点群から円滑かつ精度良く、壁面2が検出され得る。   Further, in the present embodiment, as described with reference to FIG. 3B, the arithmetic processing unit 32 changes the distance to the plane H and the inclination of the plane H to change the three-dimensional shape included in the plane H. The number of coordinate point groups is counted, and the plane H having the largest counted number is acquired as the wall surface 2. Thereby, the wall surface 2 can be detected smoothly and accurately from the three-dimensional coordinate point group.

また、飛行ロボット10は、上記のように質量が抑制された壁面計測装置30が搭載されるため、飛行の際の負荷が軽減される。よって、円滑かつ安定的に目標の壁面位置へと飛行して壁面2の撮像を行うことができる。さらに、壁面検査システム1は、このような構成の飛行ロボット10を用いるため、円滑かつ安定的に壁面2の撮像を行うことができ、壁面2の検査を円滑に進めることができる。   Further, since the flight robot 10 is equipped with the wall surface measuring device 30 whose mass is suppressed as described above, the load during flight is reduced. Therefore, it is possible to smoothly and stably fly to the target wall surface position and image the wall surface 2. Furthermore, since the wall surface inspection system 1 uses the flight robot 10 having such a configuration, the wall surface 2 can be smoothly and stably imaged, and the wall surface 2 can be smoothly inspected.

以上、本発明の実施の形態について説明したが、本発明は、上記実施の形態によって制限されるものではなく、本発明の実施形態も、上記以外に種々の変更が可能である。   Although the embodiment of the present invention has been described above, the present invention is not limited to the above embodiment, and the embodiment of the present invention can be modified in various ways other than the above.

<変更例1>
上記実施の形態では、3つのミラー311、312、313を用いて壁面2に3つの走査経路L1、L2、L3が設定された。これに対し、変更例1では、ミラー311が省略され、2つのミラー312、313を用いて壁面2に3つの走査経路L1、L2、L3が設定される。
<Modification 1>
In the above embodiment, the three scanning paths L1, L2, L3 are set on the wall surface 2 by using the three mirrors 311, 312, 313. On the other hand, in the first modification, the mirror 311 is omitted, and the two scanning paths L1, L2, and L3 are set on the wall surface 2 by using the two mirrors 312 and 313.

図6(a)、(b)は、それぞれ、変更例1に係る走査検出部31の構成を示す平面図および側面図である。図6(a)、(b)には、図1に示した飛行ロボット10の前後、左右および上下の方向が示されている。また、図2(a)、(b)には、走査検出部31とともに演算処理部32が示されている。演算処理部32は、上記実施の形態と同様、走査検出部31から出力される信号に基づいて、壁面2までの距離および壁面2の傾きを算出する。   6A and 6B are a plan view and a side view, respectively, showing the configuration of the scan detection unit 31 according to the first modification. 6A and 6B show the front-back, left-right, and up-down directions of the flying robot 10 shown in FIG. 2A and 2B, the arithmetic processing unit 32 is shown together with the scanning detection unit 31. The arithmetic processing unit 32 calculates the distance to the wall surface 2 and the inclination of the wall surface 2 based on the signal output from the scanning detection unit 31, as in the above embodiment.

図6(a)、(b)に示すように、壁面計測装置30の走査検出部31は、回転部314を挟むように2つのミラー312、313が配置されている。そして、回転部314の側面から出射されたレーザ光の光軸をこれら2つのミラー312、313で折り曲げることにより、各ミラーに対応する2つの走査経路を含む3つの走査経路で壁面2が走査されるよう構成されている。回転部314の構成は、上記実施の形態と同様である。   As shown in FIGS. 6A and 6B, in the scan detection unit 31 of the wall surface measuring device 30, two mirrors 312 and 313 are arranged so as to sandwich the rotating unit 314. Then, the optical axis of the laser beam emitted from the side surface of the rotating unit 314 is bent by these two mirrors 312 and 313, so that the wall surface 2 is scanned by three scanning paths including two scanning paths corresponding to each mirror. Is configured. The configuration of the rotating unit 314 is similar to that of the above-mentioned embodiment.

なお、図6(a)、(b)の前後方向および上下方向は、図2(a)、(b)の前後方向および上下方向と異なっている。すなわち、変更例1では、反射面312a、313aによってレーザ光が前方に反射されるように、上下左右に平行な平面に対する反射面312a、313aの傾き角が、図2(a)、(b)の場合に比べて、90度に近づくように設定されている。より詳細には、前後方向に垂直な壁面2において、反射面312a、313aによって前方向に反射されたレーザ光が、それぞれ、図6(c)の走査経路L2、L3を辿るように、反射面312a、313aの傾き角と配置が調整されている。なお、図6(c)の走査経路L1は、ミラー312、313の前側の隙間をレーザ光が通過する期間に、壁面2に設定されるレーザ光の走査経路である。   The front-back direction and the vertical direction in FIGS. 6A and 6B are different from the front-back direction and the vertical direction in FIGS. 2A and 2B. That is, in the first modification, the tilt angles of the reflecting surfaces 312a and 313a with respect to the planes parallel to the upper, lower, left and right sides are as shown in FIGS. It is set so as to approach 90 degrees as compared with the case. More specifically, on the wall surface 2 perpendicular to the front-rear direction, the laser light reflected in the front direction by the reflection surfaces 312a and 313a follows the scanning paths L2 and L3 of FIG. 6C, respectively. The tilt angles and arrangements of 312a and 313a are adjusted. The scanning path L1 in FIG. 6C is the scanning path of the laser light set on the wall surface 2 during the period in which the laser light passes through the gap on the front side of the mirrors 312 and 313.

図6(c)に示す走査経路L1、L2、L3は、前後方向に垂直な壁面2を壁面計測装置30側から前方向に見たときの、当該壁面2上におけるレーザ光の走査経路である。ミラー312、313の前側の隙間をレーザ光が通過する範囲において回転部314が回転すると、壁面2が走査経路L1に沿ってレーザ光で走査される。また、ミラー312の反射面312aにレーザ光が入射する範囲において回転部314が回転すると、壁面2が走査経路L2に沿ってレーザ光で走査され、ミラー313の反射面313aにレーザ光が入射する範囲において回転部314が回転すると、壁面2が走査経路L3に沿ってレーザ光で走査される。   Scanning paths L1, L2, L3 shown in FIG. 6C are scanning paths of laser light on the wall surface 2 when the wall surface 2 perpendicular to the front-back direction is viewed from the wall surface measuring device 30 side in the front direction. .. When the rotating unit 314 rotates in the range where the laser light passes through the gaps on the front side of the mirrors 312 and 313, the wall surface 2 is scanned with the laser light along the scanning path L1. Further, when the rotating unit 314 rotates in the range where the laser light is incident on the reflection surface 312a of the mirror 312, the wall surface 2 is scanned with the laser light along the scanning path L2, and the laser light is incident on the reflection surface 313a of the mirror 313. When the rotating unit 314 rotates in the range, the wall surface 2 is scanned with the laser light along the scanning path L3.

変更例1の走査検出部31によっても、上記実施の形態と同様、壁面2に、三角形の各辺に略沿った走査経路L1、L2、L3を設定できる。よって、上記実施の形態と同様の精度で壁面2を検出することができる。   With the scan detection unit 31 of the first modification, the scan paths L1, L2, and L3 can be set on the wall surface 2 substantially along each side of the triangle, as in the above embodiment. Therefore, the wall surface 2 can be detected with the same accuracy as in the above embodiment.

また、変更例2では、上記実施の形態に比べて、ミラー311が削減されるため、壁面計測装置30の質量をさらに抑制できる。よって、飛行ロボット10にかかる負荷をさらに軽減でき、飛行ロボット10をより一層円滑かつ安定的に目標の壁面位置付近で飛行させることができる。   Further, in the second modification, the number of mirrors 311 is reduced as compared with the above-described embodiment, so that the mass of the wall surface measuring device 30 can be further suppressed. Therefore, the load on the flying robot 10 can be further reduced, and the flying robot 10 can be caused to fly more smoothly and stably near the target wall surface position.

<変更例2>
図7(a)、(b)は、それぞれ、変更例2に係る走査検出部31の構成を示す平面図および側面図である。図7(c)は、変更例2に係る走査経路L1、L2を模式的に示す図である。
<Modification 2>
7A and 7B are a plan view and a side view, respectively, showing the configuration of the scan detection unit 31 according to the second modification. FIG. 7C is a diagram schematically showing the scanning paths L1 and L2 according to the second modification.

変更例2の走査検出部31は、上記変更例1の走査検出部31からミラー313を省略した構成となっている。このため、壁面2に設定される走査経路は、図6(c)の走査経路L3が省略されて、走査経路L1、L2のみとなっている。演算処理部32は、レーザ光が走査経路L1、L2を辿る期間において3次元座標点群を取得して壁面2を検出し、壁面2までの距離および壁面2の傾きを計測する。壁面2の検出処理は、上記実施の形態と同様である。   The scan detection unit 31 of the second modification has a configuration in which the mirror 313 is omitted from the scan detection unit 31 of the first modification. Therefore, the scanning path set on the wall surface 2 is only the scanning paths L1 and L2, with the scanning path L3 of FIG. 6C omitted. The arithmetic processing unit 32 acquires the three-dimensional coordinate point group and detects the wall surface 2 in the period in which the laser light follows the scanning paths L1 and L2, and measures the distance to the wall surface 2 and the inclination of the wall surface 2. The detection process of the wall surface 2 is the same as that in the above embodiment.

変更例2によっても、壁面2を適正に検出できる。ただし、走査経路L3が省略されるため、壁面2の検出に用いる3次元座標点群の数が上記実施の形態および変更例1に比べて減少する。このため、本変更例では、上記実施の形態および変更例1に比べて、壁面2の検出精度がやや低下する。   The wall surface 2 can be properly detected also in the second modification. However, since the scanning path L3 is omitted, the number of three-dimensional coordinate point groups used for detecting the wall surface 2 is reduced as compared with the above-described embodiment and the first modification. Therefore, in this modified example, the detection accuracy of the wall surface 2 is slightly reduced as compared with the above-described embodiment and the modified example 1.

その一方、変更例2では、さらにミラー313が省略されるため、壁面計測装置30の質量をさらに抑制できる。よって、飛行ロボット10にかかる負荷を顕著に軽減できる。これにより、飛行ロボット10を円滑かつ安定的に目標の壁面位置付近で飛行させることができる。   On the other hand, in the second modification, since the mirror 313 is further omitted, the mass of the wall surface measuring device 30 can be further suppressed. Therefore, the load on the flying robot 10 can be significantly reduced. This allows the flying robot 10 to fly smoothly and stably near the target wall surface position.

<変更例3>
図8(a)、(b)は、それぞれ、変更例3に係る走査検出部31の構成を示す平面図および側面図である。図8(c)は、変更例3に係る走査経路L1、L2を模式的に示す図である。
<Modification 3>
FIGS. 8A and 8B are a plan view and a side view, respectively, showing the configuration of the scanning detection unit 31 according to the third modification. FIG. 8C is a diagram schematically showing the scanning paths L1 and L2 according to the third modification.

変更例3の走査検出部31は、上記実施の形態の走査検出部31からミラー311を省略した構成となっている。このため、壁面2に設定される走査経路は、図6(c)の走査経路L1が省略されて、走査経路L2、L3のみとなっている。演算処理部32は、レーザ光が走査経路L2、L3を辿る期間において3次元座標点群を取得して壁面2を検出し、壁面2までの距離および壁面2の傾きを計測する。壁面2の検出処理は、上記実施の形態と同様である。   The scanning detection unit 31 of the third modification has a configuration in which the mirror 311 is omitted from the scanning detection unit 31 of the above embodiment. Therefore, the scanning path set on the wall surface 2 is only the scanning paths L2 and L3, with the scanning path L1 in FIG. 6C omitted. The arithmetic processing unit 32 acquires the three-dimensional coordinate point group and detects the wall surface 2 in the period in which the laser light follows the scanning paths L2 and L3, and measures the distance to the wall surface 2 and the inclination of the wall surface 2. The detection process of the wall surface 2 is the same as that in the above embodiment.

変更例3によっても、壁面2を適正に検出できる。ただし、走査経路L1が省略されるため、壁面2の検出に用いる3次元座標点群の数が上記実施の形態および変更例1に比べて減少する。このため、本変更例では、上記実施の形態および変更例1に比べて、壁面2の検出精度がやや低下する。   The wall surface 2 can be properly detected also in the third modification. However, since the scanning path L1 is omitted, the number of three-dimensional coordinate point groups used for detecting the wall surface 2 is reduced as compared with the above-described embodiment and modification 1. Therefore, in this modified example, the detection accuracy of the wall surface 2 is slightly reduced as compared with the above-described embodiment and the modified example 1.

<その他の変更例>
上記実施の形態および変更例1〜3では、三角形の3辺または2辺に略沿うようにレーザ光の走査経路が設定されたが、走査経路の設定方法はこれに限られるものではない。たとえば、曲率半径がある程度小さい円弧状の曲線に沿った一つの走査経路のみが設定されてもよい。走査経路に沿って取得された3次元座標点群が一つの平面を特定可能に3次元空間において分散する限りにおいて、走査経路は、適宜、変更可能である。
<Other changes>
In the above-described embodiment and the first to third modifications, the scanning path of the laser beam is set so as to be substantially along the three sides or the two sides of the triangle, but the method for setting the scanning path is not limited to this. For example, only one scanning path may be set along an arc-shaped curve having a radius of curvature that is somewhat small. The scanning path can be changed as appropriate as long as the three-dimensional coordinate point groups acquired along the scanning path are dispersed in the three-dimensional space so that one plane can be specified.

また、上記実施の形態および変更例1〜3では、ハフ変換に基づく壁面2の検出手法を用いたが、壁面2の検出手法はこれに限られるものではない。たとえば、3次元座標点群から、それぞれの走査軌跡に対応する近似直線を最小二乗法により求め、求めた近似直線と、予め、壁面2の距離および傾きごとに保持した参照直線とを比較し、近似直線に最も整合する参照直線に対応する距離および傾きを、当該壁面2の距離および傾きとして取得してもよい。   Further, in the above-described embodiment and the modified examples 1 to 3, the detection method of the wall surface 2 based on the Hough transform is used, but the detection method of the wall surface 2 is not limited to this. For example, an approximate straight line corresponding to each scanning locus is obtained from the three-dimensional coordinate point group by the method of least squares, and the obtained approximate straight line is compared with a reference straight line held in advance for each distance and inclination of the wall surface 2, The distance and slope corresponding to the reference straight line that best matches the approximate straight line may be acquired as the distance and slope of the wall surface 2.

また、上記実施の形態および変更例1〜3では、ミラー311、312、313の反射面311a、312a、313aが平面であったが、反射面311a、312a、313aは必ずしも平面でなくてもよい。所望の走査経路が壁面2に設定されるように、反射面311a、312a、313aの一部または全部が曲面となっていてもよい。   Further, in the above-described embodiment and Modifications 1 to 3, the reflecting surfaces 311a, 312a, 313a of the mirrors 311, 312, 313 are flat surfaces, but the reflecting surfaces 311a, 312a, 313a do not necessarily have to be flat surfaces. .. Some or all of the reflecting surfaces 311a, 312a, 313a may be curved so that a desired scanning path is set on the wall surface 2.

さらに、上記実施の形態および変更例1〜3では、飛行ロボット10にメモリドライブ50を搭載し、メモリドライブ50に装着された記憶媒体に壁面2の画像データおよび位置データを記憶するようにしたが、メモリドライブ50を省略し、飛行ロボット10から無線通信により、壁面2の画像データおよび位置データを情報処理装置20に随時送信するようにしてもよい。あるいは、記憶媒体が着脱可能となるようにリモートコントロール装置60を構成し、飛行ロボット10から無線通信により、壁面2の画像データおよび位置データを、リモートコントロール装置60に送信して、記憶媒体に記憶するようにしてもよい。   Further, in the above embodiment and Modifications 1 to 3, the flying robot 10 is equipped with the memory drive 50, and the image data and the position data of the wall surface 2 are stored in the storage medium mounted in the memory drive 50. The memory drive 50 may be omitted, and the image data and the position data of the wall surface 2 may be transmitted from the flying robot 10 to the information processing device 20 at any time by wireless communication. Alternatively, the remote control device 60 is configured such that the storage medium can be attached and detached, and the image data and the position data of the wall surface 2 are transmitted from the flying robot 10 to the remote control device 60 by wireless communication and stored in the storage medium. You may do so.

この他、本発明の実施の形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。   In addition, the embodiment of the present invention can be appropriately modified in various ways within the scope of the technical idea described in the claims.

1 … 壁面検査システム
10 … 飛行ロボット
20 … 情報処理装置
30 … 壁面計測装置
31 … 走査検出部
32 … 演算処理部
311、312、313 … ミラー
314 … 回転部
314a … 光源
314h … 光検出器
40 … 撮像装置
82 … プロペラ駆動部
1... Wall surface inspection system 10... Flying robot 20... Information processing device 30... Wall surface measuring device 31... Scan detection part 32... Arithmetic processing part 311, 312, 313... Mirror 314... Rotating part 314a... Light source 314h... Photodetector 40... Imaging device 82... Propeller drive unit

Claims (10)

レーザ光を出射する光源と、
物体から反射された前記レーザ光を受光する光検出器と、
前記光源と前記光検出器を1つの軸回りに一体的に回転させる回転部と、
前記回転部を支持する支持部材と、
前記支持部材に設置され、前記回転部による一部の回転範囲において前記光源から出射された前記レーザ光を反射するミラーと、
前記光検出器から出力される信号に基づいて、前記レーザ光が照射された位置における前記物体の壁面について、前記壁面までの距離および傾きをそれぞれ算出する演算処理部と、を備え、
前記回転部の回転に伴い前記物体が互いに異なる複数の走査経路で走査されるように、前記ミラーが構成され、
前記演算処理部は、前記複数の走査経路に沿って前記物体までの距離を計測して得た3次元の座標点群に整合する平面を、前記物体の壁面として取得する、
ことを特徴とする壁面計測装置。
A light source that emits laser light,
A photodetector for receiving the laser light reflected from an object,
A rotating unit that integrally rotates the light source and the photodetector about one axis;
A support member that supports the rotating portion,
A mirror that is installed on the support member and that reflects the laser light emitted from the light source in a part of a rotation range of the rotating unit,
Based on a signal output from the photodetector, a wall surface of the object at the position irradiated with the laser light, an arithmetic processing unit for calculating a distance to the wall surface and an inclination, respectively,
The mirror is configured so that the object is scanned by a plurality of scanning paths different from each other with the rotation of the rotating unit,
The arithmetic processing unit acquires, as a wall surface of the object, a plane that matches a three-dimensional coordinate point group obtained by measuring distances to the object along the plurality of scanning paths.
A wall surface measuring device characterized in that
前記回転部を囲むように3つの前記ミラーが配置され、
前記光源から出射された前記レーザ光の光軸を前記3つのミラーで折り曲げることにより、各ミラーに対応する3つの走査経路で前記物体が走査される、請求項1に記載の壁面計測装置。
The three mirrors are arranged so as to surround the rotating part,
The wall surface measuring device according to claim 1, wherein the object is scanned along three scanning paths corresponding to each mirror by bending the optical axis of the laser light emitted from the light source by the three mirrors.
前記回転部を挟むように2つの前記ミラーが配置され、
前記光源から出射された前記レーザ光の光軸を前記2つのミラーで折り曲げることにより、各ミラーに対応する2つの走査経路を含む複数の走査経路で前記物体が走査される、請求項1に記載の壁面計測装置。
The two mirrors are arranged so as to sandwich the rotating portion,
The object is scanned in a plurality of scanning paths including two scanning paths corresponding to each mirror by bending the optical axis of the laser light emitted from the light source by the two mirrors. Wall measuring device.
前記2つのミラーの間の隙間を前記レーザ光が通過することにより生じる走査経路と、前記2つのミラーにより前記レーザ光が反射されることにより生じる2つの走査経路で、前記物体が走査されるように、前記2つのミラーが配置されている、請求項3に記載の壁面計測装置。   The object is scanned by a scanning path generated when the laser light passes through a gap between the two mirrors and two scanning paths generated when the laser light is reflected by the two mirrors. The wall surface measuring apparatus according to claim 3, wherein the two mirrors are arranged in the. 前記回転部の周囲に1つの前記ミラーが配置され、
前記ミラーが配置されていない領域を前記レーザ光が通過することにより生じる走査経路と、前記ミラーにより前記レーザ光が反射されることにより生じる走査経路で、前記物体が走査されるように、前記ミラーが配置されている、請求項1に記載の壁面計測装置。
One of the mirrors is arranged around the rotating part,
The mirror is arranged so that the object is scanned by a scanning path generated when the laser light passes through a region where the mirror is not arranged and a scanning path generated when the laser light is reflected by the mirror. The wall surface measuring device according to claim 1, wherein
前記複数の走査経路は、当該壁面計測装置に正対向する平面において三角形の各辺に略沿うように設定されている、請求項1ないし5の何れか一項に記載の壁面計測装置。   The wall surface measuring apparatus according to claim 1, wherein the plurality of scanning paths are set so as to substantially follow each side of a triangle in a plane that directly faces the wall surface measuring apparatus. 前記ミラーの反射面は、平面、且つ、一方向に長い形状を有し、
前記回転部の回転に伴い前記レーザ光の光軸が前記反射面の長手方向に移動するように、前記ミラーが配置されている、請求項1ないし6の何れか一項に記載の壁面計測装置。
The reflecting surface of the mirror has a flat surface and a shape elongated in one direction,
7. The wall surface measuring device according to claim 1, wherein the mirror is arranged so that the optical axis of the laser light moves in the longitudinal direction of the reflecting surface as the rotating unit rotates. ..
前記演算処理部は、平面までの距離および平面の傾きを変化させてその平面に含まれる前記座標点群の数を計数し、計数した数が最も多い平面を、前記物体の前記壁面として取得する、請求項1ないし7の何れか一項に記載の壁面計測装置。   The arithmetic processing unit changes the distance to the plane and the inclination of the plane to count the number of the coordinate point groups included in the plane, and acquires the plane with the largest number as the wall surface of the object. The wall surface measuring device according to any one of claims 1 to 7. 請求項1ないし8の何れか一項に記載の壁面計測装置と、
前記壁面を撮像する撮像装置と、
静止可能に飛行するためのプロペラ駆動部と、
前記壁面計測装置による計測結果に基づいて飛行姿勢を制御する制御部と、を備える飛行ロボット。
A wall surface measuring device according to any one of claims 1 to 8,
An imaging device for imaging the wall surface;
Propeller drive for flying stationary,
A flying robot comprising: a control unit that controls a flight attitude based on a measurement result by the wall surface measuring device.
請求項9に記載の飛行ロボットと、
前記撮像装置により撮像された画像を処理して前記壁面の状況を評価する情報処理装置と、を備える壁面検査システム。
A flying robot according to claim 9;
A wall surface inspection system, comprising: an information processing device that processes an image captured by the image capturing device to evaluate a situation of the wall surface.
JP2016014083A 2016-01-28 2016-01-28 Wall measuring device, flying robot and wall inspection system Active JP6699019B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016014083A JP6699019B2 (en) 2016-01-28 2016-01-28 Wall measuring device, flying robot and wall inspection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016014083A JP6699019B2 (en) 2016-01-28 2016-01-28 Wall measuring device, flying robot and wall inspection system

Publications (2)

Publication Number Publication Date
JP2017133949A JP2017133949A (en) 2017-08-03
JP6699019B2 true JP6699019B2 (en) 2020-05-27

Family

ID=59502549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016014083A Active JP6699019B2 (en) 2016-01-28 2016-01-28 Wall measuring device, flying robot and wall inspection system

Country Status (1)

Country Link
JP (1) JP6699019B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021187613A1 (en) * 2020-03-18 2021-09-23 日本電気株式会社 Smokestack inclination detection device, smokestack inclination detection method, and storage medium
CN111780669B (en) * 2020-09-04 2020-12-25 中铁工程服务有限公司 Shield muck volume comprehensive management and measurement system and method
CN114286052B (en) * 2021-12-23 2022-08-26 广东景龙建设集团有限公司 Sharing method and system for wall decoration pictures of assembly type building

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3333054B2 (en) * 1994-10-20 2002-10-07 オリンパス光学工業株式会社 Laser distance measuring device
JP2009198382A (en) * 2008-02-22 2009-09-03 Mitsubishi Electric Corp Environment map acquiring device
JP5350729B2 (en) * 2008-09-30 2013-11-27 大成建設株式会社 Work type confirmation system, work form confirmation program, and work form confirmation method
JP2010151809A (en) * 2008-11-26 2010-07-08 Denso Wave Inc Laser radar device
EP2378310B1 (en) * 2010-04-15 2016-08-10 Rockwell Automation Safety AG Time of flight camera unit and optical surveillance system
GB2521312B (en) * 2012-09-06 2016-07-06 Faro Tech Inc Laser scanner with additional sensing device
JP5823367B2 (en) * 2012-10-22 2015-11-25 独立行政法人国立高等専門学校機構 measuring device
DE102014105261B3 (en) * 2014-04-14 2015-02-19 Sick Ag Optoelectronic sensor and method for detecting objects in a surveillance area
DE102014211050B4 (en) * 2014-06-10 2020-10-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Imaging device with an airworthy carrying device

Also Published As

Publication number Publication date
JP2017133949A (en) 2017-08-03

Similar Documents

Publication Publication Date Title
JP7077013B2 (en) 3D information processing unit, device equipped with 3D information processing unit, unmanned aerial vehicle, notification device, moving object control method using 3D information processing unit, and program for moving object control processing
JP6691721B2 (en) Flight planning method and flight guidance system
US7626690B2 (en) Laser scanner
JP5688876B2 (en) Calibration method for laser scanner measurement system
EP3264134A1 (en) Laser scanner system and registration method of point cloud data
JP2017223540A (en) Measuring system
JP6823482B2 (en) 3D position measurement system, 3D position measurement method, and measurement module
JP6982424B2 (en) Surveying system
JP2006276012A (en) Measuring system for obtaining six degrees of freedom of object
JP6807628B2 (en) Measuring device and measuring method
JP7191643B2 (en) surveying equipment
JP6699019B2 (en) Wall measuring device, flying robot and wall inspection system
JP2015175629A (en) Distance measuring apparatus, and distance measuring system
JP2018048866A (en) Surveying device and measurement method
JP2019007909A5 (en)
US10895456B1 (en) Three-dimensional survey apparatus, three-dimensional survey method, and three-dimensional survey program
JP6946509B2 (en) Flight planning method and aircraft guidance system
JP7314447B2 (en) Scanner system and scanning method
JP7324097B2 (en) Three-dimensional surveying device, three-dimensional surveying method and three-dimensional surveying program
JP7336927B2 (en) Three-dimensional surveying device, three-dimensional surveying method and three-dimensional surveying program
JP6749191B2 (en) Scanner and surveying equipment
JP7343127B2 (en) Orbit survey equipment, orbit survey system, orbit survey method
JP7324026B2 (en) measuring device
US20240111311A1 (en) Control apparatus, base station, control method, and program
US20240219177A1 (en) Surveying system and method of operating a surveying system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200403

R150 Certificate of patent or registration of utility model

Ref document number: 6699019

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250