JP6570344B2 - Route generation method and system - Google Patents

Route generation method and system Download PDF

Info

Publication number
JP6570344B2
JP6570344B2 JP2015132553A JP2015132553A JP6570344B2 JP 6570344 B2 JP6570344 B2 JP 6570344B2 JP 2015132553 A JP2015132553 A JP 2015132553A JP 2015132553 A JP2015132553 A JP 2015132553A JP 6570344 B2 JP6570344 B2 JP 6570344B2
Authority
JP
Japan
Prior art keywords
image
coordinates
irradiation
flying object
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015132553A
Other languages
Japanese (ja)
Other versions
JP2017016395A (en
Inventor
哲夫 太田
哲夫 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IHI Corp
IHI Aerospace Co Ltd
Original Assignee
IHI Corp
IHI Aerospace Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IHI Corp, IHI Aerospace Co Ltd filed Critical IHI Corp
Priority to JP2015132553A priority Critical patent/JP6570344B2/en
Publication of JP2017016395A publication Critical patent/JP2017016395A/en
Application granted granted Critical
Publication of JP6570344B2 publication Critical patent/JP6570344B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両の経路生成方法とシステムに関する。   The present invention relates to a vehicle route generation method and system.

予め決められた経路に沿って車両を移動させることが、特許文献1、2に開示されている。
特許文献1は、プレイバック走行によって無人車両を走行させることを開示している。
特許文献2には、予めウェイポイントを設定し、そのウェイポイントを自律乗用車に辿らせることが開示されている。
Patent Documents 1 and 2 disclose that a vehicle is moved along a predetermined route.
Patent document 1 is disclosing running an unmanned vehicle by playback driving.
Patent Document 2 discloses that a waypoint is set in advance and the waypoint is traced to an autonomous passenger car.

特開昭57−55404号公報JP-A-57-55404 特表2012−507088号公報Special table 2012-507088 gazette

従来、無人車両の経路は、座標が既知の地図を元に計画していた。
もしくは従来の無人車両の経路は、有人又は遠隔操作で走行するGPSを搭載した車両(以下、先行車両)で、無人車両を走行させる地域(以下、走行域)を予め走行し、先行車両の軌跡を取得し、その軌跡から座標を間引きしてウェイポイントを生成していた。
Conventionally, the route of an unmanned vehicle has been planned based on a map with known coordinates.
Alternatively, the route of a conventional unmanned vehicle is a vehicle (hereinafter referred to as a preceding vehicle) equipped with a GPS that is manned or remotely operated and travels in advance in a region where the unmanned vehicle is traveled (hereinafter referred to as a traveling region). The waypoint was generated by thinning out the coordinates from the trajectory.

そのため従来は、先行車両が、無人車両に走行させたい経路を事前に走行する必要があった。もしくは、座標が既知の場所でしか、無人車両を走行させることができなかった。   Therefore, conventionally, it has been necessary for the preceding vehicle to travel in advance on a route that the unmanned vehicle is to travel. Alternatively, the unmanned vehicle can only be driven at a place where the coordinates are known.

本発明は上述した問題点を解決するために創案されたものである。すなわち本発明の目的は、座標が未知の走行域であっても、又は予め先行車両が走行域を走行しなくても、車両を走行させることができる経路生成方法とシステムを提供することにある。   The present invention has been developed to solve the above-described problems. That is, an object of the present invention is to provide a route generation method and system capable of traveling a vehicle even when the coordinates are unknown or even if a preceding vehicle does not travel in advance. .

本発明によれば、(A)走行域を撮像し画像データとして出力するカメラを搭載する飛行体に該走行域の上空を飛行させ前記カメラで車両の前記走行域の画像を撮像し、
(B)前記カメラで取得した画像上でウェイポイントの画像上における仮想座標を決定し、
(C)前記仮想座標に相当する現実のウェイポイントの位置座標を算出する、ことを特徴とする経路生成方法が提供される。
According to the present invention, (A) a flying object equipped with a camera that captures a travel area and outputs it as image data is caused to fly over the travel area to capture an image of the travel area of the vehicle with the camera,
(B) determining virtual coordinates on the waypoint image on the image acquired by the camera;
(C) A route generation method is provided, characterized in that the position coordinates of an actual waypoint corresponding to the virtual coordinates are calculated.

また前記飛行体は、レーザ照射装置を搭載しており、
前記(C)において、
(C1)前記レーザ照射装置で地上にレーザ光を照射し、前記カメラで前記レーザ光の照射点の画像を撮像し、
(C2)前記レーザ照射装置の前記レーザ光の照射角度を調整して、前記画像上に表示された照射点画像の画像上における照射点座標と前記仮想座標とを合わせ、
(C3)前記照射点座標と前記仮想座標とが合った一致時点の前記照射点の現実の位置を前記位置座標として算出する。
The flying object is equipped with a laser irradiation device,
In the above (C),
(C1) The laser irradiation device irradiates the ground with laser light, the camera captures an image of the laser light irradiation point,
(C2) Adjust the irradiation angle of the laser beam of the laser irradiation device, and match the irradiation point coordinates on the image of the irradiation point image displayed on the image with the virtual coordinates,
(C3) The actual position of the irradiation point at the coincidence point when the irradiation point coordinates match the virtual coordinates is calculated as the position coordinates.

また前記(C3)において、前記位置座標は、位置センサで算出した前記一致時点の前記飛行体の位置と、前記レーザ光の前記照射角度と、前記レーザ光の前記照射点から前記飛行体までの距離を計測する測距装置により計測した距離とから算出する。   In (C3), the position coordinates include the position of the flying object at the coincidence time calculated by a position sensor, the irradiation angle of the laser light, and the irradiation point of the laser light to the flying object. The distance is calculated from the distance measured by the distance measuring device that measures the distance.

また(D)前記(C)の後に、前記位置座標を前記車両へ送信する。   (D) After (C), the position coordinates are transmitted to the vehicle.

また、本発明によれば、走行域の上空を飛行する飛行体と、
前記飛行体に搭載され該飛行体から前記走行域を撮像し画像データとして出力するカメラと、
前記画像データを入力しその画像を表示する表示画面と、
前記飛行体に搭載され該飛行体から前記走行域に向けてレーザ光を照射し、かつレーザ光の照射角度を調節可能なレーザ照射装置と、
前記照射角度を制御する制御装置と、
前記レーザ光の照射点の位置を位置座標として算出する演算装置と、を備え
前記表示画面は、前記カメラが取得した画像上で決定されたウェイポイントの画像上における仮想座標を表示し、
前記カメラは、前記レーザ照射装置が地上に照射した前記レーザ光の前記照射点の画像を撮像し、
前記制御装置は、前記画像上に表示された照射点画像の画像上における照射点座標と前記仮想座標とを合わせるように、前記照射角度を制御し、
前記演算装置は、前記照射点座標と前記仮想座標とが合った一致時点の前記照射点の現実の位置を、前記仮想座標に相当する現実のウェイポイントの位置座標として算出する、ことを特徴とする経路生成システムが提供される。
Further, according to the present invention, a flying object flying over the traveling area;
A camera mounted on the flying object and imaging the traveling area from the flying object and outputting it as image data;
A display screen for inputting the image data and displaying the image;
A laser irradiation device that is mounted on the flying object, irradiates laser light from the flying object toward the traveling area, and can adjust the irradiation angle of the laser light;
A control device for controlling the irradiation angle;
An arithmetic unit that calculates the position of the irradiation point of the laser light as position coordinates ,
The display screen displays virtual coordinates on the waypoint image determined on the image acquired by the camera,
The camera captures an image of the irradiation point of the laser beam irradiated to the ground by the laser irradiation device,
The control device controls the irradiation angle so as to match the irradiation point coordinates on the image of the irradiation point image displayed on the image with the virtual coordinates,
The arithmetic unit calculates the actual position of the irradiation point at the coincidence time point when the irradiation point coordinates match the virtual coordinates as the position coordinates of the actual waypoint corresponding to the virtual coordinates, A route generation system is provided.

また前記走行域を走行する車両と、
前記位置座標を前記車両へ送信する送信機と、を備え、
前記車両は、前記位置座標に向けて走行する。
A vehicle traveling in the traveling area;
A transmitter for transmitting the position coordinates to the vehicle,
The vehicle travels toward the position coordinates.

上述した本発明の方法と装置によれば、飛行体から撮像した画像上でウェイポイントの画像上における仮想座標を決定し、その仮想座標に相当する現実のウェイポイントの位置座標を算出する。そのため、予め先行車両が走行域を走行しなくても、ウェイポイントの位置座標を取得できる。
それにより本発明の方法と装置は、座標が未知の走行域であっても、又は予め先行車両が走行域を走行しなくても、車両を走行させることができる。
According to the method and apparatus of the present invention described above, virtual coordinates on the waypoint image are determined on the image captured from the flying object, and the actual position coordinates of the actual waypoint corresponding to the virtual coordinates are calculated. Therefore, the position coordinates of the waypoint can be acquired even if the preceding vehicle does not travel in the travel area in advance.
As a result, the method and apparatus of the present invention can drive the vehicle even if the coordinates are in an unknown travel area or even if the preceding vehicle does not travel in advance in the travel area.

本発明の経路生成システムの説明図である。It is explanatory drawing of the route generation system of this invention. 車両の走行域を横から見た図と、飛行体で撮像した画像の説明図である。It is the figure which looked at the traveling area of the vehicle from the side, and explanatory drawing of the image imaged with the flying body. 本発明の経路生成方法のフローチャートである。It is a flowchart of the route generation method of the present invention. 一致時点における車両の走行域を横から見た図と、飛行体で撮像した画像の説明図である。It is the figure which looked at the driving | running | working area of the vehicle in a coincidence time point from the side, and explanatory drawing of the image imaged with the flying body.

以下、本発明の実施形態を図面に基づいて説明する。なお、各図において共通する部分には同一の符号を付し、重複した説明を省略する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. In addition, the same code | symbol is attached | subjected to the common part in each figure, and the overlapping description is abbreviate | omitted.

本発明は、車両3の経路Qを生成する経路生成方法とシステムである。
図1は、本発明の経路生成システム30の説明図である。
本発明の経路生成システム30は、飛行体1、車両3、カメラ23、表示画面9、レーザ照射装置11、位置センサ19、測距装置25、演算装置27、及び送信機29を備える。
The present invention is a route generation method and system for generating the route Q of the vehicle 3.
FIG. 1 is an explanatory diagram of a route generation system 30 according to the present invention.
The route generation system 30 of the present invention includes a flying object 1, a vehicle 3, a camera 23, a display screen 9, a laser irradiation device 11, a position sensor 19, a distance measuring device 25, a computing device 27, and a transmitter 29.

飛行体1は、走行域21の上空を飛行する。飛行体1は、例えばドローン、ヘリコプター、等であってもよい。飛行体1は、カメラ23とレーザ照射装置11を搭載する。飛行体1は遠隔操作で飛行するものであることが好ましいが、有人の飛行体であってもよい。   The flying object 1 flies over the traveling area 21. The flying object 1 may be a drone, a helicopter, or the like, for example. The flying object 1 is equipped with a camera 23 and a laser irradiation device 11. The flying object 1 is preferably one that flies remotely, but may be a manned flying object.

飛行体1が無人の飛行体である場合、飛行体1は、操作位置Pとの間で信号を送受信する送受信機1aを有する。操作位置Pは、飛行体1と車両3から離れた位置である。
飛行体1を遠隔操作する操縦装置は、操作位置Pに設けられ、操縦信号を出力する。
飛行体1は、操縦信号を送受信機1aで受信し、操縦信号に従って飛行する。
When the flying object 1 is an unmanned flying object, the flying object 1 includes a transceiver 1 a that transmits and receives signals to and from the operation position P. The operation position P is a position away from the flying object 1 and the vehicle 3.
A control device for remotely operating the flying object 1 is provided at the operation position P and outputs a control signal.
The flying object 1 receives the control signal with the transceiver 1a and flies according to the control signal.

カメラ23は、飛行体1から走行域21を撮像し、その画像5を画像データとして出力する。カメラ23は、動画の撮像が可能なビデオカメラが最も好ましいが、高速連写可能なデジタルカメラであってもよい。   The camera 23 images the travel area 21 from the flying object 1 and outputs the image 5 as image data. The camera 23 is most preferably a video camera capable of capturing moving images, but may be a digital camera capable of high-speed continuous shooting.

レーザ照射装置11は、飛行体1から走行域21に向けてレーザ光Tを照射する。レーザ照射装置11は、レーザ光Tの照射角度を調節可能に構成されている。例えばレーザ照射装置11自体の角度を変化させる駆動装置が飛行体1に設けられていてもよい。駆動装置は、飛行体1に搭載された制御装置に制御されることが好ましい。   The laser irradiation device 11 irradiates the laser beam T from the flying object 1 toward the traveling area 21. The laser irradiation device 11 is configured to be able to adjust the irradiation angle of the laser light T. For example, a driving device that changes the angle of the laser irradiation device 11 itself may be provided in the flying object 1. The driving device is preferably controlled by a control device mounted on the flying object 1.

測距装置25は、レーザ光Tの照射点13から飛行体1までの距離を計測する。測距装置25は、レーザ照射装置11と一体に構成されていてもよい。すなわち、測距装置25は、レーザ光Tを照射してから受光するまでの時間を計測することにより、飛行体1から照射点13までの距離を計測するレーザレーダ装置であってもよい。   The distance measuring device 25 measures the distance from the irradiation point 13 of the laser light T to the flying object 1. The distance measuring device 25 may be configured integrally with the laser irradiation device 11. That is, the distance measuring device 25 may be a laser radar device that measures the distance from the flying object 1 to the irradiation point 13 by measuring the time from when the laser beam T is irradiated until it is received.

位置センサ19は、飛行体1の位置を検出する。
位置センサ19は、人工衛星から受信したGPS座標から現在位置を算出して特定するGPS受信機であることが好ましい。もしくは位置センサ19は、地磁気から現在位置を算出する地磁気センサであってもよく、その他の現在位置を特定するセンサであってもよい。
The position sensor 19 detects the position of the flying object 1.
The position sensor 19 is preferably a GPS receiver that calculates and specifies the current position from GPS coordinates received from an artificial satellite. Alternatively, the position sensor 19 may be a geomagnetic sensor that calculates the current position from the geomagnetism, or may be a sensor that specifies other current positions.

表示画面9は、画像データを入力しその画像5を表示する。表示画面9は、パーソナルコンピューターの表示画面でもよく、接触センサを有する画面でもよい。
例えば飛行体1が有人の飛行体である場合、表示画面9は、飛行体1に設けられていてもよい。
飛行体1が遠隔操作で飛行する飛行体である場合、画像データは、送受信機1aから操作位置Pに送信される。この場合、表示画面9は、操作位置Pに設置され、画像データを受信し、画像5を表示する。
The display screen 9 inputs image data and displays the image 5. The display screen 9 may be a personal computer display screen or a screen having a contact sensor.
For example, when the flying object 1 is a manned flying object, the display screen 9 may be provided on the flying object 1.
When the flying object 1 is a flying object flying remotely, the image data is transmitted from the transceiver 1a to the operation position P. In this case, the display screen 9 is installed at the operation position P, receives the image data, and displays the image 5.

演算装置27は、照射点13の位置を算出し出力する。飛行体1が遠隔操作により飛行するものである場合、演算装置27は、操作位置Pに設けられることが好ましい。   The computing device 27 calculates and outputs the position of the irradiation point 13. When the flying object 1 flies by remote operation, the arithmetic device 27 is preferably provided at the operation position P.

コントローラ24は、操作信号を送信機29に出力する。コントローラ24は、例えば図2(B)に示すように、レバーを有することが好ましい。操作者がレバーを傾けると、そのレバーの傾きに追従して、照射点13が移動する。
しかしこれに限らず、コントローラ24の構成は、その他のものであってもよい。
The controller 24 outputs an operation signal to the transmitter 29. The controller 24 preferably has a lever, for example, as shown in FIG. When the operator tilts the lever, the irradiation point 13 moves following the tilt of the lever.
However, the present invention is not limited to this, and the configuration of the controller 24 may be other.

飛行体1が遠隔操作で飛行するものである場合、操作位置Pには、表示画面9、演算装置27、送信機29、操縦装置、及びコントローラ24が設置される。
飛行体1が遠隔操作で飛行するものである場合、送信機29は送受信機であることが好ましい。
When the flying object 1 flies by remote control, the display screen 9, the calculation device 27, the transmitter 29, the control device, and the controller 24 are installed at the operation position P.
When the flying object 1 flies by remote control, the transmitter 29 is preferably a transceiver.

操縦装置から出力される操縦信号は、送信機29から送信され、送受信機1aに受信される。飛行体1は、操縦信号に従って飛行する。   The control signal output from the control device is transmitted from the transmitter 29 and received by the transceiver 1a. The flying object 1 flies according to the control signal.

飛行体1から送信された画像データは、送信機29が受信し、表示画面9に出力する。   The image data transmitted from the flying object 1 is received by the transmitter 29 and output to the display screen 9.

コントローラ24から出力された操作信号は、送信機29から送信され、送受信機1aを介して飛行体1に搭載された制御装置に入力される。制御装置は、操作信号に従って駆動装置を作動させる。それにより、操作位置Pに居る操作者が、表示画面9を見ながら照射点13を自在に動かすことができる。   The operation signal output from the controller 24 is transmitted from the transmitter 29 and input to the control device mounted on the flying object 1 via the transceiver 1a. The control device operates the drive device according to the operation signal. Thereby, the operator at the operation position P can freely move the irradiation point 13 while viewing the display screen 9.

また後述する一致時点情報(後述する一致時点における飛行体1の位置、レーザ光Tの照射角度、及び飛行体1から照射点13までの距離の情報)を飛行体1から受信したときは、送信機29は、それを演算装置27に出力する。演算装置27は、一致時点情報から、ウェイポイント7の位置座標Xを算出する。   Also, when the coincidence time point information described later (information on the position of the flying object 1 at the coincidence point described later, the irradiation angle of the laser beam T, and the distance from the flying object 1 to the irradiation point 13) is received from the air vehicle 1, The machine 29 outputs it to the arithmetic unit 27. The computing device 27 calculates the position coordinate X of the waypoint 7 from the coincidence time information.

また送信機29は、演算装置27が算出した位置座標Xを車両3へ送信する。   The transmitter 29 transmits the position coordinates X calculated by the arithmetic device 27 to the vehicle 3.

車両3は、演算装置27から位置座標Xを受信する受信機3aを有する。車両3は、既知の誘導システムにより、位置座標Xに向けて走行域21を走行する。車両3は、無人車両でも、人を乗せた有人の車両でもよい。   The vehicle 3 includes a receiver 3 a that receives the position coordinate X from the arithmetic device 27. The vehicle 3 travels in the travel area 21 toward the position coordinate X by a known guidance system. The vehicle 3 may be an unmanned vehicle or a manned vehicle carrying a person.

次に、本発明の経路生成方法について説明する。
図2は、車両3の走行域21を横から見た図と、飛行体1で撮像した画像5の説明図である。図2(A)は、現実の走行域21を横から見た図であり、図2(B)は、画像5の説明図である。図2は、飛行体1が遠隔操作により飛行するものである場合を想定している。
図3は、本発明の経路生成方法のフローチャートである。
Next, the route generation method of the present invention will be described.
FIG. 2 is a side view of the traveling area 21 of the vehicle 3 and an explanatory diagram of an image 5 captured by the flying object 1. FIG. 2A is a view of the actual travel area 21 seen from the side, and FIG. 2B is an explanatory diagram of the image 5. FIG. 2 assumes the case where the flying object 1 flies by remote control.
FIG. 3 is a flowchart of the route generation method of the present invention.

本発明の経路生成方法は、ステップS1〜S4を有する。   The route generation method of the present invention includes steps S1 to S4.

まずステップS1において、図2(A)に示すように走行域21の上空を飛行体1に飛行させ、飛行体1に搭載したカメラ23で車両3の走行域21の画像5を撮像する。
画像5は、送受信機1aから操作位置Pへ送信され、図2(B)のように表示画面9に表示される。画像5は、走行域21の上空から撮像した動画、又は上空写真である。画像5は、表示画面9にリアルタイムで表示される。
First, in step S <b> 1, as shown in FIG. 2A, the flying area 21 is made to fly over the flying object 1, and an image 5 of the traveling area 21 of the vehicle 3 is captured by the camera 23 mounted on the flying object 1.
The image 5 is transmitted from the transceiver 1a to the operation position P and displayed on the display screen 9 as shown in FIG. The image 5 is a moving image or an aerial photograph taken from above the traveling area 21. The image 5 is displayed on the display screen 9 in real time.

次いでステップS2において、操作位置Pに居る操作者は、表示画面9に表示された画像5を見ながら、カメラ23で取得した画像5上で、ウェイポイント7の画像5上における仮想座標Yを決定する。   Next, in step S2, the operator at the operation position P determines the virtual coordinate Y on the image 5 of the waypoint 7 on the image 5 acquired by the camera 23 while viewing the image 5 displayed on the display screen 9. To do.

ウェイポイント7とは、車両3が通過すべき場所を意味する。車両3は、複数のウェイポイント7を辿ることにより、自律走行する。本発明は、このウェイポイント7を複数設定し、ウェイポイント7の位置を正確に求め、複数のウェイポイント7を線で結ぶことにより、車両3の経路Qを生成する。   The waypoint 7 means a place where the vehicle 3 should pass. The vehicle 3 travels autonomously by following a plurality of waypoints 7. In the present invention, a plurality of waypoints 7 are set, the position of the waypoint 7 is accurately obtained, and the plurality of waypoints 7 are connected by a line to generate the route Q of the vehicle 3.

仮想座標Yは、例えば図2(B)に示すように、操作者が表示画面9を見ながらマウス10で画像5上の一点をクリックすることにより決定してもよい。もしくは、表示画面9が接触センサを備えた画面である場合、表示画面9を直接触れることにより、画像5上の一点を仮想座標Yとして決定してもよい。   The virtual coordinate Y may be determined when the operator clicks a point on the image 5 with the mouse 10 while looking at the display screen 9 as shown in FIG. Alternatively, when the display screen 9 is a screen provided with a contact sensor, one point on the image 5 may be determined as the virtual coordinate Y by directly touching the display screen 9.

画像5は、飛行体1が上空から撮像したものであるため、複数のウェイポイント7の高低差は、画像5からは読み取りにくい。そのため、急な斜面等の高低差が大きい場所にウェイポイント7を設置した場合、画像5上で見た複数の仮想座標Y間の距離と実際の地上での複数のウェイポイント7間の距離とが大きく異なる場合がある。   Since the image 5 is taken from the sky by the flying object 1, the height difference of the plurality of waypoints 7 is difficult to read from the image 5. Therefore, when the waypoint 7 is installed in a place with a large height difference such as a steep slope, the distance between the plurality of virtual coordinates Y seen on the image 5 and the distance between the plurality of waypoints 7 on the actual ground May vary greatly.

車両3は地上を走行する車両であるため、経路Qを生成するためには、ウェイポイント7の位置座標Xを、高度も含めて正確に求める必要がある。   Since the vehicle 3 is a vehicle traveling on the ground, in order to generate the route Q, it is necessary to accurately obtain the position coordinates X of the waypoint 7 including the altitude.

次いでステップS3において、仮想座標Yに相当する現実のウェイポイント7の位置座標Xを算出する。
具体的には、ステップS3−1において、レーザ照射装置11で飛行体1から地上にレーザ光Tを照射し、カメラ23でレーザ光Tの照射点13の画像5を撮像する。
Next, in step S3, the position coordinate X of the actual waypoint 7 corresponding to the virtual coordinate Y is calculated.
Specifically, in step S 3-1, the laser irradiation device 11 irradiates the ground 1 with the laser beam T from the flying object 1, and the camera 23 captures the image 5 of the irradiation point 13 of the laser beam T.

照射点13は走行域21の地上で反射し、光るので、操作者は画像5上で照射点13を確認できる。
はじめからウェイポイント7を照射するようにレーザ光Tを照射することが好ましいが、照射点13の位置は、はじめに照射した段階では実際のウェイポイント7の位置からずれることが予想される。
Since the irradiation point 13 reflects and shines on the ground of the traveling area 21, the operator can confirm the irradiation point 13 on the image 5.
Although it is preferable to irradiate the laser beam T so as to irradiate the waypoint 7 from the beginning, it is expected that the position of the irradiating point 13 is deviated from the actual position of the waypoint 7 at the stage of the irradiation.

つまり画像5は、上空から撮像したものであるため、例えば標高5mの位置のウェイポイント7と標高50mのウェイポイント7とが、画像5上では、同じ高度であるように見える可能性がある。しかし図2(A)に示すように、高度が異なれば、レーザ光Tを照射すべき照射角度は大きく異なる。   That is, since the image 5 is taken from above, for example, the waypoint 7 at an altitude of 5 m and the waypoint 7 at an altitude of 50 m may appear to have the same altitude on the image 5. However, as shown in FIG. 2A, if the altitude is different, the irradiation angle at which the laser beam T should be irradiated varies greatly.

例えば図2(B)の画像5を見ながら、操作者が図2(B)の仮想座標Yにウェイポイント7を設定しようとしたとする。画像5からは走行域21の起伏が分からないため、操作者は、ウェイポイント7の位置座標Xが、その1つ前のウェイポイント7(位置座標X−1、仮想座標Y−1とする)と同じ高さにあると仮定して、レーザ光Tを照射するとする。ここでは、説明のため、ステップS3−1で照射するレーザ光Tをレーザ光T1とする。   For example, it is assumed that the operator tries to set the waypoint 7 at the virtual coordinate Y in FIG. 2B while viewing the image 5 in FIG. Since the undulation of the travel area 21 is not known from the image 5, the operator determines that the position coordinate X of the waypoint 7 is the previous waypoint 7 (position coordinate X−1, virtual coordinate Y−1). It is assumed that the laser beam T is irradiated at the same height. Here, for the sake of explanation, the laser beam T irradiated in step S3-1 is referred to as a laser beam T1.

位置座標Xと位置座標X−1は高さが異なるため、レーザ光T1は、位置座標Xと位置座標X−1のウェイポイント7の間の位置(図2(A)で照射点13の位置)に照射される。画像5上では、仮想座標Yと仮想座標Y−1の間に、照射点画像15が表示される(図2(B))。
そのためウェイポイント7にレーザ光Tを直接当てようとしても、レーザ光Tがウェイポイント7の位置座標Xからずれた位置(照射点13の位置)に照射される可能性がある。
Since the position coordinate X and the position coordinate X-1 are different in height, the laser beam T1 is positioned between the position point X and the waypoint 7 of the position coordinate X-1 (the position of the irradiation point 13 in FIG. 2A). ). On the image 5, an irradiation point image 15 is displayed between the virtual coordinate Y and the virtual coordinate Y-1 (FIG. 2B).
Therefore, even if the laser beam T is directly applied to the waypoint 7, there is a possibility that the laser beam T is irradiated to a position (position of the irradiation point 13) that is shifted from the position coordinate X of the waypoint 7.

図4は、一致時点における車両3の走行域21を横から見た図と、飛行体1で撮像した画像5の説明図である。図4(A)は、現実の走行域21を横から見た図であり、図4(B)は、画像5の説明図である。
次いで、ステップS3−2において、画像5上に表示された照射点画像15の画像5上における照射点座標と仮想座標Yとを、レーザ照射装置11のレーザ光T1の照射角度を調整して合わせる。具体的には、操作者が画像5を見ながらコントローラ24を操作してレーザ照射装置11のレーザ光Tの照射角度を調整し、表示画面9に映し出された照射点画像15を仮想座標Yに移動させる。画像5はリアルタイムで表示画面9に映し出されているので、照射点13が移動すれば、照射点画像15も移動する。つまり、ウェイポイント7を照射するレーザ光Tをレーザ光T2とした場合、レーザ光T1の照射角度を図2(A)のθ°動かして、照射点画像15を仮想座標Yのウェイポイント7に合わせる。
FIG. 4 is a side view of the traveling area 21 of the vehicle 3 at the coincidence time point and an explanatory diagram of an image 5 captured by the flying object 1. FIG. 4A is a diagram of the actual travel area 21 viewed from the side, and FIG. 4B is an explanatory diagram of the image 5.
Next, in step S <b> 3-2, the irradiation point coordinates on the image 5 of the irradiation point image 15 displayed on the image 5 are matched with the virtual coordinates Y by adjusting the irradiation angle of the laser light T <b> 1 of the laser irradiation device 11. . Specifically, the operator operates the controller 24 while viewing the image 5 to adjust the irradiation angle of the laser light T of the laser irradiation apparatus 11, and the irradiation point image 15 displayed on the display screen 9 is set to the virtual coordinate Y. Move. Since the image 5 is displayed on the display screen 9 in real time, if the irradiation point 13 moves, the irradiation point image 15 also moves. That is, when the laser beam T that irradiates the waypoint 7 is the laser beam T2, the irradiation angle of the laser beam T1 is moved by θ ° in FIG. Match.

次にステップS3−3において、照射点座標と仮想座標Yとが合った時点(以下、一致時点)の照射点13の現実の位置を位置座標Xとして算出する。   Next, in step S3-3, the actual position of the irradiation point 13 at the time when the irradiation point coordinate matches the virtual coordinate Y (hereinafter, the matching time point) is calculated as the position coordinate X.

例えば操作者が、照射点座標と仮想座標Yとが合った瞬間(一致時点)に、演算装置27に設置された所定のボタンを押してもよい。ボタンが押されると、測定指令信号が演算装置27から出力される。測定指令信号は、送信機29を介して、送受信機1aに受信される。送受信機1aは、受信した測定指令信号を位置センサ19、レーザ照射装置11、及び測距装置25に出力する。位置センサ19、レーザ照射装置11、及び測距装置25は、同時に、飛行体1の位置、レーザ光Tの照射角度、及び飛行体1から照射点13までの距離を測定する。飛行体1の位置、レーザ光Tの照射角度、及び飛行体1から照射点13までの距離の情報(一致時点情報)は、送受信機1aと送信機29を介して、演算装置27に出力される。
これにより演算装置27は、一致時点情報を取得することができる。
For example, the operator may press a predetermined button installed in the computing device 27 at the moment (coincidence time) when the irradiation point coordinates match the virtual coordinates Y. When the button is pressed, a measurement command signal is output from the computing device 27. The measurement command signal is received by the transceiver 1a via the transmitter 29. The transceiver 1a outputs the received measurement command signal to the position sensor 19, the laser irradiation device 11, and the distance measuring device 25. The position sensor 19, the laser irradiation device 11, and the distance measuring device 25 simultaneously measure the position of the flying object 1, the irradiation angle of the laser light T, and the distance from the flying object 1 to the irradiation point 13. Information on the position of the flying object 1, the irradiation angle of the laser light T, and the distance from the flying object 1 to the irradiation point 13 (matching point information) is output to the arithmetic unit 27 via the transceiver 1a and the transmitter 29. The
Thereby, the arithmetic unit 27 can acquire coincidence time information.

もしくは、一致時点情報を、常に時間と関連付けて取得し記憶装置に記憶し続け、後から一致時点に相当するそれらの情報を記憶装置から抽出してもよい。記憶装置は、操作位置Pに設置されていることが好ましい。しかしこれに限らず、記憶装置は、飛行体1に設置されていてもよい。   Alternatively, the coincidence time information may always be acquired in association with time and stored in the storage device, and the information corresponding to the coincidence time may be extracted from the storage device later. The storage device is preferably installed at the operation position P. However, the present invention is not limited to this, and the storage device may be installed in the flying object 1.

これにより演算装置27は、一致時点情報から、照射点13の正確な位置座標Xを求めることができる。この位置座標Xは、画像5上でウェイポイント7に照射点画像15が重なった瞬間の照射点13の位置であることから、ウェイポイント7の位置座標Xであると言える。   Thereby, the arithmetic unit 27 can obtain the exact position coordinate X of the irradiation point 13 from the coincidence time information. Since this position coordinate X is the position of the irradiation point 13 at the moment when the irradiation point image 15 overlaps the waypoint 7 on the image 5, it can be said that it is the position coordinate X of the waypoint 7.

このようにステップS1〜S3を繰り返すことにより、複数のウェイポイント7の位置座標Xを正確に求めることができる。それにより本発明の経路生成方法は、座標が未知の走行域21であっても、又は従来のように予め先行車両が走行域21を走行しなくても、車両3の経路Qを生成することができる。   Thus, by repeating steps S1 to S3, the position coordinates X of the plurality of waypoints 7 can be accurately obtained. As a result, the route generation method of the present invention generates the route Q of the vehicle 3 even when the coordinates are in the traveling region 21 or the preceding vehicle does not travel in advance in the conventional manner. Can do.

本発明の経路生成方法では、さらに車両3の走行と同時に飛行体1を飛行させることにより、経路Qの生成と車両3の自律走行を同時に行うことができる。   In the route generation method of the present invention, the vehicle 1 can be made to fly simultaneously with the traveling of the vehicle 3 so that the generation of the route Q and the autonomous traveling of the vehicle 3 can be performed simultaneously.

従来の無人車両は、目的地までの経路を事前に読み込み、その経路を辿るため、予め決められた経路しか走行できない。そのため従来の無人車両は、走行中に経路を変更できなかった。   A conventional unmanned vehicle reads a route to a destination in advance and traces the route, so that it can travel only a predetermined route. Therefore, the conventional unmanned vehicle cannot change the route while traveling.

それに対し、本発明の経路生成方法は、ステップS3の後に、ステップS4において、生成した経路Q(すなわち複数の位置座標X)を演算装置27から車両3へ送信する。車両3は、受信したウェイポイント7の位置座標Xまで自律走行する。   On the other hand, the route generation method of the present invention transmits the generated route Q (that is, a plurality of position coordinates X) from the computing device 27 to the vehicle 3 in step S4 after step S3. The vehicle 3 travels autonomously up to the received position coordinate X of the waypoint 7.

それにより、車両3の走行中に経路Qを変更することができる。すなわち、飛行体1は走行域21の上空を飛行するため、飛行体1から送信される画像5には、車両3も映し出される。そのためステップS1〜S4を繰り返すことにより、操作者は、走行域21の状況を見ながら経路Qを決定、又は変更することができる。またステップS1〜S4を繰り返すことにより、車両3は逐次ウェイポイント7を受信することができる。   Thereby, the route Q can be changed while the vehicle 3 is traveling. That is, since the flying object 1 flies over the traveling area 21, the vehicle 3 is also displayed in the image 5 transmitted from the flying object 1. Therefore, by repeating steps S <b> 1 to S <b> 4, the operator can determine or change the route Q while looking at the state of the travel area 21. Moreover, the vehicle 3 can receive the waypoint 7 sequentially by repeating steps S1 to S4.

上述した本発明の方法と装置によれば、飛行体1から撮像した画像5上でウェイポイント7の画像5上における仮想座標Yを決定し、その仮想座標Yに相当する現実のウェイポイント7の位置座標Xを算出する。そのため、予め先行車両が走行域21を走行しなくても、ウェイポイント7の位置座標Xを取得できる。
それにより本発明の方法と装置は、座標が未知の走行域21であっても、又は予め先行車両が走行域21を走行しなくても、車両3を走行させることができる。
According to the method and apparatus of the present invention described above, the virtual coordinate Y on the image 5 of the waypoint 7 is determined on the image 5 taken from the flying object 1, and the actual waypoint 7 corresponding to the virtual coordinate Y is determined. The position coordinate X is calculated. Therefore, the position coordinate X of the waypoint 7 can be acquired even if the preceding vehicle does not travel in the travel area 21 in advance.
As a result, the method and apparatus of the present invention can cause the vehicle 3 to travel even if the coordinates are in the traveling area 21 whose coordinates are unknown, or even if the preceding vehicle does not travel in advance in the traveling area 21.

なお本発明は上述した実施の形態に限定されず、本発明の要旨を逸脱しない範囲で種々変更を加え得ることは勿論である。   Note that the present invention is not limited to the above-described embodiment, and it is needless to say that various modifications can be made without departing from the gist of the present invention.

1 飛行体、1a 送受信機、3 車両、3a 受信機、5 画像、
7 ウェイポイント、9 表示画面、10 マウス、11 レーザ照射装置、
13 照射点、15 照射点画像、19 位置センサ、21 走行域、
23 カメラ、24 コントローラ、25 測距装置、27 演算装置、
29 送信機、30 経路生成システム、P 操作位置、Q 経路、
T,T1,T2 レーザ光、X,X−1 位置座標、Y,Y−1 仮想座標
1 Aircraft 1a Transceiver 3 Vehicle 3a Receiver 5 Image
7 waypoints, 9 display screen, 10 mouse, 11 laser irradiation device,
13 Irradiation point, 15 Irradiation point image, 19 Position sensor, 21 Traveling area,
23 cameras, 24 controllers, 25 ranging devices, 27 computing devices,
29 transmitter, 30 route generation system, P operation position, Q route,
T, T1, T2 laser beam, X, X-1 position coordinates, Y, Y-1 virtual coordinates

Claims (7)

(A)走行域を撮像し画像データとして出力するカメラを搭載する飛行体に該走行域の上空を飛行させ前記カメラで車両の前記走行域の画像を撮像し、
(B)前記カメラで取得した画像上でウェイポイントの画像上における仮想座標を決定し、
(C1)前記飛行体が搭載するレーザ照射装置で地上にレーザ光を照射し、前記カメラで前記レーザ光の照射点の画像を撮像し、
(C2)前記レーザ照射装置の前記レーザ光の照射角度を調整して、前記画像上に表示された照射点画像の画像上における照射点座標と前記仮想座標とを合わせ、
(C3)前記照射点座標と前記仮想座標とが合った一致時点の前記照射点の現実の位置を、前記仮想座標に相当する現実のウェイポイントの位置座標として算出する、ことを特徴とする経路生成方法。
(A) A flying body equipped with a camera that captures a travel area and outputs it as image data is caused to fly over the travel area to capture an image of the travel area of the vehicle.
(B) determining virtual coordinates on the waypoint image on the image acquired by the camera;
(C1) The laser irradiation apparatus mounted on the flying object irradiates the ground with laser light, the camera captures an image of the laser light irradiation point,
(C2) Adjust the irradiation angle of the laser beam of the laser irradiation device, and match the irradiation point coordinates on the image of the irradiation point image displayed on the image with the virtual coordinates,
(C3) A path characterized by calculating the actual position of the irradiation point at the coincidence point when the irradiation point coordinates match the virtual coordinates as the position coordinates of the actual waypoint corresponding to the virtual coordinates. Generation method.
前記(C3)において、前記位置座標は、位置センサで算出した前記一致時点の前記飛行体の位置と、前記レーザ光の前記照射角度と、前記レーザ光の前記照射点から前記飛行体までの距離を計測する測距装置により計測した距離とから算出する、ことを特徴とする請求項に記載の経路生成方法。 In (C3), the position coordinates are the position of the flying object at the coincidence time calculated by the position sensor, the irradiation angle of the laser light, and the distance from the irradiation point of the laser light to the flying object. The route generation method according to claim 1 , wherein the route generation method is calculated from a distance measured by a distance measuring device that measures the distance. (A)走行域を撮像し画像データとして出力するカメラを搭載する飛行体に該走行域の上空を飛行させ前記カメラで車両の前記走行域の画像を撮像し、
(B)前記カメラで取得した画像上でウェイポイントの画像上における仮想座標を決定し、
(C)前記仮想座標に相当する現実のウェイポイントの位置座標を算出し、
(D)前記(C)の後に、前記位置座標を前記車両へ送信する、ことを特徴とする経路生成方法。
(A) A flying body equipped with a camera that captures a travel area and outputs it as image data is caused to fly over the travel area to capture an image of the travel area of the vehicle.
(B) determining virtual coordinates on the waypoint image on the image acquired by the camera;
(C) calculating the position coordinates of an actual waypoint corresponding to the virtual coordinates ;
(D) after said (C), transmitting the position coordinates to the vehicle, ROUTE generation how to characterized in that.
走行域の上空を飛行する飛行体と、
前記飛行体に搭載され該飛行体から前記走行域を撮像し画像データとして出力するカメラと、
前記画像データを入力しその画像を表示する表示画面と、
前記飛行体に搭載され該飛行体から前記走行域に向けてレーザ光を照射し、かつレーザ光の照射角度を調節可能なレーザ照射装置と、
前記照射角度を制御する制御装置と、
前記レーザ光の照射点の位置を位置座標として算出する演算装置と、を備え
前記表示画面は、前記カメラが取得した画像上で決定されたウェイポイントの画像上における仮想座標を表示し、
前記カメラは、前記レーザ照射装置が地上に照射した前記レーザ光の前記照射点の画像を撮像し、
前記制御装置は、前記画像上に表示された照射点画像の画像上における照射点座標と前記仮想座標とを合わせるように、前記照射角度を制御し、
前記演算装置は、前記照射点座標と前記仮想座標とが合った一致時点の前記照射点の現実の位置を、前記仮想座標に相当する現実のウェイポイントの位置座標として算出する、ことを特徴とする経路生成システム。
An aircraft flying over the driving range,
A camera mounted on the flying object and imaging the traveling area from the flying object and outputting it as image data;
A display screen for inputting the image data and displaying the image;
A laser irradiation device that is mounted on the flying object, irradiates laser light from the flying object toward the traveling area, and can adjust the irradiation angle of the laser light;
A control device for controlling the irradiation angle;
An arithmetic unit that calculates the position of the irradiation point of the laser light as position coordinates ,
The display screen displays virtual coordinates on the waypoint image determined on the image acquired by the camera,
The camera captures an image of the irradiation point of the laser beam irradiated to the ground by the laser irradiation device,
The control device controls the irradiation angle so as to match the irradiation point coordinates on the image of the irradiation point image displayed on the image with the virtual coordinates,
The arithmetic unit calculates the actual position of the irradiation point at the coincidence time point when the irradiation point coordinates match the virtual coordinates as the position coordinates of the actual waypoint corresponding to the virtual coordinates, Route generation system.
前記走行域を走行する車両と、
前記位置座標を前記車両へ送信する送信機と、を備え、
前記車両は、前記位置座標に向けて走行する、ことを特徴とする請求項に記載の経路生成システム。
A vehicle traveling in the traveling area;
A transmitter for transmitting the position coordinates to the vehicle,
The route generation system according to claim 4 , wherein the vehicle travels toward the position coordinates.
前記飛行体の位置を検出する位置センサと、A position sensor for detecting the position of the flying object;
前記照射点から前記飛行体までの距離を計測する測距装置と、を備え、A distance measuring device for measuring the distance from the irradiation point to the flying object,
前記演算装置は、前記位置センサから入力した前記飛行体の前記一致時点の位置情報、該一致時点の前記照射角度、及び前記測距装置から入力した前記一致時点の前記照射点から前記飛行体までの距離情報から、前記照射点の現実の前記位置を算出する、ことを特徴とする請求項4又は5に記載の経路生成システム。The arithmetic unit is configured to input the position information of the aircraft at the coincidence time point input from the position sensor, the irradiation angle at the coincidence point of time, and the irradiation point from the coincidence time point input from the distance measuring device to the flying object. The path generation system according to claim 4 or 5, wherein the actual position of the irradiation point is calculated from the distance information.
走行域の上空を飛行する飛行体と、
前記飛行体に搭載され該飛行体から前記走行域を撮像し画像データとして出力するカメラと、
前記画像データを入力しその画像を表示する表示画面と、
前記走行域を走行する車両と、
前記位置座標を前記車両へ送信する送信機と、
前記カメラで取得した画像上で決定したウェイポイントの画像上における仮想座標に相当する現実のウェイポイントの位置座標を算出する演算装置と、を備え
前記送信機は、前記演算装置が算出した前記位置座標を前記車両へ送信し、
前記車両は、前記位置座標に向けて走行する、ことを特徴とする経路生成システム。
An aircraft flying over the driving range,
A camera mounted on the flying object and imaging the traveling area from the flying object and outputting it as image data;
A display screen for inputting the image data and displaying the image;
A vehicle traveling in the traveling area;
A transmitter for transmitting the position coordinates to the vehicle;
An arithmetic device that calculates the position coordinates of the actual waypoint corresponding to the virtual coordinates on the image of the waypoint determined on the image acquired by the camera ,
The transmitter transmits the position coordinates calculated by the arithmetic unit to the vehicle;
The route generation system , wherein the vehicle travels toward the position coordinates .
JP2015132553A 2015-07-01 2015-07-01 Route generation method and system Active JP6570344B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015132553A JP6570344B2 (en) 2015-07-01 2015-07-01 Route generation method and system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015132553A JP6570344B2 (en) 2015-07-01 2015-07-01 Route generation method and system

Publications (2)

Publication Number Publication Date
JP2017016395A JP2017016395A (en) 2017-01-19
JP6570344B2 true JP6570344B2 (en) 2019-09-04

Family

ID=57829148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015132553A Active JP6570344B2 (en) 2015-07-01 2015-07-01 Route generation method and system

Country Status (1)

Country Link
JP (1) JP6570344B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6589926B2 (en) 2017-04-07 2019-10-16 トヨタ自動車株式会社 Object detection device
CN109445439A (en) * 2018-12-10 2019-03-08 长沙中联消防机械有限公司 The control system and method, fire fighting truck of fire fighting truck rescue speed are promoted based on unmanned plane
CN113253290B (en) * 2021-04-26 2023-04-28 国网天津市电力公司 Unmanned aerial vehicle routing inspection route template matching method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62212709A (en) * 1986-03-14 1987-09-18 Mitsubishi Electric Corp Guidance control system for traveling object
JP2695393B2 (en) * 1995-04-10 1997-12-24 川崎重工業株式会社 Position specifying method and device
JP5198078B2 (en) * 2008-01-24 2013-05-15 株式会社日立製作所 Measuring device and measuring method
WO2010044277A1 (en) * 2008-10-16 2010-04-22 株式会社テムザック Mobile body navigating device
JP6001914B2 (en) * 2012-05-10 2016-10-05 川崎重工業株式会社 Target position specifying device, target position specifying system, and target position specifying method

Also Published As

Publication number Publication date
JP2017016395A (en) 2017-01-19

Similar Documents

Publication Publication Date Title
US20230257115A1 (en) Image Space Motion Planning Of An Autonomous Vehicle
US20210012520A1 (en) Distance measuring method and device
JP6601554B2 (en) Unmanned aerial vehicle, unmanned aircraft control system, flight control method, and computer program
JP5618840B2 (en) Aircraft flight control system
JP5775632B2 (en) Aircraft flight control system
WO2017045251A1 (en) Systems and methods for uav interactive instructions and control
US11460299B2 (en) Survey system
JP6302660B2 (en) Information acquisition system, unmanned air vehicle control device
JP6812667B2 (en) Unmanned aerial vehicle control system, unmanned aerial vehicle control method and unmanned aerial vehicle
US10962631B2 (en) Method for operating a laser distance measuring device
US10527423B1 (en) Fusion of vision and depth sensors for navigation in complex environments
US11490005B2 (en) Overhead line image capturing system and overhead line image capturing method
US20220210335A1 (en) Autofocusing camera and systems
JP6930840B2 (en) Surveying system
JP7050425B2 (en) Surveying system
JP6570344B2 (en) Route generation method and system
US20210229810A1 (en) Information processing device, flight control method, and flight control system
KR102117338B1 (en) Method for controling unmanned moving object based on cylindrical coordinate system and recording medium storing program for executing the same, and computer prograom stored in recording medium for executing the same
KR102503308B1 (en) Apparatus for following lane on road by unmanned aerial vehicle and method the same
KR20170088501A (en) Local Positioning System
KR20170084966A (en) Local Positioning System
JP2023551948A (en) Method for controlling the drone along the shaft
KR20200124899A (en) Apparatus and method for checking facility
JP4515884B2 (en) Camera stabilizer target position correction method
JP2019212204A (en) Position estimation system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190806

R150 Certificate of patent or registration of utility model

Ref document number: 6570344

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250