JP6998918B2 - Flight route determination device, flight route determination system, flight route determination method and flight route determination program - Google Patents

Flight route determination device, flight route determination system, flight route determination method and flight route determination program Download PDF

Info

Publication number
JP6998918B2
JP6998918B2 JP2019114913A JP2019114913A JP6998918B2 JP 6998918 B2 JP6998918 B2 JP 6998918B2 JP 2019114913 A JP2019114913 A JP 2019114913A JP 2019114913 A JP2019114913 A JP 2019114913A JP 6998918 B2 JP6998918 B2 JP 6998918B2
Authority
JP
Japan
Prior art keywords
flight route
map
unit
dimensions
flight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019114913A
Other languages
Japanese (ja)
Other versions
JP2021002166A (en
Inventor
卓哉 松尾
一輝 平林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2019114913A priority Critical patent/JP6998918B2/en
Publication of JP2021002166A publication Critical patent/JP2021002166A/en
Application granted granted Critical
Publication of JP6998918B2 publication Critical patent/JP6998918B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

この発明は、飛行航路決定装置、飛行航路決定システム、飛行航路決定方法および飛行航路決定プログラムに関する。 The present invention relates to a flight route determination device, a flight route determination system, a flight route determination method, and a flight route determination program.

従来、無線基地局の鉄塔などの高所設備に劣化等の不具合が発生していないかを確認すべく定期的な点検作業が実施されている。例えば、高所設備の劣化としては、金属表面のサビやボルトの緩み、筐体のゆがみなどの症状があり、現状は人の目視によりこれらの有無が点検されるのが通常となっている。 Conventionally, periodic inspection work has been carried out to confirm whether or not defects such as deterioration have occurred in high-altitude equipment such as steel towers of wireless base stations. For example, deterioration of equipment in high places includes symptoms such as rust on the metal surface, loosening of bolts, and distortion of the housing, and at present, it is usual to visually inspect the presence or absence of these.

しかし、鉄塔設備は地上高50m程度の高さがあることから危険作業となるため専門作業員の人件費が高く点検費用が嵩んでしまうこと、高所における事故の影響が人命に関わること、また、人による目視点検のため点検品質にばらつきがあることなどの問題が生じている。また、膨大に存在する鉄塔設備の数に対して高所作業員の人材が不足している現状から、点検依頼者に点検結果が報告されるまである程度の期間が必要となり点検結果を早く把握したい事案において支障を来す事態も生じている。さらに、点検品質という点においては、点検者の点検スキルのレベルを統一したり、変状を生じているか否かの判断基準を統一したり、作業漏れを確実に防止したりすることが困難であるという問題がある。 However, since the tower equipment has a height of about 50 m above the ground, it is dangerous work, so the labor cost of specialized workers is high and the inspection cost is high, the impact of an accident at a high place is life-threatening, and There are problems such as variations in inspection quality due to visual inspection by humans. In addition, due to the shortage of aerial workers due to the huge number of tower facilities, it will take some time before the inspection results are reported to the inspection requester, and we want to know the inspection results quickly. There are also situations that hinder the case. Furthermore, in terms of inspection quality, it is difficult to unify the level of inspection skills of inspectors, unify the criteria for judging whether or not deformation has occurred, and reliably prevent work omissions. There is a problem.

そこで、近年、高所作業の危険性を回避すべく、カメラを搭載したドローンの活用に着目されている。例えば、カメラを搭載した装置を遠隔操作により対象物の特定箇所に接近させ、撮影画像により、その部分の状況を確認する近接目視装置システムが提案されている(例えば、特許文献1参照)。また、撮影用のドローンの飛行には、市販されているドローンの自動航行用のソフトウェアが用いられている。 Therefore, in recent years, attention has been focused on the use of drones equipped with cameras in order to avoid the danger of working at heights. For example, there has been proposed a close-up visual device system in which a device equipped with a camera is remotely controlled to approach a specific portion of an object and the state of that portion is confirmed by a captured image (see, for example, Patent Document 1). In addition, commercially available software for automatic navigation of drones is used for flying drones for photography.

特開2017-166241号公報JP-A-2017-166241

しかしながら、精度の高い三次元画像を生成するには、ドローンの飛行航路、撮影した複数画像間におけるラップ率、シャッタータイミング、撮影角度などを考慮した飛行航路の設定が必要となるところ、市販の画一的なソフトウェアではこのようなパラメータを設定できない。また、点検対象となる構造物により諸要件が大きく異なったり、ドローンの飛行が禁止されている区域(例えば、皇居など)も存在したりするため、毎回の点検において手作業によるパラメータの設定が必要となる。 However, in order to generate a highly accurate three-dimensional image, it is necessary to set the flight route in consideration of the flight route of the drone, the lap ratio between multiple captured images, the shutter timing, the shooting angle, etc. Such parameters cannot be set with a single piece of software. In addition, various requirements differ greatly depending on the structure to be inspected, and there are areas where drone flight is prohibited (for example, the Imperial Palace), so it is necessary to manually set parameters in each inspection. It becomes.

そこで、本発明は、点検対象となる構造物に応じて最適な飛行航路を提案可能な航路決定装置、航路決定システム、航路決定方法および航路決定プログラムを提供することを目的とする。 Therefore, an object of the present invention is to provide a route determination device, a route determination system, a route determination method, and a route determination program capable of proposing an optimum flight route according to a structure to be inspected.

上記課題を解決するため、本発明に係る飛行航路決定装置は、カメラが搭載された飛翔体の飛行航路を決定する飛行航路決定装置であって、撮像対象物の三次元画像モデルおよび緯度経度情報を取得する緯度経度情報取得部と、取得部により取得された緯度経度情報を元に撮像対象物の三次元画像モデルに寸法を定義する定義部と、撮像対象物の形状を取得する形状取得部と、形状取得部により取得された撮像対象物の形状と定義部により定義された寸法を元に飛行航路を決定する決定部と、を備えることを特徴とする。 In order to solve the above problems, the flight route determination device according to the present invention is a flight route determination device that determines the flight route of a flying object equipped with a camera, and is a three-dimensional image model of an imaged object and latitude / longitude information. The latitude / longitude information acquisition unit that acquires the It is characterized by including a determination unit that determines a flight route based on the shape of the imaged object acquired by the shape acquisition unit and the dimensions defined by the definition unit.

本発明によれば、撮像対象物の三次元画像モデルの寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定するので、点検対象となる構造物に応じて最適な飛行航路を提案することができる。 According to the present invention, since the flight route of the projectile 200 is determined by using the dimensions of the three-dimensional image model of the image pickup object, the shape of the image pickup object, and the like, the optimum flight is performed according to the structure to be inspected. Can propose a route.

本発明の実施形態1および2に係る飛行航路決定システムの構成を示すシステム図である。It is a system diagram which shows the structure of the flight route determination system which concerns on Embodiment 1 and 2 of this invention. 本発明の実施態様1における飛行航路決定装置の機能構成例を示すブロック図である。It is a block diagram which shows the functional structure example of the flight route determination apparatus in Embodiment 1 of this invention. 本発明の実施形態1における飛翔体の飛行航路における撮像角度の一例を示す図である。It is a figure which shows an example of the image pickup angle in the flight path of the flying object in Embodiment 1 of this invention. 本発明の実施形態1における鉄塔を撮像対象物とする飛翔体の飛行航路を示す図である。It is a figure which shows the flight route of the flying object which makes a steel tower as an image pickup object in Embodiment 1 of this invention. 本発明の実施形態1における橋梁を撮像対象物とする飛翔体の飛行航路を示す図である。It is a figure which shows the flight route of the flying object which makes a bridge as an image pickup object in Embodiment 1 of this invention. 本発明の実施形態1における飛翔体の飛行航路の一例を示す図である。本発明の実施態様1における飛翔体の機能構成例を示すブロック図である。It is a figure which shows an example of the flight lane of a flying object in Embodiment 1 of this invention. It is a block diagram which shows the functional composition example of the flying object in Embodiment 1 of this invention. 本発明の実施形態1における飛行航路決定装置による飛行航路決定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the flight route determination processing by the flight route determination apparatus in Embodiment 1 of this invention. 本発明の実施形態2における飛行航路決定装置の機能構成例を示すブロック図である。It is a block diagram which shows the functional structure example of the flight route determination apparatus in Embodiment 2 of this invention. 本発明の実施形態2における飛翔体による鉄塔の撮像距離の一例を示す図である。It is a figure which shows an example of the image pickup distance of the steel tower by the flying object in Embodiment 2 of this invention. 本発明の実施形態2における飛行航路決定装置による飛行航路決定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the flight route determination processing by the flight route determination apparatus in Embodiment 2 of this invention. 本発明の実施形態1および2における飛行航路決定装置を実現可能なコンピュータの一例を示すハードウェア構成図である。It is a hardware block diagram which shows an example of the computer which can realize the flight route determination apparatus in Embodiments 1 and 2 of this invention.

(実施形態1)
図1は、本発明の実施の形態に係る飛行航路決定システムの全体構成を示すシステム図である。図1に示すように、飛行航路決定システム1は、飛行航路決定装置100と、飛翔体200aと、飛翔体200bとを含み、これらがネットワーク10を介して相互に通信可能となっている。ネットワーク10は、飛行航路決定装置100と、飛翔体200aと、飛翔体200bの各々を相互に接続する役割を担う。例えば、ネットワーク10は、有線ネットワークや無線ネットワークであってもよい。また、鉄塔300aおよび鉄塔300bは、飛翔体200による撮像対象となる構造物である。なお、図1では、カメラ230aを搭載した飛翔体200aおよびカメラ230bを搭載した飛翔体200bの2台を図示するが、さらに複数台あってもよい。また、特に明示する場合を除き、飛翔体200aおよび飛翔体200bを飛翔体200と、カメラ230aおよびカメラ230bをカメラ230と、鉄塔300aおよび鉄塔300bを鉄塔300と総称する。
(Embodiment 1)
FIG. 1 is a system diagram showing an overall configuration of a flight route determination system according to an embodiment of the present invention. As shown in FIG. 1, the flight route determination system 1 includes a flight route determination device 100, a flying object 200a, and a flying object 200b, which can communicate with each other via a network 10. The network 10 is responsible for connecting the flight route determination device 100, the flying object 200a, and the flying object 200b to each other. For example, the network 10 may be a wired network or a wireless network. Further, the steel tower 300a and the steel tower 300b are structures to be imaged by the flying object 200. Although FIG. 1 shows two units, a flying object 200a equipped with a camera 230a and a flying object 200b equipped with a camera 230b, a plurality of units may be further present. Unless otherwise specified, the flying object 200a and the flying object 200b are collectively referred to as a flying object 200, the camera 230a and the camera 230b are collectively referred to as a camera 230, and the steel tower 300a and the steel tower 300b are collectively referred to as a steel tower 300.

飛行航路決定装置100は、飛翔体200から撮像対象となる鉄塔300の画像を取得し、取得した鉄塔300の二次元画像を解析して鉄塔300の劣化症状を含む三次元画像を生成する装置である。なお、鉄塔300は、撮像対象物の一例であり、劣化症状の有無を確認するための点検が必要となる構造物であればいずれであってもよい。 The flight route determination device 100 is a device that acquires an image of the steel tower 300 to be imaged from the projectile 200, analyzes the acquired two-dimensional image of the steel tower 300, and generates a three-dimensional image including deterioration symptoms of the steel tower 300. be. The steel tower 300 is an example of an object to be imaged, and may be any structure as long as it is a structure that requires inspection to confirm the presence or absence of deterioration symptoms.

飛翔体200は、少なくとも自律飛行機能と撮像機能とを備えた装置であって、例えば、ドローンである。具体的には、飛翔体200は、設定された飛行航路に従って飛行する飛行制御機能や、カメラにより被写体を撮像する撮像機能や、現在位置を取得するGPS機能などを備え、バッテリーに充電された電池により駆動する。また、飛翔体200は、詳細を後述するように飛行航路決定装置100により設定された飛行航路に従って飛行する。 The projectile 200 is a device having at least an autonomous flight function and an imaging function, and is, for example, a drone. Specifically, the projectile 200 has a flight control function for flying according to a set flight route, an image pickup function for capturing a subject with a camera, a GPS function for acquiring the current position, and the like, and is a battery charged in a battery. Driven by. Further, the flying object 200 flies according to the flight route set by the flight route determining device 100 as described in detail later.

図2は、本発明の実施形態1における飛行航路決定装置100の機能構成例を示すブロック図である。図2に示すように、飛行航路決定装置100は、制御部110と、通信制御部120と、入出力部130と、記憶部140とを備える。 FIG. 2 is a block diagram showing a functional configuration example of the flight route determining device 100 according to the first embodiment of the present invention. As shown in FIG. 2, the flight route determination device 100 includes a control unit 110, a communication control unit 120, an input / output unit 130, and a storage unit 140.

通信制御部120は、通信回線や電話回線等に接続されるアンテナやルータ等の通信装置(図示せず)に接続されるインターフェースである。すなわち、通信制御部120は、飛翔体200等のような外部装置と通信回線を介してデータを通信する機能を有している。 The communication control unit 120 is an interface connected to a communication device (not shown) such as an antenna or a router connected to a communication line, a telephone line, or the like. That is, the communication control unit 120 has a function of communicating data with an external device such as a flying object 200 via a communication line.

入出力部130は、情報を入力または出力するための液晶モニター等の画面である。なお、図2においては、入出力部130として、入力機能と出力機能が一体型された画面を例示するが、これに限定されず、キーボードなどの入力部を別に備えることで、入力機能と出力機能を別個の機能部としてもよい。 The input / output unit 130 is a screen such as a liquid crystal monitor for inputting or outputting information. In FIG. 2, the input / output unit 130 exemplifies a screen in which an input function and an output function are integrated, but the present invention is not limited to this, and an input unit such as a keyboard can be provided separately to provide an input function and an output. The function may be a separate functional part.

記憶部140は、設備情報データベース141を記憶する。設備情報データベース141には、設備情報が格納されている。ここで、設備情報とは、点検対象となる設備の構造や形状に関する情報であり、例えば、設備の設計図などの情報である。また、点検対象となる設備の構造や形状に関する情報は、同種の設備の型に応じて複数のパターンが、設備の型番や設備の所在地などに対応付けて格納されている。なお、記憶部140が、設備情報データベース141を記憶しない場合には、取得部112は、設備情報をオンラインマップ上の写真から取得することとなる。 The storage unit 140 stores the equipment information database 141. Equipment information is stored in the equipment information database 141. Here, the equipment information is information regarding the structure and shape of the equipment to be inspected, and is, for example, information such as a design drawing of the equipment. Further, information on the structure and shape of the equipment to be inspected is stored in which a plurality of patterns are stored in association with the model number of the equipment, the location of the equipment, etc., according to the type of the equipment of the same type. If the storage unit 140 does not store the equipment information database 141, the acquisition unit 112 acquires the equipment information from the photograph on the online map.

制御部110は、受付部111と、取得部112と、定義部113と、決定部114と、送受信部115とを備える。なお、取得部112は、本発明における緯度経度情報取得部と、形状取得部と、飛行禁止区域情報取得部に相当する。
に相当する。
The control unit 110 includes a reception unit 111, an acquisition unit 112, a definition unit 113, a determination unit 114, and a transmission / reception unit 115. The acquisition unit 112 corresponds to the latitude / longitude information acquisition unit, the shape acquisition unit, and the no-fly zone information acquisition unit in the present invention.
Corresponds to.

送受信部115は、飛翔体200などの外部端末または外部装置との間で各種情報を送受信する。例えば、送受信部115は、飛翔体200から点検対象となる被写体の画像を受信したり、決定部114により決定された飛行航路を飛翔体200に送信したりする。被写体の画像には、被写体の位置情報およびカメラ座標が関連付けられる。ここで、被写体の位置情報とは、複数の画像間における被写体の大きさや角度により算出された被写体の相対的な撮影位置を示す情報である。 The transmission / reception unit 115 transmits / receives various information to / from an external terminal such as a flying object 200 or an external device. For example, the transmission / reception unit 115 receives an image of a subject to be inspected from the projectile 200, or transmits a flight route determined by the determination unit 114 to the projectile 200. The image of the subject is associated with the position information of the subject and the camera coordinates. Here, the position information of the subject is information indicating the relative shooting position of the subject calculated by the size and angle of the subject between a plurality of images.

受付部111は、入出力部130から各種情報の入力を受け付ける。例えば、受付部111は、飛翔体200の機種情報や、設備情報の入力などを受け付ける。ここで、飛翔体200の機種情報とは、飛翔体200本体の性能およびカメラ230の性能に関する情報のことである。例えば、飛翔体200の性能に関する情報として、飛翔体200の飛行速度などの飛行性能、消費電力、バッテリー量などがあり、カメラ230の画素数、光学ズーム、焦点距離、F値、シャッタースピードなどがある。 The reception unit 111 receives input of various information from the input / output unit 130. For example, the reception unit 111 receives input of model information of the projectile 200, equipment information, and the like. Here, the model information of the flying object 200 is information regarding the performance of the flying object 200 main body and the performance of the camera 230. For example, information on the performance of the projectile 200 includes flight performance such as the flight speed of the projectile 200, power consumption, battery capacity, and the number of pixels of the camera 230, optical zoom, focal length, F value, shutter speed, and the like. be.

取得部112は、撮像対象物の三次元画像モデルおよび緯度経度情報を取得する。例えば、まず、取得部112は、撮像対象物の画像を基に撮像対象物の概略モデルとなる三次元画像モデルを生成する。なお、ここで使用される画像は、オンラインマップ上の写真であってもよいし、設備情報データベース141に設備の画像があらかじめ格納されている場合には、当該画像であってもよい。次に、取得部112は、送受信部115を介して、インターネット上のオンラインマップから撮像対象物の所在地を検索し、緯度経度情報を取得する。さらに、取得部112は、オンラインマップ上に表示される撮像対象物の平面図、航空写真、またはストリートビューを含む現地写真などから、撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺を取得する。 The acquisition unit 112 acquires a three-dimensional image model of the image pickup object and latitude / longitude information. For example, first, the acquisition unit 112 generates a three-dimensional image model that is a schematic model of the image pickup object based on the image of the image pickup object. The image used here may be a photograph on an online map, or may be the image when the image of the equipment is stored in the equipment information database 141 in advance. Next, the acquisition unit 112 searches for the location of the imaging object from the online map on the Internet via the transmission / reception unit 115, and acquires the latitude / longitude information. Further, the acquisition unit 112 obtains the maximum width, depth, and the plan view of the imaged object from the plan view, the aerial photograph, the local photograph including the street view, etc. of the imaged object displayed on the online map. Get the scale of.

また、取得部112は、飛翔体の飛行が禁止される区域を示す飛行禁止区域情報を取得する。ここで、飛行禁止区域情報とは、飛翔体200を含む飛行体による飛行が禁止されている空域が定められた情報である。飛行禁止区域情報は、国土地理院により発行された地理院地図において定められており、例えば、皇居などがこれに該当する。また、飛行禁止区域情報は、撮像対象物の形状に対して、当該撮像対象物の内側を飛行禁止区域として定められた情報であってもよい。これは、飛翔体200が撮像対象物の内側を飛行することにより撮像対象物に衝突するリスクを回避するために定められるものである。 In addition, the acquisition unit 112 acquires flight prohibited area information indicating an area where flight of a flying object is prohibited. Here, the flight prohibited area information is information in which an airspace in which flight by an aircraft including the flying object 200 is prohibited is defined. No-fly zone information is defined in the GSI Maps issued by the Geospatial Information Authority of Japan, for example, the Imperial Palace. Further, the no-fly zone information may be information in which the inside of the image pickup object is defined as a no-fly zone with respect to the shape of the image pickup object. This is defined in order to avoid the risk that the projectile 200 flies inside the image pickup object and collides with the image pickup object.

定義部113は、取得部112により取得された緯度経度情報を元に、取得部112により生成された撮像対象物の概略モデルとなる三次元画像モデルに寸法を定義する。例えば、定義部113は、取得部112により取得された撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺から実寸を求め、求めた実寸から概略モデルとなる三次元画像モデルの縮尺に応じて、三次元画像モデルの各部の長さを定義する。 Based on the latitude / longitude information acquired by the acquisition unit 112, the definition unit 113 defines the dimensions in a three-dimensional image model that is a schematic model of the image pickup target generated by the acquisition unit 112. For example, the definition unit 113 obtains the actual size from the width and depth of the maximum width of the image pickup object acquired by the acquisition unit 112, and the scale of the plan view, and obtains the actual size from the obtained actual size to be a schematic model of the three-dimensional image model. The length of each part of the 3D image model is defined according to the scale.

決定部114は、取得部112により取得された撮像対象物の形状と、定義部113により定義された寸法から、飛翔体200による飛行航路を決定する。例えば、決定部114は、飛翔体200の航路進行方向に対し所定の仰俯角で、または、飛翔体200の進行方向に対し、直角方向の所定の仰俯角で航行する航路を決定する。図3は、飛翔体200の飛行航路における撮像角度の一例を示す図である。図3では、実線の矢印が飛翔体200の飛行航路進行方向を示す。なお、撮像対象物である鉄塔300は、一つの飛翔体200により撮像されるのが通常であるが、図3においては撮像位置および撮像角度の説明の便宜のため、飛翔体200aと飛翔体200bに分けて説明する。まず、飛翔体200aは、撮像対象物である鉄塔300の部材305の下面部を撮像するために必要な飛行角度として、飛翔体200の飛行航路進行方向に対して仰角となる飛行航路が定められた一例を示す。一方、飛翔体200bは、撮像対象物である鉄塔300の部材306の上面部を撮像するために必要な飛行角度として、飛翔体200の飛行航路進行方向に対して俯角となる飛行航路が定められた一例を示す。なお、図3においては飛翔体200が仰俯角で航行する航路を示したが、これに限定されず、飛翔体200自体の角度は変更せず、飛翔体200におけるカメラ230の取り付け部が可動することでカメラ230の向きを上下に変更することでも同様の撮像角度で撮像することができる。図4は、鉄塔300を撮像対象物とする飛翔体200の飛行航路を示す図である。図4では、破線の矢印が飛翔体200の飛行航路進行方向を示す。図4において、飛翔体200は、鉄塔300の下部から鉄塔300の周囲を旋回しながら鉄塔300の上部まで飛行する。そして、飛翔体200は、飛行航路の飛行を終了すると、出発地点まで戻る。また、図5は、橋梁310を撮像対象物とする飛翔体200の飛行航路を示す図である。図5では、破線の矢印が飛翔体200の飛行航路進行方向を示す。図5において、飛翔体200は、橋梁310の下部左端から右端まで橋梁310の側面を平行に飛行しながら飛行し、右端まで飛行すると所定の高さ分垂直に飛行し、左端の上部まで飛行する。飛翔体200は左端まで飛行すると、同様に、所定の高さ分垂直に飛行し、右端の上部まで折り返し飛行し、橋梁310の最上部までそして、飛翔体200は、飛行航路の飛行を終了すると、出発地点まで戻る。なお、図4および図5において、飛翔体200が撮像対象物である鉄塔300または橋梁310を下部から上部に向けて飛行する飛行航路を示したが、これに限定されず、上部から下部に向けて飛行する飛行航路であってもよいし、飛行航路の向きについても同様に右回り、左回り、右から左へ、左から右へといずれのパターンであってもよい。また、垂直型の構造物であれば、スパイラル、即ち、垂直型の構造物を中心として、下から上、もしくは、上から下へと螺旋の渦を描くような飛行航路であってもよい。 The determination unit 114 determines the flight route by the projectile 200 from the shape of the image pickup object acquired by the acquisition unit 112 and the dimensions defined by the definition unit 113. For example, the determination unit 114 determines a route to navigate at a predetermined elevation / depression angle with respect to the traveling direction of the flying object 200, or at a predetermined elevation / depression angle in a direction perpendicular to the traveling direction of the flying object 200. FIG. 3 is a diagram showing an example of an imaging angle in the flight route of the flying object 200. In FIG. 3, the solid arrow indicates the flight route traveling direction of the projectile 200. The steel tower 300, which is the object to be imaged, is usually imaged by one projectile 200, but in FIG. 3, the projectile 200a and the projectile 200b are for convenience of explaining the image pickup position and the image pickup angle. It will be explained separately. First, for the flying object 200a, a flight route that is an elevation angle with respect to the flight route traveling direction of the flying object 200 is determined as a flight angle required for imaging the lower surface portion of the member 305 of the steel tower 300, which is the object to be imaged. Here is an example. On the other hand, for the flying object 200b, a flight route that is a depression angle with respect to the flight route traveling direction of the flying object 200 is defined as a flight angle required for imaging the upper surface portion of the member 306 of the steel tower 300, which is the object to be imaged. Here is an example. Note that FIG. 3 shows a route in which the flying object 200 navigates at an elevation / depression angle, but the present invention is not limited to this, and the angle of the flying object 200 itself is not changed, and the mounting portion of the camera 230 in the flying object 200 is movable. Therefore, by changing the direction of the camera 230 up and down, it is possible to take an image at the same imaging angle. FIG. 4 is a diagram showing a flight route of a flying object 200 having a steel tower 300 as an image pickup object. In FIG. 4, the broken line arrow indicates the flight route traveling direction of the projectile 200. In FIG. 4, the projectile 200 flies from the lower part of the tower 300 to the upper part of the tower 300 while turning around the tower 300. Then, when the flight object 200 finishes flying in the flight route, it returns to the starting point. Further, FIG. 5 is a diagram showing a flight route of the projectile 200 having the bridge 310 as an image pickup object. In FIG. 5, the broken line arrow indicates the flight route traveling direction of the projectile 200. In FIG. 5, the projectile 200 flies while flying in parallel on the side surface of the bridge 310 from the lower left end to the right end of the bridge 310, and when it flies to the right end, it flies vertically by a predetermined height and flies to the upper part of the left end. .. When the projectile 200 flies to the left end, it also flies vertically by a predetermined height, turns back to the upper part of the right end, reaches the top of the bridge 310, and when the projectile 200 finishes the flight of the flight route. , Return to the starting point. In FIGS. 4 and 5, the flight route in which the projectile 200 flies from the lower part to the upper part of the steel tower 300 or the bridge 310, which is the object to be imaged, is shown, but the flight route is not limited to this, and the flight route is not limited to this. The flight route may be a flight route, and the direction of the flight route may be clockwise, counterclockwise, right to left, or left to right. Further, if it is a vertical structure, it may be a spiral, that is, a flight route that draws a spiral vortex from bottom to top or from top to bottom around the vertical structure.

また、決定部114は、送受信部115または受付部111を介して取得した飛翔体200の飛行速度などの飛行性能に応じて飛翔体200の飛行航路を決定してもよい。また、決定部114は、飛翔体200の蓄電池容量と消費電力に基づいて飛翔体の移動速度を決定する。その際、さらに、決定部114は、撮像対象物の撮影を完了するまでに必要な給電計画を設定する。例えば、給電計画とは、撮像開始から撮像終了までの給電計画のことであり、飛翔体200の消費電力や撮像距離などにより撮像終了までに給電が必要な場合に定められる給電タイミングなどである。つまり、全体的な飛行航路に対して、その途中に給電タイミングとして撮像を中断する位置として中断位置を設定してよく、中断位置まで飛行したら飛翔体200を給電可能な場所に戻らせ、給電後に、中断位置から再度、飛行と撮像を再開するように構成されてもよい。 Further, the determination unit 114 may determine the flight route of the projectile 200 according to the flight performance such as the flight speed of the projectile 200 acquired via the transmission / reception unit 115 or the reception unit 111. Further, the determination unit 114 determines the moving speed of the flying object based on the storage battery capacity and the power consumption of the flying object 200. At that time, the determination unit 114 further sets a power supply plan necessary for completing the photographing of the image pickup object. For example, the power supply plan is a power supply plan from the start of imaging to the end of imaging, and is a power supply timing determined when power supply is required until the end of imaging due to the power consumption of the projectile 200, the imaging distance, and the like. That is, for the entire flight route, the interruption position may be set as the position where the imaging is interrupted as the feeding timing in the middle of the flight route, and when the flight reaches the interruption position, the projectile 200 is returned to the place where the feeding is possible, and after the feeding is performed. , It may be configured to resume flight and imaging from the interrupted position.

また、決定部114は、飛翔体200が備えるカメラ230の性能に応じて飛行航路を決定することとしてもよい。例えば、決定部114は、撮像対象物となる被写体の所定の領域において、飛翔体200により重複する複数画像が撮影された場合における画像のラップ率、シャッタータイミング、撮影角度の少なくともいずれか1つに基づいて飛行航路を決定することとしてもよい。 Further, the determination unit 114 may determine the flight route according to the performance of the camera 230 included in the projectile 200. For example, the determination unit 114 can be used for at least one of the image lap ratio, shutter timing, and shooting angle when a plurality of overlapping images are shot by the projectile 200 in a predetermined region of the subject to be imaged. The flight route may be determined based on this.

図4は、本発明の実施形態1における飛翔体200の機能構成例を示すブロック図である。図4に示すように、飛翔体200は、制御部210と、通信制御部220と、カメラ230と、記憶部240とを備える。 FIG. 4 is a block diagram showing a functional configuration example of the flying object 200 according to the first embodiment of the present invention. As shown in FIG. 4, the flying object 200 includes a control unit 210, a communication control unit 220, a camera 230, and a storage unit 240.

通信制御部220は、通信回線や電話回線等に接続されるアンテナやルータ等の通信装置(図示せず)に接続されるインターフェースである。すなわち、通信制御部220は、飛翔体200等のような外部装置と通信回線を介してデータを通信する機能を有している。また、カメラ230は、レンズやファインダーなどの光学系や、シャッターなどの露光装置などを備えた撮像装置であり、レンズを介して被写体の画像を撮像する。 The communication control unit 220 is an interface connected to a communication device (not shown) such as an antenna or a router connected to a communication line, a telephone line, or the like. That is, the communication control unit 220 has a function of communicating data with an external device such as a flying object 200 via a communication line. Further, the camera 230 is an image pickup device provided with an optical system such as a lens and a finder, an exposure device such as a shutter, and the like, and captures an image of a subject through the lens.

記憶部240は、機種情報データベース241と、画像データベース242とを記憶する。また、機種情報データベース241には、飛翔体200の機種情報が格納されており、画像データベース242には、飛翔体200により撮像された画像が格納されている。 The storage unit 240 stores the model information database 241 and the image database 242. Further, the model information database 241 stores the model information of the projectile 200, and the image database 242 stores the image captured by the projectile 200.

制御部210は、設定部211と、飛行制御部212と、撮像制御部213と、送受信部214とを備える。 The control unit 210 includes a setting unit 211, a flight control unit 212, an image pickup control unit 213, and a transmission / reception unit 214.

送受信部214は、飛行航路決定装置100などの外部端末または外部装置との間で各種情報を送受信する。例えば、飛翔体200が、飛翔体200の飛行を制御する端末を介してネットワーク10に接続されている場合には、送受信部214は、当該端末との間で飛行や撮像に関する情報を送受信する。この場合、飛翔体200は、当該端末を介して、飛行航路決定装置100に撮像対象物の画像を送信することとなる。一方、飛翔体200が、ネットワーク10に直接接続されている場合には、送受信部214は、飛行航路決定装置100から飛翔体200に設定される情報となる飛行航路、飛行速度、飛行角度、シャッター速度、シャッタータイミング、望遠率、撮像対象物の撮像枚数、給電計画などを受信する。また、送受信部214は、カメラ230を用いて撮像した撮像対象物の画像を飛行航路決定装置100に送信したりする。 The transmission / reception unit 214 transmits / receives various information to / from an external terminal such as the flight route determination device 100 or an external device. For example, when the flying object 200 is connected to the network 10 via a terminal that controls the flight of the flying object 200, the transmission / reception unit 214 transmits / receives information on flight and imaging to / from the terminal. In this case, the projectile 200 transmits an image of the object to be imaged to the flight route determination device 100 via the terminal. On the other hand, when the flying object 200 is directly connected to the network 10, the transmission / reception unit 214 uses the flight route, the flight speed, the flight angle, and the shutter, which are information to be set in the flying object 200 from the flight route determining device 100. Receives speed, shutter timing, telephoto rate, number of images to be imaged, power supply plan, etc. Further, the transmission / reception unit 214 transmits an image of an image pickup object captured by the camera 230 to the flight route determination device 100.

設定部211は、送受信部214を介して飛行航路決定装置100から受信した飛行航路を設定する。例えば、設定部211は、飛行航路決定装置100から飛行航路とともに、飛行速度、飛行角度、シャッター速度、シャッタータイミング、望遠率、撮像対象物の撮像枚数、給電計画なども受信し、これらの設定値を設定する。 The setting unit 211 sets the flight route received from the flight route determination device 100 via the transmission / reception unit 214. For example, the setting unit 211 receives from the flight route determination device 100 the flight speed, the flight angle, the shutter speed, the shutter timing, the telephoto ratio, the number of images to be imaged, the power supply plan, and the like, and these set values. To set.

飛行制御部212は、設定部211により設定された飛行航路に従って飛翔体200の飛行を制御する。例えば、飛行制御部212は、飛行航路のほか、飛行角度、給電計画などの設定にも従って飛翔体200の飛行を制御する。 The flight control unit 212 controls the flight of the projectile 200 according to the flight route set by the setting unit 211. For example, the flight control unit 212 controls the flight of the projectile 200 according to the settings such as the flight route, the flight angle, and the power supply plan.

撮像制御部213は、設定部211により設定された撮像に関する設定値に従って撮像対象物を撮像する。例えば、撮像制御部213は、シャッター速度、シャッタータイミング、望遠率、撮像枚数などの設定値に従って撮像対象物を撮像する。 The image pickup control unit 213 images an image pickup object according to the set value for image pickup set by the setting unit 211. For example, the image pickup control unit 213 images an image pickup object according to set values such as a shutter speed, a shutter timing, a telephoto rate, and the number of images to be imaged.

次に、飛行航路決定装置100による飛行航路決定処理の流れを説明する。図7は、飛行航路決定装置100による飛行航路決定処理の流れを示すフローチャートである。 Next, the flow of the flight route determination process by the flight route determination device 100 will be described. FIG. 7 is a flowchart showing the flow of the flight route determination process by the flight route determination device 100.

取得部112は、三次元画像モデルを生成する(ステップS1)。例えば、取得部112は、撮像対象物の画像を基に撮像対象物の概略モデルとなる三次元画像モデルを生成する。取得部112は、撮像対象物の緯度経度情報を取得する(ステップS2)。例えば、取得部112は、送受信部115を介して、撮像対象物が所在する所在地をインターネット上のオンラインマップに入力し検索することで、緯度経度情報を取得してもよい。ここで、取得部112は、オンラインマップ上に表示される撮像対象物の平面図、航空写真、またはストリートビューを含む現地写真などから、撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺も取得する。 The acquisition unit 112 generates a three-dimensional image model (step S1). For example, the acquisition unit 112 generates a three-dimensional image model that is a schematic model of the image pickup object based on the image of the image pickup object. The acquisition unit 112 acquires the latitude / longitude information of the image pickup target (step S2). For example, the acquisition unit 112 may acquire latitude / longitude information by inputting the location where the image pickup object is located into an online map on the Internet and searching through the transmission / reception unit 115. Here, the acquisition unit 112 obtains the width, depth, and the plane of the maximum width of the imaged object from a plan view, an aerial photograph, a local photograph including a street view, or the like displayed on the online map. Also get the scale of the figure.

定義部113は、撮像対象物の三次元画像モデルに寸法を定義する(ステップS3)。例えば、定義部113は、ステップS2において取得部112により取得された撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺から実寸を求め、求めた実寸から概略モデルとなる三次元画像モデルの縮尺に応じて、三次元画像モデルの各部の長さを定義する。取得部112は、撮像対象物の形状を取得する(ステップS4)。例えば、取得部112は、設備情報データベース141を参照し、撮像対象物の設備情報を取得し、取得した設備情報に含まれる撮像対象物の設計図などから形状を取得する。なお、取得部112は、設備情報データベース141から設備情報を取得する他、インターネット上のオンラインマップにおける現地写真などをもとに撮像対象物の形状を取得することとしてもよい。 The definition unit 113 defines the dimensions in the three-dimensional image model of the image pickup object (step S3). For example, the definition unit 113 obtains the actual size from the width and depth of the maximum width of the image pickup object acquired by the acquisition unit 112 in step S2, and the scale of the plan view, and the three-dimensional model becomes a schematic model from the obtained actual size. The length of each part of the 3D image model is defined according to the scale of the image model. The acquisition unit 112 acquires the shape of the object to be imaged (step S4). For example, the acquisition unit 112 refers to the equipment information database 141, acquires the equipment information of the image pickup object, and acquires the shape from the design drawing of the image pickup object included in the acquired equipment information. In addition to acquiring equipment information from the equipment information database 141, the acquisition unit 112 may acquire the shape of the object to be imaged based on a local photograph or the like on an online map on the Internet.

決定部114は、飛翔体200への各設定値を決定する(ステップS5)。例えば、決定部114は、飛翔体200の移動速度、飛翔体200の航路進行方向に対する仰俯角、または、飛翔体200の進行方向に対する直角方向の仰俯角、給電計画などを設定する。なお、給電計画とは、飛翔体200による撮像対象物の撮像開始から撮像終了までの給電計画のことであり、飛翔体200の消費電力や撮像距離などにより撮像終了までに給電が必要な場合に定められる給電タイミングなどである。 The determination unit 114 determines each set value for the projectile 200 (step S5). For example, the determination unit 114 sets the moving speed of the flying object 200, the elevation / depression angle of the flying object 200 with respect to the traveling direction of the route, the elevation / depression angle of the flying object 200 in the direction perpendicular to the traveling direction, the power feeding plan, and the like. The power supply plan is a power supply plan from the start of imaging of the object to be imaged by the flying object 200 to the end of imaging, and when power supply is required by the end of imaging due to the power consumption of the flying object 200, the imaging distance, and the like. It is the power supply timing that is set.

取得部112は、飛行禁止区域情報を取得する(ステップS6)。例えば、取得部112は、国土地理院の地理院地図から飛行禁止区域情報を取得する。または、ステップS4において取得した撮像対象物の形状に対して、当該撮像対象物の内側を飛行禁止区域として定められた飛行禁止区域情報を取得する。決定部114は、飛翔体200の飛行航路を決定する(ステップS7)。決定部114は、ステップS3において定義した三次元画像モデルの寸法、ステップS4において取得した撮像対象物の形状、ステップS5において決定した飛翔体200に設定する各設定値、およびステップS6において取得した飛行禁止区域情報を基に飛行航路を決定する。 The acquisition unit 112 acquires flight prohibited area information (step S6). For example, the acquisition unit 112 acquires flight prohibited area information from the Geographical Survey Institute map of the Geographical Survey Institute. Alternatively, with respect to the shape of the image pickup object acquired in step S4, the flight prohibition area information in which the inside of the image pickup object is defined as a no-fly zone is acquired. The determination unit 114 determines the flight route of the projectile 200 (step S7). The determination unit 114 determines the dimensions of the three-dimensional image model defined in step S3, the shape of the image pickup object acquired in step S4, the set values set for the projectile 200 determined in step S5, and the flight acquired in step S6. Determine the flight route based on the prohibited area information.

このように、実施形態1における飛行航路決定装置100によれば、撮像対象物の三次元画像モデルの寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定するので、点検対象となる構造物に応じて最適な飛行航路を提案することができる。 As described above, according to the flight route determining device 100 in the first embodiment, the flight route of the flying object 200 is determined by using the dimensions of the three-dimensional image model of the imaged object, the shape of the imaged object, and the like. It is possible to propose the optimum flight route according to the target structure.

(実施形態2)
実施形態1において、飛行航路決定装置100は、撮像対象物の寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定する構成であった。実施形態2においては、さらに、飛翔体200による撮像対象物の撮像精度をより向上しつつ、よりユーザの要望に即した飛行航路を提供可能な構成を説明する。実施形態2における全体構成は実施形態1において図1を用いて説明した全体構成と同様であるため説明を省略する。また、飛翔体200の機能構成図も、実施形態1において図3を用いて説明した機能構成と同様であるため説明を省略する。
(Embodiment 2)
In the first embodiment, the flight route determining device 100 is configured to determine the flight route of the projectile 200 by using the dimensions of the image pickup object, the shape of the image pickup object, and the like. In the second embodiment, a configuration capable of providing a flight route that more meets the user's request while further improving the imaging accuracy of the image pickup object by the flying object 200 will be described. Since the overall configuration in the second embodiment is the same as the overall configuration described with reference to FIG. 1 in the first embodiment, the description thereof will be omitted. Further, since the functional configuration diagram of the flying object 200 is the same as the functional configuration described with reference to FIG. 3 in the first embodiment, the description thereof will be omitted.

図8は、実施形態2における飛行航路決定装置400の機能構成例を示すブロック図である。図8に示すように、飛行航路決定装置400は、制御部410と、通信制御部120と、入出力部130と、記憶部140とを備える。なお、実施形態1と同様の構成および機能については、同一の符号を付して説明を省略する。 FIG. 8 is a block diagram showing a functional configuration example of the flight route determining device 400 according to the second embodiment. As shown in FIG. 8, the flight route determination device 400 includes a control unit 410, a communication control unit 120, an input / output unit 130, and a storage unit 140. The same configurations and functions as those in the first embodiment are designated by the same reference numerals, and the description thereof will be omitted.

制御部410は、受付部411と、取得部112と、定義部113と、決定部414と、表示制御部415と、送受信部115とを備える。なお、決定部414は、本発明における撮像距離決定部に相当する。 The control unit 410 includes a reception unit 411, an acquisition unit 112, a definition unit 113, a determination unit 414, a display control unit 415, and a transmission / reception unit 115. The determination unit 414 corresponds to the imaging distance determination unit in the present invention.

受付部411は、入出力部130から各種情報の入力を受け付ける。例えば、受付部111は、飛翔体200の機種情報や、設備情報の入力などを受け付ける。また、受付部411は、入出力部130に出力された複数の飛行航路の表示情報から、ユーザ操作による1つの飛行航路の選択や、出力された飛行航路に対する編集の入力を受け付ける。 The reception unit 411 receives input of various information from the input / output unit 130. For example, the reception unit 111 receives input of model information of the projectile 200, equipment information, and the like. Further, the reception unit 411 receives the selection of one flight route by the user operation from the display information of the plurality of flight routes output to the input / output unit 130, and the input of editing for the output flight route.

決定部414は、撮像対象物の撮像距離を決定する。ここで、撮像距離とは、撮像対象物となる三次元画像モデルの外側から飛翔体200により撮像が実行される位置までの距離を決定する。具体的には、決定部414は、三次元画像モデルの外側から撮像を実行する所定の距離を決定する。図9は、飛翔体200による鉄塔300の撮像距離の一例を示す図である。実線の矢印は、飛翔体200の飛行航路の進行方向を示し、破線の矢印は、飛翔体200による鉄塔300の撮像距離L1を示す。図9が示すように、撮像距離L1は、鉄塔300の外側からカメラ230の位置までの距離となる。外側を基点とするのは、中心を基点とすると特に錐の形状をした撮像対象物の場合、高度により飛翔体200と撮像対象物が近接して衝突するリスクがあるためである。さらに、決定部414は、カメラの性能、撮像対象物の形状、撮像対象物の構造の少なくともいずれか1つ以上の要素に基づいて撮像距離を決定する。 The determination unit 414 determines the imaging distance of the imaging object. Here, the image pickup distance determines the distance from the outside of the three-dimensional image model to be the image pickup object to the position where the image pickup is executed by the flying object 200. Specifically, the determination unit 414 determines a predetermined distance for performing imaging from the outside of the three-dimensional image model. FIG. 9 is a diagram showing an example of the imaging distance of the steel tower 300 by the flying object 200. The solid arrow indicates the traveling direction of the flight route of the flying object 200, and the broken line arrow indicates the imaging distance L1 of the steel tower 300 by the flying object 200. As shown in FIG. 9, the imaging distance L1 is the distance from the outside of the tower 300 to the position of the camera 230. The reason why the outside is used as the base point is that there is a risk that the projectile 200 and the image-taking object collide with each other in close proximity depending on the altitude, especially in the case of an image-taking object having a cone shape when the center is used as the base point. Further, the determination unit 414 determines the imaging distance based on at least one or more factors of the performance of the camera, the shape of the imaging object, and the structure of the imaging object.

また、決定部414は、取得部112により取得された撮像対象物の形状と、定義部113により定義された寸法から、候補となる飛翔体200の飛行航路を複数決定する。また、決定部414は、飛翔体200の飛行航路を複数決定し、表示制御部415を介して入出力部130にいずれか1つの飛行航路を選択可能な態様で複数の飛行航路の表示情報を出力する。 Further, the determination unit 414 determines a plurality of flight routes of the candidate projectile 200 from the shape of the image pickup object acquired by the acquisition unit 112 and the dimensions defined by the definition unit 113. Further, the determination unit 414 determines a plurality of flight routes of the flying object 200, and displays the display information of the plurality of flight routes in a manner in which any one flight route can be selected by the input / output unit 130 via the display control unit 415. Output.

次に、飛行航路決定装置400による飛行航路決定処理の流れを説明する。図10は、飛行航路決定装置400による飛行航路決定処理の流れを示すフローチャートである。なお、ステップS11~ステップS13、また、ステップS15およびステップS16の処理は、実施形態1における飛行航路決定処理の流れを示す図7のフローチャートにおけるステップS1~ステップS3、また、ステップS5およびステップS6の処理と同様であるため説明を省略する。 Next, the flow of the flight route determination process by the flight route determination device 400 will be described. FIG. 10 is a flowchart showing the flow of the flight route determination process by the flight route determination device 400. The processes of steps S11 to S13, and steps S15 and S16 are the processes of steps S1 to S3, and steps S5 and S6 in the flowchart of FIG. 7 showing the flow of the flight route determination process in the first embodiment. Since it is the same as the process, the description will be omitted.

ステップS14において、取得部112は撮像対象物の設備情報を取得する(ステップS14)。具体的には、取得部112は、設備情報データベース141から、撮像対象物の設備情報を取得する。また、ステップS17において、決定部414は、飛翔体200の撮像距離を決定する(ステップS17)。具体的には、決定部414は、取得部112によりステップS14において取得された設備情報に含まれる撮像対象物の形状や構造、および、飛翔体200の機種情報を基に、撮像対象物の中心から飛翔体200までの撮像距離を決定する。 In step S14, the acquisition unit 112 acquires the equipment information of the image pickup target (step S14). Specifically, the acquisition unit 112 acquires equipment information of the imaging object from the equipment information database 141. Further, in step S17, the determination unit 414 determines the imaging distance of the projectile 200 (step S17). Specifically, the determination unit 414 is the center of the image pickup object based on the shape and structure of the image pickup object included in the equipment information acquired in step S14 by the acquisition unit 112 and the model information of the projectile 200. The imaging distance from to the projectile 200 is determined.

決定部414は、飛行航路を複数決定し、表示制御部415を介して入出力部130にいずれか1つの飛行航路を選択可能な態様で複数の飛行航路の表示情報を出力する(ステップS18)。決定部414は、ステップS17において決定した撮像距離と、ステップS13において定義した三次元画像モデルの寸法、ステップS14において取得した撮像対象物の形状、ステップS15において決定した飛翔体200に設定する各設定値、およびステップS16において取得した飛行禁止区域情報の各情報を用いて飛行航路を複数決定する。 The determination unit 414 determines a plurality of flight routes, and outputs display information of the plurality of flight routes to the input / output unit 130 via the display control unit 415 in a manner in which any one flight route can be selected (step S18). .. The determination unit 414 sets the imaging distance determined in step S17, the dimensions of the three-dimensional image model defined in step S13, the shape of the imaging object acquired in step S14, and the projectile 200 determined in step S15. A plurality of flight routes are determined by using the value and each information of the flight prohibited area information acquired in step S16.

受付部411は、ステップS18において入出力部130に出力された表示情報から、1つの飛行航路の選択を受け付ける(ステップS19)。決定部414は、ステップS19において受け付けられた飛行航路を、飛翔体200に設定する飛行航路として決定する(ステップS20)。なお、本フローチャートのほか、飛行航路決定装置100は、決定した飛行航路を外部サーバにアップロードし、飛翔体200の操作者が有する携帯端末などで外部サーバから飛行航路をダウンロードして、当該携帯端末から飛翔体200にダウンロードして飛行航路を飛翔体200に設定するという流れとしてもよい。 The reception unit 411 accepts the selection of one flight route from the display information output to the input / output unit 130 in step S18 (step S19). The determination unit 414 determines the flight route accepted in step S19 as the flight route to be set in the projectile 200 (step S20). In addition to this flowchart, the flight route determination device 100 uploads the determined flight route to an external server, downloads the flight route from the external server with a mobile terminal owned by the operator of the projectile 200, and downloads the flight route from the mobile terminal. It may be a flow of downloading to the flying object 200 from and setting the flight route to the flying object 200.

このように、実施形態2における飛行航路決定装置400によれば、飛翔体200と撮像対象物との間の撮像距離を決定した上で飛行航路を決定するので、飛翔体200による撮像対象物の撮像精度をより向上することができる。また、実施形態2における飛行航路決定装置400によれば、複数の飛行航路をユーザによる選択が可能な形態で出力し、ユーザから最適な飛行航路の選択を受け付けるので、よりユーザの要望に即した飛行航路を提供することができる。 As described above, according to the flight route determining device 400 in the second embodiment, the flight route is determined after the imaging distance between the flying object 200 and the image pickup object is determined, so that the image pickup object by the flying object 200 is determined. The imaging accuracy can be further improved. Further, according to the flight route determination device 400 in the second embodiment, a plurality of flight routes are output in a form that can be selected by the user, and the selection of the optimum flight route is received from the user, so that the flight route can be more closely matched to the user's request. A flight route can be provided.

図11は、実施形態1および2における飛行航路決定装置100、400、500を実現可能なコンピュータ20の一例を示すハードウェア構成図である。図11に示すように、コンピュータ20は、CPU(Central Processing Unit)21、RAM(Random Access Memory)22、ROM(Read Only Memory)23、HDD(Hard Disk Drive)24、通信インターフェース(I/F)25、入出力インターフェース(I/F)26、およびメディアインターフェース(I/F)27を備える。 FIG. 11 is a hardware configuration diagram showing an example of a computer 20 capable of realizing the flight route determination devices 100, 400, and 500 according to the first and second embodiments. As shown in FIG. 11, the computer 20 includes a CPU (Central Processing Unit) 21, a RAM (Random Access Memory) 22, a ROM (Read Only Memory) 23, an HDD (Hard Disk Drive) 24, and a communication interface (I / F). 25, an input / output interface (I / F) 26, and a media interface (I / F) 27 are provided.

CPU21は、ROM23またはHDD24に格納されたプログラムにより動作し、各部の制御を行う。ROM23は、コンピュータ20の起動時にCPU21によって実行されるブートプログラムや、コンピュータ20のハードウェアに依存するプログラム等を格納する。 The CPU 21 operates by a program stored in the ROM 23 or the HDD 24, and controls each part. The ROM 23 stores a boot program executed by the CPU 21 when the computer 20 is started, a program depending on the hardware of the computer 20, and the like.

HDD24は、CPU21によって実行されるプログラムおよび当該プログラムによって使用されるデータ等を格納する。通信インターフェース25は、通信回線を介して外部機器から受信したデータをCPU21に送り、CPU21が生成したデータを、通信回線を介して外部機器に送信する。 The HDD 24 stores a program executed by the CPU 21 and data used by the program. The communication interface 25 sends the data received from the external device via the communication line to the CPU 21, and transmits the data generated by the CPU 21 to the external device via the communication line.

CPU21は、入出力インターフェース26を介して、ディスプレイやプリンタ等の出力装置、および、キーボードやマウス等の入力装置を制御する。CPU21は、入出力インターフェース26を介して、入力装置からデータを取得する。また、CPU21は、生成したデータを、入出力インターフェース26を介して出力装置へ出力する。 The CPU 21 controls an output device such as a display or a printer, and an input device such as a keyboard or a mouse via the input / output interface 26. The CPU 21 acquires data from the input device via the input / output interface 26. Further, the CPU 21 outputs the generated data to the output device via the input / output interface 26.

メディアインターフェース27は、記憶媒体(不図示)に格納されたプログラムまたはデータを読み取り、RAM22を介してCPU21に提供する。CPU21は、当該プログラムを、メディアインターフェース27を介して記憶媒体からRAM22上にロードし、ロードしたプログラムを実行する。記憶媒体28は、例えばDVD(Digital Versatile Disc)等の光学記憶媒体、磁気記憶媒体、または半導体メモリ等である。 The media interface 27 reads a program or data stored in a storage medium (not shown) and provides the program or data to the CPU 21 via the RAM 22. The CPU 21 loads the program from the storage medium onto the RAM 22 via the media interface 27, and executes the loaded program. The storage medium 28 is, for example, an optical storage medium such as a DVD (Digital Versatile Disc), a magnetic storage medium, a semiconductor memory, or the like.

コンピュータ20が本実施形態における飛行航路決定装置100として機能する場合、コンピュータ20のCPU21は、RAM22上にロードされたプログラムを実行することにより、受付部111、受付部411、取得部112、定義部113、決定部114、決定部414、表示制御部415、表示制御部415、送受信部115の各機能を実現する。また、HDD24には、設備情報データベース141内のデータが格納される。 When the computer 20 functions as the flight route determination device 100 in the present embodiment, the CPU 21 of the computer 20 executes a program loaded on the RAM 22 to execute a reception unit 111, a reception unit 411, an acquisition unit 112, and a definition unit. Each function of 113, the determination unit 114, the determination unit 414, the display control unit 415, the display control unit 415, and the transmission / reception unit 115 is realized. Further, the data in the equipment information database 141 is stored in the HDD 24.

飛行航路決定システムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、CD-R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されて提供される。コンピュータ20のCPU21は、これらのプログラムを、メディアインターフェース27を介して上記の記憶媒体から読み取って実行するが、他の例として、外部装置から、通信回線を介してこれらのプログラムを取得してもよい。 The flight route determination system is a computer-readable storage medium such as a CD-ROM, CD-R, memory card, DVD (Digital Versatile Disk), or flexible disk (FD) in an installable or executable format file. It is stored and provided in. The CPU 21 of the computer 20 reads and executes these programs from the above storage medium via the media interface 27, but as another example, even if these programs are acquired from an external device via a communication line. good.

なお、飛行航路決定システムは、例えば、ActionScript、JavaScript(登録商標)、Python、Rubyなどのスクリプト言語、C言語、C++、C#、Objective-C、Swift、Java(登録商標)などのコンパイラ言語などを用いて実装できる。 The flight route determination system is, for example, a script language such as ActionScript, JavaScript (registered trademark), Python, Ruby, a compiler language such as C language, C ++, C #, Objective-C, Swift, Java (registered trademark), etc. Can be implemented using.

1 飛行航路決定システム
100 飛行航路決定装置
110 制御部
111 受付部
112 取得部
113 定義部
114 決定部
115 表示制御部
116 送受信部
120 通信制御部
130 入出力部
140 記憶部
141 設備情報データベース
200 飛翔体
210 画面
300 鉄塔
1 Flight route determination system 100 Flight route determination device 110 Control unit 111 Reception unit 112 Acquisition unit 113 Definition unit 114 Determination unit 115 Display control unit 116 Transmission / reception unit 120 Communication control unit 130 Input / output unit 140 Storage unit 141 Equipment information database 200 Flying object 210 screen 300 steel tower

Claims (8)

カメラが搭載された飛翔体の飛行航路を決定する飛行航路決定装置であって、
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得部と、
前記取得部により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義部と、
前記撮像対象物の形状を取得する形状取得部と、
前記形状取得部により取得された前記撮像対象物の形状と前記定義部により定義された寸法を元に前記飛行航路を決定する決定部と、を備え
前記定義部は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定装置。
It is a flight route determination device that determines the flight route of a flying object equipped with a camera.
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition unit that acquires the scale of the map,
A definition unit that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition unit and the scale of the map.
A shape acquisition unit that acquires the shape of the object to be imaged, and a shape acquisition unit.
A determination unit for determining the flight route based on the shape of the image pickup object acquired by the shape acquisition unit and the dimensions defined by the definition unit is provided .
The definition unit calculates the actual size of the image pickup object based on the width, depth, and scale of the maximum width of the image pickup object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination device characterized by this.
前記決定部は、前記飛翔体の蓄電池容量と消費電力に基づいて前記飛翔体の移動速度を決定することと、
前記飛翔体の移動速度を決定する際に、前記撮像対象物の撮影を完了するまでに必要な給電計画を設定することと、
を特徴とする請求項1に記載の飛行航路決定装置。
The determination unit determines the moving speed of the flying object based on the storage battery capacity and the power consumption of the flying object .
When determining the moving speed of the flying object, setting the power supply plan required to complete the shooting of the imaged object, and setting the power supply plan.
The flight route determination device according to claim 1.
前記飛翔体の飛行が禁止される区域を示す飛行禁止区域情報を取得する飛行禁止区域情報取得部、をさらに備え、
前記決定部は、前記飛行禁止区域情報取得部により取得された飛行禁止区域情報を参照し前記飛行航路を決定すること、を特徴とする請求項1又は2に記載の飛行航路決定装置。
Further provided with a no-fly zone information acquisition unit for acquiring information on a no-fly zone indicating an area where the flying object is prohibited from flying.
The flight route determining device according to claim 1 or 2 , wherein the determination unit determines the flight route with reference to the flight prohibited area information acquired by the flight prohibited area information acquisition unit.
前記カメラの性能、前記撮像対象物の形状、前記撮像対象物の構造の少なくともいずれか1つ以上の要素に基づいて、前記撮像対象物の三次元画像モデルの中心から撮像を実行する位置までの距離を決定する撮像距離決定部、をさらに備え、
前記決定部は、前記形状取得部により取得された前記撮像対象物の形状と、前記定義部により定義された寸法と、前記撮像距離決定部により決定された前記距離を元に前記飛行航路を決定することを特徴とする請求項1~のいずれか1つに記載の飛行航路決定装置。
From the center of the 3D image model of the imaging object to the position where imaging is performed , based on at least one or more elements of the performance of the camera, the shape of the imaging object, and the structure of the imaging object. Further equipped with an imaging distance determination unit that determines the distance,
The determination unit determines the flight route based on the shape of the image pickup object acquired by the shape acquisition unit, the dimensions defined by the definition unit, and the distance determined by the image pickup distance determination unit. The flight route determining device according to any one of claims 1 to 3 , wherein the flight route is determined.
飛行航路決定装置と、カメラが搭載された飛翔体とがネットワークにより接続された飛行航路決定システムであって、
前記飛行航路決定装置は、
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得部と、
前記取得部により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義部と、
前記撮像対象物の形状を取得する形状取得部と、
前記形状取得部により取得された前記撮像対象物の形状と前記定義部により定義された寸法を元に前記飛行航路を決定する決定部と、
を備え、
前記飛翔体は、
前記決定部により決定された飛行航路に従って飛行制御する飛行制御部、
を備え
前記定義部は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定システム。
It is a flight route determination system in which a flight route determination device and a flying object equipped with a camera are connected by a network.
The flight route determination device is
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition unit that acquires the scale of the map,
A definition unit that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition unit and the scale of the map.
A shape acquisition unit that acquires the shape of the object to be imaged, and a shape acquisition unit.
A determination unit that determines the flight route based on the shape of the image pickup object acquired by the shape acquisition unit and the dimensions defined by the definition unit.
Equipped with
The projectile is
A flight control unit that controls flight according to the flight route determined by the determination unit,
Equipped with
The definition unit calculates the actual size of the image pickup object based on the width, depth, and scale of the maximum width of the image pickup object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination system characterized by this.
前記飛翔体は、
前記飛行航路により飛行する際に前記撮像対象物の画像を撮像する撮像制御部、
を備えることを特徴とする請求項に記載の飛行航路決定システム。
The projectile is
An image pickup control unit that captures an image of the object to be imaged when flying in the flight route.
5. The flight route determination system according to claim 5 .
カメラが搭載された飛翔体の飛行航路を決定する飛行航路決定装置による飛行航路決定方法であって、
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得ステップと、
前記取得ステップにより取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義ステップと、
前記撮像対象物の形状を取得する形状取得ステップと、
前記形状取得ステップにより取得された前記撮像対象物の形状と前記定義ステップにより定義された寸法を元に前記飛行航路を決定する決定ステップと、
を含み、
前記定義ステップは、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定方法。
It is a flight route determination method using a flight route determination device that determines the flight route of a flying object equipped with a camera.
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition step to acquire the scale of the map,
A definition step for defining dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition step and the scale of the map.
The shape acquisition step for acquiring the shape of the object to be imaged, and
A determination step of determining the flight route based on the shape of the image pickup object acquired by the shape acquisition step and the dimensions defined by the definition step, and
Including
In the definition step, the actual size of the imaging object is calculated based on the width, depth, and scale of the maximum width of the imaging object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination method characterized by that.
コンピュータ
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得機能と、
前記取得機能により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義機能と、
前記撮像対象物の形状を取得する形状取得機能と、
前記形状取得機能により取得された前記撮像対象物の形状と前記定義機能により定義された寸法を元に飛行航路を決定する決定機能、
実現させ
前記定義機能は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
することを特徴とする飛行航路決定プログラム。
On the computer
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition function to acquire the scale of the map,
A definition function that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition function and the scale of the map.
The shape acquisition function for acquiring the shape of the object to be imaged and
A determination function for determining a flight route based on the shape of the imaged object acquired by the shape acquisition function and the dimensions defined by the definition function.
And realize
The definition function calculates the actual size of the imaged object based on the width, depth, and scale of the maximum width of the imaged object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination program characterized by doing.
JP2019114913A 2019-06-20 2019-06-20 Flight route determination device, flight route determination system, flight route determination method and flight route determination program Active JP6998918B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019114913A JP6998918B2 (en) 2019-06-20 2019-06-20 Flight route determination device, flight route determination system, flight route determination method and flight route determination program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019114913A JP6998918B2 (en) 2019-06-20 2019-06-20 Flight route determination device, flight route determination system, flight route determination method and flight route determination program

Publications (2)

Publication Number Publication Date
JP2021002166A JP2021002166A (en) 2021-01-07
JP6998918B2 true JP6998918B2 (en) 2022-01-18

Family

ID=73995047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019114913A Active JP6998918B2 (en) 2019-06-20 2019-06-20 Flight route determination device, flight route determination system, flight route determination method and flight route determination program

Country Status (1)

Country Link
JP (1) JP6998918B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113758438B (en) * 2021-07-08 2023-07-25 重庆市勘测院 Oblique aerial photography and three-dimensional reconstruction method for special building
KR102391924B1 (en) * 2021-10-08 2022-04-28 한화시스템 주식회사 Method and apparatus of route planning of unmanned air vehicle

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002298162A (en) 2001-03-29 2002-10-11 Mitsubishi Electric Corp Three-dimensional view display device and three- dimensional view generating device
JP2004030450A (en) 2002-06-27 2004-01-29 Kobe Steel Ltd Traffic information guiding apparatus, traffic information guiding method, and system therefor
JP2015001791A (en) 2013-06-14 2015-01-05 株式会社ジオ技術研究所 Image analysis apparatus
JP2017144784A (en) 2016-02-15 2017-08-24 株式会社トプコン Flight plan creation method and flight body guidance system
JP2017207696A (en) 2016-05-20 2017-11-24 アルパイン株式会社 Electronic system
JP2018097578A (en) 2016-12-13 2018-06-21 Kddi株式会社 Flight device, flight controller and flight control method
WO2019069829A1 (en) 2017-10-03 2019-04-11 株式会社 ミックウェア Route generation device, moving body, and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002298162A (en) 2001-03-29 2002-10-11 Mitsubishi Electric Corp Three-dimensional view display device and three- dimensional view generating device
JP2004030450A (en) 2002-06-27 2004-01-29 Kobe Steel Ltd Traffic information guiding apparatus, traffic information guiding method, and system therefor
JP2015001791A (en) 2013-06-14 2015-01-05 株式会社ジオ技術研究所 Image analysis apparatus
JP2017144784A (en) 2016-02-15 2017-08-24 株式会社トプコン Flight plan creation method and flight body guidance system
JP2017207696A (en) 2016-05-20 2017-11-24 アルパイン株式会社 Electronic system
JP2018097578A (en) 2016-12-13 2018-06-21 Kddi株式会社 Flight device, flight controller and flight control method
WO2019069829A1 (en) 2017-10-03 2019-04-11 株式会社 ミックウェア Route generation device, moving body, and program

Also Published As

Publication number Publication date
JP2021002166A (en) 2021-01-07

Similar Documents

Publication Publication Date Title
CN106767706B (en) A kind of unmanned plane reconnoitres the Aerial Images acquisition method and system of the scene of a traffic accident
JP6591676B2 (en) Monitoring method, monitoring system and program
US10168153B2 (en) Enhanced position measurement systems and methods
US9879993B2 (en) Enhanced bundle adjustment techniques
EP2904544B1 (en) Enhanced bundle adjustment techniques
JP6510247B2 (en) Survey data processing apparatus, survey data processing method and program
US20090278948A1 (en) Information presentation apparatus, information presentation method, imaging apparatus, and computer program
JP2021009508A (en) Inspection management system, inspection management server, inspection management method, and inspection management program
JP6675537B1 (en) Flight path generation device, flight path generation method and program, and structure inspection method
MX2013000158A (en) Real-time moving platform management system.
JP6998918B2 (en) Flight route determination device, flight route determination system, flight route determination method and flight route determination program
JPWO2018193574A1 (en) Flight path generation method, information processing apparatus, flight path generation system, program, and recording medium
US20210264666A1 (en) Method for obtaining photogrammetric data using a layered approach
JP2018205264A (en) Image processor, method for processing image, and image processing program
JP2016057063A (en) Non-contact detecting method for measurement objects, and apparatus for the same
JP2011095112A (en) Three-dimensional position measuring apparatus, mapping system of flying object, and computer program
JP2011169658A (en) Device and method for pinpointing photographed position
EP4008997A1 (en) Surveying system, surveying method, and surveying program
JP2020191523A (en) Unmanned mobile
CN112665554A (en) Method and system for generating orthoimage
JP6681101B2 (en) Inspection system
JP2019168406A (en) Target device and surveying system
KR20210037998A (en) Method of providing drone route
KR20150096127A (en) Method and apparatus for calculating location of points captured in image
KR101415145B1 (en) Generation of Target Coordination for Automatic Image Aquisition of the Airborne EO/IR Pod

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210420

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211108

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211108

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211115

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211221

R150 Certificate of patent or registration of utility model

Ref document number: 6998918

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150