JP6998918B2 - Flight route determination device, flight route determination system, flight route determination method and flight route determination program - Google Patents
Flight route determination device, flight route determination system, flight route determination method and flight route determination program Download PDFInfo
- Publication number
- JP6998918B2 JP6998918B2 JP2019114913A JP2019114913A JP6998918B2 JP 6998918 B2 JP6998918 B2 JP 6998918B2 JP 2019114913 A JP2019114913 A JP 2019114913A JP 2019114913 A JP2019114913 A JP 2019114913A JP 6998918 B2 JP6998918 B2 JP 6998918B2
- Authority
- JP
- Japan
- Prior art keywords
- flight route
- map
- unit
- dimensions
- flight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 13
- 238000003384 imaging method Methods 0.000 claims description 50
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical group C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 claims description 5
- 229910000831 Steel Inorganic materials 0.000 description 20
- 239000010959 steel Substances 0.000 description 20
- 238000004891 communication Methods 0.000 description 19
- 230000005540 biological transmission Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 10
- 238000007689 inspection Methods 0.000 description 10
- 230000006866 deterioration Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 208000024891 symptom Diseases 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000012905 input function Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Description
この発明は、飛行航路決定装置、飛行航路決定システム、飛行航路決定方法および飛行航路決定プログラムに関する。 The present invention relates to a flight route determination device, a flight route determination system, a flight route determination method, and a flight route determination program.
従来、無線基地局の鉄塔などの高所設備に劣化等の不具合が発生していないかを確認すべく定期的な点検作業が実施されている。例えば、高所設備の劣化としては、金属表面のサビやボルトの緩み、筐体のゆがみなどの症状があり、現状は人の目視によりこれらの有無が点検されるのが通常となっている。 Conventionally, periodic inspection work has been carried out to confirm whether or not defects such as deterioration have occurred in high-altitude equipment such as steel towers of wireless base stations. For example, deterioration of equipment in high places includes symptoms such as rust on the metal surface, loosening of bolts, and distortion of the housing, and at present, it is usual to visually inspect the presence or absence of these.
しかし、鉄塔設備は地上高50m程度の高さがあることから危険作業となるため専門作業員の人件費が高く点検費用が嵩んでしまうこと、高所における事故の影響が人命に関わること、また、人による目視点検のため点検品質にばらつきがあることなどの問題が生じている。また、膨大に存在する鉄塔設備の数に対して高所作業員の人材が不足している現状から、点検依頼者に点検結果が報告されるまである程度の期間が必要となり点検結果を早く把握したい事案において支障を来す事態も生じている。さらに、点検品質という点においては、点検者の点検スキルのレベルを統一したり、変状を生じているか否かの判断基準を統一したり、作業漏れを確実に防止したりすることが困難であるという問題がある。 However, since the tower equipment has a height of about 50 m above the ground, it is dangerous work, so the labor cost of specialized workers is high and the inspection cost is high, the impact of an accident at a high place is life-threatening, and There are problems such as variations in inspection quality due to visual inspection by humans. In addition, due to the shortage of aerial workers due to the huge number of tower facilities, it will take some time before the inspection results are reported to the inspection requester, and we want to know the inspection results quickly. There are also situations that hinder the case. Furthermore, in terms of inspection quality, it is difficult to unify the level of inspection skills of inspectors, unify the criteria for judging whether or not deformation has occurred, and reliably prevent work omissions. There is a problem.
そこで、近年、高所作業の危険性を回避すべく、カメラを搭載したドローンの活用に着目されている。例えば、カメラを搭載した装置を遠隔操作により対象物の特定箇所に接近させ、撮影画像により、その部分の状況を確認する近接目視装置システムが提案されている(例えば、特許文献1参照)。また、撮影用のドローンの飛行には、市販されているドローンの自動航行用のソフトウェアが用いられている。 Therefore, in recent years, attention has been focused on the use of drones equipped with cameras in order to avoid the danger of working at heights. For example, there has been proposed a close-up visual device system in which a device equipped with a camera is remotely controlled to approach a specific portion of an object and the state of that portion is confirmed by a captured image (see, for example, Patent Document 1). In addition, commercially available software for automatic navigation of drones is used for flying drones for photography.
しかしながら、精度の高い三次元画像を生成するには、ドローンの飛行航路、撮影した複数画像間におけるラップ率、シャッタータイミング、撮影角度などを考慮した飛行航路の設定が必要となるところ、市販の画一的なソフトウェアではこのようなパラメータを設定できない。また、点検対象となる構造物により諸要件が大きく異なったり、ドローンの飛行が禁止されている区域(例えば、皇居など)も存在したりするため、毎回の点検において手作業によるパラメータの設定が必要となる。 However, in order to generate a highly accurate three-dimensional image, it is necessary to set the flight route in consideration of the flight route of the drone, the lap ratio between multiple captured images, the shutter timing, the shooting angle, etc. Such parameters cannot be set with a single piece of software. In addition, various requirements differ greatly depending on the structure to be inspected, and there are areas where drone flight is prohibited (for example, the Imperial Palace), so it is necessary to manually set parameters in each inspection. It becomes.
そこで、本発明は、点検対象となる構造物に応じて最適な飛行航路を提案可能な航路決定装置、航路決定システム、航路決定方法および航路決定プログラムを提供することを目的とする。 Therefore, an object of the present invention is to provide a route determination device, a route determination system, a route determination method, and a route determination program capable of proposing an optimum flight route according to a structure to be inspected.
上記課題を解決するため、本発明に係る飛行航路決定装置は、カメラが搭載された飛翔体の飛行航路を決定する飛行航路決定装置であって、撮像対象物の三次元画像モデルおよび緯度経度情報を取得する緯度経度情報取得部と、取得部により取得された緯度経度情報を元に撮像対象物の三次元画像モデルに寸法を定義する定義部と、撮像対象物の形状を取得する形状取得部と、形状取得部により取得された撮像対象物の形状と定義部により定義された寸法を元に飛行航路を決定する決定部と、を備えることを特徴とする。 In order to solve the above problems, the flight route determination device according to the present invention is a flight route determination device that determines the flight route of a flying object equipped with a camera, and is a three-dimensional image model of an imaged object and latitude / longitude information. The latitude / longitude information acquisition unit that acquires the It is characterized by including a determination unit that determines a flight route based on the shape of the imaged object acquired by the shape acquisition unit and the dimensions defined by the definition unit.
本発明によれば、撮像対象物の三次元画像モデルの寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定するので、点検対象となる構造物に応じて最適な飛行航路を提案することができる。
According to the present invention, since the flight route of the
(実施形態1)
図1は、本発明の実施の形態に係る飛行航路決定システムの全体構成を示すシステム図である。図1に示すように、飛行航路決定システム1は、飛行航路決定装置100と、飛翔体200aと、飛翔体200bとを含み、これらがネットワーク10を介して相互に通信可能となっている。ネットワーク10は、飛行航路決定装置100と、飛翔体200aと、飛翔体200bの各々を相互に接続する役割を担う。例えば、ネットワーク10は、有線ネットワークや無線ネットワークであってもよい。また、鉄塔300aおよび鉄塔300bは、飛翔体200による撮像対象となる構造物である。なお、図1では、カメラ230aを搭載した飛翔体200aおよびカメラ230bを搭載した飛翔体200bの2台を図示するが、さらに複数台あってもよい。また、特に明示する場合を除き、飛翔体200aおよび飛翔体200bを飛翔体200と、カメラ230aおよびカメラ230bをカメラ230と、鉄塔300aおよび鉄塔300bを鉄塔300と総称する。
(Embodiment 1)
FIG. 1 is a system diagram showing an overall configuration of a flight route determination system according to an embodiment of the present invention. As shown in FIG. 1, the flight route determination system 1 includes a flight
飛行航路決定装置100は、飛翔体200から撮像対象となる鉄塔300の画像を取得し、取得した鉄塔300の二次元画像を解析して鉄塔300の劣化症状を含む三次元画像を生成する装置である。なお、鉄塔300は、撮像対象物の一例であり、劣化症状の有無を確認するための点検が必要となる構造物であればいずれであってもよい。
The flight
飛翔体200は、少なくとも自律飛行機能と撮像機能とを備えた装置であって、例えば、ドローンである。具体的には、飛翔体200は、設定された飛行航路に従って飛行する飛行制御機能や、カメラにより被写体を撮像する撮像機能や、現在位置を取得するGPS機能などを備え、バッテリーに充電された電池により駆動する。また、飛翔体200は、詳細を後述するように飛行航路決定装置100により設定された飛行航路に従って飛行する。
The
図2は、本発明の実施形態1における飛行航路決定装置100の機能構成例を示すブロック図である。図2に示すように、飛行航路決定装置100は、制御部110と、通信制御部120と、入出力部130と、記憶部140とを備える。
FIG. 2 is a block diagram showing a functional configuration example of the flight
通信制御部120は、通信回線や電話回線等に接続されるアンテナやルータ等の通信装置(図示せず)に接続されるインターフェースである。すなわち、通信制御部120は、飛翔体200等のような外部装置と通信回線を介してデータを通信する機能を有している。
The
入出力部130は、情報を入力または出力するための液晶モニター等の画面である。なお、図2においては、入出力部130として、入力機能と出力機能が一体型された画面を例示するが、これに限定されず、キーボードなどの入力部を別に備えることで、入力機能と出力機能を別個の機能部としてもよい。
The input /
記憶部140は、設備情報データベース141を記憶する。設備情報データベース141には、設備情報が格納されている。ここで、設備情報とは、点検対象となる設備の構造や形状に関する情報であり、例えば、設備の設計図などの情報である。また、点検対象となる設備の構造や形状に関する情報は、同種の設備の型に応じて複数のパターンが、設備の型番や設備の所在地などに対応付けて格納されている。なお、記憶部140が、設備情報データベース141を記憶しない場合には、取得部112は、設備情報をオンラインマップ上の写真から取得することとなる。
The
制御部110は、受付部111と、取得部112と、定義部113と、決定部114と、送受信部115とを備える。なお、取得部112は、本発明における緯度経度情報取得部と、形状取得部と、飛行禁止区域情報取得部に相当する。
に相当する。
The
Corresponds to.
送受信部115は、飛翔体200などの外部端末または外部装置との間で各種情報を送受信する。例えば、送受信部115は、飛翔体200から点検対象となる被写体の画像を受信したり、決定部114により決定された飛行航路を飛翔体200に送信したりする。被写体の画像には、被写体の位置情報およびカメラ座標が関連付けられる。ここで、被写体の位置情報とは、複数の画像間における被写体の大きさや角度により算出された被写体の相対的な撮影位置を示す情報である。
The transmission /
受付部111は、入出力部130から各種情報の入力を受け付ける。例えば、受付部111は、飛翔体200の機種情報や、設備情報の入力などを受け付ける。ここで、飛翔体200の機種情報とは、飛翔体200本体の性能およびカメラ230の性能に関する情報のことである。例えば、飛翔体200の性能に関する情報として、飛翔体200の飛行速度などの飛行性能、消費電力、バッテリー量などがあり、カメラ230の画素数、光学ズーム、焦点距離、F値、シャッタースピードなどがある。
The
取得部112は、撮像対象物の三次元画像モデルおよび緯度経度情報を取得する。例えば、まず、取得部112は、撮像対象物の画像を基に撮像対象物の概略モデルとなる三次元画像モデルを生成する。なお、ここで使用される画像は、オンラインマップ上の写真であってもよいし、設備情報データベース141に設備の画像があらかじめ格納されている場合には、当該画像であってもよい。次に、取得部112は、送受信部115を介して、インターネット上のオンラインマップから撮像対象物の所在地を検索し、緯度経度情報を取得する。さらに、取得部112は、オンラインマップ上に表示される撮像対象物の平面図、航空写真、またはストリートビューを含む現地写真などから、撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺を取得する。
The
また、取得部112は、飛翔体の飛行が禁止される区域を示す飛行禁止区域情報を取得する。ここで、飛行禁止区域情報とは、飛翔体200を含む飛行体による飛行が禁止されている空域が定められた情報である。飛行禁止区域情報は、国土地理院により発行された地理院地図において定められており、例えば、皇居などがこれに該当する。また、飛行禁止区域情報は、撮像対象物の形状に対して、当該撮像対象物の内側を飛行禁止区域として定められた情報であってもよい。これは、飛翔体200が撮像対象物の内側を飛行することにより撮像対象物に衝突するリスクを回避するために定められるものである。
In addition, the
定義部113は、取得部112により取得された緯度経度情報を元に、取得部112により生成された撮像対象物の概略モデルとなる三次元画像モデルに寸法を定義する。例えば、定義部113は、取得部112により取得された撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺から実寸を求め、求めた実寸から概略モデルとなる三次元画像モデルの縮尺に応じて、三次元画像モデルの各部の長さを定義する。
Based on the latitude / longitude information acquired by the
決定部114は、取得部112により取得された撮像対象物の形状と、定義部113により定義された寸法から、飛翔体200による飛行航路を決定する。例えば、決定部114は、飛翔体200の航路進行方向に対し所定の仰俯角で、または、飛翔体200の進行方向に対し、直角方向の所定の仰俯角で航行する航路を決定する。図3は、飛翔体200の飛行航路における撮像角度の一例を示す図である。図3では、実線の矢印が飛翔体200の飛行航路進行方向を示す。なお、撮像対象物である鉄塔300は、一つの飛翔体200により撮像されるのが通常であるが、図3においては撮像位置および撮像角度の説明の便宜のため、飛翔体200aと飛翔体200bに分けて説明する。まず、飛翔体200aは、撮像対象物である鉄塔300の部材305の下面部を撮像するために必要な飛行角度として、飛翔体200の飛行航路進行方向に対して仰角となる飛行航路が定められた一例を示す。一方、飛翔体200bは、撮像対象物である鉄塔300の部材306の上面部を撮像するために必要な飛行角度として、飛翔体200の飛行航路進行方向に対して俯角となる飛行航路が定められた一例を示す。なお、図3においては飛翔体200が仰俯角で航行する航路を示したが、これに限定されず、飛翔体200自体の角度は変更せず、飛翔体200におけるカメラ230の取り付け部が可動することでカメラ230の向きを上下に変更することでも同様の撮像角度で撮像することができる。図4は、鉄塔300を撮像対象物とする飛翔体200の飛行航路を示す図である。図4では、破線の矢印が飛翔体200の飛行航路進行方向を示す。図4において、飛翔体200は、鉄塔300の下部から鉄塔300の周囲を旋回しながら鉄塔300の上部まで飛行する。そして、飛翔体200は、飛行航路の飛行を終了すると、出発地点まで戻る。また、図5は、橋梁310を撮像対象物とする飛翔体200の飛行航路を示す図である。図5では、破線の矢印が飛翔体200の飛行航路進行方向を示す。図5において、飛翔体200は、橋梁310の下部左端から右端まで橋梁310の側面を平行に飛行しながら飛行し、右端まで飛行すると所定の高さ分垂直に飛行し、左端の上部まで飛行する。飛翔体200は左端まで飛行すると、同様に、所定の高さ分垂直に飛行し、右端の上部まで折り返し飛行し、橋梁310の最上部までそして、飛翔体200は、飛行航路の飛行を終了すると、出発地点まで戻る。なお、図4および図5において、飛翔体200が撮像対象物である鉄塔300または橋梁310を下部から上部に向けて飛行する飛行航路を示したが、これに限定されず、上部から下部に向けて飛行する飛行航路であってもよいし、飛行航路の向きについても同様に右回り、左回り、右から左へ、左から右へといずれのパターンであってもよい。また、垂直型の構造物であれば、スパイラル、即ち、垂直型の構造物を中心として、下から上、もしくは、上から下へと螺旋の渦を描くような飛行航路であってもよい。
The
また、決定部114は、送受信部115または受付部111を介して取得した飛翔体200の飛行速度などの飛行性能に応じて飛翔体200の飛行航路を決定してもよい。また、決定部114は、飛翔体200の蓄電池容量と消費電力に基づいて飛翔体の移動速度を決定する。その際、さらに、決定部114は、撮像対象物の撮影を完了するまでに必要な給電計画を設定する。例えば、給電計画とは、撮像開始から撮像終了までの給電計画のことであり、飛翔体200の消費電力や撮像距離などにより撮像終了までに給電が必要な場合に定められる給電タイミングなどである。つまり、全体的な飛行航路に対して、その途中に給電タイミングとして撮像を中断する位置として中断位置を設定してよく、中断位置まで飛行したら飛翔体200を給電可能な場所に戻らせ、給電後に、中断位置から再度、飛行と撮像を再開するように構成されてもよい。
Further, the
また、決定部114は、飛翔体200が備えるカメラ230の性能に応じて飛行航路を決定することとしてもよい。例えば、決定部114は、撮像対象物となる被写体の所定の領域において、飛翔体200により重複する複数画像が撮影された場合における画像のラップ率、シャッタータイミング、撮影角度の少なくともいずれか1つに基づいて飛行航路を決定することとしてもよい。
Further, the
図4は、本発明の実施形態1における飛翔体200の機能構成例を示すブロック図である。図4に示すように、飛翔体200は、制御部210と、通信制御部220と、カメラ230と、記憶部240とを備える。
FIG. 4 is a block diagram showing a functional configuration example of the flying
通信制御部220は、通信回線や電話回線等に接続されるアンテナやルータ等の通信装置(図示せず)に接続されるインターフェースである。すなわち、通信制御部220は、飛翔体200等のような外部装置と通信回線を介してデータを通信する機能を有している。また、カメラ230は、レンズやファインダーなどの光学系や、シャッターなどの露光装置などを備えた撮像装置であり、レンズを介して被写体の画像を撮像する。
The
記憶部240は、機種情報データベース241と、画像データベース242とを記憶する。また、機種情報データベース241には、飛翔体200の機種情報が格納されており、画像データベース242には、飛翔体200により撮像された画像が格納されている。
The
制御部210は、設定部211と、飛行制御部212と、撮像制御部213と、送受信部214とを備える。
The
送受信部214は、飛行航路決定装置100などの外部端末または外部装置との間で各種情報を送受信する。例えば、飛翔体200が、飛翔体200の飛行を制御する端末を介してネットワーク10に接続されている場合には、送受信部214は、当該端末との間で飛行や撮像に関する情報を送受信する。この場合、飛翔体200は、当該端末を介して、飛行航路決定装置100に撮像対象物の画像を送信することとなる。一方、飛翔体200が、ネットワーク10に直接接続されている場合には、送受信部214は、飛行航路決定装置100から飛翔体200に設定される情報となる飛行航路、飛行速度、飛行角度、シャッター速度、シャッタータイミング、望遠率、撮像対象物の撮像枚数、給電計画などを受信する。また、送受信部214は、カメラ230を用いて撮像した撮像対象物の画像を飛行航路決定装置100に送信したりする。
The transmission /
設定部211は、送受信部214を介して飛行航路決定装置100から受信した飛行航路を設定する。例えば、設定部211は、飛行航路決定装置100から飛行航路とともに、飛行速度、飛行角度、シャッター速度、シャッタータイミング、望遠率、撮像対象物の撮像枚数、給電計画なども受信し、これらの設定値を設定する。
The
飛行制御部212は、設定部211により設定された飛行航路に従って飛翔体200の飛行を制御する。例えば、飛行制御部212は、飛行航路のほか、飛行角度、給電計画などの設定にも従って飛翔体200の飛行を制御する。
The
撮像制御部213は、設定部211により設定された撮像に関する設定値に従って撮像対象物を撮像する。例えば、撮像制御部213は、シャッター速度、シャッタータイミング、望遠率、撮像枚数などの設定値に従って撮像対象物を撮像する。
The image
次に、飛行航路決定装置100による飛行航路決定処理の流れを説明する。図7は、飛行航路決定装置100による飛行航路決定処理の流れを示すフローチャートである。
Next, the flow of the flight route determination process by the flight
取得部112は、三次元画像モデルを生成する(ステップS1)。例えば、取得部112は、撮像対象物の画像を基に撮像対象物の概略モデルとなる三次元画像モデルを生成する。取得部112は、撮像対象物の緯度経度情報を取得する(ステップS2)。例えば、取得部112は、送受信部115を介して、撮像対象物が所在する所在地をインターネット上のオンラインマップに入力し検索することで、緯度経度情報を取得してもよい。ここで、取得部112は、オンラインマップ上に表示される撮像対象物の平面図、航空写真、またはストリートビューを含む現地写真などから、撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺も取得する。
The
定義部113は、撮像対象物の三次元画像モデルに寸法を定義する(ステップS3)。例えば、定義部113は、ステップS2において取得部112により取得された撮像対象物の最大幅の幅、奥行き、および、当該平面図の縮尺から実寸を求め、求めた実寸から概略モデルとなる三次元画像モデルの縮尺に応じて、三次元画像モデルの各部の長さを定義する。取得部112は、撮像対象物の形状を取得する(ステップS4)。例えば、取得部112は、設備情報データベース141を参照し、撮像対象物の設備情報を取得し、取得した設備情報に含まれる撮像対象物の設計図などから形状を取得する。なお、取得部112は、設備情報データベース141から設備情報を取得する他、インターネット上のオンラインマップにおける現地写真などをもとに撮像対象物の形状を取得することとしてもよい。
The
決定部114は、飛翔体200への各設定値を決定する(ステップS5)。例えば、決定部114は、飛翔体200の移動速度、飛翔体200の航路進行方向に対する仰俯角、または、飛翔体200の進行方向に対する直角方向の仰俯角、給電計画などを設定する。なお、給電計画とは、飛翔体200による撮像対象物の撮像開始から撮像終了までの給電計画のことであり、飛翔体200の消費電力や撮像距離などにより撮像終了までに給電が必要な場合に定められる給電タイミングなどである。
The
取得部112は、飛行禁止区域情報を取得する(ステップS6)。例えば、取得部112は、国土地理院の地理院地図から飛行禁止区域情報を取得する。または、ステップS4において取得した撮像対象物の形状に対して、当該撮像対象物の内側を飛行禁止区域として定められた飛行禁止区域情報を取得する。決定部114は、飛翔体200の飛行航路を決定する(ステップS7)。決定部114は、ステップS3において定義した三次元画像モデルの寸法、ステップS4において取得した撮像対象物の形状、ステップS5において決定した飛翔体200に設定する各設定値、およびステップS6において取得した飛行禁止区域情報を基に飛行航路を決定する。
The
このように、実施形態1における飛行航路決定装置100によれば、撮像対象物の三次元画像モデルの寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定するので、点検対象となる構造物に応じて最適な飛行航路を提案することができる。
As described above, according to the flight
(実施形態2)
実施形態1において、飛行航路決定装置100は、撮像対象物の寸法と、撮像対象物の形状等を用いて飛翔体200の飛行航路を決定する構成であった。実施形態2においては、さらに、飛翔体200による撮像対象物の撮像精度をより向上しつつ、よりユーザの要望に即した飛行航路を提供可能な構成を説明する。実施形態2における全体構成は実施形態1において図1を用いて説明した全体構成と同様であるため説明を省略する。また、飛翔体200の機能構成図も、実施形態1において図3を用いて説明した機能構成と同様であるため説明を省略する。
(Embodiment 2)
In the first embodiment, the flight
図8は、実施形態2における飛行航路決定装置400の機能構成例を示すブロック図である。図8に示すように、飛行航路決定装置400は、制御部410と、通信制御部120と、入出力部130と、記憶部140とを備える。なお、実施形態1と同様の構成および機能については、同一の符号を付して説明を省略する。
FIG. 8 is a block diagram showing a functional configuration example of the flight
制御部410は、受付部411と、取得部112と、定義部113と、決定部414と、表示制御部415と、送受信部115とを備える。なお、決定部414は、本発明における撮像距離決定部に相当する。
The
受付部411は、入出力部130から各種情報の入力を受け付ける。例えば、受付部111は、飛翔体200の機種情報や、設備情報の入力などを受け付ける。また、受付部411は、入出力部130に出力された複数の飛行航路の表示情報から、ユーザ操作による1つの飛行航路の選択や、出力された飛行航路に対する編集の入力を受け付ける。
The
決定部414は、撮像対象物の撮像距離を決定する。ここで、撮像距離とは、撮像対象物となる三次元画像モデルの外側から飛翔体200により撮像が実行される位置までの距離を決定する。具体的には、決定部414は、三次元画像モデルの外側から撮像を実行する所定の距離を決定する。図9は、飛翔体200による鉄塔300の撮像距離の一例を示す図である。実線の矢印は、飛翔体200の飛行航路の進行方向を示し、破線の矢印は、飛翔体200による鉄塔300の撮像距離L1を示す。図9が示すように、撮像距離L1は、鉄塔300の外側からカメラ230の位置までの距離となる。外側を基点とするのは、中心を基点とすると特に錐の形状をした撮像対象物の場合、高度により飛翔体200と撮像対象物が近接して衝突するリスクがあるためである。さらに、決定部414は、カメラの性能、撮像対象物の形状、撮像対象物の構造の少なくともいずれか1つ以上の要素に基づいて撮像距離を決定する。
The
また、決定部414は、取得部112により取得された撮像対象物の形状と、定義部113により定義された寸法から、候補となる飛翔体200の飛行航路を複数決定する。また、決定部414は、飛翔体200の飛行航路を複数決定し、表示制御部415を介して入出力部130にいずれか1つの飛行航路を選択可能な態様で複数の飛行航路の表示情報を出力する。
Further, the
次に、飛行航路決定装置400による飛行航路決定処理の流れを説明する。図10は、飛行航路決定装置400による飛行航路決定処理の流れを示すフローチャートである。なお、ステップS11~ステップS13、また、ステップS15およびステップS16の処理は、実施形態1における飛行航路決定処理の流れを示す図7のフローチャートにおけるステップS1~ステップS3、また、ステップS5およびステップS6の処理と同様であるため説明を省略する。
Next, the flow of the flight route determination process by the flight
ステップS14において、取得部112は撮像対象物の設備情報を取得する(ステップS14)。具体的には、取得部112は、設備情報データベース141から、撮像対象物の設備情報を取得する。また、ステップS17において、決定部414は、飛翔体200の撮像距離を決定する(ステップS17)。具体的には、決定部414は、取得部112によりステップS14において取得された設備情報に含まれる撮像対象物の形状や構造、および、飛翔体200の機種情報を基に、撮像対象物の中心から飛翔体200までの撮像距離を決定する。
In step S14, the
決定部414は、飛行航路を複数決定し、表示制御部415を介して入出力部130にいずれか1つの飛行航路を選択可能な態様で複数の飛行航路の表示情報を出力する(ステップS18)。決定部414は、ステップS17において決定した撮像距離と、ステップS13において定義した三次元画像モデルの寸法、ステップS14において取得した撮像対象物の形状、ステップS15において決定した飛翔体200に設定する各設定値、およびステップS16において取得した飛行禁止区域情報の各情報を用いて飛行航路を複数決定する。
The
受付部411は、ステップS18において入出力部130に出力された表示情報から、1つの飛行航路の選択を受け付ける(ステップS19)。決定部414は、ステップS19において受け付けられた飛行航路を、飛翔体200に設定する飛行航路として決定する(ステップS20)。なお、本フローチャートのほか、飛行航路決定装置100は、決定した飛行航路を外部サーバにアップロードし、飛翔体200の操作者が有する携帯端末などで外部サーバから飛行航路をダウンロードして、当該携帯端末から飛翔体200にダウンロードして飛行航路を飛翔体200に設定するという流れとしてもよい。
The
このように、実施形態2における飛行航路決定装置400によれば、飛翔体200と撮像対象物との間の撮像距離を決定した上で飛行航路を決定するので、飛翔体200による撮像対象物の撮像精度をより向上することができる。また、実施形態2における飛行航路決定装置400によれば、複数の飛行航路をユーザによる選択が可能な形態で出力し、ユーザから最適な飛行航路の選択を受け付けるので、よりユーザの要望に即した飛行航路を提供することができる。
As described above, according to the flight
図11は、実施形態1および2における飛行航路決定装置100、400、500を実現可能なコンピュータ20の一例を示すハードウェア構成図である。図11に示すように、コンピュータ20は、CPU(Central Processing Unit)21、RAM(Random Access Memory)22、ROM(Read Only Memory)23、HDD(Hard Disk Drive)24、通信インターフェース(I/F)25、入出力インターフェース(I/F)26、およびメディアインターフェース(I/F)27を備える。
FIG. 11 is a hardware configuration diagram showing an example of a
CPU21は、ROM23またはHDD24に格納されたプログラムにより動作し、各部の制御を行う。ROM23は、コンピュータ20の起動時にCPU21によって実行されるブートプログラムや、コンピュータ20のハードウェアに依存するプログラム等を格納する。
The
HDD24は、CPU21によって実行されるプログラムおよび当該プログラムによって使用されるデータ等を格納する。通信インターフェース25は、通信回線を介して外部機器から受信したデータをCPU21に送り、CPU21が生成したデータを、通信回線を介して外部機器に送信する。
The
CPU21は、入出力インターフェース26を介して、ディスプレイやプリンタ等の出力装置、および、キーボードやマウス等の入力装置を制御する。CPU21は、入出力インターフェース26を介して、入力装置からデータを取得する。また、CPU21は、生成したデータを、入出力インターフェース26を介して出力装置へ出力する。
The
メディアインターフェース27は、記憶媒体(不図示)に格納されたプログラムまたはデータを読み取り、RAM22を介してCPU21に提供する。CPU21は、当該プログラムを、メディアインターフェース27を介して記憶媒体からRAM22上にロードし、ロードしたプログラムを実行する。記憶媒体28は、例えばDVD(Digital Versatile Disc)等の光学記憶媒体、磁気記憶媒体、または半導体メモリ等である。
The
コンピュータ20が本実施形態における飛行航路決定装置100として機能する場合、コンピュータ20のCPU21は、RAM22上にロードされたプログラムを実行することにより、受付部111、受付部411、取得部112、定義部113、決定部114、決定部414、表示制御部415、表示制御部415、送受信部115の各機能を実現する。また、HDD24には、設備情報データベース141内のデータが格納される。
When the
飛行航路決定システムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、CD-R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されて提供される。コンピュータ20のCPU21は、これらのプログラムを、メディアインターフェース27を介して上記の記憶媒体から読み取って実行するが、他の例として、外部装置から、通信回線を介してこれらのプログラムを取得してもよい。
The flight route determination system is a computer-readable storage medium such as a CD-ROM, CD-R, memory card, DVD (Digital Versatile Disk), or flexible disk (FD) in an installable or executable format file. It is stored and provided in. The
なお、飛行航路決定システムは、例えば、ActionScript、JavaScript(登録商標)、Python、Rubyなどのスクリプト言語、C言語、C++、C#、Objective-C、Swift、Java(登録商標)などのコンパイラ言語などを用いて実装できる。 The flight route determination system is, for example, a script language such as ActionScript, JavaScript (registered trademark), Python, Ruby, a compiler language such as C language, C ++, C #, Objective-C, Swift, Java (registered trademark), etc. Can be implemented using.
1 飛行航路決定システム
100 飛行航路決定装置
110 制御部
111 受付部
112 取得部
113 定義部
114 決定部
115 表示制御部
116 送受信部
120 通信制御部
130 入出力部
140 記憶部
141 設備情報データベース
200 飛翔体
210 画面
300 鉄塔
1 Flight
Claims (8)
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得部と、
前記取得部により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義部と、
前記撮像対象物の形状を取得する形状取得部と、
前記形状取得部により取得された前記撮像対象物の形状と前記定義部により定義された寸法を元に前記飛行航路を決定する決定部と、を備え、
前記定義部は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定装置。 It is a flight route determination device that determines the flight route of a flying object equipped with a camera.
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition unit that acquires the scale of the map,
A definition unit that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition unit and the scale of the map.
A shape acquisition unit that acquires the shape of the object to be imaged, and a shape acquisition unit.
A determination unit for determining the flight route based on the shape of the image pickup object acquired by the shape acquisition unit and the dimensions defined by the definition unit is provided .
The definition unit calculates the actual size of the image pickup object based on the width, depth, and scale of the maximum width of the image pickup object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination device characterized by this.
前記飛翔体の移動速度を決定する際に、前記撮像対象物の撮影を完了するまでに必要な給電計画を設定することと、
を特徴とする請求項1に記載の飛行航路決定装置。 The determination unit determines the moving speed of the flying object based on the storage battery capacity and the power consumption of the flying object .
When determining the moving speed of the flying object, setting the power supply plan required to complete the shooting of the imaged object, and setting the power supply plan.
The flight route determination device according to claim 1.
前記決定部は、前記飛行禁止区域情報取得部により取得された飛行禁止区域情報を参照し前記飛行航路を決定すること、を特徴とする請求項1又は2に記載の飛行航路決定装置。 Further provided with a no-fly zone information acquisition unit for acquiring information on a no-fly zone indicating an area where the flying object is prohibited from flying.
The flight route determining device according to claim 1 or 2 , wherein the determination unit determines the flight route with reference to the flight prohibited area information acquired by the flight prohibited area information acquisition unit.
前記決定部は、前記形状取得部により取得された前記撮像対象物の形状と、前記定義部により定義された寸法と、前記撮像距離決定部により決定された前記距離を元に前記飛行航路を決定することを特徴とする請求項1~3のいずれか1つに記載の飛行航路決定装置。 From the center of the 3D image model of the imaging object to the position where imaging is performed , based on at least one or more elements of the performance of the camera, the shape of the imaging object, and the structure of the imaging object. Further equipped with an imaging distance determination unit that determines the distance,
The determination unit determines the flight route based on the shape of the image pickup object acquired by the shape acquisition unit, the dimensions defined by the definition unit, and the distance determined by the image pickup distance determination unit. The flight route determining device according to any one of claims 1 to 3 , wherein the flight route is determined.
前記飛行航路決定装置は、
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得部と、
前記取得部により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義部と、
前記撮像対象物の形状を取得する形状取得部と、
前記形状取得部により取得された前記撮像対象物の形状と前記定義部により定義された寸法を元に前記飛行航路を決定する決定部と、
を備え、
前記飛翔体は、
前記決定部により決定された飛行航路に従って飛行制御する飛行制御部、
を備え、
前記定義部は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定システム。 It is a flight route determination system in which a flight route determination device and a flying object equipped with a camera are connected by a network.
The flight route determination device is
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition unit that acquires the scale of the map,
A definition unit that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition unit and the scale of the map.
A shape acquisition unit that acquires the shape of the object to be imaged, and a shape acquisition unit.
A determination unit that determines the flight route based on the shape of the image pickup object acquired by the shape acquisition unit and the dimensions defined by the definition unit.
Equipped with
The projectile is
A flight control unit that controls flight according to the flight route determined by the determination unit,
Equipped with
The definition unit calculates the actual size of the image pickup object based on the width, depth, and scale of the maximum width of the image pickup object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination system characterized by this.
前記飛行航路により飛行する際に前記撮像対象物の画像を撮像する撮像制御部、
を備えることを特徴とする請求項5に記載の飛行航路決定システム。 The projectile is
An image pickup control unit that captures an image of the object to be imaged when flying in the flight route.
5. The flight route determination system according to claim 5 .
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得ステップと、
前記取得ステップにより取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義ステップと、
前記撮像対象物の形状を取得する形状取得ステップと、
前記形状取得ステップにより取得された前記撮像対象物の形状と前記定義ステップにより定義された寸法を元に前記飛行航路を決定する決定ステップと、
を含み、
前記定義ステップは、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
ことを特徴とする飛行航路決定方法。 It is a flight route determination method using a flight route determination device that determines the flight route of a flying object equipped with a camera.
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition step to acquire the scale of the map,
A definition step for defining dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition step and the scale of the map.
The shape acquisition step for acquiring the shape of the object to be imaged, and
A determination step of determining the flight route based on the shape of the image pickup object acquired by the shape acquisition step and the dimensions defined by the definition step, and
Including
In the definition step, the actual size of the imaging object is calculated based on the width, depth, and scale of the maximum width of the imaging object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination method characterized by that.
撮像対象物の三次元画像モデルおよび緯度経度情報を取得し、取得した前記緯度経度情報から地図上における前記撮像対象物の位置を特定し、特定した位置が示す地図上の前記撮像対象物の寸法および前記地図の縮尺を取得する緯度経度情報取得機能と、
前記取得機能により取得された地図上の前記撮像対象物の寸法および前記地図の縮尺を元に前記撮像対象物の三次元画像モデルに寸法を定義する定義機能と、
前記撮像対象物の形状を取得する形状取得機能と、
前記形状取得機能により取得された前記撮像対象物の形状と前記定義機能により定義された寸法を元に飛行航路を決定する決定機能、
とを実現させ、
前記定義機能は、前記撮像対象物の前記地図上における最大幅の幅、奥行き、および、前記縮尺に基づき、前記撮像対象物の実寸を算出し、
算出した実寸から前記三次元画像モデルの縮尺に応じて、前記三次元画像モデルの各部の寸法を定義する
することを特徴とする飛行航路決定プログラム。 On the computer
A three-dimensional image model of the imaged object and latitude / longitude information are acquired, the position of the imaged object on the map is specified from the acquired latitude / longitude information, and the dimensions of the imaged object on the map indicated by the specified position. And the latitude / longitude information acquisition function to acquire the scale of the map,
A definition function that defines dimensions in a three-dimensional image model of the imaging object based on the dimensions of the imaging object on the map acquired by the acquisition function and the scale of the map.
The shape acquisition function for acquiring the shape of the object to be imaged and
A determination function for determining a flight route based on the shape of the imaged object acquired by the shape acquisition function and the dimensions defined by the definition function.
And realize
The definition function calculates the actual size of the imaged object based on the width, depth, and scale of the maximum width of the imaged object on the map.
From the calculated actual size, the dimensions of each part of the 3D image model are defined according to the scale of the 3D image model.
A flight route determination program characterized by doing.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019114913A JP6998918B2 (en) | 2019-06-20 | 2019-06-20 | Flight route determination device, flight route determination system, flight route determination method and flight route determination program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019114913A JP6998918B2 (en) | 2019-06-20 | 2019-06-20 | Flight route determination device, flight route determination system, flight route determination method and flight route determination program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021002166A JP2021002166A (en) | 2021-01-07 |
JP6998918B2 true JP6998918B2 (en) | 2022-01-18 |
Family
ID=73995047
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019114913A Active JP6998918B2 (en) | 2019-06-20 | 2019-06-20 | Flight route determination device, flight route determination system, flight route determination method and flight route determination program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6998918B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113758438B (en) * | 2021-07-08 | 2023-07-25 | 重庆市勘测院 | Oblique aerial photography and three-dimensional reconstruction method for special building |
KR102391924B1 (en) * | 2021-10-08 | 2022-04-28 | 한화시스템 주식회사 | Method and apparatus of route planning of unmanned air vehicle |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002298162A (en) | 2001-03-29 | 2002-10-11 | Mitsubishi Electric Corp | Three-dimensional view display device and three- dimensional view generating device |
JP2004030450A (en) | 2002-06-27 | 2004-01-29 | Kobe Steel Ltd | Traffic information guiding apparatus, traffic information guiding method, and system therefor |
JP2015001791A (en) | 2013-06-14 | 2015-01-05 | 株式会社ジオ技術研究所 | Image analysis apparatus |
JP2017144784A (en) | 2016-02-15 | 2017-08-24 | 株式会社トプコン | Flight plan creation method and flight body guidance system |
JP2017207696A (en) | 2016-05-20 | 2017-11-24 | アルパイン株式会社 | Electronic system |
JP2018097578A (en) | 2016-12-13 | 2018-06-21 | Kddi株式会社 | Flight device, flight controller and flight control method |
WO2019069829A1 (en) | 2017-10-03 | 2019-04-11 | 株式会社 ミックウェア | Route generation device, moving body, and program |
-
2019
- 2019-06-20 JP JP2019114913A patent/JP6998918B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002298162A (en) | 2001-03-29 | 2002-10-11 | Mitsubishi Electric Corp | Three-dimensional view display device and three- dimensional view generating device |
JP2004030450A (en) | 2002-06-27 | 2004-01-29 | Kobe Steel Ltd | Traffic information guiding apparatus, traffic information guiding method, and system therefor |
JP2015001791A (en) | 2013-06-14 | 2015-01-05 | 株式会社ジオ技術研究所 | Image analysis apparatus |
JP2017144784A (en) | 2016-02-15 | 2017-08-24 | 株式会社トプコン | Flight plan creation method and flight body guidance system |
JP2017207696A (en) | 2016-05-20 | 2017-11-24 | アルパイン株式会社 | Electronic system |
JP2018097578A (en) | 2016-12-13 | 2018-06-21 | Kddi株式会社 | Flight device, flight controller and flight control method |
WO2019069829A1 (en) | 2017-10-03 | 2019-04-11 | 株式会社 ミックウェア | Route generation device, moving body, and program |
Also Published As
Publication number | Publication date |
---|---|
JP2021002166A (en) | 2021-01-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106767706B (en) | A kind of unmanned plane reconnoitres the Aerial Images acquisition method and system of the scene of a traffic accident | |
JP6591676B2 (en) | Monitoring method, monitoring system and program | |
US10168153B2 (en) | Enhanced position measurement systems and methods | |
US9879993B2 (en) | Enhanced bundle adjustment techniques | |
EP2904544B1 (en) | Enhanced bundle adjustment techniques | |
JP6510247B2 (en) | Survey data processing apparatus, survey data processing method and program | |
US20090278948A1 (en) | Information presentation apparatus, information presentation method, imaging apparatus, and computer program | |
JP2021009508A (en) | Inspection management system, inspection management server, inspection management method, and inspection management program | |
JP6675537B1 (en) | Flight path generation device, flight path generation method and program, and structure inspection method | |
MX2013000158A (en) | Real-time moving platform management system. | |
JP6998918B2 (en) | Flight route determination device, flight route determination system, flight route determination method and flight route determination program | |
JPWO2018193574A1 (en) | Flight path generation method, information processing apparatus, flight path generation system, program, and recording medium | |
US20210264666A1 (en) | Method for obtaining photogrammetric data using a layered approach | |
JP2018205264A (en) | Image processor, method for processing image, and image processing program | |
JP2016057063A (en) | Non-contact detecting method for measurement objects, and apparatus for the same | |
JP2011095112A (en) | Three-dimensional position measuring apparatus, mapping system of flying object, and computer program | |
JP2011169658A (en) | Device and method for pinpointing photographed position | |
EP4008997A1 (en) | Surveying system, surveying method, and surveying program | |
JP2020191523A (en) | Unmanned mobile | |
CN112665554A (en) | Method and system for generating orthoimage | |
JP6681101B2 (en) | Inspection system | |
JP2019168406A (en) | Target device and surveying system | |
KR20210037998A (en) | Method of providing drone route | |
KR20150096127A (en) | Method and apparatus for calculating location of points captured in image | |
KR101415145B1 (en) | Generation of Target Coordination for Automatic Image Aquisition of the Airborne EO/IR Pod |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191205 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210112 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210420 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210810 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211108 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20211108 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20211115 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20211116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6998918 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |