JP2020155067A - 制御プログラム、制御方法及び無人移動体 - Google Patents

制御プログラム、制御方法及び無人移動体 Download PDF

Info

Publication number
JP2020155067A
JP2020155067A JP2019055597A JP2019055597A JP2020155067A JP 2020155067 A JP2020155067 A JP 2020155067A JP 2019055597 A JP2019055597 A JP 2019055597A JP 2019055597 A JP2019055597 A JP 2019055597A JP 2020155067 A JP2020155067 A JP 2020155067A
Authority
JP
Japan
Prior art keywords
detection target
flight
detected
aerial vehicle
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019055597A
Other languages
English (en)
Other versions
JP7114194B2 (ja
Inventor
陽介 舘
Yosuke Tachi
陽介 舘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2019055597A priority Critical patent/JP7114194B2/ja
Publication of JP2020155067A publication Critical patent/JP2020155067A/ja
Application granted granted Critical
Publication of JP7114194B2 publication Critical patent/JP7114194B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Remote Monitoring And Control Of Power-Distribution Networks (AREA)
  • Electric Cable Installation (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】撮像装置を搭載し、移動中に画像データを撮影することで検出対象を検出する無人移動体において、出動回数を減らす。【解決手段】所定区間を無人移動体100が前進移動中に撮影した画像データから検出対象600を検出する画像処理工程と、検出対象が検出された場合に無人移動体の前進移動を中断し、該検出対象が検出された画像データが撮影された際の位置まで無人移動体が後退移動するよう制御する制御工程と、をコンピュータに実行させるための制御プログラムであって、制御工程は、後退移動した後の所定の動作が完了すると、所定区間の前進移動を再開するよう制御することを特徴とする。【選択図】図6

Description

本発明は、制御プログラム、制御方法及び無人移動体に関する。
従来より、無人移動体(例えば、ドローン等の無人飛行機)に撮像装置を搭載し、所定区間を移動させながら撮影を行うことで、所定区間内の検査対象(または監視対象)を検査(または監視)する技術が知られている。
例えば、下記特許文献等には、ドローン等の無人飛行機に撮像装置を搭載し、所定区間を飛行させながら、高所にある検査対象(例えば、鉄塔間に張架された架空地線や電線等)を撮影することで、所定区間内の検査対象を検査する構成が開示されている。
特開平2−146608号公報 特開2006−027448号公報 特開2017−123016号公報 特開2018−074757号公報 特開2018−114807号公報 特開2018−143036号公報
しかしながら、従来の無人飛行機の場合、飛行中に撮影した画像データを帰還してから解析装置に入力し、解析装置にて画像データの解析を行っていた。このため、例えば、解析した画像データにおいて欠陥箇所(検出対象)が検出され、当該欠陥箇所について、更なる詳細な調査が必要となった場合には、無人飛行機を、再度、欠陥箇所が検出された位置まで、飛行させる必要があった。
本発明は上記課題に鑑みてなされたものであり、撮像装置を搭載し、移動中に画像データを撮影することで検出対象を検出する無人移動体において、出動回数を減らすことを目的とする。
一態様によれば、制御プログラムは、
所定区間を無人移動体が前進移動中に撮影した画像データから検出対象を検出する画像処理工程と、
前記検出対象が検出された場合に前記無人移動体の前進移動を中断し、該検出対象が検出された画像データが撮影された際の位置まで前記無人移動体が後退移動するよう制御する制御工程と、をコンピュータに実行させるための制御プログラムであって、
前記制御工程は、後退移動した後の所定の動作が完了すると、前記無人移動体の前進移動を再開するよう制御することを特徴とする。
撮像装置を搭載し、移動中に画像データを撮影することで検出対象を検出する無人移動体において、出動回数を減らすことができる。
無人飛行機を含む無人飛行システムのシステム構成の一例を示す図である。 飛行プランの一例を示す第1の図である。 無人飛行機の外観構成及び機能構成の一例を示す図である。 無人飛行機の制御装置のハードウェア構成の一例を示す図である。 画像データ格納部に格納される情報の一例を示す図である。 欠陥箇所検出時の動作例を示す図である。 無人飛行機による検査処理の流れを示すフローチャートである。 欠陥箇所検出時の処理の流れを示すフローチャートである。 飛行プランの一例を示す第2の図である。 検出対象検出時の動作例を示す図である。 無人飛行機による監視処理の流れを示すフローチャートである。 検出対象検出時の処理の流れを示すフローチャートである。
以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
[第1の実施形態]
<無人飛行システムのシステム構成>
はじめに、無人移動体の一例である無人飛行機を含む、無人飛行システムのシステム構成について説明する。図1は、無人飛行機を含む無人飛行システムのシステム構成の一例を示す図である。図1に示すように、無人飛行システム10は、無人飛行機100と、情報処理装置110とを有する。
無人飛行機100は、情報処理装置110において生成された飛行プランを設定し、設定した飛行プランに従って飛行する。また、無人飛行機100は、飛行中、動画像の撮影を行う。なお、第1の実施形態において、無人飛行機100は、検査対象である架空地線または電線を検査するための飛行を行うものとする(ただし、以下では、説明の簡略化のため、架空地線を検査するための飛行を行うものとして説明する)。
また、無人飛行機100は、飛行中に撮影した動画像を、飛行中に処理することで各フレーム画像のいずれかより欠陥箇所(検出対象)を検出するとともに、検出結果に応じた飛行を行う。
情報処理装置110は、飛行プランを生成し、無人飛行機100に送信する。また、情報処理装置110は、無人飛行機100の飛行中の状態を監視し、必要に応じて、無人飛行機100に対して、オペレータが各種指示を送信する。
<飛行プランの説明>
次に、無人飛行機100に設定される飛行プランについて説明する。図2は、飛行プランの一例を示す第1の図である。このうち、図2(a)は、飛行プランの具体例を示す図である。図2(a)に示すように、飛行プラン200には、情報の項目として、"ポイント"、"緯度、経度、高度"が含まれる。
"ポイント"には、ホームポジション(HP)と、ウェイポイント(WP)とが、飛行順序に従って格納される。図2(a)の例は、HP→WP1→WP2→WP3→WP4→HPの飛行順序で、無人飛行機100が飛行する予定であることを示している。"緯度、経度、高度"には、対応する各ウェイポイント(WP)等の緯度、経度、高度を示す情報が格納される。
図2(b)は、飛行プラン200に含まれる各ウェイポイント等の位置及び飛行プラン200に基づく飛行ルートを模式的に示した図である。図2(b)の例は、WP1が鉄塔210の上方であって、鉄塔210から所定距離離れた位置にあり、WP2が鉄塔210の頂点近傍にあることを示している。また、図2(b)の例は、WP3が鉄塔220の頂点近傍にあり、WP4が鉄塔220の上方であって、鉄塔220から所定距離離れた位置にあることを示している。
図2(b)に示すように、飛行プラン200によれば、無人飛行機100は、HPから飛び立ってWP1まで飛行した後(飛行ルート241参照)、WP2まで下降する(飛行ルート242参照)。その後、無人飛行機100は、WP2とWP3との間(所定区間)を、架空地線230との距離が一定となるように飛行する(飛行ルート243参照)。そして、無人飛行機100は、WP3に到達すると、WP4まで上昇し(飛行ルート244参照)、WP4からHPに戻る(飛行ルート245参照)。
<無人飛行機の外観構成及び機能構成>
次に、無人飛行機100の外観構成及び機能構成について説明する。図3は、無人飛行機の外観構成及び機能構成の一例を示す図である。図3(a)に示すように、無人飛行機100は、機体部310と付属部320とを含む。また、図3(b)に示すように、機体部310には、飛行部311と、制御装置312とが含まれ、付属部320には、撮像部321が含まれる。
飛行部311には、無人飛行機100を飛行させるための機構(プロペラ、モータ等)が含まれる。
制御装置312は、機体部310の飛行部311や付属部320の撮像部321等を制御するための装置である。制御装置312には、制御プログラムがインストールされており、当該プログラムが実行されることで、制御装置312は、飛行制御部313、位置情報記録部314、画像処理部315として機能する。
飛行制御部313は、無人飛行機100が、飛行データ格納部316に設定された飛行プラン(例えば、飛行プラン200)に含まれる複数のウェイポイント間を接続する飛行ルートを飛行するよう、飛行中の位置座標に基づき飛行部311を制御する。なお、飛行制御部313は、WP2とWP3との間を前進飛行する際、検査対象である架空地線との距離が一定となるように、飛行部311を制御する。
また、飛行制御部313は、架空地線を撮影した動画像の各フレーム画像のいずれかより欠陥箇所が検出されると、前進飛行を中断する。また、飛行制御部313は、欠陥箇所検出時の動作として、欠陥箇所が検出されたフレーム画像が撮影された際の飛行位置まで、無人飛行機100が後退飛行するよう、飛行部311を制御する。更に、飛行制御部313は、当該飛行位置にて無人飛行機100が停止するよう、飛行部311を制御する。なお、飛行制御部313は、欠陥箇所検出時の他の動作も含むが全ての動作が完了すると、後退飛行する前の位置まで戻り、飛行ルートに従った前進飛行を再開するよう、飛行部311を制御する。
位置情報記録部314は、飛行中の位置座標(緯度、経度、高度)を取得し、飛行制御部313に通知するとともに、画像データ格納部317に格納する。
画像処理部315は、撮像部321に対して撮影開始と撮影停止とを指示し、撮像部321により撮影された動画像を、時刻情報及び位置座標と対応付けて画像データ格納部317に格納する。なお、画像処理部315は、飛行開始とともに撮像部321による撮影を開始し、飛行終了とともに撮像部321による撮影を停止する。また、画像処理部315は、架空地線を撮影した動画像の各フレーム画像のいずれかより架空地線の欠陥箇所を検出し、欠陥箇所を検出したフレーム画像を特定する。更に、画像処理部315は、欠陥箇所検出時の動作として、無人飛行機100が後退飛行し、上記飛行位置に停止した際、撮像部321が欠陥箇所に対してズーム撮影を行うよう制御する。
<制御装置のハードウェア構成>
次に、無人飛行機100の制御装置312のハードウェア構成について説明する。図4は、無人飛行機の制御装置のハードウェア構成の一例を示す図である。図4に示すように、制御装置312は、CPU(Central Processing Unit)401、ROM(Read Only Memory)402、RAM(Random Access Memory)403を有する。なお、CPU401、ROM402、RAM403は、いわゆるコンピュータを形成する。
また、制御装置312は、補助記憶装置404、表示装置405、操作装置406、位置情報計測装置407、I/F(Interface)装置408を有する。なお、制御装置312の各部は、バス410を介して相互に接続される。
CPU401は、補助記憶装置404にインストールされている各種プログラム(例えば、制御プログラム等)を実行する演算デバイスである。ROM402は、不揮発性メモリであり、補助記憶装置404にインストールされている各種プログラムをCPU401が実行するために必要な各種プログラム、データ等を記憶する、主記憶デバイスとして機能する。RAM403は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM403は、補助記憶装置404にインストールされている各種プログラムがCPU401によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
補助記憶装置404は、各種プログラムや、各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。例えば、飛行データ格納部316、画像データ格納部317は、補助記憶装置404において実現される。
表示装置405は、制御装置312の内部状態等を表示する出力デバイスである。操作装置406は、制御装置312に各種指示を入力する入力デバイスである。位置情報計測装置407は、GPS(Global Positioning System)衛星から電波を受信することで、無人飛行機100の飛行中の位置座標を計測する計測デバイスである。I/F装置408は、無人飛行機100が情報処理装置110との間で通信を行うための接続デバイスである。
<画像データ格納部に格納される情報>
次に、無人飛行機100の飛行中に、画像処理部315及び位置情報記録部314により画像データ格納部317に格納される情報について説明する。図5は、画像データ格納部に格納される情報の一例を示す図である。
図5に示すように、画像データ格納部317に格納される情報500には、情報の項目として、"時刻"、"緯度、経度、高度"、"画像データ"、"欠陥箇所"が含まれる。"時刻"には、撮像部321が動画像を撮影した際に取得した時刻情報が格納される。"緯度、経度、高度"には、位置情報記録部314が位置情報計測装置407より取得した、無人飛行機100の位置座標(緯度、経度、高度)が格納される。"画像データ"には、画像処理部315が、飛行中に取得した動画像の各フレーム画像が格納される。"欠陥箇所"には、飛行中に撮影された動画像の各フレーム画像を、画像処理部315が処理することで、各フレーム画像のいずれかより欠陥箇所を検出した場合に、欠陥箇所を検出したフレーム画像に対応付けて、欠陥箇所を検出したことを示す情報が格納される。図5の例は、欠陥箇所を検出したことを示す情報として、"×"が格納されることを示している。
図5の例は、位置座標(緯度、経度、高度)=(La11,Lo11,Al11)を飛行した際に撮影されたフレーム画像において、欠陥箇所が検出されたことを示している。また、図5の例は、位置座標(緯度、経度、高度)=(La100,Lo100,Al100)を飛行した際に撮影されたフレーム画像において、欠陥箇所が検出されたことを示している。
<欠陥箇所検出時の動作例>
次に、無人飛行機100の欠陥箇所検出時の動作例について説明する。図6は、欠陥箇所検出時の動作例を示す図である。このうち、図6(a)は、架空地線230に対して所定距離を維持しながら、架空地線230に沿って無人飛行機100が前進飛行している最中に、画像処理部315が、撮影された動画像のフレーム画像より、欠陥箇所600を検出した様子を示している。なお、符号610は、撮像部321の通常撮影時の撮影範囲を示している。
図6(b)は、画像処理部315が、欠陥箇所600を検出したことで、無人飛行機100が前進飛行を中断した様子を示している。図6(b)に示すように、画像処理部315が欠陥箇所600を検出したタイミングで、無人飛行機100が前進飛行を中断しても、惰性により、無人飛行機100は、欠陥箇所600よりも先の位置で停止する。そこで、飛行制御部313は、図6(b)に示すように、無人飛行機100が、欠陥箇所600の位置(欠陥箇所600が検出されたフレーム画像が撮影された際の飛行位置)まで後退飛行するよう、飛行部311を制御する。
図6(c)は、無人飛行機100の後退飛行が完了し、無人飛行機100が欠陥箇所600の位置に停止した様子を示している。無人飛行機100が欠陥箇所600の位置に停止すると、画像処理部315は、欠陥箇所600に対してズーム撮影を行う。なお、符号620は、撮像部321のズーム撮影時の撮影範囲を示している。
これにより、画像処理部315は、欠陥箇所600の詳細な調査に適した動画像を取得することができる。なお、画像処理部315によるズーム撮影が完了すると、飛行制御部313は、無人飛行機100が、後退飛行する前の位置まで戻り、再び、架空地線230に対して所定距離を維持しながら、架空地線230に沿って前進飛行するよう、飛行部311を制御する。このとき、撮像部321は、通常撮影にて動画像を撮影する。
<無人飛行機による検査処理の流れ>
次に、無人飛行機100による検査処理の流れについて説明する。図7は、無人飛行機による検査処理の流れを示すフローチャートである。図7に示す検査処理は、無人飛行機100が、WP2に到達することで実行開始し、WP3に到達することで実行終了する。
ステップS701において、飛行制御部313は、無人飛行機100が架空地線230に対して所定距離を維持しながら、架空地線230に沿って前進飛行を開始するよう、飛行部311を制御する。
ステップS702において、画像処理部315は、撮像部321が架空地線230について撮影した動画像の各フレーム画像について、処理を開始する。なお、画像処理部315では、撮像部321により撮影された動画像を、時刻情報及び位置座標と対応付けて画像データ格納部317に格納する処理を、既に、飛行開始時に(WP2に到達する前から)開始しているものとする。
ステップS703において、画像処理部315は、処理対象のフレーム画像において、欠陥箇所を検出したか否かを判定する。ステップS703において、欠陥箇所を検出していないと判定した場合には(ステップS703においてNoの場合には)、ステップS706に進む。
一方、ステップS703において、欠陥箇所を検出したと判定した場合には(ステップS703においてYesの場合には)、欠陥箇所を検出したことを示す情報を画像データ格納部317に格納し、ステップS704に進む。ステップS704において、飛行制御部313及び画像処理部315は、欠陥箇所検出時の処理を実行する。なお、欠陥箇所検出時の処理の詳細は、後述する。
ステップS705において、飛行制御部313は、無人飛行機100が、欠陥箇所検出時の処理を実行する前の位置まで戻るよう、飛行部311を制御する。また、飛行制御部313は、無人飛行機100が再び架空地線230に対して所定距離を維持しながら、架空地線230に沿って前進飛行するよう、飛行部311を制御する。
ステップS706において、飛行制御部313は、検査対象である架空地線230を全て検査したか否か(WP3に到達したか否か)を判定する。ステップS706において、検査していない領域があると判定した場合には(ステップS706においてNoの場合には)、ステップS703に戻る。一方、ステップS706において、架空地線230を全て検査したと判定した場合には(ステップS706においてYesの場合には)、検査処理を終了する。
<欠陥箇所検出時の処理>
次に、欠陥箇所検出時の処理(ステップS704)の詳細について説明する。図8は、欠陥箇所検出時の処理の流れを示すフローチャートである。飛行制御部313は、画像データ格納部317を常時参照しており、欠陥箇所を検出したことを示す情報が、画像処理部315により格納されると、これを検知する。
そして、ステップS801において、飛行制御部313は、欠陥箇所を検出したことを示す情報に対応付けて格納された位置座標を取得することで、欠陥箇所が検出されたフレーム画像が撮影された際の無人飛行機100の位置座標を特定する。また、飛行制御部313は、無人飛行機100が、特定した位置座標まで後退飛行を行うよう、飛行部311を制御する。
ステップS802において、飛行制御部313は、無人飛行機100が、特定した位置座標に到達すると、当該位置座標で無人飛行機100が停止するよう、飛行部311を制御する。なお、飛行制御部313は、当該位置座標近傍(前後)を、無人飛行機100が微速飛行するよう、飛行部311を制御してもよい。
ステップS803において、画像処理部315は、撮像部321に対してズーム撮影を行うよう指示する。また、ステップS804において、画像処理部315は、撮像部321がズーム撮影した動画像を取得し、画像データ格納部317に格納する。
<まとめ>
以上の説明から明らかなように、第1の実施形態に係る無人飛行機は、
・検査対象である架空地線が張架された所定区間(WP2〜WP3)を前進飛行中に、動画像を撮影し、撮影した動画像の各フレーム画像のいずれかより欠陥箇所を検出する。
・欠陥箇所を検出した場合に、当該欠陥箇所が検出されたフレーム画像を撮影した際の無人飛行機の位置座標を特定する。
・欠陥箇所を検出した場合に前進飛行を中断し、特定した位置座標まで後退飛行した後、ズーム撮影を行う。
・ズーム撮影が完了すると、後退飛行する前の位置まで戻り、所定区間の前進飛行を再開する。
このように、第1の実施形態によれば、飛行中に欠陥箇所を検出するごとに、前進飛行を中断して後退飛行し、欠陥箇所のズーム撮影を行う。これにより、従来のように、帰還後に動画像を解析し、欠陥箇所を検出した場合に、検出した欠陥箇所について詳細な調査を行うために、再度、無人飛行機を飛行させるといった事態を回避することができる。この結果、第1の実施形態によれば、撮像装置を搭載し、飛行中に画像データを撮影することで検出対象を検出する無人飛行機において、出動回数を減らすことができる。
[第2の実施形態]
上記第1の実施形態では、所定区間を前進飛行する際、検査対象を撮影する場合について説明した。しかしながら、撮影は、特定の検査対象に限定されず、例えば、所定区間の地上領域全体に対して行ってもよい。この場合、所定区間の地上領域全体を監視対象とし、監視対象において検出すべき検出対象を予め設定しておくものとする。そして、無人飛行機は、所定区間を前進飛行している最中に、監視対象を撮影し、動画像の各フレーム画像のいずれかより検出対象を検出した場合に、前進飛行を中断し、検出対象の位置まで後退飛行したうえで、ズーム撮影を行う。更に、ズーム撮影が完了すると、無人飛行機は、後退飛行する前の位置まで戻り、所定区間の前進飛行を再開する。
これにより、従来のように、帰還後に動画像を解析し、検出対象を検出した場合に、検出対象についての詳細な調査を行うために、再度、無人飛行機を飛行させるといった事態を回避することができる。この結果、撮像装置を搭載し、飛行中に画像データを撮影することで検出対象を検出する無人飛行機において、出動回数を減らすことができる。以下、第2の実施形態について、上記第1の実施形態との相違点を中心に、詳細を説明する。
<飛行プランの説明>
はじめに、第2の実施形態に係る無人飛行機100に設定される飛行プランについて説明する。図9は、飛行プランの一例を示す第2の図である。このうち、図9(a)は、飛行プランの具体例を示す図である。図9(a)に示すように、飛行プラン900には、情報の項目として、"ポイント"、"緯度、経度、高度"が含まれる。
"ポイント"には、ホームポジション(HP)と、ウェイポイント(WP)とが、飛行順序に従って格納される。図9(a)の例は、HP→WP1→WP2→HPの飛行順序で、無人飛行機100が飛行する予定であることを示している。"緯度、経度、高度"には、対応する各ウェイポイント(WP)等の緯度、経度、高度を示す情報が格納される。
図9(b)は、飛行プラン900に含まれる各ウェイポイント等の位置及び飛行プラン900に基づく飛行ルートを模式的に示した図である。図9(b)の例は、WP1が上空の所定の位置に設定され、WP2が上空の他の所定の位置に設定されたことを示している。
図9(b)に示すように、飛行プラン900によれば、無人飛行機100は、HPから飛び立ってWP1まで飛行した後(飛行ルート911参照)、WP1とWP2との間を直線で結ぶルートを所定区間として前進飛行する(飛行ルート912参照)。そして、WP2に到達すると、無人飛行機100は、WP2からHPに戻る(飛行ルート913参照)。
なお、WP1とWP2との間を直線で結ぶルートを所定区間として前進飛行している間、無人飛行機100は、所定区間の下方の地上領域全体を監視対象として撮影を行う。そして、無人飛行機100は、予め設定された検出対象(図9の例では、検出対象920)が監視対象内において検出されたか否かを判定する。
なお、第2の実施形態において、検出対象は、動画像の各フレーム画像より検出可能なものであれば、任意のものを設定することができる。具体的には、検出対象は、静止物体(例えば、建物)であっても動体であってもよい。また、動体の場合にあっては、人工物(例えば、自動車)であっても生物(人、動物)であってもよい。
<検出対象検出時の動作例>
次に、無人飛行機100の検出対象検出時の動作例について説明する。図10は、検出対象検出時の動作例を示す図である。このうち、図10(a)は、飛行ルート912に沿って、無人飛行機100が前進飛行している最中に、画像処理部315が、監視対象を撮影した動画像の各フレーム画像のいずれかより、検出対象920を検出した様子を示している。なお、符号1010は、撮像部321の通常撮影時の撮影範囲を示している。
図10(b)は、画像処理部315が、検出対象920を検出したことで、無人飛行機100が前進飛行を中断した様子を示している。図10(b)に示すように、画像処理部315が検出対象920を検出したタイミングで、無人飛行機100が前進飛行を中断しても、惰性により、無人飛行機100は、検出対象920よりも先の位置で停止する。そこで、飛行制御部313は、図10(b)に示すように、無人飛行機100が、検出対象920の位置(検出対象920が検出されたフレーム画像が撮影された際の飛行位置)まで後退飛行するよう、飛行部311を制御する。なお、図10(b)に示すように、後退飛行を行うにあたり、飛行制御部313は、無人飛行機100が高度を下げ、検出対象920との高さ方向の距離が短くなるように、飛行部311を制御してもよい。
図10(c)は、無人飛行機100の後退飛行が完了し、無人飛行機100が検出対象920の位置に停止した様子を示している。無人飛行機100が検出対象920の位置に停止すると、画像処理部315は、検出対象920に対してズーム撮影を行う。なお、符号1020は、撮像部321のズーム撮影時の撮影範囲を示している。
これにより、画像処理部315は、検出対象920の詳細な調査に適した動画像を取得することができる。
なお、撮像部321によるズーム撮影の間、無人飛行機100は、検出対象920の位置に停止していてもよいし、検出対象920の位置の前後を、微速飛行してもよい。また、検出対象920が動体の場合にあっては、無人飛行機100は、動体の移動にあわせて微速飛行してもよい。停止した状態での、あるいは、微速飛行した状態での画像処理部315によるズーム撮影が完了すると、飛行制御部313は、無人飛行機100が、後退飛行する前の位置まで戻り、再び、飛行ルート912に沿って前進飛行するよう、飛行部311を制御する。このとき、撮像部321は、通常撮影にて動画像を撮影する。
<無人飛行機による監視処理の流れ>
次に、無人飛行機100による監視処理の流れについて説明する。図11は、無人飛行機による監視処理の流れを示すフローチャートである。図11に示す監視処理は、無人飛行機100が、WP1に到達することで実行開始し、WP2に到達することで実行終了する。
ステップS1101において、飛行制御部313は、無人飛行機100が飛行ルート912に沿って前進飛行を開始するよう、飛行部311を制御する。
ステップS1102において、画像処理部315は、撮像部321が監視対象について撮影した動画像の各フレーム画像について、処理を開始する。なお、画像処理部315では、撮像部321により撮影された動画像を、時刻情報及び位置座標と対応付けて画像データ格納部317に格納する処理を、既に、飛行開始時に(WP1に到達する前から)開始しているものとする。
ステップS1103において、画像処理部315は、処理対象のフレーム画像において、検出対象を検出したか否かを判定する。ステップS1103において、検出対象を検出していないと判定した場合には(ステップS1103においてNoの場合には)、ステップS1106に進む。
一方、ステップS1103において、検出対象を検出したと判定した場合には(ステップS1103においてYesの場合には)、検出対象を検出したことを示す情報を、画像データ格納部317に格納し、ステップS1104に進む。ステップS1104において、飛行制御部313及び画像処理部315は、検出対象検出時の処理を実行する。なお、検出対象検出時の処理の詳細は、後述する。
ステップS1105において、飛行制御部313は、無人飛行機100が検出対象検出時の処理を実行する前の位置まで戻るよう、飛行部311を制御する。また、飛行制御部313は、無人飛行機100が再び飛行ルート912に沿って前進飛行するよう、飛行部311を制御する。
ステップS1106において、飛行制御部313は、飛行ルート912の監視対象を全て撮影したか否か(WP2に到達したか否か)を判定する。ステップS1106において、飛行ルート912の監視対象のうち撮影が完了していない領域があると判定した場合には(ステップS1106においてNoの場合には)、ステップS1103に戻る。一方、ステップS1106において、飛行ルート912の監視対象を全て撮影したと判定した場合には(ステップS1106においてYesの場合には)、監視処理を終了する。
<検出対象検出時の処理>
次に、検出対象検出時の処理(ステップS1104)の詳細について説明する。図12は、検出対象検出時の処理の流れを示すフローチャートである。飛行制御部313は、画像データ格納部317を常時参照し、検出対象を検出したことを示す情報が、画像処理部315により格納されると、これを検知する。
そして、ステップS1201において、飛行制御部313は、検出対象を検出したことを示す情報に対応付けて格納された位置座標を取得することで、検出対象が検出されたフレーム画像が撮影された際の無人飛行機100の位置座標を特定する。また、飛行制御部313は、無人飛行機100が、特定した位置座標まで後退飛行を行うよう、飛行部311を制御する。なお、このとき、飛行制御部313は、無人飛行機100が高度を下げるよう飛行部311を制御してもよい。
ステップS1202において、飛行制御部313は、無人飛行機100が、特定した位置座標に到達すると、当該位置座標で無人飛行機100が停止するよう、飛行部311を制御する。なお、飛行制御部313は、当該位置座標近傍(前後)を、無人飛行機100が微速飛行するよう、飛行部311を制御してもよい。
ステップS1203において、画像処理部315は、撮像部321に対してズーム撮影を行うよう指示する。また、ステップS1204において、画像処理部315は、撮像部321がズーム撮影した動画像を取得し、画像データ格納部317に格納する。
<まとめ>
以上の説明から明らかなように、第2の実施形態に係る無人飛行機は、
・監視対象である地上領域の上空の所定区間(WP1〜WP2)を前進飛行中に、動画像を撮影し、撮影した動画像の各フレーム画像のいずれかより検出対象を検出する。
・検出対象を検出した場合に、当該検出対象が検出されたフレーム画像を撮影した際の無人飛行機の位置座標を特定する。
・検出対象を検出した場合に、前進飛行を中断し、特定した位置座標まで後退飛行した後、ズーム撮影を行う。
・ズーム撮影が完了すると、後退飛行する前の位置まで戻り、所定区間の前進飛行を再開する。
このように、第2の実施形態によれば、飛行中に検出対象を検出するごとに、前進飛行を中断して後退飛行し、検出対象のズーム撮影を行う。これにより、従来のように、帰還後に動画像を解析し、検出対象を検出した場合に、検出した検出対象について詳細な調査を行うために、再度、無人飛行機を飛行させるといった事態を回避することができる。この結果、第2の実施形態によれば、撮像装置を搭載し、飛行中に画像データを撮影することで検出対象を検出する無人飛行機において、出動回数を減らすことができる。
[その他の実施形態]
上記第1及び第2の実施形態では、無人移動体が、空中を飛行する無人飛行機であるとして説明したが、無人移動体は、無人飛行機に限定されない。例えば、地上を移動する無人移動体であってもよいし、海上または海中を移動する無人移動体であってもよい。
この場合、無人移動体は、所定区間を前進移動中(直線移動中)に画像データを撮影し、撮影した画像データから検出対象を検出する。また、無人移動体は、検出対象を検出した場合に前進移動を中断し、当該検出対象が検出されたフレーム画像を撮影した際の無人移動体の位置座標まで後退移動する。更に、無人移動体は、所定の動作が完了すると、後退移動する前の位置まで戻り、所定区間の前進移動を再開する。なお、このときの無人移動体の所定の動作には、後退移動した位置座標に停止した状態で、または、後退移動した位置座標の近傍を微速移動した状態で、検出対象をズーム撮影する動作が含まれる。
また、上記第1及び第2の実施形態では、欠陥箇所検出時(あるいは検出対象検出時)に、撮像部321がズーム撮影を自動で行うものとして説明した。しかしながら、撮像部321によるズーム撮影は、手動で行ってもよい。具体的には、情報処理装置110のオペレータからの指示に基づいて、撮像部321を動作させてズーム撮影を行うように構成してもよい。この場合、撮像部321により撮影された動画像は、例えば、情報処理装置110に送信され、情報処理装置110のオペレータは、無人移動体の後退移動が完了したタイミングで、ズーム操作を行うものとする。これにより、情報処理装置110のオペレータは、情報処理装置110に表示された動画像を見ながら、撮像部321を遠隔操作することができる。つまり、撮像部321は、情報処理装置110のオペレータの指示に基づいて、ズーム撮影を行うことができる。
また、上記第1及び第2の実施形態において、無人飛行機100は、欠陥箇所(または検出対象)を検出するごとに、欠陥箇所検出時の処理(または検出対象検出時の処理)を行うものとして説明した。しかしながら、欠陥箇所検出時の処理(または検出対象検出時の処理)は、所定区間における前進飛行が完了してから、まとめて行うようにしてもよい。
例えば、第1の実施形態の場合、WP3に到達した後に、欠陥箇所の位置座標(複数の欠陥箇所が検出された場合には、複数の位置座標それぞれ)まで後退飛行し、ズーム撮影を行うように構成してもよい。また、第2の実施形態の場合、WP2に到達した後に、検出対象の位置座標(複数の検出対象が検出された場合には、複数の位置座標それぞれ)まで後退飛行し、ズーム撮影を行うように構成してもよい。
また、上記第1及び第2の実施形態において、無人飛行機100は、欠陥箇所(または検出対象)を検出し、前進飛行の中断及び後退飛行を行った後の所定の動作として、停止(または微速飛行)及びズーム撮影を行うものとして説明した。しかしながら、所定の動作は、停止(または微速飛行)及びズーム撮影に限定されない。例えば、無人飛行機100に、検出対象に向けて警告を行う警告部を配し、所定の動作として、停止(または微速飛行)及び検出対象に対する警告、を行うように構成してもよい。
あるいは、無人飛行機100に、欠陥箇所(または検出対象)が検出されたことを情報処理装置110のオペレータに報知する報知部を配し、所定の動作として停止(または微速飛行)及び情報処理装置110への報知、を行うように構成してもよい。この場合、情報処理装置110のオペレータは、報知を受けるごとに無人飛行機100の動作を遠隔で操作してもよい。ここでいう操作には、上述したズーム撮影の操作に限定されず、ズーム撮影の操作以外の操作が含まれていてもよい。
また、上記第1及び第2の実施形態では、無人飛行機100の制御装置312を、飛行制御部313、位置情報記録部314、画像処理部315として機能させるものとして説明した。しかしながら、これらの一部は、情報処理装置110において機能させてもよい。
また、上記第1及び第2の実施形態では、撮像部321の種類について言及しなかったが、撮像部321は任意の種類(可視、近赤外、中赤外、遠赤外等)のカメラが適用可能である。
また、上記第1の実施形態では、情報処理装置110の機能について特に言及しなかったが、情報処理装置110は、例えば、画像データ格納部317に格納された情報500を読み出し、欠陥箇所を検索して表示する機能を有していてもよい。また、情報処理装置110は、欠陥箇所を表示する際、例えば、地図情報と併せて表示する機能を有していてもよい。
また、上記第1の実施形態では、検査対象として、架空地線(または電線)を例示したが、検査対象はこれに限定されず、例えば、橋梁等の構造物を検査対象としてもよい。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :無人飛行機
110 :情報処理装置
243 :飛行ルート
311 :飛行部
312 :制御装置
313 :飛行制御部
314 :位置情報記録部
315 :画像処理部
321 :撮像部
600 :欠陥箇所
912 :飛行ルート
920 :検出対象

Claims (14)

  1. 所定区間を無人移動体が前進移動中に撮影した画像データから検出対象を検出する画像処理工程と、
    前記検出対象が検出された場合に前記無人移動体の前進移動を中断し、該検出対象が検出された画像データが撮影された際の位置まで前記無人移動体が後退移動するよう制御する制御工程と、をコンピュータに実行させるための制御プログラムであって、
    前記制御工程は、後退移動した後の所定の動作が完了すると、前記無人移動体の前進移動を再開するよう制御することを特徴とする制御プログラム。
  2. 前記画像処理工程は、前記所定区間を前進移動中に撮影した画像データを、撮影時の各位置座標と対応付けて格納することを特徴とする請求項1に記載の制御プログラム。
  3. 前記所定の動作は、前記位置に停止した状態で、または、前記位置の近傍を微速移動した状態で、前記検出対象をズーム撮影する動作であることを特徴とする請求項1に記載の制御プログラム。
  4. 前記所定の動作には、前記位置の近傍を、前記検出対象の動きに合わせて移動した状態で、前記検出対象をズーム撮影する動作が含まれることを特徴とする請求項3に記載の制御プログラム。
  5. 前記所定の動作には、前記位置よりも、前記検出対象に向かって近づいた位置に停止する動作が含まれることを特徴とする請求項3または4に記載の制御プログラム。
  6. 前記所定の動作には、前記位置に停止した状態で、または、前記位置の近傍を微速移動した状態で、オペレータの指示に基づいて、前記検出対象を撮影する動作が含まれることを特徴とする請求項3乃至5のいずれか1項に記載の制御プログラム。
  7. 前記制御工程は、
    前記画像処理工程において前記検出対象が検出されるごとに前進移動を中断し、前記位置まで後退移動し、前記所定の動作が完了すると、前記所定区間の前進移動を再開することを特徴とする請求項1に記載の制御プログラム。
  8. 前記制御工程は、
    前記所定区間の前進移動が完了した後に、複数の前記位置に移動し、所定の動作を行うことを特徴とする請求項1に記載の制御プログラム。
  9. 前記画像処理工程において前記検出対象が検出されたことを報知する報知工程を更に有することを特徴とする請求項1に記載の制御プログラム。
  10. 前記画像処理工程において前記検出対象が検出された場合に、前記検出対象に向けて警告を行う警告工程を更に有することを特徴とする請求項1に記載の制御プログラム。
  11. 前記検出対象は、架空地線または電線の欠陥箇所であり、前記所定区間の前進移動は、所定のウェイポイント間の架空地線または電線に沿って、所定距離を維持しながら行われる前進飛行であることを特徴とする請求項1に記載の制御プログラム。
  12. 前記検出対象は、所定の静止物体または動体であり、前記所定区間の前進移動は、所定のウェイポイント間の直線移動であることを特徴とする請求項1に記載の制御プログラム。
  13. 所定区間を無人移動体が前進移動中に撮影した画像データから検出対象を検出する画像処理工程と、
    前記検出対象が検出された場合に前記無人移動体の前進移動を中断し、該検出対象が検出された画像データが撮影された際の位置まで前記無人移動体が後退移動するよう制御する制御工程と、を有し、
    前記制御工程は、後退移動した後の所定の動作が完了すると、前記無人移動体の前進移動を再開するよう制御することを特徴とする制御方法。
  14. 所定区間を前進移動中に画像データを撮影し、撮影した画像データから検出対象を検出する画像処理部と、
    前記検出対象が検出された場合に前進移動を中断し、該検出対象が検出された画像データが撮影された際の位置まで後退移動するよう制御する制御部と、を有し、
    前記制御部は、後退移動した後の所定の動作が完了すると、前記前進移動を再開するよう制御することを特徴とする無人移動体。
JP2019055597A 2019-03-22 2019-03-22 制御プログラム、制御方法及び無人移動体 Active JP7114194B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019055597A JP7114194B2 (ja) 2019-03-22 2019-03-22 制御プログラム、制御方法及び無人移動体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019055597A JP7114194B2 (ja) 2019-03-22 2019-03-22 制御プログラム、制御方法及び無人移動体

Publications (2)

Publication Number Publication Date
JP2020155067A true JP2020155067A (ja) 2020-09-24
JP7114194B2 JP7114194B2 (ja) 2022-08-08

Family

ID=72559443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019055597A Active JP7114194B2 (ja) 2019-03-22 2019-03-22 制御プログラム、制御方法及び無人移動体

Country Status (1)

Country Link
JP (1) JP7114194B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022254477A1 (ja) * 2021-05-31 2022-12-08 日本電気株式会社 情報処理方法、情報処理装置、コンピュータ可読媒体、及び点検システム
CN116667219A (zh) * 2023-06-29 2023-08-29 国网电力空间技术有限公司 一种输电线路激光雷达巡检系统、方法、装置及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006031144A (ja) * 2004-07-13 2006-02-02 Matsushita Electric Ind Co Ltd 自律走行監視装置
JP2016079614A (ja) * 2014-10-14 2016-05-16 富士フイルム株式会社 橋梁検査ロボットシステム
US20180329433A1 (en) * 2017-05-10 2018-11-15 General Electric Company Self-localized mobile sensor network for autonomous robotic inspection

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006031144A (ja) * 2004-07-13 2006-02-02 Matsushita Electric Ind Co Ltd 自律走行監視装置
JP2016079614A (ja) * 2014-10-14 2016-05-16 富士フイルム株式会社 橋梁検査ロボットシステム
US20180329433A1 (en) * 2017-05-10 2018-11-15 General Electric Company Self-localized mobile sensor network for autonomous robotic inspection

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022254477A1 (ja) * 2021-05-31 2022-12-08 日本電気株式会社 情報処理方法、情報処理装置、コンピュータ可読媒体、及び点検システム
CN116667219A (zh) * 2023-06-29 2023-08-29 国网电力空间技术有限公司 一种输电线路激光雷达巡检系统、方法、装置及存储介质
CN116667219B (zh) * 2023-06-29 2023-12-22 国网电力空间技术有限公司 一种输电线路激光雷达巡检系统、方法、装置及存储介质

Also Published As

Publication number Publication date
JP7114194B2 (ja) 2022-08-08

Similar Documents

Publication Publication Date Title
US11490005B2 (en) Overhead line image capturing system and overhead line image capturing method
US11430101B2 (en) Unmanned aerial vehicle, inspection method, and storage medium
JP2017124666A (ja) 飛行誘導システム
JP7150458B2 (ja) 架空電線検査システム及び架空電線検査方法
JP7114194B2 (ja) 制御プログラム、制御方法及び無人移動体
JP2018156491A (ja) 設備点検システム
JP6289750B1 (ja) 移動体、移動体制御方法、移動体制御システム、及び移動体制御プログラム
JP2018133010A (ja) 屋内空間の検査方法
JP6733106B2 (ja) 決定装置、移動体、決定方法、及びプログラム
JP6583840B1 (ja) 検査システム
JP2006270404A (ja) 撮影制御装置、撮影制御方法および撮影制御プログラム
JP2023100642A (ja) 検査システム
JP2017058829A (ja) 無人航空機制御システム、無人航空機制御方法
JP2021015605A (ja) 管理サーバ及び管理システム、表示情報生成方法、プログラム
CN113874806A (zh) 轨迹生成方法、遥控终端、可移动平台、系统及计算机可读存储介质
JP6495562B1 (ja) 無人飛行体による空撮システム、方法及びプログラム
US11492115B2 (en) Unmanned aerial vehicle display control system, display control device and display control method
JP6831949B2 (ja) 表示制御システム、表示制御装置及び表示制御方法
JP2017181393A (ja) ナビゲーション装置及びナビゲーション方法
US20240126295A1 (en) Position determination apparatus, position determination method, and non-transitory computer-readable medium
US12019441B2 (en) Display control system, display control device and display control method
JP2020014054A (ja) 制御装置、移動体、制御方法、及びプログラム
US11710314B2 (en) Record-and-replay control device, replay control device, and record-and-replay control method
JP7332445B2 (ja) 表示制御装置、表示制御方法及び表示制御用プログラム
JP2011149957A (ja) 画像表示装置、画像表示方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220726

R150 Certificate of patent or registration of utility model

Ref document number: 7114194

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150