JP2021057078A - 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム - Google Patents

無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム Download PDF

Info

Publication number
JP2021057078A
JP2021057078A JP2020215317A JP2020215317A JP2021057078A JP 2021057078 A JP2021057078 A JP 2021057078A JP 2020215317 A JP2020215317 A JP 2020215317A JP 2020215317 A JP2020215317 A JP 2020215317A JP 2021057078 A JP2021057078 A JP 2021057078A
Authority
JP
Japan
Prior art keywords
distance
aerial vehicle
unmanned aerial
flight
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020215317A
Other languages
English (en)
Other versions
JP7184381B2 (ja
Inventor
ラービ・クリストファー・トーマス
Thomas Raabe Christopher
ベリストロム・ニクラス
Niklas Bergstroem
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ACSL Ltd
Original Assignee
ACSL Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ACSL Ltd filed Critical ACSL Ltd
Priority to JP2020215317A priority Critical patent/JP7184381B2/ja
Publication of JP2021057078A publication Critical patent/JP2021057078A/ja
Application granted granted Critical
Publication of JP7184381B2 publication Critical patent/JP7184381B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】飛行中に機体と対象要素との距離を計測し、計測値に応じて当該距離を制御するための飛行制御装置、飛行制御方法等を提供すること。【解決手段】外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、対象要素と、の距離を計測する距離センサとして、対象要素を撮影する撮影カメラと、撮影した画像情報を用いて距離の計測値を決定する計測値決定回路と、を備えた距離センサと、距離センサにより計測された距離の計測値に応じて、飛行中に無人航空機と対象要素との距離を制御するための制御信号を生成する制御信号生成回路とを備えた無人航空機の飛行制御装置を提供する。【選択図】図3

Description

本発明は、無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラムに関する。より詳細には、本発明は、無人航空機と対象要素との距離を制御するための飛行制御装置、飛行制御方法等に関する。
近年、複数の回転翼の回転速度を制御することにより飛行を制御する無人航空機が市場に流通しており、撮影調査、農薬散布、物資輸送等の産業用途、あるいはホビー用途において広く利用されている。
無人航空機は、一例においてはプロポーショナル・コントローラ(プロポ)等の外部入力装置から入力される外部入力信号により飛行するが、操縦者から目視できない遠方を飛行している場合には、機体が構造物等に接近して衝突の恐れがあってもこれを認識できず、衝突を回避できない恐れがある。また無人航空機が、フライトコントローラによって自律制御プログラムを実行することにより、予め設定された飛行計画経路を飛行する場合であっても、飛行計画経路の作成にあたって考慮されていなかった障害物等が存在する場合にはこれへの機体の衝突を回避できない恐れがある。
特開2012−198077号公報
株式会社東芝、「単眼カメラで撮影した1枚の画像からカラー画像と距離画像を同時に取得できる撮像技術を開発」、[online]、株式会社東芝 研究開発センター、[平成29年10月16日検索]、インターネット<URL:https://www.toshiba.co.jp/rdc/detail/1606_01.htm> Vinay R., "What is OpenCV?", [online], Intel, [平成29年10月23日検索], インターネット<URL:https://software.intel.com/en-us/articles/what-is-opencv> Andrew J.Davison, et al., "MonoSLAM: Real-Time Single Camera SLAM", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL.29, NO.6, JUNE 2007, [online], [平成29年10月20日検索], インターネット<URL: https://www.doc.ic.ac.uk/~ajd/Publications/davison_etal_pami2007.pdf> Georg Klein, "Parallel Tracking and Mapping for Small AR Workspaces - Source Code", [online], Georg Klein Home Page, [平成29年10月20日検索], インターネット<URL: http://www.robots.ox.ac.uk/~gk/PTAM/> Georg Klein, et al., "Parallel Tracking and Mapping for Small AR Workspaces", Proc. International Symposium on Mixed and Augmented Reality (ISMAR'07, Nara), [online], [平成29年10月20日検索], インターネット<URL: http://www.robots.ox.ac.uk/~gk/publications/KleinMurray2007ISMAR.pdf> 槙 修一、他3名、「レーザ距離センサを用いた移動式三次元計測システムの開発」、[online]、2014年映像情報メディア学会冬季大会、[平成29年10月20日検索]、インターネット<URL: https://www.jstage.jst.go.jp/article/itewac/2014/0/2014_4-13-1_/_pdf>
これに鑑み、本発明は、飛行中に機体と対象要素との距離を計測し、計測値に応じて当該距離を制御するための飛行制御装置、飛行制御方法等を提供することを課題とする。
上記課題を解決するべく、本発明は、外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、対象要素と、の距離を計測する距離センサとして、対象要素を撮影する撮影カメラと、撮影した画像情報を用いて距離の計測値を決定する計測値決定回路と、を備えた距離センサと、距離センサにより計測された距離の計測値に応じて、飛行中に無人航空機と対象要素との距離を制御するための制御信号を生成する制御信号生成回路とを備えた無人航空機の飛行制御装置を提供する。ここで、距離の計測値に「応じて」「距離を制御するための制御信号を生成する」とは、距離の計測値がどのような値であったとしても距離を制御するための制御信号が生成されなければならないということを意味しているわけではなく、一例においては距離の計測値が所定範囲から外れた場合にのみ、距離を制御するための制御信号が生成される。
無人航空機は、少なくとも外部入力信号を用いた制御により飛行する無人航空機であってよく、外部入力信号は、無人航空機の飛行中に外部入力装置からリアルタイムで入力される信号であってよく、制御信号は、距離の計測値に応じて外部入力信号を変更して得られる信号であってよい。
無人航空機は、少なくとも飛行計画情報を用いた制御により飛行する無人航空機であってよく、飛行計画情報は、コンピュータがプログラムを実行することにより飛行前に予め生成された飛行計画情報であってよい。
計測値決定回路は制御信号生成回路に統合されていてよい。
制御信号生成回路は、計測値が第1の基準値よりも小さい場合、無人航空機を対象要素から離れさせるための制御信号を生成するよう構成されていてよい。ただし、「対象要素から離れさせるための制御信号を生成する」ための条件として「計測値が第1の基準値よりも小さい場合」という条件に加えて何らかの追加的条件を課してもよいし、また「計測値が第1の基準値よりも小さい場合」という条件が満たされない場合であっても「対象要素から離れさせるための制御信号を生成する」ことを禁止するものではない。
制御信号生成回路は、計測値が、第1の基準値以上の第2の基準値よりも大きい場合、無人航空機を対象要素に近づけるための制御信号を生成するよう構成されていてよい。ただし、「対象要素に近づけるための制御信号を生成する」ための条件として「計測値が、第1の基準値以上の第2の基準値よりも大きい場合」という条件に加えて何らかの追加的条件を課してもよいし、また「計測値が、第1の基準値以上の第2の基準値よりも大きい場合」という条件が満たされない場合であっても「対象要素に近づけるための制御信号を生成する」ことを禁止するものではない。
第1の基準値と第2の基準値とは等しくてもよい。
制御信号生成回路は、計測値が第1の基準値よりも小さく、且つ経時的に計測値が減少する場合において、無人航空機を対象要素から離れさせるための制御信号を生成し、計測値が第2の基準値よりも大きく、且つ経時的に計測値が増大する場合において、無人航空機を対象要素に近づけるための制御信号を生成するよう構成されていてよい。ただし、「無人航空機を対象要素から離れさせるための制御信号を生成」するための条件、「無人航空機を対象要素に近づけるための制御信号を生成する」ための条件として、それぞれ「計測値が第1の基準値よりも小さく、且つ経時的に計測値が減少する場合」という条件、「計測値が第2の基準値よりも大きく、且つ経時的に計測値が増大する場合」という条件に加えて何らかの追加的条件を課してもよいし、また「計測値が第1の基準値よりも小さく、且つ経時的に計測値が減少する場合」という条件、「計測値が第2の基準値よりも大きく、且つ経時的に計測値が増大する場合」という条件がそれぞれ満たされない場合であっても、「無人航空機を対象要素から離れさせるための制御信号を生成」すること、「無人航空機を対象要素に近づけるための制御信号を生成する」ことを禁止するものではない。
飛行制御装置は、撮影カメラの撮影とは異なる方向を撮影する外部環境撮影カメラを更に備えてよい。
飛行制御装置は、無人航空機の周囲に存在する要素に対する無人航空機の相対位置を計測するための相対位置計測センサを更に備えてよい。
対象要素は、被点検構造物であってよい。
また本発明は、上記飛行制御装置を備えた無人航空機を提供する。
また本発明は、対象要素を撮影し、撮影した画像情報を用いて、外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、対象要素と、の距離の計測値を決定することにより、距離を計測する段階と、距離の計測値に応じて、飛行中に無人航空機と対象要素との距離を制御するための制御信号を生成する段階とを備えた無人航空機の飛行制御方法を提供する。
また本発明は、対象要素を撮影カメラが撮影した画像情報を用いて、外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、対象要素と、の距離の計測値を計測値決定回路に決定させ、距離の計測値に応じて、飛行中に無人航空機と対象要素との距離を制御するための制御指令値を制御信号生成回路に生成させるためのプログラムを提供する。当該プログラムは、ハードディスク、CD−ROM、任意の半導体メモリ等、コンピュータによる読み取り可能な不揮発性(非一時的)記録媒体に記録された状態で(1つの記録媒体に記録されても、2以上の記録媒体に分散して記録されてもよい。)プログラム製品として提供することも可能である。
本発明に従って無人航空機と対象要素との距離を制御しつつ無人航空機を飛行させれば、無人航空機が飛行中に被点検構造物や障害物等に衝突するリスクを少なくとも低減できる。
本発明の一実施形態である無人航空機の斜視図。 図1の無人航空機をzの負方向から見た図。 図1の無人航空機の構成を示すブロック図。 無人航空機と被点検構造物との距離計測、及び計測値に応じた距離制御を説明するためのフローチャート。 ステレオカメラによる距離計測の原理を説明するための図(特開2012−198077号の図1から引用し、座標軸の定義のみ変更した)。 ステレオカメラと計測値決定回路の構成を示すブロック図(特開2012−198077号の図5から引用し、参照符号のみを変更した)。 被点検構造物から距離dだけ離れて飛行する無人航空機を示す図。 無人航空機と被点検構造物との距離dが第1の基準値D1よりも小さい場合に無人航空機を被点検構造物から離れされるための制御が行われることを説明するための図。 無人航空機と被点検構造物との距離dが第2の基準値D2よりも大きい場合に無人航空機を被点検構造物に近づけるための制御が行われることを説明するための図。 第1の基準値D1と第2の基準値D2とが等しいときに、無人航空機と被点検構造物との距離をD1=D2にするための制御が行われることを説明するための図。 無人航空機と被点検構造物との距離がD1=D2に制御されるとき、無人航空機の飛行が実質的に2次元面内に制限されることを示す図。 無人航空機と被点検要素との距離がD1=D2に制御されるとき、無人航空機の飛行が実質的に1次元線上に制限されることを示す図。 図4のフローチャートの変形例。 本発明の一実施形態である無人航空機の試作機をzの正方向から見た図。 本発明の一実施形態である無人航空機の試作機をzの正方向よりやや斜め方向から見た写真。 図10A,図10Bの試作機の構成を示すブロック図。 図10A,図10Bの試作機を操縦するための外部入力装置上の距離設定ノブを示す図。 図10A,図10Bの試作機の初期設定に用いられる離陸パッドを示す図。
以下、本発明の一実施形態である無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラムを、図面を参照しつつ説明する。ただし本発明による無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラムが以下に説明する具体的態様に限定されるわけではなく、本発明の範囲内で適宜変更可能であることに留意する。例えば、本発明に係る無人航空機はマニュアル型でも自律飛行型でもよく、これらを組み合わせたセミマニュアル型の無人航空機でもよいし、無人航空機の機能構成も、図3や図11に示されるものに限らず同様の動作が可能であれば任意であり、例えば通信回路、計測値決定回路、SLAM処理回路のうち1以上を主演算回路に統合する等、複数の構成要素が実行すべき動作を単独の構成要素により実行してもよいし、あるいは主演算回路の機能を複数の演算回路に分散する等、図示される単独の構成要素の実行すべき動作を複数の構成要素により実行してもよい。一例として、図3においては計測値決定回路が制御信号生成回路とは別個のハードウェア(例えば、市販されているステレオカメラに予め付属するデジタル信号処理部としての、プロセッサ、メモリ等からなる回路)として描かれているが、主演算回路によりそのようなデジタル信号の処理を行う(単眼カメラ2つにより撮影カメラを構成し、それぞれの撮影した画像データを主演算回路に出力する。)等の構成をとることにより、計測値決定回路を制御信号生成回路に統合してもよい。無人航空機の自律制御プログラムは、ハードディスクドライブ等の記録デバイスに記録されて主演算回路により読み出されて実行されるものであってもよいし(図示される自律制御プログラムが、距離制御モジュール等、複数のプログラムモジュールに分解されてもよいし、その他の任意のプログラムが主演算回路等により実行されてもよい。)、マイコン等を用いた組み込み型のシステムによって同様の動作が実行されてもよい。以下の実施形態で示される全ての構成要素を本発明に係る無人航空機、無人航空機の飛行制御装置が備える必要はなく、また示される方法ステップ、あるいはこれを処理装置に実行させるための命令の全てを本発明に係る無人航空機の制御方法あるいはプログラムが備える必要もない。無人航空機を飛行させるための回転翼も、図1,図2等で示されるような6つのロータR1〜R6に限らず、例えば4つのロータR1〜R4等、任意の数の回転翼(ロータ、プロペラ等、任意の回転翼)であってよい。無人航空機はシングルロータ型のヘリコプタや固定翼機等、任意の無人航空機であってよい。無人航空機の機体サイズも任意である。
無人航空機の構成と飛行制御の概要
図1に、本発明の一実施形態である無人航空機の斜視図を示し、図2に、無人航空機をzの負方向から見た図を示す(着陸脚5は略した)。無人航空機1は、本体部2と、本体部2からの制御信号により駆動する6つのモータM1〜M6(図2)と、モータM1〜M6の各々の駆動により回転して無人航空機1を飛行させる6つのロータ(回転翼)R1〜R6と、本体部2とモータM1〜M6とをそれぞれ接続するアームA1〜A6(図2)と、飛行中に前方を撮影するためのステレオカメラ3と、飛行中に前方以外を撮影するための外部環境撮影カメラ4と、離着陸時の転倒防止等に寄与する着陸脚5とを備えている。図1に示すとおり、x軸周り、y軸周り、z軸周りの回転角として、ロール角、ピッチ角、ヨー角が定義される。また機体の上昇、下降(ロータR1〜R6全体としての回転数)に対応する量として、スロットル量が定義される。図2に示すとおり、ロータR1,R3,R5はzの負方向から見て時計回りに回転し、ロータR2,R4,R6はzの負方向から見て反時計回りに回転する。すなわち隣り合うロータ同士は逆向きに回転する。6本のアームA1〜A6は長さが等しく、図2に示すとおり60°間隔で配置されている。無人航空機1は、その他にも用途等に応じて追加のカメラやペイロード等を備えていてよい(不図示)。
図3は、図1の無人航空機の構成を示すブロック図である。無人航空機1の本体部2は、プロセッサ、一時メモリ等から構成されて各種演算を行う主演算回路7aと、主演算回路7aによる演算で得られた制御指令値データをモータM1〜M6へのパルス信号(PWM,Pulse Width Modulation信号)に変換する等の処理を担う、プロセッサ、一時メモリ等から構成される信号変換回路7bと(主演算回路7a、信号変換回路7bを含む演算回路を制御信号生成回路8と称する。)、制御信号生成回路8により生成されたパルス信号をモータM1〜M6への駆動電流へと変換するスピードコントローラ(ESC:Electric Speed Controller)ESC1〜ESC6と、外部との各種データ信号の送受信を担う通信アンテナ12及び通信回路13と、GPS(Global Positioning System)センサ、姿勢センサ、高度センサ、方位センサ等の各種センサを含むセンサ部14と、自律制御プログラム9a(距離制御モジュール9bを含む)、各種データベース9c等を記録するハードディスクドライブ等の記録デバイスから構成される記録装置10と、リチウムポリマーバッテリやリチウムイオンバッテリ等のバッテリデバイスや各要素への配電系を含む電源系11とを備えている。また無人航空機1は、ステレオカメラ3と、ステレオカメラ3により撮影された画像情報のデジタル信号処理を行うことにより距離の計測値を決定する、プロセッサ、一時メモリ等から構成された計測値決定回路6と、飛行中にステレオカメラ3の撮影とは異なる方向を撮影して自己のメモリに記録する外部環境撮影カメラ4とを備えている(外部環境撮影カメラ4により撮影された画像情報は随時記録装置10に記録されてもよい。)。
その他に、無人航空機1は機能用途に応じて任意の機能部、情報等を備えていてよい。
一例として、無人航空機1が飛行計画に従って自律飛行する場合(自律飛行モード)には、飛行の開始位置、目的位置、開始位置から出発して目的位置に到達するまでに経由すべきチェックポイント位置(緯度、経度、高度)の集合である飛行計画経路、速度制限、高度制限等、飛行中に従うべき何らかの経路、規則等を含む飛行計画を示すデータである飛行計画情報(外部コンピュータが飛行計画情報生成プログラムを実行することにより、無人航空機1のユーザ等が外部インターフェースから入力した条件や経路等を用いて飛行前に予め生成された情報)が記録装置10に記録され、また無人航空機1の飛行計画に含まれる飛行計画経路周辺の2次元マップ又は3次元マップ情報も記録装置10に記録され、主演算回路7aが飛行計画情報を読み込んで自律制御プログラム9aを実行することにより、飛行計画に従って無人航空機1が飛行する。具体的には、センサ部14の各種センサから得られる情報により無人航空機1の現在位置、速度等を決定し、飛行計画で定められた飛行計画経路、速度制限、高度制限等の目標値と比較することにより主演算回路7aでスロットル量、ロール角、ピッチ角、ヨー角に関する制御指令値を演算し、これを主演算回路7aがロータR1〜R6の回転速度に関する制御指令値に変換して信号変換回路7bに送信し、当該回転速度に関する制御指令値を示すデータを信号変換回路7bでパルス信号に変換してスピードコントローラESC1〜ESC6に送信し、スピードコントローラESC1〜ESC6がそれぞれパルス信号を駆動電流へと変換してモータM1〜M6にそれぞれ出力し、モータM1〜M6の駆動を制御してロータR1〜R6の回転速度等を制御することにより無人航空機1の飛行が制御される。一例として、無人航空機1の高度を上げる制御指令に対してはロータR1〜R6の回転数が増加し(高度を下げる場合には減少)、無人航空機1を前進方向(図1のxの正方向)に加速する制御指令に対しては、ロータR1,R2の回転数を減らしてロータR4,R5の回転数を増やす(減速であれば逆の制御)等の制御が行われる。無人航空機1が実際に飛行した飛行経路(各時刻における無人航空機1の機体位置等)や各種センサデータ等の飛行記録情報は、飛行中に随時各種データベース9cに記録される。
なお、無人航空機1が、プロポーショナル・コントローラ(プロポ)等の外部入力装置から通信アンテナ12及び通信回路13により飛行中にリアルタイムで受信する外部入力信号により示される外部入力指令値(スロットル量、ロール角、ピッチ角、ヨー角に関する指令値)に従って飛行する場合(マニュアルモード)は、外部入力指令値を用いて主演算回路7aが自律制御プログラム9a(外部入力装置によるマニュアル制御専用の機体として無人航空機1を構成する場合は、記録装置10に記録された別個の制御プログラム。)を実行することによりロータR1〜R6の回転速度に関する制御指令値を演算し、このデータを信号変換回路7bでパルス信号に変換して、以下同様に、スピードコントローラESC1〜ESC6、モータM1〜M6を用いてロータR1〜R6の回転速度を制御して飛行制御を行う。
あるいは、機体の姿勢のみ自律制御する姿勢制御モード(セミマニュアルモードの一例)で無人航空機1を飛行させる場合は、センサ部14の姿勢センサ(ジャイロセンサ、磁気センサ等)の測定により得られる姿勢情報を示すデータを用いて主演算回路7aが自律制御プログラム9aを実行することにより、姿勢センサからのデータと姿勢の目標値を比較する等して姿勢制御の指令値(ロール角、ピッチ角、ヨー角に関する指令値)を演算し、当該姿勢制御の指令値と、外部入力装置から受信する外部入力信号により示される外部入力指令値(スロットル量、ロール角、ピッチ角、ヨー角に関する指令値)とを組み合わせることにより、スロットル量、ロール角、ピッチ角、ヨー角に関する(合成)制御指令値を演算し、これをロータR1〜R6の回転速度に関する制御指令値に変換し(主演算回路7aが自律制御プログラム9aを実行することにより演算及び変換が行われる。)、以下同様に飛行が制御される。
自律飛行型無人航空機の一例としては、ミニサーベイヤーACSL−PF1(株式会社自律制御システム研究所)、Snap(Vantage Robotics社)、AR.Drone2.0(Parrot社)、Bebop Drone(Parrot社)等が市販されている。以下に説明する無人航空機1の飛行制御において、無人航空機1は基本的に外部入力装置等からの外部入力信号に従って飛行し、姿勢、及び対象要素との距離のみが自律制御されるものとするが、完全自律制御飛行や完全外部制御飛行をする無人航空機1においても同様に距離制御を含む飛行制御が可能である。
距離計測と計測値に応じた距離制御
本実施形態における無人航空機1は、無人航空機1と、被点検構造物等の対象要素との距離を、ステレオカメラ3と計測値決定回路6とを用いて飛行中に計測し、計測値決定回路6から距離の計測値を示す信号をリアルタイムで受信した制御信号生成回路8が、当該距離の計測値に応じて当該距離を飛行中にリアルタイムで制御するための制御信号を生成する(主演算回路7aが制御指令値を生成し、信号変換回路7bが制御指令値データをパルス信号としての制御信号に変換する)ことにより距離制御を行う。図4に、ステレオカメラ3と計測値決定回路6とを用いた距離計測、そしてその後に続く、距離制御モジュール9bを含む自律制御プログラム9aを主演算回路7aが実行することにより行われる制御指令値の生成処理を含む処理のフローチャートを示す。
まず、無人航空機1の飛行中にステレオカメラ3が対象要素(後述の図7A等に示す被点検構造物15aとする。)を撮影し(ステップS401)、計測値決定回路6が、左右のカメラC0,C1(後述の図5,図6参照)で同時に撮影された画像情報を用いて無人航空機1と被点検構造物15aとの距離の計測値dを決定する(ステップS402)。計測値決定回路6は、距離の計測値dを示す信号を主演算回路7aに出力する(ステップS403)。以下、特許文献1(特開2012−198077号公報。発明者:青木 伸、発明の名称「ステレオカメラ装置、視差画像生成方法」、出願人:株式会社リコー、出願番号:特願2011−61729、平成23年3月18日出願)の記載を引用しつつ、距離計測の原理やステレオカメラ3の構成を説明する。
ステレオカメラによる距離計測
図5は、特許文献1の図1からの引用である(座標軸の定義のみ変更している。)。ステレオカメラ3による距離計測の原理は、以下に特許文献1の段落[0003]−[0004]から引用して説明するとおり、図5を用いて説明される。
「[0003]
図1は平行配置したステレオカメラによる距離計測の原理を説明するための図である。カメラC0とC1が距離Bだけ離れて設置されている。カメラC0とC1の焦点距離、光学中心、撮像面は下記のとおりである。
焦点距離:f、
光学中心:O0、O1
撮像面:s0、s1
カメラC0の光学中心O0から光軸方向に距離dだけ離れた位置にある被写体Aの像は、直線A−O0と撮像面s0との交点であるP0に像を結ぶ。一方カメラC1では、同じ被写体Aが、撮像面s1上の位置P1に像を結ぶ。ここで、カメラC1の光学中心O1を通り、直線A−O0と平行な直線と、撮像面s1との交点をP0’とし、点P0’とP1との距離をpとする。」(特許文献1の段落[0003]を引用)
「[0004]
0’は、カメラC0上の像P0と同じ位置であり、距離pは、同じ被写体の像の、二つのカメラで撮影した画像上での位置のずれ量を表し、これを視差と呼ぶ。
三角形:A−O0−O1、三角形O1− P0’−P1は相似なので、
d = Bf/p
が得られる。カメラC0とC1の距離B(基線長)と焦点距離fが既知ならば、視差pから距離dを求めることができる。」(特許文献1の段落[0004]を引用)
以上、特許文献1の図1及び段落[0003]−[0004]を引用してステレオカメラによる距離計測の原理を説明した。なお、以降においては図5に示すとおり被写体(対象要素)Aと、光学中心O0,O1との光軸方向の距離dを「無人航空機1と対象要素Aとの距離」とするが、例えば被写体(対象要素)Aと撮像面s0,s1との光軸方向の距離=d+fとして「無人航空機1と対象要素Aとの距離」を定義するなど、当該「距離」の定義は任意である。以降の記載における「距離d」とは、上記式d = Bf/pで定義されるdに限らず、そのように任意に定義された「距離」であってよい。
図6は、ステレオカメラ3と計測値決定回路6の構成を示すブロック図であり、特許文献1の図5から引用して参照符号を変更したものである。以下、特許文献1の段落[0030]−[0036]を引用して(参照符号は変更する。)、それらの構成を説明する。
「[0030]
〔構成〕
図5は、ステレオカメラ3の該略構成図の一例を示す。カメラ部300には右カメラC1と左カメラC0が配置されている。右カメラC1と左カメラC0は、同じレンズ、同じCMOSイメージセンサを有し、右カメラC1と左カメラC0は互いの光軸が平行に、かつ、二つの撮像面が同一平面になるように配置されている。左カメラC0と右カメラC1は同じレンズ301、絞り302、CMOSイメージセンサ303を有する。」(特許文献1の段落[0030]を引用。ただし参照符号を変更した。)
「[0031]
CMOSイメージセンサ303は、カメラ制御部308が出力する、制御信号を入力として動作する。CMOSイメージセンサ303は1000x1000 画素のモノクロイメージセンサであるとし、レンズ301は、上下左右共に片側80 度、両側160 度の視野の像を、等距離射影方式でCMOSイメージセンサ303の撮像領域内に結像する特性を持つ。」(特許文献1の段落[0031]を引用。ただし参照符号を変更した。)
「[0032]
なお、レンズ特性は等距離射影特性に限られず、等立体角射影や正射影など、魚眼レンズとして利用されるレンズや、強い樽型の歪曲収差を持つ中心射影特性などをもつレンズでもよい。いずれのレンズも等距離射影と同様に、中心射影に比べ画像周辺の拡大率が小さいため、本実施形態と同等の効果が得られる。」(特許文献1の段落[0032]を引用)
「[0033]
さらに、歪曲の小さい中心射影特性を持つレンズを利用した場合でも、変形画像の画素数を小さくすることで、同傾向の効果が得られる。」(特許文献1の段落[0033]を引用)
「[0034]
CMOSイメージセンサ303が出力した画像信号は、CDS304に出力され相関二重サンプリングによるノイズ除去が行われ、AGC305により信号強度に応じて利得制御され、A/D306によりA/D変換される。画像信号はCMOSイメージセンサ303の全体を記憶可能なフレームメモリ307に記憶される。」(特許文献1の段落[0034]を引用。ただし参照符号を変更した。)
「[0035]
フレームメモリ307に記憶された画像信号はデジタル信号処理部6により、距離の算出等が行われ、仕様によってはフォーマット変換され液晶などの表示手段に表示される。デジタル信号処理部6は、DSP、CPU、ROM、RAMなどを備えたLSIである。後述する機能ブロックは、例えばこのデジタル信号処理部6により、ハード的又はソフト的に提供される。なお、カメラ制御部308をデジタル信号処理部6に配置してもよく、図示する構成は一例である。」(特許文献1の段落[0035]を引用。ただし参照符号を変更した。)
「[0036]
デジタル信号処理部6は、水平同期信号HD、垂直同期信号VD及びクロック信号の各パルスをカメラ制御部308に出力する。または、カメラ制御部308が水平同期信号HD及び垂直同期信号VDを生成することも可能である。カメラ制御部308は、タイミングジェネレータやクロックドライバを有し、HD,VD及びクロック信号からCMOSイメージセンサ303を駆動するための制御信号を生成する。」(特許文献1の段落[0036]を引用。ただし参照符号を変更した。)
上記引用した特許文献1の記載において、以降ではカメラ制御部308をカメラ制御回路308と称することがある。またCMOSとはComplementary Metal Oxide Semiconductor(相補型金属酸化膜半導体)の略称である。CDSとはCorrelated Double Sampling(相関二重サンプリング)の略称であり、以降ではCDS304をCDS回路304と称する。AGCとはAutomatic Gain Control(自動利得調整)の略称であり、以降ではAGC305をAGC回路305と称する。A/DとはAnalog/Digital(アナログ/デジタル)の略称であり、以降ではA/D306をA/Dコンバータ306と称する。DSPとはDigital Signal Processor(デジタル・シグナル・プロセッサ)の略称である。CPUとはCentral Processing Unit(中央処理装置)の略称である。ROMとはRead Only Memory(リード・オンリー・メモリ)の略称である。RAMとはRandom Access Memory(ランダム・アクセス・メモリ)の略称である。LSIとはLarge−Scale Integrated Circuit(大規模集積回路)の略称である。本実施形態においては、デジタル信号処理部(計測値決定回路)6がROMに記憶された距離の計測値を決定するためのプログラムをCPUで実行することにより距離の計測値を算出することとする。一例においては、計測値決定回路6が、カメラC0,C1により撮影される各々の画像の両方に含まれるピクセルの各々について、d = Bf/p等により距離の計測値を決定し、各ピクセルの色を当該ピクセルの距離計測値に対応する色とした距離画像を生成し、距離画像データから得られる、対象要素と無人航空機1との距離に対応する計測値を主演算回路7aに出力する。
以上、特許文献1の図1,図5、及び段落[0003]−[0004],[0030]−[0036]を引用することにより距離計測の原理やステレオカメラ3,計測値決定回路6の構成を説明したが、このようなステレオカメラ3,計測値決定回路6以外の撮影カメラ、計測値決定回路を用いて被写体(対象要素)と無人航空機1との距離を決定することも可能である。例えばステレオカメラ3の代わりに単眼カメラを用いて、短い時間間隔で対象要素を2回撮影し、各回の撮影時における単眼カメラの位置(センサ部14により検出され、主演算回路7aを介して計測値決定回路6に入力されるとする。)を図6のカメラC0,C1の位置と同様に用いれば、ステレオカメラに比べて精度は劣るとしても同様の原理で距離を計測することができる。また、「単眼カメラで撮影した1枚の画像からカラー画像と距離画像を同時に取得できる撮像技術」(非特許文献1)が株式会社東芝により開発されており、この技術を用いて距離を計測してもよい。また撮影カメラにズームレンズを備えれば計測精度を向上できる。
なお、計測値決定回路6から主演算回路7aへと出力される、距離の計測値を示す信号は、一例においては計測値決定回路6により生成された距離画像に含まれる各ピクセルの距離のうち最も小さい距離を示す信号であってもよいし(この場合、撮影された画像に含まれる要素のうち無人航空機1からの距離が最も小さい要素が「対象要素」となる。)、あるいは計測値決定回路6の動作により任意の画像処理アルゴリズムで特定の要素を物体検出し、その要素と無人航空機1との距離を上述の原理で計測値決定回路6が決定し、当該距離を示す信号を主演算回路7aへと出力してもよい。例えば、インテル社により公開されているオープンソースのライブラリであるOpen CV(Open Source Computer Vision Library)の画像処理機能により、撮影された画像から特定の物体を輪郭に基づき検出することができる(非特許文献2)。この場合、計測値決定回路6のメモリにそのような画像処理プログラムを予め実装しておき、計測値決定回路6のプロセッサで画像処理プログラムを実行することにより、フレームメモリ307に記録された画像情報から特定の要素を検出してこの要素と無人航空機1との距離を決定することができる。
距離計測値に応じた距離制御
上述のステップS401〜S403に示すとおり距離の計測値dが決定され、これを示す信号が主演算回路7aへと出力されると、主演算回路7aは、距離制御モジュール9bを含む自律制御プログラム9aを実行することによりステップS404以降の処理を行う。なお、ステップS401〜S403は所定時間間隔で繰り返され、したがって図4の処理フローに従う処理全体、及びその後の制御処理も所定時間間隔で繰り返されるが、ステレオカメラ3において撮影される画像(動画)の1フレームごとに(1コマごとに)距離の計測値dを決定してこれを示す信号を主演算回路7aに出力することは必須ではなく、例えば撮影の10フレームごとに1回、図4のフローチャート全体の処理が実行されるとしてもよい。図9の変形例においても同様である。
本実施形態において、無人航空機1は、プロポーショナル・コントローラからの外部入力信号により飛行中にリアルタイムで入力される外部入力指令値(スロットル量、ロール角、ピッチ角、ヨー角に関する指令値)、及び主演算回路7aが自律制御プログラム9aを実行することにより姿勢センサからのデータを用いて生成される姿勢制御の指令値(ロール角、ピッチ角、ヨー角に関する指令値)を組み合わせた(合成)制御指令値(一例においては、スロットル量に関する指令値として外部入力指令値のスロットル量を用い、ロール角、ピッチ角、ヨー角のそれぞれに関する指令値として、外部入力指令値と姿勢制御の指令値におけるロール角の指令値同士を足し合わせた指令値、ピッチ角の指令値同士を足し合わせた指令値、ヨー角の指令値同士を足し合わせた指令値をそれぞれ用いる。)による制御を受けて、対象要素としての被点検構造物15aの周りを飛行しているとする(図7A)。
主演算回路7aは、距離の計測値dを示す信号の入力を受けると、距離制御モジュール9bを実行することにより当該計測値dを第1の基準値D1(予め外部から入力される等して記録装置10に記録されており、主演算回路7aが距離制御モジュール9bを実行することにより読み出されるとする。第2の基準値D2も同様。)と比較する(ステップS404)。計測値dが第1の基準値D1よりも小さい場合(Yes)は、図7Bに示すとおり無人航空機1が被点検構造物15aに近づき過ぎているため、無人航空機1を被点検構造物15aから離れさせるための制御指令値が生成される(ステップS405)。一例において、無人航空機1を後方向(図1のx方向の逆方向)に移動させるべく、上記外部入力指令値と姿勢制御の指令値を組み合わせたスロットル量、ロール角、ピッチ角、ヨー角に関する(合成)制御指令値のうちピッチ角に関する量を、図1中のピッチ角を示す矢印方向に機体を回転させる(機体の前部分が上昇し後部分が下降する)ことに対応する量で更新することにより、無人航空機1を被点検構造物15aから離れさせるための制御指令値を生成する。
ステップS404において計測値dが第1の基準値D1よりも小さくない場合(No)、無人航空機1は被点検構造物15aに近づき過ぎてはいないため、ステップS405の処理は行われず、処理はステップS406に進む。主演算回路7aは、距離制御モジュール9bを実行することにより当該計測値dを第2の基準値D2と比較する(ステップS406)。ここで第2の基準値D2は第1の基準値D1以上の基準値である。計測値dが第2の基準値D2よりも大きい場合(Yes)は、図7Cに示すとおり無人航空機1が被点検構造物15aから離れ過ぎているため、無人航空機1を被点検構造物15aに近づけるための制御指令値が生成される(ステップS407)。一例において、無人航空機1を前方向(図1のx方向)に移動させるべく、上記外部入力指令値と姿勢制御の指令値を組み合わせたスロットル量、ロール角、ピッチ角、ヨー角に関する(合成)制御指令値のうちピッチ角に関する量を、図1中のピッチ角を示す矢印の逆方向に機体を回転させる(機体の前部分が下降し後部分が上昇する)ことに対応する量で更新することにより、無人航空機1を被点検構造物15aに近づけるための制御指令値を生成する。
ステップS406において計測値dが第2の基準値D2よりも大きくない場合(No)、無人航空機1は被点検構造物15aから離れ過ぎてはいないため、ステップS407の処理は行われず、処理はステップS408に進む。主演算回路7aは、上記外部入力指令値と姿勢制御の指令値を組み合わせた(合成)制御指令値としてスロットル量、ロール角、ピッチ角、ヨー角に関する制御指令値を生成する(ステップS408)。
図4の処理フローに従って、ステップS405,S407,S408のいずれかによりスロットル量、ロール角、ピッチ角、ヨー角に関する制御指令値が生成される。引き続き、主演算回路7aが自律制御プログラム9aを実行することによりこれら制御指令値をロータR1〜R6の回転速度に関する制御指令値に変換し、信号変換回路7bがこれらをパルス信号に変換することで制御信号を生成し、スピードコントローラESC1〜ESC6がそれぞれパルス信号を駆動電流へと変換してモータM1〜M6にそれぞれ出力し、モータM1〜M6の駆動を制御してロータR1〜R6の回転速度等を制御することにより無人航空機1の飛行が制御される。これにより、無人航空機1と被点検構造物15aとの距離dは、第1の基準値D1から第2の基準値D2までの範囲内に向かって制御されることとなる。図4のフローに従う処理、及びその後の制御処理は所定時間間隔で繰り返されるため、無人航空機1が第1の基準値D1から第2の基準値D2までの範囲内に入らない限り、その範囲内に向かうよう無人航空機1は制御を受け続けることになる。
ここで、第1の基準値D1と第2の基準値D2とが等しい場合、無人航空機1と被点検構造物15aとの距離dは当該基準値に等しい一定距離に向かって制御されることになる(図7D)。この場合、無人航空機1の飛行は被点検構造物15aからの等距離面16a内に向かって制御されることとなり(図8A)、実質的には無人航空機1の飛行経路を2次元化することが可能である。対象要素が被点検構造物15aではなく電線等の被点検要素15bである場合は、同様の原理で無人航空機1と被点検要素15bとの距離dを制御することにより、無人航空機1の飛行を被点検要素15bからの等距離線16b上に向かって制御して実質的に1次元化することも可能である(図8B)。
なお、図4に示すような距離制御を行うか否かは、一例においてはプロポーショナル・コントローラから送信されるモード切替え信号を通信アンテナ12及び通信回路13で受信し、主演算回路7aがモード切替え信号の入力を受けて自律制御プログラムを実行することにより切り替えられる。これにより、無人航空機1を被点検構造物15aに接近させて被点検構造物15aの方向をステレオカメラ3が向くように制御してから、距離制御モードをオンとするためのモード切換え信号をプロポーショナル・コントローラから通信アンテナ12へと送信し、距離制御モードへと移行して点検作業を行い(ステレオカメラ3により撮影される画像情報を、静止画あるいは動画として計測値決定回路6から主演算回路7aに出力し、通信回路13及び通信アンテナ12を介して随時操縦者の外部コンピュータに送信すればリアルタイムでの点検が可能であるし、上記静止画あるいは動画を記録装置10に記録しておいて飛行終了後に読み出すことも可能である。点検用のカメラとしてステレオカメラ3とは別個のカメラを無人航空機1に備え、別個のカメラにより撮影された画像情報を同様に利用してもよい。)、作業が終了したら距離制御モードをオフとするためのモード切換え信号をプロポーショナル・コントローラから通信アンテナ12へと送信して距離制御モードを終了させ、無人航空機1を帰還させる等の制御が可能となる。
既に述べたとおり、無人航空機1はリアルタイムで入力される外部入力指令値と自律制御プログラム9aの実行により生成される姿勢制御の指令値を組み合わせた(合成)制御指令値による制御で飛行しているとしたが、無人航空機1が上述の飛行計画情報を用いた制御に従って飛行している場合であっても同様の距離計測、距離制御が可能である。制御フローは図4に示したフローと基本的に同様であり、例えばステップS405で無人航空機1を被点検構造物15aから離れさせるための制御指令値が生成されるときは、この制御指令値を用いて主演算回路7aが自律制御プログラム9aを実行することにより、無人航空機1を被点検構造物15aから離れる方向に飛行するよう制御し、更に記録装置10に記録された飛行計画情報に含まれる飛行計画経路を、ステップS405の実行された時の無人航空機1の位置を通らず被点検構造物15aから離れる方向に迂回するように変更する。あるいは、例えばステップS407で無人航空機1を被点検構造物15aに近づけるための制御指令値が生成されるときは、この制御指令値を用いて主演算回路7aが自律制御プログラム9aを実行することにより、無人航空機1を被点検構造物15aに近づく方向に飛行するよう制御し、更に記録装置10に記録された飛行計画情報に含まれる飛行計画経路を、ステップS407の実行された時の無人航空機1の位置を通らず被点検構造物に近づく方向に迂回するように変更する。図4のフローに従う処理、及びその後の制御処理は所定時間間隔で繰り返されるため、無人航空機1が第1の基準値D1から第2の基準値D2までの範囲内に入らない限り、その範囲内に向かうよう無人航空機1は制御を受け続け、そして飛行計画経路が変更され続けることになる。無人航空機1が、外部入力信号を受信していないときは飛行計画情報を用いた制御により飛行しつつ、外部入力信号を受信したときにはその外部入力指令値による制御を優先させて一時的にマニュアル制御になるようなモードで飛行している場合であっても、同様の距離計測、距離制御が可能であり、一例においては、既に述べたとおり無人航空機1を被点検構造物15aから離れさせるため、あるいは被点検構造物15aに近づけるための制御指令値を生成する際に併せて飛行計画経路が上述の被点検構造物15aから離れる方向、あるいは被点検構造物15aに近づく方向に迂回する経路へと変更される。同様に、以下に説明する図9のフローチャートに従う処理も、無人航空機のさまざまな飛行モードに対して実施可能である。
以上説明した図4のフローチャートの変形例を図9に示す。ステップS901〜S908の処理は図4のステップS401〜S408の処理と同様であり適宜説明を省略する。図9のフローチャートにおいては、新たにステップS909とステップS910の比較処理が追加されている。
ステップS901〜S903においては、図4のステップS401〜S403と同様に、無人航空機1の飛行中にステレオカメラ3が対象要素(被点検構造物15aとする。)を撮影し(ステップS901)、計測値決定回路6が、左右のカメラC0,C1(図5,図6参照)で同時に撮影された画像情報を用いて無人航空機1と被点検構造物15aとの距離の計測値dを決定する(ステップS902)。計測値決定回路6は、距離の計測値dを示す信号を主演算回路7aに出力する(ステップS903)。図4のフローチャートと同様に図9の処理フロー、及びその後の制御処理も所定時間間隔で繰り返され、すなわち主演算回路7aには各距離計測により決定された距離の計測値dを示す信号が入力され続けるが、ここにおいて主演算回路7aは、入力された信号の示す距離の計測値dを、その計測値dに対応する計測時刻(信号入力を受けた時刻)と関連付けて、計測値d及び対応する計測時刻の組のデータとして記録装置10に記録し続ける。
主演算回路7aは、距離の計測値dを示す信号の入力を受けると、距離制御モジュール9bを実行することにより当該計測値dを第1の基準値D1と比較する(ステップS904)。計測値dが第1の基準値D1よりも小さい場合(Yes)、主演算回路7aは、更に、距離制御モジュール9bを実行することにより、当該計測値d(最新の計測値)と、前回計測値決定回路6から入力を受けた信号により示される、前回の距離の計測値d0とを比較する(S909)。最新の計測値dが前回の計測値d0よりも小さい場合(Yes)は、無人航空機1が被点検構造物15aに近づき過ぎており、且つ経時的に距離の計測値が減少しているため、無人航空機1を被点検構造物15aから離れさせるための制御指令値が生成される(ステップS905)。なお、主演算回路7aが1回目の計測による距離の計測値を示す信号の入力を受けた場合であり「前回の」計測値が存在しない場合は、ステップS909の比較を省略して(Yesとみなして)ステップS905の処理が行われる。
ステップS904において計測値dが第1の基準値D1よりも小さくない場合(No)、あるいは、計測値dが第1の基準値D1よりも小さいがステップS909において最新の計測値dが前回の計測値d0よりも小さくない場合(No)、無人航空機1は被点検構造物15aに近づき過ぎてはいないか、あるいは被点検構造物15aから離れつつあるか等距離を保っているため、ステップS905の処理は行われず、処理はステップS906に進む。主演算回路7aは、距離制御モジュール9bを実行することにより当該計測値dを第2の基準値D2と比較する(ステップS906)。既に述べたとおり第2の基準値D2は第1の基準値D1以上の基準値である。計測値dが第2の基準値D2よりも大きい場合(Yes)、主演算回路7aは、更に、距離制御モジュール9bを実行することにより、当該計測値d(最新の計測値)と、前回計測値決定回路6から入力を受けた信号により示される、前回の距離の計測値d0とを比較する(S910)。最新の計測値dが前回の計測値d0よりも大きい場合(Yes)は、無人航空機1が被点検構造物15aから離れ過ぎており、且つ経時的に距離の計測値が増大しているため、無人航空機1を被点検構造物15aに近づけるための制御指令値が生成される(ステップS907)。なお、主演算回路7aが1回目の計測による距離の計測値を示す信号の入力を受けた場合であり「前回の」計測値が存在しない場合は、ステップS910の比較を省略して(Yesとみなして)ステップS907の処理が行われる。
ステップS906において計測値dが第2の基準値D2よりも大きくない場合(No)、あるいは、計測値dが第2の基準値D2よりも大きいがステップS910において最新の計測値dが前回の計測値d0よりも大きくない場合(No)、無人航空機1は被点検構造物15aから離れ過ぎてはいないか、あるいは被点検構造物15aに近づきつつあるか等距離を保っているため、ステップS907の処理は行われず、処理はステップS908に進む。主演算回路7aは、上記外部入力指令値と姿勢制御の指令値を組み合わせた(合成)制御指令値としてスロットル量、ロール角、ピッチ角、ヨー角に関する制御指令値を生成する(ステップS908)。
図9の処理フローに従って、ステップS905,S907,S908のいずれかによりスロットル量、ロール角、ピッチ角、ヨー角に関する制御指令値が生成される。以降の制御指令値の変換、制御信号の生成等は図4に関連して既に述べたとおりである。
試作機
本発明者は、距離計測及びこれに応じた距離制御を行う本発明の無人航空機1の試作機を設計した。ただし本試作機は、図3の構成中、センサ部14の各種センサに加えて、図10A及び図10Bの下方(図1のz方向)及びそのやや斜め方向から見た図及び写真と、図11のブロック図とにそれぞれ示すとおり、下方カメラ17とSLAM(Simultaneous Localization and Mapping)処理回路18とを備えている。ただし、図10Aにおいては着陸脚5を省略した。下方カメラ17は飛行中に下方(図1のz方向)を撮影する単眼カメラであり、図6のステレオカメラと同様にCDS回路、AGC回路、A/Dコンバータ、フレームメモリを備え、撮影した画像の信号処理、記録をこれらにより行う。SLAM処理回路18は、CPU,GPU(Graphics Processing Unit:グラフィクス・プロセッシング・ユニット),メモリ等を備える市販の回路基板であり、メモリにVisual SLAMを実行するためのプログラムやデータ等を記録して用いる。Visual SLAMとは、連続して撮影された画像の複数のフレーム間で複数の特徴点を追跡することにより自己位置とマップの推定を並行して行う技術であり、MonoSLAM(非特許文献3)やPTAM(Parallel Tracking and Mapping)(非特許文献4,5)等、さまざまなアルゴリズムが開発されている。SLAM処理回路18がそのようなアルゴリズムを実装したプログラムを実行することにより、下方カメラ17のフレームメモリに記録された画像信号を用いてVisual SLAMによる自己位置推定とマッピングを行い、これにより推定された自己位置(無人航空機1の周囲に存在する要素に対する無人航空機1の相対位置)や速度(位置の時間微分により求められる。)、姿勢(撮影した画像における複数の特徴点の配置から幾何学計算により求められる。)等、図3の構成においてセンサ部14からのセンサデータを用いて決定されていた、無人航空機1の状態を表す量を決定する。これらの量を示す信号は主演算回路7aへと出力され、そして主演算回路7aは、図3の構成においてセンサ部14から入力される情報を利用していたのと同様にSLAM処理回路18から入力される情報を利用する。またSLAM処理回路18が推定したマップ情報も主演算回路7aへと出力され、記録装置10に記録される。SLAMに関連する構成以外は、基本的には図1〜図9を用いて説明した構成と同様である。なお、下方カメラ17としては単眼カメラではなく図5,図6を用いて説明したステレオカメラを用いてもよく、この場合も同様の原理でVisual SLAMによる自己位置等の推定が可能である。Visual SLAMではなく、例えばレーザ距離センサを用いたSLAMも適用可能であり、この場合は下方カメラ17の代わりにレーザ距離センサを用いる(非特許文献6)。
以下、本試作機の具体的構成を説明する。本試作機は、センサ部14として、気圧高度計、ソナー、GPSセンサを備えており、主には下方カメラ17とSLAM処理回路18によるVisual SLAM処理により信頼性の高い機体位置等のデータが得られない場合にこれらセンサ部14のセンサを用いた検出処理へと動作が切り替えられる。なお、SLAM処理回路18から主演算回路7aへの機体位置等のデータ送信は、1つのデータ線を用いた3.3V UART(Universal Asynchronous Receiver/Transmitter)のインターフェースを介して行われる。
ハードウェア構成として、SLAM処理回路18の回路基板としてはNVIDIA Jetson TX2 (vision computer)とCTI Orbitty carrier board for NVIDIA Jetson TX2を、ステレオカメラ3としてはZED stereo camera (USB 3.0)を、下方カメラ17としてはIDS UI−1220SE mono grayscale camera (USB 2.0)とTheia MY110M lens for mono cameraを用いた。
なお、上記構成のSLAM処理回路18の動作電力としては基本的に2Wで9−14Vが要求されるが、この電力は機体本体の電源系11(メインバッテリ)から得ることとした。無人航空機1本体に備えられた電源ボタン(不図示)を押すことで無人航空機1が起動、あるいは動作停止するが、SLAM処理回路18の動作のオンオフも無人航空機1本体の動作のオンオフに伴って切り替えられる。例えば、無人航空機1本体の動作を停止するべく電源ボタンを押すと、まずSLAM処理回路18に対して主演算回路7aから停止命令信号が送信されてSLAM処理回路18が動作を停止し、その後に本体の動作が停止する。メインバッテリが切断された後にSLAM処理回路18がシャットダウンすることを可能とするために、SLAM処理回路18に十分な容量のバックアップバッテリを別途備えてもよい。
本試作機は、プロポ等の外部入力装置による操縦を基本としつつ、飛行中の状況に応じた変更処理(例えば近距離の障害物を検知したとき、制御信号生成回路8等による上述の距離制御処理が行われて外部入力信号が変更される。)や外部からのコマンド入力による変更処理(一時停止、強制停止などの緊急コマンドを地上局等から送信することで飛行に強制的に介入することが可能である。)等によりプロポ等からの入力信号をオーバーライドすることが可能である。 本試作機は、以下の5つのモードで動作可能である。
1.姿勢制御モード
外部入力装置から受信する外部入力信号により示される外部入力指令値と、センサ部14の測定により得られる姿勢情報のデータを用いて主演算回路7aが自律制御プログラム9aを実行することにより生成される姿勢制御の指令値とを組み合わせて(合成)制御指令値を生成することにより、姿勢を自律制御するセミマニュアルモードである。無人航空機1を離陸させるためには、機体が離陸するまで単純に「thrust」スティックを上方向に押せばよく、以降は自律制御により姿勢が安定化されつつ外部入力信号に従って機体を操縦することができる。着陸のためには、機体が着陸するまで単純に「thrust」スティックを下方向に押せばよい。離陸及び着陸は以降のモードを含む全てのモードで実行でき、後述のGPSウェイポイントモード(離陸と着陸は自律的に実行される。)を除く各モードにおいて手順は同一である。
2.Visionアシストモード
既に述べたとおり、センサ部14に代わって下方カメラ17とSLAM処理回路18によるVisual SLAM処理により得られた機体位置、速度、姿勢等の情報を用いるモードである。外部入力信号により示される外部入力指令値と、Visual SLAM処理によって得られる情報を用いて主演算回路7aが自律制御プログラム9aを実行することにより生成される自律制御の指令値とを組み合わせて、(合成)制御指令値を生成することにより制御するセミマニュアルモードである。この制御モードにおいて、操縦者が指を外部入力装置から離す時、無人航空機1はその時の機体位置に留まる。無人航空機1を左に移動させるためには、「roll」スティックを左に押す。停止するためには、単純にスティックから手を離せばよい。無人航空機1を上方に移動させるためには、「thrust」スティックを上に押す。停止させるために、単純にスティックをリリースすればよい(「thrust」スティックにはバネが搭載されていて、ミドルポジションに戻る。)。
3.距離制御モード
本試作機においては上記「2.」のVisionアシストモードと共に用いられるモードであり、既に説明したとおりの原理により、無人航空機1の正面にある最も近い対象要素(壁、トラス、ワイヤ等)に対して固定の距離が維持されるように距離制御を行うモードである。左/右及び上/下の方向への飛行制御は、無人航空機1の正面にある対象要素に沿って機体を「スライド」させるために用いることができる。固定の距離としての目標値は、外部入力装置19上の距離設定ノブ20を用いて最小1m、最大3mの範囲内で設定される(図12)。
4.GPSアシストモード
基本的に外部コントローラからの制御信号で動作しつつ、GPSセンサデータに基づき姿勢・(ホバリング時の)位置を自律制御するモードである。
5.GPSウェイポイントモード
予め飛行計画情報の一部として設定されたGPSウェイポイントを利用して、上述の飛行計画情報によって与えられる飛行計画に従い、GPSセンサからの位置データ等を用いて飛行計画経路を自律飛行するモードである。
飛行モードは外部入力装置上のモードスイッチ(不図示)を用いて選択される。ただし「3.」の距離制御モードは、離陸動作中及び着陸動作中において不能とされる。
また本試作機を飛行させる前には、Visual SLAM処理の初期化のために、図13の離陸パッド21を用いたセットアップ作業が行われる。セットアップ手順は以下のとおりである。
1.外部入力装置(無線コントローラ)がオフであることを確認する。
2.機体バッテリをプラグインする。
3.機体の「vision power」ボタンを押す。
a.「vision power」LEDが黄色く点滅を始める。
b.「vision power」LEDが無地の緑になるまで待つ。
4.機体を離陸パッド21の上に置く。
a.ステレオカメラ3が図13中の矢印(前方)の方向を向くように置く。
b.また着陸脚5の前方2つの端部が、第1のマーク22の上にそれぞれ位置するように置く。
5.機体背部の「Initialize」ボタンを押す。
6.機体を、着陸脚5の前方2つの端部が第1のマーク22から第2のマーク23へとスライドするように移動させる。
7.機体背部の「Initialize」LEDが消えたことを確認する。「Initialize」LEDが消えない場合、ステップ4から作業を繰り返す。
このセットアップ作業は、機体の着陸脚5の前方2つの端部が第1のマーク22にそれぞれ位置する第1の固定位置と、前方2つの端部が第2のマーク23にそれぞれ位置する第2の固定位置とから下方カメラ17で初期設定用ピクチャ24を撮影し、Visual SLAM処理に用いる最初の2つの画像を取得するためのものである。セットアップ作業中、上記「5.」の作業を行ったときに第1の固定位置から初期設定用ピクチャ24が撮影され、上記「6.」の作業を行ったときに第2の固定位置から初期設定用ピクチャ24が撮影される。下方カメラ17と、観察された特徴点の3D位置との間の相対的な姿勢を、平面を介するカメラ間のホモグラフィを見出すことにより計算できる。初期設定用ピクチャ24内の各マーカ(模様)は既知のサイズであり、撮影した画像を用いて下方カメラ17から離陸パッド21までの実際の距離を決めることができる。この実際の距離を、初期のSLAMマップから得られる離陸パッド21の面からの距離と比較し、SLAM処理と現実世界との間のスケール(割合)を設定することができる。なお、下方カメラ17としてステレオカメラを用いる場合、第1の固定位置から初期設定用ピクチャ24を撮影すれば2つの画像が得られるため、上記「6.」の作業は省略できる。
本発明は、産業用、ホビー用を含むあらゆる用途に用いられるあらゆる無人航空機の制御のために利用することが可能である。
1 無人航空機
2 本体部
3 ステレオカメラ
4 外部環境撮影カメラ
5 着陸脚
6 計測値決定回路(デジタル信号処理部)
7a 主演算回路
7b 信号変換回路
8 制御信号生成回路
9a 自律制御プログラム
9b 距離制御モジュール
9c 各種データベース
10 記録装置
11 電源系
12 通信アンテナ
13 通信回路
14 センサ部
C0 左カメラ
C1 右カメラ
A 被写体
0,O1 光学中心
0,s1 撮像面
0,P1 像位置
300 カメラ部
301 レンズ
302 絞り
303 CMOSイメージセンサ
304 CDS回路
305 AGC回路
306 A/Dコンバータ
307 フレームメモリ
308 カメラ制御部(カメラ制御回路)
15a 被点検構造物
15b 被点検要素
16a 等距離面
16b 等距離線
17 下方カメラ
18 SLAM処理回路
19 外部入力装置
20 距離設定ノブ
21 離陸パッド
22 第1のマーク
23 第2のマーク
24 初期設定用ピクチャ

Claims (14)

  1. 外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、対象要素と、の距離を計測する距離センサとして、該対象要素を撮影する撮影カメラと、撮影した画像情報を用いて該距離の計測値を決定する計測値決定回路と、を備えた距離センサと、
    前記距離センサにより計測された前記距離の計測値に応じて、飛行中に前記無人航空機と前記対象要素との距離を制御するための制御信号を生成する制御信号生成回路と
    を備えた
    無人航空機の飛行制御装置。
  2. 前記無人航空機は、少なくとも前記外部入力信号を用いた制御により飛行する無人航空機であって、該外部入力信号は、該無人航空機の飛行中に外部入力装置からリアルタイムで入力される信号であり、前記制御信号は、前記距離の計測値に応じて該外部入力信号を変更して得られる信号である、請求項1に記載の飛行制御装置。
  3. 前記無人航空機は、少なくとも前記飛行計画情報を用いた制御により飛行する無人航空機であって、該飛行計画情報は、コンピュータがプログラムを実行することにより飛行前に予め生成された飛行計画情報である、請求項1に記載の飛行制御装置。
  4. 前記計測値決定回路が前記制御信号生成回路に統合されている、請求項1乃至3のいずれか一項に記載の飛行制御装置。
  5. 前記制御信号生成回路が、
    前記計測値が第1の基準値よりも小さい場合、前記無人航空機を前記対象要素から離れさせるための制御信号を生成するよう構成された
    請求項1乃至4のいずれか一項に記載の飛行制御装置。
  6. 前記制御信号生成回路が、
    前記計測値が、前記第1の基準値以上の第2の基準値よりも大きい場合、前記無人航空機を前記対象要素に近づけるための制御信号を生成する
    よう構成された
    請求項5に記載の飛行制御装置。
  7. 前記第1の基準値と前記第2の基準値が等しい、請求項6に記載の飛行制御装置。
  8. 前記制御信号生成回路は、
    前記計測値が前記第1の基準値よりも小さく、且つ経時的に該計測値が減少する場合において、前記無人航空機を前記対象要素から離れさせるための制御信号を生成し、
    前記計測値が前記第2の基準値よりも大きく、且つ経時的に該計測値が増大する場合において、前記無人航空機を前記対象要素に近づけるための制御信号を生成する
    よう構成された、
    請求項6又は7に記載の飛行制御装置。
  9. 前記撮影カメラの撮影とは異なる方向を撮影する外部環境撮影カメラを更に備えた、請求項1乃至8のいずれか一項に記載の飛行制御装置。
  10. 前記無人航空機の周囲に存在する要素に対する該無人航空機の相対位置を計測するための相対位置計測センサを更に備えた、請求項1乃至9のいずれか一項に記載の飛行制御装置。
  11. 前記対象要素は、被点検構造物である、請求項1乃至10のいずれか一項に記載の飛行制御装置。
  12. 請求項1乃至11のいずれか一項に記載の飛行制御装置を備えた無人航空機。
  13. 対象要素を撮影し、撮影した画像情報を用いて、外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、該対象要素と、の距離の計測値を決定することにより、該距離を計測する段階と、
    前記距離の計測値に応じて、飛行中に前記無人航空機と前記対象要素との距離を制御するための制御信号を生成する段階と
    を備えた
    無人航空機の飛行制御方法。
  14. 対象要素を撮影カメラが撮影した画像情報を用いて、外部入力信号及び/又は予め生成された飛行計画情報を用いた制御により飛行する無人航空機と、該対象要素と、の距離の計測値を計測値決定回路に決定させ、
    前記距離の計測値に応じて、飛行中に前記無人航空機と前記対象要素との距離を制御するための制御指令値を制御信号生成回路に生成させる
    ためのプログラム。
JP2020215317A 2020-12-24 2020-12-24 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム Active JP7184381B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020215317A JP7184381B2 (ja) 2020-12-24 2020-12-24 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020215317A JP7184381B2 (ja) 2020-12-24 2020-12-24 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019556433A Division JP6821220B2 (ja) 2017-11-28 2017-11-28 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2021057078A true JP2021057078A (ja) 2021-04-08
JP7184381B2 JP7184381B2 (ja) 2022-12-06

Family

ID=75271282

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020215317A Active JP7184381B2 (ja) 2020-12-24 2020-12-24 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP7184381B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003127997A (ja) * 2001-10-24 2003-05-08 Kansai Electric Power Co Inc:The 飛行物体の障害物回避システム及び有人飛行物体
JP2016111414A (ja) * 2014-12-03 2016-06-20 コニカミノルタ株式会社 飛行体の位置検出システム及び飛行体
WO2016098146A1 (ja) * 2014-12-19 2016-06-23 株式会社 スカイロボット 構造体非破壊検査システム
WO2017065103A1 (ja) * 2015-10-16 2017-04-20 株式会社プロドローン 小型無人飛行機の制御方法
US9630714B1 (en) * 2016-01-04 2017-04-25 Gopro, Inc. Systems and methods for providing flight control for an unmanned aerial vehicle based on tilted optical elements
WO2017143588A1 (en) * 2016-02-26 2017-08-31 SZ DJI Technology Co., Ltd. Systems and methods for adjusting uav trajectory

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003127997A (ja) * 2001-10-24 2003-05-08 Kansai Electric Power Co Inc:The 飛行物体の障害物回避システム及び有人飛行物体
JP2016111414A (ja) * 2014-12-03 2016-06-20 コニカミノルタ株式会社 飛行体の位置検出システム及び飛行体
WO2016098146A1 (ja) * 2014-12-19 2016-06-23 株式会社 スカイロボット 構造体非破壊検査システム
WO2017065103A1 (ja) * 2015-10-16 2017-04-20 株式会社プロドローン 小型無人飛行機の制御方法
US9630714B1 (en) * 2016-01-04 2017-04-25 Gopro, Inc. Systems and methods for providing flight control for an unmanned aerial vehicle based on tilted optical elements
WO2017143588A1 (en) * 2016-02-26 2017-08-31 SZ DJI Technology Co., Ltd. Systems and methods for adjusting uav trajectory

Also Published As

Publication number Publication date
JP7184381B2 (ja) 2022-12-06

Similar Documents

Publication Publication Date Title
US11635775B2 (en) Systems and methods for UAV interactive instructions and control
US10860040B2 (en) Systems and methods for UAV path planning and control
US11649052B2 (en) System and method for providing autonomous photography and videography
US11721225B2 (en) Techniques for sharing mapping data between an unmanned aerial vehicle and a ground vehicle
US10447912B2 (en) Systems, methods, and devices for setting camera parameters
EP3971674B1 (en) Systems and methods for uav flight control
EP3420428B1 (en) Systems and methods for visual target tracking
US20200074683A1 (en) Camera calibration
US11709073B2 (en) Techniques for collaborative map construction between an unmanned aerial vehicle and a ground vehicle
JP6821220B2 (ja) 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム
Holz et al. Towards multimodal omnidirectional obstacle detection for autonomous unmanned aerial vehicles
WO2020225979A1 (ja) 情報処理装置、情報処理方法、プログラム、及び情報処理システム
JP7184381B2 (ja) 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211110

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221017

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221116

R150 Certificate of patent or registration of utility model

Ref document number: 7184381

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150