JP2021026351A - 操縦システム、移動体及び操縦装置 - Google Patents
操縦システム、移動体及び操縦装置 Download PDFInfo
- Publication number
- JP2021026351A JP2021026351A JP2019141781A JP2019141781A JP2021026351A JP 2021026351 A JP2021026351 A JP 2021026351A JP 2019141781 A JP2019141781 A JP 2019141781A JP 2019141781 A JP2019141781 A JP 2019141781A JP 2021026351 A JP2021026351 A JP 2021026351A
- Authority
- JP
- Japan
- Prior art keywords
- moving body
- unit
- control device
- relative position
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 claims abstract description 81
- 230000002093 peripheral effect Effects 0.000 claims description 36
- 230000005540 biological transmission Effects 0.000 claims description 24
- 238000003384 imaging method Methods 0.000 claims description 15
- 238000000034 method Methods 0.000 description 38
- 230000006870 function Effects 0.000 description 24
- 238000012545 processing Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 14
- 238000012986 modification Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 9
- 238000005259 measurement Methods 0.000 description 7
- 238000013519 translation Methods 0.000 description 4
- 230000005484 gravity Effects 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 201000009482 yaws Diseases 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000013403 standard screening design Methods 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
【課題】移動体の操縦性を向上させることが可能な操縦システム、移動体及び操縦装置を提供する。【解決手段】移動体1と、移動体を遠隔から操縦する操縦装置2と、を有する操縦システムであって、移動体は、周囲に存在する対象物との相対位置情報を取得する相対位置情報取得部120と、周囲画像を撮像する周囲画像撮像部130と、周囲画像を前記操縦装置に送信する第1の送信部140と、移動先を指示した目標情報を操縦装置から受信する第1の受信部110と、移動先に前記移動体を移動させる移動制御部150と、移動先の近傍に存在する前記対象物に正対するように姿勢を制御する姿勢制御部と、を備え、記操縦装置は、周囲画像を受信する第2の受信部210と、周囲画像を表示する表示部220と、表示部に表示された周囲画像に基づいて目標情報の入力を受け付ける操作受付部230と、目標情報を前記移動体に送信する第2の送信部250と、を備える。【選択図】図6
Description
本開示内容は、操縦システム、移動体及び操縦装置に関する。
従来、高所や狭所、有害物質の発生個所などの構造物について、遠隔操作可能な移動体を構造物に近づけて検査する検査システムが知られている。
例えば、特許文献1には、移動体となる無人飛行装置を対象物の近傍に誘導する目的で、対象物に対して光を照射し、照射した光により対象物上に生じた輝点群の位置関係と移動体に搭載された撮像装置により輝点群を撮像して得られた画像における輝点群の位置関係とに基づき、移動体の飛行を制御する構成が開示されている。
ところで、従来の技術では、操縦者は直接目視にて移動体を確認しながら操縦する必要がある。そのため、操縦者から直接目視できない箇所(対象物)の近傍に移動体を移動させるような場合、操縦者は移動体と対象物との位置関係を確認することができず、移動体の操縦が困難であった。
上述した課題を解決すべく、本発明は、移動体と、前記移動体を遠隔から操縦する操縦装置と、を有する操縦システムであって、前記移動体は、前記移動体と当該移動体の周囲に存在する対象物との相対位置を示す相対位置情報を取得する相対位置情報取得部と、前記移動体の周囲の周囲画像を撮像する周囲画像撮像部と、前記周囲画像撮像部が撮像した前記周囲画像を前記操縦装置に送信する第1の送信部と、前記移動体の移動先を指示した目標情報を前記操縦装置から受信する第1の受信部と、前記相対位置情報と前記周囲画像とに基づいて、前記目標情報で指示された移動先に前記移動体を移動させる移動制御部と、前記移動先の近傍に存在する前記対象物に正対するように前記移動体の姿勢を制御する姿勢制御部と、を備え、前記操縦装置は、前記周囲画像を受信する第2の受信部と、前記周囲画像を表示する表示部と、前記表示部に表示された前記周囲画像に基づいて前記目標情報の入力を受け付ける操作受付部と、前記目標情報を前記移動体に送信する第2の送信部と、を備える。
本発明によれば、操縦者が操縦対象の移動体を直接目視することができない場合であっても、移動体の操縦性を向上させることができるという効果を奏する。
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明
において同一要素には同一符号を付し、重複する説明は省略する。
において同一要素には同一符号を付し、重複する説明は省略する。
図1は、本実施形態に係る操縦システムの概略図である。図1に示すように、操縦システムは、移動体1と操縦装置2とを有する。移動体1と操縦装置2とは、無線を介して通信することが可能となっている。かかる操縦システムは、高所や狭所、有害物質の発生個所などの構造物について、移動体1を構造物に近づけて検査する検査システムでもある。
本実施形態において移動体1は、ドローン、マルチコプタ、無人移動体等の飛行体である。図2及び図3は、移動体1の外観構成の一例を示す概略構成図である。ここで、図2は、移動体1の平面図である。図3は、図2の正面図である。
移動体1は、フレーム101と、駆動装置102と、回転翼103と、脚部104と、とを有する遠隔操縦式の飛行体である。また、移動体1は、被写体となる対象物を撮像して画像又は映像を取得する撮像装置105を有する移動可能な撮像装置でもある。
フレーム101は、図2に示すように、ウエブ部101aと、ウエブ部101aの両端部に配置されたフランジ部101bとが平面視においてH型の形状となるように配置されている。なお、フレーム101の形状はこの限りではない。例えば、フレーム101は、移動体1の中心から放射状に伸び、互いに直角をなすようにX字状に設けられた4本のアームを有する構成としてよい。また、フレーム101は、駆動装置102と回転翼103の数だけ中心から放射状にアームが伸びた構造であってよい。
駆動装置102は、回転翼103を回転させるモータである。一例として、駆動装置102は、ブラシレスモータを用いることができる。駆動装置102は、2本のフランジ部101bの先端部の各々に取り付けられ、回転翼103の回転軸と連結されている。各駆動装置102は、制御装置100により、互いに独立して制御される。
回転翼103は、各駆動装置102のそれぞれに取り付けられており、駆動装置102の駆動により回転する。回転翼103は、各駆動装置102の駆動が独立して制御されることで、その回転速度が調整される。なお、回転翼103の数としては、図示例の4個に限定されるものではない。回転翼103は、3以上であれば飛行体として安定した飛行ができるよう機能し、さらには4、6、8のような偶数であることが好ましい。また、回転翼103は、図2及び図3に示すように、略同一平面上に複数の回転翼103が配置される形態に限定されるものではなく、略同一平面上に配置された複数の回転翼103が多段に積層される形態であってもよい。
脚部104は、フレーム101の略中央位置の下面と連結されている。脚部104は、下側部が逆V字形状に形成されて、移動体1が地面に着陸した際等に移動体1を衝撃から保護する。
制御装置100は、例えばフレーム101のウエブ部101aに内蔵される。制御装置100は、目的に応じて設置された各種のセンサからの信号や、外部から送信される操縦信号に応じて駆動装置102の駆動を制御する。
また、制御装置100は、各駆動装置102の駆動を独立して制御することで各々の回転翼103の回転速度を独立に制御し、移動体1を上昇、下降、前進、後退、ヨー軸(Z軸)周りの回転、また空中へ移動してホバリング(停止飛行)等をさせる。また、制御装置100は、移動体1の姿勢を左右に傾けることで、前進や後退と同様に移動体1を左右方向に移動させる。
撮像装置105は、周囲画像撮像部の一例である。撮像装置105は、移動体1の周囲を撮像した周囲画像を取得するカメラである。撮像装置105は、フレーム101のウエブ部101aに固定されている。撮像装置105は、移動体1の飛行時に光軸が略水平になるよう設置されている。また、撮像装置105の撮像方向は、移動体1の前進方向に一致するよう設置されているものとする。
ここで、撮像装置105は、移動体1の周囲の一部を撮像して平面画像を取得する単眼カメラであってもよいし、移動体1の周囲を撮像して全天球(360°)パノラマ画像を取得する全天球カメラであってもよい。例えば、撮像装置105を全天球カメラとすることで、移動体1の周囲を全方位から撮像することができるため、後述する目標位置の指定操作において、移動体1を中心とした全方位に存在する対象物を目標位置として指定することができる。
また、取得される画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。さらに、取得される画像は、画像とともに音データを含んだ映像であってもよい。
測距センサ106は、移動体1と周囲の構造物との距離を検知するセンサである。測距センサ106は、前進方向側のフレーム101のフランジ部101bにおいて、左右の端部に設けられる。図3では、フランジ部101bの両端部に左測距センサ106Lと右測距センサ106Rとを設けた例を示している。左測距センサ106L及び右測距センサ106Rは、移動体1の前進方向に存在する構造物との距離を検知(計測)する。以下、左測距センサ106L及び右測距センサ106Rを区別しない場合、単に測距センサ106と呼ぶ。なお、測距センサは、例えば、TOF(Time Of Flight)センサ、LIDAR(Light Detection and Ranging)センサ等であるがこれらに限定されない。
次に、図4を参照して、移動体1のハードウェア構成について説明する。ここで、図4は、移動体1のハードウェア構成の一例を示すブロック図である。
移動体1は、移動体1の処理又は動作を制御する制御装置100を備える。制御装置100は、上述のように、移動体1(ウエブ部101a)の内部に備えられている。なお、制御装置100は、移動体1の外部に設けられてもよく、又は移動体1とは別の装置として設けられていてもよい。
制御装置100は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access memory)13、記憶部14、無線I/F(Inter Face)15、メディアI/F16、拡張I/F17、及びバスライン18を有する。
CPU11は、移動体1全体の制御を行う。CPU11は、ROM12又は記憶部14等に格納された、プログラムもしくはデータをRAM13上に読み出し、処理を実行することで、移動体1の各機能を実現する演算装置(プロセッサ)である。
RAM13は、CPU11のワークエリア等として用いられる揮発性のメモリである。ROM12は、電源を切ってもプログラム又はデータを保持することができる不揮発性のメモリである。
記憶部14は、HDD(Hard Disk Drive)、SSD(Solid State Drive)等の記憶装置である。記憶部14は、CPU11が実行可能な各種プログラムや設定情報等を記憶する。例えば、記憶部14は、移動体1と対象物との間の近接に係る条件を設定した設定値d0を記憶する。かかる設定値d0は、対象物に対し移動体1をどの程度まで近接させるかを規定する設定情報である。例えば、d0=100cmと設定することで、対象物に対し100cmまで移動体1を近づけることができる。なお、d0の値は特に限らず、任意に設定することが可能である。
無線I/F15は、操縦装置2と無線通信するための通信計測インターフェースである。なお、無線通信規格は特に問わないものとするが、本実施形態では、画像伝送可能な通信規格を用いるものとする。
メディアI/F16は、USB(Universal Serial Bus)メモリ、メモリカード、光学ディスク又はフラッシュメモリ等の記録メディアに対するデータの読み出し又は書き込み(記憶)を制御する。
また、制御装置100には、拡張I/F17を介して、上述した駆動装置102、撮像装置105、測距センサ106が接続されている。さらに、制御装置100には、拡張I/F17を介して、測距センサ以外の各種センサ107、GPS(Global Positioning System)受信部108等が接続される。
駆動装置102は、CPU11からの命令に基づき、回転翼103を回転駆動させて移動体1を飛行させて移動させる。各種センサ107は、例えば、飛行機能に用いられる、地磁気を検知する電子磁気コンパス、ジャイロコンパス、及び加速度センサ等のセンサである。その他気圧計、温度計、高度計、人感センサ、又は照度計等が設けられてもよい。GPS受信部108は、GPS衛星からGPS信号を受信する。
バスライン18は、上記各構成要素を電気的に接続するためのアドレスバスやデータバス等であり、アドレス信号、データ信号、及び各種制御信号等を伝送する。CPU11、ROM12、RAM13、記憶部14、無線I/F15、メディアI/F16、及び拡張I/F17は、バスライン18を介して相互に接続されている。
上述した構成の移動体1は、例えば、人では足場を組んだりしなければ届かない橋梁等のような大型の構造物の検査等に使用することができる。さらには、移動体1は、対象物の壁面近くを飛行しながら、対象物の壁面を連続して撮像することで、位置的に連続した対象物の近接画像を得られる。別途それら近接画像を組み合わせることで、対処物の壁面内における変状部の位置を示す画像(変状展開図)や変状画像等を得ることもできる。
一方、操縦装置2は、移動体1を操縦するための装置である。操縦者Uは、操縦装置2を操作することで、移動体1を操縦することができる。具体的には、操縦者Uは、移動体1を操縦装置2で操縦して橋梁等の所望の箇所(対象物)に近づけることで、対象物の検査を行うことができる。
図5は、操縦装置2のハードウェア構成の一例を示すブロック図である。図5に示すように、操縦装置2は、CPU21、ROM22、RAM23、記憶部24、無線I/F25、操作部26、表示部27、及びバスライン28を備える。
CPU21は、操縦装置2全体の制御を行う。CPU21は、ROM22又は記憶部24等に格納された、プログラムもしくはデータをRAM23上に読み出し、処理を実行することで、操縦装置2の各機能を実現する演算装置(プロセッサ)である。
RAM23は、CPU21のワークエリア等として用いられる揮発性のメモリである。ROM22は、電源を切ってもプログラム又はデータを保持することができる不揮発性のメモリである。記憶部24は、HDD、SSD等の記憶装置である。記憶部24は、CPU21が実行可能な各種プログラムや設定情報等を記憶する。
無線I/F25は、移動体1と無線通信するためのインターフェースである。なお、無線通信規格は特に問わないものとするが、本実施形態では、画像伝送可能な通信規格を用いるものとする。
操作部26は、操縦者Uが操作情報を入力し、またユーザの操作に対して力覚を返すことが可能な操作部である。操縦者Uは、操作部26を操作することで、移動体1を操縦するための操作情報として、位置(X、Y、Z)や姿勢(ロール、ピッチ、ヨー)のそれぞれの量を入力することができる。
表示部27は、表示部の一例である。表示部27は、タッチパネル式のディスプレイによって実現される。表示部27は、CPU21の制御の下、各種情報及び各種画像を表示する。
バスライン28は、上記各構成要素を電気的に接続するためのアドレスバスやデータバス等であり、アドレス信号、データ信号、及び各種制御信号等を伝送する。CPU21、ROM22、RAM23、記憶部24、無線I/F25、操作部26、表示部27は、バスライン28を介して相互に接続されている。
なお、操縦装置2のハードウェア構成は、図5の例に限らないものとする。例えば、操縦装置2は、CPU21の制御に従ってマイクやスピーカとの間で音信号の入出力を処理する音入出力I/F、CPU21の制御に従って通信ネットワークを介して他機器との通信を処理するネットワークI/F等を有していてもよい。
次に、図6を参照して、移動体1及び操縦装置2の機能構成について説明する。ここで、図6は、移動体1及び操縦装置2の機能構成の一例を示すブロック図である。
図6に示すように、移動体1は、受信部110、相対位置情報取得部120、周囲画像取得部130、送信部140、及び移動制御部150を備える。
移動体1には、移動体1の駆動・制御に係るプログラムがあらかじめインストールされている。移動体1(制御装置100)のCPU11は、例えば、インストールされたプログラムを実行することによって上述した各機能を実現する。
受信部110は、無線通信によって、操縦装置2から送信される各種情報を受信する。例えば、受信部110は、操縦装置2から操作情報を受信する。また、例えば、受信部110は、操縦装置2から移動体1の移動先となる目標位置を示した後述する目標情報を受信する。受信部110は、主に、図3に示したCPU11の処理、及び無線I/F15によって実現される。なお、受信部110は、第1の受信部に対応する。
相対位置情報取得部120は、測距センサ106の計測結果に基づき、移動体1と当該移動体1の周囲に存在する構造物(以下、周囲構造物ともいう)との相対的な位置関係を相対位置情報として取得する機能である。例えば、相対位置情報取得部120は、測距センサ106の計測結果に基づき、移動体1と周囲構造物との間の距離を相対位置情報として取得する。また、相対位置情報取得部120は、測距センサ106の計測結果や、周囲画像取得部130が取得する周囲画像、各種センサ107の計測結果等に基づき、周囲構造物に対する移動体1の相対的な姿勢を相対位置情報として取得する。
また、相対位置情報取得部120は、測距センサ106等を介して相対位置情報を計測して取得しているため、相対位置情報計測部ということもできる。相対位置情報取得部120は、主に、図3に示したCPU11の処理、及び拡張I/F17によって実現される。なお、相対位置情報取得部120は、相対位置情報取得部に対応する。
周囲画像取得部130は、撮像装置105によって撮像された周囲画像を取得する機能である。周囲画像取得部130は、主に、図3に示したCPU11の処理、及び拡張I/F17によって実現される。なお、周囲画像取得部130は、撮像装置105とともに周囲画像撮像部として機能する。
送信部140は、無線通信によって、移動体1の操縦に係る各種情報を操縦装置2に送信する。例えば、送信部140は、相対位置情報取得部120が取得した相対位置情報を操縦装置2に送信する。また、例えば、送信部140は、周囲画像取得部130が取得した周囲画像を操縦装置2に送信する。送信部140は、主に、図3に示したCPU11の処理、及び無線I/F15によって実現される。なお、送信部140は、第1の送信部に対応する。
移動制御部150は、駆動装置102を駆動させることによって、移動体1の移動を制
御する機能である。例えば、移動制御部150は、操縦装置2から送信された操縦情報に応じて駆動装置102を駆動することで、移動体1の位置や姿勢を制御する。
御する機能である。例えば、移動制御部150は、操縦装置2から送信された操縦情報に応じて駆動装置102を駆動することで、移動体1の位置や姿勢を制御する。
また、移動制御部150は、操縦装置2から目標情報が送信されると、相対位置情報取得部120が取得する相対位置情報や、周囲画像取得部130が取得する周囲画像に基づき、目標情報が指示する目標位置に移動体1を移動させるための制御を行う。移動制御部150は、主に、図3に示したCPU11の処理、及び拡張I/F17によって実現される。なお、移動制御部150は、移動制御部及び姿勢制御部に対応する。
一方、操縦装置2は、図6に示すように、受信部210、周囲画像表示部220、操作受付部230、操縦制御部240、及び送信部250を備える。
操縦装置2には、移動体1の遠隔操作に係るプログラムがあらかじめインストールされている。操縦装置2のCPU21は、例えば、インストールされたプログラムを実行することによって上述した各機能を実現する。
受信部210は、無線通信を介して、移動体1から送信される各種情報の受信を行う機能である。例えば、受信部210は、移動体1から送信される相対位置情報を受信する。また、例えば、受信部210は、移動体1から送信される周囲画像を受信する。受信部210は、主に、図4に示したCPU21の処理、及び無線I/F25によって実現される。なお、受信部210は、第2の受信部として機能する。
周囲画像表示部220は、表示部27に各種画像を表示させる機能である。例えば、周囲画像表示部220は、受信部210で受信された相対位置情報を表示部27に表示させる。また、例えば、周囲画像表示部220は、受信部210で受信された周囲画像を表示部27に表示させる。周囲画像表示部220は、主に、図4に示したCPU21の処理、及び表示部27によって実現される。
操作受付部230は、操縦装置2に対する操作入力を受け付ける機能である。例えば、操作受付部230は、操作部26を介して操作情報の入力操作を受け付ける。また、例えば、操作受付部230は、表示部27に表示された周囲画像に基づき、目標位置を指定する目標情報の入力操作を、タッチパネルを介して受け付ける。操作受付部230は、主に、CPU21の処理、操作部26、及び表示部27によって実現される。なお、操作受付部230は、操作受付部に対応する。
操縦制御部240は、操縦装置2の全体動作を制御する機能である。例えば、操縦制御部240は、受信部210が受信した周囲画像を周囲画像表示部220に出力することで、当該映像データを表示部27に表示させる。また、例えば、操縦制御部240は、操作受付部230を介して操作情報や目標情報が入力されると、これらの情報を送信部250に引き渡すことで移動体1に送信させる。操縦制御部240は、主に、CPU21の処理によって実現される。
送信部250は、無線通信によって、移動体1の操縦に係る各種情報を移動体1に送信する。例えば、送信部250は、操作受付部230を介して入力された操作情報や目標情報を移動体1に送信する。送信部140は、主に、図4に示したCPU21の処理、及び無線I/F25によって実現される。なお、送信部250は、第2の送信部として機能する。
次に、上述した目標情報に基づく移動体1の操作方法について説明する。まず、図7及び図8を参照し、移動体1から操縦装置2に提供される周囲画像について説明する。
図7は、移動体1と構造物との位置関係を模式的に示す図である。ここで、構造物Tは、例えば橋梁等のような検査の対象となる構造物である。図7に示した移動体1が、破線で示す矢印方向に進行方向を向けている場合、撮像装置105は、撮像画角θに応じた範囲の移動体1の周囲画像を撮像することとなる。
図8は、操縦装置2の表示部27に表示された周囲画像の一例を示す図である。上述したように、移動体1の撮像装置105で撮像された周囲画像は、送信部140によって操縦装置2に送信される。そして、移動体1から送信された周囲画像は、操縦装置2の受信部210によって受信された後、周囲画像表示部220の機能により表示部27に表示される。
図8は、図7の撮像装置105で撮像された周囲画像G1を表しており、撮像装置105から見た構造物Tが被写体として表されている。点Oは、周囲画像G1の中心点(以下、画像中心ともいう)であり、構造物Tの壁面TSに対する移動体1の相対的な向きに対応する。
操縦者Uは、表示部27に表示された周囲画像G1に対し、移動体1の移動先となる目標位置を指定する操作を行うことができる。例えば、操縦者Uは、周囲画像G1に表された構造物T(壁面TS)の一部をタッチ操作することで、このタッチした位置を目標位置として指定することができる。
具体的には、操作受付部230は、周囲画像G1に対したタッチ操作が行われると、そのタッチされた領域の重心位置を目標位置として受け付ける。例えば、図8の周囲画像G1のうち領域Taがタッチ操作されると、操作受付部230は、この領域Taの重心位置を目標位置として受け付ける。なお、操作受付部230は、周囲画像表示部220と協働することで、タッチ操作された領域を強調表示させてもよい。
そして、操縦制御部240は、操作受付部230が受け付けた目標位置に基づき目標情報を生成すると、その目標情報を送信部250から移動体1に送信させる。ここで、目標情報は、例えば、周囲画像G1中における目標位置の位置座標や、画像中心Oと目標位置との位置関係を表す情報等によって表すことができる。
移動体1では、操縦装置2から送信された目標情報を受信部110が受信すると、移動制御部150は、目標情報で指定された目標位置に向けて移動体1を移動させるための処理を実行する。具体的には、移動制御部150は、目標位置に移動体1を近づけるための近接移動処理と、目標位置に移動体1を正対させるための正対移動処理とを実行する。
図9は、移動制御部150が行う近接移動処理を説明するための図である。なお、図9は、図7に示した移動体1と構造物Tとに対応するものである。
移動制御部150は、目標情報を受け付けると、周囲画像取得部130が取得する周囲画像の画像中心Oを原点とし、当該原点と目標情報で指定された目標位置とのずれ量(以下、誤差ともいう)を減らすように、移動体1の向きや高さを調整する。
例えば、目標情報で指示された目標位置が、図9に示した壁面TS上の位置Tbに対応する場合、移動制御部150は、原点と位置Tbとの誤差が閾値以下となるよう移動体1をヨー軸方向に回転(ヨー回転)させたり、移動体1を上下方向に移動させたりする。ここで、閾値は特に問わないものとするが、原点と目標位置(位置Tb)とが略同等となる値とすることが好ましい。なお、連続して撮像される周囲画像内での位置Tbの追跡(トラッキング)は、Boosting、Multiple Instance Learning、Median Flow等の公知の技術を用いることができる。
原点と位置Tbとの位置合わせが完了すると、移動制御部150は、移動体1を前進移動させる。このとき、移動制御部150は、相対位置情報取得部120が取得する相対位置情報に基づいて、移動体1と位置Tbに存在する対象物(構造物Tの壁面TS)との間の距離dを監視し、距離dが設定値d0に達するまで移動体1を前進移動させる。移動体1と対象物との間の距離dが設定値d0に達すると、移動制御部150は、目標位置に移動体1を正対させるための正対移動処理を実行する。
なお、近接移動処理で使用する距離dは、左測距センサ106L及び右測距センサ106Rの何れで計測されたものであってもよい。例えば、予め定めた一方の測距センサ106の計測値を距離dとしてもよい。また、左測距センサ106L及び右測距センサ106Rの計測結果のうち、より小さな値を距離dとしてもよい。
次に、図10〜図12を参照して、移動制御部150が行う正対移動処理について説明する。ここで、図10及び図11は、移動制御部150が行う正対移動処理を説明するための図である。なお、図10及び図11は、図9に示した位置Tb付近の部分拡大図である。
まず、移動制御部150は、相対位置情報取得部120が取得する左測距センサ106Lが計測する距離dLと、右測距センサ106Rが計測する距離dRとをそれぞれ監視する。次いで、移動制御部150は、距離dL、dRと設定値d0との差分が閾値以下となるまで移動体1をヨー回転させたり、移動体1を前後/左右方向に移動させたりする。ここで、閾値は特に問わないものとするが、設定値d0と略同等となる値とすることが好ましい。なお、移動制御部150は、上述した原点と位置Tbとの位置合わせを継続したまま正対移動処理を実行するものとする。
例えば、図10の場合、移動制御部150は、移動体1を時計周りに20度程度回転させた後、原点と位置Tbとが合うよう移動体1をX軸方向に移動させることで、移動体1を図11に示す状態に移行させる。
ここで、図11は、正対移動処理後の移動体1を示しており、移動体1が位置Tbに正対するよう位置付けられた状態を示している。また、図11に示すように、移動体1は、位置Tbを含む構造物Tの壁面TSに対しも正対するよう位置付けられる。なお、移動体1と壁面TSとの離間距離は設定値d0と略同等に保たれる。
また、図12は、操縦装置2の表示部27に表示された周囲画像の一例であり、図11の撮像装置105で撮像された周囲画像G1を表している。かかる周囲画像G1では、図8で指定された領域Taの重心が画像中心Oの位置に表示されることになる。これにより、操縦者Uは、表示部27に表示された周囲画像G1に基づき、目標位置として指定した領域周辺の対象物の状態を検査することができる。
なお、図12では、タッチ操作が行われた際の領域Taの大きさを維持して表示する形態としたが、これに限らず、移動体1の前進移動に伴って、領域Taの領域枠を拡大して表示させる形態としてもよい。
このように、操縦装置2では、移動体1から送信される周囲画像に基づき、移動体1の移動先となる目標位置の入力を受け付け、当該目標位置を指示した目標情報を移動体1に送信する。また、移動体1では、操縦装置2から目標情報を受信すると、この目標情報で指示された目標位置に移動体1を移動させ、当該目標位置の近傍に存在する対象物に正対するよう移動体1の姿勢を制御する。これにより、操縦者Uは、検査の対象となる対象物(建造物)が直接目視できない箇所にあっても、また高度な技術を保有していなくても、対象物への近接を容易且つ直観的に行うことができる。
さらに、移動制御部150は、正対移動処理が完了した後、目標位置の壁面に沿って移動体1を移動させる処理(平行移動処理)を実行してもよい。かかる平行移動処理は、正対移動処理後に自動で実行してもよいし、操縦装置2からの操作情報に応じて実行してもよい。
図13は、移動制御部150が行う平行移動処理を説明するための図である。なお、図13は、図11に対応するものである。
移動制御部150は、正対移動処理が完了すると、相対位置情報取得部120が取得する距離dL及び距離dRを設定値d0と略同等の値に維持したまま、移動体1を水平方向又は垂直方向に移動させることで、対象物の壁面と平行に移動体1を移動させる。
例えば、図13では、壁面TSに対し移動体1をX軸方向(P1方向)に平行移動させた例を示している。なお、平行移動させる移動量は特に問わないものとする。例えば、予め定められた移動量を平行移動する形態としてもよいし、対象物の縁(エッジ)を検出するまで平行移動する形態としてもよい。また、平行移動させる移動経路も特に問わないものとする。例えば、目標位置から平行移動を開始した後、再度目標位置に戻る構成としてもよい。
このように、移動体1では、目標位置への移動後、対象物に正対するよう移動体1の姿勢を制御した後、その対象物の壁面に沿って移動体1を平行移動させる。これにより、移動体1は、対象物近接での移動を容易化することができるため、操縦者Uの利便性を向上させることができる。
以下、移動体1及び操縦装置2の動作例について説明する。
まず、図14を参照して、操縦装置2の動作例について説明する。ここで、図14は、操縦装置2で実行される処理の一例を示すフローチャートである。
まず、受信部210は、移動体1から送信される周囲画像や相対位置情報を受信する(ステップS11)。次いで、周囲画像表示部220は、ステップS11で受信された周囲画像等を表示部27に表示させる(ステップS12)。
続いて、操縦制御部240は、操作受付部230を介して、目標位置が入力されたか否かを判定する(ステップS13)。ここで、目標位置が入力されない場合(ステップS13;No)、操縦制御部240は、ステップS11に処理を戻す。
ステップS13で目標位置が入力された場合(ステップS13;Yes)、操縦制御部240は、入力された目標位置を指示する目標情報を、送信部250から移動体1に送信させ(ステップS14)、ステップS11に処理を戻す。
図15は、移動体1で実行される処理の一例を示すフローチャートである。なお、本処理の前提として、周囲画像取得部130で取得された周囲画像は、送信部140の機能により操縦装置2に送信されているものとする。
まず、移動体1の受信部110は、操縦装置2から目標情報が送信されると、その目標情報を受信する(ステップS21)。移動制御部150は、操縦装置2から目標情報が指示されると、近接移動処理を実行する(ステップS22)。以下、図16を参照して近接移動処理について説明する。
図16は、移動体1で実行される近接移動処理の一例を示すフローチャートである。まず、移動制御部150は、目標情報で指示された目標位置と周囲画像の画像原点との誤差を算出する(ステップS221)。次いで、移動制御部150は、ステップS221で算出した誤差が閾値以内か否かを判定する(ステップS222)。
ここで、算出した誤差が閾値を上回る場合(ステップS222;No)、移動制御部150は、誤差が小さくなる方向に移動体1をヨー回転、上下方向に移動させた後(ステップS223)、ステップS221に再び戻る。
また、算出した誤差が閾値以下となる場合(ステップS222;Yes)、移動制御部150は、移動体1を前進移動させる(ステップS224)。次いで、移動制御部150は、相対位置情報取得部120に対象物との距離dを取得(計測)させ(ステップS225)、距離dが設定値d0に達するまで移動体1を前進移動させる(ステップS226;No→ステップS224)。
そして、移動制御部150は、距離dが設定値d0に達する、つまり距離dが設定値d0以下になると(ステップS226;Yes)、移動体1をその位置にホバリングさせ、ステップS23(正対移動処理)に移行する。
図17は、移動体1で実行される正対移動処理の一例を示すフローチャートである。まず、移動制御部150は、相対位置情報取得部120に対象物(壁面)との距離dL、dRを取得(計測)させる(ステップS231)。次いで、移動制御部150は、|dL−d0|及び|dR−d0|の差分それぞれ算出し、算出した差分値が閾値以下か否かを判定する(ステップS232)。
ここで、算出した差分値の何れか一方又は両方が閾値を上回る場合(ステップS232;No)、移動制御部150は、差分値が小さくなる方向に移動体1をヨー回転、前後/左右に移動させ(ステップS233)、ステップS231に再び戻る。
そして、移動制御部150は、算出した差分値の両方が閾値以下になると(ステップS232;Yes)、移動体1をその位置にホバリングさせ、ステップS24に移行する。
図15に戻り、移動制御部150は、続くステップS24において、移動体1を対象物(壁面)に対し平行移動させ(ステップS24)、本処理を終了する。
以上説明したように本実施形態の操縦システムによれば、操縦装置2の操縦者Uは、移動体1の周囲の状況を周囲画像から把握して操縦することができる。また、本実施形態の操縦システムによれば、操縦装置2の操縦者Uは、移動体1に対し移動先となる目標位置を指示するだけで、その目標位置近傍の対象物(建造物)に移動体1を正対するよう位置付けることができる。これにより、本実施形態の操縦システムでは、移動体1が操縦者Uからは直接見えない、見えにくい箇所において操縦する場合や、操縦者Uが高度な操縦技術を有していない場合でも、移動体1を検査の対象となる対象物への近接を容易且つ直観的に行うことができる。したがって、本実施形態の操縦システムでは、移動体1の操縦性を向上させることができる。
なお、上述した実施形態は、移動体1や操縦装置2が有する構成又は機能の一部を変更することで、適宜に変形して実施することも可能である。そこで、以下では、上述した実施形態に係るいくつかの変形例を他の実施形態として説明する。なお、以下では、上述した実施形態と異なる点を主に説明することとし、既に説明した内容と共通する点については詳細な説明を省略する。また、以下で説明する変形例は、個別に実施されてもよいし、適宜組み合わせて実施されてもよい。
[変形例1]
上述の実施形態では、操縦装置2は移動体1から送信された周囲画像をそのまま表示する形態を説明した。しかしながら、操縦装置2に表示される画像はこれに限定されない。
上述の実施形態では、操縦装置2は移動体1から送信された周囲画像をそのまま表示する形態を説明した。しかしながら、操縦装置2に表示される画像はこれに限定されない。
例えば、操縦装置2の周囲画像表示部220は、周囲画像に代えて、移動体1の周囲に存在する構造体の3次元形状を示す画像(以下、3次元モデルという)を表示部27に表示させてもよい。ここで、3次元モデルは、例えば点群やメッシュ等によって表される3次元の画像データである。
具体的には、周囲画像表示部220は、移動体1から送信された周囲画像と相対位置情とに基づき、移動体1の周囲に存在する構造体の3次元モデルを生成する。そして、周囲画像表示部220は、生成した3次元モデルを表示部27に表示させる。なお、3次元モデルの生成方法は特に問わず、公知の技術を用いてもよい。また、周囲画像表示部220は、GPS等の他の位置センシング結果を移動体1から受信することで、当該センシング結果を用いて3次元モデルを生成してもよい。
これにより、操縦装置2を操作する操縦者Uは、表示部27に表示された3次元モデルを見ながら、検査の対象となる対象物の位置を目標位置として指定することができる。したがって、上述した実施形態と同様、移動体1を検査の対象となる対象物への近接を容易且つ直観的に行うことができる。
[変形例2]
上述の実施形態では、操縦装置2の表示部27をタッチパネルディスプレイとし、目標位置をタッチ操作で入力する形態を説明した。しかしながら、目標位置の入力方法はこれに限定されない。
上述の実施形態では、操縦装置2の表示部27をタッチパネルディスプレイとし、目標位置をタッチ操作で入力する形態を説明した。しかしながら、目標位置の入力方法はこれに限定されない。
例えば、表示部27に対するタッチ操作の代わりに、表示部27の画面上にカーソル等のポインタを表示させておき、操作部26や他のポインティングデバイス等を介してポインタを移動させることで目標位置を入力する構成としてもよい。
これにより、操縦装置2を操作する操縦者Uは、表示部27に表示された3次元モデルを見ながら、検査の対象となる対象物の位置を目標位置として指定することができる。したがって、上述した実施形態と同様、移動体1を検査の対象となる対象物への近接を容易且つ直観的に行うことができる。
[変形例3]
上述の実施形態では、操縦装置2は、操縦者Uによって把持される形態を説明したが、操縦装置2の形態はこれに限定されるものではない。
上述の実施形態では、操縦装置2は、操縦者Uによって把持される形態を説明したが、操縦装置2の形態はこれに限定されるものではない。
例えば、操縦装置2の表示部27を、操縦者Uの頭部に装着可能なヘッドマウントディスプレイとし、表示部27に対する入力操作を操作部26や他のポインティングデバイスによって行う構成としてもよい。
この場合、表示部27は、操縦者Uの目に対向するように周囲画像等を表示する。なお表示部27はヘッドマウントディスプレイに限らず、デスクトップ型のディスプレイにおいて、マウスやキーボードを用いて表示位置を変更させるものであってもよい。
これにより、操縦者Uは、眼前に表示される周囲画像を確認しながら、検査の対象となる対象物の位置を目標位置として直観的に指定することができる。したがって、操縦装置2は、周囲画像に対する操縦者Uの没入感を向上させることができるとともに、操作性の向上を図ることができる。
上述の実施形態及び変形例は、一例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。また、実施の形態及び実施の形態の変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
また、上述の実施形態及び変形例で説明した各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)や従来の回路モジュール等のデバイスを含むものとする。
上述の実施形態及び変形例で説明した各機能の少なくとも一部がプログラムの実行によって実現される場合、プログラムは適宜な記憶装置に予め組み込まれて提供される。また、プログラムはインストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供されてもよい。また、プログラムはインターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードさせることにより提供され得るように構成されてもよい。また、プログラムはインターネット等のネットワーク経由で提供又は配布され得るように構成されてもよい。また、プログラムは上述した各機能の少なくとも一部を含むモジュール構成となっていてもよい。
1 移動体
100 制御装置
110 受信部
120 相対位置情報取得部
130 周囲画像取得部
140 送信部
150 移動制御部
2 操縦装置
26 操作部
27 表示部
210 受信部
220 周囲画像表示部
230 操作受付部
240 操縦制御部
250 送信部
100 制御装置
110 受信部
120 相対位置情報取得部
130 周囲画像取得部
140 送信部
150 移動制御部
2 操縦装置
26 操作部
27 表示部
210 受信部
220 周囲画像表示部
230 操作受付部
240 操縦制御部
250 送信部
Claims (9)
- 移動体と、
前記移動体を遠隔から操縦する操縦装置と、
を有する操縦システムであって、
前記移動体は、
前記移動体と当該移動体の周囲に存在する対象物との相対位置を示す相対位置情報を取得する相対位置情報取得部と、
前記移動体の周囲の周囲画像を撮像する周囲画像撮像部と、
前記周囲画像撮像部が撮像した前記周囲画像を前記操縦装置に送信する第1の送信部と、
前記移動体の移動先を指示した目標情報を前記操縦装置から受信する第1の受信部と、
前記相対位置情報と前記周囲画像とに基づいて、前記目標情報で指示された移動先に前記移動体を移動させる移動制御部と、
前記移動先の近傍に存在する前記対象物に正対するように前記移動体の姿勢を制御する姿勢制御部と、
を備え、
前記操縦装置は、
前記周囲画像を受信する第2の受信部と、
前記周囲画像を表示する表示部と、
前記表示部に表示された前記周囲画像に基づいて前記目標情報の入力を受け付ける操作受付部と、
前記目標情報を前記移動体に送信する第2の送信部と、
を備える操縦システム。 - 前記相対位置情報取得部は、前記相対位置情報として、前記移動体と前記対象物との間の距離、及び前記対象物に対する前記移動体の相対的な姿勢を示す情報を取得する請求項1に記載の操縦システム。
- 前記第1の送信部は、前記相対位置情報取得部によって取得された前記相対位置情報と、前記周囲画像撮像部が撮像した前記周囲画像とを前記操縦装置に送信し、
前記表示部は、前記第2の受信部が受信した前記相対位置情報と前記周囲画像とに応じた画像を前記表示部に表示する請求項1又は2に記載の操縦システム。 - 前記表示部は、タッチパネルディスプレイであり、
前記操作受付部は、前記タッチパネルディスプレイを介して前記目標情報の入力を受け付ける請求項1に記載の操縦システム。 - 前記表示部は、操縦者が装着可能なヘッドマウントディスプレイであり、
前記操作受付部は、ポインティングデバイスを介して前記目標情報の入力を受け付ける請求項1に記載の操縦システム。 - 前記周囲画像撮像部は、全天球画像を撮像可能な全天球カメラである請求項1に記載の操縦システム。
- 前記移動体は、ドローン、マルチコプタ、無人移動体である請求項1〜6の何れか一項に記載の操縦システム。
- 操縦装置から遠隔操縦を受ける移動体であって、
前記移動体と当該移動体の周囲に存在する対象物との相対位置を示す相対位置情報を取得する相対位置情報取得部と、
前記移動体の周囲の周囲画像を撮像する周囲画像撮像部と、
前記周囲画像撮像部が撮像した前記周囲画像を前記操縦装置に送信する第1の送信部と、
前記周囲画像に基づき入力された前記移動体の移動先を指示した目標情報を前記操縦装置から受信する第1の受信部と、
前記相対位置情報と前記周囲画像とに基づいて、前記目標情報で指示された移動先に前記移動体を移動させる移動制御部と、
前記移動先の近傍に存在する前記対象物に正対するように前記移動体の姿勢を制御する姿勢制御部と、
を備える移動体。 - 移動体を遠隔から操縦する操縦装置であって、
前記移動体から前記操縦装置に送信された、前記移動体の周囲の周囲画像を撮像する周囲画像撮像部で撮像された前記周囲画像を受信する第2の受信部と、
前記周囲画像を表示する表示部と、
前記表示部に表示された前記周囲画像に基づいて、前記移動体の移動先を指示した目標情報の入力を受け付ける操作受付部と、
前記目標情報を前記移動体に送信する第2の送信部と、
を備える操縦装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019141781A JP2021026351A (ja) | 2019-07-31 | 2019-07-31 | 操縦システム、移動体及び操縦装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019141781A JP2021026351A (ja) | 2019-07-31 | 2019-07-31 | 操縦システム、移動体及び操縦装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021026351A true JP2021026351A (ja) | 2021-02-22 |
Family
ID=74663132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019141781A Pending JP2021026351A (ja) | 2019-07-31 | 2019-07-31 | 操縦システム、移動体及び操縦装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021026351A (ja) |
-
2019
- 2019-07-31 JP JP2019141781A patent/JP2021026351A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220309687A1 (en) | Object Tracking By An Unmanned Aerial Vehicle Using Visual Sensors | |
US11644832B2 (en) | User interaction paradigms for a flying digital assistant | |
US11592844B2 (en) | Image space motion planning of an autonomous vehicle | |
US11914370B2 (en) | System and method for providing easy-to-use release and auto-positioning for drone applications | |
US11724805B2 (en) | Control method, control device, and carrier system | |
US11048277B1 (en) | Objective-based control of an autonomous unmanned aerial vehicle | |
JP6835392B2 (ja) | 撮像装置により取得された画像を制御するためのシステム及び方法 | |
WO2018098784A1 (zh) | 无人机的控制方法、装置、设备和无人机的控制系统 | |
JP2017503226A (ja) | 目標追跡システム、デバイスおよび方法 | |
US10331120B2 (en) | Remote control device, control system and method of controlling | |
US20200097026A1 (en) | Method, device, and system for adjusting attitude of a device and computer-readable storage medium | |
CN108450032B (zh) | 飞行控制方法和装置 | |
KR20170086482A (ko) | 플라잉 봇의 제어 장치 및 제어 방법 | |
JP7391053B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
US20220187828A1 (en) | Information processing device, information processing method, and program | |
JP6974247B2 (ja) | 情報処理装置、情報提示指示方法、プログラム、及び記録媒体 | |
US12007763B2 (en) | Magic wand interface and other user interaction paradigms for a flying digital assistant | |
JP6875269B2 (ja) | 情報処理装置、飛行制御指示方法、プログラム、及び記録媒体 | |
JP2021026351A (ja) | 操縦システム、移動体及び操縦装置 | |
EP3845992A1 (en) | Control method for movable platform, movable platform, terminal device and system | |
US20220297821A1 (en) | Control device, control method, unmanned aircraft, information processing device, information processing method, and program | |
WO2021049147A1 (ja) | 情報処理装置、情報処理方法、情報処理プログラム及び制御装置 | |
JP7092981B2 (ja) | 移動体制御プログラム、移動体制御方法および情報処理装置 | |
EP3518063A1 (en) | Combined video display and gimbal control | |
US20220166917A1 (en) | Information processing apparatus, information processing method, and program |