JP2023011376A - 移動体、情報処理方法及びプログラム - Google Patents

移動体、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2023011376A
JP2023011376A JP2021115203A JP2021115203A JP2023011376A JP 2023011376 A JP2023011376 A JP 2023011376A JP 2021115203 A JP2021115203 A JP 2021115203A JP 2021115203 A JP2021115203 A JP 2021115203A JP 2023011376 A JP2023011376 A JP 2023011376A
Authority
JP
Japan
Prior art keywords
upper limit
self
processing
position estimation
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021115203A
Other languages
English (en)
Inventor
真一郎 阿部
Shinichiro Abe
正樹 半田
Masaki Handa
琢人 元山
Takuto Motoyama
政彦 豊吉
Masahiko Toyoshi
航平 漆戸
Kohei URUSHIDO
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2021115203A priority Critical patent/JP2023011376A/ja
Priority to PCT/JP2022/013917 priority patent/WO2023286378A1/ja
Publication of JP2023011376A publication Critical patent/JP2023011376A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】消費電力の増大や処理遅延等を防止することが可能な技術を提供すること。【解決手段】本技術に係る移動体は、制御部を具備する。前記制御部は、複数のセンサからそれぞれセンサ情報を取得可能であり、複数のセンサ情報のうち少なくとも1以上のセンサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する。【選択図】図4

Description

本技術は、自律移動可能な移動体等の技術に関する。
近年、自律移動可能な移動体として、ドローンや、掃除ロボット、車両等の各種の装置が広く知られている(例えば、下記特許文献1参照)。
この種の移動体においては、自律移動のために、慣性センサ、GPS(Global Positioning System)、デプスセンサ、カメラ等の各種のセンサが搭載されている。そして、これらのセンサからのセンサ情報に基づいて、SLAM(Simultaneous Localization and Mapping)等の自己位置推定処理が実行される。
特開2019-175048号公報
搭載されている全てのセンサからのセンサ情報を使用して自律移動に関する処理を実行してしまうと、消費電力の増大や処理遅延等が生じてしまう。
以上のような事情に鑑み、本技術の目的は、消費電力の増大や処理遅延等を防止することが可能な技術を提供することにある。
本技術に係る移動体は、制御部を具備する。前記制御部は、複数のセンサからそれぞれセンサ情報を取得可能であり、複数のセンサ情報のうち少なくとも1以上のセンサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する。
このように、第1の処理で使用されるセンサ情報の数に必要に応じて制限を設定することで、消費電力の増大や処理遅延等を防止することができる。
本技術に係る情報処理方法は、複数のセンサからそれぞれセンサ情報を取得可能な制御部が、複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する。
本技術に係るプログラムは、複数のセンサからそれぞれセンサ情報を取得可能な制御部に、複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する処理を実行させる。
本技術の第1実施形態に係るドローンを示す図である。 ドローンの内部構成を示すブロック図である。 制御部及びセンサ部の構成を示すブロック図である。 画像上限数の設定に関する処理を示すフローチャートである。 バッテリー残量、消費電力モード及び使用可能消費電力の関係を示す図である。 自己位置推定処理及び障害物停止処理におけるそれぞれの画像使用数及び消費電力の関係を示す図である。 自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低消費電力及び優先度を示す図である。 ドローンの移動速度及び許容処理遅延の関係を示す図である。 自己位置推定処理及び障害物停止処理におけるそれぞれの画像使用数及び処理遅延量の関係を示す図である。 自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低処理遅延及び優先度を示す図である。 最終的な画像上限数が設定されるときの一例を示す図である。 比較例に係るドローンを示す図であり、前回の画像情報(過去フレーム)と、対応するカメラでの今回の画像情報(現在フレーム)との間のオーバーラップ率を示す図である。 比較例に係るドローンを示す図であり、カメラ及び被写体との間の距離を示す図である。 比較例に係るドローンを示す図であり、カメラにより特徴点の少ない被写体を撮像しているときの様子を示す図である。 自己位置推定有用性判定部の処理を示すフローチャートである。 障害物停止有用性判定部の処理を示すフローチャートである。 ドローンの動きの一例を示す図であり、予測速度ベクトル、及び所定範囲の一例を示す側面図である。 ドローンの動きの一例を示す図であり、予測速度ベクトル、及び所定範囲の一例を示す上面図である。 ドローンの動きの他の例を示すであり、予測速度ベクトル、及び所定範囲における他の例を示す側面図である。 ユーザに提示されるUIの一例を示す図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
≪第1実施形態≫
<全体構成及び各部の構成>
図1は、本技術の第1実施形態に係るドローン10を示す図である。
なお、本実施形態の説明では、移動体の一例としてドローン10を例に挙げて説明するが、移動体は、例えば、掃除ロボット、救助用ロボット、車両等であっても構わない。典型的には、移動体は、自律移動可能な装置であればどのような装置であっても構わない。
ドローン10は、ドローン本体11と、ドローン本体11に設けられた1又は複数の回転翼12とを含む。ドローン10は、回転翼12の駆動の制御により、前後左右方向への移動、昇降動作、旋回動作等の各種の動作が可能とされている。
図2は、ドローン10の内部構成を示すブロック図である。図2に示すように、ドローン10は、制御部13と、センサ部14と、回転翼駆動部15と、記憶部16と、通信部17とを含む。
制御部13は、記憶部16に記憶された各種のプログラムに基づき種々の演算を実行し、ドローン10の各部を統括的に制御する。
制御部13は、ハードウェア、又は、ハードウェア及びソフトウェアの組合せにより実現される。ハードウェアは、制御部13の一部又は全部として構成され、このハードウェアとしては、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、VPU(Vision Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)、ASIC(Application Specific Integrated Circuit)、あるいは、これらのうち2以上の組合せなどが挙げられる。
センサ部14は、各種のセンサを含む。なお、センサ部14の詳細については、後述の図3を参照して詳述する。
回転翼駆動部15は、例えば、モータであり、制御部13の制御に応じて回転翼12を駆動させる。
記憶部16は、制御部13の処理に必要な各種のプログラムや、各種のデータが記憶される不揮発性のメモリと、制御部13の作業領域として用いられる揮発性のメモリとを含む。
なお、上記各種のプログラムは、光ディスク、半導体メモリなどの可搬性の記録媒体から読み取られてもよいし、ネットワーク上のサーバ装置からダウンロードされてもよい。
通信部17は、例えば、ドローン10の飛行を制御するためのコントローラ(不図示)や、ネットワーク上のサーバ装置等との間で通信可能に構成されている。
[制御部13及びセンサ部14]
図3は、制御部13及びセンサ部14の構成を示すブロック図である。
図3に示すように、制御部13は、画像上限数設定部21、画像選択部22、自己位置予測部25、障害物停止判定部26、自己位置推定部27、及び駆動制御部28を有している。また、センサ部14は、IMU31(Inertial Measurement Unit)、GPS32、気圧計33、地磁気センサ34及び6台のステレオカメラ35(撮像部)を有している。
IMU31は、直交する3軸方向の加速度を検出する加速度センサと、3軸回りの角速度を検出する角速度センサとを含む。IMU31は、検出した加速度情報及び角速度情報を自己位置予測部25に対して出力する。
GPS32は、複数のGPS衛星からの信号に基づき、GPS位置情報(グローバル座標系におけるドローン10の自己位置)を生成し、GPS位置情報を自己位置推定部27へと出力する。
気圧計33は、気圧を測定し、この気圧情報をドローン10の高度の情報として自己位置推定部27へと出力する。地磁気センサ34は、地磁気を検出し、この地磁気の情報をドローン10の向き及び姿勢の情報として自己位置推定部27へと出力する。
6台のステレオカメラ35は、それぞれ異なる方向を撮像可能とされており、それぞれ、ドローン10の前側、後側、上側、下側、左側、右側を撮像可能とされている。6台のステレオカメラ35は、同期して所定の周期で撮像を繰り返し、撮像により得られた画像情報をそれぞれ障害物停止判定部26及び自己位置推定部27へと出力する。
なお、本実施形態では、撮像部としてステレオカメラ35が用いられているので、各撮像部(ステレオカメラ35)は、それぞれ2枚で1セットの画像情報を取得する。一方、撮像部は、ステレオカメラ35に限られず、1枚の画像を撮像する通常のカメラが用いられてもよい。また、撮像部の数は、6台に限られず適宜変更することができる。
画像上限数設定部21は、所定の条件(バッテリー残量、移動速度等:詳細後述)に基づき、自己位置推定処理に用いられる画像情報(センサ情報)の数に対する上限値(以下、自己位置推定用の画像上限数:第1の上限値又は第2の上限値)を設定する。
また、画像上限数設定部21は、所定の条件(バッテリー残量、移動速度等)に基づき、障害物停止処理に用いられる画像情報(センサ情報)の数に対する上限値(以下、障害物停止用の画像上限数:第1の上限値又は第2の上限値)を設定する。また、画像上限数設定部21は、設定された自己位置推定用の画像上限数と、障害物停止用の画像上限数とを画像選択部22へと出力する。
なお、本実施形態では、自己位置推定用の画像上限数は、1セット、2セット、3セット、・・6セットのうちいずれかである。また、障害物停止用の画像上限数は、3セット、4セット、5セット、6セットのうちいずれかである。ここで、障害物停止処理に用いられる画像情報を少なくしすぎると、障害物停止処理が適切に行えない可能性があるので、本実施形態では、障害物停止用の画像上限数は、3セット以上とされている。
ここで、本実施形態では、上限数が設定されるセンサ情報の一例として画像情報が挙げられている。一方、上限数が設定されるセンサ情報は、画像情報、加速度情報、角速度情報、GPS位置情報、気圧情報、地磁気情報、あるいは、これらの組み合わせであってもよい。
画像選択部22は、6台のステレオカメラ35で撮像された6セットの画像情報のうちどのステレオカメラ35で撮像された画像情報を、自己位置推定処理及び障害物停止処理で使用すれば有用であるか(有用性)を判定し、その有用性に基づき、実際に使用される画像情報を選択する。
画像選択部22は、自己位置推定有用性判定部24及び障害物停止有用性判定部23を有している。
自己位置推定有用性判定部24は、6台のステレオカメラ35で撮像された6セットの画像情報のうちどのステレオカメラ35で撮像された画像情報を、自己位置推定処理で使用すれば有用であるか(有用性)を判定し、その有用性に基づき、実際に使用される画像情報を選択する。なお、選択される画像情報の数(セット数)は、自己位置推定用の画像上限数以内の数とされる。また、自己位置推定有用性判定部24は、選択された画像情報の識別情報(実際にどの画像情報を自己位置推定処理において使用するかの識別情報)を自己位置推定部27へと出力する。
障害物停止有用性判定部23は、6台のステレオカメラ35で撮像された6セットの画像情報のうちどのステレオカメラ35で撮像された画像情報を、障害物停止処理で使用すれば有用であるか(有用性)を判定し、その有用性に基づき、実際に使用される画像情報を選択する。なお、選択される画像情報の数(セット数)は、障害物停止用の画像上限数以内の数とされる。また、障害物停止有用性判定部23は、選択された画像情報の識別情報(実際にどの画像を障害物停止処理において使用するかの識別情報)を障害物停止判定部26へと出力する。
自己位置予測部25は、今回の(現在の)加速度情報及び角速度情報から、位置、姿勢、速度の変化量を求める。そして、自己位置予測部25は、求められた変化量を、自己位置推定部27による前回の(過去の)推定結果(推定位置、推定姿勢及び推定速度)に対して加算し、ドローン10の現在における位置、姿勢及び速度を予測する。また、自己位置予測部25は、予測されたドローン10の位置、姿勢及び速度の情報を、自己位置推定部27、画像上限数設定部21及び画像選択部22へと出力する。
自己位置推定部27は、例えば、SLAM等の各種の方法を用いて自己位置推定処理を実行する。具体的には、自己位置推定部27は、6台のステレオカメラ35で撮像された6セット全ての画像情報の内、画像選択部22よって選択された画像情報に基づき、ドローン10の自己位置、姿勢及び速度を推定する。このとき、自己位置推定部27は、今回の画像情報の特徴点と、対応する前回の画像情報の特徴点との差分から、位置、姿勢、速度の変化量を求める。そして、自己位置推定部27は、求められた変化量を前回の推定位置、推定姿勢、推定速度に加算して、自己位置、姿勢及び速度を算出する。
画像情報に基づく自己位置、姿勢、速度は、GPS32からの位置情報、気圧計33からの高度情報、地磁気センサ34からの姿勢情報と統合され、また、自己位置予測部25から得られる予測位置、予測姿勢、予測速度と統合される。これにより、最終的な現在の自己位置、姿勢、速度が求められる。なお、上述の統合には、拡張カルマンフィルタ等が用いられる。
また、自己位置推定部27は、推定された自己位置、姿勢及び速度を、障害物停止判定部26及び駆動制御部28へと出力する。
障害物停止判定部26は、障害物停止処理(障害物非衝突処理:ドローン10が障害物に衝突しないように、ドローン10を停止、ドローン10の速度を落とす、障害物を避ける動きをドローン10にさせる等の処理)を実行する。
具体的には、障害物停止部は、6台のステレオカメラ35で撮像された6セット全ての画像情報の内、画像選択部22よって選択された画像情報に基づき、障害物となり得る被写体及びドローン10の間の距離(デプス)を算出する。また、障害物停止判定部26は、自己位置推定部27で推定された自己位置、姿勢、速度に基づき、障害物に対して近づいているかどうか、並びに、障害物に近づいている速度等を判定する。
そして、障害物判定部は、所定の閾値以上の速度で、所定の閾値以下の距離の障害物に近づいている場合、ドローン10を停止させるべき(あるいは、速度を落とすべき、障害物を避ける動きをすべき)であると判定し、この判定結果を駆動制御部28へと出力する。
駆動制御部28は、自己位置推定部27から入力されるドローン10の推定位置、推定姿勢、推定速度に基づき、ドローン10が飛行経路(例えば、コントローラから入力される)に沿って正確に飛行するように、回転翼12の駆動を制御する。また、駆動制御部28は、障害物停止判定部26の判定結果に基づき、必要に応じてドローン10を停止させる(あるいは、速度を落とす、障害物を避ける動きをさせる)ように、回転翼12の駆動を制御する。
<動作説明>
次に、制御部13の処理について説明する。
「画像上限数の設定」
制御部13の処理の説明においては、まず、画像上限数設定部21による、自己位置推定用の画像上限数、及び障害物停止用の画像上限数の設定について説明する。図4は、画像上限数の設定に関する処理を示すフローチャートである。
[バッテリー残量に基づく画像上限数の候補の決定]
まず、ステップ101~ステップ104を参照して、バッテリー残量に基づく画像上限数の候補の決定について説明する。
まず、画像上限数設定部21は、バッテリー残量の情報を取得し、また、消費電力モードを確認する(ステップ101)。消費電力モードにおいては、通常の消費電力でドローン10の飛行を行う通常電力モード(省電力モードOFF)と、通常の消費電よりも低い消費電力でドローン10の飛行を行う省電力モード(省電力モードON)とが用意されている。
次に、画像上限数設定部21は、バッテリー残量及び消費電力モードに基づき、使用可能消費電力を算出する(ステップ102)。ここで、本実施形態において使用可能消費電力とは、自己位置推定処理及び障害物停止処理(障害物非衝突処理)において使用可能な消費電力を意味する。なお、バッテリー残量、消費電力モード及び使用可能消費電力の関係は、予め設定された設定データとして記憶部16に記憶されている。
図5は、バッテリー残量、消費電力モード及び使用可能消費電力の関係を示す図である。図5に示すように、通常電力モード(省電力モードOFF)の場合において、バッテリー残量が100%以下~75%以上、75%未満~50%以上、50%未満~25%以上、25%未満であるとき、使用可能消費電力は、それぞれ、6[w]、4.5[w]、3[w]、2[w]とされている。
一方、省電力モード(省電力モードON)の場合、使用可能消費電力は、バッテリー残量がどの値であっても共通で2[w]とされている。
使用可能消費電力を算出すると、次に、画像上限数設定部21は、使用可能消費電力から最低消費電力を減算する(ステップ103)。
図7は、自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低消費電力及び優先度を示す図である。なお、自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低消費電力及び優先度は、予め設定された設定データとして記憶部16に記憶されている。
ここで、本実施形態において、最低画像使用数とは、自己位置推定処理、障害物停止処理においてそれぞれ使用される画像数(セット数)の上限値(自己位置推定用の画像上限数、障害物停止用の画像上限数)における最低限の数である。
図7に示すように、本実施形態では、最低画像使用数は、自己位置推定において1セット(1台のステレオカメラ35によって撮像された1セットの画像)とされており、障害物停止処理において3セット(3台のステレオカメラ35によって撮像された3セットの画像)とされている。つまり、自己位置推定用の画像上限数は、最低で1セットとされており、障害物停止用の画像上限数は、最低で3セットとされている。
図7には、最低画像使用数に対応して最低消費電力が表されている。最低消費電力とは、自己位置推定処理及び障害物停止処理において、最低限必要とされる消費電力を意味する。
図7では、自己位置推定処理における最低画像使用数(自己位置推定用の画像上限数の最低値)が1セットとされているので、自己位置推定処理における最低消費電力は、0.5[w]とされている。また、図7では、障害物停止処理における最低画像使用数(自己位置推定用の画像上限数の最低値)が3セットとされているので、障害物停止処理における最低消費電力は、1.5[w]とされている。なお、ここでの例では、自己位置推定処理、障害物停止処理において、使用される画像のセット数が1増える度に、消費電力が0.5wずつ増える例が挙げられている。
ここで、ステップ103では、使用可能消費電力から、自己位置推定処理の最低消費電力(0.5w)及び障害物停止処理の最低消費電力(1.5w)の合計値(2w)が減算される。
使用可能消費電力から、最低消費電力を減算すると、次に、画像上限数設定部21は、ステップ104へ進む。ステップ104では、画像上限数設定部21は、残りの使用可能電力に基づき、優先度順に画像上限数の候補を決定する。
図7の右側には、自己位置推定処理及び障害物停止処理の優先度が記載されている。本実施形態では、自己位置推定処理の優先度が1とされ、障害物停止処理の優先度が2とされている。なお、優先度1は、優先度2よりも優先度が高いことを意味しており、従って、本実施形態では、自己位置推定処理は、障害物停止処理よりも優先度が高い。
図6は、自己位置推定処理及び障害物停止処理におけるそれぞれの画像使用数及び消費電力の関係を示す図である。なお、自己位置推定処理及び障害物停止処理におけるそれぞれの画像使用数及び消費電力の関係は、予め設定された設定データとして記憶部16に記憶されている。
図6に示すように、本実施形態では、自己位置推定処理において使用される画像数が、1セット、2セット、・・・6セットの場合、消費電力は、0.5[w]、1[w]、・・・3[w]となる。また、障害物停止処理において使用される画像数が、1セット、2セット、・・・6セットの場合、消費電力は、0.5[w]、1[w]、・・・3[w]となる。つまり、自己位置推定処理及び障害物停止処理では、使用される画像のセット数が1増える度に、消費電力が0.5wずつ増える。
ステップ104では、使用可能消費電力から、上記合計値(2[w])を減算した残りの電力を、優先度に応じて自己位置推定処理及び障害物停止処理に割り当て(画像1セット毎に2w必要)、画像上限数(候補)を増やすといった処理が実行される。
ステップ101~104の処理について一例を挙げて具体的に説明する。まず、通常電力モード(省電力モードOFF)において、バッテリー残量が75%未満~50%以上である場合を想定する。
この場合、使用可能消費電力は、4.5wとなる(ステップ102)(図5参照)。そして、この使用可能消費電力4.5[w]から、自己位置推定処理の最低消費電力(0.5[w])及び障害物停止処理の最低消費電力(1.5[w])の合計値である2[w](図7の中央参照)が減算される(ステップ103)。つまり、残りの使用可能消費電力は、4.5-2=2.5[w]である。このとき、自己位置推定用の画像上限数は、1セット(最低画像使用数)であり、障害物停止用の画像上限数(最低画像使用数)は、3セットである(図7の左側参照)。
残りの使用可能電力2.5[w]は、優先度(図7の右側参照)に従って、自己位置推定処理及び障害物停止処理に割り当てられる。このとき、自己位置推定処理及び障害物停止処理において、使用される画像が1セット増えるごとに0.5[w]必要であることが考慮される(図6参照)。
なお、本実施形態では、残りの使用可能消費電力は、優先度が高い自己位置推定処理で使用される画像数(セット数)が最大の6セットに達するまでは、自己位置推定処理に優先的に割り当てられる。
従って、この例の場合、残りの2.5[w]は、全て自己位置推定処理に用いられる電力として用いられる。つまり、残りの2.5[w]において新たに割り当てられる自己位置推定用の画像上限数は、2.5[w]/5=5セットとなり、新たに割り当てられる障害物停止用の画像上限数は、0セットである。
ここで、自己位置推定処理においては、画像上限数について既に1セットの割り当てがある(最低画像使用数:図7の左側参照)ので、自己位置推定用の画像上限数は、合計(1+5)で6セットとなる。また、障害物停止処理においては、画像上限数について既に3セットの割り当てがある(最低画像使用数:図7の左側参照)ので、自己位置推定用の画像上限数は、合計(3+0)で3セットとなる。
なお、ここでの例では、残りの使用可能電力が、優先度が高い自己位置推定における画像上限数が最大値(6セット)に達するまで、自己位置推定に対して割り当てられる場合について説明したが、これに限られない。例えば、残りの使用可能電力を、自己位置推定処用の画像上限値に2セット(1[w])割り当てる度に、障害物停止用の画像上限数に1セット(0.5[w])割り当てるようなことも可能である。
以上説明した処理により、バッテリー残量に基づく画像上限数の候補が、自己位置推定処理及障害物停止処理においてそれぞれ決定される。
[移動速度に基づく画像上限数の候補の決定]
次に、ステップ105~ステップ108を参照して、ドローン10の移動速度に基づく画像上限数の候補の決定について説明する。
まず、画像上限数設定部21は、自己位置予測部25によって予測されたドローン10の現在における移動速度を、自己位置予測部25から取得する(ステップ105)。次に、画像上限数設定部21は、ドローン10の現在の速度に基づき、許容処理遅延を算出する(ステップ106)。
ここで、本実施形態において許容処理遅延とは、自己位置推定処理及び障害物停止処理(障害物非衝突処理)において許容され得る処理時間の遅延量を意味する。本実施形態では、自己位置推定部27による自己位置推定処理の後、自己位置推定の結果に基づき、障害物停止判定部26による障害物停止判定が行われる。従って、許容処理遅延は、自己位置推定処理において許容される遅延時間と、障害物判定処理において許容される遅延時間との合計値である。なお、ドローン10の移動速度と許容処理遅延との関係は、予め設定された設定データとして記憶部16に記憶されている。
図8は、ドローン10の移動速度及び許容処理遅延の関係を示す図である。図8に示すように、ドローン10の移動速度が、20[m/s]以下~15[m/s]以上、15[m/s]未満~10[m/s]以上、10[m/s]未満~5[m/s]以上、5[m/s]未満であるとき、許容処理遅延は、それぞれ、100[ms]、120[m/s]、160[m/s]、220[m/s]とされている。
許容処理遅延を算出すると、次に、画像上限数設定部21は、許容処理遅延から最低処理遅延を減算する(ステップ107)。
図10は、自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低処理遅延及び優先度を示す図である。なお、自己位置推定処理及び障害物停止処理におけるそれぞれの最低画像使用数、最低処理遅延及び優先度は、予め設定された設定データとして記憶部16に記憶されている。
図10に示すように、最低画像使用数は、自己位置推定において1セット(1台のステレオカメラ35によって撮像された1セットの画像)とされており、障害物停止処理において3セット(3台のステレオカメラ35によって撮像された3セットの画像)とされている。つまり、自己位置推定用の画像上限数は、最低で1セットとされており、障害物停止用の画像上限数は、最低で3セットとされている。
図10には、最低画像使用数に対応して最低処理遅延が表されている。最低処理遅延とは、自己位置推定処理及び障害物停止処理において、最低限必要とされる処理時間の遅延量を意味する。
図10では、自己位置推定処理における最低画像使用数(自己位置推定用の画像上限数の最低値)が1セットとされているので、自己位置推定処理における最低処置遅延は、15[ms]とされている。また、図10では、障害物停止処理における最低画像使用数(自己位置推定用の画像上限数の最低値)が3セットとされているので、障害物停止処理における最低処理遅延は、45[ms]とされている。なお、ここでの例では、自己位置推定処理、障害物停止処理において、使用される画像のセット数が1増える度に、処理遅延が15[ms]ずつ増える例が挙げられている。
ここで、ステップ107では、移動速度に基づく許容処理遅延から、自己位置推定処理の最低処置遅延(015[ms])及び障害物停止処理の最低処置遅延(45[ms])の合計値(60[ms])が減算される。
許容処理遅延から最低処置遅延を減算すると、次に、画像上限数設定部21は、ステップ108へ進む。ステップ108では、画像上限数設定部21は、残りの許容処理遅延に基づき、優先度順に画像上限数の候補を決定する。
図10の右側には、自己位置推定処理及び障害物停止処理の優先度が記載されている。本実施形態では、自己位置推定処理の優先度が1とされ、障害物停止処理の優先度が2とされている。なお、優先度1は、優先度2よりも優先度が高いことを意味しており、従って、本実施形態では、自己位置推定処理は、障害物停止処理よりも優先度が高い。
図9は、自己位置推定処理及び障害物停止処理におけるそれぞれの画像使用数及び処理遅延量の関係を示す図である。なお、画像使用数及び処理遅延量の関係は、予め設定された設定データとして記憶部16に記憶されている。
図9に示すように、本実施形態では、自己位置推定処理において使用される画像数が、1セット、2セット、・・・6セットの場合、処理遅延量は、15[ms]、30[ms]、・・・90[ms]となる。また、障害物停止処理において使用される画像数が、1セット、2セット、・・・6セットの場合、処理遅延量は、15[ms]、30[ms]、・・・90[ms]となる。つまり、自己位置推定処理及び障害物停止処理では、使用される画像のセット数が1増える度に、処理遅延量が15[ms]ずつ増える。
ステップ108では、許容処理遅延から、上記合計値(60[ms])を減算した残りの許容処理遅延を、優先度に応じて自己位置推定処理及び障害物停止処理に割り当て(画像1セット毎に15[ms]必要)、画像上限数(候補)を増やすといった処理が実行される。
ステップ105~108の処理について一例を挙げて具体的に説明する。今、ドローン10の移動速度が20[m/s]以下~15[m/s]以上であるとする。
この場合、許容処理遅延は、100[m/s]となる(ステップ106)(図8参照)。そして、この許容処理遅延100[m/s]から、自己位置推定処理の最低処理遅延(15[m/s])及び障害物停止処理の最低処理遅延(45[m/s])の合計値である60[m/s](図10の中央参照)が減算される(ステップ107)。つまり、残りの許容処理遅延は、100-60=40[m/s]である。このとき、自己位置推定用の画像上限数は、1セット(最低画像使用数)であり、障害物停止用の画像上限数(最低画像使用数)は、3セットである(図10の左側参照)。
残りの許容処置遅延40[m/s]は、優先度(図10の右側参照)に従って、自己位置推定処理及び障害物停止処理に割り当てられる。このとき、自己位置推定処理及び障害物停止処理において、使用される画像が1セット増えるごとに15[m/s]必要であることが考慮される(図9参照)。
なお、本実施形態では、残りの許容処理遅延は、優先度が高い自己位置推定処理で使用される画像数(セット数)が最大の6セットに達するまでは、自己位置推定処理に優先的に割り当てられる。
従って、この例の場合、残りの40[m/s]は、全て自己位置推定処理に用いられる時間として用いられる。つまり、残りの40[m/s]において新たに割り当てられる自己位置推定用の画像上限数は、40[ms]/15[ms]=2セット(余り10[ms])となり、新たに割り当てられる障害物停止用の画像上限数は、0セットである。
ここで、自己位置推定処理においては、画像上限数について既に1セットの割り当てがある(最低画像使用数:図10の左側参照)ので、自己位置推定用の画像上限数は、合計(1+2)で3セットとなる。また、障害物停止処理においては、画像上限数について既に3セットの割り当てがある(最低画像使用数:図10の左側参照)ので、自己位置推定用の画像上限数は、合計(3+0)で3セットとなる。
なお、ここでの例では、残りの許容処理遅延が、優先度が高い自己位置推定における画像上限数が最大値(6セット)に達するまで、自己位置推定に対して割り当てられる場合について説明したが、これに限られない。例えば、残りの許容処理遅延を、自己位置推定処用の画像上限値に2セット(30[m/s])割り当てる度に、障害物停止用の画像上限数に1セット(15[m/s])割り当てるようなことも可能である。
以上説明した処理により、ドローン10の移動速度に基づく画像上限数の候補が、自己位置推定処理及障害物停止処理においてそれぞれ決定される。
[最終的な画像上限数の設定]
次に、ステップ109及び110を参照して、最終的な画像上限数の設定について説明する。
まず、画像上限数設定部21は、バッテリー残量に基づく、自己位置推定用の画像上限数の候補(第1の候補又は第2の候補)と、ドローン10の移動速度に基づく、自己位置推定用の画像上限数の候補(第1の候補又は第2の候補)とを比較する(ステップ109)。そして、この2つの候補のうち、小さい方の値を、最終的な自己位置推定用の画像上限数として設定する(ステップ110)。
同様に、画像上限数設定部21は、バッテリー残量に基づく、障害物停止用の画像上限数の候補(第1の候補又は第2の候補)と、ドローン10の移動速度に基づく、障害物停止用の画像上限数の候補(第1の候補又は第2の候補)とを比較する(ステップ109)。そして、この2つの候補のうち、小さい方の値を、最終的な障害物停止用の画像上限数として設定する(ステップ110)。
ステップ109~110の処理について一例を挙げて具体的に説明する。図11は、最終的な画像上限数が設定されるときの一例を示す図である。
バッテリー残量が75%未満~50%以上である場合、上述のように、バッテリー残量に基づく、自己位置推定用の画像上限数の候補は、6セットである。また、ドローン10の移動速度が20[m/s]以下~15[m/s]以上である場合、ドローン10の移動速度に基づく、自己位置推定用の画像上限数の候補は、3セットである。従って、小さい方の値である3セットが、最終的な自己位置推定用の画像上限数として設定される。
また、バッテリー残量が75%未満~50%以上である場合、上述のように、バッテリー残量に基づく、障害物停止用の画像上限数の候補は、3セットである。また、ドローン10の移動速度が20[m/s]以下~15[m/s]以上である場合、ドローン10の移動速度に基づく、障害物停止用の画像上限数の候補は、3セットである。従って、小さい方の値である3セットが、最終的な障害物用の画像上限数として設定される。
ここで、本実施形態では、自己位置推定用の画像上限数及び障害物停止用の画像上限数の両方が設定される場合について説明した。一方、自己位置推定用の画像上限数及び障害物停止用の画像上限数のうち、一方のみが設定されてもよい。
また、本実施形態では、自己位置推定用の画像上限数及び障害物停止用の画像上限数が、バッテリー残量(使用可能消費電力)及びドローン10の移動速度(許容処理遅延)の両方に基づいて設定される場合について説明した。一方、自己位置推定用の画像上限数及び障害物停止用の画像上限数は、バッテリー残量及びドローン10の移動速度のうち一方に基づいて設定されてもよい。
「実際に使用される画像の選択」
次に、画像選択部22が、自己位置推定用の画像として実際に使用される画像をどのようにして画像上限数内の数で選択するか、並びに、障害物停止用の画像として実際に使用される画像をどのようにして画像上限数内の数で選択するかについて説明する。
[自己位置推定処理で使用される画像の選択]
まず、自己位置推定有用性判定部24が、自己位置推定用の画像として実際に使用される画像をどのようにして画像上限数内の数で選択するかについて説明する。典型的には、自己位置推定有用性判定部24は、6台のステレオカメラ35で撮像された6セットの画像情報のうちどの画像を自己位置推定処理において用いれば有用であるか(有用性)についての判断を行い、有用性の高い画像情報を優先的に選択するといった処理を実行する。
(有用性の判断基準)
次に、自己位置推定処理における有用性の判断基準について説明する。
1.オーバーラップ率
図12は、比較例に係るドローン1を示す図であり、前回の画像情報(過去フレーム)と、対応するカメラでの今回の画像情報(現在フレーム)との間のオーバーラップ率を示す図である。
図12に示す例では、ドローン1の下側、右側、左側の3台のカメラが搭載されており、その3台のカメラがラウンドロビン(時間で順番に撮像を行う方式)で撮像を行うときの様子が示されている。また、この方法では、例えば、ぞれぞれのカメラの画像情報から求められたそれぞれの自己位置推定結果が、拡張カルマンフィルタなどよって統合される。
図12では、ドローン1が、被写体である床の近くを床に対して平行に高速で移動している。この場合、下側のカメラは、時刻t1及び時刻t4において被写体である床を撮像することになる。しかし、時刻t1及び時刻t4において下側のカメラの視野角はオーバーラップしていない。このため、時刻t1において撮像された前回の画像情報と、時刻t4において撮像された今回の画像情報とでは、少なくとも部分的に同じ領域が撮像されていない(オーバーラップしていない)ので、自己位置推定処理におけるトラッキングを行うことができない。
つまり、前回の画像情報及び対応する今回の画像情報におけるオーバーラップ率(どの程度同じ領域が撮像されているかの割合)が低い画像情報については、自己位置推定処理に用いられてもあまり意味をなさないので、有用性が相対的に低い。逆に、オーバーラップ率が高い画像情報については、自己位置推定処理に用いられる意義が高いので、有用性が相対的に高い。
2.ドローン1と被写体との間の距離
図13は、比較例に係るドローン1を示す図であり、カメラ及び被写体との間の距離を示す図である。図13に示す例では、右側のカメラと、被写体である壁との間の距離が遠い。このように、遠方を撮像した画像情報に基づいて自己位置推定処理を行ってしまうと、自己位置推定の精度に悪影響を与えてしまう。
つまり、カメラ及び被写体の間の距離が遠い状態で撮像された画像情報については、有用性が相対的に低い。逆に、カメラ及び被写体の間の距離が近い状態で撮像された画像情報については、有用性が相対的に高い。
3.特徴点の数
図14は、比較例に係るドローン1を示す図であり、カメラにより特徴点の少ない被写体を撮像しているときの様子を示す図である。図14に示す例では、右側のカメラにより、例えば、真っ白な壁等の特徴点の少ない被写体が撮像されている。
ここで、自己位置推定処理においては、前回の画像情報の特徴点と、対応する今回の画像情報の特徴点との差分から自己位置推定を行っている。従って、特徴点の少ない画像情報(テクスチャレス)に基づいて自己位置推定処理を行ってしまうと、自己位置推定処理の精度に悪影響を与えてしまう。
つまり、特徴点が少ない画像情報については、有用性が相対的に低い。逆に、特徴点が多い画像情報については、有用性が相対的に高い。
4.動物体の占有率
画像情報内には、動いている人、動物、車、風で揺れる木等の各種の動物体が被写体として映り込む場合がある。画像情報内において動いている動物体が映り込んでいると、例えば、動物体が動いたためにドローン10が動いたように見えたのか、ドローン10自体が動いたのかの判断がつかないといった状況が発生し得る。従って、動物体の占有率が高い画像情報に基づいて自己位置推定処理を行ってしまうと、自己位置推定処理の精度に悪影響を与えてしまう。
つまり、動物体の占有率が高い画像情報については、有用性が相対的に低い。逆に、動物体の占有率が低い画像情報については、有用性が相対的に高い。
自己位置推定有用性判定部24は、上記した1.オーバーラップ率、2.ドローン10と被写体との間の距離、3.特徴点の数、4.動物体の占有率のうち、少なくとも1以上の判断基準に基づき、6セットの画像情報についてそれぞれ有用性を判断し、有用性の高い画像情報を優先的に自己位置推定処理に用いる画像として選択する。なお、選択される画像情報のセット数は、自己位置推定用の画像上限数を限度とされる。
(自己位置推定有用性判定部24の処理)
次に、自己位置推定有用性判定部24の処理について具体的に説明する。図15は、自己位置推定有用性判定部24の処理を示すフローチャートである。なお、図15に示す例では、上述の1.2.3.4.の判断基準の全てが有用性の判断において用いられる場合の一例が示されている。
まず、自己位置推定有用性判定部24は、6セットの画像情報について、それぞれ、前回の画像情報(過去フレーム)と、対応する今回の画像情報との間のオーバーラップ率を計算する(ステップ201)。オーバーラップ率は、例えば、自己位置予測部からの1時刻前の自己位置、姿勢と、現時刻の自己位置、姿勢等から求めることができる。次に、自己位置推定判定部は、6セットの画像情報について、それぞれ、オーバーラップ率が所定の閾値以上であるかどうかを判定する(ステップ202)。
次に、自己位置推定有用性判定部24は、6セットの画像情報のうち、オーバーラップ率が所定の閾値以上の画像情報を、オーバーラップ率が高い順にソートする(ステップ203)。
次に、自己位置推定有用性判定部24は、ドローン10の全周囲についてドローン10と被写体との間の距離(デプス)を取得する(ステップ204)。このデプスの情報は、ステレオカメラ35の画像情報に基づく情報であってもよいし、ステレオカメラ35以外のデプスセンサ(ToF(Time of Flight)、LIDAR(Light Detection and Ranging)、ソナー等)からの情報に基づく情報であってもよい(この場合は、ステレオカメラ35以外のデプスセンサがドローン10に設けられる)。
次に、自己位置推定有用性判定部24は、ドローン10と被写体との間の距離を、各ステレオカメラ35と被写体との間の距離に変換する(ステップ205)。次に、自己位置推定有用性判定部24は、各ステレオカメラ35と被写体との距離を統計値で近似(平均化)して、各ステレオカメラ35からの被写体距離を求める(ステップ206)。
次に、自己位置有用性判定部は、6台のステレオカメラ35について、それぞれ、被写体距離が所定の閾値以下であるかどうかを判定する(ステップ207)。
次に、自己位置推定有用性判定部24は、6台のステレオカメラ35による6セットの画像情報のうち、被写体距離が所定の閾値以下のステレオカメラ35によって撮像された画像情報を、被写体距離が近い順にソートする(ステップ208)。
次に、自己位置推定有用性判定部24は、6セットの画像情報から、それぞれ、特徴点を抽出する(ステップ209)。次に、自己位置推定有用性判定部24は、各画像情報上の動物体の領域をマスク(除外)する(ステップ210)。次に、自己位置推定有用性判定部24は、動物体の領域が除外されたマスク後の各画像情報における特徴点をカウントする(ステップ211)。
次に、自己位置推定有用性判定部24は、6セットの画像情報について、マスク後の特徴点の数が所定の閾値以上であるかどうかを判定する(ステップ212)。次に、自己位置推定有用性判定部24は、6セットの画像情報のうち、マスク後の特徴点数が所定の閾値以上の画像情報を、特徴点数が多い順にソートする(ステップ213)。
次に、自己位置推定有用性判定部24は、ステップ203、208、213でのソート結果に対して、それぞれ重み係数を乗算し、6セットの画像情報についてそれぞれスコアを算出する(ステップ214)。ここで、重み係数は、オーバーラップ率、被写体距離、特徴点数、動物体占有率等の有用性の判断基準の重要性を考慮して設定される値である。例えば、オーバーラップ率が被写体距離よりも有用性の判断基準として重要である場合、オーバーラップ率の重み係数は、被写体距離の重み係数よりも重くされる。
次に、自己位置推定有用性判定部24は、6セットの画像情報にそれぞれ付けられたスコアと、自己位置推定用の画像上限数とに基づき、自己位置推定処理において実際に使用される画像を決定する(ステップ215)。そして、自己位置有用性判定部は、決定された使用画像の識別情報を自己位置推定部27へと出力する。
(1)ステップ215では、例えば、自己位置推定有用性判定部24は、スコアが高い画像情報を、自己位置推定用の画像上限数に対応する数で選択するといった処理を実行する。例えば、スコアが高い順に、前側、後側、上側、下側、左側、右側の画像情報であり、自己位置推定用の画像上限数が3セットである場合、前側、後側、下側の3セットの画像情報が、自己位置推定用の画像情報として選択される。
(2)また、ステップ215では、例えば、自己位置推定有用性判定部24は、スコアが所定の閾値以上である画像情報を、自己位置推定用の画像上限数内の数で選択するといった処理を実行する。例えば、スコアが高い順に、前側、後側、上側、下側、左側、右側の画像情報であり、スコアが所定の閾値以上である画像情報が前側、後側、上側、下側の4セットの画像情報であるとする。この場合に、自己位置推定用の画像上限数が3セットである場合、前側、後側、下側の3セットの画像情報が、自己位置推定用の画像情報として選択される。また、例えば、スコアが高い順に、前側、後側、上側、下側、左側、右側の画像情報であり、スコアが所定の閾値以上である画像情報が前側、後側の2セットの画像情報であるとする。この場合に、自己位置推定用の画像上限数が3セットである場合、前側、後側の2セットの画像情報が、自己位置推定用の画像情報として選択される。
自己位置推定処理に使用される画像を選択すると、次に、自己位置推定有用性判定部24は、選択された使用画像が1以上であるかどうかを判定する(ステップ216)。なお、上述の(2)の場合、6セットの全ての画像情報のスコアが所定の閾値以下のとき、使用画像が0になる場合がある。
使用画像が1以上である場合(ステップ216のYES)、自己位置推定部27は、その使用画像を使用して自己位置推定処理を実行する(ステップ217)。一方、使用画像が0である場合(ステップ216のNO)、自己位置推定部27は、今回の自己位置推定処理においては、画像情報を用いないで、ステレオカメラ35以外のセンサ(IMU31、GPS32、気圧計33、地磁気センサ34等)からの情報に基づいて自己位置推定処理を実行する(ステップ218)。
[障害物停止処理で使用される画像の選択]
次に、障害物停止有用性判定部23が、障害物停止用の画像として実際に使用される画像をどのようにして画像上限数内の数で選択するかについて説明する。典型的には、障害物有用性判定部は、6台のステレオカメラ35で撮像された6セットの画像情報のうちどの画像を障害物停止処理において用いれば有用であるか(有用性)についての判断を行い、有用性の高い画像情報を優先的に選択するといった処理を実行する。
ここで、障害物停止処理における有用性の判断は、ドローン10の移動方向に関係する方向を撮像するステレオカメラ35に対応する画像情報の方が、移動方向とは関係がない方向を撮像するステレオカメラ35に対応する画像情報よりも有用性が高いと判断される。
図16は、障害物停止有用性判定部23の処理を示すフローチャートである。まず、障害物停止有用性判定部23は、自己位置予測部25から現在の予測速度及び予測姿勢を取得する(ステップ301)。
次に、障害物停止有用性判定部23は、予測速度及び予測姿勢から、ドローン10における世界座標系での現在の予測速度ベクトルの方向を求め、その予測速度ベクトルに対して所定の角度(ピッチ角α及びヨー角β)を加算して所定範囲を決定する。ここで、所定範囲は、障害物停止用の画像として実際に使用される画像を選択するための判断基準となる角度範囲である。
図17及び図18は、それぞれ、ドローン10の動きの一例を示す図であり、予測速度ベクトル、及び所定範囲の一例を示す側面図及び上面図である。
図17及び図18に示す例では、ドローン10は、左斜め下方向に進んでおり、その予測速度ベクトルは、世界座標系において左斜め下側の方向を向いている。図17及び図18では、この左斜め下の方向の予測速度ベクトルに対して、ピッチ角α及びヨー角βが加算されて所定範囲が決定される。
図19は、ドローン10の動きの他の例を示すであり、予測速度ベクトル、及び所定範囲における他の例を示す側面図である。
図19に示す例では、ドローン10は、前傾姿勢を保ったまま地面に対して平行に前方に向けて進んでおり、その予測速度ベクトルは、世界座標系において前方を向いている。図19では、この前方向の予測速度ベクトルに対して、ピッチ角α及びヨー角βが加算されて所定範囲が決定される。
所定範囲を決定した後、障害物停止有用性判定部23は、所定範囲と、6セットのステレオカメラ35の各視野角との重複率を算出し、ステレオカメラ35に対応する各画像情報を、所定範囲との重複率が高い方から順番にソートする(ステップ303)。
ここで、図17及び図18に示す例では、所定範囲は、前側のステレオカメラ35の視野角に対する重複率が最も高く、左側のステレオカメラ35の視野角に対する重複率が2番目に高く、下側のステレオカメラ35の視野角に対する重複率が3番目に高い。一方、所定範囲は、上側のステレオカメラ35、右側のステレオカメラ35、後側のステレオカメラ35の視野角とは重複していないので、これらのステレオカメラ35の視野角との重複率は、0である。
従って、この場合、各ステレオカメラ35に対応する画像情報が、重複率が高い順にソートされると、順番に、前側の画像情報、左側の画像情報、下側の画像情報、上側の画像情報=右側の画画像情報=後側の画像情報(=0)となる。
また、図19に示す例では、所定範囲は、前側のステレオカメラ35の視野角に対する重複率が最も高い。一方、所定範囲は、左側のステレオカメラ35、下側のステレオカメラ35、上側のステレオカメラ35、右側のステレオカメラ35、後側のステレオカメラ35の視野角とは重複していないので、これらのステレオカメラ35の視野角との重複率は、0である。
従って、この場合、各ステレオカメラ35に対応する画像情報が、重複率が高い順にソートされると、順番に、前側の画像情報、左側の画像情報=下側の画像情報=上側の画像情報=右側の画画像情報=後側の画像情報(=0)となる。
各画像情報を重複率に基づいてソートした後、障害物有用性判定部は、次のステップ304へ進む。ステップ304では、障害物停止有用性判定部23は、所定範囲との重複率と、障害物停止用の画像上限数とに基づき、障害物停止判定処理において実際に使用される画像を選択する。そして、障害物停止有用性判定部23は、選択された使用画像の識別情報を障害物停止判定部26へと出力する。障害物停止判定部26は、6セットの画像情報のうち、選択された画像情報を使用して障害物停止処理を実行する(ステップ305)。
(1)ステップ304では、例えば、障害物停止有用性判定部23は、所定範囲との重複率が高い視野角を持つステレオカメラ35に対応する画像情報を、障害物停止用の画像上限数に対応する数で選択するといった処理を実行する。
例えば、図17及び図18に示すように、重複率が高い順に、前側の画像情報、左側の画像情報、下側の画像情報、上側の画像情報=右側の画画像情報=後側の画像情報(=0)であるとする。この場合において、障害物停止用の画像上限数が3セットである場合、前側、後側、下側の3セットの画像情報が、障害物停止用の画像情報として選択される。また、例えば、この場合において、障害物停止用の画像上限数が4セットである場合、前側、後側、下側の3セットの画像情報と、上側、右側、後側の画像情報の3セットの画像情報からランダムに選択された1セットの画像情報とで合計で4セットの画像情報が、障害物停止用の画像情報として用いられる。
(2)また、ステップ304では、例えば、障害物停止有用性判定部23は、重複率が所定の閾値(0)を超える画像を、自己位置推定用の画像上限数内の数で選択するといった処理を実行する。例えば、図19に示すように、重複率が高い順に、前側の画像情報、左側の画像情報=下側の画像情報=上側の画像情報=右側の画画像情報=後側の画像情報(=0)であるとする。この場合、重複率が所定の閾値(0)を超える画像は、前側の画像情報のみである。この場合において、障害物停止用の画像上限数が3セットである場合、前側の1セットの画像情報が、障害物停止の画像情報として選択される。
<作用等>
以上説明したように、本実施形態では、自己位置推定処理に用いられる画像情報の数における上限数(自己位置推定用の画像上限数)が設定される。これにより、自己位置推定処理で使用される画像情報の数に制限を設定することができ、消費電力の増大や処理遅延等を防止することができる。
また、本実施形態では、障害物停止処理に用いられる画像情報の数における上限数(障害物停止用の画像上限数)が設定される。これにより、障害物停止処理で使用される画像情報の数に制限を設定することができ、消費電力の増大や処理遅延等を防止することができる。
また、本実施形態では、バッテリー残量や、使用可能消費電力に基づいて、自己位置推定用の画像上限数及び障害物停止用の画像上限数が設定される。これにより、適切に消費電力を低減させることができる。
また、本実施形態では、ドローン10の移動速度や、許容処理遅延に基づいて、自己位置推定用の画像上限数及び障害物停止用の画像上限数が設定される。これにより、適切に処理遅延を低減させることができる。
また、本実施形態では、バッテリー残量(使用可能消費電力)に基づく、自己位置推定用の画像上限数の候補と、移動速度(許容処理遅延)に基づく、自己位置推定用の画像上限数の候補とのうち、小さい方の値が自己位置推定用の画像上限数として設定される。
同様に、バッテリー残量(使用可能消費電力)に基づく、障害物停止用の画像上限数の候補と、移動速度(許容処理遅延)に基づく、障害物停止用の画像上限数の候補とのうち、小さい方の値が自己位置推定用の画像上限数として設定される。
これにより、自己位置推定用の画像上限数及び障害物停止用の画像上限数を適切な値として設定することができる。
また、本実施形態では、使用可能消費電力から最低消費電力を減算した値である残りの使用可能消費電力の割り当てにおいて、自己位置推定処理及び障害物停止処理に優先度が設定されている(ステップ104、図7右側参照)。そして、この優先度に基づいて、自己位置推定用の画像上限数及び障害物停止用の画像上限数が設定される。
同様に、許容処理遅延から最低処理遅延を減算した値である残りの許容処理遅延の割り当てにおいて、自己位置推定処理及び障害物停止処理に優先度が設定されている(ステップ108、図10右側参照)。そして、この優先度に基づいて、自己位置推定用の画像上限数及び障害物停止用の画像上限数が設定される。
これにより、自己位置推定用の画像上限数及び障害物停止用の画像上限数を適切な値として設定することができる。
また、本実施形態では、各画像情報のうちどの画像情報を自己位置推定処理において使用すれば有用であるか(有用性)についての判断が行われる。そして、有用性の高い画像情報が、実際に自己位置推定処理に用いられる画像情報として、自己位置推定用の画像上限数内の数で選択される。
同様に、各画像情報のうちどの画像情報を障害物停止処理において使用すれば有用であるか(有用性)についての判断が行われる。そして、有用性の高い画像情報が、実際に障害物停止処理に用いられる画像情報として、障害物停止の画像上限数内の数で選択される。
これにより、実際に自己位置推定処理に用いられる画像情報、及び実際に障害物停止処理に用いられる画像情報を適切に選択することができる。
また、本実施形態では、自己位置推定処理に用いられる画像情報の有用性の判断基準として、オーバーラップ率、ドローン10と被写体との間の距離、特徴点の数、動物体の占有率等が用いられる。これにより、適切に有用性を判断することができる。
また、本実施形態では、障害物停止処理に用いられる画像情報の有用性の判断基準として、ドローン10の移動方向(予測速度ベクトル)や、所定範囲及び各ステレオカメラ35の視野角の重複率等が用いられる。これにより、適切に有用性を判断することができる。
≪各種変形例≫
ここで、現在において、6セットの画像情報のうちどの画像情報が自己位置推定用の画像情報として用いられているのか、並びに、6セットの画像情報のうちどの画像情報が障害物停止用の画像情報として用いられているのかをユーザに提示するためのUI(User Interface)が、例えば、コントローラの表示部等に表示されてもよい。
図20は、ユーザに提示されるUIの一例を示す図である。図20では、6セットの画像情報のうち、前側、下側、左側の3セットの画像情報(白参照)が、自己位置推定用の画像情報又は障害物停止用の画像情報として用いられているときの様子が示されている。
ここで、特に、障害物停止処理においては、障害物が存在しないにも拘わらず、逆光やフレア等を原因とする誤作動によりドローン10が停止してしまう場合がある。このとき、ユーザは、UIを視認することで、どの方向の画像情報に基づいて障害物停止処理が実行されたことにより誤作動が生じたかを確認することができる。これにより、ユーザは、誤作動の原因が分かるので、誤作動に対する対処がしやすくなる。
本技術は以下の構成をとることもできる。
(1) 複数のセンサからそれぞれセンサ情報を取得可能であり、複数のセンサ情報のうち少なくとも1以上のセンサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する制御部
を具備する移動体。
(2) 上記(1)に記載の移動体であって、
前記制御部は、バッテリー残量に基づいて、前記第1の上限値を設定する
移動体。
(3) 上記(2)に記載の移動体であって、
前記バッテリー残量に基づいて使用可能消費電力を算出し、前記使用可能消費電力に基づいて、前記第1の上限値を設定する
移動体。
(4) 上記(1)に記載の移動体であって、
前記制御部は、前記移動体の移動速度に基づいて、前記第1の上限値を設定する
移動体。
(5) 上記(4)に記載の移動体であって、
前記制御部は、前記移動体の移動速度に基づいて、前記第1の処理に掛かる時間として許容される遅延量である許容処理遅延を算出し、前記許容処理遅延に基づいて、前記第1の上限値を設定する
移動体。
(6) 上記(1)に記載の移動体であって、
前記制御部は、前記バッテリー残量及び前記移動体の移動速度の両者に基づいて、前記第1の上限値を設定する
移動体。
(7) 上記(6)に記載の移動体であって、
前記制御部は、前記バッテリー残量に基づいて前記第1の上限値の第1の候補を算出し、かつ、前記移動体の移動速度に基づいて前記第1の上限値の第2の候補を算出し、前記第1の候補及び第2の候補に基づいて前記第1の上限値を設定する
移動体。
(8) 上記(7)に記載の移動体であって、
前記第1の候補及び前記第2の候補のうち小さい方の値を前記第1の上限値として設定する
移動体。
(9) 上記(1)~(8)のうちいずれか1つに記載の移動体であって、
前記制御部は、少なくとも1以上の前記センサ情報に基づいて、前記移動体の移動に関する、前記第1の処理とは異なる第2の処理を実行し、前記第2の処理において使用される前記センサ情報の数における第2の上限値を設定する
移動体。
(10) 上記(9)に記載の移動体であって、
前記制御部は、バッテリー残量又は前記移動体の移動速度に基づいて前記第1の上限値及び前記第2の上限値を設定し、かつ、前記第1の処理及び前記第2の処理に関する所定の優先度に基づき、前記第1の上限値及び前記第2の上限値を設定する
移動体。
(11) 上記(9)又は(10)のうちいずれか1つに記載の移動体であって、
前記第1の処理は、自己位置推定処理及び障害物非衝突処理のうち一方であり、前記第2の処理は、前記自己位置推定処理及び前記障害物非衝突処理のうち他方である
移動体。
(12) 上記(1)~(11)のうちいずれか1つに記載の移動体であって、
前記制御部は、前記複数のセンサ情報のうちどのセンサ情報を前記第1の処理において使用するかを、前記第1の上限値以内の数で決定する
移動体。
(13) 上記(12)に記載の移動体であって、
前記複数のセンサ情報についてそれぞれ有用性を判定し、前記有用性が相対的に高いセンサ情報を優先的に第1の処理において使用する
移動体。
(14) 上記(13)に記載の移動体であって、
前記複数のセンサは、それぞれ異なる方向を撮像可能な複数の撮像部を含み、
前記複数のセンサ情報は、それぞれ前記複数の撮像部により撮像された画像情報を含む
移動体。
(15) 上記(14)に記載の移動体であって、
前記制御部は、前記撮像部の撮像方向と、前記移動体の移動方向に基づいて、前記有用性を判定する
移動体。
(16) 上記(14)に記載の移動体であって、
前記制御部は、各撮像部における前回の画像情報及び対応する今回の画像情報のオーバーラップ率、各撮像部及び被写体の間の距離、各画像情報における特徴点の数、並びに、各画像情報における動物体の占有率のうち、少なくとも1以上に基づいて、前記有用性を判定する
移動体。
(17) 上記(12)~(16)のうちいずれか1つに記載の移動体であって、
前記制御部は、少なくとも1以上の前記センサ情報に基づいて、前記移動体の移動に関する、前記第1の処理とは異なる第2の処理を実行し、前記第2の処理において使用される前記センサ情報の数における第2の上限値を設定し、前記複数のセンサ情報のうちどのセンサ情報を前記第2の処理において使用するかを、前記第2の上限値以内の数で決定する
移動体。
(18) 上記(17)に記載の移動体であって、
前記複数のセンサ情報についてそれぞれ有用性を判定し、前記有用性が相対的に高いセンサ情報を優先的に前記第2の処理において使用する
移動体。
(19) 複数のセンサからそれぞれセンサ情報を取得可能な制御部が、
複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、
前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する
情報処理方法。
(20) 複数のセンサからそれぞれセンサ情報を取得可能な制御部に、
複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、
前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する
処理を実行させるプログラム。
10…ドローン
13…制御部
14…センサ部
21…画像上限数設定部
22…画像選択部
25…自己位置予測部
26…障害物停止判定部
27…自己位置推定部
35…ステレオカメラ

Claims (20)

  1. 複数のセンサからそれぞれセンサ情報を取得可能であり、複数のセンサ情報のうち少なくとも1以上のセンサ情報に基づいて移動体の移動に関する第1の処理を実行し、前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する制御部
    を具備する移動体。
  2. 請求項1に記載の移動体であって、
    前記制御部は、バッテリー残量に基づいて、前記第1の上限値を設定する
    移動体。
  3. 請求項2に記載の移動体であって、
    前記制御部は、前記バッテリー残量に基づいて使用可能消費電力を算出し、前記使用可能消費電力に基づいて、前記第1の上限値を設定する
    移動体。
  4. 請求項1に記載の移動体であって、
    前記制御部は、前記移動体の移動速度に基づいて、前記第1の上限値を設定する
    移動体。
  5. 請求項4に記載の移動体であって、
    前記制御部は、前記移動体の移動速度に基づいて、前記第1の処理に掛かる時間として許容される遅延量である許容処理遅延を算出し、前記許容処理遅延に基づいて、前記第1の上限値を設定する
    移動体。
  6. 請求項1に記載の移動体であって、
    前記制御部は、前記バッテリー残量及び前記移動体の移動速度の両者に基づいて、前記第1の上限値を設定する
    移動体。
  7. 請求項6に記載の移動体であって、
    前記制御部は、前記バッテリー残量に基づいて前記第1の上限値の第1の候補を算出し、かつ、前記移動体の移動速度に基づいて前記第1の上限値の第2の候補を算出し、前記第1の候補及び第2の候補に基づいて前記第1の上限値を設定する
    移動体。
  8. 請求項7に記載の移動体であって、
    前記第1の候補及び前記第2の候補のうち小さい方の値を前記第1の上限値として設定する
    移動体。
  9. 請求項1に記載の移動体であって、
    前記制御部は、少なくとも1以上の前記センサ情報に基づいて、前記移動体の移動に関する、前記第1の処理とは異なる第2の処理を実行し、前記第2の処理において使用される前記センサ情報の数における第2の上限値を設定する
    移動体。
  10. 請求項9に記載の移動体であって、
    前記制御部は、バッテリー残量又は前記移動体の移動速度に基づいて前記第1の上限値及び前記第2の上限値を設定し、かつ、前記第1の処理及び前記第2の処理に関する所定の優先度に基づき、前記第1の上限値及び前記第2の上限値を設定する
    移動体。
  11. 請求項9に記載の移動体であって、
    前記第1の処理は、自己位置推定処理及び障害物非衝突処理のうち一方であり、前記第2の処理は、前記自己位置推定処理及び前記障害物非衝突処理のうち他方である
    移動体。
  12. 請求項1に記載の移動体であって、
    前記制御部は、前記複数のセンサ情報のうちどのセンサ情報を前記第1の処理において使用するかを、前記第1の上限値以内の数で決定する
    移動体。
  13. 請求項12に記載の移動体であって、
    前記複数のセンサ情報についてそれぞれ有用性を判定し、前記有用性が相対的に高いセンサ情報を優先的に前記第1の処理において使用する
    移動体。
  14. 請求項13に記載の移動体であって、
    前記複数のセンサは、それぞれ異なる方向を撮像可能な複数の撮像部を含み、
    前記複数のセンサ情報は、それぞれ前記複数の撮像部により撮像された画像情報を含む
    移動体。
  15. 請求項14に記載の移動体であって、
    前記制御部は、前記撮像部の撮像方向と、前記移動体の移動方向に基づいて、前記有用性を判定する
    移動体。
  16. 請求項14に記載の移動体であって、
    前記制御部は、各撮像部における前回の画像情報及び対応する今回の画像情報のオーバーラップ率、各撮像部及び被写体の間の距離、各画像情報における特徴点の数、並びに、各画像情報における動物体の占有率のうち、少なくとも1以上に基づいて、前記有用性を判定する
    移動体。
  17. 請求項12に記載の移動体であって、
    前記制御部は、少なくとも1以上の前記センサ情報に基づいて、前記移動体の移動に関する、前記第1の処理とは異なる第2の処理を実行し、前記第2の処理において使用される前記センサ情報の数における第2の上限値を設定し、前記複数のセンサ情報のうちどのセンサ情報を前記第2の処理において使用するかを、前記第2の上限値以内の数で決定する
    移動体。
  18. 請求項17に記載の移動体であって、
    前記複数のセンサ情報についてそれぞれ有用性を判定し、前記有用性が相対的に高いセンサ情報を優先的に前記第2の処理において使用する
    移動体。
  19. 複数のセンサからそれぞれセンサ情報を取得可能な制御部が、
    複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、
    前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する
    情報処理方法。
  20. 複数のセンサからそれぞれセンサ情報を取得可能な制御部に、
    複数の前記センサ情報のうち少なくとも1以上の前記センサ情報に基づいて移動体の移動に関する第1の処理を実行し、
    前記第1の処理において使用される前記センサ情報の数における第1の上限値を設定する
    処理を実行させるプログラム。
JP2021115203A 2021-07-12 2021-07-12 移動体、情報処理方法及びプログラム Pending JP2023011376A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021115203A JP2023011376A (ja) 2021-07-12 2021-07-12 移動体、情報処理方法及びプログラム
PCT/JP2022/013917 WO2023286378A1 (ja) 2021-07-12 2022-03-24 移動体、情報処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021115203A JP2023011376A (ja) 2021-07-12 2021-07-12 移動体、情報処理方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2023011376A true JP2023011376A (ja) 2023-01-24

Family

ID=84919933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021115203A Pending JP2023011376A (ja) 2021-07-12 2021-07-12 移動体、情報処理方法及びプログラム

Country Status (2)

Country Link
JP (1) JP2023011376A (ja)
WO (1) WO2023286378A1 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3931907B2 (ja) * 2005-03-14 2007-06-20 松下電工株式会社 自律移動装置
JP2010055422A (ja) * 2008-08-28 2010-03-11 Murata Machinery Ltd 自律移動装置
WO2012164691A1 (ja) * 2011-05-31 2012-12-06 株式会社日立製作所 自律移動システム
US9953618B2 (en) * 2012-11-02 2018-04-24 Qualcomm Incorporated Using a plurality of sensors for mapping and localization
JP2018106523A (ja) * 2016-12-27 2018-07-05 日本車輌製造株式会社 搬送車

Also Published As

Publication number Publication date
WO2023286378A1 (ja) 2023-01-19

Similar Documents

Publication Publication Date Title
CN108225358B (zh) 交通工具导航
TWI827649B (zh) 用於vslam比例估計的設備、系統和方法
US20190243376A1 (en) Actively Complementing Exposure Settings for Autonomous Navigation
CN105518702A (zh) 一种对目标物体的检测方法、检测装置以及机器人
JP2024053085A (ja) 飛行体制御装置、飛行体制御方法、及びプログラム
JPWO2017009923A1 (ja) 自己位置推定装置及び自己位置推定方法
JP6805989B2 (ja) カバレッジ装置、移動体、制御装置、移動体の分散制御プログラム
CN110751336B (zh) 无人载具的避障方法、避障装置及无人载具
CN110946511B (zh) 打滑判断的方法、设备及存储介质
WO2020083069A1 (zh) 避让的方法、设备及存储介质
WO2021037071A1 (zh) 一种飞行控制方法及相关装置
KR20220080071A (ko) 다리 스윙 궤적들
CN111949027A (zh) 自适应的机器人导航方法和装置
JP2017188067A (ja) 自律移動体
WO2020014864A1 (zh) 位姿确定方法、设备、计算机可读存储介质
JP3633469B2 (ja) 車間距離設定装置
WO2023286378A1 (ja) 移動体、情報処理方法及びプログラム
US20230098219A1 (en) Mobile object control device, mobile object, learning device, learning method, and storage medium
JP6926604B2 (ja) 監視装置、移動体の監視対象追従制御装置、監視対象追従制御プログラム
JP7439822B2 (ja) 地図作成装置、地図作成方法、及びプログラム
CN111615677B (zh) 一种无人机的安全降落方法、装置、无人机及介质
KR102070110B1 (ko) 자율 무인 시스템을 위한 지능 에이전트 시스템
WO2022176409A1 (ja) 位置推定システム、移動体、位置推定方法及び記録媒体
JP2021047744A (ja) 情報処理装置、情報処理方法及び情報処理プログラム
US11967157B2 (en) Robot and method for controlling thereof