JP6311695B2 - 自律移動装置、自律移動方法及びプログラム - Google Patents

自律移動装置、自律移動方法及びプログラム Download PDF

Info

Publication number
JP6311695B2
JP6311695B2 JP2015245196A JP2015245196A JP6311695B2 JP 6311695 B2 JP6311695 B2 JP 6311695B2 JP 2015245196 A JP2015245196 A JP 2015245196A JP 2015245196 A JP2015245196 A JP 2015245196A JP 6311695 B2 JP6311695 B2 JP 6311695B2
Authority
JP
Japan
Prior art keywords
unit
estimation
storage unit
movement processing
autonomous mobile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015245196A
Other languages
English (en)
Other versions
JP2017111606A (ja
Inventor
哲郎 成川
哲郎 成川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2015245196A priority Critical patent/JP6311695B2/ja
Priority to US15/269,917 priority patent/US10296009B2/en
Priority to CN201611033504.9A priority patent/CN107053166B/zh
Publication of JP2017111606A publication Critical patent/JP2017111606A/ja
Application granted granted Critical
Publication of JP6311695B2 publication Critical patent/JP6311695B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1671Programme controls characterised by programming, planning systems for manipulators characterised by simulation, either to verify existing program or to create and verify new program, CAD/CAM oriented, graphic oriented programming systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Manipulator (AREA)

Description

本発明は、自律移動装置、自律移動方法及びプログラムに関する。
用途に応じて自律的に移動する自律移動装置が普及してきている。例えば、屋内の掃除のために自律的に移動する自律移動装置が知られている。一般的に、このような自律移動装置は、実空間の地図の作成と、実空間内での自機位置の推定を行う必要がある。
実空間の地図を作成するための手法としては、例えばSLAM(Simultaneous Localization And Mapping)法が知られている。単眼カメラを用いたSLAM技術の基本的な原理は、非特許文献1に記載されており、カメラの撮影する動画像の複数フレームから、同一の特徴点を追跡することで、自機の3次元位置(カメラ位置)と特徴点の3次元位置(これが集まって地図の情報を構成する)とを交互に推定する処理を行っている。
また、実空間内で環境地図を作成して自律移動を行う自律移動装置がある(例えば、特許文献1、2参照)。
Andrew J.Davison, "Real−Time Simultaneous Localization and Mapping with a Single Camera", Proceedings of the 9th IEEE International Conference on Computer Vision Volume 2, 2003, pp.1403−1410 Richard Hartley, Andrew Zisserman, "Multiple View Geometry in Computer Vision", Second Edition, Cambridge. University Press, March 2004, chapter 9
特開2015−146091号公報 特開2014−186694号公報
このような画像を用いた自機位置推定では、カメラの撮影する方向が大きく変わった場合や撮影した画像中に特徴点が少ない場合は、過去の画像との共通特徴点が得られず、自機位置の推定に失敗するという問題があった。
また、特許文献1には、移動量に基づいて自己位置の候補点を推定し、地図上に複数の測定点を定め、距離マップに基づき前記測定点から壁までの距離を評価距離とし、第1評価工程において、評価距離に基づいて一致する度合いを評価し、第2の評価工程において、外界センサから測定点を向く方向の単位ベクトルである測定方向ベクトルと、測定点の壁方向ベクトルとの内積を評価関数として評価し、第1の評価工程において一致が大きく、かつ前記第2の評価工程において評価関数が大きい候補点を、自己位置として推定する移動ロボットの自己位置推定方法が開示されている。
また、特許文献2には、起動されたときに、停止要因記憶手段に記憶されている停止要因に基づいて、現在の自己位置から継続して自律移動が可能であるか否かを判断し、自律移動が可能であると判断した場合には、自己位置記憶手段に記憶されている自己位置に基づいて自律移動を開始し、自律移動が不可能であると判断した場合には、停止状態を保持することを特徴とする自律移動式無人搬送車が開示されている。
しかしながら、特許文献1に記載の技術では、自己位置推定の精度を上げることはできるが、自機位置の推定に失敗した場合、復帰ができないという課題があった。
また特許文献2に記載の技術では、やはり自律移動が不可能であると判断した場合、復帰ができないという課題があった。
そこで、本発明は、上記問題を解決するためになされたものであり、自機位置推定が不可能になった状態から素早く復帰することのできる自律移動装置等を提供することを目的とする。
上記目的を達成するため、本発明の自律移動装置は、
撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理部と、
前記撮像部が撮影した複数の画像の情報を用いて自機位置を推定する位置推定部と、
前記位置推定部における自機位置の推定結果が一つに定まるか否かを判定する推定判定部と、
前記推定判定部が、前記推定結果が一つに定まらないと判定した場合には、前記位置推定部における自機位置の推定結果が一つに定まる位置に移動するように前記移動処理部を制御する移動処理制御部と、
前記移動処理部により自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録部と、
前記推定判定部が前記推定結果が一つに定まると判定した場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録部と、
を備え、
前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記位置履歴記憶部に登録されている位置に自機がいた時点まで遡りながら、前記位置変化履歴記憶部に登録されている位置の変化量とは逆方向に移動するように前記移動処理部を制御することを特徴とする。
本発明によれば、自機位置推定が不可能になった状態から素早く復帰することができる。
実施形態に係る自律移動装置の外観を示す図である。 実施形態に係る自律移動装置の構成を示す図である。 実施形態に係る自律移動制御処理全体のフローチャートを示す図である。 実施形態に係る自律移動制御処理の中の自機位置推定スレッドの初期化処理のフローチャートを示す図である。 実施形態に係る自律移動制御処理の中の自機位置推定スレッドの初期化後のメイン処理のフローチャートを示す図である。 実施形態に係る自律移動制御処理の中の地図作成スレッドの処理のフローチャートを示す図である。 実施形態に係る自律移動制御処理の中のループクロージングスレッドの処理のフローチャートを示す図である。 第一の実施形態に係る自律移動制御処理の中の移動処理制御の処理のフローチャートを示す図である。 第二の実施形態に係る自律移動制御処理の中の移動処理制御の処理のフローチャートを示す図である。 第三の実施形態に係る自律移動装置の構成を示す図である。 第三の実施形態に係る自律移動制御処理の中の移動処理制御の処理のフローチャートを示す図である。
以下、図1を参照しながら、本発明の実施形態に係る自律移動装置について説明する。自律移動装置100は、用途に応じて自律的に移動する。この用途とは、例えば、警備監視用、屋内掃除用、ペット用、玩具用などである。
自律移動装置100は、外観上、撮像部41、駆動部42を備える。
撮像部41は、単眼の撮像装置(カメラ)を備える。撮像部41は、例えば、30fpsで画像(フレーム)を取得する。自律移動装置100は、撮像部41が逐次取得した画像に基づいて、自機位置と周囲環境とをリアルタイムに認識しながら、自律移動を行う。
駆動部42は、独立2輪駆動型であって、車輪とモータとを備える移動手段である。自律移動装置100は、2つの車輪の同一方向駆動により前後の平行移動(並進移動)を、2つの車輪の逆方向駆動によりその場での回転(向き変更)を、2つの車輪のそれぞれ速度を変えた駆動により旋回移動(並進+回転(向き変更)移動)を、行うことができる。また、各々の車輪にはロータリエンコーダが備えられており、ロータリエンコーダで車輪の回転数を計測し、車輪の直径や車輪間の距離等の幾何学的関係を利用することで並進移動量及び回転量を計算できる。例えば、車輪の直径をD、回転数をR(ロータリエンコーダにより測定)とすると、その車輪の接地部分での並進移動量はπ・D・Rとなる。また、車輪の直径をD、車輪間の距離をI、右車輪の回転数をR、左車輪の回転数をRとすると、向き変更の回転量は(右回転を正とすると)360°×D×(R−R)/(2×I)となる。この並進移動量や回転量を逐次足し合わせていくことで、駆動部42は、いわゆるオドメトリとして機能し、自機位置(移動開始時の位置及び向きを基準とした位置及び向き)を計測することができる。
オドメトリから得られる自機の位置及び向きの精度は、車輪の摩耗やスリップ等により、低い精度になってしまうことが多い。特に誤差が累積していく関係上、時間経過と共に精度が悪化する。ただし、オドメトリの回転成分(向きの情報)に関しては、後述する角速度センサ情報を用いることで精度を向上させることができる。また、地磁気を検出して方位を特定する方位センサ(図示せず)を用いることで、オドメトリからの取得値とは関係なく、地磁気を利用した絶対的な向きの情報を取得することもできる。
なお、車輪の代わりにクローラを備えるようにしても良いし、複数(例えば二本)の足を備えて足で歩行することによって移動を行うようにしても良い。これらの場合も、二つのクローラの動きや、足の動きに基づいて、車輪の場合と同様に自機の位置や向きの計測が可能である。
図2に示すように、自律移動装置100は、撮像部41、駆動部42に加えて、制御部10、記憶部20、センサ部30、入力部43、通信部44、電源45、を備える。
制御部10は、CPU(Central Processing Unit)等で構成され、記憶部20に記憶されたプログラムを実行することにより、後述する各部(移動処理部11、地図作成部12、位置推定部13、推定判定部14、移動処理制御部15)の機能を実現する。
記憶部20は、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成され、画像記憶部21、地図記憶部22、位置変化履歴記憶部23、位置履歴記憶部24を含む。ROMには制御部10のCPUが実行するプログラム(例えば、後述するSLAM法の演算や自律移動制御処理に係るプログラム)や、プログラムを実行する上で予め必要なデータが記憶されている。RAMには、プログラム実行中に作成されたり変更されたりするデータが記憶される。
画像記憶部21には、撮像部41が撮影した画像が記憶される。ただし、記憶容量の節約のために、撮影したすべての画像を記憶しなくてもよく、また画像自体ではなく、画像の特徴量を記憶するようにしても良い。重要な画像(後述するキーフレーム)については、画像の情報と共に、その画像を撮影した時の自機位置(自機の位置及び向き)の情報が記憶される。
地図記憶部22には、後述するSLAM法や障害物センサ33からの情報に基づいて地図作成部12が作成した地図(特徴点や障害物の3次元位置の情報)が記憶される。
位置変化履歴記憶部23には、移動処理部11によって自機の位置がどのように変化したかの履歴が記憶される。
位置履歴記憶部24には、位置推定部13によって推定された自機位置の履歴が記憶される。
センサ部30として、加速度センサ31、角速度センサ32、障害物センサ33を備える。加速度センサ31は、XYZ方向(3軸)の加速度を測定するセンサである。これらの値を時間積分することでXYZの各方向の速度を求めることができ、さらにこれら速度を時間積分することでXYZの各方向の位置の変化量(移動距離)を求めることができる(ただしセンサ値を二回積分するので、累積誤差はかなり大きくなる)。
角速度センサ32は角速度(単位時間あたりの角度移動量)を測定するセンサである。車輪の回転数に基づいて自機の向きを求めるよりも、角速度センサ32を用いて向きを求める方が精度が向上することが知られている。障害物センサ33は、走行中の障害物を検知するセンサであって、例えば、赤外線センサ、超音波センサである。なお、独立した障害物センサ33を搭載せずに、撮像部41を用いて障害物を検知するようにしても良い。また、他の物体に衝突したことを検知するバンパーセンサー(図示せず)を備えても良い。また、地磁気を検出して方位を特定する方位センサ(図示せず)を備えても良い。方位センサを用いることで、オドメトリからの取得値とは関係なく、地磁気を利用した絶対的な向きの情報を取得することができる。
入力部43として、自律移動装置100を操作するための操作ボタンを備える。操作ボタンは、例えば、電源ボタン、モード切替ボタン(掃除モード、ペットモード等を切り替える)、初期化ボタン(地図の作成をやり直しさせる)などを含む。入力部43として、音の入力を行うマイク(図示せず)と、自律移動装置100への操作指示の音声を認識する音声認識部を備えても良い。
通信部44は、外部装置と通信するためのモジュールであり、外部装置と無線通信する場合にはアンテナを含む無線モジュールである。例えば、通信部44は、Bluetooth(登録商標)に基づく近距離無線通信を行うための無線モジュールである。通信部44では、自律移動装置100と外部とのデータ受け渡し等を行う。
電源45は、自律移動装置100を動作させる電源であり、一般的には内蔵された充電池であるが、太陽電池であっても良いし、床面から無線で電力供給されるシステムであっても良い。電源45が充電池の場合は、充電ステーション(ホームベース)に自律移動装置100がドッキングすることで充電される。
次に、制御部10の機能について説明する。制御部10は、移動処理部11、地図作成部12、位置推定部13、推定判定部14、移動処理制御部15を含み、後述するSLAM法の演算や自律移動装置100の移動指示等を行う。また、制御部10は、マルチスレッド機能に対応しており、複数のスレッド(異なる処理の流れ)を並行して進めることができる。
移動処理部11は、駆動部42を動かして自機を移動させる処理を行う。
地図作成部12は、画像記憶部21に記憶されている画像の情報並びに該画像撮影時の自機の位置及び向きの情報に基づいてSLAM法を用いて推定された特徴点の3次元位置(Map点)や、障害物センサ33で障害物を検知したときの自機の位置及び向きの情報に基づいて得られた該障害物の3次元位置等を、地図の情報として地図記憶部22に記憶する。
位置推定部13は、後述するSLAM法に基づいて、ビジュアルオドメトリとして、自機の位置及び向きを推定する。
推定判定部14は、現在取得できている情報に基づいて位置推定部13が自機位置を推定することが可能かどうかを判定する。より詳しくは、自機位置を推定するのに必要な情報が取得できており、それらの情報に基づいた自機位置の推定結果が一つに定まるなら推定可能と判定する。逆に、自機位置を推定するのに必要な情報が取得できていなかったり、取得できていてもそれらの情報に基づいた自機位置の推定結果が不定(複数の推定候補が生じてしまう等)になってしまったりしてしまう場合は推定不可能と判定する。
移動処理制御部15は、推定判定部14が推定不可能と判定した場合に、自機位置を推定可能な位置に自律的に移動するように移動処理部11を制御する。
図3は、自律移動装置100のメインフローである。制御部10は、自機位置推定スレッド(ステップS101)、地図作成スレッド(ステップS102)、ループクロージングスレッド(ステップS103)の各スレッドを起動する。自機位置推定スレッドや地図作成スレッドが動作することで、SLAM法に基づいて、地図の情報及びビジュアルオドメトリ(地図と画像とを用いて推定した自機位置の情報)の生成が開始される。そして、制御部10は、位置変化履歴カウンタDC(位置変化履歴記憶部23への位置変化履歴の登録数を示す変数)を0クリアする(ステップS104)。その後、制御部10は、動作終了かどうかを判定し(ステップS105)、動作終了なら(ステップS105;Yes)動作を終了し、動作終了でなければ(ステップS105;No)地図作成部12が地図の情報の作成・更新を行う(ステップS106)。
次に制御部10は、推定状態変数ES(位置推定が可能な状態なのか否かを表す変数)の値が「位置推定不可能」であるかを判定する(ステップS107)。位置推定不可能なら(ステップS107;Yes)、位置推定可能な位置に自律的に移動するための処理である「移動処理制御」を行ってから(ステップS110)ステップS105に戻る。この「移動処理制御」が本実施形態の特徴的な機能を実現しており、詳細については後述する。
推定状態変数ESの値が「位置推定不可能」でないなら(ステップS107;No)位置変化履歴カウンタDCをインクリメントし(ステップS108)、自律移動するために移動処理部11が駆動部42に所望の動作を指示するとともに、その動作にともなう位置の変化量をタイムスタンプ(現在時刻など、位置履歴記憶部24のタイムスタンプと比較可能なものを用いる。)と共に位置変化履歴記憶部23のDC番目の項目に登録し(ステップS109)、ステップS105に戻る。このステップS109での位置の変化量の登録処理において、移動処理部11は位置変化履歴登録部に相当する。
ここで、位置の変化量は、ステップS109で移動処理部11が駆動部42に指示を出す前の位置から、駆動部42が指示に従って動作して自律移動装置100が移動した後の位置までの(ステップS109での移動処理の動作一回分の)変化量である。この変化量はオドメトリ情報を用いて取得しても良いし、加速度センサ31や角速度センサ32の値を用いて取得しても良い。通常はオドメトリ情報を用いた方が精度の高い位置変化量を取得できるが、人の手によって移動させられた場合等はオドメトリ情報は役に立たない(この場合でも加速度センサ31や角速度センサ32の値は役に立つ)。そこで、オドメトリ情報とセンサ情報を両方とも用いることで、車輪がスリップしたり、人の手によって移動させられてしまったりした場合等によるオドメトリ情報の誤差をセンサ情報によって補償するようにするのが望ましい。
典型的な例としては、自律移動装置100は最初、充電ステーションに置いてある状態で電源45を投入すると、障害物センサ33を頼りとして、家の各部屋をくまなく移動し、障害物センサ33によって壁等の障害物位置を特定し、障害物位置を含む地図の情報を作成することができる。地図がある程度作成されると、地図の情報がまだないが移動可能と考えられる領域を知ることができ、その領域に自律的に移動する等して、より広範囲の地図の作成を促すこともできるようになる。そして、移動可能なほぼ全域の地図の情報が作成されれば、地図の情報を利用した効率的な移動動作が可能になる。例えば部屋のどの位置からでも最短経路で充電ステーションに戻ったり、効率的に部屋の掃除をしたりすることが可能になる。
自律移動装置100のメインフロー(図3)のステップS101で起動される自機位置推定スレッドについて、図4及び図5を用いて説明する。自機位置推定スレッドは、位置推定部13が、最初に図4に基づいて初期化処理を行い、その後図5に基づいて自機位置推定(撮像部41で取得した画像を用いてビジュアルオドメトリにより自機位置を推定する)を続ける処理である。
まず図4を用いて自機位置推定スレッドの初期化処理を説明する。位置推定部13は、推定状態変数ESに「初期化中」をセットし、位置履歴登録カウンタHC(位置履歴記憶部24への位置履歴の登録数を示す変数)と位置履歴検索カウンタSC(位置履歴記憶部24から位置履歴を取得する際に用いる変数)をクリアする(ステップS201)。次にフレームカウンタN(撮像部41での画像の取得数を示す変数)に−1をセットする(ステップS202)。次に位置推定部13は、動作終了かを判定する(ステップS203)。動作終了なら(ステップS203;Yes)終了し、動作終了でないなら(ステップS203;No)、撮像部41で画像を取得する(ステップS204)。画像は例えば30fpsで取得することができる(取得した画像はフレームとも呼ばれる)。
次に、取得した画像内から2D特徴点を取得する(ステップS205)。2D特徴点とは画像中のエッジ部分など、画像内の特徴的な部分であり、SIFT(Scale−Invariant Future Transform)やSURF(Speed−Up Robust Features)等のアルゴリズムを用いて取得することができる。なお、2D特徴点を取得するのに他のアルゴリズムを使っても良い。
取得した2D特徴点の個数が少ないと、後述するTwo−view Structure from Motion法での計算ができないため、位置推定部13はステップS206において、2D特徴点の取得数と基準値(例えば10個)とを比較し、基準値未満だった場合(ステップS206;No)はステップS203に戻り、基準値以上の2D特徴点数が得られるまで、画像の取得と2D特徴点の取得とを繰り返す。なお、この時点ではまだ地図の情報は作成できていないが、例えば上述した典型的な例では、障害物センサ33を頼りとして、家の各部屋をくまなく移動し始めているため、この初期化処理で画像取得と2D特徴点取得とを繰り返していれば、移動しながら画像取得を繰り返すことになるので、様々な画像が取得でき、いずれは2D特徴点数が多い画像を取得できることが期待できる。
2D特徴点の取得数が基準値以上だった場合は(ステップS206;Yes)、位置推定部13はフレームカウンタNをインクリメントする(ステップS207)。そして、フレームカウンタNが0かどうかを判定する(ステップS208)。フレームカウンタNが0なら(ステップS208;Yes)画像をまだ一つしか取得していないということになるので、2枚目の画像を取得するためにステップS203に戻る。なお図4のフローチャートでは記載していないが、1枚目の画像を取得した時の自機の位置と2枚目の画像を取得する時の自機の位置とがある程度離れていた方が、これ以降の処理で推定する姿勢の精度が向上する。そこで、ステップS208からステップS203に戻る際に、メインフロー(図3)のステップS109での移動処理部11での動作指示によりオドメトリによる並進距離が所定の距離(例えば1m)以上となるまで待つ処理を追加しても良い。
フレームカウンタNが0でないなら(ステップS208;No)二つの画像を取得したということがわかるので、位置推定部13は、これら二つの画像間で2D特徴点の対応(実環境上の同一の点がそれぞれの画像中に存在し、その対応が取れるもの)を取得する(ステップS209)。このステップS209において、位置推定部13は対応特徴点取得部に相当する。ここで取得した特徴点の対応数が5未満であれば、後述する二つの画像間の姿勢の推定ができないため、推定判定部14は特徴点の対応数が5未満かどうかを判定する(ステップS210)。5未満であれば(ステップS210;Yes)初期画像を取得し直すために、ステップS202に戻る。特徴点の対応数が5点以上であれば(ステップS210;No)、Two−view Structure from Motion法を用いることで、二つの画像間の姿勢(それぞれの画像を取得した位置の差分(並進ベクトルt)及び向きの差分(回転行列R))を推定することができる(ステップS211)。
この推定は具体的には、対応する特徴点から基礎行列Eを求め、基礎行列Eを並進ベクトルtと回転行列Rとに分解することによって得られるが、詳細は非特許文献2で説明されているため、ここでは割愛する。なお、ここで得られる並進ベクトルt(3次元空間内で移動することを想定すると、最初の画像を取得した位置を原点として、X,Y,Zの3要素を持つ)の各要素の値は実環境上での値とは異なる(Two−view Structure from Motion法では実環境上の値自体を得ることはできず、実環境と相似する空間上での値を得ることになる。)ため、これらをSLAM空間上での値とみなし、以下ではSLAM空間上での座標(SLAM座標)を用いて説明する。
なお、特徴点の対応数が5点以上あっても、二つの画像間の姿勢の推定値が一つに定まらない場合がある(条件が足らずに不定となってしまう場合や、最小二乗法で一つに定めようとしても確からしい推定値が一つに定まらずに複数になってしまう場合等がある)。位置推定部13が二つの画像間の姿勢(それぞれの画像を取得した位置の差分(並進ベクトルt)及び向きの差分(回転行列R))を推定する際に、推定値が一つに定まる場合は推定判定部14は推定可能と判定し、推定値が一つに定まらない場合は推定判定部14は推定不可能と判定する(ステップS212)。
推定判定部14が推定不可能と判定した場合は(ステップS212;No)、ステップS202に戻って初期画像の取得からやり直す。推定判定部14が推定可能と判定した場合は(ステップS212;Yes)、二つの画像間の姿勢(並進ベクトルt及び回転行列R)が求まったということになるので、ステップS213へ進む。
二つの画像間の姿勢(並進ベクトルt及び回転行列R)が求まると、その値は、最初の画像を基準(最初の画像を取得した位置をSLAM座標の原点、並進ベクトルは0ベクトル、回転行列は単位行列Iとする。)にした場合の、二枚目の画像の姿勢(二つ目の画像を取得した時の自機の位置(並進ベクトルt)及び向き(回転行列R))となる。ここで、二つの画像それぞれの姿勢(該画像(フレーム)撮影時の自機の位置(並進ベクトルt)及び向き(回転行列R)で、フレーム姿勢とも言う。)が求まっている場合、その二つの画像間で対応が取れている2D特徴点(対応特徴点)のSLAM座標での3D位置を、以下の考え方に基づき、地図作成部12が求める(ステップS213)。
2D特徴点の画像中の座標(フレーム座標:既知)を(u,v)とし、その2D特徴点のSLAM座標での3D位置(未知)を(X,Y,Z)とすると、これらを同次座標で表したときのこれらの関係は、透視投影行列Pを用いて下記の式(1)で表される。ここで、「〜」記号は「非零の定数倍を除いて等しい」(つまり、等しいか又は定数(非零)倍になっている)ことを表し、「’」記号は「転置」を表す。
(u v 1)’〜P(X Y Z 1)’…(1)
上記の式(1)において、Pは3×4の行列で、カメラの内部パラメータを示す3×3の行列Aと、その画像の姿勢(フレーム姿勢)を示す外部パラメータR及びtから以下の式(2)で表される。ここで、(R|t)は、回転行列Rの右に並進列ベクトルtを並べた行列を表す。
P=A(R|t)…(2)
上記の式(2)において、R及びtは上述したようにそのフレーム姿勢として求められている。また、カメラの内部パラメータAは、焦点距離と撮像素子サイズにより決まるので、撮像部41を決めておけば定数となる。
二つの画像間で対応が取れている2D特徴点のうちの一つが、一つ目の画像のフレーム座標(u,v)と、二つ目の画像のフレーム座標(u,v)に写っているとすると、以下の式(3)及び式(4)ができる。ここで、Iは単位行列、0はゼロベクトル、(L|r)は、行列Lの右に列ベクトルrを並べた行列を表す。
(u 1)’〜A(I|0)(X Y Z 1)’…(3)
(u 1)’〜A(R|t)(X Y Z 1)’…(4)
上記の式(3)及び式(4)において、u,v,u,vそれぞれについての式ができるため、式は4つできるが、未知数はX,Y,Zの3つなので、X,Y,Zを求めることができ、これがその2D特徴点のSLAM座標における3D位置となる。なお、式の個数の方が未知数の個数よりも多いため、例えばu,v,uで求めたX,Y,Zとu,v,vで求めたX,Y,Zとが異なる場合がありうる。このような場合は、過剰条件の連立一次方程式となり、一般には解が存在しないが、地図作成部12は、最小二乗法を用いて、最も確からしいX,Y,Zを求める(ステップS213)。
2D特徴点のSLAM座標における3D位置(X,Y,Z)が求まったら、それをMap点として、地図作成部12がMap点データベース(Map点DB(Database)とも言い、地図記憶部22に格納される)に登録する(ステップS214)。Map点データベースに登録する要素としては、少なくとも、「2D特徴点のSLAM座標における3D位置であるX,Y,Z」と、「その2D特徴点の特徴量」(例えばSIFT等で得た特徴量)が必要である。また、「タイムスタンプ」(後述するキーフレームカウンタNKF(現在のキーフレーム番号を表す変数)のMap点データベースへの登録時点での値等)をMap点データベースへの登録要素に追加しておくと、Map点データベースを編集(過去の状態に戻す等)する際に便利である。
そして、地図作成部12は、二つの画像間で対応が取れている2D特徴点(対応特徴点)の全てをMap点データベースに登録したかを判定し(ステップS215)、まだ全ての登録ができていなかったら(ステップS215;No)ステップS213に戻り、全て登録できたら(ステップS215;Yes)ステップS216に進む。
次に位置推定部13は、NKF(キーフレーム(後に続くスレッドでの処理対象となる画像を指す)のカウンタを表す変数)を0に初期化し(ステップS216)、二つ目の画像をキーフレームとしてフレームデータベース(フレームDB(Database)とも言い、画像記憶部21に格納される)に登録する(ステップS217)。
フレームデータベースに登録する要素は、「キーフレーム番号」(登録時点でのキーフレームカウンタNKFの値)、「姿勢」(その画像撮影時の自機のSLAM座標内での位置(並進ベクトルt)及び向き(回転行列R))、「抽出した全ての2D特徴点」、「全ての2D特徴点の中でMap点として3D位置が既知の点」、「キーフレーム自体の特徴」、であるが、これらに加えて「オドメトリで計測した実環境上での姿勢」(実環境での駆動部42による移動距離に基づいて求められる自機の位置及び向き)も登録しても良い。
上記中、「キーフレーム自体の特徴」とは、キーフレーム間の画像類似度を求める処理を効率化するためのデータであり、通常は画像中の2D特徴点のヒストグラム等を用いるのが良いが、画像自体を「キーフレーム自体の特徴」としても良い。また、「オドメトリで計測した実環境上での姿勢」は、並進ベクトルtと回転行列Rとで表すこともできるが、通常、本自律移動装置100は2次元平面上を動くので、2次元データに単純化して、移動開始時の位置(原点)及び向きを基準にした2次元座標(X,Y)及び向きφとして表しても良い。
次に、位置推定部13は、キーフレームが生成された事を地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキュー(キュー(Queue)は、先入れ先出しのデータ構造になっている)に、キーフレームカウンタNKFをセットする(ステップS218)。
そして、位置推定部13は、SLAM座標と実環境座標とのスケール対応を得るために、オドメトリによる並進距離(実環境での座標で求められる)を、上記の処理で推定したSLAM座標での並進距離dで除することによって、スケールSを求める(ステップS219)。
以上で自機位置推定スレッドの初期化処理が完了したので、図5の自機位置推定(メイン処理)に進む(ステップS220)。
次に図5を用いて自機位置推定スレッドのメイン処理を説明する。まず、位置推定部13は、推定状態変数ESに「位置推定可能」をセットする(ステップS231)。初期化処理において、自機位置の推定ができており、この時点では位置推定可能な状態であると言えるからである。次に位置推定部13は、動作終了かを判定する(ステップS232)。動作終了なら(ステップS232;Yes)終了し、動作終了でないなら(ステップS232;No)、撮像部41で画像を取得し(ステップS233)、フレームカウンタNをインクリメントする(ステップS234)。
次に、位置推定部13は、撮影した画像に含まれている2D特徴点を取得する(ステップS235)。そして、フレームデータベースに登録されている以前のキーフレーム(例えばキーフレーム番号がNKFである画像)の情報から、その画像の情報に含まれている2D特徴点のうち、3D位置が既知である(Map点データベースに登録されているMap点になっている)2D特徴点を取得し、今撮影した画像との間で対応が取れる2D特徴点(対応特徴点)を抽出する(ステップS236)。
そして、推定判定部14は、対応特徴点の個数が所定の値(例えば5)未満かどうかを判定し(ステップS237)、所定の値未満の場合(ステップS237;Yes)は確からしい自機位置の推定が不可能なので、ステップS247に進む。ここで、すぐにステップS247に進むのではなく、ステップS236に戻って、フレームデータベースに登録されているキーフレームの中から対応特徴点の個数が所定の値以上のものを検索するようにしても良い。この場合は、フレームデータベースに登録されているキーフレームの中に対応特徴点の個数が所定の値以上のものが見つからなかった場合にステップS247に進む。
所定の値以上の対応特徴点が抽出できたら(ステップS237;No)、位置推定部13は、対応特徴点それぞれの3D位置(X,Y,Z)をMap点データベースから取得する(ステップS238)。今撮影した画像に含まれている対応特徴点のフレーム座標を(u,v)とし、その対応特徴点の3D位置を(X,Y,Z)とする(iは1から対応特徴点数までの値を取る)と、各対応特徴点の3D位置(X,Y,Z)を以下の式(5)によってフレーム座標系に投影した値(ux,vx)とフレーム座標(u,v)とは理想的には一致するはずである。
(ux vx 1)’〜A(R|t)(X1)’…(5)
実際には(X,Y,Z)にも(u,v)にも誤差が含まれているため、(ux,vx)と(u,v)とが一致することはめったにない。そして、未知数はRとt(3次元空間ではそれぞれ3次元となり、3+3=6が未知数の個数である)だけなのに、数式は対応特徴点の個数の2倍存在する(対応特徴点一つに対して、フレーム座標のu,vそれぞれに対する式が存在するため)ことになるため、過剰条件の連立一次方程式になり、上述したように最小二乗法で求めることになる。具体的には、位置推定部13は、以下の式(6)のコスト関数E1を最小化する姿勢(並進ベクトルt及び回転行列R)を求めることになる。これがSLAM法で求めたSLAM座標での自機の姿勢(並進ベクトルt及び回転行列Rで表される自機の位置及び向き)となる。このようにして、位置推定部13は自機の姿勢を推定する(ステップS239)。
Figure 0006311695
この自機位置の推定において、自機の姿勢の推定値が一つに定まらない場合がある(条件が足らずに不定となってしまう場合(例えば二つの画像での対応特徴点数が5点未満の場合)や、最小二乗法で一つに定めようとしても確からしい推定値が一つに定まらずに複数になってしまう場合(例えば式(6)で、最小値が所定の値よりも大きい場合や、極小値が複数存在し最小値(最も小さい極小値)を2番目に小さい極小値で割った値が所定の値よりも大きい場合)等がある)。位置推定部13が自機の姿勢(並進ベクトルt及び回転行列R)を推定する際に、推定値が一つに定まる場合は推定判定部14は推定可能と判定し、推定値が一つに定まらない場合は推定判定部14は推定不可能と判定する(ステップS240)。
推定判定部14が推定不可能と判定した場合は(ステップS240;No)、ステップS247に進む。推定判定部14が推定可能と判定した場合は(ステップS240;Yes)、自機の姿勢(並進ベクトルt及び回転行列R)が求まったということになるので、ステップS241へ進む。
SLAM座標での現在の自機の姿勢(並進ベクトルt及び回転行列R)が求められたので、制御部10は、位置履歴登録カウンタHCをインクリメントし、位置履歴記憶部24のHC番目の項目に、現在の自機の姿勢(並進ベクトルt及び回転行列R)をタイムスタンプ(現在時刻など、位置変化履歴記憶部23のタイムスタンプと比較可能なものを用いる)と共に登録し、位置履歴検索カウンタSCに位置履歴登録カウンタHCの値をセットする(ステップS241)。このステップS241において、制御部10は位置履歴登録部に相当する。そして、位置推定部13は、現在の自機の姿勢にスケールSを乗算することで、VO(ビジュアルオドメトリ)を求める(ステップS242)。VOは実環境での自機の位置及び向きとして利用できる。
次に、位置推定部13は、フレームDBに登録されている直前のキーフレーム(キーフレーム番号がNKFである画像)を撮影した時の自機の位置から基準並進距離(例えば1m)以上移動しているかを判定し(ステップS243)、移動しているなら(ステップS243;Yes)キーフレームカウンタNKFをインクリメントしてから(ステップS244)、現フレームをキーフレームとしてフレームDBに登録する(ステップS245)。基準並進距離未満しか移動していないなら(ステップS243;No)ステップS232に戻る。
ここで、基準並進距離と比較する自機の移動距離は、直前のキーフレームから現フレームまでの並進距離(両フレームの並進ベクトルの差のベクトルの絶対値(要素の二乗和の平方根))をオドメトリから取得しても良いし、上述したVO(ビジュアルオドメトリ)から求めても良い。フレームDBに登録する内容は上述したように、「キーフレーム番号」、「姿勢」、「抽出した全ての2D特徴点」、「全ての2D特徴点の中でMap点として3D位置が既知の点」、「キーフレーム自体の特徴」、である。
そして、位置推定部13は、新たなキーフレームが発生したことを地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキューにキーフレームカウンタNKFをセットする(ステップS246)。そして、ステップS232に戻る。なお、キーフレームカウンタNKF、スケールS、Map点DB、フレームDB、位置履歴記憶部24、位置変化履歴記憶部23、位置履歴登録カウンタHC、位置履歴検索カウンタSCは、位置変化履歴カウンタDCは、スレッドをまたいで値を参照することができるように記憶部20に記憶されている。
次にステップS247以降を説明する。これは自機位置の推定ができなくなったときの処理である。まず、位置推定部13は、推定状態変数ESに「位置推定不可能」をセットする(ステップS247)。次に位置推定部13は、動作終了かを判定する(ステップS248)。動作終了なら(ステップS248;Yes)終了し、動作終了でないなら(ステップS248;No)、撮像部41で画像を取得する(ステップS249)。
そして制御部10は、取得画像との類似度が基準画像類似度(例えば0.9)以上になるキーフレームをフレームDBから検索する(ステップS250)。ここで、この類似度は、画像(キーフレーム)の特徴を特徴ベクトルで表している場合は、二つの画像の特徴ベクトルの絶対値(要素の二乗和の平方根)を1に正規化したもの同士の内積を、その二つの画像の類似度とすることができる。また、二つの画像の特徴ベクトル(絶対値を1に正規化したもの)の距離(各要素の差の二乗和の平方根)の逆数を類似度としても良い。
制御部10は、取得画像との類似度が基準画像類似度以上になるキーフレームをフレームDBから発見できたかを判定する(ステップS251)。発見できなかったら(ステップS251;No)ステップS248に戻る。発見できたら(ステップS251;Yes)取得画像の2D特徴点と、発見した類似画像の2D特徴点とをそれぞれ取得して(ステップS252)、これら二つの画像間で2D特徴点の対応を取得する(ステップS253)。
そして、ステップS239と同様の方法で自機の姿勢を推定する(ステップS254)。この時、推定判定部14がステップS240と同様にして推定可能かを判定し(ステップS255)、推定不可能なら(ステップS255;No)ステップS248に戻り、推定可能なら(ステップS255;Yes)自機位置の推定ができるようになったということになるので、ステップS231に進む。
このように、自機位置推定スレッドの初期化終了後は、推定状態変数ESに「位置推定可能」か「位置推定不可能」かのどちらかがセットされるので、図3に示すメインフローにおいて、ESの値が「位置推定可能」であれば自律移動装置100は所望の動作を行い、ESの値が「位置推定不可能」であれば位置推定可能になるような位置を求めて移動処理制御を行うことができるようになる。
次に、自律移動装置100のメインフロー(図3)のステップS102で起動される地図作成スレッドについて、図6を用いて説明する。このスレッドは地図作成部12が、キーフレーム中の対応特徴点の3D位置を計算して、地図の情報(Map点DB)を作成している。
まず、地図作成部12は、動作終了かを判定する(ステップS301)。動作終了なら(ステップS301;Yes)終了し、動作終了でないなら(ステップS301;No)、キーフレームキューが空かどうかを判定する(ステップS302)。キーフレームキューが空だったら(ステップS302;Yes)ステップS301に戻り、空でなければ(ステップS302;No)、キーフレームキューからデータを取り出してMKF(地図作成スレッドで処理するキーフレームのキーフレーム番号を表す変数)にセットする(ステップS303)。地図作成部12は、MKFが0より大きいか判定し(ステップS304)、MKFが0である場合は(ステップS304;No)ステップS301に戻ってキーフレームキューにデータが入るのを待つ。MKFが1以上の場合は(ステップS304;Yes)、以下の処理に進む。
地図作成部12は、フレームDBを参照し、前キーフレーム(キーフレーム番号がMKF−1のキーフレーム)の2D特徴点と現キーフレーム(キーフレーム番号がMKFのキーフレーム)の2D特徴点とで対応が取れる2D特徴点(対応特徴点)を抽出する(ステップS305)。フレームDBにはそれぞれのキーフレームの姿勢(並進ベクトルtと回転行列R)も登録されているので、自機位置推定スレッドの初期化時の処理の時と同様の方法で対応特徴点の3D位置を計算できる。地図作成部12は、3D位置が計算できた対応特徴点をMap点としてMap点DBに登録する(ステップS306)。地図作成部12は、フレームDBに対しても今回3D位置を計算できた2D特徴点に対して3D位置を登録する(ステップS307)。
なお、地図作成部12が抽出した対応特徴点がすでにMap点DBに登録済だった場合は、3D位置計算をスキップして次の対応特徴点(Map点DBに未登録のもの)に対する処理に進んでも良いし、改めて3D位置計算を行って、Map点DBに登録済の3D位置や、フレームDB中の対応特徴点に対する3D位置を更新するようにしても良い。
次に、地図作成部12は、キーフレームキューが空かどうかを判定する(ステップS308)。空であれば(ステップS308;Yes)、全キーフレームの姿勢と全Map点の3D位置に対して、バンドルアジャストメント処理を行って、精度向上を図ってから(ステップS309)ステップS310に進む。キーフレームキューが空でなければ(ステップS308;No)ステップS310に進む。次に地図作成部12は、ループクロージングスレッドのキーフレームキューにMKFをセットして(ステップS310)、ステップS301に戻る。
なお、バンドルアジャストメント処理とは、カメラ姿勢(キーフレーム姿勢)とMap点の3D位置とを同時に推定する非線形最適化法であり、Map点をキーフレーム上に投影させたときに発生する誤差が最小になるような最適化を行うものである。
このバンドルアジャストメントの処理を行うことで、キーフレーム姿勢とMap点の3D位置の精度向上を図ることができる。しかし、この処理を行わなくても精度向上が図れないだけで特別問題が発生するわけではない。したがって、他の処理がない状態のとき(例えば、キーフレームキューが空の状態)であっても、この処理を毎回行う必要はない。
また、バンドルアジャストメントの処理を行うと、キーフレーム上に投影させたときの誤差が所定の値よりも大きいMap点が見つかることがある。このような誤差の大きなMap点については、SLAM推定に悪影響を及ぼすため、Map点DB及びフレームDBから削除したり、誤差の大きな注意を要するMap点であることを識別するためのフラグを立てておいたりしても良い。なお、バンドルアジャストメントの処理は本実施形態においてはオプション的な扱いになるため、ここでは処理の詳細については省略する。
次に自律移動装置100のメインフロー(図3)のステップS103で起動されるループクロージングスレッドについて、図7を用いて説明する。このスレッドでは制御部10は、ループクロージング処理ができるかどうかをチェックし続け、できる場合にはループクロージング処理を行っている。なお、ループクロージング処理とは、以前来たことのある同じ場所に戻ってきたことを認識した場合に、以前この同じ場所にいた時の姿勢の値と現在の姿勢の値とのずれを用いて、以前来た時から今までの軌跡中のキーフレームや、関連するMap点の3D位置を修正することを言う。
まず、制御部10は、動作終了かを判定する(ステップS401)。動作終了なら(ステップS401;Yes)終了する。動作終了でないなら(ステップS401;No)キーフレームキューが空かどうかを判定する(ステップS402)。キーフレームキューが空なら(ステップS402;Yes)ステップS401に戻り、キーフレームキューが空でないなら(ステップS402;No)、キーフレームキューからデータを取り出してLKF(ループクロージングスレッドで処理するキーフレームのキーフレーム番号を表す変数)にセットする(ステップS403)。次に制御部10は、LKFが1より大きいかを判定する(ステップS404)。LKFが0又は1である場合(ステップS404;No)はステップS401に戻ってキーフレームキューにデータが入るのを待つ。そして、LKFが2以上の場合(ステップS404;Yes)は、以下の処理を行う。
制御部10は、フレームDBを参照し、現キーフレーム(キーフレーム番号がLKFのキーフレーム)と「キーフレーム自体の特徴」の類似度が基準画像類似度以上になるキーフレームをフレームDBから検索する(ステップS405)。
制御部10は、「キーフレーム自体の特徴」の類似度が基準画像類似度以上になるキーフレームが発見されたかどうかを判定し(ステップS406)、発見されなければ(ステップS406;No)ステップS401へ戻り、発見されたら(ステップS406;Yes)、発見されたキーフレームから現キーフレームまでの軌跡中のキーフレームの姿勢と、軌跡中のキーフレームに含まれるMap点の3D位置を修正する(ステップS407)。例えば、制御部10は、現キーフレームの姿勢を発見されたキーフレームの姿勢と同じ姿勢として修正する。そして、発見されたキーフレームの姿勢と現キーフレームの姿勢との差分を用いて、発見されたキーフレームから現キーフレームまでの軌跡中の各キーフレームの姿勢に線形的に補正を加える。さらにこれらの各キーフレームに含まれるMap点の3D位置についても各キーフレームの姿勢の補正量に応じて修正する。そして、ステップS401に戻る。
次に自律移動装置100のメインフロー(図3)のステップS110の処理である移動処理制御について、図8を用いて説明する。まず、制御部10は、位置履歴検索カウンタSCの値が0かどうかを判定する(ステップS501)。SCが0なら、位置履歴記憶部24に記憶されている位置全てに対して戻る処理を試みたが位置推定可能状態にならなかったことを意味しており、この場合は(ステップS501;Yes)位置の推定ができていない状態で自律動作を行わせるためにメインフロー(図3)のステップS108、S109と同様の動作を行い(ステップS502、S503)、メインフロー(図3)のステップS105に戻る。
SCが0でないなら(ステップS501;No)、位置履歴記憶部24に記憶されているSC番目の情報(自機の姿勢(位置)の情報及びその時の時刻)を取得する(ステップS504)。取得した情報のうち、自機の姿勢(位置)の情報はHP(位置履歴記憶部24から取得した自機の位置の情報を格納する変数)に、時刻はHT(位置履歴記憶部24から取得した時刻を格納する変数)に、それぞれ格納する。そして、位置変化履歴カウンタDCの値が0かどうかを判定する(ステップS505)。DCが0なら位置変化履歴記憶部23に記憶されている位置の変化を全て試みたが位置推定可能状態にならなかったことを意味しており、この場合は(ステップS505;Yes)位置の推定ができていない状態で自律動作を行わせるためにメインフロー(図3)のステップS108、S109と同様の動作を行い(ステップS502、S503)、メインフロー(図3)のステップS105に戻る。
DCが0でないなら(ステップS505;No)、位置変化履歴記憶部23に記憶されているDC番目の情報(位置変化量及びその時の時刻)を取得する(ステップS506)。取得した情報のうち、位置変化量はDP(位置変化履歴記憶部23から取得した位置変化量を格納する変数)に、時刻はDT(位置変化履歴記憶部23から取得した時刻を格納する変数)に、それぞれ格納する。そして、位置履歴記憶部24から取得した時刻HTの方が位置変化履歴記憶部23から取得した時刻DTよりも過去の時刻か(小さい値か)を判定する(ステップS507)。
HTの方がDTよりも過去なのであれば(ステップS507;Yes)、まだ位置履歴記憶部24から取得した過去のHPの位置まで自機は戻りきっていないので、ステップS508に進む。HTがDTと同時刻又はDTの方が過去なのであれば(ステップS507;No)移動処理制御での最後の移動処理を行うためにステップS510に進む。
ステップS508では、位置変化履歴記憶部23に登録されていた位置変化量DPに基づき、その変化量を打ち消す移動処理を移動処理制御部15が移動処理部11に行わせる(ステップS508)。例えばDPが「前方に10cm進んだ」であれば、ここでの移動処理は「後方に10cm戻る」処理となる。そして、位置変化履歴カウンタDCをデクリメントして(ステップS509)ステップS505に戻る。
ステップS510もステップS508と同様に、位置変化履歴記憶部23に登録されていた位置変化量DPに基づき、その変化量を打ち消す移動処理を移動処理制御部15が移動処理部11に行わせる(ステップS510)。この移動処理により、(もし位置変化履歴記憶部23に記憶されている情報や移動処理部11の移動距離に誤差がなければ)自律移動装置100は過去に位置推定ができていた位置(HPで示される位置)に戻ることになるはずなので、自機位置推定スレッドでの自機位置推定が正しく行われるように、この最後の移動処理は速度を落として行うのが望ましい。特にステップS507での判定の際にHTとDTの値が等しかったのであれば、この移動によってHPで示される位置に戻るはずなので、ステップS510とステップS511との間に(自機位置推定スレッドでの自機位置推定が行われるのを待つために)所定の時間移動せずに停止する処理を追加しても良い。
次に、位置変化履歴カウンタDCをデクリメントし(ステップS511)、位置履歴検索カウンタSCをデクリメントして(ステップS512)、メインフローのステップS105に戻る。位置履歴検索カウンタSCをデクリメントするのは、今回の移動処理制御によっても自機位置推定スレッドで自機位置推定が可能にならなかった場合は、次回の移動処理制御では、さらに過去の位置に戻って自機位置推定を試みるためである。ただし、次回までの間に自機位置推定に成功すれば、図5のステップS241で位置履歴検索カウンタSCには位置履歴登録カウンタHCの値がセットされる。このような移動処理制御を行うことで、過去に自機位置推定ができていた位置に戻って、自機位置推定を可能にすることができる。
次に、上記とは異なる移動処理制御として、図9のフローチャートに示される移動処理制御を行う第二の実施形態について説明する。第二の実施形態は、移動処理制御のフローチャート以外は第一の実施形態と同じである。
まず、制御部10は、位置履歴検索カウンタSCの値が0かどうかを判定する(ステップS601)。SCが0なら、位置履歴記憶部24に記憶されている位置全てに対して戻る処理を試みたが位置推定可能状態にならなかったことを意味しており、この場合は(ステップS601;Yes)位置の推定ができていない状態で自律動作を行わせるためにメインフロー(図3)のステップS108、S109と同様の動作を行い(ステップS602、S603)、メインフロー(図3)のステップS105に戻る。
SCが0でないなら(ステップS601;No)、位置履歴記憶部24に記憶されているSC番目の情報(自機の姿勢(並進ベクトルt及び回転行列R)の情報HP及びその時の時刻HT)を取得する(ステップS604)。そして、位置変化履歴カウンタDCの値を位置変化履歴ワークカウンタWC(位置変化履歴記憶部23から位置変化の履歴を取得する際に用いる変数)にセットし、位置変化履歴スタック(位置変化量を格納するスタック)を初期化する(ステップS605)。なお、スタックは、先入れ後出しのデータ構造になっている。
そして、制御部10は、位置変化履歴ワークカウンタWCが0かどうかを判定する(ステップS606)。WCが0なら位置変化履歴記憶部23に記憶されている位置の変化を全て試みたが位置推定可能状態にならなかったことを意味しており、この場合は(ステップS606;Yes)位置の推定ができていない状態で自律動作を行わせるためにメインフロー(図3)のステップS108、S109と同様の動作を行い(ステップS602、S603)、メインフロー(図3)のステップS105に戻る。
WCが0でないなら(ステップS606;No)、制御部10は位置変化履歴記憶部23に記憶されているWC番目の情報(位置変化量DP及びその時の時刻DT)を取得する(ステップS607)。そして、位置履歴記憶部24から取得した時刻HTの方が位置変化履歴記憶部23から取得した時刻DTよりも過去の時刻か(小さい値か)を判定する(ステップS608)。
HTの方がDTよりも過去なのであれば(ステップS608;Yes)、まだ位置履歴記憶部24から取得した過去のHPの位置まで自機は戻りきっていないので、ステップS609に進む。HTがDTと同時刻又はDTの方が過去なのであれば(ステップS608;No)自機の位置を位置変化履歴から積算推定するためにステップS611に進む。
ステップS609では、制御部10は、位置変化履歴スタックに位置変化量DPの値をプッシュする。そして、位置変化履歴ワークカウンタWCをデクリメントして(ステップS610)ステップS606に戻る。これにより、位置変化履歴スタックにこれまでの位置変化が積まれていく。
ステップS611は、制御部10は、位置履歴記憶部24から取得した過去のHPの姿勢(並進ベクトルt及び回転行列R)を初期値としてMP(自機位置の推定値を求めるために用いる変数)にセットし、位置変化履歴スタックからデータ(DP)を取り出しては、MPに加算していく処理を、位置変化履歴スタックが空になるまで行う。これにより、MPには過去の自機位置推定ができる状態だったときの位置HPから、位置変化履歴DPを積算することによって得られた現在の自機位置の推定値が得られる。この処理において、制御部10は積算位置推定部に相当する。
次に、現在の自機位置の推定値MPから、過去の自機位置HPまで移動するように、移動処理制御部15は、移動処理部11を制御する(ステップS612)。具体的には、HPの並進ベクトルからMPの並進ベクトルを減算した分だけ並進移動を行い、HPの回転行列にMPの回転行列の逆行列を乗算して得られた回転行列で表される回転分だけ回転動作を行うように制御する。この移動処理制御により、(もし位置変化履歴記憶部23に記憶されている情報や移動処理部11の移動距離に誤差がなければ)自律移動装置100は過去に位置推定ができていた位置(HPで示される位置)に戻ることになるはずなので、ステップS612とステップS613との間に(自機位置推定スレッドでの自機位置推定が行われるのを待つために)所定の時間移動せずに停止する処理を追加しても良い。
次に、位置履歴検索カウンタSCをデクリメントして(ステップS613)、メインフローのステップS105に戻る。位置履歴検索カウンタSCをデクリメントするのは、今回の移動処理制御によっても自機位置推定スレッドで自機位置推定が可能にならなかった場合は、次回の移動処理制御では、さらに過去の位置に戻って自機位置推定を試みるためである。ただし、次回までの間に自機位置推定に成功すれば、図5のステップS241で位置履歴検索カウンタSCには位置履歴登録カウンタHCの値がセットされる。このような移動処理制御を行うことで、過去自機位置推定ができていた位置に戻って、自機位置推定を可能にすることができる。
第二の実施形態は、第一の実施形態と比較すると、位置変化履歴記憶部23に記憶されている位置変化について一つ一つ移動処理するのではなく、まとめて移動処理するため、移動処理制御時の駆動部42の誤差が蓄積しにくいという利点がある。
今まで説明した二つの実施形態は、いずれも過去に自機位置推定ができていた位置に戻る処理を行っていたが、これらは位置変化履歴記憶部23に記憶されている情報や移動処理部11による移動距離が正確でないと過去の正しい位置に戻れないという問題がある。
そこで、位置変化履歴記憶部23や位置履歴記憶部24を必要としない第三の実施形態について説明する。第三の実施形態の構成を図10に示す、第一や第二の実施形態と比較すると、制御部10の中に回転撮影部16が存在する点と、記憶部20の中に位置変化履歴記憶部23や位置履歴記憶部24は存在せず、特徴点記憶部25が存在する点が異なる。
図3〜図7の各フローについては、位置変化履歴カウンタDC、位置変化履歴記憶部23、位置履歴登録カウンタHC、位置履歴検索カウンタSCに関する処理を省略するだけで、第三の実施形態の処理フローと同じになる。移動処理制御の処理フローは第一や第二の実施形態と大きく異なるため、図11を用いて以下に説明する。
まず、回転撮影部16は、回転撮影フラグRF(現在回転撮影の処理中かどうかを示す変数)に1をセットし(ステップS701)、累積回転角φを0クリアする(ステップS702)。次に、撮像部41で画像を取得する(ステップS703)。次に、取得した画像内から2D特徴点を取得する(ステップS704)。そして、取得した2D特徴点の個数と累積回転角φとを特徴点記憶部25に登録する(ステップS705)。
次に回転撮影部16は、回転撮影フラグRFが2かどうかを判定する(ステップS706)。RFが2なら(ステップS706;Yes)1回転分の撮影が完了したことを意味するので、ステップS712に進む。RFが2でないなら(ステップS706;No)、累積回転角φ+回転角φが360°未満であるかを判定する(ステップS707)。ここで、回転角φは回転撮影部16による回転動作一回分の回転角であり、例えば30°である。周囲の環境からできるだけ多くの特徴点を撮影することができるように、φは撮像部41の視野角の半分以下の角度を設定するのが望ましい。
回転撮影部16は、累積回転角φ+回転角φが360°未満である場合は(ステップS707;Yes)、駆動部42に回転角φの回転動作をするように指示を出し(ステップS708)、累積回転角φに回転角φを加算(ステップS709)してからステップS703に戻る。ここでの回転動作は、駆動部42の二つの車輪を逆方向に等速度で回転させる等によって、位置を移動せずに回転できるのであれば、位置を移動しない回転動作をするのが望ましい。二つの車輪を同じ方向にしか回転させられない場合には、できるだけ回転半径の小さい回転動作をするのが望ましい。
回転撮影部16は、累積回転角φ+回転角φが360°以上である場合は(ステップS707;No)、駆動部42に回転角(360°−φ)の回転動作をするように指示を出し(ステップS710)、回転撮影フラグRFに2をセットしてから(ステップS711)ステップS703に戻る。
ステップS712では、移動処理制御部15は特徴点記憶部25に登録された2D特徴点の個数が最も多い時の累積回転角φを特徴点記憶部25から検索し、回転角φの回転動作をするように移動処理部11を制御する(ステップS713)。その後、移動処理制御部15は所定の距離(例えば基準並進距離の3倍)だけゆっくりと前方へ移動するように移動処理部11を制御する(ステップS714)。ゆっくりと移動することにより、自機位置推定スレッドで自機位置が推定できるタイミングを増やすことができる。
その後、回転撮影部16は回転撮影フラグRFを0クリアし(ステップS715)、メインフローのステップS105に戻る。このような動作を行うことで、2D特徴点の個数の多い方向に移動を行うので、自機位置の推定が成功する可能性が高まることになる。なお、この実施形態では2D特徴点の個数のみに着目したが、個数だけでなく質にも着目して、2D特徴点の個数と質とで評価関数を定義し、ステップS712ではこの2D特徴点の評価関数が最も高くなる回転角φを検索する処理を行っても良い。
また、第一、第二、第三の各実施形態の移動処理制御を適宜切り替えて行っても良い。例えば、最初に第一の実施形態の移動処理制御を行いそれでも自機位置推定が可能にならなければ第三の実施形態の移動処理制御を行う実施形態、最初に第二の実施形態の移動処理制御を行いそれでも自機位置推定が可能にならなければ第三の実施形態の移動処理制御を行う実施形態、最初に第一の実施形態の移動処理制御を行いそれでも自機位置推定が可能にならなければ第二の実施形態の移動処理制御を行いそれでも自機位置推定が可能にならなければ第三の実施形態の移動処理制御を行う実施形態等が考えられる。
なお、上述の各実施形態では、基準並進距離として「例えば1m」としたが、自律移動装置自体の大きさや速度、自律移動する環境や移動範囲等に応じて、最適な基準並進距離は変わるので、基準並進距離の設定方法について補足しておく。
基準並進距離の設定方法として、キーフレーム上の全てのMap点(3D位置が既知の2D特徴点)の3D位置から自機位置までの距離を平均した値(=キーフレームで観察される全てのMap点までの奥行きの平均距離)と並進距離との比で設定しても良い(例えば、Map点までの奥行きの平均距離の5%の距離を基準並進距離とする等)。ここで用いる「全てのMap点」は制御部10がMap点DBを参照することで抽出でき、この処理において制御部10は位置推定可能特徴点抽出部に相当する。また、実環境上での並進距離の大きさに応じて、例えばテーブルの上を動くなら10cm、部屋を動き回るなら1m、屋外の広場等を動き回るなら10m等を基準並進距離に設定しても良いし、駆動部42の車輪の直径に応じた値(例えば車輪の直径の10倍)を基準並進距離に設定しても良い。
基準並進距離として実環境上の距離で設定する場合は、SLAM座標での並進距離にはスケールSを乗算して実環境上の距離に変換してから比較を行う(この逆も同様であり、基準並進距離としてSLAM座標での距離を設定する場合は、実環境上の距離はスケールSで除算してSLAM座標での距離に変換してから比較を行う)。
また、この発明の自律移動装置100の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施形態では、自律移動装置100が行う自律移動制御処理のプログラムが、記憶部20のROMに予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)及びMO(Magneto−Optical Disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記1)
撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理部と、
前記撮像部が撮影した複数の画像の情報を用いて自機位置を推定する位置推定部と、
前記位置推定部における自機位置の推定結果が一つに定まるか否かを判定する推定判定部と、
前記推定判定部が、前記推定結果が一つに定まらないと判定した場合には、前記位置推定部における自機位置の推定結果が一つに定まる位置に移動するように前記移動処理部を制御する移動処理制御部と、
を備える自律移動装置。
(付記2)
前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
前記推定判定部は、前記位置推定部が用いる複数の画像から前記対応特徴点取得部が抽出した対応する特徴点の数が所定の数未満の場合に、前記推定結果が一つに定まらないと判定する、
付記1に記載の自律移動装置。
(付記3)
前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
前記位置推定部は、前記対応特徴点取得部が抽出した特徴点の前記画像中の座標に基づいて定義したコスト関数を最小化することによって自機位置を推定し、
前記推定判定部は、前記コスト関数の最小値が所定の値よりも大きい場合に、前記推定結果が一つに定まらないと判定する、
付記1に記載の自律移動装置。
(付記4)
前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
前記位置推定部は、前記対応特徴点取得部が抽出した特徴点の前記画像中の座標に基づいて定義したコスト関数を最小化することによって自機位置を推定し、
前記推定判定部は、前記コスト関数が複数の極小値を持ち、最小の極小値を2番目に小さい極小値で割った値が所定の値よりも大きい場合に、前記推定結果が一つに定まらないと判定する、
付記1に記載の自律移動装置。
(付記5)
前記自律移動装置は、さらに、前記移動処理部により自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録部と、
前記推定判定部が前記推定結果が一つに定まると判定した場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録部と、
を備え、
前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記位置履歴記憶部に登録されている位置に自機がいた時点まで遡りながら、前記位置変化履歴記憶部に登録されている位置の変化量とは逆方向に移動するように前記移動処理部を制御する、
付記1から4のいずれか一つに記載の自律移動装置。
(付記6)
前記自律移動装置は、さらに、前記移動処理部により自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録部と、
前記推定判定部が前記推定結果が一つに定まると判定した場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録部と、
前記推定判定部が前記推定結果が一つに定まらないと判定した場合に、前記位置履歴記憶部に登録されている位置に、該位置に対応する時刻から現在時刻まで前記位置変化履歴記憶部に登録されている位置の変化量を積算することで現在の自機の位置を推定する積算位置推定部と、
を備え、
前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記積算位置推定部が推定した位置から前記位置履歴記憶部に登録されている位置に向かって移動するように前記移動処理部を制御する、
付記1から4のいずれか一つに記載の自律移動装置。
(付記7)
前記自律移動装置は、さらに、回転動作を行いながら画像を撮影する回転撮影部を備え、
前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記回転撮影部が撮影した画像の中で、前記位置推定部が推定に用いる情報が最も多い前記画像を撮影した時の方向に向かって移動するように前記移動処理部を制御する、
付記1から4のいずれか一つに記載の自律移動装置。
(付記8)
前記回転撮影部が行う回転動作の一回分の回転角は、前記撮像部の視野角の半分以下の角度である、
付記7に記載の自律移動装置。
(付記9)
前記自律移動装置は、さらに、基準並進距離を移動する度に、前記撮像部が撮影した画像の情報を記憶する画像記憶部を備え、
前記位置推定部は、前記画像記憶部に記憶されている複数の画像の情報を用いて自機位置を推定する、
付記1から8のいずれか一つに記載の自律移動装置。
(付記10)
駆動部の車輪の直径に所定の値を乗算した値を前記基準並進距離に設定する、
付記9に記載の自律移動装置。
(付記11)
前記自律移動装置は、さらに、複数の画像から位置を推定可能な特徴点を抽出する位置推定可能特徴点抽出部を備え、
前記位置推定可能特徴点抽出部が抽出した全ての特徴点と自機位置との距離の平均値を所定の値で除算した値を前記基準並進距離に設定する、
付記9に記載の自律移動装置。
(付記12)
撮像部が撮影した複数の画像の情報に基づいて自律的に移動する自律移動方法であって、
前記撮像部が撮影した複数の画像の情報に基づく自機位置の推定結果が一つに定まらない場合には、前記推定結果が一つに定まる位置を探して移動する、
自律移動方法。
(付記13)
撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理ステップと、
前記撮像部が撮影した複数の画像の情報に基づいて自機位置を推定する位置推定ステップと、
前記位置推定ステップにおける自機位置の推定結果が一つに定まるか否かを判定する推定判定ステップと、
前記推定判定ステップで、前記推定結果が一つに定まらないと判定された場合には、前記位置推定ステップにおける自機位置の推定結果が一つに定まる位置に移動するように前記移動処理ステップでの処理を制御する移動処理制御ステップと、
を備える自律移動方法。
(付記14)
コンピュータに、
撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理ステップ、
前記撮像部が撮影した複数の画像の情報に基づいて自機位置を推定する位置推定ステップ、
前記位置推定ステップにおける自機位置の推定結果が一つに定まるか否かを判定する推定判定ステップ、
前記推定判定ステップで、前記推定結果が一つに定まらないと判定された場合には、前記位置推定ステップにおける自機位置の推定結果が一つに定まる位置に移動するように前記移動処理ステップでの処理を制御する移動処理制御ステップ、
を実行させるためのプログラム。
100…自律移動装置、10…制御部、11…移動処理部、12…地図作成部、13…位置推定部、14…推定判定部、15…移動処理制御部、16…回転撮影部、20…記憶部、21…画像記憶部、22…地図記憶部、23…位置変化履歴記憶部、24…位置履歴記憶部、25…特徴点記憶部、30…センサ部、31…加速度センサ、32…角速度センサ、33…障害物センサ、41…撮像部、42…駆動部、43…入力部、44…通信部、45…電源

Claims (14)

  1. 撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理部と、
    前記撮像部が撮影した複数の画像の情報を用いて自機位置を推定する位置推定部と、
    前記位置推定部における自機位置の推定結果が一つに定まるか否かを判定する推定判定部と、
    前記推定判定部が、前記推定結果が一つに定まらないと判定した場合には、前記位置推定部における自機位置の推定結果が一つに定まる位置に移動するように前記移動処理部を制御する移動処理制御部と、
    前記移動処理部により自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録部と、
    前記推定判定部が前記推定結果が一つに定まると判定した場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録部と、
    を備え、
    前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記位置履歴記憶部に登録されている位置に自機がいた時点まで遡りながら、前記位置変化履歴記憶部に登録されている位置の変化量とは逆方向に移動するように前記移動処理部を制御する、
    自律移動装置。
  2. 撮像部が撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理部と、
    前記撮像部が撮影した複数の画像の情報を用いて自機位置を推定する位置推定部と、
    前記位置推定部における自機位置の推定結果が一つに定まるか否かを判定する推定判定部と、
    前記推定判定部が、前記推定結果が一つに定まらないと判定した場合には、前記位置推定部における自機位置の推定結果が一つに定まる位置に移動するように前記移動処理部を制御する移動処理制御部と、
    前記移動処理部により自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録部と、
    前記推定判定部が前記推定結果が一つに定まると判定した場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録部と、
    前記推定判定部が前記推定結果が一つに定まらないと判定した場合に、前記位置履歴記憶部に登録されている位置に、該位置に対応する時刻から現在時刻まで前記位置変化履歴記憶部に登録されている位置の変化量を積算することで現在の自機の位置を推定する積算位置推定部と、
    を備え、
    前記移動処理制御部は、前記推定判定部が前記推定結果が一つに定まらないと判定した場合には、前記積算位置推定部が推定した位置から前記位置履歴記憶部に登録されている位置に向かって移動するように前記移動処理部を制御する、
    自律移動装置。
  3. 前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
    前記推定判定部は、前記位置推定部が用いる複数の画像から前記対応特徴点取得部が抽出した対応する特徴点の数が所定の数未満の場合に、前記推定結果が一つに定まらないと判定する、
    請求項1または2に記載の自律移動装置。
  4. 前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
    前記位置推定部は、前記対応特徴点取得部が抽出した特徴点の前記画像中の座標に基づいて定義したコスト関数を最小化することによって自機位置を推定し、
    前記推定判定部は、前記コスト関数の最小値が所定の値よりも大きい場合に、前記推定結果が一つに定まらないと判定する、
    請求項1または2に記載の自律移動装置。
  5. 前記自律移動装置は、さらに、複数の画像から対応する特徴点を抽出する対応特徴点取得部を備え、
    前記位置推定部は、前記対応特徴点取得部が抽出した特徴点の前記画像中の座標に基づいて定義したコスト関数を最小化することによって自機位置を推定し、
    前記推定判定部は、前記コスト関数が複数の極小値を持ち、最小の極小値を2番目に小さい極小値で割った値が所定の値よりも大きい場合に、前記推定結果が一つに定まらないと判定する、
    請求項1または2に記載の自律移動装置。
  6. 期値からの累積回転角をφ、一回分の回転角をφとして回転動作を行いながら画像を撮影する回転撮影部と、
    前記回転撮影部が撮影した画像から特徴点を取得して、該特徴点の数と前記累積回転角(φ)とを合わせて記憶する特徴点記憶部と、
    を備え、
    前記移動処理制御部は、前記推定判定部が、前記推定結果が一つに定まらないと判定した場合には、前記特徴点記憶部に記憶された特徴点の数が最も多い時の前記累積回転角(φ)を検索し、前記回転撮影部に、前記検索した累積回転角(φ)に基づいた回転動作をさせる、
    請求項1または2に記載の自律移動装置。
  7. 前記移動処理制御部は、前記回転撮影部に、前記累積回転角φ+前記一回分の回転角φが360°未満である場合は、前記一回分の回転角φの回転動作をさせ、前記累積回転角φ+前記一回分の回転角φが360°以上である場合は、回転角(360°−φ)の回転動作をさせる、請求項6に記載の自律移動装置。
  8. 前記回転撮影部が行う回転動作の一回分の回転角は、前記撮像部の視野角の半分以下の角度である、
    請求項6に記載の自律移動装置。
  9. 前記自律移動装置は、さらに、基準並進距離を移動する度に、前記撮像部が撮影した画像の情報を記憶する画像記憶部を備え、
    前記位置推定部は、前記画像記憶部に記憶されている複数の画像の情報を用いて自機位置を推定する、
    請求項1から8のいずれか一項に記載の自律移動装置。
  10. 駆動部の車輪の直径に所定の値を乗算した値を前記基準並進距離に設定する、
    請求項9に記載の自律移動装置。
  11. 前記自律移動装置は、さらに、複数の画像から位置を推定可能な特徴点を抽出する位置推定可能特徴点抽出部を備え、
    前記位置推定可能特徴点抽出部が抽出した全ての特徴点と自機位置との距離の平均値を所定の値で除算した値を前記基準並進距離に設定する、
    請求項9に記載の自律移動装置。
  12. 撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理ステップと、
    前記撮影した複数の画像の情報に基づいて自機位置を推定する位置推定ステップと、
    前記位置推定ステップにおける自機位置の推定結果が一つに定まるか否かを判定する推定判定ステップと、
    前記推定判定ステップで、前記推定結果が一つに定まらないと判定された場合には、前記位置推定ステップにおける自機位置の推定結果が一つに定まる位置に移動するように前記移動処理ステップでの処理を制御する移動処理制御ステップと、
    前記移動処理ステップで自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録ステップと、
    前記推定判定ステップで前記推定結果が一つに定まると判定された場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録ステップと、
    を備え、
    前記移動処理制御ステップでは、前記推定判定ステップで前記推定結果が一つに定まらないと判定された場合には、前記位置履歴記憶部に登録されている位置に自機がいた時点まで遡りながら、前記位置変化履歴記憶部に登録されている位置の変化量とは逆方向に移動するように前記移動処理ステップでの処理を制御する、
    自律移動方法。
  13. 撮影した複数の画像の情報に基づいて自律的に移動するように処理する移動処理ステップと、
    前記撮影した複数の画像の情報に基づいて自機位置を推定する位置推定ステップと、
    前記位置推定ステップにおける自機位置の推定結果が一つに定まるか否かを判定する推定判定ステップと、
    前記推定判定ステップで、前記推定結果が一つに定まらないと判定された場合には、前記位置推定ステップにおける自機位置の推定結果が一つに定まる位置に移動するように前記移動処理ステップでの処理を制御する移動処理制御ステップと、
    前記移動処理ステップで自機の位置を変化させるたびにその変化量を位置変化履歴記憶部に登録する位置変化履歴登録ステップと、
    前記推定判定ステップで前記推定結果が一つに定まると判定された場合に、その時点での位置の情報を時刻情報と共に位置履歴記憶部に登録する位置履歴登録ステップと、
    前記推定判定ステップで前記推定結果が一つに定まらないと判定された場合に、前記位置履歴記憶部に登録されている位置に、該位置に対応する時刻から現在時刻まで前記位置変化履歴記憶部に登録されている位置の変化量を積算することで現在の自機の位置を推定する積算位置推定ステップと、
    を備え、
    前記移動処理制御ステップでは、前記推定判定ステップで前記推定結果が一つに定まらないと判定された場合には、前記積算位置推定ステップで推定された位置から前記位置変化履歴記憶部に登録されている位置に向かって移動するように前記移動処理ステップでの処理を制御する、
    自律移動方法。
  14. コンピュータに、請求項12または13に記載の自律移動方法を実行させるためのプログラム。
JP2015245196A 2015-12-16 2015-12-16 自律移動装置、自律移動方法及びプログラム Active JP6311695B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015245196A JP6311695B2 (ja) 2015-12-16 2015-12-16 自律移動装置、自律移動方法及びプログラム
US15/269,917 US10296009B2 (en) 2015-12-16 2016-09-19 Autonomous movement device, autonomous movement method and non-transitory recording medium
CN201611033504.9A CN107053166B (zh) 2015-12-16 2016-11-15 自主移动装置、自主移动方法以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015245196A JP6311695B2 (ja) 2015-12-16 2015-12-16 自律移動装置、自律移動方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018050705A Division JP6638753B2 (ja) 2018-03-19 2018-03-19 自律移動装置、自律移動方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017111606A JP2017111606A (ja) 2017-06-22
JP6311695B2 true JP6311695B2 (ja) 2018-04-18

Family

ID=59064449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015245196A Active JP6311695B2 (ja) 2015-12-16 2015-12-16 自律移動装置、自律移動方法及びプログラム

Country Status (3)

Country Link
US (1) US10296009B2 (ja)
JP (1) JP6311695B2 (ja)
CN (1) CN107053166B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019053986A1 (ja) * 2017-09-14 2019-03-21 ソニー株式会社 自己位置推定装置と自己位置推定方法とプログラムおよび移動体装置
JP7127303B2 (ja) * 2018-03-09 2022-08-30 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
WO2019180765A1 (ja) * 2018-03-19 2019-09-26 本田技研工業株式会社 自律走行作業機
JP7007042B2 (ja) * 2018-05-11 2022-01-24 株式会社Soken 移動体制御装置
US11157016B2 (en) * 2018-07-10 2021-10-26 Neato Robotics, Inc. Automatic recognition of multiple floorplans by cleaning robot
JP2020047188A (ja) * 2018-09-21 2020-03-26 パナソニックIpマネジメント株式会社 自律走行掃除機
JP7212486B2 (ja) * 2018-09-26 2023-01-25 フォルシアクラリオン・エレクトロニクス株式会社 位置推定装置
KR101948728B1 (ko) * 2018-09-28 2019-02-15 네이버랩스 주식회사 데이터 수집 방법 및 시스템
WO2020144936A1 (ja) * 2019-01-09 2020-07-16 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
CN112129272B (zh) * 2019-06-25 2022-04-26 京东方科技集团股份有限公司 视觉里程计的实现方法和实现装置
CN113541265B (zh) * 2021-07-29 2022-07-29 上海术理智能科技有限公司 用于机器人的自动充电系统及充电桩定位导航方法

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3176701B2 (ja) * 1992-04-15 2001-06-18 本田技研工業株式会社 移動体の現在位置認識処理装置
JP4060974B2 (ja) 1999-02-25 2008-03-12 株式会社ザナヴィ・インフォマティクス 経路誘導装置
JP4175165B2 (ja) 2002-04-17 2008-11-05 松下電工株式会社 自律移動装置
JP4352148B2 (ja) 2003-03-14 2009-10-28 独立行政法人科学技術振興機構 移動ロボット用地図作成システム
US7835820B2 (en) 2005-10-11 2010-11-16 Vanderbilt University System and method for image mapping and visual attention
US8965578B2 (en) 2006-07-05 2015-02-24 Battelle Energy Alliance, Llc Real time explosive hazard information sensing, processing, and communication for autonomous operation
US8355818B2 (en) 2009-09-03 2013-01-15 Battelle Energy Alliance, Llc Robots, systems, and methods for hazard evaluation and visualization
JP2008059218A (ja) * 2006-08-30 2008-03-13 Fujitsu Ltd 自律走行ロボットの自己位置回復方法
KR100855469B1 (ko) 2006-09-13 2008-09-01 삼성전자주식회사 이동 로봇의 자세 추정 장치 및 방법
JP4856510B2 (ja) 2006-10-02 2012-01-18 本田技研工業株式会社 移動ロボット
GB2448470B (en) 2007-04-20 2012-04-04 Ultra Global Ltd Vehicle guidance system
KR101337534B1 (ko) 2007-07-24 2013-12-06 삼성전자주식회사 이동 로봇의 위치 인식 장치 및 방법
US20090096686A1 (en) * 2007-10-11 2009-04-16 Nec Laboratories America, Inc. Autonomous mobile wireless antenna systems
JP2009169845A (ja) 2008-01-18 2009-07-30 Toyota Motor Corp 自律移動ロボット及び地図更新方法
JP5270184B2 (ja) 2008-02-13 2013-08-21 古野電気株式会社 衛星航法/推測航法統合測位装置
JP2009193240A (ja) 2008-02-13 2009-08-27 Toyota Motor Corp 移動ロボット及び環境地図の生成方法
JP5310285B2 (ja) 2009-06-12 2013-10-09 日産自動車株式会社 自己位置推定装置及び自己位置推定方法
KR20100138725A (ko) 2009-06-25 2010-12-31 삼성전자주식회사 가상 세계 처리 장치 및 방법
JP2011043419A (ja) 2009-08-21 2011-03-03 Sony Corp 情報処理装置、および情報処理方法、並びにプログラム
JP5444952B2 (ja) 2009-08-28 2014-03-19 富士通株式会社 センサフュージョンによる地図の自動生成、およびそのように自動生成された地図を用いて移動体の移動をするための、装置、方法、ならびにプログラム
JP5315289B2 (ja) 2010-04-12 2013-10-16 トヨタ自動車株式会社 オペレーティングシステム及びオペレーティング方法
US20120230550A1 (en) * 2011-03-10 2012-09-13 Jacob Kraut Method and Apparatus for Generating a Map from Landmarks
JP5222971B2 (ja) * 2011-03-31 2013-06-26 富士ソフト株式会社 歩行ロボット装置及びその制御プログラム
US20140340241A1 (en) 2011-09-14 2014-11-20 Smart Ship Holdings Limited Allocating an area to a vehicle
JP5821526B2 (ja) 2011-10-27 2015-11-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
EP2776216B1 (en) * 2011-11-11 2022-08-31 iRobot Corporation Robot apparautus and control method for resuming operation following a pause.
JP5429901B2 (ja) 2012-02-08 2014-02-26 富士ソフト株式会社 ロボット及び情報処理装置のプログラム
EP2876608A4 (en) 2012-07-23 2016-02-10 Fujitsu Ltd PROGRAM, METHOD, AND DISPLAY CONTROL DEVICE
CN102866706B (zh) * 2012-09-13 2015-03-25 深圳市银星智能科技股份有限公司 一种采用智能手机导航的清扫机器人及其导航清扫方法
US9739215B2 (en) 2013-03-15 2017-08-22 Ford Global Technologies, Llc Intrusive EGR monitor for a hybrid vehicle
JP6051993B2 (ja) 2013-03-25 2016-12-27 村田機械株式会社 自律移動式無人搬送車、及び、自律移動式無人搬送システム
CN103294059B (zh) * 2013-05-21 2015-09-09 无锡普智联科高新技术有限公司 基于混合导航带的移动机器人定位系统及其方法
US9037396B2 (en) 2013-05-23 2015-05-19 Irobot Corporation Simultaneous localization and mapping for a mobile robot
JP6475409B2 (ja) 2013-12-20 2019-02-27 蛇の目ミシン工業株式会社 ロボット、ロボットの制御方法、及びロボットの制御プログラム
JP6027554B2 (ja) 2014-01-21 2016-11-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、情報処理システム、ブロックシステム、および情報処理方法
JP6191484B2 (ja) 2014-02-03 2017-09-06 トヨタ自動車株式会社 移動ロボットの自己位置推定方法
JP5949814B2 (ja) * 2014-03-06 2016-07-13 トヨタ自動車株式会社 自律移動ロボット、及びその制御方法
TWI507664B (zh) 2014-03-13 2015-11-11 Pixart Imaging Inc 光學編碼器及其運作方法
KR101629649B1 (ko) 2014-09-30 2016-06-13 엘지전자 주식회사 로봇 청소기 및 로봇 청소기의 제어방법
US9519289B2 (en) * 2014-11-26 2016-12-13 Irobot Corporation Systems and methods for performing simultaneous localization and mapping using machine vision systems
US9569851B2 (en) 2014-12-23 2017-02-14 Ricoh Co., Ltd. Sequencing products recognized in a shelf image
JP6789624B2 (ja) 2015-11-20 2020-11-25 キヤノン株式会社 情報処理装置、情報処理方法
GB2545171B (en) 2015-12-03 2020-08-19 Sony Interactive Entertainment Inc Light source identification apparatus and method
JP6323439B2 (ja) 2015-12-17 2018-05-16 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
US9889859B2 (en) 2015-12-21 2018-02-13 Intel Corporation Dynamic sensor range in advanced driver assistance systems

Also Published As

Publication number Publication date
CN107053166B (zh) 2020-05-05
US10296009B2 (en) 2019-05-21
JP2017111606A (ja) 2017-06-22
US20170176997A1 (en) 2017-06-22
CN107053166A (zh) 2017-08-18

Similar Documents

Publication Publication Date Title
JP6311695B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6323439B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6288060B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6187623B1 (ja) 自律移動装置、自律移動方法及びプログラム
AU2016213835B2 (en) Adaptive mapping with spatial summaries of sensor data
JP6724439B2 (ja) 自律移動装置、自律移動システム、自律移動方法及びプログラム
Chen Kalman filter for robot vision: a survey
US20180161986A1 (en) System and method for semantic simultaneous localization and mapping of static and dynamic objects
KR101725060B1 (ko) 그래디언트 기반 특징점을 이용한 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
JP5222971B2 (ja) 歩行ロボット装置及びその制御プログラム
KR101776621B1 (ko) 에지 기반 재조정을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
US8787614B2 (en) System and method building a map
WO2012035707A1 (ja) 地図生成装置、地図生成方法、移動体の移動方法、及びロボット装置
JP4822926B2 (ja) 無線発信機の三次元位置を推定する方法、プログラムおよびシステム
JP2013025401A (ja) 自己位置推定装置、自己位置推定方法およびプログラム
JP6638753B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP2018156538A (ja) 自律移動装置、画像処理方法及びプログラム
JP7354528B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
JP2017107275A (ja) 自律移動装置、自律移動方法及びプログラム
JP7067130B2 (ja) 自律移動装置、メモリ整理方法及びプログラム
JP7327596B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
Hsieh et al. Mobile robot localization and path planning using an omnidirectional camera and infrared sensors

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180305

R150 Certificate of patent or registration of utility model

Ref document number: 6311695

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150