JP6323439B2 - 自律移動装置、自律移動方法及びプログラム - Google Patents

自律移動装置、自律移動方法及びプログラム Download PDF

Info

Publication number
JP6323439B2
JP6323439B2 JP2015246761A JP2015246761A JP6323439B2 JP 6323439 B2 JP6323439 B2 JP 6323439B2 JP 2015246761 A JP2015246761 A JP 2015246761A JP 2015246761 A JP2015246761 A JP 2015246761A JP 6323439 B2 JP6323439 B2 JP 6323439B2
Authority
JP
Japan
Prior art keywords
image
unit
storage unit
map
autonomous mobile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015246761A
Other languages
English (en)
Other versions
JP2017111688A (ja
Inventor
哲郎 成川
哲郎 成川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2015246761A priority Critical patent/JP6323439B2/ja
Priority to US15/278,627 priority patent/US10012989B2/en
Priority to CN201610911363.XA priority patent/CN106896807B/zh
Publication of JP2017111688A publication Critical patent/JP2017111688A/ja
Application granted granted Critical
Publication of JP6323439B2 publication Critical patent/JP6323439B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/48Extraction of image or video features by mapping characteristic values of the pattern into a parameter space, e.g. Hough transformation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Manipulator (AREA)

Description

本発明は、自律移動装置、自律移動方法及びプログラムに関する。
用途に応じて自律的に移動する自律移動装置が普及してきている。例えば、屋内の掃除のために自律的に移動する自律移動装置が知られている。一般的に、このような自律移動装置は、実空間の地図の作成と、実空間内での自機位置の推定を行う必要がある。
実空間の地図を作成するための手法としては、例えばSLAM(Simultaneous Localization And Mapping)法が知られている。単眼カメラを用いたSLAM技術の基本的な原理は、非特許文献1に記載されており、カメラの撮影する動画像の複数フレームから、同一の特徴点を追跡することで、自機の3次元位置(カメラ位置)と特徴点の3次元位置(これが集まって地図の情報を構成する)とを交互に推定する処理を行っている。
この方法は、自機位置と特徴点の3次元位置とを交互に推定していくため、累積誤差が発生し、ループ状の移動等を行って元の位置に戻ってきた場合でも、元の位置に戻ってきたことを認識できない場合がある。このような累積誤差を修正する方法として、ループクロージング処理(ループ解決処理)という技術があり、特許文献1等で用いられている。自機がループを検出すると(撮影したフレーム中に、過去同じ位置から撮影した同一の特徴点が含まれていることが検出されると)、過去のその位置を正しい位置とみなして、そこから現在位置に至るまでの経路中の位置を修正するループクロージング処理が行われる。
Andrew J.Davison, "Real−Time Simultaneous Localization and Mapping with a Single Camera", Proceedings of the 9th IEEE International Conference on Computer Vision Volume 2, 2003, pp.1403−1410 Richard Hartley, Andrew Zisserman, "Multiple View Geometry in Computer Vision", Second Edition, Cambridge. University Press, March 2004, chapter 9
特開2004−276168号公報
従来技術では、過去に通った位置に戻ってきた場合でも、カメラでの撮影方向が大きく異なっていると、同一の特徴点を検出することができず、ループクロージング処理が行われない。このため、累積誤差が修正されず、同一点に戻ってきていても同一点に戻ってきたことを認識できないという問題があった。
本発明は、上記問題を解決するためになされたものであり、ループクロージング処理を行う頻度を増加させることで、自機位置等の累積誤差を減らすことができる自律移動装置等を提供することを目的する。
上記目的を達成するため、本発明の自律移動装置は、
回転動作を行いながら画像を撮影する回転撮影部と、
撮影した画像の情報を、撮影時の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と共に記憶する画像記憶部と、
前記画像記憶部に記憶されている複数の画像の情報を用いて作成した地図を記憶する地図記憶部と、
撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索部と、
前記類似画像検索部が、前記所定の類似度以上になる画像を発見した場合、以前来たことのある同じ場所に戻ってきたことを認識したと判断し、前記発見した画像に対応して前記画像記憶部に記憶されている自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と、現在の位置の並進ベクトルtと回転行列Rの値と、を用いて前記地図記憶部に記憶されている地図を補正する地図補正部と、
を備えることを特徴とする。
本発明によれば、ループクロージング処理を行う頻度が増加し、自機位置等の累積誤差を減らすことができる。
第一の実施形態に係る自律移動装置の外観を示す図である。 第一の実施形態に係る自律移動装置の構成を示す図である。 第一の実施形態に係る自律移動制御処理全体のフローチャートを示す図である。 第一の実施形態に係る自律移動制御処理の中の自機位置推定スレッドの処理のフローチャートを示す図である。 第一の実施形態に係る自律移動制御処理の中の地図作成スレッドの処理のフローチャートを示す図である。 第一の実施形態に係る自律移動制御処理の中のループクロージングスレッドの処理のフローチャートを示す図である。 第一の実施形態に係る自律移動制御処理の中の回転撮影処理のフローチャートを示す図である。 第二の実施形態に係る自律移動装置の構成を示す図である。 第二の実施形態に係る自律移動制御処理の中の自機位置推定スレッドの処理のフローチャートを示す図である。 コビジビリティーグラフを説明する図である。 第四の実施形態に係る自律移動制御処理の中の自機位置推定スレッドの処理のフローチャートを示す図である。 第四の実施形態に係る自律移動制御処理の中のループクロージングスレッドの処理のフローチャートを示す図である。
以下、図1を参照しながら、本発明の実施形態に係る自律移動装置について説明する。自律移動装置100は、用途に応じて自律的に移動する。この用途とは、例えば、警備監視用、屋内掃除用、ペット用、玩具用などである。
自律移動装置100は、外観上、撮像部41、駆動部42を備える。
撮像部41は、単眼の撮像装置(カメラ)を備える。撮像部41は、例えば、30fpsで画像(フレーム)を取得する。自律移動装置100は、撮像部41が逐次取得した画像に基づいて、自機位置と周囲環境とをリアルタイムに認識しながら、自律移動を行う。
駆動部42は、独立2輪駆動型であって、車輪とモータとを備える移動手段である。自律移動装置100は、2つの車輪の同一方向駆動により前後の平行移動(並進移動)を、2つの車輪の逆方向駆動によりその場での回転(向き変更)を、2つの車輪のそれぞれ速度を変えた駆動により旋回移動(並進+回転(向き変更)移動)を、行うことができる。また、各々の車輪にはロータリエンコーダが備えられており、ロータリエンコーダで車輪の回転数を計測し、車輪の直径や車輪間の距離等の幾何学的関係を利用することで並進移動量及び回転量を計算できる。例えば、車輪の直径をD、回転数をR(ロータリエンコーダにより測定)とすると、その車輪の接地部分での並進移動量はπ・D・Rとなる。また、車輪の直径をD、車輪間の距離をI、右車輪の回転数をR、左車輪の回転数をRとすると、向き変更の回転量は(右回転を正とすると)360°×D×(R−R)/(2×I)となる。この並進移動量や回転量を逐次足し合わせていくことで、駆動部42は、いわゆるオドメトリとして機能し、自機位置(移動開始時の位置及び向きを基準とした位置及び向き)を計測することができる。
オドメトリから得られる自機の位置及び向きの精度は、車輪の摩耗やスリップ等により、低い精度になってしまうことが多い。特に誤差が累積していく関係上、時間経過と共に精度が悪化する。
なお、車輪の代わりにクローラを備えるようにしても良いし、複数(例えば二本)の足を備えて足で歩行することによって移動を行うようにしても良い。これらの場合も、二つのクローラの動きや、足の動きに基づいて、車輪の場合と同様に自機の位置や向きの計測が可能である。
図2に示すように、自律移動装置100は、撮像部41、駆動部42に加えて、制御部10、記憶部20、センサ部30、入力部43、通信部44、電源45、を備える。
制御部10は、CPU(Central Processing Unit)等で構成され、記憶部20に記憶されたプログラムを実行することにより、後述する各部(回転撮影部11、地図作成部12、位置推定部13、類似画像検索部14、地図補正部15)の機能を実現する。
記憶部20は、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成され、画像記憶部21、地図記憶部22を含む。ROMには制御部10のCPUが実行するプログラム(例えば、後述するSLAM法の演算や自律移動制御処理に係るプログラム)や、プログラムを実行する上で予め必要なデータが記憶されている。RAMには、プログラム実行中に作成されたり変更されたりするデータが記憶される。
画像記憶部21には、撮像部41が撮影した画像が記憶される。ただし、記憶容量の節約のために、撮影したすべての画像を記憶しなくてもよく、また画像自体ではなく、画像の特徴量を記憶するようにしても良い。重要な画像(後述するキーフレーム)については、画像の情報と共に、その画像を撮影した時の自機位置(自機の位置及び向き)の情報が記憶される。
地図記憶部22には、後述するSLAM法や障害物センサ31からの情報に基づいて地図作成部12が作成した地図(特徴点や障害物の3次元位置の情報)が記憶される。
センサ部30として、障害物センサ31を備える。障害物センサ31は、走行中の障害物を検知するセンサであって、例えば、赤外線センサ、超音波センサである。なお、独立した障害物センサ31を搭載せずに、撮像部41を用いて障害物を検知するようにしても良い。また、他の物体に衝突したことを検知するバンパーセンサー(図示せず)を備えても良い。
入力部43として、自律移動装置100を操作するための操作ボタンを備える。操作ボタンは、例えば、電源ボタン、モード切替ボタン(掃除モード、ペットモード等を切り替える)、初期化ボタン(地図の作成をやり直しさせる)などを含む。入力部43として、音の入力を行うマイク(図示せず)と、自律移動装置100への操作指示の音声を認識する音声認識部を備えても良い。
通信部44は、外部装置と通信するためのモジュールであり、外部装置と無線通信する場合にはアンテナを含む無線モジュールである。例えば、通信部44は、Bluetooth(登録商標)に基づく近距離無線通信を行うための無線モジュールである。通信部44では、自律移動装置100と外部とのデータ受け渡し等を行う。
電源45は、自律移動装置100を動作させる電源であり、一般的には内蔵された充電池であるが、太陽電池であっても良いし、床面から無線で電力供給されるシステムであっても良い。電源45が充電池の場合は、充電ステーション(ホームベース)に自律移動装置100がドッキングすることで充電される。
次に、制御部10の機能について説明する。制御部10は、回転撮影部11、地図作成部12、位置推定部13、類似画像検索部14、地図補正部15を含み、後述するSLAM法の演算や自律移動装置100の移動指示等を行う。また、制御部10は、マルチスレッド機能に対応しており、複数のスレッド(異なる処理の流れ)を並行して進めることができる。
回転撮影部11は、所定の条件に基づき、駆動部42で自機を回転させつつ、撮像部41で画像を撮影し、撮影した画像は後述する位置推定部13が推定した自機の位置及び向きの情報と共に画像記憶部21に記憶させる。自機の位置及び向きについては、位置推定部13が推定した値ではなく、上述したオドメトリから取得した値を用いても良い。
地図作成部12は、画像記憶部21に記憶されている画像の情報並びに該画像撮影時の自機の位置及び向きの情報に基づいてSLAM法を用いて推定された特徴点の3次元位置(Map点)や、障害物センサ31で障害物を検知したときの自機の位置及び向きの情報に基づいて得られた該障害物の3次元位置等を、地図の情報として地図記憶部22に記憶する。
位置推定部13は、後述するSLAM法に基づいて、ビジュアルオドメトリとして、自機の位置及び向きを推定する。
類似画像検索部14は、撮像部41が撮影した画像の特徴量と、画像記憶部21に記憶されている画像の特徴量とを比較し、類似度が所定の類似度(基準類似度)以上のものを検索する。
地図補正部15は、類似画像検索部14によって類似度が基準類似度以上の画像が発見された時に、その画像が撮影された位置及び向きの情報に基づいて、地図記憶部22に記憶されている地図の情報を補正する。
図3は、自律移動装置100のメインフローである。制御部10は、最初に初期化済フラグ(自機位置推定のための初期化処理が完了しているかどうかを示す変数)及び回転撮影フラグ(回転撮影処理中か否かを示す変数。以下「RF」ともいう。)をクリアしてから自機位置推定スレッドを起動し(ステップS101)、次に地図作成スレッド(ステップS102)、ループクロージングスレッド(ステップS103)の各スレッドを起動する。自機位置推定スレッドや地図作成スレッドが動作することで、SLAM法に基づいて、地図の情報及びビジュアルオドメトリ(地図と画像とを用いて推定した自機位置の情報)の生成が開始される。その後、制御部10は、動作終了かどうかを判定し(ステップS104)、動作終了なら(ステップS104;Yes)動作を終了し、動作終了でなければ(ステップS104;No)地図作成部12が地図の情報の作成・更新を行う(ステップS105)。
次に制御部10は、回転撮影フラグRFが0かどうかを判定する(ステップS106)。回転撮影フラグRFは、本実施形態の特徴的な機能である回転撮影処理の状態を示すフラグであり、0は「回転撮影処理中ではない」、1は「回転撮影処理中(一回転する前の段階)」、2は「回転撮影処理の最終段階」を示している。RFが0なら(ステップS106;Yes)、ステップS107へ行き、自律移動するために駆動部42に所望の動作を指示し(ステップS107)、ステップS104に戻る。RFが0でないなら(ステップS106;No)、現在回転撮影処理中ということなので、移動処理を回転撮影処理に任せるために、メインフローでの移動処理は行わずにステップS104に戻る。なお、回転撮影処理の詳細については後述する。
このメインフローの処理により、地図の情報に基づいて自律的に移動を行いつつ、適宜地図の情報を更新することができる。典型的な例としては、自律移動装置100は最初、充電ステーションに置いてある状態で電源を投入すると、障害物センサ31を頼りとして、家の各部屋をくまなく移動し、障害物センサ31によって壁等の障害物位置を特定し、障害物位置を含む地図の情報を作成することができる。地図がある程度作成されると、地図の情報がまだないが移動可能と考えられる領域を知ることができ、その領域に自律的に移動する等して、より広範囲の地図の作成を促すこともできるようになる。そして、移動可能なほぼ全域の地図の情報が作成されれば、地図の情報を利用した効率的な移動動作が可能になる。例えば部屋のどの位置からでも最短経路で充電ステーションに戻ったり、効率的に部屋の掃除をしたりすることが可能になる。
自律移動装置100のメインフロー(図3)のステップS101で起動される自機位置推定スレッドについて、図4を用いて説明する。このスレッドは、位置推定部13が、最初に初期化処理を行い、その後自機位置推定(撮像部41で取得した画像を用いてビジュアルオドメトリにより自機位置を推定する)を続ける処理である。
位置推定部13は、まず、動作終了かを判定する(ステップS201)。動作終了なら(ステップS201;Yes)終了し、動作終了でないなら(ステップS201;No)、初期化済であるか判定する(ステップS202)。初期化済なら(ステップS202;Yes)ステップS220以降の自機位置推定処理を行い、初期化済でないなら(ステップS202;No)ステップS203に進んで初期化処理を行う。まず初期化処理について説明する。
初期化処理では位置推定部13はまずフレームカウンタNに−1をセットし(ステップS203)、撮像部41で画像を取得する(ステップS204)。画像は例えば30fpsで取得することができる(取得した画像はフレームとも呼ばれる)。次に、取得した画像内から2D特徴点を取得する(ステップS205)。2D特徴点とは画像中のエッジ部分など、画像内の特徴的な部分であり、SIFT(Scale−Invariant Future Transform)やSURF(Speed−Up Robust Features)等のアルゴリズムを用いて取得することができる。なお、2D特徴点を取得するのに他のアルゴリズムを使っても良い。
取得した2D特徴点の個数が少ないと、後述するTwo−view Structure from Motion法での計算ができないため、位置推定部13はステップS206において、2D特徴点の取得数と基準値(例えば10個)とを比較し、基準値未満だった場合(ステップS206;No)はステップS204に戻り、基準値以上の2D特徴点数が得られるまで、画像の取得と2D特徴点の取得とを繰り返す。なお、この時点ではまだ地図の情報は作成できていないが、例えば上述した典型的な例では、障害物センサ31を頼りとして、家の各部屋をくまなく移動し始めているため、この初期化処理で画像取得と2D特徴点取得を繰り返していれば、移動しながら画像取得を繰り返すことになるので、様々な画像が取得でき、いずれは2D特徴点数が多い画像を取得できることが期待できる。
2D特徴点の取得数が基準値以上だった場合は(ステップS206;Yes)、位置推定部13はフレームカウンタNをインクリメントする(ステップS207)。そして、フレームカウンタNが0かどうかを判定する(ステップS208)。フレームカウンタNが0なら(ステップS208;Yes)画像をまだ一つしか取得していないということになるので、2枚目の画像を取得するためにステップS204に戻る。なお図4のフローチャートでは記載していないが、1枚目の画像を取得した時の自機の位置と2枚目の画像を取得する時の自機の位置とがある程度離れていた方が、これ以降の処理で推定する姿勢の精度が向上する。そこで、ステップS208からステップS204に戻る際に、メインフロー(図3)のステップS107での駆動部42への動作指示によりオドメトリによる並進距離が所定の距離(例えば1m)以上となるまで待つ処理を追加しても良い。
フレームカウンタNが0でないなら(ステップS208;No)二つの画像を取得したということがわかるので、位置推定部13は、これら二つの画像間で2D特徴点の対応(実環境上の同一の点がそれぞれの画像中に存在し、その対応が取れるもの)を取得する(ステップS209)。ここで特徴点の対応数が5未満であれば、後述する二つの画像間の姿勢の推定ができないため、位置推定部13は特徴点の対応数が5未満かどうかを判定する(ステップS210)。5未満であれば(ステップS210;Yes)初期画像を取得し直すために、ステップS203に戻る。特徴点の対応数が5点以上であれば(ステップS210;No)、Two−view Structure from Motion法を用いることで、二つの画像間の姿勢(それぞれの画像を取得した位置の差分(並進ベクトルt)及び向きの差分(回転行列R))を推定することができる(ステップS211)。
この推定は具体的には、対応する特徴点から基礎行列Eを求め、基礎行列Eを並進ベクトルtと回転行列Rとに分解することによって得られるが、詳細は非特許文献2で説明されているため、ここでは割愛する。なお、ここで得られる並進ベクトルt(3次元空間内で移動することを想定すると、最初の画像を取得した位置を原点として、X,Y,Zの3要素を持つ)の各要素の値は実環境上での値とは異なる(Two−view Structure from Motion法では実環境上の値自体を得ることはできず、実環境と相似する空間上での値を得ることになる。)ため、これらをSLAM空間上での値とみなし、以下ではSLAM空間上での座標(SLAM座標)を用いて説明する。
二つの画像間の姿勢(並進ベクトルt及び回転行列R)が求まると、その値は、最初の画像を基準(最初の画像を取得した位置をSLAM座標の原点、並進ベクトルは0ベクトル、回転行列は単位行列Iとする。)にした場合の、二枚目の画像の姿勢(二つ目の画像を取得した時の自機の位置(並進ベクトルt)及び向き(回転行列R))となる。ここで、二つの画像それぞれの姿勢(該画像(フレーム)撮影時の自機の位置(並進ベクトルt)及び向き(回転行列R)で、フレーム姿勢とも言う。)が求まっている場合、その二つの画像間で対応が取れている2D特徴点(対応特徴点)のSLAM座標での3D位置を、以下の考え方に基づき、地図作成部12が求める(ステップS212)。
2D特徴点の画像中の座標(フレーム座標:既知)を(u,v)とし、その2D特徴点のSLAM座標での3D位置(未知)を(X,Y,Z)とすると、これらを同次座標で表したときのこれらの関係は、透視投影行列Pを用いて下記の式(1)で表される。ここで、「〜」記号は「非零の定数倍を除いて等しい」(つまり、等しいか又は定数(非零)倍になっている)ことを表し、「’」記号は「転置」を表す。
(u v 1)’〜P(X Y Z 1)’…(1)
上記の式(1)において、Pは3×4の行列で、カメラの内部パラメータを示す3×3の行列Aと、その画像の姿勢(フレーム姿勢)を示す外部パラメータR及びtから以下の式(2)で表される。ここで、(R|t)は、回転行列Rの右に並進列ベクトルtを並べた行列を表す。
P=A(R|t)…(2)
上記の式(2)において、R及びtは上述したようにそのフレーム姿勢として求められている。また、カメラの内部パラメータAは、焦点距離と撮像素子サイズにより決まるので、撮像部41を決めておけば定数となる。
二つの画像間で対応が取れている2D特徴点のうちの一つが、一つ目の画像のフレーム座標(u,v)と、二つ目の画像のフレーム座標(u,v)に写っているとすると、以下の式(3)及び式(4)ができる。ここで、Iは単位行列、0はゼロベクトル、(L|r)は、行列Lの右に列ベクトルrを並べた行列を表す。
(u 1)’〜A(I|0)(X Y Z 1)’…(3)
(u 1)’〜A(R|t)(X Y Z 1)’…(4)
上記の式(3)及び式(4)において、u,v,u,vそれぞれについての式ができるため、式は4つできるが、未知数はX,Y,Zの3つなので、X,Y,Zを求めることができ、これがその2D特徴点のSLAM座標における3D位置となる。なお、式の個数の方が未知数の個数よりも多いため、例えばu,v,uで求めたX,Y,Zとu,v,vで求めたX,Y,Zとが異なる場合がありうる。このような場合は、過剰条件の連立一次方程式となり、一般には解が存在しないが、地図作成部12は、最小二乗法を用いて、最も確からしいX,Y,Zを求める。
2D特徴点のSLAM座標における3D位置(X,Y,Z)が求まったら、それをMap点として、地図作成部12がMap点データベース(Map点DB(Database)とも言い、地図記憶部22に格納される)に登録する(ステップS213)。Map点データベースに登録する要素としては、少なくとも、「2D特徴点のSLAM座標における3D位置であるX,Y,Z」と、「その2D特徴点の特徴量」(例えばSIFT等で得た特徴量)が必要である。また、「タイムスタンプ」(後述するキーフレームカウンタNKF(現在のキーフレーム番号を表す変数)のMap点データベースへの登録時点での値等)をMap点データベースへの登録要素に追加しておくと、Map点データベースを編集(過去の状態に戻す等)する際に便利である。
そして、地図作成部12は、二つの画像間で対応が取れている2D特徴点(対応特徴点)の全てをMap点データベースに登録したかを判定し(ステップS214)、まだ全ての登録ができていなかったら(ステップS214;No)ステップS212に戻り、全て登録できたら(ステップS214;Yes)ステップS215に進む。
次に位置推定部13は、キーフレーム(後に続くスレッドでの処理対象となる画像を指す)のカウンタNKFを0に初期化し(ステップS215)、二つ目の画像をキーフレームとしてフレームデータベース(フレームDB(Database)とも言い、画像記憶部21に格納される)に登録する(ステップS216)。
フレームデータベースに登録する要素は、「キーフレーム番号」(登録時点でのキーフレームカウンタNKFの値)、「姿勢」(その画像撮影時の自機のSLAM座標内での位置(並進ベクトルt)及び向き(回転行列R))、「抽出した全ての2D特徴点」、「全ての2D特徴点の中でMap点として3D位置が既知の点」、「キーフレーム自体の特徴」、であるが、これらに加えて「オドメトリで計測した実環境上での姿勢」(実環境での駆動部42による移動距離に基づいて求められる自機の位置及び向き)も登録しても良い。
上記中、「キーフレーム自体の特徴」とは、キーフレーム間の画像類似度を求める処理を効率化するためのデータであり、通常は画像中の2D特徴点のヒストグラム等を用いるのが良いが、画像自体を「キーフレーム自体の特徴」としても良い。また、「オドメトリで計測した実環境上での姿勢」は、並進ベクトルtと回転行列Rとで表すこともできるが、通常、本自律移動装置100は2次元平面上を動くので、2次元データに単純化して、移動開始時の位置(原点)及び向きを基準にした2次元座標(X,Y)及び向きφとして表しても良い。
次に、位置推定部13は、キーフレームが生成された事を地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキュー(キュー(Queue)は、先入れ先出しのデータ構造になっている)に、キーフレームカウンタNKFをセットする(ステップS217)。
以上で自機位置推定スレッドの初期化処理が完了したので、位置推定部13は、初期化済フラグをセットし、SLAM座標と実環境座標とのスケール対応を得るために、オドメトリによる並進距離(実環境での座標で求められる)を、上記の処理で推定したSLAM座標での並進距離dで除することによって、スケールSを求める(ステップS218)。
そして、制御部10は、定期的に回転撮影部11を動作させるために、現在時刻をタイマー(図示せず)から取得してRTIME(回転撮影処理を開始する時刻を設定するための変数)にセットする(ステップS219)。そして、ステップS201、ステップS202を経由して、初期化済の場合の処理であるステップS220へ進む。
初期化済の場合の処理を説明する。この処理が、自機位置推定スレッドの通常時の処理であり、位置推定部13が、逐次、現在の自機の位置及び向き(SLAM座標内での並進ベクトルtと回転行列R)を推定する処理である。
まず、制御部10は、現在時刻がRTIMEから所定の時間(DTIME(回転撮影処理を行う時間間隔が設定されている変数):例えば10分)経過していないか(回転撮影を行うための条件を満たしていないか)を判定する(ステップS220)。経過していなければ(ステップS220;Yes)ステップS221へ進む。経過していたら(ステップS220;No)回転撮影処理(ステップS233)を行った後にステップS201に戻る。
現在時刻がRTIMEから所定の時間(DTIME)経過していなければ、位置推定部13は、撮像部41で画像を撮影し(ステップS221)、フレームカウンタNをインクリメントする(ステップS222)。そして、撮影した画像に含まれている2D特徴点を取得する(ステップS223)。次に、フレームデータベースに登録されている以前のキーフレーム(例えばキーフレーム番号がNKFである画像)の情報から、その画像の情報に含まれている2D特徴点のうち、3D位置が既知である(Map点データベースに登録されているMap点になっている)2D特徴点を取得し、今撮影した画像との間で対応が取れる2D特徴点(対応特徴点)を抽出する(ステップS224)。
そして、位置推定部13は、対応特徴点の個数が所定の個数(例えば10。以下「基準対応特徴点数」という。)未満かどうかを判定し(ステップS225)、基準対応特徴点数未満の場合(ステップS225;Yes)はSLAM法で推定する姿勢の精度が悪くなるので、位置の推定は行わずにステップS220に戻る。ここで、すぐにステップS220に戻るのではなく、ステップS224に戻って、フレームデータベースに登録されているキーフレームの中から対応特徴点の個数が基準対応特徴点数以上のものを検索するようにしても良い。この場合は、フレームデータベースに登録されているキーフレームの中に対応特徴点の個数が基準対応特徴点数以上のものが見つからなかった場合にステップS220に戻る。
位置推定部13は、基準対応特徴点数以上の対応特徴点が抽出できたら(ステップS225;No)、対応特徴点それぞれの3D位置(X,Y,Z)をMap点データベースから取得する(ステップS226)。今撮影した画像に含まれている対応特徴点のフレーム座標を(u,v)とし、その対応特徴点の3D位置を(X,Y,Z)とする(iは1から対応特徴点数までの値を取る)と、各対応特徴点の3D位置(X,Y,Z)を以下の式(5)によってフレーム座標系に投影した値(ux,vx)とフレーム座標(u,v)とは理想的には一致するはずである。
(ux vx 1)’〜A(R|t)(X1)’…(5)
実際には(X,Y,Z)にも(u,v)にも誤差が含まれているため、(ux,vx)と(u,v)とが一致することはめったにない。そして、未知数はRとt(3次元空間ではそれぞれ3次元となり、3+3=6が未知数の個数である)だけなのに、数式は対応特徴点の個数の2倍存在する(対応特徴点一つに対して、フレーム座標のu,vそれぞれに対する式が存在するため)ことになるため、過剰条件の連立一次方程式になり、上述したように最小二乗法で求めることになる。具体的には、位置推定部13は、以下の式(6)のコスト関数E1を最小化する姿勢(並進ベクトルt及び回転行列R)を求めることになる。これがSLAM法で求めたSLAM座標での自機の姿勢(並進ベクトルt及び回転行列Rで表される自機の位置及び向き)となる。このようにして、位置推定部13は自機の姿勢を推定する(ステップS227)。
Figure 0006323439
SLAM座標での現在の自機の姿勢(並進ベクトルt及び回転行列R)が求められたので、位置推定部13は、これにスケールSを乗算することで、VO(ビジュアルオドメトリ)を求める(ステップS228)。VOは実環境での自機の位置及び向きとして利用できる。
次に、位置推定部13は、フレームDBに登録されている直前のキーフレーム(キーフレーム番号がNKFである画像)を撮影した時の自機の位置から所定の距離(例えば1m。以下「基準並進距離」という。)以上移動しているかを判定し(ステップS229)、移動しているなら(ステップS229;Yes)キーフレームカウンタNKFをインクリメントしてから(ステップS230)、現フレームをキーフレームとしてフレームDBに登録する(ステップS231)。基準並進距離未満しか移動していないなら(ステップS229;No)ステップS201に戻る。
ここで、基準並進距離と比較する自機の移動距離は、直前のキーフレームから現フレームまでの並進距離(両フレームの並進ベクトルの差のベクトルの絶対値(要素の二乗和の平方根))をオドメトリから取得しても良いし、上述したVO(ビジュアルオドメトリ)から求めても良い。フレームDBに登録する内容は上述したように、「キーフレーム番号」、「姿勢」、「抽出した全ての2D特徴点」、「全ての2D特徴点の中でMap点として3D位置が既知の点」、「キーフレーム自体の特徴」、である。
そして、位置推定部13は、新たなキーフレームが発生したことを地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキューにキーフレームカウンタNKFをセットする(ステップS232)。そして、ステップS201に戻る。なお、キーフレームカウンタNKF、スケールS、Map点DB、フレームDBはスレッドをまたいで値を参照することができるように記憶部20に記憶されている。
次に、自律移動装置100のメインフロー(図3)のステップS102で起動される地図作成スレッドについて、図5を用いて説明する。このスレッドは地図作成部12が、キーフレーム中の対応特徴点の3D位置を計算して、地図の情報(Map点DB)を作成している。
まず、地図作成部12は、動作終了かを判定する(ステップS301)。動作終了なら(ステップS301;Yes)終了し、動作終了でないなら(ステップS301;No)、キーフレームキューが空かどうかを判定する(ステップS302)。キーフレームキューが空だったら(ステップS302;Yes)ステップS301に戻り、空でなければ(ステップS302;No)、キーフレームキューからデータを取り出してMKF(地図作成スレッドで処理するキーフレームのキーフレーム番号を表す変数)にセットする(ステップS303)。地図作成部12は、MKFが0より大きいか判定し(ステップS304)、MKFが0である場合は(ステップS304;No)ステップS301に戻ってキーフレームキューにデータが入るのを待つ。MKFが1以上の場合は(ステップS304;Yes)、以下の処理に進む。
地図作成部12は、フレームDBを参照し、前キーフレーム(キーフレーム番号がMKF−1のキーフレーム)の2D特徴点と現キーフレーム(キーフレーム番号がMKFのキーフレーム)の2D特徴点とで対応が取れる2D特徴点(対応特徴点)を抽出する(ステップS305)。フレームDBにはそれぞれのキーフレームの姿勢(並進ベクトルtと回転行列R)も登録されているので、自機位置推定スレッドの初期化時の処理の時と同様の方法で対応特徴点の3D位置を計算できる。地図作成部12は、3D位置が計算できた対応特徴点をMap点としてMap点DBに登録する(ステップS306)。地図作成部12は、フレームDBに対しても今回3D位置を計算できた2D特徴点に対して3D位置を登録する(ステップS307)。
なお、地図作成部12が抽出した対応特徴点がすでにMap点DBに登録済だった場合は、3D位置計算をスキップして次の対応特徴点(Map点DBに未登録のもの)に対する処理に進んでも良いし、改めて3D位置計算を行って、Map点DBに登録済の3D位置や、フレームDB中の対応特徴点に対する3D位置を更新するようにしても良い。
次に、地図作成部12は、キーフレームキューが空かどうかを判定する(ステップS308)。空であれば(ステップS308;Yes)、全キーフレームの姿勢と全Map点の3D位置に対して、バンドルアジャストメント処理を行って、精度向上を図ってから(ステップS309)ステップS310に進む。キーフレームキューが空でなければ(ステップS308;No)ステップS310に進む。次に地図作成部12は、ループクロージングスレッドのキーフレームキューにMKFをセットして(ステップS310)、ステップS301に戻る。
なお、バンドルアジャストメント処理とは、カメラ姿勢(キーフレーム姿勢)とMap点の3D位置とを同時に推定する非線形最適化法であり、Map点をキーフレーム上に投影させたときに発生する誤差が最小になるような最適化を行うものである。
このバンドルアジャストメントの処理を行うことで、キーフレーム姿勢とMap点の3D位置の精度向上を図ることができる。しかし、この処理を行わなくても精度向上が図れないだけで特別問題が発生するわけではない。したがって、他の処理がない状態のとき(例えば、キーフレームキューが空の状態)であっても、この処理を毎回行う必要はない。
また、バンドルアジャストメントの処理を行うと、キーフレーム上に投影させたときの誤差が所定の値よりも大きいMap点が見つかることがある。このような誤差の大きなMap点については、SLAM推定に悪影響を及ぼすため、Map点DB及びフレームDBから削除したり、誤差の大きな注意を要するMap点であることを識別するためのフラグを立てておいたりしても良い。なお、バンドルアジャストメントの処理は本実施形態においてはオプション的な扱いになるため、ここでは処理の詳細については省略する。
次に自律移動装置100のメインフロー(図3)のステップS103で起動されるループクロージングスレッドについて、図6を用いて説明する。このスレッドでは制御部10は、ループクロージング処理ができるかどうかをチェックし続け、できる場合にはループクロージング処理を行っている。なお、ループクロージング処理とは、以前来たことのある同じ場所に戻ってきたことを認識した場合に、以前この同じ場所にいた時の姿勢の値と現在の姿勢の値とのずれを用いて、以前来た時から今までの軌跡中のキーフレームや、関連するMap点の3D位置を修正することを言う。
まず、制御部10は、動作終了かを判定する(ステップS401)。動作終了なら(ステップS401;Yes)終了する。動作終了でないなら(ステップS401;No)キーフレームキューが空かどうかを判定する(ステップS402)。キーフレームキューが空なら(ステップS402;Yes)ステップS401に戻り、キーフレームキューが空でないなら(ステップS402;No)、キーフレームキューからデータを取り出してLKF(ループクロージングスレッドで処理するキーフレームのキーフレーム番号を表す変数)にセットする(ステップS403)。次に制御部10は、LKFが1より大きいかを判定する(ステップS404)。LKFが0又は1である場合(ステップS404;No)はステップS401に戻ってキーフレームキューにデータが入るのを待つ。そして、LKFが2以上の場合(ステップS404;Yes)は、以下の処理を行う。
類似画像検索部14は、フレームDBを参照し、現キーフレーム(キーフレーム番号がLKFのキーフレーム)と「キーフレーム自体の特徴」の類似度が所定の類似度(例えば0.9。以下「基準画像類似度」という。)以上になるキーフレームをフレームDBから検索する(ステップS405)。ここで、この類似度は、画像(キーフレーム)の特徴を特徴ベクトルで表している場合は、二つの画像の特徴ベクトルの絶対値(要素の二乗和の平方根)を1に正規化したもの同士の内積を、その二つの画像の類似度とすることができる。また、二つの画像の特徴ベクトル(絶対値を1に正規化したもの)の距離(各要素の差の二乗和の平方根)の逆数を類似度としても良い。
制御部10は、「キーフレーム自体の特徴」の類似度が基準画像類似度以上になるキーフレームが類似画像検索部14によって発見されたかどうかを判定し(ステップS406)、発見されなければ(ステップS406;No)ステップS401へ戻り、発見されたら(ステップS406;Yes)、地図補正部15は発見されたキーフレームから現キーフレームまでの軌跡中のキーフレームの姿勢と、軌跡中のキーフレームに含まれるMap点の3D位置を修正する(ステップS407)。例えば、地図補正部15は、現キーフレームの姿勢を、発見されたキーフレームの姿勢と同じ姿勢として修正する。そして、発見されたキーフレームの姿勢と現キーフレームの姿勢との差分を用いて、発見されたキーフレームから現キーフレームまでの軌跡中の各キーフレームの姿勢に線形的に補正を加える。さらにこれらの各キーフレームに含まれるMap点の3D位置についても各キーフレームの姿勢の補正量に応じて修正する。
そして制御部10は、ステップS401に戻る。
次に自律移動装置100のメインフロー(図3)のステップS101で起動される自機位置推定スレッドのフローチャート(図4)のステップS233の処理内容である回転撮影処理について図7を用いて説明する。これは、駆動部42で自機を回転させつつ、撮像部41で画像を撮影し、撮影した画像を自機の位置及び向きの情報と共に画像記憶部21に記憶する処理である。
まず、回転撮影処理の初期化処理として、回転撮影部11は回転撮影フラグRFに1をセットし(ステップS501)、累積回転角φをクリアする(ステップS502)。
次に、回転撮影部11は、撮像部41で画像を撮影し(ステップS503)、フレームカウンタNをインクリメントする(ステップS504)。そして、撮影した画像に含まれている2D特徴点を取得する(ステップS505)。次に、フレームデータベースに登録されている以前のキーフレーム(例えばキーフレーム番号がNKFである画像)の情報から、その画像の情報に含まれている2D特徴点のうち、3D位置が既知である2D特徴点(Map点データベースに登録されているMap点)を取得し、今撮影した画像との間で対応が取れる2D特徴点(対応特徴点)を抽出する(ステップS506)。
そして、位置推定部13は、対応特徴点の個数が基準対応特徴点数未満かどうかを判定し(ステップS507)、基準対応特徴点数未満の場合(ステップS507;Yes)はSLAM法で推定する姿勢の精度が悪くなるので、位置の推定は行わずにステップS514に進む。ここで、すぐにステップS514に進むのではなく、ステップS506に戻って、フレームデータベースに登録されているキーフレームの中から対応特徴点の個数が基準対応特徴点数以上のものを検索するようにしても良い。この場合は、フレームデータベースに登録されているキーフレームの中に対応特徴点の個数が基準対応特徴点数以上のものが見つからなかった場合にステップS514に進む。
回転撮影部11は、基準対応特徴点数以上の対応特徴点が抽出できたら(ステップS507;No)、対応特徴点それぞれの3D位置(X,Y,Z)をMap点データベースから取得し(ステップS508)、自機位置推定スレッドのステップS227と同様の計算を行ってSLAM座標での自機の姿勢(並進ベクトルt及び回転行列Rで表される自機の位置及び向き)を求める(ステップS509)。
そして、回転撮影部11は、これにスケールSを乗算することで、VO(ビジュアルオドメトリ)を求め(ステップS510)、キーフレームカウンタNKFをインクリメントしてから(ステップS511)、現フレームをキーフレームとしてフレームDBに登録する(ステップS512)。そして、回転撮影部11は、新たなキーフレームが発生したことを地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキューにキーフレームカウンタNKFをセットする(ステップS513)。
次に回転撮影部11は、回転撮影フラグRFに2がセットされているかを判定する(ステップS514)。2がセットされているなら(ステップS514;Yes)RTIMEに現在時刻をセットし(ステップS520)、回転撮影フラグRFをクリアしてから(ステップS521)、自機位置推定スレッドのS201に戻る。RFが2でないなら(ステップS514;No)ステップS515へ進み、累積回転角φ+回転角φが360°未満であるかを判定する(ステップS515)。ここで、回転角φは回転撮影処理の回転動作一回分の回転角であり、例えば30°である。φは撮像部41の視野角の半分以下の角度を設定するのが望ましい。
回転撮影部11は、累積回転角φ+回転角φが360°未満である場合は(ステップS515;Yes)、駆動部42に回転角φの回転動作をするように指示を出し(ステップS516)、累積回転角φに回転角φを加算(ステップS517)してからステップS503に戻る。ここでの回転動作は、駆動部42の二つの車輪を逆方向に等速度で回転させる等によって、位置を移動せずに回転できるのであれば、位置を移動しない回転動作をするのが望ましい。二つの車輪を同じ方向にしか回転させられない場合には、できるだけ回転半径の小さい回転動作をするのが望ましい。
回転撮影部11は、累積回転角φ+回転角φが360°以上である場合は(ステップS515;No)、駆動部42に回転角(360°−φ)の回転動作をするように指示を出し(ステップS518)、回転撮影フラグRFに2をセットしてから(ステップS519)ステップS503に戻る。
なお、もし駆動部42により、位置を移動しない回転動作を行う場合は、ステップS509では、並進ベクトルtが不変であるという前提で、回転行列Rを求めることができる。
以上の第一の実施形態では、回転撮影部11は、「所定の時間(DTIME)が経過したら」動作する処理になっていたが、変形例として「所定の距離(例えば基準並進距離)以上移動したら」動作するようにしても良い。この場合は、RTIMEの代わりにRt(前回回転撮影処理を開始した位置(並進ベクトル)を設定するための変数)を導入し、図4のステップS219は「Rt=現在の並進ベクトルt」とし、ステップS220は「現在の並進ベクトルtとRtとの距離<所定の距離」とし、図7のステップS520は「Rt=キーフレーム番号NKFの並進ベクトルt」とすれば、所定の距離移動するたびに回転撮影部11が動作するようになる。
以上、第一の実施形態においては、所定の時間が経過する度に、定期的に、回転撮影部11が回転動作を行いながら画像を撮影し、第一の実施形態の変形例においては、所定の距離を移動する度に、定期的に、回転撮影部11が回転動作を行いながら画像を撮影する。この回転撮影部11の動作により、類似画像検索部14での検索対象となる画像記憶部21内の画像の情報を増加させることができる。
第二の実施形態として、過去に訪れた位置とユークリッド距離的に近い位置を訪れた場合に回転撮影動作を行う実施形態を説明する。本実施形態に係る自律移動装置100’は図8に示すように、第一の実施形態の制御部10に距離判定部16が追加され、記憶部20に位置履歴記憶部23が追加された構成になっている。距離判定部16は、自律移動装置100’の現在位置と過去の位置との距離が所定の距離以上かどうかを判定する。位置履歴記憶部23には、位置推定部13が推定した位置(並進ベクトルt)がタイムスタンプ(キーフレームカウンタ)と共に記憶される。なお、独立した位置履歴記憶部23を追加しなくても、画像記憶部21に位置履歴記憶部23が含まれていると考えることもできる(画像記憶部21内のフレームDBに記憶されている「姿勢」の情報の中には位置履歴記憶部23に記憶されている「位置」(位置履歴記憶時の並進ベクトルt)の情報が含まれているため)。
第二の実施形態の自律移動処理全体のフローチャートは、第一の実施形態と共通で、図3に示される。第二の実施形態の自機位置推定スレッドのフローチャートは図9に示される。これは第一の実施形態の自機位置推定スレッドのフローチャートである図4とほとんどの部分が共通なので、異なる部分のみを説明する。
ステップS2192では、制御部10はRtに現在の並進ベクトルtをセットする。ステップS2202では、距離判定部16は、現在の並進ベクトルtとRtとの距離が所定の距離D(所定の距離(基準距離)を表す変数。例えば基準並進距離を設定する。)以上であり、かつ、位置履歴記憶部23に現在の並進ベクトルtと所定の類似度(以下「基準位置類似度」という。例えば0.9。)以上一致する位置(位置履歴記憶時の並進ベクトルt)が記憶されているかを判定する(位置の類似度は比較する二つの並進ベクトルの絶対値(要素の二乗和の平方根)を1に正規化したもの同士の内積を計算することで求めることができる)。なお、独立した位置履歴記憶部23を追加せずに画像記憶部21内のフレームDBを位置履歴記憶部23としても利用する場合は、フレームDB内のキーフレームの各姿勢の中に現在の並進ベクトルtと基準位置類似度以上一致する位置(キーフレーム登録時の並進ベクトルt)が記憶されているかを判定することになる。
もし、現在の並進ベクトルtがRtよりもD以上離れていて、かつ、位置履歴記憶部23(又はフレームDB)に基準位置類似度以上一致する位置が記憶されているなら(ステップS2202;Yes)ステップS233へ進んで回転撮影処理を行った後にステップS201に戻る。Rtとの距離が基準距離D未満であるか、又は、位置履歴記憶部23(若しくはフレームDB)に基準位置類似度以上一致する位置が記憶されていないなら(ステップS2202;No)ステップS221へ進む。
ステップS234は、位置推定部13が、位置履歴記憶部23に現在の位置(並進ベクトルt)をタイムスタンプと共に登録する。登録する際に今までに記憶されている位置を確認して、同じ位置(又は基準位置類似度以上一致する位置)が記憶されている場合は登録しないようにしても良い。このようにすることで、位置履歴記憶部23の記憶領域を節約することができる。また、独立した位置履歴記憶部23を追加せずに画像記憶部21内のフレームDBを位置履歴記憶部23としても利用する場合は、ステップS234は省略できる。
第二の実施形態の地図作成スレッドは、第一の実施形態と共通であり、図5に示される。第二の実施形態のループクロージングスレッドも第一の実施形態と共通であり、図6に示される。第二の実施形態の回転撮影処理は図7に示される第一の実施形態とほとんど同じであるが、図7のステップS520の処理が「RTIME=現在時刻」ではなく、「Rtにキーフレーム番号NKFの並進ベクトルtをセットする」となる点だけが異なる。
第二の実施形態は、このような処理にすることによって、過去に訪れた位置とユークリッド距離的に近い位置に来た時だけ回転撮影動作を行うことになり、ループクロージング処理を行う可能性が高い時を選んで効率的に回転撮影動作を行うことができる。なお、上記ではステップS2202の処理で距離判定部16は「位置履歴記憶部23に現在の並進ベクトルtと基準位置類似度以上一致する位置が記憶されているかを判定」していたが、「位置履歴記憶部23に現在の並進ベクトルtとの距離が所定の距離(例えば「5cm」や「基準並進距離の1/10」など、Dに比べてかなり小さい値を設定する。)未満の位置が記憶されているかを判定」しても良い(以下に述べる変形例においても同様)。
さらに第二の実施形態の変形例として、図9のステップS2202の条件を「現在の並進ベクトルtとRtとの距離が基準距離D以上であり、かつ、位置履歴記憶部23に現在の並進ベクトルtと基準位置類似度以上一致する位置が記憶されており、かつ、現キーフレームと基準画像類似度以上に類似するキーフレームがフレームDBに存在しない」というように、3番目の条件を追加することが考えられる。
現キーフレームと基準画像類似度以上に類似するキーフレームがフレームDBに存在する場合、回転撮影処理をしなくても、ループクロージングスレッドにおいてループクロージング処理が行われる可能性が高い。したがって、この変形例では、このような場合に回転撮影処理を行わないことで、第二の実施形態に比較してさらに回転撮影処理を行う回数を減らすことができる。
第三の実施形態として、過去に訪れた位置とユークリッド距離的に近く、コビジビリティーグラフ的距離が遠い位置に訪れた場合に回転撮影動作を行う実施形態を説明する。まず、コビジビリティーグラフについて説明する。コビジビリティーグラフとは、図10に示すように、「共通するMap点(3次元位置を取得済みの特徴点)を複数含んでいる等、直接的に相対位置関係が計算可能であるキーフレーム同士」を線で結んだグラフのことである。二つのキーフレーム間でこの線を最低n回たどらないとたどり着けない場合、これらのキーフレーム間のコビジビリティーグラフ的距離はnとなる。コビジビリティーグラフ的距離が大きいキーフレーム同士では、SLAM推定においてこの距離分の誤差が累積するため、相対位置の誤差を多く含むことになる。
第三の実施形態は、第二の実施形態と共通する点が多い。図9のステップS2202の条件にAND条件で「基準位置類似度以上一致する位置とのコビジビリティーグラフ的距離が所定値n以上」を加えた点だけが異なり、それ以外の処理や構成は第二の実施形態と共通である。
この場合、図9のステップS2202の条件は「現在の並進ベクトルtとRtとの距離が基準距離D以上であり、かつ、位置履歴記憶部23に現在の並進ベクトルtと基準位置類似度以上一致する位置が記憶されており、かつ、基準位置類似度以上一致する位置とのコビジビリティーグラフ的距離が所定値以上」となる。
コビジビリティーグラフ的距離の求め方を説明する。まず、キーフレームKと直接的に相対位置関係が計算可能なキーフレームの集合(簡単には「キーフレームKとの画像類似度が基準画像類似度以上のキーフレームの集合」とすれば良い)をフレームDBを参照して抽出すれば、これが「キーフレームKとのコビジビリティーグラフ的距離が1のキーフレーム集合」となる。そして、「キーフレームKとのコビジビリティーグラフ的距離がiのキーフレーム集合」に含まれるキーフレーム一つ一つについて、そのキーフレームと直接的に相対位置関係が計算可能なキーフレームの集合(簡単には「そのキーフレームとの画像類似度が基準画像類似度以上のキーフレームの集合」とすれば良い)をフレームDBを参照して抽出すれば、これが「キーフレームKとのコビジビリティーグラフ的距離がi+1のキーフレーム集合」となる。これらのキーフレーム集合の抽出処理においては、類似画像検索部14が相対位置計算可能判定部に相当する処理を行う。
キーフレームKとLとが与えられたときに、KとLとの間のコビジビリティーグラフ的距離を求めるには、上述したやり方で、まず「キーフレームKとのコビジビリティーグラフ的距離が1のキーフレーム集合」を生成する。そして、「キーフレームKとのコビジビリティーグラフ的距離がiのキーフレーム集合」の中にLが含まれていなければ、「キーフレームKとのコビジビリティーグラフ的距離がi+1のキーフレーム集合」を生成する処理を、「キーフレームKとのコビジビリティーグラフ的距離がi+1のキーフレーム集合」にLが含まれるまで繰り返す。Lが含まれるキーフレーム集合が得られたら、その時の「i+1」がKとLとの間のコビジビリティグラフ的距離となる。このコビジビリティグラフ的距離算出処理においては、制御部10がコビジビリティグラフ的距離算出部に相当する処理を行う。
ステップS2202では、二つ目の判定条件として「位置履歴記憶部23に現在の並進ベクトルtと基準位置類似度以上一致する位置が記憶されているか」という条件があるが、この条件が満たされた場合、その位置に対応するキーフレーム(位置履歴記憶部23に位置を登録するときのタイムスタンプ(キーフレームカウンタ)の値のキーフレーム番号のキーフレームが、その位置に対応するキーフレームとなる)をフレームDBを参照して抽出してキーフレームKとすると、「基準位置類似度以上一致する位置とのコビジビリティーグラフ的距離が所定値n以上」の判定は、上記のようにして、「現キーフレームとのコビジビリティーグラフ的距離が1のキーフレーム集合」〜「現キーフレームとのコビジビリティーグラフ的距離がn−1のキーフレーム集合」を生成し、これらのキーフレーム集合の中に、キーフレームKが含まれていなければ「基準位置類似度以上一致する位置とのコビジビリティーグラフ的距離が所定値n以上」と判定できる。
コビジビリティーグラフ的距離が近いキーフレームが存在する場合は、誤差はあまり累積していないと考えられるので、コビジビリティーグラフ的距離が所定値以上の場合だけ回転撮影処理を行うことで、誤差が所定値以上累積した場合だけ回転撮影処理を行うことになり、回転撮影処理を行う回数を減らすことができる。
今まで説明した実施形態では、この回転撮影処理により、様々な向きから撮影した画像がキーフレームとしてフレームDBに登録されるため、それ以後のループクロージングスレッドにおいて、類似キーフレームを発見しやすくなり、その結果、地図補正が行われる頻度が増加し、自機位置等の累積誤差を減らすことができる。
ここまでは、フレームDBに登録するキーフレームを増加させることによって、ループクロージング処理を行う頻度を増加させたが、別のやり方として、ループクロージングスレッドでのステップS405で類似画像検索部14が類似画像を検索する際に、基準画像類似度を小さくする(類似度がそれほど大きくなくてもループクロージング処理を行うようにする)という方法もある。
ただし、単に基準画像類似度を小さくしただけでは間違った位置(過去に訪れた場所とは関係ない位置)でもループクロージング処理を行ってしまう可能性が高くなる。そこで、位置推定部13によって推定された現在の自機位置が、類似画像検索部14での比較対象となるキーフレームの位置と基準距離以下になっている場合だけ基準画像類似度を小さくする処理を行う。これを第四の実施形態として説明する。
第四の実施形態の構成は第二の実施形態と共通であり、図8に示される。第四の実施形態の自律移動処理全体のフローチャートは、第一の実施形態と共通で、図3に示される。第四の実施形態の自機位置推定スレッドのフローチャートは図11に示される。これは第一の実施形態の自機位置推定スレッドのフローチャートである図4とほとんどの部分が共通なので、異なる部分のみを説明する。
ステップS2193は、回転撮影処理の所定条件の初期化を行う。例えば、制御部10はRtに現在の並進ベクトルtをセットする。第四の実施形態では回転撮影処理は必須ではないので、回転撮影処理を行わない場合は、このステップS2193は省略可能である。
ステップS2203では、制御部10は、回転撮影処理の所定条件が満たされているかを判定する。もし満たされているなら(ステップS2203;Yes)ステップS233へ進んで回転撮影処理を行った後にステップS201に戻る。満たされていないなら(ステップS2203;No)ステップS221へ進む。第四の実施形態において、回転撮影処理を行わない場合は、このステップS2203も省略可能で、この場合は条件判定をおこなうことなく、ステップS221へ進む。
ステップS234は、第二の実施形態の自機位置推定スレッドのフローチャートである図9のステップS234と同じなので、説明を省略する。
第四の実施形態の地図作成スレッドは、第一の実施形態と共通であり、図5に示される。第四の実施形態の回転撮影処理は図7に示される第一の実施形態とほとんど同じであるが、図7のステップS520の処理が「RTIME=現在時刻」ではなく、「回転撮影処理の所定条件の初期化」となる点だけが異なる。なお、第四の実施形態で回転撮影処理を行わない場合は、図7の処理全体が省略できる。
第四の実施形態のループクロージングスレッドは図6に示す第一の実施形態のループクロージングスレッドと一部異なり、図12に示すように、ステップS404とステップS405の間にステップS408〜ステップS410の各ステップが追加される。ステップS408は、制御部10が位置履歴記憶部23に現キーフレーム(キーフレーム番号がLKFのキーフレーム)の位置との一致度が基準位置類似度以上になるもの(現キーフレームを撮影した時の自機の位置と、位置履歴記憶部23に記憶されている位置との距離が所定の値以下になる位置)が格納されているかを判定する。
位置履歴記憶部23に格納されているなら(ステップS408;Yes)基準画像類似度の値としてD1を採用し(ステップS409)、格納されていないなら(ステップS408;No)基準画像類似度の値としてD2を採用する(ステップS410)。ここで、D1とD2は、D1<D2という関係になっている。つまり、以前訪れた位置に近い位置に来ている場合(ステップS408がYesとなる場合)は、基準画像類似度を通常値(D2)よりも小さな値に設定する。このようにすることによって、ステップS405での検索において類似度が若干小さくても(D1でも)類似画像を発見できるようにして、ステップS407でのループクロージング処理を行わせるようにする。
ステップS408でYesと判定される場合は、以前訪れた位置に近い位置にいることが多い。この状況でフレームDBから類似画像が発見できないということは、以前とは撮影している向きが異なっていると考えられる。このような場合に、基準画像類似度を通常値よりも小さな値に設定することで、撮影した向きが多少異なっていても類似画像を発見できることになり、ループクロージング処理を行わせることができるようになる。
この第四の実施形態は、第一〜第三の実施形態とは異なり、回転撮影処理がなくても実現できる。そのため、上記では回転撮影処理を省略しても良いことも説明した。ただし、第四の実施形態を回転撮影処理と併せて実行すると、より確実にループクロージング処理を実行できる。
回転撮影処理を行わない第四の実施形態においては、撮像部41として視野角の広いものを採用するのが望ましい。特に、視野角が180°以上の撮像部41(最も望ましいのは視野角360°の魚眼レンズを採用した撮像部41)を用いれば、以前訪れた位置に来たら、どちらの方向を向いていても、共通の特徴点を撮影できていることが多いため、画像の類似度の判定の閾値を下げてもループクロージング処理を行えることが多い。
なお、上述の各実施形態では、基準並進距離として「例えば1m」としたが、自律移動装置自体の大きさや速度、自律移動する環境や移動範囲等に応じて、最適な基準並進距離は変わるので、基準並進距離の設定方法について補足しておく。
基準並進距離の設定方法として、キーフレーム上の全てのMap点(3D位置が既知の2D特徴点)の3D位置から自機位置までの距離を平均した値(=キーフレームで観察される全てのMap点までの奥行きの平均距離)と並進距離との比で設定しても良い(例えば、Map点までの奥行きの平均距離の5%の距離を基準並進距離とする等)。ここで用いる「全てのMap点」は制御部10がMap点DBを参照することで抽出でき、この処理において制御部10は位置推定可能特徴点抽出部に相当する処理を行う。また、実環境上での並進距離の大きさに応じて、例えばテーブルの上を動くなら10cm、部屋を動き回るなら1m、屋外の広場等を動き回るなら10m等を基準並進距離に設定しても良いし、駆動部42の車輪の直径に応じた値(例えば車輪の直径の10倍)を基準並進距離に設定しても良い。
基準並進距離として実環境上の距離で設定する場合は、SLAM座標での並進距離にはスケールSを乗算して実環境上の距離に変換してから比較を行う(この逆も同様であり、基準並進距離としてSLAM座標での距離を設定する場合は、実環境上の距離はスケールSで除算してSLAM座標での距離に変換してから比較を行う)。
なお、この発明の自律移動装置100(100’)の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施形態では、自律移動装置100(100’)が行う自律移動制御処理のプログラムが、記憶部20のROMに予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)及びMO(Magneto−Optical Disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記1)
回転動作を行いながら画像を撮影する回転撮影部と、
撮影した画像の情報を、撮影時の自機の位置の情報と共に記憶する画像記憶部と、
前記画像記憶部に記憶されている複数の画像の情報を用いて作成した地図を記憶する地図記憶部と、
撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索部と、
前記類似画像検索部が、前記所定の類似度以上になる画像を発見した場合、該画像に対応する位置の情報に基づいて前記地図記憶部に記憶されている地図を補正する地図補正部と、
を備える自律移動装置。
(付記2)
前記回転撮影部は、定期的に、回転動作を行いながら画像を撮影する、
付記1に記載の自律移動装置。
(付記3)
前記回転撮影部は、所定の時間が経過する度に、回転動作を行いながら画像を撮影する、
付記2に記載の自律移動装置。
(付記4)
前記回転撮影部は、自律移動装置が所定の距離を移動する度に、回転動作を行いながら画像を撮影する、
付記2に記載の自律移動装置。
(付記5)
前記自律移動装置は、さらに、自機の位置を推定する位置推定部と、
前記位置推定部が推定した位置の履歴を記憶する位置履歴記憶部と、
現在の位置との距離が所定の距離以下になる過去の位置が前記位置履歴記憶部に記憶されているかを判定する距離判定部と、
を備え、
前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合に、回転動作を行いながら画像を撮影する、
付記1に記載の自律移動装置。
(付記6)
前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合、前記類似画像検索部が前記所定の類似度以上になる画像を発見できない場合にのみ、回転動作を行いながら画像を撮影する、
付記5に記載の自律移動装置。
(付記7)
前記自律移動装置は、さらに、二つの撮影位置の相対位置関係を直接計算可能かを判定する相対位置計算可能判定部と、
前記画像記憶部に記憶されている画像を最低何枚用いれば与えられた位置と現在位置との相対位置関係を計算できるかを前記相対位置計算可能判定部により算出することによってコビジビリティグラフ的距離を算出するコビジビリティグラフ的距離算出部と、
を備え、
前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合、前記コビジビリティグラフ的距離算出部が算出した前記過去の位置と現在位置との間のコビジビリティグラフ的距離が所定の値以上の場合にのみ、回転動作を行いながら画像を撮影する、
付記5に記載の自律移動装置。
(付記8)
前記自律移動装置は、さらに、自機の位置を推定する位置推定部と、
前記位置推定部が推定した位置の履歴を記憶する位置履歴記憶部と、
現在の位置との距離が所定の距離以下になる過去の位置が前記位置履歴記憶部に記憶されているかを判定する距離判定部と、
を備え、
前記類似画像検索部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合に、前記所定の類似度を所定の値だけ小さくする、
付記1から7のいずれか一つに記載の自律移動装置。
(付記9)
前記画像記憶部は、自律移動装置が基準並進距離を移動する度に、撮影した画像の情報を記憶する、
付記1から8のいずれか一つに記載の自律移動装置。
(付記10)
駆動部の車輪の直径に所定の値を乗算した値を前記基準並進距離に設定する、
付記9に記載の自律移動装置。
(付記11)
前記自律移動装置は、さらに、複数の画像から位置を推定可能な特徴点を抽出する位置推定可能特徴点抽出部を備え、
前記位置推定可能特徴点抽出部が抽出した全ての特徴点と自機位置との距離の平均値を所定の値で除算した値を前記基準並進距離に設定する、
付記9に記載の自律移動装置。
(付記12)
撮像部が撮影した複数の画像の情報に基づいて地図を作成して自律的に移動する自律移動方法であって、
回転動作を行いながら前記撮像部が画像を撮影する回転撮影ステップと、
前記撮像部が撮影した画像との類似度が所定の類似度以上になる画像が過去に撮影されていた場合、該過去に撮影した画像に対応する位置の情報に基づいて、前記地図を補正する地図補正ステップと、
を備える自律移動方法。
(付記13)
回転動作を行いながら画像を撮影する回転撮影ステップと、
撮影した画像の情報を、撮影時の自機の位置の情報と共に画像記憶部に記憶させる画像記憶ステップと、
前記画像記憶部に記憶されている複数の画像の情報を用いて地図を作成する地図作成ステップと、
撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索ステップと、
前記類似画像検索ステップで、前記所定の類似度以上になる画像を発見した場合、該画像に対応する位置の情報に基づいて作成されている地図を補正する地図補正ステップと、
を備える自律移動方法。
(付記14)
コンピュータに、
回転動作を行いながら画像を撮影する回転撮影ステップ、
撮影した画像の情報を、撮影時の自機の位置の情報と共に画像記憶部に記憶させる画像記憶ステップ、
前記画像記憶部に記憶されている複数の画像の情報を用いて地図を作成する地図作成ステップ、
撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索ステップ、
前記類似画像検索ステップで、前記所定の類似度以上になる画像を発見した場合、該画像に対応する位置の情報に基づいて作成されている地図を補正する地図補正ステップ、
を実行させるためのプログラム。
100,100’…自律移動装置、10…制御部、11…回転撮影部、12…地図作成部、13…位置推定部、14…類似画像検索部、15…地図補正部、16…距離判定部、20…記憶部、21…画像記憶部、22…地図記憶部、23…位置履歴記憶部、30…センサ部、31…障害物センサ、41…撮像部、42…駆動部、43…入力部、44…通信部、45…電源

Claims (15)

  1. 回転動作を行いながら画像を撮影する回転撮影部と、
    撮影した画像の情報を、撮影時の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と共に記憶する画像記憶部と、
    前記画像記憶部に記憶されている複数の画像の情報を用いて作成した地図を記憶する地図記憶部と、
    撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索部と、
    前記類似画像検索部が、前記所定の類似度以上になる画像を発見した場合、以前来たことのある同じ場所に戻ってきたことを認識したと判断し、前記発見した画像に対応して前記画像記憶部に記憶されている自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と、現在の位置の並進ベクトルtと回転行列Rの値と、を用いて前記地図記憶部に記憶されている地図を補正する地図補正部と、
    を備える自律移動装置。
  2. 前記回転撮影部は、定期的に、回転動作を行いながら画像を撮影する、
    請求項1に記載の自律移動装置。
  3. 前記回転撮影部は、所定の時間が経過する度に、回転動作を行いながら画像を撮影する、
    請求項2に記載の自律移動装置。
  4. 前記回転撮影部は、自律移動装置が所定の距離を移動する度に、回転動作を行いながら画像を撮影する、
    請求項2に記載の自律移動装置。
  5. 前記自律移動装置は、さらに、自機の位置を推定する位置推定部と、
    前記位置推定部が推定した位置の履歴を記憶する位置履歴記憶部と、
    現在の位置との距離が所定の距離以下になる過去の位置が前記位置履歴記憶部に記憶されているかを判定する距離判定部と、
    を備え、
    前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合に、回転動作を行いながら画像を撮影する、
    請求項1に記載の自律移動装置。
  6. 前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合、前記類似画像検索部が前記所定の類似度以上になる画像を発見できない場合にのみ、回転動作を行いながら画像を撮影する、
    請求項5に記載の自律移動装置。
  7. 前記自律移動装置は、さらに、二つの撮影位置の相対位置関係を直接計算可能かを判定する相対位置計算可能判定部と、
    前記画像記憶部に記憶されている画像を最低何枚用いれば与えられた位置と現在位置との相対位置関係を計算できるかを前記相対位置計算可能判定部により算出することによってコビジビリティグラフ的距離を算出するコビジビリティグラフ的距離算出部と、
    を備え、
    前記回転撮影部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合、前記コビジビリティグラフ的距離算出部が算出した前記過去の位置と現在位置との間のコビジビリティグラフ的距離が所定の値以上の場合にのみ、回転動作を行いながら画像を撮影する、
    請求項5に記載の自律移動装置。
  8. 前記自律移動装置は、さらに、自機の位置を推定する位置推定部と、
    前記位置推定部が推定した位置の履歴を記憶する位置履歴記憶部と、
    現在の位置との距離が所定の距離以下になる過去の位置が前記位置履歴記憶部に記憶されているかを判定する距離判定部と、
    を備え、
    前記類似画像検索部は、前記距離判定部が前記過去の位置が前記位置履歴記憶部に記憶されていると判定した場合に、前記所定の類似度を所定の値だけ小さくする、
    請求項1から7のいずれか一項に記載の自律移動装置。
  9. 前記画像記憶部は、自律移動装置が基準並進距離を移動する度に、撮影した画像の情報を記憶する、
    請求項1から8のいずれか一項に記載の自律移動装置。
  10. 駆動部の車輪の直径に所定の値を乗算した値を前記基準並進距離に設定する、
    請求項9に記載の自律移動装置。
  11. 前記自律移動装置は、さらに、複数の画像から位置を推定可能な特徴点を抽出する位置推定可能特徴点抽出部を備え、
    前記位置推定可能特徴点抽出部が抽出した全ての特徴点と自機位置との距離の平均値を所定の値で除算した値を前記基準並進距離に設定する、
    請求項9に記載の自律移動装置。
  12. 回転動作を行いながら画像を撮影する回転撮影ステップと、
    撮影した画像の情報を、撮影時の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と共に画像記憶部に記憶させる画像記憶ステップと、
    前記画像記憶部に記憶されている複数の画像の情報を用いて地図を作成する地図作成ステップと、
    撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索ステップと、
    前記類似画像検索ステップで、前記所定の類似度以上になる画像を発見した場合、以前来たことのある同じ場所に戻ってきたことを認識したと判断し、前記発見した画像に対応して前記画像記憶部に記憶されている自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と、現在の位置の並進ベクトルtと回転行列Rの値と、を用いて、作成されている地図を補正する地図補正ステップと、
    を備える自律移動方法。
  13. コンピュータに、
    回転動作を行いながら画像を撮影する回転撮影ステップ、
    撮影した画像の情報を、撮影時の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と共に画像記憶部に記憶させる画像記憶ステップ、
    前記画像記憶部に記憶されている複数の画像の情報を用いて地図を作成する地図作成ステップ、
    撮影した画像との類似度が所定の類似度以上になる画像を前記画像記憶部から検索する類似画像検索ステップ、
    前記類似画像検索ステップで、前記所定の類似度以上になる画像を発見した場合、以前来たことのある同じ場所に戻ってきたことを認識したと判断し、前記発見した画像に対応して前記画像記憶部に記憶されている自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と、現在の位置の並進ベクトルtと回転行列Rの値と、を用いて、作成されている地図を補正する地図補正ステップ、
    を実行させるためのプログラム。
  14. 撮像部と、駆動部と、制御部と、記憶部と、を備える自律移動装置であって、
    前記記憶部は、
    前記撮像部が撮影した画像の情報を、撮影時の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と紐付けて記憶し、
    前記記憶した複数の画像の情報を用いて作成した地図を記憶し、
    前記制御部は、
    前記駆動部に自機を回転させる動作を行わせつつ、前記撮像部に画像を撮影させ、
    前記撮影させた画像との類似度が所定の類似度以上になる画像を前記記憶部から検索し、
    前記所定の類似度以上になる画像を発見した場合、以前来たことのある同じ場所に戻ってきたことを認識したと判断し、前記発見した画像に対応して前記記憶部に記憶されている画像の自機の地図座標内での位置を示す並進ベクトルtと回転行列Rの値と、現在の位置の並進ベクトルtと回転行列Rの値と、を用いて前記記憶部に記憶されている地図を補正する、
    自律移動装置。
  15. 外部装置と通信する通信部をさらに備え、
    前記通信部は当該自律移動装置と前記外部装置とのデータ受け渡しを行う、
    請求項1に記載の自律移動装置。
JP2015246761A 2015-12-17 2015-12-17 自律移動装置、自律移動方法及びプログラム Active JP6323439B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015246761A JP6323439B2 (ja) 2015-12-17 2015-12-17 自律移動装置、自律移動方法及びプログラム
US15/278,627 US10012989B2 (en) 2015-12-17 2016-09-28 Autonomous movement device, autonomous movement method and non-transitory recording medium
CN201610911363.XA CN106896807B (zh) 2015-12-17 2016-10-19 自主移动装置、自主移动方法以及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015246761A JP6323439B2 (ja) 2015-12-17 2015-12-17 自律移動装置、自律移動方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017111688A JP2017111688A (ja) 2017-06-22
JP6323439B2 true JP6323439B2 (ja) 2018-05-16

Family

ID=59066231

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015246761A Active JP6323439B2 (ja) 2015-12-17 2015-12-17 自律移動装置、自律移動方法及びプログラム

Country Status (3)

Country Link
US (1) US10012989B2 (ja)
JP (1) JP6323439B2 (ja)
CN (1) CN106896807B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6311695B2 (ja) 2015-12-16 2018-04-18 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
JP6187623B1 (ja) * 2016-03-14 2017-08-30 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
JP7087290B2 (ja) * 2017-07-05 2022-06-21 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
CN107544507A (zh) * 2017-09-28 2018-01-05 速感科技(北京)有限公司 可移动机器人移动控制方法及装置
CN108108764B (zh) * 2017-12-26 2021-12-24 东南大学 一种基于随机森林的视觉slam回环检测方法
JP7281198B2 (ja) * 2018-01-31 2023-05-25 Groove X株式会社 経験に基づいて行動する自律行動型ロボット
JP7139762B2 (ja) * 2018-07-31 2022-09-21 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
CN109556596A (zh) * 2018-10-19 2019-04-02 北京极智嘉科技有限公司 基于地面纹理图像的导航方法、装置、设备及存储介质
US10991117B2 (en) 2018-12-23 2021-04-27 Samsung Electronics Co., Ltd. Performing a loop closure detection
CN110163095B (zh) * 2019-04-16 2022-11-29 中国科学院深圳先进技术研究院 回环检测方法、回环检测装置及终端设备
CN110490872B (zh) * 2019-08-27 2022-03-01 北京理工大学 加工设备的异物检测方法和系统
CN110487264B (zh) * 2019-09-02 2020-08-07 上海图聚智能科技股份有限公司 修正地图的方法、装置、电子设备、及存储介质
CN111110117B (zh) * 2019-12-20 2021-08-06 小狗电器互联网科技(北京)股份有限公司 一种扫地机器人工作面清洁方法
JP2022011821A (ja) * 2020-06-30 2022-01-17 キヤノン株式会社 情報処理装置、情報処理方法、移動ロボット

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4060974B2 (ja) 1999-02-25 2008-03-12 株式会社ザナヴィ・インフォマティクス 経路誘導装置
JP4175165B2 (ja) 2002-04-17 2008-11-05 松下電工株式会社 自律移動装置
JP4352148B2 (ja) 2003-03-14 2009-10-28 独立行政法人科学技術振興機構 移動ロボット用地図作成システム
JP4600357B2 (ja) * 2006-06-21 2010-12-15 トヨタ自動車株式会社 測位装置
US8965578B2 (en) 2006-07-05 2015-02-24 Battelle Energy Alliance, Llc Real time explosive hazard information sensing, processing, and communication for autonomous operation
US8355818B2 (en) 2009-09-03 2013-01-15 Battelle Energy Alliance, Llc Robots, systems, and methods for hazard evaluation and visualization
JP2008059218A (ja) 2006-08-30 2008-03-13 Fujitsu Ltd 自律走行ロボットの自己位置回復方法
KR100855469B1 (ko) 2006-09-13 2008-09-01 삼성전자주식회사 이동 로봇의 자세 추정 장치 및 방법
JP4856510B2 (ja) * 2006-10-02 2012-01-18 本田技研工業株式会社 移動ロボット
US8180486B2 (en) * 2006-10-02 2012-05-15 Honda Motor Co., Ltd. Mobile robot and controller for same
US20090096686A1 (en) 2007-10-11 2009-04-16 Nec Laboratories America, Inc. Autonomous mobile wireless antenna systems
JP4831434B2 (ja) * 2007-12-27 2011-12-07 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集プログラム、並びに自車位置認識装置及びナビゲーション装置
JP2009169845A (ja) 2008-01-18 2009-07-30 Toyota Motor Corp 自律移動ロボット及び地図更新方法
JP2009193240A (ja) * 2008-02-13 2009-08-27 Toyota Motor Corp 移動ロボット及び環境地図の生成方法
JP5270184B2 (ja) 2008-02-13 2013-08-21 古野電気株式会社 衛星航法/推測航法統合測位装置
JP5310285B2 (ja) 2009-06-12 2013-10-09 日産自動車株式会社 自己位置推定装置及び自己位置推定方法
JP5444952B2 (ja) * 2009-08-28 2014-03-19 富士通株式会社 センサフュージョンによる地図の自動生成、およびそのように自動生成された地図を用いて移動体の移動をするための、装置、方法、ならびにプログラム
JP5062498B2 (ja) * 2010-03-31 2012-10-31 アイシン・エィ・ダブリュ株式会社 風景マッチング用参照データ生成システム及び位置測位システム
JP5315289B2 (ja) 2010-04-12 2013-10-16 トヨタ自動車株式会社 オペレーティングシステム及びオペレーティング方法
JP5549515B2 (ja) * 2010-10-05 2014-07-16 カシオ計算機株式会社 撮像装置及び方法、並びにプログラム
CN102087530B (zh) * 2010-12-07 2012-06-13 东南大学 基于手绘地图和路径的移动机器人视觉导航方法
US20120230550A1 (en) 2011-03-10 2012-09-13 Jacob Kraut Method and Apparatus for Generating a Map from Landmarks
JP5222971B2 (ja) * 2011-03-31 2013-06-26 富士ソフト株式会社 歩行ロボット装置及びその制御プログラム
JP5821526B2 (ja) 2011-10-27 2015-11-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
WO2013071190A1 (en) 2011-11-11 2013-05-16 Evolution Robotics, Inc. Scaling vector field slam to large environments
WO2014016862A1 (ja) 2012-07-23 2014-01-30 富士通株式会社 表示制御プログラム、表示制御方法及び表示制御装置
US9739215B2 (en) 2013-03-15 2017-08-22 Ford Global Technologies, Llc Intrusive EGR monitor for a hybrid vehicle
JP6051993B2 (ja) 2013-03-25 2016-12-27 村田機械株式会社 自律移動式無人搬送車、及び、自律移動式無人搬送システム
CN103353758B (zh) * 2013-08-05 2016-06-01 青岛海通机器人系统有限公司 一种室内机器人导航方法
JP6027554B2 (ja) * 2014-01-21 2016-11-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、情報処理システム、ブロックシステム、および情報処理方法
JP6191484B2 (ja) 2014-02-03 2017-09-06 トヨタ自動車株式会社 移動ロボットの自己位置推定方法
CN104897181B (zh) * 2014-03-03 2017-07-07 原相科技股份有限公司 光学编码器及其运作方法
TWI507664B (zh) * 2014-03-13 2015-11-11 Pixart Imaging Inc 光學編碼器及其運作方法
US9519289B2 (en) 2014-11-26 2016-12-13 Irobot Corporation Systems and methods for performing simultaneous localization and mapping using machine vision systems
US9569851B2 (en) * 2014-12-23 2017-02-14 Ricoh Co., Ltd. Sequencing products recognized in a shelf image
JP6789624B2 (ja) 2015-11-20 2020-11-25 キヤノン株式会社 情報処理装置、情報処理方法
US9889859B2 (en) 2015-12-21 2018-02-13 Intel Corporation Dynamic sensor range in advanced driver assistance systems

Also Published As

Publication number Publication date
CN106896807B (zh) 2020-02-28
JP2017111688A (ja) 2017-06-22
CN106896807A (zh) 2017-06-27
US20170178331A1 (en) 2017-06-22
US10012989B2 (en) 2018-07-03

Similar Documents

Publication Publication Date Title
JP6323439B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6288060B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6311695B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6187623B1 (ja) 自律移動装置、自律移動方法及びプログラム
JP6724439B2 (ja) 自律移動装置、自律移動システム、自律移動方法及びプログラム
JP7139762B2 (ja) 自律移動装置、自律移動方法及びプログラム
US8787614B2 (en) System and method building a map
US8265425B2 (en) Rectangular table detection using hybrid RGB and depth camera sensors
JP5141644B2 (ja) 自律移動体、自己位置推定装置、およびプログラム
CA2870381A1 (en) Adaptive mapping with spatial summaries of sensor data
US20110169923A1 (en) Flow Separation for Stereo Visual Odometry
JP2012064131A (ja) 地図生成装置、地図生成方法、移動体の移動方法、及びロボット装置
KR20170061355A (ko) 이동 로봇 및 그 제어 방법
WO2019075948A1 (zh) 移动机器人的位姿估计方法
JP7127303B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP2017027417A (ja) 画像処理装置及び電気掃除器
JP2018156538A (ja) 自律移動装置、画像処理方法及びプログラム
JP6638753B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP7354528B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
JP2017107275A (ja) 自律移動装置、自律移動方法及びプログラム
JP7327596B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
JP7067130B2 (ja) 自律移動装置、メモリ整理方法及びプログラム
JP7225647B2 (ja) 自律移動装置、自律移動方法及びプログラム
Baligh Jahromi et al. a Preliminary Work on Layout Slam for Reconstruction of Indoor Corridor Environments
JP2022140794A (ja) 自律移動装置、自律移動方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180326

R150 Certificate of patent or registration of utility model

Ref document number: 6323439

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150