JP2021509215A - 地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体 - Google Patents

地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体 Download PDF

Info

Publication number
JP2021509215A
JP2021509215A JP2020560540A JP2020560540A JP2021509215A JP 2021509215 A JP2021509215 A JP 2021509215A JP 2020560540 A JP2020560540 A JP 2020560540A JP 2020560540 A JP2020560540 A JP 2020560540A JP 2021509215 A JP2021509215 A JP 2021509215A
Authority
JP
Japan
Prior art keywords
frame image
image
current frame
keyframe
pose
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020560540A
Other languages
English (en)
Other versions
JP6921341B2 (ja
Inventor
迎春 王
迎春 王
彬 ▲紀▼
彬 ▲紀▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Geekplus Technology Co Ltd
Original Assignee
Beijing Geekplus Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Geekplus Technology Co Ltd filed Critical Beijing Geekplus Technology Co Ltd
Publication of JP2021509215A publication Critical patent/JP2021509215A/ja
Application granted granted Critical
Publication of JP6921341B2 publication Critical patent/JP6921341B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/37Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3807Creation or updating of map data characterised by the type of data
    • G01C21/383Indoor data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/005Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3833Creation or updating of map data characterised by the source of data
    • G01C21/3837Data obtained from a single source
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0014Image feed-back for automatic industrial control, e.g. robot with camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/42Analysis of texture based on statistical description of texture using transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Robotics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本出願は、地面テクスチャ画像に基づくナビゲーション方法、装置、デバイスおよび記憶媒体を公開し、ここで、前記方法は、取得した現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第1ポーズの決定することと、前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定された条件を満たすとの判定結果に応じて、前記現フレーム画像をキーフレーム画像としてマップに挿入し、閉ループ検出を実行し、ループバックキーフレーム画像を決定することと、前記現フレーム画像と前記ループバックキーフレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第2ポーズを決定することと、前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正することを含む。

Description

関連出願の相互参照
本出願は、2018年10月19日に中国特許局に提出し、出願番号が201811220749.1であり、発明名称が「地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体」との中国特許出願を基礎とする優先権を主張し、その開示の総てをここに取り込む。
本出願は、ロボットの技術分野、例えば、地面テクスチャ画像に基づくナビゲーション方法、装置、デバイスおよび記憶媒体に関する。
情報技術、自動制御技術の発展により、ロボットは既に徐々に人々の日常生活に入り、複雑な環境下で人間の仕事を代替することが十分にでき、且つ、独立した計画、自己組織化を備え、例えば、リアルタイムポジショニングとマップ構築(SSimultaneous Localization And Mapping、SSLAM)ナビゲーションの倉庫の無人搬送車(Automated Guided Vehicle,AGV)は、SSLAMナビゲーションを通じて貨物運送を完了できる。
関連技術では、ロボットは視覚的SSLAMナビゲーションを使用し、主にORB(Oriented SFAST and Rotated Binary Robust Independent Elementary Features)アルゴリズムが検出した特徴点の方式を通じ、同時にポジショニングとマップ構築を実現する。ただし、複雑なシーンの画像では、特徴位置の複雑さが比較的高く、特徴の選択と抽出が比較的難しいため、画像の特徴情報に依存するSSLAMナビゲーションの精度が比較的低くなる。一方、単純なシーンの画像では特徴点が少なく、信頼性が低いため、SSLAMナビゲーションの精度に影響する。
本出願は、地面テクスチャ画像に基づくナビゲーション方法、装置、デバイスおよび記憶媒体を提供し、ロボットが画像の特徴情報に依存するSSLAMナビゲーションの精度が比較的低くなる技術的問題を解決する。
本出願は、地面テクスチャ画像に基づくナビゲーション方法を提供し、前記方法は、
取得した現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第1ポーズの決定することと、
前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定条件を満たすとの判定結果に応じて、前記現フレーム画像をキーフレーム画像としてマップに挿入し、閉ループ検出を実行し、ループバックキーフレーム画像を決定することと、
前記現フレーム画像と前記ループバックキーフレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第2ポーズを決定することと、
前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正することとを含む。
本出願はさらに、地面テクスチャ画像に基づくナビゲーション装置を提供し、前記装置は、
取得した現フレーム画像と前フレーム画像が変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第1ポーズを決定するように構成された第1登録モジュールと、
前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定条件を満たすとの判定結果に応じて、判定結果をレイアウトとループバック検出モジュールに出力するように構成された第1判定モジュールと、
前記第1判定モジュールが入力した判定結果を受信し、前記現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行し、ループバックキーフレーム画像を決定するように構成されたレイアウトとループバック検出モジュールと、
前記現フレーム画像と前記ループバックキーフレーム画像の変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第2ポーズを決定するように構成された第2登録モジュールと、
前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正するように構成された修正モジュールとを含む。
本出願はさらに、電子デバイスを提供し、
少なくとも1つのプロセッサーと、
少なくとも1つのプログラムを格納するように構成されたメモリとを含み、
前記少なくとも1つのプログラムは、前記少なくとも1つのプロセッサーによって実行されるので、前記少なくとも1つのプロセッサーは、本出願の任意の一実施形態で説明される前記地面テクスチャ画像に基づくナビゲーション方法を実施することができる。
本出願はさらに、コンピュータ可読記憶媒体を提供し、コンピュータ可読記憶媒体上にコンピュータプログラムを格納し、このプログラムがプロセッサーによって実行される時に、本出願の任意の一実施形態の記載の地面テクスチャ画像に基づくナビゲーション方法を実現する。
本出願は、地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体を提供し、地面テクスチャ画像に基づくSSLAMナビゲーションの実行時に、変換ドメインに基づく画像登録方式によりSSLAM追跡を実現し、第1ポーズを決定し、且つ現フレーム画像がキーフレーム画像の作成条件を満たすと判定された情況のもと、マップ上にキーフレーム画像を追加し、且つ閉ループ検出を実行し、閉ループ検出に基づき決定されたループバックキーフレーム画像と変換ドメインの画像登録方法に基づいて、第2ポーズを計算し、第1ポーズと第2ポーズに基づき累積誤差を決定し、この累積誤差に基づいてマップを修正し、複雑な環境下のナビゲーションの精度を実現することができる。
は関連技術のカーゴピッキングシステムのシステム構成模式図である。 本出願の実施形態によって提供される地面テクスチャ画像に基づくナビゲーション方法のフローチャート模式図である。 本出願の実施形態によって提供される地面テクスチャ画像に基づく別のナビゲーション方法のフローチャート模式図である。 本出願の実施形態によって提供される地面テクスチャ画像に基づく別のナビゲーション方法のフローチャート模式図である。 本出願の実施形態によって提供される地面テクスチャ画像に基づくナビゲーション装置の構造模式図である。 本出願の実施形態によって提供される電子デバイスの構造図である。
図1に示すカーゴピッキングシステムのシステム構造模式図を参照すると、カーゴピッキングシステムは、少なくとも一台のロボット10、例えばAGVであれば、制御システム20、格納エリア30、および少なくとも1つのピッキングステーション40を含む。一実施形態では、格納エリア30に多くの保管容器31が設定され、保管容器31には、多種の貨物が置かれる。保管容器31は、貨物を収納できる容器であり、棚、パレット、カーゴボックスなどが考えられる。図1で棚を例とすると、棚は、スーパーマーケットで多種の商品を置く棚と同じように、多くの棚の間は棚配列形式で配置される。各ピッキングステーション40では、ピッキング要員41またはピッキングデバイス(例えば、ロボットアーム)が、ピッキング作業を行い、同時に、ピッキングステーション40にシード壁を配置する。ここで、シード壁にはピッキング商品を格納するためにトート50が設定される。
制御システム20は、サーバー上で実行された、データ記憶および情報処理機能を備えたソフトウェアシステムであり、無線または有線を通してハンドリングロボット10、ハードウェア入力システム、および他のソフトウェアシステムに接続することができる。制御システム20は、少なくとも一つのサーバーを含み、集中制御アーキテクチャまたは分散コンピューティングアーキテクチャであることができる。サーバーはプロセッサー201とメモリ202を備え、メモリ202の中に注文プール203を備えることができる。
制御システム20とロボット10が無線通信し、作業者は、操作コンソール60を通じて制御システム20を操作し、ロボット10は、制御システム20の制御下で貨物輸送タスクを行う。例えば、制御システム20は、輸送タスクに基づきロボット10ために移動経路を計画し、ロボット10は移動経路に基づき棚配列内の空きスペース(ロボット10通行通路の一部分)に自動的にナビゲートする。ロボット10のために移動経路を便利に計画するため、あらかじめロボット10の作業領域(この作業領域は、少なくとも棚領域30およびピッキングステーション40が配置される領域を含む)を、複数のサブ領域(すなわち、セル)に分割し、ロボット10は順にサブ領域に移動し、従って移動軌跡を形成する。そしてロボット10が自律的で且つ高速、正確に移動し、目標位置に達すること実現するために、本出願は地面テクスチャ画像に基づくナビゲーション方法を提出し、ナビゲーション精度を改善する。
以下、本出願に対し図面および実施形態を合わせて説明する。ここで説明される具体的実施形態は、本出願を説明するためにのみ使用され、本出願を限定するためではない。この他さらに説明が必要なのは、説明を簡単にするために、図面は本出願の関連する部分のみを示しており、すべての構造を示しているわけではない。
実施例一
図2は本出願の実施形態によって提供される地面テクスチャ画像に基づくナビゲーション方法のフローチャート模式図で、本実施形態は、ロボットがSSLAMナビゲーションに基づく情況に適用することができ、この方法は、地面テクスチャ画像に基づくナビゲーション装置により実行することができ、且つ、例えばロボットなど、電子デバイスに統合することができる。本実施形態では、この地面テクスチャ画像に基づくナビゲーション方法は、主に以下のステップを含む。
ステップS110では、取得された現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、現フレーム画像の第1ポーズを決定する。
本実施形態では、地面テクスチャ特徴に基づくSSLAMナビゲーション実行時、主に追跡、レイアウト、再配置、およびループ検出を含む。一実施形態では、追跡リンクもリアルタイムの位置決めであり、主に前テクスチャ画像により現フレームのポーズを計算し、したがって、追跡リンク実行前にロボットに対し初期化され、つまり、初期位置のグローバル座標の初期値を決定する。一実施形態では、初期位置で収集されたQRコード(登録商標)情報を識別することによってグローバル座標の初期値を決定することができる。初期化が完了し、現フレーム画像のポーズが計算されると、一実施形態では、取得された現フレーム画像と前フレーム画像は、変換ドメインに基づいて画像登録を実行し、このことにより現フレーム画像の第1ポーズを決定し、第1ポーズは現フレーム画像運動の回転角度と並進量を含む。
一実施形態では、以下ステップのように画像登録を実行できる。(1)取得した前フレーム画像と現フレーム画像はフーリエ変換を行い、合計を求める。(2)低域ノイズを除去するためにハイパスフィルターを適用する。(3)フィルタリングされた画像を直交座標系から対数極座標形式に変換する。(4)対数極座標のもと画像合計のデジタル極座標形式に対しフーリエ変換を実行する。(5)ステップ(4)の変換結果と相互エネルギースペクトルの計算式に基づき、前フレーム画像と現フレーム画像は対数極座標下の相互エネルギースペクトルに対し決定する。(6)得られたエネルギースペクトルに対し逆フーリエ変換を実行し、逆フーリエ変換結果を得る。(7)逆フーリエ変換結果を決定する。ピーク値の最大値に対応する座標は、逆フーリエ変換結果のピーク値の最大値に対応する座標に基づき、スケーリング係数と回転係数を取得する。(8)取得したスケーリング係数と回転係数に基づき、現フレーム画像に対し逆変換を実行し、新しい画像を取得する。(9)画像の合計に対し、高速フーリエ変換を実行し、合計を求め、エネルギースペクトル計算公式に基づき、合計のエネルギースペクトルを計算し、逆フーリエ変換を実施することに対し、逆フーリエ変換結果を得る。(10)逆フーリエ変換の最大ピーク値に対応する座標を決定し、即ち並進パラメータとし、前記並進パラメータに基づき現フレーム画像の第1ポーズを決定することができる。
ステップS120では、現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、現フレーム画像が事前設定条件を満たすとの判定結果に応じて、ステップS130−S150を実行する。現フレーム画像が事前設定条件を満たさないとの判定結果に応じて、ステップS110が継続実行される。
SSLAM技術では、追跡とマップ構築が同時に行われるため、現フレーム画像を取得する情況のもと、さらに現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たすかどうかを判定する必要があり、もし満たしてないなら追跡用リンクを継続実行し、満たす場合は、ステップS130−S150のようにマップ構築を実行し、且つループバック検出を実行する必要がある。一実施形態では、キーフレーム画像を作成するために満たされる必要がある事前設定条件は、マップ構築はアイドル状態にあり、且つ現フレーム画像と前キーフレーム画像との間の画像フレームの数は、事前設定された第1閾値より大きいことを含み、一実施形態では、第1閾値は20であり、現フレーム画像の合計と前キーフレーム画像との間のグローバル座標距離差は、事前設定の第2閾値より大きい。本実施形態では、現フレーム画像と前キーフレーム画像との間のグローバル座標距離差は、現フレーム画像と前キーフレーム画像との間のオフセット距離を指し、現フレーム画像と前キーフレーム画像が各自対応するグローバル座標に基づき、数式計算により得ることができ、そして現フレーム画像と前キーフレーム画像各自のグローバル座標は、現フレーム画像と前キーフレーム画像が各自対応するポーズとグローバル座標の初期値に基づいて決定されたものである。
ステップS130では、現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行し、ループバックキーフレーム画像を決定する。
現フレーム画像がキーフレーム画像を作成するために満たされる必要がある事前設定条件の判定結果に応じて、現フレーム画像をキーフレーム画像としてマップに挿入してマップを構築する。一実施形態では、キーフレーム画像を通じてノードとし、及びマルチフレーム画像間の制約関係に基づいて決定したエッジがマップを共同構成する。同時に推定されたロボットの移動軌跡と構築されたマップの長時間の精確性を保証するために、同じ場所を通過するイベントをロボットカメラが効果的に検出する必要があるため、キーフレーム画像を作成と同時に閉ループ検出を行う必要がある。閉ループ検出結果に基づき、ループバックキーフレーム画像を決定し、このループバックキーフレーム画像は、一つのループバックを構成するすべてのキーフレーム画像のうち、現フレーム画像に最も類似するキーフレーム画像であってよい。
ステップS140では、現フレーム画像とループバックキーフレーム画像を変換ドメインに基づいて画像登録を受け、この現フレーム画像の第2ポーズを決定する。
ループバックキーフレーム画像を決定した後、現フレーム画像とループバックキーフレーム画像を変換ドメインに基づいて画像登録を受け、現フレーム画像の第2ポーズを決定する。一実施形態では、この第2ポーズは、現フレーム画像運動の回転角度と並進量を含む。画像登録プロセスについては、ステップS110の説明を参照することができ、ここでは繰り返さない。
ステップS150では、前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正する。
本実施形態では、SSLAM技術は前フレーム画像に基づき現フレーム画像のポーズを計算し、即ち次のフレーム画像のポーズは前のフレーム画像のポーズに依存するので、しばらくすると累積誤差の発生は避けることができず、構築されたマップの精確性に影響する。
したがって、閉ループ検出を実行し、第2ポーズを決定し、現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定する。累積誤差に基づき、ループバック内のマルチフレームキーフレーム画像間の変換行列を修正し、及び構築されたマップを修正する。
本実施形態では、マップが構築完成された後、ロボットの移動中に、センサーを通じて周囲環境情報をリアルタイムで取得し、すでに構築完成したマップとマッチングされ、周囲環境におけるロボットの位置を決定し、一歩進んでナビゲーション移動を実行する。
本実施形態では、地面テクスチャ画像に基づくSSLAMナビゲーションの実行時に、変換ドメインに基づく画像登録方式によりSSLAM追跡が実現し、第1ポーズを決定し、且つ現フレーム画像がキーフレーム画像の事前設定条件を満たすと判定された情況のもと、マップ上にキーフレーム画像を追加し、且つ閉ループ検出を実行し、閉ループ検出に基づき決定されたループバックキーフレーム画像と変換ドメインの画像登録方法に基づいて、第2ポーズを計算する。第1ポーズと第2ポーズに基づき累積誤差を決定し、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正し、複雑な環境下ナビゲーションの精確度を実現することができる。
実施例二
図3は本出願の実施形態によって提供される地面テクスチャ画像に基づく別のナビゲーション方法のフローチャート模式図である。本実施形態は、前記実施形態の基礎の上で説明され、この方法は、以下のステップを含む。
ステップS210では、取得された現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、現フレーム画像の第1ポーズを決定する。
ステップS220では、前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定条件を満たすとの判定結果に応じて、ステップS230−S270を実行する。現フレーム画像が事前設定条件を満たさないとの判定結果に応じて、ステップS210が継続実行される。
ステップS230では、現フレーム画像をキーフレーム画像としてマップに挿入し、且つ現フレーム画像とマップ内の他のすべてのキーフレーム画像の類似度を個別に計算し、類似度が第3閾値より大きいキーフレーム画像を候補セットに追加する。
本実施形態では、新しいキーフレーム画像がマップに追加された後、閉ループ検出が実行されなければならない。まず、フィルタリングは閉ループ(形成)のキーフレーム画像の可能性があり、そのうちの閉ループはロボットが特定の位置から一定時間移動した後、またその位置に戻ることを指す。一実施形態では、マップ内の他のキーフレーム画像と現フレーム画像との間の類似度に基づきフィルタリングを実行できる。そして現フレーム画像とマップ内の他のすべてのキーフレーム間の類似度は以下の2つの方法で個別に計算する。方法1は、スケール不変の特徴変換(Scale Invariant Feature Transform,SIFT)を利用し、特徴は現フレーム画像とマップ内のすべてのキーフレーム画像との類似度を計算し、例えば、マッチング点数に基づき類似度の計算結果とすることができる。方法2は、変換ドメインに基づく画像登録アルゴリズムでは、回転と並進の位相相関アルゴリズムが実行された後、離散時間単位のインパルス関数シーケンスが取得され、そして相関ピーク値は2つの画像の登録ポイントを表し、相関ピーク値は2つの画像間の一致の度合いを直接反映する。これにより、順次、現フレーム画像とすべてのキーフレーム画像を変換ドメインに基づいて登録し、登録結果の回転と並進に基づき得られた相関ピーク値を類似度計算値とすることができる。上記の方法の任意の一つの方法を利用して一つのキーフレーム画像と現フレーム画像の間の類似度を決定した後、類似度が設定された第3閾値より大きいかどうかを判定でき、この類似度が第3閾値より大きい情況のもと、このキーフレーム画像を候補キーフレーム画像とすることができ、且つ候補セットに追加することができる。本実施形態において、現フレーム画像と各キーフレーム画像との類似度の算出方法は、上記の2つの方法による計算に限定されず、また、ここに限定されないその他類似のアルゴリズムにより計算することもできる。
ステップS240では、候補セットの中からループバック条件を満たす少なくとも3つのキーフレーム画像を選択し、少なくとも3つのキーフレーム画像と現フレーム画像の類似度の高い方から低い方への順に基づき、少なくとも3つのキーフレーム画像に対し順に並べ、且つ第1キーフレーム画像を順に並べたものを候補キーフレーム画像とする。
候補セットには複数のループバックの存在が可能であるため、任意の一つのループバックに対し、このループバック条件を満たす少なくとも3つのキーフレーム画像を候補セットから選択し、ステップS230から、候補セットの各キーフレーム画像が一つの類似度に対応していることが分かり、そして大きな(スケーリングされた)閉ループを検出するために、最も近いキーフレーム画像を使用する必要があり、つまり最も類似度の高いキーフレーム画像を使用する必要がある。従って少なくとも3つのキーフレーム画像と現フレーム画像の類似度の高い方から低い方への順に基づき、少なくとも3つのキーフレーム画像に対し順に並べ、且つ第1キーフレーム画像を順に並べたものを候補キーフレーム画像とする。
ステップS250は、候補キーフレーム画像と現フレーム画像との間のグローバル座標距離差が第4閾値より小さいかどうか判定し、候補キーフレーム画像と現フレーム画像との間のグローバル座標距離差が第4閾値より小さいという判定結果に応じて、候補キーフレーム画像をループバックキーフレーム画像とする。
候補キーフレーム画像を決定後、またこの候補キーフレーム画像に対し、さらに一歩検証し、この候補キーフレーム画像をループバックキーフレーム画像とできるかどうかを判定する必要がある。一実施形態では、画像の登録後、各キーフレーム画像は、このキーフレーム画像に対応する変換パラメータを対応して格納し、これにより、候補キーフレーム画像と現フレーム画像とのグローバル座標距離差を計算することができ、もし距離差が設定された第4閾値より小さければ、即ち前記候補キーフレーム画像をループバックキーフレーム画像とする。
もし候補キーフレーム画像と現フレーム画像の間のグローバル座標距離差が第4閾値より大いか、または等しいならば、即ちこの候補キーフレーム画像はループバックキーフレーム画像とできず、また、別のループバックの中から候補キーフレーム画像を新たに選択する必要があり、且つ候補キーフレーム画像がループバックキーフレーム画像とすることができるかどうかを継続判定する必要がある。
ステップS260では、現フレーム画像とループバックキーフレーム画像を変換ドメインに基づいて画像登録を実行し、現フレーム画像の第2のポーズを決定する。
ステップS270では、現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正する。
本実施形態では、地面テクスチャ画像に基づきSSLAMナビゲーションを実行するとき、変換ドメインに基づく画像登録方式によりSSLAM追跡と閉ループ検出を実現し、次に前記累積誤差に基づいてマップ修正を行うため、累積誤差を決定し、ナビゲーション精度を向上させる。これ以外、閉ループ検出時、大きな(スケーリングされた)閉ループを検出するために、最も近いキーフレーム画像を使用し、キーフレーム画像と現フレーム画像の間の類似度の計算を導入し、変換ドメインに基づく画像登録時に2つのフレーム画像間の類似度を考慮しないことの欠如を補う。
実施例三
図4は本出願の実施形態によって提供される地面テクスチャ画像に基づく別のナビゲーション方法のフローチャート模式図である。本実施形態は、前記実施形態の基礎の上で説明される。図4を参照し、この方法はさらに以下のステップを含む。
ステップS310では、前フレーム画像が地面テクスチャ画像でない情況のもと、事前設定された数のキーフレーム画像を選択し、事前設定された数のキーフレーム画像と現フレーム画像を分け特徴点のマッチングを行い、且つマッチングの結果に基づき少なくとも1つの代替マッチングフレーム画像を決定する。
本実施形態では、もし遮断または突然の動きが発生した場合、結果、収集された前フレーム画像が地面テクスチャ画像でなくなり、すなわち特徴が失われた場合、グローバル再配置を実行する必要がある。一実施形態では、検索範囲を拡大することにより、事前設定された数のキーフレーム画像を選択することができ、事前設定された数のキーフレーム画像と現フレーム画像を分け特徴点のマッチングを行い、且つマッチング結果に基づき、代替マッチングフレーム画像を決定し、すなわち、現フレーム画像と類似するキーフレーム画像を探し出すことが代替キーフレーム画像となる。最後に、マッチング情況に基づきカメラ位置に対し最適化され、もし有効データが十分にある場合、追跡プログラムは引き続き実行される。
ステップS320では、少なくとも1つの代替マッチングフレーム画像に基づき、少なくとも1つの現フレーム画像の第3ポーズをそれぞれ計算する。
フィルタリングされた少なくとも1つの代替マッチングフレーム画像に基づき、変換ドメインの画像登録方法に基づき、少なくとも1つの現フレーム画像の第3ポーズを順次計算し、ここで、第3ポーズは、現フレーム画像運動の回転角度と並進量を含む。
ステップS330では、少なくとも1つの現フレーム画像の第3ポーズに基づいて、任意の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差が第5閾値未より小さいかどうかを判定し、任意の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離の差が第5閾値より小さいという判定結果に応じて、前記現フレーム画像に基づき次の新しいフレーム画像のポーズを計算する。
本実施形態では、異なる代替マッチングフレーム画像に基づいて、計算された現フレーム画像の第3ポーズは異なり、したがって、ある代替マッチングフレーム画像とこの現フレーム画像との間のグローバル座標距離差が第5閾値より小さいと判定された情況のもと、即ちこの代替マッチングフレーム画像と現フレーム画像との間の類似度が類似度要求を満たすかどうかを判定し、類似度要求が満たされた情況のもと、即ち追跡プロセスが継続実行され、即ちまた、前記現フレーム画像に基づき次の新しいフレーム画像のポーズが計算される。
もし代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差が第5閾値より大きいか、または等しいならば、即ち次の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差を判定し、以下同様である。
本実施形態では、遮断または突然の動きなどが発生し特徴が失われた場合、代替マッチングフレーム画像の決定および変換ドメインに基づく画像登録により、現フレーム画像の第3ポーズを決定し、且つ、代替マッチングフレーム画像と現フレーム画像の間のグローバル座標距離差、および代替マッチングフレーム画像と現フレーム画像の間の類似度が等しく事前設定条件を満たす情況のもと、SSLAM追跡リンクを継続実行し、即ち、現フレーム画像に基づき、次の新しいフレーム画像のポーズの計算を継続し、これにより、追跡リンクの継続実行が保証され、ナビゲーションの精確度が確保される。
実施例四
図5は本出願の実施形態によって提供される地面テクスチャ画像に基づくナビゲーション装置の構造模式図であり、図5に示すように、前記装置は、取得した現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録(Image registration)し、現フレーム画像の第1ポーズ決定するように構成された第1登録モジュール410と、現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、現フレーム画像が事前設定条件を満たすとの判定結果に応じて、判定結果をレイアウトとループバック検出モジュールに出力するように構成された第1判断モジュール420と、前記第1判定モジュールが入力した判読結果を受信し、現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行し、ループバックキーフレーム画像を決定するように構成されたレイアウトとループバック検出モジュール430と、現フレーム画像とループバックキーフレーム画像の変換ドメインに基づいて画像登録を実行し、現フレーム画像の第2ポーズを決定するように構成された第2登録モジュール440と、現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正するように構成された修正モジュール450とを含む。
本実施形態では、第1登録モジュールにより第1ポーズを決定した後、且つ第1判断モジュールは現フレーム画像がキーフレーム画像を作成する事前設定条件を満たすと判定した情況のもと、レイアウトとループバック検出モジュールはマップ上にキーフレーム画像を追加し、且つ、閉ループ検出が実行され、第2登録モジュールが第2ポーズを決定するために、閉ループ検出に基づきループバックキーフレーム画像を決定する。修正モジュールは、第1ポーズと第2ポーズに基づき累積誤差を決定し、且つ累積誤差に基づきマップの修正を実行し、複雑な環境でのナビゲーションの精確度を実現することができる。
上記実施形態に基づいて、キーフレーム画像を作成する事前設定条件は、マップ構築がアイドル状態であり、且つ前記現フレーム画像と前キーフレーム画像の間の画像フレーム数が事前設定された第1閾値より大きいことを含み、および現フレーム画像と前キーフレーム画像との間のグローバル座標距離差は事前設定された第2閾値よりも大きいことを含む。
上記実施形態に基づいて、レイアウトとループバック検出モジュールは、現フレーム画像をキーフレーム画像としてマップに挿入し、且つ現フレーム画像とマップ内の他のすべてのキーフレーム画像の類似度をそれぞれ計算し、且つ類似度が第3閾値より大きいキーフレーム画像を候補セットに追加するように構成された類似度計算ユニットと、候補セットからループバック条件を満たす少なくとも3つのキーフレーム画像を選択し、少なくとも3つのキーフレーム画像と現フレーム画像の類似度の高い方から低い方の順に基づき、少なくとも3つのキーフレーム画像に対し順に並べ、且つ第1キーフレーム画像に順に並べたものを候補キーフレーム画像とするする用に構成された候補ユニットと、候補キーフレーム画像と現フレーム画像との間のグローバル座標距離差が第4閾値より小さいかどうかを判定するために設定され、候補キーフレーム画像と現キーフレーム画像の間のグローバル座標距離差が第4閾値より小さいという判定結果に応じて、候補キーフレーム画像をループキーフレーム画像とするように構成された判定ユニットとを含む。
上記実施形態に基づいて、この地面テクスチャ画像に基づくナビゲーション装置は、前フレーム画像が地面テクスチャ画像でない情況のもと、事前設定された数のキーフレーム画像を選択し、事前設定された数のキーフレーム画像と現フレーム画像をそれぞれ分けて特徴点のマッチングを行い、且つ、マッチング結果に基づき少なくとも1つの代替マッチングフレーム画像を決定するように構成されたマッチングモジュールと、少なくとも1つの代替マッチングフレーム画像に基づき少なくとも1つの現フレーム画像の第3ポーズをそれぞれ計算するように構成された第3登録モジュールと、少なくとも1つの現フレーム画像の第3ポーズに基づき設定し、任意の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差が第5閾値より小さいかどうかを判定し、任意の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離の差が第5閾値より小さいという判定結果に応じて、現フレーム画像に基づき次の新しいフレーム画像のポーズを計算するように構成された第2判定モジュールとをさらに含む。当該第2判定モジュールは、一つの代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差が第5閾値より大きいか、または等しいという判定結果に応じて、次の代替マッチングフレーム画像と現フレーム画像との間のグローバル座標距離差が第5閾値より小さいかどうかを判定する。
上記実施形態に基づき、現フレーム画像の第1ポーズ、または第2ポーズ、または第3ポーズは現フレーム画像運動の回転角度と並進量を含む。
上記実施形態に基づき、この地面テクスチャ画像に基づくナビゲーション装置は、初期化モジュールが、初期位置において、収集されたQRコード(登録商標)情報を識別することにより、グローバル座標の初期値を決定することをさらに含む。
本実施形態で提供される地面テクスチャ画像に基づくナビゲーション装置は、本出願の任意の実施形態で提供される地面テクスチャ画像に基づくナビゲーション方法を実行でき、実行方法に対応する機能モジュールと有利な効果を備える。
実施例五
図6は本出願の実施形態によって提供される電子デバイスの構造図である。図6は本出願の実施形態を実現するのに適した例示的な電子デバイス12のブロック図を示す。本実施形態では、電子デバイスはロボットまたは他のデバイスであり得る。図6に示される電子デバイス12は一つの例でしかなく、本出願の実施形態の機能と使用範囲に対しいかなる制限も課すべきではない。
図6に示すように、電子デバイス12は、汎用コンピューティングデバイスの形で表されている。電子デバイス12の構成要素は、少なくとも1つのプロセッサー16、システムメモリ28、異なるシステム構成要素(システムメモリ28とプロセッサー16を含む)を接続するバス18を含み得るが、これらに限定されない。
バス18はいくつかのタイプのバス構造の少なくとも1つを表し、メモリバスまたはメモリコントローラと、周辺バスと、グラフィック加速ポートと、プロセッサーとまたは様々なバス構造の中の任意のバス構造を使用するローカルバスを含む。例を挙げると、これらのアーキテクチャには、業界標準のアーキテクチャ(Industry Standard Architecture,ISAchitecture,ISAクチャ(MicroChannel Architecture,MAC)バスと、増強型ISAバス、ビデオ電子規格協会(Video Electronics Standards Association,VESAds Association,VESA Component Interconnect,PCI)バスとを含むがこれらに限定されない。
電子デバイス12は、多種のコンピュータシステム可読媒体を含む。これらの媒体は、揮発性および不揮発性媒体、取り外し可能および取り外し不可能媒体を含む、電子デバイス12がアクセスすることができる如何なる使用可能媒体であってよい。
システムメモリ28は、揮発性メモリ形式のコンピュータシステム可読媒体を含むことができ、例えばランダムアクセスメモリ(Random Access Memory,RAM)30や或いは高速キャッシュメモリ32(略して高速キャッシュ)である。電子デバイス12は、他の取り外し可能や取り外し不可能のもの、揮発性や不揮発性コンピュータシステム記憶媒体を含むことができる。単なる例として、ストレージシステム34は、リムーバブルではない不揮発性の磁気媒体(図6には示さず、一般に「ハードドライブ」と呼ばれる)の読み取りおよび書き込みに使用できる。図6には示されていないが、取り外し可能な不揮発性ディスク(例えば「フロッピーディスク」)に対する読み取りおよび書き込み用のディスクドライブ、および取り外し可能な不揮発性ディスク(例えばコンパクトディスク読み取り専用メモリ(Compact Disc Read−Only Memory,CD−ROM)、デジタル(Digital Video Disc−Read Only Memory,DVD−ROM)または他の光媒体)に対する読み取りおよび書き込み用の光学式ドライブを提供できる。これらの情況のもと、各ドライブは少なくとも1つのデータ媒体インターフェースを通じてバス18に接続することができる。メモリ28は、少なくとも1つのプログラム製品を含むことができ、このプログラム製品には(例えば少なくとも1つの)プログラムモジュールのセットを備え、これらのプログラムモジュールは、本出願の任意の実施形態の機能を実行するように設定される。
一セットの(少なくとも1つの)プログラムモジュール42のプログラムやユーティリティ40を備え、例えばメモリ28に格納することができ、このようなプログラムモジュール42は、オペレーティングシステム、少なくとも1つのアプリケーションプログラム、その他のプログラムモジュールとプログラムデータを含むがこれに限定されず、これらの例では、それぞれ或いはいくつかの組み合わせでネットワーク環境の実現を含むことができる。プログラムモジュール42は、一般に、本出願に記載されている実施形態の機能や、或いは方法を実行する。
電子デバイス12はまた少なくとも1つの外部デバイス14(例えば、キーボード、ポインティングデバイス、ディスプレイ24など)と通信でき、また、少なくとも1つのユーザーがこの電子デバイス12と交互に通信させることができ、および、またはこの電子デバイス12が少なくとも1つの他のコンピューティングデバイスと通信できるようにする任意のデバイス(例えばネットワークカード、モデムなど)と通信する。この通信は、入力や出力(I/O)インターフェース22を通じて実行できる。さらに、電子デバイス12はまた、ネットワークアダプタ20を通じて、少なくとも1つのネットワーク(例えばローカルエリアネットワーク(Local Area Network,LAN)、ワイドエリアネットワーク(Wide Area Network,WAN)、および、または例えばインターネットなどのパブリックネットワーク)とも通信することができる。図に示すように、ネットワークアダプタ20は、バス18と電子デバイス12のその他モジュールを通じて通信する。理解していただきたいのは、図には示されていないが、他のハードウェアおよび、またはソフトウェアモジュールを使用した電子デバイス12と組み合わせることができ、マイクロコード、装置ドライバー、冗長処理ユニット、外部ディスクドライブアレイ、ディスクアレイ(Redundant Arrays of Independent Drives,RAID)システム、テープドライブ、およびデータバックアップストレージシステムなどを含むがこれらに限定されない。
プロセッサー16は、システムメモリ28に格納されたプログラムを実行することにより、少なくとも1つの機能的アプリケーションおよびデータ処理を実行し、例えば、本出願の実施形態によって提供される地面テクスチャ画像に基づいてナビゲーション方法を実施することであり、取得した現フレーム画像と前フレーム画像の間の変換ドメインに基づいて画像登録を実行し、現在のフレーム画像の第1ポーズを決定し、現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、現フレーム画像が事前設定条件を満たしているとの判定結果に応じて、現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行して、ループバックキーフレーム画像を決定し、現フレーム画像とループバックキーフレーム画像を変換ドメインに基づいて画像登録を行い、現フレーム画像の第2ポーズを決定し、現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正する。
実施例六
本実施形態は、コンピュータ可読記憶媒体を提供し、コンピュータ可読記憶媒体上にコンピュータプログラムを格納し、このプログラムがプロセッサーによって実行される時に、本出願の実施形態で提供される前記地面テクスチャ画像に基づくナビゲーション方法を実施する。取得した現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、現フレーム画像の第1ポーズの決定し、現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、現フレーム画像が事前設定条件を満たすとの判定結果に応じて、現フレーム画像をキーフレーム画像としてマップに挿入し、閉ループ検出を実行し、ループバックキーフレーム画像を決定し、現フレーム画像と前記ループバックキーフレーム画像を変換ドメインに基づいて画像登録を実行し、現フレーム画像の第2ポーズを決定し、現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正する。
本実施形態のコンピュータ記憶媒体は、少なくとも1つのコンピュータ可読媒体の任意の組み合わせを採用することができる。コンピュータ可読媒体は、コンピュータ可読信号媒体或いはコンピュータ可読記憶媒体であり得る。コンピュータ可読記憶媒体は、例えば、電気、磁気、光学、電磁気、赤外線、または半導体のシステム、装置或いは部品、或いは上記の任意の組み合わせであり得るが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例(非網羅的なリスト)には、少なくとも1本のワイヤーの電気的接続、ポータブルコンピュータディスク、ハードディスク、RAM、読み取り専用メモリ(Read−Only Memory,ROM)、消去可能なプログラム可能な読み取り専用メモリ(Erasable Programmable Read−Only Memory,EPROM)またはフラッシュメモリ、光ファイバー、ポータブルCD−ROM、光ストレージ部品、磁気ストレージ部品、或いは上記の任意の適切な組み合わせを含む。本出願では、コンピュータ可読記憶媒体は、如何なるプログラムを含むまたは格納する任意の有形媒体とすることができ、このプログラムは、命令実行システム、装置、または部品の使用、或いはそれと組み合わせて使用することができる。
コンピュータ可読信号媒体は、ベースバンドの中で或いは搬送波の一部として伝搬されるデータ信号を含むことができ、デジタル信号の中にコンピュータ信号可読プログラムコードを搭載する。この種の伝搬されたデータ信号は多種の形態を採用でき、電磁信号、光信号、或いは前述の任意の適切な組み合わせを含むがこれらに限定されない。コンピュータ可読信号媒体は、またコンピュータ可読記憶媒体以外の如何なるコンピュータ可読媒体でも有り得、このコンピュータ可読媒体は、命令実行システム、装置、または部品の使用、或いはそれと組み合わせて使用により、プログラムを送信、伝播、または送信することができる。
コンピュータ可読媒体に含まれるプログラムコードは、如何なる適切な媒体によって送信することができ、ワイヤレス、ワイヤー、光ケーブル、無線周波数(Radio Frequency,RF)など、或いは上記の任意の適切な組み合わせを含むがこれらに限定されない。
少なくとも1つのプログラミング言語または複数のプログラミング言語の組み合わせで本出願の操作を実行するためのコンピュータプログラムコードで記述でき、前記プログラミング言語には、Java、Smalltalk、C++などのオブジェクト指向プログラミング言語を含み、また、「C」言語や類似のプログラミング言語のような、従来の手続き型プログラミング言語も含む。プログラムコードは、完全にユーザーのコンピュータで実行と、一部はユーザーのコンピュータで実行と、独立したソフトウェアパッケージとして実行と、一部はユーザーのコンピュータ部分のリモートコンピュータで実行と、或いは完全にリモートコンピュータまたはサーバーで実行とができる。リモートコンピュータが関係する情況のもと、リモートコンピュータは、LANまたはWANを含む任意の種類のネットワークを通じてユーザーのコンピュータに接続でき、或いは、外部コンピュータに接続できる(例えばインターネットサービスプロバイダーを利用してインターネット経由で接続)。
10 ロボット
12 電子デバイス
14 外部デバイス
16 プロセッサー
20 ネットワークアダプタ
22 (I/O)インターフェース
24 ディスプレイ
28 システムメモリ
30 貨物棚エリア
32 高速キャッシュメモリ
34 ストレージシステム
40 ピッキングステーション
50 移転箱
201 プロセッサ
202 メモリ
203 オーダー池
410 第1登録モジュール
420 第1判断モジュール
430 レイアウトとループバック検出モジュール
440 第2登録モジュール
450 修正モジュール

Claims (14)

  1. ロボットによって実行される地面テクスチャ画像に基づくナビゲーション方法であって、前記ロボットにコレクタが設定され、前記コレクタは地面テクスチャ画像を収集するために設定され、
    取得した現フレーム画像と前フレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第1ポーズの決定することと、
    前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定条件を満たすとの判定結果に応じて、前記現フレーム画像をキーフレーム画像としてマップに挿入し、閉ループ検出を実行し、ループバックキーフレーム画像を決定することと、
    前記現フレーム画像と前記ループバックキーフレーム画像を変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第2ポーズを決定することと、
    前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正することとを
    含むことを特徴とする地面テクスチャ画像に基づくナビゲーション方法。
  2. 前記キーフレーム画像を作成するための事前設定条件は、
    マップ構築はアイドル状態にあり、且つ前記現フレーム画像と前キーフレーム画像との間の画像フレームの数は、事前設定された第1閾値より大きいことと、
    前記現フレーム画像と前記前キーフレーム画像との間のグローバル座標距離差が事前設定された第2閾値より大きいこととを含む、請求項1に記載の方法。
  3. 前記現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行し、ループバックキーフレーム画像を決定することが、
    前記現フレーム画像をキーフレーム画像としてマップに挿入し、且つ現フレーム画像とマップ内の他のすべてのキーフレーム画像の類似度をそれぞれ計算し、類似度が第3閾値より大きいキーフレーム画像を候補セットに追加することと、
    前記候補セットの中からループバック条件を満たす少なくとも3つのキーフレーム画像を選択し、前記少なくとも3つのキーフレーム画像と現フレーム画像の類似度の高い順に基づき、前記少なくとも3つのキーフレーム画像に対し順に並べ、且つ第1キーフレーム画像に順に並べたものを候補キーフレーム画像とすることと、
    前記候補キーフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第4閾値より小さいかどうか判定し、前記候補キーフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第4閾値より小さいという判定結果に応じて、前記候補キーフレーム画像をループバックキーフレーム画像とすることと
    を含む、請求項1または請求項2に記載の方法。
  4. 前記前フレーム画像が地面テクスチャ画像でない情況のもと、事前設定された数のキーフレーム画像を選択し、事前設定された数の前記キーフレーム画像と前記現フレーム画像それぞれに対して特徴点のマッチングを行い、且つマッチングの結果に基づき少なくとも1つの代替マッチングフレーム画像を決定することと、
    少なくとも1つの前記代替マッチングフレーム画像に基づき、少なくとも1つの前記現フレーム画像の第3ポーズをそれぞれ計算することと、
    少なくとも1つの前記現フレーム画像の第3ポーズに基づいて、任意の前記代替マッチングフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第5閾値より小さいかどうかを判定し、前記任意の前記代替マッチングフレーム画像と前記現フレーム画像との間のグローバル座標距離の差が第5閾値より小さいという判定結果に応じて、前記現フレーム画像に基づき次の新しいフレーム画像のポーズを計算することとをさらに含む、請求項1または請求項2または請求項3に記載の方法。
  5. 現フレーム画像の第1ポーズまたは第2ポーズまたは第3ポーズは現フレーム画像運動の回転角度と並進量を含む、請求項4に記載の方法。
  6. 初期位置において、収集されたQRコード情報を識別することにより、グローバル座標の初期値を決定することをさらに含む、請求項1から請求項5の任意の一つに記載の方法。
  7. 取得した現フレーム画像と前フレーム画像の変換ドメインに基づき画像登録を実行し、現フレーム画像の第1ポーズを決定するように構成された第1登録モジュールと、
    前記現フレーム画像がキーフレーム画像を作成するための事前設定条件を満たしているかどうかを判定し、前記現フレーム画像が事前設定された条件を満たすとの判定結果に応じて、前記判定結果をレイアウトとループバック検出モジュールに出力するように構成された第1判定モジュールと、
    前記第1判定モジュールが入力した判定結果を受信し、前記現フレーム画像をキーフレーム画像としてマップに挿入し、且つ閉ループ検出を実行し、ループバックキーフレーム画像を決定するように構成されたレイアウトとループバック検出モジュールと、
    前記現フレーム画像と前記ループバックキーフレーム画像の変換ドメインに基づいて画像登録を実行し、前記現フレーム画像の第2ポーズを決定するように構成された第2登録モジュールと、
    前記現フレーム画像の第1ポーズと第2ポーズに基づき、累積誤差を決定し、且つ、修正されたマップに基づきナビゲートを行うために、前記累積誤差に基づき前記マップを修正するように構成された修正モジュールとを含む、地面テクスチャ画像のナビゲーション装置。
  8. 前記キーフレーム画像を作成するための事前設定条件は、マップ構築はアイドル状態にあり、且つ前記現フレーム画像と前キーフレーム画像との間の画像フレームの数は、事前設定された第1閾値より大きいことと、
    前記現在のフレーム画像と前記前キーフレーム画像との間のグローバル座標距離差は、事前設定された第2閾値より大きいこととを含む、請求項7に記載の装置。
  9. レイアウトとループバック検出モジュールは、
    前記現フレーム画像をキーフレーム画像としてマップに挿入し、且つ前記現フレーム画像と前記マップ内の他のすべてのキーフレーム画像の類似度をそれぞれ計算し、且つ類似度が第3閾値より大きいキーフレーム画像を候補セットに追加するように構成された類似度計算ユニットと、
    前記候補セットの中からループバック条件を満たす少なくとも3つのキーフレーム画像を選択し、少なくとも3つのキーフレーム画像と前記現フレーム画像の類似度の高い方から低い方の順に基づき、少なくとも3つのキーフレーム画像に対し順に並べ、且つ第1キーフレーム画像に順に並べたものを候補キーフレーム画像とするように構成された候補セットと、
    前記候補キーフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第4閾値より小さいかどうか判定し、前記候補キーフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第4閾値より小さいという判定結果に応じて、前記候補キーフレーム画像をループバックキーフレーム画像とするように構成された判断ユニットとを含む、請求項7または請求項8に記載の装置。
  10. 前記前フレーム画像が地面テクスチャ画像でない情況のもと、事前設定された数のキーフレーム画像を選択し、事前設定された数のキーフレーム画像と前記現フレーム画像を分け特徴点のマッチングを行い、且つマッチングの結果に基づき少なくとも1つの代替マッチングフレーム画像を決定するように構成されたマッチングモジュールと、
    少なくとも1つの前記代替マッチングフレーム画像に基づき、少なくとも1つの現フレーム画像の第3ポーズをそれぞれ計算するために設定するように構成された第3登録モジュールと、
    少なくとも1つの前記現フレーム画像の第3ポーズに基づいて、任意の代替マッチングフレーム画像と前記現フレーム画像との間のグローバル座標距離差が第5閾値未より小さいかどうかを判定し、前記任意の前記代替マッチングフレーム画像と前記現フレーム画像との間のグローバル座標距離の差が第5閾値より小さいという判定結果に応じて、前記現フレーム画像に基づき次の新しいフレーム画像のポーズを計算するように構成された第2判定モジュールとをさらに含む、請求項7または請求項8または請求項9に記載の装置。
  11. 前記現フレーム画像の第1ポーズ、第2ポーズまたは第3ポーズは、現フレーム画像運動の回転角度と並進量を含む、請求項10に記載の装置。
  12. 初期値において、収集されたQRコード情報を識別することにより、グローバル座標の初期値を決定するように構成された初期化モジュールをさらに含む、請求項7から請求項11の任意の一つに記載の装置。
  13. 少なくとも1つのプロセッサーと、
    少なくとも1つのプログラムを格納するように構成されたメモリとを含み、
    前記少なくとも1つのプログラムが、前記少なくとも1つのプロセッサーによって実行されると、請求項1から請求項6のいずれか一項に記載の地面テクスチャ画像に基づくナビゲーション方法を実現する、電子デバイス。
  14. コンピュータプログラムを格納し、前記プログラムがプロセッサーによって実行される時に、請求項1から請求項6の任意の一つに記載の地面テクスチャ画像に基づくナビゲーション方法を実現する、コンピュータ可読記憶媒体。
JP2020560540A 2018-10-19 2019-07-29 地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体 Active JP6921341B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201811220749.1A CN109556596A (zh) 2018-10-19 2018-10-19 基于地面纹理图像的导航方法、装置、设备及存储介质
CN201811220749.1 2018-10-19
PCT/CN2019/098089 WO2020078064A1 (zh) 2018-10-19 2019-07-29 基于地面纹理图像的导航方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
JP2021509215A true JP2021509215A (ja) 2021-03-18
JP6921341B2 JP6921341B2 (ja) 2021-08-18

Family

ID=65865010

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020560540A Active JP6921341B2 (ja) 2018-10-19 2019-07-29 地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体

Country Status (4)

Country Link
US (1) US11644338B2 (ja)
JP (1) JP6921341B2 (ja)
CN (1) CN109556596A (ja)
WO (1) WO2020078064A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109556596A (zh) * 2018-10-19 2019-04-02 北京极智嘉科技有限公司 基于地面纹理图像的导航方法、装置、设备及存储介质
DE102018219602A1 (de) * 2018-11-15 2020-05-20 Robert Bosch Gmbh Verfahren zum Erkennen von Kartenfehlern
JP7220591B2 (ja) * 2019-03-07 2023-02-10 三菱重工業株式会社 自己位置推定装置、自己位置推定方法及びプログラム
CN111951198B (zh) * 2019-05-16 2024-02-02 杭州海康威视数字技术股份有限公司 一种无人机航拍图像拼接优化的方法、装置和存储介质
CN112634395B (zh) * 2019-09-24 2023-08-25 杭州海康威视数字技术股份有限公司 一种基于slam的地图构建方法及装置
CN110796118B (zh) * 2019-11-12 2022-06-10 深圳创维数字技术有限公司 获取运输设备的姿态调整参数方法、运输设备及存储介质
CN112815923B (zh) * 2019-11-15 2022-12-30 华为技术有限公司 视觉定位方法和装置
CN111145634B (zh) * 2019-12-31 2022-02-22 深圳市优必选科技股份有限公司 一种校正地图的方法及装置
CN111325712B (zh) * 2020-01-20 2024-01-23 北京百度网讯科技有限公司 用于检测图像有效性的方法及装置
CN111275763B (zh) * 2020-01-20 2023-10-13 深圳市普渡科技有限公司 闭环检测系统、多传感器融合slam系统及机器人
CN111415390B (zh) * 2020-03-18 2023-05-09 上海懒书智能科技有限公司 一种基于地面纹理的定位导航方法及装置
CN111444852A (zh) * 2020-03-27 2020-07-24 深圳市银星智能科技股份有限公司 一种回环检测方法、装置及机器人
CN113835422B (zh) * 2020-06-08 2023-09-29 杭州海康机器人股份有限公司 一种视觉地图构建方法和移动机器人
CN111882494B (zh) * 2020-06-28 2024-05-14 广州文远知行科技有限公司 位姿图处理方法、装置、计算机设备和存储介质
CN111950597B (zh) * 2020-07-15 2022-10-18 重庆邮电大学 机器人基于原图光照不变图词袋模型改进的闭环检测方法
CN112070810B (zh) * 2020-08-31 2024-03-22 安徽爱观视觉科技有限公司 定位方法、可移动设备及计算机可读存储介质
CN113763466B (zh) * 2020-10-10 2024-06-14 北京京东乾石科技有限公司 一种回环检测方法、装置、电子设备和存储介质
CN114577195A (zh) * 2020-11-30 2022-06-03 广东博智林机器人有限公司 防水卷机器人的铺贴方法、装置、电子设备及存储介质
CN112462784B (zh) * 2020-12-03 2024-06-14 上海擎朗智能科技有限公司 机器人位姿确定方法、装置、设备和介质
CN112686933B (zh) * 2020-12-29 2024-03-08 中国科学院长春光学精密机械与物理研究所 基于改进互功率谱的星上图像配准叠加增强方法及系统
CN112668653A (zh) * 2020-12-30 2021-04-16 北京百度网讯科技有限公司 基于激光雷达地图的回环检测方法、装置、设备及介质
CN113029168B (zh) * 2021-02-26 2023-04-07 杭州海康机器人股份有限公司 基于地面纹理信息的地图构建方法和系统及移动机器人
CN113298014B (zh) * 2021-06-09 2021-12-17 安徽工程大学 基于逆向索引关键帧选取策略的闭环检测方法、存储介质及设备
CN113503883B (zh) * 2021-06-22 2022-07-19 北京三快在线科技有限公司 采集用于构建地图的数据的方法、存储介质及电子设备
KR20230013883A (ko) * 2021-07-20 2023-01-27 삼성전자주식회사 Slam 기반의 전자 장치 및 그 동작 방법
CN115700507B (zh) * 2021-07-30 2024-02-13 北京小米移动软件有限公司 地图更新方法及其装置
CN113884025B (zh) * 2021-09-16 2024-05-03 河南垂天智能制造有限公司 增材制造结构光回环检测方法、装置、电子设备和存储介质
CN114299192B (zh) * 2021-12-23 2022-12-27 北京百度网讯科技有限公司 定位建图的方法、装置、设备和介质
CN114845137B (zh) * 2022-03-21 2023-03-10 南京大学 一种基于图像配准的视频光路重建方法及其装置
CN114415698B (zh) * 2022-03-31 2022-11-29 深圳市普渡科技有限公司 机器人、机器人的定位方法、装置和计算机设备
CN114742884B (zh) * 2022-06-09 2022-11-22 杭州迦智科技有限公司 一种基于纹理的建图、里程计算、定位方法及系统
CN116758058B (zh) * 2023-08-10 2023-11-03 泰安市中心医院(青岛大学附属泰安市中心医院、泰山医养中心) 一种数据处理方法、装置、计算机及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018562A (ja) * 2004-07-01 2006-01-19 Sharp Corp 自走式移動車
JP2010117847A (ja) * 2008-11-12 2010-05-27 Toyota Motor Corp 移動体、移動体制御システム及び移動体の制御方法
JP5147015B2 (ja) * 2008-10-24 2013-02-20 清水建設株式会社 移動体位置検出システム
JP2017111688A (ja) * 2015-12-17 2017-06-22 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
US20170213352A1 (en) * 2016-01-26 2017-07-27 Hon Hai Precision Industry Co., Ltd. Automatic guiding system for analyzing ground texture and method for the same
CN107160395A (zh) * 2017-06-07 2017-09-15 中国人民解放军装甲兵工程学院 地图构建方法及机器人控制系统

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5147015B1 (ja) 1969-03-20 1976-12-13
CN100541121C (zh) * 2007-01-18 2009-09-16 上海交通大学 基于地面纹理的智能车视觉装置及其全局定位方法
US9147260B2 (en) * 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
CN104848858B (zh) * 2015-06-01 2018-07-20 北京极智嘉科技有限公司 二维码以及用于机器人的视觉-惯性组合导航系统及方法
CN106996781A (zh) * 2016-01-26 2017-08-01 鸿富锦精密工业(深圳)有限公司 分析地面纹理并结合资料记录的自动行走建议系统及方法
CN107662875B (zh) * 2016-07-29 2021-07-06 奥的斯电梯公司 乘客运输机的梯级与梳齿板的啮合状态监检测
CN106485744B (zh) * 2016-10-10 2019-08-20 成都弥知科技有限公司 一种同步定位与地图构建方法
CN106996777B (zh) * 2017-04-21 2019-02-12 合肥井松自动化科技有限公司 一种基于地面图像纹理的视觉导航方法
CN107392964B (zh) * 2017-07-07 2019-09-17 武汉大学 基于室内特征点和结构线结合的室内slam方法
CN107909612B (zh) * 2017-12-01 2021-01-29 驭势科技(北京)有限公司 一种基于3d点云的视觉即时定位与建图的方法与系统
CN108108764B (zh) * 2017-12-26 2021-12-24 东南大学 一种基于随机森林的视觉slam回环检测方法
CN110462683B (zh) * 2018-03-06 2022-04-12 斯坦德机器人(深圳)有限公司 紧耦合视觉slam的方法、终端及计算机可读存储介质
US10636114B2 (en) * 2018-08-04 2020-04-28 Beijing Jingdong Shangke Information Technology Co., Ltd. System and method for scan-matching oriented visual slam
CN109556596A (zh) * 2018-10-19 2019-04-02 北京极智嘉科技有限公司 基于地面纹理图像的导航方法、装置、设备及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018562A (ja) * 2004-07-01 2006-01-19 Sharp Corp 自走式移動車
JP5147015B2 (ja) * 2008-10-24 2013-02-20 清水建設株式会社 移動体位置検出システム
JP2010117847A (ja) * 2008-11-12 2010-05-27 Toyota Motor Corp 移動体、移動体制御システム及び移動体の制御方法
JP2017111688A (ja) * 2015-12-17 2017-06-22 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
US20170213352A1 (en) * 2016-01-26 2017-07-27 Hon Hai Precision Industry Co., Ltd. Automatic guiding system for analyzing ground texture and method for the same
JP2017134832A (ja) * 2016-01-26 2017-08-03 鴻海精密工業股▲ふん▼有限公司 自動走行提案システム及び方法
CN107160395A (zh) * 2017-06-07 2017-09-15 中国人民解放军装甲兵工程学院 地图构建方法及机器人控制系统

Also Published As

Publication number Publication date
CN109556596A (zh) 2019-04-02
JP6921341B2 (ja) 2021-08-18
US20200333162A1 (en) 2020-10-22
US11644338B2 (en) 2023-05-09
WO2020078064A1 (zh) 2020-04-23

Similar Documents

Publication Publication Date Title
JP6921341B2 (ja) 地面テクスチャ画像に基づくナビゲーション方法、装置、デバイス、および記憶媒体
JP6896077B2 (ja) 車両自動パーキングシステム及び方法
CN108447097B (zh) 深度相机标定方法、装置、电子设备及存储介质
Lyu et al. Robot path planning by leveraging the graph-encoded Floyd algorithm
Kümmerle et al. Simultaneous parameter calibration, localization, and mapping
US11972578B2 (en) Method and system for object tracking using online training
CN107784671A (zh) 一种用于视觉即时定位与建图的方法与系统
WO2021098802A1 (en) Object detection device, method, and systerm
US20220230350A1 (en) Position recognition method and system based on visual information processing
Li et al. VNLSTM-PoseNet: A novel deep ConvNet for real-time 6-DOF camera relocalization in urban streets
WO2023082985A1 (zh) 用于生成电子设备的导航路径的方法和产品
Tseng et al. A new architecture for simultaneous localization and mapping: an application of a planetary rover
CN111812978A (zh) 一种多无人机协作slam方法与系统
Hutchcroft et al. CoVisPose: Co-visibility pose transformer for wide-baseline relative pose estimation in 360∘ indoor panoramas
CN114091515A (zh) 障碍物检测方法、装置、电子设备和存储介质
Jin et al. 3D multi-object tracking with boosting data association and improved trajectory management mechanism
de la Puente et al. Feature based graph SLAM with high level representation using rectangles
CN116523957A (zh) 一种多目标跟踪方法、系统、电子设备及存储介质
CN110969138A (zh) 人体姿态估计方法及设备
Shen et al. A real-time siamese tracker deployed on UAVs
CN110853098A (zh) 机器人定位方法、装置、设备及存储介质
Chen et al. Ceb-map: Visual localization error prediction for safe navigation
Choi et al. An efficient ceiling-view SLAM using relational constraints between landmarks
Atoui et al. Visual-based semantic simultaneous localization and mapping for Robotic applications: A review
Chen et al. Pose estimation for autonomous grasping with a robotic arm system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200721

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20201225

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210628

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210727

R150 Certificate of patent or registration of utility model

Ref document number: 6921341

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250