JP2020537119A - 画像及び電波単語に基づく移動機器の改良された位置認識 - Google Patents

画像及び電波単語に基づく移動機器の改良された位置認識 Download PDF

Info

Publication number
JP2020537119A
JP2020537119A JP2020516684A JP2020516684A JP2020537119A JP 2020537119 A JP2020537119 A JP 2020537119A JP 2020516684 A JP2020516684 A JP 2020516684A JP 2020516684 A JP2020516684 A JP 2020516684A JP 2020537119 A JP2020537119 A JP 2020537119A
Authority
JP
Japan
Prior art keywords
mobile device
radio
word
reference position
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020516684A
Other languages
English (en)
Other versions
JP6991317B2 (ja
Inventor
ノバコフスキ,マチュー
ジョリ,シリル
フレ,スカーレット
ガルシア,ニコラ
ムータルド,ファビアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aldebaran SAS
Original Assignee
SoftBank Robotics Europe SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Robotics Europe SAS filed Critical SoftBank Robotics Europe SAS
Publication of JP2020537119A publication Critical patent/JP2020537119A/ja
Application granted granted Critical
Publication of JP6991317B2 publication Critical patent/JP6991317B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/029Location-based management or tracking services
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • G01C21/206Instruments for performing navigational calculations specially adapted for indoor navigation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0252Radio frequency fingerprinting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/024Guidance services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/33Services specially adapted for particular environments, situations or purposes for indoor environments, e.g. buildings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W64/00Locating users or terminals or network equipment for network management purposes, e.g. mobility management
    • H04W64/003Locating users or terminals or network equipment for network management purposes, e.g. mobility management locating network equipment

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Position Fixing By Use Of Radio Waves (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)

Abstract

本発明は、視覚的情報と電波情報の組み合わせを用いてトポロジカルマップにおける自身の位置を認識可能な移動機器(200)に関する。移動機器(200)は、自身の環境の画像(310)を取得し、受信可能な電波送信機(320)を検知して、移動機器(200)の現在位置に存在する視覚的単語(331)及び電波単語(332)を決定する観測ベクトル(330)を構築する。次いで、当該観測ベクトルと基準位置に対応する基準ベクトルとを比較し、視覚的単語と電波単語との相関に基づいて、複数の基準位置のうち移動機器(200)が存在する位置を識別する。

Description

本発明は、移動機器の位置認識の分野に関する。より具体的には、取り得る基準位置の集合における移動機器の位置認識の判定に関する。
移動機器、例えばロボットの屋内での位置認識に対するニーズが、人間と対話する手頃な価格の移動ロボットが大量に配備されるにつれて高まっている。これにより、ロボットが自身の環境をマッピングして、自身が当該環境内を移動する際に自身の居場所を常に把握可能にする低コストの解決策に対するニーズが高まる。しかし、現行の解決策の大多数は、レーザー測距器等の高価なセンサの使用に依存するものであり、特定のプラットフォーム向けに設計されている。
Cummins,M.,&Newman,P.(2008).FAB−MAP:Probabilistic localization and mapping in the space of appearance.The International Journal of Robotics Research,27(6),647−665 Cummins,M.,&Newman,P.(2011).Appearance−only SLAM at large scale with FAB−MAP 2.0.The International Journal of Robotics Research,30(9),1100−1123 Sivic,J.,&Zisserman,A.(2003,October).Video Google:A text retrieval approach to object matching in videos.In Computer Vision,2003.Proceedings.Ninth IEEE International Conference on(p.1470).IEEE Schwiegelshohn,F.,Nick,T.,&Goetze,J.(2013,March).Localization based on fusion of rfid and stereo image data.In Positioning Navigation and Communication(WPNC),2013 10th Workshop on(pp.1−6).IEEE Quigley,M.,Stavens,D.,Coates,A.,&Thrun,S.(2010,October).Sub−meter indoor localization in unmodified environments with inexpensive sensors.In Intelligent Robots and Systems(IROS),2010 IEEE/RSJ International Conference on(pp.2039−2046).IEEE Nowicki,M.(2014).WiFi−guided visual loop closure for indoor navigation using mobile devices.Journal of Automation Mobile Robotics and Intelligent Systems,8(3),10−18 Biswas,J.,&Veloso,M.(2013,June).Multi−sensor mobile robot localization for diverse environments.In Robot Soccer World Cup(pp.468−479).Springer,Berlin,Heidelberg
文献「Cummins,M.,&Newman,P.(2008).FAB−MAP:Probabilistic localization and mapping in the space of appearance.The International Journal of Robotics Research,27(6),647−665」及び「Cummins,M.,&Newman,P.(2011).Appearance−only SLAM at large scale with FAB−MAP 2.0.The International Journal of Robotics Research,30(9),1100−1123」に、画像センサの利用に基づく低コストの位置認識解決策を提供するFABMAP(外観に基づく高速マッピングアルゴリズム)アルゴリズムが開示されている。
FABMAPアルゴリズムは環境を一連のトポロジカルノードに分割して、各ノードが1個以上の視覚的観測に関連付けられた位置Lを構成するようにする。各位置に関連付けられた画像は、例えばSivic,J.,&Zisserman,A.(2003,October).Video Google:A text retrieval approach to object matching in videos.In Computer Vision,2003.Proceedings.Ninth IEEE International Conference on(p.1470).IEEEに開示されているような画像に現れた視覚的単語を判定すべく解析される。従って各視覚的単語がある位置に存在するか否かを示すバイナリ値を含む基準ベクトルが各位置に対して決定される。
ロボットがカメラを用いて画像を取得する場合、FABMAPアルゴリズムは、どの視覚的単語が画像に含まれるかを判定すべく画像を解析する。次いで各バイナリ値が画像に視覚的単語が存在するか否かを決定する複数のバイナリ値を含む観測ベクトルを構築して、観測ベクトルと、各位置に関連付けられた基準ベクトルとを比較することにより、各位置に存在するロボットの確率を計算する。FABMAPは、最も高い存在確率を有する位置にロボットが存在すると判定する。
FABMAPのような視覚的特徴に基づく位置認識アルゴリズムは大多数のロボットに存在する手頃な価格のセンサを用いるため、精密な位置認識解決策を手頃なコストで提供する。しかし、これらのアルゴリズムは不完全知覚問題に直面する。この問題は、2個の異なる位置が類似した外観及び視覚的特徴を共有する場合に生じる。この問題は往々にして反復的環境、例えばオフィス、駐車場、又はより一般的に規則的な視覚的パターンにより特徴付けられる任意の屋内環境で直面する。この問題は、多くの偽位置認識を生じさせ、従って視覚的特徴に基づく位置認識アルゴリズムの確実性が低下する。
昨今の研究は、位置認識を向上させるべくWi−Fiと視覚的データの融合を指向している。例えば、Schwiegelshohn,F.,Nick,T.,&Goetze,J.(2013,March).Localization based on fusion of rfid and stereo image data.In Positioning Navigation and Communication(WPNC),2013 10th Workshop on(pp.1−6).IEEE及びQuigley,M.,Stavens,D.,Coates,A.,&Thrun,S.(2010,October).Sub−meter indoor localization in unmodified environments with inexpensive sensors.In Intelligent Robots and Systems(IROS),2010 IEEE/RSJ International Conference on(pp.2039−2046).IEEEはWi−Fi及び視覚的位置認識を融和すべく粒子フィルタを用いる。しかし、これらの解決策で粒子フィルタが収束するのは運動を伴う場合のみである。
Nowicki,M.(2014).WiFi−guided visual loop closure for indoor navigation using mobile devices.Journal of Automation Mobile Robotics and Intelligent Systems,8(3),10−18は、Wi−Fiデータから取り得る位置の集合を決定し、その上で視覚的位置認識を実行する。Biswas,J.,&Veloso,M.(2013,June).Multi−sensor mobile robot localization for diverse environments.In Robot Soccer World Cup(pp.468−479).Springer,Berlin,Heidelbergは、視覚又はWi−Fiデータのいずれかに基づいて位置認識を実行し、現在位置の推定の信頼性が最も高いセンサを選択する。しかし、これら二つの解決策は、1個のセンサが誤検知した場合に重大な影響を受ける。
従って、従来技術の解決策はいずれも確実な位置認識解決策を手頃なコストで提供しないため、広く入手可能且つ手頃な価格のセンサを用いて、どのような状況でも確実且つ信頼性が高い位置認識を行いながら、屋内の環境で自身の位置を精密に認識できる移動機器に対するニーズがある。
この目的のため、本発明が開示する移動機器は、1個以上のデジタル画像センサと、電波受信機と、視覚的単語の集合、電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合、及び対応する基準位置における視覚的単語及び電波単語の有無を各々決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合を保存する1個以上のメモリへの通信リンクと、前記1個以上のデジタル画像センサから移動機器の環境の画像を取得する適合機能、前記電波受信機を用いて受信可能な電波送信機を検知する適合機能、画像内における視覚的単語の有無を決定するバイナリ値、及び電波単語の有無を決定するバイナリ値を含む観測ベクトルを生成する適合機能、及び受信可能な電波送信機内の前記観測ベクトル及び前記基準位置ベクトルに基づいて少なくとも基準位置の集合における移動機器の現在位置を判定する適合機能を含む処理ロジックへの通信リンクを含んでいる。
本出願において、用語「視覚的単語」は、位置認識及び画像解析の分野における通常の意味として理解されたい。従って、視覚的単語は、画像のキーポイントに対応し得る語彙の単語である。
本出願において、用語「電波単語」は、用語「視覚的単語」と同様に、移動機器が受信した電波信号のパターンの特徴付けを可能にする要素を決定する。例えば、電波単語は、電波送信機の識別子により特徴付けることができる。電波単語はまた、電波送信機の識別子と、対応する信号強度の範囲との組み合わせにより決定することができる。Wi−Fi信号を用いる一実施形態において、電波単語は、Wi−Fiシグネチャを用いて検知することができる。例えば、Wi−Fi単語は、アクセスポイントのMACアドレスにより、又はアクセスポイントのMACアドレスとアクセスポイントから受信した信号の強度との組み合わせにより決定することができる。
電波送信機は、自身が発した電波を移動機器の電波受信機が受信し、且つ前記電波を用いて当該電波送信機を識別できるならば「受信可能」と考えられる。
本出願において、処理ロジックは、ソフトウェア命令に従い動作するプロセッサ、プロセッサのハードウェア構成、又はこれらの組み合わせであってよい。本明細書で述べる機能のいずれか又は全てが純然たるハードウェア実装、及び/又はソフトウェア命令に従い動作するプロセッサ、及び/又はソフトウェア命令に従い動作するプロセッサ、及び機械学習エンジン又はニューラルネットワークの構成により実装できる点を理解されたい。処理ロジックはまた、動作を並列に実行するマルチコアプロセッサ、一連のプロセッサ、又はこれらの組み合わせであってよい。ソフトウェア命令のいずれか又は全てが非一時的コンピュータ可読媒体に保存されていてよい点を理解されたい。用語「処理ロジックの適合機能」は、処理ロジックを動作の実行に適合させる任意の手段(例えばハードウェア構成、ソフトウェア命令、機械学習、訓練又はニューラルネットワーク、又は他の任意の適合機能手段或いはこれらの組み合わせ)を指している。
移動機器の位置認識に視覚的単語を用いることで、精密な位置に属するカメラからの画像内の精密な特徴を識別することにより精密な位置認識が可能になる。しかし、全くかけ離れた画像で同一の視覚的単語が検知されることがある。
移動機器の位置認識に電波単語を用いることは、位置が固定された電波送信機で用いられる場合に極めて確実である。
従って、視覚的単語と電波単語の両方を含む観測ベクトル及び基準位置ベクトルに基づく位置認識は、移動機器の動作条件に依らず、電波位置認識の確実性及び視覚的単語の検知精度を同時にもたらす。ところで、視覚的及び電波受信機が手頃な価格且つ大多数の移動機器に共通に使用される設備であるため、本解決策は手頃な価格で実装可能である。
有利な特徴として、移動機器の現在位置を判定する適合機能は、ある基準位置ベクトルに対して、移動機器が対応する基準位置に存在する場合に観測ベクトルを観測する尤度の計算を実行する適合機能を含んでいる。
ロボットが対応する基準位置に存在する場合に観測ベクトルを観測する尤度の計算により、移動機器が各基準位置に存在する場合に観測ベクトルを観測する尤度同士の効果的な比較が可能になる。これは従って、ロボットの現在位置の最適な候補を決定する効率的な仕方を提供する。
有利な特徴として、前記基準位置ベクトルに対する、ロボットが対応する基準位置に存在する場合に観測ベクトルを観測する尤度の前記計算は、観測ベクトルと、基準位置ベクトルと、観測及び基準位置ベクトルの要素の相関木とに基づいている。
観測ベクトルが各基準位置で観測される尤度は、単純な比較、例えば観測及び基準位置ベクトルのバイナリ値に共通の正値の個数を数えることにより得られる。しかし、これは視覚的及び電波単語の間に存在する相関を表すものではない。逆に、観測及び基準位置ベクトルの要素の相関木を用いることで、学習フェーズ中に同一ベクトルで生じる単語間、例えば視覚的及び/又は電波単語同士の相関を考慮しながら、観測ベクトルを観測する尤度を計算することが可能になる。
有利な特徴として、処理ロジックは更に、移動機器の現在位置が前記基準位置のうち1個に存在するか否かを判定する前記適合機能により、当該移動機器が前記基準位置のいずれにも存在しない判定された場合、基準位置の集合に、当該観測ベクトルを基準位置ベクトルとして有する更なる基準位置を追加する適合機能を含んでいる。
これは、移動機器が以前に訪れていない位置に新たな位置ベクトルを追加するものである。
時間経過に伴い、当該位置の集合は、関連する基準ベクトルに関連付けられた移動機器が既に訪れた全ての位置を含むようなる。
有利な特徴として、電波単語の集合は、前記環境の探索中に電波送信機の検知を含む単一の訓練フェーズ中に構築される。
上記により、検知して電波単語の集合に組み込むことができる電波単語のより微細な制御が可能になる。例えば、移動機器の環境を、当該環境の固定電波送信機のみが受信可能である夜間に探索することができる。従って固定電波送信機のみを位置認識に用いる。これにより位置認識がより精密且つ確実になる。
有利な特徴として、処理ロジックは更に、前記電波受信機を用いて受信可能な電波送信機を検知する前記適合機能が、どの電波単語にも関連付けられていない受信可能な電波送信機を検知した場合、前記受信可能な電波送信機に関連付けられた電波単語を前記電波単語の集合に追加する適合機能を含んでいる。
上記により、移動機器は、訓練フェーズを必要とせずに位置認識を開始することができる。更に、対応する電波送信機が検知される限り、電波単語を追加することができる。
有利な特徴として、前記受信可能な電波送信機に関連付けられた電波単語を追加する前記適合機能は、現在位置に対応する基準ベクトルにおける前記電波単語の存在を示すバイナリ値と、他の基準位置の各々に前記電波単語が存在しないことを示すバイナリ値とを追加すべく基準位置ベクトルを変更する適合機能を含んでいる。
新たな電波単語が識別された場合、当該単語が以前に検知されていないため、以前に追加された全ての基準位置には存在しないが、現在位置に存在すると仮定できる。従って、この新たに追加された電波単語が現在位置に存在し、且つ以前に追加された基準位置には存在しないことを示すことで、厳密であると推定される追加的な位置情報が追加され、従って将来の位置認識がより確実になる。
有利な特徴として、移動機器の現在位置を判定する前記適合機能は、各基準位置に対して、移動機器が前記基準位置に存在する場合に、前記基準位置ベクトル及び、観測ベクトルと基準ベクトルの要素同士の相関に基づいて、観測ベクトルを観測する尤度を計算する適合機能を含んでいる。
観測又は基準位置ベクトルの要素の相関は、ある位置又は観測に同時に存在する視覚的単語及び/又は電波単語を示す。当該相関は、移動機器が存在し得る位置をより確実且つ精密に示すものである。従って、このような相関同士を比較することにより移動機器の位置認識の信頼性及び効率が向上する。
有利な特徴として、各基準位置に対して、移動機器が前記基準位置に存在する場合に観測ベクトルを観測する尤度を計算する前記適合機能は、視覚的単語に関連付けられた要素と、電波単語に関連付けられた要素との相関を別々に計算する適合機能を含んでいる。
視覚的単語及び電波単語に特定の相関があり得る。視覚的単語の有無と電波単語の有無のバイナリ値表現の相関を別々に比較することで、より精密な相関を解析することが可能になり、移動機器の位置認識の信頼性が向上する。
有利な特徴として、移動機器の現在位置を判定する前記適合機能は、少なくとも当該電波単語の集合から無作為に生成された受信可能な電波送信機の人為的なリストを用いて構築された人為的な基準位置ベクトルの集合に基づいて、移動機器が未知の位置に存在する場合に観測ベクトルを観測する確率を計算する適合機能を含んでいる。
移動機器の環境に存在する電波送信機を含む電波送信機の無作為に生成されたリストを用いることで、人為的ではあるが電波単語の集合から得た電波単語を含み、従って移動機器が人為的な位置に存在する場合の人為的なユースケースにおいて観測ベクトルを観測する確率が非ゼロである電波単語を含む観測結果を人為的に生成する効率的な仕方が得られる。
有利な特徴として、電波単語は更に、対応する電波送信機から受信した信号強度の範囲により決定され、観測ベクトルを生成する前記適合機能は、対応する電波送信機から電波受信機が対応する信号強度の信号を受信したならば電波単語が観測ベクトルに存在することを示す適合機能を含んでいる。
電波送信機から受信した信号の強度は、移動機器から電波送信機までの距離に少なくとも部分的に依存するため、移動機器の位置認識を推測可能にする。従って、電波送信機から受信した信号の強度を用いて電波単語を構築することで移動機器の位置認識の精度が高まる。
上記は電波単語の有無の相関を用いる場合に更に当てはまる。実際、電波送信機と当該電波送信機から受信した信号の強度の両方を表す電波単語との相関により、電波送信機からの移動機器の相対距離を高い信頼性で推測すること、従って移動機器の位置認識を高い信頼性で推測することができる。
有利な特徴として、移動機器の現在位置を判定する前記適合機能は更に、前記観測ベクトル及び前記基準位置ベクトルに基づいて移動機器が各基準位置に存在する確率を計算し、移動機器の現在位置が最も高い確率を有する基準位置であると判定する適合機能を含んでいる。
どの基準位置ベクトルも観測ベクトルに合致しないケースでは、観測ベクトルと対応する基準位置ベクトルの比較に基づいて移動機器の現在位置が基準位置に合致する確率を計算し、確率が最も高い位置を選択して、移動機器の実際の位置になる可能性が最も高い基準位置を効果的に比較できるようにする。
有利な特徴として、移動機器が各基準位置に存在する確率を計算する前記適合機能は更に、移動機器が未知の位置に存在する確率を、移動機器が基準位置に存在する確率と移動機器が未知の位置に存在する確率の合計が1に等しくなるように計算する適合機能を含んでいる。
移動機器が以前に自身の環境全体を探索していないケースでは、移動機器は未知の位置に存在し得る。従って、移動機器が未知の位置に存在する確率を計算することで、移動機器が複数の基準位置のうち1個、又は1個の新たな未知の位置に存在する可能性が高いか否かを判定し、判定に従い基準位置の集合に新たな位置を追加することができる。
本発明はまた、移動機器の環境の画像を、当該移動機器に搭載された1個以上のデジタル画像センサから取得するステップと、前記移動機器に搭載された電波受信機を用いて受信可能な電波送信機を検知するステップと、視覚的単語の集合、電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合、及び対応する基準位置における視覚的単語及び電波単語の有無を各々決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合を保存するメモリにアクセスするステップと、画像内における視覚的単語の有無を決定するバイナリ値、及び受信可能な電波送信機内における電波単語の有無を決定するバイナリ値を含む観測ベクトルを生成するステップと、前記観測ベクトル及び前記基準位置ベクトルに基づいて移動機器の現在位置が前記基準位置の1個に存在するか否かを判定するステップとを含む方法を開示する。
本発明はまた、移動機器の環境の画像を、当該移動機器に搭載された1個以上のデジタル画像センサから取得し、前記移動機器に搭載された電波受信機を用いて受信可能な電波送信機を検知し、視覚的単語の集合、電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合、及び対応する基準位置における視覚的単語及び電波単語の有無を各々決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合を保存するメモリにアクセスし、画像内における視覚的単語の有無を決定するバイナリ値、及び受信可能な電波送信機を用いて電波単語の有無を決定するバイナリ値を含む観測ベクトルを生成して、前記観測ベクトル及び前記基準位置ベクトルに基づいて移動機器の現在位置が前記基準位置の1個に存在するか否かを判定すべく構成されたコンピュータコード命令を含むコンピュータプログラム製品を開示する。
説明目的でのみ提供する多くの例示的な実施形態及び添付の図面の以下の記述から本発明に対する理解が深まり、各種の特徴及び利点が想起されよう。
本発明の多くの実施形態におけるロボットの物理アーキテクチャを示す。 本発明の多くの実施形態における移動機器の機能アーキテクチャを示す。 本発明の多くの実施形態におけるデータ構造に対する動作を表すフロー図を示す。 本発明による移動機器の環境のマップ及び2個の画像を示す。 本発明及び従来技術による視覚及び/又はWi−Fi情報の組み合わせを用いる移動機器位置認識方法の位置認識エラー率の二例を示す。 本発明及び従来技術による視覚及び/又はWi−Fi情報の組み合わせを用いる移動機器位置認識方法の位置認識エラー率の二例を示す。 本発明による方法の一例を示す。
図1に、本発明の多くの実施形態におけるロボットの物理アーキテクチャを示す。
ロボット100が、本発明を実装可能な移動機器の例としてのみ挙げられている点に注意されたい。ロボット100は人型ロボットであるが、本発明は、当該ロボットが自身の環境内で移動して画像を取得することができ、且つWi−Fiモジュールを備えている前提で、ペットロボット、又は車輪付きロボット等、他の種類のロボットに実装可能である。本発明はまた、画像取得機能、電波受信機能及び計算機能へのリンクを含む他の種類の移動機器に適用可能である。例えば、本発明はドローン、スマートフォン又は自動運転車に適用可能である。
図中のロボットの下肢は、歩行機能を有していないが、置かれている表面上で回転する基台140に乗って任意の方向に移動可能である。本発明は、歩行に適したロボットに容易に実装可能である。例えば、当該ロボットは、約120cmの高さ110、約65cmの奥行き120、及び約40cmの幅130を有していてよい。特定の実施形態において、本発明のロボットはタブレット150を有し、これを介して自身の環境にメッセージ(音声、映像、ウェブページ)を伝えたり、又はタブレットの触覚インターフェースを介してユーザーからの入力を受信したりすることができる。タブレットのプロセッサに加えて、本発明のロボットもまた、例えばIntel(商標)社のATOM(商標)Z530であってよい自身のマザーボードのプロセッサを用いる。本発明のロボットはまた、有利な特徴としてマザーボード間のデータフローの処理専用のプロセッサを含み、当該ボードは、本発明の特定の実施形態において、四肢の関節及びロボットが車輪として用いるボールのモーターを制御する磁気回転エンコーダ(MRE)及びセンサを搭載している。モーターは、関節を確実に動かすのに必要な最大トルクの大きさに応じて異なる種類であってよい。例えば、e−minebea(商標)社のブラシDCコアレスモーター(例:SE24P2CTCA)、又はMaxon(商標)社のブラシレスDCモーター(例:EC45_70)を用いてもよい。MREは好適には、精度が12又は14ビットのホール効果を用いる種類のものである。
本発明の複数の実施形態において、図1に示すロボットはまた、各種のセンサを含んでいる。そのいくつかはロボットの位置及び移動の制御に用いる。これは例えばロボットの胴体にあって3軸ジャイロスコープ及び3軸加速度計を含む慣性装置のケースである。ロボットはまた、毎秒5フレームでの5メガピクセルの解像度且つ水平方向に約57°及び垂直方向に44°の視野(FOV)を有するShenzen V−Vision Technology Ltd(商標)の(OV5640)等のシステムオンチップ(SOC)型のロボットの前部(最上部及び最下部)の2個の2DカラーRGBカメラ160を含んでいてよい。毎秒20フレームで0,3メガピクセルの解像度且つ2Dカメラと同一のFOVを有するASUS XTION(商標)SOCセンサ等、1個の3Dセンサ170もロボットの目の後ろに含まれていてよい。本発明のロボットはまた、自身の環境内の物体/生体との相対位置を検知できるように、レーザー線発生器を、例えばヘッド180aに3個且つ基台180bに3個備えていてよい。本発明の他の実施形態において、ロボットは基台にレーザー線発生器しか有していない。本発明のロボットはまた、自身の環境内で音声を検知できるようにマイクロフォンを含んでいてよい。一実施形態において、1kHzで300mV/Pa±3dBの感度及び300Hz〜12kHz(1kHzに対して−10dB)の周波数範囲を有する4個のマイクロフォンをロボットの頭部に埋め込むことができる。本発明のロボットはまた、自身の環境内に存在する物体/人間までの距離を測定すべく、恐らくは基台の前面及び背面に配置された2個のソナーセンサ190を含んでいてよい。
ロボットはまた、人間との対話を可能にすべく自身の頭部及び手に触覚のセンサを備えていてよい。また、自身の移動経路で遭遇する障害物を検知すべく自身の基台にバンパー1B0を備えていてよい。
ロボットはまた、予定された軌道と実際の軌道との差を計算することにより、自身の上部部材と自身が触る物体との接触を検知することができる。これを目的とする方法が、同一出願人により同日に出願された欧州特許出願第EP14305848.5号明細書に開示されている。
本発明のロボットはまた、自身の感情を翻訳して自身の環境内の人間と対話すべく、
−例えば自身の目、耳及び両肩にLEDと、
−自身の耳に配置された拡声器を例えば2個含んでいてよい。
本発明のロボットは、イーサネットRJ45又はWiFi802.11接続を介して基地局又は他のロボットと通信することができる。
本発明のロボットに対してリン酸鉄リチウム電池により約400Whのエネルギーを供給することができる。ロボットは、自身が備える電池の種類に適合された充電ステーションにアクセスすることができる。
ロボットの位置/移動は自身のモーターにより、センサの測定の観点から、各四肢により画定されるチェーン及び各四肢の終端で画定されるエフェクタを起動するアルゴリズムを用いて制御される。
ロボットの計算モジュールは、センサ160、170、180、190、1A0又は1B0から、又は物体と自身の上部部材との接触の評価の結果から、欧州特許出願第EP14305849.3号明細書に開示されているように、自身の環境内の障害物の局所的なマップを計算することができる。
図2に、本発明の多くの実施形態における移動機器の機能アーキテクチャを示す。
移動機器200は1個以上のデジタル画像センサ210を含んでいる。本発明は、いかなる種類のデジタル画像センサにも限定されない。1個以上のデジタル画像センサ210は、任意の種類の公知の画像センサ、例えば半導体電荷結合素子(CCD)、相補型金属酸化物半導体(CMOS)又はN型金属酸化物半導体(NMOS)センサを単独で、又は組み合わせて用いるものであってよい。上述のように、図2はロボットを表しているが、本発明の様々な実施形態によれば、移動機器200は任意の種類の移動機器、例えばロボットであってよい。図1に本発明のロボットの一例を示す。
1個以上の画像センサ210は移動機器の環境の画像を取得する。当該センサは、固定レートで、又は処理ロジック240から要求を受けて画像を取得することができる。
移動機器200は更に、電波受信機220を含んでいる。本発明は、電波送信機を検知して識別できるようにするいかなる種類の電波受信機にも限定されない。例えば、電波受信機220は、Wi−Fiモジュール、Bluetoothモジュール、Zigbeeモジュール、又はこれらの組み合わせであってよい。
移動機器200は更に、1個以上のメモリ230への通信リンクを含んでいる。本発明の様々な実施形態によれば、1個以上のメモリ230は、移動機器200のボード上に埋め込まれていても、無線アクセスされる遠距離装置に配置されていても、又はこれらの組み合わせであってもよい。
1個以上のメモリ230は視覚的単語の集合を保存する。上述のように、視覚的単語は、1個以上の画像センサ210により取得された画像の内容を記述する語彙を提供する。本発明は、画像の内容を記述可能にするいかなる語彙又は視覚的単語の集合にも限定されない。例えば、Sivic,J.,&Zisserman,A.(2003,October).Video Google:A text retrieval approach to object matching in videos.In null(p.1470).IEEEに視覚的単語を適切に決定する方法を開示している。
1個以上のメモリ230は更に電波単語の集合を保存する。本発明の様々な実施形態によれば、電波単語は電波送信機に関する任意のデータにより決定することができる。例えば、電波単語は電波送信機の識別子により決定することができる。電波送信機の識別子は、電波信号を送信した電波送信機を識別可能にする任意の情報であってよい。例えば、電波単語は、Wi−FiアクセスポイントのMACアドレス、ブルートゥース装置のアドレス、又はZigbee装置のアドレスにより決定されていてよい。
本発明の多くの実施形態において、移動機器は単一のプロトコル、例えばWi−Fiアクセスポイント、ブルートゥース装置、又はZigbee装置のみを用いて電波送信機を検知する。本発明の他の実施形態において、移動機器は異なるプロトコル、例えばWi−Fiアクセスポイント、ブルートゥース装置、及びZigbee装置の全てを用いて電波送信機を検知する。上記により、移動機器はより多くの数のソースを使用して自身の位置を認識することができる。このような実施形態において、電波単語はまた、装置のアドレスに加え、使用するプロトコルを決定することができる。本発明の多くの実施形態において、電波単語は、電波送信機の識別子と、移動機器が電波送信機から受信した電波信号の信号強度の範囲との組み合わせにより決定される。これにより、単一の電波送信機、且つ異なる範囲の信号受信に対して、複数の電波単語を決定することが可能になる。本発明の様々な実施形態によれば、任意のスケールの信号強度を用いることができる。例えば、Wi−Fiアクセスポイントに対する電波単語を、Wi−FiアクセスポイントのMACアドレスと、mW(ミリワット)、dBm(ミリワット当たりのデシベル)、又は例えば0〜255の範囲で変動し得るRSSI(受信信号強度指標)スケールで表すWi−Fi信号の強度との組み合わせとして決定することができる。本発明の様々な実施形態によれば、電波送信機の識別子と信号強度範囲の任意の適当な組み合わせを用いることができる。
例えば、Wi−Fiアクセスポイントに対応する電波単語は、[0dBm;−10dBm[の信号強度範囲に対してMACアドレスMにより決定でき、同じWi−Fiアクセスポイントに対する第2の電波単語は、[−10dBm;−20dBm[等の範囲の信号と共に受信した同じMACアドレスMにより決定できる。本発明の多くの実施形態において、信号強度は受信信号強度指標(RSSI)に対応している。
本発明の様々な実施形態によれば、電波単語の集合を多くの異なる仕方で管理することができる。
例えば、電波単語の集合は、移動機器の環境を探索する間における電波送信機の検知を含む単一の訓練フェーズ中に構築できる。本実施形態は例えば、店舗、又はより一般的には屋内商業環境内で移動する移動機器に用いることができる。日中、大勢の人々もまた電波送信機を携帯して当該環境内で移動することができる(これは例えば、人気のWi−Fiホットスポット機能を用いるスマートフォン、又はブルートゥースが起動されたスマートフォンのケースである)。これらの電波送信機は電波単語の集合に、移動又は姿を消す電波送信機に対応する追加的な電波単語を生成することができる。このような集合は位置認識方法の効率を低下させる。この問題を解決すべく、移動機器は、固定電波送信機のみが稼働中の夜間に自身の環境を探索して、これらの固定電波送信機に対応する電波単語のみを電波単語の集合に追加することができる。
本発明の多くの実施形態において、電波単語を、新たな電波送信機が検知される都度追加することができる。
しかし、本発明が上述の実施形態に限定されず、電波単語の集合を管理する任意の適当な方法を用いることができる点に注意されたい。
1個以上のメモリ230は更に、基準位置の集合を保存する。本出願において、各基準位置をLiと表記しており、iは位置の指標である。しかし、本発明は当該表記に限定されず、トポロジカルマップの位置を識別可能にする任意の基準を用いることができる。
1個以上のメモリ230は更に、各位置Liに対して基準位置ベクトルを保存する。基準位置ベクトルは、各位置に対して、どの視覚的単語及び電波単語が基準位置に存在しているか又は存在していないかを決定する。例えば、基準位置ベクトルは、各バイナリ値が視覚的単語又は電波単語の有無を決定する複数のバイナリ値で形成されていてよい。基準位置ベクトルは、位置Liにおける視覚的観測及び電波受信に基づき、観測及び受信結果から当該位置に存在する視覚的単語及び電波単語を判定することにより構築することができる。
各位置は従って、基準位置で実行された1回以上の観測で生成された基準位置ベクトルに関連付けられたトポロジカルノードを形成する。観測は、視覚的観測と電波観測の両方を含んでいる。これら2種類の観測は異なるセンサを用いて実行され、視覚的観測結果は通常、電波観測よりも高いレートで収集される。本発明の様々な実施形態によれば、視覚的及び電波観測は、多くの異なる仕方で1個の基準位置ベクトルに統合することができる。例えば、探査段階中に視覚的観測を直近の電波観測に関連付けることができる。視覚的観測と電波観測の距離は、例えば走行距離により、又は観測のタイムスタンプを比較して時間的に直近の視覚的観測ベクトルを電波観測ベクトルに追加することにより計算することができる。
移動機器200は更に、処理ロジック240への通信リンクを含んでいる。本発明の様々な実施形態によれば、処理ロジック240は移動機器自体に搭載されていても、又は遠隔機械に搭載されてリモートアクセスされてもよい。後者のケースを実行できるのは例えば移動機器が、例えばスマートフォン、サーバ又はパーソナルコンピュータであってよい制御装置から制御される場合である。
処理ロジック240は、前記1個以上のデジタル画像センサから環境の画像を取得する適合機能241を含んでいる。本発明の多くの実施形態において、適合機能241は1個以上のデジタル画像センサ210から周期的に画像を受信する。例えば、適合機能241は毎秒25個の画像を受信することができる。本発明の他の実施形態において、適合機能241は、必要な都度、1個以上の画像センサ210に画像取得する旨のコマンドを送る。移動機器が複数のデジタル画像センサを含む実施形態において、適合機能241は、複数のデジタル画像センサから受信した画像を1個の画像に合成すべく構成することができる。
処理ロジック240は更に、電波受信機220を用いて受信可能な電波送信機を検知する適合機能242を含んでいる。本発明の多くの実施形態において、電波受信機220は、対応するMACアドレス及び信号の受信強度(RSSI)の受信可能な無線アクセスポイントのリストを含むWi−Fiシグネチャを周期的に収集するWi−Fiモジュールである。
処理ロジックは更に、画像内における視覚的単語の有無、及び受信可能な電波送信機を用いて電波単語の有無を決定する観測ベクトルを生成する適合機能243を含んでいる。現在の記述において観測ベクトルを一般にZと表記する。
観測ベクトルは従って、どの視覚的単語及び電波単語が移動機器により自身の現在位置で検知されるかを示す。基準位置ベクトルと同様に、本発明はいかなる形状の観測ベクトルにも限定されず、観測ベクトルは特に、受信可能な電波送信機に従い画像内における各視覚的単語及び各電波単語の有無を示すバイナリ値により形成されていてよい。
視覚的及び電波観測を整合させるべく、視覚的及び電波観測を同一タイムフレーム内で実行することが必要である。本発明の多くの実施形態において、観測ベクトルは、視覚的及び電波観測の取得時間が所定の閾値未満ならば視覚的及び電波観測から形成される。通常、視覚的観測は電波観測よりも高いレートで実行される。本発明の多くの実施形態において、受信可能な電波送信機を示す電波観測は適合機能242により周期的に実行され、観測ベクトルは、各時間ステップで、電波観測及び直近の時点で1個以上の画像センサ210により取得された視覚的観測から生成される。直近の時点で取得された視覚的観測の決定は、例えば視覚的及び電波観測のタイムスタンプを比較することにより実行できる。
視覚的単語の検知は、多くの異なる方法で実行することができる。例えば、Sivic,J.,&Zisserman,A.(2003,October).Video Google:A text retrieval approach to object matching in videos.In Computer Vision,2003.Proceedings Ninth IEEE International Conference on IEEE pp.1470−1477に記述されている単語袋(バッグオブワーズ)方式を用いることができる。本方式は、画像のキーポイントの記述を抽出して、これらの記述を語彙の単語に関連付けるものである。従って、語彙がN個の視覚的単語を含む場合、観測ベクトルZ(及び基準位置ベクトル)は、画像内において対応する視覚的単語の有無を示すN個のバイナリ値を含んでいよう。
本発明の多くの実施形態において、語彙はオフライン学習フェーズから得られ、例えば巨大な画像データベースから抽出されたキーポイント記述子のk平均ないずれのクラスタリング法を用いて構築することができる。データベースは、無作為に選択された画像又は移動機器の環境に類似した画像のいずれからでも形成することができる。例えば、移動機器がオフィス環境で動作することを意図されている場合、視覚的単語の集合は屋内オフィスの画像のデータベースを用いて構築することができる。しかし、本発明は視覚的記述子の語彙を構築するいかなる特定の手段にも限定されず、任意の適当な語彙も用いることができる。オフライン学習フェーズは、多くの異なる装置、例えば移動機器自体、コンピュータ、又はサーバにより実行されてよい。
処理ロジック240は更に、前記観測ベクトル及び前記基準位置ベクトルに基づいて、少なくとも移動機器の基準位置の集合における現在位置を判定する適合機能244を含んでいる。
本発明の多くの実施形態において、最も関連性の高い基準位置が移動機器の現在位置として選択される。
移動機器の現在位置の判定は、多くの異なる仕方で実行することができる。例えば、観測ベクトルを観測する尤度を各基準位置に対して計算することができる。計算は多くの異なる仕方で実行することができる。一般的には、観測ベクトルと基準位置ベクトルとの類似度が高いほど、対応する基準位置に移動機器が存在する可能性が高い。例えば、観測ベクトルと基準位置ベクトルに同時に存在する単語の個数を計算することができ、移動機器の現在位置は、観測ベクトルと共通の単語を最も多く有している基準位置ベクトルが示す基準位置であると判定される。
本発明の多くの実施形態において、適合機能244は、観測の単語間に存在する相関を用いる。例えば、特定の視覚的単語が同時に検知されることが多く、これらの視覚的単語の同時検知はロボットが特定の基準位置に存在し得ることを強く示唆する。同様に、電波単語が近傍に位置する電波送信機に対応し、従って同時に検知されることが多い場合、電波単語間に何らかの相関があると判定できる。
本発明の多くの実施形態において、適合機能244は、各基準位置に対して、観測ベクトル、対応する基準位置ベクトル、及び視覚的及び/又は電波単語の検知同士の相関を示す相関木に基づいて、移動機器が基準位置に存在する場合に観測ベクトルを観測する尤度を計算する。本発明の多くの実施形態において、当該木はChow−Liu木である。図3を参照しながら、そのような検知の一例をより詳細に記述する。
本発明の他の実施形態において、適合機能244は、現在の基準位置がいずれも観測ベクトルに合致しない場合に、移動機器が未知の位置に存在することを検知すべく構成されている。この場合、処理ロジックは更に、現在の観測ベクトルである基準位置ベクトルが示す基準位置を追加する適合機能を含んでいる。
図3に、本発明の多くの実施形態のデータ構造に対する動作を表すフロー図を示す。
図3に関して述べる動作は、例示目的でのみ提供しており、本発明の範囲を一切限定するものではない。図3に示す例は、単語同士の相関を決定するChow−Liu木の使用を前提とし、移動機器が各基準位置に存在する確率を観測ベクトルに基づいて計算する。図3の例において、ロボットは画像とWi−Fiの組み合わせを用いて自身の位置を認識する。従って、図3の例では、電波単語はWi−Fiアクセスポイントのみに関して決定される。上で強調するように、本発明はまた、他の種類の電波送信機にも適用でき、異なる種類の電波送信機は同一の移動機器により検知できる。
図3に示すデータ構造に対する動作は順次的時間ステップで実行することができ、時間ステップをkで表記し、k=1、2、3、...である。
上述のように、画像310は適合機能241により取得され、受信可能な無線アクセスポイントが適合機能242により、例えばWi−Fiシグネチャ320の形式で検知される。
適合機能243は、視覚的単語333の集合から、画像310内に存在する視覚的単語331を識別する。適合機能243は更に、Wi−Fiシグネチャ334内に存在する電波単語332を識別する。最後に、適合機能243は、ステップkにおいて、各視覚的単語及び電波単語の有無を示すバイナリ値を含む観測ベクトルZ330を形成する。
上述のように、本発明の多くの実施形態において、電波単語はWi−FiアクセスポイントのMACアドレスのみにより決定される。この場合、電波単語が存在するのは、対応MACアドレスを有するアクセスポイントがWi−Fiシグネチャ320内に存在する場合である。本発明の他の実施形態において、電波単語は、MACアドレスと信号強度の範囲の両方により特徴付けられる。この場合、電波単語が存在するのは、Wi−Fiシグネチャが、例えばRSSIにより決定されたような対応MACアドレス及び信号強度を有するWi−Fiアクセスポイントを含んでいる場合である。
図3の例において、観測ベクトルZは、視覚的観測ベクトルZvision及びWi−Fi観測ベクトルZWi−Fiの結合から形成される。ベクトルZvisionのサイズは視覚的単語の集合333のサイズに等しく、ベクトルZWi−Fiのサイズは電波単語の集合334内のWi−Fi単語の個数に等しい。
観測ベクトルが得られたならば、適合機能244は、移動機器が位置Lにある場合にベクトルZが観測される確率p(Z│L)を各基準位置Lに対して計算する。当該確率は、語彙の異なる単語同士の相関を求めるChow−Liu木を用いて計算される。本発明の多くの実施形態において、2本の別々のChow−Liu木、すなわち1本が視覚的単語同士の相関を求め、1本が電波単語同士の相関を求めるために用いられる。
本発明の多くの実施形態において、適合機能244はまた、移動機器が未知の位置に存在する場合に観測ベクトルを取得する確率を計算する。「正規化」とも称する当該動作は、観測ベクトルが未知の位置から取得されなかった可能性があることを保証する。これは移動機器が自身の環境を完全には探索していない場合に特に有用である。
上記は、任意の未知世界を形成する現実の位置からの画像のデータベースを用いて、未知世界の基準位置ベクトルの集合を取得すべくこれらの画像内に存在する視覚的単語を検知することにより視覚的単語に対して行うことができる。次いで、未知の位置から観測ベクトルが取得される確率を、各々の未知世界の基準位置ベクトルから観測ベクトルを取得する確率の和として計算することができる。
上述の解決策は、視覚的単語の場合は満足できるものである。実際に、視覚的単語は多くの異なるソース及び位置からの画像に見られる物体又は形状を表している。従って、視覚的単語の集合からのそのような視覚的単語は、任意のソースからの画像内で識別することができるため、未知世界の適切な基準位置ベクトルが得られる。しかし、電波単語に同じ方法を用いるのは効率的でない。実際、電波信号、例えば無作為に収集されたWi−Fiシグネチャは実用に際して、電波送信機の識別子、例えば無作為な場所で収集されたWi−FiMACアドレスは、本質的に、移動機器の環境内で収集された電波送信機の識別子とは異なるため、移動機器の環境に関連する何らかの電波単語を含んでいる可能性はない。
上述の問題を解決すべく、電波単語に関連する未知世界の基準位置ベクトルの集合を、少なくとも電波単語の集合334に基づいて電波単語の無作為分布を生成することにより構築することができる。例えば、Wi−Fiシグネチャで認識されたアクセスポイントの数の正規分布N(μ,σ)を取得すべく、移動機器が自身の環境を探索した際に収集されたWi−Fiシグネチャで認識されたアクセスポイントの数の平均μ及び標準偏差σを計算することが可能である。従って、仮想位置の個数nを、サイズが正規分布N(μ,σ)に従うWi−Fiシグネチャを生成して未知世界に対する人為的基準位置ベクトルを構築するためにWi−Fiシグネチャ内に存在する電波単語を検証することにより決定することができる。本発明の様々な実施形態によれば、Wi−Fiシグネチャは、電波単語の集合334のみに対応する無線アクセスポイント、又は電波単語の集合334に対応する無線アクセスポイントと未知の位置からの無線アクセスポイントとの組み合わせを用いて構築することができる。
正規化の出力に際して、適合機能244は、例えば次式を用いて各位置Lに存在する確率を計算することができる。
Figure 2020537119
ここに、
−Zはステップkにおける観測ベクトル、
−Zはステップkまでの観測ベクトルの集合(逆に、Zk−1はステップk−1までの観測ベクトルの集合)、
−p(Z│L,Zk−1)は、より簡略にp(Z│L)と表記でき、ステップkで位置Lから観測ベクトルを観測する確率、
−p(L│Zk−1)は、以前のステップにおける観測の集合Zk−1に基づいて位置Lに存在する確率であり、この項は従って、以前の位置に関する知識及びトポロジカルノードの関係を用いて現在位置を推測可能にし、
−p(Z│Zk−1)は正規化項とも呼ばれ、以前の観測ベクトルの集合Zk−1に基づいて観測ベクトルZを観測する大域的確率を与える。
上述の正規化ステップの項p(L│Zk−1)及びp(Z│Zk−1)は、例えばCummins,M.,&Newman,P.(2008).FAB−MAP:Probabilistic localization and mapping in the space of appearance.The International Journal of Robotics Research,27(6),647−665及びCummins,M.,&Newman,P.(2011).Appearance−only SLAM at large scale with FAB−MAP 2.0.The International Journal of Robotics Research,30(9),1100−1123に開示されているFABMAPアルゴリズムで用いられている正規化と同様の仕方で計算することができる。
正規化の出力に際して、適合機能344は、観測ベクトルZ及び以前のステップにおける観測ベクトルに基づいて、移動機器が各基準位置L、L...に存在する確率p(L,Z)、p(L,Z)...の集合350を計算する。従って確率が最も高い位置を現在位置として選択することができる。上式の正規化項を用いれば全ての確率の和は1に等しくなる。
確率が最も高い位置として未知の位置が選択されるケースでは、移動機器が以前に探査されていない位置に存在することが分かる。従って、基準位置ベクトルとして現在の観測ベクトルZを有する新たな基準位置を追加することができる。
いくつかのケースにおいて、移動機器が自身の環境の新たな位置を探査した場合、電波単語の集合334に存在しない新たな無線アクセスポイントが受信可能になる。この場合、集合334に存在する電波単語に加えて、Wi−Fiシグネチャ320は新たな無線アクセスポイントを含めることができる。この場合、対応する電波単語を決定して電波単語の集合334に追加することができる。このように全ての基準位置ベクトルを各基準位置における新たに決定された電波単語の有無を決定する新たなバイナリ値により拡張される。移動機器がこの新たな無線アクセスポイントを検知することなく、既に他の基準位置を訪れているため、電波単語が検知された現在位置に存在するが、他の全ての基準位置には存在しないものと仮定できる。従って、新たな電波単語の存在を決定するバイナリ値を現在位置の基準位置ベクトルに追加し、新たな電波単語が存在しないことを決定するバイナリ値を他の全ての基準位置ベクトルに追加することができる。
上述の例は、FABMAPアルゴリズムのフレームワーク内で本発明の実施形態の例示目的のみで与えている。しかし、本発明は上述の例に限定されず、必要ならば視覚的及び/又はWi−Fi単語の決定の適合機能を用いて、例えば任意のトポロジカル位置フレームワークで実施することができる。
図4に、本発明による移動機器の環境のマップ及び2個の画像を示す。
環境400はオフィスビルの床である。トポロジカルノードは、オフィスビル内の多くの位置、例えば第1の位置410及び第2の位置420を画定することができる。画像411は第1の位置410を示し、画像421は第2の位置420を示している。図4に示すように、画像421と422は極めて類似しており、多くの視覚的特徴を共有している。この状況はオフィス環境において極めて一般的である。
しかし、第1の位置410や第2の位置420のような位置を視覚的特徴に基づいて識別することが困難なため、視覚的特徴のみに基づく位置認識の実行が極めて困難になる。
電波送信機から受信された信号は、このような環境における移動機器の位置を正しく識別すべく貴重な推測情報を与えることができる。
例えば、Wi−Fiアクセスポイントは範囲430内で受信可能であり、固定ブルートゥース装置から発せられたブルートゥース信号は範囲440内で受信可能である。従って、移動機器が位置410に存在する場合はWi−Fi無線アクセスポイントのみを検知するのに対し、移動機器が第2の位置420に存在する場合はWi−Fiアクセスポイント及び固定ブルートゥース装置の両方を検知する。この情報は堅牢であってオフィスの壁により遮られない。本発明の移動機器は従って、上で開示したように、当該情報を用いて第1と第2の位置を区別することが可能である。
本発明の多くの実施形態において、電波信号(例えばWi−Fiアクセスポイントから受信した信号のWi−FiシグネチャのRSSI場を通過する)の信号強度を用いることで電波情報の精度を更に高めることができる。例えば、Wi−Fiアクセスポイントからの信号は、範囲431内で−30dBmよりも高い強度で、また範囲431と430の間では−30dBmよりも低い信号強度で受信することができる。従って、−30dBmよりも低いか又は高い強度でWi−Fiアクセスポイントから信号を受信して2個の別々の電波単語を決定することができる。本例において信号は、第1の位置410では−30dBmよりも高い信号強度で、及び第2の位置420では−30dBmよりも低い強度で受信される。従って、当該情報は、第1の位置410と第2の位置420との間における移動機器の位置の更なる区別を可能にする。
図5a及び5bに、本発明及び従来技術による視覚及び/又はWi−Fi情報を用いた移動機器位置認識方法の位置認識エラー率の二例を示す。
図5a及び5bに、移動機器の推定される姿勢(関連付けられたトポロジカルノードに対応)と、移動機器の実際の姿勢(正確な位置に対応)との間の距離dに応じて視覚的情報とWi−Fi情報の組み合わせを用いて、異なる位置認識方法のエラー率(すなわち誤った位置の相対量)をより具体的に示す。図5a、5bに示す例はより具体的には、ロボット位置認識に関するものである。
垂直軸501a及び501bはエラー率を、実験的テスト中の誤った位置認識の数を当該テスト中の位置認識の総数で除算した商として表している。軸501bの方向は軸501aの方向に対して逆向きであり、挿入図570は短い距離及び低いエラー率を拡大表示している。
図5a、5bにおいて、複数の曲線は各々以下を表している。
−曲線510a、510b及び511b:本発明による位置認識方法の距離に応じたエラー率の変化、
−曲線520a、520b及び521b:視覚的位置認識を順次実行し、次いでWi−Fi情報に基づいて位置認識を確認する位置認識方法の距離に応じたエラー率の変化
−曲線530a、530b及び531b:視覚的情報のみに基づく位置認識方法の距離に応じたエラー率の変化、
−曲線540a、540b及び541b:Wi−Fiに基づく位置認識を行い、次いで視覚的情報を用いて当該位置認識の精度を高める位置認識方法の距離に応じたエラー率の変化、
−曲線550a、550b及び551b:Wi−Fiに基づく位置認識と視覚に基づく位置認識を別々に実行し、次いで粒子フィルタを用いて情報を融合する位置認識方法の距離に応じたエラー率の変化、
−曲線560a、560b及び561b:Wi−Fiのみに基づく位置認識方法の距離に応じたエラー率の変化。
図5a、5bは、本発明の位置認識方法が、他の全ての視覚的、Wi−Fi又は混合方法よりも、全ての距離で顕著に良好な位置認識結果をもたらすことを明らかに示している。
図6に、本発明による方法の一例を示す。
方法600は、移動機器の自身の環境における位置を認識する方法である。
方法600は更に、移動機器の環境の画像を、当該移動機器に搭載された1個以上のデジタル画像センサから取得する第1のステップ610を含んでいる。
方法600は更に、前記移動機器に搭載された電波受信機を用いて受信可能な電波送信機を検知する第2のステップ620を含んでいる。
方法600は更に、視覚的単語の集合、1個の電波単語が少なくとも電波送信機の識別子及び、各基準位置に視覚的単語及び電波単語の対応する基準位置における有無を決定するバイナリ値を含む基準位置ベクトルが関連付けられている基準位置の集合により決定されている電波単語の集合を保存しているメモリにアクセスする第3のステップ630を含んでいる。
方法600は更に、画像内における視覚的単語の有無を決定するバイナリ値、及び、受信可能な無線電波送信機を用いて電波単語の有無を決定するバイナリ値を含む観測ベクトルを生成する第4のステップ640を含んでいる。
方法650は更に、前記観測ベクトル及び前記基準位置ベクトルに基づいて移動機器の現在位置が前記基準位置のいずれか1個に存在するか否かを判定する第5のステップを含んでいる。
図1〜4に関して述べてきた全ての実施形態は各々方法600に適用可能である。
上述の例は、本発明の実施形態の非限定的な例として挙げたものである。これらは、以下の請求項により規定される本発明の範囲を一切限定するものではない。

Claims (15)

  1. −1個以上のデジタル画像センサ(210)と、
    −電波受信機(20)と、
    −以下の集合、すなわち
    ・視覚的単語の集合(333)、
    ・電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合(334)、
    ・対応する基準位置における視覚的単語及び電波単語の有無を各々決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合、
    を保存する1個以上のメモリ(230)への通信リンクと、
    −以下の適合機能、すなわち
    ・前記1個以上のデジタル画像センサから前記移動機器の環境の画像(310)を取得する適合機能(241)、
    ・前記電波受信機を用いて受信可能な電波送信機(320)を検知する適合機能(242)、
    ・前記画像内における前記視覚的単語(331)の有無を決定するバイナリ値(335)、及び受信可能な電波送信機内における電波単語(332)の有無を決定するバイナリ値(336)を含む観測ベクトル(330)を生成する適合機能(243)、
    ・前記観測ベクトル及び前記基準位置ベクトルに基づいて少なくとも前記基準位置の集合における前記移動機器の現在位置を判定する適合機能(244,344)、
    を含む処理ロジック(240)への通信リンクを含む移動機器(200)。
  2. 前記移動機器の現在位置を判定する前記適合機能が、ある基準位置ベクトルに対して、前記移動機器が前記対応する基準位置に存在する場合に前記観測ベクトルを観測する尤度の計算を実行する適合機能を含んでいる、請求項1に記載の移動機器。
  3. 前記基準位置ベクトル対する、前記移動機器が前記対応する基準位置に存在する場合に前記観測ベクトルを観測する可能性の前記計算が、前記観測ベクトル、前記基準位置ベクトル、及び前記観測及び基準位置ベクトルの要素の相関木に基づいている、請求項2に記載の移動機器。
  4. 前記処理ロジックが更に、前記移動機器の現在位置が前記基準位置のうち1個に存在するか否かを判定する前記適合機能により、前記移動機器が前記基準位置のいずれにも存在しないと判定された場合、前記基準位置の集合に、前記観測ベクトルを基準位置ベクトルとして有する更なる基準位置を追加する適合機能を含んでいる、請求項1〜3のいずれか1項に記載の移動機器。
  5. 前記電波単語の集合が、前記環境の探索中に電波送信機の検知を含む単一の訓練フェーズ中に構築される、請求項1〜4のいずれか1項に記載の移動機器。
  6. 前記処理ロジックが更に、前記電波受信機を用いて受信可能な電波送信機を検知する前記適合機能が、どの電波単語にも関連付けられていない受信可能な電波送信機を検知した場合、前記受信可能な電波送信機に関連付けられた電波単語を前記電波単語の集合に追加する適合機能を含んでいる、請求項1〜5のいずれか1項に記載の移動機器。
  7. 前記受信可能な電波送信機に関連付けられた電波単語を追加する前記適合機能が、
    −現在位置に前記対応する基準ベクトルにおける前記電波単語の存在を示すバイナリ値と、
    −他の基準位置の各々に前記電波単語が存在しないことを示すバイナリ値を
    追加すべく前記基準位置ベクトルを変更する適合機能を含んでいる、請求項4に依存する、請求項6に記載の移動機器。
  8. 前記移動機器の現在位置を判定する前記適合機能が、各基準位置に対して、前記移動機器が前記基準位置に存在する場合に、前記基準位置ベクトル及び、観測ベクトルと基準ベクトルの要素同士の相関に基づいて、前記観測ベクトルを観測する尤度を計算する適合機能を含んでいる、請求項2に依存する、請求項2〜7のいずれか1項に記載の移動機器。
  9. 各基準位置に対して、前記移動機器が前記基準位置に存在する場合に前記観測ベクトルを観測する尤度を計算する前記適合機能が、視覚的単語に関連付けられた要素と、電波単語に関連付けられた要素との相関を別々計算する適合機能を含んでいる、請求項8に記載の移動機器。
  10. 前記移動機器の現在位置を判定する前記適合機能が、少なくとも前記電波単語の集合から無作為に生成された受信可能な電波送信機の人為的なリストを用いて構築された人為的な基準位置ベクトルの集合に基づいて、前記移動機器が未知の位置に存在する場合に前記観測ベクトルを観測する確率を計算する適合機能を含んでいる、請求項9に記載の移動機器。
  11. −前記電波単語が更に、前記対応する電波送信機から受信した信号強度の範囲により決定され、
    −観測ベクトルを生成する前記適合機能が、対応する電波送信機から前記電波受信機が対応する信号強度の信号を受信したならば前記電波単語が前記観測ベクトルに存在することを示す適合機能を含んでいる、請求項1〜10のいずれか1項に記載の移動機器。
  12. 前記移動機器の現在位置を判定する前記適合機能が更に、
    −前記観測ベクトル及び前記基準位置ベクトルに基づいて前記移動機器が各基準位置に存在する確率(350)を計算し、
    −前記移動機器の現在位置が最も高い確率を有する基準位置であると判定する適合機能を含んでいる、請求項1〜11のいずれか1項に記載の移動機器。
  13. −前記移動機器が各基準位置に存在する確率を計算する前記適合機能が更に、前記移動機器が未知の位置に存在する確率を計算する適合機能を含み、
    −前記移動機器が前記基準位置に存在する確率、及び前記移動機器が未知の位置に存在する確率の和が1に等しい、請求項12に記載の移動機器。
  14. −移動機器の環境の画像を、前記移動機器に搭載された1個以上のデジタル画像センサから取得するステップ(610)と、
    −前記移動機器に搭載された電波受信機を用いて受信可能な電波送信機を検知するステップ(620)と、
    −以下の集合、すなわち
    ・視覚的単語の集合(333)、
    ・電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合(334)、
    ・前記対応する基準位置における視覚的単語及び電波単語の有無を決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合、
    を保存するメモリにアクセスするステップ(630)と、
    −前記画像内における視覚的単語の有無を決定するバイナリ値(335)、及び受信可能な電波送信機内における電波単語の有無を決定するバイナリ値(336)を含む観測ベクトルを生成するステップ(640)と、
    −前記観測ベクトル及び前記基準位置ベクトルに基づいて、前記移動機器の現在位置が前記基準位置の1つに存在するか否かを判定するステップ(650)を含む方法(600)。
  15. −移動機器の環境の画像を、前記移動機器に搭載された1個以上のデジタル画像センサから取得し、
    −前記移動機器に搭載された電波受信機を用いて受信可能な電波送信機を検知し、
    −以下の集合、すなわち
    ・視覚的単語の集合、
    ・電波単語が少なくとも電波送信機の識別子により決定される電波単語の集合、
    ・前記対応する基準位置における視覚的単語及び電波単語の有無を決定するバイナリ値を含む基準位置ベクトルが各々の基準位置に関連付けられている基準位置の集合、
    を保存するメモリにアクセスし、
    −前記画像内における視覚的単語の有無を決定するバイナリ値、及び受信可能な電波送信機を用いて電波単語の有無を決定するバイナリ値を含む観測ベクトルを生成して、
    −前記観測ベクトル及び前記基準位置ベクトルに基づいて前記移動機器の現在位置が前記基準位置の1個に存在するか否かを判定すべく構成されたコンピュータコード命令を含むコンピュータプログラム製品。
JP2020516684A 2017-09-22 2018-09-24 画像及び電波単語に基づく移動機器の改良された位置認識 Active JP6991317B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17306252.2 2017-09-22
EP17306252.2A EP3460400B1 (en) 2017-09-22 2017-09-22 Improved localization of a mobile device based on image and radio words
PCT/EP2018/075739 WO2019057954A1 (en) 2017-09-22 2018-09-24 ENHANCED LOCATION OF A MOBILE DEVICE BASED ON IMAGE AND RADIO WORDS

Publications (2)

Publication Number Publication Date
JP2020537119A true JP2020537119A (ja) 2020-12-17
JP6991317B2 JP6991317B2 (ja) 2022-01-12

Family

ID=60083902

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020516684A Active JP6991317B2 (ja) 2017-09-22 2018-09-24 画像及び電波単語に基づく移動機器の改良された位置認識

Country Status (8)

Country Link
US (1) US11076264B2 (ja)
EP (1) EP3460400B1 (ja)
JP (1) JP6991317B2 (ja)
KR (1) KR102406084B1 (ja)
CN (1) CN111630346B (ja)
AU (1) AU2018335369A1 (ja)
CA (1) CA3076372A1 (ja)
WO (1) WO2019057954A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230004797A1 (en) * 2020-03-10 2023-01-05 Sri International Physics-guided deep multimodal embeddings for task-specific data exploitation
CN112325883B (zh) * 2020-10-19 2022-06-21 湖南大学 一种WiFi和视觉多源融合的移动机器人室内定位方法
US20230232183A1 (en) * 2022-01-19 2023-07-20 Qualcomm Incorporated Determining communication nodes for radio frequency (rf) sensing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011094992A (ja) * 2009-10-27 2011-05-12 Jvc Kenwood Holdings Inc ナビゲーション装置、ナビゲーション方法、およびナビゲーションプログラム
US20130195314A1 (en) * 2010-05-19 2013-08-01 Nokia Corporation Physically-constrained radiomaps
WO2017037423A1 (en) * 2015-08-28 2017-03-09 Imperial College Of Science, Technology And Medicine Mapping a space using a multi-directional camera

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7304585B2 (en) * 2004-07-02 2007-12-04 Nokia Corporation Initiation of actions with compressed action language representations
US8938355B2 (en) * 2009-03-13 2015-01-20 Qualcomm Incorporated Human assisted techniques for providing local maps and location-specific annotated data
US8615254B2 (en) * 2010-08-18 2013-12-24 Nearbuy Systems, Inc. Target localization utilizing wireless and camera sensor fusion
US9262699B2 (en) * 2012-07-19 2016-02-16 Qualcomm Incorporated Method of handling complex variants of words through prefix-tree based decoding for Devanagiri OCR
US9846227B2 (en) * 2013-03-15 2017-12-19 Kirill Mostov Multi-sensor surveillance system for monitoring a space and detection of objects
US20160255139A1 (en) * 2016-03-12 2016-09-01 Yogesh Chunilal Rathod Structured updated status, requests, user data & programming based presenting & accessing of connections or connectable users or entities and/or link(s)
CN103712617B (zh) * 2013-12-18 2016-08-24 北京工业大学 一种基于视觉内容的多层语义地图的创建方法
EP2952300A1 (en) 2014-06-05 2015-12-09 Aldebaran Robotics Collision detection
EP2952993B1 (en) 2014-06-05 2018-04-25 Softbank Robotics Europe Method for building a map of probability of one of absence and presence of obstacles for an autonomous robot
US10217120B1 (en) * 2015-04-21 2019-02-26 Videomining Corporation Method and system for in-store shopper behavior analysis with multi-modal sensor fusion
US9772395B2 (en) * 2015-09-25 2017-09-26 Intel Corporation Vision and radio fusion based precise indoor localization

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011094992A (ja) * 2009-10-27 2011-05-12 Jvc Kenwood Holdings Inc ナビゲーション装置、ナビゲーション方法、およびナビゲーションプログラム
US20130195314A1 (en) * 2010-05-19 2013-08-01 Nokia Corporation Physically-constrained radiomaps
WO2017037423A1 (en) * 2015-08-28 2017-03-09 Imperial College Of Science, Technology And Medicine Mapping a space using a multi-directional camera

Also Published As

Publication number Publication date
AU2018335369A1 (en) 2020-04-16
WO2019057954A1 (en) 2019-03-28
EP3460400A1 (en) 2019-03-27
KR20200094729A (ko) 2020-08-07
US20200236504A1 (en) 2020-07-23
US11076264B2 (en) 2021-07-27
CN111630346B (zh) 2024-02-09
JP6991317B2 (ja) 2022-01-12
CN111630346A (zh) 2020-09-04
CA3076372A1 (en) 2019-03-28
KR102406084B1 (ko) 2022-06-07
EP3460400B1 (en) 2021-12-22

Similar Documents

Publication Publication Date Title
JP6991317B2 (ja) 画像及び電波単語に基づく移動機器の改良された位置認識
Papaioannou et al. Fusion of radio and camera sensor data for accurate indoor positioning
JP2021530821A (ja) 三次元無線モデル構築を実行するための方法、装置およびコンピュータプログラム
US10197399B2 (en) Method for localizing a robot in a localization plane
Hashemifar et al. Augmenting visual SLAM with Wi-Fi sensing for indoor applications
Radke A survey of distributed computer vision algorithms
Jang et al. Survey of landmark-based indoor positioning technologies
US11561553B1 (en) System and method of providing a multi-modal localization for an object
Wang et al. Finding misplaced items using a mobile robot in a smart home environment
Anjum Camera localization in distributed networks using trajectory estimation
Kim et al. InFo: indoor localization using fusion of visual information from static and dynamic cameras
US20220413512A1 (en) Information processing device, information processing method, and information processing program
CN115112123A (zh) 基于视觉-imu融合的多移动机器人协同定位方法及系统
Liu et al. An efficient and effective localization method for networked disjoint top-view cameras
Faria Sensor Fusion for Mobile Robot Localization Using UWB and ArUco Markers
KR101917362B1 (ko) 시각 장애인용 실내 위치기반 서비스 시스템
Jia et al. Robot localization in indoor environments using radio frequency identification technology and stereo vision
Wang et al. Localization with laser range finder in a metrically inconsistent map from monocular slam
Henken Indoor-localization using a mobile phone
Menegatti et al. Discovery, localization and recognition of smart objects by a mobile robot
Karabey et al. Utilization of room-to-room transition time in Wi-Fi fingerprint-based indoor localization
Petrou et al. RoboCup Rescue 2015-Robot League Team PANDORA (Greece)
Miao et al. [Retracted] Privacy‐Oriented Successive Approximation Image Position Follower Processing
Zhu et al. Navigating in signal space: A crowd-sourced sensing map construction for navigation
Iocchi et al. Smart monitoring of complex public scenes

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211207

R150 Certificate of patent or registration of utility model

Ref document number: 6991317

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150