JP2018519558A - 移動体装置ローカリゼーションのためのエリア記述ファイルのクラウドソーシングによる作成および更新 - Google Patents

移動体装置ローカリゼーションのためのエリア記述ファイルのクラウドソーシングによる作成および更新 Download PDF

Info

Publication number
JP2018519558A
JP2018519558A JP2017550888A JP2017550888A JP2018519558A JP 2018519558 A JP2018519558 A JP 2018519558A JP 2017550888 A JP2017550888 A JP 2017550888A JP 2017550888 A JP2017550888 A JP 2017550888A JP 2018519558 A JP2018519558 A JP 2018519558A
Authority
JP
Japan
Prior art keywords
area description
description file
mobile device
area
localization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017550888A
Other languages
English (en)
Other versions
JP6602889B2 (ja
Inventor
ウィリアムズ,ブライアン・パトリック
ヒックマン,ライアン・マイケル
トゥー,ローラン
エシャ ネルルカル,
エシャ ネルルカル,
リュネン,ジーモン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2018519558A publication Critical patent/JP2018519558A/ja
Application granted granted Critical
Publication of JP6602889B2 publication Critical patent/JP6602889B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • G01C21/206Instruments for performing navigational calculations specially adapted for indoor navigation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • Automation & Control Theory (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)

Abstract

コンピューティングシステムは、ネットワークインターフェイス、第1のデータ記憶、第2のデータ記憶、および合成モジュールを含む。合成モジュールは、1つ以上の第1の移動体装置の組から1つ以上のエリア記述ファイルの組を受信する。各々のエリア記述ファイルは、エリアにある対応の第1の移動体装置が検出する空間的特徴の点群を表わす。コンピューティングシステムはさらに、ローカリゼーションモジュールと問合せモジュールとを含む。ローカリゼーション生成モジュールは、1つ以上のエリア記述ファイルの組からエリアについてのローカリゼーションエリア記述ファイルを生成し、第2のデータ記憶中にローカリゼーションエリア記述ファイルを記憶する。ローカリゼーションエリア記述ファイルは、エリアについての空間的特徴の点群を表わす。問合せモジュールは、ネットワークインターフェイスを介してローカリゼーションエリア記述ファイルを第2の移動体装置に与える。

Description

関連出願への相互参照
本出願は、同時係属中の特許出願である
本願と同日付けで出願された、「アップロードの前のエリア記述ファイル(area description file)のプライバシーフィルタリング」と題された米国特許出願連続番号第14/708,955号(代理人管理番号1500−T014US)、および
本願と同日付けで出願された、「ローカリゼーションエリア記述ファイルに対するプライバシー性が高い問合せ」と題された米国特許出願連続番号第14/708,970号(代理人管理番号1500−T015US)に関連し、その全体が本明細書中に引用により援用される。
開示の分野
本開示は、一般的には視覚的マッピングシステムに、より特定的には視覚的情報を用いた移動体装置のローカリゼーションに関する。
背景
視覚的マッピングシステムは、移動体装置が捕捉するイメージ(imagery)中に検出される(「視覚的特徴」とも称される)空間的特徴および慣性情報に依拠して、三次元(3D)空間中の移動体装置の現在の位置および向きを判断する。典型的に、位置および向きは、規定された座標フレームの文脈で判断されて、仮想現実(VR)機能性、拡張現実(AR)機能性、または複数の移動体装置同士の間のゲームもしくは他のデバイス対応(device-enabled)対話などの公知の固定された基準フレームに対する同期を要件とするさまざまな機能性を促進する。同時ローカリゼーションおよびマッピング(SLAM)技術により、移動体装置が以前にマッピングしていないエリア内のその位置および向きを同時に学習しながら当該エリアをマッピングできるようになる。こうして、移動体装置が同じエリアに戻ると、移動体装置は容易に、「ローカリゼーション」として公知のプロセスで、以前に観察した空間的特徴を検出することによって、そのエリア内でのその現在の位置および向きを判断し得る。しかしながら、移動体装置が初めてあるエリアに入っている場合、移動体装置には、これらの以前に検出済みのローカリゼーションの手がかり(cue)がない。従来の視覚的マッピングシステムでは、移動体装置は、視覚的マッピングプロセス−かなりの時間およびリソースを使うプロセス−の実現を通してエリアを「学習」しなければならない。以前にマッピングしていないエリアについての視覚的マッピングプロセスの実行に係る遅延を回避するため、従来の視覚的マッピングシステムは、代わりに、全地球測位システム(GPS)情報または慣性センサフィードバックを介した場所マッピングなどの視覚的でない向きの入力に基づく移動体装置の向きまたは位置の検出に立ち返ることがある。しかしながら、これらの非視覚的マッピング解決策は、センサおよび測定のずれのために信頼性が低く(たとえば、室内ではまたは背の高い障害物で囲まれる区域ではGPSの受信が劣り)、不正確であり、かつ誤りやすい可能性がある。
本開示の少なくとも1つの実施形態に従う、ローカリゼーションのために移動体装置に与えられるエリア記述ファイルのクラウドソーシング(cloud-sourced)による作成および更新のためのクラウドベースの(cloud-based)視覚的マッピングシステムを示す図である。 本開示の少なくとも1つの実施形態に従う、図1の視覚的マッピングシステムのエリア記述ファイルサーバを示すブロック図である。 本開示の少なくとも1つの実施形態に従う、図1の視覚的マッピングシステムの移動体装置を示すブロック図である。 本開示の少なくとも1つの実施形態に従う、以前にマッピング済のローカリゼーションプロセスまたは以前にマッピングしていないローカリゼーションプロセスの1つを選択するための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイルのクラウドソーシングによる生成のための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、遠隔のエリア記述ファイルサーバから得られるローカリゼーションエリア記述ファイルを用いた移動体装置のローカリゼーションのための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイルのクラウドソーシングによる更新のための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイル中に含める候補空間的特徴を評価するための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイルから除外する空間的特徴を評価するための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイル問合せを行なうためのエリア記述ファイルサーバのLADFデータベース用の2レベル問合せインターフェイスを示す図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイル用の2レベル問合せのための方法を示すフロー図である。 本開示の少なくとも1つの実施形態に従う、ローカリゼーションエリア記述ファイル問合せを行なうためのエリア記述ファイルサーバのLADFデータベース用の代替的な2レベル問合せインターフェイスを示す図である。
本開示は、添付の図面を参照することによって、当業者によってより十分に理解され得、かつその数多くの特徴および利点が当業者に明らかになり得る。異なる図面での同じ参照符号の使用は、同様のまたは同一の項目を示す。
詳細な説明
以下の説明は、視覚的マッピングシステムに係る多数の具体的な実施形態および詳細を提供することによって本開示の完全な理解を伝えることを意図する。しかしながら、本開示は、例示にすぎないこれらの具体的な実施形態および詳細に限定されるわけではなく、そのため、開示の範囲は、以下の請求項およびその均等物によってのみ限定されることが意図されると理解される。公知のシステムおよび方法に照らして、当業者ならば、具体的な設計および他の必要性に依存して、その意図される目的および有利のために、任意の数の代替的実施形態での開示の使用を認めるであろうことがさらに理解される。
図1−図12は、ローカリゼーションエリアデータファイルのクラウドベースの作成、見直し、および移動体装置に対するその提供のための例示的なシステムおよび技術を示す。少なくとも1つの実施形態では、視覚的マッピングシステムは、1つ以上の有線または無線ネットワークを介して複数の移動体装置に通信するように結合されるエリア記述ファイル(area description file)(ADF)サーバを備える。移動体装置が以前にマッピングしていないエリアに入ると、移動体装置はエリア学習プロセスを開始し、これにより移動体装置はエリアのイメージを捕捉し、捕捉したイメージを用いて空間的特徴を検出し、ADF中の空間的特徴、それらの相対的外形(outer geometry)、関連の統計的データ、および同時に捕捉されたセンサデータの表示をADFサーバに送信する。ADFサーバは、このADFを用いてローカリゼーションADF(LADF)を生成する。これは、当該エリアの空間的特徴のまばらな点群(sparse point cloud)を表わす。なお、「エリア記述ファイル」において用いるような、またはそれ以外に本明細書中で用いるような「ファイル」という用語は、データおよび他の情報フィールドを関連付けるのに用いられる任意のデータ構造、またはそのようなデータ構造の任意の組合せを指す。次に、LADFがカバーするエリア中の別の移動体装置にLADFをダウンロードし得る。LADFを受信する移動体装置は当該エリアのイメージを捕捉し、その中の空間的特徴を検出し、検出された空間的特徴およびそれらの相対的外形をLADFが表わす空間的特徴および相対的外形と比較して、LADFが提示する参照座標フレームを用いてエリア内の移動体装置をローカライズし得る。このように、以前にマッピングしていないエリアのエリアディスカバリー(discovery)およびマッピングを、移動体装置によるデータの受動的収集およびアップロードによって効率的にクラウドソーシングしてもよい。
ある実施形態では、ADFサーバは、同じエリアについてまたは隣接するエリアについて複数の移動体装置からADFファイルを受信し、ADFサーバは、これらの複数のADFファイルを合成(merged)ADFファイル(またはADFファイルの合成クラスタ)に合成するように動作する。次に、合成ADFファイルを用いてエリアまたはそのサブエリア(sub-area)についての1つ以上のLADFを生成し得る。さらに、エリアで変化がありそうな場合、ADFサーバは、あるエリア中のローカリゼーション用LADFを用いて、移動体装置からのフィードバックに基づいて当該エリアについて生成されるLADFのクラウドソーシングされた更新を利用し得る。たとえば、移動体装置がLADF中のいくつかの空間的特徴を観察していないことが確実であると示すフィードバックに応答して、ADFサーバはこれらの空間的特徴をLADFから除外してもよい。反対に、エリア中の移動体装置がLADFに含まれていない空間的特徴を観察していることが確実であると示すフィードバックに応答して、ADFサーバはこれらの空間的特徴をLADFに加えてもよい。
ADFおよびLADFが表わす点群および関連のデータは、ある程度まであるエリアの視覚的表示を与えるので、移動体装置からのADFの収集および移動体装置へのLADFの配布がプライバシー侵害(privacy implication)になることがある。そのため、ある実施形態では、視覚的マッピングシステムはあるプライバシー管理を実現する。1つのそのようなプライバシー管理は、ADFをADFサーバにアップロードする前にADFのデータに対して1つ以上のプライバシーフィルタプロセスを実現するよう移動体装置を構成することと、したがってADFのアップロード版が表わす情報をエリアの有用な視覚的内容を再作成する目的のためには再利用できなくすることとを含み得る。別のそのようなプライバシー管理は、LADFにアクセスして移動体装置に配布する二段階LADF問合せを含んでもよい。移動体装置それ自身が入手可能なLADFを有していないエリアに入ると、移動体装置はイメージを捕捉し、捕捉されたイメージから空間的特徴を検出し、LADF要求をADFサーバに送信する。これにより、LADF要求は、検出された空間的特徴の組と、移動体装置の場所のインジケータ(たとえば、GPS座標または無線基地局識別子をもう一つ)とを含む。次に、ADFサーバは第1の問合せ段階を実行して、検出された空間的特徴の組または場所インジケータの一方に一致する候補LADFの組を同定し、次に、検出された空間的特徴または場所インジケータの他方に基づいて候補LADFの組からLADFを選択し得る。このように、移動体装置が送信する空間的識別子の組は、移動体装置が同定されたエリアの中にいるまたはそれへのアクセスを有すること、およびしたがって要求を発している移動体装置にLADFを供給する際のプライバシー侵害のおそれが大幅に低減されていることの証明として働き得る。
図1は、本開示の少なくとも1つの実施形態に従う視覚的マッピングシステム100を示す。描かれた例では、視覚的マッピングシステム100は、1つ以上の移動体装置104に通信するように結合されるADFサーバ102を備える。クラウド106で表わされるように、ADFサーバ102は、移動体装置104から遠隔であり、無線ローカルエリアネットワーク(WLAN)、セルラーデータネットワーク、インターネット、またはその組合せなどの1つ以上の有線または無線ネットワークを介して移動体装置104に結合されるコンピューティングシステムを備える。本明細書中では単一のサーバという例示的な文脈で記載されるが、他の実施形態では、ADFサーバ102は、サーバのクラスタを備えるコンピューティングシステムとして実現されてもよい。ADFサーバ102の例示的な実現例を図2を参照して以下により詳細に説明する。
移動体装置104は、ヘッドマウントディスプレイ(HMD)、タブレットコンピュータ、コンピューティング対応携帯電話(たとえば「スマートフォン」)、ノートブック型コンピュータ、パーソナルデジタルアシスタント(PDA)、ゲーム機システム、ドローンなどの、1人以上のユーザ110が動作させるさまざまな携帯型電子機器のうち任意のものを含むことができる。描かれる例では、移動体装置104は、片面116とは反対の表面114を有する筐体112を含む。これにより、筐体112は典型的に、ユーザ110に対して、ユーザが筐体112の表面114に対面するような向きにされる。さらに、描かれる実現例では、移動体装置104は、視覚的情報をユーザ110に提示するための表面116に配設されるディスプレイ118を含む。応じて、参照の容易のため、表面116は本明細書中で「正面向き」面と称され、表面114は、本明細書中ではこの例示的な向きの反映として「ユーザ向き」面と称される。尤も、これらの表面の向きは、これらの関連に基づく指定によって限定されるものではない。
移動体装置104はさらに、移動体装置104が現在位置するエリア122に関する情報を得る複数のセンサを含む。移動体装置104は、たとえば正面向き面116に配設される画像化センサ124,126などの1つ以上の画像化センサを介してエリア122についての視覚的情報(イメージ)を得る。移動体装置104からの特定の距離からそれぞれの視野が重なり合うように、画像化センサ124,126を正面向き面116上に位置決めして向けることができる。これにより、多視点分析を介して、重なり合う視野の領域に位置決めされるエリア122中のオブジェクトの奥行き検知が可能になる。これに代えて、表面116上に配設される奥行きセンサ130を用いてエリア中のオブジェクトについての奥行き情報を与えてもよい。
奥行きセンサ130は、1つの実施形態では、変調光プロジェクタを用いて正面向き面116からエリア122へ変調光パターンを投射し、変調光パターンの反射がエリア122中のオブジェクトから返ってくると、画像化センサ124,126の一方または両方を用いてその反射を捕捉する。これらの変調光パターンは、空間変調光パターンまたは時間変調光パターンのいずれかであることができる。捕捉された変調閃光の反射は、本明細書中で「奥行き画像」または「奥行きイメージ」と称される。次に、奥行きセンサ120は、奥行きイメージの分析に基づいて、オブジェクトの奥行き、すなわち移動体装置104からのオブジェクトの距離、を算出し得る。奥行きセンサ130から得た奥行きデータを用いて、画像化センサ124,126が捕捉した画像データの多視点分析(たとえば、立体視分析)から得た奥行き情報を較正し得る、または他のやり方でこれを増補し得る。これに代えて、多視点分析から得られる奥行き情報の代わりに、奥行きセンサ130からの奥行きデータを用いてもよい。移動体装置104の電子システムのより詳細な例を図3を参照して以下により詳細に説明する。
動作の際、移動体装置104は、画像化センサ124,126の一方または両方を介してエリア122のイメージを捕捉し、捕捉したイメージを修正するかまたは他のやり方で処理し、処理済みの捕捉イメージを与えて表示装置108上に表示する。捕捉イメージの処理は、たとえば、空間的または色フィルタリング、拡張現実(AR)オーバーレイの追加、対応の仮想現実(VR)コンテンツへのイメージの現実のコンテンツの変換などを含むことができる。このARまたはVR機能性を提供するために、移動体装置104は、特定された座標フレームに対するその現在の6自由度(6DOF)の向きおよび位置(本明細書中では総称して「ポーズ(pose)」と称する)の正確な判定に依拠する。このように、ある実施形態では、移動体装置104は、画像化センサ124,126が捕捉したイメージおよび非画像センサデータ(たとえば、慣性センサデータ)も用いて、同時場所およびマッピング(SLAM)プロセス、視覚的走行距離計測法、または他の視覚的マッピングプロセスを用いて、移動体装置104の相対的位置/向き、すなわちエリア122に対する位置/向き、を判断する。
従来、移動体装置が新しいエリア(すなわち、特定の移動体装置が以前に入ったことがないエリア)に入ると、移動体装置はエリア学習プロセス(たとえばSLAMプロセス)を完了して新しいエリアを学習するか、または非視覚的手がかり(たとえばGPS座標)に依拠して座標フレームに対する移動体装置の現在のポーズを何か示さなければならない。これに対し、視覚的マッピングシステム100は、エリア中の他の移動体装置が先の探査で提供したクラウドソーシングを活用して、エリアの広範な視覚的マッピングを行なわなくても、エリアに新規の移動体装置が座標フレームに迅速にローカライズできるようにする。この目的のため、ADFサーバ102に接続される移動体装置104は、移動体装置104がエリア122の付近で移動するとADF132を収集してこれをADFサーバ102にアップロードするように動作する。以下により詳細に説明するように、ADF132は、移動体装置104が検出した空間的特徴の組、空間的特徴の相対的外形、移動体装置のポーズとは実質的に独立したやり方で空間的特徴を記述する空間的特徴に関するさまざまな統計的メタデータ、照明(lighting)条件、または他の一時的な環境条件もしくは装置に特有の条件、ならびに空間的特徴に関連付けられるイメージの捕捉時に慣性管理ユニット(IMU)または他の非画像センサから収集されたセンサデータを含む。ADFサーバ102は、ADF132に含有される情報に基づいて同じエリア(または隣接するエリア)についての複数の移動体装置104からのADFをフィルタリングして合成し、その結果得られた合成ADFから1つ以上のLADF134を生成する。その各々は、エリアまたはその対応のサブエリアの空間的特徴のまばらな点群を表わす。
このように、別の移動体装置104が後に新たなエリアに入ると、移動体装置104は、エリアに関連付けられるLADFについてADFサーバ102に問合せてもよい。この問合せに応答して、ADFサーバ102は、要求を発している移動体装置104にLADF134を与えてもよい。移動体装置104は、エリア122のイメージを捕捉し、その中に含有されるある空間的特徴を検出し、かつ検出された空間的特徴およびそれらの相対的外形をLADF134が表わす空間的特徴および関連の相対的外形と比較し、閉ループアルゴリズム(loop closure algorithm)の適用などによる空間的特徴の比較に基づいてその現在のポーズをローカライズ(すなわち、その現在のポーズを判断、または以前に判断されたずれたポーズを訂正)し得る。移動体装置104はさらに、移動体装置によるLADF134の使用に基づいて、移動体装置104がLADF134の空間的特徴を観察しなかったことを示すフィードバックデータまたは移動体装置104がLADF134の中にない空間的特徴を観察したことを示すフィードバックデータなどのフィードバックをADFサーバ102に与え得る。
クラウドソーシングによるおよびクラウドベースのLADF134の作成、洗練、および配布により、移動体装置104は、新しいエリアに入った際に迅速かつ効率的にローカライズできるようになり、およびしたがって時間のかかるエリア学習プロセスを行なう必要性、またはより精度が低くかつ不確実なことが多いGPSセンサもしくは慣性センサからの測定値を用いる必要性を回避する。さらに、LADF134の空間的特徴は、具体的な座標フレームに対して参照され得るので、LADF134を用いる複数の移動体装置104は、それらの現在のポーズを共通の座標フレームにローカライズし、これにより複数プレーヤによるゲーム、共有ARまたはVR機能性などの装置ポーズ情報に依拠する機能性について、移動体装置104同士の間のより効率的かつ正確な対話が容易になり得る。
図2は、本開示の少なくとも1つの実施形態に従う、図1のADFサーバ102の例示的な実現例を示す。描かれる例では、ADFサーバ102は、ネットワークインターフェイス202、ADFデータ記憶204、LADFデータ記憶206、特徴量データ記憶208、ジオリファレンス(幾何補正)(georeference)データ記憶210、合成モジュール212、ジオリファレンスモジュール214、空間的特徴フィルタモジュール216、ローカリゼーション生成モジュール218、および問合せモジュール220を有するコンピューティングシステムを備える。別個のデータ記憶として示されるが、データ記憶204,206,208,210のうち1つ以上は、ともに単一のデータ記憶として実現されてもよい。
モジュール212,214,216,218,220は、ハードコード化された論理(たとえば、特定用途向け集積回路またはプログラマブル論理)、メモリ226もしくは他の記憶装置に記憶されるソフトウェア命令224を実行する1つ以上のプロセッサ222、またはその組合せとして実現されてもよい。さらに、図示の容易のために単一のサーバとして描かれるが、代わりに、ADFサーバ102は複数のサーバを備えるコンピューティングシステムとして実現されてもよい。たとえば、モジュール212,214,216および218の機能性を1つのサーバで実現してもよく、問合せモジュール220およびLADFデータ記憶206の機能性を別のサーバで実現してもよい。
一般的概要として、合成モジュール212は、ネットワークインターフェイス202を介して、LADFがそれについてはまだコンパイルしていないエリアに入った1つ以上の移動体装置232(図1の移動体装置104の1つの実施形態)からADF132を受信するように動作する。合成モジュール212は、移動体装置232からの1つ以上のADF132を合成して合成ADFデータを生成し、これをADFデータ記憶204に記憶する。ジオリファレンスモジュール214は、(たとえば、グーグルインコーポレイテッド(Google(登録商標) Inc.)が提供するストリートビュー(Street View)ツールからのイメージおよび関連のジオリファレンス位置を含有し得る)ジオリファレンスデータ記憶210からのジオリファレンス情報を利用して、合成ADFに地理的参照を与えてもよい。ローカリゼーション生成モジュール218は、結果的に得られた合成ADFデータから1つ以上のLADFを生成して、1つ以上のLADFをLADFデータ記憶206の中に記憶しかつインデックス付けして後で取出せるようにする。問合せモジュール220は、移動体装置234(移動体装置104の1つの実施形態)からネットワークインターフェイス202を介してLADF要求236を受信し、LADF要求236に対応するLADF134についてLADFデータ記憶206を探索し、LADF134を移動体装置234に与える。移動体装置234は、移動体装置234のローカリゼーションのためにLADF134を用いる。このローカリゼーションプロセスの際に、移動体装置234は、ネットワークインターフェイス202を介して、LADF134に対するLADFフィードバック238をADFサーバ102に与えてもよい。ADFサーバ102は、LADFフィードバック238を用いて特徴量データ記憶208中のその中に表わされる空間的特徴の特徴量を調整して、特徴量に基づいて空間的特徴を追加するまたは除外することによって、LADF134を洗練してもよい。これらの動作を図4−図12を参照して以下により詳細に説明する。
注記されるように、移動体装置232および234は移動体装置104の実施形態を表わす。それらのそれぞれの動作上の要件により、LADFを用いてローカリゼーションプロセスを行なう移動体装置232は、ADFアップロードプロセスを行なう移動体装置234と同じ能力を必要としないことがある。図示のため、移動体装置234は、奥行きセンサ120またはステレオカメラ構成を利用して、ADFを生成するおよびアップロードするプロセスに関連してSLAM動作を容易にし得る一方で、移動体装置232は典型的に、ローカリゼーションプロセスを容易にするのに奥行きセンサ120を要件とせず、単眼カメラ構成しか要件としない。
図3は、本開示の少なくとも1つの実施形態に従う、移動体装置104が実現する例示的な処理システム300を示す。処理システム300は、ディスプレイ118、画像化センサ124,126、および奥行きセンサ130を含む。処理システム300はさらに、グラフィック処理ユニット(GPU302)、フレームバッファ303および305、アプリケーションプロセッサ304、ディスプレイコントローラ306、システムメモリ308、非画像センサの組310、およびユーザインターフェイス312を含む。ユーザインターフェイス312は、タッチ画面314、マウス、キーボード、マイク316、さまざまなボタンまたはスイッチ、およびさまざまな触覚アクチュエータ318などの、ユーザ入力を移動体装置104に与えるようにユーザが操作する1つ以上の構成要素を含む。非画像センサの組310は、移動体装置104の非画像文脈または状態を与えるように用いられるさまざまなセンサのうち任意のものを含むことができる。そのようなセンサの例は、ジャイロスコープ321、磁気計322、および加速度計323のうち1つ以上を備える慣性管理ユニット(IMU)320を含む。非画像センサはさらに、たとえば、周囲光センサ326およびGPSセンサ328などのさまざまな無線受信または送信ベースのセンサ、無線ローカルエリアネットワーク(WLAN)インターフェイス330、セルラーインターフェイス332、ピアツーピア(P2P)無線インターフェイス334、ならびに近距離無線(NFC)インターフェイス336を含むことができる。非画像センサは、タッチ画面314またはマイク316などのユーザインターフェイス312のユーザ入力構成要素も含むことができる。
移動体装置104はさらに、その画像処理、場所マッピング、および場所利用プロセスに関連して用いられる情報またはメタデータを記憶するさまざまなデータ記憶338へのアクセスを有する。データベース338は、移動体装置104の画像化センサが捕捉するイメージから同定される2Dまたは3D空間的特徴のメタデータを記憶する空間的特徴データ記憶と、移動体装置104が既に探査したエリア122(図1)のサブエリアのマッピング情報などのSLAMベースの情報を記憶するSLAMデータ記憶と、エリア122中の対象のオブジェクトの相対的場所のCADベースの表示などのARオーバーレイ情報またはVR情報を記憶するARデータ記憶とを含むことができる。データ記憶338は、ハードドライブ、固体状態メモリ、または取外し可能記憶媒体(図示せず)などの移動体装置104の1つ以上の記憶構成要素で実現されてもよい。
動作の際、画像化センサ124,126はエリアのイメージを捕捉し、捕捉されたイメージをフレームバッファ303,305にバッファする。イメージを元の形態または修正された形態で表示するために、GPU302は、(たとえば、ARオーバーレイをレンダリングすることによって)捕捉イメージを表示用に処理し、ディスプレイコントローラ306は、処理済みのイメージを表示するようにディスプレイ118を制御する。さらに、本明細書中に記載のように、移動体装置104は、以前にマッピングしていない場所についてのADF134をアップロードし、以前にマッピングした場所についてのLADFをダウンロードし、かつダウンロードされたLADFを用いて移動体装置104のローカリゼーションを容易にするように動作する。この目的のため、1つ以上のソフトウェアプログラムをシステムメモリ308または他の非一時的コンピュータ読出可能媒体に記憶し、アプリケーションプロセッサ304およびGPU302のうち一方または両方によって実行して、このADF生成およびLADF利用の機能性を提供してもよい。図示の容易のため、図3には、1つ以上のソフトウェアプログラムをADF生成プログラム342およびLADF処理プログラム344として描く。これらのプログラムを、処理システム300が実行するオペレーティングシステム(OS)中のスレッドもしくは他のプロセスとして、同じソフトウェアアプリケーションのスレッド、プロセスもしくはサブルーチンとして、または別個に実行されるソフトウェアアプリケーションとして実現してもよい。さらに、ある実施形態では、本明細書中に記載されるプログラム342,344の機能性の一部または全部をASIC、プログラマブル論理、または他のハードコード化論理を介して実現してもよい。
ADF生成プログラム342は、たとえば、プライバシーフィルタモジュール346、空間的特徴検出モジュール348、およびADFアセンブリモジュール350を含むことができる。図3に描かれるように、プライバシーフィルタモジュール346は、テキストフィルタモジュール352および顔フィルタモジュールなどの1つ以上の画像コンテンツフィルタならびにダウンサンプラーモジュール356を備えてもよい。LADF処理プログラム344は、たとえば、(空間的特徴検出モジュール348であってもよい)空間的特徴検出モジュール358、要求モジュール360、ローカリゼーションモジュール362、およびフィードバックモジュール364を含むことができる。ADF生成プログラム342およびLADF処理プログラム344の動作を含む処理システム300の動作を以下に詳細に説明する。
上述のように、移動体装置104が未マッピングエリア(すなわち、ADFサーバ102が入手可能なLADFを有していないエリア)にある場合、移動体装置104はADF生成モードで動作してもよい。これにより、移動体装置104は未マッピングエリアで検出される空間的特徴を表わすADFを生成し、当該ADFをADFサーバ102にアップロードする。しかしながら、当該エリアが既にマッピング済でADFサーバ102が当該エリアについてのLADFを有する場合、移動体装置104は、代わりに、LADFローカリゼーションモードで動作してもよい。これにより、移動体装置104は、ADFサーバ102から当該エリアについてのLADFを得て、当該LADFが表わすまばらな点群を用いてローカリゼーションプロセスを行なって移動体装置104を当該エリアにローカライズする。
図4は、少なくとも1つの実施形態に従う、これらの動作モードを選択するための例示的な方法400を示す。説明の容易のため、方法400を図3の処理システム300の例示的な文脈で説明する。方法400は、ブロック402で開始する。これにより移動体装置104は、移動体装置104が以前にマッピングしていないエリアに移動したと判断する。応答して、移動体装置104は、ローカリゼーションプロセスまたは運動追跡プロセスを開始する。
ブロック404で、移動体装置104は、ADFサーバ102に問合せて、当該エリアについてのLADFを入手可能か否かを判断する。図10−図12を参照して以下に説明するように、ADFサーバ102は二段階問合せプロセスを実現してもよい。これにより、移動体装置104は、エリア中の移動体装置が捕捉したイメージから空間的特徴の組と1つ以上の場所インジケータ(たとえば、GPS座標またはWLANの基地局識別子または移動体装置104が検出する携帯電話基地局)との両者を与え、ADFサーバ102は、LADFデータ記憶206に問合せて対応のLADFを同定する。
ADFサーバ102からLADFを入手可能でない場合、当該エリアは、未マッピングの場所と考えられ、したがってブロック406で、移動体装置104およびADFサーバ102は連携して未マッピングの場所についてADF/LADF生成プロセスを行なう。このプロセスを図5を参照して以下により詳細に説明する。ADFサーバ102からLADFを入手可能である場合、当該エリアはマッピング済の場所と考えられ、したがってブロック408で、移動体装置104およびADFサーバ102は連携してLADFローカリゼーションおよび更新プロセスを行なう。これを図6を参照して以下により詳細に説明する。
図5は、少なくとも1つの実施形態に従う、ADF/LADF生成プロセスを実現するための例示的な方法500を示す。以上注記したように、ADF/LADF生成プロセスは、移動体装置104が新たに遭遇するエリアについてのLADFを入手可能でないという判断に応答して行なわれる。これに応じて、エリア記述データの受動的収集についてのユーザの同意を受信した後に、方法500は、ブロック502で、移動体装置104のセンサを用いてエリア学習プロセスを開始することから開始する。エリア学習プロセスを行なうために、移動体装置104は、画像化センサ124,126を介してイメージ372(図3)を捕捉し、移動体装置104が当該エリアを通って移動すると奥行きセンサ130を介して対応の奥行き情報373を捕捉する。移動体装置104は、移動体装置104がイメージ372および奥行き情報373を捕捉すると、たとえば対話型ゲームを用いて、当該エリアを探査するよう移動体装置104のユーザを誘導してもよい。
同時に、ADFアセンブリモジュール350は、非画像センサの組310のうち1つ以上から非画像センサデータ374(図3)を捕捉する。図示のため、ADFアセンブリモジュール350は、イメージ372の捕捉の間、加速度計323からセンサデータを捕捉して、したがってイメージ捕捉の際の重力に対する移動体装置104の向きを表わしてもよい。同様に、ジャイロスコープ321から捕捉したセンサデータを用いて、捕捉したイメージ中に表わされる視覚的特徴に対する移動体装置104の移動の方向を判断してもよい。さらに、非画像センサデータ374は、移動体装置104の場所インジケータとして動作し得るセンサデータを含んでもよい。これらの場所インジケータは、GPSセンサ328が与えるセンサデータ中に表わされる緯度/経度座標などのジオリファレンス済の場所インジケータであってもよい。これに代えて、これらの場所インジケータは、推量(inferred)場所インジケータであってもよい。図示のため、WLAN基地局および携帯電話基地局は固定されていると推定されるので、WLAN基地局または携帯電話基地局の検出は、移動体装置が検出された基地局に近接していることを示すものとして働き、したがって基地局識別子(BSID)、メディアアクセス制御(MAC)アドレス、または基地局の他の識別子は移動体装置の推量場所インジケータとして働くことができる。
以下に説明するように、捕捉されたイメージ372および奥行き情報373を用いて空間的特徴の点群を判断し、最終的にこれをADFサーバ102にアップロードする。この点群は画像データそのものではない一方で、点群の密度および他の条件に依存して、未修正の点群を用いて、捕捉されたイメージ372中に元々存在するある視覚的内容を再構築することができる可能性がある。たとえば、移動体装置104がある文書の特に近くに置かれれば、捕捉された文書のイメージから判断される点群を用いて文書のテキストを再現できる可能性がある。そのため、意図しない視覚的内容の公開を防止するために、プライバシーフィルタモジュール346は少なくとも2つのプライバシー管理を実現し得る。
第1のプライバシー管理はブロック504で実現される。ここでは、プライバシーフィルタモジュール346は、捕捉されたイメージ372に対して1つ以上のコンテンツフィルタプロセスを行なって、プライバシー侵害があり得る領域から画像コンテンツを除去する。たとえば、ブロック504で、テキストフィルタモジュール352はテキストフィルタプロセスを行なってもよい。これにより、ブロック502で捕捉された各々の画像は、1つ以上の周知のテキスト認識アルゴリズムを用いてスキャンされ、潜在的にテキストコンテンツを表わす領域が画像の中にあるか否かを判断する。潜在的なテキスト領域として検出された各領域毎に、テキストフィルタモジュール352は、たとえば当該領域または隣接する領域の画素との混合動作を行なうことによって、当該領域中の画素値を同じデフォルト画素領域と置き換えることによって、またはさもなければ当該領域の画素値を削除することによってなどして、この領域をぼかしたり削除したりし得る。同様に、ブロック504で、顔フィルタモジュール354は顔フィルタプロセスを実現してもよい。これにより、各々の捕捉画像を1つ以上の周知の顔認識アルゴリズムを用いてスキャンして、潜在的に人の顔を表わす領域が画像の中にあるか否かを判断し、当該画像をフィルタリングして、各々のそのように同定された領域から画像コンテンツを除去する。このように、イメージを予めフィルタリングして空間的特徴検出の前に潜在的に微妙な視覚的内容を除去するので、結果的に得られた空間的特徴の点群を潜在的に微妙な視覚的内容を再構築するのに用いることはできない。
ブロック506で、空間的特徴検出モジュール348は、フィルタリングされたイメージを分析して、その中に含有される空間的特徴を検出する。たとえば、スケール不変特徴変換(Scale-Invariant Feature Transform)(SIFT)アルゴリズム、加速ロバスト特徴(Speeded-Up Robust Features)(SURF)アルゴリズム、階調パッチ(Gray Level Patch)アルゴリズム、勾配場所および向きヒストグラム(Gradient Location and Orientation Histogram)(GLOH)アルゴリズム、ゼルニケモーメント(Zernike Moment)アルゴリズム、2値ロバスト独立基本特徴(Binary Robust Independent Elementary Features)(BREIF)アルゴリズム、ORB(Oriented BRISK)アルゴリズム、BRISK(Binary Robust Invariant Scalable Keypoints)アルゴリズム、ガウシアン差分(Difference of Gaussians)(DOG)アルゴリズム、FREAK(Fast Retina Keypoint)アルゴリズムなどのさまざまな空間的特徴抽出アルゴリズムのうち任意のものを用いてもよい。空間的特徴検出モジュール348は、これらの検出された空間的特徴を空間的特徴データ376として与える。図示のため、FREAKアルゴリズムは、対のうちどちらの画素が明るいか暗いかに基づいて、各々の比較の出力を「0」または「1」にして、画像パッチ内の画素の対を比較できるようにする。FREAKアルゴリズムでは、512回のそのような比較を画像パッチにわたって計算する。その結果は、画像パッチを表わす対応の空間的特徴の長さである512の2値のストリングである空間的特徴記述子であり、かつ3D参照フレーム中の空間的特徴の位置を同定する(x,y,z)ベクトルである。
さらに、空間的特徴検出モジュール348は、検出された各点毎に統計的メタデータ378を判断する。統計的メタデータ378は、対応のイメージが捕捉されたときに移動体装置104の特定の視野角または周囲の照明とは実質的に独立した態様で対応の空間的特徴を記述する。たとえば、統計的メタデータ378は、空間的特徴、1つ以上の方向の明るさの勾配(または他の視覚的特徴の勾配)などを表わす画素の明るさの平均偏差および標準偏差を表わす値を備えてもよい。
プライバシーフィルタモジュール346は、検出されたテキストおよび顔のコンテンツのイメージを消し、そのため、空間的特徴データ376が表わす空間的特徴の元の点群には実質的にテキストおよび顔のコンテンツがなくなっているが、元の点群は依然として、エリアの外観をあるレベルまで元の点群から再構築できるのに十分な空間的特徴密度を有していることがある。このように、第2のプライバシー管理として、ブロック508で、プライバシーフィルタモジュール346のダウンサンプラーモジュール356は、元の点群をダウンサンプリングして、元の点群の空間的特徴の選択されたサブセットしか含有しない空間的特徴のフィルタリング済点群380(図3)を生成する。これには、結果的に得られる点群からあるエリアの外観を再構築し得る可能性を低減することと、結果的に得られるフィルタリング済点群380を表わすのに必要なデータの量を低減することとの両方の有利がある。ダウンサンプリングのプロセスは、1つ以上のダウンサンプリング判断基準によって制御され得る。たとえば、ある実施形態では、ダウンサンプリングのプロセスは、フィルタリング済点群からの排除のための空間的特徴のランダムな選択、X番目毎の空間的特徴の除外(Xは2よりも大きな整数)、またはフィルタリング済点群に含める最大数以下の空間的特徴の選択を含んでもよい。別の例として、ダウンサンプリングのプロセスは、立方単位(すなわち単位体積)当たり最大数の空間的特徴を特定する最大空間的特徴密度判断基準によって制御されてもよい。たとえば、最大空間的特徴密度判断基準は、フィルタリング済点群380が含有する空間的特徴が立方フィート当たり多くても1つであると特定するので、結果的に得られるフィルタリング済点群の中に表わされる空間的特徴が立方フィート当たり1つ以下になるように元の点群をダウンサンプリングし得る。
ブロック510で、ADFアセンブリモジュール350は、フィルタリング済点群380、統計的メタデータ378、および非画像センサデータ374を用いてADF132を生成する。1つの実施形態では、ADF132は、表わされた空間的特徴の統計的メタデータ378を記憶する各多次元座標毎のフィールドとともに、一覧または他の多次元座標の組としてファイルまたはフィルタリング済点群380を表わす他のデータ構造を備える。図示のため、各々の多次元座標は、移動体装置104の(X,Y,Z)座標フレーム中の対応の空間的特徴の3D位置を表わす(x,y,z)浮動小数点ベクトルを備えてもよい。データ構造はさらに、以下に説明するように、非画像センサデータ374を記憶する1つ以上のフィールドと、ADFサーバ102がADF132に割当てた一意の識別子(UID)を記憶するフィールドとを含んでもよい。
ブロック512で、ADFアセンブリモジュール350は、ADFサーバ102への送信用の適切なネットワークインターフェイス(たとえば、セルラーインターフェイス332またはWLANインターフェイス330)にADF132を与える。ある実施形態では、ADFアセンブリモジュール350は、ADFサーバ102に、ADFをアップロードするように要求を信号で送り、ADFサーバ102は、ADFがアップロードされる前に、ADFアセンブリモジュール350がADF132中の適切なフィールドに挿入する、ADFに割当てられるUIDで応答する。さらに、ブロック502−512のプロセスを、ADF132がアップロードされる前にADF132が完成される順次のプロセスとして説明したが、ある実施形態では、ADF132は、ADFブロックのシーケンスとしてADF132が生成される繰返しプロセスで生成されかつアップロードされる。各々のADFブロックは、捕捉されたイメージの一部から生成される点群のサブセットを含有し、各々のADFブロックは、それが生成される際にADFに割当てられかつADFサーバ102にアップロードされるUIDで標識付けられる。このように、ADFサーバ102はこれらのADFブロックを個別に記憶してもよく、または同じUIDで示されるADFブロックを単一のADF132に組合せてもよい。
移動体装置104がアップロードするADF132は、移動体装置104が位置するエリア中に存在するある視覚的特徴を表わす。しかしながら、ブロック504および508を参照して上述したような移動体装置104が実現するプライバシー管理を通じて、ADFサーバ102に与えられるADF132に含有される情報には実質的に、プライバシー侵害になり得る一切の内容がない。むしろ、結果的に得られるADF132は、別の移動体装置がこれらの記述された視覚的特徴に基づいて後で実質的にローカライズできるのに十分な程度に当該エリアのさまざまな端縁、角、および他の視覚的特徴を記述し得るまばらな点群を含有する一方で、まばらな点群が含有する情報は、人間の知覚に有意義なようにエリアの外観の複製を支援するには不十分である。そのため、ADFサーバ102は、マッピング済のエリアに関する潜在的に微妙な情報を暴露する測り得る潜在性を有する移動体装置104からの一切の情報の所有に至ることはない。
ADF/LADF生成プロセスにおけるADFサーバ102の役割は、ブロック514で、ネットワークインターフェイス202を介した移動体装置104からのADF132の、合成モジュール212による受信で開始する。ADF132を受信すると、合成モジュール212は一時的にADFデータ記憶204中にADF132をインデックス付けして記憶する。ADF132は、ADF132に割当てられたUIDに基づいて、ADF132が表わす点群に表わされる空間的特徴に基づいて、ADF132とともに含まれる場所インジケータに基づいてなど、インデックス付けされて一時的に記憶されてもよい。少なくとも1つの実施形態では、各々のADF132は、図10−図12を参照して以下に説明する2層問合せ方策を用いて、ADFデータ記憶204中に記憶されインデックス付けされる。
ある事例では、複数の移動体装置は、あるエリアについてまたは隣接するエリアについての対応のADFをアップロードしたかもしれない。このように、ADFサーバ102は、ブロック516で、得られる合成ADFを1つ以上のLADFに処理する前に、これらのともに位置する(co-located)ADFを合成するように動作する。ブロック516の合成プロセスは、さまざまなトリガのうち任意のものに応答して開始されてもよい。たとえば、合成プロセスは、特定された量の時間の経過、移動体装置からの特定された数のADFの受信、移動体装置からのLADFに対する要求などによってトリガされてもよい。そのようなトリガに応答して、ブロック518で、合成モジュール212は問合せモジュール220に信号を送ってADFデータ記憶204に問合せて、「近隣の」ADF−すなわち同じエリアまたは隣接するエリアをカバーするADF−があるか否かを同定する。ある実施形態では、近隣のADFは、ADFデータ記憶240中のADFに関連付けられる場所インジケータの比較に基づいて同定されてもよい。たとえば、移動体装置104からのADF132のアップロードが合成プロセスをトリガし、アップロードされたADF132が場所インジケータとして1つ以上のWLAN MACアドレスを含むと仮定すると、アップロードされたADFとともに、またはアップロードされたADFが同定するWLAN基地局がカバーするエリアに隣接するとわかっているWLAN基地局のWLAN MACアドレスとともに供給されるのと同じWLAN MACアドレスを有すると問合せモジュール220が同定するADFデータ記憶240中のそれらのADFが近隣のADFとして同定される。別の例として、アップロードされたADFには、場所インジケータとしてGPS座標が与えられてもよく、問合せモジュール220は、それらの対応のGPS座標に基づいてADFデータ記憶240中のADFを近隣のものと同定してもよい。他の実施形態では、アップロードされたADF中に表わされる空間的特徴とADFデータ記憶240中に記憶されるADFに表わされる空間的特徴との比較に基づいて、近隣のADFを同定してもよい。このように、十分に重なり合う空間的特徴の組を有するADFを同じエリアまたは近隣のエリアを表わすと同定してもよく、したがって近隣のADFとして同定してもよい。またさらに、図10−図12を参照して以下に説明するように、ADFサーバ102は、ADFデータ記憶204およびLADFデータ記憶206のうち一方または両方について2層問合せを実現してもよく、これにより、各々の記憶されたADF/LADFがその空間的特徴の組と1つ以上の場所インジケータとの両方に基づいてインデックス付けされて記憶され、アップロードされたADFの空間的特徴の組とアップロードされたADFの1つ以上の場所インジケータとの両方を用いて2層インデックス付けプロセスを行なうことによって近隣のADFが同定される。
問合せモジュール220が同定する1つ以上の近隣のまたはともに位置するADFの組を本明細書中では「ADFクラスタ」と称する。ADFクラスタが同定されると、ブロック520で、合成モジュール212は、ADFクラスタのADF中に表わされる重複した空間的特徴を除外する1つ以上の重複排除(deduplication)プロセスを行なうように動作する。さらに、ADFクラスタが過度に大きなエリアを表わすかまたは過度に多数の空間的特徴を含有する場合、合成モジュール212は、ADFクラスタを1つ以上のより小さなADFクラスタに分割してもよく、その各々を本明細書中に記載のように処理してもよい。ブロック522で、合成モジュール212は、1つ以上の周知の閉ループアルゴリズムを用いてADFクラスタのADF同士の間の相対的な整列を判断する。ブロック524で、合成モジュール212はADFクラスタを分析して、1つ以上の安定性判断基準を用いて同定されるようなADFクラスタのADFの大部分またはすべてにおいて観察されないことが確実な空間的特徴を選択的に除外する。これは、エリアの永久的視覚的特徴を表わしそうにない空間的特徴(およびしたがってローカリゼーションの不確実な源)を排除することと、ADFクラスタが表わす組合された点群中の空間的特徴の合計数を減らすこととの両方の目的を果たす。除外すべき空間的特徴を選択するにあたり、合成モジュール212は、空間的特徴量がADFクラスタのADF内に観察される頻度に基づいて空間的特徴量を与えることなどによって、安定性判断基準に基づくスコア付けシステムを用いてもよい。さらに、ADFが新しいほどエリアの現在の状態をより表わしやすいので、合成モジュール212は、より新しいADF中の空間的特徴が優先的に含有されるようにしてもよい。
ある事例では、ADFとともに供給される非画像センサデータ374は、ADFがジオリファレンスされるのを可能にしてもよい。たとえば、非画像センサデータ374は、ADF中の空間的特徴の検出の際に、GPS座標および移動体装置104のジオリファレンス済のポーズのインジケータを含んでもよい。ブロック522で判断されるADFクラスタのADFの相対的整列により、ADFクラスタ中の1つのADFがジオリファレンスされると、ブロック526で、ADFクラスタ中の他のクラスタを、ジオリファレンス済のADFの相対的整列および測位位置(ジオロケーション)情報を用いた座標フレーム変換の適用によってジオリファレンスし得る。さらに、グーグルインコーポレイテッドが提供するストリートビューツールなどを介してジオリファレンス済の視覚的参照データを入手可能である場合、このジオリファレンス済の視覚的参照データを用いてADFクラスタのADFをジオリファレンスしてもよい。
ADFクラスタのADFが合成されると、ブロック528で、ローカリゼーション生成モジュール218は、合成ADFを用いて、合成ADFが表わすエリアについての1つ以上のLADFを生成する。合成ADFのデータサイズが十分に小さいかまたはカバーするエリアが十分に小さい場合、合成ADFを単一のLADFとして記憶しインデックス付けしてもよい。しかしながら、合成ADFのデータサイズがしきい値を超える、合成ADFがあまりに大きなエリアをカバーする、またはエリアが(ADFの点群中の壁、仕切り、扉、および窓を介して同定されるような)複数の別個のサブエリアを含有する場合には、ローカリゼーション生成モジュール218は、合成ADFを空間的に仕切って、各々が異なるサブエリアをカバーする複数のLADFを生成してもよい。そのような事例では、ローカリゼーション生成モジュール218は、合成ADFが表わす点群内の壁または他の部屋分割物の検出に基づいてエリア内の複数の部屋を同定することなどによって、論理的仕切り線を同定して、各々の同定された部屋毎に別個のLADFを作成しようとしてもよい。このことには、LADFの範囲を単一の部屋に限定するというプライバシーの観点からの付加的な有利がある。
生成された各LADF毎に、ブロック530で、ローカリゼーション生成モジュール218は、LADFをLADFデータ記憶206に与えてインデックス付けし、記憶する。以上に注記されるようにかつ以下に詳細に説明するように、ある実施形態では、LADFデータ記憶206は、各々のLADF毎の2層インデックスを用いる。これにより、各々のLADFを、1つ以上の場所の印とLADFが表わす空間的特徴との両方でインデックス付けする。そのため、LADFデータ記憶206中にLADFを記憶する場合に、LADFデータ記憶206は、その場所インジケータまたはその空間的特徴の組(およびその中の相対的外形)の一方でインデックス付けされるデータ記憶エントリ中にLADFを記憶し、場所インジケータまたは空間的特徴の組の他方を、同様にインデックス付けされる複数のLADFを選択するように用いる。
方法500のブロック530でのプロセスが終わると、ADFサーバ102は、エリアを探査する機会があった1つ以上の移動体装置104からアップロードされた1つ以上のADFを用いて、以前にマッピングしていないエリアについて1つ以上のLADFを生成している。このように、ADFサーバ102は、以下の図6によって説明するように、このエリアに初めて遭遇する任意の他の移動体装置にLADFを供給する準備が整う。
図6は、少なくとも1つの実施形態に従う、図4のブロック408が表わすLADFローカリゼーションおよび更新プロセスを行なうための例示的な方法600を示す。方法600はブロック602で開始し、移動体装置104は、移動体装置104が以前に遭遇したことがない未マッピングのエリアに入る。この判断に応答して、移動体装置は、当該エリアについての空間的特徴検出プロセスを開始する。この目的のため、移動体装置104は、画像化センサ124,126をトリガしてエリアのイメージ382(図3)の捕捉を始め、かつ奥行きセンサ130をトリガしてエリアについての奥行き情報の捕捉を始め、空間的特徴検出モジュール358は、イメージ382および奥行き情報からエリアを表わす初期の空間的特徴の組を検出する。ブロック604で、要求モジュール360は、エリア中の空間的特徴の検出の際に移動体装置104の場所についての1つ以上の場所インジケータを判断する。以上注記したように、これらの場所インジケータは、GPSセンサ328から得たGPS座標、WLAN MACアドレス、WLAN BSID、もしくは携帯電話基地局BSIDなどの推量的場所インジケータ、またはその組合せなどの具体的な地理的場所インジケータであってもよい。ブロック606で、要求モジュール360は、初期の空間的特徴の組および1つ以上の場所インジケータを用いてLADF要求236を生成し、LADF要求236を送信して、エリアについてのLADFの入手可能性についての問合せを開始する。
ネットワークインターフェイス202を介したADFサーバ102の問合せモジュール220でのLADF要求236の受信に応答して、ブロック608で、問合せモジュール220は、LADFデータ記憶206に問合せて、移動体装置104が用いる、エリアについての好適なLADFを同定する。少なくとも1つの実施形態では、問合せモジュール220およびLADFデータ記憶206は、図10−図12を参照して以下に詳細に説明するように、2層インデックス付け方式を用いて、初期の空間的特徴の組と場所インジケータとの両方に基づいて好適なLADFを同定する。好適なLADFが同定されると仮定すると、ブロック610で、問合せモジュール220は、要求を発している移動体装置104に(LADF134として)選択されたLADFを送信する。
LADF要求236に応答したLADF134の受信に応答して、要求モジュール360は、LADF134をローカリゼーションモジュール362とフィードバックモジュール364との両方に与える。ブロック612で、ローカリゼーションモジュール362は、1つ以上の周知の閉ループアルゴリズムを用いて、LADF134中に表わされる空間的特徴のまばらな点群に対する空間的特徴検出モジュール358が検出したエリアからの空間的特徴の比較に基づいて、移動体装置104をLADF134に表わされる座標フレームにローカライズする。その結果は、同定された座標フレーム中の移動体装置104の判断ポーズ384(図3)である。さらに、LADFをジオリファレンスすることができた場合、判断されたポーズ384を同様に適切な変換を通じてジオリファレンスしてもよい。移動体装置104がローカライズされポーズ384が判断されると、ブロック614で、移動体装置104の1つ以上の構成要素は、ARまたはVRコンテンツ、複数プレーヤによるゲーム、ナビゲーションツールなどの実現例などの正確なポーズ情報に依拠するさまざまな機能性を提供し得る。
LADF134の生成は、1つ以上の移動体装置104がエリアで観察した空間的特徴の検出および選択に依拠する。しかしながら、エリアは観察された空間的特徴に含まれる過渡的なオブジェクトを有することがあるまたはエリアの構成は時間とともに変化することがあるので、LADF134が有用でなくなるまたは「古くなる」ことがある。そのため、ある実施形態では、ユーザの許可により、移動体装置104は、LADFに対するフィードバックを与えてもよく、これをADFサーバ102が用いて他の移動体装置によるその後の使用のためにLADFを洗練または「リフレッシュ」してもよい。この目的のため、ブロック616で、フィードバックモジュール364は、空間的特徴検出モジュール358が同定したエリア中の空間的特徴を、LADF134が表わすまばらな点群の空間的特徴と比較して、空間的特徴検出モジュール358も観察したLADF134の空間的特徴、空間的特徴検出モジュール358が観察しなかったLADF134の空間的特徴、および、LADF134中に存在しなかった、空間的特徴検出モジュール358が観察した空間的特徴のうち1つ以上を表わすLADFフィードバック238を生成してもよい。LADFフィードバック238はADFサーバ102にアップロードされる。ブロック618で、空間的特徴フィルタモジュール216は、LADFフィードバック238を受信し、これに応じて特徴量データ記憶208中の空間的特徴の特徴量を更新し、次に更新された特徴量に基づいて新しい空間的特徴を含めるまたは以前に含まれた空間的特徴を除外するようにLADFを更新してもよい。
図7−図9はともに、少なくとも1つの実施形態に従う、LADFフィードバック238に基づいてLADF134を洗練するプロセスの例を示す。まず、LADF134中に表わされるすべての空間的特徴に初期特徴量が与えられる。これは、LADF134中のすべての空間的特徴について同じであってもよく、または空間的特徴の1つ以上の性質に基づいていてもよい。たとえば、空間的特徴には、LADF134がそこから生成されたADFクラスタのADF中に現われた回数に基づいて初期特徴量が割当てられてもよい。以下の説明のため、特徴量がより高いほどより信頼性のある空間的特徴を反映し、逆に特徴量がより低いほどより信頼性の低い特徴量を示すと仮定する。移動体装置104が供給するLADFフィードバック238は1つ以上のエントリを含むことができ、各々のエントリは、移動体装置104によるLADF134中に存在する空間的特徴の観察を確認する、移動体装置によるLADF134中に存在する空間的特徴の観察を否定する、または移動体装置104が観察したがLADF134中には存在しない新しい空間的特徴を示唆する、のいずれかである。このように、空間的特徴の特徴量は、エントリおよびそれらが表わすフィードバックの種類に基づいて調整されてもよい。
図7の方法700は、LADFフィードバック238の各エントリ毎にADFサーバ102が実現する処理を表わす。ブロック702で、空間的特徴フィルタモジュール216は、LADFフィードバック238の選択されたエントリにアクセスして、エントリが表わすフィードバックの種類を判断する。移動体装置104がLADF134の対応の空間的特徴を観察したとフィードバックエントリが確認する場合、ブロック704で、空間的特徴フィルタモジュール216は、移動体装置104による空間的特徴の観察の時間を示すタイムスタンプなどの、フィードバックエントリ中に表わされるような空間的特徴の同定に関する1つ以上のパラメータを抽出し、抽出されたパラメータを特徴量データ記憶208の中に記録する。さらに、ブロック706で、空間的特徴フィルタモジュール216は、その最近の観察を反映するように対応の空間的特徴の特徴量を増加させる。
ブロック702に戻って、移動体装置104がLADF134中に表わされる空間的特徴を観察しなかったとフィードバックエントリが示す場合、ブロック708で、空間的特徴フィルタモジュール216は、空間的特徴が観察されるはずであったが観察されなかった領域のイメージを移動体装置104が捕捉していた時間を示すタイムスタンプなどの、フィードバックエントリ中に表わされるような空間的特徴の同定に関する1つ以上のパラメータを抽出し、抽出されたパラメータを特徴量データ記憶208中に記録する。さらに、ブロック710で、空間的特徴フィルタモジュール216は、そのミスされた観察を反映するように対応の空間的特徴の特徴量を減らす。
再びブロック702に戻って、移動体装置104がLADF134中に表わされなかった空間的特徴を確かに観察したとフィードバックエントリが示す場合、ブロック712で、空間的特徴フィルタモジュール216は、移動体装置104が空間的特徴を最初にまたは最後に観察した時間を示すタイムスタンプ、空間的特徴の観察の頻度(たとえば、移動体装置104が空間的特徴を含有する領域の方向に向けられたときに空間的特徴が観察された時間の割合)などの、フィードバックエントリ中に表わされるような以前に観察されなかった空間的特徴の同定に関する1つ以上のパラメータを抽出し、抽出されたパラメータを特徴量データ記憶208の中に記録する。さらに、ブロック714で、空間的特徴フィルタモジュール216は、特徴量データ記憶208中の対応の空間的特徴についての特徴量を作り出し、空間的特徴が特徴量データ記憶208中に既に表わされているのでなければ初期値を特徴量に割当てる。そうでない場合、特徴量が新たに観察された空間的特徴について既に存在する場合、(すなわち、以前に別の移動体装置104も空間的特徴を観察した場合)、空間的特徴フィルタモジュール216は当該空間的特徴についての特徴量を増加させる。次に方法700はブロック702に戻って、LADFフィードバック238中の次のエントリについてプロセスを繰返す。
図8は、少なくとも1つの実施形態に従う、LADF134中に含めるための候補空間的特徴を評価するための例示的な方法800を示す。上述したように、移動体装置104は、あるエリアについてのLADF134に含めるための候補であり得る当該エリア中の新たに観察された空間的特徴を同定するLADFフィードバック238を与えてもよく、空間的特徴フィルタモジュール216は初めて空間的特徴が検出されたときに特徴量を作り出して、別の移動体装置104が同じ空間的特徴を観察するたびに特徴量を増加させてもよい。このように、これらの空間的特徴のうちの各々毎の特徴量は、LADF134中に含めるための空間的特徴の候補適格性(candidacy)の可能性の指標(すなわち、空間的特徴がローカリゼーションの目的のためにどの程度「信頼性がある」か)として働く。そのため、LADF134の経年変化があるしきい値を超えるなどのトリガ条件に応答してまたはLADF134が確実に改定されるであろうと示す移動体装置104からの十分なフィードバックに応答して、ブロック802で、空間的特徴フィルタモジュール216は、特徴量データ記憶208からLADF134中に含めるための考慮の下で候補空間的特徴のうち1つを選択し、ブロック804で、空間的特徴フィルタモジュール216は、選択された候補空間的特徴の特徴量を「THRESH_H」で指定される特定されたしきい値と比較する。このしきい値は固定されたしきい値であってもよく、1つ以上の現在の条件に基づいていてもよい。たとえば、1つの実施形態では、しきい値THRESH_Hは、LADF134中に現在含まれる空間的特徴の中間の現在の特徴量に設定されてもよい。
候補空間的特徴の特徴量がしきい値THRESH_Hを超えない場合、空間的特徴フィルタモジュール216は、(現在の回の評価における)候補空間的特徴の一切のそれ以上の考慮を止めて、方法800はブロック802に戻って、次の候補空間的特徴の選択を行なう。そうでない場合、特徴量がしきい値THRESH_Hを超えると、ブロック806で、空間的特徴フィルタモジュール216は、ローカリゼーション生成モジュール218に信号を送って、選択された候補空間的特徴をLADF134に組入れる。ある実施形態では、LADF134への新しい空間的特徴の組入れは、LADF134からの別の空間的特徴の排除を要件とすることがある。そのような場合、空間的特徴フィルタモジュール216は、たとえば、LADF134中に現在含まれる空間的特徴のすべてのうちから特徴量が最も低い空間的特徴を選択してもよい。候補空間的特徴をLADF134に組入れた後、方法800はブロック802に戻って、次の候補空間的特徴を選択し評価する。
図9は、少なくとも1つの実施形態に従う、LADF134からの除外のための空間的特徴を評価するための例示的な方法900を示す。上述のように、移動体装置104は、移動体装置104がLADF134の空間的特徴を観察したか否かを確認するLADFフィードバック238を与えてもよく、空間的特徴フィルタモジュール216は、これに応じて空間的特徴の特徴量を調整してもよい。このように、これらの空間的特徴のうち各々毎の特徴量は、ローカリゼーションの目的のため、空間的特徴の現在の信頼性の指標として働く。そのため、トリガ条件に応答して、ブロック902で、空間的特徴フィルタモジュール216は、現在LADF134に含まれる空間的特徴を選択し、ブロック904で、空間的特徴フィルタモジュール216は、選択された空間的特徴の特徴量を「THRESH_L」で指定された特定されたしきい値と比較する。このしきい値は固定されたしきい値であってもよく、1つ以上の現在の条件に基づいていてもよい。たとえば、1つの実施形態では、しきい値THRESH_Lは、現在LADF134に含まれていない候補空間的特徴の中間の現在の特徴量に設定されてもよい。
候補空間的特徴の特徴量がしきい値THRESH_Lを確かに超えている場合、空間的特徴フィルタモジュール216は、(現在の回の評価において)選択された空間的特徴の一切のそれ以上の考慮を止めて、方法900はブロック902に戻って、LADF134中の次の空間的特徴を選択する。そうでない場合、特徴量がしきい値THRESH_Lを下回ると、ブロック906で、空間的特徴フィルタモジュール216は、ローカリゼーション生成モジュール218に信号を送って、選択された空間的特徴をLADF134から除外する。ある実施形態では、LADF134からの空間的特徴の除外は、除外された空間的特徴を置き換える別の空間的特徴の選択を要件とすることがあり、したがって図8の方法800の候補空間的特徴評価プロセスを開始するトリガ条件として働くことがある。選択された空間的特徴をLADF134から除外した後、方法900はブロック902に戻って、LADF134中の次の空間的特徴を選択し評価する。
ADFサーバ102が維持するLADFは、世界のエリアの視覚的特徴および幾何学的情報の表示を含有する。この情報は潜在的に微妙であり、したがってADFサーバ102は、LADFデータ記憶206中に記憶されるLADFコンテンツおよび(ある実現例では同じデータ記憶を備え得る)ADFデータ記憶204中に記憶されるADFコンテンツへの未認証のまたは意図しないアクセスを防止するように配慮する。この目的のため、ADFサーバ102は、LADFデータ記憶206のLADFコンテンツのための2層インデックス付け方式の形態のプライバシー防衛手段(safeguard)を用いる。図10−図12は、問合せモジュール220およびLADFデータ記憶206の例示的な構成ならびにこの2層インデックス付け方式に従うその動作を示す。ADFデータ記憶204を、同様に以下に説明する態様で構成してもよい。
図10は、問合せモジュール220およびLADFデータ記憶206が実現する例示的な2層問合せインターフェイス1000を示す。描かれるように、LADFデータ記憶206が記憶する各々のLADF(たとえばLADF134)は、LADFデータ記憶206中に実現されるLADFデータベース1004の対応のLADFエントリ1002に記憶される。各々のLADFエントリ1002は、その中に記憶されるLADFに関連付けられるUIDを記憶するUIDフィールド1006、LADFが現在表わす空間的特徴の組を記憶する空間的特徴フィールド1008、およびLADFに関連付けられる場所インジケータまたは他の場所データを記憶する場所フィールド1010を含む複数のフィールドを含む。
十分な防衛手段がなければ、未認証の当事者がLADFデータ記憶206からLADF134を入手することができ、したがって潜在的に微妙な情報が露出するおそれがあり得る。2層問合せインターフェイス1000は、要求を発している移動体装置104または他の要求者が、それらが要求されたLADFに関連付けられるエリアにいる(またはいた)と証明することを要件とすることによって、LADFデータ記憶206のLADFデータをより十分に確保し得る。GPS座標などのいくつかの場所インジケータは、容易になりすましされたりまたは他のやり方で偽造されたりすることがある。さらに、WLAN MACアドレスまたは携帯電話基地局BSIDなどの他の種類の場所インジケータは、対象のエリアよりもはるかに大きな領域をカバーすることがあり、したがって十分な粒度を欠いていることがある。そのため、場所インジケータのみでは、要求を発している移動体装置が実際に特定されたエリア中にいることの十分な証明にはならないことがある。このように、問合せインターフェイス1000は、代わりに、特定されたエリア中の移動体装置104が観察する空間的特徴の組を移動体装置104が送信することを要件とすることによる、移動体装置104が特定されたエリア中にいるという証明を要件としてもよい。問合せインターフェイス1000は次に、この空間的特徴の組をLADFエントリの空間的特徴と比較して、一致するLADFを同定してもよい。しかしながら、多くのエリアは似たような構造的構成(たとえばオフィスビル内の同様の部屋)を有していて、したがって、複数のLADFが、送信された空間的特徴の組に十分に一致し得るおそれがあり、したがって要求を発している移動体装置に誤ったLADFが供給されることがある。これは、潜在的なプライバシー侵害になってしまうことと、移動体装置104にローカリゼーションのための誤った参照を提供してしまうこととの両方のために、二重に問題である。
このように、移動体装置が実際にそれがそこにあると表わすエリアの中にいるのを確実にすることと、正しいLADFが移動体装置に供給されるのを確実にすることとの両方のために、問合せインターフェイス1000は、移動体装置が送信する1組の空間的特徴と1つ以上の場所インジケータとの両方を利用して、LADFデータベース1004からの正しいLADFを同定する。この方策の下で、移動体装置または他の要求者は、同定されたエリア中に観察される空間的特徴を送信することによって、要求者が同定されたエリア中にいて、したがって同定されたエリアについてのLADFが公開されても潜在的に微妙な情報が意図せず開示されるおそれが低いと証明することを認めるべきである。というのも、要求者は、単に示されたエリアの周りを見て、供給されたLADFが表わす視覚的情報とは桁違いにより詳細な視覚的情報を得ることがあるからである。
この目的のため、問合せモジュール220は、空間的特徴問合せインターフェイス1012および場所選択モジュール1014を含む。空間的特徴問合せインターフェイス1012は、移動体装置104が送信したLADF要求236中の空間的特徴の組1016を用いて、LADFデータベース1004のLADFエントリ1002の空間的特徴フィールド1008の探索に基づいて候補LADFの初期問合せを行なう。この探索は、空間的特徴の相対的外形を考慮する。というのも、それらはLADF要求236が表わす画像の中に投影されて、LADFデータベース1004中の空間的特徴に対する整合性について確認するからである。場所選択モジュール1014は次に、LADF要求236とともに送信された1つ以上の場所インジケータ1018と候補LADFの場所フィールド1010中の各LADF毎の場所情報との比較に基づいて、同定された候補LADFから選択する。
さらに、1組の空間的特徴以外に場所インジケータまたは他の鍵を用いたLADFエントリ1002の探索または他のアクセスを防止するために、ある実施形態では、LADFデータ記憶206は、空間的特徴フィールド1008によってLADFエントリ1002をインデックス付けするように構成され、さらに場所フィールド1010によるLADFエントリ1002のインデックス付けを避けるように構成される。この構成では、LADFの空間的特徴の組を介してLADFデータベース1004のLADFエントリ1002を探索することができるが、最初に場所によって探索することはできない。このように、場所インジケータのみを送信しても、LADFデータベース1004からLADF134が同定されたり発生されたりする結果にはならない。
図11は、本開示の少なくとも1つの実施形態に従う、図10の2層問合せインターフェイス1000の動作の例示的な方法1100を示す。方法1100は、ブロック1102で、移動体装置または他の要求者からの示されたエリアについてのLADF要求236の送信で開始する。少なくとも1つの実施形態では、LADF要求236を受入れて処理するために、ADFサーバ102は、示されたエリア中に観察される空間的特徴の組1016と、示されたエリア中の移動体装置が入手しかつ判断した1つ以上の場所インジケータ1018とをLADF要求236が少なくとも含むことを要件とする。
ブロック1104で、空間的特徴問合せインターフェイス1012は、LADFデータベース1004のLADFエントリ1002を探索して、LADF要求236の空間的特徴の組1016と十分に重なりかつ空間的特徴の組1016の投影された空間的特徴の外形に整合する相対的外形を有する空間的特徴フィールド1008中の空間的特徴の組を有するLADFエントリ1002を見出す。1つの実施形態では、分析された各LADFエントリ1002毎に、空間的特徴問合せインターフェイス1012は、空間的特徴の組1016とLADFエントリ1002の空間的特徴フィールド1008との間で一致する空間的特徴のカウントを判断してもよい。空間的特徴問合せインターフェイス1012は次に、LADFエントリ1002について判断されたカウント値に基づいてN個の候補LADF(たとえば、図10の候補LADF1021,1022,1023)を選択してもよい。たとえば、ある事例では、特定されたしきい値よりも大きなカウントを有するあらゆるLADFが候補LADFとして選択されてもよい。他の事例では、空間的特徴問合せインターフェイス1012は、N個の候補LADFとして、カウント値が最も高いN個のLADFを選択してもよい。
ブロック1106で、空間的特徴問合せインターフェイス1012は、少なくとも1つの候補LADFがLADFデータベース1004から同定されたことを検証する。そうでない場合、ブロック1108で、問合せモジュール220は、示されたエリアについてLADFが入手可能でないことを、要求を発している移動体装置に信号で通知する。そうでない場合、1つ以上の同定された候補LADFは、(たとえば、候補LADFのUIDを同定することによって)場所選択モジュール1014に供給され、ブロック1110で、場所選択モジュール1014は、LADF要求236の1つ以上の場所インジケータ1018を候補LADFの場所フィールド1010によって示される場所と比較して、各々の候補LADFと1つ以上の場所インジケータ1018との間の一致をスコア化する。ブロック1112で、場所選択モジュール1014は、1つ以上の場所インジケータ1018と候補LADFのうち1つの場所情報との間に十分な一致があるか否かを検証する。ない場合、ブロック1114で、問合せモジュール220は、示されたエリアについてLADFが入手可能でないことを、要求を発している移動体装置に信号で通知する。さもなければ、ブロック1116で、場所選択モジュール1014は、同定されたエリアとしてともに位置するLADFとして、最良の場所一致度を有する候補LADFを選択して、LADF要求236に応答して、当該エリアについてのLADF134としてこの選択されたLADFを移動体装置に与える。
LADFデータベース1004のLADFへの未認証のまたは意図しないアクセスに対する保護を与えることに加え、移動体装置が検出するような空間的特徴およびそれらの外形を用いてLADF問合せを行なうことにより、二段階問合せプロセスを通じて最終的に選択されるLADFが、一致するLADFを用いて移動体装置のローカライズを成功させことが確実になる。これは、LADF問合せプロセスの第1の段階が、移動体で行なわれるローカリゼーションプロセスと同じまたは同様の候補LADFを同定する「ローカリゼーション」プロセスを行なって、観察されたLADF中の空間的特徴およびそれらの画像外形を用いてLADFに対する移動体装置のポーズを見出すからである。
図12は、少なくとも1つの実施形態に従う2層問合せインターフェイス1000の代替的な構成を示す。図10に描かれる実現例と同様に、LADFデータ記憶206は、各々がUIDフィールド1006、空間的特徴フィールド1008、および場所フィールド1010を有する複数のLADFエントリ1202を備えるLADFデータベース1204を実現する。しかしながら、図10の実現例とは反対に、LADFデータベース1204は、代わりに、場所フィールド1010に基づいてLADFエントリ1202をインデックス付けする。さらに、この実施形態では、問合せモジュール220は、LADFデータベース1204への場所問合せインターフェイス1212と空間的特徴選択モジュール1214とを備える。
描かれる実現例では、LADFに対する2層問合せは、1つ以上の候補LADFの組を同定するLADF要求236の1つ以上の場所インジケータ1018に十分に一致する場所情報を有するLADFに対する場所問合せインターフェイス1212によるLADFエントリ1202の第1層の探索として実現される。空間的特徴選択モジュール1214は次に、LADF要求236の空間的特徴の組1016を比較して、LADF要求236に応答して、要求を発している移動体装置に供給すべきLADF134として、空間的特徴の組1016に最も一致する候補LADFを選択する。
上述の発明の機能性の大部分および発明の原則の多くは、特定用途向けIC(ASIC)などの集積回路を用いたまたはそれにおける実現例によく適している。当業者は、本明細書中に開示される概念および原則によって導かれると、たとえば、利用可能な時間、現在の技術および経済的考慮によって動機付けられるおそらくはかなりの労力および多数の設計上の選択肢にも係わらず、最小限の実験によってそのようなICを生成することが容易に可能であることが期待される。したがって、簡潔さ、ならびに本開示に従う原則および概念を曖昧にする一切のおそれの最小化のため、そのようなソフトウェアおよびICのそれ以上の検討は、もしあるとしても、好ましい実施形態の範囲内の原則および概念に対する必須部分に限定されるであろう。
この文書では、第1および第2などの関係性を表わす用語は、あるエンティティまたは行為を、別のエンティティまたは行為の間の何らかの実際のそのような関係または順序を必ずしも要件としたり暗示したりすることなく当該エンティティまたは行為から区別するためにのみ用いられ得る。「備える」、「備えている」という用語、またはその何らかの他の変形は、非排他的包含をカバーすることが意図されるため、要素の一覧を備えるプロセス、方法、物品、または機器は、それらの要素のみを含むのではなく、明示的に列挙されないまたはそのようなプロセス、方法、物品、もしくは機器に内在的な他の要素を含むことがある。「備える」に続く要素は、それ以上の制約なく、当該要素を備えるプロセス、方法、物品、または機器中の付加的な同一の要素の存在を排除するものではない。本明細書中で用いるような「別の」という用語は、少なくとも第2以降として規定される。本明細書中で用いられるように「含む」および/または「有する」という用語は、備えるとして規定される。電気光学技術を参照して本明細書中で用いるような「結合される」という用語は、必ずしも直接にではなくまた必ずしも機械的ではないが、接続されると規定される。本明細書中で用いるような「プログラム」という用語は、コンピュータシステム上での実行のために設計された命令のシーケンスとして規定される。「プログラム」または「コンピュータプログラム」は、サブルーチン、機能、手順、オブジェクト方法、オブジェクト実現例、実行可能なアプリケーション、アプレット、サーブレット、ソースコード、オブジェクトコード、共有ライブラリ/動的負荷ライブラリ、および/またはコンピュータシステム上での実行のために設計される命令の他のシーケンスを含むことがある。
明細書および図面は単なる例示と考えられるべきであり、したがって開示の範囲は以下の請求項およびその均等物によってのみ限定されることが意図される。なお、全般的な説明で上述した活動または要素のすべてを要件とするわけではなく、具体的な活動または装置の一部を要件としないことがあり、説明したものに加えて1つ以上のさらなる活動を行なってもよくまたは1つ以上のさらなる要素を含んでもよい。またさらに、活動が列挙される順序は必ずしもそれらが行なわれる順序とは限らない。以上の描かれたフローチャートの工程は、特段の記載がなければ任意の順序であることができ、実現例に依存して工程を排除、繰返し、および/または追加してもよい。また、具体的な実施形態を参照して概念を説明した。しかしながら、当業者は、以下の請求項に述べるような本開示の範囲から逸脱することなく、さまざまな修正および変更をなすことができることを認める。これに応じて、明細書および図は、制限的な意味よりもむしろ例示と見なされるべきであり、すべてのそのような修正は本開示の範囲内に含まれることが意図される。
具体的な実施形態に関して有利、他の利点、および課題に対する解決策を上述した。しかしながら、何らかの有利、利点、または解決策を想到させ得るまたはより顕著にし得る有利、利点、課題に対する解決策、および何らかの特徴を、任意のまたはすべての請求項の決定的な、要件とされる、または必須の特徴として解釈すべきではない。

Claims (22)

  1. 方法であって、
    コンピューティングシステムにおいて、1つ以上の第1の移動体装置の組から1つ以上のエリア記述ファイルの組を受信することを備え、各エリア記述ファイルは、エリアにある対応の第1の移動体装置が検出する空間的特徴の点群を表わし、さらに
    前記コンピューティングシステムにおいて、前記1つ以上のエリア記述ファイルの組から前記エリアについてのローカリゼーションエリア記述ファイルを生成することを備え、前記ローカリゼーションエリア記述ファイルは前記エリアについての空間的特徴の点群を表わし、さらに
    前記コンピューティングシステムからの前記ローカリゼーションエリア記述ファイルを第2の移動体装置に与えることを備える、方法。
  2. 前記ローカリゼーションエリア記述ファイルを用いて前記第2の移動体装置でローカリゼーションプロセスを行なうことをさらに備える、請求項1に記載の方法。
  3. 前記1つ以上のエリア記述ファイルの組の各エリア記述ファイルは、
    前記エリア記述ファイルが表わす前記点群の各空間的特徴毎に、対応の座標フレームに基づいて前記空間的特徴の多次元座標を特定する空間的特徴データと、
    視野角または照明条件とは独立して前記空間的特徴の外観を各空間的特徴毎に表わす統計的データと、
    前記点群の前記空間的特徴の検出と同時に1つ以上の非画像センサから捕捉したセンサデータとを備える、請求項1に記載の方法。
  4. 前記ローカリゼーションエリア記述ファイルを生成することは、
    少なくとも、前記空間的特徴データのサブセットと前記組の各エリア記述ファイルの前記統計的データとを前記ローカリゼーションエリア記述ファイルに組入れることと、
    前記組の中の各エリア記述ファイルの前記センサデータを前記ローカリゼーションエリア記述ファイルから除くこととを備える、請求項3に記載の方法。
  5. 前記1つ以上のエリア記述ファイルの組は複数のエリア記述ファイルを備え、
    前記ローカリゼーションエリア記述ファイルを生成することは、
    前記複数のエリア記述ファイルが前記エリアに関連付けられていると同定することと、
    前記複数のエリア記述ファイルが表わす前記点群の重複をなくすことと、
    前記点群の相対的整列を判断することと、
    前記点群を前記ローカリゼーションエリア記述ファイルに組入れることとを備える、請求項1に記載の方法。
  6. 前記ローカリゼーションエリア記述ファイルを生成することはさらに、少なくとも1つの安定性判断基準に基づいて前記点群から空間的特徴を排除することを備える、請求項5に記載の方法。
  7. 前記ローカリゼーションエリア記述ファイルを生成することはさらに、
    前記点群に基づいて複数のサブエリアを同定することと、
    前記サブエリア中に位置する前記点群の前記空間的特徴から各サブエリア毎にローカルエリア記述ファイルを生成することとを備える、請求項5に記載の方法。
  8. 前記方法はさらに、
    前記コンピューティングシステムにおいて、前記第2の移動体装置からフィードバックデータを受信することを備え、前記フィードバックデータは、前記エリア中にある間に、前記ローカリゼーションエリア記述ファイルが表わす前記空間的特徴のうち1つ以上が前記第2の移動体装置によって検出されたか否かを同定し、さらに
    前記コンピューティングシステムにおいて、前記フィードバックデータに基づいて前記ローカリゼーションエリア記述ファイルを更新して更新済みローカリゼーションエリア記述ファイルを生成することと、
    前記コンピューティングシステムからの前記更新済みローカリゼーションエリア記述ファイルを第3の移動体装置に与えることとを備える、請求項1に記載の方法。
  9. 前記ローカリゼーションエリア記述ファイルを更新することは、
    前記ローカルエリア記述ファイルが表わす各空間的特徴毎のスコアを維持することと、
    前記ローカリゼーションエリア記述ファイルが表わす空間的特徴について、
    前記第2の移動体装置が前記空間的特徴を検出したことを示す前記フィードバックデータに応答して前記空間的特徴のスコアを増加させること、
    前記第2の移動体装置が前記空間的特徴を検出しなかったことを示す前記フィードバックデータに応答して前記空間的特徴の前記スコアを減らすこと、および
    少なくとも1つのしきい値に対する前記スコアの比較に基づいて前記ローカリゼーションエリア記述ファイルから前記空間的特徴を選択的に除外すること、とを備える、請求項8に記載の方法。
  10. 前記フィードバックデータは、前記第2の移動体装置が検出しかつ前記ローカリゼーションエリア記述ファイルが表わさなかった空間的特徴を同定し、
    前記ローカリゼーションエリア記述ファイルを更新することは、
    前記第2の移動体装置が検出する前記空間的特徴に関連付けられるスコアを増加させることと、
    前記スコアと少なくとも1つのしきい値との比較に応答して、前記第2の移動体装置が検出した前記空間的特徴を含めるように前記ローカリゼーションエリア記述ファイルを選択的に修正することとを備える、請求項8に記載の方法。
  11. コンピューティングシステムであって、
    複数の移動体装置に結合するネットワークインターフェイスと、
    第1のデータ記憶と、
    第2のデータ記憶と、
    前記ネットワークインターフェイスおよび前記第1のデータ記憶に結合される合成モジュールとを備え、前記合成モジュールは、1つ以上の第1の移動体装置の組から1つ以上のエリア記述ファイルの組を受信し、各エリア記述ファイルは、エリアにある対応の第1の移動体装置が検出する空間的特徴の点群を表わし、さらに
    前記第1のデータ記憶および前記第2のデータ記憶に結合されるローカリゼーション生成モジュールを備え、前記ローカリゼーションモジュールは、前記1つ以上のエリア記述ファイルの組から前記エリアについてのローカリゼーションエリア記述ファイルを生成し、かつ前記第2のデータ記憶中に前記ローカリゼーションエリア記述ファイルを記憶し、前記ローカリゼーションエリア記述ファイルは、前記エリアについての空間的特徴の点群を表わし、さらに
    前記第2のデータ記憶および前記ネットワークインターフェイスに結合される問合せモジュールを備え、前記問合せモジュールは、前記ネットワークインターフェイスを介して前記ローカリゼーションエリア記述ファイルを少なくとも1つの第2の移動体装置に与える、コンピューティングシステム。
  12. 前記組の各エリア記述ファイルは、
    前記エリア記述ファイルが表わす前記点群の各空間的特徴毎に、対応の座標フレームに基づいて前記空間的特徴の多次元座標を特定する空間的特徴データと、
    各空間的特徴毎に、視野角または照明条件とは独立して前記空間的特徴の外観を表わす統計的データと、
    前記点群の前記空間的特徴の検出と同時に1つ以上の非画像センサから捕捉したセンサデータとを備え、
    前記ローカリゼーションエリア記述ファイルは、
    前記組の各エリア記述ファイルの前記空間的特徴データの少なくともサブセットと、
    前記組の各エリア記述ファイルの前記統計的データの少なくともサブセットとを備える、請求項11に記載のコンピューティングシステム。
  13. 前記1つ以上のエリア記述ファイルの組は複数のエリア記述ファイルを備え、
    前記問合せモジュールは、前記複数のエリア記述ファイルが前記エリアに関連付けられていると同定し、
    前記合成モジュールは、
    前記複数のエリア記述ファイルが表わす前記点群の重複をなくすこと、
    前記点群の相対的整列を判断すること、および
    前記点群を前記ローカリゼーションエリア記述ファイルに組入れること、
    によって前記ローカリゼーションエリア記述ファイルを生成する、請求項12に記載のコンピューティングシステム。
  14. 前記合成モジュールはさらに、少なくとも1つの安定性判断基準に基づいて前記点群から空間的特徴を排除することによって前記ローカリゼーションエリア記述ファイルを生成する、請求項13に記載のコンピューティングシステム。
  15. 前記合成モジュールはさらに、さらに
    前記点群に基づいて複数のサブエリアを同定することと、
    前記サブエリアに位置する前記点群の前記空間的特徴から各サブエリア毎にローカルエリア記述ファイルを生成することとによって
    前記ローカリゼーションエリア記述ファイルを生成する、請求項13に記載のコンピューティングシステム。
  16. 前記コンピューティングシステムは、前記第1のデータ記憶および前記ネットワークインターフェイスに結合される空間的特徴フィルタモジュールをさらに備え、前記空間的特徴フィルタモジュールは、前記第2の移動体装置からフィードバックデータを受信し、前記フィードバックデータは、前記ローカリゼーションエリア記述ファイルを用いて、前記ローカリゼーションエリア記述ファイルが表わす前記空間的特徴のうち1つ以上が前記第2の移動体装置によって検出されたか否かを同定し、前記空間的特徴フィルタモジュールは、前記フィードバックデータに基づいて前記ローカリゼーションエリア記述ファイルを更新して更新済みローカリゼーションエリア記述ファイルを生成し、
    前記問合せモジュールは、前記ネットワークインターフェイスを介して前記更新済みローカリゼーションエリア記述ファイルを少なくとも1つの第3の移動体装置に与える、請求項11に記載のコンピューティングシステム。
  17. 前記空間的特徴フィルタモジュールは、
    前記ローカルエリア記述ファイルが表わす各空間的特徴毎にスコアを維持することと、
    前記ローカリゼーションエリア記述ファイルが表わす空間的特徴について、
    前記第2の移動体装置が前記空間的特徴を検出したことを示す前記フィードバックデータに応答して前記空間的特徴のスコアを増加させること、
    前記第2の移動体装置が前記空間的特徴を検出しなかったことを示す前記フィードバックデータに応答して前記空間的特徴の前記スコアを減らすこと、および
    少なくとも1つのしきい値に対する前記スコアの比較に基づいて前記ローカリゼーションエリア記述ファイルから前記空間的特徴を選択的に除外すること、とによって、
    前記ローカリゼーションエリア記述ファイルを更新する、請求項16に記載のコンピューティングシステム。
  18. 前記フィードバックデータは、前記第2の移動体装置が検出しかつ前記ローカリゼーションエリア記述ファイルが表わさなかった空間的特徴を同定し、
    前記空間的特徴フィルタモジュールは、
    前記第2の移動体装置が検出した前記空間的特徴に関連付けられるスコアを増加させること、および
    前記スコアと少なくとも1つのしきい値との比較に応答して、前記第2の移動体装置が検出した前記空間的特徴を含めるように前記ローカリゼーションエリア記述ファイルを選択的に修正すること
    によって前記ローカリゼーションエリア記述ファイルを更新する、請求項17に記載のコンピューティングシステム。
  19. 移動体装置であって、
    遠隔コンピューティングシステムに結合するネットワークインターフェイスと、
    前記移動体装置が位置するエリアでイメージを捕捉する複数の画像化センサと、
    捕捉された前記イメージ中の空間的特徴の第1の組を検出する空間的特徴検出モジュールと、
    前記ネットワークインターフェイスを介して前記遠隔コンピューティングシステムから前記エリアについてのローカリゼーションエリア記述ファイルを得るローカリゼーションモジュールとを備え、前記ローカリゼーションエリア記述ファイルは、前記エリアについての空間的特徴の第2の組を表わし、前記ローカリゼーションモジュールは、前記空間的特徴の第2の組に対する前記空間的特徴の第1の組の比較に基づいて前記移動体装置を前記エリアに関連付けられる座標フレームにローカライズする、移動体装置。
  20. 前記ローカリゼーションモジュールはさらに、前記ネットワークインターフェイスを介して前記遠隔コンピューティングシステムにフィードバックデータを与え、前記フィードバックデータは、前記第1の組の中に前記第2の組の空間的特徴が検出されたか否か、および前記第2の組の中に前記第1の組の空間的特徴が検出されなかったか否かのうち少なくとも1つを同定する、請求項19に記載の移動体装置。
  21. 移動体装置であって、
    遠隔コンピューティングシステムに結合するネットワークインターフェイスと、
    前記移動体装置が位置するエリアでイメージを捕捉する複数の画像化センサと、
    前記複数の画像化センサに結合される空間的特徴検出モジュールとを備え、前記空間的特徴検出モジュールは、捕捉された前記イメージ中の空間的特徴の組を検出し、さらに
    前記イメージの前記捕捉と同時にセンサデータを捕捉する1つ以上の1つの非画像センサの組と、
    前記ネットワークインターフェイス、前記空間的特徴検出モジュール、および少なくとも1つの前記非画像センサの組に結合されるアセンブリモジュールとを備え、前記アセンブリモジュールは、前記ネットワークインターフェイスを介してエリア記述ファイルを前記遠隔コンピューティングシステムに与え、前記エリア記述ファイルは、前記空間的特徴の組の選択されたサブセットの点群を表わしかつ前記センサデータを含む、移動体装置。
  22. 前記アセンブリモジュールはさらに、前記移動体装置が位置するエリアを同定し、かつ前記遠隔コンピューティングシステムから、同定された前記エリアについてのローカリゼーションエリア記述ファイルを要求し、
    前記アセンブリモジュールは、同定された前記エリアについての要求された前記ローカリゼーションエリア記述ファイルが入手不可能であると前記遠隔コンピューティングシステムから示されるのに応答して前記エリア記述ファイルを与える、請求項21に記載の移動体装置。
JP2017550888A 2015-05-11 2016-05-05 移動体装置ローカリゼーションのためのエリア記述ファイルのクラウドソーシングによる作成および更新 Active JP6602889B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/708,877 2015-05-11
US14/708,877 US9811734B2 (en) 2015-05-11 2015-05-11 Crowd-sourced creation and updating of area description file for mobile device localization
PCT/US2016/030940 WO2016182843A1 (en) 2015-05-11 2016-05-05 Crowd-sourced creation and updating of area description file for mobile device localization

Publications (2)

Publication Number Publication Date
JP2018519558A true JP2018519558A (ja) 2018-07-19
JP6602889B2 JP6602889B2 (ja) 2019-11-06

Family

ID=56133022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017550888A Active JP6602889B2 (ja) 2015-05-11 2016-05-05 移動体装置ローカリゼーションのためのエリア記述ファイルのクラウドソーシングによる作成および更新

Country Status (6)

Country Link
US (1) US9811734B2 (ja)
EP (1) EP3295128A1 (ja)
JP (1) JP6602889B2 (ja)
KR (1) KR102044491B1 (ja)
CN (1) CN107430686B (ja)
WO (1) WO2016182843A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020178916A1 (ja) * 2019-03-01 2020-09-10 株式会社ソニー・インタラクティブエンタテインメント 環境地図管理装置、環境地図管理システム、環境地図管理方法及びプログラム

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9026994B2 (en) 2013-03-07 2015-05-05 Microsoft Technology Licensing, Llc Cloud-based localization platform
WO2016077798A1 (en) 2014-11-16 2016-05-19 Eonite Perception Inc. Systems and methods for augmented reality preparation, processing, and application
US10055892B2 (en) 2014-11-16 2018-08-21 Eonite Perception Inc. Active region determination for head mounted displays
US9916002B2 (en) 2014-11-16 2018-03-13 Eonite Perception Inc. Social applications for augmented reality technologies
CN106454884B (zh) * 2015-08-10 2018-05-29 上海连尚网络科技有限公司 用于区分同名无线接入点的方法和设备
US10607139B2 (en) * 2015-09-23 2020-03-31 International Business Machines Corporation Candidate visualization techniques for use with genetic algorithms
US10685035B2 (en) 2016-06-30 2020-06-16 International Business Machines Corporation Determining a collection of data visualizations
EP3943888A1 (en) 2016-08-04 2022-01-26 Reification Inc. Methods for simultaneous localization and mapping (slam) and related apparatus and systems
US11017712B2 (en) 2016-08-12 2021-05-25 Intel Corporation Optimized display image rendering
US9928660B1 (en) 2016-09-12 2018-03-27 Intel Corporation Hybrid rendering for a wearable display attached to a tethered computer
US11023068B1 (en) 2016-12-29 2021-06-01 Lg Electronics Inc. Electronic device
EP3974934A1 (de) 2017-03-02 2022-03-30 Robart GmbH Verfahren zur steuerung eines autonomen, mobilen roboters
US10937214B2 (en) * 2017-03-22 2021-03-02 Google Llc System and method for merging maps
JP6648061B2 (ja) * 2017-03-28 2020-02-14 Kddi株式会社 クライアント状態に応じた映像を配信する映像配信装置、システム、プログラム及び方法
US10430147B2 (en) 2017-04-17 2019-10-01 Intel Corporation Collaborative multi-user virtual reality
US10692289B2 (en) * 2017-11-22 2020-06-23 Google Llc Positional recognition for augmented reality environment
US10686611B2 (en) * 2017-11-24 2020-06-16 International Business Machines Corporation Data anonymizing blockchain system
US10957100B2 (en) * 2018-04-06 2021-03-23 Korea University Research And Business Foundation Method and apparatus for generating 3D map of indoor space
CN110530363B (zh) * 2018-05-24 2022-08-19 北京智慧图科技有限责任公司 一种建筑物级ap众包生成的方法
DE102018125397A1 (de) 2018-10-15 2020-04-16 Visualix GmbH Verfahren und Vorrichtung zur Bestimmung einer Umgebungskarte
US10346998B1 (en) * 2019-02-25 2019-07-09 Nurulize, Inc. Method of merging point clouds that identifies and retains preferred points
EP3607515A4 (en) * 2019-03-04 2020-06-24 Alibaba Group Holding Limited METHOD AND DEVICES FOR PROVIDING TRANSACTION DATA TO A BLOCKCHAIN SYSTEM FOR PROCESSING
CN110533719B (zh) * 2019-04-23 2020-06-09 以见科技(上海)有限公司 基于环境视觉特征点识别技术的增强现实定位方法及装置
US10846940B1 (en) 2020-02-24 2020-11-24 SpotMap, Inc. Multi-modality localization of users
CN113822806B (zh) * 2020-06-19 2023-10-03 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备和存储介质
KR102449855B1 (ko) * 2020-12-07 2022-10-04 서울과학기술대학교 산학협력단 Vl 알고리즘을 이용한 실내 측위 장치 및 방법
EP4135352A1 (en) * 2021-08-11 2023-02-15 Nokia Technologies Oy Localizing a camera-equipped device using a captured visual image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011186808A (ja) * 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
JP2013232241A (ja) * 2008-07-10 2013-11-14 Mitsubishi Electric Corp 前方車両搭載プロセッサユニット及び後続車両搭載プロセッサユニット
WO2013174231A1 (zh) * 2012-05-22 2013-11-28 腾讯科技(深圳)有限公司 增强现实交互的实现方法和系统
US20140267234A1 (en) * 2013-03-15 2014-09-18 Anselm Hook Generation and Sharing Coordinate System Between Users on Mobile

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8144920B2 (en) * 2007-03-15 2012-03-27 Microsoft Corporation Automated location estimation using image analysis
WO2009045218A1 (en) 2007-10-04 2009-04-09 Donovan John J A video surveillance, storage, and alerting system having network management, hierarchical data storage, video tip processing, and vehicle plate analysis
US8100692B2 (en) * 2007-10-19 2012-01-24 Cagenix Incorporated Dental framework
EP2332162A4 (en) * 2008-10-12 2013-03-20 Fei Co HIGHLY PRECISE BAR PLACEMENT FOR NAVIGATION IN LOCAL AREAS
US8442304B2 (en) * 2008-12-29 2013-05-14 Cognex Corporation System and method for three-dimensional alignment of objects using machine vision
US20120047087A1 (en) 2009-03-25 2012-02-23 Waldeck Technology Llc Smart encounters
US8839121B2 (en) 2009-05-06 2014-09-16 Joseph Bertolami Systems and methods for unifying coordinate systems in augmented reality applications
US20110102460A1 (en) 2009-11-04 2011-05-05 Parker Jordan Platform for widespread augmented reality and 3d mapping
US9488488B2 (en) 2010-02-12 2016-11-08 Apple Inc. Augmented reality maps
WO2011112940A1 (en) 2010-03-12 2011-09-15 Tagwhat, Inc. Merging of grouped markers in an augmented reality-enabled distribution network
US9304970B2 (en) 2010-05-19 2016-04-05 Nokia Technologies Oy Extended fingerprint generation
US20110313779A1 (en) 2010-06-17 2011-12-22 Microsoft Corporation Augmentation and correction of location based data through user feedback
CN103459099B (zh) 2011-01-28 2015-08-26 英塔茨科技公司 与一个可移动的远程机器人相互交流
US9239849B2 (en) 2011-06-08 2016-01-19 Qualcomm Incorporated Mobile device access of location specific images from a remote database
US8994799B2 (en) 2011-07-26 2015-03-31 ByteLight, Inc. Method and system for determining the position of a device in a light based positioning system using locally stored maps
US20130101163A1 (en) 2011-09-30 2013-04-25 Rajarshi Gupta Method and/or apparatus for location context identifier disambiguation
US8521128B1 (en) 2011-12-09 2013-08-27 Google Inc. Method, system, and computer program product for obtaining crowd-sourced location information
US8908914B2 (en) 2012-01-17 2014-12-09 Maxlinear, Inc. Method and system for map generation for location and navigation with user sharing/social networking
EP2817785B1 (en) 2012-02-23 2019-05-15 Charles D. Huston System and method for creating an environment and for sharing a location based experience in an environment
US20130242106A1 (en) 2012-03-16 2013-09-19 Nokia Corporation Multicamera for crowdsourced video services with augmented reality guiding system
WO2014026338A1 (en) 2012-08-15 2014-02-20 Google Inc. Crowd-sourcing indoor locations
US9342929B2 (en) 2013-01-22 2016-05-17 Microsoft Technology Licensing, Llc Mixed reality experience sharing
US9323785B2 (en) 2013-03-06 2016-04-26 Streamoid Technologies Private Limited Method and system for mobile visual search using metadata and segmentation
US20140323148A1 (en) 2013-04-30 2014-10-30 Qualcomm Incorporated Wide area localization from slam maps
US20140357290A1 (en) 2013-05-31 2014-12-04 Michael Grabner Device localization using camera and wireless signal
CN104021350B (zh) 2014-05-13 2016-07-06 小米科技有限责任公司 隐私信息隐藏方法及装置
CN104020447A (zh) * 2014-05-27 2014-09-03 美新半导体(无锡)有限公司 一种室内组合定位系统及其定位方法
US9251417B1 (en) 2014-10-15 2016-02-02 Hrl Laboratories, Llc Fast open doorway detection for autonomous robot exploration

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013232241A (ja) * 2008-07-10 2013-11-14 Mitsubishi Electric Corp 前方車両搭載プロセッサユニット及び後続車両搭載プロセッサユニット
JP2011186808A (ja) * 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
WO2013174231A1 (zh) * 2012-05-22 2013-11-28 腾讯科技(深圳)有限公司 增强现实交互的实现方法和系统
US20140267234A1 (en) * 2013-03-15 2014-09-18 Anselm Hook Generation and Sharing Coordinate System Between Users on Mobile

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020178916A1 (ja) * 2019-03-01 2020-09-10 株式会社ソニー・インタラクティブエンタテインメント 環境地図管理装置、環境地図管理システム、環境地図管理方法及びプログラム
JPWO2020178916A1 (ja) * 2019-03-01 2021-09-30 株式会社ソニー・インタラクティブエンタテインメント 環境地図管理装置、環境地図管理システム、環境地図管理方法及びプログラム
JP7218426B2 (ja) 2019-03-01 2023-02-06 株式会社ソニー・インタラクティブエンタテインメント 環境地図管理装置、環境地図管理システム、環境地図管理方法及びプログラム
US11906322B2 (en) 2019-03-01 2024-02-20 Sony Interactive Entertainment Inc. Environment map management device, environment map management system, environment map management method, and program

Also Published As

Publication number Publication date
CN107430686A (zh) 2017-12-01
KR20180004109A (ko) 2018-01-10
CN107430686B (zh) 2022-01-28
EP3295128A1 (en) 2018-03-21
JP6602889B2 (ja) 2019-11-06
US9811734B2 (en) 2017-11-07
WO2016182843A1 (en) 2016-11-17
US20160335497A1 (en) 2016-11-17
KR102044491B1 (ko) 2019-11-13

Similar Documents

Publication Publication Date Title
JP6602889B2 (ja) 移動体装置ローカリゼーションのためのエリア記述ファイルのクラウドソーシングによる作成および更新
KR102149374B1 (ko) 로컬화 영역 설명 파일에 대한 프라이버시-민감 질의
EP3295129B1 (en) Privacy filtering of area description file prior to upload
US11830149B2 (en) Cross reality system with prioritization of geolocation information for localization
WO2019205853A1 (zh) 相机姿态追踪过程的重定位方法、装置、设备及存储介质
US11532124B2 (en) Cross reality system with WIFI/GPS based map merge
JP2022533309A (ja) 画像ベースの位置特定
EP4143794A1 (en) Cross reality system for large scale environments
US11694394B2 (en) Cross reality system for large scale environment reconstruction
JP2022509640A (ja) 疎結合されたリローカライゼーションサービスおよびアセット管理サービスを介して人工環境内でデジタルアセットを提示するためのシステムおよび方法
CN105023266A (zh) 增强现实实现方法、装置和终端设备
JP6495538B2 (ja) イメージコンテンツ検索
US10373385B2 (en) Subtractive rendering for augmented and virtual reality systems
CN113950609A (zh) 使用信号指纹和会话特定标识符的粗略重定位

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171205

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191009

R150 Certificate of patent or registration of utility model

Ref document number: 6602889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250