WO2020054498A1 - 情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム - Google Patents

情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム Download PDF

Info

Publication number
WO2020054498A1
WO2020054498A1 PCT/JP2019/034529 JP2019034529W WO2020054498A1 WO 2020054498 A1 WO2020054498 A1 WO 2020054498A1 JP 2019034529 W JP2019034529 W JP 2019034529W WO 2020054498 A1 WO2020054498 A1 WO 2020054498A1
Authority
WO
WIPO (PCT)
Prior art keywords
image data
information
terminal
terminal device
map
Prior art date
Application number
PCT/JP2019/034529
Other languages
English (en)
French (fr)
Inventor
堅一郎 多井
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to US17/250,787 priority Critical patent/US20210319591A1/en
Publication of WO2020054498A1 publication Critical patent/WO2020054498A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Abstract

情報処理装置(10)は、第1の端末装置から第1の画像データと、第1の端末装置に対応づけられた第1の端末情報とを取得する取得部(40)と、第1の画像データに基づいて、第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部(50)と、を備える。

Description

情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム
 本開示は、情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラムに関する。
 近年、実空間内の物体の位置を表現するマップを、ネットワークを介して複数のユーザが共有するための様々なアプリケーションが実用化されている。
 例えば、特許文献1には、実空間内の物体の位置の変化を迅速にユーザ間で共有することのできる情報処理装置が開示されている。
特開2011-186808号公報
 しかしながら、上記の従来技術では、複数のユーザが所有する端末の仕様が同じであることを前提としている。そのため、複数のユーザが所有する端末の仕様が異なる場合であっても、実空間内の物体の位置をユーザ間で共有することのできる技術が望まれている。
 そこで、本開示では、仕様が異なる端末間で実空間内の物体の位置の変化を共有することのできる情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラムを提案する。
 上記の課題を解決するために、本開示に係る一形態の情報処理装置は、第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得する取得部と、前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部と、を備える。
 また、本開示に係る一形態の端末装置は、第1の端末情報を送信する端末情報送信部と、現在位置情報を情報処理装置に送信し、前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から取得する取得部と、を備える。
本開示の実施形態に係るシステムの概要について説明するための模式図である。 グローバルマップ及びローカルマップに含まれる物体の位置データについて説明するための模式図である。 本開示の各実施形態に係るサーバの構成の一例を示すブロック図である。 部分グローバルマップについて説明するための模式図である。 本開示の各実施形態に係る端末装置の構成の一例を示すブロック図である。 本開示の各実施形態に係るローカルマップ生成部の詳細の構成の一例を示すブロック図である。 オブジェクト上に設定される特徴点について説明するための説明図である。 本開示の第1の実施形態に係る端末装置が保持する特徴データの構成の一例について説明するための模式図である。 本開示の第1の実施形態に係るサーバが保持する特徴データの構成の一例について説明するための模式図である。 本開示の第1の実施形態に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の第1の実施形態に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の第1の実施形態に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の第1の実施形態に係るマップ更新処理に使用される端末装置をサーバに登録する処理の流れの一例を示すシーケンス図である。 本開示の第1の実施形態の変形例に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の第2の実施形態に係る端末装置が生成する画像データの一例を示す模式図である。 本開示の第2の実施形態に係る端末装置が生成する画像データの一例を示す模式図である。 本開示の第2の実施形態に係る端末装置が保持する特徴データの構成の一例について説明するための模式図である。 本開示の第2の実施形態に係る端末装置が保持する特徴データの構成の一例について説明するための模式図である。 本開示の第2の実施形態に係るサーバが保持する特徴データの構成の一例について説明するための模式図である。 本開示の第2の実施形態に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の第2の実施形態の変形例に係るマップ更新処理の流れの一例を示すシーケンス図である。 本開示の各実施形態の変形例に係るサーバが保持する特徴量データの構成の一例を説明するための模式図である。 本開示のサーバ及び端末装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
 以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
 また、以下に示す項目順序に従って本開示を説明する。
  1.概要
   1-1.システムの構成
   1-2.位置データの例
  2.本開示の実施形態に係るマップ管理サーバの構成
  3.本開示の実施形態に係る端末装置の構成
  4.マップ更新処理
  5.異なる端末情報を有する複数の端末間におけるマップ更新処理
  6.ハードウェア構成
(1.概要)
[1-1.システムの構成]
 まず、図1及び図2を用いて、本発明の一実施形態に係るシステムの概要について説明する。図1は、本発明の一実施形態に係る情報処理システム1の概要を示す模式図である。図1を参照すると、本実施形態に係る情報処理システム1は、マップ管理サーバ10、端末装置100a及び端末装置100bを含む。
 マップ管理サーバ10は、複数のユーザの間でマップ及びマップに関連付けられる情報を共有させるためのマップ共有サービスを提供する情報処理装置である。マップ管理サーバ10は、装置の内部又は外部にデータベースを有し、当該データベースに後述するグローバルマップを格納する。マップ管理サーバ10は、典型的には、PC(Personal Computer)又はワークステーションなどの汎用的な情報処理装置を用いて実現される。
 本明細書において、マップ管理サーバ10により管理されるマップをグローバルマップという。グローバルマップは、マップ共有サービスのサービス対象領域AGの全体にわたって、実空間内の物体の位置を表現するマップである。
 端末装置100aは、ユーザUaが保持する情報処理装置である。端末装置100bは、ユーザUbが保持する情報処理装置である。本明細書において、これら端末装置100a及び端末装置100bを互いに区別する必要が無い場合には、符号の末尾のアルファベットを省略して端末装置100と総称する。端末装置100は、有線又は無線による通信接続を介して、マップ管理サーバ10との間で通信することができる。端末装置100は、典型的には、PC、スマートフォン、PDA(Personal Digital Assistants)、ポータブル音楽プレーヤ、又はゲーム端末などの任意の種類の情報処理装置であってよい。
 端末装置100は、周囲の物体の位置を検出可能なセンサ機能を有する。そして、端末装置100は、当該センサ機能を用いて、自装置の周囲(例えば、領域ALa又は領域ALb内)の物体の位置を表現するローカルマップを生成する。センサ機能としては、単眼カメラを用いてカメラの位置及び姿勢と入力画像に映る物体の特徴点の位置とを同時に推定可能なSLAM(Simultaneous Localization And Mapping)技術を挙げることができるが、これに限定されない。
 さらに、端末装置100は、生成したローカルマップを用いてマップ管理サーバ10により管理されるグローバルマップを更新する更新機能と、最新の(又は過去の任意の時点の)グローバルマップを表示する表示機能とを有する。即ち、例えば、ユーザUaは、ユーザUbにより保持されている端末装置100bにより更新されたグローバルマップを、端末装置100aの画面上で閲覧することができる。また、例えば、ユーザUbは、ユーザUaにより保持されている端末装置100aにより更新されたグローバルマップを、端末装置100bの画面上で閲覧することができる。
[1-2.位置データの例]
 図2は、グローバルマップ及びローカルマップに含まれる物体の位置データについて説明するための模式図である。
 図2を参照すると、実空間内に存在する4つの物体B1~B4が示されている。物体B1は、テーブルである。物体B2は、コーヒーカップである。物体B3は、ノートPCである。物体B4は、窓である。このうち、物体B4の位置は、通常移動しない。本明細書では、このような移動しない物体を非移動物体あるいはランドマークという。また、図2には、各物体についての位置データR1~R4も示されている。各位置データR1~R4は、それぞれ、物体B1~B4を表すオブジェクトID「Obj1」~「Obj4」、位置「X1」~「X4」及び姿勢「Ω1」~「Ω4」、並びに位置データの生成時点を表すタイムスタンプ「YYYYMMDDhhmmss」を含む。
 グローバルマップは、サービス対象領域AGの全体にわたる実空間内に存在する物体についての、図2に例示したような位置データを含むデータセットである。例えば、1つの建物の全体をサービス対象領域AGとする場合には、グローバルマップには、図2に例示した1つの部屋の中の物体だけでなく、他の部屋の中の物体についての位置データも含まれ得る。グローバルマップの位置データの座標系は、グローバル座標系として予め固定的に設定される。
 これに対し、ローカルマップは、端末装置100の周囲の実空間内に存在する物体についての、図2に例示したような位置データを含むデータセットである。例えば、ローカルマップには、図2に例示した物体B1~B4についての位置データが含まれ得る。ローカルマップの座標系の原点の位置と座標軸の向きは、端末装置100のカメラの位置及び姿勢に依存する。そのため、ローカルマップの座標系は、通常、グローバル座標系とは異なる。
 なお、グローバルマップ及びローカルマップにより位置が表現され得る物体は、図2の例に限定されない。例えば、屋内に存在する物体の代わりに、屋外に存在する建物又は車などの物体の位置データがグローバルマップ及びローカルマップに含まれてもよい。この場合、建物はランドマークとなり得る。
(2.本開示の実施形態に係るマップ管理サーバの構成)
 図3は、本実施形態に係るマップ管理サーバ10の構成の一例を示すブロック図である。図3を参照すると、マップ管理サーバ10は、通信インターフェイス20、グローバルマップ記憶部30、部分グローバルマップ抽出部40、更新部50、及びグローバルマップ配信部60を備える。
 通信インターフェイス20は、マップ管理サーバ10と端末装置100との間の通信接続を仲介するインターフェイスである。通信インターフェイス20は、無線通信インターフェイスであってもよく、有線通信インターフェイスであってもよい。
 グローバルマップ記憶部30は、ハードディスク又は半導体メモリなどの記憶媒体を用いて構成されるデータベースに相当し、複数のユーザが活動する実空間内の物体の位置を表現する上述したグローバルマップを記憶する。そして、グローバルマップ記憶部30は、部分グローバルマップ抽出部40からの要求に応じて、グローバルマップのサブセットである部分グローバルマップを出力する。また、グローバルマップ記憶部30に記憶されているグローバルマップは、更新部50により更新される。また、グローバルマップ記憶部30は、グローバルマップ配信部60からの要求に応じて、グローバルマップの全体又は要求された一部分を出力する。また、グローバルマップ記憶部30は、マップ管理サーバ10と通信を行う全ての端末装置の端末情報を記憶している。ここで、端末情報とは、例えば、端末装置100に搭載された撮像部110の画角などのレンズに関する情報や、端末装置100にインストールされているソフトウェアのバージョンに関する情報のことを意味する。具体的には、グローバルマップ記憶部30は、端末情報ごとにグローバルマップを記憶している。言い換えれば、グローバルマップ記憶部30が記憶するグローバルマップには、端末情報が関連付けられている。ここで、本実施形態では、グローバルマップ及び部分グローバルマップは画像として保存している。そのため、本実施形態では、グローバルマップ及び部分グローバルマップのことを、それぞれ、全体画像データ及び部分画像データと呼ぶこともある。
 部分グローバルマップ抽出部40は、通信インターフェイス20を介して端末装置100の位置に関する情報と、端末装置100に関する端末情報とを受信し、当該情報に応じて部分グローバルマップを抽出する。具体的には、部分グローバルマップ抽出部40は、例えば、端末装置100に関する端末情報が関連付けられている部分グローバルマップを抽出する。ここで、端末装置100以外の端末情報に基づいて更新された部分グローバルマップが存在する場合には、部分グローバルマップ抽出部40は、その更新された部分グローバルマップを抽出する。そして、部分グローバルマップ抽出部40は、抽出した部分グローバルマップを、通信インターフェイス20を介して端末装置100へ送信する。部分グローバルマップとは、グローバルマップのサブセットである。部分グローバルマップは、グローバル座標系における端末装置100の位置の周囲の局所的な領域に含まれる物体の位置を表現する。
 図4は、部分グローバルマップについて説明するための説明図である。図4の左には、オブジェクトIDが「Obj1」~「Obj19」である19個の物体についての位置データを含むグローバルマップMGが示されている。これら19個の物体は、図4の右に示されたサービス対象領域AGの中に散在する。このとき、ユーザUaが保持する端末100aの位置からの距離が閾値D以下である物体は、物体B1~B9である。この場合、例えば、当該物体B1~B9についての位置データが、ユーザUaのための部分グローバルマップMG(Ua)を構成する。また、ユーザUbが保持する端末100bの位置からの距離が閾値D以下である物体は、物体B11~B19である。この場合、例えば、当該物体B11~B19についての位置データが、ユーザUbのための部分グローバルマップMG(Ub)を構成する。閾値Dは、後述するローカルマップの範囲の大部分が部分グローバルマップにも含まれるように、予め適切な値に設定される。
 更新部50は、端末装置100から通信インターフェイス20を介して受信される更新された部分グローバルマップに基づいて、グローバルマップ記憶部30により記憶されているグローバルマップを更新する。この際、部分グローバルマップ抽出部40は、端末装置100の位置に関する情報に基づいて、端末装置100以外の各端末装置の端末情報が関連付けられている部分グローバルマップを全て抽出する。この場合、更新部50は、端末装置100以外の各端末装置の端末情報が関連付けられている部分グローバルマップを更新する。そして、更新部50は、更新した部分グローバルマップに基づいて、端末装置100以外の各端末装置の端末情報が関連付けられているグローバルマップを更新する。これにより、実空間内の物体の位置の変化がグローバルマップに迅速に反映される。
 グローバルマップ配信部60は、端末装置100からの要求に応じて、グローバルマップ記憶部30により記憶されているグローバルマップを端末装置100へ配信する。グローバルマップ配信部60から配信されるグローバルマップは、端末装置100の表示機能により端末装置100の画面上で可視化される。それにより、ユーザは、最新の(又は過去の任意の時点の)グローバルマップを閲覧することができる。
(3.本開示の実施形態に係る端末装置の構成)
 図5は、本実施形態に係る端末装置100の構成の一例を示すブロック図である。図5を参照すると、端末装置100は、通信インターフェイス102、撮像部110、初期化部120、グローバルマップ取得部130、記憶部132、ローカルマップ生成部140、算出部160、変換部170、更新部180、端末情報送信部190及び表示制御部200を備える。
 通信インターフェイス102は、端末装置100とマップ管理サーバ10との間の通信接続を仲介するインターフェイスである。通信インターフェイス102は、無線通信インターフェイスであってもよく、有線通信インターフェイスであってもよい。
 撮像部110は、例えば、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を有するカメラとして実現され得る。撮像部110は、端末装置100の外部に設けられてもよい。撮像部110は、図2に例示したような物体が存在する実空間を撮影することにより取得した画像を、入力画像として、初期化部120及びローカルマップ生成部140へ出力する。
 初期化部120は、撮像部110から入力される入力画像を用いて、グローバル座標系における端末装置100の大まかな位置を特定する。入力画像に基づく端末装置100の位置の特定(Localization)は、例えば、特開2008-185417号公報に記載されている手法に従って行われ得る。その場合、初期化部120は、入力画像と記憶部132により予め記憶されている参照用画像とを照合し、一致度の高い参照用画像に対して高スコアを設定する。そして、初期化部120は、当該スコアに基づいて端末装置100の位置の候補の確率分布を算出し、算出した当該確率分布に基づいて尤もらしい端末装置100の位置(仮説確率分布における確率値が最も高い位置)を特定する。そして、初期化部120は、特定した端末装置100の位置をグローバルマップ取得部130へ出力する。
 なお、初期化部120は、上述した手法の代わりに、GPS(Global Positioning System)機能を用いて端末装置100の位置を特定してもよい。また、初期化部120は、例えば、周囲の無線アクセスポイントからの電測情報に基づいて現在位置を測定することの可能なPlaceEngineなどの技術を用いて、端末装置100の位置を特定してもよい。
 グローバルマップ取得部130は、通信インターフェイス102を介してマップ管理サーバ10へ端末装置100の位置に関する情報を送信し、マップ管理サーバ10の部分グローバルマップ抽出部40により抽出される上述した部分グローバルマップを取得する。そして、グローバルマップ取得部130は、取得した部分グローバルマップを記憶部132へ格納する。
 ローカルマップ生成部140は、撮像部110から入力される入力画像及び記憶部132により記憶されている後述する特徴データに基づいて、端末装置100により検出可能な周囲の物体の位置を表現する上述したローカルマップを生成する。図6は本実施形態に係るローカルマップ生成部140の詳細な構成の一例を示すブロック図である。図6を参照すると、ローカルマップ生成部140は、自己位置検出部142、画像認識部144及びローカルマップ構築部146を含む。
 自己位置検出部142は、撮像部110から入力される入力画像及び記憶部132に記憶されている特徴データに基づいて、入力画像を映したカメラの位置を動的に検出する。例えば、自己位置検出部142は、公知のSLAM技術を用いて、撮像部110の位置や姿勢、及び撮像部110の撮像面における特徴点の位置を、フレームごとに動的に決定することができる。
 ここで、自己位置検出部142の具体的な処理について説明する。まず、自己位置検出部142は、状態変数を初期化する。状態変数とは、撮像部110の位置や姿勢(回転角)、撮像部110の移動速度や角速度、及び1つ以上の特徴点の位置を要素として含むベクトルである。自己位置検出部142は、撮像部110から入力画像を順次取得する。自己位置検出部142は、入力画像に映る特徴点を追跡する。例えば、自己位置検出部142は、記憶部132に予め記憶されている特徴点ごとのパッチ画像(例えば特徴点を中心とする3×3=9画素の小画像)を入力画像から検出する。ここで検出されたパッチの位置、即ち特徴点の位置は、状態変数の更新の際に用いられる。自己位置検出部142は、所定の予測モデルに基づいて、例えば1フレーム後の状態変数の予測値を生成する。自己位置検出部142は、生成した状態変数の予測値と、検出した特徴点の位置に応じた観測値とを用いて、状態変数を更新する。自己位置検出部142は、例えば、状態変数の予測値の生成と、状態変数の更新とを、例えば、拡張カルマンフィルタの原理に基づいて実行する。自己位置検出部142は、更新した状態変数をローカルマップ構築部146へ出力する。
 以下、特徴点の追跡、状態変数の予測、状態変数の更新の各処理の内容について、より具体的に説明する。
 本実施形態において、記憶部132は、実空間内に存在し得る物体に対応するオブジェクトの特徴を表す特徴データを予め記憶している。特徴データには、例えば、各オブジェクトの外観の特徴を表す1つ以上の特徴点についての小画像、即ちパッチ(Patch)が含まれる。パッチとは、例えば、特徴点を中心とする3×3=9画素よりなる小画像であってよい。
 図7は、オブジェクトの2つの例、並びに各オブジェクト上に設定される特徴点(FP:Feature Point)及びパッチの例を示している。図7の左のオブジェクトは、PCを表すオブジェクトである(9a参照)。当該オブジェクト上には、特徴点FP1を含む複数の特徴点が設定されている。さらに、特徴点FP1と関連付けて、パッチPth1が定義されている。一方、図7の右のオブジェクトは、カレンダーを表すオブジェクトである(9b参照)。当該オブジェクト上には、特徴点FP2を含む複数の特徴点が設定されている。さらに、特徴点FP2と関連付けて、パッチPth2が定義されている。
 自己位置検出部142は、撮像部110から入力画像を取得すると、入力画像に含まれる部分画像と、記憶部132に予め記憶されている図7に例示した特徴点ごとのパッチとを照合する。そして、自己位置検出部142は、照合の結果として、入力画像に含まれる特徴点の位置(例えば検出されたパッチの中心画素の位置)を特定する。
 記憶部132は、実空間内に存在し得る物体に対応するオブジェクトの特徴を表す特徴データを予め記憶している。図8は、端末装置が記憶している特徴データの構成の一例について説明するための説明図である。
 図8を参照すると、物体B2についての一例としての端末装置Xが保持する特徴データFDT1が示されている。特徴データFDT1は、オブジェクト名称FDT11、画像データFDT12、パッチデータFDT13、三次元形状データFDT14、及びオントロジーデータFDT15を含む。
 オブジェクト名称FDT11は、“コーヒーカップA”など、対応するオブジェクトを特定することのできる名称である。
 画像データFDT12は、端末装置Xによって撮影された画像データを含む。例えば、第1の画像データFDT121と、第2の画像データFDT122とを含む。画像データFDT12には、その画像データを撮像した端末装置に関する情報が関連付けられている。図8に示す例では、撮像した画像データには「#X」が付加されている。これは、第1の画像データFDT121及び第2の画像データFDT122は、端末装置Xによって撮像されたことを意味している。画像データFDT12は、後述する画像認識部144によるオブジェクト認識処理のために使用され得る。
 パッチデータFDT13は、各オブジェクト上に設定される1つ以上の特徴点ごとの、各特徴点を中心とする小画像の集合である。パッチデータFDT13は、例えば、BRIEF、ORBなどパッチデータの種類に応じて番号付けられた1種類以上のパッチデータからなる。図8に示す例では、パッチデータFDT13は、「パッチデータ#1」を含んでいる。パッチデータFDT13は、後述する画像認識部144によるオブジェクト認識処理のために使用され得る。また、パッチデータFD13は、前述した自己位置検出部142による自己位置検出処理のために使用され得る。
 三次元形状データFDT14は、対応するオブジェクトの形状を認識するためのポリゴン情報、及び特徴点の三次元的な位置情報を含む。三次元形状データFDT14は、パッチデータFDT13に含まれるパッチデータと関連する三次元形状データを1種類以上含んでいる。図8に示す例では、三次元形状データFDT14は、「パッチデータ#1」に関連する「三次元形状データ#A」を含んでいる。三次元形状データFDT14は、後述するローカルマップ構築部146によるローカルマップ構築処理のために使用され得る。
 オントロジーデータFDT15は、例えば、ローカルマップ構築部146によるローカルマップ構築処理を支援するために使用され得るデータである。オントロジーデータFDT15は、端末に応じたオントロジーデータを1種類以上含んでいる。図8に示す例では、オントロジーデータFDT15は、「オントロジーデータ#α」を含んでいる。オントロジーデータFD15は、コーヒーカップである物体B2が、テーブルに対応するオブジェクトに接する可能性が高いこと、及び本棚に対応するオブジェクトに接する可能性が低いことを表している。
 マップ管理サーバ10のグローバルマップ記憶部30は、各実空間内に存在し得る物体に対応するオブジェクトの特徴を表す特徴データを予め記憶している。図9は、マップ管理サーバが記憶している特徴データの構成の一例について説明するための説明図である。
 図9を参照すると、マップ管理サーバが保持する特徴データFDS1が示されている。特徴データFDS1は、オブジェクト名称FDS11、画像データFDS12、パッチデータFDS13、三次元形状データFDS14、及びオントロジーデータFDS15を含む。
 オブジェクト名称FDS11は、オブジェクトの名称である。
 画像データFDS12は、各端末装置によって撮影された画像データを含む。画像データFDS12は、例えば、第1の画像データFDS121と、第2の画像データFDS122とを含む。第1の画像データFDS121及び第2の画像データFDS122には、端末情報が関連付けられている。具体的には、第1の画像データFDS121には、例えば、端末装置Xの端末情報が関連付けられている。第2の画像データFDS122には、例えば、端末装置Yの端末情報が関連付けられている。画像データFDS12に含まれる画像データに端末情報が関連付けられていることで、マップ管理サーバ10は、端末装置ごとの画像データを自動で抽出することができる。また、画像データFDS12に含まれる画像データに端末情報が関連付けられていることで、端末間の撮影条件の違いを吸収することができる。撮影条件の違いとは、例えば、レンズの画角、レンズの解像度、センサの感度が挙げられるが、これらに限定されない。
 パッチデータFDS13は、例えば、第1のパッチデータFDS131と、第2のパッチデータFDS132と、第3のパッチデータFDS133とを含む。ここで、パッチデータFDS13には、マップ管理サーバ10と通信する各端末が扱う、全てのパッチデータを含んでいる。また、パッチデータFDS13に含まれている各パッチデータには、パッチデータに関連する三次元形状データが関連付けられている。言い換えると、各パッチデータには、使用された三次元形状データの情報が付加されている。具体的には、第1のパッチデータFDS131は、「パッチデータ#1」に「三次元形状データ#B」が関連付けられたパッチデータである。第2のパッチデータFDS132は、「パッチデータ#2」に「三次元形状データ#A」が関連付けられたパッチデータである。第3のパッチデータFDS133は、「パッチデータ#3」に「三次元形状データ#B」が関連付けられたパッチデータである。各パッチデータと、各三次元形状データとの関連付けは、端末装置側で特徴点を抽出するためのアルゴリズムや、カメラの解像度などに応じて変化する。
 三次元形状データFDS14は、例えば、第1の三次元形状データFDS141と、第2の三次元形状データFDS142と、第3の三次元形状データFDS143とを含む。ここで、三次元形状データFDS14には、マップ管理サーバ10と通信する各端末装置が扱う、全ての三次元形状データを含んでいる。具体的には、第1の三次元形状データFDS141は、「三次元形状データ#A」である。第2の三次元形状データFDS142は、「三次元形状データ#B」である。第3の三次元形状データFDS143は、「三次元形状データ#C」である。「三次元形状データ#A」と、「三次元形状データ#B」と、「三次元形状データ#C」とは、それぞれ、異なる三次元形状データである。三次元形状データFDS14に含まれる三次元形状データは、マップ管理サーバ10と通信する各端末が扱う、全種類のパッチデータに関連付けられる。
 オントロジーデータFDS15は、例えば、第1のオントロジーデータFDS151と、第2のオントロジーデータFDS152と、第3のオントロジーデータFDS153とを含む。ここで、オントロジーデータFDS15には、マップ管理サーバ10と通信する各端末装置が扱う、全てのオントロジーデータを含んでいる。具体的には、第1のオントロジーデータFDS151は、「オントロジーデータ#α」である。第2のオントロジーデータFDS152は、「オントロジーデータ#β」である。第3のオントロジーデータFDS153は、「オントロジーデータ#γ」である。「オントロジーデータ#α」と、「オントロジーデータ#β」と、「オントロジーデータ#γ」とは、それぞれ、異なるオントロジーデータである。
 再び図6を参照する。画像認識部144は、記憶部132により記憶されている上述した特徴データを用いて、入力画像に映っている物体がそれぞれどのオブジェクトに対応するかを特定する。
 具体的には、まず、画像認識部144は、撮像部110から入力画像を取得する。次に、画像認識部144は、入力画像に含まれる部分画像と、特徴データに含まれる各オブジェクトの1つ以上の特徴点のパッチとを照合し、入力画像に含まれる特徴点を抽出する。なお、画像認識部144によるオブジェクト認識処理に用いられる特徴点と、自己位置検出部142による自己位置検出処理に用いられる特徴点とは、必ずしも同じでなくてもよい。但し、双方の処理で用いられる特徴点が共通している場合には、画像認識部144は、自己位置検出部142による特徴点の追跡結果を再利用してもよい。
 次に、画像認識部144は、特徴点の抽出結果に基づいて、入力画像に映っているオブジェクトを特定する。例えば、画像認識部144は、ある領域内で1つのオブジェクトに属す特徴点が高い密度で抽出された場合には、当該領域にそのオブジェクトが映っていると認識し得る。そして、画像認識部144は、特定したオブジェクトのオブジェクト名称(又は識別子)及びそのオブジェクトに属す特徴点の撮像面上の位置を、ローカルマップ構築部146へ出力する。
 ローカルマップ構築部146は、自己位置検出部142から入力されるカメラの位置及び姿勢、画像認識部144から入力される特徴点の撮像面上の位置、及び記憶部132に記憶されている特徴データを用いて、ローカルマップを構築する。本実施形態において、ローカルマップとは、上述したように、端末装置100の周囲に存在する1つ以上の物体の位置及び姿勢を、ローカルマップ座標系を用いて表現する位置データの集合である。また、ローカルマップに含まれる各位置データは、例えば、物体に対応するオブジェクト名称、当該物体に属す特徴点の三次元位置、及び当該物体の形状を構成するポリゴン情報などと関連付けられてもよい。ローカルマップは、例えば、画像認識部144から入力される特徴点の撮像面上の位置から、ピンホールモデルに従って各特徴点の三次元位置を求めることにより構築され得る。
 再び図5を参照する。算出部160は、部分グローバルマップに含まれる物体の位置データとローカルマップに含まれる物体の位置データとを照合し、その照合の結果に基づいて、グローバルマップに対するローカルマップの相対的な位置及び姿勢を算出する。部分グローバルマップに対するローカルマップの相対的な位置及び姿勢とは、グローバル座標系を基準とした場合の、ローカルマップ座標系の変位と傾きに相当する。より具体的には、算出部160は、例えば、部分グローバルマップ及びローカルマップに共通して含まれるランドマークの位置データに基づいて、ローカルマップの相対的な位置及び姿勢を算出してもよい。その代わりに、算出部160は、例えば、ローカルマップに含まれる物体の位置データをグローバル座標系のデータに変換した場合に、当該変換後のデータと部分グローバルマップに含まれる物体の位置データとの間の差が全体として小さくなるように、ローカルマップの相対的な位置及び姿勢を算出してもよい。そして、算出部160は、算出したローカルマップの相対的な位置及び姿勢とローカルマップとを、変換部170へ出力する。
 変換部170は、算出部160から入力されるローカルマップの相対的な位置及び姿勢に応じて、ローカルマップに含まれる物体の位置データをグローバルマップの座標系のデータに座標変換する。より具体的には、変換部170は、例えば、ローカルマップに含まれる物体の三次元位置(ローカルマップ座標系)を、算出部160から入力されるローカルマップの傾きΔΩに応じた回転行列を用いて回転させる。そして、変換部170は、算出部160から入力されるローカルマップの相対的な位置(グローバル座標系に対するローカルマップ座標系の変位ΔX)を、回転後の座標に加算する。それにより、ローカルマップに含まれる物体の位置データが、グローバルマップの座標系のデータに変換される。変換部170は、このような座標変換後のローカルマップに含まれる物体の位置データを、更新部180へ出力する。
 また、変換部170は、ローカルマップ生成部140の自己位置検出部142により検出されたローカルマップ座標系のカメラの位置及び姿勢を、算出部160から入力されるローカルマップの相対的な位置及び姿勢を用いて、グローバルマップの座標系のデータに座標変換してもよい。それにより、初期化部120が特定した端末装置100の位置を、初期化後の端末装置100の移動に応じて更新することができる。この後、グローバルマップ取得部130は、更新された新たな端末装置100の位置に応じて、マップ管理サーバ10から新たな部分グローバルマップを取得してもよい。
 更新部180は、変換部170による座標変換後のローカルマップに含まれる物体の位置データを用いて、記憶部132により記憶されている部分グローバルマップを更新する。具体的には、更新部180は、部分グローバルマップに端末装置100に関する端末情報を生成し、生成した端末情報を部分グローバルマップに関連付ける。更新部180は、例えば、画像データに端末装置100によって撮像されたことを示す情報を付加する。更新部180は、端末装置100で使用されたパッチデータと三次元形状データとを関連付ける。また、更新部180は、変換部170による座標変換後のローカルマップ又は更新した部分グローバルマップをマップ管理サーバ10へ送信することにより、マップ管理サーバ10が保持しているグローバルマップを更新する。グローバルマップの更新は、最終的には、端末装置100の更新部180から座標変換後のローカルマップ又は更新後のグローバルマップを受信したマップ管理サーバ10の更新部50により行われ得る。
 端末情報送信部190は、記憶部132から端末装置100に関する端末情報を読み出す。端末情報送信部190は、読み出した端末情報を、通信インターフェイス102を介してマップ管理サーバ10に送信する。本実施形態では、例えば、グローバルマップ取得部130が端末装置100の位置に関する情報をマップ管理サーバ10に送信するとともに、端末情報送信部190が端末情報をマップ管理サーバ10に送信する。
 表示制御部200は、ユーザからの指示に応じて、マップ管理サーバ10からグローバルマップをダウンロードし、グローバルマップを少なくとも部分的に可視化して端末装置100の画面に出力する。より具体的には、例えば、表示制御部200は、ユーザからの指示入力を検知すると、グローバルマップの送信要求をマップ管理サーバ10のグローバルマップ配信部60へ送信する。そうすると、マップ管理サーバ10のグローバルマップ配信部60から、グローバルマップ記憶部30により記憶されているグローバルマップが配信される。表示制御部200は、かかるグローバルマップを受信し、ユーザが望む領域(ユーザが現在位置している領域以外の領域であってよい)についての物体の位置を可視化して画面に出力する。
(4.マップ更新処理)
 図10を用いて、本実施形態に係るマップ管理サーバ10と、端末装置100との間のマップ更新処理について説明する。図10は、本実施形態に係るマップ管理サーバ10と端末装置100との間のマップ更新処理の流れの一例を示すシーケンス図である。
 図10を参照すると、まず、端末装置100の初期化部120により、撮像部110から入力される入力画像を用いて、グローバル座標系における端末装置100の位置が初期化される(ステップS102)。初期化部120による初期化処理は、例えば、端末装置100の起動時、又は端末装置100における所定のアプリケーションの起動時などに行われ得る。
 次に、端末装置100のグローバルマップ取得部130からマップ管理サーバ10へ、グローバル座標系における端末装置100の位置に関する情報と、端末装置100の端末情報とが送信される(ステップS104)。端末装置100の位置に関する情報とは、例えば、端末装置100のグローバル座標系における座標であってもよく、その代わりに端末装置100が位置するエリアを識別するためのエリア識別子であってもよい。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40により、端末装置100の位置に関する情報と、端末情報に基づいて、グローバルマップ記憶部30から端末装置100の端末情報が関連付けられた部分グローバルマップが抽出される(ステップS106)。具体的には、ステップS106では、端末装置100に応じて、パッチデータと、三次元形状データと、オントロジーデートを取捨選択することによって、部分グローバルマップを抽出する。なお、ステップS106では、画像データも含めて取捨選択することで、部分グローバルマップを更新してもよい。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40から端末装置100のグローバルマップ取得部130へ、端末装置100の端末情報が関連付けられた部分グローバルマップが送信される(ステップS108)。
 次に、端末装置100のローカルマップ生成部140により、入力画像及び特徴データに基づいて、周囲の物体の位置を表現するローカルマップが生成される(ステップS110)。
 次に、端末装置100の算出部160により、部分グローバルマップに含まれる物体の位置データ及びローカルマップに含まれる物体の位置データに基づいて、グローバル座標系を基準とするローカルマップの相対的な位置及び姿勢が算出される(ステップS112)。そして、算出部160により算出されたローカルマップの相対的な位置及び姿勢に応じて、変換部170により、ローカルマップに含まれる物体の位置データがグローバル座標系のデータに座標変換される。
 次に、端末装置100の更新部180により、座標変換後のローカルマップに含まれる物体の位置データを用いて、端末装置100の記憶部132に記憶されている部分グローバルマップが更新される。また、グローバル座標系における端末装置100の位置が更新される。また、パッチデータと、三次元形状データとを関連付けたデータが生成される。さらに、撮像部110から入力された入力画像には、端末装置100に関する端末情報が関連付けられる(ステップS114)。
 次に、端末装置100の更新部180からマップ管理サーバ10の更新部50へ、更新後の部分グローバルマップが送信される(ステップS116)。
 そして、マップ管理サーバ10の更新部50により、更新後の部分グローバルマップに含まれる物体の位置データを用いて、グローバルマップ記憶部30に記憶されているグローバルマップが更新される。また、ステップS106において抽出されなかった、端末装置100以外の各端末装置の端末情報が関連付けられた部分グローバルマップが抽出される。具体的には、ステップS106で抽出されなかったパッチデータなどを検出する。また、ステップS114で更新された部分グローバルマップに基づいて、端末装置100以外の各端末装置の端末情報が関連付けられた部分グローバルマップが更新される。そして、更新された部分グローバルマップに基づいて、グローバルマップ記憶部30に記憶されている、各端末装置の端末情報が関連付けられたグローバルマップが更新される(ステップS118)。また、ステップS118では、グローバルマップに同一の物体が重複して登録されている場合には、更新部50は、グローバルマップを更新する際に、同一の物体を1つに統合する。具体的には、更新部50は、例えば、複数の物体のうち、1つのみを残し、残りを削除することで、重複登録されている物体を統合する。
(5.異なる端末情報を有する複数の端末間におけるマップ更新処理)
 図11を用いて、異なる端末情報を有する複数の端末間でグローバルマップを更新する処理について説明する。図11は、複数の端末間でグローバルマップを更新する処理の流れの一例を示すシーケンス図である。
 図11は、マップ管理サーバ10と、端末装置100aと、端末装置100bとの間でグローバルマップを更新する処理の流れを示している。
 図11に示すステップS102~ステップS118の処理は、図10と同様なので説明は省略する。
 端末装置100bの初期位置が、ステップS102と同様の方法で初期化される(ステップS120)。
 次に、端末装置100bの位置に関する情報と、端末装置100の端末情報とが、ステップS104と同様の方法で初期化される(ステップS122)。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40により、端末装置100bの位置に関する情報と、端末情報に基づいて、グローバルマップ記憶部30から端末装置100bの端末情報が関連付けられた部分グローバルマップが抽出される(ステップS124)。ここでは、ステップS118で、更新部50によって更新された端末装置100bの端末情報が関連付けられた部分グローバルマップが抽出される。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40から端末装置100bのグローバルマップ取得部130へ、ステップS118で、更新部50によって更新された端末装置100bの端末情報が関連付けられた部分グローバルマップが送信される(ステップS126)。
 次に、端末装置100bのローカルマップ生成部140により、入力画像及び特徴データに基づいて、周囲の物体の位置を表現するローカルマップが生成される(ステップS128)。ここでは、端末装置100bは、ステップS118で更新された部分グローバルマップを受信しているので、端末装置100bにとって新規の物体であったとしても、その物体を既知の物体として認識することができる。これにより、例えば、計算速度が向上する。
 ステップS130~ステップS136の処理については、ステップS112~ステップS118の処理と同様なので説明は省略する。
 図12を用いて、異なる端末情報を有する複数の端末間で並列してグローバルマップを更新する処理について説明する。図12は、複数の端末間で並行してグローバルマップを更新する処理の流れの一例を示すシーケンス図である。
 図12は、マップ管理サーバ10と、端末装置100aと、端末装置100bとの間で並行してグローバルマップを更新する処理の流れを示している。
 ステップS202~ステップS208は、図10に図示のステップS102~ステップS108と同様なので説明を省略する。
 端末装置100bの初期化部120により、撮像部110から入力される入力画像を用いて、グローバル座標系における端末装置100bの位置が初期化される(ステップS210)。
 次に、端末装置100bのグローバルマップ取得部130からマップ管理サーバ10へ、グローバル座標系における端末装置100bの位置に関する情報と、端末装置100bの端末情報とが送信される(ステップS212)。すなわち、端末装置100bは、端末装置100aによってマップ管理サーバ10が記憶しているグローバルマップが更新される前に、端末装置100bの位置に関する情報と、端末装置100bの位置に関する情報とが送信される。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40により、端末装置100の位置に関する情報と、端末情報に基づいて、グローバルマップ記憶部30から端末装置100bの端末情報が関連付けられた部分グローバルマップが抽出される(ステップS214)。ここでは、端末装置100aから送信された部分グローバルマップに基づいて、更新される前の部分グローバルマップが抽出される。
 次に、マップ管理サーバ10の部分グローバルマップ抽出部40から端末装置100bのグローバルマップ取得部130へ、端末装置100bの端末情報が関連付けられた部分グローバルマップが送信される(ステップS216)。
 ステップS218~ステップS226は、図10に図示のステップS110~ステップS118と同様なので説明を省略する。
 ステップS228~ステップS234は、図10に図示のステップS110~ステップS116と同様の処理を行っているので説明を省略する。
 ステップS234の処理の後、マップ管理サーバ10の更新部50により、更新後の部分グローバルマップに含まれる物体の位置データを用いて、グローバルマップ記憶部30に記憶されているグローバルマップが更新される。また、ステップS214において抽出されなかった、端末装置100b以外の各端末装置の端末情報が関連付けられた部分グローバルマップが抽出される。また、ステップS232で更新された部分グローバルマップに基づいて、端末装置100以外の各端末装置の端末情報が関連付けられた部分グローバルマップが更新される。そして、更新された部分グローバルマップに基づいて、グローバルマップ記憶部30に記憶されている、各端末装置の端末情報が関連付けられたグローバルマップが更新される(ステップS236)。ここで、ステップS226において、グローバルマップ記憶部30に記憶されているグローバルマップは、端末装置100aによって更新されている。この場合、ステップS236でグローバルマップを更新する際に、同じ物体が重複して登録されてしまうことがある。そのため、更新部50は、グローバルマップに物体が重複して登録されているか否かを判定する。物体が重複して登録されてしまった場合、更新部50は、重複して登録された物体を統合し、重複登録を解消する。具体的には、更新部50は、例えば、重複登録されている物体の1つのみを残すように物体を削除する。なお、更新部50がグローバルマップに物体が重複して登録されているか否かを判定する方法に特に制限はない。更新部50は、例えば、絶対位置に対する姿勢のズレ量が一定値以下である物体が複数存在した場合には、その複数の物体は同じ物体であると判定する。更新部50は、例えば、複数の物体の画像特徴量を比較し、マッチングスコアが一定以上であった場合に、その複数の物体は同じ物体であると判定する。
 図13を用いて、新規の端末装置をマップ管理サーバに登録する処理について説明する。図13は、端末装置をサーバに登録する処理の流れの一例を示すシーケンス図である。
 図13は、マップ管理サーバ10と、マップ管理サーバ10に登録されていない端末装置100cとの処理の流れを示している。
 ステップS302と、ステップS304との処理は、図10に図示のステップS102と、ステップS104との処理と同様なので説明は省略する。
 ステップS304の処理の後、マップ管理サーバ10は、端末装置100cの端末情報を記憶していないので、端末装置100cから通信を拒否する(ステップS306)。このような場合、マップ管理サーバ10と、端末装置100cとの間で通信を実行させるために、例えば、ユーザによって端末装置100cの端末情報をマップ管理サーバ10に登録する。
 次に、更新部50は、端末装置100cの端末情報が関連付けられた、端末装置100c向けの各種のデータを生成する(ステップS308)。具体的には、更新部50は、端末装置100c向けのパッチデータ、三次元形状データ、オントロジーデータを生成する。これにより、マップ管理サーバ10と、端末装置100cとの間で通信することが可能となる。
 ステップS310~ステップS316は、図10に図示のステップS102~ステップS108と同様なので、説明を省略する。このように、新規の端末装置が登場した場合であっても、マップ管理サーバに端末情報を登録することによって、マップ管理サーバと、新規の端末装置との間で通信を行うことが可能となる。
 なお、図10~図13では、異なる端末情報を持つ複数の端末装置と、マップ管理サーバとの処理について説明する。より具体的には、複数の端末装置は、画像から抽出する特徴量が異なっていてもよい。
 図14を用いて、異なる特徴量を抽出する複数の端末間でグローバルマップを更新する処理について説明する。図14は、複数の端末間でグローバルマップを更新する処理の流れの一例を示すシーケンス図である。
 図14では、端末装置100aがBRIEF特徴量を利用し、端末装置100bがORB特徴量を利用する端末装置であるものとして説明する。
 図14の処理は、図11の処理と比較すると、ステップS110Aと、ステップS118Aと、ステップS124Aと、ステップS128Aとの処理が異なっており、その他の処理は同じである。したがって、図14の処理において、図11の処理と同じ処理については、説明を省略する。また、ステップS110Aと、ステップS118Aと、ステップS124Aと、ステップS128Aについても、ステップS110と、ステップS118と、ステップS124と、ステップS128と同様の処理については説明を省略する。
 ステップS108の処理の後、端末装置100aのローカルマップ生成部140により、入力画像からBRIEF特徴量が抽出され、周囲の物体の位置を表現するローカルマップが生成される(ステップS110A)。
 ステップS116の処理の後、マップ管理サーバ10の更新部50により、更新後の部分グローバルマップに含まれる物体の位置データを用いて、グローバルマップ記憶部30に記憶されているグローバルマップが更新される。また、更新部50によって、撮像画像からORB特徴量が抽出される。また、更新されたBRIEF特徴量の部分グローバルマップに基づいて、ORB特徴量の部分グローバルマップが更新される。そして、更新されたORB特徴量の部分グローバルマップに基づいて、グローバルマップ記憶部30に記憶されている、ORB特徴量のグローバルマップが更新される(ステップS118A)。
 ステップS122の処理の後、マップ管理サーバ10の部分グローバルマップ抽出部40により、グローバルマップ記憶部30からORB特徴量の部分グローバルマップが抽出される(ステップS124A)。ここでは、ステップS118で、更新部50によって更新されたORB特徴量の部分グローバルマップが抽出される。
 ステップS126の処理の後、端末装置100bのローカルマップ生成部140により、ORB特徴量のローカルマップが生成される(ステップS128A)。
[第1の変形例]
 上記では、端末装置同士の端末情報や、画像から抽出する特徴量が異なる場合について説明したが、本開示はこれに限定されない。本開示では、端末に搭載されているカメラの種類が異なっていてもよい。例えば、端末装置100aの撮像部110が可視光センサのみから構成され、端末装置100bの撮像部110が可視光センサ及びToF(Time of Flight)センサから構成されていてもよい。
 図15は、端末装置100aが撮影する画像データの一例を示している。図15に示すように、端末装置100aは、撮像部110の可視光センサによって、可視光画像データC1aを生成する。
 図16は、端末装置100bが撮影する画像データの一例を示している。図16に示すように、端末装置100bは、撮像部110の可視光センサによって、可視光画像データC1bを生成する。また、端末装置100bは、撮像部110のToFセンサによって、可視光画像データC1bに対応する、ToF画像データT1bを生成する。
 図17は、端末装置100aが記憶する特徴データの構成の一例について説明するための説明図である。図17には、端末装置100aが記憶する特徴データFDT1Aが示されている。特徴データFDT1Aは、オブジェクト名称FDT11A、画像データFDT12A、パッチデータFDT13A、三次元形状データFDT14A、及びオントロジーデータFDT15Aを含む。
 画像データFDT12Aに示すように、端末装置100aは、例えば、第1の画像データFDT121Aと、第2の画像データFDT122Aとを記憶している。第1の画像データFDT121Aは、可視光画像データC1aを含む。第2の画像データFDT122Aは、可視光画像データC2aを含む。すなわち、端末装置100aは、可視光画像データのみを記憶している。
 オブジェクト名称FDT11A、パッチデータFDT13A、三次元形状データFDT14A、及びオントロジーデータFDT15Aは、それぞれ、図8に示したオブジェクト名称FDT11、パッチデータFDT13、三次元形状データFDT14、及びオントロジーデータFDT15と同様なので説明は省略する。
 図18は、端末装置100bが記憶する特徴データの構成の一例について説明するための説明図である。図18には、端末装置100bが記憶する特徴データFDT1Bが示されている。特徴データFDT1Bは、オブジェクト名称FDT11B、画像データFDT12B、パッチデータFDT13B、三次元形状データFDT14B、及びオントロジーデータFDT15Bを含む。
 画像データFDT12Bに示すように、端末装置100bは、例えば、第1の画像データFDT121Bと、第2の画像データ122Bとを記憶している。画像データFDT121Bは、可視光画像データC1bと、ToF画像データT1bとを含む。画像データFDT122Bは、可視光画像データC2bと、ToF画像データT2bとを含む。すなわち、端末装置100bは、可視光画像データと、ToF画像データとを記憶している。
 オブジェクト名称FDT11B、パッチデータFDT13B、三次元形状データFDT14B、及びオントロジーデータFDT15Bは、それぞれ、図8に示したオブジェクト名称FDT11、パッチデータFDT13、三次元形状データFDT14、及びオントロジーデータFDT15と同様なので説明を省略する。
 図19は、端末装置100aの撮像部110が可視光センサのみから構成され、端末装置100bの撮像部110が可視光センサ及びToFセンサから構成される場合に、マップ管理サーバ10が記憶する特徴データの構成の一例について説明するための説明図である。図19に示すように、特徴データFDS1Aは、オブジェクト名称FDS11A、画像データFDS12A、パッチデータFDS13A、三次元形状データFDS14A、及びオントロジーデータFDS15Aを含む。
 画像データFDS12Aは、第1の画像データFDT121Aと、第2の画像データFDT121Bとを含む。第1の画像データFDT121Aは、図17に示すように、端末装置100aによって撮影された画像データである。第2の画像データFDT121Bは、図18に示すように、端末装置100bによって撮影された画像データである。ここで、画像データFDT121Aには、端末装置100aの端末情報が関連付けられている。画像データFDT121Bには、端末装置100bの端末情報が関連付けられている。これにより、マップ管理サーバ10において、各端末装置がToFセンサを搭載しているか否かを認識することができる。
 ここで、図19に示すように、第1の画像データFDT121Aは、可視光画像データC1aと、ToF画像データT1aとを含んでいる。すなわち、マップ管理サーバ10は、可視光画像データC1aに基づいて、ToF画像データT1aを生成する。具体的には、マップ管理サーバ10の更新部50が、可視光画像データC1aに基づいて、ToF画像データT1aを生成する。この場合、グローバルマップ記憶部30が、可視光画像からToF画像を生成するためのプログラムを記憶していればよい。
 オブジェクト名称FDS11A、パッチデータFDS13A、三次元形状データFDS14A、及びオントロジーデータFDS15Aは、それぞれ、図9に示したオブジェクト名称FDS11、パッチデータFDS13、三次元形状データFDS14、及びオントロジーデータFDS15と同様なので説明は省略する。
 図20を用いて、ToFセンサを搭載しない端末装置と、ToFセンサを搭載している端末装置間でグローバルマップを更新する処理について説明する。図14、ToFセンサを搭載しない端末装置と、ToFセンサを搭載している端末装置間でグローバルマップを更新する処理の流れの一例を示すシーケンス図である。
 図14では、端末装置100aがToFセンサを搭載しない端末装置であり、端末装置100bがToFセンサを搭載する端末装置であるものとして説明する。
 図20の処理は、図11の処理と比較すると、ステップS110Bと、ステップS118Bと、ステップS124Bと、ステップS128Bとの処理が異なっており、その他の処理は同じである。したがって、図20の処理において、図11の処理と同じ処理については、説明を省略する。また、ステップS110Bと、ステップS118Bと、ステップS124Bと、ステップS128Bについても、ステップS110と、ステップS118と、ステップS124と、ステップS128と同様の処理については説明を省略する。
 ステップS108の処理の後、端末装置100aのローカルマップ生成部140により、可視光画像データからなるローカルマップが生成される(ステップS110B)。
 ステップS116の処理の後、マップ管理サーバ10の更新部50により、更新後の部分グローバルマップに含まれる物体の位置データを用いて、グローバルマップ記憶部30に記憶されているグローバルマップが更新される。また、更新部50によって、撮像画像からToF画像データが抽出される。また、更新された可視光画像データの部分グローバルマップに基づいて、ToF画像データの部分グローバルマップが更新される。そして、更新されたToF画像データからなる部分グローバルマップに基づいて、グローバルマップ記憶部30に記憶されている、ToF画像データからなるグローバルマップが更新される(ステップS118B)。言い換えれば、ステップS118Bでは、可視光画像データからToF画像データが生成される。
 ステップS122の処理の後、マップ管理サーバ10の部分グローバルマップ抽出部40により、グローバルマップ記憶部30から可視光画像データ及びToF画像データからなる部分グローバルマップが抽出される(ステップS124B)。ここで、ステップS124Bで抽出される可視光画像データ及びToF画像データは、ステップS118で、更新部50によって更新された可視光画像データ及びToF画像データである。
 ステップS126の処理の後、端末装置100bのローカルマップ生成部140により、可視光画像データ及びToF画像データからなるローカルマップが生成される(ステップS128B)。
[第2の変形例]
 第1の変形例では、撮像部の種類が異なる端末間でマップ管理サーバ10のグローバルマップを更新する処理について説明した。しかしながら、本実施形態は、撮像部の画像解像度が異なる端末間であってもマップ管理サーバ10のグローバルマップを更新することができる。
 図21を用いて、異なる画像解像度の複数の端末間でグローバルマップを更新する処理について説明する。図21は、複数の端末間でグローバルマップを更新する処理の流れの一例を示すシーケンス図である。
 図21では、端末装置100aの画像解像度が1280×960であり、端末装置100bの画像解像度が640×480であるものとして説明する。
 図21の処理は、図11の処理と比較すると、ステップS110Cと、ステップS118Cと、ステップS124Cと、ステップS128Cとの処理が異なっており、その他の処理は同じである。したがって、図21の処理において、図11の処理と同じ処理については、説明を省略する。また、ステップS110Cと、ステップS118Cと、ステップS124Cと、ステップS128Cについても、ステップS110と、ステップS118と、ステップS124と、ステップS128と同様の処理については説明を省略する。
 ステップS108の処理の後、端末装置100aのローカルマップ生成部140により、入力画像から1280×960の解像度で特徴点を抽出する。これにより、ローカルマップが生成される(ステップS110C)。
 ステップS116の処理の後、マップ管理サーバ10の更新部50により、グローバルマップ記憶部30に記憶されているグローバルマップが更新される。また、更新部50によって、画像解像度が1280×960の画像データが縮小され、画像解像度が640×480の画像が生成される。そして、更新部50によって、画像解像度が640×480の画像の特徴点を抽出する。これにより、画像解像度が640×480の画像の部分グローバルマップが更新される。そして、更新された画像解像度が640×480の画像の部分グローバルマップに基づいて、グローバルマップ記憶部30に記憶されている、画像解像度が640×480の画像のグローバルマップが更新される(ステップS118C)。ステップS118の処理を実行するために、例えば、グローバルマップ記憶部30が、画像データから異なる画像解像度の画像データを生成させるようなプログラムを記憶していればよい。
 ステップS122の処理の後、マップ管理サーバ10の部分グローバルマップ抽出部40により、グローバルマップ記憶部30から画像解像度が640×480の画像の部分グローバルマップが抽出される(ステップS124C)。ここでは、ステップS118で、更新部50によって更新された画像解像度が640×480の画像の部分グローバルマップが抽出される。
 ステップS126の処理の後、端末装置100bのローカルマップ生成部140により、画像解像度が640×480の画像の解像度で特徴点を抽出する。これにより、ローカルマップが生成される(ステップS128C)。
 なお、第2の変形例では、2つの端末装置の画像解像度が異なるものとして説明したが、これは例示であり、本発明を限定するものではない。例えば、2つの端末装置の画角、レンズの歪み、センサ感度が異なっていてもよい。
[第3の変形例]
 図22を用いて、マップ管理サーバ10のデータ容量を削減する方法について説明する。図22は、マップ管理サーバ10が記憶する特徴データの構成の一例について説明するための説明図である。図22に示すように、特徴データFDS1Bは、オブジェクト名称FDS11B、画像データFDS12B、パッチデータFDS13B、三次元形状データFDS14B、及びオントロジーデータFDS15Bを含む。
 画像データFDS12Bは、第1の画像データFDS121Bと、第2の画像データFDS122Bとを含む。第1の画像データFDS121Bは、例えば、端末装置100aによって撮影された画像データである。第2の画像データFDS122Bは、例えば、端末装置100bによって撮影された画像データである。
 ここで、第2の画像データFDS122Bが、例えば、第1の画像データFDS121Bを縮小することで作成可能であるならば、マップ管理サーバ10は、第2の画像データFDS122Bを記憶しなくともよい。この場合、マップ管理サーバ10は、第1の画像データFDS121Bに基づいて、第2の画像データFDS122Bを生成すればよい。これにより、マップ管理サーバ10は、第2の画像データFDS122Bを記憶する必要がなくなるので、データ容量を削減することが可能となる。
 なお、第2の画像データFDS122Bは、第1の画像データFDS121Bを縮小することで生成できるものとして説明したが、これは例示であり、本発明を限定するものではない。第1の画像データFDS121Bの輝度を変換したり、第1の画像データFDS121Bに対してアフィン変換などの幾何変換を実行したりすることで、第2の画像データFDS122Bを生成できる場合にも、第2の画像データFDS122Bを記憶していなくともよい。
(6.ハードウェア構成)
 上述してきた各実施形態に係るマップ管理サーバ10及び端末装置100は、例えば、図23に示すような構成のコンピュータ1000によって実現される。図23は、マップ管理サーバ10及び端末装置100の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インターフェイス1500、及び入出力インターフェイス1600を有する。コンピュータ1000の各部は、バス1050によって接続される。
 CPU1100は、ROM1300又はHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。例えば、CPU1100は、ROM1300又はHDD1400に格納されたプログラムをRAM1200に展開し、各種プログラムに対応した処理を実行する。
 ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるBIOS(Basic Input Output System)等のブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
 HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を非一時的に記録する、コンピュータが読み取り可能な記録媒体である。具体的には、HDD1400は、プログラムデータ1450の一例である本開示に係るプログラムを記録する記録媒体である。
 通信インターフェイス1500は、コンピュータ1000が外部ネットワーク1550(例えばインターネット)と接続するためのインターフェイスである。例えば、CPU1100は、通信インターフェイス1500を介して、他の機器からデータを受信したり、CPU1100が生成したデータを他の機器へ送信したりする。
 入出力インターフェイス1600は、入出力デバイス1650とコンピュータ1000とを接続するためのインターフェイスである。例えば、CPU1100は、入出力インターフェイス1600を介して、キーボードやマウス等の入力デバイスからデータを受信する。また、CPU1100は、入出力インターフェイス1600を介して、ディスプレイやスピーカーやプリンタ等の出力デバイスにデータを送信する。また、入出力インターフェイス1600は、所定の記録媒体(メディア)に記録されたプログラム等を読み取るメディアインターフェイスとして機能してもよい。メディアとは、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
 例えば、コンピュータ1000が第1の実施形態に係るマップ管理サーバ10及び端末装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、各部の機能を実現する。また、HDD1400には、本開示に係るプログラムが格納される。なお、CPU1100は、プログラムデータ1450をHDD1400から読み取って実行するが、他の例として、外部ネットワーク1550を介して、他の装置からこれらのプログラムを取得してもよい。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
 なお、本技術は以下のような構成も取ることができる。
(1)
 第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得する取得部と、
 前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部と、
 を備える情報処理装置。
(2)
 前記取得部は、前記第1の端末装置の位置に関する位置情報を取得する、
 前記(1)に記載の情報処理装置。
(3)
 前記第1の端末情報と、前記位置情報に基づいて、前記第1の端末情報が関連付けられた前記位置情報に対応する第1の部分画像データを、前記第1の端末情報が関連付けられた第1の全体画像データから抽出する抽出部をさらに備える、
 前記(2)に記載の情報処理装置。
(4)
 前記第1の画像データは、前記第1の端末装置によって、前記第1の部分画像データを更新した画像データであり、
 前記生成部は、前記第1の画像データに基づいて、前記第1の全体画像データを更新する、
 前記(3)に記載の情報処理装置。
(5)
 前記抽出部は、前記位置情報に基づいて、前記第2の端末情報が関連付けられた第2の部分画像データを前記第2の端末情報が関連付けられた第2の全体画像データから抽出し、
 前記生成部は、前記第1の画像データに基づいて、前記第2の部分画像データから前記第2の画像データを生成する、
 前記(3)または(4)に記載の情報処理装置。
(6)
 前記生成部は、前記第2の画像データに基づいて、前記第2の全体画像データを更新する、
 前記(5)に記載の情報処理装置。
(7)
 前記生成部は、前記第1の全体画像データ及び前記第2の全体画像データに重複して登録されている物体を統合する、
 前記(5)または(6)に記載の情報処理装置。
(8)
 前記第1の全体画像データ及び前記第2の全体画像データは、グローバルマップであり、前記第1の部分画像データ及び前記第2の部分画像データは、部分グローバルマップである、
 前記(5)~(7)のいずれか1項に記載の情報処理装置。
(9)
 第1の端末情報を送信する端末情報送信部と、
 現在位置情報を情報処理装置に送信し、前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から取得する取得部と、
 を備える端末装置。
(10)
 前記第1の画像データに対して、前記第1の端末情報を関連付けて更新する更新部をさらに備える、
 前記(9)に記載の端末装置。
(11)
 パッチ画像データと、三次元形状データと、オントロジーデータとを少なくとも保持する記憶部をさらに備え、
 前記更新部は、前記パッチ画像データと、前記三次元形状データと、前記オントロジーデータの少なくとも1つを前記第1の画像データに対して関連づけて更新する、
 前記(10)に記載の端末装置。
(12)
 情報処理装置と、端末装置とを含み、
 前記情報処理装置は、
 前記端末装置から第1の画像データと、前記端末装置に対応づけられた第1の端末情報とを取得する取得部と、
 前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部と、を備え、
 前記端末装置は、
 第1の端末情報を送信する端末情報送信部と、
 現在位置情報を情報処理装置に送信し、前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から取得する取得部と、
 を備える情報処理システム。
(13)
 第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得し、
 前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する、
 情報処理方法。
(14)
 第1の端末情報と位置情報とを情報処理装置に送信し、
 前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から受信する、
 情報処理方法。
(15)
 情報処理装置が備えるコンピュータを、
第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得する取得部、
 前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部、
 として機能させるためのプログラム。
(16)
 情報処理装置が備えるコンピュータを、
 第1の端末情報と位置情報とを情報処理装置に送信する送信部、
 前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から受信する受信部、
 として機能させるためのプログラム。
 10 マップ管理サーバ
 20 通信インターフェイス
 30 グローバルマップ記憶部
 40 部分グローバルマップ抽出部
 50 更新部
 60 グローバルマップ配信部
 100,100a,100b 端末装置
 102 通信インターフェイス
 110 撮像部
 120 初期化部
 130 グローバルマップ取得部
 132 記憶部
 140 ローカルマップ生成部
 160 算出部
 170 変換部
 180 更新部
 190 端末情報送信部
 200 表示制御部

Claims (16)

  1.  第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得する取得部と、
     前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部と、
     を備える情報処理装置。
  2.  前記取得部は、前記第1の端末装置の位置に関する位置情報を取得する、
     請求項1に記載の情報処理装置。
  3.  前記第1の端末情報と、前記位置情報に基づいて、前記第1の端末情報が関連付けられた前記位置情報に対応する第1の部分画像データを、前記第1の端末情報が関連付けられた第1の全体画像データから抽出する抽出部をさらに備える、
     請求項2に記載の情報処理装置。
  4.  前記第1の画像データは、前記第1の端末装置によって、前記第1の部分画像データを更新した画像データであり、
     前記生成部は、前記第1の画像データに基づいて、前記第1の全体画像データを更新する、
     請求項3に記載の情報処理装置。
  5.  前記抽出部は、前記位置情報に基づいて、前記第2の端末情報が関連付けられた第2の部分画像データを前記第2の端末情報が関連付けられた第2の全体画像データから抽出し、
     前記生成部は、前記第1の画像データに基づいて、前記第2の部分画像データから前記第2の画像データを生成する、
     請求項4に記載の情報処理装置。
  6.  前記生成部は、前記第2の画像データに基づいて、前記第2の全体画像データを更新する、
     請求項5に記載の情報処理装置。
  7.  前記生成部は、前記第1の全体画像データ及び前記第2の全体画像データに重複して登録されている物体を統合する、
     請求項5に記載の情報処理装置。
  8.  前記第1の全体画像データ及び前記第2の全体画像データは、グローバルマップであり、前記第1の部分画像データ及び前記第2の部分画像データは、部分グローバルマップである、
     請求項5に記載の情報処理装置。
  9.  第1の端末情報を送信する端末情報送信部と、
     現在位置情報を情報処理装置に送信し、前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から取得する取得部と、
     を備える端末装置。
  10.  前記第1の画像データに対して、前記第1の端末情報を関連付けて更新する更新部をさらに備える、
     請求項9に記載の端末装置。
  11.  パッチ画像データと、三次元形状データと、オントロジーデータとを少なくとも保持する記憶部をさらに備え、
     前記更新部は、前記パッチ画像データと、前記三次元形状データと、前記オントロジーデータの少なくとも1つを前記第1の画像データに対して関連づけて更新する、
     請求項10に記載の端末装置。
  12.  情報処理装置と、端末装置とを含み、
     前記情報処理装置は、
     前記端末装置から第1の画像データと、前記端末装置に対応づけられた第1の端末情報とを取得する取得部と、
     前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部と、を備え、
     前記端末装置は、
     第1の端末情報を送信する端末情報送信部と、
     現在位置情報を情報処理装置に送信し、前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から取得する取得部と、
     を備える情報処理システム。
  13.  第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得し、
     前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する、
     情報処理方法。
  14.  第1の端末情報と位置情報とを情報処理装置に送信し、
     前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から受信する、
     情報処理方法。
  15.  情報処理装置が備えるコンピュータを、
    第1の端末装置から第1の画像データと、前記第1の端末装置に対応づけられた第1の端末情報とを取得する取得部、
     前記第1の画像データに基づいて、前記第1の端末情報とは異なる第2の端末情報に対応する第2の画像データを生成する生成部、
     として機能させるためのプログラム。
  16.  情報処理装置が備えるコンピュータを、
     第1の端末情報と位置情報とを情報処理装置に送信する送信部、
     前記第1の端末情報とは異なる第2の端末情報に基づいて生成された、前記第1の端末情報及び前記位置情報に対応する第1の画像データを前記情報処理装置から受信する受信部、
     として機能させるためのプログラム。
PCT/JP2019/034529 2018-09-13 2019-09-03 情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム WO2020054498A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/250,787 US20210319591A1 (en) 2018-09-13 2019-09-03 Information processing device, terminal device, information processing system, information processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018171963 2018-09-13
JP2018-171963 2018-09-13

Publications (1)

Publication Number Publication Date
WO2020054498A1 true WO2020054498A1 (ja) 2020-03-19

Family

ID=69777599

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/034529 WO2020054498A1 (ja) 2018-09-13 2019-09-03 情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム

Country Status (2)

Country Link
US (1) US20210319591A1 (ja)
WO (1) WO2020054498A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024009581A1 (ja) * 2022-07-06 2024-01-11 キヤノン株式会社 情報処理システム、情報処理装置、端末装置および情報処理システムの制御方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104372A (ja) * 2002-09-06 2004-04-02 Sony Corp 情報処理装置および方法、情報処理システム、並びにプログラム
JP2011186808A (ja) * 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
JP2017016388A (ja) * 2015-07-01 2017-01-19 株式会社日本総合研究所 地域アルバム生成サーバ及びその生成方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105469361B (zh) * 2015-12-24 2018-12-04 努比亚技术有限公司 一种局部图像处理方法和装置
WO2018155703A1 (ja) * 2017-02-27 2018-08-30 Kddi株式会社 映像配信システム、端末装置及び映像データ配信装置
US10885714B2 (en) * 2017-07-07 2021-01-05 Niantic, Inc. Cloud enabled augmented reality
JP6822929B2 (ja) * 2017-09-19 2021-01-27 株式会社東芝 情報処理装置、画像認識方法および画像認識プログラム
KR102455382B1 (ko) * 2018-03-02 2022-10-18 엘지전자 주식회사 이동단말기 및 그 제어 방법
US10839557B1 (en) * 2018-04-03 2020-11-17 A9.Com, Inc. Camera calibration for augmented reality
CN108717711B (zh) * 2018-05-23 2021-09-24 深圳市阡丘越科技有限公司 一种轨道交通故障图像分析方法、装置和系统
US10896512B1 (en) * 2018-08-28 2021-01-19 Amazon Technologies, Inc. Determining and controlling propeller speeds using imaging devices

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104372A (ja) * 2002-09-06 2004-04-02 Sony Corp 情報処理装置および方法、情報処理システム、並びにプログラム
JP2011186808A (ja) * 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
JP2017016388A (ja) * 2015-07-01 2017-01-19 株式会社日本総合研究所 地域アルバム生成サーバ及びその生成方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024009581A1 (ja) * 2022-07-06 2024-01-11 キヤノン株式会社 情報処理システム、情報処理装置、端末装置および情報処理システムの制御方法

Also Published As

Publication number Publication date
US20210319591A1 (en) 2021-10-14

Similar Documents

Publication Publication Date Title
US11762887B2 (en) Information processing device, map update method, program, and information processing system
US11729245B2 (en) Platform for constructing and consuming realm and object feature clouds
CN103827634B (zh) 用于室内定位的徽标检测
US9699375B2 (en) Method and apparatus for determining camera location information and/or camera pose information according to a global coordinate system
JP7174139B2 (ja) 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
US20220051372A1 (en) Feature matching using features extracted from perspective corrected image
WO2018207426A1 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2023083256A1 (zh) 位姿显示方法、装置及系统、服务器以及存储介质
CN111832579A (zh) 地图兴趣点数据处理方法、装置、电子设备以及可读介质
WO2020054498A1 (ja) 情報処理装置、端末装置、情報処理システム、情報処理方法及びプログラム
JP2021089487A (ja) 画像処理装置、プログラム及び画像処理システム
US20230100412A1 (en) A system, a method and a computer program for generating a digital map of an environment
Lin Implementation and evaluation of marker-based visual localization for mobile robots
KR20230113886A (ko) 다중신호 센서 맵 이미지를 이용하는 실내 좌표 측위 시스템의 동작 방법
TW202238068A (zh) 自監督多圖框單眼深度估計模型
Molyneaux et al. Cooperatively augmenting smart objects with projector-camera systems
Sambolek et al. Determining the Geolocation of a Person Detected in an Image Taken with a Drone

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19860714

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19860714

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP