WO2018225363A1 - 情報処理装置、情報処理方法、及びプログラム - Google Patents

情報処理装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
WO2018225363A1
WO2018225363A1 PCT/JP2018/014390 JP2018014390W WO2018225363A1 WO 2018225363 A1 WO2018225363 A1 WO 2018225363A1 JP 2018014390 W JP2018014390 W JP 2018014390W WO 2018225363 A1 WO2018225363 A1 WO 2018225363A1
Authority
WO
WIPO (PCT)
Prior art keywords
coordinate system
information
sensor
conversion parameter
information processing
Prior art date
Application number
PCT/JP2018/014390
Other languages
English (en)
French (fr)
Inventor
雄 田中
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Publication of WO2018225363A1 publication Critical patent/WO2018225363A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Definitions

  • AR augmented reality
  • a virtual object for advertisement can be displayed superimposed on the wall surface of a building in real space or a signboard.
  • position information obtained based on image recognition technology such as SLAM (Simultaneous Localization and Mapping) is used to superimpose and display virtual objects in real space (for example, Patent Document 1 and 2).
  • position information in the AR technology it is possible to obtain position information by preparing a dedicated marker in advance and detecting the prepared dedicated marker from the image, but it is obtained from an image captured by a camera. It is more natural to use the feature points as markers. For example, it is possible to obtain camera position information by matching feature points obtained from an image captured by the camera with feature points associated with the position information and stored in a database. In such a case, in order to superimpose and display a virtual object at a position in a predetermined real space, a feature point map (a plurality of three-dimensional position information associated with the three-dimensional position information) is displayed. It is desirable to prepare a map including feature point information in advance.
  • the feature point map can be generated by the above-described SLAM, for example.
  • the present disclosure person has created an embodiment of the present disclosure with the above circumstances in mind.
  • a conversion parameter between a local coordinate system corresponding to a sensor related to generation of a feature point map and a global coordinate system corresponding to a sensor related to acquisition of GNSS data.
  • the position information can be converted between the coordinate systems as described above.
  • the configuration of an embodiment according to the present disclosure having such effects will be described.
  • the function of the image acquisition unit 130 is realized by, for example, the camera 103 illustrated in FIG. 2, and acquires an image by capturing a real space.
  • the image acquisition unit 130 outputs the acquired image to the control unit 150.
  • the conversion parameter specifying unit 156 determines whether or not the accuracy of the global posture information or the local posture information is low using a predetermined condition regarding the accuracy of the global posture information or the local posture information, A specific method may be selected. In the following, it is assumed that the conversion parameter specifying unit 156 determines that the accuracy is low when the predetermined condition is not satisfied. Note that the conversion parameter specifying unit 156 may make a determination on either the accuracy of the global posture information or the accuracy of the local posture information, or may make a determination on both.
  • the conversion parameter specifying unit 156 can specify the conversion parameter between the global coordinate system and the local coordinate system by the second conversion parameter specifying method without using the posture information. It is.
  • the conversion parameter specifying unit 156 specifies the conversion parameter using the global posture information and the local posture information by the first conversion parameter specifying method described above ( S120). On the other hand, if it is not determined that the accuracy is low (YES in S118), the conversion parameter specifying unit 156 uses the second conversion parameter specifying method described above to convert conversion parameters without using global posture information and local posture information. Specify (S122). In addition, regardless of which of the first conversion parameter specifying method and the second conversion parameter specifying method is selected, the conversion parameter specifying unit 156 specifies the conversion parameter based on the global position information and the local position information. To do.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】情報処理装置、情報処理方法、及びプログラムを提供する。 【解決手段】第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータを特定する制御部、を備える情報処理装置。

Description

情報処理装置、情報処理方法、及びプログラム
 本開示は、情報処理装置、情報処理方法、及びプログラムに関する。
 近年、実空間に仮想オブジェクトを重畳してユーザに提示する拡張現実(AR:Augmented Reality)と呼ばれる技術が注目されている。例えば、AR技術を広告のために利用する場合には、実空間の建物の壁面、または看板等に、広告用の仮想オブジェクトが重畳して表示され得る。AR技術において、実空間に仮想オブジェクトを重畳して表示させるため、例えばSLAM(Simultaneous Localization and Mapping)等の画像認識技術に基づいて得られる位置情報が用いられている(例えば、下記特許文献1及び2参照)。
 AR技術において位置情報を得る場合、予め専用のマーカを用意し、用意された専用のマーカを画像から検出することで位置情報を得ることも可能であるが、カメラにより撮像された画像から得られる特徴点をマーカとして用いる方がより自然な演出となる。例えばカメラにより撮像された画像から得られる特徴点を、位置情報と対応付けられてデータベースに記憶された特徴点とマッチング(照合)することでカメラの位置情報を得ることが可能である。係る場合、予め定められた実空間中の位置に仮想オブジェクトを重畳して表示するためには、仮想オブジェクトの配置マップに応じた特徴点マップ(3次元的な位置情報と対応付けられた複数の特徴点の情報を含むマップ)を予め用意することが望ましい。特徴点マップは、例えば上述したSLAMにより生成することが可能である。
特開2012-168798号公報 特開2012-168646号公報
 しかし、SLAMにより特徴点マップを生成する場合、特徴点マップの生成に係るセンサ(例えばカメラ)毎に異なる座標系が設定されるため、複数のデバイスで生成された特徴点マップを統合することが困難であった。その結果、例えば広範囲な特徴点マップを生成することが困難であった。
 そこで、本開示では、あるセンサに対応する座標系における位置情報を他のセンサに対応する座標系における位置情報へ変換するための変換パラメータを得ることが可能な、情報処理装置、情報処理方法、及びプログラムを提案する。
 本開示によれば、第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータを特定する制御部、を備える情報処理装置が提供される。
 また、本開示によれば、第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定すること、を含む情報処理方法が提供される。
 また、本開示によれば、コンピュータに、第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定する機能を実現させるための、プログラムが提供される。
 以上説明したように本開示によれば、あるセンサに対応する座標系における情報を他のセンサに対応する座標系における位置情報へ変換するための変換パラメータを得ることが可能である。
 なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係る情報処理システム1の概略構成を示す説明図である。 同実施形態に係る情報処理装置100のハードウェア構成の一例を示すブロック図である。 同実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。 同実施形態に係る表示端末300のハードウェア構成の一例を示すブロック図である。 同実施形態に係る表示端末300の機能構成の一例を示すブロック図である。 情報処理装置100による特徴点マップの生成に係る動作を示すフローチャート図である。 サーバ200と表示端末300による仮想オブジェクトの表示に係る動作を示すフローチャート図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
 なお、説明は以下の順序で行うものとする。
 <<1.背景>>
 <<2.構成>>
  <2-1.システム構成>
  <2-2.情報処理装置の構成>
  <2-3.表示端末の構成>
 <<3.動作>>
  <3-1.特徴点マップの生成に係る動作>
  <3-2.仮想オブジェクトの表示に係る動作>
 <<4.変形例>>
  <4-1.変形例1>
  <4-2.変形例2>
  <4-3.変形例3>
 <<5.むすび>>
 <<1.背景>>
 AR技術において、実空間に仮想オブジェクトを重畳して表示させるため、例えばSLAM等の画像認識技術に基づいて得られる特徴点マップが用いられている。特徴点マップと仮想オブジェクトの配置マップとを予め対応付けて用意することで、予め定められた実空間中の位置に仮想オブジェクトを重畳して表示することが可能となる。
 しかし、SLAMでは逐次的に位置情報の取得と特徴点マップの生成を行うため、広範囲に及ぶ特徴点マップを生成する場合には、誤差の蓄積等により、全体的な配置に歪みが生じる場合がある。
 また、SLAMにより特徴点マップを生成する場合、特徴点マップの生成に係るセンサ(例えばカメラ)毎に異なる座標系(以下、ローカル座標系と呼ぶ場合がある)が設定される。ローカル座標系は、例えばセンサやセンサを有するデバイスの電源が入った時点のセンサの位置を基準として設定されるセンサ独自の座標系であるため、複数のデバイスで生成された特徴点マップを統合することは困難であった。特徴点マップを統合するためには、例えば少なくとも特徴点マップの間で共通の特徴点を有する必要があり、広範囲な特徴点マップを生成することは困難であった。また、各特徴点マップにおいて上述した歪みが生じるため、統合することで歪みがより大きくなる恐れがあった。
 また、特徴点マップを特徴点マップ以外のマップ、例えば建物の位置等の情報を含むマップと統合することが出来れば、仮想オブジェクトを建物に合わせて配置させることが容易に可能であろう。しかし、座標系がセンサ毎に独自に設定されるため、特徴点マップを特徴点マップ以外のマップと統合したり照合したりすることも困難である。
 ところで、複数のセンサやデバイス等において共通して用いられ、実空間に対応する座標系(以下、グローバル座標系と呼ぶ場合がある)も存在する。なお、本明細書において、グローバル座標系は、GNSS(Global Navigation Satellite System)で用いられる地球中心地球固定(ECEF (Earth-Centered
Earth-Fixed)座標系であってもよい。GNSSは衛星航法による測位システムであり、例えばGPS(Global Positioning System)、GLONASS(Global Navigation Satellite System)、BDS(BeiDou Navigation Satellite System)、QZSS(Quasi-Zenith Satellites System)、またはGalileo等を含み得る。
 ここで、各センサ毎に設定されたローカル座標系における位置情報を、このようなグローバル座標系における位置情報へ変換することが出来れば、複数のデバイスで生成された特徴点マップを統合し、グローバル座標系における特徴点マップを生成することが可能であろう。また、ローカル座標系における位置情報を逐次的にグローバル座標系における位置情報へ変換することが出来れば、広範囲な特徴点マップを生成する場合であっても、歪みが生じることを抑制することが可能であろう。さらに、既に存在している特徴点マップ以外のマップには、グローバル座標系で表現されたマップも多数存在するため、グローバル座標系で表現された特徴点マップが得られれば、多様な種類のマップと統合、照合することも容易になり得る。
そこで、本件開示者は、上記事情を一着眼点にして本開示の実施形態を創作するに至った。本開示の実施形態によれば、特徴点マップの生成に係るセンサに対応するローカル座標系と、GNSSデータの取得に係るセンサに対応するグローバル座標系との間の変換パラメータを特定することで、上述したような座標系間での位置情報の変換が可能となる。以下、このような効果を有する本開示に係る一実施形態の構成について説明する。
 <<2.構成>>
  <2-1.システム構成>
 図1は、本開示の一実施形態に係る情報処理システム1の概略構成を示す説明図である。図1に示すように、本実施形態に係る情報処理システム1は、情報処理装置100、サーバ200、表示端末300、及び通信網5を含む。以下、情報処理システム1の概略構成を説明した後に、情報処理装置100、及び表示端末300のより詳細な構成について説明する。
 通信網5は、通信網5に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、通信網5は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、通信網5は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。図1に示すように、情報処理装置100、サーバ200、及び表示端末300は、通信網5を介して相互に接続される。
 図1に示す情報処理装置100は、特徴点マップを生成するための情報処理装置である。情報処理装置100は、例えばSLAMにより取得した特徴点と対応付けられたローカル座標系における位置情報をグローバル座標系における位置情報へ変換し、特徴点の情報(例えば特徴量)とグローバル座標系における位置情報が対応付けられた特徴点マップをサーバ200へ送信する。情報処理装置100のより詳細な構成については、図2、図3を参照して後述する。
 図1に示すように、サーバ200は、記憶部210、及び制御部220を備える情報処理装置である。記憶部210は、例えば情報処理装置100から受信した特徴点マップと、グローバル座標系における位置情報と対応付けられた仮想オブジェクトの情報を記憶している。制御部220はサーバ200の全体を制御する。また、制御部220は、表示端末300から受信されるグローバル座標系における表示端末300の位置情報に基づいて、表示端末300の周辺の位置情報に対応付けられた特徴点と、仮想オブジェクトの情報を表示端末300へ送信させる。
 図1に示す表示端末300は、AR技術により、実空間に仮想オブジェクトを重畳して表示する情報処理装置である。表示端末300は、グローバル座標系における位置情報をサーバ200へ送信し、周辺の位置情報に対応付けられた特徴点と、仮想オブジェクトの情報をサーバ200から受信する。さらに、表示端末300は、サーバ200から受信した特徴点に基づいて、サーバ200から受信した仮想オブジェクトを予め定められた実空間の位置に重畳して表示する。なお、表示端末300の構成については、図4、図5を参照して後述する。
  <2-2.情報処理装置の構成>
 (ハードウェア構成例)
 図2は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示すブロック図である。図2を参照すると、情報処理装置100は、IMU(Inertial Measurement Unit)101、GNSS受信機102、カメラ103、CPU(Central Processing unit)104、メモリ105、通信装置106、及びバス109を備える。
 IMU101は、角加速度、及び加速度を検出する装置である。
 GNSS受信機102は、航法衛星から電波を受信するアンテナを有し、GNSSデータを取得する。また、GNSS受信機102は、GNSSデータに基づいて測位計算を行う回路を有してもよく、測位計算によりグローバル座標系におけるアンテナの位置情報と姿勢情報を取得してもよい。なお、以下ではGNSS受信機102を第1のセンサと呼ぶ場合がある。
 カメラ103は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、及び撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成するセンサ装置である。カメラ103は、静止画を撮像するものであってもよいし、また動画像を撮像するものであってもよい。また、カメラ103は、画像処理用の回路を有してもよい。なお、以下ではカメラ103を第2のセンサと呼ぶ場合がある。
 なお、GNSS受信機102、及びカメラ103の相対的な位置関係は本実施形態において変化せず、GNSS受信機102、及びカメラ103とは例えば設計に従った所定の位置関係を有するものとする。
 CPU104は、演算処理装置及び制御装置として機能し、メモリ105に記録された各種プログラムに従って、情報処理装置100内の動作全般またはその一部を制御する。
 メモリ105は、半導体メモリまたはハードディスクなどの記憶媒体(非一時的な媒体:
non-transitory media)により構成され、CPU104が使用するプログラムやデータなどを記憶する。なお、本明細書で説明するプログラム及びデータの一部または全部は、メモリ105により記憶されることなく、外部のデータソース(例えば、データサーバ、ネットワークストレージまたは外付けメモリなど)から取得されてもよい。
 通信装置106は、例えば、図1に示した通信網5に接続するための通信デバイスなどで構成された通信インターフェースである。通信装置106は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カードなどであり得る。また、通信装置106は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置106は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。
 バス109は、IMU101、GNSS受信機102、カメラ103、CPU104、メモリ105、及び通信装置106を相互に接続する。
 なお、図2に示したハードウェア構成は一例であって、情報処理装置100のハードウェア構成は係る例に限定されない。例えば、情報処理装置100は他のセンサを備えてもよいし、情報処理装置100を移動させるための車輪やモータ、またはアクチュエータ等を備えてもよい。
 (機能構成例)
 続いて、図3を参照して、本実施形態に係る情報処理装置100の機能構成例を説明する。図3は、本実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。図3を参照すると、情報処理装置100は、角加速度・加速度取得部110、GNSSデータ取得部120、画像取得部130、制御部150、及び通信部160を備える。
 角加速度・加速度取得部110の機能は、例えば図2に示したIMU101により実現され、角加速度、及び加速度を取得する。角加速度・加速度取得部110は、取得した角加速度、及び加速度を制御部150へ出力する。
 GNSSデータ取得部120の機能は、例えば図2に示したGNSS受信機102により実現され、航法衛星から電波を受信してGNSSデータを取得する。GNSSデータ取得部120は、取得したGNSSデータを制御部150へ出力する。
 画像取得部130の機能は、例えば図2に示したカメラ103により実現され、実空間を撮像して画像を取得する。画像取得部130は、取得した画像を制御部150へ出力する。
 制御部150は、図3に示すようにGNSS測位計算部152、画像認識部154、変換パラメータ特定部156、及び座標変換部158として機能する。制御部150の機能は、例えば図2に示したCPU104、及びメモリ105により実現されてもよいし、制御部150の一部の機能はGNSS受信機102、またはカメラ103により実現されてもよい。
 GNSS測位計算部152は、GNSSデータ取得部120により取得されたGNSSデータに基づいて測位計算を行い、グローバル座標系における位置、及び姿勢を計算する。GNSS測位計算部152の機能は、例えば図2に示したGNSS受信機102により実現されてもよいし、CPU104、及びメモリ105によって実現されてもよい。
 GNSS測位計算部152により得られる位置の情報は、GNSS受信機102が有するアンテナの位置情報(第1のセンサに関する位置を示す第1の位置情報の例)であってもよい。また、同様にGNSS測位計算部152により得られる姿勢の情報は、GNSS受信機102が有するアンテナの姿勢情報(第1のセンサに関する位置を示す第1の姿勢情報の例)であってもよい。なお、以下では、GNSS測位計算部152により得られるグローバル座標系における位置、及び姿勢の情報を、それぞれグローバル位置情報、及びグローバル姿勢情報と呼び、まとめてグローバル位置・姿勢情報と呼ぶ場合がある。
 なお、本開示において、グローバル座標系は、GNSS受信機102(第1のセンサ)に対応付けられた座標系(第1の座標系)である。
 GNSS測位計算部152は、例えばRTK(Real Time Kinematic)等の方法により高精度な測位計算を行う。また、GNSS測位計算部152は、角加速度・加速度取得部110から提供される角加速度、及び加速度の情報を用いて、速度推定を行うことで、より高精度な測位計算を行うことが可能である。なお、情報処理装置100が図2に示したIMU101を備えない場合、GNSS測位計算部152は、ドップラー情報や、TDCP(Time-Differenced Carrier Phase)等により速度推定を行ってもよい。
 GNSS測位計算部152は、測位計算により得られたグローバル位置情報、及びグローバル姿勢情報を変換パラメータ特定部156へ出力する。
 画像認識部154は、画像取得部130から提供される画像に基づいて、ローカル座標系における位置、及び姿勢の情報を取得する。画像認識部154の機能は、例えば図2に示したカメラ103により実現されてもよいし、CPU104、及びメモリ105によって実現されてもよい。
 画像認識部154により取得される位置、及び姿勢の情報は、カメラ103の位置情報(第2のセンサに関する位置を示す第2の位置情報の例)であってもよい。また、同様に画像認識部154により得られる姿勢の情報は、カメラ103の姿勢情報(第2のセンサに関する位置を示す第2の姿勢情報の例)であってもよい。なお、以下では、画像認識部154により得られるローカル座標系における位置、及び姿勢の情報を、それぞれローカル位置情報、及びローカル姿勢情報と呼び、まとめてローカル位置・姿勢情報と呼ぶ場合がある。
 なお、画像認識部154は、例えば、情報処理装置100の電源が入った時点を基準としてローカル座標系を設定してもよいし、カメラ103が最初に画像を撮像した時点を基準としてローカル座標系を設定してもよい。本開示において、ローカル座標系は、カメラ103(第2のセンサ)に対応付けられた座標系(第2の座標系)である。
 画像認識部154は、例えばSLAM等の画像認識技術に基づいて、ローカル位置・姿勢情報の情報を取得する。係る場合、画像認識部154は、画像から特徴点を抽出し、ローカル座標系における時系列的な特徴点の追跡に基づいてローカル位置・姿勢情報を取得してもよい。また、画像認識部154は、角加速度・加速度取得部から提供される角加速度、及び加速度の情報を用いることで、より高精度なローカル位置・姿勢情報の情報を取得してもよい。
 画像認識部154は、取得したローカル位置、及びローカル姿勢情報を変換パラメータ特定部156へ出力する。また、画像認識部154は、特徴点の情報(例えば特徴量)と、ローカル座標系における特徴点の位置情報(例えば位置座標)とを含む特徴点マップを座標変換部158へ出力する。
 変換パラメータ特定部156は、GNSS測位計算部152から提供されるグローバル位置・姿勢情報、及び画像認識部154から提供されるローカル位置・姿勢情報に基づいて、グローバル座標系とローカル座標系との間の変換パラメータを特定する。ここで、グローバル座標系とローカル座標系との間の変換パラメータとは、例えばローカル座標系における位置座標(位置情報の一例)をグローバル座標系における位置座標へ変換するためのパラメータであってもよい。また、変換パラメータは、例えばスケール係数、回転行列、及び平行移動ベクトルを含んでもよい。変換パラメータ特定部156は、特定した変換パラメータを座標変換部158へ出力する。
 また、変換パラメータ特定部156は、グローバル姿勢情報(第1の姿勢情報)と、ローカル姿勢情報(第2の姿勢情報)と、にさらに基づいて、変換パラメータを特定してもよい。ただし、グローバル姿勢情報の精度や、ローカル姿勢情報の精度が低い場合、変換パラメータ特定部156により特定される変換パラメータの精度も低下する恐れがある。
 そこで、変換パラメータ特定部156は、複数の特定方式により変換パラメータを特定可能であってもよく、グローバル姿勢情報、またはローカル姿勢情報の精度(推定精度)に基づいて、変換パラメータの特定方式を選択してもよい。
 例えば、変換パラメータ特定部156は、グローバル姿勢情報、またはローカル姿勢情報の精度に関する所定の条件を用いて、グローバル姿勢情報、またはローカル姿勢情報の精度が低いか否かを判定して、変換パラメータの特定方式を選択してもよい。なお、以下では、変換パラメータ特定部156は当該所定の条件が満たされない場合に、精度が低いと判定するものとする。なお、変換パラメータ特定部156は、グローバル姿勢情報の精度、またはローカル姿勢情報の精度のいずれか一方に関して判定を行ってもよいし、両方に関して判定を行ってもよい。
 変換パラメータ特定部156は、グローバル姿勢情報、またはローカル姿勢情報の精度に関する所定の条件が満たされる場合に、第1の変換パラメータ特定方式を選択し、当該所定の条件が満たされない場合に、第2の変換パラメータ特定方式を選択してもよい。ここで、第1の変換パラメータ特定方式は、グローバル姿勢情報、及びローカル姿勢情報を用いて変換パラメータを特定する方式である。また、第2の変換パラメータ特定方式は、グローバル姿勢情報、及びローカル姿勢情報を用いることなく変換パラメータを特定する方式である。
 係る場合、グローバル姿勢情報の精度に関する情報がGNSS測位計算部152から変換パラメータ特定部156へ提供されてもよく、同様に、ローカル姿勢情報の精度に関する情報が画像認識部154から変換パラメータ特定部156へ提供されてもよい。精度に関する情報とは、例えば各姿勢情報を推定する際の分散の値であってもよい。また、所定の条件は、例えば当該分散の値が所定の閾値以下であること、であってもよい。すなわち、変換パラメータ特定部156は、当該分散の値が所定の閾値を超える場合に、精度が低いと判定してもよい。
 以下では、第1の変換パラメータ特定方式、及び第2の変換パラメータ特定方式の例について順次説明を行う。なお、上述したように、本実施形態においてGNSS受信機102のアンテナと、カメラ103とは、例えば設計に従った所定の位置関係を有する。そこで、以下の説明において、GNSS受信機102のアンテナと、カメラ103との間の所定の位置関係は、例えば設計、あるいは実測等により既知のものとし、説明を簡単にするため当該所定の位置関係に係る項を無視して説明を行う。すなわち、グローバル位置・姿勢情報とローカル位置・姿勢情報との間の関係が座標系の違いによる関係のみであるものとして説明を行う。実際には、変換パラメータ特定部156は、以下に説明される特定方式において、当該所定の位置関係に係る項を含めて特定した変換パラメータを座標変換部158へ出力してもよい。
 [第1の変換パラメータ特定方式]
 まず、グローバル姿勢情報、及びローカル姿勢情報を用いて変換パラメータを特定する第1の変換パラメータ特定方式について説明する。
 グローバル位置情報、及びローカル位置情報との間の関係は、以下の数式(1)のように表され、グローバル姿勢情報、及びローカル姿勢情報との間の関係は、以下の数式(2)のように表される。
Figure JPOXMLDOC01-appb-M000001
 なお、数式(1)、(2)に含まれるパラメータ等に関する説明を以下の表に示す。
Figure JPOXMLDOC01-appb-T000002
 上記の数式(1)、(2)に基づき、変換パラメータ(スケール係数、回転行列、及び平行移動ベクトル)を求めることが可能である。ところで、1のグローバル位置・姿勢情報とローカル位置・姿勢情報との組み合わせに基づいて、逐次的に変換パラメータを求めることも可能であるが、誤差が大きくなる恐れがある。そこで、複数回取得されたグローバル位置・姿勢情報とローカル位置・姿勢情報との組み合わせに基づき、時系列的に変換パラメータを求めることで、より高精度に変換パラメータを求めることが可能である。
 上記の数式(1)、(2)に基づき、時系列的に各変換パラメータを求める場合、例えば以下の数式(3)、(4)、(5)のように計算することが可能である。
Figure JPOXMLDOC01-appb-M000003
 なお、上記の数式(3)、(4)、(5)において、NはGNSSデータの取得回数である。
 以上、説明したようにして、変換パラメータ特定部156は、姿勢情報を用いる第1の変換パラメータ特定方式により、グローバル座標系とローカル座標系との間の変換パラメータ(スケール係数、回転行列、及び平行移動ベクトル)を特定することが可能である。
 [第2の変換パラメータ特定方式]
 続いて、グローバル姿勢情報、及びローカル姿勢情報を用いることなく変換パラメータを特定する第2の変換パラメータ特定方式について説明する。
 例えば、変換パラメータ特定部156は、グローバル位置情報に関する時系列的な移動軌跡と、ローカル位置情報に関する時系列的な移動軌跡との差分を最小化することで、変換パラメータを特定してもよい。例えば、当該差分を示すコスト関数は、上述したグローバル位置情報、及びローカル位置情報との間の関係を示す数式(1)に基づいて、次の数式(6)のように表される
Figure JPOXMLDOC01-appb-M000004
 変換パラメータ特定部156は、上記の数式(6)で示されるコスト関数を最小化するように、スケール係数と回転行列を特定する。なお、スケール係数と回転行列の合計自由度が4であるため、GNSSデータの取得回数Nは5以上に設定されることが望ましい。
 また、変換パラメータ特定部156は、上記のようにして得られたスケール係数、及び回転行列を用いて、数式(5)により平行移動ベクトルを計算(特定)することが可能である。
 以上、説明したようにして、変換パラメータ特定部156は、姿勢情報を用いることなく、第2の変換パラメータ特定方式により、グローバル座標系とローカル座標系との間の変換パラメータを特定することが可能である。
 座標変換部158は、変換パラメータ特定部156により特定された変換パラメータを用いて、画像認識部154から提供される特徴点のローカル座標系における位置座標を、グローバル座標系における位置座標へ変換する。座標変換部158は、特徴点の情報(例えば特徴量)と、座標変換により得られたグローバル座標系における特徴点の位置座標とが対応付けられた特徴点マップを通信部160へ出力する。
 係る構成により、グローバル座標系で表現された特徴点マップが生成され、例えばグローバル座標系で表現された他のマップと容易に統合することが可能となる。
 通信部160は、有線/無線により他の装置との間でデータの送受信を行う。例えば、通信部160は、制御部150から提供される特徴点マップを、図1に示したサーバ200へ送信する。なお、通信部160の機能は、例えば図2に示した通信装置106により実現されてもよい。
  <2-3.表示端末の構成>
 (ハードウェア構成例)
 続いて、本実施形態に係る表示端末300の構成について説明する。図4は、本実施形態に係る表示端末300のハードウェア構成の一例を示すブロック図である。図4を参照すると、表示端末300は、GNSS受信機302、カメラ303、CPU304、メモリ305、通信装置306、入力装置307、ディスプレイ308、及びバス309を備える。図4に示す構成のうち、GNSS受信機302、カメラ303、CPU304、メモリ305、及び通信装置306の構成は、図2を参照して説明したGNSS受信機102、カメラ103、CPU104、メモリ105、及び通信装置106の構成と実質的に同様であるため、個々での説明を省略する。
 入力装置307は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置によって実現される。また、入力装置307は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、表示端末300の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置307は、例えば、上記の入力手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU304に出力する入力制御回路などを含んでいてもよい。表示端末300のユーザは、この入力装置307を操作することにより、表示端末300に対して各種のデータを入力したり処理動作を指示したりすることが出来る。
 ディスプレイ308は、LCD(Liquid Crystal Display)、OLED(Organic light-Emitting Diode)、またはCRT(Cathode Ray Tube)などにより構成される画面と回路素子とを有する。ディスプレイ308の画角はカメラ103の画角に一致し、または部分的に重なる。ディスプレイ308は、表示端末300により生成される出力画像を表示する。なお、ディスプレイ308は、透過型であってもよいし、非透過型、半透過型であってもよい。
 バス309は、GNSS受信機302、カメラ303、CPU304、メモリ305、通信装置306、入力装置307、及びディスプレイ308を相互に接続する。
 (機能構成例)
 続いて、図5を参照して、本実施形態に係る表示端末300の機能構成例を説明する。図5は、本実施形態に係る表示端末300の機能構成の一例を示すブロック図である。図5を参照すると、表示端末300は、GNSSデータ取得部320、画像取得部330、制御部350、通信部360、及び表示部370を備える。
 GNSSデータ取得部320の機能は、例えば図4に示したGNSS受信機302により実現され、航法衛星から電波を受信してGNSSデータを取得する。GNSSデータ取得部320は、取得したGNSSデータを制御部350へ出力する。
 画像取得部330の機能は、例えば図4に示したカメラ303により実現され、実空間を撮像して画像を取得する。画像取得部330は、取得した画像を制御部350へ出力する。
 制御部350は、図4に示すようにGNSS測位計算部352、画像認識部354、及び表示制御部359として機能する。制御部350の機能は、例えば図4に示したCPU304、及びメモリ305により実現されてもよいし、制御部350の一部の機能はGNSS受信機302、またはカメラ303により実現されてもよい。
 GNSS測位計算部352は、GNSSデータ取得部320により取得されたGNSSデータに基づいて測位計算を行い、グローバル座標系における位置、及び姿勢を計算する。GNSS測位計算部352の機能は、例えば図4に示したGNSS受信機302により実現されてもよいし、CPU304、及びメモリ305によって実現されてもよい。
 GNSS測位計算部352により得られる位置の情報は、GNSS受信機302が有するアンテナの位置情報であってもよい。また、同様にGNSS測位計算部152により得られる姿勢の情報は、GNSS受信機302が有するアンテナの姿勢情報であってもよい。
 なお、GNSS測位計算部352が行う測位計算は、GNSS測位計算部152が行う測位計算よりも精度が低くてもよい。また、GNSS測位計算部352は、グローバル座標系における位置情報のみを取得し、姿勢情報を取得しなくてもよい。係る構成によれば、処理量を削減することや、表示端末300の構成を簡易化することが可能である。
 GNSS測位計算部352により取得されたグローバル座標系における位置情報は、通信部360へ出力され、通信部360を介して図1に示したサーバ200へ送信される。
 画像認識部354は、画像取得部330から提供される画像に基づいて、グローバル座標系における位置、及び姿勢の情報を取得する。画像認識部354の機能は、例えば図4に示したカメラ303により実現されてもよいし、CPU304、及びメモリ305によって実現されてもよい。
 画像認識部354により取得される位置、及び姿勢の情報は、カメラ303の位置情報であってもよい。また、同様に画像認識部354により得られる姿勢の情報は、カメラ303の姿勢情報であってもよい。
 画像認識部354は、例えばSLAM等の画像認識技術に基づいて、カメラ303の位置情報、及び姿勢情報の情報を取得する。係る場合、画像認識部354は、画像から特徴点を抽出し、時系列的な特徴点の追跡に基づいて位置・姿勢情報を取得してもよい。なお、画像認識部354は、後述する通信部360がサーバ200から受信する周辺の特徴点の情報(特徴量)と当該特徴点のグローバル座標系における位置情報に基づいてグローバル座標系におけるカメラ303の位置情報、及び姿勢情報の情報を取得してよい。
 例えば、画像認識部354は、通信部360が受信した特徴点の情報と、画像取得部330が取得した画像から抽出された特徴点の情報とのマッチングを行うことで、グローバル座標系におけるカメラ303の位置情報、及び姿勢情報の情報を取得し得る。なお、画像認識部354は、画像取得部330から最初に取得された画像から抽出された特徴点に関して上述のマッチングを行った後は、時系列的な特徴点の追跡を行うことでグローバル座標系におけるカメラ303の位置情報、及び姿勢情報を得ることが出来る。また、画像認識部354は、特徴点の追跡に失敗した場合であっても、リローカライズ、すなわち再度上述のマッチングを行うことで、グローバル座標系におけるカメラ303の位置情報、及び姿勢情報を得ることが出来る。特徴点追跡の失敗は、例えば、カメラ303が非常に高速に移動した場合等に発生し、例えば画像間で抽出された特徴点のマッチングが出来ない場合や、マッチングした特徴点が所定個数より少ない場合に特徴点追跡に失敗したと判定されてもよい。
 画像認識部354は、取得したグローバル座標系におけるカメラ303の位置情報、及び姿勢情報を表示制御部359へ出力する。
 表示制御部359は、表示部370による表示を制御する。表示制御部359の機能は、例えば図4に示したCPU304、及びメモリ305によって実現されてもよい。
 表示制御部359は、画像認識部354から提供されるグローバル座標系におけるカメラ303の位置情報、及び姿勢情報に基づいて、実空間に仮想オブジェクトを重畳して表示させる。なお、表示制御部359が表示させる仮想オブジェクトの情報は、図4に示したメモリ305に記憶されていてもよいし、通信部360がサーバ200から受信されてもよい。
 通信部360は、有線/無線により他の装置との間でデータの送受信を行う。例えば、通信部360は、GNSS測位計算部352から提供されるグローバル座標系における位置情報を、サーバ200へ送信する。また、通信部360は、サーバ200から、表示端末300の周辺の位置情報に対応付けられた特徴点と、仮想オブジェクトの情報とを受信する。なお、通信部360の機能は、例えば図4に示した通信装置306により実現されてもよい。
 表示部370は、表示制御部359の制御に従い、実空間に仮想オブジェクトを重畳して表示する。なお、表示部370の機能は、例えば図5に示したディスプレイ308により実現されてもよい。
 <<3.動作>>
 以上、本開示の一実施形態の構成例について説明した。続いて、本開示の一実施形態に係る動作例について説明する。なお、以下では、図6を参照して情報処理装置100による特徴点マップの生成に係る動作について説明した後、図7を参照して、サーバ200と表示端末300による仮想オブジェクトの表示に係る動作について説明する。
  <3-1.特徴点マップの生成に係る動作>
 図6は、情報処理装置100による特徴点マップの生成に係る動作を示すフローチャート図である。なお、図6に示すステップS102~S106の処理と、ステップS107~S116の処理とは、並列に実行され得る。
 図6に示すステップS102において、GNSSデータ取得部120が、GNSSデータを取得する。続いて、GNSS測位計算部152が、ステップS102で取得されたGNSSデータに基づいて測位計算を行い、グローバル位置・姿勢情報を取得する(S104)。なお、GNSS測位計算部152は、角加速度・加速度取得部110により取得される角加速度、及び加速度の情報を用いて、測位計算を行ってもよい。
 上記ステップS102~S104の処理は、所定の繰り返し回数であるN回繰り返されて実行され、N回繰り返された後にステップS118へ進む(S106においてYES)。N回分のグローバル位置・姿勢情報は、メモリ105に記憶されてもよい。
 一方、ステップS107において、画像認識部154がローカル座標系を設定する(S107)。続いて、画像取得部130が、実空間を撮像して画像を取得する(S108)。
 続いて、画像認識部154がSLAMにより、ステップS108で取得された画像に基づいて特徴点の抽出(S110)とローカル位置・姿勢情報の取得(S112)を行う。なお、画像認識部154は、角加速度・加速度取得部110により取得される角加速度、及び加速度の情報を用いて、より高精度にローカル位置・姿勢情報を取得してもよい。
 ステップS108~S112の処理は、所定の繰り返し回数であるM回繰り返されて実行され、M回繰り返された後にステップS116へ進む(S114においてYES)。M回分のローカル位置・姿勢情報は、メモリ105に記憶されてもよい。
 ここで、ステップS102~S104の繰り返し回数Nと、ステップS108~S112の繰り返し回数Mとは、それぞれの繰り返しが出来るだけ近い時刻に終了するように設定されることが望ましい。なお、GNSS測位計算部152がRTKにより測位計算を行う場合、ステップS102~S104の処理は例えば、1Hz程度の処理速度で動作することが想定される。また、画像認識部154がSLAMにより、ローカル位置・姿勢情報の取得を行う場合、ステップS108~S112の処理は、10Hzまたはそれ以上の処理速度で動作することが想定される。ただし、上記の処理速度は、情報処理装置100が備えるCPU104等の処理性能に応じて異なり、処理性能に応じて適宜NとMが設定されてもよい。
 変換パラメータを特定するためには、グローバル位置・姿勢情報に係るGNSSデータの取得タイミングとローカル位置・姿勢情報に係る画像の取得タイミングとは、同期(一致)していることが想定される。しかし、上述したように、それぞれの取得に係る処理は並行して行われ、同期していない場合がある。そこで、M回繰り返されたステップS112で取得されたローカル位置・姿勢情報を用いて、GNSSデータの取得タイミングにおけるローカル位置・姿勢情報を計算する内挿計算を行う(S116)。なお、係る内挿計算には、例えばLagrange補間等の周知の補間手法を用いることが可能である。
 ステップS102~S104の処理がN回繰り返され、かつ、ステップS116の内挿計算が行われた後、変換パラメータ特定部156は、グローバル姿勢情報、またはローカル姿勢情報の精度が低いか否かを判定する(S118)。
 精度が低いと判定されなかった場合(S118においてNO)、変換パラメータ特定部156は、上述した第1の変換パラメータ特定方式により、グローバル姿勢情報、及びローカル姿勢情報を用いて変換パラメータを特定する(S120)。一方、精度が低いと判定されなかった場合(S118においてYES)、変換パラメータ特定部156は、上述した第2の変換パラメータ特定方式により、グローバル姿勢情報、及びローカル姿勢情報を用いることなく変換パラメータを特定する(S122)。なお、第1の変換パラメータ特定方式、及び第2の変換パラメータ特定方式のいずれが選択される場合においても、変換パラメータ特定部156は、グローバル位置情報、及びローカル位置情報に基づいて変換パラメータを特定する。
 続いて、座標変換部158は、ステップS120またはステップS122で特定された変換パラメータを用いて、ステップS110で抽出された特徴点のローカル座標系における位置座標を、グローバル座標系における位置座標へ変換する(S124)。続いて通信部160が、特徴点の情報(例えば特徴量)と座標変換により得られたグローバル座標系における特徴点の位置座標とが対応付けられた特徴点マップをサーバ200へ送信する(S126)。
 以上、情報処理装置100による特徴点マップの生成に係る動作について説明した。なお、上述したステップS102~S126の処理は適宜繰り返し実行されてもよい。なお、SLAMによるステップS108~S112の処理に係る繰り返し回数Mが大きすぎる場合、誤差の蓄積等により、特徴点の位置情報や、ローカル位置・姿勢情報に歪みが生じる恐れがある。そのため、歪みが生じ難い程度の繰り返し回数N、及びMを適宜設定し、S102~S126の処理全体を繰り返すことにより、歪みの発生を抑制しつつ、より広範囲な特徴点マップを生成することが可能となる。
  <3-2.仮想オブジェクトの表示に係る動作>
 図7は、サーバ200と表示端末300による仮想オブジェクトの表示に係る動作を示すフローチャート図である。
 まず、表示端末300のGNSSデータ取得部320が、GNSSデータを取得する(S202)。続いて、表示端末300のGNSS測位計算部352が、測位計算を行い、グローバル座標系における位置情報を取得する(S204)。続いて表示端末300の通信部360が、ステップS204で取得された位置情報をサーバ200へ送信する(S206)。
 続いて、サーバ200が、ステップS206で受信した表示端末300の位置情報に基づき、周辺の位置情報に対応付けられた特徴点と、仮想オブジェクトの情報を表示端末300へ送信する(S208)。なお、ステップS208でサーバ200が表示端末300へ送信する特徴点の情報には、当該特徴点のグローバル座標系における位置情報と、特徴量とが含まれてもよい。
 続いて、表示端末300の画像取得部330が、実空間を撮像して画像を取得する(S210)。さらに、画像認識部354がSLAMにより、ステップS212で取得された画像から特徴点の抽出(S212)を行い、ステップS208で受信された特徴点の情報に基づいてカメラ303の位置情報、及び姿勢情報の取得(S214)を行う。なお、ステップS214で取得されるカメラ303の位置情報、及び姿勢情報は、グローバル座標系における位置情報、及び姿勢情報であってもよい。
 続いて、表示制御部359がステップS214で取得されたカメラ103のグローバル座標系における位置情報、及び姿勢情報に基づいて、実空間に仮想オブジェクトを重畳して表示させる(S216)。
 以上、サーバ200と表示端末300による仮想オブジェクトの表示に係る動作について説明した。なお、上述したステップS202~S216の処理は適宜繰り返し実行されてもよい。また、ステップS202~S204の処理と、ステップS210~S216の処理とは、独立に(並列に)繰り返し実行されてもよい。
 <<4.変形例>>
 以上、本開示の一実施形態を説明した。以下では、本実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本実施形態に適用されてもよいし、組み合わせで本実施形態に適用されてもよい。また、各変形例は、本実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
  <4-1.変形例1>
 上記実施形態では、図1~図5を参照して、情報処理システム1、情報処理装置100、サーバ200、及び表示端末300の構成例について説明したが、本技術は係る例に限定されず、多様なシステム構成、または装置構成が考えられる。
 例えば、図1では、情報処理システム1が特徴点マップ生成に係る情報処理装置100を1つだけ備える例を示したが、本技術は係る例に限定されず、情報処理システム1は、複数の情報処理装置100を備えてもよい。上述したように、情報処理装置100は、グローバル座標系における特徴点の位置情報をサーバ200へ送信するため、サーバ200は複数の情報処理装置100から受信した特徴点の位置情報を統合して、より広範囲な特徴点マップを生成することが可能である。
 また、図3に示した情報処理装置100が備える制御部150が有する機能のうち、一部、またはすべての機能は、制御部150の代わりに、図1に示したサーバ200が備える制御部220が有してもよい。例えば、情報処理装置100は、特定した変換パラメータと、特徴点のローカル座標系における位置情報をサーバ200へ送信し、残りの座標変換処理をサーバ200の制御部220が行ってもよい。また、情報処理装置100は、グローバル位置・姿勢情報と、ローカル位置・姿勢情報、及び特徴点の情報を取得してサーバ200へ送信し、残りの変換パラメータ特定処理、及び座標変換処理をサーバ200の制御部220が行ってもよい。また、情報処理装置100は、GNSSデータと画像を取得してサーバ200へ送信し、残りの処理をサーバ200の制御部220が行ってもよい。
 また、図2、図3を参照して説明した情報処理装置100と、図4、図5を参照して説明した表示端末300とは同一の装置であってもよく、情報処理装置100が、表示端末300のハードウェア構成、及び機能構成を備えてもよい
  <4-2.変形例2>
 上記実施形態では、表示端末300の表示制御部359が、画像認識部354により取得される位置情報、及び姿勢情報に基づいて仮想オブジェクトを表示させる例を説明したが、本技術は係る例に限定されない。
 例えば、表示制御部359は、GNSS測位計算部352により取得される位置情報、及び姿勢情報に基づいて仮想オブジェクトを表示させてもよい。例えば、画像認識部354により取得され得る位置情報、及び姿勢情報の精度に応じて、表示制御部359はいずれにより取得される位置情報、及び姿勢情報に基づいて仮想オブジェクトを表示させるかを切り替えてもよい。
 画像認識部354により取得され得る位置情報、及び姿勢情報の精度が低い場合に、GNSS測位計算部352により取得される位置情報、及び姿勢情報に基づいて仮想オブジェクトを表示させるように切り替えることが望ましい。なお、画像認識部354が抽出した特徴点の数が所定の閾値以下である場合に、画像認識部354により取得され得る位置情報、及び姿勢情報の精度が低いと判定されてもよい。
 また、上述したように、画像認識部354により取得される位置情報、及び姿勢情報とGNSS測位計算部352により取得される位置情報、及び姿勢情報とは、いずれもグローバル座標系における情報である。したがって、表示制御部359は、いずれの場合であってもグローバル座標系を参照すればよいため、上記の切り替えをスムーズに行うことが可能である。
  <4-3.変形例3>
 また、上記実施形態では、SLAM等の画像認識により得られた特徴点の位置座標がグローバル座標系における位置座標へ変換されて、AR技術に適用される例を説明したが、本技術は係る例に限定されない。
 例えば、ロボットが周辺環境を把握するための3次元構造マップを生成する場合にも本技術の実施形態は適用可能である。例えば、ロボットが備えるGNSS受信機(第1のセンサ)により取得されるグローバル座標系における位置情報と、ロボットが備える第2のセンサ(カメラ、レーザレーダ、または深度センサ等)に対応付けられたローカル座標系における当該センサの位置情報に基づいて、グローバル座標系とローカル座標系との間の変換パラメータが特定され得る。
 また、当該変換パラメータを用いて座標変換を行うことで、ロボットが備える第2のセンサに基づいて生成される3次元構造マップの情報が、グローバル座標系で表現され得る。係る構成により、複数のロボットの間で3次元構造マップを共有することが可能であると共に、広範囲に及ぶ3次元構造マップを生成する場合にも歪みの発生を抑えることが可能となる。また、ローカル座標系が切り替わった場合であっても、その影響を受けることなく、3次元構造マップを生成することが可能となる。
 また、本技術は、周辺に設置された無線アクセスポイントから受信する電波状況(強度等)に基づいて位置情報を推定する場合にも適用することが可能である。例えば、電波を受信する無線受信機(第2のセンサ)に対応付けられたローカル座標系(第2の座標系)における当該無線受信機の位置または無線受信機が有するアンテナの位置を示すローカル位置情報(第2の位置情報)に基づいて、変換パラメータが特定されてもよい。また、ローカル座標系における無線アクセスポイントの位置座標が変換パラメータにより座標変換されて、グローバル座標系における無線アクセスポイントの位置座標が得られてもよい。
 <<5.むすび>>
 以上説明したように、本開示の実施形態によれば、あるセンサに対応する座標系における位置情報を他のセンサに対応する座標系における位置情報へ変換するための変換パラメータを得ることが可能である。そのため、例えば、カメラ等のセンサやデバイス毎に設定されるローカル座標系における位置情報を、グローバル座標系における位置情報へ変換することが可能となり、複数のセンサやデバイスにより生成されたマップを容易に統合することが可能となる。また、本技術の実施形態により生成されたマップは、他のグローバル座標系で表現されたマップと容易に統合することが可能である。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 例えば、上記実施形態における各ステップは、必ずしもフローチャート図またはシーケンス図として記載された順序に沿って時系列に処理される必要はない。例えば、上記実施形態の処理における各ステップは、フローチャート図またはシーケンス図として記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
 また、上記実施形態によれば、CPU104、メモリ105、CPU304、及びメモリ305等のハードウェアを、上述した情報処理装置100、及び表示端末300の各構成と同様の機能を発揮させるためのコンピュータプログラムも提供可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することが出来る。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータを特定する制御部、を備える情報処理装置。
(2)
 前記制御部は、前記第1のセンサに関する姿勢を示す第1の姿勢情報と、前記第2のセンサに関する姿勢を示す第2の姿勢情報と、にさらに基づいて、前記変換パラメータを特定する、前記(1)に記載の情報処理装置。
(3)
 前記制御部は、前記第1の姿勢情報、または前記第2の姿勢情報の精度に基づいて、前記変換パラメータの特定方式を選択する、前記(2)に記載の情報処理装置。
(4)
 前記制御部は、前記精度に関する所定の条件が満たされる場合に、第1の変換パラメータ特定方式を選択し、前記所定の条件が満たされない場合に、第2の変換パラメータ特定方式を選択し、
 前記第1の変換パラメータ特定方式は、前記第1の姿勢情報、及び前記第2の姿勢情報を用いて前記変換パラメータを特定する方式であり、
 前記第2の変換パラメータ特定方式は、前記第1の姿勢情報、及び前記第2の姿勢情報を用いることなく前記変換パラメータを特定する方式である、前記(3)に記載の情報処理装置。
(5)
 前記第2の変換パラメータ特定方式は、前記第1の位置情報に関する時系列的な移動軌跡と、前記第2の位置情報に関する時系列的な移動軌跡との差分を最小化することで、変換パラメータを特定する方式である、前記(4)に記載の情報処理装置。
(6)
 前記第1の座標系は、前記情報処理装置以外の装置においても用いられる座標系である、前記(1)~(5)のいずれか一項に記載の情報処理装置。
(7)
 前記第1の座標系は、地球中心地球固定座標系である、前記(6)に記載の情報処理装置。
(8)
 前記制御部は、前記変換パラメータを用いて、前記第2のセンサにより取得された情報に基づいて得られる前記第2の座標系における位置情報を、前記第1の座標系における位置情報へ変換する、前記(1)~(7)のいずれか一項に記載の情報処理装置。
(9)
 前記第2のセンサはカメラである、前記(1)~(8)のいずれか一項に記載の情報処理装置。
(10)
 前記制御部は、前記変換パラメータを用いて、前記カメラにより取得された画像から抽出される特徴点の前記第2の座標系における位置情報を、前記第1の座標系における位置情報へ変換する、前記(9)に記載の情報処理装置。
(11)
 第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定すること、を含む情報処理方法。
(12)
 コンピュータに、
 第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定する機能を実現させるための、プログラム。
 1 情報処理システム
 5 通信網
 100 情報処理装置
 101 IMU
 102、302 受信機
 103、303 カメラ
 104、304 CPU
 105、305 メモリ
 106、306 通信装置
 109、309 バス
 110 角加速度・加速度取得部
 120、320 GNSSデータ取得部
 130、330 画像取得部
 150、350 制御部
 152、352 GNSS測位計算部
 154、354 画像認識部
 156 変換パラメータ特定部
 158 座標変換部
 160、360 通信部
 200 サーバ
 210 記憶部
 220 制御部
 300 表示端末
 307 入力装置
 308 ディスプレイ
 359 表示制御部
 370 表示部

Claims (12)

  1.  第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータを特定する制御部、を備える情報処理装置。
  2.  前記制御部は、前記第1のセンサに関する姿勢を示す第1の姿勢情報と、前記第2のセンサに関する姿勢を示す第2の姿勢情報と、にさらに基づいて、前記変換パラメータを特定する、請求項1に記載の情報処理装置。
  3.  前記制御部は、前記第1の姿勢情報、または前記第2の姿勢情報の精度に基づいて、前記変換パラメータの特定方式を選択する、請求項2に記載の情報処理装置。
  4.  前記制御部は、前記精度に関する所定の条件が満たされる場合に、第1の変換パラメータ特定方式を選択し、前記所定の条件が満たされない場合に、第2の変換パラメータ特定方式を選択し、
     前記第1の変換パラメータ特定方式は、前記第1の姿勢情報、及び前記第2の姿勢情報を用いて前記変換パラメータを特定する方式であり、
     前記第2の変換パラメータ特定方式は、前記第1の姿勢情報、及び前記第2の姿勢情報を用いることなく前記変換パラメータを特定する方式である、請求項3に記載の情報処理装置。
  5.  前記第2の変換パラメータ特定方式は、前記第1の位置情報に関する時系列的な移動軌跡と、前記第2の位置情報に関する時系列的な移動軌跡との差分を最小化することで、変換パラメータを特定する方式である、請求項4に記載の情報処理装置。
  6.  前記第1の座標系は、前記情報処理装置以外の装置においても用いられる座標系である、請求項1に記載の情報処理装置。
  7.  前記第1の座標系は、地球中心地球固定座標系である、請求項6に記載の情報処理装置。
  8.  前記制御部は、前記変換パラメータを用いて、前記第2のセンサにより取得された情報に基づいて得られる前記第2の座標系における位置情報を、前記第1の座標系における位置情報へ変換する、請求項1に記載の情報処理装置。
  9.  前記第2のセンサはカメラである、請求項1に記載の情報処理装置。
  10.  前記制御部は、前記変換パラメータを用いて、前記カメラにより取得された画像から抽出される特徴点の前記第2の座標系における位置情報を、前記第1の座標系における位置情報へ変換する、請求項9に記載の情報処理装置。
  11.  第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定すること、を含む情報処理方法。
  12.  コンピュータに、
     第1のセンサに対応付けられた第1の座標系における前記第1のセンサに関する位置を示す第1の位置情報と、前記第1のセンサと所定の位置関係を有する第2のセンサに対応付けられた第2の座標系における前記第2のセンサに関する位置を示す第2の位置情報と、に基づいて、前記第1の座標系と前記第2の座標系との間の変換パラメータをプロセッサが特定する機能を実現させるための、プログラム。
PCT/JP2018/014390 2017-06-07 2018-04-04 情報処理装置、情報処理方法、及びプログラム WO2018225363A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017112569 2017-06-07
JP2017-112569 2017-06-07

Publications (1)

Publication Number Publication Date
WO2018225363A1 true WO2018225363A1 (ja) 2018-12-13

Family

ID=64566854

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/014390 WO2018225363A1 (ja) 2017-06-07 2018-04-04 情報処理装置、情報処理方法、及びプログラム

Country Status (1)

Country Link
WO (1) WO2018225363A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020255266A1 (ja) * 2019-06-18 2020-12-24 日本電信電話株式会社 絶対座標取得方法
CN112652018A (zh) * 2019-10-11 2021-04-13 北京地平线机器人技术研发有限公司 外参确定方法、外参确定装置及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001208529A (ja) * 2000-01-26 2001-08-03 Mixed Reality Systems Laboratory Inc 計測装置及びその制御方法並びに記憶媒体
JP2005091298A (ja) * 2003-09-19 2005-04-07 Komatsu Engineering Corp 画像処理を用いたグローバル座標取得装置
WO2017057362A1 (ja) * 2015-10-01 2017-04-06 富士フイルム株式会社 図面作成装置及び図面作成方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001208529A (ja) * 2000-01-26 2001-08-03 Mixed Reality Systems Laboratory Inc 計測装置及びその制御方法並びに記憶媒体
JP2005091298A (ja) * 2003-09-19 2005-04-07 Komatsu Engineering Corp 画像処理を用いたグローバル座標取得装置
WO2017057362A1 (ja) * 2015-10-01 2017-04-06 富士フイルム株式会社 図面作成装置及び図面作成方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020255266A1 (ja) * 2019-06-18 2020-12-24 日本電信電話株式会社 絶対座標取得方法
CN112652018A (zh) * 2019-10-11 2021-04-13 北京地平线机器人技术研发有限公司 外参确定方法、外参确定装置及电子设备
CN112652018B (zh) * 2019-10-11 2024-04-16 北京地平线机器人技术研发有限公司 外参确定方法、外参确定装置及电子设备

Similar Documents

Publication Publication Date Title
US11037023B2 (en) Terminal device, information processing device, object identifying method, program, and object identifying system
EP2844009B1 (en) Method and system for determining location and position of image matching-based smartphone
US9906921B2 (en) Updating points of interest for positioning
US8879784B2 (en) Terminal and method for providing augmented reality
US9304970B2 (en) Extended fingerprint generation
US9641814B2 (en) Crowd sourced vision and sensor-surveyed mapping
US20150092048A1 (en) Off-Target Tracking Using Feature Aiding in the Context of Inertial Navigation
KR101779049B1 (ko) 독립적으로 획득된 기압 측정치들에 기초한 모바일 디바이스 포지셔닝
WO2013028359A1 (en) Logo detection for indoor positioning
CN104428817A (zh) 移动装置上的传感器辅助广域定位
WO2014176463A1 (en) System, method and/or devices for applying barometric pressure measurements and radio frequency measurements for positioning
KR101413011B1 (ko) 위치 정보 기반 증강현실 시스템 및 제공 방법
JP5274192B2 (ja) 位置推定システム、位置推定サーバおよび位置推定方法
KR20190059120A (ko) 사물인터넷 기반의 증강현실을 이용한 시설물 점검 시스템
WO2015142760A1 (en) Adaptive resolution in optical flow computations for an image processing system
US20210209856A1 (en) Solution for generating virtual reality representation
WO2018225363A1 (ja) 情報処理装置、情報処理方法、及びプログラム
KR20200002219A (ko) 실내 길안내 장치 및 그 방법
US20130279755A1 (en) Information processing system, information processing method, and information processing program
JP2012047473A (ja) 電波発射源推定方向表示装置及び電波発射源推定方向表示方法
US11481920B2 (en) Information processing apparatus, server, movable object device, and information processing method
Jeon et al. Design of positioning DB automatic update method using Google tango tablet for image based localization system
CN110320496B (zh) 一种室内定位方法及装置
US10735902B1 (en) Method and computer program for taking action based on determined movement path of mobile devices

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18813755

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18813755

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP