JP6897668B2 - 情報処理方法および情報処理装置 - Google Patents
情報処理方法および情報処理装置 Download PDFInfo
- Publication number
- JP6897668B2 JP6897668B2 JP2018508398A JP2018508398A JP6897668B2 JP 6897668 B2 JP6897668 B2 JP 6897668B2 JP 2018508398 A JP2018508398 A JP 2018508398A JP 2018508398 A JP2018508398 A JP 2018508398A JP 6897668 B2 JP6897668 B2 JP 6897668B2
- Authority
- JP
- Japan
- Prior art keywords
- feature point
- information
- information processing
- feature
- list
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 174
- 238000003672 processing method Methods 0.000 title claims description 30
- 230000007613 environmental effect Effects 0.000 claims description 44
- 238000004891 communication Methods 0.000 claims description 31
- 230000006870 function Effects 0.000 description 71
- 238000000605 extraction Methods 0.000 description 36
- 238000004364 calculation method Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 23
- 238000000034 method Methods 0.000 description 14
- 230000001133 acceleration Effects 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 239000000284 extract Substances 0.000 description 6
- 230000003068 static effect Effects 0.000 description 6
- 230000003190 augmentative effect Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000013507 mapping Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 101150012579 ADSL gene Proteins 0.000 description 1
- 102100020775 Adenylosuccinate lyase Human genes 0.000 description 1
- 108700040193 Adenylosuccinate lyases Proteins 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3807—Creation or updating of map data characterised by the type of data
- G01C21/3811—Point data, e.g. Point of Interest [POI]
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3807—Creation or updating of map data characterised by the type of data
- G01C21/383—Indoor data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3833—Creation or updating of map data characterised by the source of data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
- G06F18/2113—Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3863—Structures of map data
- G01C21/3867—Geometry of map features, e.g. shape points, polygons or for simplified maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Navigation (AREA)
- Image Analysis (AREA)
Description
1.本開示の概要
1.1.特徴点を用いた自己位置推定
1.2.特徴点追跡による自動運転
1.3.特徴点の信頼度
2.実施形態
2.1.本実施形態に係るシステム構成例
2.2.情報処理サーバ10
2.3.情報処理装置20
2.4.推奨特徴点リスト生成の概要
2.5.使用データ選択の詳細
2.6.三次元地図生成の詳細
2.7.推奨特徴点リスト生成の詳細
2.8.本実施形態に係る作用効果
2.9.情報処理装置20の自己位置推定
3.ハードウェア構成例
4.まとめ
<<1.1.特徴点を用いた自己位置推定>>
近年、地図情報を利用する種々の装置が開発されている。上記のような装置の代表的な例としては、ナゲーション装置が挙げられる。一般的に、ナゲーション装置は、GPSにより取得した座標情報と保有する地図情報とに基づいて、経路ナビゲーションなどの機能を実行することができる。
ここで、特徴点を用いた自己位置推定を行う装置について、具体例を挙げて説明する。上記のような装置には、例えば、自動運転車がある。自動運転車は、各種のセンサにより取得した情報から周囲の環境を認識し、認識した環境に応じて自律走行を実現することができる。この際、適切な運転制御を実現するためには、精度の高い自己位置推定を行うことが求められる。
以上、特徴点を用いた自己位置推定と、自己位置推定を行う装置の具体例について説明した。本開示に係る情報処理方法および情報処理装置は、上記で説明したような特徴点の信頼度に着目して発想されたものであり、特徴点の信頼度に基づいた推奨特徴点リストを生成することが可能である。また、本開示に係る推奨特徴点リストは、特徴点の局所特徴量を併せて有することを特徴の一つとする。
<<2.1.本実施形態に係るシステム構成例>>
まず、本実施形態に係るシステム構成例について説明する。図5を参照すると、本実施系形態に係るシステムは、情報処理サーバ10と、複数の情報処理装置20a及び20bと、移動体30と、を備える。また、情報処理サーバ10と、情報処理装置20a及び20bと、は通信が行えるようにネットワーク40を介して接続される。
次に本実施形態に係る情報処理サーバ10について詳細に説明する。本実施形態に係る情報処理サーバ10は、単位エリア周辺において収集された観測情報を受信する機能を有してよい。また、情報処理サーバ10は、上記の観測情報から検出した特徴点の三次元座標と、上記特徴点の局所特徴量と、を関連付けた特徴点リストを生成することができる。また、ここで、上記の特徴点リストは、環境情報に関連付いた特徴点リストであってよい。
データ選択部110は、本実施形態に係る特徴点リストの生成に際し、元となる観測情報の選択を行う機能を有する。具体的には、データ選択部110は、単位エリアと環境情報とに基づいて、特徴点リストの生成に用いる観測情報を選択してよい。
特徴点抽出部120は、データ選択部110が選択した観測情報に基づいて、単位エリアに係る特徴点地図を生成する機能を有する。具体的には、特徴点抽出部120は、上記の特徴点地図を生成するために、複数の観測情報から特徴点を検出し、当該特徴点のマッチングを行う機能を有する。
リスト生成部130は、特徴点抽出部120が生成した特徴点地図に基づいて、特徴点リストを生成する機能を有する。より具体的には、リスト生成部130は、単位エリアごとに特徴点を順位付けした推奨特徴点リストを生成することができる。
装置通信部140は、情報処理装置20との通信を実現する機能を有する。具体的には、本実施形態に係る装置通信部140は、単位エリア周辺において収集された観測情報を、情報処理装置20から受信する機能を有する。また、装置通信部140は、情報処理装置20からの要求に基づいて、推奨特徴点リストを情報処理装置20に送信する機能を有する。
次に、本実施形態に係る情報処理装置20について詳細に説明する。本実施形態に係る情報処理装置20は、自己位置推定を行う各種の装置であってよい。このため、本実施形態に係る情報処理装置20は、取得された画像情報から特徴点及び当該特徴点に係る局所特徴量を抽出する機能を有する。また、情報処理装置20は、収集された観測情報に基づいて特徴点リストを取得する機能を有する。
演算部210は、取得された画像情報から、特徴点と当該特徴点に係る局所特徴量と、を抽出する機能を有する。また、演算部210は、上記の画像情報を取得した撮像部(図示しない)のカメラパラメータを算出する機能を有する。ここで、上記のカメラパラメータは、三次元座標位置、姿勢情報、速度、角速度、3軸回転姿勢、3軸回転速度、及び3軸回転加速度などを含んでよい。
機能制御部220は、演算部210が算出したカメラパラメータに基づいて情報処理装置20の動作を制御する機能を有する。すなわち、機能制御部220は、上記のカメラパラメータに基づいて情報処理装置20の特性に応じた種々の動作を制御してよい。
サーバ通信部230は、収集された観測情報に基づいて情報処理サーバ10から推奨特徴点リストを取得する機能を有する。ここで、情報処理装置20が自動運転AIやナビゲーション装置である場合、上記の観測情報は、移動体30に備えられたセンサから取得された観測情報であってよい。また、情報処理装置20がHMDやウェアラブル装置である場合、上記の観測情報は、情報処理装置20が備える各種のセンサにより取得される観測情報であってよい。
次に、本実施形態に係る推奨特徴点リストの生成について概要を説明する。上述したとおり、本実施形態に係る情報処理サーバ10は、収集した観測情報に基づいて単位エリアに係る推奨特徴点リストを生成することができる。この際、本実施形態に係る情報処理サーバ10は、環境情報に関連付いた推奨特徴点リストを生成してよい。
次に、本実施形態に係るデータ選択部110による使用データの選択について詳細に説明する。上述したとおり、本実施形態に係るデータ選択部110は、推奨特徴点リストを生成する対象の単位エリア、及び環境状態に基づいて、使用するデータの選択を行うことができる。図10は、本実施形態に係るデータ選択部110に係る入出力を説明する概念図である。
次に、本実施形態に係る三次元地図生成の詳細について説明する。本実施形態に係る特徴点抽出部120は、データ選択部110が選択した観測情報に基づいて、特徴点地図を生成することができる。図12は、特徴点抽出部120に係る入出力の概念図である。なお、図12においては、特徴点抽出部120が有する各機能が機能B2〜B5として示されている。
図12を参照すると、特徴点抽出部120は、データ選択部110が選択した複数の観測情報から特徴点を検出し記述する機能を有する(機能B2)。この際、特徴点抽出部120は、例えば、SIFT(Scale Invariant Feature Transform)やSURF(Speeded Up Robust Features)などの局所記述子を用いて特徴点の検出を行ってよい。また、例えば、特徴点抽出部120は、Harrisのコーナー検出法などを用いることもできる。
また、特徴点抽出部120は、機能B2から出力される複数の観測情報に係る特徴点の記述に基づいて、各特徴点のマッチングを行う機能を有する(機能B3)。この際、特徴点抽出部120は、複数の観測情報間で対応関係にある特徴点をマッチングする。この際、特徴点抽出部120は、特徴点検出に用いた手法に対応したマッチングを行ってよい。例えば、特徴点検出にSIFTやSURFを用いた場合、特徴点抽出部120はそれぞれの局所記述子で広く用いられる手法を利用して、上記のマッチングを行ってもよい。
また、特徴点抽出部120は、機能B3から出力されるマッチング情報に基づいて、特徴点の三次元座標を算出し、当該特徴点の三次元座標から各観測情報に対応したカメラパラメータを算出する機能を有する(機能B4)。ここで、上記のカメラパラメータは、カメラの有する自由度のベクトルや各種の内部パラメータを含んでよい。例えば、本実施形態に係るカメラパラメータは、カメラの位置座標(X,Y,Z)と、それぞれの座標軸の回転角(Φx、Φy、Φz)と、であってよい。また、本実施形態に係るカメラパラメータは、例えば、焦点距離、F値、せん断係数などの内部パラメータを含んでよい。
また、特徴点抽出部120は、機能B4から出力されるカメラパラメータに基づいて、投影誤差の最小化を行う機能を有する(機能B5)。具体的には、特徴点抽出部120は、各カメラパラメータと各特徴点の位置分布を最小化する統計処理を行う。
次に、本実施形態に係る推奨特徴点リスト生成の詳細について説明する。図13は、本実施形態のリスト生成部130に係る入出力の概念図である。図13を参照すると、本実施形態に係るリスト生成部130は、入力された特徴点地図に基づいて、単位エリア及び環境情報に関連付いた推奨特徴点リストを出力している。ここで、上記の特徴点地図は、特徴点抽出部120により生成された特徴点地図であってよい。なお、図13においては、リスト生成部130が有する推奨特徴点リスト生成機能が機能B6として示されている。
以上、本実施形態に係る情報処理サーバ10が有する機能について詳細に説明した。上述したとおり、本実施形態に係る情報処理サーバ10は、対象単位エリア及び対象環境に基づいて、使用する観測情報の選択を行うことができる。また、情報処理サーバ10は、対象単位エリアかつ対象環境に該当する観測情報を用いて特徴点地図を生成することができる。また、情報処理サーバ10は、特徴点地図に記述される特徴点を順位付けし、信頼度の高い特徴点を推奨特徴点リストに含めることができる。
次に、本実施形態に係る情報処理装置20の自己位置推定について説明する。上述したとおり、本実施形態に係る情報処理装置20は、情報処理サーバ10から受信した推奨特徴点リストを利用して自己位置推定を行うことができる。
次に、本開示に係る情報処理サーバ10及び情報処理装置20に共通するハードウェア構成例について説明する。図18は、本開示に係る情報処理サーバ10及び情報処理装置20のハードウェア構成例を示すブロック図である。図18を参照すると、情報処理サーバ10及び情報処理装置20は、例えば、CPU871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力装置878と、出力装置879と、ストレージ880と、ドライブ881と、接続ポート882と、通信装置883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
CPU871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、ストレージ880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
ROM872は、CPU871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、CPU871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
CPU871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
入力装置878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力装置878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
出力装置879には、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
ストレージ880は、各種のデータを格納するための装置である。ストレージ880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
リムーバブル記録媒体901は、例えば、DVDメディア、Blu−ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
通信装置883は、ネットワークに接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
以上説明したように、本開示に係る情報処理サーバ10は、対象単位エリア及び対象環境に基づいて、使用する観測情報の選択を行うことができる。また、情報処理サーバ10は、対象単位エリアかつ対象環境に該当する観測情報を用いて特徴点地図を生成することができる。また、情報処理サーバ10は、特徴点地図に記述される特徴点を順位付けし、信頼度の高い特徴点を推奨特徴点リストに含めることができる。また、本開示に係る情報処理装置20は、単位エリア及び環境状態に応じた推奨特徴点リストを取得することができる。また、情報処理装置20は、取得した推奨特徴点リストを用いてカメラパラメータの算出を行うことができる。係る構成によれば、実世界の状態に応じたより精度の高い位置情報を提供することが可能となる。
(1)
プロセッサが、単位エリア周辺において収集された観測情報から検出した特徴点の三次元座標と、前記特徴点の局所特徴量と、を関連付けた特徴点リストを生成すること、
を含む、
情報処理方法。
(2)
前記特徴点リストを生成することは、環境情報に関連付いた前記特徴点リストを生成すること、
をさらに含む、
前記(1)に記載の情報処理方法。
(3)
前記環境情報は、天候、照明環境、大気状態、時刻、または日付のうち少なくともいずれかに係る情報を含む、
前記(2)に記載の情報処理方法。
(4)
前記特徴点リストを生成することは、前記単位エリアごとに前記特徴点を順位付けした特徴点リストを生成すること、
をさらに含む、
前記(1)〜(3)のいずれかに記載の情報処理方法。
(5)
前記特徴点リストを生成することは、前記特徴点の投影誤差、または前記観測情報の観測地点に係る位置誤差のうち少なくとも一方に基づいて、前記順位付けを行うこと、
をさらに含む、
前記(4)に記載の情報処理方法。
(6)
前記特徴点リストを生成することは、前記特徴点に係る観測情報の数に基づいて、前記順位付けを行うこと、
をさらに含む、
前記(4)または(5)に記載の情報処理方法。
(7)
前記特徴点リストを生成することは、前記特徴点リストを生成する単位エリアの近傍に位置する別の単位エリアにおいて観測された、前記特徴点に係る観測情報の数に基づいて、前記順位付けを行うこと、
をさらに含む、
前記(4)〜(6)のいずれかに記載の情報処理方法。
(8)
前記単位エリアは、屋内空間におけるエリアである、
前記(1)〜(7)のいずれかに記載の情報処理方法。
(9)
前記特徴点リストを生成することは、地図情報、通行履歴、または歩行履歴のうち少なくともいずれかに基づいて選択した単位エリアに係る前記特徴点リストを生成すること、
をさらに含む、
前記(1)〜(7)のいずれかに記載の情報処理方法。
(10)
情報処理装置からの要求に基づいて、前記特徴点リストを前記情報処理装置に送信すること、
をさらに含む、
前記(1)〜(9)のいずれかに記載の情報処理方法。
(11)
取得された画像情報から特徴点及び前記特徴点に係る局所特徴量を抽出する演算部と、
収集された観測情報に基づいて特徴点リストを取得する通信部と、
を備え、
前記演算部は、前記局所特徴量と前記特徴点リストに基づいて自己位置推定を行い、
前記特徴点リストは、前記観測情報の観測地点を含む単位エリアに関連付いた前記特徴点の三次元座標位置、及び前記特徴点に係る局所特徴量を含む、
情報処理装置。
(12)
前記通信部は、収集された環境情報にさらに基づいて前記特徴点リストを取得し、
前記特徴点リストは、前記環境情報に関連付いた特徴点リストである、
前記(11)に記載の情報処理装置。
(13)
前記演算部は、前記画像情報を取得した撮像部のカメラパラメータを算出し、
前記カメラパラメータは、三次元座標位置、姿勢情報、速度、加速度、3軸回転姿勢、3軸回転速度、または3軸回転加速度のうち少なくともいずれかを含む、
前記(11)または(12)に記載の情報処理装置。
(14)
前記カメラパラメータに基づいて移動体の動作を制御する動作制御部、
をさらに備える、
前記(13)に記載の情報処理装置。
(15)
前記カメラパラメータに基づいて仮想現実または拡張現実のうち少なくともいずれかに係る表示制御を行う表示制御部、
をさらに備える、
前記(13)または(14)に記載の情報処理装置。
(16)
前記カメラパラメータに基づいて移動体に係る経路ナビゲーションを行うナビゲーション部、
をさらに備える、
前記(13)〜(15)のいずれかに記載の情報処理装置。
(17)
単位エリア周辺において収集された観測情報を受信する通信部と、
前記観測情報から検出した特徴点の三次元座標と、前記特徴点の局所特徴量と、を関連付けた特徴点リストを生成するリスト生成部、
を備える、
情報処理装置。
110 データ選択部
120 特徴点抽出部
130 リスト生成部
140 装置通信部
20 情報処理装置
210 演算部
220 機能制御部
230 サーバ通信部
30 移動体
40 ネットワーク
Claims (9)
- プロセッサが、単位エリア周辺において収集された観測情報から検出した特徴点の三次元座標と、前記特徴点の局所特徴量と、を関連付けた特徴点リストを生成すること、
を含み、
前記特徴点リストを生成することは、前記単位エリアごとに前記特徴点を順位付けした特徴点リストを生成すること、をさらに含み、
前記特徴点リストを生成することは、前記特徴点リストを生成する単位エリアの近傍に位置する別の単位エリアにおいて観測された、前記特徴点に係る観測情報の数に基づいて、前記順位付けを行うこと、をさらに含む、
情報処理方法。 - 前記特徴点リストを生成することは、環境情報に関連付いた前記特徴点リストを生成すること、
をさらに含む、
請求項1に記載の情報処理方法。 - 前記環境情報は、天候、照明環境、大気状態、時刻、または日付のうち少なくともいずれかに係る情報を含む、
請求項2に記載の情報処理方法。 - 前記特徴点リストを生成することは、前記特徴点の投影誤差、または前記観測情報の観測地点に係る位置誤差のうち少なくとも一方に基づいて、前記順位付けを行うこと、
をさらに含む、
請求項1〜3のいずれか1項に記載の情報処理方法。 - 前記特徴点リストを生成することは、前記特徴点に係る観測情報の数に基づいて、前記順位付けを行うこと、
をさらに含む、
請求項1〜4のいずれか1項に記載の情報処理方法。 - 前記単位エリアは、屋内空間におけるエリアである、
請求項1〜5のいずれか1項に記載の情報処理方法。 - 前記特徴点リストを生成することは、地図情報、通行履歴、または歩行履歴のうち少なくともいずれかに基づいて選択した単位エリアに係る前記特徴点リストを生成すること、
をさらに含む、
請求項1〜5のいずれか1項に記載の情報処理方法。 - 情報処理装置からの要求に基づいて、前記特徴点リストを前記情報処理装置に送信すること、
をさらに含む、
請求項1〜7のいずれか1項に記載の情報処理方法。 - 単位エリア周辺において収集された観測情報を受信する通信部と、
前記観測情報から検出した特徴点の三次元座標と、前記特徴点の局所特徴量と、を関連付けた特徴点リストを生成するリスト生成部、
を備え、
前記リスト生成部は、前記単位エリアごとに前記特徴点を順位付けした特徴点リストを生成し、
前記リスト生成部は、前記特徴点リストを生成する単位エリアの近傍に位置する別の単位エリアにおいて観測された、前記特徴点に係る観測情報の数に基づいて、前記順位付けを行う、
情報処理装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016068929 | 2016-03-30 | ||
JP2016068929 | 2016-03-30 | ||
PCT/JP2016/088890 WO2017168899A1 (ja) | 2016-03-30 | 2016-12-27 | 情報処理方法および情報処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017168899A1 JPWO2017168899A1 (ja) | 2019-02-07 |
JP6897668B2 true JP6897668B2 (ja) | 2021-07-07 |
Family
ID=59963882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018508398A Active JP6897668B2 (ja) | 2016-03-30 | 2016-12-27 | 情報処理方法および情報処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10949712B2 (ja) |
EP (1) | EP3438925A4 (ja) |
JP (1) | JP6897668B2 (ja) |
WO (1) | WO2017168899A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6882664B2 (ja) * | 2017-02-07 | 2021-06-02 | 富士通株式会社 | 移動体位置推定システム、移動体位置推定端末装置、情報格納装置、及び移動体位置推定方法 |
JP6894725B2 (ja) * | 2017-03-09 | 2021-06-30 | キヤノン株式会社 | 画像処理装置及びその制御方法、プログラム、記憶媒体 |
US10424079B2 (en) * | 2017-04-05 | 2019-09-24 | Here Global B.V. | Unsupervised approach to environment mapping at night using monocular vision |
JP2019074532A (ja) * | 2017-10-17 | 2019-05-16 | 有限会社ネットライズ | Slamデータに実寸法を付与する方法とそれを用いた位置測定 |
IL274426B2 (en) | 2017-11-14 | 2024-01-01 | Magic Leap Inc | Discovering and describing a fully complex point of interest using homographic processing |
JP6783742B2 (ja) * | 2017-11-24 | 2020-11-11 | Kddi株式会社 | パラメータ特定装置及びパラメータ特定方法 |
JP2019149621A (ja) * | 2018-02-26 | 2019-09-05 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US10816984B2 (en) | 2018-04-13 | 2020-10-27 | Baidu Usa Llc | Automatic data labelling for autonomous driving vehicles |
JP2019197350A (ja) * | 2018-05-09 | 2019-11-14 | 株式会社日立製作所 | 自己位置推定システム、自律移動システム及び自己位置推定方法 |
JP6766843B2 (ja) * | 2018-05-17 | 2020-10-14 | 株式会社Soken | 自己位置推定装置 |
WO2020102417A1 (en) | 2018-11-15 | 2020-05-22 | Magic Leap, Inc. | Systems and methods for performing self-improving visual odometry |
US11694303B2 (en) * | 2019-03-19 | 2023-07-04 | Electronics And Telecommunications Research Institute | Method and apparatus for providing 360 stitching workflow and parameter |
CN110348463B (zh) * | 2019-07-16 | 2021-08-24 | 北京百度网讯科技有限公司 | 用于识别车辆的方法和装置 |
US11640677B2 (en) | 2019-10-15 | 2023-05-02 | Alarm.Com Incorporated | Navigation using selected visual landmarks |
JPWO2021117552A1 (ja) * | 2019-12-10 | 2021-06-17 | ||
CN115552477A (zh) | 2020-05-01 | 2022-12-30 | 奇跃公司 | 采用施加的分层归一化的图像描述符网络 |
DE102021000652A1 (de) | 2021-02-09 | 2022-08-11 | Mercedes-Benz Group AG | Verfahren zur Prädikation verkehrsführungsrelevanter Parameter |
WO2023090213A1 (ja) | 2021-11-18 | 2023-05-25 | ソニーグループ株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2023150740A (ja) * | 2022-03-31 | 2023-10-16 | 株式会社アイシン | 自己位置誤差推定装置及び自己位置誤差推定方法 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005038402A1 (ja) * | 2003-10-21 | 2005-04-28 | Waro Iwane | ナビゲーション装置 |
DE112006003380T5 (de) * | 2005-12-16 | 2008-10-16 | Ihi Corporation | Verfahren und Vorrichtung für die Positionsabgleichung von dreidimensionalen Formdaten |
US7925049B2 (en) * | 2006-08-15 | 2011-04-12 | Sri International | Stereo-based visual odometry method and system |
DE102006062061B4 (de) * | 2006-12-29 | 2010-06-10 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Vorrichtung, Verfahren und Computerprogramm zum Bestimmen einer Position basierend auf einem Kamerabild von einer Kamera |
US8189925B2 (en) * | 2009-06-04 | 2012-05-29 | Microsoft Corporation | Geocoding by image matching |
JP2011043419A (ja) * | 2009-08-21 | 2011-03-03 | Sony Corp | 情報処理装置、および情報処理方法、並びにプログラム |
JP5505723B2 (ja) * | 2010-03-31 | 2014-05-28 | アイシン・エィ・ダブリュ株式会社 | 画像処理システム及び位置測位システム |
KR101686171B1 (ko) * | 2010-06-08 | 2016-12-13 | 삼성전자주식회사 | 영상 및 거리 데이터를 이용한 위치 인식 장치 및 방법 |
KR20120071203A (ko) * | 2010-12-22 | 2012-07-02 | 한국전자통신연구원 | 운전자의 시야 확보 장치 및, 운전자의 시야 확보 방법 |
US8401225B2 (en) * | 2011-01-31 | 2013-03-19 | Microsoft Corporation | Moving object segmentation using depth images |
US8195394B1 (en) * | 2011-07-13 | 2012-06-05 | Google Inc. | Object detection and classification for autonomous vehicles |
US20140323148A1 (en) * | 2013-04-30 | 2014-10-30 | Qualcomm Incorporated | Wide area localization from slam maps |
US9037396B2 (en) * | 2013-05-23 | 2015-05-19 | Irobot Corporation | Simultaneous localization and mapping for a mobile robot |
JP6129981B2 (ja) * | 2013-10-01 | 2017-05-17 | 株式会社日立製作所 | 移動体位置推定装置および移動体位置推定方法 |
US9365214B2 (en) * | 2014-01-30 | 2016-06-14 | Mobileye Vision Technologies Ltd. | Systems and methods for determining the status of a turn lane traffic light |
JP6394005B2 (ja) * | 2014-03-10 | 2018-09-26 | 株式会社リコー | 投影画像補正装置、投影する原画像を補正する方法およびプログラム |
US9630619B1 (en) * | 2015-11-04 | 2017-04-25 | Zoox, Inc. | Robotic vehicle active safety systems and methods |
US9734455B2 (en) * | 2015-11-04 | 2017-08-15 | Zoox, Inc. | Automated extraction of semantic information to enhance incremental mapping modifications for robotic vehicles |
US9754490B2 (en) * | 2015-11-04 | 2017-09-05 | Zoox, Inc. | Software application to request and control an autonomous vehicle service |
US9958864B2 (en) * | 2015-11-04 | 2018-05-01 | Zoox, Inc. | Coordination of dispatching and maintaining fleet of autonomous vehicles |
CN107554430B (zh) * | 2017-09-20 | 2020-01-17 | 京东方科技集团股份有限公司 | 车辆盲区可视化方法、装置、终端、系统及车辆 |
US10970553B2 (en) * | 2017-11-15 | 2021-04-06 | Uatc, Llc | Semantic segmentation of three-dimensional data |
-
2016
- 2016-12-27 US US16/068,794 patent/US10949712B2/en active Active
- 2016-12-27 WO PCT/JP2016/088890 patent/WO2017168899A1/ja active Application Filing
- 2016-12-27 JP JP2018508398A patent/JP6897668B2/ja active Active
- 2016-12-27 EP EP16897114.1A patent/EP3438925A4/en not_active Ceased
Also Published As
Publication number | Publication date |
---|---|
US20190019062A1 (en) | 2019-01-17 |
JPWO2017168899A1 (ja) | 2019-02-07 |
US10949712B2 (en) | 2021-03-16 |
EP3438925A1 (en) | 2019-02-06 |
WO2017168899A1 (ja) | 2017-10-05 |
EP3438925A4 (en) | 2019-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6897668B2 (ja) | 情報処理方法および情報処理装置 | |
US11328158B2 (en) | Visual-inertial positional awareness for autonomous and non-autonomous tracking | |
US11592845B2 (en) | Image space motion planning of an autonomous vehicle | |
US11749124B2 (en) | User interaction with an autonomous unmanned aerial vehicle | |
US10410328B1 (en) | Visual-inertial positional awareness for autonomous and non-autonomous device | |
US10366508B1 (en) | Visual-inertial positional awareness for autonomous and non-autonomous device | |
KR102434580B1 (ko) | 가상 경로를 디스플레이하는 방법 및 장치 | |
JP6790417B2 (ja) | 情報処理装置及び情報処理サーバ | |
US11415986B2 (en) | Geocoding data for an automated vehicle | |
WO2022062480A1 (zh) | 移动设备的定位方法和定位装置 | |
Magree et al. | Monocular visual mapping for obstacle avoidance on UAVs | |
Magree et al. | Monocular visual mapping for obstacle avoidance on UAVs | |
US11328612B2 (en) | System, method, and apparatus for drone positioning control | |
JP4624000B2 (ja) | 複合人工知能装置 | |
WO2021117543A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
US11947354B2 (en) | Geocoding data for an automated vehicle | |
Hernández et al. | Visual SLAM with oriented landmarks and partial odometry | |
JP7327083B2 (ja) | 領域切り出し方法および領域切り出しプログラム | |
CN112700546A (zh) | 一种室外大规模三维地图的构建系统与方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191111 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191111 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210511 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210524 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6897668 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |