JP7485749B2 - ビデオベースの位置決め及びマッピングの方法及びシステム - Google Patents
ビデオベースの位置決め及びマッピングの方法及びシステム Download PDFInfo
- Publication number
- JP7485749B2 JP7485749B2 JP2022189460A JP2022189460A JP7485749B2 JP 7485749 B2 JP7485749 B2 JP 7485749B2 JP 2022189460 A JP2022189460 A JP 2022189460A JP 2022189460 A JP2022189460 A JP 2022189460A JP 7485749 B2 JP7485749 B2 JP 7485749B2
- Authority
- JP
- Japan
- Prior art keywords
- images
- image
- landmark
- vehicle
- road network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 148
- 238000013507 mapping Methods 0.000 title claims description 44
- 230000004807 localization Effects 0.000 title description 40
- 238000012545 processing Methods 0.000 claims description 82
- 230000011218 segmentation Effects 0.000 claims description 69
- 230000000007 visual effect Effects 0.000 claims description 68
- 230000009466 transformation Effects 0.000 claims description 16
- 238000000844 transformation Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 7
- 238000013527 convolutional neural network Methods 0.000 claims description 4
- 230000001537 neural effect Effects 0.000 claims description 3
- 238000001514 detection method Methods 0.000 description 51
- 230000033001 locomotion Effects 0.000 description 26
- 230000008569 process Effects 0.000 description 26
- 238000004422 calculation algorithm Methods 0.000 description 20
- 238000001454 recorded image Methods 0.000 description 15
- 238000013459 approach Methods 0.000 description 10
- 240000004050 Pentaglottis sempervirens Species 0.000 description 9
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 9
- 238000000605 extraction Methods 0.000 description 9
- 230000002776 aggregation Effects 0.000 description 8
- 238000004220 aggregation Methods 0.000 description 8
- 238000010276 construction Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000003709 image segmentation Methods 0.000 description 7
- 238000012546 transfer Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000010348 incorporation Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 230000004931 aggregating effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000007774 longterm Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000013589 supplement Substances 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 239000012086 standard solution Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000008570 general process Effects 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3833—Creation or updating of map data characterised by the source of data
- G01C21/3848—Data obtained from both position sensors and additional sensors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3807—Creation or updating of map data characterised by the type of data
- G01C21/3811—Point data, e.g. Point of Interest [POI]
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
- G01C21/30—Map- or contour-matching
- G01C21/32—Structuring or formatting of map data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3859—Differential updating map data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/587—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Automation & Control Theory (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Library & Information Science (AREA)
- Multimedia (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
- Instructional Devices (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Description
さらなる問題は、自律運転の要件に適合する事前に構築された地図データがないことである。ほとんどの地図データは頻繁でない間隔で収集され、したがって、しばしば古くなり、新しいデータを組み込むための容易な方法を提供しない。例として、地方自治体の従業員による航空写真および手動マッピングがある。また、利用可能な地図データの多くは、利用可能な構造データのない画素から構成される前述の航空写真のようなアルゴリズムアクセスのために構造化されていない。地図精度も十分ではないことが多く、自律運転に取り組む各研究グループによるカスタム地図作成が必要である。
さらなる課題は特に生のセンサデータだけを保存する地図がわずかに異なるセンサによる位置特定に適用できないので、異なるセンサからのデータ、さらにはセンサタイプ(例えば、モノカメラ、ステレオカメラ、ライダ、レーダなど)からのデータの処理である。したがって、一般的な地図は環境のセマンティック情報を提供する必要があり、これは、すべてのセンサタイプで見つけることができる。
マッピングおよび位置特定システムはまた、非機能的要件に直面し、従来技術の方法のいずれも、前述の機能的要件と共にこれらを満たすことを達成しない。システムの設計は、実験室環境での作業を必要とするだけでなく、汎用ハードウェア上で実行可能であること、およびモバイルデータ接続の適度な容量の制限内で実行可能であることを含む、グローバルスケールでの実現可能性および実装コストの影響を受ける。
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
前記取得された画像及び前記関連するカメラ位置の少なくともいくつかを用いて、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成することと、
前記生成されたローカル地図表現を、前記車両が走行している前記道路網の前記エリアをカバーする基準地図のセクションと比較することと、
前記比較に基づいて、前記道路網内の前記車両の前記地理的位置及び向きを判定することと、
を含む方法が提供される。
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
前記取得された画像及び前記関連するカメラ位置の少なくともいくつかを使用して、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成する手段と、
前記生成されたローカル地図表現を、地図レポジトリから抽出された基準地図のセクションと比較する手段であって、前記基準地図のセクションは、前記車両が走行している前記道路網の前記エリアをカバーする、前記比較する手段と、
前記比較に基づいて、前記道路網内の前記車両の前記地理的位置および向きを判定する手段と、
を備えるシステムが提供される。
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
前記画像及び前記関連するカメラ位置の少なくともいくつかを用いて、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成することと、
前記生成されたローカル地図表現を基準地図のセクションと比較することと、
前記比較に基づいて、前記基準地図のセクション内の1つ以上のエラーを識別することと、
前記1つ以上のエラーが識別されると、前記ローカル地図表現、または前記ローカル地図表現を示すデータを、前記基準地図のセクションを更新するため、及び/又は新しい基準地図のセクションを生成するために、リモートサーバへ提供することと、
を含む方法が提供される。
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
前記画像及び前記関連するカメラ位置の少なくともいくつかを使用して、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成する手段と、
前記生成されたローカル地図表現を基準地図のセクションと比較する手段と、
前記比較に基づいて、前記基準地図のセクション内の1つ以上のエラーを識別する手段と、
1つ以上のエラーが識別されると、前記ローカル地図表現、又は前記ローカル地図表現を示すデータを、前記基準地図のセクションを更新するため、及び/又は新しい基準地図のセクションを生成するために、リモートサーバへ提供するための手段と、
を備えるシステムが提供される。
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の前記環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理することであって、前記ランドマークオブジェクトは、前記道路網の前記環境におけるランドマークを表す、前記処理することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された前記画像から前記一連の画像の1つ以上の隣接する画像にマッピングするための変換のセットを判定することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を生成することと、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定することと、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成することと、
を含む方法が提供される。
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の前記環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理する手段であって、前記ランドマークオブジェクトは、前記道路網の前記環境内のランドマークを表す、前記処理する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された前記画像から前記一連の画像の1つ以上の隣接する画像にマッピングするための変換のセットを判定する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を生成する手段と、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定する手段と、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成する手段と、
を備えるシステムが提供される。
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
処理された画像の各画素が少なくとも、前記画素が前記環境内のレーンマーキングを表す確率値を割り当てられるように、セマンティックセグメンテーションを実行するために前記画像の少なくともいくつかを処理することと、
前記車両が走行している前記道路網のエリアを表す道路画像を生成するために前記一連の画像のうち少なくともいくつかの画像を処理することであって、前記道路画像内の各画素の画素値は、前記道路画像を生成するために使用される前記画像内の対応する画素の前記割り当てられた確率値に基づくものである、前記処理することと、
前記画像内の1つ以上のレーンマーキングオブジェクトを検出および分類するために前記道路画像を処理することであって、前記レーンマーキングオブジェクトは、前記道路画像に描かれた前記1つ以上の道路上のレーンマーキングを表す、前記処理することと、
前記検出及び分類されたレーンマーキングオブジェクトを使用して、前記レーンマーキングオブジェクトによって表される前記レーンマーキングの前記位置および幾何形状を判定するために前記道路画像を処理することと、
を含む方法が提供される。
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
処理された画像の各画素が少なくとも、前記画素が前記環境内のレーンマーキングを表す確率値を割り当てられるように、セマンティックセグメンテーションを実行するために前記画像の少なくともいくつかを処理する手段と、
前記車両が走行している前記道路網のエリアを表す道路画像を生成するために前記一連の画像の前記画像のうち少なくともいくつかの画像を処理する手段であって、前記道路画像内の画素毎の画素値は、前記道路画像を生成するために使用される前記画像内の対応する画素の前記割り当てられた確率値に基づくものである、前記処理する手段と、
前記画像内の1つ以上のレーンマーキングオブジェクトを検出及び分類するために前記道路画像を処理する手段であって、前記レーンマーキングオブジェクトは、前記道路画像に描かれた前記1つ以上の道路上のレーンマーキングを表す、前記処理する手段と、
前記検出及び分類されたレーンマーキングオブジェクトを使用して、前記レーンマーキングオブジェクトによって表される前記レーンマーキングの前記位置及び幾何形状を判定するために前記道路画像を処理する手段と、
を備えるシステムが提供される。
・レーンマーキング、交通信号(信号機)、交通標識、木、下水道などのグランドタイプ又はオブジェクトなどの、検出されたランドマーク及び高レベル特徴の2Dトップビュー地図(オルソマップ)
・合成航空写真(オルソフォト)などの2Dトップビュー高密度再構成。
図1を参照すると、少なくとも1つの例による、図示の視覚的全地球測位及びマッピングシステムの原理は、以下のステップに従って要約することができる。
図2は、カメラセンサ入力と、クラウドコンピューティング環境206への高帯域幅無線インターネット接続とを備えた自律車両システム200を示す。したがって、自律車両は、単眼またはステレオカメラ202と、ハイエンドオンボード処理部と、高帯域幅高遅延モバイルデータ接続、すなわちW-LAN 204とを備えている。システムはオンボードカメラ202からライブ記録画像を受信し、オンボードオドメトリから粗いGPS座標を受信する。位置特定結果208は、自律運転ロジックに渡される。地図構築結果は、クラウドベースのレポジトリ206内に存在する。
図3は、カメラセンサ入力と、位置特定結果を判定するためにクラウドコンピューティング環境内のサードパーティ基準地図データベースと通信するための低帯域幅モバイルインターネット接続とを備えた自律車両システム300を示す。したがって、自律車両は、単眼またはステレオカメラ302と、ローエンドオンボード処理部と、低帯域幅低遅延モバイルデータ接続304とを備えている。システムはオンボードカメラ302からライブ記録画像を受信し、オンボードオドメトリから粗いGPS座標を受信する。位置特定結果308は、自律運転ロジックに渡される。
図4は高帯域幅無線ビデオを処理ユニットに提供するためのカメラセンサ入力を有するオペレータ制御無人機を備える無人機ベースのシステムの一例を示し、処理ユニットは、位置特定およびマッピング結果を無人オペレータ装置(例えば、電話またはナビゲーションユニット)に提供する。したがって、システムは、単眼カメラまたはステレオカメラ402を有する無人機400と、ハイエンド大容量基地局処理部412と通信するための低帯域幅低遅延無線データ接続404とから構成される(無人機上にはオンボード処理部は存在しない)。したがって、V-GPS/V-GMSシステムは、基地局上に存在する。基地局は、無人機400のオンボードカメラ402からライブ記録画像を無線で受信する。次いで、位置特定およびマッピング結果408は、モバイルオペレータ装置410に渡される。
画像データ取得
システムへの入力は一般に、道路網を走行する車両と関連付けられた1つ以上のカメラから取得される一連の画像500を含む。各画像は、道路網に沿った既知の位置で記録される。任意選択で、画像500は上述のように、(粗い)位置502と共に提供されてもよい。例えば、画像データは、取得された画像のおおよその位置および正確なタイムスタンプを提供するために、例えば車両のナビゲーションモジュールからのGNSS測位データと組み合わされてもよい。しかしながら、場合によっては、画像の(相対的な)位置が画像500自体から判定されてもよい。
このシステムは、ビデオシーケンス内のキーフレームに対するカメラの相対的な3D位置及び回転を推定するビジュアルオドメトリシステムを使用する。オドメトリは、典型的なVisual-SLAMシステムにおけるのと同じ方法で、ビデオデータに動きアプローチからのオンザフライ構造を適用することによって、純粋に視覚的に得ることができる。例えば、オドメトリは、以下のようにして得ることができる。
画像セグメンテーション処理ステップでは、あらゆる所与のキーフレーム内の各画素が例えば道路、木、レーンマーキング、自動車などの所定の環境クラスのセットに従って分類される。次いで、クラスラベルが各画素に付加され、環境クラスの任意のサブセット、例えば、地面のみに注意を払うことができる後続の処理ステップのために利用可能にされる。セグメンテーションは、以下のような、1つ以上の画素毎の分類アプローチによって実行されてもよい。
・ステレオカメラからの深さデータ(デプスデータ)を使用してグランド(地面、地上)レベル画素、壁/筐体、または交通標識のポールをセグメント化する
・粗いグランド(地面、地上)マスクの形成を可能にするオドメトリ推定によって提供される疎な特徴点群データを使用する。
高レベル特徴検出ステップは所与のフレームにわたって、交通標識/交通信号、レーンマーカ、木などの高レベル特徴を識別し、追跡する。カメラの既知のオドメトリを使用して、追跡された高レベルの特徴を、カメラ位置に対する3D空間に三角測量することもできる。これらの特徴位置及びそれらのクラスラベルは入力画像シーケンスにおけるそれらの画素表現と共に、後続の処理ステップのために利用可能にされる。高レベル特徴検出は、以前に計算された画像分類を利用して、特殊化された特徴検出努力を適切な領域に制限する。特徴検出は、GPU処理能力を使用するブルートフォース畳み込み演算応答クラスタリング、例えば、オブジェクト検出のためのViola-Jonesアプローチなどの特徴カスケードを使用する高速オブジェクト検出、複数のクラスに適した以前に訓練されたランダムフォレスト分類器などの、1つ以上のパッチごとの分類アプローチによって実行することができる。
ランドマークは、「交通標識」オブジェクトクラスなど、ランドマークに対応するオブジェクトクラスを割り当てられた任意の画素、または画素のグループを抽出することによって、分類された画像から検出することができる。例えば、画像データ取得から出力された観察者画像フレーム、ならびに車両環境セマンティックセグメンテーションからの画素クラススコアベクトルを使用して、もしあれば、検出されたランドマークを含む、各フレーム内の1つ以上のエリア(典型的には矩形)のリストの形式で、いくつかのバウンディングボックスを生成することが可能である。次いで、これらのバウンディングボックスをランドマーククラスと共に出力することができる。ランドマークは、オリジナルの車両環境セマンティックセグメンテーションに基づいてのみ検出されてもよい。しかし、実施形態では、画像内の関心領域、すなわちランドマークを潜在的に含むと判定された領域がセマンティックセグメンテーションから取り出され、サポートベクターマシン(SVM)またはニューラルネットワークなどの教師付き学習方法が、検出されたランドマークのそれぞれにクラスを割り当てるために領域上で使用される。すなわち、特定のランドマーククラスを検出された各ランドマークに割り当てるために、車両環境セマンティックセグメンテーション処理ステップから判定され得るように、画像内の任意の関心領域に対して、さらなるランドマーククラスセマンティックセグメンテーション(または「ランドマーク認識」)が実行され得る。これにより、ランドマーククラスの割り当ての精度を向上させることができる。
オドメトリ転送は、ビジュアルオドメトリおよびランドマーク検出のために異なる撮像素子(例えば、複数のカメラ)を使用する場合に使用されてもよい。例えば、オドメトリ転送を使用して、異なるカメラから得られた画像を較正(キャリブレーション)することができる。特に、オドメトリ転送は、ランドマーク検出のために使用される画像のポーズ(姿勢)、例えば、単一の(単眼)ビデオカメラからのビデオフレームの第2のセット、を判定するために使用されてもよい。これは、異なるカメラを位置合わせするのに必要な回転および/または平行移動に基づいて画像を適切に較正することによって、画像をビジュアルオドメトリの結果と組み合わせて使用して行うことができる。したがって、画像の第2のセットに対するカメラ姿勢は、例えばビジュアルオドメトリ処理ステップにおいて、画像の第1のセットに対して判定されたカメラ姿勢を適切に較正することによって得ることができる。
ランドマーク観察生成は、画像データ取得モジュールから出力された画像データを使用して、例えば、(オドメトリ転送からの)これらのフレームのポーズ(姿勢)と組み合わせて、必要に応じて、ランドマーク検出および認識プロセスから判定されたバウンディングボックスおよびランドマーククラスと組み合わせて、実行されてもよい。画像データから抽出された各ランドマークについて、正規化された座標における2Dポリラインの形式でのランドマーク形状、および向き(例えば、2Dポリラインを3D空間に変換するための姿勢行列)が、ランドマークの内容を記述するランドマーク画像と共に生成される。ランドマークは、例えば、交通標識、交通信号、広告板等、または、位置特定目的で適切かつ望ましく使用することができる、道路に沿って存在し得る任意の他の識別対象を含み得る。
この処理ステップは2D上面図高密度オルソフォト再構成を作成し、以前に抽出されたすべての高レベル特徴(例えば、ランドマークおよび/またはレーンマーキング)をその中に埋め込むことによって、ローカル地図を集約する。
・各キーフレームの近傍における複数の地面の交点、または、
・地面特徴点クラスタにわたる粗い多角形メッシュ。
「グランド(地面)メッシュ」は、道路網内の任意のグランド(地面)レベル特徴を含むように生成されてもよい。上述のステレオビジュアルオドメトリプロセスから出力されるDSO点群、またはステレオ画像の奥行きデータから直接判定されるステレオ点群は任意選択で、グランド(地面)メッシュを生成するために、セマンティックセグメンテーションプロセスから出力される関連画素クラススコアベクトルと共に使用されてもよい。例えば、セマンティックセグメンテーションから得られたオブジェクトクラスは、「道路」または「レーンマーキング」などの任意のグランド(地面)特徴を選択するために使用することができる。しかし、セマンティックセグメンテーションは完全ではなく、場合によっては、セマンティックセグメンテーションはいくつかの誤った値を与えることがあり、すなわち、いくつかの点を、それらがグランド(地面)上にない場合であっても、グランド(地面)レベル点として選択することがある。例えば、DSO点群内のキーポイントの深さを使用して、グランド(地面)レベル点をさらに選択することができる。場合によっては、例えば、DSO点群が疎すぎる場合、代わりにステレオ点群が使用されてもよい(例えば、画像の第1のセットおよび関連する奥行き地図(デプスマップ)から直接得られる)。実施形態では、DSOおよびステレオ点群の様々な組合せを使用することができる。例えば、ステレオ点群は、DSO点群が疎すぎる領域を補間するために使用されてもよい。実施形態では点群、例えばステレオ点群またはDSO点群のいずれかは、例えば、(セマンティックセグメンテーションによって不正確に分類された自動車、木、および建物を示す点を除去するための)通常のフィルタ、統計的外れ値除去フィルタ、およびRANSACフィルタのうちの1つ以上を使用することによって、フィルタリングすることができ、メッシュはフィルタリングされた点群を使用して作成される。グランド(地面)メッシュは一般に、例えば、図17A~17Cに示されるように、格子型および/または舌型のグランド(地面)メッシュのいずれかを含み得る。
グランド(地面)メッシュは、カメラからの画像及び関連する姿勢と共に使用されて、道路のオルソ補正された画像を生成することができる。例えば、道路の鳥瞰モザイク地理参照画像は、画像がグランド(地面)メッシュ上に投影され、画像内の各画素の画素値が、画像を生成するために使用される画像から検出される環境内の位置の色を表すように、一緒にブレンド/重み付けされる、移動の2D上面図を含むように生成されてもよい。
高レベル特徴検出は例えば、以下に説明するように、レーンマーキング観察を作成するための様々なステップをさらに含むことができる。
上述の鳥瞰モザイクおよび/または直線的に変換された画像に加えて、またはその代わりに、画像内の各画素の画素値が、車両環境セマンティックセグメンテーションからの出力として、環境内の位置がレーンマーキングオブジェクトである確率を表すオルソ補正道路画像を生成することもできる。例えば、グレースケール色空間を使用する場合、レーンマーキングオブジェクトである100%の確率が割り当てられた任意の画素は「白」であってもよく、0%の確率を有する任意の画素は「黒」であってもよく、他の画素値はそれぞれの確率に基づいて適切に選択される。このようにして、レーンマーキングオブジェクトを強調表示し、レーンマーキングセマンティックセグメンテーションを実行するためのより明瞭な画像を提供する「フィルタリングされた」グレースケール正投影道路画像を生成することができる。このようなフィルタリングされた画像を図18Bに示す。比較のために、図18Aは同じ初期画像から決定されるが、画素値は初期セマンティックセグメンテーションから判定される位置の最も可能性の高いオブジェクトクラスを示す。観察できるように、レーンマーキングは、図18Aと比較して、図18Bにおいて十分に明瞭である。したがって、この画像は、レーンマーキングオブジェクトが強調表示されたクリーンアップされた道路画像を表す。
フィルタリングされたグレースケール正投影道路画像は典型的には直線的に変換された画像の形式であり、次に、例えば、訓練された畳み込みニュートラルネットを使用して、さらなるレーンマーキングオブジェクト検出および認識を受け、画像内のオブジェクトを特定のタイプのレーンマーキングとして識別および分類する。レーンマーキングクラスの例は、単一の実線、単一の短い破線、単一の長い破線、二重の実線、二重の破線、アイランド境界などのうちの1つ以上を含むことができる。LRI、レーンマーキングオブジェクト、およびレーンマーキングセマンティックセグメンテーションからのクラスを使用して、レーン幾何形状を生成すること、すなわち、例えば、自律運転モジュールによる使用のため、および/またはHD地図への組み込みのために、レーン識別子および幾何形状を示すことが可能である。
上述のように、道路網を描写する鳥瞰モザイクまたは直線的に変換された画像は任意選択で、抽出された高レベル特徴(例えば、ランドマークおよび/またはランドマーキング)が埋め込まれた、ローカル地図として使用されてもよい。しかし、代替的に、ローカル地図は例えば、以下に説明するように、抽出された高レベル特徴を単に含むことができる。
したがって、ランドマーク観察生成およびレーン幾何形状から出力されるランドマーク形状、向き、および画像は、カメラセンサから抽出された、および、たとえば、位置特定プロセスのために、および/または、より正確に現実を反映するようにHD地図を更新するために使用することができる、上述のレーンおよび/またはランドマーク観察などの位置特定された地図データを含む「データグラム」(または「ロードグラム」)を生成するための観察データグラム作成モジュールに出力することができる。換言すれば、データグラムはローカル地図に対応する。データグラムは一般に、HD地図に対するスケーラブルで効率的な更新を可能にするために、最小帯域幅で(例えば、クラウドに)送信することができるそのような地図データの圧縮された断片(スニペット(snippet))である。
うまくマッチングされたローカル地図は、グローバルスケール基準地図の作成および/または保守および更新プロセスに寄与することができる貴重な(価値のある)データを含む。
グローバル地図セクション検索(DWNLD)
地図セクション検索ステップは、近似位置に対応するグローバルスケール基準地図のサブセクションと、照合(マッチング)されている集約ローカル地図の範囲とを要求し、検索する。
・ローカル地図の入力画像に従って昼間、季節、および閲覧方向によって選択された、よく選択された関連付け可能な低レベル特徴、
・互換性のある構成で作成された合成オルソフォト地図セクション。
位置特定ステップは、ローカル地図を基準地図セクションと照合(マッチング)することによって実行される。位置特定の品質およびロバスト性は、ローカル地図埋め込みまたは抽出された高レベル特徴の耐久性および安定性を利用することによって達成される。適用可能な技術は、以下の通りである。
・(KLTなどの画像誤差回帰アプローチにおけるように)画素強度の差が最小化されるように、ローカル地図の高密度2Dオルソフォト再構成を対応する基準地図のオルソフォトに変換する
・(モーションのバンドル調整からの構造のように)低レベル特徴の対応に従ってキーフレームのポーズ(姿勢)を最適化することによって、ローカルパッチから、および地図から、選択されたキーフレームを3Dマッチングし、位置合わせする。
グローバル地図ルックアップテーブル及び姿勢(ポーズ)推定ユニットは、信頼性及び精度、全体的なパッチのワイド及びローカル品質、及び/又は地図カバレッジ及び最新性のような、姿勢推定に関する余分な情報と共に、グローバル位置504及び向き(姿勢)506で応答する。
ソースデータ入力(IN)
ソースデータ入力ステップは、地図構築および更新の目的でソースデータを受け取る。データパッケージは、世界規模のソースデータレポジトリに格納され、次の地図処理のために利用可能にされる。
地図構築および調整ステップは、世界規模のソースデータレポジトリ内の変更および新しく利用可能なデータに関する領域更新通知を受信し、集約する。
2.既存のソースデータを有する新しいデータを組み込み、セクション全体のオドメトリ再構成を更新する
3.更新されたセクションを世界規模のデータレポジトリに格納する
4.更新された地図セクションについて基準地図抽出ステップへ通知する。
基準地図抽出は、世界規模のソースデータレポジトリ(SDR)から地図マッチングデータを事前に生成する。この地図マッチングデータは、所与の集約ローカル地図をマッチングし、位置合わせするという、位置特定およびマッチングのステップの目的と互換性があるように意図されている。したがって、それは、ローカル地図集約およびオブジェクト検出ユニットによってコンパイルされる集約ローカル地図と同じ情報層から構成することができる。
2.(位置特定およびマッチングステップに適切な)圧縮および空間最適化されたマッチングヒント/情報を抽出する。これらのマッチング情報層はさらに、以下を含むことができる。
・フィルタリングされた及び品質向上された合成2D上面図高密度オルソフォト再構成(すなわち、KLTベースのフィッティング)
・選択されカテゴライズされた低レベル特徴抽出(すなわち、日中、季節、気象条件などによって)。
4.基準地図情報サービスに、発生した変更について通知する。
基準地図情報サービスは、基準地図抽出ステップによって増分的に生成され、提供される基準地図への効率的でスケーラブルなアクセスを提供する。要求された地図セクションについて、サービスは以下のとおりである。
・短縮/圧縮された基準地図データバンドルで応答する。
Claims (18)
- 道路網を走行する車両の地理的位置及び向きを判定するコンピュータ実施方法であって、
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
前記取得された画像及び前記関連するカメラ位置の少なくともいくつかを用いて、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成することと、
前記生成されたローカル地図表現を、前記車両が走行している前記道路網の前記エリアをカバーする基準地図のセクションと比較することと、
前記比較に基づいて、前記道路網内の前記車両の前記地理的位置及び向きを判定することと、
を含み、
前記ローカル地図表現を生成することは、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理することであって、前記ランドマークオブジェクトは、前記道路網の前記環境におけるランドマークを表す、前記処理することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された画像から前記一連の画像のうちの1つ以上の隣接する画像にマッピングするための変換のセットを生成することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を、前記マッピングに基づいて生成することと、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定することと、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成することと、
を含むことを特徴とする方法。 - 前記比較に基づいて、前記基準地図のセクション内の1つ以上のエラーを識別することと、
前記1つ以上のエラーが識別されると、前記ローカル地図表現、または前記ローカル地図表現を示すデータを、前記基準地図のセクションを更新するため、及び/又は、新しい基準地図のセクションを生成するために、リモートサーバへ提供することと、
をさらに含むことを特徴とする請求項1に記載の方法。 - 基準画像に対する前記ローカル地図表現を生成するために使用される前記画像のうちの前記少なくともいくつかに対する相対カメラ位置を判定することを含み、選択的に、前記基準画像は、前記一連の画像内の第1の画像であることを特徴とする請求項1又は2に記載の方法。
- 前記画像に対して画素単位のセマンティックセグメンテーションを実行することを含み、前記画素単位のセマンティックセグメンテーションの結果は、前記画像の各々に対して、各画素に、当該画素に対する各オブジェクトクラスの確率を示すオブジェクトクラスまたはオブジェクトクラスベクトルが割り当てられることであることを特徴とする請求項1乃至3の何れか1項に記載の方法。
- 1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理することと、前記検出された1つ以上のランドマークオブジェクトを使用して、前記ローカル地図表現に含めるためのランドマーク観察特徴を生成することとを含み、
前記ランドマーク観察特徴は、ランドマークの位置と、方向と、形状とを含むことを特徴とする請求項1乃至4の何れか1項に記載の方法。 - 道路網の環境内の1つ以上のランドマークを識別するコンピュータ実施方法であって、
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の前記環境を反映する一連の画像を取得することであって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得することと、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理することであって、前記ランドマークオブジェクトは、前記道路網の前記環境におけるランドマークを表す、前記処理することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された前記画像から前記一連の画像のうちの1つ以上の隣接する画像にマッピングするための変換のセットを生成することと、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を、前記マッピングに基づいて生成することと、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定することと、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成することと、
を含むことを特徴とする方法。 - 前記ランドマークを示す前記データは、前記環境における前記ランドマークの位置および向きを示す情報を含むことを特徴とする請求項6に記載の方法。
- 前記ランドマークの2次元輪郭を判定するために、及び/又は、前記座標空間における前記ランドマークの再構成を生成するために、前記3次元表現を各セットにおいて融合することを含むことを特徴とする請求項6又は7に記載の方法。
- 1つ以上のレーンマーキングオブジェクトを検出するために前記画像の少なくともいくつかを処理することと、前記検出された1つ以上のレーンマーキングオブジェクトを使用して、前記ローカル地図表現に含めるためのレーンマーキング観察特徴を生成することとを含むことを特徴とする請求項1乃至5の何れか1項に記載の方法。
- 処理された画像の各画素が少なくとも、前記画素が前記環境内のレーンマーキングを表す確率値を割り当てられるように、セマンティックセグメンテーションを実行するために前記画像の少なくともいくつかを処理することと、
前記車両が走行している前記道路網のエリアを表す道路画像を生成するために前記一連の画像の少なくともいくつかを処理することであって、前記道路画像内の各画素の画素値は、前記道路画像を生成するために使用される前記画像内の対応する画素の前記割り当てられた確率値に基づくものである、前記処理することと、
前記画像内の1つ以上のレーンマーキングオブジェクトを検出及び分類するために畳み込みニュートラルネットワークを使用して前記道路画像を処理することであって、前記レーンマーキングオブジェクトは、前記道路画像に描かれた1つ以上の道路上のレーンマーキングを表す、前記処理することと、
前記検出及び分類されたレーンマーキングオブジェクトを使用して、前記レーンマーキングオブジェクトによって表される前記レーンマーキングの位置および幾何形状を判定するために、前記道路画像を処理することと、
を含むことを特徴とする請求項1乃至5、及び9の何れか1項に記載の方法。 - 処理された画像の各画素が少なくとも、前記画素が前記環境内のレーンマーキングを表す確率値を割り当てられるように、セマンティックセグメンテーションを実行するために前記画像の少なくともいくつかを処理することと、
前記車両が走行している前記道路網のエリアを表す道路画像を生成するために前記一連の画像の少なくともいくつかを処理することであって、前記道路画像内の各画素の画素値は、前記道路画像を生成するために使用される前記画像内の対応する画素の前記割り当てられた確率値に基づくものである、前記処理することと、
前記画像内の1つ以上のレーンマーキングオブジェクトを検出及び分類するために畳み込みニュートラルネットを使用して前記道路画像を処理することであって、前記レーンマーキングオブジェクトは、前記道路画像に描かれた1つ以上の道路上のレーンマーキングを表す、前記処理することと、
前記検出及び分類されたレーンマーキングオブジェクトを使用して、前記レーンマーキングオブジェクトによって表される前記レーンマーキングの位置および幾何形状を判定するために、前記道路画像を処理することと、
を含むことを特徴とする請求項6乃至8の何れか1項に記載の方法。 - 前記車両が移動している前記道路網のエリアの画像を生成して前記ローカル地図表現に含めるために複数の画像を処理することを含み、前記道路網の前記エリアの前記画像は、ビジュアルオドメトリを使用して複数の異なる画像を3次元座標フレームに投影することによって生成される、ことを特徴とする請求項1乃至5の何れか1項に記載の方法。
- 道路網を走行する車両の地理的位置および向きを判定するシステムであって、
前記道路網を走行する前記車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
前記取得された画像及び前記関連するカメラ位置の少なくともいくつかを使用して、前記車両が走行している前記道路網のエリアを表すローカル地図表現を生成する手段と、
前記生成されたローカル地図表現を、地図レポジトリから抽出された基準地図のセクションと比較する手段であって、前記基準地図のセクションは、前記車両が走行している前記道路網の前記エリアをカバーする、前記比較する手段と、
前記比較に基づいて、前記道路網内の前記車両の前記地理的位置および向きを判定する手段と、
を備え、前記ローカル地図表現を生成する手段は、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理する手段であって、前記ランドマークオブジェクトは、前記道路網の前記環境におけるランドマークを表す、前記処理する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された画像から前記一連の画像のうちの1つ以上の隣接する画像にマッピングするための変換のセットを生成する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を、前記マッピングに基づいて生成する手段と、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定する手段と、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成する手段と、
を備えることを特徴とするシステム。 - 道路網の環境内の1つ以上のランドマークを識別するシステムであって、
前記道路網を走行する車両と関連付けられた1つ以上のカメラから、前記車両が走行している前記道路網の前記環境を反映する一連の画像を取得する手段であって、前記画像の各々は、前記画像が記録された関連するカメラ位置を有する、前記取得する手段と、
前記画像内の1つ以上のランドマークオブジェクトを検出するために前記画像の少なくともいくつかを処理する手段であって、前記ランドマークオブジェクトは、前記道路網の前記環境内のランドマークを表す、前記処理する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、前記画像の前記関連するカメラ位置を使用して、前記検出されたランドマークオブジェクトを、当該ランドマークオブジェクトが検出された前記画像から前記一連の画像のうちの1つ以上の隣接する画像にマッピングするための変換のセットを生成する手段と、
前記一連の画像の各画像において検出された各ランドマークオブジェクトについて、3次元座標空間における前記ランドマークオブジェクトの表現を、前記マッピングに基づいて生成する手段と、
前記環境内の同じランドマークに対応する異なる画像から生成された3次元表現のセットを判定する手段と、
3次元表現の前記判定されたセットから、3次元表現の前記セットによって表される前記環境内の前記ランドマークを示すデータを生成する手段と、
を備えることを特徴とするシステム。 - 1つ以上のプロセッサを備えるコンピューティングデバイスによって読み取られると、請求項1乃至5、9、10及び12の何れか1項に記載の方法に従って前記コンピューティングデバイスを動作させる命令を含むコンピュータプログラム。
- 請求項15に記載のコンピュータプログラムを有するコンピュータ可読媒体。
- 1つ以上のプロセッサを備えるコンピューティングデバイスによって読み取られると、請求項6乃至8、及び11の何れか1項に記載の方法に従って前記コンピューティングデバイスを動作させる命令を含むコンピュータプログラム。
- 請求項17に記載のコンピュータプログラムを有するコンピュータ可読媒体。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP16203258.5 | 2016-12-09 | ||
EP16203258 | 2016-12-09 | ||
GB1714381.9 | 2017-09-07 | ||
GBGB1714381.9A GB201714381D0 (en) | 2017-09-07 | 2017-09-07 | Sign tracking and tracing |
JP2019529215A JP7213809B2 (ja) | 2016-12-09 | 2017-12-11 | ビデオベースの位置決め及びマッピングの方法及びシステム |
PCT/EP2017/082293 WO2018104563A2 (en) | 2016-12-09 | 2017-12-11 | Method and system for video-based positioning and mapping |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019529215A Division JP7213809B2 (ja) | 2016-12-09 | 2017-12-11 | ビデオベースの位置決め及びマッピングの方法及びシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023022193A JP2023022193A (ja) | 2023-02-14 |
JP7485749B2 true JP7485749B2 (ja) | 2024-05-16 |
Family
ID=60888377
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019529215A Active JP7213809B2 (ja) | 2016-12-09 | 2017-12-11 | ビデオベースの位置決め及びマッピングの方法及びシステム |
JP2022189460A Active JP7485749B2 (ja) | 2016-12-09 | 2022-11-28 | ビデオベースの位置決め及びマッピングの方法及びシステム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019529215A Active JP7213809B2 (ja) | 2016-12-09 | 2017-12-11 | ビデオベースの位置決め及びマッピングの方法及びシステム |
Country Status (6)
Country | Link |
---|---|
US (3) | US11761790B2 (ja) |
EP (1) | EP3551967A2 (ja) |
JP (2) | JP7213809B2 (ja) |
KR (2) | KR20240005161A (ja) |
CN (2) | CN117824676A (ja) |
WO (1) | WO2018104563A2 (ja) |
Families Citing this family (205)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160291154A1 (en) * | 2015-04-01 | 2016-10-06 | Vayavision, Ltd. | Apparatus for acquiring 3-dimensional maps of a scene |
US10066946B2 (en) | 2016-08-26 | 2018-09-04 | Here Global B.V. | Automatic localization geometry detection |
JP7329298B2 (ja) * | 2016-10-11 | 2023-08-18 | モービルアイ ビジョン テクノロジーズ リミテッド | 検出された障壁に基づく車両のナビゲーション |
EP3343172B1 (en) * | 2017-01-03 | 2024-03-13 | iOnRoad Technologies Ltd. | Creation and use of enhanced maps |
DE112017006840B4 (de) * | 2017-01-16 | 2023-11-02 | Fujitsu Limited | Informationsverarbeitungsprogramm, Informationsverarbeitungsverfahren und Informationsverarbeitungsvorrichtung |
US10430968B2 (en) * | 2017-03-14 | 2019-10-01 | Ford Global Technologies, Llc | Vehicle localization using cameras |
CN109923488A (zh) * | 2017-04-27 | 2019-06-21 | 深圳市大疆创新科技有限公司 | 使用可移动物体生成实时地图的系统和方法 |
US10990829B2 (en) * | 2017-04-28 | 2021-04-27 | Micro Focus Llc | Stitching maps generated using simultaneous localization and mapping |
US11175146B2 (en) * | 2017-05-11 | 2021-11-16 | Anantak Robotics Inc. | Autonomously moving machine and method for operating an autonomously moving machine |
DE102017211607A1 (de) * | 2017-07-07 | 2019-01-10 | Robert Bosch Gmbh | Verfahren zur Verifizierung einer digitalen Karte eines höher automatisierten Fahrzeugs (HAF), insbesondere eines hochautomatisierten Fahrzeugs |
JP6838522B2 (ja) * | 2017-08-10 | 2021-03-03 | トヨタ自動車株式会社 | 画像収集システム、画像収集方法、画像収集装置、および記録媒体 |
DE102017214921A1 (de) * | 2017-08-25 | 2019-02-28 | Robert Bosch Gmbh | Mobiles Gerät, Server und Verfahren zum Aktualisieren und Bereitstellen einer hochgenauen Karte |
DE102017215718B4 (de) * | 2017-09-07 | 2019-06-13 | Audi Ag | Verfahren zum Auswerten eines optischen Erscheinungsbildes in einer Fahrzeugumgebung und Fahrzeug |
DE102017122440A1 (de) * | 2017-09-27 | 2019-03-28 | Valeo Schalter Und Sensoren Gmbh | Verfahren zum Lokalisieren und Weiterbilden einer digitalen Karte durch ein Kraftfahrzeug; Lokalisierungseinrichtung |
GB2568286B (en) | 2017-11-10 | 2020-06-10 | Horiba Mira Ltd | Method of computer vision based localisation and navigation and system for performing the same |
JP6932205B2 (ja) * | 2017-11-30 | 2021-09-08 | 三菱電機株式会社 | 三次元地図生成システム、三次元地図生成方法および三次元地図生成プログラム |
US11867522B2 (en) * | 2018-01-04 | 2024-01-09 | Pioneer Corporation | Map information-providing system, map information-providing method, and map information-providing program |
US10733470B2 (en) * | 2018-01-25 | 2020-08-04 | Geomni, Inc. | Systems and methods for rapid alignment of digital imagery datasets to models of structures |
US11365976B2 (en) * | 2018-03-02 | 2022-06-21 | Nvidia Corporation | Semantic label based filtering of objects in an image generated from high definition map data |
US11093759B2 (en) * | 2018-03-06 | 2021-08-17 | Here Global B.V. | Automatic identification of roadside objects for localization |
US11537139B2 (en) | 2018-03-15 | 2022-12-27 | Nvidia Corporation | Determining drivable free-space for autonomous vehicles |
US11087492B2 (en) * | 2018-03-21 | 2021-08-10 | ISVision America | Methods for identifying location of automated guided vehicles on a mapped substrate |
US10969237B1 (en) * | 2018-03-23 | 2021-04-06 | Apple Inc. | Distributed collection and verification of map information |
DE112019002126T5 (de) * | 2018-04-26 | 2021-01-07 | Sony Corporation | Positionsschätzungsvorrichtung, positionsschätzungsverfahren und programm dafür |
KR102420568B1 (ko) * | 2018-04-27 | 2022-07-13 | 삼성전자주식회사 | 차량의 위치를 결정하는 방법 및 이를 위한 차량 |
US11334753B2 (en) * | 2018-04-30 | 2022-05-17 | Uatc, Llc | Traffic signal state classification for autonomous vehicles |
WO2019241782A1 (en) * | 2018-06-16 | 2019-12-19 | Artisense Corporation | Deep virtual stereo odometry |
WO2020006667A1 (en) | 2018-07-02 | 2020-01-09 | Beijing DIDI Infinity Technology and Development Co., Ltd | Vehicle navigation system using pose estimation based on point cloud |
WO2020008221A1 (ja) * | 2018-07-04 | 2020-01-09 | 日産自動車株式会社 | 走行支援方法及び走行支援装置 |
US11068627B2 (en) * | 2018-08-09 | 2021-07-20 | Zoox, Inc. | Procedural world generation |
CN109063163B (zh) * | 2018-08-14 | 2022-12-02 | 腾讯科技(深圳)有限公司 | 一种音乐推荐的方法、装置、终端设备和介质 |
US10810466B2 (en) * | 2018-08-23 | 2020-10-20 | Fuji Xerox Co., Ltd. | Method for location inference from map images |
CN109141444B (zh) * | 2018-08-28 | 2019-12-06 | 北京三快在线科技有限公司 | 定位方法、装置、存储介质及移动设备 |
CN109285220B (zh) * | 2018-08-30 | 2022-11-15 | 阿波罗智能技术(北京)有限公司 | 一种三维场景地图的生成方法、装置、设备及存储介质 |
KR102233260B1 (ko) * | 2018-10-02 | 2021-03-29 | 에스케이텔레콤 주식회사 | 정밀 지도 업데이트 장치 및 방법 |
WO2020078572A1 (en) * | 2018-10-19 | 2020-04-23 | Harman Becker Automotive Systems Gmbh | Global map creation using fleet trajectories and observations |
CN109544559B (zh) * | 2018-10-19 | 2022-07-08 | 深圳大学 | 图像语义分割方法、装置、计算机设备和存储介质 |
US11182607B2 (en) * | 2018-10-26 | 2021-11-23 | Here Global B.V. | Method, apparatus, and system for determining a ground control point from image data using machine learning |
GB201818357D0 (en) * | 2018-11-12 | 2018-12-26 | Forsberg Services Ltd | Locating system |
US11003920B2 (en) * | 2018-11-13 | 2021-05-11 | GM Global Technology Operations LLC | Detection and planar representation of three dimensional lanes in a road scene |
DE102018219602A1 (de) * | 2018-11-15 | 2020-05-20 | Robert Bosch Gmbh | Verfahren zum Erkennen von Kartenfehlern |
CN111256693B (zh) * | 2018-12-03 | 2022-05-13 | 北京魔门塔科技有限公司 | 一种计算位姿变化方法及车载终端 |
US11188765B2 (en) * | 2018-12-04 | 2021-11-30 | Here Global B.V. | Method and apparatus for providing real time feature triangulation |
EP3667236B1 (en) * | 2018-12-13 | 2023-09-06 | Ordnance Survey Limited | A method of determining position data |
TWI682361B (zh) * | 2018-12-14 | 2020-01-11 | 財團法人工業技術研究院 | 路面影像重建與載具定位之方法與系統 |
US11030457B2 (en) | 2018-12-17 | 2021-06-08 | Here Global B.V. | Lane feature detection in aerial images based on road geometry |
DE102018222169A1 (de) * | 2018-12-18 | 2020-06-18 | Eidgenössische Technische Hochschule Zürich | Bordeigenes visuelles Ermitteln kinematischer Messgrößen eines Schienenfahrzeugs |
US10922558B2 (en) | 2018-12-20 | 2021-02-16 | Here Global B.V. | Method and apparatus for localization using search space pruning |
US11790667B2 (en) | 2018-12-20 | 2023-10-17 | Here Global B.V. | Method and apparatus for localization using search space pruning |
DE102018133441A1 (de) | 2018-12-21 | 2020-06-25 | Volkswagen Aktiengesellschaft | Verfahren und System zum Bestimmen von Landmarken in einer Umgebung eines Fahrzeugs |
US10955841B2 (en) * | 2018-12-28 | 2021-03-23 | At&T Intellectual Property I, L.P. | Autonomous vehicle sensor security system |
US11798293B2 (en) * | 2018-12-28 | 2023-10-24 | Sony Group Corporation | Optical vehicle positioning |
US11675083B2 (en) * | 2019-01-03 | 2023-06-13 | Nvidia Corporation | Removal of ephemeral points from point cloud of a high-definition map for navigating autonomous vehicles |
CN112005079B (zh) * | 2019-01-03 | 2022-08-09 | 北京嘀嘀无限科技发展有限公司 | 用于更新高清地图的系统和方法 |
US10823562B1 (en) * | 2019-01-10 | 2020-11-03 | State Farm Mutual Automobile Insurance Company | Systems and methods for enhanced base map generation |
KR102604298B1 (ko) * | 2019-01-28 | 2023-11-17 | 에스케이텔레콤 주식회사 | 랜드마크 위치 추정 장치와 방법 및 이러한 방법을 수행하도록 프로그램된 컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능한 기록매체 |
JP7086111B2 (ja) * | 2019-01-30 | 2022-06-17 | バイドゥドットコム タイムズ テクノロジー (ベイジン) カンパニー リミテッド | 自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法 |
CN112654836A (zh) * | 2019-02-04 | 2021-04-13 | 御眼视觉技术有限公司 | 用于车辆导航的系统和方法 |
EP3693702A1 (en) * | 2019-02-05 | 2020-08-12 | Visteon Global Technologies, Inc. | Method for localizing a vehicle |
GB2622490A (en) * | 2019-02-14 | 2024-03-20 | Mobileye Vision Technologies Ltd | Systems and methods for vehicle navigation |
US11648945B2 (en) | 2019-03-11 | 2023-05-16 | Nvidia Corporation | Intersection detection and classification in autonomous machine applications |
CN110084095B (zh) * | 2019-03-12 | 2022-03-25 | 浙江大华技术股份有限公司 | 车道线检测方法、车道线检测装置和计算机存储介质 |
US11402220B2 (en) | 2019-03-13 | 2022-08-02 | Here Global B.V. | Maplets for maintaining and updating a self-healing high definition map |
US11287267B2 (en) | 2019-03-13 | 2022-03-29 | Here Global B.V. | Maplets for maintaining and updating a self-healing high definition map |
US11255680B2 (en) | 2019-03-13 | 2022-02-22 | Here Global B.V. | Maplets for maintaining and updating a self-healing high definition map |
US11096026B2 (en) | 2019-03-13 | 2021-08-17 | Here Global B.V. | Road network change detection and local propagation of detected change |
US11287266B2 (en) | 2019-03-13 | 2022-03-29 | Here Global B.V. | Maplets for maintaining and updating a self-healing high definition map |
US11280622B2 (en) | 2019-03-13 | 2022-03-22 | Here Global B.V. | Maplets for maintaining and updating a self-healing high definition map |
JP7245084B2 (ja) * | 2019-03-15 | 2023-03-23 | 日立Astemo株式会社 | 自動運転システム |
US11199415B2 (en) * | 2019-03-26 | 2021-12-14 | Lyft, Inc. | Systems and methods for estimating vehicle position based on contextual sensor information |
US11972507B2 (en) * | 2019-04-03 | 2024-04-30 | Nanjing Polagis Technology Co. Ltd | Orthophoto map generation method based on panoramic map |
DE102019206036A1 (de) | 2019-04-26 | 2020-10-29 | Volkswagen Aktiengesellschaft | Verfahren und Vorrichtung zur Bestimmung der geografischen Position und Orientierung eines Fahrzeugs |
US11176374B2 (en) * | 2019-05-01 | 2021-11-16 | Microsoft Technology Licensing, Llc | Deriving information from images |
DE102019206336A1 (de) * | 2019-05-03 | 2020-11-05 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Erstellen einer ersten Karte |
CN110110787A (zh) * | 2019-05-06 | 2019-08-09 | 腾讯科技(深圳)有限公司 | 目标的位置获取方法、装置、计算机设备及存储介质 |
WO2020224761A1 (en) * | 2019-05-06 | 2020-11-12 | Zenuity Ab | Automated map making and positioning |
US11657072B2 (en) | 2019-05-16 | 2023-05-23 | Here Global B.V. | Automatic feature extraction from imagery |
US11295161B2 (en) * | 2019-05-22 | 2022-04-05 | Zoox, Inc. | Localization using semantically segmented images |
US10854012B1 (en) * | 2019-05-29 | 2020-12-01 | Dell Products, L.P. | Concealing loss of distributed simultaneous localization and mapping (SLAM) data in edge cloud architectures |
CN112069856A (zh) * | 2019-06-10 | 2020-12-11 | 商汤集团有限公司 | 地图生成方法、驾驶控制方法、装置、电子设备及系统 |
US11468591B2 (en) * | 2019-06-13 | 2022-10-11 | Nec Corporation | Scene attribute annotation of complex road typographies |
US11727272B2 (en) | 2019-06-19 | 2023-08-15 | Nvidia Corporation | LIDAR-based detection of traffic signs for navigation of autonomous vehicles |
KR102209655B1 (ko) * | 2019-06-21 | 2021-01-29 | 경북대학교 산학협력단 | 이동체를 제어하기 위한 주변 객체 검출 장치 및 방법 |
US11549815B2 (en) * | 2019-06-28 | 2023-01-10 | GM Cruise Holdings LLC. | Map change detection |
GB201909556D0 (en) | 2019-07-03 | 2019-08-14 | Tomtom Traffic Bv | Collecting user-contributed data relating to a navibable network |
US11549816B2 (en) * | 2019-07-31 | 2023-01-10 | Here Global B.V. | Systems and methods for controlling mapping information inaccuracies |
CN112307848B (zh) * | 2019-08-01 | 2024-04-30 | 惠普发展公司,有限责任合伙企业 | 检测视频会议中的欺骗说话者 |
TWI712993B (zh) * | 2019-08-19 | 2020-12-11 | 國立雲林科技大學 | 應用於半特徵視覺式同步定位與建圖方法的半特徵視覺里程計 |
CN112446915B (zh) * | 2019-08-28 | 2024-03-29 | 北京初速度科技有限公司 | 一种基于图像组的建图方法及装置 |
DE112020004139T5 (de) * | 2019-08-31 | 2022-05-12 | Nvidia Corporation | Erstellung von karten und lokalisierung für anwendungen im bereich des autonomen fahrens |
EP4026049A4 (en) * | 2019-09-05 | 2022-11-02 | Netradyne, Inc. | VEHICLE SENSOR SYSTEM CALIBRATION |
CN111936946A (zh) * | 2019-09-10 | 2020-11-13 | 北京航迹科技有限公司 | 一种定位系统和方法 |
US10762650B1 (en) * | 2019-09-13 | 2020-09-01 | Toyota Motor Engineering & Manufacturing North America, Inc. | System and method for estimating depth using a monocular camera |
GB201914100D0 (en) | 2019-09-30 | 2019-11-13 | Tomtom Global Int B V | Methods and systems using digital map data |
US11062455B2 (en) | 2019-10-01 | 2021-07-13 | Volvo Car Corporation | Data filtering of image stacks and video streams |
WO2021069967A1 (en) * | 2019-10-08 | 2021-04-15 | Mobileye Vision Technologies Ltd. | Systems and methods for vehicle navigation |
JP7327077B2 (ja) * | 2019-10-18 | 2023-08-16 | トヨタ自動車株式会社 | 路上障害物検知装置、路上障害物検知方法、及び路上障害物検知プログラム |
KR102255595B1 (ko) * | 2019-10-23 | 2021-05-26 | 국민대학교산학협력단 | 사용자 관점의 자율주행 정보 제공 장치 및 방법 |
JP2022553805A (ja) * | 2019-11-04 | 2022-12-26 | クリアモーション,インコーポレイテッド | 複車線道路の特徴付け及び追跡アルゴリズム |
WO2021095361A1 (ja) * | 2019-11-11 | 2021-05-20 | 株式会社デンソー | 演算装置および学習済みモデル |
KR102322000B1 (ko) * | 2019-11-12 | 2021-11-04 | 네이버랩스 주식회사 | 비주얼 로컬리제이션과 오도메트리를 기반으로 한 경로 추적 방법 및 시스템 |
US11455813B2 (en) * | 2019-11-14 | 2022-09-27 | Nec Corporation | Parametric top-view representation of complex road scenes |
US11755917B2 (en) * | 2019-11-15 | 2023-09-12 | Waymo Llc | Generating depth from camera images and known depth data using neural networks |
CN112837393B (zh) * | 2019-11-22 | 2024-04-09 | 中国航天系统工程有限公司 | 基于车辆位置数据的特大城市矢量路网的生成方法及系统 |
US10928830B1 (en) * | 2019-11-23 | 2021-02-23 | Ha Q Tran | Smart vehicle |
US10867190B1 (en) | 2019-11-27 | 2020-12-15 | Aimotive Kft. | Method and system for lane detection |
WO2021106388A1 (ja) * | 2019-11-29 | 2021-06-03 | ソニー株式会社 | 情報処理装置、情報処理方法および情報処理プログラム |
CN112989900A (zh) * | 2019-12-13 | 2021-06-18 | 深动科技(北京)有限公司 | 一种精确检测交通标志或标线的方法 |
DE102020200572A1 (de) * | 2019-12-18 | 2021-06-24 | Conti Temic Microelectronic Gmbh | Verfahren zur verbesserten Erkennung von Landmarken und Fußgängern |
US11681047B2 (en) | 2019-12-19 | 2023-06-20 | Argo AI, LLC | Ground surface imaging combining LiDAR and camera data |
GB201918932D0 (en) | 2019-12-20 | 2020-02-05 | Tomtom Traffic Bv | Methods of generating and transmitting positional data |
TWI725681B (zh) * | 2019-12-24 | 2021-04-21 | 財團法人工業技術研究院 | 無人載具語意地圖建置系統及其建置方法 |
US11037328B1 (en) | 2019-12-31 | 2021-06-15 | Lyft, Inc. | Overhead view image generation |
US11244500B2 (en) | 2019-12-31 | 2022-02-08 | Woven Planet North America, Inc. | Map feature extraction using overhead view images |
US20210199446A1 (en) * | 2019-12-31 | 2021-07-01 | Lyft, Inc. | Overhead view image generation |
US11288522B2 (en) | 2019-12-31 | 2022-03-29 | Woven Planet North America, Inc. | Generating training data from overhead view images |
US20210200237A1 (en) * | 2019-12-31 | 2021-07-01 | Lyft, Inc. | Feature coverage analysis |
US20230175852A1 (en) * | 2020-01-03 | 2023-06-08 | Mobileye Vision Technologies Ltd. | Navigation systems and methods for determining object dimensions |
CN111274974B (zh) * | 2020-01-21 | 2023-09-01 | 阿波罗智能技术(北京)有限公司 | 定位元素检测方法、装置、设备和介质 |
US20210237774A1 (en) * | 2020-01-31 | 2021-08-05 | Toyota Research Institute, Inc. | Self-supervised 3d keypoint learning for monocular visual odometry |
US11579622B2 (en) * | 2020-01-31 | 2023-02-14 | Amazon Technologies, Inc. | Systems and methods for utilizing images to determine the position and orientation of a vehicle |
CN111383286B (zh) * | 2020-02-11 | 2023-10-27 | 北京迈格威科技有限公司 | 定位方法、装置、电子设备及可读存储介质 |
JP2021136466A (ja) * | 2020-02-21 | 2021-09-13 | ヤマハ発動機株式会社 | 船舶の操船のためのシステム、方法、および船舶 |
DE102020202267A1 (de) | 2020-02-21 | 2021-09-23 | Denso Corporation | Verfahrenspositionsbestimmung von Fahrzeugen und Vorrichtung zur Ausführung des Verfahrens |
US11518402B2 (en) | 2020-02-28 | 2022-12-06 | Nissan North America, Inc. | System and method for controlling a vehicle using contextual navigation assistance |
US11731639B2 (en) * | 2020-03-03 | 2023-08-22 | GM Global Technology Operations LLC | Method and apparatus for lane detection on a vehicle travel surface |
SE2050258A1 (en) * | 2020-03-06 | 2021-09-07 | Scania Cv Ab | Machine learning based system, methods, and control arrangement for positioning of an agent |
US20230004797A1 (en) * | 2020-03-10 | 2023-01-05 | Sri International | Physics-guided deep multimodal embeddings for task-specific data exploitation |
CN113435227B (zh) * | 2020-03-23 | 2023-04-07 | 阿里巴巴集团控股有限公司 | 地图生成及车辆定位方法、系统、设备及存储介质 |
CN111427373B (zh) * | 2020-03-24 | 2023-11-24 | 上海商汤临港智能科技有限公司 | 一种位姿确定方法、装置、介质和设备 |
US11682297B2 (en) | 2020-03-31 | 2023-06-20 | Flir Systems Trading Belgium Bvba | Real-time scene mapping to GPS coordinates in traffic sensing or monitoring systems and methods |
CN111144388B (zh) * | 2020-04-03 | 2020-07-14 | 速度时空信息科技股份有限公司 | 一种基于单目影像的道路标志标线的更新方法 |
US11994408B2 (en) | 2020-04-14 | 2024-05-28 | Toyota Research Institute, Inc. | Incremental map building using learnable features and descriptors |
US11232582B2 (en) | 2020-04-21 | 2022-01-25 | Here Global B.V. | Visual localization using a three-dimensional model and image segmentation |
WO2021212294A1 (en) * | 2020-04-21 | 2021-10-28 | Beijing Didi Infinity Technology And Development Co., Ltd. | Systems and methods for determining a two-dimensional map |
CN111553244B (zh) * | 2020-04-24 | 2023-05-26 | 中国电建集团成都勘测设计研究院有限公司 | 基于自动定位定向技术的水土保持监测方法 |
DE102020112482A1 (de) | 2020-05-08 | 2021-11-11 | Car.Software Estonia As | Verfahren und Vorrichtung zum Bestimmen einer Position eines Fahrzeugs in einem Straßennetzwerk |
US11551363B2 (en) * | 2020-06-04 | 2023-01-10 | Toyota Research Institute, Inc. | Systems and methods for self-supervised residual flow estimation |
WO2021252925A1 (en) * | 2020-06-12 | 2021-12-16 | University Of Central Florida Research Foundation, Inc. | Cooperative lidar object detection via feature sharing in deep networks |
CN113806380B (zh) * | 2020-06-16 | 2024-01-26 | 财团法人车辆研究测试中心 | 路口动态图像资源更新共享系统及方法 |
US11682124B2 (en) * | 2020-06-29 | 2023-06-20 | Lytt, inc. | Systems and methods for transferring map data between different maps |
US11972576B2 (en) * | 2020-06-30 | 2024-04-30 | Lyft, Inc. | Generating and fusing reconstructions using overlapping map segments |
US11691648B2 (en) * | 2020-07-24 | 2023-07-04 | SafeAI, Inc. | Drivable surface identification techniques |
US20220042817A1 (en) * | 2020-08-04 | 2022-02-10 | Toyota Research Institute, Inc. | Systems and methods for map verification |
SG10202007811QA (en) * | 2020-08-14 | 2021-11-29 | Grabtaxi Holdings Pte Ltd | Method and device for generating map data |
CN111950561A (zh) * | 2020-08-25 | 2020-11-17 | 桂林电子科技大学 | 一种基于语义分割的剔除语义slam动态点的方法 |
US11550068B2 (en) * | 2020-08-29 | 2023-01-10 | Google Llc | Modeling mutable environmental structures |
US11508080B2 (en) * | 2020-09-15 | 2022-11-22 | Toyota Research Institute, Inc. | Systems and methods for generic visual odometry using learned features via neural camera models |
US11860304B2 (en) * | 2020-10-01 | 2024-01-02 | Huawei Technologies Co., Ltd. | Method and system for real-time landmark extraction from a sparse three-dimensional point cloud |
DE102020212771A1 (de) | 2020-10-09 | 2022-05-05 | Zf Friedrichshafen Ag | Computerimplementiertes Verfahren und Computerprogramm zur Trajektorienplanung für ein automatisiertes System und Rechensystem eingebettet in ein automatisiertes System zur Trajektorienplanung und/oder Regelung und/oder Steuerung |
US11623661B2 (en) * | 2020-10-12 | 2023-04-11 | Zoox, Inc. | Estimating ground height based on lidar data |
US11976939B2 (en) * | 2020-10-12 | 2024-05-07 | Nvidia Corporation | High-definition maps and localization for road vehicles |
KR102289752B1 (ko) * | 2020-10-13 | 2021-08-13 | 주식회사 스페이스소프트인더스트리 | Gps 음영 지역에서 경로 비행을 수행하는 드론 및 그 방법 |
US11189049B1 (en) | 2020-10-16 | 2021-11-30 | Ford Global Technologies, Llc | Vehicle neural network perception and localization |
CN112364822B (zh) * | 2020-11-30 | 2022-08-19 | 重庆电子工程职业学院 | 一种自动驾驶视频语义分割系统及方法 |
KR102467858B1 (ko) * | 2020-12-02 | 2022-11-17 | 서울대학교산학협력단 | 영상 기반의 협력적 동시 측위 및 지도 작성 시스템 및 방법 |
KR102633705B1 (ko) * | 2020-12-03 | 2024-02-06 | 재단법인대구경북과학기술원 | 자율주행을 위한 차량의 위치추정 장치 및 방법 |
US11670088B2 (en) | 2020-12-07 | 2023-06-06 | Ford Global Technologies, Llc | Vehicle neural network localization |
DE102020215461A1 (de) * | 2020-12-08 | 2022-06-09 | Robert Bosch Gesellschaft mit beschränkter Haftung | Vorrichtung und Verfahren zum Trainieren eines Bildgenerators |
CN112560684B (zh) * | 2020-12-16 | 2023-10-24 | 阿波罗智联(北京)科技有限公司 | 车道线检测方法、装置、电子设备、存储介质以及车辆 |
JP7406480B2 (ja) | 2020-12-18 | 2023-12-27 | 株式会社豊田中央研究所 | 地図生成装置、地図生成方法、およびコンピュータプログラム |
DE102020134119B3 (de) * | 2020-12-18 | 2021-12-23 | Audi Aktiengesellschaft | Verfahren zur Lokalisierung eines Kraftfahrzeugs in einer Assistenzkarte, Kraftfahrzeug, Computerprogramm und elektronisch lesbarer Datenträger |
US11776281B2 (en) | 2020-12-22 | 2023-10-03 | Toyota Research Institute, Inc. | Systems and methods for traffic light detection and classification |
CN112328730B (zh) * | 2021-01-04 | 2021-04-02 | 腾讯科技(深圳)有限公司 | 一种地图数据更新的方法、相关装置、设备及存储介质 |
CN112686197B (zh) * | 2021-01-07 | 2022-08-19 | 腾讯科技(深圳)有限公司 | 一种数据处理方法和相关装置 |
EP4027112A1 (en) * | 2021-01-11 | 2022-07-13 | Aptiv Technologies Limited | Methods and system for determining a location of an object |
US11747164B2 (en) * | 2021-01-13 | 2023-09-05 | GM Global Technology Operations LLC | Methods for multi-dimensional lane matching for autonomous vehicle localization |
CN112818866B (zh) * | 2021-02-02 | 2023-11-07 | 苏州挚途科技有限公司 | 车辆定位的方法、装置及电子设备 |
US11514685B2 (en) | 2021-02-17 | 2022-11-29 | Toyota Research Institute, Inc. | End-to-end signalized intersection transition state estimator with scene graphs over semantic keypoints |
WO2022186256A1 (ja) * | 2021-03-04 | 2022-09-09 | 株式会社ソシオネクスト | マップ情報更新方法 |
JP2022137534A (ja) * | 2021-03-09 | 2022-09-22 | 本田技研工業株式会社 | 地図生成装置および車両位置認識装置 |
WO2022208664A1 (ja) * | 2021-03-30 | 2022-10-06 | 日本電気株式会社 | 画像処理装置、画像処理方法、プログラム |
WO2022226529A1 (en) * | 2021-04-22 | 2022-10-27 | Continental Automotive Systems, Inc. | Distributed multi-vehicle localization for gps-denied environments |
DE102021111325A1 (de) | 2021-05-03 | 2022-11-03 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren und Assistenzeinrichtung zum Unterstützen eines Fahrbetriebs eines Kraftfahrzeugs und Kraftfahrzeug |
DE102021205852A1 (de) | 2021-06-10 | 2022-12-15 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren und Vorrichtung zum Bereitstellen von Konturdaten hinsichtlich einer Oberflächenkontur einer durch ein Fahrzeug befahrenen Fahrbahnoberfläche und Verfahren und Vorrichtung zum Steuern eines Betriebs eines Fahrzeugs |
EP4105818A1 (en) * | 2021-06-18 | 2022-12-21 | Continental Autonomous Mobility Germany GmbH | Method and system for estimating road lane geometry |
JP2023017704A (ja) * | 2021-06-24 | 2023-02-07 | オートブレインズ・テクノロジーズ・リミテッド | 航空画像に基づく車両環境マップの取得 |
DE102021208525A1 (de) | 2021-08-05 | 2023-02-09 | Volkswagen Aktiengesellschaft | Verfahren und Kartenerzeugungseinrichtung für ein Fahrzeug zur Erzeugung einer hochauflösenden Karte einer Bodenfläche in einem Fahrzeugumfeld |
KR102362702B1 (ko) * | 2021-08-30 | 2022-02-14 | 주식회사 무한정보기술 | 개인의 자가차량을 이용한 도로주변 영상 촬영 매칭 서비스 시스템 및 서비스 제공 방법 |
DE102021209786A1 (de) * | 2021-09-06 | 2023-03-09 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Positionieren einer Kartendarstellung eines Umfelds eines Fahrzeugs in einer semantischen Straßenkarte |
KR102487408B1 (ko) * | 2021-09-07 | 2023-01-12 | 포티투닷 주식회사 | 로컬맵에 기초한 차량의 라우팅 경로 결정 장치, 방법 및 이를 기록한 기록매체 |
DE102021210568A1 (de) * | 2021-09-23 | 2023-03-23 | Robert Bosch Gesellschaft mit beschränkter Haftung | Prüfung einer digitalen Straßenkarte auf lokale Plausibilität |
US20230094695A1 (en) * | 2021-09-24 | 2023-03-30 | Argo AI, LLC | Visual localization against a prior map |
US20230099494A1 (en) * | 2021-09-29 | 2023-03-30 | Nvidia Corporation | Assigning obstacles to lanes using neural networks for autonomous machine applications |
US20230109164A1 (en) * | 2021-10-05 | 2023-04-06 | Transportation Ip Holdings, Llc | System and method for vehicle-based localizing of offboard features |
WO2023073428A1 (en) * | 2021-10-28 | 2023-05-04 | Mobileye Vision Technologies Ltd. | Stereo-assist network for determining an object's location |
JP2023066897A (ja) * | 2021-10-29 | 2023-05-16 | 株式会社豊田自動織機 | 自律走行車、及び自律走行車の制御装置 |
DE102021213147A1 (de) | 2021-11-23 | 2023-05-25 | Volkswagen Aktiengesellschaft | Verfahren, Servereinrichtung und Kraftfahrzeug zum automatischen abschnittweisen Kartieren eines Umgebungsbereichs |
US11790604B2 (en) * | 2021-12-14 | 2023-10-17 | Gm Cruise Holdings Llc | Mapping data to generate simulation road paint geometry |
US20230196608A1 (en) * | 2021-12-16 | 2023-06-22 | Here Global B.V. | Method and apparatus for improving localization of a device |
US20230194305A1 (en) * | 2021-12-22 | 2023-06-22 | Eduardo Jose Ramirez Llanos | Mapping for autonomous vehicle parking |
DE102022102567A1 (de) | 2022-02-03 | 2023-08-03 | Cariad Se | Verfahren und Prozessorschaltung zum Lokalisieren eines Kraftfahrzeugs in einer Umgebung während einer Fahrt sowie entsprechend ausgestattetes Kraftfahrzeug |
CN114724407B (zh) * | 2022-03-25 | 2023-05-30 | 中电达通数据技术股份有限公司 | 一种道路拟合中基于多数据源的正确车道识别方法 |
WO2023191810A1 (en) * | 2022-04-01 | 2023-10-05 | Innopeak Technology, Inc. | Map tile based slam |
WO2023194759A2 (en) * | 2022-04-08 | 2023-10-12 | Commsignia Kft. | Method for assembling a local high-definition map, system for using map data, computer program product and computer readable medium for implementing the method |
JP2023159484A (ja) * | 2022-04-20 | 2023-11-01 | キヤノン株式会社 | 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム |
CN114670753B (zh) * | 2022-04-21 | 2023-10-10 | 广州优创电子有限公司 | 一种基于adas系统的电子外后视镜独立显示屏切换系统 |
CN114577225B (zh) * | 2022-04-28 | 2022-07-22 | 北京百度网讯科技有限公司 | 一种地图绘制方法、装置、电子设备和存储介质 |
DE102022207370A1 (de) | 2022-07-19 | 2024-01-25 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Erkennen einer fehlerhaften Karte einer Umgebung |
WO2024043772A1 (en) * | 2022-08-23 | 2024-02-29 | Samsung Electronics Co., Ltd. | Method and electronic device for determining relative position of one or more objects in image |
CN115265561A (zh) * | 2022-09-27 | 2022-11-01 | 小米汽车科技有限公司 | 车辆定位方法、装置、车辆及介质 |
CN116109657B (zh) * | 2023-02-16 | 2023-07-07 | 航科院中宇(北京)新技术发展有限公司 | 地理信息数据采集处理方法、系统、电子设备及存储介质 |
CN115994985B (zh) * | 2023-03-24 | 2023-07-04 | 常州星宇车灯股份有限公司 | 一种汽车域控制器及通勤道路上车辆自动建图和定位方法 |
CN116433756B (zh) * | 2023-06-15 | 2023-08-18 | 浪潮智慧科技有限公司 | 一种单目相机的地表物体空间分析方法、设备及介质 |
CN117894181B (zh) * | 2024-03-14 | 2024-05-07 | 北京动视元科技有限公司 | 一种全域通行异常状况集成监测方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005265494A (ja) | 2004-03-17 | 2005-09-29 | Hitachi Ltd | 車両位置推定装置およびこれを用いた運転支援装置 |
JP2006330908A (ja) | 2005-05-24 | 2006-12-07 | Toyota Motor Corp | 位置記録装置及び位置記録方法 |
JP2014194625A (ja) | 2013-03-28 | 2014-10-09 | Fujitsu Ltd | 目視確認評価装置、方法及びプログラム |
US20150332104A1 (en) | 2014-05-14 | 2015-11-19 | Mobileye Vision Technologies Ltd. | Systems and methods for detecting traffic signs |
JP2016180980A (ja) | 2015-03-23 | 2016-10-13 | 株式会社豊田中央研究所 | 情報処理装置、プログラム、及び地図データ更新システム |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5144685A (en) * | 1989-03-31 | 1992-09-01 | Honeywell Inc. | Landmark recognition for autonomous mobile robots |
JP2004045051A (ja) * | 2002-07-08 | 2004-02-12 | Matsushita Electric Ind Co Ltd | 情報処理装置および情報処理システム |
KR20040091788A (ko) * | 2003-04-22 | 2004-11-02 | 현대자동차주식회사 | 고속도로 자율주행 시스템 및 그의 제어방법 |
WO2005038402A1 (ja) * | 2003-10-21 | 2005-04-28 | Waro Iwane | ナビゲーション装置 |
US7925049B2 (en) * | 2006-08-15 | 2011-04-12 | Sri International | Stereo-based visual odometry method and system |
US8351704B2 (en) | 2007-10-02 | 2013-01-08 | Tomtom Global Content B.V. | Method of capturing linear features along a reference-line across a surface for use in a map database |
CA2712673A1 (en) * | 2008-02-04 | 2009-08-13 | Tele Atlas North America Inc. | Method for map matching with sensor detected objects |
GB0822893D0 (en) * | 2008-12-16 | 2009-01-21 | Tele Atlas Bv | Advanced speed profiles - Further updates |
RU2011128379A (ru) * | 2008-12-09 | 2013-01-20 | Томтом Норт Америка, Инк. | Способ генерации продукта геодезической справочной базы данных |
EP2214122B1 (en) * | 2009-02-03 | 2013-07-17 | Harman Becker Automotive Systems GmbH | Methods and devices for assisting a vehicle driver |
KR101100827B1 (ko) * | 2009-11-30 | 2012-01-02 | 한국생산기술연구원 | 도로주행 로봇의 자기 위치 인식방법 |
US8494285B2 (en) * | 2010-12-09 | 2013-07-23 | The Hong Kong University Of Science And Technology | Joint semantic segmentation of images and scan data |
US8873812B2 (en) * | 2012-08-06 | 2014-10-28 | Xerox Corporation | Image segmentation using hierarchical unsupervised segmentation and hierarchical classifiers |
US9036865B2 (en) * | 2012-09-12 | 2015-05-19 | International Business Machines Corporation | Location determination for an object using visual data |
US20150092048A1 (en) * | 2013-09-27 | 2015-04-02 | Qualcomm Incorporated | Off-Target Tracking Using Feature Aiding in the Context of Inertial Navigation |
GB201318049D0 (en) * | 2013-10-11 | 2013-11-27 | Tomtom Int Bv | Apparatus and methods of displaying navigation instructions |
US9342888B2 (en) | 2014-02-08 | 2016-05-17 | Honda Motor Co., Ltd. | System and method for mapping, localization and pose correction of a vehicle based on images |
US9996976B2 (en) * | 2014-05-05 | 2018-06-12 | Avigilon Fortress Corporation | System and method for real-time overlay of map features onto a video feed |
JP6395481B2 (ja) * | 2014-07-11 | 2018-09-26 | キヤノン株式会社 | 画像認識装置、方法及びプログラム |
CA2976344A1 (en) * | 2015-02-10 | 2016-08-18 | Mobileye Vision Technologies Ltd. | Sparse map for autonomous vehicle navigation |
US9891057B2 (en) * | 2015-03-23 | 2018-02-13 | Kabushiki Kaisha Toyota Chuo Kenkyusho | Information processing device, computer readable storage medium, and map data updating system |
WO2016195698A1 (en) * | 2015-06-05 | 2016-12-08 | Siemens Aktiengesellschaft | Method and system for simultaneous scene parsing and model fusion for endoscopic and laparoscopic navigation |
CN106327469B (zh) * | 2015-06-29 | 2019-06-18 | 北京航空航天大学 | 一种语义标签引导的视频对象分割方法 |
US10948302B2 (en) | 2015-08-03 | 2021-03-16 | Tomtom Global Content B.V. | Methods and systems for generating and using localization reference data |
-
2017
- 2017-12-11 EP EP17822598.3A patent/EP3551967A2/en active Pending
- 2017-12-11 KR KR1020237044352A patent/KR20240005161A/ko not_active Application Discontinuation
- 2017-12-11 WO PCT/EP2017/082293 patent/WO2018104563A2/en unknown
- 2017-12-11 JP JP2019529215A patent/JP7213809B2/ja active Active
- 2017-12-11 CN CN202410012160.1A patent/CN117824676A/zh active Pending
- 2017-12-11 KR KR1020197019960A patent/KR102618443B1/ko active IP Right Grant
- 2017-12-11 CN CN201780075225.5A patent/CN110062871B/zh active Active
- 2017-12-11 US US16/467,977 patent/US11761790B2/en active Active
-
2022
- 2022-11-28 JP JP2022189460A patent/JP7485749B2/ja active Active
- 2022-12-26 US US18/088,710 patent/US11835358B2/en active Active
-
2023
- 2023-12-03 US US18/527,317 patent/US20240167844A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005265494A (ja) | 2004-03-17 | 2005-09-29 | Hitachi Ltd | 車両位置推定装置およびこれを用いた運転支援装置 |
JP2006330908A (ja) | 2005-05-24 | 2006-12-07 | Toyota Motor Corp | 位置記録装置及び位置記録方法 |
JP2014194625A (ja) | 2013-03-28 | 2014-10-09 | Fujitsu Ltd | 目視確認評価装置、方法及びプログラム |
US20150332104A1 (en) | 2014-05-14 | 2015-11-19 | Mobileye Vision Technologies Ltd. | Systems and methods for detecting traffic signs |
JP2016180980A (ja) | 2015-03-23 | 2016-10-13 | 株式会社豊田中央研究所 | 情報処理装置、プログラム、及び地図データ更新システム |
Also Published As
Publication number | Publication date |
---|---|
JP2020516853A (ja) | 2020-06-11 |
US11761790B2 (en) | 2023-09-19 |
US20240167844A1 (en) | 2024-05-23 |
KR102618443B1 (ko) | 2023-12-27 |
WO2018104563A2 (en) | 2018-06-14 |
CN110062871B (zh) | 2024-01-19 |
EP3551967A2 (en) | 2019-10-16 |
KR20240005161A (ko) | 2024-01-11 |
US20200098135A1 (en) | 2020-03-26 |
JP2023022193A (ja) | 2023-02-14 |
US20230129620A1 (en) | 2023-04-27 |
CN117824676A (zh) | 2024-04-05 |
CN110062871A (zh) | 2019-07-26 |
US11835358B2 (en) | 2023-12-05 |
KR20190094405A (ko) | 2019-08-13 |
JP7213809B2 (ja) | 2023-01-27 |
WO2018104563A3 (en) | 2018-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7485749B2 (ja) | ビデオベースの位置決め及びマッピングの方法及びシステム | |
US11900627B2 (en) | Image annotation | |
Qin et al. | 3D change detection–approaches and applications | |
Senlet et al. | A framework for global vehicle localization using stereo images and satellite and road maps | |
JP5714940B2 (ja) | 移動体位置測定装置 | |
KR102200299B1 (ko) | 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법 | |
Gao et al. | Ground and aerial meta-data integration for localization and reconstruction: A review | |
US20230138487A1 (en) | An Environment Model Using Cross-Sensor Feature Point Referencing | |
Busch et al. | Lumpi: The leibniz university multi-perspective intersection dataset | |
CN117576652B (zh) | 道路对象的识别方法、装置和存储介质及电子设备 | |
CN111754388A (zh) | 一种建图方法及车载终端 | |
CN116917936A (zh) | 双目相机外参标定的方法及装置 | |
Lee et al. | Semi-automatic framework for traffic landmark annotation | |
KR20220050386A (ko) | 맵 생성 방법 및 이를 이용한 이미지 기반 측위 시스템 | |
Rajamohan et al. | Extracting Road Features from Aerial Videos of Small Unmanned Aerial Vehicles | |
KR20220151572A (ko) | IPM 이미지와 정밀도로지도(HD Map) 피팅을 통해 노면객체의 변화를 자동으로 판단하고 갱신하는 정밀도로지도 자동갱신 방법 및 시스템 | |
Senlet | Visual localization, semantic video segmentation and labeling using satellite maps | |
CN117994744A (zh) | 图像数据处理方法、装置、存储介质和车辆 | |
CN117953446A (zh) | 车道线标注方法、车载设备、存储介质及车辆 | |
Taneja | Geometric Change Detection and Image Registration in Large Scale Urban Environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221208 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231012 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240226 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240502 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7485749 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |