CN116295466A - 地图生成方法、装置、电子设备、存储介质、及车辆 - Google Patents

地图生成方法、装置、电子设备、存储介质、及车辆 Download PDF

Info

Publication number
CN116295466A
CN116295466A CN202310279874.4A CN202310279874A CN116295466A CN 116295466 A CN116295466 A CN 116295466A CN 202310279874 A CN202310279874 A CN 202310279874A CN 116295466 A CN116295466 A CN 116295466A
Authority
CN
China
Prior art keywords
images
local feature
target
feature point
local
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310279874.4A
Other languages
English (en)
Inventor
陈术义
王玉斌
湛波
曾清喻
李友浩
常松涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202310279874.4A priority Critical patent/CN116295466A/zh
Publication of CN116295466A publication Critical patent/CN116295466A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching
    • G01C21/32Structuring or formatting of map data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3807Creation or updating of map data characterised by the type of data
    • G01C21/3815Road data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了一种地图生成方法、装置、电子设备、存储介质、程序产品、以及自动驾驶车辆,涉及计算机视觉技术领域,尤其涉及自动驾驶技术领域。具体实现方案为:确定多个图像各自的局部特征点描述子集合;针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子;基于多个图像各自的全局描述子,计算多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;以及基于多个全局匹配度,从多个图像中确定多个目标图像,多个目标图像为用于生成目标地图的起始图像。

Description

地图生成方法、装置、电子设备、存储介质、及车辆
本申请是申请日为2022年3月31日,申请号为202210352745.9,发明名称为地图生成方法、装置、电子设备、存储介质、及车辆的申请的分案申请。
技术领域
本公开涉及计算机视觉技术领域,尤其涉及自动驾驶技术领域,具体涉及地图生成方法、装置、电子设备、存储介质、程序产品、以及自动驾驶车辆。
背景技术
基于高精度地图的自动驾驶技术,对自动驾驶车辆实现安全、可靠地自动驾驶提供重要作用。高精度地图在高精定位、环境感知、路径规划以及仿真实验中都发挥着重要作用。精度要求高、探测范围广的高精度地图的生成技术,越来越受到重视。
发明内容
本公开提供了一种地图生成方法、装置、电子设备、存储介质、程序产品、以及自动驾驶车辆。
根据本公开的一方面,提供了一种地图生成方法,包括:确定多个图像各自的局部特征点描述子集合;针对所述多个图像中的每个图像,对所述图像的局部特征点描述子集合进行聚合处理,确定所述多个图像各自的全局描述子;基于所述多个图像各自的全局描述子,计算所述多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;以及基于所述多个全局匹配度,从所述多个图像中确定多个目标图像,其中,所述多个目标图像为用于生成目标地图的起始图像。
根据本公开的另一方面,提供了一种地图生成装置,包括:第一确定模块,用于确定多个图像各自的局部特征点描述子集合;聚合模块,用于针对所述多个图像中的每个图像,对所述图像的局部特征点描述子集合进行聚合处理,确定所述多个图像各自的全局描述子;第二确定模块,用于基于所述多个图像各自的全局描述子,计算所述多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;以及第三确定模块,用于基于所述多个全局匹配度,从所述多个图像中确定多个目标图像,其中,所述多个目标图像为用于生成目标地图的起始图像。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如本公开的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行如本公开的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如本公开的方法。
根据本公开的另一方面,提供了一种自动驾驶车辆,包括如本公开的电子设备。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用地图生成方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的地图生成方法的流程图;
图3示意性示出了根据本公开实施例的根据目标内容的特征信息预测用户感兴趣的内容的流程图;
图4示意性示出了根据本公开实施例的用户在阅读电子书的过程中进行内容摘抄的应用场景图;
图5示意性示出了根据本公开实施例的地图生成装置的框图;以及
图6示意性示出了根据本公开实施例的适于实现地图生成方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开提供了一种地图生成方法、装置、电子设备、存储介质、程序产品、以及自动驾驶车辆。
根据本公开的实施例,提供了一种地图生成方法,可以包括:确定多个图像各自的局部特征点描述子集合;针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子;基于多个图像各自的全局描述子,计算多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;以及基于多个全局匹配度,从多个图像中确定多个目标图像,其中,多个目标图像为用于生成目标地图的起始图像。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图1示意性示出了根据本公开实施例的可以应用地图生成方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括传感器101、102、103,网络104和服务器105。网络104用以在传感器101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
传感器101、102、103可以通过网络104与服务器105交互,以接收或发送消息等。
传感器101、102、103可以是集成在自动驾驶车辆106上的功能元件,例如红外传感器、超声波传感器、毫米波雷达、信息采集装置等等。传感器101、102、103可以用于采集自动驾驶车辆106周围的环境信息以及周围道路信息。
服务器105也可以是集成在自动驾驶车辆106上,但是并不局限于此,也可以设置在能够与车载终端建立通信的远端,可以具体实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。
服务器105可以是提供各种服务的服务器。在服务器105上可以安装有例如地图导航类应用、地图生成类应用等。以服务器105运行该地图生成类应用为例:通过网络104接收来自传感器101、102、103传输的图像。确定多个图像各自的局部特征点描述子集合;针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子;基于多个图像各自的全局描述子,计算多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;以及基于多个全局匹配度,从多个图像中确定多个目标图像,以便将多个目标图像作为起始图像,生成目标地图。
需要说明的是,本公开实施例所提供的地图生成方法一般可以由服务器105执行。相应地,本公开实施例所提供的地图生成装置也可以设置于服务器105中。
应该理解,图1中的传感器、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的传感器、网络和服务器。
应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的地图生成方法的流程图。
如图2所示,该方法包括操作S210~S240。
在操作S210,确定多个图像各自的局部特征点描述子集合。
在操作S220,针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子。
在操作S230,基于多个图像各自的全局描述子,计算多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度。
在操作S240,基于多个全局匹配度,从多个图像中确定多个目标图像,其中,多个目标图像为用于生成目标地图的起始图像。
根据本公开的实施例,局部特征点描述子集合可以指:与多个局部特征点一一对应的多个局部特征点描述子的集合。多个局部特征点描述子中的每个局部特征点描述子可以指具有尺度或者旋转不变性的特征点描述子。多个局部特征点描述子中的每个局部特征点描述子可以是基于规则从图像中提取得到的,例如通过SIFT(Scale-invariant featuretransform,尺度不变特征变换)、ORB(Oriented Fast and Rotated Brief,特征提取算法)等规则、或者算法得到的。但是并不局限于此。还可以采用深度学习模型来从图像中提取得到,例如通过Super Point(超级点)、或者ASLFeat(Learning Local Features ofAccurate Shape and Localization)等深度学习模型。
根据本公开的可选实施例,可以利用深度学习模型来从图像中提取局部特征从而得到局部特征点描述子,采用该种方式,能够提高局部特征点描述子的场景适应性,进而扩大本公开实施例提供的地图生成方法的适用范围。
根据本公开的实施例,针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子可以包括:针对多个图像中的每个图像,可以对图像的局部特征点描述子集合中的多个局部特征点描述子来进行聚合处理,得到与多个图像一一对应的多个全局匹配度。
根据本公开的其他实施例,可以利用全局特征的提取算法来从图像中提取全局描述子。例如,通过DELF(DEep Local Features,特征提取模型)来提取图像中全局描述子。
根据本公开的实施例,相比于利用全局特征的提取算法来从图像中提取全局描述子,利用图像的局部特征点描述子来确定全局描述子,可以使得全局描述子是在局部特征点描述子集合的基础上得到的,其计算速度得到提高的同时,全局描述子的提取精度也得到提升。
根据本公开的实施例,可以基于多个图像中任意两个图像之间的全局匹配度,来从多个图像中确定目标图像。全局匹配度可以是指向量相似度,全局匹配度可以是基于任意两个图像各自的全局描述子来计算的。全局匹配度可以包括余弦相似度、欧式距离、或者曼哈顿距离等,在此不再赘述。
根据本公开的实施例,目标图像可以指用于生成目标地图的起始图像。目标图像可以作为目标地图构建的初始化定位图像。目标图像的数量不做限定,例如可以为2个,但是并不局限于此,还可以为3个、4个或者5个,可以根据实际情况自行拟定。
根据本公开的实施例,利用多个目标图像所共同的图像信息相比于多个图像中的除多个目标图像外的其他图像的图像信息更为清晰、且明确,利用多个目标图像中的图像信息来构建地图,使得生成的目标地图更为符合所表达的实际环境信息,进而加快目标地图的关联帧共视面的构建。
根据本公开的其他实施例,可以基于局部特征点描述子集合中的局部特征点描述子来从多个图像中确定目标图像,进而将目标图像作为目标地图的起始图像。
根据本公开的实施例,相比于利用局部特征点描述子来直接确定目标图像,利用全局描述子来确定目标图像,通过比较全局匹配度即可,计算简单且精度高、支持无序的建图,进而使得目标地图的生成速度得到提高。
综上所述,利用全局描述子来确定任意两个图像之间的全局匹配度,利用全局匹配度来从多个图像中确定目标图像,可以实现支持无序的多个图像的目标地图的构建,加快关联帧的关联搜索速度。与此同时,全局描述子是在局部特征点描述子集合的基础上确定的,提高了全局描述子的计算速度以及精度。
图3示意性示出了根据本公开实施例的确定多个目标图像的示意图。
如图3所示,无序的多个图像可以包括图像P_A、图像P_B、图像P_C、以及图像P_D。多个图像中的任意一个图像的局部特征点描述子集合可以包括M个局部特征点各自的局部特征点置信度、M个局部特征点各自的局部特征点位置信息、以及M个局部特征点各自的局部特征点描述子。M为大于或者等于2的整数。多个图像中的任意两个图像各自的局部特征点的数量可以相同,也可以不同,在此不再赘述。
如图3所示,以图像P_A为例,图像P_A中包括6个局部特征点,例如局部特征点p1、p2、p3、p4、p5、以及p6。多个局部特征点与多个局部特征点置信度一一对应。可以预定置信度阈值,将局部特征点置信度大于置信度阈值的局部特征点作为目标局部特征点,将局部特征点置信度小于或者等于置信度阈值的局部特征点删除。如图3所示,局部特征点p1和p2各自的局部特征点置信度小于置信度阈值,而局部特征点p3、p4、p5、以及p6各自的局部特征点置信度大于置信度阈值,可以将局部特征点p1和p2删除,保留局部特征点p3、p4、p5、以及p6,作为目标局部特征点。进而得到保留目标局部特征点p3、p4、p5、以及p6的图像P_A’。相类似地,可以利用置信度阈值对图像P_B、图像P_C、以及图像P_D进行筛选,即将局部特征点置信度小于置信度阈值的局部特征点的滤除,得到图像P_B’、图像P_C’、以及图像P_D’。
根据本公开的实施例,可以基于置信度阈值,将图像中的M个局部特征点进行筛选,保留图像中的Q个目标局部特征点。可以将Q个目标局部特征点各自的局部特征点描述子和Q个目标局部特征点各自的位置信息例如二维坐标信息(x,y)输入至局部聚合向量模型中,得到图像的全局描述子。
根据本公开的实施例,局部聚合向量模型可以包括VLAD(Vector of locallyaggregated descriptors,局部聚合向量),但是并不局限于此,还可以包括BOF(bag-of-feature)模型、注意力机制模型或者基于VLAD的改进模型例如NetVLAD。
根据本公开的实施例,利用局部聚合向量模型处理多个目标局部特征点各自的位置信息以及局部特征点描述子,可以利用局部聚合向量模型中的注意力机制来对多个目标局部特征点进行聚合处理,进而提高全局描述子的精度。
如图3所示,可以基于多个图像中任意两个图像各自的全局描述子,来确定两个图像之间的全局匹配度。以此得到图像P_A’与图像P_B’之间的全局匹配度、图像P_A’与图像P_C’之间的全局匹配度、图像P_A’与图像P_D’之间的全局匹配度、图像P_B’与图像P_C’之间的全局匹配度、图像P_B’与图像P_D’之间的全局匹配度、以及图像P_C’与图像P_D’之间的全局匹配度。对多个全局匹配度按照例如由高到低的顺序进行排序,得到排序结果。基于排序结果,从多个图像中确定多个目标图像。例如,图像P_B’与图像P_C’之间的全局匹配度最高,将全局匹配度最高的图像P_B’与图像P_C′作为目标图像。
根据本公开的实施例,可以利用置信度阈值对图像中的多个局部特征点进行筛选,将置信度低的局部特征点筛选掉,保留置信度高的目标局部特征点,进而在保证确定全局描述子的计算速度的同时,提高全局描述子的确定精度。进而能够快速锁定目标地图的索引位置,将多个目标图像作为目标地图的起始图像。
图4示意性示出了根据本公开实施例的确定目标局部特征点对的流程图。
如图4所示,确定目标局部特征点对可以包括操作S410~操作S450。
在操作S410,针对多个图像中的任意两个图像,基于两个图像各自的多个局部特征点描述子,从两个图像中确定N个局部特征点对和N个局部匹配度。
根据本公开的实施例,N为大于或者等于2的整数。N个局部特征点对和N个局部匹配度一一对应。局部特征点描述子集合包括M个局部特征点各自的局部特征点描述子。M为大于或者等于2的整数。多个图像中的任意两个图像各自的局部特征点的数量可以相同,也可以不同,在此不再赘述。
根据本公开的实施例,基于两个图像各自的多个局部特征点描述子,从两个图像中确定N个局部特征点对和N个局部匹配度可以包括:计算两个局部特征点描述子之间的向量相似度,确定两个局部特征点描述子之间的局部匹配度。该向量相似度可以包括余弦相似度、欧式距离、或者曼哈顿距离等,在此不再赘述。
根据本公开的实施例,可以基于向量相似度,从两个图像中确定多个初始局部特征点对。对多个初始局部特征点对,利用对极几何原理,计算两个图像之间的基础矩阵,通过几何验证(RANSAC,Random Sample Consensus),从多个初始局部特征点对中确定N个局部特征点对。可以对与N个局部特征点对一一对应的N个初始局部匹配度进行归一化处理,得到N个局部匹配度。
根据本公开的其他实施例,可以根据按照由高到低排列的多个全局匹配度的排序结果,生成图像序列,计算图像序列中相邻两个图像之间的局部特征点对,以此来降低数据处理量。
在操作S420,基于两个图像之间的全局匹配度和两个图像的N个局部特征点对各自的局部匹配度,得到N个初始目标局部匹配度。
根据本公开的实施例,基于两个图像之间的全局匹配度和两个图像的N个局部特征点对各自的局部匹配度,得到N个初始目标局部匹配度可以包括:针对N个局部特征点中的每个局部特征点,将全局匹配度作为权重,对局部匹配度进行加权处理,得到初始目标局部匹配度。但是并不局限于此。还可以基于全局匹配度,按照预定转换规则,确定两个图像之间的转换权重。基于转换权重,对局部匹配度进行加权处理,得到初始目标局部匹配度。例如,基于全局匹配度,按照预定转换规则,确定转换权重为0~1之间的数值。
根据本公开的实施例,将全局描述子的全局匹配度加权在局部匹配度上,可以使得局部特征点对结合全局特征信息和局部特征信息的综合来确定,更为精准、有效。
在操作S430,确定初始目标局部匹配度是否大于预定局部匹配度阈值。在确定初始目标局部匹配度大于预定局部匹配度阈值的情况下,执行操作S440。在确定初始目标局部匹配度小于或者等于预定局部匹配度阈值的情况下,执行操作S450。
在操作S440,将大于预定局部匹配度阈值的初始局部匹配度作为目标局部匹配度,将与目标局部匹配度相对应的局部特征点对作为目标局部特征点对。
根据本公开的实施例,可以重复执行操作S440,得到多个图像的多个目标局部特征点对。
在操作S450,停止对该局部特征点对进行后续操作。
根据本公开的实施例,通过预定局部匹配度阈值来从多个局部特征点中确定目标局部特征点对,提高目标图像中的关键位置的确定速度。
根据本公开的实施例,地图生成方法还可以包括操作:三角化处理多个目标图像中任意两个目标图像的目标局部特征点对,生成空间三维点。以及基于空间三维点,生成地图模型。
根据本公开的实施例,三角化处理可以理解为:已知在不同位置处观察到的空间三维点的二维投影点,利用三角关系,恢复出该空间三维点的深度信息的处理。可以利用三角化处理多个目标图像中任意两个目标图像的目标局部特征点对各自的位置信息,恢复得到该目标局部特征点对的空间三维点。
根据本公开的实施例,利用三角化处理得到的空间三维点,可以为初始信息,可以利用光束法平差(Bundle Adjustment,BA)最小化重投影误差来进行优化,进而得到目标空间三维点,以便基于目标空间三维点来生成地图模型。
根据本公开的实施例,地图生成方法还可以包括操作:基于其他目标局部特征点对,将其他图像注册到地图模型中,生成目标地图。
根据本公开的实施例,其他目标局部特征点对包括多个目标局部特征点对中的除任意两个目标图像的目标局部特征点对外的目标局部特征点对,其他图像包括图像中除目标图像外的图像。
根据本公开的实施例,基于空间三维点来生成地图模型,是基于目标图像来进行三维重建的初始过程。地图模型可以称为初始点云模型。地图模型可以是指利用多个目标图像作为共视关联图来生成的三维地图部分,可以将地图模型作为目标地图的起始位置,基于其他图像中的其他目标局部特征点生成目标地图。
根据本公开的实施例,注册可以理解为:按照全局匹配度得到的排序结果,将其他图像中的其他目标局部特征点对融合至地图模型中,称为注册。
根据本公开的实施例,基于其他目标局部特征点对,将其他图像逐一注册至地图模型中,完成其他目标局部特征点对与地图模型的融合,直至多个图像中的全部图像注册完成,得到目标地图。
根据本公开的实施例,利用局部特征点描述子和全局描述子结合的方式生成目标地图,且全局描述子是基于局部特征点描述子通过聚合处理得到的,使得构建地图速度快、且生成的目标地图的精度高。与此同时,通过全局匹配度以及局部匹配度的关联搜索方式以及利用注册的增量方式来生成目标地图,使得生成目标地图的鲁棒性好、操作简单。
图5示意性示出了根据本公开实施例的地图生成装置的框图。
如图5所示,地图生成装置500可以包括第一确定模块510、聚合模块520、第二确定模块530、以及第三确定模块540。
第一确定模块510,用于确定多个图像各自的局部特征点描述子集合。
聚合模块520,用于针对多个图像中的每个图像,对图像的局部特征点描述子集合进行聚合处理,确定多个图像各自的全局描述子。
第二确定模块530,用于基于多个图像各自的全局描述子,计算多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度。
第三确定模块540,用于基于多个全局匹配度,从多个图像中确定多个目标图像,其中,多个目标图像为用于生成目标地图的起始图像。
根据本公开的实施例,局部特征点描述子集合包括多个局部特征点各自的局部特征点描述子。
根据本公开的实施例,地图生成装置还可以包括第四确定模块、以及第五确定模块。
第四确定模块,用于针对多个图像中的任意两个图像,基于两个图像各自的多个局部特征点描述子,从两个图像中确定N个局部特征点对和N个局部匹配度,其中,N为大于或者等于2的整数。
第五确定模块,用于基于两个图像之间的全局匹配度和N个局部匹配度,从两个图像中确定目标局部特征点对,得到多个图像的多个目标局部特征点对。
根据本公开的实施例,第五确定模块可以包括局部匹配单元、第一筛选单元、以及点对确定单元。
局部匹配单元,用于基于两个图像之间的全局匹配度和两个图像的N个局部特征点对各自的局部匹配度,得到N个初始目标局部匹配度。
第一筛选单元,用于从N个初始目标局部匹配度中确定目标局部匹配度,其中,目标局部匹配度大于预定局部匹配度阈值。
点对确定单元,用于将与目标局部匹配度相对应的局部特征点对作为目标局部特征点对。
根据本公开的实施例,局部特征点描述子集合包括M个局部特征点、M个局部特征点各自的局部特征点置信度和M个局部特征点各自的局部特征点位置信息。M为大于或者等于2的整数。
根据本公开的实施例,聚合模块可以包括第二筛选单元、以及聚合单元。
第二筛选单元,用于针对多个图像中的任意一个图像,基于M个局部特征点置信度,从图像中的M个局部特征点中确定Q个目标局部特征点。Q个目标局部特征点中任意一个目标局部特征点的局部特征点置信度大于置信度阈值。
聚合单元,用于将Q个目标局部特征点各自的局部特征点描述子和Q个目标局部特征点各自的位置信息输入至局部聚合向量模型中,得到图像的全局描述子。
根据本公开的实施例,地图生成装置还可以包括三角化模块、以及生成模块。
三角化模块,用于三角化处理多个目标图像中任意两个目标图像的目标局部特征点对,生成空间三维点。
生成模块,用于基于空间三维点,生成地图模型。
根据本公开的实施例,地图生成装置还可以包括包括注册模块。
注册模块,用于基于其他目标局部特征点对,将其他图像注册到地图模型中,生成目标地图,其中,其他目标局部特征点对包括多个目标局部特征点对中的除任意两个目标图像的目标局部特征点对外的目标局部特征点对,其他图像包括图像中除目标图像外的图像。
根据本公开的实施例,第三确定模块可以包括排序单元、以及结果确定单元。
排序单元,用于对多个全局匹配度进行排序,得到排序结果。
结果确定单元,用于基于排序结果,从多个图像中确定多个目标图像。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质、一种计算机程序产品和一种自动驾驶车辆。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开实施例的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如本公开实施例的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开实施例的方法。
根据本公开的实施例,一种配置有上述电子设备的自动驾驶车辆,配置的电子设备可在其处理器执行时能够实现上述实施例所描述的地图生成方法。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如地图生成方法。例如,在一些实施例中,地图生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的地图生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行地图生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (15)

1.一种地图生成方法,包括:
确定多个图像各自的局部特征点描述子集合;
针对所述多个图像中的每个图像,对所述图像的局部特征点描述子集合进行聚合处理,确定所述多个图像各自的全局描述子;
基于所述多个图像各自的全局描述子,计算所述多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;
基于所述多个全局匹配度,从所述多个图像中确定多个目标图像,其中,所述多个目标图像为用于生成目标地图的起始图像;
针对所述多个目标图像中的任意两个目标图像,从所述两个目标图像中确定N个局部特征点对和N个局部匹配度,其中,所述N为大于或者等于2的整数;
将所述两个目标图像的全局匹配度作为权重,对每个所述局部匹配度进行加权处理,得到初始目标局部匹配度;以及
将大于预定局部匹配度阈值的初始目标局部匹配度作为目标局部匹配度,将与所述目标局部匹配度相对应的局部特征点对作为目标局部特征点对。
2.根据权利要求1所述的方法,其中,所述局部特征点描述子集合包括多个局部特征点各自的局部特征点描述子;
所述从所述两个目标图像确定N个局部特征点对和N个局部匹配度包括:
基于所述两个目标图像各自的多个局部特征点描述子,从所述两个目标图像中确定所述N个局部特征点对和所述N个局部匹配度。
3.根据权利要求1或2所述的方法,其中,所述局部特征点描述子集合包括M个局部特征点、所述M个局部特征点各自的局部特征点置信度和所述M个局部特征点各自的局部特征点位置信息,其中,所述M为大于或者等于2的整数;
所述对所述局部特征点描述子集合进行聚合处理,确定所述多个图像各自的全局描述子包括:
针对所述多个图像中的任意一个图像,基于M个局部特征点置信度,从所述图像中的M个局部特征点中确定Q个目标局部特征点,其中,所述Q个目标局部特征点中任意一个目标局部特征点的局部特征点置信度大于置信度阈值;以及
将所述Q个目标局部特征点各自的局部特征点描述子和所述Q个目标局部特征点各自的位置信息输入至局部聚合向量模型中,得到所述图像的全局描述子。
4.根据权利要求1至3中任一项所述的方法,还包括:
三角化处理所述多个目标图像中任意两个目标图像的所述目标局部特征点对,生成空间三维点;以及
基于所述空间三维点,生成地图模型。
5.根据权利要求4所述的方法,还包括:
基于其他目标局部特征点对,将其他图像注册到所述地图模型中,生成所述目标地图,其中,所述其他目标局部特征点对包括所述多个目标局部特征点对中的除所述任意两个目标图像的目标局部特征点对外的目标局部特征点对,所述其他图像包括所述图像中除所述目标图像外的图像。
6.根据权利要求1至5中任一项所述的方法,其中,所述基于所述多个全局匹配度,从所述多个图像中确定多个目标图像包括:
对所述多个全局匹配度进行排序,得到排序结果;以及
基于所述排序结果,从所述多个图像中确定所述多个目标图像。
7.一种地图生成装置,包括:
第一确定模块,用于确定多个图像各自的局部特征点描述子集合;
聚合模块,用于针对所述多个图像中的每个图像,对所述图像的局部特征点描述子集合进行聚合处理,确定所述多个图像各自的全局描述子;
第二确定模块,用于基于所述多个图像各自的全局描述子,计算所述多个图像中任意两个图像之间的全局匹配度,得到多个全局匹配度;
第三确定模块,用于基于所述多个全局匹配度,从所述多个图像中确定多个目标图像,其中,所述多个目标图像为用于生成目标地图的起始图像;
所述装置还用于:
针对所述多个目标图像中的任意两个目标图像,从所述两个目标图像确定N个局部特征点对和N个局部匹配度,其中,所述N为大于或者等于2的整数;
将所述两个目标图像的全局匹配度作为权重,对每个所述局部匹配度进行加权处理,得到初始目标局部匹配度;以及
将大于预定局部匹配度阈值的初始目标局部匹配度作为目标局部匹配度,将与所述目标局部匹配度相对应的局部特征点对作为目标局部特征点对。
8.根据权利要求7所述的装置,其中,所述局部特征点描述子集合包括多个局部特征点各自的局部特征点描述子;
所述从所述两个目标图像确定N个局部特征点对和N个局部匹配度用于:
基于所述两个图像各自的多个局部特征点描述子,从所述两个图像中确定所述N个局部特征点对和所述N个局部匹配度。
9.根据权利要求7或8所述的装置,其中,所述局部特征点描述子集合包括M个局部特征点、所述M个局部特征点各自的局部特征点置信度和所述M个局部特征点各自的局部特征点位置信息,其中,所述M为大于或者等于2的整数;
所述聚合模块包括:
第二筛选单元,用于针对所述多个图像中的任意一个图像,基于M个局部特征点置信度,从所述图像中的M个局部特征点中确定Q个目标局部特征点,其中,所述Q个目标局部特征点中任意一个目标局部特征点的局部特征点置信度大于置信度阈值;以及
聚合单元,用于将所述Q个目标局部特征点各自的局部特征点描述子和所述O个目标局部特征点各自的位置信息输入至局部聚合向量模型中,得到所述图像的全局描述子。
10.根据权利要求7至9中任一项所述的装置,还包括:
三角化模块,用于三角化处理所述多个目标图像中任意两个目标图像的所述目标局部特征点对,生成空间三维点;以及
生成模块,用于基于所述空间三维点,生成地图模型。
11.根据权利要求10所述的装置,还包括:
注册模块,用于基于其他目标局部特征点对,将其他图像注册到所述地图模型中,生成所述目标地图,其中,所述其他目标局部特征点对包括所述多个目标局部特征点对中的除所述任意两个目标图像的目标局部特征点对外的目标局部特征点对,所述其他图像包括所述图像中除所述目标图像外的图像。
12.根据权利要求7至11中任一项所述的装置,其中,所述第三确定模块包括:
排序单元,用于对所述多个全局匹配度进行排序,得到排序结果;以及
结果确定单元,用于基于所述排序结果,从所述多个图像中确定所述多个目标图像。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至6中任一项所述的方法。
15.一种自动驾驶车辆,包括:如权利要求13所述的电子设备。
CN202310279874.4A 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆 Pending CN116295466A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310279874.4A CN116295466A (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202210352745.9A CN114674328B (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆
CN202310279874.4A CN116295466A (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN202210352745.9A Division CN114674328B (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆

Publications (1)

Publication Number Publication Date
CN116295466A true CN116295466A (zh) 2023-06-23

Family

ID=82077893

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202310279874.4A Pending CN116295466A (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆
CN202210352745.9A Active CN114674328B (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202210352745.9A Active CN114674328B (zh) 2022-03-31 2022-03-31 地图生成方法、装置、电子设备、存储介质、及车辆

Country Status (1)

Country Link
CN (2) CN116295466A (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117576494A (zh) * 2022-08-08 2024-02-20 腾讯科技(深圳)有限公司 特征地图生成方法、装置、存储介质和计算机设备

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108225348B (zh) * 2017-12-29 2021-08-24 百度在线网络技术(北京)有限公司 地图创建以及运动实体定位的方法和装置
CN111191596B (zh) * 2019-12-31 2023-06-02 武汉中海庭数据技术有限公司 一种封闭区域制图方法、装置及存储介质
CN111522986B (zh) * 2020-04-23 2023-10-10 北京百度网讯科技有限公司 图像检索方法、装置、设备和介质
CN111627065B (zh) * 2020-05-15 2023-06-20 Oppo广东移动通信有限公司 一种视觉定位方法及装置、存储介质
JP7556388B2 (ja) * 2020-06-19 2024-09-26 日本電気株式会社 測位装置、推定方法、及びプログラム
CN111967515B (zh) * 2020-08-14 2024-09-06 Oppo广东移动通信有限公司 图像信息提取方法、训练方法及装置、介质和电子设备
CN112270710B (zh) * 2020-11-16 2023-12-19 Oppo广东移动通信有限公司 位姿确定方法、位姿确定装置、存储介质与电子设备
CN112562081B (zh) * 2021-02-07 2021-05-11 之江实验室 一种用于视觉分层定位的视觉地图构建方法
CN113810665A (zh) * 2021-09-17 2021-12-17 北京百度网讯科技有限公司 视频处理方法、装置、设备、存储介质及产品
CN114187344A (zh) * 2021-11-15 2022-03-15 杭州海康威视数字技术股份有限公司 一种地图构建方法、装置及设备

Also Published As

Publication number Publication date
CN114674328A (zh) 2022-06-28
CN114674328B (zh) 2023-04-18

Similar Documents

Publication Publication Date Title
CN110322500B (zh) 即时定位与地图构建的优化方法及装置、介质和电子设备
CN111612852A (zh) 用于验证相机参数的方法和装置
CN111459269B (zh) 一种增强现实显示方法、系统及计算机可读存储介质
CN113205041B (zh) 结构化信息提取方法、装置、设备和存储介质
CN114993328B (zh) 车辆定位评估方法、装置、设备和计算机可读介质
CN113436233B (zh) 自动驾驶车辆的配准方法、装置、电子设备和车辆
CN114092963A (zh) 关键点检测及模型训练方法、装置、设备和存储介质
CN111832579B (zh) 地图兴趣点数据处理方法、装置、电子设备以及可读介质
CN110926478A (zh) 一种ar导航路线纠偏方法、系统及计算机可读存储介质
CN116205889A (zh) 偏移检测方法、装置、电子设备及存储介质
CN111368860B (zh) 重定位方法及终端设备
CN114674328B (zh) 地图生成方法、装置、电子设备、存储介质、及车辆
CN112258647B (zh) 地图重建方法及装置、计算机可读介质和电子设备
CN113592015A (zh) 定位以及训练特征匹配网络的方法和装置
CN115952248B (zh) 终端设备的位姿处理方法、装置、设备、介质及产品
CN115578432B (zh) 图像处理方法、装置、电子设备及存储介质
CN115239776B (zh) 点云的配准方法、装置、设备和介质
US20230401670A1 (en) Multi-scale autoencoder generation method, electronic device and readable storage medium
CN114429631B (zh) 三维对象检测方法、装置、设备以及存储介质
CN115147561A (zh) 位姿图生成方法、高精地图生成方法和装置
CN111292365B (zh) 生成深度图的方法、装置、电子设备和计算机可读介质
CN111968030B (zh) 信息生成方法、装置、电子设备和计算机可读介质
CN117132904A (zh) 实时飞行位置定位方法、装置、飞行器以及存储介质
CN110399892B (zh) 环境特征提取方法和装置
CN116012624B (zh) 定位方法、装置、电子设备、介质以及自动驾驶设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination