CN113450457A - 道路重建方法、装置、计算机设备和存储介质 - Google Patents
道路重建方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN113450457A CN113450457A CN202111008793.8A CN202111008793A CN113450457A CN 113450457 A CN113450457 A CN 113450457A CN 202111008793 A CN202111008793 A CN 202111008793A CN 113450457 A CN113450457 A CN 113450457A
- Authority
- CN
- China
- Prior art keywords
- image
- distance
- target
- candidate
- transformed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Remote Sensing (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请涉及一种道路重建方法、装置、计算机设备和存储介质。方法包括:获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像;获取候选距离集合;根据候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像;将变换图像与参考图像进行对比,得到候选距离对应的图像对比结果;基于候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配;基于目标距离重建得到目标道路。采用本方法能够提高道路重建的准确性。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种道路重建方法、装置、计算机设备和存储介质。
背景技术
随着计算机技术的发展,出现了道路重建技术,道路重建技术指的是基于对道路拍摄的图像序列恢复出道路的过程,道路重建在地图构建、AR导航以及自动驾驶中具有重要应用价值。
传统技术中,通常是利用拍摄设备针对待重建的目标道路进行拍摄得到多个图像,对这些图像进行像素级稠密匹配,首先恢复出像素深度,然后融合成三维点云,再通过平面拟合重建得到目标道路,然而存在重建得到的路面并不准确的情况。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高道路重建的准确性的道路重建方法、装置、计算机设备和存储介质。
一种道路重建方法,所述方法包括:获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;基于所述目标距离重建得到所述目标道路。
一种道路重建装置,所述装置包括:图像获取模块,用于获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;距离获取模块,用于获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;视角变换模块,用于根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;图像对比模块,用于将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;距离筛选模块,用于基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;道路重建模块,用于基于所述目标距离重建得到所述目标道路。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;基于所述目标距离重建得到所述目标道路。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;基于所述目标距离重建得到所述目标道路。
在一些实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述方法实施例中的步骤。
上述道路重建方法、装置、计算机设备和存储介质,通过获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像,获取表示目标道路与拍摄设备的距离的候选距离集合,对于每一个候选距离,根据该候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,得到该候选距离对应的图像对比结果,基于所有候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离,基于目标距离重建得到目标道路,由于可以基于候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,而距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配,从而可以从候选距离集合搜索得到目标道路与拍摄设备之间的真实距离,实现了通过计算目标道路与拍摄设备之间的距离来重建目标道路,提高了重建得到的目标道路的准确性。
附图说明
图1为一些实施例中道路重建方法的应用环境图;
图2为一些实施例中道路重建方法的流程示意图;
图3为一些实施例中参考图像和目标图像的示意图;
图4为一些实施例中为目标道路所在平面的法向量的估计示意图;
图5为一些实施例中图像位置对应关系示意图;
图6为另一些实施例中道路重建方法的流程示意图;
图7为一些实施例中道路重建方法的整体流程图;
图8为一些实施例中在不同假设高度下得到的变换图像的示意图;
图9为一些实施例中道路重建装置的结构框图;
图10为一些实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的方案涉及人工智能的计算机视角、机器学习等技术,其中:
人工智能(Artificial Intelligence, AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视角技术、语音处理技术、自然语言处理技术以及机器学习/深度学习、自动驾驶、智慧交通等几大方向。
计算机视角技术(Computer Vision, CV)计算机视角是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视角,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视角研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视角技术通常包括图像处理、图像识别、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建、自动驾驶、智慧交通等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。自动驾驶技术通常包括高精地图、环境感知、行为决策、路径规划、运动控制等技术,自定驾驶技术有着广泛的应用前景。
机器学习(Machine Learning, ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
随着人工智能技术研究和进步,人工智能技术在多个领域展开研究和应用,例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服、车联网、自动驾驶、智慧交通等,相信随着技术的发展,人工智能技术将在更多的领域得到应用,并发挥越来越重要的价值。
本申请涉及的计算机视角、机器学习等技术具体通过如下实施例进行说明:
本申请提供的道路重建方法,可以应用于如图1所示的应用环境中。其中,运动设备102通过网络与服务器104进行通信。其中,运动设备102指的是可以自主运动的设备或者被动运动的设备,自主运动的设备可以是各种交通工具、机器人等等,被动运动的设备例如可以是由用户携带并跟随用户的移动而移动的终端,被动运动的设备例如可以是智能手机、平板电脑和便携式可穿戴设备。运动设备102上安装有拍摄设备。服务器104可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器。具体地,运动设备102上的拍摄设备可以对待重建的目标道路进行拍摄得到的图像集合,将拍摄得到的图像集合发送至服务器,服务器基于图像集合进行道路重建,服务器得到重建结果后可以返回至运动设备102。
在一些实施例中,如图2所示,提供了一种道路重建方法,本申请实施例以该方法应用于服务器104进行举例说明,可以理解的是,该方法也可以应用于运动设备102,还可以应用于包括运动设备102和服务器104的系统,并通过运动设备102和服务器104的交互实现。具体地,本实施例中,该方法包括以下步骤:
步骤202,获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像。
其中,拍摄设备指的是可以进行拍摄的设备,例如,拍摄设备可以是交通工具上的行车记录仪,拍摄设备还可以是移动终端上的摄像头。待重建的目标道路指的是需要进行重建的道路,其中,重建可以是三维重建,对道路进行三维重建,指的是根据对道路进行拍摄得到的多个二维图像恢复出三维道路的过程。图像集合中包括多个图像,多个指的是至少两个。参考图像指的是从图像集合中选取的作为参考视角的图像。参考图像对应的待变换的目标图像指的需要变换至参考图像对应的参考视角下的图像。参考图像与待变换的目标图像对应不同的拍摄视角。参考图像对应的待变换的目标图像可以是一个或者多个。举例说明,如图3所示,为一些实施例中,参考图像和目标图像的示意图,图3中,(a)图为参考图像,(b)图为待变换的目标图像,由图3可以看出,参考图像和目标图像的拍摄视角是不同的。
在一些实施例中,可以选取一个参考图像,并从图像集合中选取该参考图像对应的待变换的目标图像。在其他一些实施例中,为提高道路重建的准确性,可以从图像集合中选取多个参考图像,则对于每一个参考图像,从图像集合中选取该参考图像对应的待变换的目标图像。
在一些实施例中,服务器可以从一个运动设备获取该运动设备利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,服务器可以获取图像集合中各个图像的拍摄时间,根据拍摄时间对图像集合进行排序得到图像序列,对图像序列进行划分得到多个图像子序列,对于每一个图像子序列,从其中选取一个图像作为参考图像,将其他图像作为与参考图像对应的待变换的目标图像。其中,服务器可以对图像序列进行等数量划分,得到多个图像子序列,例如,假设图像序列总共有100个图像,可以将每10个连续的图像划分为一个图像子序列。
在一些实施例中,服务器可以从多个运动设备获取这些运动设备利用各自的拍摄设备对待重建的目标道路进行拍摄得到的图像集合,对于得到的图像集合,服务器可以从中选取参考图像,将滤除参考图像的图像集合作为剩余图像集合,确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像。
步骤204,获取候选距离集合,候选距离集合中的候选距离表示目标道路与拍摄设备的距离。
其中,候选距离集合中包括多个候选距离,多个指的是至少两个。候选距离集合中的候选距离表示目标道路与拍摄设备的距离。可以理解的是,候选距离集合中的候选距离所表示的距离是目标道路与拍摄设备之间的假设距离。本申请实施例中,通过从这些假设距离中筛选得到最优的距离,以实现对道路的重建。候选距离相对于目标道路对应路面而言,可以看成是路面高度,则候选距离可以看成是假设高度。
具体地,服务器可以从预设的距离范围内进行采样,得到候选距离集合。预先的距离范围可以是根据先验知识得到的目标道路与拍摄设备的距离所属的范围。以运动设备为汽车为例,根据先验知识,汽车上的行车记录仪与路面之间的距离范围为0.5米~2米,则服务器可以在0.5米~2米之间随机采样多个候选距离,得到候选距离集合。
步骤206,根据候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像。
其中,参考图像所对应的视角指的是拍摄设备在拍摄参考图像时的视角。可以理解的是,对于目标道路的同一区域,在同一视角下,拍摄得到的两个图像应该是相似的。因此,在正确的候选距离下,将目标图像变换到参考图像所对应的视角下后,得到变换图像与参考图像关于同一道路区域的图像部分是相似的。
具体地,对于候选距离集合中每一个候选距离,服务器根据该候选距离将参考图像所对应的目标图像变换到该参考图像所对应的视角下,将变换后得到的图像确定为该参考图像对应的变换图像。当参考图像为多个时,对于每一个参考图像,服务器根据候选距离集合中的候选距离,将参考图像所对应的目标图像变换到该参考图像所对应的视角下。
在一些实施例中,服务器可以获取拍摄设备的内参(intrinsic parameters)以及拍摄设备从参考图像到该参考图像对应的目标图像的相机位姿(pose),根据候选距离、内参及相机位姿将参考图像所对应的目标图像进行单应变换(homography warping),得到变换图像。在一些实施例中,由于单应变换只对场景中的平面成立,因此服务器在进行单应变换时,可以从目标图像上确定道路平面所在的图像区域,将该图像区域内的像素点进行单应变换,得到变换图像。
步骤208,将变换图像与参考图像进行对比,得到候选距离对应的图像对比结果。
其中,图像对比结果指的是对图像进行对比得到的结果。候选距离对应的图像对比结果指的是与参考图像对比的变化图像是与该候选距离对应的。对于候选距离集合中的每一个候选距离,服务器根据该候选距离对目标图像进行变换,则得到的变换图像是与该候选距离对应的。对图像进行对比可以是相似度对比,对图像进行相似度对比得到的结果为相似度。对图像进行对比还可以是差异对比,对图像进行差异对比得到的结果为差异度。
具体地,对于每一个候选距离,服务器将该候选距离对应的变换图像与参考图像进行对比,得到该候选距离对应的图像对比结果,从而可以得到候选距离集合中每一个候选距离对应的图像对比结果。
在一些实施例中,当参考图像对应的变换图像有多个时,每一个候选距离对应多个图像对比结果。
在一些实施例中,服务器将变换图像与参考图像进行相似度对比,具体可以是:将变换图像与参考图像分别输入已训练的特征提取模型中,得到变换图像对应的特征向量以及参考图像对应的特征向量,计算两个特征向量的余弦相似度得到变换图像与参考图像的相似度。
在一些实施例中,服务器将变换图像与参考图像进行相似度对比,具体可以是:将变换图像与参考图像分别输入已训练的特征提取模型中,得到变换图像对应的特征向量以及参考图像对应的特征向量,计算两个特征向量的向量距离得到变换图像与参考图像的差异度。其中的向量距离可以是欧式距离或者L2距离。
在一些实施例中,服务器将变换图像与参考图像进行差异对比,具体可以是:对变换图像和参考图像中位置对应的像素点计算像素值之间的差值,将所有差值的绝对值相加并求平均值得到变换图像与参考图像的差异度。其中,对于变换图像上的一个像素点A,在参考图像中与之位置对应的像素点B指的是,在同一像素坐标系中,像素点A与像素B具有相同的像素坐标。
步骤210,基于候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离。
其中,目标距离指的是从候选距离集合中筛选得到满足距离筛选条件的候选距离,距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配,其中变换图像与参考图像匹配指的是变换图像和与该变化图像对应的参考图像匹配,目标距离是与参考图像对应的,即对于每一个参考图像,服务器可以得到一个目标距离,当从图像集合中选取多个参考图像时,可以得到多个目标距离。候选距离对应的图像对比结果指示变换图像与参考图像匹配指的是:在候选距离集合中,该候选距离对应的图像对比结果所指示的变换图像与参考图像之间的匹配度是最优的。
在一些实施例中,当参考图像对应的待变换的目标图像只有一个时,候选距离集合中每一个候选距离分别对应一个图像对比结果,则服务器从所有图像对比结果中选取指示图像匹配度最优的图像对比结果,将该图像对比结果所对应的候选距离作为目标距离。
在其他一些实施例中,参考图像对应的目标图像为多个,候选距离对应的图像对比结果包括基于各个目标图像得到的图像对比结果,则对于候选距离集合中每一个候选距离,从基于各个目标图像得到的图像对比结果中,选取指示图像匹配度最优的图像对比结果,作为候选距离对应的代表对比结果,然后基于各个候选距离对应的代表对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离。
步骤212,基于目标距离重建得到目标道路。
具体地,假设目标道路近似平面,则服务器可以首先确定目标道路所在平面的距离指示向量,根据该距离指示向量以及目标道路得到道路所在平面的道路表达式,基于该道路表达式重建得到目标道路。
在一些实施例中,当从图像集合中选取一个参考图像时,服务器可以首先判断该参考图像对应的目标距离是否符合先验知识,若符合,则将该目标距离作为截距,与距离指示向量建立道路表达式,进而基于该道路表达式重建得到目标道路。其中,判断该参考图像对应的目标距离是否符合先验知识具体可以是:将该目标距离作为截距,与距离指示向量建立道路表达式,判断在拍摄参考图像时,拍摄设备的拍摄位置是否在该道路表达式所对应的道路平面之上。
在一些实施例中,为进一步提高道路重建的准确性,可以从图像集合中选取多个参考图像,则每一个参考图像可以按照上述步骤204-步骤210得到该参考图像对应的目标距离,进而服务器可以基于各个参考图像对应的目标距离进行投票,得到最优的目标距离,将该最优的目标距离作为截距,与距离指示向量建立道路表达式,进而基于该道路表达式重建得到目标道路。
上述道路重建方法中,通过获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像,获取表示目标道路与拍摄设备的距离的候选距离集合,对于每一个候选距离,根据该候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,得到该候选距离对应的图像对比结果,基于所有候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离,基于目标距离重建得到目标道路,由于可以基于候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,而距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配,从而可以从候选距离集合搜索得到目标道路与拍摄设备之间的真实距离,实现了通过计算目标道路与拍摄设备之间的距离来重建目标道路,提高了重建得到的目标道路的准确性。
在一些实施例中,根据候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像包括:对于变换图像上的变换像素位置,根据变换像素位置以及候选距离确定目标图像上对应的目标像素位置;获取目标像素位置所对应的目标像素值,根据目标像素值得到变换像素位置对应的变换像素值;基于变换像素位置对应的变换像素值形成变换图像。
其中,变换像素位置指的是变换图像上的像素位置。目标像素位置指的是目标图像上的像素位置。目标图像上与变换像素位置对应的目标像素位置指的是在目标图像上与变换像素位置对应同一物理点的像素位置。目标像素位置所对应的目标像素值指的是目标像素位置在目标图像中的像素值。变换像素位置对应的变换像素值指的该变换像素位置在变换图像中的像素值。
具体地,对于变换图像上的变换像素位置,服务器根据该变换像素位置以及候选距离可以确定其在目标图像上对应的目标像素位置,获取目标像素位置所对应的目标像素值,将该目标像素值作为该变换像素位置的变换像素值,得到变换像素值,将该变换像素值作为变换图像的像素值以形成变换图像。
在一些实施例中,服务器可以对参考图像进行语义分割,以从参考图像中确定目标道路所在区域,将变换图像上与目标道路位置相同的像素位置作为变换像素位置,在获取到变换像素位置对应的变换像素值后,将变换像素值作为变换像素位置的像素值,而对于其他非目标道路区域的像素位置,可以将像素值设置预设像素值,预设像素值例如可以是0和1,从而得到变换图像,通过将目标道路区域分割出来,一方面可以避免非道路区域的像素变换对图像对比结果造成影响,另一方面可以提高图像变换效率。其中,对参考图像进行语义分割具体可以是将参考图像输入已训练的图像分割网络中,基于该图像分割网络实现语义分割。已训练的图像分割网络是通过对已标注道路区域的图像样本进行有监督训练得到的机器学习模型。
上述实施例中,根据变换像素位置以及候选距离确定在目标图像上对应的目标像素位置,获取目标像素位置所对应的目标像素值,根据目标像素值得到变换像素位置对应的变换像素值,基于变换像素位置对应的变换像素值形成变换图像,可以实现将目标图像快速地变换到参考图像所对应的视角下,提高道路重建效率。
在一些实施例中,根据变换像素位置以及候选距离确定目标图像对应的目标像素位置包括:获取目标道路对应的距离指示向量;根据距离指示向量以及候选距离得到参考图像与目标图像之间的视角变换关系;根据视角变换关系以及变换像素位置确定目标图像对应的目标像素位置。
其中,距离指示向量指的是用于指示距离所在方向的向量,距离指示向量例如可以为法向量。目标道路对应的距离指示向量具体可以是目标道路所在平面的法向量。参考图像与目标图像之间的视角变换关系用于指示将目标图像变换值参考图像所在视角下的变换规律。
具体地,服务器获取目标道路对应的距离指示向量,根据距离指示向量以及候选距离得到参考图像与目标图像之间的视角变换关系,将变换像素位置代入视角变换关系中,得到该变换像素位置在目标图像对应的目标像素位置。
在一些实施例中,参考图像与目标图像之间的视角变换关系可以参考以下公式(1),其中,和分别为变换图像和目标图像上的像素点其次坐标,和为内参矩阵,R和t分别为参考图像到目标图像的旋转矩阵和平移向量,和,以及R和t可以通过structure from motion(SFM)算法得到:
上述实施例中,由于在视角变换过程中考虑到了距离指示向量,根据距离指示向量以及候选距离得到参考图像与目标图像之间的视角变换关系,从而根据该视角变换关系可以准确、快速地确定出变换像素位置在目标图像对应的目标像素位置。
在一些实施例中,拍摄设备安装于在目标道路上运动的运动设备上,获取目标道路对应的距离指示向量包括:获取运动设备在图像集合对应的拍摄时间段的运动轨迹;获取图像集合中的当前图像对应的当前图像拍摄时刻,获取当前图像拍摄时刻拍摄设备在运动轨迹上的当前轨迹位置;获取图像集合中的前向图像对应的前向图像拍摄时刻,获取前向图像拍摄时刻拍摄设备在运动轨迹上的前向轨迹位置;基于前向轨迹位置与当前轨迹位置之间的位置差异得到拍摄设备对应的帧间移动指示信息;基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到目标道路对应的距离指示向量。
其中,运动轨迹可以反映运动设备在图像集合对应的拍摄时间段的各个时刻的位置以及运动方向。当前图像对应的当前图像拍摄时刻指的是拍摄设备拍摄当前图像的时刻,当前图像可以是图像集合中任意一张图像。前向图像指的是当前图像对应的前向图像,即拍摄设备在当前图像拍摄时刻对应的上一个图像拍摄时刻拍摄的图像。例如,假设图像集合中总共包括三张图像,拍摄时刻分别为9:10:10、9:10:12、9:10:14,如果当前图像拍摄时刻为9:10:12,则前向图像拍摄时刻为9:10:10。帧间移动指示信息指的是用于指示拍摄设备在相邻拍摄时刻的两个图像的拍摄时间间隔内的移动信息,移动信息包括移动方向和移动距离。例如假设前图像拍摄时刻为9:10:12,则前向图像拍摄时刻为9:10:10,则帧间移动指示信息可以指示拍摄设备从9:10:10到9:10:12时间段内的移动信息。帧间移动指示信息具体可以是平移向量。拍摄设备在当前图像拍摄时刻对应的水平指示向量指的是拍摄设备在当前图像拍摄时刻的相机坐标系的水平轴向量,在正常的相机坐标系中,水平轴向量指的是x轴的指示向量。
具体地,服务器在获取图像集合时,可以同时获取图像集合中各个图像的拍摄时间,从而可以确定图像集合对应的拍摄时间段,服务器获取在该拍摄时间段运动设备的运动轨迹,由于拍摄设备安装于在目标道路上运动的运动设备上,从而拍摄设备与运动设备的运动轨迹是一致的。服务器可以从图像集合中选取一个图像作为当前图像,获取该当前图像的当前图像拍摄时刻,从运动轨迹上获取当前图像拍摄时刻对应的位置,得到当前图像拍摄时刻拍摄设备在运动轨迹上的当前轨迹位置。服务器可以按照图像集合中各个图像的拍摄时间的先后顺序对图像进行排序,根据排序结果确定当前图像对应的前向图像,获取前向图像对应的前向图像拍摄时刻,从运动轨迹上获取前向图像拍摄时刻对应的位置,得到前向图像拍摄时刻拍摄设备在运动轨迹上的前向轨迹位置,从而可以基于前向轨迹位置与当前轨迹位置之间的位置差异及运动设备的运动方向得到拍摄设备对应的帧间移动指示信息,在得到帧间移动指示信息后,根据帧间移动指示信息结合拍摄设备在当前图像拍摄时刻对应的水平指示向量可以得到目标道路对应的距离指示向量。在一些实施例中,服务器可以通过SFM算法得到运动设备的运动轨迹。
举例说明,参考图4,为目标道路所在平面的法向量的估计示意图。其中,运动设备为车辆,由于车辆正常驾驶时,在小范围内旋转自由度只有1个,即偏航角(yaw)。当通过SFM算法得到车辆行驶轨迹以及车辆朝向时,可以估计出当前所行驶的路面的法向量。参考图4,假设该轨迹为行车轨迹的俯视图,三角形代表车载相机,箭头代表帧间移动指示信息所指示的移动方向。假设以时刻t为当前图像,从前向图像到当前图像的平移向量为,当前图像对应的拍摄时刻拍摄设备的相机坐标系的x轴指示向量为,则当前图像所在的路平面法向量为。因为根据车辆行驶的运动模式,目标道路所在平面的法向量与和相机坐标系的x轴指示向量均垂直。
上述实施例中,通过获取拍摄设备的当前轨迹位置和前向轨迹位置,进而确定帧间移动指示信息,根据帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到目标道路对应的距离指示向量,从而实现了只需要获取运动设备的运动轨迹即可确定距离指示向量,节省了距离指示向量的计算时间,提高了道路重建效率。
在一些实施例中,当前图像帧为多个,基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到目标道路对应的距离指示向量包括:基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到当前图像下目标道路的距离指示向量;对多个当前图像下目标道路的距离指示向量进行统计,得到目标道路对应的距离指示向量。
具体地,服务器从图像集合中确定多个当前图像,基于每一个当前图像,服务器获取该当前图像对应的当前图像拍摄时刻,获取该当前图像拍摄时刻拍摄设备在运动轨迹上的当前轨迹位置,获取该当前图像对应的前向图像对应的前向图像拍摄时刻,获取该前向图像拍摄时刻拍摄设备在运动轨迹上的前向轨迹位置,基于前向轨迹位置与当前轨迹位置之间的位置差异得到拍摄设备对应的帧间移动指示信息,基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到该当前图像下目标道路的距离指示向量,服务器对多个当前图像下目标道路的距离指示向量进行统计,得到目标道路对应的距离指示向量。统计具体可以是对所有距离指示向量求平均向量,或者对所有距离指示向量求中位向量。
上述实施例中,通过确定多个参考图像,对多个当前图像下目标道路的距离指示向量进行统计,得到目标道路对应的距离指示向量,得到的距离指示向量更加准确。
在一些实施例中,参考图像对应的目标图像为多个,候选距离对应的图像对比结果包括基于各个目标图像得到的图像对比结果;基于候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离包括:对于各个候选距离,从基于各个目标图像得到的图像对比结果中,选取指示图像匹配度最优的图像对比结果,作为候选距离对应的代表对比结果;基于候选距离对应的代表对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离。
其中,基于目标图像得到的图像对比结果具体可以是基于目标图像得到的变换图像与参考图像之间的图像对比结果。代表对比结果用于代表候选距离所对应的多个图像对比结果。
具体地,参考图像对应的目标图像为多个,对于候选距离集合中的每一个候选距离,服务器根据该候选距离将各个目标图像变换分别变换至参考图像的视角下得到与目标图像等数量的变换图像,将每一个变换图像分别与参考图像进行对比,得到与目标图像等数量的图像对比结果,从而每一个候选距离都对应与目标图像等数量的图像对比结果,那么在每一个候选距离对应的图像对比结果中,服务器选取指示图像匹配度最优的图像对比结果,作为候选距离对应的代表对比结果。在一些实施例中,指示图像匹配度最优的图像对比结果可以是指示相似度最大的图像对比结果。在其他一些实施例中,指示图像匹配度最优的图像对比结果可以是指示误差最小的图像对比结果。
对于候选距离集合中所有候选距离分别对应的代表对比结果,服务器可以从中选择指示图像匹配度最优的代表对比结果,将选择得到的代表对比结果对应的候选距离确定为目标距离。
上述实施例中,参考图像对应的目标图像为多个,通过选择指示图像匹配度最优的图像对比结果,作为候选距离对应的代表对比结果,在进行候选距离选择的时候,可以选择出更加准备的候选距离,进一步提高道路重建的准确性。
在一些实施例中,将变换图像与参考图像进行对比,得到候选距离对应的图像对比结果包括:分别对参考图像和变换图像进行划分,得到参考图像对应的多个参考图像块以及变换图像对应的多个变换图像块;将参考图像块以及与参考图像块存在图像位置对应关系的变换图像块组成图像对,得到图像对集合;对于图像对集合中的图像对,计算图像对中的图像块之间的像素值变化趋势相关度,以及计算图像对中各个图像块对应的像素值离散度;基于像素值变化趋势相关度以及图像对中各个图像块对应的像素值离散度得到图像对对应的相似度;相似度与像素值变化趋势相关度成正相关关系,相似度与像素值离散度成负相关关系;对图像对集合中各个图像对对应的相似度进行统计,得到统计相似度,基于统计相似度得到候选距离对应的图像对比结果。
其中,参考图像块与变换图像块之间存在图像位置对应关系指的是参考图像块在参考图像中的位置与变换图像块在变换图像中的位置对应,那么对于参考图像块中每个像素,在与其位置对应的变换图像块中均存在位置相同的像素。举个例子,假设将参考图像A划分为4个参考图像块A1、A2、A3、A4,变换图像B按照相同的方式划分为尺寸、位置及数量相同的4个变换图像块B1、B2、B3、B4,则图像位置对应关系如图5所示,其中,虚线箭头表示图像位置对应关系,由图5可以看出,参考图像块A1和变换图像块B1之间存在位置对应关系,参考图像块A2和变换图像块B2之间存在位置对应关系,参考图像块A3和变换图像块B3之间存在位置对应关系,参考图像块A4和变换图像块B4之间存在位置对应关系,即组成图像对的参考图像块和变换图像块在图像中所处的位置是一致的。
像素值变化趋势相关度指的是两个图像块之间的像素值的变换趋势之间的相关程度。像素值变化趋势相关度具体可以是两个图像块的像素值之间的协方差。像素值离散度指的是图像块中像素值的离散程度。像素值离散度具体可以是图像块的方差。图像对对应的相似度与像素值变化趋势相关度成正相关关系,相似度与像素值离散度成负相关关系。
具体地,服务器可以对参考图像进行划分,得到多个参考图像块,对变换图像进行划分,得到多个变换图像块,将参考图像块以及与参考图像块存在图像位置对应关系的变换图像块组成图像对,得到图像对集合。其中划分指的是将图像中的像素进行区域划分。其中多个指的是至少两个。在一些实施例中,服务器可以采用相同的图像块划分方式对参考图像以及变换图像分别进行划分,从而使得变换图像块与参考图像块的数量、位置以及尺寸是匹配的。在一些实施例中,服务器可以获取滑动窗口,按照预设滑动方式将滑动窗口在参考图像上进行滑动,将处于滑动窗口内的图像区域作为参考图像块,按照该预设滑动方式将滑动窗口在变换图像上进行滑动,将处于滑动窗口内的图像区域作为变换图像块,从而可以得到尺寸、数量完全相同,且图像位置一一对应的参考图像块和变换图像块。
对于图像对集合中的图像对,服务器可以计算图像对中的图像块之间的像素值变化趋势相关度,以及图像对中各个图像块对应的像素值离散度,基于像素值变化趋势相关度以及图像对中各个图像块对应的像素值离散度得到图像对对应的相似度,可以理解的是,这里的相似度指的是图像对中的图像块中进行结构(structure)对比得到的相似度。
在一些实施例中,像素值变化趋势相关度为协方差,像素值离散度为方差,服务器可以参考以下公式(2)计算图像对中的图像块之间的相似度,其中,为图像块之间的相似度,x和y分别图像对中两个图像块的像素值,为图像块之间像素值的协方差,和分别图像对中两个图像块像素值的方差:
在一些实施例中,服务器还可以获取对图像对中的图像块之间的进行亮度(luminance)对比、对比度 (contrast)对比中的至少一种对比方式得到的相似度,结合进行结构(structure)对比得到的相似度得到图像对中的图像块之间的最终的相似度。
在得到图像对集合中各个图像对对应的相似度后,服务器可以对这些相似度进行统计,得到统计相似度,统计具体可以是求相似度的平均值或者求相似度的中位数中的至少一种,将统计相似度作为候选距离对应的图像对比结果。
上述实施例中,通过对参考图像和变换图像进行划分,以图像块的方式进行对比,可以提高对比图像对比的准确性,同时,在进行图像对比的过程中,结合图像块之间的像素值变化趋势相关度以及图像块对应的像素值离散度两个方面来考虑相似性,可以从结构上对两个图像进行精细对比,进一步提高图像对比的准确性。
在一些实施例中,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像包括:从图像集合中选取参考图像;将滤除参考图像的图像集合作为剩余图像集合,确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像。
其中,共视区域指的是共同的拍摄区域。与参考图像存在共视区域的图像即与参考图像包含了同一个拍摄区域的图像。拍摄区域的面积大小可以根据需要进行设定。其中共视区域并不限定具体的区域,只要是目标道路中的区域即可。滤除指的是过滤掉、去除。从图像集合中滤除参考图像后,则图像集合中不再包括参考图像。
具体地,服务器可以从图像集合中任选一张图像作为参考图像,将滤除参考图像的图像集合作为剩余图像集合,剩余图像集合中不包括参考图像,从剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像。
在一些实施例中,当选择多个参考图像时,可以从图像集合中滤除所有的参考图像,将滤除所有参考图像的图像集合作为剩余图像集合,对于每一个参考图像,从剩余图像集合中确定与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像。在其他一些实施例中,当选择多个参考图像时,对于每一个参考图像,服务器确定与之存在共视区域的剩余图像后,可以将确定出的剩余图像进一步滤除,以提高目标图像的确定效率,从而提高道路重建效率。
在一些实施例中,确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像包括:将剩余图像集合中的剩余图像确定为候选图像;对参考图像提取图像特征,得到参考图像特征,对候选图像提取图像特征,得到候选图像特征;对参考图像特征和候选图像特征进行对比,基于特征对比结果从剩余图像集合中选取满足图像筛选条件的候选图像确定为参考图像对应的待变换的目标图像;图像筛选条件包括候选图像对应的特征对比结果指示参考图像特征和候选图像特征匹配。通过特征匹配,可以更加准确地确定出存在共视区域的剩余图像。
上述实施例中,从图像集合中选取参考图像后,将滤除参考图像的图像集合作为剩余图像集合,确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像,由于目标图像与参考图像存在共视区域,对比结果可以更好地反映候选距离的正确性,从而基于筛选条件筛选得到的目标距离更加准确。
在一些实施例中,拍摄设备安装于在目标道路上运动的运动设备上,图像集合中包括不同运动设备上的拍摄设备拍摄的图像;确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像包括:获取拍摄参考图像时参考图像对应的运动设备对应的运动位置,作为参考运动位置;确定参考运动位置所属的运动轨迹区域;从剩余图像集合中选取各个运动设备位于运动轨迹区域时拍摄设备拍摄的图像,作为参考图像对应的待变换的目标图像。
其中,运动设备对应的运动位置指的是运动设备在目标道路上运动时的位置。运动轨迹区域指的是运动设备在目标道路上的位置所属的道路区域。参考运动位置指的是参考图像对应的位置。
本实施例中,预先对目标道路划分多个运动轨迹区域,例如,可以按目标道路延伸的方向,每10米划分一个运动轨迹区域。服务器在获取图像集合时,同时可以获取图像集合中各个图像在拍摄时运动设备的运动位置,因此在选取了参考图像后,服务器可以获取拍摄参考图像时参考图像对应的运动设备对应的运动位置,作为参考运动位置,从预先划分的多个运动轨迹区域中确定参考运动位置所属的运动轨迹区域,从剩余图像集合中选取各个运动设备位于该运动轨迹区域时拍摄设备拍摄的图像,由于是在同一运动轨迹区域拍摄的图像,这些图像与参考图像之间必然存在共视区域,因此可以作为参考图像对应的待变换的目标图像,即将各个运动设备路过该运动轨迹区域时拍摄的图像作为参考图像对应的待变换的目标图像。
上述实施例中,通过将与参考位置同一运动轨迹区域内拍摄的图像作为待变换的目标图像,可以方便快捷地获取到参考图像对应的待变换的目标图像。
在一些实施例中,参考图像为多个;基于目标距离重建得到目标道路包括:确定参考图像对应的目标距离所属的候选距离区间,统计属于各个候选距离区间的目标距离的数量,得到各个候选距离区间对应的距离数量;根据候选距离区间对应的距离数量从多个候选距离区间中选取满足数量条件的候选距离区间,作为目标距离区间,数量条件包括距离数量大于数量阈值或者数量排序在排序阈值的至少一个;对属于目标距离区间的目标距离进行统计,得到距离统计值;基于距离统计值重建得到目标道路。
其中,预先对候选距离集合中的候选距离进行区间划分得到多个距离区间,得到的距离区间即为候选距离区间。在一些实施例中,候选距离是从预设的距离范围内进行采样得到的,那么服务器可以将预设的距离范围划分为多个区间,具体地划分方式可以根据需要进行设定,例如,可以进行等范围划分,即每个候选距离区间跨度是一样的。举例说明,预设的距离范围为0.5米~2米,可以划分得到三个候选距离区间0.5米~1米、0.5米~1.5米以及1.5米~2米,每个候选距离区间的跨度均为0.5米。数量条件包括距离数量大于数量阈值或者数量排序在排序阈值的至少一个。其中,数量阈值可以根据需要进行设定。排序阈值指的是按照数量从大到小排序对应的排序阈值。例如排序阈值可以为1,即排在第一位。距离统计值指的是按照预设的统计方式对目标距离的具体数值进行统计得到的数值,其中统计可以是求平均或者求中位数中的其中一种。
具体地,服务器可以确定各个参考图像对应的目标距离所属的候选距离区间,对各个候选距离区间的目标距离的数量进行累加得到总的距离数量,作为各个候选距离区间对应的距离数量,服务器可以选取距离数量最多的候选距离区间作为目标距离区间,对属于该目标距离区间的目标距离进行累加并求平均得到距离统计值,将该距离统计值作为截距,与距离指示向量建立道路表达式,进而基于该道路表达式重建得到目标道路。
上述实施例中,通过对各个候选距离区间的距离数量进行统计来确定目标距离区间,进而对目标距离区间的目标距离进行统计,得到距离统计值作为估计的最优距离,实现了通过投票的方式确定最优距离,从而得到距离的最优解,重建得到的道路更加准确。
在一些实施例中,如图6所示,提供了一种道路重建方法,以该方法应用于服务器104进行举例说明,可以理解的是,该方法也可以应用于运动设备102,还可以应用于包括运动设备102和服务器104的系统,并通过运动设备102和服务器104的交互实现。具体地,本实施例中,该方法包括以下步骤:
步骤602,获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定多个参考图像以及各个参考图像各自对应的待变换的目标图像。
步骤604,获取候选距离集合,候选距离集合中的候选距离表示目标道路与拍摄设备的距离。
步骤606,对于候选距离集合中每一个候选距离,根据该候选距离将各个目标图像变换到各自对应的参考图像的视角下,得到各个参考图像对应的变换图像,将各个变换图像与各自对应的参考图像进行对比,得到该候选距离对应的、且与参考图像对应的图像对比结果。
其中,本实施例中参考图像为多个,多个参考图像组成参考图像集合,对于参考图像集合中的每一个参考图像,服务器根据候选距离集合中每一个候选距离将该参考图像对应的目标图像变换到该参考图像对应的视角下,得到该参考图像对应的变换图像,将各个变换图像与该参考图像进行对比,得到与该参考图像对应的图像对比结果,在这些图像对比结果中,根据同一候选距离变换得到的变换图像对应于同一个候选距离。
步骤608,基于各个候选距离各自对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为参考图像对应的目标距离。
其中,距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配。
步骤610,对于参考图像集合中每一个参考图像,获取拍摄设备拍摄该参考图像集合中的剩余参考图像时的拍摄位置,基于目标道路的距离指示向量以及参考图像对应的目标距离,确定目标道路对应的道路表达式。
其中,对于参考图像集合中任意一个参考图像,剩余参考图像指的是参考图像集合中去除该参考图像之后剩余的图像。例如,针对参考图像A的剩余参考图像,是从参考图像集合中去除该参考图像A之后剩余的图像。道路表达式指的是对道路所在平面进行表达的平面方程。在一些实施例中,假设目标道路所在平面为水平面,则道路表达式可以参考以下公式(3),其中,为目标道路所在平面的法向量,为目标距离(即平面方程的截距):
步骤612,基于拍摄位置及道路表达式确定拍摄设备与目标道路之间的模拟位置关系。
步骤614,滤除所对应的模拟位置关系与标准位置关系不一致的目标距离,对于剩余的目标距离,确定所属的候选距离区间。
其中,模拟位置关系指的是在假设该道路表达式可以正确的表达道路平的前提下,拍摄设备与目标道路之间的位置关系。标准位置关系指的是在真实场景中,拍摄设备与目标道路之间的位置关系。可以理解的是,在真实场景中,拍摄设备的位置是位于目标道路所在平面之上的,那么服务器可以计算拍摄位置与目标道路所在平面之间的距离,当该距离为正值时,表明拍摄设备的位置是位于目标道路所在平面之上,即模拟位置关系与标准位置关系一致,当该距离为负值时,表明拍摄设备的位置是位于目标道路所在平面之下,则滤除该模拟位置关系所对应的目标距离。
步骤616,统计属于各个候选距离区间的目标距离的数量,得到各个候选距离区间对应的距离数量。
步骤618,根据候选距离区间对应的距离数量从多个距离区间中选取满足数量条件的候选距离区间,作为目标距离区间。
其中,数量条件包括距离数量大于数量阈值或者数量排序在排序阈值的至少一个。
步骤620,对属于目标距离区间的目标距离进行统计,得到距离统计值,基于距离统计值重建得到目标道路。
上述实施例中,通过参考图像的目标距离建立道路表达式,并用参考图像集合中的剩余参考图像对应的拍摄位置对该道路表达式进行校验,实现了多个参考图像的目标距离之间进行相互校验,通过相互校验可以将明显错误的目标距离进行过滤,避免了错误结果对投票的影响,使得投票结果更加准确,进一步提高了道路重建的准确性。
本申请还提供一种应用场景,该应用场景应用上述的道路重建方法。在该应用场景中,运动设备为在目标道路上行驶的汽车,重建得到的道路可以应用于地图构建。需要说明的是,现有的道路重建方法主要分两类,一类是基于三维视觉进行重建的方法,该类方法利用相机pose和内参对多组图像之间进行像素级稠密匹配,首先恢复出像素深度,然后融合成三维点云,最后通过平面拟合得到地面的平面方程,即地平面的空间法向和高度。另一类是基于深度学习进行重建的方法,该类方法又分为多目和单目两种,与基于三维视觉进行重建的方法类似,也都是通过恢复像素深度融合成三维点云再做平面拟合,但多目方法通过卷积网络对多组图像之间的像素匹配残差进行回归来恢复像素深度,单目方法则通过卷积网络直接恢复单张图像的像素深度。基于三维视觉进行重建的主要缺点是要求重建对象的有较显著细节纹理特征,而道路平面通常只包含稀疏分布的车道线和地面箭头等标志,大部分区域都是黑色柏油路面或者灰色水泥路面,是缺乏细节纹理特征的。基于深度学习进行重建能在一定程度上克服弱纹理的问题,但是依赖真值作为训练数据,而获取真值的成本较高(一般需要激光雷达采集),对于单目方法更是存在泛化性不足的问题。另外,现有技术在恢复像素深度后,仍需要通过点云融合和平面拟合等后处理步骤来得到地平面方程,而像素深度往往带有噪声,这些噪声通常会降低后处理计算的地面平方程的精度。
本申请针对这些缺点,提出一种道路重建的方法,参考图7,为该应用场景中,道路重建方法的整体流程图,在该应用场景中,假设图像由固定在汽车上的行车记录仪/相机采集,首先利用驾驶场景中的“局部范围内俯仰角(pitch)(相机坐标系x轴与水平面的夹角)和横滚角(相机坐标系与地面惯性坐标系)之间的夹角(roll)为0”的先验假设,进行路面法向量估计,得到局部路面法向量,对相机采集的图像集合进行图像路面分割,以提取路面区域,根据路面相对相机可能的高度范围对路面高度(即路面与相机之间的距离)进行离散采样,并在每一个假设高度下(即候选距离)对多张图像进行图像视角变换,通过视角变换后的图像对之间的光度误差进行路面高度搜索,得到最佳路面高度。最后,对多个路面估计结果进行过滤及投票得到最优的高度估计,根据该高度估计重建得到目标道路。
一、路面法向量估计
具体地,获取汽车在图像集合对应的拍摄时间段的运动轨迹,获取图像集合中的当前图像对应的当前图像拍摄时刻,获取当前图像拍摄时刻拍摄设备在运动轨迹上的当前轨迹位置,获取图像集合中的前向图像对应的前向图像拍摄时刻,获取前向图像拍摄时刻拍摄设备在运动轨迹上的前向轨迹位置,基于前向轨迹位置与当前轨迹位置之间的位置差异得到拍摄设备对应的在前向图像拍摄时刻到当前图像拍摄时刻的时间段内的平移向量,将同时垂直于该平移向量和相机在当前图像拍摄时刻对应的x轴向量的单位向量确定为当前图像下目标道路所在平面的法向量,对多个当前图像下目标道路所在平面的法向量求平均,估计出目标道路对应的法向量。
二、图像路面分割
本实施例中,基于以下假设:1、道路近似平面。对于图像中的路面,两个图像间的像素对应关系可以用视角变换关系式来近似表达。2、光度不变假设。同一个物理点在不同图像上的成像应该一致,不会随着时间变化。因此可以将图像中路面区域提取出来。具体可以使用基于深度学习的分割网络CGNet(Context Grided Network),该网络接受图像输入,输出属于路面的图像掩模(mask)。
三、图像视角变换
在进行路面高度搜索之前,将目标道路进行局部区域划分,得到多个运动轨迹区域,每个运动轨迹区域由邻近的K(>=2)个图像组成。从这K张图像中,选取一个图像作为参考图像,其余的为相邻图像,将相邻图像作为待变换的目标图像。每个相邻图像变换到参考图像的视角下,称为视角合成,视角合成即视角变换,得到的图像称为变换图像。
假设对于变换图像上的一个像素位置x1,在源图像(相邻图像)中的对应位置为x2。视角合成的具体步骤包括:在变换图像上,每个当前像素位置x1根据上述公式(1)找到原图像对应的像素位置x2,并将原图像上对应像素位置x2的像素值赋值给当前位置。本实施例中,对每个运动轨迹区域内的K-1个相邻图像都用上述过程合成参考图像视角下得到变换图像。
四、路面高度搜索
路面高度搜索的目的是求解出道路平面方程的截距(即路面高度)。根据之前的描述,对两个图像进行视角合成,需要知道相机的内外参,以及道路平面的法向量和截距。相机的内外参是已知的,道路平面的法向量在上文已经计算得到,从而可以遍历多个假设高度,选取使得所对应的视角变换图像对(即参考图像和变换图像所组成的图像对)相似性最高(即光度误差最小)的假设高度作为最优解。在正确的假设高度下进行视角变换得到的变换图像与参考图像是相似的,而在错误的假设高度下进行视角变换得到的变换图像与参考图像误差较大,参考图8,其中图8中的(a)图为在正确的假设高度下对图3中的(b)图变换至图3中的(a)图的视角下得到的变换图像,对比图8中的(a)图和图3中的(a)图可以看出,这两个图像是相似的,图8中的(b)图为在错误的假设高度下对图3中的(b)图变换至图3中的(a)图的视角下得到的变换图像,对比图8中的(b)图和图3中的(a)图可以看出,这两个图像差异较大,例如,图8中的(b)图的虚线框802区域内的图像和图3中的(a)图中302区域内的图像有明显的不同。可以理解,假设将图8中的(a)图和图3中的(a)图之间的光度误差形成光度误差图A,将图8中的(b)图和图3中的(a)图之间的光度误差形成光度误差图B,则光度误差图A绝大部分区域的像素值接近于0,而光度误差图B中差异区域内的图像像素值较为明显。
其中,参考图像和变换图像之间的光度误差可以通过计算参考图像和变换图像的相似度作为评判指标。参考图像和变换图像的相似度可以通过计算SSIM(StructureSimilarity,结构相似度)并取负得到。在计算SSIM时,只考虑满足以下所有条件的像素:1、在变换图像上,该像素对应的源图像像素位置必须在图像有效范围内;2、在变换图像上,该像素对应的源图像属于目标道路的路面区域;3、在参考图片上,该像素属于目标道路的路面区域。
该光度误差矩阵的维度为(N,D),对应N个相邻图像上D个假设高度的光度误差,其中表示参考图像,代表第n个相邻图像基于假设高度d得到的变换图像。考虑到图像对之间存在非重叠区域,在选取最优假设高度时,先在第一个维度(N)上取最小值,即每个假设高度选取N个相邻图像里,误差最小的那图像作为该假设高度的代表误差值,然后再从D个假设高度对应的代表误差值中选取代表误差值的最小值作为该参考图像对应的最优的地面高度估计(即上文中的目标距离)。
五、结果过滤及投票
在获得每个参考图像的地面高度估计,这些估计结果里可能存在部分野值(outlier),需要对这些包含野值挑选出最可能正确的估计。具体做法是:
1、根据先验将明显错误的地面高度估计进行滤除,比如对于某个参考图像对应的地面高度估计值,根据该地面高度估计值与目标道路对应路面的法向量确定目标道路对应路面的平面方程,基于该平面方程判断其他参考图像在拍摄时的相机位置是否在目标道路对应路面之下,若是,则将该参考图像对应的地面高度估计值滤除,从而可以实现多个参考图像的地面高度估计值之间的相互校验。
2、利用过滤后的多个地面高度估计,在全局下进行离散化投票,先将假设高度划分为多个高度范围,落在同一个高度范围的地面高度估计投票给该高度范围。最后选取票数最多的高度范围,取该高度范围内的所有地面高度估计的平均值作为最终估计出的地面高度(即上文中的距离统计值)。
六、道路重建
将最终估计出的地面高度作为截距,与目标道路所在平面的法向量建立目标道路所在平面的平面方程,具体参考上文中的公式(3),根据该平面方程重建得到目标道路。
上述实施例中,由于不需要逐个像素恢复深度,而是整体优化计算一个地平面的高度,克服了对细节纹理的依赖。另外,该方法能够直接优化出地面方程,不需要点云融合和平面拟合等后处理步骤,更加鲁棒和精确。
在地图众包数据的道路重建中,上述实施例提供的道路重建方法成功率达到97%,与基于三维点云平面拟合的方式相比,鲁棒性更强,成功率提高6%。利用上述实施例所提供的道路重建方法,可以辅助进一步的地面元素重建,如地面箭头和车道线重建。
应该理解的是,虽然图2-图8的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-图8中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一些实施例中,如图9所示,提供了一种道路重建装置900,该装置可以采用软件模块或硬件模块,或者是二者的结合成为计算机设备的一部分,该装置具体包括:
图像获取模块902,用于获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像;
距离获取模块904,用于获取候选距离集合,候选距离集合中的候选距离表示目标道路与拍摄设备的距离;
视角变换模块906,用于根据候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像;
图像对比模块908,用于将变换图像与参考图像进行对比,得到候选距离对应的图像对比结果;
距离筛选模块910,用于基于候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配;
道路重建模块912,用于基于目标距离重建得到目标道路。
上述道路重建装置,通过获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从图像集合中确定参考图像以及参考图像对应的待变换的目标图像,获取表示目标道路与拍摄设备的距离的候选距离集合,对于每一个候选距离,根据该候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,得到该候选距离对应的图像对比结果,基于所有候选距离对应的图像对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离,基于目标距离重建得到目标道路,由于可以基于候选距离将目标图像变换到参考图像所对应的视角下,得到变换图像,将变换图像与参考图像进行对比,而距离筛选条件包括候选距离对应的图像对比结果指示变换图像与参考图像匹配,从而可以从候选距离集合搜索得到目标道路与拍摄设备之间的真实距离,实现了通过计算目标道路与拍摄设备之间的距离来重建目标道路,提高了重建得到的目标道路的准确性。
在一些实施例中,视角变换模块还用于对于变换图像上的变换像素位置,根据变换像素位置以及候选距离确定目标图像上对应的目标像素位置;获取目标像素位置所对应的目标像素值,根据目标像素值得到变换像素位置对应的变换像素值;基于变换像素位置对应的变换像素值形成变换图像。
在一些实施例中,视角变换模块还用于获取目标道路对应的距离指示向量;根据距离指示向量以及候选距离得到参考图像与目标图像之间的视角变换关系;根据视角变换关系以及变换像素位置确定目标图像对应的目标像素位置。
在一些实施例中,拍摄设备安装于在目标道路上运动的运动设备上,视角变换模块还用于获取运动设备在图像集合对应的拍摄时间段的运动轨迹;获取图像集合中的当前图像对应的当前图像拍摄时刻,获取当前图像拍摄时刻拍摄设备在运动轨迹上的当前轨迹位置;获取图像集合中的前向图像对应的前向图像拍摄时刻,获取前向图像拍摄时刻拍摄设备在运动轨迹上的前向轨迹位置;基于前向轨迹位置与当前轨迹位置之间的位置差异得到拍摄设备对应的帧间移动指示信息;基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到目标道路对应的距离指示向量。
在一些实施例中,当前图像为多个,视角变换模块还用于基于帧间移动指示信息以及拍摄设备在当前图像拍摄时刻对应的水平指示向量得到当前图像下目标道路的距离指示向量;对多个当前图像下目标道路的距离指示向量进行统计,得到目标道路对应的距离指示向量。
在一些实施例中,参考图像对应的目标图像为多个,候选距离对应的图像对比结果包括基于各个目标图像得到的图像对比结果;距离筛选模块,还用于对于各个候选距离,从基于各个目标图像得到的图像对比结果中,选取指示图像匹配度最优的图像对比结果,作为候选距离对应的代表对比结果;基于候选距离对应的代表对比结果,从候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离。
在一些实施例中,图像对比模块,还用于分别对参考图像和变换图像进行划分,得到参考图像对应的多个参考图像块以及变换图像对应的多个变换图像块;将参考图像块以及与参考图像块存在图像位置对应关系的变换图像块组成图像对,得到图像对集合;对于图像对集合中的图像对,计算图像对中的图像块之间的像素值变化趋势相关度,以及计算图像对中各个图像块对应的像素值离散度;基于像素值变化趋势相关度以及图像对中各个图像块对应的像素值离散度得到图像对对应的相似度;相似度与像素值变化趋势相关度成正相关关系,相似度与像素值离散度成负相关关系;对图像对集合中各个图像对对应的相似度进行统计,得到统计相似度,基于统计相似度得到候选距离对应的图像对比结果。
在一些实施例中,图像获取模块,还用于从图像集合中选取参考图像;将滤除参考图像的图像集合作为剩余图像集合,确定剩余图像集合中与参考图像存在共视区域的剩余图像,作为参考图像对应的待变换的目标图像。
在一些实施例中,拍摄设备安装于在目标道路上运动的运动设备上,图像集合中包括不同运动设备上的拍摄设备拍摄的图像;图像获取模块,还用于获取拍摄参考图像时参考图像对应的运动设备对应的运动位置,作为参考运动位置;确定参考运动位置所属的运动轨迹区域;从剩余图像集合中选取各个运动设备位于运动轨迹区域时拍摄设备拍摄的图像,作为参考图像对应的待变换的目标图像。
在一些实施例中,参考图像为多个;道路重建模块,还用于确定参考图像对应的目标距离所属的候选距离区间,统计属于各个候选距离区间的目标距离的数量,得到各个候选距离区间对应的距离数量;根据候选距离区间对应的距离数量从多个候选距离区间中选取满足数量条件的候选距离区间,作为目标距离区间,数量条件包括距离数量大于数量阈值或者数量排序在排序阈值的至少一个;对属于目标距离区间的目标距离进行统计,得到距离统计值;基于距离统计值重建得到目标道路。
在一些实施例中,多个参考图像组成参考图像集合;上述装置还包括:过滤模块,用于对于参考图像集合中的参考图像,获取拍摄设备拍摄该参考图像集合中的剩余参考图像时的拍摄位置;基于目标道路的距离指示向量以及参考图像对应的目标距离,确定目标道路对应的道路表达式;基于拍摄位置及道路表达式确定拍摄设备与目标道路之间的模拟位置关系;滤除所对应的模拟位置关系与标准位置关系不一致的目标距离,基于剩余的目标距离进入确定参考图像对应的目标距离所属的候选距离区间,统计属于各个候选距离区间的目标距离的数量,得到各个候选距离区间对应的距离数量的步骤。
关于道路重建装置的具体限定可以参见上文中对于道路重建方法的限定,在此不再赘述。上述道路重建装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一些实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图10所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储对目标道路进行拍摄得到的图像数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种道路重建方法。
本领域技术人员可以理解,图10中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一些实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一些实施例中,提供了一种计算机可读存储介质,存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一些实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (15)
1.一种道路重建方法,其特征在于,所述方法包括:
获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;
获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;
根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;
将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;
基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;
基于所述目标距离重建得到所述目标道路。
2.根据权利要求1所述的方法,其特征在于,所述根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像包括:
对于所述变换图像上的变换像素位置,根据所述变换像素位置以及所述候选距离确定所述目标图像上对应的目标像素位置;
获取所述目标像素位置所对应的目标像素值,根据所述目标像素值得到所述变换像素位置对应的变换像素值;
基于所述变换像素位置对应的变换像素值形成所述变换图像。
3.根据权利要求2所述的方法,其特征在于,所述根据所述变换像素位置以及所述候选距离确定所述目标图像对应的目标像素位置包括:
获取所述目标道路对应的距离指示向量;
根据所述距离指示向量以及所述候选距离得到所述参考图像与所述目标图像之间的视角变换关系;
根据所述视角变换关系以及所述变换像素位置确定所述目标图像对应的目标像素位置。
4.根据权利要求3所述的方法,其特征在于,所述拍摄设备安装于在所述目标道路上运动的运动设备上,所述获取所述目标道路对应的距离指示向量包括:
获取所述运动设备在所述图像集合对应的拍摄时间段的运动轨迹;
获取所述图像集合中的当前图像对应的当前图像拍摄时刻,获取所述当前图像拍摄时刻所述拍摄设备在所述运动轨迹上的当前轨迹位置;
获取所述图像集合中的前向图像对应的前向图像拍摄时刻,获取所述前向图像拍摄时刻所述拍摄设备在所述运动轨迹上的前向轨迹位置;
基于所述前向轨迹位置与所述当前轨迹位置之间的位置差异得到所述拍摄设备对应的帧间移动指示信息;
基于所述帧间移动指示信息以及所述拍摄设备在所述当前图像拍摄时刻对应的水平指示向量得到所述目标道路对应的距离指示向量。
5.根据权利要求4所述的方法,其特征在于,所述当前图像为多个,所述基于所述帧间移动指示信息以及所述拍摄设备在所述当前图像拍摄时刻对应的水平指示向量得到所述目标道路对应的距离指示向量包括:
基于所述帧间移动指示信息以及所述拍摄设备在当前图像拍摄时刻对应的水平指示向量得到所述当前图像下所述目标道路的距离指示向量;
对多个所述当前图像下所述目标道路的距离指示向量进行统计,得到所述目标道路对应的距离指示向量。
6.根据权利要求1所述的方法,其特征在于,所述参考图像对应的目标图像为多个,所述候选距离对应的图像对比结果包括基于各个所述目标图像得到的图像对比结果;所述基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离包括:
对于各个所述候选距离,从基于各个所述目标图像得到的图像对比结果中,选取指示图像匹配度最优的图像对比结果,作为所述候选距离对应的代表对比结果;
基于所述候选距离对应的代表对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离。
7.根据权利要求1所述的方法,其特征在于,所述将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果包括:
分别对所述参考图像和所述变换图像进行划分,得到所述参考图像对应的多个参考图像块以及所述变换图像对应的多个变换图像块;
将所述参考图像块以及与所述参考图像块存在图像位置对应关系的变换图像块组成图像对,得到图像对集合;
对于所述图像对集合中的图像对,计算所述图像对中的图像块之间的像素值变化趋势相关度,以及计算所述图像对中各个图像块对应的像素值离散度;
基于所述像素值变化趋势相关度以及所述图像对中各个图像块对应的像素值离散度得到所述图像对对应的相似度;所述相似度与所述像素值变化趋势相关度成正相关关系,所述相似度与所述像素值离散度成负相关关系;
对所述图像对集合中各个所述图像对对应的相似度进行统计,得到统计相似度,基于所述统计相似度得到所述候选距离对应的图像对比结果。
8.根据权利要求1所述的方法,其特征在于,所述从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像包括:
从所述图像集合中选取参考图像;
将滤除所述参考图像的所述图像集合作为剩余图像集合,确定所述剩余图像集合中与所述参考图像存在共视区域的剩余图像,作为所述参考图像对应的待变换的目标图像。
9.根据权利要求8所述的方法,其特征在于,所述拍摄设备安装于在所述目标道路上运动的运动设备上,所述图像集合中包括不同运动设备上的拍摄设备拍摄的图像;所述确定所述剩余图像集合中与所述参考图像存在共视区域的剩余图像,作为所述参考图像对应的待变换的目标图像包括:
获取拍摄所述参考图像时所述参考图像对应的运动设备对应的运动位置,作为参考运动位置;
确定所述参考运动位置所属的运动轨迹区域;
从所述剩余图像集合中选取各个所述运动设备位于所述运动轨迹区域时拍摄设备拍摄的图像,作为所述参考图像对应的待变换的目标图像。
10.根据权利要求1所述的方法,其特征在于,所述参考图像为多个;所述基于所述目标距离重建得到所述目标道路包括:
确定所述参考图像对应的目标距离所属的候选距离区间,统计属于各个所述候选距离区间的目标距离的数量,得到各个所述候选距离区间对应的距离数量;
根据所述候选距离区间对应的距离数量从多个候选距离区间中选取满足数量条件的候选距离区间,作为目标距离区间,所述数量条件包括距离数量大于数量阈值或者数量排序在排序阈值的至少一个;
对属于所述目标距离区间的目标距离进行统计,得到距离统计值;
基于所述距离统计值重建得到所述目标道路。
11.根据权利要求10所述的方法,其特征在于,多个参考图像组成参考图像集合;所述方法还包括:
对于所述参考图像,获取所述拍摄设备拍摄所述参考图像集合中的剩余参考图像时的拍摄位置;
基于所述目标道路的距离指示向量以及所述参考图像对应的目标距离,确定所述目标道路对应的道路表达式;
基于所述拍摄位置及所述道路表达式确定所述拍摄设备与所述目标道路之间的模拟位置关系;
滤除所对应的模拟位置关系与标准位置关系不一致的目标距离,基于剩余的目标距离进入所述确定所述参考图像对应的目标距离所属的候选距离区间,统计属于各个所述候选距离区间的目标距离的数量,得到各个所述候选距离区间对应的距离数量的步骤。
12.一种道路重建装置,其特征在于,所述装置包括:
图像获取模块,用于获取利用拍摄设备对待重建的目标道路进行拍摄得到的图像集合,从所述图像集合中确定参考图像以及所述参考图像对应的待变换的目标图像;
距离获取模块,用于获取候选距离集合,所述候选距离集合中的候选距离表示所述目标道路与所述拍摄设备的距离;
视角变换模块,用于根据所述候选距离将所述目标图像变换到所述参考图像所对应的视角下,得到变换图像;
图像对比模块,用于将所述变换图像与所述参考图像进行对比,得到所述候选距离对应的图像对比结果;
距离筛选模块,用于基于所述候选距离对应的图像对比结果,从所述候选距离集合中筛选得到满足距离筛选条件的候选距离,作为目标距离;所述距离筛选条件包括所述候选距离对应的图像对比结果指示所述变换图像与所述参考图像匹配;
道路重建模块,用于基于所述目标距离重建得到所述目标道路。
13.根据权利要求12所述的装置,其特征在于,所述视角变换模块还用于对于所述变换图像上的变换像素位置,根据所述变换像素位置以及所述候选距离确定所述目标图像上对应的目标像素位置;获取所述目标像素位置所对应的目标像素值,根据所述目标像素值得到所述变换像素位置对应的变换像素值;基于所述变换像素位置对应的变换像素值形成所述变换图像。
14.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至11中任一项所述的方法的步骤。
15.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至11中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111008793.8A CN113450457B (zh) | 2021-08-31 | 2021-08-31 | 道路重建方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111008793.8A CN113450457B (zh) | 2021-08-31 | 2021-08-31 | 道路重建方法、装置、计算机设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113450457A true CN113450457A (zh) | 2021-09-28 |
CN113450457B CN113450457B (zh) | 2021-12-14 |
Family
ID=77819206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111008793.8A Active CN113450457B (zh) | 2021-08-31 | 2021-08-31 | 道路重建方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113450457B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113642565A (zh) * | 2021-10-15 | 2021-11-12 | 腾讯科技(深圳)有限公司 | 对象检测方法、装置、设备及计算机可读存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102306382A (zh) * | 2011-06-28 | 2012-01-04 | 吉林大学 | 基于道路环境固有特征的事故现场图像校正方法 |
CN102800123A (zh) * | 2010-11-05 | 2012-11-28 | 浙江华震数字化工程有限公司 | 一种便携式图像全息三维重建系统 |
KR101483955B1 (ko) * | 2014-06-03 | 2015-01-22 | 주식회사 우리강산시스템 | 영상이미지의 3차원 위치수정을 통한 음영구간 식별용 영상처리시스템 |
US20170010614A1 (en) * | 2015-02-10 | 2017-01-12 | Mobileye Vision Technologies Ltd. | Autonomous vehicle tail alignment navigation |
WO2017026936A1 (en) * | 2015-08-11 | 2017-02-16 | Scania Cv Ab | Methods and control units for building a database and for predicting a route of a vehicle |
CN106875482A (zh) * | 2017-01-13 | 2017-06-20 | 浙江大学 | 一种同时定位与稠密三维重建方法 |
US20190020861A1 (en) * | 2016-06-30 | 2019-01-17 | Massachusetts Institute Of Technology | High-speed and tunable scene reconstruction systems and methods using stereo imagery |
US20190204439A1 (en) * | 2018-01-03 | 2019-07-04 | Beijing Boe Optoelectronics Technology Co., Ltd. | Three-dimensional reconstruction system and method, mobile device, eye protection method, ar device |
US20190371044A1 (en) * | 2018-06-04 | 2019-12-05 | Baidu Online Network Technology (Beijing) Co., Ltd | Method, apparatus, device and computer readable storage medium for reconstructing three-dimensional scene |
CN112526880A (zh) * | 2020-11-25 | 2021-03-19 | 哈尔滨工业大学 | 一种车辆行驶过程中的路面高度实时估计方法 |
US20210110599A1 (en) * | 2018-03-05 | 2021-04-15 | Tsinghua University | Depth camera-based three-dimensional reconstruction method and apparatus, device, and storage medium |
CN113160406A (zh) * | 2021-04-26 | 2021-07-23 | 北京车和家信息技术有限公司 | 道路三维重建方法、装置、存储介质及电子设备 |
-
2021
- 2021-08-31 CN CN202111008793.8A patent/CN113450457B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102800123A (zh) * | 2010-11-05 | 2012-11-28 | 浙江华震数字化工程有限公司 | 一种便携式图像全息三维重建系统 |
CN102306382A (zh) * | 2011-06-28 | 2012-01-04 | 吉林大学 | 基于道路环境固有特征的事故现场图像校正方法 |
KR101483955B1 (ko) * | 2014-06-03 | 2015-01-22 | 주식회사 우리강산시스템 | 영상이미지의 3차원 위치수정을 통한 음영구간 식별용 영상처리시스템 |
US20170010614A1 (en) * | 2015-02-10 | 2017-01-12 | Mobileye Vision Technologies Ltd. | Autonomous vehicle tail alignment navigation |
WO2017026936A1 (en) * | 2015-08-11 | 2017-02-16 | Scania Cv Ab | Methods and control units for building a database and for predicting a route of a vehicle |
US20190020861A1 (en) * | 2016-06-30 | 2019-01-17 | Massachusetts Institute Of Technology | High-speed and tunable scene reconstruction systems and methods using stereo imagery |
CN106875482A (zh) * | 2017-01-13 | 2017-06-20 | 浙江大学 | 一种同时定位与稠密三维重建方法 |
US20190204439A1 (en) * | 2018-01-03 | 2019-07-04 | Beijing Boe Optoelectronics Technology Co., Ltd. | Three-dimensional reconstruction system and method, mobile device, eye protection method, ar device |
US20210110599A1 (en) * | 2018-03-05 | 2021-04-15 | Tsinghua University | Depth camera-based three-dimensional reconstruction method and apparatus, device, and storage medium |
US20190371044A1 (en) * | 2018-06-04 | 2019-12-05 | Baidu Online Network Technology (Beijing) Co., Ltd | Method, apparatus, device and computer readable storage medium for reconstructing three-dimensional scene |
CN112526880A (zh) * | 2020-11-25 | 2021-03-19 | 哈尔滨工业大学 | 一种车辆行驶过程中的路面高度实时估计方法 |
CN113160406A (zh) * | 2021-04-26 | 2021-07-23 | 北京车和家信息技术有限公司 | 道路三维重建方法、装置、存储介质及电子设备 |
Non-Patent Citations (7)
Title |
---|
B JIA ET AL: "Drivable Road Reconstruction for Intelligent Vehicles Based on Two-View Geometry", 《IN IEEE TRANSACTIONS ON INDUSTRIAL ELECTRONICS》 * |
HONGJUN SONG ET AL: "3-dimension traffic reconstruction by automatic camera calibration under homogenous fog", 《 PROCEEDINGS OF THE 33RD CHINESE CONTROL CONFERENCE》 * |
NING LI ET AL: "3D-Lidar based obstacle detection and fast map reconstruction in rough terrain", 《2020 5TH INTERNATIONAL CONFERENCE ON AUTOMATION, CONTROL AND ROBOTICS ENGINEERING (CACRE)》 * |
TINGTING ZHOU ET AL: "Road Information Extraction from High-Resolution Remote Sensing Images Based on Road Reconstruction", 《REMOTE SENSING》 * |
张楚东: "基于无人机航拍图像的道路重建技术研究", 《中国优秀硕士学位论文全文数据库 基础科学辑》 * |
李卉 等: "基于LiDAR和RS影像的道路三维模型重建研究进展", 《测绘信息与工程》 * |
许宇能 等: "基于单目摄像头的车辆前方道路三维重建", 《汽车技术》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113642565A (zh) * | 2021-10-15 | 2021-11-12 | 腾讯科技(深圳)有限公司 | 对象检测方法、装置、设备及计算机可读存储介质 |
CN113642565B (zh) * | 2021-10-15 | 2022-02-11 | 腾讯科技(深圳)有限公司 | 对象检测方法、装置、设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113450457B (zh) | 2021-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111104867B (zh) | 基于部件分割的识别模型训练、车辆重识别方法及装置 | |
Williams | Depth from camera motion in a real world scene | |
CN111402294A (zh) | 目标跟踪方法、装置、计算机可读存储介质和计算机设备 | |
Košecka | Detecting changes in images of street scenes | |
CN111340922A (zh) | 定位与地图构建的方法和电子设备 | |
CN114240997B (zh) | 一种智慧楼宇在线跨摄像头多目标追踪方法 | |
US11651581B2 (en) | System and method for correspondence map determination | |
Garg et al. | Look no deeper: Recognizing places from opposing viewpoints under varying scene appearance using single-view depth estimation | |
CN112699834A (zh) | 交通标识检测方法、装置、计算机设备和存储介质 | |
Getahun et al. | A deep learning approach for lane detection | |
CN112257668A (zh) | 主辅路判断方法、装置、电子设备及存储介质 | |
CN110636248B (zh) | 目标跟踪方法与装置 | |
CN113450457B (zh) | 道路重建方法、装置、计算机设备和存储介质 | |
Huang et al. | ES-Net: An efficient stereo matching network | |
CN116703996A (zh) | 基于实例级自适应深度估计的单目三维目标检测算法 | |
CN112215205B (zh) | 目标识别方法、装置、计算机设备和存储介质 | |
CN112257666B (zh) | 目标图像内容的聚合方法、装置、设备及可读存储介质 | |
CN115018886A (zh) | 运动轨迹识别方法、装置、设备及介质 | |
CN114332174A (zh) | 轨迹图像对齐方法、装置、计算机设备以及存储介质 | |
CN114399532A (zh) | 一种相机位姿确定方法和装置 | |
CN114119757A (zh) | 图像处理方法、装置、设备、介质和计算机程序产品 | |
KR20230060029A (ko) | 평면 검출 장치 및 방법 | |
Zhou et al. | An anti-occlusion tracking system for UAV imagery based on Discriminative Scale Space Tracker and Optical Flow | |
Wu et al. | Gradient map based Lane detection using CNN and RNN | |
Ding et al. | Stereovision based generic obstacle detection and motion estimation using v-stxiel algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40052364 Country of ref document: HK |