CN110751693A - 用于相机标定的方法、装置、设备和存储介质 - Google Patents
用于相机标定的方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN110751693A CN110751693A CN201911002086.0A CN201911002086A CN110751693A CN 110751693 A CN110751693 A CN 110751693A CN 201911002086 A CN201911002086 A CN 201911002086A CN 110751693 A CN110751693 A CN 110751693A
- Authority
- CN
- China
- Prior art keywords
- points
- camera
- extrinsic
- module configured
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本公开的实施例提供了用于相机标定的方法、装置、设备和计算机可读存储介质,涉及自动驾驶领域。该方法包括:从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合;以及基于第一点集合和第二点集合,确定相机的外参数,外参数指示相机坐标系与世界坐标系的转换关系。由此,可以更为准确地标定相机的外参数。
Description
技术领域
本公开的实施例主要涉及计算机技术领域,可以用于自动驾驶,并且更具体地,涉及用于相机标定的方法、装置、设备以及计算机可读存储介质。
背景技术
近年来,自动驾驶技术的发展越来越迅速。自动驾驶技术的基础是对车辆周围环境的感知,即识别周围环境的具体状况。已经提出,除了利用车载的传感器装置(例如,车载激光雷达或者车载相机)进行环境感知之外,还可以通过车外的传感器装置(例如,安装在路侧的相机)来获取车辆的环境信息,以更好地支持自动驾驶技术。然而,由于某些原因,安装在路侧的相机的安装位置可能相对于初始安装位置出现抖动,进而影响例如基于路侧相机所捕获的图像数据所确定的车辆或障碍物的位置的准确性。这种位置的误差对于自动驾驶可能是无法接受的。
发明内容
根据本公开的实施例,提供了一种用于相机标定的方案。
在本公开的第一方面中,提供了一种用于相机标定的方法。该方法包括:从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合;以及基于第一点集合和第二点集合,确定相机的外参数,外参数指示相机坐标系与世界坐标系的转换关系。由此,可以更为准确地标定相机的外参数。
在本公开的第二方面中,提供了一种用于相机标定的装置。该装置包括:第一点集合确定模块,被配置为从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;第二点集合确定模块,被配置为基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合;以及外参数确定模块,被配置为基于第一点集合和第二点集合,确定相机的外参数,外参数指示相机坐标系与世界坐标系的转换关系。
在本公开的第三方面中,提供了一种电子设备,包括一个或多个处理器;以及存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现根据本公开的第一方面的方法。
在本公开的第四方面中,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现根据本公开的第一方面的方法。
应当理解,发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征,亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
结合附图并参考以下详细说明,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标注表示相同或相似的元素,其中:
图1示出了本公开的多个实施例能够在其中实现的示例环境的示意图;
图2示出了根据本公开的一些实施例的用于相机标定的方法的流程图;
图3示出了根据本公开的一些实施例的用于确定第一点集合的示例方法的流程图;
图4示出了将三维坐标点投影到二维图像的示意图;
图5示出了根据本公开的一些实施例的用于确定相机的外参数的示例方法的流程图;
图6示出了根据本公开的一些实施例的用于确定相机的外参数的装置的示意性结构框图;以及
图7示出了能够实施本公开的多个实施例的计算设备的框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
在本公开的实施例的描述中,术语“包括”及其类似用语应当理解为开放性包含,即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。
如本文中使用的,术语“相机的外参数”例如可以是在相机坐标系与世界坐标系之间进行转换所需要的参数,例如平移矩阵、旋转矩阵,等等。术语“相机的内参数”例如可以是在图像坐标系和/或像素坐标系与相机坐标系之间进行转换所需要的参数,例如平移矩阵、旋转矩阵,等等。“标定相机的外参数”可以是指对相机坐标系与世界坐标系之间的转换参数的确定。
在本公开的上下文中,世界坐标系可以是指覆盖全球范围的参考坐标系统,其例如可以用于辅助车辆的自动驾驶或自主停车等,其示例包括UTM坐标系统、经纬度坐标系统,等等。相机坐标系的原点可以位于成像设备的光心,竖轴(z轴)可以与成像设备的光轴重合,横轴(x轴)和纵轴(y轴)可以与成像平面平行。像素坐标系的原点可以在图像的左上角,横轴和纵轴可以分别为图像所在的像素行和像素列,单位可以为像素。图像坐标系的原点可以在图像的中心(即像素坐标系的中点),横轴和纵轴与像素坐标系平行,单位为可以毫米。但是,将理解,在其他的实施例中,这些坐标系也可以按照在本领域中所接受的其他合理的方式被定义。
如前面提及的,由于某些原因,安装在路侧的相机的安装位置可能相对于初始安装位置出现抖动,进而影响例如基于路侧相机所捕获的图像数据所确定的车辆或障碍物的位置的准确性。
根据本公开的各种实施例,提供了一种相机标定的方案。在本公开的实施例中,从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合;以及基于第一点集合和第二点集合,确定相机的外参数,外参数指示相机坐标系与世界坐标系的转换关系。由此,可以更为准确地标定相机的外参数。
应理解到,根据本公开实施例的方案不仅适用于没有GPS信号的场景中的成像设备的参数标定,而且适用于有GPS信号的场景中的成像设备的参数标定。根据本公开实施例的方案,可以提高成像设备的参数标定的灵活性和普适性。
以下将参照附图来具体描述本公开的实施例。
图1示出了本公开的多个实施例能够在其中实现的示例环境100的示意图。在该示例环境100中示意性示出了一些典型物体,包括道路102、以及在道路102上行驶的车辆110。如图1所示,道路102例如包括停止标志线115-1和车道标志线115-2(单独或统一称为标志线115),此外,环境100中还包括用于感测道路102的环境信息的相机105。应当理解,这些示出的设施和物体仅是示例,根据实际情况,不同交通环境中存在可能出现的物体将会变化。本公开的范围在此方面不受限制。
车辆110可以是可以承载人和/或物并且通过发动机等动力系统移动的任何类型的车辆,包括但不限于轿车、卡车、巴士、电动车、摩托车、房车、火车等等。环境100中的一个或多个车辆110可以是具有一定自动驾驶能力的车辆,这样的车辆也被称为无人驾驶车辆。当然,环境100中的另外一个或一些车辆110还可以是不具有自动驾驶能力的车辆。
在一些实施例中,相机105可以被布置在道路102的上方。在一些实施例中,相机105例如还可以被布置在道路102的两侧。如图1所示,相机105可以通信地耦合到计算设备120。虽然被示出为单独的实体,但计算设备120可以被嵌入在相机105中。计算设备120也可以是相机105外部的实体,并且可以经由无线网络与相机105通信。计算设备120可以被实现为一个或多个计算设备,其至少包含处理器、存储器以及其他通常存在于通用计算机中的组件,以便实现计算、存储、通信、控制等功能。
在一些实施例中,相机105可以获取与道路102相关的环境信息(例如,车道线信息、道路边界信息或障碍物信息),并将该环境信息发送至车辆110,以用于车辆110的行驶决策。在一些实施例中,相机105也可以基于相机的外参数和内参数以及所捕获的车辆110的图像,以确定车辆110的位置,并将该位置发送至车辆110,以实现车辆110的定位。能够看到,无论是获取准确的环境信息,还是确定准确的位置信息,确定相机准确的内参数及外参数都是必须的。
以下将结合图2至图5来描述根据本公开的实施例的相机标定的过程。图2示出了根据本公开的实施例的用于相机标定的方法200的流程图。方法200例如可以由图1中所示的计算设备120来执行。
如图2所示,在框202,计算设备120从由相机105所捕获的二维图像中确定与预定的参考线对应的第一点集合。在一些实施例中,参考线例如可以是环境中正交的两条线,例如图1中所示的道路102的车道标志线115-2和停止标志线115-1。在一些实施例中,参考线例如也可以是用于标定目的而在道路102上喷涂的特殊的标志线,例如一组或多组相交线。在一些实施例中,当已知至少两个特征点在世界坐标系和图像坐标系中的位置时,参考线也可以仅包括一条线。
在一些实施例中,计算设备120可以通过图像识别技术以从相机105所捕获的二维图像中确定与参考线对应的第一点集合。以下将参考图3来描述框202的具体过程。图3示出了根据本公开实施例的确定第一点集合的过程202的流程图。
如图3所示,在框302,计算设备120可以获取二维图像的掩码图像。根据本公开的一些实施例,计算设备120可以获取由经校准后的相机105捕获的二维图像,其中在掩码图像中位于参考线上的点和位于参考线外的点被不同地标识。以图1作为示例,计算设备120可以利用标志线检测模型来确定标志线115(停止标志线115-1和车道标志线115-2),可以在掩码图像中将被确定为停止标志线115-1和车道标志线115-2的点标记为白色,而将其他点标记为黑色,从而形成掩码图像。
例如,图4示出了将三维位置投影到二维图像的示意图400。如图4所示,停止标志线115-1和车道标志线115-2被示出为图4中的斜线区域。
在一些实施例中,计算设备120可以在获取二维图像前对相机105进行内参数标定。内参数是指与成像设备自身特性相关的参数。以相机为例,内参数是指比如焦距、像素大小等参数。在一些实施例中,相机105可以经畸变校正后捕获该二维图像。在一些实施例中,相机105可以经内参数标定和畸变校正后捕获该二维图像。由此可以有利于提高相机的外参数标定的准确性。
在框304,计算设备120可以从掩码图像中确定与位于参考线上的点相对应的区域的中心线。在一些实施例中,计算设备120例如可以利用骨骼提取模型来确定被标记为标志线115的区域的中心线。
在框306,计算设备120可以基于中心线确定第一点集合。在一些实施例中,计算设备120利用可以对所确定的中心线进行采样,以确定中心线上的多个点,以构成第一点集合。例如,如图4所示,计算设备120可以确定与标志线115所对应的多个点405(在图4中被示出为黑色实心点),所标识的多个点405构成第一点集合。
继续参考图2,在框204,计算设备120基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合。在一些实施例中,三维地图可以由地图数据采集车来采集环境100相关的信息并且基于这样的信息而生成。例如,针对没有GPS信号的场景,可以通过即时定位与地图构建(SLAM)方法,让采集车从室外有GPS信号的位置驶入该场景,利用车载激光雷达、摄像头以及环视影像采集系统来采集道路环境信息,之后进行识别和融合,以将采集到的数据叠加在一起,生成三维地图。应理解到,可以通过其它任意合适方式来生成三维地图,本申请对三维地图的生成方式并不做任何限制。
根据本公开的一些实施例,计算设备120可以从三维地图确定与参考线对应的位置信息。例如,计算设备120可以确定停止标志线115-1和车道标志线115-2在三维地图中的位置信息,这样的位置信息例如可以被表示为一组三维坐标点。
在一些实施例中,计算设备120可以获取相机105的初始外参数。在一些实施例,初始外参数例如可以是在安装相机105时所确定的,其至少可以指示相机105在世界坐标系中的位置和角度。在一些实施例中,初始外参数例如也可以是上次标定相机105所确定的外参数。
在一些实施例中,计算设备120可以基于初始外参数和参考线在三维地图中的位置信息,确定二维图像中的第二点集合。在一些实施例中,计算设备120可以基于初始外参数和相机105已知的内参数,而将位置信息所对应的一组三维坐标点投影到二维图像所对应的图像坐标系或像素坐标系中,从而获得第二点集合。
例如,如图4所示,基于参考线(例如,标志线115)在三维地图中的位置信息,计算设备120可以确定与位置信息所对应一组三维坐标点在二维图像中的投影点410(在图4中被示出为空心点)。该组投影点410构成了第二点集合。应当理解,第二点集合例如可以仅考虑落在二维图像的范围内的点。例如,由于三维地图中车道标志线115-2的距离较长,某些点可能被投影到二维图像外的点,这些点可以不被加入到第二点集合中。
继续参考图2,在框206,计算设备120基于第一点集合和第二点集合确定相机105的外参数,其中外参数指示相机坐标系与世界坐标系的转换关系。计算设备120可以基于第一点集合与第二点集合的匹配来确定相机105的外参数。以下将参考图5来描述框206的具体过程。图5示出了根据本公开实施例的确定外参数的过程的流程图。
如图5所示,在框502,计算设备120可以确定第一点集合和第二点集合的距离,其中该距离基于第二点集合中的点与第一点集合中的对应点之间的距离而确定。在一些实施例中,计算设备120可以从第一点集合中确定与第二点集合中的每个投影点相对应的临近点,其中临近点表示第一点集合中与投影点距离最近的点。例如,对于图4的示例,与投影点410最近的临近点为点405。
计算设备120随后可以确定第二点集合中的每个点与对应的临近点的距离。在一些实施例中,计算设备120例如可以将所有距离的总和确定作为第一点集合和第二点集合的距离。在一些实施例中,计算设备120例如还可以将所有距离的平均值确定作为第一点集合和第二点集合之间的距离。
在框504,根据第一点集合和第二点集合的距离大于预定的阈值的确定,计算设备120可以调整相机105的初始外参数。在一些实施例中,在一些实施例中,计算设备120可以基于最小重投影误差方法来调整相机105的初始外参数。具体地,计算设备120可以确定所述距离关于所述外参数的雅可比(Jacobi)矩阵,例如该雅可比矩阵可以表示为:
其中e表示第二点集合中的投影点与对应的临近点的距离,δξ表示位姿在李代数下的表示,其中X、Y、Z表示投影点在世界坐标系中的坐标,X’、Y’、Z’表示经位姿变换后在相机坐标系中的位置,fx、fy表示相机105的内参数,由此可见,雅可比矩阵给出了距离关于位姿的导数。计算设备120进一步可以基于所确定的雅克比矩阵来调整相机105的初始外参数。
在框506,计算设备120可以基于经调整的外参数确定经更新的第二点集合。应当理解,计算设备120可以利用经调整的外参数和相机105的内参数来将三维地图中与参考线对应的一组三维坐标点投影到二维图像中,以获得经更新的第二点集合。
在框508,计算设备120可以确定所述第一点集合与所述经更新的第二点集合的距离小于或等于预定的阈值。响应于在框508确定距离仍大于阈值,则方法可以进行到框504,继续调整外参数,即进入下一次迭代。响应于在框508确定距离小于或等于预定的阈值时,则方法可以进行到框510,即计算设备120可以将经调整的外参数确定为相机的外参数。
在一些实施例中,迭代的终止条件也可以被设置为当迭代达到预定的次数即终止迭代。也即,当第一点集合与第二点集合的距离大于预定的阈值时,计算设备120例如可以基于雅可比矩阵来调整初始的外参数直到调整的次数达到预定的次数阈值。计算设备120可以将迭代终止时所调整的初始外参数确定为相机105的外参数。
在一些实施例中,计算设备120也可以通过姿态搜索的方法来调整相机105的初始外参数。具体地,计算设备120可以通过搜索外参数所对应的六个自由度,即相机的安装位置的三维坐标以及相机的角度(俯仰角、偏航角和翻滚角),并搜索可能的解空间中使得第一点集合和第二点集合距离最近的外参数。
在一些实施例中,如上文所描述的,参考线可以包括在世界坐标系中两条相交的线。基于上文的最小重投影误差方法或者姿态搜索的方法可以确定最优的外参数。
在一些实施例中,参考线例如可以仅包括一条线,例如,仅包括车道标志线115-2,在这种情况下,仅基于车道标志线115-2在三维地图中的位置信息和二维地图中的对应点可能无法获得唯一的外参数。在该实施例中,计算设备120可以利用已知位置的参考点作为另一约束来求解最优的外参数。具体地,计算设备120在确定外参数时,可以在满足将已知世界坐标系中的绝对位置的参考点匹配到二维图像中的参考点的前提下,通过最小冲投影误差或姿态搜索使得参考点所对应的第一点集合和第二点集合的距离小于预定的阈值,从而获得最优的外参数。应当理解,参考点可以是任何已知世界坐标的点,例如,已知位置的交通标志、已知位置的喷涂的参考点、或者其他任何已知位置的参考物。
基于上文所述的方法,本公开的实施例可以利用环境中的参考线在三维地图中的位置,并将这些位置投影到基于图像识别所获取的二维图像中,并通过位置匹配来确定相机的外参数。通过这样的方式,本公开的实施例可以克服例如安装在路侧的相机难以被标定的缺陷,进而更为准确地确定相机的外参数,从而为准确的环境感知和定位确定提供支持。
在一些实施例中,由相机105捕获的二维图像还可以用于障碍物检测。应当理解,障碍物检测和上文所描述的相机标定过程例如可以利用不同的线程而并行地进行,从而提高处理效率。在一些实施例中,当从二维图像检测到障碍物时,计算设备120可以确定二维图像中与障碍物所对应的区域。应当理解,障碍物可以包括任何的动态障碍物,例如,车辆、行人、或动物等,障碍物也可以包括任何的静态障碍物。本公开不旨在对障碍物的类型进行任何的限定。
进一步地,计算设备120可以基于所确定的外参数和该区域,确定障碍物在世界坐标系中的位置。具体地,计算设备120可以利用相机已知的内参数和经确定的外参数,实现该区域从图像坐标系到世界坐标系的转换。
在一些实施例中,计算设备120还可以提供障碍物在世界坐标系中的位置。例如,计算设备120可以向周边的车辆(例如,车辆110)广播关于道路102的障碍物信息,从而为车辆的自动驾驶决策提供基础。在一些实施例中,计算设备120还可以基于所确定的外参数例如确定车辆110的位置,并将该位置发送至车辆110以实现车辆110的定位。
应当理解,虽然本公开的方法参考路测相机的示例来进行描述,但是应当理解,这样的环境仅是示意性的,本公开的方法还可以用于例如位于其他位置的相机(例如,安装在车辆上的相机的初始标定)的标定。本公开不旨在对相机所安装的位置进行任何的限定。
本公开的实施例还提供了用于实现上述方法或过程的相应装置。图6示出了根据本公开的一些实施例的相机标定的装置600的示意性结构框图。该装置600可以在例如图1的计算设备120处实施。
如图6所示,装置600可以包括第一点集合确定模块610,被配置为从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合。装置600还可以包括第二点集合确定模块620,被配置为基于参考线在三维地图中的位置信息,从二维图像中确定第二点集合。此外,装置600还可以包括外参数确定模块630,被配置为基于第一点集合和第二点集合,确定相机的外参数,外参数指示相机坐标系与世界坐标系的转换关系。
在一些实施例中,第一点集合确定模块610包括:掩码图像获取模块,被配置为获取二维图像的掩码图像,其中在掩码图像中位于参考线上的点和位于参考线外的点被不同地标识;中心线确定模块,被配置为从掩码图像中确定与位于参考线上的点相对应的区域的中心线;以及第一确定模块,被配置为基于中心线,确定第一点集合。
在一些实施例中,第二点集合确定模块620包括:初始外参数获取模块,被配置为获取相机的初始外参数;以及第二确定模块,被配置为基于初始外参数和位置信息,确定第二点集合。
在一些实施例中,外参数确定模块630包括:第一调整模块,被配置为响应于第一点集合与第二点集合的距离大于预定的阈值,调整相机的初始外参数,其中距离基于第二点集合中的点与第一点集合中的对应点之间的距离而确定;第三确定模块,被配置为基于经调整的初始外参数确定经更新的第二点集合;以及第一迭代输出模块,被配置为响应于第一点集合与经更新的第二点集合的距离小于或等于预定的阈值,将经调整的初始外参数确定为相机的外参数。
在一些实施例中,第一调整模块包括:雅可比矩阵确定模块,被配置为确定距离关于外参数的雅可比矩阵;以及第二调整模块,被配置为基于雅可比矩阵调整初始外参数。
在一些实施例中,外参数确定模块630包括:第三调整模块,被配置为响应于第一点集合与第二点集合的距离大于预定的阈值,调整相机的初始外参数直到调整的次数达到预定的次数阈值,其中距离基于第二点集合中的点与第一点集合中的对应点之间的距离而确定;以及第二迭代输出模块,被配置为将经调整的初始外参数确定为相机的外参数。
在一些实施例中,装置600还包括:区域确定模块,被配置为响应于从二维图像检测到障碍物,确定二维图像中与障碍物对应的区域;以及位置确定模块,被配置为基于外参数和区域,确定障碍物在世界坐标系中的位置。
在一些实施例中,装置600还包括:提供模块,被配置为提供障碍物的位置。
装置600中所包括的单元可以利用各种方式来实现,包括软件、硬件、固件或其任意组合。在一些实施例中,一个或多个单元可以使用软件和/或固件来实现,例如存储在存储介质上的机器可执行指令。除了机器可执行指令之外或者作为替代,装置600中的部分或者全部单元可以至少部分地由一个或多个硬件逻辑组件来实现。作为示例而非限制,可以使用的示范类型的硬件逻辑组件包括现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准品(ASSP)、片上系统(SOC)、复杂可编程逻辑器件(CPLD),等等。
图6中所示的这些单元可以部分或者全部地实现为硬件模块、软件模块、固件模块或者其任意组合。特别地,在某些实施例中,上文描述的流程、方法或过程可以由存储系统或与存储系统对应的主机或独立于存储系统的其它计算设备中的硬件来实现。
图7示出了可以用来实施本公开的实施例的示例设备700的示意性框图。设备700可以用于实现计算设备120。如图所示,设备700包括中央处理单元(CPU)701,其可以根据存储在只读存储器(ROM)702中的计算机程序指令或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序指令,来执行各种适当的动作和处理。在RAM 703中,还可存储设备700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理单元701执行上文所描述的各个方法和处理,例如方法200。例如,在一些实施例中,方法200可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由CPU 701执行时,可以执行上文描述的方法200的一个或多个步骤。备选地,在其他实施例中,CPU 701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
此外,虽然采用特定次序描绘了各操作,但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行,或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地,在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (18)
1.一种用于相机标定的方法,包括:
从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;
基于所述参考线在三维地图中的位置信息,从所述二维图像中确定第二点集合;以及
基于所述第一点集合和所述第二点集合,确定所述相机的外参数,所述外参数指示相机坐标系与世界坐标系的转换关系。
2.根据权利要求1所述的方法,其中确定所述第一点集合包括:
获取所述二维图像的掩码图像,其中在所述掩码图像中位于所述参考线上的点和位于所述参考线外的点被不同地标识;
从所述掩码图像中确定与位于所述参考线上的点相对应的区域的中心线;以及
基于所述中心线,确定所述第一点集合。
3.根据权利要求1所述的方法,其中确定所述第二点集合包括:
获取所述相机的初始外参数;以及
基于所述初始外参数和所述位置信息,确定所述第二点集合。
4.根据权利要求1所述的方法,其中确定所述相机的外参数包括:
响应于所述第一点集合与所述第二点集合的距离大于预定的阈值,调整所述相机的初始外参数,其中所述距离基于所述第二点集合中的点与所述第一点集合中的对应点之间的距离而确定;
基于经调整的初始外参数确定经更新的第二点集合;以及
响应于所述第一点集合与所述经更新的第二点集合的距离小于或等于预定的阈值,将经调整的初始外参数确定为所述相机的所述外参数。
5.根据权利要求4所述的方法,其中调整所述初始外参数包括:
确定所述距离关于所述外参数的雅可比矩阵;以及
基于所述雅可比矩阵调整所述初始外参数。
6.根据权利要求1所述的方法,其中确定所述相机的外参数包括:
响应于所述第一点集合与所述第二点集合的距离大于预定的阈值,调整初始的外参数直到调整的次数达到预定的次数阈值,其中所述距离基于所述第二点集合中的点与所述第一点集合中的对应点之间的距离而确定;以及
将经调整的初始外参数确定为所述相机的所述外参数。
7.根据权利要求1所述的方法,还包括:
响应于从所述二维图像检测到障碍物,确定所述二维图像中与所述障碍物对应的区域;以及
基于所述外参数和所述区域,确定所述障碍物在所述世界坐标系中的位置。
8.根据权利要求7所述的方法,还包括:
提供所述障碍物的所述位置。
9.一种用于相机标定的装置,包括:
第一点集合确定模块,被配置为从由相机所捕获的二维图像中确定与预定的参考线对应的第一点集合;
第二点集合确定模块,被配置为基于所述参考线在三维地图中的位置信息,从所述二维图像中确定第二点集合;以及
外参数确定模块,被配置为基于所述第一点集合和所述第二点集合,确定所述相机的外参数,所述外参数指示相机坐标系与世界坐标系的转换关系。
10.根据权利要求9所述的装置,其中所述第一点集合确定模块包括:
掩码图像获取模块,被配置为获取所述二维图像的掩码图像,其中在所述掩码图像中位于所述参考线上的点和位于所述参考线外的点被不同地标识;
中心线确定模块,被配置为从所述掩码图像中确定与位于所述参考线上的点相对应的区域的中心线;以及
第一确定模块,被配置为基于所述中心线,确定所述第一点集合。
11.根据权利要求9所述的装置,其中所述第二点集合确定模块包括:
初始外参数获取模块,被配置为获取所述相机的初始外参数;以及
第二确定模块,被配置为基于所述初始外参数和所述位置信息,确定所述第二点集合。
12.根据权利要求9所述的装置,其中所述外参数确定模块包括:
第一调整模块,被配置为响应于所述第一点集合与所述第二点集合的距离大于预定的阈值,调整所述相机的初始外参数,其中所述距离基于所述第二点集合中的点与所述第一点集合中的对应点之间的距离而确定;
第三确定模块,被配置为基于经调整的初始外参数确定经更新的第二点集合;以及
第一迭代输出模块,被配置为响应于所述第一点集合与所述经更新的第二点集合的距离小于或等于预定的阈值,将经调整的所述外参数确定为所述相机的所述外参数。
13.根据权利要求12所述的装置,其中所述第一调整模块包括:
雅可比矩阵确定模块,被配置为确定所述距离关于所述外参数的雅可比矩阵;以及
第二调整模块,被配置为基于所述雅可比矩阵调整所述初始外参数。
14.根据权利要求9所述的装置,其中所述外参数确定模块包括:
第三调整模块,被配置为响应于所述第一点集合与所述第二点集合的距离大于预定的阈值,调整所述相机的初始外参数直到调整的次数达到预定的次数阈值,其中所述距离基于所述第二点集合中的点与所述第一点集合中的对应点之间的距离而确定;以及
第二迭代输出模块,被配置为将经调整的所述外参数确定为所述相机的所述外参数。
15.根据权利要求9所述的装置,还包括:
区域确定模块,被配置为响应于从所述二维图像检测到障碍物,确定所述二维图像中与所述障碍物对应的区域;以及
位置确定模块,被配置为基于所述外参数和所述区域,确定所述障碍物在所述世界坐标系中的位置。
16.根据权利要求15所述的装置,还包括:
提供模块,被配置为提供所述障碍物的所述位置。
17.一种电子设备,所述设备包括:
一个或多个处理器;以及
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一项所述的方法。
18.一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911002086.0A CN110751693B (zh) | 2019-10-21 | 2019-10-21 | 用于相机标定的方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911002086.0A CN110751693B (zh) | 2019-10-21 | 2019-10-21 | 用于相机标定的方法、装置、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110751693A true CN110751693A (zh) | 2020-02-04 |
CN110751693B CN110751693B (zh) | 2023-10-13 |
Family
ID=69279123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911002086.0A Active CN110751693B (zh) | 2019-10-21 | 2019-10-21 | 用于相机标定的方法、装置、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110751693B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340890A (zh) * | 2020-02-20 | 2020-06-26 | 北京百度网讯科技有限公司 | 相机外参标定方法、装置、设备和可读存储介质 |
CN113763504A (zh) * | 2021-03-26 | 2021-12-07 | 北京四维图新科技股份有限公司 | 地图更新方法、系统、车载终端、服务器及存储介质 |
CN113870365A (zh) * | 2021-09-30 | 2021-12-31 | 北京百度网讯科技有限公司 | 相机标定方法、图像生成方法、装置、设备以及存储介质 |
CN114140533A (zh) * | 2020-09-04 | 2022-03-04 | 华为技术有限公司 | 摄像头外参标定的方法与装置 |
CN115082898A (zh) * | 2022-07-04 | 2022-09-20 | 小米汽车科技有限公司 | 障碍物检测方法、装置、车辆及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104657982A (zh) * | 2015-01-15 | 2015-05-27 | 华中科技大学 | 一种投影仪标定方法 |
CN106340044A (zh) * | 2015-07-09 | 2017-01-18 | 上海振华重工电气有限公司 | 摄像机外参自动标定方法及标定装置 |
CN107862719A (zh) * | 2017-11-10 | 2018-03-30 | 未来机器人(深圳)有限公司 | 相机外参的标定方法、装置、计算机设备和存储介质 |
CN108182699A (zh) * | 2017-12-28 | 2018-06-19 | 北京天睿空间科技股份有限公司 | 基于二维图像局部变形的三维配准方法 |
CN109166156A (zh) * | 2018-10-15 | 2019-01-08 | Oppo广东移动通信有限公司 | 一种摄像头标定图像的生成方法、移动终端及存储介质 |
CN110135376A (zh) * | 2019-05-21 | 2019-08-16 | 北京百度网讯科技有限公司 | 确定图像传感器的坐标系转换参数的方法、设备和介质 |
CN110148185A (zh) * | 2019-05-22 | 2019-08-20 | 北京百度网讯科技有限公司 | 确定坐标系转换参数的方法、装置、电子设备和存储介质 |
-
2019
- 2019-10-21 CN CN201911002086.0A patent/CN110751693B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104657982A (zh) * | 2015-01-15 | 2015-05-27 | 华中科技大学 | 一种投影仪标定方法 |
CN106340044A (zh) * | 2015-07-09 | 2017-01-18 | 上海振华重工电气有限公司 | 摄像机外参自动标定方法及标定装置 |
CN107862719A (zh) * | 2017-11-10 | 2018-03-30 | 未来机器人(深圳)有限公司 | 相机外参的标定方法、装置、计算机设备和存储介质 |
CN108182699A (zh) * | 2017-12-28 | 2018-06-19 | 北京天睿空间科技股份有限公司 | 基于二维图像局部变形的三维配准方法 |
CN109166156A (zh) * | 2018-10-15 | 2019-01-08 | Oppo广东移动通信有限公司 | 一种摄像头标定图像的生成方法、移动终端及存储介质 |
CN110135376A (zh) * | 2019-05-21 | 2019-08-16 | 北京百度网讯科技有限公司 | 确定图像传感器的坐标系转换参数的方法、设备和介质 |
CN110148185A (zh) * | 2019-05-22 | 2019-08-20 | 北京百度网讯科技有限公司 | 确定坐标系转换参数的方法、装置、电子设备和存储介质 |
Non-Patent Citations (2)
Title |
---|
刘孝星: "基于视觉跟踪的机器人伺服系统研究", 《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》 * |
欧阳元新,熊璋: "《物联网引论》", 31 May 2016 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340890A (zh) * | 2020-02-20 | 2020-06-26 | 北京百度网讯科技有限公司 | 相机外参标定方法、装置、设备和可读存储介质 |
CN111340890B (zh) * | 2020-02-20 | 2023-08-04 | 阿波罗智联(北京)科技有限公司 | 相机外参标定方法、装置、设备和可读存储介质 |
CN114140533A (zh) * | 2020-09-04 | 2022-03-04 | 华为技术有限公司 | 摄像头外参标定的方法与装置 |
CN113763504A (zh) * | 2021-03-26 | 2021-12-07 | 北京四维图新科技股份有限公司 | 地图更新方法、系统、车载终端、服务器及存储介质 |
CN113763504B (zh) * | 2021-03-26 | 2024-06-04 | 北京四维图新科技股份有限公司 | 地图更新方法、系统、车载终端、服务器及存储介质 |
CN113870365A (zh) * | 2021-09-30 | 2021-12-31 | 北京百度网讯科技有限公司 | 相机标定方法、图像生成方法、装置、设备以及存储介质 |
CN115082898A (zh) * | 2022-07-04 | 2022-09-20 | 小米汽车科技有限公司 | 障碍物检测方法、装置、车辆及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110751693B (zh) | 2023-10-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110378965B (zh) | 确定路侧成像设备坐标系转换参数的方法、装置、设备 | |
CN110148185B (zh) | 确定成像设备坐标系转换参数的方法、装置和电子设备 | |
CN110766760B (zh) | 用于相机标定的方法、装置、设备和存储介质 | |
CN110751693B (zh) | 用于相机标定的方法、装置、设备和存储介质 | |
CN110146869B (zh) | 确定坐标系转换参数的方法、装置、电子设备和存储介质 | |
AU2018282302B2 (en) | Integrated sensor calibration in natural scenes | |
CN110163930B (zh) | 车道线生成方法、装置、设备、系统及可读存储介质 | |
TWI722355B (zh) | 用於基於障礙物檢測校正高清晰度地圖的系統和方法 | |
CN110766761B (zh) | 用于相机标定的方法、装置、设备和存储介质 | |
CN110728720B (zh) | 用于相机标定的方法、装置、设备和存储介质 | |
CN113657224B (zh) | 车路协同中用于确定对象状态的方法、装置、设备 | |
JP2020085886A (ja) | 乗物、乗物測位システム、及び乗物測位方法 | |
CN110969055B (zh) | 用于车辆定位的方法、装置、设备和计算机可读存储介质 | |
US10996337B2 (en) | Systems and methods for constructing a high-definition map based on landmarks | |
CN111652072A (zh) | 轨迹获取方法、轨迹获取装置、存储介质和电子设备 | |
CN113252022B (zh) | 一种地图数据处理方法及装置 | |
CN116997771A (zh) | 车辆及其定位方法、装置、设备、计算机可读存储介质 | |
CN114841188A (zh) | 一种基于二维码的车辆融合定位方法及装置 | |
CN112424568A (zh) | 构建高清地图的系统和方法 | |
WO2022133986A1 (en) | Accuracy estimation method and system | |
CN114648576B (zh) | 一种目标车辆的定位方法、装置以及系统 | |
CN117523005A (zh) | 一种相机标定方法及装置 | |
CN117953046A (zh) | 数据处理方法、装置、控制器、车辆及存储介质 | |
CN117809285A (zh) | 一种应用于港口外集卡的交通标志牌测距方法与系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |