CN114612574A - 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 - Google Patents
一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 Download PDFInfo
- Publication number
- CN114612574A CN114612574A CN202210270213.0A CN202210270213A CN114612574A CN 114612574 A CN114612574 A CN 114612574A CN 202210270213 A CN202210270213 A CN 202210270213A CN 114612574 A CN114612574 A CN 114612574A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- camera
- calibration
- panoramic
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4038—Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20164—Salient point detection; Corner detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30264—Parking
Abstract
本发明涉及一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,步骤包括:S101:对车载相机进行内参标定,得到内参矩阵K及畸变向量D;S102:在车辆四周摆放并固定多个棋盘格标定板;S103:采集车载相机图像和无人机相机图像;S104:对车载相机和无人机相机图像进行预处理;S105:根据车载相机和无人机图像计算单应性矩阵H;S106:对车载相机图像进行鸟瞰图转换及全景拼接。本发明提供的标定方法仅需小型标定板即可灵活标定,且无位置要求,能大幅提高标定效率并达到较高的标定精度;此外本发明提供的转换拼接方法能达到较好的效果及实时性,并便于根据需求调整结果。
Description
技术领域
本发明涉及相机标定和图像处理领域,尤其是涉及一种用于车载环视相机的全景鸟瞰图标定及转换拼接方法。
背景技术
随着自动驾驶技术的发展,作为其中十分重要的一环,感知系统的重要性不断提高。以视觉为主导的感知技术为各级别的自动驾驶提供了必要的基础及保障,例如车载环视系统,通过车载相机得到全景图像并在此基础上进行进一步的检测与决策,目前在自动泊车、车道保持等领域得到了广泛应用。
为了更好地得到车辆周围的图像信息并减小盲区,车载环视系统通常由多个鱼眼相机组成,并安装在车辆的前后左右。通过对车载相机原始图像进行变换,得到最终鸟瞰视角图像并拼接成为完整的全景鸟瞰图。
由于鱼眼相机具有很大的视野范围,得到的原始图像为球形,故首先需要对其进行去畸变处理。由于相机传感器在制造安装时不可避免地存在一定误差,其光轴、焦距等参数与标准值有一定偏差,相机内参需要通过标定得到。鱼眼相机的畸变模型则由一个多项式组成的函数进行描述,并在标定过程中通过非线性优化确定。故鱼眼相机标定的目的是为了获取相机内参K和畸变系数D,根据这两个参数即可完成图像的去畸变处理。
为了将去畸变后的相机图像转换为鸟瞰图视角,还需要确定相机的外部参数,即对相机所在位置的描述,可以由旋转矩阵、平移矩阵或其他形式进行表示。根据各个相机的内参和外参,即可得到转换后的鸟瞰图,再根据各相机视角、位置等进行拼接,得到全景鸟瞰图。其中拼接方法包括预先划分好不重叠的各区域,直接将各相机图像进行拼接,但接缝处过渡不自然,或者通过一些算法进行融合拼接,接缝处过渡平顺,具有较好的视觉效果。
对于相机外参的标定,现有的方法通常需要精确确定标定板角点在真实世界坐标系中的具体坐标,并根据标定板角点在车载相机图像中的像素坐标,计算对应关系,以此得到变换为鸟瞰图的投影变换矩阵H。
然而,目前这些标定方法具有很多缺点,例如,对标定板位置的精度要求极高,使用标定板标定时,通过手工测量标定板或其角点的实际距离确定位置,具有很大的误差;抑或者通过巨大的标定布进行标定,以此确定角点位置,但对车辆停放位置的精度要求较高,且标定过程繁琐,需要较多的人力成本,同时可能由于标定布不平整、地面不平、车辆位置不准等原因导致精度不高;或者一些标定方法还需要已知并精确确定相机间的相对位置,增加了标定的复杂性,也难以消除安装误差;此外,对于相机图像中的标定板角点,常用手动标注找点并对应,增加了时间成本,也带来了一定的误差。
对于高精度要求的商用产品,企业通常采用的方法是制造专用的标定间,在地板和墙面精确放置标定板,并精确固定车辆位置,从而达到需要的精度。这样的方法仍然是基于传统的标定方法,需要花费巨大的成本,且不够灵活,标定过程也比较繁琐。
综上所述,现有标定方法的效率很低,精度也不高,并具有很多局限性,且基于传统方法的标定,若要提高精度则会带来成本的陡增。
发明内容
本发明是为解决上述现有技术存在的缺陷而提出的一种用于车载环视相机的全景鸟瞰图标定及转换拼接方法。
本发明的目的可以通过以下技术方案来实现:
一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,步骤包括:
S101:对车载相机进行内参标定,得到内参矩阵K及畸变向量D;
S102:在车辆四周摆放并固定多个棋盘格标定板;
S103:采集车载相机图像和无人机相机图像;
S104:对车载相机和无人机相机图像进行预处理;
S105:根据车载相机和无人机图像计算单应性矩阵H;
S106:对车载相机图像进行鸟瞰图转换及全景拼接。
优选地,所述的车载相机为鱼眼环视相机,在车辆前后左右处各安装一个,其安装的高度及角度可以使视野范围覆盖鸟瞰图所需范围,相邻车载相机具有一定的视野重叠区域。
优选地,所述的对车载相机进行内参标定,是使用一块平整的棋盘格标定板并采用特定相机内参标定算法进行标定。
优选地,所述的相机内参标定算法可以完成相机的在线标定和离线标定,包含鱼眼相机和普通相机模型,同时支持相机、视频、图像三种输入,生成相机内参K和畸变向量D,并显示重投影误差。其中:
D=[k1,k2,k3,k4],k1-k4为鱼眼相机畸变模型多项式的系数,该多项式为
θd=θ(1+k1θ2+k2θ4+k3θ6+k4θ8),θ和θd为畸变前后距中心的距离。
优选地,所述的在车辆四周摆放并固定多个棋盘格标定板,与现有方法不同,无需精确控制其位置,任意摆放保证标定板在相机图像中清晰完整即可。
优选地,所述的标定板由固定大小的黑白相间的棋盘格组成,且长宽方向格数不相等,内角点数不少于20个。
优选地,所述的采集车载相机图像,同时要用角点检测算法对图像进行检测,确保标定板的角点可以检出,并捕获当前帧图像保存至存储设备中。
优选地,所述的无人机相机图像,需要将无人机飞至车辆中心正上方,并确保无人机相机能够完整清晰拍摄到所有的标定板,捕获该帧图像保存至存储设备中。
优选地,所述的对车载相机和无人机相机图像进行预处理,是根据内参标定得到内参矩阵K及畸变向量D对车载相机图像进行去畸变处理,并使用新的相机内参Knew调整图像焦距和画幅保证视野范围,对无人机相机图像进行旋转、裁剪、居中和缩放等操作,达到理想的鸟瞰图尺寸和视野范围,同时保证标定的统一性。其中:
优选地,所述的根据车载相机和无人机图像计算单应性矩阵H,是通过角点检测算法得到车载相机和无人机相机图像中的标定板角点坐标,分别选取对应的4个点坐标解线性方程得到单应性矩阵,并通过RANSAC算法迭代最优解。其中:
优选地,所述的对车载相机图像进行鸟瞰图转换,是根据相机内参K和畸变向量D计算去畸变映射矩阵,再根据单应性矩阵H计算单应性变换后的映射矩阵,通过最终的映射矩阵实现车载相机图像到鸟瞰图的变换。
优选地,所述的全景拼接,是通过车辆尺寸和鸟瞰图尺寸计算图像掩膜MASK,在相邻相机图像重叠部分计算权重,根据带权重的MASK进行加权求和的运算得到最终全景拼接鸟瞰图。其中:
与现有技术相比,本发明具有以下优点:
(1)本发明仅需多个小型标定板即可完成标定,成本低,效率高;
(2)在标定时不需要精确确定标定板位置,可以任意摆放,对车辆停放位置和角度也没有要求,灵活性强;
(3)对相机安装位置没有严格要求,无需测量其位置,标定方法可以适用于任意车型,通用性强;
(4)通过角点检测算法得到坐标,降低人力成本,减小误差;
(5)使用无人机标定更加灵活自由,且以无人机相机图像作为全景鸟瞰图参考,可以通过调整无人机相机图像实现视野、尺寸、朝向等不同需求的鸟瞰图结果。
附图说明
图1为本发明标定及转换拼接方法整体流程;
图2为本发明实施例中的标定板示意图;
图3为本发明实施例中的标定场景俯视图;
图4为本发明实施例中的无人机采集标定图像;
图5为本发明实施例中的图像预处理流程;
图6为本发明实施例中的融合拼接图像MASK(以前相机为例);
图7为本发明实施例中的原始相机图像及最终鸟瞰图拼接结果。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
本发明实施例所提供的一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,标定方法整体流程如图1所示,其步骤包括:
S101、对车载相机进行内参标定,得到内参矩阵K及畸变向量D。
其中,车载相机为鱼眼环视相机,在车辆前后左右处各安装一个,其安装的高度及角度可以使视野范围覆盖鸟瞰图所需范围,相邻车载相机具有一定的视野重叠区域。
举例来说,车载相机可以安装于车头车牌上方、车尾车牌上方、左后视镜和右后视镜处,向下倾斜一定角度消除近处视野盲区。
除此之外,车载相机也可以是普通相机或其他广角相机,数量可以多于4个,只需保证车辆周围基本没有盲区且相邻相机存在共视区域即可。
相机内参标定采用自编代码基于OpenCV实现,可以完成相机的在线标定和离线标定,包含鱼眼相机和普通相机模型,同时支持相机、视频、图像三种输入,生成相机内参K和畸变向量D,并显示重投影误差。其中:
D=[k1,k2,k3,k4],k1-k4为鱼眼相机畸变模型多项式的系数,该多项式为
θd=θ(1+k1θ2+k2θ4+k3θ6+k4θ8),θ和θd为畸变前后距中心的距离。
如图2所示,标定板使用黑白相间的棋盘格标定板,内部四个黑白格交界处的点即为需要检测的角点,为能识别标定板的横纵方向,需要标定板横纵方向上的棋盘格数不一致,同时尽量增加内角点的数量以确保标定的鲁棒性。标定板要平直、准确,以提高标定结果的精度;并选取合适的大小,在便于使用的同时不能过小,以免标定板在图中的尺寸过小而难以检测角点。在本实施例中,选用的标定板内角点数为7*6,每小格黑白格的边长为100mm。
相机内参标定时,需要手持一块标定板在相机前移动,以得到不同距离、角度的标定板图像,相机每间隔一定帧数采集图像,检测图像中的标定板角点坐标用以计算,根据鱼眼相机模型优化得到最终的标定相机内参K和畸变向量D。在标定时,要保证光线条件良好,同时在移动标定板时减小晃动和运动模糊。为提高标定精度,需要采集足够数量、较高质量且分布均匀的图像,并根据去畸变的图像以及重投影误差进行判断。
若使用相机在线内参标定,即时采集图像进行计算,可以实时显示出不断优化的去畸变图以及重投影误差,达到稳定的较好效果后停止,得到标定结果,方便快捷。此外也可以存储一系列标定板图像或视频,之后手动处理并筛选再进行标定计算,能够更好地保证标定精度。
S102、在车辆四周摆放并固定多个棋盘格标定板。
其中,标定板可以采用上述内参标定提及的棋盘格标定板,即如图2所示。
图3为标定场景的俯视图,如图所示,标定板摆放时,没有严格的位置要求,在相机视野内一定范围任意摆放即可。例如,使用四块标定板时,则在车辆前后左右相机处各摆放一块,将其固定在地面上防止发生位移。为了便于后续的处理,尽量选择适当的距离并保证光线良好,防止标定板在图中过小或者不清晰导致难以检测角点。
S103、采集车载相机图像和无人机相机图像。
固定好标定板后,分别采集车载相机的图像,并使用角点检测算法对图像进行验证,确保检测无误,则存储该图像。此外,为利于角点的检测,可以手动调整图像的曝光、对比度等参数使得棋盘格标定板更加清晰。
图4为无人机采集标定图像的示意图,如图所示,无人机需要搭载较高分辨率的平面相机(若采用广角相机等则需如S101所述进行内参标定),调整为向下视角,飞至车辆上空。此时尽量保证无人机位于车辆正中心的上方,飞行高度至少保证相机可以完整拍下将所有标定板,按照视野范围需求调整,待无人机稳定后采集相机图像。该步骤中对于无人机的位置和高度同样没有严格要求,但尽量保证无人机的稳定以及相机与地面平行。
S104、对车载相机和无人机相机图像进行预处理。
图5为图像预处理的流程,分别对车载相机和无人机相机图像进行处理。
利用S101中相机内参标定得到的相机内参K和畸变向量D对原始车载相机进行去畸变处理,同时使用新的相机内参Knew调整图像的光轴位置处于正中央,并调整焦距的大小,避免在去畸变时对图像裁剪过多使得视野过小导致相邻相机缺少共视区域,其中:
对无人机相机图像进行旋转,使得与最终需求的鸟瞰图朝向一致;并裁剪至与最终需求的鸟瞰图的比例一致;之后对图像进行居中,可以用矩形框恰好包围车辆,矩形框中心平移至图像中心完成居中,消除无人机的水平位置误差;最后根据棋盘格标定板在图中的像素尺寸对整体图像进行缩放,消除无人机的高度误差,并达到需求的物理比例尺以及最终图像的整体尺寸。此时预处理后的无人机图像即为参考鸟瞰图,复制多份,每张图片手动遮盖住其他标定板只保留其一,与预处理后的对应车载相机的图像组成一组对应图像。
S105、根据车载相机和无人机图像计算单应性矩阵H。
将前后左右相机的几组对应图像分别输入,通过角点检测算法得到车载相机和无人机相机图像中的标定板角点坐标,选取对应的4个点坐标解线性方程得到单应性矩阵,实际输入大量的坐标点时,可以通过RANSAC算法迭代多次得到最终的四个相机的单应性矩阵H。基于OpenCV计算单应性矩阵时,可以使用findhomography函数实现。其中:
S106、对车载相机图像进行鸟瞰图转换及全景拼接。
根据最终的鸟瞰图尺寸以及车辆在鸟瞰图中所占尺寸,可以划分出各相机的视野区域,并以此得到对应的图像掩膜MASK。根据步骤S101所得到的标定参数,将原始图像通过相机内参K、畸变向量D以及新的相机内参得到去畸变图像,由单应性矩阵H计算变换后的鸟瞰视角图,与图像掩膜MASK进行与运算得到对应区域的鸟瞰图,最后将四个相机的鸟瞰图拼接为完整的全景鸟瞰图。
为了提高实时性,可以将去畸变、鸟瞰视角变换等步骤合并计算成一个映射矩阵,实现车载相机图像直接到最终鸟瞰视角的映射变换。
为了进一步提升效果,并解决相邻相机接缝处的不平顺问题,可以采用融合算法进行鸟瞰图的全景拼接。四个相机分别保留更大的区域,并在相邻相机图像重叠部分计算权重,即在重叠区域以区域内点到边界的距离占比作为权重,达到图像渐变效果,以前相机为例,得到的图像掩膜MASK如图6所示。最后根据带权重的MASK进行加权求和的运算得到最终全景拼接鸟瞰图。其中:
图7展示了本实施例下原始的相机图像输入以及最终生成的全景拼接鸟瞰图。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,其特征在于,步骤包括:
S101:对车载相机进行内参标定,得到内参矩阵K及畸变向量D;
S102:在车辆四周摆放并固定多个棋盘格标定板;
S103:采集车载相机图像和无人机相机图像;
S104:对车载相机和无人机相机图像进行预处理;
S105:根据车载相机和无人机图像计算单应性矩阵H;
S106:对车载相机图像进行鸟瞰图转换及全景拼接。
2.根据权利要求1所述的一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,其特征在于,所述车载相机为鱼眼环视相机,在车辆前、后、左、右处各安装一个,车载相机安装的高度及角度能使视野范围覆盖鸟瞰图所需范围,且相邻的车载相机具有一定的视野重叠区域。
3.根据权利要求1所述的一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,其特征在于,所述步骤S101对车载相机进行内参标定,是使用一块平整的棋盘格标定板并采用特定相机内参标定算法进行标定。
5.根据权利要求1所述的一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,其特征在于,所述棋盘格标定板由固定大小的黑白相间的棋盘格组成,且长宽方向格数不相等,内角点数不少于20个;所述棋盘格标定板无需精确控制其位置,任意摆放保证所述棋盘格标定板在相机图像中清晰完整即可。
8.根据权利要求1所述的一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法,其特征在于,所述的对车载相机图像进行鸟瞰图转换,是根据相机内参K和畸变向量D计算去畸变映射矩阵,再根据单应性矩阵H计算单应性变换后的映射矩阵,通过最终的映射矩阵实现车载相机图像到鸟瞰图的变换。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210270213.0A CN114612574A (zh) | 2022-03-18 | 2022-03-18 | 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210270213.0A CN114612574A (zh) | 2022-03-18 | 2022-03-18 | 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114612574A true CN114612574A (zh) | 2022-06-10 |
Family
ID=81865105
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210270213.0A Pending CN114612574A (zh) | 2022-03-18 | 2022-03-18 | 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114612574A (zh) |
-
2022
- 2022-03-18 CN CN202210270213.0A patent/CN114612574A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110197466B (zh) | 一种广角鱼眼图像矫正方法 | |
CN110211043B (zh) | 一种用于全景图像拼接的基于网格优化的配准方法 | |
CN109903227B (zh) | 基于相机几何位置关系的全景影像拼接方法 | |
CN103198487B (zh) | 一种用于视频监控系统中的自动定标方法 | |
CN105118055B (zh) | 摄影机定位修正标定方法及系统 | |
CN108257183B (zh) | 一种相机镜头光轴校准方法和装置 | |
CN110782394A (zh) | 全景视频快速拼接方法及系统 | |
EP1378790B1 (en) | Method and device for correcting lens aberrations in a stereo camera system with zoom | |
CN107492069B (zh) | 基于多镜头传感器的图像融合方法 | |
CN102438153B (zh) | 多摄像机图像校正方法和设备 | |
CN108805801A (zh) | 一种全景图像校正方法及系统 | |
WO2014023231A1 (zh) | 宽视场超高分辨率光学成像系统及方法 | |
CN106952219B (zh) | 一种基于外参数修正鱼眼像机的图像生成方法 | |
CN106651859A (zh) | 一种多路鱼眼相机标定装置及方法 | |
CN112949478A (zh) | 基于云台相机的目标检测方法 | |
KR20090078463A (ko) | 왜곡 영상 보정 장치 및 방법 | |
CN106886976B (zh) | 一种基于内参数修正鱼眼像机的图像生成方法 | |
CN206460515U (zh) | 一种基于立体标定靶的多路鱼眼相机标定装置 | |
CN115239820A (zh) | 一种分体式飞行车辆鸟瞰图实时拼接及车位检测方法 | |
CN113793270A (zh) | 一种基于无人机姿态信息的航拍图像几何校正方法 | |
CN113362228A (zh) | 基于改进畸变校正和标记拼接的环视图像拼接方法及系统 | |
CN111461963A (zh) | 一种鱼眼图像拼接方法及装置 | |
CN112348775A (zh) | 基于车载环视的路面坑塘检测系统及方法 | |
CN114549666B (zh) | 一种基于agv的环视图像拼接标定方法 | |
CN107302668A (zh) | 一种基于转轮动态分光的高动态范围成像模块 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |