CN112184545A - 车载环视图生成方法、装置及系统 - Google Patents

车载环视图生成方法、装置及系统 Download PDF

Info

Publication number
CN112184545A
CN112184545A CN201910604323.4A CN201910604323A CN112184545A CN 112184545 A CN112184545 A CN 112184545A CN 201910604323 A CN201910604323 A CN 201910604323A CN 112184545 A CN112184545 A CN 112184545A
Authority
CN
China
Prior art keywords
vehicle
group
mounted cameras
splicing
attitude angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910604323.4A
Other languages
English (en)
Inventor
王泽文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision Digital Technology Co Ltd
Original Assignee
Hangzhou Hikvision Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision Digital Technology Co Ltd filed Critical Hangzhou Hikvision Digital Technology Co Ltd
Priority to CN201910604323.4A priority Critical patent/CN112184545A/zh
Publication of CN112184545A publication Critical patent/CN112184545A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4038Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images

Abstract

本申请提供一种车载环视图生成方法,方法包括:获取车载相机采集的车辆周围的图像,车辆包括由链式结构连接的车头和车身,车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;判断车身相对车头的姿态角是否发生变化;若有,依据车身相对车头的姿态角变化信息,确定第一组车载相机采集的图像的第一全景图和第二组车载相机采集的图像的第二全景图;将第一全景图和第二全景图拼接为车载环视图。在合成环视图时,如果姿态角发生变化,通过姿态角变化信息分别获得第一组相机的第一全景图和第二组相机的第二全景图,并对两帧全景图进行二次拼接得到整个环视图,无需计算每相邻两帧图像之间的边界线进行拼接,拼接复杂度低。

Description

车载环视图生成方法、装置及系统
技术领域
本申请涉及图像处理技术领域,尤其涉及一种车载环视图生成方法、装置及系统。
背景技术
带链式结构(如绞盘)的车辆由车头和车身(也可称为拖车)组成。其中,车身与车头之间的链式结构具有非刚性特点,车身会随着车头的移动而移动。对于带链式结构的车辆视野盲区很大,对驾驶员是一种挑战。
目前,为了辅助驾驶员驾驶,通过在车头和车身周围布置车载相机,为了获取车头和车身周围的无缝全景图,需要先确定车身上相机采集的图像与车头上相机采集的图像之间的重合区域,并根据该重合区域确定边界线,然后沿边界线生成车身上相机采集的图像和车头上相机采集的图像的无缝全景图,以供驾驶员查看辅助驾驶。这样,每次生成无缝全景图时,均需要先确定相邻两帧图像之间重合区域的边界线才能生成全景图,拼接复杂度比较高。
发明内容
有鉴于此,本申请提供一种车载环视图生成方法及系统,以解决拼接复杂度比较高的问题。
根据本申请实施例的第一方面,提供一种车载环视图生成方法,所述方法包括:
获取车载相机采集的车辆周围的图像,所述车辆包括由链式结构连接的车头和车身,所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
判断车身相对车头的姿态角是否发生变化;
若变化,则依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;
将所述第一全景图和所述第二全景图拼接为车载环视图。
根据本申请实施例的第二方面,提供一种车载环视图生成系统,所述系统包括:
车载相机,用于采集车辆周围的图像,并发送至处理器,所述车辆包括由链式结构连接的车头和车身;所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
处理器,用于判断车身相对车头的姿态角是否发生变化;若变化,则依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;将所述第一全景图和所述第二全景图拼接为车载环视图。
根据本申请实施例的第三方面,提供一种车载环视图生成装置,所述装置包括:
获取模块,用于获取车载相机采集的车辆周围的图像,所述车辆包括由链式结构连接的车头和车身,所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
判断模块,用于判断车身相对车头的姿态角是否发生变化;
确定模块,用于在判断变化时,依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;
拼接模块,用于将所述第一全景图和所述第二全景图拼接为车载环视图。
应用本申请实施例,在获取到车载相机采集的车辆周围的图像(车辆包括由链式结构连接的车头和车身,车载相机由设置于所述车身上的第一组车载相机和设置于车头上的第二组车载相机组成)时,判断车身相对车头的姿态角是否发生变化,若变化,则依据车身相对车头的姿态角变化信息,确定第一组车载相机采集的图像的第一全景图和第二组车载相机采集的图像的第二全景图,并将第一全景图和第二全景图拼接为车载环视图。
基于上述描述可知,在合成车载环视图时,如果车身相对车头的姿态角发生变化,通过姿态角变化信息分别获得第一组车载相机的第一全景图和第二组车载相机的第二全景图,并对两帧全景图再进行二次拼接得到整个环视图,无需计算每相邻两帧图像之间的边界线进行拼接,拼接复杂度低。
附图说明
图1为本申请根据一示例性实施例示出的一种具有链式结构的车辆的系统结构图;
图2A为本申请根据一示例性实施例示出的一种车载环视图生成方法的实施例流程图;
图2B为本申请根据图2A所示实施例示出的一种姿态角变化感知处理流程;
图2C为本申请根据图2A所示实施例示出的一种车身相对车头的姿态角发生变化的示意图;
图2D为本申请根据图2A所示实施例示出的一种车载环视图合成示意图;
图2E为本申请根据图2A所示实施例示出的另一种车载环视图合成示意图;
图2F为本申请根据图2A所示实施例示出的一种详细处理流程;
图3为本申请根据一示例性实施例示出的一种车载环视图生成装置的实施例结构图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
目前采用的车载环视图合成方式,在每次获取无缝全景图时,需要先确定相邻两帧图像之间重合区域的边界线才能生成全景图,拼接复杂度比较高。
为解决上述问题,本申请提出一种车载环视图生成方法,在获取到车载相机采集的车辆周围的图像(车辆包括由链式结构连接的车头和车身,车载相机由设置于所述车身上的第一组车载相机和设置于车头上的第二组车载相机组成)时,判断车身相对车头的姿态角是否发生变化,若变化,则依据车身相对车头的姿态角变化信息,确定第一组车载相机采集的图像的第一全景图和第二组车载相机采集的图像的第二全景图,并将第一全景图和第二全景图拼接为车载环视图。
基于上述描述可知,在合成车载环视图时,如果车身相对车头的姿态角发生变化,通过姿态角变化信息分别获得第一组车载相机的第一全景图和第二组车载相机的第二全景图,并对两帧全景图再进行二次拼接得到整个环视图,无需计算每相邻两帧图像之间的边界线进行拼接,拼接复杂度低。
图1为本申请根据一示例性实施例示出的一种具有链式结构的车辆的系统结构图,包括车辆、处理器、车载相机(图1中的01、02、03、04、05、06所示);其中,车辆包括由链式结构连接的车头和车身;车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成,用于采集车辆周围的图像,并发送至处理器;处理器用于判断车身相对车头的姿态角是否发生变化;若变化,则依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;将所述第一全景图和所述第二全景图拼接为车载环视图。
其中,由于车身与车头之间的链式结构具有非刚性特点,因此车身会随着车头的移动而移动,即车头牵引着车身运动,车头与车身之间的链式结构可以是绞盘。
在一实施例中,为了保证车载相机能够采集到车辆周围360度视野的图像,车身上设置的第一组车载相机可以至少包括三个车载相机,分别设置于所述车身的两侧和车尾,如上述图1所示,车载相机01设置在车尾,车载相机02和车载相机03分别设置在车身两侧;车头上设置的第二组车载相机也至少包括三个车载相机,,分别设置于所述车头的两侧和车头前方,如上述图1所示,车载相机04设置在车头前方,车载相机05和车载相机06设置在车头两侧。
其中,第一组车载相机位于车身刚体上,相互之间的相对位置固定不变,第二组车载相机位于车头刚体上,相互之间的相对位置固定不变,而第一组车载相机与第二组车载相机之间随着车头和车身的运动存在相对位置变化。
本领域技术人员可以理解的是,车头和车身上还可以再增加车载相机数量,以保证车载相机采集的图像覆盖的更加全面。
在一实施例中,如上述图1所示的系统还可以包括显示屏,用于显示车载环视图,供驾驶员查看。
下面以具体实施例对本申请提出的车载环视图生成方法进行详细阐述。
图2A为本申请根据一示例性实施例示出的一种车载环视图生成方法的实施例流程图,基于上述图1所示的系统实施例,所述车载环视图生成方法可以应用于上述系统中的处理器上,如图2A所示,所述车载环视图生成方法包括如下步骤:
步骤201:获取车载相机采集的车辆周围的图像。
在一实施例中,可以每隔预设时间间隔,从各车载相机中获取当前时刻采集的图像,并将获取的图像作为车辆周围的图像,以用于后续的拼接。
步骤202:判断车身相对车头的姿态角是否发生变化,若变化,则执行步骤203-步骤204,若未变化,则执行步骤205。
在一实施例中,可以通过在车辆上设置姿态检测传感器,进而可依据姿态检测传感器采集的数据确定车身相对车头的当前姿态角,并判断车身相对车头的当前姿态角与已存储的姿态角是否一致,若不一致,则确定车身相对车头的姿态角发生变化,并用所述当前姿态角更新已存储的姿态角;若一致,则确定车身相对车头的姿态角未发生变化。
示例性的,姿态检测传感器可以是陀螺仪传感器、雷达传感器、车轮转角检测传感器等。
以陀螺仪传感器为例,假设车头和车身上分别设置有一个陀螺仪传感器,根据两个陀螺仪传感器在同一时刻采集的在三个方向上的数据可以确定出车身相对车头的当前姿态角。
其中,如果车身相对车头的当前姿态角与已存储的姿态角不一致,表示此时车身相对车头的姿态角发生变化,如果车身相对车头的当前姿态角与已存储的姿态角一致,表示此时车身相对车头的姿态角未发生变化,仍保持上一次确定的姿态角运动。
步骤203:依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图。
在一实施例中,可以依据所述姿态角变化信息更新第一组车载相机对应的第一拼接映射表,并依据更新后的第一拼接映射表对第一组车载相机采集的图像进行拼接,得到第一全景图,同时获取第二组车载相机对应的第二拼接映射表,并依据第二拼接映射表对第二组车载相机采集的图像进行拼接,得到第二全景图。
其中,由第一拼接映射表得到的第一全景图和由第二拼接映射表得到的第二全景图均位于同一图像坐标系中,且该图像坐标系也是车载环视图的图像坐标系。所述第一拼接映射表记录有第一组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置。所述第二拼接映射表是在车头与车身位于同一轴线时,依据第二组车载相机的单应性矩阵得到,其记录有第二组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置。
示例性的,由于是车头牵引着车身运动,因此当车头和车身位于同一轴线,标定车头上设置的第二组车载相机的外参偏航角之后是始终不变的,进而第二组车载相机的单应性矩阵也就始终固定不变,可以预先依据第二组车载相机的单应性矩阵确定出第二拼接映射表并存储,以供后续拼接使用。
值的注意的是,由于车身上的第一组车载相机之间的相对位置固定不变,车头上的第二组车载相机之间的相对位置也是固定不变,因此车身上的第一组车载相机中每一车载相机的外参偏航角均相同,车头上的第二组车载相机的外参偏航角也均相同。车辆在运动过程中是车头牵引着车身运动,因此确定车身相对车头的姿态角即可。在运动过程中,车头上的第二组车载相机的外参偏航角始终不会变化,而车身上的第一组车载相机的外参偏航角会随着姿态角的变化而变化,因此,在车身相对车头的姿态角发生变化时,依据姿态角变化信息更新第一组车载相机的外参偏航角即可。
在一实施例中,由于相机的拼接映射表是由相机的外参偏航角对应的单应性矩阵得到的,因此针对依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表的过程,如图2B所示的姿态角变化处理流程,在感知到姿态角变化信息时,可以先依据所述姿态角变化信息更新所述第一组车载相机的外参偏航角,再依据更新后的外参偏航角更新所述第一组车载相机的单应性矩阵,然后依据所述单应性矩阵更新所述第一拼接映射表。
基于上述描述可知,只要车身相对车头的姿态角发生变化,便可实时更新与之相适应的第一拼接映射表,因此合成的车载环视图效果更好。又由于存储空间中始终存储的是一个姿态角下的拼接映射表,因此可以减少存储空间的消耗。
下面对第一拼接映射表的更新过程进行详细介绍:
如图2C所示,以车身与车头之间的链式结构为原点,车头与车身所在的同一轴线为纵轴,垂直于轴线的方向为横轴建立车辆坐标系,车头与车身位于同一轴线时,车身相对车头的姿态角为0,假设此时第一组车载相机的外参偏航角为
Figure BDA0002120204060000083
车身相对车头的姿态角变化会反映到第一组车载相机的外参偏航角发生变化,从而触发更新第一拼接映射表,假设车身相对车头的当前姿态角由0变为θ,即姿态角变化信息为θ,需要将第一组车载相机的外参偏航角更新为
Figure BDA0002120204060000084
相应的,第一组车载相机的外参偏航角矩阵更新为:
Figure BDA0002120204060000081
第一组车载相机的单应性矩阵为:
H=A×PITCH×YAW×ROLL (公式2)
其中,A表示的是第一组车载相机的内参矩阵,PITCH表示的是第一组车载相机的俯仰角矩阵,ROLL表示的是第一组车载相机的翻滚角矩阵,均为已知量。
第一组车载相机的图像坐标系与车载环视图的图像坐标系之间的关系为:
Figure BDA0002120204060000082
其中,(x,y)表示的是车载环视图中的坐标位置,(x′,y′)表示的是第一组车载相机采集的图像中的坐标位置,x′<M,y′<N,M*N为第一组车载相机采集的图像的分辨率。
由上述公式3便可得到图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置,并更新至第一拼接映射表中。
由上述描述,当第一组车载相机的外参偏航角更新后,其外参偏航角矩阵随之更新,进而第一组车载相机的单应性矩阵H也更新,从而第一组车载相机采集的图像中像素点在车载环视图中的坐标位置也发生变化。
在一实施例中,针对依据更新后的第一拼接映射表对第一组车载相机采集的图像进行拼接,得到第一全景图的过程,可以针对第一组车载相机中的每一车载相机,依据该车载相机对应的第一拼接映射表,将该车载相机采集的图像转换为第一待拼接子图,然后对各帧第一待拼接子图进行拼接得到第一全景图。其中,各帧第一待拼接子图与车载环视图位于同一图像坐标系。
在一实施例中,针对依据第二拼接映射表对第二组车载相机采集的图像进行拼接,得到第二全景图的过程,可以针对第二组车载相机中的每一车载相机,依据该车载相机对应的第二拼接映射表,将该车载相机采集的图像转换为第二待拼接子图,然后对各帧第二待拼接子图进行拼接得到第二全景图。其中,各帧第二待拼接子图与车载环视图位于同一图像坐标系。
其中,针对上述由第一待拼接子图拼接第一全景图和由第二待拼接子图拼接第二全景图的过程,对于两帧子图中具有相同坐标信息的像素点可以采用加权融合方式实现拼接,使得全景图更加平滑。
步骤204:将所述第一全景图和所述第二全景图拼接为车载环视图。
在一实施例中,可以通过对第一全景图和第二全景图之间的重叠区域进行融合,并将融合结果对应填充到车载环视图中,然后将两幅图的非重叠区域直接对应填充到车载环视图,进而获得车载环视图。其中,所述重叠区域指的是两帧全景图中具有相同坐标信息的像素点组成的区域。
示例性的,为了确保两幅图融合的平滑性,可以采用加权融合方式实现重叠区域的融合。
下面以更新第一拼接映射表和不更新第一拼接映射表两种方式合成车载环视图的效果进行对比:
如图2D所示,第一全景图(a)为采用不更新第一拼接映射表的方式拼接得到的,扭曲比较严重,第二全景图(b)为由第二拼接映射表拼接得到的,因此由第一全景图和第二全景图合成得到的车载环视图(c)存在扭曲,不符合人眼感观,效果不佳。
如图2E所示,第一全景图(a)为采用更新第一拼接映射表的方式拼接得到的,不存在扭曲问题,第二全景图(b)为由第二拼接映射表拼接得到的,因此由第一全景图和第二全景图合成得到的车载环视图(c)更符合人眼感观,效果更佳。
步骤205:对获取的图像进行合成得到车载环视图。
在一实施例中,基于上述步骤203-步骤204的描述,在车身相对车头的姿态角未发生变化时,可以直接进行合成,合成过程可以是:依据第一拼接映射表对第一组车载相机采集的图像进行拼接得到第一全景图,依据第二拼接映射表对第二组车载相机采集的图像进行拼接得到第二全景图,最后将第一全景图和第二全景图拼接为车载环视图。
其中,第一全景图、第二全景图以及车载环视图的拼接原理可以参见上述步骤203-步骤204中的相关描述,本申请在此不再详述。
基于上述步骤201-步骤205的描述,如图2F所示,为处理器的详细处理流程,首先通过第一组车载相机的采集模块每隔预设时间间隔从第一组车载相机中获取一次当前时刻采集的图像,同时通过第二组车载相机的采集模块也每隔预设时间间隔从第二组车载相机中获取一次当前时刻采集的图像,以保证两个采集模块获取的是同一时刻的图像,接着判断车身相对车头的姿态是否有变化,如果有变化,则依据姿态变化信息更新第一组车载相机的第一拼接映射表,然后再通过第一合成模块将获取的第一组车载相机的图像合成为第一全景图,通过第二合成模块将获取的第二组车载相机的图像合成为第二全景图,最后通过环视图合成模块将第一全景图和第二全景图拼接为最终的车载环视图;如果没有变化,则直接进行第一全景图和第二全景图的合成,再进行最终车载环视图的合成。
在本申请实施例中,在获取到车载相机采集的车辆周围的图像(车辆包括由链式结构连接的车头和车身,车载相机由设置于所述车身上的第一组车载相机和设置于车头上的第二组车载相机组成)时,判断车身相对车头的姿态角是否发生变化,若变化,则依据车身相对车头的姿态角变化信息,确定第一组车载相机采集的图像的第一全景图和第二组车载相机采集的图像的第二全景图,并将第一全景图和第二全景图拼接为车载环视图。
基于上述描述可知,在合成车载环视图时,如果车身相对车头的姿态角发生变化,通过姿态角变化信息分别获得第一组车载相机的第一全景图和第二组车载相机的第二全景图,并对两帧全景图再进行二次拼接得到整个环视图,无需计算每相邻两帧图像之间的边界线进行拼接,拼接复杂度低。
图3为本申请根据一示例性实施例示出的一种车载环视图生成装置的实施例结构图,基于上述图1所示的系统实施例,所述车载环视图生成装置可以应用于上述系统中的处理器上,如图3所示,所述车载环视图生成装置包括:
获取模块310,用于获取车载相机采集的车辆周围的图像,所述车辆包括由链式结构连接的车头和车身,所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
判断模块320,用于判断车身相对车头的姿态角是否发生变化;
确定模块330,用于在判断变化时,依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;
拼接模块340,用于将所述第一全景图和所述第二全景图拼接为车载环视图。
在一可选实现方式中,所述车辆上设有姿态检测传感器,所述判断模块320,具体用于依据所述姿态检测传感器采集的数据确定车身相对车头的当前姿态角;判断车身相对车头的当前姿态角与已存储的姿态角是否一致;若不一致,则确定车身相对车头的姿态角发生变化,并用所述当前姿态角更新已存储的姿态角;若一致,则确定车身相对车头的姿态角未发生变化。
在一可选实现方式中,所述确定模块330,具体用于依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表;依据更新后的第一拼接映射表对所述第一组车载相机采集的图像进行拼接,得到第一全景图,所述第一拼接映射表记录有第一组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;获取所述第二组车载相机对应的第二拼接映射表,所述第二拼接映射表是在车头与车身位于同一轴线时依据第二组车载相机的单应性矩阵得到,记录有第二组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;依据所述第二拼接映射表对所述第二组车载相机采集的图像进行拼接,得到第二全景图。
在一可选实现方式中,所述确定模块330,具体用于在依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表过程中,依据所述姿态角变化信息更新所述第一组车载相机的外参偏航角;依据更新后的外参偏航角更新所述第一组车载相机的单应性矩阵;依据所述单应性矩阵更新所述第一拼接映射表。
在一可选实现方式中,所述确定模块330,具体用于在依据更新后的第一拼接映射表对所述第一组车载相机采集的图像进行拼接,得到第一全景图过程中,针对所述第一组车载相机中的每一车载相机,依据该车载相机对应的第一拼接映射表,将该车载相机采集的图像转换为第一待拼接子图;对各帧第一待拼接子图进行拼接得到第一全景图;其中,各帧第一待拼接子图与车载环视图位于同一图像坐标系。
在一可选实现方式中,所述确定模块330,具体用于在依据所述第二拼接映射表对所述第二组车载相机采集的图像进行拼接,得到第二全景图过程中,针对所述第二组车载相机中的每一车载相机,依据该车载相机对应的第二拼接映射表,将该车载相机采集的图像转换为第二待拼接子图;对各帧第二待拼接子图进行拼接得到第二全景图;其中,各帧第二待拼接子图与车载环视图位于同一图像坐标系。
对于系统实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的系统实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。

Claims (10)

1.一种车载环视图生成方法,其特征在于,所述方法包括:
获取车载相机采集的车辆周围的图像,所述车辆包括由链式结构连接的车头和车身,所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
判断车身相对车头的姿态角是否发生变化;
若变化,则依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;
将所述第一全景图和所述第二全景图拼接为车载环视图。
2.根据权利要求1所述的方法,其特征在于,所述车辆上设有姿态检测传感器,判断车身相对车头的姿态角是否发生变化,包括:
依据所述姿态检测传感器采集的数据确定车身相对车头的当前姿态角;
判断车身相对车头的当前姿态角与已存储的姿态角是否一致;
若不一致,则确定车身相对车头的姿态角发生变化,并用所述当前姿态角更新已存储的姿态角;
若一致,则确定车身相对车头的姿态角未发生变化。
3.根据权利要求1所述的方法,其特征在于,依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图,包括:
依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表;
依据更新后的第一拼接映射表对所述第一组车载相机采集的图像进行拼接,得到第一全景图,所述第一拼接映射表记录有第一组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;
获取所述第二组车载相机对应的第二拼接映射表,所述第二拼接映射表是在车头与车身位于同一轴线时依据第二组车载相机的单应性矩阵得到,记录有第二组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;
依据所述第二拼接映射表对所述第二组车载相机采集的图像进行拼接,得到第二全景图。
4.根据权利要求3所述的方法,其特征在于,依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表,包括:
依据所述姿态角变化信息更新所述第一组车载相机的外参偏航角;
依据更新后的外参偏航角更新所述第一组车载相机的单应性矩阵;
依据所述单应性矩阵更新所述第一拼接映射表。
5.根据权利要求3所述的方法,其特征在于,依据更新后的第一拼接映射表对所述第一组车载相机采集的图像进行拼接,得到第一全景图,包括:
针对所述第一组车载相机中的每一车载相机,依据该车载相机对应的第一拼接映射表,将该车载相机采集的图像转换为第一待拼接子图;
对各帧第一待拼接子图进行拼接得到第一全景图;
其中,各帧第一待拼接子图与车载环视图位于同一图像坐标系。
6.根据权利要求3所述的方法,其特征在于,依据所述第二拼接映射表对所述第二组车载相机采集的图像进行拼接,得到第二全景图,包括:
针对所述第二组车载相机中的每一车载相机,依据该车载相机对应的第二拼接映射表,将该车载相机采集的图像转换为第二待拼接子图;
对各帧第二待拼接子图进行拼接得到第二全景图;
其中,各帧第二待拼接子图与车载环视图位于同一图像坐标系。
7.一种车载环视图生成系统,其特征在于,所述系统包括:
车载相机,用于采集车辆周围的图像,并发送至处理器,所述车辆包括由链式结构连接的车头和车身;所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
处理器,用于判断车身相对车头的姿态角是否发生变化;若变化,则依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;将所述第一全景图和所述第二全景图拼接为车载环视图。
8.根据权利要求7所述的系统,其特征在于,所述第一组车载相机至少包括三个车载相机,分别设置于所述车身的两侧和车尾;
第二组车载相机至少包括三个车载相机,分别设置于所述车头的两侧和车头前方。
9.一种车载环视图生成装置,其特征在于,所述装置包括:
获取模块,用于获取车载相机采集的车辆周围的图像,所述车辆包括由链式结构连接的车头和车身,所述车载相机由设置于车身上的第一组车载相机和设置于车头上的第二组车载相机组成;
判断模块,用于判断车身相对车头的姿态角是否发生变化;
确定模块,用于在判断变化时,依据车身相对车头的姿态角变化信息,确定所述第一组车载相机采集的图像的第一全景图和所述第二组车载相机采集的图像的第二全景图;
拼接模块,用于将所述第一全景图和所述第二全景图拼接为车载环视图。
10.根据权利要求9所述的装置,其特征在于,所述确定模块,具体用于依据所述姿态角变化信息更新所述第一组车载相机对应的第一拼接映射表;依据更新后的第一拼接映射表对所述第一组车载相机采集的图像进行拼接,得到第一全景图,所述第一拼接映射表记录有第一组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;获取所述第二组车载相机对应的第二拼接映射表,所述第二拼接映射表是在车头与车身位于同一轴线时依据第二组车载相机的单应性矩阵得到,记录有第二组车载相机采集的图像中每一像素点对应在车载环视图的图像坐标系中的坐标位置;依据所述第二拼接映射表对所述第二组车载相机采集的图像进行拼接,得到第二全景图。
CN201910604323.4A 2019-07-05 2019-07-05 车载环视图生成方法、装置及系统 Pending CN112184545A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910604323.4A CN112184545A (zh) 2019-07-05 2019-07-05 车载环视图生成方法、装置及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910604323.4A CN112184545A (zh) 2019-07-05 2019-07-05 车载环视图生成方法、装置及系统

Publications (1)

Publication Number Publication Date
CN112184545A true CN112184545A (zh) 2021-01-05

Family

ID=73915829

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910604323.4A Pending CN112184545A (zh) 2019-07-05 2019-07-05 车载环视图生成方法、装置及系统

Country Status (1)

Country Link
CN (1) CN112184545A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112738382A (zh) * 2021-01-25 2021-04-30 广州敏视数码科技有限公司 一种车辆车头与车身全景环视图像拼接方法
CN113261274A (zh) * 2021-03-29 2021-08-13 华为技术有限公司 一种图像处理方法及相关终端装置
CN113640772A (zh) * 2021-09-16 2021-11-12 招商局检测车辆技术研究院有限公司 车路协同中实现目标感知的方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103763517A (zh) * 2014-03-03 2014-04-30 惠州华阳通用电子有限公司 一种车载环视显示方法及系统
AU2015100986A4 (en) * 2015-07-24 2015-09-10 Vision Automobile Electronics Industrial Co., Ltd. Panorama monitoring device for trailer of combination vehicle
US20160366336A1 (en) * 2015-06-15 2016-12-15 Bendix Commercial Vehicle Systems Llc Dual node composite image system architecture
CN107154022A (zh) * 2017-05-10 2017-09-12 北京理工大学 一种适用于拖车的动态全景拼接方法
CN107627959A (zh) * 2017-09-20 2018-01-26 鹰驾科技(深圳)有限公司 机动车的全景视频监测方法及系统
US20180121742A1 (en) * 2016-11-02 2018-05-03 Lg Electronics Inc. Apparatus for providing around view image, and vehicle
CN109509153A (zh) * 2019-01-24 2019-03-22 北京大椽科技有限公司 一种拖挂车图像的全景拼接方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103763517A (zh) * 2014-03-03 2014-04-30 惠州华阳通用电子有限公司 一种车载环视显示方法及系统
US20160366336A1 (en) * 2015-06-15 2016-12-15 Bendix Commercial Vehicle Systems Llc Dual node composite image system architecture
AU2015100986A4 (en) * 2015-07-24 2015-09-10 Vision Automobile Electronics Industrial Co., Ltd. Panorama monitoring device for trailer of combination vehicle
US20180121742A1 (en) * 2016-11-02 2018-05-03 Lg Electronics Inc. Apparatus for providing around view image, and vehicle
CN107154022A (zh) * 2017-05-10 2017-09-12 北京理工大学 一种适用于拖车的动态全景拼接方法
CN107627959A (zh) * 2017-09-20 2018-01-26 鹰驾科技(深圳)有限公司 机动车的全景视频监测方法及系统
CN109509153A (zh) * 2019-01-24 2019-03-22 北京大椽科技有限公司 一种拖挂车图像的全景拼接方法及系统

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112738382A (zh) * 2021-01-25 2021-04-30 广州敏视数码科技有限公司 一种车辆车头与车身全景环视图像拼接方法
CN113261274A (zh) * 2021-03-29 2021-08-13 华为技术有限公司 一种图像处理方法及相关终端装置
CN113640772A (zh) * 2021-09-16 2021-11-12 招商局检测车辆技术研究院有限公司 车路协同中实现目标感知的方法及系统

Similar Documents

Publication Publication Date Title
JP7245295B2 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
CN109435852B (zh) 一种针对大型卡车的全景式辅助驾驶系统及方法
CN100401323C (zh) 监视设备以及显示鸟瞰视图的方法
CN105763854B (zh) 一种基于单目摄像头的全景成像系统及其成像方法
US7554573B2 (en) Drive assisting system
US8553081B2 (en) Apparatus and method for displaying an image of vehicle surroundings
EP1701306B1 (en) Driving support system
CN100438623C (zh) 图象处理装置及监视系统
US8446471B2 (en) Method and system for generating surrounding seamless bird-view image with distance interface
JP3286306B2 (ja) 画像生成装置、画像生成方法
CN112184545A (zh) 车载环视图生成方法、装置及系统
US9682655B2 (en) Method and device for operating a vehicle
WO2013145582A1 (ja) 駐車支援装置、及び駐車支援方法
JP2008077628A (ja) 画像処理装置並びに車両周辺視界支援装置及び方法
EP2631696B1 (en) Image generator
JP2018531530A5 (zh)
JP2018531530A6 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
CN101442618A (zh) 用于车辆辅助驾驶的360度环形视频合成方法
CN104859538A (zh) 车辆图像显示系统中基于视觉的物体感测和突出显示
JPWO2006087993A1 (ja) 周辺監視装置および周辺監視方法
CN104321224A (zh) 具有摄像机监控系统的机动车
JP2002135765A (ja) カメラキャリブレーション指示装置及びカメラキャリブレーション装置
CN104584541A (zh) 图像生成设备、图像显示系统、参数获取设备、图像生成方法和参数获取方法
JP2010103730A (ja) 車載カメラのキャリブレーション装置およびキャリブレーション方法
JP2007282060A (ja) 車両周囲映像作成装置及び車両周囲映像作成方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination