CN103366339B - 车载多广角摄像头图像合成处理装置及方法 - Google Patents

车载多广角摄像头图像合成处理装置及方法 Download PDF

Info

Publication number
CN103366339B
CN103366339B CN201310255713.8A CN201310255713A CN103366339B CN 103366339 B CN103366339 B CN 103366339B CN 201310255713 A CN201310255713 A CN 201310255713A CN 103366339 B CN103366339 B CN 103366339B
Authority
CN
China
Prior art keywords
image
road
deformation
initial
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310255713.8A
Other languages
English (en)
Other versions
CN103366339A (zh
Inventor
周敬
赵君
赵一君
梁海声
贺荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANGHAI LONGDI INFORMATION SYSTEM Co Ltd
XIAMEN LONGDI INFORMATION SYSTEM Co Ltd
Original Assignee
SHANGHAI LONGDI INFORMATION SYSTEM Co Ltd
XIAMEN LONGDI INFORMATION SYSTEM Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHANGHAI LONGDI INFORMATION SYSTEM Co Ltd, XIAMEN LONGDI INFORMATION SYSTEM Co Ltd filed Critical SHANGHAI LONGDI INFORMATION SYSTEM Co Ltd
Priority to CN201310255713.8A priority Critical patent/CN103366339B/zh
Publication of CN103366339A publication Critical patent/CN103366339A/zh
Application granted granted Critical
Publication of CN103366339B publication Critical patent/CN103366339B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明提供一种车载多广角摄像头图像合成处理装置及其方法,该处理装置包括:影像获取单元,获取四路影像;影像编排单元,用于将四路影像进行缩放及顺序设定;图像变形处理单元,用于对四路影像中的每一路影像进行图像变形处理,获得四路变形图像;图像分层单元,用于将四路变形图像分配至不同的显示图层以形成四个图像显示层;图像剪切及拼接单元,用于将四个图像显示层进行叠加,通过计算对叠加后的图像进行裁剪及拼接,获得车载全景监控视频图像并将其予以显示。相对于现有技术,本发明获得的车载全景监控视频图像中没有各个摄像头所摄的图像间领域范围的境界线,也没有广角鱼眼摄像头所摄图像的圆弧状特征,提高了成像效果及用户体验。

Description

车载多广角摄像头图像合成处理装置及方法
技术领域
本发明涉及图像处理技术,特别是涉及一种车载多广角摄像头图像合成处理装置及方法。
背景技术
汽车已成为现代社会一种主要的交通运输工具,人们对行车的安全性与舒适性提出了更高的要求。汽车后视镜的发明最初设想就是方便查看汽车两侧及后面的状况,防止在倒车过程中与外界发生碰撞,提高自身的行车及第三者在车外的安全,延长汽车的使用寿命。但事实上,只凭后视镜所提供的驾驶视野及信息,难以满足驾驶者对于行车安全的需求,尤其在倒车的时候,车辆的后方存在很大的盲区。
倒车雷达是目前汽车采用较多的一种辅助驾驶方法,由安装于车辆后保险杠上的传感器来探测车辆尾部物体,并通过不同节奏的音频来提醒驾驶者车辆后面的状况,其原理是依靠回音探测距离并通过不同频率的声音进行提示。但,单凭声音提示没有视觉来得直观,对声音的判断也会存在误差。
在汽车尾部安装单一摄像头的视频倒车系统让倒车时车后的状况更加直观可视,当挂倒车挡时,该系统会自动接通位于车尾的摄像头,将车后状况清晰地显示在驾驶员前的液晶显示屏上。视频倒车系统比起倒车雷达更加直观、实用。汽车尾部单一摄像头的视频倒车系统对汽车周围的其它区域存在盲区,如车身侧面、前保险杠以及转弯时的死角等,需要进一步发展其视频处理系统。
近年来,360度全景式监控影像系统(Around View Monitor)技术的研究和开发得到了迅速的发展,全景式监控影像系统集成了多项技术,通过安装在车辆车身四周(前端、两侧和尾部)的四个大广角高分辨率摄像头,合成车身及其周边的鸟瞰图。旨在使驾驶者更全面的了解车身周边环境,避免目视的死角,杜绝了视觉盲区,提高驾驶的安全性及稳定性。
目前市场上360度全景式监控影像系统,在图像合成上存在着计算量大、视频质量差、图像拼接效果不佳等问题。
发明内容
本发明的目的在于提供一种车载多广角摄像头图像合成处理装置及方法,用于解决现有技术中图像合成后的全景图像中存在的图像缺陷。
为解决上述问题及其他问题,本发明提供一种车载多广角摄像头图像合成处理装置,包括:影像获取单元,用于获取相对于车身的四个方位上对应的四路影像;影像编排单元,用于将所述影像获取单元获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流;图像变形处理单元,用于对四路影像中的每一路影像进行图像变形处理,从而获得四路变形图像;图像分层单元,用于将所述图像变形处理单元变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层;图像剪切及拼接单元,用于将图像分层单元分层的四个图像显示层进行叠加,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像并将其显示于一显示单元上。
可选地,所述影像编排单元将所述影像获取单元获取的四路影像进行缩放及顺序设定包括:分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小;分别为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。
可选地,分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小,包括:分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配;分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小。
可选地,所述图像变形处理单元对四路影像中的每一路影像进行图像变形处理,获得四路变形图像,包括:将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;将调整视角后的图像进行形变矫正,获得变形图像。
可选地,将调整视角后的图像进行形变矫正,获得变形图像,包括:针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。
可选地,所述图像变形处理单元对每一帧图像中分割的多个矩形网格图像依序进行坐标变换中,针对每一个矩形网格图像的坐标变换包括:针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;依序对两个所述原始三角形进行坐标变换,使得两个所述原始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。
可选地,针对每一个矩形网格图像的坐标变换包括如下任一种方式:方式一:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,然后,再由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标;将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标;方式二:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标;由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标。
本发明在另一方面还提供一种车载多广角摄像头图像合成处理方法,包括:获取相对于车身的四个方位上对应的四路影像;将获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流;对四路影像中的每一路影像进行图像变形处理,从而获得四路变形图像;将变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层;将分层的四个图像显示层进行叠加,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像并将其予以显示。
可选地,将获取的四路影像进行缩放及顺序设定包括:分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小;分别为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。
可选地,分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小,包括:分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配;分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小。
可选地,所述图像变形处理单元对四路影像中的每一路影像进行图像变形处理,获得四路变形图像,包括:将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;将调整视角后的图像进行形变矫正,获得变形图像。
可选地,将调整视角后的图像进行形变矫正,获得变形图像,包括:针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。
可选地,所述对每一帧图像中分割的多个矩形网格图像依序进行坐标变换中,针对每一个矩形网格图像的左边变换包括:针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;依序对两个所述原始三角形进行坐标变换,使得两个所述原始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。
可选地,依序将两个所述原始三角形在目标区域内分别变形为对应的两个变形三角形包括如下任一种方式:方式一:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,然后,再由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标;将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标;方式二:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标;由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标。
如上所述,本发明的一种车载多广角摄像头图像合成处理装置及方法,是将车载广角摄像头摄取的影像进行图像变形处理后获得在目标区域中对应的变形图像,将这些变形图像进行叠层获得叠加图像,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像,相对于现有技术,获得的车载全景监控视频图像中没有各个摄像头所摄的图像间领域范围的境界线,也没有广角鱼眼摄像头所摄图像的圆弧状特征,切实提高了成像效果及用户体验。
附图说明
图1为本发明的车载多广角摄像头图像合成处理装置在一个实施方式中的功能模块示意图。
图2为本发明的车载多广角摄像头图像合成处理方法在一个实施方式中的流程示意图。
图3为在车载多广角摄像头图像合成处理方法中视频影像的变换示意图。
图4为图3中视频图像变换在一个实施例中的示意图。
图5为将分层的四个图像显示层进行叠加后的图像。
图6为图5中的叠加后的图像进行裁剪及拼接后获得车载全景监控视频图像与汽车相结合的效果示意图。
具体实施方式
本发明的发明人发现:目前市场上360度全景式监控影像系统,在图像合成上存在着计算量大、视频质量差、图像拼接效果不佳(例如图像合成中有前后左右摄像头所得图像领域的境界线或广角鱼眼摄像头所摄图像的圆弧状特征)等问题。因此,本发明的发明人对现有技术进行了改进,提出了一种新型的车载多广角摄像头图像合成处理装置及方法,获得的车载全景监控视频图像中没有各个摄像头所摄的图像间领域范围的境界线,也没有广角鱼眼摄像头所摄图像的圆弧状特征,切实提高了成像效果及用户体验。
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。
需要说明的是,本实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
图1显示了本发明的车载多广角摄像头图像合成处理装置在一个实施方式中的功能模块示意图。在实际应用中,本发明的车载多广角摄像头图像合成处理装置是配置在机动车(例如私家车或公共汽车)上,以获得的车载全景监控视频图像,使驾驶者更全面的了解车身周边环境,提高驾驶的安全性及稳定性。如图1所示,在本方明的车载多广角摄像头图像合成处理装置中,包括:影像获取单元11、影像编排单元13、图像变形处理单元15、图像分层单元17、以及图像剪切及拼接单元19。
影像获取单元11用于获取配置在车身上配置的四个广角摄像头对应摄取的四路影像。在实际应用中,所述四个广角摄像头分别配置在车身的前端、车身的左右两侧、车身的后端。在一个具体实例中,所述四个广角摄像头可分别配置在车前、车后的车牌处以及车身两侧的两个倒车镜内,但并不以此为限,在其他实施例中,仍可作其他的变化,例如,广角摄像头还可配置在建筑物内部或外部的相关位置处,在此不再赘述。在本实施例中,广角摄像头摄取的影像为矩形图像,所述四个广角摄像头将各自摄取的四路影像一并上传至影像获取单元11。
影像编排单元13用于将影像获取单元11获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流。
在本实施例中,影像编排单元13将影像获取单元11获取的四路影像进行缩放及顺序设定具体包括:1)、分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小。在实际应用中,首先,分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配,即,可将矩形图像像素的长宽比调整(通过拉伸或缩短)到系统中与所述显示单元中矩形像素横长比;接着,分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小,即,将任一路影像中的宽度和高度分别缩小至原先的二分之一。例如:广角摄像头摄取的图像的宽高比640:520,所述显示单元(例如显示器)所处理的屏幕参数中图像宽高比720:540,则先将广角镜摄取图像的宽高比从640:520拉伸至720:540,之后,再对拉伸后的图像进行缩放,缩放为原先尺寸的四分之一大小。2)、为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。在实际应用中,可以预先为每一个广角摄像头所摄取的影像设定相应的顺序,例如:将车身前端的广角摄像头所摄取的影像设定第一路影像,逆时针地将车身左侧、车身后端、车身右侧的广角摄像头所摄取的三路影像分别设定第二、第三及第四路影像,当然,也可以采用其他顺序规则进行设定。
图像变形处理单元15用于对四路影像中的每一路影像进行图像变形处理,获得四路变形图像。在本实施例中,以一路影像的处理为例,所述图像变形处理包括:将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;将调整视角后的图像进行形变矫正,获得变形图像。针对上述处理,鱼眼畸变校正处理包括:使用鱼眼变换函数将AxB像素矩阵1中的各点位置进行重新定位,并将新坐标位置存入新的像素矩阵2中待用。另外,还使用到鸟瞰俯视效果变换图像处理,就是斜视的图像经过计算,图像处理成为有鸟瞰效果的俯视图像,这种技术也称为视点变换。将调整视角后的图像进行形变矫正,获得变形图像,包括:针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。针对每一个矩形网格图像的坐标变换包括:针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;依序对两个所述原始三角形进行坐标变换,使得两个所述原始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。
图像分层单元17用于将图像变形处理单元15变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层。
图像剪切及拼接单元19用于将图像分层单元17分层的四个图像显示层进行叠加,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像。在本实施例中,对叠加后的图像进行裁剪是根据图像成像效果、显示屏幕的显示比例及分辨率而进行的,对叠加后的图像进行拼接时的考虑因素包括:重叠区域互相叠加时应优选畸变小的一方覆盖畸变较大的一方。
图2显示了本发明的车载多广角摄像头图像合成处理方法在一个实施方式中的流程示意图。图3显示了在车载多广角摄像头图像合成处理方法中视频影像的变换示意图。结合图2和图3,所述车载多广角摄像头图像合成处理方法包括:
步骤S201,获取配置在车身上的四个广角摄像头对应摄取的四路影像。在本实施例中,四个广角摄像头分别配置车身的前端、车身的左右两侧、车身的后端,为便于后续图像处理,可按一定的顺序依次对各个广角摄像头进行设定,例如:将车身前端的广角摄像头设定为第一摄像头,将车身左侧的广角摄像头设为第二摄像头,将车身后端的广角摄像头设为第三摄像头,将车身右侧的广角摄像头设为第四摄像头,这样,相应地,就可将得到的四路影像分别设为第一路影像、第二路影像、第三路影像、以及第四路影像。当然,各个广角摄像头及其影像也可以采用其他顺序规则进行设定。
步骤S203,将获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流。在本实施例中,将获取的四路影像进行缩放及顺序设定具体包括:1)、分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小。在实际应用中,首先,分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配,即,可将矩形图像像素的长宽比调整(通过拉伸或缩短)到系统中与所述显示单元中矩形像素横长比;接着,分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小,即,将任一路影像中的宽度和高度分别缩小至原先的二分之一。例如:广角摄像头摄取的图像的宽高比640:520,所述显示单元(例如显示器)所处理的屏幕参数中图像宽高比720:540,则先将广角镜摄取图像的宽高比从640:520拉伸至720:540,之后,再对拉伸后的图像进行缩放,缩放为原先尺寸的四分之一大小。2)、为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。
步骤S205,对四路影像中的每一路影像进行图像变形处理,获得四路变形图像。
在本实施例中,现以一路影像的处理为例对上述图像变形处理进行详细说明。
在本实施例中,以一路影像的处理为例,所述图像变形处理包括:将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;将调整视角后的图像进行形变矫正,获得变形图像。针对上述处理,鱼眼畸变校正处理包括:使用鱼眼变换函数将AxB像素矩阵1中的各点位置进行重新定位,并将新坐标位置存入新的像素矩阵2中待用。另外,还使用到鸟瞰俯视效果变换图像处理,就是斜视的图像经过计算,图像处理成为有鸟瞰效果的俯视图像,这种技术也称为视点变换。将调整视角后的图像进行形变矫正,获得变形图像,包括:首先,针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;之后,对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。
特别地,针对每一个矩形网格图像的坐标变换包括:针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;依序对两个所述原始三角形进行坐标变换,使得两个所述原始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。现以图4所示的一帧图像的部分区域为例,该帧图像的部分区域被划分为3个矩形网格,对于上述3个矩形网格图像进行的坐标变换具体包括:首先,将上述3个矩形网格图像中的任一个矩形网格图像以对角线的方式划分为两个三角形网格图像,这样,这3个矩形网格图像就被划分为6个三角形网格图像。当然,在实际应用中,上述三角形网格图像的划分仍可采用其他的划分方式,例如以其他的对角线方式以得到对应的包含有不同顶点的各个三角形网格图像。接着,依序对上述各个三角形网格图形进行变形处理,使得在目标区域内重新指定变形后的各个三角形网格图形的三个顶点的目的坐标。具体来讲:第一部分:将第一个矩形网格图像T0T1T3T2中的一个三角形网格图形中的某一个顶点T0作为始发顶点,从所述始发顶点T0出发,逆时针顺序标记所述初始三角形的三个顶点T0T1T3的初始坐标,再由所述始发顶点T0出发,逆时针顺序标记另一个初始三角形的三个顶点T0T3T2的初始坐标;将第二个矩形网格图像T2T3T5T4中的一个三角形网格图形中的某一个顶点T2作为始发顶点,从所述始发顶点T2出发,逆时针顺序标记所述初始三角形的三个顶点T2T3T5的初始坐标,再由所述始发顶点T2出发,逆时针顺序标记另一个初始三角形的三个顶点T2T5T4的初始坐标;将第三个矩形网格图像T4T5T7T6中的一个三角形网格图形中的某一个顶点T4作为始发顶点,从所述始发顶点T4出发,逆时针顺序标记所述初始三角形的三个顶点T4T5T7的初始坐标,再由所述始发顶点T4出发,逆时针顺序标记另一个初始三角形的三个顶点T4T7T6的初始坐标。第二部分:根据同样的顺序,对上述各个三角形网格图形进行变形处理,从而在目标区域内重新指定变形后的各个三角形网格图形的三个顶点的目的坐标,即,三角形网格图形△T0T1T3经变形后在目标区域中为△T0’T1’T3’、△T0’T3’T2’、△T2’T3’T5’、△T2’T5’T4’、△T4’T5’T7’、△T4’T7’T6’,从而获得变形的矩形图像网格。
通过步骤S205,可将原为矩形的图像变形处理为不规则多边形的变形图像。
步骤S207,将变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层。在本实施例中,根据顺序设定,将每一个广角摄像头摄取的每一路影像设定为某一显示图层。例如将第一摄像头、第二摄像头、第三摄像头、以及第四摄像头对应的第一路影像、第二路影像、第三路影像、以及第四路影像分别分配至第一显示图层、第二显示图层、第三显示图层、以及第四显示图层。当然,各个广角摄像头及其影像也可以采用其他顺序规则进行设定及分配。
步骤S209,将分层的四个图像显示层进行叠加(如图5所示),并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像(如图6所示,显示了叠加后的图像进行裁剪及拼接后获得车载全景监控视频图像与汽车相结合的效果示意图)。在本实施例中,对叠加后的图像进行裁剪是根据图像成像效果、显示屏幕的显示比例及分辨率而进行的,对叠加后的图像进行拼接时的考虑因素包括:重叠区域互相叠加时应优选畸变小的一方覆盖畸变较大的一方。
综上所述,本发明的一种车载多广角摄像头图像合成处理装置及方法,是将车载广角摄像头摄取的影像进行图像变形处理后获得在目标区域中对应的变形图像,将这些变形图像进行叠层获得叠加图像,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像,相对于现有技术,获得的车载全景监控视频图像中没有各个摄像头所摄的图像间领域范围的境界线,也没有广角鱼眼摄像头所摄图像的圆弧状特征,切实提高了成像效果及用户体验。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。

Claims (14)

1.一种车载多广角摄像头图像合成处理装置,其特征在于,包括:
影像获取单元,用于获取相对于车身的四个方位上对应的四路影像;
影像编排单元,用于将所述影像获取单元获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流;
图像变形处理单元,用于对四路影像中的每一路影像进行图像变形处理,从而获得四路变形图像;
图像分层单元,用于将所述图像变形处理单元变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层;
图像剪切及拼接单元,用于将图像分层单元分层的四个图像显示层进行叠加,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像并将其显示于一显示单元上;
其中,在叠加过程中,叠加区域互相叠加时,令两者中畸较变小的区域覆盖畸变较大的区域。
2.根据权利要求1所述的车载多广角摄像头图像合成处理装置,其特征在于,所述影像编排单元将所述影像获取单元获取的四路影像进行缩放及顺序设定包括:
分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小;
分别为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。
3.根据权利要求2所述的车载多广角摄像头图像合成处理装置,其特征在于,分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小,包括:
分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配;
分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小。
4.根据权利要求1所述的车载多广角摄像头图像合成处理装置,其特征在于,所述图像变形处理单元对四路影像中的每一路影像进行图像变形处理,获得四路变形图像,包括:
将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;
将调整视角后的图像进行形变矫正,获得变形图像。
5.根据权利要求4所述的车载多广角摄像头图像合成处理装置,其特征在于,将调整视角后的图像进行形变矫正,获得变形图像,包括:
针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;
对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。
6.根据权利要求5所述的车载多广角摄像头图像合成处理装置,其特征在于,所述图像变形处理单元对每一帧图像中分割的多个矩形网格图像依序进行坐标变换中,针对每一个矩形网格图像的坐标变换包括:
针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;
依序对两个所述初始三角形进行坐标变换,使得两个所述初始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。
7.根据权利要求6所述的车载多广角摄像头图像合成处理装置,其特征在于,针对每一个矩形网格图像的坐标变换包括如下任一种方式:
方式一:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,然后,再由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标;将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标;
方式二:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标;由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标。
8.一种车载多广角摄像头图像合成处理方法,其特征在于,包括:
获取相对于车身的四个方位上对应的四路影像;
将获取的四路影像进行缩放及顺序设定,使得四路影像根据设定的顺序同时输出四路影像的视频流;
对四路影像中的每一路影像进行图像变形处理,从而获得四路变形图像;
将变形处理后的四路变形图像分配至不同的显示图层以形成四个图像显示层;
将分层的四个图像显示层进行叠加,并通过计算对叠加后的图像进行裁剪及拼接,以获得车载全景监控视频图像并将其予以显示;
其中,在叠加过程中,叠加区域互相叠加时,令两者中畸较变小的区域覆盖畸变较大的区域。
9.根据权利要求8所述的车载多广角摄像头图像合成处理方法,其特征在于,将获取的四路影像进行缩放及顺序设定包括:
分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小;
分别为四路影像设定顺序,使得四路影像中的每一帧图像根据设定的顺序组合以作为一输出影像的一帧输出图像。
10.根据权利要求9所述的车载多广角摄像头图像合成处理方法,其特征在于,分别将四路影像进行缩放,使得缩放后的任一路影像占据所述显示单元的四分之一大小,包括:
分别将四路影像的图像像素长宽比调整为与所述显示单元的屏幕参数相适配;
分别将所述适配后的四路影像进行缩放至原先显示尺寸的四分之一大小。
11.根据权利要求8所述的车载多广角摄像头图像合成处理方法,其特征在于,所述图像变形处理单元对四路影像中的每一路影像进行图像变形处理,获得四路变形图像,包括:
将每一路影像进行鱼眼畸变校正,并对校正后的图像视角用虚拟视角技术进行调整;
将调整视角后的图像进行形变矫正,获得变形图像。
12.根据权利要求11所述的车载多广角摄像头图像合成处理方法,其特征在于,将调整视角后的图像进行形变矫正,获得变形图像,包括:
针对任一路影像,将该路影像中的每一帧图像分割为多个矩形网格图像;
对每一帧图像中分割的多个矩形网格图像依序进行坐标变换,从而将每一帧图像按照画面形变需求由矩形变形为不规则多边形。
13.根据权利要求12所述的车载多广角摄像头图像合成处理方法,其特征在于,所述对每一帧图像中分割的多个矩形网格图像依序进行坐标变换中,针对每一个矩形网格图像的左边变换包括:
针对每一个矩形网格图像,将所述矩形网格图像分割为两个初始三角形;
依序对两个所述初始三角形进行坐标变换,使得两个所述初始三角形在目标区域内分别变形为对应的两个变形三角形,从而完成一个矩形网格图像的坐标变换。
14.根据权利要求13所述的车载多广角摄像头图像合成处理方法,其特征在于,依序将两个所述初始三角形在目标区域内分别变形为对应的两个变形三角形包括如下任一种方式:
方式一:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,然后,再由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标;将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标;
方式二:将所述矩形图形网格中的其中一个初始三角形中的某一个顶点作为始发顶点,从所述始发顶点出发,逆时针顺序标记所述初始三角形的三个顶点的初始坐标,将第一个初始三角形在目标区域内重新指定变形后的第一个变形三角形的三个顶点的目的坐标;由所述始发顶点出发,逆时针顺序标记另一个初始三角形的三个顶点的初始坐标,将第二个初始三角形在目标区域内重新指定变形后的第二个变形三角形的三个顶点的目的坐标。
CN201310255713.8A 2013-06-25 2013-06-25 车载多广角摄像头图像合成处理装置及方法 Active CN103366339B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310255713.8A CN103366339B (zh) 2013-06-25 2013-06-25 车载多广角摄像头图像合成处理装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310255713.8A CN103366339B (zh) 2013-06-25 2013-06-25 车载多广角摄像头图像合成处理装置及方法

Publications (2)

Publication Number Publication Date
CN103366339A CN103366339A (zh) 2013-10-23
CN103366339B true CN103366339B (zh) 2017-11-28

Family

ID=49367615

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310255713.8A Active CN103366339B (zh) 2013-06-25 2013-06-25 车载多广角摄像头图像合成处理装置及方法

Country Status (1)

Country Link
CN (1) CN103366339B (zh)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103561236A (zh) * 2013-10-31 2014-02-05 厦门龙谛信息系统有限公司 楼宇周边监视系统及方法
CN104601935A (zh) * 2013-10-31 2015-05-06 深圳市朗驰欣创科技有限公司 一种画面拼接方法及装置
TWI533694B (zh) * 2013-12-18 2016-05-11 歐特明電子股份有限公司 車用障礙物偵測顯示系統
CN103926785B (zh) * 2014-04-30 2017-11-03 广州视源电子科技股份有限公司 一种双摄像头实现方法及装置
KR101668802B1 (ko) * 2014-09-03 2016-11-09 신동윤 원거리 식별 이미지 생성 장치 및 그 동작 방법
CN104537616A (zh) * 2014-12-20 2015-04-22 中国科学院西安光学精密机械研究所 鱼眼图像畸变的校正方法
CN104735408B (zh) * 2015-02-06 2019-05-24 广东光阵光电科技有限公司 一种无死角警用车载监视方法及监视系统
CN105894549A (zh) * 2015-10-21 2016-08-24 乐卡汽车智能科技(北京)有限公司 一种全景辅助泊车系统、装置及全景图像显示方法
CN105635684A (zh) * 2015-12-31 2016-06-01 深圳市金立通信设备有限公司 一种监控方法以及终端
CN106780344B (zh) * 2017-01-06 2020-07-07 苏州大学 基于偏差转移和拆分的汽车360°环视图像拼接方法
WO2018176000A1 (en) 2017-03-23 2018-09-27 DeepScale, Inc. Data synthesis for autonomous control systems
US11893393B2 (en) 2017-07-24 2024-02-06 Tesla, Inc. Computational array microprocessor system with hardware arbiter managing memory requests
US11157441B2 (en) 2017-07-24 2021-10-26 Tesla, Inc. Computational array microprocessor system using non-consecutive data formatting
US10671349B2 (en) 2017-07-24 2020-06-02 Tesla, Inc. Accelerated mathematical engine
US11409692B2 (en) 2017-07-24 2022-08-09 Tesla, Inc. Vector computational unit
CN107689028A (zh) * 2017-08-22 2018-02-13 深圳市爱培科技术股份有限公司 基于adas的自适应界面显示方法、系统和存储装置
JP6819514B2 (ja) * 2017-08-28 2021-01-27 トヨタ自動車株式会社 画像処理装置及び撮像装置
EP3701490B1 (en) 2017-10-26 2023-08-09 Harman International Industries, Incorporated Method and system of fast image blending for overlapping regions in surround view
CN107707840A (zh) * 2017-10-27 2018-02-16 信利光电股份有限公司 一种摄像模组及多图像数据传递的方法
CN108121959A (zh) * 2017-12-20 2018-06-05 浙江网仓科技有限公司 可视化追踪方法及系统
US11561791B2 (en) 2018-02-01 2023-01-24 Tesla, Inc. Vector computational unit receiving data elements in parallel from a last row of a computational array
US11215999B2 (en) 2018-06-20 2022-01-04 Tesla, Inc. Data pipeline and deep learning system for autonomous driving
US11361457B2 (en) 2018-07-20 2022-06-14 Tesla, Inc. Annotation cross-labeling for autonomous control systems
US11636333B2 (en) 2018-07-26 2023-04-25 Tesla, Inc. Optimizing neural network structures for embedded systems
CN108965742B (zh) 2018-08-14 2021-01-22 京东方科技集团股份有限公司 异形屏显示方法、装置、电子设备及计算机可读存储介质
US11562231B2 (en) 2018-09-03 2023-01-24 Tesla, Inc. Neural networks for embedded devices
EP3864573A1 (en) 2018-10-11 2021-08-18 Tesla, Inc. Systems and methods for training machine models with augmented data
US11196678B2 (en) 2018-10-25 2021-12-07 Tesla, Inc. QOS manager for system on a chip communications
KR102166106B1 (ko) * 2018-11-21 2020-10-15 스크린엑스 주식회사 가상 카메라를 활용한 다면 영상 생성 방법 및 시스템
CN109587396A (zh) * 2018-11-27 2019-04-05 浙江舜宇光学有限公司 拍摄方法和拍摄装置
US11816585B2 (en) 2018-12-03 2023-11-14 Tesla, Inc. Machine learning models operating at different frequencies for autonomous vehicles
US11537811B2 (en) 2018-12-04 2022-12-27 Tesla, Inc. Enhanced object detection for autonomous vehicles based on field view
US11610117B2 (en) 2018-12-27 2023-03-21 Tesla, Inc. System and method for adapting a neural network model on a hardware platform
US10997461B2 (en) 2019-02-01 2021-05-04 Tesla, Inc. Generating ground truth for machine learning from time series elements
US11567514B2 (en) 2019-02-11 2023-01-31 Tesla, Inc. Autonomous and user controlled vehicle summon to a target
US10956755B2 (en) 2019-02-19 2021-03-23 Tesla, Inc. Estimating object properties using visual image data
CN110719411B (zh) * 2019-12-16 2020-04-03 长沙智能驾驶研究院有限公司 车辆的全景环视图像生成方法及相关设备
CN112529778B (zh) * 2020-11-24 2023-05-30 展讯通信(上海)有限公司 多摄像头设备的图像拼接方法及装置、存储介质、终端

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1921621A (zh) * 2006-09-18 2007-02-28 李博航 全景可视驾驶辅助设备
CN101415110A (zh) * 2008-11-19 2009-04-22 符巨章 动态车辆监控系统
CN101442618A (zh) * 2008-12-31 2009-05-27 葛晨阳 用于车辆辅助驾驶的360度环形视频合成方法
CN101971207A (zh) * 2008-03-19 2011-02-09 三洋电机株式会社 图像处理装置及方法、驾驶辅助系统、车辆
CN201792814U (zh) * 2010-06-09 2011-04-13 德尔福技术有限公司 全方位泊车辅助系统
CN102147914A (zh) * 2011-01-31 2011-08-10 黄桂芝 采用旋转配套网的图形、图像高保真缩放方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5222597B2 (ja) * 2008-03-19 2013-06-26 三洋電機株式会社 画像処理装置及び方法、運転支援システム、車両

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1921621A (zh) * 2006-09-18 2007-02-28 李博航 全景可视驾驶辅助设备
CN101971207A (zh) * 2008-03-19 2011-02-09 三洋电机株式会社 图像处理装置及方法、驾驶辅助系统、车辆
CN101415110A (zh) * 2008-11-19 2009-04-22 符巨章 动态车辆监控系统
CN101442618A (zh) * 2008-12-31 2009-05-27 葛晨阳 用于车辆辅助驾驶的360度环形视频合成方法
CN201792814U (zh) * 2010-06-09 2011-04-13 德尔福技术有限公司 全方位泊车辅助系统
CN102147914A (zh) * 2011-01-31 2011-08-10 黄桂芝 采用旋转配套网的图形、图像高保真缩放方法

Also Published As

Publication number Publication date
CN103366339A (zh) 2013-10-23

Similar Documents

Publication Publication Date Title
CN103366339B (zh) 车载多广角摄像头图像合成处理装置及方法
JP7245295B2 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
US10137836B2 (en) Vehicle vision system
WO2010137265A1 (ja) 車両周囲監視装置
CN104512328B (zh) 汽车环视图像生成方法及汽车环视系统
JP4879031B2 (ja) 運転支援システム、画像処理装置及びずれ検出方法
JP4907883B2 (ja) 車両周辺画像表示装置および車両周辺画像表示方法
US20150042799A1 (en) Object highlighting and sensing in vehicle image display systems
CN104321224B (zh) 具有摄像机监控系统的机动车
CN105321160B (zh) 三维立体全景泊车的多摄像头标定方法
JP2018531530A5 (zh)
US11087438B2 (en) Merging of partial images to form an image of surroundings of a mode of transport
JP4976685B2 (ja) 画像処理装置
JP2018531530A6 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
DE102014115037A1 (de) Sichtbasierte Objekterkennung und -hervorhebung bei Fahrzeugbildanzeigesystemen
DE102013220669A1 (de) Dynamische Rückspiegelanzeigemerkmale
CN102045546A (zh) 一种全景泊车辅助系统
EP3326145B1 (en) Panel transform
CN102736634A (zh) 一种用于汽车全景图的摄像头角度调节方法
JP2018052216A5 (zh)
CN107244292A (zh) 多视角汽车全景影像显示及记录系统
EP3326146B1 (en) Rear cross traffic - quick looks
JP2013118508A (ja) 画像処理装置及び画像処理方法
CN105818746A (zh) 环视高级辅助驾驶系统的标定方法及系统
TW201605247A (zh) 影像處理系統及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant