CN115909283A - 图像生成方法、装置、电子设备及存储介质 - Google Patents

图像生成方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115909283A
CN115909283A CN202211698437.8A CN202211698437A CN115909283A CN 115909283 A CN115909283 A CN 115909283A CN 202211698437 A CN202211698437 A CN 202211698437A CN 115909283 A CN115909283 A CN 115909283A
Authority
CN
China
Prior art keywords
image
vehicle
pixel
driving environment
fusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211698437.8A
Other languages
English (en)
Inventor
王新军
刘锋
康逸儒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Haikang Auto Software Co ltd
Original Assignee
Hangzhou Haikang Auto Software Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Haikang Auto Software Co ltd filed Critical Hangzhou Haikang Auto Software Co ltd
Priority to CN202211698437.8A priority Critical patent/CN115909283A/zh
Publication of CN115909283A publication Critical patent/CN115909283A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例公开了一种图像生成方法、装置、电子设备及存储介质,涉及图像识别技术领域。该方法包括:响应于车辆熄火后的重新启动信号,获取车辆在重新启动过程中的第一行车环境图像;判断车辆的位置是否发生移动,以及在车辆的位置未发生移动的情况下,获取车辆熄火前保存的车底图像,车底图像为用于对车辆底部的道路信息进行展示的图像;融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像。本发明解决了现有的无盲区的全景图在车辆熄火重启后,仍存在盲区的技术问题。

Description

图像生成方法、装置、电子设备及存储介质
技术领域
本发明涉及图像识别技术领域,尤其涉及一种图像生成方法、装置、电子设备及存储介质。
背景技术
车载环视系统可以获取能够展示车辆四周360度景象的车载全景图(也称为全景图像),进而通过获取的车载全景图为驾驶员提供在多种驾驶场景下的视觉辅助。通常情况下,车载环视系统可以包括安装在车身四周的多个图像摄取设备,该多个图像摄取设备可以在同一时刻获取车身四周不同角度的多张拍摄图像。将该多张拍摄图像转换到参考坐标系中,得到多张当前帧图像,将该多张当前帧图像进行拼接,得到原始无盲区全景图。然而,由于车身的遮挡使得该多个图像摄取设备无法获取车底盲区区域,也即是确定出的原始无盲区全景图是有车底盲区的车载全景图。这样,当车底存在影响驾驶安全的物体时,容易增加行车的安全隐患。因此无盲区的全景影像应运而生。
然而,目前市面上无盲区的全景图像往往在车辆掉电重启后,车底盲区需重新进行填充,重新进行填充时,需要车辆移动一定距离后,采用车辆在移动过程中将图像摄取设备拍摄的上一帧图像画面中车辆走过的画面填充在当前帧车底盲区内,因此,当司机将车停在路沿或者车底有固定的障碍物的区域时,车辆再次启动后在不移动一定距离的情况下,无法在车内了解车底的道路状况。
针对上述的问题,尚未提出有效地解决方案。
发明内容
本发明实施例提供了一种图像生成方法、装置、电子设备及存储介质,以至少解决车辆再次启动后在不移动一定距离的情况下,无法在车内了解车底的道路状况的技术问题。
根据本发明实施例的一个方面,提供了一种图像生成方法,所述方法包括:
响应于车辆熄火后的重新启动信号,获取所述车辆在重新启动过程中的第一行车环境图像;
判断所述车辆的位置是否发生移动,以及在所述车辆的位置未发生移动的情况下,获取所述车辆熄火前保存的车底图像,所述车底图像为用于对所述车辆底部的道路信息进行展示的图像;
融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像。
进一步地,判断所述车辆的位置是否发生移动包括:
获取所述车辆熄火前保存的第二行车环境图像,所述第二行车环境图像对应有所述车底图像;
根据所述第一行车环境图像和所述第二行车环境图像,判断所述车辆的位置是否发生移动。
进一步地,根据所述第一行车环境图像和所述第二行车环境图像,判断所述车辆的位置是否发生移动包括:
对所述第一行车环境图像进行边缘检测,得到包含第一边缘轮廓的第一边缘轮廓图像,所述第一边缘轮廓位于所述第一边缘轮廓图像中的第一相对位置;
对所述第二行车环境图像进行边缘检测,得到包含第二边缘轮廓的第二边缘轮廓图像,所述第二边缘轮廓位于所述第二边缘轮廓图像中的第二相对位置;
在所述第一边缘轮廓与所述第二边缘轮廓相似,且所述第一相对位置与所述第二相对位置的偏移值不大于设定偏移值的情况下,确定所述车辆的位置未发生移动;否则确定所述车辆的位置发生移动。
进一步地,在融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像之前,所述方法还包括:
对所述第一行车环境图像和所述车底图像进行亮度均衡处理和/或色度修正处理。
进一步地,对所述第一行车环境图像和所述车底图像进行亮度均衡处理和/或色度修正处理包括:
从所述第一行车环境图像中获取第一融合区域图像,以及从所述第二行车环境图像中获取第二融合区域图像,其中,所述第一融合区域图像与所述第二融合区域图像为车载摄像头采集的相同视野范围内的图像;
确定所述第二融合区域图像相对于所述第一融合区域图像的亮度偏差值和/或色度偏差值;
根据所述亮度偏差值和/或所述色度偏差值,对所述第一行车环境图像和所述车底图像进行亮度调整和/或色度调整。
进一步地,融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像包括:
从所述第一行车环境图像中获取第一融合区域图像,基于所述第一融合区域图像确定第一车底区域图像;
基于所述第二行车环境图像获取第二融合区域图像,其中,所述第二融合区域图像与所述第一融合区域图像的像素尺寸相同,且所述第二融合区域图像对应有所述车底图像;
根据所述第二融合区域图像的各像素到所述第一车底区域图像的图像边界的距离,以及所述第二融合区域图像的图像边界到所述第一车底区域图像的图像边界的像素距离,确定所述第二融合区域图像中各像素的原始像素值的第一权重值和所述第一融合区域图像中各像素的原始像素值的第二权重值;其中,距离所述第一车底区域图像的图像边界越近,所述第一融合区域图像中各像素的原始像素值的所述第二权重值越大,所述第二融合区域图像中各像素的原始像素值的所述第一权重值越小;
根据所述第一融合区域图像中各像素的原始像素值、所述第二融合区域图像中各像素的原始像素值,以及所述第一权重值和所述第二权重值,调整所述第一融合区域图像中各像素的融合像素值。
进一步地,基于所述第二行车环境图像获取第二融合区域图像包括:
获取基于所述第二行车环境图像生成的第二全景图像,其中,所述第二全景图像包括第二车底区域图像,且所述第二车底区域图像中填充有所述车底图像;
从所述第二全景图像中获取所述第二融合区域图像,其中,填充有所述车底图像的所述第二车底区域图像位于所述第二融合区域图像中。
进一步地,从所述第二全景图像中获取所述第二融合区域图像包括:
获取融合参数、所述第二全景图像的图像分辨率,以及所述车辆的物理尺寸,所述融合参数为待抠取的所述第二融合区域图像的图像边界到所述第一车底区域图像的图像边界之间的像素预设距离;
根据所述图像分辨率和所述物理尺寸确定所述第二车底区域图像的第一像素参数;
根据所述第一像素参数和所述融合参数确定待抠取的所述第二融合区域图像的第二像素参数;其中,所述第一像素参数或所述第二像素参数用于定位所述第二融合区域图像在所述第二全景图像中的位置;
基于所述第二像素参数,从所述第二全景图像中抠取出所述第二融合区域图像。
进一步地,融合所述第一行车环境图像和所述车底图像之前,所述方法还包括:
获取响应于车辆停止移动后的熄火信号,根据所述车底图像识别出的所述车辆底部存在障碍物的障碍物识别结果;
根据所述障碍物识别结果在所述车底图像中标注出障碍物信息,以获得标注有所述障碍物信息的所述车底图像。
根据本发明实施例的另一个方面,还提供了一种图像生成装置,所述装置包括:
第一获取模块,用于响应于车辆熄火后的重新启动信号,获取所述车辆在重新启动过程中的第一行车环境图像;
判断模块,用于判断所述车辆的位置是否发生移动,以及在所述车辆的位置未发生移动的情况下,获取所述车辆熄火前保存的车底图像,所述车底图像为用于对所述车辆底部的道路信息进行展示的图像;
图像融合模块,用于融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像。
根据本发明实施例的另一个方面,还提供了一种电子设备,所述电子设备包括所述的图像生成装置。
根据本发明实施例的另一个方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行上述的方法步骤。
在本发明实施例中,通过将车辆熄火前保存的车底图像与车辆启动过程中获得的第一行车环境图像进行融合,得到车辆在重新启动过程中的第一全景图像,无需车辆移动一定距离,就能得到了解车底道路状况的无车底盲区的第一全景图像,且该第一全景图像的生成过程无需增加额外的图像摄取设备,对环视系统稳定性影响较小,应用成本极低,实用性强。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明实施例提供的一种图像生成方法的流程示意图;
图2为图1中步骤S12的具体实施步骤流程图;
图3为图2中步骤S122的具体实施步骤流程图;
图4为图像均衡处理的流程示意图;
图5为融合第一行车环境图像和车底图像时的像素融合流程示意图;
图6为从第二全景图像中抠取第二融合区域图像的流程示意图;
图7为从第二全景图像中抠取第二融合区域图像至第二融合区域图像融合进第一行车环境图像的示意图;
图8为待极限像素融合处理区域的示意图;
图9为从第二全景图像中抠取第二融合区域图像的图像结构示意图;
图10为车底填充原理的示意图;
图11为直线行驶模型的示意图;
图12为转向运动模型的示意图;
图13为标注有障碍物信息的车底图像的生成流程示意图;
图14为本发明实施例提供的一种图像生成装置的结构示意图;
图15为车辆熄火时车辆的操作程序流程图;
图16为车辆启动时车辆的操作程序流程图。
其中,上述附图包括以下附图标记:
11、第一获取模块;12、判断模块;13、图像融合模块;14、图像删除模块;15、图像均衡模块;16、障碍物标识模块。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于限定特定顺序。
现有的车载环视系统可以将车辆四周的四个车载摄像头画面进行转换拼接,生成最基本的全景环视图。车载环视系统是通过安装在车身前后左右的四个鱼眼车载摄像头实时采集车辆四周图像,经过畸变校正、视角转换、图形拼接、渲染输出等处理,最终形成一幅完整的车身四周全景鸟瞰图,是一种辅助泊车系统。全景环视图由于车身的遮挡缺少车辆底部的图像数据,使得全景环视图存在车底盲区,驾驶员无法直观看到车底情况,当车底存在障碍物影响车辆行驶时,易损伤车辆,增加安全隐患,目前车底盲区填充方案均需要车辆移动一定距离后,采用车辆在移动过程中将图像摄取设备拍摄的上一帧图像画面中车辆走过的画面填充在当前帧车底盲区内,从而达到无盲区的全景环视图。但该种全景视图往往在车辆熄火重启后,驾驶员在驾驶舱内无法直观看到车底地形场景,仍需驾驶员下车确认安全后方可行驶,用户体验不佳。
针对上述问题,为使车辆再次启动后在不移动一定距离的情况下,也能确保驾驶人员在车内了解车底的道路状况,本发明第一个实施例提供了一种图像生成方法,请参见图1,该方法包括如下步骤:
步骤S11:响应于车辆熄火后的重新启动信号,获取车辆在重新启动过程中的第一行车环境图像。该第一行车环境图像可为设置在车辆车身不同方位上的车载摄像头采集获得。示例性地该第一行车环境图像可以是车载摄像头采集的图像,或者,该第一行车环境图像可以为展示车辆周围行车环境的全景图像。
步骤S12:判断车辆的位置是否发生移动,以及在车辆的位置未发生移动的情况下,获取车辆熄火前保存的车底图像,车底图像为用于对车辆底部的道路信息进行展示的图像。
步骤S13:融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像。
本发明实施例通过将车辆熄火前保存的车底图像与车辆启动过程中获得的第一行车环境图像进行融合,得到车辆在重新启动过程中的第一全景图像,无需车辆移动一定距离,就能得到了解车底道路状况的无车底盲区的第一全景图像,用户体验感更佳。且该第一全景图像的生成过程无需增加额外的图像摄取设备,对环视系统稳定性影响较小、应用成本极低、实用性强。
当车辆发生溜车和在非点火状态下移位时(如被拖车运走),上次熄火前保存的车底图像就无法再适用于下次驾驶清醒,该种场景下,就不可机械性地将熄火前保存的车底图像直接与第一行车环境图像进行融合,为避免融合后的第一全景图像没有错位现象,首先需要对车辆的位置偏移情况进行判定,对此,在本发明实施例的步骤S12中,请参见图2,判断车辆的位置是否发生移动的步骤包括:
步骤S121:获取车辆熄火前保存的第二行车环境图像,所述第二行车环境图像对应有所述车底图像。示例性地,该第二行车环境图像可以是车载摄像头采集的图像,或者,该第二行车环境图像可以为展示车辆周围行车环境的全景图像,或者,第二行车环境图像可以为展示车辆周围行车环境以及车底的全景图像,也即第二行车环境图像和车底图像存在对应关系,但并不限定第二行车环境图像为无车底盲区的全景图像。
步骤S122:根据第一行车环境图像和第二行车环境图像,判断车辆的位置是否发生移动。对此,本发明实施例在判断出车辆位置未发生移动的情况下,再融合第一行车环境图像和车底图像,车底图像与第一行车环境图像融合后获得的第一全景图像中不会出现错位图像,进一步提升了用户体验。
在现实使用场景中,由于周围环境相对复杂,为更好地根据车辆熄火前保存的第二行车环境图像与车辆重新启动过程车载摄像头采集的第一行车环境图像之间的图像差异,提高对车辆位置偏移情况的判断精度,对此,请参见图3,在本发明实施例的步骤S122中,根据第一行车环境图像和第二行车环境图像,判断车辆的位置是否发生移动的步骤包括:
步骤S221:对第一行车环境图像进行边缘检测,得到包含第一边缘轮廓的第一边缘轮廓图像,第一边缘轮廓位于第一边缘轮廓图像中的第一相对位置。
步骤S222:对第二行车环境图像进行边缘检测,得到包含第二边缘轮廓的第二边缘轮廓图像,第二边缘轮廓位于第二边缘轮廓图像中的第二相对位置。
步骤S223:在第一边缘轮廓与第二边缘轮廓相似,且第一相对位置与第二相对位置的偏移值不大于设定偏移值的情况下,确定车辆的位置未发生移动;否则确定车辆的位置发生移动。
在步骤S221和步骤S222中,本发明实施例可采用边缘检测算子,相应地对第一行车环境图像和第二行车环境图像进行边缘检测,边缘检测算子包括一阶微分算子、二阶微分算子及非微分边缘检测算子等。其中,一阶微分算子包括Roberts交叉梯度算子、Prewitt算子、Sobel算子、Scharr算子。二阶微分算子包括Laplacian算子、LOG算子。非微分边缘检测算子包括canny算子。
其次,本发明实施例在确定车辆的位置是否发生移动时,还可通过对第一边缘轮廓图像和第二边缘轮廓图像进行逐像素对比,若第一边缘轮廓图像和第二边缘轮廓图像的像素点重合个数少于预定个数时,也可判定车辆的位置发生移动(如溜车、被拖车运走等情况),否则,车辆的位置未发生移动。若车辆的位置发生移动时,本发明实施例需要删除熄火前保存的车底图像,同时,采用预设的纯色车底填充图填充在第一行车环境图像中。并生成告警信息告知驾驶员车辆位置异常,若未主动发生拖车行为,则该停车场景易导致车辆发生溜车,存在安全隐患,进一步提升了用户体验。
鉴于驾驶员两次驾驶车辆间隔的时间可能较久,当前次重启车辆时所处环境的光照条件与车辆熄火时所处环境的光照条件不同,为使融合得到的第一全景图像更加自然,在步骤S13中,融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像之前,本发明实施例提供的方法还包括:对第一行车环境图像和车底图像进行亮度均衡处理和/或色度修正处理。
具体地,请参见图4,本发明实施例对第一行车环境图像和车底图像进行亮度均衡处理和/或色度修正处理包括如下步骤:
步骤S21:从第一行车环境图像中获取第一融合区域图像,以及从第二行车环境图像中获取第二融合区域图像,其中,如图7所示,第一融合区域图像与第二融合区域图像为车载摄像头采集的相同视野范围内的图像。
步骤S22:确定第二融合区域图像相对于第一融合区域图像的亮度偏差值和/或色度偏差值。
步骤S23:根据亮度偏差值和/或色度偏差值,对第一行车环境图像和车底图像进行亮度调整和/或色度调整。从而确保了第一行车环境图像和车底图像的亮度和/色度的一致性,融合得到的第一全景图像更加自然。
由于第一行车环境图像是由位于车身不同方向的车载摄像头采集拼接获得,如由位于车辆前后左右四个方向的车载摄像头采集获得的前视图像、左视图像、右视图像及后视图像等视图图像拼接构成第一行车环境图像。车辆在行驶中,光照、场景等环境因素对车辆的左右车载摄像头影响较前后车载摄像头大,导致各车载摄像头采集的图像的亮度、色度容易产生较大的偏差,得到的第一行车环境图像容易存在局部过亮或过暗的情况。为确保第一行车环境图像中用于展示车辆各方向的环境信息的视图图像之间的亮度、色度的均衡性,本发明实施例在对第一行车环境图像和车底图像进行亮度均衡处理和/或色度修正处理之前,还需要对第一行车环境图像中不同视图图像的图像进行亮度均衡调整。对此,本发明实施例首先需确定第一行车环境图像中相邻两个视图图像之间的图像亮度偏差值和色度偏差值,根据图像亮度偏差值和色度偏差值,对第一行车环境图像中不同的视图图像进行亮度和/或色度均衡调整。具体地,本发明实施例以前、后车载摄像头采集的前视图像、后视图像等视图图像作为基准图像,来修正左右车载摄像头采集的视图图像(即左视图像、右视图像)。由于相邻视图图像之间的重叠区域图像画面相似(如左视图像与前视图像的重叠区域、右视图像与前视图像的重叠区域的重叠区域等),亮度、色度偏差最小,所以,本发明实施例以相邻视图区域的重叠区域像素值来计算亮度、色度补偿值来对第一行车环境图像进行亮度和/或色度均衡调整,该种调整方式不会出现矫正过度的问题。其中,以左视图像前侧区域亮度偏差ΔYlf计算为例:
1、分别计算左视图像与前视图像在两者的重叠区域的像素均值Ymeanl
Ymeanf,其中,左视图像在重叠区域内具有的所有像素点的像素均值Ymeanl为:
Figure BDA0004024327660000091
式中,Yl(x,y)为左视图像在重叠区域内具有的所有像素点的亮度值,xlh为重叠区域的像素宽度,ylw为重叠区域的像素长度。
前视图像在重叠区域内所有像素点的像素均值Ymeanf为:
Figure BDA0004024327660000101
式中,Yf(x,y)为前视图像在重叠区域内具有的所有像素点的亮度值,xfh为重叠区域的像素宽度,yfw为重叠区域的像素长度。
2、亮度偏差值为通过计算像素均值Ymeanl和像素均值Ymeanf之间的差值获得,则计算亮度偏差值的偏差计算公式为:
ΔYlf=Ymeanl-Ymeanf
色度偏差的计算原理与亮度偏差的计算原理相同,仅需对上述亮度偏差计算步骤中的亮度值改为色度值(色度值包括U分量色度值和V分量色度值)进行色度偏差的计算即可(因色度偏差的计算与亮度偏差计算步骤相同只是具体的取值更换为了色度值,本发明实施例在此对色度偏差的计算步骤不再赘述)。由偏差计算公式可得到左视图像与前视图像的亮度偏差值ΔYlf,左视图像与前视图像的色度偏差值ΔVlfΔUlf,左视图像与后视图像的亮度偏差值ΔYlr,左视图像与后视图像的色度偏差值ΔUlrΔVlr。同时,求得右视图像与前视图像的亮度偏差ΔYrf,右视图像与前视图像的色度偏差值ΔUrfΔVrf,右视图像与后视图像的亮度偏差值ΔYrr,右视图像与后视图像的色度偏差值ΔUrrΔVrr。将左视图像、右视图像与前视图像的重叠区域亮度、色度偏差作为相应重叠区域的亮度补偿值,左视图像、右视图像与后视图的重叠区域中亮度、色度偏差作为相应重叠区域的亮度补偿值。在重叠区域处满足亮度均衡要求的同时,由于非重叠区域存在明显亮度偏差,为消除非重叠区域亮度不均衡情况,根据非重叠区域的位置信息,插值计算非重叠区域的亮度补偿值,使前、后视图图像亮度色度平滑过渡。对于车载摄像头采集的各视图图像在非重叠区域的第h行像素点的像素亮度、色度补偿值计算如下:
第h行像素点的像素亮度Y补偿值:
Ycomp=(h-hA)(ΔYlr-ΔYlf)/(hB-hA)+ΔYlf
第h行像素点的色度U分量补偿值:
Ucomp=(h-hA)(ΔUlr-ΔUlf)/(hB-hA)+ΔUlf
式中,ΔUlr为左视图像与后视图像的U分量色度偏差,ΔUlf为左视图像与前视图像的U分量色度偏差。
第h行像素点的色度V分量补偿值:
Vcomp=(h-hA)(ΔVlr-ΔVlf)/(hB-hA)+ΔVlf
式中,ΔVlr为左视图像与后视图像的V分量色度偏差,ΔVlf为左视图像与前视图像的V分量色度偏差。其次,上述公式中的hA为第h行像素点与前视图像重叠区域采样点在鱼眼图像中的对应行,hB为第h行像素点与后视图像重叠区域采样点在鱼眼图像中的对应行。由此,通过上述调整方式得到的第一行车环境图像消除了局部过亮或过暗的情况,展示在车载全景系统中的图像画面更加协调,进一步提升了用户体验。
请参见图5,本发明实施例在步骤S13中,融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像包括如下步骤:
步骤S131:从第一行车环境图像中获取第一融合区域图像,基于第一融合区域图像确定第一车底区域图像。因第一行车环境图像中具有与第二行车环境图像相同视野范围内的图像,则从第一行车环境图像中与第二行车环境图像相同视野范围内的图像截取出来作为第一融合区域图像,第一融合区域图像包括第一行车环境图像中部具有还未填充车底图像的第一车底区域图像,第一车底区域图像可根据第一行车环境图像的图像分辨率、以及车辆的物理尺寸,确定第一车底区域图像的像素参数,该像素参数用于定位第一车底区域图像在第一行车环境图像的位置,该像素参数包括第一车底区域图像具有的至少一个顶点的像素坐标、以及第一车底区域图像的像素尺寸(高度、宽度等),根据像素参数确定第一车底区域图像在第一行车环境图像的位置后,采用初始填充图像填充在该第一车底区域图像所处的位置区域,例如填充用的初始填充图像的图像格式可以是yuv,灰色默认为“128,128,128”。
步骤S132:基于第二行车环境图像获取第二融合区域图像,其中,第二融合区域图像与第一融合区域图像的像素尺寸相同,且第二融合区域图像对应有车底图像,像素尺寸包括像素高度和像素宽度,即第二融合区域图像与第一融合区域图像的像素高度和像素宽度相同,且为车载摄像头采集的相同视野范围内的图像。
步骤S133:根据第二融合区域图像的各像素到第一车底区域图像的图像边界的距离,以及第二融合区域图像的图像边界到第一车底区域图像的图像边界的像素距离,确定第二融合区域图像中各像素的原始像素值的第一权重值和第一融合区域图像中各像素的原始像素值的第二权重值;其中,距离第一车底区域图像的图像边界越近,第一融合区域图像中各像素的原始像素值的第二权重值越大,第二融合区域图像中各像素的原始像素值的第一权重值越小。
步骤S134:根据第一融合区域图像中各像素的原始像素值、第二融合区域图像中各像素的原始像素值,以及第一权重值和第二权重值,调整第一融合区域图像中各像素的融合像素值。
其中,步骤S132基于第二行车环境图像获取第二融合区域图像包括:获取基于第二行车环境图像生成的第二全景图像,其中,第二全景图像包括第二车底区域图像,且第二车底区域图像中填充有车底图像。从第二全景图像中获取第二融合区域图像,其中,填充有车底图像的第二车底区域位于第二融合区域图像中。具体地,请参见图6,从第二全景图像中获取第二融合区域图像包括如下步骤:
步骤S31:获取融合参数、第二全景图像的图像分辨率,以及车辆的物理尺寸,融合参数为待抠取的第二融合区域图像的图像边界到第一车底区域图像的图像边界之间的像素预设距离。在本发明实施例中,像素预设距离即为步骤S133中第二融合区域图像的图像边界到第一车底区域图像的图像边界的像素距离。
步骤S32:根据图像分辨率和物理尺寸确定第二车底区域图像的第一像素参数。且第二车底区域图像的第一像素参数与第一车底区域图像的像素参数相同。
步骤S33:根据第一像素参数和融合参数确定待抠取的第二融合区域图像的第二像素参数,其中,第一像素参数或第二像素参数用于定位第二融合区域图像在第二全景图像中的位置。
步骤S34:基于第二像素参数,从第二全景图像中抠取出第二融合区域图像。
具体地,本发明实施例从第二全景图像中获取第二融合区域图像时,根据车辆的物理尺寸、全景可视距离、融合参数、第二全景图像的图像分辨率,将第二车底区域图像及第二融合区域图像(图7中的斜线区域)从第二全景图像的车底填充处理区域中抠出。如图7至图9所示,设车辆的物理尺寸包括车辆实际的长度Acar米、宽度Bcar米,第二全景图像的图像分辨率宽为Wpano像素、高为Hpano像素。设定第二融合区域图像的前后左右的图像边界融合参数均为α像素(即像素预设距离)。
在本发明实施例中,第二车底区域图像的第一像素参数包括位于第二车底区域图像上的至少一个顶点的像素坐标、以及第二车底区域图像的像素尺寸(高度、宽度等),第二融合区域图像的第二像素参数包括位于第二融合区域图像上的至少一个顶点的像素坐标、以及第二车底区域图像的像素尺寸(高度、宽度等),其中,示例性的,至少一个顶点可以是相应图像的左上角顶点。具体地,当至少一个顶点可以是相应图像的左上角顶点时,设定第二车底区域图像的第一像素参数包括:第二车底区域图像左上角像素点的像素横坐标为Xcarz、像素纵坐标为Ycarz,以及第二车底区域图像的高度为Hcar像素、宽度为Wcar像素。设定第二融合区域图像的第二像素参数包括:第二融合区域图像左上角像素点的像素横坐标为Xcut、像素纵坐标为Ycut,第二融合区域图像高度为Hcut像素、宽度为Wcut像素,第二全景图像前后左右距离第二车底区域图像的可视距离均为Lview米,β为每像素代表的实际米数。其中:
Figure BDA0004024327660000131
则,由β可分别计算出第二车底区域图像的第一像素参数,具体计算公式如下:
Xcarz=β*Lview
Ycarz=β*Lview
Hcar=β*Acar
Wcar=β*Bcar
则,第二融合区域图像的第二像素参数可采用如下公式计算获得:
Xcut=Xcarz-α。
Ycut=Ycarz-α。
Hcut=Hcar+2α。
Wcut=Wcar+2α。
基于上述求得的第二融合区域图像的第二像素参数:(Xcut,Ycut)、Hcut以及Wcut,即可从第二全景图像中抠取出第二融合区域图像。
为保证抠出的第二融合区域图像(图7(b)中的斜线区域)与新生成第一行车环境图像(图7(c)中的四块梯形区域:左摄像头区域、右摄像头区域、前摄像头区域及后摄像头区域)的边缘过渡自然性,需对第二融合区域图像与启动新生成的第一行车环境图像的重叠区域(图7(d)中的斜线区域)进行融合过渡。结合步骤S131至S134可知,设第一融合区域图像重叠区域的融合像素值为P(x,y),将第二融合区域图像各像素的像素横坐标表示为x、纵坐标表示为y,第二融合区域图像中各像素的原始像素值为Pfusion(x,y),第一融合区域图像中各像素的原始像素值为Pcamera(x,y)。首先确定第二融合区域图像中各像素的原始像素值的第一权重值和第一融合区域图像中各像素的原始像素值的第二权重值,第一权重值采用如下公式计算:
Figure BDA0004024327660000141
式中,xcar、ycar分别表示第一车底区域图像的图像边界上的各像素点的横纵像素坐标值,α为第二融合区域图像的图像边界到第一车底区域图像的图像边界的像素距离。
第二权重值采用如下公式计算:
ω2=1-ω(x,y)。
根据第一融合区域图像中各像素的原始像素值、第二融合区域图像中各像素的原始像素值,以及第一权重值和第二权重值,调整第一融合区域图像中各像素的融合像素值时,采用的融合公式如下所示:
P(x,y)=(ω(x,y)*Pfusion(x,y)+(1-ω(x,y))*Pcamera(x,y))/2。
从图8中可知,具体待融合处理的重叠区域可分为八个区域(前区域、后区域、左区域、右区域、左前区域、右前区域、左后区域、右后区域),则第一权重值计算公式中的xcar、ycar及α也随着区域发生变化,其中,xcar、ycar在不同区域,则为相应区域对应的第一车底区域图像的图像边界上的各像素点的像素坐标值,每个区域的α可相同也可不同,如左区域的α为第二融合区域图像的左边的图像边界到第一车底区域图像(或第二车底区域图像)的左边的图像边界的像素距离,但为了提高第二融合区域图像的抠取效率和调整融合像素值的调整效率,各个区域的α设定为相同的值。各区域的融合像素值采用融合公式进行计算时,计算方法如下:
1、前区域以每列像素为单位,逐列计算像素值,此时,xcar、ycar的数值为该列位于第一车底区域图像上边界所对应的像素坐标值,α为前区域的高度值,即第二融合区域图像的前区域的图像边界到第一车底区域图像的上方的图像边界的像素距离。
2、后区域以每列像素为单位,逐列计算像素值,此时,xcar、ycar的数值为该列位于第一车底区域图像下边界所对应的像素坐标值,α为后区域的高度值。
3、左区域以每列像素为单位,逐行计算像素值,此时,xcar、ycar的数值为该列位于第一车底区域图像左边界所对应的像素坐标值,α为左区域的宽度值。
4、右区域以每列像素为单位,逐行计算像素值,此时,xcar、ycar的数值为该列位于第一车底区域图像右边界所对应的像素坐标值,α为右区域的宽度值。
此外,由于左前、右前、左后、右后等区域位于拼缝处图像较为模糊,本发明实施例仅将第二融合区域图像与第一融合区域图像的像素值做均值处理,将均值处理后得到的像素值作为左前、右前、左后、右后等区域融合后的像素值,均值计算公式如下所示:
P(x,y)=(Pfusion(x,y)+Pcamera(x,y))/2。
由上即完成了对第一全景图像的像素融合处理,使得到的第一全景图像画面自然无拼接痕迹,用户体验佳。将第一全景图像进行裁剪至640*480指定的图像分辨率大小后进行渲染输出,从而达到无盲区的全景俯视图效果。
此外,基于第二行车环境图像生成具有车底图像的第二全景图像时,第二全景图像的第二车底区域图像中填充车底图像的填充原理包括如下内容:
填充原理如图10所示,填充车底图像的车底填充功能是通过图像时域信息结合车身运动参数,完成车载摄像头不能直接观察到的车辆车身的底部区域的图像填充,该车底填充功能高度依赖车身运动参数,车身运动参数的好坏直接影响该车底填充功能的填充效果。车辆在行进时,需要根据车身运动参数来确定车辆运动距离,对全景影像做一个同样的旋转操作,实时处理,就可以得到一张可以看到车底情况的历史全景影像视图,从历史全景影像视图中抠出展示车底盲区道路环境的图像填充到车载摄像头实时采集的图像拼接成的全景视图(例如第二行车环境图像),就可以实现车底下道路情况展示功能,获得第二全景图像。由于图像的填充严格依赖车辆的运动轨迹,所以对车辆运动轨迹的计算尤为重要。通常将车辆行驶分为两类:一类为直线行驶、一类为旋转运动。
1)直线运动:角度小于一定值当做直线运行,直线行驶时,行驶距离通过速度乘以时间即可得到车辆行驶距离。如图11所示,直线行驶时,车辆行进d0=v0*T0,根据世界坐标与图像坐标的关系,在第二行车环境图像内也填充相应距离的展示车底盲区环境的图像。
2)转向运动:如图12所示,角度大于一定角度时,根据阿卡曼原理,车辆绕着圆心做圆周运动,根据车身速度或者轮脉冲信息,我们知道车辆行进的距离,根据方向盘角度,我们可以得到车辆旋转圆心,那么就可以得到车辆绕着旋转圆心转过的角度,同理,对历史全景影像视图做相应的旋转,然后从历史全景影像视图中截取展示车底盲区道路环境的图像到最新第二行车环境图像,即可得到展示车底下道路情况的第二全景图像。
在步骤S13中,融合第一行车环境图像和车底图像之前,请参见图13,本发明实施例提供的方法还包括如下步骤:
步骤S41:获取响应于车辆停止移动后的熄火信号,根据车底图像识别出的车辆底部存在障碍物的障碍物识别结果。
步骤S42:根据障碍物识别结果在车底图像中标注出障碍物信息,以获得标注有障碍物信息的车底图像。
本发明实施例不仅能确保驾驶人员能根据得到的车底图像知晓车辆的车底盲区存在的障碍物,还能根据障碍物识别结果进行车底障碍预警,如根据障碍物识别结果从车底图像中判断出石块、深坑及道路边缘等影响驾驶行为的物体,可将物体种类及图像中坐标位置等识别结果进行存储,并在车底图像中标注出障碍物信息。待驾驶员再次进行驾驶行为时,会主动根据存储的障碍物识别结果进行提醒,提升驾驶的安全性。
本发明实施例提供的图像生成方法在车辆熄火启动后,车底盲区无需车辆再次移动后根据移动过程中摄取的图像进行填充,可直接查看车底情景,提升车辆启动时车辆驾驶安全性。鉴于目前市面上的无盲区车载全视系统在车辆熄火再启动后,若车辆不进行移动,此时车载全视系统会存在车底盲区,无法直观判断车底道路状况,需车辆前行一整个车身,才可以消除车底盲区。而利用本发明实施例提供的图像生成方法应用于车载全视系统时,能够保证在车辆启动后,车载全视系统显示的图像就成为无盲区状态,且无需增加额外车载摄像头,对车载全视系统稳定性影响较小,应用成本极低,实用性强。
本发明二个实施例还提供了一种图像生成装置,请参见图14,该图像生成装置包括:
第一获取模块11,用于响应于车辆熄火后的重新启动信号,获取车辆在重新启动过程中的第一行车环境图像;
判断模块12,用于判断车辆的位置是否发生移动,以及在车辆的位置未发生移动的情况下,获取车辆熄火前保存的车底图像,车底图像为用于对车辆底部的道路信息进行展示的图像;
图像融合模块13,用于融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像。
本发明实施例通过图像融合模块13将车辆熄火前保存的车底图像与车辆启动过程中获得的第一行车环境图像进行融合,得到车辆在重新启动过程中的第一全景图像,无需车辆移动一定距离,就能得到了解车底道路状况的无车底盲区的第一全景图像,提升了用户体验感。且该第一全景图像的生成过程无需增加额外的图像摄取设备,对环视系统稳定性影响较小、应用成本极低、实用性强。
当车辆发生溜车和在非点火状态下移位时(如被拖车运走),上次熄火前保存的车底图像就无法再适用于下次驾驶清醒,该种场景下,就不可机械性地将熄火前保存的车底图像直接与第一行车环境图像进行融合,为避免融合后的第一全景图像没有错位现象,首先需要对车辆的位置偏移情况进行判定,对此,在本发明实施例提供的图像生成装置的判断模块12判断车辆的位置是否发生移动的步骤包括:
步骤S121:获取车辆熄火前保存的第二行车环境图像。
步骤S122:根据第一行车环境图像和第二行车环境图像,判断车辆的位置是否发生移动。对此,本发明实施例在判断出车辆位置未发生移动的情况下,再融合第一行车环境图像和车底图像,车底图像与第一行车环境图像融合后获得的第一全景图像中不会出现错位图像,进一步提升了用户体验。
在现实使用场景中,由于周围环境相对复杂,为更好地根据车辆熄火前保存的第二行车环境图像与车辆重新启动过程车载摄像头采集的第一行车环境图像之间的图像差异,提高对车辆位置偏移情况的判断精度,对此,在判断模块12执行步骤S122中,根据第一行车环境图像和第二行车环境图像,判断车辆的位置是否发生移动时,判断模块12具体执行如下方法的步骤:
步骤S221:对第一行车环境图像进行边缘检测,得到包含第一边缘轮廓的第一边缘轮廓图像,第一边缘轮廓位于第一边缘轮廓图像中的第一相对位置。
步骤S222:对第二行车环境图像进行边缘检测,得到包含第二边缘轮廓的第二边缘轮廓图像,第二边缘轮廓位于第二边缘轮廓图像中的第二相对位置。
步骤S223:在第一边缘轮廓与第二边缘轮廓相似,且第一相对位置与第二相对位置的偏移值不大于设定偏移值的情况下,确定车辆的位置未发生移动;否则确定车辆的位置发生移动。
其次,本发明实施例在判断模块12确定车辆的位置是否发生移动时,还可通过对第一边缘轮廓图像和第二边缘轮廓图像进行逐像素对比,若第一边缘轮廓图像和第二边缘轮廓图像的像素点重合个数少于预定个数时,也可判定车辆的位置发生移动(如溜车、被拖车运走等情况),否则,车辆的位置未发生移动。若车辆的位置发生移动时,本发明实施例还包括图像删除模块14,图像删除模块14用于删除熄火前保存的车底图像,同时,采用预设的纯色车底填充图填充在第一行车环境图像中,并生成告警信息告知驾驶员车辆位置异常,若未主动发生拖车行为,则该停车场景易导致车辆发生溜车,存在安全隐患,进一步提升了用户体验。
鉴于驾驶员两次驾驶车辆间隔的时间可能较久,当前次重启车辆时所处环境的光照条件与车辆熄火时所处环境的光照条件不同,为使融合得到的第一全景图像更加自然,本发明实施例提供的装置还包括图像均衡模块15,在图像融合模块13融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像之前,本发明实施例采用图像均衡模块15对第一行车环境图像和车底图像进行亮度均衡处理和/或色度修正处理。
具体地,图像均衡模块15对第一行车环境图像和车底图像进行亮度均衡处理和/或色度修正处理时,具体执行如下方法步骤:
步骤S21:从第一行车环境图像中获取第一融合区域图像,以及从第二行车环境图像中获取第二融合区域图像,其中,第一融合区域图像与第二融合区域图像为车载摄像头采集的相同视野范围内的图像。
步骤S22:确定第二融合区域图像相对于第一融合区域图像的亮度偏差值和/或色度偏差值。
步骤S23:根据亮度偏差值和/或色度偏差值,对第一行车环境图像和车底图像进行亮度调整和/或色度调整。从而确保了第一行车环境图像和车底图像的亮度和/色度的一致性,融合得到的第一全景图像更加自然。
本发明实施例的图像融合模块13融合第一行车环境图像和车底图像,得到车辆在重新启动过程中的第一全景图像时,具体还执行如下方法的步骤:
步骤S131:从第一行车环境图像中获取第一融合区域图像,基于第一融合区域图像确定第一车底区域图像。
步骤S132:基于第二行车环境图像获取第二融合区域图像,其中,第二融合区域图像与第一融合区域图像的像素尺寸相同,且第二融合区域图像对应有车底图像,像素尺寸包括像素高度和像素宽度,即第二融合区域图像与第一融合区域图像的像素高度和像素宽度相同。
步骤S133:根据第二融合区域图像的各像素到第一车底区域图像的图像边界的距离,以及第二融合区域图像的图像边界到第一车底区域图像的图像边界的像素距离,确定第二融合区域图像中各像素的原始像素值的第一权重值和第一融合区域图像中各像素的原始像素值的第二权重值;其中,距离第一车底区域图像的图像边界越近,第一融合区域图像中各像素的原始像素值的第二权重值越大,第二融合区域图像中各像素的原始像素值的第一权重值越小。
步骤S134:根据第一融合区域图像中各像素的原始像素值、第二融合区域图像中各像素的原始像素值,以及第一权重值和第二权重值,调整第一融合区域图像中各像素的融合像素值。
其中,步骤S132基于第二行车环境图像获取第二融合区域图像时,图像融合模块13还用于获取基于第二行车环境图像生成的第二全景图像,其中,第二全景图像包括第二车底区域图像,且第二车底区域图像中填充有车底图像,从第二全景图像中获取第二融合区域图像,其中,填充有车底图像的第二车底区域位于第二融合区域图像中。具体地,图像融合模块13从第二全景图像中获取第二融合区域图像时,具体执行如下方法的步骤:
步骤S31:获取融合参数、第二全景图像的图像分辨率,以及车辆的物理尺寸,融合参数为待抠取的第二融合区域图像的图像边界到第一车底区域图像的图像边界之间的像素预设距离。在本发明实施例中,像素预设距离即为步骤S133中第二融合区域图像的图像边界到第一车底区域图像的图像边界的像素距离(本发明实施例统一定义为融合参数)。
步骤S32:根据图像分辨率和物理尺寸确定第二车底区域图像的第一像素参数。
步骤S33:根据第一像素参数和融合参数确定待抠取的第二融合区域图像的第二像素参数,其中,第一像素参数或第二像素参数用于定位第二融合区域图像在第二全景图像中的位置。
步骤S34:基于第二像素参数,从第二全景图像中抠取出第二融合区域图像。
本发明实施例提供的装置还包括障碍物标识模块16,则在图像融合模块13融合第一行车环境图像和车底图像之前,障碍物标识模块16用于执行如下方法的步骤:
步骤S41:获取响应于车辆停止移动后的熄火信号,根据车底图像识别出的车辆底部存在障碍物的障碍物识别结果。
步骤S42:根据障碍物识别结果在车底图像中标注出障碍物信息,以获得标注有障碍物信息的车底图像。
本发明实施例提供的图像生成装置不仅能确保驾驶人员能根据得到的车底图像知晓车辆的车底盲区存在的障碍物,还能根据障碍物识别结果进行车底障碍预警,如根据障碍物识别结果从车底图像中判断出石块、深坑及道路边缘等影响驾驶行为的物体,可将物体种类及图像中坐标位置等识别结果进行存储,并在车底图像中标注出障碍物信息。待驾驶员再次进行驾驶行为时,会主动根据存储的障碍物识别结果进行提醒,提升驾驶的安全性。
本发明第三个实施例还提供了一种电子设备,电子设备包括本发明第二个实施例提供的图像生成装置。
本发明第四个实施例还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的程序,其中,在程序运行时控制计算机可读存储介质所在设备执行图像生成方法的步骤,其中,图像生成方法的具体内容请参见本发明第一个实施例提供的内容,本发明实施例在此不再赘述。
如图15至16所示,在本发明第二个实施例中,将本发明第一个实施例提供的图像生成方法应用于车载全景系统时,本发明实施例提供的车载全景系统为得到无车底盲区的第一全景图像时,可进行如下操作:
1、熄火前获取的无盲区第二全景图像的存储(如图15所示):第二全景图像的存储发生于车辆熄火阶段,车辆控制器收到来自车身的熄火信号后,控制器会将车辆周身的四个车载摄像头摄取的第二行车环境图像以及第二行车环境图像构成的第二全景图像存储到指定路径中,随后车辆熄火关闭。保存时,可将四个车载摄像头摄取的四路鱼眼图分别进行保存,需要使用时才将四路鱼眼图拼接生成第二行车环境图像,也可提前将第二全景图像中的车底图像抠取出来单独保存,但由于车底图像直接填充到第一行车环境图像得到的图像画面会使车底图像与第一行车环境图像之间出现图像断层衔接不自然的现象,因此,通常会通过本发明第一个实施例提供的从第二全景图像中抠取包含车底图像的第二融合区域图像的方式融合填充至第一行车环境图像,得到的图像画面更加自然。
2、车底障碍预警:如图16所示,利用图像识别技术(图像识别技术是指利用计算机对图像进行处理、分析和理解,以识别各种不同模式的目标和对象的技术,是应用深度学习算法的一种实践应用),基于熄火前保存的第二全景图像中的车底图像展示的区域进行障碍物分析,若从车底图像展示的区域中发现石块、深坑及道路边缘等影响驾驶行为的物体,将物体种类及物体在车底图像中的坐标位置等障碍物识别结果进行存储,待驾驶员再次进行驾驶行为时,会基于障碍物识别结果主动进行告警提示,提升驾驶的安全性。
3、车辆位置发生异常偏移时的填充矫正处理:
如图16所示,当车辆发生溜车和在非点火状态下移位时(如被拖车运走),上次熄火前保存的第二全景图像已无法再适用于下次驾驶清醒,该种场景下,不可机械性地将熄火前保存的第二全景图像中的车底图像直接拿来填充进第一行车环境图像中,否则会引起车底图像与第一行车环境图像的错位,影响用户体验。因此需要判断车辆位置的异常状态,相应的对待填充进第一行车环境图像的第一车底区域图像的车底图像进行矫正处理。具体步骤如下:
步骤31):进行图像边缘检测处理,在现实使用场景中,由于周围环境相对复杂,本发明实施例采用边缘检测算子,对车辆熄火前四个车载摄像头摄取的原始图像得到的第二行车环境图像、以及车载摄像头在车辆启动时摄取的第一行车环境图像进行边缘预处理,保留画面中景物具有特征性的边缘轮廓后,得到各个车载摄像头的原始图像对应的包含第二边缘轮廓的第二边缘轮廓图像,以及第一行车环境图像对应的包含第一边缘轮廓的第一边缘轮廓图像。
步骤32):车辆位置异常判断时,将步骤31)处理获得的第一边缘轮廓图像和第二边缘轮廓图像进行逐像素对比,在第一边缘轮廓与第二边缘轮廓相似,且第一相对位置与第二相对位置的偏移值不大于设定偏移值的情况下,确定车辆的位置未发生移动,否则确定车辆的位置发生移动。
步骤33):进行填充矫正处理。若车辆位置异常,则删除熄火后保存的原始无盲区全景图,同时以预先设定的初始状态的纯色车底填充图作为车辆启动时第一行车环境图像中第一车底区域图像的初始状态。并在车载全景系统中告知驾驶员车辆位置异常,若未主动发生拖车行为,则该停车场景易导致车辆发生溜车,存在安全隐患。
4、自适应盲区填充:
如图16所示,自适应车底盲区填充发生于车辆启动阶段,具体步骤如下:
步骤41):检测文件是否存在。车辆控制器启动后,会先在全景图像保存路径下查询是否存在第二全景图像的保存文件,若未存在,则程序返回,并告知车载全景系统车辆在熄火前未进行车底填充动作,无需初始盲区填充动作,若文件存在,则进行步骤42)。
步骤42):全景图像预处理。鉴于驾驶员两次驾驶的行为间隔可能较久,光照条件不同,为使填充在第一行车环境图像中第一车底区域图像的车底图像更加自然,本发明实施例结合车辆启动后实时生成的第一行车环境图像的全景视图处理区域,对车辆熄火前保存的带车底图像的第二全景图像进行亮度均衡处理,如图7和图8所示,全景视图输出前往往需要经过裁剪处理,我们将分别来自熄火后保存的第二全景图像和车辆启动后第一行车环境图像的全景视图处理区域中的车底盲区区域(第一车底区域图像)进行亮度均衡,通过对两个区域图像的亮度、色度修正,实现车辆启动后第一车底区域图像的整体亮度均衡。自适应校准画面亮度,保证整个车载全景系统在车机显示屏中的画面亮度一致性。
步骤43):车底填充俯视图:当前帧全景图的车底填充处理区域维护的是一张比较大的全景图,车底盲区区域较小,本发明实施例需从第二全景图像的车底填充处理区域抠出第二融合区域图像,在车辆再次启动时,我们将经过亮度均衡处理后的第二全景图像中的车底图像作为首帧车底显示图像融合填充在第一行车环境图像的第一车底区域图像中,其中,第二融合区域图像的抠取及第二融合区域图像与第一行车环境图像的图像融合过程具体请参见本发明第一个实施例,本发明实施例在此不再赘述。
步骤44):裁剪输出。将融合后得到的第一全景图像裁剪至指定的640*480图像分辨率后进行渲染输出,从而达到展示有车底盲区道路环境的全景俯视图效果。
步骤45)全景图的显示与删除。得到第一全景图像的同时,将熄火前保存的第二全景图像进行删除。
本发明实施例提供的车载全视系统在车辆熄火启动后,无需车辆再次移动前行就能直接查看车底情景,提升车辆启动时车辆驾驶安全性。鉴于目前市面上的无盲区车载全景系统在车辆熄火再启动后,若车辆不进行移动,此时环视系统会存在车底盲区,无法直观判断车底道路状况,需车辆前行一整个车身,才可以消除车底盲区。本发明实施例提供的车载全视系统对这一问题进行了针对性优化,保证了在车辆启动后,车载全视系统就成为无盲区状态,无需增加额外车载摄像头,对环视系统稳定性影响较小,应用成本极低,实用性强。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。

Claims (12)

1.一种图像生成方法,其特征在于,所述方法包括:
响应于车辆熄火后的重新启动信号,获取所述车辆在重新启动过程中的第一行车环境图像;
判断所述车辆的位置是否发生移动,以及在所述车辆的位置未发生移动的情况下,获取所述车辆熄火前保存的车底图像,所述车底图像为用于对所述车辆底部的道路信息进行展示的图像;
融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像。
2.根据权利要求1所述的方法,其特征在于,判断所述车辆的位置是否发生移动包括:
获取所述车辆熄火前保存的第二行车环境图像,所述第二行车环境图像对应有所述车底图像;
根据所述第一行车环境图像和所述第二行车环境图像,判断所述车辆的位置是否发生移动。
3.根据权利要求2所述的方法,其特征在于,根据所述第一行车环境图像和所述第二行车环境图像,判断所述车辆的位置是否发生移动包括:
对所述第一行车环境图像进行边缘检测,得到包含第一边缘轮廓的第一边缘轮廓图像,所述第一边缘轮廓位于所述第一边缘轮廓图像中的第一相对位置;
对所述第二行车环境图像进行边缘检测,得到包含第二边缘轮廓的第二边缘轮廓图像,所述第二边缘轮廓位于所述第二边缘轮廓图像中的第二相对位置;
在所述第一边缘轮廓与所述第二边缘轮廓相似,且所述第一相对位置与所述第二相对位置的偏移值不大于设定偏移值的情况下,确定所述车辆的位置未发生移动;否则确定所述车辆的位置发生移动。
4.根据权利要求2所述的方法,其特征在于,在融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像之前,所述方法还包括:
对所述第一行车环境图像和所述车底图像进行亮度均衡处理和/或色度修正处理。
5.根据权利要求4所述的方法,其特征在于,对所述第一行车环境图像和所述车底图像进行亮度均衡处理和/或色度修正处理包括:
从所述第一行车环境图像中获取第一融合区域图像,以及从所述第二行车环境图像中获取第二融合区域图像,其中,所述第一融合区域图像与所述第二融合区域图像为车载摄像头采集的相同视野范围内的图像;
确定所述第二融合区域图像相对于所述第一融合区域图像的亮度偏差值和/或色度偏差值;
根据所述亮度偏差值和/或所述色度偏差值,对所述第一行车环境图像和所述车底图像进行亮度调整和/或色度调整。
6.根据权利要求2所述的方法,其特征在于,融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像包括:
从所述第一行车环境图像中获取第一融合区域图像,基于所述第一融合区域图像确定第一车底区域图像;
基于所述第二行车环境图像获取第二融合区域图像,其中,所述第二融合区域图像与所述第一融合区域图像的像素尺寸相同,且所述第二融合区域图像对应有所述车底图像;
根据所述第二融合区域图像的各像素到所述第一车底区域图像的图像边界的距离,以及所述第二融合区域图像的图像边界到所述第一车底区域图像的图像边界的像素距离,确定所述第二融合区域图像中各像素的原始像素值的第一权重值和所述第一融合区域图像中各像素的原始像素值的第二权重值;其中,距离所述第一车底区域图像的图像边界越近,所述第一融合区域图像中各像素的原始像素值的所述第二权重值越大,所述第二融合区域图像中各像素的原始像素值的所述第一权重值越小;
根据所述第一融合区域图像中各像素的原始像素值、所述第二融合区域图像中各像素的原始像素值,以及所述第一权重值和所述第二权重值,调整所述第一融合区域图像中各像素的融合像素值。
7.根据权利要求6所述的方法,其特征在于,基于所述第二行车环境图像获取第二融合区域图像包括:
获取基于所述第二行车环境图像生成的第二全景图像,其中,所述第二全景图像包括第二车底区域图像,且所述第二车底区域图像中填充有所述车底图像;
从所述第二全景图像中获取所述第二融合区域图像,其中,填充有所述车底图像的所述第二车底区域图像位于所述第二融合区域图像中。
8.根据权利要求7所述的方法,其特征在于,从所述第二全景图像中获取所述第二融合区域图像包括:
获取融合参数、所述第二全景图像的图像分辨率,以及所述车辆的物理尺寸,所述融合参数为待抠取的所述第二融合区域图像的图像边界到所述第一车底区域图像的图像边界之间的像素预设距离;
根据所述图像分辨率和所述物理尺寸确定所述第二车底区域图像的第一像素参数;
根据所述第一像素参数和所述融合参数确定待抠取的所述第二融合区域图像的第二像素参数;其中,所述第一像素参数或所述第二像素参数用于定位所述第二融合区域图像在所述第二全景图像中的位置;
基于所述第二像素参数,从所述第二全景图像中抠取出所述第二融合区域图像。
9.根据权利要求1至8任一所述的方法,其特征在于,融合所述第一行车环境图像和所述车底图像之前,所述方法还包括:
获取响应于车辆停止移动后的熄火信号,根据所述车底图像识别出的所述车辆底部存在障碍物的障碍物识别结果;
根据所述障碍物识别结果在所述车底图像中标注出障碍物信息,以获得标注有所述障碍物信息的所述车底图像。
10.一种图像生成装置,其特征在于,所述装置包括:
第一获取模块(11),用于响应于车辆熄火后的重新启动信号,获取所述车辆在重新启动过程中的第一行车环境图像;
判断模块(12),用于判断所述车辆的位置是否发生移动,以及在所述车辆的位置未发生移动的情况下,获取所述车辆熄火前保存的车底图像,所述车底图像为用于对所述车辆底部的道路信息进行展示的图像;
图像融合模块(13),用于融合所述第一行车环境图像和所述车底图像,得到所述车辆在重新启动过程中的第一全景图像。
11.一种电子设备,其特征在于,所述电子设备包括权利要求10所述的图像生成装置。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至9中任一项所述的方法。
CN202211698437.8A 2022-12-28 2022-12-28 图像生成方法、装置、电子设备及存储介质 Pending CN115909283A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211698437.8A CN115909283A (zh) 2022-12-28 2022-12-28 图像生成方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211698437.8A CN115909283A (zh) 2022-12-28 2022-12-28 图像生成方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN115909283A true CN115909283A (zh) 2023-04-04

Family

ID=86479823

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211698437.8A Pending CN115909283A (zh) 2022-12-28 2022-12-28 图像生成方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115909283A (zh)

Similar Documents

Publication Publication Date Title
DE102014107156B4 (de) System und Verfahren zum Bereitstellen einer verbesserten perspektivischen Bilderzeugung in einem Frontbordstein-Visualisierungssystem
DE102014107158B4 (de) Verbesserte Top-Down-Bilderzeugung in einem Frontbordstein-Visualisierungssystem
US8289391B2 (en) Apparatus for vehicle surroundings monitoring
CN112224132B (zh) 一种车用全景环视障碍物预警方法
DE112018000171T5 (de) Vorrichtung und Verfahren zur Anzeige von Informationen
CN202035096U (zh) 移动机械的移动操作监控系统
DE102018200963A1 (de) Head-up-anzeigevorrichtung und anzeigesteuerverfahren
DE102014107155A1 (de) Verbessertes Frontbordstein-Visualisierungssystem
JP2009044730A (ja) 車両の後方視認システムの歪みを補正し且つ像を強調する方法及び装置
US10166923B2 (en) Image generation device and image generation method
EP2723060A1 (en) Vehicle-mounted camera device
CN111277796A (zh) 图像处理方法、车载视觉辅助系统及存储设备
US11845381B2 (en) Systems and methods for controlling a vehicle camera
JP6880252B2 (ja) 自動車両および自動車両の環境領域の少なくとも1つの合成俯瞰表示画像を生成する方法、カメラシステムおよび自動車両
CN112348741A (zh) 全景图像拼接方法、设备及存储介质和显示方法及系统
CN112215747A (zh) 无车底盲区的车载全景图的生成方法、装置及存储介质
JP7426174B2 (ja) 車両周囲画像表示システム及び車両周囲画像表示方法
CN112069980B (zh) 障碍物识别方法、障碍物识别系统和存储介质
WO2019034916A1 (en) SYSTEM AND METHOD FOR PRESENTING AND CONTROLLING VIRTUAL CAMERA IMAGE FOR A VEHICLE
CN112215214A (zh) 调整智能车载终端的摄像头偏移的方法及系统
US20210327129A1 (en) Method for a sensor-based and memory-based representation of a surroundings, display device and vehicle having the display device
CN113276772B (zh) 一种汽车电子外后视镜系统及控制方法
JP2007134961A (ja) 車両検出装置及びこれを用いた車両用表示装置
JP7466324B2 (ja) 画像処理装置及び画像処理方法
CN115909283A (zh) 图像生成方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination