CN115209037A - 一种车辆底部透视方法及装置 - Google Patents
一种车辆底部透视方法及装置 Download PDFInfo
- Publication number
- CN115209037A CN115209037A CN202110740603.5A CN202110740603A CN115209037A CN 115209037 A CN115209037 A CN 115209037A CN 202110740603 A CN202110740603 A CN 202110740603A CN 115209037 A CN115209037 A CN 115209037A
- Authority
- CN
- China
- Prior art keywords
- image
- vehicle
- module
- current
- speed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000009877 rendering Methods 0.000 claims abstract description 30
- 230000003287 optical effect Effects 0.000 claims description 39
- 238000013500 data storage Methods 0.000 claims description 15
- 238000001514 detection method Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000004907 flux Effects 0.000 claims 2
- 239000011159 matrix material Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
- G07C5/0808—Diagnosing performance data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明提供车辆底部透视方法及装置,方法包括:获取当前全景视频图像;确定当前车速;根据当前方向盘转角信号确定车轮转角信号;获取摄像头模组内参及外参;根据所述当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系;根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像;将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。本发明实现了车辆底部的透视,提高了驾驶体验和安全指数。
Description
技术领域
本发明涉及辅助驾驶技术领域,尤其涉及一种车辆底部透视方法及装置。
背景技术
随着汽车电子技术的快速发展,用户对车辆驾驶的体验要求越来越高。比如传统的车辆全景系统,只能显示车身周围摄像头拍摄的可见范围,而无法显示车辆底部的图像,从而不能得到车身底部的环境信息,从而导致用户体验不佳。
因此,亟需对现有的全景系统进行改进,实现车辆底部透视,从而帮助驾驶员更全面地了解驾驶环境,达到提高驾驶安全性的功能。
发明内容
本发明提供一种车辆底部透视方法及装置,旨在解决现有技术中的缺陷,实现车辆底部的透视,提高驾驶体验和安全指数。
为达到上述目的,本发明所采取的技术方案为:
本发明一方面提供一种车辆底部透视方法,包括:
步骤1、获取当前全景视频图像;
步骤2、确定当前车速;
步骤3、根据当前方向盘转角信号确定车轮转角信号;
步骤4、获取摄像头模组内参及外参;
步骤5、根据所述当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系;
步骤6、根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像;
步骤7、将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
进一步地,在所述步骤7之后还包括步骤:
步骤8、将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
具体地,所述步骤6包括:
步骤601、根据所述当前车速、当前车轮转角和前一帧图像对应的历史车速、历史车轮转角,确定两帧图像之间的车辆运行轨迹方程;
步骤602、根据所述车辆运行轨迹方程、所述摄像头模组内参及外参,确定图像上相同特征点的图像运行轨迹方程;
步骤603、根据所述图像运行轨迹方程计算出当前时刻所述特征点的第一位置在前一帧图像中的第二位置;
步骤604、根据所述第二位置,读取相应的历史视频图像与当前全景视频图像进行拼接,得到虚拟的车辆底部图像。
具体地,所述步骤604包括:
步骤604-a、将所述第一位置、第二位置及对应的图像运动轨迹形成的区间作为拼接区域;
步骤602-b、对所述拼接区域内的像素通过加权法进行融合。
具体地,所述步骤7包括:
步骤71-a、将所述虚拟的车辆底部图像作为背景图片进行绘制;
步骤71-b、将预设的车辆模型图片作为第一前景图片加载到临时缓存中;
步骤71-c、读取所述第一前景图片各像素点的第一像素值,并将所述各像素值的透明度设为预设透明度,得到第二像素值;
步骤71-d、将所述第二像素值写入到所述前景图片的对应像素点中,生成第二前景图片;
步骤71-e、从所述临时缓存中读取所述第二前景图片进行绘制。
具体地,所述步骤7包括:
步骤72-a、将所述所述虚拟的车辆底部图像作为背景纹理;
步骤72-b、读取预存的车辆模型图片到本地缓存;
步骤72-c、调用OPENGL接口加载所述车辆模型图片为前景渲染纹理;
步骤72-e、调用OPENGL渲染接口将所述前景渲染纹理渲染到所述背景纹理上。
具体地,所述步骤2包括:
步骤201、判断当前车速是否小于第一速度阈值,是则进入下一步,否则根据轮速传感器发送的数据计算所述当前车速;
步骤202、使用光流法检测摄像头瞬时速度,并根据所述摄像头瞬时速度计算所述当前车速。
具体地,所述步骤202中使用光流法检测摄像头瞬时速度包括:
步骤202-a、标定摄像头的图像坐标系和世界坐标系之间的第一关系;
步骤202-b、从所述历史视频图像中提取连续的两帧图像,作为第一图像帧、第二图像帧;
步骤202-c、对所述第一图像帧、第二图像帧分别构建预设层数的第一图像金字塔、第二图像金字塔;
步骤202-d、计算第一光流值,所述第一光流值为所述图像金字塔的顶层的光流;
步骤202-e、将所述第一光流值作为图像金字塔的前一层光流计算的迭代初始值,进行迭代运算;
步骤202-f、判断当前层数是否为0,是则输出当前光流值,否则返回执行步骤202-e;
步骤202-g、根据所述当前光流值计算所述第一图像帧中任意一点的水平光流速度和垂直光流速度;
步骤202-h、根据所述第一关系、水平光流速度和垂直光流速度,计算得到所述第一图像帧中任意一点的世界坐标;
步骤202-i、根据所述世界坐标计算得到当前车速V。
具体地,所述步骤202-c中图像金字塔的层数确定方法包括:
步骤c1、将所述第一图像帧的各像素按照预设像素步长平移预设次数,将每次平移像素后的图像与所述第二图像帧作差,记录差值结果;
步骤c2、确定所述第一图像帧中的各像素点的第一赋值集合,所述第一赋值集合为各像素点的所述差值结果中最小值对应的当前平移像素值的集合;
步骤c3、统计所述第一赋值集合中各相同赋值的个数,并计算各相同赋值的第一比例集合,所述第一比例集合为各相同赋值的个数与所述第一图像帧总像素数的比例的集合;
步骤c4、根据所述第一比例集合确定第二赋值集合,所述第二赋值集合为所述第一比例集合中大于预设比例阈值的各比例对应的各相同赋值的集合;
步骤c5、从所述第二赋值集合中选择最大者作为最大移动值;
步骤c6、根据所述最大移动值确定图像金字塔的层数。
具体地,m={B/20}+2,其中,m表示图像金字塔的层数,B表示最大移动值,{}表示向上取整。
本发明另一方面提供一种车辆底部透视装置,包括:
拼接模块,以及与所述拼接模块连接的实时视频数据获取模块、历史视频数据存储模块、车速确定模块、转角确定模块、渲染模块;所述实时视频数据获取模块还与摄像头模组、所述历史视频数据存储模块连接,所述车速确定模块还与轮速传感器连接;
所述摄像头模组,包括若干个摄像头,所述摄像头拍摄的图像构成俯视车辆的全景图像;
所述实时视频数据获取模块,用于从所述摄像头模组获取当前时刻的视频图像,同时存储到历史视频数据存储模块中;
所述历史视频数据存储模块,用于存储所述摄像头模组拍摄的视频图像;
所述轮速传感器,用于输出车轮转动的数据;
所述车速确定模块,用于根据相关信号确定当前车速;
所述转角确定模块,用于根据方向盘的转动方向和度数确定车轮转角方向和度数;
所述拼接模块,用于通过当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,并根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系;
所述渲染模块,用于将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
具体地,所述车速确定模块根据轮速传感器发送的数据计算当前车速。
进一步地,所述车辆底部透视装置还包括:与所述拼接模块连接的视频编码模块,用于将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
进一步地,所述车辆底部透视装置还包括:与所述车速确定模块连接的光流检测模块,用于通过L-K光流法计算摄像头的瞬时速度,所述光流检测模块在车速低于第一速度阈值时启动,高于第一速度阈值时关闭。
具体地,所述车速确定模块根据光流检测模块计算得到的摄像头的瞬时速度,结合阿克曼转向原理、摄像头模组内参及外参,计算车辆的轮速。
本发明的有益效果在于:本发明根据当前方向盘转角信号确定车轮转角信号,并根据所述当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,再根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像,最后将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像,实现了车辆底部的透视,提高了驾驶体验和安全指数。
附图说明
图1是本发明的车辆底部透视方法的流程示意图;
图2是本发明的车辆底部透视装置的结构示意图;
图3是本发明的车辆底部透视装置的另一结构示意图;
图4是本发明的车辆底部透视装置的又一结构示意图。
具体实施方式
下面结合附图具体阐明本发明的实施方式,附图仅供参考和说明使用,不构成对本发明专利保护范围的限制。
实施例1
如图1所示,本实施例提供一种车辆底部透视方法,包括:
步骤1、获取当前全景视频图像。
通过获取全景系统摄像头拍摄的道路图像,进行拼接即可得到当前全景视频图像。
步骤2、确定当前车速。
在具体实施时,所述当前车速可以根据轮速传感器发送的数据来计算。
步骤3、根据当前方向盘转角信号确定车轮转角信号。
步骤4、获取摄像头模组内参及外参。
步骤5、根据所述当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系。
步骤6、根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像。
容易理解,所述虚拟的车辆底部图像是全景图像中的一部分。
步骤7、将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
在本发明的另一个实施例中,在所述步骤7之后还包括步骤:
步骤8、将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
实施例2
与实施例1不同的是,本实施例提供所述步骤6的一种具体实施方法,包括:
步骤601、根据所述当前车速、当前车轮转角和前一帧图像对应的历史车速、历史车轮转角,确定两帧图像之间的车辆运行轨迹方程V(x,y)。
方向盘曲线型的角度变化以及车辆的移动距离形成车辆运行轨迹,因此通过实时计算车速信号、方向盘转角信号,即可获得车辆运行轨迹方程V(x,y)。
例如,方向盘左打15°,行驶1米,再往右打15°,行驶1米,整个过程即是方向盘曲线型的角度变化以及移动距离形成的车辆运行轨迹。
步骤602、根据所述车辆运行轨迹方程V(x,y)、所述摄像头模组内参及外参,确定图像上相同特征点的图像运行轨迹方程M(u,v)。
道路上某点(即世界坐标系中的某点)与它在图像中对应的该点的关系存在一种预定的关系,这种预定的关系可以通过单应性矩阵H求得,然后再结合阿克曼转向原理求得该点的图像运行轨迹方程M(u,v)。
步骤603、根据所述图像运行轨迹方程M(u,v)计算出当前时刻所述特征点的第一位置p(u0,v0)在前一帧图像中的第二位置p(u0',v0')。
步骤604、根据所述第二位置p(u0',v0'),读取相应的历史视频图像与当前全景视频图像进行拼接,得到虚拟的车辆底部图像。
在本实施例中,所述步骤604包括:
步骤604-a、将所述第一位置p(u0,v0)、第二位置p(u0',v0')及对应的图像运动轨迹形成的区间作为拼接区域。
步骤602-b、对所述拼接区域内的像素通过加权法进行融合。
实施例3
与实施例1不同的是,本实施例提供所述步骤7的一种具体实施方法,包括:
步骤71-a、将所述虚拟的车辆底部图像作为背景图片进行绘制。
步骤71-b、将预设的车辆模型图片作为第一前景图片加载到临时缓存中。
步骤71-c、读取所述第一前景图片各像素点的第一像素值,并将所述各像素值的透明度设为预设透明度,得到第二像素值。
在本实施例中,所述预设透明度为125。
步骤71-d、将所述第二像素值写入到所述前景图片的对应像素点中,生成第二前景图片。
步骤71-e、从所述临时缓存中读取所述第二前景图片进行绘制。
实施例4
与实施例1不同的是,本实施例提供所述步骤7的另一种具体实施方法,包括:
步骤72-a、将所述所述虚拟的车辆底部图像作为背景纹理。
步骤72-b、读取预存的车辆模型图片到本地缓存,所述车辆模型图片为4通道RGBAPNG图片,其中A通道包含透明度信息。
步骤72-c、调用OPENGL接口加载所述车辆模型图片为前景渲染纹理。
步骤72-e、调用OPENGL渲染接口将所述前景渲染纹理渲染到所述背景纹理上。
实施例5
与实施例1不同的是,所述步骤2包括:
步骤201、判断当前车速是否小于第一速度阈值,是则进入下一步,否则根据轮速传感器发送的数据计算所述当前车速。
在本实施例中,所述第一速度阈值为2~4km/h。
步骤202、使用光流法检测摄像头瞬时速度,并根据所述摄像头瞬时速度计算所述当前车速。
实施例6
与实施例5不同的是,本实施例提供所述步骤202中使用光流法检测摄像头瞬时速度的一种具体实施方法,包括:
步骤202-a、标定摄像头的图像坐标系和世界坐标系之间的第一关系。
所述第一关系为:
其中,(Xw,Yw,Zw)表示标定点在世界坐标系中的坐标,(u,v)表示标定点在图像坐标系中的坐标,h表示摄像头离地面的高度,d表示摄像头与标定物的水平距离,Ki表示摄像头的内参,Ko表示摄像头的外参,摄像头的内参和外参可通过标定获得。
步骤202-b、从所述历史视频图像中提取连续的两帧图像,作为第一图像帧P1、第二图像帧P2。
其中,第一图像帧P1为t时刻的图像帧,第二图像帧P2为间隔1/f时刻后的图像帧。容易理解,所述第一图像帧P1、第二图像帧P2均为从车速降低到第一速度阈值之后摄像头拍摄的视频图像中提取的。
步骤202-c、对所述第一图像帧P1、第二图像帧P2分别构建第一图像金字塔IP1、第二图像金字塔IP2,所述第一图像金字塔IP1、第二图像金字塔IP2的层数为m。
图像金字塔(Image Pyramid)是一系列来源于同一张原始图的不同分辨率的图像集合,这些图像以金字塔形状排列,分辨率逐步降低,金字塔的底部是待处理图像(例如第一图像帧P1、第二图像帧P2)的高分辨率表示,而顶部是这些待处理图像的低分辨率的近似,即层级越高图像越小,分辨率越低。
步骤202-d、计算第一光流值,所述第一光流值为所述图像金字塔的顶层的光流(um,vm)。
所述图像金字塔的顶层即为分辨率最低的一层,也即第m层。
步骤202-e、将所述第一光流值(um,vm)作为图像金字塔的前一层光流计算的迭代初始值,进行迭代运算。
所述图像金字塔的前一层即为分辨率增大一级的图层,例如,如果当前层级为第k层,则前一层为第k-1层。
步骤202-f、判断当前层数k是否为0,是则输出当前光流值,否则返回执行步骤202-e。
步骤202-g、根据所述当前光流值计算所述第一图像帧中任意一点的水平方向的光流速度u和垂直方向的光流速度v。
步骤202-h、根据所述第一关系,计算得到所述第一图像帧中任意一点的世界坐标(xw,yw)。
步骤202-i、根据所述世界坐标(xw,yw)计算得到当前车速V。
实施例7
与实施例6不同的是,本实施例提供所述步骤202-c中图像金字塔的层数m的一种具体确定施方法,包括:
步骤c1、将所述第一图像帧P1的各像素按照预设像素步长平移预设次数,将每次平移像素后的图像与所述第二图像帧P2作差,记录差值结果T(q)(q=1,2,3…Q)。
例如,所述预设像素步长为p个像素,预设次数为Q此,则第1次平移p个像素,第2次平移2p个像素,第3次平移3p个像素……以此类推,第Q次平移Q*p个像素,p、Q的值可以根据实验效果进行设置。
显然,T(q)是一个m*n大小的矩阵,m为图像的水平分辨率,n为垂直分辨率;矩阵中每个元素为1*Q子数组。
步骤c2、确定所述第一图像帧P1中的各像素点的第一赋值集合,所述第一赋值集合为各像素点的所述差值结果中最小值对应的当前平移像素值的集合。
例如,对于所述第一图像帧P1中坐标值为(100,200)的像素点而言,在图像平移Q次并与所述第二图像帧P2作差后,它便有Q个差值,例如-1、2、-3……8,共Q个,这Q个差值中的最小值为-10,对应的移动次数为第10次,即当前平移像素值为10*q,则坐标值为(100,200)的像素点的赋值为当前平移像素值10*q。
其它坐标值的像素点采用相同的办法确定对应的赋值。容易理解,各像素点对应的赋值可能是相同的,也可能是不同的。所有像素点的赋值构成所述第一赋值集合。
步骤c3、统计所述第一赋值集合中各相同赋值的个数,并计算各相同赋值的第一比例集合,所述第一比例集合为各相同赋值的个数与所述第一图像帧P1总像素数的比例的集合。
例如,赋值为10*q的个数为200000,第一图像帧P1总像素数为480000,则赋值为10*q的个数的比例为200000/480000=41.7%。
步骤c4、根据所述第一比例集合确定第二赋值集合,所述第二赋值集合为所述第一比例集合中大于预设比例阈值的各比例对应的各相同赋值的集合。
所述预设比例阈值可以通过实验效果标定获得。
步骤c5、从所述第二赋值集合中选择最大者作为最大移动值。
步骤c6、根据所述最大移动值B确定图像金字塔的层数。
在本实施例中,m={B/20}+2,其中,m表示图像金字塔的层数,B表示最大移动值,{}表示向上取整。
实施例8
如图2所示,本实施例提供一种车辆底部透视装置,包括:
拼接模块,以及与所述拼接模块连接的实时视频数据获取模块、历史视频数据存储模块、车速确定模块、转角确定模块、渲染模块;所述实时视频数据获取模块还与摄像头模组、所述历史视频数据存储模块连接,所述车速确定模块还与轮速传感器连接;
所述摄像头模组,包括若干个摄像头,所述摄像头拍摄的图像构成俯视车辆的全景图像;
所述实时视频数据获取模块,用于从所述摄像头模组获取当前时刻的视频图像,同时存储到历史视频数据存储模块中;
所述历史视频数据存储模块,用于存储所述摄像头模组拍摄的视频图像;
所述轮速传感器,用于输出车轮转动的数据;
所述车速确定模块,用于根据相关信号确定当前车速;
所述转角确定模块,用于根据方向盘的转动方向和度数确定车轮转角方向和度数;
所述拼接模块,用于通过当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,并根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系;
所述渲染模块,用于将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
作为一个可实施的例子,所述摄像头模组包括4个摄像头,分别安装在车辆的前保险杠、后保险杠、外左后视镜及外右后视镜上。当然,根据实际需要或者随着技术的进步,所述摄像头模组的摄像头数量不一定为4个,本发明对此不做限定,只要所述摄像头拍摄的图像能构成俯视车辆的全景图像即可。
在本实施例中,所述车速确定模块根据轮速传感器发送的数据计算当前车速。
实施例9
实施例1中的车速确定模块根据轮速传感器发送的数据计算当前车速,然而轮速传感器在车辆低速(车速小于2km/h)行驶过程中,轮速传感器发送过来的数据存在较大误差,导致拼接模块计算出来的所述第一对应关系存在较大的累计误差,进而导致虚拟的车辆底部图像与实际情况存在一定的错位。
因此,如图3所示,与实施例1不同的是,本实施例的车辆底部透视装置增加了一个与所述车速确定模块连接的光流检测模块,用于通过L-K光流法计算摄像头的瞬时速度,所述光流检测模块在车速低于第一速度阈值(例如2km/h)时启动,高于第一速度阈值(例如3km/h)时关闭。
所述车速确定模块根据光流检测模块计算得到的摄像头的瞬时速度,结合阿克曼转向原理、摄像头模组内参及外参,计算车辆的轮速。
所述拼接模块依据车速确定模块计算得到的轮速计算所述第一对应关系,从而在车辆低速行驶时实现准确的图像拼接。
实施例10
如图4所示,与实施例8、9不同的是,本实施例车辆底部透视装置还包括:与所述拼接模块连接的视频编码模块,用于将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
以上所揭露的仅为本发明的较佳实施例,不能以此来限定本发明的权利保护范围,因此依本发明申请专利范围所作的等同变化,仍属本发明所涵盖的范围。
Claims (15)
1.一种车辆底部透视方法,其特征在于,包括:
步骤1、获取当前全景视频图像;
步骤2、确定当前车速;
步骤3、根据当前方向盘转角信号确定车轮转角信号;
步骤4、获取摄像头模组内参及外参;
步骤5、根据所述当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系;
步骤6、根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像;
步骤7、将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
2.根据权利要求1所述的车辆底部透视方法,其特征在于,在所述步骤7之后还包括步骤:
步骤8、将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
3.根据权利要求1所述的车辆底部透视方法,其特征在于,所述步骤6包括:
步骤601、根据所述当前车速、当前车轮转角和前一帧图像对应的历史车速、历史车轮转角,确定两帧图像之间的车辆运行轨迹方程;
步骤602、根据所述车辆运行轨迹方程、所述摄像头模组内参及外参,确定图像上相同特征点的图像运行轨迹方程;
步骤603、根据所述图像运行轨迹方程计算出当前时刻所述特征点的第一位置在前一帧图像中的第二位置;
步骤604、根据所述第二位置,读取相应的历史视频图像与当前全景视频图像进行拼接,得到虚拟的车辆底部图像。
4.根据权利要求3所述的车辆底部透视方法,其特征在于,所述步骤604包括:
步骤604-a、将所述第一位置、第二位置及对应的图像运动轨迹形成的区间作为拼接区域;
步骤602-b、对所述拼接区域内的像素通过加权法进行融合。
5.根据权利要求1所述的车辆底部透视方法,其特征在于,所述步骤7包括:
步骤71-a、将所述虚拟的车辆底部图像作为背景图片进行绘制;
步骤71-b、将预设的车辆模型图片作为第一前景图片加载到临时缓存中;
步骤71-c、读取所述第一前景图片各像素点的第一像素值,并将所述各像素值的透明度设为预设透明度,得到第二像素值;
步骤71-d、将所述第二像素值写入到所述前景图片的对应像素点中,生成第二前景图片;
步骤71-e、从所述临时缓存中读取所述第二前景图片进行绘制。
6.根据权利要求1所述的车辆底部透视方法,其特征在于,所述步骤7包括:
步骤72-a、将所述所述虚拟的车辆底部图像作为背景纹理;
步骤72-b、读取预存的车辆模型图片到本地缓存;
步骤72-c、调用OPENGL接口加载所述车辆模型图片为前景渲染纹理;
步骤72-e、调用OPENGL渲染接口将所述前景渲染纹理渲染到所述背景纹理上。
7.根据权利要求1所述的车辆底部透视方法,其特征在于,所述步骤2包括:
步骤201、判断当前车速是否小于第一速度阈值,是则进入下一步,否则根据轮速传感器发送的数据计算所述当前车速;
步骤202、使用光流法检测摄像头瞬时速度,并根据所述摄像头瞬时速度计算所述当前车速。
8.根据权利要求7所述的车辆底部透视方法,其特征在于,所述步骤202中使用光流法检测摄像头瞬时速度包括:
步骤202-a、标定摄像头的图像坐标系和世界坐标系之间的第一关系;
步骤202-b、从所述历史视频图像中提取连续的两帧图像,作为第一图像帧、第二图像帧;
步骤202-c、对所述第一图像帧、第二图像帧分别构建预设层数的第一图像金字塔、第二图像金字塔;
步骤202-d、计算第一光流值,所述第一光流值为所述图像金字塔的顶层的光流;
步骤202-e、将所述第一光流值作为图像金字塔的前一层光流计算的迭代初始值,进行迭代运算;
步骤202-f、判断当前层数是否为0,是则输出当前光流值,否则返回执行步骤202-e;
步骤202-g、根据所述当前光流值计算所述第一图像帧中任意一点的水平光流速度和垂直光流速度;
步骤202-h、根据所述第一关系、水平光流速度和垂直光流速度,计算得到所述第一图像帧中任意一点的世界坐标;
步骤202-i、根据所述世界坐标计算得到当前车速V。
9.根据权利要求8所述的车辆底部透视方法,其特征在于,所述步骤202-c中图像金字塔的层数确定方法包括:
步骤c1、将所述第一图像帧的各像素按照预设像素步长平移预设次数,将每次平移像素后的图像与所述第二图像帧作差,记录差值结果;
步骤c2、确定所述第一图像帧中的各像素点的第一赋值集合,所述第一赋值集合为各像素点的所述差值结果中最小值对应的当前平移像素值的集合;
步骤c3、统计所述第一赋值集合中各相同赋值的个数,并计算各相同赋值的第一比例集合,所述第一比例集合为各相同赋值的个数与所述第一图像帧总像素数的比例的集合;
步骤c4、根据所述第一比例集合确定第二赋值集合,所述第二赋值集合为所述第一比例集合中大于预设比例阈值的各比例对应的各相同赋值的集合;
步骤c5、从所述第二赋值集合中选择最大者作为最大移动值;
步骤c6、根据所述最大移动值确定图像金字塔的层数。
10.根据权利要求9所述的车辆底部透视方法,其特征在于,m={B/20}+2,其中,m表示图像金字塔的层数,B表示最大移动值,{}表示向上取整。
11.一种车辆底部透视装置,其特征在于,包括:拼接模块,以及与所述拼接模块连接的实时视频数据获取模块、历史视频数据存储模块、车速确定模块、转角确定模块、渲染模块;所述实时视频数据获取模块还与摄像头模组、所述历史视频数据存储模块连接,所述车速确定模块还与轮速传感器连接;
所述摄像头模组,包括若干个摄像头,所述摄像头拍摄的图像构成俯视车辆的全景图像;
所述实时视频数据获取模块,用于从所述摄像头模组获取当前时刻的视频图像,同时存储到历史视频数据存储模块中;
所述历史视频数据存储模块,用于存储所述摄像头模组拍摄的视频图像;
所述轮速传感器,用于输出车轮转动的数据;
所述车速确定模块,用于根据相关信号确定当前车速;
所述转角确定模块,用于根据方向盘的转动方向和度数确定车轮转角方向和度数;
所述拼接模块,用于通过当前车速、车轮转角信号、所述摄像头模组内参及外参,计算出第一对应关系,并根据所述第一对应关系读取相应的历史视频图像与当前视频图像进行拼接,得到虚拟的车辆底部图像,所述第一对应关系为当前时刻车辆底部遮挡区域与历史视频图像中相同区域的图像的对应关系;
所述渲染模块,用于将预设的车辆模型渲染到所述虚拟的车辆底部图像上,得到车辆底部透视图像。
12.根据权利要求11所述的车辆底部透视装置,其特征在于,所述车速确定模块根据轮速传感器发送的数据计算当前车速。
13.根据权利要求11所述的车辆底部透视装置,其特征在于,所述车辆底部透视装置还包括:与所述车速确定模块连接的光流检测模块,用于通过L-K光流法计算摄像头的瞬时速度,所述光流检测模块在车速低于第一速度阈值时启动,高于第一速度阈值时关闭。
14.根据权利要求13所述的车辆底部透视装置,其特征在于,所述车速确定模块根据光流检测模块计算得到的摄像头的瞬时速度,结合阿克曼转向原理、摄像头模组内参及外参,计算车辆的轮速。
15.根据权利要求11~14任一项所述的车辆底部透视装置,其特征在于,所述车辆底部透视装置还包括:与所述拼接模块连接的视频编码模块,用于将所述车辆底部透视图像编码为与显示终端匹配的视频格式后输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110740603.5A CN115209037A (zh) | 2021-06-30 | 2021-06-30 | 一种车辆底部透视方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110740603.5A CN115209037A (zh) | 2021-06-30 | 2021-06-30 | 一种车辆底部透视方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115209037A true CN115209037A (zh) | 2022-10-18 |
Family
ID=83574081
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110740603.5A Pending CN115209037A (zh) | 2021-06-30 | 2021-06-30 | 一种车辆底部透视方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115209037A (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106608220A (zh) * | 2015-10-22 | 2017-05-03 | 比亚迪股份有限公司 | 车辆底部影像的生成方法、装置和车辆 |
CN107878330A (zh) * | 2017-12-06 | 2018-04-06 | 湖北航天技术研究院特种车辆技术中心 | 一种车辆底盘透视方法以及车辆底盘透视装置 |
CN108198248A (zh) * | 2018-01-18 | 2018-06-22 | 维森软件技术(上海)有限公司 | 一种车辆底部图像3d显示方法 |
CN108257092A (zh) * | 2018-01-18 | 2018-07-06 | 维森软件技术(上海)有限公司 | 一种车身环视图像底部显示方法 |
CN110956823A (zh) * | 2020-02-21 | 2020-04-03 | 浩鲸云计算科技股份有限公司 | 一种基于视频分析的交通拥堵检测方法 |
CN111311010A (zh) * | 2020-02-22 | 2020-06-19 | 中国平安财产保险股份有限公司 | 车辆风险预测方法、装置、电子设备及可读存储介质 |
-
2021
- 2021-06-30 CN CN202110740603.5A patent/CN115209037A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106608220A (zh) * | 2015-10-22 | 2017-05-03 | 比亚迪股份有限公司 | 车辆底部影像的生成方法、装置和车辆 |
CN107878330A (zh) * | 2017-12-06 | 2018-04-06 | 湖北航天技术研究院特种车辆技术中心 | 一种车辆底盘透视方法以及车辆底盘透视装置 |
CN108198248A (zh) * | 2018-01-18 | 2018-06-22 | 维森软件技术(上海)有限公司 | 一种车辆底部图像3d显示方法 |
CN108257092A (zh) * | 2018-01-18 | 2018-07-06 | 维森软件技术(上海)有限公司 | 一种车身环视图像底部显示方法 |
CN110956823A (zh) * | 2020-02-21 | 2020-04-03 | 浩鲸云计算科技股份有限公司 | 一种基于视频分析的交通拥堵检测方法 |
CN111311010A (zh) * | 2020-02-22 | 2020-06-19 | 中国平安财产保险股份有限公司 | 车辆风险预测方法、装置、电子设备及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111448478B (zh) | 用于基于障碍物检测校正高清地图的系统和方法 | |
US8077981B2 (en) | Providing virtual inserts using image tracking with camera and position sensors | |
US11657319B2 (en) | Information processing apparatus, system, information processing method, and non-transitory computer-readable storage medium for obtaining position and/or orientation information | |
US8860810B2 (en) | Method and device for extending a visibility area | |
CN112529935A (zh) | 目标车辆运动状态识别方法及装置 | |
CN115209037A (zh) | 一种车辆底部透视方法及装置 | |
US20220254008A1 (en) | Multi-view interactive digital media representation capture | |
WO2022133986A1 (en) | Accuracy estimation method and system | |
JP2009077022A (ja) | 運転支援システム及び車両 | |
CN112560606A (zh) | 挂车角度识别方法及装置 | |
CN116778457B (zh) | 一种车辆自动泊车辅助控制系统及装置 | |
US11726483B2 (en) | Apparatus for detecting inclination angle and controller | |
CN113705403B (zh) | 一种与全景成像系统融合的前方目标车辆碰撞预警方法 | |
CN117830089A (zh) | 环视拼接视图生成方法、装置、电子设备和存储介质 | |
CN114298913B (zh) | 一种优化加速的深度图超分辨率插值方法 | |
CN117671642A (zh) | 车辆检测方法、装置、设备及介质 | |
CN117710517A (zh) | 一种泊车轨迹线绘制方法、系统及车辆 | |
CN113850881A (zh) | 图像生成方法、装置、设备及可读存储介质 | |
CN117808839A (zh) | 一种图像帧的对齐方法、装置及电子设备 | |
CN118350986A (zh) | 一种基于多车动态拼接的车辆全景盲区透视方法 | |
CN114125253A (zh) | 一种机械车位检测系统及检测方法 | |
CN116246252A (zh) | 基于深度学习的实时全景车位检测方法、装置、存储介质 | |
CN116245723A (zh) | 一种基于全景环视拼接的移动物体检测方法 | |
CN118247183A (zh) | 用于减少在车辆的环境的显示中的图像伪影的方法、计算机程序、计算设备和车辆 | |
CN115861950A (zh) | 车载显示方法、车载显示系统、智能车窗及车辆 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |