CN111447429B - 一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 - Google Patents
一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 Download PDFInfo
- Publication number
- CN111447429B CN111447429B CN202010255810.7A CN202010255810A CN111447429B CN 111447429 B CN111447429 B CN 111447429B CN 202010255810 A CN202010255810 A CN 202010255810A CN 111447429 B CN111447429 B CN 111447429B
- Authority
- CN
- China
- Prior art keywords
- image
- vehicle
- binocular camera
- display
- naked eye
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
本发明涉及一种基于双目摄像头摄像的车载裸眼3D显示方法及系统,属于车载3D图像显示领域,其应用于车载裸眼3D显示系统,包括以下步骤:步骤S1、视频图像采集,通过车载双目摄像头实时采集左视角和右视角两路视频图像信号;步骤S2、场景相似度对比;步骤S3、生成新的右视角图像,AI模块对右视角图像像素进行渲染调整生成新的右视角图像;步骤S4、生成3D图像;步骤S5、3D图像显示,3D图像通过车载裸眼3D显示器进行分光后产生具有裸眼3D效果的虚拟立体画面。本发明提供一种基于双目摄像头摄像的车载裸眼3D显示方法及系统,采用双目摄像头从不同视角进行拍摄,然后渲染合成具有视差的左右眼3D图像,降低3D视频制作的成本。
Description
技术领域
本发明涉及车载3D图像显示技术领域,尤其是涉及一种基于双目摄像头摄像的车载裸眼3D显示方法及系统。
背景技术
随着裸眼3D技术的发展,人的眼睛可以不用通过辅助手段从显示设备看到效果逼真的立体图像,裸眼3D的技术原理是产生两幅具有视差的左右眼图像,通过显示设备对视差图的分光可将左眼视图和右眼视图分开,分别到达人的左眼和右眼,大脑的视觉神经通过两眼视角之间的差别来感知深度和距离,获得具有空间深度感的逼真的虚拟立体画面。
目前制作3D视频的方式主要以硬件为主,即采用昂贵的立体摄像机设备从多个角度同时摄制,这种制作方式虽然能制作高质量的3D视频画面,但制作成本很大,而且后期处理耗费较长时间,这种摄制方式无法应用在空间布局制约和低成本的播放显示设备上,如车载显示系统就无法采用这种方式摄制和显示。
因此,需要提出一种新的技术方案来解决上述技术问题。
发明内容
本发明的目的一是提供一种基于双目摄像头摄像的车载裸眼3D显示方法及系统,采用双目摄像头从不同视角进行拍摄,然后渲染合成具有视差的左右眼3D图像,降低3D视频制作的成本。
本发明的上述一发明目的是通过以下技术方案得以实现的:
一种基于双目摄像头摄像的车载裸眼3D显示方法,应用于车载裸眼3D显示系统,包括以下步骤:
步骤S1、视频图像采集,通过车载双目摄像头实时采集左视角和右视角两路视频图像信号;
步骤S2、场景相似度对比,通用计算模块对两路图像信号进行场景相似度对比计算;
步骤S3、生成新的右视角图像,AI模块对右视角图像像素进行渲染调整生成新的右视角图像;
步骤S4、生成3D图像,图像处理模块对左、右视角图像像素进行渲染排图合成处理,生成一幅具有视差信息的3D图像;
步骤S5、3D图像显示,3D图像通过车载裸眼3D显示器进行分光后产生具有裸眼3D效果的虚拟立体画面。
通过采用上述技术方案,用双目摄像头从不同视角进行拍摄,然后渲染合成具有视差的左右眼3D图像,在裸眼3D显示器进行显示,人机交互界面更友好,能直观醒目地提供车辆及周围空间状况,使驾驶员更迅速地获取障碍物等重要的视觉信息,当障碍物靠近车辆时,裸眼3D的立体显示效果使物体有跃出屏幕的震撼视觉,能更警醒地提示驾驶人员及时地进行应对;在泊车过程中能在裸眼3D显示以不同的视角更加逼真地呈现立体障碍物,可以使驾驶员更好地把握停车位两边之间的剩余空间以安全快捷地进行泊车。
本发明进一步设置为:所述步骤S1中,视频图像采集,通过车载双目摄像头实时采集并处理左视角和右视角两路视频图像信号,包括以下步骤:
步骤S101、获取原始图像信息,所述车载双目摄像头实时拍摄获取场景图像信息;
步骤S102、图像处理,所述车载双目摄像头电连接有视频图像采集模块,所述视频图像采集模块用于将车载双目摄像头拍摄传输过来的两路视频信号进行并行模数转换、压缩处理,转换为数字图像帧。
通过采用上述技术方案,通过视频图像采集模块将车载双目摄像头拍摄到的视频流转换为数据流输出以便后期的数据传输和处理。
本发明目的二是提供一种基于双目摄像头摄像的车载裸眼3D显示系统,具有3D视频制作成本低但立体显示效果良好的特点。
本发明的另一技术目的是提供一种基于双目摄像头摄像的车载裸眼3D显示系统,包括车载双目摄像头、车载裸眼3D显示器以及连接车载双目摄像头和车载裸眼3D显示器的显示处理装置,所述显示处理装置包括:
视频图像采集模块,用于获取车载双目摄像头视频信号,并将视频信号转换为数字图像帧数据输出;
AI模块,用于图像处理的具有加速计算功能的神经网络计算模块,对图像像素进行渲染调整生成新的视觉图像;
图像处理模块,用于对图像像素进行渲染排图、合成等处理;
显示器控制模块,用于控制信号驱动和控制3D图像像素在车载裸眼3D显示器的显示排图;
存储单元模块,用于操作系统存放;
通用计算模块,与所述视频图像采集模块、AI模块、图像处理模块、显示器控制模块以及存储单元模块电连接并控制各个模块之间的协同工作,并对从视频图像采集模块输入的左视角图像场景、右视角图像场景进行特征相似度计算。
通过采用上述技术方案,通过各个模块之间的相互配合,将车载双目摄像头拍摄的左视角和右视角两路视频图像进行渲染合成后生成可在裸眼3D显示器进行显示的逼真立体画面,该方法与现有的通过一个摄像机拍摄成2D视频源后,用软件算法将2D视频画面转换成3D视频画面相比,虽然成本较高,但是相比于直接使用立体摄像机设备拍摄成本更低,且能够达到现有的使用立体摄像机拍摄的立体显示效果,同时不会存在2D视频画面转换为3D视频画面时存在的深度信息高度不确定,对于不可见视区难以填充的问题。
本发明进一步设置为:所述车载双目摄像头固定安放在车身上,所述车载双目摄像头的设置参照人眼视觉特性来进行设计安放。
通过采用上述技术方案,双目摄像头采用人眼视觉特性来布置可以直接产生3D图像所需要的视差信息,不需要通过深度信息来估算高度不确定的不可见区域图像,能通过从不同的拍摄角度获得的图像信息来构建更逼真的立体场景。
本发明进一步设置为:所述车载双目摄像头包括左视角摄像头和右视角摄像头,所述左视角摄像头和右视角摄像头共同向内侧偏转相同角度。
通过采用上述技术方案,通过设置左视角摄像头和右视角摄像头向内倾斜相同角度避免在两个视角之间引入额外的垂直视差,从而降低人眼观看的疲劳感。
本发明进一步设置为:所述车载裸眼3D显示器包括车载液晶显示面板和粘贴在车载液晶显示面板上的裸眼3D光栅膜,所述裸眼3D光栅膜采用柱状镜光栅膜。
通过采用上述技术方案,通过在车载液晶显示面板上粘贴裸眼3D光栅膜从而形成车载裸眼3D显示器,便于在现有的车载液晶显示面板上进行改造,从而降低系统应用的成本,裸眼3D光栅膜采用柱状镜光栅膜,利用柱状镜光栅膜对液晶屏光像素进行折射来实现分光,将左眼图像画面和右眼图像画面的光线分别投射向观看者的左眼和右眼,使观看者从两个不同的角度看到两幅具有视差信息的图像,产生具有距离感和深度感的立体视觉效果。
本发明进一步设置为:所述AI模块为一个神经网络计算模块,所述神经网络计算模块由预先加载训练好的人工智能模型进行配置,所述人工智能模型采用局域变分自编码结构的对抗神经网络。
通过采用上述技术方案,人工智能模型采用局域变分自编码结构的对抗神经网络以生成一张特征上接近左视角图像同时保留主体结构和全局信息的新右视觉图像。
本发明进一步设置为:所述对抗神经网络包括生成器网络和判别器网络,所述生成器网络和判别器网络均是一个以自编码器结构为主体的多卷积层网络结构。
通过采用上述技术方案,通过设置生成器和判别器的网络为多卷积层网络结构增加特征提取的角度,降低识别错误率。
本发明进一步设置为:所述生成器网络总的损失函数包括生成器的对抗损失函数和自正则化损失函数,所述损失函数只对标记好的位置区域像素点作总和之后计算平均值,对于非标记区域位置的像素点其损失值为零,所述损失函数的公式如下:
其中i∈R表示像素点i属于图像中标记好的区域R, Dφ为判别器网络的输出,φ为判别器网络参数,λ为自正则化惩罚值的权重因子;
所述自正则化损失函数公式如下:
其中,X为输入到生成器网络的右视角图像,Gθ(x)为生成器网络输出的新右视角图像,θ为生成器网络的参数,Ψ表示图像空间到特征空间的映射,Ψ(x)为输入到生成器的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))为生成器输出的新的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))与Ψ(x)差值的自正则化值构成对抗神经网络损失函数的惩罚部分。
通过采用上述技术方案,为了防止新生成的右视角图像相对于源右视角图像有较大的改变,在神经网络的损失函数里增加一项自正则化损失函数以惩罚两者之间较大的变化。
本发明目的三是提供一种计算机存储介质,能够存储相应的程序,具有便于实现获得虚拟立体画面的特点。
本发明的上述发明目的三是通过以下技术方案得以实现的:
存储有能够被处理器加载并执行上述任一种基于双目设想有摄像的车载裸眼3D显示方法的计算机程序。
综上所述,本发明的有益技术效果为:通过采用双目摄像头的布置可以直接产生3D图像所需要的视差信息,不需要通过深度信息来估算高度不确定的不可见区域图像,能通过从不同的拍摄角度获得的图像信息来构建更逼真的立体场景,降低3D视频制作的成本;通过设置AI模块,对左右两个视角的摄像头拍摄产生的画面进行比较估算,从而调整其中一个视角图像(右视角图像),使两个不同视角的视差能达到平滑的衔接。
附图说明
图1是本发明的显示方法的步骤流程示意图;
图2是本发明的显示方法算法的工作流程图;
图3是本发明的显示系统的总体结构图;
图4是本发明的车载双目摄像头布置的前视图;
图5是本发明的车载双目摄像头布置的平面剖视图;
图6是本发明的对抗神经网络工作原理图;
图7是本发明要提取的左眼视图像素排列示意图;
图8是本发明要提取的右眼视图像素排列示意图;
图9是本发明合成图像的像素排列示意图;
图10是本发明的裸眼3D显示器工作原理图;
图11是本发明的车载裸眼3D显示器的结构示意图。
图中:1、车载双目摄像头;11、左视角摄像头;12、右视角摄像头;2、视频图像采集模块;3、AI模块;4、图像处理模块;5、显示器控制模块;6、存储单元模块;7、通用计算模块;8、车载裸眼3D显示器;81、车载液晶显示面板;82、裸眼3D光栅膜。
具体实施方式
以下结合附图对本发明作进一步详细说明。
实施例一:
参照图1和图2,为本发明公开的一种基于双目摄像头摄像的车载裸眼3D显示方法,应用于车载裸眼3D显示系统,包括以下步骤:
步骤S1、视频图像采集,通过车载双目摄像头1实时采集左视角和右视角两路视频图像信号。
关于视频图像的采集,通过以下具体步骤获得:
步骤S101、获取原始图像信息,通过车载双目摄像头1实时拍摄获取场景图像信息;
步骤S102、图像处理,车载双目摄像头1电连接有视频图像采集模块2,视频图像采集模块2用于将车载双目摄像头1拍摄传输过来的两路视频信号进行并行模数转换、压缩处理,转换为适合图像处理模块4和AI模块3处理的数字图像帧。
步骤S2、场景相似度对比,通用计算模块7对两路图像信号进行场景相似度对比计算。由于左右两个视角的摄像头拍摄产生的画面视觉是不一致的,有时候这种不一致可能会导致局部的差异很大,由于视线角度或视线遮挡的原因,物体在两个视角的画面中呈现的形状差异可能很大,而拍摄的视角点只有两个,当在人眼融合为一个3D图像时,视差大到无法做到平滑的衔接,会产生左右眼视网膜视觉竞争的问题,带来观感上的不适,因此需要微调其中一个视角图像的画面,使两个不同视角的视差能达到平滑的衔接。在微调其中一个视角图像的画面之前,先通过通用计算模块7对左视角和右视角两张图像之间的结构特征相似度进行比较,来判断是否需要调整其中一个视角图像,本实施例中指定需要调整的图像视角为右视角图像。
步骤S3、生成新的右视角图像,AI模块3对右视角图像像素进行渲染调整生成新的右视角图像。估算比较左视角图像和右视角图像的结构特征相似度,若侦测左视角图像和右视角两张图像之间至少存在一个对应局部区域的特征差异大于一个阈值β,则需要调整右视角图像,反之,不需要调整右视角图像。本实施例中AI模块3包括SIFT算法和人工智能模型,新的右视角图像通过以下具体步骤生成:
首先通过高斯微分函数来搜索左、右视角图像的所有尺度空间位置,查找提取潜在的特征点,在每个候选的关键点位置,通过一个拟合精细的模型来确定位置和尺度;
然后进行左右视角图像之间两两比较找出相互匹配的若干对特征点,建立景物间的对应关系,得到关键点的特征向量;
接着比较左右视角图像之间各个对应景物间的特征向量,通过计算两个特征向量之间的全局差异即向量集合的平均绝对误差来确定两个景物之间的特征差异度是否大于阈值β;
对于需要微调的右视角图像,确定需要调整的区域位置并标记好,然后通过使用训练好的人工智能模型来调整右视角图像标记好的区域。
步骤S4、生成3D图像,图像处理模块4对左、右视角图像像素进行渲染排图合成处理,生成一幅具有视差信息的3D图像。
步骤S5、3D图像显示,显示器控制模块5驱动和控制3D图像像素在车载裸眼3D显示器8的显示排图,生成的3D图像通过车载裸眼3D显示器8进行分光后产生具有裸眼3D效果的虚拟立体画面。
实施例二:
参照图3,一种基于双目摄像头摄像的车载裸眼3D显示系统,包括硬件系统设计和软件算法实现两部分,硬件系统组成主要包括车载双目摄像头1、车载裸眼3D显示器8和硬件计算系统,硬件计算系统设计采用SoC系统实现;软件算法实现部分包括应用于生成新视角图像的基于人工智能的图像渲染模型和将双目2D图像合成裸眼3D图像的合成渲染算法,软件算法实现部分以操作系统模式存放在硬件计算系统内,软件算法实现部分和硬件计算系统组合成连接车载双目摄像头1和车载裸眼3D显示器8的显示处理装置。显示处理装置包括:
视频图像采集模块2,用于获取车载双目摄像头1视频信号,并将视频信号转换为数字图像帧数据输出;
AI模块3,用于图像处理的具有加速计算功能的神经网络计算模块,对图像像素进行渲染调整生成新的视觉图像;
图像处理模块4,用于对图像像素进行渲染排图、合成等处理;
显示器控制模块5,用于控制信号驱动和控制3D图像像素在车载裸眼3D显示器的显示排图;
存储单元模块6,采用片上ROM,用于操作系统存放;
通用计算模块7,与视频图像采集模块2、AI模块3、图像处理模块4、显示器控制模块5以及存储单元模块6电连接,用于向各个模块发出指令信号,控制各个模块之间的协同工作,并对从视频图像采集模块2输入的左视角图像场景、右视角图像场景进行特征相似度计算。
参照图4和图5,在人的视觉系统中,由于两只眼睛存在间距,因此在看物体的时候,左眼和右眼视网膜上的物体映像会存在一定程度的水平差异,从而使得人眼看到的场景有远近和距离感,因此本方案中车载双目摄像头1的安放设置参照人眼视觉特性来进行设计安放。车载双目摄像头1包括左视角摄像头11和右视角摄像头12,且两个摄像头之间的间距按照摄像头中心点之间的间距计算,本实施例中左视角摄像头11和右视角摄像头12的中心点之间的间距接近人眼双目之间的距离为65mm。
参照图4和图5,由于两个平视的视角之间会存在垂直视差从而加快人眼观看的疲劳感,左视角摄像头11和右视角摄像头12共同向内侧偏转相同角度,通过使用这种偏转相同角度的移轴方法不会在两个视角之间引入额外的垂直视差。左视角摄像头11和右视角摄像头12的摄像头视轴向内倾斜的角度均为(a/2)°,两个摄像头的视线在前向的方向相交,两条相交线的内角为a°,a的具体数值由安放到具体车辆时根据摄像头的选型以及车载裸眼3D显示的效果调试校准确定,摄像头校准后固定安放在车身上。
参照图3,视频图像采集模块2与车载双目摄像头1电连接,用于将双目摄像头传输过来的两路视频信号进行并行模数转换、压缩处理后,转换为适宜于图像处理模块4和AI模块3处理的数字图像帧。视频图像采集处理模块输出的两路图像帧数据通过电连接传输给AI模块3,AI模块3通过加载预先训练好的神经网络模型配置神经单元,对图像像素进行渲染调整生成新的右视觉图像。
由于视线角度或视线遮挡的原因,物体在两个视角的画面中呈现的形状差异可能很大,而拍摄的视角点只有两个,当在人眼融合为一个3D图像时,视差大到无法做到平滑的衔接,会产生左右眼视网膜视觉竞争的问题,带来观感上的不适。因此需要微调其中一个视角图像的画面,使两个不同视角的视差能达到平滑的衔接,本实施例中指定需要调整的图像视角为右视角图像,为实现右视角图像的微调,AI模块3为一个神经网络计算模块,神经网络计算模块由预先加载训练好的人工智能模型进行配置,同时AI模块3还含有SIFT算法。
SIFT算法(尺度不变特征变换算法)首先通过高斯微分函数来分别侦测和描述左、右视角图像的局部性特征;比较左右视角图像之间各个对应景物间的特征向量,通过计算两个特征向量之间的全局差异即向量集合的平均绝对误差来确定两个景物之间的特征差异度是否大于阈值β。若侦测到两张图像至少存在一个局部特征差异度大于阈值β,则需要对右视角的相应区域进行微调;对于需要微调的右视角图像,确定需要调整的区域位置并标记好,然后通过使用训练好的人工智能模型来调整右视角图像标记好的区域。
参照图6,人工智能模型采用局域变分自编码结构的对抗神经网络,对抗神经网络包括生成器网络和判别器网络。相对于传统的对抗神经网络使用随机向量作为输入来生成新图像,本发明将右视角图像作为输入,通过对抗神经网络的生成器来微调生成一张新图像,将左视角图像作为鉴别的对标,生成的新图像通过对抗神经网络的判别器和左视角图像做比较,判别器能成功捕捉左视角图像对应区域的特征和纹理,将比较的差异反馈给生成器。生成器从左视角图像学习到特征相似性来移动变换右视觉图像标记区域的像素,生成一张特征上接近左视角图像同时保留主体结构和全局信息的新右视觉图像。标记区域的空洞填充是同时在网络内部进行的。
生成器网络和判别器网络均是一个以自编码器结构为主体的多卷积层网络结构,为了避免调整后的右视角图像可能出现局部不平滑以及赝像的问题,在判别器的卷积层使用小的卷积核限制判别器的接受域以扫描图像的较小局部区域,本实施例中判别器网络的卷积层的卷积核为3*3。
为了防止新生成的右视角图像相对于源右视角图像有较大的改变,生成器网络总的损失函数包括生成器的对抗损失函数和自正则化损失函数,通过在神经网络的损失函数里增加自正则化损失函数以惩罚两者之间较大的变化,惩罚项数值使用标记区域的图像空间到特征空间的映射来计算,即通过比较两张图像标记区域的总体特征的差异来决定惩罚值的大小,差异越大,惩罚值越大,反之越小;同时使用全卷积神经网络来在像素细节层面执行调整,保留了图像的主体结构。
损失函数只对标记好的位置区域像素点作总和之后计算平均值,对于非标记区域位置的像素点其损失值为零,所述损失函数的公式如下:
其中i∈R表示像素点i属于图像中标记好的区域R, Dφ为判别器网络的输出,φ为判别器网络参数,λ为自正则化惩罚值的权重因子。
自正则化损失函数公式如下:
其中,X为输入到生成器网络的右视角图像,Gθ(x)为生成器网络输出的新右视角图像,θ为生成器网络的参数,Ψ表示图像空间到特征空间的映射,Ψ(x)为输入到生成器的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))为生成器输出的新的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))与Ψ(x)差值的自正则化值构成对抗神经网络损失函数的惩罚部分。
参照图3,AI模块3计算处理后输出的两路图像数据通过电连接传输给图像处理模块4,图像处理模块4对两路图像像素进行渲染排图、合成等处理。图像处理模块4将渲染合成的3D图像通过电连接传输到车载裸眼3D显示器8,显示器控制模块5与车载裸眼3D显示器8电连接,通过控制信号驱动和控制3D图像像素在车载裸眼3D显示器8的显示排图。
参照图7和图8,显示器控制模块5对左、右视角的图像像素进行采样重排列,使得合成后的图像尺寸和车载裸眼3D显示器8的尺寸一致,通过车载裸眼3D显示器8的分光后,左视角的光像素投射到左眼的方向,右视角的光像素投射到右眼的方向。通过图像渲染处理后获得左眼视图和右眼视图,左眼视图和右眼视图的分辨率均为M*N,M和N均为偶数。参照图9,车载裸眼3D显示器8创建一张分辨率为M*N的空白画布,将左眼视图从左边数起的偶数列像素按列提取像素,按相应列号逐列填入空白画布的相应偶数列,将右眼视图从左边数起的奇数列像素按列提取像素,按列号逐列填入空白画布的相应奇数列,这样把一张分辨率为(M/2)*N的左眼视图和一张分辨率为(M/2)*N的右眼视图合成一张新的分辨率为M*N的左右眼图像。
参照图10和图11,为便于对已出厂使用的普通车辆进行改造,车载裸眼3D显示器8可使用裸眼3D面板显示器,也可以是车载液晶显示面板81和粘贴在车载液晶显示面板81上的裸眼3D光栅膜82的组合。本实施例中裸眼3D光栅膜82采用柱状镜光栅膜,利用柱状镜光栅膜对液晶屏光像素进行折射来实现分光,将左眼图像画面和右眼图像画面的光线分别投射向观看者的左眼和右眼,使观看者从两个不同的角度看到两幅具有视差信息的图像,产生具有距离感和深度感的立体视觉效果。其中裸眼3D光栅膜82的尺寸为像素基本单元尺寸的2倍,定制微柱光栅参数周期、口径、焦距等参数,使光栅膜与车载液晶显示面板81图像的参数相互匹配,实现逼真的立体画面显示。本实施例在车载液晶显示面板81上的图像像素排列方式采用全像素分光的结构,即将RGB三个子像素组成的像素作为一个基本单元,通过柱状镜折射进行分光。
实施例三:
在一个实施例中,提供了一种计算机可读存储介质,其存储有能够被处理器加载并执行上述基于双目摄像头摄像的车载裸眼3D显示方法的计算机程序,计算机程序被处理器执行时实现以下步骤:
步骤S1、视频图像采集,通过车载双目摄像头1实时采集左视角和右视角两路视频图像信号;
步骤S2、场景相似度对比,通用计算模块7对两路图像信号进行场景相似度对比计算;
步骤S3、生成新的右视角图像,AI模块3对右视角图像像素进行渲染调整生成新的右视角图像;
步骤S4、生成3D图像,图像处理模块4对左、右视角图像像素进行渲染排图合成处理,生成一幅具有视差信息的3D图像;
步骤S5、3D图像显示,3D图像通过车载裸眼3D显示器8进行分光后产生具有裸眼3D效果的虚拟立体画面。
所述计算机可读存储介质例如包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
具体实施方式的实施例均为本发明的较佳实施例,并非依此限制本发明的保护范围,故:凡依本发明的结构、形状、原理所做的等效变化,均应涵盖于本发明的保护范围之内。
Claims (7)
1.一种基于双目摄像头摄像的车载裸眼3D显示系统,其特征在于:包括车载双目摄像头(1)、车载裸眼3D显示器(8)以及连接车载双目摄像头(1)和车载裸眼3D显示器(8)的显示处理装置,所述显示处理装置包括:
视频图像采集模块(2),用于获取车载双目摄像头(1)视频信号,并将视频信号转换为数字图像帧数据输出;
AI模块(3),用于图像处理的具有加速计算功能的神经网络计算模块,对图像像素进行渲染调整生成新的视觉图像;
图像处理模块(4),用于对图像像素进行渲染排图、合成处理;
显示器控制模块(5),用于控制信号驱动和控制3D图像像素在车载裸眼3D显示器的显示排图;
存储单元模块(6),用于操作系统存放;
通用计算模块(7),与所述视频图像采集模块(2)、AI模块(3)、图像处理模块(4)、显示器控制模块(5)以及存储单元模块(6)电连接并控制各个模块之间的协同工作,并对从视频图像采集模块(2)输入的左视角图像场景、右视角图像场景进行特征相似度计算;
所述AI模块(3)为一个神经网络计算模块,所述神经网络计算模块由预先加载训练好的人工智能模型进行配置,所述人工智能模型采用局域变分自编码结构的对抗神经网络;所述对抗神经网络包括生成器网络和判别器网络,所述生成器网络和判别器网络均是一个以自编码器结构为主体的多卷积层网络结构;
所述生成器网络总的损失函数包括生成器的对抗损失函数和自正则化损失函数,所述损失函数只对标记好的位置区域像素点作总和之后计算平均值,对于非标记区域位置的像素点其损失值为零,所述损失函数的公式如下:
其中i∈R表示像素点i属于图像中标记好的区域R, Dφ为判别器网络的输出,φ为判别器网络参数,λ为自正则化惩罚值的权重因子;
所述自正则化损失函数公式如下:
其中,X为输入到生成器网络的右视角图像,Gθ(x)为生成器网络输出的新右视角图像,θ为生成器网络的参数,Ψ表示图像空间到特征空间的映射,Ψ(x)为输入到生成器的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))为生成器输出的新的右视角图像的图像空间到特征空间的映射,Ψ(Gθ(x))与Ψ(x)差值的自正则化值构成对抗神经网络损失函数的惩罚部分。
2.根据权利要求1所述的一种基于双目摄像头摄像的车载裸眼3D显示系统,其特征在于:所述车载双目摄像头(1)固定安放在车身上,所述车载双目摄像头(1)的设置参照人眼视觉特性来进行设计安放。
3.根据权利要求2所述的一种基于双目摄像头摄像的车载裸眼3D显示系统,其特征在于:所述车载双目摄像头(1)包括左视角摄像头(11)和右视角摄像头(12),所述左视角摄像头(11)和右视角摄像头(12)共同向内侧偏转相同角度。
4.根据权利要求1所述的一种基于双目摄像头摄像的车载裸眼3D显示系统,其特征在于:所述车载裸眼3D显示器(8)包括车载液晶显示面板(81)和粘贴在车载液晶显示面板(81)上的裸眼3D光栅膜(82),所述裸眼3D光栅膜(82)采用柱状镜光栅膜。
5.一种基于双目摄像头摄像的车载裸眼3D显示方法,应用权利要求1至4任一所述的车载裸眼3D显示系统,其特征在于:包括以下步骤:
步骤S1、视频图像采集,通过车载双目摄像头(1)实时采集左视角和右视角两路视频图像信号;
步骤S2、场景相似度对比,通用计算模块(7)对两路图像信号进行场景相似度对比计算;
步骤S3、生成新的右视角图像,AI模块(3)对右视角图像像素进行渲染调整生成新的右视角图像;
步骤S4、生成3D图像,图像处理模块(4)对左、右视角图像像素进行渲染排图合成处理,生成一幅具有视差信息的3D图像;
步骤S5、3D图像显示,3D图像通过车载裸眼3D显示器(8)进行分光后产生具有裸眼3D效果的虚拟立体画面。
6.根据权利要求5所述的一种基于双目摄像头摄像的车载裸眼3D显示方法,其特征在于:所述步骤S1中,视频图像采集,通过车载双目摄像头(1)实时采集并处理左视角和右视角两路视频图像信号,包括以下步骤:
步骤S101、获取原始图像信息,所述车载双目摄像头(1)实时拍摄获取场景图像信息;
步骤S102、图像处理,所述车载双目摄像头(1)电连接有视频图像采集模块(2),所述视频图像采集模块(2)用于将车载双目摄像头(1)拍摄传输过来的两路视频信号进行并行模数转换、压缩处理,转换为数字图像帧。
7.一种计算机可读存储介质,其特征在于:存储有能够被处理器加载并执行如权利要求5至6中任一种方法的计算机程序。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010255810.7A CN111447429B (zh) | 2020-04-02 | 2020-04-02 | 一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010255810.7A CN111447429B (zh) | 2020-04-02 | 2020-04-02 | 一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111447429A CN111447429A (zh) | 2020-07-24 |
CN111447429B true CN111447429B (zh) | 2021-03-19 |
Family
ID=71655121
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010255810.7A Active CN111447429B (zh) | 2020-04-02 | 2020-04-02 | 一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111447429B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112995638A (zh) * | 2020-12-31 | 2021-06-18 | 上海易维视科技有限公司 | 自动调节视差的裸眼3d采集和显示系统及方法 |
CN115190284B (zh) * | 2022-07-06 | 2024-02-27 | 敏捷医疗科技(苏州)有限公司 | 一种图像处理方法 |
CN115862472B (zh) * | 2022-11-29 | 2024-08-06 | 重庆长安汽车股份有限公司 | 显示屏、遮阳板、车辆的三维视觉识别方法、车辆及介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104950460A (zh) * | 2014-03-25 | 2015-09-30 | 罗伯特·博世有限公司 | 用于调整汽车车载立体显示器的显像的方法和装置 |
CN205395928U (zh) * | 2016-01-19 | 2016-07-27 | 华晨汽车集团控股有限公司 | 车载立体全景监控系统 |
CN105929539A (zh) * | 2016-05-19 | 2016-09-07 | 彭波 | 汽车或移动设备3d影像采集和裸眼3d平视显示系统及3d影像处理方法 |
CN108537837A (zh) * | 2018-04-04 | 2018-09-14 | 腾讯科技(深圳)有限公司 | 一种深度信息确定的方法及相关装置 |
CN108645375A (zh) * | 2018-06-05 | 2018-10-12 | 浙江零跑科技有限公司 | 一种用于车载双目系统快速车辆测距优化方法 |
CN109525790A (zh) * | 2017-09-20 | 2019-03-26 | 杭州海康威视数字技术股份有限公司 | 视频文件生成方法及系统、播放方法及装置 |
-
2020
- 2020-04-02 CN CN202010255810.7A patent/CN111447429B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104950460A (zh) * | 2014-03-25 | 2015-09-30 | 罗伯特·博世有限公司 | 用于调整汽车车载立体显示器的显像的方法和装置 |
DE102014205519A1 (de) * | 2014-03-25 | 2015-10-01 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Anpassen einer Anzeige eines autostereoskopischen Displays für ein Fahrzeug |
CN205395928U (zh) * | 2016-01-19 | 2016-07-27 | 华晨汽车集团控股有限公司 | 车载立体全景监控系统 |
CN105929539A (zh) * | 2016-05-19 | 2016-09-07 | 彭波 | 汽车或移动设备3d影像采集和裸眼3d平视显示系统及3d影像处理方法 |
CN109525790A (zh) * | 2017-09-20 | 2019-03-26 | 杭州海康威视数字技术股份有限公司 | 视频文件生成方法及系统、播放方法及装置 |
CN108537837A (zh) * | 2018-04-04 | 2018-09-14 | 腾讯科技(深圳)有限公司 | 一种深度信息确定的方法及相关装置 |
CN108645375A (zh) * | 2018-06-05 | 2018-10-12 | 浙江零跑科技有限公司 | 一种用于车载双目系统快速车辆测距优化方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111447429A (zh) | 2020-07-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111447429B (zh) | 一种基于双目摄像头摄像的车载裸眼3d显示方法及系统 | |
AU2010200085B2 (en) | Critical alignment of parallax images for autostereoscopic display | |
CN107909061B (zh) | 一种基于不完备特征的头部姿态跟踪装置及方法 | |
US8063930B2 (en) | Automatic conversion from monoscopic video to stereoscopic video | |
CN103595988B (zh) | 立体图像显示装置、图像处理装置及图像处理方法 | |
CN102124749B (zh) | 立体图像显示装置 | |
JP5320524B1 (ja) | ステレオ撮影装置 | |
US6556236B1 (en) | Intelligent method and system for producing and displaying stereoscopically-multiplexed images of three-dimensional objects for use in realistic stereoscopic viewing thereof in interactive virtual reality display environments | |
CN104539928B (zh) | 一种光栅立体印刷图像合成方法 | |
CN111447431A (zh) | 一种应用于车载环视摄像的裸眼3d显示方法及系统 | |
CN111343367A (zh) | 一种十亿像素虚拟现实视频采集装置、系统与方法 | |
JP6585938B2 (ja) | 立体像奥行き変換装置およびそのプログラム | |
CN103959770A (zh) | 图像处理设备、图像处理方法和程序 | |
CN1191656A (zh) | 一个用于获取诸自动体视图象的方法和系统 | |
JP3032414B2 (ja) | 画像処理方法および画像処理装置 | |
US9258546B2 (en) | Three-dimensional imaging system and image reproducing method thereof | |
US20120162775A1 (en) | Method for Correcting Hyperstereoscopy and Associated Helmet Viewing System | |
JP2849313B2 (ja) | 画像記録再生装置 | |
CN113259650A (zh) | 一种基于人眼追踪立体影像显示方法、装置、介质及系统 | |
KR20120093693A (ko) | 입체영상표시장치 및 그 구동방법 | |
US9177380B2 (en) | 3D video camera using plural lenses and sensors having different resolutions and/or qualities | |
CN110087059B (zh) | 一种针对真实三维场景的交互式自由立体显示方法 | |
WO2022246804A1 (zh) | 视线追踪方法、装置及系统 | |
CN112351265A (zh) | 一种自适应裸眼3d视觉伪装系统 | |
Hill | Scalable multi-view stereo camera array for real world real-time image capture and three-dimensional displays |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |