CN115941923A - 虚拟现实设备与图像处理方法 - Google Patents
虚拟现实设备与图像处理方法 Download PDFInfo
- Publication number
- CN115941923A CN115941923A CN202110914752.9A CN202110914752A CN115941923A CN 115941923 A CN115941923 A CN 115941923A CN 202110914752 A CN202110914752 A CN 202110914752A CN 115941923 A CN115941923 A CN 115941923A
- Authority
- CN
- China
- Prior art keywords
- camera
- image
- pixel number
- horizontal direction
- vertical direction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
本申请实施例提供一种虚拟现实设备与图像处理方法,虚拟现实设备包括第一摄像头与第二摄像头,当第一摄像头的视场角大于第二摄像头的视场角时,根据第一摄像头与第二摄像头的视场角,以及第一摄像头在水平方向与竖直方向上的有效像素数,确定第一摄像头在水平方向与竖直方向上的目标像素数;根据第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中选取目标图像,并对目标图像进行预处理后,发送至虚拟现实设备的第一显示屏显示,以及将第二摄像头采集到的图像发送至虚拟现实设备的第二显示屏显示,可以使第一显示屏与第二显示屏显示完全相同的两幅图像,提升用户的视觉体验。
Description
技术领域
本申请实施例涉及图像处理技术领域,尤其涉及一种虚拟现实设备与图像处理方法。
背景技术
随着科技的进步,虚拟现实设备已经逐渐走进日常生活中,为人们带来了全新的视觉体验。
目前,一些虚拟现实设备会具有两个摄像头,而受限于制造加工条件,不同摄像头模组的视场角会存在±3°的差异。当虚拟现实设备的两个摄像头同时使用时,两个摄像头的视场角最大可能会出现6°的相对误差,导致在将同一场景同时呈现于用户的双眼时,用户双眼观察到的物体可能会存在一边大、另一边小的问题,对于用户体验存在负面的影响。
发明内容
本申请实施例提供一种虚拟现实设备与图像处理方法,可以解决因虚拟现实设备两个摄像头的视场角存在差异,而导致两个摄像头采集到的物体大小不同的技术问题。
在一些实施例中,本申请实施例提供一种虚拟现实设备,包括:
第一摄像头与第二摄像头,分别被配置为采集图像;其中,所述第一摄像头的视场角大于所述第二摄像头的视场角;
第一显示屏与第二显示屏,所述第一显示屏被配置为显示所述第一摄像头采集到的图像,所述第二显示屏被配置为显示所述第二摄像头采集到的图像;
分别与所述第一摄像头、所述第二摄像头、所述第一显示屏及所述第二显示屏连接的控制器,所述控制器被配置为:
根据所述第一摄像头与所述第二摄像头的视场角,以及所述第一摄像头在水平方向与竖直方向上的有效像素数,确定所述第一摄像头在水平方向与竖直方向上的目标像素数;
根据所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中选取目标图像,并对所述目标图像进行预处理;
将预处理后的所述目标图像发送至所述第一显示屏显示,以及将所述第二摄像头采集到的图像发送至所述第二显示屏显示。
在一种可行的实施方式中,所述控制器被配置为:
按照以下方式确定所述第一摄像头在水平方向上的目标像素数Plx:
按照以下方式确定所述第一摄像头在竖直方向上的目标像素数Plw:
其中,Pl表示所述第一摄像头在水平方向上的有效像素数,Pw表示所述第一摄像头在竖直方向上的有效像素数,FOVmax表示所述第一摄像头的视场角,FOVmin表示所述第二摄像头的视场角。
在一种可行的实施方式中,所述控制器被配置为:
根据所述第一摄像头在水平方向与竖直方向上的有效像素数,以及所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中确定所述目标图像的原点;
基于所述目标图像的原点,在所述第一摄像头采集到的图像中选取所述目标图像。
在一种可行的实施方式中,所述控制器具体被配置为:
按照以下方式,确定所述目标图像的原点在所述第一摄像头采集到的图像中的位置(Ox,Oy):
其中,Pl表示所述第一摄像头在水平方向上的有效像素数,Pw表示所述第一摄像头在竖直方向上的有效像素数;Plx表示所述第一摄像头在水平方向上的目标像素数;Plw表示所述第一摄像头在竖直方向上的目标像素数。
在一种可行的实施方式中,所述控制器被配置为:
在所述第一摄像头采集到的图像中选取目标图像之后,采用预设转换矩阵对所述目标图像进行预处理,使处理后的所述目标图像在水平方向上的像素数等于所述第一摄像头在水平方向上的有效像素数,以及使处理后的所述目标图像在竖直方向上的像素数等于所述第一摄像头在竖直方向上的有效像素数。
在一种可行的实施方式中,所述第一摄像头与所述第二摄像头的拍摄参数相同,所述拍摄参数包括帧率与曝光时间;
所述控制器还被配置为:
同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄,所述预设参照物包括秒表、跑马灯中的任意一种;
获取所述第一摄像头拍摄的第一图像,以及所述第二摄像头拍摄的第二图像;
根据所述第一图像与所述第二图像中参照物的状态,调整所述第一摄像头和/或所述第二摄像头的拍摄控制参数;
返回执行所述同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄的步骤,直至所述第一摄像头最新拍摄的第一图像与所述第二摄像头最新拍摄的第二图像中参照物的状态相同。
在一种可行的实施方式中,所述控制器包括第一同步信号接口与第二同步信号接口,所述第一同步信号接口与所述第一摄像头连接,所述第二同步信号接口与所述第二摄像头连接;所述控制器被配置为:
根据所述第一图像与所述第二图像中参照物的状态,调整所述控制器利用所述第一同步信号接口发送至所述第一摄像头的同步信号,和/或调整所述控制器利用所述第二同步信号接口发送至所述第二摄像头的同步信号。
在一种可行的实施方式中,还包括电源管理芯片,所述电源管理芯片分别与所述第一摄像头、所述第二摄像头、所述第一显示屏、所述第二显示屏及所述控制器连接;
所述控制器包括图像处理器、存储器及显示控制器;
所述图像处理器被配置为接收所述第一摄像头与所述第二摄像头采集到的图像数据,并对接收到的图像数据进行实时处理后传输至所述存储器进行存储;
所述显示控制器被配置为提取所述存储器中存储的所述第一摄像头与所述第二摄像头采集到的图像数据,并分别传输至所述第一显示屏与所述第二显示屏进行显示。
在一些实施例中,本申请实施例提供了一种图像处理方法,应用于虚拟现实设备,所述虚拟现实设备包括第一摄像头与第二摄像头,所述第一摄像头的视场角大于所述第二摄像头的视场角;所述方法包括:
根据所述第一摄像头与所述第二摄像头的视场角,以及所述第一摄像头在水平方向与竖直方向上的有效像素数,确定所述第一摄像头在水平方向与竖直方向上的目标像素数;
根据所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中选取目标图像,并对所述目标图像进行预处理;
将预处理后的所述目标图像发送至所述虚拟现实设备的第一显示屏显示,以及将所述第二摄像头采集到的图像发送至所述虚拟现实设备的第二显示屏显示。
在一种可行的实施方式中,所述根据所述第一摄像头与所述第二摄像头的视场角,以及所述第一摄像头在水平方向与竖直方向上的有效像素数,确定所述第一摄像头在水平方向与竖直方向上的目标像素数,包括:
按照以下方式确定所述第一摄像头在水平方向上的目标像素数Plx:
按照以下方式确定所述第一摄像头在竖直方向上的目标像素数Plw:
其中,Pl表示所述第一摄像头在水平方向上的有效像素数,Pw表示所述第一摄像头在竖直方向上的有效像素数,FOVmax表示所述第一摄像头的视场角,FOVmin表示所述第二摄像头的视场角。
在一种可行的实施方式中,所述根据所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中选取目标图像,包括:
根据所述第一摄像头在水平方向与竖直方向上的有效像素数,以及所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中确定所述目标图像的原点;
基于所述目标图像的原点,在所述第一摄像头采集到的图像中选取所述目标图像。
在一种可行的实施方式中,所述根据所述第一摄像头在水平方向与竖直方向上的有效像素数,以及所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中确定所述目标图像的原点,包括:
按照以下方式,确定所述目标图像的原点在所述第一摄像头采集到的图像中的位置(Ox,Oy):
其中,Pl表示所述第一摄像头在水平方向上的有效像素数,Pw表示所述第一摄像头在竖直方向上的有效像素数;Plx表示所述第一摄像头在水平方向上的目标像素数;Plw表示所述第一摄像头在竖直方向上的目标像素数。
在一种可行的实施方式中,所述对所述目标图像进行预处理,包括:
在所述第一摄像头采集到的图像中选取目标图像之后,采用预设转换矩阵对所述目标图像进行预处理,使处理后的所述目标图像在水平方向上的像素数等于所述第一摄像头在水平方向上的有效像素数,以及使处理后的所述目标图像在竖直方向上的像素数等于所述第一摄像头在竖直方向上的有效像素数。
在一种可行的实施方式中,还包括:
同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄,所述预设参照物包括秒表、跑马灯中的任意一种;
获取所述第一摄像头拍摄的第一图像,以及所述第二摄像头拍摄的第二图像;
根据所述第一图像与所述第二图像中参照物的状态,调整所述第一摄像头和/或所述第二摄像头的拍摄控制参数;
返回执行所述同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄的步骤,直至所述第一摄像头最新拍摄的第一图像与所述第二摄像头最新拍摄的第二图像中参照物的状态相同。
本申请实施例所提供的虚拟现实设备与图像处理方法,当虚拟现实设备的第一摄像头的视场角大于第二摄像头的视场角时,根据第一摄像头与第二摄像头的视场角,以及第一摄像头在水平方向与竖直方向上的有效像素数,确定第一摄像头在水平方向与竖直方向上的目标像素数;根据第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中选取目标图像,并对目标图像进行预处理后,发送至虚拟现实设备的第一显示屏显示,以及将第二摄像头采集到的图像发送至虚拟现实设备的第二显示屏显示。由于上述目标图像覆盖的场景范围是根据第一摄像头与第二摄像头的视场角共同确定的,因此上述目标图像与第二摄像头采集到的图像能够覆盖相同的场景,且在对目标图像进行预处理后,便可以使第一显示屏与第二显示屏显示完全相同的两幅图像,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对本申请实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1为本申请实施例提供的一种虚拟现实设备的结构示意图;
图2为本申请实施例提供的一种虚拟现实设备的模块结构示意图;
图3为正常情况下不同视场角的摄像头在水平方向上的有效成像区域的示意图;
图4为本申请实施例中第一摄像头在水平方向的视场角与实际投射长度的对比示意图;
图5为本申请实施例中目标图像在第一摄像头采集到的图像中的位置示意图;
图6为本申请实施例中第一摄像头与第二摄像头对应的目标图像的对比示意图;
图7为本申请实施例中摄像头的同步控制架构示意图;
图8为本申请实施例中同步第一摄像头与第二摄像头的完成时间的流程示意图;
图9为本申请实施例中提供的一种图像处理方法的步骤流程示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。此外,虽然本申请中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整实施方式。
需要说明的是,本申请中对于术语的简要说明,仅是为了方便理解接下来描述的实施方式,而不是意图限定本申请的实施方式。除非另有说明,这些术语应当按照其普通和通常的含义理解。
本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似或同类的对象或实体,而不必然意味着限定特定的顺序或先后次序,除非另外注明。应该理解这样使用的用语在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
本申请中使用的术语“模块”,是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合,能够执行与该元件相关的功能。
目前,一些虚拟现实设备会具有两个摄像头与两个显示屏,用户在使用过程中,上述两个显示屏分别显示左右眼的图像,用户双眼获取这种带有差异的信息后,即可在脑海中产生立体画面,可以应用于虚拟驾驶、虚拟城市、虚拟游戏等场景中。
示例性的,参照图1,图1为本申请实施例提供的一种虚拟现实设备的结构示意图,在一些实施例中,上述虚拟现实设备包括主机100,主机100上安装有两个摄像头,分别为第一摄像头31与第二摄像头32,以及安装有两个显示屏,分别为第一显示屏41与第一显示屏42。其中,第一摄像头31与第二摄像头32可以分别用于采集左眼图像与右眼图像,之后将采集到的左眼图像与右眼图像分别发送至第一显示屏41与第一显示屏42显示。
受限于制造加工条件,不同摄像头模组的视场角会存在±3°的差异。当虚拟现实设备的两个摄像头同时使用时,两个摄像头的视场角最大可能会出现6°的相对误差,导致在将同一场景同时呈现于用户的双眼时,用户双眼观察到的物体可能会存在一边大、另一边小的问题;而在用于图像对齐时,也会出现两个摄像头采集的图像无法匹配的情况,对于用户体验存在负面的影响。
为了避免摄像头视场角带来的负面影响,在一些实施方式中,通常是只使用一个摄像头进行视频采集,然后将采集到的同一视频分别传送到用户两个眼睛前面的显示屏,这种方式虽然可以避免用户双眼观察到的物体存在一边大、另一边小的情况出现,但是,由于用户双眼所看到图像完全一致,没有视差,导致用户观察到的场景与真实场景完全不同,且通常还会产生眩晕的感觉,也缺少立体感。
为了解决上述技术问题,本申请实施例提供了一种虚拟现实设备,该虚拟现实设备具有两个摄像头,这两个摄像头能够模拟用户双眼同步采集图像,同时,根据这两个摄像头之间的视场角差异,调整其中一个摄像头采集到的图像,使这两个摄像头对应的两个显示屏能够显示完全相同的两幅图像,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
参照图2,图2为本申请实施例提供的一种虚拟现实设备的模块结构示意图。如图2所示,本申请实施例提供的虚拟现实设备包括电源管理芯片10、控制器20、第一摄像头31、第二摄像头32、第一显示屏41、第一显示屏42。
其中,电源管理芯片10用于将电池电能按照各模块要求,转换成相应的子供电电源,分别为各个模块进行供电,如摄像头需要AVDD/DVDD/IOVDD电源,主控制器204需要3.3V/1.8V/1.2V/0.9V等电源。
控制器包括20包括图像处理器201、存储器202、显示控制器203及主控制器204。
其中,图像处理器201用于接收来自第一摄像头31与第二摄像头32的图像数据,并进行实时处理后,将完成处理以后的图像数据传输至存储器202进行存储。
存储器202用于实时接收来自图像处理器201的图像数据并完成存储。
显示控制器203用于将需要显示的图像数据从存储器202中提取出来,并按要求分别将左右两幅图像呈现在第一显示屏41和第二显示屏42上。
主控制器204用于整个系统的运行控制,例如在上电完成以后,主控制器204先进行初始化最小系统,完成之后,图像处理器201、存储器202、显示控制器203再运行,之后通过Reset/MCLK/I2C等进行图像传感器的配置完成摄像头初始化,并根据环境的变化,通过I2C实时控制摄像头的运行状态,以及完成显示屏的初始化等。
第一摄像头31用于接收来自主控制器204的控制指令和配置,并按照相应配置信息完成左侧视角的图像采集并传送给图像处理器201;第二摄像头32用于接收来自主控制器204的控制指令和配置,并按照相应配置信息完成右侧视角的图像采集并传送给图像处理器201。
第一显示屏41用于显示采集自第一摄像头31的图像;第二显示屏42用于显示采集自第二摄像头32的图像。
在本申请实施例中,假设第一摄像头31与第二摄像头32完成组装之后,分别位于虚拟现实设备的左右两侧。则在第一摄像头31的视场角大于第二摄像头32的视场角的情况下,控制器20被配置为:
根据第一摄像头31与第二摄像头32的视场角,以及第一摄像头31在水平方向与竖直方向上的有效像素数,确定第一摄像头31在水平方向与竖直方向上的目标像素数;根据第一摄像头31在水平方向与竖直方向上的目标像素数,在第一摄像头31采集到的图像中选取目标图像,并对该目标图像进行预处理后,将预处理后的目标图像发送至第一显示屏41显示,以及将第二摄像头32采集到的图像发送至第二显示屏42显示。
为了更好的理解本申请实施例,以下以水平方向为例进行说明:
假设第一摄像头31的视场角为FOVmax,第二摄像头32的视场角为FOVmin,FOVmax>FOVmin。
参照图3,图3为正常情况下不同视场角的摄像头在水平方向上的有效成像区域的示意图。
本申请实施例中,第一摄像头31与第二摄像头32在水平方向上的有效成像区域的宽度是相同的,可以假设均为L。
参照图4,图4为本申请实施例中第一摄像头在水平方向的视场角与实际投射长度的对比示意图。
在图4中,第一摄像头31的第一人称主视角(First Person View,FPV)入射光线如实线所示,其在图像传感器上的实际投射长度为L;第一摄像头31的视场角在采用与第二摄像头32相同的视场角,即采用FOVmin时,其FPV入射光线如虚线所示,此时第一摄像头31在图像传感器上的实际投射长度应该为Lx,且存在以下关系:
可以进一步转换为:
由于图像传感器的像素点大小都是一致的,且在图像传感器表面是均匀分布的,因此,会存在以下关系:
其中,Plx表示第一摄像头31在水平方向上的目标像素数,Pl表示第一摄像头31在水平方向上的有效像素数。
由此,可以计算出第一摄像头31在水平方向上的目标像素数Plx为:
将上述Lx带入可得:
同理,可以计算出第一摄像头31在竖直方向上的目标像素数Plw为:
其中,Pw表示第一摄像头31在竖直方向上的有效像素数。
基于上述描述,可得第一摄像头31对应的目标图像的实际尺寸大小为:
Px=[Plx,Plw]=[Pl*FOVmin/FOVmax,Pw*FOVmin/FOVmax]
本申请实施例中,在确定出上述目标图像的实际尺寸后,在第一摄像头采31集到的图像中选取目标图像,并对选取目标图像进行预处理后,将预处理后的目标图像发送至第一显示屏41显示,以及将第二摄像头32采集到的图像发送至第二显示屏42显示。
可以理解的是,由于上述目标图像是根据第一摄像头31与第二摄像头32的视场角共同确定的,因此上述目标图像与第二摄像头32采集到的图像能够覆盖相同的场景,在对目标图像进行预处理后,便可以使第一显示屏41与第二显示屏42显示完全相同的两幅图像,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
基于上述实施例中描述的内容,在一些实施例中,在确定出第一摄像头31在水平方向与竖直方向上的目标像素数之后,根据第一摄像头31在水平方向与竖直方向上的有效像素数,以及第一摄像头31在水平方向与竖直方向上的目标像素数,在第一摄像头31采集到的图像中确定目标图像的原点;基于目标图像的原点,在第一摄像头31采集到的图像中选取目标图像。
在一种可行的实施中,可以按照以下方式,确定目标图像的原点在第一摄像头31采集到的图像中的位置(Ox,Oy):
其中,Pl表示第一摄像头31在水平方向上的有效像素数,Pw表示第一摄像头31在竖直方向上的有效像素数;Plx表示第一摄像头31在水平方向上的目标像素数;Plw表示第一摄像头31在竖直方向上的目标像素数。
为了更好的理解本申请实施例,参照图5,图5为本申请实施例中目标图像在第一摄像头采集到的图像中的位置示意图。
本申请实施例中,以Ox=[(Pl-Plx)/2,(Pw-Plw)/2]为原点,以Plx为长度,以Plw为宽度,在第一摄像头31采集到的图像中选取目标图像。
参照图6,图6为本申请实施例中第一摄像头与第二摄像头对应的目标图像的对比示意图。
在图6中,对于第一摄像头301而言,其在水平方向上的目标像素数为Plx,而对于第二摄像头302而言,其在水平方向上的目标像素数为Pl,由此可以保障第一摄像头301与第二摄像头32采集到的图像能够覆盖相同的场景,避免用户双眼观察到的物体存在一边大、另一边小的问题。
基于上述实施例中描述的内容,在一些实施例中,在第一摄像头31采集到的图像中选取目标图像之后,采用预设转换矩阵对所述目标图像进行预处理,使处理后的目标图像在水平方向上的像素数等于第一摄像头31在水平方向上的有效像素数,以及使处理后的目标图像在竖直方向上的像素数等于第一摄像头31在竖直方向上的有效像素数。
即处理后的目标图像的图像尺寸为P=[Pl,Pw],可以使第一显示屏41与第二显示屏42显示完全相同的两幅图像,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
基于上述实施例中所描述的内容,由于第一摄像头31与第二摄像头32对应的处理数据能力不同,以及主板走线存在的差异等,在数据曝光、处理和传输过程会导致两个摄像头完成时间不同,最终形成两张不同的照片,如果将这两张照片同时显示于用户的两个眼睛,则会导致两眼景物不一致情况,影响体验。
在本申请一些实施例中,可以先开启第一摄像头31与第二摄像头32,然后将第一摄像头31与第二摄像头32的帧率与曝光时间等拍摄参数设置相同。之后采用以下方式来同步第一摄像头31与第二摄像头32的完成时间。
参照图7,图7为本申请实施例中摄像头的同步控制架构示意图。
在图7中,第一摄像头31、第二摄像头32均通过MIPI(Mobile Industry ProcessorInterface,移动行业处理器接口)、I2C总线与控制器20连接。
其中,MIPI是MIPI联盟发起的为移动应用处理器制定的开放标准。采用MIPI接口,具有速度快、传输数据量大、功耗低、抗干扰好等优点。
在一些实施例中,可以采用MIPI中的相机串行接口2(Camera Serial Interface,CSI-2)。CSI-2摄像头数据传输过程使用了数据差分信号对视频中像素值进行传输,同时CSI-2传输接口能够非常灵活的进行精简或者扩展,对于接口较少的应用场景,CSI-2接口可以只使用一组差分数据信号线以及一组差分时钟线就能够完成摄像头的数据串行传输过程,这样便减少了负载,同时也能够满足一定的传输速率,而对于大阵列的CCD摄像头,CSI-2接口也能够扩展其差分数据线,从而满足多组数据线并行传输的高速要求。
在一些实施例中,控制器20还包括第一同步信号接口与第二同步信号接口,第一同步信号接口与第一摄像头31连接,第二同步信号接口与第二摄像头32连接。
控制器20可以利用第一同步信号接口向第一摄像头31发送同步信号FSIN1,利用第二同步信号接口向第二摄像头32发送同步信号FSIN2。其中,第一摄像头31与第二摄像头32根据接收到的同步信号FSIN来同步输出采集到的图像数据。
在本申请实施例中,通过调整同步信号FSIN1和/或同步信号FSIN2,可以使第一摄像头31与第二摄像头32同时输出在同一时刻采集到的图像,从而确保用户两眼观看到的景物保持一致。
参照图8,图8为本申请实施例中同步第一摄像头与第二摄像头的完成时间的流程示意图。上述方式包括:
801、同时控制第一摄像头301与第二摄像头302对预设参照物进行拍摄。
可选的,上述预设参照物可以是秒表、跑马灯中的任意一种。
802、获取第一摄像头301拍摄的第一图像,以及第二摄像头302拍摄的第二图像。
803、判断上述第一图像与第二图像中参照物的状态是否相同。若否,则执行804,若是,则执行805。
804、根据上述第一图像与第二图像中参照物的状态,调整第一摄像头301和/或第二摄像头302的拍摄控制参数。返回执行801。
示例性的,假设上述参照物为跑马灯,该跑马灯包括若干个发光二极管,相邻两个二极管之间间隔预设时长后点亮。则在一种可行的实施方式中,可以先识别第一图像和第二图像中点亮的二极管数量;如果第一图像中点亮的二极管数量较第二图像中点亮的二极管数量多,则需要提前第一摄像头301的FSIN1时间或者延迟第二摄像头302的FSIN2时间,使得第一摄像头301与第二摄像头302能够同时输出图像数据。
805、保存第一摄像头301和第二摄像头302的拍摄控制参数。
本申请实施例提供以上方式,可以使第一摄像头301和二摄像头302在同一时刻拍摄到的图像完全一致,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
基于上述实施例中描述的内容,本申请实施例中还提供了一种图像处理方法,应用于虚拟现实设备,该虚拟现实设备包括第一摄像头与第二摄像头,其中,第一摄像头的视场角大于第二摄像头的视场角。
参照图9,图9为本申请实施例中提供的一种图像处理方法的步骤流程示意图,在一种可行的实施方式中,该方法包括:
S901、根据第一摄像头与第二摄像头的视场角,以及第一摄像头在水平方向与竖直方向上的有效像素数,确定第一摄像头在水平方向与竖直方向上的目标像素数。
S902、根据第一摄像头与第二摄像头的视场角,以及第一摄像头在水平方根据第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中选取目标图像,并对目标图像进行预处理。
S903、根据第一摄像头与第二摄像头的视场角,以及第一摄像头在水平方将预处理后的目标图像发送至虚拟现实设备的第一显示屏显示,以及将第二摄像头采集到的图像发送至虚拟现实设备的第二显示屏显示。
本申请实施例所提供的图像处理方法,由于上述目标图像覆盖的场景范围是根据第一摄像头与第二摄像头的视场角共同确定的,因此上述目标图像与第二摄像头采集到的图像能够覆盖相同的场景,且在对目标图像进行预处理后,便可以使第一显示屏与第二显示屏显示完全相同的两幅图像,从而能够更加真实地还原周围场景,并减少眩晕感,有效提升用户的视觉体验。
基于上述实施例中所描述的内容,在一些实施例中,可以按照以下方式确定第一摄像头在水平方向上的目标像素数Plx:
按照以下方式确定第一摄像头在竖直方向上的目标像素数Plw:
其中,Pl表示第一摄像头在水平方向上的有效像素数,Pw表示第一摄像头在竖直方向上的有效像素数,FOVmax表示第一摄像头的视场角,FOVmin表示第二摄像头的视场角。
在一种可行的实施方式中,上述根据第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中选取目标图像,包括:
根据第一摄像头在水平方向与竖直方向上的有效像素数,以及第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中确定目标图像的原点;基于目标图像的原点,在第一摄像头采集到的图像中选取所述目标图像。
在一种可行的实施方式中,上述根据第一摄像头在水平方向与竖直方向上的有效像素数,以及第一摄像头在水平方向与竖直方向上的目标像素数,在第一摄像头采集到的图像中确定目标图像的原点,包括:
按照以下方式,确定目标图像的原点在第一摄像头采集到的图像中的位置(Ox,Oy):
其中,Pl表示第一摄像头在水平方向上的有效像素数,Pw表示第一摄像头在竖直方向上的有效像素数;Plx表示第一摄像头在水平方向上的目标像素数;Plw表示第一摄像头在竖直方向上的目标像素数。
在一种可行的实施方式中,对所述目标图像进行预处理,包括:
在第一摄像头采集到的图像中选取目标图像之后,采用预设转换矩阵对目标图像进行预处理,使处理后的目标图像在水平方向上的像素数等于第一摄像头在水平方向上的有效像素数,以及使处理后的目标图像在竖直方向上的像素数等于第一摄像头在竖直方向上的有效像素数。
在一种可行的实施方式中,还包括:
同时控制第一摄像头与第二摄像头对预设参照物进行拍摄,预设参照物包括秒表、跑马灯中的任意一种;
获取第一摄像头拍摄的第一图像,以及第二摄像头拍摄的第二图像;
根据第一图像与第二图像中参照物的状态,调整第一摄像头和/或第二摄像头的拍摄控制参数;
返回执行同时控制第一摄像头与第二摄像头对预设参照物进行拍摄的步骤,直至第一摄像头最新拍摄的第一图像与第二摄像头最新拍摄的第二图像中参照物的状态相同。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (10)
1.一种虚拟现实设备,其特征在于,包括:
第一摄像头与第二摄像头,分别被配置为采集图像;其中,所述第一摄像头的视场角大于所述第二摄像头的视场角;
第一显示屏与第二显示屏,所述第一显示屏被配置为显示所述第一摄像头采集到的图像,所述第二显示屏被配置为显示所述第二摄像头采集到的图像;
分别与所述第一摄像头、所述第二摄像头、所述第一显示屏及所述第二显示屏连接的控制器,所述控制器被配置为:
根据所述第一摄像头与所述第二摄像头的视场角,以及所述第一摄像头在水平方向与竖直方向上的有效像素数,确定所述第一摄像头在水平方向与竖直方向上的目标像素数;
根据所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中选取目标图像,并对所述目标图像进行预处理;
将预处理后的所述目标图像发送至所述第一显示屏显示,以及将所述第二摄像头采集到的图像发送至所述第二显示屏显示。
3.根据权利要求1所述的虚拟现实设备,其特征在于,所述控制器被配置为:
根据所述第一摄像头在水平方向与竖直方向上的有效像素数,以及所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中确定所述目标图像的原点;
基于所述目标图像的原点,在所述第一摄像头采集到的图像中选取所述目标图像。
5.根据权利要求1至4任一项所述的虚拟现实设备,其特征在于,所述控制器被配置为:
在所述第一摄像头采集到的图像中选取目标图像之后,采用预设转换矩阵对所述目标图像进行预处理,使处理后的所述目标图像在水平方向上的像素数等于所述第一摄像头在水平方向上的有效像素数,以及使处理后的所述目标图像在竖直方向上的像素数等于所述第一摄像头在竖直方向上的有效像素数。
6.根据权利要求1所述的虚拟现实设备,其特征在于,所述第一摄像头与所述第二摄像头的拍摄参数相同,所述拍摄参数包括帧率与曝光时间;
所述控制器还被配置为:
同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄,所述预设参照物包括秒表、跑马灯中的任意一种;
获取所述第一摄像头拍摄的第一图像,以及所述第二摄像头拍摄的第二图像;
根据所述第一图像与所述第二图像中参照物的状态,调整所述第一摄像头和/或所述第二摄像头的拍摄控制参数;
返回执行所述同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄的步骤,直至所述第一摄像头最新拍摄的第一图像与所述第二摄像头最新拍摄的第二图像中参照物的状态相同。
7.根据权利要求6所述的虚拟现实设备,其特征在于,所述控制器包括第一同步信号接口与第二同步信号接口,所述第一同步信号接口与所述第一摄像头连接,所述第二同步信号接口与所述第二摄像头连接;所述控制器被配置为:
根据所述第一图像与所述第二图像中参照物的状态,调整所述控制器利用所述第一同步信号接口发送至所述第一摄像头的同步信号,和/或调整所述控制器利用所述第二同步信号接口发送至所述第二摄像头的同步信号。
8.根据权利要求1所述的虚拟现实设备,其特征在于,还包括电源管理芯片,所述电源管理芯片分别与所述第一摄像头、所述第二摄像头、所述第一显示屏、所述第二显示屏及所述控制器连接;
所述控制器包括图像处理器、存储器及显示控制器;
所述图像处理器被配置为接收所述第一摄像头与所述第二摄像头采集到的图像数据,并对接收到的图像数据进行实时处理后传输至所述存储器进行存储;
所述显示控制器被配置为提取所述存储器中存储的所述第一摄像头与所述第二摄像头采集到的图像数据,并分别传输至所述第一显示屏与所述第二显示屏进行显示。
9.一种图像处理方法,其特征在于,应用于虚拟现实设备,所述虚拟现实设备包括第一摄像头与第二摄像头,所述第一摄像头的视场角大于所述第二摄像头的视场角;所述方法包括:
根据所述第一摄像头与所述第二摄像头的视场角,以及所述第一摄像头在水平方向与竖直方向上的有效像素数,确定所述第一摄像头在水平方向与竖直方向上的目标像素数;
根据所述第一摄像头在水平方向与竖直方向上的目标像素数,在所述第一摄像头采集到的图像中选取目标图像,并对所述目标图像进行预处理;
将预处理后的所述目标图像发送至所述虚拟现实设备的第一显示屏显示,以及将所述第二摄像头采集到的图像发送至所述虚拟现实设备的第二显示屏显示。
10.根据权利要求9所述的方法,其特征在于,还包括:
同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄,所述预设参照物包括秒表、跑马灯中的任意一种;
获取所述第一摄像头拍摄的第一图像,以及所述第二摄像头拍摄的第二图像;
根据所述第一图像与所述第二图像中参照物的状态,调整所述第一摄像头和/或所述第二摄像头的拍摄控制参数;
返回执行所述同时控制所述第一摄像头与所述第二摄像头对预设参照物进行拍摄的步骤,直至所述第一摄像头最新拍摄的第一图像与所述第二摄像头最新拍摄的第二图像中参照物的状态相同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110914752.9A CN115941923A (zh) | 2021-08-10 | 2021-08-10 | 虚拟现实设备与图像处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110914752.9A CN115941923A (zh) | 2021-08-10 | 2021-08-10 | 虚拟现实设备与图像处理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115941923A true CN115941923A (zh) | 2023-04-07 |
Family
ID=86654596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110914752.9A Pending CN115941923A (zh) | 2021-08-10 | 2021-08-10 | 虚拟现实设备与图像处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115941923A (zh) |
-
2021
- 2021-08-10 CN CN202110914752.9A patent/CN115941923A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3560195B1 (en) | Stereoscopic omnidirectional imaging | |
JP6123274B2 (ja) | 撮像装置 | |
CN109716398B (zh) | 图像处理设备、图像生成方法和存储介质 | |
CN109313484B (zh) | 虚拟现实交互系统、方法及计算机存储介质 | |
US20180232943A1 (en) | System and method for generating a virtual viewpoint apparatus | |
WO2016045425A1 (zh) | 一种两视点立体图像合成方法及系统 | |
CA2927046A1 (en) | Method and system for 360 degree head-mounted display monitoring between software program modules using video or image texture sharing | |
US10991340B2 (en) | Image processing apparatus and image processing method | |
JP7476375B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN113923354B (zh) | 基于多帧图像的视频处理方法、设备及虚拟背景拍摄系统 | |
CN116913178B (zh) | 一种拼接屏联动系统及视频拼接方法 | |
CN113382224B (zh) | 一种基于全息沙盘的交互手柄展示方法及装置 | |
CN113676692A (zh) | 视频会议中视频的处理方法、装置、电子设备及存储介质 | |
US20140347352A1 (en) | Apparatuses, methods, and systems for 2-dimensional and 3-dimensional rendering and display of plenoptic images | |
JP2018077674A (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN115941923A (zh) | 虚拟现实设备与图像处理方法 | |
CN113891063B (zh) | 一种全息展示方法及装置 | |
WO2022045779A1 (en) | Restoration of the fov of images for stereoscopic rendering | |
CN113515193B (zh) | 一种模型数据传输方法及装置 | |
CN213461928U (zh) | 全景相机和电子设备 | |
CN116208851A (zh) | 图像处理方法及相关装置 | |
US11189047B2 (en) | Gaze based rendering for audience engagement | |
CN112887653A (zh) | 一种信息处理方法和信息处理装置 | |
US20230035765A1 (en) | Control device, imaging system, and 3d model data generation method | |
KR101515404B1 (ko) | 가상 카메라의 제어 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |