CN113436304A - 图像渲染方法、装置及头戴式显示设备 - Google Patents
图像渲染方法、装置及头戴式显示设备 Download PDFInfo
- Publication number
- CN113436304A CN113436304A CN202110689930.2A CN202110689930A CN113436304A CN 113436304 A CN113436304 A CN 113436304A CN 202110689930 A CN202110689930 A CN 202110689930A CN 113436304 A CN113436304 A CN 113436304A
- Authority
- CN
- China
- Prior art keywords
- image
- depth
- binocular image
- binocular
- original
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种图像渲染方法、装置及头戴式显示设备。所述方法包括:获取原始的双目图像,并对所述原始的双目图像进行预处理;确定预处理后的双目图像中各个像素点的深度值;根据预处理后的双目图像中各个像素点的深度值构建深度模板;将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。本申请的图像渲染方法通过对原始的双目图像进行预处理,从而可以快速确定出图像中各个像素点的深度值并以此构建深度模板,通过将深度模板与原始的双目图像进行关联存储并开启深度测试,能够便于后续在深度测试的环境下直接进行图像渲染,同时实现图像的加速渲染。
Description
技术领域
本申请涉及图像渲染技术领域,具体涉及一种图像渲染方法、装置及头戴式显示设备。
背景技术
虚拟现实、增强现实、混合现实等头戴式显示设备在进行图像显示时,通常是先渲染出左右眼图像,然后分别显示在左右眼对应的屏幕上。
在头戴式显示设备进行图像渲染时,经常会在已有的左右眼图像的基础上,继续渲染图像或动画模型进而实现场景叠加,从而获得新的左右眼图像,由于头戴式显示设备的刷新率都较高,希望有更快的渲染速度,因此目前图像渲染中常用的OpenGL和Direct3D渲染工具会利用图像的深度信息进行深度测试,从而实现渲染加速,OpenGL和Direct3D所采用的渲染技术都有深度测试功能,深度测试即依据图像的深度值,距离人眼近的物体会遮挡距离人眼远的部分,通过在渲染时不渲染被遮挡的部分从而优化渲染效率。
而实际应用场景下,用于进行渲染并实现场景叠加的图像可能来自第三方设备,这些图像本身并不包含深度信息,因此这就导致来自第三方设备等不包含深度信息的图像无法直接应用OpenGL和Direct3D等具有深度测试功能的渲染工具来优化渲染效率,进而导致图像渲染效率不高。
发明内容
有鉴于此,本申请的主要目的在于提供了一种图像渲染方法、装置及头戴式显示设备,用于解决图像渲染效率不高的技术问题。
依据本申请的第一方面,提供了一种图像渲染方法,包括:
获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定预处理后的双目图像中各个像素点的深度值;
根据预处理后的双目图像中各个像素点的深度值构建深度模板;
将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
可选地,所述对所述原始的双目图像进行预处理包括:
将所述双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;
对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
可选地,所述对缩小后的双目图像进行灰度处理包括:
利用预设像素着色器对缩小后的双目图像进行灰度计算,得到缩小后的双目图像的灰度值;
将缩小后的双目图像的灰度值存储于所述原始的双目图像中的任意一个通道中;
从所述通道中提取出所述缩小后的双目图像的灰度值,将所述缩小后的双目图像的灰度值转换为所述双目灰度图像并进行存储。
可选地,所述获取原始的双目图像包括:
获取双目图像,其中所述双目图像为第三方设备发送的进行过桶形畸变的双目图像;
对所述双目图像进行反畸变处理,得到所述原始的双目图像。
可选地,所述确定预处理后的双目图像中各个像素点的深度值包括:
获取用于计算深度值的预设参数,其中预设参数包括双目图像中各个像素点的视差值、人眼焦距和瞳距;
根据预设缩小比例确定所述视差值的调节因子;
根据所述预设参数和所述调节因子,确定预处理后的双目图像中各个像素点的深度值。
可选地,所述根据预处理后的双目图像中各个像素点的深度值构建深度模板包括:
将所述缩小后的双目灰度图像中各个像素点的深度值逐一添加到初始深度模板中,得到缩小后的深度模板;
利用预设计算着色器将所述缩小后的深度模板进行放大处理,以使放大处理后的深度模板的大小与原始的双目图像的大小相同;
所述将所述原始的双目图像与所述深度模板进行关联存储包括:
将所述原始的双目图像与所述放大处理后的深度模板进行关联存储。
可选地,所述将所述原始的双目图像与所述深度模板进行关联存储包括:
将所述深度模板按照预设编码协议进行编码;
将所述原始的双目图像按照所述预设编码协议进行同步编码,并将编码后的原始的双目图像与编码后的深度模板按照帧的维度进行关联存储。
依据本申请的第二方面,提供了一种图像渲染装置,包括:
获取单元,用于获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定单元,用于确定预处理后的双目图像中各个像素点的深度值;
构建单元,用于根据预处理后的双目图像中各个像素点的深度值构建深度模板;
关联存储单元,用于将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
可选地,所述获取单元具体用于:
将所述双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;
对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
依据本申请的第三方面,提供了一种头戴式显示设备,包括:处理器,存储计算机可执行指令的存储器,
所述可执行指令在被所述处理器执行时,实现前述图像渲染方法。
依据本申请的第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现前述的图像渲染方法。
本申请的有益效果是:本申请实施例的图像渲染方法,在进行图像渲染时,需要先获取原始的双目图像,并对原始的双目图像进行预处理;然后确定预处理后的双目图像中各个像素点的深度值;之后根据预处理后的双目图像中各个像素点的深度值构建深度模板;最后将原始的双目图像与深度模板进行关联存储并开启深度测试,从而进行后续的图像渲染。本申请实施例通过对原始的双目图像进行预处理,从而可以快速确定出图像中各个像素点的深度值并以此构建深度模板,通过将深度模板与原始的双目图像进行关联存储并开启深度测试,能够便于后续在深度测试的环境下直接进行图像渲染,同时实现图像的加速渲染。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本申请的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1为本申请一个实施例的图像渲染方法的流程图;
图2为现有技术中一种枕形畸变和桶形畸变的示意图;
图3为本申请一个实施例的图像渲染装置的框图;
图4为本申请一个实施例中头戴式显示设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本申请的示例性实施例。提供这些实施例是为了能够更透彻地理解本申请,并且能够将本申请的范围完整的传达给本领域的技术人员。虽然附图中显示了本申请的示例性实施例,然而应当理解,可以以各种形式实现本申请而不应被这里阐述的实施例所限制。
图1示出了根据本申请一个实施例的图像渲染方法的流程示意图,参见图1,本申请实施例的图像渲染方法包括如下步骤S110至步骤S140:
步骤S110,获取原始的双目图像,并对原始的双目图像进行预处理。
本申请实施例的图像渲染方式在进行图像渲染时,需要先获取到原始的双目图像,这里所说的原始的双目图像可以理解为是人眼直接看到的真实环境的图像,具体可以包括左眼图像和右眼图像,获取的方式可以是从头戴式显示设备的本地存储中获取,当然也可以从外部的第三方设备获取。
在获取到原始的双目图像后,需要对原始的双目图像进行一系列的预处理操作,从而得到预处理后的双目图像。
步骤S120,确定预处理后的双目图像中各个像素点的深度值。
在得到预处理后的双目图像后,需要确定出预处理后的双目图像中各个像素点对应的深度信息即深度值,在确定深度值时,双目图像中的每一个像素点都会有其对应的深度值,用于表征该像素点所对应的物理点距离人眼的真实距离。
步骤S130,根据预处理后的双目图像中各个像素点的深度值构建深度模板。
在得到预处理后的双目图像中各个像素点的深度值后,可以利用每一个图像中各个像素点的深度值构建出该图像对应的深度模板,深度模板可视为一个表征了深度信息的单通道图像,例如对于左眼图像,可以根据左眼图像中各个像素点的深度值构建出左眼图像对应的深度模板,对于右眼图像,可以根据右眼图像中各个像素点的深度值构建出左眼图像对应的深度模板。
步骤S140,将原始的双目图像与深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
在得到原始的双目图像对应的深度模板后,需要将原始的双目图像与深度模板进行关联存储,例如将左眼图像与左眼图像对应的深度模板建立关联并存储,将右眼图像与右眼图像对应的深度模板建立关联并存储。
最后开启OpenGL或者Direct3D渲染工具的深度测试功能,从而使得后续可以在深度测试的环境下实现加速渲染。
本申请实施例通过对原始的双目图像进行预处理,从而可以快速确定出图像中各个像素点的深度值并以此构建深度模板,通过将深度模板与原始的双目图像进行关联存储并开启深度测试,能够便于后续在深度测试的环境下直接进行图像渲染,同时实现图像的加速渲染。
在本申请的一个实施例中,对原始的双目图像进行预处理包括:将原始的双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
实际应用场景下,原始的双目图像越小,处理速度越快。基于此,本申请实施例在对原始的双目图像进行预处理时,可以先将原始的双目图像按照预设缩小比例进行缩小,这里的预设缩小比例,本领域技术人员可根据实际需求灵活设置,例如可以将原始的双目图像缩小2倍,从而得到缩小后的双目图像。
在得到缩小后的双目图像后,可以进一步对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,相比于原始的彩色图像来说,灰度图像占用的空间更小,需要的算力也更少,因此能进一步提高后续处理效率。
在本申请的一个实施例中,对缩小后的双目图像进行灰度处理包括:利用预设像素着色器对缩小后的双目图像进行灰度计算,得到缩小后的双目图像的灰度值;将缩小后的双目图像的灰度值存储于原始的双目图像中的任意一个通道中;从通道中提取出缩小后的双目图像的灰度值,将缩小后的双目图像的灰度值转换为双目灰度图像并进行存储。
本申请实施例在对缩小后的双目图像进行灰度处理时,可以利用事先编写好的像素着色器对缩小后的双目图像进行灰度计算,从而可以得到缩小后的双目图像中每一个像素点的灰度值。
原始的双目图像可以是彩色图像,对应有RGB(Red,Green,Blue)三个通道,这里可以先将缩小后的双目图像中每一个像素点的灰度值存储于原始的双目图像三个通道中的任意一个通道中,例如可以存储在原始的双目图像的红色通道内,从而便于后续快速提取。
在需要获取双目灰度图像时,就可以从上述通道中提取出缩小后的双目图像中每一个像素点的灰度值,然后转换为双目灰度图像,同时将双目灰度图像装载到OpenCV(一种跨平台计算机视觉和机器学习软件库)的Mat(Matrix,矩阵)类型中进行存储,以便于后续处理。
在本申请的一个实施例中,获取原始的双目图像包括:获取双目图像,其中双目图像为第三方设备发送的进行过桶形畸变的双目图像;对双目图像进行反畸变处理,得到原始的双目图像。
基于头戴式显示设备的投影原理,其主要是通过内置在头戴式显示设备中的左右眼分别对应的球形透镜来实现投影显示,由于球形透镜的曲面设计,会导致投影的图像出现一定程度的枕形畸变,为了避免影响用户的观看体验,一般会在投影前对出现枕形畸变的图像进行反畸变处理,例如通过桶形畸变来对枕形畸变进行反向中和,从而使得用户可以观看到与真实环境一样的正常图像集即无畸变图像。如图2所示,提供了现有技术中一种枕形畸变和桶形畸变的示意图,其中,图2(a)为枕形畸变,图2(b)为桶形畸变,图2(c)为对枕形畸变的图像进行桶形畸变后得到的正常图像。
考虑到上述原因,一些第三方设备在针对某一型号或者某一类型的头戴式显示设备提供用于投影显示的图像时,为了提高投影显示的效率,就会事先对图像进行桶形畸变,这样桶形畸变后的图像在通过头戴式显示设备的球形透镜进行显示后,桶形畸变就会被球形透镜所造成的枕形畸变所中和,从而得到真实环境下的正常图像,而无需头戴式显示设备再自行处理。
而由于本申请实施例的图像渲染方法是在将渲染后的图像投影显示之前所进行的步骤,其所需要得到的是真实环境下的正常图像即原始的双目图像,因此如果本申请实施例的头戴式显示设备最初获取到的图像是从外部的第三方设备获取到的,可以先判断第三方设备是否对该图像进行了桶形畸变,如果是,那么需要对其进行反畸变处理,即通过施加枕形畸变对桶形畸变进行中和,从而可以将存在桶形畸变的图像还原为正常图像,以便于后续处理。
在本申请的一个实施例中,确定预处理后的双目图像中各个像素点的深度值包括:获取用于计算深度值的预设参数,其中预设参数包括双目图像中各个像素点的视差值、人眼焦距和瞳距;根据预设缩小比例确定所述视差值的调节因子;根据所述预设参数和所述调节因子,确定预处理后的双目图像中各个像素点的深度值。
现有技术中关于深度值的计算主要采用如下方式:
depth=(f*baseline)/disp,(1)
其中,depth表示深度值,f表示归一化的焦距即人眼焦距,baseline是两个相机光心之间的距离即瞳距,也可称作基线距离,disp是图像中任意一个像素点的视差值。
而如前所述,本申请实施例在预处理阶段对原始的双目图像进行了缩小处理,经过推导,当图像的大小缩小一定比例时,视差值会等比例的增大,例如,如果图像的长宽等比例缩小2倍,那么图像中各个像素点的视差值会等比例增大2倍,因此本申请实施例可以根据预处理阶段对图像的预设缩小比例引入视差值的调节因子reduce_scale,该调节因子的大小即等于预设缩小比例的大小。最后结合式(1)中的其它预设参数包括人眼焦距和瞳距,可以得到调整后的深度值的计算公式:
depth=(f*baseline)/(disp*reduce_scale),(2)
对于上式(2)中的视差值disp,可以采用SGBM(Semi-Global Block Matching,半全局匹配)等立体匹配算法来计算双目图像中各个像素点的视差值,由于SGBM算法在计算时处理的图像为灰度图,因此这也是上述实施例在预处理阶段将缩小后的双目图像转换为双目灰度图像的原因之一。
在本申请的一个实施例中,根据预处理后的双目图像中各个像素点的深度值构建深度模板包括:将缩小后的双目灰度图像中各个像素点的深度值逐一添加到初始深度模板中,得到缩小后的深度模板;利用预设计算着色器将缩小后的深度模板进行放大处理,以使放大处理后的深度模板的大小与原始的双目图像的大小相同;将原始的双目图像与深度模板进行关联存储包括:将原始的双目图像与放大处理后的深度模板进行关联存储。
在得到缩小后的双目图像中各个像素点的深度值后,可以将缩小后的双目图像中各个像素点的深度值逐点添加到OpenGL或者Direct3D的初始深度模板中,这里的初始深度模板就可以看作是还没有添加深度值的空白的图像模板,从而可以得到缩小后的双目图像对应的深度模板。
由于在后续真正的渲染过程中,需要渲染的是原始的双目图像,因此这里可以利用预先编写好的计算着色器将缩小后的深度模板放大还原为与原始的双目图像的大小所对应的深度模板,最后将原始的双目图像与放大还原后的深度模板进行关联存储,作为后续渲染的基础。
在本申请的一个实施例中,将原始的双目图像与深度模板进行关联存储包括:将深度模板按照预设编码协议进行编码;将原始的双目图像按照预设编码协议进行同步编码,并将编码后的原始的双目图像与编码后的深度模板按照帧的维度进行关联存储。
为了进一步节省存储空间,本申请实施例在将原始的双目图像与深度模板进行关联存储时,还可以将原始的双目图像与深度模板进行同步编码后再关联存储。
具体地,如前所述,本申请实施例的深度模板可以视为一个单通道图像,因此深度模板的存储格式与图像存储格式类似,可以利用h264或h265编码协议对深度模板进行编码,并将原始的双目图像进行同步编码,之后将编码后的双目图像和深度模板进行关联存储,从而可以大大节省存储空间。
在后续需要进行图像渲染和场景叠加时,可以先将编码后的双目图像和深度模板进行解码,从而得到原始的双目图像和对应的深度模板。
上述各实施例的图像渲染流程可以应用于流媒体传输或录像回放等场景,当然,本领域技术人员可以根据实际需要将本申请实施例的方案灵活应用到其他场景,在此不作具体限定。
与前述图像渲染方法同属于一个技术构思,本申请实施例还提供了图像渲染装置300。图3示出了本申请一个实施例的图像渲染装置的框图,参见图3,图像渲染装置300包括:获取单元310、确定单元320、构建单元330以及关联存储单元340。其中,
获取单元310,用于获取原始的双目图像,并对原始的双目图像进行预处理;
确定单元320,用于确定预处理后的双目图像中各个像素点的深度值;
构建单元330,用于根据预处理后的双目图像中各个像素点的深度值构建深度模板;
关联存储单元340,用于将原始的双目图像与深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
在本申请的一个实施例中,获取单元310具体用于:将原始的双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
在本申请的一个实施例中,获取单元310具体用于:利用预设像素着色器对缩小后的双目图像进行灰度计算,得到缩小后的双目图像的灰度值;将缩小后的双目图像的灰度值存储于原始的双目图像中的任意一个通道中;从通道中提取出缩小后的双目图像的灰度值,将缩小后的双目图像的灰度值转换为双目灰度图像并进行存储。
在本申请的一个实施例中,获取单元310具体用于:获取双目图像,其中双目图像为第三方设备发送的进行过桶形畸变的双目图像;对双目图像进行反畸变处理,得到原始的双目图像。
在本申请的一个实施例中,确定单元320具体用于:获取用于计算深度值的预设参数,其中预设参数包括双目图像中各个像素点的视差值、人眼焦距和瞳距;根据预设缩小比例确定所述视差值的调节因子;根据所述预设参数和所述调节因子,确定预处理后的双目图像中各个像素点的深度值。
在本申请的一个实施例中,构建单元330具体用于:将缩小后的双目灰度图像中各个像素点的深度值逐一添加到初始深度模板中,得到缩小后的深度模板;利用预设计算着色器将缩小后的深度模板进行放大处理,以使放大处理后的深度模板的大小与原始的双目图像的大小相同;关联存储单元440具体用于:将原始的双目图像与放大处理后的深度模板进行关联存储。
在本申请的一个实施例中,关联存储单元340具体用于:将深度模板按照预设编码协议进行编码;将原始的双目图像按照预设编码协议进行同步编码,并将编码后的原始的双目图像与编码后的深度模板按照帧的维度进行关联存储。
需要说明的是:
图4示意了头戴式显示设备的结构示意图。请参考图4,在硬件层面,该头戴式显示设备包括存储器和处理器,可选地还包括接口模块、通信模块等。存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器等。当然,该头戴式显示设备还可能包括其他业务所需要的硬件。
处理器、接口模块、通信模块和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放计算机可执行指令。存储器通过内部总线向处理器提供计算机可执行指令。
处理器,执行存储器所存放的计算机可执行指令,并具体用于实现以下操作:
获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定预处理后的双目图像中各个像素点的深度值;
根据预处理后的双目图像中各个像素点的深度值构建深度模板;
将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
上述如本申请图3所示实施例揭示的图像渲染装置执行的功能可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
该头戴式显示设备还可执行图1中图像渲染方法执行的步骤,并实现图像渲染方法在图1所示实施例的功能,本申请实施例在此不再赘述。
本申请实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序当被处理器执行时,实现前述的图像渲染方法,并具体用于执行:
获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定预处理后的双目图像中各个像素点的深度值;
根据预处理后的双目图像中各个像素点的深度值构建深度模板;
将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其特征在于包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种图像渲染方法,其特征在于,包括:
获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定预处理后的双目图像中各个像素点的深度值;
根据预处理后的双目图像中各个像素点的深度值构建深度模板;
将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
2.根据权利要求1所述的方法,其特征在于,所述对所述原始的双目图像进行预处理包括:
将所述双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;
对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
3.根据权利要求2所述的方法,其特征在于,所述对缩小后的双目图像进行灰度处理包括:
利用预设像素着色器对缩小后的双目图像进行灰度计算,得到缩小后的双目图像的灰度值;
将缩小后的双目图像的灰度值存储于所述原始的双目图像中的任意一个通道中;
从所述通道中提取出所述缩小后的双目图像的灰度值,将所述缩小后的双目图像的灰度值转换为所述双目灰度图像并进行存储。
4.根据权利要求1所述的方法,其特征在于,所述获取原始的双目图像包括:
获取双目图像,其中所述双目图像为第三方设备发送的进行过桶形畸变的双目图像;
对所述双目图像进行反畸变处理,得到所述原始的双目图像。
5.根据权利要求2所述的方法,其特征在于,所述确定预处理后的双目图像中各个像素点的深度值包括:
获取用于计算深度值的预设参数,其中预设参数包括双目图像中各个像素点的视差值、人眼焦距和瞳距;
根据预设缩小比例确定所述视差值的调节因子;
根据所述预设参数和所述调节因子,确定预处理后的双目图像中各个像素点的深度值。
6.根据权利要求2所述的方法,其特征在于,所述根据预处理后的双目图像中各个像素点的深度值构建深度模板包括:
将所述缩小后的双目灰度图像中各个像素点的深度值逐一添加到初始深度模板中,得到缩小后的深度模板;
利用预设计算着色器将所述缩小后的深度模板进行放大处理,以使放大处理后的深度模板的大小与原始的双目图像的大小相同;
所述将所述原始的双目图像与所述深度模板进行关联存储包括:
将所述原始的双目图像与所述放大处理后的深度模板进行关联存储。
7.根据权利要求1所述的方法,其特征在于,所述将所述原始的双目图像与所述深度模板进行关联存储包括:
将所述深度模板按照预设编码协议进行编码;
将所述原始的双目图像按照所述预设编码协议进行同步编码,并将编码后的原始的双目图像与编码后的深度模板按照帧的维度进行关联存储。
8.一种图像渲染装置,其特征在于,包括:
获取单元,用于获取原始的双目图像,并对所述原始的双目图像进行预处理;
确定单元,用于确定预处理后的双目图像中各个像素点的深度值;
构建单元,用于根据预处理后的双目图像中各个像素点的深度值构建深度模板;
关联存储单元,用于将所述原始的双目图像与所述深度模板进行关联存储并开启深度测试,以在深度测试的环境下进行图像渲染。
9.根据权利要求8所述的装置,其特征在于,所述获取单元具体用于:
将所述双目图像按照预设缩小比例进行缩小,得到缩小后的双目图像;
对缩小后的双目图像进行灰度处理,得到缩小后的双目灰度图像,作为预处理后的双目图像。
10.一种头戴式显示设备,其特征在于,包括:处理器,存储计算机可执行指令的存储器,
所述可执行指令在被所述处理器执行时,实现所述权利要求1至7之任一所述图像渲染方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110689930.2A CN113436304B (zh) | 2021-06-22 | 2021-06-22 | 图像渲染方法、装置及头戴式显示设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110689930.2A CN113436304B (zh) | 2021-06-22 | 2021-06-22 | 图像渲染方法、装置及头戴式显示设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113436304A true CN113436304A (zh) | 2021-09-24 |
CN113436304B CN113436304B (zh) | 2023-05-23 |
Family
ID=77756908
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110689930.2A Active CN113436304B (zh) | 2021-06-22 | 2021-06-22 | 图像渲染方法、装置及头戴式显示设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113436304B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102026012A (zh) * | 2010-11-26 | 2011-04-20 | 清华大学 | 平面视频立体化转换深度图生成方法和装置 |
CN107292965A (zh) * | 2017-08-03 | 2017-10-24 | 北京航空航天大学青岛研究院 | 一种基于深度图像数据流的虚实遮挡处理方法 |
US20180082469A1 (en) * | 2016-09-16 | 2018-03-22 | Magnus Andersson | Method And Apparatus For Efficient Depth Prepass |
CN109118533A (zh) * | 2018-08-30 | 2019-01-01 | 歌尔股份有限公司 | 深度信息处理方法、装置和设备 |
CN110349080A (zh) * | 2019-06-10 | 2019-10-18 | 北京迈格威科技有限公司 | 一种图像处理方法及装置 |
CN111062981A (zh) * | 2019-12-13 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置及存储介质 |
CN111107337A (zh) * | 2018-10-29 | 2020-05-05 | 曜科智能科技(上海)有限公司 | 深度信息补全方法及其装置、监控系统和存储介质 |
CN111210468A (zh) * | 2018-11-22 | 2020-05-29 | 中移(杭州)信息技术有限公司 | 一种图像深度信息获取方法及装置 |
-
2021
- 2021-06-22 CN CN202110689930.2A patent/CN113436304B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102026012A (zh) * | 2010-11-26 | 2011-04-20 | 清华大学 | 平面视频立体化转换深度图生成方法和装置 |
US20180082469A1 (en) * | 2016-09-16 | 2018-03-22 | Magnus Andersson | Method And Apparatus For Efficient Depth Prepass |
CN107292965A (zh) * | 2017-08-03 | 2017-10-24 | 北京航空航天大学青岛研究院 | 一种基于深度图像数据流的虚实遮挡处理方法 |
CN109118533A (zh) * | 2018-08-30 | 2019-01-01 | 歌尔股份有限公司 | 深度信息处理方法、装置和设备 |
CN111107337A (zh) * | 2018-10-29 | 2020-05-05 | 曜科智能科技(上海)有限公司 | 深度信息补全方法及其装置、监控系统和存储介质 |
CN111210468A (zh) * | 2018-11-22 | 2020-05-29 | 中移(杭州)信息技术有限公司 | 一种图像深度信息获取方法及装置 |
CN110349080A (zh) * | 2019-06-10 | 2019-10-18 | 北京迈格威科技有限公司 | 一种图像处理方法及装置 |
CN111062981A (zh) * | 2019-12-13 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113436304B (zh) | 2023-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9406132B2 (en) | Vision-based quality metric for three dimensional video | |
US8983175B2 (en) | Video processing method and device for depth extraction | |
US8982187B2 (en) | System and method of rendering stereoscopic images | |
CN107920202B (zh) | 基于增强现实的视频处理方法、装置及电子设备 | |
TR201810139T4 (tr) | Çoklu görünümler için etkili görüntü alıcısı. | |
CA2927046A1 (en) | Method and system for 360 degree head-mounted display monitoring between software program modules using video or image texture sharing | |
KR102531468B1 (ko) | 이미지 데이터의 인코딩 및 디코딩 | |
CN111612878B (zh) | 将静态照片制作成三维效果视频的方法及装置 | |
US11308682B2 (en) | Dynamic stereoscopic rendering method and processor | |
CN108833877B (zh) | 图像处理方法及装置、计算机装置及可读存储介质 | |
US20150181114A1 (en) | Apparatus and method for processing wide viewing angle image | |
US20190266802A1 (en) | Display of Visual Data with a Virtual Reality Headset | |
US10915996B2 (en) | Enhancement of edges in images using depth information | |
US10497090B2 (en) | Systems and methods for reducing memory bandwidth via multiview compression/decompression | |
CN103369331A (zh) | 图像空洞的填补方法和装置及视频图像的处理方法和装置 | |
WO2024022086A1 (zh) | 基于三维显示的视频通信方法及系统 | |
WO2021169583A1 (zh) | 虚拟现实显示设备及其控制方法 | |
TWI603290B (zh) | 重調原始景深圖框的尺寸爲尺寸重調景深圖框的方法、裝置及系統 | |
CN113436304B (zh) | 图像渲染方法、装置及头戴式显示设备 | |
US20230106679A1 (en) | Image Processing Systems and Methods | |
KR20170065208A (ko) | 3d 이미지 처리 방법 및 장치, 및 그래픽 처리 장치 | |
CN113837019A (zh) | 一种化妆进度检测方法、装置、设备及存储介质 | |
CN111556304B (zh) | 一种全景影像处理方法、装置及系统 | |
US9924150B2 (en) | Techniques for stereo three dimensional video processing | |
US20140086482A1 (en) | Automatically Matching Colors in Stereoscopic Image Pairs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |