CN113269858A - 虚拟场景渲染方法、装置、计算机设备和存储介质 - Google Patents

虚拟场景渲染方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN113269858A
CN113269858A CN202110814455.7A CN202110814455A CN113269858A CN 113269858 A CN113269858 A CN 113269858A CN 202110814455 A CN202110814455 A CN 202110814455A CN 113269858 A CN113269858 A CN 113269858A
Authority
CN
China
Prior art keywords
resolution
texture image
rendered
target
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110814455.7A
Other languages
English (en)
Other versions
CN113269858B (zh
Inventor
万双
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110814455.7A priority Critical patent/CN113269858B/zh
Publication of CN113269858A publication Critical patent/CN113269858A/zh
Application granted granted Critical
Publication of CN113269858B publication Critical patent/CN113269858B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/02Non-photorealistic rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4007Interpolation-based scaling, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4046Scaling the whole image or part thereof using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

本申请涉及一种虚拟场景渲染方法、装置、计算机设备和存储介质。所述方法包括:获取虚拟场景中的待渲染元素,其中,虚拟场景中包括有虚拟摄像机;若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域;确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像;基于目标纹理图像对待渲染元素的目标虚拟区域进行渲染。采用本方法能够提升纹理图像的分辨率。

Description

虚拟场景渲染方法、装置、计算机设备和存储介质
技术领域
本申请涉及计算机技术领域,特别是涉及一种虚拟场景渲染方法、装置、计算机设备和存储介质。
背景技术
随着图像处理技术的发展,网络游戏、军事模拟演习应用或基于VR(VirtualReality,虚拟现实)的体感活动应用等均能够渲染实现三维虚拟场景,给用户带来强烈的视觉冲击。同时随着终端性能的发展,用户对虚拟场景也提出了更高要求,希望能够看的更清楚。看的更清楚势必意味着需要在虚拟场景中展示具有更高分辨率的纹理图像。
目前,游戏应用、军事模拟演习应用或者体感活动应用的安装包包含有资源有纹理图像、MESH(顶点),动画,程序,声音等资源,其中以纹理图像所占体积最多,一般在50%左右。若提升安装包中的纹理图像的分辨率,势必会造成安装包的体积增大,从而降低安装包的下载速率。因此,如何在不提升安装包体积的前提下,提升纹理图像的分辨率成为了一种急需解决的问题。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提升纹理图像分辨率的虚拟场景渲染方法、装置、计算机设备和存储介质。
一种虚拟场景渲染方法,所述方法包括:
获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;
基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
一种虚拟场景渲染装置,所述装置包括:
元素获取模块,用于获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
区域确定模块,用于若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
渲染模块,用于确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
在一个实施例中,所述元素获取模块还用于展示虚拟场景;所述虚拟场景中包括有虚拟摄像机和至少一个场景元素;响应于针对所述虚拟摄像机的移动操作,确定移动后的虚拟摄像机的目标视野范围;遍历所述虚拟场景中的场景元素,确定当前遍历至的场景元素是否至少有部分区域位于所述目标视野范围内;若当前遍历至的场景元素至少有部分区域位于所述目标视野范围内,则确定所述当前遍历至的场景元素为待渲染元素。
在一个实施例中,所述区域确定模块还包括提升确定模块,用于获取所述待渲染元素所对应的分辨率要求信息,并确定所述待渲染元素与所述虚拟摄像机之间的间隔距离;基于所述间隔距离和所述分辨率要求信息中的至少一种,确定所述待渲染元素是否满足超分辨率提升条件;当所述待渲染元素满足超分辨率提升条件时,确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域。
在一个实施例中,所述分辨率要求信息中包括所述待渲染元素所对应的目标分辨率等级;所述提升确定模块还用于当所述间隔距离小于或等于预设距离阈值时,确定所述待渲染元素满足超分辨率提升条件;当所述目标分辨率等级大于预设纹理图像库中的各纹理图像的分辨率等级时,确定所述待渲染元素满足超分辨率提升条件。
在一个实施例中,所述区域确定模块还用于确定所述待渲染元素在所述虚拟场景中的位置信息;确定所述虚拟摄像机的拍摄范围;根据所述拍摄范围和所述位置信息,确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域。
在一个实施例中,所述虚拟场景渲染装置用于查看纹理图像库中是否存在与所述目标虚拟区域相对应的目标纹理图像;若存在,则直接从所述纹理图像库中提取与所述目标虚拟区域相对应的目标纹理图像;若不存在,则确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像,并将得到的目标纹理图像存储至所述纹理图像库。
在一个实施例中,所述渲染模块还包括初始图像确定模块,用于确定所述待渲染元素在屏幕空间中的位置信息;根据所述位置信息确定所述待渲染元素在屏幕中的显示面积,并根据所述显示面积,确定相应的初始分辨率等级;从预先存储的具有不同分辨率等级的多个纹理图像中筛选出具有初始分辨率等级的纹理图像,并将具有初始分辨率等级的纹理图像作为与所述目标虚拟区域对应的初始纹理图像。
在一个实施例中,所述渲染模块还包括分辨率提升模块,用于通过分辨率提升模型,对所述初始纹理图像进行插值处理,得到插值图像;通过分辨率提升模型中的第一卷积层,提取所述插值图像的图像特征;通过分辨率提升模型中的第二卷积层,对所述图像特征进行非线性映射,得到特征映射图;通过分辨率提升模型中的第三卷积层,并根据所述特征映射图进行图像重建,得到目标纹理图像。
在一个实施例中,所述虚拟场景渲染模块还用于获取样本图像以及与所述样本图像相对应的高分辨率图像;所述高分辨率图像包括至少一个第一像素点;通过待训练的分辨率提升模型,对所述样本图像进行分辨率提升处理,得到预测图像;所述预测图像包括至少一个第二像素点;对所述高分辨率图像和所述预测图像进行像素匹配,确定所述高分辨率图像和所述预测图像中对应相同像素位置的第一像素点和第二像素点;根据第一像素点的像素值和相同像素位置处的第二像素点的像素值,构建损失函数,并通过所述损失函数对所述待训练的分辨率提升模型进行训练,直至满足训练结束条件时结束,得到训练好的分辨率提升模型。
在一个实施例中,所述虚拟场景渲染装置还用于若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种,确定不满足超分辨率提升条件,则获取与所述待渲染元素相对应的初始纹理图像;对所述初始纹理图像进行插值处理,得到伪高分辨率纹理图像;存储所述伪高分辨率图像至纹理图像库,并基于所述伪高分辨率纹理图像对所述待渲染元素进行渲染。
在一个实施例中,所述虚拟场景渲染装置还用于当获取得到与所述待渲染元素相对应的目标纹理图像时,确定所述纹理图像库中是否存在与所述待渲染元素相对应的伪高分辨率纹理图像;当所述纹理图像库中存在与所述待渲染元素相对应的伪高分辨率纹理图像时,将所述目标纹理图像替换所述伪高分辨率纹理图像。
在一个实施例中,所述虚拟场景渲染装置还用于当存在与所述待渲染元素相对应的伪高分辨率纹理图像时,确定所述伪高分辨率纹理图像所对应的分辨率等级;当所述伪高分辨率纹理图像的分辨率等级与所述目标纹理图像的分辨率等级相匹配时,将所述目标纹理图像替换所述伪高分辨率纹理图像;当所述伪高分辨率纹理图像的分辨率等级与所述目标纹理图像的分辨率等级不匹配时,将所述目标纹理图像存储至纹理图像库。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;
基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;
基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上以下步骤:获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
上述虚拟场景渲染方法、装置、计算机设备、存储介质和计算机程序,通过获取虚拟场景中的待渲染元素和虚拟摄像机,可以基于待渲染元素与虚拟摄像机之间的距离或者待渲染元素所对应的分辨率要求信息,确定待渲染元素是否满足超分辨率提升条件,如此,便可在确定满足超分辨率提升条件时,对相应的初始纹理图像进行分辨率提升处理。由于是在确定满足分辨率提升条件时,再对相应初始纹理图像进行分辨率提升处理,因此可以减少不必要的分辨率提升处理过程,节约进行不必要的分辨率提升处理时所耗费的计算机资源。通过确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域以及确定与目标虚拟区域相对应的初始纹理图像,可基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,如此,便可基于目标纹理图像对相应待渲染元素的目标虚拟区域进行渲染。由于是对位于虚拟摄像机拍摄范围内的目标虚拟区域的初始纹理图像进行分辨率提升处理,相比于对整个待渲染元素的初始纹理图像进行分辨率提升处理,本申请实施例可以减少对不显示的初始纹理图像进行分辨率提升处理的过程,从而提升了分辨率提升处理的效率。由于本申请是通过机器学习模型对初始纹理图像进行分辨率提升处理,而非预先在安装包中存储具有更高分辨率的纹理图像,因此,本申请可实现在不提升安装包体积的前提下,提升纹理图像的分辨率。
附图说明
图1为一个实施例中虚拟场景渲染方法的应用环境图;
图2为一个实施例中虚拟场景渲染方法的流程示意图;
图3为一个实施例中场景元素的渲染效果示意图;
图4为一个实施例中虚拟场景的示意图;
图5为一个实施例中目标纹理图像的生成示意图;
图6为一个实施例中分辨率提升模型输出目标纹理图像的时序图;
图7为一个实施例中分辨率提升模型的训练框架图;
图8为一个实施例中分辨率提升模型的训练时序图;
图9为一个实施例中虚拟场景渲染的整体时序图;
图10为一个实施例中虚拟场景渲染的技术框架图;
图11为具体一个实施例中虚拟场景渲染方法的示意图;
图12为一个实施例中虚拟场景渲染装置的结构框图;
图13为另一个实施例中虚拟场景渲染装置的结构框图;
图14为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
图1为一个实施例中描述虚拟场景渲染方法的应用环境图。参照图1,该虚拟场景渲染方法应用于虚拟场景渲染系统100。该虚拟场景渲染系统100包括终端102和服务器104。终端102通过网络与服务器104进行连接。在通过终端102执行本申请实施例中提供的虚拟场景渲染方法之前,终端102可从服务器104中获取与虚拟交互应用相关联的运行文件,从而终端102可基于所获取的运行文件运行虚拟交互应用。终端102中部署有渲染引擎和分辨率提升模型,当获取得到虚拟场景中的待渲染元素,针对各待渲染元素中的每个待渲染元素,终端102均确定当前待渲染元素是否满足超分辨率提升条件,并在满足超分辨率提升条件时,确定与当前待渲染元素相对应初始纹理图像,将初始纹理图像发送至分辨率提升模型,以使分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,从而渲染引擎可基于目标纹理图像对待渲染元素进行渲染,以使终端102展示渲染后的虚拟场景。
其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、车载终端和便携式可穿戴设备,服务器104可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。还需要说明的是,本申请涉及人工智能(Artificial Intelligence, AI)技术领域,其中,人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
本申请具体涉及计算机视觉技术(Computer Vision, CV)。计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。
值得注意的是,本申请所公开的待渲染元素、初始纹理图像和目标纹理图像均可保存于区块链上。其中,区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了相关的信息,用于验证其信息的有效性(防伪)和生成下一个区块。
应该理解的是,本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。除非上下文另外清楚地指出,否则单数形式“一个”、“一”或者“该”等类似词语也不表示数量限制,而是表示存在至少一个。
在一个实施例中,如图2所示,提供了一种虚拟场景渲染方法,以该方法应用于图1中的终端为例进行说明。虚拟场景渲染方法包括以下步骤:
步骤S202,获取虚拟场景中的待渲染元素,其中,虚拟场景中包括有虚拟摄像机。
其中,虚拟场景是应用运行时所显示的画面。该虚拟场景可以是对真实世界的仿真环境,也可以是半仿真半虚构的虚拟环境,还可以是纯虚构的虚拟环境。虚拟交互场景可以是二维虚拟场景、2.5维虚拟场景和三维虚拟场景中的任意一种,本申请对此不作限定。例如,虚拟交互场景可以包括天空、陆地、或建筑物等,用户可以控制虚拟对象在该虚拟场景中运动或执行交互动作。场景渲染是将预先构建的场景素材投影呈现为数字图像的过程。虚拟场景中可包括有至少一个场景元素,每个场景元素各自对应的纹理图像均为渲染虚拟场景所需的一种场景素材。场景元素是指虚拟场景中的虚拟物品。场景元素的外观形态可以是三维立方体,由多个面在三维空间拼接而成,每个面可以是一个多边形,因而三维模型具有多个顶点。虚拟场景中的场景元素具体可为山脉、树木、建筑物、石头、船只等三维模型。
虚拟摄像机是指虚拟场景中位于虚拟对象周围的三维模型。当采用第一人称视角时,虚拟摄像机位于虚拟对象的头部附近或位于虚拟对象的头部。当采用第三人称视角时,虚拟摄像机位于虚拟对象的后方。终端可以采用第一人称视角进行显示,所显示的虚拟场景中仅包括虚拟对象的手部、手臂或者手中所持有的兵器等,从而能够模拟通过该虚拟对象的视角观察虚拟场景的效果。或者,还可以采用第三人称视角进行显示,第三人称视角与第一人称视角的方向一致,只是第三人称视角会在虚拟场景中显示背对终端屏幕的虚拟对象,以使得用户可以在虚拟场景中看到其控制的虚拟对象的动作、所处环境等。
通过虚拟摄像机的视角观察虚拟场景。虚拟摄像机的拍摄方向是以虚拟对象的第一人称视角或第三人称视角在虚拟场景中进行观察时的观察方向。虚拟摄像机的位置可以跟随(也可以不跟随)虚拟对象位置变化。
具体地,当用户控制虚拟摄像机转移拍摄方向时,终端可响应于针对虚拟摄像机的移动操作,确定虚拟摄像机移动后的拍摄范围,并将虚拟摄像机移动后的拍摄范围作为待渲染的场景区域,将待渲染的场景区域中的场景元素作为待渲染元素。
在一个实施例中,获取虚拟场景中的待渲染元素,包括:展示虚拟场景;虚拟场景中包括有虚拟摄像机和至少一个场景元素;响应于针对虚拟摄像机的移动操作,确定移动后的虚拟摄像机的目标视野范围;遍历虚拟场景中的场景元素;确定当前遍历至的场景元素是否至少有部分区域位于目标视野范围内;若当前遍历至的场景元素至少有部分区域位于目标视野范围内,则确定当前遍历至的场景元素为待渲染元素。具体地,虚拟场景中可包括多个场景区域,游戏应用可展示多个场景区域。在虚拟摄像机移动过程中,用户可以转移虚拟摄像机的摄像视角,通过转移虚拟摄像机的摄像视角,使得终端从展示一个场景区域转为展示另一个场景区域。终端可响应于用户对虚拟摄像机的移动操作,从而场景区域跟随变更。当虚拟摄像机移动时,终端根据虚拟摄像机的移动角度和移动距离,确定移动后的虚拟摄像机的目标视野范围,并将位于目标视野范围内的场景区域作为待显示的场景区域,将至少部分区域位于目标视野范围内的场景元素,作为待渲染元素。容易理解的,终端可遍历虚拟场景中的场景元素,确定当前遍历至的场景元素是否位于目标视野范围内,并在当前遍历至的场景元素的至少部分区域位于目标视野范围内时,将该场景元素作为待渲染元素。
在其中一个实施例中,终端可通过软光栅算法确定至少部分区域位于目标视野范围内的场景元素。
上述实施例中,通过将至少部分区域位于目标视野范围内的场景元素,作为待渲染元素,使得后续可针对每一个待渲染元素均进行渲染处理,从而实现对虚拟场景的渲染处理。
步骤S204,若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
传统方式中,在制作应用的安装包时,可为每个场景元素均设置多个具有不同分辨率等级的纹理图像,从而当需要为当前待渲染元素进行渲染时,终端可从预先设置的多个纹理图像中选择一个纹理图像,并基于选择的纹理图像对待渲染元素进行渲染。由于安装包中的纹理图像是预先设置的,因此,每个场景元素所对应的最高分辨率纹理图像是固定不变的。若要使用更高分辨率的纹理图像时,则需要在安装包中设置具有更高分辨率的纹理图像,从而导致安装包的体积增大,增加用户对安装包的下载速率。例如,为了使用户看的更清楚,终端可从预先设置的多个纹理图像中选择具有最高分辨率的纹理图像对待渲染元素进行渲染,得到相应的虚拟场景。然而,受限于安装包的体积限制,预先设置的具有最高分辨率的纹理图像依旧不够清晰,这就导致了所渲染的场景元素不够清晰。而本申请实施例可以在不增加安装包体积的前提下,提升纹理图像的分辨率,也即可以不预先在安装包中设置具有更高分辨率的纹理图像的前提下,提升待渲染元素所对应的纹理图像的分辨率。
具体地,当获取得到待渲染元素时,终端可基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件,并在确定满足超分辨率提升条件时,确定待渲染元素中位于移动后的虚拟摄像机的视野范围内的目标虚拟区域,也即,终端在基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定满足超分辨率提升条件时,确定待渲染元素中位于移动后的虚拟摄像机的视野范围内的目标虚拟区域,从而后续可仅对与目标虚拟区域相对应的初始纹理图像进行分辨率提升处理,并基于分辨率提升后的目标纹理图像对目标虚拟区域进行渲染。
其中,纹理图像指的是用于将纹理信息投射在待渲染元素上,以使待渲染元素具有纹理效果的二维图片。分辨率要求信息指的是用以对待渲染元素的纹理图像的分辨率进行限制的信息。超分辨率提升条件指的是用以判断是否需要对待渲染元素的纹理图像进行分辨率提升的条件,当待渲染元素满足超分辨率提升条件时,对该待渲染元素的纹理图像进行分辨率提升处理,当待渲染元素不满足超分辨率提升条件时,暂停对该待渲染元素的纹理图像进行分辨率提升处理。
在应用运行时,受虚拟摄像机位置和视角的限制,并非所有的场景元素都需要即刻进行渲染,例如,位于虚拟摄像机视角范围之外的场景元素,或者位于虚拟摄像机视角范围之外的场景元素的部分区域,可暂时不进行渲染,因此,通过确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域,可仅对目标虚拟区域进行渲染处理,如此,不仅节约了对非目标虚拟区域进行渲染时所耗费的计算机资源,而且提升了待渲染元素的渲染效率。
在一个实施例中,若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域,包括:获取待渲染元素所对应的分辨率要求信息,并确定待渲染元素与虚拟摄像机之间的间隔距离;基于间隔距离和分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件;当待渲染元素满足超分辨率提升条件时,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
具体地,可预先为待渲染元素设置分辨率要求信息,通过分辨率要求信息设置待渲染元素在何种条件下采用何种分辨率的纹理图像。比如,与A待渲染元素相对应的分辨率要求信息可以为“A待渲染元素采用a分辨率等级的纹理图像进行渲染”,又比如,分辨率要求信息还可以为“当A待渲染元素与虚拟摄像机之间的距离小于s时,采用a分辨率等级的纹理图像进行渲染”。
当获取得到待渲染元素时,终端可查看安装包中是否存在预先设置的与该待渲染元素相对应的分辨率要求信息,并在确定存在分辨率要求信息时,获取该分辨率要求信息。进一步地,终端确定该待渲染元素与虚拟摄像机之前的间隔距离,并基于分辨率要求信息和间隔距离中的至少一种,确定该待渲染元素是否满足预设的超分辨率提升条件。当基于分辨率要求信息和间隔距离中的至少一种,确定该待渲染元素满足预设的超分辨率提升条件时,终端确定该待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
在其中一个实施例中,终端可在确定是否存在与待渲染元素相对应的分辨率要求信息的同时,确定待渲染元素与虚拟摄像机之间的间隔距离。终端也可在确定不存在与待渲染元素相对应的分辨率要求信息之后,确定待渲染元素与虚拟摄像机之间的间隔距离。比如,终端可先确定安装包中是否存在预先设置的与该待渲染元素相对应的分辨率要求信息,并在确定安装包中存在预先与待渲染元素相对应的分辨率要求信息时,直接基于该分辨率要求信息,判断待渲染元素是否满足超分辨率提升条件;在确定安装包中不存在与待渲染元素相对应的分辨率要求信息时,确定待渲染元素与虚拟摄像机之前的间隔距离,并基于间隔距离判断待渲染元素是否满足超分辨率提升条件。
上述实施例中,由于在确定待渲染元素满足超分辨率条件时,才对待渲染元素的纹理图像进行分辨率提升处理,可以减少不必要的分辨率提升过程,从而节约了分辨率提升时所耗费的计算机资源。
步骤S206,确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像。
具体地,在制作安装包时,可为每一个场景元素设置多个具有不同分辨率等级的纹理图像,当确定待渲染图像的目标虚拟区域时,终端可从多个具有不同分辨率的纹理图像中筛选一个纹理图像,并从筛选出纹理图像中确定用以投射至目标虚拟区域的图像范围,将位于该图像范围内的纹理图像作为与目标虚拟区域相对应的初始纹理图像。比如,安装包中预先设置有与A待渲染元素相对应的纹理图像集,其中,纹理图像集中包括a纹理图像、b纹理图像和c纹理图像。终端可从纹理图像集中选择a纹理图像,并确定a纹理图像中用以投射至目标虚拟区域的图像范围,将a纹理图像中位于该图像范围内的纹理图像作为与目标虚拟区域相对应的初始纹理图像。
进一步地,终端将初始纹理图像输入至预先训练的分辨率提升模型中,通过预先训练的分辨率提升模型对初始纹理图像进行分辨率提升处理,得到分辨率提升后的目标纹理图像。其中,分辨率提升模型是通过样本学习具备分辨率提升能力的机器学习模型。机器学习模型可采用神经网络模型、双路径网络模型(DPN,DualPathNetwork)、支持向量机或者逻辑回归模型等。
在一个实施例中,安装包中记载有纹理图像在纹理空间中的坐标信息,终端可根据纹理图像在纹理空间中的坐标信息、以及目标虚拟区域在屏幕中的坐标信息,确定投射至目标虚拟区域的图像范围。
在一个实施例中,分辨率提升模型可以是已经训练完成的通用的具有特征提取能力的机器学习模型。在将通用的分辨率提升模型用于特定场景进行提升分辨率效果不佳时,可通过专用于特定场景的样本对通用的机器学习模型进行进一步训练和优化,从而使得优化后的分辨率提升模型可以对低分辨率的纹理图像进行升采样,将低分辨率纹理图像提升为高分辨率纹理图像。
步骤S208,基于目标纹理图像对待渲染元素的目标虚拟区域进行渲染。
具体地,终端中的渲染引擎基于与目标虚拟区域对应的目标纹理图像,在屏幕中渲染展示相应物体。当虚拟场景的视角范围发生变更时,适应性调整待渲染元素和用于渲染待渲染元素的目标纹理图像。参考图3,图3中的302为采用传统方式渲染的场景元素,304为采用分辨率提升后的目标纹理图像进行渲染后的场景元素。相比于302中的场景元素,304中的场景元素由于进行了分辨率提升处理,因此,图像细节的得到了较好的还原,图像更为清晰。图3示出了一个实施例中场景元素的渲染效果示意图。
上述虚拟场景渲染方法中,通过获取虚拟场景中的待渲染元素和虚拟摄像机,可以基于待渲染元素与虚拟摄像机之间的距离或者待渲染元素所对应的分辨率要求信息,确定待渲染元素是否满足超分辨率提升条件,如此,便可在确定满足超分辨率提升条件时,对相应的初始纹理图像进行分辨率提升处理。由于是在确定满足超分辨率提升条件时,再对相应初始纹理图像进行分辨率提升处理,因此可以减少不必要的分辨率提升处理过程,节约进行不必要的分辨率提升处理时所耗费的计算机资源。通过确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域以及确定与目标虚拟区域相对应的初始纹理图像,可基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,如此,便可基于目标纹理图像对相应待渲染元素的目标虚拟区域进行渲染。由于是对位于虚拟摄像机拍摄范围内的目标虚拟区域的初始纹理图像进行分辨率提升处理,相比于对整个待渲染元素的初始纹理图像进行分辨率提升处理,本申请实施例可以减少对不显示的初始纹理图像进行分辨率提升处理的过程,从而提升了分辨率提升处理的效率。由于本申请是通过机器学习模型对初始纹理图像进行分辨率提升处理,而非预先在安装包中存储具有更高分辨率的纹理图像,因此,本申请可实现在不提升安装包体积的前提下,提升纹理图像的分辨率。
在一个实施例中,分辨率要求信息中包括待渲染元素所对应的目标分辨率等级;基于间隔距离和分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件,包括:当间隔距离小于或等于预设距离阈值时,确定待渲染元素满足超分辨率提升条件;当目标分辨率等级大于预设纹理图像库中的各纹理图像的分辨率等级时,确定待渲染元素满足超分辨率提升条件。
具体地,受虚拟摄像机视角和位置的限制,并非所有的待渲染元素的纹理图像都需要进行分辨率提升处理,为了在保证虚拟场景的渲染速率的同时,提升虚拟场景的分辨率,可以仅对距离虚拟摄像机较近的待渲染元素的纹理图像进行分辨率提升处理。当需要对待渲染元素进行渲染时,终端确定该待渲染元素与虚拟摄像机之间的间隔距离,并在确定间隔距离小于或等于预设距离阈值时,确定该待渲染元素满足超分辨率提升条件,可以对该待渲染元素所对应的初始纹理图像进行分辨率提升处理。容易理解的,待渲染元素与虚拟摄像机之间的间隔距离是在响应于针对虚拟摄像机的移动操作之后执行的,也就是说,终端响应于针对虚拟摄像机的移动操作,将至少部分区域位于移动后的虚拟摄像机的视野范围内的场景元素作为待渲染元素,并计算待渲染元素与移动后的虚拟摄像机之间的间隔距离。
可以通过分辨率要求信息指定待渲染元素在渲染时采用具有何种分辨率的纹理图像,比如,分辨率要求信息中包括有与待渲染元素对应的目标分辨率,通过在分辨率要求信息中记载与待渲染元素相对应的目标分辨率等级,使得后续终端可采用目标分辨率等级的纹理图像对待渲染元素进行渲染。当确定待渲染元素时,终端获取与该待渲染元素相对应的分辨率要求信息,并从分辨率要求信息中提取出目标分辨率等级。
进一步地,由于在制作应用的安装包时,会针对待渲染元素预先设置多个具有不同分辨率等级的纹理图像,并将该纹理图像存放至纹理图像库中,因此,为了减少不必要的分辨率提升处理,在获取得到与待渲染元素相对应的目标分辨率等级时,终端可查看纹理图像库中是否已经存在与该待渲染元素相对应的、且具有目标分辨率等级的纹理图像,并在纹理图像库中存在具有目标分辨率的纹理图像时,直接采用该纹理图像对待渲染元素进行渲染。当纹理图像库中不存在具有目标分辨率等级的纹路图像时,也就是当目标分辨率等级大于纹理图像库中的各纹理图像的分辨率等级时,终端确定该待渲染元素满足超分辨率提升条件,并对纹理图像库中的纹理图像进行分辨率提升处理,以使得分辨率提升处理后的纹理图像具有目标分辨率等级。
在其中一个实施例中,可通过GPU显存、内存或硬盘来缓存纹理图像库,从而渲染引擎中的渲染管线可基于纹理图像库中纹理图像对待渲染元素进行渲染。
在其中一个实施例中,终端可综合间隔距离和目标分辨率等级,来确定待渲染元素是否满足超分辨率提升条件。比如,在间隔距离小于或等于预设距离阈值、以及目标分辨率等级大于纹理图像库中各纹理图像的分辨率等级时,确定该待渲染元素满足超分辨率提升条件。
上述实施例中,由于是基于间隔距离,来判断待渲染元素是否满足超分辨率提升条件,可以减少对远距离的待渲染元素的纹理图像进行分辨率提升处理的概率,如此,便实现了保证虚拟场景的渲染速率的同时,提升虚拟场景的分辨率。此外,由于是基于目标分辨率。来判断待渲染元素是否满足超分辨率提升条件,可以减少在纹理图像库中已存在具有目标分辨率等级的纹理图像的情况下,依旧对待渲染元素的纹理图像进行分辨率提升处理的概率,从而减少了不必要的分辨率提升处理过程,提升了虚拟场景的渲染效率。
在一个实施例中,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域,包括:确定待渲染元素在虚拟场景中的位置信息;确定虚拟摄像机的拍摄范围;根据拍摄范围和位置信息,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
具体地,应用程序的安装包中记录有场景元素的顶点数据(也可称作MESH),当需要在屏幕中展示场景元素时,终端可将顶点数据发送至渲染引擎中的顶点着色器,从而在渲染引擎的着色器处理阶段,可根据顶点数据确定待渲染元素在虚拟场景中的位置信息,以及确定虚拟摄像机的拍摄范围。终端根据拍摄范围和待渲染元素在虚拟场景中的位置信息位置信息,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
在其中一个实施例中,顶点着色器存储有虚拟摄像机的变换矩阵,因此,顶点着色器可通过变换矩阵确定虚拟摄像机的拍摄范围。
在其中一个实施例中,参考图4,图4示出了一个实施例中虚拟场景的示意图。该虚拟场景中包括虚拟摄像机和多个待渲染元素。当虚拟摄像机与待渲染元素之间的间隔距离小于或等于预设间隔阈值时,可对该待渲染元素所对应的纹理图像进行分辨率提升处理。其中,间隔阈值可与纹理图像的分辨率呈正比关系,间隔阈值也可根据需求自由设置。本实施例再次不做限定。参考图4,当虚拟摄像机与待渲染元素之间的间隔距离为L1时,可认为虚拟摄像机与待渲染元素之间的间隔距离大于预设间隔阈值,不满足超分辨率提升条件。当虚拟摄像机与待渲染元素之间的间隔距离为L2时,可认为虚拟摄像机与待渲染元素之间的间隔距离小于或等于预设间隔阈值,此时,终端可通过软光栅算法确定整个待渲染元素K1均位于虚拟摄像机拍摄范围内,并通过软光栅算法确定待渲染元素K2中的目标虚拟区域S2位于虚拟摄像机拍摄范围内,及确定待渲染元素K3中的目标虚拟区域S3位于虚拟摄像机拍摄范围内。
在其中一个实施例中,渲染引擎中的顶点着色器可根据顶点数据确定待渲染元素在虚拟场景中的位置信息。终端可确定虚拟射线机拍摄的最大视角,并根据最大视角从虚拟摄像机的中点发射两条射线。终端根据待渲染元素在虚拟场景中的位置信息,确定射线与待渲染元素之间的交点,通过射线与待渲染元素之间的交点,确定待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域。其中,两条射线分别位于虚拟摄像机拍摄范围的两个不同边界处。
上述实施例中,通过确定待渲染元素在虚拟场景中的位置信息以及确定虚拟摄像机的拍摄范围,可基于位置信息和拍摄范围,准确确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
在一个实施例中,上述方法还包括:查看纹理图像库中是否存在与目标虚拟区域相对应的目标纹理图像,若不存在,则执行确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,并将得到的目标纹理图像存储至纹理图像库;若存在,则直接从纹理图像库中提取与目标虚拟区域相对应的目标纹理图像。
具体地,在基于分辨率提升模型生成目标纹理图像时,可将目标纹理图像存放至纹理图像库中。比如,可通过键值对的形式将目标纹理图像存在至纹理图像库中,其中,键值对中的键可以为待渲染元素的元素标识、待渲染元素的目标虚拟区域和目标纹理图像的分辨率等级,键值对中的值可以为目标纹理图像。
当获取得到与目标虚拟区域对应的初始纹理图像时,终端可预选查看纹理图像库中是否已存储有与该目标虚拟区域相对应的目标纹理图像,若存在,则可以认为在历史时刻,分辨率提升模型已经对该初始纹理图像进行了分辨率提升处理,此时,终端只需从纹理图像库中提取该目标纹理图像,即可基于提取出的目标纹理图像对目标虚拟区域进行渲染。当纹理图像库中不存在与该目标虚拟区域相对应的目标纹理图像时,可认为在历史时刻,分辨率提升模型未对该初始纹理图像进行分辨率提升处理,此时,终端将初始纹理图像输入至分辨率提升模型,以通过分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,并将目标纹理图像缓存至纹理图像库中,如此,便实现了目标纹理图像的复用。
在其中一个实施例中,参考图5,可通过渲染管线对待渲染元素进行渲染。渲染管线是在渲染对象时需要执行的一系列步骤,是显示芯片内部处理图形信号相互独立的的并行处理单元。当需要对初始纹理图像进行分辨率提升处理时,分辨率提升模型可查看纹理图像库中是否存在目标纹理图像,若存在,则直接将目标纹理图像返回至渲染管线,以使渲染管线基于目标纹理图像进行渲染。若不存在,则渲染管线可将初始纹理图像输入至分辨率提升模型,以基于分辨率提升模型输出目标纹理图像。例如,渲染管线将具有第二分辨率等级的初始纹理图像(如图5中的纹理图像2)发送至分辨率提升模型中,通过分辨率提升模型对具有第二分辨率等级的初始纹理图像进行分辨率提升处理,得到具有第一等级的目标纹理图像,并将第一等级的目标纹理图像(如图5中的目标纹理图像1)返回至渲染管线、以及将第一等级的目标纹理图像缓存至纹理图像库中。图5示出了一个实施例中目标纹理图像的生成示意图。
上述实施例中,通过在执行分辨率提升处理之前,查看纹理图像库中是否已存储有目标纹理图像,可以减少重复的分辨率提升处理过程,从而实现目标纹理图像的复用。
在一个实施例中,确定与目标虚拟区域对应的初始纹理图像,包括:确定待渲染元素在屏幕空间中的位置信息;根据位置信息确定待渲染元素在屏幕中的显示面积;根据显示面积,从预先存储的具有不同分辨率等级的多个纹理图像中筛选出具有目标分辨率等级的纹理图像,并将具有目标分辨率等级的纹理图像作为与目标虚拟区域对应的初始纹理图像。
具体地,应用的安装包中还包括有待渲染元素的顶点数据,终端可将待渲染元素的顶点数据输入至顶点着色器,由顶点着色器基于顶点数据,将顶点的局部坐标转换为屏幕坐标。其中,顶点数据记载了待渲染元素在局部空间中的局部坐标。在待渲染元素建模时,建模人员可以世界中的一个局部区域为基准来进行建模,此时该局部区域就对应于局部坐标。当获取得到待渲染元素的局部坐标时,终端可通过模型矩阵将待渲染元素由局部坐标转换为世界坐标,再根据虚拟摄像机的位置和视角,将待渲染元素由世界坐标转为屏幕坐标。其中,屏幕坐标指的是待渲染元素在屏幕中的位置坐标。
进一步地,终端根据待渲染元素在屏幕空间中的位置信息,确定待渲染元素在屏幕中所占用的面积大小,也即确定待渲染元素在屏幕中的显示面积,根据显示面积确定相应的初始分辨率等级。终端从预先设置的、且与目标虚拟区域相对应的多个纹理图像中,选取具有初始分辨率等级的纹理图像,并将具有初始分辨率等级的纹理图像作为与目标虚拟区域对应的初始纹理图像。
在其中一个实施例中,当待渲染元素在屏幕中所占用的面积越大,可采用具有更高分辨率等级的纹理图像作为初始纹理图像,相应地,当待渲染元素在屏幕中所占用的面积越小时,可采用具有更小分辨率等级的纹理图像作为初始纹理图像。其中,当纹理图像的分辨率等级越高时,其能显示的纹理细节就越多,渲染出的场景元素也就越清晰。
在其中一个实施例中,当获取得到具有初始分辨率等级的纹理图像时,终端确定整个待渲染元素是否均位于虚拟摄像机的拍摄范围之内,若整个待渲染元素均为于虚拟摄像机的拍摄范围之内时,也即当目标虚拟区域为待渲染元素的整个区域时,终端直接将具有初始分辨率等级的纹理图像作为目标虚拟区域的初始纹理图像。当待渲染元素的部分区域位于虚拟摄像机的拍摄范围之内时,也即当目标虚拟区域不为待渲染元素的整个区域时,终端根据目标虚拟区域的区域范围,对具有初始分辨率等级的纹理图像进行分割,得到可映射至目标虚拟区域的区域纹理图像,并将该区域纹理图像作为与目标虚拟区域对应的初始纹理图像。例如,当目标虚拟区域为待渲染元素的S1区域时,终端确定纹理图像中会映射至S1区域的区域纹理图像,并将该区域纹理图像作为初始纹理图像。
上述实施例中,通过面积大小选择合适的初始纹理图像,使得后续可基于初始纹理图像进行场景元素渲染,或者基于初始纹理图像进行分辨率提升处理。
在一个实施例中,基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,包括:通过分辨率提升模型,对初始纹理图像进行插值处理,得到插值图像;通过分辨率提升模型中的第一卷积层,提取插值图像的图像特征;通过分辨率提升模型中的第二卷积层,对图像特征进行非线性映射,得到特征映射图;通过分辨率提升模型中的第三卷积层,并根据特征映射图进行图像重建,得到目标纹理图像。
具体地,当获取得到初始纹理图像时,分辨率提升模型可对初始纹理图像进行插值处理,得到插值图像。例如,当初始纹理图像的分辨率为512*512时,分辨率提升模型可对初始纹理图像进行双三次差值(Bicubic interpolation)处理,得到分辨率为1024*1024的插值图像。虽然相比于初始纹理图像,插值图像的分辨率有所提升,但是该插值图像依旧为低分辨率的纹理图像。
进一步地,分辨率提升模型将插值图像输入至第一卷积层,通过第一卷积层提取插值图像中的图像特征,得到高维的特征向量。分辨率提升模型可将第一卷积层提取出的图像特征输入至第二卷积层中,通过第二卷积层对输入的图像特征进行非线性映射,得到特征映射图。比如,分辨率提升模型可将n1维的图像特征进行非线性映射,得到n2维的图像特征。进一步地,分辨率提升模型将非线性映射后的特征映射图发送至第三卷积层,通过第三卷积层根据输入的特征映射图进行图像重建,得到目标纹理图像。
在其中一个实施例中,第一卷积层的卷积核尺寸可为9*9,卷积核数量可为64,通道数可为1(亮度)或者3(RGB)。
在其中一个实施例中,第一卷积层可通过以下公式提取插值图像的图像特征:F1(Y)=MAX(0,W1*Y+B1)。其中,MAX(0,x)为激活函数Relu,W1指的是滤波器组,B1指的是偏置向量,符号*表示卷积运算,W1包含n1个大小为cxf1xf1的滤波器,f1表示卷积滤波器核的尺寸大小。
第二卷积层可通过以下公式对图像特征进行非线性映射,得到特征映射图:
F2(Y)=MAX(0,W2*F1(Y)+B2)。其中,W2表示n1x1x1xn2的滤波器组,B2指的是偏置向量,F2是指卷积滤波器的尺寸大小。
第三卷积层可通过以下公式进行图像重建,得到目标纹理图像:F3(Y)=W3*F2(Y)+B3。其中,W3表示n3xf3xf3的滤波器组,B3表示指的是偏置向量,F3为卷积滤波器的尺寸大小。
在一个实施例中,参考图6,图6示出了一个实施例中分辨率提升模型输出目标纹理图像的时序图。计算机设备可初始化分辨率提升模型,建立三层卷积网络,并设置各层卷积网络的网络权值和偏置。与此同时,分辨率提升模型可获取初始纹理图像,并对初始纹理图像进行插值处理,得到插值图像。进一步地,分辨率提升模型可基于三层卷积网络对插值图像进行推理分析,从而得到目标纹理图像。
本实施例中,通过三层卷积网络对插值图像进行推理分析,使得最终得到的目标纹理图像能够更为准确。
在一个实施例中,分辨率提升模型的训练步骤包括:获取样本图像以及与样本图像相对应的高分辨率图像;高分辨率图像包括至少一个第一像素点;通过待训练的分辨率提升模型,对样本图像进行分辨率提升处理,得到预测图像;预测图像包括至少一个第二像素点;对高分辨率图像和预测图像进行像素匹配,确定高分辨率图像和预测图像中对应相同像素位置的第一像素点和第二像素点;根据第一像素点的像素值和相同像素位置处的第二像素点的像素值,构建损失函数,并通过损失函数对待训练的分辨率提升模型进行训练,直至满足训练结束条件时结束,得到训练好的分辨率提升模型。
具体地,在基于分辨率提升模型对初始纹理图像进行分辨率提升处理之前,会对分辨率提升模型进行训练。模型训练人员可获取大量的样本图像以及与样本图像相对应的高分辨率图像。其中,高分辨率图像包括至少一个第一像素点。模型训练人员可将样本图像输入至待训练的分辨率提升模型中,通过待训练的分辨率提升模型对样本图像进行分辨率提升处理,得到预测图像。其中,预测图像包括至少一个第二像素点。分辨率提升模型对高分辨率图像和预测图像进行像素匹配,确定高分辨率图像和预测图像中对应相同像素位置的第一像素点和第二像素点,并确定第一像素点的像素值与相同像素位置处的第二像素点的像素值之间的像素值差异,确定预测图像与相应高分辨率图像之间的差异,根据预测图像与相应高分辨率图像之间的差异构造损失函数,通过损失函数对分辨率提升模型进行训练,直至满足训练结束条件时结束,得到训练好的分辨率提升模型。其中,训练结束条件可根据需求自由设置。
在一个实施例中,可通过以下损失函数对分辨率提升模型进行训练:
Figure 620794DEST_PATH_IMAGE001
其中,n为训练的纹理样本数量,
Figure 219265DEST_PATH_IMAGE002
代表重建的目标纹理图像。通过随机梯度下降方法(stochastic gradient descent,SGD)和反向传播,求解最优的网络权值,使损失函数L最小化。
在其中一个实施例中,参考图7,图7示出了一个实施例中分辨率提升模型的训练框架图。分辨率提升模型可获取具有第二分辨率等级的纹理图像,并对获取得到的纹理图像进行双三次插值放大处理,得到插值图像,并通过第一卷积层对插值图像进行特征提取,得到特征图像,通过第二卷积层对特征图像进行非线性映射,得到特征映射图,通过第三卷积层对特征映射图进行图像重建,得到预测图像。分辨率提升模型获取与具有第二分辨率等级的纹理图像相对应的高分辨率纹理图像,并根据预测图像与高分辨率纹理图像之间的差异,进行模型参数的调整,以进行模型的训练。
在其中一个实施例中,参考图8,图8示出了一个实施例中分辨率提升模型的训练时序图。计算机设备可获取训练样本,并对训练样本进行将分辨率处理,得到低分辨率训练样本。与此同时,计算机设备可初始化分辨率提升模型,建立三层卷积网络和损失函数,从而初始化后的分辨率提升模型可对低分辨率训练样本进行插值处理,得到插值图像。进一步地,分辨率提升模型可通过三层卷积网络对插值图像进行处理,得到预测图像,并确定预测图像和相应的训练样本之间的差异,根据差异求解最优的网络权值,以使损失函数最小化,从而分辨率提升模型可保存损失函数最小化时的网络权值和偏置矩阵,得到训练好的分辨率提升模型。容易理解地,本实施例中的训练样本即为上述的高分辨率图像,对训练样本进行将分辨率处理而得到的低分辨率训练样本即为上述的训练样本。
上述实施例中,通过对分辨率提升模型进行模型训练,使得训练完成的分辨率提升模型所输出的目标纹理图像能够为准确。
在一个实施例中,上述方法还包括:若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定不满足超分辨率提升条件,则获取与待渲染元素相对应的初始纹理图像;对初始纹理图像进行插值处理,得到伪高分辨率纹理图像;基于伪高分辨率纹理图像对待渲染元素进行渲染。
其中,伪高分辨率纹理图像指的是对初始纹理图像进行简单的插值处理后,得到的纹理图像。虽然伪高分辨率的分辨率高于初始纹理图像,但是由于只是进行了简单的插值处理,伪高分辨率所包含的纹理细节少于相应的高分辨率纹理图像。
具体地,当基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定待渲染元素不满足超分辨率提升条件时,终端可通过像素着色器从预设的具有不同分辨率等级的多个纹理图像中筛选出合适的纹理图像,并将筛选出的纹理图像作为初始纹理图像,对初始纹理图像进行简单的插值处理,得到伪高分辨率图像。例如,终端可对具有第二分辨率等级的初始纹理图像进行插值处理,得到具有第一分辨率等级的伪高分辨率纹理图像。终端将伪高分辨率图像存储至纹理图像库,并基于伪高分辨率纹理图像对待渲染元素进行渲染。容易理解地,终端也可不将伪高分辨率纹理图像存储至纹理图像库,直接基于生成的伪高分辨率纹理图像对待渲染元素进行渲染。本实施例在此不作限定。由于仅对待渲染图像进行简答地插值处理,因此,所生成的伪高分辨率图像的实际清晰度低于通过分辨率提升模型输出的目标纹理图像的实际清晰度,也就是说,即使在伪高分辨率纹理图像的分辨率等级与目标纹理图像的分辨率等级一致的情况下,伪高分辨率图像所包含的纹理细节也少于目标纹理图像所包含的纹理细节。
在其中一个实施例中,由于简单插值处理所耗费的计算机资源少于分辨率提升处理所耗费的计算机资源,因此,终端可仅对与目标虚拟区域相对应的初始纹理图像进行分辨率提升处理,而对与整个待渲染元素对应的初始纹理图像进行插值处理。其中,当目标虚拟区域为待渲染元素的一部分区域时,与目标纹理图像相对应的初始纹理图像也就为与整个待渲染元素相对应的初始纹理图像的一部分。
在其中一个实施例中,终端还可在基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件之前,生成与该待渲染元素相对应的伪高分辨率纹理图像,也可在基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件的同时,生成与该待渲染元素相对应的伪高分辨率纹理图像。本实施例在此不作限定。
上述实施例中,受虚拟摄像机视角和位置的限制,用户对距离摄像机较远的场景元素的敏感度较低,因此,为了保障渲染速率的同时,提升所显示的纹理图像的分辨率,可对距离虚拟摄像机较近的待渲染元素的纹理图像进行分辨率提升处理,对距离虚拟摄像机交远的待渲染元素的纹理图像进行插值处理,如此,不仅提升了整体虚拟场景的分辨率,而且提升了虚拟场景的整体渲染效率。
在一个实施例中,上述方法还包括:当获取得到与待渲染元素相对应的目标纹理图像时,确定纹理图像库中是否存在与待渲染元素相对应的伪高分辨率纹理图像;当纹理图像库中存在与待渲染元素相对应的伪高分辨率纹理图像时,将目标纹理图像替换伪高分辨率纹理图像。
具体地,当通过分辨率提升模型输出与待渲染元素相对应目标纹理图像时,终端可确定纹理图像库中是否存在与待渲染图像相对应的伪高分辨率纹理图像,并在存在与待渲染图像相对应的伪高分辨率纹理图像时,将纹理图像库中的伪高分辨率纹理图像替换为目标纹理图像,从而后续可基于目标纹理图像对待渲染元素进行渲染。
在其中一个实施例中,当纹理图像库中存在伪高分辨率纹理图像时,终端可优先基于伪高分辨率纹理图像对待渲染元素进行渲染,并在确定分辨率提升模型输出目标纹理图像,再通过目标纹理图像对该待渲染元素进行更新处理,从而得到最终的渲染后的场景元素。
本实施例中,通过将目标纹理图像替换伪高分辨率纹理图像,使得后续可基于具有更高分辨率的目标纹理图像对待渲染元素进行渲染,从而提升待渲染元素的显示清晰度。
在一个实施例中,当存在与待渲染元素相对应的伪高分辨率纹理图像时,将目标纹理图像替换伪高分辨率纹理图像,包括:当存在与待渲染元素相对应的伪高分辨率纹理图像时,确定伪高分辨率纹理图像所对应的分辨率等级;当伪高分辨率纹理图像的分辨率等级与目标纹理图像的分辨率等级相匹配时,将目标纹理图像替换伪高分辨率纹理图像;方法还包括:当伪高分辨率纹理图像的分辨率等级与目标纹理图像的分辨率等级不匹配时,将目标纹理图像存储至纹理图像库。
具体地,当纹理图像库中存在与待渲染元素相对应的至少一个伪高分辨率纹理图像时,终端可确定各伪高分辨率纹理图像各自对应的分辨率等级、并确定目标纹理图像所对应的分辨率等级,并将目标纹理图像替换具有相同分辨率等级的伪高分辨率纹理图像。比如,参考图5,终端可将分辨率提升模型输出的具有第一分辨率等级的目标纹理图像,替换具有第一分辨率的伪高分辨率纹理图像。
本实施例中,通过对具有相同分辨率等级的伪高分辨率纹理图像进行替换,使得后续可基于具有更高分辨率的目标纹理图像对待渲染元素进行渲染,从而提升待渲染元素的显示清晰度。
在一个实施例中,参考图9,图9示出了一个实施例中虚拟场景渲染的整体时序图。终端可响应于用户对虚拟摄像机的移动操作,确定将至少部分区域位于移动后的虚拟摄像机的视野范围内的待渲染元素,并对待渲染元素进行遍历。对于当前遍历至的当前待渲染元素,终端通过软光栅算法对虚拟摄像机数据和当前待渲染元素的顶点数据进行处理,得到与当前待渲染元素对应的目标虚拟区域。终端确定与目标虚拟区域相对应的初始纹理图像,并对初始纹理图像进行插值处理,得到伪高分辨率图像。在确定当前待渲染元素不满足超分辨率提升条件时,终端通过渲染管线,并基于伪高分辨率图像对当前待渲染元素进行渲染。在确定当前待渲染元素满足超分辨率提升条件时,终端将初始纹理图像输入至分辨率提升模型,通过分辨率提升模型查看纹理图像库中是否已存在与目标虚拟区域相对应的目标纹理图像,并在确定不存在与目标虚拟区域相对应的目标纹理图像时,对初始纹理图像进行分辨率提升处理,得到目标纹理图像。分辨率提升模型将目标纹理图像存储至纹理图像库中,并将目标纹理图像返回至渲染管线,以使渲染管线基于目标纹理图像对当前待渲染元素进行渲染。
本申请还提供一种应用场景,该应用场景应用上述的虚拟场景渲染方法。具体地,该虚拟场景渲染方法在该应用场景的应用如下:
参考图10,在游戏应用中,当玩家移动虚拟摄像机时,终端可对移动后的虚拟摄像机的拍摄范围进行渲染。终端确定移动后的虚拟摄像机的位置信息,并基于所确定的位置信息确定待渲染元素。终端获取待渲染元素的顶点数据,将顶点数据发送至顶点着色器,通过顶点着色器对顶点数据进行处理,得到待渲染元素在屏幕空间中的屏幕坐标。进一步地,终端通过像素着色器,并根据待渲染元素在屏幕空间中的屏幕坐标确定待渲染元素在屏幕中的显示面积,根据显示面积选择与待渲染元素相对应的初始纹理图像。终端判断待渲染元素是否满足超分辨率提升条件,当不满足超分辨率提升条件时,终端可直接基于初始纹理图像对待渲染元素进行渲染;当满足超分辨率提升条件时,终端可根据虚拟摄像机的拍摄范围,确定待渲染元素中位于拍摄范围内的目标虚拟区域,并确定与目标虚拟区域相对应的初始纹理图像,以及查看纹理图像库中是否存在与该目标虚拟区域相对应的目标纹理图像。当纹理图像库中存在与目标虚拟区域相对应的目标纹理图像时,终端直接基于目标纹理图像对目标虚拟区域进行渲染。当纹理图像库中不存在与目标虚拟区域相对应的目标纹理图像时,终端通过分辨率提升模型,对与目标虚拟区域相对应的初始纹理图像进行分辨率提升处理,得到目标纹理图像,并基于目标纹理图像对目标虚拟区域进行渲染。图10示出了一个实施例中虚拟场景渲染的技术框架图。
本申请还另外提供一种应用场景,该应用场景应用上述的虚拟场景渲染方法。具体地,该虚拟场景渲染方法在该应用场景的应用如下:
当应用为基于VR的体感活动应用时,用户可通过转动VR设备来调整虚拟摄像机的位置和视角,从而VR设备可响应于虚拟摄像机的移动操作,采用上述方式对待渲染元素进行渲染,以呈现虚拟现实场景。
上述应用场景仅为示意性的说明,可以理解,本申请各实施例所提供的业务相关数据上报方法的应用不局限于上述场景。
如图11所示,在一个具体的实施例中,基于虚拟场景渲染方法包括以下步骤:
S1102,展示虚拟场景;虚拟场景中包括有虚拟摄像机和至少一个场景元素,并响应于针对虚拟摄像机的移动操作,确定移动后的虚拟摄像机的目标视野范围,遍历虚拟场景中的场景元素,对于遍历至的场景元素,将至少部分区域位于目标视野范围内的场景元素,作为待渲染元素。
S1104,获取待渲染元素所对应的分辨率要求信息,并确定待渲染元素与虚拟摄像机之间的间隔距离,基于间隔距离和分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件。
S1106,若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定不满足超分辨率提升条件,则获取与待渲染元素相对应的初始纹理图像,并对初始纹理图像进行插值处理,得到伪高分辨率纹理图像,基于伪高分辨率纹理图像对待渲染元素进行渲染。
S1108,当待渲染元素满足超分辨率提升条件时,确定待渲染元素在虚拟场景中的位置信息,并确定虚拟摄像机的拍摄范围,并根据拍摄范围和位置信息,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
S1110,查看纹理图像库中是否存在与目标虚拟区域相对应的目标纹理图像,并在存在时,则直接从纹理图像库中提取与目标虚拟区域相对应的目标纹理图像。
S1112,在纹理图像库中不存在与目标虚拟区域相对应的目标纹理图像时,确定待渲染元素在屏幕空间中的位置信息;根据位置信息确定待渲染元素在屏幕中的显示面积,并根据显示面积,确定相应的初始分辨率等级。
S1114,从预先存储的具有不同分辨率等级的多个纹理图像中筛选出具有初始分辨率等级的纹理图像,并将具有初始分辨率等级的纹理图像作为与目标虚拟区域对应的初始纹理图像。
S1116,通过分辨率提升模型,对初始纹理图像进行插值处理,得到插值图像,通过分辨率提升模型中的第一卷积层,提取插值图像的图像特征,并通过分辨率提升模型中的第二卷积层,对图像特征进行非线性映射,得到特征映射图。
S1118,通过分辨率提升模型中的第三卷积层,并根据特征映射图进行图像重建,得到目标纹理图像,并将得到的目标纹理图像存储至纹理图像库。
S1120,确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,并基于目标纹理图像对待渲染元素的目标虚拟区域进行渲染。
S1122,确定纹理图像库中是否存在与待渲染元素相对应的伪高分辨率纹理图像;当纹理图像库中存在与待渲染元素相对应的伪高分辨率纹理图像时,将目标纹理图像替换伪高分辨率纹理图像。
上述虚拟场景渲染方法,通过获取虚拟场景中的待渲染元素和虚拟摄像机,可以基于待渲染元素与虚拟摄像机之间的距离或者待渲染元素所对应的分辨率要求信息,确定待渲染元素是否满足超分辨率提升条件,如此,便可在确定满足超分辨率提升条件时,对相应的初始纹理图像进行分辨率提升处理。由于是在确定满足超分辨比率提升条件时,再对相应初始纹理图像进行分辨率提升处理,因此可以减少不必要的分辨率提升处理过程,节约进行不必要的分辨率提升处理时所耗费的计算机资源。通过确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域以及确定与目标虚拟区域相对应的初始纹理图像,可基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,如此,便可基于目标纹理图像对相应待渲染元素的目标虚拟区域进行渲染。由于是对位于虚拟摄像机拍摄范围内的目标虚拟区域的初始纹理图像进行分辨率提升处理,相比于对整个待渲染元素的初始纹理图像进行分辨率提升处理,本申请实施例可以减少对不显示的初始纹理图像进行分辨率提升处理的过程,从而提升了分辨率提升处理的效率。由于本申请是在渲染之前,通过机器学习模型对初始纹理图像进行分辨率提升处理,而非预先在安装包中存储具有更高分辨率的纹理图像,因此,本申请实施例可以实现在不提升安装包体积的前提下,提升纹理图像的分辨率。
应该理解的是,虽然图2、图11的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2、图11中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图12所示,提供了一种虚拟场景渲染装置1200,该装置可以采用软件模块或硬件模块,或者是二者的结合成为计算机设备的一部分,该装置具体包括:元素获取模块1202、区域确定模块1204和渲染模块1206,其中:
元素获取模块1202,用于获取虚拟场景中的待渲染元素,其中,虚拟场景中包括有虚拟摄像机。
区域确定模块1204,用于若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
渲染模块1206,用于确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像;基于目标纹理图像对待渲染元素的目标虚拟区域进行渲染。
在一个实施例中,参考图13,元素获取模块1202还用于展示虚拟场景;虚拟场景中包括有虚拟摄像机和至少一个场景元素;响应于针对虚拟摄像机的移动操作,确定移动后的虚拟摄像机的目标视野范围;遍历虚拟场景中的场景元素确定当前遍历至的场景元素是否至少有部分区域位于目标视野范围内;若当前遍历至的场景元素至少有部分区域位于目标视野范围内,则确定当前遍历至的场景元素为待渲染元素。在一个实施例中,区域确定模块1204还包括提升确定模块1241,用于获取待渲染元素所对应的分辨率要求信息,并确定待渲染元素与虚拟摄像机之间的间隔距离;基于间隔距离和分辨率要求信息中的至少一种,确定待渲染元素是否满足超分辨率提升条件;当待渲染元素满足超分辨率提升条件时,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
在一个实施例中,分辨率要求信息中包括待渲染元素所对应的目标分辨率等级;提升确定模块1241还用于当间隔距离小于或等于预设距离阈值时,确定待渲染元素满足超分辨率提升条件;当目标分辨率等级大于预设纹理图像库中的各纹理图像的分辨率等级时,确定待渲染元素满足超分辨率提升条件。
在一个实施例中,区域确定模块1204还用于确定待渲染元素在虚拟场景中的位置信息;确定虚拟摄像机的拍摄范围;根据拍摄范围和位置信息,确定待渲染元素中位于虚拟摄像机拍摄范围内的目标虚拟区域。
在一个实施例中,虚拟场景渲染装置1200用于查看纹理图像库中是否存在与目标虚拟区域相对应的目标纹理图像;若存在,则直接从纹理图像库中提取与目标虚拟区域相对应的目标纹理图像;若不存在,则确定与目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对初始纹理图像进行分辨率提升处理,得到目标纹理图像,并将得到的目标纹理图像存储至纹理图像库。
在一个实施例中,渲染模块1206还包括初始图像确定模块1261,用于确定待渲染元素在屏幕空间中的位置信息;根据位置信息确定待渲染元素在屏幕中的显示面积,并根据显示面积,确定相应的初始分辨率等级;从预先存储的具有不同分辨率等级的多个纹理图像中筛选出具有初始分辨率等级的纹理图像,并将具有初始分辨率等级的纹理图像作为与目标虚拟区域对应的初始纹理图像。
在一个实施例中,渲染模块1206还包括分辨率提升模块1262,用于通过分辨率提升模型,对初始纹理图像进行插值处理,得到插值图像;通过分辨率提升模型中的第一卷积层,提取插值图像的图像特征;通过分辨率提升模型中的第二卷积层,对图像特征进行非线性映射,得到特征映射图;通过分辨率提升模型中的第三卷积层,并根据特征映射图进行图像重建,得到目标纹理图像。
在一个实施例中,虚拟场景渲染装置1200还用于获取样本图像以及与样本图像相对应的高分辨率图像;高分辨率图像包括至少一个第一像素点;通过待训练的分辨率提升模型,对样本图像进行分辨率提升处理,得到预测图像;预测图像包括至少一个第二像素点;对高分辨率图像和预测图像进行像素匹配,确定高分辨率图像和预测图像中对应相同像素位置的第一像素点和第二像素点;根据第一像素点的像素值和相同像素位置处的第二像素点的像素值,构建损失函数,并通过损失函数对待训练的分辨率提升模型进行训练,直至满足训练结束条件时结束,得到训练好的分辨率提升模型。
在一个实施例中,虚拟场景渲染装置1200还用于若基于待渲染元素与虚拟摄像机之间的距离、及待渲染元素所对应的分辨率要求信息中的至少一种,确定不满足超分辨率提升条件,则获取与待渲染元素相对应的初始纹理图像;对初始纹理图像进行插值处理,得到伪高分辨率纹理图像;存储伪高分辨率图像至纹理图像库,并基于伪高分辨率纹理图像对待渲染元素进行渲染。
在一个实施例中,虚拟场景渲染装置1200还用于当获取得到与待渲染元素相对应的目标纹理图像时,确定纹理图像库中是否存在与待渲染元素相对应的伪高分辨率纹理图像;当纹理图像库中存在与待渲染元素相对应的伪高分辨率纹理图像时,将目标纹理图像替换伪高分辨率纹理图像。
在一个实施例中,虚拟场景渲染装置1200还用于当存在与待渲染元素相对应的伪高分辨率纹理图像时,确定伪高分辨率纹理图像所对应的分辨率等级;当伪高分辨率纹理图像的分辨率等级与目标纹理图像的分辨率等级相匹配时,将目标纹理图像替换伪高分辨率纹理图像;当伪高分辨率纹理图像的分辨率等级与目标纹理图像的分辨率等级不匹配时,将目标纹理图像存储至纹理图像库。
关于虚拟场景渲染装置的具体限定可以参见上文中对于虚拟场景渲染方法的限定,在此不再赘述。上述虚拟场景渲染装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图14所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种虚拟场景渲染方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图14中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (15)

1.一种虚拟场景渲染方法,其特征在于,所述方法包括:
获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;
基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
2.根据权利要求1所述的方法,其特征在于,所述获取虚拟场景中的待渲染元素,包括:
展示虚拟场景;所述虚拟场景中包括有虚拟摄像机和至少一个场景元素;
响应于针对所述虚拟摄像机的移动操作,确定移动后的虚拟摄像机的目标视野范围;
遍历所述虚拟场景中的场景元素,确定当前遍历至的场景元素是否至少有部分区域位于所述目标视野范围内;若当前遍历至的场景元素至少有部分区域位于所述目标视野范围内,则确定所述当前遍历至的场景元素为待渲染元素。
3.根据权利要求1所述的方法,其特征在于,所述若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域,包括:
获取所述待渲染元素所对应的分辨率要求信息,并确定所述待渲染元素与所述虚拟摄像机之间的间隔距离;
基于所述间隔距离和所述分辨率要求信息中的至少一种,确定所述待渲染元素是否满足超分辨率提升条件;
当所述待渲染元素满足超分辨率提升条件时,确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域。
4.根据权利要求3所述的方法,其特征在于,所述分辨率要求信息中包括所述待渲染元素所对应的目标分辨率等级;
所述基于所述间隔距离和所述分辨率要求信息中的至少一种,确定所述待渲染元素是否满足超分辨率提升条件,包括:
当所述间隔距离小于或等于预设距离阈值时,确定所述待渲染元素满足超分辨率提升条件;
当所述目标分辨率等级大于预设纹理图像库中的各纹理图像的分辨率等级时,确定所述待渲染元素满足超分辨率提升条件。
5.根据权利要求1所述的方法,其特征在于,所述确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域,包括:
确定所述待渲染元素在所述虚拟场景中的位置信息;
确定所述虚拟摄像机的拍摄范围;
根据所述拍摄范围和所述位置信息,确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
查看纹理图像库中是否存在与所述目标虚拟区域相对应的目标纹理图像;
若不存在,则执行所述确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像,并将得到的目标纹理图像存储至所述纹理图像库;
若存在,则直接从所述纹理图像库中提取与所述目标虚拟区域相对应的目标纹理图像。
7.根据权利要求1所述的方法,其特征在于,所述确定与所述目标虚拟区域对应的初始纹理图像,包括:
确定所述待渲染元素在屏幕空间中的位置信息;
根据所述位置信息确定所述待渲染元素在屏幕中的显示面积,并根据所述显示面积,确定相应的初始分辨率等级;
从预先存储的具有不同分辨率等级的多个纹理图像中筛选出具有初始分辨率等级的纹理图像,并将具有初始分辨率等级的纹理图像作为与所述目标虚拟区域对应的初始纹理图像。
8.根据权利要求1所述的方法,其特征在于,所述基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像,包括:
通过分辨率提升模型,对所述初始纹理图像进行插值处理,得到插值图像;
通过分辨率提升模型中的第一卷积层,提取所述插值图像的图像特征;
通过分辨率提升模型中的第二卷积层,对所述图像特征进行非线性映射,得到特征映射图;
通过分辨率提升模型中的第三卷积层,并根据所述特征映射图进行图像重建,得到目标纹理图像。
9.根据权利要求8所述的方法,其特征在于,所述分辨率提升模型的训练步骤包括:
获取样本图像以及与所述样本图像相对应的高分辨率图像;所述高分辨率图像包括至少一个第一像素点;
通过待训练的分辨率提升模型,对所述样本图像进行分辨率提升处理,得到预测图像;所述预测图像包括至少一个第二像素点;
对所述高分辨率图像和所述预测图像进行像素匹配,确定所述高分辨率图像和所述预测图像中对应相同像素位置的第一像素点和第二像素点;
根据第一像素点的像素值和相同像素位置处的第二像素点的像素值,构建损失函数,并通过所述损失函数对所述待训练的分辨率提升模型进行训练,直至满足训练结束条件时结束,得到训练好的分辨率提升模型。
10.根据权利要求1至9任一项所述的方法,其特征在于,所述方法还包括:
若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种,确定不满足超分辨率提升条件,则获取与所述待渲染元素相对应的初始纹理图像;
对所述初始纹理图像进行插值处理,得到伪高分辨率纹理图像;
基于所述伪高分辨率纹理图像对所述待渲染元素进行渲染。
11.根据权利要求10所述的方法,其特征在于,所述方法还包括:
当获取得到与所述待渲染元素相对应的目标纹理图像时,确定纹理图像库中是否存在与所述待渲染元素相对应的伪高分辨率纹理图像;
当所述纹理图像库中存在与所述待渲染元素相对应的伪高分辨率纹理图像时,将所述目标纹理图像替换所述伪高分辨率纹理图像。
12.根据权利要求11所述的方法,其特征在于,所述当存在与所述待渲染元素相对应的伪高分辨率纹理图像时,将所述目标纹理图像替换所述伪高分辨率纹理图像,包括:
当存在与所述待渲染元素相对应的伪高分辨率纹理图像时,确定所述伪高分辨率纹理图像所对应的分辨率等级;
当所述伪高分辨率纹理图像的分辨率等级与所述目标纹理图像的分辨率等级相匹配时,将所述目标纹理图像替换所述伪高分辨率纹理图像;
所述方法还包括:
当所述伪高分辨率纹理图像的分辨率等级与所述目标纹理图像的分辨率等级不匹配时,将所述目标纹理图像存储至纹理图像库。
13.一种虚拟场景渲染装置,其特征在于,所述装置包括:
元素获取模块,用于获取虚拟场景中的待渲染元素,其中,所述虚拟场景中包括有虚拟摄像机;
区域确定模块,用于若基于所述待渲染元素与所述虚拟摄像机之间的距离、及所述待渲染元素所对应的分辨率要求信息中的至少一种满足超分辨率提升条件,则确定所述待渲染元素中位于所述虚拟摄像机拍摄范围内的目标虚拟区域;
渲染模块,用于确定与所述目标虚拟区域对应的初始纹理图像,并基于分辨率提升模型对所述初始纹理图像进行分辨率提升处理,得到目标纹理图像;基于所述目标纹理图像对所述待渲染元素的目标虚拟区域进行渲染。
14.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至12中任一项所述的方法的步骤。
15.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至12中任一项所述的方法的步骤。
CN202110814455.7A 2021-07-19 2021-07-19 虚拟场景渲染方法、装置、计算机设备和存储介质 Active CN113269858B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110814455.7A CN113269858B (zh) 2021-07-19 2021-07-19 虚拟场景渲染方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110814455.7A CN113269858B (zh) 2021-07-19 2021-07-19 虚拟场景渲染方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN113269858A true CN113269858A (zh) 2021-08-17
CN113269858B CN113269858B (zh) 2021-11-30

Family

ID=77236740

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110814455.7A Active CN113269858B (zh) 2021-07-19 2021-07-19 虚拟场景渲染方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN113269858B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113936084A (zh) * 2021-10-28 2022-01-14 广州益聚未来网络科技有限公司 一种虚拟天空中目标元素的生成方法及相关设备
CN115953330A (zh) * 2023-03-13 2023-04-11 腾讯科技(深圳)有限公司 虚拟场景图像的纹理优化方法、装置、设备和存储介质
CN116012474A (zh) * 2022-12-13 2023-04-25 昆易电子科技(上海)有限公司 仿真测试图像生成、回注方法及系统、工控机、装置
CN116206046A (zh) * 2022-12-13 2023-06-02 北京百度网讯科技有限公司 渲染处理方法、装置、电子设备及存储介质
CN116681575A (zh) * 2023-07-27 2023-09-01 南京砺算科技有限公司 图形处理单元、图形渲染方法、存储介质、终端设备
CN117082225A (zh) * 2023-10-12 2023-11-17 山东海量信息技术研究院 一种虚拟延时视频的生成方法、装置、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389842A (zh) * 2015-10-29 2016-03-09 中国人民解放军空军航空大学 基于选择区域的纹理模型简化方法
CN109949255A (zh) * 2017-12-20 2019-06-28 华为技术有限公司 图像重建方法及设备
CN111105491A (zh) * 2019-11-25 2020-05-05 腾讯科技(深圳)有限公司 场景渲染方法、装置、计算机可读存储介质和计算机设备
CN111292405A (zh) * 2020-02-06 2020-06-16 腾讯科技(深圳)有限公司 一种图像渲染的方法以及相关装置
CN111729307A (zh) * 2020-07-30 2020-10-02 腾讯科技(深圳)有限公司 虚拟场景显示方法、装置、设备以及存储介质
CN112370784A (zh) * 2021-01-15 2021-02-19 腾讯科技(深圳)有限公司 虚拟场景显示方法、装置、设备以及存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104751506B (zh) * 2013-12-25 2017-10-27 艾迪普(北京)文化科技股份有限公司 一种实现三维图形图像的集群渲染方法和设备
CN106157247A (zh) * 2016-07-06 2016-11-23 北京元心科技有限公司 一种图片处理方法和系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389842A (zh) * 2015-10-29 2016-03-09 中国人民解放军空军航空大学 基于选择区域的纹理模型简化方法
CN109949255A (zh) * 2017-12-20 2019-06-28 华为技术有限公司 图像重建方法及设备
CN111105491A (zh) * 2019-11-25 2020-05-05 腾讯科技(深圳)有限公司 场景渲染方法、装置、计算机可读存储介质和计算机设备
CN111292405A (zh) * 2020-02-06 2020-06-16 腾讯科技(深圳)有限公司 一种图像渲染的方法以及相关装置
CN111729307A (zh) * 2020-07-30 2020-10-02 腾讯科技(深圳)有限公司 虚拟场景显示方法、装置、设备以及存储介质
CN112370784A (zh) * 2021-01-15 2021-02-19 腾讯科技(深圳)有限公司 虚拟场景显示方法、装置、设备以及存储介质

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113936084A (zh) * 2021-10-28 2022-01-14 广州益聚未来网络科技有限公司 一种虚拟天空中目标元素的生成方法及相关设备
CN113936084B (zh) * 2021-10-28 2022-10-28 广州益聚未来网络科技有限公司 一种虚拟天空中目标元素的生成方法及相关设备
CN116012474A (zh) * 2022-12-13 2023-04-25 昆易电子科技(上海)有限公司 仿真测试图像生成、回注方法及系统、工控机、装置
CN116206046A (zh) * 2022-12-13 2023-06-02 北京百度网讯科技有限公司 渲染处理方法、装置、电子设备及存储介质
CN116206046B (zh) * 2022-12-13 2024-01-23 北京百度网讯科技有限公司 渲染处理方法、装置、电子设备及存储介质
CN116012474B (zh) * 2022-12-13 2024-01-30 昆易电子科技(上海)有限公司 仿真测试图像生成、回注方法及系统、工控机、装置
CN115953330A (zh) * 2023-03-13 2023-04-11 腾讯科技(深圳)有限公司 虚拟场景图像的纹理优化方法、装置、设备和存储介质
CN116681575A (zh) * 2023-07-27 2023-09-01 南京砺算科技有限公司 图形处理单元、图形渲染方法、存储介质、终端设备
CN116681575B (zh) * 2023-07-27 2023-12-19 南京砺算科技有限公司 图形处理单元、图形渲染方法、存储介质、终端设备
CN117082225A (zh) * 2023-10-12 2023-11-17 山东海量信息技术研究院 一种虚拟延时视频的生成方法、装置、设备及存储介质
CN117082225B (zh) * 2023-10-12 2024-02-09 山东海量信息技术研究院 一种虚拟延时视频的生成方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN113269858B (zh) 2021-11-30

Similar Documents

Publication Publication Date Title
CN113269858B (zh) 虚拟场景渲染方法、装置、计算机设备和存储介质
CN110084874B (zh) 对于三维模型的图像风格迁移
CN110515452B (zh) 图像处理方法、装置、存储介质和计算机设备
KR20210049947A (ko) 샘플링된 컬러 정보에 기초하여 이미지 시퀀스들을 생성하고 송신하기 위한 시스템들 및 방법들
CN106355153A (zh) 一种基于增强现实的虚拟对象显示方法、装置以及系统
CN112370784B (zh) 虚拟场景显示方法、装置、设备以及存储介质
CN109754461A (zh) 图像处理方法及相关产品
CN106897108A (zh) 一种基于WebVR的虚拟现实全景漫游的实现方法
KR20200128378A (ko) 이미지 생성 네트워크의 훈련 및 이미지 처리 방법, 장치, 전자 기기, 매체
CN110458924B (zh) 一种三维脸部模型建立方法、装置和电子设备
EP4092629A2 (en) Method and apparatus for displaying objects, and storage medium
CN112990053B (zh) 图像处理方法、装置、设备及存储介质
US20230281913A1 (en) Radiance Fields for Three-Dimensional Reconstruction and Novel View Synthesis in Large-Scale Environments
CN113592726A (zh) 高动态范围成像方法、装置、电子设备和存储介质
Paulin et al. Review and analysis of synthetic dataset generation methods and techniques for application in computer vision
CN113095206A (zh) 虚拟主播生成方法、装置和终端设备
CN114170290A (zh) 图像的处理方法及相关设备
CN115984447A (zh) 图像渲染方法、装置、设备和介质
CN115494987A (zh) 基于视频的交互方法、装置、计算机设备和存储介质
CN111142967A (zh) 一种增强现实显示的方法、装置、电子设备和存储介质
CN112115900B (zh) 图像处理方法、装置、设备及存储介质
CN115953524B (zh) 一种数据处理方法、装置、计算机设备及存储介质
CN108765549A (zh) 一种基于人工智能的产品三维展示方法及装置
CN116385622A (zh) 云图处理方法、装置、计算机及可读存储介质
CN115965736A (zh) 图像处理方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40052187

Country of ref document: HK