CN110310224A - 光效渲染方法及装置 - Google Patents
光效渲染方法及装置 Download PDFInfo
- Publication number
- CN110310224A CN110310224A CN201910601008.6A CN201910601008A CN110310224A CN 110310224 A CN110310224 A CN 110310224A CN 201910601008 A CN201910601008 A CN 201910601008A CN 110310224 A CN110310224 A CN 110310224A
- Authority
- CN
- China
- Prior art keywords
- target object
- sample image
- ball
- preset model
- virtual item
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000009877 rendering Methods 0.000 title claims abstract description 45
- 238000005286 illumination Methods 0.000 claims abstract description 80
- 238000012549 training Methods 0.000 claims abstract description 22
- 230000015654 memory Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 abstract description 15
- 238000004364 calculation method Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 6
- 238000005457 optimization Methods 0.000 description 6
- 241000406668 Loxodonta cyclotis Species 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/067—Reshaping or unfolding 3D tree structures onto 2D planes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Generation (AREA)
Abstract
本公开实施例提供一种光效渲染方法及装置,电子设备预先加载预置模型,该预置模型是利用多个包含目标对象的样本图像训练得到的,电子设备在接收到用户输入请求对视频中的目标对象添加虚拟道具的添加请求后,将视频中的图像帧输入至预置模型,以得到图像帧中目标对象的球谐光照,利用球谐光照渲染虚拟道具,从而将虚拟道具绘制在该图像帧的目标对象上。该渲染过程中,利用预置模型确定图像中目标对象的球谐光照,利用该球谐光照对虚拟道具进行光效渲染,由于预置模型能够对目标对象的几何形状等进行先验,因此,可以减少计算量、降低处理器的占用率、缩短光效渲染时长。
Description
技术领域
本公开实施例涉及视频处理技术领域,尤其涉及一种光效渲染方法及装置。
背景技术
随着技术的不断发展,越来越多的用户将生活中的趣事、见闻等录制视频,并通过一些应用程序(application,APP)将视频上传到网络上,供其他用户点击和观看。
用户录制视频的过程中,为增加趣味性等,在视频中的目标对象上或目标对象附近添加虚拟道具。以目标对象为人脸为例,录制视频的过程中,可以在人脸上添加脸谱等,或者在人脸周围添加头盔、耳朵等。绘制过程中,若虚拟道具的光效与视频对应的真实环境中的环境光照的效果差异较大,则会导致虚拟道具很不真实、虚拟道具与周围环境很不融洽。因此,需要对虚拟道具进行光效渲染。解优化的方法是常见的光源重建方法,基于该方法,检测该图像中目标对象的掩膜,利用掩膜将图像中除目标对象外的其他部分遮挡,根据遮挡后的区域获取目标对象的模型,根据目标对象的模型获得目标对象在真实环境下的环境光照,该环境光照也称之为重建光源。之后,绘制虚拟道具的过程中,利用该环境光照渲染虚拟道具,以使得虚拟道具更真实、与周围环境更融洽。
然而,上述光效渲染过程中,需要对每个目标对象计算模型和环境光照,计算量大、处理器占用率高、耗时长。
发明内容
本公开实施例提供一种光效渲染方法及装置,利用预置模型确定图像中目标对象的球谐光照,利用该球谐光照对虚拟道具进行光效渲染,由于预置模型能够对目标对象的几何形状等进行先验,因此,可以减少计算量、降低处理器的占用率、缩短光效渲染时长。
第一方面,本申请实施例提供一种光效渲染方法,包括:
接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具;
将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述预置模型是通过对多个样本图像进行训练得到的;
利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
第二方面,本公开实施例提供一种光效渲染装置,包括:
接收模块,用于接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具;
输入模块,用于将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述预置模型是通过对多个样本图像进行训练得到的;
渲染模块,用于利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
第三方面,本公开实施例提供一种光效渲染装置,包括处理器、存储器及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上第一方面或第一方面的各种可行的实现方式所述的方法。
第四方面,本公开实施例提供一种存储介质,所述存储介质中存储有指令,当其在电子设备上运行时,使得电子设备执行如上第一方面或第一方面的各种可行的实现方式所述的方法。
第五方面,本公开实施例提供一种计算机程序产品,所述计算机程序产品在电子设备上运行时,使得电子设备执行如上第一方面或第一方面的各种可行的实现方式所述的方法。
本公开实施例提供的光效渲染方法及装置,电子设备预先加载预置模型,该预置模型是利用多个包含目标对象的样本图像训练得到的,电子设备在接收到用户输入请求对视频中的目标对象添加虚拟道具的添加请求后,将视频中的图像帧输入至预置模型,以得到图像帧中目标对象的球谐光照,利用球谐光照渲染虚拟道具,从而将虚拟道具绘制在该图像帧的目标对象上。绘制过程中,由于是使用目标对象的球谐光照对虚拟道具进行绘制,因此,可以使得虚拟道具的光效与目标对象的光效之间的差值小于预设阈值,即对于一个图像帧,使得该图像帧中虚拟道具的光效接近该图像帧中目标对象的光效。如此一来,虚拟道具更真实,虚拟道具与周围的环境更加融洽。该渲染过程中,利用预置模型确定图像中目标对象的球谐光照,利用该球谐光照对虚拟道具进行光效渲染,由于预置模型能够对目标对象的几何形状等进行先验,因此,可以减少计算量、降低处理器的占用率、缩短光效渲染时长。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本公开实施例提供的光效渲染方法的运行环境示意图;
图2是本公开实施例提供的一种光效渲染方法的流程图;
图3是本公开实施例提供的一种光效渲染方法中训练预置模型的流程图;
图4为本公开实施例提供的一种光效渲染装置的结构示意图;
图5为本公开实施例提供的另一种光效渲染装置的结构示意图;
图6为本公开实施例提供的电子设备的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
生活中,用户通过一些应用程序(application,APP)将拍摄的视频上传到网络上,供其他用户浏览、观看。为增加趣味性、点击率等,录制视频的过程中,需要对视频中的目标对象,如人脸等添加虚拟道具,其中,虚拟道具包括头盔、脸谱、耳朵等。通常情况下,该些虚拟道具是三维模型,需要设计光源对其进行绘制。若设计的光源和真实的环境光照差异较大,则使得虚拟道具看起来很不真实,真实的环境光照指录制视频时目标对象周围环境的光照。常见的光源重建方法包括解优化的方法等。解优化的方法中,检测图像中目标对象的掩膜,利用掩膜将图像中除目标对象外的其他部分遮挡,根据遮挡后的区域获取目标对象的模型,根据目标对象的模型获得目标对象在真实环境下的环境光照,该环境光照也称之为重建光源。之后,绘制虚拟道具的过程中,利用该环境光照渲染虚拟道具,以使得虚拟道具更真实、与周围环境更融洽。
然而,上述光效渲染过程中,需要对每个目标对象计算模型和环境光照,计算量大、处理器占用率高、耗时长。
有鉴于此,本公开实施例提供一种光效渲染方法及装置,利用预置模型确定图像中目标对象的球谐光照,利用该球谐光照对虚拟道具进行光效渲染,由于预置模型能够对目标对象的几何形状等进行先验,因此,可以减少计算量、降低处理器的占用率、缩短光效渲染时长。
图1是本公开实施例提供的光效渲染方法的运行环境示意图。请参照图1,电子设备10与服务器20建立网络连接,电子设备10具有视频拍摄能力,该电子设备10加载预置模型,该预置模型能够对图像中的目标对象的球谐光照进行识别。例如,预置模型是APP开发商对样本图像等进行训练得到,并内置在APP的按照文件,如安卓安装包(AndroidPackage,APK)中,用户下载该APK并安装,从而将预置模型加载到电子设备10上。再如,预置模型是操作系统自带的一个功能文件,当用户对视频中的目标对象添加虚拟道具时,触发预置模型对目标对象的球谐光照进行识别。又如,预置模型是用户开发的小程序,用户对样本图像等进行训练得到预置模型,并将预置模型加载到电子设备10上,之后,当用户对视频中的目标对象添加虚拟道具时,触发预置模型对目标对象的球谐光照进行识别。
本公开实施例中,用户利用电子设备10拍摄视频,将该视频上传到服务器20之前,对该视频中的目标对象添加虚拟道具时,电子设备10对该视频进行分帧处理,以得到图像帧序列。之后,依次将图像帧序列中的各图像帧输入至电子设备10内置的预置模型,使得预置模型检测出包含目标对象的图像帧,并识别图像帧中目标对象的球谐光照,利用球谐光照渲染该图像帧中的虚拟道具;或者,电子设备10从图像帧序列中检测出包含目标对象的图像帧,将包含目标对象的图像帧依次输入至预置模型,使得预置模型识别每个图像帧中目标对象的球谐光照,利用球谐光照渲染虚拟道具。
本申请实施例中,电子设备10例如可以是用户的电脑、笔记本、手机等,本公开实施例并不限制。服务器20例如可以是各个视频分享平台的服务器。
下面,在上述图1的基础上,对本公开实施例所述的光效渲染方法进行详细说明。示例性的,请参见图2。
图2是本公开实施例提供的一种光效渲染方法的流程图。本实施例从电子设备交互的角度,对本公开实施例所述的光效渲染方法进行详细说明,本实施例包括:
在框101,接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具。
示例性的,用户开启电子设备的某个APP录制视频时,或者,用户开启电子设备上的相机录制视频时,若用户想要为视频中的目标对象添加虚拟道具,则在电子设备的触摸屏上点击相应的按钮,以请求对视频中的目标对象添加虚拟道具;相应的,电子设备接收并识别该添加请求。其中,目标对象例如为人脸、车辆、树木等特征的对象。本实施例中,预置模型是对包含目标对象的样本图像等进行训练得到。例如,目标对象为人脸,则对多个包含人脸的样本图像进行模型训练,以得到能够识别人脸的球谐光照的预置模型;再如,目标对象为车辆,则对多个包含车辆的样本图像进行模型训练,以得到能够识别车辆的球谐光照的预置模型。
在框102,将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述预置模型是通过对多个样本图像进行训练得到的。
示例性的,电子设备对视频进行分帧处理,以得到图像帧序列,并以此将图像帧序列中的每个图像帧输入至预置模型。对于每一个图像帧,检测出目标对象的掩膜,利用目标对象的掩膜(mask)将对该图像帧进行遮挡,使得该图像帧中除目标对象外的其他区域被遮挡,未被遮挡的区域即为目标对象所在的区域。
另外,由于一段视频经过分帧处理可以得到很多个图像帧,有的图像帧包含目标对象,有的图像帧不包含目标对象,电子设备可以对各图像帧进行检测,仅将包含目标对象的图像帧输入至预置模型;或者,电子设备将所有的图像帧均输入至预置模型,由预置模型对各图像帧进行检测,仅对包含目标对象的图像帧进行球谐关照的识别。例如,假设目标对象为人脸,一段1分钟的视频包含1500个图像帧,分别为第1图像帧、第2图像帧……第1500图像帧,若第400~第600个图像帧不包含人脸,则电子设备仅将第1图像帧~第399图像帧、第601图像帧~第1500图像帧输入至预置模型;再如,电子设备将所有的图像帧均输入至预置模型,预置模型检测出第400~第600个图像帧不包含人脸,则预置模型仅对第1图像帧~第399图像帧、第601图像帧~第1500图像帧分别进行球谐光照的识别。
在框103,利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
示例性的,对于视频中的某个图像帧,电子设备利用该图像帧中目标对象的球谐光照,渲染虚拟道具,从而将虚拟道具绘制在该图像帧的目标对象上。绘制过程中,由于是使用目标对象的球谐光照对虚拟道具进行绘制,因此,可以使得虚拟道具的光效与目标对象的光效之间的差值小于预设阈值,即对于一个图像帧,使得该图像帧中虚拟道具的光效接近该图像帧中目标对象的光效。如此一来,虚拟道具更真实,虚拟道具与周围的环境更加融洽。
本公开实施例提供的光效渲染方法,电子设备预先加载预置模型,该预置模型是利用多个包含目标对象的样本图像训练得到的,电子设备在接收到用户输入请求对视频中的目标对象添加虚拟道具的添加请求后,将视频中的图像帧输入至预置模型,以得到图像帧中目标对象的球谐光照,利用球谐光照渲染虚拟道具,从而将虚拟道具绘制在该图像帧的目标对象上。绘制过程中,由于是使用目标对象的球谐光照对虚拟道具进行绘制,因此,可以使得虚拟道具的光效与目标对象的光效之间的差值小于预设阈值,即对于一个图像帧,使得该图像帧中虚拟道具的光效接近该图像帧中目标对象的光效。如此一来,虚拟道具更真实,虚拟道具与周围的环境更加融洽。该渲染过程中,利用预置模型确定图像中目标对象的球谐光照,利用该球谐光照对虚拟道具进行光效渲染,由于预置模型能够对目标对象的几何形状等进行先验,因此,可以减少计算量、降低处理器的占用率、缩短光效渲染时长。
下面,对上述实施例中,如何训练预置模型进行详细说明。示例性的,可参见图3,图3是本公开实施例提供的一种光效渲染方法中训练预置模型的流程图,本实施例包括:
在框201,获取样本图像。
本申请实施例中,样本图像指包含目标对象的图像,同一种样本图像中,包含同一类型的目标对象。例如,目标对象为人脸,则每个样本图像均包含人脸,不同样本图像包含的人脸可以是不同年龄、不同地域、不同身高的人的人脸等。
在框202,对样本图像进行预处理。
示例性的,本公开实施例中,样本图像可以是电子设备(该电子设备包括但不限于上述实施例中用于为视频添加虚拟道具的电子设备)拍摄到的原始彩色图片,也可以是对原始彩色图像进行预处理后得到的图片,预处理包括下述处理中的至少一个:旋转、裁切、灰度处理。
在框203,针对所述多个样本图像中的每个样本图像,获取样本图像中目标对象的掩膜。
示例性的,针对每个样本图像,电子设备利用检测的方法从该样本图像中获取目标对象的掩膜。
本公开实施例中,获取掩膜的目的是对该图像帧的全部或局部进行遮挡,对目标对象外的区域进行遮挡,从而将目标对象所在的区域作为图像处理的区域。
在框204,针对所述多个样本图像中的每个样本图像,获取所述样本图像中目标对象的球谐光照。
示例性的,针对每个样本图像,电子设备利用解优化的方法获得该样本图像中目标对象的球谐光照,球谐光照指目标对象上用球谐标识的环境光照。利用解优化的方法计算球谐光照的过程中,电子设备利用框203中得到的掩膜,将样本图像中除目标对象外的其他部分遮挡,根据遮挡后的区域获取目标对象的模型,根据目标对象的模型获得目标对象在真实环境下的环境光照,即样本图像中目标对象的球谐光照。
在框205,基于所述多个样本图像中的每个样本图像,以及所述多个样本图像中每个样本图像的目标对象的球谐光照进行模型训练,以得到所述预置模型。
示例性的,可以利用神经网络算法等,对多个样本图像中的每个样本图像,以及多个样本图像中每个样本图像的目标对象的球谐光照进行模型训练,以得到预置模型。训练过程中,不断的将样本图像及样本图像对应的球谐光照输入至预置模型,根据预置模型的识别结果不断修正预置模型的参数,直到预置模型能够准确识别预设比例的样本图像中目标对象的球谐光照时,停止训练,从而得到本公开实施例所述的预置模型。
上述训练预置模型的过程中,为了加快模型收敛的速度,电子设备判断所述预置模型是否能准确识别第一样本图像的球谐光照,所述第一样本图像是所述多个样本图像中的任意一幅样本图像;若所述预置模型能准确识别所述第一样本图像的球谐光照,则从所述多个样本图像中剔除所述第一样本图像,并基于剩余的样本图像以及所述样本图像对应的球谐光照进行模型训练,以得到所述预置模型。
示例性的,模型训练过程实质上是一个不断迭代收敛的过程,为了加快模型收敛速度,需要减少样本图像的数量。减少过程中,对于一个样本图像,若基于解优化的方法得出该样本图像的球谐光照为A,模型训练过程中,将该样本图像输入至预置模型,预置模型识别出该样本图像中目标对象的球谐光照为B,若A和B之间的误差很小,小于预设阈值,则说明阈值模型能够准确识别出该样本图像中目标对象的球谐光照,此时,下一轮的训练过程中,删除该样本图像,使得该样本图像不再参与模型训练,从而加快模型收敛速度。
下面,对上述实施例中,电子设备如何利用目标对象的球谐光照渲染虚拟道具进行详细说明。
一种可行的实现方式中,电子设备利用目标对象的球谐光照渲染虚拟道具时,获取所述虚拟道具的三维模型,所述三维模型投影至二维平面,获得所述虚拟道具的二维模型,在所述图像帧中绘制所述二维模型的同时利用所述球谐光照渲染所述虚拟道具。
示例性的,每个虚拟道具都具有三维模型,将虚拟道具添加至图像帧中,实质上是指将该虚拟道具的三维模型在二维平面上的投影,绘制到图像帧中的过程。因此,电子设备利用目标对象的球谐光照渲染虚拟道具时,先获取虚拟道具的三维模型,将该三维模型投影至二维平面,获得该虚拟道具的二维模型,然后在图像帧中绘制二维模型的同时利用球谐光照渲染虚拟道具。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
图4为本公开实施例提供的一种光效渲染装置的结构示意图,该光效渲染装置可以通过软件和/或硬件的方式实现。如图4所示,该光效渲染装置100包括:
接收模块11,用于接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具;
输入模块12,用于将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述预置模型是通过对多个样本图像进行训练得到的;
渲染模块13,用于利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
图5为本公开实施例提供的另一种光效渲染装置的结构示意图,该光效渲染装置100在上述图4的基础上,进一步的,还包括:
训练模块14,用于针对所述多个样本图像中的每个样本图像,获取所述样本图像中目标对象的球谐光照,基于所述多个样本图像中的每个样本图像,以及所述多个样本图像中每个样本图像的目标对象的球谐光照进行模型训练,以得到所述预置模型。
一种可行的设计中,所述训练模块14,用于判断所述预置模型是否能准确识别第一样本图像的球谐光照,所述第一样本图像是所述多个样本图像中的任意一幅样本图像,若所述预置模型能准确识别所述第一样本图像的球谐光照,则从所述多个样本图像中剔除所述第一样本图像,并基于剩余的样本图像以及所述样本图像对应的球谐光照进行模型训练,以得到所述预置模型。
再请参照图5,一种可行的设计中,上述的光效渲染装置100还包括:
预处理模块15,用于在所述训练模块14针对所述多个样本图像中的每个样本图像,获取所述样本图像中目标对象的球谐光照之前,预处理所述样本图像中的每个样本图像,所述预处理包括下述处理中的至少一个:旋转、裁切、灰度处理。
再请参照图5,一种可行的设计中,上述的光效渲染装置100还包括:
处理模块16,用于在所述输入模块12将图像帧输入至预置模型,以得到所述目标对象的球谐光照之前,对视频进行分帧处理,以得到所述图像帧。
一种可行的设计中,所述渲染模块13,用于获取所述虚拟道具的三维模型,将所述三维模型投影至二维平面,获得所述虚拟道具的二维模型,在所述图像帧中绘制所述二维模型的同时利用所述球谐光照渲染所述虚拟道具。
本公开实施例提供的图像处理装置,其实现原理和技术可参见上述方法实施例,在此不再赘述。
图6为本公开实施例提供的电子设备的结构示意图。如图6所示,该电子设备200包括:
至少一个处理器21和存储器22;
所述存储器22存储计算机执行指令;
所述至少一个处理器21执行所述存储器22存储的计算机执行指令,使得所述至少一个处理器21执行如上所述的光效渲染方法。
处理器21的具体实现过程可参见上述方法实施例,其实现原理和技术效果类似,本实施例此处不再赘述。
可选地,该光效渲染装置200还包括通信部件23。其中,处理器21、存储器22以及通信部件23可以通过总线24连接。
本公开实施例还提供一种存储介质,所述存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如上所述的光效渲染方法。
本公开实施例还提供一种计算机程序产品,当所述计算机程序产品在电子设备上运行时,使得电子设备执行如上述光效渲染方法。
在上述的实施例中,应该理解到,所描述的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个单元中。上述模块成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能模块的形式实现的集成的模块,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台电子设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本公开各个实施例所述方法的部分步骤。
应理解,上述处理器可以是中央处理单元(central processing unit,CPU),还可以是其他通用处理器、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integrated circuit,ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
总线可以是工业标准体系结构(industry standard architecture,ISA)总线、外部设备互连(peripheral component,PCI)总线或扩展工业标准体系结构(extendedIndustry standard architecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本公开附图中的总线并不限定仅有一根总线或一种类型的总线。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(application specific integrated circuits,ASIC)中。当然,处理器和存储介质也可以作为分立组件存在于终端或服务器中。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本公开的技术方案,而非对其限制;尽管参照前述各实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本公开各实施例技术方案的范围。
Claims (9)
1.一种光效渲染方法,其特征在于,包括:
接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具;
将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述预置模型是通过对多个样本图像进行训练得到的;
利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
2.根据权利要求1所述的方法,其特征在于,所述预置模型是通过以下方式得到的:
针对所述多个样本图像中的每个样本图像,获取所述样本图像中目标对象的球谐光照;
基于所述多个样本图像中的每个样本图像,以及所述多个样本图像中每个样本图像的目标对象的球谐光照进行模型训练,以得到所述预置模型。
3.根据权利要求2所述的方法,其特征在于,所述基于所述多个样本图像中的每个样本图像,以及所述多个样本图像中每个样本图像的目标对象的球谐光照进行模型训练,以得到所述预置模型,包括:
判断所述预置模型是否能准确识别第一样本图像的球谐光照,所述第一样本图像是所述多个样本图像中的任意一幅样本图像;
若所述预置模型能准确识别所述第一样本图像的球谐光照,则从所述多个样本图像中剔除所述第一样本图像,并基于剩余的样本图像以及所述样本图像对应的球谐光照进行模型训练,以得到所述预置模型。
4.根据权利要求2或3所述的方法,其特征在于,所述针对所述多个样本图像中的每个样本图像,获取所述样本图像中目标对象的球谐光照之前,还包括:
预处理所述样本图像中的每个样本图像,所述预处理包括下述处理中的至少一个:旋转、裁切、灰度处理。
5.根据权利要求1~3任一项所述的方法,其特征在于,所述将所述视频中的包括所述目标对象的图像帧输入至预置模型,以得到所述目标对象的球谐光照之前,还包括:
对视频进行分帧处理,以得到所述图像帧。
6.根据权利要求1~3任一项所述的方法,其特征在于,所述利用所述球谐光照渲染所述虚拟道具,包括:
获取所述虚拟道具的三维模型;
将所述三维模型投影至二维平面,获得所述虚拟道具的二维模型;
在所述图像帧中绘制所述二维模型的同时利用所述球谐光照渲染所述虚拟道具。
7.一种光效渲染装置,其特征在于,包括:
接收模块,用于接收用户输入的添加请求,所述添加请求用于请求对视频中的目标对象添加虚拟道具;
输入模块,用于将图像帧输入至预置模型,以得到所述目标对象的球谐光照,所述图像帧包含于所述视频中,所述预置模型是对多个样本图像进行训练得到的,所述多个样本图像中每个样本图像均包含所述目标对象;
渲染模块,用于利用所述球谐光照渲染所述虚拟道具,以使所述虚拟道的光效与所述目标对象的光效之间的差值小于预设阈值。
8.一种电子设备,其特征在于,包括处理器、存储器及存储在所述存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如上述权利要求1-6任一项所述的方法。
9.一种存储介质,其特征在于,所述存储介质中存储有指令,当其在电子设备上运行时,使得电子设备执行如权利要求1-6任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910601008.6A CN110310224B (zh) | 2019-07-04 | 2019-07-04 | 光效渲染方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910601008.6A CN110310224B (zh) | 2019-07-04 | 2019-07-04 | 光效渲染方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110310224A true CN110310224A (zh) | 2019-10-08 |
CN110310224B CN110310224B (zh) | 2023-05-30 |
Family
ID=68078190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910601008.6A Active CN110310224B (zh) | 2019-07-04 | 2019-07-04 | 光效渲染方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110310224B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111760277A (zh) * | 2020-07-06 | 2020-10-13 | 网易(杭州)网络有限公司 | 光照渲染的方法及装置 |
CN112286362A (zh) * | 2020-11-16 | 2021-01-29 | Oppo广东移动通信有限公司 | 真实环境画面中虚拟道具的显示方法、系统及存储介质 |
CN113096228A (zh) * | 2021-06-09 | 2021-07-09 | 上海影创信息科技有限公司 | 基于神经网络的实时光照估计与渲染方法及系统 |
CN113989427A (zh) * | 2021-10-15 | 2022-01-28 | 深圳集智数字科技有限公司 | 光照模拟方法、装置、电子设备及存储介质 |
WO2023142035A1 (zh) * | 2022-01-29 | 2023-08-03 | 华为技术有限公司 | 虚拟形象处理方法及装置 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003296750A (ja) * | 2002-03-21 | 2003-10-17 | Microsoft Corp | 低周波数ライティング環境の放射輝度自己伝達を用いたグラフィック画像レンダリング |
US20060279570A1 (en) * | 2005-06-08 | 2006-12-14 | Microsoft Corporation | Pre-computed shadow fields |
US20130002694A1 (en) * | 2011-06-30 | 2013-01-03 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
CN103606182A (zh) * | 2013-11-19 | 2014-02-26 | 华为技术有限公司 | 图像渲染方法及装置 |
EP2933781A2 (en) * | 2014-03-25 | 2015-10-21 | metaio GmbH | Method and system for representing a virtual object in a view of a real environment |
CN107464244A (zh) * | 2017-03-09 | 2017-12-12 | 广东顺德中山大学卡内基梅隆大学国际联合研究院 | 一种基于神经网络的图像光照估计方法 |
CN108090945A (zh) * | 2017-11-03 | 2018-05-29 | 腾讯科技(深圳)有限公司 | 对象渲染方法和装置、存储介质及电子装置 |
CN108305328A (zh) * | 2018-02-08 | 2018-07-20 | 网易(杭州)网络有限公司 | 虚拟物体渲染方法、系统、介质和计算设备 |
CN108805970A (zh) * | 2018-05-03 | 2018-11-13 | 百度在线网络技术(北京)有限公司 | 光照估计方法及装置 |
CN108986199A (zh) * | 2018-06-14 | 2018-12-11 | 北京小米移动软件有限公司 | 虚拟模型处理方法、装置、电子设备及存储介质 |
CN109166170A (zh) * | 2018-08-21 | 2019-01-08 | 百度在线网络技术(北京)有限公司 | 用于渲染增强现实场景的方法和装置 |
CN109214350A (zh) * | 2018-09-21 | 2019-01-15 | 百度在线网络技术(北京)有限公司 | 一种光照参数的确定方法、装置、设备及存储介质 |
CN109377544A (zh) * | 2018-11-30 | 2019-02-22 | 腾讯科技(深圳)有限公司 | 一种人脸三维图像生成方法、装置和可读介质 |
CN109523617A (zh) * | 2018-10-15 | 2019-03-26 | 中山大学 | 一种基于单目摄像机的光照估计方法 |
-
2019
- 2019-07-04 CN CN201910601008.6A patent/CN110310224B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003296750A (ja) * | 2002-03-21 | 2003-10-17 | Microsoft Corp | 低周波数ライティング環境の放射輝度自己伝達を用いたグラフィック画像レンダリング |
US20060279570A1 (en) * | 2005-06-08 | 2006-12-14 | Microsoft Corporation | Pre-computed shadow fields |
US20130002694A1 (en) * | 2011-06-30 | 2013-01-03 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
CN103606182A (zh) * | 2013-11-19 | 2014-02-26 | 华为技术有限公司 | 图像渲染方法及装置 |
EP2933781A2 (en) * | 2014-03-25 | 2015-10-21 | metaio GmbH | Method and system for representing a virtual object in a view of a real environment |
CN107464244A (zh) * | 2017-03-09 | 2017-12-12 | 广东顺德中山大学卡内基梅隆大学国际联合研究院 | 一种基于神经网络的图像光照估计方法 |
CN108090945A (zh) * | 2017-11-03 | 2018-05-29 | 腾讯科技(深圳)有限公司 | 对象渲染方法和装置、存储介质及电子装置 |
CN108305328A (zh) * | 2018-02-08 | 2018-07-20 | 网易(杭州)网络有限公司 | 虚拟物体渲染方法、系统、介质和计算设备 |
CN108805970A (zh) * | 2018-05-03 | 2018-11-13 | 百度在线网络技术(北京)有限公司 | 光照估计方法及装置 |
CN108986199A (zh) * | 2018-06-14 | 2018-12-11 | 北京小米移动软件有限公司 | 虚拟模型处理方法、装置、电子设备及存储介质 |
CN109166170A (zh) * | 2018-08-21 | 2019-01-08 | 百度在线网络技术(北京)有限公司 | 用于渲染增强现实场景的方法和装置 |
CN109214350A (zh) * | 2018-09-21 | 2019-01-15 | 百度在线网络技术(北京)有限公司 | 一种光照参数的确定方法、装置、设备及存储介质 |
CN109523617A (zh) * | 2018-10-15 | 2019-03-26 | 中山大学 | 一种基于单目摄像机的光照估计方法 |
CN109377544A (zh) * | 2018-11-30 | 2019-02-22 | 腾讯科技(深圳)有限公司 | 一种人脸三维图像生成方法、装置和可读介质 |
Non-Patent Citations (3)
Title |
---|
刘万奎等: "用于增强现实的光照估计研究综述", 《计算机辅助设计与图形学学报》 * |
赵克胜;倪桂强;罗健欣;: "球谐光照在高度场渲染中的应用" * |
赵克胜等: "球谐光照在高度场渲染中的应用", 《计算机时代》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111760277A (zh) * | 2020-07-06 | 2020-10-13 | 网易(杭州)网络有限公司 | 光照渲染的方法及装置 |
CN111760277B (zh) * | 2020-07-06 | 2024-05-28 | 网易(杭州)网络有限公司 | 光照渲染的方法及装置 |
CN112286362A (zh) * | 2020-11-16 | 2021-01-29 | Oppo广东移动通信有限公司 | 真实环境画面中虚拟道具的显示方法、系统及存储介质 |
CN113096228A (zh) * | 2021-06-09 | 2021-07-09 | 上海影创信息科技有限公司 | 基于神经网络的实时光照估计与渲染方法及系统 |
CN113096228B (zh) * | 2021-06-09 | 2021-08-31 | 上海影创信息科技有限公司 | 基于神经网络的实时光照估计与渲染方法及系统 |
CN113989427A (zh) * | 2021-10-15 | 2022-01-28 | 深圳集智数字科技有限公司 | 光照模拟方法、装置、电子设备及存储介质 |
WO2023142035A1 (zh) * | 2022-01-29 | 2023-08-03 | 华为技术有限公司 | 虚拟形象处理方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110310224B (zh) | 2023-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110310224A (zh) | 光效渲染方法及装置 | |
CN110414499A (zh) | 文本位置定位方法和系统以及模型训练方法和系统 | |
US20160171755A1 (en) | Automatic geometry and lighting inference for realistic image editing | |
US8026920B2 (en) | Extensible visual effects on active content in user interfaces | |
CN107316020A (zh) | 人脸替换方法、装置及电子设备 | |
Howse et al. | Opencv: computer vision projects with python | |
Beyeler | OpenCV with Python blueprints | |
US20140354540A1 (en) | Systems and methods for gesture recognition | |
WO2020192195A1 (zh) | 图像处理方法、装置和电子设备 | |
CN106682652B (zh) | 基于增强现实的结构表面病害巡检和分析方法 | |
CN111951192A (zh) | 一种拍摄图像的处理方法及拍摄设备 | |
CN113160231A (zh) | 一种样本生成方法、样本生成装置及电子设备 | |
CN114078077A (zh) | 使用会话性能元数据评估定性流体验 | |
CN108805799A (zh) | 全景图像合成装置、方法及计算机可读存储介质 | |
Tang et al. | Estimating spatially-varying lighting in urban scenes with disentangled representation | |
CN111815748B (zh) | 一种动画处理方法、装置、存储介质及电子设备 | |
US11100617B2 (en) | Deep learning method and apparatus for automatic upright rectification of virtual reality content | |
Escrivá et al. | Building Computer Vision Projects with OpenCV 4 and C++: Implement complex computer vision algorithms and explore deep learning and face detection | |
TWI672639B (zh) | 使用模擬物件影像之物件辨識系統及其方法 | |
CN116628250A (zh) | 图像生成方法、装置、电子设备及计算机可读取存储介质 | |
CN115829975A (zh) | 掌静脉图像质量检测方法、系统、介质及电子设备 | |
WO2022226744A1 (en) | Texture completion | |
CN114581316A (zh) | 图像重建方法、电子设备、存储介质及程序产品 | |
CN114245907A (zh) | 自动曝光的光线追踪 | |
CN113111804B (zh) | 一种人脸检测的方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |