CN107909638A - 虚拟物体的渲染方法、介质、系统和电子设备 - Google Patents
虚拟物体的渲染方法、介质、系统和电子设备 Download PDFInfo
- Publication number
- CN107909638A CN107909638A CN201711129445.XA CN201711129445A CN107909638A CN 107909638 A CN107909638 A CN 107909638A CN 201711129445 A CN201711129445 A CN 201711129445A CN 107909638 A CN107909638 A CN 107909638A
- Authority
- CN
- China
- Prior art keywords
- image
- light
- database
- feature vector
- illumination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
Abstract
本发明的实施方式提供了一种虚拟物体的渲染方法,包括获取第一图像,所述第一图像为当前场景的环境图像,基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像,以及以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。通过在预先建立好的光照图像数据库中选出与第一图像相似第二图像,不但可以比较真实地获取色调和光照等环境信息,而且速度快,计算量小,并且不需要依赖其他特殊的设备。本发明的实施方式还提供了一种介质、系统以及电子设备。
Description
技术领域
本发明的实施方式涉及图像处理领域,更具体地,本发明的实施方式涉及一种虚拟物体的渲染方法、介质、系统和电子设备。
背景技术
本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
随着信息化时代的到来,图像展示和处理方法也在不断发展。图像渲染技术可以用于将对象加入到已有的场景图像中,并使其与场景相协调,但是,在渲染过程中需要用到该场景中的环境光照信息。
目前,已经出现了通过特殊设备测量环境光的方法,以及图像反渲染来计算光照信息的方法。
发明内容
但是,现有的通过特殊设备测量环境光的技术需要依赖特殊设备,其场景受到较多限制,极大地影响了该技术的应用。而通过图像反渲染来计算光照信息的方法,其计算量太大而且不一定准确。
因此在现有技术中,渲染受到场景限制或者渲染效果不好是非常令人烦恼的问题。
为此,非常需要一种改进的虚拟物体的渲染方法、介质、系统和电子设备。
在本上下文中,本发明的实施方式期望提供一种虚拟物体的渲染方法、介质、系统和电子设备。
在本发明实施方式的第一方面中,提供了一种虚拟物体的渲染方法,包括获取第一图像,所述第一图像为当前场景的环境图像,基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像,以及以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
在本发明的一个实施例中,所述方法还包括,确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种。所述从光照图像数据库中确定与所述第一图像相似的第二图像包括,从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
在本发明的另一实施例中,所述确定所述第一图像的场景类别包括,通过卷积神经网络,获得所述第一图像对应于不同场景类别的概率,以及基于所述概率,确定所述第一图像的场景类别。
在本发明的另一实施例中,所述基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像包括,确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量,确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量,以及将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
在本发明的另一个实施例中,所述方法还包括,预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
在本发明的另一实施例中,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
在本发明实施方式的第二方面中,提供了一种计算机可读存储介质,所述指令被处理单元执行时使所述处理单元执行根据如上所述任一项方法。
在本发明实施方式的第三方面中,提供了一种虚拟物体的渲染系统,包括获取模块、第一确定模块以及渲染模块。获取模块,用于获取第一图像,所述第一图像为当前场景的环境图像。第一确定模块,用于基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像。渲染模块,用于以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
在本发明的一个实施例中,所述系统还包括第二确定模块,用于确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种。所述第一确定模块包括第一确定子模块,用于从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
在本发明的另一实施例中,所述第二确定模块包括处理子模块和第二确定子模块。处理子模块,用于通过卷积神经网络,获得所述第一图像对应于不同场景类别的概率。第二确定子模块,用于基于所述概率,确定所述第一图像的场景类别。
在本发明的另一实施例中,所述第一确定模块包括:第三确定子模块、第四确定子模块以及第五确定子模块。第三确定子模块,用于确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。第四确定子模块,用于确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量。第五确定子模块,用于将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
在本发明的另一实施例中,所述系统还包括计算模块,用于预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
在本发明的另一实施例中,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
在本发明实施方式的第四方面中,提供了一种电子设备,包括,处理单元,以及存储单元,其上存储有可执行指令,所述指令被所述处理单元执行时使所述处理单元执行如上所述任一项方法。
该方法、介质、系统以及电子设备通过建立一个高动态图的光照图像数据库,然后通过图像检索的方法在光照图像数据库中选取光照条件近似的高动态图作为环境贴图,用以进行图像渲染,从而摆脱场景限制,减少计算量,提高渲染效果。
附图说明
通过参考附图阅读下文的详细描述,本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本发明的若干实施方式,其中:
图1A和图1B示意性地示出了根据本发明示例性实施例的虚拟物体的渲染方法的应用场景;
图2示意性地示出了根据本发明示例性实施例的虚拟物体的渲染方法的流程图;
图3示意性地示出了根据本发明另一实施例的虚拟物体的渲染方法的流程图;
图4示意性地示出了根据本发明实施例的确定所述第一图像的场景类别的流程图;
图5示意性地示出了根据本发明实施例的从光照图像数据库中确定与所述第一图像相似的第二图像的流程图;
图6示意性地示出了根据本发明示例性实施例的可读存储介质的示意图;
图7示意性地示出了根据本发明示例性实施例的虚拟物体的渲染系统的框图;
图8示意性地示出了根据本发明另一实施例的虚拟物体的渲染系统的框图;
图9示意性地示出了根据本发明另一实施例的第二确定模块的框图;
图10示意性地示出了根据本发明另一实施例的第一确定模块的框图;以及
图11示意性地示出了根据本发明示例性实施例的适于实现虚拟物体的渲染方法和系统的电子设备。
在附图中,相同或对应的标号表示相同或对应的部分。
具体实施方式
下面将参考若干示例性实施方式来描述本发明的原理和精神。应当理解,给出这些实施方式仅仅是为了使本领域技术人员能够更好地理解进而实现本发明,而并非以任何方式限制本发明的范围。相反,提供这些实施方式是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
本领域技术人员知道,本发明的实施方式可以实现为一种系统、装置、设备、方法或计算机程序产品。因此,本公开可以具体实现为以下形式,即:完全的硬件、完全的软件(包括固件、驻留软件、微代码等),或者硬件和软件结合的形式。
根据本发明的实施方式,提出了一种虚拟物体的渲染方法、介质、系统和电子设备。
在本文中,需要理解的是,附图中的任何元素数量均用于示例而非限制,以及任何命名都仅用于区分,而不具有任何限制含义。
下面参考本发明的若干代表性实施方式,详细阐释本发明的原理和精神。
发明概述
本发明人发现,高动态图(HDR,High-Dynamic Range),其记录的光照动态范围远超一般的数字图像,可以当作环境中的照明信息。发明人提出,通过给定的单张或多张场景图作为输入,检索光照图像数据库中的HDR图,作为光照信息类似的环境贴图,用来渲染加入场景中的虚拟物体,能够达到照片级的真实感。
在介绍了本发明的基本原理之后,下面具体介绍本发明的各种非限制性实施方式。
应用场景总览
首先参考图1A和图1B,图1A和图1B示意性地示出了根据本发明示例性实施例的虚拟物体的渲染方法的应用场景。
如图1A所示的图像为一个场景示意图,当前任务需要渲染一个虚拟物体并加入到该场景中。该场景为雨天天气下的林间公路,渲染虚拟物体需要获得该场景下的环境光照信息。图1B为一辆汽车经过渲染并加入该场景后的示意图,该物体模拟了当前的环境场景,加入图像后较为和谐。
需要注意的是,图1A和图1B所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
示例性方法
下面结合图1A和图1B的应用场景,参考图2来描述根据本发明示例性实施方式的虚拟物体的渲染方法。需要注意的是,上述应用场景仅是为了便于理解本发明的精神和原理而示出,本发明的实施方式在此方面不受任何限制。相反,本发明的实施方式可以应用于适用的任何场景。
如图2所示,该方法包括操作S210~S230。
在操作S210,获取第一图像,所述第一图像为当前场景的环境图像。
在操作S220,基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像。
根据本发明示例性实施例,可以根据常用的场景,比如卧室、厨房、公园、停车场等,拍摄大量不同光照条件的HDR图,建立光照数据库。其中,不同光照条件例如在卧室场景下,拍摄不同风格的卧室在明亮或昏暗或彩色灯光下的HDR图,以丰富场景的多样性。
在操作S230,以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
该方法通过在预先建立好的光照图像数据库中选出与第一图像相似第二图像,不但可以比较真实地获取色调和光照等环境信息,而且速度快,计算量小,并且不需要依赖其他特殊的设备。其他反向渲染的方法需要大量的计算来求得光的方向和强度,一般都没有考虑场景的色调信息。本公开实施例提供的方法通过建立光照图像数据库,然后以检索的方法模拟场景光照,可以非常近似的还原场景光照信息,通过本方案渲染的结果在色调等方面与周围的环境更加和谐,效果更加逼真。
图3示意性地示出了根据本发明另一实施例的虚拟物体的渲染方法的流程图。
如图3所示,该方法包括S210、S310、S320和S230。其中,S210和S230与前述实施例类似,此处不再赘述。
在操作S310,确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种。
在操作S320,从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
该方法通过先确定图像中的场景,从而缩小匹配范围,减少计算量,并且提高匹配准确性。
图4示意性地示出了根据本发明实施例的确定所述第一图像的场景类别的流程图。
如图4所示,该方法包括操作S410和S420。
在操作S410,通过卷积神经网络(CNN),获得所述第一图像对应于不同场景类别的概率。
在操作S420,基于所述概率,确定所述第一图像的场景类别。
根据本发明示例性实施例,根据数据库中场景的种类,通过用于训练的场景图及场景标签训练一个CNN场景分类器,在应用阶段可以实现输入一张图像时输出该图像可能属于每一种场景的概率。例如,在数据库中划分有卧室、公园、停车场的场景类别,在输入第一图像时,可能会输出类似(0.8,0.1,0.1)或者(0.1,0.4,0.5)的三个概率值,分别代表该第一图像可能属于卧室、公园、停车场的概率,并可以基于该些概率确定所述第一图像的场景类别。根据本发明示例性实施例,可以选取概率最大的一个或几个类别中的HDR图作为潜在的匹配结果,以缩小匹配范围。例如,在上述实施例中,若输出为(0.8,0.1,0.1),则可以确定该第一图像属于卧室场景,若输出为(0.1,0.4,0.5),则可以判断该第一图像属于公园或停车场,确定两个场景类别。在确定与所述第一图像相似的第二图像时,可以仅匹配数据库中属于该一个类别或多个类别的图像,而对于其他类别的图像不进行匹配,以减少计算量。
该卷积神经网络例如可以采用GoogleNet网络结构,GoogleNet是2014年发表的神经网络,其深度达到22层,并引入了一种特殊的结构Inception,该网络在分类预测实践中表现出较好的效果。本发明示例性实施例的神经网络的全连层的神经元个数可以设置为场景的类别数,采用Softmax损失函数用于训练参数,在训练过程中调整训练参数使得该损失函数的值足够小,从而达到训练神经网络的目的。
该方法利用卷积神经网络处理图像分类的良好表现,通过一定的数据训练,能够简单而准确地判断所述第一图像的场景类别,从而为缩小匹配范围,减少计算量,并且提高匹配准确性提供可能。
图5示意性地示出了根据本发明另一实施例的从光照图像数据库中确定与所述第一图像相似的第二图像的流程图。
如图5所示,该方法包括S510、S520和S530。
在操作S510,确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
根据本发明示例性实施例,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
HSV累积直方图是在HSV颜色空间下统计的特征。一般图像是以RGB的形式存储的,需要先把RGB图像转换到HSV颜色空间。将颜色空间划分成若干个小的颜色区间,然后,通过统计颜色落在每个小区间内的像素数量,并进行累积,得到HSV累积直方图。
低阶颜色矩是指颜色的一阶矩(mean)、二阶矩(variance)或三阶矩(skewness),由于颜色分布信息主要集中在低阶矩中,因此仅采用低阶颜色矩就能够表达图像的颜色分布。
Gist特征是一种场景特征描述,基于自然度、开放度、粗糙度、膨胀度和险峻度对图像进行的特征描述。
主色调是通过k均值聚类的方法对图像的像素进行聚类,分成数类。像素数最多的类中心则为主色调。
暗通道特征是基于通过暗通道算法求出的图像暗通道的特征,例如图像暗通道的均值、方差、最大或最小值等。
根据本发明示例性实施例,所述方法还包括,预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。预先计算并存储该些向量,能够节省实时处理过程中的计算量,大幅提高实时处理效率,同时避免重复计算,节省计算资源。
在操作S520,确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量。
在操作S530,将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
该方法给出了近似图像的一种实施方式,能够可量化地执行,并且计算简单,效果较好。
本发明所公开的上述实施例可任意组合,或者做简单变换,得到需要的处理策略,以实现较好的技术效果。
示例性介质
本发明示例性实施方式提供了一种计算机可读存储介质,存储有计算机可执行指令,上述指令在被处理单元执行时用于实现上述方法实施例中任一项所述的虚拟物体的渲染方法。
在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在电子设备上运行时,所述程序代码用于使所述电子设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的虚拟物体的渲染方法中的步骤,例如,所述电子设备可以执行如图2中所示的操作S210:获取第一图像,所述第一图像为当前场景的环境图像;操作S220:基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像;操作S230:以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
如图6所示,描述了根据本发明的实施方式的用于虚拟物体的渲染的程序产品600,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在电子设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、有线、光缆,RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言——诸如Java,C++等,还包括常规的过程式程序设计语言——诸如“C”,语言或类似的程序设计语言。程序代码可以完全地在用户设备上执行、部分地在用户设备上执行、部分在远程电子设备上执行、或者完全在远程电子设备或服务器上执行。在涉及远程电子设备的情形中,远程电子设备可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)一连接到用户设备,或者,可以连接到外部电子设备(例如利用因特网服务提供商来通过因特网连接)。
示例性装置
在介绍了本发明示例性实施方式的介质之后,接下来,参考图7对本发明示例性实施方式的虚拟物体的渲染系统进行介绍。
如图7所示,该系统700包括获取模块710、第一确定模块720以及渲染模块730。
获取模块710,例如执行上文参考图2描述的操作S210,用于获取第一图像,所述第一图像为当前场景的环境图像。
第一确定模块720,例如执行上文参考图2描述的操作S220,用于基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像。
渲染模块730,例如执行上文参考图2描述的操作S230,用于以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
图8示意性地示出了根据本发明另一实施例的虚拟物体的渲染系统800的框图。
如图8所示,该系统800包括获取模块710、第二确定模块810、第一确定模块720以及渲染模块730,其中,第一确定模块720包括第一确定子模块721。获取模块710和渲染模块730与前述实施例相同,此处不再赘述。
第二确定模块810,例如执行上文参考图3描述的操作S310,用于确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种。
第一确定子模块721,例如执行上文参考图3描述的操作S320,用于从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
图9示意性地示出了根据本发明另一实施例的第二确定模块810的框图。
如图9所示,第二确定模块810包括处理子模块811和第二确定子模块812。
处理子模块811,例如执行上文参考图4描述的操作S410,用于通过卷积神经网络,获得所述第一图像对应于不同场景类别的概率。
第二确定子模块812,例如执行上文参考图4描述的操作S420,用于基于所述概率,确定所述第一图像的场景类别。
图10示意性地示出了根据本发明另一实施例的第一确定模块720的框图。
如图10所示,第一确定模块720包括第三确定子模块722、第四确定子模块723以及第五确定子模块724。
第三确定子模块722,例如执行上文参考图5描述的操作S510,用于确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
第四确定子模块723,例如执行上文参考图5描述的操作S520,用于确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量。
第五确定子模块724,例如执行上文参考图5描述的操作S530,用于将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
根据本发明示例性实施例,所述系统还包括计算模块,用于预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
根据本发明示例性实施例,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
由于发明的示例实施例的虚拟物体的渲染系统700或800的各个功能模块与上述虚拟物体的渲染方法的示例实施例的步骤对应,因此在此不再赘述。
示例性电子设备
在介绍了本发明示例性实施方式的方法、介质和装置之后,接下来,参考图9对本发明示例性实施方式的一种电子设备,用于虚拟物体的渲染,进行描述。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
在一些可能的实施方式中,根据本发明的电子设备可以至少包括至少一个处理单元、以及至少一个存储单元。其中,所述存储单元存储有程序代码,当所述程序代码被所述处理单元执行时,使得所述处理单元执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的虚拟物体的渲染方法中的步骤。例如,所述处理单元可以执行如图2中所示的操作S210:获取第一图像,所述第一图像为当前场景的环境图像;操作S220:基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像;操作S230:以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
下面参照图11来描述根据本发明的这种实施方式的电子设备1100。图11所示的电子设备1100仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图11所示,电子设备1100以通用电子设备的形式表现。电子设备1100的组件可以包括但不限于:上述至少一个处理单元1110、上述至少一个存储单元1120、连接不同系统组件(包括存储单元1120和处理单元1110)的总线1130。
总线1130可以包括数据总线、地址总线和控制总线。
存储单元1120可以包括易失性存储器,例如随机存取存储器(RAM)1121和/或高速缓存存储器1122,还可以进一步包括只读存储器(ROM)1123。
存储单元1120还可以包括具有一组(至少一个)程序模块1124的程序/实用工具1125,这样的程序模块1124包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
电子设备1100也可以与一个或多个外部设备1140(例如键盘、指向设备、蓝牙设备等)通信,这种通信可以通过输入/输出(I/O)接口1150进行。并且,电子设备1100还可以通过网络适配器1160与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器1160通过总线1130与电子设备1100的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备1100使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
应当注意,尽管在上文详细描述中提及了虚拟物体的渲染系统的若干单元/模块或子单元/模块,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多单元/模块的特征和功能可以在一个单元/模块中具体化。反之,上文描述的一个单元/模块的特征和功能可以进一步划分为由多个单元/模块来具体化。
此外,尽管在附图中以特定顺序描述了本发明方法的操作,但是,这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。
虽然已经参考若干具体实施方式描述了本发明的精神和原理,但是应该理解,本发明并不限于所公开的具体实施方式,对各方面的划分也不意味着这些方面中的特征不能组合以进行受益,这种划分仅是为了表述的方便。本发明旨在涵盖所附权利要求的精神和范围内所包括的各种修改和等同布置。
Claims (14)
1.一种虚拟物体的渲染方法,包括:
获取第一图像,所述第一图像为当前场景的环境图像;
基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像;以及
以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
2.根据权利要求1所述的渲染方法,还包括,确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种,
所述从光照图像数据库中确定与所述第一图像相似的第二图像包括,从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
3.根据权利要求2所述的渲染方法,其中,所述确定所述第一图像的场景类别包括:
通过卷积神经网络,获得所述第一图像对应于不同场景类别的概率;以及
基于所述概率,确定所述第一图像的场景类别。
4.根据权利要求1所述的渲染方法,其中,所述基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像包括:
确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量;
确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量;以及
将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
5.根据权利要求4所述的渲染方法,还包括,预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
6.根据权利要求1所述的渲染方法,其中,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
7.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理单元执行时使所述处理单元执行根据权利要求1-6中任一项所述的渲染方法。
8.一种虚拟物体的渲染系统,包括:
获取模块,用于获取第一图像,所述第一图像为当前场景的环境图像;
第一确定模块,用于基于所述第一图像的颜色特征和/或光照特征,从光照图像数据库中确定与所述第一图像相似的第二图像,所述光照图像数据库包括在不同环境光光照条件下拍摄到的多个高动态图像;以及
渲染模块,用于以所述第二图像作为所述当前场景的环境贴图,渲染插入所述当前场景的虚拟物体。
9.根据权利要求8所述的渲染系统,还包括第二确定模块,用于确定所述第一图像的场景类别,其中,所述第一图像的场景类别属于所述光照图像数据库中的所述多个高动态图像被划分为的多个场景类别中的一种,
所述第一确定模块包括第一确定子模块,用于从所述光照图像数据库中与所述第一图像的场景类别相同的场景类别下的高动态图像中,确定与所述第一图像相似的第二图像。
10.根据权利要求9所述的渲染系统,其中,所述第二确定模块包括:
处理子模块,用于通过卷积神经网络,获得所述第一图像对应于不同场景类别的概率;以及
第二确定子模块,用于基于所述概率,确定所述第一图像的场景类别。
11.根据权利要求8所述的渲染系统,其中,所述第一确定模块包括:
第三确定子模块,用于确定所述第一图像以及所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量;
第四确定子模块,用于确定所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量与所述第一图像的颜色特征向量和/或光照特征向量的差向量;以及
第五确定子模块,用于将L1范数最小的差向量所对应的高动态图像确定为与所述第一图像相似的第二图像。
12.根据权利要求11所述的渲染系统,还包括:
计算模块,用于预先计算并存储所述光照图像数据库中的每个高动态图像的颜色特征向量和/或光照特征向量。
13.根据权利要求8所述的渲染系统,其中,所述颜色特征和/或光照特征至少包括以下一种:HSV累积直方图、低阶颜色矩、Gist特征、主色调、暗通道特征。
14.一种电子设备,包括:
处理单元;以及
存储单元,其上存储有可执行指令,所述指令被所述处理单元执行时使所述处理单元执行根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711129445.XA CN107909638B (zh) | 2017-11-15 | 2017-11-15 | 虚拟物体的渲染方法、介质、系统和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711129445.XA CN107909638B (zh) | 2017-11-15 | 2017-11-15 | 虚拟物体的渲染方法、介质、系统和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107909638A true CN107909638A (zh) | 2018-04-13 |
CN107909638B CN107909638B (zh) | 2021-05-14 |
Family
ID=61845558
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711129445.XA Active CN107909638B (zh) | 2017-11-15 | 2017-11-15 | 虚拟物体的渲染方法、介质、系统和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107909638B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108830923A (zh) * | 2018-06-08 | 2018-11-16 | 网易(杭州)网络有限公司 | 图像渲染方法、装置及存储介质 |
CN108986199A (zh) * | 2018-06-14 | 2018-12-11 | 北京小米移动软件有限公司 | 虚拟模型处理方法、装置、电子设备及存储介质 |
CN109783914A (zh) * | 2018-12-29 | 2019-05-21 | 河北德冠隆电子科技有限公司 | 一种基于虚拟现实仿真的预处理动态建模方法及装置 |
CN110033510A (zh) * | 2019-03-25 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 建立颜色映射关系用于校正渲染图像颜色的方法及装置 |
CN111311758A (zh) * | 2020-02-24 | 2020-06-19 | Oppo广东移动通信有限公司 | 增强现实处理方法及装置、存储介质和电子设备 |
CN111915712A (zh) * | 2020-08-28 | 2020-11-10 | 网易(杭州)网络有限公司 | 光照渲染方法、装置、计算机可读介质及电子设备 |
CN112316434A (zh) * | 2020-11-16 | 2021-02-05 | 腾讯科技(深圳)有限公司 | 地形贴图的加载方法、装置、移动终端及存储介质 |
CN114979457A (zh) * | 2021-02-26 | 2022-08-30 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110188744A1 (en) * | 2010-02-04 | 2011-08-04 | Microsoft Corporation | High dynamic range image generation and rendering |
CN102881011A (zh) * | 2012-08-31 | 2013-01-16 | 北京航空航天大学 | 基于区域分割的肖像光照迁移方法 |
CN103500465A (zh) * | 2013-09-13 | 2014-01-08 | 西安工程大学 | 基于增强现实技术的古代文物场景快速渲染方法 |
CN103841324A (zh) * | 2014-02-20 | 2014-06-04 | 小米科技有限责任公司 | 拍摄处理方法、装置和终端设备 |
CN106056658A (zh) * | 2016-05-23 | 2016-10-26 | 珠海金山网络游戏科技有限公司 | 一种虚拟对象渲染方法及装置 |
CN107103638A (zh) * | 2017-05-27 | 2017-08-29 | 杭州万维镜像科技有限公司 | 一种虚拟场景与模型的快速渲染方法 |
-
2017
- 2017-11-15 CN CN201711129445.XA patent/CN107909638B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110188744A1 (en) * | 2010-02-04 | 2011-08-04 | Microsoft Corporation | High dynamic range image generation and rendering |
CN102881011A (zh) * | 2012-08-31 | 2013-01-16 | 北京航空航天大学 | 基于区域分割的肖像光照迁移方法 |
CN103500465A (zh) * | 2013-09-13 | 2014-01-08 | 西安工程大学 | 基于增强现实技术的古代文物场景快速渲染方法 |
CN103841324A (zh) * | 2014-02-20 | 2014-06-04 | 小米科技有限责任公司 | 拍摄处理方法、装置和终端设备 |
CN106056658A (zh) * | 2016-05-23 | 2016-10-26 | 珠海金山网络游戏科技有限公司 | 一种虚拟对象渲染方法及装置 |
CN107103638A (zh) * | 2017-05-27 | 2017-08-29 | 杭州万维镜像科技有限公司 | 一种虚拟场景与模型的快速渲染方法 |
Non-Patent Citations (2)
Title |
---|
MAXIME MEILLAND等: "3D High Dynamic Range dense visual SLAM and its application to real-time object re-lighting", 《IEEE XPLORE》 * |
陈宝权等: "混合现实中的虚实融合与人机智能交融", 《中国科学:信息科学》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108830923B (zh) * | 2018-06-08 | 2022-06-17 | 网易(杭州)网络有限公司 | 图像渲染方法、装置及存储介质 |
CN108830923A (zh) * | 2018-06-08 | 2018-11-16 | 网易(杭州)网络有限公司 | 图像渲染方法、装置及存储介质 |
CN108986199A (zh) * | 2018-06-14 | 2018-12-11 | 北京小米移动软件有限公司 | 虚拟模型处理方法、装置、电子设备及存储介质 |
CN108986199B (zh) * | 2018-06-14 | 2023-05-16 | 北京小米移动软件有限公司 | 虚拟模型处理方法、装置、电子设备及存储介质 |
CN109783914A (zh) * | 2018-12-29 | 2019-05-21 | 河北德冠隆电子科技有限公司 | 一种基于虚拟现实仿真的预处理动态建模方法及装置 |
CN109783914B (zh) * | 2018-12-29 | 2023-08-22 | 河北德冠隆电子科技有限公司 | 一种基于虚拟现实仿真的预处理动态建模方法及装置 |
CN110033510B (zh) * | 2019-03-25 | 2023-01-31 | 创新先进技术有限公司 | 建立颜色映射关系用于校正渲染图像颜色的方法及装置 |
CN110033510A (zh) * | 2019-03-25 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 建立颜色映射关系用于校正渲染图像颜色的方法及装置 |
CN111311758A (zh) * | 2020-02-24 | 2020-06-19 | Oppo广东移动通信有限公司 | 增强现实处理方法及装置、存储介质和电子设备 |
CN111915712A (zh) * | 2020-08-28 | 2020-11-10 | 网易(杭州)网络有限公司 | 光照渲染方法、装置、计算机可读介质及电子设备 |
CN112316434A (zh) * | 2020-11-16 | 2021-02-05 | 腾讯科技(深圳)有限公司 | 地形贴图的加载方法、装置、移动终端及存储介质 |
CN114979457A (zh) * | 2021-02-26 | 2022-08-30 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
CN114979457B (zh) * | 2021-02-26 | 2023-04-07 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107909638B (zh) | 2021-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107909638A (zh) | 虚拟物体的渲染方法、介质、系统和电子设备 | |
CN110084281B (zh) | 图像生成方法、神经网络的压缩方法及相关装置、设备 | |
CN108898086B (zh) | 视频图像处理方法及装置、计算机可读介质和电子设备 | |
CN111507993B (zh) | 一种基于生成对抗网络的图像分割方法、装置及存储介质 | |
CN109902659B (zh) | 用于处理人体图像的方法和装置 | |
CN111741330B (zh) | 一种视频内容评估方法、装置、存储介质及计算机设备 | |
CN112163465A (zh) | 细粒度图像分类方法、系统、计算机设备及存储介质 | |
CN110245579B (zh) | 人流密度预测方法及装置、计算机设备及可读介质 | |
CN111292264A (zh) | 一种基于深度学习的图像高动态范围重建方法 | |
CN109753878B (zh) | 一种恶劣天气下的成像识别方法及系统 | |
CN109300179A (zh) | 动画制作方法、装置、终端和介质 | |
CN113822951B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN110084204B (zh) | 基于目标对象姿态的图像处理方法、装置和电子设备 | |
CN109003297A (zh) | 一种单目深度估计方法、装置、终端和存储介质 | |
CN109920018A (zh) | 基于神经网络的黑白照片色彩恢复方法、装置及存储介质 | |
CN112115979A (zh) | 一种红外图像和可见图像的融合方法及设备 | |
CN110826581B (zh) | 一种动物数量识别方法、装置、介质及电子设备 | |
CN114638950A (zh) | 一种绘制虚拟物体阴影的方法及设备 | |
CN112969032A (zh) | 光照模式识别方法、装置、计算机设备及存储介质 | |
CN112489144A (zh) | 图像处理方法、图像处理装置、终端设备及存储介质 | |
CN116167239A (zh) | 红外仿真方法、系统、计算机及可读存储介质 | |
CN116258756A (zh) | 一种自监督单目深度估计方法及系统 | |
CN111539420B (zh) | 基于注意力感知特征的全景图像显著性预测方法及系统 | |
CN115112661A (zh) | 一种缺陷检测方法、装置、计算机设备和存储介质 | |
CN114283087A (zh) | 一种图像去噪方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20190621 Address after: 311200 Room 102, 6 Blocks, C District, Qianjiang Century Park, Xiaoshan District, Hangzhou City, Zhejiang Province Applicant after: Hangzhou Yixian Advanced Technology Co., Ltd. Address before: 310052 Building No. 599, Changhe Street Network Business Road, Binjiang District, Hangzhou City, Zhejiang Province, 4, 7 stories Applicant before: NetEase (Hangzhou) Network Co., Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |