CN110047119A - 包含动态背景的动画生成方法、装置及电子设备 - Google Patents
包含动态背景的动画生成方法、装置及电子设备 Download PDFInfo
- Publication number
- CN110047119A CN110047119A CN201910214896.6A CN201910214896A CN110047119A CN 110047119 A CN110047119 A CN 110047119A CN 201910214896 A CN201910214896 A CN 201910214896A CN 110047119 A CN110047119 A CN 110047119A
- Authority
- CN
- China
- Prior art keywords
- animation
- specific region
- relevant
- target object
- background
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
- H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
Abstract
本公开实施例中提供了一种包含动态背景的动画生成方法、装置及电子设备,属于数据处理技术领域,该方法包括:获取与目标对象的特定区域、第一元素及第二元素相关的重构模型;基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作;在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。通过本公开的处理方案,提高了生成图像的真实性。
Description
技术领域
本公开涉及数据处理技术领域,尤其涉及一种包含动态背景的动画生成方法、装置及电子设备。
背景技术
随着网络技术的发展,人工智能技术在网络场景中的应用得到了极大的提升。作为一个具体的应用需求,越来越多的网络环境中使用虚拟的人物进行交互,例如在网络直播中提供虚拟的主播对直播内容进行拟人化的播报,并为直播用于提供必要的引导,从而增强直播的临场感和交互性,提高了网络直播的效果。
表情模拟(例如,嘴型动作模拟)技术是人工智能技术的一种,目前实现表情模拟主要基于文本驱动、自然语音驱动和音视频混合建模方法来驱动人物的面部表情。例如,文本驱动的方式通常是TTS(Text to Speech,文-语转换)引擎将输入的文本信息转化为对应的音素序列、音素时长以及对应的语音波形,然后在模型库中选择对应的模型单元,通过平滑处理和相应的同步算法最终呈现出和输入文本内容相对应的语音和人脸表情动作。
现有技术中的表情模拟存在表情模拟单一、甚至失真的情况,更多的像是“机器人”在进行表演,表情动作的逼真度距离真实人物的表情还具有较大的差距。
发明内容
有鉴于此,本公开实施例提供一种包含动态背景的动画生成方法、装置及电子设备,至少部分解决现有技术中存在的问题。
第一方面,本公开实施例提供了一种包含动态背景的动画生成方法,包括:
获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内;
基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画;
在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;
基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
根据本公开实施例的一种具体实现方式,获取与目标对象的特定区域、第一元素及第二元素相关的重构模型之前,所述方法还包括:
采集包含目标对象的多个图像,基于所述多个图像,训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型。
根据本公开实施例的一种具体实现方式,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
对所述多个图像上的特定区域进行检测,得到目标区域;
对所述目标区域进行3D重建,得到3D区域对象;
获取所述3D区域对象的三维网格,所述三维网格包含预设坐标值;
基于不同三维网格坐标上的像素值,确定所述特定区域的纹理图。
根据本公开实施例的一种具体实现方式,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
在所述多个图像上对所述第一元素进行特征点检测;
将检测得到的特征点划分为第一类型特征点和第二类型特征点,所述第一类型特征点用于形成第一闭合区域,所述第二类型特征点用于形成第二闭合区域;
在所述第一闭合区域内填充第一颜色,在所述第二闭合区域内填充第二颜色,所述第一颜色与所述第二颜色不同。
根据本公开实施例的一种具体实现方式,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
在所述多个图像上对所述第二元素进行特征点检测;
基于检测到的所有特征点,形成第三闭合区域;
在所述第三闭合区域内填充第三颜色。
根据本公开实施例的一种具体实现方式,所述基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,包括:
将所述目标对象的特定区域的轮廓进行预测,在预测的轮廓内填充所述重构模型确定的纹理图;
将所述输入信息解析后的得到运动参数匹配到所述第一元素及第二元素,形成所述第一元素及所述第二元素的动作。
根据本公开实施例的一种具体实现方式,所述从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画,包括:
对输入信息的当前情景进行分析,从预先设置的多个动画中动态选择选择与当前情景匹配的动画作为背景动画。
根据本公开实施例的一种具体实现方式,所述基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画,包括:
判断所述背景动画是否有多个不同类型的动画拼接组成;
若是,则对不同类型的动画进行平滑处理。
根据本公开实施例的一种具体实现方式,所述特定区域为脸部区域,所述第一元素为眼睛,所述第二元素为嘴巴。
第二方面,本公开实施例提供了一种包含动态背景的动画生成装置,包括:
获取模块,用于获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内;
确定模块,用于基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画;
选择模块,用于在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;
生成模块,用于基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
第三方面,本公开实施例还提供了一种电子设备,该电子设备包括:
至少一个处理器;以及,
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述任第一方面或第一方面的任一实现方式中的包含动态背景的动画生成方法。
第四方面,本公开实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述第一方面或第一方面的任一实现方式中的包含动态背景的动画生成方法。
第五方面,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述第一方面或第一方面的任一实现方式中的包含动态背景的动画生成方法。
本公开实施例中的包含动态背景的动画生成方案,包括获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内;基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画;在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。通过本公开的处理方案,能够真实的模拟出于输入信息相匹配的动画图像,提高了用户体验。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本公开实施例提供的一种包含动态背景的动画生成流程示意图;
图2为本公开实施例提供的另一种包含动态背景的动画生成流程示意图;
图3为本公开实施例提供的另一种包含动态背景的动画生成流程示意图;
图4为本公开实施例提供的另一种包含动态背景的动画生成流程示意图;
图5为本公开实施例提供的包含动态背景的动画生成装置结构示意图;
图6为本公开实施例提供的电子设备示意图。
具体实施方式
下面结合附图对本公开实施例进行详细描述。
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本公开实施例提供一种包含动态背景的动画生成方法。本实施例提供的包含动态背景的动画生成方法可以由一计算装置来执行,该计算装置可以实现为软件,或者实现为软件和硬件的组合,该计算装置可以集成设置在服务器、终端设备等中。
参见图1,本公开实施例提供的一种包含动态背景的动画生成方法,包括如下步骤S101-S104:
S101,获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内。
目标对象的动作和表情是本公开的方案所要模拟和预测的内容,作为一个例子,目标对象可以是真实的能够进行网络播报的人,也可以是其他的具有信息传播功能的对象,例如电视节目主持人、新闻节目播音员、进行授课的教师等。
目标对象通常为具有传播功能的人,由于该类型的人通常具有一定的知名度,当有海量的内容需要目标对象进行包含语音和/或视频动作的播报时,通常需要花费较多的成本。同时,对于直播类的节目,目标对象通常无法在同一个时间内出现在多个直播间(或多个直播频道)。此时如果想呈现出例如“主播分身”这样的效果,通过真人进行现场播报通常难以达到这种效果。
为此,需要预先训练重构模型,重构模型能够基于输入信息预测目标对象的形象和动作,从而产生与输入信息匹配的动作和表情。例如,针对一段需要播报的新闻,目标对象能够以新闻播报员的形式播报该新闻。
为了能够预测出目标对象的动作及表情,通常需要模仿目标对象上的较多组成要素(例如,眼睛,耳朵,眉毛,鼻子,嘴巴等)。但是,预测较多的组成要素会影响预测的效率,消耗较多的资源。为此,本公开的方案仅选取与目标对象的辨识最相关的组成要素:特定区域、第一元素及第二元素。作为一个例子,特定区域为目标对象的脸部区域,第一元素为目标对象的眼睛,第二元素为目标对象的嘴巴。
S102,基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画。
基于重建模型,可以通过视频动画的方式来预测目标对象在视频中的各种动作和表情。具体的,可以通过产生保真图像的方式来生成包含目标对象动作和表情的视频文件,保真图像可以作为视频文件的全部帧或关键帧,保真图像包含了与所述输入信息相匹配的一个或多个预测动作的多个图像的集合。
输入信息可以是多种方式,例如,输入信息可以是目标对象在动画展示的过程中需要同时播放一段文字或一段音频内容,即输入信息可以是文本或音频的形式。基于不同的输入信息,目标对象可以产生不同的动画。输入信息通过数据解析后转化为与所述纹理图及所述形状约束图相匹配的参数,利用训练后得到的所述重建模型,通过调用所述纹理图及所述形状约束图来最终完成保证图像的生成。
在进行预测的阶段,可以给出目标对象的特定区域纹理图和第一元素、第二元素的形状约束,利用所训练的重建模型,预测二维主播形象的图像,通过连续的第一元素、第二元素的形状约束和固定的特定区域的纹理作为输入,预测出连续的目标对象动画形象。
S103,在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画。
为了提高生成画面的真实度,预先录制与目标对象相关的背景动画,背景动画可以是多种不同类型的背景动画,例如,可以是严肃、活泼、高兴、悲伤等多种不同风格的动画。背景动画具有一定的长度,以便于被调用。
在调用背景动画时,需要对输入信息的当前情景进行分析,基于分析的结果,从预先设置的多个动画中动态选择选择与当前情景匹配的动画作为背景动画。例如,分析得知当前输入信息的情景是兴奋,则调用兴奋风格的背景动画。当侦测到输入信息的情景发生变化时,即便是当前调用的背景动画没有播放完毕,也会切换调用与变化后的情景匹配的背景动画。当当前调用的背景动画播放完毕后,若发现输入信息的当前情景没有发生变化,则继续循环播放当前的背景动画。
S104,基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
通过将预测产生的第一动画与背景动画进行叠加,便生成了与所述输入信息相关的最终动画。最终动画可以以视频文件的方式进行存储或传播。
在生成最终动画的过程中,可能会存在背景动画进行切换的情况,对此,可以判断所述背景动画是否有多个不同类型的动画拼接组成,若是,则对不同类型的动画进行平滑处理。使作为背景动画的不同类型的动画之间的过渡衔接更加自然。
重构模型通过神经网络训练得到,为此,在获取与目标对象的特定区域、第一元素及第二元素相关的重构模型之前,还需要采集包含目标对象的多个图像,基于所述多个图像,训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型。
参见图2,可以通过根据本公开实施例的一种具体实现方式,训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,可以包括:
S201,对所述多个图像上的特定区域进行检测,得到目标区域。
可以采用多个图像进行目标匹配,从而得到目标区域,作为一个例子,目标区域可以是人脸区域,此时,可以通过人脸检测的方式检测多个图像上存在的人脸区域。
S202,对所述目标区域进行3D重建,得到3D区域对象。
获取了与目标对象相关的多个图像之后,便可以选择目标对象上的构成对象来对目标对象进行建模。对目标区域进行3D建模可以采用多种方法,例如,可以在所述多个图像平面二维像素值的基础之上,增加深度值,深度值可以基于所述多个图像的亮度值获得。
S203,获取所述3D区域对象的三维网格,所述三维网格包含预设坐标值。
3D区域对象通过三维网格来描述其具体的位置,为此对三维网格设置具体的坐标值,例如可以通过设置平面二维坐标及空间高度坐标的方式来描述三维网格。
S204,基于不同三维网格坐标上的像素值,确定所述特定区域的纹理图。
可以将不同三维网格坐标上的像素值连接在一起,形成网格平面,该网格平面形成特定区域的纹理图。
除了对目标区域进行训练之外,还需要对第一元素进行训练,参见图3,根据本公开实施例的一种具体实现方式,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
S301,在所述多个图像上对所述第一元素进行特征点检测。
对第一元素进行特征设置,可以得到与第一元素相关的特征点。以眼睛为例,可以将眼睛的轮廓、瞳孔作为特征对象,通过特征检测的方式获得与眼睛轮廓、瞳孔相关的特征点。
S302,将检测得到的特征点划分为第一类型特征点和第二类型特征点,所述第一类型特征点用于形成第一闭合区域,所述第二类型特征点用于形成第二闭合区域。
第一元素为至少包含两个组成部分(例如,瞳孔和巩膜),基于特征点所属的部分不同,将检测得到的特征点划分为第一类型特征点和第二类型特征点,例如,第一类型特征点是与瞳孔相关的特征点,第二类型的特征点是与巩膜相关的特征点。通过将第一类型特征点和第二类型的特征点形成闭合曲线,可以分别形成第一闭合区域和第二闭合区域。
S303,在所述第一闭合区域内填充第一颜色,在所述第二闭合区域内填充第二颜色,所述第一颜色与所述第二颜色不同。
例如,可以在第一闭合区域内填充蓝色,在第二闭合区域内填充白色,通过在不同的闭合区域内填充不同的第一颜色和第二颜色,使得预测后的目标对象的形象更加的逼真。
对于仅有一个组成部分的第二元素,可以采用简单的处理方式,从而提高数据处理的效率。参见图4,根据本公开实施例的一种具体实现方式,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
S401,在所述多个图像上对所述第二元素进行特征点检测。
对第二元素进行特征设置,可以检测到与第二元素相关的特征点,以嘴巴为例,可以将嘴巴整体作为特征对象,通过特征检测的方式获得嘴巴相关的特征点。
S402,基于检测到的所有特征点,形成第三闭合区域。
在获得第二元素的所有特征点之后,可以通过将所有特征点连接在一起的方式,形成闭合区域,进而得到第三闭合区域。
S403,在所述第三闭合区域内填充第三颜色。
在得到第三闭合区域之后,可以在第三闭合区域内填充与第二元素匹配的颜色,以嘴巴为例,可以在第三闭合区域内填充与嘴巴匹配的红色。
在实际对目标对象进行预测的过程中,将所述目标对象的特定区域的轮廓进行预测,并在预测的轮廓内填充所述重构模型确定的纹理图,从而得到了目标对象特定区域的轮廓图(例如,人脸轮廓图)。
将所述输入信息解析后的得到运动参数匹配到所述第一元素及第二元素,便形成了第一元素和第二元素的动作。具体的,输入信息可以是多种方式,例如,输入信息可以是文本或音频的形式。输入信息通过数据解析后转化为第一解析结果,该第一解析结果包含与纹理图及第一元素、第二元素的形状约束图相匹配的参数,利用训练后得到的所述重建模型,通过调用所述纹理图及所述形状约束图来最终完成目标对象预测动作的生成。
第一解析结果中包含有针对目标对象上第一元素和第二元素的运动幅度参数,以嘴巴为例,嘴巴全部张开的时候运动幅度可以量化为1,嘴巴全部闭合的时候,运动运动幅度可以量化为0,通过量化0和1之间的数值,可以描述嘴巴在完全张开和完全闭合之间的中间状态。
与上面的方法实施例相对应,参见图5,本公开实施例还公开了一种包含动态背景的动画生成装置50,包括:
获取模块501,用于获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内。
目标对象的动作和表情是本公开的方案所要模拟和预测的内容,作为一个例子,目标对象可以是真实的能够进行网络播报的人,也可以是其他的具有信息传播功能的对象,例如电视节目主持人、新闻节目播音员、进行授课的教师等。
目标对象通常为具有传播功能的人,由于该类型的人通常具有一定的知名度,当有海量的内容需要目标对象进行包含语音和/或视频动作的播报时,通常需要花费较多的成本。同时,对于直播类的节目,目标对象通常无法在同一个时间内出现在多个直播间(或多个直播频道)。此时如果想呈现出例如“主播分身”这样的效果,通过真人进行现场播报通常难以达到这种效果。
为此,需要预先训练重构模型,重构模型能够基于输入信息预测目标对象的形象和动作,从而产生与输入信息匹配的动作和表情。例如,针对一段需要播报的新闻,目标对象能够以新闻播报员的形式播报该新闻。
为了能够预测出目标对象的动作及表情,通常需要模仿目标对象上的较多组成要素(例如,眼睛,耳朵,眉毛,鼻子,嘴巴等)。但是,预测较多的组成要素会影响预测的效率,消耗较多的资源。为此,本公开的方案仅选取与目标对象的辨识最相关的组成要素:特定区域、第一元素及第二元素。作为一个例子,特定区域为目标对象的脸部区域,第一元素为目标对象的眼睛,第二元素为目标对象的嘴巴。
确定模块502,用于基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画。
基于重建模型,可以通过视频动画的方式来预测目标对象在视频中的各种动作和表情。具体的,可以通过产生保真图像的方式来生成包含目标对象动作和表情的视频文件,保真图像可以作为视频文件的全部帧或关键帧,保真图像包含了与所述输入信息相匹配的一个或多个预测动作的多个图像的集合。
输入信息可以是多种方式,例如,输入信息可以是文本或音频的形式。输入信息通过数据解析后转化为与所述纹理图及所述形状约束图相匹配的参数,利用训练后得到的所述重建模型,通过调用所述纹理图及所述形状约束图来最终完成保证图像的生成。
在进行预测的阶段,可以给出目标对象的特定区域纹理图和第一元素、第二元素的形状约束,利用所训练的重建模型,预测二维主播形象的图像,通过连续的第一元素、第二元素的形状约束和固定的特定区域的纹理作为输入,预测出连续的目标对象动画形象。
选择模块503,用于在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画。
为了提高生成画面的真实度,预先录制与目标对象相关的背景动画,背景动画可以是多种不同类型的背景动画,例如,可以是严肃、活泼、高兴、悲伤等多种不同风格的动画。背景动画具有一定的长度,以便于被调用。
在调用背景动画时,需要对输入信息的当前情景进行分析,基于分析的结果,从预先设置的多个动画中动态选择选择与当前情景匹配的动画作为背景动画。例如,分析得知当前输入信息的情景是兴奋,则调用兴奋风格的背景动画。当侦测到输入信息的情景发生变化时,即便是当前调用的背景动画没有播放完毕,也会切换调用与变化后的情景匹配的背景动画。当当前调用的背景动画播放完毕后,若发现输入信息的当前情景没有发生变化,则继续循环播放当前的背景动画。
生成模块504,用于基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
通过将预测产生的第一动画与背景动画进行叠加,便生成了与所述输入信息相关的最终动画。最终动画可以以视频文件的方式进行存储或传播。
在生成最终动画的过程中,可能会存在背景动画进行切换的情况,对此,可以判断所述背景动画是否有多个不同类型的动画拼接组成,若是,则对不同类型的动画进行平滑处理。使得不同类型的动画之间的过渡衔接更加自然。
图5所示装置可以对应的执行上述方法实施例中的内容,本实施例未详细描述的部分,参照上述方法实施例中记载的内容,在此不再赘述。
参见图6,本公开实施例还提供了一种电子设备60,该电子设备包括:
至少一个处理器;以及,
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述方法实施例中包含动态背景的动画生成方法。
本公开实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述方法实施例中。
本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述方法实施例中的包含动态背景的动画生成方法。
下面参考图6,其示出了适于用来实现本公开实施例的电子设备60的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备60可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM603中,还存储有电子设备60操作所需的各种程序和数据。处理装置601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备60与其他设备进行无线或有线通信以交换数据。虽然图中示出了具有各种装置的电子设备60,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取至少两个网际协议地址;向节点评价设备发送包括所述至少两个网际协议地址的节点评价请求,其中,所述节点评价设备从所述至少两个网际协议地址中,选取网际协议地址并返回;接收所述节点评价设备返回的网际协议地址;其中,所获取的网际协议地址指示内容分发网络中的边缘节点。
或者,上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:接收包括至少两个网际协议地址的节点评价请求;从所述至少两个网际协议地址中,选取网际协议地址;返回选取出的网际协议地址;其中,接收到的网际协议地址指示内容分发网络中的边缘节点。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
应当理解,本公开的各部分可以用硬件、软件、固件或它们的组合来实现。
以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。
Claims (12)
1.一种包含动态背景的动画生成方法,其特征在于,包括:
获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内;
基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画;
在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;
基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
2.根据权利要求1所述的方法,其特征在于,获取与目标对象的特定区域、第一元素及第二元素相关的重构模型之前,所述方法还包括:
采集包含目标对象的多个图像,基于所述多个图像,训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型。
3.根据权利要求2所述的方法,其特征在于,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
对所述多个图像上的特定区域进行检测,得到目标区域;
对所述目标区域进行3D重建,得到3D区域对象;
获取所述3D区域对象的三维网格,所述三维网格包含预设坐标值;
基于不同三维网格坐标上的像素值,确定所述特定区域的纹理图。
4.根据权利要求2所述的方法,其特征在于,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
在所述多个图像上对所述第一元素进行特征点检测;
将检测得到的特征点划分为第一类型特征点和第二类型特征点,所述第一类型特征点用于形成第一闭合区域,所述第二类型特征点用于形成第二闭合区域;
在所述第一闭合区域内填充第一颜色,在所述第二闭合区域内填充第二颜色,所述第一颜色与所述第二颜色不同。
5.根据权利要求2所述的方法,其特征在于,所述训练与所述目标对象的特定区域、第一元素及第二元素相关的重构模型,包括:
在所述多个图像上对所述第二元素进行特征点检测;
基于检测到的所有特征点,形成第三闭合区域;
在所述第三闭合区域内填充第三颜色。
6.根据权利要求3所述的方法,其特征在于,所述基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,包括:
将所述目标对象的特定区域的轮廓进行预测,在预测的轮廓内填充所述重构模型确定的纹理图;
将所述输入信息解析后的得到运动参数匹配到所述第一元素及第二元素,形成所述第一元素及所述第二元素的动作。
7.根据权利要求1所述的方法,其特征在于,所述从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画,包括:
对输入信息的当前情景进行分析,从预先设置的多个动画中动态选择选择与当前情景匹配的动画作为背景动画。
8.根据权利要求1所述的方法,其特征在于,所述基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画,包括:
判断所述背景动画是否有多个不同类型的动画拼接组成;
若是,则对不同类型的动画进行平滑处理。
9.根据权利要求1所述的方法,其特征在于:
所述特定区域为脸部区域,所述第一元素为眼睛,所述第二元素为嘴巴。
10.一种包含动态背景的动画生成装置,其特征在于,包括:
获取模块,用于获取与目标对象的特定区域、第一元素及第二元素相关的重构模型,所述特定区域属于所述目标对象的一部分,所述第一元素及第二元素位于所述特定区域内;
确定模块,用于基于所述重构模型,确定与输入信息相关的特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作,所述特定区域的纹理特征、所述第一元素的动作以及所述第二元素的动作形成了与所述输入信息相关的第一动画;
选择模块,用于在生成所述第一动画的同时,从预先设置的多个动画中动态选择与所述第一动画匹配的动画作为所述第一动画的背景动画;
生成模块,用于基于所述第一动画及所述背景动画,生成与所述输入信息相关的最终动画。
11.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述任一权利要求1-9所述的包含动态背景的动画生成方法。
12.一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述任一权利要求1-9所述的包含动态背景的动画生成方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910214896.6A CN110047119B (zh) | 2019-03-20 | 2019-03-20 | 包含动态背景的动画生成方法、装置及电子设备 |
PCT/CN2020/074369 WO2020186934A1 (zh) | 2019-03-20 | 2020-02-05 | 包含动态背景的动画生成方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910214896.6A CN110047119B (zh) | 2019-03-20 | 2019-03-20 | 包含动态背景的动画生成方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110047119A true CN110047119A (zh) | 2019-07-23 |
CN110047119B CN110047119B (zh) | 2021-04-13 |
Family
ID=67273996
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910214896.6A Active CN110047119B (zh) | 2019-03-20 | 2019-03-20 | 包含动态背景的动画生成方法、装置及电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110047119B (zh) |
WO (1) | WO2020186934A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020186934A1 (zh) * | 2019-03-20 | 2020-09-24 | 北京字节跳动网络技术有限公司 | 包含动态背景的动画生成方法、装置及电子设备 |
CN112184722A (zh) * | 2020-09-15 | 2021-01-05 | 上海传英信息技术有限公司 | 图像处理方法、终端及计算机存储介质 |
CN113554734A (zh) * | 2021-07-19 | 2021-10-26 | 深圳东辉盛扬科技有限公司 | 一种基于神经网络的动画模型生成方法及装置 |
CN114549706A (zh) * | 2022-02-21 | 2022-05-27 | 成都工业学院 | 一种动画生成方法及动画生成装置 |
CN112184722B (zh) * | 2020-09-15 | 2024-05-03 | 上海传英信息技术有限公司 | 图像处理方法、终端及计算机存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102867333A (zh) * | 2012-07-18 | 2013-01-09 | 西北工业大学 | 一种基于di-guy的虚拟人物动作可视化方法 |
CN103854306A (zh) * | 2012-12-07 | 2014-06-11 | 山东财经大学 | 一种高真实感的动态表情建模方法 |
US8937620B1 (en) * | 2011-04-07 | 2015-01-20 | Google Inc. | System and methods for generation and control of story animation |
CN106648071A (zh) * | 2016-11-21 | 2017-05-10 | 捷开通讯科技(上海)有限公司 | 虚拟现实社交实现系统 |
CN107392984A (zh) * | 2017-07-26 | 2017-11-24 | 厦门美图之家科技有限公司 | 一种基于人脸图像生成动画的方法及计算设备 |
US20180246871A1 (en) * | 2017-02-27 | 2018-08-30 | Disney Enterprises, Inc. | Multiplane animation system |
CN108629821A (zh) * | 2018-04-20 | 2018-10-09 | 北京比特智学科技有限公司 | 动画生成方法和装置 |
CN109118579A (zh) * | 2018-08-03 | 2019-01-01 | 北京微播视界科技有限公司 | 动态生成人脸三维模型的方法、装置、电子设备 |
CN109272543A (zh) * | 2018-09-21 | 2019-01-25 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN109462776A (zh) * | 2018-11-29 | 2019-03-12 | 北京字节跳动网络技术有限公司 | 一种视频特效添加方法、装置、终端设备及存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100759364B1 (ko) * | 2006-05-02 | 2007-09-19 | 한국과학기술원 | 사용자 반응형 실시간 그래픽스와 고품질 애니메이션 영상합성 방법 |
CN103198508A (zh) * | 2013-04-07 | 2013-07-10 | 河北工业大学 | 人脸表情动画生成方法 |
CN109285208A (zh) * | 2018-09-29 | 2019-01-29 | 吉林动画学院 | 基于表情动态模板库的虚拟角色表情卡通化算法 |
CN110047119B (zh) * | 2019-03-20 | 2021-04-13 | 北京字节跳动网络技术有限公司 | 包含动态背景的动画生成方法、装置及电子设备 |
-
2019
- 2019-03-20 CN CN201910214896.6A patent/CN110047119B/zh active Active
-
2020
- 2020-02-05 WO PCT/CN2020/074369 patent/WO2020186934A1/zh active Application Filing
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8937620B1 (en) * | 2011-04-07 | 2015-01-20 | Google Inc. | System and methods for generation and control of story animation |
CN102867333A (zh) * | 2012-07-18 | 2013-01-09 | 西北工业大学 | 一种基于di-guy的虚拟人物动作可视化方法 |
CN103854306A (zh) * | 2012-12-07 | 2014-06-11 | 山东财经大学 | 一种高真实感的动态表情建模方法 |
CN106648071A (zh) * | 2016-11-21 | 2017-05-10 | 捷开通讯科技(上海)有限公司 | 虚拟现实社交实现系统 |
US20180246871A1 (en) * | 2017-02-27 | 2018-08-30 | Disney Enterprises, Inc. | Multiplane animation system |
CN107392984A (zh) * | 2017-07-26 | 2017-11-24 | 厦门美图之家科技有限公司 | 一种基于人脸图像生成动画的方法及计算设备 |
CN108629821A (zh) * | 2018-04-20 | 2018-10-09 | 北京比特智学科技有限公司 | 动画生成方法和装置 |
CN109118579A (zh) * | 2018-08-03 | 2019-01-01 | 北京微播视界科技有限公司 | 动态生成人脸三维模型的方法、装置、电子设备 |
CN109272543A (zh) * | 2018-09-21 | 2019-01-25 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN109462776A (zh) * | 2018-11-29 | 2019-03-12 | 北京字节跳动网络技术有限公司 | 一种视频特效添加方法、装置、终端设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
HYUN-CHUL LEE 等: "Automatic Synchronization of Background Music and Motion in Computer Animation", 《EUROGRAPHICS 2005》 * |
万贤美 等: "真实感3D人脸表情合成技术研究进展", 《计算机辅助设计与图形学学报》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020186934A1 (zh) * | 2019-03-20 | 2020-09-24 | 北京字节跳动网络技术有限公司 | 包含动态背景的动画生成方法、装置及电子设备 |
CN112184722A (zh) * | 2020-09-15 | 2021-01-05 | 上海传英信息技术有限公司 | 图像处理方法、终端及计算机存储介质 |
CN112184722B (zh) * | 2020-09-15 | 2024-05-03 | 上海传英信息技术有限公司 | 图像处理方法、终端及计算机存储介质 |
CN113554734A (zh) * | 2021-07-19 | 2021-10-26 | 深圳东辉盛扬科技有限公司 | 一种基于神经网络的动画模型生成方法及装置 |
CN114549706A (zh) * | 2022-02-21 | 2022-05-27 | 成都工业学院 | 一种动画生成方法及动画生成装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2020186934A1 (zh) | 2020-09-24 |
CN110047119B (zh) | 2021-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110047121A (zh) | 端到端的动画生成方法、装置及电子设备 | |
CN110227266B (zh) | 使用真实世界虚拟现实地图来构建虚拟现实游戏玩耍环境 | |
CN110035271A (zh) | 保真图像生成方法、装置及电子设备 | |
CN110189394A (zh) | 口型生成方法、装置及电子设备 | |
CN110047119A (zh) | 包含动态背景的动画生成方法、装置及电子设备 | |
CN110381368A (zh) | 视频封面生成方法、装置及电子设备 | |
CN110401844A (zh) | 视频直播策略的生成方法、装置、设备及可读介质 | |
CN110189246A (zh) | 图像风格化生成方法、装置及电子设备 | |
CN110072047A (zh) | 图像形变的控制方法、装置和硬件装置 | |
CN110070496A (zh) | 图像特效的生成方法、装置和硬件装置 | |
CN110267097A (zh) | 基于分类特征的视频推送方法、装置及电子设备 | |
CN110232654A (zh) | 图像合成方法、装置、设备及其存储介质 | |
CN110378947A (zh) | 3d模型重建方法、装置及电子设备 | |
CN110278447A (zh) | 基于连续特征的视频推送方法、装置及电子设备 | |
CN110060324A (zh) | 图像渲染方法、装置及电子设备 | |
CN110069997A (zh) | 场景分类方法、装置及电子设备 | |
US20230401789A1 (en) | Methods and systems for unified rendering of light and sound content for a simulated 3d environment | |
Li et al. | Interactive cultural communication effect in VR space of intelligent mobile communication network | |
CN116958344A (zh) | 虚拟形象的动画生成方法、装置、计算机设备及存储介质 | |
CN110197459A (zh) | 图像风格化生成方法、装置及电子设备 | |
CN110264430A (zh) | 视频美化方法、装置及电子设备 | |
Priya et al. | Augmented reality and speech control from automobile showcasing | |
CN109816791A (zh) | 用于生成信息的方法和装置 | |
CN110069641A (zh) | 图像处理方法、装置和电子设备 | |
Stacchio et al. | Evaluating Human Aesthetic and Emotional Aspects of 3D generated content through eXtended Reality |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |