CN115082821A - 过渡帧的生成方法、装置、电子设备及存储介质 - Google Patents

过渡帧的生成方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115082821A
CN115082821A CN202210615538.8A CN202210615538A CN115082821A CN 115082821 A CN115082821 A CN 115082821A CN 202210615538 A CN202210615538 A CN 202210615538A CN 115082821 A CN115082821 A CN 115082821A
Authority
CN
China
Prior art keywords
animation
transition
frame
matrix
transition frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210615538.8A
Other languages
English (en)
Inventor
段颖琳
卢德辉
林悦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Netease Hangzhou Network Co Ltd
Original Assignee
Netease Hangzhou Network Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Netease Hangzhou Network Co Ltd filed Critical Netease Hangzhou Network Co Ltd
Priority to CN202210615538.8A priority Critical patent/CN115082821A/zh
Publication of CN115082821A publication Critical patent/CN115082821A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G06V20/47Detecting features for summarising video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本申请提供一种过渡帧的生成方法、装置、电子设备及存储介质,该方法包括,先获取待制作动画的风格特征和关键帧的特征矩阵,然后将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,并基于所述过渡帧的特征矩阵得到所述动画的过渡帧,从而可以通过获取的风格特征对预测模型生成的过渡帧的特征矩阵进行控制,使得最终得到的过渡帧更加准确。

Description

过渡帧的生成方法、装置、电子设备及存储介质
技术领域
本申请涉及过渡帧技术领域,尤其涉及一种过渡帧的生成方法、装置、电子设备及存储介质。
背景技术
本部分旨在为权利要求书中陈述的本申请的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
目前游戏或影视动画中经常会面临两段动作的衔接问题,这时需要在前后两个关键帧之间生成中间的过渡帧。但是,现有技术中生成过渡帧的方法主要包括两种,一种是人工制作,即动画师根据需求设计一系列动作并对每一帧动画进行处理,这种方法不仅效率较低,而且对动画师自身要求较高。还有一种方法是通过线性插值的方法来生成过渡帧,这种方法会导致动画出现滑步,僵硬等问题,尤其是在较长的序列中,会非常明显。
发明内容
有鉴于此,本申请的目的在于提出一种过渡帧的生成方法、装置、电子设备及存储介质。
基于上述目的,本申请提供了一种过渡帧的生成方法,包括:
获取待制作动画的风格特征和关键帧的特征矩阵;
将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵;
基于所述过渡帧的特征矩阵得到所述动画的过渡帧。
在一些实施例中,训练所述预测模型的方法包括:
设置所述动画的多种风格特征,并确定与每种风格特征对应的样本关键帧的特征矩阵;
将每种风格特征及其对应的样本关键帧的特征矩阵输入到所述预测模型的基准模型中进行模型训练,以使所述基准模型在测试时输出的过渡帧的特征矩阵与所述样本关键帧的特征矩阵对应。
在一些实施例中,所述预测模型的基准模型为GAN,所述GAN的生成器和判别器均为transformer。
在一些实施例中,将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体还包括:
获取所述动画需要所述过渡帧的目标数量;
将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵。
在一些实施例中,将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体包括:
将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到预设数量的所述动画的备选过渡帧的特征矩阵;其中,每个所述备选过渡帧均按照时间顺序对应有一个排列序号;
确定与所述目标数量对应的多个排列序号,并基于所述多个排列序号从预设数量的所述备选过渡帧的特征矩阵中确定所述动画的过渡帧的特征矩阵;其中,所述目标数量不大于预设数量。
在一些实施例中,所述特征矩阵包括位移矩阵和骨骼旋转矩阵。
在一些实施例中,在得到所述动画的过渡帧的特征矩阵之后,所述方法还包括:
基于正向动力学算法和反向动力学算法对所述动画的过渡帧的特征矩阵进行调整。
在一些实施例中,所述关键帧包括所述动画的开头关键帧和结尾关键帧。
基于同一发明构思,本申请示例性实施例还提供了一种过渡帧的生成装置,包括:
获取模块,获取待制作动画的风格特征和关键帧的特征矩阵;
模型模块,将所述风格特征、所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵;
生成模块,基于所述过渡帧的特征矩阵生成所述动画的过渡帧。
基于同一发明构思,本申请示例性实施例还提供了一种电子设备,包括存储器、处理器及存储在所述存储器上并可由所述处理器执行的计算机程序,所述处理器执行所述程序时实现如上所述的过渡帧的生成方法。
基于同一发明构思,本申请示例性实施例还提供了一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令用于使计算机执行如上所述的过渡帧的生成方法。
从上面所述可以看出,本申请提供的过渡帧的生成方法、装置、电子设备及存储介质,先获取待制作动画的风格特征和关键帧的特征矩阵,然后将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,并基于所述过渡帧的特征矩阵得到所述动画的过渡帧,从而可以通过获取的风格特征对预测模型生成的过渡帧的特征矩阵进行控制,使得最终得到的过渡帧更加准确。
附图说明
为了更清楚地说明本申请或相关技术中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术成员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请示例性实施例的应用场景示意图;
图2为本申请实施例的一种过渡帧的生成方法的流程示意图;
图3为本申请实施例的一种过渡帧的生成装置的结构示意图;
图4为本申请实施例的一种具体的电子设备的结构示意图。
具体实施方式
下面将参考若干示例性实施方式来描述本申请的原理和精神。应当理解,给出这些实施方式仅仅是为了使本领域技术成员能够更好地理解进而实现本申请,而并非以任何方式限制本申请的范围。相反,提供这些实施方式是为了使本申请更加透彻和完整,并且能够将本申请的范围完整地传达给本领域的技术成员。
根据本申请的实施方式,提出了一种过渡帧的生成方法、装置、电子设备及存储介质。
在本文中,需要理解的是,附图中的任何元素数量均用于示例而非限制,以及任何命名都仅用于区分,而不具有任何限制含义。
下面参考本申请的若干代表性实施方式,详细阐释本申请的原理和精神。
现有技术中,生成过渡帧的方法主要包括两种,一种是人工制作,即动画师根据需求设计一系列动作并对每一帧动画进行处理,这种方法不仅效率较低,而且对动画师自身要求较高。还有一种方法是通过线性插值的方法来生成过渡帧,这种方法会导致动画出现滑步,僵硬等问题,尤其是在较长的序列中,会非常明显。
此外,本申请的发明人发现,若直接通过深度学习模型来生成过渡帧,面临着生成内容不可控的问题,例如,用户想要生成一组人物跑步的过渡帧,直接将关键帧输入神经网络模型,可能得到一组人物跳远的过渡帧,这导致直接通过深度学习模型来生成过渡帧,无法满足用户的需求。
为了解决上述问题,本申请提供了一种过渡帧的生成方法,具体包括:
获取待制作动画的风格特征和关键帧的特征矩阵,然后将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,并基于所述过渡帧的特征矩阵得到所述动画的过渡帧,从而可以通过获取的风格特征对预测模型生成的过渡帧的特征矩阵进行控制,使得最终得到的过渡帧更加准确,并符合用户的需求。
在介绍了本申请的基本原理之后,下面具体介绍本申请的各种非限制性实施方式。
参考图1,其为本申请示例性实施例提供的文档矫正方法的应用场景示意图。该应用场景包括终端设备101、服务器102、和数据存储系统103。其中,终端设备101、服务器102以及数据存储系统103之间均可通过有线或无线的通信网络连接。终端设备101包括但不限于桌面计算机、移动电话、移动电脑、平板电脑、媒体播放器、智能可穿戴设备视、个人数字助理(personal digital assistant,PDA)或其它能够实现上述功能的电子设备等。服务器102和数据存储系统103均可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
服务器102用于向终端设备101的用户提供过渡帧的生成服务,终端设备101中安装有与服务器102通信的客户端,用户可通过该客户端进行动画过渡帧的获取。在文档矫正过程中,客户端通过调用终端设备101输入组件(如鼠标、键盘,触屏控件、摄像头等)来获取待制作动画的风格特征及关键帧的特征矩阵;客户端将待制作动画的风格特征及关键帧的特征矩阵发送给服务器102。服务器102通过训练获得的预测模型,得到所述动画的过渡帧的特征矩阵,并根据所述过渡帧的特征矩阵得到所述动画的过渡帧。在获取到所述动画的过渡帧后,将获取结果发送给终端设备101,从而准确的生成动画的过渡帧。
数据存储系统103中存储有大量训练数据,每个训练数据包括一种风格特征,以及该风格特征对应的样本关键帧的特征矩阵。服务器102可基于大量训练数据对预测模型进行训练,使得预测模型能够根据输入的动画的风格特征和关键帧的特征矩阵得到与风格特征对应的动画的过渡帧。训练数据的来源包括但不限于已有的数据库、从互联网获取的数据或者在用户使用客户端时上传的数据。当预测模型的输出满足预定的要求时,服务器102可基于预测模型向用户提供生成过渡帧的处理服务,同时,服务器102还可以基于新增的训练数据不断优化预测模型。
下面结合图1的应用场景,来描述根据本申请示例性实施方式的文档矫正方法。需要注意的是,上述应用场景仅是为了便于理解本申请的精神和原理而示出,本申请的实施方式在此方面不受任何限制。相反,本申请的实施方式可以应用于适用的任何场景。
参考图2,本申请实施例提供了一种过渡帧的生成方法,包括以下步骤:
S101,获取待制作动画的风格特征和关键帧的特征矩阵。
具体实施时,在生成过渡帧时,先获取待制作动画的风格特征以及待制作动画的特征矩阵,可选的,该风格特征通过用户输入获得,该风格特征主要用于使预测模型在生成过渡帧时,可以知道应该生成什么样的过渡帧,例如,该风格特征为人物跑步的特征,那么对应生成的过渡帧为人物跑步的过渡帧,或者,该风格特征为人物跳远的特征,那么对应生成的过渡帧为人物跳远的过渡帧。
在一些实施例中,关键帧的特征矩阵包括位移矩阵和骨骼旋转矩阵,即通过位移矩阵和骨骼旋转矩阵来表示关键帧中运动对象的移动和旋转情况。需要说明的是,关键帧的特征矩阵可以根据制作动画的需要进行设置,上述特征矩阵包括位移矩阵和骨骼旋转矩阵只是本申请实施例提供的一种具体实现方式,本领域技术人员可以根据需要设置多种可以表示关键帧特征的特征矩阵,在此不做限定,例如,可以将该特征矩阵设置为动画中多个骨骼关键点的位置矩阵。
在一些实施例中,待制作动画的关键帧包括所述动画的开头关键帧和结尾关键帧。可选的,待制作动画的关键帧可以只包括一帧关键帧,或者可以包括在开头关键帧之前的多个前置关键帧,或者在开头关键帧和结尾关键帧中间的中间关键帧,在此不做限定。一般情况下,输入预测模型中的关键帧的数量越多,最终得到的过渡帧的准确度越高。
S102,将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵。
具体实施时,在获取到待制作动画的风格特征和关键帧的特征矩阵之后,将该风格特征和关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵。
在一些实施例中,训练所述预测模型的方法包括:
设置所述动画的多种风格特征,并确定与每种风格特征对应的样本关键帧的特征矩阵;
将每种风格特征及其对应的样本关键帧的特征矩阵输入到所述预测模型的基准模型中进行模型训练,以使所述基准模型在测试时输出的过渡帧的特征矩阵与所述样本关键帧的特征矩阵对应。
具体实施时,先根据需要设置待制作动画的多种风格特征,这些风格特征可以包括跑步、跳远、走路、飞翔以及跳跃等风格特征,可选的,为了方便输入,该风格特征可以用一列数字表示,不同的数字对应不同的风格特征。在设置好风格特征后,为每一种风格特征匹配对应的样本关键帧的特征矩阵,例如,为跑步风格特征匹配大量的各种跑步动作的关键帧。然后,将每种风格特征及其对应的样本关键帧的特征矩阵输入到所述预测模型的基准模型中进行模型训练,以使所述基准模型在测试时输出的过渡帧的特征矩阵与所述样本关键帧的特征矩阵对应。可选的,所述基准模型可以根据需要选择任意一种神经网络模型,在此不做限定。
需要说明的是,由于风格特征属于用户自己设定的一种特征,模型本身无法很好的识别每一种特征,所以这时需要通过模型训练使模型能够更好的识别出每种风格特征,例如,在训练模型时,将跑步风格特征和跑步动作的关键帧一起作为模型的输入,然后在测试阶段,当模型收到了跑步风格特征和一个其他的关键帧,这时模型也会将该其他的关键帧默认识别为跑步动作的关键帧,这样可以保证模型在应用阶段,可以通过输入的风格特征来控制模型输出的过渡帧的风格。
为了进一步提高预测模型的准确性,在一些实施例中,所述预测模型的基准模型为GAN,所述GAN的生成器和判别器均为transformer。
具体实施时,GAN(Generative Adversarial Networks,生成式对抗网络)是一种深度学习模型,其中,GAN中的生产器用于生成过渡帧,GAN的判别器用于判断生成器生成的过渡帧是否正确,从而进一步提高了预测模型生成过渡帧的准确性。Transformer与RNN(Recurrent Neural Network,循环神经网络)和CNN(Convolutional Neural Networks,卷积神经网络)不同,其利用自注意力机制来处理变长输入的深度模型,其网络仅由自注意力和前馈神经网络组成。
在一些实施例中,将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体还包括:
获取所述动画需要所述过渡帧的目标数量;
将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵。
具体实施时,一般情况下,模型输出的过渡帧的数量是固定的,即通过设置模型的结构来控制模型输出结果的数量。但是对于不同的动作精度要求,可能需要插入的过渡帧的数量需求是不同的。这时简单的通过模型的结构设置来固定模型输出的过渡帧的数量,已经不能满足用户的需求,因此,需要通过获取所述动画需要所述过渡帧的目标数量,可选的,该目标数量可以由用户输入。在获取到该目标数量后,将该目标数量和所述风格特征以及所述关键帧的特征矩阵一起输入到训练获得的预测模型中,从而控制所述动画的过渡帧的特征矩阵的数量。
在一些实施例中,将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体包括:
将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到预设数量的所述动画的备选过渡帧的特征矩阵;其中,每个所述备选过渡帧均按照时间顺序对应有一个排列序号;
确定与所述目标数量对应的多个排列序号,并基于所述多个排列序号从预设数量的所述备选过渡帧的特征矩阵中确定所述动画的过渡帧的特征矩阵;其中,所述目标数量不大于预设数量。
具体实施时,先将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到预设数量的所述动画的备选过渡帧的特征矩阵,可选的,该预设数量可以通过模型的结构设置来进程控制。可选的,该预设数量的具体数量可以根据需要进行设置,为了扩大模型的使用范围,该预设数量可以设置为一个较大值。在得到预设数量的所述动画的备选过渡帧的特征矩阵后,确定与所述目标数量对应的多个排列序号,并基于所述多个排列序号从预设数量的所述备选过渡帧的特征矩阵中确定所述动画的过渡帧的特征矩阵;其中,所述目标数量不大于预设数量。其中,预设数量的备选过渡帧中的每个所述备选过渡帧均按照时间顺序对应有一个排列序号,例如,预设数量为20,则模型输出20帧备选过渡帧,然后该20帧备选过渡帧按照时间顺序依次对应一个排列序号1-20,此时模型输出的备选过渡帧最大数量为20帧,然后通过获取到的目标数量确定与所述目标数量对应的多个排列序号。例如,目标数量为10,则确定从1-20的备选过渡帧中选择10帧作为最终输出的过渡帧。可选的,该选择备选过渡帧的过程,可以通过随机选择完成,也可以根据需要设置每个目标数量对应的的多个排列序号,在此不做限定。
S103,基于所述过渡帧的特征矩阵得到所述动画的过渡帧。
具体实施时,在得到所述过渡帧的特征矩阵后,就可以通过该过渡帧的特征矩阵得到所述动画的过渡帧。可选的,可以将过渡帧的特征矩阵输入到制作动画的软件系统中,然后由该制作动画的软件系统自动生成过渡帧。
在一些实施例中,在得到所述动画的过渡帧的特征矩阵之后,所述方法还包括:
基于正向动力学算法和反向动力学算法对所述动画的过渡帧的特征矩阵进行调整。
具体实施时,为了使最终生成的过渡帧的动作有稳定的运动表现,可以通过正向动力学算法(FK)和反向动力学算法(IK)对所述动画的过渡帧的特征矩阵进行调整。其中,正向动力学算法(FK)用于通过运动对象的各个关节点的旋转量,最终计算出运动对象的各个关节点的末端位置。反向动力学算法(IK)用于通过运动对象的关节末端位置反推出运动对象的各个关节点的旋转量。例如,某动画的人物的脚步由于骨骼长度的不同,会在部分动作上出现脚离开地面的情况,面对这一问题通常需要将脚步锁在地面上,然后利用IK算法求解,矫正得到全部骨骼点的位置。
本申请提供的过渡帧的生成方法,先获取待制作动画的风格特征和关键帧的特征矩阵,然后将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,并基于所述过渡帧的特征矩阵得到所述动画的过渡帧,从而可以通过获取的风格特征对预测模型生成的过渡帧的特征矩阵进行控制,使得最终得到的过渡帧更加准确。此外,通过本申请提供的过渡帧的生成方法可以实现可控自动生成过渡帧在游戏中的应用,辅助各种玩法及表现效果,使过去无法实现的高品质过渡帧可控生成成为可能。同时,本申请提供的过渡帧的生成方法在美术工具链上辅助现有方法可以有效减少工作量,动画师可以仅提供少量关键数据,得到长时间的动作序列,并利用本申请的方法进行动作精修,大大节约了其成本。
基于同一发明构思,与上述任意实施例方法相对应的,本申请还提供了一种过渡帧的生成装置。
参考图3,所述过渡帧的生成装置,包括:
获取模块201,获取待制作动画的风格特征和关键帧的特征矩阵;
模型模块202,将所述风格特征、所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵;
生成模块203,基于所述过渡帧的特征矩阵生成所述动画的过渡帧。
为了描述的方便,描述以上装置时以功能分为各种模块分别描述。当然,在实施本申请时可以把各模块的功能在同一个或多个软件和/或硬件中实现。
上述实施例的装置用于实现前述任一实施例中相应的过渡帧的生成方法,并且具有相应的方法实施例的有益效果,在此不再赘述。
基于同一发明构思,与上述任意实施例方法相对应的,本申请还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上任意一实施例所述的过渡帧的生成方法。
图4示出了本实施例所提供的一种更为具体的电子设备硬件结构示意图,该设备可以包括:处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本说明书实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory,只读存储器)、RAM(Random AccessMemory,随机存取存储器)、静态存储设备,动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器1020中,并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块,以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出),也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等,输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出),以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路,在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是,尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050,但是在具体实施过程中,该设备还可以包括实现正常运行所必需的其他组件。此外,本领域的技术成员可以理解的是,上述设备中也可以仅包含实现本说明书实施例方案所必需的组件,而不必包含图中所示的全部组件。
上述实施例的电子设备用于实现前述任一实施例中相应的过渡帧的生成方法,并且具有相应的方法实施例的有益效果,在此不再赘述。
基于同一发明构思,与上述任意实施例方法相对应的,本申请还提供了一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令用于使所述计算机执行如上任一实施例所述的过渡帧的生成方法。
本实施例的计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。
上述实施例的存储介质存储的计算机指令用于使所述计算机执行如上任一实施例所述的过渡帧的生成方法,并且具有相应的方法实施例的有益效果,在此不再赘述。
所在领域的普通技术成员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本申请的范围(包括权利要求)被限于这些例子;在本申请的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,步骤可以以任意顺序实现,并存在如上所述的本申请实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。
另外,为简化说明和讨论,并且为了不会使本申请实施例难以理解,在所提供的附图中可以示出或可以不示出与集成电路(IC)芯片和其它部件的公知的电源/接地连接。此外,可以以框图的形式示出装置,以便避免使本申请实施例难以理解,并且这也考虑了以下事实,即关于这些框图装置的实施方式的细节是高度取决于将要实施本申请实施例的平台的(即,这些细节应当完全处于本领域技术成员的理解范围内)。在阐述了具体细节(例如,电路)以描述本申请的示例性实施例的情况下,对本领域技术成员来说显而易见的是,可以在没有这些具体细节的情况下或者这些具体细节有变化的情况下实施本申请实施例。因此,这些描述应被认为是说明性的而不是限制性的。
尽管已经结合了本申请的具体实施例对本申请进行了描述,但是根据前面的描述,这些实施例的很多替换、修改和变型对本领域普通技术成员来说将是显而易见的。例如,其它存储器架构(例如,动态RAM(DRAM))可以使用所讨论的实施例。
本申请实施例旨在涵盖落入所附权利要求的宽泛范围之内的所有这样的替换、修改和变型。因此,凡在本申请实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (11)

1.一种过渡帧的生成方法,其特征在于,包括:
获取待制作动画的风格特征和关键帧的特征矩阵;
将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵;
基于所述过渡帧的特征矩阵得到所述动画的过渡帧。
2.根据权利要求1所述的方法,其特征在于,训练所述预测模型的方法包括:
设置所述动画的多种风格特征,并确定与每种风格特征对应的样本关键帧的特征矩阵;
将每种风格特征及其对应的样本关键帧的特征矩阵输入到所述预测模型的基准模型中进行模型训练,以使所述基准模型在测试时输出的过渡帧的特征矩阵与所述样本关键帧的特征矩阵对应。
3.根据权利要求1所述的方法,其特征在于,所述预测模型的基准模型为GAN,所述GAN的生成器和判别器均为transformer。
4.根据权利要求1所述的方法,其特征在于,将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体还包括:
获取所述动画需要所述过渡帧的目标数量;
将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵。
5.根据权利要求4所述的方法,其特征在于,将所述风格特征、所述关键帧的特征矩阵以及所述目标数量输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵,具体包括:
将所述风格特征和所述关键帧的特征矩阵输入到训练获得的预测模型中,得到预设数量的所述动画的备选过渡帧的特征矩阵;其中,每个所述备选过渡帧均按照时间顺序对应有一个排列序号;
确定与所述目标数量对应的多个排列序号,并基于所述多个排列序号从预设数量的所述备选过渡帧的特征矩阵中确定所述动画的过渡帧的特征矩阵;其中,所述目标数量不大于预设数量。
6.根据权利要求1所述的方法,其特征在于,所述特征矩阵包括位移矩阵和骨骼旋转矩阵。
7.根据权利要求1所述的方法,其特征在于,在得到所述动画的过渡帧的特征矩阵之后,所述方法还包括:
基于正向动力学算法和反向动力学算法对所述动画的过渡帧的特征矩阵进行调整。
8.根据权利要求1所述的方法,其特征在于,所述关键帧包括所述动画的开头关键帧和结尾关键帧。
9.一种过渡帧的生成装置,其特征在于,包括:
获取模块,获取待制作动画的风格特征和关键帧的特征矩阵;
模型模块,将所述风格特征、所述关键帧的特征矩阵输入到训练获得的预测模型中,得到所述动画的过渡帧的特征矩阵;
生成模块,基于所述过渡帧的特征矩阵生成所述动画的过渡帧。
10.一种电子设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可由所述处理器执行的计算机程序,所述处理器执行所述程序时实现如权利要求1至8中任意一项所述的方法。
11.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令用于使计算机执行根据权利要求1至8中任一项所述的方法。
CN202210615538.8A 2022-05-31 2022-05-31 过渡帧的生成方法、装置、电子设备及存储介质 Pending CN115082821A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210615538.8A CN115082821A (zh) 2022-05-31 2022-05-31 过渡帧的生成方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210615538.8A CN115082821A (zh) 2022-05-31 2022-05-31 过渡帧的生成方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN115082821A true CN115082821A (zh) 2022-09-20

Family

ID=83249246

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210615538.8A Pending CN115082821A (zh) 2022-05-31 2022-05-31 过渡帧的生成方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115082821A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117315099A (zh) * 2023-10-30 2023-12-29 深圳市黑屋文化创意有限公司 一种用于三维动画的画面数据处理系统及方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117315099A (zh) * 2023-10-30 2023-12-29 深圳市黑屋文化创意有限公司 一种用于三维动画的画面数据处理系统及方法

Similar Documents

Publication Publication Date Title
US10043512B2 (en) Generating target sequences from input sequences using partial conditioning
JP6355800B1 (ja) 学習装置、生成装置、学習方法、生成方法、学習プログラム、および生成プログラム
JP6564464B2 (ja) ビデオプログラムのセグメントの検出
CN111476871B (zh) 用于生成视频的方法和装置
US20230274187A1 (en) Systems and methods for automated content curation using signature analysis
US20100088624A1 (en) Animation tool
CN111105375B (zh) 图像生成方法及其模型训练方法、装置及电子设备
KR20210118437A (ko) 모션을 선택적으로 묘사한 이미지 디스플레이
US11748389B1 (en) Delegated decision tree evaluation
CN111079944B (zh) 迁移学习模型解释实现方法及装置、电子设备、存储介质
JP5795743B2 (ja) 適応的重み付けを用いた様々な文書間類似度計算方法に基づいた文書比較方法および文書比較システム
EP3443450A1 (en) Two-stage training of a spoken dialogue system
CN113962965B (zh) 图像质量评价方法、装置、设备以及存储介质
JP2022006167A (ja) ビデオ再生開始の最適化方法、装置、電子機器、コンピュータ可読記憶媒体及びコンピュータプログラム
CN115082821A (zh) 过渡帧的生成方法、装置、电子设备及存储介质
EP4171045A1 (en) Production method and device for multimedia works, and computer-readable storage medium
CN111314737B (zh) 一种视频转码方法及装置
CN109523614B (zh) 一种3d动画导出方法、3d动画播放方法及装置
CN110392297B (zh) 视频处理方法及设备、存储介质、终端
CN116115995A (zh) 图像渲染处理方法、装置及电子设备
US10445921B1 (en) Transferring motion between consecutive frames to a digital image
CN116911403A (zh) 联邦学习的服务器和客户端的一体化训练方法及相关设备
JP2021051709A (ja) テキスト処理装置、方法、デバイス及びコンピュータ読み取り可能な記録媒体
CN113194270B (zh) 视频处理方法、装置、电子设备及存储介质
KR102566378B1 (ko) 인공지능을 통한 영상 분석 기반 홈 트레이닝 가이드 제공방법, 장치 및 컴퓨터프로그램

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination