CN107341841B - 一种渐变动画的生成方法及计算设备 - Google Patents

Abstract

本发明公开了一种渐变动画的生成方法及执行该方法的计算设备，包括步骤：按第一计算方式计算第一/第二人脸图像的投影矩阵和全图三维模型；根据投影矩阵和全图三维模型以第二计算方式分别计算第一/第二纹理坐标；对于每个待插入的中间帧：根据第一/第二投影矩阵和待插入中间帧的位置计算其投影矩阵；根据第一/第二全图三维模型和待插入中间帧的位置计算其全图三维模型；根据待插入中间帧的投影矩阵和全图三维模型以第二计算方式计算其纹理坐标；根据待插入中间帧的纹理坐标与第一/第二纹理坐标分别生成其第一/第二图像分量；结合第一/第二图像分量生成中间帧图像；由第一/第二人脸图像和生成的中间帧图像生成渐变动画。

Description

一种渐变动画的生成方法及计算设备

技术领域

本发明涉及图像处理技术领域，尤其是一种渐变动画的生成方法及计算设备。

背景技术

由多幅包含人脸的图像(简称为“人脸图像”)生成渐变动画的方法目前有着广泛的应用。例如在相册中，通过用户输入一些本人或好友的照片，将这些照片当做关键帧，并在照片中间插值多帧图像实现动画效果，由于插入的中间帧的过渡，这种照片的播放效果要比PPT式的播放生动有趣。

人脸渐变的普遍方法是在实现图像变形的基础上，先分别对两幅图像进行两个方向的变形，再对两幅变形图像进行图像灰度融合，产生一系列的中间图像，从而实现图像的平滑渐变。然而遗憾的是，任意两张包含人脸的图像，其脸型、表情、姿态可能都是不同的，且人脸与背景部分(如，肩、脖子、场景等)的对应关系也有可能是不同的，比如一张包含左侧脸的图像和一张包含右侧脸的图像之间的过渡，通过插入中间帧图像期望得到一个渐渐地从左到右变化且清晰的人脸。

因此，要如何实现任意两张人脸图像的中间过渡融合，保证插值出的中间帧图像也会是一个相对清晰的人脸，是需要解决的一个重要问题。

发明内容

为此，本发明提供了一种渐变动画的生成方法及计算设备，以力图解决或者至少缓解上面存在的至少一个问题。

根据本发明的一个方面，提供了一种渐变动画的生成方法，该方法适于在包含人脸的第一人脸图像和第二人脸图像的中间插入至少一个中间帧图像，以生成人脸渐变动画，包括步骤：按第一计算方式计算第一人脸图像的第一投影矩阵和第一全图三维模型；根据第一投影矩阵和第一全图三维模型以第二计算方式计算第一人脸图像的第一纹理坐标；对第二人脸图像依次执行第一计算方式和第二计算方式的计算步骤，得到第二人脸图像的第二投影矩阵、第二全图三维模型和第二纹理坐标；对于每个待插入的中间帧：根据第一投影矩阵、第二投影矩阵和待插入中间帧的位置计算待插入中间帧的投影矩阵；根据第一全图三维模型、第二全图三维模型和待插入中间帧的位置计算待插入中间帧的全图三维模型；根据待插入中间帧的投影矩阵和全图三维模型以第二计算方式计算该待插入中间帧的纹理坐标；根据待插入中间帧的纹理坐标与第一纹理坐标、第二纹理坐标分别生成该待插入中间帧的第一图像分量和第二图像分量；结合第一图像分量和第二图像分量生成中间帧图像；以及由第一人脸图像、第二人脸图像和生成的中间帧图像生成渐变动画。

可选地，在根据本发明的生成渐变动画的方法中，按第一计算方式计算人脸图像的投影矩阵的步骤包括：提取人脸图像中的人脸特征点；通过所提取的人脸特征点拟合得到人脸三维模型及该人脸三维模型对应的投影矩阵。

可选地，在根据本发明的生成渐变动画的方法中，按第一计算方式计算人脸图像的全图三维模型的步骤包括：根据人脸三维模型的深度差计算该人脸图像中非人脸区域的深度，得到全图三维模型。

可选地，在根据本发明的生成渐变动画的方法中，在提取人脸图像中的人脸特征点的步骤之前，还包括步骤：根据检测到的人脸区域对人脸图像进行裁剪和/或缩放处理。

可选地，在根据本发明的生成渐变动画的方法中，通过所提取的人脸特征点拟合得到人脸三维模型和投影矩阵的步骤包括：利用三维形变模型3DMM根据人脸图像的人脸特征点生成人脸图像的人脸三维模型和该人脸三维模型对应的投影矩阵。

可选地，在根据本发明的生成渐变动画的方法中，按第一计算方式计算全图三维模型的步骤包括：将人脸三维模型上鼻子中心点与每个轮廓点的连线分别向外延伸预定距离，得到对应的多个边缘点；以及从人脸三维模型上的顶点开始、按三角形关系依次连接多个边缘点，得到全图三维模型。

可选地，在根据本发明的生成渐变动画的方法中，根据投影矩阵和全图三维模型以第二计算方式计算人脸图像的纹理坐标的步骤包括：将投影矩阵和全图三维模型相乘得到纹理坐标。

可选地，在根据本发明的生成渐变动画的方法中，对于待插入的第i个中间帧，其对应的投影矩阵MVP_i为：

其中，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，MVP1表示第一投影矩阵，MVP2表示第二投影矩阵。

可选地，在根据本发明的生成渐变动画的方法中，对于待插入的第i个中间帧，其对应的全图三维模型M_expand_i为：

其中，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，M_expand1表示第一全图三维模型，M_expand2表示第二全图三维模型。

可选地，在根据本发明的生成渐变动画的方法中，对于待插入的第i个中间帧，其对应的第一图像分量Image1_i为：

其中，SumFrme表示插入中间帧后的总帧数，T1表示第一纹理坐标，T_i表示待插入的第i个中间帧的纹理坐标。

可选地，在根据本发明的生成渐变动画的方法中，对于待插入的第i个中间帧，其对应的第二图像分量Image2_i为：

其中，SumFrme表示插入中间帧后的总帧数，T2表示第二纹理坐标，T_i表示待插入的第i个中间帧的纹理坐标。

可选地，在根据本发明的生成渐变动画的方法中，对于待插入的第i个中间帧，其对应的中间帧图像frame_i为：

其中，SumFrme表示插入中间帧后的总帧数，Image1_i表示第一图像分量，Image2_i表示第二图像分量。

可选地，在根据本发明的生成渐变动画的方法中，待插入的中间帧的总帧数SumFrame与插入中间帧后的总帧数SumFrme之间的关系是：

SumFrme＝SumFrame+2。

根据本发明的又一方面，提供了一种计算设备，包括：一个或多个处理器；和存储器；一个或多个程序，其中一个或多个程序存储在存储器中并被配置为由一个或多个处理器执行，一个或多个程序包括用于执行如上所述方法中的任一方法的指令。

根据本发明的再一方面，提供了一种存储一个或多个程序的计算机可读存储介质，一个或多个程序包括指令，指令当计算设备执行时，使得计算设备执行如上所述的方法中的任一方法。

通过上述描述，本方案基于三维人脸重建技术实现了人脸图像之间的过渡，能够利用前后两帧人脸图像生成一个渐变动画。根据本方案，先利用人脸特征点生成人脸三维模型，再计算背景区域的深度信息，得到全图三维模型，并根据前后两帧图像的三维特征内插出多个中间帧，可以在不同脸型、不同表情、不同姿态的中间生成相应的过渡脸型、表情和姿态。另外，相比于直接利用2D人脸特征点做网格化，然后进行网格融合生成渐变动画的方案，本方案能够很好地解决两张人脸图像的人脸姿态差异较大时，生成的中间帧图像中人脸扭曲的问题。

附图说明

为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。

图1示出了根据本发明一个实施例的计算设备100的构造示意图；

图2示出了根据本发明一个实施例的渐变动画的生成方法200的流程图；

图3A示出了根据本发明一个实施例的人脸三维模型的示意图；以及

图3B示出了根据本发明一个实施例的由图3A的人脸三维模型扩展得到的全图三维网格模型的示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1是示例计算设备100的框图。在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理，包括但不限于：微处理器(μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器118可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个应用122以及程序数据124。在一些实施方式中，应用122可以布置为在操作系统上利用程序数据124进行操作。程序数据124包括指令，在根据本发明的计算设备100中，程序数据124包含用于执行渐变动画的生成方法的指令。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者，如存储一个或多个程序的计算机可读存储介质。

计算设备100可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。计算设备100还可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。在一些实施例中，计算设备100被配置为执行渐变动画的生成方法200。

如前文所述，在日常生活中，用户常希望输入任意两张人脸图像，由计算设备100利用这两张人脸图像插值出中间的过渡图像，最终输出渐变动画。下文将结合图2，详细描述根据本发明一个实施例的实现这样效果的方法200的流程图。

图2示出了根据本发明一个实施例的渐变动画的生成方法200的流程图。

如图2所示，该方法200始于步骤S210，按第一计算方式计算第一人脸图像的第一投影矩阵和第一全图三维模型。该步骤又可以细分为以下两个子步骤。

第一步，计算第一人脸图像的第一投影矩阵和第一人脸三维模型。首先，提取第一人脸图像中的人脸特征点。按照本发明的实施方式，将输入的人脸图像划分成两个区域，分别是：包括人脸的人脸区域和人脸区域以外的背景区域。人脸特征点包括但不限于人脸中表征眉毛、鼻子、眼角、嘴巴、脸外轮廓等特征的关键点。需要说明的是，提取人脸特征点已属于本领域比较成熟的算法，任何目前已知或者将来开发的人脸检测方法/人脸特征点提取方法均可与本发明的实施例结合使用，本发明的范围在此方面不受限制。

然后，通过所提取的人脸特征点拟合得到第一人脸三维模型及该第一人脸三维模型对应的第一投影矩阵。根据本发明的一个实施例，第一人脸三维模型和其对应的第一投影矩阵通过三维形变模型(3DMM)求得。其中，3DMM模型是1999年由Blanz和Vetter发表的《AMorphable Model For The Synthesis Of 3D Faces》论文提到的方法，该方法的基本思想是：将人脸空间看作一个线性空间，用事先建立好的三维人脸数据的线性组合的投影逼近二维图片上的人脸。具体地，利用3DMM模型求解第一人脸三维模型及其对应的第一投影矩阵的方法包括如下几步：

①利用人脸库、根据预先采集的三维人脸数据建立人脸空间基底和投影矩阵的初始参数。根据一种实施方式，该人脸空间基底可以包含人脸的形状向量和纹理向量，投影矩阵是采用人脸空间基底的特征点预估的，其初始参数包括相机的位置、图像平面的旋转角度、直射光和环境光的各个分量、图像对比度等等。

②对于给定的具体人脸(即人脸特征点)，根据人脸空间基底和初始参数的反复迭代，拟合出该人脸图像的三维人脸模型，换句话说，根据已有的具有相同顶点数和拓扑结构的三维人脸模型数据的相应的三维特征点，通过最小化三维模型线性组合的特征点投影后和二维特征点的距离，求解得到组合的参数，由该参数进一步得到拟合的三维人脸模型。如图3A，示出了根据本发明一个实施例的人脸三维模型的示意图，从图中可以看出，该人脸三维模型中的顶点可以按照三角形关系连接形成一种“网格结构”。同时，在拟合出该三维人脸模型的过程中，对应的投影矩阵的参数就形成了新的投影矩阵，即，该三维人脸模型对应的投影矩阵。

关于三维重建的具体内容可参考上述论文。任何目前已知的基于3DMM算法建立三维人脸模型的方法均可与本发明的实施例相结合，本发明对此不作限制。

第二步，根据第一人脸三维模型的深度差计算该第一人脸图像中非人脸区域的深度，得到第一全图三维模型。具体来说，将第一人脸三维模型上鼻子中心点与每个轮廓点的连线分别向外延伸预定距离，得到对应的多个边缘点，再从第一人脸三维模型上的顶点开始、按三角形关系依次连接多个边缘点，得到第一全图三维模型。

根据本发明的一个实施例，计算人脸三维模型上鼻子中心点的三维坐标值与每个轮廓点的三维坐标值的坐标差值，然后由该坐标差值对应计算每条鼻子中心点与轮廓点连线向外延伸的预定距离，以确定多个边缘点的三维坐标值。可选地，每个预定距离为对应坐标差值的预定倍数倍，如2-3倍。亦可以根据鼻子中心点与轮廓点的连线向外做多次延伸，只要与开始输入的人脸图像的宽高比保持一致即可。本发明对此方面不做限定。

如图3B，示出了在图3A的人脸三维模型的基础上扩展得到的全图三维网格模型的示意图。经过至少一次向外扩展得到人脸图像的全图三维模型后，人脸图像中的背景区域也可以随着人脸区域一起进行旋转、平移等变换，也就避免了当脸部姿态变换时，脸部区域和背景区域的连接处发生严重扭曲变形的问题。

根据本发明的又一个实施例，在提取第一人脸图像中的人脸特征点计算第一投影矩阵的步骤之前，还可以根据检测到的人脸区域对第一人脸图像进行裁剪和/或缩放处理。一般来说，人脸检测算法能够提供一个包含人脸区域的人脸框，可以直接将该人脸框的图裁剪出来，然后缩放到统一的大小；也可以不裁剪，直接缩放到统一大小，这样做可以保证输入的前后两张图像尺寸一致，也明确了待插入中间帧图像的尺寸，以形成(人脸大小)大小一致的渐变动画。

随后在步骤S220中，根据第一投影矩阵和第一全图三维模型以第二计算方式计算第一人脸图像的第一纹理坐标。根据本发明的一个实施例，将第一投影矩阵和第一全图三维模型相乘得到第一纹理坐标，假设(x,y,z)是全图三维模型上一个顶点的坐标，MVP是投影矩阵，那么：

(u,v,1)＝MVP*(x,y,z)

(u,v)就是该顶点(x,y,z)对应的纹理坐标。

随后在步骤S230中，对第二人脸图像依次执行第一计算方式和第二计算方式的计算步骤，得到第二人脸图像的第二投影矩阵、第二全图三维模型和第二纹理坐标。

根据本发明的实现方式，对第二人脸图像执行与第一人脸图像同样的计算步骤(如上述步骤S210和步骤S220所描述的那样)，即可求得第二人脸图像的第二投影矩阵、第二全图三维模型和第二纹理坐标。并且，可以对第一人脸图像和第二人脸图像一并进行处理，并不限制处理的先后顺序。其中所表述的投影矩阵包含了“第一投影矩阵”“第二投影矩阵”……各种可能的关于人脸图像的投影矩阵的叫法，类似的还有“人脸三维模型”“全图三维模型”“纹理坐标”等，只要计算方式遵从本方法所描述的那样即可。

随后的步骤中，对每个待插入的中间帧进行相应的处理，以生成插入的中间帧图像。假设要在第一人脸图像和第二人脸图像中插入SumFrame帧图像，对每一帧都执行如下步骤S240至步骤S280，以生成一个中间帧图像，当循环SumFrame后，就计算出了所有待插入的中间帧图像。

在步骤S240中，根据第一投影矩阵、第二投影矩阵和待插入中间帧的位置计算待插入中间帧的投影矩阵。对于待插入的第i个中间帧，其对应的投影矩阵MVP_i为：

其中，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，MVP1表示第一投影矩阵，MVP2表示第二投影矩阵。

一般地，SumFrme＝SumFrame+2。如，当要在用户输入的前后两帧人脸图像中间插入10帧图像时，SumFrame＝10，总帧数SumFrme＝12。

随后在步骤S250中，根据第一全图三维模型、第二全图三维模型和待插入中间帧的位置计算待插入中间帧的全图三维模型。对于待插入的第i个中间帧，其对应的全图三维模型M_expand_i为：

同上，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，M_expand1表示第一全图三维模型，M_expand2表示第二全图三维模型。

随后在步骤S260中，根据待插入中间帧的投影矩阵和全图三维模型以第二计算方式计算该待插入中间帧的纹理坐标。第二计算方式的具体计算过程在前文已经进行了详细描述，此处不再累述。

随后在步骤S270中，根据待插入中间帧的纹理坐标与第一纹理坐标生成该待插入中间帧的第一图像分量、据待插入中间帧的纹理坐标与第二纹理坐标分别生成该待插入中间帧的第二图像分量。

根据本发明的一个实施例，对于待插入的第i个中间帧，其对应的第一图像分量Image1_i和第二图像分量Image2_i分别为：

同样，SumFrme表示插入中间帧后的总帧数，另外，T1表示第一纹理坐标，T2表示第二纹理坐标，T_i表示待插入的第i个中间帧的纹理坐标。

随后在步骤S280中，结合第一图像分量和第二图像分量生成中间帧图像。对于待插入的第i个中间帧，其对应的中间帧图像frame_i为：

同样，SumFrme表示插入中间帧后的总帧数，Image1_i表示第一图像分量，Image2_i表示第二图像分量。

当经过多次循环，生成所有的中间帧图像后，在步骤S290中，再由第一人脸图像、第二人脸图像和生成的中间帧图像生成视频，即渐变动画。

本方案基于三维人脸重建技术实现了人脸图像之间的过渡，能够利用前后两帧人脸图像生成一个渐变动画。根据本发明的方案，先利用人脸特征点生成人脸三维模型，再计算背景区域的深度信息，得到全图三维模型，并根据前后两帧图像的三维特征内插出多个中间帧，可以在不同脸型、不同表情、不同姿态的中间生成相应的过渡脸型、表情和姿态。例如，从不笑到大笑的中间过渡生成微笑的表情，从一张左侧脸到一张右侧脸的中间生成从左往右转头的效果，并保证所插入的中间帧图像的人脸的清晰度。

另外，相比于直接利用2D人脸特征点做网格化，然后进行网格融合生成渐变动画的方案，本方案能够很好地解决两张人脸图像的人脸姿态差异较大时，生成的中间帧图像中人脸扭曲的问题。

这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本发明的方法和设备，或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被所述机器执行时，所述机器变成实践本发明的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的所述程序代码中的指令，执行本发明的方法。

以示例而非限制的方式，计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据，并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。

应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该发明的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本发明，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本发明的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本发明的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围，对本发明所做的公开是说明性的，而非限制性的，本发明的范围由所附权利要求书限定。

Claims (15)

1.一种渐变动画的生成方法，所述方法适于在包含人脸的第一人脸图像和第二人脸图像的中间插入至少一个中间帧图像，以生成人脸渐变动画，所述方法包括步骤：

按第一计算方式计算所述第一人脸图像的第一投影矩阵和第一全图三维模型；

根据所述第一投影矩阵和第一全图三维模型以第二计算方式计算所述第一人脸图像的第一纹理坐标；

对所述第二人脸图像依次执行所述第一计算方式和第二计算方式的计算步骤，得到第二人脸图像的第二投影矩阵、第二全图三维模型和第二纹理坐标；

对于每个待插入的中间帧：

根据所述第一投影矩阵、第二投影矩阵和待插入中间帧的位置计算待插入中间帧的投影矩阵；

根据所述第一全图三维模型、第二全图三维模型和待插入中间帧的位置计算待插入中间帧的全图三维模型；

根据所述待插入中间帧的投影矩阵和全图三维模型以第二计算方式计算该待插入中间帧的纹理坐标；

根据所述待插入中间帧的纹理坐标与第一纹理坐标、第二纹理坐标分别生成该待插入中间帧的第一图像分量和第二图像分量；

结合所述第一图像分量和第二图像分量生成中间帧图像；以及由所述第一人脸图像、第二人脸图像和生成的中间帧图像生成渐变动画。

2.如权利要求1所述的方法，其中，按第一计算方式计算人脸图像的投影矩阵的步骤包括：

提取所述人脸图像中的人脸特征点；

通过所提取的人脸特征点拟合得到人脸三维模型及该人脸三维模型对应的投影矩阵。

3.如权利要求2所述的方法，其中，按第一计算方式计算人脸图像的全图三维模型的步骤包括：

根据所述人脸三维模型的深度差计算该人脸图像中非人脸区域的深度，得到全图三维模型。

4.如权利要求3所述的方法，其中，在提取人脸图像中的人脸特征点的步骤之前，还包括步骤：

根据检测到的人脸区域对人脸图像进行裁剪和/或缩放处理。

5.如权利要求4所述的方法，其中，通过所提取的人脸特征点拟合得到人脸三维模型和投影矩阵的步骤包括：

利用三维形变模型3DMM根据人脸图像的人脸特征点生成人脸图像的人脸三维模型和该人脸三维模型对应的投影矩阵。

6.如权利要求5所述的方法，其中，按第一计算方式计算全图三维模型的步骤包括：

将人脸三维模型上鼻子中心点与每个轮廓点的连线分别向外延伸预定距离，得到对应的多个边缘点；以及

从人脸三维模型上的顶点开始、按三角形关系依次连接所述多个边缘点，得到全图三维模型。

7.如权利要求6所述的方法，其中，根据投影矩阵和全图三维模型以第二计算方式计算人脸图像的纹理坐标的步骤包括：

将所述投影矩阵和全图三维模型相乘得到纹理坐标。

8.如权利要求7所述的方法，其中，对于待插入的第i个中间帧，其对应的投影矩阵MVP_i为：

其中，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，MVP1表示第一投影矩阵，MVP2表示第二投影矩阵。

9.如权利要求8所述的方法，其中，对于待插入的第i个中间帧，其对应的全图三维模型M_expand_i为：

其中，SumFrame表示待插入的中间帧的总帧数，SumFrme表示插入中间帧后的总帧数，M_expand1表示第一全图三维模型，M_expand2表示第二全图三维模型。

10.如权利要求9所述的方法，其中，对于待插入的第i个中间帧，其对应的第一图像分量Image1_i为：

其中，SumFrme表示插入中间帧后的总帧数，T1表示第一纹理坐标，T_i表示待插入的第i个中间帧的纹理坐标。

11.如权利要求9所述的方法，其中，对于待插入的第i个中间帧，其对应的第二图像分量Image2_i为：

其中，SumFrme表示插入中间帧后的总帧数，T2表示第二纹理坐标，T_i表示待插入的第i个中间帧的纹理坐标。

12.如权利要求11所述的方法，其中，对于待插入的第i个中间帧，其对应的中间帧图像frame_i为：

其中，SumFrme表示插入中间帧后的总帧数，Image1_i表示第一图像分量，Image2_i表示第二图像分量。

13.如权利要求8-12中任一项所述的方法，其中，所述待插入的中间帧的总帧数SumFrame与插入中间帧后的总帧数SumFrme之间的关系是：

SumFrme＝SumFrame+2。

14.一种计算设备，包括：

一个或多个处理器；和

存储器；

一个或多个程序，其中所述一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行如权利要求1-13所述方法中的任一方法的指令。

15.一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令当计算设备执行时，使得所述计算设备执行如权利要求1-13所述的方法中的任一方法。

Images