CN115830067A - 头部姿态跟踪方法、装置、电子设备及存储介质 - Google Patents

Abstract

本申请涉及计算机视觉技术领域，特别涉及一种头部姿态跟踪方法、装置、电子设备及存储介质，其中，方法包括：将待跟踪目标的视频转换为图像序列，并输入预先训练完成的遮挡物识别网络，输出每帧图像中遮挡物的掩码图像；利用掩码图像将图像序列划分为参考帧图像和候选帧图像序列，并利用候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；将待补全帧图像序列、参考帧图像和掩码图像输入预先训练完成的变形补全网络，输出补全后的图像序列，基于补全图像序列实现待跟踪目标的头部姿态跟踪。由此，解决了相关技术中基于视频实现部姿态的跟踪，容易受到遮挡的影响，鲁棒性较差，从而导致头部姿态的误检和抖动等问题。

Description

头部姿态跟踪方法、装置、电子设备及存储介质

技术领域

本申请涉及计算机视觉技术领域，特别涉及一种头部姿态跟踪方法、装置、电子设备及存储介质。

背景技术

随着计算机技术的发展，元宇宙的概念被提出，旨在打造具备社会体系的数字生活空间。头部姿态作为该应用场景下的重要信息，对于相关应用的开发具有重大意义，因彩色相机的高普及度，彩色视频是头部姿态跟踪的常用输入之一。

头部姿态在人脸重建、人脸动画等领域有诸多应用。例如，一个准确的头部姿态可以为人脸重建算法提供良好的初始值，避免人脸重建过程中用人脸形状信息来补偿头部姿态的偏差，导致错误结果的产生。同时，准确的头部姿态跟踪可以让人脸动画显得更加真实与生动，增强用户的沉浸感与用户体验。另外，头部姿态的准确度还对一些下游任务至关重要。例如，在视线估计任务中，人的视线方向由头部姿态和眼球旋转共同决定，头部姿态的准确度对于最终视线估计的结果具有很大影响。

相关技术通常是基于神经网络的端到端方法，或者是结合人脸特征点和三维人脸模型的优化法，实现头部姿态的跟踪，但是容易受到遮挡的影响，鲁棒性较差，会造成头部姿态的误检和抖动。

发明内容

本申请提供一种头部姿态跟踪方法、装置、电子设备及存储介质，以解决相关技术中基于视频实现部姿态的跟踪，容易受到遮挡的影响，鲁棒性较差，导致头部姿态的误检和抖动等问题。

本申请第一方面实施例提供一种头部姿态跟踪方法，包括以下步骤：获取待跟踪目标的视频；将所述视频转换为图像序列，将所述图像序列输入预先训练完成的遮挡物识别网络，输出所述图像序列中每帧图像中遮挡物的掩码图像；利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，并利用所述候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；将所述待补全帧图像序列、所述参考帧图像和所述每帧图像的掩码图像输入预先训练完成的变形补全网络，输出所述待补全帧图像序列的补全图像序列，基于所述补全图像序列实现所述待跟踪目标的头部姿态跟踪。

可选地，在本申请的一个实施例中，所述利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，包括：根据所述掩码图像识别所述图像序列中是否存在无遮挡图像；若存在所述无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取所述图像序列中遮挡最少的图像作为参考帧图像，并将所述图像序列中所述参考帧图像以外的剩余帧图像作为候选帧图像序列。

可选地，在本申请的一个实施例中，所述遮挡物识别网络的训练过程包括：获取未训练遮挡物识别网络的训练数据，其中，所述训练数据包括遮挡物图像和所述遮挡物图像对应的真实掩码图像；将所述遮挡物图像输入所述未训练遮挡物识别网络，输出所述遮挡物图像的训练掩码图像，根据所述真实掩码图像和所述训练掩码图像计算训练损失值，若所述训练损失值大于预设值，则基于所述训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

可选地，在本申请的一个实施例中，所述变形补全网络的训练过程包括：获取无遮挡图像的图像序列；将所述图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；随机生成不同形状的掩码图像，利用所述掩码图像掩盖所述候选帧图像的随机图像区域，得到待补全帧图像；将所述待补全帧图像、所述参考帧图像和所述掩码图像输入未训练的变形补全网络，利用图像重建损失约束所述变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

本申请第二方面实施例提供一种头部姿态跟踪装置，包括：获取模块，用于获取待跟踪目标的视频；转换模块，用于将所述视频转换为图像序列，将所述图像序列输入预先训练完成的遮挡物识别网络，输出所述图像序列中每帧图像中遮挡物的掩码图像；划分模块，用于利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，并利用所述候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；跟踪模块，用于将所述待补全帧图像序列、所述参考帧图像和所述每帧图像的掩码图像输入预先训练完成的变形补全网络，输出所述待补全帧图像序列的补全图像序列，基于所述补全图像序列实现所述待跟踪目标的头部姿态跟踪。

可选地，在本申请的一个实施例中，所述划分模块，进一步用于根据所述掩码图像识别所述图像序列中是否存在无遮挡图像；若存在所述无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取所述图像序列中遮挡最少的图像作为参考帧图像，并将所述图像序列中所述参考帧图像以外的剩余帧图像作为候选帧图像序列。

可选地，在本申请的一个实施例中，还包括：第一训练模块，用于获取未训练遮挡物识别网络的训练数据，其中，所述训练数据包括遮挡物图像和所述遮挡物图像对应的真实掩码图像；将所述遮挡物图像输入所述未训练遮挡物识别网络，输出所述遮挡物图像的训练掩码图像，根据所述真实掩码图像和所述训练掩码图像计算训练损失值，若所述训练损失值大于预设值，则基于所述训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

可选地，在本申请的一个实施例中，还包括：第二训练模块，用于获取无遮挡图像的图像序列；所述图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；随机生成不同形状的掩码图像，利用所述掩码图像掩盖所述候选帧图像的随机图像区域，得到待补全帧图像；将所述待补全帧图像、所述参考帧图像和所述掩码图像输入未训练的变形补全网络，利用图像重建损失约束所述变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的头部姿态跟踪方法。

本申请第四方面实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行，以用于实现如上述实施例所述的头部姿态跟踪方法。

由此，本申请至少具有如下有益效果：

通过将待跟踪目标的视频转换为图像序列，利用视频的帧间信息，使用训练后的网络估计参考帧与待补全帧之间的变形场，将参考帧的对应区域自动填补到待补全帧的遮挡区域上，从而兼容遮挡情况下的头部姿态估计，能够极大缓解因遮挡造成的头部姿态误检和抖动等问题。由此，解决了相关技术中直接基于视频实现部姿态的跟踪，容易受到遮挡的影响，鲁棒性较差，会出现头部姿态的误检和抖动等问题。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本申请实施例提供的一种头部姿态跟踪方法的流程图；

图2为根据本申请实施例提供的头部姿态跟踪使用步骤示意图；

图3为根据本申请实施例提供的一种头部姿态跟踪装置的方框示意图；

图4为根据本申请实施例提供的电子设备的结构示意图。

附图标记说明：获取模块-100、转换模块-200、划分模块-300、跟踪模块-400、存储器-401、处理器-402、通信接口-403。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的头部姿态跟踪方法、装置、电子设备及存储介质。针对上述背景技术中提到的问题，本申请提供了一种头部姿态跟踪方法，在该方法中，通过将待跟踪目标的视频转换为图像序列，利用视频的帧间信息，使用训练后的网络估计参考帧与待补全帧之间的变形场，将参考帧的对应区域自动填补到待补全帧的遮挡区域上，从而兼容遮挡情况下的头部姿态估计，能够极大缓解因遮挡造成的头部姿态误检和抖动等问题。由此，解决了相关技术中直接基于视频实现部姿态的跟踪，容易受到遮挡的影响，鲁棒性较差，会出现头部姿态的误检和抖动等问题。

具体而言，图1为本申请实施例所提供的一种头部姿态跟踪方法的流程示意图。

如图1所示，该头部姿态跟踪方法包括以下步骤：

在步骤S101中，获取待跟踪目标的视频。

可以理解的是，准确的头部姿态跟踪可以让人脸动画显得更加真实与生动，增强用户的沉浸感与用户体验，本申请实施例首先可以获取待跟踪目标的视频，以便后续对视频中被遮挡区域进行检测并补全等操作。

在步骤S102中，将视频转换为图像序列，将图像序列输入预先训练完成的遮挡物识别网络，输出图像序列中每帧图像中遮挡物的掩码图像。

由于遮挡物体的形状颜色各异，用传统的图像算法难以处理。通过神经网络以数据驱动的方式，实现遮挡物的自动识别，本申请实施例可以将跟踪目标的视频转成图像序列，通过神经网络以数据驱动的方式，自动识别人脸遮挡物，并输出遮挡物的掩码图像。

在步骤S103中，利用掩码图像将图像序列划分为参考帧图像和候选帧图像序列，并利用候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列。

具体而言，本申请实施例可以充分利用视频的帧间信息，利用候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，相比于用带遮挡物的数据重新开发头部姿态跟踪方法，本申请实施例可以复用不考虑遮挡物的头部姿态跟踪方法与无遮挡物的数据，极大降低了解决遮挡问题的成本。

在本申请的一个实施例中，利用掩码图像将图像序列划分为参考帧图像和候选帧图像序列，包括：根据掩码图像识别图像序列中是否存在无遮挡图像；若存在无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取图像序列中遮挡最少的图像作为参考帧图像，并将图像序列中参考帧图像以外的剩余帧图像作为候选帧图像序列。

本申请实施例可以选取无遮挡的一帧图像作为参考帧，如果均有遮挡，则选取遮挡最少的图像作为参考帧图像，其他帧的图像作为候选帧图像序列，以便利用掩码图像将其他帧的遮挡区域掩盖，生成待补全帧序列，为头部姿态跟踪方法提供更优质的输入条件。

在步骤S104中，将待补全帧图像序列、参考帧图像和每帧图像的掩码图像输入预先训练完成的变形补全网络，输出待补全帧图像序列的补全图像序列，基于补全图像序列实现待跟踪目标的头部姿态跟踪。

本申请实施例可以利用了视频的帧间信息，将参考帧的对应区域通过图像变形的方式填补到待补全帧的遮挡区域上，保证人脸生物特征的一致性，从而避免因补全内容与实际人脸不一致造成的偏差，为头部姿态跟踪方法提供更优质的输入条件，从而避免因遮挡造成的头部姿态误检和抖动等问题。

在实际执行过程中，本申请实施例可以结合人脸特征点和三维人脸模型的优化法为例，利用现有的人脸特征点检测技术在补全后的图像上进行人脸特征点检测，结合三维人脸模型构建特征点和模型投影点之间的二维目标函数，利用优化法求解头部姿态，极大提高遮挡情况下头部姿态跟踪的准确度，其中，优化法可以为高斯牛顿、共轭梯度等算法。

在本申请的一个实施例中，遮挡物识别网络的训练过程包括：获取未训练遮挡物识别网络的训练数据，其中，训练数据包括遮挡物图像和遮挡物图像对应的真实掩码图像；将遮挡物图像输入未训练遮挡物识别网络，输出遮挡物图像的训练掩码图像，根据真实掩码图像和训练掩码图像计算训练损失值，若训练损失值大于预设值，则基于训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

本申请实施例可以利用训练后的遮挡物识别网络自动识别遮挡物，并输出遮挡物的掩码图像。详细训练过程如下：通过获取带遮挡物的人脸图像，以及遮挡物对应的掩码图像，并将带遮挡物的图像输入给未训练的遮挡物识别网络，利用交叉熵损失函数约束其输出与真实的掩码图像相近。

在本申请的一个实施例中，变形补全网络的训练过程包括：获取无遮挡图像的图像序列；将图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；随机生成不同形状的掩码图像，利用掩码图像掩盖候选帧图像的随机图像区域，得到待补全帧图像；将待补全帧图像、参考帧图像和掩码图像输入未训练的变形补全网络，利用图像重建损失约束变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

本申请实施例可以通过训练后的变形补全网络输出待补全帧图像序列的补全图像序列，以实现待跟踪目标的头部姿态跟踪。详细训练过程如下：通过收集无遮挡的人脸彩色视频，将其中随机一帧作为参考帧，其余帧作为候选帧，并随机生成不同形状的掩码图像，并掩盖候选帧的随机图像区域，得到待补全帧，将待补全帧、参考帧以及掩盖用的掩码图像输入给未训练的变形补全网络，利用图像重建损失约束其输出与掩盖前的候选帧相近，利用总变差损失约束参考帧与待补全帧的变形场尽可能接近刚性变形。

下面结合图2对本申请实施例的头部姿态跟踪方法进行详细说明，步骤如下：

步骤1：输入彩色视频，将其转换为彩色图像序列；

步骤2：将彩色图像序列输入训练好的遮挡物识别网络，输出每帧图像中遮挡物的掩码图像；

步骤3：选取无遮挡的一帧图像作为参考帧(如果均有遮挡，则选取遮挡最少的图像)；

步骤4：利用掩码图像将其他帧的遮挡区域掩盖，生成待补全帧序列；

步骤5：将待补全帧序列、参考帧以及掩码图像序列输入变形补全网络，输出补全后的图像序列；

步骤6：以结合人脸特征点和三维人脸模型的优化法为例，利用人脸特征点检测技术在补全后的图像进行人脸特征点检测，结合三维人脸模型构建特征点和模型投影点之间的二维目标函数，利用优化法求解头部姿态，其中，人脸特征点检测技术可以根据实际情况具体选择，不作具体限定。

根据本申请实施例提出的头部姿态跟踪方法，通过将待跟踪目标的视频转换为图像序列，利用视频的帧间信息，使用训练后的网络估计参考帧与待补全帧之间的变形场，将参考帧的对应区域自动填补到待补全帧的遮挡区域上，从而兼容遮挡情况下的头部姿态估计，能够极大缓解因遮挡造成的头部姿态误检和抖动等问题。由此，解决了相关技术中直接基于视频实现部姿态的的跟踪，容易受到遮挡的影响，鲁棒性较差，会出现头部姿态的误检和抖动等问题。

其次参照附图描述根据本申请实施例提出的一种头部姿态跟踪装置。

图3是本申请实施例的一种头部姿态跟踪装置的方框示意图。

如图3所示，该头部姿态跟踪装置10包括：获取模块100、转换模块200、划分模块300和跟踪模块400。

其中，获取模块100用于获取待跟踪目标的视频；转换模块200用于将视频转换为图像序列，将图像序列输入预先训练完成的遮挡物识别网络，输出图像序列中每帧图像中遮挡物的掩码图像；划分模块300用于利用掩码图像将图像序列划分为参考帧图像和候选帧图像序列，并利用候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；跟踪模块400用于将待补全帧图像序列、参考帧图像和每帧图像的掩码图像输入预先训练完成的变形补全网络，输出待补全帧图像序列的补全图像序列，基于补全图像序列实现待跟踪目标的头部姿态跟踪。

可选地，在本申请的一个实施例中，划分模块300进一步用于根据掩码图像识别图像序列中是否存在无遮挡图像；若存在无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取图像序列中遮挡最少的图像作为参考帧图像，并将图像序列中参考帧图像以外的剩余帧图像作为候选帧图像序列。

可选地，在本申请的一个实施例中，本申请实施例的装置10还包括：第一训练模块。

其中，第一训练模块，用于获取未训练遮挡物识别网络的训练数据，其中，训练数据包括遮挡物图像和遮挡物图像对应的真实掩码图像；将遮挡物图像输入未训练遮挡物识别网络，输出遮挡物图像的训练掩码图像，根据真实掩码图像和训练掩码图像计算训练损失值，若训练损失值大于预设值，则基于训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

可选地，在本申请的一个实施例中，本申请实施例的装置10还包括：第二训练模块。

其中，第二训练模块用于获取无遮挡图像的图像序列；图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；随机生成不同形状的掩码图像，利用掩码图像掩盖候选帧图像的随机图像区域，得到待补全帧图像；将待补全帧图像、参考帧图像和掩码图像输入未训练的变形补全网络，利用图像重建损失约束变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

需要说明的是，前述对头部姿态跟踪方法实施例的解释说明也适用于该实施例的头部姿态跟踪装置，此处不再赘述。

根据本申请实施例提出的头部姿态跟踪装置，通过将待跟踪目标的视频转换为图像序列，利用视频的帧间信息，使用训练后的网络估计参考帧与待补全帧之间的变形场，将参考帧的对应区域自动填补到待补全帧的遮挡区域上，从而兼容遮挡情况下的头部姿态估计，能够极大缓解因遮挡造成的头部姿态误检和抖动等问题。由此，解决了相关技术中直接基于视频实现部姿态的的跟踪，容易受到遮挡的影响，鲁棒性较差，会出现头部姿态的误检和抖动等问题。

图4为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：

存储器401、处理器402及存储在存储器401上并可在处理器402上运行的计算机程序。

处理器402执行程序时实现上述实施例中提供的头部姿态跟踪方法。

进一步地，电子设备还包括：

通信接口403，用于存储器401和处理器402之间的通信。

存储器401，用于存放可在处理器402上运行的计算机程序。

存储器401可能包含高速RAM(Random Access Memory，随机存取存储器)存储器，也可能还包括非易失性存储器，例如至少一个磁盘存储器。

如果存储器401、处理器402和通信接口403独立实现，则通信接口403、存储器401和处理器402可以通过总线相互连接并完成相互间的通信。总线可以是ISA(IndustryStandard Architecture，工业标准体系结构)总线、PCI(Peripheral Component，外部设备互连)总线或EISA(Extended Industry Standard Architecture，扩展工业标准体系结构)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

可选的，在具体实现上，如果存储器401、处理器402及通信接口403，集成在一块芯片上实现，则存储器401、处理器402及通信接口403可以通过内部接口完成相互间的通信。

处理器402可能是一个CPU(Central Processing Unit，中央处理器)，或者是ASIC(Application Specific Integrated Circuit，特定集成电路)，或者是被配置成实施本申请实施例的一个或多个集成电路。

本申请实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的头部姿态跟踪方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不是必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列，现场可编程门阵列等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

Claims (10)

1.一种头部姿态跟踪方法，其特征在于，包括以下步骤：

获取待跟踪目标的视频；

将所述视频转换为图像序列，将所述图像序列输入预先训练完成的遮挡物识别网络，输出所述图像序列中每帧图像中遮挡物的掩码图像；

利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，并利用所述候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；

将所述待补全帧图像序列、所述参考帧图像和所述每帧图像的掩码图像输入预先训练完成的变形补全网络，输出所述待补全帧图像序列的补全图像序列，基于所述补全图像序列实现所述待跟踪目标的头部姿态跟踪。

2.根据权利要求1所述的方法，其特征在于，所述利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，包括：

根据所述掩码图像识别所述图像序列中是否存在无遮挡图像；

若存在所述无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取所述图像序列中遮挡最少的图像作为参考帧图像，并将所述图像序列中所述参考帧图像以外的剩余帧图像作为候选帧图像序列。

3.根据权利要求1所述的方法，其特征在于，所述遮挡物识别网络的训练过程包括：

获取未训练遮挡物识别网络的训练数据，其中，所述训练数据包括遮挡物图像和所述遮挡物图像对应的真实掩码图像；

将所述遮挡物图像输入所述未训练遮挡物识别网络，输出所述遮挡物图像的训练掩码图像，根据所述真实掩码图像和所述训练掩码图像计算训练损失值，若所述训练损失值大于预设值，则基于所述训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

4.根据权利要求1所述的方法，其特征在于，所述变形补全网络的训练过程包括：

获取无遮挡图像的图像序列；

将所述图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；

随机生成不同形状的掩码图像，利用所述掩码图像掩盖所述候选帧图像的随机图像区域，得到待补全帧图像；

将所述待补全帧图像、所述参考帧图像和所述掩码图像输入未训练的变形补全网络，利用图像重建损失约束所述变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

5.一种头部姿态跟踪装置，其特征在于，包括：

获取模块，用于获取待跟踪目标的视频；

转换模块，用于将所述视频转换为图像序列，将所述图像序列输入预先训练完成的遮挡物识别网络，输出所述图像序列中每帧图像中遮挡物的掩码图像；

划分模块，用于利用所述掩码图像将所述图像序列划分为参考帧图像和候选帧图像序列，并利用所述候选帧图像序列中每帧图像的掩码图像掩盖遮挡区域，生成待补全帧图像序列；

跟踪模块，用于将所述待补全帧图像序列、所述参考帧图像和所述每帧图像的掩码图像输入预先训练完成的变形补全网络，输出所述待补全帧图像序列的补全图像序列，基于所述补全图像序列实现所述待跟踪目标的头部姿态跟踪。

6.根据权利要求5所述的装置，其特征在于，所述划分模块，进一步用于：

根据所述掩码图像识别所述图像序列中是否存在无遮挡图像；

若存在所述无遮挡图像，则选择任意一帧无遮挡图像作为参考帧图像，否则选取所述图像序列中遮挡最少的图像作为参考帧图像，并将所述图像序列中所述参考帧图像以外的剩余帧图像作为候选帧图像序列。

7.根据权利要求5所述的装置，其特征在于，还包括：

第一训练模块，用于获取未训练遮挡物识别网络的训练数据，其中，所述训练数据包括遮挡物图像和所述遮挡物图像对应的真实掩码图像；

将所述遮挡物图像输入所述未训练遮挡物识别网络，输出所述遮挡物图像的训练掩码图像，根据所述真实掩码图像和所述训练掩码图像计算训练损失值，若所述训练损失值大于预设值，则基于所述训练继续迭代训练，否则停止迭代训练，得到训练完成的遮挡物识别网络。

8.根据权利要求5所述的装置，其特征在于，还包括：

第二训练模块，用于获取无遮挡图像的图像序列；

将所述图像序列中任意一帧图像作为参考帧图像，剩余帧为候选帧图像；

随机生成不同形状的掩码图像，利用所述掩码图像掩盖所述候选帧图像的随机图像区域，得到待补全帧图像；

将所述待补全帧图像、所述参考帧图像和所述掩码图像输入未训练的变形补全网络，利用图像重建损失约束所述变形补全网络输出的补全图像与掩盖前的候选帧图像之间的损失处于预设范围内，利用总变差损失约束参考帧图像与待补全帧图像之间的变形场满足预设刚性变形条件，得到训练完成的变形补全网络。

9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-4任一项所述的头部姿态跟踪方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-4任一项所述的头部姿态跟踪。

Images