CN107483892A - 视频数据实时处理方法及装置、计算设备 - Google Patents

Abstract

本发明公开了一种视频数据实时处理方法及装置、计算设备，其方法包括：实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明采用了深度学习方法，实现了高效率高精准性地完成三维化处理。且对用户技术水平不做限制，不需要用户对录制的视频进行额外处理，节省用户时间。

Description

视频数据实时处理方法及装置、计算设备

技术领域

本发明涉及图像处理领域，具体涉及一种视频数据实时处理方法及装置、计算设备。

背景技术

随着科技的发展，图像采集设备的技术也日益提高。使用图像采集设备录制的视频也更加清晰、分辨率、显示效果也大幅提高。但现有录制的视频仅是单调的录制素材本身，无法满足用户提出的越来越多的个性化要求。现有技术可以在录制视频后，由用户手动对视频再做进一步的处理，以满足用户的个性化要求。但这样处理需要用户具有较高的图像处理技术，并且在处理时需要花费用户较多的时间，处理繁琐，技术复杂。

因此，需要一种视频数据实时处理方法，以便实时满足用户的个性化要求。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的视频数据实时处理方法及装置、计算设备、存储介质。

根据本发明的一个方面，提供了一种视频数据实时处理方法，其包括：

实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

将特定对象进行三维化处理；

提取特定对象的图像纹理信息；

根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；

将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；

显示处理后的视频数据。

可选地，在实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像之后，方法还包括：提取特定对象的关键点信息。

可选地，在绘制预设三维道具之前，方法还包括：

将预设三维道具与标准特定对象进行拟合处理；

根据特定对象的关键点信息和标准特定对象的关键点信息，确定预设三维道具的缩放比例；

根据缩放比例，对预设三维道具进行缩放处理。

可选地，在将特定对象进行三维化处理之后，方法还包括：获取特定对象在当前帧图像中的位置信息；

在绘制预设三维道具之前，方法还包括：根据特定对象在当前帧图像中的位置信息移动预设三维道具。

可选地，在将特定对象进行三维化处理之后，方法还包括：获取特定对象在当前帧图像中的旋转角度信息；

在绘制预设三维道具之前，方法还包括：根据特定对象在当前帧图像中的旋转角度信息旋转预设三维道具。

可选地，在将特定对象进行三维化处理之后，方法还包括：根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

在绘制预设三维道具之前，方法还包括：根据具有对称关系的至少两个关键点之间的距离，对预设三维道具进行缩放处理。

可选地，在实时显示当前帧处理后的图像之前，方法还包括：

对当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

可选地，显示处理后的视频数据进一步包括：将处理后的视频数据实时显示；

方法还包括：

将处理后的视频数据上传至云服务器。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云直播服务器，以供云直播服务器将视频数据实时推送给观看用户客户端。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云公众号服务器，以供云公众号服务器将视频数据推送给公众号关注客户端。

根据本发明的另一方面，提供了一种视频数据实时处理装置，其包括：

获取模块，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

三维处理模块，适于将特定对象进行三维化处理；

第一提取模块，适于提取特定对象的图像纹理信息；

绘制模块，适于根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；

覆盖模块，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据；

显示模块，适于显示处理后的视频数据。

可选地，装置还包括：

第二提取模块，适于提取特定对象的关键点信息。

可选地，装置还包括：

拟合模块，适于将预设三维道具与标准特定对象进行拟合处理；

第一缩放模块，适于根据特定对象的关键点信息和标准特定对象的关键点信息，确定预设三维道具的缩放比例；根据缩放比例，对预设三维道具进行缩放处理。

可选地，装置还包括：

位置获取模块，适于获取特定对象在当前帧图像中的位置信息；

移动模块，适于根据特定对象在当前帧图像中的位置信息移动预设三维道具。

可选地，装置还包括：

角度获取模块，适于获取特定对象在当前帧图像中的旋转角度信息；

旋转模块，适于根据特定对象在当前帧图像中的旋转角度信息旋转预设三维道具。

可选地，装置还包括：

计算模块，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

第二缩放模块，适于根据具有对称关系的至少两个关键点之间的距离，对预设三维道具进行缩放处理。

可选地，装置还包括：

图像处理模块，适于对当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

可选地，显示模块进一步适于将处理后的视频数据实时显示；

装置还包括：

上传模块，适于将处理后的视频数据上传至云服务器。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云直播服务器，以供云直播服务器将视频数据实时推送给观看用户客户端。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云公众号服务器，以供云公众号服务器将视频数据推送给公众号关注客户端。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述视频数据实时处理方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述视频数据实时处理方法对应的操作。

根据本发明提供的视频数据实时处理方法及装置、计算设备，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到录制视频时包含特定对象的当前帧图像后，对特定对象进行三维化处理，使得特定对象显示更立体化。根据提取的特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像，并覆盖原当前帧图像得到处理后的视频数据。本发明可以直接得到处理后的视频。本发明采用了深度学习方法，实现了高效率高精准性地完成三维化处理。且不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的视频数据实时处理方法的流程图；

图2示出了根据本发明另一个实施例的视频数据实时处理方法的流程图；

图3示出了根据本发明一个实施例的视频数据实时处理装置的功能框图；

图4示出了根据本发明另一个实施例的视频数据实时处理装置的功能框图；

图5示出了根据本发明一个实施例的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

本发明中特定对象可以是图像中的人体、植物、动物等任何对象，在实施例中以人体脸部为例进行说明，但不仅限于人体脸部。

图1示出了根据本发明一个实施例的视频数据实时处理方法的流程图。如图1所示，视频数据实时处理方法具体包括如下步骤：

步骤S101，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头在录制视频时的当前帧图像或者拍摄视频时的当前帧图像。由于本发明对特定对象进行处理，因此获取当前帧图像时仅获取包含特定对象的当前帧图像。除实时获取图像采集设备所拍摄和/或所录制的视频外，还可以实时获取当前所播放的视频中包含特定对象的当前帧图像。其中，当前帧图像中包含了特定对象，如人体脸部。

步骤S102，将特定对象进行三维化处理。

将特定对象通过深度学习进行三维化处理。三维化处理可以通过深度学习方法进行处理。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。具体的，如将人体脸部进行三维化处理时，可以提取当前帧图像中的人脸的关键信息。该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息进行三维化处理的处理速度和效率，可以直接根据关键点信息进行三维化处理，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，进行三维化处理的效果更精准。构建三维的人脸模型，使得当前帧图像中的人脸的关键点信息与三维人脸模型上的各对应点之间的二维投影欧式距离最小。欧氏距离是指在m维空间中两个点之间的真实距离，或者向量的自然长度(即该点到原点的距离)，在二维、三维空间中，欧氏距离就是两点之间的实际距离。构建三维模型是基于3D人脸数据库中的身份和表情重构矩阵，对于一个给定的人脸的关键点信息的集合，可通过坐标下降(coordinate descent)的方式求得身份，表情重构系数和旋转缩放平移参数使欧式距离收敛，进而构建出对应人脸的三维构建模型。利用三维构建模型将人体脸部进行三维化处理，得到三维化的人脸。除以上举例说明外，还可以利用深度学习的其他方式对特定对象进行三维化处理，在此不作限定。但需要注意的是，该三维化处理后的特定对象没有纹理特征信息。

步骤S103，提取特定对象的图像纹理信息。

提取当前帧图像中特定对象的图像纹理信息，图像纹理信息记录了当前帧图像中特定对象的空间颜色分布和光强分布等信息。在提取特定对象的图像纹理信息时可以使用如LBP(Local binary patterns)局部二值模式方法、灰度共生矩阵等方法进行提取。

步骤S104，根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像。

根据提取到的特定对象的图像纹理信息对三维化处理后的特定对象进行绘制，得到包含了纹理特征的三维化特定对象。

绘制预设的三维道具，并将绘制的三维道具与特定对象相贴合，使其立体的呈现道具与特定对象一体化的效果。三维道具可以为如帽子，将其与特定对象如人体脸部相贴合，形成在人体脸部戴上帽子的视觉效果。三维道具不限于穿戴的衣物，根据实施情况设置，任何三维化的道具均可将其与特定对象相贴合，得到当前帧处理后的图像。

步骤S105，将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据。

使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

步骤S106，显示处理后的视频数据。

得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

根据本发明提供的视频数据实时处理方法，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到视频包含特定对象的当前帧图像后，对特定对象进行三维化处理，使得特定对象显示更立体化。根据提取的特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像，并覆盖原当前帧图像得到处理后的视频数据。本发明可以直接得到处理后的视频，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

图2示出了根据本发明另一个实施例的视频数据实时处理方法的流程图。如图2所示，视频数据实时处理方法具体包括如下步骤：

步骤S201，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

该步骤参考图1实施例中的步骤S101的描述，在此不再赘述。

步骤S202，提取特定对象的关键点信息。

从当前帧图像中提取出特定对象的关键点信息，关键点信息包括特定对象边缘的关键点信息，还可以包括特定对象某些的特定区域的关键点信息。

根据提取出的关键点信息，可以确定特定对象各关键点位置，方便后续对特定对象和预设三维道具进行贴合。

步骤S203，将特定对象进行三维化处理。

将特定对象通过深度学习进行三维化处理。具体的，如使用深度学习将人体脸部进行三维化处理，提取人脸的关键点信息。构建三维的人脸模型。利用三维构建模型将人体脸部进行三维化处理，得到三维化的人脸。需要注意的是，该三维化处理后的特定对象没有纹理特征信息。

步骤S204，获取特定对象在当前帧图像中的位置信息。

位置信息可以通过提取的特定对象的关键点信息进行计算后获取，得到特定对象在当前帧图像中的具体的位置。

步骤S205，获取特定对象在当前帧图像中的旋转角度信息。

考虑到特定对象在图像采集设备到的当前帧图像中可能存在不是正向面对的情况，如人体脸部向左扭头的形式在当前帧图像中呈现。根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的旋转角度，得到特定对象在当前帧图像中的旋转角度信息。

步骤S206，根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

由于特定对象与图像采集设备的距离不同，导致特定对象在当前帧图像中的大小也不一致。如人体脸部与图像采集设备的距离较远时，人体脸部在当前帧图像中呈现较小，人体脸部与图像采集设备的距离较近时，人体脸部在当前帧图像中呈现较大。根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算出人体脸部边缘两个眼角所在位置的关键点之间的距离。

步骤S207，提取特定对象的图像纹理信息。

提取当前帧图像中特定对象的图像纹理信息，图像纹理信息记录了当前帧图像中特定对象的空间颜色分布和光强分布等信息。在提取特定对象的图像纹理信息时可以使用如LBP(Local binary patterns)局部二值模式方法、灰度共生矩阵等方法进行提取。

以上步骤S204-S207的执行顺序不做限定，可以优先执行其中任一步骤。

步骤S208，根据特定对象的图像纹理信息绘制三维化处理后的特定对象。

根据提取到的特定对象的图像纹理信息对三维化处理后的特定对象进行绘制，得到包含了纹理特征的三维化特定对象。

步骤S209，将预设三维道具与标准特定对象进行拟合处理。

每个特定对象都有其对应的标准特定对象。如标准人体脸部。标准特定对象是根据特定对象预先建立的。标准特定对象为三维化的标准特定对象。

先将预设三维道具与三维化的标准特定对象进行拟合处理，即通过将预设的三维道具的坐标与标准特定对象的坐标进行设置调整，使预设的三维道具可以与标准特定对象相贴合。

步骤S210，根据特定对象的关键点信息和标准特定对象的关键点信息，确定预设三维道具的缩放比例。

步骤S211，根据缩放比例，对预设三维道具进行缩放处理。

由于特定对象和标准特定对象可能存在不一致的情况，根据特定对象的关键点信息和标准特定对象的关键点信息，可以确定两者的比例关系。该比例关系即预设三维道具的缩放比例。如将特定对象边缘的关键点信息和标准特定对象边缘的关键点信息相比，特定对象与标准特定对象的比例关系为1.5:1，根据缩放比例，将预设三维道具放大处理，放大1.5倍，以便与特定对象更相贴合。或者将特定对象边缘的关键点信息和标准特定对象边缘的关键点信息相比，特定对象与标准特定对象的比例关系为0.8:1，根据缩放比例，将预设三维道具缩小处理，缩小0.8，以便与特定对象更相贴合。

步骤S212，根据特定对象在当前帧图像中的位置信息移动预设三维道具。

根据获取的特定对象在当前帧图像中的位置信息移动预设三维道具，将预设三维道具移动至与特定对象更贴合的位置。

步骤S213，根据特定对象在当前帧图像中的旋转角度信息旋转预设三维道具。

根据特定对象在当前帧图像中的旋转角度信息，旋转预设三维道具。如特定对象在当前帧图像中的旋转角度信息为向左旋转了15度，对应的将预设三维道具向左旋转15度，以便与特定对象更相贴合。

步骤S214，根据具有对称关系的至少两个关键点之间的距离，对预设三维道具进行缩放处理。

根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离，根据距离，对预设三维道具进行缩放处理，以便与特定对象更相贴合。如计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体脸部与图像采集设备的距离较远，由于人体脸部在当前帧图像中呈现较小，三维化后的人体脸部也较小，对应的将预设三维道具进行缩小处理，以便与特定对象更相贴合。或者计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体脸部与图像采集设备的距离较近，由于人体脸部在当前帧图像中呈现较大，三维化后的人体脸部也较大，对应的将预设三维道具进行放大处理，以便与特定对象更相贴合。

步骤S215，绘制预设三维道具，得到当前帧处理后的图像。

将经过以上步骤处理的三维道具绘制在经过三维化处理后的特定对象向贴合的位置处，得到当前帧处理后的图像。

步骤S216，对当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

由于当前帧处理后的图像中包含了三维化的特定对象和预设三维道具，为使当前帧处理后的图像的效果更自然真实，可以对当前帧处理后的图像进行图像处理。图像处理可以包括对当前帧处理后的图像进行色调处理、光照处理、亮度处理等。如对当前帧处理后的图像添加整体的光照效果，将当前帧处理后的图像的色调、亮度等进行调整等处理，使其整体的效果更加自然真实。

步骤S217，将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据。

使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

步骤S218，显示处理后的视频数据。

得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

步骤S219，将处理后的视频数据上传至云服务器。

将处理后的视频数据可以直接上传至云服务器，具体的，可以将处理后的视频数据上传至一个或多个的云视频平台服务器，如爱奇艺、优酷、快视频等云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。或者还可以将处理后的视频数据上传至云直播服务器，当有直播观看端的用户进入云直播服务器进行观看时，可以由云直播服务器将视频数据实时推送给观看用户客户端。或者还可以将处理后的视频数据上传至云公众号服务器，当有用户关注该公众号时，由云公众号服务器将视频数据推送给公众号关注客户端；进一步，云公众号服务器还可以根据关注公众号的用户的观看习惯，推送符合用户习惯的视频数据给公众号关注客户端。

根据本发明提供的视频数据实时处理方法，先将预设三维道具与标准特定对象拟合，在此基础上，根据当前帧图像中特定对象的关键点信息和标准特定对象的关键点信息的比例关系对预设三维道具进行相应的缩放处理，以便预设三维道具可以匹配不同的特定对象。进一步，根据特定对象在当前帧图像中的位置、选择角度、距离等信息，对预设三维道具进一步的调整，以使预设三维道具与特定对象更加贴合，呈现更自然真实的显示效果。同时，对当前帧处理后的图像进行图像处理使其显示效果更自然。本发明可以直接得到处理后的视频，还可以将处理后的视频直接上传至云服务器，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

图3示出了根据本发明一个实施例的视频数据实时处理装置的功能框图。如图3所示，视频数据实时处理装置包括如下模块：

获取模块301，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

本实施例中图像采集设备以移动终端为例进行说明。获取模块301实时获取到移动终端摄像头在录制视频时的当前帧图像或者拍摄视频时的当前帧图像。由于本发明对特定对象进行处理，因此获取模块301获取当前帧图像时仅获取包含特定对象的当前帧图像。获取模块301除实时获取图像采集设备所拍摄和/或所录制的视频外，获取模块301还可以实时获取当前所播放的视频中包含特定对象的当前帧图像。其中，当前帧图像中包含了特定对象，如人体脸部。

三维处理模块302，适于将特定对象进行三维化处理。

三维处理模块302通过深度学习方法将特定对象通过深度学习进行三维化处理。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。具体的，如三维处理模块302将人体脸部进行三维化处理时，可以提取当前帧图像中的人脸的关键信息。该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息进行三维化处理的处理速度和效率，可以直接根据关键点信息进行三维化处理，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，进行三维化处理的效果更精准。构建三维的人脸模型，使得当前帧图像中的人脸的关键点信息与三维人脸模型上的各对应点之间的二维投影欧式距离最小。欧氏距离是指在m维空间中两个点之间的真实距离，或者向量的自然长度(即该点到原点的距离)，在二维、三维空间中，欧氏距离就是两点之间的实际距离。构建三维模型是基于3D人脸数据库中的身份和表情重构矩阵，对于一个给定的人脸的关键点信息的集合，可通过坐标下降(coordinate descent)的方式求得身份，表情重构系数和旋转缩放平移参数使欧式距离收敛，进而构建出对应人脸的三维构建模型。三维处理模块302利用三维构建模型将人体脸部进行三维化处理，得到三维化的人脸。除以上举例说明外，三维处理模块302还可以利用深度学习的其他方式对特定对象进行三维化处理，在此不作限定。但需要注意的是，三维处理模块302三维化处理后的特定对象没有纹理特征信息。

第一提取模块303，适于提取特定对象的图像纹理信息。

第一提取模块303提取当前帧图像中特定对象的图像纹理信息，图像纹理信息记录了当前帧图像中特定对象的空间颜色分布和光强分布等信息。第一提取模块303在提取特定对象的图像纹理信息时可以使用如LBP(Local binary patterns)局部二值模式方法、灰度共生矩阵等方法进行提取。

绘制模块304，适于根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像。

绘制模块304根据提取到的特定对象的图像纹理信息对三维化处理后的特定对象进行绘制，得到包含了纹理特征的三维化特定对象。

绘制模块304绘制预设的三维道具，并将绘制的三维道具与特定对象相贴合，使其立体的呈现道具与特定对象一体化的效果。三维道具可以为如帽子，绘制模块304将其与特定对象如人体脸部相贴合，形成在人体脸部戴上帽子的视觉效果。三维道具不限于穿戴的衣物，根据实施情况设置，绘制模块304可以将任何三维化的道具与特定对象相贴合，得到当前帧处理后的图像。

覆盖模块305，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据。

覆盖模块305使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

显示模块306，适于显示处理后的视频数据。

显示模块306得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

根据本发明提供的视频数据实时处理装置，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到视频中包含特定对象的当前帧图像后，对特定对象进行三维化处理，使得特定对象显示更立体化。根据提取的特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像，并将当前帧处理后的图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明可以直接得到处理后的视频，还可以将处理后的视频直接上传至云服务器，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

图4示出了根据本发明另一个实施例的视频数据实时处理装置的功能框图。如图4所示，与图3不同之处在于，视频数据实时处理装置还包括：

第二提取模块307，适于提取特定对象的关键点信息。

第二提取模块307从当前帧图像中提取出特定对象的关键点信息，关键点信息包括特定对象边缘的关键点信息，还可以包括特定对象某些的特定区域的关键点信息。第二提取模块307根据提取出的关键点信息，可以确定特定对象各关键点位置，方便后续对特定对象和预设三维道具进行贴合。

拟合模块308，适于将预设三维道具与标准特定对象进行拟合处理。

第一缩放模块309，适于根据特定对象的关键点信息和标准特定对象的关键点信息，确定预设三维道具的缩放比例；根据缩放比例，对预设三维道具进行缩放处理。

每个特定对象都有其对应的标准特定对象。如标准人体脸部。标准特定对象是根据特定对象预先建立的。标准特定对象为三维化的标准特定对象。拟合模块308先将预设三维道具与三维化的标准特定对象进行拟合处理，即拟合模块308通过将预设的三维道具的坐标与标准特定对象的坐标进行设置调整，使预设的三维道具可以与标准特定对象相贴合。

由于特定对象和标准特定对象可能存在不一致的情况，第一缩放模块309根据特定对象的关键点信息和标准特定对象的关键点信息，可以确定两者的比例关系。该比例关系即预设三维道具的缩放比例。如第一缩放模块309将特定对象边缘的关键点信息和标准特定对象边缘的关键点信息相比，特定对象与标准特定对象的比例关系为1.5:1，第一缩放模块309根据缩放比例，将预设三维道具放大处理，放大1.5倍，以便与特定对象更相贴合。或者第一缩放模块309将特定对象边缘的关键点信息和标准特定对象边缘的关键点信息相比，特定对象与标准特定对象的比例关系为0.8:1，第一缩放模块309根据缩放比例，将预设三维道具缩小处理，缩小0.8，以便与特定对象更相贴合。

位置获取模块310，适于获取特定对象在当前帧图像中的位置信息。

移动模块311，适于根据特定对象在当前帧图像中的位置信息移动预设三维道具。

位置获取模块310通过提取的特定对象的关键点信息进行计算后获取位置信息，位置信息表明了特定对象在当前帧图像中的具体的位置。

移动模块311根据获取的特定对象在当前帧图像中的位置信息移动预设三维道具，将预设三维道具移动至与特定对象更贴合的位置。

角度获取模块312，适于获取特定对象在当前帧图像中的旋转角度信息。

旋转模块313，适于根据特定对象在当前帧图像中的旋转角度信息旋转预设三维道具。

考虑到特定对象在图像采集设备到的当前帧图像中可能存在不是正向面对的情况，如人体脸部向左扭头的形式在当前帧图像中呈现。角度获取模块312根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的旋转角度，得到特定对象在当前帧图像中的旋转角度信息。

旋转模块313根据特定对象在当前帧图像中的旋转角度信息，旋转预设三维道具。如特定对象在当前帧图像中的旋转角度信息为向左旋转了15度，旋转模块313对应的将预设三维道具向左旋转15度，以便与特定对象更相贴合。

计算模块314，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

第二缩放模块315，适于根据具有对称关系的至少两个关键点之间的距离，对预设三维道具进行缩放处理。

由于特定对象与图像采集设备的距离不同，导致特定对象在当前帧图像中的大小也不一致。如人体脸部与图像采集设备的距离较远时，人体脸部在当前帧图像中呈现较小，人体脸部与图像采集设备的距离较近时，人体脸部在当前帧图像中呈现较大。计算模块314根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算模块314计算出人体脸部边缘两个眼角所在位置的关键点之间的距离。

第二缩放模块315根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离，第二缩放模块315根据距离，对预设三维道具进行缩放处理，以便与特定对象更相贴合。如计算模块314计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体脸部与图像采集设备的距离较远，由于人体脸部在当前帧图像中呈现较小，三维化后的人体脸部也较小，第二缩放模块315对应的将预设三维道具进行缩小处理，以便与特定对象更相贴合。或者计算模块314计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体脸部与图像采集设备的距离较近，由于人体脸部在当前帧图像中呈现较大，三维化后的人体脸部也较大，第二缩放模块315对应的将预设三维道具进行放大处理，以便与特定对象更相贴合。

图像处理模块316，适于对当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

由于当前帧处理后的图像中包含了三维化的特定对象和预设三维道具，为使当前帧处理后的图像的效果更自然真实，图像处理模块316可以对当前帧处理后的图像进行图像处理。图像处理可以包括对当前帧处理后的图像进行色调处理、光照处理、亮度处理等。如图像处理模块316对当前帧处理后的图像添加整体的光照效果，将当前帧处理后的图像的色调、亮度等进行调整等处理，使其整体的效果更加自然真实。

上传模块317，适于将处理后的视频数据上传至云服务器。

上传模块317将处理后的视频数据可以直接上传至云服务器，具体的，上传模块317可以将处理后的视频数据上传至一个或多个的云视频平台服务器，如爱奇艺、优酷、快视频等云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。或者上传模块317还可以将处理后的视频数据上传至云直播服务器，当有直播观看端的用户进入云直播服务器进行观看时，可以由云直播服务器将视频数据实时推送给观看用户客户端。或者上传模块317还可以将处理后的视频数据上传至云公众号服务器，当有用户关注该公众号时，由云公众号服务器将视频数据推送给公众号关注客户端；进一步，云公众号服务器还可以根据关注公众号的用户的观看习惯，推送符合用户习惯的视频数据给公众号关注客户端。

除此之外的其他模块可参照图3实施例中的描述，在此不再赘述。

根据本发明提供的视频数据实时处理装置，先将预设三维道具与标准特定对象拟合，在此基础上，根据当前帧图像中特定对象的关键点信息和标准特定对象的关键点信息的比例关系对预设三维道具进行相应的缩放处理，以便预设三维道具可以匹配不同的特定对象。进一步，根据特定对象在当前帧图像中的位置、选择角度、距离等信息，对预设三维道具进一步的调整，以使预设三维道具与特定对象更加贴合，呈现更自然真实的显示效果。同时，对当前帧处理后的图像进行图像处理使其显示效果更自然。本发明可以直接得到处理后的视频，还可以将处理后的视频直接上传至云服务器，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

本申请还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的视频数据实时处理方法。

图5示出了根据本发明一个实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器502，用于执行程序510，具体可以执行上述视频数据实时处理方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行以下操作：

在一种可选的实施方式中，程序510用于使得处理器502实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。

在一种可选的实施方式中，程序510用于使得处理器502提取特定对象的关键点信息。

在一种可选的实施方式中，程序510用于使得处理器502将预设三维道具与标准特定对象进行拟合处理；根据特定对象的关键点信息和标准特定对象的关键点信息，确定预设三维道具的缩放比例；根据缩放比例，对预设三维道具进行缩放处理。

在一种可选的实施方式中，程序510用于使得处理器502获取特定对象在当前帧图像中的位置信息；根据特定对象在当前帧图像中的位置信息移动预设三维道具。

在一种可选的实施方式中，程序510用于使得处理器502获取特定对象在当前帧图像中的旋转角度信息；根据特定对象在当前帧图像中的旋转角度信息旋转预设三维道具。

在一种可选的实施方式中，程序510用于使得处理器502根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；根据具有对称关系的至少两个关键点之间的距离，对预设三维道具进行缩放处理。

在一种可选的实施方式中，程序510用于使得处理器502对当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

在一种可选的实施方式中，程序510用于使得处理器502将处理后的视频数据实时显示；将处理后的视频数据上传至云服务器。

在一种可选的实施方式中，程序510用于使得处理器502将处理后的视频数据上传至云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。

在一种可选的实施方式中，程序510用于使得处理器502将处理后的视频数据上传至云直播服务器，以供云直播服务器将视频数据实时推送给观看用户客户端。

在一种可选的实施方式中，程序510用于使得处理器502将处理后的视频数据上传至云公众号服务器，以供云公众号服务器将视频数据推送给公众号关注客户端。

程序510中各步骤的具体实现可以参见上述视频数据实时处理实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

通过本实施例提供的方案，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；将特定对象进行三维化处理；提取特定对象的图像纹理信息；根据特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到视频包含特定对象的当前帧图像后，对特定对象进行三维化处理，使得特定对象显示更立体化。根据提取的特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像，并覆盖原当前帧图像得到处理后的视频数据。本发明可以直接得到处理后的视频，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的视频数据实时处理的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种视频数据实时处理方法，其包括：

实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

将所述特定对象进行三维化处理；

提取所述特定对象的图像纹理信息；

根据所述特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；

将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；

显示所述处理后的视频数据。

2.根据权利要求1所述的方法，其中，在所述实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像之后，所述方法还包括：提取所述特定对象的关键点信息。

3.根据权利要求2所述的方法，其中，在绘制预设三维道具之前，所述方法还包括：

将预设三维道具与标准特定对象进行拟合处理；

根据所述特定对象的关键点信息和所述标准特定对象的关键点信息，确定预设三维道具的缩放比例；

根据所述缩放比例，对预设三维道具进行缩放处理。

4.根据权利要求1-3中任一项所述的方法，其中，在将所述特定对象进行三维化处理之后，所述方法还包括：获取所述特定对象在当前帧图像中的位置信息；

在所述绘制预设三维道具之前，所述方法还包括：根据所述特定对象在当前帧图像中的位置信息移动所述预设三维道具。

5.根据权利要求1-4中任一项所述的方法，其中，在将所述特定对象进行三维化处理之后，所述方法还包括：获取所述特定对象在当前帧图像中的旋转角度信息；

在所述绘制预设三维道具之前，所述方法还包括：根据所述特定对象在当前帧图像中的旋转角度信息旋转所述预设三维道具。

6.根据权利要求1-5中任一项所述的方法，其中，在将所述特定对象进行三维化处理之后，所述方法还包括：根据所述特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

在所述绘制预设三维道具之前，所述方法还包括：根据具有对称关系的至少两个关键点之间的距离，对所述预设三维道具进行缩放处理。

7.根据权利要求1-6中任一项所述的方法，其中，在所述实时显示当前帧处理后的图像之前，所述方法还包括：

对所述当前帧处理后的图像进行色调处理、光照处理和/或亮度处理。

8.一种视频数据实时处理装置，其包括：

获取模块，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

三维处理模块，适于将所述特定对象进行三维化处理；

第一提取模块，适于提取所述特定对象的图像纹理信息；

绘制模块，适于根据所述特定对象的图像纹理信息绘制三维化处理后的特定对象，以及绘制预设三维道具，得到当前帧处理后的图像；

覆盖模块，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据；

显示模块，适于显示所述处理后的视频数据。

9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的视频数据实时处理方法对应的操作。

10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的视频数据实时处理方法对应的操作。