CN107680105A - 基于虚拟世界的视频数据实时处理方法及装置、计算设备 - Google Patents

Abstract

本发明公开了一种基于虚拟世界的视频数据实时处理方法及装置、计算设备，其方法包括：实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；绘制三维场景；从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明采用了深度学习方法，实现高效率高精准性地完成场景分割处理。

Description

基于虚拟世界的视频数据实时处理方法及装置、计算设备

技术领域

本发明涉及图像处理领域，具体涉及一种基于虚拟世界的视频数据实时处理方法及装置、计算设备。

背景技术

随着科技的发展，图像采集设备的技术也日益提高。使用图像采集设备录制的视频也更加清晰、分辨率、显示效果也大幅提高。但现有录制的视频仅是单调的录制素材本身，无法满足用户提出的越来越多的个性化要求。现有技术可以在录制视频后，由用户手动对视频再做进一步的处理，以满足用户的个性化要求。但这样处理需要用户具有较高的图像处理技术，并且在处理时需要花费用户较多的时间，处理繁琐，技术复杂。

因此，需要一种基于虚拟世界的视频数据实时处理方法，以便实时满足用户的个性化要求。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的基于虚拟世界的视频数据实时处理方法及装置、计算设备。

根据本发明的一个方面，提供了一种基于虚拟世界的视频数据实时处理方法，其包括：

实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；

绘制三维场景；

从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；

根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；

将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；

显示处理后的视频数据。

可选地，关键信息为关键点信息；

从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

从当前帧图像中提取出位于特定对象的关键点信息。

可选地，从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

可选地，从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

根据关键点信息，获取特定对象在当前帧图像中的位置信息；

根据特定对象在当前帧图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

可选地，方法还包括：

获取三维场景的地形信息；

根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

可选地，根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像进一步包括：

根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

可选地，在得到当前帧处理后的图像之前，方法还包括：

在前景图像的特定对象的特定区域绘制效果贴图。

可选地，三维场景包含实时变化的天气信息。

可选地，三维场景包含可变化的光照信息。

可选地，显示处理后的视频数据进一步包括：将处理后的视频数据实时显示；

方法还包括：将处理后的视频数据上传至云服务器。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云直播服务器，以供云直播服务器将视频数据实时推送给观看用户客户端。

可选地，将处理后的视频数据上传至云服务器进一步包括：

将处理后的视频数据上传至云公众号服务器，以供云公众号服务器将视频数据推送给公众号关注客户端。

根据本发明的另一方面，提供了一种基于虚拟世界的视频数据实时处理装置，其包括：

获取模块，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

分割模块，适于对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；

绘制模块，适于绘制三维场景；

提取模块，适于从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；

融合模块，适于根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；

覆盖模块，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据；

显示模块，适于显示处理后的视频数据。

可选地，关键信息为关键点信息；

提取模块进一步适于：从当前帧图像中提取出位于特定对象的关键点信息。

可选地，提取模块进一步包括：

第一位置模块，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

可选地，提取模块进一步包括：

第二位置模块，适于根据关键点信息，获取特定对象在当前帧图像中的位置信息；根据特定对象在当前帧图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

可选地，装置还包括：

第三位置模块，适于获取三维场景的地形信息；根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

可选地，融合模块进一步适于：

根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

可选地，装置还包括：

贴图模块，适于在前景图像的特定对象的特定区域绘制效果贴图。

可选地，三维场景包含实时变化的天气信息。

可选地，三维场景包含可变化的光照信息。

可选地，显示模块，进一步适于将处理后的视频数据实时显示；

装置还包括：

上传模块，适于将处理后的视频数据上传至云服务器。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云直播服务器，以供云直播服务器将视频数据实时推送给观看用户客户端。

可选地，上传模块进一步适于：

将处理后的视频数据上传至云公众号服务器，以供云公众号服务器将视频数据推送给公众号关注客户端。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述基于虚拟世界的视频数据实时处理方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述基于虚拟世界的视频数据实时处理方法对应的操作。

根据本发明提供的基于虚拟世界的视频数据实时处理方法及装置、计算设备、存储介质，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；绘制三维场景；从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到包含特定对象的当前帧图像后，从当前帧图像中分割出特定对象的前景图像。根据从当前帧图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的处理后的视频呈现出特定对象位于三维场景中的效果。同时将处理后的视频实时显示给用户，方便用户实时的看到与处理后的视频显示效果，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且不需要用户对录制的视频进行额外处理，节省用户时间。同时对用户技术水平不做限制，方便大众使用。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的基于虚拟世界的视频数据实时处理方法的流程图；

图2示出了根据本发明另一个实施例的基于虚拟世界的视频数据实时处理方法的流程图；

图3示出了根据本发明一个实施例的基于虚拟世界的视频数据实时处理装置的功能框图；

图4示出了根据本发明另一个实施例的基于虚拟世界的视频数据实时处理装置的功能框图；

图5示出了根据本发明一个实施例的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

本发明中特定对象可以是图像中的人体、植物、动物等任何对象，在实施例中以人体为例进行说明，但不仅限于人体。

图1示出了根据本发明一个实施例的基于虚拟世界的视频数据实时处理方法的流程图。如图1所示，基于虚拟世界的视频数据实时处理方法具体包括如下步骤：

步骤S101，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头在录制视频时的当前帧图像或者拍摄视频时的当前帧图像。由于本发明对特定对象进行处理，因此获取当前帧图像时仅获取包含特定对象的当前帧图像。除实时获取图像采集设备所拍摄和/或所录制的视频外，还可以实时获取当前所播放的视频中包含特定对象的当前帧图像。

步骤S102，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像。

当前帧图像中包含了特定对象，如人体。对当前帧图像进行场景分割处理，主要是将特定对象从当前帧图像中分割出来，得到当前帧图像针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

在对当前帧图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如利用深度学习的人体分割方法可以对当前帧图像进行场景分割，得到包含人体的前景图像。进一步，在对当前帧图像进行场景分割得到的包含人体的前景图像时，可以得到人体的全部图像或者仅得到人体的大部分图像，此处不做限定。

步骤S103，绘制三维场景。

三维场景可以为三维的虚拟场景，也可以将真实的场景三维化处理为三维场景。三维场景中可以包含如森林、瀑布、湖泊等各种对象，此外不限定三维场景的具体内容。

三维场景中还包含了实时变化的天气信息，如阴天、晴天、下雨等不同的天气变化的场景。绘制的三维场景中实时变化的天气信息使得三维场景更加真实、呈现的效果更生动。三维场景中还包含了可变化的光照信息，如晴天时可以为太阳光照效果，下雨时可以有闪电光照效果，黑暗的场景还可以有萤火虫飞舞的光照效果(萤火虫飞舞时可以设置为在指定位置飞舞，也可以根据后续融合时，在特定对象周围飞舞等)等，以使整个三维场景更加协调。

绘制三维场景的技术可以采用任一绘制技术，此处不做限定。

步骤S104，从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息。

从当前帧图像中提取特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息获取位置信息的处理速度和效率，可以直接根据关键点信息获取位置信息，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，获取位置信息的效果更精准。由于一般通过特定对象的边缘位置的关键点信息获取位置信息，因此，在从当前帧图像中提取时，可以提取出位于特定对象边缘的关键点信息。当特定对象为人体时，提取的关键点信息包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息等。

三维场景中的位置信息具体包括了三维场景中的左右、上下、深度位置信息，分别对应了三维场景中x轴、y轴、z轴方向上的各位置信息。根据从当前帧图像中提取的特定对象的关键点信息，可以相应的确定前景图像在三维场景中的位置信息。

步骤S105，根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

根据位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到当前帧处理后的图像。为使前景图像可以更好的与三维场景融合，在对当前帧图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便更好的融合。

步骤S106，将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据。

使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

在得到当前帧处理后的图像时，会将当前帧处理后的图像直接覆盖原当前帧图像。覆盖时的速度较快，一般在1/24秒之内完成。对于用户而言，由于覆盖处理的时间相对短，人眼没有明显的察觉，即人眼没有察觉到视频数据中的原当前帧图像被覆盖的过程。这样在后续显示处理后的视频数据时，相当于一边拍摄和/或录制和/或播放视频数据时，一边实时显示的为处理后的视频数据，用户不会感觉到视频数据中帧图像发生覆盖的显示效果。

步骤S107，显示处理后的视频数据。

得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

根据本发明提供的基于虚拟世界的视频数据实时处理方法，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；绘制三维场景；从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到包含特定对象的当前帧图像后，从当前帧图像中分割出特定对象的前景图像。根据从当前帧图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的处理后的视频呈现出特定对象位于三维场景中的效果。同时将处理后的视频实时显示给用户，方便用户实时的看到与处理后的视频显示效果，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且不需要用户对录制的视频进行额外处理，节省用户时间。同时对用户技术水平不做限制，方便大众使用。

图2示出了根据本发明另一个实施例的基于虚拟世界的视频数据实时处理方法的流程图。如图2所示，基于虚拟世界的视频数据实时处理方法具体包括如下步骤：

步骤S201，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

步骤S202，对当前帧图像进行场景分割处理，得到当前帧图像针对于所述特定对象的前景图像。

步骤S203，绘制三维场景。

以上步骤参考图1实施例中的步骤S101-S103的描述，在此不再赘述。

步骤S204，在前景图像的特定对象的特定区域绘制效果贴图。

当得到针对于特定对象的前景图像中，特定对象仅为一部分时，如得到仅包含人体上半身的前景图像。此时，可以在前景图像的特定对象的特定区域绘制效果贴图，进行遮挡或美化。具体的，可以在人体上半身的下方绘制如云朵的效果贴图，以形成人体漂浮在空中的效果。效果贴图可以根据三维场景、特定对象的不同设置为不同的效果贴图，以使效果贴图与三维场景、特定对象的风格、显示效果等相呼应，呈现整体一致的效果。

步骤S205，从当前帧图像中提取出特定对象的关键点信息。

从当前帧图像中提取出特定对象的关键点信息，关键点信息包括特定对象边缘的关键点信息，还可以包括特定对象的特定区域的关键点信息等，方便后续根据关键点信息进行计算。

步骤S206，根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

步骤S207，根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

由于特定对象与图像采集设备的距离不同，导致特定对象在当前帧图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在当前帧图像中呈现较小，人体与图像采集设备的距离较近时，人体在当前帧图像中呈现较大。根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算出人脸边缘两个眼角所在为止的关键点之间的距离。根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离。根据距离，可以得到前景图像在三维场景中的深度位置信息，即前景图像与三维场景融合时，前景图像设置在三维场景中具体的深度位置信息。如计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较远，由于人体在当前帧图像中呈现较小，分割得到的前景图像也较小，前景图像设置在三维场景中的深度位置也较深，呈现出前景图像在三维场景中较深位置，人体在三维场景中也较小的效果。或者计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较近，由于人体在当前帧图像中呈现较大，前景图像设置在三维场景中的深度位置会比较靠前，呈现出前景图像在三维场景中较靠前的位置，人体在三维场景中也较大的效果。前景图像在三维场景中的深度位置信息与具有对称关系的至少两个关键点之间的距离相关。

步骤S208，根据关键点信息，获取特定对象在当前帧图像中的位置信息。

步骤S209，根据特定对象在当前帧图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

位置信息通过特定对象的关键点信息进行计算后可以获取，得到特定对象在当前帧图像中的具体的位置。此处特定对象在当前帧图像中的位置信息包括特定对象在当前帧图像中的左右位置信息、上下位置信息、特定对象旋转角度信息等位置信息。根据特定对象在当前帧图像中的位置信息，可以得到前景图像在三维场景中的左右位置信息。其中，前景图像在三维场景中的左右位置信息与特定对象在当前帧图像中的左右位置信息相对应。进一步，还可以根据特定对象在当前帧图像中的上下位置信息、旋转角度信息，设置前景图像在三维场景中的上下位置信息、旋转角度信息等。

步骤S210，获取三维场景的地形信息。

步骤S211，根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

获取三维场景的地形信息，其中，地形信息包括了如台阶、石头、湖泊等各种地形的在三维场景中的左右、上下、深度位置信息。根据三维场景的地形信息，综合前景图像在三维场景中的左右位置信息、深度位置信息等，可以得到前景图像在三维场景中的上下位置信息。具体的，根据前景图像在三维场景中的左右位置信息、深度位置信息，可以先确定当前左右位置信息、深度位置信息处的三维场景的地形。当该地形为台阶时，根据台阶地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被设置在台阶中间的情况。或者当该地形为石头时，根据石头地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被卡在石头中的情况，可以将特定对象设置在石头上或是特定对象设置在石头后方的位置。前景图像在三维场景中的上下位置信息会随着特定对象在三维场景中的左右位置信息和/或深度位置信息的不同、对应的三维场景的地形信息不同而变化。具体变化根据实施情况进行设置。

步骤S212，根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

根据得到的前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到当前帧处理后的图像。

步骤S213，将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据。

使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

步骤S214，显示处理后的视频数据。

得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

步骤S215，将处理后的视频数据上传至云服务器。

将处理后的视频数据可以直接上传至云服务器，具体的，可以将处理后的视频数据上传至一个或多个的云视频平台服务器，如爱奇艺、优酷、快视频等云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。或者还可以将处理后的视频数据上传至云直播服务器，当有直播观看端的用户进入云直播服务器进行观看时，可以由云直播服务器将视频数据实时推送给观看用户客户端。或者还可以将处理后的视频数据上传至云公众号服务器，当有用户关注该公众号时，由云公众号服务器将视频数据推送给公众号关注客户端；进一步，云公众号服务器还可以根据关注公众号的用户的观看习惯，推送符合用户习惯的视频数据给公众号关注客户端。

根据本发明提供的基于虚拟世界的视频数据实时处理方法，从当前帧图像中提取特定对象的关键点信息，根据关键点信息，得到前景图像在三维场景中的深度、左右位置信息等。再根据三维场景中的地形信息，调整前景图像在三维场景中的上下位置信息，使得特定对象可以合理的与三维场景进行融合，使融合后得到的视频呈现真实的显示效果，避免出现视频中特定对象仅只是设置在三维场景中，而不考虑三维场景中具体地形信息导致的显示错误。同时，还在前景图像的特定对象的特定区域绘制效果贴图，以丰富、美化特定对象的显示效果。本发明可以直接得到处理后的视频，还可以将处理后的视频直接上传至云服务器，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

图3示出了根据本发明一个实施例的基于虚拟世界的视频数据实时处理装置的功能框图。如图3所示，基于虚拟世界的视频数据实时处理装置包括如下模块：

获取模块301，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像。

本实施例中图像采集设备以移动终端为例进行说明。获取模块301实时获取到移动终端摄像头在录制视频时的当前帧图像或者拍摄视频时的当前帧图像。由于本发明对特定对象进行处理，因此获取模块301获取当前帧图像时仅获取包含特定对象的当前帧图像。获取模块301除实时获取图像采集设备所拍摄和/或所录制的视频外，获取模块301还可以实时获取当前所播放的视频中包含特定对象的当前帧图像。

分割模块302，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像。

当前帧图像包含了特定对象，如人体。分割模块302对当前帧图像进行场景分割处理，主要是将特定对象从当前帧图像中分割出来，得到当前帧图像针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

分割模块302在对当前帧图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如分割模块302利用深度学习的人体分割方法可以对当前帧图像进行场景分割，得到包含人体的前景图像。进一步，分割模块302在对当前帧图像进行场景分割得到的包含人体的前景图像时，可以得到人体的全部图像或者仅得到人体的大部分图像，此处不做限定。

绘制模块303，适于绘制三维场景。

绘制模块303绘制的三维场景可以为三维的虚拟场景，绘制模块303也可以将真实的场景三维化处理为三维场景。三维场景中可以包含如森林、瀑布、湖泊等各种对象，此外不限定三维场景的具体内容。

绘制模块303绘制的三维场景中还包含了实时变化的天气信息，如阴天、晴天、下雨等不同的天气变化的场景。绘制模块303绘制的三维场景中实时变化的天气信息使得三维场景更加真实、呈现的效果更生动。绘制模块303绘制的三维场景中还包含了可变化的光照信息，如晴天时可以为太阳光照效果，下雨时可以有闪电光照效果，黑暗的场景还可以有萤火虫飞舞的光照效果(绘制模块303绘制的萤火虫飞舞时可以设置为在指定位置飞舞，也可以根据后续融合模块305在融合时，绘制为在特定对象周围飞舞等)等，以使整个三维场景更加协调。绘制模块303采用绘制三维场景的技术可以采用任一绘制技术，此处不做限定。

提取模块304，适于从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息。

提取模块304从当前帧图像中提取特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息获取位置信息的处理速度和效率，可以直接根据关键点信息获取位置信息，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，获取位置信息的效果更精准。由于一般通过特定对象的边缘位置的关键点信息获取位置信息，因此，提取模块304在从当前帧图像中提取时，可以提取出位于特定对象边缘的关键点信息。当特定对象为人体时，提取模块304提取的关键点信息包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息等。

三维场景中的位置信息具体包括了三维场景中的左右、上下、深度位置信息，分别对应了三维场景中x轴、y轴、z轴方向上的各位置信息。提取模块304根据从当前帧图像中提取的特定对象的关键点信息，可以相应的确定前景图像在三维场景中的位置信息。

融合模块305，适于根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

融合模块305根据位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到当前帧处理后的图像。为使融合模块305将前景图像可以更好的与三维场景融合，在分割模块302对当前帧图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便融合模块305更好的融合。

覆盖模块306，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据。

覆盖模块306使用当前帧处理后的图像直接覆盖掉原当前帧图像，直接可以得到处理后的视频数据。同时，录制的用户还可以直接看到当前帧处理后的图像。

在融合模块305得到当前帧处理后的图像时，覆盖模块306会将当前帧处理后的图像直接覆盖原当前帧图像。覆盖模块306覆盖时的速度较快，一般在1/24秒之内完成。对于用户而言，由于覆盖模块306覆盖处理的时间相对短，人眼没有明显的察觉，即人眼没有察觉到视频数据中的原当前帧图像被覆盖的过程。这样在后续显示模块307显示处理后的视频数据时，相当于一边拍摄和/或录制和/或播放视频数据时，一边显示模块307实时显示的为处理后的视频数据，用户不会感觉到视频数据中帧图像发生覆盖的显示效果。

显示模块307，适于显示处理后的视频数据。

显示模块307得到处理后的视频数据后，可以将其实时的进行显示，用户可以直接看到处理后的视频数据的显示效果。

根据本发明提供的基于虚拟世界的视频数据实时处理装置，实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像，对当前帧图像进行场景分割处理，得到当前帧图像针对于特定对象的前景图像；绘制三维场景；从当前帧图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像；将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；显示处理后的视频数据。本发明在实时获取到包含特定对象的当前帧图像后，从当前帧图像中分割出特定对象的前景图像。根据从当前帧图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的处理后的视频呈现出特定对象位于三维场景中的效果。同时将处理后的视频实时显示给用户，方便用户实时的看到与处理后的视频显示效果，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且不需要用户对录制的视频进行额外处理，节省用户时间。同时对用户技术水平不做限制，方便大众使用。

图4示出了根据本发明另一个实施例的基于虚拟世界的视频数据实时处理装置的功能框图。如图4所示，与图3不同之处在于，基于虚拟世界的视频数据实时处理装置还包括：

贴图模块308，适于在前景图像的特定对象的特定区域绘制效果贴图。

当分割模块302得到针对于特定对象的前景图像中，特定对象仅为一部分时，如分割模块302得到仅包含人体上半身的前景图像。此时，贴图模块308可以在前景图像的特定对象的特定区域绘制效果贴图，进行遮挡或美化。具体的，贴图模块308可以在人体上半身的下方绘制如云朵的效果贴图，以形成人体漂浮在空中的效果。效果贴图可以根据三维场景、特定对象的不同设置为不同的效果贴图，以使效果贴图与三维场景、特定对象的风格、显示效果等相呼应，呈现整体一致的效果。

提取模块304还包括了第一位置模块309和第二位置模块310。

第一位置模块309，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

由于特定对象与图像采集设备的距离不同，导致特定对象在当前帧图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在当前帧图像中呈现较小，人体与图像采集设备的距离较近时，人体在当前帧图像中呈现较大。第一位置模块309根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如第一位置模块309计算出人脸边缘两个眼角所在为止的关键点之间的距离。根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离。第一位置模块309根据距离，可以得到前景图像在三维场景中的深度位置信息，即第一位置模块309得到前景图像与三维场景融合时，前景图像设置在三维场景中具体的深度位置信息。如第一位置模块309计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较远，由于人体在当前帧图像中呈现较小，分割得到的前景图像也较小，第一位置模块309得到前景图像设置在三维场景中的深度位置也较深，呈现出前景图像在三维场景中较深位置，人体在三维场景中也较小的效果。或者第一位置模块309计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较近，由于人体在当前帧图像中呈现较大，第一位置模块309得到前景图像设置在三维场景中的深度位置会比较靠前，呈现出前景图像在三维场景中较靠前的位置，人体在三维场景中也较大的效果。前景图像在三维场景中的深度位置信息与具有对称关系的至少两个关键点之间的距离相关。

第二位置模块310，适于根据关键点信息，获取特定对象在当前帧图像中的位置信息；根据特定对象在当前帧图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

第二位置模块310通过特定对象的关键点信息进行计算，得到特定对象在当前帧图像中的具体的位置。此处特定对象在当前帧图像中的位置信息包括特定对象在当前帧图像中的左右位置信息、上下位置信息、特定对象旋转角度信息等位置信息。第二位置模块310根据特定对象在当前帧图像中的位置信息，可以得到前景图像在三维场景中的左右位置信息。其中，前景图像在三维场景中的左右位置信息与特定对象在当前帧图像中的左右位置信息相对应。进一步，第二位置模块310还可以根据特定对象在当前帧图像中的上下位置信息、旋转角度信息，设置前景图像在三维场景中的上下位置信息、旋转角度信息等。

第三位置模块311，适于获取三维场景的地形信息；根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

第三位置模块311获取三维场景的地形信息，其中，地形信息包括了如台阶、石头、湖泊等各种地形的在三维场景中的左右、上下、深度位置信息。第三位置模块311根据三维场景的地形信息，综合前景图像在三维场景中的左右位置信息、深度位置信息等，可以得到前景图像在三维场景中的上下位置信息。具体的，第三位置模块311根据前景图像在三维场景中的左右位置信息、深度位置信息，可以先确定当前左右位置信息、深度位置信息处的三维场景的地形。当该地形为台阶时，第三位置模块311根据台阶地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被设置在台阶中间的情况。或者当该地形为石头时，第三位置模块311根据石头地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被卡在石头中的情况，可以将特定对象设置在石头上或是特定对象设置在石头后方的位置。前景图像在三维场景中的上下位置信息会随着特定对象在三维场景中的左右位置信息和/或深度位置信息的不同、对应的三维场景的地形信息不同而变化。具体变化根据实施情况进行设置。

融合模块305可以根据上述各模块得到的前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到当前帧处理后的图像。

上传模块312，适于将处理后的视频数据上传至云服务器。

上传模块312将处理后的视频数据可以直接上传至云服务器，具体的，上传模块312可以将处理后的视频数据上传至一个或多个的云视频平台服务器，如爱奇艺、优酷、快视频等云视频平台服务器，以供云视频平台服务器在云视频平台进行展示视频数据。或者上传模块312还可以将处理后的视频数据上传至云直播服务器，当有直播观看端的用户进入云直播服务器进行观看时，可以由云直播服务器将视频数据实时推送给观看用户客户端。或者上传模块312还可以将处理后的视频数据上传至云公众号服务器，当有用户关注该公众号时，由云公众号服务器将视频数据推送给公众号关注客户端；进一步，云公众号服务器还可以根据关注公众号的用户的观看习惯，推送符合用户习惯的视频数据给公众号关注客户端。

根据本发明提供的基于虚拟世界的视频数据实时处理装置，从当前帧图像中提取特定对象的关键点信息，根据关键点信息，得到前景图像在三维场景中的深度、左右位置信息等。再根据三维场景中的地形信息，调整前景图像在三维场景中的上下位置信息，使得特定对象可以合理的与三维场景进行融合，使融合后得到的视频呈现真实的显示效果，避免出现视频中特定对象仅只是设置在三维场景中，而不考虑三维场景中具体地形信息导致的显示错误。同时，还在前景图像的特定对象的特定区域绘制效果贴图，以丰富、美化特定对象的显示效果。本发明可以直接得到处理后的视频，还可以将处理后的视频直接上传至云服务器，不需要用户对录制的视频进行额外处理，节省用户时间，还可以实时显示给用户处理后的视频数据，方便用户查看显示效果。同时对用户技术水平不做限制，方便大众使用。

本申请还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的基于虚拟世界的视频数据实时处理方法。

图5示出了根据本发明一个实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器502，用于执行程序510，具体可以执行上述基于虚拟世界的视频数据实时处理方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行上述任意方法实施例中的基于虚拟世界的视频数据实时处理方法。程序510中各步骤的具体实现可以参见上述基于虚拟世界的视频数据实时处理实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的基于虚拟世界的视频数据实时处理的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种基于虚拟世界的视频数据实时处理方法，其包括：

实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

对当前帧图像进行场景分割处理，得到当前帧图像针对于所述特定对象的前景图像；

绘制三维场景；

从所述当前帧图像中提取出所述特定对象的关键信息，根据所述关键信息得到所述前景图像在所述三维场景中的位置信息；

根据所述位置信息，将所述前景图像与所述三维场景进行融合处理，得到当前帧处理后的图像；

将当前帧处理后的图像覆盖原当前帧图像得到处理后的视频数据；

显示所述处理后的视频数据。

2.根据权利要求1所述的方法，其中，所述关键信息为关键点信息；

所述从所述当前帧图像中提取出所述特定对象的关键信息，根据所述关键信息得到所述前景图像在所述三维场景中的位置信息进一步包括：

从所述当前帧图像中提取出位于所述特定对象的关键点信息。

3.根据权利要求2所述的方法，其中，所述从所述当前帧图像中提取出所述特定对象的关键信息，根据所述关键信息得到所述前景图像在所述三维场景中的位置信息进一步包括：

根据所述特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

根据具有对称关系的至少两个关键点之间的距离，得到所述前景图像在所述三维场景中的深度位置信息。

4.根据权利要求2所述的方法，其中，所述从所述当前帧图像中提取出所述特定对象的关键信息，根据所述关键信息得到所述前景图像在所述三维场景中的位置信息进一步包括：

根据所述关键点信息，获取所述特定对象在当前帧图像中的位置信息；

根据所述特定对象在当前帧图像中的位置信息，得到所述前景图像在所述三维场景中的左右位置信息。

5.根据权利要求1-4中任一项所述的方法，其中，所述方法还包括：

获取所述三维场景的地形信息；

根据所述三维场景的地形信息、所述前景图像在所述三维场景中的左右位置信息和/或深度位置信息，得到所述前景图像在所述三维场景中的上下位置信息。

6.根据权利要求1-5中任一项所述的方法，其中，所述根据所述位置信息，将所述前景图像与所述三维场景进行融合处理，得到当前帧处理后的图像进一步包括：

根据所述前景图像在所述三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将所述前景图像与所述三维场景进行融合处理，得到当前帧处理后的图像。

7.根据权利要求1-6中任一项所述的方法，其中，在所述得到当前帧处理后的图像之前，所述方法还包括：

在所述前景图像的特定对象的特定区域绘制效果贴图。

8.一种基于虚拟世界的视频数据实时处理装置，其包括：

获取模块，适于实时获取图像采集设备所拍摄和/或所录制的视频中包含特定对象的当前帧图像；或者，实时获取当前所播放的视频中包含特定对象的当前帧图像；

分割模块，适于，对当前帧图像进行场景分割处理，得到当前帧图像针对于所述特定对象的前景图像；

绘制模块，适于绘制三维场景；

提取模块，适于从所述当前帧图像中提取出所述特定对象的关键信息，根据所述关键信息得到所述前景图像在所述三维场景中的位置信息；

融合模块，适于根据所述位置信息，将所述前景图像与所述三维场景进行融合处理，得到当前帧处理后的图像；

覆盖模块，适于将当前帧处理后的图像覆盖原帧图像得到处理后的视频数据；

显示模块，适于显示所述处理后的视频数据。

9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的基于虚拟世界的视频数据实时处理方法对应的操作。

10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的基于虚拟世界的视频数据实时处理方法对应的操作。