CN107633547A - 实现场景渲染的图像数据实时处理方法及装置、计算设备 - Google Patents

Abstract

本发明公开了一种实现场景渲染的图像数据实时处理方法及装置、计算设备，其方法包括：实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景背景图；将三维场景背景图和前景图像进行融合处理，得到第二图像；显示第二图像。根据用户触发的拍摄指令，保存第二图像。本发明采用了深度学习方法，实现了高效率高精准性地完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

Description

实现场景渲染的图像数据实时处理方法及装置、计算设备

技术领域

本发明涉及图像处理领域，具体涉及一种实现场景渲染的图像数据实时处理方法及装置、计算设备。

背景技术

随着科技的发展，图像采集设备的技术也日益提高。采集到的图像更加清晰、分辨率、显示效果也大幅提高。但现有的图像采集设备采集到的图像无法满足用户提出的越来越多的个性化要求。现有技术可以在采集到图像后，由用户手动对图像再做进一步的处理，以满足用户的个性化要求。但这样处理需要用户具有较高的图像处理技术，并且在处理时需要花费用户较多的时间，处理繁琐，技术复杂。

因此，需要一种实现场景渲染的图像数据实时处理方法，以便实时满足用户的个性化要求。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的实现场景渲染的图像数据实时处理方法及装置、计算设备。

根据本发明的一个方面，提供了一种实现场景渲染的图像数据实时处理方法，其包括：

实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；

绘制三维场景背景图；

将三维场景背景图和前景图像进行融合处理，得到第二图像；

显示第二图像。

可选地，绘制三维场景背景图进一步包括：

根据高度图绘制三维场景背景图的地形信息。

可选地，绘制三维场景背景图进一步包括：

根据三维场景背景图的地形信息，对三维场景背景图进行纹理贴图处理。

可选地，绘制三维场景背景图进一步包括：

在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。

可选地，在将三维场景背景图和前景图像进行融合处理，得到第二图像之前，方法还包括：

提取特定对象的关键点信息；根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

将三维场景背景图和前景图像进行融合处理，得到第二图像进一步包括：

根据距离调整前景图像的显示模式。

可选地，在实时获取图像采集设备捕捉的包含特定对象的第一图像之后，方法还包括：

获取特定对象在第一图像中的位置信息；

将三维场景背景图和前景图像进行融合处理，得到第二图像进一步包括：

根据特定对象在第一图像中的位置信息和指定的前景图像在三维场景背景图的深度信息，将三维场景背景图和前景图像进行融合处理，得到第二图像。

可选地，在得到第二图像之后，方法还包括：

在第二图像的部分指定区域中添加静态或动态效果贴图。

可选地，显示所述第二图像进一步包括：

实时显示所述第二图像。

可选地，在实时显示第二图像之前，方法还包括：

对第二图像进行色调处理、光照处理和/或亮度处理。

可选地，方法还包括：

根据用户触发的拍摄指令，保存第二图像。

可选地，方法还包括：

根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

根据本发明的另一方面，提供了一种实现场景渲染的图像数据实时处理装置，其包括：

分割模块，适于实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；

绘制模块，适于绘制三维场景背景图；

融合模块，适于将三维场景背景图和前景图像进行融合处理，得到第二图像；

显示模块，适于显示第二图像。

可选地，绘制模块进一步适于：

根据高度图绘制三维场景背景图的地形信息。

可选地，绘制模块进一步适于：

根据三维场景背景图的地形信息，对三维场景背景图进行纹理贴图处理。

可选地，绘制模块进一步适于：

在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。

可选地，装置还包括：

提取模块，适于提取特定对象的关键点信息；

计算模块，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

融合模块进一步适于：根据距离调整前景图像的显示模式。

可选地，装置还包括：

位置获取模块，适于获取特定对象在第一图像中的位置信息；

融合模块进一步适于：

根据特定对象在第一图像中的位置信息和指定的前景图像在三维场景背景图的深度信息，将三维场景背景图和前景图像进行融合处理，得到第二图像。

可选地，装置还包括：

贴图模块，适于在第二图像的部分指定区域中添加静态或动态效果贴图。

可选地，显示模块进一步适于：实时显示所述第二图像。

可选地，装置还包括：

图像处理模块，适于对第二图像进行色调处理、光照处理和/或亮度处理。

可选地，装置还包括：

第一保存模块，适于根据用户触发的拍摄指令，保存第二图像。

可选地，装置还包括：

第二保存模块，适于根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述实现场景渲染的图像数据实时处理方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述实现场景渲染的图像数据实时处理方法对应的操作。

根据本发明提供的实现场景渲染的图像数据实时处理方法及装置、计算设备，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景背景图；将三维场景背景图和前景图像进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。将前景图像和绘制的三维场景背景图进行融合，得到的第二图像呈现出特定对象位于三维场景背景图中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的实现场景渲染的图像数据实时处理方法的流程图；

图2示出了根据本发明另一个实施例的实现场景渲染的图像数据实时处理方法的流程图；

图3示出了根据本发明一个实施例的实现场景渲染的图像数据实时处理装置的功能框图；

图4示出了根据本发明另一个实施例的实现场景渲染的图像数据实时处理装置的功能框图；

图5示出了根据本发明一个实施例的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

本发明中特定对象可以是图像中的人体、植物、动物等任何对象，在实施例中以人体为例进行说明，但不仅限于人体。

图1示出了根据本发明一个实施例的实现场景渲染的图像数据实时处理方法的流程图。如图1所示，实现场景渲染的图像数据实时处理方法具体包括如下步骤：

步骤S101，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头捕捉到的第一图像，其中，第一图像包含了特定对象，如人体。对第一图像进行场景分割处理，主要是将特定对象从第一图像中分割出来，得到针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

在对第一图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如利用深度学习的人体分割方法可以对第一图像进行场景分割，得到包含人体的前景图像。

步骤S102，绘制三维场景背景图。

绘制三维场景背景图时，可以将二维的图片绘制为三维的场景背景图。绘制时可以采用如对二维的图片建模的方式将二维的图片绘制为三维的场景图。具体绘制方法可以采用任何将二维图片绘制为三维图片的方法，此处不做限定。三维场景背景图可以采用如三维海底场景背景图、三维火山场景背景图等。

步骤S103，将三维场景背景图和前景图像进行融合处理，得到第二图像。

将三维场景背景图与分割处理得到的针对于特定对象的前景图像进行融合处理，使得三维场景背景图更真实的与前景图像融合在一起，得到第二图像。为使三维场景背景图和前景图像可以更好的融合，在对第一图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便更好的融合。

步骤S104，显示第二图像。

将得到的第二图像实时进行显示，方便用户可以直接看到对第一图像处理后得到的第二图像。在得到第二图像后，立刻使用第二图像替换捕捉的第一图像进行显示，一般在1/24秒之内进行替换，对于用户而言，由于替换时间相对短，人眼没有明显的察觉，相当于实时的显示第二图像。

根据本发明提供的实现场景渲染的图像数据实时处理方法，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景背景图；将三维场景背景图和前景图像进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。将前景图像和绘制的三维场景背景图进行融合，得到的第二图像呈现出特定对象位于三维场景背景图中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图2示出了根据本发明另一个实施例的实现场景渲染的图像数据实时处理方法的流程图。如图2所示，实现场景渲染的图像数据实时处理方法具体包括如下步骤：

步骤S201，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

该步骤参考图1实施例中的步骤S101的描述，在此不再赘述。

步骤S202，提取特定对象的关键点信息。

从第一图像中提取出特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息进行后续处理如距离计算、获取位置等处理的处理速度和效率，可以直接根据关键点信息进行如距离计算、获取位置等处理，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，进行三维化处理的效果更精准。

关键点信息可以包括特定对象边缘的关键点信息，还可以包括特定对象某些的特定区域的关键点信息。根据提取出的关键点信息，可以确定特定对象各关键点位置。以人体为例，提取的关键点信息可以包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息、人脸的嘴部区域关键点信息等。

步骤S203，根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

由于特定对象与图像采集设备的距离不同，导致特定对象在第一图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在第一图像中呈现较小，人体与图像采集设备的距离较近时，人体在第一图像中呈现较大。根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算出人脸边缘两个眼角所在为止的关键点之间的距离。

步骤S204，获取特定对象在第一图像中的位置信息。

位置信息可以通过提取的特定对象的关键点信息进行计算后获取，得到特定对象在第一图像中的具体的位置。

步骤S205，根据高度图绘制三维场景背景图的地形信息。

高度图是二维的图片，一般由黑色，白色和之间的254种渐变灰度所生成。根据高度图利用如灰度值算法、分形插值算法、Diamond-Square算法等算法绘制三维场景背景图的地形信息。在绘制地形信息时，颜色为白色的位置对应的三维场景背景图的地形高度越高，反之，颜色为黑色的位置对应的三维场景背景图的地形高度越低。

步骤S206，根据三维场景背景图的地形信息，对三维场景背景图进行纹理贴图处理。

根据绘制的三维场景背景图的地形信息，对三维成交背景图进行纹理贴图处理。如沙地地形，可以对应的进行沙地的纹理贴图处理。纹理贴图处理时根据不同的地形进行对应的纹理贴图处理，处理时，为使三维场景背景图更真实，可以进行多重纹理贴图处理。如进行多重不同沙质的沙地的纹理贴图处理。

在进行纹理特图处理后，可以利用OpenGL纹理映射技术，从而生成逼真效果的三维场景背景图。

步骤S207，在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。

为使三维场景背景图不仅仅包含简单的背景显示效果，还可以在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。如三维海底场景背景图中在其部分指定区域可以设置如动态的水草效果贴图、泡泡效果贴图、海底珊瑚礁等静态和/或动态效果贴图，以使整个三维场景背景图的显示效果更逼真。

步骤S208，根据特定对象在第一图像中的位置信息和指定的前景图像在三维场景背景图的深度信息，将三维场景背景图和前景图像进行融合处理，得到第二图像。

获取的特定对象在第一图像中的位置信息，具体包括特定对象在第一图像的上下和左右所在的位置。三维场景背景图反映了图中上下、左右、前后的三维关系。在将三维场景背景图和前景图像进行融合处理，前景图像在三维场景背景图中的具体位置包括上下、左右、前后的位置。根据特定对象在第一图像中的位置信息可以确定前景图像在三维场景背景图中上下、左右的具体位置。根据指定的前景图像在三维场景背景图的深度信息，可以确定前景图像在三维场景背景图中前后的具体位置，进而确定了前景图像在三维场景背景图中的具体位置，可以将三维场景背景图和前景图像进行融合处理，得到第二图像。特定对象在第一图像中的位置信息根据特定对象与图像采集设备的距离不同，获取到的特定对象在第一图像中的位置信息也会不同。但前景图像在三维场景背景图的深度信息为指定的前后位置信息，不随特定对象在第一图像中的位置信息变化而变化。

步骤S209，根据距离调整前景图像的显示模式。

根据计算得到的具有对称关系的至少两个关键点之间的距离，调整前景图像的颜色、色调、光照效果、亮度等显示模式。具体的，根据距离，可以了解到前景图像在三维场景背景图中的位置，如三维场景背景图为海底场景背景图时，颜色一般多以蓝色为主，但不同位置的蓝色也略有不同。根据距离相应的调整前景图像的颜色，以达到在显示时仿佛特定对象真的处于海底中。

步骤S210，在第二图像的部分指定区域中添加静态或动态效果贴图。

在第二图像的部分指定区域，还可以添加静态或动态效果贴图。该效果贴图与三维场景背景图相呼应，以使三维场景背景图的显示效果更逼真。如三维场景背景图为海底场景背景图时，在第二图像的部分指定区域中可以添加游动的海底生物的静态或动态效果贴图。

步骤S211，对第二图像进行色调处理、光照处理和/或亮度处理。

为使第二图像的效果更自然真实，可以对第二图像进行图像处理。图像处理可以包括对第二图像进行色调处理、光照处理、亮度处理等。如三维场景背景为海底场景背景图时，可以根据海底场景背景图的不同深度位置信息，调整其颜色信息，使得海底的海水颜色随着海底深度变化产生更接近与自然海水的颜色变化，在越深的位置海水的颜色越蓝。还可以在第二图像中增加光栅的光照处理效果，模拟阳光照射海水，海底折射光线的视觉体验。

步骤S212，实时显示第二图像。

将得到的第二图像后，将其实时的进行显示，用户可以直接看到对第一图像处理后得到的第二图像。

步骤S213，根据用户触发的拍摄指令，保存第二图像。

在显示第二图像后，还可以根据用户触发的拍摄指令，保存第二图像。如用户点击相机的拍摄按钮，触发拍摄指令，将显示的第二图像进行保存。

步骤S214，根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

在显示第二图像时，还可以根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。如用户点击相机的录制按钮，触发录制指令，将显示的第二图像作为视频中的帧图像进行保存，从而保存多个第二图像作为帧图像组成的视频。

步骤S213和步骤S214都是本实施例的可选步骤，且不存在执行先后顺序，根据用户触发的不同指令选择执行对应的步骤。

根据本发明提供的实现场景渲染的图像数据实时处理方法，利用高度图绘制三维场景背景图的地形信息，并进一步进行纹理贴图处理，使三维场景背景图更真实。为使整个三维场景背景图的显示效果更逼真，还可以在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。在获取特定对象在第一图像中的位置信息后，根据位置信息和指定的位于三维场景背景图中的深度位置，将三维场景背景图和前景图像进行融合处理。并根据特定对象具有对称关系的至少两个关键点之间的距离，调整前景图片的颜色，使第二图像的整体显示效果更逼真。进一步，还可以根据用户触发的不同指令，保存第二图像或保存由第二图像作为帧图像组成的视频。本发明对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图3示出了根据本发明一个实施例的实现场景渲染的图像数据实时处理装置的功能框图。如图3所示，实现场景渲染的图像数据实时处理装置包括如下模块：

分割模块301，适于实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头捕捉到的第一图像，其中，第一图像包含了特定对象，如人体。分割模块301对第一图像进行场景分割处理，主要是将特定对象从第一图像中分割出来，得到针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

分割模块301在对第一图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如分割模块301利用深度学习的人体分割方法可以对第一图像进行场景分割，得到包含人体的前景图像。

绘制模块302，适于绘制三维场景背景图。

绘制模块302绘制三维场景背景图时，可以将二维的图片绘制为三维的场景背景图。绘制模块302绘制时可以采用如对二维的图片建模的方式将二维的图片绘制为三维的场景图。具体绘制方法可以采用任何将二维图片绘制为三维图片的方法，此处不做限定。三维场景背景图可以采用如三维海底场景背景图、三维火山场景背景图等。

高度图是二维的图片，一般由黑色，白色和之间的254种渐变灰度所生成。根据高度图绘制模块302可以利用如灰度值算法、分形插值算法、Diamond-Square算法等算法绘制三维场景背景图的地形信息。绘制模块302在绘制地形信息时，颜色为白色的位置对应的三维场景背景图的地形高度越高，反之，颜色为黑色的位置对应的三维场景背景图的地形高度越低。

绘制模块302根据绘制的三维场景背景图的地形信息，对三维场景背景图进行纹理贴图处理。如沙地地形，绘制模块302可以对应的进行沙地的纹理贴图处理。绘制模块302在纹理贴图处理时根据不同的地形进行对应的纹理贴图处理，处理时，为使三维场景背景图更真实，绘制模块302可以进行多重纹理贴图处理。如绘制模块302进行多重不同沙质的沙地的纹理贴图处理。

绘制模块302在进行纹理特图处理后，可以利用OpenGL纹理映射技术，从而生成逼真效果的三维场景背景图。

为使三维场景背景图不仅仅包含简单的背景显示效果，绘制模块302还可以在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。如三维海底场景背景图中绘制模块302在其部分指定区域可以设置如动态的水草效果贴图、泡泡效果贴图、海底珊瑚礁等静态和/或动态效果贴图，以使整个三维场景背景图的显示效果更逼真。

融合模块303，适于将三维场景背景图和前景图像进行融合处理，得到第二图像。

融合模块303将三维场景背景图与分割处理得到的针对于特定对象的前景图像进行融合处理，使得三维场景背景图更真实的与前景图像融合在一起，得到第二图像。为使三维场景背景图和前景图像可以更好的融合，分割模块301在对第一图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便融合模块303更好的融合。

显示模块304，适于显示第二图像。

显示模块304将得到的第二图像实时进行显示，用户可以直接看到对第一图像处理后得到的第二图像。在融合模块303得到第二图像后，显示模块304立刻使用第二图像替换捕捉的第一图像进行显示，一般在1/24秒之内进行替换，对于用户而言，由于替换时间相对短，人眼没有明显的察觉，相当于显示模块304实时的显示第二图像。

根据本发明提供的实现场景渲染的图像数据实时处理装置，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景背景图；将三维场景背景图和前景图像进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。将前景图像和绘制的三维场景背景图进行融合，得到的第二图像呈现出特定对象位于三维场景背景图中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图4示出了根据本发明另一个实施例的实现场景渲染的图像数据实时处理装置的功能框图。如图4所示，与图3不同之处在于，实现场景渲染的图像数据实时处理装置还包括：

提取模块305，适于提取特定对象的关键点信息。

计算模块306，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

提取模块305从第一图像中提取出特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息进行后续处理如距离计算、获取位置等处理的处理速度和效率，可以直接根据关键点信息进行如距离计算、获取位置等处理，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，进行三维化处理的效果更精准。

关键点信息可以包括特定对象边缘的关键点信息，还可以包括特定对象某些的特定区域的关键点信息。提取模块305根据提取出的关键点信息，可以确定特定对象各关键点位置。以人体为例，提取模块305提取的关键点信息可以包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息、人脸的嘴部区域关键点信息等。

由于特定对象与图像采集设备的距离不同，导致特定对象在第一图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在第一图像中呈现较小，人体与图像采集设备的距离较近时，人体在第一图像中呈现较大。计算模块306根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算模块306计算出人脸边缘两个眼角所在为止的关键点之间的距离。

融合模块303根据计算得到的具有对称关系的至少两个关键点之间的距离，调整前景图像的颜色、色调、光照效果、亮度等显示模式。具体的，根据距离，可以了解到前景图像在三维场景背景图中的位置，如三维场景背景图为海底场景背景图时，颜色一般多以蓝色为主，但不同位置的蓝色也略有不同。融合模块303根据距离相应的调整前景图像的颜色，以达到在显示时仿佛特定对象真的处于海底中。

位置获取模块307，适于获取特定对象在第一图像中的位置信息。

位置获取模块307可以通过提取的特定对象的关键点信息进行计算后获取特定对象在第一图像中的位置信息。位置获取模块307获取的特定对象在第一图像中的位置信息，具体包括特定对象在第一图像的上下和左右所在的位置。

三维场景背景图反映了图中上下、左右、前后的三维关系。融合模块303在将三维场景背景图和前景图像进行融合处理，前景图像在三维场景背景图中的具体位置包括上下、左右、前后的位置。融合模块303根据位置获取模块307获取的特定对象在第一图像中的位置信息可以确定前景图像在三维场景背景图中上下、左右的具体位置。融合模块303根据指定的前景图像在三维场景背景图的深度信息，可以确定前景图像在三维场景背景图中前后的具体位置，进而确定了前景图像在三维场景背景图中的具体位置，可以将三维场景背景图和前景图像进行融合处理，得到第二图像。特定对象在第一图像中的位置信息根据特定对象与图像采集设备的距离不同，位置获取模块307获取到的特定对象在第一图像中的位置信息也会不同。但前景图像在三维场景背景图的深度信息为指定的前后位置信息，不随特定对象在第一图像中的位置信息变化而变化。

贴图模块308，适于在第二图像的部分指定区域中添加静态或动态效果贴图。

在第二图像的部分指定区域，贴图模块308还可以添加静态或动态效果贴图。该效果贴图与三维场景背景图相呼应，以使三维场景背景图的显示效果更逼真。如三维场景背景图为海底场景背景图时，贴图模块308在第二图像的部分指定区域中可以添加游动的海底生物的静态或动态效果贴图。

图像处理模块309，适于对第二图像进行色调处理、光照处理和/或亮度处理。

为使第二图像的效果更自然真实，图像处理模块309可以对第二图像进行图像处理。图像处理可以包括对第二图像进行色调处理、光照处理、亮度处理等。如三维场景背景为海底场景背景图时，图像处理模块309可以根据海底场景背景图的不同深度位置信息，调整其颜色信息，使得海底的海水颜色随着海底深度变化产生更接近与自然海水的颜色变化，在越深的位置海水的颜色越蓝。图像处理模块309还可以在第二图像中增加光栅的光照处理效果，模拟阳光照射海水，海底折射光线的视觉体验。

第一保存模块310，适于根据用户触发的拍摄指令，保存第二图像。

在显示第二图像后，第一保存模块310可以根据用户触发的拍摄指令，保存第二图像。如用户点击相机的拍摄按钮，触发拍摄指令，第一保存模块310将显示的第二图像进行保存。

第二保存模块311，适于根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

在显示第二图像时，第二保存模块311可以根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。如用户点击相机的录制按钮，触发录制指令，第二保存模块311将显示的第二图像作为视频中的帧图像进行保存，从而保存多个第二图像作为帧图像组成的视频。

根据用户触发的不同指令执行对应的第一保存模块310和第二保存模块311。

根据本发明提供的实现场景渲染的图像数据实时处理装置，利用高度图绘制三维场景背景图的地形信息，并进一步进行纹理贴图处理，使三维场景背景图更真实。为使整个三维场景背景图的显示效果更逼真，还可以在三维场景背景图的部分指定区域添加预设静态和/或动态效果贴图。在获取特定对象在第一图像中的位置信息后，根据位置信息和指定的位于三维场景背景图中的深度位置，将三维场景背景图和前景图像进行融合处理。并根据特定对象具有对称关系的至少两个关键点之间的距离，调整前景图片的颜色，使第二图像的整体显示效果更逼真。进一步，还可以根据用户触发的不同指令，保存第二图像或保存由第二图像作为帧图像组成的视频。本发明对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

本申请还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的实现场景渲染的图像数据实时处理方法。

图5示出了根据本发明一个实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器502，用于执行程序510，具体可以执行上述实现场景渲染的图像数据实时处理方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行上述任意方法实施例中的实现场景渲染的图像数据实时处理方法。程序510中各步骤的具体实现可以参见上述实现场景渲染的图像数据实时处理实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的实现场景渲染的图像数据实时处理的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种实现场景渲染的图像数据实时处理方法，其包括：

实时获取图像采集设备捕捉的包含特定对象的第一图像，对所述第一图像进行场景分割处理，得到针对于所述特定对象的前景图像；

绘制三维场景背景图；

将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像；

显示所述第二图像。

2.根据权利要求1所述的方法，其中，所述绘制三维场景背景图进一步包括：

根据高度图绘制三维场景背景图的地形信息。

3.根据权利要求2所述的方法，其中，所述绘制三维场景背景图进一步包括：

根据所述三维场景背景图的地形信息，对所述三维场景背景图进行纹理贴图处理。

4.根据权利要求1-3中任一项所述的方法，其中，所述绘制三维场景背景图进一步包括：

在所述三维实时场景背景图的部分指定区域添加预设静态和/或动态效果贴图。

5.根据权利要求1-4中任一项所述的方法，其中，在所述将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像之前，所述方法还包括：

提取所述特定对象的关键点信息；根据所述特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

所述将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像进一步包括：

根据所述距离调整所述前景图像的显示模式。

6.根据权利要求1-5任一项中所述的方法，其中，在所述实时获取图像采集设备捕捉的包含特定对象的第一图像之后，所述方法还包括：

获取所述特定对象在第一图像中的位置信息；

所述将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像进一步包括：

根据所述特定对象在第一图像中的位置信息和指定的所述前景图像在所述三维场景背景图的深度信息，将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像。

7.根据权利要求1-6中任一项所述的方法，其中，在所述得到第二图像之后，所述方法还包括：

在所述第二图像的部分指定区域中添加静态或动态效果贴图。

8.一种实现场景渲染的图像数据实时处理装置，其包括：

分割模块，适于实时获取图像采集设备捕捉的包含特定对象的第一图像，对所述第一图像进行场景分割处理，得到针对于所述特定对象的前景图像；

绘制模块，适于绘制三维场景背景图；

融合模块，适于将所述三维场景背景图和所述前景图像进行融合处理，得到第二图像；

显示模块，适于显示所述第二图像。

9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的实现场景渲染的图像数据实时处理方法对应的操作。

10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的实现场景渲染的图像数据实时处理方法对应的操作。