CN110288691A - 渲染图像的方法、装置、电子设备和计算机可读存储介质 - Google Patents

Abstract

本公开公开了一种渲染图像的方法，其特征在于，包括：从视频中获取图像；确定所述图像中的第一类别的像素；根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；根据所述平面方程确定所述第一类别的像素的深度信息；根据所述第一类别的像素的深度信息渲染所述第一类别的像素。根据本公开实施例提供的渲染图像的方法、装置、电子设备和计算机可读存储介质，能够识别出图像中的第一类别的像素，并且根据SLAM算法确定所述第一类别的像素的深度信息，从而在对第一类别的像素进行渲染时考虑其深度信息，能够获得更好的渲染效果。

Description

渲染图像的方法、装置、电子设备和计算机可读存储介质

技术领域

本公开涉及信息处理领域，尤其涉及一种渲染图像的方法、装置、电子设备及计算机可读存储介质。

背景技术

随着计算机技术的进步，与图像相关的应用愈发丰富，例如能够识别出图像中的目标对象，并通过图像处理技术对识别出的目标对象进行渲染，以获得丰富的渲染效果。

现实生活中通过拍摄装置对目标对象进行拍摄时，由于目标对象存在于三维空间，其不同的区域或者位置往往与拍摄装置具有不同的距离，这些区域或者位置在光线的作用下可能呈现不同的颜色，这将反应在所拍摄的图像中，从而使得所拍摄的图像中的目标对象具有立体感和真实感。在通过图像技术对图像中的目标对象进行渲染时，由于常用的拍摄装置无法记录图像中各像素的深度信息，从而仅能根据像素的二维坐标渲染目标对象，渲染效果较差。部分图像处理技术在渲染过程中会参考目标对象的像素的颜色信息，例如根据颜色的不同估算出深度信息，但是像素的颜色信息并不能准确地反应出该像素的深度信息，从而也难以取得理想的渲染效果。

发明内容

本公开实施例提供渲染图像的方法，装置，电子设备，和计算机可读存储介质，能够识别出图像中的第一类别的像素，并且根据SLAM算法确定所述第一类别的像素的深度信息，从而在对第一类别的像素进行渲染时考虑其深度信息，能够获得更好的渲染效果。

第一方面，本公开实施例提供一种渲染图像的方法，其特征在于，包括：从视频中获取图像；确定所述图像中的第一类别的像素；根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；根据所述平面方程确定所述第一类别的像素的深度信息；根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

第二方面，本公开实施例提供一种渲染图像的装置，其特征在于，包括：图像获取模块，用于从视频中获取图像；像素类别确定模块，用于确定所述图像中的第一类别的像素；平面方程确定模块，用于根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；像素深度信息确定模块，用于根据所述平面方程确定所述第一类别的像素的深度信息；渲染模块，用于根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

第三方面，本公开实施例提供一种电子设备，包括：存储器，用于存储计算机可读指令；以及与所述存储器耦合的一个或多个处理器，用于运行所述计算机可读指令，使得所述处理器运行时实现前述第一方面中的所述渲染图像的方法。

第四方面，本公开实施例提供一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机指令，当所述计算机指令被计算机执行时，使得所述计算机执行前述第一方面中的所述渲染图像的方法。

本公开公开了一种渲染图像的方法、装置、电子设备和计算机可读存储介质。其中所述渲染图像的方法，其特征在于，包括：从视频中获取图像；确定所述图像中的第一类别的像素；根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；根据所述平面方程确定所述第一类别的像素的深度信息；根据所述第一类别的像素的深度信息渲染所述第一类别的像素。根据本公开实施例提供的渲染图像的方法、装置、电子设备和计算机可读存储介质，能够识别出图像中的第一类别的像素，并且根据SLAM算法确定所述第一类别的像素的深度信息，从而在对第一类别的像素进行渲染时考虑其深度信息，能够获得更好的渲染效果。

上述说明仅是本公开技术方案的概述，为了能更清楚了解本公开的技术手段，而可依照说明书的内容予以实施，并且为让本公开的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例，并配合附图，详细说明如下。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本公开实施例提供的渲染图像的方法实施例的流程图；

图2为本公开提供的一种神经网络模型示意图；

图3为本公开实施例提供的渲染图像的装置实施例的结构示意图；

图4为根据本公开实施例提供的电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

本实施例提供的该渲染图像的方法可以由一个渲染图像的装置来执行，该装置可以实现为软件，可以实现为硬件，还可以实现为软件和硬件的组合，例如所述渲染图像的装置包括计算机设备，从而通过该计算机设备来执行本实施例提供的该渲染图像的方法，如本领域技术人员所理解的，计算机设备可以是台式或便携计算机设备，还可以是移动终端设备等。

图1为本公开实施例提供的渲染图像的方法实施例的流程图，如图1所示，本公开实施例的渲染图像的方法包括如下步骤：

步骤S101，从视频中获取图像；

在步骤S101中从视频中获取图像，以便对获取的图像进行渲染，从而实现本公开实施例提供的渲染图像的方法。可以通过拍摄装置获取所述视频，从而获取所述图像，例如本公开实施例中的所述渲染图像的装置可以包括该拍摄装置，从而通过该拍摄装置拍摄视频，也就获得了所述视频中的所述图像；所述渲染图像的装置可以不包括该拍摄装置，但是与该拍摄装置通信连接，通过所述通信连接获取该拍摄装置拍摄的视频，也就获得了所述视频中的所述图像；当然，所述渲染图像的装置还可以从存储源获得所述视频以及视频中的图像，本公开实施例对获取视频以及视频中的图像的方式不做限定。

并且，本领域技术人员可以理解，视频包括一系列图像帧，每个图像帧也可以称为图像，为便于描述，在之后的行文中，视频中的图像帧均称为图像，在步骤S101中从视频中获取的图像包括一个或多个图像，以期对该一个或多个图像进行渲染。

如本领域技术人员所了解的，视频中的图像可以通过像素表示，而像素可以通过位置参数和颜色参数来表征，在步骤S101中获得了所述视频中的图像，也就获得了视频中的图像的各像素的位置参数和颜色参数。一种典型的表征方式为通过五元组(x，y，r，g，b)来表示图像中的一个像素的位置参数和颜色参数，其中的横坐标x和纵坐标y作为所述一个像素的位置参数，其中的颜色分量r，g，和b作为所述一个像素的颜色参数、用以描述该像素在RGB空间上的数值，将r，g，和b叠加可以获得所述像素的颜色。当然，还可以采用其他方式表示所述图像的像素的位置参数和颜色参数，例如通过(L，a，b)表示所述像素在LAB空间上的颜色，其中L表示亮度，a表示红绿色程度，b表示黄蓝色程度，例如通过极坐标表示所述像素的位置参数，本公开实施例对此不做限定。值得说明的是，如同本领域技术人员的理解，在表示像素的位置参数时，像素的坐标所对应的坐标系可以采用图像坐标系，相机坐标系，以及世界坐标系，本公开实施例对此同样不做限定。

如同本公开背景技术所述，常用的拍摄装置无法记录图像中各像素的深度信息，故步骤S101中所获取的视频的图像，其中的像素的位置参数一般不包括深度信息(例如深度坐标z)，但是现有技术中例如通过双镜头拍摄、或者通过光感定位技术所拍摄的视频，对于其中的图像的像素的位置参数，可以记录其深度信息，另外，对于一些并非基于拍摄技术、或者部分基于拍摄基于所制作的视频，其中的图像的像素的位置参数可能包括深度信息，也可能不包括深度信息。对于本公开的步骤S101中所获取的视频的图像，并不限定其中的像素是否包括深度信息，包括深度信息的图像或者不包括深度信息的图像均能够应用于本公开的实施例。

步骤S102，确定所述图像中的第一类别的像素；

其中所述第一类别可以包括任何具有颜色特征和/或形状特征的类别，例如，所述第一类别包括前景图像类别或者背景图像类别，那么图像中属于前景图像的像素或者背景图像的像素即为该第一类别的像素；还例如，所述第一类别包括目标对象类别，目标对象类别可以是人物对象类别，那么图像中属于人物对象的像素即为该第一类别的像素，目标对象类别还可以是建筑物对象类别，那么图像中属于建筑物对象的像素即为该第一类别的像素。

在步骤S102中，对于步骤S101中获取的所述图像，要确定出属于第一类别的像素，以便对该第一类别的像素进行渲染。可以多种方法确定所述图像中的第一类别的像素，例如，所述第一类别包括目标对象类别，可以通过特征匹配的方法识别所述图像中的目标对象类别的像素，以目标对象类别包括人脸对象类别为例，人脸对象被皮肤覆盖，尽管人的肤色由于不同人种或者个体特点表现出不同的颜色，但是其色调基本一致，皮肤的颜色在颜色空间中只聚集在很小的一块区域，故可以首先将皮肤的颜色特征作为人脸对象的颜色特征，然后将所述图像中的像素的颜色特征与人脸对象的颜色特征进行匹配，以识别出图像中皮肤部分的区域，这可能包括人物对象的人脸对象、人手对象、臂部、腿部、足部等，进一步的，根据人脸对象的形状特征在所述皮肤部分的区域中识别出人脸对象的区域，将所述人脸对象的区域中的像素作为所述人脸对象类别的像素；还例如，所述第一类别包括前景类别，可以通过图像分割算法识别所述图像中的前景类别的像素，具体的，可以根据图像颜色参数的相似性或同质性将图像划分为区域，然后通过区域合并的方式将合并后的区域所包括的像素确定为前景像素，还可以根据图像颜色参数的不连续性和突变性寻找前景的轮廓，根据其轮廓的位置进行空间上的延伸，也就是说根据图像的特征点、线、面进行图像分割以确定出前景的轮廓，并将轮廓内的像素确定为前景像素。本公开实施例对于通过何种方法确定所述图像中的第一类别的像素不做限定，任何现有的、将来的确定方法均可以应用到本公开实施例中。

在一个可选的实施例中，所述确定所述图像中的第一类别的像素，包括：训练卷积神经网络(CNN)分类器；根据所述CNN分类器确定所述图像中的所述第一类别的像素。

卷积神经网络(Convolutional Neural Networks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一，在图像处理领域中应用卷积神经网络可以实现对图像的分类。常见的CNN包括但不限于MobileNetV2，AlexNet，googleNet，VGGNet，DenseNet等。本领域技术人员能够理解，不同的卷积神经网络具有不同的架构，这体现在可能包括不同的层以及不同数量的层。如图2所示，典型的卷积神经网络的框架包括卷积层、非线性层、池化层、以及完全连接层。

卷积层主要用于从输入图像中提取图像特征，可以通过一个或多个过滤器(也称特征探测器)按照预设的步长从输入图像中提取图像特征。如本领域技术人员所理解的，图像由像素构成，可以通过颜色参数和位置参数表征图像中的每一个像素，例如输入图像包括48*48个像素，通过5*5的过滤器按照步长为1提取器图像特征可以得到卷积层所输出的44*44的图像特征矩阵。

卷积层之后可以连接非线性层或池化层，其中非线性层用于对卷积层输出的图像特征进行二次特征提取，池化层可以采用平均池化的方式或者最大池化的方式对卷积层或非线性层的输出结果进行处理，能够降低图像特征的维度，减少运算次数。

卷积神经网络的最后为完全连接层，完全连接层的最后一层为输出层，也可以称为分类器的输出层，完全连接层接收之前的层的图像特征，并对所述图像特征进行层层处理，最终，经过处理的图像特征输入到输出层，在输出层中通过激活函数对该图像特征进行计算，并将计算结果映射到输出层所包括的多个输出项目，该多个输出项目可以作为分类器的输出项目。

在基于卷积神经网络训练分类器的过程中，对于训练集合中的图像，会输入到卷积神经网络，按照卷积神经网络的架构层层计算和处理，最终在完全连接层的输出层输出分类结果，然后根据该分类结果与图像的标签信息进行比对以构造损失函数，在通过梯度下降等算法根据该损失函数更新训练过程中涉及的权重和偏置等参数之后，再根据更新后的参数重新计算分类结果，如此迭代，在得到最优的分类结果后完成对分类器的训练，从而对于输入的图像，可以通过该分类器进行分类和/或识别。

因此在步骤S102中，可以训练卷积神经网络分类器，并根据卷积神经网络分类器对步骤S101中获取的视频中的所述图像进行识别，以确定该图像中的所述第一类别的像素。

作为一个可选的实施例，所述训练CNN分类器，包括：获取训练集合，所述训练集合中的图像中的像素对应标签信息，所述标签信息指示与所述标签信息对应的像素的类别，所述类别包括所述第一类别和非所述第一类别；确定所CNN分类器的输出项目，所述输出项目与所述标签信息对应；根据所述训练集合训练所述CNN分类器。

在上述可选的实施例中，训练卷积神经网络分类器的训练集合包括多个图像，对于其中的每个图像，其每个像素对应有标签信息，将训练集合中的图像输入卷积神经网络并进行计算，该卷积神经网络分类器的输出项目包括第一子项目和第二子项目，所述第一子项目与所述第一类别对应，所述第二子项目与非所述第一类别对应，经过所述卷积神经网络的计算后，所述第一子项目和第二子项目的输出值用于指示输入的图像的每个像素为所述第一类别或者非所述第一类别，可以将所述输出项目的输出值指示的结果与所述每个像素对应的标签信息指示的类别进行比对以构造损失函数，在通过梯度下降等算法根据该损失函数更新训练过程中涉及的权重和偏置等参数之后，再重新将训练集合中的图像输入到卷积神经网络，如此迭代，在得到最优的结果后完成对分类器的训练。

如本领域技术人员所理解的，根据卷积神经网络分类器所采用的计算方式的不同，分类器的输出项目的输出值可以具有多种形式，作为一个可选的实施例，分类器的各输出项目中某一个输出项目的输出值为A，其他输出项目的输出值为B，则意味着输出值为A的输出项目指示了分类器对输入项目的分类，具体到上述可选的实施例，与所述第一类别对应的第一子项目的输出值为1，与非所述第一类别对应的第二项目的输出值为0，这意味着对于图像的某像素，其属于第一类别的像素；作为又一个可选的实施例，所述分类器的每个输出项目的输出值大于或者等于0并且小于或者等于1，所述分类器的各输出项目对应的输出值的和为1，即分类器的每个输出项目的输出值代表所述分类器对输入项目的分类概率，概率值最大的输出项目指示了分类器对输入项目的分类，具体到上述可选的实施例，与所述第一类别对应的第一子项目的输出值为0.1，与非所述第一类别对应的第二项目的输出值为0.9，这意味着对于图像的某像素，其属于非所述第一类别的像素，或者说不属于所述第一类别的像素。

如同本领域技术人员所理解的，可以通过均方误差(MSE)构造损失函数。例如对于训练集合中的一个图像，对于其中的任一像素，如果分类器的输出项目的输出值指示的分类结果正确则误差记为0，如果分类器的输出项目的输出值指示的分类结果错误则误差记为1，对该一个图像的所有像素的误差求和作为该一个图像的总误差，同理可以对训练集合中的所有图像按照上述方式计算个图像的总误差，进而通过均方误差构造损失函数。如同本领域技术人员所理解的，可以通过多种方式根据训练集合中的单个图像的误差构造损失函数，本公开实施例对此不做限定。

在一个可选的实施例中，所述第一类别的像素包括地面类别的像素。一副图像中地面类别的像素包括该一副图像中属于地面的区域中的像素，如同本领域技术人员的理解，无论拍摄的图像还是合成的图像，图像中的地面往往具有特定的颜色特征和/或形状特征，因此可以通过多种方式确定出一副图像中地面类别的像素。例如通过前述训练卷积神经网络分类器的方法，可以将训练集合中的图像的像素标记为地面类别的像素和非地面类别的像素，从而训练出的分类器能够用于确定输入的图像中的地面类别的像素。

步骤S103，根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；

即时定位与地图构建(Simultaneous Localization and Mapping，SLAM)算法能够识别图像中的像素的深度信息从而识别出图像中的多个平面。典型的SLAM算法能够基于单摄像头拍摄装置所拍摄的视频，根据拍摄装置的旋转和平移造成的前后图像帧之间的图像特征差异确定出属于一个平面的多个离散的像素(能够得到该多个离散的像素的横坐标x，纵坐标y，深度坐标z)，然后根据这些离散的像素确定该一个平面的平面方程。以通过SLAM算法在一个图像中确定一个平面的方程为例，首先在该一个平面上确定多个(至少四个)离散的点(或者像素)，从而得到该多个离散的点的x，y，z坐标，将该多个离散的点的x，y，z坐标代入平面方程Ax+By+Cz+D＝0，能够计算出常数A，B，C，D的值，从而得到该一个平面的方程。通过SLAM算法可能在一个图像中确定出多个平面的方程，该多个平面的方程的形式均为Ax+By+Cz+D＝0，只不过不同平面的方程中的常数A，B，C，D中的一个或多个的值可能不同。

在步骤S102中确定了图像中的第一类别的像素，进而在步骤S103中根据SLAM算法确定所述第一类别的像素对应的平面方程。

作为一个可选的实施例，所述根据SLAM算法确定所述第一类别的像素对应的平面方程，包括：根据SLAM算法确定所述图像中属于同一平面的多个像素；在所述多个像素满足预设条件的情况下，将所述多个像素所属的所述同一平面的方程确定为所述第一类别的像素对应的所述平面方程。

其中，所述预设条件包括所述多个像素全部属于所述第一类别的像素；或者，所述多个像素中属于所述第一类别的像素的数量达到预设数量；或者，所述多个像素中属于所述第一类别的像素的数量达到预设比例。

如前所述，通过SLAM算法在一个图像中可能确定出属于不同平面的多个像素，进而确定出不同平面各自的平面方程，而在步骤S103中仅需要确定出所述第一类别的像素对应的平面方程。因此可以对通过SLAM算法确定出的属于同一个平面的像素按照上述可选的实施例提供的方式进行识别，当其满足上述预设条件时，将所述属于同一个平面的像素对应的平面方程作为所述第一类别的像素的平面方程。例如对于某一平面，通过SLAM算法确定出M个属于该某一平面的离散的像素，其中M为自然数并且M大于或等于4，如果该M个离散的像素全部属于在步骤S102中所确定的第一类别的像素(或者说所述M个离散的像素属于所述第一类别的像素构成的像素集合，或者说所述M个像素构成的像素集合是所述第一类别的像素构成的像素集合的子集或者真子集)，那么认为所述第一类别的像素位于所述M个离散的像素所属的该某一个平面，或者如果该M个离散的像素中属于在步骤S102中所确定的第一类别的像素的数量达到预设数量或预设比例(或者说所述M个离散的像素中、预设数量或者预设比例的像素属于所述第一类别的像素构成的像素集合)，那么认为所述第一类别的像素位于所述M个离散的像素所属的该某一个平面。进而，可以将所述M个离散的像素所属的该某一个平面的平面方程作为所述第一类别的像素对应的平面方程，关于如何根据M个离散的像素确定其所属的平面的平面方程的方法可以参照之前的描述，此处不再赘述。

步骤S104，根据所述平面方程确定所述第一类别的像素的深度信息；

在步骤S103中确定了所述第一类别的像素对应的平面方程，因此在步骤S103中可以根据该平面方程确定所述第一类别的像素的深度信息，例如深度坐标z。

可选的，所述平面方程包括Ax+By+Cz+D＝0，其中x，y，z分别为像素的横坐标，纵坐标，深度坐标，A，B，C，D为常数。例如在步骤S102中确定了所述第一类别的像素，那么可以将所述第一类别的像素的位置参数中的横坐标x和纵坐标y的值代入所述平面方程，从而得到深度坐标z的值。如前所述，在步骤S101中所获取的视频的图像，其中的像素可能包括深度坐标，也可能不包括深度坐标，在其包括深度坐标的情况下，不考虑其所包括的深度坐标，而按照步骤S103提供的方式根据该平面方程确定所述第一类别的像素的深度信息。

步骤S105，根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

在步骤S104中确定了所述第一类别的像素的深度信息，那么在步骤S105中可以根据该深度信息渲染所述第一类别的像素。可选的，根据所述第一类别的像素的深度信息渲染所述第一类别的像素，包括：根据渲染参数和所述第一类别的像素的横坐标，纵坐标，深度坐标渲染所述第一类别的像素。例如深度信息可能反应了该像素距离镜头的远近，那么根据深度信息的不同，对于距离镜头较远的像素，可以通过淡化、虚化、增加滤镜等方式进行渲染，以取得理想的渲染效果；还例如，所述第一类别包括地面类别，所述第一类别的像素包括地面类别的像素，那么将预设的贴图或者纹理等根据地面类别的像素的x，y，和z坐标进行贴图，以取得理想的渲染效果。值得说明的是，本公开实施例对根据深度信息渲染所述第一类别的像素的渲染方式不做限定，任何现有的、将来的基于像素的深度信息渲染像素或渲染图像的渲染方式局能够应用于本公开的实施例。

通过本公开提供的渲染图像的方法，能够识别出图像中的第一类别的像素，并且根据SLAM算法确定所述第一类别的像素的深度信息，从而在对第一类别的像素进行渲染时考虑其深度信息，能够获得更好的渲染效果。

图3所示为本公开实施例提供的渲染图像的装置300实施例的结构示意图，如图3所示，所述渲染图像的装置300包括图像获取模块301，像素类别确定模块302，平面方程确定模块303，像素深度信息确定模块304，渲染模块305。

其中，所述图像获取模块301，用于从视频中获取图像；所述像素类别确定模块302，用于确定所述图像中的第一类别的像素；所述平面方程确定模块303，用于根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；所述像素深度信息确定模块304，用于根据所述平面方程确定所述第一类别的像素的深度信息；所述渲染模块305，用于根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

图3所示装置可以执行图1所示实施例的方法，本实施例未详细描述的部分，可参考对图1所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1所示实施例中的描述，在此不再赘述。

下面参考图4，其示出了适于用来实现本公开实施例的电子设备400的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图4所示，电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线或通信线路404彼此相连。输入/输出(I/O)接口405也连接至总线或通信线路404。

通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置406；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407；包括例如磁带、硬盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置409从网络上被下载和安装，或者从存储装置408被安装，或者从ROM 402被安装。在该计算机程序被处理装置401执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例中的渲染图像的方法。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言-诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言-诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络-包括局域网(LAN)或广域网(WAN)-连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例，提供了一种渲染图像的方法，包括：从视频中获取图像；确定所述图像中的第一类别的像素；根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；根据所述平面方程确定所述第一类别的像素的深度信息；根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

进一步的，所述确定所述图像中的第一类别的像素，包括：训练卷积神经网络(CNN)分类器；根据所述CNN分类器确定所述图像中的所述第一类别的像素。

进一步的，所述训练CNN分类器，包括；获取训练集合，所述训练集合中的图像中的像素对应标签信息，所述标签信息指示与所述标签信息对应的像素的类别，所述类别包括所述第一类别和非所述第一类别；确定所CNN分类器的输出项目，所述输出项目与所述标签信息对应；根据所述训练集合训练所述CNN分类器。

进一步的，所述第一类别的像素包括地面类别的像素。

进一步的，所述根据SLAM算法确定所述第一类别的像素对应的平面方程，包括：根据SLAM算法确定所述图像中属于同一平面的多个像素；在所述多个像素满足预设条件的情况下，将所述多个像素所属的所述同一平面的方程确定为所述第一类别的像素对应的所述平面方程。

进一步的，所述预设条件包括：所述多个像素全部属于所述第一类别的像素；所述多个像素中属于所述第一类别的像素的数量达到预设数量；或者，所述多个像素中属于所述第一类别的像素的数量达到预设比例。

进一步的，所述平面方程包括Ax+By+Cz+D＝0，其中x，y，z分别为像素的横坐标，纵坐标，深度坐标，A，B，C，D为常数。

进一步的，根据所述平面方程确定所述第一类别的像素的深度信息，包括：确定所述第一类别的像素的横坐标和纵坐标；根据所述第一类别的像素的横坐标和纵坐标，以及所述平面方程Ax+By+Cz+D＝0，确定所述第一类别的像素的深度坐标。

进一步的，根据所述第一类别的像素的深度信息渲染所述第一类别的像素，包括：根据渲染参数和所述第一类别的像素的横坐标，纵坐标，深度坐标渲染所述第一类别的像素。

根据本公开的一个或多个实施例，提供了一种渲染图像的装置，包括：图像获取模块，用于从视频中获取图像；像素类别确定模块，用于确定所述图像中的第一类别的像素；平面方程确定模块，用于根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；像素深度信息确定模块，用于根据所述平面方程确定所述第一类别的像素的深度信息；渲染模块，用于根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

进一步的，所述像素类别确定模块还用于：训练卷积神经网络(CNN)分类器；根据所述CNN分类器确定所述图像中的所述第一类别的像素。

进一步的，所述像素类别确定模块还用于：获取训练集合，所述训练集合中的图像中的像素对应标签信息，所述标签信息指示与所述标签信息对应的像素的类别，所述类别包括所述第一类别和非所述第一类别；确定所CNN分类器的输出项目，所述输出项目与所述标签信息对应；根据所述训练集合训练所述CNN分类器。

进一步的，所述第一类别的像素包括地面类别的像素。

进一步的，所述平面方程确定模块还用于：根据SLAM算法确定所述图像中属于同一平面的多个像素；在所述多个像素满足预设条件的情况下，将所述多个像素所属的所述同一平面的方程确定为所述第一类别的像素对应的所述平面方程。

进一步的，所述预设条件包括：所述多个像素全部属于所述第一类别的像素；所述多个像素中属于所述第一类别的像素的数量达到预设数量；或者，所述多个像素中属于所述第一类别的像素的数量达到预设比例。

进一步的，所述平面方程包括Ax+By+Cz+D＝0，其中x，y，z分别为像素的横坐标，纵坐标，深度坐标，A，B，C，D为常数。

进一步的，所述像素深度信息确定模块用于：确定所述第一类别的像素的横坐标和纵坐标；根据所述第一类别的像素的横坐标和纵坐标，以及所述平面方程Ax+By+Cz+D＝0，确定所述第一类别的像素的深度坐标。

进一步的，所述渲染模块还用于：根据渲染参数和所述第一类别的像素的横坐标，纵坐标，深度坐标渲染所述第一类别的像素。

根据本公开的一个或多个实施例，提供了一种电子设备，包括：存储器，用于存储计算机可读指令；以及处理器，用于运行所述计算机可读指令，使得所述处理器运行时实现前述任意所述的渲染图像的方法。

根据本公开的一个或多个实施例，提供了一种非暂态计算机可读存储介质，用于存储计算机可读指令，当所述计算机可读指令由计算机执行时，使得所述计算机执行前述任意所述的渲染图像的方法。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (12)

1.一种渲染图像的方法，其特征在于，包括：

从视频中获取图像；

确定所述图像中的第一类别的像素；

根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；

根据所述平面方程确定所述第一类别的像素的深度信息；

根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

2.根据权利要求1所述的渲染图像的方法，其特征在于，所述确定所述图像中的第一类别的像素，包括：

训练卷积神经网络(CNN)分类器；

根据所述CNN分类器确定所述图像中的所述第一类别的像素。

3.根据权利要求2所述的渲染图像的方法，其特征在于，所述训练CNN分类器，包括：

获取训练集合，所述训练集合中的图像中的像素对应标签信息，所述标签信息指示与所述标签信息对应的像素的类别，所述类别包括所述第一类别和非所述第一类别；

确定所CNN分类器的输出项目，所述输出项目与所述标签信息对应；

根据所述训练集合训练所述CNN分类器。

4.根据权利要求2或3所述的渲染图像的方法，其特征在于，所述第一类别的像素包括地面类别的像素。

5.根据权利要求1所述的渲染图像的方法，其特征在于，所述根据SLAM算法确定所述第一类别的像素对应的平面方程，包括：

根据SLAM算法确定所述图像中属于同一平面的多个像素；

在所述多个像素满足预设条件的情况下，将所述多个像素所属的所述同一平面的方程确定为所述第一类别的像素对应的所述平面方程。

6.根据权利要求5所述的渲染图像的方法，其特征在于，所述预设条件包括：

所述多个像素全部属于所述第一类别的像素；

所述多个像素中属于所述第一类别的像素的数量达到预设数量；或者

所述多个像素中属于所述第一类别的像素的数量达到预设比例。

7.根据权利要求5或6所述的渲染图像的方法，其特征在于，所述平面方程包括Ax+By+Cz+D＝0，其中x，y，z分别为像素的横坐标，纵坐标，深度坐标，A，B，C，D为常数。

8.根据权利要求7所述的渲染图像的方法，其特征在于，根据所述平面方程确定所述第一类别的像素的深度信息，包括：

确定所述第一类别的像素的横坐标和纵坐标；

根据所述第一类别的像素的横坐标和纵坐标，以及所述平面方程Ax+By+Cz+D＝0，确定所述第一类别的像素的深度坐标。

9.根据权利要求8所述的渲染图像的方法，其特征在于，根据所述第一类别的像素的深度信息渲染所述第一类别的像素，包括：

根据渲染参数和所述第一类别的像素的横坐标，纵坐标，深度坐标渲染所述第一类别的像素。

10.一种渲染图像的装置，其特征在于，包括：

图像获取模块，用于从视频中获取图像；

像素类别确定模块，用于确定所述图像中的第一类别的像素；

平面方程确定模块，用于根据即时定位与地图构建(SLAM)算法确定所述第一类别的像素对应的平面方程；

像素深度信息确定模块，用于根据所述平面方程确定所述第一类别的像素的深度信息；

渲染模块，用于根据所述第一类别的像素的深度信息渲染所述第一类别的像素。

11.一种电子设备，包括：

存储器，用于存储计算机可读指令；以及

处理器，用于运行所述计算机可读指令，使得所述处理器运行时实现根据权利要求1-9中任意一项所述的渲染图像的方法。

12.一种非暂态计算机可读存储介质，用于存储计算机可读指令，当所述计算机可读指令由计算机执行时，使得所述计算机执行权利要求1-9中任意一项所述的渲染图像的方法。