CN112308798B - 图像处理方法及装置、存储介质、终端 - Google Patents
图像处理方法及装置、存储介质、终端 Download PDFInfo
- Publication number
- CN112308798B CN112308798B CN202011205216.3A CN202011205216A CN112308798B CN 112308798 B CN112308798 B CN 112308798B CN 202011205216 A CN202011205216 A CN 202011205216A CN 112308798 B CN112308798 B CN 112308798B
- Authority
- CN
- China
- Prior art keywords
- depth information
- mask
- threshold
- map
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
一种图像处理方法及装置、存储介质、终端,所述图像处理方法包括:根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;对深度信息图进行边缘检测;根据深度信息图的边缘检测结果以及深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图。上述方案,能够提高图像处理质量。
Description
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及一种图像处理方法及装置、存储介质、终端。
背景技术
随着计算机技术、多媒体技术的发展,人们对三维世界的感知需求不断提升,越来越多的应用需要获取三维场景相对于摄像机的距离(即深度),如三维重建、人机交互、模式识别等都是利用深度图来表征物体的第三维信息。而一般的摄像技术只能以二维的方式记录三维的空间,因此,如何获取高质量的深度信息成了计算机视觉至关重要的技术。
现有技术中,通常采用立体匹配算法得到深度图,立体匹配算法可以包括局部立体匹配算法和全局立体匹配算法。局部立体匹配算法大多基于窗口实现,其复杂度低、易于实时实现,但局部立体匹配算法产生的深度图往往噪声较大,在低纹理区域、重复纹理区域和遮挡区域容易产生错误匹配。全局算法一般加入平滑项,通过解决最优化问题来计算,往往复杂度高,计算成本较大。这两种算法都容易使深度图物体边缘轮廓不整齐。因此,不管采用何种深度图生成算法,图像后处理技术往往不可或缺。
常见的深度图后处理算法有滤波算法(如高斯滤波、双边滤波、导向滤波等)、形态学方法、抠图算法等,这些方法一定程度上提升了深度图的准确性,如填补空洞、去除噪点、边缘一致性等问题。但由于无法分辨深度图的正确点和错误点,特别是在复杂背景的情况下,反而将错误的深度图扩散,导致处理效果较差。
发明内容
本发明实施例解决的技术问题是深度图的处理质量较差。
为解决上述技术问题,本发明实施例提供一种图像处理方法包括:根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,所述掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,所述深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;对所述深度信息图进行边缘检测;根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图。
可选的,所述根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,包括:获取设定的第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围,其中,第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围互不重叠且连续;根据所述每个像素的深度信息值,确定所述每个像素的深度信息值所处的范围;确定深度信息值处于所述第一深度信息范围的像素的初始掩模类别为所述确定前景掩模,确定深度信息值处于所述第二深度信息范围的像素的初始掩模类别为所述可能前景掩模,确定深度信息值处于所述第三深度信息范围的像素的初始掩模类别为所述可能背景掩模,确定深度信息值处于所述第四深度信息范围的像素的初始掩模类别为所述确定背景掩模。
可选的,采用如下方式确定所述第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围:根据所述深度信息图中的各个像素的深度信息值统计在各深度信息值下的像素数目;根据所述各深度信息值下的像素的数目、所述深度信息图中的所有像素的数目以及各个像素的深度信息值,确定第一阈值、第二阈值以及第三阈值,所述第一阈值、第二阈值以及第三阈值形成第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围。
可选的,当所述深度信息图为视差图时,所述深度信息值为视差值,所述第一阈值、第二阈值以及第三阈值依次递减,所述第一深度信息范围为大于所述第一阈值,所述第二深度信息范围为介于所述第二阈值与所述第一阈值之间,所述第三深度信息范围为介于所述第三阈值与所述第二阈值之间,所述第四深度信息范围为小于所述第三阈值;或者,当所述深度信息图为深度图时,所述深度信息值为深度值,所述第一阈值、所述第二阈值以及所述第三阈值依次递增,所述第一深度信息范围为小于所述第一阈值,所述第二深度信息范围为介于所述第一阈值与所述第二阈值之间,所述第三深度信息范围为介于所述第二阈值与所述第三阈值之间,所述第四深度信息范围为大于所述第三阈值。
可选的,所述根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像,包括:根据所述深度信息图的边缘检测结果,确定边缘区域,所述边缘区域内的像素记为边缘像素;根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型;根据所述边缘区域预设范围内的像素重新确定后的初始掩模类型,对所述初始掩模图像进行调整,得到所述目标掩模图像。
可选的,所述根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型,包括:将以所述边缘像素为中心的第一邻域内的像素的掩模类型设定为指定掩模类型,所述指定掩模类型包括所述可能前景掩模或者所述可能背景掩模;计算以所述边缘像素为中心的第二邻域内的所有的像素的深度信息值的第一平均值,在所述第一平均值的两端分别取第五深度信息范围和第六深度信息范围,其中,第五深度信息范围靠近所述确定前景掩模对应第一深度信息范围,所述第六深度信息范围靠近所述确定背景掩模对应的第四深度信息范围,所述第二邻域大于所述第一邻域;根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述边缘区域预设范围内的像素的初始掩模类型。
可选的,所述指定掩模类型为所述可能背景掩模,所述根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述边缘区域预设范围内的像素的初始掩模类型,包括:当所述边缘区域预设范围内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定背景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述确定前景掩模时,则将初始掩模类别调整为所述可能背景掩模。
可选的,所述指定掩模类型为所述可能前景掩模,所述根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述边缘区域预设范围内的像素的掩模类型,包括:当所述边缘区域预设范围内的像素的深度信息值处于所述第五深度信息范围时,若掩模类别为所述可能前景掩模时,则将初始掩模类别调整为所述确定前景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模;当所述边缘区域预设范围内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述确定前景掩模时,则将初始掩模类别调整为所述可能前景掩模。
可选的,所述在所述第一平均值的两端分别取第五深度信息范围和第六深度信息范围,包括:取大于所述第一平均值的一个深度信息值作为第四阈值,取小于所述第一平均值的一个深度信息值作为第五阈值;当所述深度信息图为视差图时,所述深度信息值为视差值,所述第五深度信息范围为大于所述第四阈值,所述第六深度信息范围为介于0和所述第五阈值之间;当所述深度信息图为深度图时,所述深度信息值为深度值,所述第五深度信息范围为介于0和所述第五阈值之间,所述第六深度信息范围为大于所述第四阈值。
可选的,所述图像处理方法还包括:计算所述深度信息图中掩模类别为所述确定前景掩模的所有像素的第二平均值;当所述深度信息图为视差图时,从所述第二平均值以及所述确定前景掩模的所有像素的最小值之间取两个深度信息值作为第六阈值、第七阈值,从小于所述最小值的深度信息值中取一个作为第八阈值;或者,当所述深度信息图为深度图时,从所述第二平均值以及所述确定前景掩模的所有像素的最大值之间取两个深度信息值作为第六阈值、第七阈值,从大于所述最大值的深度信息值中取一个作为第八阈值;所述第六阈值、所述第七阈值以及所述第八阈值形成第七深度信息范围、第八深度信息范围以及第九深度信息范围;根据所述深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,对所述边深度信息图中各个像素的初始掩模图像进行调整,得到所述目标掩模图像。
可选的,所述根据所述深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,对所述深度信息图中各个像素的初始掩模类别进行调整,包括:当所述深度信息图中的像素的深度信息值处于所述第七深度信息范围时,若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述确定前景掩模;当所述深度信息图中的像素的深度信息值处于所述第八深度信息范围,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述可能前景掩模;当所述深度信息图中的像素的深度信息值处于所述第九深度信息范围时,若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述可能背景掩模。
可选的,当所述深度信息图为视差图时,所述深度信息值为视差值,所述第六阈值、所述第七阈值及所述第八阈值依次递减,所述第七深度信息范围为大于所述第六阈值,所述第八深度信息范围为介于所述第七阈值与所述第六阈值之间,所述第九深度信息范围为小于所述第八阈值;或者,当所述深度信息图为深度图时,所述深度信息值为深度值,所述第六阈值、所述第七阈值及所述第八阈值依次递增,所述第七深度信息范围为小于所述第六阈值,所述第八深度信息范围为介于所述第六阈值与所述第七阈值之间,所述第九深度信息范围为大于所述第八阈值。
可选的,所述根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图,包括:获取各掩模类别分别对应的权重;根据所述各掩模对应的权重,以及各个像素的深度信息值,对各个像素的深度信息值进行调整,得到各个像素调整后的深度信息值,以得到所述处理后的深度信息图。
可选的,所述根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图,包括:遍历所述深度信息图中的每个像素,分别将每个像素作为中心像素,以所述中心像素为中心,计算所述中心像素的邻域内的每个像素分别与所述中心像素的深度信息值的深度信息差值,并获取深度信息差值对应的第一差值权重;计算所述中心像素的邻域内的每个像素分别与所述中心像素的掩模差值,并获取掩模差值对应的第二差值权重,其中,各个掩模类型分别具有对应的标号,所述掩模差值为标号差值;根据所述第一差值权重以及所述第二差值权重对所述深度信息图进行加权处理,得到所述处理后的深度信息图。
可选的,所述根据所述第一差值权重以及所述第二差值权重对所述深度信息图进行加权处理,得到所述处理后的深度信息图,包括以下任一种:计算所述第一差值权重与所述第二差值权重的乘积,采用所述乘积对所述深度信息图进行处理,得到所述处理后的深度信息图;采用所述第一差值权重对所述深度信息图进行处理,得到第一中间处理结果,采用所述第二差值权重对所述第一中间处理结果进行处理,得到所述处理后的深度信息图;采用所述第二差值对所述深度信息图进行处理,得到第二中间处理结果,采用所述第一差值权重对所述第二中间处理结果进行处理,得到所述处理后的深度信息图。
可选的,在确定每个像素的初始掩模类别之前,还包括:对所述深度信息图进行预处理,所述预处理包括以下至少一种:去噪处理、对比度拉伸处理及均匀性处理。
本发明实施例还提供一种图像处理装置包括:确定单元,用于根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,所述掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,所述深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;边缘检测单元,用于对所述深度信息图进行边缘检测;调整单元,用于根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;处理单元,用于根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图。
本发明实施例还提供一种存储介质,计算机可读存储介质为非易失性存储介质或非瞬态存储介质,其上存储有计算机程序,所述计算机程序被处理器运行时执行上述任一种图像处理方法的步骤。
本发明实施例还提供一种终端,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时执行上述任一种图像处理方法的步骤。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
先根据待处理的深度信息图中的各个像素的深度信息值,确定每个像素的初始掩模类别,并根据每个像素的初始掩模类别得到深度信息图的初始掩模图像,其中掩模类别可以包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模。然后,对深度信息图进行边缘检测,根据边缘检测结果以及深度信息图中的各个像素的深度信息值,对初始掩模图像进行调整,得到目标掩模图像。通过对初始掩模图像进行调整,可以提高所确定的目标掩模图像的各个像素点对应的掩模的准确度,进而在根据目标掩模图像对视差图以及深度图等深度信息图进行处理时,可以提高处理后的深度信息图的层次性及均匀性等,提高处理后的深度信息图的质量。
附图说明
图1是本发明实施例中的一种图像处理方法的流程图;
图2是本发明实施例中的一种图像处理装置的结构示意图。
具体实施方式
如上所述,常见的深度图后处理算法有滤波算法(如高斯滤波、双边滤波、导向滤波等)、形态学方法、抠图算法等,这些方法一定程度上提升了深度图的准确性,如填补空洞、去除噪点、边缘一致性等问题。但由于无法分辨深度图的正确点和错误点,也即无法正确的确定一些像素的掩模类别,特别是在复杂背景的情况下,反而将具有错误掩模类别的深度图扩散,导致处理效果较差。
为解决上述问题,在本发明实施例中,先根据待处理的深度信息图中的各个像素的深度信息值,确定每个像素的初始掩模类别,并根据每个像素的初始掩模类别得到深度信息图的初始掩模图像,其中掩模类别可以包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模。然后,对深度信息图进行边缘检测,根据边缘检测结果以及深度信息图中的各个像素的深度信息值,对初始掩模图像进行调整,得到目标掩模图像。通过对初始掩模图像进行调整,可以提高所确定的目标掩模图像的各个像素点对应的掩模的准确度,进而在根据目标掩模图像对视差图以及深度图等深度信息图进行处理时,可以提高处理后的深度信息图的层次性及均匀性等,提高处理后的深度信息图的质量。
为使本发明实施例的上述目的、特征和有益效果能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
参照图1,给出了本发明实施例中的一种图像处理方法的流程图。具体可以包括如下步骤:
步骤S11,根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像。
在具体实施中,待处理的深度信息图可以为深度图,也可以为视差图。也即,本发明实施例提供的图像处理方法可以对深度图进行处理,也可以对视差图进行处理,还可以同时对深度图以及视差图进行处理,具体可以根据实际应用场景的需求进行设定。
深度图指表示物体与摄像头的实际距离信息的图像。深度信息值用于表示像素的深度,此时,深度信息值为深度值,也即物体与摄像头的距离。深度值越小,表示物体与摄像头的距离越近,相应地,深度值越大,表示物体与摄像头的距离越远。
视差图指基于立体匹配算法计算图像对应点间的位置偏差形成的图像。此时,深度信息值为视差值,视差值与物体深度成反比关系,视差值越大,表示物体与摄像头距离越近,深度值越小。视差值越小,表示物体与摄像头距离越远,深度值越大。
掩模图像通常称为mask,用选定的图像,对需处理的图像全部或局部进行遮挡,来控制图像处理的区域或处理过程。
在具体实施中,掩模类别可以包括确定前景掩模类别、可能前景掩模、可能背景掩模以及确定背景掩模。可以采用标号对掩模类别进行标识。例如,可以采用0、1、2及3来表示掩模类别,如采用mask0表示确定前景掩模,采用mask1表示确定背景掩模,采用mask2表示可能前景掩模,采用mask3表示可能背景掩模。
在确定深度信息图中的各个像素的掩模类别之后,可以根据各个像素的掩模类别得到深度信息图对应的初始掩模图像。初始掩模图像可以为由设定的各个标号形成的矩阵。例如,本发明实施例中的初始掩模图像可以由0、1、2及3形成的矩阵。
在本发明实施中,可以采用如下方式确定每个像素的初始掩模类别:获取设定的第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围,其中,第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围互不重叠且连续;根据所述每个像素的深度信息值,确定所述每个像素的深度信息值所处的范围。
具体而言,确定深度信息值处于所述第一深度信息范围的像素的初始掩模类别为所述确定前景掩模,确定深度信息值处于所述第二深度信息范围的像素的初始掩模类别为所述可能前景掩模,确定深度信息值处于所述第三深度信息范围的像素的初始掩模类别为所述可能背景掩模,确定深度信息值处于所述第四深度信息范围的像素的初始掩模类别为所述确定背景掩模。
在具体实施中,可以根据所述深度信息图中的各个像素的深度信息值统计在各深度信息值下的像素数目;根据所述各深度信息值下的像素的数目、所述深度信息图中的所有像素的数目以及各个像素的深度信息值,确定第一阈值、第二阈值以及第三阈值,所述第一阈值、第二阈值以及第三阈值形成第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围。
具体而言,可以采用直方图的方式统计各深度信息值下的像素数目。可以设定第一比例及第二比例,其中,第一比例及第二比例为选中的像素数目与深度信息图中的所有像素的总数目的比值。第一比例及第二比例的相对大小可以根据需要进行配置,例如,配置第一比例小于第二比例。可以按照深度信息值的设定大小顺序,统计像素的数目,将统计的像素数目与深度信息图中的总像素数目的比值达到第一比例时对应的深度信息值作为第一阈值,将统计的像素数目与深度信息图中的总像素数目的比值达到第二比例时对应的深度信息值作为第二阈值。此外,再确定一个第三阈值。
在本发明一实施例中,当深度信息图为视差图时,直方图的横坐标为视差值,纵坐标为各视差值的像素数目。视差值越大,表示物体距离摄像头越近,物体为前景的可能性越大,反之,物体为背景的可能性越大。设定第一比例及第二比例,第一比例小于第二比例,按照视差值从大到小的顺序,对直方图从最大视差值(如255)开始往前统计像素数目,将统计的像素数目与总像素数目的比例达到第一比例时对应的视差值设定为第一阈值,将统计的像素数目与总像素数目的比例达到第二比例时对应的视差值设定为第二阈值。设定一较小的视差值作为第三阈值,其中第三阈值小于第二阈值,第二阈值小于第一阈值。
也即当所述深度信息图为视差图时,所述深度信息值为视差值,所述第一阈值、第二阈值以及第三阈值依次递减,所述第一深度信息范围为大于所述第一阈值,所述第二深度信息范围为介于所述第二阈值与所述第一阈值之间,所述第三深度信息范围为介于所述第三阈值与所述第二阈值之间,所述第四深度信息范围为小于所述第三阈值。
在本发明另一实施例中,当所述深度信息图为深度图时,直方图的横坐标为深度值,纵坐标为各深度值的像素数目。深度值越小,表示物体距离摄像头越近,物体为前景的可能性越大,反之,物体为背景的可能性越大。设定第一比例及第二比例,第一比例小于第二比例,按照深度值从小到大的顺序,对直方图从最小深度值开始往后统计像素数目,将统计的像素数目与总像素数目的比例达到第一比例时对应的深度值设定为第一阈值,将统计的像素数目与总像素数目的比例达到第二比例时的深度值设定为第二阈值。设定一较大的第三阈值,其中第三阈值大于第二阈值,第二阈值大于第一阈值。
也即当所述深度信息图为深度图时,所述深度信息值为深度值,所述第一阈值、所述第二阈值以及所述第三阈值依次递增,所述第一深度信息范围为小于所述第一阈值,所述第二深度信息范围为介于所述第一阈值与所述第二阈值之间,所述第三深度信息范围为介于所述第二阈值与所述第三阈值之间,所述第四深度信息范围为大于所述第三阈值。
步骤S12,对所述深度信息图进行边缘检测。
在具体实施中,可以采用canny算子对深度信息图进行边缘检测,也可以采用其他边缘检测方法对深度信息进行边缘检测。
步骤S13,根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像。
在具体实施中,由于边缘处往往是前景和背景的分割点,容易产生边缘不一致问题。为了提高边缘区域的像素的掩模类别确定的准确度,可以采用如下方式对初始掩模图像进行调整:根据所述深度信息图的边缘检测结果,确定边缘区域,所述边缘区域内的像素记为边缘像素。根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型。根据所述边缘区域预设范围内的像素重新确定后的初始掩模类型,对所述初始掩模图像进行调整,得到所述目标掩模图像。
进一步地,可以采用如下方式根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型:将以所述边缘像素为中心的第一邻域内的像素的掩模类型设定为指定掩模类型,所述指定掩模类型包括所述可能前景掩模或者所述可能背景掩模;计算以所述边缘像素为中心的第二邻域内的所有的像素的深度信息值的第一平均值,在所述第一平均值的两端分别取第五深度信息范围和第六深度信息范围,其中,第五深度信息范围靠近所述确定前景掩模对应第一深度信息范围,也即,深度信息值处于第五深度信息范围内的像素为前景的可能性较大;所述第六深度信息范围靠近所述确定背景掩模对应的第四深度信息范围,也即,深度信息值处于第六深度信息范围内的像素为背景的可能性较大。所述第二邻域大于所述第一邻域,且所述第二领域包含所述第一邻域。取边缘区域预设范围为第二领域,根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的初始掩模类型。
在具体实施中,当指定掩模类型为所述可能背景掩模时,根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的初始掩模类型,可以包括多种情形,具体可以包括:
当第二邻域内的像素的深度信息值处于所述第五深度信息范围时,像素为前景的可能性较大,可以提升像素成为前景的可能性,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模。
当第二邻域内的像素的深度信息值处于所述第五深度信息范围时,像素为前景的可能性较大,可以提升像素成为前景的可能性,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模。
当第二邻域内的像素的深度信息值处于所述第六深度信息范围时,像素为背景的可能性较大,可以提升像素成为背景的可能性,若初始掩模类别为可能背景掩模时,则将初始掩模类别调整为确定背景掩模。
当所第二邻域内的像素的深度信息值处于所述第六深度信息范围时,像素为背景的可能性较大,可以提升像素成为背景的可能性,若初始掩模类别为确定前景掩模时,则将初始掩模类别调整为可能背景掩模。
在具体实施中,当指定掩模类型为所述可能前景掩模时,根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的初始掩模类型,可以包括多种情形,具体可以包括:
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若掩模类别为所述可能前景掩模时,则将初始掩模类别调整为所述确定前景掩模。
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模。
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模。
当所述第二邻域内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述确定前景掩模时,则将初始掩模类别调整为所述可能前景掩模。
在具体实施中,在确定第五深度信息范围以及第六深度信息范围时,可以取大于所述第一平均值的一个深度信息值作为第四阈值,取小于所述第一平均值的一个深度信息值作为第五阈值,从而第四阈值大于第五阈值。
在一些实施例中,当所述深度信息图为视差图时,所述深度信息值为视差值,所述第五深度信息范围为大于所述第四阈值,所述第六深度信息范围为介于0和所述第五阈值之间。
在另一些实施例中,当所述深度信息图为深度图时,所述深度信息值为深度值,所述第五深度信息范围为介于0和所述第五阈值之间,所述第六深度信息范围为大于所述第四阈值。
在具体实施中,为了进一步提高目标掩模图像确定的准确度,在对目标掩模图像进行调整的基础上,还可以对调整后的目标掩模图像做进一步检测,以检查深度信息图中的像素的掩模类别是否有进一步调整的可能性,若某像素的掩模类别存在调整的可能性,则可以对该像素的掩模类别进行调整。
具体而言,计算深度信息图中掩模类别为所述确定前景掩模的所有像素的第二平均值。当所述深度信息图为视差图时,从所述第二平均值以及所述确定前景掩模的所有像素的最小值之间取两个深度信息值作为第六阈值、第七阈值,从小于所述最小值的深度信息值中取一个作为第八阈值。或者,当所述深度信息图为深度图时,从所述第二平均值以及所述确定前景掩模的所有像素的最大值之间取两个深度信息值作为第六阈值、第七阈值,从大于所述最大值的深度信息值中取一个作为第八阈值。
所述第六阈值、所述第七阈值以及所述第八阈值形成第七深度信息范围、第八深度信息范围以及第九深度信息范围。可以根据深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,对所述深度信息图中各个像素的初始掩模类别进行调整,得到目标掩模图像。
在本发明实施例中,根据所述深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,进一步检查深度信息图中的像素是否有提升为前景或者提升为背景的可能性,若某像素的掩模类别存在调整的可能性,则可以对该像素的掩模类别进行调整。其中,对所述深度信息图中的像素的初始掩模类别进行调整,可以包括多种情形,具体而言:
当所述深度信息图中的像素的深度信息值处于所述第七深度信息范围时,像素为前景的可能性较大,可以提升像素成为前景的可能性。若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述确定前景掩模。
当所述深度信息图中的像素的深度信息值处于所述第八深度信息范围,像素为前景的可能性较大,可以提升像素成为前景的可能性。若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述可能前景掩模。
当所述深度信息图中的像素的深度信息值处于所述第九深度信息范围时,像素为背景的可能性较大,可以提升像素成为背景的可能性。若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述可能背景掩模。
在具体实施中,当深度信息图的类型不同时,第七深度信息范围、第八深度信息范围以及第九深度信息范围与第六阈值、第七阈值以及第八阈值的对应关系不同,具体而言:
在一些实施例中,当所述深度信息图为视差图时,所述深度信息值为视差值,所述第六阈值大于所述第七阈值,所述第七阈值大于所述第八阈值,所述第七深度信息范围为大于所述第六阈值,所述第八深度信息范围为介于所述第七阈值与所述第六阈值之间,所述第九深度信息范围为小于所述第八阈值。
在另一些实施例中,当所述深度信息图为深度图时,所述深度信息值为深度值,所述第六阈值小于所述第七阈值,所述第七阈值小于所述第八阈值,所述第七深度信息范围为小于所述第六阈值,所述第八深度信息范围为介于所述第六阈值与所述第七阈值之间,所述第九深度信息范围为大于所述第八阈值。
在本发明一实施例中,对于深度信息值处于第七阈值及第八阈值之间的像素的掩模类别,可以不做调整。具体而言,当深度信息值为视差值时,第八阈值小于第七阈值,对于视差值大于第八阈值且小于第七阈值的像素的掩模类别不做调整。当深度信息值为深度值时,第七阈值小于第八阈值,对于深度值大于第七阈值且小于第八阈值的像素的掩模类别不做调整。
可以理解的是,还可以计算深度信息图中掩模类别为所述确定背景掩模的所有像素的第三平均值。当深度信息图为视差图时,从所述第三平均值以及所述确定背景掩模的所有像素的最小值之间取两个深度信息值作为第九阈值、第十阈值,从小于所述最小值的深度信息值中取一个作为第十一阈值。或者,当深度信息图为深度图时,从所述第三平均值以及所述确定背景掩模的所有像素的最大值之间取两个深度信息值作为第九阈值、第十阈值,从大于所述最大值的深度信息值中取一个作为第十一阈值。
所述第九阈值、所述第十阈值以及所述第十一阈值形成第十深度信息范围、第十一深度信息范围以及第十二深度信息范围;根据所述深度信息图中的像素的深度信息值以及所述第十深度信息范围、第十一深度信息范围以及第十二深度信息范围,对所述深度信息图中的像素的初始掩模类别进行调整,得到目标掩模图像。
根据所述深度信息图中的像素的深度信息值以及所述第十深度信息范围、第十一深度信息范围以及第十二深度信息范围,进一步检查深度信息图中内的像素是否有提升为背景或者提升为前景的可能性,若某像素的掩模类别存在调整的可能性,则可以对该像素的掩模类别进行调整。具体而言:
当所述深度信息图中的像素的深度信息值处于所述第十深度信息范围时,像素为背景的可能性较大,可以提升像素成为背景的可能性。若初始掩模类别为所述可能背景掩模,则将初始掩模类别调整为所述确定背景掩模。
当所述深度信息图中的像素的深度信息值处于所述第十一深度信息范围,像素为背景的可能性较大,可以提升像素成为背景的可能性。若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述可能背景掩模。
当所述深度信息图中的像素的深度信息值处于所述第十二深度信息范围时,像素为前景的可能性较大,可以提升像素成为前景的可能性。若初始掩模类别为所述可能背景掩模,则将初始掩模类别调整为所述可能前景掩模。
在具体实施中,当深度信息图的类型不同时,第十深度信息范围、第十一深度信息范围以及第十二深度信息范围与所述第九阈值、所述第十阈值以及所述第十一阈值的对应关系不同,具体而言:
在一些实施例中,当所述深度信息图为深度图时,所述深度信息值为深度值,所述第九阈值小于所述第十阈值,所述第十阈值小于所述第十一阈值,所述第十深度信息范围为大于所述第十一阈值,所述第十一深度信息范围为介于所述第九阈值与所述第十阈值之间,所述第十二深度信息范围为小于所述第九阈值。
在另一些实施例中,当所述深度信息图为视差图时,所述深度信息值为视差值,所述第九阈值大于所述第十阈值,所述第十阈值大于所述第十一阈值,所述第十深度信息范围为小于所述第十一阈值,所述第十一深度信息范围为介于所述第十阈值与所述第九阈值之间,所述第十二深度信息范围为大于所述第九阈值。
在本发明一实施例中,对于深度信息值处于第十阈值及第十一阈值之间的像素的掩模类别,可以不做调整。具体而言,当深度信息值为视差值时,第十一阈值小于第十阈值,对于视差值大于第十一阈值且小于第十阈值的像素的掩模类别不做调整。当深度信息值为深度值时,第十阈值小于第十一阈值,对于深度值大于第十阈值且小于第十一阈值的像素的掩模类别不做调整。
步骤S14,根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图。
在具体实施中,可以通过多种方式根据目标掩模图像对深度信息图进行处理,得到处理后的深度信息图。
在本发明一实施例中,获取各掩模类别分别对应的权重,根据所述各掩模对应的权重,以及各个像素的深度信息值,对各个像素的深度信息值进行调整,得到各个像素调整后的深度信息值,以得到所述处理后的深度信息图。
具体而言,分别为确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模赋予不同的权重,将各个像素的深度信息至与其掩模类别对应的权重相乘,并做加权处理,根据各个像素加权处理之后的结果,得到处理后的深度信息图。
在本发明另一实施例中,遍历所述深度信息图中的每个像素,分别将每个像素作为中心像素,以所述中心像素为中心,计算所述中心像素的邻域内的每个像素分别与所述中心像素的深度信息值的深度信息差值,并获取深度信息差值对应的第一差值权重;计算所述中心像素的邻域内的每个像素分别与所述中心像素的掩模差值,并获取掩模差值对应的第二差值权重,其中,各个掩模类型分别具有对应的标号,所述掩模差值为标号差值;根据所述第一差值权重以及所述第二差值权重对所述深度信息图进行加权处理,得到所述处理后的深度信息图。其中,深度信息差值与第一差值权重成反比,也即深度信息差值越大,对应的第一差值权重的取值越小,相应地,深度信息差值越小,对应的第一差值权重越大。掩模差值与第二差值成反比,也即掩模差值越大,第二差值权重的取值越小,掩模差值越小,第二差值权重的取值越大。
例如,计算所述第一差值权重与所述第二差值权重的乘积,采用所述乘积对所述深度信息图进行处理,得到所述处理后的深度信息图。
又如,采用所述第一差值权重对所述深度信息图进行处理,得到第一中间处理结果,采用所述第二差值权重对所述第一中间处理结果进行处理,得到所述处理后的深度信息图。
再如,采用所述第二差值对所述深度信息图进行处理,得到第二中间处理结果,采用所述第一差值权重对所述第二中间处理结果进行处理,得到所述处理后的深度信息图。
由上可知,先根据待处理的深度信息图中的各个像素的深度信息值,确定每个像素的初始掩模类别,并根据每个像素的初始掩模类别得到深度信息图的初始掩模图像,其中掩模类别可以包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模。然后,对深度信息图进行边缘检测,根据边缘检测结果以及深度信息图中的各个像素的深度信息值,对初始掩模图像进行调整,得到目标掩模图像。通过对初始掩模图像进行调整,可以提高所确定的目标掩模图像的各个像素点对应的掩模的准确度,进而在根据目标掩模图像对深度信息图进行处理时,可以提高处理后的深度信息图的层次性及均匀性等,提高处理后的深度信息图的质量。
在步骤S11执行之前,也即在确定每个像素的初始掩模类别之前,还可以对所述深度信息图进行预处理,所述预处理包括以下至少一种:去噪处理、对比度拉伸处理及均匀性处理。此后,将预处理之后的深度信息图作为待处理的深度信息图,继续执行后续的步骤S11等。
由上,采用上述实施例提供的图像处理方法对深度信息图进行后处理,可以较好的填补空洞,改善噪点以及边缘毛刺,使得图像边缘与物体边缘一致较好,提高深度信息图的均匀性以及层次性,此外,由于对初始掩模图像进行调整,可以提高各个像素的掩模类别的准确度,在复杂背景的情况下,可以有效地分辨正确点以及错误点,当像素的掩模类别错误时对掩模类别进行调整,从而可以降低错误的深度信息图扩散的概率。
本发明实施例还提供一种图像处理装置,参照图2,给出了本发明实施例中的一种图像处理装置的结构示意图。图像处理装置20可以包括:
确定单元21,用于根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,所述掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,所述深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;
边缘检测单元22,用于对所述深度信息图进行边缘检测;
调整单元23,用于根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;
处理单元24,用于根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图。
在具体实施中,图像处理装置20的具体工作原理及工作流程,可以参见本发明上述实施例提供的图像处理方法中的描述,此处不再赘述。
本发明实施例还提供一种存储介质,计算机可读存储介质为非易失性存储介质或非瞬态存储介质,其上存储有计算机程序,所述计算机程序被处理器运行时执行上述实施例提供的任一种图像处理方法的步骤。
本发明实施例还提供终端,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时执行上述实施例提供的任一种图像处理方法的步骤。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于任一计算机可读存储介质中,存储介质可以包括:ROM、RAM、磁盘或光盘等。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。
Claims (18)
1.一种图像处理方法,其特征在于,包括:
根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,所述掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,所述深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;
对所述深度信息图进行边缘检测;
根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;
根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图;
其中,所述根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像,包括:
根据所述深度信息图的边缘检测结果,确定边缘区域,所述边缘区域内的像素记为边缘像素;
根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型;
根据所述边缘区域预设范围内的像素重新确定后的初始掩模类型,对所述初始掩模图像进行调整,得到所述目标掩模图像。
2.如权利要求1所述的图像处理方法,其特征在于,所述根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,包括:
获取设定的第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围,其中,第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围互不重叠且连续;
根据所述每个像素的深度信息值,确定所述每个像素的深度信息值所处的范围;
确定深度信息值处于所述第一深度信息范围的像素的初始掩模类别为所述确定前景掩模,确定深度信息值处于所述第二深度信息范围的像素的初始掩模类别为所述可能前景掩模,确定深度信息值处于所述第三深度信息范围的像素的初始掩模类别为所述可能背景掩模,确定深度信息值处于所述第四深度信息范围的像素的初始掩模类别为所述确定背景掩模。
3.如权利要求2所述的图像处理方法,其特征在于,采用如下方式确定所述第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围:
根据所述深度信息图中的各个像素的深度信息值统计在各深度信息值下的像素数目;
根据所述各深度信息值下的像素的数目、所述深度信息图中的所有像素的数目以及各个像素的深度信息值,确定第一阈值、第二阈值以及第三阈值,所述第一阈值、第二阈值以及第三阈值形成第一深度信息范围、第二深度信息范围、第三深度信息范围以及第四深度信息范围。
4.如权利要求3所述的图像处理方法,其特征在于,
当所述深度信息图为视差图时,所述深度信息值为视差值,所述第一阈值、第二阈值以及第三阈值依次递减,所述第一深度信息范围为大于所述第一阈值,所述第二深度信息范围为介于所述第二阈值与所述第一阈值之间,所述第三深度信息范围为介于所述第三阈值与所述第二阈值之间,所述第四深度信息范围为小于所述第三阈值;或者,
当所述深度信息图为深度图时,所述深度信息值为深度值,所述第一阈值、所述第二阈值以及所述第三阈值依次递增,所述第一深度信息范围为小于所述第一阈值,所述第二深度信息范围为介于所述第一阈值与所述第二阈值之间,所述第三深度信息范围为介于所述第二阈值与所述第三阈值之间,所述第四深度信息范围为大于所述第三阈值。
5.如权利要求1所述的图像处理方法,其特征在于,所述根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型,包括:
将以所述边缘像素为中心的第一邻域内的像素的掩模类型设定为指定掩模类型,所述指定掩模类型包括所述可能前景掩模或者所述可能背景掩模;计算以所述边缘像素为中心的第二邻域内的所有的像素的深度信息值的第一平均值,在所述第一平均值的两端分别取第五深度信息范围和第六深度信息范围,其中,第五深度信息范围靠近所述确定前景掩模对应第一深度信息范围,所述第六深度信息范围靠近所述确定背景掩模对应的第四深度信息范围,所述第二邻域大于所述第一邻域;
根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的初始掩模类型。
6.如权利要求5所述的图像处理方法,其特征在于,所述指定掩模类型为所述可能背景掩模,所述根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的初始掩模类型,包括:
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模;
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模;
当所述第二邻域内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定背景掩模;
当所述第二邻域内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述确定前景掩模时,则将初始掩模类别调整为所述可能背景掩模。
7.如权利要求5所述的图像处理方法,其特征在于,所述指定掩模类型为所述可能前景掩模,所述根据所述第二邻域内的各个像素的深度信息值、所述第五深度信息范围以及所述第六深度信息范围,重新确定所述第二邻域内的像素的掩模类型,包括:
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若掩模类别为所述可能前景掩模时,则将初始掩模类别调整为所述确定前景掩模;
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述确定前景掩模;
当所述第二邻域内的像素的深度信息值处于所述第五深度信息范围时,若初始掩模类别为所述确定背景掩模时,则将初始掩模类别调整为所述可能前景掩模;
当所述第二邻域内的像素的深度信息值处于所述第六深度信息范围时,若初始掩模类别为所述确定前景掩模时,则将初始掩模类别调整为所述可能前景掩模。
8.如权利要求5所述的图像处理方法,其特征在于,所述在所述第一平均值的两端分别取第五深度信息范围和第六深度信息范围,包括:
取大于所述第一平均值的一个深度信息值作为第四阈值,取小于所述第一平均值的一个深度信息值作为第五阈值;
当所述深度信息图为视差图时,所述深度信息值为视差值,所述第五深度信息范围为大于所述第四阈值,所述第六深度信息范围为介于0和所述第五阈值之间;
当所述深度信息图为深度图时,所述深度信息值为深度值,所述第五深度信息范围为介于0和所述第五阈值之间,所述第六深度信息范围为大于所述第四阈值。
9.如权利要求1至8任一项所述的图像处理方法,其特征在于,还包括:
计算所述深度信息图中掩模类别为所述确定前景掩模的所有像素的第二平均值;
当所述深度信息图为视差图时,从所述第二平均值以及所述确定前景掩模的所有像素的最小值之间取两个深度信息值作为第六阈值、第七阈值,从小于所述最小值的深度信息值中取一个作为第八阈值;或者,当所述深度信息图为深度图时,从所述第二平均值以及所述确定前景掩模的所有像素的最大值之间取两个深度信息值作为第六阈值、第七阈值,从大于所述最大值的深度信息值中取一个作为第八阈值;
所述第六阈值、所述第七阈值以及所述第八阈值形成第七深度信息范围、第八深度信息范围以及第九深度信息范围;
根据所述深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,对所述深度信息图中各个像素的初始掩模类别进行调整,得到所述目标掩模图像。
10.如权利要求9所述的图像处理方法,其特征在于,所述根据所述深度信息图中的各个像素的深度信息值以及所述第七深度信息范围、第八深度信息范围以及第九深度信息范围,对所述深度信息图中各个像素的初始掩模类别进行调整,包括:
当所述深度信息图中的像素的深度信息值处于所述第七深度信息范围时,若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述确定前景掩模;
当所述深度信息图中的像素的深度信息值处于所述第八深度信息范围,若初始掩模类别为所述可能背景掩模时,则将初始掩模类别调整为所述可能前景掩模;
当所述深度信息图中的像素的深度信息值处于所述第九深度信息范围时,若初始掩模类别为所述可能前景掩模,则将初始掩模类别调整为所述可能背景掩模。
11.如权利要求10所述的图像处理方法,其特征在于,
当所述深度信息图为视差图时,所述深度信息值为视差值,所述第六阈值、所述第七阈值及所述第八阈值依次递减,所述第七深度信息范围为大于所述第六阈值,所述第八深度信息范围为介于所述第七阈值与所述第六阈值之间,所述第九深度信息范围为小于所述第八阈值;或者,
当所述深度信息图为深度图时,所述深度信息值为深度值,所述第六阈值、所述第七阈值及所述第八阈值依次递增,所述第七深度信息范围为小于所述第六阈值,所述第八深度信息范围为介于所述第六阈值与所述第七阈值之间,所述第九深度信息范围为大于所述第八阈值。
12.如权利要求1所述的图像处理方法,其特征在于,所述根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图,包括:
获取各掩模类别分别对应的权重;
根据所述各掩模对应的权重,以及各个像素的深度信息值,对各个像素的深度信息值进行调整,得到各个像素调整后的深度信息值,以得到所述处理后的深度信息图。
13.如权利要求1所述的图像处理方法,其特征在于,所述根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图,包括:
遍历所述深度信息图中的每个像素,分别将每个像素作为中心像素,以所述中心像素为中心,计算所述中心像素的邻域内的每个像素分别与所述中心像素的深度信息值的深度信息差值,并获取深度信息差值对应的第一差值权重;
计算所述中心像素的邻域内的每个像素分别与所述中心像素的掩模差值,并获取掩模差值对应的第二差值权重,其中,各个掩模类型分别具有对应的标号,所述掩模差值为标号差值;
根据所述第一差值权重以及所述第二差值权重对所述深度信息图进行加权处理,得到所述处理后的深度信息图。
14.如权利要求13所述的图像处理方法,其特征在于,所述根据所述第一差值权重以及所述第二差值权重对所述深度信息图进行加权处理,得到所述处理后的深度信息图,包括以下任一种:
计算所述第一差值权重与所述第二差值权重的乘积,采用所述乘积对所述深度信息图进行处理,得到所述处理后的深度信息图;
采用所述第一差值权重对所述深度信息图进行处理,得到第一中间处理结果,采用所述第二差值权重对所述第一中间处理结果进行处理,得到所述处理后的深度信息图;
采用所述第二差值对所述深度信息图进行处理,得到第二中间处理结果,采用所述第一差值权重对所述第二中间处理结果进行处理,得到所述处理后的深度信息图。
15.如权利要求1所述的图像处理方法,其特征在于,在确定每个像素的初始掩模类别之前,还包括:
对所述深度信息图进行预处理,所述预处理包括以下至少一种:去噪处理、对比度拉伸处理及均匀性处理。
16.一种图像处理装置,其特征在于,包括:
确定单元,用于根据待处理的深度信息图中各个像素的深度信息值,确定每个像素的初始掩模类别,并根据所述每个像素的初始掩模类别得到所述深度信息图对应的初始掩模图像,所述掩模类别包括确定前景掩模、可能前景掩模、可能背景掩模以及确定背景掩模,所述深度信息图包括以下至少一种:深度图及视差图,所述深度信息值用于表示像素的深度;
边缘检测单元,用于对所述深度信息图进行边缘检测;
调整单元,用于根据所述深度信息图的边缘检测结果以及所述深度信息图中各个像素的深度信息值,对所述初始掩模图像进行调整,得到目标掩模图像;
处理单元,用于根据所述目标掩模图像对所述深度信息图进行处理,得到处理后的深度信息图;
其中,所述调整单元,用于根据所述深度信息图的边缘检测结果,确定边缘区域,所述边缘区域内的像素记为边缘像素;根据所述边缘区域预设范围内的像素的深度信息值,重新确定所述边缘区域预设范围内的像素的初始掩模类型;根据所述边缘区域预设范围内的像素重新确定后的初始掩模类型,对所述初始掩模图像进行调整,得到所述目标掩模图像。
17.一种存储介质,计算机可读存储介质为非易失性存储介质或非瞬态存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行权利要求1至15任一项所述的图像处理方法的步骤。
18.一种终端,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时执行权利要求1至15任一项所述的图像处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011205216.3A CN112308798B (zh) | 2020-11-02 | 2020-11-02 | 图像处理方法及装置、存储介质、终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011205216.3A CN112308798B (zh) | 2020-11-02 | 2020-11-02 | 图像处理方法及装置、存储介质、终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112308798A CN112308798A (zh) | 2021-02-02 |
CN112308798B true CN112308798B (zh) | 2022-09-09 |
Family
ID=74333589
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011205216.3A Active CN112308798B (zh) | 2020-11-02 | 2020-11-02 | 图像处理方法及装置、存储介质、终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112308798B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102420985A (zh) * | 2011-11-29 | 2012-04-18 | 宁波大学 | 一种多视点视频对象提取方法 |
US9177225B1 (en) * | 2014-07-03 | 2015-11-03 | Oim Squared Inc. | Interactive content generation |
CN106651867A (zh) * | 2017-01-04 | 2017-05-10 | 努比亚技术有限公司 | 一种实现交互式图像分割的方法、装置及终端 |
-
2020
- 2020-11-02 CN CN202011205216.3A patent/CN112308798B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102420985A (zh) * | 2011-11-29 | 2012-04-18 | 宁波大学 | 一种多视点视频对象提取方法 |
US9177225B1 (en) * | 2014-07-03 | 2015-11-03 | Oim Squared Inc. | Interactive content generation |
CN106651867A (zh) * | 2017-01-04 | 2017-05-10 | 努比亚技术有限公司 | 一种实现交互式图像分割的方法、装置及终端 |
Also Published As
Publication number | Publication date |
---|---|
CN112308798A (zh) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10963993B2 (en) | Image noise intensity estimation method, image noise intensity estimation device, and image recognition device | |
US9483835B2 (en) | Depth value restoration method and system | |
KR20110014067A (ko) | 스테레오 컨텐트의 변환 방법 및 시스템 | |
US10628924B2 (en) | Method and device for deblurring out-of-focus blurred images | |
CN111340749B (zh) | 图像质量的检测方法、装置、设备及存储介质 | |
US9613403B2 (en) | Image processing apparatus and method | |
US9519956B2 (en) | Processing stereo images | |
US9530212B2 (en) | Image frame conversion method and video frame conversion method and apparatus | |
Jung et al. | Depth sensation enhancement using the just noticeable depth difference | |
TWI457853B (zh) | 提供深度資訊之影像處理方法及其影像處理系統 | |
CN112991159B (zh) | 人脸光照质量评估方法、系统、服务器与计算机可读介质 | |
CN107578419B (zh) | 一种基于一致性轮廓提取的立体图像分割方法 | |
CN112308798B (zh) | 图像处理方法及装置、存储介质、终端 | |
Srikakulapu et al. | Depth estimation from single image using defocus and texture cues | |
KR20180014149A (ko) | 깊이 정보 생성 장치 및 방법 | |
CN116129195A (zh) | 图像质量评价装置、方法、电子设备和存储介质 | |
CN112053394A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN110889817A (zh) | 图像融合质量评价方法及装置 | |
CN114066779B (zh) | 一种深度图滤波方法及装置、电子设备、存储介质 | |
CN114519675A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN110490877B (zh) | 基于Graph Cuts的双目立体图像对目标分割方法 | |
Seychell et al. | Efficient object selection using depth and texture information | |
Park | Cost aggregation benchmark for light field depth estimation | |
CN116883599B (zh) | 一种基于三维建模技术的服装试穿系统 | |
Mun et al. | Occlusion Aware Reduced Angular Candidates based Light Field Depth Estimation from an Epipolar Plane Image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |