CN104683783B - 一种自适应深度图滤波方法 - Google Patents

一种自适应深度图滤波方法 Download PDF

Info

Publication number
CN104683783B
CN104683783B CN201510007440.4A CN201510007440A CN104683783B CN 104683783 B CN104683783 B CN 104683783B CN 201510007440 A CN201510007440 A CN 201510007440A CN 104683783 B CN104683783 B CN 104683783B
Authority
CN
China
Prior art keywords
pixel
depth
value
minimum
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510007440.4A
Other languages
English (en)
Other versions
CN104683783A (zh
Inventor
朱策
王昕�
周益民
付闻浩
程洪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201510007440.4A priority Critical patent/CN104683783B/zh
Publication of CN104683783A publication Critical patent/CN104683783A/zh
Application granted granted Critical
Publication of CN104683783B publication Critical patent/CN104683783B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于三维视频处理技术领域,特别涉及基于深度的三维视频中深度图的滤波方法。本发明在待滤波深度图和邻域深度图中找到参考像素点,利用像素向量对待滤波像素点的运动进行预测,根据预测结果进行参考像素点的选择。在参考像素点中筛选出与待滤波像素非常相关的像素点。对平滑区域和边界区域在筛选与待滤波像素非常相关的像素点的过程中采用了不同的方法,能更加准确的筛选出最终参与滤波的像素点。本发明提高了滤波后各时刻的深度图在时域方向的连续性。对平滑区域和边界区域采用不同的方法,可以使平滑区域更加平滑,同时保持了深度图的边界特征,并有一定的深度图边界修正能力,使得合成图像的边缘区域失真明显减少,质量得到了明显提高。

Description

一种自适应深度图滤波方法
技术领域
本发明属于三维视频处理技术领域,特别涉及基于深度的三维视频中深度图的滤波方法。
背景技术
基于深度的三维视频内容由纹理图和深度图组成,纹理图直观的呈现了物体的纹理特征,深度图反映了物体与相机之间的距离,利用基于深度图像的绘制技术可以合成指定的虚拟视纹理图像。其中作为虚拟视合成的重要信息,深度图在采集、压缩和传输过程中往往会引入大量噪声,这些噪声会在合成过程中引起严重的几何失真。深度图滤波方法能够有效去除深度图中的噪声,进而提高虚拟视合成质量。
基于深度的三维视频中,深度图的滤波方法有多种。S.J.Liu等提出了三边滤波器,此种滤波方法通过对待滤波像素周围的参考像素信息进行加权平均来计算滤波结果。在权值的计算方面,考虑了深度像素相似性、纹理像素相似性和像素位置邻近性三方面内容,此方法能够在去除噪声的同时,保护深度图的物体边缘。在三边滤波器的基础上,为了提高滤波后深度图在时域方向上的连续性,C.M.Cheng将相邻帧中包含的像素作为参考像素,共同参与加权平均过程。并在三边滤波器权值计算的基础上考虑了像素点间时域的临近性,提高了滤波后深度图在时域的连续性。然而,上述加权平均的方法容易造成深度图中物体边界的模糊,进而降低合成视质量。因此,鲁棒性更强的中值滤波方法被人们广泛接受,且取得了较好的滤波效果。F.Jager等在三边滤波器的基础上选取与待滤波像素位置距离较近、深度值较相似、纹理值较相似的像素参与中值滤波过程,保持了物体边界的清晰。
在基于深度的三维视频中,像素点包含深度值和纹理值了两方面含义。但现有技术在考虑像素点相关性时都是单独考虑这两方面因素。现有技术在进行像素运动估计的过程中通常只参考纹理信息,但深度信息也反应了物体的运动状态,从而导致运动估计的不准确。此外,现有技术在选择参与滤波像素的过程中,对所有像素点采用同样方法。然而,深度图滤波的目的是使平滑区域更加平滑,同时使物体边界更加清晰。因此,对平滑区域和边界区域应采用不同的方法对参与滤波的像素进行选择。
发明内容
本发明在现有技术的基础上,利用空域和时域像素作为参考像素,并用中值计算滤波结果,提出了一种自适应深度图滤波方法。本发明定义了像素向量的概念,此概念联合运用了像素包含的纹理和深度信息,在计算像素之间相关性的过程中,自适应的调节纹理值和深度值对计算结果的影响。在像素向量定义的基础上,本发明首先在待滤波深度图和邻域深度图中找到参考像素点,在时域参考像素点的选择过程中,利用像素向量对待滤波像素点的运动进行预测,并根据预测结果进行参考像素点的选择。然后,在参考像素点中筛选出与待滤波像素非常相关的像素点。本发明对平滑区域和边界区域在筛选与待滤波像素非常相关的像素点的过程中采用了不同的方法,能更加准确的筛选出最终参与滤波的像素点。最后,利用这些像素点的深度值计算中值,获得滤波结果。
本发明提出了一种自适应深度图滤波方法,为便于本发明叙述,下面给出本发明中几个名词的定义:
像素向量:对于像素点p,所述像素点p的像素向量为其中,Tp为所述像素点p对应的纹理像素值,Dp为所述像素点p的深度像素值,λp为所述像素点p的深度像素值的权重。
像素向量距离:对于像素点a和像素点b,所述像素点a和所述像素点b的像素向量距离为其中,所述像素点a的像素向量为Ta为所述像素点a对应的纹理像素值,Da为所述像素点a的深度像素值,λa为所述像素点a的深度像素值的权重,所述像素点b的像素向量为Tb为所述像素点b对应的纹理像素值,Db为所述像素点b的深度像素值,λb为所述像素点b的深度像素值的权重。
一种自适应深度图滤波方法,具体步骤如下:
S1、定义空域参考深度图和时域参考深度图,具体步骤如下:
定义当前时刻t对应的深度图为空域参考深度图,定义时刻m对应的深度图为时域参考深度图,其中,m=t-n,…t-1,t+1,…,t+n,n为正整数;
S2、对S1所述空域参考深度图、时域参考深度图、空域参考深度图对应的纹理图和时域参考深度图对应的纹理图进行个像素的镜像扩展,在扩展后的空域参考深度图中确定空域参考像素窗口,在扩展后的时域参考深度图中确定时域参考像素窗口,具体如下:
S21、以S1所述空域参考深度图中当前待滤波像素点p为中心,确定一个大小为f×f的矩形窗口Wt,所述Wt为空域参考像素窗口;
S22、在S1所述时域参考深度图中找出与p对应位置的像素点记作pm,以所述像素点pm为中心确定一个r×r的矩形运动搜索范围其中,r>f;
S23、在S22所述运动搜索范围中找出与S21所述当前待滤波像素点p像素向量距离最近的点具体如下:
S231、对S22所述运动搜索范围中的像素点建立像素向量,对于中的像素点i,记像素向量为其中,Ti为所述像素点i对应的纹理像素值,Di为所述像素点i的深度像素值,为所述像素点i的深度像素值的权重,利用所述对当前待滤波像素p建立像素向量Tp为所述像素点p对应的纹理像素值,Dp为所述像素点p的深度像素值;
S232、计算S22所述运动搜索范围中各像素点与S21所述当前待滤波像素p的像素向量距离,选出与S21所述当前待滤波像素p的像素向量距离最小的像素点,记作
S24、以S232所述像素点为中心确定一个大小为f×f的矩形窗口,记作Wm,所述Wm为时域参考像素窗口;
S3、在S21所述空域参考像素窗口Wt和S24所述时域参考像素窗口Wm中选出满足阈值的像素点,所述阈值包括最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S31、利用边界检测方法判断S21所述空域参考像素窗口Wt是否包含边界,若包含边界则转到S32,若不包含边界则转到S33;
S32、利用S21所述空域参考像素窗口Wt确定最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S321、对S21所述空域参考像素窗口Wt中的各像素点建立像素向量,对于Wt中的像素点j,记像素向量为其中,Tj为所述像素点j对应的纹理像素值,Dj为所述像素点j的深度像素值,λt为所述像素点j的深度像素值的权重;
S322、在S21所述空域参考像素窗口Wt中,比较两两像素点之间的像素向量距离,找到像素向量距离最大的两个像素点
S323、对S21所述空域参考像素窗口Wt中的像素点进行分类,
对于S21所述空域参考像素窗口Wt中的像素点l,若像素点l与像素点的像素向量距离小于像素点l和像素点的像素向量距离,则l与分为一类,否则,与分为一类;
选择与S21所述待滤波像素点p为同一类的像素点,记为集合Φ,所述集合Φ包含像素点的数量记为k;
S324、提取S323所述集合Φ中各像素的纹理像素值,记作集合ΦT,对所述集合ΦT中的纹理像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大纹理像素阈值选择排序后的第个值作为最小纹理像素阈值
S325、提取S323所述集合Φ中各像素的深度像素值,记作集合ΦD,对所述集合ΦD中的深度像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大深度像素阈值选择排序后的第个值作为最小深度像素阈值
S33、在S21所述空域参考像素窗口Wt中确定最大深度像素阈值和最小深度像素阈值其中为Wt中最大深度像素值,为Wt中最小深度像素值,h为自定义阈值且1≤h≤5,最大纹理像素阈值最小纹理像素阈值其中为Wt中最大纹理像素值,为Wt中最小纹理像素值;
S34、在S21所述空域参考像素窗口Wt和S24所述时域参考像素窗口Wm中选出满足阈值的像素点,记作集合Ω,所述满足阈值的像素点纹理像素值在最小纹理像素阈值和最大纹理像素阈值之间且深度像素值在最小深度像素阈值和最大深度像素阈值之间;
S4、计算S34所述集合Ω中深度像素值的中值作为滤波结果。
进一步地,S1所述1≤n≤3。
进一步地,f为奇数且7≤f≤15,r为奇数且f≤r≤3f。
进一步地,S231所述 中最大纹理像素值,中最小纹理像素值,中最大深度像素值,中最小深度像素值,若
进一步地,若S232所述距离最小的像素点有多个,记作集合O,则在集合O中选择与S22所述像素点pm欧式距离最小的像素点作为运动搜索结果。
若所述集合O中与S22所述像素点pm欧式距离最小的像素点有多个,记作集合Q,则在中对集合Q中像素点按照从上到下、从左到右的顺序进行搜索,选择最先搜索到的像素点作为运动搜索结果。
进一步地,S31所述边界检测方法为Canny边界检测方法。
进一步地,若S322所述像素向量距离最大的两个像素点有多组,记作集合E,则在集合E中选择欧氏距离最大的一组像素点,
若所述集合E中存在多组欧氏距离最大的像素点,记作集合F,则在Wt中对集合F中包含的像素点按照从上到下、从左到右的顺序进行搜索,选择最先搜索到的像素点所在组作为结果。
进一步地,S4所述计算集合Ω中深度像素值的中值作为滤波结果,若集合Ω中像素数量为偶数时,则选择中间两个像素值中较大的一个值作为中值计算结果。
本发明的有益效果是:
本发明利用了待滤波深度图及其相邻深度图中的像素作为参考像素,提高了滤波后各时刻的深度图在时域方向的连续性。在选择最终参与滤波像素的过程中,对平滑区域和边界区域采用不同的方法,可以使平滑区域更加平滑,同时保持了深度图的边界特征,并有一定的深度图边界修正能力,使得合成图像的边缘区域失真明显减少,质量得到了明显提高。本发明在最后计算中值得到滤波结果,不需要引入新的像素值,很好的去除了平滑区域的噪声,并保持的物体边界的明显,利于提高合成视的质量。
附图说明
图1:本发明滤波方法步骤框图。
图2:解码后3视点3时刻深度图。
图3:滤波后3视点3时刻深度图。
图4:解码后合成视(4视点)3时刻纹理图。
图5:滤波后合成视(4视点)3时刻纹理图。
图6:解码后5视点6时刻深度图。
图7:滤波后5视点6时刻深度图。
图8:解码后合成视(4视点)6时刻纹理图。
图9:滤波后合成视(4视点)6时刻纹理图。
具体实施方式
现在结合附图和具体实施方式进行说明:
具体实施方式中所提到的像素点坐标均为图像坐标,且不包括扩展像素。
实施例1、
如图1所示:
选择标准测试序列“ballet”进行实验。
首先,将3视点深度图用HEVC 13.0进行压缩,QP为40,环路滤波器关闭,纹理图不进行处理。
S1、定义空域参考深度图和时域参考深度图,具体步骤如下:
设当前待滤波深度图为第3视点时刻3(第3帧)深度图,定义当前时刻t=3对应的深度图为空域参考深度图,定义时刻m对应的深度图为时域参考深度图,其中,m=2,4;
S2、对S1所述空域参考深度图、时域参考深度图、空域参考深度图对应的纹理图和时域参考深度图对应的纹理图进行个像素的镜像扩展,在扩展后的空域参考深度图中确定空域参考像素窗口,在扩展后的时域参考深度图中确定时域参考像素窗口,具体如下:
S21、以S1所述空域参考深度图中当前待滤波像素点p(300,264)为中心,确定一个大小为13×13的矩形窗口W3,所述W3为空域参考像素窗口;
S22、在时刻m=2对应的深度图中找出与p对应位置的像素点记作p2(300,264),在时刻m=4对应的深度图中找出与p对应位置的像素点记作p4(300,264),以所述像素点p2(300,264)为中心确定一个25×25的矩形运动搜索范围以所述像素点p4(300,264)为中心确定一个25×25的矩形运动搜索范围
S23、在S22所述运动搜索范围中找出与S21所述当前待滤波像素点p(300,264)像素向量距离最近的点在S22所述运动搜索范围中找出与S21所述当前待滤波像素点p(300,264)像素向量距离最近的点具体如下:
S231、对S22所述中的像素点建立像素向量,对于中的像素点(290,256),记像素向量为其中,149为所述像素点(290,256)对应的纹理像素值,53为所述像素点(290,256)的深度像素值,(154-81)/(134-52)=0.8902为所述像素点(290,256)的深度像素值的权重,154为中最大纹理像素值,81为中最小纹理像素值,134为中最大深度像素值,52为中最小深度像素值,利用所述权重0.8902对当前待滤波像素p建立像素向量147为所述像素点p(300,264)对应的纹理像素值,52为所述像素点p(300,264)的深度像素值;
对S22所述中的像素点建立像素向量,对于中的像素点(308,271),记像素向量为其中,116为所述像素点(308,271)对应的纹理像素值,125为所述像素点(308,271)的深度像素值,0.6471为所述像素点(308,271)的深度像素值的权重,利用所述权重0.6471对当前待滤波像素p建立像素向量147为所述像素点p(300,264)对应的纹理像素值,52为所述像素点p(300,264)的深度像素值;
S232、计算S22所述中各像素点与S21所述当前待滤波像素p(300,264)的像素向量距离,中与p(300,264)距离最小的像素点有15个,记作集合O2,则在集合O2中选择与S22所述像素点p2欧式距离最小的像素点作为运动搜索结果。中与p(300,264)距离最小的像素点有22个,记作集合O4,则在集合O4中选择与S22所述像素点p4欧式距离最小的像素点作为运动搜索结果。
S24、以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W2,所述W2为时刻m=2对应的深度图中的时域参考像素窗口,以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W4,所述W4为时刻m=4对应的深度图中的时域参考像素窗口;
S3、在S21所述空域参考像素窗口W3和S24所述时域参考像素窗口W2和W4中选出满足阈值的像素点,所述阈值包括最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S31、利用Canny边界检测方法判断出S21所述空域参考像素窗口W3包含边界,即转到S32;
S32、利用S21所述空域参考像素窗口W3确定最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S321、对S21所述空域参考像素窗口W3中像素点(294,259),记像素向量为其中,147为所述像素点(294,259)对应的纹理像素值,52为所述像素点(294,259)的深度像素值,0.4950为所述像素点(294,259)的深度像素值的权重;
S322、在S21所述空域参考像素窗口W3中,比较两两像素点之间的像素向量距离,找到像素向量距离最大像素点有两组,记作集合E,集合E中存在两组欧氏距离最大的像素点,记作集合F,在中对集合F中包含的像素点按照从上到下、从左到右的顺序进行搜索,选择最先搜索到的像素点作为结果。
S323、对S21所述空域参考像素窗口W3中的像素点进行分类,
对于S21所述空域参考像素窗口W3中的像素点(296,260),(296,260)与像素点的像素向量距离小于像素点(296,260)和像素点的像素向量距离,则(296,260)与分为一类;
选择与S21所述待滤波像素点p(300,264)为同一类像素点构成集合Φ,所述集合Φ包含像素点个数量记为k=160;
S324、提取S323所述集合Φ中各像素的纹理像素值,记作集合ΦT,对所述集合ΦT中的纹理像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大纹理像素阈值选择排序后的第个值作为最小纹理像素阈值
S325、提取S323所述集合Φ中各像素的深度像素值,记作集合ΦD,对所述集合ΦD中的深度像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大深度像素阈值选择排序后的第个值作为最小深度像素阈值
S34、在S21所述空域参考像素窗口W3、S24所述时域参考像素窗口W2和W4中选出纹理像素值在最小纹理像素阈值和最大纹理像素阈值之间且深度像素值在最小深度像素阈值和最大深度像素阈值之间的像素,记作集合Ω。
S4、计算S34所述集合Ω中深度像素值的中值作为滤波结果为52。
对解码后的深度图进行滤波,用VSRS 3.5对解码后的3、5视点深度图和原始的3、5视点纹理图进行视点合成,得到解码后合成视(4视点)纹理图。用VSRS 3.5对滤波后的3、5视点深度图和原始的3、5视点纹理图进行视点合成,得到滤波后合成视(4视点)纹理图。
如图2所示,解码后的深度图在物体边界区域比较模糊,且包含了大量噪声,进而导致如图4所示合成视边界的严重失真。如图3所示,本发明首先在空域参考深度图和时域参考深度图中找到用于滤波的参考像素窗口,然后利用像素向量对空域参考像素窗口进行划分,确定参与滤波的参考像素的选取范围,进而更好的选出参与滤波的像素点,利用中值计算滤波结果,进而去除了图像边缘的大部分噪声,而且使深度图中物体边缘非常明显。此外,由于在分区过程中,纹理和深度像素的重要性可以自适应判断,所以对深度图边界也有一定的修复能力。如图5所示,上述两方面因素大幅度的提高了合成视物体边缘区域的质量。
实施例2、
如图1所示:
选择标准测试序列“ballet”进行实验。
将5视点深度图用HEVC 13.0进行压缩,QP为40,环路滤波器关闭,纹理图不进行处理。
S1、定义空域参考深度图和时域参考深度图,具体步骤如下:
设当前待滤波深度图为第5视点时刻6(第6帧)深度图,定义当前时刻t=6对应的深度图为空域参考深度图,定义时刻m对应的深度图为时域参考深度图,其中,m=4,5,7,8;
S2、对S1所述空域参考深度图、时域参考深度图、空域参考深度图对应的纹理图和时域参考深度图对应的纹理图进行个像素的镜像扩展。在扩展后的空域参考深度图中确定空域参考像素窗口,在扩展后的时域参考深度图中确定时域参考像素窗口,具体如下:
S21、以S1所述空域参考深度图中当前待滤波像素点p(176,176)为中心,确定一个大小为11×11的矩形窗口W6,所述W6为空域参考像素窗口;
S22、在时刻m=4对应的深度图中找出与p对应位置的像素点记作p4(176,176),在时刻m=5对应的深度图中找出与p对应位置的像素点记作p5(176,176),在时刻m=7对应的深度图中找出与p对应位置的像素点记作p7(176,176),在时刻m=8对应的深度图中找出与p对应位置的像素点记作p8(176,176),以所述像素点p4(176,176)为中心确定一个23×23的矩形运动搜索范围以所述像素点p5(176,176)为中心确定一个23×23的矩形运动搜索范围以所述像素点p7(176,176)为中心确定一个23×23的矩形运动搜索范围以所述像素点p8(176,176)为中心确定一个23×23的矩形运动搜索范围
S23、在S22所述中找出与S21所述当前待滤波像素点p(176,176)像素向量距离最近的点
S231、对S22所述中的像素点建立像素向量,对于像素点(167,169),记像素向量为其中,136为所述像素点(167,169)对应的纹理像素值,54为所述像素点(167,169)的深度像素值,因为为所述像素点(167,169)的深度像素值的权重,利用所述权重1对当前待滤波像素p建立像素向量140为所述像素点p(176,176)对应的纹理像素值,53为所述像素点p(176,176)的深度像素值。
S232、计算S22所述中各像素点与S21所述当前待滤波像素p(176,176)的像素向量距离,选出与S21所述当前待滤波像素p的像素向量距离最小的像素点,记作
S24、以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W4,以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W5,以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W7,以S232所述像素点为中心确定一个大小为13×13的矩形窗口,记作W8,所述W4,W5,W7和W8为时域参考像素窗口;
S3、在S21所述空域参考像素窗口W6和S24所述时域参考像素窗口W4,W5,W7和W8中选出满足阈值的像素点,所述阈值包括最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S31、利用Canny边界检测方法,判断出S21所述空域参考像素窗口W6不包含边界,即转到S33;
S33、在S21所述空域参考像素窗口W6中确定最大深度像素阈值和最小深度像素阈值其中为W6中最大深度像素值,为W6中最小深度像素值,h=3为自定义阈值,最大纹理像素阈值最小纹理像素阈值
若最大纹理像素阈值最小纹理像素阈值则滤波结果为53;
若最大纹理像素阈值最小纹理像素阈值则滤波结果为53;
S34、在S21所述空域参考像素窗口W6,S24所述时域参考像素窗口W4,W5,W7和W8中选出纹理像素值在最小纹理像素阈值和最大纹理像素阈值之间且深度像素值在最小深度像素阈值和最大深度像素阈值之间的像素,记作集合Ω
S4、计算S34所述集合Ω中深度像素值的中值作为滤波结果为53。
对解码后的深度图进行滤波,用VSRS 3.5对解码后的3、5视点深度图和原始的3、5视点纹理图进行视点合成,得到解码后合成视(4视点)纹理图。用VSRS 3.5对滤波后的3、5视点深度图和原始的3、5视点纹理图进行视点合成,得到滤波后合成视(4视点)纹理图。
如图6所示,解码后的深度图存在比较明显的块效应,深度图平滑区域滤波的目的就是使平滑区域更加平滑。如图7所示,本发明首先在空域参考深度图和时域参考深度图中找到用于滤波的参考像素窗口,然后尽可能多的利用空域和时域的参考像素,利用中值计算滤波结果,较好的去除了深度图中的快效应,使平滑区域更加平滑,提高了合成视物体边缘区域的质量。此外,由于用到了时域参考深度图中的像素,深度图在时域的连续性也大大提高。进而使合成视质量得到明显提高,如图9所示。

Claims (8)

1.一种自适应深度图滤波方法,其特征在于,包括如下步骤:
S1、定义空域参考深度图和时域参考深度图,具体步骤如下:
定义当前时刻t对应的深度图为空域参考深度图,定义时刻m对应的深度图为时域参考深度图,其中,m=t-n,…t-1,t+1,…,t+n,n为正整数;
S2、对S1所述空域参考深度图、时域参考深度图、空域参考深度图对应的纹理图和时域参考深度图对应的纹理图进行个像素的镜像扩展,在扩展后的空域参考深度图中确定空域参考像素窗口,在扩展后的时域参考深度图中确定时域参考像素窗口,具体如下:
S21、以S1所述空域参考深度图中当前待滤波像素点p为中心,确定一个大小为f×f的矩形窗口Wt,所述Wt为空域参考像素窗口,f为奇数;
S22、在S1所述时域参考深度图中找出与p对应位置的像素点记作pm,以所述像素点pm为中心确定一个r×r的矩形运动搜索范围其中,r>f,r为奇数;
S23、在S22所述运动搜索范围中找出与S21所述当前待滤波像素点p像素向量距离最近的点具体如下:
S231、对S22所述运动搜索范围中的像素点建立像素向量,对于中的像素点i,记像素向量为其中,Ti为所述像素点i对应的纹理像素值,Di为所述像素点i的深度像素值,为所述像素点i的深度像素值的权重,利用所述对当前待滤波像素p建立像素向量Tp为所述像素点p对应的纹理像素值,Dp为所述像素点p的深度像素值;
S232、计算S22所述运动搜索范围中各像素点与S21所述当前待滤波像素p的像素向量距离,选出与S21所述当前待滤波像素p的像素向量距离最小的像素点,记作
S24、以S232所述像素点为中心确定一个大小为f×f的矩形窗口,记作Wm,所述Wm为时域参考像素窗口;
S3、在S21所述空域参考像素窗口Wt和S24所述时域参考像素窗口Wm中选出满足阈值的像素点,所述阈值包括最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S31、利用边界检测方法判断S21所述空域参考像素窗口Wt是否包含边界,若包含边界则转到S32,若不包含边界则转到S33;
S32、利用S21所述空域参考像素窗口Wt确定最大纹理像素阈值、最小纹理像素阈值、最大深度像素阈值和最小深度像素阈值,具体如下:
S321、对S21所述空域参考像素窗口Wt中的各像素点建立像素向量,对于Wt中的像素点j,记像素向量为其中,Tj为所述像素点j对应的纹理像素值,Dj为所述像素点j的深度像素值,λt为所述像素点j的深度像素值的权重;
S322、在S21所述空域参考像素窗口Wt中,比较两两像素点之间的像素向量距离,找到像素向量距离最大的两个像素点
S323、对S21所述空域参考像素窗口Wt中的像素点进行分类,
对于S21所述空域参考像素窗口Wt中的像素点l,若像素点l与像素点的像素向量距离小于像素点l和像素点的像素向量距离,则l与分为一类,否则,与分为一类;
选择与S21所述待滤波像素点p为同一类的像素点,记为集合Φ,所述集合Φ包含像素点的数量记为k;
S324、提取S323所述集合Φ中各像素的纹理像素值,记作集合ΦT,对所述集合ΦT中的纹理像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大纹理像素阈值选择排序后的第个值作为最小纹理像素阈值
S325、提取S323所述集合Φ中各像素的深度像素值,记作集合ΦD,对所述集合ΦD中的深度像素值按由大到小的顺序进行排序,选择排序后的第个值作为最大深度像素阈值选择排序后的第个值作为最小深度像素阈值
S33、在S21所述空域参考像素窗口Wt中确定最大深度像素阈值和最小深度像素阈值其中为Wt中最大深度像素值,为Wt中最小深度像素值,h为自定义阈值且1≤h≤5,最大纹理像素阈值最小纹理像素阈值其中为Wt中最大纹理像素值,为Wt中最小纹理像素值;
S34、在S21所述空域参考像素窗口Wt和S24所述时域参考像素窗口Wm中选出满足阈值的像素点,记作集合Ω,所述满足阈值的像素点纹理像素值在最小纹理像素阈值和最大纹理像素阈值之间且深度像素值在最小深度像素阈值和最大深度像素阈值之间;
S4、计算S34所述集合Ω中深度像素值的中值作为滤波结果。
2.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:S1所述1≤n≤3。
3.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:S2所述f为奇数且7≤f≤15,r为奇数且f<r≤3f。
4.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:S231所述 中最大纹理像素值,中最小纹理像素值,中最大深度像素值,中最小深度像素值,若
5.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:若S232所述距离最小的像素点有多个,记作集合O,则在集合O中选择与S22所述像素点pm欧式距离最小的像素点作为运动搜索结果,若所述集合O中与S22所述像素点pm欧式距离最小的像素点有多个,记作集合Q,则在中对集合Q中像素点按照从上到下、从左到右的顺序进行搜索,选择最先搜索到的像素点作为运动搜索结果。
6.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:S31所述边界检测方法为Canny边界检测方法。
7.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:若S322所述像素向量距离最大的两个像素点有多组,记作集合E,则在集合E中选择欧氏距离最大的一组像素点,若所述集合E中存在多组欧氏距离最大的像素点,记作集合F,则在Wt中对集合F中包含的像素点按照从上到下、从左到右的顺序进行搜索,选择最先搜索到的像素点所在组作为结果。
8.根据权利要求1所述一种自适应深度图滤波方法,其特征在于:S4所述计算集合Ω中深度像素值的中值作为滤波结果,若集合Ω中像素数量为偶数时,则选择中间两个像素值中较大的一个值作为中值计算结果。
CN201510007440.4A 2015-01-08 2015-01-08 一种自适应深度图滤波方法 Active CN104683783B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510007440.4A CN104683783B (zh) 2015-01-08 2015-01-08 一种自适应深度图滤波方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510007440.4A CN104683783B (zh) 2015-01-08 2015-01-08 一种自适应深度图滤波方法

Publications (2)

Publication Number Publication Date
CN104683783A CN104683783A (zh) 2015-06-03
CN104683783B true CN104683783B (zh) 2017-03-15

Family

ID=53318272

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510007440.4A Active CN104683783B (zh) 2015-01-08 2015-01-08 一种自适应深度图滤波方法

Country Status (1)

Country Link
CN (1) CN104683783B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105023234B (zh) * 2015-06-29 2018-02-23 嘉兴慧康智能科技有限公司 基于嵌入式系统存储优化的图形加速方法
CN106874912A (zh) * 2016-12-20 2017-06-20 银江股份有限公司 一种基于改进lbp算子的图像目标检测方法
CN107295353B (zh) * 2017-08-15 2019-12-31 电子科技大学 视频编码参考块滤波方法
CN110956603B (zh) 2018-09-25 2023-04-21 Oppo广东移动通信有限公司 深度图像边缘飞点的检测方法、装置及电子设备
CN110390656B (zh) * 2019-07-11 2021-05-25 Oppo广东移动通信有限公司 深度数据的滤波方法、装置、电子设备和可读存储介质
CN110400344B (zh) 2019-07-11 2021-06-18 Oppo广东移动通信有限公司 深度图处理方法和装置
CN110400273B (zh) * 2019-07-11 2022-03-22 Oppo广东移动通信有限公司 深度数据的滤波方法、装置、电子设备和可读存储介质
CN110490829B (zh) * 2019-08-26 2022-03-15 北京华捷艾米科技有限公司 一种深度图像的滤波方法及系统

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8270752B2 (en) * 2009-03-17 2012-09-18 Mitsubishi Electric Research Laboratories, Inc. Depth reconstruction filter for depth coding videos
CN102769746B (zh) * 2012-06-27 2014-12-24 宁波大学 一种多视点深度视频处理方法
CN103413276B (zh) * 2013-08-07 2015-11-25 清华大学深圳研究生院 一种基于纹理分布特征的深度增强方法
CN103942756B (zh) * 2014-03-13 2017-03-29 华中科技大学 一种深度图后处理滤波的方法
CN104010180B (zh) * 2014-06-13 2017-01-25 华为技术有限公司 三维视频滤波方法和装置

Also Published As

Publication number Publication date
CN104683783A (zh) 2015-06-03

Similar Documents

Publication Publication Date Title
CN104683783B (zh) 一种自适应深度图滤波方法
CN103369209B (zh) 视频降噪装置及方法
US7668338B2 (en) Person tracking method and apparatus using robot
CN105100807B (zh) 一种基于运动矢量后处理的帧率提升方法
CN105472204B (zh) 基于运动检测的帧间降噪方法
CN106651813B (zh) 一种多图像块融合的非局部均值去噪方法
CN102098440B (zh) 针对摄像机抖动下运动目标检测的电子稳像方法及系统
CN109741356B (zh) 一种亚像素边缘检测方法及系统
CN108076338A (zh) 图像视觉处理方法、装置及设备
CN103369208B (zh) 自适应去隔行方法及装置
CN101065964A (zh) 运动稳定化
CN102801972A (zh) 基于特征的运动矢量估计和传递方法
CN106384363B (zh) 一种快速自适应权重立体匹配方法
CN108257165A (zh) 图像立体匹配方法、双目视觉设备
CN107958441A (zh) 图像拼接方法、装置、计算机设备和存储介质
CN110070574A (zh) 一种基于改进PSMNet的双目视觉立体匹配算法
CN108010065A (zh) 低空目标快速检测方法及装置、存储介质及电子终端
CN106875371A (zh) 基于Bayer格式的图像融合方法及图像融合装置
CN106157301B (zh) 一种用于图像边缘检测的阈值自确定方法及装置
CN110599422B (zh) 一种基于边缘保护的加权平均椒盐噪声降噪方法
CN110351453A (zh) 一种计算机视频数据处理方法
Ye et al. Content based error detection and concealment for image transmission over wireless channel
CN109344758A (zh) 基于改进局部二值模式的人脸识别方法
CN105828061B (zh) 一种基于视觉掩蔽效应的虚拟视点质量评价方法
CN110503049B (zh) 基于生成对抗网络的卫星视频车辆数目估计方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant