CN106056622A - 一种基于Kinect相机的多视点深度视频复原方法 - Google Patents

Abstract

本发明公开了一种基于Kinect相机的多视点深度视频复原方法，属于图像处理和计算机视觉领域。搭建多视点Kinect相机成像系统进行多视点深度视频采集，建立深度计算重建模型，并构建高性能求解算法以获得高质量多视点深度视频。系统容易构建，用Kinect相机即可完成多视点深度视频的复原；程序简单，易于实现；利用采集到的彩色纹理图像、多视点图像、和视频帧间信息建立多视点深度视频计算重建模型，使得恢复结果更加精确；利用求导的方式推导出定点迭代滤波算法，避免了采用最小二乘求解大规模矩阵求逆的问题，算法运行速度快，迭代次数少。

Description

一种基于Kinect相机的多视点深度视频复原方法

技术领域

本发明属于图像处理和计算机视觉领域，涉及采用多视点空域-时域信息对Kinect深度相机的深度图建模，并推导定点迭代滤波优化算法。具体涉及一种基于Kinect相机的多视点深度视频复原方法。

背景技术

现阶段，利用二维(2D)图像来表达场景已经不能满足人们的视觉要求，而具有“真实感”和“沉浸感”的三维电视技术(3DTV)已经成为新的发展方向。3DTV技术大多以多路不同视点的视频为输入，需要多视点视频的采集、处理、压缩、传输等一系列技术作为支撑。为获得舒适的视觉效果，不仅要求每一路视点的视频具有较高的空时分辨率，同时也要求视点的分布比较稠密。多摄像机系统采集与表示方式所需传输和存储的庞大数据量成3DTV系统推向应用的主要瓶颈。针对上述问题，目前国内外均采用双路视频加深度信息的表示方式，即除普通彩色视频之外还配以相应视点的深度图序列，从而可以由少数几个视点的视频通过虚拟视点绘制方法合成稠密的多视点视频。这种表示方式避免了多视点视频固有的庞大数据量的问题。所以，深度图的获取方式，以及得到的深度的完整性和准确性成为了3DTV技术的关键。目前，微软研发的第二代Kinect深度相机是市面上深度精度最高的设备。但是，它的深度成像质量还难以满足应用需求：Kinect深度相机的深度分辨率低于主流工业相机的空间分辨率，且在深度跳跃区域(例如物体的边缘与轮廓)产生很多空洞。这些深度成像的缺陷给实际应用带来了很大的障碍。

现有方法通常采用联合纹理深度滤波的方式来提高深度质量。该方法利用彩色纹理图和深度图的结构相关性进行空间滤波权重预测，并利用光流估计和图像块相似度匹配寻找时域帧间像素的匹配并计算出时域滤波权重，最后在低分辨率的深度视频上进行三维(空域+时域)滤波。此方法可以在保证深度恢复质量同时，消除了深度视频在时域的闪烁问题(Min,D.,Lu,J.,Do,M.:Depth video enhancement based on joint global modefiltering.IEEE TIP 21(3),2012,1176-1190)；但是，局部的滤波方式没有利用图像的全局信息，使得系数预测变得困难，而且采用简单的光流和块匹配方法不能保证视频中运动区域的物体在深度边缘处维持锋利。一些研究人员利用自回归模型对深度图进行全局建模，采用非局部相关性进行系数预测，并利用最小二乘求解得到深度单帧图像复原结果(J.Yang,X.Ye,K.Li,C.Hou,and Y.Wang,“Color-guided depthrecovery from rgb-ddata using an adaptive autoregressive model.”IEEETIP,vol.23,no.8,pp.3443–3458,2014)；但是，算法速度慢，对于多视点深度视频的复原并没有给出相应的解决方案。

发明内容

本发明旨在克服现有技术的不足，提供了一种基于Kinect相机的多视点深度视频复原方法，即搭建多视点Kinect相机成像系统进行多视点深度视频采集，建立深度计算重建模型，并构建高性能求解算法以获得高质量多视点深度视频。

本发明的具体技术方案为，一种基于Kinect相机的多视点深度视频复原方法，包括下列步骤：

1)标定每个Kinect相机的内部参数和外部参数；内部参数包括焦距、光心；外部参数包括旋转、平移；将多视点的低分辨率深度视频扭转到同一相机的彩色视角下，得到多视点的初始低质量深度视频；

2)构建数据项：以概率方式融合多视点的初始低质量深度视频的深度信息构建数据项；

3)构建平滑项：应用步骤1)中当前相机的高分辨率彩色视频，得到相邻帧间像素的时域对应关系，并计算帧内像素间的空域相似度，以概率方式融合初始低质量深度视频的时域和空域信息构建平滑项；

4)联合数据项和平滑项建立能量方程，应用定点迭代滤波算法进行求解，得到高质量多视点深度视频。

数据项的建立，具体包括以下步骤：

2-1)对于第i个Kinect相机K_i采集并扭转视角得到的初始低质量深度图计算每个像素p对应的融合权重公式如下：

$h_p^i=\left\{\begin{array}{cc}0& \widetilde{D_p^i}=0\\ \exp (-d/\mathrm{\σ})& \widetilde{D_p^i}\≠0\end{array}\right.$

式中，exp(·)为指数函数，d为相邻相机彩色摄像头光心间的距离，σ为指数函数的调控参数，取值范围为4.0～6.0；为像素p的深度值；

2-2)结合2-1)中得到的融合权重hⁱ，以概率方式融合采集的初始低质量深度图建立数据项，公式如下：

$E_{data}\left(D\right)=\underset{i}{\Σ}\underset{p}{\Σ}{h}_p^i{(D_p-\widetilde{D_p^i})}^2$

式中，E_data(·)为数据项的能量函数，D为待求的当前深度帧，D_p为当前深度帧D在p点的像素值。

平滑项的建立，具体包括以下步骤：

3-1)利用彩色图像I，对其中的每一点像素p，采用LK光流算法粗略寻找相邻帧中的对应像素LK为Lucas-Kanade的字头缩写。

3-2)采用AKNN结构在像素周围邻域内寻找最优的匹配像素点p_t，邻域大小为ω×ω；AKNN为Approximate K-Nearest Neighbors的字头缩写。匹配相似度的计算方式如下公式所示：

$S(P_p,P_{p_t})=\underset{q\∈N\left(p\right),q_t\∈N\left(p_t\right)}{\Σ}|I_q-I_{q_t}^t|$

其中，P_p为以像素p为中心的图像块，为以像素p_t为中心的图像块，q和q_t分别为p和p_t邻域N(p)和N(p_t)中的像素，图像块大小和邻域大小均为ω₁×ω₁；I_q和为像素q和q_t对应的彩色值。

3-3)利用求得的匹配相似度计算时域相似权重公式如下：

${\mathrm{\ω}}_{p,p_t}=\frac{1}{N}\exp \frac{S(P_p,P_{p_t})}{{\mathrm{\σ}}_p}$

其中，N为归一化因子，σ_p为指数函数的调控参数。

3-4)利用当前帧的彩色图，采用非均值局部滤波的方式计算帧内像素间的相似度权重

3-5)结合3-3)和3-4)中得到的时域、空域权重和以概率方式融合视频相邻的深度帧信息构建平滑项，公式如下：

$E_{smooth}\left(D\right)=\underset{p}{\Σ}{(D_p-\underset{t}{\mathrm{\Σ}}{\mathrm{\ω}}_{p,p_t}\underset{q_t\∈N\left(p_t\right)}{\mathrm{\Σ}}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t)}^2$

其中，E_smooth(·)为平滑项的能量函数，t为当前帧的相邻帧，为第t帧在像素q_t上的深度值；N(p_t)为像素p_t的邻域，大小为ω₂×ω₂。

能量方程创建和定点迭代滤波算法的推导，具体包括以下步骤：

4-1)引入平衡因子λ将数据项和平滑项结合为如下能量方程：

$\underset{D}{min}{E}_{data}\left(D\right)+{\mathrm{\λE}}_{smooth}\left(D\right)$

其中min为求取能量方程的最小值。

4-2)对4-1)中的能量方程进行求导并置零来求得最优的深度值，方程如下：

$D_p=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^t-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^t))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}$

其中，r_t为像素p_t邻域内的像素。为像素r_t和p_t间的空域权重、为像素r_t和q_t间的空域权重、为第t帧在像素r_t上的深度值。

4-3)利用4-2)中求导的结果构建定点迭代滤波算法对当前的低质量深度帧进行滤波提高质量，并得到最终的高质量深度帧。算法流程如下：

$\left\{\begin{array}{c}{D}_p^{\left(0\right)}=\underset{i}{\mathrm{\Σ}}{h}_p^i\widetilde{D_p^i}\\ D_p^{(k+1)}=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^{t\left(k\right)}+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^{t\left(k\right)}-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^{t\left(k\right)}))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}\end{array}\right.$

其中，为迭代前的深度图初始化结果，为第k+1次迭代求得的结果，k+1为迭代的次数。算法在第k次的迭代结果的基础上滤波得到第k+1次结果。

本发明的有益效果是：

本发明构建了多路视频加深度信息为表示方式的3DTV原型系统；在此基础上，建立多视点深度视频计算重建模型，并应用定点迭代滤波算法求解模型，具有以下特点：

1、系统容易构建，用Kinect相机即可完成多视点深度视频的复原；

2、程序简单，易于实现；

3、利用采集到的彩色纹理图像、多视点图像、和视频帧间信息建立多视点深度视频计算重建模型，使得恢复结果更加精确；

4、利用求导的方式推导出定点迭代滤波算法，避免了采用最小二乘求解大规模矩阵求逆的问题，算法运行速度快，迭代次数少。

本发明充分的利用了彩色纹理、多视点和时域信息，使得深度视频恢复效果更精确；所提的方法具有很好的可扩展性，通过简单的加入更多地深度相机或采用更好帧率的相机来获得空域-时域分辨率更高的多视点深度视频。

附图说明(附图为灰度图)

图1是实际搭设的系统和采集的数据。图1中(a)双视点Kinect系统(b)左右视点采集的数据，包括低分辨率深度视频，高分辨率彩色视频和扭转视角后的初始低质量深度图。

图2是实际实施流程图。

图3是算法的收敛速度示意图。图3中(a)相邻两次迭代间平均绝对误差随着迭代次数增加的变化(b)初始深度帧(c)第二次迭代结果(d)第六次迭代结果。

图4是深度视频的修复结果对比。图4中(a)不同的彩色帧(b)本发明方法的结果(c)其他方法结果。

具体实施方式

本发明提出了一种基于Kinect相机的多视点深度视频复原方法，结合附图及实施例详细说明如下：

本发明以水平摆放的双视点Kinect相机为成像系统进行多视点深度视频采集，其中K₁为左视点(主视点)相机，K₂为右视点相机；每个Kinect中的彩色相机分辨率为1920×1080，深度相机分辨率为512×414，视频帧率均为30帧/每秒，如图1所示。在此基础上，建立深度计算重建模型，并设计高性能求解算法以获得高质量多视点深度视频。所述方法包括下列步骤；

1)系统标定及数据采集；

1-1)用OpenCV标定工具箱对相机进行标定，得到每个Kinect相机的包括焦距、光心的内部参数和包括旋转、平移的外部参数；

1-2)将Kinect相机分别连在两台电脑上，并用一个路由器控制进行数据同步采集。对于每一个相机，采集到的数据包括低分辨率的深度视频和不同视角的高分辨率彩色视频。

1-3)根据得到相机的内部、外部参数，将获取的左、右视点的低分辨率深度视频扭转到主视点K₁彩色相机的视角，得到高分辨率网格下的深度散点构成的初始低质量深度视频；对于K₁相机的低质量深度帧，利用已知的K₁视点高分辨率彩色图、相邻帧深度信息、另一视点扭转后的深度信息对当前帧进行建模和优化；整个方法的实施流程如图2所示。

2)构建深度计算重建模型中的数据项：以概率方式融合主视点的初始低质量深度视频和另一视点扭转后的初始低质量深度视频构建数据项；

2-1)对于第i个Kinect相机K_i采集并扭转视角得到的初始深度图计算每个像素p对应的融合权重公式如下：，

$h_p^i=\left\{\begin{array}{cc}0& \widetilde{D_p^i}=0\\ \exp (-d/\mathrm{\σ})& \widetilde{D_p^i}\≠0\end{array}\right.$

其中，exp(·)为指数函数，d为俩相机彩色摄像头光心间的距离，σ为指数函数的调控参数，取值范围为4.0～6.0，以中间值为佳；为像素p的深度值。当时，相应的为零；当时，的取值和d成指数关系反比增长。

2-2)结合2-1)中得到的融合权重hⁱ，以概率方式融合采集的初始深度图建立数据项，公式如下：

$E_{data}\left(D\right)=\underset{i}{\Σ}\underset{p}{\Σ}{h}_p^i{(D_p-\widetilde{D_p^i})}^2$

其中，E_data(·)为数据项的能量函数，D为待求的当前深度帧，D_p为当前深度帧D在p点的像素值。

3)构建深度计算重建模型中的平滑项：应用K₁相机的高分辨率彩色视频，得到相邻帧间像素的时域对应关系，并计算帧内像素间的空域相似度，以概率方式融合初始低质量深度视频的时域和空域信息构建平滑项；

3-1)利用彩色图像I，对其中的每一点像素p，采用LK光流算法(B.D.Lucas,T.Kanade et al.,“An iterative image registration techniquewith an applicationto stereo vision.”in IJCAI,vol.81,1981,pp.674–679.)粗略寻找相邻帧中的对应像素LK为Lucas-Kanade的字头缩写。

3-2)采用AKNN结构(C.Liu and W.T.Freeman,“A high-quality videodenoising algorithmbased on reliable motion estimation,”inProc.ECCV.Springer,2010,pp.706–719)在像素周围邻域内寻找最优的匹配像素点p_t，邻域大小为11×11，AKNN为Approximate K-Nearest Neighbors的字头缩写。匹配相似度的计算方式如下公式所示：

$S(P_p,P_{p_t})=\underset{q\∈N\left(p\right),q_t\∈N\left(p_t\right)}{\Σ}|I_q-I_{q_t}^t|$

其中，P_p为以像素p为中心的图像块，为以像素p_t为中心的图像块，q和q_t分别为p和p_t邻域N(p)和n(p_t)中的像素，图像块大小和邻域大小均为为5×5。I_q和为像素q和q_t对应的彩色值。

3-3)利用求得的匹配相似度计算时域相似权重公式如下：

${\mathrm{\ω}}_{p,p_t}=\frac{1}{N}\exp \frac{S(P_p,P_{p_t})}{{\mathrm{\σ}}_p}$

其中，N为归一化因子，等于邻域权重之和。σ_p为指数函数的调控参数，取值为3.5。

3-4)利用当前帧的彩色图，采用非均值局部滤波的方式计算空域帧内像素间的相似度权重

3-5)结合3-3)和3-4)中得到的时域、空域权重和以概率方式融合视频相邻的深度帧信息构建平滑项，公式如下：

$E_{smooth}\left(D\right)=\underset{p}{\Σ}{(D_p-\underset{t}{\mathrm{\Σ}}{\mathrm{\ω}}_{p,p_t}\underset{q_t\∈N\left(p_t\right)}{\mathrm{\Σ}}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t)}^2$

其中，E_smooth(·)为平滑项的能量函数，t为当前帧的相邻帧，为第t帧在像素q_t上的深度值，N(p_t)为像素p_t的邻域，大小为9×9。

4)联合上述两项建立最终的能量方程，应用定点迭代滤波算法进行求解。

4-1)引入平衡因子λ将数据项和平滑项结合为如下能量方程：

$\underset{D}{min}{E}_{data}\left(D\right)+{\mathrm{\λE}}_{smooth}\left(D\right)$

其中min为求取能量方程的最小值。平衡因子λ取值为0.1。

4-2)对4-1)中的能量方程进行求导并置零，方程如下：

$\frac{\∂E}{\∂D_p}=\frac{\∂E_{data}}{\∂D_p}+\frac{\∂E_{smooth}}{\∂D_p}=0$

利用求导来求得最优的深度值结果：

$D_p=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^t-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^t))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}$

其中，r_t为像素p_t邻域内的像素。为像素r_t和p_t间的空域权重、为像素r_t和q_t间的空域权重、为第t帧在像素r_t上的深度值。

4-3)利用4-2)中求导的结果构建定点迭代滤波算法对当前的低质量深度帧进行滤波提高质量，并得到最终的高质量深度帧。算法流程如下：

$\left\{\begin{array}{c}{D}_p^{\left(0\right)}=\underset{i}{\mathrm{\Σ}}{h}_p^i\widetilde{D_p^i}\\ D_p^{(k+1)}=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^{t\left(k\right)}+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^{t\left(k\right)}-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^{t\left(k\right)}))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}\end{array}\right.$

其中，为迭代前的深度图初始化结果，为第k+1次迭代求得的结果，k+1为迭代的次数。算法在第k次的迭代结果的基础上滤波得到第k+1次结果。算法重复以上过程直至收敛得到最终结果。算法的收敛性和收敛结果如图3所示：算法在第六次迭代的时候已经收敛，深度恢复结果也为最佳，故实验中设置迭代次数k＝6。

对深度视频中的每帧依次重复上述2)-4)步骤，直到恢复完毕整个深度视频。

本实施例对两组数据的最终恢复结果及与其他方法的比较如图4所示，其中(a)图为两组数据中挑选出来的不同彩色帧，(b)图为采用本发明方法得到的插值帧结果；(c)图为采用基于加权模式滤波方法(Min,D.,Lu,J.,Do,M.:Depth video enhancement basedon joint global mode filtering.IEEE TIP 21(3),2012,1176-1190)得到的恢复帧结果。

Claims (4)

1.一种基于Kinect相机的多视点深度视频复原方法，其特征在于，包括下列步骤：

1)标定每个Kinect相机的内部参数和外部参数；将多视点的低分辨率深度视频扭转到同一相机的彩色视角下，得到多视点的初始低质量深度视频；

2)构建数据项：以概率方式融合多视点的初始低质量深度视频的深度信息构建数据项；

3)构建平滑项：应用步骤1)中当前相机的高分辨率彩色视频，得到相邻帧间像素的时域对应关系，并计算帧内像素间的空域相似度，以概率方式融合初始低质量深度视频的时域和空域信息构建平滑项；

4)联合数据项和平滑项建立能量方程，应用定点迭代滤波算法进行求解，得到高质量多视点深度视频。

2.根据权利要求1所述的一种基于Kinect相机的多视点深度视频复原方法，其特征在于，步骤2)中数据项的建立，具体包括以下步骤：

2-1)对于第i个Kinect相机K_i采集并扭转视角得到的初始低质量深度图计算每个像素p对应的融合权重公式如下：

$h_p^i=\left\{\begin{array}{cc}0& \widetilde{D_p^i}=0\\ \exp (-d/\mathrm{\σ})& \widetilde{D_p^i}\≠0\end{array}\right.$

式中，exp(·)为指数函数，d为相邻相机彩色摄像头光心间的距离，σ为指数函数的调控参数，取值范围为4.0～6.0；为像素p的深度值；

2-2)结合2-1)中得到的融合权重hⁱ，以概率方式融合采集的初始低质量深度图建立数据项，公式如下：

$E_{data}\left(D\right)=\underset{i}{\Σ}\underset{p}{\Σ}{h}_p^i{(D_p-\widetilde{D_p^i})}^2$

式中，E_data(·)为数据项的能量函数，D为待求的当前深度帧，D_p为当前深度帧D在p点的像素值。

3.根据权利要求2所述的一种基于Kinect相机的多视点深度视频复原方法，其特征在于，步骤3)中平滑项的建立，具体包括以下步骤：

3-1)利用彩色图像I，对其中的每一点像素p，采用Lucas-Kanade光流算法粗略寻找相邻帧中的对应像素

3-2)采用Approximate K-Nearest Neighbors结构在像素周围邻域内寻找最优的匹配像素点p_t，邻域大小为ω×ω；匹配相似度的计算方式如下公式所示：

$S(P_p,P_{p_t})=\underset{q\∈N\left(p\right),q_t\∈N\left(p_t\right)}{\Σ}|I_q-I_{q_t}^t|$

式中，P_p为以像素p为中心的图像块，为以像素p_t为中心的图像块，q和q_t分别为p和p_t邻域N(p)和N(p_t)中的像素，图像块大小和邻域大小均为ω₁×ω₁；I_q和为像素q和q_t对应的彩色值；

3-3)利用求得的匹配相似度计算时域相似度权重公式如下：

${\mathrm{\ω}}_{p,p_t}=\frac{1}{N}\exp \frac{S(P_p,P_{p_t})}{{\mathrm{\σ}}_p}$

式中，N为归一化因子，等于邻域权重之和；σ_p为指数函数的调控参数；

3-4)利用当前帧的彩色图，采用非均值局部滤波的方式计算空域相似度权重

3-5)结合3-3)和3-4)中得到的时域相似度权重空域相似度权重以概率方式融合视频相邻的深度帧信息构建平滑项，公式如下：

$E_{smooth}\left(D\right)=\underset{p}{\Σ}{(D_p-\underset{t}{\mathrm{\Σ}}{\mathrm{\ω}}_{p,p_t}\underset{q_t\∈N\left(p_t\right)}{\mathrm{\Σ}}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t)}^2$

式中，E_smooth(·)为平滑项的能量函数，t为当前帧的相邻帧，为第t帧在像素q_t上的深度值，N(p_t)为像素p_t的邻域，大小为ω₂×ω₂。

4.根据权利要求3所述的一种基于Kinect相机的多视点深度视频复原方法，其特征在于，步骤4)具体包括以下步骤：

4-1)引入平衡因子λ将数据项和平滑项结合为如下能量方程：

$\underset{D}{min}{E}_{data}\left(D\right)+{\mathrm{\λE}}_{smooth}\left(D\right)$

式中，min为求取能量方程的最小值；

4-2)对4-1)中的能量方程进行求导并置零，方程如下：

$\frac{\∂E}{\∂D_p}=\frac{\∂E_{data}}{\∂D_p}+\frac{\∂E_{smooth}}{\∂D_p}=0$

利用求导来求得最优的深度值结果：

$D_p=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^t+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^t-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^t))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}$

式中，r_t为像素p_t邻域内的像素。为像素r_t和p_t间的空域权重、为像素r_t和q_t间的空域权重、为第t帧在像素r_t上的深度值。

4-3)利用4-2)中求导的结果构建定点迭代滤波算法对当前的低质量深度帧进行滤波，得到高质量深度帧，算法流程如下：

$\left\{\begin{array}{c}{D}_p^0=\underset{i}{\mathrm{\Σ}}{h}_p^i\widetilde{D_p^i}\\ D_p^{(k+1)}=\frac{{\mathrm{\Σ}}_i{h}_p^i\widetilde{D_p^i}+{\mathrm{\λ\Σ}}_t{\mathrm{\ω}}_{p,p_t}({\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{p_t,q_t}{D}_{q_t}^{t\left(k\right)}+{\mathrm{\Σ}}_{r_t}{\mathrm{\ω}}_{r_t,p_t}(D_{r_t}^{t\left(k\right)}-{\mathrm{\Σ}}_{q_t}{\mathrm{\ω}}_{r_t,q_t}{D}_{q_t}^{t\left(k\right)}))}{{\mathrm{\Σ}}_i{h}_p^i+\mathrm{\λ}}\end{array}\right.$

其中，为迭代前的深度图初始化结果，为第k+1次迭代求得的结果，k+1为迭代的次数；算法在第k次的迭代结果的基础上滤波得到第k+1次结果。