CN112270693A - 一种飞行时间深度相机运动伪差检测方法和装置 - Google Patents

Abstract

本发明提供了一种飞行时间深度相机运动伪差检测方法和装置，该方法包括：获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；将所述相关度低于设定阈值的像素点判定为运动伪差点。应用本发明可有效检测出飞行时间深度相机深度图像运动伪差区域，提高深度图像准确度。

Description

一种飞行时间深度相机运动伪差检测方法和装置

技术领域

本发明涉及飞行时间深度相机领域，具体涉及一种飞行时间深度相机的运动伪差检测方法和装置。

背景技术

深度相机可以用来感知环境的三维深度信息，因此被广泛应用于移动机器人导航，航天、航空，增强现实，测绘等领域。目前深度相机领域分为以结构光深度相机和飞行时间深度相为代表的主动式深度相机和以双目相机为代表的被动式深度相机。相比于被动式深度相机，主动式深度相机不需要大量计算就可以获取真实环境的距离信息，并且获取的距离信息更为可靠。

飞行时间深度相机是通过红外光源向目标物体连续发射光波，利用感光器件接收从目标物体返回的光，通过计算光往返的时间来计算出目标物体的深度。对于连续波调制的飞行时间深度相机在一个成像周期内，需接收到4幅不同相位的图像，利用运算平台计算出深度图像。由于4幅红外图像在不同时刻成像，当场景中存在运动物体时，运动物体在4幅红外图像中成像位置不同，就会产生运动伪差现象。因此运动伪差检测是飞行时间深度相机的一个重要课题。

目前现有的运动伪差解决办法主要包括，基于约束规则的运动伪差处理和基于飞行像素的运动伪差处理。基于约束规则的运动伪差处理，主要通过计算四幅红外图同一像素坐标位置下的强度值的补偿关系来进行伪差剔除。这种方法通常面对具有周期性边缘或者纹理密集的物体时表现不佳。另外一种基于飞行像素的伪差处理方法，则会容易将小目标物体剔除，甚至在不发生运动的情况，也会对目标物体的边缘像素剔除。

发明内容

本发明实施例的目的是提供一种飞行时间深度相机运动伪差检测方法和装置，以解决现有技术中存在的飞行像素误判问题，尤其是在面对复杂纹理的目标时这种方法表现卓著，而在静态情况下不会过度剔除物体边缘像素。

为了达到上述目的，本发明实施例公开如下技术方案：

第一方面，本发明实施例提供一种飞行时间深度相机运动伪差检测方法，包括：

获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；

将所述相关度低于设定阈值的像素点判定为运动伪差点。

第二方面，本发明实施例提供一种飞行时间深度相机运动伪差检测装置，包括：

获取单元，用于获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

索引关系建立单元，用于建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

图像变换单元，用于在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

相关度计算单元，用于对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；

判定单元，用于将相关度低于设定阈值的像素点判定为运动伪差点。

根据以上技术方案，本发明的有益效果如下：

本实施例用彩色相机和深度相机同时获取在同一视野下的彩色图像和深度图像，通过外参矩阵建立深度图像的像素坐标到所述彩色图像的像素坐标的索引关系，在深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换，计算变换后的图像相关性，来判断窗口内的深度图像是否存在运动伪差现象。

本发明通过检测深度图像和彩色图像纹理特征的相关性来判断深度图像伪差情况，在不改变深度相机硬件的情况下仅增加彩色相机，是一种改造灵活，成本低的运动伪差检测方法。在周期性纹理情况下也能有很好的表现效果，同时不会对静态物体边缘造成误删。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的一种飞行时间深度相机运动伪差检测方法的流程图；

图2是根据本发明实施例的一种飞行时间深度相机运动伪差检测装置的框图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

图1为本发明实施例提供的一种飞行时间深度相机运动伪差检测方法的流程图；本实施例提供的一种飞行时间深度相机运动伪差检测方法，包括：

步骤S100，标定步骤：

首先搭建彩色相机和深度相机系统，分别获取真实场景的彩色图像与深度图像。通过彩色相机与深度相机的联合标定，建立彩色图像与深度图像像素坐标对应关系。彩色相机与深度相机视场重合区域内通过计算映射坐标深度值误差，可检测出运动伪差区域。

标定过程中，已知在针孔模型下彩色相机坐标和飞行时间深度相机坐标系下存在转换关系：

也即：

其中：u_rgb、v_rgb、Z_rgnb为彩色图像的像素坐标，f_{x_rgb}、f_{y_rgb}为彩色相机镜头在像素横向和纵向的焦距，d_{x_rgb}、d_{y_rgb}为彩色相机单个像素横向和纵向尺寸，

表示彩色相机镜头的偏心程度，x_rgb、y_rgb、z_rgb表示物体在彩色相机坐标系下的空间位置，K_rgb为相机内参矩阵的逆。

也即：

其中：u_dep、v_dep、Z_dep为深度图像的像素坐标，f_{x_dep}、f_{y_dep}为飞行时间深度相机镜头在像素横向和纵向的焦距，d_{x_dep}、d_{y_dep}为飞行时间深度相机单个像素横向和纵向尺寸，

表示飞行时间深度相机镜头的偏心程度，x_dep、y_dep、z_dep表示物体在飞行时间深度相机坐标系下的空间位置，K_dep为飞行时间深度相机内参矩阵的逆。

此外，彩色相机坐标

到飞行时间深度相机坐标

的转换可以理解为旋转和平移关系，那么可以用旋转平移矩阵M来联系起他们的关系，即：

于是，深度相机到彩色相机的坐标系的转换可以表示成：

也就是：

它可以表示为：

其中W是一个4×4的矩阵。标定过程就是找到W的过程，通过标记相同物体分别在彩色相机和飞行时间深度相机图像上的位置，可以计算得到W的值。

考虑到实际情况下会存在畸变，像素坐标的存在如下修正关系：

u_corr＝u_dis(1+k₁r²+k₂r⁴+k₃r⁶)+[2p₁uv+p₂(r²+2u²)]

v_corr＝v_dis(1+k₁r²+k₂r⁴+k₃r⁶)+[2p₂uv+p₁(r²+2v²)]

k₁,k₂,k₃径向畸变系数，p₁,p₂是切向畸变系数，v_dis和u_dis分别表示带有畸变的图像行列坐标，v_corr和u_corr分别表示去畸变之后的图像行列坐标

本实施例利用棋盘格，采用张正友标定法计算得到彩色相机和飞行时间深度相机的内参矩阵和飞行时间深度相机坐标系到彩色相机坐标系的转换矩阵W。

步骤S101，获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

具体地，实施过程中，如图1所示分别获取彩色相机与飞行时间深度相机在同一景深下的彩色图像和深度图像(包括对应的强度图和灰度图)。

进一步地，对飞行时间深度相机获得的深度图像(包括对应的强度图和灰度图)进行处理包括深度图像低信号滤除以及随机噪声处理两部分，以及对彩色相机获得的彩色图像进行图像降噪处理。深度图像低信号滤除根据输出的强度图像像素值的大小去除信号低于阈值的像素点。噪声点处理通过计算深度图像每个像素点和邻域内像素点的差异性，每一个像素点用周围像素加权平均值代替。其中所述的滤波处理包括小信号滤除，根据飞行时间深度相机获取得到的强度信息，将强度信息低于设定阈值所对应像素的深度数据剔除。所述彩色图像和深度图像获取的时间差必须低于预定的阈值。

步骤S103，建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

具体地，利用标定步骤中计算所得的内外参矩阵建立深度图像像素坐标到彩色图像像素坐标的索引关系。彩色相机与深度相机视场重合区域，深度图像坐标可以在彩色图像中找到唯一对应的坐标。已知运动伪差区域测得深度值有较大偏差，通过本步骤计算所得彩色图像像素坐标与实际相应坐标有误，或超出彩色图像像素索引范围。

步骤S105，在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

具体地，在针孔相机模型下，在深度图像上选取一5×5窗口，按索引关系找到彩色图像的对应的25个数值，重新构成5×5矩阵。

对深度图像对应的灰度图和彩色图像都进行census变换。Census变换不依赖外部参数输入同时能够较好地检测出图像中的局部结构特征，如边缘、角点特征等。这些边缘也正是飞行像素容易发生的地方。在5×5选取中心像素作为参考像素，将矩形窗口中每个像素的灰度值与参考像素的灰度值进行比较，灰度值小于或等于参考值的像素标记为0，大于参考值的像素标记为1，最后再将它们按位连接，得到变换后的结果，变换后的结果是由0和1组成的二进制码流。变换过程可通过如下公式表达：

其中I(p，q)是窗口中心像素值，I(u，v)是窗口中心像素以外的其他像素值。

步骤S107，对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；其中所述相关性采用强度图像、或者灰度图像，或者由深度图像、强度图像或灰度图像变换而来的可表示图像纹理特征的窗口值构成的矩阵与对应彩色图像窗口矩阵计算而来。所述灰度图像是指光飞行时间深度相机在仅有环境补光情况下采集的图像。

所述相关度X计算具体表示为：

其中，I_rgb(P)表示彩色相机获取得到的图像或其变换而来的图像邻域窗口的数值，I_dep(P)为飞行时间深度相机获取得到的图像或其变换而来的图像邻域窗口的数值。

步骤S109，将所述相关度低于设定阈值的像素点判定为运动伪差点。

需要说明的是，所述的彩色相机可用黑白相机替代。

图2为本发明实施例提供的一种飞行时间深度相机运动伪差检测装置的框图，该装置可以执行任意本发明任意实施例所提供的一种飞行时间深度相机运动伪差检测方法，具备执行该方法相应的功能模块和有益效果。如图2所示，该装置包括：

获取单元901，用于获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

索引关系建立单元902，用于建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

图像变换单元903，用于在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

相关度计算单元904，用于对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；

判定单元905，用于将相关度低于设定阈值的像素点判定为运动伪差点。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的设备实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种飞行时间深度相机运动伪差检测方法，其特征在于，包括：

同时获取在同一视野下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；

将所述相关度低于设定阈值的像素点判定为运动伪差点。

2.根据权利要求1所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，还包括：

采集同一场景下彩色相机的彩色图像和飞行时间深度相机的强度图像，计算所述彩色相机和飞行时间深度相机的内参、飞行时间深度相机坐标系到彩色相机坐标系的转换矩阵。

3.根据权利要求2所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，计算飞行时间深度相机坐标系到彩色相机坐标系的转换矩阵，具体包括：

其中(u_rgb、v_rgb、Z_rgb)为彩色图像的像素坐标，(u_dep、v_dep、Z_dep)为深度图像的像素坐标，W是一个4×4的转换矩阵，通过标记相同物体分别在彩色相机和飞行时间深度相机图像上的位置，计算得到W的值。

4.根据权利要求1所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述彩色图像和深度图像获取的时间差必须低于预定的阈值。

5.根据权利要求5所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述的滤波处理包括小信号滤除，根据飞行时间深度相机获取得到的强度信息，将强度信息低于设定阈值所对应像素的深度数据剔除。

6.根据权利要求1所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述相关性采用强度图像、或者灰度图像，或者由深度图像、强度图像或灰度图像变换而来的可表示图像纹理特征的窗口值构成的矩阵与对应彩色图像窗口矩阵计算而来。

7.根据权利要求7所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述灰度图像是指光飞行时间深度相机在仅有环境补光情况下采集的图像。

8.根据权利要求1所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述相关度X计算具体表示为：

其中，I_rgb(P)表示彩色相机获取得到的图像或其变换而来的图像邻域窗口的数值，I_dep(P)表示飞行时间深度相机获取得到的图像或其变换而来的图像邻域窗口的数值。

9.根据权利要求1所述的一种飞行时间深度相机运动伪差检测方法，其特征在于，所述的彩色相机可用黑白相机替代。

10.一种飞行时间深度相机运动伪差检测装置，其特征在于，包括：

获取单元，用于获取在同一景深下的彩色图像和深度图像，其中所述彩色图像由彩色相机获得，所述深度图像由飞行时间深度相机获得；

索引关系建立单元，用于建立所述深度图像的像素坐标到所述彩色图像的像素坐标的索引关系；

图像变换单元，用于在所述深度图像上选取一窗口，按所述索引关系找到对应的彩色图像，将所述深度图像对应的灰度图与所对应的彩色图像都进行图像变换；

相关度计算单元，用于对图像变换后的彩色图像和灰度图像进行相关性分析，计算相关度；

判定单元，用于将相关度低于设定阈值的像素点判定为运动伪差点。

Images