发明内容
为解决降低多视图深度估计数据集的成本和提高模型的泛化能力的问题,在本发明的第一方面提供了一种自监督多视图深度估计方法,包括:获取输入图像的稀疏点云,并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签;获取输入图像的多张参考图像,通过基于几何的多视图深度估计方法得到每张参考图像的初始深度图;对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签;基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络;利用训练完成的深度估计网络对目标图像进行深度估计。
在本发明的一些实施例中,所述获取输入图像的稀疏点云,并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签包括:获取输入图像的相机参数以及对应视角的稀疏点云;将每个视角的可见稀疏3D点云通过相机位姿坐标系变换到相机坐标系下,得到多个相机坐标系下的稀疏3D点云;将每个相机坐标系下的稀疏3D点云中的投影到预设2D图像平面上。
进一步的,所述预设2D图像平面通过如下方法确定:
其中,(x,y,z)表示稀疏3D点云的任意一点在相机位姿坐标系对应方向上的坐标,(u,v)表示在相机坐标系上的坐标,(Cx,Cy)为主点坐标;f x 与f y 分别为x和y方向上的焦距,z即为点(u,v)的深度值。
在本发明的一些实施例中,所述对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签包括:计算参考图像中的任一像素点p的深度估计值d p ,与其反向投影点p’的深度估计值dp’之间的误差;根据深度估计值dp’和d p ,判断像素点p的深度估计值d p 是否满足多视图的几何一致性。
进一步的,所述几何一致性通过包括如下方法判断:
,其中
C(
p)表示像素点
p的几何
一致性的逻辑真值。
在上述的实施例中,所述基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络包括:若采用稀疏先验伪标签作为监督信息,通过深度平滑损失与L1损失结合,来对深度估计网络进行监督;若采用半稠密深度图伪标签作为监督信息,则直接采用L1损失来对深度估计网络进行监督。
本发明的第二方面,提供了一种自监督多视图深度估计装置,包括:转化模块,用于获取输入图像的稀疏点云,并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签;剔除模块,用于获取输入图像的多张参考图像,通过基于几何的多视图深度估计方法得到每张参考图像的初始深度图;对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签;估计模块,用于基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络;利用训练完成的深度估计网络对目标图像进行深度估计。
本发明的第三方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明在第一方面提供的自监督多视图深度估计方法。
本发明的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现本发明在第一方面提供的自监督多视图深度估计方法。
本发明的有益效果是:
一方面,本发明利用运动恢复结构算法和传统基于几何的多视图深度估计算法制作高质量的伪标签,降低数据集的成本和提高模型的泛化能力;另一方面,基于自监督学习的多视图深度估计算法通常利用图像重建损失作为监督信号来训练网络模型,而图像重建损失本质上是借助于多视图的光度一致性的监督信号来引导网络训练,其易受到光照、遮挡等问题的影响。通过高质量的伪标签,能够有效避免基于光度一致性构造的图像重建损失带来的歧义性问题。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
参考图1或图2,在本发明的第一方面,提供了一种自监督多视图深度估计方法,包括:S100.获取输入图像的稀疏点云,并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签;S200.获取输入图像的多张参考图像,通过基于几何的多视图深度估计方法得到每张参考图像的初始深度图;对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签;S300.基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络;利用训练完成的深度估计网络对目标图像进行深度估计。
参考图3,在本发明的一些实施例的步骤S100中,所述获取输入图像的稀疏点云,
并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签包括:S101.获取
输入图像的相机参数以及对应视角的稀疏点云;具体地,通过运动恢复结构算法得到输入
图像的相机参数以及对应的稀疏点云
P world 。将在第
i幅视图下可见的稀疏3D点记为,
其中,
,
为场景的视图数。将第
幅视图的相机参数记为
{
K i ,
R i ,
t i },其中
K i 为相机内参,
R i 为旋转矩阵,
t i 为平移向量(从世界坐标系变换到相机坐
标系下)。
S102.将每个视角的可见稀疏3D点云通过相机位姿坐标系变换到相机坐标系下,
得到多个相机坐标系下的稀疏3D点云;将在第
幅图像中可见的稀疏3D点
通过相
机位姿关系变换到相机坐标系下:
S103.将每个相机坐标系下的稀疏3D点云中的投影到预设2D图像平面上。
参考图4,进一步的,在步骤S103中,所述预设2D图像平面通过如下方法确定:
其中,(x,y,z)表示稀疏3D点云的任意一点在相机位姿坐标系对应方向上的坐标,(u,v)表示在相机坐标系上的坐标,(Cx,Cy)为主点坐标;f x 与f y 分别为x和y方向上的焦距,z即为点(u,v)的深度值。
具体地,将相机坐标系下的稀疏3D点投影至2D图像平面上。对于稀疏3D点中的一点(x,y,z),其在图像平面上投影点(u,v)可以根据相机投影公式得到:
3D点的
坐标即为点(
u,
v)的深度值。对于那些没有先验深度值的像素点,将其深
度值标记为零。
在本发明的一些实施例的步骤S200中,所述对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签包括:S201.计算参考图像中的任一像素点p的深度估计值d p ,与其反向投影点p’的深度估计值dp’之间的误差;
具体地,利用基于几何的多视图深度估计方法得到各参考图像对应的初始深度图
。计算各深度图的重投影误差,即如图3所示,对于参考图
像中的一点
p,其深度估计值为
d p ,
X p 为基于其估计的深度值反向投影到3D空间中的点。将
X p
投影至邻域视图,得到投影的像素点坐标
。在邻域视图像素点
的深度估计值为
d q ,将其
反向投影至三维空间得到点
X p ,将点
投影回参考图像得到像素点
p’。像素点
p与
p’之间的
欧氏距离‖
p-p’‖
2即为像素的重投影误差,其深度估计值
d p 和
dp’的相对误差
成为
投影的相对深度误差。
S202.根据深度估计值
dp’和
d p ,判断像素点
p的深度估计值
d p 是否满足多视图的
几何一致性。具体地,定义一个准则
c(.)用于判定一个像素点
的深度估计是否满足两视
图的几何一致性。准则
c(.)综合考虑了深度图的重投影误差和相对深度误差,如果像素点
的深度估计满足式(3),那么将像素点
的深度估计视为两视图一致的。对于参考图像中的
像素点
而言,存在
幅源图像用于多视图几何一致性的判定,那么可以得到
个重
投影至参考图像的像素点。如果重投影的深度值至少
幅视图连续,即
,
n min 为深度一致性的最小视图数,则将该深度估计保留。保留下来
的高置信度深度图记为
,即为用于网络模型训练的半稠密深度图
伪标签。
进一步的,所述几何一致性通过包括如下方法判断:
,其中
C(
p)表示像素点
p的几何
一致性的逻辑真值。
基于上述实施例的基础上,步骤S300中,所述基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络包括:若采用稀疏先验伪标签作为监督信息,通过深度平滑损失与L1损失结合,来对深度估计网络进行监督;若采用半稠密深度图伪标签作为监督信息,则直接采用L1损失来对深度估计网络进行监督。具体地,将得到的稀疏先验伪标签或半稠密深度图伪标签用于监督基于深度学习的多视图深度估计算法训练。若采用稀疏先验伪标签作为监督信息,由于稀疏点数量过少,引入深度平滑损失与L1损失结合来对网络进行监督,若采用半稠密深度图伪标签作为监督信息,则直接采用L1损失来对网络进行监督。L1损失和深度平滑损失分别由式(4)和式(5)给出:
采用稀疏先验伪标签作为监督信息时,损失为:
采用半稠密深度图伪标签作为监督信息时,损失为:
在式(4)和式(5)中,
D(
p)为预测的深度图,
D pseudo (
p)为构造的伪标签,
为
有效像素区域,
是深度图
和图像
中的像素点,
∇D(
p)为预测深度图的梯度;
∇为2D微
分算子,|∙|为求取逐像素的绝对值。可以理解,本发明提供的多视图深度估计方法对基于
自监督的深度估计方法结果有显著增益,增益主要来自于:自监督多视图深度估计算法常
采用图像重建损失来作为监督信号,其受场景光照变化大、存在背景区域的无效监督等问
题,而本发明利用运动恢复结构算法和传统基于几何的多视图深度估计算法制作伪标签,
能够有效避免基于光度一致性构造的图像重建损失带来的歧义性问题,基于该类伪标签训
练得到的模型能够在自监督学习方法中取得最优的性能,并达到与有监督的方法相当的性
能。
实施例2
参考图5,本发明的第二方面,提供了种自监督多视图深度估计装置1,包括:转化模块11,用于获取输入图像的稀疏点云,并将其转化为输入图像的多个视角的稀疏深度图,即多个稀疏先验伪标签;剔除模块12,用于获取输入图像的多张参考图像,通过基于几何的多视图深度估计方法得到每张参考图像的初始深度图;对每张所述初始深度图进行外点剔除,得到多个半稠密深度图伪标签;估计模块13,用于基于多个稀疏先验伪标签或多个半稠密深度图伪标签,训练深度估计网络;利用训练完成的深度估计网络对目标图像进行深度估计。
进一步的,所述转化模块11包括:获取单元,用于获取输入图像的相机参数以及对应视角的稀疏点云;变换单元,用于将每个视角的可见稀疏3D点云通过相机位姿坐标系变换到相机坐标系下,得到多个相机坐标系下的稀疏3D点云;投影单元,用于将每个相机坐标系下的稀疏3D点云中的投影到预设2D图像平面上。
实施例3
参考图6,本发明的第三方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明在第一方面的方法。
电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开的实施例的方法中限定的上述功能。需要说明的是,本公开的实施例所描述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个计算机程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++、Python,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。需要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。