CN103796001B - 一种同步获取深度及色彩信息的方法及装置 - Google Patents

一种同步获取深度及色彩信息的方法及装置 Download PDF

Info

Publication number
CN103796001B
CN103796001B CN201410011420.XA CN201410011420A CN103796001B CN 103796001 B CN103796001 B CN 103796001B CN 201410011420 A CN201410011420 A CN 201410011420A CN 103796001 B CN103796001 B CN 103796001B
Authority
CN
China
Prior art keywords
diffraction
depth
light spot
video camera
discrete light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410011420.XA
Other languages
English (en)
Other versions
CN103796001A (zh
Inventor
肖振中
许宏淮
刘龙
黄源浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Orbbec Co Ltd
Original Assignee
Shenzhen Orbbec Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Orbbec Co Ltd filed Critical Shenzhen Orbbec Co Ltd
Priority to CN201410011420.XA priority Critical patent/CN103796001B/zh
Publication of CN103796001A publication Critical patent/CN103796001A/zh
Application granted granted Critical
Publication of CN103796001B publication Critical patent/CN103796001B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

本发明一种同步获取深度及色彩信息的方法,具体步骤为:S1:使用第一摄像机获取视野内目标的目标衍射离散光斑图序列,使用第二摄像机获取视野内目标的目标色彩图像序列;S2:图像处理模块使用每一帧目标衍射离散光斑图,得到对应的每一帧目标深度图;调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图与同步的每一帧目标色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。还提供包括上述方法的装置。有益效果是:能够实时获取与视野内人或其他目标相距的距离,同步进行深度与色彩的匹配,并且实时更新信息,从而应用于运动捕捉系统或机器视觉系统等,以作为军事、娱乐、智能家居、体育或医学等方面的具体应用系统的信息输入。

Description

一种同步获取深度及色彩信息的方法及装置
技术领域
本发明涉及图像处理技术,特别是一种同步获取深度及色彩信息的方法及装置。
背景技术
随着3D技术的发展,立体显示、机器视觉、卫星遥感等方面的技术应用越来越多地需要获取场景的深度信息。目前,深度相机能够获取相机视野内目标的深度信息。
深度相机主要有三种架构,分别是双目立体视觉法、飞行时间法(TOF)和结构光法。双目立体视觉法使用两个镜头的立体视觉来获得关于对象的表面与相机之间的距离的深度信息。飞行时间法使用雷达测量的原理进行三维场景深度的测量,相机发射主动光波照射三维场景,光波经三维场景反射后回到深度相机,根据光波的发射时间和反射光波的接收时间之间的时间差(也即,相位差)获取三维场景的深度信息。
现有的深度相机,获得的深度信息的精确度随着到目标的距离增加而快速地降低,并且精度还取决于目标的表面状态,所以难以获得精确的深度信息。同时,不能生成深度-色彩图像,需要连接计算机系统,才能够对深度图像与色彩图像进行匹配处理。深度图像与色彩图像匹配的方法繁琐,计算速度慢,匹配精度低,不能在深度相机同步输出深度和色彩信息。
发明内容
为了解决上述现有的技术问题,本发明提供一种同步获取深度及色彩信息的方法及装置,能够实时获取与视野内人或其他目标相距的距离,同步进行深度与色彩的匹配,并且实时更新信息,从而应用于运动捕捉系统或机器视觉系统等,以作为军事、娱乐、智能家居、体育或医学等方面的具体应用系统的信息输入。
本发明解决上述现有的技术问题,提供一种同步获取深度及色彩信息的方法,具体步骤为:
S1:使用第一摄像机获取视野内目标的目标衍射离散光斑图序列,使用第二摄像机获取视野内目标的目标色彩图像序列;
S2:图像处理模块使用每一帧目标衍射离散光斑图,得到对应的每一帧目标深度图;调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图与同步的每一帧目标色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。
本发明更进一步的改进如下所述。
所述目标衍射离散光斑图序列包括第一帧目标衍射离散光斑图和第二帧目标衍射离散光斑图;所述目标色彩图像序列包括第一帧目标色彩图像和第二帧目标色彩图像。
第二摄像机的像素分辨率高于第一摄像机的像素分辨率。
所述第一摄像机与第二摄像机的相对位置数据包括第一摄像机的内部参数、镜头畸变参数;第二摄像机的内部参数、镜头畸变参数;第一摄像机与第二摄像机的夹角和相对距离。
所述第一摄像机与第二摄像机的相对位置数据通过摄像机标定获得。
在步骤S2中,对齐映射插值匹配为图像处理模块基于第一摄像机与第二摄像机的相对位置数据,将每一帧目标深度图与同步的每一帧目标色彩图像进行映射,一个像素的深度信息对应于多个像素的色彩信息;接着对深度信息进行亚像素插值处理、对色彩信息进行边缘提取处理、深度信息结合色彩信息优化处理,,优化每一帧目标深度-色彩图像。
在步骤S2中,
S21:图像处理模块调用预存储的深度信息已知的多个参考衍射离散光斑图,分别与第一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到对应的多个原始的第一帧目标深度图;比较每一个原始的第一帧目标深度图与其对应的参考衍射离散光斑图已知深度的偏离值,选取偏离值最小时对应区域的深度信息,以此获得优化的第一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第一帧目标深度图与同步的第一帧目标色彩图像的对齐映射插值匹配,生成第一帧目标深度-色彩图像;
S22:调用优化的第一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的第一帧目标深度图区块,以及对应的参考衍射离散光斑图区块;使用该参考衍射离散光斑图区块,与第二帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到第二帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第二帧目标深度图与同步的第二帧目标色彩图像的对齐映射插值匹配,生成第二帧目标深度-色彩图像;
S23:对于目标衍射离散光斑图序列的后续帧目标衍射离散光斑图,调用前一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的前一帧目标深度图区块,以及对应的参考衍射离散光斑图区块;使用该参考衍射离散光斑图区块,与后一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到后一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行后一帧目标深度图与同步的后一帧目标色彩图像的对齐映射插值匹配,生成后一帧目标深度-色彩图像。
包括使用第一摄像机采集深度信息已知的参考衍射离散光斑图;一光屏垂直于第一摄像机的光轴设置,第一摄像机获取已知深度信息的光屏上的衍射离散光斑图,作为一参考衍射离散光斑图;沿着光轴方向,设置多个采集位置,获得深度信息已知的多个参考衍射离散光斑图。
衍射离散光斑互相关处理使用的位移形函数、搜索函数、互相关函数分别为
x ′ = x + u + ∂ u ∂ x Δx + ∂ u ∂ y Δy y ′ = x + v + ∂ v ∂ x Δx + ∂ v ∂ y Δy
其中(x,y)表示参考衍射离散光斑图子区的任一点;
(xˊ,yˊ)表示目标衍射离散光斑图子区的任一点;
u、v、表示参考衍射离散光斑图子区中心点的位移量和导数;
S = 1 - ΣΣ [ f ( x , y ) · g ( x + u , y + v ) ] [ ΣΣ f 2 ( x , y ) · ΣΣ g 2 ( x + u , y + v ) ] 1 2
其中,f为参考图像子区的灰度函数;g为目标图像子区的灰度函数;x,y表示参考图像子区的像素在参考图像中的坐标;x+u,y+v表示目标图像子区的像素在目标图像中的坐标;S为最终的相关系数;
S = 1 - { &Sigma;&Sigma; { [ f ( x , y ) - < f > ] &CenterDot; [ g ( x &prime; , y &prime; ) - < g > ] } } 2 &Sigma;&Sigma; [ f ( x , y ) - < f > ] 2 &CenterDot; &Sigma;&Sigma; [ g ( x &prime; , y &prime; ) - < g > ] 2
其中,S为最终的互相关系数,S=0相关,S=1不相关;
f为参考衍射离散光斑图像子区内的图像灰度函数,g为目标衍射离散光斑图像子区内的图像灰度函数,<f>和<g>表示f和g在匹配区域内的系统平均值。
在步骤S2中,获取视野内目标的目标衍射离散光斑图序列之后,对该目标衍射离散光斑图进行预处理;所述预处理为使用降噪、插值法、中值滤波法或区块划分法进行处理。
本发明解决上述现有的技术问题,提供一种使用所述同步获取深度及色彩信息的方法的装置,包括主体,还包括激光器、衍射光学元件、第一摄像机、第二摄像机、图像处理模块和存储器;所述第一摄像机、所述第二摄像机均与所述图像处理模块连接,所述图像处理模块与所述存储器连接;所述激光器发出的激光穿透所述衍射光学元件后照明视野中的目标;所述第一摄像机获取视野中的目标衍射离散光斑图,并发送至所述图像处理模块;所述第二摄像机获取视野中的目标色彩图,并发送至所述图像处理模块;所述图像处理模块对所述目标衍射离散光斑图和所述存储器内预存储的参考衍射离散光斑图进行衍射离散光斑互相关匹配处理,以生成目标的深度信息;接着调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图的深度图像与色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。
本发明更进一步的改进如下所述。
还包括窄带通滤波片,所述窄带通滤波片置于所述第一摄像机的镜头前。
所述激光器与所述衍射光学元件构成衍射离散光斑发生器。
相较于现有技术,本发明的有益效果是:能够实时获取与视野内人或其他目标相距的距离,同步进行深度与色彩的匹配,并且实时更新信息,从而应用于运动捕捉系统或机器视觉系统等,以作为军事、娱乐、智能家居、体育或医学等方面的具体应用系统的信息输入。采用多模激光器,降低了装置成本,采用单片光学衍射元件,提高了光学系统稳定性。
附图说明
图1为本发明同步获取深度及色彩信息的方法的流程图。
图2为图1中S2的流程图。
图3为采集参考衍射离散光斑图的结构示意图。
图4为本发明装置的模块示意图。
具体实施方式
下面结合附图说明及具体实施方式对本发明进一步说明。
如图1至图3所示,一种同步获取深度及色彩信息的方法,具体步骤为:
S1:使用第一摄像机获取视野内目标的目标衍射离散光斑图序列,使用第二摄像机获取视野内目标的目标色彩图像序列;第一摄像机与第二摄像机均为高帧数摄像机,其获取帧数的速度是同步的。且第二摄像机相较第一摄像机,第二摄像机的分辨率和视场均大一些,例如:第二摄像机的分辨率为1920×1024,第一摄像机的分辨率为640×480,一般情况下,第二摄像机为色彩摄像机。
S2:图像处理模块使用每一帧目标衍射离散光斑图,得到对应的每一帧目标深度图;调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图与同步的每一帧目标色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。这样在图像处理模块内即生成同时含有深度信息与色彩信息的目标深度-色彩图像。
如果生成的目标深度-色彩图像对外输出,那么,还包括步骤S3:生成的目标深度-色彩图像的输出。
本发明的目标衍射离散光斑图序列包括第一帧目标衍射离散光斑图和第二帧目标衍射离散光斑图,还包括连续的后续帧目标衍射离散光斑图;目标色彩图像序列包括第一帧目标色彩图像和第二帧目标色彩图像,还包括连续的后续帧目标色彩图像。
本发明的第一摄像机与第二摄像机的相对位置数据包括第一摄像机的内部参数、镜头畸变参数;第二摄像机的内部参数、镜头畸变参数;第一摄像机与第二摄像机的夹角和相对距离。第一摄像机与第二摄像机的相对位置数据通过摄像机标定获得,且对该摄像机标定进行优化处理,例如进行捆绑调整法处理,或本领域悉知的其它优化处理方式,该摄像机标定的具体步骤为:A:启动摄像机从不同角度和距离采集标靶图像;B:计算标靶上控制点的图像坐标;C:分别对第一摄像机、第二摄像机进行标定,采用反投影法、直接线性变换解法解算投影矩阵;得到第一摄像机与第二摄像机的内外参数矩阵,保存为数据文件,作为求取两个摄像机相互关系的基础;D:根据求得的投影矩阵求解摄像机内外参数,从而得到标定各参数的初始值;E:标定第一摄像机与第二摄像机准确相对位置关系,通过计算空间上第一摄像机与第二摄像机之间的几何关系,即求它们之间的旋转矩阵和平移向量;F:利用捆绑调整法对摄像机标定进行优化,得到精确的摄像机内外参数;G:保存标定结果。
在步骤S2中,对齐映射插值匹配为图像处理模块基于第一摄像机与第二摄像机的相对位置数据,将每一帧目标深度图与同步的每一帧目标色彩图像进行映射,特征点对齐(比如边、角点),目标深度图映射到目标色彩图像,或者目标色彩图像映射到目标深度图,一个像素的深度信息对应于多个像素的色彩信息;接着对深度信息进行亚像素插值处理、对色彩信息进行边缘提取处理、深度信息结合色彩信息优化处理,得到每一帧目标深度-色彩图像。亚像素插值处理能够为快速双线插值法、双三次样条插值法、中值滤波法,或本领域悉知的其它方法。边缘提取处理,以获得边缘轮廓数据。深度信息结合色彩信息优化处理能够为高斯滤波法、领域滤波法、加权非线性中值滤波法,或本领域悉知的其它方法。
本发明在步骤S2中进一步包括各步:
S21:图像处理模块调用预存储的深度信息已知的多个参考衍射离散光斑图,假设该多个参考衍射离散光斑图的数量为N,那么,分别与第一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到对应的N个原始的第一帧目标深度图;比较每一个原始的第一帧目标深度图与其对应的参考衍射离散光斑图已知深度的偏离值,在N个偏离值中选取偏离值最小的区域的深度信息,以此获得优化的第一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第一帧目标深度图与同步的第一帧目标色彩图像的对齐映射插值匹配,生成第一帧目标深度-色彩图像;
S22:调用优化的第一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的第一帧目标深度图区块,以及对应的参考衍射离散光斑图区块,该参考衍射离散光斑图区块能够为单一的区块,也能够为复数个区块的集合;使用该参考衍射离散光斑图区块,即使用单一的区块,或者使用复数个区块的集合,与第二帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到第二帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第二帧目标深度图与同步的第二帧目标色彩图像的对齐映射插值匹配,生成第二帧目标深度-色彩图像;在该步骤中,划分的第一帧参考衍射离散光斑图区块能够映射到接下的第二帧衍射离散光斑图,进行相同的划分。
S23:对于目标衍射离散光斑图序列的后续帧目标衍射离散光斑图,调用前一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的前一帧目标深度图区块,以及对应的参考衍射离散光斑图区块;使用该参考衍射离散光斑图区块,与后一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到后一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行后一帧目标深度图与同步的后一帧目标色彩图像的对齐映射插值匹配,生成后一帧目标深度-色彩图像。在该步骤中,划分的前一帧参考衍射离散光斑图区块能够映射到接下的后一帧衍射离散光斑图,进行相同的划分。
对偏离值进行自适应阈值设定,从处理第二帧目标深度衍射离散光斑图开始,每一帧目标深度图的生成都进行一次自适应阈值设定。自适应阈值设定即对应每一幅参考衍射离散光斑图设定一个阈值,使得划分出的目标深度图区块构成原来完整的一幅深度图。
本发明包括使用第一摄像机采集深度信息已知的参考衍射离散光斑图;一光屏垂直于第一摄像机的光轴设置,第一摄像机获取已知深度信息的光屏上的衍射离散光斑图,作为一参考衍射离散光斑图。沿着光轴方向,设置多个采集位置,获得深度信息已知的多个参考衍射离散光斑图。一般情况下,设置的间距越小、参考衍射离散光斑图越密集,那么生成的目标深度信息精度越高。
衍射离散光斑互相关处理使用的位移形函数、搜索函数、互相关函数分别为
x &prime; = x + u + &PartialD; u &PartialD; x &Delta;x + &PartialD; u &PartialD; y &Delta;y y &prime; = x + v + &PartialD; v &PartialD; x &Delta;x + &PartialD; v &PartialD; y &Delta;y
其中(x,y)表示参考衍射离散光斑图子区的任一点;
(xˊ,yˊ)表示目标衍射离散光斑图子区的任一点;
u、v、表示参考衍射离散光斑图子区中心点的位移量和导数;
S = 1 - &Sigma;&Sigma; [ f ( x , y ) &CenterDot; g ( x + u , y + v ) ] [ &Sigma;&Sigma; f 2 ( x , y ) &CenterDot; &Sigma;&Sigma; g 2 ( x + u , y + v ) ] 1 2
其中,f为参考图像子区的灰度函数;g为目标图像子区的灰度函数;x,y表示参考图像子区的像素在参考图像中的坐标;x+u,y+v表示目标图像子区的像素在目标图像中的坐标;S为最终的相关系数;
S = 1 - { &Sigma;&Sigma; { [ f ( x , y ) - < f > ] &CenterDot; [ g ( x &prime; , y &prime; ) - < g > ] } } 2 &Sigma;&Sigma; [ f ( x , y ) - < f > ] 2 &CenterDot; &Sigma;&Sigma; [ g ( x &prime; , y &prime; ) - < g > ] 2
其中,S为最终的互相关系数,S=0相关,S=1不相关;
f为参考衍射离散光斑图像子区内的图像灰度函数,g为目标衍射离散光斑图像子区内的图像灰度函数,<f>和<g>表示f和g在匹配区域内的系统平均值。
为了提高生成的目标深度信息的精度效果,改善边缘处理效果,例如目标深度数据不连续的地方,在步骤S1中,获取视野内目标的目标衍射离散光斑图序列之后,对该目标衍射离散光斑图进行预处理,即使用降噪、插值法、中值滤波法或区块划分法进行处理,除此之外,亦能够使用本领域悉知的其它预处理方法进行处理。
如图1至图4所示,本发明提供一种使用同步获取深度及色彩信息的方法的装置,包括主体17,还包括激光器、衍射光学元件112、第一摄像机13、第二摄像机14、图像处理模块15和存储器16;第一摄像机13、第二摄像机14均与图像处理模块15连接,图像处理模块15与存储器16连接;激光器发出的激光穿透衍射光学元件112后照明视野中的目标;第一摄像13机获取视野中的目标衍射离散光斑图,并发送至图像处理模块15;第二摄像机14获取视野中的目标色彩图,并发送至图像处理模块15;图像处理模块15对目标衍射离散光斑图和存储器16内预存储的参考衍射离散光斑图进行衍射离散光斑互相关匹配处理,以生成目标的深度信息;接着调用第一摄像机13与第二摄像机14的相对位置数据,进行每一帧目标深度图的深度图像与色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。
本发明还包括窄带通滤波片,该窄带通滤波片置于第一摄像机13和第二摄像机14的镜头前,让激光衍射离散光斑的中心波段通过,滤除其它波段的光,从而减少环境光的影响,使得在室内较暗的环境或室外较亮的环境下,均能正常工作。
本发明的激光器与衍射光学元件构成衍射离散光斑发生器11,该激光器为单模激光器或多模激光器111,当为多模激光器111时能够降低生产成本。
本发明能够实时获取与视野内人或其他目标相距的距离,并且实时更新深度信息,从而应用于运动捕捉系统或机器视觉系统等,以作为军事、娱乐、智能家居、体育或医学等方面的具体应用系统的信息输入。采用多模激光器,降低了装置成本,采用单片光学衍射元件,提高了光学系统稳定性。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (12)

1.一种同步获取深度及色彩信息的方法,其特征在于:具体步骤为:
S1:使用第一摄像机获取视野内目标的目标衍射离散光斑图序列,使用第二摄像机获取视野内目标的目标色彩图像序列;
S2:图像处理模块使用每一帧目标衍射离散光斑图,得到对应的每一帧目标深度图;调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图与同步的每一帧目标色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像;
在步骤S2中,又包括,
S21:图像处理模块调用预存储的深度信息已知的多个参考衍射离散光斑图,分别与第一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到对应的多个原始的第一帧目标深度图;比较每一个原始的第一帧目标深度图与其对应的参考衍射离散光斑图已知深度的偏离值,选取偏离值最小时对应区域的深度信息,以此获得优化的第一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第一帧目标深度图与同步的第一帧目标色彩图像的对齐映射插值匹配,生成第一帧目标深度-色彩图像;
S22:调用优化的第一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的第一帧目标深度图区块,以及对应的参考衍射离散光斑图区块;使用该参考衍射离散光斑图区块,与第二帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到第二帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行第二帧目标深度图与同步的第二帧目标色彩图像的对齐映射插值匹配,生成第二帧目标深度-色彩图像;
S23:对于目标衍射离散光斑图序列的后续帧目标衍射离散光斑图,调用前一帧目标深度图,比较其与每一个参考衍射离散光斑图已知深度的偏离值,对偏离值进行自适应阈值设定,划分偏离值小于阈值时对应的前一帧目标深度图区块,以及对应的参考衍射离散光斑图区块;使用该参考衍射离散光斑图区块,与后一帧目标衍射离散光斑图进行衍射离散光斑互相关匹配处理,得到后一帧目标深度图;图像处理模块调用第一摄像机与第二摄像机的相对位置数据,进行后一帧目标深度图与同步的后一帧目标色彩图像的对齐映射插值匹配,生成后一帧目标深度-色彩图像。
2.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:所述目标衍射离散光斑图序列包括第一帧目标衍射离散光斑图和第二帧目标衍射离散光斑图;所述目标色彩图像序列包括第一帧目标色彩图像和第二帧目标色彩图像。
3.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:第二摄像机的像素分辨率高于第一摄像机的像素分辨率。
4.根据权利要求3所述的同步获取深度及色彩信息的方法,其特征在于:所述第一摄像机与第二摄像机的相对位置数据包括第一摄像机的内部参数、镜头畸变参数;第二摄像机的内部参数、镜头畸变参数;第一摄像机与第二摄像机的夹角和相对距离。
5.根据权利要求4所述的同步获取深度及色彩信息的方法,其特征在于:所述第一摄像机与第二摄像机的相对位置数据通过摄像机标定获得。
6.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:在步骤S2中,对齐映射插值匹配为图像处理模块基于第一摄像机与第二摄像机的相对位置数据,将每一帧目标深度图与同步的每一帧目标色彩图像进行映射,一个像素的深度信息对应于多个像素的色彩信息;接着对深度信息进行亚像素插值处理、对色彩信息进行边缘提取处理、深度信息结合色彩信息优化处理,优化每一帧目标深度-色彩图像。
7.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:包括使用第一摄像机采集深度信息已知的参考衍射离散光斑图;一光屏垂直于第一摄像机的光轴设置,第一摄像机获取已知深度信息的光屏上的衍射离散光斑图,作为一参考衍射离散光斑图;沿着光轴方向,设置多个采集位置,获得深度信息已知的多个参考衍射离散光斑图。
8.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:衍射离散光斑互相关处理使用的位移形函数、搜索函数、互相关函数分别为
x &prime; = x + u + &PartialD; u &PartialD; x &Delta;x + &PartialD; u &PartialD; y &Delta;y y &prime; = x + v + &PartialD; v &PartialD; x &Delta;x + &PartialD; v &PartialD; y &Delta;y
其中(x,y)表示参考衍射离散光斑图子区的任一点;
(xˊ,yˊ)表示目标衍射离散光斑图子区的任一点;
u、v、表示参考衍射离散光斑图子区中心点的位移量和导数;
S = 1 - &Sigma;&Sigma; [ f ( x , y ) &CenterDot; g ( x + u , y + v ) ] [ &Sigma;&Sigma; f 2 ( x , y ) &CenterDot; &Sigma;&Sigma; g 2 ( x + u , y + v ) ] 1 2
其中,f为参考图像子区的灰度函数;g为目标图像子区的灰度函数;x,y表示参考图像子区的像素在参考图像中的坐标;x+u,y+v表示目标图像子区的像素在目标图像中的坐标;S为最终的相关系数;
S = 1 - { &Sigma;&Sigma; { [ f ( x , y ) - < f > ] &CenterDot; [ g ( x &prime; , y &prime; ) - < g > ] } } 2 &Sigma;&Sigma; [ f ( x , y ) - < f > ] 2 &CenterDot; &Sigma;&Sigma; [ g ( x &prime; , y &prime; ) - < g > ] 2
其中,S为最终的互相关系数,S=0相关,S=1不相关;
f为参考衍射离散光斑图像子区内的图像灰度函数,g为目标衍射离散光斑图像子区内的图像灰度函数,<f>和<g>表示f和g在匹配区域内的系统平均值。
9.根据权利要求1所述的同步获取深度及色彩信息的方法,其特征在于:在步骤S2中,获取视野内目标的目标衍射离散光斑图序列之后,对该目标衍射离散光斑图进行预处理;所述预处理为使用降噪、插值法、中值滤波法或区块划分法进行处理。
10.一种使用权利要求1至9任意一项所述同步获取深度及色彩信息的方法的装置,包括主体,其特征在于:还包括激光器、衍射光学元件、第一摄像机、第二摄像机、图像处理模块和存储器;所述第一摄像机、所述第二摄像机均与所述图像处理模块连接,所述图像处理模块与所述存储器连接;
所述激光器发出的激光穿透所述衍射光学元件后照明视野中的目标;
所述第一摄像机获取视野中的目标衍射离散光斑图,并发送至所述图像处理模块;所述第二摄像机获取视野中的目标色彩图,并发送至所述图像处理模块;
所述图像处理模块对所述目标衍射离散光斑图和所述存储器内预存储的参考衍射离散光斑图进行衍射离散光斑互相关匹配处理,以生成目标的深度信息;接着调用第一摄像机与第二摄像机的相对位置数据,进行每一帧目标深度图的深度图像与色彩图像的对齐映射插值匹配,生成每一帧目标深度-色彩图像。
11.根据权利要求10所述的使用同步获取深度及色彩信息的方法的装置,其特征在于:还包括窄带通滤波片,所述窄带通滤波片置于所述第一摄像机的镜头前。
12.根据权利要求10所述的使用同步获取深度及色彩信息的方法的装置,其特征在于:所述激光器与所述衍射光学元件构成衍射离散光斑发生器。
CN201410011420.XA 2014-01-10 2014-01-10 一种同步获取深度及色彩信息的方法及装置 Active CN103796001B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410011420.XA CN103796001B (zh) 2014-01-10 2014-01-10 一种同步获取深度及色彩信息的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410011420.XA CN103796001B (zh) 2014-01-10 2014-01-10 一种同步获取深度及色彩信息的方法及装置

Publications (2)

Publication Number Publication Date
CN103796001A CN103796001A (zh) 2014-05-14
CN103796001B true CN103796001B (zh) 2015-07-29

Family

ID=50671226

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410011420.XA Active CN103796001B (zh) 2014-01-10 2014-01-10 一种同步获取深度及色彩信息的方法及装置

Country Status (1)

Country Link
CN (1) CN103796001B (zh)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105306922B (zh) * 2014-07-14 2017-09-29 联想(北京)有限公司 一种深度相机参考图的获取方法和装置
CN105389774B (zh) * 2014-09-05 2019-03-01 华为技术有限公司 对齐图像的方法和装置
JP6646361B2 (ja) 2015-04-27 2020-02-14 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
CN104918034A (zh) * 2015-05-29 2015-09-16 深圳奥比中光科技有限公司 一种3d图像捕获装置、捕获方法及3d图像系统
TWI636231B (zh) * 2016-06-27 2018-09-21 國立臺灣大學 物體表面或內部光反射介面三維形貌偵測光學系統與方法
CN106548489B (zh) * 2016-09-20 2019-05-10 深圳奥比中光科技有限公司 一种深度图像与彩色图像的配准方法、三维图像采集装置
CN106412559B (zh) * 2016-09-21 2018-08-07 北京物语科技有限公司 全视觉摄像装置
CN106604020B (zh) * 2016-11-24 2019-05-31 深圳奥比中光科技有限公司 一种用于3d显示的专用处理器
CN106651940B (zh) * 2016-11-24 2020-09-18 深圳奥比中光科技有限公司 一种用于3d交互的专用处理器
CN112132881A (zh) * 2016-12-12 2020-12-25 华为技术有限公司 一种动态三维图像获取的方法和设备
CN108496352B (zh) * 2017-05-24 2021-02-09 深圳市大疆创新科技有限公司 拍摄方法及装置、图像处理方法及装置
CN107229262A (zh) * 2017-06-29 2017-10-03 深圳奥比中光科技有限公司 一种智能家居系统
CN107360066A (zh) * 2017-06-29 2017-11-17 深圳奥比中光科技有限公司 一种家居服务机器人及智能家居系统
CN107124604B (zh) * 2017-06-29 2019-06-04 诚迈科技(南京)股份有限公司 一种利用双摄像头实现三维图像的方法及装置
CN110312978B (zh) * 2018-01-23 2022-06-24 深圳市大疆创新科技有限公司 飞行控制方法、装置和机器可读存储介质
CN108681992B (zh) * 2018-04-23 2021-06-29 南京理工大学 用于探测器阵列法测量激光光斑的图像插值方法
CN109712177B (zh) * 2018-12-25 2021-07-09 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备和计算机可读存储介质
CN112649803B (zh) * 2020-11-30 2024-02-13 南京航空航天大学 一种基于互相关系数的摄像机与雷达目标匹配方法
CN112887605B (zh) * 2021-01-26 2022-09-30 维沃移动通信有限公司 图像防抖方法、装置及电子设备
CN112804512B (zh) * 2021-04-13 2021-06-29 深圳阜时科技有限公司 3d深度成像方法、主控装置、以及3d成像设备
CN114862658B (zh) * 2022-04-01 2023-05-05 奥比中光科技集团股份有限公司 图像处理系统、方法、智能终端及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7224384B1 (en) * 1999-09-08 2007-05-29 3Dv Systems Ltd. 3D imaging system
CN101635860A (zh) * 2008-07-25 2010-01-27 三星电子株式会社 成像方法和设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101272511B (zh) * 2007-03-19 2010-05-26 华为技术有限公司 图像深度信息和图像像素信息的获取方法及装置
KR101665567B1 (ko) * 2010-05-20 2016-10-12 삼성전자주식회사 3차원 뎁스 영상 시간 보간 방법 및 장치
US8558873B2 (en) * 2010-06-16 2013-10-15 Microsoft Corporation Use of wavefront coding to create a depth image
KR101850027B1 (ko) * 2011-12-08 2018-04-24 한국전자통신연구원 실시간 3차원 실 환경 복원장치 및 그 방법
CN103337069B (zh) * 2013-06-05 2016-06-29 余洪山 基于复合摄像机的高质量三维彩色图像获取方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7224384B1 (en) * 1999-09-08 2007-05-29 3Dv Systems Ltd. 3D imaging system
CN101635860A (zh) * 2008-07-25 2010-01-27 三星电子株式会社 成像方法和设备

Also Published As

Publication number Publication date
CN103796001A (zh) 2014-05-14

Similar Documents

Publication Publication Date Title
CN103796001B (zh) 一种同步获取深度及色彩信息的方法及装置
CN103778643A (zh) 一种实时生成目标深度信息的方法及其装置
US20220044442A1 (en) Bi-level optimization-based infrared and visible light fusion method
WO2018086348A1 (zh) 双目立体视觉系统及深度测量方法
CN104243959B (zh) 基于偏振定向和组合定位的智能复合眼镜
EP3766023A1 (en) Image-enhanced depth sensing using machine learning
CN102999910B (zh) 一种图像深度计算方法
CN107917701A (zh) 基于主动式双目立体视觉的测量方法及rgbd相机系统
CN108234984A (zh) 双目深度相机系统和深度图像生成方法
CN107560592B (zh) 一种用于光电跟踪仪联动目标的精确测距方法
CN106251403A (zh) 一种虚拟立体场景实现的方法、装置和系统
WO2018214067A1 (en) Methods and systems for processing an image
CN104776815A (zh) 一种基于达曼光栅的彩色三维轮廓测量装置与方法
CN109118581A (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN108053373A (zh) 一种基于深度学习模型鱼眼图像校正方法
CN104155765A (zh) 在拼接式集成成像显示器中校正三维图像的方法和设备
CN110889873A (zh) 一种目标定位方法、装置、电子设备及存储介质
CN107504918B (zh) 射电望远镜面形测量方法和装置
CN110264527A (zh) 基于zynq的实时双目立体视觉输出方法
CN109035307A (zh) 基于自然光双目视觉的设定区域目标追踪方法及系统
CN110276831A (zh) 三维模型的建构方法和装置、设备、计算机可读存储介质
CN106204554A (zh) 基于多聚焦图像的景深信息获取方法、系统及拍摄终端
CN108401551B (zh) 双镜头微光立体全景成像装置及其超大视场测距方法
Jia et al. Depth measurement based on a convolutional neural network and structured light
CN106323190A (zh) 可定制深度测量范围的深度测量方法及深度图像的系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant