CN109981932B - 基于结构光的深度相机及其校正方法 - Google Patents

基于结构光的深度相机及其校正方法 Download PDF

Info

Publication number
CN109981932B
CN109981932B CN201711459498.8A CN201711459498A CN109981932B CN 109981932 B CN109981932 B CN 109981932B CN 201711459498 A CN201711459498 A CN 201711459498A CN 109981932 B CN109981932 B CN 109981932B
Authority
CN
China
Prior art keywords
receiving module
lens
projection
depth camera
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201711459498.8A
Other languages
English (en)
Other versions
CN109981932A (zh
Inventor
陈振宇
陈飞帆
戎琦
徐毅杰
戚杨迪
蒋伟杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Sunny Opotech Co Ltd
Original Assignee
Ningbo Sunny Opotech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Sunny Opotech Co Ltd filed Critical Ningbo Sunny Opotech Co Ltd
Priority to CN201711459498.8A priority Critical patent/CN109981932B/zh
Publication of CN109981932A publication Critical patent/CN109981932A/zh
Application granted granted Critical
Publication of CN109981932B publication Critical patent/CN109981932B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/12Bodies with means for supporting objectives, supplementary lenses, filters, masks, or turrets
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof

Abstract

本发明提供了一种基于结构光的深度相机,包括:承载体;投射模组,适于向拍摄对象投射结构光;接收模组,所述接收模组和所述投射模组均安装于所述承载体,所述接收模组包括镜头和感光元件;以及校正组件,适于使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动。本发明还提供了相应的深度相机校正方法。本发明能够对深度相机进行校正,提高深度识别的准确性或者增大深度识别数据的置信区间,获得更好的3D识别效果。

Description

基于结构光的深度相机及其校正方法
技术领域
本发明涉及光学技术领域,具体地说,本发明涉及的一种基于结构光的深度相机及其校正方法。
背景技术
随着科技的发展,人民生活水平的不断提升,科技的日益更新带来了很多有意义的消费品。现在深度相机的技术越来越完善,很多有关深度相机的产品也已经作为消费品在市面上进行出售。一般深度相机有双目接收机,可测深度接收头(TOF)和结构光深度相机。其中结构光深度相机就已经能够运用在手机上,比如苹果的iPhone X就配备了结构光深度相机,深度相机最主要的功能就是为了提供对象的三维信息。更高的识别准确性和更大的识别数据的置信区间是现在深度相机的发展方向之一。
在结构光深度相机中,结构光深度相机中投影装置和接收装置(即拍摄装置)都承担了不同的功能,但是最终接收的图像的质量好坏却是影响最终识别结果的准确性的关键。结构光投影装置进行投影时,常常出现这些光学特征信息投影给不同的物体,不同形状的物体或者不同环境等影响投影效果的条件而出现不同程度的信息的缺失,失真以及误差等现象。因此投影质量的好坏直接会对接收模组接收的图像信息造成不同程度的干扰,例如阴影上的误差和失真上的误差(失真误差也可称为畸变误差),这些误差都影响着最终识别的准确性。
在投影装置进行投影时,如果投影在物体上的光学信息超过了接收装置的景深(景深指的是成像清晰的范围),那么接收到的图像会有不清晰,模糊等现象,也会导致投影装置投影给对象的光学信息在识别判断阶段出现误差大等影响,从而影响识别的精度。
另一方面,结构光接收装置可由特别的手机模组执行接收图像的功能。如果实际接收的图像模糊,甚至是出现重影,则可能导致实拍图像中的光学特征信息被干扰,从而造成最终识别结果偏离预期。
再者,由于结构光接收装置在组装时,存在设计误差、制造误差、组装误差等一系列误差,引起了结构光接收装置与设计理论值存在很大差异,从而导致结构光接收装置接收效果变差。
因此,当前迫切能够克服上述缺陷的解决方案。
发明内容
本发明旨在提供一种能够克服现有技术的上述至少一个缺陷的解决方案。
根据本发明的一个方面,提供了一种基于结构光的深度相机,其特征在于,包括:承载体;投射模组,适于向拍摄对象投射结构光;接收模组,所述接收模组和所述投射模组均安装于所述承载体,所述接收模组包括镜头和感光元件;以及校正组件,适于使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动。
其中,所述投射模组与接收模组具有预定的空间位置。
其中,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,使得所述深度相机对于不同距离的拍摄对象的投射接收夹角保持稳定,所述投射接收夹角是投射模组的光出射面到拍摄对象的连线与拍摄对象到接收模组的光入射面的连线之间的夹角。其中,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,使得所述深度相机对于不同距离的拍摄对象的投射接收夹角保持稳定。
其中,所述承载体为一体式基板,所述投射模组、所述镜头和所述感光元件安装于所述一体式基板的表面。
其中,所述承载体为具有第一容置孔和第二容置孔的支架,所述投射模组和所述接收模组分别承靠于所述第一容置孔和所述第二容置孔的内侧面。其中,所述投射模组和所述接收模组分别安装于两个基板上。
其中,所述承载体为所述深度相机的外壳。
其中,所述校正组件适于调整所述镜头的光轴相对于所述承载体的倾斜角。
其中,所述校正组件适于使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移。
其中,所述平移包括垂直于所述镜头的光轴方向上的平移。
其中,所述平移包括沿着所述镜头的光轴方向上的平移。
其中,所述深度相机还包括图像数据处理元件,所述图像数据处理元件适于根据所述接收模组拍摄的图像中的投影光学特征信息、以及所述投射模组向拍摄对象投射的结构光的投影光学特征信息,向所述校正组件提供驱动信号。
其中,所述深度相机还包括图像数据处理元件,所述图像处理元件适于根据所述接收模组拍摄图像中的投影光学特征信息的清晰程度,向所述校正组件提供驱动信号。
其中,所述驱动信号适于使所述投射模组的投射光线与所述接收模组的接收光线的夹角保持稳定。所述驱动信号还能使得光学特征信息在成像时保持清晰的状态。
其中,所述投射模组具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域,所述接收模组具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域和所述第二立体区域交叠。
其中,所述校正组件适于通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。
其中,所述校正组件还适于在快门时间内使所述镜头相对于所述拍摄对象保持稳定。
其中,所述驱动信号为电信号。
其中,所述校正组件包括音圈致动器(音圈致动器包括线圈和磁石)。
其中,所述校正组件包括微机电系统(MEMS,Micro-Electro-MechanicalSystem),所述镜头是与所述微机电系统耦合的调焦液体镜头。
其中,所述校正组件包括压电致动器,所述压电致动器包括设置在所述镜头的至少一个镜片中的压电材料。
其中,所述校正组件包括气动或者液动致动装置。
根据本发明的另一方面,还提供了一种前述结构光的深度相机的校正方法,包括:
投射模组向拍摄对象投射携带投影光学特征信息的结构光;
接收模组拍摄含有拍摄对象的图像;以及
根据所述接收模组所拍摄的投影光学特征信息与所述投射模组所投射的原始投影光学特征信息驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动。
其中,在驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动的步骤中,还包括:
通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来调整所述投射模组的投射光线与所述接收模组的接收光线的夹角。
其中,所述投射模组具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域,所述接收模组具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域;
在驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动的步骤中,还包括:
通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域和所述第二立体区域交叠。
其中,通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。
与现有技术相比,本发明具有下列至少一个技术效果:
1、本发明能够通过调整所述投射模组至拍摄对象连线与所述接收模组至拍摄对象连线的夹角,来对深度相机进行校正。
2、本发明能够提高深度识别的准确性或者增大深度识别数据的置信区间。
3、本发明能够通过使投射端和拍摄端各自的清晰成像区域相交叠,来获得更好的3D识别效果。
4、本发明能够通过使实际拍摄的投影光学特征信息更加清晰来更准确地还原深度信息,获得更好的3D识别效果。
5、本发明能够通过进一步加入防抖功能来帮助深度相机提升3D识别准确性。
附图说明
在参考附图中示出示例性实施例。本文中公开的实施例和附图应被视作说明性的,而非限制性的。
图1示出了本发明一个实施例的基于结构光的深度相机的示意图;
图2示出了第一立体区域和第二立体区域不重叠的一个示例;
图3示出了调整接收模组使得第一立体区域和第二立体区域重叠并使拍摄对象进入交叠区的一个示例;
图4示出了调整接收模组使得第一立体区域和第二立体区域重叠并使拍摄对象进入交叠区的另一个示例;
图5示出了拍摄对象未处于接收模组视场中心区域的一个示例;
图6示出了接收模组经调整后使拍摄对象处于接收模组视场中心区域的一个示例。
具体实施方式
为了更好地理解本申请,将参考附图对本申请的各个方面做出更详细的说明。应理解,这些详细说明只是对本申请的示例性实施方式的描述,而非以任何方式限制本申请的范围。在说明书全文中,相同的附图标号指代相同的元件。表述“和/或”包括相关联的所列项目中的一个或多个的任何和全部组合。
应注意,在本说明书中,第一、第二等的表述仅用于将一个特征与另一个特征区分开来,而不表示对特征的任何限制。因此,在不背离本申请的教导的情况下,下文中讨论的第一主体也可被称作第二主体。
在附图中,为了便于说明,已稍微夸大了物体的厚度、尺寸和形状。附图仅为示例而并非严格按比例绘制。
还应理解的是,用语“包括”、“包括有”、“具有”、“包含”和/或“包含有”,当在本说明书中使用时表示存在所陈述的特征、整体、步骤、操作、元件和/或部件,但不排除存在或附加有一个或多个其它特征、整体、步骤、操作、元件、部件和/或它们的组合。此外,当诸如“...中的至少一个”的表述出现在所列特征的列表之后时,修饰整个所列特征,而不是修饰列表中的单独元件。此外,当描述本申请的实施方式时,使用“可以”表示“本申请的一个或多个实施方式”。并且,用语“示例性的”旨在指代示例或举例说明。
如在本文中使用的,用语“基本上”、“大约”以及类似的用语用作表近似的用语,而不用作表程度的用语,并且旨在说明将由本领域普通技术人员认识到的、测量值或计算值中的固有偏差。
除非另外限定,否则本文中使用的所有用语(包括技术用语和科学用语)均具有与本申请所属领域普通技术人员的通常理解相同的含义。还应理解的是,用语(例如在常用词典中定义的用语)应被解释为具有与它们在相关技术的上下文中的含义一致的含义,并且将不被以理想化或过度正式意义解释,除非本文中明确如此限定。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了本发明一个实施例的基于结构光的深度相机的示意图。该深度相机包括承载体300、投射模组100、接收模组200和校正组件。接收模组200和投射模组100均制作于承载体300上,该承载体300具有足够的结构强度,从而为投射模组100和接收模组200提供稳固的基准面。接收模组200包括镜头202和感光元件201。校正组件适于使所述镜头202相对于所述承载体300移动。投射模组100适于向拍摄对象投射结构光。在一个例子中,在投射模组100端,对投射光源进行了编码或者说是特征化形成结构光(包括点、线或者面等形状)。接收模组200所拍摄到的是被编码的光源投影到物体上被拍摄对象表面的深度调制过的图像,因为结构光光源带有很多特征点或者编码,因此提供了很多的匹配角点或者直接的码字,从而便于进行特征点的匹配。基于投射光源所投射出去的已知图像的特征点以及与其匹配的实际拍摄图像中的被拍摄对象表面的深度调制过的特征点(例如可以基于投射光源所投射出去的已知图像的特征点以及与其匹配的实际拍摄图像中的被拍摄对象表面的深度调制过的特征点两者之间的偏差值),即可还原出被拍摄对象表面的深度信息,从而获得3D图像。
结构光测量中为了获取物体的三维信息,一般都会使用三角测量原理来获取深度信息,其基本原理就是在根据拍摄对象表面上的光学特征信息、投影模组、成像模组之间的几何关系,来确定物体的三维信息。具体来说,预设一个投射模组的光出射面到拍摄对象的连线与拍摄对象到接收模组的光入射面的连线之间的夹角。为便于描述,本文中将该夹角称为投射接收夹角。其中,接收模组的光入射面可以定义为接收模组最前端镜片的入射面。投射模组的光出射面可以定义为投射模组最前端光学元件(芯片端为后端)的出光面。拍摄对象到接收模组的光入射面的连线可以定义为拍摄对象的基准点到入射面中心点的连线。投射模组的光出射面到拍摄对象的连线可以定义为出射面中心点到拍摄对象的基准点的连线。拍摄对象的基准点可以是拍摄对象表面的几何中心,也可以根据需要设定为拍摄对象表面的其它点。
在建立合适的坐标系把拍摄对象、投影模组、成像模组之间由该投射入射夹角建立联系后,即可由一定基于结构光的深度信息算法得出拍摄对象的深度信息。现有技术中,基于结构光的深度相机通常将投射模组的光轴(例如可以理解为光出射面的法线)和接收模组的光轴(例如可以理解为光入射面的法线)设置成倾斜,使得二者成一定夹角,对应的基于结构光的深度信息算法则假定实际拍摄对象位于投射模组的光轴和接收模组的光轴的交叉点进行计算,进而获得拍摄对象的深度信息。然而,在实际拍摄时,拍摄对象相对于深度相机的距离可能会发生改变。当拍摄对象所处位置距离投射模组的光轴和接收模组的光轴的交叉点较远时,以预设夹角计算深度信息的算法的识别准确率将下降。因此,将接收模组配置为可活动的状态,利用校正组件来调节接收模组的相对位置,将有助于使所述深度相机对于不同距离的拍摄对象的投射接收夹角保持稳定,进而使实际拍摄时的投射接收夹角与算法预设的夹角匹配,从而保证不同位置下的拍摄对象均可获得较佳的深度信息的识别精度。在允许的范围内,较大的投射接收夹角,有助于提高深度信息的识别精度。
另外在一些深度相机中还配备了RGB模组,其中所述RGB模组一般与投射模组和成像模组被安装固定在所述承载体上并处在同一个深度相机平面上。该RGB模组可以起到为深度图像像素点补充色彩的效果。配置RGB模组在某些情况下是有益的,在配合软件使用时,RGB模组能够丰富由深度信息中所建立三维模型色彩的作用。在本发明的一个实施例中,所述接收模组可以是成像模组。在本发明的另一个实施例中,所述接收模组可以是RGB模组。在本发明的另一个实施例中,所述接收模组包括成像模组和RGB模组,也就是说,深度相机可以具有两个接收模组,其中一个为成像模组,另一个为RGB模组。
在一个实施例中,承载体300为一体式基板,该一体式基板的上表面具有对应于投射模组100的第一区域和对应于接收模组200的第二区域。校正组件采用音圈马达实现。所述音圈马达包括线圈和磁石。音圈马达还包括一筒状支撑体。该筒状支撑体和感光元件201均安装于一体式基板的第二区域,且筒状支撑体围绕在感光元件201的周围。所述线圈和所述磁石可以设置在该接收模组的不同位置。这样,通过调整音圈马达的线圈的电流,可使镜头202相对于一体式基板移动。这种移动可以是调整所述镜头202的光轴相对于所述承载体300的倾斜角的移动,也可以是使所述镜头202相对于所述承载体300平移。平移可以包括垂直于所述镜头202的光轴方向上的平移,还可以包括沿着所述镜头202的光轴方向上的平移,也可以是沿着倾斜所述镜头202的光轴方向上的移动,换一句话说,所述平移包括在X、Y和Z方向所组成的空间坐标系上的移动。校正组件通过上述移动可以调整所述投射接收夹角,从而对深度相机起到校正作用。本领域的技术人员应该知道,例如将所述校正组件可以是OIS平移式光学防抖马达(Pure Shift)、OIS移轴式光学防抖马达(Tilt Shift)来实现垂直光轴方向和倾斜光轴平面的移动。当然所述校正组件也可以是以下结构中的一种或多种:弹片式马达、滚珠式马达或者摩擦式马达。本领域的技术人员应该知道在本发明的核心精神下,所述校正组件优选方案并不对本发明构成限制。
值得一提的是,在本实施例中校正组件调整镜头移动的方式,可以起到调整接收模组的景深范围,接收模组不同的景深范围对应不同的本发明的深度相机的工作范围,从而实现对近距离的手势识别至远距离的物体或者姿态识别的过程的切换。
在一个例子中,深度相机基于一定的算法从实际拍摄图像的投影光学特征信息(例如投射光源的编码信息)还原出被拍摄对象表面的深度信息。在一些算法中,为计算深度信息,假定投射模组100所投射的结构光与接收模组200所接收的反射光(经拍摄对象表面反射的反射光)具有固定的夹角。然而,由于拍摄对象的远近、拍摄对象本身的形状和尺寸以及拍摄对象所处的环境均可能造成投射光和反射光的夹角发生变化。投射接收夹角出现偏差导致实际拍摄时的投射接收夹角与深度计算算法所假定的投射接收夹角不一致,进而可能造成深度识别准确性下降或者深度识别数据的置信区间缩小。而基于上述实施例,可以通过校正组件来使镜头202相对于承载体300在各个方向上移动,使得对于不同远近、不同形状和尺寸以及不同所处环境的拍摄对象,投射接收夹角均可保持稳定,进而提高深度识别的准确性或者增大深度识别数据的置信区间。
值得一提的是,在本实施例中,通过调整镜头202至不同位置,可以实现对接收到的图像中的深度信息的补充,从而可以实现合成高范围、高精度、高分辨率的深度信息。当然另外一方面,通过不同方向对于检测对象的拍摄,可以起到解决因为接收模组的固定化拍摄而造成的检测对象细节缺失的空洞效应。
在一个实施例中,投射模组100包括激光发射器101(vcsel)、准直透镜102以及衍射光学元件103(DOE)。该激光发射器发出光,然后再通过准直透镜102进行准直,再通过衍射光学元件103投射出去。
进一步地,在一个实施例中,所述深度相机还包括图像数据处理元件,所述图像数据处理元件适于根据所述接收模组200拍摄的图像中的投影光学特征信息、以及所述投射模组100向拍摄对象投射的结构光的投影光学特征信息,向所述校正组件提供驱动信号(该驱动信号可以是电信号)。所述驱动信号适于使所述投射模组100的投射光线与所述接收模组200的接收光线的夹角保持稳定。在一个实施例中,可以根据前后多次的成像偏移值输出驱动信号。其中一体式基板可包括线路板,图像数据处理元件可以埋设在一体式基板中,也可以采用独立的元件并通过一体式基板与校正组件的致动部件实现电连接。另外图像处理元件设置在移动终端内也是不错的选择,利用移动终端的计算芯片实现驱动信号的输出。
在一个实施例中,所述承载体300为具有第一容置孔和第二容置孔的支架,所述投射模组100和所述接收模组200分别承靠于所述第一容置孔和所述第二容置孔的内侧面。本实施例中,所述校正组件通过使整个接收模组200相对于所述支架移动,来调整所述投射模组100的投射光线与所述接收模组200的接收光线的夹角,从而对深度相机起到校正作用。所述移动可以是调整所述镜头202的光轴相对于所述承载体300的倾斜角的移动(即倾斜运动),也可以是使所述镜头202或感光元件201或使整个所述接收模组200相对于所述承载体300平移。平移可以包括垂直于所述镜头202的光轴方向上的平移,还可以包括沿着所述镜头202的光轴方向上的平移。
本实施例中,通过调整整个接收模组200的方式来调整投射接收夹角。这种调整方式没有改变接收模组200的内部组件的相对位置,保持了整个接收模组200的各个参数的稳定,例如光学畸变参数,景深范围。本实施例中,只针对接收模组200与投影模组100的相对位置例如夹角进行变化,通过只调整该接收模组200的光轴与该投影模组100的投射面的夹角可以实现对于接收模组200的拍摄对象的细节的补充或者是通过调整更大的夹角实现更大的识别精度。
在另一个实施例中,所述承载体300还可以是深度相机的外壳或者其它的实现形式,只要能够为投射模组100和接收模组200提供基准面,校正组件可使所述镜头202或感光元件201或使整个所述接收模组200相对于所述承载体300移动即可。
在另一个实施例中,所述校正组件驱动接收模组200的感光芯片发生移动,该种方式的移动是有益的,通过将感光芯片的位置发生移动的方式可以使感光芯片的中心与拍摄图像中的光学特征信息的中央区域保持一致。通过这种方式拍摄所得图像的光学特征信息可保持在图像的中心区域,因而可以实现更好的识别精度。
在一个实施例中,在校正组件驱动感光芯片移动的方式中,将感光芯片优选为一曲面感光芯片是有益的,曲面感光芯片可以减少因为感光芯片相对于镜头的移动发生的光学成像上的畸变(例如像差、球差等)。光学成像上的畸变可能使拍摄所得光学特征信息在成像过程中发生变形,例如光斑本身之间的距离在成像时因为场曲而发生变化,因此导致识别出现的误差。
进一步地,在另一个实施例中,所述投射模组100具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域110,所述接收模组200具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域210,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域110和所述第二立体区域210交叠。所述第一立体区域110和所述第二立体区域210的交叠区域为接收模组的3D识别有效区域。
图2~4示出了几种不同情形下的投射模组、接收模组、第一立体区域、第二立体区域以及拍摄对象的位置关系。参考图2~4,第一立体区域是投射模组对应的物面和景深范围形成的立体清晰区域,类似地,第二立体区域是接收模组对应的物面和景深范围形成的立体清晰区域,投射和拍摄两者清晰区域的重叠区域形成3D识别有效区域。当拍摄对象500处于所述重叠区域内时,就能够获得更好的3D识别效果。另外,所述校正组件驱动所述接收模组发生平移时(上面提到的X,Y和Z空间坐标系)时,能够尽可能使拍摄对象靠近镜头中心区域。
然而,在实际拍摄时,拍摄对象500并不总是处于投射和拍摄两者清晰区域的重叠区域内,甚至投射和拍摄两者清晰区域(即第一立体区域和第二立体区域)并不总是重叠的。例如,图2示出了第一立体区域和第二立体区域不重叠的一个示例。而通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,可以使所述第一立体区域110和所述第二立体区域210交叠,从而获得更好的3D识别效果。图3示出了调整接收模组使得第一立体区域和第二立体区域重叠并使拍摄对象进入交叠区的一个示例。图4示出了调整接收模组使得第一立体区域和第二立体区域重叠并使拍摄对象进入交叠区的另一个示例。
另一方面,拍摄对象处于3D识别有效区域的边缘时,为了让拍摄对象更接近接收模组成像效果更好的中心区域,所述校正组件通过使所述镜头、所述感光元件或整个接收模组相对于所述空间坐标系发生移动,在本实施例中,所述移动包括所述感光面沿着光轴方向的平移和所述感光面相对于光轴方向的倾斜。从而使得所述拍摄对象在所述接收模组中成像效果更加好。
在一个实施例中,在深度相机中接收模组的光轴与投射模组的投射面预设成一夹角α,通过所述夹角α建立起所述接收模组的感光面与所述投射模组的投射面的空间坐标系,再通过该夹角α代入深度计算以得出拍摄对象的深度信息。
值得一提的是,所述接收装置的所述感光元件的感光平面为弧形平面,这在某些情况下是有益的,在围绕接收模组光焦点的平面旋转过程过,所述拍摄对象在接收装置的光学系统所成的像不在一个焦平面上,有一定的偏离。这是因为在光学系统中非近轴光线追迹所得的结果和近轴光线追迹所得的结果不一致导致的结果,因此造成了像差、彗差等误差出现。选择弧形感光面的感光元件能够消除像差等干扰。
另外一方面,在深度相机中接收模组的光轴与投射模组的投射面预设成一夹角α,通过所述夹角α建立起所述接收模组的感光面与所述投射模组的投射面的空间坐标系,再通过各项参数例如夹角α代入计算深度计算以得出拍摄对象的深度信息。
在一个实施例中,所述校正组件还适于通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。由于感光元件的中心区域通常具有更好的成像品质例如光心区域的光照强度最好,因此本实施例能够使实际拍摄的投影光学特征信息更加清晰,从而更准确地还原深度信息,获得更好的3D识别效果。例如,图5示出了拍摄对象未处于接收模组视场中心区域的一个示例。在该示例中,成像区域未处于所述感光元件的中心。图6示出了接收模组经调整后使拍摄对象处于接收模组视场中心区域的一个示例。经调整后,成像区域处于感光元件的中心区域,从而使成像更加清晰,进而获得更好的3D识别效果。需注意,使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,也可以同时调整深度相机的投射接收夹角(在一些例子中,更大的夹角可以获得更好的3D效果)以及反射光线的映射点。
在前述实施例中,所述校正组件基于线圈和磁石的电磁作用实现。本发明并不限于此。例如,本发明另一个实施例中,所述校正组件包括微机电系统(MEMS,Micro-Electro-Mechanical System),并且所述镜头是与所述微机电系统耦合的调焦液体镜头。调焦液体镜头内含导电液体,通过使导电液体变形可以使镜头移动。本实施例中,通过电信号可驱动调焦液体镜头移动,例如使调焦液体镜头相对于承载体平移或改变调焦液体镜头光轴相对于承载体的朝向,使得对于不同远近、不同形状和尺寸以及不同所处环境的拍摄对象,所述投射模组的投射光线与所述接收模组的接收光线的夹角均保持稳定,进而提高深度识别的准确性或者增大深度识别数据的置信区间。在另一个实施例中,所述校正组件包括压电聚合物,所述压电聚合物设置在所述镜头的至少一个镜片中。该压电聚合物被电信号所驱动发生形变,促使镜头相对于承载体平移或改变镜头光轴相对于承载体的朝向,使得对于不同远近、不同形状和尺寸以及不同所处环境的拍摄对象,所述投射模组的投射光线与所述接收模组的接收光线的夹角均保持稳定,进而提高深度识别的准确性或者增大深度识别数据的置信区间。例如OIS平移式光学防抖马达(Pure Shift)、OIS移轴式光学防抖马达(TiltShift)等装置都可以作为所述校正组件的优选方式。本领域的技术人员应该知道,所述校正组件可由不同的装置实现移动,所举例的方式并不对本发明造成限制。
进一步地,在一个实施例中,所述校正组件还可以具有防抖功能。该防抖功能是指在快门时间内防止镜头发生抖动,换句话说,在快门时间内使镜头相对于拍摄对象保持稳定。该防抖功能可利用校正组件的运动机制(例如电磁作用机制、调焦液体作用机制或压电作用机制)实现。但需要注意,前文中所说的针对深度相机的校正(例如使所述投射模组的投射光线与所述接收模组的接收光线的夹角保持稳定的校正)并不是在快门时间内所做的校正,与防抖功能属于不同的范畴。当然,镜头抖动可能造成实拍图像中的投影光学特征信息出现重影问题,导致深度信息还原不准确或还原失败。因此,校正组件进一步加入防抖功能,能够帮助深度相机提升3D识别准确性。
值得一提的是,所述接收装置为了获取更大的进光量以接收更多的信息,因此所述接收装置优选在经过较长的快门时间后完成曝光,在这种情况下,所述校正组件是有益的,因为在较长的快门时间内发生的抖动比较容易造成接收模组所成像的抖动和模糊,所述校正装置能够减少所述接收装置在快门时间内的抖动造成的成像模糊、重影等现象。
另外,在一个实施例中所述深度相机由一投射模组和多个接收模组模组组成,其中所述接收模组的光轴与所述投射模组的投影平面成独立的角度。每个接收模组对于拍摄对象的不同角度下的深度信息可以互相补充。也就是说在每个接收模组计算所得的深度图像的信息可以互相叠加。所述叠加指的是,将每一幅深度图像的像素值进行叠加,例如对亚像素进行填充,以提高叠加之后的深度图像的分辨率和精度。该种方式也可以解决深度相机中的接收模组的空洞效应。
进一步地,本发明还提供了一种基于结构光的深度相机的校正方法,包括:
步骤1:投射模组向拍摄对象投射携带投影光学特征信息的结构光;
步骤2:接收模组拍摄含有拍摄对象的图像;以及
步骤3:根据所述接收模组所拍摄的投影光学特征信息与所述投射模组所投射的原始投影光学特征信息驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动。
在一个实施例中,所述步骤3还包括:通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来调整所述投射模组的投射光线与所述接收模组的接收光线的夹角。
在一个实施例中,所述投射模组具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域,所述接收模组具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域;所述步骤3还包括:通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域和所述第二立体区域交叠。在一个实施例中,所述步骤3还包括:通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。
本发明还提供了还提供了一种深度相机中接收模组与投影模组相对夹角的标定方法,包括:
步骤1:投射模组向拍摄对象投射携带投影光学特征信息的结构光;
步骤2:接收模组调整至不同的角度并拍摄含有拍摄对象的图像;
步骤3:根据不同的角度下含有拍摄对象上的光学特征信息的图像进行深度信息的识别;以及
步骤4:对于不同角度下的识别的深度信息与标定参数进行对比选择一个识别参数,并确定识别参数。
以上描述仅为本申请的较佳实施方式以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离所述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (19)

1.一种基于结构光的深度相机,其特征在于,包括:
承载体;
投射模组,适于向拍摄对象投射结构光;
接收模组,所述接收模组和所述投射模组均安装于所述承载体,所述接收模组包括镜头和感光元件;以及
校正组件,适于使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,
其中,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,使得所述深度相机对于不同距离的拍摄对象的投射接收夹角保持稳定,所述投射接收夹角是投射模组的光出射面到拍摄对象的连线与拍摄对象到接收模组的光入射面的连线之间的夹角。
2.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述承载体为一体式基板,所述投射模组、所述镜头和所述感光元件安装于所述一体式基板的表面。
3.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述承载体为具有第一容置孔和第二容置孔的支架,所述投射模组和所述接收模组分别承靠于所述第一容置孔和所述第二容置孔的内侧面。
4.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述承载体为所述深度相机的外壳。
5.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述校正组件适于调整所述镜头的光轴相对于所述承载体的倾斜角。
6.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述校正组件适于使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移。
7.根据权利要求6所述的基于结构光的深度相机,其特征在于,所述平移包括垂直于所述镜头的光轴方向上的平移。
8.根据权利要求6所述的基于结构光的深度相机,其特征在于,所述平移包括沿着所述镜头的光轴方向上的平移。
9.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述深度相机还包括图像数据处理元件,所述图像数据处理元件适于根据所述接收模组拍摄的图像中的投影光学特征信息、以及所述投射模组向拍摄对象投射的结构光的投影光学特征信息,向所述校正组件提供驱动信号。
10.根据权利要求9所述的基于结构光的深度相机,其特征在于,所述驱动信号适于使得所述深度相机对于不同距离的拍摄对象的投射接收夹角保持稳定,所述保持稳定是使实际拍摄时的所述投射接收夹角与预设的所述投射接收夹角的偏差小于阈值。
11.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述投射模组具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域,所述接收模组具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域,所述校正组件适于通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域和所述第二立体区域交叠。
12.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述校正组件适于通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。
13.根据权利要求9所述的基于结构光的深度相机,其特征在于,所述校正组件还适于在快门时间内使所述镜头相对于所述拍摄对象保持稳定。
14.根据权利要求1所述的基于结构光的深度相机,其特征在于,所述校正组件包括音圈致动器;或者包括微机电系统,其中所述镜头是与所述微机电系统耦合的调焦液体镜头;或者包括压电致动器,并且所述压电致动器包括设置在所述镜头的至少一个镜片中的压电材料;或者包括气动或者液动致动装置。
15.根据权利要求5所述的基于结构光的深度相机,其特征在于,所述感光元件的感光面呈弧形。
16.一种权利要求1所述的基于结构光的深度相机的校正方法,其特征在于,包括:
投射模组向拍摄对象投射携带投影光学特征信息的结构光;
接收模组拍摄含有拍摄对象的图像;以及
根据所述接收模组所拍摄的投影光学特征信息与所述投射模组所投射的原始投影光学特征信息驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动。
17.根据权利要求16所述的基于结构光的深度相机的校正方法,其特征在于,在驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动的步骤中,还包括:
通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来调整所述投射模组的投射面与所述接收模组的光轴的夹角。
18.根据权利要求16所述的基于结构光的深度相机的校正方法,其特征在于,所述投射模组具有与其对应的由一定物面和景深范围所构成的可清晰投射的第一立体区域,所述接收模组具有与其对应的由一定物面和景深范围所构成的可清晰成像的第二立体区域;
在驱动所述校正组件,使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动的步骤中,还包括:
通过使所述镜头、所述感光元件或整个所述接收模组相对于所述承载体移动,来使所述第一立体区域和所述第二立体区域交叠。
19.根据权利要求16所述的基于结构光的深度相机的校正方法,其特征在于,通过使所述镜头或感光元件或使整个所述接收模组相对于所述承载体平移,来使拍摄对象所反射的携带投影光学特征信息的光线的成像区域更接近所述感光元件的中心。
CN201711459498.8A 2017-12-28 2017-12-28 基于结构光的深度相机及其校正方法 Active CN109981932B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711459498.8A CN109981932B (zh) 2017-12-28 2017-12-28 基于结构光的深度相机及其校正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711459498.8A CN109981932B (zh) 2017-12-28 2017-12-28 基于结构光的深度相机及其校正方法

Publications (2)

Publication Number Publication Date
CN109981932A CN109981932A (zh) 2019-07-05
CN109981932B true CN109981932B (zh) 2024-03-08

Family

ID=67074632

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711459498.8A Active CN109981932B (zh) 2017-12-28 2017-12-28 基于结构光的深度相机及其校正方法

Country Status (1)

Country Link
CN (1) CN109981932B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110445012A (zh) * 2019-08-01 2019-11-12 浙江舜宇光学有限公司 发光模块、其制备方法以及具有其的深度探测装置
CN115499560A (zh) * 2021-06-01 2022-12-20 宁波舜宇光电信息有限公司 摄像模组

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013074477A (ja) * 2011-09-28 2013-04-22 Seiko Epson Corp 携帯電子機器及び制御方法
CN105025290A (zh) * 2014-04-23 2015-11-04 宁波舜宇光电信息有限公司 一种自动调整摄像模组传感器与镜头之间倾斜的方法
CN105451012A (zh) * 2015-11-18 2016-03-30 湖南拓视觉信息技术有限公司 三维成像系统和三维成像方法
CN105987805A (zh) * 2015-02-02 2016-10-05 宁波舜宇光电信息有限公司 一种投影结构光系统的检测方法
JP2017173801A (ja) * 2016-03-16 2017-09-28 リコーイメージング株式会社 撮影装置及び画像投影装置の振れ補正装置、並びに振れ補正方法
CN107229173A (zh) * 2017-06-14 2017-10-03 深圳奥比中光科技有限公司 投影模组及其制造方法以及深度相机
CN207854012U (zh) * 2017-12-28 2018-09-11 宁波舜宇光电信息有限公司 基于结构光的深度相机

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7379193B2 (en) * 2002-02-09 2008-05-27 Lang Liu Sensing device for measuring the three-dimension shape and its measuring method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013074477A (ja) * 2011-09-28 2013-04-22 Seiko Epson Corp 携帯電子機器及び制御方法
CN105025290A (zh) * 2014-04-23 2015-11-04 宁波舜宇光电信息有限公司 一种自动调整摄像模组传感器与镜头之间倾斜的方法
CN105987805A (zh) * 2015-02-02 2016-10-05 宁波舜宇光电信息有限公司 一种投影结构光系统的检测方法
CN105451012A (zh) * 2015-11-18 2016-03-30 湖南拓视觉信息技术有限公司 三维成像系统和三维成像方法
JP2017173801A (ja) * 2016-03-16 2017-09-28 リコーイメージング株式会社 撮影装置及び画像投影装置の振れ補正装置、並びに振れ補正方法
CN107229173A (zh) * 2017-06-14 2017-10-03 深圳奥比中光科技有限公司 投影模组及其制造方法以及深度相机
CN207854012U (zh) * 2017-12-28 2018-09-11 宁波舜宇光电信息有限公司 基于结构光的深度相机

Also Published As

Publication number Publication date
CN109981932A (zh) 2019-07-05

Similar Documents

Publication Publication Date Title
US10578724B2 (en) LIDAR optics alignment systems and methods
US9791272B2 (en) Surveying device
CN110430345B (zh) 使用折射棱镜的折叠光学阵列相机
CN207854012U (zh) 基于结构光的深度相机
EP3158723B1 (en) Autofocus for folded optic array cameras
US8662676B1 (en) Automatic projector calibration
CN103988115B (zh) 光学图像稳定
US20200192206A1 (en) Structured light projector, three-dimensional camera module and terminal device
CN112840268B (zh) 相机致动器和包括相机致动器的相机模块
JP2011145115A (ja) 測距装置、測距用モジュール及びこれを用いた撮像装置
CN112740650B (zh) 摄像装置设备
CN109981932B (zh) 基于结构光的深度相机及其校正方法
CN111473747B (zh) 标定装置、标定系统、电子设备及标定方法
CN107534715B (zh) 相机生产方法和高级驾驶辅助系统
US20220014653A1 (en) Camera module
KR20140028539A (ko) 3차원 영상 생성 장치 및 방법
JP5857712B2 (ja) ステレオ画像生成装置、ステレオ画像生成方法及びステレオ画像生成用コンピュータプログラム
JP2017032280A (ja) 角度算出システム、角度算出装置、プログラム、および角度算出方法
KR20180046624A (ko) 이미지 합성용 보정데이터를 획득하는 듀얼카메라 모듈 제조방법 및 장치 그리고 이에 의해 제조된 듀얼카메라 모듈
US20240080560A1 (en) Camera actuator and camera module including same
US20220159187A1 (en) Actuator, image capturing unit and electronic device
US10841564B2 (en) Three dimensional scan system that can increase the effective scan depth
KR101882977B1 (ko) 360도 이미지를 형성할 수 있는 렌즈 모듈 및 360도 이미지 형성 어플리케이션
US11754389B2 (en) Estimation method, measurement method, and estimation apparatus
US20240118516A1 (en) Control apparatus, lens apparatus, image pickup apparatus, camera system, and control method

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant