CN114663597B - 基于归一化扩展极线几何的实时结构光重建方法及装置 - Google Patents

基于归一化扩展极线几何的实时结构光重建方法及装置 Download PDF

Info

Publication number
CN114663597B
CN114663597B CN202210354762.6A CN202210354762A CN114663597B CN 114663597 B CN114663597 B CN 114663597B CN 202210354762 A CN202210354762 A CN 202210354762A CN 114663597 B CN114663597 B CN 114663597B
Authority
CN
China
Prior art keywords
camera
normalized
projector
calculating
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210354762.6A
Other languages
English (en)
Other versions
CN114663597A (zh
Inventor
刘凯
许斌
应松霖
朱策
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan University
Original Assignee
Sichuan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan University filed Critical Sichuan University
Priority to CN202210354762.6A priority Critical patent/CN114663597B/zh
Publication of CN114663597A publication Critical patent/CN114663597A/zh
Application granted granted Critical
Publication of CN114663597B publication Critical patent/CN114663597B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Optics & Photonics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本申请提供了基于归一化扩展极线几何的实时结构光重建方法及装置,涉及三维重建技术领域,首先基于摄像机和投影仪的标定矩阵计算出摄像机和投影仪的归一化矩阵;再计算出摄像机和投影仪的归一化标定矩阵;然后分别计算摄像机和投影仪各自空间中的归一化参数;计算摄像机空间中的归一化坐标,并将其存储为两个二维查找表;利用摄像机同步抓拍投影仪的投影图案,通过获取的投影图案计算归一化相位;查询二维查找表获取目标参数,并通过目标参数计算出三维点云;最后根据计算出的三维点云对待测物体进行重构,得到待测物体的三维重建结果。基于归一化扩展极线几何进行三维重建,大大降低了计算复杂度,能够达到对待测物体可实时结构光重建的目的。

Description

基于归一化扩展极线几何的实时结构光重建方法及装置
技术领域
本申请涉及三维重建技术领域,具体而言,涉及基于归一化扩展极线几何的实时结构光重建方法及装置。
背景技术
三维重建是将三维的物体在虚拟世界中重建出来,通俗点说就是照相机的逆操作,即照相机是将现实中的物体呈现在二维图片中,而三维重建是将二维图片中的信息在三维虚拟空间中显现。
在现有技术中往往采用三维测量系统来进行被测物体的三维重建工作,其主要由相机、投影设备和计算机三部分组成。首先在计算机端进行结构光图案编码,再由投影设备将编码图案投射到待测物体表面,因物体表面的高度变化将会对投射的条纹图像产生调制,然后由相机获取被调制的条纹图案传输到计算机进行条纹处理,计算出相位的分布,最后由相位和高度的映射关系求出待测物体的表面的高度。但是,这种将二维图片中的信息在三维虚拟空间显现的逆计算,复杂度较高,处理效率低,在三维重建时存在延迟。
发明内容
有鉴于此,本申请的目的在于提供基于归一化扩展极线几何的实时结构光重建方法及装置,基于归一化扩展极线几何进行三维重建,能够降低计算复杂度,达到对待测物体可实时结构光重建的目的。
本申请实施例提供的基于归一化扩展极线几何的实时结构光重建方法,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,所述方法包括:
利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云;
根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。
在一些实施例中,所述基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云,包括:
通过标定获取所述摄像机和所述投影仪的标定矩阵;
基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵;
基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵;
分别计算所述摄像机和所述投影仪各自空间的归一化参数;
计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;
利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;
查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云。
在一些实施例中,所述基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵,包括:
对所述摄像机的标定矩阵的前三列作求逆计算,得到所述摄像机的归一化矩阵;
对所述投影仪的标定矩阵的前三列作求逆计算,得到所述投影仪的归一化矩阵。
在一些实施例中,所述基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵,包括:
将所述摄像机的标定矩阵与所述摄像机的归一化矩阵作相乘计算,得到所述摄像机归一化标定矩阵;
将所述投影仪的标定矩阵与所述投影仪的归一化矩阵作相乘计算,得到所述投影仪归一化标定矩阵。
在一些实施例中,所述利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位,包括:
所述投影仪按照设定的相移和频率投影图案;
利用所述摄像机同步抓拍所述投影图案;
基于所述摄像机抓拍的所述投影图案计算绝对相位;
基于所述绝对相位对所述投影仪空间中的每一个像素点处的相位进行归一化操作,得到归一化相位。
在一些实施例中,所述归一化参数包括归一化光学中心、归一化法线、归一化相位极点、归一化极点、归一化极线、归一化光学极点中的一种或多种。
在一些实施例中,所述摄像机和所述投影仪空间中的归一化极点一样,以及所述摄像机和所述投影仪空间中的归一化极线一样。
在一些实施例中,还提供一种实时结构光重建装置,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,所述装置包括:
获取模块,用于利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
计算模块,用于基于所述归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云;
重构模块,用于根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。
本申请所述的基于归一化扩展极线几何的实时结构光重建方法及装置,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,通过标定获取所述摄像机和所述投影仪的标定矩阵;基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵;基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵;分别计算所述摄像机和所述投影仪各自空间中的归一化参数;计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云;根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。基于归一化扩展极线几何进行三维重建,大大降低了计算复杂度,能够达到对待测物体可实时结构光重建的目的。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例所述基于归一化扩展极线几何的实时结构光重建方法的流程图;
图2示出了本申请实施例所述基于归一化扩展极线几何计算出三维点云的流程示意图;
图3示出了本申请实施例所述计算摄像机和投影仪的归一化矩阵的流程示意图;
图4示出了本申请实施例所述计算摄像机和投影仪的归一化标定矩阵的流程示意图;
图5示出了本申请实施例所述计算归一化相位的流程示意图;
图6示出了本申请实施例所述归一化扩展极线几何的示意图;
图7示出了本申请实施例中现有公式与本申请公式(10)计算三维点云时Xw,Yw,Zw的误差以及误差的欧几里得距离的示意图;
图8示出了本申请实施例中基于公式(10)与公式(12)重建的三维点云的前视图和侧视图;
图9示出了本申请实施例中采用公式(11)或公式(12)计算三维点云时Xw,Yw,Zw的误差以及误差的欧几里得距离的示意图;
图10示出了本申请实施例所述实时结构光重建的结构示意图;
图11示出了本申请实施例所述电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应该理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。
另外,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中将会用到术语“包括”,用于指出其后所声明的特征的存在,但并不排除增加其它的特征。
近年来基于结构光的三维重建技术在逆向工程、机器人导航、工业产品检测等领域都有着非常广泛的应用。目前结构光三维重建过程中,投影仪或光源向场景中投影一系列条纹图,继而相机拍摄经过场景表面反射和调制后的条纹图,通过条纹分析技术对获取的条纹图进行处理,得到条纹的相位,继而根据三角测量原理以及已知的系统参数,将条纹相位转化为三维重建结果。一般的,采用最小二乘法或者公共垂线的中点计算三维点云,进而完成对待测物体的三维重构。但是采用最小二乘法或者公共垂线的中点计算三维点云的方式,计算复杂度较高,导致三维重建效率降低,基于此,本申请提供基于归一化扩展极线几何的实时结构光重建方法、装置、电子设备及存储介质,基于归一化扩展极线几何进行三维重建,能够降低计算复杂度,达到对待测物体可实时结构光重建的目的。
参见说明书附图1,本申请提供的基于归一化扩展极线几何的实时结构光重建方法,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,所述方法包括以下步骤:
S1、利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
S2、基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云;
S3、根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。
其中,步骤S1和步骤S3应为本领域技术人员,所熟知的技术手段,在此不做赘述。在步骤S2中,具体的参见说明书附图2,所述基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云,包括以下步骤:
S201、通过标定获取所述摄像机和所述投影仪的标定矩阵;
S202、基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵;
S203、基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵;
S204、分别计算所述摄像机和所述投影仪空间中的归一化参数;
S205、计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;
S206、利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;
S207、查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云。
在一实施例中,在步骤S201中,通过标定获取所述摄像机和所述投影仪的3×4标定矩阵,分别为:
Figure BDA0003581942500000071
Figure BDA0003581942500000072
在步骤S202中,参见说明书附图3,所述基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵,包括以下步骤:
S2021、对所述摄像机的标定矩阵的前三列作求逆计算,得到所述摄像机的归一化矩阵;
S2022、对所述投影仪的标定矩阵的前三列作求逆计算,得到所述投影仪的归一化矩阵。
其中,通过对摄像机标定矩阵Mc和投影仪标定矩阵Mp的前三列分别求逆,即
Figure BDA0003581942500000081
其中i∈[1,3],k∈[1,3],可以得到两个归一化矩阵Vc和Vp
Figure BDA0003581942500000082
Figure BDA0003581942500000083
在步骤S203中,参见说明书附图4,所述基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵,包括以下步骤:
S2031、将所述摄像机的标定矩阵与所述摄像机的归一化矩阵作相乘计算,得到所述摄像机归一化标定矩阵;
S2032、将所述投影仪的标定矩阵与所述投影仪的归一化矩阵作相乘计算,得到所述投影仪归一化标定矩阵。
具体的,将摄像机的归一化矩阵Vc和投影仪的归一化矩阵Vp分别与其原始标定矩阵相乘,即对两个原始标定矩阵分别进行归一化变换,得到摄像机归一化标定矩阵与投影仪归一化标定矩阵:
Figure BDA0003581942500000091
Figure BDA0003581942500000092
在步骤S204中,所述归一化参数包括归一化光学中心、归一化法线、归一化相位极点、归一化极点、归一化极线、归一化光学极点中的一种或多种。具体的,空间中的三维点以齐次的形式透视映射到摄像机和投影仪二维空间,表示如下:
Figure BDA0003581942500000093
其中sc和sp是非零标量,(xc,yc)和(xp,yp)分别是摄像机空间和投影仪空间中的二维坐标,Mc和Mp分别是包含元素
Figure BDA0003581942500000094
和/>
Figure BDA0003581942500000095
的3×4摄像机标定矩阵和投影仪标定矩阵,(Xw,Yw,Zw)是三维世界坐标,(·)T代表矩阵转置操作。
通过对摄像机标定矩阵和投影仪标定矩阵Mc和Mp的前三列求逆,即
Figure BDA0003581942500000096
其中i∈[1,3],k∈[1,3],使用摄像机的归一化矩阵和投影仪的归一化矩阵Vc和Vp对公式(1)归一化变换,得到:
Figure BDA0003581942500000097
其中:
Figure BDA0003581942500000101
其中
Figure BDA0003581942500000102
与/>
Figure BDA0003581942500000103
代表(xc,yc)与(xp,yp)的归一化形式,/>
Figure BDA0003581942500000104
与/>
Figure BDA0003581942500000105
代表Mc与Mp的归一化形式,I代表3×3的单位矩阵,/>
Figure BDA0003581942500000106
与/>
Figure BDA0003581942500000107
分别代表摄像机和投影仪的归一化光学中心。
对Mc和Mp进行扩展极线几何处理,将摄像机和投影仪空间中的法线归一化处理,变换为如下:
Figure BDA0003581942500000108
对相位极点归一化,变化为如下:
Figure BDA0003581942500000109
式中
Figure BDA00035819425000001010
代表摄像机视野在投影仪空间中的归一化相位极点,/>
Figure BDA00035819425000001011
代表投影仪视野在摄像机空间中的归一化相位极点,我们在摄像机和投影仪空间中看到的极点是一样的,如下:
Figure BDA00035819425000001012
其中:
Figure BDA00035819425000001013
将与摄像机和投影仪空间相关的上标'c','p'移除掉,如说明书附图6所示,在摄像机和投影仪空间中的极线也一样,如下:
Figure BDA0003581942500000111
其中:
Figure BDA0003581942500000112
摄像机和投影仪空间中光心极点被归一化为:
Figure BDA0003581942500000113
其中
Figure BDA0003581942500000114
是两个常数,即/>
Figure BDA0003581942500000115
(在投影仪的主平面上)和
Figure BDA0003581942500000116
(在摄像机的主平面上)的平面都平行于世界坐标的Z平面,并且归一化的摄像机与投影仪都平行于Z平面。
从公式(3)(4)(5)(6)(7),我们可以清楚地看到归一化标定矩阵上的对称极线特征。三角形
Figure BDA0003581942500000117
与三角形/>
Figure BDA0003581942500000118
是全等的。三角形/>
Figure BDA0003581942500000119
与三角形
Figure BDA00035819425000001110
是全等的。
在步骤S206中,参见说明书附图5,所述利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位,包括以下步骤:
S2061、所述投影仪按照设定的相移和频率投影图案;
S2062、利用所述摄像机同步抓拍所述投影图案;
S2063、基于所述摄像机抓拍的所述投影图案计算绝对相位;
S2064、基于所述绝对相位对所述投影仪空间中的每一个像素点处的相位进行归一化操作,得到归一化相位。
在该实施例中,投影仪以相移N和最高频率f投影图案,并使用摄像机同步抓拍,通过抓拍获取的图像
Figure BDA0003581942500000121
计算相位并计算包裹相位:
Figure BDA0003581942500000122
进而进行解包裹获取绝对相位:
Figure BDA0003581942500000123
获取到绝对相位后,使用如下公式对投影仪空间中的每一个像素点处的相位进行归一化操作,得到归一化相位:
Figure BDA0003581942500000124
进一步的,根据根据归一化极线参数,我们得到了分别从摄像机视野和投影仪视野计算点云的新方程,如下所示:
Figure BDA0003581942500000125
其中:
Figure BDA0003581942500000126
其中,
Figure BDA0003581942500000127
和/>
Figure BDA0003581942500000128
分别是参数为/>
Figure BDA0003581942500000129
的摄像机视野和参数为
Figure BDA00035819425000001210
的投影仪视野中的三维坐标,并且有/>
Figure BDA00035819425000001211
然后将基础闭环公式更新为:
Figure BDA00035819425000001212
式中(Xw,Yw,Zw)是摄像机和投影仪视野中的同一个三维世界坐标,对现有的权重系数α和β进行归一化后,它们的值满足关系
Figure BDA0003581942500000131
现有公式中所使用的查找表从14减少到6,本申请基于上述计算出的归一化参数,将现有公式进行更新为:
Figure BDA0003581942500000132
其中:
Figure BDA0003581942500000133
式中A1,A2,B1,B2,
Figure BDA0003581942500000134
和/>
Figure BDA0003581942500000135
是6个查找表,/>
Figure BDA00035819425000001310
Figure BDA0003581942500000137
是三个常数。其中查找表的数量不是越多越好,在该申请中只使用两个查找表,即/>
Figure BDA0003581942500000138
和yc。如表1显示现有公式与本申请的公式(10)分别使用6个和2个查找表的计算复杂度差异,可以看到操作数量进一步减少。
Figure BDA0003581942500000139
表1最小二乘法的计算复杂度比较
另外,对于重建三维点云,常用的方法,还包括计算出摄像机视野和投影仪视野中的两条线的公共垂线中点。需要说明的是,摄像机和投影仪的光学中心在归一化之后没有改变,因此公共垂线的中点也没有改变。其中,摄像机和投影仪视野中两条直线的公共垂线交点计算如下:
Figure BDA0003581942500000141
其中:
Figure BDA0003581942500000142
Figure BDA0003581942500000143
其中,法线
Figure BDA0003581942500000144
和/>
Figure BDA0003581942500000145
分别在摄像机和投影仪的原始标定矩阵上计算得到。/>
Figure BDA0003581942500000146
和/>
Figure BDA0003581942500000147
是4个查找表,/>
Figure BDA0003581942500000148
和/>
Figure BDA0003581942500000149
是三个常数。通过归一化参数,我们得到:
Figure BDA00035819425000001410
其中:
Figure BDA00035819425000001411
式中
Figure BDA00035819425000001412
和/>
Figure BDA00035819425000001413
是三个查找表,/>
Figure BDA00035819425000001414
和/>
Figure BDA00035819425000001415
是三个常数。对于公式(11)和公式(12),它们具有相同的精度,表2显示了它们有和没有查找表时的计算复杂度,从中我们可以看到操作次数没有明显的区别,而通过3个查找表的公式(12)达到了最高速度。
操作 公式(11) 4个查找表的公式(11) 3个查找表的公式(12)
加法(+) 30 22 18
减法(-) 5 5 8
乘法(×) 48 39 32
除法(÷) 1 1 1
查找表 0 4 3
表2公共垂线法的计算复杂度比较
进一步的,基于同一待测物体和相同的摆设背景,通过单线程C++编程实现三维点云的计算,来比对上述表1以及表2中各项三维点云的计算速度,如表3和表4所示。
Figure BDA0003581942500000151
/>
表3最小二乘法的点云计算速度
可见,采用本申请的公式(10)分别计算出6个和2个查找表来计算三维点云,速度如表3所示,与现有公式相比,本本申请的速度提升了1.73倍。将公式(9)中的结果视为真值,Xw,Yw,Zw的误差以及误差的欧几里得距离分别如说明书附图7中的(a)、(b)、(c)、(d)所示,我们可以看出,归一化标定矩阵的精度是无损的,其中重建的三维点云的前视图和侧视图如说明书附图8中的(a)所示。
Figure BDA0003581942500000152
表4公共垂线法的点云计算速度比较
可见,使用公式(11)和公式(12),我们计算摄像机和投影仪视野中两条直线的公共垂线中点作为结果,通过对比,可以看到结果精度是无损的,如说明书附图9中的(a)、(b)、(c)、(d)所示。公式(11)和公式(12)在没有查找表和有查找表的情况下的速度如表4所示。重建的三维点云的前视图和侧视图如说明书附图8中的(b)所示。
本申请提供的基于归一化扩展极线几何的实时结构光重建方法,通过对摄像机和投影仪标定矩阵进行归一化操作,来进一步简化扩展极线几何计算三维点云的过程,使得计算三维点云的效率更高,从而达到实时进行三维重建的效果,提升三维测量系统的应用体验感。
基于同一发明构思,本申请实施例中还提供了基于归一化扩展极线几何的实时结构光重建装置,由于本申请实施例中的装置解决问题的原理与本申请实施例上述基于归一化扩展极线几何的实时结构光重建方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
如图10所示,本申请实施例还提供基于归一化扩展极线几何的实时结构光重建装置,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪;所述装置包括:
获取模块1001,用于利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
计算模块1002,用于基于所述归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云;
重构模块1003,用于根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。
在一些实施例中,所述计算模块1002在基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云时,还用于:
通过标定获取所述摄像机和所述投影仪的标定矩阵;
基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵;
基于所述所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵;
分别计算所述摄像机和所述投影仪空间中的归一化参数;
计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;
利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;
查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云。
在一些实施例中,所述计算模块1002在基于所述摄像机和所述投影仪的标定矩阵计算所述摄像机和所述投影仪的归一化矩阵时,还用于:
对所述摄像机的标定矩阵的前三列作求逆计算,得到所述摄像机的归一化矩阵;
对所述投影仪的标定矩阵的前三列作求逆计算,得到所述投影仪的归一化矩阵。
所述计算模块1002在基于所述摄像机和所述投影仪的标定矩阵以及所述摄像机和所述投影仪的归一化矩阵计算所述摄像机和所述投影仪的归一化标定矩阵时,还用于:
将所述摄像机的标定矩阵与所述摄像机的归一化矩阵作相乘计算,得到所述摄像机归一化标定矩阵;
将所述投影仪的标定矩阵与所述投影仪的归一化矩阵作相乘计算,得到所述投影仪归一化标定矩阵。
所述计算模块1002在利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位时,还用于:
所述投影仪按照设定的相移和频率投影图案;
利用所述摄像机同步抓拍所述投影图案;
基于所述摄像机抓拍的所述投影图案计算绝对相位;
基于所述绝对相位对所述投影仪空间中的每一个像素点处的相位进行归一化操作,得到归一化相位。
其中,所述归一化参数包括归一化光学中心、归一化法线、归一化相位极点、归一化极点、归一化极线、归一化光学极点中的一种或多种。并且所述摄像机和所述投影仪空间中的归一化极点一样,以及所述摄像机和所述投影仪空间中的归一化极线一样。
本申请所述的基于归一化扩展极线几何的实时结构光重建装置,应用于三维测量系统,包括获取模块1001、计算模块1002和重构模块1003,其中计算模块1002先基于摄像机和投影仪的标定矩阵计算出摄像机和投影仪的归一化矩阵;再计算出摄像机和投影仪的归一化标定矩阵;然后分别计算摄像机和投影仪的归一化标定矩阵的归一化参数;计算摄像机平面上的归一化坐标,并将其存储为两个二维查找表;利用摄像机同步抓拍投影仪的投影图案,通过获取的投影图案计算归一化相位;查询二维查找表获取目标参数,并通过目标参数计算出三维点云;最后根据计算出的三维点云对待测物体进行重构,得到待测物体的三维重建结果。,基于归一化扩展极线几何进行三维重建,大大降低了计算复杂度,能够达到对待测物体可实时结构光重建的目的。
基于本发明的同一构思,如说明书附图11所示,本申请实施例提供的一种电子设备1100的结构,该电子设备1100包括:至少一个处理器1101,至少一个网络接口1104或者其他用户接口1103,存储器1105,至少一个通信总线1102。通信总线1102用于实现这些组件之间的连接通信。该电子设备1100可选的包含用户接口1103,包括显示器(例如,触摸屏、LCD、CRT、全息成像(Holographic)或者投影(Projector)等),键盘或者点击设备(例如,鼠标,轨迹球(trackball),触感板或者触摸屏等)。
存储器1105可以包括只读存储器和随机存取存储器,并向处理器1101提供指令和数据。存储器1105的一部分还可以包括非易失性随机存取存储器(NVRAM)。
在一些实施方式中,存储器1105存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:
操作系统11051,包含各种系统程序,用于实现各种基础业务以及处理基于硬件的任务;
应用程序模块11052,包含各种应用程序,例如桌面(launcher)、媒体播放器(Media Player)、浏览器(Browser)等,用于实现各种应用业务。
在本申请实施例中,通过调用存储器1105存储的程序或指令,处理器1101用于执行如基于归一化扩展极线几何的实时结构光重建方法的步骤。
本申请还提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如基于归一化扩展极线几何的实时结构光重建方法中的步骤。
具体地,该存储介质能够为通用的存储介质,如移动磁盘、硬盘等,该存储介质上的计算机程序被运行时,能够执行上述基于归一化扩展极线几何的实时结构光重建方法,基于归一化扩展极线几何进行三维重建,大大降低了计算复杂度,能够达到对待测物体可实时结构光重建的目的。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请提供的实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围。都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (7)

1.基于归一化扩展极线几何的实时结构光重建方法,其特征在于,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,所述方法包括:
利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云;
根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果;
其中,所述基于所述归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云,包括:
通过标定获取所述摄像机和所述投影仪的标定矩阵;
对所述摄像机的标定矩阵的前三列作求逆计算,得到所述摄像机的归一化矩阵;以及对所述投影仪的标定矩阵的前三列作求逆计算,得到所述投影仪的归一化矩阵;
将所述摄像机的标定矩阵与所述摄像机的归一化矩阵作相乘计算,得到所述摄像机归一化标定矩阵;以及将所述投影仪的标定矩阵与所述投影仪的归一化矩阵作相乘计算,得到所述投影仪归一化标定矩阵;
分别计算所述摄像机和所述投影仪各自空间中的归一化参数;
计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;
利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;
查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云。
2.根据权利要求1所述基于归一化扩展极线几何的实时结构光重建方法,其特征在于,所述利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位,包括:
所述投影仪按照设定的相移和频率投影图案;
利用所述摄像机同步抓拍所述投影图案;
基于所述摄像机抓拍的所述投影图案计算绝对相位;
基于所述绝对相位对所述投影仪空间中的每一个像素点处的相位进行归一化操作,得到归一化相位。
3.根据权利要求2所述基于归一化扩展极线几何的实时结构光重建方法,其特征在于,所述归一化参数包括归一化光学中心、归一化法线、归一化相位极点、归一化极点、归一化极线、归一化光学极点中的一种或多种。
4.根据权利要求3所述基于归一化扩展极线几何的实时结构光重建方法,其特征在于,所述摄像机和所述投影仪空间中的归一化极点一样,以及所述摄像机和所述投影仪空间中的归一化极线一样。
5.基于归一化扩展极线几何的实时结构光重建装置,其特征在于,应用于三维测量系统,所述三维测量系统包括摄像机和投影仪,所述装置包括:
获取模块,用于利用所述投影仪将图案投射到待测物体表面,生成被调制的图案,并由所述摄像机获取所述被调制的图案;
计算模块,用于基于归一化扩展极线几何对所述被调制的图案进行处理,计算出三维点云,包括:
通过标定获取所述摄像机和所述投影仪的标定矩阵;
对所述摄像机的标定矩阵的前三列作求逆计算,得到所述摄像机的归一化矩阵;以及对所述投影仪的标定矩阵的前三列作求逆计算,得到所述投影仪的归一化矩阵;
将所述摄像机的标定矩阵与所述摄像机的归一化矩阵作相乘计算,得到所述摄像机归一化标定矩阵;以及将所述投影仪的标定矩阵与所述投影仪的归一化矩阵作相乘计算,得到所述投影仪归一化标定矩阵;
分别计算所述摄像机和所述投影仪各自空间中的归一化参数;
计算所述摄像机空间中的归一化坐标,并将其存储为两个二维查找表;
利用所述摄像机同步抓拍所述投影仪的投影图案,通过获取的所述投影图案计算归一化相位;
查询所述二维查找表获取目标参数,并通过所述目标参数计算出三维点云;
重构模块,用于根据计算出的所述三维点云对待测物体进行重构,得到所述待测物体的三维重建结果。
6.一种电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至4任意一项所述的基于归一化扩展极线几何的实时结构光重建方法的步骤。
7.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至4任意一项所述的基于归一化扩展极线几何的实时结构光重建方法的步骤。
CN202210354762.6A 2022-04-06 2022-04-06 基于归一化扩展极线几何的实时结构光重建方法及装置 Active CN114663597B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210354762.6A CN114663597B (zh) 2022-04-06 2022-04-06 基于归一化扩展极线几何的实时结构光重建方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210354762.6A CN114663597B (zh) 2022-04-06 2022-04-06 基于归一化扩展极线几何的实时结构光重建方法及装置

Publications (2)

Publication Number Publication Date
CN114663597A CN114663597A (zh) 2022-06-24
CN114663597B true CN114663597B (zh) 2023-07-04

Family

ID=82034505

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210354762.6A Active CN114663597B (zh) 2022-04-06 2022-04-06 基于归一化扩展极线几何的实时结构光重建方法及装置

Country Status (1)

Country Link
CN (1) CN114663597B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115205466B (zh) * 2022-07-25 2023-09-19 江苏濠汉信息技术有限公司 一种基于结构光的输电通道三维重建方法和系统
CN115379182B (zh) * 2022-08-19 2023-11-24 四川大学 一种双向结构光编解码方法、装置、电子设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103116888A (zh) * 2013-02-01 2013-05-22 云南大学 利用平面三角形求解摄像机的内参数
CN112991533A (zh) * 2021-03-18 2021-06-18 中国海洋大学 基于激光三角法的旋转水下物体三维重建方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110310365B (zh) * 2019-06-27 2021-01-05 四川大学 一种三维重建方法及装置
US11399192B2 (en) * 2020-02-10 2022-07-26 Tencent America LLC Spatial scalable coding for point cloud coding
CN111462331B (zh) * 2020-03-31 2023-06-27 四川大学 扩展对极几何并实时计算三维点云的查找表方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103116888A (zh) * 2013-02-01 2013-05-22 云南大学 利用平面三角形求解摄像机的内参数
CN112991533A (zh) * 2021-03-18 2021-06-18 中国海洋大学 基于激光三角法的旋转水下物体三维重建方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Target Positioning Based on Binocular Vision;Zhang,DH 等;《IMAGE AND GRAPHICS》;第49卷(第3期);第157-168页 *
单目视觉伺服研究综述;徐德;;《自动化学报》;第44卷(第10期);第1729-1746页 *

Also Published As

Publication number Publication date
CN114663597A (zh) 2022-06-24

Similar Documents

Publication Publication Date Title
CN114663597B (zh) 基于归一化扩展极线几何的实时结构光重建方法及装置
CN111563959B (zh) 人脸三维可形变模型的更新方法、装置、设备及介质
US20030222984A1 (en) System and method for calibrating a camera with one-dimensional objects
CN110702034A (zh) 高反光表面三维面形测量方法、服务器及系统
KR20090080421A (ko) 3차원 메쉬 모델의 메쉬 데이터의 압축 및 복원 방법 및시스템
CN110567398A (zh) 双目立体视觉三维测量方法及系统、服务器及存储介质
CN113643414B (zh) 一种三维图像生成方法、装置、电子设备及存储介质
Saini et al. NURBS-based geometric inverse reconstruction of free-form shapes
CN115272110B (zh) 一种结构光三维重建中投影机畸变校正方法及装置
Zheng et al. Minimal solvers for 3d geometry from satellite imagery
CN116129037B (zh) 视触觉传感器及其三维重建方法、系统、设备及存储介质
CN116309880A (zh) 基于三维重建的物体位姿确定方法、装置、设备及介质
CN112652057A (zh) 生成人体三维模型的方法、装置、设备以及存储介质
Recker et al. Statistical angular error-based triangulation for efficient and accurate multi-view scene reconstruction
CN111241317B (zh) 一种基于多个二维查找表的相位和调制信息获取方法
Steger Estimating the fundamental matrix under pure translation and radial distortion
Tan et al. Structure from motion using the ground plane constraint
CN110297242A (zh) 基于压缩感知的合成孔径雷达层析三维成像方法及装置
CN112734628B (zh) 一种经三维转换后的跟踪点的投影位置计算方法及系统
CN115409949A (zh) 模型训练方法、视角图像生成方法、装置、设备及介质
CN111861873B (zh) 仿真图像的生成方法和装置
CN108921908B (zh) 表面光场的采集方法、装置及电子设备
CN113421292A (zh) 一种三维建模细节增强方法及装置
Xue et al. A new approach for the bundle adjustment problem with fixed constraints in stereo vision
Boufama et al. Three-dimensional structure calculation: achieving accuracy without calibration

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant