CN116486020A - 一种三维重建方法及相关设备 - Google Patents
一种三维重建方法及相关设备 Download PDFInfo
- Publication number
- CN116486020A CN116486020A CN202310741467.0A CN202310741467A CN116486020A CN 116486020 A CN116486020 A CN 116486020A CN 202310741467 A CN202310741467 A CN 202310741467A CN 116486020 A CN116486020 A CN 116486020A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- cloud data
- turntable
- coordinate system
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 123
- 239000011159 matrix material Substances 0.000 claims abstract description 77
- 230000009466 transformation Effects 0.000 claims abstract description 69
- 238000012216 screening Methods 0.000 claims abstract description 35
- 238000001914 filtration Methods 0.000 claims abstract description 34
- 230000011218 segmentation Effects 0.000 claims abstract description 31
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 26
- 230000008569 process Effects 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 10
- 230000004927 fusion Effects 0.000 claims description 6
- 238000001514 detection method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000009286 beneficial effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请涉及三维重建技术领域,公开了一种三维重建方法及相关设备,三维重建方法包括:基于设置在转盘上表面的Apriltag标签,获取转盘坐标系相对相机坐标系的第一变换矩阵;获取由RGB‑D相机采集的放置在转盘上的待重建物体在转盘旋转至多个不同旋转角度时的多帧第一点云数据;根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据;基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型,从而得到与实物一致性更高的表面模型。
Description
技术领域
本申请涉及三维重建技术领域,具体而言,涉及一种三维重建方法及相关设备。
背景技术
近年来,随着RGB-D相机的出现,通过RGB-D相机拍摄物体的不同视角下的局部三维信息(即点云),将局部三维信息拼接得到完整的物体三维点云,通过该点云重建得到物体模型的方式成为三维重建的一种重要方案。现有技术中的三维重建方案中主要存在以下问题:1.现有基于旋转平台的三维重建技术通常需要每次在进行物体重建前在旋转盘中心轴线上布置标定板,进行RGB-D相机和旋转平台间变换矩阵的标定,标定结束后,需要取下标定板,才能在旋转盘上放置物体开始重建工作,这种方式需要人为操作,不便于自动化。2.现有三维重建技术,在进行物体点云分割时,主要使用语义分割或者平面检测等技术来实现,没有充分利用点云数据中物体点云和背景点云之间的空间信息。3.现有三维重建方案在曲面重建时,主要采用泊松重建来产生较为光滑的表面模型,但是由于物体边缘部分的点云数据密度小,生成模型的边缘部分产生一些实际物体本身并不存在的表面。
针对上述问题,目前尚未有有效的技术解决方案。
发明内容
本申请的目的在于提供一种三维重建方法,有利于得到与实物一致性更高的表面模型。
第一方面,本申请提供了一种三维重建方法,基于三维重建系统对待重建物体进行三维重建,所述三维重建系统包括旋转平台和RGB-D相机,所述旋转平台上设置有转盘,所述RGB-D相机设置在所述旋转平台以外并能够拍摄所述转盘的上表面,所述三维重建方法包括步骤:
A1.基于设置在所述转盘上表面的Apriltag标签,获取转盘坐标系相对相机坐标系的第一变换矩阵;
A2.获取由所述RGB-D相机采集的放置在所述转盘上的待重建物体在所述转盘旋转至多个不同旋转角度时的多帧第一点云数据;
A3.根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据;
A4.基于直通滤波、区域生长法和ICP算法,对各帧所述第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
A5.基于泊松重建方法和预设的面筛选规则,利用所述物体点云数据生成所述待重建物体的表面模型。
本申请通过设置在所述转盘上表面的Apriltag标签,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台的照片即可获得第一变换矩阵,且标定得到第一变换矩阵后无需人工移除标定板,有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;基于直通滤波、区域生长法和ICP算法,能够滤除重建时拍摄的背景点云,得到物体点云数据,实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好,通过对待重建物体进行曲面重建时,采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
优选地,步骤A1包括:
利用所述RGB-D相机采集设置在所述转盘中心位置的Apriltag标签的图像信息;
根据所述图像信息提取所述Apriltag标签的四个角在所述相机坐标系下的第一角坐标;
获取所述Apriltag标签自身的尺寸,将所述Apriltag标签自身的坐标系作为所述转盘坐标系,并根据所述尺寸计算得到所述Apriltag标签的四个角在所述转盘坐标系下的第二角坐标;
根据所述第一角坐标和所述第二角坐标,计算所述转盘坐标系与所述相机坐标系的所述第一变换矩阵。
本申请通过上述设置,无需人为放置标定板,只需要拍摄转盘上表面的照片即可获取第一变换矩阵,有助于实现无人值守的全自动的三维重建流水线,且标定的方法简单。
优选地,步骤A2中,所述多帧第一点云数据获取的步骤包括:
获取所述转盘以预设角度分步旋转至多个不同旋转角度时的所述待重建物体的多帧第一点云数据,直到所述旋转角度不小于360°。
优选地,所述步骤A3包括:
根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据,具体计算公式如下:
;
;
式中,为第i帧第二点云数据,/>为第i帧第一点云数据,n为所述第一点云数据的总帧数,/>为第i帧第一点云数据对应的所述旋转角度,/>为所述转盘旋转/>后的所述转盘坐标系相对所述转盘未旋转时的所述转盘坐标系的总变换矩阵,/>为所述总变换矩阵中的旋转矩阵,/>为所述第一变换矩阵。
优选地,所述步骤A4包括:
基于直通滤波,对各帧所述第二点云数据进行滤波,去除各帧所述第二点云数据中位于所述转盘坐标系原点之下的所有所述背景点云;
在直通滤波后的各帧所述第二点云数据中,分别利用区域生长法获取位于所述转盘坐标系原点之上的点云数据组成的第三点云数据;
利用ICP算法对各帧所述第三点云数据进行精配准,以融合为所述物体点云数据。
优选地,所述步骤A5包括:
基于泊松重建方法,根据所述物体点云数据生成所述待重建物体的初始表面模型;
基于所述预设的面筛选规则筛选所述初始表面模型上的所述物体点云数据的云点,以获取第四点云数据;
基于泊松重建方法,根据所述第四点云数据生成所述待重建物体的表面模型。
通过预设的面筛选规则对待重建物体的初始表面模型进行筛选,剔除待重建物体本身并不存在的表面所对应的物体点云,以获取第四点云数据(即是保留的物体点云数据的云点),基于泊松重建方法,根据所述第四点云数据生成所述待重建物体的表面模型,从而得到与实物一致性更高的表面模型。
优选地,所述预设的面筛选规则为:
根据以下公式计算所述初始表面模型上的所述物体点云数据中各个云点的表面密度;
;
式中,为所述物体点云数据中的云点的坐标,/>为/>云点的表面密度,N为所述物体点云数据中以/>云点为中心、以R为半径的圆形范围内所有云点的数量;
若所述表面密度小于预设阈值,则剔除对应的所述云点,否则,保留对应的所述云点作为所述第四点云数据的云点。
第二方面,本申请提供了一种三维重建的装置,基于三维重建系统对待重建物体进行三维重建,所述三维重建系统包括旋转平台和RGB-D相机,所述旋转平台上设置有转盘,所述RGB-D相机设置在所述旋转平台以外并能够拍摄所述转盘的上表面,包括:
第一获取模块,用于基于设置在所述转盘上表面的Apriltag标签,获取转盘坐标系相对相机坐标系的第一变换矩阵;
第二获取模块,用于获取由所述RGB-D相机采集的放置在所述转盘上的待重建物体在所述转盘旋转至多个不同旋转角度时的多帧第一点云数据;
计算模块,用于根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据;
融合模块,用于基于直通滤波、区域生长法和ICP算法,对各帧所述第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
生成模块,用于基于泊松重建方法和预设的面筛选规则,利用所述物体点云数据生成所述待重建物体的表面模型。
第三方面,本申请提供了一种电子设备,包括处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时,运行如前文所述三维重建方法中的步骤。
第四方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时运行如前文所述三维重建方法中的步骤。
有益效果:
本申请提供的三维重建方法及相关设备,基于设置在所述转盘上表面的Apriltag标签,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台的照片即可获得第一变换矩阵,且标定得到第一变换矩阵后无需人工移除标定板,有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;获取由所述RGB-D相机采集的放置在所述转盘上的待重建物体在所述转盘旋转至多个不同旋转角度时的多帧第一点云数据;根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据;基于直通滤波、区域生长法和ICP算法,对各帧所述第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据,从而实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好;基于泊松重建方法和预设的面筛选规则,利用所述物体点云数据生成所述待重建物体的表面模型,通过采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
附图说明
图1为本申请提供的三维重建方法的流程图。
图2为本申请提供的三维重建的装置结构示意图。
图3为本申请提供的电子设备的结构示意图。
图4为本申请提供的三维重建系统的实物示意图。
标号说明:1、第一获取模块;2、第二获取模块;3、计算模块;4、融合模块;5、生成模块;10、RGB-D相机;11、旋转平台;12、转盘;13、Apriltag标签; 301、处理器;302、存储器;303、通信总线。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
第一方面,请参考图1,图1是本申请提供的三维重建方法的流程图,基于三维重建系统对待重建物体进行三维重建,三维重建系统包括旋转平台11和RGB-D相机10,旋转平台11上设置有转盘12,RGB-D相机10设置在旋转平台11以外并能够拍摄转盘12的上表面,三维重建方法包括步骤:
A1.基于设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵;
A2.获取由RGB-D相机10采集的放置在转盘12上的待重建物体在转盘12旋转至多个不同旋转角度时的多帧第一点云数据;
A3.根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据;
A4.基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
A5.基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型。
具体地,本申请通过设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台11的照片即可获得第一变换矩阵,且标定得到第一变换矩阵后无需人工移除标定板(因为Apriltag标签13并不会阻碍待重建物体的放置),有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;基于直通滤波、区域生长法和ICP算法,能够滤除重建时拍摄的背景点云,得到物体点云数据,实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好,通过对待重建物体进行曲面重建时,采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
其中,在本申请中,云点就是单个的点,多个云点的集合就是点云。
在一些实施方式中,步骤A1包括:
利用RGB-D相机10采集设置在转盘12中心位置的Apriltag标签13的图像信息;
根据图像信息提取Apriltag标签13的四个角在相机坐标系下的第一角坐标;
获取Apriltag标签13自身的尺寸,将Apriltag标签13自身的坐标系作为转盘坐标系,并根据尺寸计算得到Apriltag标签13的四个角在转盘坐标系下的第二角坐标;
根据第一角坐标和第二角坐标,计算转盘坐标系相对相机坐标系的第一变换矩阵。
具体地,如图4所示,通过设置Apriltag标签13自身的坐标系作为转盘坐标系(即图4中示意的OXYZ坐标系),仅需获取Apriltag标签13的四个角分别在相机坐标系下的第一角坐标和在转盘坐标系下的第二角坐标,根据第一角坐标和第二角坐标即可计算得到转盘坐标系相对相机坐标系的第一变换矩阵(因为Apriltag标签13的厚度几乎可以忽略,即Apriltag标签13自身的坐标系等于转盘坐标系),无需人为放置标定板,只需要拍摄转盘12上表面的照片即可获取第一变换矩阵,有助于实现无人值守的全自动的三维重建流水线,且标定的方法简单。
其中,可使用PNP算法或其他现有计算方法来根据第一角坐标和第二角坐标计算转盘坐标系相对相机坐标系的第一变换矩阵。
在一些实施方式中,步骤A2中,多帧第一点云数据获取的步骤包括:
获取转盘12以预设角度分步旋转至多个不同旋转角度时的待重建物体的多帧点云数据,直到旋转角度不小于360°。
其中,待重建物体放置在转盘12上随同转盘12转动,且位置相对转盘12不变。
通过使转盘12以预设角度分步旋转至多个不同旋转角度,直到旋转角度不小于360°时,获取待重建物体在多个不同旋转角度的多帧第一点云数据,且多帧第一点云数据包括在待重建物体的周面上一周(即包括360°内的表面)的多帧点云数据,为三维重建提供更全面的待重建物体的表面的多帧点云数据。
在实际应用中,将待重建物体放置在转盘12上表面的中心位置,通过启动旋转平台11,使转盘12转动预设角度后停止,利用RGB-D相机10对转盘12的上表面进行拍摄,拍摄后,再使转盘12转动预设角度后停止转动,再次对转盘12的上表面进行拍摄,依次类推,直到旋转角度不小于360°时,可停止拍摄,所拍摄的面涉及待重建物体360°的表面点云,从而得到待重建物体的多帧第一点云数据。其中,预设角度不大于180°,具体可根据实际需要设置。
在一些实施方式中,步骤A3包括:
根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据,具体计算公式如下:
;
;
式中,为第i帧第二点云数据,/>为第i帧第一点云数据,n为第一点云数据的总帧数,/>为第i帧第一点云数据对应的旋转角度,/>为转盘12旋转/>后的转盘坐标系相对转盘12未旋转时(即进行第一变换矩阵获取的时候,此时,待重建物体未放置在转盘12上)的转盘坐标系的总变换矩阵(即是坐标变换矩阵),/>为总变换矩阵中的旋转矩阵(即转盘12旋转/>后的转盘坐标系相对转盘12未旋转时的转盘坐标系的旋转矩阵),/>为第一变换矩阵。
其中,旋转矩阵为:。
具体地,通过上述公式即可计算得到各帧第一点云数据对应转盘坐标系下的第二点云数据,以实现各帧第一点云数据从相机坐标系转换到转盘坐标系下的第二点云数据。
在一些实施方式中,步骤A4包括:
基于直通滤波,对各帧第二点云数据进行滤波,去除各帧第二点云数据中位于转盘坐标系原点之下的所有背景点云;
在直通滤波后的各第二点云数据中,分别利用区域生长法获取位于转盘坐标系原点之上的点云数据组成的第三点云数据;
利用ICP算法对各帧第三点云数据进行精配准,以融合为物体点云数据。
具体地,基于直通滤波,对各帧第二点云数据进行滤波,去除各帧第二点云数据中位于转盘坐标系原点之下(转盘坐标系中位于Z轴原点O之下,即Z)的所有背景点云,从而滤除待重建物体下方的所有背景点云,在直通滤波后的各帧第二点云数据中,分别利用区域生长法获取位于转盘坐标系原点之上的点云数据组成的第三点云数据(即是待重建物体的点云数据),再通过ICP算法,对各第三点云数据进行精配准(即是精准配对),以融合为物体点云数据。其中,区域生长法和ICP算法均为现有技术,此处不对其具体过程进行详述。
在一些实施方式中,步骤A5包括:
基于泊松重建方法,根据物体点云数据生成待重建物体的初始表面模型;
基于预设的面筛选规则筛选初始表面模型上的物体点云数据的云点,以获取第四点云数据;
基于泊松重建方法,根据第四点云数据生成待重建物体的表面模型。
具体地,通过预设的面筛选规则对待重建物体的初始表面模型进行筛选,剔除待重建物体本身并不存在的表面所对应的物体云点,以获取第四点云数据(即是保留的物体点云数据的云点),基于泊松重建方法,根据第四点云数据重新生成待重建物体的表面模型,从而得到与实物一致性更高的表面模型。其中,泊松重建方法为现有技术,此处不对其进行详述。
在一些实施方式中,预设的面筛选规则为:
根据以下公式计算初始表面模型上的物体点云数据中各个云点的表面密度;
;
式中,为物体点云数据中的云点的坐标,/>为/>云点的表面密度,N为物体点云数据中以/>云点为中心、以R为半径的圆形范围内所有云点的数量;
若表面密度小于预设阈值(可根据实际需要设置),则剔除对应的云点,否则,保留对应的云点作为第四点云数据的云点。
具体地,通过预设的面筛选规则,可以剔除一些待重建物体上并不实际存在的表面所对应的物体点云,从而可以得到与实物一致性更高的表面模型。
由上可知,本申请提供的三维重建方法,通过设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台11的照片即可获得第一变换矩阵,有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;基于直通滤波、区域生长法和ICP算法,能够滤除重建时拍摄的背景点云,得到物体点云数据,实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好,通过对待重建物体进行曲面重建时,采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
第二方面,本申请提供了一种三维重建的装置,基于三维重建系统对待重建物体进行三维重建,三维重建系统包括旋转平台11和RGB-D相机10,旋转平台11上设置有转盘12,RGB-D相机10设置在旋转平台11以外并能够拍摄转盘12的上表面,三维重建的装置包括:
第一获取模块1,用于基于设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵;
第二获取模块2,用于获取由RGB-D相机10采集的放置在转盘12上的待重建物体在转盘12旋转至多个不同旋转角度时的多帧第一点云数据;
计算模块3,用于根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据;
融合模块4,用于基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
生成模块5,用于基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型。
具体地,本申请通过设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台11的照片即可获得第一变换矩阵,且标定得到第一变换矩阵后无需人工移除标定板(因为Apriltag标签13并不会阻碍待重建物体的放置),有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;基于直通滤波、区域生长法和ICP算法,能够滤除重建时拍摄的背景点云,得到物体点云数据,实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好,通过对待重建物体进行曲面重建时,采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
其中,在本申请中,云点就是单个的点,多个云点的集合就是点云。
在一些实施方式中,第一获取模块1在基于设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵的时候,具体执行:
利用RGB-D相机10采集设置在转盘12中心位置的Apriltag标签13的图像信息;
根据图像信息提取Apriltag标签13的四个角在相机坐标系下的第一角坐标;
获取Apriltag标签13自身的尺寸,将Apriltag标签13自身的坐标系作为转盘坐标系,并根据尺寸计算得到Apriltag标签13的四个角在转盘坐标系下的第二角坐标;
根据第一角坐标和第二角坐标,计算转盘坐标系相对相机坐标系的第一变换矩阵。
具体地,如图4所示,通过设置Apriltag标签13自身的坐标系作为转盘坐标系(即图4中示意的OXYZ坐标系),仅需获取Apriltag标签13的四个角分别在相机坐标系下的第一角坐标和在转盘坐标系下的第二角坐标,根据第一角坐标和第二角坐标即可计算得到转盘坐标系相对相机坐标系的第一变换矩阵(因为Apriltag标签13的厚度几乎可以忽略,即Apriltag标签13自身的坐标系等于转盘坐标系),无需人为放置标定板,只需要拍摄转盘12上表面的照片即可获取第一变换矩阵,有助于实现无人值守的全自动的三维重建流水线,且标定的方法简单。
其中,可使用PNP算法或其他现有计算方法来根据第一角坐标和第二角坐标计算转盘坐标系相对相机坐标系的第一变换矩阵。
在一些实施方式中,第二获取模块2在多帧第一点云数据获取的时候还具体执行:
获取转盘12以预设角度分步旋转至多个不同旋转角度时的待重建物体的多帧第一点云数据,直到旋转角度不小于360°。
其中,待重建物体放置在转盘12上随同转盘12转动,且位置相对转盘12不变。
通过使转盘12以预设角度分步旋转至多个不同旋转角度,直到旋转角度不小于360°时,获取待重建物体在多个不同旋转角度的多帧第一点云数据,且多帧第一点云数据包括在待重建物体的周面上一周(即包括360°内的表面)的多帧点云数据,为三维重建提供更全面的待重建物体的表面的多帧点云数据。
在实际应用中,将待重建物体放置在转盘12上表面的中心位置,通过启动旋转平台11,使转盘12转动预设角度后停止,利用RGB-D相机10对转盘12的上表面进行拍摄,拍摄后,再使转盘12转动预设角度后停止转动,再次对转盘12的上表面进行拍摄,依次类推,直到旋转角度不小于360°时,可停止拍摄,所拍摄的面涉及待重建物体360°的表面点云,从而得到待重建物体的多帧第一点云数据。其中,预设角度不大于180°,具体可根据实际需要设置。
在一些实施方式中,计算模块3在根据第一变换矩阵和旋转角度,计算各桢第一点云数据对应转盘坐标系下的第二点云数据的时候,具体执行:
根据第一变换矩阵和旋转角度,计算各桢第一点云数据对应转盘坐标系下的第二点云数据,具体计算公式如下:
;
;
式中,为第i帧第二点云数据,/>为第i帧第一点云数据,n为第一点云数据的总帧数,/>为第i帧第一点云数据对应的旋转角度,/>为转盘12旋转/>后的转盘坐标系相对转盘12未旋转时(即进行第一变换矩阵获取的时候,此时,待重建物体未放置在转盘12上)的转盘坐标系的总变换矩阵(即是坐标变换矩阵),/>为总变换矩阵中的旋转矩阵(即转盘12旋转/>后的转盘坐标系相对转盘12未旋转时的转盘坐标系的旋转矩阵),/>为第一变换矩阵。
其中,旋转矩阵为:。
具体地,通过上述公式即可计算得到各帧第一点云数据对应转盘坐标系下的第二点云数据,以实现各帧第一点云数据从相机坐标系转换到转盘坐标系下的第二点云数据。
在一些实施方式中,融合模块4在基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据的时候,具体执行:
基于直通滤波,对各帧第二点云数据进行滤波,去除各帧第二点云数据中位于转盘坐标系原点之下的所有背景点云;
在直通滤波后的各第二点云数据中,分别利用区域生长法获取位于转盘坐标系原点之上的点云数据组成的第三点云数据;
利用ICP算法对各帧第三点云数据进行精配准,以融合为物体点云数据。
具体地,基于直通滤波,对各帧第二点云数据进行滤波,去除各帧第二点云数据中位于转盘坐标系原点之下(转盘坐标系中位于Z轴原点O之下,即Z)的所有背景点云,从而滤除待重建物体下方的所有背景点云,在直通滤波后的各帧第二点云数据中,分别利用区域生长法获取位于转盘坐标系原点之上的点云数据组成的第三点云数据(即是待重建物体的点云数据),再通过ICP算法,对各帧第三点云数据进行精配准(即是精准配对),以融合为物体点云数据。其中,区域生长法和ICP算法均为现有技术,此处不对其具体过程进行详述。
在一些实施方式中,生成模块5在基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型的时候,具体执行:
基于泊松重建方法,根据物体点云数据生成待重建物体的初始表面模型;
基于预设的面筛选规则筛选初始表面模型上的物体点云数据的云点,以获取第四点云数据;
基于泊松重建方法,根据第四点云数据生成待重建物体的表面模型。
具体地,通过预设的面筛选规则对待重建物体的初始表面模型进行筛选,剔除待重建物体本身并不存在的表面所对应的物体点云,以获取第四点云数据(即是保留的物体点云),基于泊松重建方法,根据第四点云数据重新生成待重建物体的表面模型,从而得到与实物一致性更高的表面模型。其中,泊松重建方法为现有技术,此处不对其进行详述。
在一些实施方式中,预设的面筛选规则为:
根据以下公式计算初始表面模型上的物体点云数据中各个云点的表面密度;
;
式中,为物体点云数据中的云点的坐标,/>为/>云点的表面密度,N为物体点云数据中以/>云点为中心、以R为半径的圆形范围内所有云点的数量;
若表面密度小于预设阈值(可根据实际需要设置),则剔除对应的云点,否则,保留对应的云点作为第四点云数据的云点。
具体地,通过预设的面筛选规则,可以剔除一些待重建物体上并不实际存在的表面所对应的物体点云,从而可以得到与实物一致性更高的表面模型。
由上可知,本申请提供的三维重建的装置,通过设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵,无需人为放置标定板,只需要拍摄旋转平台11的照片即可获得第一变换矩阵,有助实现无人值守的全自动的三维重建流水线,且标定的方法简单;基于直通滤波、区域生长法和ICP算法,能够滤除重建时拍摄的背景点云,得到物体点云数据,实现点云分割过程不需要使用语义分割、平面检测等方法,计算量小且分割效果好,通过对待重建物体进行曲面重建时,采用预设的面筛选规则,剔除待重建物体本身并不存在的表面,从而得到与实物一致性更高的表面模型。
请参照图3,图3为本申请实施例提供的一种电子设备的结构示意图,本申请提供一种电子设备,包括:处理器301和存储器302,处理器301和存储器302通过通信总线303和/或其他形式的连接机构(未标出)互连并相互通讯,存储器302存储有处理器301可执行的计算机程序,当电子设备运行时,处理器301执行该计算机程序,以执行上述实施例的任一可选的实现方式中的三维重建方法,以实现以下功能:基于设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵;获取由RGB-D相机10采集的放置在转盘12上的待重建物体在转盘12旋转至多个不同旋转角度时的多帧第一点云数据;根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据;基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型。
本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时,执行上述实施例的任一可选的实现方式中的三维重建方法,以实现以下功能:基于设置在转盘12上表面的Apriltag标签13,获取转盘坐标系相对相机坐标系的第一变换矩阵;获取由RGB-D相机10采集的放置在转盘12上的待重建物体在转盘12旋转至多个不同旋转角度时的多帧第一点云数据;根据第一变换矩阵和旋转角度,计算各帧第一点云数据对应转盘坐标系下的第二点云数据;基于直通滤波、区域生长法和ICP算法,对各帧第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;基于泊松重建方法和预设的面筛选规则,利用物体点云数据生成待重建物体的表面模型。其中,计算机可读存储介质可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(Static Random Access Memory, 简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read Only Memory, 简称EPROM),可编程只读存储器(Programmable Red-Only Memory, 简称PROM),只读存储器(Read-Only Memory, 简称ROM),磁存储器,快闪存储器,磁盘或光盘。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种三维重建方法,基于三维重建系统对待重建物体进行三维重建,所述三维重建系统包括旋转平台(11)和RGB-D相机(10),所述旋转平台(11)上设置有转盘(12),所述RGB-D相机(10)设置在所述旋转平台(11)以外并能够拍摄所述转盘(12)的上表面,其特征在于,所述三维重建方法包括步骤:
A1.基于设置在所述转盘(12)上表面的Apriltag标签(13),获取转盘坐标系相对相机坐标系的第一变换矩阵;
A2.获取由所述RGB-D相机(10)采集的放置在所述转盘(12)上的待重建物体在所述转盘(12)旋转至多个不同旋转角度时的多帧第一点云数据;
A3.根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据;
A4.基于直通滤波、区域生长法和ICP算法,对各帧所述第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
A5.基于泊松重建方法和预设的面筛选规则,利用所述物体点云数据生成所述待重建物体的表面模型。
2.根据权利要求1所述的三维重建方法,其特征在于,步骤A1包括:
利用所述RGB-D相机(10)采集设置在所述转盘(12)中心位置的Apriltag标签(13)的图像信息;
根据所述图像信息提取所述Apriltag标签(13)的四个角在所述相机坐标系下的第一角坐标;
获取所述Apriltag标签(13)自身的尺寸,将所述Apriltag标签(13)自身的坐标系作为所述转盘坐标系,并根据所述尺寸计算得到所述Apriltag标签(13)的四个角在所述转盘坐标系下的第二角坐标;
根据所述第一角坐标和所述第二角坐标,计算所述相机坐标系与所述转盘坐标系的所述第一变换矩阵。
3.根据权利要求1所述的三维重建方法,其特征在于,步骤A2中,所述多帧第一点云数据获取步骤包括:
获取所述转盘(12)以预设角度分步旋转至多个不同旋转角度时的所述待重建物体的多帧第一点云数据,直到所述旋转角度不小于360°。
4.根据权利要求3所述的三维重建方法,其特征在于,步骤A3包括:
根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据,具体计算公式如下:
;
;
式中,为第i帧第二点云数据,/>为第i帧第一点云数据,n为所述第一点云数据的总帧数,/>为第i帧第一点云数据对应的所述旋转角度,/>为所述转盘(12)旋转/>后的所述转盘坐标系相对所述转盘(12)未旋转时的所述转盘坐标系的总变换矩阵,/>为所述总变换矩阵中的旋转矩阵,/>为所述第一变换矩阵。
5.根据权利要求1所述的三维重建方法,其特征在于,步骤A4包括:
基于直通滤波,对各帧所述第二点云数据进行滤波,去除各帧所述第二点云数据中位于所述转盘坐标系原点之下的所有所述背景点云;
在直通滤波后的各帧所述第二点云数据中,分别利用区域生长法获取位于所述转盘坐标系原点之上的点云数据组成的第三点云数据;
利用ICP算法对各帧所述第三点云数据进行精配准,以融合为所述物体点云数据。
6.根据权利要求1所述的三维重建方法,其特征在于,步骤A5包括:
基于泊松重建方法,根据所述物体点云数据生成所述待重建物体的初始表面模型;
基于所述预设的面筛选规则筛选所述初始表面模型上的所述物体点云数据的云点,以获取第四点云数据;
基于泊松重建方法,根据所述第四点云数据生成所述待重建物体的表面模型。
7.根据权利要求6所述的三维重建方法,其特征在于,所述预设的面筛选规则为:
根据以下公式计算所述初始表面模型上的所述物体点云数据中各个云点的表面密度;
;
式中,为所述物体点云数据中的云点的坐标,/>为/>云点的表面密度,N为所述物体点云数据中以/>云点为中心、以R为半径的圆形范围内所有云点的数量;
若所述表面密度小于预设阈值,则剔除对应的所述云点,否则,保留对应的所述云点作为所述第四点云数据的云点。
8.一种三维重建的装置,基于三维重建系统对待重建物体进行三维重建,所述三维重建系统包括旋转平台(11)和RGB-D相机(10),所述旋转平台(11)上设置有转盘(12),所述RGB-D相机(10)设置在所述旋转平台(11)以外并能够拍摄所述转盘(12)的上表面,其特征在于,所述三维重建的装置包括:
第一获取模块,用于基于设置在所述转盘(12)上表面的Apriltag标签(13),获取转盘坐标系相对相机坐标系的第一变换矩阵;
第二获取模块,用于获取由所述RGB-D相机(10)采集的放置在所述转盘(12)上的待重建物体在所述转盘(12)旋转至多个不同旋转角度时的多帧第一点云数据;
计算模块,用于根据所述第一变换矩阵和所述旋转角度,计算各帧所述第一点云数据对应所述转盘坐标系下的第二点云数据;
融合模块,用于基于直通滤波、区域生长法和ICP算法,对各帧所述第二点云数据进行点云分割以获取对应的去除背景点云的第三点云数据,用以融合为物体点云数据;
生成模块,用于基于泊松重建方法和预设的面筛选规则,利用所述物体点云数据生成所述待重建物体的表面模型。
9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时,运行如权利要求1-7任一项所述三维重建方法中的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时运行如权利要求1-7任一项所述三维重建方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310741467.0A CN116486020B (zh) | 2023-06-21 | 2023-06-21 | 一种三维重建方法及相关设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310741467.0A CN116486020B (zh) | 2023-06-21 | 2023-06-21 | 一种三维重建方法及相关设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116486020A true CN116486020A (zh) | 2023-07-25 |
CN116486020B CN116486020B (zh) | 2024-02-13 |
Family
ID=87215954
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310741467.0A Active CN116486020B (zh) | 2023-06-21 | 2023-06-21 | 一种三维重建方法及相关设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116486020B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117058330A (zh) * | 2023-10-11 | 2023-11-14 | 季华实验室 | 一种电力走廊三维重建方法、重建模型以及相关设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102663753A (zh) * | 2012-04-12 | 2012-09-12 | 浙江大学 | 一种基于双目立体视觉多视角的物体表面重建方法及装置 |
CN107958481A (zh) * | 2016-10-17 | 2018-04-24 | 杭州海康威视数字技术股份有限公司 | 一种三维重建方法及装置 |
CN109118582A (zh) * | 2018-09-19 | 2019-01-01 | 东北大学 | 一种商品三维重建系统及重建方法 |
CN113532311A (zh) * | 2020-04-21 | 2021-10-22 | 广东博智林机器人有限公司 | 点云拼接方法、装置、设备和存储设备 |
CN113936099A (zh) * | 2021-09-30 | 2022-01-14 | 东北大学 | 基于单目结构光和旋转平台的三维图像重建方法及系统 |
-
2023
- 2023-06-21 CN CN202310741467.0A patent/CN116486020B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102663753A (zh) * | 2012-04-12 | 2012-09-12 | 浙江大学 | 一种基于双目立体视觉多视角的物体表面重建方法及装置 |
CN107958481A (zh) * | 2016-10-17 | 2018-04-24 | 杭州海康威视数字技术股份有限公司 | 一种三维重建方法及装置 |
CN109118582A (zh) * | 2018-09-19 | 2019-01-01 | 东北大学 | 一种商品三维重建系统及重建方法 |
CN113532311A (zh) * | 2020-04-21 | 2021-10-22 | 广东博智林机器人有限公司 | 点云拼接方法、装置、设备和存储设备 |
CN113936099A (zh) * | 2021-09-30 | 2022-01-14 | 东北大学 | 基于单目结构光和旋转平台的三维图像重建方法及系统 |
Non-Patent Citations (1)
Title |
---|
韩文博: "基于深度相机的物体模型重建方法研究", 中国优秀硕士学位论文全文数据库 信息科技辑, pages 138 - 1865 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117058330A (zh) * | 2023-10-11 | 2023-11-14 | 季华实验室 | 一种电力走廊三维重建方法、重建模型以及相关设备 |
CN117058330B (zh) * | 2023-10-11 | 2024-02-13 | 季华实验室 | 一种电力走廊三维重建方法、重建模型以及相关设备 |
Also Published As
Publication number | Publication date |
---|---|
CN116486020B (zh) | 2024-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11410320B2 (en) | Image processing method, apparatus, and storage medium | |
US8818131B2 (en) | Methods and apparatus for facial feature replacement | |
CN116486020B (zh) | 一种三维重建方法及相关设备 | |
CN107924563B (zh) | 牙病治疗和手术的基于照片的评估 | |
CN108805917B (zh) | 空间定位的方法、介质、装置和计算设备 | |
CN109005394B (zh) | 一种投影图像的校正方法及投影机 | |
US9047706B1 (en) | Aligning digital 3D models using synthetic images | |
CN106530214B (zh) | 图像拼接系统和图像拼接方法 | |
CN108761994A (zh) | 摄像头模组和虚拟现实设备的组装的检测方法及装置 | |
CN110310224B (zh) | 光效渲染方法及装置 | |
CN109685879B (zh) | 多视影像纹理分布的确定方法、装置、设备和存储介质 | |
CN103985103A (zh) | 一种生成全景图片的方法和装置 | |
CN108399634B (zh) | 基于云端计算的rgb-d数据生成方法及装置 | |
EP2917875A2 (en) | Automatic curation of digital images | |
CN107341834B (zh) | 一种保持双目视差的全景立体校正方法及系统 | |
CN114241141B (zh) | 光滑物体三维重建方法、装置、计算机设备和存储介质 | |
CN109583495B (zh) | 陈列图像处理方法和装置 | |
CN106997366B (zh) | 数据库构建方法、增强现实融合追踪方法及终端设备 | |
CN116863072A (zh) | 基于视觉-激光融合的单体三维重建方法及系统 | |
CN112150621B (zh) | 基于正射投影的鸟瞰图生成方法、系统及存储介质 | |
JP4273134B2 (ja) | 3次元マニュアルの作成方法 | |
CN109242984A (zh) | 虚拟三维场景构建方法、装置及设备 | |
CN110097630B (zh) | 3d动画制作中通用相机的生成方法及装置、存储介质 | |
CN116164712A (zh) | 一种倾斜摄影航测数据处理方法及存储介质 | |
CN110992485B (zh) | 一种gis地图三维模型方位显示方法、装置和gis地图 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |