CN110411340B - 一种3d视觉检测装置及方法 - Google Patents
一种3d视觉检测装置及方法 Download PDFInfo
- Publication number
- CN110411340B CN110411340B CN201910696986.3A CN201910696986A CN110411340B CN 110411340 B CN110411340 B CN 110411340B CN 201910696986 A CN201910696986 A CN 201910696986A CN 110411340 B CN110411340 B CN 110411340B
- Authority
- CN
- China
- Prior art keywords
- point cloud
- point
- camera
- installation
- plane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C9/00—Measuring inclination, e.g. by clinometers, by levels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种3D视觉检测装置及方法,包括:3D相机、倾角传感器、基准材料、安装材料、图像处理系统、控制端、安装机构;3D相机和倾角传感器与图像处理系统连接;图像处理系统安装在控制端上;控制端把图像处理系统计算得到的自由度数值输出给安装机构,为安装提供视觉引导;本发明通过利用3D相机获取安装材料和基准材料的三维点云模型,倾角传感器修正相机的位姿,通过点云分割、拟合等得到安装材料和基准材料的平面拟合方程,分析两者的相对位姿关系,为安装提供视觉引导,达到高效、精准完成一系列的安装工序,弥补传统检测方法精度不足、稳定性差,还可以简化工序流程的同时提高作业自动化水平,降低成本,提高操作便捷性。
Description
技术领域
本发明属于建材安装领域,具体涉及一种3D视觉检测装置及方法。
背景技术
现在建筑行业中的材料安装作业主要由人工完成,需要满足一定的平整度和垂直度的安装标准,因此建材安装对安装操作人员的经验及技巧有较高要求。人工操作的主要缺陷是人力成本高、耗时长、自动化程度低,且作业危险性高。
为了解决上述缺陷,目前市场上采用2D视觉检测方法,通过检测建材安装的二维参数、对比度等进行安装位姿修正。2D视觉方法的主要缺陷在于受外部光照和颜色变化影响较大,测量精度易受照明条件影响;单台2D相机无法获取待安装材料的空间坐标信息,需要多台相机配合,成本较高,结构复杂;与待安装的材料低一致性等。
目前市场上尚未出现成熟的自动化安装设备,与之配套的视觉检测方法也较少,而实现板材的自动化安装需要在多个维度上进行位姿调整,在完成初步的安装作业后还需要对安装材料进行拼接等一系列的工序,拼接等工序也需要满足多维度的对齐调整。
所以,提供一种测量精度高、稳定性好、性价比高的视觉检测方法对建材安装等一系列的作业中的位姿调整尤为重要。
发明内容
基于此,本发明提供的技术方案旨在解决现有技术中建材安装作业中对安装位姿调整的视觉检测方法精度不足、稳定性差的问题,本发明采用单个的宽视野3D相机和倾角传感器,通过图像处理和分析获得所有位姿关系的参数,为建材安装机构提供视觉引导,达到高效、精准安装材料的目的,提高视觉检测精度和稳定性。
本发明提供一种3D视觉检测装置,包括:
3D相机、倾角传感器、基准材料、安装材料、图像处理系统、控制端、安装机构。
优选地,3D相机和倾角传感器与图像处理系统连接。
优选地,3D相机用于获取基准材料和安装材料的三维点云模型。
优选地,倾角传感器用于获取相机当前位姿状态,对相机进行位姿修正,以补偿因地面不平整造成相机位姿变化引起的测量误差。
优选地,基准材料为已安装的板材,用于安装基准参考。
优选地,安装材料为待安装的板材。
优选地,图像处理系统安装在控制端上,用于对3D相机采集得到的三维点云模型进行点云分割和平面拟合,获取基准材料和安装材料的平面方程,分析相对位姿关系,计算安装所需自由度的数值。
优选地,控制端把图像处理系统计算得到的自由度数值输出给安装机构,为安装提供视觉引导。
优选地,安装机构接收所需自由度数值对安装材料进行安装作业。
优选地,利用3D相机获取初始点云I,记录此时的倾角传感器示数,根据示数对相机位姿进行相对修正;
利用图像处理系统对修正后的点云I′进行点云分割,获取分别对应基准材料和安装材料的聚类点云PL和PR,分别对聚类点云PL和PR进行平面拟合,获得分别对应基准材料和安装材料的平面方程;
图像处理系统得到两材料的平面方程后利用平面参数分析两板材的相对位姿关系,计算安装所需自由度包括俯仰角度、倾斜角度以及前后距离等的值,控制端把若干个自由度数值输出至安装机构,安装机构根据接收到的数值进行安装作业。
本发明提供一种3D视觉检测方法,包括:
S1.获取3D相机基准位姿,设置倾角传感器零点;
S2.利用3D相机获取初始点云I,记录此时倾角传感器示数,根据示数对相机位姿进行相对修正,得到修正后的点云I′;
S3.利用图像处理系统对点云进行分割,获得分别对应基准材料和安装材料的聚类点云PL和PR;
S4.分别对聚类点云PL和PR进行平面拟合,得到分别对应基准材料和安装材料的平面方程;
S5.利用平面方程的平面参数分析基准材料和安装材料的相对位姿关系,计算若干个自由度的数值,把若干个自由度数值输出给安装机构,安装机构根据视觉检测的引导进行安装作业。
优选地,基准材料为已安装材料,用于安装基准参考,安装材料为待安装材料。
优选地,步骤S1包括:
利用3D相机拍摄安装平面获取当前点云,调整3D相机和倾角传感器的位姿,使得安装平面的点云数据拟合的平面与水平面垂直,设置该位姿状态为倾角传感器的零点。
优选地,点云分割使用点云聚类算法,具体步骤包括:
S31.对点云I′进行初步的滤波和降采样处理,得到点云N,分别建立空点列P、Q,把所述点云N中索引号为0的点p0放入所述点列Q;
S32.对所述点列Q建立新索引,取出所述点列Q中索引号为0的点p0′,在所述点云N中搜索到点p0′距离小于d所有的点,形成新的点集合M;
S33.遍历所述集合M所有的点,判断所遍历的点是否在所述点列Q中,若不在所述点列Q中,则把该点放入所述点列Q,若存在于所述点列Q,则不放入;
S34.把所述点p0′从所述点列Q中移除,并放入所述点列P;
S35.重复步骤S32至S34,直至所述点列Q为空,至此输出一聚类点云P;
S36.将所述点云N中尚未聚类的点组成新的点云L,针对所述点云L,重复步骤S31-S35,直至所有的点均聚类完成,从而得到多个聚类点云Pi,其中i表示输出顺序,取值范围为(1,j),j取值为聚类运算的总次数;
S37.获取所有所述聚类点云Pi中点的数目,剔除点数过小的类,并取出点数最大的两个聚类点云,分析所述两个聚类点云的位置关系,确定所述基准材料和所述安装材料对应的点云,使所述基准材料对应的点云为所述聚类点云PL,所述安装材料对应的点云为所述聚类点云PR。
优选地,步骤S31进一步包括:
以安装材料与相机的距离范围为滤波范围,滤除在该范围外的点云数据。
优选地,步骤S31还包括:
降采样为按照点云中点的索引顺序每十个点取一个点,降采样率设为10%。
优选地,步骤S4包括:
S41.遍历所述点云中所有的点,其中点的坐标设为(x,y,z),计算其中x最大值xmax,x最小值xmin,y最大值ymax,y最小值ymin;
S42.根据步骤S41的计算结果选取感兴趣区域范围,其中x上限=(xmax-xmin)*0.8+xmin,x下限=(xmax-xmin)*0.2+xmin,y上限=(ymax-ymin)*0.8+ymin,y下限=(ymax-ymin)*0.2+ymin,取出选中的感兴趣区域范围内的点云;
S43.对步骤S42选取出的感兴趣区域范围内的点云,使用最小二乘法进行平面拟合,得到对应的平面方程;
S44.针对聚类点云PL和PR,分别进行步骤S41至S43的操作。
优选地,步骤S43包括:
一般地平面方程可表示为ax+by-z+c=0,最小二乘法为寻找一组最优参数(a,b,-1,c),使得点云中所有的点到该平面距离平方和为最小,即求解最优参数(a,b,-1,c);
设X为点云中x坐标矩阵,Y为点云中y坐标矩阵,Z为点云中z坐标矩阵,则有如式(1)-(2)所示,
aX+bY+c=Z (1)
Am=Z (3)
求解平面参数矩阵如式(4)-(6)所示,
ATAm=ATZ (4)
(ATA)-1ATAm=(ATA)-1ATZ (5)
m=(ATA)-1ATZ (6)
其中AT为A的转置矩阵,(ATA)-1为ATA的广义逆矩阵;
根据前述的式(1)-(6)分别对安装材料和基准材料的平面方程的平面参数进行求解。
优选地,步骤S5包括:
分析基准材料和安装材料的相对位姿关系,设安装材料的平面方程a1x+b1y+c1z+d1=0,基准材料的平面方程为a2x+b2y+c2z+d2=0,利用两材料的平面参数计算俯仰角度、倾斜角度和两板材前后距离的数值,把计算结果输出给安装机构。
优选地,俯仰角度的计算包括:
获取安装材料的平面法向量(a1,b1,c1),基准材料的竖直平面法向量(0,0,1);
把获取得到的两个平面法向量向YOZ平面投影,即安装材料的投影法向量为n1=(b1,c1),基准材料的竖直平面投影法向量为n2=(0,1);
根据n1×n2结果计算夹角α正负号,如果n1×n2的数值结果大于零则α取正号,否则α取负号。最终输出俯仰角度计算结果α。
优选地,倾斜角度的计算包括:
获取安装材料的平面法向量(a1,b1,c1),基准材料的平面法向量(a2,b2,c2);
把两个平面法向量向XOZ平面投影,即安装材料的投影法向量为n3=(a1,c1),基准材料法向量为n4=(a2,c2);
根据n3×n4结果计算夹角β正负号,如果n3×n4的数值结果大于零则β取正号,否则β取负号,最终输出倾斜角度计算结果β。
优选地,两材料前后距离的计算包括:
获取安装材料的平面法向量(a1,b1,c1),基准材料的平面法向量(a2,b2,c2),分别计算安装材料和基准材料的平面法向量的模|n11|和|n21|;
计算安装材料和基准材料的夹角,若夹角小于0.05°则认为两材料平行,进行前后距离计算,如果大于0.05°则认为不平行,不进行计算;
从以上技术方案可以看出,本发明具有以下优点:
本发明提供了一种3D视觉检测装置及方法,包括3D相机、倾角传感器、基准材料、安装材料、图像处理系统、控制端和安装机构;利用单个的3D相机获取基准材料和安装材料的三维点云模型,倾角传感器对相机位姿进行修正,图像处理系统使用点云聚类算法对三维点云模型分割得到对应基准材料和安装材料的聚类点云,使用最小二乘法进行平面拟合分别得到基准材料和安装材料的平面方程,利用平面参数计算材料的俯仰角度、倾斜角度、两材料的前后距离等自由度数值,控制端把计算结果输出到安装机构引导其进行安装作业;解决了现阶段视觉检测方法精度不足和稳定性差的问题;通过分析板材的所有位姿关系参数大大提高了检测精度;另外本发明中使用3D相机,由3D相机内置的结构光提供照明,无需外部打光且抗外部光干扰,减少了外部光照条件对测量的影响,测量稳定性大大提高;使用单个的3D相机便能实现检测,使结构简化,大大降低了人力物力成本。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1:本发明提供的一种实施例中3D相机拍摄初始点云示意图;
图2:本发明提供的一种实施例中使用点云聚类算法进行分割后得到的待安装板材及已安装板材的聚类点云示意图;
图3a:本发明提供的一种实施例中俯仰角度计算示意图;
图3b:本发明提供的一种实施例中倾斜角度计算示意图;
图3c:本发明提供的一种实施例中两PC墙板前后距离计算示意图;
图4:本发明提供的另一个实施例的实施流程示意图;
图5:本发明提供的另一个实施例的实施流程示意图;
其中,左图为已安装板材的聚类点云,右图为待安装板材的聚类点云。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1至图3c,本发明实施例提供一种适用于PC墙板安装的3D视觉检测装置,其装置结构包括:宽视野3D相机、倾角传感器、PC墙板A、PC墙板B、图像处理系统、控制电脑、墙板安装机构。
优选地,宽视野3D相机与倾角传感器连接。
优选地,3D相机用于获取墙板A和墙板B的三维点云模型。
优选地,倾角传感器用于获取相机当前位姿状态,对相机进行位姿修正,以补偿因地面不平整造成相机位姿变化引起的测量误差。
优选地,PC墙板A为已安装的墙板,用于安装基准参考。
优选地,PC墙板B为待安装的墙板。
优选地,图像处理系统安装在控制电脑上,用于对3D相机采集得到的三维点云模型进行分割和平面拟合,获取PC墙板A和PC墙板B的平面方程,分析两墙板的相对位姿关系,计算安装所需自由度的数值。
优选地,控制电脑把图像处理系统计算得到的自由度数值输出给安装机构,为安装提供视觉引导。
优选地,墙板安装机构接收所需自由度数值对PC墙板B进行安装作业。
S101.获取3D相机基准位姿,设置倾角传感器零点;
S102.利用3D相机获取初始点云I,记录此时倾角传感器示数,根据示数对相机位姿进行相对修正,得到修正后的点云I′;
S103.利用图像处理系统对点云进行分割,获得对应墙板A和墙板B的聚类点云PL和PR;
S104.分别对聚类点云PL和PR进行平面拟合,得到对应墙板A和墙板B的平面方程;
S105.利用平面方程的平面参数分析墙板A和墙板B的相对位姿关系,计算若干个自由度的数值,控制电脑把若干个自由度数值输出给安装机构,墙板安装机构根据视觉检测的引导进行墙板安装作业。
优选地,步骤S101包括:
利用3D相机拍摄安装平面获取当前点云,调整3D相机和倾角传感器的位姿,使得安装平面的点云数据拟合的平面与水平面垂直,设置该位姿状态为倾角传感器的零点。
优选地,步骤S103包括:
根据墙板点云I′的深度信息对点云进行滤波,得到滤波后的点云I″;
对点云I″进行降采样,得到点云N;
对点云N使用点云聚类算法进行点云分割,获得对应墙板A和墙板B的聚类点云PL和PR。
优选地,滤波进一步包括:
以墙板B与相机的距离范围为滤波范围,滤除在该范围外的点云数据。
优选地,降采样进一步包括:
按照点云中点的的索引顺序每十个点取一个点,降采样率设为10%。
优选地,点云聚类算法进行点云分割进一步包括:
S1031.输入点云N,分别建立空点列P、Q,把点云N中索引号为0的点p0放入点列Q;
S1032.对点列Q建立新索引,取出点列Q中索引号为0的点p0′,在点云N中搜索到点p0′距离小于d所有的点,把所有点形成新的点集合M;
S1033.遍历集合M所有的点,判断所遍历的点是否在点列Q中,若不在点列Q中,则把该点放入点列Q,若存在于点列Q,则不放入;
S1034.把点p0′从点列Q中移除,并放入点列P;
S1035.重复步骤S1032至S1034,直至点列Q为空,至此输出一聚类点云P;
S1036.将点云N中尚未聚类的点组成新的点云L,针对新的点云L,重复步骤S1031-S1035,直至所有的点均聚类完成,从而得到多个聚类点云Pi,其中i表示输出顺序,取值范围为(1,j),j取值为聚类运算的总次数;
S1037.获取所有聚类点云Pi中点的数目,剔除点数过小的类,并取出点数最大的两个聚类点云;
S1038.分析步骤S1037中取出的两个聚类点云的位置关系,确定墙板A和墙板B对应的点云,使墙板A对应的点云为PL,墙板B对应的点云为PR,如图2所示,本发明实施例中对墙板的安装顺序为从左至右,则图2中的左图表示已安装墙板A的聚类点云PL,右图表示待安装墙板B的聚类点云PR。
优选地,步骤S104包括:
S1041.遍历点云中所有的点,其中点的坐标设为(x,y,z),计算其中x最大值xmax,x最小值xmin,y最大值ymax,y最小值ymin;
S1042.根据步骤S1041的计算结果选取感兴趣区域范围,其中x上限=(xmax-xmin)*0.8+xmin,x下限=(xmax-xmin)*0.2+xmin,y上限=(ymax-ymin)*0.8+ymin,y下限=(ymax-ymin)*0.2+ymin,取出选中的感兴趣区域范围内的点云;
S1043.对步骤S1042选取出的感兴趣区域范围内的点云,使用最小二乘法进行平面拟合,得到对应的平面方程;
S1044.针对两墙板的聚类点云PL和PR,分别进行步骤S1041至S1043的操作。
优选地,步骤S1043包括:
设X为点云中x坐标矩阵,Y为点云中y坐标矩阵,Z为点云中z坐标矩阵,则有如式(1)-(2)所示,
aX+bY+c=Z (1)
Am=Z (3)
求解平面参数矩阵如式(4)-(6)所示,
ATAm=ATZ (4)
(ATA)-1ATAm=(ATA)-1ATZ (5)
m=(ATA)-1ATZ (6)
其中AT为A的转置矩阵,(ATA)-1为ATA的广义逆矩阵;
根据前述的式(1)-(6)分别对安装材料和基准材料的平面方程的平面参数进行求解。
优选地,步骤S105包括:
分析墙板A和墙板B的相对位姿关系,设墙板B的平面方程a1x+b1y+c1z+d1=0,墙板A的平面方程为a2x+b2y+c2z+d2=0,利用两墙板的平面参数计算俯仰角度、倾斜角度和两墙板前后距离的数值,把计算结果输出给墙板安装机构。
优选地,如图3a所示,计算俯仰角度包括:
获取墙板B的平面法向量(a1,b1,c1),墙板A的竖直平面法向量(0,0,1);
把获取的两个平面法向量向YOZ平面投影,即墙板B的投影法向量为n1=(b1,c1),墙板A的竖直平面投影法向量为n2=(0,1);
根据n1×n2结果计算夹角α正负号,如果n1×n2的数值结果大于零则α取正号,否则α取负号。最终输出墙板俯仰角度计算结果α,。
优选地,如图3b所示,计算倾斜角度包括:
获取墙板B的平面法向量(a1,b1,c1),墙板A的平面法向量(a2,b2,c2);
把获取的两个平面法向量向XOZ平面投影,即墙板B的投影法向量为n3=(a1,c1),墙板A法向量为n4=(a2,c2);
根据n3×n4结果计算夹角β正负号,如果n3×n4的数值结果大于零则β取正号,否则β取负号,最终输出墙板倾斜角度计算结果β。
优选地,如图3c所示,计算两墙板的前后距离包括:
获取墙板B的平面法向量(a1,b1,c1),墙板A的平面法向量(a2,b2,c2),分别计算墙板B和墙板A的平面法向量的模|n11|和|n21|;
计算墙板B和墙板A的夹角,若夹角小于0.05°则认为两墙板平行,进行前后距离计算,如果大于0.05°则认为不平行,不进行计算;
控制电脑把前述计算得到的俯仰角度、倾斜角度、前后距离的结果输出给墙板安装机构,安装机构根据计算结果对待安装墙板B进行安装作业。
以上只是本发明的一个实施例,下面介绍本发明的另一实施例。
请参阅图4,本发明实施例提供一种适用于刚性板材安装的3D视觉检测方法,包括:
S201.获取3D相机基准位姿,设置倾角传感器零点;
S202.利用3D相机获取初始点云I,记录此时倾角传感器示数,根据示数对相机位姿进行相对修正,得到修正后的点云I′;
S203.利用图像处理系统对点云进行分割,获得分别对应板材A和板材B的聚类点云PL和PR;
S204.分别对聚类点云PL和PR进行平面拟合,得到分别对应板材A和板材B的平面方程;
S205.利用平面方程的平面参数分析板材A和板材B的相对位姿关系,计算若干个自由度的数值,控制台把若干个自由度数值输出给安装机构,安装机构根据视觉检测的引导进行安装作业。
优选地,板材A为已安装板材,用于安装基准参考,板材B为待安装板材。
优选地,步骤S201包括:
利用3D相机拍摄安装平面获取当前点云,调整3D相机和倾角传感器的位姿,使得安装平面的点云数据拟合的平面与水平面垂直,设置该位姿状态为倾角传感器的零点。
优选地,步骤S203包括:
根据点云I′的深度信息对点云进行滤波,得到滤波后的点云I″;
对点云I″进行降采样,得到点云N;
对点云N使用点云聚类算法进行点云分割,获得对应板材A和板材B的聚类点云PL和PR。
优选地,滤波进一步包括:
以板材B与相机的距离范围为滤波范围,滤除在该范围外的点云数据。
优选地,降采样进一步包括:
按照点云中点的索引顺序每十个点取一个点,降采样率设为10%。
优选地,点云聚类算法进行点云分割进一步包括:
S2031.输入点云N,分别建立空点列P、Q,把点云N中索引号为0的点p0放入点列Q;
S2032.对点列Q建立新索引,取出点列Q中索引号为0的点p0′,在点云N中搜索到点p0′距离小于d所有的点,把所有点形成新的点集合M;
S2033.遍历集合M所有的点,判断所遍历的点是否在点列Q中,若不在点列Q中,则把该点放入点列Q,若存在于点列Q,则不放入;
S2034.把点p0′从点列Q中移除,并放入点列P;
S2035.重复步骤S2032至S2034,直至点列Q为空,至此输出一聚类点云P;
S2036.将点云N中尚未聚类的点组成新的点云L,针对新的点云L,重复步骤S20331-S20335,直至所有的点均聚类完成,从而得到多个聚类点云Pi,其中i表示输出顺序,取值范围为(1,j),j取值为聚类运算的总次数;
S2037.获取所有聚类点云Pi中点的数目,剔除点数过小的类,并取出点数最大的两个聚类点云;
S2038.分析步骤S2037中取出的两个聚类点云的位置关系,确定板材A和板材B对应的点云,使板材A对应的点云为PL,板材B对应的点云为PR,一般地若板材从左向右安装,则板材B在板材A的右边,则步骤S20337中,相对位置在右边的为板材B的点云,左边的为板材A的点云;若板材从右向左安装,则相反。
优选地,步骤S204包括:
S2041.遍历点云中所有的点,其中点的坐标设为(x,y,z),计算其中x最大值xmax,x最小值xmin,y最大值ymax,y最小值ymin;
S2042.根据步骤S2041的计算结果选取感兴趣区域范围,其中x上限=(xmax-xmin)*0.8+xmin,x下限=(xmax-xmin)*0.2+xmin,y上限=(ymax-ymin)*0.8+ymin,y下限=(ymax-ymin)*0.2+ymin,取出选中的感兴趣区域范围内的点云;
S2043.对步骤S2042选取出的感兴趣区域范围内的点云,使用最小二乘法进行平面拟合,得到对应的平面方程;
S2044.针对聚类点云PL和PR,分别进行步骤S2041至S2043的操作。
优选地,步骤S2043包括:
设X为点云中x坐标矩阵,Y为点云中y坐标矩阵,Z为点云中z坐标矩阵,则有如式(1)-(2)所示,
aX+bY+c=Z (1)
Am=Z (3)
求解平面参数矩阵如式(4)-(6)所示,
ATAm=ATZ (4)
(ATA)-1ATAm=(ATA)-1ATZ (5)
m=(ATA)-1ATZ (6)
其中AT为A的转置矩阵,(ATA)-1为ATA的广义逆矩阵,
根据前述的式(1)-(6)分别对板材B和板材A的平面方程的平面参数进行求解。
优选地,步骤S205包括:
分析板材A和板材B的相对位姿关系,设板材B的平面方程a1x+b1y+c1z+d1=0,板材A的平面方程为a2x+b2y+c2z+d2=0,利用两板材的平面参数计算俯仰角度、倾斜角度和两板材前后距离的数值,把计算结果输出给安装机构。
优选地,计算俯仰角度包括:
获取板材B的平面法向量(a1,b1,c1),板材A的竖直平面法向量(0,0,1);
把步骤S511获取的两个平面法向量向YOZ平面投影,即板材B的投影法向量为n1=(b1,c1),板材A的竖直平面投影法向量为n2=(0,1);
根据n1×n2结果计算夹角α正负号,如果n1×n2的数值结果大于零则α取正号,否则α取负号。最终输出俯仰角度计算结果α。
优选地,计算倾斜角度包括:
获取板材B的平面法向量(a1,b1,c1),板材A的平面法向量(a2,b2,c2);
把步骤S20521获取的两个平面法向量向XOZ平面投影,即板材B的投影法向量为n3=(a1,c1),板材B法向量为n4=(a2,c2);
根据n3×n4结果计算夹角β正负号,如果n3×n4的数值结果大于零则β取正号,否则β取负号,最终输出倾斜角度计算结果β。
优选地,计算两板材的前后距离包括:
获取板材B的平面法向量(a1,b1,c1),板材A的平面法向量(a2,b2,c2),分别计算板材B和板材A的平面法向量的模|n11|和|n21|;
计算板材B和板材A的夹角,若夹角小于0.05°则认为两板材平行,进行前后距离计算,如果大于0.05°则认为不平行,不进行计算;
控制台把前述的俯仰角度、倾斜角度和板材前后距离输出至板材安装机构,安装机构根据计算结果对板材进行安装作业。
下面介绍本发明的另一实施例,本发明的技术方案还可以应用于安装后续的一系列工序,进行全局的视觉引导,消除局部视觉引导引起的累计误差,简化工序流程的同时提高了作业自动化水平,降低人力物力成本,本发明实施例提供一种适用于墙板安装全局对齐的3D视觉检测装置,区别于局部对齐的方法,本实施例可以消除相邻墙板对齐的累计误差,简化工序流程,其装置结构包括:宽视野3D相机、倾角传感器、横梁、待安装墙板、图像处理系统、控制电脑、墙板安装机构。
优选地,宽视野3D相机与倾角传感器固定在一起。
优选地,3D相机用于获取横梁和待安装墙板的三维点云模型。
优选地,倾角传感器用于获取相机当前位姿状态,对相机进行位姿修正,以补偿因地面不平整造成相机位姿变化引起的测量误差。
优选地,横梁作为参考,用于墙板安装对齐基准。
优选地,图像处理系统安装在控制电脑上,用于对3D相机采集得到的三维点云模型进行分割和平面拟合,获取横梁和待安装墙板的平面方程,分析横梁和待安装墙板的相对位姿关系,计算安装所需自由度的数值。
优选地,控制电脑把图像处理系统计算得到的自由度数值输出给安装机构,为安装提供视觉引导。
优选地,墙板安装机构接收所需自由度数值对待安装墙板进行安装作业。
请参阅图5,
S301.获取3D相机基准位姿,设置倾角传感器零点;
S302.利用3D相机获取初始点云I,记录此时倾角传感器示数,根据示数对相机位姿进行相对修正,得到修正后的点云I′;
S303.利用图像处理系统对点云进行分割,获得分别对应横梁和待安装墙板的聚类点云PL和PR;
S304.分别对聚类点云PL和PR进行平面拟合,得到对应横梁和待安装墙板的平面方程;
S305.利用平面方程的平面参数分析横梁和待安装墙板的相对位姿关系,计算若干个自由度的数值,控制电脑把若干个自由度数值输出给安装机构,墙板安装机构根据视觉检测的引导进行墙板安装作业。
优选地,步骤S301包括:
利用3D相机拍摄安装平面获取当前点云,调整3D相机和倾角传感器的位姿,使得安装平面的点云数据拟合的平面与水平面垂直,设置该位姿状态为倾角传感器的零点。
优选地,步骤S303包括:
根据墙板点云I′的深度信息对点云进行滤波,得到滤波后的点云I″;
对点云I″进行降采样,得到点云N;
对点云N使用点云聚类算法进行点云分割,获得对应横梁和待安装墙板的聚类点云PL和PR。
优选地,滤波进一步包括:
以墙板与相机的距离范围为滤波范围,滤除在该范围外的点云数据。
优选地,降采样进一步包括:
按照点云中点的索引顺序每十个点取一个点,降采样率设为10%。
优选地,点云聚类算法进行点云分割包括:
S3031.横梁总处于一固定高度,以该固定高度为分割点,先把点云N分割成两部分,该固定高度以上为包含横梁的点云PA,以下为包含待安装墙板的点云PB;
S3032.针对步骤S3031初步分割后的点云P1,建立空点列P、Q,把点云N中索引号为0的点p0放入点列Q;
S3033.对点列Q建立新索引,取出点列Q中索引号为0的点p0′,在点云PA中搜索到点p0′距离小于d所有的点,形成新的点集合M;
S3034.遍历集合M所有的点,判断所遍历的点是否在点列Q中,若不在点列Q中,则把该点放入点列Q,若存在于点列Q,则不放入;
S3035.把点p0′从点列Q中移除,并放入点列P;
S3036.重复步骤S3033至S3035,直至点列Q为空,至此输出一聚类点云P;
S3037.将点云PB中尚未聚类的点组成新的点云L,针对新的点云L,重复步骤S3032-S3035,直至所有的点均聚类完成,从而得到多个聚类点云Pi,其中i表示输出顺序,取值范围为(1,j),j取值为聚类运算的总次数,获取所有聚类点云Pi中点的数目,剔除点数过小的类;
S3038.对点云PB重复步骤S3032至S3033的操作;
S3039.针对包含横梁的点云PA得到的多个聚类点云,其中点云数目最多的即为横梁点云PL,针对包含待安装墙板的点云PB,取出点数最大的两个聚类点云,分析取出的两个聚类点云的位置关系,本发明实施例中对墙板的安装顺序为从左至右,则相对位置在左的表示已安装墙板的聚类点云,相对位置在右的表示待安装墙板的聚类点云PR。
优选地,步骤S304包括:
S3041.遍历点云中所有的点,其中点的坐标设为(x,y,z),计算其中x最大值xmax,x最小值xmin,y最大值ymax,y最小值ymin;
S3042.根据步骤S1041的计算结果选取感兴趣区域范围,其中x上限=(xmax-xmin)*0.8+xmin,x下限=(xmax-xmin)*0.2+xmin,y上限=(ymax-ymin)*0.8+ymin,y下限=(ymax-ymin)*0.2+ymin,取出选中的感兴趣区域范围内的点云;
S3043.对步骤S3042选取出的感兴趣区域范围内的点云,使用最小二乘法进行平面拟合,得到对应的平面方程;
S3044.针对横梁和待安装墙板的聚类点云PL和PR,分别进行步骤S3041至S3043的操作。
优选地,步骤S3043包括:
设X为点云中x坐标矩阵,Y为点云中y坐标矩阵,Z为点云中z坐标矩阵,则有如式(1)-(2)所示,
aX+bY+c=Z (1)
Am=Z (3)
求解平面参数矩阵如式(4)-(6)所示,
ATAm=ATZ (4)
(ATA)-1ATAm=(ATA)-1ATZ (5)
m=(ATA)-1ATZ (6)
其中AT为A的转置矩阵,(ATA)-1为ATA的广义逆矩阵;
根据前述的式(1)-(6),分别对横梁和待安装墙板的平面参数进行求解。
优选地,步骤S305包括:
分析横梁和待安装墙板的相对位姿关系,设待安装墙板的平面方程a1x+b1y+c1z+d1=0,横梁的平面方程为a2x+b2y+c2z+d2=0,利用两者的平面参数计算俯仰角度、倾斜角度和两者前后距离的数值,把计算结果输出给墙板安装机构。
优选地,计算俯仰角度包括:
获取待安装墙板的平面法向量(a1,b1,c1),横梁的竖直平面法向量(0,0,1);
把步骤S40511获取的两个平面法向量向YOZ平面投影,即待安装墙板的投影法向量为n1=(b1,c1),横梁的竖直平面投影法向量为n2=(0,1);
根据n1×n2结果计算夹角α正负号,如果n1×n2的数值结果大于零则α取正号,否则α取负号。最终输出两者俯仰角度计算结果α,。
优选地,计算倾斜角度包括:
获取待安装墙板的平面法向量(a1,b1,c1),横梁的平面法向量(a2,b2,c2);
把步骤S40521获取的两个平面法向量向XOZ平面投影,即待安装墙板的投影法向量为n3=(a1,c1),横梁法向量为n4=(a2,c2);
根据n3×n4结果计算夹角β正负号,如果n3×n4的数值结果大于零则β取正号,否则β取负号,最终输出墙板倾斜角度计算结果β。
优选地,计算两者的前后距离包括:
获取待安装墙板的平面法向量(a1,b1,c1),横梁的平面法向量(a2,b2,c2),分别计算待安装墙板和横梁的平面法向量的模|n11|和|n21|;
计算待安装墙板和横梁的夹角,若夹角小于0.05°则认为两者平行,进行前后距离计算,如果大于0.05°则认为不平行,不进行计算;
控制电脑把前述计算得到的俯仰角度、倾斜角度、前后距离的结果输出给墙板安装机构,安装机构根据计算结果对待安装墙板进行安装作业。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。
Claims (10)
1.一种3D视觉检测装置,其特征在于,包括:3D相机、倾角传感器、基准材料、安装材料、图像处理系统、控制端、安装机构;
所述3D相机和所述倾角传感器与图像处理系统连接;所述3D相机用于获取所述基准材料和所述安装材料的三维点云模型;所述倾角传感器用于获取所述3D相机当前位姿状态,对所述3D相机进行位姿修正,以补偿所述3D相机位姿变化引起的测量误差;所述图像处理系统安装在所述控制端上;利用所述图像处理系统进行点云分割,获取分别对应所述基准材料和所述安装材料的聚类点云,对所述聚类点云进行拟合,获得分别对应所述基准材料和所述安装材料的平面拟合方程;针对所述聚类点云,在所述平面拟合之前分别进行感兴趣区域范围选取;所述控制端把所述图像处理系统计算得到的自由度数值输出给所述安装机构,为安装提供视觉引导;所述安装机构接收所述自由度数值对安装材料进行安装作业。
2.根据权利要求1所述的3D视觉检测装置,其特征在于,所述图像处理系统对所述3D相机采集得到的所述三维点云模型进行点云分割、拟合,分析相对位姿关系,计算所述自由度数值。
3.根据权利要求1所述的3D视觉检测装置,其特征在于,所述基准材料为已安装的材料,用于安装基准参考;所述安装材料为待安装的材料。
4.根据权利要求1所述的3D视觉检测装置,其特征在于,利用所述3D相机获取初始点云,记录此时的倾角传感器示数,根据所述示数对所述3D相机位姿进行相对修正;所述图像处理系统得到所述拟合方程后利用方程参数分析所述两材料的相对位姿关系,计算所述自由度数值,所述控制端把所述自由度数值输出至所述安装机构,所述安装机构根据接收到的所述若干个自由度数值进行安装作业。
5.一种3D视觉检测方法,其特征在于,所述3D视觉检测方法包括以下步骤:
S1.获取3D相机基准位姿,设置倾角传感器零点;
S2.利用所述3D相机获取初始点云I,记录此时所述倾角传感器示数,根据所述示数对所述3D相机位姿进行相对修正,得到点云I′;
S3.利用图像处理系统对所述点云I′进行点云分割,获得分别对应基准材料和安装材料的聚类点云;
S4.分别对步骤S3获取的所述两个聚类点云进行平面拟合,得到分别对应所述基准材料和所述安装材料的平面方程;其中,针对所述聚类点云,在所述平面拟合之前分别进行感兴趣区域范围选取;
S5.利用所述平面方程的方程参数分析所述基准材料和所述安装材料的相对位姿关系,计算自由度的数值,引导安装机构进行安装作业。
6.根据权利要求5所述的3D视觉检测方法,其特征在于,步骤S1包括:利用所述3D相机拍摄安装平面获取当前点云,调整所述3D相机和所述倾角传感器的位姿,使得所述安装平面的所述点云数据拟合的平面与水平面垂直,设置当前位姿状态为所述倾角传感器的零点。
7.根据权利要求5所述的3D视觉检测方法,其特征在于,所述点云分割使用点云聚类算法,所述点云聚类算法包括以下步骤:
S31.对点云I′进行初步的滤波和降采样处理,得到点云N,分别建立空点列P、Q,把所述点云N中索引号为0的点p0放入所述点列Q;
S32.对所述点列Q建立新索引,取出所述点列Q中索引号为0的点p0′,在所述点云N中搜索到点p0′距离小于d所有的点,形成新的点集合M;
S33.遍历所述集合M所有的点,判断所遍历的点是否在所述点列Q中,若不在所述点列Q中,则把该点放入所述点列Q,若存在于所述点列Q,则不放入;
S34.把所述点p0′从所述点列Q中移除,并放入所述点列P;
S35.重复步骤S32至S34,直至所述点列Q为空,至此输出一聚类点云P;
S36.将所述点云N中尚未聚类的点组成新的点云L,针对所述点云L,重复步骤S31-S35,直至所有的点均聚类完成,从而得到多个聚类点云Pi,其中i表示输出顺序,取值范围为(1,j),j取值为聚类运算的总次数;
S37.获取所有所述聚类点云Pi中点的数目,剔除点数过小的类,并取出点数最大的两个聚类点云,分析所述两个聚类点云的位置关系,确定所述基准材料和所述安装材料对应的点云,使所述基准材料对应的点云为所述聚类点云PL,所述安装材料对应的点云为所述聚类点云PR。
8.根据权利要求5所述的3D视觉检测方法,其特征在于,所述感兴趣区域范围的选取包括:针对所述聚类点云PL和PR,分别对所述两个聚类点云中的所有点遍历,其中点坐标设为设为(x,y),分别计算x最大值xmax,x最小值xmin,y最大值ymax,y最小值ymin,范围上下限的选取为x上限=(xmax-xmin)*0.8+xmin,x下限=(xmax-xmin)*0.2+xmin,y上限=(ymax-ymin)*0.8+ymin,y下限=(ymax-ymin)*0.2+ymin。
9.根据权利要求5所述的3D视觉检测方法,其特征在于,所述平面拟合使用最小二乘法。
10.根据权利要求5所述的3D视觉检测方法,其特征在于,所述自由度进一步包括:俯仰角度、倾斜角度、所述两材料的前后距离。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910696986.3A CN110411340B (zh) | 2019-07-30 | 2019-07-30 | 一种3d视觉检测装置及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910696986.3A CN110411340B (zh) | 2019-07-30 | 2019-07-30 | 一种3d视觉检测装置及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110411340A CN110411340A (zh) | 2019-11-05 |
CN110411340B true CN110411340B (zh) | 2021-04-27 |
Family
ID=68364612
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910696986.3A Active CN110411340B (zh) | 2019-07-30 | 2019-07-30 | 一种3d视觉检测装置及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110411340B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111006676B (zh) * | 2019-11-14 | 2021-08-31 | 广东博智林机器人有限公司 | 地图构建方法、装置及系统 |
CN111982009A (zh) * | 2020-02-26 | 2020-11-24 | 深圳市安达自动化软件有限公司 | 一种拉杆箱3d尺寸检测系统及方法 |
CN211877747U (zh) * | 2020-04-23 | 2020-11-06 | 苏州必为智能控制科技有限公司 | 3d视觉检测设备 |
CN111664791B (zh) * | 2020-04-30 | 2022-02-15 | 广东博智林机器人有限公司 | 测量仪和造楼系统 |
CN113012289B (zh) * | 2021-02-02 | 2021-11-12 | 广东领盛装配式建筑科技有限公司 | 一种建筑室内观感质量衡量方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107292947A (zh) * | 2016-03-31 | 2017-10-24 | 上海宝冶集团有限公司 | 基于三维扫描及逆向建模的建筑钢结构数字化预拼装方法 |
CN109940606A (zh) * | 2019-01-29 | 2019-06-28 | 中国工程物理研究院激光聚变研究中心 | 基于点云数据的机器人引导系统及方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8442304B2 (en) * | 2008-12-29 | 2013-05-14 | Cognex Corporation | System and method for three-dimensional alignment of objects using machine vision |
CN106005359B (zh) * | 2016-06-16 | 2018-02-16 | 沈阳飞机工业(集团)有限公司 | 一种基于数字化测量的飞机舱盖连接锁安装方法 |
CN106584090B (zh) * | 2016-12-26 | 2018-10-02 | 清华大学 | 基于结构光三维测量系统的工件装配方法 |
CN106840106B (zh) * | 2016-12-31 | 2019-04-02 | 重庆大学 | 基站式六自由度对接位姿检测方法 |
CN107052776A (zh) * | 2017-02-14 | 2017-08-18 | 上海大花自动化科技股份有限公司 | 一种三维引导自动锁微小型螺丝装置 |
CN108827255B (zh) * | 2018-04-20 | 2020-10-23 | 中铁九局集团第二工程有限公司 | 一种基于bim的钢混组合结构索塔的索鞍测量方法 |
CN109101761B (zh) * | 2018-09-12 | 2020-04-28 | 大连理工大学 | 一种基于实测表面形貌的装配接触的空间姿态确定方法 |
CN109978991B (zh) * | 2019-03-14 | 2020-11-17 | 西安交通大学 | 基于视觉快速实现复杂构件装夹位姿误差在线测量的方法 |
CN110006402B (zh) * | 2019-04-25 | 2021-03-09 | 北京航空航天大学 | 一种大型部件对接装配相对位姿的视觉测量系统和测量方法 |
-
2019
- 2019-07-30 CN CN201910696986.3A patent/CN110411340B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107292947A (zh) * | 2016-03-31 | 2017-10-24 | 上海宝冶集团有限公司 | 基于三维扫描及逆向建模的建筑钢结构数字化预拼装方法 |
CN109940606A (zh) * | 2019-01-29 | 2019-06-28 | 中国工程物理研究院激光聚变研究中心 | 基于点云数据的机器人引导系统及方法 |
Non-Patent Citations (2)
Title |
---|
基于K-means聚类方法的三维点云模型分割;孙红岩等;《计算机工程与应用》;20061031;全文 * |
点云和视觉特征融合的增强现实装配系统三维跟踪注册方法;王月等;《西北工业大学学报》;20190228;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110411340A (zh) | 2019-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110411340B (zh) | 一种3d视觉检测装置及方法 | |
CN110017773B (zh) | 一种基于机器视觉的包裹体积测量方法 | |
CN109598762B (zh) | 一种高精度双目相机标定方法 | |
CN111089569B (zh) | 一种基于单目视觉的大型箱体测量方法 | |
CN110490867B (zh) | 基于深度学习的金属增材制造成形尺寸实时预测方法 | |
CN108562250B (zh) | 基于结构光成像的键盘键帽平整度快速测量方法与装置 | |
CN104537707B (zh) | 像方型立体视觉在线移动实时测量系统 | |
CN110443879B (zh) | 一种基于神经网络的透视误差补偿方法 | |
CN1158684A (zh) | 自动图像监视器校准系统中坐标转换的方法与装置 | |
CN114399554A (zh) | 一种多相机系统的标定方法及系统 | |
CN111623942B (zh) | 一种单向振动台试验结构模型位移测量方法 | |
CN106952262B (zh) | 一种基于立体视觉的船板加工精度分析方法 | |
CN114283201A (zh) | 相机标定方法、装置和路侧设备 | |
CN115014248B (zh) | 一种激光投射线的识别与平面度判定方法 | |
CN115639547A (zh) | 多线激光雷达与gnss_ins联合标定方法、系统及介质 | |
CN114170402A (zh) | 隧洞结构面提取方法、装置 | |
CN111047636A (zh) | 基于主动红外双目视觉的避障系统和避障方法 | |
CN113313116A (zh) | 一种基于视觉的水下人工目标准确检测与定位方法 | |
CN112712566B (zh) | 基于结构参数在线校正的双目立体视觉传感器测量方法 | |
CN114001651A (zh) | 一种基于双目视觉测量和先验检测数据的大型细长筒类构件位姿原位测量方法 | |
CN116958218A (zh) | 一种基于标定板角点对齐的点云与图像配准方法及设备 | |
CN112985259A (zh) | 基于多目视觉的目标定位方法及系统 | |
CN111964595A (zh) | 综采工作面液压支架支撑高度和顶梁倾角测量装置 | |
CN113393413A (zh) | 基于单目与双目视觉协同的水域面积测量方法和系统 | |
EP4120190A1 (en) | Method for inspecting an object |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |