CN109470149A - 一种管路位姿的测量方法及装置 - Google Patents
一种管路位姿的测量方法及装置 Download PDFInfo
- Publication number
- CN109470149A CN109470149A CN201811519427.7A CN201811519427A CN109470149A CN 109470149 A CN109470149 A CN 109470149A CN 201811519427 A CN201811519427 A CN 201811519427A CN 109470149 A CN109470149 A CN 109470149A
- Authority
- CN
- China
- Prior art keywords
- pipeline
- pose
- image
- image information
- pixel point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种管路位姿的测量方法及装置,该管路位姿的测量方法包括:获取管路的图像信息;根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,根据所述图像信息,获取所述管路的边缘像素点;根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。本发明实施例通过获取的管路的图像信息分别得到通过管路中心线表示的第一位姿和管路的边缘像素点,通过拟合获得了表示管路的形状和结构的第二位姿,从而实现了对管路位姿的自动测量。
Description
技术领域
本发明涉及管路测量技术领域,特别涉及一种管路位姿的测量方法及装置。
背景技术
管路广泛应用于航空、航天和汽车等行业,其装配质量及效率直接影响产品的性能和生产周期。管路系统装配时,数控成形后的导管与连接件、以及管路与管路之间需进行焊接,而每组管路组件之间存在相对复杂的空间位置关系。目前工程中多数仍依靠工人将导管或管路放置在搭建好的组合夹具上,确定其位姿后再进行焊接,存在人工操作繁琐、容易出错及效率低等问题。近年来基于机器视觉的测量方法得到快速发展,该方法具有高效、灵活、非接触等优点,且检测精度较高。通过视觉测量方法从场景中计算管路的三维位姿,并由机器人对管路进行装配作业,可有效提高管路装配精度及效率。而管路位姿的精确测量是管路装配过程中最重要的一环,对实现自动化的管路装配具有重要的意义。
目前,许多学者对物体的位姿测量方法进行了大量的研究。基于机器视觉的位姿测量方法的核心是从物体的二维图像上恢复三维信息,通过提取二维图像特征,如兴趣点、兴趣区域等,建立二维图像到目标三维模型的2D-3D特征投影对应关系,从而实现目标物体的位姿测量,在实际应用中,该类方法主要应用于具有显著纹理、形状等特征的物体,如利用卫星的结构特征对卫星定位等,而对于无纹理、缺少鲜明结构特征的物体,难以利用这类方法进行位姿测量。
针对无纹理物体的位姿测量,金鹏提出了一种基于多目视觉的管路重建方法,可同时获取管路的三维模型及位姿信息。该方法将长度为4mm的圆柱体作为几何基元,利用多目视觉技术匹配基元到各图像中的投影与导管轮廓确定基元位姿,构成导管离散模型,该方法取得了较好的三维重建效果,但对硬件要求高,且无法满足管路自动化装配时的实时性要求;Hinterstoisser、Zhang提出了一种基于梯度响应图的模板匹配方法,首先对物体的边缘梯度方向进行二进制编码,然后利用相似性测量函数在模板集中寻找与实测图片最相似的模板,将此模板所表征的位姿作为测量结果,但是这种方法的测量精度严重依赖于模板库的大小,且计算量大、效率低,容易受到噪声的干扰。
管路表面光滑,无法获取其表面纹理特征;此外,管路外形均匀,缺少鲜明的几何形状特征,因此传统的基于特征的位姿测量方法无法应用于管路,也无法满足管路位姿测量自动化装配的实时性要求。
发明内容
本发明实施例要解决的技术问题是提供一种管路位姿的测量方法及装置,用以实现对管路位姿的自动测量。
为解决上述技术问题,本发明实施例提供了一种管路位姿的测量方法,包括:
获取管路的图像信息;
根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
根据所述图像信息,获取所述管路的边缘像素点;
根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。
优选的,所述获取管路的图像信息的步骤包括:
获取所述管路的第一图像;
对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;
根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
优选的,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述根据所述图像信息,获得表示所述管路的空间位姿的第一位姿的步骤包括:
根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;
依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;
根据多个所述第三线段,获得所述第一位姿。
优选的,所述根据所述图像信息,获取所述管路的边缘像素点的步骤包括:
根据所述图像信息,构建所述管路的投影模型;
通过共线方程将所述投影模型投影至第三图像上;
根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;
根据预设半径和所述中心线骨架,确定投影边缘线;
将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
优选的,所述根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿的步骤包括:
对所述边缘像素点中满足预设条件的像素点建立观测方程;
根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;
通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;
根据求解结果和所述第一位姿,拟合获得所述第二位姿。
根据本发明另一方面,本发明实施例还提供了一种管路位姿的测量装置,包括:
第一获取模块,用于获取管路的图像信息;
第二获取模块,用于根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
第三获取模块,用于根据所述图像信息,获取所述管路的边缘像素点;
拟合模块,用于根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。
优选的,所述第一获取模块包括:
第一获取单元,用于获取所述管路的第一图像;
第二获取单元,用于对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;
第三获取单元,用于根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
优选的,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述第二获取模块包括:
第四获取单元,用于根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;
第五获取单元,用于依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;
第六获取单元,用于根据多个所述第三线段,获得所述第一位姿。
优选的,第三获取模块包括:
第一构建单元,用于根据所述图像信息,构建所述管路的投影模型;
处理单元,用于通过共线方程将所述投影模型投影至第三图像上;
计算单元,用于根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;
第一确定单元,用于根据预设半径和所述中心线骨架,确定投影边缘线;
第二确定单元,用于将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
优选的,所述拟合模块包括:
第二构建单元,用于对所述边缘像素点中满足预设条件的像素点建立观测方程;
第七获取单元,用于根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;
求解单元,用于通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;
拟合单元,用于根据求解结果和所述第一位姿,拟合获得所述第二位姿。
根据本发明另一方面,本发明实施例还提供了一种测量装置,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上所述的管路位姿的测量方法的步骤。
根据本发明另一方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如上所述的管路位姿的测量方法的步骤。
与现有技术相比,本发明实施例提供的一种管路位姿的测量方法及装置,至少具有以下有益效果:本发明实施例通过获取的管路的图像信息分别得到通过管路中心线表示的第一位姿和管路的边缘像素点,通过拟合获得了表示管路的形状和结构的第二位姿,从而实现了对管路位姿的自动测量。
附图说明
图1为本发明实施例的管路位姿的测量方法的流程图;
图2为本发明实施例的管路位姿的测量装置的结构示意图;
图3为本发明实施例的图像视差原理示意图;
图4为本发明实施例的边缘像素点提取的示意图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。在下面的描述中,提供诸如具体的配置和组件的特定细节仅仅是为了帮助全面理解本发明的实施例。因此,本领域技术人员应该清楚,可以对这里描述的实施例进行各种改变和修改而不脱离本发明的范围和精神。另外,为了清楚和简洁,省略了对已知功能和构造的描述。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。
在本发明的各种实施例中,应理解,下述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
在本申请所提供的实施例中,应理解,“与A相应的B”表示B与A相关联,根据A可以确定B。但还应理解,根据A确定B并不意味着仅仅根据A确定B,还可以根据A和/或其它信息确定B。
参见图1,本发明实施例提供了一种管路位姿的测量方法,包括:
步骤101,获取管路的图像信息;
这里,所述获取管路的图像信息的步骤可以包括:
获取所述管路的第一图像;对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
由于图像中存在不可避免的噪声,因此需要通过预处理(可以包括去噪、增强对比度等)方法增强图像的质量;同时利用管路区域和背景之间的灰度值差异,可以分割出管路在图像中所占的区域。
步骤102,根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
这里,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述根据所述图像信息,获得表示所述管路的空间位姿的第一位姿的步骤包括:根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;根据多个所述第三线段,获得所述第一位姿。
在具体实现中,根据获取的图像信息(包括管路区域),进而提取、分割管路中心线骨架,选择相应的直线段;为了获得空间姿态,可以通过从不同的拍摄角度获得的图像信息,然后利用立体视觉算法计算出3D空间中对应的中心线,并将此中心线所表征的位姿作为管路的第一位姿,该第一位姿即为需要进行优化的初始位姿。
在空间三维形态表达上,管路零件可以看作是一种通径的细长体,整个空间三维形态可以用空间轴线位置和固定外径两个物理量简化描述。本发明实施例利用双目立体视觉算法,通过计算管路中心线上选取直线段的位姿,从而确定管路在机器人工作空间中的初始位姿(也就是第一位姿)。
基于双目视觉的管路初始位姿测量方法的基本原理主要是基于图像视差原理,如图3所示,q1和q2是两个摄像机从两个不同视点角度同时获取的两幅数字图像中的同名点(可以采用2个相机进行图像采集也可以采用一个相机进行不同的角度的图像采集,对此不作限定),由相机1的投影中心Oc1和像点q1可以确定射线L1;由相机2的投影中心Oc2和像点q2可以确定射线L2,L1与L2在空间中相交,即可计算点Q的空间坐标。同样,根据此原理可以实现管路中心线上直线段的3D重建。
管路初始位姿的测量主要包括图像处理、中心线骨架提取和中心线的3D重建等几个步骤,下面做详细阐述。
(1)图像处理
采用双目视觉对管路从不同角度拍摄进行图像采集,由于噪声等缺陷造成图片质量下降,不利于管路边缘的识别,因此通过图像增强、高斯滤波等方法改善图像质量,更好地区分管路区域和背景区域。
(2)中心线骨架提取
首先对预处理后的图像进行阈值分割,以便提取图像中的管路区域。本文利用中心线来表示管路的位姿,避免了由于阈值选择不当引起的提取区域变大或者变小的缺陷;然后通过对二值化图像的形态学处理,最终得到位于管路区域中间、宽度为预设像素(在本发明实施例中可以选为一个像素)的中心线骨架。
本发明实施例通过管路的直线段部分来定义管路的位姿,因此只需选取直线段处的中心线骨架。设管路直线段中心线骨架上的像素点在相机坐标系下的坐标为(XC,YC,ZC),在标定板坐标系(即世界坐标系)下的坐标为(XW,YW,ZW)。
(3)中心线的3D重建
采用双目立体视觉对提取的管路中心线进行重建。根据提取的管路直线段的中心线骨架,可以得到两幅图片上对应中心线骨架上的像素点,其像素点点集分别记为P1和P2;由相机1的投影中心O1和像点点集P1可以确定平面S1,相机2的投影中心O2和像点点集P2可以确定平面S2,则空间中心线即为平面S1和平面S2的交线。具体步骤为:
步骤1分别从两幅图像中提取相应直线段中心线骨架上的像点,其像点点集分别记为P1和P2,设图像上像点坐标为(ri,ci),i=0,1,2……N;
步骤2利用式(1)计算像点在相机坐标系中的坐标(XC,YC,ZC),ZC等于相机的主距f,(x0,y0)为相机的主点坐标,sx、sy分别为每个像素水平与垂直方向上的宽度;改变
步骤3利用式(2)计算投影中心O1、O2和像点点集P1、P2中的每一个像点在世界坐标系中的坐标。
式中,WCSHCCS表示世界坐标系(WCS)到相机坐标系(CCS)的转换矩阵,包括旋转矩阵R=R(α,β,γ)和平移矩阵Trans=(tx,ty,tz),旋转角和平移量(α,β,γ,tx,ty,tz)为相机的外参数;
步骤4拟合平面S1和S2。平面在二维平面中的一般方程为:
Ax+By+Cz+D=0 (3)
采用最小二乘法对平面进行拟合,求解出方程中的系数A,B,C,D;
步骤5联立平面S1和S2的方程即可求解出空间中心线在世界坐标系下的表达。对管路其余直线段重复上述步骤1到步骤5,即得到管路在3D空间中的初始位姿。
步骤103,根据所述图像信息,获取所述管路的边缘像素点;
这里,所述根据所述图像信息,获取所述管路的边缘像素点的步骤包括:根据所述图像信息,构建所述管路的投影模型;通过共线方程将所述投影模型投影至第三图像上;根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;根据预设半径和所述中心线骨架,确定投影边缘线;将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
步骤104,根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。例如通过加权最小二乘法实现拟合。
这里,所述根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿的步骤包括:对所述边缘像素点中满足预设条件的像素点建立观测方程;根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;根据求解结果和所述第一位姿,拟合获得所述第二位姿,该第二位姿即为对第一位姿(初始位姿)进行优化后的位姿。
在上述步骤中采用基于双目视觉的管路位姿测量方法,得到管路的初始位姿,但是精度较低,无法满足管路精确抓取及装配的目的,需要进一步对管路的初始位姿进行优化。针对管路无纹理、少特征,以及图像上物体边缘处梯度变化显著等特点,同时为了满足实时性及精度要求,本发明实施例的方法通过选取具有高灰度值梯度的边缘像素点,以及剔除梯度方向与投影模型边缘夹角小于设定阈值的边缘像素点,不仅增强了算法的鲁棒性、提高了计算效率,而且具有更高的测量精度。该位姿优化算法主要包括构建投影模型、提取边缘像素点、位姿参数优化等步骤。
1、构建投影模型
对管路的初始位姿进行优化之前,需要确定优化的目标,即所需优化的位姿参数。根据管路的几何结构信息,可以将导管分割为直线段和圆弧段,因此,可以将对整个管路构建投影模型转换为对管路的直线段构建投影模型。
管路的各个直线段部分可以看成是一段以中心轴线旋转对称的圆柱体,因此,管路直线段的方向可以通过它的轴线即中心线的方向来进行描述。在世界坐标系下(即标定板坐标系),管路某直线段中心线的方向可以由一个标准化的方向向量T=(t0,t1,t2)描述;其位置由P1=(x,y,z)描述,其中P1表示中心线的一个端点;其形状由长度L和半径R描述。因此,管路某直线段部分的投影模型可以由八个参数(x,y,z,t0,t1,t2,L,R)描述。
2、提取边缘像素点
在世界坐标系下,构建管路直线段中心线的投影模型后,需将其投影到图像上,并在投影边缘附近区域提取像素点。利用共线方程将投影模型投影到图像上,公式为:
r=Fr(X,Y,Z)
c=Fc(X,Y,Z) (4)
通过式(4)将3D投影模型上的点(X,Y,Z)映射到2D图像上,得到像素点(r,c),即确定了投影模型的位姿参数与图像像素点之间的联系。
根据共线方程将构建的模型投影到图像上后,首先采用区域细化的方法不断剥离区域边缘的像素,得到位于投影区域中间、宽度为一个像素的中心线骨架,该中心线骨架由像素点组成;然后用一元线性回归方程计算中心线,并根据拟定的管路半径R画出投影边缘线;最后在投影边缘线附近区域提取像素点。
为了提高计算效率,仅在投影边缘附近的预设范围内(称之为拉入范围)选取像素点,即边缘像素点。选取初值时,为了使优化算法对管路初始位姿没有较高的要求,开始时选取较大的拉入范围,在保持网格内像素点数量不变的情况下,每次迭代时将网格的长度缩短为原来的一半。
参见图4,选取边缘像素点时,在保证计算效率以及拟合精度的前提下,可以通过实验验证的方法,计算出参数Du-Dv-Lu的最佳组合。因此,拟定初值为:每两个网格之间的距离Du取5个像素单位,即Du=5;每个网格内的像素点数量为5,即N=5,并且同一网格内,每两个像素点之间的距离为2个像素单位,即Dv=2;每个网格的长度Lu为10个像素单位,即Lu=10。
3、位姿参数优化
通过上述方法提取边缘像素点之后,将对所提取的像素点建立观测方程并求解,从而实现管路投影模型的位姿参数优化。为了保证具有高灰度值梯度的像素点主导管路投影模型位姿参数的优化,因此,将像素点处垂直于投影边缘线方向的灰度值梯度的平方作为观测方程的权重,其方程如下:
式中,Δuj表示第j个像素点处垂直于最近投影边缘线的距离,Δpi表示管路投影模型的位姿参数pi的改变量,n表示位姿参数的个数,表示像素点处的灰度值梯度在垂直于投影边缘线方向的分量。
通过上述观测方程,将3D空间中投影模型位姿参数的微小调整量Δp与2D图像上边缘像素点到最近投影边缘线的垂直距离Δu联系起来,每次迭代过程中,距离Δu会缩短为原来的一半,当达到设定阈值时停止迭代,从而实现位姿参数的优化。
若对所有的像素点建立观测方程,那么随着所采集的边缘像素点数的增多,计算量将会增加。因此,在保证边缘拟合精度且满足在线检测的实时性要求的同时,可以从以下两方面对此进行优化:
(1)对边缘像素点进行筛选。当边缘像素点处的梯度方向与投影边缘线的垂直方向之间的夹角小于设定阈值时,阈值一般设为30°,才对此边缘像素点建立观测方程;(2)偏微分的有效计算。在观测方程进行求解的时候,由于偏微分的存在,会占用很大的内存且计算速度慢,为此本课题采用解析法对偏微分方程进行求解。
管路投影模型的位姿参数优化基于加权最小二乘法。对符合条件的边缘像素点建立观测方程,最终形成一个由一系列观测方程组成的线性方程组,记为:
Δu=AΔp (6)
式中,Δu是各个边缘像素点到最近投影模型边缘线的垂直距离所形成的向量,Δp是管路投影模型各个参数的改变量所形成的向量,A表示偏微分的雅各比矩阵。
通常来说,观测方程的数量要多于管路投影模型参数的个数,因此本课题采用加权最小二乘法对此进行求解,其公式为:
Δp=(ATWA)-1ATWΔu (7)
利用上述方法求解观测方程,通过迭代计算,完成对管路初始位姿的优化。设定距离阈值τ,本发明实施例中设τ=0.5,具体迭代步骤如下:
步骤1建立管路某一直线段的投影模型,其位姿和形状由八个参数(x,y,z,t0,t1,t2,L,R)来描述;
步骤2将构建的模型投影到图像上,并提取边缘像素点,确定Du-Dv-Lu各个参数的值;
步骤3对符合条件的边缘像素点建立观测方程,并利用加权最小二乘法对其求解;
步骤4判断Dv与τ之间的关系:若Dv≤τ,则停止迭代;若Dv>τ,则将Lu的长度缩短为原来的一半,即L(n+1) u=0.5×L(n) u(n=1,2,3…),并重复步骤1到步骤4。
下面通过一个验证实施例对本发明作进一步的说明。
为本发明实施例的方法的测量精度和效率,搭建管路抓取平台进行实验。首先,利用安置在机械臂末端执行器的双目相机对平台上的管路进行拍照;然后,对管路图像进行处理,计算出管路在机器人工作空间中的位姿;最后,将结果传递给机器人,并根据测量结果完成管路自动抓取。
本实验中,选择ABB公司的IRB 1200 7/0.7机器人;SMC公司的LEHZ20 K2-10型机械手抓;AVT公司生产的GuppyF-146B型黑白工业摄像机,像素为1392×1040,像元尺寸为4.65μm,采用SONY逐行扫描CCD芯片,IEEE1394(火线)数字视频信号接口,摄影物镜选择Computer M0814-Mp/m1214-MP,焦距为8mm。
用于实验验证的是φ6mm和φ8mm的管件,通过测量管路相邻直线段的位姿,从而确定管路在机器人工作空间中的位姿。通过金鹏提出的基于机器视觉的管路重建算法其测量精度为0.1mm,因此本发明实施例通过该方法的测量值作为管路位姿的标准值(方法2)。分别采用本发明实施例的方法(方法1)和方法2对管路位姿进行测量,得到管路各个直线段部分的位姿测量结果如表1所示。
定义实验的测量精度为标准值与测量值之间误差绝对值的最大值,根据以上测量结果,得到本文所述方法的测量精度,如表2所示。从表中可以看出,利用基于边缘像素点的位姿优化方法对管路初始位姿进行优化之后,测量精度达到0.351mm,测量精度较高,且测量速度快,满足工业应用的需求。
通过对基于双目视觉的管路位姿测量方法的实现流程进行分析可知,在测量系统标定良好的情况下,管路图像处理效果以及边缘像素点选取是决定管路位姿测量精度高低的主要因素。本发明实施例采用以下方法确保管路位姿的精确测量:
表1管路测量结果
表2测量精度及测量时间
(1)使用图像增强、高斯滤波等方法改善图像质量;为了减弱光照的影响,实现可靠的管路兴趣区域的提取,采用动态阈值分割方法,利用管路区域与背景区域的灰度差,通过设定的分割阈值实现管路感兴趣区域的提取。
(2)在管路位姿优化阶段,由于边缘像素点处垂直于边缘方向的梯度主导模型位姿参数的估计,因此只选取垂直于边缘线方向的梯度分量作为观测方程的权重。此外,为了减少数据量、提高计算效率,本发明实施例通过实验分析,选择最优的Du-Dv-Lu参数组合;并设定阈值,对边缘像素点进行筛选,只对符合条件的边缘像素点建立观测方程。
对基于双目视觉的管路位姿精确测量方法的测量误差进行分析,得出影响管路位姿测量精度的因素主要有以下几点:
(1)相机参数的影响在基于机器视觉的测量方法中,相机的标定精度是影响测量精度的重要因素。管路位姿测量过程中,相机参数对3D投影模型和2D图像之间映射关系,即本质矩阵的求解具有重要的作用。相机内外参数计算是否准确、畸变校正是否合理,都将影响最终的测量结果,采用合理的标定方案和畸变矫正方法可以有效提高管路位姿测量的精度。
(2)管路区域的提取效果本发明实施例在管路初始位姿测量阶段需要提取管路直线段的中心线,而管路图像中中心线的提取在管路区域分割的基础上进行,因此管路ROI区域的提取质量直接影响管路直线段中心线的提取精度;同时,在管路位姿优化阶段,管路ROI区域的提取质量影响边缘拟合精度,最终影响管路位姿的测量精度。管路区域的分割效果主要受光照条件的影响,为了保证测量系统的稳定性,应在测量前尽量选择适宜的光照条件。
(3)算法误差的影响管路位姿测量过程中,算法本身也存在一定的误差。在相机标定中,利用光束平差法优化相机参数;在管路位姿优化时,利用最小二乘法对目标参数进行了求解,这些算法最终都会在一定程度上影响管路位姿的测量精度。因此,如何合理的规划算法,减少算法本身的误差,以及利用合理的优化算法减少这种误差,对算法的稳定性及精确性都很重要。
本发明实施例的方法首先利用立体视觉测量技术对管路的初始位姿进行测量,然后利用基于边缘像素点的位姿优化算法,建立物体3D空间中的位姿参数和2D图像上边缘像素点的灰度值梯度之间的联系,实现了管路初始位姿参数的优化。该算法具有快速的迭代收敛速度,稳定性较好,且不需要对被测物体做任何辅助处理,其应用范围不仅仅局限于近景摄影测量,同时在工业应用中,对于其它具有常规形状物体也具有较好的适应性。根据实验验证,该方法的测量精度较高,而且计算时间只需2-3s,操作简便,有效地满足了工程中管路位姿测量的需求。
参见图2,根据本发明另一方面,本发明实施例还提供了一种管路位姿的测量装置,包括:
第一获取模块201,用于获取管路的图像信息;
第二获取模块202,用于根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
第三获取模块203,用于根据所述图像信息,获取所述管路的边缘像素点;
拟合模块204,用于根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。
本发明实施例的测量装置能够实现上述方法实施例中的各个过程,并具有相应的有益效果,为避免重复,这里不再赘述。
优选的,所述第一获取模块包括:
第一获取单元,用于获取所述管路的第一图像;
第二获取单元,用于对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;
第三获取单元,用于根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
优选的,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述第二获取模块包括:
第四获取单元,用于根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;
第五获取单元,用于依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;
第六获取单元,用于根据多个所述第三线段,获得所述第一位姿。
优选的,第三获取模块包括:
第一构建单元,用于根据所述图像信息,构建所述管路的投影模型;
处理单元,用于通过共线方程将所述投影模型投影至第三图像上;
计算单元,用于根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;
第一确定单元,用于根据预设半径和所述中心线骨架,确定投影边缘线;
第二确定单元,用于将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
优选的,所述拟合模块包括:
第二构建单元,用于对所述边缘像素点中满足预设条件的像素点建立观测方程;
第七获取单元,用于根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;
求解单元,用于通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;
拟合单元,用于根据求解结果和所述第一位姿,拟合获得所述第二位姿。
根据本发明另一方面,本发明实施例还提供了一种测量装置,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上所述的管路位姿的测量方法的步骤。
根据本发明另一方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如上所述的管路位姿的测量方法的步骤。
综上,本发明实施例通过获取的管路的图像信息分别得到通过管路中心线表示的第一位姿和管路的边缘像素点,通过拟合获得了表示管路的形状和结构的第二位姿,从而实现了对管路位姿的自动测量。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含。
此外,本发明可以在不同例子中重复参考数字和/或字母。这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施例和/或设置之间的关系。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (12)
1.一种管路位姿的测量方法,其特征在于,包括:
获取管路的图像信息;
根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
根据所述图像信息,获取所述管路的边缘像素点;
根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。
2.根据权利要求1所述的方法,其特征在于,所述获取管路的图像信息的步骤包括:
获取所述管路的第一图像;
对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;
根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
3.根据权利要求1所述的方法,其特征在于,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述根据所述图像信息,获得表示所述管路的空间位姿的第一位姿的步骤包括:
根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;
依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;
根据多个所述第三线段,获得所述第一位姿。
4.根据权利要求1所述的方法,其特征在于,所述根据所述图像信息,获取所述管路的边缘像素点的步骤包括:
根据所述图像信息,构建所述管路的投影模型;
通过共线方程将所述投影模型投影至第三图像上;
根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;
根据预设半径和所述中心线骨架,确定投影边缘线;
将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
5.根据权利要求1所述的方法,其特征在于,所述根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿的步骤包括:
对所述边缘像素点中满足预设条件的像素点建立观测方程;
根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;
通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;
根据求解结果和所述第一位姿,拟合获得所述第二位姿。
6.一种管路位姿的测量装置,其特征在于,包括:
第一获取模块,用于获取管路的图像信息;
第二获取模块,用于根据所述图像信息,获得表示所述管路的空间位姿的第一位姿,所述第一位姿通过所述管路的中心线表示;以及,
第三获取模块,用于根据所述图像信息,获取所述管路的边缘像素点;
拟合模块,用于根据所述第一位姿和所述边缘像素点,拟合获得表示所述管路的形状和结构的第二位姿。
7.根据权利要求6所述的装置,其特征在于,所述第一获取模块包括:
第一获取单元,用于获取所述管路的第一图像;
第二获取单元,用于对所述第一图像进行预处理,获得第二图像,其中所述第二图像的图像质量高于所述第一图像的图像质量;
第三获取单元,用于根据所述第二图像的前景区域和背景区域的灰度值,确定所述第二图像中的管路区域,并获得所述图像信息。
8.根据权利要求6所述的装置,其特征在于,所述图像信息包括:第一图像信息和第二图像信息,所述第一图像信息和所述第二图像信息为同一管路的不同角度的图像信息;
所述第二获取模块包括:
第四获取单元,用于根据所述第一图像信息,获得所述管路的第一二值化图像,以及根据所述第二图像信息,获得所述管路的第二二值化图像;
第五获取单元,用于依次对所述第一二值化图像上的第一线段和所述第二二值化图像上与所述第一线段相对应的第二线段进行拟合,获得空间姿态下的第三线段;
第六获取单元,用于根据多个所述第三线段,获得所述第一位姿。
9.根据权利要求6所述的装置,其特征在于,第三获取模块包括:
第一构建单元,用于根据所述图像信息,构建所述管路的投影模型;
处理单元,用于通过共线方程将所述投影模型投影至第三图像上;
计算单元,用于根据所述第三图像,通过一元线性回归方程计算所述管路的中心线骨架;
第一确定单元,用于根据预设半径和所述中心线骨架,确定投影边缘线;
第二确定单元,用于将根据所述投影边缘线确定的预设范围内的像素点,确定为所述边缘像素点。
10.根据权利要求6所述的装置,其特征在于,所述拟合模块包括:
第二构建单元,用于对所述边缘像素点中满足预设条件的像素点建立观测方程;
第七获取单元,用于根据每一所述所述观测方程,获得由多个观测方程组成的线性方程组;
求解单元,用于通过最小二乘法对所述线性方程组进行求解,并迭代计算,直至第一方向上的两个相邻像素点之间的距离小于预设值,其中所述第一方向为垂直于管路的中心线的方向;
拟合单元,用于根据求解结果和所述第一位姿,拟合获得所述第二位姿。
11.一种测量装置,其特征在于,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至5任一项所述的管路位姿的测量方法的步骤。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的管路位姿的测量方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811519427.7A CN109470149B (zh) | 2018-12-12 | 2018-12-12 | 一种管路位姿的测量方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811519427.7A CN109470149B (zh) | 2018-12-12 | 2018-12-12 | 一种管路位姿的测量方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109470149A true CN109470149A (zh) | 2019-03-15 |
CN109470149B CN109470149B (zh) | 2020-09-29 |
Family
ID=65675088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811519427.7A Active CN109470149B (zh) | 2018-12-12 | 2018-12-12 | 一种管路位姿的测量方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109470149B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110111388A (zh) * | 2019-05-10 | 2019-08-09 | 北京航空航天大学 | 三维物体位姿参数估计方法及视觉设备 |
CN110672033A (zh) * | 2019-10-18 | 2020-01-10 | 南京大学 | 一种利用3d渲染的管道误差测量方法 |
CN111595266A (zh) * | 2020-06-02 | 2020-08-28 | 西安航天发动机有限公司 | 空间复杂走向导管视觉识别方法 |
CN111798476A (zh) * | 2020-06-08 | 2020-10-20 | 国网江西省电力有限公司电力科学研究院 | 一种高压隔离开关导电臂轴线提取方法 |
CN112381847A (zh) * | 2020-10-27 | 2021-02-19 | 新拓三维技术(深圳)有限公司 | 管路端头空间位姿测量方法及系统 |
CN114281022A (zh) * | 2021-12-24 | 2022-04-05 | 哈尔滨工业大学芜湖机器人产业技术研究院 | 一种管路控制点误差计算方法及系统 |
CN114862664A (zh) * | 2022-06-14 | 2022-08-05 | 广东宏石激光技术股份有限公司 | 一种基于端面投影的管材特征识别方法及设备和存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001266160A (ja) * | 2000-03-22 | 2001-09-28 | Toyota Motor Corp | 周辺認識方法および周辺認識装置 |
CN102410811A (zh) * | 2011-07-27 | 2012-04-11 | 北京理工大学 | 一种弯管参数的测量方法和系统 |
CN104036513A (zh) * | 2014-06-26 | 2014-09-10 | 西安新拓三维光测科技有限公司 | 一种三维弯管多相机视觉检测方法及其系统 |
CN104143213A (zh) * | 2014-07-16 | 2014-11-12 | 北京卫星制造厂 | 一种基于视觉检测的导管自动识别方法 |
CN106840111A (zh) * | 2017-03-27 | 2017-06-13 | 深圳市鹰眼在线电子科技有限公司 | 物体间位置姿态关系实时统一系统及方法 |
CN107123142A (zh) * | 2017-05-09 | 2017-09-01 | 北京京东尚科信息技术有限公司 | 位姿估计方法和装置 |
CN107316330A (zh) * | 2017-06-13 | 2017-11-03 | 西安科技大学 | 基于多图像序列的井下液压支架组位姿及直线度测量方法 |
CN107576281A (zh) * | 2017-09-11 | 2018-01-12 | 北京理工大学 | 一种测量管路弯曲半径的方法和装置 |
CN108765489A (zh) * | 2018-05-29 | 2018-11-06 | 中国人民解放军63920部队 | 一种基于组合靶标的位姿计算方法、系统、介质及设备 |
-
2018
- 2018-12-12 CN CN201811519427.7A patent/CN109470149B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001266160A (ja) * | 2000-03-22 | 2001-09-28 | Toyota Motor Corp | 周辺認識方法および周辺認識装置 |
CN102410811A (zh) * | 2011-07-27 | 2012-04-11 | 北京理工大学 | 一种弯管参数的测量方法和系统 |
CN104036513A (zh) * | 2014-06-26 | 2014-09-10 | 西安新拓三维光测科技有限公司 | 一种三维弯管多相机视觉检测方法及其系统 |
CN104143213A (zh) * | 2014-07-16 | 2014-11-12 | 北京卫星制造厂 | 一种基于视觉检测的导管自动识别方法 |
CN106840111A (zh) * | 2017-03-27 | 2017-06-13 | 深圳市鹰眼在线电子科技有限公司 | 物体间位置姿态关系实时统一系统及方法 |
CN107123142A (zh) * | 2017-05-09 | 2017-09-01 | 北京京东尚科信息技术有限公司 | 位姿估计方法和装置 |
CN107316330A (zh) * | 2017-06-13 | 2017-11-03 | 西安科技大学 | 基于多图像序列的井下液压支架组位姿及直线度测量方法 |
CN107576281A (zh) * | 2017-09-11 | 2018-01-12 | 北京理工大学 | 一种测量管路弯曲半径的方法和装置 |
CN108765489A (zh) * | 2018-05-29 | 2018-11-06 | 中国人民解放军63920部队 | 一种基于组合靶标的位姿计算方法、系统、介质及设备 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110111388A (zh) * | 2019-05-10 | 2019-08-09 | 北京航空航天大学 | 三维物体位姿参数估计方法及视觉设备 |
CN110672033A (zh) * | 2019-10-18 | 2020-01-10 | 南京大学 | 一种利用3d渲染的管道误差测量方法 |
CN111595266A (zh) * | 2020-06-02 | 2020-08-28 | 西安航天发动机有限公司 | 空间复杂走向导管视觉识别方法 |
CN111798476A (zh) * | 2020-06-08 | 2020-10-20 | 国网江西省电力有限公司电力科学研究院 | 一种高压隔离开关导电臂轴线提取方法 |
CN111798476B (zh) * | 2020-06-08 | 2023-10-20 | 国网江西省电力有限公司电力科学研究院 | 一种高压隔离开关导电臂轴线提取方法 |
CN112381847A (zh) * | 2020-10-27 | 2021-02-19 | 新拓三维技术(深圳)有限公司 | 管路端头空间位姿测量方法及系统 |
CN112381847B (zh) * | 2020-10-27 | 2024-02-13 | 新拓三维技术(深圳)有限公司 | 管路端头空间位姿测量方法及系统 |
CN114281022A (zh) * | 2021-12-24 | 2022-04-05 | 哈尔滨工业大学芜湖机器人产业技术研究院 | 一种管路控制点误差计算方法及系统 |
CN114862664A (zh) * | 2022-06-14 | 2022-08-05 | 广东宏石激光技术股份有限公司 | 一种基于端面投影的管材特征识别方法及设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109470149B (zh) | 2020-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109470149A (zh) | 一种管路位姿的测量方法及装置 | |
CN109544456B (zh) | 基于二维图像和三维点云数据融合的全景环境感知方法 | |
CN111062915A (zh) | 一种基于改进YOLOv3模型的实时钢管缺陷检测方法 | |
CN107767456A (zh) | 一种基于rgb‑d相机的物体三维重建方法 | |
CN106485690A (zh) | 基于点特征的点云数据与光学影像的自动配准融合方法 | |
CN113177565B (zh) | 一种基于深度学习的双目视觉位置测量系统及方法 | |
Navarro et al. | Robust and dense depth estimation for light field images | |
CN112347882A (zh) | 一种智能分拣控制方法和智能分拣控制系统 | |
CN114067197B (zh) | 一种基于目标检测及双目视觉的管道缺陷识别与定位方法 | |
CN115272271A (zh) | 一种基于双目立体视觉的管道缺陷检测与定位测距系统 | |
CN117036641A (zh) | 一种基于双目视觉的公路场景三维重建与缺陷检测方法 | |
CN113393439A (zh) | 一种基于深度学习的锻件缺陷检测方法 | |
CN113538501A (zh) | 低空图像dsm生成建筑物边缘精细化方法 | |
CN115049821A (zh) | 一种基于多传感器融合的三维环境目标检测方法 | |
Pacheco et al. | Reconstruction of high resolution 3D objects from incomplete images and 3D information | |
CN115222884A (zh) | 一种基于人工智能的空间对象分析及建模优化方法 | |
CN114820563A (zh) | 一种基于多视点立体视觉的工业部件尺寸估计方法及系统 | |
CN117315518A (zh) | 一种增强现实目标初始注册方法及系统 | |
Rothermel et al. | Fast and robust generation of semantic urban terrain models from UAV video streams | |
CN113052110A (zh) | 一种基于多视图投影和深度学习的三维兴趣点提取方法 | |
CN117351078A (zh) | 基于形状先验的目标尺寸与6d姿态估计方法 | |
Jisen | A study on target recognition algorithm based on 3D point cloud and feature fusion | |
CN116612097A (zh) | 一种基于表面缺陷图像的木材内部节子形态预测方法及系统 | |
CN111197976A (zh) | 一种顾及弱纹理区域多阶段匹配传播的三维重建方法 | |
CN113920254B (zh) | 一种基于单目rgb的室内三维重建方法及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |