CN113658147A - 一种基于深度学习的工件尺寸测量装置及方法 - Google Patents
一种基于深度学习的工件尺寸测量装置及方法 Download PDFInfo
- Publication number
- CN113658147A CN113658147A CN202110965506.6A CN202110965506A CN113658147A CN 113658147 A CN113658147 A CN 113658147A CN 202110965506 A CN202110965506 A CN 202110965506A CN 113658147 A CN113658147 A CN 113658147A
- Authority
- CN
- China
- Prior art keywords
- measured
- workpiece
- edge
- sample
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013135 deep learning Methods 0.000 title claims abstract description 37
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000005259 measurement Methods 0.000 claims abstract description 115
- 238000012549 training Methods 0.000 claims abstract description 85
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000010586 diagram Methods 0.000 claims abstract description 15
- 239000013598 vector Substances 0.000 claims description 46
- 230000006870 function Effects 0.000 claims description 21
- 238000000053 physical method Methods 0.000 claims description 12
- 239000000126 substance Substances 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 2
- 238000010276 construction Methods 0.000 claims 1
- 238000011176 pooling Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000004804 winding Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
- G01B11/022—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by means of tv-camera scanning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于深度学习的工件尺寸测量装置及方法,该装置包括:图像采集处理模块,用于采集获取模型训练及测量时的训练样本及待测量样本;工件尺寸测量模型,用于将所述训练样本或待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像水平、垂直方向上的距离输出工件尺寸测量值。
Description
技术领域
本发明涉及人工智能技术领域,特别是涉及一种基于深度学习的工件尺寸测量装置及方法。
背景技术
工业上最为基础的测量工件的尺寸方法就是使用游标卡尺直接测量获得。然而这种操作方法人工参与度很高且费时费力,只适应于工件的抽检,无法应用于对工件进行大规模生成时的全检。
随着图像技术的不断变革,使用图像采集工件并进行自动化测量成为可能。目前,基于图像测量工件的方法,主要包括如下步骤:设定要检测的目标区域;计算图像的梯度信息提取图像的边缘;拟合直线进而转化为两直线间距的计算;通过图像的像素值与物理尺寸的比例关系最终得到工件的实际长宽。这种测量方法的测量精度取决于提取边缘的算法。
传统提取边缘算法是一些人工精心设计的滤波算子。其目的是通过在图像上滑动卷积抑制平坦区域突显出边缘区域,并非专门针对尺寸测量。当图像成像非常清晰时,边缘算法能够获得很好的边缘,得到的尺寸数据精度较高。反之,精度较低。实际成像过程中,由于光在物体的边缘会产生衍射,使得相机成像后的图像会在工件的边界上或多或少会形成一个具有灰阶变化的过渡带。这种过渡带会弱化边缘算法提取的边缘响应,进行影响到最终的尺寸测量。同样,相机成像的噪声、色斑等因素也会导人工设计的边缘算法性能下降。
近年来,深度学习技术在计算机视觉领域中得到了广泛的应用,并在边缘提取、图像增强等方向上取得了传统算法无法比拟的成就。也有学者尝试使用深度学习技术进行物体的尺寸测量。然而,现有的方法主要是用深度学习进行目标检测得到目标的外接轮廓后,再使用传统图像技术手段来计算物体的尺寸,无法直接使用深度学习技术进行工件尺寸测量。其无法直接使用深度学习进行尺寸测量的根本原因是:物体的尺寸有大有小,深度学习的感受野很难覆盖全,当一个较长的工件,需要测量其长度时,则深度学习需要非常大的感受野,那么网络设计必须足够地深,然而,真正对该工件长度测量有贡献的是两端的边界,这样导致整个网络处理了大量的干扰数据,很难得到有效的测量值。
发明内容
为克服上述现有技术存在的不足,本发明之目的在于提供一种基于深度学习的工件尺寸测量装置及方法,以达到基于深度学习直接实现工件尺寸测量的目的。
为达上述及其它目的,本发明提出一种基于深度学习的工件尺寸测量装置,包括:
图像采集处理模块,用于在模型训练时,对不同工件采集图像,对采集的每一幅图像中要测量的目标,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本;在进行模型测量时,对待测量工件采集图像,对采集的每一幅图像中要测量的目标,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本;
工件尺寸测量模型,用于将所述训练样本或待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像水平、垂直方向上的距离输出工件尺寸测量值。
优选地,所述图像采集处理模块进一步包括:
训练样本数据集构建模块,用于选择不同的工件,采用摄像装置对其进行拍照采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集;
待测量样本构建模块,用于在工件尺寸测量时,对待测量工件采集图像,对采集图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本。
优选地,所述训练样本数据集构建模块进一步包括:
图像采集模块,用于对选择的不同工件,使用相机对其进行拍照采集图像;
物理测量值转化模块,用于获取工件尺寸的物理测量值,根据工件的实际尺寸与像素比例将物理测量值转化为以像素为单位的计量值作为目标值;
样本数据集生成模块,用于对采集的图像进行图像数据增益处理,对增益处理后的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集。
优选地,所述工件尺寸测量模型进一步包括:
第一卷积层,用于获取所述训练样本或待测量样本的一边缘图像处理后得到一组特征图;
第二卷积层,用于获取所述训练样本或待测量样本的另一边缘图像处理后得到一组特征图;
垂直投影分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,并计算两个边缘图像在水平方向上相对位置的权重;
水平投影分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,并计算两个边缘图像在垂直方向上相对位置的权重;
相对测量分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,直接估计两个边缘图像的距离;
测量结果输出模块,用于根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及所述训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向的距离输出工件尺寸测量值。
优选地,所述垂直投影分支在获取到两组特征图后,首先对两组特征图分别按照垂直方向进行池化,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到水平方向上相对位置权重。
优选地,所述水平投影分支在获取到两组特征图后,首先对两组特征图分别按照水平方向进行池化,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到垂直方向上相对位置权重。
优选地,所述相对测量分支对所述第一卷积层输出的特征图分别按照垂直方向和水平方向进行池化,再分别展开成两个列向量后,并在对应位置处取最大值生成一个单一向量;所述相对测量分支对所述第二卷积层输出的特征图分别按照垂直方向和水平方向进行池化,再分别展开成两个列向量后,并在对应位置处取最大值生成一个单一向量;将得到的两个单一向量串联,最后使用全连接最终得到相对测量值。
为达到上述目的,本发明还提供一种基于深度学习的工件尺寸测量方法,包括如下步骤:
步骤S1,对不同工件采集图像,对采集的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集;
步骤S2,将训练样本的两个边缘图像分别输入工件尺寸测量模型,分别经两个卷积层处理后得到特征图,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及所述训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向上的距离输出工件尺寸测量值,通过损失函数计算模型输出的测量值与实际尺寸的残差,根据损失函数实现模型的训练;
步骤S3,当欲利用所述工件尺寸测量模型进行工件尺寸测量时,通过图像采集处理模块获取待测工件的图像,在图像上选择要测量的边缘,并结合其像素距离构成待测量样本送入训练好的工件尺寸测量模型;
步骤S4,在工件尺寸测量模型中,将所述待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向上的距离输出工件尺寸测量值。
与现有技术相比,本发明一种基于深度学习的工件尺寸测量装置及方法通过在构建训练样本或待测量样本,将构建的训练样本或待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像水平、垂直方向上的距离输出工件尺寸测量值,本发明通过利用多分支结构回归工件尺寸,使得将深度学习直接测量工件尺寸成为可能。
附图说明
图1为本发明一种基于深度学习的工件尺寸测量装置的系统架构图;
图2为本发明具体实施例中测量工件的水平尺寸的示意图;
图3为本发明具体实施例中水平距离相等、垂直距离不同的两组边缘图像的示意图;
图4为本发明一种一种基于深度学习的工件尺寸测量方法的步骤流程图。
具体实施方式
以下通过特定的具体实例并结合附图说明本发明的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
图1为本发明一种基于深度学习的工件尺寸测量装置的系统架构图。如图1所示,本发明一种基于深度学习的工件尺寸测量装置,包括:
图像采集处理模块101,用于在在模型训练时,对不同工件采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集;在工件尺寸测量时,针对所要测量的工件采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本。
具体地,图像采集处理模块101进一步包括:
训练样本数据集构建模块101a,用于选择不同的工件,采用摄像装置对其进行拍照采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集。
在本发明具体实施例中,训练样本数据集构建模块101a进一步包括:
图像采集模块,用于对选择的不同工件,使用相机对其进行拍照采集图像。
物理测量值转化模块,用于获取工件尺寸的物理测量值,根据工件的实际尺寸与像素比例将物理测量值转化为以像素为单位的计量值作为目标值。
在本发明具体实施例中,图像采集模块通过选择不同的工件,使用相机对其进行拍照采集图像。当相机固定时,物理测量值转化模块将所选择的工件的物理尺寸按照一定的比例转换为图像的像素个数,在本发明具体实施例中,该比例值可以直接标定出来,例如,利用相机对带有刻度的直尺拍照,可以直接数出每厘米多少个像素,然后使用游标卡尺对工件上需要测量的长或宽进行测量得到其物理世界的真实测量值,例如单位为mm;最后根据实际尺寸与像素比例将其测量值转化为以像素为单位的计量值,作为目标值。
样本数据集生成模块,用于对采集的图像进行图像数据增益处理,对增益处理后的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸即目标值,构成一个标记的样本,生成样本数据集。
在本发明具体实施例中,首先对采集的图像进行平移、旋转、加噪声等各种变化,实现数据增益;然后对于每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的样本,记为其中,表示第i个样本的第1个边缘图;表示第i个样本的第2个边缘图;表示两个边缘图像和的中心点在原始图像上x方向和y方向上的距离;为第i个样本的以像素为计量单位的真实尺寸,即目标值,也就是说,假设一个工件需要测量长和宽,对于长度的测量,要在其采集的图像的长度两边选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的样本,对于宽度的测量,则要在其宽度两边选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的样本。图2给出了一个测量工件的水平尺寸的示意图,其中整个矩形区域表示图像数据,灰色区域为工件内容,两个虚线框为用户选择包含边缘的区域。
待测量样本构建模块,用于在工件尺寸测量时,对所要测量的工件采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本。
在本发明具体实施例中,利用相机对所要测量的工件进行拍照采集图像,对所采集的图像中每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成标记的待测量样本,记为其中,表示待测量样本的第1个边缘图;表示待测量样本的第2个边缘图;表示两个边缘图像和的中心点在原始图像上x方向和y方向上的距离。
工件尺寸测量模型102,用于将训练样本或待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上x方向和y方向上的距离输出工件尺寸测量值。
具体地,工件尺寸测量模型102进一步包括:
第一卷积层102a,用于获取训练样本或待测量样本的一边缘图像处理后得到一组特征图。在本发明具体实施例中,假设对于训练样本,给定第i样本其边缘图像送入第一卷积层得到一组特征图,记为整个卷积模块用函数fm(x;θm)表示,θm为卷积参数,则:
第二卷积层102b,用于获取训练样本或待测量样本的另一边缘图像处理后得到一组特征图。在本发明具体实施例中,假设第i样本的边缘图像送入第二卷积层得到一组特征图,记为整个卷积模块用函数fm(x;θm)表示,θm为卷积参数,则:
垂直投影分支102c,用于获取第一卷积层102a与第二卷积层102b输出的两组特征图,并计算两个边缘图像在水平方向上相对位置的权重。
具体地,垂直投影分支102c获取到特征图和后,对特征图和按照垂直方向进行池化,即按照垂直方向求平均值,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到水平方向上相对位置权重在本发明具体实施例中,用函数fv(x,y;θv)表示垂直投影分支,θv为全连接参数,则:
水平投影分支102d,用于获取第一卷积层102a与第二卷积层102b输出的两组特征图,并计算两个边缘图像在垂直方向上相对位置的权重。
具体地,水平投影分支102d获取到特征图和后,对特征图和按照水平方向进行池化,即按照水平方向求平均值,然后展开串联成一个一维向量,进行全连接操作,最终得到垂直方向上相对位置权重用函数fh(x,y;θh)表示水平投影分支,θh为全连接参数,则:
例如,是一个W×H×C维的张量,水平方向池化后变为1×H×C维的张量,展开为CH×1维的向量;对做相同的操作,同样得到CH×1维的向量;两者串联后得到2CH×1,随后进行全连接操作,最终得到垂直方向上相对位置权重
需说明的是,实际操作过程中,用户选择的边缘图像中的边缘不一定是完全垂直的或者水平的。若边缘是相对比较垂直的,那么使用垂直投影后,通常只有较少的数据响应较大,此时,表示两个边缘图像在原始图像中的水平距离有效性更高,通过网络学习它的权重更高些;反之,它的垂直距离权重更低些。如图2中,用户可以选择A,B形成两个边缘图像,也可以选择A,C形成两个边缘图像,这两组边缘图像的水平距离相等,但是垂直距离不同。当使用垂直投影分支和水平投影分支后,会使得其在水平上的权重非常大接近1,而且垂直方向上的权重变的很小接近0,这样使得用户无论选择A,B还是A,C都能够得到准确的测量值。
相对测量分支102e,用于获取第一卷积层102a与第二卷积层102b输出的两组特征图,直接估计两个边缘图像的距离。
在本发明中,相对测量分支忽略了边缘图像在原始图像中的位置,直接估计两边缘的距离。可以理解为,当两个边缘图像重合时,分别从两个边缘图像提取两组边缘信息后,回归其距离尺寸。具体地,相对测量分支102对特征分别按照垂直方向和水平方向进行池化,分别展开成两个列向量后,然后再在对应位置处取最大值生成一个单一向量。之所以这样操作是因为两个边缘的方向是未知的。假设两个边缘为竖直方向,那么垂直方向池化会有一个响应较大的点,而水平方向池化后得到的向量的值都比较低。两者取最大值后,能够保留边缘响应的位置。
测量结果输出模块102f,用于根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上x方向和y方向上的距离输出工件尺寸测量值。
模型训练的过程就是使该损失函数尽可能的小。在本发明具体实施例中,训练采用常用的深度学习网络优化方式进行即可,在此则不予赘述。
当模型训练好之后,利用该工件尺寸测量模型102进行工件尺寸测量时,通过图像采集处理模块获取一个工件图像,在图像上框选要测量的边缘,并计算两个边缘区域在水平方向和垂直方向上的距离后生成待测量样本送于到训练好的工件尺寸测量模型102中,由工件尺寸测量模型102直接输出测量值。此时测量值的单位为像素个数,然后根据当前成像系统下实际尺寸与像素比例,转换为物理世界的测量值。
图4为本发明一种基于深度学习的工件尺寸测量方法的步骤流程图。如图4所示,本发明一种基于深度学习的工件尺寸测量方法,包括如下步骤:
步骤S1,对不同工件采集图像,对采集的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集。
具体地,步骤S1进一步包括:
步骤S100,选择不同的工件,采用摄像装置对其进行拍照采集图像,获取工件的物理测量值,根据实际尺寸与像素比例将物理测量值转化为以像素为单位的计量值作为目标值。
在本发明具体实施例中,选择不同的工件,使用相机对其进行拍照采集图像。当相机固定时,将所选择的工件的物理尺寸按照一定的比例转换为图像的像素个数,在本发明具体实施例中,该比例值可以直接标定出来,例如,利用相机对带有刻度的直尺拍照,可以直接数出每厘米多少个像素,然后使用游标卡尺对工件上需要测量的长或宽进行测量得到其物理世界的真实测量值,例如单位为mm。然后根据实际尺寸与像素比例将其测量值转化为以像素为单位的计量值,作为目标值。
步骤S101,对采集的图像进行图像数据增益处理,对增益处理后的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的样本,生成样本数据集。
在本发明具体实施例中,首先对采集的图像进行平移、旋转、加噪声等各种变化,实现数据增益;然后对于每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的样本,记为其中,表示第i个样本的第1个边缘图;表示第i个样本的第2个边缘图;表示两个边缘图像和的中心点在原始图像上x方向和y方向上的距离;为第i个样本的以像素为计量单位的真实尺寸。图2给出了一个测量工件的水平尺寸的示意图。整个矩形区域表示图像数据,灰色区域为工件内容,两个虚线框为用户选择包含边缘的区域。
步骤S2,将训练样本的两个边缘图像分别输入工件尺寸测量模型,分别经两个卷积层处理后得到特征图,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上x方向和y方向上的距离输出工件尺寸测量值,通过损失函数计算模型生成的尺寸数据与真实尺寸的残差,根据损失函数实现模型的训练。
具体地,步骤S2进一步包括:
步骤S200,利用第一卷积层及第二卷积层分别对两边缘图像处理后得到两组特征图。
在本发明具体实施例中,第一卷积层获取训练样本或待测量样本的一边缘图像处理后得到一组特征图。在本发明具体实施例中,假设对于训练样本,给定第i样本其边缘图像送入第一卷积层得到一组特征图,记为整个卷积模块用函数fm(x;θm)表示,θm为卷积参数,则:
第二卷积层获取训练样本或待测量样本的另一边缘图像处理后得到一组特征图。在本发明具体实施例中,假设第i样本的边缘图像送入第二卷积层得到一组特征图,记为整个卷积模块用函数fm(x;θm)表示,θm为卷积参数,则:
步骤S201,将获得的两组特征图送入垂直投影分支,从而获得两个边缘图像在水平方向上相对位置的权重。
在本发明具体实施例中,垂直投影分支获取到特征图和后,对特征图和按照垂直方向进行池化,即按照垂直方向求平均值,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到水平方向上相对位置权重在本发明具体实施例中,用函数fv(x,y;θv)表示垂直投影分支,θv为全连接参数,则:
步骤S202,将获得的两组特征图送入水平投影分支,从而获得两个边缘图像在垂直方向上相对位置的权重。
具体地,水平投影分支获取到特征图和后,对特征图和按照水平方向进行池化,即按照水平方向求平均值,然后展开串联成一个一维向量,进行全连接操作,最终得到垂直方向上相对位置权重用函数fh(x,y;θh)表示水平投影分支,θh为全连接参数,则:
例如,是一个W×H×C维的张量,水平方向池化后变为1×H×C维的张量,展开为CH×1维的向量;对做相同的操作,同样得到CH×1维的向量;两者串联后得到2CH×1,随后进行全连接操作,最终得到垂直方向上相对位置权重
步骤S203,将获得的两组特征图送入相对测量分支,直接估计两个边缘图像的距离。
在本发明中,相对测量分支忽略了边缘图像在原始图像中的位置,直接估计两边缘的距离。可以理解为,当两个边缘图像重合时,分别从两个边缘图像提取两组边缘信息后,回归其距离尺寸。具体地,相对测量分支对特征分别按照垂直方向和水平方向进行池化,分别展开成两个列向量后,然后再在对应位置处取最大值生成一个单一向量。之所以这样操作是因为两个边缘的方向是未知的。假设两个边缘为竖直方向,那么垂直方向池化会有一个响应较大的点,而水平方向池化后得到的向量的值都比较低。两者取最大值后,能够保留边缘响应的位置。
步骤S204,根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上x方向和y方向上的距离输出工件尺寸测量值。
模型训练的过程就是使该损失函数尽可能的小。在本发明具体实施例中,训练采用常用的深度学习网络优化方式进行即可,在此则不予赘述。
步骤S3,当欲利用所述工件尺寸测量模型进行工件尺寸测量时,通过图像采集处理模块获取待测工件的图像,在图像上选择要测量的边缘,并结合其像素距离构成待测量样本送入训练好的工件尺寸测量模型。
步骤S4,于工件尺寸测量模型中,将待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上x方向和y方向上的距离输出工件尺寸测量值。
由于上述工件尺寸测量过程与训练过程中的工件尺寸测量过程相同,在此则不再进行赘述。
实施例
在本实施例中,工件尺寸测量模型的结构如图1所示,整个网络共有4个输入和一个输出。给定第i样本边缘图像和依次送入网络通过卷积层得到两组特征图,记为和整个卷积模块用函数fm(x;θm)表示,θm为卷积参数,则:
a.垂直投影分支
垂直投影分支的目的是为了计算两个边缘图像在水平方向上相对位置的权重。对和按照垂直方向进行池化,即按照垂直方向求平均值,然后展开串联成一个一维向量,进行全连接操作,最终得到水平方向上相对位置权重用函数fv(x,y;θv)表示垂直投影分支,θv为全连接参数,则:
b.水平投影分支
水平投影分支的目的是为了计算两个边缘图像在垂直方向上相对位置的权重。对和按照水平方向进行池化,即按照水平方向求平均值,然后展开串联成一个一维向量,进行全连接操作,最终得到垂直方向上相对位置权重用函数fh(x,y;θh)表示水平投影分支,θh为全连接参数,则:
c.相对测量分支
相对测量分支忽略了边缘图像在原始图像中的位置,直接估计两边缘的距离。可以理解为,两个边缘图像重合时,分别从两个边缘图像提取两组边缘信息后,回归其距离尺寸。对特征分别按照垂直方向和水平方向进行池化,分别展开成两个列向量后,然后再在对应位置处取最大值生成一个单一向量。
以下表1为本实施例中工件尺寸测量模型各分支网络的网络参数:
表1
在本实施例中,两个边缘图像均为灰度图像大小为64*64,故网络的输入尺寸为64*64*1,卷积操作:3*3*1@2则表示2个3*3*1的卷积核。
与现有技术相比,本发明具有如下优点:
a.简化设计流程:本发明避免了人工精心设计边缘算法提取特征、再直线拟合等繁琐流程,而是直接构建网络模型一步到位得到指定目标的尺寸信息;
b.关联成像质量:传统方法在任何成像条件下均采用同一个算法,普适性较低。本发明通过学习将模型与成像质量相关联使其能够很好的适用各种成像环境;
c.鲁棒性好:本发明凭借深度学习本身挖掘特征的能力,使其能够提取更为鲁棒的特征,得到更高的精度。
d.合理的网络结构:现有技术使用局部边缘窗口作为输入解决深度学习测量时,需要大感受野,而本发明利用多分支结构回归工件尺寸,使其让深度学习直接测量工件尺寸成为可能。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何本领域技术人员均可在不违背本发明的精神及范畴下,对上述实施例进行修饰与改变。因此,本发明的权利保护范围,应如权利要求书所列。
Claims (10)
1.一种基于深度学习的工件尺寸测量装置,包括:
图像采集处理模块,用于在模型训练时,对不同工件采集图像,对采集的每一幅图像中要测量的目标,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本;在进行模型测量时,对待测量工件采集图像,对采集的每一幅图像中要测量的目标,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本;
工件尺寸测量模型,用于将所述训练样本或待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像水平、垂直方向上的距离输出工件尺寸测量值。
2.如权利要求1所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述图像采集处理模块进一步包括:
训练样本数据集构建模块,用于选择不同的工件,采用摄像装置对其进行拍照采集图像,对采集的每一幅图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集;
待测量样本构建模块,用于在工件尺寸测量时,对待测量工件采集图像,对采集图像中的每一个要测量的长或宽,选择两个包含边缘位置且大小相同区域,并结合其像素距离构成一个标记的待测量样本。
3.如权利要求2所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述训练样本数据集构建模块进一步包括:
图像采集模块,用于对选择的不同工件,使用相机对其进行拍照采集图像;
物理测量值转化模块,用于获取工件尺寸的物理测量值,根据工件的实际尺寸与像素比例将物理测量值转化为以像素为单位的计量值作为目标值;
样本数据集生成模块,用于对采集的图像进行图像数据增益处理,对增益处理后的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集。
4.如权利要求1所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述工件尺寸测量模型进一步包括:
第一卷积层,用于获取所述训练样本或待测量样本的一边缘图像处理后得到一组特征图;
第二卷积层,用于获取所述训练样本或待测量样本的另一边缘图像处理后得到一组特征图;
垂直投影分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,并计算两个边缘图像在水平方向上相对位置的权重;
水平投影分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,并计算两个边缘图像在垂直方向上相对位置的权重;
相对测量分支,用于获取所述第一卷积层与第二卷积层输出的两组特征图,直接估计两个边缘图像的距离;
测量结果输出模块,用于根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及所述训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向的距离输出工件尺寸测量值。
5.如权利要求4所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述垂直投影分支在获取到两组特征图后,首先对两组特征图分别按照垂直方向进行池化,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到水平方向上相对位置权重。
6.如权利要求5所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述水平投影分支在获取到两组特征图后,首先对两组特征图分别按照水平方向进行池化,然后展开并串联成一个一维向量,最后进行全连接操作,最终得到垂直方向上相对位置权重。
7.如权利要求6所述的一种基于深度学习的工件尺寸测量装置,其特征在于,所述相对测量分支对所述第一卷积层输出的特征图分别按照垂直方向和水平方向进行池化,再分别展开成两个列向量后,并在对应位置处取最大值生成一个单一向量;所述相对测量分支对所述第二卷积层输出的特征图分别按照垂直方向和水平方向进行池化,再分别展开成两个列向量后,并在对应位置处取最大值生成一个单一向量;将得到的两个单一向量串联,最后使用全连接最终得到相对测量值。
10.一种基于深度学习的工件尺寸测量方法,包括如下步骤:
步骤S1,对不同工件采集图像,对采集的每一幅图像,选择两个包含边缘位置且大小相同区域,并结合其像素距离和实际像素尺寸构成一个标记的训练样本,生成训练样本数据集;
步骤S2,将训练样本的两个边缘图像分别输入工件尺寸测量模型,分别经两个卷积层处理后得到特征图,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及所述训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向上的距离输出工件尺寸测量值,通过损失函数计算模型输出的测量值与实际尺寸的残差,根据损失函数实现模型的训练;
步骤S3,当欲利用所述工件尺寸测量模型进行工件尺寸测量时,通过图像采集处理模块获取待测工件的图像,在图像上选择要测量的边缘,并结合其像素距离构成待测量样本送入训练好的工件尺寸测量模型;
步骤S4,在工件尺寸测量模型中,将所述待测量样本的两个边缘图像分别经卷积层处理得到特征图后,再分别通过垂直投影分支、水平投影分支以及相对测量分支计算两个边缘图像在水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,并根据获得的水平方向、垂直方向上相对位置的权重以及两边缘图像的距离,以及训练样本或待测量样本中两个边缘图像中心点在原始图像上水平、垂直方向上的距离输出工件尺寸测量值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110965506.6A CN113658147B (zh) | 2021-08-23 | 2021-08-23 | 一种基于深度学习的工件尺寸测量装置及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110965506.6A CN113658147B (zh) | 2021-08-23 | 2021-08-23 | 一种基于深度学习的工件尺寸测量装置及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113658147A true CN113658147A (zh) | 2021-11-16 |
CN113658147B CN113658147B (zh) | 2024-03-29 |
Family
ID=78491920
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110965506.6A Active CN113658147B (zh) | 2021-08-23 | 2021-08-23 | 一种基于深度学习的工件尺寸测量装置及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113658147B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114241203A (zh) * | 2022-02-24 | 2022-03-25 | 科大天工智能装备技术(天津)有限公司 | 一种工件长度测量方法及系统 |
CN116037486A (zh) * | 2023-02-16 | 2023-05-02 | 济南宏舜包装制品有限公司 | 控制系统以及基于控制系统的包装盒上料机构 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102414613A (zh) * | 2009-04-28 | 2012-04-11 | 富士机械制造株式会社 | 测量装置及其测量方法、切削机械的加工位置校正装置及其加工位置校正方法、以及摄像装置及具备该摄像装置的切削机械 |
JP5222430B1 (ja) * | 2012-10-19 | 2013-06-26 | 株式会社イノテック | 寸法計測装置、寸法計測方法及び寸法計測装置用のプログラム |
CN105865344A (zh) * | 2016-06-13 | 2016-08-17 | 长春工业大学 | 一种基于机器视觉的工件尺寸测量方法和装置 |
CN110232362A (zh) * | 2019-06-18 | 2019-09-13 | 西安电子科技大学 | 基于卷积神经网络和多特征融合的舰船尺寸估计方法 |
CN112634140A (zh) * | 2021-03-08 | 2021-04-09 | 广州松合智能科技有限公司 | 一种高精度的全尺寸视觉图像获取系统及方法 |
CN113074656A (zh) * | 2019-12-18 | 2021-07-06 | 财团法人工业技术研究院 | 工件孔洞测量方法 |
-
2021
- 2021-08-23 CN CN202110965506.6A patent/CN113658147B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102414613A (zh) * | 2009-04-28 | 2012-04-11 | 富士机械制造株式会社 | 测量装置及其测量方法、切削机械的加工位置校正装置及其加工位置校正方法、以及摄像装置及具备该摄像装置的切削机械 |
JP5222430B1 (ja) * | 2012-10-19 | 2013-06-26 | 株式会社イノテック | 寸法計測装置、寸法計測方法及び寸法計測装置用のプログラム |
CN105865344A (zh) * | 2016-06-13 | 2016-08-17 | 长春工业大学 | 一种基于机器视觉的工件尺寸测量方法和装置 |
CN110232362A (zh) * | 2019-06-18 | 2019-09-13 | 西安电子科技大学 | 基于卷积神经网络和多特征融合的舰船尺寸估计方法 |
CN113074656A (zh) * | 2019-12-18 | 2021-07-06 | 财团法人工业技术研究院 | 工件孔洞测量方法 |
CN112634140A (zh) * | 2021-03-08 | 2021-04-09 | 广州松合智能科技有限公司 | 一种高精度的全尺寸视觉图像获取系统及方法 |
Non-Patent Citations (2)
Title |
---|
CAIHUA LI ET AL: "Algorithm Research of Two-Dimensional Size Measurement on Parts Based on Machine Vision", 《ADVANCED MATERIALS RESEARCH》, pages 1945 - 1948 * |
刘晨: "基于机器视觉工件尺寸的高精度测量技术研究", 《中国优秀硕士学位论文全文数据库(电子期刊)》, vol. 2021, no. 01 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114241203A (zh) * | 2022-02-24 | 2022-03-25 | 科大天工智能装备技术(天津)有限公司 | 一种工件长度测量方法及系统 |
CN114241203B (zh) * | 2022-02-24 | 2022-05-13 | 科大天工智能装备技术(天津)有限公司 | 一种工件长度测量方法及系统 |
CN116037486A (zh) * | 2023-02-16 | 2023-05-02 | 济南宏舜包装制品有限公司 | 控制系统以及基于控制系统的包装盒上料机构 |
CN116037486B (zh) * | 2023-02-16 | 2024-05-03 | 济南宏舜包装制品有限公司 | 控制系统以及基于控制系统的包装盒上料机构 |
Also Published As
Publication number | Publication date |
---|---|
CN113658147B (zh) | 2024-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11551341B2 (en) | Method and device for automatically drawing structural cracks and precisely measuring widths thereof | |
CN110826549A (zh) | 基于计算机视觉的巡检机器人仪表图像识别方法及系统 | |
CN104268935A (zh) | 一种基于特征的机载激光点云与影像数据融合系统及方法 | |
CN105823416A (zh) | 多相机测量物体的方法和装置 | |
CN113658147A (zh) | 一种基于深度学习的工件尺寸测量装置及方法 | |
CN101998136A (zh) | 单应矩阵的获取方法、摄像设备的标定方法及装置 | |
CN107909018B (zh) | 一种稳健的多模态遥感影像匹配方法和系统 | |
CN107092905B (zh) | 一种电力巡检机器人的待识别仪器定位方法 | |
CN110930382A (zh) | 基于标定板特征点提取的点云拼接精度评估方法及系统 | |
CN106056121A (zh) | 基于sift图像特征匹配的卫星装配工件快速识别方法 | |
CN114266881A (zh) | 一种基于改进型语义分割网络的指针式仪表自动读数方法 | |
CN111829439A (zh) | 一种高精度平移测量方法及装置 | |
CN113627427B (zh) | 一种基于图像检测技术的仪器仪表读数方法及系统 | |
CN107369179B (zh) | 一种高精度图像定位方法 | |
CN113569679A (zh) | 测量断裂伸长率的方法、装置和系统 | |
CN116843725A (zh) | 一种基于深度学习光流法的河流表面流速测量方法及系统 | |
CN114120129B (zh) | 基于无人机图像和深度学习的滑坡滑移面的三维识别方法 | |
CN114241232B (zh) | 基于多任务学习的摄影体位识别和体表解剖标志检测方法 | |
CN115717865A (zh) | 环形结构全场变形测量方法 | |
CN114782556A (zh) | 相机与激光雷达的配准方法、系统及存储介质 | |
CN112085779B (zh) | 一种波浪参数估算方法及装置 | |
CN114266835A (zh) | 一种非量测相机的变形监测控制方法与系统 | |
CN112528982A (zh) | 一种用于检测船舶水尺线的方法、装置及系统 | |
RU2692970C2 (ru) | Способ калибровки видеодатчиков многоспектральной системы технического зрения | |
CN115983141B (zh) | 一种基于深度学习反演海浪波高的方法、介质及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |