CN113344905B - 一种带材跑偏量检测方法及系统 - Google Patents
一种带材跑偏量检测方法及系统 Download PDFInfo
- Publication number
- CN113344905B CN113344905B CN202110722626.3A CN202110722626A CN113344905B CN 113344905 B CN113344905 B CN 113344905B CN 202110722626 A CN202110722626 A CN 202110722626A CN 113344905 B CN113344905 B CN 113344905B
- Authority
- CN
- China
- Prior art keywords
- strip
- image
- edge
- row
- roller way
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title abstract description 30
- 230000011218 segmentation Effects 0.000 claims abstract description 112
- 238000000605 extraction Methods 0.000 claims abstract description 72
- 238000000034 method Methods 0.000 claims abstract description 44
- 238000004519 manufacturing process Methods 0.000 claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 26
- 238000012549 training Methods 0.000 claims description 69
- 238000011176 pooling Methods 0.000 claims description 34
- 230000009466 transformation Effects 0.000 claims description 29
- 239000011159 matrix material Substances 0.000 claims description 25
- 238000007781 pre-processing Methods 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 239000000463 material Substances 0.000 claims description 12
- 238000003708 edge detection Methods 0.000 claims description 4
- 238000012544 monitoring process Methods 0.000 abstract description 6
- 238000012795 verification Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 238000009434 installation Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 238000010200 validation analysis Methods 0.000 description 4
- 238000003709 image segmentation Methods 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 230000008034 disappearance Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 239000013072 incoming material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/181—Segmentation; Edge detection involving edge growing; involving edge linking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种带材跑偏量检测方法及系统,先获取生产现场的带材跑偏图像,然后对带材跑偏图像进行预处理,得到预处理后图像。再将预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像,并对分割结果图像进行边缘提取,得到边缘提取图像,最后根据边缘提取图像,计算带材的跑偏量。本发明所提供的检测方法及系统无需在生产带材的生产线上额外安装传感器设备,直接基于生产现场所安装的监控摄像头获取带材跑偏图像,再对带材跑偏图像进行图像处理即可进行带材跑偏量的检测,该方法无需复杂的安装机构,成本低,通用性强。
Description
技术领域
本发明涉及带材跑偏识别技术领域,特别是涉及一种带材跑偏量检测方法及系统。
背景技术
随着国民经济的快速发展,对高精度、高质量带材产品的需求量一直快速增长。然而,带材在生产过程中经常发生跑偏现象,造成这种现象的原因复杂多样,主要包括:设备安装精度较差、张力测量不准确、来料楔形等。带材跑偏会影响板形等产品的质量精度,还会造成设备的碰撞和损坏。
目前,实际生产中大部分生产线对带材跑偏的检测主要还是依靠人工目测的方式,但此方式不仅耗费人力、效率低下、识别误差大,且易受环境干扰。尽管已有研究提出了一些检测带材跑偏量的方法,但这些方法需要借助于安装特定传感器来实现,存在安装难度大、安装成本高、结构复杂的问题。
发明内容
本发明的目的是提供一种带材跑偏量检测方法及系统,无需安装特定传感器即可实现带材跑偏量的检测,通用性强。
为实现上述目的,本发明提供了如下方案:
一种带材跑偏量检测方法,所述检测方法包括:
获取生产现场的带材跑偏图像;
对所述带材跑偏图像进行预处理,得到预处理后图像;
将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
对所述分割结果图像进行边缘提取,得到边缘提取图像;
根据所述边缘提取图像,计算所述带材的跑偏量。
另一方面,本发明还提供一种带材跑偏量检测系统,所述检测系统包括:
获取单元,用于获取生产现场的带材跑偏图像;
预处理单元,用于对所述带材跑偏图像进行预处理,得到预处理后图像;
分割单元,用于将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
边缘提取单元,用于对所述分割结果图像进行边缘提取,得到边缘提取图像;
跑偏量计算单元,用于根据所述边缘提取图像,计算所述带材的跑偏量。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
本发明所提供的一种带材跑偏量检测方法及系统,先获取生产现场的带材跑偏图像,然后对带材跑偏图像进行预处理,得到预处理后图像。再将预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像,并对分割结果图像进行边缘提取,得到边缘提取图像,最后根据边缘提取图像,计算带材的跑偏量。本发明所提供的检测方法及系统无需在生产带材的生产线上额外安装传感器设备,直接基于生产现场所安装的监控摄像头获取带材跑偏图像,再对带材跑偏图像进行图像处理即可进行带材跑偏量的检测,该方法无需复杂的安装机构,成本低,通用性强。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例1所提供的检测方法的方法流程图。
图2为本发明实施例1所提供的带材跑偏图像和预处理后图像的示意图。
图3为本发明实施例1所提供的预处理后训练图像和标签图像的示意图。
图4为本发明实施例1所提供的分割网络的结构示意图。
图5为本发明实施例1所提供的分割结果图像、校正后图像、分割后图像和边缘提取图像的示意图。
图6为本发明实施例2所提供的检测系统的系统框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种带材跑偏量检测方法及系统,无需额外安装特定传感器即可实现带材跑偏量的检测,通用性强。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
实施例1:
目前关于带材跑偏检测已有部分相关研究,例如有一现有方法利用光电传感器测量被测带材的位置,并以电压信号的形式输出到带通滤波器调节电路,最后由鉴别电路判断带材跑偏情况。有一现有方法将CCD图像传感器作为位置传感器来检测带材边缘位置量,并与设定基准相比较,以此来检测带材是否出现跑偏。有一现有方法通过对连续两个检测周期两边部通道板形实际变化值与理论变化值做差,根据差值大小确定带材跑偏方向与具体跑偏量。有一现有方法中设定一个检测力阈值,从板形仪两侧分别向中心逐个通道搜索,找到两个边部通道(第一个大于检测力阈值的通道),再通过曲线拟合的方式确定两个边部通道的覆盖率,进而得到带材跑偏量。由此可见,现有技术关于带材跑偏的检测方法大多是通过安装特定传感器来实现的,通过这些方法设计的检测设备存在结构复杂,所需空间较大,安装成本较高,应用率低,互换性差等问题,即现有方法存在安装难度大、价格成本高、互换性差等问题,且现有方法的计算实施步骤繁杂,很难保证检测精度。为此,研究设计一种通用的、简单的和便携的带材跑偏量检测方法具有重要意义。本实施例用于提供一种基于图像分割的带材跑偏量智能检测方法,基于机器视觉的图像分割技术,利用生产现场的带材跑偏训练图像建立带材跑偏智能分割模型,利用该分割模型可实时识别带材在辊道中的位置,检测其跑偏量数值。该方法成本低,检测精度高,不易受环境干扰,且无需复杂的机构设备,对防止带材跑偏具有重要意义。
具体的,本实施例用于提供一种带材跑偏量检测方法,如图1所示,所述检测方法包括:
S1:获取生产现场的带材跑偏图像;
利用生产现场的监控摄像头对带材生产过程进行拍摄,得到带材生产视频,通过计算机对带材生产视频进行图片截取处理,得到多张带材跑偏图像。
S2:对所述带材跑偏图像进行预处理,得到预处理后图像;
根据ROI兴趣区域,对带材跑偏图像进行截取,得到预处理后图像。具体的,为了减少处理时间,降低带材跑偏图像中无用背景信息及噪声对分割结果的影响,对S1中的带材跑偏图像进行ROI兴趣区域截取,将感兴趣区域圈定在带材跑偏图像中带材和辊道的附近区域,圈定范围取在[g2-g1,k1-k2],利用圈定范围对带材跑偏图像进行截取,所得到的预处理后图像的尺寸大小为M×N。如图2所示,图2(a)给出了带材跑偏图像的示意图,并给出了圈定范围的示意。图2(b)给出了预处理后图像的示意图。
S3:将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
在S3之前,本实施例所提供的检测方法还包括利用数据集对分割网络进行训练得到分割模型的步骤,该步骤可以包括:
1)获取多张带材跑偏训练图像,对每一带材跑偏训练图像进行预处理,得到预处理后训练图像。具体的,带材跑偏训练图像的采集和预处理的过程可以包括:利用生产现场的监控摄像头拍摄采集得到带材生产视频,通过计算机进行图片截取处理,设置截取帧数为frames,共截取得到A张带材跑偏训练图像。为了减少处理时间,提高所建立的分割模型的精度,并降低带材跑偏训练图像中无用背景信息及噪声对分割模型的影响,对所有带材跑偏训练图像进行ROI兴趣区域截取,将感兴趣区域圈定在带材跑偏训练图像中的带材和辊道附近区域,圈定范围取在[g2-g1,k1-k2],所得到的预处理后训练图像的图像尺寸大小为M×N,并将所有的预处理后训练图像保存到数据集dataset1中。本实施例还可将数据集dataset1按照9:1的比例划分成数据集dataset2和测试集testset。
2)对每一预处理后训练图像添加标签,得到标签图像,所有预处理后图像和标签图像组成数据集dataset3。具体的,对数据集dataset2中的每一预处理后训练图像进行添加标签的处理,添加标签的处理过程即为利用数据集标注软件手动标出预处理后训练图像中的带材边缘和辊道边缘的过程,得到标签图像。如图3所示,图3(a)为预处理后训练图像的示意图,图3(b)为标签图像的示意图。添加标签结束后会得到预处理后训练图像所组成的数据集Imageset以及其对应的标签图像所组成的标签数据集Segmentationset,二者的组合记为数据集dataset3。本实施例还可将数据集dataset3按照9:1的比例划分成训练集trainset和验证集validationset。
3)利用所述数据集对分割网络进行训练,得到分割模型。分割网络选用带材跑偏金字塔语义分割网络PSPNet。如图4所示,分割网络包括特征提取模块、池化模块、拼接模块和卷积模块。特征提取模块分别与池化模块和拼接模块相连接,池化模块与拼接模块相连接,拼接模块与卷积模块相连接。
PSPNet的特征提取模块选用的是ResNet50,利用特征提取模块对预处理后训练图像进行特征提取,得到原始特征。ResNet50结构中主要由两种基本模块组成,分别是卷积残差模块Con_block和恒等残差模块Identity_block,其中卷积残差模块的输入与输出维度不同,其作用主要是改变网络的维度。而恒等残差模块的输入与输出维度相同,其作用主要是加深网络结构。ResNet50中的残差结构能解决深层网络中梯度消失的问题,可以利用更深层网络来提高训练精度。
PSPNet的池化模块包含多种尺寸的池化核,利用池化模块分别对原始特征进行池化,得到多个不同大小的池化后特征。优选的,池化模块具有4种不同大小尺寸的池化核,池化核大小分别设置为1×1、2×2、3×3和6×6,池化模块融合了4种不同大小的池化后特征,包含不同尺度、不同子区域间的信息。
PSPNet的拼接模块用于对经过池化模块所提取到的多个不同尺度大小的池化后特征进行上采样,得到多个采样后特征,并将多个采样后特征与经特征提取模块提取到的原始特征进行拼接,得到拼接后特征。
最后利用PSPNet的卷积模块对拼接后特征进行卷积操作,得到辊道和带材的预测分割结果图像。
基于上述分割网络,利用训练集trainset和验证集validationset对分割网络进行训练具体包括:
在进行训练之前,先设置输入分割网络的预处理后训练图像的尺寸大小为B×B,经预处理后训练图像的大小为M×N,此时,根据所搭建的分割网络的参数设置分割网络的图像输入尺寸为B×B。然后根据要识别的带材跑偏图像中的目标,设置模型的分类个数num。具体的,由于模型预测的是预处理后训练图像中每个像素点所属的类别,即模型要识别的目标是带材和辊道,则分类只有两个类别即带材和辊道,所以模型是要预测一张预处理后训练图像中每个像素点是属于带材还是辊道,若既不属于带材也不属于辊道则其为背景,所以分类个数num=分类个数2(带材和辊道)+1(背景)=3。再设置训练模型的超参数,超参数包括学习率lr、迭代次数epoch和分批次训练个数batch-size。设置模型的优化器,并设置模型的loss函数。
在具体训练时,训练和验证是交替进行的,每次训练前对训练集trainset和验证集validationset进行shuffle打乱数据处理,训练开始后首先将训练集trainset输入模型进行训练,得到模型的训练集误差损失,对训练集训练完成后将验证集validationset输入模型进行验证,得到验证集误差损失,至此完成一次迭代训练。后面训练过程与此相同,当训练次数达到设置的最大迭代次数epoch后,停止训练。若训练集loss和验证集loss均<0.5,则保存训练好的模型参数作为带材分割模型。若训练集loss或验证集loss≥0.5,则根据输出的loss对网络进行参数调整,若loss下降过慢则适当调大学习率lr,若loss未完全收敛则增加迭代次数epoch,再次进行迭代训练,直至训练集loss和验证集loss均<0.5。
作为一种可选的实施方式,本实施例还可将测试集testset输入至利用训练集和验证集所训练得到的分割模型中,对分割模型的参数再次进行调整,得到最终的分割模型,提高分割模型的精度。
利用上述方式所得到的分割模型包括特征提取模块、池化模块、拼接模块和卷积模块。特征提取模块分别与池化模块和拼接模块相连接,池化模块与拼接模块相连接,拼接模块与卷积模块相连接。分割模型与分割网络的基本架构一致,二者的区别仅在于对分割网络进行训练,调整其参数后,便可得到分割模型。
基于该分割模型,S3将预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像可以包括:利用特征提取模块对预处理后图像进行特征提取,得到原始特征。利用池化模块所包含的多种尺寸的池化核分别对原始特征进行池化,得到多个不同大小的池化后特征。利用拼接模块对多个不同大小的池化后特征进行上采样,得到多个采样后特征,并将多个采样后特征与原始特征进行拼接,得到拼接后特征。利用卷积模块对拼接后特征进行卷积操作,得到辊道和带材的分割结果图像。
S4:对所述分割结果图像进行边缘提取,得到边缘提取图像;
S4可以包括:
1)对分割结果图像进行透视变换处理,得到校正后图像。具体的,以分割结果图像中的辊道作为变换参照物,确定变换矩阵,然后根据变换矩阵,对分割结果图像进行透视变换处理,得到校正后图像。
由于摄像头与地面存在空间倾角,导致采集到的带材跑偏图像为三维空间图像,在进行后续图像处理前需要利用透视变换原理进行图像校正。由于辊道位置是固定不变的,所以以分割结果图像上的辊道作为变换参照物,确定辊道的四个角点在分割结果图像中的变换前坐标(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4),然后确定辊道的四个角点在透视变换处理后所得到的校正后图像上的变换后坐标(x′1,y′1)、(x′2,y′2)、(x′3,y′3)、(x′4,y′4)。然后利用下述公式1将四个角点的变换后坐标转换为三维空间坐标(u、v、w)。再根据四个角点的三维空间坐标以及四个角点的变换前坐标,根据公式2得到变换矩阵T。
式2中,
通过变换矩阵T,根据分割结果图像中每一个像素点的变换前坐标,利用公式2得到每一个像素点的三维空间坐标。然后基于公式1,将每一个像素点的三维空间坐标转换为变换后二维坐标,这一坐标变换过程即相当于对分割结果图像进行透视变换处理的过程,得到校正后图像。
2)对所述校正后图像进行基于图像阈值的分割处理,得到分割后图像。具体的,设置分割阈值thresh,假设分割阈值thresh为100,进行基于图像阈值的分割处理即为将校正后图像中所有大于或等于100的像素点的灰度值变成255,即白色,将校正后图像中所有小于100的像素点的灰度值变为0,即黑色。
3)对所述分割后图像进行边缘提取处理,得到边缘提取图像。优选利用Canny边缘检测算子对分割后图像进行边缘提取处理,得到边缘提取图像。具体的,设置Canny边缘检测算子的两个阈值threshold1和threshold2,得到边缘提取图像。边缘提取处理即为将分割后图像中存在灰度级突变的对象进行边缘提取,通过设置阈值使得不是边缘的像素点的灰度值变为0,即黑色,是边缘的像素点的灰度值保持为255,即白色。
如图5所示,图5(a)为分割结果图像的示意图,图5(b)为校正后图像的示意图,图5(c)为分割后图像的示意图,图5(d)为边缘提取图像的示意图。
S5:根据所述边缘提取图像,计算所述带材的跑偏量。
S5可以包括:
1)将所述边缘提取图像转换为二维矩阵,根据边缘提取图像的高度M和宽度N确定二维矩阵的行数M和列数N,且二维矩阵中每一个元素的值为边缘提取图像中对应像素点的灰度值。
2)选取所述边缘提取图像的高度的一半作为基准高度,基准高度H=M/2,并根据所述基准高度确定所述二维矩阵中的基准行。
3)根据所述基准行上各个元素的灰度值,确定辊道左边缘所在列、带材左边缘所在列、带材右边缘所在列以及辊道右边缘所在列。具体的,创建用于保存带材在图像基准高度H上带材位置和辊道位置标号的集合S,设置变量v用于循环,并初始化v=1。判断二维矩阵在坐标(H,v)处的灰度值G(H,v)=255是否成立,若成立,将当前变量v的值保存为集合S的元素;若不成立,则令v=v+1,并判断v=w是否成立,若成立,则可得到保存有带材位置和辊道位置标号的集合S={S1,S2,S3,S4},若不成立,则返回“判断二维矩阵在坐标(H,v)处的灰度值G(H,v)=255是否成立”的步骤。集合S中,元素S1为辊道左边缘所在列、元素S2为带材左边缘所在列、元素S3为带材右边缘所在列、元素S4为辊道右边缘所在列。
4)根据所述辊道左边缘所在列、所述带材左边缘所在列、所述带材右边缘所在列以及所述辊道右边缘所在列计算所述带材的跑偏量。
4.1)根据所述带材左边缘所在列和所述带材右边缘所在列确定所述带材的图像宽度;图像宽度BstripImg=S3-S2,单位为pixel。
4.2)根据生产规程确定当前带材跑偏图像中带材的实际宽度BrealImg。然后根据所述图像宽度和所述带材的实际宽度BrealImg确定转换比例因子;转换比例因子Q=BrealImg/BstripImg,单位为mm/pixel。
4.3)根据所述辊道左边缘所在列和所述带材左边缘所在列确定带材距辊道左边缘距离,根据所述辊道右边缘所在列和所述带材右边缘所在列确定带材距辊道右边缘距离;
带材距辊道左边缘距离Dleft=S2-S1,单位为pixel;带材距辊道右边缘距离Dright=S4-S3,单位为pixel。
4.4)根据所述带材距辊道左边缘距离、所述带材距辊道右边缘距离和所述转换比例因子计算所述带材的跑偏量。
带材的跑偏量E=(Dleft-Dright)×Q,E大于零,代表带材向右侧辊道发生跑偏,E小于零,则代表带材向左侧辊道发生跑偏。
本实施例所提供的检测方法与现有技术相比具有如下优势:本实施例基于金字塔语义分割网络PSPNet建立带材跑偏检测的分割模型,相比现有技术具有检测精度高、泛化能力强和运算速度快等优点。同时本检测方法所需的数据来源于生产现场监测设备,无需额外增加硬件设备,极大的节约了成本,且可以直接嵌入到生产现场系统,在线实时进行带材跑偏量的检测,对带材跑偏纠正,提高产品质量具有重要意义。
为了使本领域技术人员更清楚的了解本实施例的检测方法,在此举一实例对检测方法进行进一步介绍。
a、带材跑偏训练图像的采集及预处理,具体的执行步骤为:
a1、利用生产现场监控摄像头拍摄采集得到带材生产视频,通过计算机进行图片截取处理,设置截取帧数为frames=30,共截取得到A=500张带材跑偏训练图像。
a2、为了降低图像中生产现场背景以及噪声对图像质量的影响、减少处理时间、提高模型精度,对采集到的带材跑偏训练图像进行ROI兴趣区域选取,将感兴趣区域圈定在带材和辊道附近,图像截取范围为[550-1080,700-1350],预处理后训练图像的尺寸大小为530*650,并将其保存到数据集dataset1中。
a3、将数据集dataset1按照9:1的比例划分成数据集dataset2和验证集testset,其中dataset2共有图像数据450张,验证集testset共有图像数据50张。
a4、对数据集dataset2进行添加标签处理,添加标签的过程即手动绘出预处理后图像中要分割的带材边缘和辊道边缘的过程。添加标签结束后会得到原始图像数据集Imageset以及其对应的标签数据集Segmentationset,将其记为数据集dataset3。
a5、将数据集dataset3按照9:1的比例划分成训练集trainset和验证集validationset,其中trainset中图像数据有405张,validationset中图像数据有45张。
b、分割模型的搭建及训练,具体的执行步骤为:
b1、搭建PSPNet的特征提取模块,其选用的是ResNet50,ResNet50中的残差结构能解决深层网络中梯度消失的问题,可以利用更深层的网络提高训练精度;搭建PSPNet的池化模块,该池化模块中设置4个不同大小尺寸的池化核,分别为1×1、2×2、3×3、6×6,最后将ResNet50提取到的原始特征与池化模块提取到的不同尺度的池化后特征进行拼接,得到预测分割结果图像。
b2、利用步骤a得到的trainset和validationset对步骤b1搭建的PSPNet网络进行训练,设置图像输入模型的尺寸大小为416×416,设置模型的分类个数num为3,设置模型学习率lr=0.0001、迭代次数epoch=500和分批次训练个数batch-size=4,设置模型的优化器为Adam,设置模型的loss函数为CrossEnropyLoss;
b3、当迭代次数达到最大迭代次数后,输出分割模型的训练集loss=0.0371和验证集loss=0.0383,满足条件loss<0.5,转入步骤b4;
b4、将训练后的分割模型参数进行保存,得到分割模型。
c、利用分割模型M对带材跑偏图像进行带材跑偏量检测,具体的执行步骤包括:
c1、将带材跑偏图像进行预处理,并将预处理后图像输入到步骤b4的分割模型中,得到带材跑偏图像对应的辊道和带材的分割结果图像;
c2、对分割结果图像进行带材边缘和辊道边缘的提取处理,边缘提取处理过程具体的执行步骤包括:
c21、对分割结果图像进行透视变换处理,以分割结果图像上的辊道作为变换参照物,取分割结果图像中辊道的四个角点(249,0)、(579,0)、(45,530)、(650,530),然后确定辊道在透视变换后得到校正后图像上的四个目标点(100,0)、(550,0)、(100,530)、(550,530),根据透视变换公式求出变换矩阵T,根据变换矩阵T将分割结果图像的所有点投影到新平面,得到校正后图像;
c22、对校正后图像进行基于图像阈值的分割处理,设置分割阈值thresh=55,得到分割后图像;
c23、利用Canny边缘检测算子提取辊道边缘和带材边缘,设置Canny算子的两个阈值threshold1为30和threshold2为150,得到边缘提取图像;
c3、将边缘提取图像转换成二维矩阵,并得到二维矩阵的行数M=530和列数N=650,其中二维矩阵中的值为图像中各点处的灰度值;
c4、取图像高度的一半M/2作为计算跑偏量预测的基准高度H,其中H=M/2=265;
c5、取出二维矩阵在基准高度H上代表带材位置和辊道位置的标号,具体的执行步骤为:
c51、创建用于保存带材在图像基准高度H上带材位置和辊道位置标号的集合S,设置变量v用于循环,并令v=1;
c52、判断二维矩阵在坐标(H,v)处的灰度值G(H,v)=255是否成立,若成立,转到步骤c53,若不成立,转到步骤c54;
c53、将当前变量v的值保存为集合S的元素;
c54、令v=v+1;
c55、判断v=w是否成立,若成立转到步骤c56,若不成立转到步骤c52;
c56、得到保存有带材位置和辊道位置标号的集合S={S1,S2,S3,S4},其中元素S2和S3代表带材左右两边,S1和S4代表辊道左右两边;
c6、根据步骤c5得到的带材位置和辊道位置标号的集合S,计算带材在图像中的宽度,记为BstripImg=S3-S2=389。带材距辊道左边缘距离为Dleft=S2-S1=27,带材距辊道右边缘距离为Dright=S4-S3=34,单位为pixel;
c7、根据生产规程确定当前图像中带材的实际宽度为BrealImg=1000mm,则实际尺寸与图像尺寸的转换比例因子记为Q=BrealImg/BstripImg=2.57,单位为mm/pixel;
c8、计算实际带材跑偏量,E=(Dleft-Dright)×Q=-18.0mm,表示带材向辊道左侧发生跑偏,跑偏量为18.00mm。
实施例2:
本实施例用于提供一种带材跑偏量检测系统,如图6所示,所述检测系统包括:
获取单元M1,用于获取生产现场的带材跑偏图像;
预处理单元M2,用于对所述带材跑偏图像进行预处理,得到预处理后图像;
分割单元M3,用于将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
边缘提取单元M4,用于对所述分割结果图像进行边缘提取,得到边缘提取图像;
跑偏量计算单元M5,用于根据所述边缘提取图像,计算所述带材的跑偏量。
本实施例的检测系统基于机器视觉图像分割理论,将生产现场采集的带材跑偏图像输入到分割模型中,利用该分割模型识别带材跑偏图像中的辊道和带材的相对位置,检测出带材跑偏量。该方法成本低,精度高,不易受环境干扰,且无需复杂的安装机构,对防止带材跑偏,提高产品质量具有重要意义。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。
Claims (7)
1.一种带材跑偏量检测方法,其特征在于,所述检测方法包括:
获取生产现场的带材跑偏图像;
对所述带材跑偏图像进行预处理,得到预处理后图像;
将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
对所述分割结果图像进行边缘提取,得到边缘提取图像;
根据所述边缘提取图像,计算所述带材的跑偏量;
所述分割模型包括特征提取模块、池化模块、拼接模块和卷积模块;所述特征提取模块分别与所述池化模块和所述拼接模块相连接;所述池化模块与所述拼接模块相连接;所述拼接模块与所述卷积模块相连接;
所述将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像具体包括:
利用所述特征提取模块对所述预处理后图像进行特征提取,得到原始特征;
利用所述池化模块所包含的多种尺寸的池化核分别对所述原始特征进行池化,得到多个不同大小的池化后特征;
利用所述拼接模块对所述多个不同大小的池化后特征进行上采样,得到多个采样后特征,并将所述多个采样后特征与所述原始特征进行拼接,得到拼接后特征;
利用所述卷积模块对所述拼接后特征进行卷积操作,得到辊道和带材的分割结果图像;
所述根据所述边缘提取图像,计算所述带材的跑偏量具体包括:
将所述边缘提取图像转换为二维矩阵;所述二维矩阵中每一个元素的值为所述边缘提取图像中对应像素点的灰度值;
选取所述边缘提取图像的高度的一半作为基准高度,并根据所述基准高度确定所述二维矩阵中的基准行;
根据所述基准行上各个元素的灰度值,确定辊道左边缘所在列、带材左边缘所在列、带材右边缘所在列以及辊道右边缘所在列;
根据所述辊道左边缘所在列、所述带材左边缘所在列、所述带材右边缘所在列以及所述辊道右边缘所在列计算所述带材的跑偏量;
所述根据所述辊道左边缘所在列、所述带材左边缘所在列、所述带材右边缘所在列以及所述辊道右边缘所在列计算所述带材的跑偏量具体包括:
根据所述带材左边缘所在列和所述带材右边缘所在列确定所述带材的图像宽度;所述图像宽度为所述带材右边缘所在列与所述带材左边缘所在列的差值;
根据所述图像宽度和所述带材的实际宽度确定转换比例因子;所述转换比例因子为所述带材的实际宽度与所述图像宽度的比值;
根据所述辊道左边缘所在列和所述带材左边缘所在列确定带材距辊道左边缘距离,根据所述辊道右边缘所在列和所述带材右边缘所在列确定带材距辊道右边缘距离;
根据所述带材距辊道左边缘距离、所述带材距辊道右边缘距离和所述转换比例因子计算所述带材的跑偏量;E=(Dleft-Dright)×Q,其中,E为带材的跑偏量,Dleft为带材距辊道左边缘距离,Dright为带材距辊道右边缘距离,Q为转换比例因子。
2.根据权利要求1所述的检测方法,其特征在于,所述对所述带材跑偏图像进行预处理,得到预处理后图像具体包括:
根据ROI兴趣区域,对所述带材跑偏图像进行截取,得到预处理后图像。
3.根据权利要求1所述的检测方法,其特征在于,在将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像之前,所述检测方法还包括利用数据集对分割网络进行训练得到分割模型的步骤,具体包括:
获取多张带材跑偏训练图像,对每一所述带材跑偏训练图像进行预处理,得到预处理后训练图像;
对每一所述预处理后训练图像添加标签,得到标签图像;所有所述预处理后训练图像和所述标签图像组成数据集;
利用所述数据集对分割网络进行训练,得到分割模型。
4.根据权利要求1所述的检测方法,其特征在于,所述对所述分割结果图像进行边缘提取,得到边缘提取图像具体包括:
对所述分割结果图像进行透视变换处理,得到校正后图像;
对所述校正后图像进行基于图像阈值的分割处理,得到分割后图像;
对所述分割后图像进行边缘提取处理,得到边缘提取图像。
5.根据权利要求4所述的检测方法,其特征在于,所述对所述分割结果图像进行透视变换处理,得到校正后图像具体包括:
以所述分割结果图像中的辊道作为变换参照物,确定变换矩阵;
根据所述变换矩阵,对所述分割结果图像进行透视变换处理,得到校正后图像。
6.根据权利要求4所述的检测方法,其特征在于,所述对所述分割后图像进行边缘提取处理,得到边缘提取图像具体包括:
利用Canny边缘检测算子对所述分割后图像进行边缘提取处理,得到边缘提取图像。
7.一种带材跑偏量检测系统,其特征在于,所述检测系统包括:
获取单元,用于获取生产现场的带材跑偏图像;
预处理单元,用于对所述带材跑偏图像进行预处理,得到预处理后图像;
分割单元,用于将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像;
边缘提取单元,用于对所述分割结果图像进行边缘提取,得到边缘提取图像;
跑偏量计算单元,用于根据所述边缘提取图像,计算所述带材的跑偏量;
所述分割模型包括特征提取模块、池化模块、拼接模块和卷积模块;所述特征提取模块分别与所述池化模块和所述拼接模块相连接;所述池化模块与所述拼接模块相连接;所述拼接模块与所述卷积模块相连接;
所述将所述预处理后图像作为输入,利用分割模型得到辊道和带材的分割结果图像具体包括:
利用所述特征提取模块对所述预处理后图像进行特征提取,得到原始特征;
利用所述池化模块所包含的多种尺寸的池化核分别对所述原始特征进行池化,得到多个不同大小的池化后特征;
利用所述拼接模块对所述多个不同大小的池化后特征进行上采样,得到多个采样后特征,并将所述多个采样后特征与所述原始特征进行拼接,得到拼接后特征;
利用所述卷积模块对所述拼接后特征进行卷积操作,得到辊道和带材的分割结果图像;
所述根据所述边缘提取图像,计算所述带材的跑偏量具体包括:
将所述边缘提取图像转换为二维矩阵;所述二维矩阵中每一个元素的值为所述边缘提取图像中对应像素点的灰度值;
选取所述边缘提取图像的高度的一半作为基准高度,并根据所述基准高度确定所述二维矩阵中的基准行;
根据所述基准行上各个元素的灰度值,确定辊道左边缘所在列、带材左边缘所在列、带材右边缘所在列以及辊道右边缘所在列;
根据所述辊道左边缘所在列、所述带材左边缘所在列、所述带材右边缘所在列以及所述辊道右边缘所在列计算所述带材的跑偏量;
所述根据所述辊道左边缘所在列、所述带材左边缘所在列、所述带材右边缘所在列以及所述辊道右边缘所在列计算所述带材的跑偏量具体包括:
根据所述带材左边缘所在列和所述带材右边缘所在列确定所述带材的图像宽度;所述图像宽度为所述带材右边缘所在列与所述带材左边缘所在列的差值;
根据所述图像宽度和所述带材的实际宽度确定转换比例因子;所述转换比例因子为所述带材的实际宽度与所述图像宽度的比值;
根据所述辊道左边缘所在列和所述带材左边缘所在列确定带材距辊道左边缘距离,根据所述辊道右边缘所在列和所述带材右边缘所在列确定带材距辊道右边缘距离;
根据所述带材距辊道左边缘距离、所述带材距辊道右边缘距离和所述转换比例因子计算所述带材的跑偏量;E=(Dleft-Dright)×Q,其中,E为带材的跑偏量,Dleft为带材距辊道左边缘距离,Dright为带材距辊道右边缘距离,Q为转换比例因子。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110722626.3A CN113344905B (zh) | 2021-06-28 | 2021-06-28 | 一种带材跑偏量检测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110722626.3A CN113344905B (zh) | 2021-06-28 | 2021-06-28 | 一种带材跑偏量检测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113344905A CN113344905A (zh) | 2021-09-03 |
CN113344905B true CN113344905B (zh) | 2024-05-28 |
Family
ID=77481165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110722626.3A Active CN113344905B (zh) | 2021-06-28 | 2021-06-28 | 一种带材跑偏量检测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113344905B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114655655A (zh) * | 2022-03-09 | 2022-06-24 | 南京北路软件技术有限公司 | 一种基于UNet网络的传送带跑偏检测方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101596556A (zh) * | 2009-06-10 | 2009-12-09 | 苏州有色金属研究院有限公司 | 基于机器视觉检测对中控制装置的设计方法 |
CN103051872A (zh) * | 2012-12-18 | 2013-04-17 | 青岛科技大学 | 基于图像边缘提取的输送带跑偏检测方法 |
CN109543691A (zh) * | 2018-12-27 | 2019-03-29 | 斑马网络技术有限公司 | 积水识别方法、装置以及存储介质 |
CN109931869A (zh) * | 2019-03-21 | 2019-06-25 | 北京理工大学 | 基于激光扫描成像的物料体积高精度检测方法 |
CN112528878A (zh) * | 2020-12-15 | 2021-03-19 | 中国科学院深圳先进技术研究院 | 检测车道线的方法、装置、终端设备及可读存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111583097A (zh) * | 2019-02-18 | 2020-08-25 | 北京三星通信技术研究有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
-
2021
- 2021-06-28 CN CN202110722626.3A patent/CN113344905B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101596556A (zh) * | 2009-06-10 | 2009-12-09 | 苏州有色金属研究院有限公司 | 基于机器视觉检测对中控制装置的设计方法 |
CN103051872A (zh) * | 2012-12-18 | 2013-04-17 | 青岛科技大学 | 基于图像边缘提取的输送带跑偏检测方法 |
CN109543691A (zh) * | 2018-12-27 | 2019-03-29 | 斑马网络技术有限公司 | 积水识别方法、装置以及存储介质 |
CN109931869A (zh) * | 2019-03-21 | 2019-06-25 | 北京理工大学 | 基于激光扫描成像的物料体积高精度检测方法 |
CN112528878A (zh) * | 2020-12-15 | 2021-03-19 | 中国科学院深圳先进技术研究院 | 检测车道线的方法、装置、终端设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113344905A (zh) | 2021-09-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106875381B (zh) | 一种基于深度学习的手机外壳缺陷检测方法 | |
CN101828201B (zh) | 图像处理装置及方法、学习装置及方法 | |
JP4772839B2 (ja) | 画像識別方法および撮像装置 | |
CN104166841A (zh) | 一种视频监控网络中指定行人或车辆的快速检测识别方法 | |
CN103093458B (zh) | 关键帧的检测方法及装置 | |
CN104036284A (zh) | 基于Adaboost算法的多尺度行人检测方法 | |
CN111507426A (zh) | 基于视觉融合特征的无参考图像质量分级评价方法及装置 | |
CN109684986B (zh) | 一种基于车辆检测跟踪的车辆分析方法及系统 | |
CN105787870A (zh) | 一种图形图像拼接融合系统 | |
CN104637060B (zh) | 一种基于邻域主成分分析-拉普拉斯的图像分割方法 | |
CN113344905B (zh) | 一种带材跑偏量检测方法及系统 | |
CN116740758A (zh) | 一种防止误判的鸟类图像识别方法及系统 | |
CN111582270A (zh) | 基于高精度的桥梁区域视觉靶标特征点的识别追踪方法 | |
CN111028263A (zh) | 一种基于光流颜色聚类的运动物体分割方法及其系统 | |
CN115830514B (zh) | 一种适用于带弯曲河道的全河段表面流速计算方法及系统 | |
CN116758421A (zh) | 一种基于弱监督学习的遥感图像有向目标检测方法 | |
CN116883893A (zh) | 基于红外热成像的隧道掌子面地下水智能判识方法及系统 | |
CN116188943A (zh) | 太阳射电频谱爆发信息检测方法及装置 | |
CN113963427B (zh) | 一种快速活体检测的方法与系统 | |
CN111127355A (zh) | 一种对缺损光流图进行精细补全的方法及其应用 | |
CN111260625B (zh) | 胶印大张图像检测区域的自动提取方法 | |
CN115035164A (zh) | 一种运动目标识别方法及装置 | |
CN115546021A (zh) | 一种应用于冷床分流场景检测的多相机图像拼接方法 | |
CN111127311B (zh) | 基于微重合区域的图像配准方法 | |
CN111860332A (zh) | 基于多阈值级联检测器的双通道电力图零部件检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |