CN114295050A - 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统 - Google Patents

基于卷积神经网络的预制混凝土板多尺寸检测方法及系统 Download PDF

Info

Publication number
CN114295050A
CN114295050A CN202111601296.9A CN202111601296A CN114295050A CN 114295050 A CN114295050 A CN 114295050A CN 202111601296 A CN202111601296 A CN 202111601296A CN 114295050 A CN114295050 A CN 114295050A
Authority
CN
China
Prior art keywords
detection target
precast concrete
detection
image
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111601296.9A
Other languages
English (en)
Other versions
CN114295050B (zh
Inventor
姚刚
李青泽
魏伏佳
薛光迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing Chuangzhu Technology Co ltd
Original Assignee
Chongqing Chuangzhu Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing Chuangzhu Technology Co ltd filed Critical Chongqing Chuangzhu Technology Co ltd
Priority to CN202111601296.9A priority Critical patent/CN114295050B/zh
Publication of CN114295050A publication Critical patent/CN114295050A/zh
Application granted granted Critical
Publication of CN114295050B publication Critical patent/CN114295050B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明属于预制混凝土板检测技术领域,具体涉及基于卷积神经网络的预制混凝土板多尺寸检测方法及系统,该方法包括:步骤1、在生产模台上方固定安装采集模块后,通过采集模块采集生产线上预制混凝土板图像,建立数据集,并按照预设比例将图像的数据集随机分为训练集和验证集;步骤2、用预设线宽的矩形框,对训练集进行标注,标注出每幅图像中各检测目标的准确位置;其中,检测目标包括混凝土底板;步骤3、构建PC‑YOLOv4模型,用标注后的训练集进行训练,并用验证集进行验证;其中,构建PC‑YOLOv4模型时,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进。本方法能够满足当前预制混泥土板的生产需求。

Description

基于卷积神经网络的预制混凝土板多尺寸检测方法及系统
技术领域
本发明属于预制混凝土板检测技术领域,具体涉及基于卷积神经网络的预制混凝土板多尺寸检测方法及系统。
背景技术
经济的快速发展,交通的更加便利,我国装配式建筑迎来了高速发展的黄金时期。预制混凝土板作为装配式建筑的主要构成部分,因其生产周期短,模板利用率高,在缩短施工工期的同时还实现了绿色施工的特点,已成为当前预制构件工厂生产量最大的单体构件,也是装配式建筑中预制率、装配率最高的构件。在投入使用前,需要对预制混泥土板进行检测,以防止出现因为预制混凝土板的问题而造成不必要的材料浪费和二次运输费用、导致生产成本增加、影响现场安装进度和总施工工期、增加建设成本的情况。而在预制混泥土板的返厂原因中,因为尺寸不合格而返厂是最主要的返厂原因,因此,尺寸检测在预制混凝土板的出厂检测中显得尤其关键。
目前,预制混泥土板的尺寸检测主要有两种方式,人工抽样法和三维激光扫描法。人工抽样钢尺测量法是目前工厂最常用的方法,该方法操作简单,但是质检成本高,效率低(一条生产线大概配备三个质检员);而且检测项目单一,一般只测量板块轮廓尺寸。受相关检测人员工作的随意性导致测量结果存在较大差异。更重要的是在检测过程中吊装工序也在同时进行,存在极大的安全隐患。三维激光扫描法则主要存在于论文中,该方法需要将待检测构件运输至专门的检测场地(需要一个二次运输过程和场地费用),根据构件的尺寸确定扫描距离和扫描点(该点需要根据构件的尺寸确定,针对不同的构件需要不断地调整设备位置),同时布置相应数量的激光扫描仪(一般三台起步,因为需要360°扫描。每台设备费用六位数起步),整个检测过程不仅操作繁琐复杂,而且还需花费较高的检测成本(所以该方法精度虽然高,但是绝大部分厂商都放弃了)。
随着近年来装配式建筑产业的进一步发展,预制混凝土板的需求量急剧增加,当前的质检手段已难以满足正常生产需求,装配式建筑厂商和建筑行业都亟需一种高效快捷的预制混凝土板尺寸检测方法,以满足当前的生产需求。
近年来,随着计算机性能的提升以及算法的进一步优化,国内外专家和学者对深度学习方法展开了深入研究,并在目标检测方面和语音识别领域都取得了显著的成果,在工业界也产生了许多积极应用。但是,目前的图像采集检测方法,如YOLOv4模型,只能检测出图像里的物体,以及该物体归为某类标签的概率为多少,而不能检测具体的尺寸信息。但预制混泥土板最重要的检测属性便是尺寸信息,因此,在土木工程领域,YOLOv4模型的研究和应用都集中在混凝土表面质量缺陷的检测,检测内容主要为裂缝、气泡和剥落等缺陷目标,输出结果并不包含其实际尺寸信息。除此,YOLOv4模型在检测目标对象时,只能对小尺寸的图像进行检测,而要准确的识别预制混泥土板各种尺寸,则需要很大尺寸的图像以保证采集图像的清晰度,现有的YOLOv4模型不具备大尺寸图像检测能力,强行使用其检测效率也会非常低,并且检测精度仍不能满足需求。
因此,虽然当前的质检手段已难以满足正常生产需求,各厂商仍只能采用人工抽样法或三维激光扫描法进行预制混泥土板的尺寸检测。
发明内容
本发明的目的在于,提供一种基于卷积神经网络的预制混凝土板多尺寸检测方法,能够满足当前预制混泥土板的生产需求。
本发明提供的基础方案为:
基于卷积神经网络的预制混凝土板多尺寸检测方法,包括:
步骤1、在生产模台上方固定安装采集模块后,通过采集模块采集生产线上预制混凝土板图像,建立数据集,并按照预设比例将图像的数据集随机分为训练集和验证集;
步骤2、用预设线宽的矩形框,对训练集进行标注,标注出每幅图像中各检测目标的准确位置;其中,检测目标包括混凝土底板;
步骤3、构建PC-YOLOv4模型,用标注后的训练集进行训练,并用验证集进行验证;其中,构建PC-YOLOv4模型时,在主干网络CSPDarknet53和Neck网络的连接部分引入Firemodule;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
步骤4、从步骤1采集的预制混凝土板图像中,选择形变量最小的X个固定磁盒后,测量选出的固定磁盒在图像中的宽度并计算平均宽度值,记为固定磁盒的图像宽度;再用固定磁盒的实际宽度除以图像宽度得到比例系数;
步骤5、通过采集模块获取待检测预制混泥土板的图像;
步骤6、检测预制混凝土板的尺寸;
步骤6.1:将待检测预制混凝土板的图像输入到训练好的PC-YOLOv4模型中,检测出图像中的各检测目标;
步骤6.2:利用OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合步骤4得到的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸。
基础方案工作原理及有益效果:
采用本方法构建的PC-YOLOv4模型,拥有对大尺寸图片的处理能力,具备了进行尺寸检测的精度基础。需要说明的是,在深度学习领域,研究者一般把注意力集中在如何提高神经网络的准确度上,所以神经网络的层次越来越深,参数也越来越多,在某种意义上处理速度会逐渐降低,而且对于硬件的要求越来越高。所以一般情况下,深度学习算法不会考虑加入Fire module模块(因为很多相关研究不考虑速度和成本,只需要理想环境下得到最高准确率)。如果按照常规的思路,本申请要大幅度的提高检测效率是不可能的,因为深度学习的检测精度越高,所需的时间也会越高。尤其是当检测的目标有多个时,更是如此。
但本申请人跳出了深度学习领域的常规思路,没有在提高准确度上过分纠结,因为预制混凝土板的情况很特殊,虽然存在多目标检测(混凝土底板、预埋线盒、弯钩钢筋),但是和一般小检测目标不同,预制混凝土板的三种目标(混凝土底板,预埋线盒、弯钩钢筋)的形态、尺寸差异都很大,不存在某两种或几种极为相似难以区分的目标,一昧的追求深层网络存在明显边际递减效应,意义不大。因此,本申请人提出了一个构想:如果把识别的目的改变为只要能够对这三种目标进行区分即可,那么是否可以在识别的效率上获得很大的突破。基于这样的思路,本申请人在构建PC-YOLOv4模型时,在CSPDarknet53主干网络和Neck网络连接部分引入了Fire module。这样的做法并不符合深度学习的常规思路,但在预制混泥土板的尺寸识别时,却取得了非常好的技术效果,那就是,在能够识别出需要的目标(混凝土底板、预埋线盒、弯钩钢筋)的同时,有效减少了模型的参数数量,同时扩展了网络宽度,从而有效提高了检测速度,换个说法,在实现目标识别的同时处理速度得到了很大的提升。实践表明,本方法的处理速度可以与预制混泥土板的生产速度相匹配,相当于,本方法可直接在预制混泥土板的生产环节,对其进行拍照及检测,不用停机检测或者另外单独设置检测环节。换个说法,使用本申请,和现有的检测技术相比,直接省掉了独立检测的步骤,只需要在生产环节对处于生产模台上的预制混泥土板进行图像采集即可,极大的提升了检测效率。
但是,生产环节直接进行尺寸检测也存在其他问题。由于采集预制混泥土板的图像时,预制混泥土板处于生产模台上,采集到的图像中会包含很多不必要的背景,尤其是浇筑后的混凝土存在漏浆、溢浆区域,因为溢出来部分也是混凝土和预制板属于同种材质(颜色等背景也极为相似),怎样将预制板准确的识别出来是一个难题。为了解决上述问题,本方法在构建PC-YOLOv4模型时,对PANet结构和Head结构进行了改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入了CBAM模块,增强模型区分目标和背景的能力,而且能从融合特征中过滤和增强重要信息,并抑制无用特征。从而能够将图像中生产模台上的目标(混凝土底板、预埋线盒、弯钩钢筋)准确的识别出来。通过上述改进,本方法可以在生产环节对处于生产模台上的预制混泥土板进行图像采集后,准确识别出待检测尺寸信息的目标。
另一方面,由于采集模块(摄像头)的位置固定,其距离混泥土底板的距离是固定的。而预制混泥土板与固定磁盒的高度基本相同。通过固定磁盒在图像中的尺寸及真实尺寸的比例关系,再结合混泥土底板在图像中的尺寸,就可以得到混泥土底板的真实尺寸。具体的,通过步骤4,可计算出固定磁盒的真实宽度与图像宽度的比例系数;通过步骤6,则可以通过PC-YOLOv4模型将图像中的混泥土底板准确的框定出来后,通过OpenCV-DNN模块对图像中的框定尺寸进行识别,从而获取到混泥土底板在图像中的尺寸,之后,结合步骤4得到的比例系统,就可以计算出混泥土底板的真实尺寸,从而了解该预制混泥土板是否满足要求。
使用本方法,不用对生产线停工,也不用另外单独设置检测环节,直接在生产的过程中即可完成对预制混泥土板的尺寸检测。并且,不需要改变原本的生产线及生产流程,只需要在生产模台上方设置摄像头来采集图像数据并发送给处理端即可。可以极大的提升预制混泥土板的生产效率,节约人力物力成本。
综上,本方法能够满足当前预制混泥土板的生产需求。
进一步,步骤3包括:
步骤3.1:构建PC-YOLOv4模型,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
步骤3.2:将标注后的训练集图像作为输入,进入主干网络CSPDarknet53;由主干网络CSPDarknet53对每幅训练集图像进行卷积、批归一化处理和Mish函数激活操作,提取图像特征,分别得到N种预设尺寸的有效特征图;其中,N的数值与检测目标的种类相等;
步骤3.3:待标注后的训练集图像和有效特征图进入Neck连接结构后,对标注后的训练集图像和有效特征图再次卷积和Leaky-relu函数激活,并以模型空间金字塔池化层对各尺寸的有效特征图进行特征融合,通过上采样和下采样方式对各尺寸的有效特征图进行池化,加强特征;
步骤3.4:将步骤3.3处理后的有效特征图输入Head输出层,Head输出层先对有效特征图再次卷积和Leaky-relu函数激活,然后使用先验框策略,在每个尺度特征图的每个网格设置M个anchor box,共生成N*M个anchor box;
步骤3.5:利用softmax函数计算每个包含检测目标的anchor box的置信值,然后将附带置信值的anchor box与步骤2标注的GroundTruth边框位置的进行初步回归,并按照置信值高低进行排序;对置信值大于0.5的anchor box采取非极大值抑制后再次按照置信值高低进行排序,去除置值等于0的情况后,输出置信值最大的anchor box,得到候选区域;
步骤3.6:对候选区域进行检测目标的检测以及边框位置的精确回归;
步骤3.7:PC-YOLOv4模型训练结束后,用验证集数据对训练后的模型进行验证,达到要求的检测精度和召回率后,保留训练得到的模型权重参数。
有益效果:这样的方式,利用CSPDarknet53网络提取图像特征,不仅可以克服人工提取特征的局限性,还能够大幅度提升原始图像特征提取的速度。而在CSPDarknet53主干网络和Neck网络连接部分引入了Fire module,则减少了模型参数数量,扩展了网络宽度,可进一步提高网络的检测速度。除此,步骤3.2和步骤3.3引入了CBAM,结合通道注意模块和空间注意模块来处理有效特征图,使用最大池化和平均池化进行功能聚合,可以更全面地提取需要注意的特征信息。另外,在不同子步骤中分别采用Mish函数和Leaky-ReLU函数,可以在保证处理效率的同时兼顾准确性。再者,通过3.5的两次排序及筛选,可以得到将检测目标框定得最为准确完整的anchor box,在经过3.6对检测目标的检测以及边框位置的精确回归,可以保证投入使用时,能够将检测目标进行精准的框定,从而保证获取到的检测目标的图像数据的准确性。
进一步,检测目标还包括预埋线盒和不合格带弯钩钢筋。
有益效果:预埋线盒、钢筋的高度与固定磁盒的高度也基本相等,这样的设置,可以使检测的结果更加完善,保证通过检测的预制混泥土板的综合质量。
进一步,步骤3.2中,N的数值为3,3种预设尺寸分别为19×19、38×38和76×76。
有益效果:通过这三种预设尺寸,能够准确完整的对预埋线盒、不合格带弯钩钢筋以及混凝土底板进行框定。
进一步,步骤6.2中,各检测目标的实际数据中,还包括预埋线盒的坐标,以及不合格带弯钩钢筋的数量和位置。
有益效果:这样,可以同时完成预制凝土板底板轮廓尺寸的检测、预埋线盒位置信息的检测以及不合格弯钩钢筋数量的检测,保证通过检测的预制混泥土板在各方面均符合要求。
进一步,步骤2中,对预埋线盒进行标注时,只用一个矩形框标注线盒中部的矩形或八角形部分。
有益效果:可以排除线盒四周伸出线管的影响,以保证后期预埋线盒坐标信息的精确表达。
进一步,Mish函数的激活函数表达式为:
f(x)=x*tanh(ln(1+ex));
Leaky-ReLU函数的激活函数表达式为:
Figure BDA0003433154930000061
其中,a为固定值。
有益效果:可以保证模型分类识别的准确性。
本发明还提供一种基于卷积神经网络的预制混凝土板多尺寸检测系统,应用于上述基于卷积神经网络的预制混凝土板多尺寸检测方法,包括采集模块和处理端;采集模块固定在生产模台上方;
处理端包括存储单元和处理单元;存储单元内存储有固定磁盒的实际宽度与图像宽度的比例系数;处理单元内预存有训练好的PC-YOLOv4模型和OpenCV-DNN模块;其中,PC-YOLOv4模型构建时,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
采集模块用于采集生产线上的预制混泥土板图像并发送给处理单元;处理单元用于通过训练好的PC-YOLOv4模型对预制混泥土板图像进行检测,检测出图像中的各检测目标;检测目标包括混泥土底板;处理单元还用于通过OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合存储单元中的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸。
有益效果:使用本系统,不用对生产线停工,也不用另外单独设置检测环节,直接在生产的过程中即可完成对预制混泥土板的尺寸检测。并且,不需要改变原本的生产线及生产流程,只需要在生产模台上方设置摄像头来采集图像数据并发送给处理端即可。可以极大的提升预制混泥土板的生产效率,节约人力物力成本。综上,本系统能够满足当前预制混泥土板的生产需求。
进一步,检测目标还包括预埋线盒和不合格带弯钩钢筋。
有益效果:预埋线盒、钢筋的高度与固定磁盒的高度也基本相等,这样的设置,可以使检测的结果更加完善,保证通过检测的预制混泥土板的综合质量。
进一步,各检测目标的实际数据中,还包括预埋线盒的坐标,以及不合格带弯钩钢筋的数量和位置。
有益效果:可以同时完成预制凝土板底板轮廓尺寸的检测、预埋线盒位置信息的检测以及不合格弯钩钢筋数量的检测,保证通过检测的预制混泥土板在各方面均符合要求。
附图说明
图1为本发明实施例一的流程图;
图2为本发明实施例一中预制混凝土板尺寸检测的实现过程示例图;
图3为本发明实施例一中PC-YOLOv4模型的网络结构示意图;
图4为本发明实施例一中Fire module的结构示意图;
图5为本发明实施例一中CBAM的整体结构示意图;
图6为本发明实施例一中CBAM的通道注意模块示意图;
图7为本发明实施例一中CBAM的空间注意模块示意图;
图8为本发明实施例一中采集的预制混凝土板原始图像;
图9为本发明实施例一中预制混凝土板通过PC-YOLOv4模型检测的结果。
具体实施方式
下面通过具体实施方式进一步详细的说明:
实施例一
如图1、图2所示,基于卷积神经网络的预制混凝土板多尺寸检测方法,包括:
步骤1、在生产模台上方固定安装采集模块后,通过采集模块采集生产线上预制混凝土板图像,建立数据集,并按照7:3的比例将图像的数据集随机分为训练集和验证集。本实施例中,采集模块为摄像头。预制混泥土板的图像尺寸为608×608,这样的图形尺寸,利于较小目标预埋线盒和钢筋的检测。数据集中图像的标准为,用肉眼可以看清图像中的预制混凝土板轮廓、钢筋及预埋线盒。本实施例中,样本集包括采集模块拍摄的620张预制混凝土板图像,以及将这620张图像进行90°、180°和270°旋转后得到的1860张像素不变的扩充图像。
步骤2、用像素为1线宽的矩形框,对训练集进行标注,标注出每幅图像中各检测目标的准确位置。本实施例中,检测目标为混凝土底板、预埋线盒和不合格带弯钩钢筋。对预埋线盒进行标注时,只用一个矩形框标注线盒中部的矩形或八角形部分,这样,可以排除线盒四周伸出线管的影响,以保证后期预埋线盒坐标信息的精确表达。每张预制混凝土板原始图像标注后,都对应生成后缀为xml的同名文件,该文件记录了原始图像中各标注框的具体位置和自定义的目标类别等详细信息。
步骤3、如图3所示,构建PC-YOLOv4模型,用标注后的训练集进行训练,并用验证集进行验证;具体的,步骤3具体包括:
步骤3.1:构建PC-YOLOv4模型,如图4—图7所示,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;本实施例中,CBAM采用激活函数为Sigmoid函数,对应表达式为:
Figure BDA0003433154930000091
其中,PC-YOLOv4模型中的损失函数为:
Figure BDA0003433154930000092
式中:
S×S表示将输入划分为S×S个网格单元,N为每个网格单元中anchor box的数量;λcoord和λnoobj为惩罚因子,本实例中λcoord=5,λnoobj=0.5。损失函数包括检测目标存在部分和非检测目标存在部分,在非检测目标存在部分对损失函数的权重系数一定的调整。因为对于输入图像来说,如果图像的背景占据了图像的绝大部分范围,而待检测目标只存在于小范围,这样就会导致网络模型在进行目标识别的过程中,非检测目标存在部分的计算量远大于检测目标存在部分的计算量,使得网络更倾向于做出目标并不存在于当前检测单元格的判断,因此需要对非检测目标存在部分进行调整,减少该部分的贡献权重。
p(c)表示检测对象属于类别c的概率;Ci表示该第i个网格单元是否包含对象的置信度;若目标存在于第i个网格的第j个目标框中,则
Figure BDA0003433154930000093
否则
Figure BDA0003433154930000094
lCIOU表示CIOU的损失,计算方式如下:
Figure BDA0003433154930000095
其中:
Figure BDA0003433154930000096
Figure BDA0003433154930000097
式中,IOU表示为算法模型生成的预测框与GroundTruth标签框的交集和并集的比值,它描述了两个框的重叠程度,值越高,定位算法更准确。
w和h分别为预测框的宽度和高度。wgt和hgt分别为标注框的宽度和高度。
v用于测量纵横比的一致性。
α是一个用于权衡的参数,可以在训练中学习。
步骤3.2:将标注后的训练集图像作为输入,进入主干网络CSPDarknet53;由主干网络CSPDarknet53对每幅训练集图像进行卷积、批归一化处理和Mish函数激活操作,提取图像特征,分别得到N种预设尺寸的有效特征图;其中,N的数值与检测目标的种类相等;本实施例中,N的数值为3,3种预设尺寸分别为19×19、38×38和76×76。通过这三种预设尺寸,能够准确完整的对预埋线盒、不合格带弯钩钢筋以及混凝土底板进行框定。本实施例中,Mish函数的激活函数表达式为:f(x)=x*tanh(ln(1+ex));
步骤3.3:待标注后的训练集图像和有效特征图进入Neck连接结构后,对标注后的训练集图像和有效特征图再次卷积和Leaky-relu函数激活,并以模型空间金字塔池化层对各尺寸的有效特征图进行特征融合,通过上采样和下采样方式对各尺寸的有效特征图进行池化,加强特征;本实施例中,Leaky-ReLU函数的激活函数表达式为:
Figure BDA0003433154930000101
其中,a为固定值,本实施例中a的数值为0.01。
步骤3.4:将步骤3.3处理后的有效特征图输入Head输出层,Head输出层先对有效特征图再次卷积和Leaky-relu函数激活,然后使用先验框策略,在每个尺度特征图的每个网格设置M个anchor box,本实施例中,M的数值为3。共生成9个anchor box。
步骤3.5:利用softmax函数计算每个包含检测目标的anchor box的置信值,然后将附带置信值的anchor box与步骤2标注的GroundTruth边框位置的进行初步回归,并按照置信值高低进行排序;对置信值大于0.5的anchor box采取非极大值抑制后再次按照置信值高低进行排序,去除置值等于0的情况后,输出置信值最大的anchor box,得到候选区域;
步骤3.6:对候选区域进行检测目标的检测以及边框位置的精确回归;
步骤3.7:PC-YOLOv4模型训练结束后,用验证集数据对训练后的模型进行验证,达到要求的检测精度和召回率后,保留训练得到的模型权重参数。
利用CSPDarknet53网络提取图像特征,不仅可以克服人工提取特征的局限性,还能够大幅度提升原始图像特征提取的速度。而在CSPDarknet53主干网络和Neck网络连接部分引入了Fire module,则减少了模型参数数量,扩展了网络宽度,可进一步提高网络的检测速度。除此,步骤3.2和步骤3.3引入了CBAM,结合通道注意模块和空间注意模块来处理有效特征图,使用最大池化和平均池化进行功能聚合,可以更全面地提取需要注意的特征信息。另外,在不同子步骤中分别采用Mish函数和Leaky-ReLU函数,可以在保证处理效率的同时兼顾准确性。再者,通过3.5的两次排序及筛选,可以得到将检测目标框定得最为准确完整的anchor box,在经过3.6对检测目标的检测以及边框位置的精确回归,可以保证投入使用时,能够将检测目标进行精准的框定,从而保证获取到的检测目标的图像数据的准确性。
步骤4、从步骤1采集的预制混凝土板图像中,选择形变量最小的X个固定磁盒后,测量选出的固定磁盒在图像中的宽度并计算平均宽度值,记为固定磁盒的图像宽度;再用固定磁盒的实际宽度除以图像宽度得到比例系数。本实施例中,用Windows专用数字图像测量软件Camera Measure测量固定磁盒在图像中的宽度。
步骤5、通过采集模块获取待检测预制混泥土板的图像,如图8所示。
步骤6、检测预制混凝土板的尺寸;
步骤6.1:将待检测预制混凝土板的图像输入到训练好的PC-YOLOv4模型中,检测出图像中的各检测目标;如图9所示。
步骤6.2:利用OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合步骤4得到的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸、预埋线盒的坐标、以及不合格带弯钩钢筋的数量和位置。
具体实施过程如下:
采用本方法构建的PC-YOLOv4模型,拥有对大尺寸图片的处理能力,具备了进行尺寸检测的精度基础。需要说明的是,在深度学习领域,研究者一般把注意力集中在如何提高神经网络的准确度上,所以神经网络的层次越来越深,参数也越来越多,在某种意义上处理速度会逐渐降低,而且对于硬件的要求越来越高。所以一般情况下,深度学习算法不会考虑加入Fire module模块(因为很多相关研究不考虑速度和成本,只需要理想环境下得到最高准确率)。如果按照常规的思路,本申请要大幅度的提高检测效率是不可能的,因为深度学习的检测精度越高,所需的时间也会越高。尤其是当检测的目标有多个时,更是如此。
但本申请人跳出了深度学习领域的常规思路,没有在提高准确度上过分纠结,因为预制混凝土板的情况很特殊,虽然存在多目标检测(混凝土底板、预埋线盒、弯钩钢筋),但是和一般小检测目标不同,预制混凝土板的三种目标(混凝土底板,预埋线盒、弯钩钢筋)的形态、尺寸差异都很大,不存在某两种或几种极为相似难以区分的目标,一昧的追求深层网络存在明显边际递减效应,意义不大。因此,本申请人提出了一个构想:如果把识别的目的改变为只要能够对这三种目标进行区分即可,那么是否可以在识别的效率上获得很大的突破。基于这样的思路,本申请人在构建PC-YOLOv4模型时,在CSPDarknet53主干网络和Neck网络连接部分引入了Fire module。这样的做法并不符合深度学习的常规思路,但在预制混泥土板的尺寸识别时,却取得了非常好的技术效果,那就是,在能够识别出需要的目标(混凝土底板、预埋线盒、弯钩钢筋)的同时,有效减少了模型的参数数量,同时扩展了网络宽度,从而有效提高了检测速度,换个说法,在实现目标识别的同时处理速度得到了很大的提升。实践表明,本方法的处理速度可以与预制混泥土板的生产速度相匹配,相当于,本方法可直接在预制混泥土板的生产环节,对其进行拍照及检测,不用停机检测或者另外单独设置检测环节。换个说法,使用本申请,和现有的检测技术相比,直接省掉了独立检测的步骤,只需要在生产环节对处于生产模台上的预制混泥土板进行图像采集即可,极大的提升了检测效率。
但是,生产环节直接进行尺寸检测也存在其他问题。由于采集预制混泥土板的图像时,预制混泥土板处于生产模台上,采集到的图像中会包含很多不必要的背景,尤其是浇筑后的混凝土存在漏浆、溢浆区域,因为溢出来部分也是混凝土和预制板属于同种材质(颜色等背景也极为相似),怎样将预制板准确的识别出来是一个难题。为了解决上述问题,本方法在构建PC-YOLOv4模型时,对PANet结构和Head结构进行了改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入了CBAM模块,增强模型区分目标和背景的能力,而且能从融合特征中过滤和增强重要信息,并抑制无用特征。从而能够将图像中生产模台上的目标(混凝土底板、预埋线盒、弯钩钢筋)准确的识别出来。通过上述改进,本方法可以在生产环节对处于生产模台上的预制混泥土板进行图像采集后,准确识别出待检测尺寸信息的目标。
另一方面,由于采集模块(摄像头)的位置固定,其距离混泥土底板的距离是固定的。而预制混泥土板与固定磁盒的高度基本相同。通过固定磁盒在图像中的尺寸及真实尺寸的比例关系,再结合混泥土底板在图像中的尺寸,就可以得到混泥土底板的真实尺寸。具体的,通过步骤4,可计算出固定磁盒的真实宽度与图像宽度的比例系数;通过步骤6,则可以通过PC-YOLOv4模型将图像中的混泥土底板准确的框定出来后,通过OpenCV-DNN模块对图像中的框定尺寸进行识别,从而获取到混泥土底板在图像中的尺寸,之后,结合步骤4得到的比例系统,就可以计算出混泥土底板的真实尺寸,从而了解该预制混泥土板是否满足要求。
使用本方法,不用对生产线停工,也不用另外单独设置检测环节,直接在生产的过程中即可完成对预制混泥土板的尺寸检测。并且,不需要改变原本的生产线及生产流程,只需要在生产模台上方设置摄像头来采集图像数据并发送给处理端即可。可以极大的提升预制混泥土板的生产效率,节约人力物力成本。
并且,本方法检测内容更完善,可以准确的检测出预制凝土板底板轮廓尺寸的检测、预埋线盒位置信息的检测以及不合格弯钩钢筋数量的检测,并统计混凝土板板块数量、线盒数量。同时,本发明提出的PC-YOLOv4模型拥有较强的泛化能力,不仅可以通过迁移学习扩展到行业内其余类型构件(预制墙、预制梁等)的尺寸检测,甚至是其他领域构件(工业零件)的尺寸检测。
为验证本发明的有效性,以mAP、recall和IoU作为预制混凝土板检测模型的性能评价指标对新批次预制混凝土板检测结果进行评估。在训练过程中迭代次数不同的情况下,对检测模型的相关评价指标进行测试。测试结果如表1所示。
表1.不同迭代次数下PC-YOLOv4测试结果
Figure BDA0003433154930000131
其中,mAP表示为所有类别的平均准确率的平均值,衡量分类器对所有类别的检测效果,是目标检测算法中使用最多和最重要的度量。IoU表示为算法模型生成的预测框与GroundTruth标签框的交集和并集的比值,它描述了两个框的重叠程度,值越高,定位算法更准确。
在新检测批中随机选取5块预制凝土板进行实测验证(用卷尺对板块轮廓尺寸和其上预埋线盒坐标实际测量),混凝土板轮廓尺寸误差和预埋线盒坐标误差分为如表2,表3所示。
表2.混凝土板轮廓尺寸误差对比
Figure BDA0003433154930000141
表3.预埋线盒坐标误差对比
Figure BDA0003433154930000142
将检测数据与实测数据对比分析发现,本发明提出的预制混凝土板检测模型PC-YOLOv4在构件的多尺寸检测中平均准确率的平均值和召回率分别达到了94%以上和96%以上,且单张图片的检测不到1s,符合工业实时检测的要求,取得了良好的质检效果。考虑到装配式工厂实际生产环境中在可接受的误差范围内更看重之间的速度和全面性,因此本发明可有效地应用于实际生产应用中。
实施例二
本实施例还提供一种基于卷积神经网络的预制混凝土板多尺寸检测系统,应用于实施例一中的基于卷积神经网络的预制混凝土板多尺寸检测方法,包括采集模块和处理端;本实施例中采集模块为摄像头,处理端为工业PC。
采集模块固定在生产模台上方。处理端包括存储单元和处理单元;存储单元内存储有固定磁盒的实际宽度与图像宽度的比例系数;处理单元内预存有训练好的PC-YOLOv4模型和OpenCV-DNN模块;其中,PC-YOLOv4模型构建时,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
采集模块用于采集生产线上的预制混泥土板图像并发送给处理单元;处理单元用于通过训练好的PC-YOLOv4模型对预制混泥土板图像进行检测,检测出图像中的各检测目标;检测目标包括混泥土底板、预埋线盒和不合格带弯钩钢筋;处理单元还用于通过OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合存储单元中的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸、预埋线盒的坐标,以及不合格带弯钩钢筋的数量和位置。
以上所述的仅是本发明的实施例,方案中公知的具体结构及特性等常识在此未作过多描述,所属领域普通技术人员知晓申请日或者优先权日之前发明所属技术领域所有的普通技术知识,能够获知该领域中所有的现有技术,并且具有应用该日期之前常规实验手段的能力,所属领域普通技术人员可以在本申请给出的启示下,结合自身能力完善并实施本方案,一些典型的公知结构或者公知方法不应当成为所属领域普通技术人员实施本申请的障碍。应当指出,对于本领域的技术人员来说,在不脱离本发明结构的前提下,还可以作出若干变形和改进,这些也应该视为本发明的保护范围,这些都不会影响本发明实施的效果和专利的实用性。本申请要求的保护范围应当以其权利要求的内容为准,说明书中的具体实施方式等记载可以用于解释权利要求的内容。

Claims (10)

1.基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于,包括:
步骤1、在生产模台上方固定安装采集模块后,通过采集模块采集生产线上预制混凝土板图像,建立数据集,并按照预设比例将图像的数据集随机分为训练集和验证集;
步骤2、用预设线宽的矩形框,对训练集进行标注,标注出每幅图像中各检测目标的准确位置;其中,检测目标包括混凝土底板;
步骤3、构建PC-YOLOv4模型,用标注后的训练集进行训练,并用验证集进行验证;其中,构建PC-YOLOv4模型时,在主干网络CSPDarknet53和Neck网络的连接部分引入Firemodule;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
步骤4、从步骤1采集的预制混凝土板图像中,选择形变量最小的X个固定磁盒后,测量选出的固定磁盒在图像中的宽度并计算平均宽度值,记为固定磁盒的图像宽度;再用固定磁盒的实际宽度除以图像宽度得到比例系数;
步骤5、通过采集模块获取待检测预制混泥土板的图像;
步骤6、检测预制混凝土板的尺寸;
步骤6.1:将待检测预制混凝土板的图像输入到训练好的PC-YOLOv4模型中,检测出图像中的各检测目标;
步骤6.2:利用OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合步骤4得到的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸。
2.根据权利要求1所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于,步骤3包括:
步骤3.1:构建PC-YOLOv4模型,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
步骤3.2:将标注后的训练集图像作为输入,进入主干网络CSPDarknet53;由主干网络CSPDarknet53对每幅训练集图像进行卷积、批归一化处理和Mish函数激活操作,提取图像特征,分别得到N种预设尺寸的有效特征图;其中,N的数值与检测目标的种类相等;
步骤3.3:待标注后的训练集图像和有效特征图进入Neck连接结构后,对标注后的训练集图像和有效特征图再次卷积和Leaky-relu函数激活,并以模型空间金字塔池化层对各尺寸的有效特征图进行特征融合,通过上采样和下采样方式对各尺寸的有效特征图进行池化,加强特征;
步骤3.4:将步骤3.3处理后的有效特征图输入Head输出层,Head输出层先对有效特征图再次卷积和Leaky-relu函数激活,然后使用先验框策略,在每个尺度特征图的每个网格设置M个anchor box,共生成N*M个anchor box;
步骤3.5:利用softmax函数计算每个包含检测目标的anchor box的置信值,然后将附带置信值的anchor box与步骤2标注的GroundTruth边框位置的进行初步回归,并按照置信值高低进行排序;对置信值大于0.5的anchor box采取非极大值抑制后再次按照置信值高低进行排序,去除置值等于0的情况后,输出置信值最大的anchor box,得到候选区域;
步骤3.6:对候选区域进行检测目标的检测以及边框位置的精确回归;
步骤3.7:PC-YOLOv4模型训练结束后,用验证集数据对训练后的模型进行验证,达到要求的检测精度和召回率后,保留训练得到的模型权重参数。
3.根据权利要求2所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于:检测目标还包括预埋线盒和不合格带弯钩钢筋。
4.根据权利要求3所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于:步骤3.2中,N的数值为3,3种预设尺寸分别为19×19、38×38和76×76。
5.根据权利要求3所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于:步骤6.2中,各检测目标的实际数据中,还包括预埋线盒的坐标,以及不合格带弯钩钢筋的数量和位置。
6.根据权利要求3所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于:步骤2中,对预埋线盒进行标注时,只用一个矩形框标注线盒中部的矩形或八角形部分。
7.根据权利要求2所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,其特征在于:Mish函数的激活函数表达式为:
f(x)=x*tanh(ln(1+ex));
Leaky-ReLU函数的激活函数表达式为:
Figure FDA0003433154920000031
其中,a为固定值。
8.基于卷积神经网络的预制混凝土板多尺寸检测系统,其特征在于:应用于权利要求1—7任一项所述的基于卷积神经网络的预制混凝土板多尺寸检测方法,包括采集模块和处理端;采集模块固定在生产模台上方;
处理端包括存储单元和处理单元;存储单元内存储有固定磁盒的实际宽度与图像宽度的比例系数;处理单元内预存有训练好的PC-YOLOv4模型和OpenCV-DNN模块;其中,PC-YOLOv4模型构建时,在主干网络CSPDarknet53和Neck网络的连接部分引入Fire module;并对PANet结构和Head结构进行改进,在上采样和下采样两操作步骤之间以及输出端之前分别引入CBAM模块;
采集模块用于采集生产线上的预制混泥土板图像并发送给处理单元;处理单元用于通过训练好的PC-YOLOv4模型对预制混泥土板图像进行检测,检测出图像中的各检测目标;检测目标包括混泥土底板;处理单元还用于通过OpenCV-DNN模块加载PC-YOLOv4模型,对各检测目标的图片进一步处理,得到各检测目标在图像中的数据信息,并结合存储单元中的比例系数,计算各检测目标的实际数据;其中,各检测目标的实际数据中,包括混凝土底板的实际尺寸。
9.根据权利要求8所述的基于卷积神经网络的预制混凝土板多尺寸检测系统,其特征在于:检测目标还包括预埋线盒和不合格带弯钩钢筋。
10.根据权利要求9所述的基于卷积神经网络的预制混凝土板多尺寸检测系统,其特征在于:各检测目标的实际数据中,还包括预埋线盒的坐标,以及不合格带弯钩钢筋的数量和位置。
CN202111601296.9A 2021-12-24 2021-12-24 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统 Active CN114295050B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111601296.9A CN114295050B (zh) 2021-12-24 2021-12-24 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111601296.9A CN114295050B (zh) 2021-12-24 2021-12-24 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统

Publications (2)

Publication Number Publication Date
CN114295050A true CN114295050A (zh) 2022-04-08
CN114295050B CN114295050B (zh) 2024-05-17

Family

ID=80970356

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111601296.9A Active CN114295050B (zh) 2021-12-24 2021-12-24 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统

Country Status (1)

Country Link
CN (1) CN114295050B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117848221A (zh) * 2024-03-04 2024-04-09 南通进宝机械制造有限公司 一种钢件长度测量系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110188720A (zh) * 2019-06-05 2019-08-30 上海云绅智能科技有限公司 一种基于卷积神经网络的目标检测方法及系统
CN110472666A (zh) * 2019-07-18 2019-11-19 广东工业大学 一种基于卷积神经网络的混凝土裂缝识别方法
CN111612786A (zh) * 2020-06-19 2020-09-01 国网湖南省电力有限公司 基于全卷积神经网络的混凝土缺陷检测方法、装置及存储介质
CN112130316A (zh) * 2020-10-27 2020-12-25 华北电力大学 多通道多谱段滤光片结构及其应用、方法
CN113011319A (zh) * 2021-03-16 2021-06-22 上海应用技术大学 多尺度火灾目标识别方法及系统
CN113469032A (zh) * 2021-06-30 2021-10-01 东北大学 基于改进YOLOv4-Tiny算法的铁矿石品位识别方法
CN113792666A (zh) * 2021-09-16 2021-12-14 哈尔滨工业大学(深圳) 一种基于扫描电镜图像的混凝土分类方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110188720A (zh) * 2019-06-05 2019-08-30 上海云绅智能科技有限公司 一种基于卷积神经网络的目标检测方法及系统
CN110472666A (zh) * 2019-07-18 2019-11-19 广东工业大学 一种基于卷积神经网络的混凝土裂缝识别方法
CN111612786A (zh) * 2020-06-19 2020-09-01 国网湖南省电力有限公司 基于全卷积神经网络的混凝土缺陷检测方法、装置及存储介质
CN112130316A (zh) * 2020-10-27 2020-12-25 华北电力大学 多通道多谱段滤光片结构及其应用、方法
CN113011319A (zh) * 2021-03-16 2021-06-22 上海应用技术大学 多尺度火灾目标识别方法及系统
CN113469032A (zh) * 2021-06-30 2021-10-01 东北大学 基于改进YOLOv4-Tiny算法的铁矿石品位识别方法
CN113792666A (zh) * 2021-09-16 2021-12-14 哈尔滨工业大学(深圳) 一种基于扫描电镜图像的混凝土分类方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
龚浩田: "轻量级无锚点检测网络结构设计", 东南大学工程硕士学位论文, 18 June 2021 (2021-06-18), pages 9 - 52 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117848221A (zh) * 2024-03-04 2024-04-09 南通进宝机械制造有限公司 一种钢件长度测量系统

Also Published As

Publication number Publication date
CN114295050B (zh) 2024-05-17

Similar Documents

Publication Publication Date Title
CN113516660B (zh) 适用于列车的视觉定位与缺陷检测方法和装置
Wang et al. Autonomous damage segmentation and measurement of glazed tiles in historic buildings via deep learning
Kim et al. A framework for dimensional and surface quality assessment of precast concrete elements using BIM and 3D laser scanning
Yang et al. Image analysis method for crack distribution and width estimation for reinforced concrete structures
CN109858367B (zh) 工人通过支撑不安全行为的视觉自动化检测方法及系统
CN112700444B (zh) 基于自注意力与中心点回归模型的桥梁螺栓检测方法
CN108154498A (zh) 一种裂缝缺陷检测系统及其实现方法
CN111914767B (zh) 一种基于多源遥感数据的散乱污企业检测方法及系统
CN116465315B (zh) 一种网版质量自动化检测方法及系统
Rivera et al. Automated detection and measurement of cracks in reinforced concrete components
Chen et al. A deep region-based pyramid neural network for automatic detection and multi-classification of various surface defects of aluminum alloys
CN114295050B (zh) 基于卷积神经网络的预制混凝土板多尺寸检测方法及系统
Yuan et al. Automatic evaluation of rebar spacing using LiDAR data
CN114764770A (zh) 晶圆检测方法、装置、设备及存储介质
CN112580542A (zh) 一种基于目标检测的钢筋计数方法
CN113781537A (zh) 一种轨道弹条扣件缺陷识别方法、装置和计算机设备
CN112183593A (zh) 一种基于dssd算法的道路损伤检测方法
CN115995056A (zh) 一种基于深度学习的桥梁病害自动识别方法
Ma et al. Review on automated quality inspection of precast concrete components
Bruno et al. Decay detection in historic buildings through image-based deep learning
CN113361953B (zh) 海关口岸货管现场机器人巡查方法及系统
CN117437220A (zh) 一种基于大数据的建筑工程质量检测方法及系统
CN115019252B (zh) 混凝土质量检测方法、装置及监控设备
Xu et al. Intelligent corrosion detection and rating based on faster region-based convolutional neural network
CN116543327A (zh) 作业人员工种识别的方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant