CN114331985A - 电子元器件划痕缺陷检测方法、装置和计算机设备 - Google Patents
电子元器件划痕缺陷检测方法、装置和计算机设备 Download PDFInfo
- Publication number
- CN114331985A CN114331985A CN202111575064.0A CN202111575064A CN114331985A CN 114331985 A CN114331985 A CN 114331985A CN 202111575064 A CN202111575064 A CN 202111575064A CN 114331985 A CN114331985 A CN 114331985A
- Authority
- CN
- China
- Prior art keywords
- value
- sample
- scratch defect
- defect detection
- scratch
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
本申请涉及一种电子元器件划痕缺陷检测方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括:获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。采用本方法能够提高划痕缺陷检测模型的检测精度。
Description
技术领域
本申请涉及深度学习技术领域,特别是涉及一种电子元器件划痕缺陷检测方法、装置和计算机设备。
背景技术
随着信息技术的发展,电子元器件作为信息传输和处理的基本底层硬件在电子产品生产和应用中占据着举足轻重的地位。由于电子产品需求的不断进化,电子元器件朝着小体积、薄型化、片式化、微型化及组件化的方向不断发展,这些特点虽然提高了电子产品的质量,但是给检测机构和检测人员带来了不小的困难。此外,电子元器件在生产加工过程中,需要经过复杂的工艺处理,在多重工艺处理下,电子元器件表面不可避免会出现损伤,而这些将造成电子元器件的表面缺陷,也将直接影响产品是否合格。因此,电子元器件的表面缺陷检测已然成为电子产品生产加工和可靠性分析过程中必要的工序。
在相关技术中,主流的检测手段一般是人工目检,但是,由于其检测效率低、实时性差、且易受检测人员主观因素影响,已经无法满足日益增长的检测需求。因此,目前急需一种电子元器件划痕缺陷检测方法。
发明内容
基于此,有必要针对上述技术问题,提供一种电子元器件划痕缺陷检测方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种电子元器件划痕缺陷检测方法。所述方法包括:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在其中一个实施例中,样本图像集的获取过程,包括:
获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,其中预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
通过真实框,分别标注多个原始样本图像与其中多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于多个增强样本图像及多个原始样本图像,获取训练集,由训练集组成样本图像集。
在其中一个实施例中,划痕缺陷检测模型是基于yolov3模型构建的;其中,yolov3模型包括三个预测层,将三个预测层分别作为第一尺度预测层、第二尺度预测层及第三尺度预测层,其中,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应的网格划分尺度依次减小;每一预测层均对应至少一种尺寸的先验框,yolov3模型中的参数包括第二尺度预测层对应的目标先验框尺寸;相应地,基于平均精确度的平均值(mean AveragePrecision,mAP)及训练样本集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型的参数,获取训练好的划痕缺陷检测模型,包括:
基于第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框尺寸确定尺寸范围;
在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,其中,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值(mean Average Precision,mAP);
确定最大的平均精确度的平均值(mean Average Precision,mAP)对应的取值,并作为目标先验框尺寸的最终取值。
在其中一个实施例中,从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,包括:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
在其中一个实施例中,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应至少一个初始先验框尺寸;初始先验框尺寸的确定过程,包括:
通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到初始先验框尺寸。
在其中一个实施例中,根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测,包括:
获取目标电子元器件的目标图像;
将目标图像输入至训练后的划痕缺陷检测模型,输出用于指示目标图像中划痕位置的多个先验框;
确定先验框的置信度阈值;
根据置信度阈值及所述多个先验框的置信度,确定目标先验框集;
对目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
第二方面,本申请还提供了一种电子元器件划痕缺陷检测装置。所述装置包括:
第一获取模块,用于获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
训练模块,用于基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整所述划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
检测模块,用于根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
上述电子元器件划痕缺陷检测方法、装置、计算机设备、存储介质和计算机程序产品,通过获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测,从而可以提高划痕缺陷检测模型的检测精度。
附图说明
图1为一个实施例中电子元器件划痕缺陷检测方法的应用环境图;
图2为一个实施例中电子元器件划痕缺陷检测方法的流程示意图;
图3为一个实施例中人为制造的划痕缺陷和电子元器件在生产过程中受仪器等其他原因造成的表面划痕缺陷对比图;
图4为一个实施例中yolov3模型的结构框图;
图5为一个实施例中电子元器件划痕缺陷检测装置的结构框图;
图6为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种专业名词,但除非特别说明,这些专业名词不受这些术语限制。这些术语仅用于将一个专业名词与另一个专业名词区分。举例来说,在不脱离本申请的范围的情况下,第三预设阈值与第四预设阈值可以相同可以不同。
本申请实施例提供的电子元器件划痕缺陷检测方法,可以应用于如图1所示的应用环境中。其中,终端101通过网络与服务器102进行通信。数据存储系统可以存储服务器102需要处理的数据。数据存储系统可以集成在服务器102上,也可以放在云上或其他网络服务器上。终端101可以在获取到样本图像集后,对样本图像集进行训练,得到训练后的划痕缺陷检测模型,然后利用训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
其中,终端101可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备、摄像设备和便携式可穿戴设备,便携式可穿戴设备可为智能手表、智能手环、头戴设备等。服务器102可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种电子元器件划痕缺陷检测方法,本实施例以该方法应用于终端进行举例说明,可以理解的是,该方法也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
201、获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
202、基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
203、根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在上述步骤201中,电子元器件指的是电子元件和小型的机器、仪器的组成部分,其本身常由若干零件构成,可以在同类产品中通用。对于电子元器件的具体种类,本发明实施例对其不做具体限定,包括但不限于:电阻、电容、电感、电位器、电子管、散热器、机电元件、连接器、半导体分立器件、电声器件、激光器件、电子显示器件、光电器件、传感器、电源、开关、微特电机、电子变压器、继电器、印制电路板、电子功能工艺专用材料、电子胶(带)制品以及电子化学材料及部品等。
对于样本图像集的来源,本发明实施例对其不作具体限定,包括但不限于:自制的样本图像集,比如可以利用SCARA机器人带动镜头对托盘中的电子元器件进行图像采集。
此外,由于成品的电子元器件的表面质量较高,存在划痕缺陷的电子元器件的数量较少,需要人为破坏电子元器件表面制造划痕缺陷。因此,有划痕缺陷的样本图像中的划痕可以是人为制造的,称为人工制造划痕缺陷;也可以是电子元器件在生产过程中受仪器等其他原因造成的,称为真实划痕缺陷。人为制造的划痕缺陷和电子元器件在生产过程中受仪器等其他原因造成的表面划痕缺陷对比图如图3所示。
在上述步骤202中,平均精确度的平均值(mean Average Precision,mAP)是目标检测的中的评价模型性能的一个衡量标准,在确定mAP之前需要先确定准确率(Precision,P),然后根据准确率计算平均精确度(Average Precision,AP),最后根据AP计算得到mAP。此外,上述步骤202中的参数的调整需要认为调整
值得一提的是,除上述步骤202中的参数之外,划痕缺陷检测模型中的参数还包括损失函数中的参数以及影响划痕缺陷检测模型的其他参数,在对划痕缺陷检测模型训练的过程中,损失函数中的部分参数以及划痕缺陷检测模型的部分其他参数也在进行调整,其中,损失函数对划痕缺陷检测模型起监督作用。损失函数包括中心坐标损失函数y1、宽高坐标损失函数y2、预测类别损失函数y3以及置信度损失函数y4。
具体地,基于平均精确度的平均值(mean Average Precision,mAP)及样本图像集对划痕缺陷检测模型进行训练的过程为:每调整一次划痕缺陷检测模型中的参数,都会获得一个平均精确度的平均值,而每一个平均精确度的平均值,都是对多个平均精确度求平均得到的,因此,样本图像集被训练的次数与调整划痕缺陷检测模型中的参数的次数相关,此外,平均精确度值的个数与样本图像集中的训练样本图像数量相关。比如,样本图像集中训练样本图像为100个,人为调整参数10次,于是,每次调整参数后会获得100个平均精确度,10次参数调整后会获得10个平均精确度的平均值。
本发明实施例提供的方法,通过调整划痕缺陷检测模型中的参数,并根据平均精确度的平均值,可以确定划痕缺陷检测模型中最适应检测小目标的参数,从而可以划痕缺陷检测模型的检测精度高,进而有利于电子元器件表面缺陷检测机构的需求与推广应用。
结合上述实施例的内容,在一个实施例中,样本图像集的获取过程,包括:
301、获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,其中,预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
302、通过真实框,分别标注多个原始样本图像与所述多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于多个增强样本图像及多个原始样本图像,获取训练集,由训练集组成样本图像集。
在上述步骤301中,原始样本图像指的是通过图像硬件采集装置对电子元器件的外观进行采集获取的,对应的图像质量比较高。其中,图像质量比较高主要体现在图像的清晰度与准确性两方面。
通常情况下,为了使深度学习模型的性能比较好,需要大量的数据对其进行训练。然而,本发明实施例中的电子元器件具有样本图像取样困难、图像采集条件严苛以及原始样本图像量少的问题,为了提高划痕缺陷检测模型检测的准确性以及确保检测过程中的实时性,需要对原始样本图像集中的每一原始样本图像作预设处理,以此来扩大样本图像的数量。
此外,在对原始样本图像集中的每一原始样本图像作预设处理之前,需要对所有的原始样本图像先进行尺寸归一化处理,然后再对进行尺寸归一化处理后的原始样本图像进行图像标准化处理。因此,所有的原始样本图像的处理过程的为:先进行尺寸归一化处理,比如,可以将原始样本图像归一化为200×200像素大小的图像。再进行图像标准化处理,最后再进行图像预设处理。
对于尺寸归一化处理以及图像标准化处理后图像的像素大小,本发明实施例对其不做具体限定,包括但不限于:尺寸归一化处理后,所有样本图像的像素可以为200*200,也可以为300*300;图像标准化处理后,所有样本图像的像素可以为316*316,也可以为416*416。
其中,图像预设处理包括:平移、镜像翻转、亮度增强或旋转90度处理。对于平移的范围,本发明实施例对其不做具体限定,包括但不限于:将整个样本图像向右平移15%、将整个样本图像向左平移15%、将整个样本图像向上平移15%以及将整个样本图像向下平移15%。
其中,对图像预设处理是指每一个样本图像都会经过平移、镜像翻转、亮度增强或旋转90度处理得到4张新的样本图像,然后对这4张新的样本图像进行筛选,选出合适的样本图像与原始样本图像一起作为最终的样本图像集。比如,有划痕缺陷的原始样本图像一共有176张,无划痕缺陷的原始样本图像一共有226张,经过图像预设处理后,新的有划痕缺陷的样本图像有633张,新的无划痕缺陷的样本图像有690张,最终的样本图像集共包括1725张。此外,为了模拟现实环境中的亮度变化,同时还采用Gamma校正方式改变了样本图像的亮度。
在上述步骤302中,真实框指的是在获取了最终的样本图像集后,会利用标注软件对有划痕缺陷的样本图像进行划痕缺陷位置和类别的标注,确定真实框的尺寸大小,并保存划痕缺陷位置、真实框的类别标签、真实框的坐标以及真实框的尺寸大小等信息。对于标注软件,本发明实施例对其不做具体限定,包括但不限于:Labelme软件。
具体地,最终的样本图像集包括多个增强样本图像及多个原始样本图像,对最终的样本图像集进行划分,分为验证集及训练集,由验证集及训练集组成样本图像集;其中,训练集用于训练划痕缺陷检测模型,验证集用于验证训练后的划痕缺陷检测模型。此外,训练集也可用于对训练后的划痕缺陷检测模型进行验证。
本发明实施例提供的方法,通过对原始样本图像进行图像增强处理,可以增加训练集的样本数量,从而可以避免因样本图像少造成划痕缺陷检测模型出现过过拟合现象,进而提升划痕缺陷检测模型的检测准确度。
结合上述实施例的内容,在一个实施例中,划痕缺陷检测模型是基于yolov3模型构建的;其中,yolov3模型包括三个预测层,将三个预测层分别作为第一尺度预测层、第二尺度预测层及第三尺度预测层,其中,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应的网格划分尺度依次减小;每一预测层均对应至少一种尺寸的先验框,yolov3模型中的参数包括第二尺度预测层对应的目标先验框尺寸;相应地,基于平均精确度的平均值(mean Average Precision,mAP)及训练样本集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型的参数,获取训练好的划痕缺陷检测模型,包括:
401、基于第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框尺寸确定尺寸范围;
402、在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
403、从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值(mean Average Precision,mAP);
404、确定最大的平均精确度的平均值(mean Average Precision,mAP)对应的取值,并作为目标先验框尺寸的最终取值。
其中,yolov3模型结构图如图4所示,yolov3模型是以DarkNet-53卷积网络作为特征提取网络的一种模型算法,DarkNet-53卷积网络包含53层卷积,每层后面都跟随着批规范化(batch normalization,BN)层和激活(leaky ReLU)层,并且使用步幅为2的卷积层代替池化层进行特征图的降采样过程,这样的改进可以有效阻止由于池化层导致的低层级特征的损失。
而且,yolov3模型是一种基于回归的目标检测模型,该模型的先验检测(pirordetection)系统将分类器或定位器重新用于执行检测任务,并将模型应用于图像的多个位置和尺度,最终使评分较高的区域视为检测结果。此外,yolov3模型仅使用卷积层使其成为一个全卷积网络(fully convolutional network,FCN)。
值得一提是,yolov3模型具有两个重要特点:
(1)使用残差网络Residual,DarkNet-53卷积网络中的残差卷积首先会进行一次卷积核大小为3×3,步长为2的卷积以压缩输入图像的宽和高,此时可以获得一个特征层并将其命名为layer,之后再对该特征层进行一次1×1卷积核和一次3×3卷积,并把结果加上layer,此时便构成了残差结构。之后通过不断的1×1卷积、3×3卷积以及残差边的叠加。其中,残差网络的特点是易于优化,并且能够通过增加相当的网络深度来提高准确率。此外,DarkNet-53卷积网络内部的残差块使用了跳跃连接,缓解了在深度神经网络中增加深度带来的梯度消失问题。
(2)DarkNet-53卷积网络中每一个卷积部分都是用了特有的DarkNetConv2D结构,每一次卷积时进行L2正则化,完成卷积时则进行标准化(batch normalization)和激活函数(Leaky ReLU),其中激活函数(Leaky ReLU)层将所有赋值赋予一个非零斜率,赋值公式如式(1)所示:
式(1)中,yi表示激活函数,ai为属于(1,+∞)区间内的固定参数。
同时,yolov3模型将从特征中预测结果,其过程可以分为两个部分:(1)构建特征金字塔(Feature Pyramid Networks,FPN)进行加强特征提取。在特征利用部分,yolov3模型可以提取三个特征层进行目标检测,这三个特征层分别位于DarkNet-53卷积网络的不同位置(中间层、中下层和底层)。随后利用这些特征层进行FPN层的构建。特征金字塔结构可以将不同形状的特征层进行特征融合,有利于提取出更好的特征。(2)利用yolov3 Head对三个特征层进行预测,分别为第一尺度预测层、第二尺度预测层及第三尺度预测层。yolov3Head的本质是一次3×3卷积加上一次1×1卷积,其中,3×3卷积的作用是特征整合,而1×1卷积的作用则是调整通道数。
相较于其他的目标检测方法,yolov3模型使用一个单神经网络作用于整张图像上,将图像划分为不同的区域,从而预测每一块区域的边界框和概率,这些边界框通过预测的概率加权从而得出最终的检测结果。
在实际使用过程中,三个预测层中的每一预测层均对应三种尺寸的先验框,即三个预测层一共对应九种尺寸的先验框。第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应的网格划分尺度依次减小指的是划分的网格的面积的依次减小;相应地,第一尺度预测层输出的特征图的网格数量最少,第三尺度预测层输出的特征图的网格数量最多,第二尺度预测层输出的特征图的网格数量在第一尺度预测层输出的特征图的网格数量与第三尺度预测层输出的特征图的网格数量之间,一般情况下,第一尺度预测层输出的特征图的网格数量为13×13,第二尺度预测层输出的特征图的网格数量为26×26,第三尺度预测层输出的特征图的网格数量为52×52。
此外,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应的三种先验框的尺寸依次减小,在对yolov3模型训练的过程中,第一尺度预测层及第三尺度预测层各自对应的先验框的尺寸不会改变,第二尺度预测层对应的尺寸会进行相应调整。
结合上述内容,由于在实际使用中,第二尺度预测层对应三种尺寸的先验框,因此上述步骤401中的尺寸范围也分为三种。三种尺寸范围是根据第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框的尺寸确定的,第二尺度预测层对应的三种先验框尺寸按大小排序分别为A1、A2及A3,第三尺度预测层对应的三种先验框尺寸按大小排序分别为B1、B2及B3,则三种尺寸范围分别为:[A1-B1]、[A2-B2]及[A3-B3]。
比如,第二尺度预测层对应的先验框尺寸分别为150cm×160cm、145cm×155cm及140cm×150cm,第三尺度预测层对应的先验框尺寸50cm×60cm、45cm×55cm及40cm×50cm,因此,三种尺寸范围分别为:[50cm×60cm-150cm×160cm]、[45cm×55cm-145cm×155cm]及[40cm×50cm-140cm×150cm]。
结合上述内容,在三个尺寸范围内取值方式,本发明实施例对其不做具体限定,包括但不限于:
三个先验框的尺寸分别从对应的尺寸范围中最小值开始向上取值,每一次取值的间隔范围相同,即每一次三个先验框的尺寸的改变大小都是相同的,比如三种尺寸范围分别为[40cm×50cm-140cm×150cm]、[45cm×55cm-145cm×155cm]及[50cm×60cm-150cm×160cm],第一次取值时,三个先验框的尺寸分别为42cm×52cm、47cm×57cm及52cm×62cm,第二次取值时,三个先验框的尺寸分别为44cm×54cm、49cm×59cm及54cm×64cm,第三次取值时,三个先验框的尺寸分别为46cm×56cm、51cm×61cm及56cm×66cm。值得一提的是,三种尺寸范围的上限与下限均不会被选取。
具体地,每一次从三种尺寸范围中确定了第二尺度预测层的三个目标先验框尺寸后,都会将上述步骤302中的训练集输入至划痕缺陷检测模型进行训练,每一次训练集完全训练完成后会获一个平均精确度的平均值(mean Average Precision,mAP)。从所有的平均精确度的平均值中找出最大的平均精确度的平均值,将最大的mAP值对应的三个目标先验框尺寸作为划痕缺陷检测模型中第二尺度预测层的三个先验框的最终尺寸。
本发明实施例提供的方法,通过对yolov3模型中的第二尺度预测层的先验框尺寸进行修改,使得先验框的尺寸调小,从而可以消除因尺度原因产生的先验框浪费问题,同时由于增加适合检测小目标的先验框的数量,提高了划痕缺陷检测模型检测划痕缺陷的精确度。
结合上述实施例的内容,在一个实施例中,从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,包括:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值(Intersection of Union,IoU)对应的先验框,作为每一训练样本在每一取值下对应的预测框。
具体地,训练集中的每一样本图像输入至划痕缺陷检测模型后,会输出由多个先验框构成的先验框集合,然后计算每一预测框与对应的真实框的交并比,将每一训练样本在每一取值下对应的预测框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框,通过损失函数计算预测框与真实框之间的中心坐标损失、宽高坐标损失、预测类别损失以及置信度损失,通过四种损失值调整划痕缺陷检测模型的参数。
其中,损失函数包括中心坐标损失函数y1、宽高坐标损失函数y2、预测类别损失函数y3以及置信度损失函数y4,损失函数表达式包括:
(1)中心坐标损失函数y1,
式(2)中S2为总网格数量,B为每个网格对应的先验框数量,i和j为S2和B的索引值,(xi,yi)及(x′i,y′i)表示了预测框的中心坐标及真实框的中心坐标,当第i个网格单元的第j个候选框对检测目标负责时(定义先验框与真实框的IoU值最大即为负责),否则
(2)宽高坐标损失函数y2,
式(3)中S2为总网格数量,B为每个网格对应的先验框数量,(wi,hi)及(w′i,h′i)为预测框的宽、高及真实框的宽、高,当第i个网格单元的第j个候选框对检测目标负责时(定义先验框与真实框的IoU值最大即为负责),否则
(3)预测类别损失函数y3,
式(4)中S2为总网格数量,pi为分类概率,当先验框中包含有检测目标时,pi=1,否则,pi=0,c表示类别,classes表示类别集合,当第i个网格单元的第j个候选框对检测目标负责时(定义先验框与真实框的IoU值最大即为负责),否则
(4)置信度损失函数y4,
式(5)中S2为总网格数量,ci为置信度,当检测框对检测目标负责时,ci=1,否则,ci=0。λ表示为权重,当第i个网格单元的第j个候选框对检测目标负责时(定义先验框与真实框的IoU值最大即为负责),否则
本发明实施例提供的方法,通过计算预测框与对应的真实框的交并比,从所有的预测框中选出与真实框重叠度最高的预测框作为最终的预测框,计算得到预测框与真实框之间的损失,从而调整划痕缺陷检测模型的参数,进而提升划痕缺陷检测模型检测的准确率。
结合上述实施例的内容,在一个实施例中,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应至少一个初始先验框尺寸;所述初始先验框尺寸的确定过程,包括:
通过K-means算法,对所述样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到所述初始先验框尺寸。
具体地,第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应三个初始先验框尺寸,即第一尺度预测层、第二尺度预测层及第三尺度预测层一共对应九个初始先验框尺寸。这九个初始先验框尺寸是通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类得到的。
此外,在训练过程中,第一尺度预测层和第三尺度预测层各自对应三个初始先验框尺寸不会进行调整,需要调整的是第二尺度预测层对应的初始先验框尺寸。
本发明实施例提供的方法,通过K-means算法对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,可以确定第一尺度预测层、第二尺度预测层及第三尺度预测层各自对应三个初始先验框尺寸,避免了划痕缺陷检测模型因不确定先验框尺寸而进行的多余的训练,从而提高了划痕缺陷检测模型检测的速度。
结合上述实施例的内容,在一个实施例中,根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测,包括:
501、获取目标电子元器件的目标图像;
502、将所述目标图像输入至训练后的划痕缺陷检测模型,输出用于指示所述目标图像中划痕位置的多个先验框;
503、确定先验框的置信度阈值;根据所述置信度阈值及所述多个先验框的置信度,确定目标先验框集;
504、对所述目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
在上述步骤502中,训练后的划痕缺陷检测模型指的是第二尺度预测层对应的三种先验框的尺寸已被确定,此外划痕缺陷检测模型的其他参数也进行了调整。
具体地,在获取到目标电子元器件的目标图像后,将目标图像输入至训练后的划痕缺陷检测模型,会得到多个先验框,将所有先验框的置信度与置信度阈值进行比较,从中选出置信度大于置信度阈值的先验框组成目标先验框集,然后对目标先验框集进行进行得分排序以及采用非极大值抑制筛选法筛选,确定最终的预测框,输出检测结果。
本发明实施例提供的方法,通过非极大值抑制筛选法对目标先验框集进行筛选,可以去除多余的预测框,从而提高检测结果的精确性。
结合上述实施例的内容,在一个实施例中,一种电子元器件划痕缺陷检测方法,所述方法,还包括:
基于数据扩增技术和深度学习网络构建了划痕缺陷检测算法,建立了小样本、强干扰下的缺陷自学习模型。其中,数据扩增技术指的是上述步骤301中的对每一原始样本图像作预设处理。
首先,针对数据集中缺乏带有划痕缺陷的样本量过小问题,人为制造划痕缺陷;其次,利用图像硬件采集装置对电子元器件的外观图像进行收集并建立相应的高质量划痕缺陷图像集;然后,由于深度网络的特征学习是由图像数据驱动的,因此还对所采集的图像数据库进行了扩增;最后,利用借助DarkNet-53网络提取输入原始图像的特征,对提取的特征图进行处理后,调整电子元器件划痕缺陷检测模型的参数。
本发明实施例提供的方法,通过图像硬件采集装置采集收集电子元器件的外观图像,可以提高采集图像的清晰度,从而提高对图像标注的准确性;同时,通过训练获得针对电子元器件的表面划痕缺陷检测模型,提升划痕缺陷检测模型的检测精度与实时性。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的电子元器件划痕缺陷检测方法的电子元器件划痕缺陷检测装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个电子元器件划痕缺陷检测装置实施例中的具体限定可以参见上文中对于电子元器件划痕缺陷检测方法的限定,在此不再赘述。
在一个实施例中,如图5所示,提供了一种电子元器件划痕缺陷检测装置,包括:第一获取模块501、训练模块502和检测模块503,其中:
第一获取模块501,用于获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
训练模块502,用于基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
检测模块503,用于根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在一个实施例中,第一获取模块501,包括:
获取单元,用于获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
标注单元,用于通过真实框,分别标注多个原始样本图像与多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于多个增强样本图像及多个原始样本图像,获取训练集,由训练集组成样本图像集。
在一个实施例中,训练模块502,包括:
第一确定单元,用于基于第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框尺寸确定尺寸范围;
第二确定单元,用于在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,其中,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
计算单元,用于从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值;
第三确定单元,用于确定最大的平均精确度的平均值对应的取值,并作为目标先验框尺寸的最终取值。
在一个实施例中,计算单元,包括:
计算子单元,用于将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
在一个实施例中,一种电子元器件划痕缺陷检测装置,所述装置还包括:
聚类单元,用于通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到初始先验框尺寸。
在一个实施例中,一种电子元器件划痕缺陷检测装置,所述装置还包括:
第二获取模块,用于获取目标电子元器件的目标图像;
输出模块,用于将目标图像输入至训练后的划痕缺陷检测模型,输出用于指示目标图像中划痕位置的多个先验框;
确定模块,用于确定先验框的置信度阈值;根据置信度阈值及多个先验框的置信度,确定目标先验框集;
筛选模块,用于对目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
上述电子元器件划痕缺陷检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种电子元器件划痕缺陷检测方法。
本领域技术人员可以理解,图6中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,其中,预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
通过真实框,分别标注多个原始样本图像与多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于多个增强样本图像及多个原始样本图像,获取训练集,由训练集组成样本图像集。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
基于第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框尺寸确定尺寸范围;
在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值;
确定最大的平均精确度的平均值对应的取值,并作为目标先验框尺寸的最终取值。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到初始先验框尺寸。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
获取目标电子元器件的目标图像;
将目标图像输入至训练后的划痕缺陷检测模型,输出用于指示目标图像中划痕位置的多个先验框;
确定先验框的置信度阈值;根据置信度阈值及多个先验框的置信度,确定目标先验框集;
对目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
通过真实框,分别标注多个原始样本图像与多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于多个增强样本图像及所述多个原始样本图像,获取训练集,由训练集组成样本图像集。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
基于所述第二尺度预测层对应的先验框尺寸及所述第三尺度预测层对应的先验框尺寸确定尺寸范围;
在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值;
确定最大的平均精确度的平均值对应的取值,并作为目标先验框尺寸的最终取值。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到初始先验框尺寸。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
获取目标电子元器件的目标图像;
将目标图像输入至训练后的划痕缺陷检测模型,输出用于指示目标图像中划痕位置的多个先验框;
确定先验框的置信度阈值;根据置信度阈值及多个先验框的置信度,确定目标先验框集;
对目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取样本电子元器件的样本图像集,其中,样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值及样本图像集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,其中,预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
通过真实框,分别标注多个原始样本图像与多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于所述多个增强样本图像及所述多个原始样本图像,获取训练集,由训练集组成样本图像集。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
基于第二尺度预测层对应的先验框尺寸及第三尺度预测层对应的先验框尺寸确定尺寸范围;
在尺寸范围中获取多个取值,将每一取值作为目标先验框尺寸的取值,确定训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,任一训练样本在任一训练样本下对应的先验框集合包括在任一取值下,任一训练样本通过第一尺度预测层、第二尺度预测层及第三尺度预测层输出的所有先验框;
从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算训练样本集在每一取值下的平均精确度的平均值;
确定最大的平均精确度的平均值对应的取值,并作为目标先验框尺寸的最终取值。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
通过K-means算法,对样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到初始先验框尺寸。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
获取目标电子元器件的目标图像;
将目标图像输入至训练后的划痕缺陷检测模型,输出用于指示目标图像中划痕位置的多个先验框;
确定先验框的置信度阈值;根据置信度阈值及多个先验框的置信度,确定目标先验框集;
对目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (10)
1.一种电子元器件划痕缺陷检测方法,其特征在于,所述方法包括:
获取样本电子元器件的样本图像集,所述样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
基于平均精确度的平均值及所述样本图像集对划痕缺陷检测模型进行训练,调整所述划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
2.根据权利要求1所述的方法,其特征在于,所述样本图像集的获取过程,包括:
获取多个原始样本图像,对每一原始样本图像作预设处理,得到多个增强样本图像,所述预设处理包括平移、镜像翻转、亮度增强或旋转90度处理;
通过真实框,分别标注多个原始样本图像与所述多个增强样本图像中的划痕缺陷,确定真实框的位置、尺寸及真实框所框定的缺陷类别;基于所述多个增强样本图像及所述多个原始样本图像,获取训练集,由所述训练集组成样本图像集。
3.根据权利要求2所述的方法,其特征在于,所述划痕缺陷检测模型是基于yolov3模型构建的;其中,yolov3模型包括三个预测层,将所述三个预测层分别作为第一尺度预测层、第二尺度预测层及第三尺度预测层,所述第一尺度预测层、所述第二尺度预测层及所述第三尺度预测层各自对应的网格划分尺度依次减小;每一预测层均对应至少一种尺寸的先验框,yolov3模型中的参数包括第二尺度预测层对应的目标先验框尺寸;相应地,所述基于平均精确度的平均值及所述训练样本集对划痕缺陷检测模型进行训练,调整划痕缺陷检测模型的参数,获取训练好的划痕缺陷检测模型,包括:
基于所述第二尺度预测层对应的先验框尺寸及所述第三尺度预测层对应的先验框尺寸确定尺寸范围;
在所述尺寸范围中获取多个取值,将每一取值作为所述目标先验框尺寸的取值,确定所述训练样本集中每一训练样本在每一取值下对应的先验框集合;其中,对于任一取值及任一训练样本,所述任一训练样本在所述任一训练样本下对应的先验框集合包括在所述任一取值下,所述任一训练样本通过所述第一尺度预测层、所述第二尺度预测层及所述第三尺度预测层输出的所有先验框;
从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,基于每一训练样本在每一取值下对应的预测框,计算所述训练样本集在每一取值下的平均精确度的平均值;
确定最大的平均精确度的平均值对应的取值,并作为所述目标先验框尺寸的最终取值。
4.根据权利要求3所述的方法,其特征在于,所述从每一训练样本在每一取值下对应的先验框集合中确定每一训练样本在每一取值下对应的预测框,包括:
将每一训练样本在每一取值下对应的先验框集合中的每一先验框与每一训练样本对应的真实框进行交并比计算,将每一训练样本在每一取值下对应的先验框集合中最大交并比值对应的先验框,作为每一训练样本在每一取值下对应的预测框。
5.根据权利要求3所述的方法,其特征在于,所述第一尺度预测层、所述第二尺度预测层及所述第三尺度预测层各自对应至少一个初始先验框尺寸;所述初始先验框尺寸的确定过程,包括:
通过K-means算法,对所述样本图像集中所有样本图像各自对应的真实框尺寸进行聚类,得到所述初始先验框尺寸。
6.根据权利要求1所述的方法,其特征在于,所述根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测,包括:
获取所述目标电子元器件的目标图像;
将所述目标图像输入至训练后的划痕缺陷检测模型,输出用于指示所述目标图像中划痕位置的多个先验框;
确定先验框的置信度阈值;根据所述置信度阈值及所述多个先验框的置信度,确定目标先验框集;
对所述目标先验框集采用非极大值抑制筛选法进行筛选,确定最终的预测框。
7.一种电子元器件划痕缺陷检测装置,其特征在于,所述装置包括:
第一获取模块,用于获取样本电子元器件的样本图像集,所述样本图像集包括有划痕缺陷的样本图像以及无划痕缺陷的样本图像;
训练模块,用于基于平均精确度的平均值及所述样本图像集对划痕缺陷检测模型进行训练,调整所述划痕缺陷检测模型中的参数,获取训练后的划痕缺陷检测模型;
检测模块,用于根据训练后的划痕缺陷检测模型,对目标电子元器件进行划痕缺陷检测。
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111575064.0A CN114331985A (zh) | 2021-12-21 | 2021-12-21 | 电子元器件划痕缺陷检测方法、装置和计算机设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111575064.0A CN114331985A (zh) | 2021-12-21 | 2021-12-21 | 电子元器件划痕缺陷检测方法、装置和计算机设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114331985A true CN114331985A (zh) | 2022-04-12 |
Family
ID=81054524
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111575064.0A Pending CN114331985A (zh) | 2021-12-21 | 2021-12-21 | 电子元器件划痕缺陷检测方法、装置和计算机设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114331985A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115239644A (zh) * | 2022-07-05 | 2022-10-25 | 港珠澳大桥管理局 | 混凝土缺陷识别方法、装置、计算机设备和存储介质 |
CN116012248A (zh) * | 2022-12-30 | 2023-04-25 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及计算机存储介质 |
CN116952958A (zh) * | 2023-09-18 | 2023-10-27 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
-
2021
- 2021-12-21 CN CN202111575064.0A patent/CN114331985A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115239644A (zh) * | 2022-07-05 | 2022-10-25 | 港珠澳大桥管理局 | 混凝土缺陷识别方法、装置、计算机设备和存储介质 |
CN115239644B (zh) * | 2022-07-05 | 2024-04-05 | 港珠澳大桥管理局 | 混凝土缺陷识别方法、装置、计算机设备和存储介质 |
CN116012248A (zh) * | 2022-12-30 | 2023-04-25 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及计算机存储介质 |
CN116012248B (zh) * | 2022-12-30 | 2024-03-26 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及计算机存储介质 |
CN116952958A (zh) * | 2023-09-18 | 2023-10-27 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
CN116952958B (zh) * | 2023-09-18 | 2023-12-29 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109685152B (zh) | 一种基于dc-spp-yolo的图像目标检测方法 | |
CN114331985A (zh) | 电子元器件划痕缺陷检测方法、装置和计算机设备 | |
CN111291825B (zh) | 病灶分类模型训练方法、装置、计算机设备和存储介质 | |
US20200242822A1 (en) | Digital Media Environment for Style-Aware Patching in a Digital Image | |
CN111680678B (zh) | 目标区域识别方法、装置、设备及可读存储介质 | |
US11164306B2 (en) | Visualization of inspection results | |
CN115631178B (zh) | 自动晶圆缺陷检测方法、系统、设备及存储介质 | |
TWI794718B (zh) | 電路板檢測方法、電子裝置及存儲介質 | |
CN116342597B (zh) | 一种汽车配件表面电镀加工缺陷检测方法和系统 | |
CN111598084B (zh) | 缺陷分割网络训练方法、装置、设备及可读存储介质 | |
CN114898357B (zh) | 缺陷识别方法、装置、电子设备及计算机可读存储介质 | |
CN115272234A (zh) | 瓶盖质量检测方法、装置、计算机设备及存储介质 | |
Lin et al. | An antagonistic training algorithm for TFT-LCD module mura defect detection | |
CN115239946A (zh) | 小样本迁移学习训练、目标检测方法、装置、设备和介质 | |
CN108537329B (zh) | 一种利用Volume R-CNN神经网络进行运算的方法和装置 | |
CN114332457A (zh) | 图像实例分割模型训练、图像实例分割方法和装置 | |
CN116205918B (zh) | 基于图卷积的多模态融合半导体检测方法、装置及介质 | |
CN115953330B (zh) | 虚拟场景图像的纹理优化方法、装置、设备和存储介质 | |
CN115759291B (zh) | 一种基于集成学习的空间非线性回归方法及系统 | |
CN114663662B (zh) | 超参数搜索方法、装置、计算机设备和存储介质 | |
CN116051959A (zh) | 一种目标检测方法、装置 | |
CN115861305A (zh) | 柔性电路板检测方法、装置、计算机设备及存储介质 | |
CN112801201B (zh) | 一种基于标准化的深度学习视觉惯导组合导航设计方法 | |
CN115345917A (zh) | 低显存占用的多阶段稠密重建方法及装置 | |
Zou et al. | YOLOv7‐EAS: A Small Target Detection of Camera Module Surface Based on Improved YOLOv7 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |