CN114881989A - 基于小样本目标对象缺陷检测的方法、装置、电子设备 - Google Patents
基于小样本目标对象缺陷检测的方法、装置、电子设备 Download PDFInfo
- Publication number
- CN114881989A CN114881989A CN202210565548.5A CN202210565548A CN114881989A CN 114881989 A CN114881989 A CN 114881989A CN 202210565548 A CN202210565548 A CN 202210565548A CN 114881989 A CN114881989 A CN 114881989A
- Authority
- CN
- China
- Prior art keywords
- target
- defect
- detection model
- data set
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/766—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using regression, e.g. by projecting features on hyperplanes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供了一种基于小样本目标对象缺陷检测的方法、装置、电子设备,其中,该方法包括:待检测的目标对象的目标图像信息;将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。通过本申请实施例,解决了相关技术中存在的电力器件的正负样本严重失衡,导致电力设备缺陷检测的精度较低且定位不准的问题。
Description
技术领域
本申请涉及机器学习领域,尤其涉及一种基于小样本目标对象缺陷检测的方法、装置、电子设备。
背景技术
电力设备中的各个部件,如变压器,其正常运转与稳定供电是电力系统的基础保障。然而,在自身质量或外界条件影响下,变压器中常会出现漏油、锈蚀等缺陷,直接威胁到变压器的稳定运行。而在变电站实际维修巡检中,常常通过人工定期巡检来监测变压器的异常,耗费人力成本且容易产生安全事故,不能很好满足高效且精准的检测需求。
随着人工智能技术的发展,数据驱动型的智能化检测技术由于其安全且可靠的检测结果逐渐占据了电力设备检测的主导地位。然而,在工业生产中,在工业生产中,研究人员往往很难获得大量用于模型训练学习的变压器缺陷样本,即正样本,大部分样本都是无缺陷的正常样本,即负样本,这就带来了正负样本严重失衡的问题,进而限制了智能检测,比如电力设备缺陷检测的精度和定位。
因此,相关技术中存在针对某一电力器件的正负样本严重失衡,导致电力设备缺陷检测的精度较低且定位不准的问题。
发明内容
本申请提供了一种基于小样本目标对象缺陷检测的方法、装置、电子设备,以至少解决相关技术中存在针对某一电力器件的正负样本严重失衡,导致电力设备缺陷检测的精度较低且定位不准的问题。
根据本申请实施例的一个方面,提供了一种基于小样本目标对象缺陷检测的方法,该方法包括:获取待检测的目标对象的目标图像信息;将所述目标图像信息输入目标检测模型中,得到所述目标对象对应缺陷的检测结果,其中,所述目标检测模型用于对所述目标对象缺陷类别进行检测,所述目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,所述中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,所述检测结果内包含所述目标对象所属缺陷类别和所述缺陷相应的位置信息。
根据本申请实施例的另一个方面,还提供了一种基于小样本目标对象缺陷检测的装置,该装置包括:第一获取单元,用于获取待检测的目标对象的目标图像信息;输入单元,用于将所述目标图像信息输入目标检测模型中,得到所述目标对象对应缺陷的检测结果,其中,所述目标检测模型用于对所述目标对象缺陷类别进行检测,所述目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,所述中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,所述检测结果内包含所述目标对象所属缺陷类别和所述缺陷相应的位置信息。
可选地,该装置还包括:第二获取单元,用于在所述将所述目标对象输入目标检测模型中之前,获取初始对象的初始图像信息,其中,所述初始图像信息为训练所述初始检测模型的样本集;处理单元,用于利用预设缺陷处理方案对所述初始图像信息进行处理,得到初始样本数据集,其中,所述初始样本数据集内包含所述初始图像信息属于第一缺陷类别的标注信息和所述初始对象上对应的缺陷所处在的目标位置;划分单元,用于将所述初始样本数据集划分为第一数据集和第二数据集;生成单元,用于利用所述第一数据集训练所述初始检测模型,生成所述中间检测模型,其中,所述第一数据集中不包含目标类别缺陷数据;测试单元,用于利用所述第二数据集对所述中间检测模型进行测试,生成所述目标检测模型,其中,所述第二数据集中包含所述目标类别缺陷数据。
可选地,处理单元包括:获取模块,用于获取多个预设缺陷图片大小和预设缺陷标定方案;第一处理模块,用于根据所述预设缺陷图片大小和所述预设缺陷标定方案对所述初始图像信息进行位置标定和类别划分处理,得到所述初始样本数据集。
可选地,生成单元包括:选取模块,用于从所述第一数据集中选取预设个类别数量的第一子数据集和除了所述预设个类别数量之外的第二子数据集,其中,所述第一子数据集和所述第二子数据集均为所述第一数据集的子集;第一输入模块,用于将所述第一子数据集输入第一模型,得到所述预设个类别的区域特征,其中,所述第一模型用于对所述第一子数据集内属于每个类别下的感兴趣区域的框选;第一计算模块,用于对所述每个类别下的所述区域特征计算均值,得到所述预设个类别对应的类别模板集;第二输入模块,用于将所述第二子数据集输入第二模型,得到原始特征图,其中,所述第二模型用于图像特征提取;第二计算模块,用于利用注意力机制对目标类别模板集执行激活函数的运算,并将运算后的目标类别模板集与所述原始特征图进行元素乘法计算,得到目标类特征图,其中,所述目标类别模板集为所述类别模板集的子集,所述目标类别模板集包含至少一种类别模板,所述目标类特征图为利用所述注意力机制增强所述目标类别模板集内的类别模板的关键区域后,所得到的特征图;第二处理模块,用于利用区域生成网络、池化层对所述目标类特征图进行特征向量处理,得到目标特征向量;第三处理模块,用于利用全连接层对所述类别模板集进行处理,得到参考特征向量;结合模块,用于将所述注意力机制与所述参考特征向量相结合,得到结合后的特征向量;增强模块,用于将结合后的特征向量增强所述目标特征向量,得到增强后的目标特征向量;第四处理模块,用于利用所述全连接层对所述增强后的目标特征向量进行处理,得到所述中间检测模型。
可选地,第二处理模块包括:第一生成子单元,用于利用区域生成网络从所述目标类特征图中生成目标区域框;处理子单元,用于将所述目标区域框与所述原始特征图结合后利用所述池化层进行池化处理,得到所述目标特征向量。
可选地,第四处理模块包括:输出子单元,用于利用所述全连接层对所述增强后的目标特征向量进行处理,并利用二分类器输出属于所述第一缺陷类别的概率值,利用边界框回归器输出预测所述初始对象中出现缺陷对应的参考位置;得到子单元,用于根据所述概率值和所述参考位置调整所述初始模型参数,直到所述概率值大于或者等于预设阈值,且所述参考位置为所述目标位置之后,则停止调整所述初始模型参数,得到所述中间检测模型,其中,所述预设阈值为利用所述中间检测模型对所述初始图像信息进行处理后,能够输出所述标注信息的最小数值。
可选地,第一输入模块包括:选取子单元,用于从所述初始样本数据集中选取出不同缺陷类别对应的目标区域;第二生成子单元,用于将所述目标区域分别设置在多个所述初始对象上,生成多个参考图像信息;增加子单元,用于将所述参考图像信息增加到所述第一子数据集中,得到扩充样本数据后的第三子数据集;输入子单元,用于将所述第三子数据集输入所述第一模型,得到所述预设个类别的区域特征。
可选地,测试单元包括:第三输入模块,用于将所述第二数据集输入所述中间检测模型,得到输出结果;调整模块,用于基于所述输出结果调整所述中间检测模型的所述模型参数,得到调整后的目标检测模型。
根据本申请实施例的又一个方面,还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器、通信接口和存储器通过通信总线完成相互间的通信;其中,存储器,用于存储计算机程序;处理器,用于通过运行所述存储器上所存储的所述计算机程序来执行上述任一实施例中的方法步骤。
根据本申请实施例的又一个方面,还提供了一种计算机可读的存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一实施例中的方法步骤。
在本申请实施例中,通过获取待检测的目标对象的目标图像信息;将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。由于本申请实施例将获取到的目标图像信息输入训练好的目标检测模型,然后得到该目标图像内存在部件缺陷的缺陷类别和缺陷所在位置,因该目标检测模型是对初始检测模型以及中间检测模型进行不断的模型参数调整,利用元学习机制,学会学习不同类别任务中共性特征的能力,在面对新的小样本学习任务时,通过较小的微调就能较好地进行检测定位,从而有效地提高了小样本的目标对象正负样本失衡,致使设备缺陷检测精度低且定位不准的问题。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例的一种可选的基于小样本目标对象缺陷检测的方法的硬件环境的示意图;
图2是根据本申请实施例的一种可选的基于小样本目标对象缺陷检测的方法的流程示意图;
图3是根据本申请实施例的一种可选的元学习策略示意图;
图4是根据本申请实施例的一种可选的小样本目标对象缺陷检测方法模型示意图;
图5是根据本申请实施例的一种可选的基于小样本目标对象缺陷检测的方法的整体流程示意图;
图6是根据本申请实施例的一种可选的基于小样本目标对象缺陷检测的装置的结构框图;
图7是根据本申请实施例的一种可选的电子设备的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
电力设备中,如变压器的正常运转与稳定供电是电力系统的基础保障。然而,在自身质量或外界条件影响下,变压器中常会出现漏油、锈蚀等缺陷,直接威胁到变压器的稳定运行。
随着人工智能技术的发展,数据驱动型的智能化检测技术由于其安全且可靠的检测结果逐渐占据了电力设备检测的主导地位。然而,在工业生产中,研究人员往往很难获得大量用于学习的变压器缺陷样本,这就带来了正负样本比例严重失衡的问题,进而限制了智能检测的精度。由此可见,利用小样本学习来研究变压器缺陷检测方法有重要的理论意义和实用价值。
目前针对小样本变压器缺陷图像的检测技术研究较少,而在自然图像领域,国内外专家学者针对小样本学习的相关难点问题则提出了一些成效显著的实现方案。一般而言,小样本学习通常从数据和模型两个角度来进行解决方案的划分。前者从小样本数据较少这一问题作为出发点,通过数据增强方法来对小样本进行数据扩充来获得更多训练数据,缓解模型过拟合,不过它常用作辅助手段来泛化模型,针对变电站场景需要有针对性地设计数据增强方式;后者从模型优化着手,常见的为基于度量学习的策略,其主要通过相似样本对可获得高分而不相似样本对获得低分这一原则来进行参数优化。度量学习虽然可以映射样本至一个好的嵌入空间,但是当小样本与其他样本相关度极低时,它可能无法很好地工作。
为了解决上述问题,根据本申请实施例的一个方面,提供了一种基于小样本目标对象缺陷检测的方法。可选地,在本实施例中,上述基于小样本目标对象缺陷检测的方法可以应用于如图1所示的硬件环境中。如图1所示,终端102中可以包含有存储器104、处理器106和显示器108(可选部件)。终端102可以通过网络110与服务器112进行通信连接,该服务器112可用于为终端或终端上安装的客户端提供服务(如应用服务等),可在服务器112上或独立于服务器112设置数据库114,用于为服务器112提供数据存储服务。此外,服务器112中可以运行有处理引擎116,该处理引擎116可以用于执行由服务器112所执行的步骤。
可选地,终端102可以但不限于为可以计算数据的终端,如移动终端(例如手机、平板电脑)、笔记本电脑、PC(Personal Computer,个人计算机)机等终端上,上述网络可以包括但不限于无线网络或有线网络。其中,该无线网络包括:蓝牙、WIFI(Wireless Fidelity,无线保真)及其他实现无线通信的网络。上述有线网络可以包括但不限于:广域网、城域网、局域网。上述服务器112可以包括但不限于任何可以进行计算的硬件设备。
此外,在本实施例中,上述基于小样本目标对象缺陷检测的方法还可以但不限于应用于处理能力较强大的独立的处理设备中,而无需进行数据交互。例如,该处理设备可以但不限于为处理能力较强大的终端设备,即,上述基于小样本目标对象缺陷检测的方法中的各个操作可以集成在一个独立的处理设备中。上述仅是一种示例,本实施例中对此不作任何限定。
可选地,在本实施例中,上述基于小样本目标对象缺陷检测的方法可以由服务器112来执行,也可以由终端102来执行,还可以是由服务器112和终端102共同执行。其中,终端102执行本申请实施例的基于小样本目标对象缺陷检测的方法也可以是由安装在其上的客户端来执行。
以运行在服务器为例,图2是根据本申请实施例的一种可选的基于小样本目标对象缺陷检测的方法的流程示意图,如图2所示,该方法的流程可以包括以下步骤:
步骤S201,获取待检测的目标对象的目标图像信息;
步骤S202,将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。
可选地,本申请实施例是基于初始检测模型已经训练好后得到的目标检测模型进行的电力设备的缺陷检测,其主要应用为:服务器首先获取待检测的目标对象的目标图像信息,其中,目标对象可以是变压器,也可以是其他任一电力设备,在本申请实施例中,可以以变压器作为目标对象进行后续的解释说明。
然后将获取到的目标图像信息输入到训练好的目标检测模型内,进而利用目标检测模型输出检测结果,这时服务器就能得到目标对象对应覆盖的缺陷的检测结果。需要说明的是,这里的目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,这里的初始检测模型其实就是对最初还未进行训练前的模型,而中间检测模型其实就是对初始检测模型再进行下参数调整得到的模型,而对中间检测模型再进行参数调整,即可最终得到目标检测模型。
在基于目标检测模型得到检测结果后,基于该检测结果就可以确定目标对象所属缺陷类别和缺陷相应的位置信息。
在本申请实施例中,通过获取待检测的目标对象的目标图像信息;将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。由于本申请实施例将获取到的目标图像信息输入训练好的目标检测模型,然后得到该目标图像内存在部件缺陷的缺陷类别和缺陷所在位置,因该目标检测模型是对初始检测模型以及中间检测模型进行不断的模型参数调整,利用元学习机制,学会学习不同类别任务中共性特征的能力,在面对新的小样本学习任务时,通过较小的微调就能较好地进行检测定位,从而有效地提高了小样本的目标对象正负样本失衡,致使设备缺陷检测精度低且定位不准的问题。
作为一种可选实施例,在将目标对象输入目标检测模型中之前,方法还包括:
获取初始对象的初始图像信息,其中,初始图像信息为训练初始检测模型的样本集;
利用预设缺陷处理方案对初始图像信息进行处理,得到初始样本数据集,其中,初始样本数据集内包含初始图像信息属于第一缺陷类别的标注信息和初始对象上对应的缺陷所处在的目标位置;
将初始样本数据集划分为第一数据集和第二数据集;
利用第一数据集训练初始检测模型,生成中间检测模型,其中,第一数据集中不包含目标类别缺陷数据;
利用第二数据集对中间检测模型进行测试,生成目标检测模型,其中,第二数据集中包含目标类别缺陷数据。
可选地,在本申请实施例的初始检测模型训练方面,利用元学习策略(分为元训练和元验证两个阶段),针对不同子学习任务,通过支持集和查询集来更新参数优化学习能力,训练Faster RCNN基础检测模型,学习到不同检测子任务的共性特征,掌握基础的小样本缺陷检测能力。测试阶段,输入待检测变压器图像,微调该模型使其快速适应新的检测任务,即可利用拥有小样本查询能力的Faster RCNN检测器进行变压器缺陷识别与定位。
具体地,首先采集到多个历史存储的变压器图像,基于预先设定的图片大小与缺陷标定规则对图像进行裁剪分块、标定和存储,构建变压器缺陷的标识数据集,该标识数据集中包含多种类别的缺陷,其中包括无缺陷类、a类缺陷(样本量较少)以及其他类缺陷。其中,a类缺陷可以是一些单一缺陷,比如漏油类;其他类缺陷可以是电力系统异常缺陷类,如腐蚀,多点接地,电线老化,表面裂缝等。本申请实施例通过学习识别不同类缺陷的通用特征来辅助对变压器缺陷的检测。
图像采集与处理阶段:服务器获取到初始对象(即任一电力设备,比如变压器)的初始图像信息,该初始图像信息其实就是训练初始检测模型的一些样本集,其中,初始图像信息可以是变压器图像,然后基于上述的预设缺陷处理方案,包括预先设定的图片大小与缺陷标定规则对图像进行裁剪分块、标定和存储,构建初始样本数据集,并获取到初始样本数据集内的初始图像信息属于的缺陷类别,比如属于第一缺陷类别,则在初始样本数据集内存有与第一缺陷类别对应的标注信息以及对应的缺陷所处在的位置信息(即目标位置)。
数据划分阶段:为了构建元学习数据集,将初始样本数据集划分为元训练集,即第一数据集(其不含目标类别a类的缺陷数据)和元测试集,即第二数据集(其含目标类别a类的缺陷数据),两个数据集之间样本类别不相交。
利用第一数据集训练初始检测模型,用于生成中间检测模型;利用第二数据集测试和调整中间检测模型,得到目标检测模型。
在本申请实施例中,设计的小样本RCNN检测框架结合了元学习的思想,不仅适用于变压器缺陷的小样本检测,还能利用数量较少的其余类别缺陷样本迁移至其他工业缺陷检测任务中,元学习方法提供了一个较好的可微调检测基线。
作为一种可选实施例,利用第一数据集用于训练初始检测模型,生成中间检测模型包括:
从第一数据集中选取预设个类别数量的第一子数据集和除了预设个类别数量之外的第二子数据集,其中,第一子数据集和第二子数据集均为第一数据集的子集;
将第一子数据集输入第一模型,得到预设个类别的区域特征,其中,第一模型用于对第一子数据集内属于每个类别下的感兴趣区域的框选;
对每个类别下的区域特征计算均值,得到预设个类别对应的类别模板集;
将第二子数据集输入第二模型,得到原始特征图,其中,第二模型用于图像特征提取;
利用注意力机制对目标类别模板集执行激活函数的运算,并将运算后的目标类别模板集与原始特征图进行元素乘法计算,得到目标类特征图,其中,目标类别模板集为类别模板集的子集,目标类别模板集包含至少一种类别模板,目标类特征图为利用注意力机制增强目标类别模板集内的类别模板的关键区域后,所得到的特征图;
利用区域生成网络、池化层对目标类特征图进行特征向量处理,得到目标特征向量;
利用全连接层对类别模板集进行处理,得到参考特征向量;
将注意力机制与参考特征向量相结合,得到结合后的特征向量;
将结合后的特征向量增强目标特征向量,得到增强后的目标特征向量;
利用全连接层对增强后的目标特征向量进行处理,得到中间检测模型。
可选地,本申请实施例所采用的元学习策略中数据类及子任务分配示意图如图3所示,其中,一个K way-N shot支持集和一个查询集被采样来创建一个子任务。K为类别,N为类别下被标记数据个数。
具体地,数据划分阶段:从第一数据集中选取预设个(即K个)类别的K*N个数量构建一个子任务,作为第一子数据集(即图3中的支持集),再将第一数据集中除了第一子数据集之外的其他数据组成第二子数据集(即图3中的查询集),其中,第二子数据集作为模型的预测对象进行输入。
第二数据集(即元测试集)与第一数据集一样,如图3,也是包含支持集和查询集,且在每个数据集的各个类别内都只有较少数量的图具有缺陷标记,构成小样本学习问题。每个子任务都是K way-N shot模式。
数据增强阶段:在数据方面,由于变压器缺陷区域较小,且利用裁剪的方式可以有效提取出缺陷区域,因此提出了一种复制粘贴(Copy and Paste)模块来对变压器支持集中各类样本进行数据扩充,增加缺陷样本量,防止模型过拟合,对于小样本目标检测效果显著。
具体地,利用Copy and Paste方法对每个子任务中的支持集进行样本扩充,来增加正样本(缺陷样本)的占比,减小正负样本之间的比例差距:从初始样本数据集中选取出不同规模的缺陷类别对应的目标区域,将目标区域随机粘贴设置在多个别的初始对象背景图像上,生成多个参考图像信息;
再将参考图像信息增加到第一子数据集中,得到扩充样本数据后的第三子数据集,实现从像素级水平上实现获取丰富新颖的训练数据。
网络训练阶段:
(1)元训练期间,扩展基于Faster RCNN检测模型来搭建小样本检测网络,并利用元训练数据集对其训练。具体的缺陷检测方法如图4所示,分别将每个子任务的支持集和查询集作为输入。
(a)如附图4上半部分所示,将扩充样本后的第三子数据集输入第一模型(即CNN+区域生成网络(RPN)+ROI池化的结构),生成属于所选的预设K个类别的物体的区域特征;然后,对于K个感兴趣对象类别中的每一个类,计算属于该类对象所对应区域特征向量的均值,作为该类模板fs(如图4中“各类别模板”),进而得到类别模板集。
(b)如图4下半部分所示,将查询集图像(即第二子数据集)输入第二模型FasterRCNN中,得到原始特征图;不同于支持集区域特征提取的是,在CNN结构之后,利用注意力机制A来使包含目标的关键区域更突出。其中,注意力机制模块A的具体操作为将经过Sigmoid激活函数之后的“类别模板”(即目标类别模板集)与得到的原始特征图fq进行元素乘法来得到目标类特征图。
进一步,利用RPN从目标类特征图中生成相对应的ROI目标区域框,将目标区域框与原始特征图结合后利用池化层进行池化处理,得到目标特征向量fq1。
(c)将支持集所得到的类别模板集向量fs通过全连接层进行通道调整得到参考特征向量fs1;并再次利用设计的注意力机制A结合fs1来增强目标特征向量fq1,得到增强后的目标特征向量,将增强后的目标特征向量通过全连接层映射到样本标记空间,进一步地对初始模型的初始模型参数进行调整,得到中间检测模型。
本申请实施例提出了一种复制粘贴的小样本变压器缺陷数据增强方式。通过从正样本中裁出不同规模缺陷类对应的目标区域,来随机粘贴到另一张背景图像上,从像素级水平上实现数据量的扩充,以此平衡正负样本严重失调的比例,能有效地避免模型学习过程中的过拟合,增强模型的泛化能力。同时,本申请实施例充分运用采集到的少量变压器异常缺陷图像与较多正常变压器图像,将自然图像中小样本学习的思想迁移至变压器缺陷检测任务中,基于Faster RCNN检测模型,结合了数据增强和元学习的训练方法,来创造性地解决检测模型在小样本限制下检测精度低的问题,进而更有效地实现小样本变压器缺陷检测。
作为一种可选实施例,利用全连接层对增强后的目标特征向量进行处理,得到中间检测模型包括:
利用全连接层对增强后的目标特征向量进行处理,并利用二分类器输出属于第一缺陷类别的概率值,利用边界框回归器输出预测初始对象中出现缺陷对应的参考位置;
根据概率值和参考位置调整初始模型参数,直到概率值大于或者等于预设阈值,且参考位置为目标位置之后,则停止调整初始模型参数,得到中间检测模型,其中,预设阈值为利用中间检测模型对初始图像信息进行处理后,能够输出标注信息的最小数值。
可选地,如图4,在全连接层对增强后的目标特征向量进行处理后,可以使用二分类器来判定初始对象是否属于第一缺陷类别,也需要使用边界框回归器来预测初始对象中出现缺陷的位置信息。
最终结合分类识别损失和回归损失作为整体损失,利用元学习策略,在不同子任务上迭代训练查询集的基础检测器得到检测结果,减小损失,优化和调整初始模型,直到概率值大于或者等于预设阈值(比如90%等),且参考位置为目标位置之后,则停止调整初始模型参数,得到中间检测模型。
其中,设置预设阈值是为了将其作为利用中间检测模型对初始图像信息进行处理后,能够输出标注信息的最小数值,参考位置可以是一个矩形框,坐标形式为(x,y,w,h),其中(x,y)是矩形框左上角坐标,w和h是矩形框的长和宽,这样就可以定位一个矩形框的位置,另外,在本申请实施例中由于将参考位置设置为一个完整的矩形框的精准难度较高,所以本申请实施例将设置一个误差范围,只要参考位置与设置的矩形框的相对位置在该误差范围内即可接受。
作为一种可选实施例,利用第二数据集对中间检测模型进行测试,生成目标检测模型包括:
将第二数据集输入中间检测模型,得到输出结果;
基于输出结果调整中间检测模型的模型参数,得到调整后的目标检测模型。
可选地,在元测试阶段,仍基于上述Faster RCNN检测模型来进行,但使用包含了a缺陷类别的小样本数据(即元测试数据集)对训练好的中间检测模型进一步微调。微调是指在已训练好的模型参数的基础上,降低学习率对模型的参数做微小的调整。该调整包括对模型所有参数的调整、对模型部分参数的调整。由于在元训练阶段,中间检测模型的模型参数已包含对不同缺陷函数的拟合能力与先验知识,因此微调可以使最终得到的目标检测模型可快速具备对小样本新任务的检测能力。
基于上述各个实施例,这里描述一下在得到目标检测模型后的应用场景:如图5所示,采集变压器图像,变压器图像进行区域分块预处理和数据划分,然后对数据进行增强处理,输入网络中,迭代训练变压器缺陷检测模型,得到训练好的目标检测模型。
输入待检测变压器图像,利用训练得到的目标检测模型,针对各批次子图像区域进行缺陷检测,判断该图像是否存在该缺陷。
若该批次图像中存在缺陷,则存储各区域检测结果,若该批次子图像不存在缺陷,则继续利用目标检测模型对下一批次子图像进行检测,最后合并各批次检测结果图为变压器检测结果,存在缺陷情况则报警并输出检测定位信息;然后继续针对下一待检测变压器图像返回执行目标检测模型的缺陷检测流程。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM(Read-Only Memory,只读存储器)/RAM(Random Access Memory,随机存取存储器)、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例的方法。
根据本申请实施例的另一个方面,还提供了一种用于实施上述基于小样本目标对象缺陷检测的方法的基于小样本目标对象缺陷检测的装置。图6是根据本申请实施例的一种可选的基于小样本目标对象缺陷检测的装置的结构框图,如图6所示,该装置可以包括:第一获取单元601,用于获取待检测的目标对象的目标图像信息;输入单元602,用于将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。
需要说明的是,该实施例中的第一获取单元601可以用于执行上述步骤S201,该实施例中的输入单元602可以用于执行上述步骤S202。
通过上述模块,将获取到的目标图像信息输入训练好的目标检测模型,然后得到该目标图像内存在部件缺陷的缺陷类别和缺陷所在位置,因该目标检测模型是对初始检测模型以及中间检测模型进行不断的模型参数调整,利用元学习机制,学会学习不同类别任务中共性特征的能力,在面对新的小样本学习任务时,通过较小的微调就能较好地进行检测定位,从而有效地提高了小样本的目标对象正负样本失衡,致使设备缺陷检测精度低且定位不准的问题。
作为一种可选的实施例,该装置还包括:第二获取单元,用于在将目标对象输入目标检测模型中之前,获取初始对象的初始图像信息,其中,初始图像信息为训练初始检测模型的样本集;处理单元,用于利用预设缺陷处理方案对初始图像信息进行处理,得到初始样本数据集,其中,初始样本数据集内包含初始图像信息属于第一缺陷类别的标注信息和初始对象上对应的缺陷所处在的目标位置;划分单元,用于将初始样本数据集划分为第一数据集和第二数据集;生成单元,用于利用第一数据集训练初始检测模型,生成中间检测模型,其中,第一数据集中不包含目标类别缺陷数据;测试单元,用于利用第二数据集对中间检测模型进行测试,生成目标检测模型,其中,第二数据集中包含目标类别缺陷数据。
作为一种可选的实施例,处理单元包括:获取模块,用于获取多个预设缺陷图片大小和预设缺陷标定方案;第一处理模块,用于根据预设缺陷图片大小和预设缺陷标定方案对初始图像信息进行位置标定和类别划分处理,得到初始样本数据集。
作为一种可选的实施例,生成单元包括:选取模块,用于从第一数据集中选取预设个类别数量的第一子数据集和除了预设个类别数量之外的第二子数据集,其中,第一子数据集和第二子数据集均为第一数据集的子集;第一输入模块,用于将第一子数据集输入第一模型,得到预设个类别的区域特征,其中,第一模型用于对第一子数据集内属于每个类别下的感兴趣区域的框选;第一计算模块,用于对每个类别下的区域特征计算均值,得到预设个类别对应的类别模板集;第二输入模块,用于将第二子数据集输入第二模型,得到原始特征图,其中,第二模型用于图像特征提取;第二计算模块,用于利用注意力机制对目标类别模板集执行激活函数的运算,并将运算后的目标类别模板集与原始特征图进行元素乘法计算,得到目标类特征图,其中,目标类别模板集为类别模板集的子集,目标类别模板集包含至少一种类别模板,目标类特征图为利用注意力机制增强目标类别模板集内的类别模板的关键区域后,所得到的特征图;第二处理模块,用于利用区域生成网络、池化层对目标类特征图进行特征向量处理,得到目标特征向量;第三处理模块,用于利用全连接层对类别模板集进行处理,得到参考特征向量;结合模块,用于将注意力机制与参考特征向量相结合,得到结合后的特征向量;增强模块,用于将结合后的特征向量增强目标特征向量,得到增强后的目标特征向量;第四处理模块,用于利用全连接层对增强后的目标特征向量进行处理,得到中间检测模型。
作为一种可选的实施例,第二处理模块包括:第一生成子单元,用于利用区域生成网络从目标类特征图中生成目标区域框;处理子单元,用于将目标区域框与原始特征图结合后利用池化层进行池化处理,得到目标特征向量。
作为一种可选的实施例,第四处理模块包括:输出子单元,用于利用全连接层对增强后的目标特征向量进行处理,并利用二分类器输出属于第一缺陷类别的概率值,利用边界框回归器输出预测初始对象中出现缺陷对应的参考位置;得到子单元,用于根据概率值和参考位置调整初始模型参数,直到概率值大于或者等于预设阈值,且参考位置为目标位置之后,则停止调整初始模型参数,得到中间检测模型,其中,预设阈值为利用中间检测模型对初始图像信息进行处理后,能够输出标注信息的最小数值。
作为一种可选的实施例,第一输入模块包括:选取子单元,用于从初始样本数据集中选取出不同缺陷类别对应的目标区域;第二生成子单元,用于将目标区域分别设置在多个初始对象上,生成多个参考图像信息;增加子单元,用于将参考图像信息增加到第一子数据集中,得到扩充样本数据后的第三子数据集;输入子单元,用于将第三子数据集输入第一模型,得到预设个类别的区域特征。
作为一种可选的实施例,测试单元包括:第三输入模块,用于将第二数据集输入中间检测模型,得到输出结果;调整模块,用于基于输出结果调整中间检测模型的模型参数,得到调整后的目标检测模型。
此处需要说明的是,上述模块与对应的步骤所实现的示例和应用场景相同,但不限于上述实施例所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在如图1所示的硬件环境中,可以通过软件实现,也可以通过硬件实现,其中,硬件环境包括网络环境。
根据本申请实施例的又一个方面,还提供了一种用于实施上述基于小样本目标对象缺陷检测的方法的电子设备,该电子设备可以是服务器、终端、或者其组合。
图7是根据本申请实施例的一种可选的电子设备的结构框图,如图7所示,包括处理器701、通信接口702、存储器703和通信总线704,其中,处理器701、通信接口702和存储器703通过通信总线704完成相互间的通信,其中,
存储器703,用于存储计算机程序;
处理器701,用于执行存储器703上所存放的计算机程序时,实现如下步骤:
获取待检测的目标对象的目标图像信息;
将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。
可选地,在本实施例中,上述的通信总线可以是PCI(Peripheral ComponentInterconnect,外设部件互连标准)总线、或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一条粗线表示,但并不表示仅有一根总线或一种类别的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括RAM,也可以包括非易失性存储器(non-volatile memory),例如,至少一个磁盘存储器。可选地,存储器还可以是至少一个位于远离前述处理器的存储装置。
作为一种示例,如图7所示,上述存储器703中可以但不限于包括上述基于小样本目标对象缺陷检测的装置中的第一获取单元601、输入单元602。此外,还可以包括但不限于上述基于小样本目标对象缺陷检测的装置中的其他模块单元,本示例中不再赘述。
上述处理器可以是通用处理器,可以包含但不限于:CPU(Central ProcessingUnit,中央处理器)、NP(Network Processor,网络处理器)等;还可以是DSP(DigitalSignal Processing,数字信号处理器)、ASIC(Application Specific IntegratedCircuit,专用集成电路)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
此外,上述电子设备还包括:显示器,用于显示基于小样本目标对象缺陷检测的结果。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例在此不再赘述。
本领域普通技术人员可以理解,图7所示的结构仅为示意,实施上述基于小样本目标对象缺陷检测的方法的设备可以是终端设备,该终端设备可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备(Mobile Internet Devices,MID)、PAD等终端设备。图7其并不对上述电子设备的结构造成限定。例如,终端设备还可包括比图7中所示更多或者更少的组件(如网络接口、显示装置等),或者具有与图7所示的不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、ROM、RAM、磁盘或光盘等。
根据本申请实施例的又一个方面,还提供了一种存储介质。可选地,在本实施例中,上述存储介质可以用于执行基于小样本目标对象缺陷检测的方法的程序代码。
可选地,在本实施例中,上述存储介质可以位于上述实施例所示的网络中的多个网络设备中的至少一个网络设备上。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:
获取待检测的目标对象的目标图像信息;
将目标图像信息输入目标检测模型中,得到目标对象对应缺陷的检测结果,其中,目标检测模型用于对目标对象缺陷类别进行检测,目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,检测结果内包含目标对象所属缺陷类别和缺陷相应的位置信息。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例中对此不再赘述。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、ROM、RAM、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
根据本申请实施例的又一个方面,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中;计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述任一个实施例中的基于小样本目标对象缺陷检测的方法步骤。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例基于小样本目标对象缺陷检测的方法的全部或部分步骤。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的客户端,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例中所提供的方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (11)
1.一种基于小样本目标对象缺陷检测的方法,其特征在于,所述方法包括:
获取待检测的目标对象的目标图像信息;
将所述目标图像信息输入目标检测模型中,得到所述目标对象对应缺陷的检测结果,其中,所述目标检测模型用于对所述目标对象缺陷类别进行检测,所述目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,所述中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,所述检测结果内包含所述目标对象所属缺陷类别和所述缺陷相应的位置信息。
2.根据权利要求1所述的方法,其特征在于,在所述将所述目标对象输入目标检测模型中之前,所述方法还包括:
获取初始对象的初始图像信息,其中,所述初始图像信息为训练所述初始检测模型的样本集;
利用预设缺陷处理方案对所述初始图像信息进行处理,得到初始样本数据集,其中,所述初始样本数据集内包含所述初始图像信息属于第一缺陷类别的标注信息和所述初始对象上对应的缺陷所处在的目标位置;
将所述初始样本数据集划分为第一数据集和第二数据集;
利用所述第一数据集训练所述初始检测模型,生成所述中间检测模型,其中,所述第一数据集中不包含目标类别缺陷数据;
利用所述第二数据集对所述中间检测模型进行测试,生成所述目标检测模型,其中,所述第二数据集中包含所述目标类别缺陷数据。
3.根据权利要求2所述的方法,其特征在于,所述利用预设缺陷处理方案对所述初始图像信息进行处理,得到初始样本数据集包括:
获取多个预设缺陷图片大小和预设缺陷标定方案;
根据所述预设缺陷图片大小和所述预设缺陷标定方案对所述初始图像信息进行位置标定和类别划分处理,得到所述初始样本数据集。
4.根据权利要求2所述的方法,其特征在于,所述利用所述第一数据集用于训练所述初始检测模型,生成所述中间检测模型包括:
从所述第一数据集中选取预设个类别数量的第一子数据集和除了所述预设个类别数量之外的第二子数据集,其中,所述第一子数据集和所述第二子数据集均为所述第一数据集的子集;
将所述第一子数据集输入第一模型,得到所述预设个类别的区域特征,其中,所述第一模型用于对所述第一子数据集内属于每个类别下的感兴趣区域的框选;
对所述每个类别下的所述区域特征计算均值,得到所述预设个类别对应的类别模板集;
将所述第二子数据集输入第二模型,得到原始特征图,其中,所述第二模型用于图像特征提取;
利用注意力机制对目标类别模板集执行激活函数的运算,并将运算后的目标类别模板集与所述原始特征图进行元素乘法计算,得到目标类特征图,其中,所述目标类别模板集为所述类别模板集的子集,所述目标类别模板集包含至少一种类别模板,所述目标类特征图为利用所述注意力机制增强所述目标类别模板集内的类别模板的关键区域后,所得到的特征图;
利用区域生成网络、池化层对所述目标类特征图进行特征向量处理,得到目标特征向量;
利用全连接层对所述类别模板集进行处理,得到参考特征向量;
将所述注意力机制与所述参考特征向量相结合,得到结合后的特征向量;
将结合后的特征向量增强所述目标特征向量,得到增强后的目标特征向量;
利用所述全连接层对所述增强后的目标特征向量进行处理,得到所述中间检测模型。
5.根据权利要求4所述的方法,其特征在于,所述利用区域生成网络、池化层对所述目标类特征图进行特征向量处理,得到目标特征向量包括:
利用所述区域生成网络从所述目标类特征图中生成目标区域框;
将所述目标区域框与所述原始特征图结合后利用所述池化层进行池化处理,得到所述目标特征向量。
6.根据权利要求4所述的方法,其特征在于,所述利用所述全连接层对所述增强后的目标特征向量进行处理,得到所述中间检测模型包括:
利用所述全连接层对所述增强后的目标特征向量进行处理,并利用二分类器输出属于所述第一缺陷类别的概率值,利用边界框回归器输出预测所述初始对象中出现缺陷对应的参考位置;
根据所述概率值和所述参考位置调整所述初始模型参数,直到所述概率值大于或者等于预设阈值,且所述参考位置为所述目标位置之后,则停止调整所述初始模型参数,得到所述中间检测模型,其中,所述预设阈值为利用所述中间检测模型对所述初始图像信息进行处理后,能够输出所述标注信息的最小数值。
7.根据权利要求4所述的方法,其特征在于,所述将所述第一子数据集输入第一模型,得到所述预设个类别的区域特征包括:
从所述初始样本数据集中选取出不同缺陷类别对应的目标区域;
将所述目标区域分别设置在多个所述初始对象上,生成多个参考图像信息;
将所述参考图像信息增加到所述第一子数据集中,得到扩充样本数据后的第三子数据集;
将所述第三子数据集输入所述第一模型,得到所述预设个类别的区域特征。
8.根据权利要求2所述的方法,其特征在于,所述利用所述第二数据集对所述中间检测模型进行测试,生成所述目标检测模型包括:
将所述第二数据集输入所述中间检测模型,得到输出结果;
基于所述输出结果调整所述中间检测模型的所述模型参数,得到调整后的目标检测模型。
9.一种基于小样本目标对象缺陷检测的装置,其特征在于,所述装置包括:
第一获取单元,用于获取待检测的目标对象的目标图像信息;
输入单元,用于将所述目标图像信息输入目标检测模型中,得到所述目标对象对应缺陷的检测结果,其中,所述目标检测模型用于对所述目标对象缺陷类别进行检测,所述目标检测模型是通过对中间检测模型的模型参数进行调整后得到的,所述中间检测模型是通过对初始检测模型的初始模型参数进行调整后得到的,所述检测结果内包含所述目标对象所属缺陷类别和所述缺陷相应的位置信息。
10.一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口和所述存储器通过所述通信总线完成相互间的通信,其特征在于,
所述存储器,用于存储计算机程序;
所述处理器,用于通过运行所述存储器上所存储的所述计算机程序来执行权利要求1至8中任一项所述的方法步骤。
11.一种计算机可读的存储介质,其特征在于,所述存储介质中存储有计算机程序,其中,所述计算机程序被处理器执行时实现权利要求1至8中任一项中所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210565548.5A CN114881989A (zh) | 2022-05-23 | 2022-05-23 | 基于小样本目标对象缺陷检测的方法、装置、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210565548.5A CN114881989A (zh) | 2022-05-23 | 2022-05-23 | 基于小样本目标对象缺陷检测的方法、装置、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114881989A true CN114881989A (zh) | 2022-08-09 |
Family
ID=82678022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210565548.5A Pending CN114881989A (zh) | 2022-05-23 | 2022-05-23 | 基于小样本目标对象缺陷检测的方法、装置、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114881989A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115294505A (zh) * | 2022-10-09 | 2022-11-04 | 平安银行股份有限公司 | 风险物体检测及其模型的训练方法、装置及电子设备 |
CN115577814A (zh) * | 2022-12-08 | 2023-01-06 | 珠江水利委员会珠江水利科学研究院 | 一种溶蚀检测及修复方法及系统 |
CN116630264A (zh) * | 2023-05-21 | 2023-08-22 | 阿里巴巴(中国)有限公司 | 密封钉焊接缺陷的检测方法、存储介质以及电子设备 |
CN116681660A (zh) * | 2023-05-18 | 2023-09-01 | 中国长江三峡集团有限公司 | 一种目标对象缺陷检测方法、装置、电子设备及存储介质 |
CN117007611A (zh) * | 2023-09-28 | 2023-11-07 | 杭州百子尖科技股份有限公司 | 片状材料的周期性缺陷检测方法、装置、设备以及介质 |
-
2022
- 2022-05-23 CN CN202210565548.5A patent/CN114881989A/zh active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115294505A (zh) * | 2022-10-09 | 2022-11-04 | 平安银行股份有限公司 | 风险物体检测及其模型的训练方法、装置及电子设备 |
CN115294505B (zh) * | 2022-10-09 | 2023-06-20 | 平安银行股份有限公司 | 风险物体检测及其模型的训练方法、装置及电子设备 |
CN115577814A (zh) * | 2022-12-08 | 2023-01-06 | 珠江水利委员会珠江水利科学研究院 | 一种溶蚀检测及修复方法及系统 |
CN115577814B (zh) * | 2022-12-08 | 2023-05-12 | 珠江水利委员会珠江水利科学研究院 | 一种溶蚀检测及修复方法及系统 |
CN116681660A (zh) * | 2023-05-18 | 2023-09-01 | 中国长江三峡集团有限公司 | 一种目标对象缺陷检测方法、装置、电子设备及存储介质 |
CN116681660B (zh) * | 2023-05-18 | 2024-04-19 | 中国长江三峡集团有限公司 | 一种目标对象缺陷检测方法、装置、电子设备及存储介质 |
CN116630264A (zh) * | 2023-05-21 | 2023-08-22 | 阿里巴巴(中国)有限公司 | 密封钉焊接缺陷的检测方法、存储介质以及电子设备 |
CN117007611A (zh) * | 2023-09-28 | 2023-11-07 | 杭州百子尖科技股份有限公司 | 片状材料的周期性缺陷检测方法、装置、设备以及介质 |
CN117007611B (zh) * | 2023-09-28 | 2024-01-09 | 杭州百子尖科技股份有限公司 | 片状材料的周期性缺陷检测方法、装置、设备以及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114881989A (zh) | 基于小样本目标对象缺陷检测的方法、装置、电子设备 | |
US11348249B2 (en) | Training method for image semantic segmentation model and server | |
CN111507958A (zh) | 目标检测方法、检测模型的训练方法及电子设备 | |
CN111611797B (zh) | 基于Albert模型的预测数据标注的方法、装置及设备 | |
CN111260037B (zh) | 图像数据的卷积运算方法、装置、电子设备及存储介质 | |
CN109829371B (zh) | 一种人脸检测方法及装置 | |
CN110969600A (zh) | 一种产品缺陷检测方法、装置、电子设备及存储介质 | |
CN113159091A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN111815576B (zh) | 金属部件腐蚀状况检测方法、装置、设备和存储介质 | |
CN113268403A (zh) | 时间序列的分析预测方法、装置、设备及存储介质 | |
CN110968664A (zh) | 一种文书检索方法、装置、设备及介质 | |
CN115270705A (zh) | 一种设计规则违例预测方法、装置、设备及存储介质 | |
CN114429640A (zh) | 图纸分割方法、装置及电子设备 | |
CN113963186A (zh) | 目标检测模型的训练方法、目标检测方法及相关装置 | |
CN114693963A (zh) | 基于电力数据特征提取的识别模型训练、识别方法及装置 | |
CN113742069A (zh) | 基于人工智能的容量预测方法、装置及存储介质 | |
CN116563841B (zh) | 配电网设备标识牌的检测方法、检测装置和电子设备 | |
CN116309963B (zh) | 一种图像的批量标注方法、装置、电子设备及存储介质 | |
CN111667450A (zh) | 一种船只数量统计方法、装置及电子设备 | |
TWI755240B (zh) | 影像處理方法、電腦裝置 | |
CN111538914B (zh) | 地址信息的处理方法和装置 | |
CN108184065B (zh) | 预览帧画面生成方法、装置及移动终端 | |
CN112733453A (zh) | 一种基于联合学习的设备预测性维护方法及装置 | |
CN112749978A (zh) | 检测方法、装置、设备、存储介质以及程序产品 | |
CN113326888B (zh) | 标注能力信息确定方法、相关装置及计算机程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |