CN117292214A - 一种缺陷检测模型的迁移方法、装置、设备及存储介质 - Google Patents
一种缺陷检测模型的迁移方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117292214A CN117292214A CN202311175817.8A CN202311175817A CN117292214A CN 117292214 A CN117292214 A CN 117292214A CN 202311175817 A CN202311175817 A CN 202311175817A CN 117292214 A CN117292214 A CN 117292214A
- Authority
- CN
- China
- Prior art keywords
- defect
- type
- new
- feature
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 title claims abstract description 1016
- 238000001514 detection method Methods 0.000 title claims abstract description 321
- 238000000034 method Methods 0.000 title claims abstract description 159
- 238000013508 migration Methods 0.000 title claims abstract description 127
- 230000005012 migration Effects 0.000 title claims abstract description 127
- 238000003860 storage Methods 0.000 title claims abstract description 18
- 238000012549 training Methods 0.000 claims abstract description 250
- 238000000605 extraction Methods 0.000 claims abstract description 203
- 238000012360 testing method Methods 0.000 claims description 36
- 238000002372 labelling Methods 0.000 claims description 12
- 239000000284 extract Substances 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 5
- 230000008569 process Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 12
- 238000004422 calculation algorithm Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 8
- 238000011161 development Methods 0.000 description 8
- 238000012800 visualization Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 230000002950 deficient Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000008186 active pharmaceutical agent Substances 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
本发明公开了一种缺陷检测模型的迁移方法、装置、设备及存储介质。所述方法包括:获取预先训练的缺陷特征提取模型,以及缺陷特征集合;缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;缺陷特征集合中包括,缺陷特征提取模型提取出的已知缺陷特征;将具有新缺陷的新缺陷产品图像输入缺陷特征提取模型,得到新缺陷特征;在缺陷特征集合中,针对与新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;针对所确定的备选缺陷对应的缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种缺陷检测模型的迁移方法、装置、设备及存储介质。
背景技术
目前图像处理的技术较为成熟,存在许多用于检测图像是否符合某一类型的检测模型。例如,可以通过拍摄产品图像,通过图像识别技术进行产品缺陷的检测,具体可以针对不同缺陷,设置不同的缺陷检测模型进行检测,检测图像中产品是否具有某一缺陷,方便后续进行回收和检修;也可以通过拍摄产品图像,通过图像识别技术进行产品类型的检测,具体可以针对不同产品类型,设置不同的产品类型检测模型进行检测,检测图像中的产品是否属于某一产品类型,方便后续进行分拣。
而随着需求的增多,所需要检测的类型也在不断增多。
例如,在产品的生产或运输过程中,产品的缺陷类型往往难以穷尽,随时可能发现或产生新的产品缺陷,进而需要训练针对新产品缺陷进行检测的模型。
现有的方式中往往是重新收集新类型的图像样本进行训练,但是样本收集的难度较大,所消耗的时间也较长,针对新类型进行检测的模型的生成效率也较低。例如,针对新缺陷进行检测的模型生成效率较低。
发明内容
本发明提供一种缺陷检测模型的迁移方法、装置、设备及存储介质,以解决相关技术中的不足。
根据本发明实施例的第一方面,提供一种缺陷检测模型的迁移方法,预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;所述缺陷检测模型用于检测输入的产品图像是否具有对应的已知缺陷;
所述方法包括:
获取预先训练的缺陷特征提取模型,以及缺陷特征集合;
所述缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;所述缺陷特征集合中包括,所述缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征;
将具有新缺陷的新缺陷产品图像输入所述缺陷特征提取模型,得到新缺陷特征;
在所述缺陷特征集合中,针对与所述新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;
针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
可选地,所述缺陷特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;
利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
可选地,所述训练步骤还包括:
获取具有已知缺陷的产品图像;
基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;
针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;
基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
可选地,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知缺陷特征,确定一个已知缺陷特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新所述边缘策略特征集:
针对所述边缘策略特征集中对应目标标注的目标缺陷特征,在所述全量特征集内对应所述目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于所述边缘特征更新所述目标缺陷特征;
基于以下步骤更新所述平均策略特征集:
针对所述平均策略特征集中对应目标标注的目标缺陷特征,针对所述全量特征集内对应所述目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新所述目标缺陷特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和所述全量特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,所述针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,包括:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用测试集分别确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练。
可选地,所述针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,包括:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到多个备选新缺陷检测模型;
针对各个备选新缺陷检测模型,分别利用测试集确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
将检测准确率满足预设准确率条件的备选新缺陷检测模型,确定为新缺陷检测模型。
根据本发明实施例的第二方面,提供一种缺陷检测模型的迁移方法,包括:
针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷;
获取用于检测输入产品图像是否具有所述备选缺陷的备选缺陷检测模型;
针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
根据本发明实施例的第三方面,提供一种类型检测模型的迁移方法,预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;所述类型检测模型用于检测输入图像是否符合对应的已知类型;
所述方法包括:
获取预先训练的类型特征提取模型,以及类型特征集合;
所述类型特征提取模型用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征;所述类型特征集合中包括,所述类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征;
将符合新类型的图像输入所述类型特征提取模型,得到新类型特征;
在所述类型特征集合中,针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型;
针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
根据本发明实施例的第四方面,提供一种类型检测模型的迁移方法,包括:
针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
根据本发明实施例的第五方面,提供一种缺陷检测模型的迁移装置,预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;所述缺陷检测模型用于检测输入的产品图像是否具有对应的已知缺陷;所述装置包括:
获取单元,用于获取预先训练的缺陷特征提取模型,以及缺陷特征集合;
所述缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;所述缺陷特征集合中包括,所述缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征;
相似单元,用于将具有新缺陷的新缺陷产品图像输入所述缺陷特征提取模型,得到新缺陷特征;在所述缺陷特征集合中,针对与所述新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;
迁移单元,用于针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
可选地,所述缺陷特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;
利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
可选地,所述训练步骤还包括:
获取具有已知缺陷的产品图像;
基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;
针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;
基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
可选地,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知缺陷特征,确定一个已知缺陷特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新所述边缘策略特征集:
针对所述边缘策略特征集中对应目标标注的目标缺陷特征,在所述全量特征集内对应所述目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于所述边缘特征更新所述目标缺陷特征;
基于以下步骤更新所述平均策略特征集:
针对所述平均策略特征集中对应目标标注的目标缺陷特征,针对所述全量特征集内对应所述目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新所述目标缺陷特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和所述全量特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,迁移单元用于:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用测试集分别确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练。
可选地,迁移单元用于:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到多个备选新缺陷检测模型;
针对各个备选新缺陷检测模型,分别利用测试集确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
将检测准确率满足预设准确率条件的备选新缺陷检测模型,确定为新缺陷检测模型。
根据本发明实施例的第六方面,提供一种缺陷检测模型的迁移装置,包括:
特征提取单元,用于针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷;
模型获取单元,用于获取用于检测输入产品图像是否具有所述备选缺陷的备选缺陷检测模型;
迁移训练单元,用于针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
根据本发明实施例的第七方面,提供一种类型检测模型的迁移装置,预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;所述类型检测模型用于检测输入图像是否符合对应的已知类型;
所述装置包括:
类型获取单元,用于获取预先训练的类型特征提取模型,以及类型特征集合;
所述类型特征提取模型用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征;所述类型特征集合中包括,所述类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征;
新类型单元,用于将符合新类型的图像输入所述类型特征提取模型,得到新类型特征;在所述类型特征集合中,针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型;
训练单元,用于针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
根据本发明实施例的第八方面,提供一种类型检测模型的迁移装置,包括:
备选类型单元,用于针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
备选模型单元,用于获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
结果单元,用于针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
根据上述实施例可知,通过确定与新类型相似的已知类型,并基于检测所确定已知类型的类型检测模型,进行迁移训练得到用于检测新类型的新类型检测模型,可以提高检测新类型的新类型检测模型的生成效率。其中,在图像类型具体是缺陷的情况下,可以提高检测新缺陷的新缺陷检测模型的生成效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据本发明实施例示出的一种缺陷检测模型的迁移方法的流程示意图;
图2是根据本发明实施例示出的一种缺陷检测模型迁移的原理示意图;
图3是根据本发明实施例示出的另一种缺陷检测模型的迁移方法的流程示意图;
图4是根据本发明实施例示出的一种类型检测模型的迁移方法的流程示意图;
图5是根据本发明实施例示出的另一种类型检测模型的迁移方法的流程示意图;
图6是根据本发明实施例示出的一种缺陷检测模型的迁移装置的结构示意图;
图7是根据本发明实施例示出的另一种缺陷检测模型的迁移装置的结构示意图;
图8是根据本发明实施例示出的一种类型检测模型的迁移装置的结构示意图;
图9是根据本发明实施例示出的另一种类型检测模型的迁移装置的结构示意图;
图10是根据本发明实施例示出的一种配置本发明实施例方法的计算机设备硬件结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
需要说明的是,本发明实施例所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。
目前图像处理的技术较为成熟,存在许多用于检测图像是否符合某一类型的检测模型。
例如,可以通过拍摄产品图像,通过图像识别技术进行产品缺陷的检测,具体可以针对不同缺陷,设置不同的缺陷检测模型进行检测,检测图像中产品是否具有某一缺陷,方便后续进行回收和检修。
也可以通过拍摄产品图像,通过图像识别技术进行产品类型的检测,具体可以针对不同产品类型,设置不同的产品类型检测模型进行检测,检测图像中的产品是否属于某一产品类型,方便后续进行分拣。
而随着需求的增多,所需要检测的类型也在不断增多。
例如,在产品的生产或运输过程中,产品的缺陷类型往往难以穷尽,随时可能发现或产生新的产品缺陷,进而需要训练针对新产品缺陷进行检测的模型。
现有的方式中往往是重新收集新类型的图像样本进行训练,但是样本收集的难度较大,所消耗的时间也较长,针对新类型进行检测的模型的生成效率也较低。
以缺陷检测场景为例,现有的方式中往往是重新收集新产品缺陷的样本进行训练,但是样本收集的难度较大,所消耗的时间也较长,针对新产品缺陷进行检测的模型的生成效率也较低。
下面首先以缺陷检测场景为例进行解释说明。
其中,图像中的产品缺陷,可以是图像类型的一种示例。例如,图像中的产品存在破损缺陷,存在“破损”的产品缺陷可以是一种图像类型,即,图像中产品存在破损缺陷。
本发明实施例公开了一种缺陷检测模型的迁移方法。通过模型迁移学习的方式,利用已有的缺陷检测模型,选择与新缺陷相似的已有缺陷,进一步选择用于检测所选择已有缺陷的缺陷检测模型,进行迁移,从而可以利用较少数量的新缺陷样本进行迁移学习,快速获得一个用于检测新缺陷的缺陷检测模型,提高针对新产品确定进行检测的模型生成效率。
而其中,对于产品缺陷往往难以确定相似度。
因此,在本方法中,可以预先训练一个用于衡量产品缺陷相似度的模型,具体可以通过该模型,将产品缺陷图像映射到一个特征空间中,相似缺陷所对应映射的特征,在该特征空间中距离较近,从而方便后续确定与新缺陷相似的已有缺陷。
下面针对本发明实施例提供的一种缺陷检测模型的迁移方法进行详细解释。
如图1所示,图1是根据本发明实施例示出的一种缺陷检测模型的迁移方法的流程示意图。
可选地,这里的缺陷可以是图像中产品的缺陷。例如,在组装屏幕时,可能出现屏幕破损的缺陷;在安装壳体时,可能出现壳体破损的缺陷等等。
本发明实施例并不限定本方法流程的执行主体。可选地,执行主体可以是任一计算设备。例如,用于检测产品缺陷的服务端或客户端。
可以预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;缺陷检测模型可以用于检测输入的产品图像是否具有对应的已知缺陷。
可选地,不同已知缺陷可以一一对应于不同缺陷检测模型,每个已知缺陷可以对应于一个缺陷检测模型,每个缺陷检测模型可以对应于一个已知缺陷。
该方法可以包括以下步骤。
S101:获取预先训练的缺陷特征提取模型,以及缺陷特征集合。
其中,缺陷特征提取模型可以用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征。
缺陷特征集合中可以包括,缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征。
S102:将具有新缺陷的新缺陷产品图像输入缺陷特征提取模型,得到新缺陷特征。
S103:在缺陷特征集合中,针对与新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷。
S104:针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
上述方法流程,将图像类型限定为产品图像中的缺陷,通过确定与新类型相似的已知类型,并基于检测所确定已知类型的类型检测模型,进行迁移训练得到用于检测新类型的新类型检测模型,可以提高检测新类型的新类型检测模型的生成效率。
其中,在图像类型具体是缺陷的情况下,可以提高检测新缺陷的新缺陷检测模型的生成效率。
具体可以通过基于缺陷特征之间的相似度,确定与新缺陷相似的已知缺陷,并基于检测所确定已知缺陷的缺陷检测模型,进行迁移训练,可以提高检测新缺陷的新缺陷检测模型的生成效率。
下面针对各个方面进行详细的解释。
一、关于缺陷特征提取模型的结构和作用。
1、模型结构。
本方法流程并不限定缺陷特征提取模型的结构。
可选地,缺陷特征提取模型可以是图卷积网络、图神经网络等等提取图像特征的模型。
可选地,缺陷特征提取模型可以是残差神经网络ResNet。
2、模型作用。
缺陷特征提取模型,可以用于针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征。
可选地,缺陷特征提取模型可以用于将输入的产品图像映射到一个特征空间中,也就是提取出产品图像中的缺陷特征。
其中,具有相似已知缺陷的不同产品图像,经过缺陷特征提取模型的映射,可以得到距离接近的不同缺陷特征,从而方便根据缺陷特征提取模型映射出的缺陷特征之间的距离,确定缺陷之间是否相似。
可选地,基于缺陷特征提取模型所映射出的缺陷特征之间的距离,可以用于确定缺陷之间的相似度,用于后续的业务分析。
关于相似缺陷,本方法流程并不限定具体的确定方式。
可选地,可以预先设定相似缺陷。具体可以是预先设定对应的缺陷产品图像相似的不同缺陷,是相似缺陷。
例如,针对“屏幕污损缺陷”的产品图像,以及“屏幕损坏缺陷”的产品图像,在图像上往往存在相似之处,从而可以设定为相似缺陷,这两类缺陷产品图像可以作为具有相似缺陷的图像,由缺陷特征提取模型提取出相接近的缺陷特征。
可选地,也可以通过模型训练的过程中,发现相似缺陷。具体可以是在迭代训练缺陷特征提取模型的过程中,将距离接近的不同缺陷特征对应的不同缺陷,确定为相似缺陷,从而可以基于数据分析发现相似缺陷。
二、关于缺陷特征提取模型的训练方法。
本方法流程并不限定缺陷特征提取模型的训练方法。
可选地,可以采用有监督训练、无监督训练、或者交叉使用有监督训练和无监督训练等方式。
可选地,可以直接针对缺陷特征提取模型进行训练,也可以针对缺陷特征提取模型增加一个输出层,使得输出层可以针对缺陷特征提取模型所提取的缺陷特征进行预测,进而可以综合缺陷特征提取模型和输出层进行训练。
例如,可以针对缺陷特征提取模型增加一个缺陷分类输出层,使得缺陷分类输出层可以针对缺陷特征提取模型所提取的缺陷特征,预测对应的缺陷,进而可以综合缺陷特征提取模型和缺陷分类输出层进行训练。具体可以是有监督训练。
本方法流程并不限定训练缺陷特征提取模型的训练样本集来源。
可选地,可以是获取工厂生产过程中的产品图像,也可以是获取具有缺陷的产品图像。
其中,缺陷的产生可以与产品生产过程中的工艺段存在关联。例如,在组装屏幕时,可能出现屏幕破损的缺陷;在安装壳体时,可能出现壳体破损的缺陷等等。
为了便于理解,本方法流程给出了一种具体的示例。可以基于AI平台收集缺陷产品的样例图片。
其中,产品生产线的自动光学检测AOI(Automatic Optic Inspection)设备可以和平台进行交互,达成自动化的缺陷数据检测和回流机制。AOI设备是电子制造业确保产品质量的重要检测工具和过程质量控制工具,当自动检测时,AOI检测设备机器通过高清摄像头自动扫描面板制品或其他工业产品并采集图像,并进行后续环节进行缺陷检测和定位。
针对生产线设备的实时上传,AI平台根据产品的相应ID、工艺段和缺陷类型(什么缺陷)等参数进行初始分类存储。
在一种可选的实施例中,缺陷特征提取模型的一轮训练迭代中,可以执行有监督训练,也可以执行无监督训练,也可以先后执行有监督训练和无监督训练。
下面分别针对有监督训练和无监督训练进行解释。
1、有监督训练。
本方法流程并不限定具体的有监督训练方式。
可选地,可以获取标注有相似缺陷的多个缺陷产品图像,作为有监督的训练样本进行训练。
可选地,可以获取以不同缺陷产品图像为特征,以相似缺陷为标签的训练样本,针对缺陷特征提取模型进行有监督训练。
可选地,也可以获取标注有不相似缺陷的不同缺陷产品图像,作为有监督的训练样本进行训练。具体可以是使得基于不相似缺陷的缺陷产品图像所提取的缺陷特征,通过训练更新以降低相似度或者提高差异度。
可选地,也可以综合上述两类训练样本进行训练。
本方法流程并不限定有监督训练的损失计算方式。
可选地,有监督训练的损失可以用于表征具有相似缺陷的不同产品图像之间,所提取的缺陷特征相似度,从而可以为了增大相似缺陷的缺陷特征相似度而更新模型。
可选地,有监督训练的损失可以用于表征具有不相似缺陷的不同产品图像之间,所提取的缺陷特征差异度,从而可以为了增大相似缺陷的缺陷特征差异度而更新模型。
可选地,也可以综合上述两类损失进行更新。
在一种可选的实施例中,可以结合预先设定的相似缺陷标签,进行有监督训练。
可选地,缺陷特征提取模型的训练方法,可以包括:循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相似已知缺陷的不同产品图像;利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
其中,可选地,不同组产品图像之间,可以不具有相似缺陷,从而可以方便提高不同组的产品图像之间提取的已知缺陷特征差异度。
可选地,如果只提高组内产品图像之间提取的已知缺陷特征相似度,那么不同组产品图像之间,也可以具有相似缺陷。
本实施例可以结合有标签样本,对缺陷特征提取模型进行训练,提高模型的训练效果和相似缺陷识别准确率。
本实施例并不限定已知缺陷特征相似度和已知缺陷特征差异度的具体形式。
可选地,已知缺陷特征相似度和已知缺陷特征差异度,可以采用特征空间中的特征距离进行衡量。具体可以是减小组内产品图像之间提取的已知缺陷特征在特征空间中的距离,和/或增大不同组的产品图像之间提取的已知缺陷特征在特征空间中的距离。
可选地,可以将具有相同已知缺陷的不同产品图像,也看做是具有相似已知缺陷的产品图像,从而方便提取出更准确的缺陷特征。
可选地,缺陷特征提取模型的训练方法,可以包括:循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
本实施例并不限定预设训练停止条件。可选地,预设训练停止条件可以是以下至少一项:训练循环次数达到预设次数、组内已知缺陷相似度大于预设相似度阈值、以及组间已知缺陷差异度大于预设差异度阈值等等。
相同已知缺陷可以属于相似缺陷,因此,可以作为有标签样本进行有监督训练。
本实施例可以采用相同已知缺陷的产品图像作为有标签样本进行训练,提高训练效率,降低样本收集难度。
其中,不同组的产品图像之间可以具有不同的已知缺陷。
本实施例并不限定已知缺陷特征相似度和已知缺陷特征差异度的具体形式。
可选地,已知缺陷特征相似度和已知缺陷特征差异度,可以采用特征空间中的特征距离进行衡量。具体可以是减小组内产品图像之间提取的已知缺陷特征在特征空间中的距离,和/或增大不同组的产品图像之间提取的已知缺陷特征在特征空间中的距离。
本方法流程并不限定有监督训练的损失计算方式。
可选地,针对采用多组具有相同已知缺陷的不同产品图像,作为训练样本进行有监督训练的情况,可以在缺陷特征提取模型的基础上,增加一个分类输出层,预测缺陷类型。
进一步地,损失可以表征针对任一组内的产品图像是否预测出同一正确的缺陷。
本实施例可以结合相同已知缺陷的产品图像,利用额外增加的分类输出层预测缺陷类型,从而可以训练缺陷特征提取模型。
为了便于理解,本发明实施例还提供了具体的示例。
在一种示例中,可以采用类内距离优化来对缺陷特征提取模型(Resnet50的结构)进行优化,也就是使用训练数据集,采用类内距离优化和正样本分类进行训练。
针对类内距离优化,可以采用自定义的距离函数,分别针对各组具有相同已知缺陷的不同产品图像,计算所提取的缺陷特征之间的距离。
基于上述距离函数,可以使得具有相同已知缺陷的组内缺陷特征之间的距离尽量靠近。
针对正样本分类,可以是新增用于预测缺陷类型的分类输出层,使得具有相同已知缺陷的组内产品图像样本的缺陷分类相同。输出的缺陷预测正确且相同的概率越大,则损失越小。
2、无监督训练。
本方法流程并不限定具体的无监督训练方式。
可选地,可以针对初次提取的缺陷特征进行聚类,将聚类结果中每一类的缺陷特征对应的缺陷确定为相似缺陷进行标注,得到标注有伪标签的产品图像样本。
可选地,可以根据伪标签进行训练。具体可以是参考有监督训练的方式。
可选地,也可以结合抽样的方式进行训练,具体解释可以参见下文。
在一种可选的实施例中,可以针对缺陷特征提取模型进行无监督训练。
可选地,缺陷特征提取模型的训练方法,包括:循环执行以下训练步骤,直到满足预设训练停止条件:
获取具有已知缺陷的产品图像;基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
其中,所标注的相似缺陷特征组,可以看作是伪标签。
本实施例并不限定聚类算法。可选地,可以采用基于密度的聚类算法(Density-Based Spatial Clustering of Applications with Noise,DBSCAN)、均值漂移聚类或者kmeans进行聚类。
本实施例并不限定基于标注后的产品图像训练当前的缺陷特征提取模型的具体方式。可选地,可以是基于有监督的方式进行训练。
可选地,可以针对各个标注组,分别采样出部分特殊的已知缺陷特征,之后可以通过比较相似缺陷特征组,以及采样结果之间的相似度,确定损失。
为了方便理解,在一种具体的示例中,可以是针对各个标注组内的已知缺陷特征,将距离不断缩短,提高相似度。因此,可以通过采样出各个标注组内最偏离中心的已知缺陷特征、或者各个标注组内特征的平均值、或者各个标注组内特征的加权平均值等,从而可以通过损失进行更新,使得相似缺陷特征组内,特征间的距离不断缩短。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,可以包括:循环执行以下步骤,直到满足第一训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到第一特征集;基于预设策略,分别基于对应各个标注的已知缺陷特征,确定一个已知缺陷特征,得到第二特征集;基于所得到的第一特征集和第二特征集计算损失,并更新当前的缺陷特征提取模型。
其中,本实施例并不限定第一训练停止条件。可选地,第一训练停止条件可以是以下至少一项:训练循环次数达到预设次数、和损失小于预设损失阈值等等。
本实施例并不限定预设策略。
可选地,可以是分别基于对应各个标注的已知缺陷特征,确定已知缺陷特征平均值,组合为第二特征集。也就是分别针对各个标注,将各个标注下的已知缺陷特征平均值组合为第二特征集。
可选地,可以是分别基于对应各个标注的已知缺陷特征,确定距离聚类中心最远的已知缺陷特征,组合为第二特征集。也就是分别针对各个标注,将各个标注下距离聚类中心最远的已知缺陷特征,组合为第二特征集。当然,也可以是确定与聚类中心相似度最低的已知缺陷特征,组合为第二特征集。
其中,不同循环的操作中,可以组合得到不同的第二特征集,也可以得到不同的第一特征集。
可选地,也可以是分别基于对应各个标注的已知缺陷特征,随机选择一个或多个已知缺陷特征,组合为第二特征集。
可选地,由于上述步骤是循环执行的,可以分别基于对应各个标注的已知缺陷特征,确定距离预设特征最远的已知缺陷特征;预设特征可以是在上一个循环组合得到的第二特征集中,对应相同标注的特征。
本实施例并不限定第一特征集和第二特征集之间损失的计算方式。
可选地,第一特征集和第二特征集之间的损失,可以用于表征第一特征集和第二特征集之间的相似度。
可以理解的是,在一种示例中,在抽取出距离聚类中心最远的已知缺陷特征组合成第二特征集的情况下,如果第二特征集与第一特征集依然相似度较高,也就意味着相同标注下的已知缺陷特征相似度较高,从而可以得到将具有相似已知缺陷的不同产品图像,映射为相似缺陷特征的缺陷特征提取模型。
可选地,第一特征集和第二特征集之间的损失,具体可以采用交叉熵或者对比学习损失(info Noise Contrastive Estimation,infoNCE)的计算方式进行计算。
为了便于理解,下面给出了一种可选的实施例。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,可以包括以下步骤:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新边缘策略特征集:
针对边缘策略特征集中对应目标标注的目标缺陷特征,在全量特征集内对应目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于边缘特征更新目标缺陷特征;
基于以下步骤更新平均策略特征集:
针对平均策略特征集中对应目标标注的目标缺陷特征,针对全量特征集内对应目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新目标缺陷特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的缺陷特征提取模型。
本实施例并不限定得到全量特征集的过程中,所针对标注后的产品图像的数量。可选地,可以是获取多个标注后的产品图像,为了方便后续操作,可以获取多个标注有不同伪标签的产品图像。
可选地,可以针对各个标注的伪标签,分别获取相同数量的产品图像,用于提取已知缺陷特征组合得到全量特征集。
不同次循环中,所得到的全量特征集可以并不相同。
本实施例并不限定第二训练停止条件。可选地,第二训练停止条件可以是以下至少一项:训练循环次数达到预设次数、以及损失小于预设损失阈值。
本实施例通过设置初始特征集、边缘策略特征集和平均策略特征集,可以实现对缺陷特征提取模型的无监督训练,针对单个标注下的相似缺陷特征组,可以进一步聚合组内的已知缺陷特征,提高组内已知缺陷特征的相似度。
本实施例中目标标注可以是任一标注,具体可以是针对各个标注更新边缘策略特征集和平均策略特征集。
本实施例并不限定基于边缘特征更新目标缺陷特征的方式。可选地,可以采用加权的方式,将边缘特征与目标缺陷特征的加权和,确定为新的目标缺陷特征。可选地,也可以采用替换的方式,将边缘特征确定为新的目标缺陷特征。
可选地,加权和中的权重取值,可以是超参数,也可以是随着训练过程进行更新的模型参数。
同理,本实施例并不限定根据计算的均值更新目标缺陷特征的方式。具体解释可以参见上文。
本实施例并不限定更新当前初始特征集的方式。可选地,可以是针对各个标注,计算更新后的边缘策略特征集中对应的特征、更新后的平均策略特征集中对应的特征、以及当前初始特征集中对应的特征之间的加权和。将加权和确定为初始特征集中新的对应特征。
可选地,也可以是针对各个标注,计算更新后的边缘策略特征集中对应的特征、以及更新后的平均策略特征集中对应的特征之间的加权和。将加权和确定为初始特征集中新的对应特征。
可选地,加权和中的权重取值,可以是超参数,也可以是随着训练过程进行更新的模型参数。
本实施例并不限定当前的初始特征集和全量特征集之间损失的计算方式。
可选地,更新后的初始特征集和全量特征集之间的损失,可以用于表征更新后的初始特征集和全量特征集之间的相似度。
可选地,更新后的初始特征集和全量特征集之间的损失,具体可以采用交叉熵或者对比学习损失的计算方式进行计算。
当然,可以理解的是,可以设置一个或多个策略特征集,采用不同策略采样已知缺陷特征。
1)只进行边缘策略更新。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,可以包括以下步骤:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集;
循环执行以下步骤,直到满足第三训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新边缘策略特征集:
针对边缘策略特征集中对应目标标注的目标缺陷特征,在全量特征集内对应目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于边缘特征更新目标缺陷特征;
基于更新后的边缘策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的缺陷特征提取模型。
2)只进行平均策略更新。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,可以包括以下步骤:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到平均策略特征集;
循环执行以下步骤,直到满足第四训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新平均策略特征集:
针对平均策略特征集中对应目标标注的目标缺陷特征,针对全量特征集内对应目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新目标缺陷特征;
基于更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的缺陷特征提取模型。
3)还可以设置其他策略。例如,加权策略。具体可以是额外设置一个加权策略特征集进行更新。
为了便于理解,本发明实施例还提供了一种具体的无监督训练方法。
针对全样本无监督学习,本实施例首先采用聚类算法进行伪标签标注。
对于聚类算法,本方法采用DBSCAN来进行无监督聚类,使得相似的已知缺陷特征去聚集到一起。
DBSCAN(Density-Based Spatial Clustering of Applications with Noise)是一种基于密度的聚类算法,它可以在没有先验信息的情况下,自动地将数据点划分成不同的簇,同时能够识别和过滤掉噪声点。其核心思想是以每个数据点为中心,通过计算其周围的密度来确定簇的边界。
具体地,DBSCAN算法将数据点分为核心点、边界点和噪声点三类,其中核心点是周围密度达到一定阈值的数据点,边界点是不满足核心点条件但周围至少有一个核心点的数据点,噪声点是既不是核心点也不是边界点的数据点。
DBSCAN算法的主要参数是半径r和最小密度k,它们分别控制簇的大小和密度。DBSCAN算法的时间复杂度为O(n log n),其中n为数据点的数量。
DBSCAN聚类算法的核心公式是密度直达(density-reachable)和密度可达(density-connected)的定义:
密度直达:如果数据点q在数据点p的ε-邻域内,并且数据点p是核心点,则数据点q和数据点p是密度直达的。
密度可达:如果存在一个数据点链{p1,p2,…,pn},对于任意的1≤i≤n,数据点pi和数据点pi+1是密度直达的,则数据点p1和数据点pn是密度可达的。
DBSCAN算法中另一个重要的参数是最小密度k,表示在半径r内的最小数据点数量。如果一个数据点的ε-邻域内的数据点数量小于k,则该点被视为噪声点。
DBSCAN算法的簇扩展过程可以用以下过程描述:
1)随机选择一个未被访问过的数据点p;
2)标记p为已访问;
3)如果p是核心点,则找出其ε-邻域内的所有数据点,并将它们标记为已访问,加入当前簇中;
4)重复步骤1-3,直到所有数据点被访问过为止。
在使用DBSCAN得到初始聚类分类之后,本实施例可以按照伪标签初始聚类的分类特征信息进行随机抽样,并将抽样后的存储到对应的概念性的Memory特征库中,形成初始化的Memory特征库用于当前训练轮次后续的模型训练。
在得到初始化的Memory特征库之后,本实施例设计了相应的流程更新和迭代模型及Memory特征库。
首先在当前训练轮次,每个批次的训练都需要抽取query图像进行缺陷特征提取模型的训练,每个批次的query数据集中包含根据初始化训练聚类得到的伪标签缺陷的P*K张图像,其中P代表含有P种伪标签类别,K代表每个类别具备。针对每个query数据集,可以采用NCE Loss进行相关的约束。
经过提取特征的部分可以使用Batch Hard策略和Average策略进行Memory特征库更新,形成对应特征群。
为了方便描述,将初始化的Memory特征库称为初始特征库,将使用Batch Hard策略的特征库称为困难特征库,将使用Average策略的特征库称为平均特征库。
其中,可以通过随机抽样,将各个伪标签类别下随机抽取的一个已知缺陷特征,添加到初始特征库、困难特征库和平均特征库中。
之后,可以通过更新步骤,分别更新上述3个特征库。
首先可以针对query数据集中的产品图像,基于当前的缺陷特征提取模型提取缺陷特征,组合成全量特征集。
困难特征库中的特征,可以是根据以下步骤进行更新。
针对任一伪标签,获取当前困难特征库中对应的第一特征;再获取全量特征集中对应的特征,确定出其中与第一特征相似度最低的困难特征;具体可以采用KL散度或者欧氏距离等进行计算。
之后可以将第一特征和困难特征的加权和,确定为新的第一特征,实现对困难特征库的特征更新。
具体的加权权重,可以是动量更新因子,具体可以是超参数或者可更新的模型参数。
平均特征库中的特征,可以是根据以下步骤进行更新。
针对任一伪标签,获取当前平均特征库中对应的第二特征;再获取全量特征集中对应的特征,确定出特征间的平均值。
之后可以将第二特征和特征平均值之间的加权和,确定为新的第二特征,实现对平均特征库的特征更新。
具体的加权权重,可以是动量更新因子,具体可以是超参数或者可更新的模型参数。
在更新完困难特征库和平均特征库之后,可以将这两个特征库合并起来,具体可以是分别计算各个伪标签对应特征的加权和,更新到当前的初始特征库中。
之后可以采用当前的初始特征库,与全量特征集通过InfoNCE损失进行比较。基于InfoNCE损失进行更新,可以使当前初始特征库中的特征,尽可能与全量特征集中同一伪标签的特征相似,与不同伪标签的特征不相似。
3、一轮训练迭代的步骤。
本方法流程并不限定一轮训练迭代中执行的步骤。
可选地,一轮训练迭代中可以包括有监督训练和/或无监督训练,也可以包括其他训练方式。
可选地,不同轮训练迭代中可以执行相同或不同的步骤。
可选地,一轮训练迭代中可以先执行有监督训练,再执行无监督训练;也可以先执行无监督训练,再执行有监督训练。
为了便于理解,本方法流程给出了一种可选的实施例。
可选地,缺陷特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;
利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
可选地,训练步骤还可以包括:
获取具有已知缺陷的产品图像;
基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;
针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;
基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
在本实施例中,可以先通过有监督训练进行约束,从而方便提高无监督训练的效率,提高缺陷特征提取模型的训练效果。
本实施例的具体解释可以参见上文。
4、训练结束。
在一种可选的实施例中,训练完成的缺陷特征提取模型,可以用于针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征。
其中,本实施例并不限定第一预设相似度的具体形式和数值。
可选地,训练完成的缺陷特征提取模型,可以用于将具有相似已知缺陷的不同产品图像,提取出相似的不同已知缺陷特征,从而方便根据缺陷特征提取模型的特征提取,根据相似的不同已知缺陷特征,确定相似的不同已知缺陷。
其中,相似度大于第一预设相似度的不同已知缺陷特征,可以是相似的已知缺陷特征。
本方法流程并不限定缺陷特征提取模型的训练结束条件。
可选地,缺陷特征提取模型的训练结束条件,可以包括:针对训练样本集中任意具有相似已知缺陷的不同产品图像,提取出的不同已知缺陷特征之间,相似度大于第一预设相似度。
三、关于缺陷检测模型。
本方法流程并不限定缺陷检测模型的结构和训练方法。
可选地,针对已知缺陷检测的缺陷检测模型,可以是图卷积或者图神经结构。
可选地,缺陷检测模型可以是通过有监督训练的方式训练得到的。
其中,不同缺陷检测模型可以用于检测不同缺陷。
本方法流程中,可以预先设置有至少两种已知缺陷,以及与不同已知缺陷对应的不同缺陷检测模型;缺陷检测模型可以用于检测输入的产品图像是否具有对应的已知缺陷。
之后可以通过有监督训练,或者迁移训练,不断更新已知缺陷,以及对应的缺陷检测模型。
四、关于迁移训练。
本方法流程并不限定预设相似度条件的具体形式和内容。
可选地,预设相似度条件可以是相似度大于第一预设相似度;也可以是相似度大于第二预设相似度,其中第二预设相似度大于第一预设相似度;也可以是相似度最高;也可以是按照相似度从高到低排序后,前N个已知缺陷特征。
可选地,缺陷特征集合中可以包括缺陷特征提取模型针对具有已知缺陷的一个或多个已知缺陷产品图像,提取出的已知缺陷特征,方便后续进行相似度计算,确定备选缺陷。
本方法流程也不限定具体选择备选缺陷检测模型的方式。其中,为了方便描述,可以将备选缺陷一一对应的缺陷检测模型,称为备选缺陷检测模型。
需要说明的是,在确定出一个备选缺陷的情况下,可以不进行筛选,直接针对该备选确定对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到新缺陷检测模型。
为了方便理解,本发明实施例提供了两种可选的实施例,用于进行示例性说明。
1、可选地,针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,可以包括以下步骤:
针对所确定的多个备选缺陷一一对应的多个缺陷检测模型,利用测试集分别确定针对新缺陷的检测准确率;测试集中可以包含具有新缺陷的新缺陷产品图像;
选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练。
其中,本实施例并不限定预设检测条件的具体形式和内容。可选地,预设检测条件可以是检测准确率最高、检测准确率大于预设准确率、检测准确率在前N名等。
所确定的备选缺陷可以是多个,因此,可以得到所确定的多个备选缺陷分别一一对应的多个缺陷检测模型。
本实施例可以基于测试集的测试检测,针对相似缺陷进一步筛选出合适的缺陷检测模型进行迁移训练,提高迁移训练的效率和效果。
2、可选地,针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,可以包括以下步骤:
针对所确定的多个备选缺陷一一对应的多个缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到多个备选新缺陷检测模型;
针对各个备选新缺陷检测模型,分别利用测试集确定针对新缺陷的检测准确率;测试集中可以包含具有新缺陷的新缺陷产品图像;
将检测准确率满足预设准确率条件的备选新缺陷检测模型,确定为新缺陷检测模型。
其中,本实施例并不限定预设准确率条件的具体形式和内容。可选地,预设准确率条件可以是检测准确率最高、检测准确率大于预设准确率、检测准确率在前N名等。
本实施例可以基于测试集的测试检测,针对备选缺陷检测模型进行迁移后,再通过测试集计算检测准确率,筛选出合适的备选缺陷检测模型作为新缺陷检测模型,可以提高迁移训练的效果。
本方法流程并不限定具体迁移训练的方式。
可选地,可以是基于具有新缺陷的产品图像样本,进行微调训练或者有监督训练。具体可以调整更新待迁移模型中的部分参数。
可选地,也可以使用较小的学习率对待迁移模型进行参数调整,有助于保持待迁移模型原本的知识。
为了方便理解,本发明实施例还提供了一种具体的示例。
如图2所示,图2是根据本发明实施例示出的一种缺陷检测模型迁移的原理示意图。
其中,可以针对所确定的多个备选缺陷一一对应的多个缺陷检测模型,组合为备用模型厍。
之后可以采集新缺陷图像数据集,组合为测试集。
再利用测试集分别确定备用模型库中的缺陷检测模型,针对新缺陷的检测准确率,具体可以组合为模型-准确率表格;测试集中可以包含具有新缺陷的新缺陷产品图像。
之后可以选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,方便后续平台快速部署。
为了便于理解,本发明实施例还提供了一种应用实施例。
在屏幕生产或其他工业场景下,随着生产流程的推进,工艺缺陷会出现在生产流程的各个环节。随着定制化缺陷检测技术深度学习模型开发的积累,缺陷检测模型逐步增多,新缺陷出现或其他产线出现类似缺陷时,难以实现快速的缺陷检测模型开发。并且由于产线缺陷缺乏对比分析数据,因此难以形成大量标注文件。
为此,本实施例设计了一个针对屏幕或其他工业场景的缺陷无监督相似度分析流程及具体方法,对不同场景出现的缺陷进行相似度评估,进而针对相似度较高的缺陷进行快速的已有模型的模型迁移学习开发和部署。
图像相似度分析是计算机视觉领域的一个重要问题,它可以用于图像检索、图像分类、图像识别等应用。深度学习是近年来在计算机视觉领域取得巨大成功的一个重要技术,它能够从大量的数据中自动学习图像的特征表示,并且在图像相似度分析等任务上取得了非常好的表现。在深度学习中,卷积神经网络(CNN)是常用的图像处理网络。CNN可以从图像中提取出有意义的特征,将其转化为一个高维特征向量,然后通过比较这些特征向量来计算图像的相似度。在比较特征向量的过程中,常用的方法是计算它们的欧式距离或余弦相似度等指标。通过对这些指标的计算,可以得到一组相似度分数,从而对图像进行相似度排序。
无监督学习是机器学习的一种方法,与有监督学习不同,它不需要事先标注的数据来进行学习,而是从未标记的数据中自动学习模式和特征。无监督学习可以被用于各种领域,如数据挖掘、模式识别、图像处理和语音识别等。这种方法的目标是发现数据中的内在结构和模式,以便更好地理解数据和后续的任务。
本实施例设计了一个针对屏幕或其他工业场景的缺陷相似度分析流程及具体方法,对不同场景出现的缺陷进行相似度评估,进而针对相似度较高的缺陷进行快速的已有模型的模型迁移学习开发和部署。
本实施例设计了一个针对屏幕或其他工业场景的缺陷相似度分析流程及具体方法,对不同场景出现的缺陷进行相似度评估,进而针对相似度较高的缺陷进行快速的已有模型的模型迁移学习开发和部署。
其中包含屏幕和其他工业缺陷的相似度度量模型和流程;模型匹配后基于已有模型快速迁移学习的方法和流程;基于相似度度量管理存量模型和现存缺陷样例图片的管理和存储方法等。
本实施例可以极大减少工业生产过程中的重复模型开发工作,提升工业缺陷检测开发效率和准确度,降低工业缺陷检测的数据成本和不同场景新缺陷出现时的开发周期。
本实施例设计了一个针对屏幕或其他工业场景的缺陷无监督相似度分析流程及具体方法。
具体可以是通过有监督训练和无监督训练的方式,训练得到一个屏幕缺陷特征提取模型,可以用于针对具有相似已知缺陷的不同屏幕产品图像,提取出不同的相似已知缺陷特征。具体可以是相似度大于第一预设相似度的不同已知缺陷特征。
之后针对新屏幕缺陷,可以利用屏幕缺陷特征提取模型,确定出与新缺陷相似的目标已知缺陷,从而可以基于目标已知缺陷的缺陷检测模型,进行迁移训练,得到用于检测新屏幕缺陷的屏幕缺陷检测模型。
具体可以参见上述方法实施例的解释。
此外,还可以基于缺陷特征提取模型,确定不同缺陷特征之间的相似度。进而可以将缺陷特征相似度确定为缺陷检测模型之间的相似度,用于展示给用户,方便查看和选择。
在已有缺陷检测模型相似度信息(也就是缺陷之间的相似度)的情况下,本实施例可以采用以下步骤使用关系数据库针对具备相似度的不同模型进行管理:
1.设计数据库模式:首先,设计一个关系数据库模式,用于存储模型的元数据(例如模型名称、类型、创建日期、性能指标等)和相似度信息。数据库模式包括以下表:
模型表:存储模型的基本信息,如模型ID、名称、类型等。
相似度表:存储模型之间的相似度信息,包括模型ID、参考模型ID和相似度值。
2.导入相似度信息:将已有的模型相似度信息导入到相似度表中。确保每条记录包含模型ID、参考模型ID和相似度值。
3.实现查询功能:根据需求,实现针对模型相似度的查询功能。例如,可以实现以下功能:
查询与给定模型最相似的模型;查询多个模型之间的相似度值;查询给定阈值内的相似模型。
4.模型组织与管理:根据相似度信息,可以将相似的模型组织在一起以便进行管理。这可以通过以下方法实现:
在模型表中添加一个字段(例如:group_id),将具有相似度的模型分配到相同的组。
创建一个单独的模型组表,用于存储模型组的信息(例如组ID、组名称、描述等)。在模型表中,为每个模型添加一个字段(例如:group_id),以表示其所属的模型组。
5.更新和维护:根据需求,实现模型相似度信息和模型元数据的更新和维护功能。
更新模型元数据;
更新模型之间的相似度信息;
添加新模型并导入相似度信息。
通过遵循上述步骤,本实施例可以使用关系数据库针对具备相似度的不同模型进行管理。
为了在网页端可视化相似度管理数据库的模型信息,可以采用以下步骤:
1.选择可视化库:选择一个适用于Web的可视化库,如D3.js、Plotly.js、Chart.js、ECharts等。
2.创建Web应用:创建一个基本的Web应用,以便在浏览器中显示可视化。
3.连接数据库:在Web应用的后端(例如使用Node.js、Flask、Django等),连接到关系数据库,以便查询模型信息和相似度信息。实现API接口,以将数据库中的数据传递给前端。
4.获取数据:在前端,使用AJAX或Fetch API从后端API接口获取模型信息和相似度信息。处理数据,使其适合可视化。
5.创建可视化:使用选定的可视化库将获取到的数据绘制成图表。例如:
散点图:显示模型之间的相似度关系,在散点图中,每个模型都用一个点表示,x轴和y轴可以表示模型的主要特征。可以使用颜色、形状或大小来表示模型之间的相似度。相似度高的模型在图中距离较近。悬停在点上时,可以显示模型的详细信息。
矩阵图:显示模型之间的相似度值,矩阵图是一个二维表格,行和列表示模型。单元格中的颜色表示模型之间的相似度值。颜色越深,表示相似度越高。悬停在单元格上时,可以显示具体的相似度值。
层次图:显示基于相似度的模型聚类情况,例如使用树状图或者圆形树状图展示层次关系。树的根节点表示整个模型集,子节点表示聚类,叶子节点表示模型。相似度高的模型在树状图中位于相同的分支上。悬停在节点上时,可以显示模型或聚类的详细信息。
力导向图:显示模型之间的相似度关系,力导向图中,模型作为节点,相似度作为边的权重。节点之间的距离反映了相似度关系,相似度高的模型在图中距离较近。悬停在节点上时,可以显示模型的详细信息;悬停在边上时,可以显示相似度值。
6.交互功能:根据需求,添加交互功能,如缩放、拖动、悬停提示、点击事件等。这将使可视化更具吸引力,帮助用户更好地理解模型信息。
7.响应式设计:为了使可视化在不同设备上(例如桌面、平板和手机)都能正常显示,应用响应式设计。使用CSS和JavaScript适应不同屏幕尺寸和设备类型。
通过以上步骤,本实施例可以在网页端可视化相似度管理数据库的模型信息。
此外,本发明实施例还公开了另一种缺陷检测模型的迁移方法。
如图3所示,图3是根据本发明实施例示出的另一种缺陷检测模型的迁移方法的流程示意图。
本发明实施例并不限定本方法流程的执行主体。可选地,执行主体可以是任一计算设备。例如,用于检测产品缺陷的服务端或客户端。
该方法可以包括以下步骤。
S201:针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与新缺陷相似的已知缺陷确定为备选缺陷。
S202:获取用于检测输入产品图像是否具有备选缺陷的备选缺陷检测模型。
S203:针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
本方法流程并不限定具体的特征提取方式。可选地,可以采用图像识别模型提取缺陷特征,也可以采用上述缺陷特征提取模型,提取缺陷特征。
可选地,针对新缺陷产品图像提取新缺陷特征的方式,可以和已知缺陷特征的提取方式相同。
可选地,针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与新缺陷相似的已知缺陷确定为备选缺陷,具体可以是:针对具有新缺陷的新缺陷产品图像,通过预设方式提取新缺陷特征;针对与新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应的已知缺陷确定为备选缺陷;其中,已知缺陷特征是通过预设方式提取得到的。
本方法流程并不限定与新缺陷相似的已知缺陷。
可选地,与新缺陷相似的已知缺陷,具体可以是与新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,进一步对应的已知缺陷。本实施例并不限定预设相似度条件,可选地,预设相似度条件可以是相似度最高,或者相似度大于预设相似度阈值。
可选地,与新缺陷相似的已知缺陷,具体可以是与新缺陷特征的相似度大于第一预设相似度的已知缺陷特征,进一步对应的已知缺陷。
本方法流程并不限定确定与新缺陷相似的已知缺陷的具体方法。
可选地,可以基于缺陷特征之间的相似度进行确定,也可以基于新缺陷产品图像,与已知缺陷产品图像中之间的相似度进行确定。
本方法流程并不限定获取备选缺陷检测模型的方法。
可选地,可以直接从预设的与不同已知缺陷一一对应的不同缺陷检测模型中,选择用于检测输入产品图像是否具有备选缺陷的备选缺陷检测模型。具体的选择方式可以参见上述方法实施例。
可选地,由于已知缺陷一般可以积累较多样本,也可以利用备选缺陷的图像样本进行实时训练,得到用于检测输入产品图像是否具有备选缺陷的备选缺陷检测模型。
可选地,可以结合备选缺陷检测模型针对新缺陷产品图像的识别准确率,进行选择和迁移训练。
本方法流程并不限定具体进行迁移训练的方式,具体可以参见上述方法实施例。
此外,本方法流程的具体解释,可以参见上述方法实施例。
上文是以缺陷检测场景为例,解释了具体的模型迁移方法。
本发明实施例还提供了其他场景下的模型迁移方法。
例如,针对产品类型的检测模型,可以采用相似的迁移方法,针对新产品类型快速得到新产品类型检测模型。具体地,针对新开发的产品,在进行机器分拣时,可以通过新产品类型检测模型进行检测,方便后续分拣。
又例如,针对物品类型的检测模型,可以采用相似的迁移方法,针对新物品类型快速得到新物品类型检测模型。
又例如,针对图像类型的检测模型,可以采用相似的迁移方法,针对新图像类型快速得到新图像类型检测模型。
本发明实施例并不限定具体的图像类型。
可选地,图像类型可以包括以下至少一项:图像中的产品是否具有某一缺陷、图像中的产品是否属于某一产品类型、图像中的物品是否属于某一物品类型、图像中的人物是否属于某一人群类型等等。
如图4所示,图4是根据本发明实施例示出的一种类型检测模型的迁移方法的流程示意图。
本发明实施例并不限定本方法流程的执行主体。可选地,执行主体可以是任一计算设备。例如,用于检测类型的服务端或客户端。
可以预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;类型检测模型可以用于检测输入图像是否符合对应的已知类型。
该方法可以包括以下步骤。
S301:获取预先训练的类型特征提取模型,以及类型特征集合。
其中,类型特征提取模型可以用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征。
类型特征集合中可以包括,类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征。
S302:将符合新类型的图像输入类型特征提取模型,得到新类型特征。
S303:在类型特征集合中,针对与新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型。
S304:针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
上述方法流程,通过基于类型特征之间的相似度,确定与新类型相似的已知类型,并基于检测所确定已知类型的类型检测模型,进行迁移训练,可以提高检测新类型的新类型检测模型的生成效率。
本发明实施例并不限定图像符合的具体类型。
可选地,类型可以包括以下至少一项:图像中的产品是否具有某一缺陷、图像中的产品是否属于某一产品类型、图像中的物品是否属于某一物品类型、图像中的人物是否属于某一人群类型等等。
可选地,类型特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组符合相同已知类型的不同图像,将各组图像分别确定为符合相似已知类型的图像;
利用所获取的多组图像训练当前的类型特征提取模型,以提高组内图像之间提取的已知类型特征相似度,和/或提高不同组的图像之间提取的已知类型特征差异度。
可选地,训练步骤还可以包括:
获取符合已知类型的图像;
基于当前的类型特征提取模型针对所获取的图像提取已知类型特征;
针对所提取的已知类型特征进行聚类,得到至少两个相似类型特征组,并针对所获取的各个图像,分别标注对应已知类型特征所属的相似类型特征组;
基于标注后的图像训练当前的类型特征提取模型,以提高相同标注的图像之间提取的已知类型特征相似度,和/或提高不同标注的图像之间提取的已知类型特征差异度。
可选地,基于标注后的图像训练当前的类型特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的类型特征提取模型,针对标注后的图像提取已知类型特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知类型特征,确定一个已知类型特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的类型特征提取模型。
可选地,基于标注后的图像训练当前的类型特征提取模型,包括:
从对应各个标注的已知类型特征中,分别随机选择一个已知类型特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的类型特征提取模型,针对标注后的图像提取已知类型特征,得到全量特征集;
基于以下步骤更新边缘策略特征集:
针对边缘策略特征集中对应目标标注的目标类型特征,在全量特征集内对应目标标注的已知类型特征中,将与目标类型特征相似度最低的已知类型特征,确定为边缘特征;基于边缘特征更新目标类型特征;
基于以下步骤更新平均策略特征集:
针对平均策略特征集中对应目标标注的目标类型特征,针对全量特征集内对应目标标注的各个已知类型特征,计算均值,并根据所计算的均值更新目标类型特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的类型特征提取模型。
可选地,针对所确定的备选类型对应的类型检测模型,利用所获取的新类型图像进行迁移训练,包括:
针对所确定的多个备选类型一一对应的多个类型检测模型,利用测试集分别确定针对新类型的检测准确率;测试集中包含符合新类型的新类型图像;
选择检测准确率满足预设检测条件的类型检测模型,利用所获取的新类型图像进行迁移训练。
可选地,针对所确定的备选类型对应的类型检测模型,利用所获取的新类型图像进行迁移训练,包括:
针对所确定的多个备选类型一一对应的多个类型检测模型,利用所获取的新类型图像进行迁移训练,得到多个备选新类型检测模型;
针对各个备选新类型检测模型,分别利用测试集确定针对新类型的检测准确率;测试集中包含符合新类型的新类型图像;
将检测准确率满足预设准确率条件的备选新类型检测模型,确定为新类型检测模型。
本方法流程的具体解释可以参见上述方法实施例。
此外,本发明实施例还公开了另一种类型检测模型的迁移方法。
如图5所示,图5是根据本发明实施例示出的另一种类型检测模型的迁移方法的流程示意图。
本发明实施例并不限定本方法流程的执行主体。可选地,执行主体可以是任一计算设备。例如,用于检测图像类型的服务端或客户端。
该方法可以包括以下步骤。
S401:针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
S402:获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
S403:针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
本方法流程并不限定具体的特征提取方式。可选地,可以采用图像识别模型提取类型特征,也可以采用上述类型特征提取模型,提取类型特征。
可选地,针对新类型图像提取新类型特征的方式,可以和已知类型特征的提取方式相同。
可选地,针对符合新类型的新类型图像,通过特征提取的方式,将与新类型相似的已知类型确定为备选类型,具体可以是:针对符合新类型的图像,通过预设方式提取新类型特征;针对与新类型特征的相似度满足预设相似度条件的已知类型特征,将对应的已知类型确定为备选类型;其中,已知类型特征是通过预设方式提取得到的。
本方法流程并不限定与新类型相似的已知类型。
可选地,与新类型相似的已知类型,具体可以是与新类型特征的相似度满足预设相似度条件的已知类型特征,进一步对应的已知类型。本实施例并不限定预设相似度条件,可选地,预设相似度条件可以是相似度最高,或者相似度大于预设相似度阈值。
可选地,与新类型相似的已知类型,具体可以是与新类型特征的相似度大于第一预设相似度的已知类型特征,进一步对应的已知类型。
本方法流程并不限定确定与新类型相似的已知类型的具体方法。
可选地,可以基于类型特征之间的相似度进行确定,也可以基于新类型图像,与已知类型图像中之间的相似度进行确定。
本方法流程并不限定获取备选类型检测模型的方法。
可选地,可以直接从预设的与不同已知类型一一对应的不同类型检测模型中,选择用于检测输入图像是否符合备选类型的备选类型检测模型。具体的选择方式可以参见上述方法实施例。
可选地,由于已知类型一般可以积累较多样本,也可以利用备选类型的图像样本进行实时训练,得到用于检测输入图像是否符合备选类型的备选类型检测模型。
可选地,可以结合备选类型检测模型针对新类型图像的识别准确率,进行选择和迁移训练。
本方法流程并不限定具体进行迁移训练的方式,具体可以参见上述方法实施例。
此外,本方法流程的具体解释,可以参见上述方法实施例
对应于上述方法实施例,本发明实施例还提供了一种装置实施例。
如图6所示,图6是根据本发明实施例示出的一种缺陷检测模型的迁移装置的结构示意图。预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;缺陷检测模型用于检测输入的产品图像是否具有对应的已知缺陷。
该装置可以包括以下单元。
获取单元501,用于获取预先训练的缺陷特征提取模型,以及缺陷特征集合;
缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;缺陷特征集合中包括,缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征;
相似单元502,用于将具有新缺陷的新缺陷产品图像输入缺陷特征提取模型,得到新缺陷特征;在缺陷特征集合中,针对与新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;
迁移单元503,用于针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
可选地,缺陷特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;
利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
可选地,训练步骤还包括:
获取具有已知缺陷的产品图像;
基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;
针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;
基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知缺陷特征,确定一个已知缺陷特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新边缘策略特征集:
针对边缘策略特征集中对应目标标注的目标缺陷特征,在全量特征集内对应目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于边缘特征更新目标缺陷特征;
基于以下步骤更新平均策略特征集:
针对平均策略特征集中对应目标标注的目标缺陷特征,针对全量特征集内对应目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新目标缺陷特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的缺陷特征提取模型。
可选地,迁移单元503用于:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用测试集分别确定针对新缺陷的检测准确率;测试集中包含具有新缺陷的新缺陷产品图像;
选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练。
可选地,迁移单元503用于:
针对所确定的备选缺陷对应的多个缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到多个备选新缺陷检测模型;
针对各个备选新缺陷检测模型,分别利用测试集确定针对新缺陷的检测准确率;测试集中包含具有新缺陷的新缺陷产品图像;
将检测准确率满足预设准确率条件的备选新缺陷检测模型,确定为新缺陷检测模型。
具体的解释可以参见上述方法实施例。
如图7所示,图7是根据本发明实施例示出的另一种缺陷检测模型的迁移装置的结构示意图。
该装置可以包括以下单元。
特征提取单元601,用于针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷;
模型获取单元602,用于获取用于检测输入产品图像是否具有所述备选缺陷的备选缺陷检测模型;
迁移训练单元603,用于针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
本装置实施例的具体解释可以参见上述方法实施例。
如图8所示,图8是根据本发明实施例示出的一种类型检测模型的迁移装置的结构示意图。
预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;所述类型检测模型用于检测输入图像是否符合对应的已知类型;
该装置可以包括以下单元。
类型获取单元701,用于获取预先训练的类型特征提取模型,以及类型特征集合;
所述类型特征提取模型用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征;所述类型特征集合中包括,所述类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征;
新类型单元702,用于将符合新类型的图像输入所述类型特征提取模型,得到新类型特征;在所述类型特征集合中,针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型;
训练单元703,用于针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
本发明实施例并不限定图像符合的具体类型。
可选地,类型可以包括以下至少一项:图像中的产品是否具有某一缺陷、图像中的产品是否属于某一产品类型、图像中的物品是否属于某一物品类型、图像中的人物是否属于某一人群类型等等。
可选地,类型特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组符合相同已知类型的不同图像,将各组图像分别确定为符合相似已知类型的图像;
利用所获取的多组图像训练当前的类型特征提取模型,以提高组内图像之间提取的已知类型特征相似度,和/或提高不同组的图像之间提取的已知类型特征差异度。
可选地,训练步骤还可以包括:
获取符合已知类型的图像;
基于当前的类型特征提取模型针对所获取的图像提取已知类型特征;
针对所提取的已知类型特征进行聚类,得到至少两个相似类型特征组,并针对所获取的各个图像,分别标注对应已知类型特征所属的相似类型特征组;
基于标注后的图像训练当前的类型特征提取模型,以提高相同标注的图像之间提取的已知类型特征相似度,和/或提高不同标注的图像之间提取的已知类型特征差异度。
可选地,基于标注后的图像训练当前的类型特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的类型特征提取模型,针对标注后的图像提取已知类型特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知类型特征,确定一个已知类型特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的类型特征提取模型。
可选地,基于标注后的图像训练当前的类型特征提取模型,包括:
从对应各个标注的已知类型特征中,分别随机选择一个已知类型特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的类型特征提取模型,针对标注后的图像提取已知类型特征,得到全量特征集;
基于以下步骤更新边缘策略特征集:
针对边缘策略特征集中对应目标标注的目标类型特征,在全量特征集内对应目标标注的已知类型特征中,将与目标类型特征相似度最低的已知类型特征,确定为边缘特征;基于边缘特征更新目标类型特征;
基于以下步骤更新平均策略特征集:
针对平均策略特征集中对应目标标注的目标类型特征,针对全量特征集内对应目标标注的各个已知类型特征,计算均值,并根据所计算的均值更新目标类型特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和全量特征集计算损失,并更新当前的类型特征提取模型。
可选地,训练单元703用于:
针对所确定的多个备选类型一一对应的多个类型检测模型,利用测试集分别确定针对新类型的检测准确率;测试集中包含符合新类型的新类型图像;
选择检测准确率满足预设检测条件的类型检测模型,利用所获取的新类型图像进行迁移训练。
可选地,训练单元703用于:
针对所确定的多个备选类型一一对应的多个类型检测模型,利用所获取的新类型图像进行迁移训练,得到多个备选新类型检测模型;
针对各个备选新类型检测模型,分别利用测试集确定针对新类型的检测准确率;测试集中包含符合新类型的新类型图像;
将检测准确率满足预设准确率条件的备选新类型检测模型,确定为新类型检测模型。
本装置实施例的具体解释可以参见上述方法实施例。
如图9所示,图9是根据本发明实施例示出的另一种类型检测模型的迁移装置的结构示意图。该装置可以包括以下单元。
备选类型单元801,用于针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
备选模型单元802,用于获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
结果单元803,用于针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
本装置实施例的具体解释可以参见上述方法实施例。
本发明实施例还提供一种计算机设备,其至少包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,处理器执行所述程序时实现上述任一方法实施例。
本发明实施例还提供一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述任一方法实施例。
图10是根据本发明实施例示出的一种配置本发明实施例方法的计算机设备硬件结构示意图,该设备可以包括:处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本发明实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory,只读存储器)、RAM(Random AccessMemory,随机存取存储器)、静态存储设备,动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序,在通过软件或者固件来实现本发明实施例所提供的技术方案时,相关的程序代码保存在存储器1020中,并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块,以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出),也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等,输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出),以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路,在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是,尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050,但是在具体实施过程中,该设备还可以包括实现正常运行所必需的其他组件。此外,本领域的技术人员可以理解的是,上述设备中也可以仅包含实现本发明实施例方案所必需的组件,而不必包含图中所示的全部组件。
本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述任一方法实施例。
本发明实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序在由处理器执行时实现上述任一方法实施例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本发明实施例可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本发明实施例的技术方案本质上或者说做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明实施例各个实施例或者实施例的某些部分所述的方法。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,在实施本发明实施例方案时可以把各模块的功能在同一个或多个软件和/或硬件中实现。也可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上所述仅是本发明实施例的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明实施例原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明实施例的保护。
在本发明中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性。术语“多个”指两个或两个以上,除非另有明确的限定。
本领域技术人员在考虑说明书及实践这里公开的公开后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (18)
1.一种缺陷检测模型的迁移方法,其特征在于,预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;所述缺陷检测模型用于检测输入的产品图像是否具有对应的已知缺陷;
所述方法包括:
获取预先训练的缺陷特征提取模型,以及缺陷特征集合;
所述缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;所述缺陷特征集合中包括,所述缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征;
将具有新缺陷的新缺陷产品图像输入所述缺陷特征提取模型,得到新缺陷特征;
在所述缺陷特征集合中,针对与所述新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;
针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
2.根据权利要求1所述的方法,其特征在于,所述缺陷特征提取模型的训练方法,包括:
循环执行以下训练步骤,直到满足预设训练停止条件:
获取多组具有相同已知缺陷的不同产品图像,将各组产品图像分别确定为具有相似已知缺陷的产品图像;
利用所获取的多组产品图像训练当前的缺陷特征提取模型,以提高组内产品图像之间提取的已知缺陷特征相似度,和/或提高不同组的产品图像之间提取的已知缺陷特征差异度。
3.根据权利要求2所述的方法,其特征在于,所述训练步骤还包括:
获取具有已知缺陷的产品图像;
基于当前的缺陷特征提取模型针对所获取的产品图像提取已知缺陷特征;
针对所提取的已知缺陷特征进行聚类,得到至少两个相似缺陷特征组,并针对所获取的各个产品图像,分别标注对应已知缺陷特征所属的相似缺陷特征组;
基于标注后的产品图像训练当前的缺陷特征提取模型,以提高相同标注的产品图像之间提取的已知缺陷特征相似度,和/或提高不同标注的产品图像之间提取的已知缺陷特征差异度。
4.根据权利要求3所述的方法,其特征在于,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
循环执行以下步骤,直到满足第一训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到第一特征集;
基于预设策略,分别基于对应各个标注的已知缺陷特征,确定一个已知缺陷特征,得到第二特征集;
基于所得到的第一特征集和第二特征集计算损失,并更新当前的缺陷特征提取模型。
5.根据权利要求3所述的方法,其特征在于,所述基于标注后的产品图像训练当前的缺陷特征提取模型,包括:
从对应各个标注的已知缺陷特征中,分别随机选择一个已知缺陷特征,添加到初始特征集;并将初始特征集中的各个特征,分别添加到边缘策略特征集和平均策略特征集;
循环执行以下步骤,直到满足第二训练停止条件:
基于当前的缺陷特征提取模型,针对标注后的产品图像提取已知缺陷特征,得到全量特征集;
基于以下步骤更新所述边缘策略特征集:
针对所述边缘策略特征集中对应目标标注的目标缺陷特征,在所述全量特征集内对应所述目标标注的已知缺陷特征中,将与目标缺陷特征相似度最低的已知缺陷特征,确定为边缘特征;基于所述边缘特征更新所述目标缺陷特征;
基于以下步骤更新所述平均策略特征集:
针对所述平均策略特征集中对应目标标注的目标缺陷特征,针对所述全量特征集内对应所述目标标注的各个已知缺陷特征,计算均值,并根据所计算的均值更新所述目标缺陷特征;
基于更新后的边缘策略特征集,以及更新后的平均策略特征集,更新当前的初始特征集;
基于更新后的初始特征集和所述全量特征集计算损失,并更新当前的缺陷特征提取模型。
6.根据权利要求1所述的方法,其特征在于,所述针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,包括:
针对所确定的多个备选缺陷一一对应的多个缺陷检测模型,利用测试集分别确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
选择检测准确率满足预设检测条件的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练。
7.根据权利要求1所述的方法,其特征在于,所述针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,包括:
针对所确定的多个备选缺陷一一对应的多个缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到多个备选新缺陷检测模型;
针对各个备选新缺陷检测模型,分别利用测试集确定针对新缺陷的检测准确率;所述测试集中包含具有新缺陷的新缺陷产品图像;
将检测准确率满足预设准确率条件的备选新缺陷检测模型,确定为新缺陷检测模型。
8.一种缺陷检测模型的迁移方法,其特征在于,包括:
针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷;
获取用于检测输入产品图像是否具有所述备选缺陷的备选缺陷检测模型;
针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
9.根据权利要求8所述的方法,其特征在于,所述针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷,包括:
针对具有新缺陷的新缺陷产品图像,通过预设方式提取新缺陷特征;
针对与所述新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应的已知缺陷确定为备选缺陷;
其中,已知缺陷特征是通过所述预设方式提取得到的。
10.一种类型检测模型的迁移方法,其特征在于,预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;所述类型检测模型用于检测输入图像是否符合对应的已知类型;
所述方法包括:
获取预先训练的类型特征提取模型,以及类型特征集合;
所述类型特征提取模型用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征;所述类型特征集合中包括,所述类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征;
将符合新类型的图像输入所述类型特征提取模型,得到新类型特征;
在所述类型特征集合中,针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型;
针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
11.一种类型检测模型的迁移方法,其特征在于,包括:
针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
12.根据权利要求11所述的方法,其特征在于,所述针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型,包括:
针对符合新类型的图像,通过预设方式提取新类型特征;
针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应的已知类型确定为备选类型;
其中,已知类型特征是通过所述预设方式提取得到的。
13.一种缺陷检测模型的迁移装置,其特征在于,预先设置有至少两种已知缺陷,以及与不同已知缺陷一一对应的不同缺陷检测模型;所述缺陷检测模型用于检测输入的产品图像是否具有对应的已知缺陷;
所述装置包括:
获取单元,用于获取预先训练的缺陷特征提取模型,以及缺陷特征集合;
所述缺陷特征提取模型用于,针对具有相似已知缺陷的不同产品图像,提取出相似度大于第一预设相似度的不同已知缺陷特征;所述缺陷特征集合中包括,所述缺陷特征提取模型针对具有已知缺陷的已知缺陷产品图像,提取出的已知缺陷特征;
相似单元,用于将具有新缺陷的新缺陷产品图像输入所述缺陷特征提取模型,得到新缺陷特征;在所述缺陷特征集合中,针对与所述新缺陷特征的相似度满足预设相似度条件的已知缺陷特征,将对应已知缺陷确定为备选缺陷;
迁移单元,用于针对所确定的备选缺陷对应的缺陷检测模型,利用所获取的新缺陷产品图像进行迁移训练,得到用于检测输入的产品图像是否具有新缺陷的新缺陷检测模型。
14.一种缺陷检测模型的迁移装置,其特征在于,包括:
特征提取单元,用于针对具有新缺陷的新缺陷产品图像,通过特征提取的方式,将与所述新缺陷相似的已知缺陷确定为备选缺陷;
模型获取单元,用于获取用于检测输入产品图像是否具有所述备选缺陷的备选缺陷检测模型;
迁移训练单元,用于针对所获取的备选缺陷检测模型,利用新缺陷产品图像进行迁移训练,得到用于检测输入产品图像是否具有新缺陷的新缺陷检测模型。
15.一种类型检测模型的迁移装置,其特征在于,预先设置有至少两种已知类型,以及与不同已知类型一一对应的不同类型检测模型;所述类型检测模型用于检测输入图像是否符合对应的已知类型;
所述装置包括:
类型获取单元,用于获取预先训练的类型特征提取模型,以及类型特征集合;
所述类型特征提取模型用于,针对相似已知类型的不同图像,提取出相似度大于第一预设相似度的不同已知类型特征;所述类型特征集合中包括,所述类型特征提取模型针对符合已知类型的图像,提取出的已知类型特征;
新类型单元,用于将符合新类型的图像输入所述类型特征提取模型,得到新类型特征;在所述类型特征集合中,针对与所述新类型特征的相似度满足预设相似度条件的已知类型特征,将对应已知类型确定为备选类型;
训练单元,用于针对所确定的备选类型对应的类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
16.一种类型检测模型的迁移装置,其特征在于,包括:
备选类型单元,用于针对符合新类型的图像,通过特征提取的方式,将与所述新类型相似的已知类型确定为备选类型;
备选模型单元,用于获取用于检测输入图像是否符合所述备选类型的备选类型检测模型;
结果单元,用于针对所获取的备选类型检测模型,利用符合新类型的图像进行迁移训练,得到用于检测输入图像是否符合新类型的新类型检测模型。
17.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至12中任一项所述方法。
18.一种存储有计算机程序的计算机可读存储介质,其特征在于,所述计算机程序在由处理器执行时实现权利要求1至12中任一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311175817.8A CN117292214A (zh) | 2023-09-12 | 2023-09-12 | 一种缺陷检测模型的迁移方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311175817.8A CN117292214A (zh) | 2023-09-12 | 2023-09-12 | 一种缺陷检测模型的迁移方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117292214A true CN117292214A (zh) | 2023-12-26 |
Family
ID=89252738
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311175817.8A Pending CN117292214A (zh) | 2023-09-12 | 2023-09-12 | 一种缺陷检测模型的迁移方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117292214A (zh) |
-
2023
- 2023-09-12 CN CN202311175817.8A patent/CN117292214A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11640563B2 (en) | Automated data processing and machine learning model generation | |
US11556746B1 (en) | Fast annotation of samples for machine learning model development | |
US11537506B1 (en) | System for visually diagnosing machine learning models | |
US10565518B2 (en) | Collaborative feature learning from social media | |
CN112115306B (zh) | 用于执行高维传感器数据中的异常事件的自动根本原因分析的方法和系统 | |
CN111612039A (zh) | 异常用户识别的方法及装置、存储介质、电子设备 | |
CN110706015A (zh) | 一种面向广告点击率预测的特征选取方法 | |
US20160034544A1 (en) | System and method for multi-dimensional data representation of objects | |
CN113821657A (zh) | 基于人工智能的图像处理模型训练方法及图像处理方法 | |
CN116257663A (zh) | 面向无人地面车辆的异常检测与关联分析方法及相关设备 | |
CN108875901B (zh) | 神经网络训练方法以及通用物体检测方法、装置和系统 | |
CN111259975B (zh) | 分类器的生成方法及装置、文本的分类方法及装置 | |
CN115204318B (zh) | 事件自动层级分类方法及电子设备 | |
CN116883740A (zh) | 相似图片识别方法、装置、电子设备和存储介质 | |
CN113139540B (zh) | 背板检测方法及设备 | |
CN117292214A (zh) | 一种缺陷检测模型的迁移方法、装置、设备及存储介质 | |
CN108073934A (zh) | 近重复图像检测方法与装置 | |
CN114971110A (zh) | 一种根因组合确定的方法、相关装置、设备以及存储介质 | |
US20190294534A1 (en) | Program usability performance classification | |
CN113868460A (zh) | 一种图像检索方法、装置及系统 | |
US20240061867A1 (en) | Cluster-based dataset evolution | |
US20240211750A1 (en) | Developer activity modeler engine for a platform signal modeler | |
CN113420214B (zh) | 一种电子交易对象推荐方法和装置及设备 | |
CN117421386B (zh) | 基于gis的空间数据处理方法及系统 | |
CN117632313B (zh) | 一种基于人工智能的软件驱动处理方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |