CN117036271A - 生产线质量监测方法及其系统 - Google Patents
生产线质量监测方法及其系统 Download PDFInfo
- Publication number
- CN117036271A CN117036271A CN202310980013.9A CN202310980013A CN117036271A CN 117036271 A CN117036271 A CN 117036271A CN 202310980013 A CN202310980013 A CN 202310980013A CN 117036271 A CN117036271 A CN 117036271A
- Authority
- CN
- China
- Prior art keywords
- image
- feature map
- interest
- classification
- product
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 62
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 52
- 238000001514 detection method Methods 0.000 claims abstract description 92
- 238000012545 processing Methods 0.000 claims abstract description 55
- 239000013598 vector Substances 0.000 claims description 91
- 230000004927 fusion Effects 0.000 claims description 46
- 230000007547 defect Effects 0.000 claims description 39
- 238000013527 convolutional neural network Methods 0.000 claims description 37
- 230000000903 blocking effect Effects 0.000 claims description 22
- 238000010586 diagram Methods 0.000 claims description 20
- 239000003623 enhancer Substances 0.000 claims description 18
- 238000000605 extraction Methods 0.000 claims description 8
- 239000011159 matrix material Substances 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 8
- 238000004873 anchoring Methods 0.000 claims description 6
- 230000002950 deficient Effects 0.000 claims description 4
- 230000008485 antagonism Effects 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 15
- 230000006870 function Effects 0.000 description 12
- 238000003860 storage Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 238000009826 distribution Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 238000007499 fusion processing Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 239000004744 fabric Substances 0.000 description 3
- 239000002184 metal Substances 0.000 description 3
- 238000007639 printing Methods 0.000 description 3
- 238000003908 quality control method Methods 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 238000007418 data mining Methods 0.000 description 2
- 239000000428 dust Substances 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Quality & Reliability (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及质量检测技术领域,其具体地公开了一种生产线质量监测方法及其系统,其通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。该方案基于图像处理技术进行自动化检测,可以有效地避免人工检测带来的不确定性和误判,提高产品质量和生产效率。
Description
技术领域
本申请涉及质量检测技术领域,且更为具体地,涉及一种生产线质量监测方法及其系统。
背景技术
自动化生产是指按照规定的程序或指令自动进行操作或控制,采用自动化生产线不仅可以把人从繁重的体力劳动以及恶劣、危险的工作环境中解放出来,还可以大大地提高生产效率。但自动化生产并不是完全可靠的,生产的产品也难免会有缺陷,例如商品外包装字迹印刷不清晰,布匹上有污点,金属、塑料部件上有划痕、凹凸不平等。
目前,为了防止表面缺陷的质量控制操作很大程度上依靠人工检测员,不仅检测产品的速度慢、效率低下,而且在检测的过程中容易出错,导致的检测结果不精确。
因此,期待一种生产线质量监测方法及其系统。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种生产线质量监测方法及其系统,其通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。该方案基于图像处理技术进行自动化检测,可以有效地避免人工检测带来的不确定性和误判,提高产品质量和生产效率。
相应地,根据本申请的一个方面,提供了一种生产线质量监测方法,其包括:
通过摄像头获取待检测产品的图像;
对所述待检测产品的图像进行图像分块处理以得到多个图像块;
将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;
将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;
将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及
将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
在上述生产线质量监测方法中,对所述待检测产品的图像进行图像分块处理以得到多个图像块,包括:对所述待检测产品的图像进行均匀图像分块处理以得到所述多个图像块,其中,所述多个图像块中各个图像块具有相同的尺寸。
在上述生产线质量监测方法中,所述目标检测网络为基于锚窗的目标检测网络,所述基于锚窗的目标检测网络为Fast R-CNN、Faster R-CNN或RetinaNet。
在上述生产线质量监测方法中,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域,包括:将所述图像块通过所述目标检测网络的多层卷积层以得到检测特征图;以及,使用所述目标检测网络的目标锚定层以如下检测公式对所述检测特征图进行处理以得到所述外观感兴趣区域;
其中,所述检测公式为:
Dets=H(ψdet,B)=(cls(ψdet,B),Regr(ψdet,B))
其中,ψdet为检测特征图,B表示锚窗、cls(ψdet,B)表示分类函数、Regr(ψdet,B)表示回归函数。
在上述生产线质量监测方法中,所述对抗生成网络包括鉴别器和生成器,其中,将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域,包括:将所述外观感兴趣区域输入所述基于对抗生成网络的图像清晰度增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。
在上述生产线质量监测方法中,将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图,包括:从所述包含深浅融合模块的卷积神经网络模型的第M层提取浅层特征图,其中,M大于等于1且小于等于6;从所述包含深浅融合模块的卷积神经网络模型的第N层提取深层特征图,其中,N/M大于等于5且小于等于10;以及,融合所述浅层特征图和所述深层特征图以得到分类特征图。
在上述生产线质量监测方法中,融合所述浅层特征图和所述深层特征图以得到分类特征图,包括:对所述浅层特征图和所述深层特征图分别进行按行或者按列的展开以得到浅层特征向量和深层特征向量;对所述浅层特征向量和所述深层特征向量进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量;计算所述第一稀疏特征向量相对于所述第二稀疏特征向量的第一JS散度;计算所述第二稀疏特征向量相对于所述第一稀疏特征向量的第二JS散度;对所述第一JS散度和所述第二JS散度进行归一化处理以得到归一化第一JS散度和归一化第二JS散度;以所述归一化第一JS散度和所述归一化第二JS散度作为权重,融合所述第一稀疏特征向量和所述第二稀疏特征向量以得到融合特征向量;以及,对所述融合特征向量进行重排以得到所述分类特征图。
在上述生产线质量监测方法中,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷,包括:使用所述分类器以如下公式对所述分类特征图进行处理以生成分类结果;
其中,所述分类公式为:
softmax{(Mc,Bc)|Project(F)}
其中Project(F)表示将所述分类特征图投影为向量,Mc为全连接层的权重矩阵,Bc表示全连接层的偏置矩阵,softmax表示归一化指数函数。
根据本申请的另一个方面,提供了一种生产线质量监测系统,其包括:
监控模块,用于通过摄像头获取待检测产品的图像;
图像分块模块,用于对所述待检测产品的图像进行图像分块处理以得到多个图像块;
目标检测模块,用于将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;
图像增强模块,用于将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;
深浅特征提取模块,用于将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及
监测结果生成模块,用于将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
与现有技术相比,本申请提供的生产线质量监测方法及其系统,其通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。该方案基于图像处理技术进行自动化检测,可以有效地避免人工检测带来的不确定性和误判,提高产品质量和生产效率。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1为根据本申请实施例的生产线质量监测方法的流程图。
图2为根据本申请实施例的生产线质量监测方法的架构示意图。
图3为根据本申请实施例的生产线质量监测方法中将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图的流程图。
图4为根据本申请实施例的生产线质量监测系统的框图。
图5为根据本申请实施例的电子设备的框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
如上所述,在自动化生产过程中,产品的外观质量缺陷是难以避免的,例如商品外包装字迹印刷不清晰,布匹上有污点,金属、塑料部件上有划痕、凹凸不平等。如果这些产品流入市场,会对顾客的消费体验和商家的信誉带来不利影响。因此,期待一种生产线质量监测方法及其系统。
近年来,深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外,深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域,也展现出了接近甚至超越人类的水平。深度学习以及神经网络的发展为生产线质量监测提供了新的解决思路和方案。
目前,为了防止表面缺陷的质量控制操作很大程度上依靠人工检测员,不仅检测产品的速度慢、效率低下,而且在检测的过程中容易出错,导致的检测结果不精确。因此,在本申请的技术方案中,期望通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。该方案基于图像处理技术进行自动化检测,可以有效地避免人工检测带来的不确定性和误判,提高产品质量和生产效率。
具体地,在本申请的技术方案中,首先,通过摄像头获取待检测产品的图像。相应地,考虑到一些产品的表面缺陷可能是细微的,在对图像进行处理时,对于小尺寸对象的识别可能会有些困难。并且,由于图像中可能具有环境因素的干扰,难以对于细微缺陷进行精准地分析识别。因此,通过将待检测产品的图像分成多个图像块,以此来更加准确地定位产品缺陷,并且可以在分块处理后,只对包含缺陷的图像块进行进一步的处理和检测,从而提高检测的效率。此外,图像分块处理还可以避免因为图像过大而导致内存不足的问题,从而保证检测的稳定性和可靠性。
为了进一步准确地定位产品缺陷,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域。目标检测是一种图像处理技术,可以对图像中的目标进行定位和识别。在该方案中,通过目标检测网络对图像块进行处理,可以得到至少一个外观感兴趣区域,该区域包含了可能存在缺陷的部位。这样可以避免对整张图像进行处理,提高处理效率和准确率。具体地,使用所述目标检测网络的目标锚定层以锚框B来进行滑动对所述多个图像块中的各个图像块进行处理,以对于所述外观感兴趣区域进行框定,从而得到所述至少一个外观感兴趣区域。特别地,在本申请的一个具体示例中,这里,所述目标检测网络为基于锚窗的目标检测网络,所述基于锚窗的目标检测网络为Fast R-CNN、Faster R-CNN或RetinaNet。
进一步地,考虑到在所述外观感兴趣区域中,由于生产环境的复杂性,摄像头获取的图像可能存在一些问题,例如模糊、粉尘干扰、光照不足等,这会影响我们对产品外观的判断。因此,我们需要对图像进行清晰度增强,以便更好地检测产品的外观质量缺陷。基于对抗生成网络的图像清晰度增强器是一种先进的图像处理技术,它可以通过学习图像的特征,将模糊的图像转换为更清晰的图像,从而提高产品外观的检测准确性。具体地,将所述外观感兴趣区域输入所述基于对抗生成网络的图像增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。特别地,这里,所述基于对抗生成网络包含鉴别器和生成器,其中,所述生成器用于生成图像清晰度增强后的图像,所述鉴别器用于计算数据增强后的图像和真实图像之间的差异,并通过梯度下降的方向传播算法来更新所述生成器的网络参数以得到具有图像清晰度增强功能的生成器。
接着,使用在图像的隐含特征提取方面具有优异表现的卷积神经网络模型对所述增强外观感兴趣区域进行处理,其中包含了深浅融合模块。应可以理解,深浅融合模块可以将不同层次的特征信息进行融合,从而提高模型的分类精度。因此,将增强后的外观感兴趣区域输入到包含深浅融合模块的卷积神经网络模型中,能够保留所述增强外观感兴趣区域的浅层特征和深层特征,使得特征信息更为丰富,以提高外观质量检测的精度。
进一步地,对分类特征图进行分类处理。分类特征图中每个像素点表示该位置的产品是否存在缺陷,但分类特征图本身并不能直接给出产品的缺陷分类结果,因此我们需要通过分类器对这个特征图进行处理,以得到用于表示该产品的外观质量是否存在缺陷的分类结果。从而帮助工作人员及时发现和处理缺陷产品,提高产品质量和生产效率。
特别地,在本申请的技术方案中,考虑到在融合所述浅层特征图和所述深层特征图时,因为两个特征图提供了部分相似的信息,这会造成一定程度的数据冗余。此外,由于数据采集和处理存在误差、噪声和不确定性,这些因素也会导致数据噪声。如果直接采用级联来融合所述浅层特征图和所述深层特征图,那么就会受到噪声和冗余信息的影响从而降低特征融合效果,造成特征融合过程中的信息损失增大,从而降低特征融合后的数据质量和可信度。
基于此,在本申请的技术方案中,融合所述浅层特征图和所述深层特征图以得到分类特征图,包括:对所述浅层特征图和所述深层特征图分别进行按行或者按列的展开以得到浅层特征向量和深层特征向量;对所述浅层特征向量和所述深层特征向量进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量;计算所述第一稀疏特征向量相对于所述第二稀疏特征向量的第一JS散度;计算所述第二稀疏特征向量相对于所述第一稀疏特征向量的第二JS散度;对所述第一JS散度和所述第二JS散度进行归一化处理以得到归一化第一JS散度和归一化第二JS散度;以所述归一化第一JS散度和所述归一化第二JS散度作为权重,融合所述第一稀疏特征向量和所述第二稀疏特征向量以得到融合特征向量;以及,对所述融合特征向量进行重排以得到所述分类特征图。
上述特征分布融合算法利用了稀疏编码思想来有效捕捉两个特征分布之间的结构和模式信息,而不受噪声和冗余信息的影响从而提升特征融合效果,通过这样的方式,可以有效地降低特征融合过程中的信息损失,保留原始特征分布中的重要信息,提高特征融合后的数据质量和可信度,同时,还可以有效地降低特征融合后的数据维度,减少数据冗余和噪声且有效地增强特征融合后的数据表达能力,提取出更多的隐含信息和潜在规律,提高数据挖掘和知识发现的能力和水平,从而提升分类特征图通过分类器得到的分类结果的准确性。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1为根据本申请实施例的生产线质量监测方法的流程图。如图1所示,根据本申请实施例的生产线质量监测方法,包括:S110,通过摄像头获取待检测产品的图像;S120,对所述待检测产品的图像进行图像分块处理以得到多个图像块;S130,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;S140,将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;S150,将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及,S160,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
图2为根据本申请实施例的生产线质量监测方法的架构示意图。如图2所示,首先,通过摄像头获取待检测产品的图像。接着,对所述待检测产品的图像进行图像分块处理以得到多个图像块。然后,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域。其次,将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域。接着,将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图。最后,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
在上述生产线质量监测方法中,所述步骤S110,通过摄像头获取待检测产品的图像。如上所述,在自动化生产过程中,产品的外观质量缺陷是难以避免的,例如商品外包装字迹印刷不清晰,布匹上有污点,金属、塑料部件上有划痕、凹凸不平等。如果这些产品流入市场,会对顾客的消费体验和商家的信誉带来不利影响。目前,为了防止表面缺陷的质量控制操作很大程度上依靠人工检测员,不仅检测产品的速度慢、效率低下,而且在检测的过程中容易出错,导致的检测结果不精确。因此,本申请期望通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。具体地,在本申请的技术方案中,首先,通过摄像头获取待检测产品的图像。
在上述生产线质量监测方法中,所述步骤S120,对所述待检测产品的图像进行图像分块处理以得到多个图像块。考虑到一些产品的表面缺陷可能是细微的,在对图像进行处理时,对于小尺寸对象的识别可能会有些困难。并且,由于图像中可能具有环境因素的干扰,难以对于细微缺陷进行精准地分析识别。因此,通过将待检测产品的图像分成多个图像块,以此来更加准确地定位产品缺陷,并且可以在分块处理后,只对包含缺陷的图像块进行进一步的处理和检测,从而提高检测的效率。此外,图像分块处理还可以避免因为图像过大而导致内存不足的问题,从而保证检测的稳定性和可靠性。
相应地,在一个具体示例中,所述步骤S120,包括:对所述待检测产品的图像进行均匀图像分块处理以得到所述多个图像块,其中,所述多个图像块中各个图像块具有相同的尺寸。
在上述生产线质量监测方法中,所述步骤S130,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域。为了进一步准确地定位产品缺陷,使用目标检测网络对所述多个图像块进行处理。目标检测是一种图像处理技术,可以对图像中的目标进行定位和识别。在该方案中,通过目标检测网络对图像块进行处理,可以得到至少一个外观感兴趣区域,该区域包含了可能存在缺陷的部位。这样可以避免对整张图像进行处理,提高处理效率和准确率。具体地,使用所述目标检测网络的目标锚定层以锚框B来进行滑动对所述多个图像块中的各个图像块进行处理,以对于所述外观感兴趣区域进行框定,从而得到所述至少一个外观感兴趣区域。特别地,在本申请的一个具体示例中,这里,所述目标检测网络为基于锚窗的目标检测网络,所述基于锚窗的目标检测网络为Fast R-CNN、FasterR-CNN或RetinaNet。
相应地,在一个具体示例中,所述步骤S130,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域,包括:将所述图像块通过所述目标检测网络的多层卷积层以得到检测特征图;以及,使用所述目标检测网络的目标锚定层以如下检测公式对所述检测特征图进行处理以得到所述外观感兴趣区域;
其中,所述检测公式为:
Dets=H(ψdet,B)=(cls(ψdet,B),Regr(ψdet,B))
其中,ψdet为检测特征图,B表示锚窗、cls(ψdet,B)表示分类函数、Regr(ψdet,B)表示回归函数。
在上述生产线质量监测方法中,所述步骤S140,将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域。考虑到在所述外观感兴趣区域中,由于生产环境的复杂性,摄像头获取的图像可能存在一些问题,例如模糊、粉尘干扰、光照不足等,这会影响我们对产品外观的判断。因此,我们需要对图像进行清晰度增强,以便更好地检测产品的外观质量缺陷。基于对抗生成网络的图像清晰度增强器是一种先进的图像处理技术,它可以通过学习图像的特征,将模糊的图像转换为更清晰的图像,从而提高产品外观的检测准确性。具体地,将所述外观感兴趣区域输入所述基于对抗生成网络的图像增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。特别地,这里,所述基于对抗生成网络包含鉴别器和生成器,其中,所述生成器用于生成图像清晰度增强后的图像,所述鉴别器用于计算数据增强后的图像和真实图像之间的差异,并通过梯度下降的方向传播算法来更新所述生成器的网络参数以得到具有图像清晰度增强功能的生成器。具体地,将所述外观感兴趣区域输入所述基于对抗生成网络的图像清晰度增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。
在上述生产线质量监测方法中,所述步骤S150,将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图。应可以理解,卷积神经网络模型在图像的隐含特征提取方面具有优异表现。并且,深浅融合模块可以将不同层次的特征信息进行融合,从而提高模型的分类精度。因此,将增强后的外观感兴趣区域输入到包含深浅融合模块的卷积神经网络模型中,能够保留所述增强外观感兴趣区域的浅层特征和深层特征,使得特征信息更为丰富,以提高外观质量检测的精度。
图3为根据本申请实施例的生产线质量监测方法中将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图的流程图。如图3所示,所述步骤S150,包括:S210,从所述包含深浅融合模块的卷积神经网络模型的第M层提取浅层特征图,其中,M大于等于1且小于等于6;S220,从所述包含深浅融合模块的卷积神经网络模型的第N层提取深层特征图,其中,N/M大于等于5且小于等于10;以及,S230,融合所述浅层特征图和所述深层特征图以得到分类特征图。
在上述生产线质量监测方法中,所述步骤S230,融合所述浅层特征图和所述深层特征图以得到分类特征图。特别地,在本申请的技术方案中,考虑到在融合所述浅层特征图和所述深层特征图时,因为两个特征图提供了部分相似的信息,这会造成一定程度的数据冗余。此外,由于数据采集和处理存在误差、噪声和不确定性,这些因素也会导致数据噪声。如果直接采用级联来融合所述浅层特征图和所述深层特征图,那么就会受到噪声和冗余信息的影响从而降低特征融合效果,造成特征融合过程中的信息损失增大,从而降低特征融合后的数据质量和可信度。
在本申请的一个实施例中,基于字典学习的技术对所述浅层特征图和所述深层特征图进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量。应理解,基于字典学习的技术的主要思想是学习一个稀疏的表示,使得原始特征向量能够用少量的非零权重进行描述,并且这些权重是基于一个提前定义好的字典进行计算的。具体地,基于字典学习的技术对所述浅层特征图和所述深层特征图进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量,包括:定义一个稀疏编码器,其能够接收一个特征向量,并输出接收特征向量的稀疏编码。该编码满足以下条件:接收特征向量由少量的非零值构成,这些非零值对应于提前定义好的字典中的基向量。建立一个字典学习模块,该模块的输入是一组训练特征向量,输出是一组基向量,这些基向量构成了字典。字典学习的目标是最小化重建误差,即用字典中的基向量对原始特征向量进行重构,使得重构误差最小。给定一个训练集,利用稀疏编码器和字典学习模块进行训练。在训练过程中,首先将原始特征向量传递给稀疏编码器,得到稀疏编码。然后将稀疏编码和字典中的基向量输入到解码器中,最小化重建误差。重复这个过程,直到模型收敛。对于要编码的新特征向量,使用已经训练好的稀疏编码器和字典,计算出与其相关的稀疏编码。
基于此,在本申请的技术方案中,融合所述浅层特征图和所述深层特征图以得到分类特征图,包括:对所述浅层特征图和所述深层特征图分别进行按行或者按列的展开以得到浅层特征向量和深层特征向量;对所述浅层特征向量和所述深层特征向量进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量;计算所述第一稀疏特征向量相对于所述第二稀疏特征向量的第一JS散度;计算所述第二稀疏特征向量相对于所述第一稀疏特征向量的第二JS散度;对所述第一JS散度和所述第二JS散度进行归一化处理以得到归一化第一JS散度和归一化第二JS散度;以所述归一化第一JS散度和所述归一化第二JS散度作为权重,融合所述第一稀疏特征向量和所述第二稀疏特征向量以得到融合特征向量;以及,对所述融合特征向量进行重排以得到所述分类特征图。
上述特征分布融合算法利用了稀疏编码思想来有效捕捉两个特征分布之间的结构和模式信息,而不受噪声和冗余信息的影响从而提升特征融合效果,通过这样的方式,可以有效地降低特征融合过程中的信息损失,保留原始特征分布中的重要信息,提高特征融合后的数据质量和可信度,同时,还可以有效地降低特征融合后的数据维度,减少数据冗余和噪声且有效地增强特征融合后的数据表达能力,提取出更多的隐含信息和潜在规律,提高数据挖掘和知识发现的能力和水平,从而提升分类特征图通过分类器得到的分类结果的准确性。
在上述生产线质量监测方法中,所述步骤S160,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。分类特征图中每个像素点表示该位置的产品是否存在缺陷,但分类特征图本身并不能直接给出产品的缺陷分类结果,因此我们需要通过分类器对这个特征图进行处理,以得到用于表示该产品的外观质量是否存在缺陷的分类结果。从而帮助工作人员及时发现和处理缺陷产品,提高产品质量和生产效率。
相应地,在一个具体示例中,所述步骤S160,包括:使用所述分类器以如下公式对所述分类特征图进行处理以生成分类结果;
其中,所述分类公式为:
softmax{(Mc,Bc)|Project(F)}
其中Project(F)表示将所述分类特征图投影为向量,Mc为全连接层的权重矩阵,Bc表示全连接层的偏置矩阵,softmax表示归一化指数函数。
综上,根据本申请实施例的生产线质量监测方法被阐明,其通过摄像头获取待检测产品的图像,利用目标检测网络、对抗生成网络和卷积神经网络等图像处理技术,提取产品的外观特征,判断产品的外观质量是否存在缺陷。该方案基于图像处理技术进行自动化检测,可以有效地避免人工检测带来的不确定性和误判,提高产品质量和生产效率。
示例性系统
图4为根据本申请实施例的生产线质量监测系统的框图。如图4所示,根据本申请实施例的生产线质量监测系统100,包括:监控模块110,用于通过摄像头获取待检测产品的图像;图像分块模块120,用于对所述待检测产品的图像进行图像分块处理以得到多个图像块;目标检测模块130,用于将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;图像增强模块140,用于将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;深浅特征提取模块150,用于将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及,监测结果生成模块160,用于将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
在一个具体示例中,在上述生产线质量监测系统中,所述图像分块模块120,用于:对所述待检测产品的图像进行均匀图像分块处理以得到所述多个图像块,其中,所述多个图像块中各个图像块具有相同的尺寸。
在一个具体示例中,在上述生产线质量监测系统中,所述目标检测网络为基于锚窗的目标检测网络,所述基于锚窗的目标检测网络为Fast R-CNN、Faster R-CNN或RetinaNet。
在一个具体示例中,在上述生产线质量监测系统中,所述目标检测模块130,包括:将所述图像块通过所述目标检测网络的多层卷积层以得到检测特征图;以及,使用所述目标检测网络的目标锚定层以如下检测公式对所述检测特征图进行处理以得到所述外观感兴趣区域;
其中,所述检测公式为:
Dets=H(ψdet,B)=(cls(ψdet,B),Regr(ψdet,B))
其中,ψdet为检测特征图,B表示锚窗、cls(ψdet,B)表示分类函数、Regr(ψdet,B)表示回归函数。
在一个具体示例中,在上述生产线质量监测系统中,所述对抗生成网络包括鉴别器和生成器;其中,所述图像增强模块140,包括:将所述外观感兴趣区域输入所述基于对抗生成网络的图像清晰度增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。
在一个具体示例中,在上述生产线质量监测系统中,所述深浅特征提取模块150,包括:浅层特征提取单元,用于从所述包含深浅融合模块的卷积神经网络模型的第M层提取浅层特征图,其中,M大于等于1且小于等于6;深层特征提取单元,用于从所述包含深浅融合模块的卷积神经网络模型的第N层提取深层特征图,其中,N/M大于等于5且小于等于10;以及,融合单元,用于融合所述浅层特征图和所述深层特征图以得到分类特征图。
在一个具体示例中,在上述生产线质量监测系统中,所述融合单元,包括:对所述浅层特征图和所述深层特征图分别进行按行或者按列的展开以得到浅层特征向量和深层特征向量;对所述浅层特征向量和所述深层特征向量进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量;计算所述第一稀疏特征向量相对于所述第二稀疏特征向量的第一JS散度;计算所述第二稀疏特征向量相对于所述第一稀疏特征向量的第二JS散度;对所述第一JS散度和所述第二JS散度进行归一化处理以得到归一化第一JS散度和归一化第二JS散度;以所述归一化第一JS散度和所述归一化第二JS散度作为权重,融合所述第一稀疏特征向量和所述第二稀疏特征向量以得到融合特征向量;以及,对所述融合特征向量进行重排以得到所述分类特征图。
在一个具体示例中,在上述生产线质量监测系统中,所述监测结果生成模块160,包括:使用所述分类器以如下公式对所述分类特征图进行处理以生成分类结果;
其中,所述分类公式为:
softmax{(Mc,Bc)|Project(F)}
其中Project(F)表示将所述分类特征图投影为向量,Mc为全连接层的权重矩阵,Bc表示全连接层的偏置矩阵,softmax表示归一化指数函数。
这里,本领域技术人员可以理解,上述生产线质量监测系统中的各个模块的具体操作已经在上面参考图1到图3的生产线质量监测方法的描述中得到了详细介绍,并因此,将省略其重复描述。
示例性电子设备
下面,参考图5来描述根据本申请实施例的电子设备。图5为根据本申请实施例的电子设备的框图。
如图5所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的生产线质量监测系统中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如待检测产品的图像等各种内容。
在一个示例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
该输入装置13可以包括例如键盘、鼠标等等。
该输出装置14可以向外部输出各种信息,包括分类结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图5中仅示出了该电子设备10中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的生产线质量监测方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的生产线质量监测方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (10)
1.一种生产线质量监测方法,其特征在于,包括:
通过摄像头获取待检测产品的图像;
对所述待检测产品的图像进行图像分块处理以得到多个图像块;
将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;
将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;
将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及
将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
2.根据权利要求1所述的生产线质量监测方法,其特征在于,对所述待检测产品的图像进行图像分块处理以得到多个图像块,包括:对所述待检测产品的图像进行均匀图像分块处理以得到所述多个图像块,其中,所述多个图像块中各个图像块具有相同的尺寸。
3.根据权利要求2所述的生产线质量监测方法,其特征在于,所述目标检测网络为基于锚窗的目标检测网络,所述基于锚窗的目标检测网络为Fast R-CNN、Faster R-CNN或RetinaNet。
4.根据权利要求3所述的生产线质量监测方法,其特征在于,将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域,包括:
将所述图像块通过所述目标检测网络的多层卷积层以得到检测特征图;以及
使用所述目标检测网络的目标锚定层以如下检测公式对所述检测特征图进行处理以得到所述外观感兴趣区域;
其中,所述检测公式为:
Dets=H(ψdet,B)=(cls(ψdet,B),Regr(ψdet,B))
其中,ψdet为检测特征图,B表示锚窗、cls(ψdet,B)表示分类函数、Regr(ψdet,B)表示回归函数。
5.根据权利要求4所述的生产线质量监测方法,其特征在于,所述对抗生成网络包括鉴别器和生成器。
6.根据权利要求5所述的生产线质量监测方法,其特征在于,将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域,包括:
将所述外观感兴趣区域输入所述基于对抗生成网络的图像清晰度增强器的生成器以由所述生成器对所述外观感兴趣区域进行反卷积处理以得到所述增强外观感兴趣区域。
7.根据权利要去6所述的生产线质量监测方法,其特征在于,将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图,包括:
从所述包含深浅融合模块的卷积神经网络模型的第M层提取浅层特征图,其中,M大于等于1且小于等于6;
从所述包含深浅融合模块的卷积神经网络模型的第N层提取深层特征图,其中,N/M大于等于5且小于等于10;以及
融合所述浅层特征图和所述深层特征图以得到分类特征图。
8.根据权利要求7所述的生产线质量监测方法,其特征在于,融合所述浅层特征图和所述深层特征图以得到分类特征图,包括:
对所述浅层特征图和所述深层特征图分别进行按行或者按列的展开以得到浅层特征向量和深层特征向量;
对所述浅层特征向量和所述深层特征向量进行稀疏编码以得到第一稀疏特征向量和第二稀疏特征向量;
计算所述第一稀疏特征向量相对于所述第二稀疏特征向量的第一JS散度;
计算所述第二稀疏特征向量相对于所述第一稀疏特征向量的第二JS散度;
对所述第一JS散度和所述第二JS散度进行归一化处理以得到归一化第一JS散度和归一化第二JS散度;
以所述归一化第一JS散度和所述归一化第二JS散度作为权重,融合所述第一稀疏特征向量和所述第二稀疏特征向量以得到融合特征向量;以及
对所述融合特征向量进行重排以得到所述分类特征图。
9.根据权利要求8所述的生产线质量监测方法,其特征在于,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷,包括:使用所述分类器以如下公式对所述分类特征图进行处理以生成分类结果;
其中,所述分类公式为:
softmax{(Mc,Bc)|Project(F)}
其中Project(F)表示将所述分类特征图投影为向量,Mc为全连接层的权重矩阵,Bc表示全连接层的偏置矩阵,softmax表示归一化指数函数。
10.一种生产线质量监测系统,其特征在于,包括:
监控模块,用于通过摄像头获取待检测产品的图像;
图像分块模块,用于对所述待检测产品的图像进行图像分块处理以得到多个图像块;
目标检测模块,用于将所述多个图像块分别通过目标检测网络以得到至少一个外观感兴趣区域;
图像增强模块,用于将所述外观感兴趣区域通过基于对抗生成网络的图像清晰度增强器以得到增强外观感兴趣区域;
深浅特征提取模块,用于将所述增强外观感兴趣区域通过包含深浅融合模块的卷积神经网络模型以得到分类特征图;以及
监测结果生成模块,用于将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示该产品的外观质量是否存在缺陷。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310980013.9A CN117036271A (zh) | 2023-08-04 | 2023-08-04 | 生产线质量监测方法及其系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310980013.9A CN117036271A (zh) | 2023-08-04 | 2023-08-04 | 生产线质量监测方法及其系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117036271A true CN117036271A (zh) | 2023-11-10 |
Family
ID=88625603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310980013.9A Pending CN117036271A (zh) | 2023-08-04 | 2023-08-04 | 生产线质量监测方法及其系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117036271A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117409005A (zh) * | 2023-12-14 | 2024-01-16 | 深圳市鹏诚通电子有限公司 | 基于图像的收板机用不良品检测系统及方法 |
CN117475241A (zh) * | 2023-12-27 | 2024-01-30 | 山西省水利建筑工程局集团有限公司 | 用于悬臂式掘进机隧洞开挖的地质突变检测系统及方法 |
-
2023
- 2023-08-04 CN CN202310980013.9A patent/CN117036271A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117409005A (zh) * | 2023-12-14 | 2024-01-16 | 深圳市鹏诚通电子有限公司 | 基于图像的收板机用不良品检测系统及方法 |
CN117409005B (zh) * | 2023-12-14 | 2024-05-24 | 深圳市鹏诚通电子有限公司 | 基于图像的收板机用不良品检测系统及方法 |
CN117475241A (zh) * | 2023-12-27 | 2024-01-30 | 山西省水利建筑工程局集团有限公司 | 用于悬臂式掘进机隧洞开挖的地质突变检测系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11710045B2 (en) | System and method for knowledge distillation | |
US20210089895A1 (en) | Device and method for generating a counterfactual data sample for a neural network | |
US20190139212A1 (en) | Inspection apparatus, data generation apparatus, data generation method, and data generation program | |
CN117036271A (zh) | 生产线质量监测方法及其系统 | |
KR20190063839A (ko) | 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템 | |
Zipfel et al. | Anomaly detection for industrial quality assurance: A comparative evaluation of unsupervised deep learning models | |
CN115564766B (zh) | 水轮机蜗壳座环的制备方法及其系统 | |
US11663840B2 (en) | Method and system for removing noise in documents for image processing | |
CN111523421A (zh) | 基于深度学习融合各种交互信息的多人行为检测方法及系统 | |
CN115901794B (zh) | 一种条形光源检测瓶口瑕疵的系统及方法 | |
CN117030129A (zh) | 纸杯在线检漏方法及其系统 | |
CN116030018A (zh) | 用于门加工的来料合格检验系统及方法 | |
CN113554630A (zh) | 芯片表面缺陷检测方法、系统、计算机设备和存储介质 | |
CN115471476A (zh) | 一种部件缺陷检测方法、装置、设备及介质 | |
CN117173154A (zh) | 玻璃瓶的在线图像检测系统及其方法 | |
CN112597997A (zh) | 感兴趣区域确定方法、图像内容识别方法及装置 | |
CN112884721A (zh) | 一种异常检测方法、系统及计算机可读存储介质 | |
CN116994049A (zh) | 全自动针织横机及其方法 | |
CN117011274A (zh) | 自动化玻璃瓶检测系统及其方法 | |
CN117291900A (zh) | 光伏组件的加工方法及其系统 | |
CN116797586A (zh) | 纸杯缺陷自动检测方法及其系统 | |
CN114037877B (zh) | 基于局部异常数据提升全局异常检测性能的方法及系统 | |
CN116185812A (zh) | 一种软件系统功能自动化测试方法、装置及介质 | |
JP7302752B2 (ja) | ラベリング訓練方法およびそれを実施するためのシステム | |
CN115439446A (zh) | 一种外观缺陷检测方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |