CN115187525A - 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质 - Google Patents

基于知识蒸馏的无监督图像缺陷检测方法、装置及介质 Download PDF

Info

Publication number
CN115187525A
CN115187525A CN202210718773.8A CN202210718773A CN115187525A CN 115187525 A CN115187525 A CN 115187525A CN 202210718773 A CN202210718773 A CN 202210718773A CN 115187525 A CN115187525 A CN 115187525A
Authority
CN
China
Prior art keywords
image
model
student
defect detection
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210718773.8A
Other languages
English (en)
Inventor
伍强
展华益
刘明华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan Qiruike Technology Co Ltd
Original Assignee
Sichuan Qiruike Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan Qiruike Technology Co Ltd filed Critical Sichuan Qiruike Technology Co Ltd
Priority to CN202210718773.8A priority Critical patent/CN115187525A/zh
Publication of CN115187525A publication Critical patent/CN115187525A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G06T7/001—Industrial image inspection using an image reference approach
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761—Proximity, similarity or dissimilarity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于知识蒸馏的无监督图像缺陷检测方法、装置及介质，方法包括：构建教师模型，利用与待检测缺陷领域无关的数据集进行训练，然后对学生模型提供有益于缺陷检测的知识指导；构建学生模型，用于提取图像的多尺度特征图；利用学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；利用学生特征图集合建立像素级缺陷检测模型集合；接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；计算多尺度特征图与像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。本发明只需要无缺陷的样本即可解决缺陷样本少和无缺陷样本的问题。

Description

基于知识蒸馏的无监督图像缺陷检测方法、装置及介质
技术领域
本发明涉及图像处理、机器学习技术领域，尤其涉及一种基于知识蒸馏的无监督图像缺陷检测方法、装置及介质。
背景技术
工业互联网是新一代信息通信技术与工业经济深度融合的全新工业生态、关键基础设施和新型应用模式。它以网络为基础、平台为中枢、数据为要素、安全为保障，通过对人、机、物全面连接，变革传统制造模式、生产组织方式和产业形态，构建起全要素、全产业链、全价值链、全面连接的新型工业生产制造和服务体系，对支撑制造强国和网络强国建设，提升产业链现代化水平，推动经济高质量发展和构建新发展格局，都具有十分重要的意义。
在工业互联网中，产品的预防性检测是至关重要的一个环节，预防性检测能够及时发现产品产生的缺陷以及缺陷的变化趋势，并结合现场的实时工艺参数来优化生产工艺，从而降低次品率、降低生产成本和提高公司的利润。产品的预防性检测主要分为三个阶段：实时工艺参数采集、产品缺陷检测以及工艺的闭环优化。
其中，产品缺陷检测阶段，行业内的通常做法是采用专业人员目检或通过基于监督学习的缺陷检测模型检测的方式。
采用人工目检的方式存在的一下问题：(1)需要培训专业的目检人员；(2)同时人工目检有一定主观性，目检人员的判断能力会受到自身的情绪和身体状况等因素的影响；(3)人工目检是事后处理，对实时整个工艺流程优化没有正向影响。
目前基于监督学习的缺陷检测模型检测存在以下问题：(1)学习过程繁琐；(2)无法在缺陷样本少和无缺陷样本的情况下学习。
发明内容
本发明提供了一种基于知识蒸馏的无监督图像缺陷检测方法、装置及介质，以解决上述技术问题。
本发明采用的技术方案是：提供一种基于知识蒸馏的无监督图像缺陷检测方法，包括：
构建教师模型，所述教师模型是利用与待检测缺陷领域无关的数据集进行训练得到，然后对学生模型提供有益于缺陷检测的知识指导；
构建学生模型，所述学生模型用于提取图像的多尺度特征图；
利用学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
利用所述学生特征图集合建立像素级缺陷检测模型集合；
接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
进一步的，所述构建教师模型的方法包括：
构建一个神经网络模型作为初始教师模型和一个与待检测缺陷领域无关的数据集；之所以构建待检测领域无关的数据集是因为，一般收集本领域的缺陷样本需要大量的人力物力，而本实施例使用其他领域已有的大量带标签的样本作为训练样本，从而大大节省了人力物力。
设定损失函数为交叉熵；
在所述待检测缺陷领域无关的数据集上采用反向传播的方法训练所述初始教师模型，得到所述教师模型。
进一步的，所述构建学生模型的方法包括：
构建初始学生模型和一个待检测缺陷领域的无缺陷数据集；
设定损失函数为
Figure BDA0003710275610000031
公式中L表示中间网络的层数，其中l∈[1，L]，wl为第l层网络的权重，
Figure BDA0003710275610000032
表示教师网络和学生网络的第l层的局部误差，
Figure BDA0003710275610000033
表示教师网络和学生网络的第l层的全局误差，α∈[0，1]为平衡全局误差和局部误差，losstotal代表的是教师网络与学生网络之间的总的知识偏差，通过这一项学生网络和老师网络被连接起来，并且通过最小化目标函数把教师网络的知识传递到学生网络，所述的
Figure BDA0003710275610000034
和
Figure BDA0003710275610000035
通过如下方式得到，教师网络的特征图为
Figure BDA0003710275610000036
教师网络的池化特征为
Figure BDA0003710275610000037
学生网络的特征图为
Figure BDA0003710275610000038
学生网络的池化特征为
Figure BDA0003710275610000039
定义局部误差
Figure BDA00037102756100000310
全局误差
Figure BDA00037102756100000311
其中，Disy(.)表示距离度量至少包括欧式距离或者余弦距离；
在待检测缺陷领域的无缺陷数据集上采用反向传播的方法训练所述的初始学生模型，并且在训练过程中，教师模型的参数保持不变，只更新初始学生模型的参数，得到所述学生模型。
进一步的，所述构建学生特征图集合的方法包括：
将无缺陷图像输入学生模型，提取至少一个中间层的输出特征图；
将小分辨率特征图上采样到与输出特征图中最大分辨率的尺寸一致；
然后将所有的特征图沿通道方向按照像素位置拼接起来；
将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理。
进一步的，所述建立像素级缺陷检测模型集合的方法包括：
将学生特征图集合中所有特征图谱的相同像素点对应的特征向量作为当前像素点的特征集合；
分别对每个像素点的特征集合采用混合高斯模型建立特征分布模型；
将所有像素点的特征分布模型作为像素级缺陷检测模型集合。
进一步的，所述利用所述学生模型建立所述图像的多尺度特征图的方法包括：
利用学生模型提取用户终端发送的图像的多尺度特征图；
将所述多尺度特征图中的小分辨率特征图上采样到与最大分辨率的尺寸一致；
将所有的特征图沿特征通道方向按照像素位置拼接起来；
将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理，得到图像的多尺度特征图。
进一步的，所述得到距离矩阵的方法包括：
分别将用户终端发送的图像的多尺度特征图的每个像素点的特征向量与像素级缺陷检测模型集合中每个像素点对应的高斯分布模型计算相似度，得到每个像素点的距离，所有像素点的距离组合为一个距离矩阵；
将距离矩阵上采样到原始输入图像的尺寸，得到与输入图像尺寸一致的距离矩阵；
采用滤波对距离矩阵进行平滑处理，得到所述的距离矩阵。
进一步的，所述判断用户终端发送的图像是否存在缺陷的方法包括：
若距离矩阵中某一个位置的值大于所述像素级缺陷阈值，则图像对应的位置存在缺陷，反之无缺陷；
若距离矩阵中最大值大于所述的图像级缺陷阈值，则图像存在缺陷，反之无缺陷。
本发明还提供一种基于知识蒸馏的无监督图像缺陷检测装置，包括：
教师模型构建模块，用于获取教师模型，教师模型对学生模型提供有益于缺陷检测的知识指导；
学生模型构建模块，用于获取学生模型，学生模型提取图像的多尺度特征图；
特征图提取模块，用于通过学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
缺陷检测模型构建模块，用于通过学生特征图集合建立像素级缺陷检测模型集合；
接收模块，用于接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
缺陷检测模块，利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
本发明还提供一种存储介质，所述存储介质存储有计算机指令，所述计算机指令被调用时，用于执行上述的基于知识蒸馏的无监督图像缺陷检测方法。
本发明的有益效果是：本发明采用师生模型学习技术，只需要无缺陷的样本即可解决陷样本少和无缺陷样本的问题，因此更具有普适性，网络学习到的特征更加鲁棒，识别精度更高。
附图说明
图1为本发明公开的基于知识蒸馏的无监督图像缺陷检测方法的流程示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步详细描述，但本发明的实施方式不限于此。
实施例1：
参见图1，本实施例一种基于知识蒸馏的无监督图像缺陷检测方法，包括如下步骤：
S1、构建教师模型，所述教师模型是利用与待检测缺陷领域无关的数据集进行训练得到，然后对学生模型提供有益于缺陷检测的知识指导；
S2、构建学生模型，所述学生模型用于提取图像的多尺度特征图；
S3、利用学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
S4、利用所述学生特征图集合建立像素级缺陷检测模型集合；
S5、接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
S6、利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
具体的，教师模型至少包括卷积神经网络模型或者递归神经网络模型。
S1中，所述构建教师模型的方法包括：
S101、构建一个神经网络模型作为初始教师模型和一个与待检测缺陷领域无关的数据集；
S102、设定损失函数为交叉熵；
S103、在所述待检测缺陷领域无关的数据集上采用反向传播的方法训练所述初始教师模型，得到所述教师模型。
具体的，S2中，所述构建学生模型的方法包括：
S201、构建初始学生模型和一个待检测缺陷领域的无缺陷数据集；
S202、设定损失函数为
Figure BDA0003710275610000071
公式中L表示中间网络的层数，其中l∈[1，L]，wl为第l层网络的权重，
Figure BDA0003710275610000072
表示教师网络和学生网络的第l层的局部误差，
Figure BDA0003710275610000073
表示教师网络和学生网络的第l层的全局误差，α∈[0，1]为平衡全局误差和局部误差，losstotal代表的是教师网络与学生网络之间的总的知识偏差，通过这一项学生网络和老师网络被连接起来，并且通过最小化目标函数把教师网络的知识传递到学生网络，所述的
Figure BDA0003710275610000074
和
Figure BDA0003710275610000075
通过如下方式得到，教师网络的特征图为
Figure BDA0003710275610000076
教师网络的池化特征为
Figure BDA0003710275610000077
学生网络的特征图为
Figure BDA0003710275610000078
学生网络的池化特征为
Figure BDA0003710275610000079
定义局部误差
Figure BDA00037102756100000710
全局误差
Figure BDA00037102756100000711
其中，Dist(.)表示距离度量至少包括欧式距离或者余弦距离；
S203、在待检测缺陷领域的无缺陷数据集上采用反向传播的方法训练所述的初始学生模型，并且在训练过程中，教师模型的参数保持不变，只更新初始学生模型的参数，得到所述学生模型。
具体的，S3中，所述构建学生特征图集合的方法包括：
S301、将无缺陷图像输入学生模型，提取至少一个中间层的输出特征图；
S302、将小分辨率特征图上采样到与输出特征图中最大分辨率的尺寸一致；
S303、然后将所有的特征图沿通道方向按照像素位置拼接起来；
S304、将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理。
具体的，S4中，所述建立像素级缺陷检测模型集合的方法包括：
S401、将学生特征图集合中所有特征图谱的相同像素点对应的特征向量作为当前像素点的特征集合；
S402、分别对每个像素点的特征集合采用混合高斯模型建立特征分布模型；
S403、将所有像素点的特征分布模型作为像素级缺陷检测模型集合。
具体的，S6中，所述利用所述学生模型建立所述图像的多尺度特征图的方法包括：
S601、利用学生模型提取用户终端发送的图像的多尺度特征图；
S602、将所述多尺度特征图中的小分辨率特征图上采样到与最大分辨率的尺寸一致；
S603、将所有的特征图沿特征通道方向按照像素位置拼接起来；
S604、将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理，得到图像的多尺度特征图。
具体的，S6中，所述得到距离矩阵的方法包括：
S611、分别将用户终端发送的图像的多尺度特征图的每个像素点的特征向量与像素级缺陷检测模型集合中每个像素点对应的高斯分布模型计算相似度，得到每个像素点的距离，所有像素点的距离组合为一个距离矩阵；
S612、将距离矩阵上采样到原始输入图像的尺寸，得到与输入图像尺寸一致的距离矩阵；
S613、采用滤波对距离矩阵进行平滑处理，得到所述的距离矩阵。
具体的，S6中，所述判断用户终端发送的图像是否存在缺陷的方法包括：
S621、若距离矩阵中某一个位置的值大于所述像素级缺陷阈值，则图像对应的位置存在缺陷，反之无缺陷；
S622、若距离矩阵中最大值大于所述的图像级缺陷阈值，则图像存在缺陷，反之无缺陷。
实施例2
本实施例公开一种基于知识蒸馏的无监督图像缺陷检测装置，包括：
教师模型构建模块，用于获取教师模型，教师模型对学生模型提供有益于缺陷检测的知识指导；
学生模型构建模块，用于获取学生模型，学生模型提取图像的多尺度特征图；
特征图提取模块，用于通过学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
缺陷检测模型构建模块，用于通过学生特征图集合建立像素级缺陷检测模型集合；
接收模块，用于接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
缺陷检测模块，利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
实施例3
本实施例公开一种存储介质，所述存储介质存储有计算机指令，所述计算机指令被调用时，用于执行实施例1所述的基于知识蒸馏的无监督图像缺陷检测方法。
本领域普通技术人员可以理解，实现上述实施例方法中的全部或部分流程是可以通过程序来指令相关的硬件来完成，所述的程序可以存储于计算机可读取存储介质中，该程序在执行时，可包括如上各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-OnlyMemory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，包括：
构建教师模型，所述教师模型是利用与待检测缺陷领域无关的数据集进行训练得到，然后对学生模型提供有益于缺陷检测的知识指导；
构建学生模型，所述学生模型用于提取图像的多尺度特征图；
利用学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
利用所述学生特征图集合建立像素级缺陷检测模型集合；
接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
2.根据权利要求1所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述构建教师模型的方法包括：
构建一个神经网络模型作为初始教师模型和一个与待检测缺陷领域无关的数据集；
设定损失函数为交叉熵；
在所述待检测缺陷领域无关的数据集上采用反向传播的方法训练所述初始教师模型，得到所述教师模型。
3.根据权利要求2所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述构建学生模型的方法包括：
构建初始学生模型和一个待检测缺陷领域的无缺陷数据集；
设定损失函数为
Figure FDA0003710275600000011
公式中L表示中间网络的层数，其中l∈[1，L]，wl为第l层网络的权重，
Figure FDA0003710275600000012
表示教师网络和学生网络的第l层的局部误差，
Figure FDA0003710275600000021
表示教师网络和学生网络的第l层的全局误差，α∈[0，1]为平衡全局误差和局部误差，losstotal代表的是教师网络与学生网络之间的总的知识偏差，通过这一项学生网络和老师网络被连接起来，并且通过最小化目标函数把教师网络的知识传递到学生网络，所述的
Figure FDA0003710275600000022
和
Figure FDA0003710275600000023
通过如下方式得到，教师网络的特征图为
Figure FDA0003710275600000024
教师网络的池化特征为
Figure FDA0003710275600000025
学生网络的特征图为
Figure FDA0003710275600000026
学生网络的池化特征为
Figure FDA0003710275600000027
定义局部误差
Figure FDA0003710275600000028
全局误差
Figure FDA0003710275600000029
其中，Dist(.)表示距离度量至少包括欧式距离或者余弦距离；
在待检测缺陷领域的无缺陷数据集上采用反向传播的方法训练所述的初始学生模型，并且在训练过程中，教师模型的参数保持不变，只更新初始学生模型的参数，得到所述学生模型。
4.根据权利要求3所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述构建学生特征图集合的方法包括：
将无缺陷图像输入学生模型，提取至少一个中间层的输出特征图；
将小分辨率特征图上采样到与输出特征图中最大分辨率的尺寸一致；
然后将所有的特征图沿通道方向按照像素位置拼接起来；
将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理。
5.根据权利要求4所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述建立像素级缺陷检测模型集合的方法包括：
将学生特征图集合中所有特征图谱的相同像素点对应的特征向量作为当前像素点的特征集合；
分别对每个像素点的特征集合采用混合高斯模型建立特征分布模型；
将所有像素点的特征分布模型作为像素级缺陷检测模型集合。
6.根据权利要求5所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述利用所述学生模型建立所述图像的多尺度特征图的方法包括：
利用学生模型提取用户终端发送的图像的多尺度特征图；
将所述多尺度特征图中的小分辨率特征图上采样到与最大分辨率的尺寸一致；
将所有的特征图沿特征通道方向按照像素位置拼接起来；
将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处理，得到图像的多尺度特征图。
7.根据权利要求6所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述得到距离矩阵的方法包括：
分别将用户终端发送的图像的多尺度特征图的每个像素点的特征向量与像素级缺陷检测模型集合中每个像素点对应的高斯分布模型计算相似度，得到每个像素点的距离，所有像素点的距离组合为一个距离矩阵；
将距离矩阵上采样到原始输入图像的尺寸，得到与输入图像尺寸一致的距离矩阵；
采用滤波对距离矩阵进行平滑处理，得到所述的距离矩阵。
8.根据权利要求7所述的基于知识蒸馏的无监督图像缺陷检测方法，其特征在于，所述判断用户终端发送的图像是否存在缺陷的方法包括：
若距离矩阵中某一个位置的值大于所述像素级缺陷阈值，则图像对应的位置存在缺陷，反之无缺陷；
若距离矩阵中最大值大于所述的图像级缺陷阈值，则图像存在缺陷，反之无缺陷。
9.一种基于知识蒸馏的无监督图像缺陷检测装置，其特征在于，包括：
教师模型构建模块，用于获取教师模型，教师模型对学生模型提供有益于缺陷检测的知识指导；
学生模型构建模块，用于获取学生模型，学生模型提取图像的多尺度特征图；
特征图提取模块，用于通过学生模型构建无缺陷图像的多尺度特征集合，得到学生特征图集合；
缺陷检测模型构建模块，用于通过学生特征图集合建立像素级缺陷检测模型集合；
接收模块，用于接收用户终端发送的图像、像素级缺陷阈值和图像级缺陷阈值；
缺陷检测模块，利用所述学生模型建立所述图像的多尺度特征图，计算所述多尺度特征图与所述像素级缺陷检测模型集合的距离，得到距离矩阵，通过距离矩阵与像素级缺陷阈值和图像级缺陷阈值之间的关系，判断用户终端发送的图像是否存在缺陷。
10.一种存储介质，其特征在于，所述存储介质存储有计算机指令，所述计算机指令被调用时，用于执行如权利要求1-8任一项所述的基于知识蒸馏的无监督图像缺陷检测方法。
CN202210718773.8A 2022-06-23 2022-06-23 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质 Pending CN115187525A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210718773.8A CN115187525A (zh) 2022-06-23 2022-06-23 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210718773.8A CN115187525A (zh) 2022-06-23 2022-06-23 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质

Publications (1)

Publication Number Publication Date
CN115187525A true CN115187525A (zh) 2022-10-14

Family

ID=83516005

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210718773.8A Pending CN115187525A (zh) 2022-06-23 2022-06-23 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质

Country Status (1)

Country Link
CN (1) CN115187525A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116228754A (zh) * 2023-05-08 2023-06-06 山东锋士信息技术有限公司 一种基于深度学习和全局差异性信息的表面缺陷检测方法
CN116883390A (zh) * 2023-09-04 2023-10-13 合肥中科类脑智能技术有限公司 模糊抵抗性半监督缺陷检测方法、装置及存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116228754A (zh) * 2023-05-08 2023-06-06 山东锋士信息技术有限公司 一种基于深度学习和全局差异性信息的表面缺陷检测方法
CN116228754B (zh) * 2023-05-08 2023-08-25 山东锋士信息技术有限公司 一种基于深度学习和全局差异性信息的表面缺陷检测方法
CN116883390A (zh) * 2023-09-04 2023-10-13 合肥中科类脑智能技术有限公司 模糊抵抗性半监督缺陷检测方法、装置及存储介质
CN116883390B (zh) * 2023-09-04 2023-11-21 合肥中科类脑智能技术有限公司 模糊抵抗性半监督缺陷检测方法、装置及存储介质

Similar Documents

Publication Publication Date Title
CN112581463B (zh) 图像缺陷的检测方法、装置、电子设备、存储介质及产品
CN115187525A (zh) 基于知识蒸馏的无监督图像缺陷检测方法、装置及介质
CN111444939B (zh) 电力领域开放场景下基于弱监督协同学习的小尺度设备部件检测方法
CN112100403A (zh) 一种基于神经网络的知识图谱不一致性推理方法
US20220076404A1 (en) Defect management apparatus, method and non-transitory computer readable medium
EP4020336A1 (en) Ai-based pre-training model determination system, and ai-based vision inspection management system using same for product production lines
CN115439458A (zh) 基于深度图注意力的工业图像缺陷目标检测算法
CN115760734A (zh) 一种基于改进retinanet算法的带钢表面缺陷检测方法
CN110837566B (zh) 一种针对cnc机床故障诊断的知识图谱的动态构建方法
CN116029979A (zh) 一种基于改进Yolov4的布料瑕疵视觉检测方法
CN113570007B (zh) 零件缺陷识别模型构建优化方法、装置、设备及存储介质
CN113919432A (zh) 一种分类模型构建方法、数据分类方法及装置
CN111310611B (zh) 细胞视野图的检测方法及存储介质
CN111062827B (zh) 一种基于人工智能模式的工程监理方法
CN113255701B (zh) 一种基于绝对-相对学习架构的小样本学习方法和系统
CN112116195B (zh) 基于实例分割的铁路梁生产工序识别方法
CN114419078A (zh) 基于卷积神经网络的表面缺陷区域分割方法及装置
CN114882298B (zh) 一种对抗互补学习模型的优化方法及装置
CN113947567B (zh) 基于多任务学习的缺陷检测方法
CN113794875B (zh) 一种重大项目现场视频偏移智能巡检的方法及装置
CN117079103B (zh) 一种用于神经网络训练的伪标签生成方法及系统
CN116486239A (zh) 一种基于增量学习和开集识别算法的图像异常检测平台
CN117591945A (zh) 一种基于动态支持向量机的企业信用评分样本标注方法
CN116486178A (zh) 一种缺陷检测方法、装置、电子设备及存储介质
CN116958098A (zh) 一种基于yolov7针对液晶面板的缺陷检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination