CN108010029A - 基于深度学习和支持向量数据描述的织物疵点检测方法 - Google Patents
基于深度学习和支持向量数据描述的织物疵点检测方法 Download PDFInfo
- Publication number
- CN108010029A CN108010029A CN201711447836.6A CN201711447836A CN108010029A CN 108010029 A CN108010029 A CN 108010029A CN 201711447836 A CN201711447836 A CN 201711447836A CN 108010029 A CN108010029 A CN 108010029A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msubsup
- mfrac
- parameter
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30124—Fabrics; Textile; Paper
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了基于深度学习和支持向量数据描述的织物疵点检测方法,包含学习过程和检测过程。网络的学习是建立在无疵点图像基础上,通过图像预处理得到训练样本特征向量集,然后训练深度神经网络层叠自编码器(SAE)中的参数得到降维后的特征向量集,最后采用随机漂移粒子群优化(RDPSO)算法优化支持向量数据描述(SVDD)的参数。检测时,首先得到待检测图像的特征向量集,然后采用SAE得到降维后的特征向量集,最后输入到SVDD中得到疵点检测结果。本发明的方法能够解决现有疵点检测方法人为选择特征的缺陷和不足,提高检测效果的准确度和精度。
Description
技术领域
本发明涉及基于深度学习和支持向量数据描述的织物疵点检测方法,属于模式识别技术领域。
背景技术
在织物生产过程中,织物疵点的产生不可避免。传统的人工检测的方法存在检测结果受人的主观影响、漏检率高、人工成本高等问题,越来越成为企业发展的瓶颈。随着计算机技术的发展,依靠机器视觉对织物疵点进行自动检测的方法具有稳定性高、节约人工成本、提高生产效率等优点,逐渐得到发展与应用。
目前,基于机器视觉的织物疵点检测方法都是对获取的织物图像进行处理,特征的选择必须由人来完成。在不同织物具有不同背景图案的情况下,如何合理选择有效的特征成为需要解决的难题。
发明内容
本发明的目的在于提供一种基于深度学习和支持向量数据描述的织物疵点检测方法,利用深度学习自动选择特征的特点,将深度学习技术应用在织物疵点检测领域,解决现有疵点检测方法人为选择特征的缺陷和不足。
为实现上述目的,本发明提供了一种基于深度学习和支持向量数据描述的织物疵点检测方法,包含学习过程和检测过程;所述学习过程包括:(1)获取多幅无疵点织物图像,对图像进行预处理得到特征向量集;(2)将步骤(1)得到的特征向量集作为深度神经网络的输入,经训练后得到降维后的特征向量集;(3)通过随机漂移粒子群优化(RDPSO)算法优化确定支持向量数据描述(SVDD)的参数;所述检测过程包含如下步骤:(1)对一幅待检测织物图像进行预处理得到特征向量集,具体实现过程同学习过程步骤(1),区别在于子图像之间不互相重叠;(2)将每幅子图像对应的特征向量输入到SAE中,得到降维后的特征向量;(3)将降维后的特征向量作为SVDD的输入,得到所对应的子图像中是否有疵点的判别结果。
在本发明的一种实施方式中,所述学习过程的步骤(1)具体为:(a)每幅图像与一组Gabor滤波器卷积变换得到多幅滤波图像;(b)计算得到每幅滤波图像的能量图像,按照一定规律将每幅能量图像分成互相重叠的多幅子图像;(c)由每幅子图像所对应的多幅Gabor滤波后的能量图像的所有像素灰度值,得到一个特征向量,由所有子图像得到特征向量集。
在本发明的一种实施方式中,所述Gabor滤波器的二维空间域Gabor滤波函数表示为:
其中
x′=xcosθ-ysinθ (2)
y′=xsinθ+ycosθ (3)
σx和σy分别为高斯窗口在时域x轴与y轴上的标准差。λ为波长,θ为旋转角度。
在本发明的一种实施方式中,Gabor滤波器由多个不同波长和不同方向构造获得,Gabor滤波器的个数为波长种类数和方向种类数的乘积。
在本发明的一种实施方式中,所述计算得到每幅滤波图像的能量图像,按照一定规律将每幅能量图像分成互相重叠的多幅子图像具体是:
假设滤波后图像为r(x,y),其能量图像Er(x,y)由下式得到:
其中rRe(x,y)和rIm(x,y)分别为图像r(x,y)的实部和虚部;
能量图像按照从左至右从上至下的方式可分成互相重叠的多幅子图像。
在本发明的一种实施方式中,所述深度神经网络包括但不限于层叠自编码器(SAE)。
在本发明的一种实施方式中,所述步骤(2)是将步骤(1)得到的特征向量集作为深度神经网络层叠自编码器(SAE)的输入,训练SAE后得到降维后的特征向量集;所述降维是:采用无监督学习方法,调整每一层的参数,使输出值等于输入值;当隐藏层的神经元个数小于输入层的神经元个数时,隐藏层即为输入层的低维表示,从而实现降维的目的。
在本发明的一种实施方式中,所述SAE训练包括预训练过程和微调过程,具体实现如下:
a)预训练过程:从第一层开始,利用自编码器的思想,只训练一层的参数,训练后固定该层的参数,以其输出作为下一层的输入,重复这样的过程得到每一层权重。
假设x是自编码器的输入向量,自编码器可由下式表示:
z=s(Wx+b) (5)
y=s(W′z+b′) (6)
其中z是隐藏层的输出,W是权重,b是偏置,y是自编码器的输出,s(·)是sigmoid函数。自编码器的损失函数可定义为:
L(x,y)=||x-y||2 (7)
通过最小化该损失函数,可得到隐藏层的参数W和b;
b)微调过程:将SAE最后一层隐藏层的输出作为特征输入到分类器进行分类,通过反向传播算法调整所有层的参数以改善结果;
假设现有n个训练样本为{(x(1),y(1)),…,(x(n),y(n))},通过反向传播算法最小化如下的目标函数:
其中hW,b(x(i))为第i个输入样本x(i)的网络实际输出;
使用梯度下降法可更新参数W和b,如下式所示:
其中为第l层第q个神经元与第(l+1)层第p个神经元间的权重,是第(l+1)层第p个神经元的偏置,α为学习速率。
在本发明的一种实施方式中,所述步骤(3)具体包括:
最小化如下目标函数:
约束条件为:
||x(i)-a||2≤R2+ξi,ξi≥0 (12)
其中x(i)为第i个训练样本,即由步骤(1.2)求得的降维后的特征向量,超球体半径为R,球心为a,ξi为松驰变量,C为惩罚参数;
当训练样本非线性可分时,将训练数据用非线性映射投影到高维特征空间,使得这些数据在高维空间中能够线性可分,这样就需引入核函数φ的方法;引入核函数后,式(12)改写为:
||φ(x(i))-a||2≤R2+ξi,ξi≥0 (13)
通过求解凸二次优化问题可确定超球体的球心a和半径R,然后对一个待测试样本t,若为正常样本,则需满足下式:
||φ(t)-a||2<R2 (14)
所述参数C的值和核函数φ的参数σ通过使用RDPSO算法优化SVDD的参数获得。
在本发明的一种实施方式中,用下式作为目标函数f:
其中wA和wR分别为对应分类准确率acc和超球半径R的权值。分类准确率acc为分类准确的样本与总的样本的比值。
使用RDPSO算法优化SVDD的参数的具体过程描述如下:
e)初始化粒子群,包括确定最大迭代次数、搜索空间粒子的维数、粒子的个数、随机初始化粒子的位置;粒子的位置即为SVDD的参数C和σ;
f)求得每个粒子对应的适应度函数值;
g)如果当前为第一次迭代,每个粒子的个体最好位置即为该粒子的初始位置;否则更新每个粒子的个体最好位置和整个粒子群的全局最好位置;
h)如果终止条件满足,则训练结束,整个粒子群的全局最好位置即为最优的一组SVDD的参数C和σ;否则,转到步骤b)。
在本发明的一种实施方式中,检测过程可包含如下步骤:
(1)对一幅待检测织物图像进行预处理得到特征向量集,具体实现过程同学习过程步骤(1),只是子图像之间不互相重叠;
(2)将每幅子图像对应的特征向量输入到SAE中,得到降维后的特征向量;
(3)将降维后的特征向量作为SVDD的输入,得到所对应的子图像中是否有疵点的判别结果;
对于输入样本,若式(14)成立,即该样本包含在SVDD超球体范围内,则为无疵点样本;若不满足式(14),则该样本在SVDD超球体范围外,则为疵点样本。
本发明还提供所述方法在纺织领域质量控制方面的应用。
与现有技术相比,本发明具有如下有益效果:
(1)本发明采用深度神经网络层叠自编码器,自动选择图像特征,解决现有疵点检测方法人为选择特征的缺陷和不足;
(2)本发明根据实际生产过程中疵点图像一时难以获取的实际情况,在需要对某种织物进行检测时,先根据无疵点图像对网络进行短时间的学习,然后网络就可以对织物图像进行疵点检测,能够满足企业实际生产需要;
(3)本发明的疵点检测方法与织物背景图案无关,需要检测新的织物时,只需对新的无疵点织物图像进行学习后就可进行疵点检测。也可将每种织物对应的网络参数保存到数据库中,当要检测以前已经生产过的织物时,只需将该织物对应的网络参数导入就可进行检测,无需再进行学习过程;
(4)本发明将Gabor滤波器与织物图像卷积变换,能够提取图像中的纹理,将一些不必要的背景信息滤除,提高检测准确率;
(5)本发明采用支持向量数据描述作为疵点判别方法,能避免传统的统计模式识别方法局部极值、过学习与欠学习等问题,能有效提升系统的泛化能力,保证系统的检测准确率要求。
附图说明
图1为本发明一种基于深度学习和支持向量数据描述的织物疵点检测方法的流程示意图。
图2为本发明图像预处理过程示意图。
图3为本发明深度神经网络层叠自编码器结构图;其中H1~H4分别为第1~4层隐藏层。。
具体实施方式
下面对本发明的具体实施方式进行详细描述。
如图1所示,一种基于深度学习和支持向量数据描述的织物疵点检测方法,包含学习过程和检测过程。
(1)学习过程可包含如下步骤:
(1.1)获取多幅无疵点织物图像,对图像进行预处理得到特征向量集,图像预处理过程如图2所示,具体实现如下:
(1.1.1)每幅图像与一组Gabor滤波器卷积变换得到多幅滤波图像;
二维空间域Gabor滤波函数可表示为:
其中
x′=x cosθ-y sinθ (2)
y′=x sinθ+y cosθ (3)
σx和σy分别为高斯窗口在时域x轴与y轴上的标准差。λ为波长,θ为旋转角度。
由多个不同波长和不同方向可构造一组Gabor滤波器,将这些滤波器分别与一幅无疵点织物图像卷积变换,可得到多幅滤波后图像。例如,假设有3个波长,4个方向,则可构造一组为12个Gabor滤波器,得到12幅滤波后图像。
(1.1.2)计算得到每幅滤波图像的能量图像,按照一定规律将每幅能量图像分成互相重叠的多幅子图像;
假设滤波后图像为r(x,y),一般情况下,该滤波后图像为复数图像,其能量图像Er(x,y)可由下式得到:
其中rRe(x,y)和rIm(x,y)分别为图像r(x,y)的实部和虚部。
能量图像按照从左至右从上至下的方式可分成互相重叠的多幅子图像。比如,一幅能量图像大小为2000×30,子图像大小为20×20,按照互相重叠10个像素的方式,一幅能量图像可生成398幅子图像。
(1.1.3)由每幅子图像所对应的多幅Gabor滤波后的能量图像的所有像素灰度值,可得到一个特征向量,由所有子图像得到特征向量集;
对于每幅子图像,对应多幅能量图像,这些能量图像上的所有像素的灰度值可构成一个特征向量。比如,一幅大小为20×20的子图像,对应12幅能量图像,则有4800个像素点,构成一个维数为4800的特征向量。由一幅无疵点的织物图像的398个子图像得到特征向量集,大小为398×4800。若有10幅无疵点图像,就可得到大小为3980×4800的特征向量集。
(1.2)将步骤(1.1)得到的特征向量集作为深度神经网络层叠自编码器(SAE)的输入,训练SAE后得到降维后的特征向量集;
由于每幅子图像对应的一个特征向量维数太大,不利于进行疵点检测,因此可采用深度神经网络,比如层叠自编码器(SAE)对特征向量进行降维处理。SAE是一种前馈深度神经网络,由多个自编码器构成。图3所示的SAE深度为5层,每层的神经元个数分别为4800,1600,500,180,60。自编码器有一个隐藏层,采用无监督学习方法,调整每一层的参数,使输出值等于输入值。当隐藏层的神经元个数小于输入层的神经元个数时,隐藏层即为输入层的低维表示,从而实现降维的目的。SAE训练包含两部分,预训练过程和微调过程,具体实现如下:
a)预训练过程:首先是从第一层开始,利用自编码器的思想,只训练一层的参数,训练后固定该层的参数,以其输出作为下一层的输入,重复这样的过程得到每一层权重。
假设x是自编码器的输入向量,自编码器可由下式表示:
z=s(Wx+b) (5)
y=s(W′z+b′) (6)
其中z是隐藏层的输出,W是权重,b是偏置,y是自编码器的输出,s(·)是sigmoid函数。自编码器的损失函数可定义为:
L(x,y)=||x-y||2 (7)
通过最小化该损失函数,可得到隐藏层的参数W和b。
b)微调过程:将图3中SAE最后一层隐藏层H4的输出作为特征输入到分类器进行分类,通过反向传播算法调整所有层的参数以改善结果。
假设现有n个训练样本为{(x(1),y(1)),…,(x(n),y(n))},通过反向传播算法最小化如下的目标函数:
其中hW,b(x(i))为第i个输入样本x(i)的网络实际输出。
使用梯度下降法可更新参数W和b,如下式所示:
其中为第l层第q个神经元与第(l+1)层第p个神经元间的权重,是第(l+1)层第p个神经元的偏置,α为学习速率。
SAE训练后,其最后一层隐藏层H4的输出即为降维后的特征向量,由步骤(1.1)得到的特征向量集作为SAE的输入,就可得到降维后的特征向量集。
(1.3)通过随机漂移粒子群优化(RDPSO)算法优化确定支持向量数据描述(SVDD)的参数。
对于织物疵点检测,可以认为是“异常检测”或是“单分类问题”。在织物加工过程中,绝大多数情况下是正常(无疵点)样本,疵点样本的数目很少。因此根据实际生产过程中疵点图像一时难以获取的实际情况,在训练网络时,只使用无疵点样本。
支持向量数据描述(SVDD)是基于超球体思想提出的一种单分类SVM方法。SVDD的基本原理是寻找一个超球体,在最小化其半径的同时,让训练样本尽可能地被包围在超球体中,即最小化如下目标函数:
约束条件为:
||x(i)-a||2≤R2+ξi,ξi≥0 (12)
其中x(i)为第i个训练样本,即由步骤(1.2)求得的降维后的特征向量,超球体半径为R,球心为a,ξi为松驰变量,C为惩罚参数。
一般情况下,当训练样本非线性可分时,可以将训练数据用一个非线性映射投影到高维特征空间,使得这些数据在高维空间中能够线性可分,这样就需引入核函数φ的方法。高斯核函数因其通用性强,且只涉及一个尺度参数σ,在实际应用中被广泛使用。引入核函数后,式(12)可改写为:
||φ(x(i))-a||2≤R2+ξi,ζi≥0 (13)
通过求解凸二次优化问题可确定超球体的球心a和半径R,然后对一个待测试样本t,若为正常样本,则需满足下式:
||φ(t)-a||2≤R2 (14)
在求解凸二次优化问题前,需要给定参数C的值和核函数φ的参数σ。在本发明中,通过随机漂移粒子群优化(RDPSO)算法优化确定SVDD的参数。
RDPSO算法是在粒子群优化(PSO)算法基础上,根据在随机标准有限温度下外部电场的金属导体自由电子模型而提出的优化方法。RDPSO算法已被证明可保证全局收敛,能找到全局最优解。
在构造目标函数时,分类准确率和超球的半径是需要考虑的两个因素。也就是说,对于某个粒子,若由该粒子得到分类准确率高,超球的半径小,则相应的目标函数的值就越大。因此,在训练时,可用下式作为目标函数f:
其中wA和wR分别为对应分类准确率acc和超球半径R的权值。分类准确率acc为分类准确的样本与总的样本的比值。
使用RDPSO算法优化SVDD的参数的具体过程可描述如下:
i)初始化粒子群,包括确定最大迭代次数、搜索空间粒子的维数、粒子的个数、随机初始化粒子的位置(粒子的位置即为SVDD的参数C和σ);
j)求得每个粒子对应的适应度函数值;
k)如果当前为第一次迭代,每个粒子的个体最好位置即为该粒子的初始位置;否则更新每个粒子的个体最好位置和整个粒子群的全局最好位置;
l)如果终止条件满足(比如达到最大迭代次数),则训练结束,整个粒子群的全局最好位置即为最优的一组SVDD的参数C和σ;否则,转到步骤b)。
(2)检测过程可包含如下步骤:
(2.1)对一幅待检测织物图像进行预处理得到特征向量集,具体实现过程同学习过程步骤(1.1),只是子图像之间不互相重叠;
(2.2)将每幅子图像对应的特征向量输入到SAE中,得到降维后的特征向量;
(2.3)将降维后的特征向量作为SVDD的输入,得到所对应的子图像中是否有疵点的判别结果。
对于输入样本,若式(14)成立,即该样本包含在SVDD超球体范围内,则为无疵点样本(正常样本);若不满足式(14),则该样本在SVDD超球体范围外,则为疵点样本。
虽然本发明已以较佳实施例公开如上,但其并非用以限定本发明,任何熟悉此技术的人,在不脱离本发明的精神和范围内,都可做各种的改动与修饰,因此本发明的保护范围应该以权利要求书所界定的为准。
Claims (10)
1.一种织物疵点检测方法,其特征在于,基于深度学习和支持向量数据描述实现;所述方法包含学习过程和检测过程;
所述学习过程包括:(1)获取多幅无疵点织物图像,对图像进行预处理得到特征向量集;(2)将步骤(1)得到的特征向量集作为深度神经网络的输入,经训练后得到降维后的特征向量集;(3)通过随机漂移粒子群优化算法优化确定支持向量数据描述的参数;
所述检测过程包含:(1)对一幅待检测织物图像进行预处理得到特征向量集,具体实现过程同学习过程的步骤(1),区别在于子图像之间不互相重叠;(2)将每幅子图像对应的特征向量输入到深度神经网络中,得到降维后的特征向量;(3)将降维后的特征向量作为SVDD的输入,得到所对应的子图像中是否有疵点的判别结果。
2.根据权利要求1所述的方法,其特征在于,所述深度神经网络包括层叠自编码器。
3.根据权利要求1或2所述的方法,其特征在于,学习过程的步骤(1)具体为:(a)每幅图像与一组Gabor滤波器卷积变换得到多幅滤波图像;(b)计算得到每幅滤波图像的能量图像,按照一定规律将每幅能量图像分成互相重叠的多幅子图像;(c)由每幅子图像所对应的多幅Gabor滤波后的能量图像的所有像素灰度值,得到一个特征向量,由所有子图像得到特征向量集。
4.根据权利要求3所述的方法,其特征在于,所述Gabor滤波器的二维空间域Gabor滤波函数表示为:
<mrow>
<mi>G</mi>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<mo>-</mo>
<mfrac>
<mn>1</mn>
<mn>2</mn>
</mfrac>
<mo>(</mo>
<mrow>
<mfrac>
<msup>
<mi>x</mi>
<mrow>
<mo>&prime;</mo>
<mn>2</mn>
</mrow>
</msup>
<msubsup>
<mi>&sigma;</mi>
<mi>x</mi>
<mn>2</mn>
</msubsup>
</mfrac>
<mo>+</mo>
<mfrac>
<msup>
<mi>y</mi>
<mrow>
<mo>&prime;</mo>
<mn>2</mn>
</mrow>
</msup>
<msubsup>
<mi>&sigma;</mi>
<mi>y</mi>
<mn>2</mn>
</msubsup>
</mfrac>
</mrow>
<mo>)</mo>
<mo>)</mo>
</mrow>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<mn>2</mn>
<mi>&pi;</mi>
<mi>j</mi>
<mfrac>
<msup>
<mi>x</mi>
<mo>&prime;</mo>
</msup>
<mi>&lambda;</mi>
</mfrac>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
</mrow>
其中
x′=xcosθ+ysinθ (2)
y′=xsinθ+ycosθ (3)
σx和σy分别为高斯窗口在时域x轴与y轴上的标准差;λ为波长,θ为旋转角度。
5.根据权利要求3所述的方法,其特征在于,所述步骤(b)具体是:
假设滤波后图像为r(x,y),其能量图像Er(x,y)由下式得到:
<mrow>
<msub>
<mi>E</mi>
<mi>r</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msup>
<mrow>
<mo>&lsqb;</mo>
<msubsup>
<mi>r</mi>
<mi>Re</mi>
<mn>2</mn>
</msubsup>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msubsup>
<mi>r</mi>
<mi>Im</mi>
<mn>2</mn>
</msubsup>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>)</mo>
</mrow>
<mo>&rsqb;</mo>
</mrow>
<mfrac>
<mn>1</mn>
<mn>2</mn>
</mfrac>
</msup>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>4</mn>
<mo>)</mo>
</mrow>
</mrow>
其中rRe(x,y)和rIm(x,y)分别为图像r(x,y)的实部和虚部;
能量图像按照从左至右从上至下的方式分成互相重叠的多幅子图像。
6.根据权利要求1所述的方法,其特征在于,所述学习过程中步骤(2)是将步骤(1)得到的特征向量集作为深度神经网络层叠自编码器的输入,训练SAE后得到降维后的特征向量集;所述降维是:采用无监督学习方法,调整每一层的参数,使输出值等于输入值;当隐藏层的神经元个数小于输入层的神经元个数时,隐藏层即为输入层的低维表示,从而实现降维的目的。
7.根据权利要求6所述的方法,其特征在于,所述训练SAE包括预训练过程和微调过程,具体实现如下:
a)预训练过程:从第一层开始,利用自编码器的思想,只训练一层的参数,训练后固定该层的参数,以其输出作为下一层的输入,重复这样的过程得到每一层权重。
假设x是自编码器的输入向量,自编码器由下式表示:
z=s(Wx+b) (5)
y=s(W′z+b′) (6)
其中z是隐藏层的输出,W是权重,b是偏置,y是自编码器的输出,s(·)是sigmoid函数;自编码器的损失函数定义为:
L(x,y)=||x-y||2 (7)
通过最小化该损失函数,得到隐藏层的参数W和b;
b)微调过程:将SAE最后一层隐藏层的输出作为特征输入到分类器进行分类,通过反向传播算法调整所有层的参数以改善结果;
假设现有n个训练样本为{(x(1),y(1)),…,(x(n),y(n))},通过反向传播算法最小化如下的目标函数:
<mrow>
<mi>J</mi>
<mrow>
<mo>(</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfrac>
<mn>1</mn>
<mi>R</mi>
</mfrac>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</munderover>
<mrow>
<mo>(</mo>
<mfrac>
<mn>1</mn>
<mn>2</mn>
</mfrac>
<mo>|</mo>
<mo>|</mo>
<msub>
<mi>h</mi>
<mrow>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
</mrow>
</msub>
<mo>(</mo>
<msup>
<mi>x</mi>
<mrow>
<mo>(</mo>
<mi>i</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>)</mo>
<mo>-</mo>
<msup>
<mi>y</mi>
<mrow>
<mo>(</mo>
<mi>i</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>8</mn>
<mo>)</mo>
</mrow>
</mrow>
其中hW,b(x(i))为第i个输入样本x(i)的网络实际输出;
使用梯度下降法更新参数W和b,如下式所示:
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>p</mi>
<mi>q</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>=</mo>
<msubsup>
<mi>W</mi>
<mrow>
<mi>p</mi>
<mi>q</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>-</mo>
<mi>&alpha;</mi>
<mfrac>
<mrow>
<mo>&part;</mo>
<mi>J</mi>
<mrow>
<mo>(</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
</mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>p</mi>
<mi>q</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
</mfrac>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>9</mn>
<mo>)</mo>
</mrow>
</mrow>
<mrow>
<msubsup>
<mi>b</mi>
<mi>p</mi>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>=</mo>
<msubsup>
<mi>b</mi>
<mi>p</mi>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>-</mo>
<mi>&alpha;</mi>
<mfrac>
<mrow>
<mo>&part;</mo>
<mi>J</mi>
<mrow>
<mo>(</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
</mrow>
<msubsup>
<mi>b</mi>
<mi>p</mi>
<mrow>
<mo>(</mo>
<mi>l</mi>
<mo>)</mo>
</mrow>
</msubsup>
</mfrac>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>10</mn>
<mo>)</mo>
</mrow>
</mrow>
其中为第l层第q个神经元与第(l+1)层第p个神经元间的权重,是第(l+1)层第p个神经元的偏置,α为学习速率。
8.根据权利要求1所述的方法,其特征在于,在学习过程中所述步骤(3)具体包括:
最小化如下目标函数:
<mrow>
<mi>F</mi>
<mrow>
<mo>(</mo>
<mi>R</mi>
<mo>,</mo>
<mi>a</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msup>
<mi>R</mi>
<mn>2</mn>
</msup>
<mo>+</mo>
<mi>C</mi>
<munder>
<mo>&Sigma;</mo>
<mi>i</mi>
</munder>
<msub>
<mi>&xi;</mi>
<mi>i</mi>
</msub>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>11</mn>
<mo>)</mo>
</mrow>
</mrow>
约束条件为:
||x(i)-a||2≤R2+ξi,ξi≥0 (12)
其中x(i)为第i个训练样本,即由步骤(1.2)求得的降维后的特征向量,超球体半径为R,球心为a,ξi为松驰变量,C为惩罚参数;
当训练样本非线性可分时,将训练数据用非线性映射投影到高维特征空间,使得这些数据在高维空间中能够线性可分,这样就需引入核函数φ的方法;引入核函数后,式(12)改写为:
||φ(x(i))-a||2≤R2+ξi,ξi≥0 (13)
通过求解凸二次优化问题确定超球体的球心a和半径R,然后对一个待测试样本t,若样本包含在SVDD超球体范围内,则为无疵点样本;若不满足式(14),则该样本在SVDD超球体范围外,即为疵点样本:
||φ(t)-a||2<R2 (14)
所述参数C的值和核函数φ的参数σ通过使用RDPSO算法优化SVDD的参数获得;
用下式作为目标函数f:
<mrow>
<mi>f</mi>
<mo>=</mo>
<msub>
<mi>w</mi>
<mi>A</mi>
</msub>
<mo>&times;</mo>
<mi>a</mi>
<mi>c</mi>
<mi>c</mi>
<mo>+</mo>
<mfrac>
<msub>
<mi>w</mi>
<mi>R</mi>
</msub>
<mi>R</mi>
</mfrac>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>15</mn>
<mo>)</mo>
</mrow>
</mrow>
其中wA和wR分别为对应分类准确率acc和超球半径R的权值;分类准确率acc为分类准确的样本与总的样本的比值;
使用RDPSO算法优化SVDD的参数的具体过程描述如下:
a)初始化粒子群,包括确定最大迭代次数、搜索空间粒子的维数、粒子的个数、随机初始化粒子的位置;粒子的位置即为SVDD的参数C和σ;
b)求得每个粒子对应的适应度函数值;
c)如果当前为第一次迭代,每个粒子的个体最好位置即为该粒子的初始位置;否则更新每个粒子的个体最好位置和整个粒子群的全局最好位置;
d)如果终止条件满足,则训练结束,整个粒子群的全局最好位置即为最优的一组SVDD的参数C和σ;否则,转到步骤b)。
9.根据权利要求1所述的方法,其特征在于,所述检测过程包括:
(1)对一幅待检测织物图像进行预处理得到特征向量集,具体实现过程同学习过程步骤(1),只是子图像之间不互相重叠;
(2)将每幅子图像对应的特征向量输入到层叠自编码器SAE中,得到降维后的特征向量;
(3)将降维后的特征向量作为支持向量数据描述SVDD的输入,得到所对应的子图像中是否有疵点的判别结果;
对于输入样本,若该样本包含在SVDD超球体范围内,则为无疵点样本;若该样本在SVDD超球体范围外,则为疵点样本。
10.权利要求1~8任一所述方法在纺织领域质量控制方面的应用。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711447836.6A CN108010029B (zh) | 2017-12-27 | 2017-12-27 | 基于深度学习和支持向量数据描述的织物疵点检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711447836.6A CN108010029B (zh) | 2017-12-27 | 2017-12-27 | 基于深度学习和支持向量数据描述的织物疵点检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108010029A true CN108010029A (zh) | 2018-05-08 |
CN108010029B CN108010029B (zh) | 2020-11-03 |
Family
ID=62061805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711447836.6A Active CN108010029B (zh) | 2017-12-27 | 2017-12-27 | 基于深度学习和支持向量数据描述的织物疵点检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108010029B (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108765412A (zh) * | 2018-06-08 | 2018-11-06 | 湖北工业大学 | 一种带钢表面缺陷分类方法 |
CN109490814A (zh) * | 2018-09-07 | 2019-03-19 | 广西电网有限责任公司电力科学研究院 | 基于深度学习和支持向量数据描述的计量自动化终端故障诊断方法 |
CN110046590A (zh) * | 2019-04-22 | 2019-07-23 | 电子科技大学 | 一种基于粒子群优化深度学习特征选择的一维像识别方法 |
CN110084181A (zh) * | 2019-04-24 | 2019-08-02 | 哈尔滨工业大学 | 一种基于稀疏MobileNetV2网络的遥感图像舰船目标检测方法 |
CN110288563A (zh) * | 2019-05-22 | 2019-09-27 | 苏州万卓纺织有限公司 | 一种基于深度学习的织物疵点检测方法 |
CN110659719A (zh) * | 2019-09-19 | 2020-01-07 | 江南大学 | 一种铝型材瑕疵检测方法 |
CN111639065A (zh) * | 2020-04-17 | 2020-09-08 | 太原理工大学 | 一种基于配料数据的多晶硅铸锭质量预测方法及系统 |
CN111709907A (zh) * | 2020-04-26 | 2020-09-25 | 江南大学 | 基于One-Class深度支持向量描述的布匹疵点检测方法 |
CN112095210A (zh) * | 2019-06-18 | 2020-12-18 | 株式会社岛精机制作所 | 通过机械学习进行的编织机的驱动数据的处理方法及处理系统 |
CN113222926A (zh) * | 2021-05-06 | 2021-08-06 | 西安电子科技大学 | 基于深度支持向量数据描述模型的拉链异常检测方法 |
CN113393451A (zh) * | 2021-06-25 | 2021-09-14 | 江南大学 | 一种基于自动机器学习的缺陷检测方法 |
CN113884292A (zh) * | 2021-10-09 | 2022-01-04 | 西安西电开关电气有限公司 | 基于svdd的开关设备机械故障诊断方法和系统 |
CN114565607A (zh) * | 2022-04-01 | 2022-05-31 | 南通沐沐兴晨纺织品有限公司 | 基于神经网络的织物缺陷图像分割方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866427A (zh) * | 2010-07-06 | 2010-10-20 | 西安电子科技大学 | 织物瑕疵检测与分类方法 |
CN103955922A (zh) * | 2014-04-17 | 2014-07-30 | 西安工程大学 | 基于Gabor滤波器的印花织物疵点检测方法 |
CN105205828A (zh) * | 2015-10-20 | 2015-12-30 | 江南大学 | 基于最优Gabor滤波器的经编织物瑕疵检测方法 |
CN106204543A (zh) * | 2016-06-29 | 2016-12-07 | 江南大学 | 基于单分类支持向量机的织物疵点检测方法 |
CN106446895A (zh) * | 2016-10-28 | 2017-02-22 | 安徽四创电子股份有限公司 | 一种基于深度卷积神经网络的车牌识别方法 |
US20170076224A1 (en) * | 2015-09-15 | 2017-03-16 | International Business Machines Corporation | Learning of classification model |
CN106770323A (zh) * | 2016-12-15 | 2017-05-31 | 常州大学 | 基于层次聚类和Gabor滤波的纺织品瑕疵检测方法 |
WO2017171651A1 (en) * | 2016-03-30 | 2017-10-05 | Agency For Science, Technology And Research | System and method for imaging a surface defect on an object |
CN107316295A (zh) * | 2017-07-02 | 2017-11-03 | 苏州大学 | 一种基于深度神经网络的织物瑕疵检测方法 |
-
2017
- 2017-12-27 CN CN201711447836.6A patent/CN108010029B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866427A (zh) * | 2010-07-06 | 2010-10-20 | 西安电子科技大学 | 织物瑕疵检测与分类方法 |
CN103955922A (zh) * | 2014-04-17 | 2014-07-30 | 西安工程大学 | 基于Gabor滤波器的印花织物疵点检测方法 |
US20170076224A1 (en) * | 2015-09-15 | 2017-03-16 | International Business Machines Corporation | Learning of classification model |
CN105205828A (zh) * | 2015-10-20 | 2015-12-30 | 江南大学 | 基于最优Gabor滤波器的经编织物瑕疵检测方法 |
WO2017171651A1 (en) * | 2016-03-30 | 2017-10-05 | Agency For Science, Technology And Research | System and method for imaging a surface defect on an object |
CN106204543A (zh) * | 2016-06-29 | 2016-12-07 | 江南大学 | 基于单分类支持向量机的织物疵点检测方法 |
CN106446895A (zh) * | 2016-10-28 | 2017-02-22 | 安徽四创电子股份有限公司 | 一种基于深度卷积神经网络的车牌识别方法 |
CN106770323A (zh) * | 2016-12-15 | 2017-05-31 | 常州大学 | 基于层次聚类和Gabor滤波的纺织品瑕疵检测方法 |
CN107316295A (zh) * | 2017-07-02 | 2017-11-03 | 苏州大学 | 一种基于深度神经网络的织物瑕疵检测方法 |
Non-Patent Citations (5)
Title |
---|
SHUYUE C.等: "Study of fabric defects detection through Gabor filter based on scale transformation", 《2010 INTERNATIONAL CONFERENCE ON IMAGE ANALYSIS AND SIGNAL PROCESSING》 * |
YAO R.等: "Rapid detection method for fabric defects based on machine vision", 《2010 INTERNATIONAL CONFERENCE ON COMPUTER APPLICATION AND SYSTEM MODELING (ICCASM 2010)》 * |
吴同: "基于深度学习的分类算法研究及应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
尉苗苗 等: "应用最优Gabor滤波器的经编织物疵点检测", 《纺织学报》 * |
景军锋: "基于改进 SAE 网络的织物疵点检测算法", 《电子测量与仪器学报》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108765412A (zh) * | 2018-06-08 | 2018-11-06 | 湖北工业大学 | 一种带钢表面缺陷分类方法 |
CN108765412B (zh) * | 2018-06-08 | 2021-07-20 | 湖北工业大学 | 一种带钢表面缺陷分类方法 |
CN109490814A (zh) * | 2018-09-07 | 2019-03-19 | 广西电网有限责任公司电力科学研究院 | 基于深度学习和支持向量数据描述的计量自动化终端故障诊断方法 |
CN109490814B (zh) * | 2018-09-07 | 2021-02-26 | 广西电网有限责任公司电力科学研究院 | 基于深度学习和支持向量数据描述的计量自动化终端故障诊断方法 |
CN110046590A (zh) * | 2019-04-22 | 2019-07-23 | 电子科技大学 | 一种基于粒子群优化深度学习特征选择的一维像识别方法 |
CN110084181A (zh) * | 2019-04-24 | 2019-08-02 | 哈尔滨工业大学 | 一种基于稀疏MobileNetV2网络的遥感图像舰船目标检测方法 |
CN110288563A (zh) * | 2019-05-22 | 2019-09-27 | 苏州万卓纺织有限公司 | 一种基于深度学习的织物疵点检测方法 |
CN112095210A (zh) * | 2019-06-18 | 2020-12-18 | 株式会社岛精机制作所 | 通过机械学习进行的编织机的驱动数据的处理方法及处理系统 |
CN110659719A (zh) * | 2019-09-19 | 2020-01-07 | 江南大学 | 一种铝型材瑕疵检测方法 |
CN110659719B (zh) * | 2019-09-19 | 2022-02-08 | 江南大学 | 一种铝型材瑕疵检测方法 |
CN111639065A (zh) * | 2020-04-17 | 2020-09-08 | 太原理工大学 | 一种基于配料数据的多晶硅铸锭质量预测方法及系统 |
CN111709907A (zh) * | 2020-04-26 | 2020-09-25 | 江南大学 | 基于One-Class深度支持向量描述的布匹疵点检测方法 |
CN113222926A (zh) * | 2021-05-06 | 2021-08-06 | 西安电子科技大学 | 基于深度支持向量数据描述模型的拉链异常检测方法 |
CN113222926B (zh) * | 2021-05-06 | 2023-04-18 | 西安电子科技大学 | 基于深度支持向量数据描述模型的拉链异常检测方法 |
CN113393451A (zh) * | 2021-06-25 | 2021-09-14 | 江南大学 | 一种基于自动机器学习的缺陷检测方法 |
CN113393451B (zh) * | 2021-06-25 | 2024-03-29 | 江南大学 | 一种基于自动机器学习的缺陷检测方法 |
CN113884292A (zh) * | 2021-10-09 | 2022-01-04 | 西安西电开关电气有限公司 | 基于svdd的开关设备机械故障诊断方法和系统 |
CN113884292B (zh) * | 2021-10-09 | 2023-07-21 | 西安西电开关电气有限公司 | 基于svdd的开关设备机械故障诊断方法和系统 |
CN114565607A (zh) * | 2022-04-01 | 2022-05-31 | 南通沐沐兴晨纺织品有限公司 | 基于神经网络的织物缺陷图像分割方法 |
CN114565607B (zh) * | 2022-04-01 | 2024-06-04 | 汕头市鼎泰丰实业有限公司 | 基于神经网络的织物缺陷图像分割方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108010029B (zh) | 2020-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108010029A (zh) | 基于深度学习和支持向量数据描述的织物疵点检测方法 | |
Li et al. | LGM-Net: Learning to generate matching networks for few-shot learning | |
Jang et al. | Learning what and where to transfer | |
Gulgec et al. | Convolutional neural network approach for robust structural damage detection and localization | |
WO2018112900A1 (zh) | 一种车牌识别方法及装置、用户设备 | |
CN112926641B (zh) | 基于多模态数据的三阶段特征融合旋转机械故障诊断方法 | |
Kussul et al. | Neural networks and micromechanics | |
CN106874914A (zh) | 一种基于深度卷积神经网络的工业机械臂视觉控制方法 | |
CN111160217B (zh) | 一种行人重识别系统对抗样本生成方法及系统 | |
CN107330357A (zh) | 基于深度神经网络的视觉slam闭环检测方法 | |
CN104657717B (zh) | 一种基于分层核稀疏表示的行人检测方法 | |
CN106204543B (zh) | 基于单分类支持向量机的织物疵点检测方法 | |
CN114757904B (zh) | 一种基于ai深度学习算法的表面缺陷检测方法 | |
WO2023284070A1 (zh) | 基于位姿自监督对抗生成网络的弱配对图像风格迁移方法 | |
CN113155464B (zh) | 面向轴承故障识别的cnn模型可视化优化方法 | |
CN113298129B (zh) | 基于超像素和图卷积网络的极化sar图像分类方法 | |
CN114399533B (zh) | 一种基于多层次注意力机制的单目标追踪方法 | |
CN105787562A (zh) | 色织物的纹理类型识别方法 | |
CN111191735A (zh) | 基于数据差异和多尺度特征的卷积神经网络影像分类方法 | |
CN110717451A (zh) | 一种基于深度学习的药用植物叶部病害图像识别方法 | |
Zeng et al. | Convolutional Neural Network Based Multi-feature Fusion for Non-rigid 3D Model Retrieval. | |
CN109558803A (zh) | 基于卷积神经网络与np准则的sar目标鉴别方法 | |
CN113200086A (zh) | 一种智能车转向控制系统及其控制方法 | |
Wang et al. | Global aligned structured sparsity learning for efficient image super-resolution | |
CN117218434A (zh) | 基于混合神经网络的混凝土结构表面缺陷分类方法与系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |