CN116787227A - 小样本下数据增强与多特征融合的刀具磨损状态监测方法 - Google Patents
小样本下数据增强与多特征融合的刀具磨损状态监测方法 Download PDFInfo
- Publication number
- CN116787227A CN116787227A CN202310772375.9A CN202310772375A CN116787227A CN 116787227 A CN116787227 A CN 116787227A CN 202310772375 A CN202310772375 A CN 202310772375A CN 116787227 A CN116787227 A CN 116787227A
- Authority
- CN
- China
- Prior art keywords
- data
- mffnet
- feature fusion
- generated
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 58
- 238000012544 monitoring process Methods 0.000 title claims abstract description 46
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000005299 abrasion Methods 0.000 title claims description 12
- 238000010586 diagram Methods 0.000 claims abstract description 18
- 238000005520 cutting process Methods 0.000 claims abstract description 15
- 238000013508 migration Methods 0.000 claims abstract description 13
- 230000005012 migration Effects 0.000 claims abstract description 13
- 238000011156 evaluation Methods 0.000 claims abstract description 12
- 238000000605 extraction Methods 0.000 claims abstract description 11
- 238000012216 screening Methods 0.000 claims abstract description 10
- 238000003745 diagnosis Methods 0.000 claims abstract description 5
- 238000012549 training Methods 0.000 claims description 56
- 230000006870 function Effects 0.000 claims description 41
- 238000009826 distribution Methods 0.000 claims description 19
- 230000007246 mechanism Effects 0.000 claims description 15
- 210000002569 neuron Anatomy 0.000 claims description 13
- 238000006243 chemical reaction Methods 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 10
- 230000009467 reduction Effects 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 7
- 230000003044 adaptive effect Effects 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 6
- 238000005259 measurement Methods 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 claims description 4
- 238000001228 spectrum Methods 0.000 claims description 4
- 239000013598 vector Substances 0.000 claims description 4
- 230000006399 behavior Effects 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000008602 contraction Effects 0.000 claims description 3
- 238000012937 correction Methods 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 230000009131 signaling function Effects 0.000 claims description 3
- 238000013519 translation Methods 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 230000008014 freezing Effects 0.000 claims description 2
- 238000007710 freezing Methods 0.000 claims description 2
- 230000002194 synthesizing effect Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 5
- 238000013135 deep learning Methods 0.000 abstract description 3
- 238000002474 experimental method Methods 0.000 abstract description 3
- 238000012545 processing Methods 0.000 abstract description 3
- 239000002184 metal Substances 0.000 abstract description 2
- 229910052751 metal Inorganic materials 0.000 abstract description 2
- 238000003754 machining Methods 0.000 description 3
- 238000003062 neural network model Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000003801 milling Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供一种小样本下数据增强与多特征融合的刀具磨损状态监测方法，设计金属切削加工技术领域。本发明将一维信号分别转换为二维的灰度图与时频图，创建改进的深度卷积生成对抗网络MDCGAN进行少量二维图像样本的数据扩充，并采用评估指标评价其生成效果，然后将经过评估筛选后的生成图像样本与真实图像样本输入到多源特征融合网络MFFNet，通过进行不同模态的特征提取并融合，实现了刀具状态的识别。通过对MFFNet模型参数的迁移，实现对小样本下不同数据集间的跨域诊断。实验在两种不同的数据集上进行验证，并与其他深度学习网络模型进行对比。实验表明，用MDCGAN进行数据增强之后的数据集训练MFFNet模型，其分类精度达到99％以上，能有效提高刀具状态监测的准确性。
Description
技术领域
本发明涉及金属切削加工技术领域，尤其涉及一种小样本下数据增强与多特征融合的刀具磨损状态监测方法。
背景技术
作为铣削加工过程中不可缺少的一部分，刀具磨损的状态将直接影响到加工产品的质量和精度。刀具的持续磨损会引起切削刃与工件接触状态的变化，如果不及时更换刀具，将导致工件报废和设备停机，最终会造成严重的经济损失。
随着人工智能的发展，越来越多的学者将机器学习，尤其是深度学习应用在机械加工状态的监测中，如刀具状态监测、设备健康状态监测等。然而，和其它应用领域不同的是，大多数机械加工过程在正常状态下运行，异常状态下的样本数据量相对较少，容易出现数据不平衡的问题。如果使用不平衡样本数据作为训练样本进行训练，网络模型会过度关注标签样本数足够多的样本特征的特性，导致不平衡类标签分类特性下降，严重影响刀具磨损监测模型的表现。因此，如何解决数据不平衡问题成为提高加工状态监测准确性的关键。
生成对抗网络作为一种无监督学习模型，在增强数据集、加工状态监测领域有着广阔的应用前景。通过训练生成对抗网络产生新样本，从而解决异常样本匮乏的问题，进一步提升刀具监测识别的准确性。
传统的监测识别方法在深度学习模型中提取特征时，输入到网络中的信号是单一的，输入的状态信息往往是单模态的，这种方法缺乏了多模态之间的互补特性。因此，本文通过一维信号转图像的方法，将转换后的灰度图与时频图作为网络模型的输入，实现了不同模态信息的特征提取与融合，充分挖掘了模型的学习潜力。
发明内容
针对现有技术的不足，本发明提供一种小样本下数据增强与多特征融合的刀具磨损状态监测方法。
一种小样本下数据增强与多特征融合的刀具磨损状态监测方法，包括以下步骤：
步骤1、数据采集与预处理：选取切削力信号，将一维切削力信号转换为二维灰度图，并通过连续小波变换将一维切削力信号转换为二维时频图；
所述二维灰度图的转换公式如下：
其中，round{·}表示取整函数，该函数将所有像素值归一化至0～255之间，P(j,k),j＝1......M,k＝1......M表示转化后的每个像素的像素值，M为二维图像的边长，L为一维切削力信号中任意选取的长度，为连续的M×M个采样点；
采用连续小波变换CWT将每个时域波形变换成相应的时频谱，选取Morlet小波函数，变换原理如公式2～4所示。
其中，ψ(t)为基本的母小波函数，ψa,τ(t)为一组时间尺度小波，a和τ分别为尺度因子和平移因子，对于任意的信号函数ψ(t)∈L2(R)，相应的连续小波函数定义为公式(3)，其中为母小波函数ψ(t)的复共轭函数，CWTf(a,τ)为f(t)和ψa,τ(t)的内积。选取Morlet作为小波母函数，表达式为公式(4)，其中w0为小波的中心频率。
步骤2、采用生成对抗网络对原始数据进行样本扩充；建立改进的深度卷积生成对抗网络MDCGAN，并进行训练，将原始的灰度图和时频图输入到MDCGAN中，得到生成后的灰度图和时频图像，使用FID和MMD两个评价指标对原始图片和生成图片进行度量筛选，将原始图片和经过筛选后的图片进行均衡，得到增强后的数据集；
步骤2.1、建立改进的深度卷积生成对抗网络MDCGAN，并对改进的深度卷积生成对抗网络MDCGAN进行训练；
步骤2.1.1、设定模型结构参数，建立改进的深度卷积生成对抗网络MDCGAN；在基于深度卷积生成对抗网络的框架上，改造其生成器和鉴别器；
所述生成器由全连接层和二维转置卷积层组成；所述鉴别器由全连接层和二维卷积层组成；在鉴别器的每个卷积层上加入批处理归一化BN，选择ReLU和Leaky ReLU作为卷积层和转置卷积层的激活函数；生成器和鉴别器的优化器均采用自适应矩估计Adam来更新模型权重；引入Nadam算法，采用了梯度的二阶矩估计来实现了学习率α的自适应调整，Nadam的更新规则描述如下：
其中，θ是待优化的权值或阈值，mt和分别为一阶动量偏差和修正一阶动量偏差，Vt和/>分别为二阶动量偏差和修正二阶动量偏差，t为当前迭代，β1,β2和ε是修正系数。gt为梯度向量，α为学习率；
步骤2.1.2、设定模型训练参数，包括训练次数、迭代步数、学习率、分批的大小和潜在空间的维数，同时设定鉴别器鉴别真伪损失为二元交叉熵损失；
其中生成器和鉴别器损失函数如下：
其中，x表示真实样本数据，表示生成器生成的样本。pdata(x)为来自真实数据的分布，pg为来自生成数据的分布，它是由具有先验pz(z)的简单随机变量z通过G映射得到的，即z～pz(z),x＝G(z)。
步骤2.1.3、开始训练，先训练鉴别器，再训练生成器，将包含真实样本数据的训练集输入训练鉴别器，与此同时将随机噪声输入生成器生成伪样本，而后将伪样本输入鉴别器实现生成器与鉴别器的对抗行为训练生成器；
步骤2.2、将二维灰度图和二维时频图输入到改进的深度卷积生成对抗网络MDCGAN进行生成样本图片；
步骤2.3、采用两个指标FID和MMD对生成的样本图片的相似性和多样性进行评价，并判断生成的样本数据和真实的刀具状态样本数据的分布是否相似；通过FID和MMD来评价人工生成数据的质量，将不符合条件的数据进行丢弃；
具体为，将同一类人工生成的数据依次与真实数据集进行FID与MMD度量，计算其平均值，同时设定阈值M，小于阈值M则认为人工生成的数据与真实数据相似度符合标准，满足条件的数据合成训练数据集；
所述FID表示生成图像的多样性和质量，FID越小，图像多样性越好，质量越好，FID被定义为：
其中，Tr表示矩阵对角线上元素的综合，矩阵中称为矩阵的迹；x和g表示真实的图片和生成的样本图片，μx和μg表示真实图片和生成图片的特征均值，∑x和∑g是真实图片和生成图片的协方差矩阵。
所述MMD用来度量两个数据分布的距离，即两个数据间的相似性。MMD值越小，两个分布越接近，生成图像质量也越好，MMD被定义为：
式中，F表示选择的核函数，k(x,y)为x与y的核映射结果，m和n分别为分布Pr(x)和Pg(y)中实际样本和生成样本的个数，xi和yi分别为真实样本和生成样本数据集。
步骤3、监测识别：构建多源特征融合网络MFFNet，选取设定比例的原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取和识别分类。
步骤3.1、构建多源特征融合网络MFFNet；
将原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取并融合。
所述多源特征融合网络MFFNet包括编码降噪模块和无参数注意力机制模块。
所述编码降噪模块结构：设置自适应阈值剔除噪声信息；其中所述自适应阈值的计算公式为：
其中τ为阈值，x为输入，y为输出。α∈[0,1]为收缩因子,ρ为调整因子。
所述无参数注意力机制模块结构：利用注意力机制对特征信息的权重进行重新分配；
定义了一个能量函数Et，然后获得了其解析解。
其中，其中λ为正则项，t和xi分别是每个通道中目标神经元和其他神经元的特征。为所有神经元在单个通道上的均值，/>为所有神经元在单个通道上的方差，H,W为特征图的高和宽。
整个无参数注意力机制模块的提炼过程如下所示：
其中，X为输入的特征张量，Sigmoid(·)为激活函数，⊙为Hadamard乘积。
步骤3.2、多源特征融合网络MFFNet进行刀具监测识别：
采用增强后的数据集输入到MFFNet中进行刀具磨损状态的识别分类。
步骤4、迁移学习：通过对多源特征融合网络MFFNet的参数迁移，获得实现不同数据集之间的监测诊断；
首先，使用源域数据进行训练，冻结多源特征融合网络MFFNet的网络层结构，并提取多源特征融合网络MFFNet的参数，利用目标域数据对多源特征融合网络MFFNet的分类器进行参数的微调，以实现多源特征融合网络MFFNet的参数迁移；
所述微调具体为，源域的训练好的权重参数保存，在目标域上训练时，不是从零开始训练，而是在源域训练好的源特征融合网络MFFNet权重基础上继续训练。
采用上述技术方案所产生的有益效果在于：
本发明提供一种小样本下数据增强与多特征融合的刀具磨损状态监测方法。实验结果表明，经过数据增强后的样本输入到神经网络进行训练比直接使用原始图片输入到神经网络中识别的精度准确度高，解决了目前刀具磨损样本数量少的问题，验证了所提方法在刀具磨损状态监测方面的有效性。同时，多特征融合网络实现了不同特征的提取和融合，实现了更高的分类识别效果。最后，通过一种参数迁移方法实现了不同数据集间的监测诊断，这为实现不同工况下的刀具监测提供了新思路。
附图说明
图1为本发明实施例中刀具磨损状态监测方法流程图；
图2为本发明实施例中转化后的灰度图图像；
其中，图(a)-初期磨损，(b)-正常磨损，(c)-严重磨损；
图3为本发明实施例中转换后的时频图图像；
图4为本发明实施例中改进的深度卷积生成对抗网络MDCGAN结构图；
图5为本发明实施例中编码降噪模块结构图；
图6为本发明实施例中无参数注意力机制模块结构图；
图7为本发明实施例中监测识别结果图；
图8为本发明实施例中监测识别精度和损失图；
其中，图(a)-监测识别精度图，(b)-损失图；
图9为本发明实施例中迁移监测诊断框架图。
具体实施方式
下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。
一种小样本下数据增强与多特征融合的刀具磨损状态监测方法，如图1所示，包括以下步骤：
步骤1、数据采集与预处理：选取切削力信号，将一维切削力信号转换为二维灰度图，并通过连续小波变换将一维切削力信号转换为二维时频图；
灰度图转化过程完全不需要人工专家干预，整个输入输出过程依靠转化公式即可完成，能够消除人工干预对特征提取的影响，使得整个过程更加的智能化。所述二维灰度图的转换公式如下：
其中，round{·}表示取整函数，该函数将所有像素值归一化至0～255之间，正好为灰度图像的像素值域。P(j,k),j＝1......M,k＝1......M表示转化后的每个像素的像素值，M为二维图像的边长，L为一维切削力信号中任意选取的长度，为连续的M×M个采样点；本实施例中，L是4096，M是64。
本实施例中结合实际加工状况，将刀具磨损划分为3个状态。包括初期磨损、正常磨损、严重磨损(后刀面磨损量依次为[0,0.07)、[0.07,0.120)、[0.120,+∞))。从每个状态连续随机抽取4096个点300次作为可用样本，其中50个样本用于MACGAN中以生成新样本，100个样本用作监测识别的测试集。将一维刀具原始信号重构为二维矩阵，变换后的刀具磨损图像数据如图2所示。可以看出，不同磨损状态的刀具图像之间有不同的特定特征，较易区分。
时频图能清晰地描述信号频率随时间的波动，同时也能表达信号的能量分布，采用连续小波变换CWT将每个时域波形变换成相应的时频谱，选取Morlet小波函数，变换原理如公
式2～4所示。
其中，ψ(t)为基本的母小波函数，ψa,τ(t)为一组时间尺度小波，a和τ分别为尺度因子和平移因子，对于任意的信号函数ψ(t)∈L2(R)，相应的连续小波函数定义为公式(3)，其中为母小波函数ψ(t)的复共轭函数，CWTf(a,τ)为f(t)和ψa,τ(t)的内积。选取Morlet作为小波母函数，表达式为公式(4)，其中w0为小波的中心频率。
为了后续的图像统一输入到网络中进行训练，将时频谱以热图的形式可视化为像素为64*64的RGB三通道时频图。转换后的时频图如图3所示。
步骤2、训练数据量不足往往会阻碍分类算法的性能，采用生成对抗网络对原始数据进行样本扩充；建立改进的深度卷积生成对抗网络MDCGAN，并进行训练，将原始的灰度图和时频图输入到MDCGAN中，得到生成后的灰度图和时频图像，使用FID和MMD两个评价指标对原始图片和生成图片进行度量筛选，，将原始图片和经过筛选后的图片进行均衡，得到增强后的数据集，用于后续的监测识别网络。
步骤2.1、建立改进的深度卷积生成对抗网络MDCGAN，并对改进的深度卷积生成对抗网络MDCGAN进行训练；
基本的GAN结构中，生成器和鉴别器均为多层感知器结构，两者之间采用对抗训练的方式，完成生成式对抗网络模型的建立过程。我们通过对模型的卷积结构、损失函数进行改进，创建一种新的生成对抗网络MDCGAN。
步骤2.1.1、设定模型结构参数，建立改进的深度卷积生成对抗网络MDCGAN；在基于深度卷积生成对抗网络的框架上，改造其生成器和鉴别器；
所述生成器由全连接层和二维转置卷积层组成；所述鉴别器由全连接层和二维卷积层组成；为了加快训练收敛速度，避免过拟合，在鉴别器的每个卷积层上加入批处理归一化BN(batch normalization,BN)。选择Rectified linear unit(ReLU)和Leaky ReLU作为卷积层和转置卷积层的激活函数；具体结构如图4所示。生成器和鉴别器的优化器均采用自适应矩估计Adam来更新模型权重；引入Nadam算法，采用了梯度的二阶矩估计来实现了学习率α的自适应调整，Nadam结合自适应矩估计Adam和Nesterov加速度梯度算法，相较于其他优化器，可以更快迭代更新，获得最优参数更新。Nadam的更新规则描述如下：
其中，θ是待优化的权值或阈值，mt和分别为一阶动量偏差和修正一阶动量偏差，Vt和V^t分别为二阶动量偏差和修正二阶动量偏差，t为当前迭代，β1,β2和ε是修正系数。gt为梯度向量，α为学习率。在本次训练测试中，将生成器和鉴别器的学习率设为0.002，β1,β2设为0.5和0.99。
步骤2.1.2、设定模型训练参数，包括训练次数、迭代步数、学习率、分批的大小和潜在空间的维数，同时设定鉴别器鉴别真伪损失为二元交叉熵损失；
其中生成器和鉴别器损失函数如下：
其中，x表示真实样本数据，表示生成器生成的样本。pdata(x)为来自真实数据的分布，pg为来自生成数据的分布，它是由具有先验pz(z)的简单随机变量z通过G映射得到的，即z～pz(z),x＝G(z)。
步骤2.1.3、开始训练，先训练鉴别器，再训练生成器，将包含真实样本数据的训练集输入训练鉴别器，与此同时将随机噪声输入生成器生成伪样本，而后将伪样本输入鉴别器实现生成器与鉴别器的对抗行为训练生成器；
步骤2.2、将二维灰度图和二维时频图输入到改进的深度卷积生成对抗网络MDCGAN进行生成样本图片；
步骤2.3、采用两个指标FID和MMD对生成的样本图片的相似性和多样性进行评价，并判断生成的样本数据和真实的刀具状态样本数据的分布是否相似；通过FID和MMD来评价人工生成数据的质量，将不符合条件的数据进行丢弃；
具体为，将同一类人工生成的数据依次与真实数据集进行FID与MMD度量，计算其平均值，同时设定阈值M，小于阈值M则认为人工生成的数据与真实数据相似度符合标准，阈值的设定可计算真实数据与真实数据的FID和MMD来给定，满足条件的数据合成训练数据集。
将训练到一定次数后得到的生成样本，比真实图像进行评估对比。评价指标采用FID和MMD，指标效果好的图像，保存下来。待训练结束后利用真实样本和筛选后的生成样本进行均衡，得到增强后的数据集，用于后续的监测识别网络模型的数据集。
所述FID(Fréchet Inception Distance)表示生成图像的多样性和质量，FID越小，图像多样性越好，质量越好，FID被定义为：
其中，Tr表示矩阵对角线上元素的综合，矩阵中称为矩阵的迹；x和g表示真实的图片和生成的样本图片，μx和μg表示真实图片和生成图片的特征均值，∑x和∑g是真实图片和生成图片的协方差矩阵。
所述MMD用来度量两个数据分布的距离，即两个数据间的相似性。MMD值越小，两个分布越接近，生成图像质量也越好，MMD被定义为：
式中，F表示选择的核函数，一般为高斯核函数，k(x,y)为x与y的核映射结果，m和n分别为分布Pr(x)和Pg(y)中实际样本和生成样本的个数。xi和yi分别为真实样本和生成样本数据集。
步骤2.4、对比其他GAN模型，验证本文所提的MDCGAN的数据增强有效性。
步骤3、监测识别：构建多源特征融合网络MFFNet，选取设定比例的原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取和识别分类。并对比其他深度网络模型。
步骤3.1、构建多源特征融合网络MFFNet；
所述多源特征融合网络MFFNet是指在构建刀具磨损监测识别的神经网络模型中，灰度图和时频图通过双通道输入到神经网络模型，提取不同模态的特征，并对特征向量进行拼接，达到特征融合的效果。最后通过最小化损失来达到识别分类的效果。
将原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取并融合。
所述多源特征融合网络MFFNet包括编码降噪模块和无参数注意力机制模块。
所述编码降噪模块结构：在将图像输入到神经网络模型时，图片中会存在着一些噪声信息。这时，需要一种降噪处理来排除噪声对训练的干扰。在本文中，我们提出了一种编码降噪模块，设置自适应阈值剔除噪声信息；编码降噪模块结构网络结构如图5所示。其中所述自适应阈值的计算公式为：
其中τ为阈值，x为输入，y为输出。α∈[0,1]为收缩因子,ρ为调整因子。
所述无参数注意力机制模块结构(SimAM)：经无参数注意力机制模块挖掘需要关注的信息。利用注意力机制对特征信息的权重进行重新分配以弱化冗余特征。基于无参数注意力机制的多模态特征提取模块如图6所示。
现有的注意力基础模块存在两个问题。一个是他们只能在通道或者空间维度中的一个维度对特征进行精炼，但在空间和通道同时变化的空间缺乏灵活性。第二是他们的结构往往需要基于一系列的复杂操作，例如池化。文本基于完善的神经科学理论提出的模块很好的解决了上述两个问题。具体来说，为了让网络学习到更具区分性的神经元，提出直接从当前的神经元推理出三维的权重，然后反过来去优化这些神经元。为了有效的推理出三维的权重，基于神经科学的知识定义了一个能量函数Et，然后获得了其解析解。
其中，λ为正则项，t和xi分别是每个通道中目标神经元和其他神经元的特征。为所有神经元在单个通道上的均值，/>为所有神经元在单个通道上的方差，H,W为特征图的高和宽。
整个无参数注意力机制模块的提炼过程如下所示：
其中，X为输入的特征张量，Sigmoid(·)用来约束过大的值，它不会影响每个神经元的相对重要性，因为它是一个单调函数，⊙为Hadamard乘积。
步骤3.2、多源特征融合网络MFFNet进行刀具监测识别：
采用增强后的数据集输入到MFFNet中进行刀具磨损状态的识别分类。为了验证所提MFFNet模型的有效性，对比其他深度学习网络模型，如CNN、LSTM、GRU。实验结果表明，MFFNet的分类精度达到了99％，优于其他深度学习模型。
步骤4、迁移学习：通过对多源特征融合网络MFFNet的参数迁移，获得实现不同数据集之间的监测诊断；
首先，使用源域数据进行训练，本实施例中源域数据使用PHM2010刀具数据集，冻结多源特征融合网络MFFNet的网络层结构，并提取多源特征融合网络MFFNet的参数，利用目标域数据对多源特征融合网络MFFNet的分类器进行参数的微调，以实现多源特征融合网络MFFNet的参数迁移，本实施例中目标域数据为实验采集的刀具数据，图7为本发明实施例中监测识别结果图；图8为本发明实施例中监测识别精度和损失图；
所述微调具体为，源域的训练好的权重参数保存，在目标域上训练时，不是从零开始训练，而是在源域训练好的多源特征融合网络MFFNet权重基础上继续训练。其中迁移监测诊断框架如图9所示。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (5)
1.一种小样本下数据增强与多特征融合的刀具磨损状态监测方法，其特征在于，包括以下步骤：
步骤1、数据采集与预处理：选取切削力信号，将一维切削力信号转换为二维灰度图，并通过连续小波变换将一维切削力信号转换为二维时频图；
步骤2、采用生成对抗网络对原始数据进行样本扩充；建立改进的深度卷积生成对抗网络MDCGAN，并进行训练，将原始的灰度图和时频图输入到MDCGAN中，得到生成后的灰度图和时频图像，使用FID和MMD两个评价指标对原始图片和生成图片进行度量筛选，将原始图片和经过筛选后的图片进行均衡，得到增强后的数据集；
步骤3、监测识别：构建多源特征融合网络MFFNet，选取设定比例的原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取和识别分类；
步骤4、迁移学习：通过对多源特征融合网络MFFNet的参数迁移，获得实现不同数据集之间的监测诊断。
2.根据权利要求1所述的小样本下数据增强与多特征融合的刀具磨损状态监测方法，其特征在于，步骤1中所述二维灰度图的转换公式如下：
其中，round{·}表示取整函数，该函数将所有像素值归一化至0～255之间，P(j,k),j＝1......M,k＝1......M表示转化后的每个像素的像素值，M为二维图像的边长，L为一维切削力信号中任意选取的长度，为连续的M×M个采样点；
采用连续小波变换CWT将每个时域波形变换成相应的时频谱，选取Morlet小波函数，变换原理如公式2～4所示；
其中，ψ(t)为基本的母小波函数，ψa,τ(t)为一组时间尺度小波，a和τ分别为尺度因子和平移因子，对于任意的信号函数ψ(t)∈L2(R)，相应的连续小波函数定义为公式(3)，其中为母小波函数ψ(t)的复共轭函数，CWTf(a,τ)为f(t)和ψa,τ(t)的内积；选取Morlet作为小波母函数，表达式为公式(4)，其中w0为小波的中心频率。
3.根据权利要求1所述的小样本下数据增强与多特征融合的刀具磨损状态监测方法，其特征在于，所述步骤2具体包括以下步骤：
步骤2.1、建立改进的深度卷积生成对抗网络MDCGAN，并对改进的深度卷积生成对抗网络MDCGAN进行训练；
步骤2.1.1、设定模型结构参数，建立改进的深度卷积生成对抗网络MDCGAN；在基于深度卷积生成对抗网络的框架上，改造其生成器和鉴别器；
所述生成器由全连接层和二维转置卷积层组成；所述鉴别器由全连接层和二维卷积层组成；在鉴别器的每个卷积层上加入批处理归一化BN，选择ReLU和Leaky ReLU作为卷积层和转置卷积层的激活函数；生成器和鉴别器的优化器均采用自适应矩估计Adam来更新模型权重；引入Nadam算法，采用了梯度的二阶矩估计来实现了学习率α的自适应调整，Nadam的更新规则描述如下：
其中，θ是待优化的权值或阈值，mt和分别为一阶动量偏差和修正一阶动量偏差，Vt和分别为二阶动量偏差和修正二阶动量偏差，t为当前迭代，β1,β2和ε是修正系数；gt为梯度向量，α为学习率；
步骤2.1.2、设定模型训练参数，包括训练次数、迭代步数、学习率、分批的大小和潜在空间的维数，同时设定鉴别器鉴别真伪损失为二元交叉熵损失；
其中生成器和鉴别器损失函数如下：
其中，x表示真实样本数据，表示生成器生成的样本；pdata(x)为来自真实数据的分布，pg为来自生成数据的分布，它是由具有先验pz(z)的简单随机变量z通过G映射得到的，即z～pz(z),x＝G(z)；
步骤2.1.3、开始训练，先训练鉴别器，再训练生成器，将包含真实样本数据的训练集输入训练鉴别器，与此同时将随机噪声输入生成器生成伪样本，而后将伪样本输入鉴别器实现生成器与鉴别器的对抗行为训练生成器；
步骤2.2、将二维灰度图和二维时频图输入到改进的深度卷积生成对抗网络MDCGAN进行生成样本图片；
步骤2.3、采用两个指标FID和MMD对生成的样本图片的相似性和多样性进行评价，并判断生成的样本数据和真实的刀具状态样本数据的分布是否相似；通过FID和MMD来评价人工生成数据的质量，将不符合条件的数据进行丢弃；
具体为，将同一类人工生成的数据依次与真实数据集进行FID与MMD度量，计算其平均值，同时设定阈值M，小于阈值M则认为人工生成的数据与真实数据相似度符合标准，满足条件的数据合成训练数据集；
所述FID表示生成图像的多样性和质量，FID越小，图像多样性越好，质量越好，FID被定义为：
其中，Tr表示矩阵对角线上元素的综合，矩阵中称为矩阵的迹；x和g表示真实的图片和生成的样本图片，μx和μg表示真实图片和生成图片的特征均值，∑x和∑g是真实图片和生成图片的协方差矩阵；
所述MMD用来度量两个数据分布的距离，即两个数据间的相似性；MMD值越小，两个分布越接近，生成图像质量也越好，MMD被定义为：
式中，F表示选择的核函数，k(x,y)为x与y的核映射结果，m和n分别为分布Pr(x)和Pg(y)中实际样本和生成样本的个数，xi和yi分别为真实样本和生成样本数据集。
4.根据权利要求1所述的小样本下数据增强与多特征融合的刀具磨损状态监测方法，其特征在于，所述步骤3具体包括以下步骤：
步骤3.1、构建多源特征融合网络MFFNet；
将原始真实图片与经过评估筛选后的生成图片构成增强的数据集，输入到多源特征融合网络MFFNet进行特征提取并融合；
所述多源特征融合网络MFFNet包括编码降噪模块和无参数注意力机制模块；
所述编码降噪模块：设置自适应阈值剔除噪声信息；其中所述自适应阈值的计算公式为：
其中τ为阈值，x为输入，y为输出；α∈[0,1]为收缩因子,ρ为调整因子；
所述无参数注意力机制模块：利用注意力机制对特征信息的权重进行重新分配；
定义了一个能量函数Et，然后获得了其解析解；
其中，其中λ为正则项，t和xi分别是每个通道中目标神经元和其他神经元的特征；为所有神经元在单个通道上的均值，/>为所有神经元在单个通道上的方差，H,W为特征图的高和宽；
整个无参数注意力机制模块的提炼过程如下所示：
其中，X为输入的特征张量，Sigmoid(·)为激活函数，⊙为Hadamard乘积；
步骤3.2、多源特征融合网络MFFNet进行刀具监测识别：采用增强后的数据集输入到MFFNet中进行刀具磨损状态的识别分类。
5.根据权利要求1所述的小样本下数据增强与多特征融合的刀具磨损状态监测方法，其特征在于，所述步骤4具体包括：首先，使用源域数据进行训练，冻结多源特征融合网络MFFNet的网络层结构，并提取多源特征融合网络MFFNet的参数，利用目标域数据对多源特征融合网络MFFNet的分类器进行参数的微调，以实现多源特征融合网络MFFNet的参数迁移；
其中所述微调具体为，源域的训练好的权重参数保存，在目标域上训练时，不是从零开始训练，而是在源域训练好的源特征融合网络MFFNet权重基础上继续训练。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310772375.9A CN116787227A (zh) | 2023-06-28 | 2023-06-28 | 小样本下数据增强与多特征融合的刀具磨损状态监测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310772375.9A CN116787227A (zh) | 2023-06-28 | 2023-06-28 | 小样本下数据增强与多特征融合的刀具磨损状态监测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116787227A true CN116787227A (zh) | 2023-09-22 |
Family
ID=88034283
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310772375.9A Pending CN116787227A (zh) | 2023-06-28 | 2023-06-28 | 小样本下数据增强与多特征融合的刀具磨损状态监测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116787227A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117972439A (zh) * | 2024-04-01 | 2024-05-03 | 长春理工大学 | 基于增强空间构造与生成对抗网络的心率预测方法及系统 |
-
2023
- 2023-06-28 CN CN202310772375.9A patent/CN116787227A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117972439A (zh) * | 2024-04-01 | 2024-05-03 | 长春理工大学 | 基于增强空间构造与生成对抗网络的心率预测方法及系统 |
| CN117972439B (zh) * | 2024-04-01 | 2024-06-18 | 长春理工大学 | 基于增强空间构造与生成对抗网络的心率预测方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zhu et al. | Intelligent logging lithological interpretation with convolution neural networks | |
| Williams et al. | Advanced image classification using wavelets and convolutional neural networks | |
| CN110361778B (zh) | 一种基于生成对抗网络的地震数据重建方法 | |
| CN111785329B (zh) | 基于对抗自动编码器的单细胞rna测序聚类方法 | |
| CN110443293B (zh) | 基于双判别生成对抗网络文本重构的零样本图像分类方法 | |
| CN114332649B (zh) | 基于双通道注意力的跨场景遥感图像深度对抗迁移方法 | |
| Nejad et al. | A new enhanced learning approach to automatic image classification based on Salp Swarm Algorithm | |
| CN108734199B (zh) | 基于分段深度特征及低秩表示的高光谱图像鲁棒分类方法 | |
| CN111353373A (zh) | 一种相关对齐域适应故障诊断方法 | |
| Yang et al. | Underwater acoustic research trends with machine learning: general background | |
| CN113657491A (zh) | 一种用于信号调制类型识别的神经网络设计方法 | |
| CN116787227A (zh) | 小样本下数据增强与多特征融合的刀具磨损状态监测方法 | |
| CN113240201B (zh) | 一种基于gmm-dnn混合模型预测船舶主机功率方法 | |
| CN113076920B (zh) | 一种基于非对称域对抗自适应模型的智能故障诊断方法 | |
| CN114964778A (zh) | 一种基于小波时频图与深度学习的轴承故障诊断方法 | |
| Zhao et al. | A novel deep fuzzy clustering neural network model and its application in rolling bearing fault recognition | |
| CN115170943A (zh) | 一种基于迁移学习的改进视觉Transformer海底底质声呐图像分类方法 | |
| CN114500335A (zh) | 基于模糊c均值和混合核最小二乘支持向量机的sdn网络流程控制方法 | |
| CN117493930A (zh) | 一种基于对比生成对抗网络的多元时间序列异常检测方法 | |
| CN111950635A (zh) | 一种基于分层特征对齐的鲁棒特征学习方法 | |
| CN113487506A (zh) | 基于注意力去噪的对抗样本防御方法、装置和系统 | |
| CN111429436B (zh) | 一种基于多尺度注意力和标签损失的本质图像分析方法 | |
| CN114463614A (zh) | 使用生成式参数的层次性显著建模的显著性目标检测方法 | |
| CN112766336A (zh) | 一种最大化随机平滑下提高模型可验证防御性能的方法 | |
| He et al. | Multispectral remote sensing land use classification based on RBF neural network with parameters optimized by genetic algorithm |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |