CN114893390A - 一种基于注意力与集成学习机制的泵机设备故障检测方法 - Google Patents

Abstract

本发明公开了一种基于注意力与集成学习机制的泵机设备故障检测方法，其步骤包括：S1：采集声音信号；S2：声音信号预处理；S3：建立时域特征集和频域特征集；S4：对时域特征集利用时域注意力机制残差收缩网络训练，得到N个时域基学习器(TA1,TA2...TAn)；对频域特征集，利用通道域注意力机制残差收缩网络训练，得到M个通道域基学习器(CA1,CA2...CAn)；S5：N+M个基学习器分类结果特征加权融合获得分类模型；S6：利用S5分类模型识别泵机设备运行。本申请的方案首次将注意力机制、加权融合方法应用到泵机设备故障检测领域，将基于时间域、通道域注意力机制的残差收缩网络作为基学习器并进行加权融合，有效解决了泵机设备故障检测问题，是人工智能与设备检测技术的巨大贡献。

Description

一种基于注意力与集成学习机制的泵机设备故障检测方法

技术领域

本申请技术属于仪器设备故障分析检测领域，特别是针对泵机设备所发生故障采用声学信号采集和模型学习从而实现泵机故障的准确检测方法，具体为基于注意力与集成学习机制的泵机设备故障检测方法。

背景技术

泵机设备是很多工业企业为生产线提供动力的“心脏”，也是生产线极易损坏的设备之一。然而，泵机设备经常长时间工作在如大负载、冲击频繁等较为“恶劣”的环境下，造成泵机零配件经常出现各种故障问题，从而导致整个设备出现异样、输出不稳定、甚至停机等问题，影响生产效率、发生生产事故，严重的会影响到人员生命安全。因此，及时有效地检测泵机设备的故障具有重要意义。

现有的泵机设备故障检测技术大多依靠SCADA、DCS、MES系统的各类接触式传感器和视频监控来判断设备的故障。即，当某一传感器参数超过预设值时，泵机控制系统依据超标参数种类及大小相应做出保护动作或报警，维护人员根据故障数据检查泵机并核实故障信息。由于诊断方法单一，仅依靠某一采集终端信息做出故障诊断，该方法经常会发生误报或漏报的情况，特别是当某一采集终端故障或精度不足时。由此引起生产无故停车、反复开停机或安全事故的发生，造成人力物力的浪费、运行成本的提高以及影响安全生产。此外，在生产中也可以通过泵机巡检人员采用耳听(耳听泵机运行时的声音)、手摸(用人手的触觉监测设备的温度、振动及间隙的变化情况)、眼观(人的视觉可以观察设备上的机件有无松动、裂纹及其他损伤等)的简单方法，根据个人经验对泵机的运行状态做出判断。由于该方法仅靠巡检人员根据个人经验对泵机的运行状态做出判断，该方法费时费力，不能及时有效准确的监测泵机的运行状态进而对泵机故障做出准确判断。

无论是传感器监测、人工巡检或视频监控等方法，都存在由于安装困难和监测数量有限而受到极大地影响，且很多设备在机器故障发生前没有明显的外观变化和参量变化，很难从触觉、视觉的角度提前发现安全隐患，视频图像也容易受到安装位置、视频遮挡、光线强度等诸多方面的影响和限制，很多设备故障点在机器的内部，更是无法通过设备外观信息直接识别出来。因此在对泵机设计运行故障的检测时，必须在原理、方法上予以更新以客服现有检测方式的缺陷。

发明内容

本申请的技术方案就是针对现有泵机运行中所采用的传统传感器监测、人工巡检或视频监控种种弊端，结合泵机运行中的声音频谱特征，利用大数据学习方法创立了一种基于注意力与集成学习机制的泵机设备故障检测方法。该方法通过采集到的泵机设备运行声音信号，利用注意力机制与集成学习训练得到故障模型，进而检测泵机设备是否存在故障风险。

为实现上述高效、准确检测泵机设备是否存在故障的发明目的，本申请采用的技术方案为：一种基于注意力与集成学习机制的泵机设备故障检测方法，该方法利用注意力机制与集成学习算法训练得到故障检测模型，进而实现检测和判断泵机设备是否存在故障，其具体包括如下步骤：

S1：采集泵机设备不同运行状态下声音信号；

S2：对采集到的泵机设备声音信号，根据其运行状态进行标注后实施预处理操作；

S3：针对泵机出现故障时，其声音信号在时域和频域的不同表现特点，对预处理操作后的数据集提取时域特征和频域特征，并抽样分别建立时域特征集和频域特征集；

S4：对时域特征集利用时域注意力机制的残差收缩网络分别进行训练，得到N个不同的时域基学习器TA1,TA2...TAn；对频域特征集，利用通道域注意力机制的残差收缩网络分别进行训练，得到M个不同的通道域基学习器CA1,CA2...CAM；

S5：将S4中得到的N+M个基学习器的分类结果进行特征加权融合获得融合时频域特征的分类模型；

S6：将实时采集的待检测泵机设备运行声音信号作为S5分类模型的输入，识别泵机设备运行状态，依据泵机设备故障处理规则实施相应操作。

上述方案中首次将注意力机制、加权融合方法应用到泵机设备声音故障检测领域，把基于时间域、通道域注意力机制的残差收缩网络作为集成学习的基学习器，并对两组基学习器的训练结果进行加权融合，有利地解决了泵机设备声音故障检测问题，是人工智能与设备检测技术的巨大贡献。

上述步骤S1采集的不同运行状态下声音信号包括泵机设备的各类异常或者各类正常状态；S2中运行状态进行标注的格式为“机器类型+状态+时间戳”。该方法步骤实现了不同种类数据的完整采集，且进行了清楚标识，极大提高了后续数据分析处理的效率。

上述步骤S2中的预处理包括数据的采样、预加重、分帧、加窗；这里的采样是根据 声音信号主频和带宽需求，采样频率范围在30-50kHz，采样位数采用8位或者16位的处理过 程；所述预加重处理是根据泵机设备声音信号的频率范围，选用一阶FIR数字滤波器来处 理，传递函数为

，其中

为预加重系数，0.9<

<1.0,

为输入的语音 信号；所述分帧处理是依据泵机设备的运行周期和声音信号的短时稳定性设定帧长为10- 30ms，帧移取帧长1/2的分帧过程；所述加窗处理中，加窗采用汉明窗，其函数表达式为：

，其中

是样本索引n处的窗口系数，N是样本总数。这里所进行的数据各种预处理过程为后续模型 学习和优化垫定了基础，经过预处理的数据在数据信息获取上更为精准，为后续学习、优化 过程提供了保证。

所述步骤S3中的时域特征包括但不局限于波形、脉冲、峰值及能量，频域特征包括但不局限于梅尔系数、梅尔倒谱系数及线性预测倒谱系数。多种时域信息特征是分析的基础，各种特征可以在分析中相互检验、校核提其准确性。这里提取时域特征和频域特征的抽样方法包括但不限于集成学习的Bootstrap法。

上述步骤S4中利用时域注意力机制的残差收缩网络进行训练获得时域基学习器的过程如下：

S41: 将输入维度为C×W×1的时域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后时域特征数据；

S42: 将C×W×1维的卷积处理后的特征数据，分别进行全局平均和取绝对值操作，得到维度为C×W×1的特征数据，作为后续RSBU-TA模块的输入；

S43：将C×W×1的二维时域特征数据

沿着通道域分别进行最大池化和平均 池化操作，将通道域的信息进行压缩，得到压缩后的两个输出维度为W×2×1的矩阵，其中 W、C分别为时间域特征向量和通道域特征向量；

S44：将上述W×2×1的矩阵经过卷积核个数为1，大小为3的卷积层处理，得到输出维度为1×W×1的矩阵；

S45：通过激活函数

将打分转化为[0,1]范围 内的注意力权重；这里

是将矩阵1×W×1逐项相加得到注意力打分函数

；

S46：最后沿着时间W对输入的C长度的特征向量X逐元素相乘得到经过时间域注意 力选择的特征输出

，这里的

，其中

分别表示最大池化和平均池化的结果，

表示连接函数将两个结果 在通道域连接为W×2的矩阵，

表示卷积过程，

表示Sigmoid激活函数；

S47:对上述输出的特征数据经过BN、ReLU操作，得到C×1×1维的序列值；

S48:将上述C×1×1序列值输入到全连接FC层，输出时域基学习器的不同分类结果。

步骤S4中利用通道域注意力机制的残差收缩网络进行训练过程如下：

S4-1: 将输入维度为C×W×1的频域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后频域特征数据；

S4-2: 将C×W×1维的卷积处理后特征数据，分别进行全局平均和取绝对值操作得到维度为C×W×1的特征数据，作为后续RSBU-CA模块的输入；

S4-3：将输入的C×W×1维频域特征数据

沿着时间域分别进行最大池化和 平均池化操作，将时间域的信息进行压缩，得到压缩后的两个输出维度为C×1×1的序列, 其中W、C分别为时间域特征向量和通道域特征向量；

S4-4：将两个序列通过一个共享卷积层Con_1，Con_1的卷积核大小为1，数量为C/r，其中r为收缩系数，将通道域C×1×1的特征维度降低到C/r；

S4-5：通过ReLU激活函数

（其中x为输入）激活后再通过一 个共享卷积层Con_1，Con_1的卷积核大小为1，数量为C，升回到原来的维度C；

S4-6：把两个输出维度为C×1×1的序列逐项相加得到注意力打分函数

；

S4-7：再通过激活函数

将打分函数转化为 [0,1]范围内的注意力权重；

S4-8：最后沿着通道C对输入的W长度的特征向量X逐元素相乘得到经过通道域注 意力选择的特征输出

，

，其中

分别表示最大池化和平均池化的结果，

表示卷积过程，

表示Sigmoid激活函数。

S4-9:对输出的特征数据经过BN、ReLU操作，得到C×1×1维度的频域特征；

S4-10:将上述C×1×1序列值输入到全连接FC层，输出通道域基学习器的不同分类结果。

上述方法分别对时域基学习器和通道域基学习器的训练和学习过程进行了描述，该训练过程采用了人工智能方法，在模型训练和效率上实现了高效和自主，为泵机故障的准确分析提供了保证。

附图说明

图1正常声音波形图；

图2异常声音波形图；

图3为本申请的基于注意力与集成学习机制的泵机设备故障检测方法流程图；

图4为本申请技术方案中基于时间域注意力机制的残差模块（RSBU-TA）图。

图5为本申请技术方案中基于通道域注意力机制的残差模块（RSBU-CA）图。

图6为本申请方法具体实施过程的模型图。

具体实施方式

下面结合附图对本发明申请所提出的方法做进一步的说明。如图1所示为基于注意力与集成学习机制的泵机设备故障检测方法流程图，该方法中的具体步骤为：

S1：采集泵机设备不同运行状态下声音信号；此时的声音信号包括泵机设备的各类异常或者各类正常状态；

S2：对采集到的泵机设备声音信号，根据其运行状态进行标注后实施预处理操作； 运行状态进行标注的具体格式为“机器类型+状态+时间戳”;预处理包括数据的采样、预加 重、分帧、加窗；这里的采样是根据声音信号主频和带宽需求，采样频率范围在30-50kHz，采 样位数采用8位或者16位的处理过程；所述预加重处理是根据泵机设备声音信号的频率范 围，选用一阶FIR数字滤波器来处理，传递函数为

，其中

为预加重系 数，0.9<

<1.0,

为输入的语音信号；所述分帧处理是依据泵机设备的运行周期和声音信 号的短时稳定性设定帧长为10-30ms，帧移取帧长1/2的分帧过程；所述加窗处理中，加窗采 用汉明窗，其函数表达式为：

，

其中

是样本索引n处的窗口系数，N是样本总数。如图1和图2分别给出了正 常或者异常的泵机设备声音信号，经过一阶FIR高通滤波器处理后，其时域和频域波形图。

S3：针对泵机出现故障时，其声音信号在时域和频域的不同表现特点，对预处理操作后的数据集提取时域特征和频域特征，并抽样分别建立时域特征集和频域特征集；此步骤中的时域特征包括但不局限于波形、脉冲、峰值及能量，频域特征包括但不局限于梅尔系数、梅尔倒谱系数及线性预测倒谱系数，提取时域特征和频域特征的抽样方法包括但不限于集成学习的Bootstrap法；

S4：对时域特征集利用时域注意力机制的残差收缩网络分别进行训练，得到N个不同的时域基学习器TA1,TA2...TAn；对频域特征集，利用通道域注意力机制的残差收缩网络分别进行训练，得到M个不同的通道域基学习器CA1,CA2...CAM；如图3所示。下面针对时域注意力机制的残差收缩网络进行训练获得时域基学习器的过程描述如下，见图4。

S41: 将输入维度为C×W×1的时域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后时域特征数据；

S42: 将C×W×1维的卷积处理后的特征数据，分别进行全局平均和取绝对值操作，得到维度为C×W×1的特征数据，作为后续RSBU-TA模块的输入；

S43：将C×W×1的二维时域特征数据

沿着通道域分别进行最大池化和平均 池化操作，将通道域的信息进行压缩，得到压缩后的两个输出维度为W×2×1的矩阵，其中 W、C分别为时间域特征向量和通道域特征向量；

S44：将上述W×2×1的矩阵经过卷积核个数为1，大小为3的卷积层处理，得到输出维度为1×W×1的矩阵；

S45：通过激活函数

将打分转化为[0,1]范围 内的注意力权重；这里

是将矩阵1×W×1逐项相加得到注意力打分函数

；

S46：最后沿着时间W对输入的C长度的特征向量X逐元素相乘得到经过时间域注意 力选择的特征输出

，这里的

，其中

分别表示最大池化和平均池化的结果，

表示连接函数将两个结果 在通道域连接为W×2的矩阵，

表示卷积过程，

表示Sigmoid激活函数；

S47:对上述输出的特征数据经过BN、ReLU操作，得到C×1×1维的序列值；

S48:将上述C×1×1序列值输入到全连接FC层，输出时域基学习器的不同分类结果。

图5给出了利用通道域注意力机制的残差收缩网络进行训练的具体过程。S4-1:将输入维度为C×W×1的频域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后频域特征数据；

S4-2: 将C×W×1维的卷积处理后特征数据，分别进行全局平均和取绝对值操作得到维度为C×W×1的特征数据，作为后续RSBU-CA模块的输入；

S4-3：将输入的C×W×1维频域特征数据

沿着时间域分别进行最大池化和 平均池化操作，将时间域的信息进行压缩，得到压缩后的两个输出维度为C×1×1的序列, 其中W、C分别为时间域特征向量和通道域特征向量；

S4-4：将两个序列通过一个共享卷积层Con_1，Con_1的卷积核大小为1，数量为C/r，其中r为收缩系数，将通道域C×1×1的特征维度降低到C/r；

S4-5：通过ReLU激活函数

（其中x为输入）激活后再通过一 个共享卷积层Con_1，Con_1的卷积核大小为1，数量为C，升回到原来的维度C；

S4-6：把两个输出维度为C×1×1的序列逐项相加得到注意力打分函数

；

S4-7：再通过激活函数

将打分函数转化为 [0,1]范围内的注意力权重；

S4-8：最后沿着通道C对输入的W长度的特征向量X逐元素相乘得到经过通道域注 意力选择的特征输出

，

，其中

分别表示最大池化和平均池化的结果，

表示卷积过程，

表示Sigmoid激活函数；

S4-9:对输出的特征数据经过BN、ReLU操作，得到C×1×1维度的频域特征；

S4-10:将上述C×1×1序列值输入到全连接FC层，输出通道域基学习器的不同分类结果。

S5：完成上述训练学习后将时域基学习器(TA1,TA2...TAn)和通道域基学习器(CA1,CA2...CAn)进行特征加权融合获得融合时频域特征的分类模型，如图6给出了N+M个基学习器的分类结果进行特征加权融合过程。

S6：将实时采集的待检测泵机设备运行声音信号作为S5分类模型的输入识别泵机设备运行状态，依据泵机设备故障处理规则实施相应操作。

本发明将注意力机制、加权融合的方法应用到泵机设备声音故障检测领域，把基于时间域、通道域注意力机制的残差收缩网络作为集成学习的基学习器，并对两组基学习器的训练结果进行加权融合，有利地解决了泵机设备声音故障检测问题。

以上所述实施方式仅表达了本发明的一种或多种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。

Claims (7)

1.一种基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，该方法利用注意力机制与集成学习算法训练得到故障检测模型，进而实现检测和判断泵机设备是否存在故障，其具体包括如下步骤：

S1：采集泵机设备不同运行状态下声音信号；

S2：对采集到的泵机设备声音信号，根据其运行状态进行标注后实施预处理操作；

S3：针对泵机出现故障时，其声音信号在时域和频域的不同表现特点，对预处理操作后的数据集提取时域特征和频域特征，并抽样分别建立时域特征集和频域特征集；

S4：对时域特征集利用时域注意力机制的残差收缩网络分别进行训练，得到N个不同的时域基学习器TA1,TA2...TAn；对频域特征集，利用通道域注意力机制的残差收缩网络分别进行训练，得到M个不同的通道域基学习器CA1,CA2...CAM；

S5：将S4中得到的N+M个基学习器的分类结果进行特征加权融合获得融合时频域特征的分类模型；

S6：将实时采集的待检测泵机设备运行的声音信号作为S5分类模型的输入，识别泵机设备运行状态，依据泵机设备故障处理规则实施相应操作。

2.根据权利要求1所述的基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，S1采集的不同运行状态下声音信号包括泵机设备的各类异常或者各类正常状态；S2中运行状态进行标注的格式为“机器类型+状态+时间戳”。

3.根据权利要求1或2所述的基于注意力与集成学习机制的泵机设备故障检测方法，其 特征在于，所述S2中的预处理包括数据的采样、预加重、分帧、加窗；这里的采样是根据声音 信号主频和带宽需求，采样频率范围在30-50kHz，采样位数采用8位或者16位的处理过程； 所述预加重处理是根据泵机设备声音信号的频率范围，选用一阶FIR数字滤波器来处理，传 递函数为

，其中

为预加重系数，0.9<

<1.0,

为输入的语音信号； 所述分帧处理是依据泵机设备的运行周期和声音信号的短时稳定性设定帧长为10-30ms， 帧移取帧长1/2的分帧过程；所述加窗处理中，加窗采用汉明窗，其函数表达式为：

，其中

是样本索引n处的窗口系数，N是样本总数。

4.根据权利要求1所述的基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，S3中的时域特征包括但不局限于波形、脉冲、峰值及能量，频域特征包括但不局限于梅尔系数、梅尔倒谱系数及线性预测倒谱系数。

5.根据权利要求1或4所述的基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，S3中提取时域特征和频域特征的抽样方法包括但不限于集成学习的Bootstrap法。

6.根据权利要求1所述的基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，S4中利用时域注意力机制的残差收缩网络进行训练获得时域基学习器的过程如下：

S41: 将输入维度为C×W×1的时域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后时域特征数据；

S42: 将C×W×1维的卷积处理后的特征数据，分别进行全局平均和取绝对值操作，得到维度为C×W×1的特征数据，作为后续RSBU-TA模块的输入；

S43：将C×W×1的二维时域特征数据

沿着通道域分别进行最大池化和平均池化 操作，将通道域的信息进行压缩，得到压缩后的两个输出维度为W×2×1的矩阵，其中W、C分 别为时间域特征向量和通道域特征向量；

S44：将上述W×2×1的矩阵经过卷积核个数为1，大小为3的卷积层处理，得到输出维度为1×W×1的矩阵；

S45：通过激活函数

将打分转化为[0,1]范围内 的注意力权重；这里

是将矩阵1×W×1逐项相加得到注意力打分函数

；

S46：最后沿着时间W对输入的C长度的特征向量X逐元素相乘得到经过时间域注意力选 择的特征输出

，这里的

，其中

分别表示最大池化和平均池化的结果，

表示连接函数将两个结果在通道域连 接为W×2的矩阵，

表示卷积过程，

表示Sigmoid激活函数；

S47:对上述输出的特征数据经过BN、ReLU操作，得到C×1×1维的序列值；

S48:将上述C×1×1序列值输入到全连接FC层，输出时域基学习器的不同分类结果。

7.根据权利要求1所述的基于注意力与集成学习机制的泵机设备故障检测方法，其特征在于，S4中利用通道域注意力机制的残差收缩网络进行训练过程如下：

S4-1: 将输入维度为C×W×1的频域特征经过两次卷积操作，该操作包括Conv、BN、ReLU，得到C×W×1维的卷积处理后频域特征数据；

S4-2: 将C×W×1维的卷积处理后特征数据，分别进行全局平均和取绝对值操作得到维度为C×W×1的特征数据，作为后续RSBU-CA模块的输入；

S4-3：将输入的C×W×1维频域特征数据

沿着时间域分别进行最大池化和平均池 化操作，将时间域的信息进行压缩，得到压缩后的两个输出维度为C×1×1的序列,其中W、C 分别为时间域特征向量和通道域特征向量；

S4-4：将两个序列通过一个共享卷积层Con_1，Con_1的卷积核大小为1，数量为C/r，其中r为收缩系数，将通道域C×1×1的特征维度降低到C/r；

S4-5：通过ReLU激活函数

（其中x为输入）激活后再通过一个共 享卷积层Con_1，Con_1的卷积核大小为1，数量为C，升回到原来的维度C；

S4-6：把两个输出维度为C×1×1的序列逐项相加得到注意力打分函数

；

S4-7：再通过激活函数

将打分函数转化为[0,1]范 围内的注意力权重；

S4-8：最后沿着通道C对输入的W长度的特征向量X逐元素相乘得到经过通道域注意力 选择的特征输出

，

，其中

分 别表示最大池化和平均池化的结果，

表示卷积过程，

表示Sigmoid激活函数；

S4-9:对输出的特征数据经过BN、ReLU操作，得到C×1×1维度的频域特征；

S4-10:将上述C×1×1序列值输入到全连接FC层，输出通道域基学习器的不同分类结果。

Images