CN114330431A - 基于动态自注意力的托辊故障诊断方法及相关设备 - Google Patents
基于动态自注意力的托辊故障诊断方法及相关设备 Download PDFInfo
- Publication number
- CN114330431A CN114330431A CN202111589989.0A CN202111589989A CN114330431A CN 114330431 A CN114330431 A CN 114330431A CN 202111589989 A CN202111589989 A CN 202111589989A CN 114330431 A CN114330431 A CN 114330431A
- Authority
- CN
- China
- Prior art keywords
- embedding
- time
- word embedding
- attention
- feature map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003745 diagnosis Methods 0.000 title claims abstract description 82
- 238000000034 method Methods 0.000 title claims abstract description 61
- 239000013598 vector Substances 0.000 claims abstract description 59
- 238000010586 diagram Methods 0.000 claims abstract description 41
- 230000005236 sound signal Effects 0.000 claims abstract description 36
- 238000012545 processing Methods 0.000 claims abstract description 35
- 230000009466 transformation Effects 0.000 claims abstract description 24
- 238000013507 mapping Methods 0.000 claims abstract description 13
- 230000006835 compression Effects 0.000 claims abstract description 9
- 238000007906 compression Methods 0.000 claims abstract description 9
- 238000000605 extraction Methods 0.000 claims description 22
- 230000006870 function Effects 0.000 claims description 13
- 238000003860 storage Methods 0.000 claims description 11
- 230000009467 reduction Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 5
- 238000009432 framing Methods 0.000 claims description 4
- 230000001131 transforming effect Effects 0.000 claims description 4
- 230000008901 benefit Effects 0.000 abstract description 2
- 238000004422 calculation algorithm Methods 0.000 description 49
- 238000012549 training Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 11
- 239000011159 matrix material Substances 0.000 description 11
- 238000012360 testing method Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 7
- 238000012706 support-vector machine Methods 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 238000007689 inspection Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 238000007637 random forest analysis Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 238000012952 Resampling Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005265 energy consumption Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000009545 invasion Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000003245 coal Substances 0.000 description 1
- 238000005336 cracking Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000001125 extrusion Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000005461 lubrication Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Landscapes
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本申请提供一种基于动态自注意力的托辊故障诊断方法及相关设备，所述方法包括：获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。本申请提供的基于动态自注意力的托辊故障诊断方法及相关设备，操作简便，易于实施，可以及时诊断托辊故障类型，准确性高，抗干扰性能强，便于对托辊进行维护，避免安全隐患。
Description
技术领域
本申请涉及托辊故障诊断技术领域，尤其涉及一种基于动态自注意力的托辊故障诊断方法及相关设备。
背景技术
托辊是承载输送带和物料的关键部件，由于轴承疲劳、异物入侵、筒体不均匀载荷等原因，托辊容易产生各种故障，这会导致运输能耗增加，造成输送带跑偏、撕裂、起火等重大安全事故，对整个输送系统造成极其严重的损失，目前往往通过人工巡回检查的方式来确定托辊故障，但检查成本高，难于实施，诊断的准确性低，实时性差。
发明内容
有鉴于此，本申请的目的在于提出一种基于动态自注意力的托辊故障诊断方法及相关设备用以解决上述技术问题。
本申请的第一方面，提供了一种基于动态自注意力的托辊故障诊断方法，包括：获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
进一步地，所述对所述声音信号进行变换处理得到时频域特征图，包括：对所述声音信号进行分帧、加窗和快速傅里叶变换得到所述时频域特征图。
进一步地，所述对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，包括：利用M组降维投影矩阵对所述时频域特征图分别进行域变换得到M组所述查询词嵌入、键值词嵌入和值项词嵌入，其中，所述M为大于等于1的正整数。
进一步地，所述将所述查询词嵌入、键值词嵌入和值项词嵌入进行注意力操作得到高级特征图，包括：利用softmax函数对每组所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到单组高级特征图；将M组所述单组高级特征图沿频率维度进行拼接得到所述高级特征图。
进一步地，所述对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图，之后还包括：将得到的所述高级特征图代替所述时频域特征图进行所述域变换和所述自注意力操作的迭代处理，经过预设迭代次数后得到迭代后的所述高级特征图。
进一步地，所述对所述高级特征图进行压缩映射得到分类结果向量，包括：利用第一线性投影向量将所述高级特征图沿时间维度进行压缩得到高级特征向量；利用第二线性投影向量将所述高级特征向量映射为所述分类结果向量。
进一步地，所述对所述分类结果向量进行比对处理得到故障类型，包括：对所述分类结果向量的元素值进行比较获得最大元素值，通过所述最大元素值的元素序号对应获得预存的所述故障类型。
本申请的第二方面，提供了一种基于动态自注意力的托辊故障诊断装置，包括：采集处理模块，被配置为获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；特征提取模块，与所述采集处理模块电连接，被配置为对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；诊断分类模块，与所述诊断分类模块电连接，被配置为对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
本申请的第三方面，提供了一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上第一方面所述的方法。
本申请的第四方面，提供了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，其特征在于，所述计算机指令用于使所述计算机执行如上第一方面所述的方法。
从上面所述可以看出，本申请提供了一种基于动态自注意力的托辊故障诊断方法及相关设备，通过采集声音信号实现对托辊非接触式故障诊断，易于实施；将声音信号处理得到时频域特征图，去掉噪声干扰，提高诊断准确性；通过对时频域特征图进行域变换，得到查询词嵌入、键值词嵌入和值项词嵌入，提高对特征提取的多样性；通过对查询词嵌入、键值词嵌入和值项词嵌入注意力操作得到高级特征图，提高特征提取效果，进一步提高诊断准确率；通过高级特征图得到分类结果向量，实时性强，效率高；该基于动态自注意力的托辊故障诊断方法及相关设备，操作简便，易于实施，可以及时诊断托辊故障类型，准确性高，抗干扰性能强，便于对托辊进行维护，避免安全隐患。
附图说明
为了更清楚地说明本申请或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例的一种基于动态自注意力的托辊故障诊断方法的流程示意图；
图2为本申请实施例的托辊故障诊断模型的降维投影矩阵组数与准确率和模型大小的关系图；
图3为本申请实施例的托辊故障诊断模型的迭代次数与准确率和模型大小的关系图；
图4为本申请实施例的一种基于动态自注意力的托辊故障诊断方法在测试集上的诊断结果混淆矩阵图；
图5为本申请实施例的托辊故障诊断模型的前向推理过程可视化图；
图6为本申请实施例的一种基于动态自注意力的托辊故障诊断装置的结构示意图；
图7为本申请实施例的电子设备结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本申请进一步详细说明。
需要说明的是，除非另外定义，本申请实施例使用的技术术语或者科学术语应当为本申请所属领域内具有一般技能的人士所理解的通常意义。本申请实施例中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性，而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同，而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电性的连接，不管是直接的还是间接的。
随着科技的高速发展，工业生产日益现代化，各种高智能、高集成的大型机械设备逐步出现。带式输送机是在港口、矿山、煤炭等行业生产中常用的连续运输设备，而托辊是带式输送机中承载输送带和物料的关键部件，但由于托辊轴承润滑不良、疲劳、异物入侵、托辊筒体不均匀载荷或托辊受到重击等原因，使托辊产生异常振动、异响、破损、开裂、卡转等各种类型的故障，这会导致运输能耗增加，造成输送带跑偏、撕裂、起火等重大安全事故，对整个输送系统造成极其严重的损失。
目前往往通过人工巡回检查的方式来确定托辊故障，但托辊数量大、分布位置分散、而且工作环境复杂干扰较多，对托辊的检测难于操作，对故障的诊断实时性也较差，需要大量巡检人员进行不间断巡检，才能及时上报并进行检修，庞大的人力物力使得巡检成本较高，巡检人员的能力参差不齐，凭借经验诊断也难免出错，进而导致诊断准确性低，不能及时进行维修，因此提供一种准确率高、实时性好、易于操作、抗干扰能力强的托辊诊断方法十分必要。
在实现本申请的过程中发现，对托辊故障检测的手段可以依靠托辊振动、托辊温度、托辊图像和托辊声音信号进行诊断；但对于振动和温度需要与托辊接触才能获得，不便于实施操作，也影响托辊工作运行；而对于依靠热红外和可见光图像进行诊断只能检测托辊部分故障，无法实现对托辊初期故障的诊断；托辊出现故障时会发出异响，根据托辊声音的特征可以进行托辊故障诊断，这种方式与托辊非接触的，检测范围更广，适合于托辊故障诊断。
基于声音信号的托辊故障诊断可以采用机器学习算法、深度学习算法和动态自注意力算法，但对于机器学习算法对声音信号特征的显著性有很强的依赖性，带式输送机运行噪声大，其能量占比远高于目标托辊的声音信号，在杂乱的信号中提取微弱的托辊故障特征是十分困难；而对于深度学习算法，由于算法结构深导致故障诊断的实时性较差；可以考虑采用动态自注意力算法，提高对有用特征提取的多样性，对于特征提取能力强，诊断准确性更高，实时性好，抗干扰能力好，以便对托辊故障及时诊断维护。
以下，通过具体的实施例并结合图1-7来详细说明本申请的技术方案。
本申请的一些实施例中提供了一种基于动态自注意力的托辊故障诊断方法，如图1所示，包括以下步骤：
S1、获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图。
声音信号可以通过拾音器和声音处理器获取，将拾音器搭载在沿带式输送机进行巡检的巡检机器人上，在带式输送机运行过程中，拾音器可以采集托辊的运行声音，通过声音处理器将运行声音数字化形成声音信号。
采集到的运行声音中不仅含有目标托辊的运行声音，还包括带式输送机的运行噪声，运行噪声例如机架共振和相邻托辊旋转会产生中低频的强能量运行噪声，输送带的颠簸和挤压会发出周期性的低频和杂散的高频异响，纠偏轮与输送带的偶发性接触会发出短时周期性的中高频异响，电机会发出频带恒定的持续性低频运行噪声等。
对声音信号进行短时傅里叶变换处理，短时傅里叶变换处理包括分帧、加窗和快速傅里叶变换，声音信号具有短时平稳性，分帧处理后可以用处理平稳信号的处理技术对声音信号进行分析；加窗处理具有低通特性，减少频域中的泄露，也起到过滤噪音的作用；快速傅里叶变换处理可以减少计算量，提高处理速度，实时性好；通过短时傅里叶变换处理可以降低声音信号中的噪声，提高特征提取的准确性和抗干扰性，进而提高故障诊断的准确率。
在一些实施例中，对声音信号分帧的长度为1024，帧与帧之间的重叠长度设置为900。重叠长度值是根据托辊轴承的最大故障特征频率确定的，一般带式输送机运行的最大带速不超过10m/s，托辊直径为89mm，托辊转频为35.8Hz，在轴承的故障特征频率中内圈故障频率是最大的，例如托辊轴承型号为6204，托辊轴承内圈故障特征频率为转频的4.9倍，则最大故障特征频率为175.4Hz，根据香农采样定理，重采样率应要超过350.8Hz。声音信号的采样率为44.1KHz，当分帧长度为1024，帧与帧之间的重叠长度为900时，重采样率为355.6Hz，满足所述的最低重采样率要求。
在一些实施例中，加窗处理可以采用汉明窗，汉明窗具有更平滑的低通特性，能够在较高的程度上反映短时信号的频率特性，汉明窗的函数表达式如公式(1)所示，式中，汉明窗的调节系数a＝0.538，窗口长度N＝1024。
在一些实施例中，快速傅里叶变换的函数表达式如公式(2)所示，式中，x[n]表示输入的分帧加窗后的声音信号，n表示声音信号的索引，N′表示快速傅里叶变换的点数，k表示快速傅里叶变换后序列的索引。
S2、对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图。
通过对时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，提高了特征提取的多样性，提高特征提取的准确性；通过对查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图，增强了对分类结果起关键作用的特征提取，提高了特征提取的准确性和抗干扰性，进而提高故障诊断的准确率。
S201、利用M组降维投影矩阵对所述时频域特征图分别进行域变换得到M组所述查询词嵌入、键值词嵌入和值项词嵌入，其中，所述M为大于等于1的正整数。
利用多头注意力机制对时频域特征图进行处理，每组组降维投影矩阵包括
和
通过设置多组降维投影矩阵可以分别关注不同的有用特征，进而提高了提取到的有用特征的多样性，域变换的函数表达式如公式(3)和公式(4)所示，式中，r代表迭代次数的索引,M代表组数，Q代表查询词嵌入，K代表键值词嵌入，V代表值项词嵌入，F代表时频域特征图，域变换后特征的维度为原来的1/M，查询词嵌入和键值词嵌入是相同的，可以降低参数量，降低训练难度，防止过拟合。
S202、利用softmax函数对每组所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到单组高级特征图；将M组所述单组高级特征图沿频率维度进行拼接得到所述高级特征图。
在一些实施例中，自注意力操作的函数表达式如公式(5)所示，式中，dK代表键值词嵌入的特征维度，Fi_r代表单组高级特征图，softmax函数将向量元素映射到(0,1)之间；softmax自注意力操作在最后一维上进行如公式(6)所示的处理，式中，h和d分别代表输入矩阵A的行数和列数。
自注意力操作利用查询词嵌入或键值词嵌入中行向量之间的点积，动态地建立时频域特征图在时间轴上的关联，所述关联即
该关联建立在低维特征空间，沿时间轴方向增强了值项词嵌入中对分类结果起关键作用的特征。
查询词嵌入或键值词嵌入是根据输入特征动态建立的，这种动态自注意力机制相对于深度学习算法，能够使用浅层的结构注意到时频域特征图上周期性的条纹或持续性的频带能量，处理速度快，实时性强，并且对特征提取的能力强，提高了特征提取的准确性和抗干扰性，进而提高故障诊断的准确率，浅层结构也易于多组并行执行，方便同时设置多组自注意力操作。
每组自注意力操作得到相应的单组高级特征图Fi_r，将M组单组高级特征图沿频率维度进行拼接得到高级特征图，拼接操作的函数表达式如公式(7)所示，
代表高级特征图。
S203、将得到的所述高级特征图代替所述时频域特征图进行所述域变换和所述自注意力操作的迭代处理，经过预设迭代次数后得到迭代后的所述高级特征图。
将步骤S202得到的高级特征图代替步骤S201的时频域特征图，进行步骤S201的域变换处理和步骤S202的自注意力操作，重复迭代达到预设迭代次数后得到最终的高级特征图，通过迭代操作，使高级特征图结果逼近所需目标，来提高故障诊断的准确率。
S3、对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
S301、利用第一线性投影向量将所述高级特征图沿时间维度进行压缩得到高级特征向量；利用第二线性投影向量将所述高级特征向量映射为所述分类结果向量。
压缩处理是沿时间轴进行的，赋予了高级特征图时间平移不变性，使得对故障诊断不受声音信号采样时间的影响，提高故障诊断的准确率，提高本诊断方法的鲁棒性，在一些实施例中，压缩处理的函数表达式如公式(8)所示，式中，Wt是第一线性投影向量，尺寸为(1，l)，l代表时频域特征图的时间序列长度，
代表高级特征向量。
在一些实施例中，映射处理的函数表达式如公式(9)所示，Wc是第二线性投影向量，尺寸为(w，C)，w代表所述高级特征向量的长度，C代表故障类型的类别数，cls代表分类结果向量。
S302、对所述分类结果向量的元素值进行比较获得最大元素值，通过所述最大元素值的元素序号对应获得预存的所述故障类型。
分类结果向量是一组列向量，包含的元素数量等于故障类型的类别数，故障类型可以如表1所示，包括1种正常表现类型和17种故障表现类型，那么分类结果向量为包含18个元素的列向量，每个元素的元素序号对应相应的故障类型，对应关系可以如表2所示。
在得到包含18个元素的分类结果向量后，对分类结果向量中的不同元素的元素值进行比较获得最大元素值，最大元素值的元素序号与表2对应的故障类型即为本方法诊断得到的故障类型，例如最大元素值的元素序号是14，那么对应的故障类型为C1，故障表现为保持架破损。
表1托辊故障描述表
表2故障类型与分类结果向量元素序号对应表
| 故障类型 | A0 | A11 | A12 | A13 | A21 | A22 |
| 元素序号 | 1 | 2 | 3 | 4 | 5 | 6 |
| 故障类型 | A23 | A31 | A32 | A33 | B1 | B2 |
| 元素序号 | 7 | 8 | 9 | 10 | 11 | 12 |
| 故障类型 | B3 | C1 | C2 | C2 | D1 | D2 |
| 元素序号 | 13 | 14 | 15 | 16 | 17 | 18 |
该基于动态自注意力的托辊故障诊断方法操作简便，易于实施，可以及时诊断托辊故障类型，准确性高，抗干扰性能强，便于对托辊进行维护，避免安全隐患；当检测出托辊故障时，可以通过无线网络将托辊故障类型和故障位置发送至上位机，以辅助工作人员及时制定和更新维修计划。
在一些实施例中，步骤S2至步骤S3的方法模型为托辊故障诊断模型，该模型使用的训练集和测试集数据的获取方法包括：设置17个全寿命周期内典型故障的托辊和1个完好托辊做参照，将这18个托辊依次安装于目标托辊位置，托辊的负载为50N，带式输送机以1.6m/s额定速度运行2小时，采用相等时间间隔对每类托辊声音采样100次，每个样本时长为1s，得到1800个数据样本，将每一类样本按7:3的比例划分，分别组成训练集和测试集。
对托辊故障诊断模型的训练方法包括：将训练集和托辊故障类别标签输入至托辊故障诊断模型，得到训练结果；根据训练结果和托辊故障类别标签，构建交叉熵损失函数，并通过交叉熵损失函数更新托辊故障诊断模型的权重，得到最终的托辊故障诊断模型。托辊故障诊断模型的优化算法为带动量的随机梯度下降算法，初始学习率为0.001，动量系数为0.9，权重衰减系数为0.0005，训练8000个周期，每2000个周期学习率减小一半。
利用训练好的托辊故障诊断模型对测试集的样本进行故障诊断。
在一些实施例中，如图2所示，为托辊故障诊断模型的降维投影矩阵组数与准确率和模型大小的关系图，图中模型的迭代次数固定为1次，每组降维投影矩阵分别关注不同的有用特征，可以看出当组数为2组时，即进行双头注意力操作时，托辊故障诊断模型在测试集上的准确率最高，并且模型的大小不受组数变化的影响。
在一些实施例中，如图3所示，为托辊故障诊断模型的迭代次数与准确率和模型大小的关系图，图中模型的降维投影矩阵组数固定为2组，可以看出，当迭代次数为1次和2次时，托辊故障诊断模型的准确率均为最大值，但是随着迭代次数增加，模型参数就越多，模型就越大，会增加对算力、内存和能耗的需求，也会延长诊断时间，降低诊断的实时性，所以迭代次数为1次时的模型诊断效果最好。
在一些实施例中，采用传统机器学习算法中支持向量机算法SVM(Support VectorMachine)、随机森林算法RF(Random Forest)和深度学习算法中残差网络算法ResNet-18、密集连接网络算法Densenet-121与本方案的基于动态自注意力的托辊故障诊断模型进行诊断对比；声音特征提取算法采用梅尔频率倒谱系数算法MFCC(Mel-Frequency CepstralCoefficients)与本方案的短时傅里叶变换算法STFT(short-time Fourier transform)进行比对，两种声音特征提取算法的帧长度设置为1024，重叠长度设置为900，快速傅里叶变换点数设置为1024。各个算法的性能测试均在配置为Intel i7-7820X 3.6GHz CPU和16GBRAM的台式电脑上进行。
SVM算法采用one-against-one策略，核函数分别使用线性核和径向基核，记为SVM-Linear算法和SVM-RBF算法，MFCC特征矩阵拉平为MFCC特征向量后进行SVM算法的模型训练和测试，利用近邻插值法将STFT特征矩阵尺寸减少后拉平为STFT特征向量进行SVM算法的模型训练和测试，STFT特征向量其长度与MFCC特征向量的长度一致。
RF算法的树设置为500棵，每棵树的随机特征数为特征向量长度的平方根，用于训练和测试RF算法的MFCC特征向量和STFT特征向量的处理方法与SVM算法的一致。
基于动态自注意力的托辊故障诊断模型直接采用MFCC特征矩阵和STFT特征矩阵作为输入，并且采用2组降维投影矩阵，迭代次数设置为1次。
ResNet-18算法和Densenet-121算法要求输入的尺寸固定为3×224×224，首先使用区域插值的方法将MFCC特征矩阵或STFT特征矩阵变换到224×224，然后将变换后的特征矩阵复制3份后在通道维度上进行拼接，去中心后构成符合要求的输入；将ResNet-18算法和Densenet-121算法最后一层全连接层的输出维度设置为托辊故障类别数18；然后分别使用ResNet-18算法预训练模型参数1和Densenet-121算法预训练模型参数2初始化对应模型后再进行微调训练，其训练和测试的方法与基于动态自注意力的托辊故障诊断模型一致。
不同模型算法数据对比结果如表3所示，当声音特征提取算法分别为MFCC算法和STFT算法时，本申请的基于动态自注意力的托辊故障诊断模型的准确率都是最高的，时延时间是最短的，诊断实时性是最优的。本申请的基于动态自注意力的托辊故障诊断模型在采取STFT算法作为声音特征提取算法时，准确率是最高的，达到94.3％，平均计算时延仅为6.2ms，如图4所示，为该基于动态自注意力的托辊故障诊断方法在测试集上的诊断结果混淆矩阵，具有较高的准确率和实时性。
表3不同模型算法数据对比表
从表3中还可以看出SVM-Linear算法和SVM-RBF算法这类机器学习算法在采用不同的声音特征提取算法时对准确率影响较大，因为机器学习算法对声音特征的显著性有很强的依赖性；而本申请的基于动态自注意力的托辊故障诊断模型在采用不同的声音特征提取算法时对准确率影响较小，模型对声音特征的显著性依赖弱；此外，本申请的基于动态自注意力的托辊故障诊断模型相对于深度学习算法和机器学习算法的模型大小较小，诊断的实时性更好，易于实施。
为了阐明该基于动态自注意力的托辊故障诊断模型的机理，对模型的前向推理过程进行了可视化展示，如图5所示，图中a为经过短时傅里叶变化处理的时频域特征图，故障类型为C1轴承保持架损坏，托辊滚动体错位碰撞会发出间歇性的中高频碰撞声音，其特征被可视化为图中a的方框中的条纹。
图中b为值项词嵌入矩阵图，可以看出值项词嵌入保留并延展了a中对应时刻上的条纹特征。
图中c为自注意力权重图，即
的结果图，可以看出对应时刻上也出现了明显的斑点，增强了b中相应时刻的有用特征内容，而没有过多关注运行噪声的部分特征。
图中d为高级特征图，可以看出沿时间轴的元素幅值差异很小，可以理解高级特征图为将二维的时频域特征图的有用特征几乎全部压缩到了频率维度上，这也使提取到的特征具有了时间平移不变性；同时，由于时间轴上的差异很小，可以看出高级特征图不再适合作为迭代的输入，模型迭代1次的诊断效果最好；图中d的高级特征图由两组单组高级特征图组成，每组单组高级特征图的条纹是不同的，说明适当增加组数会增加特征提取的多样性。
该基于动态自注意力的托辊故障诊断方法准确率高、实时性好、抗干扰能力强，能够应用于基于声音信号的带式输送机托辊故障诊断系统，具有较大的应用价值。
需要说明的是，本申请实施例的方法可以由单个设备执行，例如一台计算机或服务器等。本实施例的方法也可以应用于分布式场景下，由多台设备相互配合来完成。在这种分布式场景的情况下，这多台设备中的一台设备可以只执行本申请实施例的方法中的某一个或多个步骤，这多台设备相互之间会进行交互以完成所述的方法。
需要说明的是，上述对本申请的一些实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于上述实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
基于同一发明构思，与上述任意实施例方法相对应的，本申请还提供了一种基于动态自注意力的托辊故障诊断装置。
参考图6，所述基于动态自注意力的托辊故障诊断装置，包括：
采集处理模块61，被配置为获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；特征提取模块62，与所述采集处理模块61电连接，被配置为对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；诊断分类模块63，与所述诊断分类模块62电连接，被配置为对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
为了描述的方便，描述以上装置时以功能分为各种模块分别描述。当然，在实施本申请时可以把各模块的功能在同一个或多个软件和/或硬件中实现。
上述实施例的装置用于实现前述任一实施例中相应的基于动态自注意力的托辊故障诊断方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
基于同一发明构思，与上述任意实施例方法相对应的，本申请还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上任意一实施例所述的基于动态自注意力的托辊故障诊断方法。
图7示出了本实施例所提供的一种更为具体的电子设备硬件结构示意图，该设备可以包括：处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其特征在于处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit，中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本说明书实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory，只读存储器)、RAM(Random AccessMemory，随机存取存储器)、静态存储设备，动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器1020中，并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块，以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出)，也可以外接于设备以提供相应功能。其特征在于输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等，输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出)，以实现本设备与其他设备的通信交互。其特征在于通信模块可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路，在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是，尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050，但是在具体实施过程中，该设备还可以包括实现正常运行所必需的其他组件。此外，本领域的技术人员可以理解的是，上述设备中也可以仅包含实现本说明书实施例方案所必需的组件，而不必包含图中所示的全部组件。
上述实施例的电子设备用于实现前述任一实施例中相应的基于动态自注意力的托辊故障诊断方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
基于同一发明构思，与上述任意实施例方法相对应的，本申请还提供了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行如上任一实施例所述的基于动态自注意力的托辊故障诊断方法。
本实施例的计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。
上述实施例的存储介质存储的计算机指令用于使所述计算机执行如上任一实施例所述的基于动态自注意力的托辊故障诊断方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本申请的范围(包括权利要求)被限于这些例子；在本申请的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，步骤可以以任意顺序实现，并存在如上所述的本申请实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。
另外，为简化说明和讨论，并且为了不会使本申请实施例难以理解，在所提供的附图中可以示出或可以不示出与集成电路(IC)芯片和其它部件的公知的电源/接地连接。此外，可以以框图的形式示出装置，以便避免使本申请实施例难以理解，并且这也考虑了以下事实，即关于这些框图装置的实施方式的细节是高度取决于将要实施本申请实施例的平台的(即，这些细节应当完全处于本领域技术人员的理解范围内)。在阐述了具体细节(例如，电路)以描述本申请的示例性实施例的情况下，对本领域技术人员来说显而易见的是，可以在没有这些具体细节的情况下或者这些具体细节有变化的情况下实施本申请实施例。因此，这些描述应被认为是说明性的而不是限制性的。
尽管已经结合了本申请的具体实施例对本申请进行了描述，但是根据前面的描述，这些实施例的很多替换、修改和变型对本领域普通技术人员来说将是显而易见的。例如，其它存储器架构(例如，动态RAM(DRAM))可以使用所讨论的实施例。
本申请实施例旨在涵盖落入所附权利要求的宽泛范围之内的所有这样的替换、修改和变型。因此，凡在本申请实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本申请的保护范围之内。
Claims (10)
1.一种基于动态自注意力的托辊故障诊断方法，其特征在于，包括：
获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；
对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；
对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
2.根据权利要求1所述的方法，其特征在于，所述对所述声音信号进行变换处理得到时频域特征图，包括：
对所述声音信号进行分帧、加窗和快速傅里叶变换得到所述时频域特征图。
3.根据权利要求1所述的方法，其特征在于，所述对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，包括：
利用M组降维投影矩阵对所述时频域特征图分别进行域变换得到M组所述查询词嵌入、键值词嵌入和值项词嵌入，其中，所述M为大于等于1的正整数。
4.根据权利要求3所述的方法，其特征在于，所述将所述查询词嵌入、键值词嵌入和值项词嵌入进行注意力操作得到高级特征图，包括：
利用softmax函数对每组所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到单组高级特征图；
将M组所述单组高级特征图沿频率维度进行拼接得到所述高级特征图。
5.根据权利要求1所述的方法，其特征在于，所述对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图，之后还包括：
将得到的所述高级特征图代替所述时频域特征图进行所述域变换和所述自注意力操作的迭代处理，经过预设迭代次数后得到迭代后的所述高级特征图。
6.根据权利要求1所述的方法，其特征在于，所述对所述高级特征图进行压缩映射得到分类结果向量，包括：
利用第一线性投影向量将所述高级特征图沿时间维度进行压缩得到高级特征向量；
利用第二线性投影向量将所述高级特征向量映射为所述分类结果向量。
7.根据权利要求1所述的方法，其特征在于，所述对所述分类结果向量进行比对处理得到故障类型，包括：
对所述分类结果向量的元素值进行比较获得最大元素值，通过所述最大元素值的元素序号对应获得预存的所述故障类型。
8.一种基于动态自注意力的托辊故障诊断装置，其特征在于，包括：
采集处理模块，被配置为获取所述托辊运行的声音信号，对所述声音信号进行变换处理得到时频域特征图；
特征提取模块，与所述采集处理模块电连接，被配置为对所述时频域特征图进行域变换得到查询词嵌入、键值词嵌入和值项词嵌入，将所述查询词嵌入、键值词嵌入和值项词嵌入进行自注意力操作得到高级特征图；
诊断分类模块，与所述诊断分类模块电连接，被配置为对所述高级特征图进行压缩映射得到分类结果向量，对所述分类结果向量进行比对处理得到故障类型。
9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7中任意一项所述的方法。
10.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，其特征在于，所述计算机指令用于使所述计算机执行如权利要求1至7中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111589989.0A CN114330431A (zh) | 2021-12-23 | 2021-12-23 | 基于动态自注意力的托辊故障诊断方法及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111589989.0A CN114330431A (zh) | 2021-12-23 | 2021-12-23 | 基于动态自注意力的托辊故障诊断方法及相关设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114330431A true CN114330431A (zh) | 2022-04-12 |
Family
ID=81055197
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111589989.0A Pending CN114330431A (zh) | 2021-12-23 | 2021-12-23 | 基于动态自注意力的托辊故障诊断方法及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114330431A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117437218A (zh) * | 2023-12-18 | 2024-01-23 | 长沙矿冶研究院有限责任公司 | 一种采矿输送带托辊智能检测方法及系统 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112270240A (zh) * | 2020-10-22 | 2021-01-26 | 微医云(杭州)控股有限公司 | 一种信号处理方法、装置、电子设备和存储介质 |
| US10930301B1 (en) * | 2019-08-27 | 2021-02-23 | Nec Corporation | Sequence models for audio scene recognition |
| CN112885372A (zh) * | 2021-01-15 | 2021-06-01 | 国网山东省电力公司威海供电公司 | 电力设备故障声音智能诊断方法、系统、终端及介质 |
| CN112906739A (zh) * | 2021-01-18 | 2021-06-04 | 河南工业大学 | 基于多头注意力及轴系设备周期性的故障诊断方法 |
| CN113516023A (zh) * | 2021-04-23 | 2021-10-19 | 广东电网有限责任公司计量中心 | 设备振动异常诊断方法和系统 |
| CN113776835A (zh) * | 2021-10-11 | 2021-12-10 | 山东大学 | 基于增强梅尔线性频率倒谱系数的滚动轴承故障诊断方法 |
| CN113786204A (zh) * | 2021-09-03 | 2021-12-14 | 北京航空航天大学 | 基于深度卷积注意力网络的癫痫颅内脑电信号预警方法 |
-
2021
- 2021-12-23 CN CN202111589989.0A patent/CN114330431A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10930301B1 (en) * | 2019-08-27 | 2021-02-23 | Nec Corporation | Sequence models for audio scene recognition |
| CN112270240A (zh) * | 2020-10-22 | 2021-01-26 | 微医云(杭州)控股有限公司 | 一种信号处理方法、装置、电子设备和存储介质 |
| CN112885372A (zh) * | 2021-01-15 | 2021-06-01 | 国网山东省电力公司威海供电公司 | 电力设备故障声音智能诊断方法、系统、终端及介质 |
| CN112906739A (zh) * | 2021-01-18 | 2021-06-04 | 河南工业大学 | 基于多头注意力及轴系设备周期性的故障诊断方法 |
| CN113516023A (zh) * | 2021-04-23 | 2021-10-19 | 广东电网有限责任公司计量中心 | 设备振动异常诊断方法和系统 |
| CN113786204A (zh) * | 2021-09-03 | 2021-12-14 | 北京航空航天大学 | 基于深度卷积注意力网络的癫痫颅内脑电信号预警方法 |
| CN113776835A (zh) * | 2021-10-11 | 2021-12-10 | 山东大学 | 基于增强梅尔线性频率倒谱系数的滚动轴承故障诊断方法 |
Non-Patent Citations (2)
| Title |
|---|
| XIANGWEI LIU等: "Acoustic signal based fault detection on belt conveyor idlers using machine learning", 《ADVANCED POWDER TECHNOLOGY》, 15 May 2020 (2020-05-15) * |
| 宋林: "基于注意力机制与深度学习的故障诊断方法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, 15 August 2021 (2021-08-15) * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117437218A (zh) * | 2023-12-18 | 2024-01-23 | 长沙矿冶研究院有限责任公司 | 一种采矿输送带托辊智能检测方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Wang et al. | A novel method for intelligent fault diagnosis of bearing based on capsule neural network | |
| Wang et al. | Enhanced generative adversarial network for extremely imbalanced fault diagnosis of rotating machine | |
| Han et al. | Intelligent fault diagnosis method for rotating machinery via dictionary learning and sparse representation-based classification | |
| Liu et al. | Subspace network with shared representation learning for intelligent fault diagnosis of machine under speed transient conditions with few samples | |
| Kong et al. | An enhanced sparse representation-based intelligent recognition method for planet bearing fault diagnosis in wind turbines | |
| Yang et al. | A fault diagnosis approach for roller bearing based on VPMCD under variable speed condition | |
| CN110297479B (zh) | 一种基于卷积神经网络信息融合的水电机组故障诊断方法 | |
| JP2016062258A (ja) | 検出装置、検出方法、およびプログラム | |
| Wang et al. | Multi-class disturbance events recognition based on EMD and XGBoost in φ-OTDR | |
| Li et al. | Fault diagnosis of rotating machinery based on combination of Wasserstein generative adversarial networks and long short term memory fully convolutional network | |
| CN116560895B (zh) | 用于机械装备的故障诊断方法 | |
| Zhang et al. | A bearing fault diagnosis method based on multiscale dispersion entropy and GG clustering | |
| CN116127383A (zh) | 故障检测方法、装置、电子设备及存储介质 | |
| CN114330431A (zh) | 基于动态自注意力的托辊故障诊断方法及相关设备 | |
| CN116295752B (zh) | 用于smt上料设备的测试力度控制方法及系统 | |
| CN115238740A (zh) | 一种基于时频分布和深度学习的故障诊断方法及装置 | |
| Gao et al. | A hierarchical training-convolutional neural network with feature alignment for steel surface defect recognition | |
| CN117030129A (zh) | 纸杯在线检漏方法及其系统 | |
| Chiariotti et al. | Smart measurement systems for zero-defect manufacturing | |
| CN116979970A (zh) | 一种漏磁数据的压缩和重构方法、系统、电子设备及介质 | |
| CN116610935A (zh) | 一种基于发动机振动信号多模态分析的机械故障检测方法 | |
| Liu et al. | Ensembled mechanical fault recognition system based on deep learning algorithm | |
| Bono et al. | Development of soft sensors based on neural networks for detection of anomaly working condition in automated machinery | |
| Liu et al. | A multisensory time-frequency features fusion method for rotating machinery fault diagnosis under nonstationary case | |
| US20210319544A1 (en) | Systems and methods for automatic defect recognition |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |