CN116698410B - 一种基于卷积神经网络的滚动轴承多传感器数据监控方法 - Google Patents
一种基于卷积神经网络的滚动轴承多传感器数据监控方法 Download PDFInfo
- Publication number
- CN116698410B CN116698410B CN202310784431.0A CN202310784431A CN116698410B CN 116698410 B CN116698410 B CN 116698410B CN 202310784431 A CN202310784431 A CN 202310784431A CN 116698410 B CN116698410 B CN 116698410B
- Authority
- CN
- China
- Prior art keywords
- rolling bearing
- data
- layer
- convolutional neural
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005096 rolling process Methods 0.000 title claims abstract description 61
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 24
- 238000012544 monitoring process Methods 0.000 title claims abstract description 23
- 238000013138 pruning Methods 0.000 claims abstract description 24
- 230000006835 compression Effects 0.000 claims abstract description 18
- 238000007906 compression Methods 0.000 claims abstract description 18
- 238000007781 pre-processing Methods 0.000 claims abstract description 18
- 230000004927 fusion Effects 0.000 claims abstract description 14
- 238000013139 quantization Methods 0.000 claims abstract description 14
- 238000012805 post-processing Methods 0.000 claims abstract description 6
- 238000012545 processing Methods 0.000 claims abstract description 6
- 238000004364 calculation method Methods 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 10
- 238000010606 normalization Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 claims description 5
- 230000008707 rearrangement Effects 0.000 claims description 3
- 230000014509 gene expression Effects 0.000 claims description 2
- 238000011176 pooling Methods 0.000 description 8
- 238000013508 migration Methods 0.000 description 5
- 230000005012 migration Effects 0.000 description 5
- 230000036541 health Effects 0.000 description 4
- 238000013526 transfer learning Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011478 gradient descent method Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/04—Bearings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明属于信号处理领域,具体涉及一种基于卷积神经网络的滚动轴承多传感器数据监控方法,包括:采用传感器实时获取滚动轴承的数据信息;对滚动轴承的数据信息进行预处理,将预处理后的数据输入到训练后的多源异构多传感数据分类网络中,得到滚动轴承状态信息;根据滚动轴承状态信息确定滚动轴承是否损坏;多源异构多传感数据分类网络包括:输入预处理模块、全卷积计算模块、输出全连接层计算模块和输出后处理模块;本发明的卷积神经网络通过层融合压缩策略、通道剪枝策略以及8比特量化压缩策略对模型进行优化,从而提高了模型分类的准确率和算法泛化能力。
Description
技术领域
本发明属于信号处理领域,具体涉及一种基于卷积神经网络的滚动轴承多传感器数据监控方法。
背景技术
滚动轴承在现代大型机械器具中广泛使用,其工作状态是决定机械器具安全运行的核心因素之一。随着不同机具复杂性的提高,多个滚动轴承在同一机具中往往处于不同的运行状态中,因而对不同工况下的滚动轴承的运行状态监测提出了挑战。
目前国内外有多种不同的滚动轴承监测方法,其中一部分是基于单一传感器实现的,由于传感数据较少,因此存在数据表征能力不足的局限性;另一部分虽然是基于多源异构传感器实现,但其应用条件较为严苛,往往滚动轴承工况或是传感器器件本身发生较小改变时,原有的算法便会失效。即单一传感器在监测滚动轴承健康状态方面存在一定的限制,米月花等人发现单传感算法往往存在对滚动轴承运行时健康状态特征表征不足的情况;杨创艳等人利用通过多种时域信号统计特征构建敏感指标集提取轴承退化特征指标,但其算法在涉及多路、多源异构传感数据时的计算复杂度过高,难以实现部署,且算法泛化性不足。
发明内容
为解决以上现有技术存在的问题,本发明提出了一种基于卷积神经网络的滚动轴承多传感器数据监控方法,该方法包括:采用传感器实时获取滚动轴承的数据信息;对滚动轴承的数据信息进行预处理,将预处理后的数据输入到训练后的多源异构多传感数据分类网络中,得到滚动轴承状态信息;根据滚动轴承状态信息确定滚动轴承是否损坏;多源异构多传感数据分类网络包括:输入预处理模块、全卷积计算模块、输出全连接层计算模块和输出后处理模块。
优选的,对多源异构多传感数据分类网络进行训练包括:获取历史滚动轴承数据,对获取的数据进行标记,得到带标签的滚动轴承多传感数据;将带标签的滚动轴承多传感数据输入到多源异构多传感数据分类网络,将带标签的滚动轴承多传感数据进行数据堆叠重排和归一化处理;采用输入预处理模块对归一化后的数据进行预处理;将预处理后的数据输入到全卷积计算模块中进行特征提取,并通过层融合压缩策略、通道剪枝策略以及8比特量化压缩策略对模型中参数进行优化;采用输出全连接层计算模块将全卷积计算模块输出的特征进行分类,得到分类结果;采用输出后处理模块将分类结果转换为概率值;根据概率值计算模型损失函数,调整模型参数,当损失函数收敛时完成模型的训练。
本发明的有益效果:
本发明的卷积神经网络通过层融合压缩策略、通道剪枝策略以及8比特量化压缩策略对模型进行优化,从而提高了模型分类的准确率和算法泛化能力;本发明适用于多种工况下的滚动轴承运行状态监测,在滚动轴承工况变化和传感器器件发生改变时,算法本身能够通过快速的迁移学习进而适应新的工况,大幅减少了算法调研和测试的时间成本;本发明算法时间复杂度稳定性强,传统算法复杂度随着监控传感数量增加,执行时间复杂度根据算法策略呈线性或非线性上升,相比之下,基于卷积神经网络的实现在一定数量的传感数据范围内算法复杂度稳定,且通过后续的网络优化策略至少能够降低网络参数量为原始网络的1/4。
附图说明
图1为本发明的一种基于卷积神经网络的滚动轴承多传感数据实时监测方法网络结构示意图;
图2为本发明的三类多源异构多传感数据集的样本图;
图3为本发明的从传感器采集到预处理数据的流程示意图;
图4为本发明的通道剪枝实现的示意图;
图5为本发明的8比特量化实现的示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明通过卷积神经网络和多传感器数据融合算法相结合,设计了适用于多源异构数据的滚动轴承多传感数据实时监测方法,用于解决上述传统方法中难以解决或是解决成本过高的难点,同时,本发明具有识别率高、泛化性强的特点,针对多种滚动轴承工况和监控传感器配置,可以通过迁移学习的方式使算法本身参数量不发生改变的情况下适配新的工况,大幅降低了传统算法迁移时所产生的调研、测试的时间成本。本发明提出一种基于卷积神经网络的滚动轴承多传感数据实时监测方法,卷积神经网络算法能够提取多尺度的多源异构传感数据特征,并进行综合,进而分析出滚动轴承实时健康状态,同时具有良好的准确率和算法泛化能力,在监测工业设备多工况运行的滚动轴承健康状况应用中能够发挥巨大作用。
一种基于卷积神经网络的滚动轴承多传感器数据监控方法,该方法包括:包括:采用传感器实时获取滚动轴承的数据信息;对滚动轴承的数据信息进行预处理,将预处理后的数据输入到训练后的多源异构多传感数据分类网络中,得到滚动轴承状态信息;根据滚动轴承状态信息确定滚动轴承是否损坏。
如图1所示,本发明设计的一种基于卷积神经网络的滚动轴承多传感数据实时监测方法,利用经过预处理后的多源异构多传感数据作为数据输入,通过神经网络提取数据的高层次特征,然后通过全连接层进行分类。最终在验证集上证明了所提算法的有效性。同时,为了验证算法的泛化能力,选取额外的数据集作为新样本,对先前训练好的数据集进行迁移学习,并最终验证新样本下的准确率,结果表明,本发明能够处理新样本下的滚动轴承实时多传感数据监测,在实现高准确率的情况下,迁移学习的时间成本也显著小于传统算法实现的时间成本。
在本实施例中,输入网络的数据可以是单一传感数据或多源异构的多传感数据,输入数据的通道数决定了网络输入的设计。原始的多传感数据按照均方根(Root MeanSquare,RMS)标准进行3分类,然后经过一维多通道时间序列数据转二维多通道张量数据和归一化的预处理。若传感器数量少于网络规定的通道数,则通过补0值的方式补齐缺少的通道,部分处理后的数据如图2所示,预处理流程示意图如图3所示,具体地,原始个数为n(n<4)的传感器,每个传感器产生了数据长度为h(h=224×224)的传感数据后,最后,将其重构为h×h×n的张量数据。
在一种实施例中,多源异构多传感数据分类网络有四种基础网络模块构成,分别是卷积层、批归一化层、池化层和全连接层。卷积层的作用是提取特征,是卷积神经网络最主要的计算层。卷积层可以提取到图像中的高层次特征,并且随着多个模块的堆叠产生更高层次的特征提取,对于每一次卷积计算涉及到输入特征值和卷积核权重参数的乘累加运算和添加偏置得到,但研究表明,偏执参数并非必要参数,因此本发明中不含偏执参数,略微降低了计算成本。不同卷积核、不同通道的特征值之间的卷积运算不存在数据依赖性,因此意味着卷积计算可以大规模并行计算,从而保证算法性能。
批归一化层起到控制过拟合、加速训练速度的作用,因为批归一化层在寻你连过程中按批次将特征矩阵值进行归一化,加速了参数在样本的高维超平面的收敛速度。
池化层通常位于卷积层或批归一化层后,起到减少计算量的作用,通常在每个特征图后分别进行池化降采样,以减少特征图宽和高的维度,一般有两种池化方法:平均池化和最大值池化,本发明使用最大池化策略。
全连接层在整个网络中起到分类器的作用,一方面可以对最后一个卷积层或者池化层输出的特征矩阵进行降维,另一方面实现了参数的高层次提取,全连接层的输出通过SoftMax分类器对卷积层提取的特征进行分类,建立推理结果和样本标签之间的联系,便于通过后续的梯度下降法更新网络中的权重参数。
原始的分类网络结构和参数如表1所示,从该表中可以看出原始的分类网络结构的复杂度高,计算量大,因此如何对分类网络结构进行压缩简化,从而降低模型的计算复杂度是目前亟待解决的问题。
表1:原始的分类网络结构和参数量表
在本实施例中,公开了一种对多源异构多传感数据分类网络进行训练的方法,该方法包括:获取历史滚动轴承数据,对获取的数据进行标记,得到带标签的滚动轴承多传感数据;将带标签的滚动轴承多传感数据输入到多源异构多传感数据分类网络,将带标签的滚动轴承多传感数据进行数据堆叠重排和归一化处理;采用输入预处理模块对归一化后的数据进行预处理;将预处理后的数据输入到全卷积计算模块中进行特征提取,并通过层融合压缩策略、通道剪枝策略以及8比特量化压缩策略对模型中参数进行优化;采用输出全连接层计算模块将全卷积计算模块输出的特征进行分类,得到分类结果;采用输出后处理模块将分类结果转换为概率值;根据概率值计算模型损失函数,调整模型参数,当损失函数收敛时完成模型的训练。
层融合压缩策略包括:
卷积层计算公式为:
Y=W·X+B
BN层计算的公式为:
根据卷积层计算公式和BN层计算公式设置权重参数矩阵和偏执参数矩阵,其表达式为:
令B=0,根据权重参数矩阵和偏执参数矩阵得到融合后的新的卷积层的公式为:
Y=αw·X+αb
其中,Y为卷积层输出的特征图张量,X为卷积层输入张量,W为权重张量,B为偏置张量,X2为BN层输出特征图张量,X1为BN层输入张量,μ和σ分别为当前批次下的滑动均值和滑动方差,α为滑动系数;∈=10-5。
通过层融合操作,一方面减少了参数流的长度,减轻了后续算法部署的I/O开销,另一方面减少了BN层的乘累加操作,减少了卷积神经网络的计算量。
卷积神经网络是一种稀疏结构,虽然通过提高中间特征图深度的情况下能够获取到数据更高层次的表征信息,有助于数据的特征提取,但是这种特征量往往是过量的,可以通过适当牺牲精度的方式,大幅缩减原有网络中的参数量,从而进一步降低卷积神经网络的部署成本和开销。
在所有剪枝方法中,本发明采取基于通道剪枝的方法作为压缩策略,通道剪枝发生在层融合步骤之后,其实现具体实现流程为:
1)记录所有卷积层和全连接层的输出特征图,并以通道维度为标准,统计各个通道下的数据和的均值,例如,对于一个输出特征图维度为(N,C,H,W)的特征图,得到的数据共C个;
2)按照1)中的数据,分别绘制概率密度图,然后按照原有参数量10%的量,从分布最少处剔除对应卷积层中的通道,具体流程如图4,每次剪枝后只需要进行小批次重训练即可达到接近先前网络的精度,然后重复执行该流程,直到网络规模达到预期或是精度下降超出预期时停止,相比表1,经过层融合和网络压缩后的模型网络结构和参数量如表2所示。
表2:剪枝后的分类网络结构和参数量表
输入节点名称 | 权重参数量 | 核大小 | 输出尺寸 |
Conv1_1 | 3x3@64 | 3x3 | [224x224x32] |
Conv1_2 | 3x3@64 | 3x3 | [224x224x32] |
Pool1 | - | 2x2 | [112x112x32] |
Conv2_1 | 3x3@128 | 3x3 | [112x112x64] |
Conv2_2 | 3x3@128 | 3x3 | [112x112x64] |
Pool2 | - | 2x2 | [56x56x64] |
Conv3_1 | 3x3@256 | 3x3 | [56x56x128] |
Conv3_2 | 3x3@256 | 3x3 | [56x56x128] |
Conv3_3 | 3x3@256 | 3x3 | [56x56x128] |
Pool3 | - | 2x2 | [28x28x128] |
Conv4_1 | 3x3@512 | 3x3 | [28x28x256] |
Conv4_2 | 3x3@512 | 3x3 | [28x28x256] |
Conv4_3 | 3x3@512 | 3x3 | [28x28x256] |
Pool4 | - | 2x2 | [14x14x256] |
Conv5_1 | 3x3@512 | 3x3 | [14x14x256] |
Conv5_2 | 3x3@512 | 3x3 | [14x14x256] |
Conv5_3 | 3x3@512 | 3x3 | [14x14x256] |
Pool5 | - | 2x2 | [7x7x256] |
Fc6 | 12544@3 | - | 3 |
受限于梯度下降法本身的限制,卷积神经网络在训练阶段需要各个参数为精度较高的单精度或是双精度浮点数类型,但研究表明,高精度在推理流程中不是必须的,且越来越多的实践表明,适当降低参数精度能够在保证网络精度的情况下大幅降低网络参数规模和网络推理计算的硬件需求,而8比特是能够兼顾模型准确率和模型轻量化的合适参数精度。
本发明选取8比特定点动态量化的方式对原网络中的32比特浮点数进行量化,8比特量化压缩策略包括:
其中,s为0或1,为符号位,mi为尾数位,2-f为整个参数的缩放系数。通过量化,参数的可表示范围从32比特数据的[-1.17×1038,3.40×1038)下降到[-128,127)*2-f。通过量化压缩,网络的参数规模降为原来的25%~50%,具体的量化流程图见图5。
模型的损失函数包括交叉熵损失函数和通道剪枝策略损失函数;交叉熵损失函数的表达式为:
其中,p(xi)表示事件i发生的概率。
通道剪枝策略损失函数使用“学生-教师”模型;该公式为:
其中,表示剪枝后的模型损失,/>表示未剪枝的初始模型损失,α表示学习率。
在每次剪枝10%的过程中使用“学生-教师”模型计算损失值,其中,“学生”模型代表剪枝后的模型,计算出的损失值为“教师”模型代表从未剪枝的初始模型,损失值记为/>在一次训练迭代中,相同的一个批次数据分别输入“教师”模型和“学生”模型计算出/>和/>然后通过上式的结果/>作为“学生”模型的真实损失值,其中,二者的模型均进行反向传播的参数更新。
对模型参数进行迁移的过程包括:迁移学习的过程和一般训练的过程一致,不同的是,初训练的网络中的所有权重参数是通过随机初始化的,但在迁移学习中,不需要做参数随机初始化,而是直接加载前面的数据集已经训练好的数据集,而且,迁移学习是指在使用新的数据集训练的流程,在迁移学习的训练过程中,随着网络中参数的更新,网络不仅能在对原始训练的数据集上表现出较好的预测结果,同时在新加入的数据集中表现出“学习到标签”的特征。通过训练,得到的最终网络,能同时对原始数据集和新加入数据集具有较好的推理预测准确率。迁移学习本质上是为了让同一个模型对不同数据集拥有一定的预测能力,即加强模型的泛化能力,因此,在实际处理过程中,一般是先进行迁移学习的步骤,然后才进行后续的剪枝等模型压缩操作。
以上所举实施例,对本发明的目的、技术方案和优点进行了进一步的详细说明,所应理解的是,以上所举实施例仅为本发明的优选实施方式而已,并不用以限制本发明,凡在本发明的精神和原则之内对本发明所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.一种基于卷积神经网络的滚动轴承多传感器数据监控方法,其特征在于,包括:采用传感器实时获取滚动轴承的数据信息;对滚动轴承的数据信息进行预处理,将预处理后的数据输入到训练后的多源异构多传感数据分类网络中,得到滚动轴承状态信息;根据滚动轴承状态信息确定滚动轴承是否损坏;多源异构多传感数据分类网络包括:输入预处理模块、全卷积计算模块、输出全连接层计算模块和输出后处理模块;
对多源异构多传感数据分类网络进行训练包括:获取历史滚动轴承数据,对获取的数据进行标记,得到带标签的滚动轴承多传感数据;将带标签的滚动轴承多传感数据输入到多源异构多传感数据分类网络,将带标签的滚动轴承多传感数据进行数据堆叠重排和归一化处理;采用输入预处理模块对归一化后的数据进行预处理;将预处理后的数据输入到全卷积计算模块中进行特征提取,并通过层融合压缩策略、通道剪枝策略以及8比特量化压缩策略对模型中参数进行优化;采用输出全连接层计算模块将全卷积计算模块输出的特征进行分类,得到分类结果;采用输出后处理模块将分类结果转换为概率值;根据概率值计算模型损失函数,调整模型参数,当损失函数收敛时完成模型的训练;
通道剪枝策略包括:
步骤1:记录所有卷积层和全连接层的输出特征图,并以通道维度为标准,统计各个通道下的数据和的均值;
步骤2:提取每层卷积层权重,并按通道维度求和,根据求和结果绘制概率密度曲线;
步骤3:选择10%为剪枝比例,优先删去上步中概率密度最小的值所对应的权重参数通道;
步骤4:重复步骤2~3,直到网络规模达到最优。
2.根据权利要求1所述的一种基于卷积神经网络的滚动轴承多传感器数据监控方法,其特征在于,输入预处理模块对数据进行预处理的过程包括:预处理的数据为n个传感器采集的数据,采集的数据长度为h;将所有传感器数据进行融合重构,得到h×h×n的张量数据。
3.根据权利要求1所述的一种基于卷积神经网络的滚动轴承多传感器数据监控方法,其特征在于,层融合压缩策略包括:
卷积层计算公式为:
Y=W·X+B
BN层计算的公式为:
根据卷积层计算公式和BN层计算公式设置权重参数矩阵和偏执参数矩阵,其表达式为:
令B=0,根据权重参数矩阵和偏执参数矩阵得到融合后的新的卷积层的公式为:
Y=αw·X+αb
其中,Y为卷积层输出的特征图张量,X为卷积层输入张量,W为权重张量,B为偏置张量,X2为BN层输出特征图张量,X1为BN层输入张量,μ和σ分别为当前批次下的滑动均值和滑动方差,α为滑动系数;∈=10-5。
4.根据权利要求1所述的一种基于卷积神经网络的滚动轴承多传感器数据监控方法,其特征在于,8比特量化压缩策略包括:选取8比特定点动态量化的方式对原网络中的32比特浮点数进行量化,量化公式为:
其中,s为符号位,mi为尾数位,2-f为整个参数的缩放系数。
5.根据权利要求1所述的一种基于卷积神经网络的滚动轴承多传感器数据监控方法,其特征在于,模型的损失函数包括交叉熵损失函数和通道剪枝策略损失函数;交叉熵损失函数的表达式为:
通道剪枝策略损失函数为:
其中,p(xi)表示事件i发生的概率;表示剪枝后的模型损失,/>表示未剪枝的初始模型损失,α表示学习率。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310784431.0A CN116698410B (zh) | 2023-06-29 | 2023-06-29 | 一种基于卷积神经网络的滚动轴承多传感器数据监控方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310784431.0A CN116698410B (zh) | 2023-06-29 | 2023-06-29 | 一种基于卷积神经网络的滚动轴承多传感器数据监控方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116698410A CN116698410A (zh) | 2023-09-05 |
CN116698410B true CN116698410B (zh) | 2024-03-12 |
Family
ID=87837308
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310784431.0A Active CN116698410B (zh) | 2023-06-29 | 2023-06-29 | 一种基于卷积神经网络的滚动轴承多传感器数据监控方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116698410B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109657780A (zh) * | 2018-06-15 | 2019-04-19 | 清华大学 | 一种基于剪枝顺序主动学习的模型压缩方法 |
CN113865859A (zh) * | 2021-08-25 | 2021-12-31 | 西北工业大学 | 多尺度多源异构信息融合的齿轮箱状态故障诊断方法 |
CN114462507A (zh) * | 2022-03-23 | 2022-05-10 | 重庆邮电大学 | 一种基于卷积神经网络的岩渣分类算法 |
WO2022141754A1 (zh) * | 2020-12-31 | 2022-07-07 | 之江实验室 | 一种卷积神经网络通用压缩架构的自动剪枝方法及平台 |
CN116304861A (zh) * | 2023-02-09 | 2023-06-23 | 河北工业大学 | 一种基于自注意力的时频特征融合故障诊断方法 |
-
2023
- 2023-06-29 CN CN202310784431.0A patent/CN116698410B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109657780A (zh) * | 2018-06-15 | 2019-04-19 | 清华大学 | 一种基于剪枝顺序主动学习的模型压缩方法 |
WO2022141754A1 (zh) * | 2020-12-31 | 2022-07-07 | 之江实验室 | 一种卷积神经网络通用压缩架构的自动剪枝方法及平台 |
CN113865859A (zh) * | 2021-08-25 | 2021-12-31 | 西北工业大学 | 多尺度多源异构信息融合的齿轮箱状态故障诊断方法 |
CN114462507A (zh) * | 2022-03-23 | 2022-05-10 | 重庆邮电大学 | 一种基于卷积神经网络的岩渣分类算法 |
CN116304861A (zh) * | 2023-02-09 | 2023-06-23 | 河北工业大学 | 一种基于自注意力的时频特征融合故障诊断方法 |
Non-Patent Citations (2)
Title |
---|
基于剪枝与量化的卷积神经网络压缩方法;孙彦丽等;计算机科学(第08期);264页 * |
模型剪枝与低精度量化融合的DNN模型压缩算法;吴进;杨雪;胡怡青;;电讯技术(06);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN116698410A (zh) | 2023-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112991354B (zh) | 一种基于深度学习的高分辨率遥感影像语义分割方法 | |
CN115018021B (zh) | 基于图结构与异常注意力机制的机房异常检测方法及装置 | |
CN113203566B (zh) | 一种基于一维数据增强和cnn的电机轴承故障诊断方法 | |
CN113743016B (zh) | 基于自编码器和回声状态网络的发动机剩余寿命预测方法 | |
CN111078895B (zh) | 基于去噪卷积神经网络的远程监督实体关系抽取方法 | |
CN115204035A (zh) | 基于多尺度时序数据融合模型的发电机组运行参数预测方法、装置及存储介质 | |
CN114676769A (zh) | 一种基于视觉Transformer的小样本昆虫图像识别方法 | |
CN113111889A (zh) | 用于边缘计算端的目标检测网络处理方法 | |
CN112766283A (zh) | 一种基于多尺度卷积网络的两相流流型识别方法 | |
CN114880538A (zh) | 基于自监督的属性图社团检测方法 | |
CN108388918B (zh) | 具有结构保持特性的数据特征选择方法 | |
CN109409407A (zh) | 一种基于le算法的工业监测数据聚类方法 | |
CN116698410B (zh) | 一种基于卷积神经网络的滚动轴承多传感器数据监控方法 | |
CN117333887A (zh) | 一种基于深度学习的甲骨文字体分类方法 | |
CN114511747A (zh) | 一种基于vae预处理和rp-2dcnn的不平衡负荷数据类型辨识方法 | |
CN114595730A (zh) | 基于gaf-drsn的滚动轴承故障诊断方法 | |
CN115457611B (zh) | 一种基于特征解耦网络的静脉识别方法 | |
CN117236201B (zh) | 一种基于Diffusion和ViT的降尺度方法 | |
CN112183615B (zh) | 一种带有马尔可夫链数据处理的汽车风险用户筛查方法 | |
CN115471668A (zh) | 一种基于离散序列浮点转换的神经元连接方法 | |
CN114420151B (zh) | 基于并联张量分解卷积神经网络的语音情感识别方法 | |
Zong | BP neural network can recognize the image intelligently | |
CN115238819A (zh) | 一种基于图神经网络的特殊人员特征信息分类方法及系统 | |
Liu et al. | Research of Convents Channel Pruning Based on MCP-L1 Regularization | |
You et al. | The Convergence Batch Dataset Algorithm Based on Deep Learning Model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |