CN111832228B - 基于cnn-lstm的振动传递系统 - Google Patents

基于cnn-lstm的振动传递系统 Download PDF

Info

Publication number
CN111832228B
CN111832228B CN202010690803.XA CN202010690803A CN111832228B CN 111832228 B CN111832228 B CN 111832228B CN 202010690803 A CN202010690803 A CN 202010690803A CN 111832228 B CN111832228 B CN 111832228B
Authority
CN
China
Prior art keywords
lstm
input
pooling
convolution
gate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010690803.XA
Other languages
English (en)
Other versions
CN111832228A (zh
Inventor
王强
李默
贺星
刘永葆
余又红
张鑫
李俊
贾延
郭大志
邢芷恺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naval University of Engineering PLA
Original Assignee
Naval University of Engineering PLA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naval University of Engineering PLA filed Critical Naval University of Engineering PLA
Priority to CN202010690803.XA priority Critical patent/CN111832228B/zh
Publication of CN111832228A publication Critical patent/CN111832228A/zh
Application granted granted Critical
Publication of CN111832228B publication Critical patent/CN111832228B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/15—Correlation function computation including computation of convolution operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Abstract

本发明公开基于CNN‑LSTM的振动传递系统，包括LSTM模型和CNN模型，所述LSTM模型由多个递归连接的记忆区块的子网络构成，且每个记忆区块中包含细胞神经单元和乘法单元，所述乘法单元包括输入门、输出门和遗忘门，且乘法单元对细胞神经单元进行连续的写、读和重置操作；本发明忽略信号传递路径，直接根据测点A和测点B的原始数据信号，在LSTM模型的基础上，改变输入输出格式，设立输入门、输出门和遗忘门，同时，增加一维卷积层与池化层，进行卷积运算，并对卷积层进行池化/采样处理，建立基于CNN‑LSTM的测点A到测点B的黑匣子模型，通过从数据A到数据B的网络训练，研究A、B之间对应关系。

Description

基于CNN-LSTM的振动传递系统
技术领域
本发明涉及信号研究技术领域，尤其涉及基于CNN-LSTM的振动传递系统。
背景技术
动力设备结构形式多样，测点布置位置不同，振动等级大小、振动信号特征等也会不同，但对于固定设备来说，装置的耦合特性及信号传递过程是相同的，常规的研究信号传递路径分析主要是通过根据模型的结构，分析测点的频响函数来研究测点A对测点B的振动信号传递过程，获得测点B的信号特征；
然而，该方法需要根据设备的结构进行复杂的传递路径及特性的推导，并难以推广到不明信号的传递特性利用中去，因此，本发明提出基于CNN-LSTM的振动传递系统以解决现有技术中存在的问题。
发明内容
针对上述问题，本发明的目的在于提出基于CNN-LSTM的振动传递系统，该基于CNN-LSTM的振动传递系统有效建立了针对任何A数据到B数据的信号传递黑匣子模型，不用根据设备的结构进行复杂的传递路径及特性的推导，并能广泛的推广到不明信号的传递特性利用中去。
为实现本发明的目的，本发明通过以下技术方案实现：基于CNN-LSTM的振动传递系统，包括LSTM模型和CNN模型，所述LSTM模型由多个递归连接的记忆区块的子网络构成，且每个记忆区块中包含细胞神经单元和乘法单元，所述乘法单元包括输入门、输出门和遗忘门，且乘法单元对细胞神经单元进行连续的写、读和重置操作；所述输入门控制当前时刻的输入χt中保存到当前时刻的单元状态Ct中的信息量，且通过tanh函数决定当前时刻的候选信息
Figure BDA0002589280900000021
所述候选信息
Figure BDA0002589280900000022
与决策向量it相乘，确定候选信息
Figure BDA0002589280900000023
中被输入至单元状态Ct中的信息量；所述输出门决定当前时刻的单元状态Ct被输入到单元的隐藏状态ht中的信息量；所述遗忘门决定上一时刻的单元状态Ct-1保存到当前时刻的状态Ct中的信息量，当前时刻的输入xt和上一时刻的隐藏状态ht-1连接成新的特征向量，该特征向量与权重参数Wf相乘，输入sigmiod函数，利用决策向量ft与上一时刻的单元状态Ct-1相乘，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量；所述细胞神经单元中，细胞状态贯穿整个过程，使信息以固定不变的方式传递；
所述CNN模型为卷积神经网络的一般结构，且包括卷积层和池化层，所述卷积层是卷积神经网络的核心层，且卷积层的核心为卷积，所述卷积为两个函数的运算，且该运算为卷积运算，所述卷积运算中包含输入、卷积、输出和卷积核，所述输入和卷积核均为张量，所述卷积运算用卷积分别乘以输入张量中的每个元素，然后输出一个代表每个输入信息的张量，所述卷积核为权重过滤器，所述卷积核用于对图像进行垂直边缘检测和水平边缘检测；所述池化层中，池化称为下采样Pooling，当卷积层获得图像的特征后，通过池化层对卷积层进行池化、采样处理，降低网络训练参数及模型的过拟合程度，所述池化层池化、采样的方式包括：最大池化、均值池化和随机池化。
进一步改进在于：所述输入门中，所述候选信息
Figure BDA0002589280900000031
与决策向量it相乘，即输入门与输入信号相乘，输入到记忆细胞中，决定被存放到单元状态中的新信息，所述候选信息
Figure BDA0002589280900000032
与决策向量it计算表达式为：
it＝σ(Wi[ht-1，χt]+bi)
Figure BDA0002589280900000033
其中，其中，bc为对应偏置项，Wc为对应输入层与隐藏层细胞单元之间的权重参数矩阵，it为LSTM神经网络某节点在t时刻输入门的激活向量值；bi为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；Wi为输入层与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；tanh为双曲正切函数。
进一步改进在于：所述输出门中，输出门的决策向量Ot与输出信号相乘决定本时刻需要输出的信息，决策向量Ot和细胞单元的隐藏状态ht的计算表达式为：
Ot＝σ(W0[ht-1，xt]+b0)
ht＝ot·tanh(Ct)
其中，Ot为LSTM神经网络某节点在t时刻输出门的激活向量值；b0为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；W0为隐藏层细胞单元与输出层之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；Ct为神经元细胞状态；σ为sigmoid激活函数；tanh为双曲正切函数。
进一步改进在于：所述遗忘门中，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量，即遗忘门与前一状态连接来控制是否遗忘之前的输入信号，ft的计算表达式为：
ft＝σ(Wf[ht-1，xt]+bf)
其中，ft为LSTM神经网络某节点在t时刻遗忘门的激活向量值；bf为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；Wf为遗忘门与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；tanh为双曲正切函数。
进一步改进在于：所述细胞神经单元中，当前时刻的单元状态Ct的计算式为：
Figure BDA0002589280900000041
其中，it、ft分别为LSTM神经网络某节点在t时刻输入门和遗忘门的激活向量值；Ct-1为t-1时刻记忆单元的向量值；
Ct为神经元细胞状态；σ为sigmoid激活函数；tanh为双曲正切函数。
进一步改进在于：所述卷积核进行垂直边缘检测和水平边缘检测的原理为：卷积核是3x3矩阵，其特点为有值的是第1列和第3列，第2列为0，通过卷积核的作用把原数据垂直边缘和水平边缘检测出来。
进一步改进在于：在深度学习中，所述卷积核还用于检测其他边缘特征，卷积核类似于标准神经网络中的权重矩阵W,通过梯度下降算法反复迭代求得，在深度学习学习中，卷积核通过模型训练得到，卷积神经网络的目的为计算出filter的数值，确定得到了filter后，卷积神经网络的浅层网络实现对图片所有边缘特征的检测；
所述卷积核每次移动的格数称为步幅,在图像中为跳过的像素个数，所述卷积核的值，在整个过程中均为共享变量，卷积神经网络采用参数共享降低参数的数量，当输入图片与卷积核不匹配、卷积核超过图片边界时，采用边界填充法padding，将图片尺寸进行扩展，扩展区域补零，根据是否扩展padding分为Same、Valid，采用Same方式，对图片扩展并补0；釆用Valid方式时，对图片不扩展，在实际训练过程中，使用Same不会丢失信息。设补0的圈数为p，输入数据大小为n，卷积核大小为步幅大小为s，则有：
Figure BDA0002589280900000051
卷积后的大小为:
Figure BDA0002589280900000052
进一步改进在于：所述池化层中，最大池化表示：选择池化Pooling窗口中的最大值作为采样值；均值池化表示:将池化Pooling窗口中的所有值相加取平均，以平均值作为采样值；随机池化表示：借概率的方法，确定选择一项；池化层在CNN模型中用来减小尺寸、提高运算速度及减小噪声影响，让各特征更具有健壮性，池化层在滤波器算子滑动区域内取最大值或平均值，图像经过池化后，得到特征图，而多层感知器接收的输入是一个向量，因此将特征图中的像素依次取岀，排列成一个向量。
本发明的有益效果为：本发明忽略信号传递路径，直接根据测点A和测点B的原始数据信号，在LSTM模型的基础上，改变输入输出格式，设立输入门、输出门和遗忘门，决定哪些新信息被存放到单元状态中，决定当前时刻需要输出的信息，并确定上一时刻的单元状态中被添加至当前蚀刻单元状态中的信息量，同时，增加一维卷积层与池化层，进行卷积运算，并对卷积层进行池化/采样处理，建立基于CNN-LSTM的测点A到测点B的黑匣子模型，通过从数据A到数据B的网络训练，研究A、B之间对应关系，获得固定的网络结构参数R，形成黑匣子路径传递模型，当再输入A时，直接可以获得B的原始信号，并利用其信号的频谱特征等来评价网络训练或获得信号的准确性，经验证，本发明有效建立了针对任何A数据到B数据的信号传递黑匣子模型，不用根据设备的结构进行复杂的传递路径及特性的推导，并能广泛的推广到不明信号的传递特性利用中去。
附图说明
图1为本发明的LSTM模型结构图；
图2为本发明的CNN模型结构图；
图3为本发明的二维空间上的卷积运算解释图；
图4为本发明的卷积神经网络运算，生成右边矩阵中第一行第一列的数据图；
图5为本发明的卷积核对垂直边缘的检测图；
图6为本发明的卷积核对水平边缘检测图；
图7为本发明的卷积神经网络卷积运算，生成右边矩阵第二行第二列的数据图；
图8为本发明的步幅strides＝2示意图；
图9为本发明的采用padding方法，对图片进行扩展、补零示意图；
图10为本发明的卷积运算后的结果+偏移量输入到激活函数ReLU示意图；
图11为本发明的三种池化方法示意图；
图12为本发明的验证例中数据B实际时序图与频谱图；
图13为本发明的验证例中数据C预测时序图与频谱图。
具体实施方式
为了加深对本发明的理解，下面将结合实施例对本发明做进一步详述，本实施例仅用于解释本发明，并不构成对本发明保护范围的限定。
根据图1-11所示，本实施例提供了基于CNN-LSTM的振动传递系统，包括LSTM模型和CNN模型，所述LSTM模型由多个递归连接的记忆区块的子网络构成，且每个记忆区块中包含细胞神经单元和乘法单元，所述乘法单元包括输入门、输出门和遗忘门，且乘法单元对细胞神经单元进行连续的写、读和重置操作；所述输入门控制当前时刻的输入χt中保存到当前时刻的单元状态Ct中的信息量，且通过tanh函数决定当前时刻的候选信息
Figure BDA0002589280900000081
所述候选信息
Figure BDA0002589280900000082
与决策向量it相乘，确定候选信息
Figure BDA0002589280900000083
中被输入至单元状态Ct中的信息量；所述输出门决定当前时刻的单元状态Ct被输入到单元的隐藏状态ht中的信息量；所述遗忘门决定上一时刻的单元状态Ct-1保存到当前时刻的状态Ct中的信息量，当前时刻的输入xt和上一时刻的隐藏状态ht-1连接成新的特征向量，该特征向量与权重参数Wf相乘，输入sigmiod函数，利用决策向量ft与上一时刻的单元状态Ct-1相乘，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量；所述细胞神经单元中，细胞状态贯穿整个过程，使信息以固定不变的方式传递；见图1；
所述输入门中，所述候选信息
Figure BDA0002589280900000084
与决策向量it相乘，即输入门与输入信号相乘，输入到记忆细胞中，决定被存放到单元状态中的新信息，所述候选信息
Figure BDA0002589280900000085
与决策向量it计算表达式为：
it＝σ(Wi[ht-1，χt]+bi)
Figure BDA0002589280900000086
其中，其中，bc为对应偏置项，Wc为对应输入层与隐藏层细胞单元之间的权重参数矩阵，it为LSTM神经网络某节点在t时刻输入门的激活向量值；bi为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；Wi为输入层与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；tanh为双曲正切函数。
所述输出门中，输出门的决策向量Ot与输出信号相乘决定本时刻需要输出的信息，决策向量Ot和细胞单元的隐藏状态ht的计算表达式为：
Ot＝σ(W0[ht-1，xt]+b0)
ht＝ot·tanh(Ct)
其中，Ot为LSTM神经网络某节点在t时刻输出门的激活向量值；b0为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；W0为隐藏层细胞单元与输出层之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；Ct为神经元细胞状态；σ为sigmoid激活函数；tanh为双曲正切函数。
所述遗忘门中，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量，即遗忘门与前一状态连接来控制是否遗忘之前的输入信号，ft的计算表达式为：
ft＝σ(Wf[ht-1，xt]+bf)
其中，ft为LSTM神经网络某节点在t时刻遗忘门的激活向量值；bf为对应的偏置项；xt为LSTM神经元在t时刻的输入数据；Wf为遗忘门与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；tanh为双曲正切函数。
所述细胞神经单元中，当前时刻的单元状态Ct的计算式为：
Figure BDA0002589280900000091
其中，it、ft分别为LSTM神经网络某节点在t时刻输入门和遗忘门的激活向量值；Ct-1为t-1时刻记忆单元的向量值；
Ct为神经元细胞状态；σ为sigmoid激活函数；tanh为双曲正切函数。
所述CNN模型为卷积神经网络的一般结构，且包括卷积层和池化层，见图2，所述卷积层是卷积神经网络的核心层，且卷积层的核心为卷积，所述卷积为两个函数的运算，且该运算为卷积运算，图3就是一个简单的二维空间卷积运算示例，包含了卷积的核心内容，所述卷积运算中包含输入、卷积、输出和卷积核，所述输入和卷积核均为张量，所述卷积运算用卷积分别乘以输入张量中的每个元素，然后输出一个代表每个输入信息的张量，所述卷积核为权重过滤器，所述输入、卷积核推广到高维空间上，所述输入由2x2矩阵，拓展为5x5矩阵，所述卷积核由标量拓展为3x3矩阵，如图4所示；所述卷积核是整个卷积过程的核心，且卷积核用于对图像进行垂直边缘检测和水平边缘检测；所述池化层中，池化称为下采样Pooling，当卷积层获得图像的特征后，通过池化层对卷积层进行池化、采样处理，降低网络训练参数及模型的过拟合程度，所述池化层池化、采样的方式包括：最大池化、均值池化和随机池化；
所述卷积核进行垂直边缘检测和水平边缘检测的原理为：卷积核是3x3矩阵，其特点为有值的是第1列和第3列，第2列为0，通过卷积核的作用把原数据垂直边缘和水平边缘检测出来。如图5、图6所示。
在深度学习中，所述卷积核还用于检测其他边缘特征，卷积核类似于标准神经网络中的权重矩阵W,通过梯度下降算法反复迭代求得，在深度学习学习中，卷积核通过模型训练得到，卷积神经网络的目的为计算出filter的数值，确定得到了filter后，卷积神经网络的浅层网络实现对图片所有边缘特征的检测；
所述卷积核每次移动的格数称为步幅(strides),在图像中为跳过的像素个数，如图7、图8所示，所述卷积核的值，在整个过程中均为共享变量，卷积神经网络采用参数共享降低参数的数量，当输入图片与卷积核不匹配、卷积核超过图片边界时，采用边界填充法padding，将图片尺寸进行扩展，扩展区域补零，如图9所示，根据是否扩展padding分为Same、Valid，采用Same方式，对图片扩展并补0；釆用Valid方式时，对图片不扩展，在实际训练过程中，使用Same不会丢失信息。设补0的圈数为p，输入数据大小为n，卷积核大小为步幅大小为s，则有：
Figure BDA0002589280900000111
卷积后的大小为:
Figure BDA0002589280900000112
激活函数：卷积神经网络与标准的神经网络类似，为保证其非线性，也需要使用激活函数，即在卷积运算后，把输出值另加偏移量，输入到激活函数，然后作为下一层的输入，如图10。常用的激活函数有：tf.sigmoid、tf.nn.relu、tf.tanh、tf.nn.dropout。
所述池化层中，最大池化表示：选择池化Pooling窗口中的最大值作为采样值；均值池化表示:将池化Pooling窗口中的所有值相加取平均，以平均值作为采样值；随机池化表示：借概率的方法，确定选择一项；池化层在CNN模型中用来减小尺寸、提高运算速度及减小噪声影响，让各特征更具有健壮性，池化层在滤波器算子滑动区域内取最大值或平均值，图像经过池化后，得到特征图，而多层感知器接收的输入是一个向量，因此将特征图中的像素依次取岀，排列成一个向量。如图11。
验证例：
利用测得的输入信号A和信号B,进行CNN-LSTM网络训练，获得模型固定参数R,再输入A时，获得预测输出C,利用C的数据特征和实际信号B的特征进行对比，发现模型输出C与信号B有较好的贴合性，主要信号特征完全一样。说明该技术的有效性和实用性。如图12、图13。
表1数据集C实际特征频率与预测特征频率对比
Figure BDA0002589280900000121
具体流程为：数据预处理：将输入数据和目标数据按30个数据为一个序列，分别分段截取为若干个序列的集合(轴承的转频为30Hz，故设置为30，其他的序列长度没试过，不知有无影响)；模型建立：建立卷积层——池化层——全链接层——LSTM层的模型，采用‘elu’作为激活函数，实现非线性预测；模式训练：优化器选择Adam，Adam适合解决含大规模数据和参数优化问题，适用于非稳态目标，适用于解决包含很高噪声的问题；损失函数采用交叉熵函数(binary_crossentropy)；模型训练参数：Batch_size＝30，与输入一致。迭代次数epochs＝50。validation_split＝0.1，划分10％数据集用以验证。
该基于CNN-LSTM的振动传递系统忽略信号传递路径，直接根据测点A和测点B的原始数据信号，在LSTM模型的基础上，改变输入输出格式，设立输入门、输出门和遗忘门，决定哪些新信息被存放到单元状态中，决定当前时刻需要输出的信息，并确定上一时刻的单元状态中被添加至当前蚀刻单元状态中的信息量，同时，增加一维卷积层与池化层，进行卷积运算，并对卷积层进行池化/采样处理，建立基于CNN-LSTM的测点A到测点B的黑匣子模型，通过从数据A到数据B的网络训练，研究A、B之间对应关系，获得固定的网络结构参数R，形成黑匣子路径传递模型，当再输入A时，直接可以获得B的原始信号，并利用其信号的频谱特征等来评价网络训练或获得信号的准确性，经验证，本发明有效建立了针对任何A数据到B数据的信号传递黑匣子模型，不用根据设备的结构进行复杂的传递路径及特性的推导，并能广泛的推广到不明信号的传递特性利用中去。
以上显示和描述了本发明的基本原理、主要特征和优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (6)

1.基于CNN-LSTM的振动传递系统，应用于信号研究技术领域，包括LSTM模型和CNN模型，其特征在于：所述LSTM模型由多个递归连接的记忆区块的子网络构成，且每个记忆区块中包含细胞神经单元和乘法单元，所述乘法单元包括输入门、输出门和遗忘门，且乘法单元对细胞神经单元进行连续的写、读和重置操作；所述输入门控制当前时刻的输入Xt中保存到当前时刻的单元状态Ct中的信息量，且通过tanh函数决定当前时刻的候选信息τt，所述候选信息τt与决策向量it相乘，确定候选信息τt中被输入至单元状态Ct中的信息量；所述输出门决定当前时刻的单元状态Ct被输入到单元的隐藏状态ht中的信息量；所述遗忘门决定上一时刻的单元状态Ct-1保存到当前时刻的状态Ct中的信息量，当前时刻的输入Xt和上一时刻的隐藏状态ht-1连接成新的特征向量，该特征向量与权重参数Wf相乘，输入sigmiod函数，利用决策向量ft与上一时刻的单元状态Ct-1相乘，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量；所述细胞神经单元中，细胞状态贯穿整个过程，使信息以固定不变的方式传递；
所述CNN模型包括卷积层和池化层，所述卷积层是卷积神经网络的核心层，且卷积层的核心为卷积，所述卷积为两个函数的运算，且该运算为卷积运算，所述卷积运算中包含输入、卷积、输出和卷积核，所述输入和卷积核均为张量，所述卷积运算用卷积分别乘以输入张量中的每个元素，然后输出一个代表每个输入信息的张量，所述卷积核为权重过滤器，所述卷积核用于对图像进行垂直边缘检测和水平边缘检测；所述池化层中，池化称为下采样Pooling，当卷积层获得图像的特征后，通过池化层对卷积层进行池化、采样处理，降低网络训练参数及模型的过拟合程度，所述池化层池化、采样的方式包括：最大池化、均值池化和随机池化；
所述遗忘门中，确定上一时刻的单元状态Ct-1被添加至单元状态Ct中的信息量，即遗忘门与前一状态连接来控制是否遗忘之前的输入信号，ft的计算表达式为：
Figure FDA0003149419930000021
其中，ft为LSTM神经网络某节点在t时刻遗忘门的激活向量值；bf为对应的偏置项；Xt为LSTM神经元在t时刻的输入数据；WF为遗忘门与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；
在深度学习中，卷积核通过模型训练得到，卷积神经网络的目的为计算出filter的数值，确定得到了filter后，卷积神经网络的浅层网络实现对图片所有边缘特征的检测；
所述卷积核每次移动的格数称为步幅，在图像中为跳过的像素个数，所述卷积核的值，在整个过程中均为共享变量，卷积神经网络采用参数共享降低参数的数量，当输入图片与卷积核不匹配、卷积核超过图片边界时，采用边界填充法padding，将图片尺寸进行扩展，扩展区域补零，根据是否扩展padding分为Same、Valid，采用Same方式，对图片扩展并补0；采用Valid方式时，对图片不扩展，在实际训练过程中，使用Same不会丢失信息；设补0的圈数为p，输入数据大小为n，卷积核大小为f，步幅大小为s，则有：
Figure FDA0003149419930000031
卷积后的大小为：
Figure FDA0003149419930000032
2.根据权利要求1所述的基于CNN-LSTM的振动传递系统，其特征在于：所述输入门中，所述候选信息τt与决策向量it相乘，即输入门与输入信号相乘，输入到记忆细胞中，决定被存放到单元状态中的新信息，所述候选信息τt与决策向量it计算表达式为：
it＝σ(Wi[ht-1，xt]+bi)
τt＝tanh(Wc[ht-1，xt]+bc)
其中，bc为对应偏置项，Wc为对应输入层与隐藏层细胞单元之间的权重参数矩阵，it为LSTM神经网络某节点在t时刻输入门的激活向量值；bi为对应的偏置项；Xt为LSTM神经元在t时刻的输入数据；Wi为输入层与隐藏层细胞单元之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；σ为sigmoid激活函数；tanh为双曲正切函数。
3.根据权利要求1所述的基于CNN-LSTM的振动传递系统，其特征在于：所述输出门中，输出门的决策向量Ot与输出信号相乘决定本时刻需要输出的信息，决策向量Ot和细胞单元的隐藏状态ht的计算表达式为：
Ot＝σ(Wo[ht-1，Xt]+bo)
ht＝Ot·tanh(Ct)
其中，Ot为LSTM神经网络某节点在t时刻输出门的激活向量值；bo为对应的偏置项；Xt为LSTM神经元在t时刻的输入数据；Wo为隐藏层细胞单元与输出层之间的参数矩阵；ht-1为LSTM神经元在t-1时刻的输出；Ct为神经元细胞状态；σ为sigmoid激活函数；tanh为双曲正切函数。
4.根据权利要求1所述的基于CNN-LSTM的振动传递系统，其特征在于：所述细胞神经单元中，当前时刻的单元状态Ct的计算式为：
Ct＝ft·Ct-1+it·τt
其中，it、ft分别为LSTM神经网络某节点在t时刻输入门和遗忘门的激活向量值；Ct-1为t-1时刻记忆单元的向量值；Ct为神经元细胞状态。
5.根据权利要求1所述的基于CNN-LSTM的振动传递系统，其特征在于：所述卷积核进行垂直边缘检测和水平边缘检测的原理为：卷积核是3x3矩阵，其特点为有值的是第1列和第3列，第2列为0，通过卷积核的作用把原数据垂直边缘和水平边缘检测出来。
6.根据权利要求1所述的基于CNN-LSTM的振动传递系统，其特征在于：所述池化层中，最大池化表示：选择池化Pooling窗口中的最大值作为采样值；均值池化表示：将池化Pooling窗口中的所有值相加取平均，以平均值作为采样值；随机池化表示：借概率的方法，确定选择一项；池化层在CNN模型中用来减小尺寸、提高运算速度及减小噪声影响，让各特征更具有健壮性，池化层在滤波器算子滑动区域内取最大值或平均值，图像经过池化后，得到特征图，而多层感知器接收的输入是一个向量，因此将特征图中的像素依次取岀，排列成一个向量。
CN202010690803.XA 2020-07-17 2020-07-17 基于cnn-lstm的振动传递系统 Active CN111832228B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010690803.XA CN111832228B (zh) 2020-07-17 2020-07-17 基于cnn-lstm的振动传递系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010690803.XA CN111832228B (zh) 2020-07-17 2020-07-17 基于cnn-lstm的振动传递系统

Publications (2)

Publication Number Publication Date
CN111832228A CN111832228A (zh) 2020-10-27
CN111832228B true CN111832228B (zh) 2021-08-24

Family

ID=72924367

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010690803.XA Active CN111832228B (zh) 2020-07-17 2020-07-17 基于cnn-lstm的振动传递系统

Country Status (1)

Country Link
CN (1) CN111832228B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112364991A (zh) * 2020-10-30 2021-02-12 台州学院 一种lstm-e轴承故障识别模型训练方法
US20240013047A1 (en) * 2020-12-24 2024-01-11 Intel Corporation Dynamic conditional pooling for neural network processing
CN113317780A (zh) * 2021-06-07 2021-08-31 南开大学 一种基于长短时记忆神经网络的异常步态检测方法
CN113376172B (zh) * 2021-07-05 2022-06-14 四川大学 一种基于视觉与涡流的焊缝缺陷检测系统及其检测方法

Also Published As

Publication number Publication date
CN111832228A (zh) 2020-10-27

Similar Documents

Publication Publication Date Title
CN111832228B (zh) 基于cnn-lstm的振动传递系统
CN110188685B (zh) 一种基于双注意力多尺度级联网络的目标计数方法及系统
CN109271960B (zh) 一种基于卷积神经网络的人数统计方法
CN110048827B (zh) 一种基于深度学习卷积神经网络的类模板攻击方法
CN105825200B (zh) 基于字典学习和结构稀疏表示的高光谱异常目标检测方法
CN109754078A (zh) 用于优化神经网络的方法
Pruteanu-Malinici et al. Infinite hidden Markov models for unusual-event detection in video
CN109598220A (zh) 一种基于多元输入多尺度卷积的人数统计方法
JP7111671B2 (ja) 学習装置、学習システム、および学習方法
CN113852432A (zh) 基于rcs-gru模型的频谱预测感知方法
CN112036381B (zh) 视觉跟踪方法、视频监控方法及终端设备
CN113988357A (zh) 基于深度学习的高层建筑风致响应预测方法及装置
CN117237733A (zh) 一种结合自监督和弱监督学习的乳腺癌全切片图像分类方法
CN113536925B (zh) 一种基于引导注意力机制的人群计数方法
CN112991394B (zh) 基于三次样条插值和马尔科夫链的kcf目标跟踪方法
CN109584267B (zh) 一种结合背景信息的尺度自适应相关滤波跟踪方法
CN110503631B (zh) 一种遥感图像变化检测方法
CN116258877A (zh) 土地利用场景相似度变化检测方法、装置、介质及设备
CN116681945A (zh) 一种基于强化学习的小样本类增量识别方法
CN114494999B (zh) 一种双分支联合型目标密集预测方法及系统
CN111242003A (zh) 一种基于多尺度受约束自注意机制的视频显著性物体检测的方法
CN115761888A (zh) 基于nl-c3d模型的塔吊操作人员异常行为检测方法
CN115830865A (zh) 基于自适应超图卷积神经网络的车流量预测方法及装置
CN111797979A (zh) 基于lstm模型的振动传递系统
CN113435243A (zh) 一种高光谱真实下采样模糊核估计方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CB03 Change of inventor or designer information

Inventor after: Yu Youhong

Inventor after: Xing Zhikai

Inventor after: Wang Qiang

Inventor after: Li Mo

Inventor after: He Xing

Inventor after: Liu Yongbao

Inventor after: Zhang Xin

Inventor after: Li Jun

Inventor after: Jia Yan

Inventor after: Guo Dazhi

Inventor before: Wang Qiang

Inventor before: Xing Zhikai

Inventor before: Li Mo

Inventor before: He Xing

Inventor before: Liu Yongbao

Inventor before: Yu Youhong

Inventor before: Zhang Xin

Inventor before: Li Jun

Inventor before: Jia Yan

Inventor before: Guo Dazhi

CB03 Change of inventor or designer information