CN110458278B - 基于量子注意力循环编码解码神经网络的退化预测方法 - Google Patents

基于量子注意力循环编码解码神经网络的退化预测方法 Download PDF

Info

Publication number
CN110458278B
CN110458278B CN201910318404.8A CN201910318404A CN110458278B CN 110458278 B CN110458278 B CN 110458278B CN 201910318404 A CN201910318404 A CN 201910318404A CN 110458278 B CN110458278 B CN 110458278B
Authority
CN
China
Prior art keywords
quantum
attention
encoder
neural network
decoder
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910318404.8A
Other languages
English (en)
Other versions
CN110458278A (zh
Inventor
李锋
陈勇
田大庆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan University
Original Assignee
Sichuan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan University filed Critical Sichuan University
Priority to CN201910318404.8A priority Critical patent/CN110458278B/zh
Publication of CN110458278A publication Critical patent/CN110458278A/zh
Application granted granted Critical
Publication of CN110458278B publication Critical patent/CN110458278B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N10/00—Quantum computing, i.e. information processing based on quantum-mechanical phenomena
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Human Resources & Organizations (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Biomedical Technology (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了提供的基于量子注意力循环编码解码神经网络(QAREDNN)的退化预测方法，将QAREDNN用于其中，引入量子注意力机制同时对编码器和解码器进行重构使QAREDNN能够充分挖掘和重视重要信息，同时抑制冗余信息的干扰，进而获得更好的非线性逼近能力；采用量子神经元构建活性值和权值由量子旋转矩阵代替的量子门限循环单元(QGRU)取代编码器和解码器中传统的循环单元能够提高QAREDNN的泛化能力和响应速度；在QAREDNN的训练过程中，引入LM算法实现量子旋转矩阵的旋转角和注意力参数快速更新。由于QAREDNN在非线性逼近能力、泛化能力以及响应和训练速度等方面的优点，基于量子注意力循环编码解码神经网络的退化预测方法能够获得较高的预测精度和计算效率。

Description

基于量子注意力循环编码解码神经网络的退化预测方法
技术领域
本发明属于机械状态监测技术领域，具体涉及基于量子注意力循环编码解码神经网络的退化预测方法。
背景技术
旋转机械广泛应用于燃气轮机、航空发动机和风力机等各种关键的设备中。其状态直接决定着设备能否长期安全可靠地运行。在整个服役过程中，旋转机械部件将经理一系列不同的状态退化阶段，旋转机械部件将经历一系列不同的状态退化阶段，对旋转机械部件状态退化趋势预测方法的研究有助于避免关键设备故障带来的灾难性事故，降低设备的维修成本，提高设备的效率。随着传感器技术和信号处理技术在系统状态监测中的发展，可以获得大量有价值的系统和部件状态的监测数据。因此，基于数据驱动的退化趋势预测方法逐渐受到重视，并取得了较快的发展。数据驱动方法一般采用先进的传感器技术采集与系统状态相关的特征参数，然后通过适当的算法对采集到的特征参数进行分析，以预测目标系统的状态退化程度。进而，为机械设备系统及其相应部件的维护提供决策信息。
近年来，大量的与机器学习相关的数据驱动算法被应用于旋转机械退化趋势的预测中。如：遗传支持向量机(Genetic algorithm support vector regression,GA-SVR),改进共生生物搜索极限学习机器(Ameliorated symbiotic organisms search extremelearning machine，ASOS-ELM)和人工神经网络循环编码-解码器(Artificial neuralnetwork，ANN)，对于GA-SVR而言，由于难以准确地设置核函数，使得预测结果往往不确定。对于ASOS-ELM而言，它容易发生过拟合，进而导致其泛化性能下降。对于ANN而言，它们大多是模仿初级生物神经反射来处理信息，从而不能识别输入信息的主、次关系，因此必须按顺序无区分地处理信息。一旦输入序列非常长，就需要大量的时间步骤积累信息，以关联长时间序列信息的相互依赖特征。序列越长，有效捕获长序列信息的相互依赖特征的可能性就越小。因此神经网络的非线性逼近能力和泛化能力不理想，预测精度也不高。
发明内容
针对现有技术中的上述不足，本发明提供的基于量子注意力循环编码解码神经网络的退化预测方法解决了背景技术中的上述问题。
为了达到上述发明目的，本发明采用的技术方案为：基于量子注意力循环编码解码神经网络的退化预测方法，包括以下步骤：
S1、采集旋转机械运行的原始振动数据；
S2、根据原始振动数据构造模糊熵；
S3、对模糊熵进行滑动平均降噪处理，并将处理后的降噪模糊熵作为旋转机械退化状态特征；
S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中，并对其进行训练；
S5、通过训练好的量子注意力循环编码解码神经网络对旋转机械的测试样本进行退化状态趋势的预测。
本发明的有益效果为：本发明创造性的将QAREDNN用于的旋转机械状态退化趋势预测中，在QAREDNN中，引入量子注意力机制同时对编码器和解码器进行重构使QAREDNN能够充分挖掘和重视重要信息，同时抑制冗余信息的干扰，进而获得更好的非线性逼近能力。另一方面，采用量子神经元重构一种活性值和权值由量子旋转矩阵代替的量子门限循环单元(Quantum gated recurrent unit，QGRU)。由于QGRU不仅能够更加精细地遍历解空间，还具有大量的多重吸引子，因此采用QGRU代替编码器和解码器中传统的循环单元能够提高QAREDNN的泛化能力和响应速度。而且，在QAREDNN的训练过程中，引入LM算法实现量子旋转矩阵的旋转角和注意力参数快速更新。由于QAREDNN在非线性逼近能力、泛化能力以及响应和训练速度等方面的优点，所发明的基于QAREDNN的状态退化趋势预测方法能够获得较高的预测精度和计算效率。
附图说明
图1为本发明提供的基于量子注意力循环编码解码神经网络的退化预测方法实现流程图。
图2为本发明提供的QAREDNN的结构图。
图3为本发明提供的QAREDNN训练方法流程图。
图4为本发明提供的实施例中轴承3的原始全寿命模糊熵。
图5为本发明提供的实施例中轴承3的滑动平均降噪后的模糊熵。
图6为本发明提供的实施例中QAREDNN预测的模糊熵曲线。
图7为本发明提供的实施例中不同机器学习预测方法的学习曲线。
图8为本发明提供的实施例中DNN-RED、ASOS-ELM和GA-SVR预测的模糊熵曲线。
图9为本发明提供的实施例中统计分析QAREDNN、DNN-RED、ASOS-ELM、GA-SVR四种方法的预测精度和稳定性的统计图。
图10为本发明提供的实施例中四种状态退化趋势预测方法消耗时间对比所述示意图。
具体实施方式
下面对本发明的具体实施方式进行描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。
如图1所示，一种基于量子注意力循环编码解码神经网络的退化预测方法，包括以下步骤：
S1、采集旋转机械运行的原始振动数据；
S2、根据原始振动数据构造模糊熵；
S3、对模糊熵进行滑动平均降噪处理，并将处理后的降噪模糊熵作为旋转机械退化状态特征；
S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中，并对其进行训练；
S5、通过训练好的量子注意力循环编码解码神经网络对旋转机械的测试样本进行退化状态趋势的预测。
上述步骤S2具体为：
首先，设时间序列
Figure BDA0002033870930000041
在保持元素在序列中的相对位置不变的情况下，分别重构如下两个向量：
Figure BDA0002033870930000042
Figure BDA0002033870930000043
其中，M为时间序列
Figure BDA0002033870930000044
的维数；
n表示向量
Figure BDA0002033870930000045
和向量
Figure BDA0002033870930000046
的维数，且i,j∈1,…,M-n；
Figure BDA0002033870930000047
然后，分别计算
Figure BDA0002033870930000048
和
Figure BDA0002033870930000049
的距离lij和相似度如下：
Figure BDA0002033870930000051
Figure BDA0002033870930000052
式中，exp(·)表示指数函数；
Δ指数函数边界的梯度；
r是指数函数边界的宽度；
其次定义一个函数O(Δ,r)：
Figure BDA0002033870930000053
同理，构造(n+1)维的向量
Figure BDA0002033870930000054
和
Figure BDA0002033870930000055
因此可以得到函数O′(Δ,r)。
最后计算模糊熵FE如下：
Figure BDA0002033870930000056
当M是一个有限值，则模糊熵计算如下：
FE＝lnO(Δ,r)-lnO′(Δ,r) (5)
上述步骤S4中的量子注意力循环编码解码神经网络(QAREDNN)包括相互连接编码器和解码器；图2中显示了该QAREDNN的结构。
编码器包括依次连接的编码器注意力机制和编码器量子门限循环单元，所述编码器量子门限循环单元作为编码器的循环单元；
解码器包括依次连接的解码器注意力机制和解码器量子门限循环单元，所述解码器量子门限循环单元作为解码器的循环单元；
编码器量子门限循环单元的输出端与解码器注意力机制的输入端连接。
上述第一量子门限循环单元和第二量子门限循环单元均可简称为QGRU。
在本发明的QAREDNN中，将量子神经元和门限循环单元结合以构建一种新的量子门限循环单元(Quantum gated recurrent units,QGRUs)，并将其作为编码器和解码器的循环单元；同时在编码器和解码器中分别引入了注意力机制。
因此，上述QGRU的构造过程具体为：
设t时刻编码器量子循环单元的输入序列
Figure BDA0002033870930000061
其量子态为
Figure BDA0002033870930000062
t时刻隐层状态
Figure BDA0002033870930000063
其量子态为
Figure BDA0002033870930000064
式中，
Figure BDA0002033870930000065
为在Bloch球面坐标中
Figure BDA0002033870930000066
在xy平面的投影与x轴的夹角；
Figure BDA0002033870930000067
为在Bloch球面坐标中
Figure BDA0002033870930000068
与z轴的夹角；
Figure BDA0002033870930000069
为在Bloch球面坐标中
Figure BDA00020338709300000610
在xy平面的投影与x轴的夹角；
Figure BDA00020338709300000611
为在Bloch球面坐标中
Figure BDA00020338709300000612
与z轴的夹角；
t时刻，编码器量子门限循环单元的更新门zt为：
Figure BDA00020338709300000613
式中，
Figure BDA00020338709300000614
σ(·)为激活函数；
F(·)为变量坐标求和函数；
Figure BDA00020338709300000615
为更新门权值矩阵；
Figure BDA00020338709300000616
为更新门活性值矩阵；
Figure BDA00020338709300000617
为更新门zt中元素
Figure BDA00020338709300000618
的权重量子旋转矩阵；
Figure BDA00020338709300000619
为更新门zt中元素
Figure BDA00020338709300000620
的活性值量子旋转矩阵；
δj为
Figure BDA00020338709300000621
的旋转角；
μj为
Figure BDA0002033870930000071
的旋转角；
Figure BDA0002033870930000072
t时刻，编码器量子门限循环单元的重置门rt为：
Figure BDA0002033870930000073
式中，rt j∈rt＝[rt 1,rt 2,…,rt m]；
Wj r为重置门权值矩阵；
Figure BDA0002033870930000074
为重置门活性值矩阵；
Figure BDA0002033870930000075
为重置门rt中元素rt j的权重量子旋转矩阵；
Figure BDA0002033870930000076
为重置门rt中元素rt j的活性值权重矩阵；
γj为
Figure BDA0002033870930000077
的旋转角；
ψj为
Figure BDA0002033870930000078
的旋转角；
根据重置门rt和隐层状态ht-1，t时刻，编码器量子门限循环单元的候选集
Figure BDA0002033870930000079
为：
Figure BDA00020338709300000710
式中，
Figure BDA00020338709300000711
tanh(·)为激活函数；
Figure BDA0002033870930000081
为候选集权值矩阵；
Figure BDA0002033870930000082
为候选集活性值矩阵；
Figure BDA0002033870930000083
为候选集
Figure BDA0002033870930000084
中元素
Figure BDA0002033870930000085
的权重量子旋转矩阵；
Figure BDA0002033870930000086
为候选集
Figure BDA0002033870930000087
中元素
Figure BDA0002033870930000088
的活性值量子旋转矩阵；
ξj为
Figure BDA0002033870930000089
的旋转角；
εj为
Figure BDA00020338709300000810
的旋转角；
Figure BDA00020338709300000811
为在Bloch球面坐标中
Figure BDA00020338709300000812
在xy平面的投影与x轴的夹角；
Figure BDA00020338709300000813
为在Bloch球面坐标中
Figure BDA00020338709300000818
与z轴的夹角；
⊙为元向乘法运算符；
Figure BDA00020338709300000815
根据更新门zt和候选集
Figure BDA00020338709300000816
t时刻的隐层状态ht为：
Figure BDA00020338709300000817
式中，Λ为常数矩阵，且其所有元素的值为1，其维数与更新门zt相同；
因此，t时刻，输入序列xt与编码器量子门限循环单元隐层状态ht之间的函数关系为：
ht＝f(ht-1,xt) (10)
由于旋转角δj，μj，γj，ψj，ξj和εj都以余弦函数形式出现，根据三角函数的周期性，若δj，μj，γj，ψj，ξj和εj为多重吸引子(即：使训练误差函数值最小时的最优解)，则δj+2kπ，μj+2kπ，γj+2kπ，ψj+2kπ，ξj+2kπ和εj+2kπ(k＝±1,±2,…)也为多重吸引子，这将导致在QGRU中存在大量多重吸引子。
现在，在提出的QAREDNN中，可以将上述构造的新的QGRU作为编码器和解码器的循环单元。
接下来，将编码器注意力机制引入到编码器中；
Figure BDA0002033870930000091
Figure BDA0002033870930000092
相关系数
Figure BDA0002033870930000093
为：
Figure BDA0002033870930000094
式中，Γe为编码器调节系数向量，且Γe的所有元素的值为1；
We和Ue均为编码器中的注意力参数矩阵，且We∈R2m×2m，Ue∈R2m×1；
Figure BDA0002033870930000095
为t-1时刻编码器中的编码器量子门限循环单元的隐层状态
Figure BDA0002033870930000096
和候选集
Figure BDA0002033870930000097
的连接；
将相关系数
Figure BDA0002033870930000098
归一化得到输入序列xt的权重系数
Figure BDA0002033870930000099
为：
Figure BDA00020338709300000910
式中，exp(·)表示指数函数；
如式(11)和式(12)所示，通过注意力机制对输入元素赋予不同的权重系数可以使QAREDNN的编码器充分挖掘重要信息并抑制冗余信息的干扰。
因此，将输入序列xt更新为
Figure BDA00020338709300000911
更新后的输入序列
Figure BDA00020338709300000912
与编码器中编码器量子门限循环单元的隐层状态
Figure BDA00020338709300000913
的功能关系表示为：
Figure BDA00020338709300000914
同理，将解码器注意力机制引入到解码器中，根据t时刻编码器的隐层状态
Figure BDA00020338709300000915
和t-1时间的解码器的隐层状态
Figure BDA00020338709300000916
Figure BDA00020338709300000917
Figure BDA00020338709300000918
的相关系数
Figure BDA00020338709300000919
为：
Figure BDA00020338709300000920
式中，Φd为解码器调节系数向量，且Φd中所有元素的值为1；
Wd和Ud均为解码器中的注意力参数矩阵，且Wd∈R2m×2m，Ud∈R2m×1；
将相关系数
Figure BDA00020338709300000921
归一化得到
Figure BDA00020338709300000922
的权重系数
Figure BDA00020338709300000923
为：
Figure BDA0002033870930000101
因此，解码器中的上下文向量ct为
Figure BDA0002033870930000102
如式(14)和式(15)所示，由于注意力机制的存在，QAREDNN的解码器可以进一步提高QAREDNN获取重要信息的能力，同时抑制冗余信息的干扰。
因此，更新的上下文向量ct-1与解码器量子门限循环单元中的隐层状态
Figure BDA0002033870930000103
之间的功能关系为：
Figure BDA0002033870930000104
另外，在解码器量子门限循环单元中增加一个输出层，计算量子注意力循环编码解码神经网络的输出向量yt为：
Figure BDA0002033870930000105
式中，
Figure BDA0002033870930000106
Wj o为输出向量yt中元素
Figure BDA0002033870930000107
的权重旋转矩阵；
υj为Wj o的旋转角。
在本发明提出的QAREDNN中，需要更新的参数为：
解码器中的旋转角包括υj、
Figure BDA0002033870930000108
和
Figure BDA0002033870930000109
解码器中的注意力参数包括Wd和Ud；
编码器中的旋转角包括
Figure BDA00020338709300001010
和
Figure BDA00020338709300001011
编码器的注意力参数包括We和Ue；
通常，传统的训练算法一般采用误差函数的一阶导数作为增量来更新参数。然而，在这种情况下，收敛速度非常慢。虽然牛顿训练算法以误差函数的二阶导数为增量来调整参数，但由于二阶导数矩阵通常是不可逆的,这使得该算法的求解条件非常苛刻。
因此，本发明选择传统训练算法与牛顿训练算法之间的折中算法(Levenberg-Marquardt算法)，对QAREDNN的旋转角度和注意参数进行更新。
参数更新的方法具体为：
A1、根据训练误差函数依次确定编码器的旋转角梯度和注意力参数梯度及解码器的旋转角梯度和注意力参数梯度；
其中，解码器的旋转角梯度包括
Figure BDA0002033870930000111
和
Figure BDA0002033870930000112
解码器的注意力参数梯度包括
Figure BDA0002033870930000113
和
Figure BDA0002033870930000114
编码器的旋转角梯度包括
Figure BDA0002033870930000115
和
Figure BDA0002033870930000116
编码器的注意力参数梯度包括
Figure BDA0002033870930000117
和
Figure BDA0002033870930000118
式中，
Figure BDA0002033870930000119
为训练误差函数，
Figure BDA00020338709300001110
Figure BDA00020338709300001111
为解码器的实际输出，且
Figure BDA00020338709300001112
y′j为与实际输出
Figure BDA00020338709300001113
对应的目标输出，且
Figure BDA00020338709300001114
例如，解码器的旋转角υj关于误差函数
Figure BDA00020338709300001115
的梯度推导如下：
Figure BDA00020338709300001116
解码器的旋转角
Figure BDA00020338709300001117
的梯度计算如下：
Figure BDA0002033870930000121
式中，
Figure BDA0002033870930000122
根据链式推导的基本思想，可以计算出解码器和编码器中所有旋转角梯度和注意力参数；
A2、设参数向量为p，误差向量为E，Jacobian矩阵为J；
p＝[υ,ξD,εD,γD,ψD,δD,μD,wd,ud,ξE,εE,γE,ψE,δE,μE,we,ue] (20)
Figure BDA0002033870930000123
Figure BDA0002033870930000124
A3、根据参数向量p的更新迭代公式对参数向量p进行更新，实现量子注意力循环编码解码神经网络中所有旋转角和注意力参数的更新；
其中，参数向量p的更新迭代公式为：
p′＝p-θ[JT(p)J(p)+τI]-1J(p)E(p) (23)
式中，p′为更新后的参数向量；
θ为学习效率；
τ为一个使JT(p)J(p)+τI可逆的正数；
I为单位矩阵。
上述步骤S4中，量子注意力循环编码解码神经网络的训练方法具体为：
设由降噪模糊熵组成的输入序列
Figure BDA0002033870930000131
根据相空间重构原理，输入序列
Figure BDA0002033870930000132
可以被分解为训练样本矩阵和目标输出向量
Figure BDA0002033870930000133
因此，如图3所示，上述步骤S4中量子注意力循环编码解码神经网络的训练方法具体为：
B1、将降噪模糊熵组成的输入序列
Figure BDA0002033870930000134
分解为训练样本矩阵X和目标输出向量
Figure BDA0002033870930000135
其中，输入序列
Figure BDA0002033870930000136
样本训练矩阵
Figure BDA0002033870930000137
目标输出向量
Figure BDA0002033870930000138
式中，训练样本矩阵X中的每一行作为一个训练样本，则训练样本数为b-a-n+1；每个训练样本的训练目标是目标输出向量
Figure BDA0002033870930000139
中的对应元素，n为训练样本维数。
B2、对量子注意力循环编码解码神经网络中的所有旋转角和注意力参数均初始化。
其中，初始化的方法为对每个旋转角均分配一个[0,2π]内的随机值；对每个注意力参数均随机分配一个实数值。
B3、将训练样本矩阵X输入到量子注意力循环编码解码神经网络中得到实际输出向量
Figure BDA00020338709300001310
并对量子注意力循环编码解码神经网络中的所有旋转角和注意力参数进行更新；
B4、重复步骤B3若干次，判断迭代次数是否达到设定的最大训练步数；
若是，则进入步骤B6；
若否，则进入步骤B5；
B5、判断实际输出向量
Figure BDA0002033870930000141
与目标输出向量
Figure BDA0002033870930000142
之间的均方差是否小于设定的阈值；
若是，则进入步骤B6；
若否，则返回步骤B3；
其中，实际输出向量
Figure BDA0002033870930000143
与目标输出向量
Figure BDA0002033870930000144
之间的均方差MSE为：
Figure BDA0002033870930000145
式中，p为量子注意力循环编码解码神经网络的解码器中输出层的维数；
B6、完成量子注意力循环编码解码神经网络的训练，得到训练好的量子注意力循环编码解码神经网络。
上述步骤S5具体为：
将更新的测试样本依次输入到训练好的量子注意力循环编码解码神经网络中，得到每个测试样本所在时刻对应的输出值，根据得到的N个时刻的输出值实现对机械状态退化趋势的预测。
上述步骤S5采用了多步预测法进行预测，具体说明如下：
首先，将测试样本(xb-n+1,xb-n+2,…,xb)输入到训练好的QAREDNN中以计算出b+1时刻的输出值
Figure BDA0002033870930000146
其次，将最新的测试样本
Figure BDA0002033870930000147
输入到训练好的QAREDNN中以计算出b+2时刻的输出值
Figure BDA0002033870930000148
然后，将最新的测试样本
Figure BDA0002033870930000149
输入到训练好的QAREDNN中以计算出b+3时刻的输出值
Figure BDA00020338709300001410
以此类推，将最新的测试样本
Figure BDA00020338709300001411
输入到训练好的QAREDNN中以计算出b+N时刻的输出值
Figure BDA0002033870930000151
最后，得到N个预测的输出值，即可根据该N个预测的输出值对机械状态的退化趋势进行预测。
在本发明的一个实施例中，采用Cincinnati大学实测的滚动轴承退化数据验证所本发明中基于QAREDNN的基于量子注意力循环编码解码神经网络的退化预测方法。
在本发明的实验装置中轴承实验台的转轴上安装四个Rexnord公司制造的ZA-2115双列滚子轴承，交流电机通过带传动以2000r/min的恒定转速带动转轴旋转，实验过程中轴承被施加6000lbs的径向载荷，采样频率为20kHz，采样长度为20480个点，每隔10min采集一次轴承的振动数据，轴承持续运行直到不能正常工作，在第三组实验中，实验台持续运行44480分钟后，轴承3出现外圈故障而失效，采用该组实验中采集到的轴承3的完整退化数据验证所提方法。
轴承3全寿命振动数据共计4448组，每组数据的长度为20480个点，分别计算每一组数据中模糊熵，如图4所示。对模糊熵序列进行滑动平均降噪处理得到降噪后的模糊熵序列，如图5所示。由图5可知，从起始点至第243点模糊熵快速下降，轴承处于跑合阶段；从第244点至2040点模糊熵变化速率缓慢，轴承处于稳定阶段；第2041点至3463点模糊熵开始持续上升，轴承处于初始退化阶段；第3464点之后模糊熵急剧上升，轴承处于剧烈退化阶段直至失效。由于初始退化阶段是观测性能退化趋势最重要的时间区间，因此选择如图5中第2251至第3050点的降噪模糊熵训练和测试所提出的方法，其中，前300个样本点作为训练样本，后500个样本点作为测试样本。
QAREDNN各参数设置如下：输入层维数n＝20；隐层维数m＝6；输出层维数p＝1；学习率θ＝0.001；最大训练步数为2000；均方误差阈值为0.01。预测结果如图6所示。从图6可以看出：由QAREDNN预测的500个模糊熵与实际的模糊熵非常接近，即预测的模糊熵曲线和实际的模糊熵曲线的变化趋势整体一致，这说明了QAREDNN可用于双列滚子轴承的状态退化趋势预测。
为验证所发明的基于QAREDNN的基于量子注意力循环编码解码神经网络的退化预测方法的优势，首先，分别用深度循环神经网络循环编码-解码器(Deep neural networkrecurrent encoder-decoder，DNN-RED)和改进共生生物搜索极限学习机器(Amelioratedsymbiotic organisms search extreme learning machine，ASOS-ELM)的非线性逼近能力与所发明的方法进行比较。为了在相同条件下比较这三种预测方法的性能，后两种方法也都采用降噪后的模糊熵作为退化特征，同时将后两种机器学习预测方法的学习速率、最大训练步数和均方误差阈值分别设置与QAREDNN相同的值。图7提供了三种方法的学习曲线，其结果表明QAREDNN的收敛速度比DNN-RED和ASOS-ELM快，即QAREDNN具有较高的非线性逼近能力。其潜在原因是：在QAREDNN中，各自都有注意力机制的编码器和解码器能充分挖掘和重视重要的信息并抑制冗余信息的干扰，这使得QAREDNN能自适应选取特征因子，并把握长期时序依赖关系，因此QAREDNN具有较高的非线性逼近能力。
其次，分别用DNN-RED,ASOS-ELM和遗传支持向量机(Genetic algorithm supportvector regression,GA-SVR)的预测精度与所发明的方法进行比较。为了在相同条件下比较这四种预测方法的性能，后三种方法也都采用降噪后的模糊熵作为退化特征，同时将DNN-RED和ASOS-ELM的学习速率、最大训练步数和均方误差阈值分别设置与QAREDNN相同的值。后三种方法预测的轴承3的模糊熵如图8所示。
图6和图8结果表明：QAREDNN预测的模糊熵曲线比DNN-RED、ASOS-ELM和GA-SVR预测的模糊熵曲线更接近实际的模糊熵曲线，即QAREDNN的预测精度更高。这归功于在QAREDNN中注意力机制良好的非线性逼近能力和QGRU优越的泛化性能，另外，在QAREDNN的编码器解码器中，QGRU可以更加精密地遍历解空间，这有助于进一步提高该方法的预测精度。
然后，为更好地评估所发明的基于QAREDNN的基于量子注意力循环编码解码神经网络的退化预测方法的预测效果，采用纳什系数(NSE)、均方绝对误差(MAE)和均方根误差(RMSE)作为预测精度和稳定性评价指标，即：
Figure BDA0002033870930000171
Figure BDA0002033870930000172
Figure BDA0002033870930000173
其中，yi为实际值；yi′为预测值；n为预测点数；
Figure BDA0002033870930000174
为n个实际值的平均数；NSE∈(-∞,1)，且NSE越接近1，模型预测精度越高。
在QAREDNN、DNN-RED、ASOS-ELM、和GA-SVR参数设置保持不变的条件下，用这四种预测方法反复进行30次预测，记录30次预测实验的NSE、MAE和RMSE，如图9所示，并计算这30次预测后三个评价指标的平均值
Figure BDA0002033870930000175
和
Figure BDA0002033870930000176
如表1所示。其中，图9(a)为统计30次试验的均方根误差；图9(a)为统计30次试验的均方绝对误差；图9(c)统计30次试验的纳什系数。
图9和表1结果可知：QAREDNN的MAE、RMSE、
Figure BDA00020338709300001710
和
Figure BDA0002033870930000178
都最小，NSE和
Figure BDA0002033870930000179
最接近1，即QAREDNN比其他三种方法具有更高的预测精度和稳定性，这说明了QAREDNN相较于DNN-RED、ASOS-ELM、和GA-SVR具有更好的非线性逼近能力、泛化性能。
表1四种状态退化趋势预测方法的预测效果对比
Figure BDA0002033870930000181
最后，再用DNN-RED、GA-SVR、和ASOS-ELM进行状态退化趋势预测所耗用的计算时间(即训练时间与预测时间之和)与发明的QAREDNN所耗用的计算时间进行对比，记录各预测方法重复执行30次的平均计算时间，结果如图10所示。QAREDNN消耗的时间仅为8.697s，DNN-RED消耗的时间为12.004s，GA-SVR消耗的时间为20.047s，ASOS-ELM消耗的时间为19.882s。显然，QAREDNN的计算时间比DNN-RED、GA-SVR、和ASOS-ELM都短。以上比较结果表明：将QAREDNN用于双列滚子轴承的状态退化趋势预测，比DNN-RED、GA-SVR、和ASOS-ELM具有更高计算效率。
本发明的有益效果为：本发明创造性的将QAREDNN用于的旋转机械状态退化趋势预测中，在QAREDNN中，引入注意力机制同时对编码器和解码器进行重构使QAREDNN能够充分挖掘和重视重要信息，同时抑制冗余信息的干扰，进而获得更好的非线性逼近能力。另一方面，采用量子神经元重构一种活性值和权值由量子旋转矩阵代替的量子门限循环单元(Quantum gated recurrent unit，QGRU)。由于QGRU不仅能够更加精细地遍历解空间，还具有大量的多重吸引子，因此采用QGRU代替编码器和解码器中传统的循环单元能够提高QAREDNN的泛化能力和响应速度。而且，在QAREDNN的训练过程中，引入LM算法实现量子旋转矩阵的旋转角和注意力参数快速更新。由于QAREDNN在非线性逼近能力、泛化能力以及响应和训练速度等方面的优点，所发明的基于QREDNN的状态退化趋势预测方法能够获得较高的预测精度和计算效率。

Claims (7)

1.基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，包括以下步骤：
S1、采集旋转机械运行的原始振动数据；
S2、根据原始振动数据构造模糊熵；
S3、对模糊熵进行滑动平均降噪处理，并将处理后的降噪模糊熵作为旋转机械退化状态特征；
S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中，并对其进行训练；
S5、通过训练好的量子注意力循环编码解码神经网络对测试样本进行退化预测；
所述步骤S4中的量子注意力循环编码解码神经网络包括相互连接编码器和解码器；
所述编码器包括依次连接的编码器注意力机制和编码器量子门限循环单元，所述编码器量子门限循环单元作为编码器的循环单元；
所述解码器包括依次连接的解码器注意力机制和解码器量子门限循环单元，所述解码器量子门限循环单元作为解码器的循环单元；
所述编码器量子门限循环单元的输出端与解码器注意力机制的输入端连接。
2.根据权利要求1所述的基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，所述步骤S2中的构造模糊熵的方法具体为：
设时间序列
Figure FDA0003195462780000011
重构向量
Figure FDA0003195462780000012
和
Figure FDA0003195462780000013
Figure FDA0003195462780000014
Figure FDA0003195462780000015
式中，
Figure FDA0003195462780000021
和
Figure FDA0003195462780000022
为由时间序列
Figure FDA0003195462780000023
重构的两个向量，下标i和j为不同的向量序号；
M为时间序列
Figure FDA0003195462780000024
的维数；
n为向量
Figure FDA0003195462780000025
和向量
Figure FDA0003195462780000026
的维数，且i,j∈1,…,M-n；
计算
Figure FDA0003195462780000027
和
Figure FDA0003195462780000028
的距离lij为：
Figure FDA0003195462780000029
计算
Figure FDA00031954627800000210
和
Figure FDA00031954627800000211
的相似度Lij为：
Figure FDA00031954627800000212
式中，exp(·)表示指数函数；
Δ指数函数边界的梯度；
r是指数函数边界的宽度；
定义一个函数O(Δ,r)为：
Figure FDA00031954627800000213
同理，构造n+1维的向量
Figure FDA00031954627800000214
和
Figure FDA00031954627800000215
得到函数O′(Δ,r)；
计算原始振动数据的模糊熵FE为：
Figure FDA00031954627800000216
3.根据权利要求1所述的基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，构造编码器量子门限循环单元和解码器量子循环单元的过程具体为：
设t时刻编码器量子循环单元的输入序列
Figure FDA00031954627800000217
其量子态为
Figure FDA00031954627800000218
t时刻隐层状态
Figure FDA00031954627800000219
其量子态为
Figure FDA0003195462780000031
式中，
Figure FDA0003195462780000032
为在Bloch球面坐标中
Figure FDA0003195462780000033
在xy平面的投影与x轴的夹角；
Figure FDA0003195462780000034
为在Bloch球面坐标中
Figure FDA0003195462780000035
与z轴的夹角；
Figure FDA0003195462780000036
为在Bloch球面坐标中
Figure FDA0003195462780000037
在xy平面的投影与x轴的夹角；
Figure FDA0003195462780000038
为在Bloch球面坐标中
Figure FDA0003195462780000039
与z轴的夹角；
t时刻，编码器量子门限循环单元的更新门zt为：
Figure FDA00031954627800000310
式中，
Figure FDA00031954627800000311
σ(·)为激活函数；
F(·)为变量坐标求和函数；
Wj z为更新门权值矩阵；
Figure FDA00031954627800000312
为更新门活性值矩阵；
Figure FDA00031954627800000313
为更新门zt中元素
Figure FDA00031954627800000314
的权重量子旋转矩阵；
Figure FDA00031954627800000315
为更新门zt中元素
Figure FDA00031954627800000316
的活性值量子旋转矩阵；
δj为
Figure FDA00031954627800000317
的旋转角；
μj为
Figure FDA00031954627800000318
的旋转角；
t时刻，编码器量子门限循环单元的重置门rt为：
Figure FDA0003195462780000041
式中，rt j∈rt＝[rt 1,rt 2,…,rt m]；
Wj r为重置门权值矩阵；
Figure FDA0003195462780000042
为重置门活性值矩阵；
Figure FDA0003195462780000043
为重置门rt中元素rt j的权重量子旋转矩阵；
Figure FDA0003195462780000044
为重置门rt中元素
Figure FDA0003195462780000045
的活性值权重矩阵；
γj为
Figure FDA0003195462780000046
的旋转角；
ψj为
Figure FDA0003195462780000047
的旋转角；
根据重置门rt和隐层状态ht-1，t时刻，编码器量子门限循环单元的候选集
Figure FDA0003195462780000048
为：
Figure FDA0003195462780000049
式中，
Figure FDA00031954627800000410
tanh(·)为激活函数；
Figure FDA00031954627800000411
为候选集权值矩阵；
Figure FDA00031954627800000412
为候选集活性值矩阵；
Figure FDA00031954627800000413
为候选集
Figure FDA00031954627800000414
中元素
Figure FDA00031954627800000415
的权重量子旋转矩阵；
Figure FDA0003195462780000051
为候选集
Figure FDA0003195462780000052
中元素
Figure FDA0003195462780000053
的活性值量子旋转矩阵；
ξj为
Figure FDA0003195462780000054
的旋转角；
εj为
Figure FDA0003195462780000055
的旋转角；
Figure FDA0003195462780000056
为在Bloch球面坐标中
Figure FDA0003195462780000057
在xy平面的投影与x轴的夹角；
Figure FDA0003195462780000058
为在Bloch球面坐标中
Figure FDA0003195462780000059
与z轴的夹角；
⊙为元向乘法运算符；
根据更新门zt和候选集
Figure FDA00031954627800000510
t时刻的隐层状态ht为：
Figure FDA00031954627800000511
式中，Λ为常数矩阵，且其所有元素的值为1，其维数与更新门zt相同；
因此，t时刻，输入序列xt与编码器量子门限循环单元隐层状态ht之间的函数关系为：
ht＝f(ht-1,xt)
将编码器注意力机制引入到编码器中，
Figure FDA00031954627800000512
的相关系数
Figure FDA00031954627800000513
为：
Figure FDA00031954627800000514
式中，Γe为编码器调节系数向量，且Γe的所有元素的值为1；
We和Ue均为编码器中的注意力参数矩阵，且We∈R2m×2m，Ue∈R2m×1；
Figure FDA00031954627800000515
为t-1时刻编码器中的编码器量子门限循环单元的隐层状态
Figure FDA00031954627800000516
和候选集
Figure FDA00031954627800000517
的连接；
将相关系数
Figure FDA00031954627800000518
归一化得到输入序列xt的权重系数
Figure FDA00031954627800000519
为：
Figure FDA00031954627800000520
式中，exp(·)表示指数函数；
因此，将输入序列xt更新为
Figure FDA00031954627800000521
更新后的输入序列
Figure FDA0003195462780000061
与编码器中编码器量子门限循环单元的隐层状态
Figure FDA0003195462780000062
的功能关系表示为：
Figure FDA0003195462780000063
同理，将解码器注意力机制引入到解码器中，根据t时刻编码器的隐层状态
Figure FDA0003195462780000064
和t-1时间的解码器的隐层状态
Figure FDA0003195462780000065
的相关系数
Figure FDA0003195462780000066
为：
Figure FDA0003195462780000067
式中，Φd为解码器调节系数向量，且Φd中所有元素的值为1；
Wd和Ud均为解码器中的注意力参数矩阵，且Wd∈R2m×2m，Ud∈R2m×1；
将相关系数
Figure FDA0003195462780000068
归一化得到
Figure FDA0003195462780000069
的权重系数
Figure FDA00031954627800000610
为：
Figure FDA00031954627800000611
因此，解码器中的上下文向量ct为
Figure FDA00031954627800000612
更新的上下文向量ct-1与解码器量子门限循环单元中的隐层状态
Figure FDA00031954627800000613
之间的功能关系为：
Figure FDA00031954627800000614
另外，在解码器量子门限循环单元中增加一个输出层，计算量子注意力循环编码解码神经网络的输出向量yt为：
Figure FDA00031954627800000615
式中，
Figure FDA00031954627800000616
Wj o为输出向量yt中元素
Figure FDA00031954627800000617
的权重矩阵；
υj为Wj o的旋转角。
4.根据权利要求3所述基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，在所述量子注意力循环编码解码神经网络中，通过LM算法对解码器的旋转角及注意力参数和编码器的旋转角及注意力参数进行更新；
其中，解码器中的旋转角包括υj、
Figure FDA0003195462780000071
和
Figure FDA0003195462780000072
解码器中的注意力参数包括Wd和Ud；
编码器中的旋转角包括
Figure FDA0003195462780000073
和
Figure FDA0003195462780000074
编码器的注意力参数包括We和Ue；
量子注意力循环编码解码神经网络的旋转角和注意力参数更新方法具体为：
A1、根据训练误差函数依次确定编码器的旋转角梯度和注意力参数梯度及解码器的旋转角梯度和注意力参数梯度；
其中，解码器的旋转角梯度包括
Figure FDA0003195462780000075
和
Figure FDA0003195462780000076
解码器的注意力参数梯度包括
Figure FDA0003195462780000077
和
Figure FDA0003195462780000078
编码器的旋转角梯度包括
Figure FDA0003195462780000079
和
Figure FDA00031954627800000710
编码器的注意力参数梯度包括
Figure FDA00031954627800000711
和
Figure FDA00031954627800000712
式中，
Figure FDA00031954627800000713
为训练误差函数，
Figure FDA00031954627800000714
Figure FDA00031954627800000715
为解码器的实际输出，且
Figure FDA00031954627800000716
y′j为与实际输出
Figure FDA00031954627800000717
对应的目标输出，且
Figure FDA00031954627800000718
A2、设参数向量为p，误差向量为E，Jacobian矩阵为J；
其中，p＝[υ,ξD,εD,γD,ψD,δD,μD,wd,ud,ξE,εE,γE,ψE,δE,μE,we,ue]；
Figure FDA00031954627800000719
Figure FDA0003195462780000081
A3、根据参数向量p的更新迭代公式对参数向量p进行更新，实现量子注意力循环编码解码神经网络中所有旋转角和注意力参数的更新；
其中，参数向量p的更新迭代公式为：
Figure FDA0003195462780000082
式中，p′为更新后的参数向量；
Figure FDA0003195462780000083
为学习效率；
τ为一个使JT(p)J(p)+τI可逆的正数；
I为单位矩阵。
5.根据权利要求4所述的基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，所述步骤S4中量子注意力循环编码解码神经网络的训练方法具体为：
B1、将降噪模糊熵组成的输入序列
Figure FDA0003195462780000084
分解为训练样本矩阵X和目标输出向量
Figure FDA0003195462780000085
其中，输入序列
Figure FDA0003195462780000086
样本训练矩阵
Figure FDA0003195462780000087
目标输出向量
Figure FDA0003195462780000091
式中，训练样本矩阵X中的每一行作为一个训练样本，则训练样本数为b-a-n+1；每个训练样本的训练目标是目标输出向量
Figure FDA0003195462780000092
中的对应元素，n为训练样本维数；
B2、对量子注意力循环编码解码神经网络中的所有旋转角和注意力参数均初始化；
B3、将训练样本矩阵X输入到量子注意力循环编码解码神经网络中得到实际输出向量
Figure FDA0003195462780000093
并对量子注意力循环编码解码神经网络中的所有旋转角和注意力参数进行更新；
B4、重复步骤B3若干次，判断迭代次数是否达到设定的最大训练步数；
若是，则进入步骤B6；
若否，则进入步骤B5；
B5、判断实际输出向量
Figure FDA0003195462780000094
与目标输出向量
Figure FDA0003195462780000095
之间的均方差是否小于设定的阈值；
若是，则进入步骤B6；
若否，则返回步骤B3；
其中，实际输出向量
Figure FDA0003195462780000096
与目标输出向量
Figure FDA0003195462780000097
之间的均方差MSE为：
Figure FDA0003195462780000098
式中，p为量子注意力循环编码解码神经网络的解码器中输出层的维数；
B6、完成量子注意力循环编码解码神经网络的训练，得到训练好的量子注意力循环编码解码神经网络。
6.根据权利要求5所述的基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，所述步骤B2中，对所有的旋转角初始化的方法具体为：对每个旋转角均分配一个[0,2π]内的随机值；
对所有注意力参数初始化的方法具体为：对每个注意力参数均随机分配一个实数值。
7.根据权利要求6所述的基于量子注意力循环编码解码神经网络的退化预测方法，其特征在于，所述步骤S5中采用多步预测法进行退化预测，预测方法具体为：
将更新的测试样本依次输入到训练好的量子注意力循环编码解码神经网络中，得到每个测试样本所在时刻对应的输出值，根据得到的N个时刻的输出值进行退化预测。
CN201910318404.8A 2019-04-19 2019-04-19 基于量子注意力循环编码解码神经网络的退化预测方法 Active CN110458278B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910318404.8A CN110458278B (zh) 2019-04-19 2019-04-19 基于量子注意力循环编码解码神经网络的退化预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910318404.8A CN110458278B (zh) 2019-04-19 2019-04-19 基于量子注意力循环编码解码神经网络的退化预测方法

Publications (2)

Publication Number Publication Date
CN110458278A CN110458278A (zh) 2019-11-15
CN110458278B true CN110458278B (zh) 2021-09-14

Family

ID=68480894

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910318404.8A Active CN110458278B (zh) 2019-04-19 2019-04-19 基于量子注意力循环编码解码神经网络的退化预测方法

Country Status (1)

Country Link
CN (1) CN110458278B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110580378B (zh) * 2019-08-08 2023-07-25 江西理工大学 球磨机筒体内部负荷软测量方法、装置以及系统
CN111581892B (zh) * 2020-05-29 2024-02-13 重庆大学 基于gdau神经网络的轴承剩余寿命的预测方法
CN111695521B (zh) * 2020-06-15 2022-06-10 哈尔滨理工大学 一种基于Attention-LSTM的滚动轴承性能衰退预测方法
CN113361189B (zh) * 2021-05-12 2022-04-19 电子科技大学 基于多步鲁棒预测学习机的芯片性能退化趋势预测方法
CN114384427B (zh) * 2022-01-11 2024-07-16 北京航空航天大学 基于量子神经网络的锂离子电池容量非线性退化预测方法
CN114692856B (zh) * 2022-03-08 2024-08-23 青岛理工大学 一种结合q神经网络的量子颜色码的投影解码方法
CN118673727A (zh) * 2024-08-05 2024-09-20 北京航空航天大学 一种基于吸引子的定常激励机电设备的性能退化评价方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108428023A (zh) * 2018-05-24 2018-08-21 四川大学 基于量子加权门限重复单元神经网络的趋势预测方法
CN109146064A (zh) * 2018-09-05 2019-01-04 腾讯科技（深圳）有限公司 神经网络训练方法、装置、计算机设备和存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108428023A (zh) * 2018-05-24 2018-08-21 四川大学 基于量子加权门限重复单元神经网络的趋势预测方法
CN109146064A (zh) * 2018-09-05 2019-01-04 腾讯科技（深圳）有限公司 神经网络训练方法、装置、计算机设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Quantum Statistics-Inspired Neural Attention;Aristotelis Charalampous 等;《arXiv》;20181030;第1-12页 *
基于量子神经网络的短期电力负荷预测研究;李程;《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》;20130715;正文第2-4章 *

Also Published As

Publication number Publication date
CN110458278A (zh) 2019-11-15

Similar Documents

Publication Publication Date Title
CN110458278B (zh) 基于量子注意力循环编码解码神经网络的退化预测方法
CN112629863B (zh) 变工况下动态联合分布对齐网络的轴承故障诊断方法
CN111680446B (zh) 一种基于改进多粒度级联森林的滚动轴承剩余寿命预测方法
CN109918752B (zh) 基于迁移卷积神经网络的机械故障诊断方法、设备及介质
Li et al. A novel fault diagnosis algorithm for rotating machinery based on a sparsity and neighborhood preserving deep extreme learning machine
Xia et al. A two-stage approach for the remaining useful life prediction of bearings using deep neural networks
CN108344564B (zh) 一种基于深度学习的主轴特性试验台状态识别及预测方法
CN108428023B (zh) 基于量子加权门限重复单元神经网络的趋势预测方法
CN113723007A (zh) 基于DRSN和麻雀搜索优化BiLSTM的机械设备剩余寿命预测方法
CN111459144A (zh) 一种基于深度循环神经网络的飞机飞控系统故障预测方法
CN109447305A (zh) 一种基于量子加权长短时记忆神经网络的趋势预测方法
CN111044926A (zh) 质子交换膜燃料电池寿命预测方法
Huo et al. A class-level matching unsupervised transfer learning network for rolling bearing fault diagnosis under various working conditions
CN115422687A (zh) 一种滚动轴承的寿命预测方法
CN114861349A (zh) 一种基于模型迁移和维纳过程的滚动轴承rul预测方法
CN115062528A (zh) 一种针对工业过程时序数据的预测方法
Huang et al. A hybrid bayesian deep learning model for remaining useful life prognostics and uncertainty quantification
Jiang et al. An orbit-based encoder–forecaster deep learning method for condition monitoring of large turbomachines
CN117473872A (zh) 一种基于fft编码和l-cnn滚动轴承故障诊断方法
Muhammad et al. Early Stopping Effectiveness for YOLOv4.
CN117171907A (zh) 一种滚动轴承剩余寿命预测方法及系统
CN115660198B (zh) 滚动轴承剩余使用寿命预测方法
Luo et al. A novel method for remaining useful life prediction of roller bearings involving the discrepancy and similarity of degradation trajectories
CN113052060B (zh) 基于数据增强的轴承剩余寿命预测方法、装置及电子设备
Zhang et al. Bearing Fault Diagnosis based on Convolution Neural Network with Logistic Chaotic Map

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant