CN115878968A - 一种基于极值特征神经网络的信号降噪方法 - Google Patents

一种基于极值特征神经网络的信号降噪方法 Download PDF

Info

Publication number
CN115878968A
CN115878968A CN202310165022.2A CN202310165022A CN115878968A CN 115878968 A CN115878968 A CN 115878968A CN 202310165022 A CN202310165022 A CN 202310165022A CN 115878968 A CN115878968 A CN 115878968A
Authority
CN
China
Prior art keywords
layer
extreme
node
neural network
characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202310165022.2A
Other languages
English (en)
Inventor
王希波
马飞燕
高岩飞
梁金凤
周长峰
刘新磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Jiaotong University
Original Assignee
Shandong Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Jiaotong University filed Critical Shandong Jiaotong University
Priority to CN202310165022.2A priority Critical patent/CN115878968A/zh
Publication of CN115878968A publication Critical patent/CN115878968A/zh
Priority to CN202310879418.3A priority patent/CN116955928A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/10—Pre-processing; Data cleansing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02—Preprocessing
    • G06F2218/04—Denoising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Complex Calculations (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于极值特征神经网络的信号降噪方法，属于神经网络技术领域。包括以下步骤：获取
Figure ZY_1
个自变信号序列；获取
Figure ZY_2
个因变信号序列；建立极值特征神经网络，包含极值特征层和包含极值特征的损失函数；以
Figure ZY_3
个自变信号序列为输入值，以
Figure ZY_4
个因变信号序列为目标值，以包含极值特征的损失函数对网络进行训练；将
Figure ZY_5
个自变信号序列为输入值，由极值特征神经网络计算得到输出值，输出值即为降噪后的信号；本发明的优点是不需要物理过程的完整数学模型作为约束，能够减轻或避免降噪后的数据的高阶偏导数或导数物理失真的问题；可使对物理过程的分析更深入；可提高网络的泛化能力和信号降噪的鲁棒性。

Description

一种基于极值特征神经网络的信号降噪方法
技术领域
本发明涉及一种基于极值特征神经网络的信号降噪方法，属于神经网络、信号降噪技术领域。
背景技术
在用纯基于数据驱动的神经网络进行数据降噪时，随着神经网络隐藏层节点数目的增加，往往会出现过拟合现象。最近发展的基于物理信息的神经网络，将物理信息以微分方程或者偏微分方程，以残差约束的形式耦合到全连接神经网络中，减小参数优化的范围，提高神经网络的泛化能力。由于一些物理过程难以用完整的数学模型进行描述，无法用传统的基于物理信息的神经网络进行训练；因此，若将描述物理过程的函数的1阶、2阶、3阶、4阶等高阶导函数的极值点信息作为约束，引入到神经网络中，可以减少或避免降噪后的数据的导函数出现物理不真实的极值点，使降噪后数据更接近物理真实。
如何发展一种基于极值特征神经网络的信号降噪方法，将真实物理过程中极值点的信息以高阶导数极值特征的形式引入神经网络中，获取符合物理真实的降噪结果，是本领域亟待解决的重要问题之一。
发明内容
本发明目的是提供了一种基于极值特征神经网络的信号降噪方法，将真实物理过程中极值点的信息以高阶导数极值特征的形式引入极值特征神经网络中；在对无法用完整的数学模型描述的物理过程的数据进行降噪时，可减少或避免导函数出现物理不真实的极值点，降低噪声对物理真实的影响，使降噪后的数据更接近物理真实。本发明为实现上述目的，通过以下技术方案实现：
步骤1：获取
Figure SMS_1
个自变信号序列和/>
Figure SMS_2
个因变信号序列；将自变信号序列进行预处理形成输入向量/>
Figure SMS_3
。
步骤2：建立极值特征神经网络，所述极值特征神经网络包含输入层、隐藏层、输出层、极值特征层；所述极值特征神经网络的损失函数为包含极值特征的损失函数。
所述输入层的节点数为
Figure SMS_4
；所述隐藏层的层数大于等于1；所述输出层的节点数为/>
Figure SMS_5
；所述极值特征层为一层，其节点数为/>
Figure SMS_6
。
所述输出层的第
Figure SMS_8
个节点的输出为/>
Figure SMS_12
；所述输出/>
Figure SMS_16
关于输入向量/>
Figure SMS_9
的第/>
Figure SMS_13
个分量/>
Figure SMS_17
的/>
Figure SMS_21
阶偏导数为/>
Figure SMS_7
；所述输出层的每个节点存储该节点关于输入向量/>
Figure SMS_11
的所有分量的0到/>
Figure SMS_15
阶偏导数，当/>
Figure SMS_19
时，/>
Figure SMS_10
；其中/>
Figure SMS_14
取值范围为0~/>
Figure SMS_18
，/>
Figure SMS_20
表示需要求极值特征的偏导数的最高阶数。
所述极值特征层的第
Figure SMS_22
个节点与所述输出层的第/>
Figure SMS_23
个节点相连。/>
所述极值特征层的每个节点包含
Figure SMS_24
个极值特征组，所述极值特征组的每一组包括/>
Figure SMS_25
个极值特征。
所述极值特征层的第
Figure SMS_26
个节点的第/>
Figure SMS_27
个极值特征组的第/>
Figure SMS_28
个极值特征
Figure SMS_29
表示为：
Figure SMS_30
；
式中，
Figure SMS_31
取值范围为0~/>
Figure SMS_32
，/>
Figure SMS_33
表示/>
Figure SMS_34
的解集的函数。
步骤3：将输入向量
Figure SMS_35
输入到所述极值特征神经网络，将因变信号序列作为极值特征神经网络训练的目标值，以所述包含极值特征的损失函数为损失函数；对所述极值特征神经网络进行训练，直到包含极值特征的损失函数满足要求，当损失函数小于0.0002结束训练，得到训练完成的极值特征神经网络和包含极值特征的损失函数。
步骤4：将自变信号序列输入到训练好的极值特征神经网络中得到降噪后的信号。
优选的，所述包含极值特征的损失函数如下：
Figure SMS_36
；
式中，
Figure SMS_55
是所述输出层第/>
Figure SMS_57
个节点对应的第/>
Figure SMS_62
个训练样本的目标值，/>
Figure SMS_38
是所述第/>
Figure SMS_44
个训练样本对应的所述输出层第/>
Figure SMS_49
个节点的输出；/>
Figure SMS_56
是幂次数；/>
Figure SMS_39
表示所述输出层的第/>
Figure SMS_42
个节点的输出/>
Figure SMS_47
关于所述输入层的第/>
Figure SMS_52
个节点的输入/>
Figure SMS_54
的/>
Figure SMS_58
阶偏导数/>
Figure SMS_61
所对应的极值特征；/>
Figure SMS_64
是所述极值特征
Figure SMS_59
所对应的极值特征误差；/>
Figure SMS_60
是所述极值特征误差
Figure SMS_63
的加权系数；/>
Figure SMS_65
是训练样本数目；/>
Figure SMS_37
是输出层节点数；/>
Figure SMS_43
是输入层节点数；/>
Figure SMS_46
是所述需要求极值特征的偏导数的最高阶数；/>
Figure SMS_50
表示所述第/>
Figure SMS_40
个训练样本的目标值/>
Figure SMS_41
与所述输出值/>
Figure SMS_45
的绝对误差；/>
Figure SMS_48
是所述绝对误差
Figure SMS_51
的/>
Figure SMS_53
次幂的加权系数。
优选的，所述步骤2中的极值特征
Figure SMS_66
，为/>
Figure SMS_67
的解集的秩，则所述极值特征误差/>
Figure SMS_68
表示为：
Figure SMS_69
；
式中，
Figure SMS_71
是所述输出层第/>
Figure SMS_74
个节点的输出/>
Figure SMS_76
所对应的真实物理过程的输出/>
Figure SMS_72
关于/>
Figure SMS_73
的/>
Figure SMS_78
阶偏导数的极值点数目；/>
Figure SMS_79
表示
Figure SMS_70
与/>
Figure SMS_75
的绝对误差；/>
Figure SMS_77
表示幂次数。
优选的，所述步骤2中的所述极值特征
Figure SMS_80
为方程
Figure SMS_81
的解集的坐标值的函数；则所述极值特征误差
Figure SMS_82
表示为：
Figure SMS_83
；
式中，
Figure SMS_94
是所述偏导数/>
Figure SMS_86
关于/>
Figure SMS_89
的第/>
Figure SMS_95
个极值点的/>
Figure SMS_98
坐标，/>
Figure SMS_99
是所述偏导数/>
Figure SMS_100
关于/>
Figure SMS_92
的极值点的数目；/>
Figure SMS_96
是所述输出层第/>
Figure SMS_84
个节点的输出/>
Figure SMS_88
所对应的真实物理过程的输出/>
Figure SMS_87
关于/>
Figure SMS_91
的/>
Figure SMS_93
阶偏导数的所有极值点的坐标集的平均值；/>
Figure SMS_97
表示取
Figure SMS_85
的绝对误差；/>
Figure SMS_90
表示幂次数。
优选的，所述步骤2中的隐藏层的第
Figure SMS_101
的每一个节点存储该节点的输出/>
Figure SMS_102
关于所述输入层的第/>
Figure SMS_103
个节点的输入/>
Figure SMS_104
的0到/>
Figure SMS_105
阶偏导数。
所述隐藏层的第
Figure SMS_106
层的第/>
Figure SMS_107
个节点的输出/>
Figure SMS_108
关于输入层的第/>
Figure SMS_109
个节点的输入/>
Figure SMS_110
的/>
Figure SMS_111
阶偏导函数/>
Figure SMS_112
表示为：/>
Figure SMS_113
；
式中，
Figure SMS_125
是对所有满足/>
Figure SMS_117
，且/>
Figure SMS_121
为非负整数的解进行/>
Figure SMS_128
求和；/>
Figure SMS_130
；/>
Figure SMS_131
表示所述隐藏层的第/>
Figure SMS_133
层第i个节点的激活函数的/>
Figure SMS_122
阶导数；/>
Figure SMS_126
表示第/>
Figure SMS_114
层的节点数目；/>
Figure SMS_118
是所述隐藏层的第/>
Figure SMS_116
层的第/>
Figure SMS_119
节点到所述隐藏层的第/>
Figure SMS_123
层的第/>
Figure SMS_127
节点的权重；/>
Figure SMS_120
是所述隐藏层的第/>
Figure SMS_124
层的第/>
Figure SMS_129
个节点的偏置；/>
Figure SMS_132
，/>
Figure SMS_115
是所述隐藏层的总层数。
优选的，所述步骤2中的所述神经网络隐藏层的第1层的第
Figure SMS_134
个节点输出/>
Figure SMS_135
关于所述输入层第/>
Figure SMS_136
个输入/>
Figure SMS_137
的/>
Figure SMS_138
阶偏导数/>
Figure SMS_139
的公式为：
Figure SMS_140
；
式中，
Figure SMS_142
表示所述隐藏层第1层的第/>
Figure SMS_148
个节点的激活函数的
Figure SMS_152
阶导数；/>
Figure SMS_144
表示所述输入层的节点数目；/>
Figure SMS_147
是所述输入层的第/>
Figure SMS_151
个节点到所述隐藏层第1层的第/>
Figure SMS_155
个节点的权重；/>
Figure SMS_141
是所述隐藏层第1层的第/>
Figure SMS_146
个节点的偏置；/>
Figure SMS_150
是所述输入层的第/>
Figure SMS_154
个节点到所述隐藏层第1层的第/>
Figure SMS_143
个节点的权重，/>
Figure SMS_145
是/>
Figure SMS_149
的/>
Figure SMS_153
次幂。
优选的，所述步骤3中输入向量
Figure SMS_156
输入到所述极值特征神经网络前还需要经过输入预处理函数/>
Figure SMS_157
处理，/>
Figure SMS_158
表示第/>
Figure SMS_159
个节点。
所述隐藏层的第1层的第
Figure SMS_160
个节点输出/>
Figure SMS_161
关于所述输入层的第/>
Figure SMS_162
个输入/>
Figure SMS_163
的
Figure SMS_164
阶偏导数/>
Figure SMS_165
的公式为：/>
Figure SMS_166
；
式中，
Figure SMS_175
是对所有满足/>
Figure SMS_168
且/>
Figure SMS_173
为非负整数的解进行/>
Figure SMS_170
求和；/>
Figure SMS_172
；/>
Figure SMS_176
表示所述隐藏层第1层第/>
Figure SMS_179
个节点的激活函数的/>
Figure SMS_177
阶导数；/>
Figure SMS_182
表示所述输入层的节点数目；/>
Figure SMS_167
是所述输入层的第/>
Figure SMS_174
节点到所述隐藏层第1层的第/>
Figure SMS_178
节点的权重；/>
Figure SMS_181
是所述隐藏层第1层的第/>
Figure SMS_180
个节点的偏置；/>
Figure SMS_183
是所述输入层的第/>
Figure SMS_169
个节点到所述隐藏层第1层的第/>
Figure SMS_171
个节点的权重。
优选的，所述步骤2中的所述极值特征神经网络的输出层第
Figure SMS_184
个节点的输出/>
Figure SMS_185
关于所述输入层的第/>
Figure SMS_186
个节点的输入/>
Figure SMS_187
的/>
Figure SMS_188
阶偏导数/>
Figure SMS_189
表示为：
Figure SMS_190
；
式中，
Figure SMS_191
是所述隐藏层的层数；/>
Figure SMS_192
是所述隐藏层的第/>
Figure SMS_193
层的节点数目；/>
Figure SMS_194
是所述隐藏层的第/>
Figure SMS_195
层的第/>
Figure SMS_196
个节点到所述输出层的第/>
Figure SMS_197
个节点的权重。
优选的，所述
Figure SMS_198
取值范围为0~10。
优选的，所述极值特征神经网络训练过程采用Gradient descent算法或Gauss-Newton算法或Levenberg-Marquardt算法。
本发明的优点在于：
（1）采用基于极值特征神经网络的信号降噪方法进行数据降噪时，不需要物理过程的完整数学模型作为约束，能够减轻或避免降噪后的数据的高阶偏导数（或导数）物理失真的问题；可获得符合物理真实的高阶偏导数（或导数），进而可采用高阶偏导数（或导数）分析实际的物理过程，使得对物理过程的分析更深入；避免了传统基于物理信息的神经网络需要完整的数学模型进行训练的不足。
（2）极值特征神经网络各层的节点都存储了该节点关于输入的各阶偏导数，可采用递推的方法，由前一层节点的输出关于输入的偏导数获得后一层节点的输出关于输入的偏导数；便于偏导数的计算和神经网络的训练；增加了数据降噪计算的灵活性。
（3）极值特征神经网络进行训练时，由于增加了符合实际物理过程的极值特征作为约束，能减少不确定性因素对训练的影响，可提高网络的泛化能力和信号降噪的鲁棒性。
（4）应用极值特征神经网络进行降噪时，由于增加了符合实际物理过程的高阶极值特征约束，能够降低噪声对物理失真的影响，使得降噪结果不再只依赖于数据约束，防止数据的高阶偏导数或导数偏离物理真实。
附图说明
附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。
图1是本发明实施例提供的基于极值特征神经网络的信号降噪方法的流程图；
图2是本发明实施例提供的极值特征神经网络结构示意图；
图3是本发明实施例提供的极值特征神经网络的包含0到
Figure SMS_199
阶偏导数的节点的示意图；
图4是本发明实施例提供的单隐藏层的极值特征神经网络结构示意图；
图5是本发明实施例提供的不带噪声的电压有阻尼自由振荡过程的信号图；
图6是本发明实施例提供的高频噪声信号图；
图7是本发明实施例提供的随机噪声信号图；
图8是本发明实施例提供的带噪声的电压有阻尼自由振荡过程的信号图；
图9是本发明实施例提供的单隐藏层的极值特征神经网络得到的降噪后的信号图；
图10是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的1阶导数的对比图；
图11是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的1阶导数与电压有阻尼自由振荡信号的1阶导数的偏差对比图；
图12是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的2阶导数的对比图；
图13是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的2阶导数与电压有阻尼自由振荡信号的2阶导数的偏差对比图；
图14是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的3阶导数的对比图；
图15是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的3阶导数与电压有阻尼自由振荡信号的3阶导数的偏差对比图；
图16是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的4阶导数的对比图；
图17是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的4阶导数与电压有阻尼自由振荡信号的4阶导数的偏差对比图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例1
图1是本发明实施例提供的基于极值特征神经网络的信号降噪方法的流程图；图2是本发明实施例提供的降噪方法的极值特征神经网络结构示意图。
S101：获取
Figure SMS_200
个自变信号序列；获取/>
Figure SMS_201
个因变信号序列。
Figure SMS_202
个自变量序列中的第/>
Figure SMS_203
个序列，对应极值特征神经网络的输入层的第/>
Figure SMS_204
个输入。
Figure SMS_205
个因变序列的第/>
Figure SMS_206
个序列，对应于极值特征神经网络的输出层的第/>
Figure SMS_207
个输出目标。
极值特征神经网络可以建立多个输出和多个输入之间的对应关系。
当只有一个输出、一个输入时，就对应一个单输入单输出的对应关系。
S102：建立极值特征神经网络，极值特征神经网络包含输入层、隐藏层、输出层、极值特征层和包含极值特征的损失函数。
获取的
Figure SMS_208
个自变信号序列的第/>
Figure SMS_211
个序列对应输入层的第/>
Figure SMS_214
个节点；输入层的第/>
Figure SMS_209
个输入记为/>
Figure SMS_212
，输入层的所有输入形成输入向量/>
Figure SMS_215
，输入向量/>
Figure SMS_216
的维数为/>
Figure SMS_210
，输入层有/>
Figure SMS_213
个节点。
隐藏层的层数大于等于1。当隐藏层的层数等于1时,创建的网络是单隐藏层的神经网络。隐藏层的每个节点存储该节点的输出关于输入层输入向量
Figure SMS_218
所有分量的/>
Figure SMS_220
的0到
Figure SMS_222
阶偏导数。/>
Figure SMS_219
是需要求极值特征的偏导数的最高阶数，/>
Figure SMS_221
。信号变化越复杂/>
Figure SMS_223
的值越大，噪声越强/>
Figure SMS_224
的值越大。优选的/>
Figure SMS_217
或6。
输出层的节点数为
Figure SMS_235
，输出层的第/>
Figure SMS_226
个节点的输出是输入向量/>
Figure SMS_230
的函数，记作
Figure SMS_237
，输出层的第/>
Figure SMS_241
个节点的输出/>
Figure SMS_238
关于输入向量/>
Figure SMS_242
的第/>
Figure SMS_236
个分量/>
Figure SMS_240
的/>
Figure SMS_225
阶偏导数是输入向量/>
Figure SMS_232
的函数，记作/>
Figure SMS_228
。输出层的每个节点存储该节点的输出/>
Figure SMS_231
关于输入向量/>
Figure SMS_234
的所有分量/>
Figure SMS_239
的0到/>
Figure SMS_227
阶偏导数，当/>
Figure SMS_229
时，/>
Figure SMS_233
。
极值特征层只有一层，极值特征层的节点数为
Figure SMS_244
，极值特征层的第/>
Figure SMS_248
个节点只与输出层的第/>
Figure SMS_249
个节点相连。极值特征层的第/>
Figure SMS_245
个节点存储输出层的第/>
Figure SMS_246
个节点的输出/>
Figure SMS_250
关于输入层的第/>
Figure SMS_252
个输入/>
Figure SMS_243
的0到/>
Figure SMS_247
阶偏导数的极值特征。0阶偏导数的极值特征由1阶偏导数求得；1阶偏导数的极值特征由2阶偏导数求得；/>
Figure SMS_251
阶偏导数的极值特征由/>
Figure SMS_253
阶偏导数求得。
图3是本发明实施例提供的极值特征神经网络的包含0到
Figure SMS_257
阶偏导数的节点的示意图；极值特征层的每个节点包含/>
Figure SMS_261
个极值特征组，极值特征组的每一组包括/>
Figure SMS_266
个极值特征；/>
Figure SMS_255
是输入层节点数；/>
Figure SMS_258
是最高阶偏导数阶数。极值特征层的第/>
Figure SMS_264
个节点的第/>
Figure SMS_267
个极值特征组的第/>
Figure SMS_254
个极值特征为输出层的第/>
Figure SMS_260
个节点的输出/>
Figure SMS_262
关于输入层的第/>
Figure SMS_265
个输入/>
Figure SMS_256
的/>
Figure SMS_259
阶偏导数/>
Figure SMS_263
的极值的函数，表示为：
Figure SMS_268
； （1）
式（1）中，m取值范围为0~
Figure SMS_269
，/>
Figure SMS_270
表示/>
Figure SMS_271
的解集的函数。
极值特征用极值点的数目或极值点的坐标进行描述。采用极值点的数目进行描述时，极值特征
Figure SMS_272
，即/>
Figure SMS_273
，是方程/>
Figure SMS_274
的解集的秩；极值特征误差/>
Figure SMS_275
表示为：
Figure SMS_276
； （3）
式（3）中，
Figure SMS_278
是所述输出层第/>
Figure SMS_282
个节点的输出/>
Figure SMS_283
所对应的真实物理过程的输出/>
Figure SMS_279
关于/>
Figure SMS_280
的/>
Figure SMS_284
阶偏导数的极值点数目；/>
Figure SMS_286
表示
Figure SMS_277
与/>
Figure SMS_281
的绝对误差；/>
Figure SMS_285
表示幂次数。
采用极值点的坐标来描述极值特征时，极值特征
Figure SMS_287
，即
Figure SMS_288
，是方程/>
Figure SMS_289
的解集的坐标值；则所述极值特征误差
Figure SMS_290
表示为：
Figure SMS_291
； （4）
式（4）中，
Figure SMS_300
是所述偏导数/>
Figure SMS_292
关于/>
Figure SMS_296
的第/>
Figure SMS_294
个极值点的/>
Figure SMS_298
坐标，/>
Figure SMS_302
是所述偏导数/>
Figure SMS_304
关于/>
Figure SMS_303
的极值点的数目；/>
Figure SMS_307
是所述输出层第/>
Figure SMS_295
个节点的输出/>
Figure SMS_299
所对应的真实物理过程的输出/>
Figure SMS_306
关于/>
Figure SMS_309
的/>
Figure SMS_308
阶偏导数的所有极值点的坐标集的平均值；/>
Figure SMS_310
表示取/>
Figure SMS_293
的绝对误差；/>
Figure SMS_297
表示幂次数，优选的/>
Figure SMS_301
为1或2；
Figure SMS_305
由物理过程的已知信息确定的极值点的坐标集的平均值。
包含极值特征的损失函数为：
Figure SMS_311
； （2）
式（2）中，
Figure SMS_314
是所述输出层第/>
Figure SMS_318
个节点对应的第/>
Figure SMS_321
个训练样本的目标值，/>
Figure SMS_313
是所述第/>
Figure SMS_317
个训练样本对应的所述输出层第/>
Figure SMS_320
个节点的输出；/>
Figure SMS_326
是幂次数；/>
Figure SMS_315
表示所述输出层的第/>
Figure SMS_319
个节点的输出/>
Figure SMS_322
关于所述输入层的第/>
Figure SMS_325
个节点的输入/>
Figure SMS_329
的/>
Figure SMS_335
阶偏导数/>
Figure SMS_338
所对应的极值特征；/>
Figure SMS_340
是所述极值特征/>
Figure SMS_330
所对应的极值特征误差；/>
Figure SMS_333
是所述极值特征误差/>
Figure SMS_337
的加权系数；/>
Figure SMS_339
是训练样本数目；/>
Figure SMS_312
是输出层节点数；/>
Figure SMS_316
是输入层节点数；/>
Figure SMS_323
是所述需要求极值特征的偏导数的最高阶数；/>
Figure SMS_327
表示所述第/>
Figure SMS_324
个训练样本的目标值/>
Figure SMS_328
与所述输出值
Figure SMS_332
的绝对误差；/>
Figure SMS_336
是所述绝对误差/>
Figure SMS_331
的/>
Figure SMS_334
次幂的加权系数。
包含极值特征的损失函数的误差由两部分组成，分别是样本数据误差和极值特征误差。当
Figure SMS_341
增加时，极值特征神经网络的训练结果受样本误差的影响增加，极值特征神经网络训练结果与训练样本的目标值之间的误差减小；此时，如果训练样本含有较大的噪声，降噪结果的高阶偏导数偏离物理真实的几率增加。当/>
Figure SMS_342
增加时，极值特征误差对训练过程的影响增加，极值特征神经网络的训练结果的高阶偏导数更接近物理真实；此时，能够降低噪声对高阶偏导数失真的影响。可根据数据噪声水平和极值特征的特点，选择/>
Figure SMS_343
、/>
Figure SMS_344
的大小。
S103：以
Figure SMS_345
个自变信号序列作为输入向量，/>
Figure SMS_346
个因变信号序列作为目标值，以包含极值特征的损失函数为损失函数，采用Levenberg-Marquardt算法进行训练，直到包含极值特征的损失函数满足要求，训练结束。
在训练过程中，极值特征误差的加权系数
Figure SMS_347
可变，绝对误差/>
Figure SMS_348
的
Figure SMS_349
次幂的加权系数/>
Figure SMS_350
可变。
优选的，
Figure SMS_351
，/>
Figure SMS_352
。
优选的，前100次迭代
Figure SMS_353
，/>
Figure SMS_354
；100次迭代之后/>
Figure SMS_355
，/>
Figure SMS_356
。
优选的，
Figure SMS_357
，/>
Figure SMS_358
。
也可以选择Gradient descent或Gauss-Newton算法进行训练。
S104：以
Figure SMS_359
个自变信号序列作为输入值，输入极值特征神经网络，通过网络计算得到输出，输出即是降噪后的信号。
输出层在给出降噪信号的同时也给出了输出关于输入的0到
Figure SMS_360
阶偏导数或导数。可以为分析和建立高阶偏导数或导数之间的关系提供基础。
本发明建立的基于极值特征神经网络的数据降噪方法，输出结果满足0到
Figure SMS_361
阶偏导数或导数物理真实。传统的基于物理信息的神经网络将物理信息以微分方程或者偏微分方程的形式耦合到全连接神经网络中，其实质是给神经网络的训练增加了物理规律约束，从而可提高神经网络的泛化能力。但对于一些难以用完整的数学模型进行描述的物理过程，无法用传统的基于物理信息的神经网络进行训练。极值特征神经网络将输出对输入的高阶偏导函数的极值点信息作为约束，以极值特征层的形式引入到神经网络中，对神经网络的训练增加了0到/>
Figure SMS_362
阶偏导数或导数物理真实的约束条件，从而可降低不确定因素对神经网络训练的影响，提高神经网络的泛化能力。另一方面，极值特征神经网络的实质是将物理过程的0到/>
Figure SMS_363
阶偏导数或导数的极值规律信息引入到神经网络的训练中去，增加了对神经网络的约束。与传统的神经网络相比，其训练结果更接近物理真实，不会出现0到/>
Figure SMS_364
阶偏导数或导数严重失真的情况；与基于物理信息的神经网络相比，其训练过程不需要完整的数学模型，增加了符合物理规律的神经网络的适用范围。本发明建立的基于极值特征神经网络的数据降噪方法，极值特征神经网络输出结果满足0到/>
Figure SMS_365
阶偏导数或导数物理真实，为应用0到/>
Figure SMS_366
阶偏导数或导数分析数据建立了基础。
实施例2
本实施例是在实施例1的基础上进行的具体应用。
具体步骤为：
S101：获取1个自变信号序列；获取1个因变信号序列。
自变量信号序列是时间序列，信号时间区间为0.4-6秒，序列间隔为0.01秒，时间序列长度为561。
因变信号序列是带噪声的电压有阻尼自由振荡信号；带噪声的电压有阻尼自由振荡信号由高频噪声信号、随机噪声信号和不带噪声的电压有阻尼自由振荡信号叠加而成。
不带噪声的电压有阻尼自由振荡过程的信号的函数形式如式（9）所示，高频噪声信号如式（10）所示，随机噪声信号如式（11）所示，带噪声的电压有阻尼自由振荡过程的信号如式（12）所示，不带噪声的电压有阻尼自由振荡过程的信号如图5所示，高频噪声信号如图6所示，随机噪声信号如图7所示，带噪声的电压有阻尼自由振荡过程的信号如图8所示。
不带噪声的电压有阻尼自由振荡过程的信号：
Figure SMS_367
； （9）
高频噪声信号：
Figure SMS_368
； （10）
随机噪声信号：
Figure SMS_369
； （11）
式（9）、（10）中，x的取值范围为0.4-6秒。
带噪声的电压有阻尼自由振荡过程的信号：
Figure SMS_370
； （12）
以带噪声的电压有阻尼自由振荡信号作为极值特征神经网络的降噪处理对象，以不带噪声的电压有阻尼自由振荡信号作为依据，可以评价极值特征神经网络的降噪性能。
S102：建立极值特征神经网络。输入层有1个节点；隐藏层有1层，8个节点；输出层有1个节点；极值特征层有1个节点。所建立的单隐藏层的极值特征神经网络结构示意图，如图4所示。
极值特征层的组数为4组，分别是0阶、1阶、2阶和3阶导数的极值特征组。
0阶导数的极值特征如式（13）所示：
Figure SMS_371
； （13）
1阶导数的极值特征如式（14）所示：
Figure SMS_372
； （14）
2阶导数的极值特征如式（15）所示：
Figure SMS_373
； （15）
3阶导数的极值特征如式（16）所示：
Figure SMS_374
； （16）
Figure SMS_375
称为0阶导数的极值特征方程；/>
Figure SMS_376
称为1阶导数的极值特征方程；/>
Figure SMS_377
称为2阶导数的极值特征方程；/>
Figure SMS_378
称为3阶导数的极值特征方程。
以极值特征方程解集的秩作为极值特征函数，即极值特征
Figure SMS_380
表示
Figure SMS_382
的解集的秩；/>
Figure SMS_385
表示/>
Figure SMS_381
的解集的秩；
Figure SMS_383
表示/>
Figure SMS_384
的解集的秩；/>
Figure SMS_386
表示/>
Figure SMS_379
的解集的秩。
极值特征层存储输出层的节点相对于输入的0到3阶导数的极值特征。
隐藏层的激活函数为sigmoid函数，sigmoid的函数形式为
Figure SMS_387
，x是激活函数的输入，y是激活函数的输出，sigmoid函数的 1阶导数为/>
Figure SMS_388
；sigmoid函数的2阶导数为/>
Figure SMS_389
，sigmoid函数的3阶导数为
Figure SMS_390
，sigmoid函数的4阶导数为
Figure SMS_391
。
输出层的激活函数为purelin函数。purelin激活函数形式为
Figure SMS_392
；purelin激活函数的1阶导数等于1，2阶以上的导数为0。
输出层对输入层的1阶导数如式（17）所示：
Figure SMS_393
； （17）
输出层对输入层的2阶导数如式（18）所示：
Figure SMS_394
； （18）
输出层对输入层的3阶导数如式（19）所示：
Figure SMS_395
； （19）
输出层对输入层的4阶导数如式（20）所示：
Figure SMS_396
； （20）
包含极值特征的损失函数为：
Figure SMS_397
； （21）
式（21）中，
Figure SMS_398
是绝对误差/>
Figure SMS_399
的2次幂的系数；/>
Figure SMS_400
是极值特征误差
Figure SMS_401
的加权系数。
在本实施例中，因为网络只有一个输入和输出，基于极值特征神经网络的极值特征误差简化为：
Figure SMS_402
/>
Figure SMS_403
； （22）
根据实际的电压有阻尼自由振荡物理过程的特点，0阶导数、1阶导数、2阶导数和3阶导数的极值特征的训练目标分别取：
Figure SMS_404
。
S103：以时间序列作为输入，以带噪声的电压有阻尼自由振荡信号序列作为目标值，以包含极值特征的损失函数为损失函数，采用Levenberg-Marquardt算法进行训练；直到包含极值特征的损失函数满足要求，训练结束。
在训练过程中，极值特征误差的加权系数
Figure SMS_405
可变；绝对误差/>
Figure SMS_406
的2次幂的加权系数/>
Figure SMS_407
可变。
优选的，前100次迭代
Figure SMS_408
，/>
Figure SMS_409
；100次迭代之后/>
Figure SMS_410
，/>
Figure SMS_411
。
S104：以时间序列作为输入，输入极值特征神经网络，通过网络计算得到输出，输出即是降噪后的信号。
如图9所示是本实施例的单隐藏层的极值特征神经网络得到的降噪后的信号图。
为了验证极值特征神经网络的性能，将极值特征神经网络与浅层神经网络性能进行对比。所用浅层神经网络的节点数与极值特征神经网络的输入层、隐藏层、输出层的节点数目均为1、8、1。
图10是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的1阶导数的对比图；从图10可见，两种神经网络降噪结果的1阶导数与不带噪声的电压有阻尼自由振荡信号的1阶导数在整个时间段内都比较一致，看不出明显的偏差。图11是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的1阶导数与电压有阻尼自由振荡信号的1阶导数的偏差对比图；从图11可见，在0.4到0.45秒时间段，极值特征神经网络得到的1阶导数的误差比传统浅层神经网络得到的1阶导数的误差的最大幅值大；在0.45到6秒时间段，极值特征神经网络得到的1阶导数的误差最大幅值比传统浅层神经网络得到的1阶导数的误差最大幅值小。
图12是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的2阶导数的对比图；从图12可见，两种神经网络的2阶导数与不带噪声的电压有阻尼自由振荡信号的2阶导数在整个时间段内都比较一致，但在信号的起始段和结束段，两种神经网络给出的2阶导数都出现了明显的偏差。图13是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的2阶导数与电压有阻尼自由振荡信号的2阶导数的偏差对比图；从图13可见，在0.4到0.47秒时间段，极值特征神经网络得到的2阶导数的误差比传统浅层神经网络得到的2阶导数的误差大；在0.47到6秒时间段，极值特征神经网络得到的2阶导数的误差的最大幅值比传统浅层神经网络得到的2阶导数的误差的最大幅值小。
图14是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的3阶导数的对比图；从图14可见，在0.7到5.6秒时间段，两种神经网络的3阶导数与不带噪声的电压有阻尼自由振荡信号的3阶导数都比较一致；但在0.4到0.7秒时间段和5.6到6秒时间段，两种神经网络给出的3阶导数都出现了明显的物理失真；在5.6到6秒时间段内，传统浅层神经网络得到的3阶导数比极值特征神经网络得到的３阶导数的失真严重。图15是本发明实施例提供的由极值特征神经网络和浅层神经网络得到降噪后信号的3阶导数与电压有阻尼自由振荡信号的3阶导数的偏差对比图；从图15可见，在0.4到0.49秒时间段内，极值特征神经网络得到的3阶导数的偏差的最大幅值略大于传统浅层神经网络得到的3阶导数偏差的最大幅值；在0.49到6秒时间段内，极值特征神经网络得到的3阶导数的偏差的最大幅值小于传统浅层神经网络得到的3阶导数偏差的最大幅值。
图16是本发明实施例提供的极值特征神经网络和浅层神经网络对带噪声的电压有阻尼自由振荡信号进行降噪后的4阶导数的对比图；从图16可见，在0.4到0.68秒和5.48到6秒时间段内，传统神经网络给出的4阶导数出现了大幅度的物理失真；在5.48到6秒时间段内，极值特征神经网络的4阶导数没有出现大幅度的物理失真。图17是本发明实施例提供的由极值特征神经网络和浅层神经网络得到的降噪后信号的4阶导数与电压有阻尼自由振荡信号的4阶导数的偏差对比图；从图17可见，在整个信号时间段内，极值特征神经网络得到的4阶导数的误差的最大幅值都小于传统浅层神经网络得到的4阶导数的偏差的最大幅值。
传统浅层神经网络和极值特征神经网络得到的0到3阶导数的偏差在整个时间段内都有波动。将两种网络得到的0到3阶导数的极值点数目和标准差进行对比。
表1是极值特征神经网络和传统浅层神经网络训练结果得到的0到3阶导数的极值点数目对比。从表1可知，两种神经网络得到的0到2阶导数的极值点数目与真实物理过程的极值点数目是一致的。极值特征神经网络得到的3阶导数的极值点数目与真实物理过程的极值点数目一致，浅层神经网络得到的3阶导数的极值点数目与真实物理过程的极值点数目不一致。可知极值特征神经网络的训练结果比传统浅层神经网络的训练结果更接近物理真实。
表1 0到3阶导数的极值点数目对比
Figure SMS_412
；
采用标准差对比浅层神经网络、极值特征神经网络得到的各阶导数与不带噪声的电压有阻尼自由振荡信号的各阶导数的差别。不带噪声的电压有阻尼自由振荡信号关于时间
Figure SMS_413
的/>
Figure SMS_414
阶导数与极值特征神经网络或浅层神经网络输出/>
Figure SMS_415
关于输入/>
Figure SMS_416
的/>
Figure SMS_417
阶导数的标准差由式（21）计算。
Figure SMS_418
； （21）
其中，
Figure SMS_419
是导数阶数，/>
Figure SMS_420
；/>
Figure SMS_421
表示第/>
Figure SMS_422
个离散时间；/>
Figure SMS_423
是离散时间点的总数。
在0.4-6秒的时间段内，浅层神经网络和极值特征神经网络得到的1阶、2阶、3阶、4阶导数与不带噪声的电压有阻尼自由振荡信号的相应阶导数的标准差如表2所示。从表2可见，极值特征神经网络的标准差小于传统浅层神经网络的标准差。
表2浅层神经网络和极值特征神经网络标准差对比
Figure SMS_424
；
从应用极值特征神经网络和传统浅层神经网络对带噪声的电压有阻尼自由振荡信号的降噪结果看，极值特征神经网络能够在一定程度上避免或者降低0到3阶导数的物理失真现象。
以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。
最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于极值特征神经网络的信号降噪方法，其特征在于，包括如下步骤：
步骤1：获取
Figure QLYQS_1
个自变信号序列和/>
Figure QLYQS_2
个因变信号序列；将自变信号序列进行预处理形成输入向量/>
Figure QLYQS_3
；
步骤2：建立极值特征神经网络，所述极值特征神经网络包含输入层、隐藏层、输出层、极值特征层；所述极值特征神经网络的损失函数为包含极值特征的损失函数；
所述输入层的节点数为
Figure QLYQS_4
；所述隐藏层的层数大于等于1；所述输出层的节点数为/>
Figure QLYQS_5
；所述极值特征层为一层，其节点数为/>
Figure QLYQS_6
；
所述输出层的第
Figure QLYQS_9
个节点的输出为/>
Figure QLYQS_11
；所述输出/>
Figure QLYQS_16
关于输入向量/>
Figure QLYQS_8
的第/>
Figure QLYQS_12
个分量/>
Figure QLYQS_15
的/>
Figure QLYQS_19
阶偏导数为/>
Figure QLYQS_7
；所述输出层的每个节点存储该节点关于输入向量
Figure QLYQS_14
的所有分量的0到/>
Figure QLYQS_18
阶偏导数，当/>
Figure QLYQS_21
时，/>
Figure QLYQS_10
；其中/>
Figure QLYQS_13
取值范围为0~/>
Figure QLYQS_17
，/>
Figure QLYQS_20
表示需要求极值特征的偏导数的最高阶数；
所述极值特征层的第
Figure QLYQS_22
个节点与所述输出层的第/>
Figure QLYQS_23
个节点相连；
所述极值特征层的每个节点包含
Figure QLYQS_24
个极值特征组，所述极值特征组的每一组包括
Figure QLYQS_25
个极值特征；
所述极值特征层的第
Figure QLYQS_26
个节点的第/>
Figure QLYQS_27
个极值特征组的第/>
Figure QLYQS_28
个极值特征
Figure QLYQS_29
表示为：
Figure QLYQS_30
；
式中，
Figure QLYQS_31
取值范围为0~/>
Figure QLYQS_32
，/>
Figure QLYQS_33
表示/>
Figure QLYQS_34
的解集的函数；
步骤3：将输入向量
Figure QLYQS_35
输入到所述极值特征神经网络，将因变信号序列作为极值特征神经网络训练的目标值，以所述包含极值特征的损失函数为损失函数；对所述极值特征神经网络进行训练，直到包含极值特征的损失函数满足要求，当损失函数小于0.0002结束训练，得到训练完成的极值特征神经网络和包含极值特征的损失函数；
步骤4：将自变信号序列输入到训练好的极值特征神经网络中得到降噪后的信号。
2.根据权利要求1所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述包含极值特征的损失函数如下：
Figure QLYQS_36
；/>
式中，
Figure QLYQS_54
是所述输出层第/>
Figure QLYQS_59
个节点对应的第/>
Figure QLYQS_62
个训练样本的目标值，/>
Figure QLYQS_38
是所述第/>
Figure QLYQS_43
个训练样本对应的所述输出层第/>
Figure QLYQS_48
个节点的输出；/>
Figure QLYQS_50
是幂次数；/>
Figure QLYQS_55
表示所述输出层的第/>
Figure QLYQS_58
个节点的输出/>
Figure QLYQS_61
关于所述输入层的第/>
Figure QLYQS_64
个节点的输入/>
Figure QLYQS_57
的/>
Figure QLYQS_60
阶偏导数
Figure QLYQS_63
所对应的极值特征；/>
Figure QLYQS_65
是所述极值特征
Figure QLYQS_40
所对应的极值特征误差；/>
Figure QLYQS_44
是所述极值特征误差
Figure QLYQS_47
的加权系数；/>
Figure QLYQS_51
是训练样本数目；/>
Figure QLYQS_37
是输出层节点数；/>
Figure QLYQS_42
是输入层节点数；/>
Figure QLYQS_46
是所述需要求极值特征的偏导数的最高阶数；/>
Figure QLYQS_53
表示所述第/>
Figure QLYQS_39
个训练样本的目标值/>
Figure QLYQS_41
与所述输出值/>
Figure QLYQS_45
的绝对误差；/>
Figure QLYQS_49
是所述绝对误差
Figure QLYQS_52
的/>
Figure QLYQS_56
次幂的加权系数。
3.根据权利要求2所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤2中的极值特征
Figure QLYQS_66
，为/>
Figure QLYQS_67
的解集的秩，则所述极值特征误差/>
Figure QLYQS_68
表示为：
Figure QLYQS_69
；
式中，
Figure QLYQS_71
是所述输出层第/>
Figure QLYQS_73
个节点的输出/>
Figure QLYQS_76
所对应的真实物理过程的输出
Figure QLYQS_72
关于/>
Figure QLYQS_75
的/>
Figure QLYQS_77
阶偏导数的极值点数目；/>
Figure QLYQS_79
表示
Figure QLYQS_70
与/>
Figure QLYQS_74
的绝对误差；/>
Figure QLYQS_78
表示幂次数。
4.根据权利要求2所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤2中的所述极值特征
Figure QLYQS_80
为方程/>
Figure QLYQS_81
的解集的坐标值的函数；则所述极值特征误差/>
Figure QLYQS_82
表示为：
Figure QLYQS_83
；
式中，
Figure QLYQS_94
是所述偏导数/>
Figure QLYQS_86
关于/>
Figure QLYQS_89
的第/>
Figure QLYQS_95
个极值点的
Figure QLYQS_99
坐标，/>
Figure QLYQS_96
是所述偏导数/>
Figure QLYQS_100
关于/>
Figure QLYQS_93
的极值点的数目；/>
Figure QLYQS_97
是所述输出层第/>
Figure QLYQS_84
个节点的输出/>
Figure QLYQS_88
所对应的真实物理过程的输出/>
Figure QLYQS_85
关于/>
Figure QLYQS_90
的/>
Figure QLYQS_92
阶偏导数的所有极值点的坐标集的平均值；/>
Figure QLYQS_98
表示取
Figure QLYQS_87
的绝对误差；/>
Figure QLYQS_91
表示幂次数。
5.根据权利要求1所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤2中的隐藏层的第
Figure QLYQS_101
的每一个节点存储该节点的输出/>
Figure QLYQS_102
关于所述输入层的第/>
Figure QLYQS_103
个节点的输入/>
Figure QLYQS_104
的0到/>
Figure QLYQS_105
阶偏导数；
所述隐藏层的第
Figure QLYQS_106
层的第/>
Figure QLYQS_107
个节点的输出/>
Figure QLYQS_108
关于输入层的第/>
Figure QLYQS_109
个节点的输入/>
Figure QLYQS_110
的/>
Figure QLYQS_111
阶偏导函数/>
Figure QLYQS_112
表示为：
Figure QLYQS_113
；
式中，
Figure QLYQS_122
是对所有满足/>
Figure QLYQS_117
，且/>
Figure QLYQS_119
为非负整数的解进行/>
Figure QLYQS_126
求和；/>
Figure QLYQS_130
；/>
Figure QLYQS_131
表示所述隐藏层的第/>
Figure QLYQS_133
层第i个节点的激活函数的/>
Figure QLYQS_123
阶导数；/>
Figure QLYQS_127
表示第/>
Figure QLYQS_114
层的节点数目；/>
Figure QLYQS_118
是所述隐藏层的第/>
Figure QLYQS_116
层的第/>
Figure QLYQS_120
节点到所述隐藏层的第/>
Figure QLYQS_124
层的第/>
Figure QLYQS_129
节点的权重；/>
Figure QLYQS_121
是所述隐藏层的第
Figure QLYQS_125
层的第/>
Figure QLYQS_128
个节点的偏置；/>
Figure QLYQS_132
，/>
Figure QLYQS_115
是所述隐藏层的总层数。
6.根据权利要求5所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤2中的所述神经网络隐藏层的第1层的第
Figure QLYQS_134
个节点输出/>
Figure QLYQS_135
关于所述输入层第/>
Figure QLYQS_136
个输入
Figure QLYQS_137
的/>
Figure QLYQS_138
阶偏导数/>
Figure QLYQS_139
的公式为：
Figure QLYQS_140
；
式中，
Figure QLYQS_142
表示所述隐藏层第1层的第/>
Figure QLYQS_148
个节点的激活函数的/>
Figure QLYQS_151
阶导数；/>
Figure QLYQS_144
表示所述输入层的节点数目；/>
Figure QLYQS_145
是所述输入层的第/>
Figure QLYQS_149
个节点到所述隐藏层第1层的第/>
Figure QLYQS_153
个节点的权重；/>
Figure QLYQS_141
是所述隐藏层第1层的第/>
Figure QLYQS_147
个节点的偏置；/>
Figure QLYQS_152
是所述输入层的第/>
Figure QLYQS_155
个节点到所述隐藏层第1层的第/>
Figure QLYQS_143
个节点的权重，/>
Figure QLYQS_146
是/>
Figure QLYQS_150
的/>
Figure QLYQS_154
次幂。
7.根据权利要求5所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤3中输入向量
Figure QLYQS_156
输入到所述极值特征神经网络前还需要经过输入预处理函数/>
Figure QLYQS_157
处理，/>
Figure QLYQS_158
表示第/>
Figure QLYQS_159
个节点；
所述隐藏层的第1层的第
Figure QLYQS_160
个节点输出/>
Figure QLYQS_161
关于所述输入层的第/>
Figure QLYQS_162
个输入/>
Figure QLYQS_163
的/>
Figure QLYQS_164
阶偏导数/>
Figure QLYQS_165
的公式为：
Figure QLYQS_166
；
式中，
Figure QLYQS_176
是对所有满足/>
Figure QLYQS_168
且/>
Figure QLYQS_172
为非负整数的解进行/>
Figure QLYQS_169
求和；/>
Figure QLYQS_173
；/>
Figure QLYQS_175
表示所述隐藏层第1层第/>
Figure QLYQS_180
个节点的激活函数的/>
Figure QLYQS_177
阶导数；/>
Figure QLYQS_182
表示所述输入层的节点数目；/>
Figure QLYQS_167
是所述输入层的第/>
Figure QLYQS_174
节点到所述隐藏层第1层的第/>
Figure QLYQS_178
节点的权重；/>
Figure QLYQS_181
是所述隐藏层第1层的第/>
Figure QLYQS_179
个节点的偏置；/>
Figure QLYQS_183
是所述输入层的第/>
Figure QLYQS_170
个节点到所述隐藏层第1层的第/>
Figure QLYQS_171
个节点的权重。
8.根据权利要求5所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述步骤2中的所述极值特征神经网络的输出层第
Figure QLYQS_184
个节点的输出/>
Figure QLYQS_185
关于所述输入层的第/>
Figure QLYQS_186
个节点的输入/>
Figure QLYQS_187
的/>
Figure QLYQS_188
阶偏导数/>
Figure QLYQS_189
表示为：
Figure QLYQS_190
；
式中，
Figure QLYQS_191
是所述隐藏层的层数；/>
Figure QLYQS_192
是所述隐藏层的第/>
Figure QLYQS_193
层的节点数目；/>
Figure QLYQS_194
是所述隐藏层的第/>
Figure QLYQS_195
层的第/>
Figure QLYQS_196
个节点到所述输出层的第/>
Figure QLYQS_197
个节点的权重。
9.根据权利要求1所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述
Figure QLYQS_198
取值范围为0~10。/>
10.根据权利要求1所述的基于极值特征神经网络的信号降噪方法，其特征在于，所述极值特征神经网络训练过程采用Gradient descent算法或Gauss-Newton算法或Levenberg-Marquardt算法。
CN202310165022.2A 2023-02-27 2023-02-27 一种基于极值特征神经网络的信号降噪方法 Withdrawn CN115878968A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202310165022.2A CN115878968A (zh) 2023-02-27 2023-02-27 一种基于极值特征神经网络的信号降噪方法
CN202310879418.3A CN116955928A (zh) 2023-02-27 2023-07-18 一种基于极值特征神经网络的信号降噪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310165022.2A CN115878968A (zh) 2023-02-27 2023-02-27 一种基于极值特征神经网络的信号降噪方法

Publications (1)

Publication Number Publication Date
CN115878968A true CN115878968A (zh) 2023-03-31

Family

ID=85761615

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202310165022.2A Withdrawn CN115878968A (zh) 2023-02-27 2023-02-27 一种基于极值特征神经网络的信号降噪方法
CN202310879418.3A Pending CN116955928A (zh) 2023-02-27 2023-07-18 一种基于极值特征神经网络的信号降噪方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202310879418.3A Pending CN116955928A (zh) 2023-02-27 2023-07-18 一种基于极值特征神经网络的信号降噪方法

Country Status (1)

Country Link
CN (2) CN115878968A (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108764472A (zh) * 2018-05-18 2018-11-06 南京信息工程大学 卷积神经网络分数阶误差反向传播方法
CN114239698A (zh) * 2021-11-26 2022-03-25 中国空间技术研究院 数据处理方法、装置及设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108764472A (zh) * 2018-05-18 2018-11-06 南京信息工程大学 卷积神经网络分数阶误差反向传播方法
CN114239698A (zh) * 2021-11-26 2022-03-25 中国空间技术研究院 数据处理方法、装置及设备

Also Published As

Publication number Publication date
CN116955928A (zh) 2023-10-27

Similar Documents

Publication Publication Date Title
CN111564160B (zh) 一种基于aewgan的语音降噪的方法
CN107845389A (zh) 一种基于多分辨率听觉倒谱系数和深度卷积神经网络的语音增强方法
Prakash et al. IoT device friendly and communication-efficient federated learning via joint model pruning and quantization
CN111193256A (zh) 基于变分模态分解和门控循环单元的电力负荷预测方法
CN113094993B (zh) 基于自编码神经网络的调制信号去噪方法
US11416743B2 (en) Swarm fair deep reinforcement learning
CN112580728B (zh) 一种基于强化学习的动态链路预测模型鲁棒性增强方法
Wang et al. Application of wavelet threshold method based on optimized VMD to ECG denoising
Amin et al. Orthogonal least squares based complex-valued functional link network
CN115878968A (zh) 一种基于极值特征神经网络的信号降噪方法
CN116187401B (zh) 神经网络的压缩方法、装置、电子设备及存储介质
CN114938232B (zh) 基于lstm的同时同频全双工数字域自干扰抑制方法
Ibnkahla Statistical analysis of neural network modeling and identification of nonlinear systems with memory
CN111310996A (zh) 基于图自编码网络的用户信任关系预测方法及系统
CN116543259A (zh) 一种深度分类网络噪声标签建模与纠正方法、系统及存储介质
CN114172770B (zh) 量子根树机制演化极限学习机的调制信号识别方法
CN115829870A (zh) 一种基于可变尺度滤波的图像去噪方法
CN115859048A (zh) 一种局放信号的噪声处理方法及装置
CN112149617A (zh) 一种基于深度学习的脉冲波形去噪方法
Darojah et al. The training of feedforward neural network using the unscented Kalman filter for voice classification application
CN114662523A (zh) 一种融合认知强化压缩感知与人工神经网络的扩频信号检测方法
CN107315713B (zh) 一种基于非局部相似性的一维信号去噪增强方法
CN116248229B (zh) 一种面向实时语音通讯的丢包补偿方法
Chen et al. Adapting a Generative Pretrained Transformer Achieves SOTA Performance in Assessing Diverse Physiological Functions Using Only Photoplethysmography Signals: A GPT-PPG Approach
CN105610408B (zh) 一种基于贡献因子的非线性Volterra滤波优化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication
WW01 Invention patent application withdrawn after publication

Application publication date: 20230331