CN110276441B - 一种基于深度学习的梯形重叠核脉冲估计方法 - Google Patents
一种基于深度学习的梯形重叠核脉冲估计方法 Download PDFInfo
- Publication number
- CN110276441B CN110276441B CN201910419045.5A CN201910419045A CN110276441B CN 110276441 B CN110276441 B CN 110276441B CN 201910419045 A CN201910419045 A CN 201910419045A CN 110276441 B CN110276441 B CN 110276441B
- Authority
- CN
- China
- Prior art keywords
- trapezoidal
- pulse
- overlapped
- kernel
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000013135 deep learning Methods 0.000 title claims abstract description 14
- 238000005070 sampling Methods 0.000 claims abstract description 26
- 238000007493 shaping process Methods 0.000 claims abstract description 13
- 238000012549 training Methods 0.000 claims description 41
- 230000015654 memory Effects 0.000 claims description 31
- 230000006870 function Effects 0.000 claims description 17
- 238000012360 testing method Methods 0.000 claims description 12
- 239000013598 vector Substances 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000012795 verification Methods 0.000 claims description 7
- 230000000630 rising effect Effects 0.000 claims description 5
- 230000006403 short-term memory Effects 0.000 claims description 4
- 241001522296 Erithacus rubecula Species 0.000 claims description 3
- 238000010200 validation analysis Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 2
- 238000005259 measurement Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 description 9
- 238000000605 extraction Methods 0.000 description 6
- 238000013178 mathematical model Methods 0.000 description 5
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Measurement Of Radiation (AREA)
- Radar Systems Or Details Thereof (AREA)
Abstract
本发明公开了一种基于深度学习的梯形重叠核脉冲估计方法，是对梯形成形后的重叠核脉冲进行估计。首先，将欲进行参数估计的原始梯形重叠核脉冲看成是由N个指数衰减核脉冲叠加后经过梯形数字成形后得到的。其次，制作含有多个样本的数据集，每个样本含有其对应梯形重叠核脉冲的采样值及成形前输入信号的参数和成形参数。然后，各个样本对应的梯形重叠核脉冲的采样值作为LSTM模型的输入数据，利用BPTT算法进行LSTM模型的训练。最后，用训练完成后的LSTM模型对欲进行参数估计的原始梯形重叠核脉冲进行参数提取。该方法大大降低了梯形重叠核脉冲的舍弃率，提高了放射性测量的准确度和可信度。
Description
技术领域
本发明涉及一种基于深度学习的梯形重叠核脉冲估计方法。
背景技术
数字成形技术已成为核脉冲信号的一种重要成形方法，这有利于采用数字信号处理的方法进行核信号的识别，大大提高了核仪器的性能。在高速计数时，无论采用何种成形方法，相邻核脉冲的重叠是难以避免的；所以，数字成形后重叠核脉冲的参数估计仍然是一个难题。以梯形成形方法为例，由于指数核脉冲成形为梯形脉冲后，信号得以展宽便于幅值的提取，但是与指数核脉冲相比，梯形脉冲发生重叠的概率大得多。近年来，国内外在梯形核脉冲的成形、采集、识别及参数估计方面进行了较为深入的研究，但对于重叠较为严重的梯形核脉冲的参数提取却效果不佳。深度学习技术作为目前最为流行的智能科学技术之一。其内部隐含层包含了大量的非线性变换结构，通过逐层学习来获得特征的非线性表达。其自动学习数据的本质特征，避免了复杂的特征提取和数据重建过程，增强了拟合复杂模型的能力。目前将深度学习技术引入核脉冲参数提取的相关研究还处于初步探索阶段。因此，将这一新型技术引入该领域就变得十分迫切。因为核脉冲信号在经过离散化处理后具有时间序列的特征，而在众多深度学习模型中，一种具有循环结构的长短期记忆神经网络(Long Short-Term Memory，LSTM)模型在处理时间序列的相关问题中具有良好效果。所以，本发明专利针对由多个指数衰减脉冲经过梯形成形后的重叠信号，提出了基于深度学习LSTM模型的梯形重叠核脉冲的估计方法，用于估计梯形重叠核脉冲的参数。这对于成形算法的验证，以及后续核脉冲参数的获取等过程具有重要意义。
发明内容
本发明的目的在于公开一种基于深度学习的梯形重叠核脉冲估计方法，用于估计梯形重叠核脉冲的参数。该方法在一定程度上解决了相邻核脉冲因梯形成形后脉冲信号重叠而难以准确提取相关信息的技术难题，这对于提高放射性测量的精度具有较大意义。
本发明对梯形成形后的重叠核脉冲进行估计是通过以下具体步骤①～⑤实现的。
步骤①将放射性测量中所获得的欲进行参数估计的原始梯形重叠核脉冲看成是由N个指数衰减核脉冲叠加后经过梯形成形后得到的，这些核脉冲的个数N应根据欲进行参数估计的重叠核脉冲的具体情况而定。
步骤②制作含有多个样本的数据集，每个样本含梯形重叠核脉冲的采样值及该梯形重叠核脉冲成形前输入的指数衰减核脉冲叠加信号的参数，每个样本还含有梯形成形时的上升沿时间和平顶宽度时间；接着，将数据集按照一定比例划分为训练集(Train Set)、测试集(Test Set)、验证集(Validation Set)；其中，训练集用于LSTM模型的训练，测试集用于模型训练完成后检验模型的泛化能力，验证集用于检验训练完成的模型是否出现过拟合现象。
步骤③将步骤②划分出的训练集用于LSTM(Long Short-Term Memory，LSTM)模型的训练，训练集中各个样本对应的梯形重叠核脉冲作为LSTM的输入数据，通过前向传播计算，最后一层LSTM网络预测出脉冲参数集合θ′i，前向传播结束。
步骤④选取损失函数计算步骤③得到的前向传播迭代提取到的预测脉冲参数集合与训练集中的实际脉冲参数集合的误差；接着，根据误差值，反向计算每个权重的梯度，应用基于梯度的优化算法更新权重，实现减少后续迭代中误差的目的；当误差小于设定的阈值时，训练结束。
步骤⑤当一个具有识别梯形重叠核脉冲参数集合能力的LSTM模型训练完成后，将训练完成的LSTM模型结构、权重、训练配置及优化器状态等重要信息保存；然后将步骤①中欲进行参数估计的原始梯形重叠核脉冲的采样值作为LSTM模型的输入,进而由LSTM模型的输出得到所需提取的脉冲参数集合θ。
通过以上步骤①～⑤即完成梯形重叠核脉冲的估计。
本发明的有益效果是：
在进行放射性测量中，相邻梯形核脉冲的重叠是不可避免的，特别是在高速计数时，重叠现象更是屡见不鲜且更为严重，这给波形成形及核信号参数的获取带来困难。近年来，国内外在梯形核脉冲的采集、识别、参数估计方面进行了较为深入的研究，但对于重叠较为严重的梯形核脉冲的参数提取却效果不佳。同时，深度学习技术作为当前最流行也最热门的智能科学技术之一，其拥有能够从大量复杂并且抽象的样本中提取有效特征的能力已经被广泛应用到数字图像处理、语音识别、自然语言处理等领域。本发明专利针对由多个指数衰减脉冲经过梯形成形后的脉冲重叠核信号，通过对该脉冲信号离散化处理，使其具有时间序列的特征的基础上，提出了基于深度学习LSTM模型的梯形重叠核脉冲的参数估计方法，不同于传统的算法通过搜索梯形核脉冲参数的最优组合，以实现梯形重叠核脉冲的参数估计。本发明提出的方法利用LSTM隐藏层中众多的记忆单元(memory cell)不断学习脉冲序列信息的抽象特征，最终使得LSTM建立脉冲序列和其对应的成形参数之间的联系。从而达到识别和提取脉冲参数的目的。该发明将深度学习技术引入核脉冲参数识别，大大降低了梯形重叠核脉冲的舍弃率，提高了放射性测量的准确度和可信度；有利于分析由探测器及其后续电路响应特性的变化所导致的信号参数的波动性，比如，指数脉冲信号时间常数的波动性；这对于核仪器波形成形算法及能谱漂移纠正算法的验证，电路响应特性的分析，参数随时间及外界条件的变化关系分析，以及后续核脉冲参数的获取等过程具有重要意义。
附图说明
图1为本发明方法的流程图。
具体实施方式
下面结合附图对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和过程，但本发明的保护范围不限于下述的实施例。
设放射性测量中所获得的欲进行参数估计的原始梯形重叠核脉冲为Vo(mTS)，采用本方法对脉冲Vo(mTS)进行估计是按如下具体步骤①～⑤进行的。
步骤①将欲进行参数估计的原始梯形重叠核脉冲Vo(mTS)看成是由N个指数衰减核脉冲叠加后经过梯形成形后得到的，亦即将这N个指数衰减核脉冲的叠加信号Ve(kTS)作为梯形成形算法的输入信号；N个指数衰减核脉冲的叠加信号Ve(kTS)表示为
所述梯形成形，是指将Ve(kTS)作为如下梯形成形算法的输入信号进而实现输出信号Vo(mTs)的：
公式(1)和(2)中,u(.)表示阶跃函数；k＝1,2,3,...,K；K为Ve(kTS)的离散点数；τ为指数脉冲的衰减时间常数；TS为采样周期；Ai和Ti分别表示第i个指数衰减核脉冲的幅值及发生时间；na＝ta/Ts，nb＝(ta+D)/Ts，nc＝tc/Ts，ta为梯形脉冲的上升沿时间，D为梯形脉冲的平顶宽度时间，整个梯形成形时间tc＝2ta+D；m＝1,2,3,...,K+2+nc。
步骤②制作含有n个样本的数据集，数据集的矩阵表示形式如下：
表达式(3)中每一行代表一个样本的数据；每个样本的前K+2+nc个数据为该样本对应的梯形重叠核脉冲的采样值，设该梯形重叠核脉冲按步骤①的成形方法进行成形，成形前的输入信号Ve(kTS)的参数为Ai(i＝1,2,...,N)、Ti(i＝1,2,...,N)和τ，并设梯形成形时的上升沿时间为ta及平顶宽度时间为D，将这些参数构成该样本的参数集合θ，即θ＝[A1,A2,...,AN,T1,T2,...,TN,τ,ta,D]；例如，第i个样本对应的梯形重叠核脉冲Vo(mTS)的采样值为[Vo(TS)]i,[Vo(2TS)]i,[Vo(3TS)]i,...,[Vo((K+2+nc)TS)]i；第i个样本的参数集合则变为θi。参数集合θ随机产生。
接着，将数据集按照一定比例划分为训练集(Train Set)、测试集(Test Set)、验证集(Validation Set)。其中，训练集用于LSTM模型的训练，测试集用于模型训练完成后检验模型的泛化能力。验证集用于检验训练完成的模型是否出现过拟合现象。倘若出现过拟合现象，则需利用Dropout算法修改神经网络的传播结构。Dropout算法可以使得网络在训练过程中，按照一定概率将记忆单元暂时从网络中丢弃。由于只是随机的把网络的记忆单元暂时丢弃，因此每一个批次(batch)训练的网络都会存在差异。这样的差异会提高模型的泛化能力，从而有效抑制过拟合现象的出现。其数学模型如下所示：
其中，p为LSTM记忆单元停止传播的概率，
为第l层网络的第j个LSTM记忆单元的取舍信息，其服从伯努利分布。y(l)为第l层网络的输出信息。
为第l+1层网络的输入信息。
步骤③将训练集用于LSTM(Long Short-Term Memory，LSTM)模型的训练；在训练LSTM时的前向传播过程中，将步骤②划分出的训练集中的各个样本对应的梯形重叠核脉冲Vo(mTS)之采样值作为LSTM模型的输入数据。为了使训练数据能够被网络充分学习，首层的LSTM记忆单元个数为K+2+nc，与梯形重叠核脉冲Vo(mTS)的时间序列的个数K+2+nc相同；其次，对每一个序列信息利用LSTM遗忘门、输入门、记忆单元状态及输出门等结构依次迭代出隐藏状态信息hm和记忆单元的状态信息Cm，其中，隐藏状态信息hm既要与记忆单元的状态信息Cm传递到同层的下一个LSTM记忆单元，又要作为下一层LSTM网络的输入信息。这样的信息传递方式使得LSTM模型具有将数据的抽象特征映射到更高维度网络层的能力。本步骤即步骤③的LSTM前向传播过程中的遗忘门、输入门、记忆单元状态、输出门按如下A、B、C、D环节实现。
A、遗忘门结构的计算
遗忘门结构可以决定记忆单元状态的信息舍弃程度
其中，hm-1为前一个记忆单元的隐藏状态信息，
分别为第i个样本中第m个采样值[Vo(mTs)]i在遗忘门结构中的输入权重、循环权重；
为第i个样本在遗忘门结构中的偏置；σ为门函数，由sigmoid函数构成，利用该函数可以输出一个在0到1之间的数值以决定状态信息的取舍，其公式为：
B、输入门结构的计算
利用输入门结构计算记忆单元内部新增的状态信息。其结构与遗忘门的结构类似，权重和偏置的参数分别为Ug、Wg、bg。数学模型如下所示：
其中，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在输入门结构中的输入权重和循环权重，
为第i个样本在输入门结构中的偏置。
C、对记忆单元状态更新
首先，利用tanh函数创建候选信息向量
将遗忘门信息、前一个记忆单元状态信息，输入门信息以及候选信息向量作为当前记忆单元状态信息的更新要素，则更新状态信息的数学模型为：
其中，Cm表示当前时刻的记忆单元状态值，fm表示遗忘门的输出值，Cm-1表示前一时刻的记忆单元状态值，gm表示输入门的输出值，
表示候选向量，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在记忆单元状态更新结构中的输入权重和循环权重，
为第i个样本在记忆单元状态更新结构中的偏置。
D、输出门的计算
输出门确定了隐藏状态的信息hm。首先，将包含有前一个记忆单元隐藏状态信息hm-1的向量和含有当前脉冲序列信息[Vo(mTS)]i的向量传递到sigmoid函数中；接着将记忆单元状态信息Cm传递给tanh函数；最后将tanh函数的输出与sigmoid函数的输出om相乘，以确定隐藏状态的信息hm；最后，既要将隐藏状态的信息hm向下一层网络传输，又要把该hm和记忆单元的状态信息Cm向同层的下一个记忆单元传递。输出门的数学模型如下：
hm＝om·tanh(Cm) (13)
其中，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在输出门结构中的输入权重和循环权重，
为第i个样本在输出门结构中的偏置；以此类推，直到最后一层LSTM网络预测出脉冲参数集合θ′i，前向传播结束。
步骤④基于BPTT(Back Propagation Through Time，BPTT)算法进行梯形重叠核脉冲反向传播训练。因为在定义神经网络时，每个LSTM记忆单元的权重和偏置是随机分配的，所以，单次前向传播迭代输出的预测脉冲参数集合θ′i与训练集中的实际脉冲参数集合θi的误差可以通过损失函数计算。对于有q个样本的训练集，将参数集合θi的均方误差(MSE)值作为损失函数的函数值LossMSE，即损失函数的计算式为：
接着，应用BPTT算法将LossMSE与损失函数的梯度一起反馈给网络来更新权重，实现减少后续迭代中的误差的目的。最后，为了提高训练效率，避免模型在训练后期出现Loss值震荡，需要设计一种方法确定模型停止训练轮数。由于平均绝对误差(Mean AbsoluteDeviation，MAE)具有避免偏差相互抵消的性质。故本文利用该方法确定算法训练的轮数，其计算公式如(15)所示。
根据实际情况设定一个阈值，当MAE小于该阈值时，训练结束。此时，将测试集中的数据输入模型中，以检验该脉冲参数识别模型的泛化能力。
步骤⑤训练模型的保存与调用
当一个具有识别梯形重叠核脉冲参数集合θ能力的LSTM模型训练完成后，将训练完成的模型结构、权重、训练配置及优化器状态等重要信息保存为HDF5(HierarchicalData Format 5，HDF5)文件；然后将步骤①中欲进行参数估计的原始梯形重叠核脉冲的采样值作为LSTM模型的输入,进而由LSTM模型的输出得到所需提取的脉冲参数集合θ。
通过以上步骤①～⑤完成梯形重叠核脉冲的估计。
如上所述基于深度学习技术对梯形成形后得到的梯形重叠核脉冲进行参数估计的方法，克服了传统算法受到数学模型规模限制无法对整个样本提取特征的局限，借用指数脉冲序列与梯形成形的参数作为样本集，从全局意义上让LSTM通过不断迭代训练建立起每种指数脉冲序列和与之对应的梯形成形后的参数之间的映射关系，从而实现梯形重叠核脉冲的参数估计，进而获取其中各个核脉冲的参数。本方法大大降低了梯形重叠核脉冲的舍弃率，提高了放射性测量的准确度和可信度；有利于分析由探测器及其后续电路响应特性的变化所导致的信号参数的波动性，比如，指数脉冲信号时间常数的波动性；这对于核仪器波形成形算法及能谱漂移纠正算法的验证，参数随时间及外界条件的变化关系分析，以及后续核脉冲参数的获取等过程具有重要意义。同时，本发明将训练完成的模型以HDF5文件格式保存，可以让其它计算机设备直接加载该模型即可完成提取脉冲参数的工作。此外，随着以
为操作系统的便携式设备性能的不断增强，该HDF5文件在简单修改后即可部署于这些便携式设备之中，从而为新一代便携式核脉冲识别探测器提供一定的支持。
在上述本发明的实施例中，对梯形成形后的重叠核脉冲的参数估计方法进行了详细说明，但需说明的是，以上所述仅为本发明的一个实施例而已，当其它类型的脉冲在涉及利用本文所提深度学习LSTM脉冲参数提取时，本发明仍有效，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
本发明受到国家自然科学基金(11675028，41774140)、成都理工大学科研创新团队(10912-KYTD201701)和四川省教育厅重点项目基金(18ZA0050)资助。
Claims (1)
1.一种基于深度学习的梯形重叠核脉冲估计方法，其特征在于，对梯形成形后的梯形重叠核脉冲进行参数估计是通过以下方法实现的：
①将欲进行参数估计的原始梯形重叠核脉冲Vo(mTS)看成是由N个指数衰减核脉冲叠加后经过梯形成形后得到的，按如下方法实现：
N个指数衰减核脉冲的叠加信号Ve(kTS)表示为
将Ve(kTS)作为如下梯形成形算法的输入信号而实现输出信号Vo(mTs)：
公式(1)和(2)中，u(.)表示阶跃函数，k＝1,2,3,…,K，K为Ve(kTS)的离散点数，τ为指数脉冲的衰减时间常数，TS为采样周期，Ai和Ti分别表示第i个指数衰减核脉冲的幅值及发生时间，na＝ta/Ts，nb＝(ta+D)/Ts，nc＝tc/Ts，ta为梯形脉冲的上升沿时间，D为梯形脉冲的平顶宽度时间，整个梯形成形时间tc＝2ta+D，m＝1,2,3,…,K+2+nc；
②制作含有n个样本的数据集，数据集的矩阵表示形式如下：
表达式(3)中每一行代表一个样本的数据；每个样本的前K+2+nc个数据为该样本对应的梯形重叠核脉冲的采样值，设该梯形重叠核脉冲按①的成形方法进行成形，成形前的输入信号Ve(kTS)的参数为Ai(i＝1,2,...,N)、Ti(i＝1,2,...,N)和τ，并设梯形成形时的上升沿时间为ta及平顶宽度时间为D，将这些参数构成该样本的参数集合θ，即θ＝[A1,A2,...,AN,T1,T2,...,TN,τ,ta,D]；第i个样本对应的梯形重叠核脉冲Vo(mTS)的采样值为[Vo(TS)]i,[Vo(2TS)]i,[Vo(3TS)]i,…,[Vo((K+2+nc)TS)]i；第i个样本的参数集合为θi；并将数据集按照一定比例划分为训练集(Train Set)、测试集(Test Set)、验证集(Validation Set)；
③将训练集用于LSTM(Long Short-Term Memory，LSTM)模型的训练；在训练LSTM时的前向传播过程中，训练集中的各个样本对应的梯形重叠核脉冲Vo(mTS)的K+2+nc个采样值作为LSTM模型的输入数据；在LSTM前向传播过程中的遗忘门、输入门、记忆单元状态、输出门按如下A、B、C、D环节实现：
A、遗忘门结构的计算按如下公式进行：
其中，hm-1为前一个记忆单元的隐藏状态信息，
分别为第i个样本中第m个采样值[Vo(mTs)]i在遗忘门结构中的输入权重、循环权重；
为第i个样本在遗忘门结构中的偏置；σ为门函数，由sigmoid函数构成，利用该函数可以输出一个在0到1之间的数值以决定状态信息的取舍，其公式为：
B、输入门结构的计算按如下公式进行：
其中，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在输入门结构中的输入权重和循环权重，
为第i个样本在输入门结构中的偏置；
C、记忆单元状态的更新按如下方法实现：
其中，Cm表示当前时刻的记忆单元状态值，fm表示遗忘门的输出值，Cm-1表示前一时刻的记忆单元状态值，gm表示输入门的输出值，
表示候选向量，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在记忆单元状态更新结构中的输入权重和循环权重，
为第i个样本在记忆单元状态更新结构中的偏置；
D、输出门的计算按如下方法进行：
hm＝om·tanh(Cm) (11)
其中，
和
分别为第i个样本中的第m个采样值[Vo(mTs)]i在输出门结构中的输入权重和循环权重，
为第i个样本在输出门结构中的偏置；以此类推，直到最后一层LSTM网络预测出脉冲参数集合θi'，前向传播结束；
④基于BPTT(BackPropagation Through Time，BPTT)算法进行梯形重叠核脉冲反向传播训练；对于有q个样本的训练集，将参数集合θi的均方误差(MSE)值作为损失函数的函数值LossMSE，即损失函数的计算式为：
利用BPTT(Back Propagation Through Time)算法将LossMSE与损失函数的梯度一起反馈给网络来更新权重，实现对梯形重叠核脉冲的反向传播训练；
当预测的脉冲参数集合θi'与数据集中的实际脉冲参数集合θi的平均绝对误差小于事先设定的阈值时，训练结束；此时，将测试集中的数据输入模型中，以检验该脉冲参数识别模型的泛化能力；
⑤当一个具有识别脉冲参数集合θ能力的LSTM模型训练完成后，将训练完成的模型结构、权重、训练配置及优化器状态重要信息保存为HDF5(Hierarchical Data Format 5，HDF5)文件；然后将步骤①中欲进行参数估计的原始梯形重叠核脉冲的采样值作为LSTM模型的输入，进而由LSTM模型的输出得到所需提取的脉冲参数集合θ；
通过以上步骤①～⑤完成梯形重叠核脉冲的估计。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910419045.5A CN110276441B (zh) | 2019-05-20 | 2019-05-20 | 一种基于深度学习的梯形重叠核脉冲估计方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910419045.5A CN110276441B (zh) | 2019-05-20 | 2019-05-20 | 一种基于深度学习的梯形重叠核脉冲估计方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110276441A CN110276441A (zh) | 2019-09-24 |
| CN110276441B true CN110276441B (zh) | 2021-05-04 |
Family
ID=67959430
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910419045.5A Expired - Fee Related CN110276441B (zh) | 2019-05-20 | 2019-05-20 | 一种基于深度学习的梯形重叠核脉冲估计方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110276441B (zh) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110782452B (zh) * | 2019-11-05 | 2022-08-12 | 厦门大学 | 一种t2定量图像成像方法及系统 |
| CN111444790B (zh) * | 2020-03-13 | 2022-07-01 | 北京理工大学 | 一种对多功能雷达工作模式序列的脉冲级智能识别方法 |
| CN111881971A (zh) * | 2020-07-24 | 2020-11-03 | 成都理工大学 | 一种基于深度学习lstm模型的输电线路故障类型识别方法 |
| CN111969982A (zh) * | 2020-08-19 | 2020-11-20 | 成都理工大学 | 一种脉冲波形变换方法 |
| CN114897004B (zh) * | 2022-04-15 | 2023-05-02 | 成都理工大学 | 一种基于深度学习Transformer模型的梯形堆积核脉冲识别方法 |
| CN114647814B (zh) * | 2022-05-23 | 2022-08-26 | 成都理工大学工程技术学院 | 一种基于预测模型的核信号校正方法 |
| CN116432703B (zh) * | 2023-06-12 | 2023-08-29 | 成都大学 | 基于复合神经网络模型的脉冲高度估计方法、系统及终端 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103713310A (zh) * | 2014-01-02 | 2014-04-09 | 四川新先达测控技术有限公司 | 一种核脉冲信号高速数字分离方法、系统及数字化谱仪 |
| CN103837884A (zh) * | 2014-02-26 | 2014-06-04 | 成都理工大学 | 基于时域分析的数字核脉冲信号梯形成形算法 |
| CN106019357A (zh) * | 2016-05-23 | 2016-10-12 | 成都理工大学 | 基于rc逆变换的核脉冲信号处理方法 |
| CN106156852A (zh) * | 2015-04-22 | 2016-11-23 | 成都理工大学 | 一种高斯重叠核脉冲估计方法 |
| CN109343505A (zh) * | 2018-09-19 | 2019-02-15 | 太原科技大学 | 基于长短期记忆网络的齿轮剩余寿命预测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3958069B2 (ja) * | 2001-03-28 | 2007-08-15 | 株式会社東芝 | 放射線測定装置 |
-
2019
- 2019-05-20 CN CN201910419045.5A patent/CN110276441B/zh not_active Expired - Fee Related
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103713310A (zh) * | 2014-01-02 | 2014-04-09 | 四川新先达测控技术有限公司 | 一种核脉冲信号高速数字分离方法、系统及数字化谱仪 |
| CN103837884A (zh) * | 2014-02-26 | 2014-06-04 | 成都理工大学 | 基于时域分析的数字核脉冲信号梯形成形算法 |
| CN106156852A (zh) * | 2015-04-22 | 2016-11-23 | 成都理工大学 | 一种高斯重叠核脉冲估计方法 |
| CN106019357A (zh) * | 2016-05-23 | 2016-10-12 | 成都理工大学 | 基于rc逆变换的核脉冲信号处理方法 |
| CN109343505A (zh) * | 2018-09-19 | 2019-02-15 | 太原科技大学 | 基于长短期记忆网络的齿轮剩余寿命预测方法 |
Non-Patent Citations (2)
| Title |
|---|
| Detection of Stochastic Nuclear Quadrupole Resonance Signals;S. D. Somasundaram，and etc;《2007 15th International Conference on Digital Signal Processing》;20070813;第367-370页 * |
| 核脉冲信号数字梯形成形方法;周伟等;《太赫兹科学与电子信息学报》;20150831;第13卷(第4期);第605-608页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110276441A (zh) | 2019-09-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110276441B (zh) | 一种基于深度学习的梯形重叠核脉冲估计方法 | |
| CN109816095B (zh) | 基于改进门控循环神经网络的网络流量预测方法 | |
| CN111292525B (zh) | 基于神经网络的交通流预测方法 | |
| CN111130839A (zh) | 一种流量需求矩阵预测方法及其系统 | |
| CN110909926A (zh) | 基于tcn-lstm的太阳能光伏发电预测方法 | |
| CN108596327B (zh) | 一种基于深度学习的地震速度谱人工智能拾取方法 | |
| CN111861013B (zh) | 一种电力负荷预测方法及装置 | |
| CN106407649A (zh) | 基于时间递归神经网络的微震信号到时自动拾取方法 | |
| CN114219139B (zh) | 基于注意力机制的dwt-lstm电力负荷预测方法 | |
| CN111881971A (zh) | 一种基于深度学习lstm模型的输电线路故障类型识别方法 | |
| CN109920248B (zh) | 一种基于gru神经网络的公交到站时间预测方法 | |
| CN112464567B (zh) | 基于变分同化框架的智能资料同化方法 | |
| CN110082738B (zh) | 基于高斯混合和张量循环神经网络的雷达目标识别方法 | |
| CN106156852A (zh) | 一种高斯重叠核脉冲估计方法 | |
| CN105989410A (zh) | 一种重叠核脉冲分解方法 | |
| CN112766603A (zh) | 一种交通流量预测方法、系统、计算机设备及存储介质 | |
| CN115659254A (zh) | 一种双模态特征融合的配电网电能质量扰动分析方法 | |
| CN116992779A (zh) | 基于数字孪生模型的光伏储能系统仿真方法及系统 | |
| CN118095570A (zh) | 台区智能负荷预测方法、系统、电子设备、介质及芯片 | |
| Ma et al. | Estimation of trapezoidal-shaped overlapping nuclear pulse parameters based on a deep learning CNN-LSTM model | |
| CN110852415A (zh) | 基于神经网络算法的植被指数预测方法、系统及设备 | |
| CN111783688B (zh) | 一种基于卷积神经网络的遥感图像场景分类方法 | |
| CN117409578A (zh) | 一种基于经验模态分解与深度学习结合的交通流预测方法 | |
| CN116957136A (zh) | 一种基于时序深度学习的路面性能预测方法及装置 | |
| CN114897004B (zh) | 一种基于深度学习Transformer模型的梯形堆积核脉冲识别方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210504 |