CN112179455A - 一种基于双向lstm的超声波水表数据修复方法 - Google Patents
一种基于双向lstm的超声波水表数据修复方法 Download PDFInfo
- Publication number
- CN112179455A CN112179455A CN202010869973.4A CN202010869973A CN112179455A CN 112179455 A CN112179455 A CN 112179455A CN 202010869973 A CN202010869973 A CN 202010869973A CN 112179455 A CN112179455 A CN 112179455A
- Authority
- CN
- China
- Prior art keywords
- representing
- output
- input
- gate
- water meter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 82
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000002457 bidirectional effect Effects 0.000 title claims abstract description 40
- 238000012549 training Methods 0.000 claims abstract description 52
- 230000002159 abnormal effect Effects 0.000 claims abstract description 26
- 238000012360 testing method Methods 0.000 claims abstract description 17
- 238000005457 optimization Methods 0.000 claims abstract description 6
- 230000003044 adaptive effect Effects 0.000 claims abstract description 4
- 238000007781 pre-processing Methods 0.000 claims abstract description 4
- 230000006870 function Effects 0.000 claims description 45
- 239000000126 substance Substances 0.000 claims description 24
- 230000004913 activation Effects 0.000 claims description 21
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 13
- 238000012937 correction Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 7
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000012216 screening Methods 0.000 abstract description 2
- 230000008439 repair process Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000011084 recovery Methods 0.000 description 2
- 201000004569 Blindness Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01F—MEASURING VOLUME, VOLUME FLOW, MASS FLOW OR LIQUID LEVEL; METERING BY VOLUME
- G01F25/00—Testing or calibration of apparatus for measuring volume, volume flow or liquid level or for metering by volume
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01F—MEASURING VOLUME, VOLUME FLOW, MASS FLOW OR LIQUID LEVEL; METERING BY VOLUME
- G01F1/00—Measuring the volume flow or mass flow of fluid or fluent solid material wherein the fluid passes through a meter in a continuous flow
- G01F1/66—Measuring the volume flow or mass flow of fluid or fluent solid material wherein the fluid passes through a meter in a continuous flow by measuring frequency, phase shift or propagation time of electromagnetic or other waves, e.g. using ultrasonic flowmeters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Abstract
一种基于双向LSTM的超声波水表数据修复方法，通过超声波水表时间芯片计算超声波飞行时间差，获得超声波水表时间序列原始数据rm，采用动态阈值法对上述超声波水表时序数据集进行异常值筛选；进行超声波水表时序数据预处理，剔除数据集中的异常数值，并根据LSTM模型特征进行训练集、测试集的配置；采用自适应矩估计法对双向LSTM中的正、反LSTM网络进行优化参数设置；构建双向LSTM模型，结合超声波水表时序数据，进行双向LSTM模型训练；将超声波水表时序的测试集导入训练完成的双向LSTM模型中，输出yt的预测值Yt。本发明提供一种修复精度较高、修复效率较高的基于双向LSTM的超声波水表数据修复方法。
Description
技术领域
本发明属于超声波水表数据处理领域，尤其涉及一种基于双向LSTM的超声波水表数据修复方法。
背景技术
物联网时代来临，传统的机械式水表逐渐被智能水表取代。其中，超声波水表是智能水表中备受关注的产品。超声波水表和超声波流量计测量的数据都属于时间序列数据(简称时序数据)。在实际工作中，外界环境变化、传感器损坏、系统故障、人为失误等因素，都可能使得获得的数据存在异常值、缺失和损坏等情况，从而导致数据质量的降低。这对于超声波测量数据的处理、分析和挖掘都会造成不利的影响。所以，对时序数据异常数据的修复是一个重要的技术问题，具有较强的实用性。
目前国内外在时序数据上做得较多的工作是利用时序数据进行预测。通过对目标自身时间序列的分析，建立体现其动态依存关系的数学模型，研究其变化趋势，从而探知某现象随时间的变化规律，推测所分析变量未来发展走向。同时也提高工作的主动性和预见性，避免盲目性。
现有对超声波水表时序数据的修复方法主要是利用整体时序数据的平均值、中值等去修复，或者通过构建算法模型(如卡尔曼滤波模型)预测异常值的数据。前者往往精度不高，只适用于幅值变化较小数据；后者通常复杂度较高，只适用于小范围数据修复且效率低。
发明内容
为了克服现有超声波水表时序数据修复方法的修复精度较低、修复效率较低的不足，本发明提供一种修复精度较高、修复效率较高的基于双向LSTM的超声波水表数据修复方法。
本发明解决其技术问题所采用的技术方案是：
一种基于双向LSTM的超声波水表数据修复方法，包括以下步骤：
步骤1：通过超声波水表时间芯片计算超声波飞行时间差，获得超声波水表时间序列原始数据rm，其中1<m≤M，M表示超声波水表在测试时段内测量所得时序数据集的总数，采用动态阈值法对上述超声波水表时序数据集进行异常值筛选；
步骤2：进行超声波水表时序数据预处理，剔除数据集中的异常数值，并根据LSTM模型特征进行训练集、测试集的配置；
步骤3：采用自适应矩估计法(Adam)对双向LSTM中的正、反LSTM网络进行优化参数设置，过程如下：
步骤3.1：结合超声波水表时序数据，采用Adam算法，对正向LSTM网络的优化参数进行设置；
步骤3.2：结合超声波水表时序数据，采用Adam算法，对反向LSTM网络的优化参数进行设置；
步骤4：构建双向LSTM模型，结合超声波水表时序数据，进行双向LSTM模型训练；
步骤5：将超声波水表时序的测试集导入训练完成的双向LSTM模型中，输出yt的预测值Yt。
进一步，所述步骤1的处理过程如下：
步骤1.1：采用加权移动平均法计算超声波水表时序数据的动态平均值，其计算公式如下：
其中，μm表示rm处的动态平均值；2N+1为加权移动平均值计算所选数据段周期；vn(-N≤n≤N)表示各项的权值；N的值及各项权值，根据超声波水表时序数据量及数据特征进行设置；
步骤1.2：定义所选数据段的平均权值为rm处的平均权值，记为
采用加权标准差法计算超声波水表时序数据的动态标准差，其计算公式如下：
步骤1.3：结合上述动态平均值、动态标准差，采用3σ准则设置超声波水表时序数据的动态阈值，定义：
其中，maxm表示rm处动态阈值范围的上边界；minm表示rm处动态阈值范围的下边界；
步骤1.4：结合上述动态阈值，若minm≤rm≤maxm，那么rm判定为正常数据，无需修复；若rm<minm或rm>maxm，那么rm判定为异常数据，需要进行修复。
再进一步，所述步骤2的处理过程如下：
步骤2.1：剔除超声波水表时序数据集中的异常数值，其判定方式如下：
步骤2.2：根据超声波水表时序数据集的数据特征及LSTM模型对训练集的基础要求，选取适合时长的数据集作为训练集，根据上述异常数据判定结果，将异常数值前p项至异常数值后q项(共p+q+1项)作为测试集，并将测试集中数据记为yt，其中1≤t≤p+q+1。
更进一步，所述步骤3的处理过程如下：
步骤3.1：结合超声波水表时序数据，采用Adam算法，对正向LSTM网络的优化参数进行设置；
步骤3.1.1：初始化参数
一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
m0＝0，n0＝0，t＝0 (6)
mt+1＝ρ1mt+(1-ρ1)gt+1 (8)
其中，gt表示t时刻梯度；
表示随即目标函数；mt表示t时刻一阶矩估计；ρ1＝0.9表示一阶矩估计衰减指数；nt表示t时刻二阶矩估计；ρ2＝0.999表示二阶矩估计衰减指数；
表示gt⊙gt；
步骤3.1.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.1.3：更新模型参数
其中，q＝0.001表示学习率；ε＝10-8表示数值稳定量；
步骤3.2：结合超声波水表时序数据，采用Adam算法，对反向LSTM网络的优化参数进行设置；
步骤3.2.1：初始化参数θ、一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
M0＝0，N0＝0，t＝0 (13)
Mt+1＝ρ1Mt+(1-ρ1)Gt+1 (15)
其中，Gt表示t时刻梯度；Q(θ)表示随即目标函数；Mt表示t时刻一阶矩估计；Nt表示t时刻二阶矩估计；
表示Gt⊙Gt；
步骤3.2.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.2.3：更新模型参数θ：
所述步骤4的处理过程如下：
步骤4.1：构建正向LSTM网络，过程如下：
步骤4.1.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden1表示隐含层节点数；in1表示输入层节点数；out1表示输出层节点数；α为[1,10]之间的常数；
步骤4.1.2：设置正向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示t时刻输入门的输入；wji表示训练样本输入到输入门的权值；
表示t时刻训练样本的输入；whi表示隐含层到输入门的权值；
表示t-1时刻隐含层的输出；wci表示Cell单元到输入门的权值；
表示t-1时刻Cell单元的状态；
表示t时刻输入门的输出；f表示门的激活函数；
遗忘门的输入、输出：
其中，
表示t时刻输入门的输入；wjf表示训练样本输入到遗忘门的权值；whf表示隐含层到遗忘门的权值；wcf表示Cell单元到输入门的权值；
表示t时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，wjc表示训练样本输入到Cell单元的权值；whc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；g表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示t时刻输出门的输入；wjo表示训练样本输入到输出门的权值；who表示隐含层到输出门的权值；wco表示Cell单元到输出门的权值；
表示t时刻输出门的输出；
Cell单元的输出：
其中，h表示Cell单元的输出激活函数；
步骤4.2：构建反向LSTM网络，过程如下：
步骤4.2.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden2表示隐含层节点数；in2表示输入层节点数；out2表示输出层节点数；β为[1,10]之间的常数；
步骤4.2.2：设置反向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示t时刻输入门的输入；uji表示训练样本输入到输入门的权值；uhi表示隐含层到输入门的权值；
表示t+1时刻隐含层的输出；uci表示Cell单元到输入门的权值；
表示t+1时刻Cell单元的状态；
表示t时刻输入门的输出；F表示门的激活函数；
遗忘门的输入、输出：
其中，
表示t时刻输入门的输入；ujf表示训练样本输入到遗忘门的权值；uhf表示隐含层到遗忘门的权值；ucf表示Cell单元到输入门的权值；
表示t时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，ujc表示训练样本输入到Cell单元的权值；uhc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；G表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示t时刻输出门的输入；ujo表示训练样本输入到输出门的权值；uho表示隐含层到输出门的权值；uco表示Cell单元到输出门的权值；
表示t时刻输出门的输出；
Cell单元的输出：
其中，H表示Cell单元的输出激活函数；
步骤4.3：设置双向LSTM模型输出层的输入、输出函数：
Yt＝V(yt) (41)
其中，yt表示输出层的输入；wck表示Cell单元到输出层的权值；uck表示Cell单元到输出层的权值；V表示输出层的输出激活函数；Yt表示t时刻双向LSTM模型输出的预测值；
步骤4.4：结合上述优化参数设置及初始双向LSTM模型，导入超声波水表时序训练数据集，进行双向LSTM模型训练；
步骤4.4.1：正向LSTM网络计算损失函数：
其中，yt表示t时刻超声波真实值；
步骤4.4.2：根据双向LSTM模型的误差反向传播调整优化各项权值，定义
步骤4.4.3：根据正向LSTM网络的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
步骤4.4.4：根据反向LSTM模型的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
本发明的有益效果表现在：本方法结合双向LSTM预测模型预测值，以其各自准确度作为参考权值，从而得出超声波水表时间序列数据修复值，理论上具有较高可信度。
附图说明
图1是基于时间序列的超声波水表数据修复算法示意图。
图2是双向LSTM模型结构示意图。
图3是正向LSTM网络隐含单元结构示意图。
图4是反向LSTM网络隐含单元结构示意图。
图5是基于时间序列的超声波水表数据修复算法训练流程图。
具体实施方式
下面结合附图对本发明作进一步描述。
参照图1～图5，一种基于时间序列的超声波水表数据修复方法，包括以下步骤：
步骤1：通过超声波水表时间芯片计算超声波飞行时间差，获得超声波水表时间序列原始数据rm，其中1<m≤M，M表示超声波水表在测试时段内测量所得时序数据集的总数，采用动态阈值法对上述超声波水表时序数据集进行异常值筛选，过程如下：
步骤1.1：采用加权移动平均法计算超声波水表时序数据的动态平均值，其计算公式如下：
其中，μm表示rm处的动态平均值；2N+1为加权移动平均值计算所选数据段周期；vn(-N≤n≤N)表示各项的权值；N的值及各项权值，根据超声波水表时序数据量及数据特征进行设置；
步骤1.2：定义所选数据段的平均权值为rm处的平均权值，记为
采用加权标准差法计算超声波水表时序数据的动态标准差，其计算公式如下：
步骤1.3：结合上述动态平均值、动态标准差，采用3σ准则设置超声波水表时序数据的动态阈值，定义：
其中，maxm表示rm处动态阈值范围的上边界；minm表示rm处动态阈值范围的下边界；
步骤1.4：结合上述动态阈值，若minm≤rm≤maxm，那么rm判定为正常数据，无需修复；若rm<minm或rm>maxm，那么rm判定为异常数据，需要进行修复；
步骤2：进行超声波水表时序数据预处理，剔除数据集中的异常数值，并根据LSTM模型特征进行训练集、测试集的配置，过程如下：
步骤2.1：剔除超声波水表时序数据集中的异常数值，其判定方式如下：
步骤2.2：根据超声波水表时序数据集的数据特征及LSTM模型对训练集的基础要求，选取适合时长的数据集作为训练集。根据上述异常数据判定结果，将异常数值前p项至异常数值后q项(共p+q+1项)作为测试集，并将测试集中数据记为yt，其中1≤t≤p+q+1；
步骤3：采用自适应矩估计法(Adam)对双向LSTM中的正、反LSTM网络进行优化参数设置，过程如下：
步骤3.1：结合超声波水表时序数据，采用Adam算法，对正向LSTM网络的优化参数进行设置；
步骤3.1.1：初始化参数
一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
m0＝0，n0＝0，t＝0 (6)
mt+1＝ρ1mt+(1-ρ1)gt+1 (8)
其中，gt表示t时刻梯度；
表示随即目标函数；mt表示t时刻一阶矩估计；ρ1＝0.9表示一阶矩估计衰减指数；nt表示t时刻二阶矩估计；ρ2＝0.999表示二阶矩估计衰减指数；
表示gt⊙gt；
步骤3.1.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.1.3：更新模型参数
其中，q＝0.001表示学习率；ε＝10-8表示数值稳定量；
步骤3.2：结合超声波水表时序数据，采用Adam算法，对反向LSTM网络的优化参数进行设置；
步骤3.2.1：初始化参数θ、一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
M0＝0，N0＝0，t＝0 (13)
Mt+1＝ρ1Mt+(1-ρ1)Gt+1 (15)
其中，Gt表示t时刻梯度；Q(θ)表示随即目标函数；Mt表示t时刻一阶矩估计；Nt表示t时刻二阶矩估计；
表示Gt⊙Gt；
步骤3.2.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.2.3：更新模型参数θ：
步骤4：构建双向LSTM模型，结合超声波水表时序数据，进行双向LSTM模型训练；
步骤4.1：构建正向LSTM网络：
步骤4.1.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden1表示隐含层节点数；in1表示输入层节点数；out1表示输出层节点数；α为[1,10]之间的常数；
步骤4.1.2：设置正向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示t时刻输入门的输入；wji表示训练样本输入到输入门的权值；
表示t时刻训练样本的输入；whi表示隐含层到输入门的权值；
表示t-1时刻隐含层的输出；wci表示Cell单元到输入门的权值；
表示t-1时刻Cell单元的状态；
表示t时刻输入门的输出；f表示门的激活函数；
遗忘门的输入、输出：
其中，
表示t时刻输入门的输入；wjf表示训练样本输入到遗忘门的权值；whf表示隐含层到遗忘门的权值；wcf表示Cell单元到输入门的权值；
表示t时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，wjc表示训练样本输入到Cell单元的权值；whc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；g表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示t时刻输出门的输入；wjo表示训练样本输入到输出门的权值；who表示隐含层到输出门的权值；wco表示Cell单元到输出门的权值；
表示t时刻输出门的输出；
Cell单元的输出：
其中，h表示Cell单元的输出激活函数；
步骤4.2：构建反向LSTM网络，过程如下：
步骤4.2.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden2表示隐含层节点数；in2表示输入层节点数；out2表示输出层节点数；β为[1,10]之间的常数；
步骤4.2.2：设置反向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示t时刻输入门的输入；uji表示训练样本输入到输入门的权值；uhi表示隐含层到输入门的权值；
表示t+1时刻隐含层的输出；uci表示Cell单元到输入门的权值；
表示t+1时刻Cell单元的状态；
表示t时刻输入门的输出；F表示门的激活函数；
遗忘门的输入、输出：
其中，
表示t时刻输入门的输入；ujf表示训练样本输入到遗忘门的权值；uhf表示隐含层到遗忘门的权值；ucf表示Cell单元到输入门的权值；
表示t时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，ujc表示训练样本输入到Cell单元的权值；uhc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；G表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示t时刻输出门的输入；ujo表示训练样本输入到输出门的权值；uho表示隐含层到输出门的权值；uco表示Cell单元到输出门的权值；
表示t时刻输出门的输出；
Cell单元的输出：
其中，H表示Cell单元的输出激活函数；
步骤4.3：设置双向LSTM模型输出层的输入、输出函数：
Yt＝V(yt) (41)
其中，yt表示输出层的输入；wck表示Cell单元到输出层的权值；uck表示Cell单元到输出层的权值；V表示输出层的输出激活函数；Yt表示t时刻双向LSTM模型输出的预测值；
步骤4.4：结合上述优化参数设置及初始双向LSTM模型，导入超声波水表时序训练数据集，进行双向LSTM模型训练；
步骤4.4.1：正向LSTM网络计算损失函数：
其中，yt表示t时刻超声波真实值；
步骤4.4.2：根据双向LSTM模型的误差反向传播调整优化各项权值，定义
步骤4.4.3：根据正向LSTM网络的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
步骤4.4.4：根据反向LSTM模型的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
步骤5：将超声波水表时序的测试集导入训练完成的双向LSTM模型中，输出yt的预测值Yt。
Claims (5)
1.一种基于双向LSTM的超声波水表数据修复方法，其特征在于，所述方法包括以下步骤：
步骤1：通过超声波水表时间芯片计算超声波飞行时间差，获得超声波水表时间序列原始数据rm，其中1<m≤M，M表示超声波水表在测试时段内测量所得时序数据集的总数，采用动态阈值法对上述超声波水表时序数据集进行异常值筛选；
步骤2：进行超声波水表时序数据预处理，剔除数据集中的异常数值，并根据LSTM模型特征进行训练集、测试集的配置；
步骤3：采用自适应矩估计法Adam对双向LSTM中的正、反LSTM网络进行优化参数设置，过程如下：
步骤3.1：结合超声波水表时序数据，采用Adam算法，对正向LSTM网络的优化参数进行设置；
步骤3.2：结合超声波水表时序数据，采用Adam算法，对反向LSTM网络的优化参数进行设置；
步骤4：构建双向LSTM模型，结合超声波水表时序数据，进行双向LSTM模型训练；
步骤5：将超声波水表时序的测试集导入训练完成的双向LSTM模型中，输出yt的预测值Yt。
2.如权利要求1所述的一种基于双向LSTM的超声波水表数据修复方法，其特征在于，所述步骤1的处理过程如下：
步骤1.1：采用加权移动平均法计算超声波水表时序数据的动态平均值，其计算公式如下：
其中，μm表示rm处的动态平均值；2N+1为加权移动平均值计算所选数据段周期；vn表示各项的权值，-N≤n≤N；N的值及各项权值，根据超声波水表时序数据量及数据特征进行设置；
步骤1.2：定义所选数据段的平均权值为rm处的平均权值，记为
采用加权标准差法计算超声波水表时序数据的动态标准差，其计算公式如下：
步骤1.3：结合上述动态平均值、动态标准差，采用3准则设置超声波水表时序数据的动态阈值，定义：
其中，maxm表示rm处动态阈值范围的上边界；minm表示rm处动态阈值范围的下边界；
步骤1.4：结合上述动态阈值，若minm≤rm≤maxm，那么rm判定为正常数据，无需修复；若rm<minm或rm>maxm，那么rm判定为异常数据，需要进行修复。
3.如权利要求2所述的一种基于双向LSTM的超声波水表数据修复方法，其特征在于，所述步骤2的处理过程如下：
步骤2.1：剔除超声波水表时序数据集中的异常数值，其判定方式如下：
步骤2.2：根据超声波水表时序数据集的数据特征及LSTM模型对训练集的基础要求，选取适合时长的数据集作为训练集，根据上述异常数据判定结果，将异常数值前p项至异常数值后q项(共p+q+1项)作为测试集，并将测试集中数据记为yt，其中1≤t≤p+q+1。
4.如权利要求3所述的一种基于双向LSTM的超声波水表数据修复方法，其特征在于，所述步骤3的处理过程如下：
步骤3.1：结合超声波水表时序数据，采用Adam算法，对正向LSTM网络的优化参数进行设置；
步骤3.1.1：初始化参数θ、一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
m0＝0，n0＝0，t＝0 (6)
mt+1＝ρ1mt+(1-ρ1)gt+1 (8)
其中，gt表示t时刻梯度；
表示随即目标函数；mt表示时刻一阶矩估计；ρ1＝0.9表示一阶矩估计衰减指数；nt表示t时刻二阶矩估计；ρ2＝0.999表示二阶矩估计衰减指数；
表示gt⊙gt；
步骤3.1.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.1.3：更新模型参数
其中，q＝0.001表示学习率；ε＝10-8表示数值稳定量；
步骤3.2：结合超声波水表时序数据，采用Adam算法，对反向LSTM网络的优化参数进行设置；
步骤3.2.1：初始化参数θ、一阶矩估计、二阶矩估计，计算梯度，更新一阶矩估计、二阶矩估计：
M0＝0，N0＝0，t＝0 (13)
Mt+1＝ρ1Mt+(1-ρ1)Gt+1 (15)
其中，Gt表示时刻梯度；Q(θ)表示随即目标函数；Mt表示时刻一阶矩估计；Nt表示t时刻二阶矩估计；
表示Gt⊙Gt；
步骤3.2.2：计算偏差修正的一阶矩估计及偏差修正的二阶矩估计：
其中，
表示t时刻偏差修正的一阶矩估计；
表示t时刻偏差修正的二阶矩估计；
步骤3.2.3：更新模型参数θ：
5.如权利要求4所述的一种基于双向LSTM的超声波水表数据修复方法，其特征在于，所述步骤4的处理过程如下：
步骤4.1：构建正向LSTM网络，过程如下：
步骤4.1.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden1表示隐含层节点数；in1表示输入层节点数；out1表示输出层节点数；α为[1,10]之间的常数；
步骤4.1.2：设置正向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示时刻输入门的输入；wji表示训练样本输入到输入门的权值；
表示时刻训练样本的输入；whi表示隐含层到输入门的权值；
表示-1时刻隐含层的输出；wci表示Cell单元到输入门的权值；
表示-1时刻Cell单元的状态；
表示时刻输入门的输出；f表示门的激活函数；
遗忘门的输入、输出：
其中，
表示时刻输入门的输入；wjf表示训练样本输入到遗忘门的权值；whf表示隐含层到遗忘门的权值；wcf表示Cell单元到输入门的权值；
表示时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，wic表示训练样本输入到Cell单元的权值；whc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；g表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示时刻输出门的输入；wjo表示训练样本输入到输出门的权值；who表示隐含层到输出门的权值；co表示Cell单元到输出门的权值；
表示时刻输出门的输出；
Cell单元的输出：
其中，h表示Cell单元的输出激活函数；
步骤4.2：构建反向LSTM网络，过程如下：
步骤4.2.1：创建神经网络，设置输入层节点数、输出层节点数、隐含层节点数，三者关系满足如下经验公式：
其中，hidden2表示隐含层节点数；in2表示输入层节点数；out2表示输出层节点数；β为[1,10]之间的常数；
步骤4.2.2：设置反向LSTM网络输入门、遗忘门及输出门的输入、输出函数，设置Cell单元的当前状态及输出函数：
输入门的输入、输出：
其中，
表示时刻输入门的输入；uji表示训练样本输入到输入门的权值；uhi表示隐含层到输入门的权值；
表示+1时刻隐含层的输出；uci表示Cell单元到输入门的权值；
表示t+1时刻Cell单元的状态；
表示时刻输入门的输出；F表示门的激活函数；
遗忘门的输入、输出：
其中，
表示时刻输入门的输入；ujf表示训练样本输入到遗忘门的权值；uhf表示隐含层到遗忘门的权值；ucf表示Cell单元到输入门的权值；
表示时刻遗忘门的输出；
首先定义
Cell单元的当前状态为：
其中，ujc表示训练样本输入到Cell单元的权值；uhc表示隐含层到Cell单元的权值；
表示Cell单元的当前状态；G表示Cell单元的输入激活函数；
输出门的输入、输出：
其中，
表示时刻输出门的输入；ujo表示训练样本输入到输出门的权值；uho表示隐含层到输出门的权值；uco表示Cell单元到输出门的权值；
表示t时刻输出门的输出；
Cell单元的输出：
其中，H表示Cell单元的输出激活函数；
步骤4.3：设置双向LSTM模型输出层的输入、输出函数：
Yt＝V(yt) (41)
其中，yt表示输出层的输入；wck表示Cell单元到输出层的权值；uck表示Cell单元到输出层的权值；V表示输出层的输出激活函数；Yt表示时刻双向LSTM模型输出的预测值；
步骤4.4：结合上述优化参数设置及初始双向LSTM模型，导入超声波水表时序训练数据集，进行双向LSTM模型训练；
步骤4.4.1：正向LSTM网络计算损失函数：
其中，yt表示时刻超声波真实值；
步骤4.4.2：根据双向LSTM模型的误差反向传播调整优化各项权值，定义
步骤4.4.3：根据正向LSTM网络的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
步骤4.4.4：根据反向LSTM模型的误差反向传播调整优化权值，定义
输出门、Cell单元、遗忘门及输入门的误差反向传播为：
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010869973.4A CN112179455A (zh) | 2020-08-26 | 2020-08-26 | 一种基于双向lstm的超声波水表数据修复方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010869973.4A CN112179455A (zh) | 2020-08-26 | 2020-08-26 | 一种基于双向lstm的超声波水表数据修复方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112179455A true CN112179455A (zh) | 2021-01-05 |
Family
ID=73924464
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010869973.4A Pending CN112179455A (zh) | 2020-08-26 | 2020-08-26 | 一种基于双向lstm的超声波水表数据修复方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112179455A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117309079A (zh) * | 2023-11-28 | 2023-12-29 | 中国空气动力研究与发展中心计算空气动力研究所 | 基于时差法的超声飞渡时间测量方法、装置、设备及介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104964719A (zh) * | 2015-06-30 | 2015-10-07 | 安徽工业大学 | 一种基于bp神经网络的户用电子水表流量计量方法 |
| CN105046321A (zh) * | 2015-06-25 | 2015-11-11 | 河海大学 | 一种基于相似性搜索的组合模型预测水位的方法 |
| WO2019034846A1 (en) * | 2017-08-14 | 2019-02-21 | Unify Group (Emea) Ltd | DETECTION OF FLUID FLOW |
| CN109489931A (zh) * | 2018-11-29 | 2019-03-19 | 西南交通大学 | 一种异常冲击实时检测方法 |
| CN109724657A (zh) * | 2018-12-29 | 2019-05-07 | 杭州莱宸科技有限公司 | 基于改进的Elman神经网络的水表流量计量方法和系统 |
| CN110346005A (zh) * | 2019-06-11 | 2019-10-18 | 华南理工大学 | 基于深度学习的科里奥利质量流量计数字信号处理方法 |
-
2020
- 2020-08-26 CN CN202010869973.4A patent/CN112179455A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105046321A (zh) * | 2015-06-25 | 2015-11-11 | 河海大学 | 一种基于相似性搜索的组合模型预测水位的方法 |
| CN104964719A (zh) * | 2015-06-30 | 2015-10-07 | 安徽工业大学 | 一种基于bp神经网络的户用电子水表流量计量方法 |
| WO2019034846A1 (en) * | 2017-08-14 | 2019-02-21 | Unify Group (Emea) Ltd | DETECTION OF FLUID FLOW |
| CN109489931A (zh) * | 2018-11-29 | 2019-03-19 | 西南交通大学 | 一种异常冲击实时检测方法 |
| CN109724657A (zh) * | 2018-12-29 | 2019-05-07 | 杭州莱宸科技有限公司 | 基于改进的Elman神经网络的水表流量计量方法和系统 |
| CN110346005A (zh) * | 2019-06-11 | 2019-10-18 | 华南理工大学 | 基于深度学习的科里奥利质量流量计数字信号处理方法 |
Non-Patent Citations (2)
| Title |
|---|
| 庄瑞刚: "基于双向循环神经网络的交通流预测算法研究", 《中国优秀博硕士学位论文全文数据库(硕士)工程科技Ⅱ辑》 * |
| 陈敏: "《人工智能通信理论与算法》", 31 January 2020, 华中科技大学出版社 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117309079A (zh) * | 2023-11-28 | 2023-12-29 | 中国空气动力研究与发展中心计算空气动力研究所 | 基于时差法的超声飞渡时间测量方法、装置、设备及介质 |
| CN117309079B (zh) * | 2023-11-28 | 2024-03-12 | 中国空气动力研究与发展中心计算空气动力研究所 | 基于时差法的超声飞渡时间测量方法、装置、设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111310968B (zh) | 一种基于互信息的lstm神经网络循环水文预报方法 | |
| CN109343505A (zh) | 基于长短期记忆网络的齿轮剩余寿命预测方法 | |
| Capobianco et al. | Nourishment design and evaluation: applicability of model concepts | |
| CN109948863B (zh) | 基于长短期记忆模型lstm的排水管网窨井液位预测方法 | |
| CN103389472B (zh) | 一种基于nd-ar模型的锂离子电池循环寿命的预测方法 | |
| CN112036075A (zh) | 一种基于环境监测数据关联关系的异常数据判定方法 | |
| CN110363349B (zh) | 一种基于ascs的lstm神经网络水文预测方法及系统 | |
| Zio et al. | Failure and reliability predictions by infinite impulse response locally recurrent neural networks | |
| CN112132324A (zh) | 一种基于深度学习模型的超声波水表数据修复方法 | |
| CN102032935A (zh) | 城市排水汇流管网污水泵站流量的软测量方法 | |
| CN115169733B (zh) | 基于深度学习的内孤立波对深海沉积物再悬浮量预测方法 | |
| CN106568647B (zh) | 一种基于神经网络的混凝土强度预测方法 | |
| CN112487732B (zh) | 一种冲积性河道冲淤模拟方法及系统 | |
| CN111860839A (zh) | 基于多信号融合及Adam优化算法的岸桥故障监测方法 | |
| CN110991776A (zh) | 一种基于gru网络实现水位预测的方法及系统 | |
| CN114492211A (zh) | 一种基于自回归网络模型的剩余油分布预测方法 | |
| CN114219131A (zh) | 一种基于lstm的流域径流预测方法 | |
| CN114492217B (zh) | 一种基于混合时间序列感知机模型的台风浪高预测方法 | |
| CN112179455A (zh) | 一种基于双向lstm的超声波水表数据修复方法 | |
| CN110163419B (zh) | 一种中小河流流域洪水预报的方法 | |
| CN110378518A (zh) | 一种采用lstm-narx混合模型的水下潮流预测方法 | |
| CN116303786B (zh) | 一种基于多维数据融合算法的区块链金融大数据管理系统 | |
| CN113887119B (zh) | 一种基于sarima-lstm的河流水质预测方法 | |
| CN110308254B (zh) | 低溶解氧的精准监测方法 | |
| CN104200269A (zh) | 一种基于在线学习最小嵌入维网络的实时故障诊断方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210105 |