CN107885696B - 一种利用观测序列相似性实现缺失数据修复的方法 - Google Patents

一种利用观测序列相似性实现缺失数据修复的方法 Download PDF

Info

Publication number
CN107885696B
CN107885696B CN201711159407.9A CN201711159407A CN107885696B CN 107885696 B CN107885696 B CN 107885696B CN 201711159407 A CN201711159407 A CN 201711159407A CN 107885696 B CN107885696 B CN 107885696B
Authority
CN
China
Prior art keywords
deformation
sequence
time
data
deformation sequence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201711159407.9A
Other languages
English (en)
Other versions
CN107885696A (zh
Inventor
贾东振
杨智翔
何秀凤
梁宇乾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangxi Provincial Water Conservancy Planning And Designing Institute
Hohai University HHU
Original Assignee
Jiangxi Provincial Water Conservancy Planning And Designing Institute
Hohai University HHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangxi Provincial Water Conservancy Planning And Designing Institute, Hohai University HHU filed Critical Jiangxi Provincial Water Conservancy Planning And Designing Institute
Priority to CN201711159407.9A priority Critical patent/CN107885696B/zh
Publication of CN107885696A publication Critical patent/CN107885696A/zh
Application granted granted Critical
Publication of CN107885696B publication Critical patent/CN107885696B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations

Abstract

本发明公开了一种利用观测序列相似性实现缺失数据修复的方法,是利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,根据同一个边坡上多个监测点的变形趋势具有相似性的特点,实现监测点缺失数据的修复,解决监测点的变形序列数据缺失或非等间隔采样问题,保证时间序列的完整性。

Description

一种利用观测序列相似性实现缺失数据修复的方法
技术领域
本发明涉及一种缺失数据的补录方法,特别涉及一种利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法。
背景技术
边坡变形监测工程中,监测点的变形序列不可避免地存在数据缺失、数据不完整和数据非等间隔采样等实际问题。造成数据缺失的原因多种多样,比如因缺少供电而导致数据采集设备无法正常工作,因网络或信号的问题导致数据传输中断,因下雨或者人手问题导致数据采集周期不固定等。边坡变形监测中,监测点时间序列数据本身较少,如果忽略缺失数据则可能导致无法估计其真实变形情况。常规的处理方法是删除缺失时段的数据记录,或者采取插值等方法估算缺失数据,由于插值等方法只考虑时间序列自身的特性,很少采用外部参照数据,因此得到的结果与真实情况差别较大。
发明内容
本发明所要解决的技术问题是提供一种利用观测序列相似性实现缺失数据修复的方法,是利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,根据同一个边坡上多个监测点的变形趋势具有相似性的特点,实现监测点缺失数据的修复,解决监测点的变形序列数据缺失或非等间隔采样问题,保证时间序列的完整性。
本发明为解决上述技术问题采用以下技术方案:
本发明提供一种利用观测序列相似性实现缺失数据修复的方法,当某一监测点出现数据缺失时,利用边坡各监测点变形序列之间的相似性实现缺失数据修复,该方法包括以下具体步骤:
步骤1,当某一监测点出现数据缺失时,对比所有监测点数据,该数据缺失的监测点数据形成变形序列x,数据完整的监测点数据形成变形序列集合{yi,i=1,2,...,n},其中,yi为第i个数据完整的监测点数据形成的变形序列,n为数据完整的监测点数目;
步骤2,对比变形序列x与变形序列yi,得到完整数据时段1~t,以及x的缺失数据时段t+1~t+m;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在1~t时段的Pearson相关系数ri
Figure BDA0001474289620000021
式中,xj为变形序列x在j时刻的观测值,
Figure BDA0001474289620000022
为变形序列x的平均值,yj为变形序列yi在j时刻的观测值,
Figure BDA0001474289620000023
为变形序列yi的平均值;
步骤5,令i=i+1,如果i<n,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,...,n}之间的Pearson相关系数集合{ri,i=1,2,...,n},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi
Figure BDA0001474289620000024
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},然后执行步骤9;
步骤9,令i=1;
步骤10,令l=t;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
Figure BDA0001474289620000025
式中,
Figure BDA0001474289620000026
为变形序列yi在l时刻的变形量,
Figure BDA0001474289620000027
为变形序列yi在l+1时刻的变形量,
Figure BDA0001474289620000028
为变形序列yi在l+1时刻相对于l时刻的变形增量;
步骤12,令l=l+1,若l<t+m,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<n,则返回步骤10,否则执行步骤14;
步骤14,令p=t;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
Figure BDA0001474289620000029
式中,
Figure BDA00014742896200000210
为变形序列yi在p+1时刻相对于p时刻的变形增量,Δxp,p+1为变形序列x在p+1时刻相对于p时刻的变形增量估计;
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<t+m,返回步骤15,否则结束计算,得到变形序列x在缺失数据时段内的变形估计,从而完成缺失数据修复。
作为本发明的进一步技术方案,步骤1中n根据实际需要确定。
本发明采用以上技术方案与现有技术相比,具有以下技术效果:
附图说明
图1是本发明的方法流程图;
图2是本发明修复后的时间序列与原始时间序列的对比图。
具体实施方式
下面结合附图对本发明的技术方案做进一步的详细说明:
某一边坡共埋设有16个监测点监测边坡的变形,系统自运行以来获得了大量边坡变形数据,提取该16个监测点自2012年7月至2015年2月的32期月变形序列,采用本发明方法完成监测点缺失数据的估计。
为了检验方法的可用性,从16个监测点中随机选取TP124监测点,并剔除该序列中的第20期~第30期的变形数据,利用前19期数据计算时间序列的相关系数,然后估计缺失的第20期~第30期变形数据,并与真实数据比较。
如图1所示,一种利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,包括以下步骤:
步骤1,对比16监测点数据,得到存在数据缺失的监测点TP124,将该点的变形序列表示为x,此外得到其他15个数据完整的监测点变形序列集合{yi,i=1,2,...,15};
步骤2,对比得到序列x与yi的完整数据时段为第1期~第19期,以及x的缺失数据时段为第20期~第30期;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在第1期~第19期的Pearson相关系数ri
Figure BDA0001474289620000041
式(1)中,ri为变形序列x与变形序列yi的Pearson相关系数,xj为变形序列x在j时刻的观测值,
Figure BDA0001474289620000042
为变形序列x的平均值,yj为变形序列yi在j时刻的观测值,
Figure BDA0001474289620000043
为变形序列yi的平均值。
步骤5,令i=i+1,如果i<19,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,...,15}之间的Pearson相关系数集{ri,i=1,2,...,15},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi
Figure BDA0001474289620000044
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},将wi作为变形序列x在第20~第30缺失数据的权重贡献,然后执行步骤9。
步骤9,令i=1;
步骤10,令l=19;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
Figure BDA0001474289620000045
式(3)中,
Figure BDA0001474289620000046
为变形序列yi在l时刻的变形量,
Figure BDA0001474289620000047
为变形序列yi在l+1时刻的变形量,
Figure BDA0001474289620000048
为变形序列yi在l+1时刻相对于l时刻的变形增量。
步骤12,令l=l+1,若l<30,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<15,则返回步骤10,否则执行步骤14;
步骤14,令p=19;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
Figure BDA0001474289620000049
式(4)中,
Figure BDA00014742896200000410
为变形序列yi在p+1时刻相对于p时刻的变形增量,Δxp,p+1为变形序列x在p+1时刻相对于p时刻的变形增量估计。
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式(5)中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<30,返回步骤15,否则结束计算,得到变形序列x缺失数据时段内的变形估计。
表1~表3分别为监测点TP124第20~30期在x,y,z三个方向的修复结果。
表1第20~30期x方向实际值与估计值统计结果(单位:mm)
20 21 22 23 24 25 26 27 28 29 30
真实值 -0.17 -1.84 -2.79 -0.74 0.36 0.64 -0.98 -3.79 -2.32 -0.50 1.13
估计值 0.03 -0.98 -2.15 -0.61 0.18 0.30 -0.23 -1.51 -0.66 0.10 0.72
误差 0.20 0.86 0.64 0.13 -0.18 -0.34 0.75 2.28 1.66 0.60 -0.41
表2第20~30期y方向实际值与估计值统计结果(单位:mm)
20 21 22 23 24 25 26 27 28 29 30
真实值 3.42 2.13 1.06 -1.04 -3.07 -4.10 0.37 6.36 5.97 5.32 4.62
估计值 3.45 2.81 2.07 1.01 -0.80 -2.40 0.39 3.78 3.45 3.95 3.83
误差 0.03 0.68 1.01 2.05 2.27 1.70 0.02 -2.58 -2.52 -1.37 -0.79
表3监测点第20~30期z方向实际值与估计值统计结果(单位:mm)
20 21 22 23 24 25 26 27 28 29 30
真实值 -9.69 -5.53 -2.40 0.66 13.58 22.22 19.34 8.30 4.47 -3.30 -7.84
估计值 -8.51 -3.04 1.17 3.83 15.10 19.55 16.08 3.42 0.21 -9.12 -12.74
误差 1.18 2.49 3.57 3.17 1.52 -2.67 -3.26 -4.88 -4.26 -5.82 -4.90
从上表可以看到,x方向最大的误差出现在在第27期,误差达到了2.28mm,最小的误差出现在第23期,仅为0.13mm;y方向的最大误差出现在第27期,约为-2.58mm,最小的误差出现在第26期,约为0.02mm;z方向的误差较大,最大误差出现在第29期,约为-5.82mm,最小的误差出现在第20期,约为1.18。从上面的结果来看,估计值与真实值的整体吻合度较好,精度也较高。
以上所述,仅为本发明中的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉该技术的人在本发明所揭露的技术范围内,可理解想到的变换或替换,都应涵盖在本发明的包含范围之内,因此,本发明的保护范围应该以权利要求书的保护范围为准。

Claims (2)

1.一种利用观测序列相似性实现缺失数据修复的方法,其特征在于,当某一监测点出现数据缺失时,利用边坡各监测点变形序列之间的相似性实现缺失数据修复,该方法包括以下具体步骤:
步骤1,当某一监测点出现数据缺失时,对比所有监测点数据,该数据中缺失的监测点数据形成变形序列x,数据完整的监测点数据形成变形序列集合{yi,i=1,2,…,n},其中,yi为第i个数据完整的监测点数据形成的变形序列,n为数据完整的监测点数目;
步骤2,对比变形序列x与变形序列yi,得到完整数据时段1~t,以及x的缺失数据时段t+1~t+m;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在1~t时段的Pearson相关系数ri
Figure FDA0003166547650000011
式中,xj为变形序列x在j时刻的观测值,
Figure FDA0003166547650000012
为变形序列x的平均值,yij为变形序列yi在j时刻的观测值,
Figure FDA0003166547650000013
为变形序列yi的平均值;
步骤5,令i=i+1,如果i<n,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,…,n}之间的Pearson相关系数集合{ri,i=1,2,...,n},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi
Figure FDA0003166547650000021
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},然后执行步骤9;
步骤9,令i=1;
步骤10,令l=t;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
Figure FDA0003166547650000022
式中,
Figure FDA0003166547650000023
为变形序列yi在l时刻的变形量,
Figure FDA0003166547650000024
为变形序列yi在l+1时刻的变形量,
Figure FDA0003166547650000025
为变形序列yi在l+1时刻相对于l时刻的变形增量;
步骤12,令l=l+1,若l<t+m,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<n,则返回步骤10,否则执行步骤14;
步骤14,令p=t;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
Figure FDA0003166547650000026
式中,
Figure FDA0003166547650000027
为变形序列yi在p+1时刻相对于p时刻的变形增量,Δxp,p+1为变形序列x在p+1时刻相对于p时刻的变形增量估计;
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<t+m,返回步骤15,否则结束计算,得到变形序列x在缺失数据时段内的变形估计,从而完成缺失数据修复。
2.根据权利要求1所述的一种利用观测序列相似性实现缺失数据修复的方法,其特征在于,步骤1中n根据实际需要确定。
CN201711159407.9A 2017-11-20 2017-11-20 一种利用观测序列相似性实现缺失数据修复的方法 Expired - Fee Related CN107885696B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711159407.9A CN107885696B (zh) 2017-11-20 2017-11-20 一种利用观测序列相似性实现缺失数据修复的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711159407.9A CN107885696B (zh) 2017-11-20 2017-11-20 一种利用观测序列相似性实现缺失数据修复的方法

Publications (2)

Publication Number Publication Date
CN107885696A CN107885696A (zh) 2018-04-06
CN107885696B true CN107885696B (zh) 2021-09-07

Family

ID=61777609

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711159407.9A Expired - Fee Related CN107885696B (zh) 2017-11-20 2017-11-20 一种利用观测序列相似性实现缺失数据修复的方法

Country Status (1)

Country Link
CN (1) CN107885696B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110335355B (zh) * 2019-07-16 2023-01-17 江西省水利规划设计研究院 一种大型浅水湖泊水面高自动计算方法
CN111060069B (zh) * 2019-12-24 2022-04-12 河南理工大学 一种构筑物缺失监测点的沉降量获取方法和装置
CN111121711B (zh) * 2019-12-24 2022-01-18 河南理工大学 采动影响区内缺失监测点移动变形量的获取方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103886195A (zh) * 2014-03-14 2014-06-25 浙江大学 数据缺失下时间序列相似性度量方法
CN105335592A (zh) * 2014-06-25 2016-02-17 国际商业机器公司 生成时间数据序列的缺失区段中的数据的方法和设备
CN105717527A (zh) * 2016-02-18 2016-06-29 河海大学 一种利用边坡变形数据快速确定监测点移动轨迹的方法
WO2017104882A1 (ko) * 2015-12-18 2017-06-22 부경대학교 산학협력단 고해상도 강수량자료 복원시스템 및 그 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102322841A (zh) * 2011-05-11 2012-01-18 北方工业大学 一种边坡监测线整体变形预测方法
CN104102853A (zh) * 2014-08-08 2014-10-15 武汉理工大学 一种利用灰色原理改进的边坡位移分形预测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103886195A (zh) * 2014-03-14 2014-06-25 浙江大学 数据缺失下时间序列相似性度量方法
CN105335592A (zh) * 2014-06-25 2016-02-17 国际商业机器公司 生成时间数据序列的缺失区段中的数据的方法和设备
WO2017104882A1 (ko) * 2015-12-18 2017-06-22 부경대학교 산학협력단 고해상도 강수량자료 복원시스템 및 그 방법
CN105717527A (zh) * 2016-02-18 2016-06-29 河海大学 一种利用边坡变形数据快速确定监测点移动轨迹的方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
一种改进的空间相关系数在水库高边坡外观变形监测中的应用;胡添翼 等;《长江科学院院报》;20170715;第34卷(第7期);第41-43页 *
基于混合模型的地下水埋深时空预测方法研究:以民勤绿洲为例;张仲荣;《中国博士学位论文全文数据库基础科学辑》;20171115(第11期);第A011-6页,第15、41-42、73页 *

Also Published As

Publication number Publication date
CN107885696A (zh) 2018-04-06

Similar Documents

Publication Publication Date Title
CN107885696B (zh) 一种利用观测序列相似性实现缺失数据修复的方法
CN107194478B (zh) 融合寿命数据和性能退化数据的单机剩余寿命预测方法
CN109031215B (zh) 高脉冲丢失下的参差雷达脉冲重复周期估计方法
CN109579872B (zh) 一种星敏感器仪器星等估计方法
CN106875047B (zh) 水库流域径流预报方法及系统
CN110572779B (zh) 一种基于ToF模型的基站的系统误差估计方法
CN110987068B (zh) 一种多传感器综合控制系统数据融合方法
CN107909216B (zh) 一种零件实际生产周期预测方法
CN104102836A (zh) 一种电力系统快速抗差状态估计方法
CN110398942B (zh) 一种用于工业生产过程控制的参数辨识方法
JP2014072890A (ja) 選択装置、選択方法、識別システム及び補償システム
CN111398523B (zh) 基于分布的传感器数据校准方法及系统
Panfilova et al. Correlation-based quality measure for blind deconvolution restoration of blurred images based on Lucy-Richardson method
CN107179758B (zh) 一种动态信号参数辨识方法及系统
CN109656271B (zh) 一种基于数据关联思想的航迹软关联方法
CN107643472B (zh) 计算短断路表差异度的方法
CN114972695B (zh) 一种点云生成方法、装置、电子设备及存储介质
CN106202717A (zh) 一种基于多状态树的退化系统风险概率计算方法
CN115908051A (zh) 一种电力系统储能容量确定方法
CN115865702A (zh) 一种网络调度策略下具有数据衰减的分布式融合估计方法
CN108051676A (zh) 一种雷电流幅值累积概率分布曲线拟合计算方法
CN113489005B (zh) 配电网潮流计算的配变负荷估算方法及系统
KR101932286B1 (ko) 풍력 발전을 고려한 순간전압강하 평가 방법 및 장치
CN108444725B (zh) 一种针对大数据的快速噪声滤除方法
CN113378368A (zh) 一种基于非线性退化轨迹模型的加速因子评估方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Jia Dongzhen

Inventor after: Yang Zhixiang

Inventor after: He Xiufeng

Inventor after: Liang Yuqian

Inventor before: Jia Dongzhen

Inventor before: He Xiufeng

Inventor before: Yang Zhixiang

Inventor before: Liang Yuqian

CB03 Change of inventor or designer information
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210907

CF01 Termination of patent right due to non-payment of annual fee