CN107885696B - 一种利用观测序列相似性实现缺失数据修复的方法 - Google Patents
一种利用观测序列相似性实现缺失数据修复的方法 Download PDFInfo
- Publication number
- CN107885696B CN107885696B CN201711159407.9A CN201711159407A CN107885696B CN 107885696 B CN107885696 B CN 107885696B CN 201711159407 A CN201711159407 A CN 201711159407A CN 107885696 B CN107885696 B CN 107885696B
- Authority
- CN
- China
- Prior art keywords
- deformation
- sequence
- time
- data
- deformation sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 18
- 238000012544 monitoring process Methods 0.000 claims abstract description 36
- 150000001875 compounds Chemical class 0.000 claims description 4
- 238000005259 measurement Methods 0.000 description 3
- 239000011541 reaction mixture Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
Abstract
本发明公开了一种利用观测序列相似性实现缺失数据修复的方法,是利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,根据同一个边坡上多个监测点的变形趋势具有相似性的特点,实现监测点缺失数据的修复,解决监测点的变形序列数据缺失或非等间隔采样问题,保证时间序列的完整性。
Description
技术领域
本发明涉及一种缺失数据的补录方法,特别涉及一种利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法。
背景技术
边坡变形监测工程中,监测点的变形序列不可避免地存在数据缺失、数据不完整和数据非等间隔采样等实际问题。造成数据缺失的原因多种多样,比如因缺少供电而导致数据采集设备无法正常工作,因网络或信号的问题导致数据传输中断,因下雨或者人手问题导致数据采集周期不固定等。边坡变形监测中,监测点时间序列数据本身较少,如果忽略缺失数据则可能导致无法估计其真实变形情况。常规的处理方法是删除缺失时段的数据记录,或者采取插值等方法估算缺失数据,由于插值等方法只考虑时间序列自身的特性,很少采用外部参照数据,因此得到的结果与真实情况差别较大。
发明内容
本发明所要解决的技术问题是提供一种利用观测序列相似性实现缺失数据修复的方法,是利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,根据同一个边坡上多个监测点的变形趋势具有相似性的特点,实现监测点缺失数据的修复,解决监测点的变形序列数据缺失或非等间隔采样问题,保证时间序列的完整性。
本发明为解决上述技术问题采用以下技术方案:
本发明提供一种利用观测序列相似性实现缺失数据修复的方法,当某一监测点出现数据缺失时,利用边坡各监测点变形序列之间的相似性实现缺失数据修复,该方法包括以下具体步骤:
步骤1,当某一监测点出现数据缺失时,对比所有监测点数据,该数据缺失的监测点数据形成变形序列x,数据完整的监测点数据形成变形序列集合{yi,i=1,2,...,n},其中,yi为第i个数据完整的监测点数据形成的变形序列,n为数据完整的监测点数目;
步骤2,对比变形序列x与变形序列yi,得到完整数据时段1~t,以及x的缺失数据时段t+1~t+m;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在1~t时段的Pearson相关系数ri:
步骤5,令i=i+1,如果i<n,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,...,n}之间的Pearson相关系数集合{ri,i=1,2,...,n},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi:
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},然后执行步骤9;
步骤9,令i=1;
步骤10,令l=t;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
步骤12,令l=l+1,若l<t+m,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<n,则返回步骤10,否则执行步骤14;
步骤14,令p=t;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<t+m,返回步骤15,否则结束计算,得到变形序列x在缺失数据时段内的变形估计,从而完成缺失数据修复。
作为本发明的进一步技术方案,步骤1中n根据实际需要确定。
本发明采用以上技术方案与现有技术相比,具有以下技术效果:
附图说明
图1是本发明的方法流程图;
图2是本发明修复后的时间序列与原始时间序列的对比图。
具体实施方式
下面结合附图对本发明的技术方案做进一步的详细说明:
某一边坡共埋设有16个监测点监测边坡的变形,系统自运行以来获得了大量边坡变形数据,提取该16个监测点自2012年7月至2015年2月的32期月变形序列,采用本发明方法完成监测点缺失数据的估计。
为了检验方法的可用性,从16个监测点中随机选取TP124监测点,并剔除该序列中的第20期~第30期的变形数据,利用前19期数据计算时间序列的相关系数,然后估计缺失的第20期~第30期变形数据,并与真实数据比较。
如图1所示,一种利用边坡各监测点变形序列之间的相似性实现缺失数据修复的方法,包括以下步骤:
步骤1,对比16监测点数据,得到存在数据缺失的监测点TP124,将该点的变形序列表示为x,此外得到其他15个数据完整的监测点变形序列集合{yi,i=1,2,...,15};
步骤2,对比得到序列x与yi的完整数据时段为第1期~第19期,以及x的缺失数据时段为第20期~第30期;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在第1期~第19期的Pearson相关系数ri;
步骤5,令i=i+1,如果i<19,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,...,15}之间的Pearson相关系数集{ri,i=1,2,...,15},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi:
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},将wi作为变形序列x在第20~第30缺失数据的权重贡献,然后执行步骤9。
步骤9,令i=1;
步骤10,令l=19;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
步骤12,令l=l+1,若l<30,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<15,则返回步骤10,否则执行步骤14;
步骤14,令p=19;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式(5)中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<30,返回步骤15,否则结束计算,得到变形序列x缺失数据时段内的变形估计。
表1~表3分别为监测点TP124第20~30期在x,y,z三个方向的修复结果。
表1第20~30期x方向实际值与估计值统计结果(单位:mm)
20 | 21 | 22 | 23 | 24 | 25 | 26 | 27 | 28 | 29 | 30 | |
真实值 | -0.17 | -1.84 | -2.79 | -0.74 | 0.36 | 0.64 | -0.98 | -3.79 | -2.32 | -0.50 | 1.13 |
估计值 | 0.03 | -0.98 | -2.15 | -0.61 | 0.18 | 0.30 | -0.23 | -1.51 | -0.66 | 0.10 | 0.72 |
误差 | 0.20 | 0.86 | 0.64 | 0.13 | -0.18 | -0.34 | 0.75 | 2.28 | 1.66 | 0.60 | -0.41 |
表2第20~30期y方向实际值与估计值统计结果(单位:mm)
20 | 21 | 22 | 23 | 24 | 25 | 26 | 27 | 28 | 29 | 30 | |
真实值 | 3.42 | 2.13 | 1.06 | -1.04 | -3.07 | -4.10 | 0.37 | 6.36 | 5.97 | 5.32 | 4.62 |
估计值 | 3.45 | 2.81 | 2.07 | 1.01 | -0.80 | -2.40 | 0.39 | 3.78 | 3.45 | 3.95 | 3.83 |
误差 | 0.03 | 0.68 | 1.01 | 2.05 | 2.27 | 1.70 | 0.02 | -2.58 | -2.52 | -1.37 | -0.79 |
表3监测点第20~30期z方向实际值与估计值统计结果(单位:mm)
20 | 21 | 22 | 23 | 24 | 25 | 26 | 27 | 28 | 29 | 30 | |
真实值 | -9.69 | -5.53 | -2.40 | 0.66 | 13.58 | 22.22 | 19.34 | 8.30 | 4.47 | -3.30 | -7.84 |
估计值 | -8.51 | -3.04 | 1.17 | 3.83 | 15.10 | 19.55 | 16.08 | 3.42 | 0.21 | -9.12 | -12.74 |
误差 | 1.18 | 2.49 | 3.57 | 3.17 | 1.52 | -2.67 | -3.26 | -4.88 | -4.26 | -5.82 | -4.90 |
从上表可以看到,x方向最大的误差出现在在第27期,误差达到了2.28mm,最小的误差出现在第23期,仅为0.13mm;y方向的最大误差出现在第27期,约为-2.58mm,最小的误差出现在第26期,约为0.02mm;z方向的误差较大,最大误差出现在第29期,约为-5.82mm,最小的误差出现在第20期,约为1.18。从上面的结果来看,估计值与真实值的整体吻合度较好,精度也较高。
以上所述,仅为本发明中的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉该技术的人在本发明所揭露的技术范围内,可理解想到的变换或替换,都应涵盖在本发明的包含范围之内,因此,本发明的保护范围应该以权利要求书的保护范围为准。
Claims (2)
1.一种利用观测序列相似性实现缺失数据修复的方法,其特征在于,当某一监测点出现数据缺失时,利用边坡各监测点变形序列之间的相似性实现缺失数据修复,该方法包括以下具体步骤:
步骤1,当某一监测点出现数据缺失时,对比所有监测点数据,该数据中缺失的监测点数据形成变形序列x,数据完整的监测点数据形成变形序列集合{yi,i=1,2,…,n},其中,yi为第i个数据完整的监测点数据形成的变形序列,n为数据完整的监测点数目;
步骤2,对比变形序列x与变形序列yi,得到完整数据时段1~t,以及x的缺失数据时段t+1~t+m;
步骤3,令i=1;
步骤4,利用公式1计算变形序列x与变形序列yi在1~t时段的Pearson相关系数ri:
步骤5,令i=i+1,如果i<n,则返回步骤4,否则汇总得到变形序列x与变形序列集合{yi,i=1,2,…,n}之间的Pearson相关系数集合{ri,i=1,2,...,n},然后执行步骤6;
步骤6,令i=1;
步骤7,利用公式2将ri标准化,得到ri的权重wi:
步骤8,令i=i+1,如果i<n,则返回步骤7,否则汇总得到权重集合{wi,i=1,2,...,n},然后执行步骤9;
步骤9,令i=1;
步骤10,令l=t;
步骤11,利用公式3计算变形序列yi相邻时刻的变形增量:
步骤12,令l=l+1,若l<t+m,则返回步骤11,否则执行步骤13;
步骤13,令i=i+1,若i<n,则返回步骤10,否则执行步骤14;
步骤14,令p=t;
步骤15,利用公式4计算变形序列x在p+1时刻至p时刻的变形增量估计:
步骤16,利用公式5计算变形序列x在p+1时刻的变形估计:
xp+1=xp-Δxp,p+1 (5)
式中,xp+1为变形序列x在p+1时刻的变形估计,xp为变形序列x在p时刻的变形估计;
步骤17,令p=p+1,如果p<t+m,返回步骤15,否则结束计算,得到变形序列x在缺失数据时段内的变形估计,从而完成缺失数据修复。
2.根据权利要求1所述的一种利用观测序列相似性实现缺失数据修复的方法,其特征在于,步骤1中n根据实际需要确定。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711159407.9A CN107885696B (zh) | 2017-11-20 | 2017-11-20 | 一种利用观测序列相似性实现缺失数据修复的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711159407.9A CN107885696B (zh) | 2017-11-20 | 2017-11-20 | 一种利用观测序列相似性实现缺失数据修复的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107885696A CN107885696A (zh) | 2018-04-06 |
CN107885696B true CN107885696B (zh) | 2021-09-07 |
Family
ID=61777609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711159407.9A Expired - Fee Related CN107885696B (zh) | 2017-11-20 | 2017-11-20 | 一种利用观测序列相似性实现缺失数据修复的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107885696B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110335355B (zh) * | 2019-07-16 | 2023-01-17 | 江西省水利规划设计研究院 | 一种大型浅水湖泊水面高自动计算方法 |
CN111060069B (zh) * | 2019-12-24 | 2022-04-12 | 河南理工大学 | 一种构筑物缺失监测点的沉降量获取方法和装置 |
CN111121711B (zh) * | 2019-12-24 | 2022-01-18 | 河南理工大学 | 采动影响区内缺失监测点移动变形量的获取方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886195A (zh) * | 2014-03-14 | 2014-06-25 | 浙江大学 | 数据缺失下时间序列相似性度量方法 |
CN105335592A (zh) * | 2014-06-25 | 2016-02-17 | 国际商业机器公司 | 生成时间数据序列的缺失区段中的数据的方法和设备 |
CN105717527A (zh) * | 2016-02-18 | 2016-06-29 | 河海大学 | 一种利用边坡变形数据快速确定监测点移动轨迹的方法 |
WO2017104882A1 (ko) * | 2015-12-18 | 2017-06-22 | 부경대학교 산학협력단 | 고해상도 강수량자료 복원시스템 및 그 방법 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102322841A (zh) * | 2011-05-11 | 2012-01-18 | 北方工业大学 | 一种边坡监测线整体变形预测方法 |
CN104102853A (zh) * | 2014-08-08 | 2014-10-15 | 武汉理工大学 | 一种利用灰色原理改进的边坡位移分形预测方法 |
-
2017
- 2017-11-20 CN CN201711159407.9A patent/CN107885696B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886195A (zh) * | 2014-03-14 | 2014-06-25 | 浙江大学 | 数据缺失下时间序列相似性度量方法 |
CN105335592A (zh) * | 2014-06-25 | 2016-02-17 | 国际商业机器公司 | 生成时间数据序列的缺失区段中的数据的方法和设备 |
WO2017104882A1 (ko) * | 2015-12-18 | 2017-06-22 | 부경대학교 산학협력단 | 고해상도 강수량자료 복원시스템 및 그 방법 |
CN105717527A (zh) * | 2016-02-18 | 2016-06-29 | 河海大学 | 一种利用边坡变形数据快速确定监测点移动轨迹的方法 |
Non-Patent Citations (2)
Title |
---|
一种改进的空间相关系数在水库高边坡外观变形监测中的应用;胡添翼 等;《长江科学院院报》;20170715;第34卷(第7期);第41-43页 * |
基于混合模型的地下水埋深时空预测方法研究:以民勤绿洲为例;张仲荣;《中国博士学位论文全文数据库基础科学辑》;20171115(第11期);第A011-6页,第15、41-42、73页 * |
Also Published As
Publication number | Publication date |
---|---|
CN107885696A (zh) | 2018-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107885696B (zh) | 一种利用观测序列相似性实现缺失数据修复的方法 | |
CN107194478B (zh) | 融合寿命数据和性能退化数据的单机剩余寿命预测方法 | |
CN109031215B (zh) | 高脉冲丢失下的参差雷达脉冲重复周期估计方法 | |
CN109579872B (zh) | 一种星敏感器仪器星等估计方法 | |
CN106875047B (zh) | 水库流域径流预报方法及系统 | |
CN110572779B (zh) | 一种基于ToF模型的基站的系统误差估计方法 | |
CN110987068B (zh) | 一种多传感器综合控制系统数据融合方法 | |
CN107909216B (zh) | 一种零件实际生产周期预测方法 | |
CN104102836A (zh) | 一种电力系统快速抗差状态估计方法 | |
CN110398942B (zh) | 一种用于工业生产过程控制的参数辨识方法 | |
JP2014072890A (ja) | 選択装置、選択方法、識別システム及び補償システム | |
CN111398523B (zh) | 基于分布的传感器数据校准方法及系统 | |
Panfilova et al. | Correlation-based quality measure for blind deconvolution restoration of blurred images based on Lucy-Richardson method | |
CN107179758B (zh) | 一种动态信号参数辨识方法及系统 | |
CN109656271B (zh) | 一种基于数据关联思想的航迹软关联方法 | |
CN107643472B (zh) | 计算短断路表差异度的方法 | |
CN114972695B (zh) | 一种点云生成方法、装置、电子设备及存储介质 | |
CN106202717A (zh) | 一种基于多状态树的退化系统风险概率计算方法 | |
CN115908051A (zh) | 一种电力系统储能容量确定方法 | |
CN115865702A (zh) | 一种网络调度策略下具有数据衰减的分布式融合估计方法 | |
CN108051676A (zh) | 一种雷电流幅值累积概率分布曲线拟合计算方法 | |
CN113489005B (zh) | 配电网潮流计算的配变负荷估算方法及系统 | |
KR101932286B1 (ko) | 풍력 발전을 고려한 순간전압강하 평가 방법 및 장치 | |
CN108444725B (zh) | 一种针对大数据的快速噪声滤除方法 | |
CN113378368A (zh) | 一种基于非线性退化轨迹模型的加速因子评估方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Jia Dongzhen Inventor after: Yang Zhixiang Inventor after: He Xiufeng Inventor after: Liang Yuqian Inventor before: Jia Dongzhen Inventor before: He Xiufeng Inventor before: Yang Zhixiang Inventor before: Liang Yuqian |
|
CB03 | Change of inventor or designer information | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210907 |
|
CF01 | Termination of patent right due to non-payment of annual fee |