CN111651708A - 一种大坝安全监测数据异常识别的预警阈值设置方法 - Google Patents
一种大坝安全监测数据异常识别的预警阈值设置方法 Download PDFInfo
- Publication number
- CN111651708A CN111651708A CN202010475794.2A CN202010475794A CN111651708A CN 111651708 A CN111651708 A CN 111651708A CN 202010475794 A CN202010475794 A CN 202010475794A CN 111651708 A CN111651708 A CN 111651708A
- Authority
- CN
- China
- Prior art keywords
- formula
- regression model
- function
- measured value
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
- Y02A10/40—Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Analysis (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
- Alarm Systems (AREA)
Abstract
本发明公开了一种大坝安全监测数据异常识别的预警阈值设置方法,涉及大坝安全监测领域,包括以下步骤:构建基于图基双权估计函数的稳健回归模型;在稳健回归模型的基础上,采用基于位置M估计量的尺度估计量ST代替剩余标准差S;构建基于稳健回归模型的预测值置信区间半径D;异常预警阈值设置为[‑3ST‑D,3ST+D]。本发明方法提高数据异常在线识别的精准度,降低数据异常在线识别的误判漏判率。
Description
技术领域
本发明涉及大坝安全监测领域,特别是一种大坝安全监测数据异常识别的预警阈值设置方法。
背景技术
在大坝安全监测中,监测数据的突变常是大坝结构性态变化的直接表征,在线准确识别测值异常突变是大坝运行安全智能管控的关键问题。目前,大坝安全监测数据异常识别方法众多,包括拉伊特准则法、统计回归模型、突变理论、模糊聚类分析等。基于拉伊特准则的统计回归模型法因能综合反映环境量影响、计算便捷且编程难度小、可靠性较高等特点,在大坝安全监测数据异常在线辨识中最为常用。
统计回归模型是根据有限的效应量与环境量数据构建的确定性关系式,其预测值实质是一个样本估计值,不可能完全精确可靠,一定存在着误差,采用拉伊特准则设置预警阈值主要考虑监测仪器的系统误差和监测工作的随机误差,忽略了模型估计误差。由于效应量本身特征、监测仪器改造等因素,大坝安全监测数据常出现监测量值及变幅均较小的“小量值”数据序列,其模型估计误差大于或与采用拉伊特准则设置的预警阈值相差不大,此时模型估计误差则不容忽视,否则极易出现正常测值误判的问题。
采用拉伊特准则的前提是数据应服从正态分布,而台阶型、震荡型等数据序列的残差序列不服从正态分布,此时采用拉伊特准则设置预警阈值本身就是不合理的,再加上均值和标准差等统计估计量抗离群数据干扰的能力较差等问题,则极易出现异常值漏判问题。
受地震、施工、载荷等赋存环境大幅变化、坝与地基性态改变、监测设备短期测值异常等因素影响,大坝安全监测数据序列常出现单点离群、多点离群、台阶型、震荡型、小量值等多种序列特征,在大坝变形、渗流、应力等测值序列中均较为常见。若仅采用拉伊特准则设置数据异常预警阈值,对样本量大、服从正态分布、量值适中的数据序列,异常在线识别效果非常理想,但对大坝安全监测中常见的台阶型、震荡型、小量值等数据序列则极易出现明显的误判和漏判问题,异常识别可靠性和辨识度差。
发明内容
本发明所要解决的技术问题是提供一种大坝安全监测数据异常识别的预警阈值设置方法,解决正常测值误判和异常测值漏判的问题,提高数据异常在线识别的精准度,降低数据异常在线识别的误判漏判率。
为解决上述技术问题,本发明采用的技术方案是:
一种大坝安全监测数据异常识别的预警阈值设置方法,包括以下步骤:
步骤1:构建基于图基双权估计函数的稳健回归模型;
通过历史效应量及环境量建立的回归模型如式(1)所示:
Y=Xβ+μ (1)
式中,Y为由历史观测值构成的效应量向量;X为历史环境量变量矩阵,β为系数向量;μ为随机误差项;
式中,W为等价权矩阵,采用图基双权函数计算;
步骤2:在稳健回归模型的基础上,采用基于位置M估计量的尺度估计量ST代替剩余标准差S;基于位置M估计量的尺度估计量ST的计算公式如下:
MAD=mediani{|xi-median(xi)|} (6)
式中,xi为数据序列;Tn为位置M估计量;ui为标准化变量;n为样本个数;ω(·)为权重函数,选取图基双权函数;ψ(·)为目标函数的导函数;ψ′(·)为ψ函数的导函数;c为细调常数;Sn是辅助尺度估计通常取中位数离差;MAD为各个观测量到数据序列中位数median(xi)的距离的中位数;
步骤3:构建基于稳健回归模型的预测值置信区间半径D,具体计算公式如下:
式中,tα/2为T分布在1-α置信水平下对应概率的分位点;ω0和e0分别为实时数据计算的权重和残差,采用图基双权函数形式的权重函数计算;X0为实时监测的环境量向量;
步骤4:异常预警阈值设置为[-3ST-D,3ST+D],即满足式(9)的为正常测值,不满足则为异常测值;
与现有技术相比,本发明的有益效果是:
1、采用基于位置M估计量的尺度估计量ST代替剩余标准差S,根据样本距离中心的远近程度赋予不同的权重,以消减历史序列存在台阶型、震荡型等离群点的不利影响,降低异常测值的漏判率,如图4和图5。
2、引入预测值置信区间半径D以降低模型估计误差的不利影响,避免因模型估计误差不容忽视而导致的小量值数据序列正常测值误判问题,如图6。
3、针对规律性监测数据序列,该方法设置的预警阈值和拉伊特准则的预警阈值基本一致,具合理性和适应性,如图7。
本发明和传统方法运用于某两个重力坝2014年至2018年259个测点总计94241测次的安全监测数据异常在线识别,并与人工识别进行对比,结果如表1。
表1典型工程监测数据异常识别对比结果
对震荡型、台阶型和小量值的安全监测数据类型,本发明的效果则更为明显,上述工程中典型测点数据异常识别对比情况如表2。
表2典型测点监测数据异常识别对比结果
附图说明
图1是大坝安全监测数据异常预警阈值设置及在线识别流程图。
图2是图基双权估计的目标函数
图3是图基双权估计的权重函数。
图4是台阶型数据:某大坝外观水平位移测点TP34的异常预警阈值设置对比图。
图5是震荡型数据:某大坝内观沉降测点CH22的异常预警阈值设置对比图。
图6是小量值数据:某大坝廊道激光水平位移测点LDJG06的异常预警阈值设置对比图。
图7是规律型数据:某大坝外观水平位移测点TP4的异常预警阈值设置对比图。
图8是某重力坝坝基扬压力测点实测值过程线。
图9是某重力坝坝基扬压力测点异常识别控制图。
图10是坝基扬压力测点计算相关数据表(为了便于数据展示完整及格式要求,分为图10(a)和图10(b))。
具体实施方式
下面结合附图和具体实施方式对本发明作进一步详细的说明。本发明运用于实际工程监测数据异常在线识别的流程如图1,通过以下步骤来实现:
一、构建基于图基(Tukey)双权估计函数的稳健回归模型。
通过历史效应量及环境量建立的回归模型如下式(1)所示:
Y=Xβ+μ (1)
式中,Y为由历史观测值构成的效应量向量;X为由水位因子、降雨因子、温度因子、时效因子等构成的历史环境量变量矩阵,β为系数向量;μ为随机误差项。
式中,W为等价权矩阵,采用图基双权函数计算。在对比不同权函数形式的基础上,采用图基双权估计,目标函数和权函数如图2和图3所示。权重函数将测值区间分为淘汰区和有用区,根据测值距离其序列中心的远近赋予不同的权重,距离越近权重越高,距离越远权重越低,对于离群值只赋予很小甚至是零的权重,即伸展较远且回降至零权,从而可降低离群点对统计估计的不利影响,提高稳定性和耐抗性。
二、在稳健回归模型的基础上,采用基于位置M估计量的尺度估计量ST代替剩余标准差S以消减离群点的不利影响。基于位置M估计量的尺度估计量ST的计算公式如下:
MAD=mediani{|xi-median(xi)|} (6)
式中,xi为数据序列;Tn为基于M估计的位置估计量;ui为标准化变量,可保证变量位置和尺度的同变性;n为样本个数;ω(·)为权重函数,同稳健回归一样选取图基双权函数;ψ(·)为目标函数的导函数;ψ′(·)为ψ函数的导函数;c为细调常数,对于双权函数取4.685;Sn是辅助尺度估计通常取中位数离差MAD,即各个观测量到中位数median(xi)的距离的中位数。
三、构建基于稳健回归模型的预测值置信区间半径D,具体计算公式如下:
式中,tα/2为T分布在1-α置信水平下对应概率的分位点,根据正态分布在三个标准差范围内的概率选取置信水平为99.7%;ω0和e0分别为实时数据计算的权重和残差,采用图基双权估计权函数形式的权重函数计算(式(8));X0为实时监测的环境量向量。
四、异常预警阈值设置为[-3ST-D,3ST+D],即满足式(9)的为正常测值,不满足则为异常测值。
下面通过一个实例验证本发明方法的有益效果,具体如下:
某重力坝坝基扬压力测点2012至2016共计5年的实测值过程线如图8所示,序列整体上量值比较平缓,由于2014年8月仪器故障而造成测值在短时间内频繁跳动属于典型的震荡型数据。异常预警阈值的设置不受数据序列长短的影响,因此选取2014年5月至10月之间的52组数据序列(图10)具体说明本发明的设置方法,并以2014年11月3日和6日的测值(图10中序号53、54,图9中★、▲标记)为例说明其识别结果。
大坝安全监测数据异常识别的预警阈值设置过程如下:
1)模型构建:根据各监测量与环境量的关系,构建其回归模型。该测点为坝基扬压力测点,主要与上下游水位、降雨、大坝投运时间有密切关系,可采用式(10)建立回归模型
式中,Hu、Hd为观测日上、下游水深;Hu1、Hd1为前一日上、下游水深;Hu2-3、Hd2-3为前2至3天内的上、下游平均水深;依此类推;P、P1为当日及前一天日降雨量;P2-3为前2至3天内日平均降雨量;依此类推;t为从投运算起至观测日的累计天数。
为保证模型精度,可首先采用逐步回归分析剔除相关性不大的环境因子,再根据式(2)计算稳健M估计的回归模型系数向量经计算,该测点的最优变量为Hu、Hu4-6、Hd、Hd4-6、Hd7-10、P1、P4-6、t、ln(t)、t/(t+100),其稳健M估计的回归模型系数向量(见表3表),各测值的回归值、残差、权重见图10。可以看出,离群跳动点被赋予0权使得回归线能较好地拟合大部分测值,如图9(I)所示。
表3稳健M估计系数表
变量 | 常数项 | H<sub>u</sub> | H<sub>u4-6</sub> | H<sub>d</sub> | H<sub>d4-6</sub> | H<sub>d7-10</sub> | P<sub>1</sub> | P<sub>4-6</sub> | t | ln(t) | t/(t+100) |
系数 | 31636.159 | 0.259 | 0.077 | -0.015 | -0.021 | 0.084 | 0.003 | 0.001 | 0.332 | -2585.282 | -10798.904 |
3)计算残差序列尺度估计量:由式(5)和式(3)采用SPSS软件计算残差序列图基双权估计量Tn=-0.0017、尺度估计量ST=0.1214。
4)计算置信区间半径:置信度99.7%下tα/2=3.155,根据式(7)计算图10中53号、54号测值的置信区间半径D53=3.1554×0.1214×1=0.383、D54=3.1554×0.1214×1.1928=0.457。
5)计算预警阈值:分别计算图10中53号、54号测值的控制限3ST+D为0.7472、0.8212,53号测值的残差不满足式(9)而54号满足,因此评判53号为异常值进行预警、54号为正常值,异常识别结果如表4和图9(II)所示。
表4预警阈值相关参数计算结果
在图10中需要注意的是:1、表头加粗变量为稳健回归建模选择的因子;2、表中21行~32行的测值数据为震荡突跳测值;3、53号和54号测值为用于异常识别的数据。
Claims (1)
1.一种大坝安全监测数据异常识别的预警阈值设置方法,其特征在于,包括以下步骤:
步骤1:构建基于图基双权估计函数的稳健回归模型;
通过历史效应量及环境量建立的回归模型如式(1)所示:
Y=Xβ+μ (1)
式中,Y为由历史观测值构成的效应量向量;X为历史环境量变量矩阵,β为系数向量;μ为随机误差项;
式中,W为等价权矩阵,采用图基双权函数计算;
步骤2:在稳健回归模型的基础上,采用基于位置M估计量的尺度估计量ST代替剩余标准差S;基于位置M估计量的尺度估计量ST的计算公式如下:
MAD=mediani{|xi-median(xi)|} (6)
式中,xi为数据序列;Tn为位置M估计量;ui为标准化变量;n为样本个数;ω(·)为权重函数,选取图基双权函数;ψ(·)为目标函数的导函数;ψ′(·)为ψ函数的导函数;c为细调常数;Sn是辅助尺度估计通常取中位数离差;MAD为各个观测量到数据序列中位数median(xi)的距离的中位数;
步骤3:构建基于稳健回归模型的预测值置信区间半径D,具体计算公式如下:
式中,tα/2为T分布在1-α置信水平下对应概率的分位点;ω0和e0分别为实时数据计算的权重和残差,采用图基双权函数形式的权重函数计算;X0为实时监测的环境量向量;
步骤4:异常预警阈值设置为[-3ST-D,3ST+D],即满足式(9)的为正常测值,不满足则为异常测值;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010475794.2A CN111651708B (zh) | 2020-05-29 | 2020-05-29 | 一种大坝安全监测数据异常识别的预警阈值设置方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010475794.2A CN111651708B (zh) | 2020-05-29 | 2020-05-29 | 一种大坝安全监测数据异常识别的预警阈值设置方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651708A true CN111651708A (zh) | 2020-09-11 |
CN111651708B CN111651708B (zh) | 2022-05-20 |
Family
ID=72346967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010475794.2A Active CN111651708B (zh) | 2020-05-29 | 2020-05-29 | 一种大坝安全监测数据异常识别的预警阈值设置方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651708B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112381309A (zh) * | 2020-11-23 | 2021-02-19 | 珠江水利委员会珠江水利科学研究院 | 水库大坝安全监测预警方法、装置、系统及存储介质 |
CN112504934A (zh) * | 2020-11-23 | 2021-03-16 | 中国水利水电科学研究院 | 一种混凝土坝渗流渗压预测和监控阈值确定方法 |
CN114492168A (zh) * | 2021-12-28 | 2022-05-13 | 大唐水电科学技术研究院有限公司 | 一种动系统下大坝安全监测数据粗差识别方法 |
CN114925321A (zh) * | 2022-05-13 | 2022-08-19 | 北京科技大学 | 克服污染数据及不确定事件的新型稳健估计方法及装置 |
CN118643577A (zh) * | 2024-08-12 | 2024-09-13 | 水利部交通运输部国家能源局南京水利科学研究院 | 一种混凝土坝的变形辨识方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5519613A (en) * | 1994-10-06 | 1996-05-21 | Automotive Systems Laboratory, Inc. | System and method for discriminating short-period crashes |
CN106768032A (zh) * | 2016-12-06 | 2017-05-31 | 水利部交通运输部国家能源局南京水利科学研究院 | 一种提高大坝安全自动化监测数据可靠性的处理方法 |
CN111090634A (zh) * | 2019-11-06 | 2020-05-01 | 长江勘测规划设计研究有限责任公司 | 一种基于云服务的安全监测资料智能整编分析系统 |
-
2020
- 2020-05-29 CN CN202010475794.2A patent/CN111651708B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5519613A (en) * | 1994-10-06 | 1996-05-21 | Automotive Systems Laboratory, Inc. | System and method for discriminating short-period crashes |
CN106768032A (zh) * | 2016-12-06 | 2017-05-31 | 水利部交通运输部国家能源局南京水利科学研究院 | 一种提高大坝安全自动化监测数据可靠性的处理方法 |
CN111090634A (zh) * | 2019-11-06 | 2020-05-01 | 长江勘测规划设计研究有限责任公司 | 一种基于云服务的安全监测资料智能整编分析系统 |
Non-Patent Citations (2)
Title |
---|
ZHEYUAN DU等: "Risk assessment for tailings dams in Brumadinho of Brazil using InSAR time series approach", 《SCIENCE OF THE TOTAL ENVIRONMENT》 * |
李兴 等: "基于M估计的改进Pauta准则在监测数据粗差识别中的研究及应用", 《中国农村水利水电》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112381309A (zh) * | 2020-11-23 | 2021-02-19 | 珠江水利委员会珠江水利科学研究院 | 水库大坝安全监测预警方法、装置、系统及存储介质 |
CN112504934A (zh) * | 2020-11-23 | 2021-03-16 | 中国水利水电科学研究院 | 一种混凝土坝渗流渗压预测和监控阈值确定方法 |
CN112504934B (zh) * | 2020-11-23 | 2021-09-21 | 中国水利水电科学研究院 | 一种混凝土坝渗流渗压预测和监控阈值确定方法 |
CN114492168A (zh) * | 2021-12-28 | 2022-05-13 | 大唐水电科学技术研究院有限公司 | 一种动系统下大坝安全监测数据粗差识别方法 |
CN114492168B (zh) * | 2021-12-28 | 2024-05-10 | 大唐水电科学技术研究院有限公司 | 一种动系统下大坝安全监测数据粗差识别方法 |
CN114925321A (zh) * | 2022-05-13 | 2022-08-19 | 北京科技大学 | 克服污染数据及不确定事件的新型稳健估计方法及装置 |
CN118643577A (zh) * | 2024-08-12 | 2024-09-13 | 水利部交通运输部国家能源局南京水利科学研究院 | 一种混凝土坝的变形辨识方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111651708B (zh) | 2022-05-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111651708B (zh) | 一种大坝安全监测数据异常识别的预警阈值设置方法 | |
CN112287608B (zh) | 一种基于模糊综合评价的大坝安全预测系统及方法 | |
Jung et al. | Water distribution system burst detection using a nonlinear Kalman filter | |
US7593912B2 (en) | Method for evaluating reliance level of a virtual metrology system in product manufacturing | |
JP2019527413A (ja) | 根本的原因分析を実行してプラントワイド操業での希少イベントの発生の予測モデルを構築するコンピュータシステムおよび方法 | |
CN108549908B (zh) | 基于多采样概率核主成分模型的化工过程故障检测方法 | |
CN112904266B (zh) | 一种电能表寿命预测方法及装置 | |
CN115689393A (zh) | 一种基于物联网的电力系统实时动态监测系统及方法 | |
CN113128098B (zh) | 基于de-lof的混凝土坝奇异值检测方法和设备 | |
CN102970698A (zh) | 无线传感器网络故障检测方法 | |
CN117932501B (zh) | 一种电能表运行状态管理方法和系统 | |
CN111680267B (zh) | 一种大坝安全监测数据异常的三段进阶式在线辨识方法 | |
CN118211082B (zh) | 基于数据分析的油液滤芯剩余寿命预测方法及系统 | |
CN116591768A (zh) | 一种基于分布式网络的隧道监测方法、系统及装置 | |
KR20210137435A (ko) | 산업 환경에서 에너지 소비를 평가하기 위한 방법, 시스템, 및 컴퓨터 프로그램 제품 | |
CN118211103B (zh) | 一种海洋温盐深传感器的数据校正方法 | |
CN117553840A (zh) | 一种基于智能化管理的仪表及其系统 | |
CN112651444B (zh) | 一种基于自学习的非平稳过程异常检测方法 | |
Nieto | A coincident index for the state of the economy | |
CN110728397B (zh) | 一种基于模型自动匹配的大坝单测点阈值计算方法 | |
CN110990916A (zh) | 考虑滞后效应的大坝长期运行安全度评价及预测集成方法 | |
CN109376957A (zh) | 一种火电厂负荷的预测方法 | |
CN109101759A (zh) | 一种基于正逆响应面法的参数识别方法 | |
CN111966966A (zh) | 一种传感器测量误差模型参数可行域分析方法及系统 | |
CN112819378A (zh) | 一种基于污染状况的河流生态流量调控方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |