CN112580682B - 基于多任务高斯过程的大坝监测系统缺失数据重构方法 - Google Patents

基于多任务高斯过程的大坝监测系统缺失数据重构方法 Download PDF

Info

Publication number
CN112580682B
CN112580682B CN202011276563.5A CN202011276563A CN112580682B CN 112580682 B CN112580682 B CN 112580682B CN 202011276563 A CN202011276563 A CN 202011276563A CN 112580682 B CN112580682 B CN 112580682B
Authority
CN
China
Prior art keywords
gaussian process
sensors
data
gaussian
monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011276563.5A
Other languages
English (en)
Other versions
CN112580682A (zh
Inventor
李扬涛
包腾飞
舒小颂
高治鑫
朱征
胡雨涵
龚建
张康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hohai University HHU
Original Assignee
Hohai University HHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hohai University HHU filed Critical Hohai University HHU
Priority to CN202011276563.5A priority Critical patent/CN112580682B/zh
Publication of CN112580682A publication Critical patent/CN112580682A/zh
Application granted granted Critical
Publication of CN112580682B publication Critical patent/CN112580682B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D18/00Testing or calibrating apparatus or arrangements provided for in groups G01D1/00 - G01D15/00

Abstract

本发明公开了一种基于多任务高斯过程的大坝安全监测系统缺失数据重构方法。通过构建训练基于多任务高斯过程的学习框架,以正常工作传感器已有数据及对应日期为输入,同时对多个传感器数据进行学习训练,获取故障传感器缺失数据估计值,实现对传感器缺失数据的重构。本发明针对大坝安全监测系统普遍存在原始监测数据缺失问题,充分利用多个传感器在时间和空间上的相关性,实现了对故障传感器缺失数据的重构。本方法对单个或多个传感器数据缺失情况适用性良好,计算效率高,结果准确率。可应用于大坝安全监测系统传感器缺失数据重构中,具有广阔的应用前景,对于提升大坝安全监测系统的监测与管理能力有显著帮助。

Description

基于多任务高斯过程的大坝监测系统缺失数据重构方法
技术领域
本发明涉及大坝安全监测领域,具体涉及一种基于多任务高斯过程的大坝安全监测系统缺失数据重构方法。
背景技术
中国有各类已建、在建水库大坝超过9.8万座。这些水工结构工程在防洪、灌溉、供水、发电和航运方面发挥了巨大的社会经济效应,是国民经济的重要基础保障。确保大坝在全生命周期内安全运行,对于维护重大基础设施投资,保障下游人民生命财产安全具有重大意义。
近些年来,大量传感器被应用于工程系统安全监测中。基于传感器的大坝安全监测系统可通过连续采集与大坝运行相关的物理监测指标,如位移、渗流、裂缝开度等,实现对大坝结构安全性态的评估。目前大坝安全监测系统(structural health monitoring,SHM)已被广泛应用于各类新建大坝以及除险加固后的大坝中。然而由于大坝工作环境恶劣,洪水、寒潮、地震等自然灾害频发,同时存在有数据采集系统故障,噪音及人为施工干扰等因素影响,传感器监测数据缺失不可避免,甚至频繁发生。如何准确定量评估故障传感器的缺失数据,实现自动化的大坝安全监测缺失数据补全,对构建准确高效的大坝安全监测系统,提升安全监测系统管理水平和对大坝结构异常性态的识别效率具有重要意义。
发明内容
本发明的目的在于克服现有技术的不足,提出一种基于多任务高斯过程回归的大坝安全监测传感器缺失数据重构方法,充分利用多个传感器间在时间和空间的相关性,有效重构了目标传感器的缺失数据。
本发明公开基于多任务高斯过程的大坝监测系统缺失数据重构方法,包括:
步骤一,统计大坝安全监测系统各监测项目下的传感器数目、类别及分布情况,根据监测项目、传感器是否正常工作以及传感器是否存在缺失数据对传感器进行分类,将传感器划分为正常传感器和故障传感器,并重新编号,将每个传感器作为一个任务;
步骤二,所述正常传感器已有监测数据及日期,将正常传感器已有的监测数据及日期作为每个任务的输入和输出,并进行预处理及标准化,构建多任务高斯过程模型,输入所有任务训练多任务高斯过程模型;
步骤三,所述故障传感器缺失数据,所述缺失数据包括缺失值及日期,将故障传感器的缺失值及日期作为多任务高斯过程模型的输入,训练好的多任务高斯过程模型同时重构多个任务的缺失传感器数据。
进一步地,
所述步骤二中,标准化的过程为:
对大坝监测序列x1,x2,...,xn进行变换:
Figure GDA0003690052110000021
式中:
Figure GDA0003690052110000022
Figure GDA0003690052110000023
为该大坝监测序列均值,s为监测序列标准差,则新生成序列y1,y2,...,yn均值为0,方差为1,且无量纲。
进一步地,
所述步骤二中,所述高斯过程是关于时间域随机变量的联合,所述时间域为时间或空间,其中每个点上随机变量都服从高斯分布:
即f(x)~GP(m(x),k(x,x′))
其中,均值和协方差函数分别表示为:
m(x)=E[f(x)],k(x,x′)=E[(f(x)-m(x))(f(x′)-m(x′))]
式中:x和x′分别代表训练和测试样本f(x)代表真实高斯过程的回归函数,m(x)反映了函数f(x)在输入点x的期望值,协方差函数k(x,x′)可视为对m(x)的置信区间的一个度量,E[]代表数学期望,f(x')代表高斯回归模型对测试集输入变量的预测值。
进一步地,
所述高斯过程还包括:协方差函数
Figure GDA0003690052110000024
协方差函数用于衡量置信水平,式中:
Figure GDA0003690052110000025
代表振幅,λ代表尺寸特征长度;
实际大坝监测序列同时是有噪声的,如:
y=f(x)+ε
式中:ε是满足正态独同立分布的高斯噪声,
Figure GDA0003690052110000026
Figure GDA0003690052110000027
是噪声的标准差。
进一步地,
所述高斯过程还包括:假设原始大坝安全监测序列通常包含噪声项,y=f(x)+ε,其中假设真实高斯过程回归方程f(x)服从高斯过程先验,f(x)~GP(m(x),k(x,x′)),给定n个训练监测值,
Figure GDA0003690052110000028
式中
Figure GDA0003690052110000029
对测试集的输入X*满足一个联合高斯分布
Figure GDA00036900521100000210
其中K=k(X,X)是所有监测点之间的协方差矩阵,K*=k(X,X*)是新加入监测点与已有监测点之间的协方差矩阵,K**=k(X*,X*)是新加入点之间的协方差矩阵,
根据高斯分布的条件性质获得预测均值
Figure GDA0003690052110000031
和方差
Figure GDA0003690052110000032
的分布:
Figure GDA0003690052110000033
Figure GDA0003690052110000034
Figure GDA0003690052110000035
所使用协方差函数的未知参数通过最小化负对数似然函数以及共轭梯度法来确定:
Figure GDA0003690052110000036
θ代表高斯过程回归模型中未知的超参数。
进一步地,
所述高斯过程还包括:通过定义新的复合协方差函数实现考虑多个任务之间的相关性,给定输入x和x′,以及任务i与j,则两个数据点和两个任务间的协方差可表示为:kmulti([x,i],[x′,j])=kinputs(x,x′)×ktasks(i,j)
其中kinputs是一个常规的高斯核函数,如SE核,用于度量输入之间的相似性,ktasks是一个特殊的核函数,用于考虑不同任务间的相似性。
本发明具有的有益效果:
本发明充分利用同一监测系统下不同传感器在时间和空间上的相关性,重构故障传感器的缺失数据,对于提升大坝安全监测系统的监测与管理能力有显著帮助。
附图说明
图1基于多任务高斯过程的缺失数据重构框架工作流程图
图2基于多任务高斯过程的理论计算流程
图3为4只位移传感器的原始监测数据
图4为单个位移传感器多位置数据缺失重构结果
图5为多个位移传感器多位置数据缺失重构结果
图6为4只裂缝传感器的原始监测数据
图7为单个裂缝传感器多位置数据缺失重构结果
图8为多个裂缝传感器多位置数据缺失重构结果
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
如图1所示,一种基于多任务高斯过程的大坝安全监测系统缺失数据重构框架,基于python环境实现。
首先从大坝安全监测系统中获取各个监测指标的传感器原始数据,统计传感器数据及原始监测数据缺失情况。按照是否正常工作,将传感器分为正常工作传感器和存在数据缺失的传感器。
如图2所示,本发明的基于多任务高斯过程的大坝监测系统缺失数据重构方法,包括:
步骤一,统计大坝安全监测系统各监测项目下的传感器数目、类别及分布情况,根据监测项目、传感器是否正常工作以及传感器是否存在缺失数据对传感器进行分类,将传感器划分为正常传感器和故障传感器,并重新编号,将每个传感器作为一个任务;
步骤二,所述正常传感器已有监测数据及日期,将正常传感器已有的监测数据及日期作为每个任务的输入和输出,并进行预处理及标准化,构建多任务高斯过程模型,输入所有任务训练多任务高斯过程模型;
步骤三,所述故障传感器缺失数据,所述缺失数据包括缺失值及日期,将故障传感器的缺失值及日期作为多任务高斯过程模型的输入,训练好的多任务高斯过程模型同时重构多个任务的缺失传感器数据。
进一步地,
所述步骤二中,标准化的过程为:
对大坝监测序列x1,x2,...,xn进行变换:
Figure GDA0003690052110000041
式中:
Figure GDA0003690052110000042
Figure GDA0003690052110000043
为该大坝监测序列均值,s为监测序列标准差,则新生成序列y1,y2,...,yn均值为0,方差为1,且无量纲。
所述步骤二中,所述高斯过程是关于时间域随机变量的联合,所述时间域为时间或空间,其中每个点上随机变量都服从高斯分布:
即f(x)~GP(m(x),k(x,x′))
其中,均值和协方差函数分别表示为:
m(x)=E[f(x)],k(x,x′)=E[(f(x)-m(x))(f(x′)-m(x′))]
式中:x和x′分别代表训练和测试样本。f(x)代表真实高斯过程的回归函数,m(x)反映了函数f(x)在输入点x的期望值,协方差函数k(x,x′)可视为对m(x)的置信区间的一个度量。
先验均值函数通常设置m(x)=0以避免昂贵后验计算,所述高斯过程还包括:协方差函数,常见的协方差函数有Squared-Exponential(SE),其公式如下:
Figure GDA0003690052110000051
协方差函数用于衡量置信水平,式中:
Figure GDA0003690052110000052
代表振幅,λ代表尺寸特征长度;
实际大坝监测序列同时是有噪声的,如:
y=f(x)+ε
式中:ε是满足正态独同立分布的高斯噪声,
Figure GDA0003690052110000053
Figure GDA0003690052110000054
是噪声的标准差。
所述高斯过程还包括:假设原始大坝安全监测序列通常包含噪声项,y=f(x)+ε,其中假设真实高斯过程回归方程f(x)服从高斯过程先验,f(x)~GP(m(x),k(x,x′)),给定n个训练监测值,
Figure GDA0003690052110000055
式中
Figure GDA0003690052110000056
对测试集的输入X*满足一个联合高斯分布
Figure GDA0003690052110000057
其中K=k(X,X)是所有监测点之间的协方差矩阵,K*=k(X,X*)是新加入监测点与已有监测点之间的协方差矩阵,K**=k(X*,X*)是新加入点之间的协方差矩阵,
根据高斯分布的条件性质获得预测均值
Figure GDA0003690052110000058
和方差
Figure GDA0003690052110000059
的分布:
Figure GDA00036900521100000510
Figure GDA00036900521100000511
Figure GDA00036900521100000512
所使用协方差函数的未知参数通过最小化负对数似然函数以及共轭梯度法来确定:
Figure GDA00036900521100000513
θ代表高斯过程回归模型中未知的超参数。
利用多个传感器数据重构传感器缺失数据本质上是一个多任务学习过程。传统高斯过程回归只能通过执行多个相互独立的任务来实现重构,这样无法利用传感器数据之间的相关性。本发明基于前人研究,提出一种多任务高斯过程回归模型,通过定义新的复合协方差函数实现考虑多个任务之间的相关性,给定输入x和x′,以及任务i与j,则两个数据点和两个任务间的协方差可表示为:
kmulti([x,i],[x′,j])=kinputs(x,x′)×ktasks(i,j)
其中kinputs是一个常规的高斯核函数,如SE核,用于度量输入之间的相似性,ktasks是一个特殊的核函数,用于考虑不同任务间的相似性。
图3-图8的实验结果表明,所提框架在单个传感器多个位置数据缺失(图7)以及多个传感器多个位置数据缺失(图8)等不同数据缺失情况均取得良好表现。这表明所提框架可利用多个传感器之间的相关性进行缺失数据重构,是一种高效准确的数据重构框架。此外所提框架,对监测数据的不确定性也有一定度量,可用于监测数据的异常识别诊断中。所提框架可应用于大坝安全监测系统数据的修补中,提高监测系统的数据完备性,提升监测系统的管理与异常识别能力。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。

Claims (3)

1.基于多任务高斯过程的大坝监测系统缺失数据重构方法,其特征在于,包括:
步骤一,统计大坝安全监测系统各监测项目下的传感器数目、类别及分布情况,根据监测项目、传感器是否正常工作以及传感器是否存在缺失数据对传感器进行分类,将传感器划分为正常传感器和故障传感器,并重新编号,将每个传感器作为一个任务;
步骤二,所述正常传感器已有监测数据及日期,将正常传感器已有的监测数据及日期作为每个任务的输入和输出,并进行预处理及标准化,构建多任务高斯过程模型,输入所有任务训练多任务高斯过程模型;
步骤三,所述故障传感器缺失数据,所述缺失数据包括缺失值及日期,将故障传感器的缺失值及日期作为多任务高斯过程模型的输入,训练好的多任务高斯过程模型同时重构多个任务的缺失传感器数据;
所述步骤二中,所述高斯过程是关于时间域随机变量的联合,所述时间域为时间或空间,其中每个点上随机变量都服从高斯分布:
即f(x)~GP(m(x),k(x,x′))
其中,均值和协方差函数分别表示为:
m(x)=E[f(x)],k(x,x′)=E[(f(x)-m(x))(f(x′)-m(x′))]
f(x)代表真实高斯过程的回归函数,m(x)反映了函数f(x)在输入点x的期望值,协方差函数k(x,x′)视为对m(x)的置信区间的一个度量,E[]代表数学期望,f(x')代表高斯回归模型对测试集输入变量的预测值;
式中:x和x′分别代表训练和测试样本;
所述高斯过程还包括:协方差函数
Figure FDA0003690052100000011
协方差函数用于衡量置信水平,式中:
Figure FDA0003690052100000012
代表振幅,λ代表尺寸特征长度;
实际大坝监测序列同时是有噪声的,如:
y=f(x)+ε
式中:ε是满足正态独同立分布的高斯噪声,
Figure FDA0003690052100000013
Figure FDA0003690052100000014
是噪声的标准差;
所述高斯过程还包括:原始大坝安全监测序列通常包含噪声项,y=f(x)+ε,其中假设真实高斯过程回归方程f(x)服从高斯过程先验,f(x)~GP(m(x),k(x,x′)),给定n个训练监测值,
Figure FDA0003690052100000015
式中
Figure FDA0003690052100000016
对测试集的输入X*满足一个联合高斯分布
Figure FDA0003690052100000021
其中K=k(X,X)是所有监测点之间的协方差矩阵,K*=k(X,X*)是新加入监测点与已有监测点之间的协方差矩阵,K**=k(X*,X*)是新加入点之间的协方差矩阵,
根据高斯分布的条件性质获得预测均值
Figure FDA0003690052100000022
和方差
Figure FDA0003690052100000023
的分布:
Figure FDA0003690052100000024
Figure FDA0003690052100000025
Figure FDA0003690052100000026
所使用协方差函数的未知参数通过最小化负对数似然函数以及共轭梯度法来确定:
Figure FDA0003690052100000027
θ代表高斯过程回归模型中未知的超参数。
2.根据权利要求1所述的基于多任务高斯过程的大坝监测系统缺失数据重构方法,其特征在于:
所述步骤二中,标准化的过程为:
对大坝监测序列x1,x2,...,xn进行变换:
Figure FDA0003690052100000028
式中:
Figure FDA0003690052100000029
Figure FDA00036900521000000210
为该大坝监测序列均值,s为监测序列标准差,则新生成序列y1,y2,...,yn均值为0,方差为1,且无量纲。
3.根据权利要求1所述的基于多任务高斯过程的大坝监测系统缺失数据重构方法,其特征在于:所述高斯过程还包括:通过定义新的复合协方差函数实现考虑多个任务之间的相关性,给定输入x和x′,以及任务i与j,则两个数据点和两个任务间的协方差表示为:kmulti([x,i],[x′,j])=kinputs(x,x′)×ktasks(i,j)
其中kinputs是一个常规的高斯核函数,用于度量输入之间的相似性,ktasks是一个特殊的核函数,用于考虑不同任务间的相似性。
CN202011276563.5A 2020-11-16 2020-11-16 基于多任务高斯过程的大坝监测系统缺失数据重构方法 Active CN112580682B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011276563.5A CN112580682B (zh) 2020-11-16 2020-11-16 基于多任务高斯过程的大坝监测系统缺失数据重构方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011276563.5A CN112580682B (zh) 2020-11-16 2020-11-16 基于多任务高斯过程的大坝监测系统缺失数据重构方法

Publications (2)

Publication Number Publication Date
CN112580682A CN112580682A (zh) 2021-03-30
CN112580682B true CN112580682B (zh) 2022-07-19

Family

ID=75122606

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011276563.5A Active CN112580682B (zh) 2020-11-16 2020-11-16 基于多任务高斯过程的大坝监测系统缺失数据重构方法

Country Status (1)

Country Link
CN (1) CN112580682B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113359573A (zh) * 2021-06-30 2021-09-07 华能澜沧江水电股份有限公司 一种大坝安全智能预测方法及其装置
CN113515896B (zh) * 2021-08-06 2022-08-09 红云红河烟草(集团)有限责任公司 用于卷烟实时数采的数据缺失值填充方法
CN113466823B (zh) * 2021-08-11 2023-06-06 中国电子科技集团公司第三十八研究所 一种数字阵列模块大冗余度健康管理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102542126B (zh) * 2011-10-10 2015-04-22 上海交通大学 基于半监督学习的软测量方法
CN107480341B (zh) * 2017-07-21 2018-10-23 河海大学 一种基于深度学习的大坝安全综合评判方法
CN108647272B (zh) * 2018-04-28 2020-12-29 江南大学 一种基于数据分布的小样本扩充对脱丁烷塔底丁烷浓度进行预测的方法
CN111080009B (zh) * 2019-12-13 2021-04-16 北京瑞莱智慧科技有限公司 基于时间序列的数据预测及补全方法、装置、介质和设备
CN111597645B (zh) * 2020-04-06 2023-07-18 武汉数字化设计与制造创新中心有限公司 一种机器人去毛刺最优工艺参数选择方法和系统

Also Published As

Publication number Publication date
CN112580682A (zh) 2021-03-30

Similar Documents

Publication Publication Date Title
CN112580682B (zh) 基于多任务高斯过程的大坝监测系统缺失数据重构方法
CN108536971B (zh) 一种基于贝叶斯模型的结构损伤识别方法
Hanachi et al. A physics-based modeling approach for performance monitoring in gas turbine engines
CN109681391B (zh) 一种叶根螺栓断裂故障检测方法及介质
CN111737909A (zh) 基于时空图卷积网络的结构健康监测数据异常识别方法
CN105116872A (zh) 一种工业过程中基于度量学习与时间序列的故障诊断方法
CN105571645A (zh) 一种大坝自动化监测方法
CN111241755A (zh) 电力负荷预测方法
CN113656906B (zh) 一种面向燃气轮机的非平稳多变量因果关系分析方法
CN103207567B (zh) 一种低误报率的改进主元分析过程监测方法及其监测系统
Loboda et al. A mixed data-driven and model based fault classification for gas turbine diagnosis
CN115081484A (zh) 基于crj-oselm算法的航空发动机传感器故障诊断方法
Xu et al. Structural damage detection using low-rank matrix approximation and cointegration analysis
Li et al. A novel feature extraction method based on discriminative graph regularized autoencoder for fault diagnosis
CN115217152B (zh) 一种沉管隧道管节接头张合变形的预测方法及装置
CN116793666A (zh) 一种基于lstm-mlp-lsgan模型的风电机组齿轮箱故障诊断方法
CN116521406A (zh) 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法
CN114383834B (zh) 一种海洋工程结构微小损伤判定方法
CN115526238A (zh) 一种基于全工况卷积特征记忆的引风机故障预警方法
CN110083804B (zh) 基于条件分布回归的风电场scada数据缺失的智能修复方法
Zhang et al. Spatio-temporal fusion model of natural gas pipeline condition monitoring based on convolutional neural network and long short-term memory neural network
CN113722977B (zh) 一种基于混合预测的燃气轮机转子故障预警方法
Sun et al. Anomaly detection of marine diesel engine valve system based on Mahalanobis distance
Zhang et al. A comparison study among various techniques in the application of power system anomaly detection, diagnostics and monitoring
Liu et al. A Prognostics Approach Based on Feature Fusion and Deep BiLSTM Neural Network for Aero-Engine

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Li Yangtao

Inventor after: Bao Tengfei

Inventor after: Shu Xiaosong

Inventor after: Gao Zhixin

Inventor after: Zhu Zheng

Inventor after: Hu Yuhan

Inventor after: Gong Jian

Inventor after: Zhang Kang

Inventor before: Li Yangtao

Inventor before: Bao Tengfei

Inventor before: Shu Xiaosong

Inventor before: Gao Zhixin

Inventor before: Zhu Zheng

Inventor before: Hu Yuhan

Inventor before: Gong Jian

Inventor before: Zhang Kang

CB03 Change of inventor or designer information
GR01 Patent grant
GR01 Patent grant