CN111476408A - 一种电力通信设备状态预测方法及系统 - Google Patents
一种电力通信设备状态预测方法及系统 Download PDFInfo
- Publication number
- CN111476408A CN111476408A CN202010223473.3A CN202010223473A CN111476408A CN 111476408 A CN111476408 A CN 111476408A CN 202010223473 A CN202010223473 A CN 202010223473A CN 111476408 A CN111476408 A CN 111476408A
- Authority
- CN
- China
- Prior art keywords
- attention model
- matrix
- power communication
- communication equipment
- state prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/06—Electricity, gas or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Abstract
本发明公开了一种电力通信设备状态预测方法,包括采集待预测电力通信设备的特征数据;采用预设的混合注意力模型处理特征数据;将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测。同时公开了相应的系统。本发明基于注意力机制和LSTM模型,构建端到端的设备状态预测框架,对采集的特征数据进行降维、信息挖掘,最终对网络节点上的设备运行状态进行预测,对于场景中数据维度高、特征稀疏时,状态预测效果较好。
Description
技术领域
本发明涉及一种电力通信设备状态预测方法及系统,属于信号与信息处理领域。
背景技术
随着电力通信网络的快速增长,现代电力通信网络不仅承担了电网管理功能,还需要对关键设备的运行状态进行记录和维护,因此,网络中通信设备的在线状态预测对于提升运维可靠性具有重要意义。电力通信设备在实际场景中,设备状态数据来源复杂,往往存在数据维度高、特征稀疏等问题,传统的基于现场有限数据进行状态预测的一些手段效果较差。
发明内容
本发明提供了一种电力通信设备状态预测方法及系统,解决了背景技术中披露的问题。
为了解决上述技术问题,本发明所采用的技术方案是:
一种电力通信设备状态预测方法,包括,
采集待预测电力通信设备的特征数据;
采用预设的混合注意力模型处理特征数据;
将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测。
混合注意力模型包括串联的通道注意力模型和降维注意力模型,经过通道注意力模型处理后的特征数据输入降维注意力模型。
其特征在于:通道注意力模型的处理过程为,
将输入与其转置相乘,得到相关矩阵;
将相关矩阵通过softmax函数,得到通道注意力矩阵;
用通道注意力矩阵对输入进行加权,得到通道注意力模型的输出。
通道注意力模型公式为,
X′=σ(XTX)X
其中,X′为通道注意力模型的输出,X为通道注意力模型的输入,XT为X的转置,σ(·)为softmax函数。
降维注意力模型的处理过程为,
将通道注意力模型的输出分别与映射矩阵Wk、Wq和Wv相乘,得到第一低纬矩阵、第二低纬矩阵和第三低纬矩阵;
将第二低纬矩阵于第一低纬矩阵的转置相乘,得到相关矩阵;
将相关矩阵通过softmax函数,得到降维注意力矩阵;
用降维注意力矩阵对第三低纬矩阵进行加权,得到降维注意力模型的输出。
降维注意力模型的公式为,
Y=σ(X′Wq(X′Wk)T)X′Wv
其中,X′为通道注意力模型的输出,σ(·)为softmax函数,(X′Wk)T为第一低纬矩阵的转置,Y为降维注意力模型的输出。
还包括通过全连接层将预测结果输出。
一种电力通信设备状态预测系统,包括,
采集模块:采集待预测电力通信设备的特征数据;
混合注意力模块:采用预设的混合注意力模型处理特征数据;
LSTM模块:将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测。
一种存储一个或多个程序的计算机可读存储介质,所述一个或多个程序包括指令,所述指令当由计算设备执行时,使得所述计算设备执行电力通信设备状态预测方法。
一种计算设备,包括一个或多个处理器、存储器以及一个或多个程序,其中一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行电力通信设备状态预测方法的指令。
本发明所达到的有益效果:本发明基于注意力机制和LSTM模型,构建端到端的设备状态预测框架,对采集的特征数据进行降维、信息挖掘,最终对网络节点上的设备运行状态进行预测,对于场景中数据维度高、特征稀疏时,状态预测效果较好。
附图说明
图1为本发明方法的流程图;
图2为混合注意力模型。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
如图1所示,一种电力通信设备状态预测方法,包括以下步骤:
步骤1,采集待预测电力通信设备的特征数据,并对其进行预处理。
采集的特征数据一般为一组特征向量,通过抽取、拉直、空位填充、归一化以及中心化等,得到所需的特征数据。
步骤2,采用预设的混合注意力模型处理特征数据。
预设的混合注意力模型为预先训练好的混合注意力模型,一般采用VAE(可变分自编码器)方法,训练混合注意力模型。在训练时比较不同子空间维数在生成的样本和原始样本的均方误差,选择最合适的子空间维数,这里选择的子空间维数为16,使得有效的特征信息被完整的保留下来。
如图2所示,混合注意力模型包括串联的通道注意力模型和降维注意力模型,经过通道注意力模型处理后的特征数据输入降维注意力模型。
通道注意力模型的处理过程如下:
A1)将输入与其转置相乘,得到相关矩阵;
A2)将相关矩阵通过softmax函数,得到通道注意力矩阵;
A3)用通道注意力矩阵对输入进行加权,得到通道注意力模型的输出。
X′=σ(XTX)X
其中,X′为通道注意力模型的输出,XT为X的转置,σ(·)为softmax函数。
降维注意力模型的处理过程如下:
B2)将第二低纬矩阵于第一低纬矩阵的转置相乘,得到相关矩阵;
B3)将相关矩阵通过softmax函数,得到降维注意力矩阵;
B4)用降维注意力矩阵对第三低纬矩阵进行加权,得到降维注意力模型的输出。
Y=AsX′Wv=σ(X′Wq(X′Wk)T)X′Wv
其中,(X′Wk)T为第一低纬矩阵的转置,Y为降维注意力模型的输出。
综上,混合注意力模型的公式为:
步骤3,将处理后的特征数据输入预设的LSTM长短期记忆网络(Long Short-TermMemory),进行待预测电力通信设备状态预测。
一个标准的LSTM单元由4个门函数和一个记忆细胞构成,分别是输入门i,输入调制门g,遗忘门s,输出门o和记忆单元c。
给定t时刻的输入(即上述的Y),输出为传递的隐藏状态为其中N为隐藏单元数;实际运行时,混合注意力模型的输出被拉直以后作为LSTM的输入使用。如果将内部各门函数和记忆单元上的非线性激活函数统一用fλ(·),λ∈{i,g,s,o,c}表示,而输入输出分别用xλ和yλ表示,则LSTM的前向计算可简单表示为:
yλ=fλ(Wλxλ),λ∈{i,g,o,s}
yc=fc(ys⊙ct-1+yi⊙yg)
zt=ht=yo⊙yc
其中⊙表示向量点积。对于LSTM而言,需要学习的参数主要为四个门函数上的线性加权参数Wλ,实际使用中可以通过标准的时序反向传播方法对模块进行训练。
步骤4,通过全连接层将预测结果输出。
上述方法基于注意力机制和LSTM模型,构建端到端的设备状态预测框架,对采集的特征数据进行降维、信息挖掘,最终对网络节点上的设备运行状态进行预测,对于场景中数据维度高、特征稀疏时,状态预测效果较好。
一种电力通信设备状态预测系统,其特征在于:包括,
采集模块:采集待预测电力通信设备的特征数据;
混合注意力模块:采用预设的混合注意力模型处理特征数据;
LSTM模块:将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测;
全连接层模块:将预测结果输出。
一种存储一个或多个程序的计算机可读存储介质,所述一个或多个程序包括指令,所述指令当由计算设备执行时,使得所述计算设备执行电力通信设备状态预测方法。
一种计算设备,包括一个或多个处理器、存储器以及一个或多个程序,其中一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行电力通信设备状态预测方法的指令。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上仅为本发明的实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均包含在申请待批的本发明的权利要求范围之内。
Claims (10)
1.一种电力通信设备状态预测方法,其特征在于:包括,
采集待预测电力通信设备的特征数据;
采用预设的混合注意力模型处理特征数据;
将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测。
2.根据权利要求1所述的一种电力通信设备状态预测方法,其特征在于:混合注意力模型包括串联的通道注意力模型和降维注意力模型,经过通道注意力模型处理后的特征数据输入降维注意力模型。
3.根据权利要求2所述的一种电力通信设备状态预测方法,其特征在于:通道注意力模型的处理过程为,
将输入与其转置相乘,得到相关矩阵;
将相关矩阵通过softmax函数,得到通道注意力矩阵;
用通道注意力矩阵对输入进行加权,得到通道注意力模型的输出。
4.根据权利要求3所述的一种电力通信设备状态预测方法,其特征在于:通道注意力模型公式为,
X′=σ(XTX)X
其中,X′为通道注意力模型的输出,X为通道注意力模型的输入,XT为X的转置,σ(·)为softmax函数。
5.根据权利要求2所述的一种电力通信设备状态预测方法,其特征在于:降维注意力模型的处理过程为,
将通道注意力模型的输出分别与映射矩阵Wk、Wq和Wv相乘,得到第一低纬矩阵、第二低纬矩阵和第三低纬矩阵;
将第二低纬矩阵于第一低纬矩阵的转置相乘,得到相关矩阵;
将相关矩阵通过softmax函数,得到降维注意力矩阵;
用降维注意力矩阵对第三低纬矩阵进行加权,得到降维注意力模型的输出。
6.根据权利要求5所述的一种电力通信设备状态预测方法,其特征在于:降维注意力模型的公式为,
Y=σ(X′Wq(X′Wk)T)X′Wv
其中,X′为通道注意力模型的输出,σ(·)为softmax函数,(X′Wk)T为第一低纬矩阵的转置,Y为降维注意力模型的输出。
7.根据权利要求1所述的一种电力通信设备状态预测方法,其特征在于:还包括通过全连接层将预测结果输出。
8.一种电力通信设备状态预测系统,其特征在于:包括,
采集模块:采集待预测电力通信设备的特征数据;
混合注意力模块:采用预设的混合注意力模型处理特征数据;
LSTM模块:将处理后的特征数据输入预设的LSTM,进行待预测电力通信设备状态预测。
9.一种存储一个或多个程序的计算机可读存储介质,其特征在于:所述一个或多个程序包括指令,所述指令当由计算设备执行时,使得所述计算设备执行根据权利要求1至7所述的方法中的任一方法。
10.一种计算设备,其特征在于:包括,
一个或多个处理器、存储器以及一个或多个程序,其中一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行根据权利要求1至7所述的方法中的任一方法的指令。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010223473.3A CN111476408B (zh) | 2020-03-26 | 2020-03-26 | 一种电力通信设备状态预测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010223473.3A CN111476408B (zh) | 2020-03-26 | 2020-03-26 | 一种电力通信设备状态预测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111476408A true CN111476408A (zh) | 2020-07-31 |
CN111476408B CN111476408B (zh) | 2023-07-25 |
Family
ID=71748420
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010223473.3A Active CN111476408B (zh) | 2020-03-26 | 2020-03-26 | 一种电力通信设备状态预测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111476408B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111881298A (zh) * | 2020-08-04 | 2020-11-03 | 上海交通大学 | 一种半结构化文本处理及分析方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109101948A (zh) * | 2018-08-28 | 2018-12-28 | 电子科技大学 | 一种基于时空及通道的多注意力机制视频描述方法 |
CN109299268A (zh) * | 2018-10-24 | 2019-02-01 | 河南理工大学 | 一种基于双通道模型的文本情感分析方法 |
CN109544524A (zh) * | 2018-11-15 | 2019-03-29 | 中共中央办公厅电子科技学院 | 一种基于注意力机制的多属性图像美学评价系统 |
CN109871909A (zh) * | 2019-04-16 | 2019-06-11 | 京东方科技集团股份有限公司 | 图像识别方法及装置 |
CN110516540A (zh) * | 2019-07-17 | 2019-11-29 | 青岛科技大学 | 基于多流架构与长短时记忆网络的组群行为识别方法 |
CN110610168A (zh) * | 2019-09-20 | 2019-12-24 | 合肥工业大学 | 一种基于注意力机制的脑电情绪识别方法 |
-
2020
- 2020-03-26 CN CN202010223473.3A patent/CN111476408B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109101948A (zh) * | 2018-08-28 | 2018-12-28 | 电子科技大学 | 一种基于时空及通道的多注意力机制视频描述方法 |
CN109299268A (zh) * | 2018-10-24 | 2019-02-01 | 河南理工大学 | 一种基于双通道模型的文本情感分析方法 |
CN109544524A (zh) * | 2018-11-15 | 2019-03-29 | 中共中央办公厅电子科技学院 | 一种基于注意力机制的多属性图像美学评价系统 |
CN109871909A (zh) * | 2019-04-16 | 2019-06-11 | 京东方科技集团股份有限公司 | 图像识别方法及装置 |
CN110516540A (zh) * | 2019-07-17 | 2019-11-29 | 青岛科技大学 | 基于多流架构与长短时记忆网络的组群行为识别方法 |
CN110610168A (zh) * | 2019-09-20 | 2019-12-24 | 合肥工业大学 | 一种基于注意力机制的脑电情绪识别方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111881298A (zh) * | 2020-08-04 | 2020-11-03 | 上海交通大学 | 一种半结构化文本处理及分析方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111476408B (zh) | 2023-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109214575B (zh) | 一种基于小波长短期记忆网络的超短期风电功率预测方法 | |
CN108647839A (zh) | 基于代价敏感lstm循环神经网络的稳压器水位预测方法 | |
CN112818035B (zh) | 一种网络故障预测方法及终端设备及存储介质 | |
CN113746087B (zh) | 基于ctgan的电网暂稳样本可控生成以及评估方法和系统 | |
CN116843083A (zh) | 基于混合神经网络模型的碳排放预测系统及方法 | |
CN116187548A (zh) | 一种光伏发电功率预测方法、装置、存储介质及电子装置 | |
CN113627685B (zh) | 一种考虑风电上网负荷限制的风力发电机功率预测方法 | |
CN114266416A (zh) | 基于相似日的光伏发电功率短期预测方法、装置及存储介质 | |
CN111476408A (zh) | 一种电力通信设备状态预测方法及系统 | |
CN112287605B (zh) | 一种基于图卷积网络加速的潮流校核方法 | |
CN113469266A (zh) | 一种基于改进深度卷积神经网络的窃电行为检测方法 | |
CN112465184A (zh) | 一种少样本生成式对抗学习网络的云储能系统控制方法 | |
CN116843012A (zh) | 一种融合个性化上下文和时域动态特征的时序预测方法 | |
CN108427742B (zh) | 一种基于低秩矩阵的配电网可靠性数据修复方法及系统 | |
CN113835964B (zh) | 基于小样本学习的云数据中心服务器能耗预测方法 | |
CN114169416B (zh) | 一种基于迁移学习的小样本集下短期负荷预测方法 | |
CN115660895A (zh) | 一种基于宽度学习改进深度学习的水资源管理方法 | |
CN113158134B (zh) | 非侵入式负荷辨识模型的构建方法、装置和存储介质 | |
CN115907000A (zh) | 一种用于电力系统最优潮流预测的小样本学习方法 | |
CN111709553B (zh) | 一种基于张量gru神经网络的地铁流量预测方法 | |
CN113537573A (zh) | 基于双重时空特征提取的风电功率运行趋势预测方法 | |
CN112381664A (zh) | 电网短期负荷预测方法、预测装置及存储介质 | |
CN111104298A (zh) | 一种基于lstm的电网服务器运行状态预测装置 | |
CN116128130B (zh) | 一种基于图神经网络的短期风能数据预测方法及装置 | |
CN116502774B (zh) | 一种基于时间序列分解和勒让德投影的时间序列预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |