CN115994136A - 一种基于能源网络拓扑关系的能源数据清洗方法及系统 - Google Patents
一种基于能源网络拓扑关系的能源数据清洗方法及系统 Download PDFInfo
- Publication number
- CN115994136A CN115994136A CN202310037977.XA CN202310037977A CN115994136A CN 115994136 A CN115994136 A CN 115994136A CN 202310037977 A CN202310037977 A CN 202310037977A CN 115994136 A CN115994136 A CN 115994136A
- Authority
- CN
- China
- Prior art keywords
- energy
- monitoring
- time
- branch
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 238000004140 cleaning Methods 0.000 title claims abstract description 68
- 238000012544 monitoring process Methods 0.000 claims abstract description 215
- 230000002159 abnormal effect Effects 0.000 claims abstract description 85
- 230000008859 change Effects 0.000 claims abstract description 13
- 238000010586 diagram Methods 0.000 claims description 36
- 238000011144 upstream manufacturing Methods 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 13
- 238000010276 construction Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 9
- 238000005070 sampling Methods 0.000 claims description 3
- 238000005429 filling process Methods 0.000 claims 1
- 230000004044 response Effects 0.000 abstract description 4
- 238000004458 analytical method Methods 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供了一种基于能源网络拓扑关系的能源数据清洗方法及系统,所述方法包括:将能源网络的各个分支节点开关安装对应的开关状态跟踪器形成初始开关分支拓扑图;根据各个开关状态跟踪器实时采集的分支节点开关状态得到开关分支实时拓扑图上传至能源监控系统,由其生成能源网络实时拓扑关系图;响应于分支节点开关状态变动,由开关状态跟踪器更新开关分支实时拓扑图上传至能源监控系统更新能源网络实时拓扑关系图;将定时获取的开关分支实时拓扑图与能源网络实时拓扑关系图进行比对,并根据得到的拓扑关系比对结果对相应的能源数据进行清洗,得到有效能源数据。本发明能够及时有效的从能源网络结构上监测并纠正异常数据,提高数据的准确性。
Description
技术领域
本发明涉及能源监测技术领域,特别是涉及一种基于能源网络拓扑关系的能源数据清洗方法及系统。
背景技术
随着近年来智能设备在能源领域的大规模投入,能源网络日趋复杂,能源监控系统中产生的运行数据成指数型增长,且能源网络拓扑关系数据的准确性决定了能源数据的挖掘价值。如何对能源数据进行有效清洗,进而提高能源数据质量已经成为能源数据挖掘领域热衷研究的一项关键技术。
目前,能源数据清洗方法主要有:利用模糊规则满意度分类器对异常数据进行检验修复、利用分布式大数据平台进行聚类分析、人工现场校验和能源监测仪表数据库等。尽管现有能源数据清洗方法可在一定程度上提高能源数据质量,但仍存在着对应的应用缺陷,并不能真正及时有效地纠正能源网络拓扑异常数据:
(1)人工现场校验:工作量极大、效率低下,无法及时地发现数据异常,也容易忽略较小、不明显的异常数据,可靠性差。
(2)分布式大数据平台聚类分析法:主要用于分布式能源领域的数据清洗,适用范围较窄。
(3)模糊规则满意度分类器检验修复法和能源监测仪表数据库法:这两种方法均从数据离散度和缺失度等方面进行数据清理,对于能源网络拓扑方面数据未做处理。
因此,亟需提供一种简单、高效且通用的能源数据清洗方法,能及时有效的监测并纠正异常能源数据,提高能源数据的准确性。
发明内容
本发明的目的是提供一种基于能源网络拓扑关系的能源数据清洗方法,通过从能源网络结构上监测并纠正异常能源数据,解决现有能源清洗方法应用缺陷,能够及时有效的对能源网络拓扑异常数据进行监测和纠正,提高能源数据的准确性,进而提升能源数据的应用价值。
为了实现上述目的,有必要针对上述技术问题,提供了一种基于能源网络拓扑关系的能源数据清洗方法及系统。
第一方面,本发明实施例提供了一种基于能源网络拓扑关系的能源数据清洗方法,所述方法包括以下步骤:
将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;
根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;
将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;
响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;
定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;
根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据。
进一步地,所述根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述拓扑关系比对结果是为关系一致,则判定当前能源数据为有效能源数据,无需清洗;
若所述拓扑关系比对结果是为关系不一致,则判定当前能源数据存在异常数据,并获取异常数据对应的开关分支和对侧开关的监测数据与所述能源监控系统的后台数据库进行比对,以及根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据;所述监测数据包括时间、电压、电流、压力和流量。
进一步地,所述根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述数据比对结果为不一致,则获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果;所述监测量包括电流和流量;
根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据。
进一步地,所述获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果的步骤包括:
若所述上游支路总开关监测量等于对应的所有下游支路开关监测量之和,则判定所述监测量比对结果为比对一致,反之,则判定所述监测量比对结果为比对不一致。
进一步地,所述根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述监测量比对结果为比对一致,则根据所述开关状态跟踪器的监测数据更新所述能源监控系统的后台数据库,反之,则判定存在缺失数据,并根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据。
进一步地,所述根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据,得到所述有效能源数据的步骤包括:
获取切换为当前能源网络实时拓扑关系图后的所述上游支路总开关和对应所有下游支路开关的历史监测量集,并根据所述历史监测量集和所述异常时刻监测量,得到监测量相似度集;所述历史监测量集包括多个采样时刻的历史监测量;
根据所述监测量相似度集中最大监测量相似度对应的历史监测量,得到所述异常时刻监测量的缺失数据比值;
根据所述异常时刻监测量,得到所述异常时刻监测量的缺失值总量;
根据所述缺失值总量和所述缺失数据比值,得到各个缺失值,并根据所述缺失值对所述异常时刻监测量进行填充,得到所述有效能源数据。
进一步地,所述根据所述历史监测量集和所述异常时刻监测量,得到数据相似度集的步骤包括:
计算各个历史监测量与所述异常时刻监测量的属性相似度;所述属性相似度包括上游支路总开关监测量相似度和对应所有下游支路开关监测量相似度;所述属性相似度表示为:
式中,
di(xi,xi')=|xi-xi'|
dmax=max{di(xi,xi'),i=1,2,...,n}
其中,xi和xi'分别表示异常时刻监测量x和历史监测量x'的第i个属性值;di(xi,xi')表示xi和xi'的属性偏差绝对值;dmax表示异常时刻监测量x和历史监测量x'的最大属性偏差绝对值;Si(xi,xi')表示异常时刻监测量x和历史监测量x'的第i个属性值的属性相似度;n表示异常时刻监测量x和历史监测量x'的属性总数;
根据各个属性相似度和对应的缺失标记,得到对应的监测量相似度;所述监测量相似度表示为:
其中,Sim(x,x')表示异常时刻监测量x和历史监测量x'的监测量相似度;εi表示异常时刻监测量中第i个属性的缺失标记。
第二方面,本发明实施例提供了一种基于能源网络拓扑关系的能源数据清洗系统,所述系统包括:
初始拓扑构建模块,用于将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;
实时拓扑构建模块,用于根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;
网络拓扑构建模块,用于将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;
拓扑关系更新模块,用于响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;
拓扑关系比对模块,用于定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;
能源数据清洗模块,用于根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据。
第三方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述方法的步骤。
第四方面,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述方法的步骤。
上述本申请提供了一种基于能源网络拓扑关系的能源数据清洗方法及系统,通过所述方法,实现了将能源网络的各个分支节点开关安装对应的开关状态跟踪器形成初始开关分支拓扑图,并根据各个开关状态跟踪器实时采集的分支节点开关状态得到开关分支实时拓扑图上传至能源监控系统,由其生成能源网络实时拓扑关系图后,响应于分支节点开关状态的变动,由开关状态跟踪器更新开关分支实时拓扑图上传至能源监控系统更新能源网络实时拓扑关系图,并定时获取开关分支实时拓扑图与能源网络实时拓扑关系图进行比对得到拓扑关系比对结果,以及根据拓扑关系比对结果对相应的能源数据进行清洗,得到有效能源数据的技术方案。与现有技术相比,该基于能源网络拓扑关系的能源数据清洗方法,解决现有能源数据清洗方法的应用缺陷,不仅简单、高效和通用,而且能够及时有效的从能源网络结构上监测数据异常,并自动纠正异常数据,实现从最基础的能源网络拓扑关系数据进行清洗,为能源数据的准确性提供保证,进而提升能源数据的应用价值。
附图说明
图1是本发明实施例中基于能源网络拓扑关系的能源数据清洗方法的应用场景示意图;
图2是本发明实施例中基于能源网络拓扑关系的能源数据清洗的架构示意图;
图3是本发明实施例中基于能源网络拓扑关系的能源数据清洗方法的流程示意图;
图4是本发明实施例中能源网络拓扑关系的示意图;
图5是本发明实施例中根据数据相似度匹配对异常时刻监测量进行缺失填充处理的流程示意图;
图6是本发明实施例中基于能源网络拓扑关系的能源数据清洗系统的结构示意图;
图7是本发明实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案和有益效果更加清楚明白,下面结合附图及实施例,对本发明作进一步详细说明,显然,以下所描述的实施例是本发明实施例的一部分,仅用于说明本发明,但不用来限制本发明的范围。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明考虑到现有能源网络变动频繁,存在着大量网络拓扑异常数据不能得到有效监测,且采用现有数据清洗方法不能对异常数据进行及时有效纠正的情况,提出了一种从能源网络结构上监测并纠正异常能源数据的能源数据清洗方法。该方法可应用于图1所示的终端和服务器上。其中,终端可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。服务器可按照图2所示的架构采用本申请提供的基于能量流形成的能量网络拓扑关系自动生成技术和分支节点开关拓扑状态自动跟踪技术实现的能源数据异常监测和异常纠正方法对能源数据进行实时清洗,并将得到的有效能源数据用于服务器后续的研究使用或发送至终端,以供终端的使用者查看分析。下述实施例将对本发明的基于能源网络拓扑关系的能源数据清洗方法进行详细说明。
在一个实施例中,如图3所示,提供了一种基于能源网络拓扑关系的能源数据清洗方法,包括以下步骤:
S11、将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;其中,开关状态跟踪器主要能够实现本申请所需功能的即可,此处不作具体限制;
S12、根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;其中,开关分支实时拓扑图可理解为根据开关状态跟踪器实时采集的分支节点开关状态更新对应的初始开关分支拓扑图,得到与开关状态跟踪器对应的实时拓扑图;
S13、将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;其中能源网络实时拓扑关系图如图4所示,是根据各个开关状态跟踪器的第一身份识别IP与各个开关分支实时拓扑图的第二身份识别IP进行能源通路匹配后,组合得到的整个能源网络的实时拓扑关系图,且原则上会随着各个分支节点开关状态的实时变动而实时更新调整。
S14、响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;其中,开关状态跟踪器更新对应的开关分支实时拓扑图的过程可理解为当能源网络上某个分支节点的开关状态变动时,由安装在该开关阀上的开关状态跟踪器监测到变动后,实时切换到对应的分支拓扑关系上,并得到更新后的开关分支实时拓扑图;同时,能源监控系统也会根据开关传统跟踪器上报的更新后的开关分支实时拓扑图,对后台数据库汇中现存的能源网络实时拓扑关系图进行实时更新记录。
需要说明的是,能源监控系统后台数据库中存储的能源数据都是通过上述方法步骤给出的开关状态跟踪器上报数据模式获取的,原则上,能源监控系统后台数据库存储的能源数据应该是准确无误的,但在能源监控系统的实际运行过程中,极易出现通信不畅、数据量过大或后台服务器性能跟不上等因素,而导致部分能源数据存储丢失的情况。为了保证能源数据的准确性,就需要对能源数据异常进行实时监测和纠正,本实施例优选地采用下述方法步骤基于能源网络拓扑关系对能源数据进行及时有效的监测和清洗。
S15、定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;其中,拓扑关系比对结果的获取过程可理解为由能源监控系统按照预设监测周期定时调取能源网络中各分支节点开关的开关状态跟踪器存储的开关分支实时拓扑图与能源监控系统的后台数据库当前存储的数据进行一一比对分析,得出是否存在数据不一致的判断结果。
S16、根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据;其中,有效能源数据的获取过程可理解为通过对拓扑关系比对结果中存在不一致的能源数据异常按照先获取异常数据对应的开关分支和对侧开关的包括时间、电压、电流、压力和流量的监测数据进行分析,以及获取异常时刻的上游支路总开关和对应所有下游支路开关的包括电流和流量的异常时刻监测量进行比对分析,并根据不同的分析结果有针对性的对能源数据进行清洗的过程。
具体的,所述根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述拓扑关系比对结果是为关系一致,则判定当前能源数据为有效能源数据,无需清洗;
若所述拓扑关系比对结果是为关系不一致,则判定当前能源数据存在异常数据,并获取异常数据对应的开关分支和对侧开关的监测数据与所述能源监控系统的后台数据库进行比对,以及根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据;其中,数据比对结果的获取过程可理解为对上述拓扑关系比对存在不一致的异常数据,进一步将关联分支的时间、电压、电流、压力和流量等监测数据与后台数据库中存储的相应数据进行比对分析的过程;需要说明的是,此处比对是需要将时间、电压、电流、压力和流量均进行一一比对,对应的数据比对结果同样分为一致和不一致(部分不一致,或全部不一致)两种情况,再根据数据比对结果的不同进行分类处理,具体的,所述根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述数据比对结果为不一致,则获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果;所述监测量包括电流和流量;其中,监测量比对结果的获取过程可理解为判断上游支路总开关的流量是否等于对应所有下游支路开关的流量之和,以及判断上游支路总开关的电流是否等于对应所有下游支路开关的电流之和,得到分析结果的过程;具体的,所述获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果的步骤包括:
若所述上游支路总开关监测量等于对应的所有下游支路开关监测量之和,则判定所述监测量比对结果为比对一致,反之,则判定所述监测量比对结果为比对不一致;
如图3所示,上游支路总开关H在T时刻采集到的监测量(电流或流量)记为I,与之对应的下游支路开关H1、H2和H3在T时刻采集到的监测量(电流或流量)记为I1、I2和I3;若满足公式(1),则判定为能源监控系统的后台数据库中的能源数据异常,应该以对应开关状态跟踪器监测的能源数据信息对后台数据库中相关数据进行覆盖更新。若不满足以下公式,判定存在数据缺失异常,需要进一步对缺失数据进行处理,以保证数据准确可用。
I=I1+I2+I3 (1)
根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据;其中,监测量比对结果同样分为一致和不一致(部分不一致,或全部不一致)两种情况,再根据监测量比对结果的不同进行分类处理;具体的,所述根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述监测量比对结果为比对一致,则根据所述开关状态跟踪器的监测数据更新所述能源监控系统的后台数据库,反之,则判定存在缺失数据,并根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据;
其中,异常时刻监测量如上所述可理解为一个包括上游支路总开关和对应所有下游支路开关的监测量的数据集合,且各个开关对应的监测量可看作该数据集合的属性;对应的,数据相似度匹配过程可理解为先计算异常时刻监测量与同样能源网络实时拓扑关系图下的上游支路总开关和对应所有下游支路开关的所有历史监测量的各个属性的相似度,再计算整个监测量相似度,并根据最大监测量相似度确定异常时刻监测量中缺失数据并进行填充;具体的,如图5所示,所述根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据,得到所述有效能源数据的步骤包括:
获取切换为当前能源网络实时拓扑关系图后的所述上游支路总开关和对应所有下游支路开关的历史监测量集,并根据所述历史监测量集和所述异常时刻监测量,得到监测量相似度集;所述历史监测量集可理解为按照预设步长提取的多组监测量数据,包括多个采样时刻的历史监测量;其中,所述根据所述历史监测量集和所述异常时刻监测量,得到数据相似度集的步骤包括:
计算各个历史监测量与所述异常时刻监测量的属性相似度;所述属性相似度包括上游支路总开关监测量相似度和对应所有下游支路开关监测量相似度;所述属性相似度表示为:
式中,
di(xi,xi')=|xi-xi'|
dmax=max{di(xi,xi'),i=1,2,...,n}
其中,xi和xi'分别表示异常时刻监测量x和历史监测量x'的第i个属性值;di(xi,xi')表示xi和xi'的属性偏差绝对值;dmax表示异常时刻监测量x和历史监测量x'的最大属性偏差绝对值;Si(xi,xi')表示异常时刻监测量x和历史监测量x'的第i个属性值的属性相似度;n表示异常时刻监测量x和历史监测量x'的属性总数;
根据各个属性相似度和对应的缺失标记,得到对应的监测量相似度;所述监测量相似度表示为:
其中,Sim(x,x')表示异常时刻监测量x和历史监测量x'的监测量相似度;εi表示异常时刻监测量中第i个属性的缺失标记,如果εi等于1,说明第i个属性值完整,如果εi等于0,说明第i个属性值不存在;
根据所述监测量相似度集中最大监测量相似度对应的历史监测量,得到所述异常时刻监测量的缺失数据比值;
根据所述异常时刻监测量,得到所述异常时刻监测量的缺失值总量;
根据所述缺失值总量和所述缺失数据比值,得到各个缺失值,并根据所述缺失值对所述异常时刻监测量进行填充,得到所述有效能源数据;
具体对异常时刻监测量进行填充的过程,以图4所示的能源网络拓扑结构为例进行说明:假设异常时刻监测量中I1和I3缺失,且最大监测量相似度对应的历史监测量为{I',I1',I'2,I3'},则就可以计算I1'与I'3的比值,记为α1:α3,则将得到的该比值作为异常时刻监测量的缺失数据比值;同时,可根据异常时刻监测量得到缺失值总量:I缺=I-I2;那么,根据确定的缺失值总量和缺失数据比例,就可以按照下述公式(2)得到所需的缺失值:
根据式(2)可得到缺失值I1和I3的最接近值,并可以此来对异常时刻监测量进行缺失数据填充;需要说明的是,上述给出的缺失值计算过程仅是一个示例性描述,在实际应用中,可能存在一个上游总开关对应更多个分支开关情形的处理,只需要根据实际情况参照上述步骤得到对应的缺失值总量和缺失数据比例,再参照式(2)的缺失总量分配方法进行计算,即可得到对应的缺失值。
本申请实施例将能源网络的各个分支节点开关安装对应的开关状态跟踪器形成初始开关分支拓扑图,并根据各个开关状态跟踪器实时采集的分支节点开关状态得到开关分支实时拓扑图上传至能源监控系统,由其生成能源网络实时拓扑关系图后,响应于分支节点开关状态的变动,由开关状态跟踪器更新开关分支实时拓扑图上传至能源监控系统更新能源网络实时拓扑关系图,并定时获取开关分支实时拓扑图与能源网络实时拓扑关系图进行比对得到拓扑关系比对结果,以及根据拓扑关系比对结果对相应的能源数据进行分类清洗处理,得到有效能源数据的方法,不仅简单、高效和通用,而且能够及时有效的从能源网络结构上监测数据异常,并自动纠正异常数据,实现从最基础的能源网络拓扑关系数据进行清洗,为能源数据的准确性提供保证,进而提升能源数据的应用价值。
在一个实施例中,如图6所示,提供了一种基于能源网络拓扑关系的能源数据清洗系统,所述系统包括:
初始拓扑构建模块1,用于将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;
实时拓扑构建模块2,用于根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;
网络拓扑构建模块3,用于将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;
拓扑关系更新模块4,用于响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;
拓扑关系比对模块5,用于定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;
能源数据清洗模块6,用于根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据。
关于一种基于能源网络拓扑关系的能源数据清洗系统的具体限定可以参见上文中对于一种基于能源网络拓扑关系的能源数据清洗方法的限定,在此不再赘述。上述一种基于能源网络拓扑关系的能源数据清洗系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
图7示出一个实施例中计算机设备的内部结构图,该计算机设备具体可以是终端或服务器。如图7所示,该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示器和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于能源网络拓扑关系的能源数据清洗方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域普通技术人员可以理解,图7中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述方法的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述方法的步骤。
综上,本发明实施例提供的一种基于能源网络拓扑关系的能源数据清洗方法及系统,其基于能源网络拓扑关系的能源数据清洗方法实现了将能源网络的各个分支节点开关安装对应的开关状态跟踪器形成初始开关分支拓扑图,并根据各个开关状态跟踪器实时采集的分支节点开关状态得到开关分支实时拓扑图上传至能源监控系统,由其生成能源网络实时拓扑关系图后,响应于分支节点开关状态的变动,由开关状态跟踪器更新开关分支实时拓扑图上传至能源监控系统更新能源网络实时拓扑关系图,并定时获取开关分支实时拓扑图与能源网络实时拓扑关系图进行比对得到拓扑关系比对结果,以及根据拓扑关系比对结果对相应的能源数据进行分类清洗处理,得到有效能源数据的技术方案,该方法不仅具有通用性,而且能简单、高效、及时有效的从能源网络结构上监测数据异常,还能自动纠正异常数据,实现从最基础的能源网络拓扑关系数据进行清洗,为能源数据的准确性提供保证,进而提升能源数据的应用价值。
本说明书中的各个实施例均采用递进的方式描述,各个实施例直接相同或相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。需要说明的是,上述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种优选实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和替换,这些改进和替换也应视为本申请的保护范围。因此,本申请专利的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述方法包括以下步骤:
将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;
根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;
将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;
响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;
定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;
根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据。
2.如权利要求1所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述拓扑关系比对结果是为关系一致,则判定当前能源数据为有效能源数据,无需清洗;
若所述拓扑关系比对结果是为关系不一致,则判定当前能源数据存在异常数据,并获取异常数据对应的开关分支和对侧开关的监测数据与所述能源监控系统的后台数据库进行比对,以及根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据;所述监测数据包括时间、电压、电流、压力和流量。
3.如权利要求2所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述根据对应的数据比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述数据比对结果为不一致,则获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果;所述监测量包括电流和流量;
根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据。
4.如权利要求3所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述获取异常时刻的上游支路总开关和对应所有下游支路开关的异常时刻监测量进行比对,得到监测量比对结果的步骤包括:
若所述上游支路总开关监测量等于对应的所有下游支路开关监测量之和,则判定所述监测量比对结果为比对一致,反之,则判定所述监测量比对结果为比对不一致。
5.如权利要求3所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述根据所述监测量比对结果,对相应的能源数据进行清洗,得到有效能源数据的步骤包括:
若所述监测量比对结果为比对一致,则根据所述开关状态跟踪器的监测数据更新所述能源监控系统的后台数据库,反之,则判定存在缺失数据,并根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据。
6.如权利要求5所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述根据数据相似度匹配对所述异常时刻监测量进行缺失填充处理,得到所述有效能源数据,得到所述有效能源数据的步骤包括:
获取切换为当前能源网络实时拓扑关系图后的所述上游支路总开关和对应所有下游支路开关的历史监测量集,并根据所述历史监测量集和所述异常时刻监测量,得到监测量相似度集;所述历史监测量集包括多个采样时刻的历史监测量;
根据所述监测量相似度集中最大监测量相似度对应的历史监测量,得到所述异常时刻监测量的缺失数据比值;
根据所述异常时刻监测量,得到所述异常时刻监测量的缺失值总量;
根据所述缺失值总量和所述缺失数据比值,得到各个缺失值,并根据所述缺失值对所述异常时刻监测量进行填充,得到所述有效能源数据。
7.如权利要求6所述的基于能源网络拓扑关系的能源数据清洗方法,其特征在于,所述根据所述历史监测量集和所述异常时刻监测量,得到数据相似度集的步骤包括:
计算各个历史监测量与所述异常时刻监测量的属性相似度;所述属性相似度包括上游支路总开关监测量相似度和对应所有下游支路开关监测量相似度;所述属性相似度表示为:
式中,
di(xi,xi′)=|xi-xi′|
dmax=max{di(xi,xi′),i=1,2,...,n}
其中,xi和xi'分别表示异常时刻监测量x和历史监测量x'的第i个属性值;di(xi,xi')表示xi和xi'的属性偏差绝对值;dmax表示异常时刻监测量x和历史监测量x'的最大属性偏差绝对值;Si(xi,x'i)表示异常时刻监测量x和历史监测量x'的第i个属性值的属性相似度;n表示异常时刻监测量x和历史监测量x'的属性总数;
根据各个属性相似度和对应的缺失标记,得到对应的监测量相似度;所述监测量相似度表示为:
其中,Sim(x,x')表示异常时刻监测量x和历史监测量x'的监测量相似度;εi表示异常时刻监测量中第i个属性的缺失标记。
8.一种基于能源网络拓扑关系的能源数据清洗系统,其特征在于,所述系统包括:
初始拓扑构建模块,用于将能源网络的各个分支节点开关安装对应的开关状态跟踪器,生成对应的初始开关分支拓扑图;
实时拓扑构建模块,用于根据各个开关状态跟踪器实时采集的分支节点开关状态和对应的初始开关分支拓扑图,得到开关分支实时拓扑图;
网络拓扑构建模块,用于将所述开关分支实时拓扑图上传至能源监控系统,并由所述能源监控系统根据各个开关状态跟踪器和对应的开关分支实时拓扑图,得到能源网络实时拓扑关系图;
拓扑关系更新模块,用于响应于所述分支节点开关状态的变动,由所述开关状态跟踪器更新对应的开关分支实时拓扑图,并将更新后的开关分支实时拓扑图上传至所述能源监控系统,以使所述能源监控系统更新所述能源网络实时拓扑关系图;
拓扑关系比对模块,用于定时获取各个开关状态跟踪器的所述开关分支实时拓扑图,并将所述开关分支实时拓扑图与所述能源网络实时拓扑关系图进行比对,得到拓扑关系比对结果;
能源数据清洗模块,用于根据所述拓扑关系比对结果,对相应的能源数据进行清洗,得到有效能源数据。
9.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310037977.XA CN115994136B (zh) | 2023-01-10 | 2023-01-10 | 一种基于能源网络拓扑关系的能源数据清洗方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310037977.XA CN115994136B (zh) | 2023-01-10 | 2023-01-10 | 一种基于能源网络拓扑关系的能源数据清洗方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115994136A true CN115994136A (zh) | 2023-04-21 |
CN115994136B CN115994136B (zh) | 2023-09-05 |
Family
ID=85991728
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310037977.XA Active CN115994136B (zh) | 2023-01-10 | 2023-01-10 | 一种基于能源网络拓扑关系的能源数据清洗方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115994136B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110289119A1 (en) * | 2010-05-20 | 2011-11-24 | Sybase, Inc. | Methods and systems for monitoring server cloud topology and resources |
US20150295774A1 (en) * | 2014-04-15 | 2015-10-15 | Centurylink Intellectual Property Llc | Topology Engine State Tracking |
US20180068554A1 (en) * | 2016-09-06 | 2018-03-08 | Honeywell International Inc. | Systems and methods for generating a graphical representation of a fire system network and identifying network information for predicting network faults |
CN111190955A (zh) * | 2019-12-12 | 2020-05-22 | 西安交通大学 | 一种基于知识图谱的营配调贯通核查方法 |
CN112688310A (zh) * | 2020-12-14 | 2021-04-20 | 国网河北省电力有限公司电力科学研究院 | 一种应用于配电网的线损分析方法及装置 |
CN113014418A (zh) * | 2021-01-29 | 2021-06-22 | 深圳市风云实业有限公司 | 一种基于网络历史拓扑流量的故障诊断方法 |
US20210234922A1 (en) * | 2017-12-29 | 2021-07-29 | Electric Power Science & Research Institute Of State Grid Tianjin Electric Power Company | Method and device for identifying distribution network topology error |
CN113507389A (zh) * | 2021-07-08 | 2021-10-15 | 华北电力大学 | 一种电网关键节点识别方法及系统 |
CN113904921A (zh) * | 2021-10-21 | 2022-01-07 | 上海观安信息技术股份有限公司 | 基于日志和图的动态网络拓扑图生成方法、系统、处理设备、存储介质 |
-
2023
- 2023-01-10 CN CN202310037977.XA patent/CN115994136B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110289119A1 (en) * | 2010-05-20 | 2011-11-24 | Sybase, Inc. | Methods and systems for monitoring server cloud topology and resources |
US20150295774A1 (en) * | 2014-04-15 | 2015-10-15 | Centurylink Intellectual Property Llc | Topology Engine State Tracking |
US20180068554A1 (en) * | 2016-09-06 | 2018-03-08 | Honeywell International Inc. | Systems and methods for generating a graphical representation of a fire system network and identifying network information for predicting network faults |
US20210234922A1 (en) * | 2017-12-29 | 2021-07-29 | Electric Power Science & Research Institute Of State Grid Tianjin Electric Power Company | Method and device for identifying distribution network topology error |
CN111190955A (zh) * | 2019-12-12 | 2020-05-22 | 西安交通大学 | 一种基于知识图谱的营配调贯通核查方法 |
CN112688310A (zh) * | 2020-12-14 | 2021-04-20 | 国网河北省电力有限公司电力科学研究院 | 一种应用于配电网的线损分析方法及装置 |
CN113014418A (zh) * | 2021-01-29 | 2021-06-22 | 深圳市风云实业有限公司 | 一种基于网络历史拓扑流量的故障诊断方法 |
CN113507389A (zh) * | 2021-07-08 | 2021-10-15 | 华北电力大学 | 一种电网关键节点识别方法及系统 |
CN113904921A (zh) * | 2021-10-21 | 2022-01-07 | 上海观安信息技术股份有限公司 | 基于日志和图的动态网络拓扑图生成方法、系统、处理设备、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115994136B (zh) | 2023-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110321371B (zh) | 日志数据异常检测方法、装置、终端及介质 | |
US10769007B2 (en) | Computing node failure and health prediction for cloud-based data center | |
CN110309009B (zh) | 基于情境的运维故障根因定位方法、装置、设备及介质 | |
CN107766299B (zh) | 数据指标异常的监控方法及其系统、存储介质、电子设备 | |
CN112150311B (zh) | 能耗异常状态检测方法、装置、计算机设备和存储介质 | |
US20190079965A1 (en) | Apparatus and method for real time analysis, predicting and reporting of anomalous database transaction log activity | |
CN111459700A (zh) | 设备故障的诊断方法、诊断装置、诊断设备及存储介质 | |
EP3364157A1 (en) | Method and system of outlier detection in energy metering data | |
CN112528519A (zh) | 发动机质量预警服务的方法、系统、可读介质和电子设备 | |
CN112346893B (zh) | 故障预测方法、装置、终端及存储介质 | |
US9860109B2 (en) | Automatic alert generation | |
CN111666187B (zh) | 用于检测异常响应时间的方法和装置 | |
CN118034990B (zh) | 一种基于机器学习的集中器校验方法及系统 | |
JP2021184139A (ja) | 管理計算機、管理プログラム、及び管理方法 | |
CN117235664A (zh) | 配电通信设备的故障诊断方法、系统和计算机设备 | |
CN113487086B (zh) | 设备剩余使用寿命预测方法、装置、计算机设备和介质 | |
CN116661394A (zh) | 一种基于数字孪生的计算机数据监测系统及方法 | |
CN115994136B (zh) | 一种基于能源网络拓扑关系的能源数据清洗方法及系统 | |
CN114266352B (zh) | 模型训练结果优化方法、装置、存储介质及设备 | |
CN110689137A (zh) | 参数确定方法、系统、介质和电子设备 | |
CN113887676B (zh) | 设备故障预警方法、装置、设备和存储介质 | |
CN115964943A (zh) | 离线设备剩余寿命预测方法、装置和计算机设备 | |
CN111625525A (zh) | 一种环境数据修复/填充方法及系统 | |
Yassaie et al. | A recommender system for human operators in industrial automation | |
CN112560325A (zh) | 换电业务的预测方法、系统、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |