CN114461618A - 一种计量缺失数据补全方法、装置及终端设备 - Google Patents
一种计量缺失数据补全方法、装置及终端设备 Download PDFInfo
- Publication number
- CN114461618A CN114461618A CN202111677528.9A CN202111677528A CN114461618A CN 114461618 A CN114461618 A CN 114461618A CN 202111677528 A CN202111677528 A CN 202111677528A CN 114461618 A CN114461618 A CN 114461618A
- Authority
- CN
- China
- Prior art keywords
- vector
- missing data
- data
- completion
- row
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 239000013598 vector Substances 0.000 claims abstract description 182
- 239000011159 matrix material Substances 0.000 claims abstract description 67
- 238000010219 correlation analysis Methods 0.000 claims abstract description 10
- 238000004590 computer program Methods 0.000 claims description 20
- 238000012937 correction Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000010276 construction Methods 0.000 claims description 9
- 230000001502 supplementing effect Effects 0.000 claims description 9
- 238000005259 measurement Methods 0.000 claims description 8
- 238000012544 monitoring process Methods 0.000 abstract description 3
- 238000004458 analytical method Methods 0.000 abstract description 2
- 230000000295 complement effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000010606 normalization Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 238000010220 Pearson correlation analysis Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computational Mathematics (AREA)
- Algebra (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Arrangements For Transmission Of Measured Signals (AREA)
Abstract
本发明适用于电网监测技术领域,提供了一种计量缺失数据补全方法,该方法包括:获取目标数据集,目标数据集包含多个长度相同的待补全向量;对待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量构建补全目标矩阵;基于补全目标矩阵构建二维滑移向量,二维滑移向量包括预设长度的行向量和长度为补全目标矩阵行数的列向量;将列向量置于补全目标矩阵中第一缺失数据所在列,基于列向量中的元素补全第一缺失数据;基于列向量移动行向量,基于行向量修正第一缺失数据。本发明提供的计量缺失数据补全方法能够便捷高效地补全缺失的数据,提升计量数据的完整性,为计量数据后续的分析与应用提供保障。
Description
技术领域
本发明属于电网监测技术领域,尤其涉及一种计量缺失数据补全方法、装置及终端设备。
背景技术
随着能源互联网的不断建设和发展,各类计量设施不断产生大量的计量数据。这些计量数据对能源互联网的状态估计、设备评估、系统运行优化具有重要意义,蕴含着巨大价值。在能源互联网信息采集与监控的各个环节中,计量设施、采集装置等设备由于受到干扰或发生故障,时常出现计量数据缺失的异常问题。在满足状态估计可观测性的前提下,少量的数据缺失不会明显影响数据分析的精度,但当缺失数据较多时,就会对相关数据的实际应用效果产生影响。
传统的计量缺失数据补全方法包括伪计量方式,对异常数据进行剔除,通过计算相邻数据点的均值、中位数、众数等进行填补。该方式虽然能够提升计量数据的完整性,但会降低数据准确度。若缺失数据较多,伪计量方式则会失效。其他的传统方式,例如均值填充、回归填充、热冷卡填补、最近距离填充算法等方式仅通过数学计算的方式进行缺失数据的补全,无法结合能源互联网计量数据的时序特性和相关性特点,补全效果不佳。
发明内容
有鉴于此,本发明实施例提供了一种计量缺失数据补全方法、装置及终端设备,能够提升补全后计量数据的质量。
本发明实施例的第一方面提供了一种计量缺失数据补全方法,包括:
获取目标数据集,所述目标数据集包含至少2个长度相同的待补全向量;
对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建至少一个补全目标矩阵;
基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量;
将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据;
基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
本发明实施例的第二方面提供了一种计量缺失数据补全装置,包括:
数据获取模块,用于获取目标数据集,所述目标数据集包含至少2个长度相同的待补全向量;
补全目标矩阵构建模块,用于对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建至少一个补全目标矩阵;
二维滑移向量构建模块,用于基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量;
缺失数据补全模块,用于将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据;
缺失数据修正模块,用于基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
本发明实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述方法的步骤。
本发明实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上所述方法的步骤。
本发明实施例的第五方面提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得电子设备执行上述第一方面中任一项所述方法的步骤。
本发明实施例与现有技术相比存在的有益效果是:本发明实施例提供了一种计量缺失数据补全方法,包括获取目标数据集,目标数据集包含多个长度相同的待补全向量;对待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量构建补全目标矩阵;基于补全目标矩阵构建二维滑移向量,二维滑移向量包括预设长度的行向量和长度为补全目标矩阵行数的列向量;将列向量置于补全目标矩阵中第一缺失数据所在列,基于列向量中的元素补全第一缺失数据;基于列向量移动行向量,基于行向量修正第一缺失数据。本发明实施例提供的计量缺失数据补全方法,能够有效补全能源互联网计量数据中的缺失部分,提升数据完整性,从而提升数据质量。且本发明实施例提供的方法使用强相关数据序列和本序列内部缺失数据相邻点的特征来恢复缺失数据,步骤简单、便于实现、运算量小、计算速度快。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的计量缺失数据补全方法的实现流程示意图;
图2是本发明实施例提供的计量缺失数据补全方法的向量滑移过程示意图;
图3是本发明实施例提供的计量缺失数据补全方法的又一实现流程示意图;
图4是本发明实施例提供的计量缺失数据补全方法的应用效果示意图;
图5是本发明实施例提供的计量缺失数据补全方法应用的系统结构示意图;
图6是本发明实施例提供的计量缺失数据补全装置的结构示意图;
图7是本发明实施例提供的终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案,下面通过具体实施例来进行说明。
图1示出了本发明实施例提供的计量缺失数据补全方法的实现流程示意图。
参见图1,本发明实施例提供的计量缺失数据补全方法可以包括步骤S101至S105。
S101:获取目标数据集,所述目标数据集包含至少两个长度相同的待补全向量。
在一个具体的示例中,目标数据集包括k个待补全向量X1~Xk,每个待补全向量的长度为n。
在一些实施例中,S101之前,本方法还可以包括:获取计量数据,基于第一预设分类规则对所述计量数据进行分类,得到至少一个目标数据集。
在一些实施例中,第一预设分类规则可以包括按照数据来源、数据类型、数据长度进行分类。
具体的,分类结果可以表示为:X=(X1,X2,…)。其中,X为计量数据,X1、X2为目标数据集。
S102:对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建补全目标矩阵。
在一些实施例中,S102之前,本方法还可以包括:对所述待补全向量内的元素进行归一化处理。
在一些实施例中,归一化处理包括基于归一化公式将待补全向量内的元素进行归一化处理。
可选的,归一化公式包括:
其中,xi为归一化后的元素,x′i为归一化前的元素,xmin为各元素中的最小值,xmax为各元素中的最大值。
在一些实施例中,S102包括:
S201:基于皮尔逊相关系数计算公式,计算所述待补全向量的皮尔逊相关系数。
所述皮尔逊相关系数计算公式包括:
其中,ppq为待补全向量Xp和待补全向量Xq之间的皮尔逊相关系数,n为待补全向量的长度,xpi为待补全向量Xp的第i个元素,xqi为待补全向量Xq的第i个元素,为待补全向量Xp的均值,为待补全向量Xq的均值。
在一些实施例中,基于各个待补全向量之间的皮尔逊相关系数,建立皮尔逊相关系数矩阵。
具体的,皮尔逊相关系数矩阵包括:
其中,pij为向量Xi和向量Xj之间的皮尔逊相关系数。
在一些实施例中,若pij大于0.8,则判定向量Xi和向量Xj强相关。
S202:计算第一待补全向量与其他各个待补全向量的皮尔逊相关系数之和。
S203:若所述第一待补全向量的皮尔逊相关系数之和小于预设相关系数阈值,则判定所述第一待补全向量不满足预设相关性条件,剔除所述第一待补全向量。
S204:将每个满足预设相关性条件的待补全向量作为补全目标矩阵的一行,构建补全目标矩阵。
在一些实施例中,若满足预设相关性条件的待补全向量的个数为m个,则补全目标矩阵表达式包括:
其中,[X11 X12…X1n]、[X21 X22…X2n]、[Xm1 Xm2…Xmn]为待补全向量。
S103:基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量。
在一个具体的示例中,对补全目标矩阵Xd,若元素xij缺失,则构造行向量Zi和列向量Zj,两向量重合的元素即为缺失元素xij,两向量构成二维滑移向量Z。
在一些实施例中,对于滑移行向量Zi,在补全目标矩阵内全范围滑移。
在一些实施例中,对于滑移列向量Zj,在缺失数据所在列范围内滑移。
S104:将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据。
在一些实施例中,S104包括:计算所述列向量中未缺失数据的平均值,将所述平均值作为所述第一缺失数据的初始值。
S105:基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
在一些实施例中,S105可以包括:
S301:令所述行向量中第二个元素位于所述列向量位置,上下移动所述行向量直至所述行向量遍历所述补全目标矩阵的每一行。
S302:在每一行中,分别计算所述行向量中的第二个元素和第一个元素之间的第一差值,以及第三个元素和第二个元素之间的第二差值。
具体的,若行向量的第一个元素、第二个元素及第三元素中存在缺失,则不计入该位置的行向量数据。
S303:分别计算所述第一差值的第一平均值和所述第二差值的第二平均值。
S304:令所述行向量中的第二个元素位于所述第一缺失数据处,基于此时所述行向量的第一个元素、所述行向量的第二个元素、所述初始值、所述第一平均值和所述第二平均值,计算所述第一缺失数据的修正值。
S305:基于所述修正值,对所述初始值进行修正。
可选的,计算所述初始值和所述修正值的加权平均值,作为所述第一缺失数据的补全值。
图2示出了本发明实施例提供的计量缺失数据补全方法中补全目标矩阵的示意图。参见图2,按照以上步骤S104和S105,将各个缺失数据1至6进行补全。
图3示出了本发明实施例提供的计量缺失数据补全方法的又一实现流程示意图。
参见图3,在一个具体的示例中,计量缺失数据补全方法包括:输入计量数据X,对计量数据X进行一次分类,将分类后的计量数据进行皮尔逊相关分析。再进行二次分类,将二次分类后的数据进行数据格式转换。循环执行N次列向滑移单数据恢复和行向量滑移恢复数据修正,直至各个缺失数据均被补全,完成目标矩阵的补全。
图4示出了本发明实施例提供的计量缺失数据补全方法应用效果示意图。
参见图4,以某地区同等规模系统90天,8640组总负荷数据为例,经适当缩放后,选取其中的电压计量数据,按照9:1的比例划分训练集和测试集,分别随机删除20%的数据节点,保留剩余的数据节点,构建矩阵和滑移向量进行数据补全。由图4结果可知,本发明实施例提供的计量数据补全方法能够准确有效地实现能源互联网中缺失计量数据的补全。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
图5示出了本发明实施里提供的计量缺失数据补全方法的应用系统结构示意图。
将PMS、AMI、GIS系统获取的同长度、同类型的数据输入数据存储模块及数据分类模型。再通过数据转换模块、统计分析模块、系统数据库、数据管理模块,得到目标矩阵。将目标矩阵传输至滑移向量模块,经过数据存储模块和统计分析模块处理,得到滑移向量。数据补全模块基于目标矩阵和滑移向量,利用MCU单元、数字信号处理和数字存储器,最终得到完整的数据集。同时应用电源单元为系统的各个部分供电。
图6示出了本发明实施例提供的计量缺失数据补全装置的结构示意图。
参见图6,本发明实施提供的计量缺失数据补全装置60可以包括数据获取模块610、补全目标矩阵构建模块620、二维滑移向量构建模块630、缺失数据补全模块640、缺失数据修正模块650。
数据获取模块610,用于获取目标数据集,所述目标数据集包含至少两个长度相同的待补全向量;
补全目标矩阵构建模块620,用于对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建至少一个补全目标矩阵;
二维滑移向量构建模块630,用于基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量;
缺失数据补全模块640,用于将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据;
缺失数据修正模块650,用于基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
本发明实施例提供的计量缺失数据补全装置60能够便捷高效地补全缺失的数据,提升计量数据的完整性,为计量数据后续的分析与应用提供保障。
在一些实施例中,计量缺失数据补全装置60还包括第一分类模块,用于:
获取计量数据,基于第一预设分类规则对所述计量数据进行分类,得到至少一个目标数据集。
在一些实施例中,计量缺失数据补全装置60还包括归一化处理模块,用于:
对所述待补全向量内的元素进行归一化处理。
在一些实施例中,补全目标矩阵构建模块620,具体用于:
基于皮尔逊相关系数计算公式,计算所述待补全向量的皮尔逊相关系数。
所述皮尔逊相关系数计算公式包括:
其中,ppq为待补全向量Xp和待补全向量Xq之间的皮尔逊相关系数,n为待补全向量的长度,xpi为待补全向量Xp的第i个元素,xqi为待补全向量Xq的第i个元素,为待补全向量Xp的均值,为待补全向量Xq的均值。
在一些实施例中,补全目标矩阵构建模块620,具体用于:
计算第一待补全向量与其他各个待补全向量的皮尔逊相关系数之和。
若所述第一待补全向量的皮尔逊相关系数之和小于预设相关系数阈值,则判定所述第一待补全向量不满足预设相关性条件,剔除所述第一待补全向量。
将每个满足预设相关性条件的待补全向量作为补全目标矩阵的一行,构建补全目标矩阵。
在一些实施例中,缺失数据补全模块640,具体用于:
计算所述列向量中未缺失数据的平均值,将所述平均值作为所述第一缺失数据的初始值。
在一些实施例中,所述行向量的长度为3;所述缺失数据修正模块650具体用于:
令所述行向量中第二个元素位于所述列向量位置,上下移动所述行向量直至所述行向量遍历所述补全目标矩阵的每一行;
在每一行中,分别计算所述行向量中的第二个元素和第一个元素之间的第一差值,以及第三个元素和第二个元素之间的第二差值;
分别计算所述第一差值的第一平均值和所述第二差值的第二平均值;
令所述行向量中的第二个元素位于所述第一缺失数据处,基于此时所述行向量的第一个元素、所述行向量的第二个元素、所述第一平均值和所述第二平均值,计算所述第一缺失数据的修正值;
基于所述修正值,对所述初始值进行修正。
图7是本发明一实施例提供的终端设备的示意图。如图7所示,该实施例的终端设备70包括:处理器700、存储器710以及存储在所述存储器710中并可在所述处理器700上运行的计算机程序720,例如计量缺失数据补全程序。所述处理器70执行所述计算机程序720时实现上述各个计量缺失数据补全方法实施例中的步骤,例如图1所示的步骤S101至S105。或者,所述处理器700执行所述计算机程序720时实现上述各装置实施例中各模块/单元的功能,例如图6所示模块610至650的功能。
示例性的,所述计算机程序720可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器710中,并由所述处理器700执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序720在所述终端设备70中的执行过程。例如,所述计算机程序720可以被分割成数据获取模块、补全目标矩阵构建模块、二维滑移向量构建模块、缺失数据补全模块、缺失数据修正模块。
所述终端设备70可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括,但不仅限于,处理器700、存储器710。本领域技术人员可以理解,图7仅仅是终端设备70的示例,并不构成对终端设备70的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器700可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器710可以是所述终端设备70的内部存储单元,例如终端设备70的硬盘或内存。所述存储器710也可以是所述终端设备70的外部存储设备,例如所述终端设备70上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器710还可以既包括所述终端设备70的内部存储单元也包括外部存储设备。所述存储器710用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器710还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种计量缺失数据补全方法,其特征在于,包括:
获取目标数据集,所述目标数据集包含至少两个长度相同的待补全向量;
对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建补全目标矩阵;
基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量;
将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据;
基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
2.如权利要求1所述的计量缺失数据补全方法,其特征在于,所述获取目标数据集之前,所述方法还包括:
获取计量数据,基于第一预设分类规则对所述计量数据进行分类,得到至少一个目标数据集。
3.如权利要求1所述的计量缺失数据补全方法,其特征在于,所述对所述待补全向量进行相关性分析之前,所述方法还包括:
对所述待补全向量内的元素进行归一化处理。
5.如权利要求1所述的计量缺失数据补全方法,其特征在于,所述基于满足预设相关性条件的待补全向量,构建补全目标矩阵,包括:
计算第一待补全向量与其他各个待补全向量的皮尔逊相关系数之和;所述第一待补全向量为任一待补全向量;
若所述第一待补全向量的皮尔逊相关系数之和小于预设相关系数阈值,则剔除所述第一待补全向量;
将每个满足预设相关性条件的待补全向量作为补全目标矩阵的一行,构建补全目标矩阵。
6.如权利要求1所述的计量缺失数据补全方法,其特征在于,所述基于所述列向量中的元素补全所述第一缺失数据,包括:
计算所述列向量中未缺失数据的平均值,将所述平均值作为所述第一缺失数据的初始值。
7.如权利要求6所述的计量缺失数据补全方法,其特征在于,所述行向量的长度为3;所述基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据,包括:
令所述行向量中第二个元素位于所述列向量位置,上下移动所述行向量直至所述行向量遍历所述补全目标矩阵的每一行;
在每一行中,分别计算所述行向量中的第二个元素和第一个元素之间的第一差值,以及第三个元素和第二个元素之间的第二差值;
分别计算所述第一差值的第一平均值和所述第二差值的第二平均值;
令所述行向量中的第二个元素位于所述第一缺失数据处,基于此时所述行向量的第一个元素、所述行向量的第二个元素、所述第一平均值和所述第二平均值,计算所述第一缺失数据的修正值;
基于所述修正值,对所述初始值进行修正。
8.一种计量缺失数据补全装置,其特征在于,包括:
数据获取模块,用于获取目标数据集,所述目标数据集包含至少两个长度相同的待补全向量;
补全目标矩阵构建模块,用于对所述待补全向量进行相关性分析,基于满足预设相关性条件的待补全向量,构建至少一个补全目标矩阵;
二维滑移向量构建模块,用于基于所述补全目标矩阵构建二维滑移向量;所述二维滑移向量包括预设长度的行向量,和长度为所述补全目标矩阵行数的列向量;
缺失数据补全模块,用于将所述列向量置于所述补全目标矩阵中的第一缺失数据所在列,基于所述列向量中的元素补全所述第一缺失数据;所述第一缺失数据为所述补全目标矩阵中的任一缺失数据;
缺失数据修正模块,用于基于所述列向量移动所述行向量,基于所述行向量修正所述第一缺失数据。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111677528.9A CN114461618A (zh) | 2021-12-31 | 2021-12-31 | 一种计量缺失数据补全方法、装置及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111677528.9A CN114461618A (zh) | 2021-12-31 | 2021-12-31 | 一种计量缺失数据补全方法、装置及终端设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114461618A true CN114461618A (zh) | 2022-05-10 |
Family
ID=81406797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111677528.9A Pending CN114461618A (zh) | 2021-12-31 | 2021-12-31 | 一种计量缺失数据补全方法、装置及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114461618A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115145906A (zh) * | 2022-09-02 | 2022-10-04 | 之江实验室 | 一种面向结构化数据的预处理和补全方法 |
CN115879104A (zh) * | 2023-02-14 | 2023-03-31 | 北京圣芯诺科技有限公司 | 监控数据安全的数据处理系统、电子设备及程序产品 |
-
2021
- 2021-12-31 CN CN202111677528.9A patent/CN114461618A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115145906A (zh) * | 2022-09-02 | 2022-10-04 | 之江实验室 | 一种面向结构化数据的预处理和补全方法 |
CN115879104A (zh) * | 2023-02-14 | 2023-03-31 | 北京圣芯诺科技有限公司 | 监控数据安全的数据处理系统、电子设备及程序产品 |
CN115879104B (zh) * | 2023-02-14 | 2023-05-30 | 北京圣芯诺科技有限公司 | 监控数据安全的数据处理系统、电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114461618A (zh) | 一种计量缺失数据补全方法、装置及终端设备 | |
CN110147367B (zh) | 一种温度缺失数据填补方法、系统及电子设备 | |
CN111537884B (zh) | 获取动力电池寿命数据的方法、装置、计算机设备及介质 | |
CN108959187A (zh) | 一种变量分箱方法、装置、终端设备及存储介质 | |
CN111680841B (zh) | 基于主成分分析的短期负荷预测方法、系统及终端设备 | |
CN111260255A (zh) | 一种配电网运行参数关键因素分析方法、系统以及设备 | |
CN111900731A (zh) | 一种基于pmu的电力系统状态估计性能评价方法 | |
CN109066650B (zh) | 电力系统脆弱性评估方法及终端设备 | |
CN112305485A (zh) | 电容式电压互感器的谐波电压测量误差修正方法及装置 | |
Zhang et al. | Load prediction based on hybrid model of VMD-mRMR-BPNN-LSSVM | |
CN115457364A (zh) | 一种目标检测知识蒸馏方法、装置、终端设备和存储介质 | |
CN109325603B (zh) | 故障请求处理方法、装置及终端设备 | |
Li et al. | Improved LSTM-based prediction method for highly variable workload and resources in clouds | |
CN113988638A (zh) | 一种通用关联关系强度测算方法、装置、电子设备和介质 | |
CN113592192A (zh) | 短期电力负荷预测方法、装置及终端设备 | |
CN111160614B (zh) | 资源转移预测模型的训练方法、装置及计算设备 | |
CN112257958A (zh) | 一种电力饱和负荷预测方法及装置 | |
CN112598181A (zh) | 负荷预测方法、装置、设备和存储介质 | |
CN113376564B (zh) | 基于数据分析的智能电表计量校正方法、装置及终端 | |
CN114971053A (zh) | 低压台区网络线损率在线预测模型的训练方法及装置 | |
CN114970357A (zh) | 节能效果评价方法、系统、装置及存储介质 | |
CN113516275A (zh) | 一种配电网超短期负荷预测方法、装置及终端设备 | |
CN114660468A (zh) | 一种退役电池荷电状态预测方法、装置及电子设备 | |
CN114154415A (zh) | 设备寿命的预测方法及装置 | |
CN111091420A (zh) | 一种电力价格的预测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |