CN111313907B - 一种海量电力数据压缩的方法及装置 - Google Patents

一种海量电力数据压缩的方法及装置 Download PDF

Info

Publication number
CN111313907B
CN111313907B CN202010101483.XA CN202010101483A CN111313907B CN 111313907 B CN111313907 B CN 111313907B CN 202010101483 A CN202010101483 A CN 202010101483A CN 111313907 B CN111313907 B CN 111313907B
Authority
CN
China
Prior art keywords
data
items
power
detection
repeated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010101483.XA
Other languages
English (en)
Other versions
CN111313907A (zh
Inventor
杨舟
周政雷
陈珏羽
李刚
何涌
张智勇
潘俊涛
唐利涛
韦杏秋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangxi Power Grid Co Ltd
Original Assignee
Guangxi Power Grid Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangxi Power Grid Co Ltd filed Critical Guangxi Power Grid Co Ltd
Priority to CN202010101483.XA priority Critical patent/CN111313907B/zh
Publication of CN111313907A publication Critical patent/CN111313907A/zh
Application granted granted Critical
Publication of CN111313907B publication Critical patent/CN111313907B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3057Distributed Source coding, e.g. Wyner-Ziv, Slepian Wolf
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明公开了一种海量电力数据压缩的方法及装置,其中,所述方法包括:接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;若是,获得连续电力数据,将所述连续电力数据提取得到需要检测的数据;基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;若是,获得检测数据,将所述检测数据用归一化符来表示;基于所述检测数据进行归一化压缩处理,获得压缩数据。本发明实施中,通过对通信应用层数据中的数组数据类型数据进行压缩,确保了数据的完整性,同时缓解了电力传输数据的压力。

Description

一种海量电力数据压缩的方法及装置
技术领域
本发明涉及数据压缩技术领域,尤其涉及一种海量电力数据压缩的方法及装置。
背景技术
在电力通信行业随着业务需求的不断增加,对数据采集的数据通信量不断加大。在各种通信介质下,如窄带载波、微功率无线等通信介质,通信数据量增加,会增加通信数据分帧概率,或增加传输错误概率。在能够实现解压缩数据信息不丢失的前提下,通过压缩方式将大数据量的数据压缩是很有必要的。当前电力系统数据采集包括结算、负荷等数据,且该部分数据采集频率高、数据量大,随着业务需求的不断增加,对电力压力也越来越重。但相邻两条负荷、结算中数组数据存在重复数据或可推算数据(捕获时间),为数据压缩提供了可能。本发明实施中,提出了一种海量电力通信数据压缩机制,该机制为,针对通信应用层数据中的数组数据类型数据,进行压缩的一种压缩方法。该机制主要针对该部分数据进行压缩,接收方收到数据后可实现数据的完全解压缩,确保数据的完整性,同时缓解了传输压力。
发明内容
本发明的目的在于克服现有技术的不足,本发明提供了一种海量电力数据压缩的方法及装置,电力接收新的数据之后,通过对通信应用层数据中的数组数据类型数据进行压缩,确保了数据的完整性,同时缓解了电力传输数据的压力。
为了解决上述技术问题,本发明实施例提供了一种海量电力数据压缩的方法,所述方法包括:
接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
若是,获得连续电力数据,将所述连续电力数据提取得到需要检测的数据;
基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;
若是,获得检测数据,将所述检测数据用归一化符来表示;
基于所述检测数据进行归一化压缩处理,获得压缩数据,
所述重复数据项或可推算数据项,包括:相邻两条数据的负荷中数据数组的重复数据项或可推算数据项;和;相邻两条数据的结算中数据数组的重复数据项或可推算数据项。
可选的,所述预设时间段为1小时。
可选的,所述检测数据中的第一条数据保留原有的数据值。
另外,本发明实施例还提供一种海量电力数据压缩的装置,所述装置包括:
判断模块:用于接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
检测模块:用于获得连续电力数据,将所述连续电力数据提取得到需要检测的数据;
基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;若是,获得检测数据,将所述检测数据用归一化符来表示;
所述重复数据项或可推算数据项,包括:
相邻两条数据的负荷中数据数组的重复数据项或可推算数据项;和;
相邻两条数据的结算中数据数组的重复数据项或可推算数据项;
压缩模块:用于基于所述检测数据进行归一化描述压缩处理,获得压缩数据。
在本发明实施中,电力接收新的数据之后,通过对通信应用层数据中的数组数据类型数据进行压缩,确保了数据的完整性,同时缓解了电力传输数据的压力。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见的,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1是本发明实施例中一种海量电力数据压缩的方法的流程示意图;
图2是本发明实施例中一种海量电力数据压缩的装置的结构组成示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
实施例
请参阅图1,图1是本发明实施例中一种海量电力数据压缩的方法的流程示意图。
如图1所示,一种海量电力数据压缩的方法,所述方法包括:
S11:接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
在本发明具体实施过程中,所述预设时间段为1小时。
S12:若是,获得连续电力数据,对所述连续电力数据中相邻两条数据的负荷、结算中数组数据的重复数据项或可推算数据项进行检测,获得检测数据;
在本发明具体实施过程中,所述若是,获得连续电力数据,对所述连续电力数据中重复数据项或可推算数据项进行检测,获得检测数据,包括:获得连续电力数据之后,将所述连续电力数据提取出来得到需要检测的数据;基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;若是,获得检测数据,将所述检测数据用归一化符来表示,如归一化符null。
在本发明具体实施过程中,所述重复数据项或可推算数据项,包括:相邻两条数据的负荷中数据数组的重复数据项或可推算数据项;和;相邻两条数据的结算中数据数组的重复数据项或可推算数据项。
在本发明具体实施过程中,所述检测数据中的第一条数据保留原有的数据值。
请参阅表1、表2、表3、表4,表1是未压缩的原始数据的示意表,表2是压缩时间字段后的数据的示意表,表3是压缩时间、状态字和寄存器字段后的数据的示意表,表4是5条记录数据传输描述的示意表。
具体的,针对时间捕获周期为1小时,2019-01-01/00:00:00—2019-01-01/04:00:00时间段内数据,5条未压缩的原始数据如下表1所示:
表1未压缩的原始数据的示意表
Date/Time Status Register_1
2019-01-01/00:00:00 00 115
2019-01-01/01:00:00 00 115
2019-01-01/02:00:00 00 115
2019-01-01/03:00:00 00 117
2019-01-01/04:00:00 80 119
由表1可知,5条数据时间连续,发生时间均为上一条记录的时间+捕获周期的偏移值(1小时),则时间字段可进行归一化描述压缩,为实现时间的解析,第一条数据不可采用归一化描述压缩方式。
压缩时间字段后的数据如下表2所示:
表2压缩时间字段后的数据的示意表
Date/Time Status Register_1
2019-01-01/00:00:00 0x00 115
{} 0x00 115
{} 0x00 115
{} 0x00 117
{} 0x80 119
其中,第2、3、4、5条记录的时间(14字节,数据类型+长度+Value,year highbyte,year lowbyte,month,day of month,day of week,hour,minute,second,hundredths ofsecond,deviation highbyte,deviation lowbyte,clock status)允许压缩,可使用null表示(1字节0x00)。每条记录可减少13字节的数据通信量。
另外,5条数据除时间连续外,状态字和寄存器也存在数值与上一条记录的数值相同情况,则状态字和寄存器字段也可进行压缩,可使用归一化描述压缩。为实现数值解析,第一条数据不可采用归一化描述压缩方式。
压缩时间,状态字和寄存器字段后的数据如下表3所示:
表3压缩时间、状态字和寄存器字段后的数据的示意表
Date/Time Status Register_1
2019-01-01/00:00:00 0x00 115
{} {} {}
{} {} {}
{} {} 117
{} 0x80 119
其中,第2、3、4条记录的Status(2字节,数据类型+Value)允许压缩,可使用null表示(1字节0x00)。每条记录可减少1字节的数据通信量。第2、3条记录的Register_1(具体根据相应的寄存器,假设为正向有功电量值,5字节,数据类型+Value)允许压缩,可使用null表示(1字节0x00)。每条记录可减少4字节的数据通信量。
本具体举例中,与未压缩数据相比,5条记录中,第2条记录可减少18字节数据,第3条记录可减少18字节数据,第4条记录可减少14字节数据,第5条数据可减少13字节数据。
当前面向对象电力通信APDU的编码规则遵循A-XDR,上例中,5条记录数据传输描述如下表4所示:
表4 5条记录数据传输描述的示意表
Figure GDA0004053929910000051
Figure GDA0004053929910000061
S13:基于所述检测数据进行归一化压缩处理,获得压缩数据。
在本发明实施中,电力接收新的数据之后,通过对通信应用层数据中的数组数据类型数据进行归一化压缩处理,确保了数据的完整性,同时缓解了电力传输数据的压力。
实施例
请参阅图2,图2是本发明实施例中一种海量电力数据压缩装置的结构组成示意图。
如图2所示,一种海量电力数据压缩的装置,所述装置包括:
判断模块11:用于接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
检测模块12:用于获得连续电力数据,对所述连续电力数据中相邻两条数据的负荷、结算中数组数据的重复数据项或可推算数据项进行检测,获得检测数据;
在本发明具体实施过程中,所述检测模块还包括:用于获得连续电力数据之后,将所述连续电力数据提取出来得到需要检测的数据;基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;若是,获得检测数据,将所述检测数据用归一化符来表示。
压缩模块13:用于基于所述检测数据进行归一化描述压缩处理,获得压缩数据。
在本发明具体实施过程中,所述反向解压缩模块还包括:用于在数据压缩完成之后,基于所述压缩之后的数据项,根据压缩规则,进行反向解压缩操作;通过所述反向解压缩操作,获取压缩前的完整数据。
具体地,本发明实施例的装置相关功能模块的工作原理可参见方法实施例的相关描述,这里不再赘述。
在本发明实施中,电力接收新的数据之后,通过对通信应用层数据中的数组数据类型数据进行压缩,确保了数据的完整性,同时缓解了电力传输数据的压力。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取存储器(RAM,RandomAccessMemory)、磁盘或光盘等。
另外,以上对本发明实施例所提供的一种海量电力数据压缩的方法及装置进行了详细介绍,本文中应采用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (4)

1.一种海量电力数据压缩的方法,其特征在于,所述方法包括:
接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
若是,获得连续电力数据,将所述连续电力数据提取得到需要检测的数据;
基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;
若是,获得检测数据,将所述检测数据用归一化符来表示;
基于所述检测数据进行归一化压缩处理,获得压缩数据,
所述重复数据项或可推算数据项,包括:相邻两条数据的负荷中数据数组的重复数据项或可推算数据项;和;相邻两条数据的结算中数据数组的重复数据项或可推算数据项。
2.根据权利要求1所述的一种海量电力数据压缩的方法,其特征在于,所述预设时间段为1小时。
3.根据权利要求1所述的一种海量电力数据压缩的方法,其特征在于,所述检测数据中的第一条数据保留原有的数据值。
4.一种海量电力数据压缩的装置,其特征在于,所述装置包括:
判断模块:用于接收当前电力数据,判断所述当前电力数据是否为预设时间段内的连续电力数据;
检测模块:用于获得连续电力数据,将所述连续电力数据提取得到需要检测的数据;
基于所述需要检测的数据,检测是否存在重复数据项或可推算数据项;若是,获得检测数据,将所述检测数据用归一化符来表示;
所述重复数据项或可推算数据项,包括:
相邻两条数据的负荷中数据数组的重复数据项或可推算数据项;和;
相邻两条数据的结算中数据数组的重复数据项或可推算数据项;
压缩模块:用于基于所述检测数据进行归一化描述压缩处理,获得压缩数据。
CN202010101483.XA 2020-02-19 2020-02-19 一种海量电力数据压缩的方法及装置 Active CN111313907B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010101483.XA CN111313907B (zh) 2020-02-19 2020-02-19 一种海量电力数据压缩的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010101483.XA CN111313907B (zh) 2020-02-19 2020-02-19 一种海量电力数据压缩的方法及装置

Publications (2)

Publication Number Publication Date
CN111313907A CN111313907A (zh) 2020-06-19
CN111313907B true CN111313907B (zh) 2023-04-21

Family

ID=71147505

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010101483.XA Active CN111313907B (zh) 2020-02-19 2020-02-19 一种海量电力数据压缩的方法及装置

Country Status (1)

Country Link
CN (1) CN111313907B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113407237A (zh) * 2021-08-23 2021-09-17 杭州炬华科技股份有限公司 电能表通讯数据压缩方法与系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101277117A (zh) * 2000-07-25 2008-10-01 瞻博网络公司 增量和连续的数据压缩
US7902865B1 (en) * 2007-11-15 2011-03-08 Lattice Semiconductor Corporation Compression and decompression of configuration data using repeated data frames
US8427347B1 (en) * 2011-03-30 2013-04-23 Altera Corporation Dynamic data compression and decompression
CN103795421A (zh) * 2014-02-26 2014-05-14 活点信息技术有限公司 一种数据压缩及解压缩的方法
CN104753539A (zh) * 2013-12-26 2015-07-01 中国移动通信集团公司 一种数据压缩方法及装置
CN106656195A (zh) * 2015-11-04 2017-05-10 北京信威通信技术股份有限公司 数据压缩、解压缩的方法及系统
CN107332909A (zh) * 2017-07-03 2017-11-07 中兴通讯股份有限公司 一种实现数据传输的方法及装置
CN109799449A (zh) * 2018-12-20 2019-05-24 深圳科安达电子科技股份有限公司 一种基于参数识别的轨道电路监测数据解压缩方法和处理系统
CN110799959A (zh) * 2017-05-26 2020-02-14 深圳配天智能技术研究院有限公司 一种数据压缩方法与解压方法以及相关设备

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101277117A (zh) * 2000-07-25 2008-10-01 瞻博网络公司 增量和连续的数据压缩
US7902865B1 (en) * 2007-11-15 2011-03-08 Lattice Semiconductor Corporation Compression and decompression of configuration data using repeated data frames
US8427347B1 (en) * 2011-03-30 2013-04-23 Altera Corporation Dynamic data compression and decompression
CN104753539A (zh) * 2013-12-26 2015-07-01 中国移动通信集团公司 一种数据压缩方法及装置
CN103795421A (zh) * 2014-02-26 2014-05-14 活点信息技术有限公司 一种数据压缩及解压缩的方法
CN106656195A (zh) * 2015-11-04 2017-05-10 北京信威通信技术股份有限公司 数据压缩、解压缩的方法及系统
CN110799959A (zh) * 2017-05-26 2020-02-14 深圳配天智能技术研究院有限公司 一种数据压缩方法与解压方法以及相关设备
CN107332909A (zh) * 2017-07-03 2017-11-07 中兴通讯股份有限公司 一种实现数据传输的方法及装置
CN109799449A (zh) * 2018-12-20 2019-05-24 深圳科安达电子科技股份有限公司 一种基于参数识别的轨道电路监测数据解压缩方法和处理系统

Also Published As

Publication number Publication date
CN111313907A (zh) 2020-06-19

Similar Documents

Publication Publication Date Title
CN102662988B (zh) 一种用于rfid中间件的冗余数据过滤方法
CN102118293A (zh) 一种通讯报文压缩存储方法
CN111313907B (zh) 一种海量电力数据压缩的方法及装置
CN102893265A (zh) 管理可独立访问的数据单元的存储
CN104660427A (zh) 日志实时统计方法及装置
CN112199935B (zh) 数据的比对方法、装置、电子设备及计算机可读存储介质
CN103412826A (zh) 固态硬盘的垃圾回收方法及系统
CN107689998A (zh) 一种增量数据同步方法及终端设备
CN114442954B (zh) 一种lz4编码压缩装置
CN101916259B (zh) 确定自动机状态转换表的空间压缩方法
CN110019347B (zh) 一种区块链的数据处理方法、装置及终端设备
CN107894875B (zh) 一种rtu数据存储方法
CN117520987A (zh) 基于矩阵画像和自编码器的混合时序异常检测方法和系统
CN109189788B (zh) 用于钢铁过程控制的高速数据存储方法和系统
CN115544305A (zh) 一种用于数字钢卷系统的数据存储方法及装置
CN110188160A (zh) 数据存储方法和数据读取方法
CN108416678A (zh) 多维度数据对账方法及系统
CN101799803B (zh) 信息处理方法、模块及系统
CN102542064B (zh) 基于Surfacelet变换的动态纹理检索方法
CN203950381U (zh) Atm机用纸币管理装置
CN112751567B (zh) 电力系统暂态录波交互数据的压缩方法
CN203376580U (zh) 一种印章控制系统
CN111565191A (zh) 一种数据压缩、传输系统及方法
CN116303404B (zh) 基于数据归类同级比对防止数据冗余的大数据存储系统
CN112525450B (zh) 一种降低可靠性测试中振动数据存储空间占用率的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant