CN102664635A - 一种精度可控的自适应数据压缩方法 - Google Patents

一种精度可控的自适应数据压缩方法 Download PDF

Info

Publication number
CN102664635A
CN102664635A CN2012100558697A CN201210055869A CN102664635A CN 102664635 A CN102664635 A CN 102664635A CN 2012100558697 A CN2012100558697 A CN 2012100558697A CN 201210055869 A CN201210055869 A CN 201210055869A CN 102664635 A CN102664635 A CN 102664635A
Authority
CN
China
Prior art keywords
data
value
time
currentdata
self
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012100558697A
Other languages
English (en)
Other versions
CN102664635B (zh
Inventor
王非
莫益军
黄本雄
宋岸峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huazhong University of Science and Technology
Original Assignee
Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huazhong University of Science and Technology filed Critical Huazhong University of Science and Technology
Priority to CN201210055869.7A priority Critical patent/CN102664635B/zh
Publication of CN102664635A publication Critical patent/CN102664635A/zh
Application granted granted Critical
Publication of CN102664635B publication Critical patent/CN102664635B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明涉及数据压缩方法技术领域,公开了一种精度可控的自适应数据压缩方法,包括下述步骤:步骤A:对数据进行旋转门压缩处理;步骤B:判断是否执行门限宽度的自适应计算调整;若是,则对门限宽度进行自适应计算调整;否则继续对下个数据进行压缩处理。本发明通过引入标准误差的反馈来逐步调整门限宽度,避免了由于人为盲目设置门限宽度值而造成压缩性能的降低,同时也免去了进行重复大量测试的过程。此外,增加了数据合法性判断和动态调整数据压缩时间窗口参数,降低了异常数据对算法性能的影响,对慢变化的稳态数据而言,自适应计算的时间间隔会动态的变化,减少无谓的计算动作,提高了压缩的性能。

Description

一种精度可控的自适应数据压缩方法
技术领域
本发明涉及数据压缩方法技术领域,主要适用于一种精度可控的自适应数据压缩方法。
背景技术
目前实时数据库已经越来越广泛的在电信、金融、电力等行业之中使用,极大的简化了大规模工业流程的控制过程,提高了管理的效率。由于工业实时数据库系统需要长期运行,必须要对大量宝贵的现场实时数据进行存储,若直接保存的话,随着系统运行时间的增长,必将占用大量的存储设备用来保存这些数据。同时由于在工业过程控制领域中大部分数据都是稳态数据,其数值变化波动比较小,完整保存就会带来很高的数据信息冗余,不仅浪费了存储设备,而且为实时数据的传输和分析都带来了巨大的困难,因此数据压缩处理技术已经成为实时数据处理的必须环节。
旋转门压缩算法拥有着简单的算法逻辑和高效的执行效率,非常符合过程工业对实时性的要求,在工业实时数据库领域中得到了广泛的运用。但是,旋转门压缩算法存在着以下的问题:
(1)参数固定,设置繁琐。在旋转门压缩算法中门限宽度是唯一可控的参数,其取值的好坏会严重影响着算法的压缩性能。目前门限宽度的设置严重依赖人为经验,为了保持压缩精度,就要对参数进行反复的测试与停机修正。
(2)自适应性低。由于实时数据带有很强的不可预测性,要求采用的在线数据压缩算法能够很好的适应数据的变化情况,使算法的压缩比和压缩误差不会因为数据的变化而产生剧烈波动。目前旋转门压缩算法的自适应性较差,加之参数固定,并不能自适应的保持压缩比和压缩误差之间的平衡。
(3)目前旋转门压缩算法并不能判断数据是否异常,而是对异常数据也采用正常的压缩流程,严重影响了算法的性能。
发明内容
本发明所要解决的技术问题是提供一种精度可控的自适应数据压缩方法,它具有通过引入标准误差的反馈,再利用对误差率的判断,逐步调整门限宽度,从而避免了由于人为盲目设置门限宽度而造成压缩性能的降低,同时也免去了工业现场为了设定合适的门限宽度而进行重复大量测试的过程的特点。
为解决上述技术问题,本发明提供了一种精度可控的自适应数据压缩方法,包括下述步骤:
步骤A:对数据进行旋转门压缩处理;
步骤B:判断是否需要执行门限宽度的自适应计算调整:
若需要执行门限宽度的自适应计算调整时,计算原数据与压缩后的数据的标准误差,根据所述标准误差计算标准误差与门限宽度之间的误差率,并根据对误差率进行的判断调整门限宽度;
若不需要执行门限宽度的自适应计算调整,则执行下一步;
步骤D:继续对下个数据进行压缩处理。
上述方案中,所述步骤B中,对门限宽度执行自适应计算调整包括下述步骤:
步骤B1:获取原始数据序列{A1,A2,......,Am},并对经压缩的数据进行解压,获取重建数据序列
Figure BDA0000140839050000021
步骤B2:计算出标准误差δ:
δ = 1 m Σ i = 1 m ( A i - A ~ i ) 2 ;
步骤B3:计算出误差率ER:
ER = δ E , 其中E为当前的门限宽度;
步骤B4:对误差率ER进行判断,从而对门限宽度E进行调整:
当0≤ER<KMIN时,其中KMIN为设定的最小误差率,则对门限宽度E加δ;
当KMIN≤ER≤KMAX时,其中KMAX为设定的最大误差率,则门限宽度E不变;
当KMAX≤ER<1时,则对门限宽度E减δ。
上述方案中,在所述步骤B中,根据设定的数据压缩时间窗口参数,判断是否需要执行门限宽度的自适应计算调整,其方法为:每压缩完一个数据,则初始化为0的数据压缩时间窗口计数器Dnum自增1,当Dnum等于所述设定的数据压缩时间窗口参数时,则执行门限宽度的自适应计算调整。
上述方案中,在执行完所述步骤B后,执行步骤C,即判断是否更改数据压缩时间窗口参数,包括下述步骤:
步骤C1:设定数据稳态计数器ESnum,并且将数据稳态计数器ESnum初始化为0,在所述步骤B5后,判断门限宽度是否发生改变,若发生改变,则ESnum=0,否则ESnum自增1;
步骤C2:判断ESnum是否大于预先设定好的数据稳定阈值DTthr,若是,则从离散整数集合
Figure BDA0000140839050000031
中随机取一个数,记为k,新的数据压缩时间窗口参数变为每隔(100+10*k)个数据就要进行一次参数的自适应计算,同时执行ESnum=0;否则调整结束,执行所述步骤D。
上述方案中,所述步骤A,包括下述步骤:
步骤A1:第一个数据直接保存,并将第一个数据的信息赋予SavedData中;第二个数据的信息赋予WillSaveData和CurrentData中,并计算出斜率SPtop、SPbot、SPmid,斜率的计算公式如下所示:
SP top = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;第三个及以后的数据从步骤A2开始执行。
步骤A2:当第三个及以后的数据到来时,将新到来的数据的信息赋予CurrentData中,并计算出新的斜率值SP′top、SP′bot、SP′mid;新的斜率的计算公式如下所示:
SP top ′ = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot ′ = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid ′ = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;
步骤A3:当SP′top小于SPtop的值时,把SP′top的值赋给SPtop,否则保持SPtop的值不变;当SP′bot大于SPbot的值时,把SP′bot的值赋给SPbot,否则保持SPbot的值不变;把SP′mid的值赋给SPmid;;
步骤A4:比较SPtop、SPbot、SPmid三个斜率,若满足SPbot≤SPmid≤SPtop时,执行步骤A5,否则执行步骤A6;
步骤A5:用新的数据CurrentData代替待保存的数据WillSaveData,转到步骤B;
步骤A6:保存WillSaveData中的数据信息,同时用待保存的数据WillSaveData代替上一个已经存储的数据SavedData,用新的数据CurrentData代替待保存的数据WillSaveData,再执行步骤B。
上述方案中,在所述步骤A前,先对需要进行压缩处理的数据进行合法性判别,包括下述步骤:
步骤一:如果满足下面的判别式,则执行下一步;否则为数据值异常的数据,更新数据标志位;
ValueMIN≤ValueCurrentData≤ValueMAX
式中ValueCurrentData为新进入缓冲区的数据值,ValueMIN为合法数据的最小值,ValueMAX为合法数据的最大值;
步骤二:若满足下面判别式,则执行步骤A,否则为时戳异常的数据,更新数据标志位;
1 freq CurrentData < Time CurrentData - Time PreviousData < 2 freq CurrentData
式中TimeCurrentData为新进入缓冲区的数据的时戳,TimePreviousData为上一个数据的时戳,freqCurrentData为数据的频率。
上述方案中,所述数据压缩时间窗口参数为压缩处理100个数据进行一次门限宽度的自适应计算。
上述方案中,数据稳定阈值DTthr为5。
上述方案中,所述数据标志位为2bit。
本发明的有益效果在于:
本发明通过引入标准误差的反馈,再利用对误差率的判断,来逐步调整门限宽度,保证在满足设定的压缩精度的同时达到较高的压缩比,较好的解决了门限宽度的选择依赖于人为经验的问题,避免了由于盲目设置门限宽度值而造成压缩性能的降低,同时也免去了工业现场为了设定合适的门限宽度值而进行重复大量测试的过程。此外,增加了数据合法性判断和动态调整数据压缩时间窗口参数,降低了异常数据对算法性能的影响,对慢变化的稳态数据而言,自适应计算的时间间隔会动态的变化,减少无谓的计算动作,提高了压缩的性能。
附图说明
图1为本发明实施例提供的精度可控的自适应数据压缩方法的流程图。
图2为本发明实施例中对门限宽度进行自适应调整的流程图。
具体实施方式
为进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及较佳实施例,对依据本发明提出的精度可控的自适应数据压缩方法的具体实施方式及工作原理进行详细说明。
本发明实施例提供的精度可控的自适应数据压缩方法,包括下述步骤:
步骤A:对数据进行旋转门压缩处理:包括下述步骤:
步骤A1:第一个数据直接保存,并将第一个数据的信息赋予SavedData中;第二个数据的信息赋予WillSaveData和CurrentData中,并计算出斜率SPtop、SPbot、SPmid,斜率的计算公式如下所示:
SP top = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;
步骤A2:第三个及以后的数据到来时,将新到来的数据的信息赋予CurrentData中,计算出新的斜率值SP′top、SP′bot、SP′mid;新的斜率的计算公式如下所示:
SP top &prime; = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot &prime; = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid &prime; = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;
步骤A3:当SP′top小于SPtop的值时,把SP′top的值赋给SPtop,否则保持SPtop的值不变;当SP′bot大于SPbot的值时,把SP′bot的值赋给SPbot,否则保持SPbot的值不变;把SP′mid的值赋给SPmid
步骤A4:比较SPtop、SPbot、SPmid三个斜率,若满足SPbot≤SPmid≤SPtop时,执行步骤A5,否则执行步骤A6;
步骤A5:用新的数据CurrentData代替待保存的数据WillSaveData,转到步骤B;
步骤A6:保存WillSaveData中的数据信息,同时用待保存的数据WillSaveData代替上一个已经存储的数据SavedData,用新的数据CurrentData代替待保存的数据WillSaveData,再执行步骤B。
步骤B:判断是否需要执行门限宽度的自适应计算调整:
若需要执行门限宽度的自适应计算调整,则执行下述步骤:
步骤B1:获取原始数据序列{A1,A2,......,Am},并对经压缩的数据进行解压,获取重建数据序列
Figure BDA0000140839050000064
步骤B2:计算出标准误差δ:
&delta; = 1 m &Sigma; i = 1 m ( A i - A ~ i ) 2
步骤B3:计算出误差率ER:
ER = &delta; E , E为当前的门限宽度;
步骤B4:对误差率ER进行判断,从而对门限宽度E进行调整:
当0≤ER<KMIN时,其中KMIN为设定的最小误差率,则对门限宽度E加δ;
当KMIN≤ER≤KMAX时,其中KMAX为设定的最大误差率,则门限宽度E不变;
当KMAX≤ER<1时,则对门限宽度E减δ;
若不需要执行门限宽度的自适应计算调整,则执行下一步;
步骤D:继续对下个数据进行压缩处理。
优选的,在执行完步骤B后,执行步骤C,即判断是否更改数据压缩时间窗口参数,包括下述步骤:
C1:设定数据稳态计数器ESnum,且数据稳态计数器ESnum初始化为0,在步骤B5后,判断门限宽度是否发生改变,若发生改变,则ESnum=0,否则ESnum自增1;
C2:判断ESnum是否大于预先设定的数据稳定阈值DTthr,若是,则从离散整数集合
Figure BDA0000140839050000071
中随机取一个数,记为k,新的数据压缩时间窗口参数变为每隔(100+10*k)个数据就要进行一次参数的自适应计算,同时执行ESnum=0;否则调整结束,执行步骤D。
为了降低异常数据对本发明实施例提供的算法性能的影响,在步骤A前,先对需要进行压缩处理的数据进行合法性判别:包括下述步骤:
步骤一:如果满足下面的判别式,则执行下一步;否则为数据值异常的数据,更新数据标志位;
ValueMIN≤ValueCurrentData≤ValueMAX
式中ValueCurrentData为新进入缓冲区的数据值,ValueMIN为合法数据的最小值,ValueMAX为合法数据的最大值;
步骤二:若满足下面判别式,则执行步骤A,否则为时戳异常的数据,更新数据标志位。
1 freq CurrentData < Time CurrentData - Time PreviousData < 2 freq CurrentData
式中TimeCurrentData为新进入缓冲区的数据的时戳,TimePreviousData为上一个数据的时戳,freqCurrentData为数据的频率。
优选的,在步骤B中,根据设定的数据压缩时间窗口参数,判断是否需要执行门限宽度的自适应计算调整,其方法为:每压缩完一个数据,则初始化为0的数据压缩时间窗口计数器Dnum自增1,当Dnum等于所述设定的数据压缩时间窗口参数时,则执行门限宽度的自适应计算调整。
由图1可知,利用本发明提供的精度可控的自适应数据压缩方法的具体步骤如下:
步骤101:初始化相关参数和临时变量:首先根据需求设定最大的误差率KMAX和最小的误差率KMIN,其中有0≤KMIN<KMAX≤1;初始化门限宽度为E,三个斜率值SPtop、SPbot、SPmid均为0;设定数据压缩时间窗口参数为每压缩处理100个数据就要进行一次门限宽度的自适应计算,数据压缩时间窗口计数器Dnum,初始化为0;数据稳态计数器ESnum,初始化为0,数据稳定阈值DTthr,初始化为5;初始化三个临时变量:上一个已经存储的数据SavedData和待保存的数据WillSaveData以及新的数据CurrentData。
步骤102:数据合法性的判断:
步骤一:将新进入缓冲器的数据值ValueCurrentData与合法数据的最小值ValueMIN、合法数据的最大值ValueMAX进行比较,如果满足下面的判别式
ValueMIN≤ValueCurrentData≤ValueMAX
则表示为数据值合法的数据,并执行步骤二;否则为数据值异常的数据,更新数据标志位,并执行步骤103;
步骤二:对新进入缓冲区的数据的时戳TimeCurrentData与上一个数据的时戳TimePreviousData的差值进行判断,若满足下面判别式,
1 freq CurrentData < Time CurrentData - Time PreviousData < 2 freq CurrentData
式中freqCurrentData为数据的频率;则表示为时戳合法的数据,并执行步骤104,否则为时戳异常的数据,更新数据标志位,并执行步骤103。
步骤103:非法数据之间保存,不进行旋转门压缩,同时更改相应的数据标志位,为后续的解压提供标示,并执行步骤114。在本实施例中,数据标志位为2bit,具体含义为:00表示合法数据,01表示数据值异常的数据,10表示时戳异常的数据,11未用。
步骤104:合法数据进行旋转门压缩:对每一个新的数据均记为CurrentData,判断是否为第一个合法数据,若是则执行步骤105,否则执行步骤106。
步骤105:第一个数据直接保存,并将第一个数据的信息赋予SavedData中,执行步骤114。
步骤106:判断是否为第二个合法数据,若是则执行步骤107,否则执行步骤108。
步骤107:将第二个数据的信息赋予WillSaveData和CurrentData中,并计算出斜率SPtop、SPbot和SPmid,斜率的计算公式如下所示:
SP top = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
此时由于第一个数据的信息保存在SavedData中,第二个数据信息保存在WillSaveData和CurrentData中,故斜率SPmid将等于0,再执行步骤114。
步骤108:将第三个及以后到来的数据的信息赋予CurrentData中,并计算新的斜率值SP′top、SP′bot、SP′mid
斜率的计算公式如下所示:
SP top &prime; = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot &prime; = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid &prime; = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData .
步骤109:当SP′top小于SPtop的值时,把SP′top的值赋给SPtop,否则保持SPtop的值不变;当SP′bot大于SPbot的值时,把SP′bot的值赋给SPbot,否则保持SPbot的值不变;同时将SP′mid的值赋给SPmid;比较SPtop、SPbot、SPmid三个斜率值,若SPbot≤SPmid≤SPtop时,待保存值不用被存储,执行步骤110,否则执行步骤111;
步骤110:用CurrentData代替WillSaveData,执行步骤112。
步骤111:把WillSaveData中的数据信息进行保存,并用WillSaveData代替SavedData,同时用CurrentData代替WillSaveData。
步骤112:根据设定的数据压缩时间窗口参数,判断是否需要进行门限宽度的自适应调整。具体判断的方法是:每压缩完一个数据,Dnum自增1,若Dnum等于设定的数据压缩时间窗口参数,即Dnum=100,则执行步骤113,否则执行步骤114。
步骤113:进行门限宽度的自适应调整,同时将Dnum初始化为0,并执行步骤114。
步骤114:判断是否还有数据需要进行旋转门压缩,若需要,则将新的数据执行步骤102,否则压缩结束。
由图2可知,本实施例的步骤113中,进行门限宽度的自适应调整包括下述步骤:
步骤201:获取原始数据序列{A1,A2,......,Am}和压缩后的数据序列{A′1,A′2,......,A′n};
步骤202:对数据序列{A′1,A′2,......,A′n}进行解压插值,得到重建数据序列
Figure BDA0000140839050000101
步骤203:计算出标准误差δ、误差率ER,计算公式如下:
&delta; = 1 m &Sigma; i = 1 m ( A i - A ~ i ) 2
ER = &delta; E ;
步骤204:判断ER、KMIN和KMAX之间的关系:
若0≤ER<KMIN,执行步骤205;
若KMIN≤ER≤KMAX,执行步骤206;
若KMAX<ER≤1,执行步骤207。
步骤205:当0≤ER<KMIN时,说明大量数据被存储,数据的压缩比不高,由此推出数据有较大的波动,需要增大门限宽度E,即E=E+δ;执行步骤208。
步骤206:当KMIN≤ER≤KMAX时,说明误差在用户可以接受的范围内,不用调整门限宽度;执行步骤209。
步骤207:当KMAX<ER≤1时,说明重建数据的精度低,大量的数据没有保存,由此推出数据的波动比较小,门限宽度比较大,造成虽然有较高的压缩比,但是重建数据的误差比较大,此时应该减小门限宽度E,即E=E-δ;执行步骤208。
步骤208:门限宽度发生改变,ESnum=0;执行步骤210。
步骤209:门限宽度没有发生改变,ESnum自增1;执行步骤210。
步骤210:判断ESnum是否大于DTthr,若是,则说明数据处于长时间的稳定状态,需要更改数据压缩时间窗口参数,执行步骤211,否则调整结束。
步骤211:更改数据压缩时间窗口参数,其方法是:从离散整数集合
Figure BDA0000140839050000104
中随机选取一个数,记为k,新的自适应计算触发条件变为每隔(100+10*k)个数据就要进行一次参数的自适应计算,同时执行ESnum=0;调整结束。最后所应说明的是,以上具体实施方式仅用以说明本发明的技术方案而非限制,尽管参照实例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的权利要求范围当中。

Claims (10)

1.一种精度可控的自适应数据压缩方法,其特征在于,包括下述步骤:
步骤A:对数据进行旋转门压缩处理;
步骤B:判断是否需要执行门限宽度的自适应计算调整:
若需要执行门限宽度的自适应计算调整时,计算原数据与压缩后的数据的标准误差,根据所述标准误差计算标准误差与门限宽度之间的误差率,并根据对误差率进行的判断调整门限宽度;
若不需要执行门限宽度的自适应计算调整,则执行下一步;
步骤D:继续对下个数据进行压缩处理。
2.如权利要求1所述的精度可控的自适应数据压缩方法,其特征在于,所述步骤B中,对门限宽度执行自适应计算调整包括下述步骤:
步骤B1:获取原始数据序列{A1,A2,......,Am},并对经压缩的数据进行解压,获取重建数据序列
Figure FDA0000140839040000011
步骤B2:计算出标准误差δ:
&delta; = 1 m &Sigma; i = 1 m ( A i - A ~ i ) 2 ;
步骤B3:计算出误差率ER:
ER = &delta; E , 其中E为当前的门限宽度;
步骤B4:对误差率ER进行判断,从而对门限宽度E进行调整:
当0≤ER<KMIN时,其中KMIN为设定的最小误差率,则对门限宽度E加δ;
当KMIN≤ER≤KMAX时,其中KMAX为设定的最大误差率,则门限宽度E不变;
当KMAX≤ER<1时,则对门限宽度E减δ。
3.如权利要求1所述的精度可控的自适应数据压缩方法,其特征在于,在所述步骤B中,根据设定的数据压缩时间窗口参数,判断是否需要执行门限宽度的自适应计算调整,其方法为:每压缩完一个数据,则初始化为0的数据压缩时间窗口计数器Dnum自增1,当Dnum等于所述设定的数据压缩时间窗口参数时,则执行门限宽度的自适应计算调整。
4.如权利要求1、2、3中任意一项所述的精度可控的自适应数据压缩方法,其特征在于,在执行完所述步骤B后,执行步骤C,即判断是否更改数据压缩时间窗口参数,包括下述步骤:
步骤C1:设定数据稳态计数器ESnum,并且将数据稳态计数器ESnum初始化为0,在所述步骤B5后,判断门限宽度是否发生改变,若发生改变,则ESnum=0,否则ESnum自增1;
步骤C2:判断ESnum是否大于预先设定好的数据稳定阈值DTthr,若是,则从离散整数集合
Figure FDA0000140839040000021
中随机取一个数,记为k,新的数据压缩时间窗口参数变为每隔(100+10*k)个数据就要进行一次参数的自适应计算,同时执行ESnum=0;否则调整结束,执行所述步骤D。
5.如权利要求1所述的精度可控的自适应数据压缩方法,其特征在于,所述步骤A,包括下述步骤:
步骤A1:第一个数据直接保存,并将第一个数据的信息赋予SavedData中;第二个数据的信息赋予WillSaveData和CurrentData中,并计算出斜率SPtop、SPbot、SPmid,斜率的计算公式如下所示:
SP top = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;
步骤A2:当第三个及以后的数据到来时,将新到来的数据的信息赋予CurrentData中,并计算出新的斜率值SP′top、SP′bot、SP′mid;新的斜率的计算公式如下所示:
SP top &prime; = Value CurrentData - ( Value SavedData - E ) Time CurrentData - Time SavedData
SP bot &prime; = Value CurrentData - ( Value SavedData + E ) Time CurrentData - Time SavedData
SP mid &prime; = Value CurrentData - Value WillSaveData Time CurrentData - Time WillSaveData
式中ValueCurrentData为新的数据值,ValueSavedData为上一个已经存储的数据值,ValueWillSaveData为待保存的数据值,TimeCurrentData为新的数据的时戳,TimeSavedData为上一个已经存储的数据的时戳,TimeWillSaveData为待保存的数据时戳,E为门限宽度;
步骤A3:当SP′top小于SPtop的值时,把SP′top的值赋给SPtop,否则保持SPtop的值不变;当SP′bot大于SPbot的值时,把SP′bot的值赋给SPbot,否则保持SPbot的值不变;把SP′mid的值赋给SPmid;;
步骤A4:比较SPtop、SPbot、SPmid三个斜率,若满足SPbot≤SPmid≤SPtop时,执行步骤A5,否则执行步骤A6;
步骤A5:用新的数据CurrentData代替待保存的数据WillSaveData,转到步骤B;
步骤A6:保存WillSaveData中的数据信息,同时用待保存的数据WillSaveData代替上一个已经存储的数据SavedData,用新的数据CurrentData代替待保存的数据WillSaveData,再执行步骤B。
6.如权利要求1或5所述的精度可控的自适应数据压缩方法,其特征在于,在所述步骤A前,先对需要进行压缩处理的数据进行合法性判别,包括下述步骤:
步骤一:如果满足下面的判别式,则执行下一步;否则为数据值异常的数据,更新数据标志位;
ValueMIN≤ValueCurrentData≤ValueMAX
式中ValueCurrentData为新进入缓冲区的数据值,ValueMIN为合法数据的最小值,ValueMAX为合法数据的最大值;
步骤二:若满足下面判别式,则执行步骤A,否则为时戳异常的数据,更新数据标志位;
1 freq CurrentData < Time CurrentData - Time PreviousData < 2 freq CurrentData
式中TimeCurrentData为新进入缓冲区的数据的时戳,TimePreviousData为上一个数据的时戳,freqCurrentData为数据的频率。
7.如权利要求3所述的精度可控的自适应数据压缩方法,其特征在于,所述数据压缩时间窗口参数为压缩处理100个数据进行一次门限宽度的自适应计算。
8.如权利要求4所述的精度可控的自适应数据压缩方法,其特征在于,所述数据压缩时间窗口参数为压缩处理100个数据进行一次门限宽度的自适应计算。
9.如权利要求4所述的精度可控的自适应数据压缩方法,其特征在于,数据稳定阈值DTthr为5。
10.如权利要求6所述的精度可控的自适应数据压缩方法,其特征在于,所述数据标志位为2bit。
CN201210055869.7A 2012-03-06 2012-03-06 一种精度可控的自适应数据压缩方法 Expired - Fee Related CN102664635B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210055869.7A CN102664635B (zh) 2012-03-06 2012-03-06 一种精度可控的自适应数据压缩方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210055869.7A CN102664635B (zh) 2012-03-06 2012-03-06 一种精度可控的自适应数据压缩方法

Publications (2)

Publication Number Publication Date
CN102664635A true CN102664635A (zh) 2012-09-12
CN102664635B CN102664635B (zh) 2015-07-29

Family

ID=46774065

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210055869.7A Expired - Fee Related CN102664635B (zh) 2012-03-06 2012-03-06 一种精度可控的自适应数据压缩方法

Country Status (1)

Country Link
CN (1) CN102664635B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103040462A (zh) * 2012-10-12 2013-04-17 东华大学 一种心电信号处理和数据压缩方法
CN104160629A (zh) * 2013-01-31 2014-11-19 株式会社东芝 数据压缩装置、数据压缩方法以及程序
CN105117504A (zh) * 2015-07-27 2015-12-02 卡斯柯信号有限公司 一种用于信号系统的改进型旋转门数据采集方法
CN108540136A (zh) * 2018-03-13 2018-09-14 华侨大学 一种适用于农业传感数据的压缩方法
WO2020215203A1 (zh) * 2019-04-23 2020-10-29 西门子股份公司 数据处理系统和方法
CN113258933A (zh) * 2021-05-28 2021-08-13 山西阳光三极科技股份有限公司 多区间自适应旋转门算法
CN116155298A (zh) * 2023-04-20 2023-05-23 山东水运发展集团有限公司济宁分公司 一种基于互联网数据的船闸远程管理系统
CN116614140A (zh) * 2023-07-20 2023-08-18 山东弘锐医疗设备有限公司 一种基于人工智能的医用吊塔调控方法以及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1866241A (zh) * 2006-06-21 2006-11-22 浙江中控软件技术有限公司 一种基于最小二乘线性拟合的实时数据压缩方法
US20090157712A1 (en) * 2007-12-14 2009-06-18 Bmc Software, Inc. Dynamic Compression of Systems Management Data
CN102098058A (zh) * 2010-11-12 2011-06-15 中南大学 时序数据实时高效线性压缩与解压缩方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1866241A (zh) * 2006-06-21 2006-11-22 浙江中控软件技术有限公司 一种基于最小二乘线性拟合的实时数据压缩方法
US20090157712A1 (en) * 2007-12-14 2009-06-18 Bmc Software, Inc. Dynamic Compression of Systems Management Data
CN102098058A (zh) * 2010-11-12 2011-06-15 中南大学 时序数据实时高效线性压缩与解压缩方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103040462A (zh) * 2012-10-12 2013-04-17 东华大学 一种心电信号处理和数据压缩方法
CN104160629A (zh) * 2013-01-31 2014-11-19 株式会社东芝 数据压缩装置、数据压缩方法以及程序
CN104160629B (zh) * 2013-01-31 2017-09-01 株式会社东芝 数据压缩装置以及数据压缩方法
CN105117504A (zh) * 2015-07-27 2015-12-02 卡斯柯信号有限公司 一种用于信号系统的改进型旋转门数据采集方法
CN108540136A (zh) * 2018-03-13 2018-09-14 华侨大学 一种适用于农业传感数据的压缩方法
CN108540136B (zh) * 2018-03-13 2021-06-29 华侨大学 一种适用于农业传感数据的压缩方法
WO2020215203A1 (zh) * 2019-04-23 2020-10-29 西门子股份公司 数据处理系统和方法
US11381251B2 (en) 2019-04-23 2022-07-05 Siemens Aktiengesellschaft Data processing system and method
CN113258933A (zh) * 2021-05-28 2021-08-13 山西阳光三极科技股份有限公司 多区间自适应旋转门算法
CN116155298A (zh) * 2023-04-20 2023-05-23 山东水运发展集团有限公司济宁分公司 一种基于互联网数据的船闸远程管理系统
CN116614140A (zh) * 2023-07-20 2023-08-18 山东弘锐医疗设备有限公司 一种基于人工智能的医用吊塔调控方法以及系统
CN116614140B (zh) * 2023-07-20 2023-10-10 山东弘锐医疗设备有限公司 一种基于人工智能的医用吊塔调控方法以及系统

Also Published As

Publication number Publication date
CN102664635B (zh) 2015-07-29

Similar Documents

Publication Publication Date Title
CN102664635A (zh) 一种精度可控的自适应数据压缩方法
EP3524810B1 (en) Method and apparatus for controlling variable pitch of wind-driven generator set under extreme turbulent wind conditions
WO2022217788A1 (zh) 一种新能源电站一次调频网络化控制方法
US20200380356A1 (en) Information processing apparatus, information processing method, and program
CN109713688B (zh) 大电网静态电压稳定在线预防控制方法及系统
CN107846045B (zh) 一种电池储能系统跟踪风光计划出力的控制方法
CN104901596A (zh) 基于改进的模糊pid的励磁控制及其方法
RU2012127387A (ru) Координация на основе экономики усовершенствованного управления технологическим процессом и оптимизация в реальном времени
Li et al. Efficient real-time control design for automatic train regulation of metro loop lines
Belghazi et al. Pitch angle control for variable speed wind turbines using genetic algorithm controller
MY133688A (en) Process of controlling the growth of a crystal
CN110163409A (zh) 一种应用于置换流水车间的卷积神经网络调度方法
CN102393855B (zh) 一种过程数据有损压缩比动态控制方法
CN110752608A (zh) 水电机组调速系统pid参数切换方法、装置及存储介质
CN110994613B (zh) 一种电厂负荷调度系统及其调度方法
CN113517721A (zh) 含高比例分布式电源的多元配电网协同调控方法及系统
CN117767433A (zh) 基于数字孪生的实时县域能源互联网调度方法及系统
Ma et al. Complexity of a duopoly game in the electricity market with delayed bounded rationality
CN114362231B (zh) 一种直流频率调制参数优化方法、系统及存储介质
Wang et al. Dynamic production output adjustment with sticky prices: A mean field game approach
CN111952959B (zh) 压缩电网过程模拟时间的方法、装置及存储介质
CN115549118A (zh) 配电网无功补偿设备出力平滑指数预测方法
CN111614128B (zh) 一种新能源并网背景下供热机组agc协调控制优化方法
CN110556873B (zh) 一种基于罚函数的vsg自适应转动惯量控制方法
CN113867905A (zh) 一种应用服务器集群实时能耗优化方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150729

Termination date: 20210306