CN116800691B - 一种缓存数据分割处理方法、系统和存储介质 - Google Patents
一种缓存数据分割处理方法、系统和存储介质 Download PDFInfo
- Publication number
- CN116800691B CN116800691B CN202311080935.0A CN202311080935A CN116800691B CN 116800691 B CN116800691 B CN 116800691B CN 202311080935 A CN202311080935 A CN 202311080935A CN 116800691 B CN116800691 B CN 116800691B
- Authority
- CN
- China
- Prior art keywords
- data
- data block
- network
- network connection
- historical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 41
- 238000003672 processing method Methods 0.000 title claims description 9
- 230000005540 biological transmission Effects 0.000 claims abstract description 39
- 238000012545 processing Methods 0.000 claims abstract description 22
- 238000000034 method Methods 0.000 claims abstract description 21
- 238000004590 computer program Methods 0.000 claims description 15
- 238000000638 solvent extraction Methods 0.000 claims description 8
- 238000009825 accumulation Methods 0.000 claims description 7
- 230000001502 supplementing effect Effects 0.000 claims description 7
- 230000000295 complement effect Effects 0.000 claims description 4
- 238000011084 recovery Methods 0.000 abstract description 4
- 238000004891 communication Methods 0.000 description 6
- 238000012790 confirmation Methods 0.000 description 6
- 230000001186 cumulative effect Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种缓存数据分割处理方法、系统和存储介质,通过获取在最近预设时间跨度内的历史网络中断参数,将在设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取的设定大小的数据流,按照所述历史中断参数对应的数据块值分割成多个数据块,并将其进行格式处理及赋予唯一标识符后保存至第二缓存区中,待网络恢复后进行补传,提高了SCADA系统在网络状态不稳定情况下的数据补传成功率,增强了其对不同网络条件的适应度。
Description
技术领域
本发明涉及网络技术领域,尤其涉及一种缓存数据分割处理方法、系统和存储介质。
背景技术
SCADA系统在数据采集过程中常会遇到网络连接不畅的情况,解决的手段之一是对传输失败的数据进行分割存储处理并在网络重新连接时进行在线补传工作以减少数据包丢失的可能性,提高数据传输成功率。然而,由于不同情况下SCADA系统所处的网络稳定性不同,在对数据进行补传过程中仍可能会出现网络中断的情况,如何对待补传的数据进行分割,使得分割成功后的小数据块能在保证数据传输效率的情况下尽可能地被传输至SCADA服务器是需要重点关注的问题。
发明内容
本发明针对现有技术中的不足,提供了一种缓存数据分割处理方法,包括如下步骤:
S1,按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流;
S2,获取在最近预设时间跨度内的历史网络中断参数,根据所述历史网络中断参数获取对应的数据块值,将所述数据流按所述数据块值进行分割形成多个数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;
S3,将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
优选的,所述步骤S2包括:
从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;
根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块大小,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围;
根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块。
优选的,所述数据切割配置表中还记录有对应各可供选用的数据块体积的网络连接最短持续时间,所述步骤S2还包括:在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
优选的,所述步骤S2还包括:获取在设定时间跨度内保持网络持续连接的持续最短时间,若所述持续最短时间大于当前数据块切分体积所对应的网络连接最短时间;则根据所述持续最短时间重新从数据切割配置表中查询获取对应的数据块体积用于对当前数据块切分体积进行更新。
优选的,所述步骤S3包括:对分割成的各数据块通过自定义结构体来进行格式处理和赋予唯一标识符,所述数据块格式包括序列号、历史数据信息和校验码,所述标识符被配置为将该数据块所包含的首条数据记录的历史时间戳、校验码以及该数据块包含的数据条数通过哈希算法进行计算后得到的哈希值序列号,其中各数据块的序列号随对应数据块中包含的首条数据记录的历史时间戳越晚而越大。
本发明还公开了一种缓存数据分割处理系统,包括:数据抓取模块,用于按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流;数据分割模块,用于获取在最近预设时间跨度内的历史网络中断参数,根据所述历史网络中断参数获取对应的数据块值,将所述数据流按所述数据块值进行分割形成多个数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;数据标识模块,用于将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
优选的,所述数据分割模块包括:第一查询模块,被配置为从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;第二查询模块,被配置为根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块大小,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围;数据分割模块,用于根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块。
优选的,所述数据切割配置表中还记录有对应各可供选用的数据块体积的网络连接最短持续时间,所述数据分割模块还被配置为在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
本发明还公开了一种远程采集终端,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述任一所述方法的步骤。
本发明还公开了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述任一所述方法的步骤。
本发明公开的缓存数据分割处理方法、系统和存储介质,通过获取历史网络中断参数判断通信网络状态的稳定性,并根据所获取的历史网络中断参数来获取对应的数据块值后切割成对相应大小的数据块进行缓存。根据不同网络状态将数据流切割成不同大小的数据块进行缓存,从而提高了数据的整体传输成功率,减少了因数据块过大或网络质量问题而导致的数据传送失败的现象,提高了系统对不同网络条件的适应度。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明一实施例公开的缓存数据分割处理方法的流程示意图。
图2为本发明一实施例公开的步骤S2的具体流程示意图。
图3为本发明一实施例公开的缓存数据分割处理系统的原理示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例的附图,对本发明实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于所描述的本发明的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
除非另作定义,此处使用的技术术语或者科学术语应当为本发明所属领域内具有一般技能的人士所理解的通常意义。本发明专利申请说明书以及权利要求书中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“一个”或者“一”等类似词语也不表示数量限制,而是表示存在至少一个。
本实施例公开了一种缓存数据分割处理方法,可用于对网络中断后无法发送的数据进行分割存储,如附图1所示,具体可以包括如下步骤。
步骤S1,按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流。
具体的,SCADA服务器通过网络与部署现场的远程采集IO单元进行通信,远程采集IO单元在失去与SCADA服务器连接后,将采集到的现场数据存储至本地第一缓存区中。从第一缓存区中按设定规则定时抓取相应大小的历史数据包,通过数据分割函数将所述历史数据包分割成多个相应大小的数据块,所述数据块包含采集变量的历史时间戳以及历史数据值。
步骤S2,获取在最近预设时间跨度内的历史网络中断参数,根据所述历史网络中断参数获取对应的数据块值,将所述数据流按所述数据块值进行分割形成多个数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间。
具体的,当通信网络状态不稳定时,短时间内会多次出现网络中断情况,预设时间内存在不同段网络连接时段。其中当前网络连接累计时间可以为预设时间段内每段网络连接相加所得到的全部时间,网络中断次数可以为预设时间段内网络中断的总次数,网络连接最短持续时间可以为预设时间段内各段网络连接中最短的网络连接持续时间。
在前通信网络质量较差、网络信号不稳定情况下,若数据块切分过大,则可能出现数据块传输到一半后网络突然中断的情况,通过当前网络连接累积时间、网络中断次数、网络连接最短持续时间可判断当前网络通信质量,并可根据当前网络通信质量情况对数据块的大小进行限定,以提高每块数据块传输成功的可能性。
在本实施例中,如附图2所示,步骤S2还可包括如下内容。
步骤S21,从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间。
具体的,其中设定时间跨度可以被配置为网络中断时间点附近的固定临近时间跨度,也可被配置为随着当前时间点向后平移的动态临近时间跨度。例如,当网络恢复时,可以查询上一次网络中断时刻前十分钟的历史网络中断参数,按照该参数进行数据块切割大小的判断,也可查询当前切割时间前十分钟的历史网络中断参数,并在切割开始进行每两分钟后,重新查询当前时刻前十分钟的历史网络中断参数,根据此时的参数情况重新进行数据块切割大小的判断。
步骤S22,根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块大小,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围。
具体的,数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围。根据所查询到的网络连接累积时间、网络中断次数、网络连接最短持续时间,获取其在数据切割配置表内对应的数据块体积组成候选数据块体积组,根据数据切分配置方法在所述候选数据块体积组中选取所需数值作为数据切分体积。在本实施例中,可以选取候选快体积组中的最小值,在另一实施例中,也可被配置为如下步骤。
步骤S221,计算网络连接累计时间占预设时间跨度的百分比。
步骤S222,当网络连接累计时间占比超过预设百分比时,判断网络中断次数是否超过预设中断值,若未超过则选取候选数据块体积组中与网络连接累计时间对应的数值,若超过则选取候选数据块体积组中与网络连接最短持续时间对应的数值。
步骤S223,当网络连接累计时间占比未超过预设百分比时,选取候选数据块体积组中与网络连接最短持续时间对应的数值。
步骤S23,根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块。
在本实施例中,该步骤S2还包括,在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
具体的,该历史网络中断参数还可包括本次网络连接持续时间,其中本次网络连接持续时间为本次网络中断前网络连接持续的时间长度。
在本实施例中,步骤S2还包括,获取在设定时间跨度内保持网络持续连接的持续最短时间,若所述持续最短时间大于当前数据块切分体积所对应的网络连接最短时间;则根据所述持续最短时间重新从数据切割配置表中查询获取对应的数据块体积用于对当前数据块切分体积进行更新。
具体的,还可根据设定时间跨度内网络中断次数选择历史网络中断参数,包括如下步骤:
步骤S101,获取相关历史网络中断参数,判断设定时间跨度内网络中断次数是否小于等于预设值。
步骤S102,若设定时间跨度内网络中断次数小于等于预设值,则根据本次网络连接持续时间在数据切割配置表中查询对应数据块切分体积组,选取其中最大值作为数据块切分体积。
例如,当设定时间跨度内网络中断次数小于等于1时,所设定时间跨度内最多只存在两段连续网络连接时间,所述参数网络连接累积时间、网络中断次数、或网络连接最短持续时间无参考价值,应选择本次网络连续持续时间作为后续数据块切割的依据。
步骤S103,若设定时间跨度内网络中断次数大于预设值,则根据网络连接累积时间、网络中断次数、或网络连接最短持续时间在数据切割配置表中查询对应数据块切分体积组,根据数据切分配置方法选取其中相应值作为数据块切分体积。
步骤S3,将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
对分割成的各数据块通过自定义结构体来进行格式处理和赋予唯一标识符,所述数据块格式包括序列号、历史数据信息和校验码,所述标识符被配置为将该数据块所包含的首条数据记录的历史时间戳、校验码以及该数据块包含的数据条数通过哈希算法进行计算后得到的哈希值序列号,其中各数据块的序列号随对应数据块中包含的首条数据记录的历史时间戳越晚而越大。
具体的,在本实施例中,序列号表示该小块数据在整个数据流中的位置,可以为从零开始的有序数据列。当数据通信中断时,可以使用经过确认的序列号来确定正确的数据块位置并进行重传,且各序列号大小关系由各数据块第一条数据记录的历史时间戳决定,该数据块的序列号越大,证明该数据块被采集的时间越晚。
其中校验码为每个数据块中添加一个额外的位,以使总和等于固定值。如果数据块在传输过程中被更改或损坏,则其校验码将不匹配,从而使接收方如SCADA系统能够确定数据块是否已被更改或丢失。
进一步地,所述序列号还可被设置为通过哈希算法根据该数据块所包含的首条数据记录的历史时间戳、校验码以及该数据块包含的数据条数计算得到,其随对应数据块中包含的首条数据记录的历史时间戳越晚而越大。此时,该序列号同时兼备校验数据正确性和标记数据块位置的作用。
在其他实施例中,还可设置数据块最低切割单元,当所确定的数据块切割体积小于数据块最低切割单元时,以数据块最低切割单元为限度进行切割,避免因数据有效信息占比过低而造成的资源浪费现象,比如当切割、标记后数据块的历史数据信息长度占比低于30%时,此时数据块传输的有效信息含量过低,序列号、校验码等相关信息占比过高,挤占正常数据传输空间。
在本实施例中,该步骤还可以具体包括如下内容。
步骤S201,远程采集IO单元在监测到与SCADA服务器的连接恢复后,从第二缓存区中按设定更新规则抓取对应的数据块发送至SCADA服务器。
具体的,在第二缓存区中抓取序列号最大的数据块补发至SCADA服务器,并在收到SCADA服务器确认接收成功后反馈的对应该数据块序列号的确认号后,依次抓取下一序列号的数据块补发至SCADA服务器。
在本实施例中,还可包括获取设置的数据补传模式:
如果是第一补传模式则在恢复网络连接后,从第一缓存区中依次抓取未完成补发的各数据块中具有最大序列号的数据块进行发送。具体可包括如下内容。
在监测到网络连接恢复后,获取设置的数据补传模式,如果所述据补发选项为第一补传模式,则搜索第一缓存区中是否存在具有优先级标识的数据块,若存在则依次抓取具有优先级标识的数据块通过网络向SCADA服务器进行补发。
在完成所有具有优先级标识的数据块补发后,从第一缓存区中依次抓取未完成补发的各数据块中具有最大序列号的数据块进行发送。若为第二补传模式则获取存储于第一缓存区中的各数据块序列号分布区段,先后抓取位于各序列号连续区段中间位置的序列号所对应数据块至第二缓存区中形成数据块队列,并在恢复网络连接后按数据块队列顺序依次抓取第二缓存区中的数据块进行发送。
如果所述据补发选项为第二补传模式,则搜索第一缓存区中是否存在具有优先级标识的数据块,若存在则依次抓取具有优先级标识的数据块通过网络向SCADA服务器进行补发。
在完成所有具有优先级标识的数据块补发后,获取存储于第一缓存区中的剩余各数据块序列号分布区段。抓取位于序列号连续区段中间位置的序列号所对应数据块至第二缓存区后,依次重复识别第一缓存区中剩余数据块所对应的各序列号连续区段,抓取各序列号连续区段中间位置的序列号所对应数据块至第二缓存区,直至完成第一缓存区内全部数据块抓取,在第二缓存区中形成数据块队列,所述数据块队列按数据块加入先后顺序排列。
按数据块队列顺序依次抓取第二缓存区中的数据块通过网络向SCADA服务器进行补发。
在本实施例中,如果第一缓存区中剩余数据块所对应的序列号连续区段存在多个,则在识别到各序列号连续区段中间位置的序列号所对应的多个数据块后,按该多个数据块序号的大小顺序依次抓入到第二缓存区。
在历史数据补传过程中监测实时采集数据的发送状态,若出现网络拥堵特征则获取当前数据补传模式,如果处于第一补传模式则将其切换至第二补传模式,如果已处于第二补传模式则降低第二补传模式中的数据块补传频率。从而避免网络恢复后因数据补传导致的网络拥堵。
步骤S202,SCADA服务器在接收到远程采集IO单元补传的数据块后,根据所述数据块的唯一标识符生成对应确认号并反馈给所述远程采集IO单元,提取所述数据块中的历史数据值和历史时间戳,按历史时间戳插入历史趋势数据库进行归档保存。
具体的,SCADA服务器在接收到远程采集IO单元补发的数据块后,提取该数据块序列号值并添加对应时间戳后生成确认号保存至本地数据库,并将所述确认号反馈至发送该数据块的远程采集IO单元。获取数据块中包含的各条采集变量历史数据的历史时间戳和历史数据值,按照SCADA服务器的历史趋势数据库的格式重新格式化后,按历史时间戳顺序先后插入至所述历史趋势数据库对应时间区间内。
本发明公开的缓存数据分割处理方法,通过获取历史网络中断参数判断通信网络状态的稳定性,并根据所获取的历史网络中断参数来获取对应的数据块值后切割成对相应大小的数据块进行缓存。通过根据不同网络状态下的数据流将数据块切割成不同大小的进行缓存,从而提高了数据的整体传输成功率,减少了因数据块过大而导致的数据传送失败的现象,提高了系统对不同网络条件的适应度。
在另一实施例中,还公开了一种缓存数据分割处理系统,如附图3所示,该系统包括数据抓取模块1、数据分割模块2和数据标识模块3。其中数据抓取模块1,用于按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流。数据分割模块2,用于获取在最近预设时间跨度内的历史网络中断参数,根据所述历史网络中断参数获取对应的数据块值,将所述数据流按所述数据块值进行分割形成多个数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间。数据标识模块3,用于将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
在本实施例中,该数据分割模块2包括第一查询模块、第二查询模块和数据分割模块;其中第一查询模块被配置为从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间。第二查询模块被配置为根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块大小,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围。数据分割模块用于根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块。
在本实施例中,该数据切割配置表中还记录有对应各可供选用的数据块体积的网络连接最短持续时间,所述数据分割模块还被配置为在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
在本实施例中,该数据分割模块还被配置为获取在设定时间跨度内保持网络持续连接的持续最短时间,若所述持续最短时间大于当前数据块切分体积所对应的网络连接最短时间;则根据所述持续最短时间重新从数据切割配置表中查询获取对应的数据块体积用于对当前数据块切分体积进行更新。
在本实施例中,该数据标识模块还被配置为对分割成的各数据块通过自定义结构体来进行格式处理和赋予唯一标识符,所述数据块格式包括序列号、历史数据信息和校验码,所述标识符被配置为将该数据块所包含的首条数据记录的历史时间戳、校验码以及该数据块包含的数据条数通过哈希算法进行计算后得到的哈希值序列号,其中各数据块的序列号随对应数据块中包含的首条数据记录的历史时间戳越晚而越大。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的缓存数据分割处理系统而言,由于其与实施例公开的缓存数据分割处理方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
在另一些实施例中,还提供了一种远程采集终端,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述各实施例中描述的缓存数据分割处理方法的各个步骤。
上述缓存数据分割处理系统如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个缓存数据分割处理方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
总之,以上所述仅为本发明的较佳实施例,凡依本发明申请专利范围所作的均等变化与修饰,皆应属本发明专利的涵盖范围。
Claims (8)
1.一种缓存数据分割处理方法,其特征在于,包括如下步骤:
S1,按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流;
S2,从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数,根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块体积,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围,根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;
S3,将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
2.根据权利要求1所述的缓存数据分割处理方法,其特征在于,所述数据切割配置表中还记录有对应各可供选用的数据块体积的网络连接最短持续时间,所述步骤S2还包括:
在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
3.根据权利要求2所述的缓存数据分割处理方法,其特征在于,所述步骤S2还包括:
获取在设定时间跨度内保持网络持续连接的持续最短时间,若所述持续最短时间大于当前数据块切分体积所对应的网络连接最短时间;
则根据所述持续最短时间重新从数据切割配置表中查询获取对应的数据块体积用于对当前数据块切分体积进行更新。
4.根据权利要求3所述的缓存数据分割处理方法,其特征在于,所述步骤S3包括:
对分割成的各数据块通过自定义结构体来进行格式处理和赋予唯一标识符,所述数据块格式包括序列号、历史数据信息和校验码,所述标识符被配置为将该数据块所包含的首条数据记录的历史时间戳、校验码以及该数据块包含的数据条数通过哈希算法进行计算后得到的哈希值序列号,其中各数据块的序列号随对应数据块中包含的首条数据记录的历史时间戳越晚而越大。
5.一种缓存数据分割处理系统,其特征在于,包括:
数据抓取模块,用于按设定时间间隔内从存储有未发送采集数据的本地第一缓存区中抓取设定大小的数据流;
数据分割模块,用于获取在最近预设时间跨度内的历史网络中断参数,根据所述历史网络中断参数获取对应的数据块值,将所述数据流按所述数据块值进行分割形成多个数据块,所述历史网络中断参数包括网络连接累积时间、网络中断次数、或网络连接最短持续时间;所述数据分割模块包括:第一查询模块,被配置为从设备网络状态记录中查询在最近的预设时间跨度内的历史网络中断参数;第二查询模块,被配置为根据历史网络中断参数从数据切割配置表中查询对应的拟切割数据块大小,所述数据切割配置表中记录有多个可供选用的数据块体积和对应网络中断参数范围;数据分割模块,用于根据查询获取的数据块体积对所述数据流进行切割,均分成多个具有对应体积的数据块;
数据标识模块,用于将分割成的各数据块进行格式处理和赋予唯一标识符后,保存至第二缓存区中待网络恢复后进行补传。
6.根据权利要求5所述的缓存数据分割处理系统,其特征在于,所述数据切割配置表中还记录有对应各可供选用的数据块体积的网络连接最短持续时间,所述数据分割模块还被配置为在与服务器连接中断后计算本次网络连接持续时间,若本次网络连接持续时间小于当前数据块切分体积所对应的网络连接最短时间,则从数据切割配置表中查询获取具有小于或等于本次网络连接持续时间的网络连接最短时间所对应的数据块切分体积作为后续数据块体积组,选取所述后续数据块体积组中体积最大值作为更新后的数据块切分体积。
7.一种远程采集终端,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于:所述处理器执行所述计算机程序时实现如权利要求1-4任一所述方法的步骤。
8.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1-4任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311080935.0A CN116800691B (zh) | 2023-08-25 | 2023-08-25 | 一种缓存数据分割处理方法、系统和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311080935.0A CN116800691B (zh) | 2023-08-25 | 2023-08-25 | 一种缓存数据分割处理方法、系统和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116800691A CN116800691A (zh) | 2023-09-22 |
CN116800691B true CN116800691B (zh) | 2023-11-21 |
Family
ID=88039961
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311080935.0A Active CN116800691B (zh) | 2023-08-25 | 2023-08-25 | 一种缓存数据分割处理方法、系统和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116800691B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117555883B (zh) * | 2024-01-11 | 2024-04-05 | 梅州客商银行股份有限公司 | 一种银行系统数据分库的方法、装置、存储器和电子设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102413514A (zh) * | 2010-09-20 | 2012-04-11 | 株式会社日立制作所 | 数据配送装置以及数据配送系统 |
CN105554114A (zh) * | 2015-12-17 | 2016-05-04 | 深圳市从晶科技有限公司 | 一种数据同步方法及数据同步固件平台 |
CN108769088A (zh) * | 2018-03-14 | 2018-11-06 | 维沃移动通信有限公司 | 一种通信方法及通信装置 |
CN112492033A (zh) * | 2020-11-30 | 2021-03-12 | 深圳市移卡科技有限公司 | 文件传输方法、系统及计算机可读存储介质 |
CN112769949A (zh) * | 2021-01-20 | 2021-05-07 | 杭州鸿泉物联网技术股份有限公司 | 文件传输方法及装置、电子设备和存储介质 |
CN115174490A (zh) * | 2022-06-16 | 2022-10-11 | 浙江华睿科技股份有限公司 | 一种数据传输方法及网络应用终端 |
CN116321073A (zh) * | 2023-03-20 | 2023-06-23 | 上海邻里邻外信息科技有限公司 | 一种智能充电桩的数据传输方法、装置及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11728884B2 (en) * | 2020-11-30 | 2023-08-15 | Acronis Interna banal GmbH | Systems and methods for reducing data loss in satellite transmissions |
-
2023
- 2023-08-25 CN CN202311080935.0A patent/CN116800691B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102413514A (zh) * | 2010-09-20 | 2012-04-11 | 株式会社日立制作所 | 数据配送装置以及数据配送系统 |
CN105554114A (zh) * | 2015-12-17 | 2016-05-04 | 深圳市从晶科技有限公司 | 一种数据同步方法及数据同步固件平台 |
CN108769088A (zh) * | 2018-03-14 | 2018-11-06 | 维沃移动通信有限公司 | 一种通信方法及通信装置 |
CN112492033A (zh) * | 2020-11-30 | 2021-03-12 | 深圳市移卡科技有限公司 | 文件传输方法、系统及计算机可读存储介质 |
CN112769949A (zh) * | 2021-01-20 | 2021-05-07 | 杭州鸿泉物联网技术股份有限公司 | 文件传输方法及装置、电子设备和存储介质 |
CN115174490A (zh) * | 2022-06-16 | 2022-10-11 | 浙江华睿科技股份有限公司 | 一种数据传输方法及网络应用终端 |
CN116321073A (zh) * | 2023-03-20 | 2023-06-23 | 上海邻里邻外信息科技有限公司 | 一种智能充电桩的数据传输方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN116800691A (zh) | 2023-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116800691B (zh) | 一种缓存数据分割处理方法、系统和存储介质 | |
CN107332876B (zh) | 区块链状态的同步方法及装置 | |
CN101895446B (zh) | 广播风暴的检测方法与装置 | |
CN113645118B (zh) | 一种基于sdn的工业互联网标识流量缓存处理方法 | |
CN111131082A (zh) | 一种充电设施数据传输动态控制方法及系统 | |
CN102083091A (zh) | 网管告警管理方法和系统以及告警采集服务器 | |
CN118524444A (zh) | 一种无线通信多链路负载均衡与智能优化方法 | |
CN106792905B (zh) | 一种消息处理的方法及基站 | |
US20160301621A1 (en) | Communication apparatus and method | |
CN113986583A (zh) | 一种分布式消息处理方法、装置、系统、设备及存储介质 | |
CN116489019B (zh) | 一种智能视觉信令通道管理方法、系统及介质 | |
JP3228410B2 (ja) | マルチキャスト通信方法及び方式 | |
CN116827883B (zh) | Scada系统离线数据缓存方法、装置和存储介质 | |
CN111352746B (zh) | 消息限流方法、存储介质 | |
CN113872792A (zh) | 基于自适应时间窗口的日志消息去重 | |
CN111506271A (zh) | 数据段单元传输差异化管理方法和分布式块存储系统 | |
CN109586780A (zh) | 卫星网络中防止报文阻塞的方法 | |
CN110399095A (zh) | 一种存储空间的统计方法和装置 | |
CN112039982B (zh) | 一种高效能分布式云存储方法及系统 | |
CN113391977A (zh) | 一种日志采集处理方法及装置 | |
CN112311760A (zh) | 一种一端多网环境的终端可信性分析方法及装置 | |
CN117176808A (zh) | 一种scada系统数据补传方法和scada系统 | |
CN104750598B (zh) | 一种iec61850日志服务的存储方法 | |
CN113392146B (zh) | 一种高效的数据合并方法 | |
CN114040442B (zh) | 一种无线网关传输系统及其信息过滤方法、无线网关 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |