CN108664525A - 用于数据处理服务器的数据处理方法和装置 - Google Patents
用于数据处理服务器的数据处理方法和装置 Download PDFInfo
- Publication number
- CN108664525A CN108664525A CN201710213629.8A CN201710213629A CN108664525A CN 108664525 A CN108664525 A CN 108664525A CN 201710213629 A CN201710213629 A CN 201710213629A CN 108664525 A CN108664525 A CN 108664525A
- Authority
- CN
- China
- Prior art keywords
- data
- server
- mentioned
- target
- target data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 64
- 238000003672 processing method Methods 0.000 title claims abstract description 18
- 238000013500 data storage Methods 0.000 claims abstract description 91
- 238000000034 method Methods 0.000 claims abstract description 43
- 230000004044 response Effects 0.000 claims abstract description 18
- 238000001514 detection method Methods 0.000 claims description 25
- 230000006854 communication Effects 0.000 claims description 13
- 238000004891 communication Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 5
- 230000010076 replication Effects 0.000 description 5
- 238000012163 sequencing technique Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003442 weekly effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000012966 insertion method Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了用于数据处理服务器的数据处理方法和装置。该方法的一具体实施方式包括:周期性地检测数据备份服务器中是否存在满足预定条件的目标数据;响应于检测到该目标数据,则将该目标数据存储至历史数据存储服务器;在数据存储服务器中对该目标数据执行移除操作,以使该数据存储服务器在该移除操作执行完成后,对该数据备份服务器中的该目标数据进行移除。该实施方式有效地降低了数据存储服务器的输入/输出压力。
Description
技术领域
本申请涉及计算机技术领域,具体涉及互联网技术领域,尤其涉及用于数据处理服务器的数据处理方法和装置。
背景技术
数据归档是将不再经常使用的数据从生产库移到历史库长期保存的过程。其中,生产库可以是实际对外提供服务的数据库服务器。生产库中的数据是随着业务量动态增长的,如果不及时进行数据归档,会严重影响到生产库的性能。在互联网行业尤其是电商行业,为了保障生产库的性能,需要及时进行数据归档。由于在电商等行业生产库每日的数据增长量非常大,因此数据归档的频率远大于传统行业。
现有的数据归档方法通常是从生产库中查询出待归档数据,然后将该待归档数据插入到历史库,最后再从生产库中删除该待归档数据。但现有的方法通常给生产库的性能带来一定的影响。如何在减轻对生产库的性能的影响的基础上实现数据归档,是一个值得研究的问题。
发明内容
本申请的目的在于提出一种改进的用于数据处理服务器的数据处理方法和装置,来解决以上背景技术部分提到的技术问题。
第一方面,本申请实施例提供了一种用于数据处理服务器的数据处理方法,上述数据处理服务器分别与数据存储服务器、数据备份服务器和历史数据存储服务器通信连接,上述数据存储服务器与上述数据备份服务器通信连接,上述数据存储服务器与上述数据备份服务器存储相同的数据,该方法包括:周期性地检测上述数据备份服务器中是否存在满足预定条件的目标数据;响应于检测到上述目标数据,则将上述目标数据存储至上述历史数据存储服务器;在上述数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在上述移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除。
在一些实施例中,在上述周期性地检测上述数据备份服务器中是否存在满足预定条件的目标数据之前,上述方法还包括:对上述数据备份服务器中的数据进行排序,将排序后的数据划分成数据组集合。
在一些实施例中,上述周期性地检测上述数据备份服务器中是否存在满足预定条件的目标数据,包括:周期性地检测上述数据组集合中的数据组中是否存在满足上述预定条件的目标数据。
在一些实施例中,上述响应于检测到上述目标数据,则将上述目标数据存储至上述历史数据存储服务器,包括:对于上述数据组集合中的每一个数据组,响应于检测到该数据组中存在满足上述预定条件的目标数据,则将检测到的目标数据存储至上述历史数据存储服务器。
在一些实施例中,上述在上述数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在上述移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除,包括:对于上述数据组集合中的每一个数据组,在上述数据存储服务器中对该数据组中的满足上述预定条件的目标数据执行第一移除操作,以使上述数据存储服务器在上述第一移除操作执行完成后,对上述数据备份服务器中的、该数据组中的满足上述预定条件的目标数据进行移除。
在一些实施例中,上述数据存储服务器和上述数据备份服务器中的每条数据设置有标识,上述标识用于唯一地指示上述数据;以及上述在上述数据存储服务器中对该数据组中的满足上述预定条件的目标数据执行第一移除操作,包括:基于上述该数据组中的满足上述预定条件的目标数据的标识,在上述数据存储服务器中查找出上述该数据组中的满足上述预定条件的目标数据,并对查找出的目标数据进行移除。
在一些实施例中,上述方法还包括:若从上述数据组集合中的各个数据组中分别检测出的满足上述预定条件的目标数据在上述数据存储服务器和上述数据备份服务器中已被移除,则重新对上述数据备份服务器中的数据进行排序,将排序后的数据重新划分成数据组集合。
第二方面,本申请实施例提供了一种用于数据处理服务器的数据处理装置,该装置包括:检测单元,配置用于周期性地检测数据备份服务器中是否存在满足预定条件的目标数据;存储单元,配置用于响应于检测到上述目标数据,则将上述目标数据存储至历史数据存储服务器;移除单元,配置用于在数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在上述移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除。
在一些实施例中,上述装置还包括:划分单元,配置用于对上述数据备份服务器中的数据进行排序,将排序后的数据划分成数据组集合。
在一些实施例中,上述检测单元包括:检测子单元,配置用于周期性地检测上述数据组集合中的数据组中是否存在满足上述预定条件的目标数据。
在一些实施例中,上述存储单元包括:存储子单元,配置用于对于上述数据组集合中的每一个数据组,响应于检测到该数据组中存在满足上述预定条件的目标数据,则将检测到的目标数据存储至上述历史数据存储服务器。
在一些实施例中,上述移除单元包括:移除子单元,配置用于对于上述数据组集合中的每一个数据组,在上述数据存储服务器中对该数据组中的满足上述预定条件的目标数据执行第一移除操作,以使上述数据存储服务器在上述第一移除操作执行完成后,对上述数据备份服务器中的、该数据组中的满足上述预定条件的目标数据进行移除。
在一些实施例中,上述数据存储服务器和上述数据备份服务器中的每条数据设置有标识,上述标识用于唯一地指示上述数据;以及上述移除子单元进一步配置用于:基于上述该数据组中的满足上述预定条件的目标数据的标识,在上述数据存储服务器中查找出上述该数据组中的满足上述预定条件的目标数据,并对查找出的目标数据进行移除。
在一些实施例中,上述装置还包括第一划分单元,配置用于若从上述数据组集合中的各个数据组中分别检测出的满足上述预定条件的目标数据在上述数据存储服务器和上述数据备份服务器中已被移除,则重新对上述数据备份服务器中的数据进行排序,将排序后的数据重新划分成数据组集合。
第三方面,本申请提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,上述程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本申请实施例提供的用于数据处理服务器的数据处理方法和装置,通过周期性地检测数据备份服务器中是否存在满足预定条件的目标数据,以便在检测到该目标数据时将该目标数据存储至历史数据存储服务器。之后在数据存储服务器中对该目标数据执行移除操作,以使该数据存储服务器在该移除操作执行完成后,对该数据备份服务器中的该目标数据进行移除。从而有效利用了数据备份服务器,避免了在数据存储服务器中直接查询该目标数据,有效地降低了该数据存储服务器的I/O(input/output,输入/输出)压力。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的用于数据处理服务器的数据处理方法的一个实施例的流程图;
图3是与图2所示的实施例对应的一个应用场景的示意图;
图4是根据本申请的用于数据处理服务器的数据处理方法的又一个实施例的流程图;
图5是根据本申请的用于数据处理服务器的数据处理装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于数据处理服务器的数据处理方法或用于数据处理服务器的数据处理装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括数据处理服务器101,网络102、104、106,数据存储服务器103,数据备份服务器105和历史数据存储服务器107。网络102用以在数据处理服务器101和数据存储服务器103、数据备份服务器105之间提供通信链路的介质。网络104用以在数据存储服务器103和数据备份服务器105之间提供通信链路的介质。网络106用以在数据处理服务器101和历史数据存储服务器107之间提供通信链路的介质。网络102、104、106可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
数据处理服务器101可以是提供各种服务的服务器。例如对数据存储服务器103和数据备份服务器105中的数据进行处理,还可以将数据备份服务器105中满足预定条件的目标数据存储至历史数据存储服务器107中。
数据存储服务器103可以是实际对外提供服务的服务器,该服务器中可以存储有例如音频、视频、图片、文本文件等数据。
数据备份服务器105可以是用于备份数据存储服务器103中的数据的服务器,数据备份服务器105与数据存储服务器103存储相同的数据。
历史数据存储服务器107可以用于存储数据备份服务器105中的满足预定条件的目标数据。
需要指出的是,数据存储服务器103和数据备份服务器105可以采用主从部署模式,即数据存储服务器103为主服务器,数据备份服务器105为从服务器,当该主服务器中的数据有变更时,该主服务器可以自动地将变更数据同步至该从服务器,使该从服务器对所存储的数据做出同样的变更,以保持主、从服务器中的数据的一致性。这里,对变更数据的同步可以例如是一个异步复制的过程。异步复制是关系型数据库管理系统MySQL的主从复制中的一种复制方式,MySQL本身支持单向的、异步的复制。异步复制意味着在把数据从一台机器拷贝到另一台机器时有一个延时,最重要的是这意味着当应用系统的事务提交已经确认时数据并不能在同一时刻拷贝/应用到从机。通常这个延时是由网络带宽、资源可用性和系统负载决定的。
需要说明的是,本申请实施例所提供的用于数据处理服务器的数据处理方法一般由数据处理服务器105执行,相应地,用于数据处理服务器的数据处理装置一般设置于数据处理服务器105中。
应该理解,图1中的数据处理服务器、网络、数据存储服务器、数据备份服务器和历史数据存储服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的数据处理服务器、网络、数据存储服务器、数据备份服务器和历史数据存储服务器。
继续参考图2,示出了根据本申请的用于数据处理服务器的数据处理方法的一个实施例的流程200。该用于数据处理服务器的数据处理方法,包括以下步骤:
步骤201,周期性地检测数据备份服务器中是否存在满足预定条件的目标数据。
在本实施例中,用于数据处理服务器的数据处理方法运行于其上的电子设备(例如图1所示的数据处理服务器101)可以周期性(例如每月的某天、每周的某天、每天的某时或每小时的某分钟等)地检测数据备份服务器(例如图1所示的数据备份服务器105)中是否存在满足预定条件的目标数据。其中,预定条件可以为以下任意一项:创建时间在预定时间之前、被访问次数低于预定次数、创建时间在预定时间之前并且被访问次数低于预定次数。这里,被访问次数可以是数据被用户终端访问的总次数。例如某个数据总共被用户终端访问了3次,则该数据的被访问次数可以为3。需要指出的是,上述数据备份服务器与所连接的数据存储服务器(例如图1所示的数据存储服务器103)存储相同的数据。
步骤202,响应于检测到目标数据,则将目标数据存储至历史数据存储服务器。
在本实施例中,响应于步骤201检测到上述目标数据,上述电子设备可以将上述目标数据存储至历史数据存储服务器(例如图1所示的历史数据存储服务器107),以实现对上述目标数据的归档。这里,上述电子设备可以将上述目标数据存储至上述历史数据存储服务器的硬盘中。
在本实施例的一些可选的实现方式中,在检测到上述目标数据后,上述电子设备可以将上述目标数据写入待写入队列。之后,上述电子设备可以从该待写入队列中提取出上述目标数据,并将提取出的上述目标数据存储至上述历史数据存储服务器。需要指出的是,上述待写入队列可以是阻塞队列。阻塞队列可以是一个在队列基础上又支持了两个附加操作的队列。这2个附加操作可以包括:支持阻塞的插入方法:队列满时,队列会阻塞插入元素的线程,直到队列不满;支持阻塞的移除方法:队列空时,获取元素的线程会等待队列变为非空。
在本实施例的一些可选的实现方式中,对上述目标数据的检测直至对上述目标数据的存储可以例如是一个完整的生产者/消费者模式的实现。这里,对上述目标数据进行检测并将检测出的目标数据写入待写入队列的步骤可以相当于生产者负责生产数据,从上述待写入队列提取出上述目标数据,并将提取出的上述目标数据存储至上述历史数据存储服务器的步骤可相当于消费者消费数据。需要指出的是,生产者消费者模式是Controlnet(控制网)网络中特有的一种传输数据的模式。用于两个CPU(Central Processing Unit,中央处理器)之间传输数据,即使是不同类型同一厂家的CPU也可以通过设置来使用。生产者消费者模式的传输原理如下:类似于点对点传送,又略有不同,一个生产者可以对应多个消费者,但是一个消费者只能对应一个生产者,每个生产者消费者对应一个地址,占一个网络节点,属于预定性数据,在网络中优先级最高。这里,ControlNet是近年来推出的面向控制层的实时性现场总线网络,在同一物理层介质链路上提供时间关键性I/O数据和报文数据,包括程序的上载/下载,组态数据和端到端的报文传递等通讯支持,是具有高度确定性、可重复的高速控制和数据采集网络,I/O性能和端到端通讯性能都较传统网络有较大的提高。
步骤203,在数据存储服务器中对目标数据执行移除操作,以使数据存储服务器在移除操作执行完成后,对数据备份服务器中的目标数据进行移除。
在本实施例中,上述电子设备在将检测到的上述目标数据存储至上述历史数据存储服务器后,可以在上述数据存储服务器中对该目标数据执行移除操作,以使数据存储服务器在该移除操作执行完成后,对上述数据备份服务器中的该目标数据进行移除,以保持数据存储服务器和数据备份服务器中的数据的一致性。这里,上述数据存储服务器和上述数据备份服务器可以采用主从部署模式,即上述数据存储服务器为主服务器,上述数据备份服务器为从服务器,该主服务器可以采用例如主从复制机制中的异步复制方式,来实现对该从服务器中的上述目标数据的移除。
在本实施例的一些可选的实现方式中,上述电子设备在将检测到的上述目标数据存储至上述历史数据存储服务器后,上述电子设备可以将上述目标数据写入待删除队列。上述电子设备可以从该待删除队列中提取出上述目标数据,并在上述数据存储服务器中对上述目标数据进行移除。需要指出的是,上述待删除队列可以是阻塞队列。这里,将上述目标数据写入上述待删除队列,以及从上述待删除队列中提取出上述目标数据以在上述数据存储服务器中对上述目标数据进行移除也可以例如是一个完整的生产者/消费者模式的实现。将上述目标数据写入上述待删除队列的步骤相当于生产者生产数据,从上述待删除队列中提取出上述目标数据并在上述数据存储服务器中对上述目标数据进行移除相当于消费者消费数据。
继续参见图3,图3是与图2所示的实施例对应的一个应用场景300。在图3的应用场景中,预先设置对上述目标数据的检测时间为每天晚上7:30,预定条件为创建时间在预定时间之前,该预定时间为2017年1月3日。如标号301所示,假定当前时间到达检测时间,即晚上7:30,数据处理服务器可以开始检测数据备份服务器中是否存在创建时间在2017年1月3日之前的数据。之后,如标号302所示,响应于上述数据处理服务器检测到上述数据备份服务器中存在5万条创建时间在2017年1月3日之前的数据,则上述数据处理服务器可以将检测到的5万条数据作为目标数据存储至历史数据存储服务器。然后,如标号303所示,上述数据处理服务器可以在数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在该移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除。
本申请的上述实施例提供的方法,有效利用了数据备份服务器,避免了在数据存储服务器中直接查询满足预定条件的目标数据,有效地降低了数据存储服务器的I/O压力。
进一步参考图4,其示出了根据本申请的用于数据处理服务器的数据处理方法的又一个实施例的流程400。该流程400包括以下步骤:
步骤401,对数据备份服务器中的数据进行排序,将排序后的数据划分成数据组集合。
在本实施例中,用于数据处理服务器的数据处理方法运行于其上的电子设备(例如图1所示的数据处理服务器101)可以对数据备份服务器(例如图1所示的数据备份服务器105)中的数据进行排序(例如按照数据的创建时间先后顺序进行排序),将排序后的数据划分成数据组集合。这里,上述电子设备可以基于预设数据组长度将上述排序后的数据划分成包含至少一个数据组的数据组集合。作为示例,上述预设数据组长度为10万,上述数据备份服务器中存储有100万条数据,则上述电子设备可以将上述数据备份服务器中的数据划分成包含10个数据组的数据组集合。需要指出的是,上述预设数据组长度可以是人为预先设置的,也可以是上述电子设备自动设置的,本实施例不对此方面内容做任何限定。需要说明的是,上述数据备份服务器与所连接的数据存储服务器(例如图1所示的数据存储服务器103)存储相同的数据。
在本实施例的一些可选的实现方式中,上述数据组集合可以是数据组序列,即上述数据组集合中的各个数据组是有先后顺序的。上述数据组集合中的各个数据组也可以是没有先后顺序的。
步骤402,周期性地检测数据组集合中的数据组中是否存在满足预定条件的目标数据。
在本实施例中,上述电子设备可以周期性(例如每月的某天、每周的某天、每天的某时或每小时的某分钟等)地检测上述数据组集合中的数据组中是否存在满足预定条件的目标数据。其中,预定条件可以为以下任意一项:创建时间在预定时间之前、被访问次数低于预定次数、创建时间在预定时间之前并且被访问次数低于预定次数。这里,若上述数据组集合为数据组序列,则上述电子设备可以周期性地依次检测该数据组集合中的各个数据组中是否存在满足预定条件的目标数据。若上述数据组集合中的各个数据组没有先后顺序,则上述电子设备可以在上述数据组集合中随机选取出数据组,并检测该数据组中是否存在满足上述预定条件的目标数据。需要指出的是,每一次随机选取出的数据组互不相同。
作为示例,上述数据组集合包含3个有先后顺序的数据组,依次为数据组A、数据组B和数据组C。当一个检测周期到来时,上述电子设备可以先检测数据组A中是否存在满足上述预定条件的目标数据;当下一检测周期到来时,上述电子设备可以检测数据组B中是否存在满足上述预定条件的目标数据;当再一个检测周期到来时,上述电子设备可以检测数据组C中是否存在满足上述预定条件的目标数据。
步骤403,对于数据组集合中的每一个数据组,响应于检测到该数据组中存在满足预定条件的目标数据,则将检测到的目标数据存储至历史数据存储服务器。
在本实施例中,对于上述数据组集合中的每一个数据组,响应于检测到该数据组中存在满足上述预定条件的目标数据,则上述电子设备可以将检测到的目标数据存储至历史数据存储服务器(例如图1所示的历史数据存储服务器107),例如存储至上述历史数据存储服务器的硬盘中。这里,若上述电子设备在该数据组中检测到满足上述预定条件的目标数据,上述电子设备可以将该目标数据写入待写入队列。上述电子设备可以从该待写入队列中提取出该目标数据,并将提取出的该目标数据存储至上述历史数据存储服务器。其中,该待写入队列可以是阻塞队列。
步骤404,对于数据组集合中的每一个数据组,在数据存储服务器中对该数据组中的满足预定条件的目标数据执行第一移除操作,以使数据存储服务器在第一移除操作执行完成后,对数据备份服务器中的、该数据组中的满足预定条件的目标数据进行移除。
在本实施例中,对于上述数据组集合中的每一个数据组,当上述电子设备将该数据组中的满足上述预定条件的目标数据存储至上述历史数据存储服务器后,上述电子设备可以在上述数据存储服务器中对该目标数据执行第一移除操作,以使上述数据存储服务器在该第一移除操作执行完成后,对上述数据备份服务器中的、该数据组中的满足上述预定条件的目标数据进行移除,从而可以保持上述数据存储服务器和上述数据备份服务器中的数据的一致性。这里,对于上述数据组集合中的每一个数据组,当上述电子设备将该数据组中的满足上述预定条件的目标数据存储至上述历史数据存储服务器之后,上述电子设备可以将该目标数据写入待删除队列。上述电子设备可以从该待删除队列中提取出该目标数据,并在上述数据存储服务器中对该目标数据进行移除。其中,该待删除队列可以是阻塞队列。
在本实施例的一些可选的实现方式中,上述数据存储服务器和上述数据备份服务器中的每条数据可以设置有标识,该标识用于唯一地指示该数据。这里,该数据可以设置有主键(primary key),该数据的标识可以是该主键的值。需要说明的是,主键通常可以是表中的一个或多个字段,它的值用于唯一地标识表中的某一条记录。需要指出的是,对于上述数据组集合中的每一个数据组,上述电子设备可以基于该数据组中的满足上述预定条件的目标数据的标识,在上述数据存储服务器中查找出该数据组中的满足上述预定条件的目标数据,并对查找出的目标数据进行移除。
在本实施例的一些可选的实现方式中,若从上述数据组集合中的各个数据组中分别检测出的满足上述预定条件的目标数据在上述数据存储服务器和上述数据备份服务器中已被移除,上述电子设备可以重新对上述数据备份服务器中的数据进行排序,将排序后的数据重新划分成数据组集合,即上述电子设备可以重新执行步骤401。之后上述电子设备可以重新执行步骤402-404。
从图4中可以看出,与图2对应的实施例相比,本实施例中的用于数据处理服务器的数据处理方法的流程400突出了对数据备份服务器中的数据进行数据组集合划分的步骤以及对该数据组集合中的每一个数据组进行处理的步骤。由此,本实施例描述的方案不仅可以有效地降低数据存储服务器的I/O压力,同时还可以有效地控制数据处理的速率。而且上述电子设备通过对不同数据组进行上述目标数据的检测,当上述数据备份服务器中被检测出的目标数据还未移除或还未完全移除时,下一个检测周期到来时可以避免在数据备份服务器中检测出重复的数据,从而可以有效地提高数据处理效率。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于数据处理服务器的数据处理装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例所示的用于数据处理服务器的数据处理装置500包括:检测单元501、存储单元502和移除单元503。其中,检测单元501配置用于周期性地检测数据备份服务器中是否存在满足预定条件的目标数据;存储单元502配置用于响应于检测到上述目标数据,则将上述目标数据存储至历史数据存储服务器;而移除单元503配置用于在数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在上述移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除。
在本实施例中,用于数据处理服务器的数据处理装置500中:检测单元501、存储单元502和移除单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202和步骤203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,上述装置500还可以包括:划分单元(图中未示出),配置用于对上述数据备份服务器中的数据进行排序,将排序后的数据划分成数据组集合。
在本实施例的一些可选的实现方式中,上述检测单元501可以包括:检测子单元(图中未示出),配置用于周期性地检测上述数据组集合中的数据组中是否存在满足上述预定条件的目标数据。
在本实施例的一些可选的实现方式中,上述存储单元502可以包括:存储子单元(图中未示出),配置用于对于上述数据组集合中的每一个数据组,响应于检测到该数据组中存在满足上述预定条件的目标数据,则将检测到的目标数据存储至上述历史数据存储服务器。
在本实施例的一些可选的实现方式中,上述移除单元503可以包括:移除子单元(图中未示出),配置用于对于上述数据组集合中的每一个数据组,在上述数据存储服务器中对该数据组中的满足上述预定条件的目标数据执行第一移除操作,以使上述数据存储服务器在上述第一移除操作执行完成后,对上述数据备份服务器中的、该数据组中的满足上述预定条件的目标数据进行移除。
在本实施例的一些可选的实现方式中,上述数据存储服务器和上述数据备份服务器中的每条数据设置有标识,上述标识用于唯一地指示上述数据;以及上述移除子单元可以进一步配置用于:基于上述该数据组中的满足上述预定条件的目标数据的标识,在上述数据存储服务器中查找出上述该数据组中的满足上述预定条件的目标数据,并对查找出的目标数据进行移除。
在一些实施例中,上述装置500还可以包括第一划分单元(图中未示出),配置用于若从上述数据组集合中的各个数据组中分别检测出的满足上述预定条件的目标数据在上述数据存储服务器和上述数据备份服务器中已被移除,则重新对上述数据备份服务器中的数据进行排序,将排序后的数据重新划分成数据组集合。
本申请的上述实施例提供的装置,有效利用了数据备份服务器,避免了在数据存储服务器中直接查询满足预定条件的目标数据,有效地降低了该数据存储服务器的I/O压力。
下面参考图6,其示出了适于用来实现本申请实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括检测单元、存储单元和移除单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,检测单元还可以被描述为“周期性地检测数据备份服务器中是否存在满足预定条件的目标数据的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备包括:周期性地检测数据备份服务器中是否存在满足预定条件的目标数据;响应于检测到上述目标数据,则将上述目标数据存储至历史数据存储服务器;在数据存储服务器中对上述目标数据执行移除操作,以使上述数据存储服务器在上述移除操作执行完成后,对上述数据备份服务器中的上述目标数据进行移除。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种用于数据处理服务器的数据处理方法,其特征在于,所述数据处理服务器分别与数据存储服务器、数据备份服务器和历史数据存储服务器通信连接,所述数据存储服务器与所述数据备份服务器通信连接,所述数据存储服务器与所述数据备份服务器存储相同的数据,所述方法包括:
周期性地检测所述数据备份服务器中是否存在满足预定条件的目标数据;
响应于检测到所述目标数据,则将所述目标数据存储至所述历史数据存储服务器;
在所述数据存储服务器中对所述目标数据执行移除操作,以使所述数据存储服务器在所述移除操作执行完成后,对所述数据备份服务器中的所述目标数据进行移除。
2.根据权利要求1所述的方法,其特征在于,在所述周期性地检测所述数据备份服务器中是否存在满足预定条件的目标数据之前,所述方法还包括:
对所述数据备份服务器中的数据进行排序,将排序后的数据划分成数据组集合。
3.根据权利要求2所述的方法,其特征在于,所述周期性地检测所述数据备份服务器中是否存在满足预定条件的目标数据,包括:
周期性地检测所述数据组集合中的数据组中是否存在满足所述预定条件的目标数据。
4.根据权利要求3所述的方法,其特征在于,所述响应于检测到所述目标数据,则将所述目标数据存储至所述历史数据存储服务器,包括:
对于所述数据组集合中的每一个数据组,响应于检测到该数据组中存在满足所述预定条件的目标数据,则将检测到的目标数据存储至所述历史数据存储服务器。
5.根据权利要求4所述的方法,其特征在于,所述在所述数据存储服务器中对所述目标数据执行移除操作,以使所述数据存储服务器在所述移除操作执行完成后,对所述数据备份服务器中的所述目标数据进行移除,包括:
对于所述数据组集合中的每一个数据组,在所述数据存储服务器中对该数据组中的满足所述预定条件的目标数据执行第一移除操作,以使所述数据存储服务器在所述第一移除操作执行完成后,对所述数据备份服务器中的、该数据组中的满足所述预定条件的目标数据进行移除。
6.根据权利要求5所述的方法,其特征在于,所述数据存储服务器和所述数据备份服务器中的每条数据设置有标识,所述标识用于唯一地指示所述数据;以及
所述在所述数据存储服务器中对该数据组中的满足所述预定条件的目标数据执行第一移除操作,包括:
基于所述该数据组中的满足所述预定条件的目标数据的标识,在所述数据存储服务器中查找出所述该数据组中的满足所述预定条件的目标数据,并对查找出的目标数据进行移除。
7.根据权利要求5-6之一所述的方法,其特征在于,所述方法还包括:
若从所述数据组集合中的各个数据组中分别检测出的满足所述预定条件的目标数据在所述数据存储服务器和所述数据备份服务器中已被移除,则重新对所述数据备份服务器中的数据进行排序,将排序后的数据重新划分成数据组集合。
8.一种用于数据处理服务器的数据处理装置,其特征在于,所述数据处理服务器分别与数据存储服务器、数据备份服务器和历史数据存储服务器通信连接,所述数据存储服务器与所述数据备份服务器通信连接,所述数据存储服务器与所述数据备份服务器存储相同的数据,所述装置包括:
检测单元,配置用于周期性地检测所述数据备份服务器中是否存在满足预定条件的目标数据;
存储单元,配置用于响应于检测到所述目标数据,则将所述目标数据存储至所述历史数据存储服务器;
移除单元,配置用于在所述数据存储服务器中对所述目标数据执行移除操作,以使所述数据存储服务器在所述移除操作执行完成后,对所述数据备份服务器中的所述目标数据进行移除。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710213629.8A CN108664525B (zh) | 2017-04-01 | 2017-04-01 | 用于数据处理服务器的数据处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710213629.8A CN108664525B (zh) | 2017-04-01 | 2017-04-01 | 用于数据处理服务器的数据处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108664525A true CN108664525A (zh) | 2018-10-16 |
CN108664525B CN108664525B (zh) | 2022-08-12 |
Family
ID=63784775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710213629.8A Active CN108664525B (zh) | 2017-04-01 | 2017-04-01 | 用于数据处理服务器的数据处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108664525B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101354713A (zh) * | 2008-09-08 | 2009-01-28 | 大唐软件技术股份有限公司 | 数据存储方法和系统 |
US20120102280A1 (en) * | 2010-08-31 | 2012-04-26 | Hiroshi Nasu | Management server and data migration method |
CN102768511A (zh) * | 2011-05-05 | 2012-11-07 | 北京三博中自科技有限公司 | 一种流程行业故障事件的原因搜索方法和系统 |
CN103530388A (zh) * | 2013-10-22 | 2014-01-22 | 浪潮电子信息产业股份有限公司 | 一种云存储系统中提升性能的数据处理方法 |
CN105243163A (zh) * | 2015-11-05 | 2016-01-13 | 国家电网公司 | 历史数据归档集成系统及方法 |
CN105279261A (zh) * | 2015-10-23 | 2016-01-27 | 北京京东尚科信息技术有限公司 | 动态可扩展数据库归档方法和系统 |
CN105608231A (zh) * | 2016-02-03 | 2016-05-25 | 苏州见微物联网科技有限公司 | 一种基于云端的流数据存储系统及其查询方法 |
CN105808633A (zh) * | 2016-01-08 | 2016-07-27 | 平安科技(深圳)有限公司 | 数据归档方法和系统 |
US20160378826A1 (en) * | 2015-06-23 | 2016-12-29 | Sap Se | Caching views on historical data |
CN106294009A (zh) * | 2016-08-05 | 2017-01-04 | 北京小米移动软件有限公司 | 数据库归档方法及系统 |
CN106357808A (zh) * | 2016-10-25 | 2017-01-25 | 广东欧珀移动通信有限公司 | 一种数据同步方法和装置 |
-
2017
- 2017-04-01 CN CN201710213629.8A patent/CN108664525B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101354713A (zh) * | 2008-09-08 | 2009-01-28 | 大唐软件技术股份有限公司 | 数据存储方法和系统 |
US20120102280A1 (en) * | 2010-08-31 | 2012-04-26 | Hiroshi Nasu | Management server and data migration method |
CN102768511A (zh) * | 2011-05-05 | 2012-11-07 | 北京三博中自科技有限公司 | 一种流程行业故障事件的原因搜索方法和系统 |
CN103530388A (zh) * | 2013-10-22 | 2014-01-22 | 浪潮电子信息产业股份有限公司 | 一种云存储系统中提升性能的数据处理方法 |
US20160378826A1 (en) * | 2015-06-23 | 2016-12-29 | Sap Se | Caching views on historical data |
CN105279261A (zh) * | 2015-10-23 | 2016-01-27 | 北京京东尚科信息技术有限公司 | 动态可扩展数据库归档方法和系统 |
CN105243163A (zh) * | 2015-11-05 | 2016-01-13 | 国家电网公司 | 历史数据归档集成系统及方法 |
CN105808633A (zh) * | 2016-01-08 | 2016-07-27 | 平安科技(深圳)有限公司 | 数据归档方法和系统 |
CN105608231A (zh) * | 2016-02-03 | 2016-05-25 | 苏州见微物联网科技有限公司 | 一种基于云端的流数据存储系统及其查询方法 |
CN106294009A (zh) * | 2016-08-05 | 2017-01-04 | 北京小米移动软件有限公司 | 数据库归档方法及系统 |
CN106357808A (zh) * | 2016-10-25 | 2017-01-25 | 广东欧珀移动通信有限公司 | 一种数据同步方法和装置 |
Non-Patent Citations (1)
Title |
---|
陈清等: "大数据支撑技术探讨", 《中国金融电脑》, no. 05, 7 May 2015 (2015-05-07) * |
Also Published As
Publication number | Publication date |
---|---|
CN108664525B (zh) | 2022-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105373448B (zh) | 数据库中故障数据的恢复方法和系统 | |
CN109413127B (zh) | 一种数据同步方法和装置 | |
CN109271446A (zh) | 一种平行链数据同步方法、设备和存储介质 | |
CN108629029A (zh) | 一种应用于数据仓库的数据处理方法和装置 | |
CN108304250A (zh) | 用于确定运行机器学习任务的节点的方法和装置 | |
CN112559475B (zh) | 数据实时捕获和传输方法及系统 | |
CN109492013A (zh) | 应用于数据库集群的数据处理方法、装置和系统 | |
CN113742033B (zh) | 一种kubernetes集群联邦系统及其实现方法 | |
CN105530272A (zh) | 一种应用数据的同步方法和装置 | |
CN110019062A (zh) | 数据同步方法和系统 | |
CN111444077A (zh) | 一种生成流程节点测试数据的方法和装置 | |
CN111339743B (zh) | 一种账号生成的方法和装置 | |
CN111383100A (zh) | 基于风险模型的全生命周期管控方法和装置 | |
CN110019214A (zh) | 对数据拆分结果进行校验的方法和装置 | |
CN110334145A (zh) | 数据处理的方法和装置 | |
CN106155566A (zh) | 用于存储数据的方法、装置及系统 | |
CN110365745A (zh) | 数据处理系统、方法、装置、服务器和计算机可读介质 | |
US9037539B2 (en) | Data synchronization | |
CN109597810A (zh) | 一种任务切分方法、装置、介质及电子设备 | |
CN109960212A (zh) | 任务发送方法和装置 | |
CN107992763A (zh) | 一种文件系统的掉电保护方法及装置 | |
CN113076186B (zh) | 任务处理的方法、装置、电子设备和存储介质 | |
CN108399046A (zh) | 文件操作请求处理方法和装置 | |
CN108984564A (zh) | 数据存储系统、方法和装置 | |
CN111008865A (zh) | 优惠券同步展示方法、装置、服务器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TG01 | Patent term adjustment |