CN112667607B - 一种历史数据的管理方法及相关设备 - Google Patents

Abstract

本申请实施例公开了一种历史数据的管理方法和相关设备，审计系统将Clickhouse集群中需要备份的历史数据发送至中转服务器，并由中转服务器发送至存储器进行存储。建立Clickhouse历史集群，当需要对历史数据进行恢复时，审计系统查找保存在存储器中的所需要恢复的目标数据，并将该目标数据发送至Clickhouse历史集群进行恢复。由于存储器中已经保存了相应的历史数据，则可以对Clickhouse集群中已经完成备份的历史数据进行删除，减少了Clickhouse集群的资源占用。当需要恢复数据时，再将数据恢复到Clickhouse历史集群中。由于Clickhouse集群与Clickhouse历史集群之间的数据是互相独立的，因此数据的恢复，也不会影响到Clickhouse集群中的存储内容。

Description

一种历史数据的管理方法及相关设备

技术领域

本申请实施例涉及计算机技术领域，尤其涉及一种历史数据的管理方法及相关设备。

背景技术

Clickhouse作为一种开源列式数据库，具有卓越的海量数据存储能力和高效处理性能、高可用及开箱即用等特点。

Clickhouse集群一般部署在CPU核数较多且磁盘空间较大的服务器上，并在本地磁盘完成读写操作。由于服务器的磁盘容量有限，当数据规模逐渐膨胀到磁盘容量上限时，Clickhouse集群必须通过增加节点的方式，扩大集群容量，存储数据。

针对大部分业务场景而言，数据存放的时间与被查询的频率往往是成反比的。因此Clickhouse集群中，往往存在大量的查询频率极低的数据。这些数据使得Clickhouse集群异常庞大，产生巨大的资源浪费。

发明内容

本申请实施例提供了一种历史数据的管理方法及相关设备，用于减少Clickhouse集群所占用的存储资源。

为了实现上述发明目的，本发明提供的具体技术方案如下：

第一方面，本申请实施例提供了一种历史数据的管理方法，其特征在于，所述方法包括：

审计系统确定Clickhouse集群中需要备份的历史数据；

所述审计系统向中转服务器发送所述历史数据；

所述审计系统将所述中转服务器中的所述历史数据压缩；

所述审计系统将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

若所述审计系统接收到恢复数据的请求，所述审计系统根据所述请求确定所述历史数据中的目标数据；

所述审计系统将所述存储器中的所述目标数据发送至Clickhouse历史集群。

第二方面，本申请实施例提供了一种审计系统，其特征在于，所述审计系统包括：

第一确定单元，用于确定Clickhouse集群中需要备份的历史数据；

第一发送单元，用于向中转服务器发送所述历史数据；

压缩单元，用于将所述中转服务器中的所述历史数据压缩；

第二发送单元，用于将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

第二确定单元，用于接收到恢复数据的请求时，根据所述请求确定所述历史数据中的目标数据；

第三发送单元，用于将所述存储器中的所述目标数据发送至Clickhouse历史集群。

第三方面，本申请实施例提供了一种计算机可读存储介质，包括指令，当所述指令在计算机上运行时，使得计算机执行如第一方面所述的方法。

第四方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在计算机上执行时，所述计算机执行前述第一方面的方法。

从以上技术方案可以看出，本申请所提供的一种历史数据的管理方法及相关设备中，审计系统将Clickhouse集群中需要备份的历史数据发送至中转服务器，并由中转服务器发送至存储器进行存储。建立Clickhouse历史集群，当需要对历史数据进行恢复时，审计系统查找保存在存储器中的所需要恢复的目标数据，并将该目标数据发送至Clickhouse历史集群进行恢复。由于存储器中已经保存了相应的历史数据，则可以对Clickhouse集群中已经完成备份的历史数据进行删除，减少了Clickhouse集群的资源占用。当需要恢复数据时，再将数据恢复到Clickhouse历史集群中。由于Clickhouse集群与Clickhouse历史集群之间的数据是互相独立的，因此数据的恢复，也不会影响到Clickhouse集群中的存储内容。

附图说明

结合附图并参考以下具体实施方式，本申请各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本申请中历史数据的管理方法的一个实施例示意图；

图2为本申请中历史数据的管理方法的应用场景示意图；

图3为本申请中审计系统的一个结构示意图；

图4为本申请中审计系统的另一个结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

请参阅图1，本申请实施例提供了一种历史数据的管理方法，具体实施方式如下：

101、审计系统确定Clickhouse集群中需要备份的历史数据；

Clickhouse集群是由多个服务器作为节点组成的，每个同一张数据表的数据会分散分布在不同节点上。将所有节点中的数据放在一起，才是完整的数据。本申请中，审计系统基于用户输入的业务名称和数据类型信息，确定Clickhouse集群的各个节点中需要备份的历史数据。

需要说明的是，“审计系统”只是对执行本申请中，历史数据的管理功能的模块的统称，并不特指某个或某些模块，也不特指硬件或者软件模块。在实际应用中，也可能对执行历史数据的管理功能的设备不称之为“审计系统”，而以其他名称代替，具体此处不做限定，本申请实施例中只以“审计系统”为例进行说明。

102、所述审计系统向中转服务器发送所述历史数据；

审计系统遍历Clickhouse集群的各个节点，把每个节点中指定需要备份的历史数据，发送到中转服务器中。

由于Clickhouse集群中的历史数据已经发往中转服务器进行后续的备份流程，因此Clickhouse集群可以对该历史数据进行删除，减少Clickhouse集群占用的存储资源。

103、所述审计系统将所述中转服务器中的所述历史数据压缩；

由于中转服务器中，所接收到的历史数据，来自Clickhouse集群的各个节点。因此中转服务器中的历史数据，是分散多份的。为了便于存储和管理，本申请实施例中，审计系统可以控制中转服务器，对接收到的历史数据进行压缩，得到一份完整的历史数据。

104、所述审计系统将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

中转服务器压缩后的历史数据，需要发送到存储器中，由存储器进行长期存储。本申请实施例中，具体可以使用Hadoop分布式文件系统(HDFS)作为长期存储历史数据的存储器，也可以使用云服务器作为存储器，具体此处不做限定。本实施例后续内容中，以HDFS作为存储器为例，进行阐述。

由于历史数据已经在存储器中得以长期保存，则中转服务器中所保存的历史数据，也可以进行删除，减少中转服务器的内存占用。

105、若所述审计系统接收到恢复数据的请求，所述审计系统根据所述请求确定所述历史数据中的目标数据；

当用户向审计系统发起恢复数据的请求时，该请求包括了需要恢复的数据的信息(例如业务名称、数据类型和时间字段)。审计系统可以根据该请求，从HDFS保存的历史数据中，确定出用户需要恢复的目标数据。

106、所述审计系统将所述存储器中的所述目标数据发送至Clickhouse历史集群；

本申请实施例中，新建了一个独立于Clickhouse集群的Clickhouse历史集群。一方面，Clickhouse集群可以根据业务需要，不断增加数据，并将需要保存的数据备份到HDFS中。另一方面，当需要对完成备份的数据进行使用时，审计系统可以从HDFS中下载需要恢复的目标数据，并将该目标数据发送到独立的Clickhouse历史集群中进行使用。由于Clickhouse集群与Clickhouse历史集群的数据互相独立，因此数据恢复到Clickhouse历史集群后，也不会对Clickhouse集群的存储内容造成影响。

进一步的，由于Clickhouse历史集群主要用于恢复数据，并提供给用户使用，而Clickhouse集群所备份的数据，会一直保存在存储器当中。因此，一般来说，Clickhouse历史集群占用的存储资源不需要太大。审计系统可以定期维护，对Clickhouse历史集群中，逾期的数据进行删除，减少资源浪费。

请参阅图2所示，本申请中，由于中转服务器的存在，目标数据从HDFS下载后，也可以发送到中转服务器，并由中转服务器转发到Clickhouse历史集群。具体的，不论是数据的备份，或者是数据的恢复，都可以由中转服务器进行转发。而中转服务器对数据完成转发之后，都可以删除所保存的数据，从而节约中转服务器的内存容量。

目标数据发送到Clickhouse历史集群后，需要将目标数据进行挂载。同样的，Clickhouse历史集群也是由多个服务器作为节点组成的。而Clickhouse集群与Clickhouse历史集群的节点数量往往不相同，为了避免数据挂载后，Clickhouse历史集群的某个节点压力过大，需要把恢复的目标数据合理地分配到Clickhouse历史集群的各个节点上。具体的，可以先确定目标数据的数据量和Clickhouse历史集群的节点数，然后将数据量除以Clickhouse历史集群的节点数，得到平均每个节点应当挂载的数据量。根据每个节点应当挂载的数据量，便可以将目标数据平均地挂载在Clickhouse历史集群的每个节点中，避免某个节点的承载数据压力过大的情况。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

下面对本申请实施例中的审计系统进行描述，请参阅图3，本申请实施例提供的一种审计系统，该审计系统包括：

第一确定单元301，用于确定Clickhouse集群中需要备份的历史数据；具体实现方式，请参考图1所示实施例中步骤101，此处不再赘述。

第一发送单元302，用于向中转服务器发送所述历史数据；具体实现方式，请参考图1所示实施例中步骤102，此处不再赘述。

压缩单元303，用于将所述中转服务器中的所述历史数据压缩；具体实现方式，请参考图1所示实施例中步骤103，此处不再赘述。

第二发送单元304，用于将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；具体实现方式，请参考图1所示实施例中步骤104，此处不再赘述。

第二确定单元305，用于接收到恢复数据的请求时，根据所述请求确定所述历史数据中的目标数据；具体实现方式，请参考图1所示实施例中步骤105，此处不再赘述。

第三发送单元306，用于将所述存储器中的所述目标数据发送至Clickhouse历史集群；具体实现方式，请参考图1所示实施例中步骤106，此处不再赘述。

一种可选的实施方式中，审计系统还包括挂载单元307。挂载单元307，用于确定所述Clickhouse历史集群的节点数；确定所述目标数据的数据量；根据所述数据量和所述节点数确定所述Clickhouse历史集群中，每个节点挂载的数据量；根据每个节点挂载的数据量为所述Clickhouse历史集群挂载所述目标数据。

一种可选的实施方式中，审计系统还包括第一删除单元。第一删除单元308，用于删除所述Clickhouse集群中的所述历史数据。

一种可选的实施方式中，审计系统还包括第二删除单元。第二删除单元309，用于删除所述Clickhouse历史集群中逾期的所述目标数据。

本实施例中，审计系统可以执行前述图1中任一项所示实施例中所述的操作，具体此处不再赘述。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

本申请还提供一种存储一个或多个计算机执行指令的计算机可读存储介质，当计算机执行指令被处理器执行时，处理器执行如上述图1中任一项所示实施例中可能的实现方式的方法。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行图1所示的方法的程序代码。

根据本公开的一个或多个实施例，示例1提供了一种历史数据的管理方法，包括：

审计系统确定Clickhouse集群中需要备份的历史数据；

所述审计系统向中转服务器发送所述历史数据；

所述审计系统将所述中转服务器中的所述历史数据压缩；

所述审计系统将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

若所述审计系统接收到恢复数据的请求，所述审计系统根据所述请求确定所述历史数据中的目标数据；

所述审计系统将所述存储器中的所述目标数据发送至Clickhouse历史集群。

根据本公开的一个或多个实施例，示例2提供了示例1的方法，所述审计系统将所述存储器中的所述目标数据发送至Clickhouse历史集群之后，所述方法还包括：

所述审计系统确定所述Clickhouse历史集群的节点数；

所述审计系统确定所述目标数据的数据量；

所述审计系统根据所述数据量和所述节点数确定所述Clickhouse历史集群中，每个节点挂载的数据量；

所述审计系统根据每个节点挂载的数据量为所述Clickhouse历史集群挂载所述目标数据。

根据本公开的一个或多个实施例，示例3提供了示例1的方法，所述审计系统向中转服务器发送所述历史数据之后，所述方法还包括：

所述审计系统删除所述Clickhouse集群中的所述历史数据。

根据本公开的一个或多个实施例，示例4提供了示例1、示例2或示例3的方法，所述方法还包括：

所述审计系统删除所述Clickhouse历史集群中逾期的所述目标数据。

根据本公开的一个或多个实施例，示例5提供了一种审计系统，包括：

第一确定单元，用于确定Clickhouse集群中需要备份的历史数据；

第一发送单元，用于向中转服务器发送所述历史数据；

压缩单元，用于将所述中转服务器中的所述历史数据压缩；

第二发送单元，用于将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

第二确定单元，用于接收到恢复数据的请求时，根据所述请求确定所述历史数据中的目标数据；

第三发送单元，用于将所述存储器中的所述目标数据发送至Clickhouse历史集群。

根据本公开的一个或多个实施例，示例6提供了示例5的审计系统，所述审计系统还包括：

挂载单元，用于确定所述Clickhouse历史集群的节点数；确定所述目标数据的数据量；根据所述数据量和所述节点数确定所述Clickhouse历史集群中，每个节点挂载的数据量；根据每个节点挂载的数据量为所述Clickhouse历史集群挂载所述目标数据。

根据本公开的一个或多个实施例，示例7提供了示例5的审计系统，所述审计系统还包括：

第一删除单元，用于删除所述Clickhouse集群中的所述历史数据。

根据本公开的一个或多个实施例，示例8提供了示例5、示例6或示例7的审计系统，所述审计系统还包括：

第二删除单元，用于删除所述Clickhouse历史集群中逾期的所述目标数据。

根据本公开的一个或多个实施例，示例9提供了一种计算机可读存储介质，包括指令，当所述指令在计算机上运行时，使得计算机执行如示例1至4中任意一项所述的方法。

根据本公开的一个或多个实施例，示例10提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行如示例1至4中任一项所述的方法。

图4是本申请实施例提供的一种审计系统的结构示意图，该审计系统400可以包括一个或一个以上中央处理器(central processing units，CPU)401和存储器405，该存储器405中存储有一个或一个以上的应用程序或数据。

其中，存储器405可以是易失性存储或持久存储。存储在存储器405的程序可以包括一个或一个以上模块，每个模块可以包括对编码模块中的一系列指令操作。更进一步地，中央处理器401可以设置为与存储器405通信，在审计系统400上执行存储器405中的一系列指令操作。

审计系统400还可以包括一个或一个以上电源402，一个或一个以上有线或无线网络接口403，一个或一个以上输入输出接口404，和/或，一个或一个以上操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等。

该审计系统400或中央处理器401可以执行前述图1所示实施例中审计系统所执行的操作，具体此处不再赘述。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (7)

1.一种历史数据的管理方法，其特征在于，所述方法包括：

审计系统确定Clickhouse集群中需要备份的历史数据；

所述审计系统向中转服务器发送所述历史数据；

所述审计系统将所述中转服务器中的所述历史数据压缩；

所述审计系统将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

若所述审计系统接收到恢复数据的请求，所述审计系统根据所述请求确定所述历史数据中的目标数据；

所述审计系统将所述存储器中的所述目标数据发送至Clickhouse历史集群；

所述审计系统确定所述Clickhouse历史集群的节点数；

所述审计系统确定所述目标数据的数据量；

所述审计系统根据所述数据量和所述节点数确定所述Clickhouse历史集群中，每个节点挂载的数据量；

所述审计系统根据每个节点挂载的数据量为所述Clickhouse历史集群挂载所述目标数据。

2.根据权利要求1所述的方法，其特征在于，所述审计系统向中转服务器发送所述历史数据之后，所述方法还包括：

所述审计系统删除所述Clickhouse集群中的所述历史数据。

3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

所述审计系统删除所述Clickhouse历史集群中逾期的所述目标数据。

4.一种审计系统，其特征在于，所述审计系统包括：

第一确定单元，用于确定Clickhouse集群中需要备份的历史数据；

第一发送单元，用于向中转服务器发送所述历史数据；

压缩单元，用于将所述中转服务器中的所述历史数据压缩；

第二发送单元，用于将所述中转服务器中压缩后的所述历史数据发送至存储器，以使得所述存储器对所述历史数据进行保存；

第二确定单元，用于接收到恢复数据的请求时，根据所述请求确定所述历史数据中的目标数据；

第三发送单元，用于将所述存储器中的所述目标数据发送至Clickhouse历史集群；

挂载单元，用于确定所述Clickhouse历史集群的节点数；确定所述目标数据的数据量；根据所述数据量和所述节点数确定所述Clickhouse历史集群中，每个节点挂载的数据量；根据每个节点挂载的数据量为所述Clickhouse历史集群挂载所述目标数据。

5.根据权利要求4所述的审计系统，其特征在于，所述审计系统还包括：

第一删除单元，用于删除所述Clickhouse集群中的所述历史数据。

6.根据权利要求4或5所述的审计系统，其特征在于，所述审计系统还包括：

第二删除单元，用于删除所述Clickhouse历史集群中逾期的所述目标数据。

7.一种计算机可读存储介质，包括指令，当所述指令在计算机上运行时，使得计算机执行如权利要求1至3中任一项所述的方法。