CN113076224A - 数据备份方法、数据备份系统、电子设备及可读存储介质 - Google Patents

数据备份方法、数据备份系统、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113076224A
CN113076224A CN202110497593.7A CN202110497593A CN113076224A CN 113076224 A CN113076224 A CN 113076224A CN 202110497593 A CN202110497593 A CN 202110497593A CN 113076224 A CN113076224 A CN 113076224A
Authority
CN
China
Prior art keywords
backup
information
state information
historical
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110497593.7A
Other languages
English (en)
Other versions
CN113076224B (zh
Inventor
张娇昱
郑彩平
刘成科
宋弘毅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202110497593.7A priority Critical patent/CN113076224B/zh
Publication of CN113076224A publication Critical patent/CN113076224A/zh
Application granted granted Critical
Publication of CN113076224B publication Critical patent/CN113076224B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14—Error detection or correction of the data by redundancy in operation
    • G06F11/1402—Saving, restoring, recovering or retrying
    • G06F11/1446—Point-in-time backing up or restoration of persistent data
    • G06F11/1448—Management of the data involved in backup or backup restore
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14—Error detection or correction of the data by redundancy in operation
    • G06F11/1402—Saving, restoring, recovering or retrying
    • G06F11/1446—Point-in-time backing up or restoration of persistent data
    • G06F11/1458—Management of the backup or restore process
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据备份方法，该方法可用于金融领域、计算机技术领域或其他领域。该方法包括获取备份任务，其中，备份任务包括备份数据的备份信息，备份信息包括备份数据量信息和备份数据类型信息；获取备份状态信息，其中，备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，目标存储容器用于存储与备份任务相关联的备份数据；将备份状态信息和备份信息输入至预测模型，输出备份策略，其中，预测模型是利用训练样本数据集训练得到的；根据备份策略执行备份任务。本公开还提供了一种数据备份系统、电子设备、可读存储介质及计算机程序产品。

Description

数据备份方法、数据备份系统、电子设备及可读存储介质
技术领域
本公开涉及金融领域和计算机技术领域，更具体地，涉及一种数据备份方法、数据备份系统、电子设备、可读存储介质及计算机程序产品。
背景技术
随着金融科技发展和数据中心主机下平台建设进程，大批量的业务与应用需要部署在云平台上的容器内。鉴于容器内数据的重要性，需要对容器的数据进行备份，以对数据进行保护。
在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：现有的备份策略相对固定，固定的备份策略和庞大的备份数据量造成服务器瞬时负载过大的问题，导致数据无法及时进行备份。
发明内容
有鉴于此，本公开提供了一种数据备份方法、数据备份系统、电子设备、可读存储介质及计算机程序产品。
本公开的一个方面提供了一种数据备份方法，包括：
获取备份任务，其中，所述备份任务包括备份数据的备份信息，所述备份信息包括备份数据量信息和备份数据类型信息；
获取备份状态信息，其中，所述备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，所述目标存储容器用于存储与所述备份任务相关联的所述备份数据；
将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略，其中，所述预测模型是利用训练样本数据集训练得到的，所述训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，所述历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，所述历史备份信息包括历史备份数据量信息和历史备份数据类型信息；
根据所述备份策略执行所述备份任务。
根据本公开的实施例，所述历史网络状态信息包括历史带宽信息和历史备份数据的队列深度信息；所述历史存储容器状态信息包括历史存储容器的优先级信息。
根据本公开的实施例，该数据备份方法还包括：
根据预设时间间隔定时访问容器资源管理层，输出备份请求信息，其中，所述备份请求信息包括所述备份信息；
根据所述备份请求信息构建备份任务。
根据本公开的实施例，所述将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略包括：
将所述备份状态信息和所述备份信息进行数值化处理，输出数值特征；
根据所述数值特征确定预测备份执行时间；
根据所述备份执行时间确定与上次备份任务执行时间的初始间隔时间；
根据所述初始间隔时间与预设间隔时间确定目标间隔时间；
根据所述目标间隔时间确定目标备份执行时间；
将所述目标备份执行时间确定为所述备份策略；
输出所述备份策略。
根据本公开的实施例，所述根据所述目标时间间隔确定目标备份执行时间包括：
在所述初始间隔时间小于所述预设间隔时间的情况下，将所述初始间隔时间确定为目标间隔时间；或者
在所述预设间隔时间小于所述初始间隔时间的情况下，将所述预设间隔时间确定为目标间隔时间。
根据本公开的实施例，该数据备份方法还包括：
在所述备份任务执行完成的情况下，输出备份任务执行信息，所述备份任务执行信息包括所述备份任务的备份时长信息、备份速率信息和备份执行情况信息。
根据本公开的实施例，该数据备份方法还包括：
根据所述备份任务执行信息，优化所述预测模型。
根据本公开的实施例，利用训练样本数据集训练得到所述预测模型包括：
将所述训练样本数据集划分为训练集和验证集；
将所述训练集输入所述待训练的预测模型进行模型训练，得到初始预测模型；
将所述验证集输入所述初始预测模型进行验证，输出验证结果；
在所述验证结果不满足迭代停止条件的情况下，继续对所述预测模型进行迭代训练和验证，直到所述验证结果符合迭代停止条件，得到最终的所述预测模型。
本公开的另一个方面提供了一种数据备份系统，包括：
第一获取模块，用于获取备份任务，其中，所述备份任务包括备份数据的备份信息，所述备份信息包括备份数据量信息和备份数据类型信息；
第二获取模块，用于获取备份状态信息，其中，所述备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，所述目标存储容器用于存储与所述备份任务相关联的所述备份数据；
第一输出模块，用于将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略，其中，所述预测模型是利用训练样本数据集训练得到的，所述训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，所述历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，所述历史备份信息包括历史备份数据量信息和历史备份数据类型信息；
执行模块，用于根据所述备份策略执行所述备份任务。
本公开的另一方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个指令，其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例，根据备份状态信息和备份数据信息，基于预测模型生成备份策略，并根据备份策略执行备份任务。由于备份策略是结合备份状态信息和备份数据信息的多维信息生成的，因此能够生成更加灵活的备份策略，根据该备份策略能够有效管理大规模容器部署下的备份管理工作，至少部分克服了相关技术中采用固定备份策略造成的服务器瞬时负载过大的问题。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本公开实施例的可以应用数据备份方法的示例性系统架构。
图2示意性示出了根据本公开实施例的数据备份方法的流程图。
图3示意性示出了根据本公开实施例的备份策略的生成方法示意图。
图4示意性示出了根据本公开实施例的数据备份方法的示意图。
图5示意性示出了根据本公开实施例的预测模型的训练方法示意图。
图6示意性示出了根据本公开的实施例的数据备份系统的框图。
图7示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
随着金融科技发展和数据中心主机下平台建设进程，大批量的业务与应用需要部署在云平台上的容器内。鉴于容器内数据的重要性，需要对容器的数据进行备份，以对数据进行保护。
相关技术中，在进行数据备份时，需要备份管理人员根据容器申请、数据库使用等实际使用信息，手动创建备份策略，并按经验设定备份频率。该方法需要备份管理人员逐个确认容器、数据库情况并设置备份策略，运维人力耗费巨大。或者，根据容器、服务器的规划使用方案，进行备份策略的批量建立，并统一导入。该方法的备份窗口时间往往集中在固定时间段，窗口时间内的服务器与网络负载较高，导致数据进行备份容易出现问题。
在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：相关的备份方法耗费成本较大，且备份策略相对固定，固定的备份策略和庞大的备份数据量造成服务器瞬时负载过大的问题，导致数据无法及时进行备份。
本公开的实施例提供了一种数据备份方法、数据备份系统、电子设备、可读存储介质及计算机程序产品。本公开实施例提供的数据备份方法、数据备份系统、电子设备、可读存储介质及计算机程序产品可用于金融领域和计算机技术领域，也可以应用于除金融领域和计算机技术领域的其他技术领域，本公开对数据备份方法、数据备份系统、电子设备、可读存储介质及计算机程序产品的应用领域不做限定。
该数据备份方法包括获取备份任务，其中，备份任务包括备份数据的备份信息，备份信息包括备份数据量信息和备份数据类型信息；获取备份状态信息，其中，备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，目标存储容器用于存储与备份任务相关联的备份数据；将备份状态信息和备份信息输入至预测模型，输出备份策略，其中，预测模型是利用训练样本数据集训练得到的，训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，历史备份信息包括历史备份数据量信息和历史备份数据类型信息；根据备份策略执行备份任务。
图1示意性示出了根据本公开实施例的可以应用数据备份方法的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等，以实现数据备份。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是，本公开实施例所提供的数据备份方法一般可以由服务器105执行。相应地，本公开实施例所提供的数据备份系统一般可以设置于服务器105中。本公开实施例所提供的数据备份方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据备份系统也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者，本公开实施例所提供的数据备份方法也可以由终端设备101、102、或103执行，或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地，本公开实施例所提供的数据备份系统也可以设置于终端设备101、102、或103中，或设置于不同于终端设备101、102、或103的其他终端设备中。
例如，待备份数据可以原本存储在终端设备101、102、或103中的任意一个(例如，终端设备101，但不限于此)之中，或者存储在外部存储设备上并可以导入到终端设备101中。然后，终端设备101可以在本地执行本公开实施例所提供的数据备份方法，或者将待备份数据发送到其他终端设备、服务器、或服务器集群，并由接收该待备份数据的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的数据备份方法。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据备份方法的流程图。
如图2所示，该方法包括操作S201～S204。
在操作S201，获取备份任务，其中，备份任务包括备份数据的备份信息，备份信息包括备份数据量信息和备份数据类型信息。
根据本公开的实施例，备份数据量信息例如可以包括需要备份数据的大小等信息。备份数据类型信息例如可以包括应用的运行信息、系统运行信息、维护信息等。本公开对备份数据的类型不做限定。
根据本公开的实施例，根据本公开的实施例，备份任务例如可以由电子设备进行获取，电子设备可以包括终端设备，终端设备可以包括智能手机、平板电脑、便携计算机或台式计算机等。
在操作S202，获取备份状态信息，其中，备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，目标存储容器用于存储与备份任务相关联的备份数据。
根据本公开的实施例，目标存储容器的网络状态信息例如可以包括网络健康状态信息，网络健康状态信息例如可以包括网络速度、当前容器资源池与存储资源池之间的可用宽带信息等。存储容器状态信息例如可以包括容器健康状况信息，容器健康状况信息例如可以包括存储容器的使用情况、开关状态等信息。
在操作S203，将备份状态信息和备份信息输入至预测模型，输出备份策略，其中，预测模型是利用训练样本数据集训练得到的，训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，历史备份信息包括历史备份数据量信息和历史备份数据类型信息。
根据本公开的实施例，备份策略例如可以包括备份方式、备份时间和备份频率等。备份方式例如可以包括全量备份方式和增量备份方式等。备份时间例如可以包括执行备份任务的时间等。备份频率例如可以包括每7天进行一次备份等，也可以是每10天或30天进行一次备份。需要说明的是，上述实施例仅为示意性实施例，本公开对备份方式、备份时间和备份频率不做限定。
根据本公开的实施例，历史备份状态信息例如可以是已经备份完成的备份任务的备份状态信息。历史备份信息例如可以是已经备份完成的备份任务的备份信息。
在操作S204，根据备份策略执行备份任务。
根据本公开的实施例，根据备份状态信息和备份数据信息，基于预测模型生成备份策略，并根据备份策略执行备份任务。由于备份策略是结合备份状态信息和备份数据信息的多维信息生成的，因此能够生成更加灵活的备份策略，根据该备份策略能够有效管理大规模容器部署下的备份管理工作，有效克服相关技术中采用固定备份策略造成的服务器瞬时负载过大的问题。
需要说明的是，本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序，或者不同操作在技术实现上存在执行的先后顺序，否则，多个操作之间的执行顺序可以不分先后，多个操作也可以同时执行。
根据本公开的实施例，历史网络状态信息包括历史带宽信息和历史备份数据的队列深度信息；历史存储容器状态信息包括历史存储容器的优先级信息。
根据本公开的实施例，队列深度信息例如可以包括当前备份任务的队列信息。例如，以备份队列中包括十个备份任务，当前备份任务位于第七个备份任务的位置，则当前备份任务的队列深度信息即为7。需要说明的是，上述实施例仅为示意性实施例，根据具体实现需要，也可以是其他能够达到相同技术效果的队列深度信息形式。
根据本公开的实施例，存储容器的优先级信息例如可以包括预设的存储容器的调用顺序信息等，本公开对存储容器的优先级信息不做限定。
根据本公开的实施例，该数据备份方法还包括：根据预设时间间隔定时访问容器资源管理层，输出备份请求信息，其中，备份请求信息包括备份信息；根据备份请求信息构建备份任务。
根据本公开的实施例，预设时间间隔例如可以包括一天、7天或30天等。根据具体实现需要，也可以是其他任意预设时间间隔。本公开对预设时间间隔不做限定。
根据本公开的实施例，根据备份任务的实际需求，可灵活设置预设时间间隔，既能够保证备份请求信息的及时获取，构建备份任务，又能够节省运行资源，降低成本。
根据本公开的实施例，将备份状态信息和备份信息输入至预测模型，输出备份策略包括：
将备份状态信息和备份信息进行数值化处理，输出数值特征；根据数值特征确定预测备份执行时间；根据备份执行时间确定与上次备份任务执行时间的初始间隔时间；根据初始间隔时间与预设间隔时间确定目标间隔时间；根据目标间隔时间确定目标备份执行时间；将目标备份执行时间确定为备份策略；输出备份策略。
根据本公开的实施例，在对备份状态信息和备份信息进行数值化处理时，例如可以根据预设规则将存储容器的优先级信息和备份数据类型信息转换为数值标识。预设间隔时间例如可以是根据具体实现需要设定的间隔时间，也可以是历史备份任务中间隔时间最长的间隔时间，本公开对预设间隔时间不做限定。
根据本公开的实施例，根据目标时间间隔确定目标备份执行时间包括：
在初始间隔时间小于预设间隔时间的情况下，将初始间隔时间确定为目标间隔时间；或者
在预设间隔时间小于初始间隔时间的情况下，将预设间隔时间确定为目标间隔时间。
图3示意性示出了根据本公开实施例的备份策略的生成方法示意图。
如图3所示，首先获取备份状态信息和备份信息，将备份状态信息和备份信息输入至预测模型中，预测模型根据备份状态信息和备份信息生成备份策略，以得到初始间隔时间。将初始间隔时间与预设间隔时间进行对比，在初始间隔时间小于预设间隔时间的情况下，将初始间隔时间确定为目标间隔时间；或者在预设间隔时间小于初始间隔时间的情况下，将预设间隔时间确定为目标间隔时间。最后将目标间隔时间作为备份策略输出。
根据本公开的实施例，该数据备份方法还包括：
在备份任务执行完成的情况下，输出备份任务执行信息，备份任务执行信息包括备份任务的备份时长信息、备份速率信息和备份执行情况信息。
根据本公开的实施例，在备份任务执行完成之后，输出备份时长信息、备份速率信息和备份执行情况信息等，能够将该备份任务的执行情况进行记录，以便为后续工作提供数据支持。
根据本公开的实施例，该数据备份方法还包括：根据备份任务执行信息，优化预测模型。
根据本公开的实施例，在完成每次备份任务之后，根据该备份任务的执行信息优化预测模型，以使预测模型能够预测出更加准确的备份策略。
图4示意性示出了根据本公开实施例的数据备份方法的示意图。
如图4所示，本公开实施例的数据备份方法可以由网络信息获取装置、备份收集装置、预测模型装置、备份管理装置、容器资源池和对象存储池执行。
具体的，网络信息获取装置获取备份状态信息，并将备份状态信息输出至备份收集装置。备份收集装置定时访问容器资源池，在有新的备份任务的情况下，获取备份请求信息。备份收集装置将备份状态信息和备份信息输出至预测模型装置。预测模型装置根据备份状态信息和备份信息，利用预测模型得到备份策略，并将备份策略输出至备份收集装置。备份福安里装置获取备份策略，执行备份任务。备份任务执行完毕后，输出备份任务执行信息，以优化预测模型。
根据本公开的实施例，利用训练样本数据集训练得到预测模型包括：将训练样本数据集划分为训练集和验证集；将训练集输入待训练的预测模型进行模型训练，得到初始预测模型；将验证集输入初始预测模型进行验证，输出验证结果；在验证结果不满足迭代停止条件的情况下，继续对预测模型进行迭代训练和验证，直到验证结果符合迭代停止条件，得到最终的预测模型。
根据本公开的实施例，再将训练样本数据输入至预测模型之前，需要对数据进行数值化处理，例如，在对备份状态信息和备份信息进行数值化处理时，例如可以根据预设规则将存储容器的优先级信息和备份数据类型信息转换为数值标识。
根据本公开的实施例，迭代停止条件例如可以包括预测模型的结果趋于稳定不在降低。再对训练样本数据集进行划分时例如可以按照四比一的比例将训练样本数据集划分为训练集和验证集。在预测模型训练时，可将上次备份任务的实际执行时间和备份速率作为训练标签。
根据本公开的实施例，预测模型为有监督的机器学习模型，特征包括备份状态信息和备份信息等。训练标签包括历史备份任务的实际执行时间和备份速率等。在没有历史数据的情况下，可以采经验数据。
本公开实施例的预测模型训练的代价方程为：
Figure BDA0003053863380000121
其中，w(θ)为特征集合，
Figure BDA0003053863380000131
为模型预测值，yexp为经验值，yr为备份任务执行信息的值，λ为参数常量。
图5示意性示出了根据本公开实施例的预测模型的训练方法示意图。
如图5所示，首先获取训练样本数据集，将训练样本数据集输入至预测模型进行训练，最终输出验证结果。在验证结果不满足迭代停止条件的情况下，继续对预测模型进行迭代训练和验证，直到验证结果符合迭代停止条件，得到最终的预测模型。
图6示意性示出了根据本公开的实施例的数据备份系统的框图。
如图6所示，数据备份系统600包括第一获取模块601、第二获取模块602、第一输出模块603和执行模块604。
第一获取模块601，用于获取备份任务，其中，备份任务包括备份数据的备份信息，备份信息包括备份数据量信息和备份数据类型信息；
第二获取模块602，用于获取备份状态信息，其中，备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，目标存储容器用于存储与备份任务相关联的备份数据；
第一输出模块603，用于将备份状态信息和备份信息输入至预测模型，输出备份策略，其中，预测模型是利用训练样本数据集训练得到的，训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，历史备份信息包括历史备份数据量信息和历史备份数据类型信息；
执行模块604，用于根据备份策略执行备份任务。
根据本公开的实施例，根据备份状态信息和备份数据信息，基于预测模型生成备份策略，并根据备份策略执行备份任务。由于备份策略是结合备份状态信息和备份数据信息的多维信息生成的，因此能够生成更加灵活的备份策略，根据该备份策略能够有效管理大规模容器部署下的备份管理工作，至少部分克服了相关技术中采用固定备份策略造成的服务器瞬时负载过大的问题。
根据本公开的实施例，历史网络状态信息包括历史带宽信息和历史备份数据的队列深度信息；历史存储容器状态信息包括历史存储容器的优先级信息。
根据本公开的实施例，该数据备份系统600还包括访问模块和构建模块。
访问模块，用于根据预设时间间隔定时访问容器资源管理层，输出备份请求信息，其中，备份请求信息包括备份信息。
构建模块，用于根据备份请求信息构建备份任务。
根据本公开的实施例，输出模块包括数值化单元、第一确定单元、第二确定单元、第三确定单元、第四确定单元、第五确定单元和输出单元。
数值化单元，用于将备份状态信息和备份信息进行数值化处理，输出数值特征。
第一确定单元，用于根据数值特征确定预测备份执行时间。
第二确定单元，用于根据备份执行时间确定与上次备份任务执行时间的初始间隔时间。
第三确定单元，用于根据初始间隔时间与预设间隔时间确定目标间隔时间。
第四确定单元，用于根据目标间隔时间确定目标备份执行时间。
第五确定单元，用于将目标备份执行时间确定为备份策略。
输出单元，用于输出备份策略。
根据本公开的实施例，第四确定单元包括第一确定子单元和第二确定子单元。
第一确定子单元，用于在初始间隔时间小于预设间隔时间的情况下，将初始间隔时间确定为目标间隔时间。
第二确定子单元，用于在预设间隔时间小于初始间隔时间的情况下，将预设间隔时间确定为目标间隔时间。
根据本公开的实施例，该数据备份系统600还包括第二输出模块。
第二输出模块，用于在备份任务执行完成的情况下，输出备份任务执行信息，备份任务执行信息包括备份任务的备份时长信息、备份速率信息和备份执行情况信息。
根据本公开的实施例，该数据备份系统600还包括优化模块。
优化模块，用于根据备份任务执行信息，优化预测模型。
根据本公开的实施例，该数据备份系统600还包括划分模块、训练模块、验证模块和迭代模块。
划分模块，用于将训练样本数据集划分为训练集和验证集。
训练模块，用于将训练集输入待训练的预测模型进行模型训练，得到初始预测模型。
验证模块，用于将验证集输入初始预测模型进行验证，输出验证结果。
迭代模块，用于在验证结果不满足迭代停止条件的情况下，继续对预测模型进行迭代训练和验证，直到验证结果符合迭代停止条件，得到最终的预测模型。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
例如，第一获取模块601、第二获取模块602、第一输出模块603和执行模块604中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，第一获取模块601、第二获取模块602、第一输出模块603和执行模块604中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一获取模块601、第二获取模块602、第一输出模块603和执行模块604中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
需要说明的是，本公开的实施例中数据备份系统部分与本公开的实施例中数据备份方法部分是相对应的，数据备份系统部分的描述具体参考数据备份方法部分，在此不再赘述。
图7示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。图7示出的计算机系统仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示，根据本公开实施例的计算机系统700包括处理器701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中，存储有系统700操作所需的各种程序和数据。处理器701、ROM 702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，程序也可以存储在除ROM 702和RAM703以外的一个或多个存储器中。处理器701也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，系统700还可以包括输入/输出(I/O)接口705，输入/输出(I/O)接口705也连接至总线704。系统700还可以包括连接至I/O接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。
根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的数据备份方法。
在该计算机程序被处理器701执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分709被下载和安装，和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种数据备份方法，包括：
获取备份任务，其中，所述备份任务包括备份数据的备份信息，所述备份信息包括备份数据量信息和备份数据类型信息；
获取备份状态信息，其中，所述备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，所述目标存储容器用于存储与所述备份任务相关联的所述备份数据；
将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略，其中，所述预测模型是利用训练样本数据集训练得到的，所述训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，所述历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，所述历史备份信息包括历史备份数据量信息和历史备份数据类型信息；
根据所述备份策略执行所述备份任务。
2.根据权利要求1所述的方法，其中，所述历史网络状态信息包括历史带宽信息和历史备份数据的队列深度信息；所述历史存储容器状态信息包括历史存储容器的优先级信息。
3.根据权利要求1所述的方法，还包括：
根据预设时间间隔定时访问容器资源管理层，输出备份请求信息，其中，所述备份请求信息包括所述备份信息；
根据所述备份请求信息构建备份任务。
4.根据权利要求1所述的方法，其中，所述将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略包括：
将所述备份状态信息和所述备份信息进行数值化处理，输出数值特征；
根据所述数值特征确定预测备份执行时间；
根据所述备份执行时间确定与上次备份任务执行时间的初始间隔时间；
根据所述初始间隔时间与预设间隔时间确定目标间隔时间；
根据所述目标间隔时间确定目标备份执行时间；
将所述目标备份执行时间确定为所述备份策略；
输出所述备份策略。
5.根据权利要求4所述的方法，其中，所述根据所述目标时间间隔确定目标备份执行时间包括：
在所述初始间隔时间小于所述预设间隔时间的情况下，将所述初始间隔时间确定为目标间隔时间；或者
在所述预设间隔时间小于所述初始间隔时间的情况下，将所述预设间隔时间确定为目标间隔时间。
6.根据权利要求1所述的方法，还包括：
在所述备份任务执行完成的情况下，输出备份任务执行信息，所述备份任务执行信息包括所述备份任务的备份时长信息、备份速率信息和备份执行情况信息。
7.根据权利要求6所述的方法，还包括：
根据所述备份任务执行信息，优化所述预测模型。
8.根据权利要求1所述的方法，其中，利用训练样本数据集训练得到所述预测模型包括：
将所述训练样本数据集划分为训练集和验证集；
将所述训练集输入所述待训练的预测模型进行模型训练，得到初始预测模型；
将所述验证集输入所述初始预测模型进行验证，输出验证结果；
在所述验证结果不满足迭代停止条件的情况下，继续对所述预测模型进行迭代训练和验证，直到所述验证结果符合迭代停止条件，得到最终的所述预测模型。
9.一种数据备份系统，包括：
第一获取模块，用于获取备份任务，其中，所述备份任务包括备份数据的备份信息，所述备份信息包括备份数据量信息和备份数据类型信息；
第二获取模块，用于获取备份状态信息，其中，所述备份状态信息包括目标存储容器的网络状态信息和存储容器状态信息，所述目标存储容器用于存储与所述备份任务相关联的所述备份数据；
第一输出模块，用于将所述备份状态信息和所述备份信息输入至预测模型，输出备份策略，其中，所述预测模型是利用训练样本数据集训练得到的，所述训练样本数据集中的训练样本包括历史备份状态信息和历史备份信息，所述历史备份状态信息包括历史网络状态信息和历史存储容器状态信息，所述历史备份信息包括历史备份数据量信息和历史备份数据类型信息；
执行模块，用于根据所述备份策略执行所述备份任务。
10.一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个指令，
其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至8中任一项所述的方法。
11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至8中任一项所述的方法。
12.一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现权利要求1至8中任一项所述的方法。
CN202110497593.7A 2021-05-07 2021-05-07 数据备份方法、数据备份系统、电子设备及可读存储介质 Active CN113076224B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110497593.7A CN113076224B (zh) 2021-05-07 2021-05-07 数据备份方法、数据备份系统、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110497593.7A CN113076224B (zh) 2021-05-07 2021-05-07 数据备份方法、数据备份系统、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113076224A true CN113076224A (zh) 2021-07-06
CN113076224B CN113076224B (zh) 2024-02-27

Family

ID=76616291

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110497593.7A Active CN113076224B (zh) 2021-05-07 2021-05-07 数据备份方法、数据备份系统、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN113076224B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114138554A (zh) * 2021-11-22 2022-03-04 深圳市远飞网络科技有限公司 无线ap配置信息备份及系统恢复控制系统
WO2024041119A1 (zh) * 2022-08-23 2024-02-29 华为技术有限公司 数据备份方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090083345A1 (en) * 2007-09-26 2009-03-26 Hitachi, Ltd. Storage system determining execution of backup of data according to quality of WAN
CN110058958A (zh) * 2018-01-18 2019-07-26 伊姆西Ip控股有限责任公司 用于管理数据备份的方法、设备和计算机程序产品
CN112612644A (zh) * 2020-12-24 2021-04-06 深圳市科力锐科技有限公司 主机数据备份方法、设备、存储介质及装置
CN112685170A (zh) * 2019-10-18 2021-04-20 伊姆西Ip控股有限责任公司 备份策略的动态优化

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090083345A1 (en) * 2007-09-26 2009-03-26 Hitachi, Ltd. Storage system determining execution of backup of data according to quality of WAN
CN110058958A (zh) * 2018-01-18 2019-07-26 伊姆西Ip控股有限责任公司 用于管理数据备份的方法、设备和计算机程序产品
CN112685170A (zh) * 2019-10-18 2021-04-20 伊姆西Ip控股有限责任公司 备份策略的动态优化
CN112612644A (zh) * 2020-12-24 2021-04-06 深圳市科力锐科技有限公司 主机数据备份方法、设备、存储介质及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114138554A (zh) * 2021-11-22 2022-03-04 深圳市远飞网络科技有限公司 无线ap配置信息备份及系统恢复控制系统
WO2024041119A1 (zh) * 2022-08-23 2024-02-29 华为技术有限公司 数据备份方法和装置

Also Published As

Publication number Publication date
CN113076224B (zh) 2024-02-27

Similar Documents

Publication Publication Date Title
CN109408205B (zh) 基于hadoop集群的任务调度方法和装置
EP4009170B1 (en) Data management
CN113076224B (zh) 数据备份方法、数据备份系统、电子设备及可读存储介质
CN114037293A (zh) 任务分配方法、装置、计算机系统及介质
CN115373822A (zh) 任务调度方法、任务处理方法、装置、电子设备和介质
CN113132400B (zh) 业务处理方法、装置、计算机系统及存储介质
CN113495825A (zh) 线路告警的处理方法、装置、电子设备及可读存储介质
CN113535726A (zh) 数据库扩容方法及装置
CN112965916A (zh) 页面测试方法、页面测试装置、电子设备及可读存储介质
CN114237765B (zh) 功能组件处理方法、装置、电子设备和介质
CN116360937A (zh) 任务调度方法、装置、设备及存储介质
CN115408297A (zh) 测试方法、装置、设备及介质
CN115760013A (zh) 运维模型的构建方法、装置、电子设备及存储介质
CN115080434A (zh) 案例执行方法、装置、设备和介质
CN114218283A (zh) 异常检测方法、装置、设备、介质
CN114647499A (zh) 异步作业任务并发控制方法、装置、电子设备和存储介质
CN113688160A (zh) 数据处理方法、处理装置、电子设备及存储介质
CN113723892A (zh) 数据处理方法、装置、电子设备及存储介质
CN113326079A (zh) 服务版本切换方法、切换装置、电子设备和存储介质
CN113781154A (zh) 一种信息回滚方法、系统、电子设备及存储介质
CN114721882B (zh) 数据备份方法、装置、电子设备及存储介质
CN113419922A (zh) 主机批量作业运行数据的处理方法及装置
CN114268558B (zh) 监控图的生成方法、装置、设备、介质
CN114218198A (zh) 业务信息迁移方法、装置、设备及介质
CN114218160A (zh) 日志处理方法、装置、电子设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant