CN117931769A - 数据迁移方法、装置、计算机设备和存储介质 - Google Patents
数据迁移方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN117931769A CN117931769A CN202311736039.5A CN202311736039A CN117931769A CN 117931769 A CN117931769 A CN 117931769A CN 202311736039 A CN202311736039 A CN 202311736039A CN 117931769 A CN117931769 A CN 117931769A
- Authority
- CN
- China
- Prior art keywords
- cluster
- data
- main
- real
- standby
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000013508 migration Methods 0.000 title claims abstract description 40
- 230000005012 migration Effects 0.000 title claims abstract description 40
- 230000005540 biological transmission Effects 0.000 claims abstract description 43
- 238000004590 computer program Methods 0.000 claims abstract description 30
- 238000012545 processing Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000010076 replication Effects 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种数据迁移方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括:在主集群发生故障时,获取所述主集群对应的备集群的属性信息;将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。采用本方法能够提高数据仓库稳定性。
Description
技术领域
本申请涉及大数据技术领域,特别是涉及一种数据迁移方法、装置、计算机设备、存储介质和计算机程序产品。
背景技术
随着数据库集群的发展,数据仓库的数据容量越来越大,随着数据量的暴增和数据实时性要求越来越高,导致集群中的数据库节点发生故障或者长时间停机操作,造成服务中断的问题,影响数据仓库的可用性。
传统技术中,在数据仓库发生故障时,即主数据库宕机或者发生故障时,在主集群中,确定与该主数据库所处的主节点对应的备节点,并将主节点中的未提交的事务和最新的数据更新同步到备节点,将其他节点与主节点之间的连接信息更新为与备节点相连接的信息。
然而,目前传统技术中,由于在主集群的全部节点均不可用时,导致备节点也不可用,无法实现对主集群的主节点进行主备切换,导致数据仓库稳定性较差。
发明内容
基于此,有必要针对上述技术问题,提供一种数据迁移方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种数据迁移方法,包括:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
在其中一个实施例中,所述在主集群发生故障时,获取所述主集群对应的备集群的属性信息之前,所述方法还包括:
向主集群发送并实时获取心跳信号;
基于所述主集群的心跳信号确定主集群的延迟信息,当所述延迟信息大于预设阈值时,将所述延迟信息进行展示于显示页面并发送告警信息。
在其中一个实施例中,所述将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群,包括:
按照预设数据格式,对所述主集群中的历史数据进行导出,并根据所述属性信息中的标识确定备集群,并将导出后的所述历史数据按照预设数据格式传输至所述备集群;
获取实时数据,将所述实时数据存储至预设存储空间,并指示所述备集群启动实时程序;所述实时程序用于所述备集群实时接收所述实时数据。
在其中一个实施例中,所述将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输,包括:
将所述主集群对应的副集群的第一连接信息更新为所述备集群对应的第二连接信息;
指示所述备集群向所述副集群进行数据同步,完成所述主集群向所述备集群的业务流量迁移。
在其中一个实施例中,所述方法还包括:
当所述主集群恢复为正常运行状态时,将实时数据同步回所述主集群,以所述主集群为数据源,对所述副集群进行实时数据传输。
在其中一个实施例中,所述在主集群发生故障时,获取所述主集群对应的备集群的属性信息之前,所述方法还包括:
在主集群正常运行时,按照第一预设周期,将所述主集群的全量数据备份至所述备集群;
按照第二预设周期,将所述主集群的增量数据备份至所述备集群。
第二方面,本申请还提供了一种数据迁移装置,包括:
获取模块,用于在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
第一传输模块,用于将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
第二传输模块,用于将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
在其中一个实施例中,所述装置还包括:
发送模块,用于向主集群发送并实时获取心跳信号;
告警模块,用于基于所述主集群的心跳信号确定主集群的延迟信息,当所述延迟信息大于预设阈值时,将所述延迟信息进行展示于显示页面并发送告警信息。
在其中一个实施例中,所述第一传输模块具体用于按照预设数据格式,对所述主集群中的历史数据进行导出,并根据所述属性信息中的标识确定备集群,并将导出后的所述历史数据按照预设数据格式传输至所述备集群;
获取实时数据,将所述实时数据存储至预设存储空间,并指示所述备集群启动实时程序;所述实时程序用于所述备集群实时接收所述实时数据。
在其中一个实施例中,所述传输模块具体用于将所述主集群对应的副集群的第一连接信息更新为所述备集群对应的第二连接信息;
指示所述备集群向所述副集群进行数据同步,完成所述主集群向所述备集群的业务流量迁移。
在其中一个实施例中,所述装置还包括:
第三传输模块,用于当所述主集群恢复为正常运行状态时,将实时数据同步回所述主集群,以所述主集群为数据源,对所述副集群进行实时数据传输。
在其中一个实施例中,所述装置还包括:
第一备份模块,用于在主集群正常运行时,按照第一预设周期,将所述主集群的全量数据备份至所述备集群;
第二备份模块,用于按照第二预设周期,将所述主集群的增量数据备份至所述备集群。
第三方面,本申请还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
第四方面,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
第五方面,本申请还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
上述数据迁移方法、装置、计算机设备、存储介质和计算机程序产品,在主集群发生故障时,获取主集群对应的备集群的属性信息;将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;将所述备集群作为副集群新的数据源,接管所述主集群服务,对所述副集群进行实时数据传输。采用本方法,通过在集群维度对主集群和备集群进行切换,在主集群的全部节点均宕机时,可以实现数据仓库的高可用性,提高数据仓库的稳定性。
附图说明
为了更清楚地说明本申请实施例或相关技术中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中数据迁移方法的应用环境图;
图2为一个实施例中数据迁移方法的流程示意图;
图3为一个实施例中确定主集群状态的步骤的流程示意图;
图4为一个实施例中历史数据迁移和实时数据迁移的流程示意图;
图5为一个实施例中切换数据源步骤的流程示意图;
图6为一个实施例中主集群正常状态的备份步骤的流程示意图
图7为一个实施例中数据迁移装置的结构框图;
图8为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的数据迁移方法,可以应用于如图1所示的应用环境中。其中,主集群终端102通过网络与备集群104和副集群106进行通信。在主集群发生故障时,主集群终端102获取主集群对应的备集群104的属性信息;主集群终端102将主集群中的历史数据进行导出,根据属性信息将历史数据传输至属性信息对应的备集群104,并获取主集群中的实时数据,将实时数据传输至备集群104;主集群终端102将备集群104作为副集群106新的数据源,接管主集群服务,对副集群106进行实时数据传输。
在一个示例性的实施例中,如图2所示,提供了一种数据迁移方法,以该方法应用于图1中的主集群终端102为例进行说明,包括以下步骤202至步骤206。其中:
步骤202,在主集群发生故障时,获取主集群对应的备集群的属性信息。
本申请实施例中,主集群为基于MPP(Massively Parallel Processing,大规模并行处理)技术的数据仓库,主集群可以包括多个数据库节点。当主集群发生故障时,运维人员可以手动开启主集群的主备切换,并输入主集群对应的备集群的属性信息,主集群的终端可以后去主集群对应的备集群的属性信息。例如,运维人员可以通过配置文件、管理工具或命令行接口等方式,获取备集群的属性信息,该属性信息可能包括备集群的唯一标识符、网络配置信息(如IP地址、端口号)、健康状态等。然后,运维人员将备集群的属性信息输入到主集群的终端中,则终端可以确定作为新的主集群的备集群。
在一个可选的实施例中,备集群可以有多个,终端可以根据每个备集群的属性信息确定目标备集群,例如,终端可以根据备集群的配置和性能来确定备集群,包括硬件配置、存储容量、处理能力以及网络带宽等方面的参数,以确保备集群具备足够的性能和资源来承担主集群发生故障时的工作负载;终端还可以根据主集群和备集群之间的网络连接情况,确保备集群与主集群之间的连接稳定可靠,网络延迟较低,以便及时进行数据同步和切换操作。
在一个可选的实施例中,终端可以根据主集群中数据传输的延迟与预设延迟阈值之间的关系,自主开启主备切换。
步骤204,将主集群中的历史数据进行导出,根据属性信息将历史数据传输至属性信息对应的备集群,并获取主集群中的实时数据,将实时数据传输至备集群。
本申请实施例中,当主集群延迟超过预设的承受范围或者主集群即将有长时间停机操作时,终端可以主动或被动进行主备切换,通过连接自服务平台的终端进行主备切换,其中,自服务平台为主集群和备集群的实时运维程序,可以对主集群和备集群开启、停止主备切换,或者执行回溯操作等。终端根据预设的数据导出工具或根据查询命令,从主集群中导出历史数据,并在完成历史数据的导出后,完成针对实时数据的迁移,其中,历史数据迁移为在切换过程中,终端将主集群中在切换时刻之前的所有历史数据进行迁移;实时数据迁移指在切换完成之后,备集群需要与主集群实时保持数据一致的过程,终端进行实时数据回溯,并将实时数据迁移至备集群。
具体地,终端在进行主集群和备集群的主备切换中,可以将自服务平台中作为主集群的唯一标识符或网络配置信息等属性信息,更新为备集群对应的属性信息,实现主备切换。在备集群为多个的情况下,终端根据备集群的服务可用性情况来确定连接的备集群,即只有在备集群处于可用状态时,主集群才会将其作为连接备用的目标。
在一个可选的实施例中,主集群接收Kafka(一种分布式流媒体平台)的实时数据,主集群和备集群中均包含实时程序,该实时程序用于消费Kafka的数据并实时写入数据库中,当主集群将历史数据传输至备集群后,主集群将实时数据关停并指示备集群启动实时程序,用于实时接收Kafka的数据。
步骤206,将备集群作为副集群新的数据源,接管主集群的服务,对副集群进行实时数据传输。
本申请实施例中,终端将备集群切换为新的数据源,通过更新主集群与副集群的连接设置或配置文件,确保副集群连接到备集群,以获取备集群的实时数据,实现备集群接管主集群服务并对副集群进行实时数据传输。可选的,针对实时数据传输,可以使用数据库复制,若主集群和副集群使用数据库作为数据存储,可以配置主备数据库之间的复制机制,以实现实时数据传输;消息队列,使用消息队列系统,如Kafka等,将主集群产生的实时数据发送到副集群进行消费和处理;基于网络传输:或者,通过网络传输工具将主集群产生的实时数据复制到副集群上。
上述数据迁移方法中,通过在集群维度对主集群和备集群进行主备切换,在主集群的全部节点均宕机时,可以实现数据仓库的高可用性,提高数据仓库的稳定性。
在一个示例性的实施例中,如图3所示,步骤202之前,该方法还包括步骤302至步骤304。其中:
步骤302,向主集群发送并实时获取心跳信号。
本申请实施例中,终端定期发送心跳信号到主集群,以监测主集群的运行状况。这些心跳信号可以是网络通信包、特定数据包或者类似的机制,用于确认主集群的存活状态。
步骤304,基于主集群的心跳信号确定主集群的延迟信息,当延迟信息大于预设阈值时,将延迟信息进行展示于显示页面并发送告警信息。
本申请实施例中,一旦监测到主集群存在大批量的数据延迟情况,终端会触发监控告警系统,例如,终端通过接收主集群的心跳信号确定主集群的延迟信息,在该延迟信息大于预设阈值时,终端可以在可视化页面上显示相关监控信息,包括延迟情况、主集群状态等,并通过图表、指标等形式直观展示,以便相关人员随时监控集群情况,或者,还可以通过配置的方式发送告警信息给相关人员,比如通过邮件、短信、即时通讯工具等渠道,及时通知他们主集群的运行状况以及可能的延迟情况。
本实施例中,在发生大批量数据延迟情况时,通过可视化页面监控和发送告警信息相结合的方式,确保相关人员能及时发现并响应集群情况,从而保障集群的正常运行和业务的连续性。
在一个示例性的实施例中,如图4所示,步骤204包括步骤402至步骤404。其中:
步骤402,按照预设数据格式,对主集群中的历史数据进行导出,并根据属性信息中的标识确定备集群,并将导出后的历史数据按照预设数据格式传输至备集群。
本申请实施例中,终端在执行历史数据迁移之前,需要对主集群的历史数据进行备份,防止在数据迁移过程中造成数据丢失。然后,终端通过数据库备份工具将主集群中的历史数据按照预设数据格式进行导出,并根据获取到的备集群的属性信息的标识,确定用于接收历史数据的备集群,其中,终端可以根据标识值与备集群的映射关系,确定备集群的唯一标识。终端将导出的历史数据通过网络传输、存储设备传输等方式,传输至备集群。可选的,终端完成针对历史数据的迁移后,终端可以对导出的历史数据进行验证,例如,通过数据校验工具或对比算法验证导出的历史数据的准确性。
步骤404,获取实时数据,将实时数据存储至预设存储空间,并指示备集群启动实时程序。
其中,实时程序用于备集群实时接收实时数据。
本申请实施例中,终端获取外部服务实时上传的实时数据,并将该实时数据存储与主集群的预设存储空间内,在主集群完成历史数据的迁移后,终端将预设存储空间内的实时数据进行迁移,并指示备集群启动实时程序,确保备集群能够实时从主集群接收最新的更新数据。可选的,在实时数据迁移过程中,终端需要不断确认备集群数据与主集群数据的一致性,确保备集群上的数据能够实时更新并与主集群保持同步。
本实施例中,通过对历史数据和实时数据进行迁移,可以保障主集群和备集群的数据一致性,并确保备集群能够实时更新数据,从而实现主备集群的主备切换,提高数据仓库的稳定性。
在一个示例性的实施例中,如图5所示,步骤206包括步骤502至步骤504。其中:
步骤502,将主集群对应的副集群的第一连接信息更新为备集群对应的第二连接信息。
本申请实施例中,在主机群和备集群之间完成主备切换后,备集群的配置信息需要更新,以确保副集群能够将备集群作为新的主集群,例如,终端对备集群的集群配置文件进行更行,并修改副集群的第一连接信息,将第一连接信息更新为备集群的第二连接信息。
步骤504,指示备集群向副集群进行数据同步,完成主集群向备集群的业务流量迁移。
本申请实施例中,终端指示备集群向副集群进行数据同步,终端通过更新副集群的配置信息,将备集群作为副集群对应的新的主集群,进行数据同步,终端将主集群中的业务流量逐步切换至备集群中。即在主集群和备集群的主备切换完成之后,备集群成为副集群的复制源头,副集群通过接收备集群的业务数据,保证业务的连续性。
本实施例中,通过实时数据处理技术和冗余备份技术,将副集群的数据源从主集群切换为副集群,满足了副集群对于实时数据处理的需求,保证了数据仓库的高可用性,进而提高了数据仓库的稳定性。
在一个示例性的实施例中,该方法还包括:
当主集群恢复为正常运行状态时,将实时数据同步回主集群,以主集群为数据源,对副集群进行实时数据传输。
本申请实施例中,主备切换完成后,备集群可以持续完成数据接收和数据处理,持续提供业务服务。待管理员针对主集群不可用的情况进行排查和修复后,将不可用的主集群还原到正常的主集群状态,即当主集群的运行状态为正常后,由于主集群的设备性能普遍高于备集群的设备性能,因此,终端将副集群的数据源切换回主集群,并将实时数据同步回主集群,并根据主集群针对业务数据进行读写操作。
本实施例中,在主集群状态恢复为可用状态时,通过将实时数据同步回主集群,并通过主集群接收实时数据和数据处理,可以提高数据处理的性能。
在一个示例性的实施例中,如图6所示,步骤202之前,该方法还包括步骤602至步骤604。其中:
步骤602,在主集群正常运行时,按照第一预设周期,将主集群的全量数据备份至备集群。
本申请实施例中,在主集群正常运行的情况下,主集群数据实时更新,通过预设复制工具将数据备份到备集群。当主集群发生故障或长时间停机操作时,备集群可以完成接管,继续提供服务,为了实现数据的快速备份和恢复,在主集群正常运行的情况下,终端按照第一预设周期将全量数据备份至备集群,其中,第一预设周期可以为季度或年周期,可选的,终端完成针对全量数据的备份后,在后续的全量备份中,可以在完成备份后对历史备份数据进行删除。
步骤604,按照第二预设周期,将主集群的增量数据备份至备集群。
本申请实施例中,第二预设周期小于第一预设周期,第二预设周期可以为以天或小时为维度。终端在完成第一次全量数据的备份后,按照第二预设周期对增量数据进行备份。
本实施例中,通过一次全量备份,定期增量备份的模式,可以减少备份时间和存储空间,提高了备份效率。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的数据迁移方法的数据迁移装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个数据迁移装置实施例中的具体限定可以参见上文中对于数据迁移方法的限定,在此不再赘述。
在一个示例性的实施例中,如图7所示,提供了一种数据迁移装置700,包括:获取模块701、第一传输模块702和第二传输模块703,其中:
获取模块701,用于在主集群发生故障时,获取主集群对应的备集群的属性信息;
第一传输模块702,用于将主集群中的历史数据进行导出,根据属性信息将历史数据传输至属性信息对应的备集群,并获取主集群中的实时数据,将实时数据传输至备集群;
第二传输模块703,用于将备集群作为副集群新的数据源,接管主集群的服务,对副集群进行实时数据传输。
在其中一个实施例中,该装置700还包括:
发送模块,用于向主集群发送并实时获取心跳信号;
告警模块,用于基于主集群的心跳信号确定主集群的延迟信息,当延迟信息大于预设阈值时,将延迟信息进行展示于显示页面并发送告警信息。
在其中一个实施例中,第一传输模块702具体用于按照预设数据格式,对主集群中的历史数据进行导出,并根据属性信息中的标识确定备集群,并将导出后的历史数据按照预设数据格式传输至备集群;
获取实时数据,将实时数据存储至预设存储空间,并指示备集群启动实时程序;实时程序用于备集群实时接收实时数据。
在其中一个实施例中,第二传输模块703具体用于将主集群对应的副集群的第一连接信息更新为备集群对应的第二连接信息;
指示备集群向副集群进行数据同步,完成主集群向备集群的业务流量迁移。
在其中一个实施例中,该装置700还包括:
第三传输模块,用于当主集群恢复为正常运行状态时,将实时数据同步回主集群,以主集群为数据源,对副集群进行实时数据传输。
在其中一个实施例中,该装置700还包括:
第一备份模块,用于在主集群正常运行时,按照第一预设周期,将主集群的全量数据备份至备集群;
第二备份模块,用于按照第二预设周期,将主集群的增量数据备份至备集群。
上述数据迁移装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个示例性的实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图8所示。该计算机设备包括处理器、存储器、输入/输出接口(Input/Output,简称I/O)和通信接口。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口通过输入/输出接口连接到系统总线。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储历史数据、实时数据数据。该计算机设备的输入/输出接口用于处理器与外部设备之间交换信息。该计算机设备的通信接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种数据迁移方法。
本领域技术人员可以理解,图8中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个示例性的实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
向主集群发送并实时获取心跳信号;
基于所述主集群的心跳信号确定主集群的延迟信息,当所述延迟信息大于预设阈值时,将所述延迟信息进行展示于显示页面并发送告警信息。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
按照预设数据格式,对所述主集群中的历史数据进行导出,并根据所述属性信息中的标识确定备集群,并将导出后的所述历史数据按照预设数据格式传输至所述备集群;
获取实时数据,将所述实时数据存储至预设存储空间,并指示所述备集群启动实时程序;所述实时程序用于所述备集群实时接收所述实时数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
将所述主集群对应的副集群的第一连接信息更新为所述备集群对应的第二连接信息;
指示所述备集群向所述副集群进行数据同步,完成所述主集群向所述备集群的业务流量迁移。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
当所述主集群恢复为正常运行状态时,将实时数据同步回所述主集群,以所述主集群为数据源,对所述副集群进行实时数据传输。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
在主集群正常运行时,按照第一预设周期,将所述主集群的全量数据备份至所述备集群;
按照第二预设周期,将所述主集群的增量数据备份至所述备集群。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,且相关数据的收集、使用和处理需要符合相关规定。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (10)
1.一种数据迁移方法,其特征在于,所述方法包括:
在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
2.根据权利要求1所述的方法,其特征在于,所述在主集群发生故障时,获取所述主集群对应的备集群的属性信息之前,所述方法还包括:
向主集群发送并实时获取心跳信号;
基于所述主集群的心跳信号确定主集群的延迟信息,当所述延迟信息大于预设阈值时,将所述延迟信息进行展示于显示页面并发送告警信息。
3.根据权利要求1所述的方法,其特征在于,所述将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群,包括:
按照预设数据格式,对所述主集群中的历史数据进行导出,并根据所述属性信息中的标识确定备集群,并将导出后的所述历史数据按照预设数据格式传输至所述备集群;
获取实时数据,将所述实时数据存储至预设存储空间,并指示所述备集群启动实时程序;所述实时程序用于所述备集群实时接收所述实时数据。
4.根据权利要求1所述的方法,其特征在于,所述将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输,包括:
将所述主集群对应的副集群的第一连接信息更新为所述备集群对应的第二连接信息;
指示所述备集群向所述副集群进行数据同步,完成所述主集群向所述备集群的业务流量迁移。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述主集群恢复为正常运行状态时,将实时数据同步回所述主集群,以所述主集群为数据源,对所述副集群进行实时数据传输。
6.根据权利要求1至5任意一项所述的方法,其特征在于,所述在主集群发生故障时,获取所述主集群对应的备集群的属性信息之前,所述方法还包括:
在主集群正常运行时,按照第一预设周期,将所述主集群的全量数据备份至所述备集群;
按照第二预设周期,将所述主集群的增量数据备份至所述备集群。
7.一种数据迁移装置,其特征在于,所述装置包括:
获取模块,用于在主集群发生故障时,获取所述主集群对应的备集群的属性信息;
第一传输模块,用于将所述主集群中的历史数据进行导出,根据所述属性信息将所述历史数据传输至所述属性信息对应的备集群,并获取所述主集群中的实时数据,将所述实时数据传输至所述备集群;
第二传输模块,用于将所述备集群作为副集群新的数据源,接管所述主集群的服务,对所述副集群进行实时数据传输。
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311736039.5A CN117931769A (zh) | 2023-12-18 | 2023-12-18 | 数据迁移方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311736039.5A CN117931769A (zh) | 2023-12-18 | 2023-12-18 | 数据迁移方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117931769A true CN117931769A (zh) | 2024-04-26 |
Family
ID=90761941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311736039.5A Pending CN117931769A (zh) | 2023-12-18 | 2023-12-18 | 数据迁移方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117931769A (zh) |
-
2023
- 2023-12-18 CN CN202311736039.5A patent/CN117931769A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11360854B2 (en) | Storage cluster configuration change method, storage cluster, and computer system | |
CN111723160B (zh) | 一种多源异构增量数据同步方法及系统 | |
AU2019236685B2 (en) | Distributed file system using consensus nodes | |
CN101334797B (zh) | 一种分布式文件系统及其数据块一致性管理的方法 | |
WO2017177941A1 (zh) | 主备数据库切换方法和装置 | |
EP2919130A1 (en) | Method and system for synchronizing distributed database | |
CN102411639B (zh) | 元数据的多副本存储管理方法和系统 | |
CN114900532A (zh) | 电力数据容灾方法、系统、装置、计算机设备和存储介质 | |
CN114238495A (zh) | 数据库主备集群切换方法、装置、计算机设备及存储介质 | |
CN113190620B (zh) | Redis集群之间数据的同步方法、装置、设备及存储介质 | |
CN116389233B (zh) | 容器云管理平台主备切换系统、方法、装置和计算机设备 | |
CN105323271B (zh) | 一种云计算系统以及云计算系统的处理方法和装置 | |
CN107943615B (zh) | 基于分布式集群的数据处理方法与系统 | |
CN105007172A (zh) | 一种hdfs高可用性方案的实现方法 | |
CN111404737B (zh) | 一种容灾处理方法以及相关装置 | |
US11042454B1 (en) | Restoration of a data source | |
CN116521083A (zh) | 一种分布式存储集群数据的存储方法、装置及介质 | |
CN117931769A (zh) | 数据迁移方法、装置、计算机设备和存储介质 | |
CN112256201B (zh) | 一种分布式块存储系统及其卷信息管理方法 | |
CN108241556A (zh) | Hdfs中数据异地备份的方法及装置 | |
US12007964B2 (en) | Maintaining ongoing transaction information of a database system in an external data store for processing unsaved transactions in response to designated events | |
CN115840756B (zh) | 主备调系统的数据更新方法、主备调系统、设备和介质 | |
CN117608919A (zh) | 容灾方法、装置、计算机设备和存储介质 | |
US20230065833A1 (en) | Maintaining ongoing transaction information of a database system in an external data store for processing unsaved transactions in response to designated events | |
CN115617574B (zh) | 多电力调度系统、数据传输方法和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |