CN111262717B - 一种分布式网络中数据同步异常的恢复方法和装置 - Google Patents
一种分布式网络中数据同步异常的恢复方法和装置 Download PDFInfo
- Publication number
- CN111262717B CN111262717B CN201811466077.2A CN201811466077A CN111262717B CN 111262717 B CN111262717 B CN 111262717B CN 201811466077 A CN201811466077 A CN 201811466077A CN 111262717 B CN111262717 B CN 111262717B
- Authority
- CN
- China
- Prior art keywords
- node
- data
- master node
- slave node
- slave
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0654—Management of faults, events, alarms or notifications using network fault recovery
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Synchronisation In Digital Transmission Systems (AREA)
Abstract
本发明提供了一种数据同步异常的恢复方法和装置,技术方案为:从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后向主节点发送数据同步请求消息;主节点接收该数据同步请求消息后,循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作。本发明能够保证网络从故障中恢复后的数据同步的可恢复。
Description
技术领域
本发明涉及通信技术领域,特别涉及一种分布式网络中数据同步异常的恢复方法和装置。
背景技术
分布式网络环境中,主节点与从多个从节点之间有多种类型的数据需要同步,多个从节点存在同时向主节点上报数据的情况,需要考虑数据的正确性和时效性。在网络信号不好或者节点故障导致主节点和从节点之间失去连接后,应保证网络恢复后数据同步的可恢复。
专利申请201510967346.3公开了一种用于分布式采集系统的数据同步方法,该专利根据采集装置分类,确定时间为基准信号,针对多种采集指标使用多个线程根据时间来定时采集数据,保证数据同步成功后统计时多种数据的一致性。该专利主要解决的是多种不同类型的数据同步需要在时间装置的保证下,保证多种数据同步的一致性,保证统计数据的正确性和完整性,但未考虑到网络异常情况下的数据恢复。
专利申请201511025349.1公开了一种分布式系统同步式数据同步的方法,该专利中,信息服务中心的数据发生变化时,将数据更新消息传递到目标客户端;一个客户端收到一条数据更新消息后,根据数据差别信息更新自身的同步数据,更新后向信息服务中心发送信息已同步信号;信息服务中心收到已同步信号后更新同步信息表后,数据同步任务结束。该专利主要针对的应用场景是:信息服务中心的数据发生变化时,以通知方式同步给多个客户端,这种方式只保证了在正常环境下的数据正确性问题,但是并未考虑信息服务中心节点或某些客户端宕机导致网络异常后的数据恢复问题。
可以看出,上述两个专利提供的数据同步方法,都不能够保证网络从故障中恢复后数据同步的可恢复。
发明内容
有鉴于此,本发明的目的在于提供一种分布式网络中数据同步异常的恢复方法和装置,能够保证网络从故障中恢复后的数据同步的可恢复。
为了达到上述目的,本发明提供了如下技术方案:
一种数据同步异常的恢复方法,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该方法具体应用于主节点,包括:
接收从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息;
循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作。
另一种数据同步异常的恢复方法,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该方法具体应用于任一从节点,包括:
该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息;
循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作。
一种数据同步异常的恢复装置,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该装置具体应用于主节点,包括:
接收单元,用于接收从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息;
第一同步单元,用于接收单元接收到该从节点的数据同步请求消息时,循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作。
另一种数据同步异常的恢复装置,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该装置具体应用于任一从节点,包括:
发送单元,用于该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息;
第二同步单元,循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作。
一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通过总线相连的存储器;所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序;所述至少一个处理器执行所述一个或多个计算机程序时实现图1所示方法步骤。
一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现图1所示方法。
另一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通过总线相连的存储器;所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序;所述至少一个处理器执行所述一个或多个计算机程序时实现图2所示方法步骤。
另一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现图2所示方法。
由上面的技术方案可知,本发明中,从节点在首次登录主节点、故障恢复后登录主节点、或者有需要同步至主节点的新增数据时,均向主节点发送的数据同步请求消息,主节点通过多次发送携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,触发从节点与主节点之间的多次数据同步操作,直至从节点和主节点之间完成数据同步。本发明中,当无论是网络正常,还是网络故障(例如从节点故障)恢复,从节点与主节点之间的数据同步均是从主节点记录的每种数据类型的最后同步编号开始同步的,因此,不会发生因网络故障原因造成的数据不可恢复,因此可知,本发明能够保证网络从故障中恢复后的数据同步的可恢复。
附图说明
图1是本发明实施例一数据同步异常的恢复方法流程图;
图2是本发明实施例二数据同步异常的恢复方法流程图;
图3是本发明实施例一数据同步异常的恢复装置的结构示意图;
图4是本发明实施例二数据同步异常的恢复装置的结构示意图;
图5是本发明实施例电子设备500的结构示意图;
图6是本发明实施例电子设备600的结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,下面结合附图并据实施例,对本发明的技术方案进行详细说明。
本发明应用于分布式网络环境,分布式网络中包括一个主节点和多个从节点,每个从节点需要主节点同步一种或多种数据类型的数据到主节点。
本发明实施例中,为了实现从节点到主节点的数据同步,主节点记录每个从节点需要同步到主节点的数据类型、以及每种数据类型的最后同步编号。当某个从节点登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点之后,均向主节点发送数据同步请求消息;主节点接收到该数据同步消息后,通过一次或多次向该从节点发送数据同步响应消息,以触发该从节点到主节点的一次或多次数据同步操作,使得该从节点最终完成与主节点数据同步。
下面分别从主节点和从节点的角度,对本发明的实现方法进行详细说明:
参见图1,图1是本发明实施例一数据同步异常的恢复方法流程图,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该方法具体应用于主节点,包括以下步骤:
步骤101、主节点接收从节点首次登录主节点、或导致与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息。
本发明实施例中,从节点需要在登录主节点后与主节点之间进行数据同步。从节点登录主节点也即在主节点上进行注册。其中,从节点首次上线时,通过向主节点发送注册请求实现首次登录;导致从节点与主节点的连接断开的网络故障恢复后,从节点也通过向主节点发送注册请求实现登录。而主节点接收到从节点的注册请求后,根据该注册请求对该从节点进行注册,使得从节点登录到主节点。
本发明实施例中,从节点在登录主节点后,需要发起与主节点之间的数据同步。从节点通过向主节点发送数据同步请求消息发起与主节点之间的数据同步。
步骤102、主节点循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作。
本发明实施例中,主节点向从节点发送的数据同步响应消息中携带该从节点需要同步到主节点的每种数据类型的最后同步编号,该从节点接收到数据同步响应消息后,根据该数据同步响应消息,就可以确定每种数据类型当前已经同步到的数据编号(即该种数据类型的最后同步编号),因而,在执行数据同步时,只需要将大于该数据编号的数据同步到主节点。
从节点每接收到一次主节点的数据同步响应消息,执行一次同步数据到主节点的操作。从节点的一次同步操作可以将预设数量(例如100条数据)的数据同步到主节点。如果从节点中需要同步到主节点数据超过该预设数量,则主节点需要向从节点发送多次数据同步响应消息,从节点则每接收一次同步数据响应消息,执行一次同步数据到主节点的操作。从节点将需要同步到主节点的数据全部同步到主节点后,可以向主节点发送数据同步结束标记,以此通知主节点本次数据同步结束。
为此,主节点向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息时,还可以进一步设置一个定时器,如果在定时器时间内接收到该从节点发送的数据同步结束标志,则确定该从节点完成到主节点的数据同步,否则,确定该从节点未完成到主节点的数据同步,可以再次执行本步骤102的循环操作。
本发明实施例中,从节点登录到主节点后,需要定期向主节点上报该从节点的状态信息。而主节点则根据接收该从节点上报状态信息的时间间隔确定是否发生导致该从节点与主节点的连接断开的网络故障,具体地,如果主节点接收该从节点上报的状态信息的时间间隔超过预设间隔阈值,则确定发生导致该从节点与主节点的连接断开的网络故障,否则,确定未发生导致该从节点与主节点的连接断开的网络故障。从节点故障或从节点与主节点之间的链路故障,均会导致该从节点与主节点的连接断开。
在实际应用中,从节点向主节点同步数据时,如果多次执行同步数据到主节点的操作后,仍然未完成与主节点之间的数据同步,则说明该从节点需要同步到主节点的数据量非常大。但是正常情况下,从节点首次登录主节点时,由于刚刚上线,一般不存在或仅存在少量需要同步的数据;从节点故障后通常会被很快修复,也不可能有大量需要同步的数据;登录状态下有新增同步数据时,也会及时同步到主节点。由此可知,从节点同步到主节点的数据量非常大的情况是不正常的。
因此,本发明实施例中,如果主节点确定该从节点执行同步数据到主节点的操作次数达到预设次数上限,则将确定发生导致该从节点与主节点的连接断开的网络故障,禁止该从节点同步数据到主节点,之后可以对该从节点的数据进行人工或其他方式的检查。
参见图2,图2是本发明实施例二数据同步异常的恢复方法流程图,应用于分布式网络中,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,该方法具体应用于任一从节点,包括以下步骤:
步骤201、该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息。
本发明实施例中,从节点需要在登录主节点后与主节点之间进行数据同步。从节点登录主节点也即在主节点上进行注册。其中,从节点首次上线时,通过向主节点发送注册请求实现首次登录;导致该从节点与主节点的连接断开的网络故障恢复后,该从节点也通过向主节点发送注册请求实现登录。而主节点接收到从节点的注册请求后,根据该注册请求对该从节点进行注册,实现该从节点在主节点的登录。
本发明实施例中,从节点在登录主节点后,需要发起与主节点之间的数据同步。从节点通过向主节点发送数据同步请求消息发起与主节点之间的数据同步。
步骤202、该从节点循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作。
本发明实施例中,从节点向主节点发送数据同步请求消息后,主节点向从节点发送的数据同步响应消息中携带该从节点需要同步到主节点的每种数据类型的最后同步编号,该从节点接收到数据同步响应消息后,根据该数据同步响应消息,就可以确定每种数据类型当前已经同步到的数据编号(即该种数据类型的最后同步编号),因而,在执行数据同步时,只需要将大于该数据编号的数据同步到主节点。
从节点每接收到一次主节点的数据同步响应消息,执行一次同步数据到主节点的操作。从节点的一次同步操作可以将预设数量(例如100条数据)的数据同步到主节点。如果从节点中需要同步到主节点数据超过该预设数量,则主节点需要向从节点发送多次数据同步响应消息,从节点则每接收一次同步数据响应消息,执行一次同步数据到主节点的操作。从节点将需要同步到主节点的数据全部同步到主节点后,可以向主节点发送数据同步结束标记,以此通知主节点本次数据同步结束。
为此,该从节点根据该数据同步响应消息执行一次同步数据到主节点的操作之后,还可以进一步判断该从节点是否已经完成到主节点的数据同步,如果是,则向主节点发送数据同步结束标记,否则,不向主节点发送数据同步结束标记,从而,主节点因未收到数据同步结束标记,会再次发送同步数据响应消息,使得该从节点再次执行本步骤202的循环操作。
本发明实施例中,该从节点登录主节点后,需要定期向主节点上报该从节点的状态信息,使得主节点可以根据该从节点上报状态信息间隔确定是否发生导致该从节点与主节点的连接断开的网络故障。
以下以一个具体的例子进行说明。
假设有一从节点A掉线后重新上线(故障恢复),登录到主节点(即向主节点发送主册请求进行注册,并注册成功),假设该从节点A只有一种需要同步到主节点的数据类型,该从节点A中该种数据类型的数据编号为12800,该从节点到主节点的一次数据同步操作的同步数据两是1000条,且主节点中记录的该种数据类型对应的最后同步编号为10000。则该从节点A登录到主节点后,与主节点的数据同步过程如下:
该从节点A向主节点发送数据同步请求消息。
主节点将该种数据类型及其最后同步编号10000携带在数据同步响应消息中发送给该从节点A,并启动定时器;该从节点A将编号10001至11000的数据同步到主节点,且不向主节点发送数据同步结束标志。
主节点在规定定时器时间内未接收到该从节点A的数据同步结束标志,因此,再次将该种数据类型及其最后同步编号11000携带在数据同步响应消息中发送给该从节点A,并启动/重启定时器;该从节点A将编号11001至12000的数据同步到主节点,且不向主节点发送数据同步结束标志。
主节点在规定定时器时间内未接收到该从节点A的数据同步结束标志,因此,再次将该种数据类型及其最后同步编号12000携带在数据同步响应消息中发送给该从节点A;该从节点A将编号12001至12800的数据同步到主节点,并向主节点发送数据同步结束标志;主节点接收到该从节点A发送的同步结束标志,确定该从节点完成与主节点之间的数据同步。
以上分别从主节点和从节点的角度对本发明数据同步异常的恢复方法进行了详细说明,本发明还提供了一种应用于主节点的数据同步异常的恢复装置和一种应用于从节点的数据同步异常的恢复装置,以下结合图3、图4进行详细说明:
参见图3,图3是本发明实施例一数据同步异常的恢复装置的结构示意图,该装置具体应用于分布式网络中的主节点,如图3所示,具体包括:
接收单元301,用于接收从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息;
第一同步单元302,用于接收单元301接收到该从节点的数据同步请求消息时,循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作。
图3所示装置中,
所述第一同步单元302,用于向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息时,进一步设置定时器;
所述接收单元301,用于接收该从节点发送的数据同步结束标志;
所述第一同步单元302,判断该从节点是否完成到主节点的数据同步时,用于:如果接收单元301在定时器时间内接收到该从节点发送的数据同步结束标志,则确定该从节点完成到主节点的数据同步,否则,确定该从节点未完成到主节点的数据同步。
图3所示装置中,
所述接收单元301,进一步用于:接收该从节点登录主节点后定期上报的状态信息;
所述第一同步单元302,判断是否发生导致该从节点与主节点的连接断开的网络故障时,用于:如果接收单元301接收该从节点上报的状态信息的时间间隔超过预设间隔阈值,则确定发生导致该从节点与主节点的连接断开的网络故障,否则,确定未发生导致该从节点与主节点的连接断开的网络故障。
图3所示装置中,
所述第一同步单元302,用于如果该从节点执行同步数据到主节点的操作次数达到预设次数上限,则确定发生导致该从节点与主节点的连接断开的网络,禁止该从节点同步数据到主节点。
参见图4,图4是本发明实施例二数据同步异常的恢复装置的结构示意图,该装置具体应用于分布式网络中的任一从节点,如图4所示,具体包括:
发送单元401,用于该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息;
第二同步单元402,用于发送单元401向主节点发送数据同步请求消息后,循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作。
图4所示装置中,
所述第二同步单元402,根据该数据同步响应消息执行一次同步数据到主节点的操作之后,进一步用于:如果该从节点已经完成到主节点的数据同步,则向主节点发送数据同步结束标记,否则,不向主节点发送数据同步结束标记。
图4所示装置中,
所述发送单元401,进一步用于:该从节点登录主节点后,定期向主节点上报该从节点的状态信息。
参见图5,本发明的另一实施例还提供了一种电子设备500,功能与如图3所示装置相同,图5所示的电子设备包括:至少一个处理器501,以及与所述至少一个处理器通过总线相连的存储器502;所述存储器502存储有可被所述至少一个处理器执行的一个或多个计算机程序;当所述至少一个处理器501执行所述一个或多个计算机程序时实现如图1所示的方法步骤。
本发明实施例例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现如图1所示方法。
参见图6,本发明的另一实施例还提供了一种电子设备600,功能与如图4所示装置相同,图6所示的电子设备包括:至少一个处理器601,以及与所述至少一个处理器通过总线相连的存储器602;所述存储器602存储有可被所述至少一个处理器执行的一个或多个计算机程序;当所述至少一个处理器601执行所述一个或多个计算机程序时实现如图2所示的方法步骤。
本发明实施例例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现如图2所示方法。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (18)
1.一种数据同步异常的恢复方法,应用于分布式网络中,其特征在于,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,所述主节点记录有每个从节点需要同步到主节点的数据类型、以及每种数据类型的最后同步编号;该方法具体应用于主节点,包括:
接收从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息;
循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作;其中,从节点的一次同步操作可以将预设数量的数据同步到主节点。
2.根据权利要求1所述的方法,其特征在于,
向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息时,进一步设置定时器;
判断该从节点是否完成到主节点的数据同步的方法为:如果在定时器时间内接收到该从节点发送的数据同步结束标志,则确定该从节点完成到主节点的数据同步,否则,确定该从节点未完成到主节点的数据同步。
3.根据权利要求1所述的方法,其特征在于,
该方法进一步包括:接收该从节点登录主节点后定期上报的状态信息;
判断是否发生导致该从节点与主节点的连接断开的网络故障的方法为:如果接收该从节点上报的状态信息的时间间隔超过预设间隔阈值,则确定发生导致该从节点与主节点的连接断开的网络故障,否则,确定未发生导致该从节点与主节点的连接断开的网络故障。
4.根据权利要求1所述的方法,其特征在于,
如果该从节点执行同步数据到主节点的操作次数达到预设次数上限,则确定发生导致该从节点与主节点的连接断开的网络故障,禁止该从节点同步数据到主节点。
5.一种数据同步异常的恢复方法,应用于分布式网络中,其特征在于,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,所述主节点记录有每个从节点需要同步到主节点的数据类型、以及每种数据类型的最后同步编号;该方法具体应用于任一从节点,包括:
该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息;
循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作;其中,从节点的一次同步操作可以将预设数量的数据同步到主节点。
6.根据权利要求5所述的方法,其特征在于,
根据该数据同步响应消息执行一次同步数据到主节点的操作之后,进一步包括:如果该从节点已经完成到主节点的数据同步,则向主节点发送数据同步结束标记,否则,不向主节点发送数据同步结束标记。
7.根据权利要求5所述的方法,其特征在于,
该方法进一步包括:该从节点登录主节点后,定期向主节点上报该从节点的状态信息。
8.一种数据同步异常的恢复装置,应用于分布式网络中,其特征在于,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,所述主节点记录有每个从节点需要同步到主节点的数据类型、以及每种数据类型的最后同步编号;该装置具体应用于主节点,包括:
接收单元,用于接收从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后发送的数据同步请求消息;
第一同步单元,用于接收单元接收到该从节点的数据同步请求消息时,循环执行以下操作,直至确定该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:确定该从节点需要同步到主节点的每种数据类型的最后同步编号,向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,以使该从节点根据该同步数据响应消息执行一次同步数据到主节点的操作;其中,从节点的一次同步操作可以将预设数量的数据同步到主节点。
9.根据权利要求8所述的装置,其特征在于,
所述第一同步单元,用于向该从节点发送携带需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息时,进一步设置定时器;
所述接收单元,用于接收该从节点发送的数据同步结束标志;
所述第一同步单元,判断该从节点是否完成到主节点的数据同步时,用于:如果接收单元在定时器时间内接收到该从节点发送的数据同步结束标志,则确定该从节点完成到主节点的数据同步,否则,确定该从节点未完成到主节点的数据同步。
10.根据权利要求8所述的装置,其特征在于,
所述接收单元,进一步用于:接收该从节点登录主节点后定期上报的状态信息;
所述第一同步单元,判断是否发生导致该从节点与主节点的连接断开的网络故障时,用于:如果接收单元接收该从节点上报的状态信息的时间间隔超过预设间隔阈值,则确定发生导致该从节点与主节点的连接断开的网络故障,否则,确定未发生导致该从节点与主节点的连接断开的网络故障。
11.根据权利要求8所述的装置,其特征在于,
所述第一同步单元,用于如果该从节点执行同步数据到主节点的操作次数达到预设次数上限,则确定发生导致该从节点与主节点的连接断开的网络,禁止该从节点同步数据到主节点。
12.一种数据同步异常的恢复装置,应用于分布式网络中,其特征在于,所述分布式网络包括一个主节点和用于向主节点同步数据的多个从节点,所述主节点记录有每个从节点需要同步到主节点的数据类型、以及每种数据类型的最后同步编号;该装置具体应用于任一从节点,包括:
发送单元,用于该从节点首次登录主节点、或导致该从节点与主节点的连接断开的网络故障恢复后登录主节点后,向主节点发送数据同步请求消息;
第二同步单元,循环执行以下操作,直至该从节点完成到主节点的数据同步、该从节点故障、或该从节点执行同步数据到主节点的操作次数达到预设次数上限:接收主节点发送的携带该从节点需要同步到主节点的每种数据类型的最后同步编号的数据同步响应消息,根据该数据同步响应消息执行一次同步数据到主节点的操作;其中,从节点的一次同步操作可以将预设数量的数据同步到主节点。
13.根据权利要求12所述的装置,其特征在于,
所述第二同步单元,根据该数据同步响应消息执行一次同步数据到主节点的操作之后,进一步用于:如果该从节点已经完成到主节点的数据同步,则向主节点发送数据同步结束标记,否则,不向主节点发送数据同步结束标记。
14.根据权利要求12所述的装置,其特征在于,
所述发送单元,进一步用于:该从节点登录主节点后,定期向主节点上报该从节点的状态信息。
15.一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通过总线相连的存储器;所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序;其特征在于,所述至少一个处理器执行所述一个或多个计算机程序时实现权利要求1-4任一权项所述的方法步骤。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现权利要求1-4中任一项所述的方法。
17.一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通过总线相连的存储器;所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序;其特征在于,所述至少一个处理器执行所述一个或多个计算机程序时实现权利要求5-7任一权项所述的方法步骤。
18.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储一个或多个计算机程序,所述一个或多个计算机程序被处理器执行时实现权利要求5-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811466077.2A CN111262717B (zh) | 2018-12-03 | 2018-12-03 | 一种分布式网络中数据同步异常的恢复方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811466077.2A CN111262717B (zh) | 2018-12-03 | 2018-12-03 | 一种分布式网络中数据同步异常的恢复方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111262717A CN111262717A (zh) | 2020-06-09 |
CN111262717B true CN111262717B (zh) | 2023-03-07 |
Family
ID=70953799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811466077.2A Active CN111262717B (zh) | 2018-12-03 | 2018-12-03 | 一种分布式网络中数据同步异常的恢复方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111262717B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105512171A (zh) * | 2015-11-23 | 2016-04-20 | 北京奇虎科技有限公司 | 数据库同步的方法及装置 |
CN105530272A (zh) * | 2014-09-29 | 2016-04-27 | 阿里巴巴集团控股有限公司 | 一种应用数据的同步方法和装置 |
CN106682200A (zh) * | 2016-12-29 | 2017-05-17 | 北京奇虎科技有限公司 | 集群间的数据同步方法及装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7930278B2 (en) * | 1998-02-13 | 2011-04-19 | Oracle International Corporation | Methods to perform disk writes in a distributed shared disk system needing consistency across failures |
-
2018
- 2018-12-03 CN CN201811466077.2A patent/CN111262717B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105530272A (zh) * | 2014-09-29 | 2016-04-27 | 阿里巴巴集团控股有限公司 | 一种应用数据的同步方法和装置 |
CN105512171A (zh) * | 2015-11-23 | 2016-04-20 | 北京奇虎科技有限公司 | 数据库同步的方法及装置 |
CN106682200A (zh) * | 2016-12-29 | 2017-05-17 | 北京奇虎科技有限公司 | 集群间的数据同步方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111262717A (zh) | 2020-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10764369B2 (en) | Data storage method and server applicable to distributed server cluster | |
CN104104707B (zh) | 网页数据更新方法、终端、缓存服务器及系统 | |
CN110830283B (zh) | 故障检测方法、装置、设备和系统 | |
CN107291787A (zh) | 主备数据库切换方法和装置 | |
CN106453657A (zh) | 智能家居设备的状态信息更新方法及装置 | |
CN106202075A (zh) | 一种数据库主备切换的方法及装置 | |
CN112506702B (zh) | 数据中心容灾方法、装置、设备及存储介质 | |
CN109218349A (zh) | 一种管理服务器集群的方法及装置 | |
CN103036719A (zh) | 一种基于主备集群服务器的跨地区服务容灾方法及装置 | |
CN105959078B (zh) | 一种集群时间同步方法、集群及时间同步系统 | |
CN106817387B (zh) | 一种数据同步方法、装置和系统 | |
CN110611603B (zh) | 一种集群网卡监控方法及装置 | |
CN113905005A (zh) | 即时通讯的客户端状态更新方法和装置 | |
CN108173971A (zh) | 一种基于主备切换的MooseFS高可用方法及系统 | |
CN105472024A (zh) | 一种基于消息推送模式的跨地域数据同步方法 | |
CN111708668B (zh) | 集群故障的处理方法、装置及电子设备 | |
CN109257218B (zh) | 一种基于snmp协议网络系统孤岛自愈方法 | |
CN112948484A (zh) | 分布式数据库系统和数据灾备演练方法 | |
CN112783694B (zh) | 一种高可用Redis的异地灾备方法 | |
EP2887592A1 (en) | Enum-dns disaster recovery method and system in ims network | |
CN114422335A (zh) | 通信方法、装置、服务器及存储介质 | |
CN105323271B (zh) | 一种云计算系统以及云计算系统的处理方法和装置 | |
CN111262717B (zh) | 一种分布式网络中数据同步异常的恢复方法和装置 | |
CN116346834A (zh) | 一种会话同步方法、装置、计算设备及计算机存储介质 | |
CN110677316A (zh) | 一种分布式存储服务器网卡检测方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |