CN113420082A - 一种数据同步的异常检测方法和装置 - Google Patents
一种数据同步的异常检测方法和装置 Download PDFInfo
- Publication number
- CN113420082A CN113420082A CN202110594461.6A CN202110594461A CN113420082A CN 113420082 A CN113420082 A CN 113420082A CN 202110594461 A CN202110594461 A CN 202110594461A CN 113420082 A CN113420082 A CN 113420082A
- Authority
- CN
- China
- Prior art keywords
- current
- fragment
- bucket
- site
- slave
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims description 26
- 239000012634 fragment Substances 0.000 claims abstract description 172
- 238000000034 method Methods 0.000 claims abstract description 36
- 238000013467 fragmentation Methods 0.000 claims abstract description 10
- 238000006062 fragmentation reaction Methods 0.000 claims abstract description 10
- 230000004044 response Effects 0.000 claims description 34
- 230000001360 synchronised effect Effects 0.000 claims description 19
- 230000005540 biological transmission Effects 0.000 claims description 11
- 230000005856 abnormality Effects 0.000 claims description 4
- 230000002159 abnormal effect Effects 0.000 abstract description 9
- 239000003550 marker Substances 0.000 description 14
- 230000006870 function Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/275—Synchronous replication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Computing Systems (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种数据同步的异常检测方法和装置,方法包括:在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;基于上述比较和读取的结果确定特定桶分片为同步异常的桶分片。本发明能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验。
Description
技术领域
本发明涉及分布式存储领域,更具体地,特别是指一种数据同步的异常检测方法和装置。
背景技术
在分布式对象存储系统中配置多数据中心后,其中任何一个数据中心有数据变化,则其他所有数据中心都会监测到该变化,并执行相同的操作,从而保证所有数据中心的数据完全相同,以达到异地容灾的效果。
由于技术的不完善以及网络故障等原因,数据同步过程中避免不了出现同步异常,即某个桶中的部分对象长时间不同步。对于这种异常,若未及时检测到并做出相应处理的话,可能会给用户带来不可估量的损失。
现有技术的检测机制定期获取桶配额在主从站点上的差值。若差值不等于0,则获取同步状态,若同步状态显示同步完成则告警;若显示正在同步,继续比较当前差值与上一次差值,若两次差值相同则告警,否则认为同步正常,然后等待下一次检测。但若主站点一直对当前桶有数据写入,且写入的数据恰巧一直未落入某个桶分片,而刚好这个桶分片出现同步异常,则现有技术的检测流程是无法检测到。
针对现有技术中数据同步异常检测方法无法全面检测异常的问题,目前尚无有效的解决方案。
发明内容
有鉴于此,本发明实施例的目的在于提出一种数据同步的异常检测方法和装置,能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验。
基于上述目的,本发明实施例的第一方面提供了一种数据同步的异常检测方法,包括周期性地执行以下步骤:
在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;
从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;
将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识相同,而确定特定桶分片为同步正常的桶分片。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识不都等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且未从桶分片同步进度对象属性监视器读取到特定桶分片的历史从站点对象标识和历史主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,方法还包括:响应于在本周期内未确定特定桶分片的同步情况,而将特定桶分片的当前从站点对象标识和当前主站点对象标识作为特定桶分片的历史从站点对象标识和历史主站点对象标识写入桶分片同步进度对象属性监视器。
在一些实施方式中,当前从站点对象标识为最后写入对象在从主站点被数据同步到从站点时生成的传输参数,其中后传输的对象比先传输的对象具有更大的传输参数。
在一些实施方式中,方法还包括:响应于确定特定桶分片为同步异常的桶分片而针对特定桶分片所在的对象桶发出告警。
在一些实施方式中,最后写入对象为非结构化数据。
在一些实施方式中,对象桶中存储的对象均匀地分布在对象桶中的多个桶分片上。
本发明实施例的第二方面提供了一种装置,包括:
处理器;
控制器,存储有处理器可运行的程序代码,处理器在运行程序代码时周期性地执行以下步骤:
在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;
从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;
将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识相同,而确定特定桶分片为同步正常的桶分片。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识不都等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且未从桶分片同步进度对象属性监视器读取到特定桶分片的历史从站点对象标识和历史主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,步骤还包括:响应于在本周期内未确定特定桶分片的同步情况,而将特定桶分片的当前从站点对象标识和当前主站点对象标识作为特定桶分片的历史从站点对象标识和历史主站点对象标识写入桶分片同步进度对象属性监视器。
在一些实施方式中,当前从站点对象标识为最后写入对象在从主站点被数据同步到从站点时生成的传输参数,其中后传输的对象比先传输的对象具有更大的传输参数。
在一些实施方式中,步骤还包括:响应于确定特定桶分片为同步异常的桶分片而针对特定桶分片所在的对象桶发出告警。
在一些实施方式中,最后写入对象为非结构化数据。
在一些实施方式中,对象桶中存储的对象均匀地分布在对象桶中的多个桶分片上。
本发明具有以下有益技术效果:本发明实施例提供的数据同步的异常检测方法和装置,通过在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器;响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片的技术方案,能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的数据同步的异常检测方法的流程示意图;
图2为本发明提供的数据同步的异常检测方法的详细流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明实施例进一步详细说明。
需要说明的是,本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量,可见“第一”“第二”仅为了表述的方便,不应理解为对本发明实施例的限定,后续实施例对此不再一一说明。
基于上述目的,本发明实施例的第一个方面,提出了一种能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验的数据同步的异常检测方法的一个实施例。图1示出的是本发明提供的数据同步的异常检测方法的流程示意图。
所述的数据同步的异常检测方法,如图1所示,包括周期性地执行以下步骤:
步骤S101,在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;
步骤S103,从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;
步骤S105,将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
步骤S107,响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片。
数据同步是以桶分片为单位进行的,同步过程中会以日志的形式记录同步进度。其中主站点是数据同步的源,其上源源不断有数据写入,数据写入后会落入所在桶的某个桶分片上,而该桶分片对象会记录最后一个写入对象的标识(下记为marker),其中marker是随着传输次数增加而逐步增大的。从站点是数据同步的目的端,在从站点的存储池中会有一个专门记录当前桶分片同步进度的对象,该对象中存放已经同步到的对象的marker。本发明通过定时比较桶分片在主从站点上的marker差异,就能够检测出该桶分片是否发生同步异常,从而发出告警。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(ROM)或随机存储记忆体(RAM)等。所述计算机程序的实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识相同,而确定特定桶分片为同步正常的桶分片。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识不都等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,方法还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且未从桶分片同步进度对象属性监视器读取到特定桶分片的历史从站点对象标识和历史主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,方法还包括:响应于在本周期内未确定特定桶分片的同步情况,而将特定桶分片的当前从站点对象标识和当前主站点对象标识作为特定桶分片的历史从站点对象标识和历史主站点对象标识写入桶分片同步进度对象属性监视器。
在一些实施方式中,当前从站点对象标识为最后写入对象在从主站点被数据同步到从站点时生成的传输参数,其中后传输的对象比先传输的对象具有更大的传输参数。
在一些实施方式中,方法还包括:响应于确定特定桶分片为同步异常的桶分片而针对特定桶分片所在的对象桶发出告警。
在一些实施方式中,最后写入对象为非结构化数据。
在一些实施方式中,对象桶中存储的对象均匀地分布在对象桶中的多个桶分片上。
结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器,使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中,所述存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在ASIC中。ASIC可以驻留在用户终端中。在一个替换方案中,处理器和存储介质可以作为分立组件驻留在用户终端中。
下面根据图2所示的具体实施例进一步阐述本发明的具体实施方式。
本发明实施例提出一种新的数据同步的异常检测机制,通过对比桶分片同步进度对象中存储的marker与源端相应桶分片中存储的最新marker,来精准地检测可能出现地同步异常问题。
如图2所示,异常检测流程开始,遍历所有桶,针对每个桶获取其桶分片。针对每个桶分片,先获取本地存储的同步进度对象中存储的marker,然后获取源端相应桶分片对象中的最新marker。若两端的marker相同,则说明当前桶分片已经同步完成。
若两个marker不相同,则进一步访问本地桶分片同步进度对象的属性monitor(监视器)以尝试获取次新的marker。在未获取到次新的marker时,将两个最新marker额外存储在monitor中,用于下轮检测中作为次新marker调用。在获取到次新marker,并且两个次新marker和两个最新marker之间并无差异时,意味着在一个周期内主站点和从站点均无新对象写入,说明此桶分片中的对象同步出现异常。在获取到次新marker,并且两个次新marker和两个最新marker之间确有差异时,说明此桶分片正在进行同步,此时更新monitor属性并等待下一轮检测。
在图2中,两个步骤先后分开进行,这样可以提升方法的整体处理效率。另外未获取到次新marker的情况未被示出,因其是方法开始运转时才会出现的情况并且理论上仅出现一次,因此不需要在正常流程中予以考量。
在一个或多个示例性设计中,所述功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将所述功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、DSL或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。
从上述实施例可以看出,本发明实施例提供的数据同步的异常检测方法,通过在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器;响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片的技术方案,能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验。
需要特别指出的是,上述数据同步的异常检测方法的各个实施例中的各个步骤均可以相互交叉、替换、增加、删减,因此,这些合理的排列组合变换之于数据同步的异常检测方法也应当属于本发明的保护范围,并且不应将本发明的保护范围局限在所述实施例之上。
基于上述目的,本发明实施例的第二个方面,提出了一种能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验的数据同步的异常检测装置的一个实施例。装置包括:
处理器;
控制器,存储有处理器可运行的程序代码,处理器在运行程序代码时周期性地执行以下步骤:
在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;
从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;
将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片。
本文所述的计算机可读存储介质(例如,存储器)可以是易失性存储器或非易失性存储器,或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的,非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM),该RAM可以充当外部高速缓存存储器。作为例子而非限制性的,RAM可以以多种形式获得,比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDR SDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、以及直接Rambus RAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识相同,而确定特定桶分片为同步正常的桶分片。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识不都等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,步骤还包括:响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且未从桶分片同步进度对象属性监视器读取到特定桶分片的历史从站点对象标识和历史主站点对象标识,而在本周期内不确定特定桶分片的同步情况。
在一些实施方式中,步骤还包括:响应于在本周期内未确定特定桶分片的同步情况,而将特定桶分片的当前从站点对象标识和当前主站点对象标识作为特定桶分片的历史从站点对象标识和历史主站点对象标识写入桶分片同步进度对象属性监视器。
在一些实施方式中,当前从站点对象标识为最后写入对象在从主站点被数据同步到从站点时生成的传输参数,其中后传输的对象比先传输的对象具有更大的传输参数。
在一些实施方式中,步骤还包括:响应于确定特定桶分片为同步异常的桶分片而针对特定桶分片所在的对象桶发出告警。
在一些实施方式中,最后写入对象为非结构化数据。
在一些实施方式中,对象桶中存储的对象均匀地分布在对象桶中的多个桶分片上。
本发明例公开所述的装置、设备等可为各种电子终端设备,例如手机、个人数字助理(PDA)、平板电脑(PAD)、智能电视等,也可以是大型终端设备,如服务器等,因此本发明实施例公开的保护范围不应限定为某种特定类型的装置、设备。本发明实施例公开所述的客户端可以是以电子硬件、计算机软件或两者的组合形式应用于上述任意一种电子终端设备中。
从上述实施例可以看出,本发明实施例提供的数据同步的异常检测装置,通过在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个桶分片的最后写入对象的当前从站点对象标识;从作为数据同步的源端的主站点获取在每个桶分片中与多个当前从站点对象标识一一对应的多个当前主站点对象标识;将一一对应的多个当前从站点对象标识和多个当前主站点对象标识相互比较,并在从站点读取桶分片同步进度对象属性监视器;响应于特定桶分片的当前从站点对象标识和当前主站点对象标识不同,并且从桶分片同步进度对象属性监视器读取到的特定桶分片的历史从站点对象标识和历史主站点对象标识分别等同于特定桶分片的当前从站点对象标识和当前主站点对象标识,而确定特定桶分片为同步异常的桶分片的技术方案,能够精准检测数据同步的异常现象,优化数据同步功能,提升使用体验。
需要特别指出的是,上述装置的实施例采用了所述数据同步的异常检测方法的实施例来具体说明各模块的工作过程,本领域技术人员能够很容易想到,将这些模块应用到所述数据同步的异常检测方法的其他实施例中。当然,由于所述数据同步的异常检测方法实施例中的各个步骤均可以相互交叉、替换、增加、删减,因此,这些合理的排列组合变换之于所述装置也应当属于本发明的保护范围,并且不应将本发明的保护范围局限在所述实施例之上。
以上是本发明公开的示例性实施例,但是应当注意,在不背离权利要求限定的本发明实施例公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本发明实施例公开的元素可以以个体形式描述或要求,但除非明确限制为单数,也可以理解为多个。
所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子;在本发明实施例的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,并存在如上所述的本发明实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。因此,凡在本发明实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明实施例的保护范围之内。
Claims (10)
1.一种数据同步的异常检测方法,其特征在于,包括周期性地执行以下步骤:
在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个所述桶分片的最后写入对象的当前从站点对象标识;
从作为数据同步的源端的主站点获取在每个所述桶分片中与多个所述当前从站点对象标识一一对应的多个当前主站点对象标识;
将一一对应的多个所述当前从站点对象标识和多个所述当前主站点对象标识相互比较,并在所述从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
响应于特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识不同,并且所述特定桶分片的所述历史从站点对象标识和历史主站点对象标识分别等同于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识,而确定所述特定桶分片为同步异常的桶分片。
2.根据权利要求1所述的方法,其特征在于,还包括:响应于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识相同,而确定所述特定桶分片为同步正常的桶分片。
3.根据权利要求1所述的方法,其特征在于,还包括:响应于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识不同,并且从所述桶分片同步进度对象属性监视器读取到的所述特定桶分片的历史从站点对象标识和历史主站点对象标识不都等同于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识,而在本周期内不确定所述特定桶分片的同步情况。
4.根据权利要求1所述的方法,其特征在于,还包括:响应于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识不同,并且未从所述桶分片同步进度对象属性监视器读取到所述特定桶分片的历史从站点对象标识和历史主站点对象标识,而在本周期内不确定所述特定桶分片的同步情况。
5.根据权利要求3或4所述的方法,其特征在于,还包括:响应于在本周期内未确定所述特定桶分片的同步情况,而将所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识作为所述特定桶分片的所述历史从站点对象标识和所述历史主站点对象标识写入所述桶分片同步进度对象属性监视器。
6.根据权利要求1所述的方法,其特征在于,所述当前从站点对象标识为所述最后写入对象在从主站点被数据同步到从站点时生成的传输参数,其中后传输的对象比先传输的对象具有更大的传输参数。
7.根据权利要求1所述的方法,其特征在于,还包括:响应于确定所述特定桶分片为同步异常的桶分片而针对所述特定桶分片所在的对象桶发出告警。
8.根据权利要求1所述的方法,其特征在于,所述最后写入对象为非结构化数据。
9.根据权利要求1所述的方法,其特征在于,所述对象桶中存储的对象均匀地分布在所述对象桶中的多个所述桶分片上。
10.一种数据同步的异常检测装置,其特征在于,包括:
处理器;
控制器,存储有所述处理器可运行的程序代码,所述处理器在运行所述程序代码时周期性地执行以下步骤:
在作为数据同步的目的端的从站点遍历多个对象桶的多个桶分片,分别获取多个所述桶分片的最后写入对象的当前从站点对象标识;
从作为数据同步的源端的主站点获取在每个所述桶分片中与多个所述当前从站点对象标识一一对应的多个当前主站点对象标识;
将一一对应的多个所述当前从站点对象标识和多个所述当前主站点对象标识相互比较,并在所述从站点读取桶分片同步进度对象属性监视器中的历史从站点对象标识和历史主站点对象标识;
响应于特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识不同,并且所述特定桶分片的所述历史从站点对象标识和历史主站点对象标识分别等同于所述特定桶分片的所述当前从站点对象标识和所述当前主站点对象标识,而确定所述特定桶分片为同步异常的桶分片。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110594461.6A CN113420082A (zh) | 2021-05-28 | 2021-05-28 | 一种数据同步的异常检测方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110594461.6A CN113420082A (zh) | 2021-05-28 | 2021-05-28 | 一种数据同步的异常检测方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113420082A true CN113420082A (zh) | 2021-09-21 |
Family
ID=77713234
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110594461.6A Pending CN113420082A (zh) | 2021-05-28 | 2021-05-28 | 一种数据同步的异常检测方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113420082A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114584572A (zh) * | 2022-03-29 | 2022-06-03 | 苏州浪潮智能科技有限公司 | 一种分布式对象存储中数据同步方法、装置、设备及介质 |
CN116991949A (zh) * | 2023-09-26 | 2023-11-03 | 苏州元脑智能科技有限公司 | 数据同步方法、装置、设备、服务器及可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105335443A (zh) * | 2014-08-13 | 2016-02-17 | 阿里巴巴集团控股有限公司 | 一种用于数据同步中的异常检测的方法与设备 |
CN107506451A (zh) * | 2017-08-28 | 2017-12-22 | 泰康保险集团股份有限公司 | 用于数据交互的异常信息监控方法及装置 |
CN111124421A (zh) * | 2019-12-23 | 2020-05-08 | 卓尔智联(武汉)研究院有限公司 | 区块链智能合约的异常合约数据检测方法和装置 |
CN111756579A (zh) * | 2020-06-24 | 2020-10-09 | 北京百度网讯科技有限公司 | 异常预警方法、装置、设备以及存储介质 |
CN112165409A (zh) * | 2020-09-16 | 2021-01-01 | 烽火通信科技股份有限公司 | 端口管理方法、系统、设备及可读存储介质 |
CN112231181A (zh) * | 2020-12-08 | 2021-01-15 | 平安科技(深圳)有限公司 | 数据异常更新检测方法、装置、计算机设备及存储介质 |
CN112272106A (zh) * | 2020-09-28 | 2021-01-26 | 苏州浪潮智能科技有限公司 | 一种多站点数据同步异常告警方法、装置、设备、产品 |
-
2021
- 2021-05-28 CN CN202110594461.6A patent/CN113420082A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105335443A (zh) * | 2014-08-13 | 2016-02-17 | 阿里巴巴集团控股有限公司 | 一种用于数据同步中的异常检测的方法与设备 |
CN107506451A (zh) * | 2017-08-28 | 2017-12-22 | 泰康保险集团股份有限公司 | 用于数据交互的异常信息监控方法及装置 |
CN111124421A (zh) * | 2019-12-23 | 2020-05-08 | 卓尔智联(武汉)研究院有限公司 | 区块链智能合约的异常合约数据检测方法和装置 |
CN111756579A (zh) * | 2020-06-24 | 2020-10-09 | 北京百度网讯科技有限公司 | 异常预警方法、装置、设备以及存储介质 |
CN112165409A (zh) * | 2020-09-16 | 2021-01-01 | 烽火通信科技股份有限公司 | 端口管理方法、系统、设备及可读存储介质 |
CN112272106A (zh) * | 2020-09-28 | 2021-01-26 | 苏州浪潮智能科技有限公司 | 一种多站点数据同步异常告警方法、装置、设备、产品 |
CN112231181A (zh) * | 2020-12-08 | 2021-01-15 | 平安科技(深圳)有限公司 | 数据异常更新检测方法、装置、计算机设备及存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114584572A (zh) * | 2022-03-29 | 2022-06-03 | 苏州浪潮智能科技有限公司 | 一种分布式对象存储中数据同步方法、装置、设备及介质 |
CN114584572B (zh) * | 2022-03-29 | 2023-06-16 | 苏州浪潮智能科技有限公司 | 一种分布式对象存储中数据同步方法、装置、设备及介质 |
CN116991949A (zh) * | 2023-09-26 | 2023-11-03 | 苏州元脑智能科技有限公司 | 数据同步方法、装置、设备、服务器及可读存储介质 |
CN116991949B (zh) * | 2023-09-26 | 2024-01-23 | 苏州元脑智能科技有限公司 | 数据同步方法、装置、设备、服务器及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11139957B2 (en) | Method and apparatus for creating a finite blockchain | |
CN113420082A (zh) | 一种数据同步的异常检测方法和装置 | |
US11263231B2 (en) | Data copy method and device | |
KR101766790B1 (ko) | 메인 메모리 데이터 베이스를 관리 하기 위한 방법 및 컴퓨팅 장치 | |
US20210157513A1 (en) | Data reading method, apparatus, and system, and distributed system | |
CN112714359B (zh) | 视频推荐方法、装置、计算机设备及存储介质 | |
US20180364915A1 (en) | Method and system for distributed storage using client-side global persistent cache | |
CN110413433A (zh) | 一种Maria DB集群故障后的恢复方法、设备以及存储介质 | |
CN111625203A (zh) | 一种分级存储的方法、系统、设备及介质 | |
CN107085613B (zh) | 入库文件的过滤方法和装置 | |
CN111176904B (zh) | 一种私有云架构下的数据备份的方法、系统、设备及介质 | |
US20160253247A1 (en) | Method and device for restoring system file indexes | |
CN110287164B (zh) | 一种数据恢复方法、装置及计算机设备 | |
CN110442497B (zh) | 一种虚拟化系统存储状态的告警方法、设备及可读介质 | |
CN111221790A (zh) | 一种日志文件的处理方法、装置及计算机可读存储介质 | |
CN110727534A (zh) | 一种文件系统的修复方法、设备以及存储介质 | |
US10168948B2 (en) | Replicating data in a data storage system | |
CN112650735B (zh) | 联盟链的丢失区块确定方法、装置、设备及存储介质 | |
CN113688070A (zh) | 一种nand中坏块替换的方法、装置、设备及可读介质 | |
CN110083509B (zh) | 一种日志数据的规整方法及装置 | |
CN111580755B (zh) | 分布式数据处理系统、分布式数据处理方法 | |
CN113806125B (zh) | 一种卸载卷异常的处理方法、装置、设备及可读介质 | |
CN107864096B (zh) | 路径调整方法及装置 | |
US8086567B2 (en) | Apparatus and method for storing data | |
CN111309525B (zh) | 一种控制数据恢复精度的方法、系统、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210921 |