CN114185489A - 一种数据同步方法、装置、电子设备及存储介质 - Google Patents
一种数据同步方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114185489A CN114185489A CN202111471916.1A CN202111471916A CN114185489A CN 114185489 A CN114185489 A CN 114185489A CN 202111471916 A CN202111471916 A CN 202111471916A CN 114185489 A CN114185489 A CN 114185489A
- Authority
- CN
- China
- Prior art keywords
- data
- storage partition
- record
- original
- full
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 238000005192 partition Methods 0.000 claims abstract description 138
- 230000001360 synchronised effect Effects 0.000 claims abstract description 53
- 230000008569 process Effects 0.000 claims abstract description 13
- 238000012545 processing Methods 0.000 claims description 14
- 238000013500 data storage Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 230000005012 migration Effects 0.000 description 3
- 238000013508 migration Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
- G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0644—Management of space entities, e.g. partitions, extents, pools
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请的实施例揭示了一种数据同步方法、装置、电子设备及存储介质,方法包括:获取待同步的第一原始数据以及第一原始数据的数据类型,数据类型包括全量数据或增量数据;当第一原始数据的数据类型为全量数据时,创建新的存储分区,并将第一原始数据存储在新的存储分区中;不同的存储分区存储不同的全量数据;根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中;将新的存储分区中所存储的数据同步给数据使用方,避免全量数据同步过程中发生的数据丢失,同时通过创建新的存储分区保留了历史数据。
Description
技术领域
本申请涉及一种数据同步技术,提供一种数据同步方法、数据同步装置、电子设备及计算机可读存储介质。
背景技术
数据同步是IT(互联网技术)系统设计中常见的一类需求,相关技术中,一般数据同步方案采用全量同步和增量同步的结合方式进行同步,如果同步过程中,需要进行多次全量同步,在每次全量同步时会将前次数据进行覆盖,之后再用增量同步进行持续更新,导致被覆盖掉的历史数据无法回溯,且全量与增量的同步时间不易协调,全量同步期间可能会影响增量同步的数据丢失。
发明内容
本申请的目的在于提供一种数据同步方法、数据同步装置、电子设备及计算机可读存储介质,避免全量数据同步过程中发生的数据丢失,实现稳定高效的数据同步,确保数据准确性,同时保留了历史数据,可方便对历史数据进行回溯。
本申请提出一种数据同步方法,包括:获取待同步的第一原始数据以及所述第一原始数据的数据类型,所述数据类型包括全量数据或增量数据;当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在所述新存储分区中;不同的存储分区存储不同的全量数据;根据所述第一原始数据的数据同步时间点进行数据增量操作,以所述数据增量操作对应的增量数据存储在所述新的存储分区中;将所述新的存储分区中所存储的数据同步给数据使用方。
进一步地,在所述获取待同步的第一原始数据以及所述第一原始数据的数据类型之后,所述方法还包括:将所述第一原始数据写入到中间表中,并在日志表中增加一条全量数据未处理的第一记录;所述中间表用于对待同步的数据进行缓存,所述日志表用于对待同步的数据的处理状态进行记录;当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在新的存储分区中包括:通过轮询所述日志表确定存在全量数据未处理的第一记录时,在结果表中创建所述新的存储分区;所述结果表用于对所有的同步数据进行存储;将所述中间表中的与所述第一记录对应的第一原始数据存储在所述新的存储分区中。
进一步地,所述根据所述第一原始数据的数据同步时间点进行数据增量操作,以将所述数据增量操作对应的增量数据存储在所述新的存储分区中,包括:更新所述日志表,以将所述第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录更新为未处理;从所述中间表中获取所述第一原始数据的数据同步时间点起至当前时间点为止的所有增量数据,并将所有增量数据追加存储在所述新的存储分区中。
进一步地,在所述将所有增量数据追加存储在所述新的存储分区中之后,所述方法还包括:将数据版本表中的版本号更新至与所述新的存储分区对应的最新版本号;所述数据版本表用于对全量数据的版本号进行管理;更新所述日志表,以将所述第一记录更新为已处理的记录。
进一步地,在所述更新所述日志表,以将所述第一记录更新为已处理的记录之前,所述方法还包括:接收数据使用方发送的第一数据读取请求;根据所述第一数据读取请求从所述结果表中获取目标存储分区的数据,并将所述目标存储分区所存储的数据发送给所述数据使用方,所述目标存储分区为所述最新版本号的上一版本号对应的存储分区。
进一步地,在所述更新所述日志表,以将所述第一记录更新为已处理的记录之后,所述方法还包括:获取待同步的第二原始数据,所述第二原始数据为增量数据;将所述第二原始数据写入到中间表中,并在所述日志表中增加一条增量数据未处理的第二记录;通过轮询所述日志表确定存在增量数据未处理的第二记录时,获取所述数据版本表中的当前版本号;将所述中间表中的与所述第二记录对应的第二原始数据存储在所述当前版本号对应的存储分区中,并将所述第二记录更新为已处理记录。
进一步地,所述在更新所述日志表,以将所述第一记录更新为已处理的记录之后,所述方法还包括:将所述数据版本表发送给数据使用方,并接收数据使用方的携带目标版本号的第二数据读取请求;从所述结果表中查询与所述目标版本号对应的存储分区的数据,并将查询到的数据发送给数据使用方,以使所述数据使用方对查询的数据进行处理。
本申请还提出一种数据同步装置,包括:数据获取模块,用于获取待同步的第一原始数据以及所述第一原始数据的数据类型,所述数据类型包括全量数据或增量数据;数据存储模块,用于当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在所述新的存储分区中;不同的存储分区存储不同的全量数据;增量操作模块,用于根据所述第一原始数据的数据同步时间点进行数据增量操作,以将所述数据增量操作对应的增量数据存储在所述新的存储分区中;数据发送模块,用于将所述新的存储分区中所存储的数据同步给数据使用方。
本申请还提出一种电子设备,所述电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个被所述一个或多个处理器执行时,使得所述电子设备实现如上所述的方法。
本申请还提出一种计算机可读存储介质,其上存储有计算机可读指令,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行如上所述的方法。
与现有技术相比,本申请具有如下有益效果:
本申请提供的技术方案中,在数据同步的过程中,若待同步的数据为全量数据时,不同于相关技术中的同步方法,不将历史数据进行覆盖或清除,而是创建新的存储分区,并在该新的存储分区上追加增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中,使得新的存储分区中所存储的数据为最新的数据,避免全量数据同步过程中发生的数据丢失,实现稳定高效的数据同步,确保数据准确性,同时保留了历史数据,进而可方便对历史数据进行回溯,且不同的全量数据处于不同的存储分区,历史数据和当前数据互不干扰,历史数据不会影响当前数据的查询效率,这样在保证查询效率的基础上,实现了历史数据可回溯。
附图说明
图1是本申请涉及的一种实施环境的示意图;
图2是本申请一示例性实施例示出的一种数据同步方法的流程图;
图3是本申请一示例性实施例示出的另一种数据同步方法的流程图;
图4为图3所示的数据同步方法中的步骤S350在一示例中的流程图;
图5是本申请的一示例性实施例示出的再一种数据同步方法的示意图;
图6是本申请的一示例性实施例示出的一种数据同步方法的实体关系图;
图7是本申请另一示例性实施例示出的一种数据同步方法的流程图;
图8是本申请再一示例性实施例示出的一种数据同步方法的流程图;
图9是本申请一示例性实施例示出的一种数据同步装置的结构示意图;
图10示出了适于用来实现本申请实施例的电子设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例执行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
还需要说明的是:在本申请中提及的“多个”是指两个或者两个以上。“和/或”描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
请参阅图1,图1是本申请涉及的一种实施环境的示意图。该实施环境包括数据提供方10,数据同步装置20和数据使用方30,数据提供方10、数据同步装置20、数据使用方30之间通过有线或者无线网络进行通信;
数据提供方10用于提供待同步的数据;
数据同步装置20用于对待同步的数据进行存储,具体是若待同步的数据的数据类型为全量数据时,创建新的存储分区,并将第一原始数据存储在新的存储分区中;根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中,将新的存储分区中存储的数据同步给数据使用方;
数据使用方30用于读取该新的存储分区中存储的数据,以实现与数据提供方之间的数据同步。
其中,数据提供方10、数据同步装置20可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content DeliveryNetwork,内容分发网络)以及大数据和人工智能平台等基础云计算服务的云服务器,本处不对此进行限制。
数据使用方30可以是服务器,也可以是终端,终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(PersonalDigitalAssistant,20PDA)、便捷式媒体播放器(PortableMediaPlayer,PMP)、可穿戴设备、智能手环等移动终端,以及诸如数字TV、台式计算机等具有拨号上线功能的固定终端。
请参阅图2,图2是本申请一示例性实施例示出的一种数据同步方法的流程图,该数据同步方法由图1所示的数据同步装置20执行,数据同步方法包括步骤S110至步骤S140,详细介绍如下:
S110、获取待同步的第一原始数据以及第一原始数据的数据类型,数据类型包括全量数据或增量数据。
可以理解的是,数据同步指的是某一方的数据与另一方进行同步与共享,使得两方的数据保持完整性和统一性;在本实施例中,待同步的第一原始数据是指数据提供方提供的数据,该数据还未同步至数据使用方;其中数据提供方提供的数据可以是全量数据,也可以是增量数据;该全量数据指的是在一定大周期中的所有数据;增量数据的基础是全量数据,增量数据可以指的是更新的数据;增量数据也可以是在一定小周期中的所有数据,例如全量数据为每个月的数据,增量数据为每小时的数据。
在本实施例的一示例中,数据提供方会将待同步的第一原始数据发送给数据同步装置,还会标注该第一原始数据是全量数据还是增量数据,进而数据同步装置可以获取到该原始数据和数据类型。
在本实施例的另一示例中,由于全量数据和增量数据的同步时间点不同,因此可以是数据同步装置从数据提供方中抓取定期去抓取该原始数据,进而根据该抓取时间确定出该原始数据是全量数据还是增量数据。
S120、当第一原始数据的数据类型为全量数据时,创建新的存储分区,并将第一原始数据存储在新的存储分区中,不同的存储分区存储不同的全量数据。
在本实施例中,不同的存储分区存储不同的全量数据,即在每次获取到全量数据时,均为创建一个存储分区,进而该存储分区用于存储每次的全量数据。由于第一原始数据的数据类型为全量数据,则将第一原始数据存储的新的存储分区中,因此本实施例提供的技术方案,不会将历史数据进行覆盖或清除,通过各个存储分区保留各个时间段的全量数据,实现历史数据的可回溯。
需要说明的是,各个存储分区之间在物理上独立,在逻辑上是一张表,历史数据不会影响当前的全量数据的查询效率,对历史数据的迁移、备份、删除,也不会中断当前全量数据的同步。
在本实施例中,当第一原始数据的数据类型为增量数据,则将该第一原始数据存储在当前的存储分区中。
S130、根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中。
值得注意的是,当全量数据的同步操作的执行频率低于增量数据同步操作的执行频率时,全量数据与增量数据不易协调,全量数据同步期间可能会影响增量数据的同步,例如当月月度的全量数据在1月1日3点传输至数据同步装置,在0点~3点之间,需要持续按小时的同步增量数据,以保证数据最新;如果在3点时,直接应用全量数据,由于全量数据只截止1月1日0点,就可能面临丢失0点~3点之间增量数据的同步;因此在本实施例中,当第一原始数据为全量数据时,根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中,即以将新的存储分区存储的数据追加至最新,即在新的存储分区上追加增量数据;例如将1月1日0点的全量数据存储在新的存储分区之后,根据该0点的时间点执行数据增量操作,而该数据增量操作会对应一批增量数据,因此会在第一原始数据的基础上追加存储该增量数据,若最新时间点为1月1日3点,则使得新的存储分区存储的数据追加至1月1日3点的数据,避免全量数据同步过程中发生的数据丢失。
S140、将新的存储分区中所存储的数据同步给数据使用方。
将数据增量操作对应的增量数据存储在新的存储分区中后,即新的存储分区中存储的数据追加至最新后,将新的存储分区中所存储的数据同步给数据使用方,即将该全量数据和追加的增量数据同步给数据使用方,进行实现数据提供方和数据使用方的数据同步。
值得注意的是,本实施例中的数据同步装置还可以建立中间表、日志表、数据版本表和结果表,以确保待同步的原始数据可以有序、平滑的同步。其中中间表用于对待同步的数据进行缓存,不对数据做其他处理,日志表用于对待同步的数据的处理状态进行记录,即每往中间表写入一批待同步的数据,都会往日志表中写入一条该待同步的数据的记录,标记为未处理;当该待同步的数据经过处理同步后,则标记为已处理;数据版本表用于对全量数据的版本号进行管理,其中,可以是只包含一条当前使用的数据版本号,也可以是包含全部的数据版本号;结果表用于对所有的同步的数据进行存储,不同的存储分区存储不同的全量数据,而一次全量数据与一个数据版本对应,因此不同存储分区存储不同的数据版本的数据。
如图3所示,图3是本申请一示例性实施例示出的另一种数据同步方法,数据同步方法包括:
S310、获取待同步的第一原始数据以及第一原始数据的数据类型。
此步骤具体请参加上述S110,在此不再一一赘述。
S320、将第一原始数据写入到中间表中,并在日志表中增加一条全量数据未处理的第一记录。
在本实施例中,由于中间表用于对待同步的数据进行缓存,因此当获取到待同步的第一原始数据之后,将该第一原始数据缓存在中间表,并往日志表中写入一条第一记录,该第一记录标识为全量数据未处理。
可以理解的是,当每次获取到待同步的数据之后,都需要将待同步的数据写入中间表,并在日志表中增加未处理的记录。
S330、通过轮询日志表确定存在全量数据未处理的第一记录时,在结果表中创建新的存储分区。
可以理解的是,日志表中可能存在多条记录,为了有序进行同步,按照多条记录的记录时间顺序依次轮询日志表,以确定是否有需要处理的全量数据,当通过轮询的日志表确定存在全量数据未处理的第一记录时,在结果表中创建用于存储本次全量数据的新的存储分区。
在本实施例中,结果表中包含多个存储分区,每个存储分区对应一次全量数据,各个存储分区在结果表中相互独立。
S340、将中间表中的与第一记录对应的第一原始数据存储在新的存储分区中。
在本实施例中,由于第一记录对应的第一原始数据缓存在中间表中,当创建新的存储分区之后,从中间表中提取第一记录对应的第一原始数据,进而将该第一原始数据存储在新的存储分区中。
可选的,当从中间表中提取该第一原始数据之后,将中间表中删除该第一原始数据,以减少中间表的存储资源。
S350、根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中。
可以理解的是,如图4所示,图4为图3所示的数据同步方法中的步骤S350在一示例中的流程图,进行数据增量操作包括:
S410、更新日志表,以将第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录更新为未处理。
由于日志表中包含各条待同步的数据的处理状态记录,因此从日志表中找出第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录,并把记录更新为未处理。例如第一原始数据的数据同步时间点为1月1日0点,而当前最新时间点为1月1日3点30分,则找出0点~3点30分之间的增量数据的记录,假设每隔1小时有一条增量数据的记录,则将1点、2点和3点的增量数据的记录更新为未处理。
可以理解的是,无论将第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录是否是未处理,都将其更新为未处理;例如假设1点的增量数据的记录为已处理,但在更新日志表的时候,将1点的记录更新为未处理,以便于后续根据记录的未处理状态准确地对对应的数据进行同步处理。
S420、从中间表中获取第一原始数据的数据同步时间点起至当前时间点为止的所有增量数据,并将所有增量数据追加存储在新的存储分区中。
承接上例,从中间表中提取1点、2点和3点的增量数据,并将提取到所有的增量数据追加存储在新的存储分区中,使得新的存储分区中存储的数据为最新,即新的存储分区中存储的数据为全量数据和1~3点的增量数据。
可选的,在将所有增量数据追加存储在新的存储分区中之后,本实施例提供的数据同步方法还包括:将数据版本表中的版本号更新至与新的存储分区对应的最新版本号;更新日志表,以将第一记录更新为已处理的记录。
在本实施例中,数据版本表中存在各全量数据对应的版本号,各版本号与各存储分区一一对应;在本次新的存储分区存储的数据追加至最新后,对数据版本表的版本号进行更新,即增加一个新的版本号;通过版本号标记全量数据对应的版本,版本号的设置可以根据实际情况进行灵活调整,例如版本号可以是全量数据对应的时间,假设全量数据为2021年1月,则版本为202101。
在数据版本表更新后,将该第一记录更新为已处理的记录。可以理解的是,当日志表的第一记录更新为已处理后,本次第一原始数据的同步才算结束,进而后续数据使用方才可以在数据版本表查找到最新的版本号。
在本实施例的一示例中,当日志表的第一记录还是未处理的记录时,若数据使用方需要读取数据时,仍然在读取上一个版本的数据。
具体的,在更新日志表,以将第一记录更新为已处理的记录之前,数据同步方法还包括:接收数据使用方发送的第一数据读取请求,根据第一数据读取请求从结果表中获取目标存储分区的数据,并将目标存储分区的数据发送给数据使用方,目标存储分区为最新版本号的上一版本号对应的存储分区。
在本实施例的一示例中,该第一数据读取请求默认为数据版本表的当前版本号,由于日志表的第一记录还是未处理的记录,即时数据版本表已经更新为本次全量数据对应的最新版本号,但数据使用方还不能读取,数据使用方只能访问最新版本号的上一个版本号对应的存储分区的数据。
例如数据版本表的版本号更新为202101,但第一记录还是未处理的记录,接收到数据使用方发生的第一数据读取请求后,数据使用方能读取的数据版本表的当前版本号为202012,则从结果表中将版本号202012对应的唯一存储分区的数据发送给数据使用方。
在其他一实施例中,只要数据版本表更新为最新版本号,数据使用方就可以读取最新版本号对应的存储分区的数据。
在本实施例中,引入数据版本的概念,实现了全量同步及增量同步之间的平滑衔接;在最新版本号对应的全量数据基础上应用增量数据时,数据使用方依然在访问上一个版本的数据,直至数据同步完成后,数据使用方可以在数据版本表中查到最新版本号,将平滑的切换到新的数据。
如前所述,增量数据的基础是全量数据,在对该第一原始数据进行数据同步之后,还包括对增量数据进行同步的过程;如图5所示,更新日志表,以将第一记录更新为已处理的记录之后,方法还包括:
S510、获取待同步的第二原始数据,第二原始数据为增量数据。
S520、将第二原始数据写入到中间表中,并在日志表中增加一条增量数据未处理的第二记录。
S530、通过轮询日志表确定存在增量数据未处理的第二记录时,获取数据版本表中的当前版本号。
S540、将中间表中的与第二记录对应的第二原始数据存储在当前版本号对应的存储分区中,并将第二记录更新为已处理记录。
由于增量数据的基础数据是全量数据,当获取待同步的增量数据时,将该第二原始数据缓存在中间表,并往日志表中写入一条第二记录,该第二记录标识为增量数据未处理;当通过轮询的日志表确定存在增量数据未处理的第二记录时,从数据版本中取得当前版本号,例如当前版本号为202101,则将中间表中与第二记录对应的第二原始数据更新存储到202101版本对应的存储分区中。
可选的,在本实施例的一示例中,由于各存储分区存储了各全量数据,因此本实施例中,还可以基于数据版本表对任一版本号的定位。在更新日志表,以将第一记录更新为已处理的记录之后,数据同步方法还包括:
将数据版本表发送给数据使用方,并接收数据使用方的携带目标版本号的第二数据读取请求;从结果表中查询与目标版本号对应的存储分区的数据,并将查询到的数据发送给数据使用方,以使数据使用方对查询的数据进行处理。
可以理解的是,数据版本表包括多个版本号,每个版本号对应一个存储分区,将数据版本表发送给数据使用方,数据使用方根据数据版本表可以获取各个版本号,数据同步装置接收到该数据使用方发送的第二数据读取请求,该第二数据读取请求中携带有目标版本号,例如版本号202011,数据同步装置从结果表中查询与目标版本号对应的存储分区的数据,进而数据使用方可以对查询到的数据进行迁移、备份或删除等处理。
在一些实施例中,当数据使用方或数据提供方或数据同步装置发现了某数据出现错误时,数据同步装置可以通过数据版本表进行定位,确定错误原因,进而对错误的数据进行更改,以保证数据的精准性。
为了便于理解,本实施例以一个较为具体的应用场景对数据同步方法进行说明。
2019年11月27日,中国电信、移动和联通运营商在全国正式提供“携号转网”服务,已有千万量级用户使用此服务,随之带来大量的携号转网数据,需要从集团同步至专业公司。集团按照月提供全量数据,按照小时提供增量数据。所有数据上传至FTP服务器(FileTransfer Protocol Server)供抓取。
按约定,集中业务管理系统在每个月初(每月1日凌晨3:30之前)生成一个截止到当前的全量数据包。在每个整点(0分0秒)生成小时增量数据包。
然而,由于两种同步方式的频率不同,且按月同步的时间不固定的(每月1日3:30之前),因而会存在数据错误的风险。例如:假设当月月度全量数据在1月1日3点传输至专业公司数据,在0点~3点之间,需要持续按小时同步数据以保证数据最新。如果在3点时,直接应用月度数据进行清洗,由于月度数据只截止1月1日0点,就可能面临丢失0点~3点之间同步的数据。
为了解决上述问题,本实施例提供了一种数据同步方法的实体关系图,如图6所示,FTP服务器建立了中间表610、日志表620、结果表630、数据版本表640,两个同步程序:增量数据同步程序650和全量数据同步程序660,集团为原始数据提供者670,专业公司为数据使用者680,其中结果表630中包括多个存储分区,每个存储分区存储不同的全量数据,FTP服务器接收数据提供者上传的原始数据后,直接写入至中间表,同时插入一条记录到日志表,同步程序轮询日志表,如发现有未处理的数据,则开始处理对应的表,并将处理好的数据写入到结果表,依据情况更新数据版本表。数据使用者通过结合数据版本表和结果表,取得最终的数据。
如图7所示,如发现日志表中“未处理”的数据,为增量数据,具体同步流程为:
S701、轮询日志表。
S702、判断是否有需要处理的增量数据,如是,转S703,如否,转S701。
S703、从数据版本表中,获得当前数据版本号。
S704、根据中间表中对应的数据和当前数据版本号,对结果表进行更新操作。
将中间表中对应的增量数据,更新到结果表中与当前数据版本号对应的存储分区中。
S705、成功后,将本条记录状态更新为已处理。
如图8所示,发现日志表中“未处理”的数据,为全量数据,具体同步流程为:
S801、轮询日志表。
S802、判断是否有需要处理的全量数据,如是,转S803,如否,转S801。
S803、在结果表中创建一个存储本次全量数据的分区,并将中间表中对应的全量数据插入到新的分区里。
S804、开启一个事务(commit)。
S805、更新日志表,将日志表中从本次全量数据时间起,截止当前时间的所有的增量数据的记录全部更新为未处理。
S806、调用全局增量同步程序,将从本次全量数据时间起,截止当前时间的所有的增量数据,重新应用至新的分区中。
S807、将数据版本表中的版本号更新至最新。
S808、事务结束。
S809、更新日志表,将本条记录状态更新为已处理。
自从2019年11月27日三家运营商在全国正式提供“携号转网”服务,已有千万量级用户使用此服务,随之带来大量的携号转网数据,需要从集团同步至专业公司。
为提高服务及时性,专业公司必须按照最高频率(按小时)增量同步携号转网数据,以确保用户完成携转后,能够第一时间享受到充分的服务。为提高数据精准性,又必须保持低频率(按月)的数据全量同步,以修正高频次同步可能出现的错误,确保每个月对数据进行彻底的清洗。
通过上述数据同步方法,高效实现了小时增量数据和月度全量数据的平滑衔接,确保每个月初,在不影响数据及时性的基础上,进行一次完整的携号转网数据同步,最大限度的减少了同步中的错误;
进一步地,即使月初的全量同步数据延迟到达,用户仍然持续读取基于上一个月全量数据的最新增量数据。直到收到最新月份的全量数据,在最新全量版本的基础上,将增量数据补全,之后更新数据版本表,平滑切换到基于最新全量版本的数据上。
进一步地,由于保留了历史版本数据,即使出现了错误信息,也可以通过回查历史版本进行定位,判断错误原因,并加以改进。由于历史版本携号转网数据,和当前版本携号转网数据,处于不同的物理分区,历史数据不会影响当前数据的查询效率。对历史数据的迁移、备份、删除,也不会中断线上业务。
以下介绍本申请的装置实施例,可以用于执行本申请上述实施例中的数据同步方法。对于本申请装置实施例中未披露的细节,请参照本申请上述的数据同步方法的实施例。
如图9所示,图9是本申请的一示例性实施例示出的一种数据同步装置的结构示意图,包括:
数据获取模块910,用于获取待同步的第一原始数据以及第一原始数据的数据类型,数据类型包括全量数据或增量数据;
数据存储模块920,用于当第一原始数据的数据类型为全量数据时,创建新的存储分区,并将第一原始数据存储在新的存储分区中;不同的存储分区存储不同的全量数据;
增量操作模块930,用于根据第一原始数据的数据同步时间点进行数据增量操作,以将数据增量操作对应的增量数据存储在新的存储分区中;
数据发送模块940,用于将新的存储分区中所存储的数据同步给数据使用方。
在本申请的一些实施例中,基于前述方案,数据同步装置还包括写入模块,写入模块具体用于将第一原始数据写入到中间表中,并在日志表中增加一条全量数据未处理的第一记录;中间表用于对待同步的数据进行缓存,日志表用于对待同步数据的处理状态进行记录。此时,数据存储模块920具体用于通过轮询日志表确定存在全量数据未处理的第一记录时,在结果表中创建新的存储分区;结果表用于对所有的同步数据进行存储;将中间表中的与第一记录对应的第一原始数据存储在新的存储分区中。
在本申请的一些实施例中,基于前述方案,增量操作模块930,具体用于更新日志表,以将第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录更新为未处理;从中间表中获取第一原始数据的数据同步时间点起至当前时间点为止的所有增量数据,并将所有增量数据追加存储在新的存储分区中。
在本申请的一些实施例中,基于前述方案,数据同步装置还包括更新模块,该更新模块具体用于将数据版本表中的版本号更新至与新的存储分区对应的最新版本号;数据版本表用于对全量数据的版本号进行管理;更新日志表,以将第一记录更新为已处理的记录。
在本申请的一些实施例中,基于前述方案,数据同步装置还包括接收模块,在更新模块更新日志表,以将第一记录更新为已处理的记录之前,该接收模块用于接收数据使用方发送的第一数据读取请求,此时数据发送模块940还用于根据第一数据读取请求从结果表中获取目标存储分区的数据,并将目标存储分区所存储的数据发送给数据使用方,目标存储分区为最新版本号的上一版本号对应的存储分区。
在本申请的一些实施例中,基于前述方案,在更新模块更新日志表,以将第一记录更新为已处理的记录之后,数据获取模块910还用于获取待同步的第二原始数据,第二原始数据为增量数据,写入模块还用于将第二原始数据写入到中间表中,并在日志表中增加一条增量数据未处理的第二记录,数据获取模块910还用于通过轮询日志表确定存在增量数据未处理的第二记录时,获取数据版本表中的当前版本号;数据存储模块920还用于将中间表中的与第二记录对应的第二原始数据存储在当前版本号对应的存储分区中,并将第二记录更新为已处理记录。
在本申请的一些实施例中,基于前述方案,在更新模块更新日志表,以将第一记录更新为已处理的记录之后,数据发送模块940还用于将数据版本表发送给数据使用方,接收模块还用于接收数据使用方的携带目标版本号的第二数据读取请求;数据发送模块940还用于从结果表中查询与目标版本号对应的存储分区的数据,并将查询到的数据发送给数据使用方,以使数据使用方对查询的数据进行处理。
需要说明的是,上述实施例所提供的装置与上述实施例所提供的方法属于同一构思,其中各个模块和单元执行操作的具体方式已经在方法实施例中进行了详细描述,此处不再赘述。
在一示例性实施例中,一种电子设备,包括一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个被所述一个或多个处理器执行时,使得所述电子设备实现如前所述的方法。
图10是根据一示例性实施例示出的一种电子设备的结构示意图。
需要说明的是,该电子设备只是一个适配于本申请的示例,不能认为是提供了对本申请的使用范围的任何限制。该电子设备也不能解释为需要依赖于或者必须具有图10中示出的示例性的电子设备中的一个或者多个组件。
如图10所示,在一示例性实施例中,电子设备包括处理组件1001、存储器1002、电源组件1003、多媒体组件1004、音频组件1005、处理器1006、传感器组件1007和通信组件1008。其中,上述组件并不全是必须的,电子设备可以根据自身功能需求增加其他组件或减少某些组件,本实施例不作限定。
处理组件1001通常控制电子设备的整体操作,诸如与显示、数据通信以及日志数据同步相关联的操作等。处理组件1001可以包括一个或多个处理器1006来执行指令,以完成上述操作的全部或部分步骤。此外,处理组件1001可以包括一个或多个模块,便于处理组件1001和其他组件之间的交互。例如,处理组件1001可以包括多媒体模块,以方便多媒体组件1004和处理组件1001之间的交互。
存储器1002被配置为存储各种类型的数据以支持在电子设备的操作,这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1002中存储有一个或多个模块,该一个或多个模块被配置成由该一个或多个处理器1006执行,以完成上述实施例中所描述的方法中的全部或者部分步骤。
电源组件1003为电子设备的各种组件提供电力。电源组件1003可以包括电源管理系统,一个或多个电源,及其他与为电子设备生成、管理和分配电力相关联的组件。
多媒体组件1004包括在电子设备和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括TP(Touch Panel,触摸面板)和LCD(Liquid Crystal Display,液晶显示器)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。
音频组件1005被配置为输出和/或输入音频信号。例如,音频组件1005包括一个麦克风,当电子设备处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。在一些实施例中,音频组件1005还包括一个扬声器,用于输出音频信号。
传感器组件1007包括一个或多个传感器,用于为电子设备提供各个方面的状态评估。例如,传感器组件1007可以检测到电子设备的打开/关闭状态,还可以检测电子设备的温度变化。
通信组件1008被配置为便于电子设备和其他设备之间有线或无线方式的通信。电子设备可以接入基于通信标准的无线网络,例如Wi-Fi(Wireless-Fidelity,无线网络)。
可以理解,图10所示的结构仅为示意,电子设备该可以包括比图10中所示更多或更少的组件,或者具有与图10所示不同的组件。图10中所示的各组件均可以采用硬件、软件或者其组合来实现。
在一示例性实施例中,一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如前所述的方法。该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的,也可以是单独存在,而未装配入该电子设备中。
需要说明的是,本申请实施例所示的计算机可读存储介质例如可以是电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
本领域技术人员在考虑说明书及实践这里公开的实施方式后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
上述内容,仅为本申请的较佳示例性实施例,并非用于限制本申请的实施方案,本领域普通技术人员根据本申请的主要构思和精神,可以十分方便地进行相应的变通或修改,故本申请的保护范围应以权利要求书所要求的保护范围为准。
Claims (10)
1.一种数据同步方法,其特征在于,包括:
获取待同步的第一原始数据以及所述第一原始数据的数据类型,所述数据类型包括全量数据或增量数据;
当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在所述新的存储分区中;不同的存储分区存储不同的全量数据;
根据所述第一原始数据的数据同步时间点进行数据增量操作,以将所述数据增量操作对应的增量数据存储在所述新的存储分区中;
将所述新的存储分区中所存储的数据同步给数据使用方。
2.根据权利要求1所述的方法,其特征在于,在所述获取待同步的第一原始数据以及所述第一原始数据的数据类型之后,所述方法还包括:
将所述第一原始数据写入到中间表中,并在日志表中增加一条全量数据未处理的第一记录;所述中间表用于对待同步的数据进行缓存,所述日志表用于对待同步的数据的处理状态进行记录;
当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在新的存储分区中包括:
通过轮询所述日志表确定存在全量数据未处理的第一记录时,在结果表中创建所述新的存储分区;所述结果表用于对所有的同步数据进行存储;
将所述中间表中的与所述第一记录对应的第一原始数据存储在所述新的存储分区中。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一原始数据的数据同步时间点进行数据增量操作,以将所述数据增量操作对应的增量数据存储在所述新的存储分区中,包括:
更新所述日志表,以将所述第一原始数据的数据同步时间点起至当前时间点为止的增量数据的记录更新为未处理;
从所述中间表中获取所述第一原始数据的数据同步时间点起至当前时间点为止的所有增量数据,并将所有增量数据追加存储在所述新的存储分区中。
4.根据权利要求3所述的方法,其特征在于,在所述将所有增量数据追加存储在所述新的存储分区中之后,所述方法还包括:
将数据版本表中的版本号更新至与所述新的存储分区对应的最新版本号;所述数据版本表用于对全量数据的版本号进行管理;
更新所述日志表,以将所述第一记录更新为已处理的记录。
5.根据权利要求4所述的方法,其特征在于,在所述更新所述日志表,以将所述第一记录更新为已处理的记录之前,所述方法还包括:
接收数据使用方发送的第一数据读取请求;
根据所述第一数据读取请求从所述结果表中获取目标存储分区的数据,并将所述目标存储分区所存储的数据发送给所述数据使用方,所述目标存储分区为所述最新版本号的上一版本号对应的存储分区。
6.根据权利要求4所述的方法,其特征在于,在所述更新所述日志表,以将所述第一记录更新为已处理的记录之后,所述方法还包括:
获取待同步的第二原始数据,所述第二原始数据为增量数据;
将所述第二原始数据写入到中间表中,并在所述日志表中增加一条增量数据未处理的第二记录;
通过轮询所述日志表确定存在增量数据未处理的第二记录时,获取所述数据版本表中的当前版本号;
将所述中间表中的与所述第二记录对应的第二原始数据存储在所述当前版本号对应的存储分区中,并将所述第二记录更新为已处理记录。
7.根据权利要求4所述的方法,其特征在于,所述在更新所述日志表,以将所述第一记录更新为已处理的记录之后,所述方法还包括:
将所述数据版本表发送给数据使用方,并接收数据使用方的携带目标版本号的第二数据读取请求;
从所述结果表中查询与所述目标版本号对应的存储分区的数据,并将查询到的数据发送给数据使用方,以使所述数据使用方对查询的数据进行处理。
8.一种数据同步装置,其特征在于,包括:
数据获取模块,用于获取待同步的第一原始数据以及所述第一原始数据的数据类型,所述数据类型包括全量数据或增量数据;
数据存储模块,用于当所述第一原始数据的数据类型为全量数据时,创建新的存储分区,并将所述第一原始数据存储在所述新的存储分区中;不同的存储分区存储不同的全量数据;
增量操作模块,用于根据所述第一原始数据的数据同步时间点进行数据增量操作,以将所述数据增量操作对应的增量数据存储在所述新的存储分区中;
数据发送模块,用于将所述新的存储分区中所存储的数据同步给数据使用方。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个被所述一个或多个处理器执行时,使得所述电子设备实现如权利要求1-7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行权利要求1-7中的任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111471916.1A CN114185489A (zh) | 2021-12-02 | 2021-12-02 | 一种数据同步方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111471916.1A CN114185489A (zh) | 2021-12-02 | 2021-12-02 | 一种数据同步方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114185489A true CN114185489A (zh) | 2022-03-15 |
Family
ID=80542280
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111471916.1A Pending CN114185489A (zh) | 2021-12-02 | 2021-12-02 | 一种数据同步方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114185489A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114726872A (zh) * | 2022-04-07 | 2022-07-08 | 平安资产管理有限责任公司 | 数据同步方法、装置、计算机设备及存储介质 |
CN115225697A (zh) * | 2022-06-16 | 2022-10-21 | 阿里云计算有限公司 | 状态同步方法、装置、设备及存储介质 |
WO2024051738A1 (zh) * | 2022-09-09 | 2024-03-14 | 顺丰科技有限公司 | 数据写入方法、装置、电子设备及存储介质 |
CN118069752A (zh) * | 2024-03-27 | 2024-05-24 | 江苏省联合征信有限公司 | 一种支持自适应同步方式的数据同步方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014015809A1 (zh) * | 2012-07-25 | 2014-01-30 | 腾讯科技(深圳)有限公司 | Ugc主备数据同步方法及其系统、计算机存储介质 |
CN109819048A (zh) * | 2019-02-27 | 2019-05-28 | 北京字节跳动网络技术有限公司 | 数据同步方法、装置、终端及存储介质 |
CN110334152A (zh) * | 2019-06-28 | 2019-10-15 | 浙江吉利控股集团有限公司 | 一种数据同步方法、装置及服务器 |
CN112579692A (zh) * | 2019-09-29 | 2021-03-30 | 杭州海康威视数字技术股份有限公司 | 一种数据同步方法、装置、系统、设备及存储介质 |
-
2021
- 2021-12-02 CN CN202111471916.1A patent/CN114185489A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014015809A1 (zh) * | 2012-07-25 | 2014-01-30 | 腾讯科技(深圳)有限公司 | Ugc主备数据同步方法及其系统、计算机存储介质 |
CN109819048A (zh) * | 2019-02-27 | 2019-05-28 | 北京字节跳动网络技术有限公司 | 数据同步方法、装置、终端及存储介质 |
WO2020173248A1 (zh) * | 2019-02-27 | 2020-09-03 | 北京字节跳动网络技术有限公司 | 数据同步方法、装置、终端及存储介质 |
CN110334152A (zh) * | 2019-06-28 | 2019-10-15 | 浙江吉利控股集团有限公司 | 一种数据同步方法、装置及服务器 |
CN112579692A (zh) * | 2019-09-29 | 2021-03-30 | 杭州海康威视数字技术股份有限公司 | 一种数据同步方法、装置、系统、设备及存储介质 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114726872A (zh) * | 2022-04-07 | 2022-07-08 | 平安资产管理有限责任公司 | 数据同步方法、装置、计算机设备及存储介质 |
CN115225697A (zh) * | 2022-06-16 | 2022-10-21 | 阿里云计算有限公司 | 状态同步方法、装置、设备及存储介质 |
CN115225697B (zh) * | 2022-06-16 | 2024-04-09 | 阿里云计算有限公司 | 状态同步方法、装置、设备及存储介质 |
WO2024051738A1 (zh) * | 2022-09-09 | 2024-03-14 | 顺丰科技有限公司 | 数据写入方法、装置、电子设备及存储介质 |
CN118069752A (zh) * | 2024-03-27 | 2024-05-24 | 江苏省联合征信有限公司 | 一种支持自适应同步方式的数据同步方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114185489A (zh) | 一种数据同步方法、装置、电子设备及存储介质 | |
CN107784086B (zh) | 一种网页的加载方法、终端设备及计算机可读存储介质 | |
CN103338243A (zh) | Web节点的缓存数据更新方法和系统 | |
CN102769640B (zh) | 用户信息的更新方法、服务器以及系统 | |
CN111259066A (zh) | 服务器集群数据同步方法及装置 | |
CN105812469A (zh) | 一种通讯录同步方法及装置 | |
CN105915636B (zh) | 一种联系人信息的同步方法和装置 | |
CN109213955B (zh) | 数据处理方法及相关设备 | |
CN111641690B (zh) | 会话消息处理方法、装置及电子设备 | |
CN112148744A (zh) | 页面展示方法、装置、电子设备和计算机可读介质 | |
CN109165259B (zh) | 基于网络附属存储的索引表更新方法、处理器及存储装置 | |
CN108009247B (zh) | 信息推送方法及装置 | |
CN113779412B (zh) | 一种基于区块链网络的消息触达方法、节点和系统 | |
CN110401709A (zh) | 一种即时通讯应用中会话的处理方法、装置和存储介质 | |
CN115629909A (zh) | 业务数据处理的方法、装置、电子设备和存储介质 | |
CN116166673A (zh) | 数据处理方法及装置、电子设备、计算机可读存储介质 | |
US11277300B2 (en) | Method and apparatus for outputting information | |
CN113656506A (zh) | 一种电子说明书获取方法、装置及可读介质 | |
CN112688793B (zh) | 数据包获取方法、装置及电子设备 | |
CN111506646A (zh) | 数据同步方法、装置、系统、存储介质及处理器 | |
CN111309685A (zh) | 在线协作处理模型文件的方法及服务器 | |
CN115002137B (zh) | 离线消息处理方法、装置、计算机设备和存储介质 | |
CN109922470A (zh) | 一种推荐方法、终端及服务器 | |
CN117390078A (zh) | 数据处理方法、装置、存储介质和计算机设备 | |
CN113626664A (zh) | 房源筛选信息处理方法、装置、设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |