CN109558458A - 数据同步方法、配置平台、交易平台及数据同步系统 - Google Patents
数据同步方法、配置平台、交易平台及数据同步系统 Download PDFInfo
- Publication number
- CN109558458A CN109558458A CN201811648558.5A CN201811648558A CN109558458A CN 109558458 A CN109558458 A CN 109558458A CN 201811648558 A CN201811648558 A CN 201811648558A CN 109558458 A CN109558458 A CN 109558458A
- Authority
- CN
- China
- Prior art keywords
- synchronized
- data
- configuration
- configuration data
- unique identification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明实施例提供一种数据同步方法、配置平台、交易平台及数据同步系统,其中数据同步方法包括:根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个待同步的配置数据的唯一标识和状态标识,根据生成待同步的配置数据的时间创建时间戳;根据所有待同步的配置数据以及时间戳生成一个整体唯一标识,将所有待同步的配置数据、时间戳以及整体唯一标识发送至交易平台中的异步队列中,以使得交易平台根据待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对待同步的配置数据进行校验和同步。本发明实施例解决复杂配置数据在多环境下的数据一致性问题,从而有效保证交易平台的测试环境的测试结果和线上环境实际运行结果一致。
Description
技术领域
本发明涉及数据同步技术领域,更具体地,涉及一种数据同步方法、配置平台、交易平台及数据同步系统。
背景技术
因各个城市的政策不同,房产交易的流程千差万别。配置平台主要是做房产交易平台的配置化工作,使得房产交易可以按照配置信息来完成房产交易流程。
由于房产行业的产业互联网刚刚兴起,房产交易平台基本是针对于城市定制的,配置化的需求甚少。而数据同步则参考现有数据同步方案。目前数据同步方案,主要是实时生成增量或全量的同步数据,然后将数据通过https或消息队列等形式,完成数据同步。
目前的数据同步方案具有以下缺点:
1、现有的配置平台实时化生成配置数据,例如配置平台在今天生成一个配置数据,发送至交易平台的测试环境,明天生成另一个配置数据,发送至交易平台的线上环境,这个时候,因数据是在不同时间节点生成的,有可能会因各种不确定因素,造成线上环境和测试环境的配置数据不一致的问题发生。
2、对配置数据的解析过程因同步系统环境的不一致而不同,导致最终的配置数据可能会发生数据不一致的问题发生。
3、因交易平台涉及用户敏感信息,线上环境的交易平台和测试环境的交易平台之间数据必须是完全隔离的;同时,为了保证线上系统的安全性,运营公司的线上环境和测试环境也是完全隔离的。此时,常常出现在交易平台的测试环境下验证OK,但是在交易平台的线上环境运行就会出现异常的问题,给交易平台带来极大的困扰。对于线下和线上环境数据隔离的场景,主要采用在线下环境针对易错点加强测试case,以降低线下测试结果与线上测试结果不一致的状况发生。
发明内容
本发明实施例提供一种克服上述问题或者至少部分地解决上述问题的数据同步方法、配置平台、交易平台及数据同步系统。
第一个方面,本发明实施例提供数据同步方法,所述方法应用于配置平台,所述方法包括:
S101、在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;
S102、根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
第二个方面,本发明实施例提供一种数据同步方法,其特征在于,应用于交易平台,包括:
S201、对异步队列进行监听;
S202、当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;
S203、根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
第三个方面,本发明实施例提供一种配置平台,包括:
配置数据生成模块,用于在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;
配置数据发送模块,用于根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
第四个方面,本发明实施例提供一种交易平台,包括:
监听模块,用于对异步队列进行监听;
提取模块,用于当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;
同步校验模块,用于根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
第五方面,本发明实施例提供一种数据同步系统,包括如上所述的配置平台以及如上所述的交易平台。
第六方面,本发明实施例提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如第一方面或第二方面所提供的方法的步骤。
第七方面,本发明实施例提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面或第二方面所提供的方法的步骤。
本发明实施例提供的数据同步方法、配置平台、交易平台和数据同步系统具有以下有益效果:
1.待同步的配置数据只有在提测环节生成,且在测试环境和线上环境共用,不再重新生成,以保证数据源一致。
2.为了保证配置数据的有效性,防止配置平台提供的数据与交易平台需要的数据不一致,会给配置数据增加整体唯一标识,以便平台间核验配置数据的有效性。
3.为了降低配置平台与交易平台的耦合度,设置配置数据格式为交易平台的数据表结构,以使得配置平台负责抽取生成交易平台的数据表数据,而交易平台只负责数据表数据的新增和更新操作。
4.因交易平台的数据结构复杂,每个数据表记录的唯一性都是由多个字段联合确定的,这样对于大规模的数据同步操作,会带来极大的数据库查询压力,因此本发明实施例给每个记录加一个唯一标识,以提高检索效率。
5.为了保证线下环境和线上环境验证结果一致,对同步过来的数据,交易平台采用除了传输方式不同以外,数据校验和数据解析都复用同一个处理逻辑,从而保证两种环境下的配置数据结果完全一致。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的数据同步方法的流程示意图;
图2为本发明另一个实施例的数据同步方法的流程示意图;
图3为本发明实施例提供的配置平台的结构示意图;
图4为本发明实施例提供的交易平台的结构示意图;
图5为本发明实施例的数据同步系统的结构示意图;
图6为本发明实施例提供的电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例提供的数据同步方法的流程示意图,本发明实施例的数据同步方法的执行主体为配置平台,如图1所示,包括:
S101、在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新。
需要说明的是,本发明实施例的待同步的配置数据只有在提测环节生成,且在测试环境和线上环境共用,不再重新生成,以保证数据源一致,在提测环节批量生成配置数据时,还创建时间戳,时间戳用于记录配置数据的生成时间,用于后续验证配置数据的一致性。
因交易平台的数据全部源于配置平台,且配置的数据量很大,因此采用增量模式,每次只传输更新或者新增的数据。配置平台的数据,都具有状态标识,用于标识数据是{新增}或是{新增},当配置人员编辑原有数据时,会给数据打上{更新}标识;当配置人员新增一条记录时,该记录会被打上{新增}标识。{新增}或{新增}的数据都是需要同步给交易系统的数据。
为了降低配置平台与交易平台的耦合度,设置配置数据的格式为交易平台的数据表的结构,以使得配置平台负责抽取生成交易平台的数据表数据,而交易平台只负责数据表数据的新增和更新操作。因交易平台的数据结构复杂,每个数据表记录的唯一性都是由多个字段联合确定的,这样对于大规模的数据同步操作,会带来极大的数据库查询压力,因此本发明实施例给每个配置数据增加一个唯一标识,以提高检索效率。
S102、根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
需要说明的是,本发明实施例为了保证配置数据的有效性,防止配置平台提供的数据与交易平台需要的数据不一致,会给配置数据增加整体唯一标识,以便平台间核验配置数据的有效性。具体地,可根据MD5算法计算生成整体唯一标识。
本发明实施例为了保证线下环境和线上环境的验证结果保持一致,对配置数据,交易平台采用除了传输方式不同以外,数据校验和数据解析都复用同一个处理逻辑,从而保证两种环境下的配置数据结果完全一致。
本发明实施例的数据同步方法解决复杂配置数据在多环境下的数据一致性问题,从而有效保证交易平台的测试环境的测试结果和线上环境实际运行结果一致。
在上述实施例的基础上,作为一种可选实施例,所述将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,具体为:
将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识存放在预设的同步数据记录表中,从所述同步数据记录表中导出所述待同步的配置数据、所述时间戳以及所述整体唯一标识,并发送至所述交易平台中的异步队列中。
在本发明实施例中,同步数据记录表作用用于存储提测环节生成的配置数据,在存储配置数据A后,推送至测试环境的文件,其实是实时读取同步数据记录表中的A,以A为内容生成的文件;而线上环境通过https做同步的数据,也是读取同步数据记录中A,以A为内容同步的。另外,同步数据记录表的数据也有业务需求,比如用于追查配置数据同步的历史记录等。
在上述各实施例的基础上,作为一种可选实施例,所述交易平台具体包括所述交易平台的测试环境和线上环境;
相应地,所述发送至所述交易平台中的异步队列中,具体为:
通过文件上传的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述测试环境中的异步队列。
具体地,由于测试环境与配置平台之间存在网络隔离,因此将配置数据、时间戳以及整体唯一标识打包在一个文件中,在一个可选实施例中,文件为txt格式,文件的内容为json格式的数据,通过将文件上传至测试环境,最终将文件解析到异步队列中。
通过http请求的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述线上环境中的异步队列。
具体地,首先建立配置平台与交易平台间的TCP连接,连接成功后,交易平台向配置平台发送获取数据的请求,配置平台在接收到该请求后对请求进行解析,将请求的数据传入线上环境中的异步队列。
需要说明的是,因线上线下环境间隔离,配置数据与线上环境同步时,采用文件传输方式;而配置平台与线上环境采用https方式传输数据,以实现配置数据在不同环境下的数据传输。
图2为本发明另一个实施例的数据同步方法的流程示意图,该方法的执行主体为交易平台,如图2所示,该数据同步方法包括:
S201、对异步队列进行监听。
需要说明的是,本发明实施例预先创建异步队列,以接收配置平台传入的配置数据等信息,通过构建异步队列,使得交易平台不必一次性从异步队列中取走所有的数据,可以根据自身的处理能力提取数据,能够避免交易平台因同时处理的数据过多而宕机。
S202、当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识。
因交易平台的数据全部源于配置平台,且配置的数据量很大,因此采用增量模式,每次只传输更新或者新增的数据。配置平台的数据,都具有状态标识,用于标识数据是{新增}或是{新增},当配置人员编辑原有数据时,会给数据打上{更新}标识;当配置人员新增一条记录时,该记录会被打上{新增}标识。{新增}或{新增}的数据都是需要同步给交易系统的数据。
S203、根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
需要说明的是,为了保证线下环境和线上环境验证结果一致,对同步过来的数据,交易平台采用除了传输方式不同以外,数据校验和数据解析都复用同一个处理逻辑,从而保证两种环境下的配置数据结果完全一致。
在上述各实施例的基础上,所述根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步,具体为:
根据所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识,对所有所述待同步的配置数据进行一致性校验。
需要说明的是,本发明实施例中的一致性校验,是指对从异步队列中获取的配置数据是否与提测阶段生成的配置数据一致进行校验,由上述实施例可知,本发明实施例的配置平台会根据配置数据的内容以及时间戳,利用加密算法生成一个整体唯一标识,因此交易平台根据提取的配置数据和时间戳利用同样的加密算法也可生成一个整体唯一标识,若两个整体唯一标识一致,则通过一致性校验。
若通过一致性校验,则对于每个待同步的配置数据,根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验。
需要说明的是,由上述各实施例可知,本发明实施例的配置数据有新增和更新两种状态,因此,对于新增的配置数据,该配置数据的唯一标识显然应当在交易平台的数据表中无法查询到,而对于更新的配置数据,该配置数据的唯一标识应当在交易平台的数据表中查询到。因此,通过配置数据的唯一标识以及状态标识,在交易平台中的数据包中查询即可完成存在性校验。
在上述各实施例的基础上,根据所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识,对所有所述待同步的配置数据进行一致性校验,具体为:
根据所有所述待同步的配置数据的内容和所述时间戳生成新的整体唯一标识,若所述新的整体唯一标识与从所述异步队列中提取的整体唯一标识一致,则确定所有所述待同步的配置数据通过一致性校验。
在上述各实施例的基础上,根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验,具体为:
若所述待同步数据的所述状态标识为新增,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若未搜索到,则所述待同步数据通过存在性校验;
若所述待同步数据的状态标识为更新,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若搜索到,则所述待同步数据通过存在性校验。
图3为本发明实施例提供的配置平台的结构示意图,如图3所示,该配置平台包括:配置数据生成模块301和配置数据发送模块302,其中:
配置数据生成模块301,用于在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新。
需要说明的是,本发明实施例的待同步的配置数据只有在提测环节生成,且在测试环境和线上环境共用,不再重新生成,以保证数据源一致,在提测环节批量生成配置数据时,还创建时间戳,时间戳用于记录配置数据的生成时间,用于后续验证配置数据的一致性。
因交易平台的数据全部源于配置平台,且配置的数据量很大,因此采用增量模式,每次只传输更新或者新增的数据。配置平台的数据,都具有状态标识,用于标识数据是{新增}或是{新增},当配置人员编辑原有数据时,会给数据打上{更新}标识;当配置人员新增一条记录时,该记录会被打上{新增}标识。{新增}或{新增}的数据都是需要同步给交易系统的数据。
为了降低配置平台与交易平台的耦合度,设置配置数据的格式为交易平台的数据表的结构,以使得配置平台负责抽取生成交易平台的数据表数据,而交易平台只负责数据表数据的新增和更新操作。因交易平台的数据结构复杂,每个数据表记录的唯一性都是由多个字段联合确定的,这样对于大规模的数据同步操作,会带来极大的数据库查询压力,因此本发明实施例给每个配置数据增加一个唯一标识,以提高检索效率。
配置数据发送模块302,用于根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
需要说明的是,本发明实施例为了保证配置数据的有效性,防止配置平台提供的数据与交易平台需要的数据不一致,会给配置数据增加整体唯一标识,以便平台间核验配置数据的有效性。具体地,可根据MD5算法计算生成整体唯一标识。
本发明实施例为了保证线下环境和线上环境的验证结果保持一致,对配置数据,交易平台采用除了传输方式不同以外,数据校验和数据解析都复用同一个处理逻辑,从而保证两种环境下的配置数据结果完全一致。
本发明实施例提供的配置平台,具体执行上述各数据同步方法在配置平台侧的实施例流程,具体请详见上述各数据同步方法实施例的内容,在此不再赘述。
在上述各实施例的基础上,作为一种可选实施例,配置数据发送模块302将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,具体为:
将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识存放在预设的同步数据记录表中,从所述同步数据记录表中导出所述待同步的配置数据、所述时间戳以及所述整体唯一标识,并发送至所述交易平台中的异步队列中。
在上述各实施例的基础上,作为一种可选实施例,交易平台具体包括所述交易平台的测试环境和线上环境,相应地,配置数据发送模块302将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,具体为:
通过文件上传的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述测试环境中的异步队列;
通过http请求的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述线上环境中的异步队列。
图4为本发明实施例提供的交易平台的结构示意图,如图4所示,交易平台包括:监听模块401、提取模块402和同步校验模块403,其中:
监听模块401,用于对异步队列进行监听。
需要说明的是,本发明实施例预先创建异步队列,以接收配置平台传入的配置数据等信息,通过构建异步队列,使得交易平台不必一次性从异步队列中取走所有的数据,可以根据自身的处理能力提取数据,能够避免交易平台因同时处理的数据过多而宕机。
提取模块402,用于当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识。
因交易平台的数据全部源于配置平台,且配置的数据量很大,因此采用增量模式,每次只传输更新或者新增的数据。配置平台的数据,都具有状态标识,用于标识数据是{新增}或是{新增},当配置人员编辑原有数据时,会给数据打上{更新}标识;当配置人员新增一条记录时,该记录会被打上{新增}标识。{新增}或{新增}的数据都是需要同步给交易系统的数据。
同步校验模块403,用于根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
需要说明的是,为了保证线下环境和线上环境验证结果一致,对同步过来的数据,交易平台采用除了传输方式不同以外,数据校验和数据解析都复用同一个处理逻辑,从而保证两种环境下的配置数据结果完全一致。
本发明实施例提供的交易平台,具体执行上述各数据同步方法在交易平台侧的实施例流程,具体请详见上述各数据同步方法实施例的内容,在此不再赘述。
在上述各实施例的基础上,作为一种可选实施例,同步校验模块403具体包括:
一致性校验子模块,用于根据所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识,对所有所述待同步的配置数据进行一致性校验;
存在性校验子模块,用于若通过一致性校验,则对于每个待同步的配置数据,根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验。
在上述各实施例的基础上,作为一种可选实施例,一致性校验子模块具体用于:根据所有所述待同步的配置数据的内容和所述时间戳生成新的整体唯一标识,若所述新的整体唯一标识与从所述异步队列中提取的整体唯一标识一致,则确定所有所述待同步的配置数据通过一致性校验。
在上述各实施例的基础上,作为一种可选实施例,存在性校验子模块根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验,具体为:
若所述待同步数据的所述状态标识为新增,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若未搜索到,则所述待同步数据通过存在性校验;
若所述待同步数据的状态标识为更新,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若搜索到,则所述待同步数据通过存在性校验。
图5为本发明实施例提供的数据同步系统的结构示意图,如图5所示,数据同步系统包括配置平台501和交易平台502,具体地,
配置平台501在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中。
交易平台502对异步队列进行监听;当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步。
图6为本发明实施例提供的电子设备的实体结构示意图,如图6所示,该电子设备可以包括:处理器(processor)610、通信接口(Communications Interface)620、存储器(memory)630和通信总线640,其中,处理器610,通信接口620,存储器630通过通信总线640完成相互间的通信。处理器610可以调用存储在存储器630上并可在处理器610上运行的计算机程序,以执行上述各实施例提供的数据同步方法,例如包括:在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。或者,对异步队列进行监听;当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
此外,上述的存储器630中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的数据同步方法,例如包括:在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。或者,对异步队列进行监听;当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种数据同步方法,其特征在于,所述方法应用于配置平台,所述方法包括:
S101、在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;以及
S102、根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
2.根据权利要求1所述的数据同步方法,其特征在于,所述S102中的将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,具体为:
将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识存放在预设的同步数据记录表中,从所述同步数据记录表中导出所述待同步的配置数据、所述时间戳以及所述整体唯一标识,并发送至所述交易平台中的异步队列中。
3.根据权利要求1或2所述的数据同步方法,其特征在于,所述交易平台具体包括所述交易平台的测试环境和线上环境;
相应地,所述S102中的将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,具体为:
通过文件上传的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述测试环境中的异步队列;
通过http请求的方式,将所述待同步的配置数据、所述时间戳以及所述整体唯一标识传入所述交易平台的所述线上环境中的异步队列。
4.一种数据同步方法,其特征在于,应用于交易平台,其特征在于,包括:
S201、对异步队列进行监听;
S202、当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;
S203、根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
5.根据权利要求4所述的数据同步方法,其特征在于,所述S203具体为:
S2031、根据所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识,对所有所述待同步的配置数据进行一致性校验;
S2032、若通过一致性校验,则对于每个待同步的配置数据,根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验。
6.根据权利要求5所述的数据同步方法,其特征在于,所述S2031具体为:
根据所有所述待同步的配置数据的内容和所述时间戳生成新的整体唯一标识,若所述新的整体唯一标识与从所述异步队列中提取的整体唯一标识一致,则确定所有所述待同步的配置数据通过一致性校验。
7.根据权利要求5所述的数据同步方法,其特征在于,所述S2032中的根据所述待同步的配置数据的唯一标识以及状态标识,对所述待同步的配置数据进行存在性校验,具体为:
若所述待同步数据的所述状态标识为新增,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若未搜索到,则所述待同步数据通过存在性校验;
若所述待同步数据的状态标识为更新,则在所述交易平台的所述数据表中搜索所述待同步数据的唯一标识,若搜索到,则所述待同步数据通过存在性校验。
8.一种配置平台,其特征在于,包括:
配置数据生成模块,用于在提测环节,根据交易平台中数据表的格式生成若干个待同步的配置数据以及每个所述待同步的配置数据的唯一标识和状态标识,根据生成所述待同步的配置数据的时间创建时间戳;所述状态标识为新增或更新;
配置数据发送模块,用于根据所有所述待同步的配置数据以及所述时间戳生成一个整体唯一标识,将所有所述待同步的配置数据、所述时间戳以及所述整体唯一标识发送至所述交易平台中的异步队列中,以使得所述交易平台根据所述待同步的配置数据的唯一标识、所述状态标识、所述时间戳以及所述整体唯一标识对所述待同步的配置数据进行校验和同步。
9.一种交易平台,其特征在于,包括:
监听模块,用于对异步队列进行监听;
提取模块,用于当配置平台将待同步的配置数据、时间戳以及整体唯一标识传入所述异步队列时,从所述异步队列中提取所述待同步的配置数据、所述时间戳以及所述整体唯一标识;
同步校验模块,用于根据所述待同步的配置数据的唯一标识、状态标识、时间戳以及整体唯一标识对所述待同步的配置数据进行校验和同步;
其中,所述待同步的配置数据根据所述交易平台中数据表的格式生成,所述待同步的配置数据具有所述唯一标识和所述状态标识;所述状态标识为新增或更新。
10.一种数据同步系统,其特征在于,包括如权利要求8所述的配置平台和如权利要求9所述的交易平台。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811648558.5A CN109558458B (zh) | 2018-12-30 | 2018-12-30 | 数据同步方法、配置平台、交易平台及数据同步系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811648558.5A CN109558458B (zh) | 2018-12-30 | 2018-12-30 | 数据同步方法、配置平台、交易平台及数据同步系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109558458A true CN109558458A (zh) | 2019-04-02 |
CN109558458B CN109558458B (zh) | 2021-08-03 |
Family
ID=65872139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811648558.5A Active CN109558458B (zh) | 2018-12-30 | 2018-12-30 | 数据同步方法、配置平台、交易平台及数据同步系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109558458B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110442564A (zh) * | 2019-07-23 | 2019-11-12 | 福建天泉教育科技有限公司 | 增量数据校验方法、存储介质 |
CN111028931A (zh) * | 2019-12-11 | 2020-04-17 | 医渡云(北京)技术有限公司 | 医疗数据处理方法及装置、电子设备、存储介质 |
CN111402044A (zh) * | 2020-03-06 | 2020-07-10 | 上海数据交易中心有限公司 | 数据配置系统及其数据配置方法 |
CN111723062A (zh) * | 2020-06-28 | 2020-09-29 | 天津联想协同科技有限公司 | 一种文件同步方法、装置及存储介质 |
CN111984684A (zh) * | 2020-08-20 | 2020-11-24 | 北京捷报金峰数据技术有限公司 | 数据处理方法及装置 |
CN112394979A (zh) * | 2020-11-25 | 2021-02-23 | 平安普惠企业管理有限公司 | 软件系统的多环境同步方法、装置、设备及存储介质 |
Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040128327A1 (en) * | 2002-12-26 | 2004-07-01 | Shi Shepherd S.B. | System and method for synchronizing data of wireless devices |
US20060080574A1 (en) * | 2004-10-08 | 2006-04-13 | Yasushi Saito | Redundant data storage reconfiguration |
CN1937536A (zh) * | 2006-10-31 | 2007-03-28 | 华为技术有限公司 | 网管拓扑数据同步刷新的方法及系统 |
CN101127640A (zh) * | 2007-09-10 | 2008-02-20 | 中兴通讯股份有限公司 | 一种提高增量方式数据同步效率的方法 |
CN101808137A (zh) * | 2010-03-29 | 2010-08-18 | 成都市华为赛门铁克科技有限公司 | 数据传输方法、装置和系统 |
CN102143194A (zh) * | 2010-06-10 | 2011-08-03 | 华为技术有限公司 | 数据同步的方法、系统、中间数据节点及终止数据节点 |
CN103379159A (zh) * | 2012-04-24 | 2013-10-30 | 阿里巴巴集团控股有限公司 | 一种分布式Web站点数据同步的方法 |
EP2660761A1 (en) * | 2012-05-03 | 2013-11-06 | Samsung Electronics Co., Ltd | Timestamp management method for data synchronization and terminal therefor |
CN104168335A (zh) * | 2014-09-02 | 2014-11-26 | 东软熙康健康科技有限公司 | 一种数据同步方法和装置 |
EP2819376A1 (en) * | 2012-03-20 | 2014-12-31 | ZTE Corporation | Data synchronization method and device |
CN104462477A (zh) * | 2014-12-18 | 2015-03-25 | 深圳市科漫达智能管理科技有限公司 | 基于时间戳的数据同步的方法、装置及系统 |
CN104580454A (zh) * | 2014-12-31 | 2015-04-29 | 乐视网信息技术(北京)股份有限公司 | 一种数据同步方法、装置及系统 |
CN106021494A (zh) * | 2016-05-19 | 2016-10-12 | 中国银联股份有限公司 | 一种主数据同步方法及装置 |
CN106254094A (zh) * | 2016-07-19 | 2016-12-21 | 中国银联股份有限公司 | 一种数据同步方法及系统 |
CN106713107A (zh) * | 2015-11-13 | 2017-05-24 | 阿里巴巴集团控股有限公司 | 消息的获取方法、服务端、客户端及网关设备 |
CN107180116A (zh) * | 2017-06-28 | 2017-09-19 | 努比亚技术有限公司 | 一种数据同步处理方法、移动终端以及计算机可读存储介质 |
CN107370803A (zh) * | 2017-07-11 | 2017-11-21 | 福建省天奕网络科技有限公司 | 一种数据同步的方法及终端 |
CN108243208A (zh) * | 2016-12-23 | 2018-07-03 | 深圳市优朋普乐传媒发展有限公司 | 一种数据同步方法及装置 |
CN108536752A (zh) * | 2018-03-13 | 2018-09-14 | 北京信安世纪科技有限公司 | 一种数据同步方法、装置和设备 |
CN108989391A (zh) * | 2018-06-19 | 2018-12-11 | 北京百悟科技有限公司 | 一种一致性处理的方法及装置 |
-
2018
- 2018-12-30 CN CN201811648558.5A patent/CN109558458B/zh active Active
Patent Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040128327A1 (en) * | 2002-12-26 | 2004-07-01 | Shi Shepherd S.B. | System and method for synchronizing data of wireless devices |
US20060080574A1 (en) * | 2004-10-08 | 2006-04-13 | Yasushi Saito | Redundant data storage reconfiguration |
CN1937536A (zh) * | 2006-10-31 | 2007-03-28 | 华为技术有限公司 | 网管拓扑数据同步刷新的方法及系统 |
CN101127640A (zh) * | 2007-09-10 | 2008-02-20 | 中兴通讯股份有限公司 | 一种提高增量方式数据同步效率的方法 |
CN101808137A (zh) * | 2010-03-29 | 2010-08-18 | 成都市华为赛门铁克科技有限公司 | 数据传输方法、装置和系统 |
CN102143194A (zh) * | 2010-06-10 | 2011-08-03 | 华为技术有限公司 | 数据同步的方法、系统、中间数据节点及终止数据节点 |
EP2819376A1 (en) * | 2012-03-20 | 2014-12-31 | ZTE Corporation | Data synchronization method and device |
CN103379159A (zh) * | 2012-04-24 | 2013-10-30 | 阿里巴巴集团控股有限公司 | 一种分布式Web站点数据同步的方法 |
EP2660761A1 (en) * | 2012-05-03 | 2013-11-06 | Samsung Electronics Co., Ltd | Timestamp management method for data synchronization and terminal therefor |
CN104168335A (zh) * | 2014-09-02 | 2014-11-26 | 东软熙康健康科技有限公司 | 一种数据同步方法和装置 |
CN104462477A (zh) * | 2014-12-18 | 2015-03-25 | 深圳市科漫达智能管理科技有限公司 | 基于时间戳的数据同步的方法、装置及系统 |
CN104580454A (zh) * | 2014-12-31 | 2015-04-29 | 乐视网信息技术(北京)股份有限公司 | 一种数据同步方法、装置及系统 |
CN106713107A (zh) * | 2015-11-13 | 2017-05-24 | 阿里巴巴集团控股有限公司 | 消息的获取方法、服务端、客户端及网关设备 |
CN106021494A (zh) * | 2016-05-19 | 2016-10-12 | 中国银联股份有限公司 | 一种主数据同步方法及装置 |
CN106254094A (zh) * | 2016-07-19 | 2016-12-21 | 中国银联股份有限公司 | 一种数据同步方法及系统 |
CN108243208A (zh) * | 2016-12-23 | 2018-07-03 | 深圳市优朋普乐传媒发展有限公司 | 一种数据同步方法及装置 |
CN107180116A (zh) * | 2017-06-28 | 2017-09-19 | 努比亚技术有限公司 | 一种数据同步处理方法、移动终端以及计算机可读存储介质 |
CN107370803A (zh) * | 2017-07-11 | 2017-11-21 | 福建省天奕网络科技有限公司 | 一种数据同步的方法及终端 |
CN108536752A (zh) * | 2018-03-13 | 2018-09-14 | 北京信安世纪科技有限公司 | 一种数据同步方法、装置和设备 |
CN108989391A (zh) * | 2018-06-19 | 2018-12-11 | 北京百悟科技有限公司 | 一种一致性处理的方法及装置 |
Non-Patent Citations (2)
Title |
---|
何远标等: "基于日志的泛在个人数据同步方法研究", 《现代图书情报技术》 * |
顺风椰子皮: "根据时间戳,增量同步数据的解决办法", 《HTTPS://WWW.CNBLOGS.COM/BENANDWANG/P/10125142.HTML》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110442564A (zh) * | 2019-07-23 | 2019-11-12 | 福建天泉教育科技有限公司 | 增量数据校验方法、存储介质 |
CN111028931A (zh) * | 2019-12-11 | 2020-04-17 | 医渡云(北京)技术有限公司 | 医疗数据处理方法及装置、电子设备、存储介质 |
CN111028931B (zh) * | 2019-12-11 | 2023-08-22 | 医渡云(北京)技术有限公司 | 医疗数据处理方法及装置、电子设备、存储介质 |
CN111402044A (zh) * | 2020-03-06 | 2020-07-10 | 上海数据交易中心有限公司 | 数据配置系统及其数据配置方法 |
CN111723062A (zh) * | 2020-06-28 | 2020-09-29 | 天津联想协同科技有限公司 | 一种文件同步方法、装置及存储介质 |
CN111984684A (zh) * | 2020-08-20 | 2020-11-24 | 北京捷报金峰数据技术有限公司 | 数据处理方法及装置 |
CN111984684B (zh) * | 2020-08-20 | 2021-07-23 | 北京捷报金峰数据技术有限公司 | 数据处理方法及装置 |
CN112394979A (zh) * | 2020-11-25 | 2021-02-23 | 平安普惠企业管理有限公司 | 软件系统的多环境同步方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109558458B (zh) | 2021-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109558458A (zh) | 数据同步方法、配置平台、交易平台及数据同步系统 | |
CA3047081C (en) | Production-like testing and complex business to business auditing system | |
WO2017165018A1 (en) | Automated event id field analysis on heterogeneous logs | |
CN106330465B (zh) | 一种分布式时间戳的处理方法、服务器及系统 | |
CN103793285A (zh) | 一种处理线上异常的方法及平台服务器 | |
CN107168844B (zh) | 一种性能监控的方法及装置 | |
CN105472412A (zh) | 一种区分智能电视状态的大数据处理方法 | |
US20210358013A1 (en) | Processing documents | |
US10282239B2 (en) | Monitoring method | |
US20210209553A1 (en) | Reading and writing processing improvements as a single command | |
CN107835080A (zh) | 一种分布式系统数据收集方法及数据签名生成方法 | |
CN110825538A (zh) | 一种基于mq可自定义数据类型动态进行数据交互的方法 | |
CN110782265A (zh) | 信息处理方法、装置、系统和计算机可读存储介质 | |
JP6364727B2 (ja) | 情報処理システム、分散処理方法、及び、プログラム | |
US9479396B2 (en) | XML based generic UNIX discovery framework | |
CN114036364B (zh) | 用于识别爬虫的方法、装置、设备、介质和系统 | |
CN106649352B (zh) | 数据处理方法及装置 | |
CN110020246B (zh) | 一种终端的标识信息生成方法及相关设备 | |
CN109901871A (zh) | 一种Linux下自动实现老化测试的环境配置与运行的方法 | |
CN109167826A (zh) | Web应用的上架方法、装置及系统 | |
US20200210454A1 (en) | Category information generating device, category information generating method, search device, search method, and recording medium | |
JP4947218B2 (ja) | メッセージの分類方法およびメッセージの分類を行う装置 | |
US20150278774A1 (en) | Techniques for hash indexing | |
CN113986661A (zh) | 日志输出的方法、装置、电子设备和存储介质 | |
CN116382644A (zh) | 一种应用构建方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20191104 Address after: 100085 Floor 102-1, Building No. 35, West Second Banner Road, Haidian District, Beijing Applicant after: Seashell Housing (Beijing) Technology Co., Ltd. Address before: 300 457 days Unit 5, Room 1, 112, Room 1, Office Building C, Nangang Industrial Zone, Binhai New Area Economic and Technological Development Zone, Tianjin Applicant before: Shell Technology Co., Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |