CN113986877A - 数据迁移方法、装置、设备及存储介质 - Google Patents
数据迁移方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113986877A CN113986877A CN202111234685.2A CN202111234685A CN113986877A CN 113986877 A CN113986877 A CN 113986877A CN 202111234685 A CN202111234685 A CN 202111234685A CN 113986877 A CN113986877 A CN 113986877A
- Authority
- CN
- China
- Prior art keywords
- data
- verification
- platform
- data set
- data migration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及数据存储领域,具体公开了一种数据迁移方法、装置、设备及存储介质,数据迁移方法基于数据迁移系统,迁移系统包括数据采集平台、数据预校验平台、临时数据库、数据迁移平台和业务数据库;应用于数据迁移平台,数据迁移方法包括:获取临时数据库中的至少一个数据集合,至少一个数据集合由数据采集平台在各自的上传时刻上传至临时数据库;从数据预校验平台获取至少一条校验结果记录,至少一条校验结果是由数据预校验平台分别在各自的校验起始时刻对临时数据库进行校验生成;基于上传时刻和校验起始时刻,根据至少一个数据集合和至少一条校验结果记录获取可迁移数据;将可迁移数据从临时数据库迁移至业务数据库。
Description
技术领域
本申请涉及数据存储领域,尤其涉及一种数据迁移方法、装置、设备及存储介质。
背景技术
在将一个数据库中的数据整体迁移至另一个数据库的过程中,当该数据库中的数据错误时,迁移至另一个数据库中的数据会出现错误,导致迁移后的数据库中的数据无法正常使用,并且在迁移过程中出现错误后,需要对迁移后的数据库中的数据进行清理,过程十分复杂并且会改变生产环境造成数据出现问题。所以在正式的数据中的数据迁移之前,需要数据库中的待迁移数据进行校验。
对数据的校验可以采用人工校验和程序自动校验,人工校验只能校验数据的内容或形式等方面的正确性,无法校验数据存储逻辑等方面的正确性,人工校验不全面,所以一般采用程序自动校验,在数据迁移时,对全部待迁移数据的逻辑和数据的正确性进行全面的校验。
但是,在数据迁移之前对全部待迁移数据进行校验,校验过程的时间会非常的长,非常耗时,间接导致每次数据迁移的总过程时长变久,数据迁移的效率较低。
发明内容
本申请提供了一种数据迁移方法、装置、设备及存储介质,以节约数据迁移时进行数据校验的时间,提高数据迁移的效率。
第一方面,本申请提供了一种数据迁移方法,包括:
数据迁移平台获取临时数据库中的至少一个数据集合,所述至少一个数据集合由数据采集平台分别在至少一个上传时刻上传至所述临时数据库;
所述数据迁移平台从数据预校验平台获取至少一条校验结果记录,所述至少一条校验结果是由所述数据预校验平台分别在至少一个校验起始时刻对临时数据库进行校验生成;
基于所述至少一条校验结果记录和所述至少一个数据集合,所述数据迁移平台根据所述至少一个上传时刻和所述至少一个校验起始时刻获取可迁移数据;
所述数据迁移平台将所述可迁移数据从所述临时数据库迁移至业务数据库。
第二方面,本申请还提供了一种数据迁移方法,包括:
数据预校验平台分别在至少一个校验起始时刻对临时数据库中的数据进行校验,生成至少一个数据集合对应的至少一条校验初始记录,所述临时数据库包括所述至少一个数据集合,所述至少一条校验初始记录用于获取至少一条校验结果记录;
所述数据预校验平台向数据迁移平台提供所述至少一条校验结果记录,使所述数据迁移平台根据所述至少一条校验结果记录获取可迁移数据,并将所述可迁移数据从所述临时数据库迁移至业务数据库。
第三方面,本申请还提供了一种数据迁移系统,所述数据迁移系统包括数据预校验平台和数据迁移平台,其中,所述数据迁移平台用于执行本申请实施例第一方面提供的数据迁移方法,数据预校验平台用于执行本申请实施例第二方面提供的数据迁移方法。
第四方面,本申请还提供了一种数据迁移装置,包括:
数据获取模块,用于获取临时数据库中的至少一个数据集合,所述至少一个数据集合由数据采集平台分别在至少一个上传时刻上传至所述临时数据库;
校验记录获取模块,用于从数据预校验平台获取至少一条校验结果记录,所述至少一条校验结果是由所述数据预校验平台分别在至少一个校验起始时刻对临时数据库进行校验生成;
迁移数据获取模块,基于所述上传时刻和所述校验起始时刻,用于根据所述至少一个数据集合和所述至少一条校验结果记录获取可迁移数据;
迁移模块,用于将所述可迁移数据从所述临时数据库迁移至业务数据库。
第五方面,本申请还提供了一种数据迁移装置,包括:
数据校验模块,用于分别在校验起始时刻对所述临时数据库中的数据进行校验,生成至少一个数据集合对应的至少一条校验初始记录,所述临时数据库包括所述至少一个数据集合,所述至少一条校验初始记录用于获取至少一条校验结果记录;
校验记录提供模块,用于向所述数据迁移平台提供所述至少一条校验结果记录,使所述数据迁移平台根据所述至少一条校验结果记录获取可迁移数据,并将所述可迁移数据从所述临时数据库迁移至业务数据库。
第六方面,本申请还提供了一种计算机设备,所述计算机设备包括存储器和处理器;所述存储器用于存储计算机程序;所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如本申请实施例提供任意一种所述的数据迁移方法。
第七方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如本申请实施例提供任意一种所述的数据迁移方法。
本申请公开了一种数据迁移方法、装置、设备及存储介质,能够基于数据校验记录,根据数据上传时刻和校验起始时刻获取可迁移数据,而无需对待迁移数据进行全量校验后再获取可迁移数据,节约了数据迁移时进行数据校验的时间,提高了数据迁移的效率。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的数据迁移系统的架构示意图;
图2为本申请实施例提供的数据迁移方法的一个流程示意图;
图3为本申请实施例提供的数据迁移方法的另一流程示意图;
图4为本申请实施例提供的数据迁移方法的另一流程示意图;
图5为本申请实施例提供的数据迁移方法的另一流程示意图;
图6为本申请实施例提供的数据迁移方法的另一流程示意图;
图7为本申请实施例提供的一种数据迁移装置的示意性框图;
图8是本申请实施例提供的一种计算机设备的结构示意性框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
为了解决数据迁移过程启动时对待迁移数据进行全量校验造成的数据迁移总过程时间非常久,数据迁移的效率较低的问题,本申请提供了一种数据迁移方法装置、设备及存储介质。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参阅图1,图1示出了本申请实施例提供的一种数据迁移系统的示意性框图。如图1所示,数据迁移系统包括数据采集平台101、临时数据库102、数据预校验平台103、数据迁移平台104和业务数据库105。
数据采集平台101将一段时间内采集完成的数据上报至临时数据库102。数据采集平台在将该段时间内采集完成的数据上报临时数据库102时,会记录本次上报数据的时刻。
临时数据库102用于存储待迁移数据,为数据预校验平台103或数据迁移平台104提供用于校验或迁移所需要的数据。
数据预校验平台103和数据迁移平台104是相互独立的,其中数据预校验平台103对临时数据库102中的数据进行校验,生成的校验结果记录存储在数据预校验平台103,在存储校验结果记录时会记录校验过程的起始时刻;数据迁移平台104可以查询数据预校验平台103中的校验结果记录和该校验结果记录对应的校验过程的起始时刻,还可以将临时数据库102中的数据迁移至业务数据库105。
业务数据库105用于存储迁移后的数据,并且基于迁移后的数据支持业务运营。
基于图1所示的数据迁移系统,本申请实施例还提供了一种应用于数据迁移平台104的数据迁移方法。
请参阅图2,图2为本申请实施例中数据迁移方法的一个流程示意图。
S201、数据迁移平台获取临时数据库中的至少一个数据集合。
截止目标时刻,临时数据库中存储有至少一个数据集合,该至少一个数据集合是由数据迁移系统中的数据采集平台分别在上传时刻上传至临时数据库中,该上传时刻可以是数据采集平台定时触发上传,也可以是数据采集平台接收了人工发出的上传指令。
S202、数据迁移平台从数据预校验平台获取至少一条校验结果记录。
截止目标时刻,数据预校验平台中存储有至少一条校验结果记录,该至少一条校验结果记录是由数据预校验平台在对临时数据库进行的至少一个校验过程所生成的对于每个校验过程的最终校验结果记录,每个校验过程都有一个起始时刻,至少一个校验过程具有校验起始时刻。
需要说明的是,一个校验总过程中可能包括多次校验子过程,一个校验总过程是对于临时数据库中的相同的原始数据所进行的校验过程,包括对经过原始数据修改后的纠正数据所进行的子校验过程。若校验总过程包括子校验过程,则以最后一个子校验过程生成的校验初始记录作为该校验总过程的结果记录。
S203、基于上传时刻和校验起始时刻,数据迁移平台根据至少一个数据集合和至少一个校验结果记录,获取可迁移数据。
当数据迁移平台启动迁移任务,开始迁移前的准备阶段时,数据迁移平台基于截止目标时刻获取的临时数据库中的至少一个数据集合和数据预校验平台中的至少一跳校验结果记录,数据迁移平台可以根据至少一个上传数据对应的上传时刻和至少一条校验结果记录对应的校验起始时刻,通过预校验的时刻和上传的时刻,将临时数据库中的数据与独立进行的预校验结果记录联系起来,确定临时数据库中数据所对应的预校验结果记录。根据联系起来的数据所对应的校验结果记录,确定待迁移的数据的正确性结果,并根据待迁移数据的正确性结果,根据待迁移数据的结果,进一步获取完全正确的可迁移数据。
S204、数据迁移平台将可迁移数据从临时数据库迁移至业务数据库。
当完成数据迁移过程的准备阶段,确定具有正确性的可迁移数据后,数据迁移平台正式启动迁移逻辑,将可迁移数据从临时数据库迁移至用于业务运营的业务数据库。
基于图2所示的数据迁移方法,本申请实施例还提供了一种数据迁移方法,其中对于步骤S203,步骤S203的子步骤包括S2031和S2032。
S2031、当校验起始时刻的末位时刻先于上传时刻的末位时刻时,数据迁移平台根据至少一条校验结果记录从至少一个数据集合中确定未校验数据集合。
数据预校验平台中至少一条校验记录的至少一个起始时刻形成了一个按照时刻先后顺序排列的序列,最先的表示首次校验的起始时刻,排在末位的表示最后一次校验的起始时刻。当校验起始时刻中的末位时刻先于上传时刻的末位时刻时,表示最后一次上传的数据没有预校验平台校验,可以确定至少一个数据集合中存在未完成校验的数据。
当数据迁移平台确定至少一个数据集合中存在未完成校验的数据时,将至少一个数据集合的上传时刻和至少一条校验记录的校验起始时刻一一比对,确定从至少一个数据集合中的目标数据时刻之后的数据集合没有被校验,从而确定出未校验数据集合。
S2032、基于至少一个数据集合和至少一条校验结果记录,数据迁移平台根据未校验数据集合获取可迁移数据。
当数据迁移平台获取未校验数据集合后,需要根据未校验数据集合获取具有正确性的可迁移数据。对于未校验数据集合,首先需要对未校验数据集合进行校验,然后根据校验结果进行进一步的处理。
在一些实施例中,当至少一条校验结果记录和未校验数据集合的校验初始记录均为通过校验结果时,确定至少一个数据集合为可迁移数据。
在一些实施例中,当至少一条校验结果记录或未校验数据集合的校验初始记录中存在未通过校验结果时,从至少一个数据集合中确定未通过校验数据集合,向数据采集平台发送关于未通过校验数据集合的纠正采集指令,并将临时数据库清空,使数据采集平台采集了未通过校验数据集合的纠正数据集合,然后将纠正数据集合和至少一个数据集合中正确的数据集合全部上传临时数据库,确定纠正后的临时数据库中的数据集合为可迁移数据。
基于图2所示的数据迁移方法,本申请实施例还提供了一种数据迁移方法,其中对于步骤S203,步骤S203的子步骤包括S2033和S2034。
S2033、当校验起始时刻的末位时刻后于上传时刻的末位时刻时,确定至少一个数据集合为已校验数据集合。
数据预校验平台中至少一条校验记录的至少一个起始时刻形成了一个按照时刻先后顺序排列的序列,最先的表示首次校验的起始时刻,排在末位的表示最后一次校验的起始时刻。当校验起始时刻中的末位时刻后于上传时刻的末位时刻时,表示最后一次上传的数据已经被数据预校验平台进行校验,数据迁移平台确定至少一个数据集合为已校验数据集合。
S2034、基于至少一条校验结果记录,根据至少一个数据集合获取可迁移数据。
当数据迁移平台确定临时数据库中的至少一个数据集合均已完成校验时,基于表示校验结果的至少一条校验结果记录获取可迁移数据。
在一些实施例中,当至少一条校验结果记录均为通过校验结果时,确定至少一个数据集合为可迁移数据。
在一些实施例中,当至少一条校验结果记录中存在未通过校验结果记录时,从至少一个数据集合中确定未通过校验数据集合,向数据采集平台发送关于未通过校验数据集合的纠正采集指令,并将临时数据库清空,使数据采集平台采集了未通过校验数据集合的纠正数据集合,然后将纠正数据集合和至少一个数据集合中正确的数据集合全部上传临时数据库,确定纠正后的临时数据库中的数据集合为可迁移数据。
基于图1所示数据迁移系统,本申请实施例还提供了一种应用于数据预校验平台103的数据迁移方法。
请参阅图5,图5为本申请实施例中数据迁移方法的另一流程示意图。
S301、数据迁移平台分别在校验起始时刻对临时数据库中的数据进行校验,截止目标时刻,数据预校验平台共生成至少一条校验初始记录,临时数据库中存储有至少一个数据集合。至少一条校验初始记录用于获取至少一条校验结果记录。
在一些实施例中,数据预校验平台可以通过人工触发的不定时的方式对临时数据库中的数据进行校验。
在一些实施例中,数据预校验平台根据预先设定的时间间隔进行定时校验。
S302、数据预校验平台向数据迁移平台提供至少一条校验结果记录。
截止目标时刻,数据预校验平台存储有至少一条校验结果记录。该校验结果记录可以被数据迁移平台查询或获取,并根据该至少一条校验结果记录获取可迁移数据,并将可迁移数据从临时数据库迁移至业务数据库。
基于图5所示的数据迁移方法,本申请实施例还提供了一种数据迁移方法。
请参阅图6,图6为本申请实施例提供的基于图5所示实施例的数据迁移方法,包括图5所示实施例中步骤301和步骤302之外,还包括步骤303至306。
S303、当至少一条校验初始记录中包括未通过校验记录时,数据预校验平台从至少一个数据集合中确定未通过校验数据集合信息。
截止目标时刻,临时数据库中存储有至少一个数据集合,数据预校验平台中存储有至少一条校验初始记录,当至少一条校验初始记录中包括未通过校验记录时,数据预校验平台从至少一个数据集合中确定为通过校验数据集合。
S304、数据预校验平台根据未通过校验数据集合获取纠正数据集合,并生成纠正数据集合的校验初始记录。
在一些实施例中,数据预校验平台通过向管理员发送告警的方式,使管理员向数据采集平台发出指令,重新采集未通过校验数据集合对应的具有正确性的纠正数据集合,并生成纠正数据集合的校验初始记录。
S305、当纠正数据集合的校验初始记录为通过校验结果时,将纠正数据集合的校验初始记录确定为未通过校验数据集合的校验结果记录。
数据预校验平台在对未通过校验数据集合进行校验后,得到了未通过校验的初始记录,然后对未通过校验数据集合修改过的纠正数据集合再次校验后得到通过结果时,将该纠正数据结合的通过结果与首次对未通过校验数据集合建立关联,将纠正数据集合的校验结果记录作为未通过校验数据集合的最终的校验结果的记录。
S306、数据预校验平台根据未通过校验数据集合的校验结果记录获取至少一条校验结果记录。
数据预校验平台在获得了未通过校验数据集合对应的校验结果记录后,将通过校验数据集合的初始校验记录作为最终的结果的记录,根据至少一条校验初始记录得到了表示最终校验结果的至少一条校验结果记录。
请参阅图7,图7是本申请的实施例还提供一种数据迁移装置的示意性框图,该数据迁移装置400用于执行前述的数据迁移方法。其中,该数据迁移装置可以配置于服务器或终端中。
其中,服务器可以为独立的服务器,也可以为服务器集群,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)以及大数据和人工智能平台等基础云计算服务的云服务器。该终端可以是手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等电子设备。
如图7所示,数据迁移装置400包括:数据获取模块401、校验记录获取模块402、迁移数据获取模块403、迁移模块404。
数据获取模块401,用于获取临时数据库中的至少一个数据集合,所述至少一个数据集合由数据采集平台分别在上传时刻上传至所述临时数据库;
校验结果获取模块402,用于从数据预校验平台获取至少一条校验结果记录,所述至少一条校验结果是由所述数据预校验平台分别在校验起始时刻对临时数据库进行校验生成;
迁移数据获取模块403,基于所述至少一条校验结果记录和所述至少一个数据集合,所用于根据所述上传时刻和所述校验起始时刻获取可迁移数据;
迁移模块404,用于将所述可迁移数据从所述临时数据库迁移至业务数据库。
在一些实施例中,迁移数据获取模块405还用于:当所述校验起始时刻的末位时刻先于所述上传时刻的末位时刻时,所述数据迁移平台根据所述至少一条校验结果记录从所述至少一个数据集合中确定未校验数据集合;基于所述至少一个数据集合和所述至少一条校验结果记录,所述数据迁移平台根据所述未校验数据集合获取可迁移数据。
在另一些实施例中,迁移数据获取模块405还用于:当所述数据迁移平台确定所述未校验数据集合的校验结果和所述至少一条校验结果均为校验通过结果时,所述数据迁移平台确定所述至少一个数据集合为可迁移数据。当所述数据迁移平台确定所述未校验数据集合的校验结果和所述至少一条校验结果中存在校验未通过结果时,所述数据迁移平台从所述至少一个数据集合中获取未通过校验数据集合且根据所述至少一个数据集合和所述未通过校验数据集合获取可迁移数据。
在另一些实施例中,迁移数据获取模块405还用于:当所述校验起始时刻的末位时刻后于所述上传时刻的末位时刻时,所述数据迁移平台确定所述至少一个数据集合为已校验数据集合;基于所述至少一条校验结果记录,所述数据迁移平台根据所述至少一个数据集合获取可迁移数据。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的数据迁移装置和各模块的具体工作过程,可以参考前述数据迁移方法实施例中的对应过程,在此不再赘述。
上述的数据迁移装置可以实现为一种计算机程序的形式,该计算机程序可以在如图8所示的计算机设备上运行。
请参阅图5,图5是本申请实施例提供的一种计算机设备的结构示意性框图。该计算机设备可以是服务器或终端。
请参阅图8,该计算机设备包括通过系统总线连接的处理器、存储器和网络接口,其中,存储器可以包括非易失性存储介质和内存储器。
非易失性存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种坐席合规检测方法。
处理器用于提供计算和控制能力,支撑整个计算机设备的运行。
内存储器为非易失性存储介质中的计算机程序的运行提供环境,该计算机程序被处理器执行时,可使得处理器执行任意一种数据迁移方法。
该网络接口用于进行网络通信,如发送分配的任务等。本领域技术人员可以理解,图8中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
应当理解的是,处理器可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
示例性的,在一个实施例中,所述处理器用于运行存储在存储器中的计算机程序,以实现如下步骤:
获取临时数据库中的至少一个数据集合,所述至少一个数据集合由数据采集平台分别在上传时刻上传至所述临时数据库;从数据预校验平台获取至少一条校验结果记录,所述至少一条校验结果是由所述数据预校验平台分别在校验起始时刻对临时数据库进行校验生成;基于所述至少一条校验结果记录和所述至少一个数据集合,根据所述上传时刻和所述校验起始时刻获取可迁移数据;将所述可迁移数据从所述临时数据库迁移至业务数据库。
在一些实施例中,所述处理器在实现所述基于所述至少一条校验结果和所述至少一个数据集合,根据所述上传时刻和所述校验起始时刻获取可迁移数据时,具体实现如下步骤:
当所述校验起始时刻的末位时刻先于所述上传时刻的末位时刻时,根据所述至少一条校验结果记录从所述至少一个数据集合中确定未校验数据集合;基于所述至少一个数据集合和所述至少一条校验结果记录,根据所述未校验数据集合获取可迁移数据。
在一些实施例中,所述基于所述至少一个数据集合和所述至少一条校验结果,根据所述未校验数据集合获取可迁移数据时,具体实现如下步骤:
当确定所述未校验数据集合的校验结果和所述至少一条校验结果均为校验通过结果时,确定所述至少一个数据集合为可迁移数据;
当确定所述未校验数据集合的校验结果和所述至少一条校验结果中存在校验未通过结果时,从所述至少一个数据集合中获取未通过校验数据集合且根据所述至少一个数据集合和所述未通过校验数据集合获取可迁移数据。
在一些实施例中,所述处理器在实现所述基于所述至少一条校验结果和所述至少一个数据集合,根据所述上传时刻和所述校验起始时刻获取可迁移数据时,还用于具体实现如下步骤:
当所述校验起始时刻的末位时刻后于所述上传时刻的末位时刻时,确定所述至少一个数据集合为已校验数据集合;基于所述至少一条校验结果记录,根据所述至少一个数据集合获取可迁移数据。
在一些实施例中,所述处理器在实现数据迁移方法时,还可以按照以下具体步骤实现:
分别在校验起始时刻对临时数据库中的数据进行校验,生成至少一个数据集合对应的至少一条校验初始记录,所述临时数据库包括所述至少一个数据集合,所述至少一条校验初始记录用于获取至少一条校验结果记录;向数据迁移平台提供所述至少一条校验结果记录,使所述数据迁移平台根据所述至少一条校验结果记录获取可迁移数据,并将所述可迁移数据从所述临时数据库迁移至业务数据库。
在一些实施例中,所述处理器还用于实现:当所述至少一条校验初始记录中包括未通过校验记录时,从所述至少一个数据集合中确定未通过校验数据集合;根据所述未通过校验数据集合获取纠正数据集合,并生成纠正数据集合的校验初始记录;当所述纠正数据集合的校验初始记录为通过校验结果时,将所述纠正数据集合的校验初始记录确定为所述未通过校验数据集合的校验结果记录;根据所述未校验数据集合的校验结果记录获取所述至少一条校验结果记录。
本申请的实施例中还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序中包括程序指令,所述处理器执行所述程序指令,实现本申请实施例提供的任一项数据迁移方法。
其中,所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元,例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备,例如所述计算机设备上配备的插接式硬盘、智能存储卡(SmartMedia Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种基于数据迁移系统的数据迁移方法,其特征在于,所述数据迁移系统包括数据采集平台、数据预校验平台、临时数据库、数据迁移平台和业务数据库;应用于所述数据迁移平台,所述数据迁移方法包括:
获取所述临时数据库中的至少一个数据集合,所述至少一个数据集合由所述数据采集平台在各自的上传时刻上传至所述临时数据库;
从所述数据预校验平台获取至少一条校验结果记录,所述至少一条校验结果记录是由所述数据预校验平台分别在各自的校验起始时刻对临时数据库进行校验生成;
基于所述上传时刻和所述校验起始时刻,根据所述至少一个数据集合和所述至少一条校验结果记录获取可迁移数据;
将所述可迁移数据从所述临时数据库迁移至所述业务数据库。
2.根据权利要求1所述的数据迁移方法,其特征在于,所述基于所述上传时刻和所述校验起始时刻,根据所述至少一个数据集合和所述至少一条校验结果记录获取可迁移数据,包括:
当所述校验起始时刻的末位时刻先于所述上传时刻的末位时刻时,所述数据迁移平台根据所述至少一条校验结果记录从所述至少一个数据集合中确定未校验数据集合;
基于所述至少一个数据集合和所述至少一条校验结果记录,所述数据迁移平台根据所述未校验数据集合获取可迁移数据。
3.根据权利要求2所述的数据迁移方法,其特征在于,所述基于所述至少一个数据集合和所述至少一条校验结果记录,所述数据迁移平台根据所述未校验数据集合获取可迁移数据,包括
当所述数据迁移平台确定所述未校验数据集合的校验结果和所述至少一条校验结果均为校验通过结果时,所述数据迁移平台确定所述至少一个数据集合为可迁移数据;
当所述数据迁移平台确定所述未校验数据集合的校验结果和所述至少一条校验结果中存在校验未通过结果时,所述数据迁移平台从所述至少一个数据集合中获取未通过校验数据集合且根据所述至少一个数据集合和所述未通过校验数据集合获取可迁移数据。
4.根据权利要求1所述的数据迁移方法,其特征在于,所述基于所述上传时刻和所述校验起始时刻,根据所述至少一个数据集合和所述至少一条校验结果记录获取可迁移数据,包括:
当所述校验起始时刻的末位时刻后于所述上传时刻的末位时刻时,所述数据迁移平台确定所述至少一个数据集合为已校验数据集合;
基于所述至少一条校验结果记录,所述数据迁移平台根据所述至少一个数据集合获取可迁移数据。
5.一种基于数据迁移系统的数据迁移方法,其特征在于,所述数据迁移系统包括数据采集平台、数据预校验平台、临时数据库、数据迁移平台和业务数据库;应用于所述数据预校验平台,所述数据迁移方法包括:
分别在校验起始时刻对所述临时数据库中的数据进行校验,生成至少一个数据集合对应的至少一条校验初始记录,所述临时数据库包括所述至少一个数据集合,所述至少一条校验初始记录用于获取至少一条校验结果记录;
向所述数据迁移平台提供所述至少一条校验结果记录,使所述数据迁移平台根据所述至少一条校验结果记录获取可迁移数据,并将所述可迁移数据从所述临时数据库迁移至业务数据库。
6.根据权利要求5所述的数据迁移方法,其特征在于,所述方法还包括:
当所述至少一条校验初始记录中包括未通过校验记录时,从所述至少一个数据集合中确定未通过校验数据集合;
根据所述未通过校验数据集合获取纠正数据集合,并生成纠正数据集合的校验初始记录;
当所述纠正数据集合的校验初始记录为通过校验结果时,将所述纠正数据集合的校验初始记录确定为所述未通过校验记录对应的校验结果记录。
7.根据权利要求5所述的数据迁移方法,其特征在于,所述方法还包括:
当所述至少一条校验初始记录均为通过校验记录时,确定所述至少一个数据集合为通过校验数据集合;
将所述通过校验数据集合的校验初始记录确定为校验结果记录。
8.一种数据迁移系统,其特征在于,所述数据迁移系统包括数据预校验平台和数据迁移平台,其中,所述数据迁移平台用于执行如权利要求1至4中任一项所述的数据迁移方法,数据预校验平台用于执行如权利要求5或6所述的数据迁移方法。
9.一种计算机设备,其特征在于,所述计算机设备包括存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如权利要求1至4或5至7中任一项所述的数据迁移方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如权利要求1至4或5至7中任一项所述的数据迁移方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111234685.2A CN113986877A (zh) | 2021-10-22 | 2021-10-22 | 数据迁移方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111234685.2A CN113986877A (zh) | 2021-10-22 | 2021-10-22 | 数据迁移方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113986877A true CN113986877A (zh) | 2022-01-28 |
Family
ID=79740533
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111234685.2A Pending CN113986877A (zh) | 2021-10-22 | 2021-10-22 | 数据迁移方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113986877A (zh) |
-
2021
- 2021-10-22 CN CN202111234685.2A patent/CN113986877A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11611445B2 (en) | Changing smart contracts recorded in block chains | |
CN107885656B (zh) | 产品算法自动化测试方法及应用服务器 | |
CN112256558B (zh) | 一种测试用例的生成方法、装置、计算机设备及存储介质 | |
CN111880740B (zh) | 数据处理方法、装置、计算机系统及可读存储介质 | |
CN109033475B (zh) | 一种文件存储方法、装置、设备及存储介质 | |
US9384020B2 (en) | Domain scripting language framework for service and system integration | |
CN109445837B (zh) | 一种应用程序的发布方法及设备 | |
US20140208169A1 (en) | Domain scripting language framework for service and system integration | |
US20210049715A1 (en) | Blockchain-based data procesing method, apparatus, and electronic device | |
EP3928208A1 (en) | System and method for self-healing in decentralized model building for machine learning using blockchain | |
CN112035472B (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
US20190073292A1 (en) | State machine software tester | |
CN109284331B (zh) | 基于业务数据资源的制证信息获取方法、终端设备及介质 | |
CN113886590A (zh) | 数据汇总方法、装置、计算机设备及存储介质 | |
CN109033818B (zh) | 终端、验证方法和计算机可读存储介质 | |
CN112256532A (zh) | 测试界面生成方法、装置、计算机设备及可读存储介质 | |
CN111694724B (zh) | 分布式表格系统的测试方法、装置、电子设备及存储介质 | |
CN113986877A (zh) | 数据迁移方法、装置、设备及存储介质 | |
CN110362294A (zh) | 开发任务执行方法、装置、电子设备及存储介质 | |
JP7266147B2 (ja) | ブロックチェーンシステムのテスト環境を構築する方法と装置 | |
CN113672514A (zh) | 测试方法、装置、服务器及存储介质 | |
CN109240906B (zh) | 数据库配置信息适配方法、装置、计算机设备和存储介质 | |
CN112306527A (zh) | 服务器升级方法、装置、计算机设备和存储介质 | |
WO2018218814A1 (zh) | 脱机交易记录保存方法、计算机设备和存储介质 | |
US9363276B2 (en) | Method and system for testing and validation of cryptographic algorithms |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |