CN115543967A - 一种数据迁移方法、装置、电子设备及计算机可读介质 - Google Patents
一种数据迁移方法、装置、电子设备及计算机可读介质 Download PDFInfo
- Publication number
- CN115543967A CN115543967A CN202211361473.5A CN202211361473A CN115543967A CN 115543967 A CN115543967 A CN 115543967A CN 202211361473 A CN202211361473 A CN 202211361473A CN 115543967 A CN115543967 A CN 115543967A
- Authority
- CN
- China
- Prior art keywords
- data
- migrated
- migration
- target database
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了数据迁移方法、装置、电子设备及计算机可读介质,涉及计算机技术领域,一具体实施方式包括接收数据迁移请求,获取对应的待迁移数据;响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;基于数据迁移模式将待迁移数据迁移至目标数据库。从而可以提高异构数据迁移时的准确率。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种数据迁移方法、装置、电子设备及计算机可读介质。
背景技术
在国产化数据库的替代过程中,不可避免地会遇到数据迁移的问题,若是异构数据迁移,则对数据库迁移工具的要求就大大增加,不同数据库类型差异带来的数据转换正确率低。
在实现本申请过程中,发明人发现现有技术中至少存在如下问题:
不同数据库类型差异带来的数据转换正确率低。
发明内容
有鉴于此,本申请实施例提供一种数据迁移方法、装置、电子设备及计算机可读介质,能够解决现有的不同数据库类型差异带来的数据转换正确率低的问题。
为实现上述目的,根据本申请实施例的一个方面,提供了一种数据迁移方法,包括:
接收数据迁移请求,获取对应的待迁移数据;
响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;
基于数据迁移模式将待迁移数据迁移至目标数据库。
可选地,获取对应的待迁移数据,包括:
获取数据迁移请求对应的迁移参数,进而根据迁移参数从源数据库中获取对应的待迁移数据。
可选地,在基于数据迁移模式将待迁移数据迁移至目标数据库之后,方法还包括:
基于预设的数据迁移配置文件,执行对迁移至目标数据库中的待迁移数据的数据条数和数据值的校验进程。
可选地,根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式,包括:
响应于待迁移数据与目标数据库地址对应的目标数据库中的数据不冲突,确定数据迁移模式为直接插入模式;
响应于待迁移数据与目标数据库地址对应的目标数据库中的数据存在冲突,确定数据迁移模式为合并模式。
可选地,基于数据迁移模式将待迁移数据迁移至目标数据库,包括:
响应于数据迁移模式为合并模式,确定待迁移数据与目标数据库中的数据之间的冲突数据;
确定冲突数据对应的源端数据和目标端数据,进而将目标端数据更新为源端数据。
可选地,基于数据迁移模式将待迁移数据迁移至目标数据库,还包括:
响应于数据迁移模式为直接插入模式,确定目标迁移位置,将待迁移数据直接插入目标数据库中的目标迁移位置。
可选地,基于数据迁移模式将待迁移数据迁移至目标数据库,包括:
响应于对待迁移数据迁移失败,在达到预设条件后,重新执行数据迁移进程,直至基于数据迁移模式将待迁移数据迁移至目标数据库。
另外,本申请还提供了一种数据迁移装置,包括:
接收单元,被配置成接收数据迁移请求,获取对应的待迁移数据;
数据迁移模式确定单元,被配置成响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;
数据迁移单元,被配置成基于数据迁移模式将待迁移数据迁移至目标数据库。
可选地,接收单元进一步被配置成:
获取数据迁移请求对应的迁移参数,进而根据迁移参数从源数据库中获取对应的待迁移数据。
可选地,装置还包括校验单元,被配置成:
基于预设的数据迁移配置文件,执行对迁移至目标数据库中的待迁移数据的数据条数和数据值的校验进程。
可选地,数据迁移模式确定单元进一步被配置成:
响应于待迁移数据与目标数据库地址对应的目标数据库中的数据不冲突,确定数据迁移模式为直接插入模式;
响应于待迁移数据与目标数据库地址对应的目标数据库中的数据存在冲突,确定数据迁移模式为合并模式。
可选地,数据迁移单元进一步被配置成:
响应于数据迁移模式为合并模式,确定待迁移数据与目标数据库中的数据之间的冲突数据;
确定冲突数据对应的源端数据和目标端数据,进而将目标端数据更新为源端数据。
可选地,数据迁移单元进一步被配置成:
响应于数据迁移模式为直接插入模式,确定目标迁移位置,将待迁移数据直接插入目标数据库中的目标迁移位置。
可选地,数据迁移单元进一步被配置成:
响应于对待迁移数据迁移失败,在达到预设条件后,重新执行数据迁移进程,直至基于数据迁移模式将待迁移数据迁移至目标数据库。
另外,本申请还提供了一种数据迁移电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述的数据迁移方法。
另外,本申请还提供了一种计算机可读介质,其上存储有计算机程序,程序被处理器执行时实现如上述的数据迁移方法。
为实现上述目的,根据本申请实施例的又一个方面,提供了一种计算机程序产品。
本申请实施例的一种计算机程序产品,包括计算机程序,程序被处理器执行时实现本申请实施例提供的数据迁移方法。
上述发明中的一个实施例具有如下优点或有益效果:本申请通过接收数据迁移请求,获取对应的待迁移数据;响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;基于数据迁移模式将待迁移数据迁移至目标数据库。从而可以提高异构数据迁移时的准确率。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本申请,不构成对本申请的不当限定。其中:
图1是根据本申请一个实施例的数据迁移方法的主要流程的示意图;
图2是根据本申请一个实施例的数据迁移方法的主要流程的示意图;
图3是根据本申请一个实施例的数据迁移方法的主要流程示意图;
图4是根据本申请实施例的数据迁移装置的主要单元的示意图;
图5是本申请实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本申请实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。需要说明的是,本申请的技术方案中,所涉及的用户个人信息的采集、分析、使用、传输、存储等方面,均符合相关法律法规的规定,被用于合法且合理的用途,不在这些合法使用等方面之外共享、泄露或出售,并且接受监管部门的监督管理。应当对用户个人信息采取必要措施,以防止对此类个人信息数据的非法访问,确保有权访问个人信息数据的人员遵守相关法律法规的规定,确保用户个人信息安全。一旦不再需要这些用户个人信息数据,应当通过限制甚至禁止数据收集和/或删除数据的方式将风险降至最低。
当使用时,包括在某些相关应用程序中,通过对数据去标识来保护用户隐私,例如在使用时通过移除特定标识符、控制所存储数据的量或特异性、控制数据如何被存储、和/或其他方法去标识。
图1是根据本申请一个实施例的数据迁移方法的主要流程的示意图,如图1所示,数据迁移方法包括:
步骤S101,接收数据迁移请求,获取对应的待迁移数据。
本实施例中,数据迁移方法的执行主体(例如,可以是服务器)可以通过有线连接或无线连接的方式,接收数据迁移请求。执行主体在接收到数据迁移请求后,可以获取该请求中的链接,以跳转到该链接以获取对应的待迁移数据。
具体地,获取对应的待迁移数据,还可以包括:获取数据迁移请求对应的迁移参数,进而根据迁移参数从源数据库中获取对应的待迁移数据。
迁移参数包括但不限于数据库链接信息、数据库类型、表信息以及要获取的数据范围信息等。
步骤S102,响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式。
具体地,根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式,包括:响应于待迁移数据与目标数据库地址对应的目标数据库中的数据不冲突(例如待迁移数据与目标数据库中的数据没有重合之处),确定数据迁移模式为直接插入模式;响应于待迁移数据与目标数据库地址对应的目标数据库中的数据存在冲突(例如待迁移数据与目标数据库中的数据有重合并且重合之处的数据不一致),确定数据迁移模式为合并模式。
步骤S103,基于数据迁移模式将待迁移数据迁移至目标数据库。
具体地,基于数据迁移模式将待迁移数据迁移至目标数据库,包括:响应于数据迁移模式为合并模式,确定待迁移数据与目标数据库中的数据之间的冲突数据;确定冲突数据对应的源端数据和目标端数据,进而将目标端数据更新为源端数据。
本申请实施例中,针对冲突的数据,执行主体会以源端数据为最新数据,将目标端数据更新为源端数据。
具体地,基于数据迁移模式将待迁移数据迁移至目标数据库,还包括:响应于数据迁移模式为直接插入模式,确定目标迁移位置,将待迁移数据直接插入目标数据库中的目标迁移位置。
进一步地,确定目标迁移位置,可以通过以下步骤实现:提取待迁移数据的头部数据和尾部数据;进而根据头部数据、尾部数据以及目标数据库中的已存储数据,确定目标迁移位置。
进一步地,根据头部数据、尾部数据以及目标数据库中的已存储数据,确定目标迁移位置,包括:响应于提取到待迁移数据的头部数据和尾部数据,触发数据分区进程,以对目标数据库中的已存储数据进行分区,得到各个分区数据;将待迁移数据和各个分区数据输入至长短时记忆神经网络(long short-term memory,LSTM),以输出待迁移数据和各个分区数据的上下文关联度;根据各个上下文关联度,确定目标迁移位置。
进一步地,根据各个上下文关联度,确定目标迁移位置,包括:确定上下文关联度最高的分区数据为目标分区数据;将目标分区数据所在的分区确定为目标迁移位置。
具体地,基于数据迁移模式将待迁移数据迁移至目标数据库,包括:响应于对待迁移数据迁移失败,在达到预设条件后,重新执行数据迁移进程,直至基于数据迁移模式将待迁移数据迁移至目标数据库。
本实施例通过接收数据迁移请求,获取对应的待迁移数据;响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;基于数据迁移模式将待迁移数据迁移至目标数据库。从而可以提高异构数据迁移时的准确率。
图2是根据本申请一个实施例的数据迁移方法的主要流程示意图,如图2所示,数据迁移方法包括:
步骤S201,接收数据迁移请求,获取对应的待迁移数据。具体地,获取对应的待迁移数据,包括:获取数据迁移请求中的数据库标识和分区标识;根据数据库标识调用对应的数据库,以从调用的数据库中根据分区标识获取对应的分区的待迁移数据。
步骤S202,响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式。
具体地,获取目标数据库地址可以从接收到的数据迁移请求所携带的参数中获取。
具体地,根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式,包括:确定待迁移数据的第一数据格式和目标数据库中数据的第二数据格式;响应于第一数据格式与第二数据格式不一致,执行格式转换进程,以将待迁移数据由第一数据格式转换为第二数据格式;比较格式转换后的待迁移数据的各字段对应的字段值和目标数据库地址对应的目标数据库中的数据的各字段对应的字段值,若出现二者(这里的二者指的是经过格式转换后的待迁移数据和目标数据库中的数据)同一字段对应的字段值不一致,则确定格式转换后的待迁移数据和目标数据库地址对应的目标数据库中的数据存在冲突,则确定数据迁移模式为合并模式;若二者同一字段对应的字段值一致,则确定经过格式转换后的待迁移数据与目标数据库中的数据不冲突,并且当经过格式转换后的待迁移数据中存在目标数据库中没有的数据时,确定数据迁移模式为直接插入模式。
步骤S203,基于数据迁移模式将待迁移数据迁移至目标数据库。
步骤S204,基于预设的数据迁移配置文件,执行对迁移至目标数据库中的待迁移数据的数据条数和数据值的校验进程。
数据迁移配置文件,例如可以是数据迁移的json配置文件,该数据迁移的json配置文件对迁移的成败至关重要,json文件配置灵活,可读性强,便于记录多种迁移配置信息,具体迁移配置信息如下:
(1)源端和目标端数据库连接串以及数据库类型;
(2)迁移过程中的基准表结构,默认以源端的表结构为基准进行迁移;
(3)迁移的表范围,支持全库迁移和配置具体的某些表,支持模糊匹配特定的表范围,比如以特定名称开头或者以特定名称结尾的表;
(4)迁移时多表中数据的过滤条件,本迁移方法支持只迁移表中的满足条件的数据;
(5)迁移重试的次数,如果迁移过程中遇到网络波动等导致迁移失败,本数据迁移方法支持通过重试的方式在健康的环境下重新迁移;
(6)需要排除的表范围,本申请实施例的数据迁移配置文件多适用于需要排除的表的数量远远小于需要迁移的表的数量的迁移场景;
(7)生产者进程数量与消费者进程数量;
(8)迁移的模式,本申请实施例的数据迁移方法支持直接插入和合并的两种迁移模式。直接插入的方式适用于需要迁移的数据和目标数据库中的数据不冲突的场景,可将源端需要迁移的数据直接插入到目标端;合并的方式适用于需要迁移的数据和目标库中已存在的数据存在某种冲突的场景,针对冲突的数据,会以源端数据为最新数据,将目标端数据更新为源端数据;
(9)迁移前对目标表进行两种操作,支持对目标表进行权表删除和按条件部分删除两种模式。
数据迁移结束后,进行数据校验,包括数据条数校验和数据值校验。
本申请实施例可以实现同构与异构的数据迁移策略,本申请实施例的数据迁移方法支持全表迁移、模糊匹配、条件筛选等。
图3是根据本申请一个实施例的数据迁移方法的应用场景示意图。本申请实施例的数据迁移方法,可以应用于基于Jython的数据迁移场景。本申请实施例的数据迁移方法,利用多线程和数据库连接池技术实现,生产者从源端数据库获取数据,放入数据队列中,消费者从数据队列中取出数据,插入到目标数据库中,迁移过程通过json配置文件导入数据迁移参数。数据迁移的具体流程如图3所示:
(1)生成数据迁移的参数,将参数放到多进程参数队列中,数据迁移参数包括了数据库连接信息,数据库类型,表信息以及要获取的数据范围信息。
(2)采用多线程的方式,多个生产者(例如生产者1、生产者N)从参数队列中获取迁移参数,获取到迁移参数后,生产者使用参数去源数据库获取数据,然后将获取到的数据放到带阻塞功能的多进程共享数据队列中去。
(3)采用多线程方式,当带阻塞功能的多进程共享数据队列中有数据之后,多个消费者(例如消费者1、消费者N)负责将数据从队列中取出,然后将数据插入到目标数据库中去。
(4)数据迁移结束后,进行数据校验,包括数据条数校验和数据值校验。
本申请实施例的数据迁移方法基于Jython实现,Jython是一种完整的语言,而不是一个Java翻译器或仅仅是一个Python编译器,它是Python语言在Java中的完全实现,所以Jython不仅仅提供了Python的库,同时也提供了所有的Java类,兼备了Python和Java的特点,既和Python一样,具有代码的简明性和易读性,能够在线编译,又具备Java的跨平台性,基于Java强大的生态体系,能够很好的在X86和ARM架构平台运行,只依赖于JDK,可以在X86与ARM架构的环境上执行,跨平台能力强。可以实现基于标准JDBC的同构或异构数据库的迁移。可以实现灵活可配置的数据迁移失败重试机制。采用生产者消费者模型进行数据的生产和消费,能够灵活的控制迁移过程中对迁移服务器资源的使用。可移植性强,跨平台迁移程序无需改动。整个数据迁移流程从迁移到校验可实现全自动流水线串行执行,容易操作。本申请实施例所提出的数据迁移办法,使用Java的多线程和数据库连接池技术加速迁移;采用生产消费者模型,有效的控制迁移资源消耗;采用标准的JDBC驱动读取数据,避免了不同数据库类型差异带来的数据转换。通过Jython编写,不仅具有python的代码简洁性、可读性,还具有Java可供跨平台的能力,只要具有Java语言的软件开发工具包jdk环境,在X86架构与ARM架构上均可以执行。
图4是根据本申请实施例的数据迁移装置的主要单元的示意图。如图4所示,数据迁移装置400包括接收单元401、数据迁移模式确定单元402和数据迁移单元403。
接收单元401,被配置成接收数据迁移请求,获取对应的待迁移数据。
数据迁移模式确定单元402,被配置成响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式。
数据迁移单元403,被配置成基于数据迁移模式将待迁移数据迁移至目标数据库。
在一些实施例中,接收单元401进一步被配置成:获取数据迁移请求对应的迁移参数,进而根据迁移参数从源数据库中获取对应的待迁移数据。
在一些实施例中,装置还包括图4中未示出的校验单元,被配置成:基于预设的数据迁移配置文件,执行对迁移至目标数据库中的待迁移数据的数据条数和数据值的校验进程。
在一些实施例中,数据迁移模式确定单元402进一步被配置成:响应于待迁移数据与目标数据库地址对应的目标数据库中的数据不冲突,确定数据迁移模式为直接插入模式;响应于待迁移数据与目标数据库地址对应的目标数据库中的数据存在冲突,确定数据迁移模式为合并模式。
在一些实施例中,数据迁移单元403进一步被配置成:响应于数据迁移模式为合并模式,确定待迁移数据与目标数据库中的数据之间的冲突数据;确定冲突数据对应的源端数据和目标端数据,进而将目标端数据更新为源端数据。
在一些实施例中,数据迁移单元403进一步被配置成:响应于数据迁移模式为直接插入模式,确定目标迁移位置,将待迁移数据直接插入目标数据库中的目标迁移位置。
在一些实施例中,数据迁移单元403进一步被配置成:响应于对待迁移数据迁移失败,在达到预设条件后,重新执行数据迁移进程,直至基于数据迁移模式将待迁移数据迁移至目标数据库。
需要说明的是,本申请的数据迁移方法和数据迁移装置在具体实施内容上具有相应关系,故重复内容不再说明。
图5示出了可以应用本申请实施例的数据迁移方法或数据迁移装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有数据迁移处理屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所接收的数据迁移请求提供支持的后台管理服务器(仅为示例)。后台管理服务器可以接收数据迁移请求,获取对应的待迁移数据;响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;基于数据迁移模式将待迁移数据迁移至目标数据库。从而可以提高异构数据迁移时的准确率。
需要说明的是,本申请实施例所提供的数据迁移方法一般由服务器505执行,相应地,数据迁移装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本申请实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM603中,还存储有计算机系统600操作所需的各种程序和数据。CPU601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶征信授权查询处理器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本申请公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括接收单元、数据迁移模式确定单元和数据迁移单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备接收数据迁移请求,获取对应的待迁移数据;响应于在共享数据队列中检测到待迁移数据,获取目标数据库地址,进而根据待迁移数据和目标数据库地址对应的目标数据库确定数据迁移模式;基于数据迁移模式将待迁移数据迁移至目标数据库。
本申请的计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本申请实施例中的数据迁移方法。
根据本申请实施例的技术方案,可以提高异构数据迁移时的准确率。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (16)
1.一种数据迁移方法,其特征在于,包括:
接收数据迁移请求,获取对应的待迁移数据;
响应于在共享数据队列中检测到所述待迁移数据,获取目标数据库地址,进而根据所述待迁移数据和所述目标数据库地址对应的目标数据库确定数据迁移模式;
基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库。
2.根据权利要求1所述的方法,其特征在于,所述获取对应的待迁移数据,包括:
获取所述数据迁移请求对应的迁移参数,进而根据所述迁移参数从源数据库中获取对应的待迁移数据。
3.根据权利要求1所述的方法,其特征在于,在所述基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库之后,所述方法还包括:
基于预设的数据迁移配置文件,执行对迁移至所述目标数据库中的待迁移数据的数据条数和数据值的校验进程。
4.根据权利要求1所述的方法,其特征在于,所述根据所述待迁移数据和所述目标数据库地址对应的目标数据库确定数据迁移模式,包括:
响应于所述待迁移数据与所述目标数据库地址对应的目标数据库中的数据不冲突,确定数据迁移模式为直接插入模式;
响应于所述待迁移数据与所述目标数据库地址对应的目标数据库中的数据存在冲突,确定数据迁移模式为合并模式。
5.根据权利要求1所述的方法,其特征在于,所述基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库,包括:
响应于所述数据迁移模式为合并模式,确定所述待迁移数据与所述目标数据库中的数据之间的冲突数据;
确定所述冲突数据对应的源端数据和目标端数据,进而将所述目标端数据更新为所述源端数据。
6.根据权利要求5所述的方法,其特征在于,所述基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库,还包括:
响应于所述数据迁移模式为直接插入模式,确定目标迁移位置,将所述待迁移数据直接插入所述目标数据库中的所述目标迁移位置。
7.根据权利要求1所述的方法,其特征在于,所述基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库,包括:
响应于对所述待迁移数据迁移失败,在达到预设条件后,重新执行数据迁移进程,直至基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库。
8.一种数据迁移装置,其特征在于,包括:
接收单元,被配置成接收数据迁移请求,获取对应的待迁移数据;
数据迁移模式确定单元,被配置成响应于在共享数据队列中检测到所述待迁移数据,获取目标数据库地址,进而根据所述待迁移数据和所述目标数据库地址对应的目标数据库确定数据迁移模式;
数据迁移单元,被配置成基于所述数据迁移模式将所述待迁移数据迁移至所述目标数据库。
9.根据权利要求8所述的装置,其特征在于,所述接收单元进一步被配置成:
获取所述数据迁移请求对应的迁移参数,进而根据所述迁移参数从源数据库中获取对应的待迁移数据。
10.根据权利要求8所述的装置,其特征在于,所述装置还包括校验单元,被配置成:
基于预设的数据迁移配置文件,执行对迁移至所述目标数据库中的待迁移数据的数据条数和数据值的校验进程。
11.根据权利要求8所述的装置,其特征在于,所述数据迁移模式确定单元进一步被配置成:
响应于所述待迁移数据与所述目标数据库地址对应的目标数据库中的数据不冲突,确定数据迁移模式为直接插入模式;
响应于所述待迁移数据与所述目标数据库地址对应的目标数据库中的数据存在冲突,确定数据迁移模式为合并模式。
12.根据权利要求8所述的装置,其特征在于,所述数据迁移单元进一步被配置成:
响应于所述数据迁移模式为合并模式,确定所述待迁移数据与所述目标数据库中的数据之间的冲突数据;
确定所述冲突数据对应的源端数据和目标端数据,进而将所述目标端数据更新为所述源端数据。
13.根据权利要求12所述的装置,其特征在于,所述数据迁移单元进一步被配置成:
响应于所述数据迁移模式为直接插入模式,确定目标迁移位置,将所述待迁移数据直接插入所述目标数据库中的所述目标迁移位置。
14.一种数据迁移电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一项所述的方法。
15.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
16.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211361473.5A CN115543967A (zh) | 2022-11-02 | 2022-11-02 | 一种数据迁移方法、装置、电子设备及计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211361473.5A CN115543967A (zh) | 2022-11-02 | 2022-11-02 | 一种数据迁移方法、装置、电子设备及计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115543967A true CN115543967A (zh) | 2022-12-30 |
Family
ID=84721207
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211361473.5A Pending CN115543967A (zh) | 2022-11-02 | 2022-11-02 | 一种数据迁移方法、装置、电子设备及计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115543967A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117194390A (zh) * | 2023-11-08 | 2023-12-08 | 建信金融科技有限责任公司 | 数据库迁移方法和装置 |
-
2022
- 2022-11-02 CN CN202211361473.5A patent/CN115543967A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117194390A (zh) * | 2023-11-08 | 2023-12-08 | 建信金融科技有限责任公司 | 数据库迁移方法和装置 |
CN117194390B (zh) * | 2023-11-08 | 2024-02-09 | 建信金融科技有限责任公司 | 数据库迁移方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9135289B2 (en) | Matching transactions in multi-level records | |
US11169792B2 (en) | Method and apparatus for generating patch | |
CN109492053B (zh) | 用于访问数据的方法和装置 | |
CN110851209B (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
CN110960855B (zh) | 一种通信协议代码更新方法、装置、电子设备及存储介质 | |
CN110858172A (zh) | 一种自动化测试代码生成方法和装置 | |
US20130311425A1 (en) | Database update notification method | |
CN110659210A (zh) | 一种信息获取方法、装置、电子设备及存储介质 | |
CN111125064A (zh) | 一种生成数据库模式定义语句的方法和装置 | |
CN115543967A (zh) | 一种数据迁移方法、装置、电子设备及计算机可读介质 | |
CN112835568A (zh) | 一种项目构建方法和装置 | |
CN113485744A (zh) | 代码同步方法及装置 | |
CN113377342A (zh) | 一种项目构建方法、装置、电子设备及存储介质 | |
CN116521317A (zh) | 镜像管理方法及装置、电子设备和计算机可读存储介质 | |
CN113821486B (zh) | pod库之间依赖关系的确定方法及其装置、电子设备 | |
CN114625373A (zh) | 应用转换方法、装置、电子设备和存储介质 | |
CN112988583A (zh) | 数据库语法兼容性测试的方法和装置 | |
CN113779048A (zh) | 一种数据处理方法和装置 | |
CN108628909B (zh) | 信息推送方法和装置 | |
CN113361286A (zh) | 信息提示方法和装置 | |
CN112965747B (zh) | 挖掘代码漏洞的方法、装置、设备和计算机可读介质 | |
CN110297639B (zh) | 用于检测代码的方法和装置 | |
CN115993981A (zh) | 一种数据处理方法、装置、电子设备及计算机可读介质 | |
CN114217873A (zh) | 一种插件的确定方法、装置、电子设备及存储介质 | |
CN116302405A (zh) | 一种数据脱敏方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |