CN109189756A - 电子装置、数据迁移的方法及存储介质 - Google Patents

电子装置、数据迁移的方法及存储介质 Download PDF

Info

Publication number
CN109189756A
CN109189756A CN201810694928.2A CN201810694928A CN109189756A CN 109189756 A CN109189756 A CN 109189756A CN 201810694928 A CN201810694928 A CN 201810694928A CN 109189756 A CN109189756 A CN 109189756A
Authority
CN
China
Prior art keywords
data
migration
migrated
ciphertext
xml file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810694928.2A
Other languages
English (en)
Inventor
阴旭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201810694928.2A priority Critical patent/CN109189756A/zh
Priority to PCT/CN2018/107702 priority patent/WO2020000725A1/zh
Publication of CN109189756A publication Critical patent/CN109189756A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases

Abstract

本发明涉及一种电子装置、数据迁移的方法及存储介质，该方法包括：在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。本发明能够实现快速、高效地迁移较大数量级别的数据。

Description

电子装置、数据迁移的方法及存储介质
技术领域
本发明涉及通信技术领域，尤其涉及一种电子装置、数据迁移的方法及存储介质。
背景技术
目前，在数据量较大(例如，100GB以上)的数据迁移技术中，例如，新旧数据库系统之间的数据迁移，现有的解决方案为由数据库工作人员主导，由开发人员协助，使用数据库层面的方式进行数据迁移。这种方式一般需要较长的时间才能完成数据的迁移，甚至出现无法实现迁移的情况。有鉴于此，在数据量较大时，需要一种快速而高效的数据迁移的解决方案。
发明内容
本发明的目的在于提供一种电子装置、数据迁移的方法及存储介质，旨在实现快速、高效地迁移较大数量级别的数据。
为实现上述目的，本发明提供一种电子装置，所述电子装置包括存储器及与所述存储器连接的处理器，所述存储器中存储有可在所述处理器上运行的处理系统，所述处理系统被所述处理器执行时实现如下步骤：
在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
优选地，所述处理系统被所述处理器执行时，还实现如下步骤：
按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
若该第一密文与对应的第二密文分别相同，则验证通过；
若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
优选地，所述处理系统被所述处理器执行时，还实现如下步骤：
获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
优选地，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，所述处理系统被所述处理器执行时，还实现如下步骤：
接收定时迁移、迁移暂停、迁移停止或回滚的操作指令，根据该操作指令执行相应的定时迁移、迁移暂停、迁移停止或回滚的操作。
为实现上述目的，本发明还提供一种数据迁移的方法，所述数据迁移的方法包括：
S1，在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
S2，当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
S3，采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
优选地，所述步骤S3之后还包括：
按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
若该第一密文与对应的第二密文分别相同，则验证通过；
若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
优选地，所述步骤S2之后还包括：获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
所述步骤S3之后还包括：获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
优选地，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，该方法还包括：
接收定时迁移、迁移暂停、迁移停止或回滚的操作指令，根据该操作指令执行相应的定时迁移、迁移暂停、迁移停止或回滚的操作。
优选地，所述预定的解析方式为xml简单应用程序接口的解析方式
本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有处理系统，所述处理系统被处理器执行时实现上述的数据迁移的方法的步骤。
本发明的有益效果是：本发明在迁移平台的操作界面上，将迁移参数以及该原数据库与目标数据库的映射数据进行配置，在迁移数据时，根据配置的迁移参数及映射数据，并利用多线程的方式读取待迁移数据，采用XML文件作为中间存储，控制多线程读取XML文件，解析XML文件，将解析后得到的数据迁移至目标数据库中，本发明为平台化的数据迁移的方式，能够为业务系统提供TB级数据量的数据迁移服务，快速、高效地迁移不同数据库及不同数据表结构的数据。
附图说明
图1为本发明电子装置一实施例的硬件架构的示意图；
图2为本发明数据迁移的方法第一实施例的流程示意图；
图3为本发明数据迁移的方法第二实施例的流程示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。
参阅图1所示，是本发明电子装置一实施例的硬件架构的示意图。电子装置1是一种能够按照事先设定或者存储的指令，自动进行数值计算和/或信息处理的设备。所述电子装置1可以是计算机、也可以是单个网络服务器、多个网络服务器组成的服务器组或者基于云计算的由大量主机或者网络服务器构成的云，其中云计算是分布式计算的一种，由一群松散耦合的计算机集组成的一个超级虚拟计算机。
在本实施例中，电子装置1可包括，但不仅限于，可通过系统总线相互通信连接的存储器11、处理器12、网络接口13，存储器11存储有可在处理器12上运行的处理系统。需要指出的是，图1仅示出了具有组件11-13的电子装置1，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
其中，存储器11包括内存及至少一种类型的可读存储介质。内存为电子装置1的运行提供缓存；可读存储介质可为如闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等的非易失性存储介质。在一些实施例中，可读存储介质可以是电子装置1的内部存储单元，例如该电子装置1的硬盘；在另一些实施例中，该非易失性存储介质也可以是电子装置1的外部存储设备，例如电子装置1上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。本实施例中，存储器11的可读存储介质通常用于存储安装于电子装置1的操作系统和各类应用软件，例如本发明一实施例中的处理系统的程序代码等。此外，存储器11还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器12在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器12通常用于控制所述电子装置1的总体操作，例如执行与其他设备进行数据交互或者通信相关的控制和处理等。本实施例中，所述处理器12用于运行所述存储器11中存储的程序代码或者处理数据，例如运行处理系统等。
所述网络接口13可包括无线网络接口或有线网络接口，该网络接口13通常用于在所述电子装置1与其他电子设备之间建立通信连接。
所述处理系统存储在存储器11中，包括至少一个存储在存储器11中的计算机可读指令，该至少一个计算机可读指令可被处理器器12执行，以实现本申请各实施例的方法；以及，该至少一个计算机可读指令依据其各部分所实现的功能不同，可被划为不同的逻辑模块。
在一实施例中，上述处理系统被所述处理器12执行时实现如下步骤：
在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
本实施例中，通过访问浏览器登录迁移平台，在迁移平台的操作界面上，可以选择对一个或多个业务系统的原数据库的数据进行迁移。
其中，待迁移数据可以是不同数据库的数据(例如：MYSQL->ORACLE，SQLSERVER->ORACLE之间的数据迁移)、不同表结构的数据或不同数据类型的数据，本实施例可实现不同数据库的数据、不同表结构的数据或不同数据类型的数据的迁移。
其中，迁移参数包括：原数据库与目标数据库的数据库名、原数据库与目标数据库对应的服务器、原数据库与目标数据库对应的登录帐号及登录密码、数据表名、数据表属组、迁移开始时间点、迁移结束时间点、是否支持回滚、线程数量(其中，最小1个线程，最大100个线程)等。原数据库与目标数据库的映射数据包括：原数据库的数据表及目标数据库的数据表在迁移时两表的字段、数据类型的对应关系等。
进一步地，为了实现大数据量迁移的灵活性，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，可以执行定时迁移，并在迁移过程中，可以执行迁移暂停、迁移停止及回滚的操作。
当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
本实施例利用XML文件作为中间存储，在完成配置操作后，利用多线程的方式并根据所配置的迁移参数及映射数据读取原数据库中的待迁移数据，将待迁移数据转换为XML文件数据。
其中，原数据库的数据表经XML文件后存储至目标数据库中的目标数据表中，原数据库的一个数据表可对应多个XML文件，XML文件数据包括目标数据表的各项信息(例如，数据表名、字段名、数据类型、初始值等)。为了快速完成数据的迁移，原数据库的一个数据表可以使用多个线程来读取待迁移数据，例如，原数据库的数据表中有1亿的数据量，如果使用1个线程迁移耗时会很长，但使用100个线程进行迁移，则迁移速度提升100倍。
采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
其中，采用多个线程获取XML文件数据，以便快速进行数据迁移。预定的解析方式为xml简单应用程序接口的解析方式。具体地，xml简单应用程序接口的解析方式适用于解析大型的XML文件数据，其对XML文件数据进行逐行解析，解析XML文件数据时，将目标数据表名称、字段名、数据类型、初始值等需要写入目标数据表的数据记录在内存中，每当循环解析到一定数量时，例如100次时，会触发一次将记录在内存中的数据进行提交，将数据写入到目标数据表中。
其中，读取原数据库中的待迁移数据的操作和写入数据至目标数据表的操作为异步处理，实现读/写分离，提高了迁移的效率。
与现有技术相比，本发明在迁移平台的操作界面上，将迁移参数以及该原数据库与目标数据库的映射数据进行配置，在迁移数据时，根据配置的迁移参数及映射数据，并利用多线程的方式读取待迁移数据，采用XML文件作为中间存储，控制多线程读取XML文件，解析XML文件，将解析后得到的数据迁移至目标数据库中，本发明为平台化的数据迁移的方式，能够为业务系统提供TB级数据量的数据迁移服务，快速、高效地迁移不同数据库、不同数据表结构的数据。
在一优选的实施例中，在上述实施例的基础上，所述处理系统被所述处理器执行时，还实现如下步骤：
按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
若该第一密文与对应的第二密文分别相同，则验证通过；
若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
其中，预定的加密方式为MD5(Message-Digest Algorithm 5，信息-摘要算法)。本实施例将原数据库的待迁移数据按照逐行加密的方式进行加密，将目标数据库中的数据按照逐行加密的方式进行加密，将第一密文与对应的第二密文进行对比，如果两者相同，则验证通过，该第二密文对应的数据在目标数据库中是有效的；如果两者不相同，则验证失败，该第二密文对应的数据需要从目标数据表中回滚清除，重新迁移该单行数据。通过这种方式，在快速、高效地迁移大数据量的数据的基础上，还能够进行单行数据严格的验证，以发现迁移过程出错的数据，确保迁移的数据的准确性。
在一优选的实施例中，在上述实施例的基础上，所述处理系统被所述处理器执行时，还实现如下步骤：
获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
其中，第一预设数量与第二预设数量可以相同或者不同，优选地，第一预设数量与第二预设数量相同，例如，第一预设数量与第二预设数量为1000。主键是数据表中的一个或多个字段，主键标识用于唯一标识数据表中的某一条记录。本实施例以第一预设数量或第二预设数量的主键标识为一组(如果不够第一预设数量则以字符0补齐)，以定长的格式存放第一索引文件或第二索引文件至磁盘文件中，每次按组取出主键数据进行处理。
其中，第一索引文件用于记录定位待迁移数据对应存放的XML文件。通常情况下，由于待迁移数据的数据量都非常大，其所生成的XML文件也非常多，所以迁移时需要先读取第一索引文件，通过第一索引文件的名称及主键数据进行定位，才能快速找到XML文件进行迁移。
第二索引文件，用于在将原数据库的待迁移数据写入目标数据库后，目标数据库中的每条数据在目标数据表中的主键标识。当迁移操作需要回滚时，可以通过该第二索引文件提取出目标数据表中对应的数据进行清除。
通过上面的描述可以看出，本实施例通过第一索引文件能够快速找到XML文件并进行数据的迁移，通过第二索引文件能够快速提取目标数据表中需要回滚的数据并进行清除。
如图2所示，图2为本发明数据迁移的方法一实施例的流程示意图，该数据迁移的方法包括以下步骤：
步骤S1，在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
本实施例中，通过访问浏览器登录迁移平台，在迁移平台的操作界面上，可以选择对一个或多个业务系统的原数据库的数据进行迁移。
其中，待迁移数据可以是不同数据库的数据(例如：MYSQL->ORACLE，SQLSERVER->ORACLE之间的数据迁移)、不同表结构的数据或不同数据类型的数据，本实施例可实现不同数据库的数据、不同表结构的数据或不同数据类型的数据的迁移。
其中，迁移参数包括：原数据库与目标数据库的数据库名、原数据库与目标数据库对应的服务器、原数据库与目标数据库对应的登录帐号及登录密码、数据表名、数据表属组、迁移开始时间点、迁移结束时间点、是否支持回滚、线程数量(其中，最小1个线程，最大100个线程)等。原数据库与目标数据库的映射数据包括：原数据库的数据表及目标数据库的数据表在迁移时两表的字段、数据类型的对应关系等。
进一步地，为了实现大数据量迁移的灵活性，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，可以执行定时迁移，并在迁移过程中，可以执行迁移暂停、迁移停止及回滚的操作。
步骤S2，当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
本实施例利用XML文件作为中间存储，在完成配置操作后，利用多线程的方式并根据所配置的迁移参数及映射数据读取原数据库中的待迁移数据，将待迁移数据转换为XML文件数据。
其中，原数据库的数据表经XML文件后存储至目标数据库中的目标数据表中，原数据库的一个数据表可对应多个XML文件，XML文件数据包括目标数据表的各项信息(例如，数据表名、字段名、数据类型、初始值等)。为了快速完成数据的迁移，原数据库的一个数据表可以使用多个线程来读取待迁移数据，例如，原数据库的数据表中有1亿的数据量，如果使用1个线程迁移耗时会很长，但使用100个线程进行迁移，则迁移速度提升100倍。
步骤S3，采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
其中，采用多个线程获取XML文件数据，以便快速进行数据迁移。预定的解析方式为xml简单应用程序接口的解析方式。具体地，xml简单应用程序接口的解析方式适用于解析大型的XML文件数据，其对XML文件数据进行逐行解析，解析XML文件数据时，将目标数据表名称、字段名、数据类型、初始值等需要写入目标数据表的数据记录在内存中，每当循环解析到一定数量时，例如100次时，会触发一次将记录在内存中的数据进行提交，将数据写入到目标数据表中。
其中，读取原数据库中的待迁移数据的操作和写入数据至目标数据表的操作为异步处理，实现读/写分离，提高了迁移的效率。
与现有技术相比，本发明在迁移平台的操作界面上，将迁移参数以及该原数据库与目标数据库的映射数据进行配置，在迁移数据时，根据配置的迁移参数及映射数据，并利用多线程的方式读取待迁移数据，采用XML文件作为中间存储，控制多线程读取XML文件，解析XML文件，将解析后得到的数据迁移至目标数据库中，本发明为平台化的数据迁移的方式，能够为业务系统提供TB级数据量的数据迁移服务，快速、高效地迁移不同数据库、不同数据表结构的数据。
在一优选的实施例中，在上述实施例的基础上，如图3所示，所述步骤S3之后还包括：
步骤S4，按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
步骤S45，分析第一密文与对应的第二密文是否相同；
步骤S5，若该第一密文与对应的第二密文分别相同，则验证通过，该第二密文对应的数据在目标数据库中为有效的数据；
步骤S6，若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
其中，预定的加密方式为MD5(Message-Digest Algorithm 5，信息-摘要算法)。本实施例将原数据库的待迁移数据按照逐行加密的方式进行加密，将目标数据库中的数据按照逐行加密的方式进行加密，将第一密文与对应的第二密文进行对比，如果两者相同，则验证通过，该第二密文对应的数据在目标数据中是有效的数据；如果两者不相同，则验证失败，该第二密文对应的数据需要从目标数据表中回滚清除，重新迁移该单行数据。通过这种方式，在快速、高效地迁移大数据量的数据的基础上，还能够进行单行数据严格的验证，以发现迁移过程出错的数据，确保迁移的数据的准确性。
在一优选的实施例中，在上述实施例的基础上，所述步骤S2之后还包括：获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
所述步骤S3之后还包括：获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
其中，第一预设数量与第二预设数量可以相同或者不同，优选地，第一预设数量与第二预设数量相同，例如，第一预设数量与第二预设数量为1000。主键是数据表中的一个或多个字段，主键标识用于唯一标识数据表中的某一条记录。本实施例以第一预设数量或第二预设数量的主键标识为一组(如果不够第一预设数量则以字符0补齐)，以定长的格式存放第一索引文件或第二索引文件至磁盘文件中，每次按组取出主键数据进行处理。
其中，第一索引文件用于记录定位待迁移数据对应存放的XML文件。通常情况下，由于待迁移数据的数据量都非常大，其所生成的XML文件也非常多，所以迁移时需要先读取第一索引文件，通过第一索引文件的名称及主键数据进行定位，才能快速找到XML文件进行迁移。
第二索引文件，用于在将原数据库的待迁移数据写入目标数据库后，目标数据库中的每条数据在目标数据表中的主键标识。当迁移操作需要回滚时，可以通过该第二索引文件提取出目标数据表中对应的数据进行清除。
通过上面的描述可以看出，本实施例通过第一索引文件能够快速找到XML文件并进行数据的迁移，通过第二索引文件能够快速提取目标数据表中需要回滚的数据并进行清除。
本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有处理系统，所述处理系统被处理器执行时实现上述的数据迁移的方法的步骤。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种电子装置，其特征在于，所述电子装置包括存储器及与所述存储器连接的处理器，所述存储器中存储有可在所述处理器上运行的处理系统，所述处理系统被所述处理器执行时实现如下步骤：
在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
2.根据权利要求1所述的电子装置，其特征在于，所述处理系统被所述处理器执行时，还实现如下步骤：
按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
若该第一密文与对应的第二密文分别相同，则验证通过；
若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
3.根据权利要求1或2所述的电子装置，其特征在于，所述处理系统被所述处理器执行时，还实现如下步骤：
获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
4.根据权利要求1或2所述的电子装置，其特征在于，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，所述处理系统被所述处理器执行时，还实现如下步骤：
接收定时迁移、迁移暂停、迁移停止或回滚的操作指令，根据该操作指令执行相应的定时迁移、迁移暂停、迁移停止或回滚的操作。
5.一种数据迁移的方法，其特征在于，所述数据迁移的方法包括：
S1，在迁移平台的操作界面上，当接收到对一个或多个业务系统的原数据库的待迁移数据进行迁移的指令后，基于该指令对本次迁移的迁移参数以及该原数据库与目标数据库的映射数据进行配置；
S2，当完成配置操作后，根据所配置的迁移参数及映射数据并利用多线程的方式读取该待迁移数据，并将待迁移数据转换为XML文件数据；
S3，采用多个线程获取该XML文件数据，按照预定的解析方式对该XML文件数据进行解析，并采用与读取该待迁移数据异步的方式将解析后的XML文件数据写入目标数据库中。
6.根据权利要求5所述的数据迁移的方法，其特征在于，所述步骤S3之后还包括：
按照预定的加密方式将原数据库的待迁移数据中每一单行数据进行加密后得到第一密文，按照该预定的加密方式将存储在该目标数据库中的每一单行数据进行加密后得到第二密文；
若该第一密文与对应的第二密文分别相同，则验证通过；
若有该第一密文与对应的第二密文不相同，将该第二密文对应的单行数据进行回滚清除，以重新迁移该单行数据。
7.根据权利要求5或6所述的数据迁移的方法，其特征在于，所述步骤S2之后还包括：获取该待迁移数据的主键标识，以第一预设数量的主键标识为一组，基于各组主键标识生成该待迁移数据的第一索引文件；
所述步骤S3之后还包括：获取存储在目标数据库中的数据的主键标识，以第二预设数量的主键标识为一组，基于各组主键标识生成目标数据库中的数据的第二索引文件。
8.根据权利要求5或6所述的数据迁移的方法，其特征在于，在该操作界面上提供定时迁移、迁移暂停、迁移停止及回滚的配置，该方法还包括：
接收定时迁移、迁移暂停、迁移停止或回滚的操作指令，根据该操作指令执行相应的定时迁移、迁移暂停、迁移停止或回滚的操作。
9.根据权利要求5或6所述的数据迁移的方法，其特征在于，所述预定的解析方式为xml简单应用程序接口的解析方式。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有处理系统，所述处理系统被处理器执行时实现如权利要求5至9中任一项所述的数据迁移的方法的步骤。
CN201810694928.2A 2018-06-29 2018-06-29 电子装置、数据迁移的方法及存储介质 Pending CN109189756A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201810694928.2A CN109189756A (zh) 2018-06-29 2018-06-29 电子装置、数据迁移的方法及存储介质
PCT/CN2018/107702 WO2020000725A1 (zh) 2018-06-29 2018-09-26 电子装置、数据迁移的方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810694928.2A CN109189756A (zh) 2018-06-29 2018-06-29 电子装置、数据迁移的方法及存储介质

Publications (1)

Publication Number Publication Date
CN109189756A true CN109189756A (zh) 2019-01-11

Family

ID=64948600

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810694928.2A Pending CN109189756A (zh) 2018-06-29 2018-06-29 电子装置、数据迁移的方法及存储介质

Country Status (2)

Country Link
CN (1) CN109189756A (zh)
WO (1) WO2020000725A1 (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110609826A (zh) * 2019-09-20 2019-12-24 四川长虹电器股份有限公司 一种数据抽取的方法
CN110688361A (zh) * 2019-08-16 2020-01-14 平安普惠企业管理有限公司 数据迁移方法、电子装置及计算机设备
CN110941511A (zh) * 2019-11-21 2020-03-31 深信服科技股份有限公司 一种快照合并方法、装置、设备及存储介质
CN111125059A (zh) * 2019-12-17 2020-05-08 南京甄视智能科技有限公司 数据迁移方法、装置、存储介质及服务器
CN111241060A (zh) * 2020-01-08 2020-06-05 苏州科达科技股份有限公司 数据迁移方法、系统、设备及存储介质
CN111831625A (zh) * 2020-07-14 2020-10-27 深圳力维智联技术有限公司 数据迁移方法、数据迁移装置和可读存储介质
CN111930715A (zh) * 2020-07-16 2020-11-13 北京金山云网络技术有限公司 数据迁移方法、装置、计算机设备和存储介质
CN111984631A (zh) * 2020-09-02 2020-11-24 深圳壹账通智能科技有限公司 生产数据迁移方法、装置、计算机设备及存储介质
CN113742318A (zh) * 2021-09-14 2021-12-03 央视国际网络无锡有限公司 一种关系型数据库之间大数据迁移的方法
CN115514986A (zh) * 2022-09-22 2022-12-23 浙江广播电视集团 一种实现新老媒资系统间素材翻库的方法及系统

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112632032B (zh) * 2020-12-18 2022-12-27 华人运通(上海)云计算科技有限公司 一种数据迁移方法、装置、存储介质及终端设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7620665B1 (en) * 2000-11-21 2009-11-17 International Business Machines Corporation Method and system for a generic metadata-based mechanism to migrate relational data between databases
CN102156699A (zh) * 2010-02-11 2011-08-17 陈巍 一种基于jdom解析技术的数据迁移方法
WO2012095053A2 (zh) * 2012-03-01 2012-07-19 华为技术有限公司 数据迁移方法和设备
CN102999537A (zh) * 2011-09-19 2013-03-27 阿里巴巴集团控股有限公司 一种数据迁移系统和方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101739436B (zh) * 2009-09-28 2012-12-19 浙江工商大学 基于xml的柔性数据迁移方法
CN101789021A (zh) * 2010-02-24 2010-07-28 浪潮通信信息系统有限公司 一种通用可配置的数据库数据迁移方法
CN102521318A (zh) * 2011-12-02 2012-06-27 华侨大学 基于xml的通用数据交换装置
CN104462119B (zh) * 2013-09-18 2019-11-05 腾讯科技（深圳）有限公司 数据迁移方法及装置
CN106598977A (zh) * 2015-10-15 2017-04-26 北京国双科技有限公司 数据迁移方法和装置
CN105760517A (zh) * 2016-02-25 2016-07-13 浪潮(北京)电子信息产业有限公司 将数据从Oracle数据库迁移至DB2数据库的方法和装置
CN106682534A (zh) * 2017-01-23 2017-05-17 郑州云海信息技术有限公司 一种数据迁移过程中数据完整性校验的方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7620665B1 (en) * 2000-11-21 2009-11-17 International Business Machines Corporation Method and system for a generic metadata-based mechanism to migrate relational data between databases
CN102156699A (zh) * 2010-02-11 2011-08-17 陈巍 一种基于jdom解析技术的数据迁移方法
CN102999537A (zh) * 2011-09-19 2013-03-27 阿里巴巴集团控股有限公司 一种数据迁移系统和方法
WO2012095053A2 (zh) * 2012-03-01 2012-07-19 华为技术有限公司 数据迁移方法和设备

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110688361A (zh) * 2019-08-16 2020-01-14 平安普惠企业管理有限公司 数据迁移方法、电子装置及计算机设备
CN110609826A (zh) * 2019-09-20 2019-12-24 四川长虹电器股份有限公司 一种数据抽取的方法
CN110941511A (zh) * 2019-11-21 2020-03-31 深信服科技股份有限公司 一种快照合并方法、装置、设备及存储介质
CN110941511B (zh) * 2019-11-21 2023-03-21 深信服科技股份有限公司 一种快照合并方法、装置、设备及存储介质
CN111125059B (zh) * 2019-12-17 2022-08-12 南京甄视智能科技有限公司 数据迁移方法、装置、存储介质及服务器
CN111125059A (zh) * 2019-12-17 2020-05-08 南京甄视智能科技有限公司 数据迁移方法、装置、存储介质及服务器
CN111241060A (zh) * 2020-01-08 2020-06-05 苏州科达科技股份有限公司 数据迁移方法、系统、设备及存储介质
CN111831625A (zh) * 2020-07-14 2020-10-27 深圳力维智联技术有限公司 数据迁移方法、数据迁移装置和可读存储介质
CN111831625B (zh) * 2020-07-14 2024-03-12 深圳力维智联技术有限公司 数据迁移方法、数据迁移装置和可读存储介质
CN111930715A (zh) * 2020-07-16 2020-11-13 北京金山云网络技术有限公司 数据迁移方法、装置、计算机设备和存储介质
CN111984631A (zh) * 2020-09-02 2020-11-24 深圳壹账通智能科技有限公司 生产数据迁移方法、装置、计算机设备及存储介质
CN113742318A (zh) * 2021-09-14 2021-12-03 央视国际网络无锡有限公司 一种关系型数据库之间大数据迁移的方法
CN113742318B (zh) * 2021-09-14 2024-02-20 央视国际网络无锡有限公司 一种关系型数据库之间大数据迁移的方法
CN115514986A (zh) * 2022-09-22 2022-12-23 浙江广播电视集团 一种实现新老媒资系统间素材翻库的方法及系统
CN115514986B (zh) * 2022-09-22 2024-03-26 浙江广播电视集团 一种实现新老媒资系统间素材翻库的方法及系统

Also Published As

Publication number Publication date
WO2020000725A1 (zh) 2020-01-02

Similar Documents

Publication Publication Date Title
CN109189756A (zh) 电子装置、数据迁移的方法及存储介质
CN110309125A (zh) 数据校验方法、电子装置及存储介质
CN109614206A (zh) 区块链事务处理的装置、方法及存储介质
CN105704188A (zh) 应用与服务的部署方法和装置
CN103927305B (zh) 一种对内存溢出进行控制的方法和设备
CN103198122B (zh) 重启内存数据库的方法和装置
CN105677904B (zh) 基于分布式文件系统的小文件存储方法及装置
US10198346B1 (en) Test framework for applications using journal-based databases
CN103581187A (zh) 访问权限的控制方法及控制系统
CN110515795A (zh) 一种大数据组件的监控方法、装置、电子设备
CN107357721B (zh) 测试系统的方法及装置
CN108427635A (zh) 快速测试web页面的方法、服务器及计算机可读存储介质
CN108427634A (zh) 电子装置、测试的方法及计算机可读存储介质
CN111475494A (zh) 一种海量数据处理方法、系统、终端及存储介质
CN104572467A (zh) 一种服务器虚拟化平台数据库性能测试的方法
CN103809947B (zh) 一种开发需求的自动发布方法和系统
CN110019169A (zh) 一种数据处理的方法及装置
CN109542860B (zh) 基于hdfs的业务数据管理方法、终端设备
CN106603727A (zh) 一种系统数据集成、访问方法及装置
CN115309334A (zh) 磁盘管理方法、装置、设备及存储介质
CN110119335A (zh) 服务器ntp进程监控方法、电子装置及存储介质
CN109710698A (zh) 一种数据汇聚方法、装置、电子设备及介质
CN105279103A (zh) 一种数据管理方法及装置
CN103077337B (zh) 用户权限校验方法及装置
CN106878068B (zh) 一种配置管理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination