CN113342783A - 数据迁移方法、装置、计算机设备及存储介质 - Google Patents
数据迁移方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN113342783A CN113342783A CN202110738008.8A CN202110738008A CN113342783A CN 113342783 A CN113342783 A CN 113342783A CN 202110738008 A CN202110738008 A CN 202110738008A CN 113342783 A CN113342783 A CN 113342783A
- Authority
- CN
- China
- Prior art keywords
- data
- source
- service node
- migration
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013508 migration Methods 0.000 title claims abstract description 239
- 230000005012 migration Effects 0.000 title claims abstract description 239
- 238000000034 method Methods 0.000 title claims abstract description 49
- 238000007726 management method Methods 0.000 claims description 54
- 238000013475 authorization Methods 0.000 claims description 22
- 238000004458 analytical method Methods 0.000 claims description 21
- 238000012795 verification Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 16
- 238000013524 data verification Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 9
- 238000013500 data storage Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000009545 invasion Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 241001233242 Lontra Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000009365 direct transmission Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2365—Ensuring data consistency and integrity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Data Mining & Analysis (AREA)
- Bioethics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开一种数据迁移方法、装置、计算机设备及存储介质,该数据迁移方法包括,源服务节点向管理节点发送链路创建请求,链路创建请求包括源数据库标识和目标数据库标识;管理节点接收链路创建请求,确定与目标数据库标识对应的目标服务节点,创建源服务节点和目标服务节点之间的数据迁移链路;源服务节点从源数据库标识对应的源数据库获取待迁移数据,将待迁移数据通过数据迁移链路发送目标服务节点;目标服务节点接收待迁移数据,将待迁移数据存储到目标数据库标识对应的目标数据库,本发明可以保证系统数据库的数据安全,提高数据安全性能,避免侵入不同用户的系统数据库。
Description
技术领域
本发明涉及大数据技术领域,尤其涉及一种数据迁移方法、装置、计算机设备及存储介质。
背景技术
随着技术不断发展,越来越多的用户需要在业务公司购买系统数据库资源,以利用系统数据库存储自身数据,以便于业务公司为提供用户数据存储、管理和分享等。
但是用户购买系统数据库资源后,当大多数业务公司在进行数据分享时,需要分享方的系统数据库(即源数据库)与被分享方的系统数据库(即目标数据库)进行直接对接,两方的用户数据安全减低,存在数据泄露的风险。
发明内
本发明实施例提供一种数据迁移方法、装置、计算机设备及存储介质,以解决数据迁移时,分享方和被分享方的用户数据安全减低问题。
一种数据迁移方法,应用在分层网络系统上,所述分层网络系统包括管理节点、N个迁移服务节点和M个系统数据库,所述管理节点与N个迁移服务节点相连,每个所述系统数据库与至少一个所述迁移服务节点相连,所述数据迁移方法包括如下步骤:
源服务节点向所述管理节点发送链路创建请求,所述链路创建请求包括源数据库标识和目标数据库标识;
管理节点接收所述链路创建请求,确定与所述目标数据库标识对应的目标服务节点,创建所述源服务节点和所述目标服务节点之间的数据迁移链路;
源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,将所述待迁移数据通过所述数据迁移链路发送目标服务节点;
目标服务节点接收所述待迁移数据,将所述待迁移数据存储到所述目标数据库标识对应的目标数据库。
一种数据迁移装置,包括:
链路创建请求发送模块,用于源服务节点向所述管理节点发送链路创建请求,所述链路创建请求包括源数据库标识和目标数据库标识;
链路创建请求接收模块,用于管理节点接收所述链路创建请求,确定与所述目标数据库标识对应的目标服务节点,创建所述源服务节点和所述目标服务节点之间的数据迁移链路;
待迁移数据获取模块,用于源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,将所述待迁移数据通过所述数据迁移链路发送目标服务节点;
数据存储模块,用于目标服务节点接收所述待迁移数据,将所述待迁移数据存储到所述目标数据库标识对应的目标数据库。
一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述数据迁移方法的步骤。
一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述数据迁移方法的步骤。
上述数据迁移方法、装置、计算机设备及存储介质,管理节点接收所述链路创建请求,确定与所述目标数据库标识对应的目标服务节点,创建所述源服务节点和所述目标服务节点之间的数据迁移链路,为后续的不同系统数据库之间的数据迁移提供技术支持。源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,将所述待迁移数据通过所述数据迁移链路发送目标服务节点,以保证源数据库和目标数据库之间的数据具有一致性。目标服务节点接收所述待迁移数据,将所述待迁移数据存储到所述目标数据库标识对应的目标数据库,不需要侵入源数据库标识对应的系统数据库和和目标数据库标识对应的系统数据库中,可以保证系统数据库的数据安全,提高数据安全性能,避免侵入不同用户的系统数据库,导致用户数据发生泄漏等安全问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例中数据迁移方法的一流程图;
图2是本发明一实施例中数据迁移方法的另一流程图;
图3是本发明一实施例中数据迁移方法的另一流程图;
图4是本发明一实施例中数据迁移方法的另一流程图;
图5是本发明一实施例中数据迁移方法的另一流程图;
图6是本发明一实施例中数据迁移方法的另一流程图;
图7是本发明一实施例中数据迁移装置的一原理框图;
图8是本发明一实施例中计算机设备的一示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供的数据迁移方法,应用在分层网络系统统中,用于当系统数据库之间进行数据迁移时,保证用户级别的系统数据库的数据安全,提高数据安全性能。
在一实施例中,如图1所示,提供一种数据迁移方法,应用在分层网络系统上,分层网络系统包括管理节点、N个迁移服务节点和M个系统数据库,管理节点与N个迁移服务节点相连,每个系统数据库与至少一个迁移服务节点相连。其中,系统数据库用于存储个人群体或者公司群体的数据,即一个个人群体对应一个系统数据库,或者一个公司群体对应一个系统数据库,迁移服务节点是为不同系统数据库提供通信的服务。本实施例中,为了保证不同系统数据库之间的安全性,系统数据库需要通过各自的迁移服务节点进行通信和数据传输的,因此,避免了不同系统数据库之间的直接传输数据,提高数据安全性。本实施例中,分层网络系统的架构可封装为SDK,各迁移服务节点可以根据系统数据库横向扩张添加,架构更轻量,可扩展,实现系统解耦。具体地,数据迁移方法包括如下步骤:
S101:源服务节点向管理节点发送链路创建请求,链路创建请求包括源数据库标识和目标数据库标识。
其中,数据库标识是用于唯一识别系统数据库的标识,因此,源数据库标识是用于识别源数据库的标识;目标数据库标识是指用于唯一识别目标数据库的标识。源数据库是指需要进行数据迁出的系统数据库。目标数据库是指数据迁入的系统数据库。
示例性地,数据库标识包括用户标识和该用户标识对应的可用区标识。其中,可用区是用户标识对应的逻辑上独立的网络、存储和主机物理资源。可用区标识是用于唯一识别用户标识对应的可用区的标识。其中,用户标识是用于唯一识别个人群体或者公司群体的标识。当管理节点接收到数据库标识时,可以根据数据库标识确定需要对应的系统数据库。
管理节点是用于管理迁移服务节点的节点,以便后续管理节点在源服务节点和目标服务节点之间创建数据迁移链路,以实现在源服务节点和目标服务节点之间传送待迁移数据,提高用户数据安全性,避免不同系统数据库之间的直接传输。其中,目标服务节点是与目标数据库相连的节点。源服务节点是与源数据库相连的节点。数据迁移链路是用于连接源服务节点和目标服务节点的链路,以便源服务节点和目标服务节点通过该数据迁移链路传输待迁移数据。源服务节点和目标服务节点间的数据迁移链路没有任何其他的节点,保证数据传输的准确性。
待迁移数据是需要从源数据库迁移到目标数据库的数据。
链路创建请求是希望管理节点在源服务节点和目标服务节点之间创建数据迁移链路的请求,以便数据迁移时仅需在源服务节点和目标服务节点之间进行,不需要侵入不同用户源数据库和目标数据库,可以保证用户级别的系统数据库的数据安全,提高数据安全性能。
本实施例中,不同用户之间的系统数据库是相互隔离的,为保证不同的用户的系统数据库的数据安全,系统数据库部署有至少一个迁移服务节点,以保证数据迁移时,可以不需要直接侵入系统数据库内,保证数据安全。源服务节点通过向管理节点发送链路创建请求,以请求管理节在源服务节点和目标服务节点之间创建数据迁移链路,因此,不需要侵入源数据库标识对应的系统数据库和和目标数据库标识对应的系统数据库中,可以保证系统数据库的数据安全,提高数据安全性能。
S102:管理节点接收链路创建请求,确定与目标数据库标识对应的目标服务节点,创建源服务节点和目标服务节点之间的数据迁移链路。
本实施例中,管理节点根据目标数据库标识确定数据迁入的目标数据库和对应的目标服务节点,以便在源服务节点和目标服务节点之间创建数据迁移链路,为后续的不同系统数据库之间的数据迁移提供技术支持。
S103:源服务节点从源数据库标识对应的源数据库获取待迁移数据,将待迁移数据通过数据迁移链路发送目标服务节点。
本实施例中,源服务节点对源数据库中的数据进行初始化处理和增量处理,得到待迁移数据,以保证源数据库和目标数据库之间的数据具有一致性。并通过数据迁移链路将待迁移数据发送给目标服务节点,以保证数据迁移顺利性。
S104:目标服务节点接收待迁移数据,将待迁移数据存储到目标数据库标识对应的目标数据库。
本实施例中,目标服务节点通过数据迁移链路将待迁移数据发送到目标数据库中,因此,不需要侵入源数据库标识对应的系统数据库和和目标数据库标识对应的系统数据库中,可以保证系统数据库的数据安全,提高数据安全性能,避免侵入不同用户的系统数据库,导致用户数据发生泄漏等安全问题。
本实施例所提供的数据迁移方法,管理节点接收链路创建请求,确定与目标数据库标识对应的目标服务节点,创建源服务节点和目标服务节点之间的数据迁移链路,为后续的不同系统数据库之间的数据迁移提供技术支持。源服务节点从源数据库标识对应的源数据库获取待迁移数据,将待迁移数据通过数据迁移链路发送目标服务节点,以保证源数据库和目标数据库之间的数据具有一致性。目标服务节点接收待迁移数据,将待迁移数据存储到目标数据库标识对应的目标数据库,不需要侵入源数据库标识对应的系统数据库和和目标数据库标识对应的系统数据库中,可以保证系统数据库的数据安全,提高数据安全性能,避免侵入不同用户的系统数据库,导致用户数据发生泄漏等安全问题。
作为一示例,如图2所示,步骤S101,即源服务节点向管理节点发送链路创建请求,包括:
S201:源服务节点向管理节点发送迁移权限请求,迁移权限请求包括源数据库标识对应的源账号和源信息,以及目标数据库标识。
其中,迁移权限请求是源服务节点向管理节点发送的请求。
源账号是指源数据库标识对应的用户账号,可以理解为用户登录源数据库所需要的用户名和密码。源信息是指源数据库对应的信息,具体地,该源信息包括数据库类型和源数据库的用户标识对应的用户信息和防伪签名等。该防伪签名是经过公证机构验证的签名,可以保证源数据库对应的持有者的真实性和有效性,避免出现非法用户伪装成源数据库对应的用户恶意存入非正常数据的问题。
由于在不同的用户之间进行数据迁移时,不同的用户之间是否能够进行迁移并不确定。本实施例,源服务节点向管理节点发送迁移权限请求,以确定源数据库是否具有向目标数据库发送待迁移数据的权限,只有当管理节点确定源数据库具有向目标数据库发送待迁移数据的权限时,源服务节点才进行数据迁移操作,保证数据迁移的可执行性和有效性,有效提高数据迁移的安全性。
S202:管理节点将源账号和源信息发送给目标数据库标识对应的迁移服务节点,获取目标数据库标识对应的迁移服务节点对源账号和源信息进行权限校验生成的权限授权结果,并将权限授权结果发送给源服务节点。
权限授权结果是指源数据库是否具有向目标数据库发送待迁移数据的结果。该权限授权结果包括具有数据迁移权限和不具有数据迁移权限两种情况,具体地,管理节点将源账号和源信息发送给目标数据库标识对应的迁移服务节点,该迁移服务节点查询账号列表,将源账号与账号列表中的标准账号进行匹配,判断源账号是否准确;若源账号与账号列表中的标准账号匹配,则源账号准确;当源账号准确时,则判断源信息是否存在防伪签名,当源信息存在防伪签名,则源信息具有合法性,避免出现非法数据伪装,导致目标数据库的数据泄露;若源信息存在防伪签名,则判断源数据库的数据库类型确定是否与目标数据库的数据库类型匹配,以为数据迁移提供支持;若源数据库的数据库类型与目标数据库的数据库类型匹配,则根据源数据库的用户标识对应的用户信息查询权限列表,判断用户信息是否与将数据迁入目标数据库的迁移权限信息相匹配,当用户信息与将数据迁入目标数据库的迁移权限信息相匹配,则权限授权结果为具有数据迁移权限,反之,则权限授权结果为不具有数据迁移权限。本实施例中,对源账号和源信息进行权限校验,以确保发送给目标数据库的数据具有安全性和合法性,有效保证数据安全。
S203:若权限授权结果为具有数据迁移权限,则源服务节点向管理节点发送链路创建请求。
本实施例中,当权限授权结果为具有数据迁移权限,则说明源服务节点为目标服务节点认可的节点,因此,源服务节点和目标服务节点之间可以进行数据迁移,则源服务节点向管理节点发送链路创建请求,从而保证目标服务节点的数据安全,以排除非法的源服务节点向目标服务节点发送不合法数据等情况。
本实施例所提供的数据迁移方法,源服务节点向管理节点发送迁移权限请求,迁移权限请求包括源数据库标识对应的源账号和源信息,以及目标数据库标识,以确定源数据库是否具有向目标数据库发送待迁移数据的权限。管理节点将源账号和源信息发送给目标数据库标识对应的迁移服务节点,获取目标数据库标识对应的迁移服务节点对源账号和源信息进行权限校验生成的权限授权结果,并将权限授权结果发送给源服务节点,对源账号和源信息进行权限校验,以确保发送给目标数据库的数据具有安全性和合法性,有效保证数据安全。只有当管理节点确定源数据库具有向目标数据库发送待迁移数据的权限时,源服务节点才进行数据迁移操作,保证数据迁移的可执行性和有效性,有效提高数据迁移的安全性。
作为一示例,如图3所示,步骤S102,即确定与目标数据库标识对应的目标服务节点,包括:
S301:管理节点向目标数据库标识对应的迁移服务节点发送状态查询请求。
其中,状态查询请求是用于查询所有目标数据库标识对应的迁移服务节点的运行状态的请求。
S302:获取迁移服务节点反馈的当前运行状态,将当前运行状态为空闲状态的迁移服务节点确定为目标服务节点。
本实施例中,同一个目标数据库与多个迁移服务节点相连,为了确定哪个迁移服务节点可以进行工作,则管理节点向所有与目标数据库相连的迁移服务节点发送状态查询请求,以获取与目标数据库相连的每一迁移服务节点的当前运行状态,并将当前运行状态为空闲状态的迁移服务节点确定为目标服务节点,可以合理分配数据迁移资源。
S303:创建数据迁移链路,并将数据迁移链路下发到源服务节点和目标服务节点。
本实施例中,当确定了目标服务节点后,则管理节点将数据迁移链路下发给源服务节点和目标服务节点,为后续的数据迁移提供技术支持,保证目标数据库和源数据库的数据安全。
本实施例所提供的数据迁移方法,获取迁移服务节点反馈的当前运行状态,将当前运行状态为空闲状态的迁移服务节点确定为目标服务节点,可以合理分配数据迁移资源。创建数据迁移链路,并将数据迁移链路下发到源服务节点和目标服务节点,为后续的数据迁移提供技术支持,保证目标数据库和源数据库的数据安全。
作为一示例,如图4所示,步骤S103,即源服务节点从源数据库标识对应的源数据库获取待迁移数据,包括:
S401:获取数据迁移请求,数据迁移请求包括迁移对象。
其中,数据迁移请求是指源数据库向源服务节点发送的请求,以便源服务节点进行数据迁移。
迁移对象是指需要进行数据迁移的对象,例如,该迁移对象可以是源数据库中需要进行迁移的表单、表单中需要迁移的字段和值等。
具体地,在客户端中显示有数据显示界面,用户在数据显示界面中选择迁移对象,以形成数据迁移请求,并点击客户端上的迁移按钮,以向源服务节点发送数据迁移请求,以启动源服务节点对迁移对象进行处理。
S402:对迁移对象进行初始化处理,获取迁移对象对应的全量数据。
其中,全量数据是指在系统当前时间时,迁移对象中已经存在的数据。
具体地,源服务节点对迁移对象进行初始化处理,以得到迁移对象对应的全量数据,以保证数据迁移后,源数据库和目标数据库的迁移对象的数据具有一致性。
S403:获取增量日志,对增量日志进行解析处理,获取增量数据。
其中,增量数据是指系统当前时间之后,迁移对象中实时增加的数据。
本实施例中,采用解析工具获取增量日志,以对增量日志进行解析处理,得到增量数据,以便后续对增量数据进行迁移处理,以保证实时、快速地进行数据迁移。其中,解析工具是指用于对增量日志进行解析的工具,该解析工具例如可以是canal工具或者otter工具等,在此不做限定。
S404:将全量数据和增量数据确定为待迁移数据。
本实施例中,将全量数据和增量数据确定为待迁移数据,以保证数据迁移的全面性。
本实施例所提供的数据迁移方法,对迁移对象进行初始化处理,获取迁移对象对应的全量数据,以保证数据迁移后,源数据库和目标数据库的迁移对象的数据具有一致性。获取增量日志,对增量日志进行解析处理,获取增量数据,以保证实时、快速地进行数据迁移。将全量数据和增量数据确定为待迁移数据,将全量数据和增量数据确定为待迁移数据,以保证数据迁移的全面性。
作为一示例,如图5所示,步骤S403,即即获取增量日志,对增量日志进行解析处理,获取增量数据,包括:
S501:源服务节点向源数据库的服务器发送增量分析请求,以获取源数据库的服务器基于增量分析请求,反馈的增量日志。
其中,增量分析请求是用于获取增量日志的请求。
本实施例,通过获取增量日志,为后续的数据迁移提供技术基础。以源数据库为mysql为例,采用解析工具模拟mysql slave的交互协议,将自己伪装为mysql slave,向mysql master发送增量分析请求,以使mysql master向解析工具推送增量日志,为获取增量数据提供技术支持。
S502:触发解析工具,对增量日志进行解析,获取增量数据。
本实施例中,采用解析工具对增量日志进行解析,以将增量日志解析为源服务节点和目标服务节点可识别的增量数据,以保证数据迁移可顺利进行,实现自动化获取增量数据,提高数据处理效率。
本实施例所提供的数据迁移方法,源服务节点向源数据库的服务器发送增量分析请求,以获取源数据库的服务器基于增量分析请求,反馈的增量日志,为后续的数据迁移提供技术基础。触发解析工具,对增量日志进行解析,获取增量数据,以保证数据迁移可顺利进行,实现自动化获取增量数据,提高数据处理效率。
作为一示例,如图6所示,在步骤S104之后,即在目标服务节点接收待迁移数据之后,方法还包括:
S601:目标服务节点对待迁移数据进行数据校验,生成数据校验结果。
其中,待迁移数据包括迁移信息和迁移内容,迁移信息是与迁移内容相关的信息,例如,可以是迁移内容在源数据库中的IP地址、位点或者端口等。
校验结果是目标服务节点对待迁移数据对应的迁移信息进行数据校验所得到的结果。
当目标服务节点接收到待迁移数据时,则对待迁移数据的迁移信息和目标数据库中已经存储的源数据库标识对应的迁移信息进行校验对比,以便判断该迁移信息是否已经存储在目标数据库内,避免向目标服务节点发送重复数据。
S602:若校验结果为校验通过,则目标服务节将待迁移数据存储到目标数据库标识对应的目标数据库。
具体地,源服务节点向目标服务节点发送待迁移数据对应的迁移信息,当目标服务节点获取到迁移信息,则查询目标数据库是否存在与待迁移数据对应的迁移信息相同的信息,如果目标数据库不存在与待迁移数据对应的迁移信息相同的信息,则校验结果为校验通过,目标服务节将校验通过的待迁移数据发送给目标数据库,保证目标数据库中数据的唯一性,避免浪费资源;可以理解地,本实施例通过源服务节点和目标服务节点进行数据迁移,有利于保证目标数据库中的数据安全,避免入侵目标数据库主机,导致数据泄露的情况。如果目标数据库存在与待迁移数据对应的迁移信息相同的信息,则校验结果为校验不通过,则不向目标数据库发送待迁移数据,并将数据重复信息发送给源服务节点,以便用户了解数据迁移不成功的原因。
本实施例所提供的数据迁移方法,目标服务节点对待迁移数据进行数据校验,生成数据校验结果,若校验结果为校验通过,则目标服务节将待迁移数据存储到目标数据库标识对应的目标数据库,目标服务节将校验通过的待迁移数据发送给目标数据库,保证目标数据库中数据的唯一性,避免浪费资源。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
在一实施例中,提供一种数据迁移装置,该数据迁移装置与上述实施例中数据迁移方法一一对应。如图7所示,该数据迁移装置包括链路创建请求发送模块701、链路创建请求接收模块702、待迁移数据获取模块703和数据存储模块704。各功能模块详细说明如下:
链路创建请求发送模块701,用于源服务节点向管理节点发送链路创建请求,链路创建请求包括源数据库标识和目标数据库标识。
链路创建请求接收模块702,用于管理节点接收链路创建请求,确定与目标数据库标识对应的目标服务节点,创建源服务节点和目标服务节点之间的数据迁移链路。
待迁移数据获取模块703,用于源服务节点从源数据库标识对应的源数据库获取待迁移数据,将待迁移数据通过数据迁移链路发送目标服务节点。
数据存储模块704,用于目标服务节点接收待迁移数据,将待迁移数据存储到目标数据库标识对应的目标数据库。
优选地,链路创建请求发送模块701,包括:迁移权限请求发送单元、权限授权结果获取单元和链路创建请求发送单元。
迁移权限请求发送单元,源服务节点向管理节点发送迁移权限请求,迁移权限请求包括源数据库标识对应的源账号和源信息,以及目标数据库标识。
权限授权结果获取单元,用于管理节点将源账号和源信息发送给目标数据库标识对应的迁移服务节点,获取目标数据库标识对应的迁移服务节点对源账号和源信息进行权限校验生成的权限授权结果,并将权限授权结果发送给源服务节点。
链路创建请求发送单元,用于若权限授权结果为具有数据迁移权限,则源服务节点向管理节点发送链路创建请求。
优选地,链路创建请求接收模块702,包括:状态查询请求获取单元、目标服务节点确定单元和数据迁移链路创建单元。
状态查询请求获取单元,用于管理节点向目标数据库标识对应的迁移服务节点发送状态查询请求。
目标服务节点确定单元,用于获取迁移服务节点反馈的当前运行状态,将当前运行状态为空闲状态的迁移服务节点确定为目标服务节点。
数据迁移链路创建单元,用于创建数据迁移链路,并将数据迁移链路下发到源服务节点和目标服务节点。
优选地,待迁移数据获取模块703,包括:
数据迁移请求获取单元,用于获取数据迁移请求,数据迁移请求包括迁移对象。
初始化处理单元,用于对迁移对象进行初始化处理,获取迁移对象对应的全量数据。
增量日志获取单元,用于获取增量日志,对增量日志进行解析处理,获取增量数据。
待迁移数据确定单元,用于将全量数据和增量数据确定为待迁移数据。
优选地,即增量日志获取单元,包括:
增量分析请求发送子单元,用于源服务节点向源数据库的服务器发送增量分析请求,以获取源数据库的服务器基于增量分析请求,反馈的增量日志。
增量数据获取子单元,用于触发解析工具,对增量日志进行解析,获取增量数据。
优选地,在数据存储模块704之后,装置还包括:
数据校验单元,用于目标服务节点对待迁移数据进行数据校验,生成数据校验结果。
存储单元,用于若校验结果为校验通过,则目标服务节将待迁移数据存储到目标数据库标识对应的目标数据库。
关于数据迁移装置的具体限定可以参见上文中对于数据迁移方法的限定,在此不再赘述。上述数据迁移装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图8所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和系统数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和系统数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的系统数据库用于存储待迁移数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种数据迁移方法。
在一个实施例中,提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述实施例中数据迁移方法的步骤,例如图2所示的步骤S101-S104,或者图3至图6中所示的步骤,为避免重复,这里不再赘述。或者,处理器执行计算机程序时实现数据迁移装置这一实施例中的各模块/单元的功能,例如图7所示的链路创建请求发送模块701、链路创建请求接收模块702、待迁移数据获取模块703和数据存储模块704的功能,为避免重复,这里不再赘述。
在一实施例中,提供一计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中数据迁移方法的步骤,例如图2所示的步骤S101-S104,或者图3至图6中所示的步骤,为避免重复,这里不再赘述。或者,处理器执行计算机程序时实现数据迁移装置这一实施例中的各模块/单元的功能,例如图7所示的链路创建请求发送模块701、链路创建请求接收模块702、待迁移数据获取模块703和数据存储模块704的功能,为避免重复,这里不再赘述。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、系统数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种数据迁移方法,其特征在于,应用在分层网络系统上,所述分层网络系统包括管理节点、N个迁移服务节点和M个系统数据库,所述管理节点与N个迁移服务节点相连,每个所述系统数据库与至少一个所述迁移服务节点相连,所述数据迁移方法包括如下步骤:
源服务节点向所述管理节点发送链路创建请求,所述链路创建请求包括源数据库标识和目标数据库标识;
管理节点接收所述链路创建请求,确定与所述目标数据库标识对应的目标服务节点,创建所述源服务节点和所述目标服务节点之间的数据迁移链路;
源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,将所述待迁移数据通过所述数据迁移链路发送目标服务节点;
目标服务节点接收所述待迁移数据,将所述待迁移数据存储到所述目标数据库标识对应的目标数据库。
2.如权利要求1所述的数据迁移方法,其特征在于,所述源服务节点向所述管理节点发送链路创建请求,包括:
所述源服务节点向所述管理节点发送迁移权限请求,所述迁移权限请求包括所述源数据库标识对应的源账号和源信息,以及目标数据库标识;
所述管理节点将所述源账号和源信息发送给所述目标数据库标识对应的迁移服务节点,获取所述目标数据库标识对应的迁移服务节点对所述源账号和源信息进行权限校验生成的权限授权结果,并将所述权限授权结果发送给源服务节点;
若所述权限授权结果为具有数据迁移权限,则所述源服务节点向管理节点发送链路创建请求。
3.如权利要求1所述的数据迁移方法,其特征在于,所述确定与所述目标数据库标识对应的目标服务节点,包括:
所述管理节点向所述目标数据库标识对应的迁移服务节点发送状态查询请求;
获取所述迁移服务节点反馈的当前运行状态,将所述当前运行状态为空闲状态的迁移服务节点确定为目标服务节点;
创建数据迁移链路,并将所述数据迁移链路下发到所述源服务节点和所述目标服务节点。
4.如权利要求1所述的数据迁移方法,其特征在于,所述源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,包括:
获取数据迁移请求,所述数据迁移请求包括迁移对象;
对所述迁移对象进行初始化处理,获取迁移对象对应的全量数据;
获取增量日志,对所述增量日志进行解析处理,获取增量数据;
将所述全量数据和所述增量数据确定为待迁移数据。
5.如权利要求4所述的数据迁移方法,其特征在于,即所述获取增量日志,对所述增量日志进行解析处理,获取增量数据,包括:
所述源服务节点向所述源数据库的服务器发送增量分析请求,以获取所述源数据库的服务器基于所述增量分析请求,反馈的增量日志;
触发解析工具,对所述增量日志进行解析,获取增量数据。
6.如权利要求1所述的数据迁移方法,其特征在于,在所述目标服务节点接收所述待迁移数据之后,所述方法还包括:
所述目标服务节点对所述待迁移数据进行数据校验,生成数据校验结果;
若所述校验结果为校验通过,则所述目标服务节将所述待迁移数据存储到所述目标数据库标识对应的目标数据库。
7.一种数据迁移装置,其特征在于,包括:
链路创建请求发送模块,用于源服务节点向管理节点发送链路创建请求,所述链路创建请求包括源数据库标识和目标数据库标识;
链路创建请求接收模块,用于管理节点接收所述链路创建请求,确定与所述目标数据库标识对应的目标服务节点,创建所述源服务节点和所述目标服务节点之间的数据迁移链路;
待迁移数据获取模块,用于源服务节点从所述源数据库标识对应的源数据库获取待迁移数据,将所述待迁移数据通过所述数据迁移链路发送目标服务节点;
数据存储模块,用于目标服务节点接收所述待迁移数据,将所述待迁移数据存储到所述目标数据库标识对应的目标数据库。
8.如权利要求7所述的数据迁移装置,其特征在于,所述链路创建请求接收模块,包括:
迁移权限请求发送单元,所述源服务节点向所述管理节点发送迁移权限请求,所述迁移权限请求包括所述源数据库标识对应的源账号和源信息,以及目标数据库标识;
权限授权结果获取单元,用于所述管理节点将所述源账号和源信息发送给所述目标数据库标识对应的迁移服务节点,获取所述目标数据库标识对应的迁移服务节点对所述源账号和源信息进行权限校验生成的权限授权结果,并将所述权限授权结果发送给源服务节点;
链路创建请求发送单元,用于若所述权限授权结果为具有数据迁移权限,则所述源服务节点向管理节点发送链路创建请求。
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述数据迁移方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述数据迁移方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110738008.8A CN113342783A (zh) | 2021-06-30 | 2021-06-30 | 数据迁移方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110738008.8A CN113342783A (zh) | 2021-06-30 | 2021-06-30 | 数据迁移方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113342783A true CN113342783A (zh) | 2021-09-03 |
Family
ID=77481809
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110738008.8A Pending CN113342783A (zh) | 2021-06-30 | 2021-06-30 | 数据迁移方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113342783A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113515364A (zh) * | 2021-09-14 | 2021-10-19 | 腾讯科技(深圳)有限公司 | 一种数据迁移的方法及装置、计算机设备和存储介质 |
CN114116681A (zh) * | 2022-01-21 | 2022-03-01 | 阿里巴巴(中国)有限公司 | 数据迁移方法及装置 |
CN115048463A (zh) * | 2022-06-30 | 2022-09-13 | 北京瑞莱智慧科技有限公司 | 数据迁移方法、系统及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102970328A (zh) * | 2012-10-25 | 2013-03-13 | 国家电网公司 | 电力行业典型生产系统数据在线迁移方法 |
CN109067823A (zh) * | 2018-06-11 | 2018-12-21 | 中国平安人寿保险股份有限公司 | 一种数据迁移方法、装置、计算机设备及存储介质 |
US20190213175A1 (en) * | 2016-12-26 | 2019-07-11 | Tencent Technology (Shenzhen) Company Limited | Data migration method and system |
US20200104376A1 (en) * | 2018-09-28 | 2020-04-02 | Oracle International Corporation | Data Migration Using Customizable Database Consolidation Rules |
CN111459415A (zh) * | 2020-04-15 | 2020-07-28 | 腾讯科技(深圳)有限公司 | 跨云数据迁移方法、装置、设备及存储介质 |
CN112083889A (zh) * | 2020-09-14 | 2020-12-15 | 腾讯科技(深圳)有限公司 | 数据迁移方法、装置、设备及可读存储介质 |
CN112131208A (zh) * | 2020-10-09 | 2020-12-25 | 腾讯科技(深圳)有限公司 | 全量数据迁移方法、装置、设备及计算机可读存储介质 |
CN112363678A (zh) * | 2021-01-13 | 2021-02-12 | 北京东方通软件有限公司 | 一种基于消息中间件的数据迁移方法及系统 |
US20210149865A1 (en) * | 2019-11-18 | 2021-05-20 | International Business Machines Corporation | SEAMLESSLY MIGRATING DATA AND INDEX IN DISTRIBUTED NoSQL DATABASE SYSTEMS |
-
2021
- 2021-06-30 CN CN202110738008.8A patent/CN113342783A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102970328A (zh) * | 2012-10-25 | 2013-03-13 | 国家电网公司 | 电力行业典型生产系统数据在线迁移方法 |
US20190213175A1 (en) * | 2016-12-26 | 2019-07-11 | Tencent Technology (Shenzhen) Company Limited | Data migration method and system |
CN109067823A (zh) * | 2018-06-11 | 2018-12-21 | 中国平安人寿保险股份有限公司 | 一种数据迁移方法、装置、计算机设备及存储介质 |
US20200104376A1 (en) * | 2018-09-28 | 2020-04-02 | Oracle International Corporation | Data Migration Using Customizable Database Consolidation Rules |
US20210149865A1 (en) * | 2019-11-18 | 2021-05-20 | International Business Machines Corporation | SEAMLESSLY MIGRATING DATA AND INDEX IN DISTRIBUTED NoSQL DATABASE SYSTEMS |
CN111459415A (zh) * | 2020-04-15 | 2020-07-28 | 腾讯科技(深圳)有限公司 | 跨云数据迁移方法、装置、设备及存储介质 |
CN112083889A (zh) * | 2020-09-14 | 2020-12-15 | 腾讯科技(深圳)有限公司 | 数据迁移方法、装置、设备及可读存储介质 |
CN112131208A (zh) * | 2020-10-09 | 2020-12-25 | 腾讯科技(深圳)有限公司 | 全量数据迁移方法、装置、设备及计算机可读存储介质 |
CN112363678A (zh) * | 2021-01-13 | 2021-02-12 | 北京东方通软件有限公司 | 一种基于消息中间件的数据迁移方法及系统 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113515364A (zh) * | 2021-09-14 | 2021-10-19 | 腾讯科技(深圳)有限公司 | 一种数据迁移的方法及装置、计算机设备和存储介质 |
CN114116681A (zh) * | 2022-01-21 | 2022-03-01 | 阿里巴巴(中国)有限公司 | 数据迁移方法及装置 |
CN115048463A (zh) * | 2022-06-30 | 2022-09-13 | 北京瑞莱智慧科技有限公司 | 数据迁移方法、系统及存储介质 |
CN115048463B (zh) * | 2022-06-30 | 2023-06-06 | 北京瑞莱智慧科技有限公司 | 数据迁移方法、系统及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113342783A (zh) | 数据迁移方法、装置、计算机设备及存储介质 | |
CN110598446A (zh) | 基于区块链的测试方法、装置、存储介质和计算机设备 | |
CN110266764B (zh) | 基于网关的内部服务调用方法、装置及终端设备 | |
CN110535971B (zh) | 基于区块链的接口配置处理方法、装置、设备及存储介质 | |
CN110224855B (zh) | 微服务实例的注册方法、装置、计算机设备及存储介质 | |
CN110597541B (zh) | 基于区块链的接口更新处理方法、装置、设备及存储介质 | |
KR100926075B1 (ko) | 웹어플리케이션 서버를 통한 데이터베이스 접근 감시 장치 및 방법 | |
CN111061685B (zh) | 日志查询方法、装置、节点设备及存储介质 | |
CN111294356A (zh) | 基于区块链的组织节点上链方法和系统 | |
CN109118291B (zh) | 广告任务推广中用户认证方法、装置和计算机设备 | |
CN112651001A (zh) | 访问请求的鉴权方法、装置、设备及可读存储介质 | |
CN112953745A (zh) | 服务调用方法、系统、计算机设备和存储介质 | |
CN111260475A (zh) | 一种数据处理方法、区块链节点设备及存储介质 | |
CN110597820B (zh) | 基于区块链的信息处理方法、装置、存储介质和设备 | |
CN113949579B (zh) | 网站攻击防御方法、装置、计算机设备及存储介质 | |
CN113872990B (zh) | 基于ssl协议的vpn网络证书认证方法、装置和计算机设备 | |
CN109831521B (zh) | 缓存实例管理方法、装置、计算机设备和存储介质 | |
CN113194099B (zh) | 一种数据代理方法及代理服务器 | |
CN107645474B (zh) | 登录开放平台的方法及登录开放平台的装置 | |
CN112579997B (zh) | 一种用户权限配置方法、装置、计算机设备及存储介质 | |
CN114143090A (zh) | 基于网络安全架构的防火墙部署方法、装置、设备及介质 | |
CN110933022A (zh) | 区块处理方法、装置、计算机设备及存储介质 | |
CN110225511B (zh) | 终端imei号的获取方法、装置、系统和计算机设备 | |
CN110602051B (zh) | 基于共识协议的信息处理方法及相关装置 | |
CN109347766B (zh) | 一种资源调度的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210903 |