CN110287169A - 一种云应用之间的主数据迁移方法 - Google Patents
一种云应用之间的主数据迁移方法 Download PDFInfo
- Publication number
- CN110287169A CN110287169A CN201910574896.7A CN201910574896A CN110287169A CN 110287169 A CN110287169 A CN 110287169A CN 201910574896 A CN201910574896 A CN 201910574896A CN 110287169 A CN110287169 A CN 110287169A
- Authority
- CN
- China
- Prior art keywords
- master data
- migration
- recipient
- data
- def
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种云应用之间的主数据迁移方法,所述方法包括步骤1创建元素映射表;步骤2:创建主数据定义映射表,用于存储定义的映射关系,迁移方与接收方两边的主数据定义建立关系;步骤3:将步骤1所得的元素映射表、步骤2所得的主数据定义映射表和主数据定义表关联得到主数据定义元素映射表;步骤4:创建公司组织机构映射表;步骤5:根据步骤3、步骤4所得数据与已有主数据的主数据表关联得到接收方所需数据后进行迁移的同时得到主数据迁移记录表;步骤6:根据步骤3、步骤5与已有主数据的主数据详情表关联得到接收方所需数据后进行迁移。
Description
技术领域
本发明涉及互联网技术领域,具体的说,是一种云应用之间的主数据迁移方法。
背景技术
随着“互联网+”的提出,给予了企业充分的发挥,各类云管理平台就在这种指导下产生的。本专利采用数据迁移工具,以解决人工参与数据迁移的问题,以快速、自动、高可扩展性,一次实现多次运行的数据迁移方式。
针对小系统,相对的数据量会很小,不会思考其性能以及扩展性,也根本不会有数据迁移的烦恼。而因系统及数据不停的膨胀,系统的拆分与数据的迁移就势在必行,传统的迁移方法,是将接收方的配置性表拉到迁移方数据库中,再按照接收方数据表及数据格式的要求生成好数据,后手工将数据导出并导入到接收方,全程需要人工干预,繁杂及容易出错;现针对云应用的迁移与接收进行一次开发不限次运行的自动增量迁移脚本。
以上可看出,传统的数据迁移存在诸多不尽人意的地方,为了解决这些问题,采用数据迁移工具设计出一套流程变得犹为重要。
发明内容
本发明的目的在于提供一种云应用之间的主数据迁移方法,用于解决现有技术中数据迁移时,是将接收方的配置性表拉到迁移方数据库中,再按照接收方数据表及数据格式的要求生成好数据,后手工将数据导出并导入到接收方,全程需要人工干预,繁杂及容易出错的问题。
本发明通过下述技术方案解决上述问题:
一种云应用之间的主数据迁移方法,所述方法包括如下步骤:
步骤1:创建元素映射表,包括字段标识:迁移方元素所属元素库db_no、记录迁移方元素的ID o_ele_id、迁移方元素编码o_ele_code、记录接收方元素的ID n_ele_id,接收方元素编码n_ele_code;
步骤2:创建主数据定义映射表,用于存储定义的映射关系,迁移方与接收方两边的主数据定义建立关系包括字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义编码o_def_pcode、接收方主数据定义ID n_def_pid、接收方主数据定义编码n_def_pcode、主数据定义标识o_def_type、是否需要迁移is_mv;此处会用到主数据定义表,主数据定义表为已有的数据基础表,仅有两层的树型结构,第一层存储定义ID、定义编码与名称,第二层可引用多个元素,通过主数据定义表就可得到主数据定义映射表与元素映射表的对应关系;
步骤3:将步骤1所得的元素映射表、步骤2所得的主数据定义映射表和主数据定义表关联得到主数据定义元素映射表包含字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义元素ID o_def_cid、迁移方主数据定义元素所对应的元素ID o_ele_id、接收方主数据定义ID n_def_pid、接收方主数据定义元素ID n_def_cid和接收方主数据定义元素所对应的元素ID n_ele_id;根据接收方主数据定义ID n_def_pid、记录接收方元素的IDn_ele_id在接收方的主数据定义表中取出对应的主数据ID,组织好数据后保存到主数据定义元素映射表中;
步骤4:创建公司组织机构映射表,包括字段标识:迁移方租户IDtenant_id、迁移方租户编码tenant_code、迁移方公司IDcompany_id、company_code迁移方公司编码、迁移方主数据管理IDcsc_manage_id、接收方组织机构租户级别编码org_tenant_code、接收方组织机构公司级别IDmdm_org_3_id、接收方组织机构公司级别编码org_company_code、接收方主数据管理IDmdm_mange_id及是否需要执行迁移exe_flag;
步骤5:根据步骤3、步骤4所得数据与已有主数据的主数据表关联得到接收方所需数据后进行迁移的同时得到主数据迁移记录表,包括字段标识:主数据的唯一标识字段uuid、迁移方的主数据ID o_hot_info_id、接收方的主数据ID n_hot_info_id、接收方主数据定义ID n_def_pid、接收方主数据管理唯一标识ID mdm_mange_id、主数据定义标识o_def_type和迁移标志o_info_flag;
步骤6:根据步骤3、步骤5与已有主数据的主数据详情表关联得到接收方所需数据后进行迁移,同时将步骤5中迁移标志o_info_flag=0更改为迁移标志o_info_flag=1,从而完成主数据的迁移。
通过本方法,可以手动将需要迁移的数据进行标记之后,数据会自动完成迁移,不再需要人工进行手动数据迁移,并且很好的节约了现有技术在数据迁移时,是将接收方的配置性表拉到迁移方数据库中,再按照接收方数据表及数据格式的要求生成好数据,后手工将数据导出并导入到接收方,全程需要人工干预,繁杂及容易出错的问题。
优选地,所述主数据的唯一标识字段uuid,不管是迁移方还是接收方都保持一致。
优选地,所述方法通过Kettle脚本编程运行可实现主数据的自动迁移。
优选地,所述Kettle的运行条件为系统中安装相应的Java JDK并配置好环境变量。
本发明与现有技术相比,具有以下优点及有益效果:
(1)本发明可以手动将需要迁移的数据进行标记之后,数据会自动完成迁移,不再需要人工进行手动数据迁移,并且很好的节约了现有技术在数据迁移时,是将接收方的配置性表拉到迁移方数据库中,再按照接收方数据表及数据格式的要求生成好数据,后手工将数据导出并导入到接收方,全程需要人工干预,繁杂及容易出错的问题。
附图说明
图1为本发明的主数据映射关系示意图;
图2为本发明的主数据迁移流程示意图;
图3为本发明的主数据详情迁移流程示意图。
具体实施方式
下面结合实施例对本发明作进一步地详细说明,但本发明的实施方式不限于此。
实施例1:
一种云应用之间的主数据迁移方法,首先在计算机系统中安装Java JDK及Kettle,将Kettle脚本放至Kettle所在服务器,并配置好Kettle运行环境,可调置为系统任务或直接执行,数据就自动增量迁移到接收方后开始进行数据迁移,步骤如下:
结合附图1-3所示,步骤1:创建元素映射表,包括字段标识:迁移方元素所属元素库db_no、记录迁移方元素的ID o_ele_id、迁移方元素编码o_ele_code、记录接收方元素的ID n_ele_id,接收方元素编码n_ele_code,如下表:
db_no | o_ele_id | o_ele_code | n_ele_id | n_ele_code |
2 | 687 | 500000 | 1771 | Ele010000867 |
1 | 261 | 013501 | 651 | Ele003000311 |
步骤2:创建主数据定义映射表,用于存储定义的映射关系,迁移方与接收方两边的主数据定义建立关系,包括字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义编码o_def_pcode、接收方主数据定义ID n_def_pid、接收方主数据定义编码n_def_pcode、主数据定义标识o_def_type、是否需要迁移is_mv;此处会用到主数据定义表,主数据定义表为已有的数据基础表,仅有两层的树型结构,第一层存储定义ID、定义编码与名称,第二层可引用多个元素,通过主数据定义表就可得到主数据定义映射表与元素映射表的对应关系;主数据定义映射表如下表所示:
o_def_pid | o_def_pcode | n_def_pid | n_def_pcode | o_def_type | is_mv |
51 | F002 | 845 | F000078 | 1 | 0 |
735 | F026 | 125 | F000011 | 1 | 1 |
步骤3:将步骤1所得的元素映射表、步骤2所得的主数据定义映射表和主数据定义表关联得到主数据定义元素映射表包含字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义元素ID o_def_cid、迁移方主数据定义元素所对应的元素ID o_ele_id、接收方主数据定义ID n_def_pid、接收方主数据定义元素ID n_def_cid和接收方主数据定义元素所对应的元素ID n_ele_id;根据接收方主数据定义ID n_def_pid、记录接收方元素的IDn_ele_id在接收方的主数据定义表中取出对应的主数据ID,组织好数据后保存到主数据定义元素映射表中;主数据定义元素映射表如下:
o_def_pid | o_def_cid | o_ele_id | n_def_pid | n_def_cid | n_ele_id |
51 | 57 | 29 | 43 | 51 | 75 |
125 | 217 | 29 | 421 | 451 | 75 |
步骤4:创建公司组织机构映射表,包括字段标识:迁移方租户IDtenant_id、迁移方租户编码tenant_code、迁移方公司IDcompany_id、company_code迁移方公司编码、迁移方主数据管理IDcsc_manage_id、接收方组织机构租户级别编码org_tenant_code、接收方组织机构公司级别IDmdm_org_3_id、接收方组织机构公司级别编码org_company_code、接收方主数据管理IDmdm_mange_id及是否需要执行迁移exe_flag,如下表所示:
步骤5:根据步骤3、步骤4所得数据与已有主数据的主数据表关联得到接收方所需数据后进行迁移的同时得到主数据迁移记录表,包括字段标识:主数据的唯一标识字段uuid、迁移方的主数据ID o_hot_info_id、接收方的主数据ID n_hot_info_id、接收方主数据定义ID n_def_pid、接收方主数据管理唯一标识ID mdm_mange_id、主数据定义标识o_def_type和迁移标志o_info_flag;如下表所示:
步骤6:根据步骤3、步骤5与已有主数据的主数据详情表关联得到接收方所需数据后进行迁移,同时将步骤5中迁移标志o_info_flag=0更改为迁移标志o_info_flag=1,从而完成主数据的迁移。
尽管这里参照本发明的解释性实施例对本发明进行了描述,上述实施例仅为本发明较佳的实施方式,本发明的实施方式并不受上述实施例的限制,应该理解,本领域技术人员可以设计出很多其他的修改和实施方式,这些修改和实施方式将落在本申请公开的原则范围和精神之内。
Claims (4)
1.一种云应用之间的主数据迁移方法,其特征在于,所述方法包括如下步骤:
步骤1:创建元素映射表,包括字段标识:迁移方元素所属元素库db_no、记录迁移方元素的ID o_ele_id、迁移方元素编码o_ele_code、记录接收方元素的ID n_ele_id,接收方元素编码n_ele_code;
步骤2:创建主数据定义映射表,用于存储定义的映射关系,迁移方与接收方两边的主数据定义建立关系包括字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义编码o_def_pcode、接收方主数据定义ID n_def_pid、接收方主数据定义编码n_def_pcode、主数据定义标识o_def_type、是否需要迁移is_mv;
步骤3:将步骤1所得的元素映射表、步骤2所得的主数据定义映射表和主数据定义表关联得到主数据定义元素映射表包含字段标识:迁移方主数据定义ID o_def_pid、迁移方主数据定义元素ID o_def_cid、迁移方主数据定义元素所对应的元素ID o_ele_id、接收方主数据定义ID n_def_pid、接收方主数据定义元素ID n_def_cid和接收方主数据定义元素所对应的元素ID n_ele_id;根据接收方主数据定义ID n_def_pid、记录接收方元素的ID n_ele_id在接收方的主数据定义表中取出对应的主数据ID,组织好数据后保存到主数据定义元素映射表中;
步骤4:创建公司组织机构映射表,包括字段标识:迁移方租户IDtenant_id、迁移方租户编码tenant_code、迁移方公司IDcompany_id、company_code迁移方公司编码、迁移方主数据管理IDcsc_manage_id、接收方组织机构租户级别编码org_tenant_code、接收方组织机构公司级别IDmdm_org_3_id、接收方组织机构公司级别编码org_company_code、接收方主数据管理IDmdm_mange_id及是否需要执行迁移exe_flag;
步骤5:根据步骤3、步骤4所得数据与已有主数据的主数据表关联得到接收方所需数据后进行迁移的同时得到主数据迁移记录表,包括字段标识:主数据的唯一标识字段uuid、迁移方的主数据ID o_hot_info_id、接收方的主数据ID n_hot_info_id、接收方主数据定义ID n_def_pid、接收方主数据管理唯一标识ID mdm_mange_id、主数据定义标识o_def_type和迁移标志o_info_flag;
步骤6:根据步骤3、步骤5与已有主数据的主数据详情表关联得到接收方所需数据后进行迁移,同时将步骤5中迁移标志o_info_flag=0更改为迁移标志o_info_flag=1,从而完成主数据的迁移。
2.根据权利要求1所述的云应用之间的主数据迁移方法,其特征在于:所述主数据的唯一标识字段uuid,不管是迁移方还是接收方都保持一致。
3.根据权利要求1所述的云应用之间的主数据迁移方法,其特征在于:所述方法通过Kettle脚本编程运行可实现主数据的自动迁移。
4.根据权利要求3所述的云应用之间的主数据迁移方法,其特征在于:所述Kettle的运行条件为系统中安装相应的Java JDK并配置好环境变量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910574896.7A CN110287169B (zh) | 2019-06-28 | 2019-06-28 | 一种云应用之间的主数据迁移方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910574896.7A CN110287169B (zh) | 2019-06-28 | 2019-06-28 | 一种云应用之间的主数据迁移方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110287169A true CN110287169A (zh) | 2019-09-27 |
CN110287169B CN110287169B (zh) | 2022-02-01 |
Family
ID=68019582
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910574896.7A Active CN110287169B (zh) | 2019-06-28 | 2019-06-28 | 一种云应用之间的主数据迁移方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110287169B (zh) |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130104251A1 (en) * | 2005-02-01 | 2013-04-25 | Newsilike Media Group, Inc. | Security systems and methods for use with structured and unstructured data |
CN103412897A (zh) * | 2013-07-25 | 2013-11-27 | 中国科学院软件研究所 | 一种基于分布式结构的并行数据处理方法 |
CN103685368A (zh) * | 2012-09-10 | 2014-03-26 | 中国电信股份有限公司 | 用于迁移数据的方法及系统 |
US9027024B2 (en) * | 2012-05-09 | 2015-05-05 | Rackspace Us, Inc. | Market-based virtual machine allocation |
CN104754001A (zh) * | 2013-12-30 | 2015-07-01 | 方正宽带网络服务股份有限公司 | 云存储系统和数据存储方法 |
CN104780109A (zh) * | 2015-04-27 | 2015-07-15 | 杭州华三通信技术有限公司 | 虚拟机迁移方法及装置 |
US9128942B1 (en) * | 2010-12-24 | 2015-09-08 | Netapp, Inc. | On-demand operations |
CN104954242A (zh) * | 2014-03-26 | 2015-09-30 | 洛克威尔自动控制技术股份有限公司 | 用于将工业数据迁移至云平台的统一数据摄取适配器 |
CN105208048A (zh) * | 2014-05-30 | 2015-12-30 | 株式会社日立制作所 | 全局迁移管理器、网关、虚拟机迁移系统及其方法 |
CN105488079A (zh) * | 2014-10-11 | 2016-04-13 | 苏州精易会信息技术有限公司 | 处理多租户数据的方法 |
CN105488139A (zh) * | 2015-11-25 | 2016-04-13 | 国电南瑞科技股份有限公司 | 基于用电信息采集系统的跨平台存储数据迁移的方法 |
CN107122364A (zh) * | 2016-02-25 | 2017-09-01 | 华为技术有限公司 | 数据操作方法和数据管理服务器 |
CN107357930A (zh) * | 2017-07-27 | 2017-11-17 | 深圳易嘉恩科技有限公司 | 云账坊平台租户数据表结构 |
US20180101436A1 (en) * | 2015-01-30 | 2018-04-12 | International Business Machines Corporation | Bundled writes in a distributed storage system |
CN109284281A (zh) * | 2018-09-10 | 2019-01-29 | 北京百度网讯科技有限公司 | 用于迁移数据的方法和装置 |
CN109324758A (zh) * | 2018-08-24 | 2019-02-12 | 华为技术有限公司 | 数据迁移方法、装置及存储设备 |
-
2019
- 2019-06-28 CN CN201910574896.7A patent/CN110287169B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130104251A1 (en) * | 2005-02-01 | 2013-04-25 | Newsilike Media Group, Inc. | Security systems and methods for use with structured and unstructured data |
US9128942B1 (en) * | 2010-12-24 | 2015-09-08 | Netapp, Inc. | On-demand operations |
US9027024B2 (en) * | 2012-05-09 | 2015-05-05 | Rackspace Us, Inc. | Market-based virtual machine allocation |
CN103685368A (zh) * | 2012-09-10 | 2014-03-26 | 中国电信股份有限公司 | 用于迁移数据的方法及系统 |
CN103412897A (zh) * | 2013-07-25 | 2013-11-27 | 中国科学院软件研究所 | 一种基于分布式结构的并行数据处理方法 |
CN104754001A (zh) * | 2013-12-30 | 2015-07-01 | 方正宽带网络服务股份有限公司 | 云存储系统和数据存储方法 |
CN104954242A (zh) * | 2014-03-26 | 2015-09-30 | 洛克威尔自动控制技术股份有限公司 | 用于将工业数据迁移至云平台的统一数据摄取适配器 |
CN105208048A (zh) * | 2014-05-30 | 2015-12-30 | 株式会社日立制作所 | 全局迁移管理器、网关、虚拟机迁移系统及其方法 |
CN105488079A (zh) * | 2014-10-11 | 2016-04-13 | 苏州精易会信息技术有限公司 | 处理多租户数据的方法 |
US20180101436A1 (en) * | 2015-01-30 | 2018-04-12 | International Business Machines Corporation | Bundled writes in a distributed storage system |
CN104780109A (zh) * | 2015-04-27 | 2015-07-15 | 杭州华三通信技术有限公司 | 虚拟机迁移方法及装置 |
CN105488139A (zh) * | 2015-11-25 | 2016-04-13 | 国电南瑞科技股份有限公司 | 基于用电信息采集系统的跨平台存储数据迁移的方法 |
CN107122364A (zh) * | 2016-02-25 | 2017-09-01 | 华为技术有限公司 | 数据操作方法和数据管理服务器 |
CN107357930A (zh) * | 2017-07-27 | 2017-11-17 | 深圳易嘉恩科技有限公司 | 云账坊平台租户数据表结构 |
CN109324758A (zh) * | 2018-08-24 | 2019-02-12 | 华为技术有限公司 | 数据迁移方法、装置及存储设备 |
CN109284281A (zh) * | 2018-09-10 | 2019-01-29 | 北京百度网讯科技有限公司 | 用于迁移数据的方法和装置 |
Non-Patent Citations (2)
Title |
---|
ANKIT DHAMIJA 等: ""A Novel Cryptographic and Steganographic"", 《2015 INTERNATIONAL CONFERENCE ON GREEN COMPUTING AND INTERNET OF THINGS》 * |
任晓君 等: ""云中SaaS应用的多租户数据动态迁移策略"", 《计算机工程与科学》 * |
Also Published As
Publication number | Publication date |
---|---|
CN110287169B (zh) | 2022-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108647883B (zh) | 一种业务审批方法、装置、设备及介质 | |
US11468103B2 (en) | Relational modeler and renderer for non-relational data | |
US10157195B1 (en) | External system integration into automated attribute discovery | |
US11528194B2 (en) | Enterprise control plane for data streaming service | |
US9563650B2 (en) | Migrating federated data to multi-source universe database environment | |
CN105144080A (zh) | 用于元数据管理的系统 | |
CN101409717B (zh) | 协议无关的soa系统和业务处理方法 | |
CN109194704A (zh) | 一种b/s端三维模型数据存储方法、装置及存储介质 | |
CN112487075B (zh) | 一种集成关系型和非关系型数据库数据转换算子的方法 | |
CN106681698A (zh) | 动态列表的生成方法及装置 | |
CN101256486A (zh) | 一种面向组件的自定义业务系统的方法 | |
CN104573079A (zh) | 智能图像文件上传管理方法 | |
CN116627448A (zh) | 一种创建微服务的方法及相关设备 | |
CN104052626A (zh) | 配置网元数据的方法、装置和系统 | |
CN111163149B (zh) | 一种基于区块链的智能合约平台方法 | |
CN104298761A (zh) | 一种异构软件系统间主数据匹配的实现方法 | |
CN109189849B (zh) | 一种标准化、流程化的数据录入方法和系统 | |
CN109992585A (zh) | 用于办公管理系统的数据导入方法 | |
CN110287169A (zh) | 一种云应用之间的主数据迁移方法 | |
AU2005201889A1 (en) | Xparts-schematized data wrapper | |
CN106209936A (zh) | 第三方系统数据获取方法和装置 | |
CN109783477B (zh) | 一种数据更新方法 | |
Yangxuan et al. | Influence of virtual reality and 3D printing on architectural innovation evaluation based on quality of experience evaluation using fuzzy logic | |
CN111984648A (zh) | 一种微服务架构下数据初始化方法及系统 | |
Foucaut et al. | Concepts for design of an information system conceptual schema and its utilization in the Remora project |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |