CN112818020A - 一种数据集成方法和装置 - Google Patents
一种数据集成方法和装置 Download PDFInfo
- Publication number
- CN112818020A CN112818020A CN202110161511.1A CN202110161511A CN112818020A CN 112818020 A CN112818020 A CN 112818020A CN 202110161511 A CN202110161511 A CN 202110161511A CN 112818020 A CN112818020 A CN 112818020A
- Authority
- CN
- China
- Prior art keywords
- data
- unique identification
- integration
- source system
- target system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010354 integration Effects 0.000 title claims abstract description 232
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000013507 mapping Methods 0.000 claims abstract description 199
- 230000008569 process Effects 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 12
- 230000003111 delayed effect Effects 0.000 abstract description 4
- 238000013506 data mapping Methods 0.000 description 14
- 238000009434 installation Methods 0.000 description 12
- 238000007726 management method Methods 0.000 description 9
- 230000006872 improvement Effects 0.000 description 8
- 230000007812 deficiency Effects 0.000 description 6
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 230000008520 organization Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2291—User-Defined Types; Storage management thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种数据集成方法和装置,属于大数据技术领域,解决现有批量数据集成失败,效率低、工作量大而且会影响数据集成的时效性造成业务数据发生严重延后的问题。方法包括将源系统中的关联数据结构批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据;当没有查询到源系统的部分唯一标识数据时,确定批量集成失败以确定缺失集成失败数据的映射;调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录目标系统的部分唯一标识数据;在映射表中添加集成失败数据的映射关系数据;将集成失败数据再次集成并更新至目标系统中。实现了避免人工反复操作,提升数据集成时效性。
Description
技术领域
本申请涉及大数据技术领域,尤其涉及一种数据集成方法和装置。
背景技术
企业在信息化发展过程中,由于各业务系统的建设时间和建设要求不一样,会导致企业内存在多个异构系统,为了解决信息孤岛等问题,两个或多个系统间需要进行数据集成来实现数据同源共享。
在两个或多个系统间进行业务数据集成时,由于单个系统在研发过程中会采用不同的标识或定义来标识同一个业务含义,如:实际业务中一张“差旅费报销单”(需关联“经办部门”信息),在A系统中数据结构和业务定义如下:
表1:“差旅费报销单”数据结构
报销单ID | 单据编号 | 制单日期 | 经办人部门 | …… | 报销金额 |
100001 | A_CLF00001 | 2020-5-25 | A_BM00001 | …… | 1000 |
100002 | A_CLF00002 | 2020-5-25 | A_BM00001 | …… | 1000 |
100003 | A_CLF00003 | 2020-5-25 | A_BM00002 | …… | 1000 |
…… | …… | …… | …… | …… | …… |
表2:“经办部门”数据结构
部门ID | 部门编号 | 部门名称 | …… | 成立时间 |
100001 | A_BM00001 | 财务部 | …… | 1990-5-1 |
100002 | A_BM00002 | 行政事务部 | …… | 1990-5-1 |
100003 | A_BM00003 | 人力资源部 | …… | 1990-5-1 |
…… | …… | …… | …… | …… |
在B系统中数据结构和业务定义如下:
表3:“差旅费报销单”数据结构
表4:“经办部门”数据结构
那么在进行“差旅费报销单”信息传递前,需要先进行“经办部门”信息的传递并自动生成两个系统的经办部门映射关系【以下简称“映射1”】(A系统的“A_BM00001”对应B系统的“B_BM00001”;A系统的“A_BM00002”对应B系统的“B_BM00002”;A系统的“A_BM00003”对应B系统的“B_BM00003”,等等,该信息在“经办部门”数据集成时自动生成),才能使“差旅费报销单”信息集成成功。
那么在业务数据集成过程中,需要先把基础数据集成完成后才能进行业务数据的集成,而且多条集成业务数据可能会用到同一条映射,如:6000(或更多)条“差旅费报销单”数据集成都需要用到“映射1”中的同一条映射关系(A系统的“A_BM00001”对应B系统的“B_BM00001”)数据才能集成成功。当这条映射数据在基础数据没有进行同步映射缺失的情况下会影响到多条的数据集成,传递模式下程序会报错(映射缺失或映射不存在)出现批量数据集成失败,当把这条基础数据同步完成添加映射后,传统模式下还需要对所有失败数据依次进行再次集成,不仅效率较低、工作量大,而且会影响数据集成的时效性造成业务数据发生严重延后。
发明内容
鉴于上述的分析,本申请实施例旨在提供一种数据集成方法和装置,用以解决现有批量数据集成失败,不仅效率较低、工作量大而且会影响数据集成的时效性造成业务数据发生严重延后的问题。
一方面,本申请实施例提供了一种数据集成方法,包括:将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据;当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射,其中,所述集成失败数据是在所述批量集成过程中未被集成的数据并具有所述源系统的部分唯一标识数据;调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据;在所述映射表中添加所述集成失败数据的映射关系数据;以及根据所述映射表中添加的所述集成失败数据的映射关系数据,将所述集成失败数据再次集成并更新至所述目标系统中。
上述技术方案的有益效果如下:根据本申请实施例所提供的数据集成方法可实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。
基于上述方法的进一步改进,将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据进一步包括:将源系统中的关联数据结构基于所述源系统的多个唯一标识数据批量集成并传送至所述目标系统中,其中,所述关联数据结构包括关联的第一数据结构和第二数据结构;从所述源系统的关联数据结构中获取每条数据的唯一标识数据;将获取的每条数据的唯一标识数据与所述映射表中的每个唯一标识数据进行比较;根据比较结果是否相同,确定所述获取的每条数据的唯一标识数据是否存在于所述映射表中,其中,所述关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和所述第二数据结构中对应的一条数据,以及所述源系统的多个唯一标识数据是所述第一数据结构和所述第二数据结构中的共有数据。
基于上述方法的进一步改进,当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射进一步包括:当比较结果不相同时,确定在所述映射表中没有所述源系统的部分唯一标识数据;以及确定所述批量集成失败使得所述源系统中的集成失败数据没有集成到所述目标系统中,以确定缺失所述集成失败数据的映射并且不进行报错处理。
基于上述方法的进一步改进,调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据进一步包括:在所述目标系统中增加所述基础数据唯一标识接口;将所述源系统的部分唯一标识数据作为所述基础数据唯一标识接口的参数并记录在所述目标系统中;以及在所述目标系统中作为更新的源系统的部分唯一标识数据生成并记录与所述集成失败数据相对应的所述目标系统的部分唯一标识数据。
基于上述方法的进一步改进,在所述映射表中添加所述集成失败数据的映射关系数据进一步包括:在记录所述源系统的部分唯一标识数据和所述目标系统的部分唯一标识数据之后,在所述映射表中自动生成所述集成失败数据的映射关系数据,其中,所述映射关系数据包括映射ID、映射类型、源系统标识、所述源系统的部分唯一标识数据、目标系统标识和所述目标系统的部分唯一标识数据。
基于上述方法的进一步改进,根据所述源系统的部分唯一标识数据,将所述集成失败数据更新至所述目标系统中进一步包括:在将所述集成失败数据更新到所述目标系统的过程中,根据所述映射表中添加的所述集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统中;将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中。
另一方面,本申请实施例提供了一种数据集成装置,包括:查询模块,用于在将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据;判断模块,用于当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射,其中,所述集成失败数据是在所述批量集成过程中未被集成的数据并具有所述源系统的部分唯一标识数据;调用模块,用于调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据;映射表更新模块,用于在所述映射表中添加所述集成失败数据的映射关系数据;以及数据更新模块,用于根据所述映射表中添加的所述集成失败数据的映射关系数据,将所述集成失败数据再次集成并更新至所述目标系统中。
基于上述装置的进一步改进,所述查询模块进一步包括:接收子模块,用于从所述源系统的关联数据结构中获取每条数据的唯一标识数据;比较子模块,用于将获取的每条数据的唯一标识数据与所述映射表中的每个唯一标识数据进行比较,根据比较结果是否相同,确定所述获取的每条数据的唯一标识数据是否存在于所述映射表中,其中,所述关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和所述第二数据结构中对应的一条数据,以及所述源系统的多个唯一标识数据是所述第一数据结构和所述第二数据结构中的共有数据。
基于上述装置的进一步改进,所述判断模块用于:当比较结果不相同时,确定在所述映射表中没有所述源系统的部分唯一标识数据;以及确定所述批量集成失败使得所述源系统中的集成失败数据没有集成到所述目标系统中,以确定缺失所述集成失败数据的映射并且不进行报错处理。
基于上述装置的进一步改进,所述调用模块还用于在所述目标系统中增加所述基础数据唯一标识接口;将所述源系统的部分唯一标识数据作为所述基础数据唯一标识接口的参数并记录在所述目标系统中;以及在所述目标系统中作为更新的源系统的部分唯一标识数据生成并记录与所述集成失败数据相对应的所述目标系统的部分唯一标识数据;所述映射表更新模块还用于在记录所述源系统的部分唯一标识数据和所述目标系统的部分唯一标识数据之后,在所述映射表中自动生成所述集成失败数据的映射关系数据,其中,所述映射关系数据包括映射ID、映射类型、源系统标识、所述源系统的部分唯一标识数据、目标系统标识和所述目标系统的部分唯一标识数据;以及所述数据更新模块还用于在将所述集成失败数据更新到所述目标系统的过程中,根据所述映射表中添加的所述集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统中;将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中。
与现有技术相比,本申请至少可实现如下有益效果之一:
1、数据集成方法可实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。
2、通过调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据,从而能够在映射表中添加集成失败数据的映射关系数据,然后根据源系统的部分唯一标识数据,将集成失败数据更新至目标系统中。
3、在将集成失败数据更新到目标系统的过程中,将集成失败数据中除源系统的唯一标识数据和目标系统的唯一标识数据之外的其他数据根据源系统的唯一标识数据进行更新并传送至目标系统中。
本申请中,上述各技术方案之间还可以相互组合,以实现更多的优选组合方案。本申请的其他特征和优点将在随后的说明书中阐述,并且,部分优点可从说明书中变得显而易见,或者通过实施本申请而了解。本申请的目的和其他优点可通过说明书以及附图中所特别指出的内容中来实现和获得。
附图说明
附图仅用于示出具体实施例的目的,而并不认为是对本申请的限制,在整个附图中,相同的参考符号表示相同的部件。
图1为根据本申请实施例的数据集成方法的流程图。
图2为根据本申请的具体实例的数据集成方法的流程图。
图3为根据本申请实施例的数据集成装置的框图。
具体实施方式
下面结合附图来具体描述本申请的优选实施例,其中,附图构成本申请一部分,并与本申请的实施例一起用于阐释本申请的原理,并非用于限定本申请的范围。
本申请的一个具体实施例,公开了一种数据集成方法。参考图1,数据集成方法,包括:步骤S102,将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据;步骤S104,当没有查询到源系统的多个唯一标识数据中的部分唯一标识数据时,确定批量集成失败以确定缺失集成失败数据的映射,其中,集成失败数据是在批量集成过程中未被集成的数据并具有源系统的部分唯一标识数据;步骤S106,调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据;步骤S108,在映射表中添加集成失败数据的映射关系数据;以及步骤S110,根据映射表中添加的集成失败数据的映射关系数据,将集成失败数据再次集成并更新至目标系统中。
与现有技术相比,本实施例提供的数据集成方法可实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。
下文中,将参考图1,对数据集成方法中的以上各个步骤进行详细描述。待集成数据(即,下文中的第一数据结构和第二数据结构)为结构化数据,但是当待集成数据为非结构化数据时,在将非结构化数据转换为结构化数据以后,待集成数据可以利用数据集成方法进行集成。
步骤S102,将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据。具体地,步骤S102进一步包括:将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成并传送至目标系统中,其中,关联数据结构包括关联的第一数据结构和第二数据结构。例如,关联的第一数据结构(例如,差率费报销单)和第二数据结构(例如,经办部门)处于源系统中。源系统的多个唯一标识数据是第一数据结构和第二数据结构中的共有数据。例如,部门编号是“差率费报销单”数据结构和“经办部门”数据结构中的共有数据。从源系统的关联数据结构中获取每条数据的唯一标识数据,在实施例中,关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和第二数据结构中对应的一条数据。将获取的每条数据的唯一标识数据与映射表中的每个唯一标识数据进行比较;根据比较结果是否相同,确定获取的每条数据的唯一标识数据是否存在于映射表中。
步骤S104,当没有查询到源系统的多个唯一标识数据中的部分唯一标识数据时,确定批量集成失败以确定缺失集成失败数据的映射,其中,集成失败数据是在批量集成过程中未被集成的数据并具有源系统的部分唯一标识数据。步骤S104进一步包括:当比较结果不相同时,确定在映射表中没有源系统的部分唯一标识数据。例如,源系统的部分唯一标识数据包括源系统的一个唯一标识数据或多个唯一标识数据中的一部分唯一标识数据。确定批量集成失败使得源系统中的集成失败数据没有集成到目标系统中,以确定缺失集成失败数据的映射并且不进行报错处理。在实施例中,集成失败数据是在批量集成过程中未被集成的数据并且具有源系统的部分唯一标识数据。在实施例中,批量集成失败的原因包括:系统问题或源数据更新。例如,系统问题包括源系统故障、目标系统故障或者源系统与目标系统通信故障均会导致批量集成失败。例如,源数据更新为随着时间的推移,源系统中的关联数据结构被更新而导致批量集成失败。
步骤S106,调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据。步骤S106进一步包括:在目标系统中增加基础数据唯一标识接口;将源系统的部分唯一标识数据作为基础数据唯一标识接口的参数并记录在目标系统中以能够在目标系统中进行占位(参考表1-9中的A_BM00003和A_BM00004);以及在目标系统中作为更新的源系统的部分唯一标识数据生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据(参考表1-9中的B_BM00003和B_BM00004)以能够在目标系统中进行占位。
步骤S108,在映射表中添加集成失败数据的映射关系数据。步骤S108进一步包括:在记录源系统的部分唯一标识数据和目标系统的部分唯一标识数据之后,在映射表中自动生成集成失败数据的映射关系数据,其中,映射关系数据包括映射ID、映射类型、源系统标识(例如,参考表1-10中的A系统)、源系统的部分唯一标识数据(例如,参考表1-10中的A_EQM00003和A_EQM00004)、目标系统标识(例如,参考表1-10中的B系统)和目标系统的部分唯一标识数据(例如,参考表1-10中的B_EQM00003和B_EQM00004)。由于在目标系统中已经存在源系统的部分唯一标识数据和目标系统的部分唯一标识数据,所以能够在映射表中自动生成集成失败数据的映射关系数据。
步骤S110,根据映射表中添加的集成失败数据的映射关系数据,将集成失败数据再次集成并更新至目标系统中。步骤S110进一步包括:在将集成失败数据更新到目标系统的过程中,根据映射表中添加的集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统中;将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中。
本申请的一个具体实施例,公开了一种数据集成装置。参考图3,数据集成装置包括:查询模块302、判断模块304、调用模块306、映射表更新模块308和数据更新模块310。下文中,将对数据集成装置的各个模块进行详细描述。
查询模块302用于在将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据。查询模块302进一步包括接收子模块和比较子模块。接收子模块用于从源系统的关联数据结构中获取每条数据的唯一标识数据。比较子模块用于将获取的每条数据的唯一标识数据与映射表中的每个唯一标识数据进行比较,根据比较结果是否相同,确定获取的每条数据的唯一标识数据是否存在于映射表中,其中,关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和第二数据结构中对应的一条数据,以及源系统的多个唯一标识数据是第一数据结构和第二数据结构中的共有数据。例如,表1-6与表1-7中的多个唯一标识数据(A_BM00001、A_BM00002、A_BM00003和A_BM00004)是相关联的第一数据结构和第二数据结构中的共有数据。
判断模块304用于当没有查询到源系统的多个唯一标识数据中的部分唯一标识数据时,确定批量集成失败以确定缺失集成失败数据的映射,其中,集成失败数据是在批量集成过程中未被集成的数据并具有源系统的部分唯一标识数据。判断模块304用于当比较结果不相同时,确定在映射表中没有源系统的部分唯一标识数据;以及确定批量集成失败使得源系统中的集成失败数据没有集成到目标系统中,以确定缺失集成失败数据的映射并且不进行报错处理。
调用模块306用于调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据。调用模块306还用于在目标系统中增加基础数据唯一标识接口;将源系统的部分唯一标识数据作为基础数据唯一标识接口的参数并记录在目标系统中;以及在目标系统中作为更新的源系统的部分唯一标识数据生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据。
映射表更新模块308用于在映射表中添加集成失败数据的映射关系数据。映射表更新模块308还用于在记录源系统的部分唯一标识数据和目标系统的部分唯一标识数据之后,在映射表中自动生成集成失败数据的映射关系数据,其中,映射关系数据包括映射ID、映射类型、源系统标识、源系统的部分唯一标识数据、目标系统标识和目标系统的部分唯一标识数据。
数据更新模块310用于根据映射表中添加的集成失败数据的映射关系数据,将集成失败数据再次集成并更新至目标系统中。数据更新模块310还用于在将集成失败数据更新到目标系统的过程中,根据映射表中添加的集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统(参考表1-11);将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中(参考表1-12)。
下文中,参考图2,以具体实例的方式对数据集成方法进行详细描述。
本申请是在企业数据集成过程中,多条需集成的数据用到同一条映射,而这条数据映射关系缺失(基础数据未集成或集成未成功)的情况,实现数据集成成功,避免人工反复操作,提升数据集成时效性,提升工作效率,提高用户体验。
申请的具体实现思路如下:
由于映射数据的添加方式是由基础数据集成时程序自动添加:映射数据程序自动添加,是指一方目标系统需要基础数据和业务数据都是从另一方源数据系统中集成过来,那么在基础数据集成过程中,映射数据由程序自动添加。
1、在接收数据的目标系统中,增加接收基础数据唯一标识的简易接口(以下简称“基础数据简易接口”,又称为“基础数据唯一标识接口”),该接口仅接收【对方系统的唯一标识】(又称为源系统的唯一标识数据),功能如下:①保存接收的【对方系统的唯一标识】,并生成自己的唯一标识【本方系统的唯一标识】(又称为目标系统的唯一标识数据),产生记录;②记录双方系统的唯一标识对应关系,产生【数据映射关系】。
2、在目标系统接收业务数据的过程中,当发现基础数据缺失数据映射关系时,不报错(映射缺失或映射不存在),而是调用“基础数据简易接口”,先生成映射关系,根据映射关系自动再次进行数据集成,保障正常业务的顺利进行,在查看这条业务数据时,只是暂时看不到基础数据的名称等其他信息,能看到唯一标识信息。
3、当这条基础数据从另一方的源系统通过正常接口集成到目标系统中来时,由于“基础数据简易接口”已生成过这条记录,并保存了【对方系统的唯一标识】,那么基础数据的其他信息根据【对方系统的唯一标识】进行更新即可。更新完成后,业务数据的信息也将完整。
下面结合附图2,对本申请作进一步说明:同时,以下所述的一种在数据映射缺失的情况下实现数据集成成功的方法,仅为本申请的在实施应用中,较为通用的一种;除此之外,与本申请原理相近的其它用于在数据映射缺失的情况下实现数据集成成功的思想及原则,也在本申请的保护范围之内。
本申请在企业数据集成过程中,通过技术手段实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。本方法包括两个部分:基础数据简易接口和业务数据处理。
【基础数据简易接口】
1、在接收数据的目标系统中,增加接收基础数据唯一标识的简易接口(以下简称“基础数据简易接口”);
2、“基础数据简易接口”的参数为“对方系统的唯一标识”,功能是通过【处理唯一标识数据】处理“对方系统的唯一标识”:记录“对方系统的唯一标识”,并生成本方系统用于记录该条记录的“本方系统的唯一标识”;
3、通过【添加映射关系数据】,处理“数据映射关系”,由于系统双方的唯一标识都已存在,就可在映射表中自动生成该条数据的“数据映射关系”。
【业务数据处理】
4、在数据集成过程中,当发生集成数据失败时进行判断,数据集成成功不在本方案范围内;
5、【业务数据处理】部分,在进行【数据集成】处理时,通过“基础数据的唯一标识”查询映射关系数据,查询不到说明缺失数据映射关系,当发现需要进行映射的基础数据缺失数据映射关系时,程序不进行报错处理,而是调用【基础数据简易接口】;
6、以“基础数据的唯一标识”为调用参数,调用【基础数据简易接口】;
7、调用【基础数据简易接口】后,该接口会生成该条数据的“数据映射关系”;
8、根据映射关系对需集成的数据进行再次数据集成,由于映射关系已存在,本次数据集成将会成功,从而保障正常业务的顺利进行;
9、通过【业务数据处理】在查看这条业务数据时,只是暂时看不到基础数据的名称等其他信息,能看到唯一标识信息。
10、当这条基础数据从另一方的源系统通过正常接口集成到目标系统中来时,由于【基础数据简易接口】已生成过这条记录,并保存了“对方系统的唯一标识”,那么基础数据的其他信息根据“对方系统的唯一标识”进行更新即可。更新完成后,业务数据的信息也将完整。
为了进一步说明下面举例说明:
由于企业业务需要,需把A系统的“差旅费报销单”通过数据集成的方式传递至B系统中,
以下以三个业务场景进行举例说明:
注:A系统为数据源系统;B系统为数据目标系统。数据传递方向为A系统到B系统。
1.1、涉及该业务的数据结构定义如下:
A系统的数据结构和业务定义:
表1-1:“差旅费报销单”数据结构
报销单ID | 单据编号 | 制单日期 | 经办人部门 | …… | 报销金额 |
100001 | A_CLF00001 | 2020-5-25 | A_BM00001 | …… | 1000 |
100002 | A_CLF00002 | 2020-5-25 | A_BM00001 | …… | 1000 |
表1-2:“差旅费报销单”关联的“经办部门”数据结构
部门ID | 部门编号 | 部门名称 | …… | 成立时间 |
100001 | A_BM00001 | 财务部 | …… | 1990-5-1 |
100002 | A_BM00002 | 行政事务部 | …… | 1990-5-1 |
B系统中数据机构和业务定义:
表1-3:“差旅费报销单”数据结构
表1-4:“差旅费报销单”关联的“经办部门”数据结构
表1-5:“数据映射表”数据结构:
1.2、当A系统发生“差旅费报销单”业务数据需传递到B系统
1.3、A系统的“差旅费报销单”关联的“经办部门”新增了两条数据(即,部门编号为A_BM00003和A_BM00004):
表1-6
部门ID | 部门编号 | 部门名称 | …… | 成立时间 |
100001 | A_BM00001 | 财务部 | …… | 1990-5-1 |
100002 | A_BM00002 | 行政事务部 | …… | 1990-5-1 |
100003 | A_BM00003 | 基建办公室 | …… | 2020-5-26 |
100004 | A_BM00004 | 企业文化部 | …… | 2020-5-27 |
1.4、A系统的“差旅费报销单”新增了6000条数据(即,经办人部门为A_BM00003和A_BM00004):
表1-7
报销单ID | 单据编号 | 制单日期 | 经办人部门 | …… | 报销金额 |
100001 | A_CLF00001 | 2020-5-25 | A_BM00001 | …… | 1000 |
100002 | A_CLF00002 | 2020-5-25 | A_BM00001 | …… | 1000 |
100003 | A_CLF00003 | 2020-5-28 | A_BM00003 | …… | 1000 |
…… | …… | …… | A_BM00003 | …… | 1000 |
103003 | A_CLF03003 | 2020-5-28 | A_BM00003 | …… | 1000 |
103004 | A_CLF00004 | 2020-5-28 | A_BM00004 | …… | 1000 |
…… | …… | …… | A_BM00004 | …… | 1000 |
106003 | A_CLF06003 | 2020-5-28 | A_BM00004 | …… | 1000 |
1.5、新增的“差旅费报销单”需传递至B系统中,由于某种原因,“经办部门”数据在“差旅费报销单”发生集成传递时未及时传递至B系统,所以映射表的数据还未发生变化。
表1-8:数据映射表
当发生的6000条“差旅费报销单”数据传递时,由于映射表未找到经办部门“A_BM00003”和“A_BM00004”,传统模式下,这6000条“差旅费报销单”数据都会由于“未找到映射关系”而传递失败,必须在“经办部门”数据同步成功并添加映射的情况下,再次手工进行集成,不仅效率较低、工作量大,而且会影响数据集成的时效性造成业务数据发生严重延后。而本申请采用如下手段处理使数据传递成功,保障业务数据传递的时效性和有效性,方法步骤如下:
1.6、6000条“差旅费报销单”数据传递时,当发现“数据映射表”中不存在经办部门“A_BM00003”和“A_BM00004”的映射关系,那么调用“基础数据简易接口”在B系统中先生成简易基础数据(例如,部门ID、部门编号和更新标识),在B系统中生成的数据如下:
表1-9
同时在映射表中新增映射关系:
表1-10
1.7、调用“基础数据简易接口”后再次自动进行一次6000条“差旅费报销单”数据同步,由于映射关系已存在,那么数据将成功同步至B系统。在B系统生成的数据如下:
表1-11
1.8、当A系统的“经办部门”再次通过正常接口集成到B系统中时,B系统的“经办部门”信息将完整,“差旅费报销单”数据也将显示完整。
表1-12
2.1、涉及该业务的数据结构定义如下:
A系统的数据结构和业务定义:
表2-1:“采购单”数据结构
采购单ID | 单据编号 | 制单日期 | 关联合同 | …… | 采购金额 |
200001 | A_CGD00001 | 2020/5/25 | A_HT00001 | …… | 1000 |
200002 | A_CGD00002 | 2020/5/25 | A_HT00001 | …… | 1000 |
表2-2:“采购单”关联的“合同”数据结构
B系统中数据机构和业务定义:
表2-3:“采购单”数据结构
采购单ID | 单据编号 | 制单日期 | 关联合同 | …… | 采购金额 | 更新标识 |
800001 | B_CGD00001 | 2020/5/25 | B_HT00001 | …… | 1000 | A_CGD00001 |
800002 | B_CGD00002 | 2020/5/25 | B_HT00001 | …… | 1000 | A_CGD00002 |
表2-4:“采购单”关联的“合同”数据结构
表2-5:“数据映射表”数据结构
映射ID | 映射类型 | 系统标识1 | 映射值1 | 系统标识2 | 映射值2 |
YS00000001 | Dep | A系统 | A_HT00001 | B系统 | B_HT00001 |
YS00000002 | Dep | A系统 | A_HT00002 | B系统 | B_HT00002 |
2.2、当A系统发生“采购单”业务数据需传递到B系统
2.3、A系统的“采购单”关联的“合同”数据结构新增了两条数据:
表2-6
2.4、A系统的“采购单”新增了6000条数据:
表2-7
采购单ID | 单据编号 | 制单日期 | 关联合同 | …… | 采购金额 |
200001 | A_CGD00001 | 2020/5/25 | A_HT00001 | …… | 1000 |
200002 | A_CGD00002 | 2020/5/25 | A_HT00001 | …… | 1000 |
200003 | A_CGD00003 | 2020/5/28 | A_HT00003 | …… | 1000 |
…… | …… | …… | A_HT00003 | …… | 1000 |
203003 | A_CGD03003 | 2020/5/28 | A_HT00003 | …… | 1000 |
203004 | A_CGD00004 | 2020/5/28 | A_HT00004 | …… | 1000 |
…… | …… | …… | A_HT00004 | …… | 1000 |
206003 | A_CGD06003 | 2020/5/28 | A_HT00004 | …… | 1000 |
2.5、新增的“采购单”需传递至B系统中,由于某种原因,“合同”数据在“采购单”发生集成传递时未及时传递至B系统,所以映射表的数据还未发生变化。
2.6、6000条“采购单”数据传递时,当发现“数据映射表”中不存在合同“A_HT00003”和“A_HT00004”的映射关系,那么调用“基础数据简易接口”在B系统中先生成简易基础数据,在B系统中生成的数据如下:
表2-8
同时在映射表中新增映射关系:
表2-9
映射ID | 映射类型 | 系统标识1 | 映射值1 | 系统标识2 | 映射值2 |
YS00000001 | Dep | A系统 | A_HT00001 | B系统 | B_HT00001 |
YS00000002 | Dep | A系统 | A_HT00002 | B系统 | B_HT00002 |
YS00000003 | Dep | A系统 | A_HT00003 | B系统 | B_HT00003 |
YS00000004 | Dep | A系统 | A_HT00004 | B系统 | B_HT00004 |
2.7、调用“基础数据简易接口”后再次自动进行一次6000条“采购单”数据同步,由于映射关系已存在,那么数据将成功同步至B系统。在B系统生成的数据如下:
表2-10
采购单ID | 单据编号 | 制单日期 | 关联合同 | …… | 采购金额 | 更新标识 |
800001 | B_CGD00001 | 2020/5/25 | B_HT00001 | …… | 1000 | A_CGD00001 |
800002 | B_CGD00002 | 2020/5/25 | B_HT00001 | …… | 1000 | A_CGD00002 |
800003 | B_CGD00003 | 2020/5/28 | B_HT00003 | …… | 1000 | A_CGD00003 |
…… | …… | …… | B_HT00003 | …… | 1000 | …… |
803003 | B_CGD03003 | 2020/5/28 | B_HT00003 | …… | 1000 | A_CGD03003 |
803004 | B_CGD00004 | 2020/5/28 | B_HT00004 | …… | 1000 | A_CGD00004 |
…… | …… | …… | B_HT00004 | …… | 1000 | …… |
806003 | B_CGD06003 | 2020/5/28 | B_HT00004 | …… | 1000 | A_CGD06003 |
2.8、当A系统的“合同”再次通过正常接口集成到B系统中时,B系统的“合同”信息将完整,“采购单”数据也将显示完整。
表2-11
3.1、涉及该业务的数据结构定义如下:
A系统的数据结构和业务定义:
表3-1:“设备安装单”数据结构
表3-2:“设备安装单”关联的“设备”数据结构
设备ID | 设备编号 | 设备名称 | …… | 签订时间 |
300001 | A_EQM00001 | 凝结水泵 | …… | 1990/5/1 |
300002 | A_EQM00002 | 给水泵 | …… | 1990/5/1 |
B系统中数据机构和业务定义:
表3-3:“设备安装单”数据结构
表3-4:“设备安装单”关联的“设备”数据结构
设备ID | 设备编号 | 设备名称 | …… | 签订时间 | 更新标识 |
700001 | B_EQM00001 | 凝结水泵 | …… | 1990/5/1 | A_EQM00001 |
700002 | B_EQM00002 | 给水泵 | …… | 1990/5/1 | A_EQM00002 |
表3-5:“数据映射表”数据结构
映射ID | 映射类型 | 系统标识1 | 映射值1 | 系统标识2 | 映射值2 |
YS00000001 | Dep | A系统 | A_EQM00001 | B系统 | B_EQM00001 |
YS00000002 | Dep | A系统 | A_EQM00002 | B系统 | B_EQM00002 |
3.2、当A系统发生“设备安装单”业务数据需传递到B系统
3.3、A系统的“设备安装单”关联的“设备”数据结构新增了两条数据:
表3-6
设备ID | 设备编号 | 设备名称 | …… | 签订时间 |
300001 | A_EQM00001 | 凝结水泵 | …… | 1990/5/1 |
300002 | A_EQM00002 | 给水泵 | …… | 1990/5/1 |
300003 | A_EQM00003 | 风机 | …… | 2020/5/26 |
300004 | A_EQM00004 | 锅炉 | …… | 2020/5/27 |
3.4、A系统的“设备安装单”新增了6000条数据:
表3-7
3.5、新增的“设备安装单”需传递至B系统中,由于某种原因,“设备”数据在“设备安装单”发生集成传递时未及时传递至B系统,所以映射表的数据还未发生变化。
3.6、6000条“设备安装单”数据传递时,当发现“数据映射表”中不存在设备“A_EQM00003”和“A_EQM00004”的映射关系,那么调用“基础数据简易接口”在B系统中先生成简易基础数据,在B系统中生成的数据如下:
表3-8
设备ID | 设备编号 | 设备名称 | …… | 签订时间 | 更新标识 |
700001 | B_EQM00001 | 凝结水泵 | …… | 1990/5/1 | A_EQM00001 |
700002 | B_EQM00002 | 给水泵 | …… | 1990/5/1 | A_EQM00002 |
700003 | B_EQM00003 | A_EQM00003 | |||
700004 | B_EQM00004 | A_EQM00004 |
同时在映射表中新增映射关系:
表3-9
映射ID | 映射类型 | 系统标识1 | 映射值1 | 系统标识2 | 映射值2 |
YS00000001 | Dep | A系统 | A_EQM00001 | B系统 | B_EQM00001 |
YS00000002 | Dep | A系统 | A_EQM00002 | B系统 | B_EQM00002 |
YS00000003 | Dep | A系统 | A_EQM00003 | B系统 | B_EQM00003 |
YS00000004 | Dep | A系统 | A_EQM00004 | B系统 | B_EQM00004 |
3.7、调用“基础数据简易接口”后再次自动进行一次6000条“设备安装单”数据同步,由于映射关系已存在,那么数据将成功同步至B系统。在B系统生成的数据如下:
表3-10
3.8、当A系统的“设备”再次通过正常接口集成到B系统中时,B系统的“设备”信息将完整,“设备安装单”数据也将显示完整。
表3-11
设备ID | 设备编号 | 设备名称 | …… | 签订时间 | 更新标识 |
700001 | B_EQM00001 | 凝结水泵 | …… | 1990/5/1 | A_EQM00001 |
700002 | B_EQM00002 | 给水泵 | …… | 1990/5/1 | A_EQM00002 |
700003 | B_EQM00003 | 风机 | …… | 2020/5/26 | A_EQM00003 |
700004 | B_EQM00004 | 锅炉 | …… | 2020/5/27 | A_EQM00004 |
4、总结
通过上述实例说明,通过本申请的技术手段,可实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。
与现有技术相比,本申请至少可实现如下有益效果之一:
1、数据集成方法可实现在映射缺失(基础数据未集成或集成未成功)的情况下也使业务数据集成成功,避免人工反复操作,提升业务数据集成时效性,提升工作效率,提高用户体验。
2、通过调用基础数据唯一标识接口以在目标系统中记录源系统的部分唯一标识数据,以及生成并记录与集成失败数据相对应的目标系统的部分唯一标识数据,从而能够在映射表中添加集成失败数据的映射关系数据,然后根据源系统的部分唯一标识数据,将集成失败数据更新至目标系统中。
3、在将集成失败数据更新到目标系统的过程中,将集成失败数据中除源系统的唯一标识数据和目标系统的唯一标识数据之外的其他数据根据源系统的唯一标识数据进行更新并传送至目标系统中。
本领域技术人员可以理解,实现上述实施例方法的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于计算机可读存储介质中。其中,所述计算机可读存储介质为磁盘、光盘、只读存储记忆体或随机存储记忆体等。
以上所述,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。
Claims (10)
1.一种数据集成方法,其特征在于,包括:
将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据;
当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射,其中,所述集成失败数据是在所述批量集成过程中未被集成的数据并具有所述源系统的部分唯一标识数据;
调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据;
在所述映射表中添加所述集成失败数据的映射关系数据;以及
根据所述映射表中添加的所述集成失败数据的映射关系数据,将所述集成失败数据再次集成并更新至所述目标系统中。
2.根据权利要求1所述的数据集成方法,其特征在于,将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据进一步包括:
将源系统中的关联数据结构基于所述源系统的多个唯一标识数据批量集成并传送至所述目标系统中,其中,所述关联数据结构包括关联的第一数据结构和第二数据结构;
从所述源系统的关联数据结构中获取每条数据的唯一标识数据;
将获取的每条数据的唯一标识数据与所述映射表中的每个唯一标识数据进行比较;
根据比较结果是否相同,确定所述获取的每条数据的唯一标识数据是否存在于所述映射表中,其中,所述关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和所述第二数据结构中对应的一条数据,以及所述源系统的多个唯一标识数据是所述第一数据结构和所述第二数据结构中的共有数据。
3.根据权利要求2所述的数据集成方法,其特征在于,当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射进一步包括:
当比较结果不相同时,确定在所述映射表中没有所述源系统的部分唯一标识数据;以及
确定所述批量集成失败使得所述源系统中的集成失败数据没有集成到所述目标系统中,以确定缺失所述集成失败数据的映射并且不进行报错处理。
4.根据权利要求1所述的数据集成方法,其特征在于,调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据进一步包括:
在所述目标系统中增加所述基础数据唯一标识接口;
将所述源系统的部分唯一标识数据作为所述基础数据唯一标识接口的参数并记录在所述目标系统中;以及
在所述目标系统中作为更新的源系统的部分唯一标识数生成并记录与所述集成失败数据相对应的所述目标系统的部分唯一标识数据。
5.根据权利要求1所述的数据集成方法,其特征在于,在所述映射表中添加所述集成失败数据的映射关系数据进一步包括:
在记录所述源系统的部分唯一标识数据和所述目标系统的部分唯一标识数据之后,在所述映射表中自动生成所述集成失败数据的映射关系数据,其中,
所述映射关系数据包括映射ID、映射类型、源系统标识、所述源系统的部分唯一标识数据、目标系统标识和所述目标系统的部分唯一标识数据。
6.根据权利要求1所述的数据集成方法,其特征在于,根据所述映射表中添加的所述集成失败数据的映射关系数据,将所述集成失败数据更新至所述目标系统中进一步包括:在将所述集成失败数据更新到所述目标系统的过程中,
根据所述映射表中添加的所述集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统中;
将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中。
7.一种数据集成装置,其特征在于,包括:
查询模块,用于在将源系统中的关联数据结构基于源系统的多个唯一标识数据批量集成至目标系统中以后,在映射表中查询源系统的每个唯一标识数据,其中,源系统中的关联数据结构的每条数据具有一个唯一标识数据;
判断模块,用于当没有查询到所述源系统的多个唯一标识数据中的部分唯一标识数据时,确定所述批量集成失败以确定缺失集成失败数据的映射,其中,所述集成失败数据是在所述批量集成过程中未被集成的数据并具有所述源系统的部分唯一标识数据;
调用模块,用于调用基础数据唯一标识接口以在所述目标系统中记录所述源系统的部分唯一标识数据,以及生成并记录与所述集成失败数据相对应的目标系统的部分唯一标识数据;
映射表更新模块,用于在所述映射表中添加所述集成失败数据的映射关系数据;以及
数据更新模块,用于根据所述映射表中添加的所述集成失败数据的映射关系数据,将所述集成失败数据再次集成并更新至所述目标系统中。
8.根据权利要求7所述的数据集成装置,其特征在于,所述查询模块进一步包括:
接收子模块,用于从所述源系统的关联数据结构中获取每条数据的唯一标识数据;
比较子模块,用于将获取的每条数据的唯一标识数据与所述映射表中的每个唯一标识数据进行比较,根据比较结果是否相同,确定所述获取的每条数据的唯一标识数据是否存在于所述映射表中,其中,所述关联数据结构中的每条数据包括第一数据结构中的一条或多条数据和所述第二数据结构中对应的一条数据,以及所述源系统的多个唯一标识数据是所述第一数据结构和所述第二数据结构中的共有数据。
9.根据权利要求8所述的数据集成装置,其特征在于,所述判断模块用于:
当比较结果不相同时,确定在所述映射表中没有所述源系统的部分唯一标识数据;以及
确定所述批量集成失败使得所述源系统中的集成失败数据没有集成到所述目标系统中,以确定缺失所述集成失败数据的映射并且不进行报错处理。
10.根据权利要求7所述的数据集成装置,其特征在于,
所述调用模块还用于在所述目标系统中增加所述基础数据唯一标识接口;将所述源系统的部分唯一标识数据作为所述基础数据唯一标识接口的参数并记录在所述目标系统中;以及在所述目标系统中作为更新的源系统的部分唯一标识数据生成并记录与所述集成失败数据相对应的所述目标系统的部分唯一标识数据;
所述映射表更新模块还用于在记录所述源系统的部分唯一标识数据和所述目标系统的部分唯一标识数据之后,在所述映射表中自动生成所述集成失败数据的映射关系数据,其中,所述映射关系数据包括映射ID、映射类型、源系统标识、所述源系统的部分唯一标识数据、目标系统标识和所述目标系统的部分唯一标识数据;以及
所述数据更新模块还用于在将所述集成失败数据更新到所述目标系统的过程中,根据所述映射表中添加的所述集成失败数据的映射关系数据将集成失败数据中的第一数据结构再次进行批量集成并传送至所述目标系统中;将所述集成失败数据的第二数据结构中除记录在所述目标系统中所述源系统的唯一标识数据和所述目标系统的唯一标识数据之外的其他数据根据所述源系统的部分唯一标识数据进行更新并传送至所述目标系统中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110161511.1A CN112818020B (zh) | 2021-02-05 | 2021-02-05 | 一种数据集成方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110161511.1A CN112818020B (zh) | 2021-02-05 | 2021-02-05 | 一种数据集成方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112818020A true CN112818020A (zh) | 2021-05-18 |
CN112818020B CN112818020B (zh) | 2024-06-25 |
Family
ID=75861771
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110161511.1A Active CN112818020B (zh) | 2021-02-05 | 2021-02-05 | 一种数据集成方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112818020B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101387962A (zh) * | 2008-10-31 | 2009-03-18 | 金蝶软件(中国)有限公司 | 一种在系统集成中建立映射关系的方法及系统 |
US20130006968A1 (en) * | 2010-03-11 | 2013-01-03 | Alex Gusmini | Data integration system |
US20130311498A1 (en) * | 2012-05-05 | 2013-11-21 | Blackbaud, Inc. | Systems, methods, and computer program products for data integration and data mapping |
US20140280218A1 (en) * | 2013-03-15 | 2014-09-18 | Teradata Us, Inc. | Techniques for data integration |
CN104346377A (zh) * | 2013-07-31 | 2015-02-11 | 克拉玛依红有软件有限责任公司 | 一种基于唯一标识的数据集成和交换方法 |
CN106649378A (zh) * | 2015-11-02 | 2017-05-10 | 北大方正集团有限公司 | 一种数据同步方法及装置 |
CN107203642A (zh) * | 2017-06-19 | 2017-09-26 | 山东浪潮通软信息科技有限公司 | 一种数据同步方法和装置 |
CN111159311A (zh) * | 2019-12-19 | 2020-05-15 | 远光软件股份有限公司 | 一种数据映射集成的方法、装置、设备及存储介质 |
CN111190970A (zh) * | 2019-12-27 | 2020-05-22 | 远光软件股份有限公司 | 数据映射方法、装置以及计算机可读存储介质 |
CN111241192A (zh) * | 2019-12-31 | 2020-06-05 | 航天信息软件技术有限公司 | 一种数据同步方法 |
-
2021
- 2021-02-05 CN CN202110161511.1A patent/CN112818020B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101387962A (zh) * | 2008-10-31 | 2009-03-18 | 金蝶软件(中国)有限公司 | 一种在系统集成中建立映射关系的方法及系统 |
US20130006968A1 (en) * | 2010-03-11 | 2013-01-03 | Alex Gusmini | Data integration system |
US20130311498A1 (en) * | 2012-05-05 | 2013-11-21 | Blackbaud, Inc. | Systems, methods, and computer program products for data integration and data mapping |
US20140280218A1 (en) * | 2013-03-15 | 2014-09-18 | Teradata Us, Inc. | Techniques for data integration |
CN104346377A (zh) * | 2013-07-31 | 2015-02-11 | 克拉玛依红有软件有限责任公司 | 一种基于唯一标识的数据集成和交换方法 |
CN106649378A (zh) * | 2015-11-02 | 2017-05-10 | 北大方正集团有限公司 | 一种数据同步方法及装置 |
CN107203642A (zh) * | 2017-06-19 | 2017-09-26 | 山东浪潮通软信息科技有限公司 | 一种数据同步方法和装置 |
CN111159311A (zh) * | 2019-12-19 | 2020-05-15 | 远光软件股份有限公司 | 一种数据映射集成的方法、装置、设备及存储介质 |
CN111190970A (zh) * | 2019-12-27 | 2020-05-22 | 远光软件股份有限公司 | 数据映射方法、装置以及计算机可读存储介质 |
CN111241192A (zh) * | 2019-12-31 | 2020-06-05 | 航天信息软件技术有限公司 | 一种数据同步方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112818020B (zh) | 2024-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111240763B (zh) | 配置更新方法、装置、设备及存储介质 | |
US11514076B2 (en) | Cooperative naming for configuration items in a distributed configuration management database environment | |
US20210243032A1 (en) | Sending cross-chain authenticatable messages | |
US7925002B2 (en) | Administering multiple target ACD systems | |
CN109597853B (zh) | 业务场景元素序列号生成方法、装置、介质和计算机设备 | |
CN110661662B (zh) | 一种轻量级的微服务配置方法 | |
CN114036236A (zh) | 多网关集群系统 | |
CN102316117A (zh) | 资源处理方法和装置 | |
US20110153826A1 (en) | Fault tolerant and scalable load distribution of resources | |
CN107066522A (zh) | 数据库的访问方法和装置 | |
CN114285852A (zh) | 基于多级服务平台的服务调用方法及装置 | |
CN112818020B (zh) | 一种数据集成方法和装置 | |
CN110704501A (zh) | 用户账号关联方法及装置 | |
CN112835717B (zh) | 一种用于集群的集成应用处理方法和装置 | |
CN115686497A (zh) | 业务开发数据管理方法、开发引擎、电子设备和存储介质 | |
CN116095081A (zh) | 基于区块链系统的事件处理方法及装置、设备、介质 | |
CN110851512B (zh) | 用于开源框架的数据配置方法及装置 | |
CN113836212A (zh) | 数据库数据自动生成Json数据的方法、可读介质和电子设备 | |
CN113177070A (zh) | 信息查询方法、装置及相关设备 | |
CN115836511A (zh) | 物联网中的设备管理方法、装置、计算机设备及存储介质 | |
KR20180120499A (ko) | 데이터베이스 동기화 방법 및 그를 위한 전화 교환기 | |
CN110868354B (zh) | 一种基于网签系统的智能路由寻址系统及方法 | |
CN113890875B (zh) | 任务分配方法及装置 | |
CN110837458B (zh) | 一种数据平衡验证的方法、设备、及存储介质 | |
CN114328494A (zh) | 数据汇聚方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |