CN114911750A - 一种数据转换方法及装置 - Google Patents
一种数据转换方法及装置 Download PDFInfo
- Publication number
- CN114911750A CN114911750A CN202110169717.9A CN202110169717A CN114911750A CN 114911750 A CN114911750 A CN 114911750A CN 202110169717 A CN202110169717 A CN 202110169717A CN 114911750 A CN114911750 A CN 114911750A
- Authority
- CN
- China
- Prior art keywords
- data
- field
- conversion logic
- logic
- record
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/116—Details of conversion of file system types or formats
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/151—Transformation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本说明书公开了一种数据转换方法及装置,可先通过数据解析,确定待处理的数据文件包含的各条数据记录,之后,根据预设的映射关系,确定各条数据记录中包含的各数据字段的数据转换逻辑,然后,分别将各条数据记录输入处理链路中,依次通过各数据处理节点,进行数据转换处理,确定转换后的各目标数据记录。其中,不同的数据处理节点执行不同的数据转换逻辑。最后根据各条目标数据记录,确定目标数据文件。基于预设的映射关系确定各数据字段的数据转换逻辑,并依次通过处理链路中的各数据处理节点,对待处理的数据文件进行数据转换处理,无需分别编写对各业务提供方进行适配的数据转换逻辑代码,节省了人力成本,提高了扩展性,减少了代码冗余。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种数据转换方法及装置。
背景技术
基于业务执行的需要,各业务平台之间难免进行大批量数据的交互。在业务执行过程中,当业务执行方接收到业务提供方发送的数据文件后,可对该数据文件进行数据处理,并将数据处理结果返回给该业务提供方。例如,银行将各用户的交易数据传输至数据处理平台,数据处理平台可根据接收到的交易数据进行数据处理后,将数据处理结果返回给银行。
但由于业务执行方只能处理特定格式的数据文件,而各业务提供方发送的数据文件的格式不都符合规范,且各业务提供方发送的数据文件的格式不完全相同。因此在业务执行方中还需设置一个前置适配层,以分别对各业务提供方发送的数据文件进行数据转换。
目前,业务执行方每对接一个业务提供方,均需要开发人员根据该业务提供方发送的数据文件的格式,以及该业务执行方处理的特定格式的数据文件,编写数据转换逻辑代码,并配置在前置适配层中,以当业务执行方接收到该业务提供方发送的数据文件时,可通过前置适配层中的数据转换逻辑代码,将该数据文件转换为特定格式的数据文件,再根据转换后的特定格式的数据文件,进行数据处理。
但是,针对各业务提供方分别编写适配的数据转换逻辑代码,所需的人力成本较高,且造成代码冗余严重。
发明内容
本说明书实施例提供一种数据转换方法及装置,用于部分解决现有技术中的问题。
本说明书实施例采用下述技术方案:
本说明书提供的一种数据转换方法,包括:
对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录;
针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑;
将该条数据记录输入进行数据转换的处理链路中,所述处理链路包含若干数据处理节点,不同的数据处理节点用于执行不同的数据转换逻辑;
依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录;
根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
可选地,针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑,具体包括:
针对确定出的每条数据记录,确定该条数据记录中各数据字段的字段参数,所述字段参数至少包含字段名称以及字段类型;
针对该条数据记录中的每个数据字段,根据该数据字段的字段参数以及预设的映射关系,确定该数据字段的数据转换逻辑;
其中,所述映射关系中包含各数据字段与各数据字段进行数据转换所需的数据转换逻辑之间的对应关系,不同业务提供方对应的映射关系不完全相同。
可选地,所述数据转换逻辑包含通用转换逻辑,不同业务提供方的通用转换逻辑相同;
所述通用转换逻辑采用以下方法确定,其中:
针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑;
根据各业务提供方对应的各数据转换逻辑,从中确定逻辑一致的数据转换逻辑,作为通用转换逻辑。
可选地,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同;
所述自定义转换逻辑采用以下方法确定,其中:
针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑;
根据各业务提供方对应的各数据转换逻辑,从中确定逻辑不一致的数据转换逻辑,作为该业务提供方的自定义转换逻辑。
可选地,根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
根据该数据处理节点的数据处理逻辑,将所述匹配的数据字段的字段参数转换为目标字段参数;
根据转换后的目标字段参数,确定目标数据字段。
可选地,根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
确定所述匹配的数据字段所在数据记录的主键;
根据该数据处理节点的数据转换逻辑以及所述匹配的数据字段对应的主键,从所述业务执行方预先存储的各映射数据记录中,确定对应所述主键的映射数据记录;
从所述映射数据记录的各映射数据字段中,根据该数据处理节点的数据转换逻辑中的字段映射关系,确定所述匹配的数据字段对应的映射数据字段,并将确定出的映射数据字段作为目标数据字段。
可选地,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同;
根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
根据该数据处理节点的数据转换逻辑,在所述匹配的数据字段的指定位置添加预设的属性标识,并将添加后的数据字段作为目标数据字段。
本说明书提供一种数据转换装置,包括:
解析模块,对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录;
第一确定模块,针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑;
输入模块,将该条数据记录输入进行数据转换的处理链路中,所述处理链路包含若干数据处理节点,不同的数据处理节点用于执行不同的数据转换逻辑;
第二确定模块,依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录;
执行模块,根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
本说明书提供的一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述数据转换方法。
本说明书提供的一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述数据转换方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书中,对业务提供方发送的待处理的数据文件,进行数据解析,确定该数据文件包含的各条数据记录。之后,针对每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑。然后,将该条数据记录输入处理链路中,依次通过该处理链路的每个数据处理节点进行数据转换处理,其中,针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所匹配的数据字段转换为目标数据字段,直至通过该处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录。最后根据该处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据该目标数据文件执行业务。基于预设的映射关系确定各数据字段的数据转换逻辑,并依次通过处理链路中的各数据处理节点,对业务提供方的待处理的数据文件进行数据转换处理,避免了分别为各业务提供方编写各自适配的数据转换逻辑代码,节省了人力成本,减少了数据转换过程中的代码冗余。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本说明书实施例提供的一种数据转换流程示意图;
图2为本说明书实施例提供的另一种数据转换流程示意图;
图3为本说明书实施例提供的一种数据转换装置的结构示意图;
图4为本说明书实施例提供的实现数据转换方法的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本申请各实施例提供的技术方案。
图1为本说明书实施例提供的一种数据转换流程示意图,具体可包括以下步骤:
S100:对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录。
在业务处理场景中,各业务平台之间难免进行业务数据的传输,业务提供方可将待处理的业务数据发送给业务执行方,以使业务执行方进行业务处理。但由于业务执行方与业务提供方,双方关于业务数据中各数据字段的定义标准不完全相同。例如,在进行业务处理时,对于用户姓名这一数据字段,业务执行方中以“name”表示该数据字段的字段名称,而业务提供方中以“userName”表示该数据字段的字段名称。又或者,在进行业务处理时,业务执行方以用户身份证号码唯一标识用户,而业务提供方以用户账号唯一标识用户。
由于双方存在不同的数据定义标准,因此业务执行方在根据业务数据进行业务处理之前,可通过本说明书提供的数据转换方法,对业务提供方所提供的业务数据,进行数据转换处理,以转换成符合自身标准的数据后,再根据转换后的业务数据进行业务处理。其中,该数据转换方法可由业务执行方中执行数据转换业务的服务器执行。
具体的,该业务执行方的服务器可先接收业务提供方发送的待处理的数据文件。之后,该服务器可根据接收到的待处理的数据文件,进行数据解析,确定该待处理的数据文件中包含的各条数据记录。以通过后续步骤对各条数据记录进行数据转换处理。
S102:针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑。
在本说明书一种或多种实施例中,当解析出待处理的每条数据记录后,该服务器便可确定对各条数据记录中各数据字段进行转换的数据转换逻辑,以通过确定出的数据转换逻辑对相应数据字段进行数据转换处理。
具体的,针对解析出的每条数据记录,该服务器可确定该条数据记录中包含的各数据字段以及各数据字段的字段参数,其中,数据字段的字段参数至少包含数据字段的字段名称以及字段类型。
之后,针对该条数据记录中的每个数据字段,该服务器可根据该数据字段的字段参数以及预设的映射关系,确定该数据字段的数据转换逻辑。其中,不同业务提供方对应的映射关系不完全相同。该预设的映射关系中至少包含各数据字段与各数据字段进行数据转换所需的数据转换逻辑之间的对应关系,当然,该映射关系中还可包含各数据字段及其转换后的目标数据字段之间的对应关系。
S104:将该条数据记录输入进行数据转换的处理链路中。
S106:依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录。
在本说明书一种或多种实施例中,当确定出该条数据记录中各数据字段的数据转换逻辑后,便可将该条数据记录输入数据转换的处理链路中,并依次通过该处理链路中的各数据处理节点,进行数据转换处理。
具体的,该服务器可先将该条数据记录输入进行数据转换的处理链路中,并依次通过该处理链路中的各数据处理节点。其中,该处理链路中的每个数据处理节点用于执行不同的数据转换逻辑。
并且在本说明书中,针对依次经过的每个数据处理节点,该服务器可根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,对确定出的匹配的数据字段进行数据转换处理,将所匹配的数据字段转换为目标数据字段。
最后,直至该条数据记录通过该处理链路中的各数据处理节点,并分别通过各数据处理节点的数据转换逻辑对各数据字段进行数据转换处理后,确定该条数据记录对应的目标数据记录。
进一步的,在进行数据转换的处理链路中,各数据处理节点所执行的数据转换逻辑是预先编写并配置的。其中,数据转换逻辑中包含通用转换逻辑以及自定义转换逻辑,通用转换逻辑为综合各业务提供方的数据字段转换的需要,确定出的适用于各业务提供方的数据转换逻辑,即,各业务提供方的数据文件均需要通过该通用转换逻辑,对数据字段进行转换。自定义转换逻辑为综合各业务提供方的数据字段转换的需要,从中确定出的各业务提供方中不一致的数据字段的数据转换逻辑,不同业务提供方的自定义转换逻辑不完全相同。
其中,在确定通用转换逻辑时,具体的,针对每个业务提供方,可确定将该业务提供方的待处理的数据文件中的各数据字段,转换为该业务执行方的目标数据文件中各目标数据字段所需的各数据转换逻辑。然后,根据各业务提供方对应的各数据转换逻辑,从中确定逻辑一致的各数据转换逻辑,作为通用转换逻辑。
在确定自定义转换逻辑时,具体的,针对每个业务提供方,可确定将该业务提供方的待处理的数据文件中的各数据字段,转换为该业务执行方的目标数据文件中各目标数据字段所需的各数据转换逻辑。然后,根据各业务提供方对应的各数据转换逻辑,从中确定逻辑不一致的各数据转换逻辑,作为该业务提供方的自定义转换逻辑。
其中,各自定义转换逻辑中还包含适用于部分业务提供方的数据转换逻辑,以当处理该部分业务提供方的数据文件时,可基于该自定义转换逻辑,进行数据转换处理。
更进一步的,在本说明书中对所匹配的数据字段进行数据转换时,可对该数据字段的字段参数进行转换。如,将用户姓名的字段名称由“userName”转换为“name”。具体的,可根据该数据处理节点的数据处理逻辑,将所匹配的数据字段的字段参数转换为目标字段参数,并根据转换后的目标字段参数,以及该数据字段的数据,确定目标数据字段。其中,数据字段的字段参数至少包含字段名称以及字段类型等字段信息。
在本说明书中对所匹配的数据字段进行数据转换时,也可以将该数据字段转换为对应的目标数据字段,如,将用于表征用户身份的数据字段由用户账号转换为用户的身份证号码。具体的,可先确定所匹配的数据字段所在数据记录的主键,之后,根据该数据处理节点的数据转换逻辑,以及所匹配的数据字段对应的主键,从该业务执行方预先存储的各映射数据记录中,确定对应该主键的映射数据记录。然后,从确定出的映射数据记录的各映射数据字段中,根据该数据处理节点的数据转换逻辑中的字段映射关系,确定所匹配的数据字段对应的映射数据字段,并将确定出的映射数据字段作为目标数据字段。
其中,需要说明的是,在通过预设的映射关系确定该条数据记录中各数据字段的数据转换逻辑时,存在多个数据字段对应一种数据转换逻辑的情况,如,根据用户的“证件类型”以及用户的“证件号码”,确定用户账号。则在进行逻辑匹配时,也可通过一个数据处理节点对多个数据字段进行数据转换。
另外,在本说明书中对所匹配的数据字段进行数据转换时,还可以在数据字段的指定位置添加标识,以便于业务执行方确定数据来源。如,在每条数据记录的第一个数据字段前添加业务提供方的机构标识,以识别该数据的来源。具体的,可根据该数据处理节点的数据转换逻辑,在该匹配的数据字段的指定位置添加预设的属性标识,并将添加后的数据字段作为目标数据字段。其中,该指定位置可根据需要设置,如,数据字段之前、数据字段之后等位置。预设的属性标识也可根据需要设置,如,业务提供方的机构编码等标识。
S108:根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
在本说明书一种或多种实施例中,当各条数据记录依次通过该处理链路中的各数据处理节点,进行数据转换处理后,业务执行方便可根据转换完成的目标数据文件执行业务。
基于图1所示的数据转换方法,对业务提供方发送的待处理的数据文件,进行数据解析,确定该数据文件包含的各条数据记录。之后,针对每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑。然后,将该条数据记录输入处理链路中,依次通过该处理链路的每个数据处理节点进行数据转换处理,其中,针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所匹配的数据字段转换为目标数据字段,直至通过该处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录。最后根据该处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据该目标数据文件执行业务。基于预设的映射关系确定各数据字段的数据转换逻辑,并依次通过处理链路中的各数据处理节点,对业务提供方的待处理的数据文件进行数据转换处理,避免了分别为各业务提供方编写各自适配的数据转换逻辑代码,节省了人力成本,减少了数据转换过程中的代码冗余。
并且,在本说明书中可根据各业务提供方的业务需求,客制化映射关系以及各数据转换逻辑,使得数据转换更加灵活。当双方的业务需求发生变化时,也可单独对映射关系进行调整,以及调整该处理链路中数据转换逻辑的逻辑代码,以根据调整后的映射关系以及数据转换逻辑,进行数据转换处理。
另外,在本说明书中对待处理的数据文件添加标识时,也可以在该数据文件的文件头、文件尾等文件中的任一位置进行添加,具体可根据业务需要设置,本说明书对此不做限制。进一步的,在本说明书中为减少开发人员的学习成本,可采用groovy开发语言编写各数据处理节点的数据转换逻辑。
图2为本说明书提供的一种数据转换流程示意图,在进行数据转换处理时,首先,该服务器可根据业务提供方发送的待处理的数据文件,进行数据解析,确定该数据文件中包含的若干条数据记录。之后,根据预设的映射关系,确定各条数据记录中包含的各数据字段的数据转换逻辑。然后,依次将各条数据记录输入该处理链路中,通过该处理链路中的若干数据处理节点,进行数据转换处理,确定处理后的目标数据文件。其中,该处理链路中包含A……N等数据处理节点,不同数据处理节点对应不同的数据转换逻辑,该数据转换逻辑中包含通用转换逻辑以及自定义转换逻辑,分别用于执行数据格式以及数据内容的转换。
假设业务提供方发送的数据文件如表1所示,表1中包含有两条数据记录,每条数据记录分别由三个数据字段组成,各数据字段的字段名称分别为用户姓名(userName)、证件类型(idType)以及证件号码(idNo),其中,以用户的证件类型以及证件号码唯一表征用户。
用户姓名(userName) | 证件类型(idType) | 证件号码(idNo) |
张三 | 身份证 | 130xxxx |
李四 | 身份证 | 410xxxx |
表1
而业务执行方的数据定义标准中,用户姓名通常以“name”表示,并且以用户在业务平台中的客户号唯一表征用户。因此可对业务提供方的数据文件进行数据转换处理。
以解析出的第一条数据记录为例,当来源数据的数据字段的字段名称为“userName”,字段类型为“STRING”时,可根据通用转换逻辑,将该数据字段转换为字段名称为“name”,字段类型为“STRING”的目标数据字段。当来源数据的数据字段的字段名称为“idType”以及“idNo”时,可通过自定义转换逻辑,将该数据字段转换为字段名称为“customerNo”,字段类型为“STRING”的目标数据字段。
其中,预设的映射关系如下所示:
在上述映射关系中,“common”表示通用转换逻辑,“logic”表示自定义转换逻辑。
当确定出各条数据记录中各数据字段的数据转换逻辑后,将各条数据记录输入该处理链路中,依次通过该处理链路中的各数据处理节点,进行数据转换处理,将用户姓名字段的字段名称由“userName”转换为目标字段名称“name”,将用户的证件类型以及证件号码字段,转换为用户的客户号,确定转换后的目标数据记录如下表2所示。其中,不同的数据处理节点用于执行不同的数据转换逻辑。
用户姓名(name) | 用户的客户号(customerNo) |
张三 | 001 |
李四 | 002 |
表2
基于图1所示的数据转换方法,本说明书实施例还对应提供一种数据转换装置的结构示意图,如图3所示。
图3为本说明书实施例提供的一种数据转换装置的结构示意图,所述装置包括:
解析模块200,对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录;
第一确定模块202,针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑;
输入模块204,将该条数据记录输入进行数据转换的处理链路中,所述处理链路包含若干数据处理节点,不同的数据处理节点用于执行不同的数据转换逻辑;
第二确定模块206,依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录;
执行模块208,根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
可选地,所述第一确定模块202具体用于,针对确定出的每条数据记录,确定该条数据记录中各数据字段的字段参数,所述字段参数至少包含字段名称以及字段类型,针对该条数据记录中的每个数据字段,根据该数据字段的字段参数以及预设的映射关系,确定该数据字段的数据转换逻辑,其中,所述映射关系中包含各数据字段与各数据字段进行数据转换所需的数据转换逻辑之间的对应关系,不同业务提供方对应的映射关系不完全相同。
可选地,所述数据转换逻辑包含通用转换逻辑,不同业务提供方的通用转换逻辑相同,所述数据转换装置还包含逻辑确定模块210,所述逻辑确定模块210具体用于,针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑,根据各业务提供方对应的各数据转换逻辑,从中确定逻辑一致的数据转换逻辑,作为通用转换逻辑。
可选地,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同,所述逻辑确定模块210具体用于,针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑,根据各业务提供方对应的各数据转换逻辑,从中确定逻辑不一致的数据转换逻辑,作为该业务提供方的自定义转换逻辑。
可选地,所述第二确定模块206具体用于,根据该数据处理节点的数据处理逻辑,将所述匹配的数据字段的字段参数转换为目标字段参数,根据转换后的目标字段参数,确定目标数据字段
可选地,所述第二确定模块206具体用于,确定所述匹配的数据字段所在数据记录的主键,根据该数据处理节点的数据转换逻辑以及所述匹配的数据字段对应的主键,从所述业务执行方预先存储的各映射数据记录中,确定对应所述主键的映射数据记录,从所述映射数据记录的各映射数据字段中,根据该数据处理节点的数据转换逻辑中的字段映射关系,确定所述匹配的数据字段对应的映射数据字段,并将确定出的映射数据字段作为目标数据字段。
可选地,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同,所述第二确定模块206具体用于,根据该数据处理节点的数据转换逻辑,在所述匹配的数据字段的指定位置添加预设的属性标识,并将添加后的数据字段作为目标数据字段。
本说明书实施例还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的数据转换方法。
基于图1所示的数据转换方法,本说明书实施例还提出了图4所示的电子设备的示意结构图。如图4,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所示的数据转换方法。
当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种数据转换方法,其特征在于,包括:
对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录;
针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑;
将该条数据记录输入进行数据转换的处理链路中,所述处理链路包含若干数据处理节点,不同的数据处理节点用于执行不同的数据转换逻辑;
依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录;
根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
2.如权利要求1所述的方法,其特征在于,针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑,具体包括:
针对确定出的每条数据记录,确定该条数据记录中各数据字段的字段参数,所述字段参数至少包含字段名称以及字段类型;
针对该条数据记录中的每个数据字段,根据该数据字段的字段参数以及预设的映射关系,确定该数据字段的数据转换逻辑;
其中,所述映射关系中包含各数据字段与各数据字段进行数据转换所需的数据转换逻辑之间的对应关系,不同业务提供方对应的映射关系不完全相同。
3.如权利要求1所述的方法,其特征在于,所述数据转换逻辑包含通用转换逻辑,不同业务提供方的通用转换逻辑相同;
所述通用转换逻辑采用以下方法确定,其中:
针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑;
根据各业务提供方对应的各数据转换逻辑,从中确定逻辑一致的数据转换逻辑,作为通用转换逻辑。
4.如权利要求1所述的方法,其特征在于,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同;
所述自定义转换逻辑采用以下方法确定,其中:
针对每个业务提供方,确定将该业务提供方的待处理的数据文件,转换为该业务执行方的目标数据文件所需的各数据转换逻辑;
根据各业务提供方对应的各数据转换逻辑,从中确定逻辑不一致的数据转换逻辑,作为该业务提供方的自定义转换逻辑。
5.如权利要求1所述的方法,其特征在于,根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
根据该数据处理节点的数据处理逻辑,将所述匹配的数据字段的字段参数转换为目标字段参数;
根据转换后的目标字段参数,确定目标数据字段。
6.如权利要求1所述的方法,其特征在于,根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
确定所述匹配的数据字段所在数据记录的主键;
根据该数据处理节点的数据转换逻辑以及所述匹配的数据字段对应的主键,从所述业务执行方预先存储的各映射数据记录中,确定对应所述主键的映射数据记录;
从所述映射数据记录的各映射数据字段中,根据该数据处理节点的数据转换逻辑中的字段映射关系,确定所述匹配的数据字段对应的映射数据字段,并将确定出的映射数据字段作为目标数据字段。
7.如权利要求1所述的方法,其特征在于,所述数据转换逻辑包含自定义转换逻辑,不同业务提供方的自定义转换逻辑不完全相同;
根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,具体包括:
根据该数据处理节点的数据转换逻辑,在所述匹配的数据字段的指定位置添加预设的属性标识,并将添加后的数据字段作为目标数据字段。
8.一种数据转换装置,其特征在于,包括:
解析模块,对业务提供方发送的待处理的数据文件,进行数据解析,确定所述待处理的数据文件中包含的各条数据记录;
第一确定模块,针对确定出的每条数据记录,根据预设的映射关系,确定该条数据记录中各数据字段的数据转换逻辑;
输入模块,将该条数据记录输入进行数据转换的处理链路中,所述处理链路包含若干数据处理节点,不同的数据处理节点用于执行不同的数据转换逻辑;
第二确定模块,依次针对每个数据处理节点,根据该数据处理节点的数据转换逻辑以及该条数据记录中各数据字段的数据转换逻辑,确定该条数据记录中与该数据处理节点匹配的数据字段,并根据该数据处理节点的数据转换逻辑,将所述匹配的数据字段转换为目标数据字段,直至通过所述处理链路中的各数据处理节点后,确定该条数据记录对应的目标数据记录;
执行模块,根据所述处理链路输出的各条目标数据记录,确定转换后的目标数据文件,以使业务执行方根据所述目标数据文件执行业务。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1-7任一所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1-7任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110169717.9A CN114911750A (zh) | 2021-02-07 | 2021-02-07 | 一种数据转换方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110169717.9A CN114911750A (zh) | 2021-02-07 | 2021-02-07 | 一种数据转换方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114911750A true CN114911750A (zh) | 2022-08-16 |
Family
ID=82761866
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110169717.9A Pending CN114911750A (zh) | 2021-02-07 | 2021-02-07 | 一种数据转换方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114911750A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116010506A (zh) * | 2023-03-03 | 2023-04-25 | 荣耀终端有限公司 | 一种采购数据的转换方法及电子设备 |
-
2021
- 2021-02-07 CN CN202110169717.9A patent/CN114911750A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116010506A (zh) * | 2023-03-03 | 2023-04-25 | 荣耀终端有限公司 | 一种采购数据的转换方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108228252B (zh) | 业务处理和业务流程配置方法、装置及设备 | |
CN109614823B (zh) | 一种数据的处理方法、装置及设备 | |
CN107424069B (zh) | 一种风控特征的生成方法、风险监控方法及设备 | |
CN111859470B (zh) | 一种业务数据上链方法及装置 | |
CN106899666B (zh) | 一种针对业务标识的数据处理方法及装置 | |
CN108599973B (zh) | 一种日志关联方法、装置及设备 | |
CN110472438B (zh) | 基于区块链的交易数据处理、交易查询方法、装置及设备 | |
CN112015739A (zh) | 一种数据核验、数据查询方法及装置 | |
CN112529694B (zh) | 授信处理方法、装置、设备及系统 | |
CN109241026B (zh) | 数据管理的方法、装置及系统 | |
CN111767499A (zh) | 一种页面配置方法及装置 | |
CN113495797A (zh) | 一种消息队列及消费者动态创建方法及系统 | |
CN113079224A (zh) | 一种账号绑定方法、装置、存储介质及电子设备 | |
CN112199416A (zh) | 数据规则生成方法及装置 | |
CN113254163B (zh) | 区块链数据的处理方法及装置 | |
CN109376988B (zh) | 一种业务数据的处理方法和装置 | |
CN114911750A (zh) | 一种数据转换方法及装置 | |
CN113643030B (zh) | 交易处理方法、装置及设备 | |
CN111324645B (zh) | 区块链的数据处理方法及装置 | |
US7657528B2 (en) | Method, computer program product and article of manufacture for providing service-to-role assignment to launch application services in role-based computer system | |
CN115934161A (zh) | 一种代码变更的影响分析方法、装置以及设备 | |
CN110245136B (zh) | 数据检索方法及装置、设备及存储设备 | |
CN111611056A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN111966709A (zh) | 一种数据查询方法、装置及电子设备 | |
CN112286572A (zh) | 一种业务流程的配置方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |