CN111488363B - 数据处理方法、装置、电子设备及介质 - Google Patents

Abstract

本发明涉及大数据，提供一种数据处理方法、装置、电子设备及介质。该方法能够从数据处理请求中确定目标系统，并确定目标系统上的数据存储形式，利用与数据存储形式对应的采集方式从目标系统中采集待处理数据，对待处理数据进行标准化处理，得到标准数据，对标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据，对初始数据进行维度规整处理，得到多个维度表，从数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法，利用数据分析算法分析多个维度表中的数据，得到目标数据表，根据目标数据表构建血缘图谱，解决了数据不易采集的问题，还提高了数据分析的效率。本发明还涉及区块链技术，所述血缘图谱存储于区块链中。

Description

数据处理方法、装置、电子设备及介质

技术领域

本发明涉及大数据的数据处理技术领域，尤其涉及一种数据处理方法、装置、电子设备及介质。

背景技术

随着信息化的快速发展，财政系统也随之增多。由于各个财政系统开发的时间跨度大，以及系统开发人员采用的技术也有所不同，造成各个财政系统之间不兼容，进而导致财政系统上的数据不易采集，同时，很多用于风险预测的数据并不是完全准确或规范的，增加了数据分析的难度。

然而，在现有的数据处理方案中，无法对多个不兼容的财政系统中的数据进行数据处理，造成财政系统上的数据无法被很好的利用。

发明内容

鉴于以上内容，有必要提供一种数据处理方法、装置、电子设备及介质，不仅能够解决系统不兼容而不易采集的问题，还能够降低数据分析的难度，同时，还能够提高数据分析的效率。

一种数据处理方法，所述数据处理方法包括：

当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式；

利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据；

对所述待处理数据进行标准化处理，得到标准数据；

对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据；

对所述初始数据进行维度规整处理，得到多个维度表；

从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法；

利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表；

根据所述目标数据表构建血缘图谱。

根据本发明优选实施例，所述利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据包括以下一种或者多种方式的组合：

当所述数据存储形式为数据库形式时，从所述目标系统中获取存储数据的目标数据库的存储地址，根据所述存储地址生成查询语句，利用所述查询语句从所述存储地址中获取数据，并将获取到的数据确定为所述待处理数据；及/或

当所述数据存储形式为数据文件形式时，从所述目标系统中获取存储数据的目标文件，解析所述目标文件，并从解析后的目标文件中捕获数据，作为所述待处理数据。

根据本发明优选实施例，所述对所述待处理数据进行标准化处理包括：

确定配置库中的数据格式及数据区间；

将所述待处理数据转换为具有所述数据格式的第一数据，并利用数据归一化算法将所述第一数据映射为所述数据区间内的数据，作为第二数据；

基于编码算法将所述第二数据转换为向量；

利用距离公式计算每两个向量之间的距离值，得到每对第二数据之间的相似度，每对第二数据是指所述第二数据中任意两个第二数据；

将相似度大于第一预设阈值的每对第二数据确定为重复数据对，并删除所述重复数据对中的任意一个数据，得到所述标准数据。

根据本发明优选实施例，所述对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据包括：

确定所述标准数据的数据长度，并检测所述数据长度是否满足预设长度；

当所述数据长度满足所述预设长度时，确定所述标准数据所在的第一数据源，并从所述第一数据源中确定与所述标准数据对应的原始数据；

对比所述标准数据与所述原始数据，得到对比结果；

当所述对比结果为一致时，确定所述标准数据通过质量检测，并将通过质量检测的标准数据确定为所述初始数据；或者

当所述数据长度不满足所述预设长度及/或所述对比结果为不一致时，确定所述标准数据未通过质量检测。

根据本发明优选实施例，所述数据处理方法还包括：

确定未通过质量检测的标准数据所在的第二数据源；

计算所述第二数据源上未通过质量检测的标准数据的第一数量，及计算所述第二数据源上通过质量检测的标准数据的第二数量；

对所述第一数量及所述第二数量进行和运算，得到运算结果，并将所述第一数量除以所述运算结果，得到目标占比；

当所述目标占比大于第二预设阈值时，确定所述第二数据源所属的源系统，并向所述源系统发送配置信息；

当所述配置信息在预设时间内未被响应时，断开与所述源系统的连接。

根据本发明优选实施例，所述根据所述用户需求生成数据分析算法包括：

确定与所述用户需求相关联的目标字段；

根据所述用户需求确定所述目标字段对应的运算规则；

获取与所述运算规则对应的脚本；

将所述目标字段填充至所述脚本中，生成所述数据分析算法。

根据本发明优选实施例，所述血缘图谱存储于区块链中，所述根据所述目标数据表构建血缘图谱包括：

提取所述目标数据表的正则解析脚本；

遍历所述多个维度表，根据所述正则解析脚本获取所述多个维度表中与所述目标数据表有依赖关系的血缘关系表；

按照前置依赖顺序对所述目标数据表与所述血缘关系表进行排序，生成所述血缘图谱。

一种数据处理装置，所述数据处理装置包括：

所述数据处理装置包括：

确定单元，用于当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式；

采集单元，用于利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据；

处理单元，用于对所述待处理数据进行标准化处理，得到标准数据；

检测单元，用于对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据；

所述处理单元，还用于对所述初始数据进行维度规整处理，得到多个维度表；

生成单元，用于从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法；

分析单元，用于利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表；

构建单元，用于根据所述目标数据表构建血缘图谱。

一种电子设备，所述电子设备包括：

存储器，存储至少一个指令；及

处理器，执行所述存储器中存储的指令以实现所述数据处理方法。

一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现所述数据处理方法。

由以上技术方案可以看出，本发明通过采取与所述数据存储形式对应的采集方式采集待处理数据，能够从互不兼容的系统中快速解析到所述待处理数据，从而解决系统不兼容而不易采集的问题，通过对数据进行标准化处理，能够确保用于数据分析的数据符合规范，降低数据分析的难度，通过质量检测能够避免不准确的数据用于数据分析，通过构建维度表，能够避免数据的杂乱化，从而提高数据分析的效率，通过构建血缘图谱，便于所述目标数据表中的数据追溯。

附图说明

图1是本发明数据处理方法的较佳实施例的流程图。

图2是本发明数据处理装置的较佳实施例的功能模块图。

图3是本发明实现数据处理方法的较佳实施例的电子设备的结构示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

如图1所示，是本发明数据处理方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。

所述数据处理方法应用于智慧政务场景中，从而推动智慧城市的建设。所述数据处理方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或 信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、 可编程门阵列(Field－Programmable Gate Array，FPGA)、 数字处理器(Digital Signal Processor，DSP)、 嵌入式设备等。

所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理（Personal Digital Assistant，PDA）、游戏机、交互式网络电视（Internet Protocol Television，IPTV）、智能式穿戴式设备等。

所述电子设备还可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算（CloudComputing）的由大量主机或网络服务器构成的云。

所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络（Virtual Private Network，VPN）等。

S10，当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式。

在本发明的至少一个实施例中，所述数据处理请求所携带的信息包括，但不限于：存储处理对象的系统标识、用户需求，例如：所述用户需求可以是计算A公司所有人员2019年上缴的总税额。

进一步地，所述目标系统可以是多个财政系统中的任意一个或者多个系统。

在本发明的至少一个实施例中，所述电子设备从所述数据处理请求中确定目标系统包括：

所述电子设备获取预设标签，利用所述预设标签从所述数据处理请求中获取系统标识，进一步地，所述电子设备通过所述系统标识确定所述目标系统。

通过预设标签与系统标识的映射关系，能够准确地确定出所述目标系统。

在本发明的至少一个实施例中，所述数据存储形式包括一种或者多种形式的组合：

数据库形式、数据文件形式、接口形式。

在本发明的至少一个实施例中，所述电子设备确定所述目标系统上的数据存储形式包括：

所述电子设备获取所述目标系统上的存储规则，进一步地，所述电子设备根据所述存储规则确定所述数据存储形式。

S11，利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据。

在本发明的至少一个实施例中，所述待处理数据是指用于数据分析的待处理对象。

在本发明的至少一个实施例中，所述电子设备利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据包括以下一种或者多种方式的组合：

（1）当所述数据存储形式为所述数据库形式时，所述电子设备从所述目标系统中获取存储数据的目标数据库的存储地址，并根据所述存储地址生成查询语句，所述电子设备利用所述查询语句从所述存储地址中获取数据，并将获取到的数据确定为所述待处理数据；

（2）当所述数据存储形式为所述数据文件形式时，所述电子设备从所述目标系统中获取存储数据的目标文件，所述电子设备解析所述目标文件，并从解析后的目标文件中捕获数据，作为所述待处理数据。

通过上述实施方式，能够对多种数据存储形式的数据进行采集，从而解决系统不兼容而不易采集的问题。

S12，对所述待处理数据进行标准化处理，得到标准数据。

在本发明的至少一个实施例中，所述标准化处理包括：归一化处理、去重处理等。

在本发明的至少一个实施例中，所述电子设备对所述待处理数据进行标准化处理包括：

所述电子设备确定配置库中的数据格式及数据区间，进一步地，所述电子设备将所述待处理数据转换为具有所述数据格式的第一数据，并利用数据归一化算法将所述第一数据映射为所述数据区间内的数据，作为第二数据，所述电子设备基于编码算法将所述第二数据转换为向量，更进一步地，所述电子设备利用距离公式计算每两个向量之间的距离值，得到每对第二数据之间的相似度，每对第二数据是指所述第二数据中任意两个第二数据，所述电子设备将相似度大于第一预设阈值的每对第二数据确定为重复数据对，并删除所述重复数据对中的任意一个数据，得到所述标准数据。

其中，配置库可以是所述电子设备中任意数据库。进一步地，所述数据归一化方法可以是以下任意一种方式：log函数转换方式、atan函数转换方式、z-score标准化方式、模糊量化方式。

通过将待处理数据转换为具有配置库的数据格式的数据，解决了不同系统之间的数据格式不同的问题，此外，由于数据格式不同导致数据采集时不易确定重复数据，通过数据格式的标准化，能够将不同系统之间的相同数据进行删除，节省电子设备的内存及处理线程。

S13，对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据。

在本发明的至少一个实施例中，所述初始数据是指数据长度满足预设长度，以及与原始数据一致的标准数据。

在本发明的至少一个实施例中，所述电子设备对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据包括：

所述电子设备确定所述标准数据的数据长度，并检测所述数据长度是否满足预设长度，当所述数据长度满足所述预设长度时，所述电子设备确定所述标准数据所在的第一数据源，并从所述第一数据源中确定与所述标准数据对应的原始数据，所述电子设备对比所述标准数据与所述原始数据，得到对比结果，当所述对比结果为一致时，所述电子设备确定所述标准数据通过质量检测，并将通过质量检测的标准数据确定为所述初始数据，或者，当所述数据长度不满足所述预设长度及/或所述对比结果为不一致时，所述电子设备确定所述标准数据未通过质量检测。

其中，所述预设长度是指数据的位数，具体的预设长度可以根据实际场景确定，本发明对此不作限制。

通过检测所述标准数据的数据长度是否满足预设长度，能够快速确定出在所述数据区间的数据，进而确保初始数据在所述数据区间内，通过检测所述标准数据及所述原始数据，能够确保从所述目标系统中采集的数据与所述标准数据相同，通过双重检测，确保所述初始数据的质量符合规范，降低数据分析的难度。

在本发明的至少一个实施例中，所述方法还包括：

所述电子设备确定未通过质量检测的标准数据所在的第二数据源，进一步地，所述电子设备计算所述第二数据源上未通过质量检测的标准数据的第一数量，及计算所述第二数据源上通过质量检测的标准数据的第二数量，所述电子设备对所述第一数量及所述第二数量进行和运算，得到运算结果，并将所述第一数量除以所述运算结果，得到目标占比，当所述目标占比大于第二预设阈值时，所述电子设备确定所述第二数据源所属的源系统，并向所述源系统发送配置信息，当所述配置信息在预设时间内未被响应时，所述电子设备断开与所述源系统的连接。

S14，对所述初始数据进行维度规整处理，得到多个维度表。

在本发明的至少一个实施例中，所述多个维度表中每个维度表中的所有数据属于同一维度，例如，人员维度表中的数据包括多个人员的姓名，工资维度表中的数据包括多个人员的工资，上缴税额维度表中的数据包括多个人员的上缴税额。

在本发明的至少一个实施例中，所述电子设备检测所述初始数据所属的维度，进一步地，所述电子设备将所述初始数据存入与所述维度对应的表格中，得到所述多个维度表。

通过构建维度表，能够避免数据的杂乱化，从而提高数据分析的效率。

S15，从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法。

在本发明的至少一个实施例中，所述电子设备从所述数据处理请求中提取所述用户需求的方式与所述电子设备从所述数据处理请求中获取所述系统标识的方式相同，本发明对此不再赘述。

在本发明的至少一个实施例中，所述电子设备根据所述用户需求生成数据分析算法包括：

所述电子设备确定与所述用户需求相关联的目标字段，所述电子设备根据所述用户需求确定所述目标字段对应的运算规则，所述电子设备获取与所述运算规则对应的脚本，所述电子设备将所述目标字段填充至所述脚本中，生成所述数据分析算法。

例如：用户需求甲为“计算A公司所有人员2019年上缴的总税额”，所述电子设备确定与所述用户需求甲相关联的目标字段为：A公司所有人员、所有人员2019年上缴的税额，进一步地，所述电子设备根据所述用户需求甲“计算A公司所有人员2019年上缴的总税额”确定所述目标字段“A公司所有人员”及目标字段“所有人员2019年上缴的税额”对应的运算规则为加法。

通过上述实施方式，能够快速生成适用于所述数据处理请求的数据分析算法。

S16，利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表。

在本发明的至少一个实施例中，所述目标数据表是指经过所述数据分析算法后得到的数据表。

S17，根据所述目标数据表构建血缘图谱。

需要强调的是，为进一步保证上述血缘图谱的私密和安全性，上述血缘图谱还可以存储于一区块链的节点中。

在本发明的至少一个实施例中，所述血缘图谱可以是树形结构图，所述血缘图谱中包括所述目标数据表及血缘关系表，进一步地，所述血缘关系表是指在生成所述目标数据表时应用到的维度表。

在本发明的至少一个实施例中，所述电子设备根据所述目标数据表构建血缘图谱包括：

所述电子设备提取所述目标数据表的正则解析脚本，进一步地，所述电子设备遍历所述多个维度表，根据所述正则解析脚本获取所述多个维度表中与所述目标数据表有依赖关系的血缘关系表，更进一步地，所述电子设备按照前置依赖顺序对所述目标数据表与所述血缘关系表进行排序，生成所述血缘图谱。

通过构建血缘图谱，便于所述目标数据表中的数据追溯。

由以上技术方案可以看出，本发明通过采取与所述数据存储形式对应的采集方式采集待处理数据，能够从互不兼容的系统中快速解析到所述待处理数据，从而解决系统不兼容而不易采集的问题，通过对数据进行标准化处理，能够确保用于数据分析的数据符合规范，降低数据分析的难度，通过质量检测能够避免不准确的数据用于数据分析，通过构建维度表，能够避免数据的杂乱化，从而提高数据分析的效率，通过构建血缘图谱，便于所述目标数据表中的数据追溯。

如图2所示，是本发明数据处理装置的较佳实施例的功能模块图。所述数据处理装置11包括确定单元110、采集单元111、处理单元112、检测单元113、生成单元114、分析单元115、构建单元116、计算单元117及连接单元118。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机程序段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。

当接收到数据处理请求时，确定单元110从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式。

在本发明的至少一个实施例中，所述数据处理请求所携带的信息包括，但不限于：存储处理对象的系统标识、用户需求，例如：所述用户需求可以是计算A公司所有人员2019年上缴的总税额。

进一步地，所述目标系统可以是多个财政系统中的任意一个或者多个系统。

在本发明的至少一个实施例中，所述确定单元110从所述数据处理请求中确定目标系统包括：

所述确定单元110获取预设标签，利用所述预设标签从所述数据处理请求中获取系统标识，进一步地，所述确定单元110通过所述系统标识确定所述目标系统。

通过预设标签与系统标识的映射关系，能够准确地确定出所述目标系统。

在本发明的至少一个实施例中，所述数据存储形式包括一种或者多种形式的组合：

数据库形式、数据文件形式、接口形式。

在本发明的至少一个实施例中，所述确定单元110确定所述目标系统上的数据存储形式包括：

所述确定单元110获取所述目标系统上的存储规则，进一步地，所述确定单元110根据所述存储规则确定所述数据存储形式。

采集单元111利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据。

在本发明的至少一个实施例中，所述待处理数据是指用于数据分析的待处理对象。

在本发明的至少一个实施例中，所述采集单元111利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据包括以下一种或者多种方式的组合：

（1）当所述数据存储形式为所述数据库形式时，所述采集单元111从所述目标系统中获取存储数据的目标数据库的存储地址，并根据所述存储地址生成查询语句，所述采集单元111利用所述查询语句从所述存储地址中获取数据，并将获取到的数据确定为所述待处理数据；

（2）当所述数据存储形式为所述数据文件形式时，所述采集单元111从所述目标系统中获取存储数据的目标文件，所述电子设备解析所述目标文件，并从解析后的目标文件中捕获数据，作为所述待处理数据。

通过上述实施方式，能够对多种数据存储形式的数据进行采集，从而解决系统不兼容而不易采集的问题。

处理单元112对所述待处理数据进行标准化处理，得到标准数据。

在本发明的至少一个实施例中，所述标准化处理包括：归一化处理、去重处理等。

在本发明的至少一个实施例中，所述处理单元112对所述待处理数据进行标准化处理包括：

所述处理单元112确定配置库中的数据格式及数据区间，进一步地，所述处理单元112将所述待处理数据转换为具有所述数据格式的第一数据，并利用数据归一化算法将所述第一数据映射为所述数据区间内的数据，作为第二数据，所述处理单元112基于编码算法将所述第二数据转换为向量，更进一步地，所述处理单元112利用距离公式计算每两个向量之间的距离值，得到每对第二数据之间的相似度，每对第二数据是指所述第二数据中任意两个第二数据，所述处理单元112将相似度大于第一预设阈值的每对第二数据确定为重复数据对，并删除所述重复数据对中的任意一个数据，得到所述标准数据。

其中，配置库可以是所述电子设备中任意数据库。进一步地，所述数据归一化方法可以是以下任意一种方式：log函数转换方式、atan函数转换方式、z-score标准化方式、模糊量化方式。

通过将待处理数据转换为具有配置库的数据格式的数据，解决了不同系统之间的数据格式不同的问题，此外，由于数据格式不同导致数据采集时不易确定重复数据，通过数据格式的标准化，能够将不同系统之间的相同数据进行删除，节省电子设备的内存及处理线程。

检测单元113对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据。

在本发明的至少一个实施例中，所述初始数据是指数据长度满足预设长度，以及与原始数据一致的标准数据。

在本发明的至少一个实施例中，所述检测单元113对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据包括：

所述检测单元113确定所述标准数据的数据长度，并检测所述数据长度是否满足预设长度，当所述数据长度满足所述预设长度时，所述检测单元113确定所述标准数据所在的第一数据源，并从所述第一数据源中确定与所述标准数据对应的原始数据，所述检测单元113对比所述标准数据与所述原始数据，得到对比结果，当所述对比结果为一致时，所述检测单元113确定所述标准数据通过质量检测，并将通过质量检测的标准数据确定为所述初始数据，或者，当所述数据长度不满足所述预设长度及/或所述对比结果为不一致时，所述检测单元113确定所述标准数据未通过质量检测。

其中，所述预设长度是指数据的位数，具体的预设长度可以根据实际场景确定，本发明对此不作限制。

通过检测所述标准数据的数据长度是否满足预设长度，能够快速确定出在所述数据区间的数据，进而确保初始数据在所述数据区间内，通过检测所述标准数据及所述原始数据，能够确保从所述目标系统中采集的数据与所述标准数据相同，通过双重检测，确保所述初始数据的质量符合规范，降低数据分析的难度。

在本发明的至少一个实施例中，所述确定单元110确定未通过质量检测的标准数据所在的第二数据源，进一步地，计算单元117计算所述第二数据源上未通过质量检测的标准数据的第一数量，及计算所述第二数据源上通过质量检测的标准数据的第二数量，所述计算单元117对所述第一数量及所述第二数量进行和运算，得到运算结果，并将所述第一数量除以所述运算结果，得到目标占比，当所述目标占比大于第二预设阈值时，所述确定单元110确定所述第二数据源所属的源系统，并向所述源系统发送配置信息，当所述配置信息在预设时间内未被响应时，连接单元118断开与所述源系统的连接。

所述处理单元112对所述初始数据进行维度规整处理，得到多个维度表。

在本发明的至少一个实施例中，所述多个维度表中每个维度表中的所有数据属于同一维度，例如，人员维度表中的数据包括多个人员的姓名，工资维度表中的数据包括多个人员的工资，上缴税额维度表中的数据包括多个人员的上缴税额。

在本发明的至少一个实施例中，所述处理单元112检测所述初始数据所属的维度，进一步地，所述处理单元112将所述初始数据存入与所述维度对应的表格中，得到所述多个维度表。

通过构建维度表，能够避免数据的杂乱化，从而提高数据分析的效率。

生成单元114从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法。

在本发明的至少一个实施例中，所述生成单元114从所述数据处理请求中提取所述用户需求的方式与所述确定单元110从所述数据处理请求中获取所述系统标识的方式相同，本发明对此不再赘述。

在本发明的至少一个实施例中，所述生成单元114根据所述用户需求生成数据分析算法包括：

所述生成单元114确定与所述用户需求相关联的目标字段，所述生成单元114根据所述用户需求确定所述目标字段对应的运算规则，所述生成单元114获取与所述运算规则对应的脚本，所述生成单元114将所述目标字段填充至所述脚本中，生成所述数据分析算法。

例如：用户需求甲为“计算A公司所有人员2019年上缴的总税额”，所述生成单元114确定与所述用户需求甲相关联的目标字段为：A公司所有人员、所有人员2019年上缴的税额，进一步地，所述生成单元114根据所述用户需求甲“计算A公司所有人员2019年上缴的总税额”确定所述目标字段“A公司所有人员”及目标字段“所有人员2019年上缴的税额”对应的运算规则为加法。

通过上述实施方式，能够快速生成适用于所述数据处理请求的数据分析算法。

分析单元115利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表。

在本发明的至少一个实施例中，所述目标数据表是指经过所述数据分析算法后得到的数据表。

构建单元116根据所述目标数据表构建血缘图谱。

需要强调的是，为进一步保证上述血缘图谱的私密和安全性，上述血缘图谱还可以存储于一区块链的节点中。

在本发明的至少一个实施例中，所述血缘图谱可以是树形结构图，所述血缘图谱中包括所述目标数据表及血缘关系表，进一步地，所述血缘关系表是指在生成所述目标数据表时应用到的维度表。

在本发明的至少一个实施例中，所述构建单元116根据所述目标数据表构建血缘图谱包括：

所述构建单元116提取所述目标数据表的正则解析脚本，进一步地，所述构建单元116遍历所述多个维度表，根据所述正则解析脚本获取所述多个维度表中与所述目标数据表有依赖关系的血缘关系表，更进一步地，所述构建单元116按照前置依赖顺序对所述目标数据表与所述血缘关系表进行排序，生成所述血缘图谱。

通过构建血缘图谱，便于所述目标数据表中的数据追溯。

由以上技术方案可以看出，本发明通过采取与所述数据存储形式对应的采集方式采集待处理数据，能够从互不兼容的系统中快速解析到所述待处理数据，从而解决系统不兼容而不易采集的问题，通过对数据进行标准化处理，能够确保用于数据分析的数据符合规范，降低数据分析的难度，通过质量检测能够避免不准确的数据用于数据分析，通过构建维度表，能够避免数据的杂乱化，从而提高数据分析的效率，通过构建血缘图谱，便于所述目标数据表中的数据追溯。

如图3所示，是本发明实现数据处理方法的较佳实施例的电子设备的结构示意图。

在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机程序，例如数据处理程序。

本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。

所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器 (Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列 (Field-Programmable Gate Array，FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。

所述处理器13执行所述电子设备1的操作系统以及安装的各类应用程序。所述处理器13执行所述应用程序以实现上述各个数据处理方法实施例中的步骤，例如图1所示的步骤。

示例性的，所述计算机程序可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序在所述电子设备1中的执行过程。例如，所述计算机程序可以被分割成确定单元110、采集单元111、处理单元112、检测单元113、生成单元114、分析单元115、构建单元116、计算单元117及连接单元118。

所述存储器12可用于存储所述计算机程序和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机程序和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序（比如声音播放功能、图像播放功能等）等；存储数据区可存储根据电子设备的使用所创建的数据等。此外，存储器12可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡（Smart Media Card,SMC），安全数字（Secure Digital, SD）卡，闪存卡（Flash Card）、至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。

所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡（Trans-flash Card）等等。

所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。

其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）。

结合图1，所述电子设备1中的所述存储器12存储多个指令以实现一种数据处理方法，所述处理器13可执行所述多个指令从而实现：当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式；利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据；对所述待处理数据进行标准化处理，得到标准数据；对所述标准数据进行质量检测，并将通过质量检测的标准数据确定为初始数据；对所述初始数据进行维度规整处理，得到多个维度表；从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法；利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表；根据所述目标数据表构建血缘图谱。

具体地，所述处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。

本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。

此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。

最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种数据处理方法，其特征在于，所述数据处理方法包括：

当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式；

利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据；

对所述待处理数据进行标准化处理，得到标准数据；

确定所述标准数据的数据长度，并检测所述数据长度是否满足预设长度；

当所述数据长度满足所述预设长度时，确定所述标准数据所在的第一数据源，并从所述第一数据源中确定与所述标准数据对应的原始数据；

对比所述标准数据与所述原始数据，得到对比结果；

当所述对比结果为一致时，确定所述标准数据通过质量检测，并将通过质量检测的标准数据确定为初始数据；

对所述初始数据进行维度规整处理，得到多个维度表；

从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法；

利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表；

根据所述目标数据表构建血缘图谱。

2.如权利要求1所述的数据处理方法，其特征在于，所述利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据包括以下一种或者多种方式的组合：

当所述数据存储形式为数据库形式时，从所述目标系统中获取存储数据的目标数据库的存储地址，根据所述存储地址生成查询语句，利用所述查询语句从所述存储地址中获取数据，并将获取到的数据确定为所述待处理数据；及/或

当所述数据存储形式为数据文件形式时，从所述目标系统中获取存储数据的目标文件，解析所述目标文件，并从解析后的目标文件中捕获数据，作为所述待处理数据。

3.如权利要求1所述的数据处理方法，其特征在于，所述对所述待处理数据进行标准化处理包括：

确定配置库中的数据格式及数据区间；

将所述待处理数据转换为具有所述数据格式的第一数据，并利用数据归一化算法将所述第一数据映射为所述数据区间内的数据，作为第二数据；

基于编码算法将所述第二数据转换为向量；

利用距离公式计算每两个向量之间的距离值，得到每对第二数据之间的相似度，每对第二数据是指所述第二数据中任意两个第二数据；

将相似度大于第一预设阈值的每对第二数据确定为重复数据对，并删除所述重复数据对中的任意一个数据，得到所述标准数据。

4.如权利要求1所述的数据处理方法，其特征在于，所述方法还包括：

当所述数据长度不满足所述预设长度及/或所述对比结果为不一致时，确定所述标准数据未通过质量检测。

5.如权利要求1所述的数据处理方法，其特征在于，所述数据处理方法还包括：

确定未通过质量检测的标准数据所在的第二数据源；

计算所述第二数据源上未通过质量检测的标准数据的第一数量，及计算所述第二数据源上通过质量检测的标准数据的第二数量；

对所述第一数量及所述第二数量进行和运算，得到运算结果，并将所述第一数量除以所述运算结果，得到目标占比；

当所述目标占比大于第二预设阈值时，确定所述第二数据源所属的源系统，并向所述源系统发送配置信息；

当所述配置信息在预设时间内未被响应时，断开与所述源系统的连接。

6.如权利要求1所述的数据处理方法，其特征在于，所述根据所述用户需求生成数据分析算法包括：

确定与所述用户需求相关联的目标字段；

根据所述用户需求确定所述目标字段对应的运算规则；

获取与所述运算规则对应的脚本；

将所述目标字段填充至所述脚本中，生成所述数据分析算法。

7.如权利要求1所述的数据处理方法，其特征在于，所述血缘图谱存储于区块链中，所述根据所述目标数据表构建血缘图谱包括：

提取所述目标数据表的正则解析脚本；

遍历所述多个维度表，根据所述正则解析脚本获取所述多个维度表中与所述目标数据表有依赖关系的血缘关系表；

按照前置依赖顺序对所述目标数据表与所述血缘关系表进行排序，生成所述血缘图谱。

8.一种数据处理装置，其特征在于，所述数据处理装置包括：

确定单元，用于当接收到数据处理请求时，从所述数据处理请求中确定目标系统，并确定所述目标系统上的数据存储形式；

采集单元，用于利用与所述数据存储形式对应的采集方式从所述目标系统中采集待处理数据；

处理单元，用于对所述待处理数据进行标准化处理，得到标准数据；

检测单元，用于确定所述标准数据的数据长度，并检测所述数据长度是否满足预设长度；

所述检测单元，还用于当所述数据长度满足所述预设长度时，确定所述标准数据所在的第一数据源，并从所述第一数据源中确定与所述标准数据对应的原始数据；

所述检测单元，还用于对比所述标准数据与所述原始数据，得到对比结果；

所述检测单元，还用于当所述对比结果为一致时，确定所述标准数据通过质量检测，并将通过质量检测的标准数据确定为初始数据；

所述处理单元，还用于对所述初始数据进行维度规整处理，得到多个维度表；

生成单元，用于从所述数据处理请求中提取用户需求，并根据所述用户需求生成数据分析算法；

分析单元，用于利用所述数据分析算法分析所述多个维度表中的数据，得到目标数据表；

构建单元，用于根据所述目标数据表构建血缘图谱。

9.一种电子设备，其特征在于，所述电子设备包括：

存储器，存储至少一个指令；及

处理器，执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的数据处理方法。

10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的数据处理方法。

Images