CN115827752A - 数据处理方法、装置及计算机设备 - Google Patents

Abstract

本发明提供一种数据处理方法、装置及计算机设备，方法包括：提取多组不同位置的待处理数据，并复制每组待处理数据以得到复制数据，及检测复制数据的数据类型；基于复制数据和复制数据的数据类型确定应用于复制数据的数据类型的一个或多个处理规则，并根据一个或多个规则生成复制数据的一个或多个提议动作指令；获取复制数据的记录和元数据，并将复制数据的记录和元数据连续附加到复制数据的索引上；根据提议动作指令对复制数据执行相应的提议动作，以将复制数据转换成处理后的复制数据。由此，可将来自不同位置的待处理数据，进行高效连续数据索引，最终再通过执行提议动作，完成高效的数据转换和信息化处理，提升了数据处理的效率。

Description

数据处理方法、装置及计算机设备

技术领域

本发明涉及信息化处理技术领域，具体涉及一种数据处理方法、一种数据处理装置和一种计算机设备。

背景技术

在数据系统中，常常需要对不同位置的数据信息进行复制调用，然后进行分类索引，并汇总一块进行处理，在此过程中，复制调用的数据往往缺乏相互关联性，即杂乱无章，在后期处理、转换的过程中需要耗费巨大的精力和时间，导致数据处理效率低。

发明内容

目前急需一种能够在多个不同位置的多个数据存储中复制调用存储数据，并提供高效索引和决策系统来执行数据处理的方式。

因此为解决在后期处理、转换的过程中需要耗费巨大的精力和时间，导致数据处理效率低的技术问题，本发明采用的技术方案如下。

本发明的实施例提出了一种数据处理方法，包括：提取多组不同位置的待处理数据，并复制每组所述待处理数据以得到复制数据，及检测所述复制数据的数据类型；基于所述复制数据和所述复制数据的数据类型确定应用于所述复制数据的数据类型的一个或多个处理规则，并根据一个或多个所述规则生成所述复制数据的一个或多个提议动作指令，其中，所述处理规则与所述动作指令一一对应；获取所述复制数据的记录和元数据，并将所述复制数据的记录和元数据连续附加到所述复制数据的索引上；根据所述提议动作指令对所述复制数据执行相应的提议动作，以将所述复制数据转换成处理后的复制数据。

另外，根据本发明上述实施例提出的数据处理方法还可以具有如下附加技术特征：

根据本发明的一个实施例，所述提议动作包括编校、存储、令牌化、重新加密、重新认证、重新分解、重定向和下载动作中的至少一种。

根据本发明的一个实施例，所述复制数据的数据类型包括与用户相关联的个人识别数据类型。

根据本发明的一个实施例，所述处理规则包括对与用户相关联的个人识别信息进行编辑，所述提议动作包括编辑动作。

根据本发明的一个实施例，数据处理方法还包括：检测所述复制数据属于已加密的复制数据；从密钥管理器检索与所述已加密的复制数据相关联的密钥；使用与所述已加密的复制数据相关联的密钥解密所述复制数据。

根据本发明的一个实施例，数据处理方法还包括：接收来自用户的下载处理后的复制数据的请求；从所述复制数据的索引中检索所述处理后的复制数据的位置；从所述用户接收认证凭证，并授权所述用户下载所述处理后的复制数据。

根据本发明的一个实施例，所述复制数据的元数据包括所述复制数据的信息、目标位置和规则数据中的至少一种。

本发明第二方面实施例提出了一种数据处理装置，包括：复制模块，用于提取多组不同位置的待处理数据，并复制每组所述待处理数据以得到复制数据，及检测所述复制数据的数据类型；生成模块，用于基于所述复制数据和所述复制数据的数据类型确定应用于所述复制数据的数据类型的一个或多个规则，并根据一个或多个所述规则生成所述复制数据的一个或多个提议动作指令，其中，所述规则与所述动作指令一一对应；附加模块，用于获取所述复制数据的记录和元数据，并将所述复制数据的记录和元数据连续附加到所述复制数据的索引上；执行模块，用于根据所述提议动作指令对所述复制数据执行相应的提议动作，以将所述复制数据转换成处理后的复制数据。

本发明第三方面实施例提出了一种计算机设备，包括包括处理器、存储器及存储在所述存储器上的计算机程序，其特征在于，所述处理器执行所述计算机程序时，实现本发明第一方面实施例提出的数据处理方法。

本发明实施例的技术方案，首先提取多组不同位置的待处理数据，并复制每组待处理数据以得到复制数据，及检测复制数据的数据类型，之后确定应用于复制数据的数据类型的一个或多个处理规则，并根据一个或多个规则生成复制数据的一个或多个提议动作指令，获取复制数据的记录和元数据，并将复制数据的记录和元数据连续附加到复制数据的索引上，最后根据提议动作指令对复制数据执行相应的提议动作，以将复制数据转换成处理后的复制数据。由此，可将来自不同位置的待处理数据，进行高效连续数据索引，最终再通过执行提议动作，完成高效的数据转换和信息化处理，提升了数据处理的效率。

附图说明

图1是根据本发明实施例的数据处理方法的流程图。

图2是根据本发明实施例的数据处理装置的方框示意图。

图3是根据本发明实施例的计算机设备的方框示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1是根据本发明实施例的数据处理方法的流程图。

需要说明的是，该方法的执行主体可以是处理器，该处理器通过通信接口与存储器相连，其中，存储器上存储有可执行的计算机程序，其中当计算机程序由处理器执行时，实现本发明实施例的数据处理方法。

如图1所示，该数据处理方法包括以下步骤S1至S4。

S1，提取多组不同位置的待处理数据，并复制每组待处理数据以得到复制数据，及检测复制数据的数据类型。

具体地，在需要对多组不同位置的数据进行处理、转换时，处理器可从数据源计算系统提取多组不同位置的待处理数据，并针对每组待处理数据，对其进行复制，复制后得到每组待处理数据的复制数据，并检测每组复制数据的数据类型，如此得到多组复制数据及其数据类型。

S2，基于复制数据和复制数据的数据类型确定应用于复制数据的数据类型的一个或多个处理规则，并根据一个或多个规则生成复制数据的一个或多个提议动作指令，其中，规则与动作指令一一对应。

其中，处理规则可以是针对足够多的数据类型制定的要遵守的数据处理规则。

具体地，对于每组复制数据及其数据类型，基于复制数据及其数据类型(例如用户数据类型)，可通过规则引擎确定应用于该复制数据的至少一个处理规则，并通过规则引擎根据该至少一个处理规则生成复制数据的至少一个提议动作指令。

其中，规则引擎可以从各种数据馈送(例如认证源、安全组源等)收集与传入数据相关联的元数据(例如，适用于传入数据的处理规则、数据源位置、数据目标位置、数据类型等)。随着规则的更新或更改，规则引擎可以将更新的规则应用于待处理数据。基于应用于数据目标位置的规则，规则引擎可以使用决策逻辑来确定传入数据的格式。

S3，获取复制数据的记录和元数据，并将复制数据的记录和元数据连续附加到复制数据的索引上。

其中，复制数据的元数据包括复制数据的信息(比如时间地点等基础信息)、目标位置和规则数据中的至少一种。

本发明实施例还可以包括索引引擎，该引擎可以连续跟踪和记录系统处理的数据和/或元数据。具体而言，系统可以创建传入数据类型(例如，用户数据)、数据源、数据目标位置、元数据、规则引擎提出的动作与采取的动作等的日志。在一些实施例中，索引引擎不仅可以跟踪传入数据的当前状态，还可以包括在一段时间内对某些处理数据的更改的完整历史。通过这种方式，索引引擎提供了一种确定存储在不同位置的数据状态的方法，这些数据可能在任何给定时间点都是已知的。例如，索引引擎可用于在特定时间点确定特定位置内用户数据的状态。

具体地，可从规则引擎获取复制数据的元数据，可通过索引引擎将复制数据的记录和元数据连续附加到复制数据的索引上。

S4，根据提议动作指令对复制数据执行相应的提议动作，以将复制数据转换成处理后的复制数据。

其中，提议动作包括编校、存储、令牌化、重新加密、重新认证、重新分解和重定向中的至少一种。

本发明实施例还可以包括一个动作引擎，该引擎可以执行由规则引擎生成的提议动作指令。提议动作可以包括数据元素的编校或修改、数据的存储和/或重定向、数据的令牌化或重新加密、身份验证和/或重新身份验证、用户下载请求的实现等。

具体地，可通过动作引擎根据提议动作指令对复制数据执行相应的提议动作，比如编校、存储、令牌化、重新加密、重新认证、重新分解和重定向中的至少一种，以将该复制数据转换成处理后的复制数据，以此适应多种或不同环境用户使用，提高应用的广泛性。

通过步骤S1至S4，可将多组来自不同位置的多组待处理数据一一转换成处理后的复制数据，由此实现多组数据的复制调用，并进行数据的转换处理。

也就是说，本发明实施例通过将来自不同位置的调用数据引入规则引擎，完成高效连续数据索引，最终再由动作引擎传入数据以及元数据(例如，数据源、数据存储位置、与数据相关联的规则等)，完成高效的数据转换和信息化处理。可以避免以往调用复制不同位置数据时，信息转换效率低下的麻烦。

当提取两组不同位置的待处理数据时，处理器从数据源计算系统接收第一组待处理数据，并复制第一组待处理数据及检测复制数据的数据类型；基于复制数据和复制数据的数据类型，通过规则引擎确定一个或多个处理规则，并通过规则引擎生成关于复制数据的一个或多个提议动作指令；使用索引引擎，将复制数据的记录和复制数据的元数据连续附加到复制数据的索引上；以及通过动作引擎执行一个或多个提议动作，以从复制数据生成处理后的复制数据。

处理器接收第二组待处理数据，并复制第二组待处理数据及检测复制数据的数据类型，通过复制数据索引和复制数据确定附加规则；通过规则引擎生成关于对复制数据的额外提议动作；并通过动作引擎执行额外提议动作，以生成处理后的复制数据。由此实现多组数据的复制调用，并进行数据的转换处理。

本发明实施例的数据处理方法，可将来自不同位置的待处理数据，进行高效连续数据索引，最终再通过执行提议动作，完成高效的数据转换和信息化处理，提升了数据处理的效率。

在本发明的一个实施例中，复制数据的数据类型为与用户相关联的个人识别数据类型。

进一步地，处理规则包括对与用户相关联的个人识别数据进行编辑，提议动作包括编辑动作。

具体而言，当复制数据的数据类型为与用户相关联的个人识别数据类型时，处理器通过规则引擎确定处理规则为：与用于相关联的个人识别数据进行编辑，并通过规则引擎根据该规则生成关于复制数据的提议动作指令：编辑动作指令。

在本发明的一个实施例中，数据处理方法还可包括：检测复制数据属于已加密的复制数据；从密钥管理器检索与已加密的复制数据相关联的密钥；使用与已加密的复制数据相关联的密钥解密复制数据。

具体而言，处理器可检测复制数据是否已被加密，如果是，则从密钥管理器检索与已加密的复制数据相关联的密钥，以及使用与已加密的复制数据相关联的密钥解密复制数据，解密之后，进行后续处理。

在本发明的一个实施例中，数据处理方法还可包括：接收来自用户的下载处理后的复制数据的请求；从复制数据的索引中检索处理后的复制数据的位置；从用户接收认证凭证，并授权用户下载处理后的复制数据。

具体而言，在用户有下载处理的请求时，处理器接收该下载请求，从复制数据索引中检索处理后的复制数据的位置，从用户接收认证凭证，并授权用户下载处理后的复制数据，提高功能的多样性。

综上所述，根据本发明实施例的数据处理方法，通过将来自不同位置的调用数据引入规则引擎，完成高效连续数据索引，最终再由动作引擎传入数据以及元数据(例如，数据源、数据存储位置、与数据相关联的规则等)，完成高效的数据转换和信息化处理。

图2是根据本发明实施例的数据处理装置的方框示意图。

如图2所示，该数据处理装置包括复制模块10、生成模块20、附加模块30和执行模块40。

其中，复制模块10用于提取多组不同位置的待处理数据，并复制每组所述待处理数据以得到复制数据，及检测所述复制数据的数据类型；生成模块20用于基于所述复制数据和所述复制数据的数据类型确定应用于所述复制数据的数据类型的一个或多个规则，并根据一个或多个所述规则生成所述复制数据的一个或多个提议动作指令，其中，所述规则与所述动作指令一一对应；附加模块30用于获取所述复制数据的记录和元数据，并将所述复制数据的记录和元数据连续附加到所述复制数据的索引上；执行模块40用于根据所述提议动作指令对所述复制数据执行相应的提议动作，以将所述复制数据转换成处理后的复制数据。

需要说明的是，该实施例的数据处理装置展开的解释说明可参见前述对数据处理方法实施例的解释说明，此处不再赘述。

本发明实施例的数据处理装置，可将来自不同位置的待处理数据，进行高效连续数据索引，最终再通过执行提议动作，完成高效的数据转换和信息化处理，提升了数据处理的效率。

图3是根据本发明实施例的计算机设备的方框示意框图。

如图3所示，该计算机设备包括处理器、存储器及存储在存储器上的计算机程序，处理器执行计算机程序时，实现本发明上述实施例的数据处理方法。

本发明实施例的计算机设备，可将来自不同位置的待处理数据，进行高效连续数据索引，最终再通过执行提议动作，完成高效的数据转换和信息化处理，提升了数据处理的效率。

在本发明的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必针对相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (9)

1.一种数据处理方法，其特征在于，包括：

提取多组不同位置的待处理数据，并复制每组所述待处理数据以得到复制数据，及检测所述复制数据的数据类型；

基于所述复制数据和所述复制数据的数据类型确定应用于所述复制数据的数据类型的一个或多个处理规则，并根据一个或多个所述规则生成所述复制数据的一个或多个提议动作指令，其中，所述处理规则与所述动作指令一一对应；

获取所述复制数据的记录和元数据，并将所述复制数据的记录和元数据连续附加到所述复制数据的索引上；

根据所述提议动作指令对所述复制数据执行相应的提议动作，以将所述复制数据转换成处理后的复制数据。

2.根据权利要求1所述的数据处理方法，其特征在于，所述提议动作包括编校、存储、令牌化、重新加密、重新认证、重新分解、重定向和下载动作中的至少一种。

3.根据权利要求1所述的数据处理方法，其特征在于，所述复制数据的数据类型包括与用户相关联的个人识别数据类型。

4.根据权利要求3所述的数据处理方法，其特征在于，所述处理规则包括对与用户相关联的个人识别信息进行编辑，所述提议动作包括编辑动作。

5.根据权利要求1所述的数据处理方法，其特征在于，还包括：

检测所述复制数据属于已加密的复制数据；

从密钥管理器检索与所述已加密的复制数据相关联的密钥；

使用与所述已加密的复制数据相关联的密钥解密所述复制数据。

6.根据权利要求1所述的数据处理方法，其特征在于，还包括：

接收来自用户的下载处理后的复制数据的请求；

从所述复制数据的索引中检索所述处理后的复制数据的位置；

从所述用户接收认证凭证，并授权所述用户下载所述处理后的复制数据。

7.根据权利要求1所述的数据处理方法，其特征在于，所述复制数据的元数据包括所述复制数据的信息、目标位置和规则数据中的至少一种。

8.一种数据处理装置，其特征在于，包括：

复制模块，用于提取多组不同位置的待处理数据，并复制每组所述待处理数据以得到复制数据，及检测所述复制数据的数据类型；

生成模块，用于基于所述复制数据和所述复制数据的数据类型确定应用于所述复制数据的数据类型的一个或多个规则，并根据一个或多个所述规则生成所述复制数据的一个或多个提议动作指令，其中，所述规则与所述动作指令一一对应；

附加模块，用于获取所述复制数据的记录和元数据，并将所述复制数据的记录和元数据连续附加到所述复制数据的索引上；

执行模块，用于根据所述提议动作指令对所述复制数据执行相应的提议动作，以将所述复制数据转换成处理后的复制数据。

9.一种计算机设备，其特征在于，包括包括处理器、存储器及存储在所述存储器上的计算机程序，其特征在于，所述处理器执行所述计算机程序时，实现如权利要求1-7中任一项所述的数据处理方法。

Images