CN110276060A - 数据处理的方法以及装置 - Google Patents

Abstract

本发明公开了一种数据处理的方法以及装置。其中，该数据处理的方法包括：通过从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；将优先级最高的字段对应的数据发送到目标表格中，从而实现了先对N个第一数据表格中相同的字段进行优先级排序，将优先级高的字段发送到目标表格中，提高了目标表格中数据的可信度较高的技术效果。本发明解决了现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的技术问题。

Description

数据处理的方法以及装置

技术领域

本发明涉及数据处理领域，具体而言，涉及一种数据处理的方法以及装置。

背景技术

目前，在图谱构建过程中，需要数据融合，也就是需要面对多个原始表的相同数据项的数据融合成一个目标表的唯一数据。但现有的数据融合通过将不同表格的数据两两进行匹配，其并没有参考数据的来源，因此，将导致得到的目标表格中的数据可信度较低。

针对现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种数据处理的方法以及装置，以至少解决现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的技术问题。

根据本发明实施例的一个方面，提供了一种数据处理的方法，包括：从N个第一数据表格中分别获取所述N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段；将所述优先级最高的字段对应的数据发送到目标表格中。

可选地，根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段包括：通过所述N个第一数据表格的来源对所述N个相同字段进行排序，其中，所述N个第一数据表格的来源包括：从公安系统中获取的数据表格中的字段、所述网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；所述字段的优先级排序由大到小为:从公安系统中获取的数据表格中的字段、所述网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；确定从公安系统中获取的数据表格中的字段为优先级最高的字段。

可选地，在所述N个第一数据表格包括：第二数据表格和第三数据表格，且所述第二数据表格和所述第三数据表格都包括第一字段的情况下，将所述优先级最高的字段对应的数据发送到目标表格中包括：根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段；将所述第二数据表格中的第一字段对应的数据发送到所述目标表格。

可选地，在所述第二数据表格和所述第三数据表格还都包括第二字段的情况下，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，所述方法包括：将所述第二数据表格中的第二字段对应的数据发送到所述目标表格。

可选地，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，所述方法还包括：在所述第二数据表格中的第一字段的数据为空的情况下，将所述第三数据表格中的第一字段对应的数据更新到所述目标表格中。

根据本发明实施例的另一方面，还提供了一种数据处理装的装置，包括：获取单元，用于从N个第一数据表格中分别获取所述N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；确定单元，用于根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段；发送单元，用于将所述优先级最高的字段对应的数据发送到目标表格中。

可选地，在所述N个第一数据表格包括：第二数据表格和第三数据表格，且所述第二数据表格和所述第三数据表格都包括第一字段的情况下，所述发送单元包括：第一确定模块，用于根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段；第一发送模块，用于将所述第二数据表格中的第一字段对应的数据发送到所述目标表格。

可选地，所述发送单元还包括：第二发送模块，用于在所述第二数据表格和所述第三数据表格还都包括第二字段的情况下，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，将所述第二数据表格中的第二字段对应的数据发送到所述目标表格。

可选地，所述发送单元还包括：第三发送模块，用于根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，在所述第二数据表格中的第一字段对应的数据为空的情况下，将所述第三数据表格中的第一字段对应的数据发送到所述目标表格中。

根据本发明实施例的另一方面，还提供了一种存储介质，所述存储介质包括存储的程序，其中，所述程序运行时执行上述任一项所述的数据处理的方法。

根据本发明实施例的另一方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述任一项所述的数据处理的方法。

在本发明实施例中，通过从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；将优先级最高的字段对应的数据发送到目标表格中，从而实现了先对N个第一数据表格中相同的字段进行优先级排序，将优先级高的字段发送到目标表格中，提高了目标表格中数据的可信度较高的技术效果，进而解决了现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的数据处理的方法的流程图；

图2是根据本发明实施例的数据处理的装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

根据本发明实施例，提供了一种数据处理的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

下面将对本发明实施例的数据处理方法进行详细说明。

图1是根据本发明实施例的数据处理的方法的流程图，如图1所示，该数据处理的方法包括如下步骤：

步骤S102，从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数。

其中，步骤S102中的第一数据表格可以从公安系统中获取、从网页中获取、从历史文本资料中获取。

需要说明的是，在N为3时，则获取3个数据表格，可以分别名为数据表格A、数据表格B、数据表格C。其中，数据表格A中可以包括4个字段，数据表格B可以包括5个字段，数据表格C可以包括6个字段，其中，数据表格A、数据表格B、数据表格C都包含姓名字段或者还包括年龄等。

步骤S104，根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段。

需要说明的是，根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段可以包括：通过N个第一数据表格的来源对N个相同字段进行排序，其中，N个第一数据表格的来源包括：从公安系统中获取的数据表格中的字段、网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；字段的优先级排序由大到小为:从公安系统中获取的数据表格中的字段、网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；确定从公安系统中获取的数据表格中的字段为优先级最高的字段

步骤S106，将优先级最高的字段对应的数据发送到目标表格中。

通过上述步骤，通过从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；将优先级最高的字段对应的数据发送到目标表格中，从而实现了先对N个第一数据表格中相同的字段进行优先级排序，将优先级高的字段发送到目标表格中，提高了目标表格中数据的可信度较高的技术效果，进而解决了现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的技术问题。

作为一种可选的实施例，在N个第一数据表格包括：第二数据表格和第三数据表格，且第二数据表格和第三数据表格都包括第一字段的情况下，将优先级最高的字段对应的数据发送到目标表格中包括：根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段；将第二数据表格中的第一字段对应的数据发送到目标表格。

其中，在上述方法中，第二预设规则可以看成根据需要人为设定的，即在对第二数据表格和第三数据表格进行数据融合的时候，可以预先设定第二数据表格中的字段优先级最高，进而将第二数据表格中的字段对应的数据发送到目标表格中。

同时，也可以将字段信息发送至目标数据中。

作为一种可选的实施例，在第二数据表格和第三数据表格还都包括第二字段的情况下，根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段之后，上述方法可以包括：将第二数据表格中的第二字段对应的数据发送到目标表格。

也即是说，第二字段的对应的数据发送至目标表格中的依据是通过第一字段选定的优先级为依据。

作为一种可选的实施例，根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段之后，方法还可以包括：在第二数据表格中的第一字段对应的数据为空的情况下，将第三数据表格中的第一字段对应的数据发送到目标表格中。

例如，在选定的第二数据表格中的第一字段对应的数据为空的情况下，将第三数据表格中第一字段的对应的数据发送到目标表格中。

本发明还提供了一种优选实施例，该优选实施例提供了一种数据融合的方法，该方法可以应用于图谱构建中。其中，该方法具体包括如下步骤：

步骤1：选择需要融合的原始表和目标表；

其中，选择需要融合的原始表A1、A2、A3和目标表B。

步骤2：针对多个原始表进行相同字段进行优先级排序；

其中，针对多个原始表中相同字段进行排序，例如两个相同字段：身份证号和年龄，身份证号对应的字段优先级：A1、A2、A3，年龄对应的字段优先级：A3、A2、A1。

步骤3：在融合的过程中，如果遇到多个表中有相同字段需要融合到该目标表中，则根据字段的优先级进行排序，取序列中第一个此数据非空的表中的数据。

其中，在融合的过程中，针对字段“身份证号”，则根据字段优先级的排序，依次取A1、A2、A3第一个此数据非空的表中的数据；针对字段“年龄”，则根据字段优先级的排序，依次取A3、A2、A1第一个此数据非空的表中的数据。

步骤4：可根据融合的效果调整融合过程中的原始表字段优先级排序，优化融合的数据质量；

其中，如果检查出来字段“年龄”A2表数据质量更好，根据融合的效果则调整融合过程中“年龄”字段的优先级排序为A2、A3、A1，重跑该融合过程，优化融合的数据质量。

步骤5：遇到新的融合情况则按照上述步骤1-4这种方式进行循环操作。

通过上述优先实施，可以更加高效、方便完成数据融合，而且便于用户灵活调整融合策略。

根据本发明实施例，还提供了一种数据处理的装置实施例，需要说明的是，该数据处理的装置可以用于执行本发明实施例中的数据处理的方法，也即本发明实施例中的数据处理的方法可以在该数据处理的装置中执行。

图2是根据本发明实施例的数据处理的装置的示意图，如图2所示，该数据处理的装置可以包括：获取单元21、确定单元23以及发送单元25。其中具体描述如下。

获取单元，用于从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数。

确定单元23，用于根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段。

发送单元25，用于将优先级最高的字段对应的数据发送到目标表格中。

通过上述装置，获取单元21从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；确定单元23根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；发送单元将优先级最高的字段对应的数据发送到目标表格中，从而实现了先对N个第一数据表格中相同的字段进行优先级排序，将优先级高的字段发送到目标表格中，提高了目标表格中数据的可信度较高的技术效果，进而解决了现有技术中，在将不同表格中的数据进行融合得到的目标表格的过程中，得到的目标表格中数据的可信度较低的技术问题。

需要说明的是，该实施例中的获取单元21可以用于执行本发明实施例中的步骤S102，该实施例中的确定单元23可以用于执行本发明实施例中的步骤S104，该实施例中的发送单元可以用于执行本发明实施例中的步骤S106。上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例所公开的内容。

作为一种可选的实施例，在N个第一数据表格可以包括：第二数据表格和第三数据表格，且第二数据表格和第三数据表格都包括第一字段的情况下，发送单元包括：第一确定模块，用于根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段；第一发送模块，用于将第二数据表格中的第一字段对应的数据发送到目标表格。

作为一种可选的实施例，发送单元还可以包括：第二发送模块，用于在第二数据表格和第三数据表格还都包括第二字段的情况下，根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段之后，将第二数据表格中的第二字段对应的数据发送到目标表格。

作为一种可选的实施例，发送单元还可以包括：第三发送模块，用于根据第二预选规则选定第二数据表格中的第一字段为优先级最高的字段之后，在第二数据表格中的第一字段对应的数据为空的情况下，将第三数据表格中的第一字段对应的数据发送到目标表格中。

根据本发明实施例的另外一个方面，还提供了一种存储介质，存储介质包括存储的程序，其中，程序运行时控制存储介质所在设备执行以下操作：通过从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；将优先级最高的字段对应的数据发送到目标表格中。

根据本发明实施例的另外一个方面，还提供了一种处理器，处理器用于运行程序，其中，程序运行时执行以下操作：通过从N个第一数据表格中分别获取N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；根据第一预先规则对N个相同字段进行排序，得到优先级最高的字段；将优先级最高的字段对应的数据发送到目标表格中。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种数据处理的方法，其特征在于，包括：

从N个第一数据表格中分别获取所述N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；

根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段；

将所述优先级最高的字段对应的数据发送到目标表格中。

2.根据权利要求1所述的方法，其特征在于，根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段包括：

通过所述N个第一数据表格的来源对所述N个相同字段进行排序，其中，所述N个第一数据表格的来源包括：从公安系统中获取的数据表格中的字段、所述网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；

所述字段的优先级排序由大到小为:从公安系统中获取的数据表格中的字段、所述网页中获取的数据表格中的字段、从历史文本资料中获取的数据表格中的字段；

确定从公安系统中获取的数据表格中的字段为优先级最高的字段。

3.根据权利要求1所述的方法，其特征在于，在所述N个第一数据表格包括：第二数据表格和第三数据表格，且所述第二数据表格和所述第三数据表格都包括第一字段的情况下，将所述优先级最高的字段对应的数据发送到目标表格中包括：

根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段；

将所述第二数据表格中的第一字段对应的数据发送到所述目标表格。

4.根据权利要求3所述的方法，其特征在于，在所述第二数据表格和所述第三数据表格还都包括第二字段的情况下，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，所述方法包括：

将所述第二数据表格中的第二字段对应的数据发送到所述目标表格。

5.根据权利要求3所述的方法，其特征在于，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，所述方法还包括：

在所述第二数据表格中的第一字段对应的数据为空的情况下，将所述第三数据表格中的第一字段对应的数据发送到所述目标表格中。

6.一种数据处理装的装置，其特征在于，包括：

获取单元，用于从N个第一数据表格中分别获取所述N个第一数据表格均包括的N个相同字段，其中，N为大于1的整数；

确定单元，用于根据第一预先规则对所述N个相同字段进行排序，得到优先级最高的字段；

发送单元，用于将所述优先级最高的字段对应的数据发送到目标表格中。

7.根据权利要求6所述的装置，其特征在于，在所述N个第一数据表格包括：第二数据表格和第三数据表格，且所述第二数据表格和所述第三数据表格都包括第一字段的情况下，所述发送单元包括：

第一确定模块，用于根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段；

第一发送模块，用于将所述第二数据表格中的第一字段对应的数据发送到所述目标表格。

8.根据权利要求7所述的装置，其特征在于，所述发送单元还包括：

第二发送模块，用于在所述第二数据表格和所述第三数据表格还都包括第二字段的情况下，根据第二预选规则选定所述第二数据表格中的第一字段为优先级最高的字段之后，将所述第二数据表格中的第二字段对应的数据发送到所述目标表格。

9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行权利要求1至5中任一项所述的方法。

10.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至5中任一项所述的方法。