CN110659281B - 基于Hive的数据处理方法、装置、计算机设备及存储介质 - Google Patents
基于Hive的数据处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN110659281B CN110659281B CN201910747845.XA CN201910747845A CN110659281B CN 110659281 B CN110659281 B CN 110659281B CN 201910747845 A CN201910747845 A CN 201910747845A CN 110659281 B CN110659281 B CN 110659281B
- Authority
- CN
- China
- Prior art keywords
- data table
- target data
- preset
- updating
- primary key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本发明实施例公开了一种基于Hive的数据处理方法、装置、计算机设备及存储介质。本发明应用于数据处理中的数据更新领域。所述方法包括：若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表对所述初始目标数据表进行更新以得到目标数据表。通过实施本发明实施例的方法可实现Hive的数据更新，减少了Hive同步更新的数据量。
Description
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于Hive的数据处理方法、装置、计算机设备及存储介质。
背景技术
随着科学与技术的发展，数据的价值愈发重要，面对每天产生的海量数据，通常采用Hadoop对大规模的数据进行处理，Hadoop是在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架。其中，Hive则是基于Hadoop的一个数据仓库工具，其可以将结构化的数据文件映射为一张数据库表并提供简单的SQL查询功能，可以将SQL语句转换为MapReduce任务进行运行。然而，现有的Hive不支持数据更新；针对需要使用大数据的数据库来代替传统数据的使用场景无法使用；且大数据结合传统数据库一起使用的场景进行更新数据信息都是批量更新，这种方式耗时、耗力。
发明内容
本发明实施例提供了一种基于Hive的数据处理方法、装置、计算机设备及存储介质，旨在解决Hive不能实现数据更新以及Hive与传统数据库交互数据量过大的问题。
第一方面，本发明实施例提供了一种基于Hive的数据处理方法，其包括：若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
第二方面，本发明实施例还提供了一种基于Hive的数据装置，其包括：第一建立单元，用于若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；第一更新单元，用于根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；第二建立单元，用于根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；第二更新单元，用于根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
第三方面，本发明实施例还提供了一种计算机设备，其包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现上述方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时可实现上述方法。
本发明实施例提供了一种基于Hive的数据处理方法、装置、计算机设备及存储介质。其中，所述方法包括：若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。本发明实施例由于建立第一临时转换表进行更新得到初始目标数据表，建立第二临时转换表进行更新得到目标数据表，可实现Hive的数据更新，减少了Hive同步更新的数据量。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的基于Hive的数据处理方法的流程示意图；
图2为本发明实施例提供的基于Hive的数据处理方法的子流程示意图；
图3为本发明实施例提供的基于Hive的数据处理方法的子流程示意图；
图4为本发明另一实施例提供的基于Hive的数据处理方法的流程示意图；
图5为本发明另一实施例提供的基于Hive的数据处理方法的子流程示意图；
图6为本发明实施例提供的基于Hive的数据处理装置的示意性框图；
图7为本发明实施例提供的基于Hive的数据处理装置的具体单元的示意性框图；
图8为本发明另一实施例提供的基于Hive的数据处理装置的示意性框图；
图9为本发明另一实施例提供的基于Hive的数据处理装置的第三对比单元的示意性框图；
图10为本发明实施例提供的计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1，图1为本发明实施例提供的基于Hive的数据处理方法的示意性流程图。该基于Hive的数据处理方法应用于服务器中。
图1是本发明实施例提供的基于Hive的数据处理方法的流程示意图。如图所示，该方法包括以下步骤S110-S140。
S110、若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件。
在一实施例中，数据更新指令指的是对Hive库中数据表进行更新的指令，其包括待更新数据表以及更新条件。其中，待更新数据表指的是所要对原数据进行增量更新的数据表，例如为新增的保单数据表，更新条件指的是按照一定的规则筛选数据的条件，例如为保单到期的更新条件。具体地，将待更新数据表与原数据表进行全量关联从而建立第一临时转换表，如表1和如表2以及如表3所示，表1为原数据表，表2为待更新数据表，表3为第一临时转换表。
表1
表2
表3
具体地，全量关联指的是将待更新数据表中的所有数据与原数据表进行关联，在待更新数据表中通过将姓名作为关联字段，例如表2中的张三和赵六，将与姓名所对应的其他字段作为合并字段，例如表2中与张三和赵六对应的保单和保单止期，从而将待更新数据表中的数据与原数据表中的数据进行关联合并，接着再建立第一临时转换表用于存储全量关联后的数据。
S120、根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表。
具体地，由于Hive不支持数据更新，因此需要通过建立第一临时转换表来实现数据更新，在数据更新的过程中采用自定义的UDF函数来实现，自定义的UDF函数是一种可以实现自定义的特定功能的SQL函数，其中，SQL全称为Structured Query Language，也即结构化查询语言。常见的SQL语句中例如为count()、sum()、avg()函数等，但这些函数功能都是固定的，如count()用来统计个数，它就只能用来统计个数，其他的功能做不了，并且它的名称count()不能改变，使用它必须是count()才能用；但是自定义的UDF函数则不一样，首先自定义的UDF函数可以在使用的时候自定义这个函数的代名(只要制定用到的类接口即可)，其次针对函数要实现的功能是可以自定义的。因此采用自定义的UDF函数在数据更新过程中对数据进行一系列的处理来实现数据更新。
在一实施例中，如图2所示，所述步骤S120可包括步骤：S121-S123。
S121、在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比。
S122、若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表。
S123、将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表。
具体地，数据更新的过程具体如下：如表3所示，首先在第一临时转换表中将来源于待更新数据表的预设主键与来源于原数据表的预设主键进行对比，例如，预设主键为姓名，即将来源于b表的姓名与来源于a表的姓名进行一一对比。然后，若来源于待更新数据表的预设主键与来源于原数据表的预设主键相同，则保留来源于待更新数据表的预设主键对应的记录并删除来源于原数据表的预设主键对应的记录，即来源于b表的张三与来源于a表的张三相同，保留来源于b表张三对应的记录，删除来源于a表张三对应的记录，并对应更新其他参数，如续保状态。最后再将第一临时转换表对原数据表进行覆盖得到初始目标数据表，即将第一临时转换表覆盖到原数据表中，如表4所示。
表4
S130、根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表。
在一实施例中，第二临时转换表用于存储符合更新条件的数据，更新条件例如为保单到期，若当前的日期为2019/02/21，那么满足保单到期的数据则为王五所对应的记录。具体地，通过在保单止期的字段中查找在当前日期之前的保单止期，如表4所示，满足更新条件的保单止期为2019/02/20，根据其对应的记录即王五所对应的记录建立第二临时转换表，如表5所示。
表5
S140、根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
在一实施例中，在得到第二临时转换和初始目标数据表后，根据第二临时转换表对初始目标数据表进行更新得到目标数据表。由于第二临时转换表中存储的是符合更新条件的数据，因此通过将第二临时转换表与初始目标数据进行对比，保留不符合更新条件的数据，删除掉符合更新条件的数据，从而实现数据更新最终得到目标数据表。
在一实施例中，如图3所示，所述步骤S140可包括步骤：S141-S143。
S141、将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比。
S142、若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果。
S143、根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
具体地，初始目标数据表的具体更新过程如下：首先将第二临时转换表的预设主键与初始目标数据表的预设主键进行对比，预设主键指的是姓名，即将表5中的王五与表4中的姓名进行一一对比。其中，第二临时转换表与初始目标数据表存在相同的预设主键，即表4和表5中均存在王五，那么则删除掉相同的预设主键对应的记录得到对比结果，即将王五所对应的记录删除，保留其他姓名所对应的记录，将剩余的数据作为对比结果。最后根据对比结果即其他姓名所对应的记录建立对比结果表，将对比结果表对初始目标数据表进行覆盖得到目标数据表，即将对比结果表覆盖到初始目标数据表中，如表6所示。
表6
在一实施例中，如图4所示，所述步骤S140之后还包括：S150-S160。
S150、将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表。
在一实施例中，为了实现Hive库与预设数据库的数据同步更新，需要在目标数据表中提取出更新表以及删除表，以将更新表以及删除表发送给预设数据库进行同步更新。通过仅同步两边数据表中有更新的数据、新增的数据及需要清除的无效数据，即更新表以及删除表中的数据，解决了Hive库与预设数据库交互数据量过大的问题。
在一实施例中，如图5所示，所述步骤S150包括：S151-S156。
S151、根据预设字段对所述目标数据表进行字段拼接以得到第一拼接字段，以及对所述原数据表进行字段拼接以得到第二拼接字段。
S152、将相对应的所述第一拼接字段与所述第二拼接字段进行对比。
S153、若所述第一拼接字段与所述第二拼接字段不同，将所述第一拼接字段对应的记录作为第一对比结果。
S154、若所述目标数据表中存在与所述原数据表不相对应的所述第一拼接字段，将所述第一拼接字段对应的记录作为第二对比结果。
S155、若所述原数据表中存在与所述目标数据表不相对应的所述第二拼接字段，将所述第二拼接字段对应的记录作为第三对比结果。
S156、根据所述第一对比结果以及所述第二对比结果建立更新表，以及根据所述第三对比结果建立删除表。
具体地，更新表以及删除表提取过程如下：预设字段为姓名，如表1以及表6所示，首先，在目标数据表进行字段拼接得到第一拼接字段，例如，将姓名与保单进行拼接得到新字段(张三-109)，该新字段即为第一拼接字段，同样，在原数据表中进行字段拼接得到第二拼接字段，例如，将姓名与保单进行拼接得到新字段(张三-102)。然后，将相对应的第一拼接字段与第二拼接字段进行对比，即将预设关键字相同的拼接字段进行对比，例如，将(张三-102)与(张三-109)进行对比，将(李四-152)与(李四-152)进行对比。其中，对比结果包括三种：第一种是第一拼接字段与第二拼接字段不同，将第一拼接字段对应的记录作为第一对比结果，即(张三-102)与(张三-109)不相同，则取(张三-109)对应的记录作为第一对比结果；第二种是目标数据表中存在与原数据表不相对应的第一拼接字段，将第一拼接字段对应的记录作为第二对比结果，即表6中存在(赵六-857)的第一拼接字段，而原数据表中不存在与之相对应的第二拼接字段，那么则将第一拼接字段(赵六-857)所对应的记录作为第二对比结果；第三种是原数据表中存在与目标数据表不相对应的第二拼接字段，将第二拼接字段对应的记录作为第三对比结果，即表1中存在(王五-645)的第二拼接字段，而目标数据表中不存在与之对应的第一拼接字段，那么则将第二拼接字段(王五-645)所对应的记录作为第三对比结果。最后，得到第一对比结果、第二对比结果以及第三对比结果后，根据第一对比结果和第二对比结果建立更新表，如表7所示，根据所述第三对比结果建立删除表，如表8所示。
表7
表8
S160、将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新。
在一实施例中，预设数据库指的是oracle数据库，oracle数据库是一种传统的关系型数据库。在得到更新表和删除表后，将更新表和删除表发送至预设数据库中，预设数据库接收该更新表和删除表后，根据所接收的更新表和删除表进行数据同步更新。具体地，在预设数据库中根据更新表和删除表进行merge存储即可实现预设数据库中的数据表进行同步更新，从而保持两边数据库数据的一致性。merge是oracle数据库的数据更新功能，使用时直接调用即可，其具体原理是将更新表或者删除表与oracle中的原数据表按照一定的条件进行对比，若满足条件则进行update操作，若不满足条件则进行insert操作，从而实现高效率的数据更新。
本发明展示了一种基于Hive的数据处理方法，通过若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表，可以实现Hive的事务处理、数据更新、数据删除，减少了Hive同步更新的数据量。
图6是本发明实施例提供的一种基于Hive的数据处理装置200的示意性框图。如图6所示，对应于以上基于Hive的数据处理方法，本发明还提供一种基于Hive的数据处理装置200。该基于Hive的数据处理装置200包括用于执行上述基于Hive的数据处理方法的单元，该装置可以被配置于服务器中。具体地，请参阅图6，该基于Hive的数据处理装置200包括：第一建立单元210、第一更新单元220、第二建立单元230以及第二更新单元240。
第一建立单元210，用于若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件。
在一实施例中，数据更新指令指的是对Hive库中数据表进行更新的指令，其包括待更新数据表以及更新条件。其中，待更新数据表指的是所要对原数据进行增量更新的数据表，例如为新增的保单数据表，更新条件指的是按照一定的规则筛选数据的条件，例如为保单到期的更新条件。具体地，将待更新数据表与原数据表进行全量关联从而建立第一临时转换表，如表1和如表2以及如表3所示，表1为原数据表，表2为待更新数据表，表3为第一临时转换表。
表1
表2
表3
具体地，全量关联指的是将待更新数据表中的所有数据与原数据表进行关联，在待更新数据表中通过将姓名作为关联字段，例如表2中的张三和赵六，将与姓名所对应的其他字段作为合并字段，例如表2中与张三和赵六对应的保单和保单止期，从而将待更新数据表中的数据与原数据表中的数据进行关联合并，接着再建立第一临时转换表用于存储全量关联后的数据。
第一更新单元220，用于根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表。
具体地，由于Hive不支持数据更新，因此需要通过建立第一临时转换表来实现数据更新，在数据更新的过程中采用自定的义UDF函数来实现，自定的义UDF函数是一种可以实现自定义的特定功能的SQL函数，常见的SQL语句中例如为count()、sum()、avg()函数等，但这些函数功能都是固定的，如count()用来统计个数，它就只能用来统计个数，其他的功能做不了，并且它的名称count()不能改变，使用它必须是count()才能用；但是自定义的UDF函数则不一样，首先自定义的UDF函数可以在使用的时候自定义这个函数的代名(只要制定用到的类接口即可)，其次针对函数要实现的功能是可以自定义的。因此采用自定义的UDF函数在数据更新过程中对数据进行一系列的处理来实现数据更新。
在一实施例中，如图7所示，所述第一更新单元220包括：第一对比子单元211、第一更新子单元222以及第一覆盖子单元223。
第一对比子单元221，用于在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比。
第一更新子单元222，用于若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表。
第一覆盖子单元223，用于将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表。
具体地，数据更新的过程具体如下：如表3所示，首先在第一临时转换表中将来源于待更新数据表的预设主键与来源于原数据表的预设主键进行对比，预设主键指的是姓名，即将来源于b表的姓名与来源于a表的姓名进行一一对比。然后，若来源于待更新数据表的预设主键与来源于原数据表的预设主键相同，则保留来源于待更新数据表的预设主键对应的记录并删除来源于原数据表的预设主键对应的记录，即来源于b表的张三与来源于a表的张三相同，保留来源于b表张三对应的记录，删除来源于a表张三对应的记录，并对应更新其他参数，如续保状态。最后再将第一临时转换表对原数据表进行覆盖得到初始目标数据表，即将第一临时转换表覆盖到原数据表中，如表4所示。
表4
第二建立单元230，用于根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表。
在一实施例中，第二临时转换表用于存储符合更新条件的数据，更新条件例如为保单到期，若当前的日期为2019/02/21，那么满足保单到期的数据则为王五所对应的记录。具体地，通过在保单止期的字段中查找在当前日期之前的保单止期，如表4所示，满足更新条件的保单止期为2019/02/20，根据其对应的记录即王五所对应的记录建立第二临时转换表，如表5所示。
表5
第二更新单元240，用于根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
在一实施例中，在得到第二临时转换和初始目标数据表后，根据第二临时转换表对初始目标数据表进行更新得到目标数据表。由于第二临时转换表中存储的是符合更新条件的数据，因此通过将第二临时转换表与初始目标数据进行对比，保留不符合更新条件的数据，删除掉符合更新条件的数据，从而实现数据更新最终得到目标数据表。
在一实施例中，如图7所示，所述第二更新单元240包括：第二对比子单元241、第二更新子单元242以及第二覆盖子单元243。
第二对比子单元241，用于将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比。
第二更新子单元242，用于若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果。
第二覆盖子单元243，用于根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
具体地，初始目标数据表的具体更新过程如下：首先将第二临时转换表的预设主键与初始目标数据表的预设主键进行对比，预设主键指的是姓名，即将表5中的王五与表4中的姓名进行一一对比。其中，第二临时转换表与初始目标数据表存在相同的预设主键，即表4和表5中均存在王五，那么则删除掉相同的预设主键对应的记录得到对比结果，即将王五所对应的记录删除，保留其他姓名所对应的记录，将剩余的数据作为对比结果。最后根据对比结果即其他姓名所对应的记录建立对比结果表，将对比结果表对初始目标数据表进行覆盖得到目标数据表，即将对比结果表覆盖到初始目标数据表中，如表6所示。
表6
在一实施例中，如图8所示，所述基于Hive的数据处理装置200还包括：
第三对比单元250，用于将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表。
在一实施例中，为了实现Hive库与预设数据库的数据同步更新，需要在目标数据表中提取出更新表以及删除表，以将更新表以及删除表发送给预设数据库进行同步更新。通过仅同步两边数据表中有更新的数据、新增的数据及需要清除的无效数据，即更新表以及删除表中的数据，解决了Hive库与预设数据库交互数据量过大的问题。
在一实施例中，如图9所示，所述第三对比单元250包括：拼接单元251、第三对比子单元252、第一结果单元253、第二结果单元254、第三结果单元255以及建立子单元256。
拼接单元251，用于根据预设字段对所述目标数据表进行字段拼接以得到第一拼接字段，以及对所述原数据表进行字段拼接以得到第二拼接字段。
第三对比子单元252，用于将相对应的所述第一拼接字段与所述第二拼接字段进行对比。
第一结果单元253，用于若所述第一拼接字段与所述第二拼接字段不同，将所述第一拼接字段对应的记录作为第一对比结果。
第二结果单元254，用于若所述目标数据表中存在与所述原数据表不相对应的所述第一拼接字段，将所述第一拼接字段对应的记录作为第二对比结果。
第三结果单元255，用于若所述原数据表中存在与所述目标数据表不相对应的所述第二拼接字段，将所述第二拼接字段对应的记录作为第三对比结果。
建立子单元256，用于根据所述第一对比结果以及所述第二对比结果建立更新表，以及根据所述第三对比结果建立删除表。
具体地，更新表以及删除表提取过程如下：预设字段为姓名，如表1以及表6所示，首先，在目标数据表进行字段拼接得到第一拼接字段，例如，将姓名与保单进行拼接得到新字段(张三-109)，该新字段即为第一拼接字段，同样，在原数据表中进行字段拼接得到第二拼接字段，例如，将姓名与保单进行拼接得到新字段(张三-102)。然后，将相对应的第一拼接字段与第二拼接字段进行对比，即将预设关键字相同的拼接字段进行对比，例如，将(张三-102)与(张三-109)进行对比，将(李四-152)与(李四-152)进行对比。其中，对比结果包括三种：第一种是第一拼接字段与第二拼接字段不同，将第一拼接字段对应的记录作为第一对比结果，即(张三-102)与(张三-109)不相同，则取(张三-109)对应的记录作为第一对比结果；第二种是目标数据表中存在与原数据表不相对应的第一拼接字段，将第一拼接字段对应的记录作为第二对比结果，即表6中存在(赵六-857)的第一拼接字段，而原数据表中不存在与之相对应的第二拼接字段，那么则将第一拼接字段(赵六-857)所对应的记录作为第二对比结果；第三种是原数据表中存在与目标数据表不相对应的第二拼接字段，将第二拼接字段对应的记录作为第三对比结果，即表1中存在(王五-645)的第二拼接字段，而目标数据表中不存在与之对应的第一拼接字段，那么则将第二拼接字段(王五-645)所对应的记录作为第三对比结果。最后，得到第一对比结果、第二对比结果以及第三对比结果后，根据第一对比结果和第二对比结果建立更新表，如表7所示，根据所述第三对比结果建立删除表，如表8所示。
表7
表8
发送单元260，用于将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新。
在一实施例中，预设数据库指的是oracle数据库，oracle数据库是一种传统的关系型数据库。在得到更新表和删除表后，将更新表和删除表发送至预设数据库中，预设数据库接收该更新表和删除表后，根据所接收的更新表和删除表进行数据同步更新。具体地，在预设数据库中根据更新表和删除表进行merge存储即可实现预设数据库中的数据表进行同步更新，从而保持两边数据库数据的一致性。merge是oracle数据库的数据更新功能，使用时直接调用即可，其具体原理是将更新表或者删除表与oracle中的原数据表按照一定的条件进行对比，若满足条件则进行update操作，若不满足条件则进行insert操作，从而实现高效率的数据更新。
需要说明的是，所属领域的技术人员可以清楚地了解到，上述基于Hive的数据处理装置200和各单元的具体实现过程，可以参考前述方法实施例中的相应描述，为了描述的方便和简洁，在此不再赘述。
上述基于Hive的数据处理装置可以实现为一种计算机程序的形式，该计算机程序可以在如图10所示的计算机设备上运行。
请参阅图10，图10是本申请实施例提供的一种计算机设备的示意性框图。该计算机设备500可以是服务器，服务器可以是独立的服务器，也可以是多个服务器组成的服务器集群。
参阅图10，该计算机设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032包括程序指令，该程序指令被执行时，可使得处理器502执行一种基于Hive的数据处理方法。
该处理器502用于提供计算和控制能力，以支撑整个计算机设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行一种基于Hive的数据处理方法。
该网络接口505用于与其它设备进行网络通信。本领域技术人员可以理解，图10中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备500的限定，具体的计算机设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现如下步骤：若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
在一实施例中，处理器502在实现所述根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表步骤时，具体实现如下步骤：在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比；若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表；将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表。
在一实施例中，处理器502在实现所述根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表步骤时，具体实现如下步骤：将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比；若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果；根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
在一实施例中，处理器502在实现所述根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表步骤之后，还实现如下步骤：将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表；将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新。
在一实施例中，处理器502在实现所述所述目标数据表与所述原数据表进行对比得到更新表以及删除表步骤时，具体实现如下步骤：根据预设字段对所述目标数据表进行字段拼接以得到第一拼接字段，以及对所述原数据表进行字段拼接以得到第二拼接字段；将相对应的所述第一拼接字段与所述第二拼接字段进行对比；若所述第一拼接字段与所述第二拼接字段不同，将所述第一拼接字段对应的记录作为第一对比结果；若所述目标数据表中存在与所述原数据表不相对应的所述第一拼接字段，将所述第一拼接字段对应的记录作为第二对比结果；若所述原数据表中存在与所述目标数据表不相对应的所述第二拼接字段，将所述第二拼接字段对应的记录作为第三对比结果；根据所述第一对比结果以及所述第二对比结果建立更新表，以及根据所述第三对比结果建立删除表。
应当理解，在本申请实施例中，处理器502可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器502还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成。该计算机程序包括程序指令，计算机程序可存储于一存储介质中，该存储介质为计算机可读存储介质。该程序指令被该计算机系统中的至少一个处理器执行，以实现上述方法的实施例的流程步骤。
因此，本发明还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序，其中计算机程序包括程序指令。该程序指令被处理器执行时使处理器执行如下步骤：若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。
在一实施例中，所述处理器在执行所述程序指令而实现所述根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表步骤时，具体实现如下步骤：在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比；若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表；将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表。
在一实施例中，所述处理器在执行所述程序指令而实现所述根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表步骤时，具体实现如下步骤：将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比；若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果；根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
在一实施例中，所述处理器在执行所述程序指令而实现所述根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表步骤之后，还实现如下步骤：将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表；将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新。
在一实施例中，所述处理器在执行所述程序指令而实现所述将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表步骤时，具体实现如下步骤：根据预设字段对所述目标数据表进行字段拼接以得到第一拼接字段，以及对所述原数据表进行字段拼接以得到第二拼接字段；将相对应的所述第一拼接字段与所述第二拼接字段进行对比；若所述第一拼接字段与所述第二拼接字段不同，将所述第一拼接字段对应的记录作为第一对比结果；若所述目标数据表中存在与所述原数据表不相对应的所述第一拼接字段，将所述第一拼接字段对应的记录作为第二对比结果；若所述原数据表中存在与所述目标数据表不相对应的所述第二拼接字段，将所述第二拼接字段对应的记录作为第三对比结果；根据所述第一对比结果以及所述第二对比结果建立更新表，以及根据所述第三对比结果建立删除表。
所述存储介质可以是U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的。例如，各个单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。
本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本发明实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，终端，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (5)
1.一种基于Hive的数据处理方法，其特征在于，包括：
若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；
根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；
根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；
根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表；
将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表；
将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新；
所述根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表，包括：
在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比；
若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表；
将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表；
所述根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表，包括：
将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比；
若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果；
根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
2.根据权利要求1所述的基于Hive的数据处理方法，其特征在于，所述将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表，包括：
根据预设字段对所述目标数据表进行字段拼接以得到第一拼接字段，以及对所述原数据表进行字段拼接以得到第二拼接字段；
将相对应的所述第一拼接字段与所述第二拼接字段进行对比；
若所述第一拼接字段与所述第二拼接字段不同，将所述第一拼接字段对应的记录作为第一对比结果；
若所述目标数据表中存在与所述原数据表不相对应的所述第一拼接字段，将所述第一拼接字段对应的记录作为第二对比结果；
若所述原数据表中存在与所述目标数据表不相对应的所述第二拼接字段，将所述第二拼接字段对应的记录作为第三对比结果；
根据所述第一对比结果以及所述第二对比结果建立更新表，以及根据所述第三对比结果建立删除表。
3.一种基于Hive的数据处理装置，其特征在于，包括：
第一建立单元，用于若接收到数据更新指令，从所述数据更新指令中获取待更新数据表，并根据所述待更新数据表与原数据表进行全量关联，以建立第一临时转换表，其中，所述数据更新指令包括待更新数据表以及更新条件；
第一更新单元，用于根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表；
第二建立单元，用于根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表；
第二更新单元，用于根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表；
第三对比单元，用于将所述目标数据表与所述原数据表进行对比以得到更新表以及删除表；
发送单元，用于将所述更新表以及所述删除表发送至预设数据库中进行数据同步更新；
所述第一更新单元包括：
第一对比子单元，用于在所述第一临时转换表中，将来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键进行对比；
第一更新子单元，用于若来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键相同，则保留来源于所述待更新数据表的预设主键对应的记录并删除来源于所述原数据表的预设主键对应的记录以得到处理后的第一临时转换表；
第一覆盖子单元，用于将所述处理后的第一临时转换表对所述原数据表进行覆盖，以得到初始目标数据表；
所述第二更新单元，包括：
第二对比子单元，用于将所述第二临时转换表的预设主键与所述初始目标数据表的预设主键进行对比；
第二更新子单元，用于若所述第二临时转换表的预设主键与所述初始目标数据表的预设主键相同，则在所述初始目标数据表中删除相同的预设主键对应的记录以得到对比结果；
第二覆盖子单元，用于根据所述对比结果建立对比结果表并将所述对比结果表对所述初始目标数据表进行覆盖以得到目标数据表。
4.一种计算机设备，其特征在于，所述计算机设备包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现如权利要求1-2中任一项所述的方法。
5.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时可实现如权利要求1-2中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910747845.XA CN110659281B (zh) | 2019-08-14 | 2019-08-14 | 基于Hive的数据处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910747845.XA CN110659281B (zh) | 2019-08-14 | 2019-08-14 | 基于Hive的数据处理方法、装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110659281A CN110659281A (zh) | 2020-01-07 |
| CN110659281B true CN110659281B (zh) | 2023-09-12 |
Family
ID=69037382
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910747845.XA Active CN110659281B (zh) | 2019-08-14 | 2019-08-14 | 基于Hive的数据处理方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110659281B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113434492A (zh) * | 2021-06-21 | 2021-09-24 | 青岛海尔科技有限公司 | 数据的检测方法、装置、存储介质和电子装置 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106897340A (zh) * | 2016-07-05 | 2017-06-27 | 阿里巴巴集团控股有限公司 | 一种数据表更新方法及装置 |
| CN107729423A (zh) * | 2017-09-28 | 2018-02-23 | 链家网（北京）科技有限公司 | 一种大数据处理方法及装置 |
| CN109325037A (zh) * | 2018-08-17 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 一种针对海量数据的数据同步方法、存储介质和服务器 |
| CN109325041A (zh) * | 2018-08-14 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 业务数据处理方法、装置、计算机设备及存储介质 |
| CN109739936A (zh) * | 2019-01-23 | 2019-05-10 | 杭州数梦工场科技有限公司 | 数据同步方法、系统、服务器及计算机可读存储介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8078570B2 (en) * | 2009-05-01 | 2011-12-13 | International Business Machines Corporation | Versioning data warehouses |
-
2019
- 2019-08-14 CN CN201910747845.XA patent/CN110659281B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106897340A (zh) * | 2016-07-05 | 2017-06-27 | 阿里巴巴集团控股有限公司 | 一种数据表更新方法及装置 |
| CN107729423A (zh) * | 2017-09-28 | 2018-02-23 | 链家网（北京）科技有限公司 | 一种大数据处理方法及装置 |
| CN109325041A (zh) * | 2018-08-14 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 业务数据处理方法、装置、计算机设备及存储介质 |
| CN109325037A (zh) * | 2018-08-17 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 一种针对海量数据的数据同步方法、存储介质和服务器 |
| CN109739936A (zh) * | 2019-01-23 | 2019-05-10 | 杭州数梦工场科技有限公司 | 数据同步方法、系统、服务器及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110659281A (zh) | 2020-01-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20190238550A1 (en) | Permission control method, apparatus and system for block chain, and node device | |
| US9020916B2 (en) | Database server apparatus, method for updating database, and recording medium for database update program | |
| JP6521402B2 (ja) | ＫｅｙＶａｌｕｅデータベースのデータテーブルを更新するための方法およびテーブルデータを更新するための装置 | |
| KR101871383B1 (ko) | 계층적 데이터 구조의 노드 상에서 재귀적 이벤트 리스너를 사용하기 위한 방법 및 시스템 | |
| US20180239780A1 (en) | Method for Splitting Region in Distributed Database, Region Node, and System | |
| CN111026568B (zh) | 数据和任务关系构建方法、装置、计算机设备及存储介质 | |
| JP2014048673A (ja) | ワークフロー生成サーバ、及び方法 | |
| US11379452B2 (en) | Database tool | |
| CN111427951A (zh) | 数据同步方法、装置、计算机设备及存储介质 | |
| WO2017107984A1 (zh) | 一种数据恢复方法及装置 | |
| CN113420026A (zh) | 数据库表结构变更方法、装置、设备及存储介质 | |
| CN110659281B (zh) | 基于Hive的数据处理方法、装置、计算机设备及存储介质 | |
| CN111144837A (zh) | 流程编排的方法、装置、存储介质及电子设备 | |
| CN112559913B (zh) | 一种数据处理方法、装置、计算设备及可读存储介质 | |
| US20190394203A1 (en) | Metric-based content editing system | |
| US11250000B2 (en) | Database tool | |
| CN109299225A (zh) | 日志检索方法、系统、终端及计算机可读存储介质 | |
| US11698911B2 (en) | System and methods for performing updated query requests in a system of multiple database engine | |
| WO2018036235A1 (zh) | 一种solr数据迁移方法和装置 | |
| US11108862B2 (en) | Bi-directional data sync between a client device and an application server | |
| US11816424B2 (en) | Conditional save of draft enabled business objects | |
| EP4091066B1 (en) | Systems and methods for performing updated query requests in a system of multiple database engine | |
| JPH076073A (ja) | ホスト端末装置間自動デリバリシステム | |
| CA2922388C (en) | Method and apparatus for updating data table of keyvalue database | |
| CN115994148A (zh) | 多表数据的更新方法、装置、电子设备及可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |