CN110647535A - 一种将业务数据更新至Hive的方法、终端及存储介质 - Google Patents
一种将业务数据更新至Hive的方法、终端及存储介质 Download PDFInfo
- Publication number
- CN110647535A CN110647535A CN201910899330.1A CN201910899330A CN110647535A CN 110647535 A CN110647535 A CN 110647535A CN 201910899330 A CN201910899330 A CN 201910899330A CN 110647535 A CN110647535 A CN 110647535A
- Authority
- CN
- China
- Prior art keywords
- hive
- service data
- service
- primary key
- transaction table
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 235000006719 Cassia obtusifolia Nutrition 0.000 claims abstract description 27
- 235000014552 Cassia tora Nutrition 0.000 claims abstract description 27
- 244000201986 Cassia tora Species 0.000 claims abstract description 27
- 238000013507 mapping Methods 0.000 claims abstract description 19
- 238000004590 computer program Methods 0.000 claims description 10
- 239000003471 mutagenic agent Substances 0.000 claims description 4
- 238000013500 data storage Methods 0.000 abstract description 2
- 210000001503 joint Anatomy 0.000 abstract 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 7
- 230000035772 mutation Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种将业务数据更新至Hive的方法、终端及存储介质,属于业务数据存储领域,要解决的技术问题为如何实现Hive与业务表的对接、业务表数据的写入和更新以及大量业务表的处理。其方法包括:动态创建Hive事务表的JavaBean Class实例;构建映射关系Map;通过JavaBean实例将待更新的业务数据写入待更新的业务数据集、将待新增的业务数据写入待新增的业务数据集;将待更新的业务数据集存储至Hive事务表,将待新增的业务数据集添加Hive虚拟主键后存储至Hive事务表。终端中处理器被配置用于调用程序指令执行上述方法。存储介质中序指令当被处理器执行时处理器执行上述方法。
Description
技术领域
本发明涉及业务数据存储领域,具体地说是一种将业务数据更新至Hive的方法、终端及存储介质。
背景技术
Hive是一种基于Hadoop的数据仓库,Hive提供了一种事务桶表,基于这种事务桶表可以实现数据的更新功能。Hive提供了SQL、Streaming API、以及Mutation API三种方式来处理数据。
(1)SQL方式,采用insert、update语句(如update Table_1 set modDay=’2019-08-19’where id=’1’;),该方式一次只能更新一条业务数据,当大量业务数据发生变更时,采用SQL方式更新至Hive的效率十分低下,不适合;
(2)Streaming API方式,该方式支持批量处理Hive数据,但仅支持批量写入数据,不支持更新数据;
(3)Mutation API方式,该方式支持批量写入、更新Hive数据。
Hive Mutation API提供了MutatorClient、Transaction和MutatorCoordinator等接口,Hive开发人员可以调用这些接口实现新增或更新Hive事务表数据。具体逻辑是:创建一个MutatorClient,将业务数据写入一个和业务表对应的JavaBean实例,声明一个Transaction,采用MutatorCoordinator.insert()或采用MutatorCoordinator.update()新增一条Hive事务表数据或更新一条Hive表数据,提交事务,关闭连接。
Hive Mutation API提供了写入、更新Hive事务表数据的方式,但是对于以下内容该方式没有形成完整的方案:Hive与业务表的对接、业务表数据的写入和更新以及大量业务表的处理。
基于上述分析,如何实现Hive与业务表的对接、业务表数据的写入和更新以及大量业务表的处理,是需要解决的技术问题。
发明内容
本发明的技术任务是针对以上不足,提供一种将业务数据更新至Hive的方法、终端及存储介质,来解决如何实现Hive与业务表的对接、业务表数据的写入和更新以及大量业务表的处理的问题。
第一方面,本发明提供一种将业务数据更新至Hive的方法,其特征在用于将业务数据写入或者更新至Hive中,所述方法包括如下步骤:
S100、动态创建Hive事务表的JavaBean Class实例;
S200、从业务数据中提取业务主键,从Hive事务表中查询数据并获取存储的业务主键和Hive虚拟主键,并构建反映业务主键和Hive虚拟主键映射关系的映射关系Map;
S300、基于映射关系Map判断业务数据表中业务数据为待更新的业务数据还是待新增的业务数据,并通过JavaBean实例将待更新的业务数据写入待更新的业务数据集、将待新增的业务数据写入待新增的业务数据集;
S400、将待更新的业务数据集存储至Hive事务表,将待新增的业务数据集添加Hive虚拟主键后存储至Hive事务表。
作为优选,步骤S100中,采用Javassist动态创建Hive事务表的JavaBean Class实例,包括如下步骤:
对于从Hive事务表的元数据中获取的每个字段,构建私有声明、get方法以及set方法;
新增一个Hive虚拟主键字段,对于Hive虚拟主键字段,构建私有声明、get方法以及set方法,所述Hive虚拟主键字段对应Hive事务表的虚拟主键列。
作为优选,步骤S200,包括如下分步骤:
从业务数据中提取业务主键,所述业务主键在关系数据库中为用primary key声明的字段;
读取Hive事务表数据存储的HDFS文件,且仅读取业务主键所在的列,获取InputSplit信息;
声明映射关系Map,处理InputSplit信息得到业务主键和Hive虚拟主键;
构建业务主键和与其关联的Hive事务表中Hive虚拟主键的映射关系,形成映射关系Map。
作为优选,读取业务主键所在的列,包括:
通过IOConstants.SCHEMA_EVOLUTION_COLUMNS指定待查询的业务主键列,并通过逗号分隔多个主键列名称。
作为优选,步骤S300包括如下分步骤:
遍历业务数据集,获取业务主键;
对于每个业务主键,执行如下操作:
查询所述业务主键是否存在于所述映射关系Map中,如果所述业务主键位于所述映射关系Map中,所述业务主键对应的业务数据为待更新的业务数据,如果所述业务主键不在所述映射关系Map中,所述业务主键对应的业务数据为待新增的业务数据;
对于待更新的业务数据,声明一个关联的JavaBean实例,记录所述业务数据和Hive虚拟主键,写入待更新的业务数据集;
对于待新增的业务数据,声明一个关联的JavaBean实例,记录所述业务数据,写入待新增的业务数据集。
作为优选,步骤S400包括如下步骤:
创建一个事务Transaction和MutatorCoordinator实例;
遍历待更新的业务数据集,通过MutatorCoordinator.update()将每一条业务数据更新至Hive事务表;
遍历待新增的业务数据集,为每一条业务数据的JavaBean实例的Hive虚拟主键字段添加唯一标识,采用MutatorCoordinator.insert()将每一条业务数据写入Hive事务表;
关闭MutatorCoordinator实例,提交事务Transaction。
作为优选,步骤S100中,动态创建Hive事务表的JavaBean Class实例之前,创建MutatorClient连接;
步骤S400执行完毕后,关闭MutatorClient连接。
作为优选,Hive事务表中主键列位于最前列;
如果Hive事务表中有多个主键,所述多个在主键按次序排列在Hive事务表中。
第二方面,本发明提供一种终端,包括处理器、输入设备、输出设备和存储器,处理器、输入设备、输出设备和存储器相互连接,存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令执行如第一方面任一项所述的一种将业务数据更新至Hive的方法。
第三方面,本发明提供一种存储介质,所述介质为计算机可读存储介质,存储有计算机程序,所述计算机程序包括程序指令,程序指令当被处理器执行时所述处理器执行如第一方面任一项所述的一种将业务数据更新至Hive的方法。
本发明的一种将业务数据更新至Hive的方法、终端及存储介质具有以下优点:实现了将待更新的业务数据集存储至Hive事务表,将待新增的业务数据集添加Hive虚拟主键后存储至Hive事务表,即将业务数据写入Hive,业务数据发生变化时将变化的数据更新至Hive,适用于需要将业务数据存储在大数据Hive中并且业务数据存在更新的业务场景。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例中描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
下面结合附图对本发明进一步说明。
附图1为实施例1一种将业务数据更新至Hive的方法的流程框图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明,以使本领域的技术人员可以更好地理解本发明并能予以实施,但所举实施例不作为对本发明的限定,在不冲突的情况下,本发明实施例以及实施例中的技术特征可以相互结合。
本发明实施例提供一种将业务数据更新至Hive的方法、终端及存储介质,用于解决如何实现Hive与业务表的对接、业务表数据的写入和更新以及大量业务表的处理的技术问题。
实施例1:
本发明的一种将业务数据更新至Hive的方法,用于将业务数据写入或者更新至Hive中。
该方法包括如下步骤:
S100、创建MutatorClient连接,并动态创建Hive事务表的JavaBean Class实例;
S200、从业务数据中提取业务主键,从Hive事务表中查询数据并获取存储的业务主键和Hive虚拟主键,并构建反映业务主键和Hive虚拟主键映射关系的映射关系Map;
S300、基于映射关系Map判断业务数据表中业务数据为待更新的业务数据还是待新增的业务数据,并通过JavaBean实例将待更新的业务数据写入待更新的业务数据集、将待新增的业务数据写入待新增的业务数据集;
S400、将待更新的业务数据集存储至Hive事务表,将待新增的业务数据集添加Hive虚拟主键后存储至Hive事务表;
S500、关闭MutatorClient连接。
其中,Hive Mutation API要求数据处理时采用JavaBean模式构建数据,当有大量业务数据表时,为每个数据表创建JavaBean类成本高昂、不易维护,因此采用动态方式构建JavaBean Class实例,方法是:采用Javassist(一个开源的分析、编辑和创建Java字节码的类库)动态生成类。具体步骤为:
S110、对于从Hive事务表的元数据中获取的每个字段,构建私有声明、get方法以及set方法;
S120、新增一个Hive虚拟主键字段,对于Hive虚拟主键字段,构建私有声明、get方法以及set方法,该Hive虚拟主键字段对应Hive事务表的虚拟主键列。
本实施例中业务表t1的JavaBean中包含id、name以及Hive事务表的虚拟主键列,。具体如下:
private String id;
private String name;
private RecordIdentifier rowId;
业务主键能够唯一标识一条业务数据,Hive虚拟主键是Hive事务表中隐藏的字段,Hive中采用虚拟主键来唯一标识一条数据。步骤S200包括如下分步骤:
S210、从业务数据中提取业务主键,业务主键在关系数据库中为用primary key声明的字段;
S220、读取Hive事务表数据存储的HDFS文件,为减少网络IO、提升处理效率,仅读取业务主键所在的列,获取InputSplit信息;
S230、声明映射关系Map,处理InputSplit信息得到业务主键和Hive虚拟主键;
S240、构建业务主键和与其关联的Hive事务表中Hive虚拟主键的映射关系,形成映射关系Map,方便后续根据业务主键获取业务数据的Hive虚拟主键,并根据Hive虚拟主键更新Hive数据。
其中步骤S220中,通过IOConstants.SCHEMA_EVOLUTION_COLUMNS指定待查询的业务主键列,并通过逗号分隔多个主键列名称。实例如下:
JobConf job=new JobConf();
//Hive事务表数据存储的HDFS文件目录
job.set("mapred.input.dir","/test/t1");
job.set("bucket_count",1);
//指定待查询的主键列名称,多个主键之间用逗号分隔
job.set(IOConstants.SCHEMA_EVOLUTION_COLUMNS,"id");
job.set(IOConstants.SCHEMA_EVOLUTION_COLUMNS_TYPES,"string");
job.set(ConfVars.HIVE_TRANSACTIONAL_TABLE_SCAN.varname,"true");
job.set(ValidTxnList.VALID_TXNS_KEY,txns.toString());
InputFormat<NullWritable,OrcStruct>inputFormat=new OrcInputFormat();
InputSplit[]splits=inputFormat.getSplits(job,1);
步骤S300实现了构建数据集,数据集包括待更新的业务员数据集和待新增的业务数据集。具体步骤为:遍历业务数据集,获取业务主键,对于每个业务主键,执行如下操作:
查询所述业务主键是否存在于所述映射关系Map中,如果业务主键位于映射关系Map中,业务主键对应的业务数据为待更新的业务数据,如果业务主键不在所述映射关系Map中,业务主键对应的业务数据为待新增的业务数据;
对于待更新的业务数据,声明一个关联的JavaBean实例,记录业务数据和Hive虚拟主键,写入待更新的业务数据集;
对于待新增的业务数据,声明一个关联的JavaBean实例,记录业务数据,写入待新增的业务数据集。
步骤S400中,将业务数据存储至Hive数据表中。具体步骤为:
S410、创建一个事务Transaction和MutatorCoordinator实例;
S420、遍历待更新的业务数据集,通过MutatorCoordinator.update()将每一条业务数据更新至Hive事务表;
S430、遍历待新增的业务数据集,为每一条业务数据的JavaBean实例的Hive虚拟主键字段添加唯一标识,采用MutatorCoordinator.insert()将每一条业务数据写入Hive事务表;
S440、关闭MutatorCoordinator实例,提交事务Transaction。
本实施例中,根据业务数据的主键来判断业务数据是写入至Hive事务表或更新至Hive事务表的,因此创建Hive事务表时主键列位于最前列,若有多个主键,则多个主键顺次排列在Hive事务表中。上述主键指业务主键,Hive虚拟主键是Hive事务表中隐藏的字段,Hive中采用虚拟主键来唯一标识一条数据。
上述Hive事务表的配置规则,具有如下益处:从Hive事务表查询主键列数据时,可以根据主键个数只查询前几列的数据,减少网络IO,提升处理效率。比如业务表t1包含字段id、name,该表对应的Hive事务表的建表SQL为:create table t1(id string,namestring)clustered by(id)into 1 buckets stored as orc TBLPROPERTIES('transactional'='true');。
通过本发明的一种将业务数据更新至Hive的方法,可将业务数据新增至Hive,并可将变化的业务数据更新至Hive,可广泛应用于需要将业务数据存储在大数据hive中并且业务数据存在更新的业务场景。
实施例2:
本发明的一种终端,包括处理器、输入设备、输出设备和存储器,处理器、输入设备、输出设备和存储器相互连接,存储器用于存储计算机程序,计算机程序包括程序指令,处理器被配置用于调用所述程序指令执行实施例1公开的一种将业务数据更新至Hive的方法。
实施例3:
本发明提供一种存储介质,该介质为计算机可读存储介质,存储有计算机程序,计算机程序包括程序指令,程序指令当被处理器执行时处理器执行实施例1公开的一种将业务数据更新至Hive的方法。
以上所述实施例仅是为充分说明本发明而所举的较佳的实施例,本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换,均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。
Claims (10)
1.一种将业务数据更新至Hive的方法,其特征在于用于将业务数据写入或者更新至Hive中,所述方法包括如下步骤:
S100、动态创建Hive事务表的JavaBean Class实例;
S200、从业务数据中提取业务主键,从Hive事务表中查询数据并获取存储的业务主键和Hive虚拟主键,并构建反映业务主键和Hive虚拟主键映射关系的映射关系Map;
S300、基于映射关系Map判断业务数据表中业务数据为待更新的业务数据还是待新增的业务数据,并通过JavaBean实例将待更新的业务数据写入待更新的业务数据集、将待新增的业务数据写入待新增的业务数据集;
S400、将待更新的业务数据集存储至Hive事务表,将待新增的业务数据集添加Hive虚拟主键后存储至Hive事务表。
2.根据权利要求1所述的一种将业务数据更新至Hive的方法,其特征在于步骤S100中,采用Javassist动态创建Hive事务表的JavaBean Class实例,包括如下步骤:
对于从Hive事务表的元数据中获取的每个字段,构建私有声明、get方法以及set方法;
新增一个Hive虚拟主键字段,对于Hive虚拟主键字段,构建私有声明、get方法以及set方法,所述Hive虚拟主键字段对应Hive事务表的虚拟主键列。
3.根据权利要求1所述的一种将业务数据更新至Hive的方法,其特征在于步骤S200,包括如下分步骤:
从业务数据中提取业务主键,所述业务主键在关系数据库中为用primary key声明的字段;
读取Hive事务表数据存储的HDFS文件,且仅读取业务主键所在的列,获取InputSplit信息;
声明映射关系Map,处理InputSplit信息得到业务主键和Hive虚拟主键;
构建业务主键和与其关联的Hive事务表中Hive虚拟主键的映射关系,形成映射关系Map。
4.根据权利要求3所述的一种将业务数据更新至Hive的方法,其特征在于读取业务主键所在的列,包括:
通过IOConstants.SCHEMA_EVOLUTION_COLUMNS指定待查询的业务主键列,并通过逗号分隔多个主键列名称。
5.根据权利要求1所述的一种将业务数据更新至Hive的方法,其特征在于步骤S300包括如下分步骤:
遍历业务数据集,获取业务主键;
对于每个业务主键,执行如下操作:
查询所述业务主键是否存在于所述映射关系Map中,如果所述业务主键位于所述映射关系Map中,所述业务主键对应的业务数据为待更新的业务数据,如果所述业务主键不在所述映射关系Map中,所述业务主键对应的业务数据为待新增的业务数据;
对于待更新的业务数据,声明一个关联的JavaBean实例,记录所述业务数据和Hive虚拟主键,写入待更新的业务数据集;
对于待新增的业务数据,声明一个关联的JavaBean实例,记录所述业务数据,写入待新增的业务数据集。
6.根据权利要求1所述的一种将业务数据更新至Hive的方法,其特征在于步骤S400包括如下步骤:
创建一个事务Transaction和MutatorCoordinator实例;
遍历待更新的业务数据集,通过MutatorCoordinator.update()将每一条业务数据更新至Hive事务表;
遍历待新增的业务数据集,为每一条业务数据的JavaBean实例的Hive虚拟主键字段添加唯一标识,采用MutatorCoordinator.insert()将每一条业务数据写入Hive事务表;
关闭MutatorCoordinator实例,提交事务Transaction。
7.根据权利要求1所述的一种将业务数据更新至Hive的方法,其特征在于步骤S100中,动态创建Hive事务表的JavaBean Class实例之前,创建MutatorClient连接;
步骤S400执行完毕后,关闭MutatorClient连接。
8.根据权利要求1-7任一项所述的一种将业务数据更新至Hive的方法,其特征在于Hive事务表中主键列位于最前列;
如果Hive事务表中有多个主键,所述多个在主键按次序排列在Hive事务表中。
9.一种终端,其特征在于包括处理器、输入设备、输出设备和存储器,处理器、输入设备、输出设备和存储器相互连接,存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令执行如权利要求1-8任一项所述的一种将业务数据更新至Hive的方法。
10.一种存储介质,其特征在于所述介质为计算机可读存储介质,存储有计算机程序,所述计算机程序包括程序指令,程序指令当被处理器执行时所述处理器执行如权利要求1-8任一项所述的一种将业务数据更新至Hive的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910899330.1A CN110647535B (zh) | 2019-09-23 | 2019-09-23 | 一种将业务数据更新至Hive的方法、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910899330.1A CN110647535B (zh) | 2019-09-23 | 2019-09-23 | 一种将业务数据更新至Hive的方法、终端及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110647535A true CN110647535A (zh) | 2020-01-03 |
CN110647535B CN110647535B (zh) | 2023-06-09 |
Family
ID=69011048
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910899330.1A Active CN110647535B (zh) | 2019-09-23 | 2019-09-23 | 一种将业务数据更新至Hive的方法、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110647535B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112800073A (zh) * | 2021-01-27 | 2021-05-14 | 浪潮云信息技术股份公司 | 一种基于NiFi更新Delta Lake的方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180096000A1 (en) * | 2016-09-15 | 2018-04-05 | Gb Gas Holdings Limited | System for analysing data relationships to support data query execution |
CN110196858A (zh) * | 2019-06-05 | 2019-09-03 | 浪潮软件集团有限公司 | 一种基于Hive Mutation API进行数据更新的方法 |
-
2019
- 2019-09-23 CN CN201910899330.1A patent/CN110647535B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180096000A1 (en) * | 2016-09-15 | 2018-04-05 | Gb Gas Holdings Limited | System for analysing data relationships to support data query execution |
CN110196858A (zh) * | 2019-06-05 | 2019-09-03 | 浪潮软件集团有限公司 | 一种基于Hive Mutation API进行数据更新的方法 |
Non-Patent Citations (1)
Title |
---|
张野: "Hadoop Hive实现日志数据统计", 《电脑编程技巧与维护》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112800073A (zh) * | 2021-01-27 | 2021-05-14 | 浪潮云信息技术股份公司 | 一种基于NiFi更新Delta Lake的方法 |
CN112800073B (zh) * | 2021-01-27 | 2023-03-28 | 浪潮云信息技术股份公司 | 一种基于NiFi更新Delta Lake的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110647535B (zh) | 2023-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11169981B2 (en) | Managing data with flexible schema | |
US6243709B1 (en) | Method and apparatus for loading stored procedures in a database corresponding to object-oriented data dependencies | |
US7376658B1 (en) | Managing cross-store relationships to data objects | |
TWI412945B (zh) | 擷取以及保存來自或存至關聯資料庫之各物件的方法及系統 | |
US20100082646A1 (en) | Tracking constraints and dependencies across mapping layers | |
US20100153349A1 (en) | Continuous, automated database-table partitioning and database-schema evolution | |
JP2001527243A (ja) | オブジェクト指向アプリケーション内のクラスに対応するリレーショナル・データベース内のインデックスを生成するための方法及び装置 | |
US9864794B2 (en) | Method and system for managing faceted data | |
CN109885585B (zh) | 支持存储过程、触发器与视图的分布式数据库系统和方法 | |
US10509632B2 (en) | Model augmentation in a model-driven application development environment | |
WO2019015364A1 (zh) | 执行结构化查询语言sql指令的方法和装置 | |
US7213014B2 (en) | Apparatus and method for using a predefined database operation as a data source for a different database operation | |
CN110647535A (zh) | 一种将业务数据更新至Hive的方法、终端及存储介质 | |
US20110099188A1 (en) | Data framework to enable rich processing of data from any arbitrary data source | |
Mpinda et al. | From relational database to column-oriented NoSQL database: Migration process | |
JPH0212464A (ja) | データベース・システム | |
CN107622070B (zh) | 一种数据库管理方法及装置 | |
EP1040432B1 (en) | Method and apparatus for loading stored procedures in a database corresponding to object-oriented data dependencies | |
Cobbs | Persistence Programming: Are we doing this right? | |
US20110137959A1 (en) | Representing relational schema information using generic meta schemas | |
CN112000739B (zh) | 单元格的指定插入方法、装置、计算机设备、存储介质 | |
TWI484358B (zh) | 資料庫之移轉系統、方法及其電腦可讀取之媒體 | |
Troelsen et al. | Exploring Entity Framework Core | |
CN117421302A (zh) | 一种数据处理方法及相关设备 | |
CN112182028A (zh) | 基于分布式数据库的表的数据行数查询方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |