CN111125122A - 数据的更新方法及装置 - Google Patents
数据的更新方法及装置 Download PDFInfo
- Publication number
- CN111125122A CN111125122A CN201811291278.3A CN201811291278A CN111125122A CN 111125122 A CN111125122 A CN 111125122A CN 201811291278 A CN201811291278 A CN 201811291278A CN 111125122 A CN111125122 A CN 111125122A
- Authority
- CN
- China
- Prior art keywords
- data
- partition
- updated
- updating
- subjected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000005192 partition Methods 0.000 claims abstract description 297
- 238000012545 processing Methods 0.000 claims abstract description 80
- 230000008030 elimination Effects 0.000 claims abstract description 41
- 238000003379 elimination reaction Methods 0.000 claims abstract description 41
- 230000008569 process Effects 0.000 claims abstract description 10
- 238000003860 storage Methods 0.000 claims description 32
- 238000000605 extraction Methods 0.000 claims description 3
- 241000282813 Aepyceros melampus Species 0.000 abstract description 59
- 238000004590 computer program Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 8
- 239000000284 extract Substances 0.000 description 8
- 230000008901 benefit Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据的更新方法及装置,涉及数据处理技术领域,对Impala数据库中已存储的数据进行更新操作。本发明的方法包括:接收数据更新请求;根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;对所述第一分区数据中的所述待更新数据进行剔除处理;获取所述待更新数据对应的更新数据,并对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据;使用所述第二分区数据覆盖所述第一分区数据。本发明适用于对Impala数据库中已存储的数据进行更新操作的过程中。
Description
技术领域
本发明涉及数据处理技术领域,特别是涉及一种数据的更新方法及装置。
背景技术
随着互联网技术的日益发展,互联网用户的数量也在急剧增多,从而使得需要进行存储的用户数据的数据量也在飞速增长,如何存储和快速查询海量用户数据成为了大型互联网企业新的关注点。Impala数据库作为一款分布式数据库,由于其具有查询效率高、性能好等优点受到了广大互联网企业的欢迎。但是,由于Impala数据库内部架构偏向于提升查询效率,从而导致Impala数据库牺牲掉部分性能,如不支持对存储的数据进行更新操作等,然而,在日常运维过程中对数据库中已存储的数据进行更新操作是必不可少的步骤,因此,如何使Impala数据库支持对存储的数据进行更新操作是当前亟需解决的问题。
目前,当需要使Impala数据库支持对存储的数据进行更新操作时,需要将Impala数据库的CDH(Cloudera Distribution Hadoop)版本提升至5.10以上,并将Impala数据库的底层文件系统所使用的存储引擎更改为Kudu存储引擎。然而,在实际应用过程中,升级CDH的版本和更改底层文件系统所使用的存储引擎的成本非常高,从而导致使Impala数据库支持对存储的数据进行更新操作的方式适用性较低。
发明内容
有鉴于此,本发明提供的数据的更新方法及装置,主要目的在于对Impala数据库中已存储的数据进行更新操作。
为了达到上述目的,本发明主要提供如下技术方案:
第一方面,本发明提供了一种数据的更新方法,该方法包括:
接收数据更新请求;
根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
对所述第一分区数据中的所述待更新数据进行剔除处理;
获取所述待更新数据对应的更新数据,并对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据;
使用所述第二分区数据覆盖所述第一分区数据。
可选的,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;所述根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,包括:
根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
在所述数据分区中提取所述第一分区数据。
可选的,所述对所述第一分区数据中的所述待更新数据进行剔除处理,包括:
根据所述待更新数据对应的属性对所述第一分区数据中的所述待更新数据进行剔除处理;和/或
根据所述待更新数据对应的标识对所述第一分区数据中的所述待更新数据进行剔除处理;
将经过剔除处理的所述第一分区数据存储至第一数据表中。
可选的,在所述获取所述待更新数据对应的更新数据之后,所述方法还包括:
判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序是否相同;
若是,则将所述更新数据存储至第二数据表中;
若否,则根据预设规则将所述更新数据对应的列顺序调整至与经过剔除处理的所述第一分区数据对应的列顺序一致,并将经过调整处理的所述更新数据存储至所述第二数据表中。
可选的,所述对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据,包括:
在所述第一数据表中获取经过剔除处理的所述第一分区数据,并在所述第二数据表中获取所述更新数据;
对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据。
可选的,所述使用所述第二分区数据覆盖所述第一分区数据,包括:
在所述数据分区中使用所述第二分区数据覆盖所述第一分区数据。
第二方面,本发明还提供一种数据的更新装置,该装置包括:
接收单元,用于接收数据更新请求;
提取单元,用于根据所述接收单元接收的所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
剔除单元,用于对所述提取单元提取的所述第一分区数据中的所述待更新数据进行剔除处理;
获取单元,用于获取所述待更新数据对应的更新数据;
拼接单元,用于对经过剔除处理的所述第一分区数据和所述获取单元获取的所述更新数据进行拼接处理,以获得第二分区数据;
覆盖单元,用于使用所述拼接单元拼接的所述第二分区数据覆盖所述第一分区数据。
可选的,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;所述提取单元包括:
确定模块,用于根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
提取模块,用于在所述确定模块确定的所述数据分区中提取所述第一分区数据。
可选的,所述剔除单元包括:
第一剔除模块,用于根据所述待更新数据对应的属性对所述第一分区数据中的所述待更新数据进行剔除处理;
第二剔除模块,用于根据所述待更新数据对应的标识对所述第一分区数据中的所述待更新数据进行剔除处理;
存储模块,用于将经过剔除处理的所述第一分区数据存储至第一数据表中。
可选的,所述装置还包括:
判断单元,用于在所述获取单元获取所述待更新数据对应的更新数据之后,判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序是否相同;
第一存储单元,用于当所述判断单元判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序相同时,将所述更新数据存储至第二数据表中;
调整单元,用于当所述判断单元判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序不同时,根据预设规则将所述更新数据对应的列顺序调整至与经过剔除处理的所述第一分区数据对应的列顺序一致;
第二存储单元,用于将经过调整处理的所述更新数据存储至所述第二数据表中。
可选的,所述拼接单元包括:
第二获取模块,用于在所述第一数据表中获取经过剔除处理的所述第一分区数据,并在所述第二数据表中获取所述更新数据;
拼接模块,用于对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据。
可选的,所述覆盖单元包括:
覆盖模块,用于在所述数据分区中使用所述第二分区数据覆盖所述第一分区数据。
为了实现上述目的,根据本发明的第三方面,提供了一种存储介质,所述存储介质包括存储的程序,其中,在所述程序运行时控制所述存储介质所在设备执行上述所述的数据的更新方法。
为了实现上述目的,根据本发明的第四方面,提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述所述的数据的更新方法。
借由上述技术方案,本发明提供的技术方案至少具有下列优点:
本发明提供的一种数据的更新方法及装置,与现有技术中,通过升级CDH的版本和更改底层文件系统所使用的存储引擎,使Impala数据库支持对存储的数据进行更新操作相比,本发明能够在Impala数据库接收到数据更新请求后,首先,根据该数据更新请求确定待更新数据所在的数据分区,并在该数据分区中提取包含待更新数据的第一分区数据,以及对第一分区数据中的待更新数据进行剔除处理;然后,获取待更新数据对应的更新数据,并对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得第二分区数据;最后,在数据库中使用获得的第二分区数据覆盖第一分区数据,便可实现对Impala数据库中已存储的数据进行更新的效果。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种数据的更新方法流程图;
图2示出了本发明实施例提供的另一种数据的更新方法流程图;
图3示出了本发明实施例提供的一种数据的更新装置的组成框图;
图4示出了本发明实施例提供的另一种数据的更新装置的组成框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明实施例提供一种数据的更新方法,如图1所示,该方法包括:
101、接收数据更新请求。
在本发明实施例中,由于,Impala数据库内部架构偏向于提升查询效率,导致Impala数据库无法直接对已存储的数据进行更新操作,因此,当需要对Impala数据库中已存储的数据进行更新操作时,需要向Impala数据库发送数据更新请求,以便Impala数据库在接收到该数据更新请求后,根据该数据更新请求在待更新数据所在数据分区中提取包含待更新数据的第一分区数据,在对第一分区数据中的待更新数据进行剔除处理,并获取到待更新数据对应的更新数据后,对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得包含第一分区数据中无需进行更新操作的数据和待更新数据对应的更新数据的第二分区数据,最后,在数据库中使用获得的第二分区数据覆盖第一分区数据,便可实现对Impala数据库中已存储的待更新数据进行更新的效果。
102、根据数据更新请求确定待更新数据所在的数据分区,并在数据分区中提取第一分区数据。
其中,在Impala数据库中,数据是以数据分区形式存储的,第一分区数据是指待更新数据所在的数据分区所包含的所有数据,从而第一分区数据中包含待更新数据。
在本发明实施例中,Impala数据库在接收到数据更新请求后,便会根据数据更新请求确定待更新数据所在的数据分区,并在确定的数据分区中提取包含待更新数据的第一分区数据。
103、对第一分区数据中的待更新数据进行剔除处理。
在本发明实施例中,Impala数据库在根据接收到的数据更新请求从待更新数据所在数据分区中提取包含待更新数据的第一分区数据后,对第一分区数据中的待更新数据进行剔除处理,即将第一分区数据中的待更新数据删除,从而经过剔除处理的第一分区数据便为第一分区数据中无需进行更新操作的数据。
104、获取待更新数据对应的更新数据,并对经过剔除处理的第一分区数据和更新数据进行拼接处理,以获得第二分区数据。
在本发明实施例中,Impala数据库在对第一分区数据中的待更新数据进行剔除处理后,获取待更新数据对应的更新数据,并对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得包含第一分区数据中无需进行更新操作的数据和待更新数据对应的更新数据的第二分区数据。
105、使用第二分区数据覆盖第一分区数据。
在本发明实施例中,Impala数据库在获取得到第二分区数据后,在数据库中使用获得的第二分区数据覆盖第一分区数据,便可实现对Impala数据库中已存储的待更新数据进行更新的效果。
需要说明的是,上述被第二分区数据覆盖的第一分区数据是数据分区中的第一分区数据,以便达到对数据库中数据分区中的待更新数据进行更新的效果;在某些实施例中,如果将数据分区中提取的第一分区数据存储在临时数据表中,则也可以先通过第二分区数据覆盖临时数据表中的数据,然后将覆盖后的临时表导入数据分区,以便通过更新后的临时表覆盖数据分区中的旧数据,进而达到数据更新的效果。
本发明实施例提供的一种数据的更新方法,与现有技术中,通过升级CDH的版本和更改底层文件系统所使用的存储引擎,使Impala数据库支持对存储的数据进行更新操作相比,本发明实施例能够在Impala数据库接收到数据更新请求后,首先,根据该数据更新请求确定待更新数据所在的数据分区,并在该数据分区中提取包含待更新数据的第一分区数据,以及对第一分区数据中的待更新数据进行剔除处理;然后,获取待更新数据对应的更新数据,并对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得第二分区数据;最后,在数据库中使用获得的第二分区数据覆盖第一分区数据,便可实现对Impala数据库中已存储的数据进行更新的效果。
以下为了更加详细地说明,本发明实施例提供了另一种数据的更新方法,特别是Impala数据库提取第一分区数据的具体方法以及Impala数据库对第一分区数据中的待更新数据进行剔除处理的具体方法,具体如图2所示,该方法包括:
201、接收数据更新请求。
其中,关于步骤201、接收数据更新请求,可以参考图1对应部分的描述,本发明实施例此处将不再赘述。
202、根据数据更新请求确定待更新数据所在的数据分区,并在数据分区中提取第一分区数据。
在本发明实施例中,Impala数据库在接收到数据更新请求后,便会根据数据更新请求确定待更新数据所在的数据分区,并在确定的数据分区中提取包含待更新数据的第一分区数据。以下将对Impala数据库如何根据数据更新请求确定待更新数据所在的数据分区,并在数据分区中提取第一分区数据进行详细说明。
(1)根据待更新数据对应的属性和/或待更新数据对应的标识确定待更新数据所在的数据分区。
其中,Impala数据库接收到的数据更新请求中可以但不限于包含:待更新数据对应的属性和/或待更新数据对应的标识。
具体而言,可以预先设置数据的属性和数据分区的对应关系,或者预先设置数据的标识和数据分区的对应关系,从而在接收到数据更新请求后,能够方便地根据数据更新请求中携带的数据的属性和预先设置的对应关系(或者,根据数据更新请求中携带的数据的标识及预先设置的对应关系),查找到对应的数据分区,并从相应的数据分区中提取对应的第一分区数据,有效避免了接收到数据更新请求后,需要进行数据库数据的全量扫描的问题,从而有效提升数据查询效率。
在本发明实施例中,Impala数据库在接收到包含待更新数据对应的属性和/或待更新数据对应的标识的数据更新请求后,根据待更新数据对应的属性和/或待更新数据对应的标识确定待更新数据所在的数据分区,即根据待更新数据对应的属性和/或待更新数据对应的标识确定存储待更新数据的数据表;然后,在该数据表中,根据待更新数据对应的属性和/或待更新数据对应的标识确定待更新数据所在的数据分区。
(2)在数据分区中提取第一分区数据。
在本发明实施例中,Impala数据库在经过步骤(1)确定待更新数据所在的数据分区后,在该数据分区中提取包含待更新数据的第一分区数据。
203、对第一分区数据中的待更新数据进行剔除处理。
在本发明实施例中,Impala数据库在根据接收到的数据更新请求从待更新数据所在数据分区中提取包含待更新数据的第一分区数据后,对第一分区数据中的待更新数据进行剔除处理,其中,经过剔除处理的第一分区数据便为第一分区数据中无需进行更新操作的数据。以下将对Impala数据库如何对第一分区数据中的待更新数据进行剔除处理进行详细说明。
(1)根据待更新数据对应的属性对第一分区数据中的待更新数据进行剔除处理。
在本发明实施例中,当Impala数据库接收到的数据更新请求中包含待更新数据对应的属性时,Impala数据库可以根据待更新数据对应的属性对第一分区数据中的待更新数据进行剔除处理。具体的,在本步骤中,当待更新数据为其所在数据分区中指定数据所在行的全部数据时,待更新数据对应的属性具体可以为:该指定数据和该指定数据对应的列名称,从而Impala数据库在根据待更新数据对应的属性对第一分区数据中的待更新数据进行剔除处理时,是先根据该指定数据对应的列名称在第一分区数据中查找该列名称对应的列数据;然后,在该列数据中查找该指定数据;最后,在第一分区数据中,将该指定数据所在行的全部数据删除,但不限于此。
(2)根据待更新数据对应的标识对第一分区数据中的待更新数据进行剔除处理。
在本发明实施例中,当Impala数据库接收到的数据更新请求中包含待更新数据对应的标识时,Impala数据库可以根据待更新数据对应的标识对第一分区数据中的待更新数据进行剔除处理,即根据待更新数据对应的标识在第一分区数据中查找待更新数据;然后,在第一分区数据中,将查找到的待更新数据删除。
(3)将经过剔除处理的第一分区数据存储至第一数据表中。
在本发明实施例中,Impala数据库在根据待更新数据对应的属性和/或待更新数据对应的标识对第一分区数据中的待更新数据进行剔除处理后,将经过剔除处理的第一分区数据存储至第一数据表中,以便后续对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理。
204、获取待更新数据对应的更新数据。
其中,关于步骤204、获取待更新数据对应的更新数据,可以参考图1对应部分的描述,本发明实施例此处将不再赘述。
进一步的,在实际应用过程中,为了能够正常对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,需要保证经过剔除处理的第一分区数据的列顺序与待更新数据对应的更新数据的列顺序相同,因此,Impala数据库在获取得到待更新数据对应的更新数据后,需要判断更新数据对应的列顺序与经过剔除处理的第一分区数据对应的列顺序是否相同:当判断两者对应的列顺序相同时,Impala数据库可以将获取得到的更新数据直接存储至第二数据表中;当判断两者对应的列顺序不同时,便需要根据预设规则将更新数据对应的列顺序调整至与经过剔除处理的第一分区数据对应的列顺序一致,然后,并将经过调整处理的更新数据存储至第二数据表中。具体的,在本步骤中,Impala数据库在根据预设规则将更新数据对应的列顺序调整至与经过剔除处理的第一分区数据对应的列顺序一致时,可以采用Spark SQL组件进行调整,但不限于此。
205、对经过剔除处理的第一分区数据和更新数据进行拼接处理,以获得第二分区数据。
在本发明实施例中,Impala数据库在获取得到待更新数据对应的更新数据后,对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得包含第一分区数据中无需进行更新操作的数据和待更新数据对应的更新数据的第二分区数据。以下将对Impala数据库如何对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,以获得第二分区数据进行详细说明。
(1)在第一数据表中获取经过剔除处理的第一分区数据,并在第二数据表中获取更新数据。
在本发明实施例中,当Impala数据库需要对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理时,首先,需要在第一数据表中获取经过剔除处理的第一分区数据,以及在第二数据表中获取待更新数据对应的更新数据。
(2)对经过剔除处理的第一分区数据和更新数据进行拼接处理,以获得第二分区数据。
在本发明实施例中,Impala数据库分别在第一数据表和第二数据表中获取得到经过剔除处理的第一分区数据和待更新数据对应的更新数据后,便可对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得包含第一分区数据中无需进行更新操作的数据和待更新数据对应的更新数据的第二分区数据。
206、在数据分区中使用第二分区数据覆盖第一分区数据。
在本发明实施例中,Impala数据库在获取得到第二分区数据后,便可在待更新数据所在的数据分区中使用第二分区数据覆盖第一分区数据,从而实现对Impala数据库中已存储的待更新数据进行更新的效果。
为了实现上述目的,根据本发明的另一方面,本发明实施例还提供了一种存储介质,所述存储介质包括存储的程序,其中,在所述程序运行时控制所述存储介质所在设备执行上述所述的数据的更新方法。
为了实现上述目的,根据本发明的另一方面,本发明实施例还提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述所述的数据的更新方法。
进一步的,作为对上述图1及图2所示方法的实现,本发明另一实施例还提供了一种数据的更新装置。该装置实施例与前述方法实施例对应,为便于阅读,本装置实施例不再对前述方法实施例中的细节内容进行逐一赘述,但应当明确,本实施例中的装置能够对应实现前述方法实施例中的全部内容。该装置应用于对Impala数据库中已存储的数据进行更新操作,具体如图3所示,该装置包括:
接收单元31,用于接收数据更新请求;
提取单元32,用于根据接收单元31接收的所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
剔除单元33,用于对提取单元32提取的所述第一分区数据中的所述待更新数据进行剔除处理;
获取单元34,用于获取所述待更新数据对应的更新数据;
拼接单元35,用于对经过剔除处理的所述第一分区数据和所述获取单元34获取的所述更新数据进行拼接处理,以获得第二分区数据;
覆盖单元36,用于使用拼接单元35拼接的所述第二分区数据覆盖所述第一分区数据。
进一步的,如图4所示,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;提取单元32包括:
确定模块321,用于根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
提取模块322,用于在确定模块321确定的所述数据分区中提取所述第一分区数据。
进一步的,如图4所示,剔除单元33包括:
第一剔除模块331,用于根据所述待更新数据对应的属性对所述第一分区数据中的所述待更新数据进行剔除处理;
第二剔除模块332,用于根据所述待更新数据对应的标识对所述第一分区数据中的所述待更新数据进行剔除处理;
存储模块333,用于将经过剔除处理的所述第一分区数据存储至第一数据表中。
进一步的,如图4所示,该装置还包括:
判断单元37,用于在获取单元34获取所述待更新数据对应的更新数据之后,判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序是否相同;
第一存储单元38,用于当判断单元37判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序相同时,将所述更新数据存储至第二数据表中;
调整单元39,用于当判断单元37判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序不同时,根据预设规则将所述更新数据对应的列顺序调整至与经过剔除处理的所述第一分区数据对应的列顺序一致;
第二存储单元310,用于将经过调整处理的所述更新数据存储至所述第二数据表中。
进一步的,如图4所示,拼接单元35包括:
第二获取模块351,用于在所述第一数据表中获取经过剔除处理的所述第一分区数据,并在所述第二数据表中获取所述更新数据;
拼接模块352,用于对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据。
进一步的,如图4所示,覆盖单元36包括:
覆盖模块361,用于在所述数据分区中使用所述第二分区数据覆盖所述第一分区数据。
本发明实施例提供的一种数据的更新方法及装置,与现有技术中,通过升级CDH的版本和更改底层文件系统所使用的存储引擎,使Impala数据库支持对存储的数据进行更新操作相比,本发明实施例能够在Impala数据库接收到数据更新请求后,首先,根据该数据更新请求确定待更新数据所在的数据分区,并在该数据分区中提取包含待更新数据的第一分区数据,以及对第一分区数据中的待更新数据进行剔除处理;然后,获取待更新数据对应的更新数据,并对经过剔除处理的第一分区数据和待更新数据对应的更新数据进行拼接处理,从而获得第二分区数据;最后,在待更新数据所在的数据分区中使用第二分区数据覆盖第一分区数据,便可实现对Impala数据库中已存储的数据进行更新的效果。
所述数据的更新装置包括处理器和存储器,上述接收单元、提取单元、剔除单元、获取单元、拼接单元和覆盖单元等均作为程序单元存储在存储器中,由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
处理器中包含内核,由内核去存储器中调取相应的程序单元。内核可以设置一个或以上,通过调整内核参数来对Impala数据库中已存储的数据进行更新操作。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM),存储器包括至少一个存储芯片。
本发明实施例提供了一种存储介质,其上存储有程序,该程序被处理器执行时实现以上实施例中任一项所述的数据的更新方法。
本发明实施例提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行以上实施例中任一项所述的数据的更新方法。
本发明实施例提供了一种设备,设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序,处理器执行程序时实现以下步骤:
接收数据更新请求;
根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
对所述第一分区数据中的所述待更新数据进行剔除处理;
获取所述待更新数据对应的更新数据,并对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据;
使用所述第二分区数据覆盖所述第一分区数据。
进一步的,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;所述根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,包括:
根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
在所述数据分区中提取所述第一分区数据。
进一步的,所述对所述第一分区数据中的所述待更新数据进行剔除处理,包括:
根据所述待更新数据对应的属性对所述第一分区数据中的所述待更新数据进行剔除处理;和/或
根据所述待更新数据对应的标识对所述第一分区数据中的所述待更新数据进行剔除处理;
将经过剔除处理的所述第一分区数据存储至第一数据表中。
进一步的,在所述获取所述待更新数据对应的更新数据之后,所述方法还包括:
判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序是否相同;
若是,则将所述更新数据存储至第二数据表中;
若否,则根据预设规则将所述更新数据对应的列顺序调整至与经过剔除处理的所述第一分区数据对应的列顺序一致,并将经过调整处理的所述更新数据存储至所述第二数据表中。
进一步的,所述对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据,包括:
在所述第一数据表中获取经过剔除处理的所述第一分区数据,并在所述第二数据表中获取所述更新数据;
对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据。
进一步的,所述使用所述第二分区数据覆盖所述第一分区数据,包括:
在所述数据分区中使用所述第二分区数据覆盖所述第一分区数据。
本文中的设备可以是服务器、PC等。
本申请还提供了一种计算机程序产品,当在数据处理设备上执行时,适于执行初始化有如下方法步骤的程序代码:接收数据更新请求;根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;对所述第一分区数据中的所述待更新数据进行剔除处理;获取所述待更新数据对应的更新数据,并对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据;使用所述第二分区数据覆盖所述第一分区数据。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种数据的更新方法,其特征在于,包括:
接收数据更新请求;
根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
对所述第一分区数据中的所述待更新数据进行剔除处理;
获取所述待更新数据对应的更新数据,并对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据;
使用所述第二分区数据覆盖所述第一分区数据。
2.根据权利要求1所述的方法,其特征在于,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;所述根据所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,包括:
根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
在所述数据分区中提取所述第一分区数据。
3.根据权利要求2所述的方法,其特征在于,所述对所述第一分区数据中的所述待更新数据进行剔除处理,包括:
根据所述待更新数据对应的属性对所述第一分区数据中的所述待更新数据进行剔除处理;和/或
根据所述待更新数据对应的标识对所述第一分区数据中的所述待更新数据进行剔除处理;
将经过剔除处理的所述第一分区数据存储至第一数据表中。
4.根据权利要求3所述的方法,其特征在于,在所述获取所述待更新数据对应的更新数据之后,所述方法还包括:
判断所述更新数据对应的列顺序与经过剔除处理的所述第一分区数据对应的列顺序是否相同;
若是,则将所述更新数据存储至第二数据表中;
若否,则根据预设规则将所述更新数据对应的列顺序调整至与经过剔除处理的所述第一分区数据对应的列顺序一致,并将经过调整处理的所述更新数据存储至所述第二数据表中。
5.根据权利要求4所述的方法,其特征在于,所述对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据,包括:
在所述第一数据表中获取经过剔除处理的所述第一分区数据,并在所述第二数据表中获取所述更新数据;
对经过剔除处理的所述第一分区数据和所述更新数据进行拼接处理,以获得第二分区数据。
6.根据权利要求1-5中任一项所述的方法,其特征在于,所述使用所述第二分区数据覆盖所述第一分区数据,包括:
在所述数据分区中使用所述第二分区数据覆盖所述第一分区数据。
7.一种数据的更新装置,其特征在于,包括:
接收单元,用于接收数据更新请求;
提取单元,用于根据所述接收单元接收的所述数据更新请求确定待更新数据所在的数据分区,并在所述数据分区中提取第一分区数据,其中,所述第一分区数据中包含所述待更新数据;
剔除单元,用于对所述提取单元提取的所述第一分区数据中的所述待更新数据进行剔除处理;
获取单元,用于获取所述待更新数据对应的更新数据;
拼接单元,用于对经过剔除处理的所述第一分区数据和所述获取单元获取的所述更新数据进行拼接处理,以获得第二分区数据;
覆盖单元,用于使用所述拼接单元拼接的所述第二分区数据覆盖所述第一分区数据。
8.根据权利要求7所述的装置,其特征在于,所述数据更新请求中包含所述待更新数据对应的属性和/或所述待更新数据对应的标识;所述提取单元包括:
确定模块,用于根据所述待更新数据对应的属性和/或所述待更新数据对应的标识确定所述待更新数据所在的数据分区;
提取模块,用于在所述确定模块确定的所述数据分区中提取所述第一分区数据。
9.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,在所述程序运行时控制所述存储介质所在设备执行权利要求1至权利要求6中任一项所述的数据的更新方法。
10.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1至权利要求6中任一项所述的数据的更新方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811291278.3A CN111125122A (zh) | 2018-10-31 | 2018-10-31 | 数据的更新方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811291278.3A CN111125122A (zh) | 2018-10-31 | 2018-10-31 | 数据的更新方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111125122A true CN111125122A (zh) | 2020-05-08 |
Family
ID=70494573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811291278.3A Pending CN111125122A (zh) | 2018-10-31 | 2018-10-31 | 数据的更新方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111125122A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105930865A (zh) * | 2016-04-18 | 2016-09-07 | 重庆市勘测院 | 城市建设用地分类提取及评估方法 |
CN106897340A (zh) * | 2016-07-05 | 2017-06-27 | 阿里巴巴集团控股有限公司 | 一种数据表更新方法及装置 |
CN107644454A (zh) * | 2017-08-25 | 2018-01-30 | 欧阳聪星 | 一种图像处理方法及装置 |
US20180262566A1 (en) * | 2016-01-29 | 2018-09-13 | Huawei Technologies Co., Ltd. | Caching Method and System Based on Cache Cluster |
-
2018
- 2018-10-31 CN CN201811291278.3A patent/CN111125122A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180262566A1 (en) * | 2016-01-29 | 2018-09-13 | Huawei Technologies Co., Ltd. | Caching Method and System Based on Cache Cluster |
CN105930865A (zh) * | 2016-04-18 | 2016-09-07 | 重庆市勘测院 | 城市建设用地分类提取及评估方法 |
CN106897340A (zh) * | 2016-07-05 | 2017-06-27 | 阿里巴巴集团控股有限公司 | 一种数据表更新方法及装置 |
CN107644454A (zh) * | 2017-08-25 | 2018-01-30 | 欧阳聪星 | 一种图像处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107957957B (zh) | 测试用例的获取方法和装置 | |
CN106897342B (zh) | 一种数据校验方法和设备 | |
CN108874379B (zh) | 页面的处理方法及装置 | |
CN106648839B (zh) | 数据处理的方法和装置 | |
CN109388644B (zh) | 一种数据更新方法及装置 | |
CN107015986B (zh) | 一种爬虫爬取网页的方法及装置 | |
CN110825764B (zh) | 一种sql脚本的生成方法、系统、存储介质和处理器 | |
CN110673849B (zh) | 一种批量预设置文件安全上下文的方法及装置 | |
CN108062323B (zh) | 一种日志读取方法及装置 | |
CN105975567B (zh) | 一种应用程序的内部文件的处理方法及装置 | |
CN109429100B (zh) | 一种页面路径的存储方法、装置及系统 | |
CN106294700A (zh) | 一种日志的存储与读取方法及装置 | |
CN111125122A (zh) | 数据的更新方法及装置 | |
CN110019508B (zh) | 一种数据同步方法、装置及系统 | |
CN112527792A (zh) | 一种数据存储方法、装置、设备和存储介质 | |
CN110019497B (zh) | 一种数据读取方法及装置 | |
CN111125087A (zh) | 数据的存储方法及装置 | |
CN112612915B (zh) | 一种图片标注方法及设备 | |
CN110968555A (zh) | 维度数据处理方法和装置 | |
CN111078905A (zh) | 一种数据处理方法、装置、介质以及设备 | |
CN110020288A (zh) | 一种页面刷新方法及装置 | |
CN109299117B (zh) | 数据请求的处理方法和装置、存储介质、处理器 | |
CN110019507B (zh) | 数据同步的方法及装置 | |
CN112749189A (zh) | 数据查询方法及装置 | |
CN110704818A (zh) | 一种用户信息修改方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200508 |