CN111680103A - 一种分布式数据库自增字段产生有序唯一值的方法和装置 - Google Patents

一种分布式数据库自增字段产生有序唯一值的方法和装置 Download PDF

Info

Publication number
CN111680103A
CN111680103A CN202010472897.3A CN202010472897A CN111680103A CN 111680103 A CN111680103 A CN 111680103A CN 202010472897 A CN202010472897 A CN 202010472897A CN 111680103 A CN111680103 A CN 111680103A
Authority
CN
China
Prior art keywords
task
field
increment
self
initial value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010472897.3A
Other languages
English (en)
Inventor
陈佛林
高斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu New Hope Finance Information Co Ltd
Original Assignee
Chengdu New Hope Finance Information Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu New Hope Finance Information Co Ltd filed Critical Chengdu New Hope Finance Information Co Ltd
Priority to CN202010472897.3A priority Critical patent/CN111680103A/zh
Publication of CN111680103A publication Critical patent/CN111680103A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2282Tablespace storage structures; Management thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种分布式数据库自增字段产生有序唯一值的方法和装置,该方法包括获取偏序增长字段初始值列表,下发初始值、分区数量和自增步长,获取每个任务的初始值、分区数量和自增步长及对应的任务ID,获取任务中每一行数据的局部行号,计算每个任务的自增字段偏序结果,将每个任务的自增字段偏序结果加上自增步长写入到偏序增长字段初始值列表中。本发明从数据库获取记录的偏序增长字段初始值列表作为当前增长起始点,通过设定自增步长,采用偏序增长的方式独立生成偏序增长字段自增值,实现了分布式数据库自动增长列的功能,避免了引入生成器而造成额外的性能消耗。

Description

一种分布式数据库自增字段产生有序唯一值的方法和装置
技术领域
本发明属于数据量指定字段值生成技术领域,具体涉及一种分布式数据库自增字段产生有序唯一值的方法和装置。
背景技术
在传统的关系型数据库中,在创建表时如果指定字段(类型为Integer或者Bigint)属性为AUTO_INCREMENT,有以下几种情况:
1、在没有明确指定该字段的值的时候,新增的每一行的值都会为该列字段生成一个自动增长的值,自动增长的值默认从0开始,并且默认的增长步长为1,即每新增一行数据,该字段的值会自动加1;
2、在明确指定该字段的值时候,则不会为该字段生成具体的值,当明确指定该字段的值为所属表该列的最大值时,之后插入数据使用自动增长则会以该列最大值为起点;
3、传统关系型数据库中可以通过SET AUTO_INCREMENT_OFFSET=[初始起点]来设定自动增长的初始起点,设置了该值后,自动正常的默认起点则更改为该指定的值;
4、传统关系统数据库中可以通过SET AUTO_INCREMENT_INCREMENT=[步长值]来设定自动增长的步长值,设置了该值后,每新增一行数据,该字段的值自动加步长值。
上述传统关系统数据库对于自动增长字段的效果,自动增长只要记录了当前增长的最大值和增长步长,在传统关系型数据库的单机部署下很容易实现自动增长列的功能效果。但是在分布式数据库(如hive、spark等)中,数据写入往往分布在多个计算节点中,如果在各节点单独生成自增值,很难保全局唯一。在已有的一些方案会使用全局自动增长值的生成器,该生成器是一个中心服务,每次需要生成需要从生成器中获取唯一的值,意味着每新增一行数据都需要调用生成器,造成额外的性能消耗,在数据量极其庞大的情况下,额外的性能消耗会凸显。
现在解决方案主要存在以下缺点:
1、目前分布式数据库还没有支持自动增长列的功能,如业界在大数据上广泛使用的hive表、spark表、kudu表都不支持自动增长列。
2、分布式下的自动增长生成器,比如使用ZOOKEEPER实现生成器,更改方案会造成额外的性能消耗。
发明内容
针对现有技术中的上述不足,本发明提供了一种分布式数据库自增字段产生有序唯一值的方法和装置。
为了达到上述发明目的,本发明采用的技术方案为:
一种分布式数据库自增字段产生有序唯一值的方法,包括以下步骤:
S1、从数据库获取记录的偏序增长字段初始值列表;
S2、获取分区数量和自增步长,将初始值、分区数量和自增步长下发到每一个任务;
S3、对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;
S4、获取任务中每一行数据的局部行号;
S5、根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
S6、将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
进一步地,所述步骤S1从数据库获取记录的偏序增长字段初始值列表还包括:
对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。
进一步地,所述步骤S4获取任务中每一行数据的局部行号具体为:
在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号。
进一步地,所述步骤S5中自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
进一步地,所述步骤S5将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中具体为:
在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
本发明还提出了一种分布式数据库自增字段产生有序唯一值的装置,包括:
获取模块,用于从数据库获取记录的偏序增长字段初始值列表,并获取分区数量和自增步长;对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;获取任务中每一行数据的局部行号;
下发模块,用于将初始值、分区数量和自增步长下发到每一个任务;
计算模块,用于根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
写入模块,用于将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
进一步地,所述获取模块从数据库获取记录的偏序增长字段初始值列表还包括:
对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。
进一步地,所述获取模块获取任务中每一行数据的局部行号具体为:
在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号。
进一步地,所述计算模块计算自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
进一步地,所述写入模块将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中具体为:
在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
本发明具有以下有益效果:
本发明从数据库获取记录的偏序增长字段初始值列表作为当前增长起始点,通过设定自增步长,采用偏序增长的方式独立生成偏序增长字段自增值,实现了分布式数据库自动增长列的功能,避免了引入生成器而造成额外的性能消耗。
附图说明
图1为本发明的分布式数据库自增字段产生有序唯一值的方法流程图;
图2为本发明中一个实施例的自增字段偏序结果计算流程图;
图3为本发明中另一个实施例的自增字段偏序结果计算流程图;
图4为本发明的分布式数据库自增字段产生有序唯一值的系统结构图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
如图1所示,本发明实施例提供了一种分布式数据库自增字段产生有序唯一值的方法,包括以下步骤S1至S6:
S1、从数据库获取记录的偏序增长字段初始值列表;
在本实施例中,本发明所针对的分布式数据库指定属性为AUTO_INCREMENT的某类字段为偏序增长字段,并且仅允许存在一个偏序增长的字段。
本发明可以在tableproperties中通过AUTO_INCREMENT_INCREMENT命令指定自增步长,也可以通过SET TABLE AUTO_INCREMENT_INCREMENT命令修改该表的自增步长,此时未指定自增步长,默认为1,自增步长值保存在Table的属性中,由Spark主节点分发给每个任务,从而实现分布式数据库根据指定步长增长列。
本发明通过SET TABLE AUTO_INCREMENT_OFFSET命令指定偏序增长字段初始值,从redis数据库获取记录的偏序增长字段初始值列表,并对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。如果偏序增长字段初始值列表为空,则偏序增长字段初始值为0。
S2、获取分区数量PART_NUM和自增步长,将初始值、分区数量和自增步长下发到每一个任务;
在本实施例中,分区数量PART_NUM表示分布式数据库下的任务数量。
S3、对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;
在本实施例中,每个任务自身获取下发的初始值、分区数量和自增步长,以及任务自身对应的任务ID。
S4、获取任务中每一行数据的局部行号;
在本实施例中,本发明在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号ROW_ID。
S5、根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
在本实施例中,本发明根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的全局ID,得到每个任务的自增字段偏序结果。
自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
S6、将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
在本实施例中,本发明在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中,从而实现分布式数据库自动增长列基本功能,避免引入生成器而造成额外的性能消耗。
以第一次执行insert into table(name)values(‘a’),(‘b’),(‘c’),(‘d’),(‘e’)为例,如图2所示。
Spark主节点从redis数据库通过lrang命令获取到存储在key的列表里指定范围内的所有的值,key为数据库名和表名的组合[db]_[table],当前为null,则初始起点为0,Spark分发分区数量PART_NUM给每一个任务。
数据分为4个任务,即PART_NUM=4,分别是(‘a’),(‘b’),(‘c’),(‘d’,‘e’),其中(‘d’,‘e’)组数据在局部的ROW_ID为(0,1),每个任务可以获取到自己的任务ID。
对于数据(‘a’),初始值为0,分区数量为4,任务ID为0,自增步长为1,局部行号为0,计算自增字段偏序结果为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
=(0+0*4+0)*1=0
对于数据(‘b’),初始值为0,分区数量为4,任务ID为1,自增步长为1,局部行号为0,计算自增字段偏序结果为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
=(0+0*4+1)*1=1
对于数据(‘c’),初始值为0,分区数量为4,任务ID为3,自增步长为1,局部行号为0,计算自增字段偏序结果为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
=(0+0*4+2)*1=2
对于数据(‘d’),初始值为0,分区数量为4,任务ID为3,自增步长为1,局部行号为0,计算自增字段偏序结果为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
=(0+0*4+3)*1=3
对于数据(‘e’),初始值为0,分区数量为4,任务ID为3,自增步长为1,局部行号为1,计算自增字段偏序结果为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
=(0+1*4+3)*1=7
根据上述计算结果得到自增字段偏序结果表,如表1所示。
表1、自增字段偏序结果表
Figure BDA0002514919090000081
将上述计算得到的自增字段偏序结果持久化到存储引擎,每个任务结束时将当前生成最大的偏序结果加上步长值lpush到redis数据库中。
第一次执行insert into table(name)values(‘a’),(‘b’),(‘c’),(‘d’),(‘e’)结束后,再以执行insert into table(name)values(‘f’),(‘g’),(‘h’),(‘i’)为例,如图3所示。
Spark主节点从Redis数据库获取到偏序增长字段初始值列表List(1,2,3,8),取最大值得到初始值为8,清除掉8以外的其他值,Redis清除后的结果为List(8),以同样的方式计算自增ID字段的偏序结果,Redis的最终结果为List(9,10,11,12)。
基于上述分布式数据库自增字段产生有序唯一值的方法,本发明还提出了一种分布式数据库自增字段产生有序唯一值的装置,如图4所示,包括:
获取模块,用于从数据库获取记录的偏序增长字段初始值列表,并获取分区数量和自增步长;对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;获取任务中每一行数据的局部行号;
下发模块,用于将初始值、分区数量和自增步长下发到每一个任务;
计算模块,用于根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
写入模块,用于将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
在本发明的一个可选实施例中,获取模块从数据库获取记录的偏序增长字段初始值列表还包括:
对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。
在本发明的一个可选实施例中,获取模块获取任务中每一行数据的局部行号具体为:
在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号。
在本发明的一个可选实施例中,计算模块计算自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*步长值
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
在本发明的一个可选实施例中,写入模块将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中具体为:
在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。

Claims (10)

1.一种分布式数据库自增字段产生有序唯一值的方法,其特征在于,包括以下步骤:
S1、从数据库获取记录的偏序增长字段初始值列表;
S2、获取分区数量和自增步长,将初始值、分区数量和自增步长下发到每一个任务;
S3、对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;
S4、获取任务中每一行数据的局部行号;
S5、根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
S6、将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
2.根据权利要求1所述的分布式数据库自增字段产生有序唯一值的方法,其特征在于,所述步骤S1从数据库获取记录的偏序增长字段初始值列表还包括:
对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。
3.根据权利要求1所述的分布式数据库自增字段产生有序唯一值的方法,其特征在于,所述步骤S4获取任务中每一行数据的局部行号具体为:
在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号。
4.根据权利要求1所述的分布式数据库自增字段产生有序唯一值的方法,其特征在于,所述步骤S5中自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
5.根据权利要求1所述的分布式数据库自增字段产生有序唯一值的方法,其特征在于,所述步骤S5将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中具体为:
在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
6.一种分布式数据库自增字段产生有序唯一值的装置,其特征在于,包括:
获取模块,用于从数据库获取记录的偏序增长字段初始值列表,并获取分区数量和自增步长;对每个任务获取下发的初始值、分区数量和自增步长及对应的任务ID;获取任务中每一行数据的局部行号;
下发模块,用于将初始值、分区数量和自增步长下发到每一个任务;
计算模块,用于根据初始值、分区数量和自增步长、任务ID和局部行号分别计算每个任务的自增字段偏序结果;
写入模块,用于将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
7.根据权利要求6所述的分布式数据库自增字段产生有序唯一值的装置,其特征在于,所述获取模块从数据库获取记录的偏序增长字段初始值列表还包括:
对获取的偏序增长字段初始值列表中的偏序增长字段初始值取最大值,并清空比最大值小的所有值。
8.根据权利要求6所述的分布式数据库自增字段产生有序唯一值的装置,其特征在于,所述获取模块获取任务中每一行数据的局部行号具体为:
在每个任务执行过程中,根据遍历顺序获取每一行数据的局部行号。
9.根据权利要求6所述的分布式数据库自增字段产生有序唯一值的方法,其特征在于,所述计算模块计算自增字段偏序结果的计算公式为:
全局ID=(初始值+ROW_ID*PART_NUM+PART_ID)*自增步长
其中,全局ID为自增字段偏序结果,ROW_ID为每个任务插入数据的局部行号,PART_NUM为分区数量,PART_ID为每个任务的ID。
10.根据权利要求6所述的分布式数据库自增字段产生有序唯一值的装置,其特征在于,所述写入模块将每个任务的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中具体为:
在每个任务执行结束时,将当前生成最大的自增字段偏序结果加上自增步长写入到数据库的偏序增长字段初始值列表中。
CN202010472897.3A 2020-05-29 2020-05-29 一种分布式数据库自增字段产生有序唯一值的方法和装置 Pending CN111680103A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010472897.3A CN111680103A (zh) 2020-05-29 2020-05-29 一种分布式数据库自增字段产生有序唯一值的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010472897.3A CN111680103A (zh) 2020-05-29 2020-05-29 一种分布式数据库自增字段产生有序唯一值的方法和装置

Publications (1)

Publication Number Publication Date
CN111680103A true CN111680103A (zh) 2020-09-18

Family

ID=72434752

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010472897.3A Pending CN111680103A (zh) 2020-05-29 2020-05-29 一种分布式数据库自增字段产生有序唯一值的方法和装置

Country Status (1)

Country Link
CN (1) CN111680103A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112559083A (zh) * 2020-12-24 2021-03-26 成都新希望金融信息有限公司 函数插件执行方法、装置、电子设备及存储介质
CN113239043A (zh) * 2021-05-17 2021-08-10 上海中通吉网络技术有限公司 在分布式系统中高效生成唯一值的方法及设备
CN113626430A (zh) * 2021-07-27 2021-11-09 山东健康医疗大数据有限公司 一种为kudu中医疗数据添加自增列的方法
CN113704228A (zh) * 2021-08-31 2021-11-26 北京达佳互联信息技术有限公司 字段自增的方法、装置、电子设备和存储介质
CN114020843A (zh) * 2021-11-04 2022-02-08 北京房江湖科技有限公司 一种基于Spark框架的数据表同步方法、同步装置和存储介质
CN115098540A (zh) * 2022-06-07 2022-09-23 北京奥星贝斯科技有限公司 分布式数据库中针对自增列的业务处理方法、装置以及设备
CN118193541A (zh) * 2024-05-15 2024-06-14 数翊科技(北京)有限公司 基于分布式数据库的分区表的创建与分区自动扩展方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140201126A1 (en) * 2012-09-15 2014-07-17 Lotfi A. Zadeh Methods and Systems for Applications for Z-numbers
CN109241056A (zh) * 2018-08-23 2019-01-18 重庆富民银行股份有限公司 一种用于分布式系统的数字id生成系统
CN109241193A (zh) * 2018-09-26 2019-01-18 联想(北京)有限公司 分布式数据库的处理方法和装置,及服务器集群

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140201126A1 (en) * 2012-09-15 2014-07-17 Lotfi A. Zadeh Methods and Systems for Applications for Z-numbers
CN109241056A (zh) * 2018-08-23 2019-01-18 重庆富民银行股份有限公司 一种用于分布式系统的数字id生成系统
CN109241193A (zh) * 2018-09-26 2019-01-18 联想(北京)有限公司 分布式数据库的处理方法和装置,及服务器集群

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112559083A (zh) * 2020-12-24 2021-03-26 成都新希望金融信息有限公司 函数插件执行方法、装置、电子设备及存储介质
CN112559083B (zh) * 2020-12-24 2023-08-04 成都新希望金融信息有限公司 函数插件执行方法、装置、电子设备及存储介质
CN113239043A (zh) * 2021-05-17 2021-08-10 上海中通吉网络技术有限公司 在分布式系统中高效生成唯一值的方法及设备
CN113239043B (zh) * 2021-05-17 2024-05-03 上海中通吉网络技术有限公司 在分布式系统中高效生成唯一值的方法及设备
CN113626430A (zh) * 2021-07-27 2021-11-09 山东健康医疗大数据有限公司 一种为kudu中医疗数据添加自增列的方法
CN113704228A (zh) * 2021-08-31 2021-11-26 北京达佳互联信息技术有限公司 字段自增的方法、装置、电子设备和存储介质
CN113704228B (zh) * 2021-08-31 2024-02-06 北京达佳互联信息技术有限公司 字段自增的方法、装置、电子设备和存储介质
CN114020843A (zh) * 2021-11-04 2022-02-08 北京房江湖科技有限公司 一种基于Spark框架的数据表同步方法、同步装置和存储介质
CN115098540A (zh) * 2022-06-07 2022-09-23 北京奥星贝斯科技有限公司 分布式数据库中针对自增列的业务处理方法、装置以及设备
CN118193541A (zh) * 2024-05-15 2024-06-14 数翊科技(北京)有限公司 基于分布式数据库的分区表的创建与分区自动扩展方法
CN118193541B (zh) * 2024-05-15 2024-08-27 数翊科技(北京)有限公司 基于分布式数据库的分区表的创建与分区自动扩展方法

Similar Documents

Publication Publication Date Title
CN111680103A (zh) 一种分布式数据库自增字段产生有序唯一值的方法和装置
CN104182405B (zh) 一种连接查询方法及装置
JP4669067B2 (ja) 動的フラグメントマッピング
US20140081934A1 (en) Dynamic updates to a semantic database using fine-grain locking
CN108140050B (zh) 一种使用布隆过滤器过滤文件的方法及装置
CN103617232A (zh) 一种针对HBase表的分页查询方法
CN106528674A (zh) 基于Hbase行健的高性能查询方法和装置
US8583655B2 (en) Using an inverted index to produce an answer to a query
CN102402602A (zh) 一种实时数据库的b+树索引方法及装置
CN102054007A (zh) 一种检索方法及检索装置
WO2014067449A1 (en) System and method for flexible distributed massively parallel processing (mpp) database
CN110941602B (zh) 数据库的配置方法、装置、电子设备及存储介质
CN103678550A (zh) 一种基于动态索引结构的海量数据实时查询方法
CN106471501A (zh) 数据查询的方法、数据对象的存储方法和数据系统
CN103246549A (zh) 一种数据转存的方法及系统
CN106777111B (zh) 一种超大规模数据的时序检索索引系统及方法
CN116756253A (zh) 关系型数据库的数据存储、查询方法、装置、设备和介质
CN103870465B (zh) 一种非入侵式的数据库爬虫的实现方法
EP3282372A1 (en) Method and apparatus for storing data
CN111625543A (zh) 一种基于HBase表实现全局单调递增的序列的方法
CN116450675A (zh) 基于元数据及相似度实现任务优化合并方法、系统及装置
CN112817970B (zh) 一种数据表的生成方法和装置
CN111352956B (zh) 一种航运大数据的采集存储系统
CN112307008B (zh) 一种Druid压实方法
CN105653624B (zh) 数据服务器及数据储存方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200918

RJ01 Rejection of invention patent application after publication