CN106446153A - 一种分布式newSQL数据库系统及方法 - Google Patents

Abstract

本发明公开了一种分布式newSQL数据库系统及方法，系统包括数据库接口，用于用户向Master发送请求，并接收master返回的结果；Master，用于负责以JDBC、ODBC的方式接入用户请求并且协调多方之间的数据通讯以及管理整体流程，并将用户请求优先发送给SQLPlaner；SQLPlaner，用于解析用户请求，编译以及定制执行计划；分布式事务管理器，用于协调所述计划中多方完成分布式事务管理；并行任务执行器，用于负责所述计划的任务并行地执行，以及将从数据库获得的数据进行归并汇总以返回给master。本发明优化高并发情况下的事务操作，支持分布式事务、半结构化数据、全文检索和高效的图片存储。

Description

一种分布式newSQL数据库系统及方法

技术领域

本发明涉及数据库技术领域，尤其涉及一种分布式newSQL数据库系统。

背景技术

HBase即Hadoop Database，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。Hbase已成为目前应用最广泛的分布式NoSQL数据库之一，但随着越来越多的应用尝试迁移到HBase上，HBase的缺陷也越来越被暴露出来，主要包括

使用成本高：用户需要通过API编程访问HBase，对于复杂应用使用成本过高；不支持标准JDBC/ODBC接口，ETL过程十分复杂；使用成本过高直接导致许多较为复杂的应用无法使用HBase。

无法有效的支持非主键查询：在实际应用中，用户往往需要进行多维度的查询，HBase无法有效的支持非主键查询。

只支持单行事务：在实际应用中，事务往往涉及到多表中的多行数据，HBase提供的单行事务无法满足应用需求。

无法有效支持半结构化数据：HBase的数据模型是完全结构化的，无法有效支持半结构化形式数据(如JSON)。

无法有效支持图片存储：在公安，交通等领域中，用户往往需要存储大量的图片数据，典型的一张图片大小在500K到2MB之间，实践证明HBase无法有效的满足图片类型的存储。

可用性较低：HBase的每个region同时只在一台HRegionserver上提供服务，当出现HRegionserver故障宕机时，该HRegionserver上所有region对应的数据会暂时不可用，直到容错机制将region重新分配到其他HRegionserver上，这使得HBase的可用性不足以满足一般在线业务的需求。

发明内容

本发明提供一种分布式newSQL数据库系统，实现复杂的业务逻辑，解决非主键查询需求，优化高并发情况下的事务操作，支持分布式事务、半结构化数据、全文检索和高效的图片存储。

为实现上述技术目的，本发明采用以下技术方案：

一种分布式newSQL数据库系统包括

数据库接口，用于用户向Master发送请求，并接收master返回的结果；

Master，用于负责以JDBC、ODBC的方式接入用户请求并且协调多个处理器之间的数据通讯以及管理整体流程，并将所述用户请求优先发送给SQLPlaner；

SQLPlaner，用于解析所述用户请求，编译以及定制执行计划；

分布式事务管理器，用于协调所述计划中多方完成分布式事务管理；

并行任务执行器，用于负责所述计划的任务并行地执行，以及将从数据库获得的数据进行归并汇总以返回给master。

对上述方案的进一步改进如下

所述并行任务执行器通过hbase和搜索引擎服务器向所述数据库获取数据。

所述master连接一监视器，用于负责元数据管理以及用于监控底层hbase Region的负载，避免特定的region负载过高，以及利用hbase coprocessor重新分配Region。

本发明还提供一种利用所述的分布式newSQL数据库系统的SQLPlaner生成执行计划的方法，该方法包括

通过所述数据库接口输入SQL语句；

判断共享缓存池中是否已经存在该SQL，如若存在，输出该SQL对应的执行计划；

否则，对SQL语句进行语法检查和进行语义检查，语法检查和语义检查通过后，对SQL语句进行视图以及表达式转换；

根据所述转换结果进行优化器选择；

根据所述优化器的选择结果选择数据连接方式以及连接顺序；

根据所述连接方式和所述连接顺序选择搜索路径；

根据所述搜索路径生成执行计划并输出。

本发明还提供一种利用所述的分布式newSQL数据库系统建立和查询多个二级索引的方法，该方法包括

利用所述hbase的Coprocessor和Filter生成针对数据的索引表；所述Coprocessor根据索引定义将以倒排索引的方式将索引数据并行写入所述索引表，从而建立多个二级索引；

所述Master根据查询条件动态计算使用索引的代价；所述Coprocessor会根据索引定义以及查询条件优先查询所述索引表，并行地通过所述索引表查询结果再次查询数据表。

本发明还提供一种利用所述的分布式newSQL数据库系统实现半结构化数据存取的方法，该方法包括

所述并行任务执行器将JSON数据作为普通字符串类型整体作为一个字段写入到所述hbase的数据表中；所述hbase中的coprocessor根据字段描述，提取JSON中的数据，以倒排索引的方式将索引数据写入到另外的hbase索引表中，完成半结构化数据的存储；

所述并行任务执行器根据查询条件，利用coprocessor并行地查询索引表；所述hbase中的索引coprocessor将索引表的索引ID返回给所述并行任务执行器；所述并行任务执行器根据所述索引ID，利用hbase的API查询数据表，返回结果，完成半结构化数据的获取。

本发明还提供一种利用所述的分布式newSQL数据库系统实现图片数据存取的方法，其特征在于该方法包括

所述并行任务执行器将图片数据生成信息摘要算法加密后的图像数据格式，将加密后的图片数据写入到原始数据表；所述并行任务执行器将加密后的所述图片数据写入到图片数据表中进行独立存储；

并行任务执行器根据查询条件，查询原始数据表，得到信息摘要算法加密后的图像数据；并行任务执行器根据加密后的所述图像数据，利用所述hbase的API查询图片数据表，获取图片数据。

作为上述方案的改进，所述hbase底层增加LOB类型，针对LOB类型建立另类索引，将大对象图片数据存储为所述数据库中的一个位图，图片数据以位图存储在独立的数据表中，原始数据表仅仅存储索引ID。

本发明还提供一种利用所述的分布式newSQL数据库系统实现全文检索的方法，该方法包括

所述并行任务执行器将需要全文检索的字段作为普通字符串类型写入到所述hbase的数据表中进行存储，所述hbase中的coprocessor根据字段描述，将数据写入到搜索引擎服务器中进行索引；

所述并行任务执行器根据查询条件，到所述搜索引擎服务器中查询具体的索引ID，所述搜索引擎服务器根据查询条件返回索引ID，所述并行任务执行器根据索引ID，利用所述hbase的API查询数据表，获取查询数据。

有益效果

本发明分布式NewSQL数据库系统，提供了一种全新的方式涵盖了hbase的大数据存储以及高速读写能力，同时解决hbase无法兼顾的实际应用问题。本发明支持SQL，支持JDBC/ODBC，通过交互式分析引擎UrunSQL支持SQL，用户可以通过编写SQL在本系统上实现复杂的业务逻辑，极大的降低了使用成本；支持JDBC/ODBC接口，极大的简化了ETL过程。

本发明分布式NewSQL数据库系统支持二级索引，高效解决非主键查询需求，允许用户根据具体的业务逻辑灵活的建立二级索引，在实际应用中用户往往会建立多个二级索引，本系统根据查询条件动态计算使用索引的代价，自动选择最合适的索引。

本发明分布式NewSQL数据库系统支持分布式事务，支持跨行，跨表的分布式事务，支持完整的ACID事务语义，并且重点优化了高并发情况下的事务操作，可以满足大部分的OLTP应用。

本发明分布式NewSQL数据库系统支持半结构化数据，支持JSON数据格式，用户可以直接将JSON格式的数据存储在本系统hbase所连接的数据库之中，并对JSON的任意字段进行查询，创建索引以及删改。

本发明分布式NewSQL数据库系统支持全文检索，通过Solr支持分布式全文检索，用户可以为自己的表创建全文索引，并在SQL中使用全文检索语法进行搜索。

本发明分布式NewSQL数据库系统支持高效的图片存储，在本系统hbase底层增加LOB存储，LOB可以高效的满足单条数据大小在几百K到10M的二进制存储需求，用户可以通过LOB满足图片存储需求。

本发明分布式NewSQL数据库系统具有高可用性，允许为region同时维护多个副本，region多副本机制可以保证在Regionserver宕机时完全不影响读服务，写服务秒级恢复，有效的提升可用性，满足在线业务的需求。

附图说明

图1是本发明实施例1的一种分布式newSQL数据库系统的架构示意图；

图2是本发明实施例2的一种分布式newSQL数据库系统SQLPlaner生成执行计划方法的流程图；

图3是本发明实施例3的一种分布式newSQL数据库系统建立和查询多个二级索引方法的流程图；

图4是本发明实施例4的一种分布式newSQL数据库系统实现半结构化数据存取方法的流程图；

图5是本发明实施例5的一种分布式newSQL数据库系统实现图片数据存取方法的流程图；

图6是本发明实施例6的一种分布式newSQL数据库系统实现全文检索方法的流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

参见图1，是本发明实施例1的一种分布式newSQL数据库系统的架构示意图，该分布式newSQL数据库系统又名UrunBase数据库系统，其包括：

数据库接口，即JDBC\ODBC，用于用户向Master发送请求，并接收master返回的结果；

Master，用于负责以JDBC、ODBC的方式接入用户请求并且协调多个处理器之间的数据通讯以及管理整体流程，并将所述用户请求优先发送给SQLPlaner；

SQLPlaner，用于解析所述用户请求，编译以及定制执行计划；

DTM，即分布式事务管理器，用于协调所述计划中多方完成分布式事务管理；

Worker，即并行任务执行器，用于负责所述计划的任务并行地执行，以及将从数据库获得的数据进行归并汇总以返回给master；

hbase和搜索引擎服务器Solr，分别连接不同的worker，worker通过hbase和搜索引擎服务器Solr向所述数据库获取数据；

所述master连接一监视器，用于负责元数据管理以及用于监控底层hbase Region的负载，避免特定的region负载过高，以及利用hbase coprocessor重新分配Region。

本发明是基于hadoop大数据技术的分布式NewSQL数据库。当一个用户请求进入的时候，主要是执行如下的流程：

S1、Master主要负责以JDBC、ODBC的方式接入用户请求并且协调多个角色之间的数据通讯、管理整体流程，其首先会将请求发送给SQLPlaner；

S2、SQLPlaner主要用于解析用户请求，通过云润自研的高速SQL引擎UrunSQL编译SQL以及定制执行计划；

S3、DTM，主要用于当执行计划涉及事务时协调多方完成分布式事务管理。利用Java事务处理API(JTA)实现分布式事务处理和事务管理；

S4、Worker是并行任务执行器主要负责将执行计划的任务并行地执行，将从数据库得到的数据进行归并汇总以返回给master；

S5、master将请求结果返回给用户。

其中，Coprocessor为hbase自身提供的协同处理器，开发者可以在此基础上实现对数据的高效并行处理，同时提供Hmaster端的region管理扩展接口。

JTA，即Java Transaction API，JTA允许应用程序执行分布式事务处理——在两个或多个网络计算机资源上访问并且更新数据。

Solr是一个高性能的基于Lucene的全文搜索服务器，同时对其进行了扩展，提供了比Lucene更为丰富的查询语言，同时实现了可配置、可扩展并对查询性能进行了优化，并且提供了一个完善的功能管理界面，是一款非常优秀的全文搜索引擎。

参见图2，是本发明实施例2的一种分布式newSQL数据库系统SQLPlaner生成执行计划方法的流程图，该实施例基于实施例1，其中，SQLPlaner生成执行计划的方法，其包括如下步骤：

1).输入SQL语句；

2).判断共享缓存池中是否已经存在该SQL，如若存在即输出该SQL对应的执行计划，不存在即执行下一步；

3).对SQL语句进行语法检查，如若语法错误即返回错误信息给用户，语法检查通过即执行下一步；

4).对SQL语句进行语义检查，如若语义错误即返回错误信息给用户，语义检查通过即执行下一步；

5).对SQL语句进行视图以及表达式转换；

6).根据上一步的转换结果进行优化器选择；

7).根据优化器的选择结果选择数据连接方式以及连接的顺序；

8).根据连接方式和连接顺序选择搜索的路径；

9).根据搜索路径生成执行计划；

10).输出执行计划。

完成所述执行计划定制后返回给master，master根据执行计划的内容判断是否需要所述分布式事务管理器的介入，如若需要即执行实施例1中的S3步骤，否则执行跳过实施例1中的S3步骤，执行实施例1中的S4步骤。

参见图3，是本发明实施例3的一种分布式newSQL数据库系统建立和查询多个二级索引方法的流程图，该实施例基于实施例2，其中，所述的分布式newSQL数据库系统实现建立和查询多个二级索引的方法包括如下步骤：

写请求：

11)用户发起写请求；

12)master处理sql请求并且联合SQLPlaner生成执行计划；

13)worker根据执行计划，将数据字段写入数据表；

14)利用hbase内部的coprocessor机制实现同步将数据生成倒排索引形式写入到索引表；

15)worker将hbase的处理结果返回给master；

16)master将结果返回给用户。

读请求：

21)用户发起读请求

22)master处理sql请求并且联合SQLPlaner生成执行计划

23)worker根据执行计划，先查询索引表，此处会利用coprocessor提高查询的并行度。

24)hbase中的索引coprocessor将索引表的索引ID返回

25)worker根据索引ID，利用hbase API查询数据表并返回给master。

26)master将查询结果合并后返回给用户

支持二级索引，高效解决非主键查询需求：UrunBase允许用户根据具体的业务逻辑灵活的建立二级索引，在实际应用中用户往往会建立多个二级索引，在使用时UrunBase会根据查询条件动态计算使用索引的代价，自动选择最合适的索引。hbase针对rowkey的查询极为高效，因此二级索引的实现方式为利用hbase的Coprocessor和Filter生成针对数据的索引表。在写入数据时，Coprocessor会根据索引定义将以倒排索引的方式将索引数据写入索引表，在查询阶段Coprocessor会根据索引定义以及查询条件优先查询索引表，通过索引表的查询结果再次查询数据表。同时利用Coprocessor的并行性提高整体的查询速度。

UrunBase支持半结构化数据、图片数据、全文检索均是以上面的二级索引流程作为基准，针对不同存储类型进行的细化工作。

参见图4，是本发明实施例4的一种分布式newSQL数据库系统实现半结构化数据存取方法的流程图，该实施例基于实施例3，其中，所述的分布式newSQL数据库系统实现半结构化数据存取的方法，该方法包括

写请求：

31)worker将JSON数据作为普通字符串类型整体作为一个字段写入到hbase的数据表中

32)hbase中的coprocessor根据字段描述，提取JSON中的数据，以倒排索引的方式将索引数据写入到另外的hbase索引表中。

读请求：

41)worker根据查询条件，查询索引表，此处会利用coprocessor提高查询的并行度。

42)hbase中的索引coprocessor将索引表的索引ID返回

43)worker根据索引ID，利用hbase API查询数据表，返回结果

UrunBase支持JSON数据格式，用户可以直接将JSON格式的数据存储在UrunBase之中，并对JSON的任意字段进行查询，创建索引以及删改。UrunBase在hbase底层新增了JSON类型数据，将JSON数据整体存储在底层HFile中，并且在构建二级索引时将JSON也作为一个嵌套的类型进行索引，因此能支持针对JSON的任意字段查询、创建索引以及删改。

参见图5，是本发明实施例5的一种分布式newSQL数据库系统实现图片数据存取方法的流程图，该实施例基于实施例3，其中，所述的分布式newSQL数据库系统实现图片数据存取的方法，该方法包括

写请求：

51)worker将图片数据生成MD5，将图片MD5写入到原始数据表。

52)worker将图片数据写入到图片数据表中进行独立存储。

读请求：

61)worker根据查询条件，查询原始数据表，得到图片的MD5

62)worker根据图片MD5，利用hbase API查询图片数据表，返回结果。

UrunBase提供LOB存储，LOB可以高效的满足单条数据大小在几百K到10M的二进制存储需求，用户可以通过LOB满足图片存储需求。UrunBase在hbase底层新增LOB类型，LOB类型参考了SQL中的BLOB类型的实现，将大对象存储为数据库中的一个位图，但是此处的LOB其实现为针对LOB类型建立另类索引，图片数据以位图存储在独立的数据表中，原始数据表仅仅存储索引ID，以此减少数据表大小。因为图片数据只能进行原子覆盖的修改以及相对独立的查询，在针对非图片字段的查询时能大大提升检索速度。

参见图6，是本发明实施例6的一种分布式newSQL数据库系统实现全文检索方法的流程图，该实施例基于实施例3，其中，所述的分布式newSQL数据库系统实现全文检索的方法包括

写请求：

71)worker将需要全文检索的字段作为普通字符串类型写入到hbase的数据表中7进行存储

2)hbase中的coprocessor根据字段描述，将数据写入到solr中进行索引

读请求：

81)worker根据查询条件，到solr中查询具体的索引ID

82)solr根据查询条件返回索引ID。

83)worker根据索引ID，利用hbase API查询数据表，返回结果。

UrunBase通过Solr支持分布式全文检索，用户可以为自己的表创建全文索引，并在SQL中使用全文检索语法进行搜索。该方式为二级索引的特殊扩展，也是利用coprocessor实现，针对需要全文检索的字段不再将索引数据存储到另外的索引表中，而是将索引数据存储到SOLR中，由SOLR提供全文检索的功能。在查询数据时，会针对被全文索引的字段将其查询语句从SQL条件语句转换成SOLR的查询表达式再进行查询，并且将SOLR的返回结果转化成通用数据格式再返回。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。

Claims (9)

1.一种分布式newSQL数据库系统，其特征在于，包括：

数据库接口，用于用户向Master发送请求，并接收master返回的结果；

Master，用于负责以JDBC、ODBC的方式接入用户请求并且协调多个处理器之间的数据通讯以及管理整体流程，并将所述用户请求优先发送给SQLPlaner；

SQLPlaner，用于解析所述用户请求，编译以及定制执行计划；

分布式事务管理器，用于协调所述计划中多方完成分布式事务管理；

并行任务执行器，用于负责所述计划的任务并行地执行，以及将从数据库获得的数据进行归并汇总以返回给master。

2.如权利要求1所述的分布式newSQL数据库系统，其特征在于，所述并行任务执行器通过hbase和搜索引擎服务器向所述数据库获取数据。

3.如权利要求2所述的分布式newSQL数据库系统，其特征在于，所述master连接一监视器，用于负责元数据管理以及用于监控底层hbase Region的负载，避免特定的region负载过高，以及利用hbase coprocessor重新分配Region。

4.如权利要求1所述的分布式newSQL数据库系统的SQLPlaner生成执行计划的方法，其特征在于该方法包括

通过所述数据库接口输入SQL语句；

判断共享缓存池中是否已经存在该SQL，如若存在，输出该SQL对应的执行计划；

否则，对SQL语句进行语法检查和进行语义检查，语法检查和语义检查通过后，对SQL语句进行视图以及表达式转换；

根据所述转换结果进行优化器选择；

根据所述优化器的选择结果选择数据连接方式以及连接顺序；

根据所述连接方式和所述连接顺序选择搜索路径；

根据所述搜索路径生成执行计划并输出。

5.利用权利要求2所述的分布式newSQL数据库系统建立和查询多个二级索引的方法，其特征在于该方法包括

利用所述hbase的Coprocessor和Filter生成针对数据的索引表；所述Coprocessor根据索引定义将以倒排索引的方式将索引数据并行写入所述索引表，从而建立多个二级索引；

所述Master根据查询条件动态计算使用索引的代价；所述Coprocessor会根据索引定义以及查询条件优先查询所述索引表，并行地通过所述索引表查询结果再次查询数据表。

6.利用权利要求2所述的分布式newSQL数据库系统实现半结构化数据存取的方法，其特征在于该方法包括

所述并行任务执行器将JSON数据作为普通字符串类型整体作为一个字段写入到所述hbase的数据表中；所述hbase中的coprocessor根据字段描述，提取JSON中的数据，以倒排索引的方式将索引数据写入到另外的hbase索引表中，完成半结构化数据的存储；

所述并行任务执行器根据查询条件，利用coprocessor并行地查询索引表；所述hbase中的索引coprocessor将索引表的索引ID返回给所述并行任务执行器；所述并行任务执行器根据所述索引ID，利用hbase的API查询数据表，返回结果，完成半结构化数据的获取。

7.利用权利要求2所述的分布式newSQL数据库系统实现图片数据存取的方法，其特征在于该方法包括

所述并行任务执行器将图片数据生成信息摘要算法加密后的图像数据格式，将加密后的图片数据写入到原始数据表；所述并行任务执行器将加密后的所述图片数据写入到图片数据表中进行独立存储；

并行任务执行器根据查询条件，查询原始数据表，得到信息摘要算法加密后的图像数据；并行任务执行器根据加密后的所述图像数据，利用所述hbase的API查询图片数据表，获取图片数据。

8.根据权利要求7所述的分布式newSQL数据库系统实现图片数据存取的 方法，其特征在于

所述hbase底层增加LOB类型，针对LOB类型建立另类索引，将大对象图片数据存储为所述数据库中的一个位图，图片数据以位图存储在独立的数据表中，原始数据表仅仅存储索引ID。

9.利用权利要求2所述的分布式newSQL数据库系统实现全文检索的方法，其特征在于该方法包括

所述并行任务执行器将需要全文检索的字段作为普通字符串类型写入到所述hbase的数据表中进行存储，所述hbase中的coprocessor根据字段描述，将数据写入到搜索引擎服务器中进行索引；

所述并行任务执行器根据查询条件，到所述搜索引擎服务器中查询具体的索引ID，所述搜索引擎服务器根据查询条件返回索引ID，所述并行任务执行器根据索引ID，利用所述hbase的API查询数据表，获取查询数据。