CN112632114B - Mpp数据库快速读取数据的方法、装置及计算设备 - Google Patents

Mpp数据库快速读取数据的方法、装置及计算设备 Download PDF

Info

Publication number
CN112632114B
CN112632114B CN201910948593.7A CN201910948593A CN112632114B CN 112632114 B CN112632114 B CN 112632114B CN 201910948593 A CN201910948593 A CN 201910948593A CN 112632114 B CN112632114 B CN 112632114B
Authority
CN
China
Prior art keywords
data
information
cluster
mpp database
external table
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910948593.7A
Other languages
English (en)
Other versions
CN112632114A (zh
Inventor
冯建辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Group Liaoning Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Group Liaoning Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Group Liaoning Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN201910948593.7A priority Critical patent/CN112632114B/zh
Publication of CN112632114A publication Critical patent/CN112632114A/zh
Application granted granted Critical
Publication of CN112632114B publication Critical patent/CN112632114B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2453—Query optimisation
    • G06F16/24532—Query optimisation of parallel queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/182—Distributed file systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2471—Distributed queries

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Physics (AREA)
  • Fuzzy Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例涉及数据库技术领域，公开了一种MPP数据库快速读取数据的方法、装置及计算设备，该方法包括：将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。通过上述方式，本发明实施例能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。

Description

MPP数据库快速读取数据的方法、装置及计算设备
技术领域
本发明实施例涉及数据库技术领域，具体涉及一种MPP数据库快速读取数据的方法、装置及计算设备。
背景技术
随着互联网行业的迅猛发展，数据规模越来越大，多种分布式大数据工具也应用而生。Hadoop是一个能够对大量数据进行分布式处理的软件框架，其实现了一个分布式文件系统(Hadoop Distributed File System，HDFS)。HDFS有高容错性的特点，并且设计用来部署在低廉的(low-cost)硬件上；而且它提供高吞吐量(high throughput)来访问应用程序的数据，适合那些有着超大数据集(large data set)的应用程序。大规模并行处理(Massively Parallel Processing，MPP)数据库是没有共享(Shared Nothing，SN)架构的新型数据库集群，每一个节点都拥有自己的CPU、内存和磁盘，也就是每个节点都是一个单独的数据库。节点之间的信息交互是通过节点互联网络实现。通过将数据分布到多个节点上来实现规模数据的存储，通过并行查询处理来提高查询性能。
现有技术中，需要在MPP数据库和Hadoop集群之间建立互通工具，将Hadoop集群中数据以文件的形式存放到指定目录，MPP数据库将Hadoop集群中导出的数据文件，导入到MPP数据库中。在同步过程中，需要在接收数据库预先建好表，从Hadoop集群进行数据导出，并将数据导入到MPP数据库，此操作多为人工操作，容易出错且效率低，需要大量的人力进行维护。Hadoop集群数据变更频率快时，需要频繁将数据同步到MPP数据库集群，对MPP数据库的性能造成影响，同步不及时容易造成数据不一致现象。
发明内容
鉴于上述问题，本发明实施例提供了一种MPP数据库快速读取数据的方法、装置及计算设备，克服了上述问题或者至少部分地解决了上述问题。
根据本发明实施例的一个方面，提供了一种MPP数据库快速读取数据的方法，所述方法包括：将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在一种可选的方式中，所述将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息，包括：通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。
在一种可选的方式中，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，所述通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode，包括：通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；将所述数据类型以及所述数据表名传输至所述NameNode。
在一种可选的方式中，所述通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode之后，包括：对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述外部表的信息还包括账号信息，所述对所述Hadoop集群进行鉴权，包括：根据所述账号信息对所述Hadoop集群进行鉴权。
在一种可选的方式中，在所述将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息之前，包括：在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系。
在一种可选的方式中，所述根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，包括：通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
根据本发明实施例的另一个方面，提供了一种MPP数据库快速读取数据的装置，所述装置包括：位置获取单元，用于将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；数据读取单元，用于根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
根据本发明实施例的另一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述MPP数据库快速读取数据的方法的步骤。
根据本发明实施例的又一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使所述处理器执行上述MPP数据库快速读取数据的方法的步骤。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
上述说明仅是本发明实施例技术方案的概述，为了能够更清楚了解本发明实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本发明实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了本发明实施例提供的MPP数据库快速读取数据的系统架构示意图；
图2示出了本发明实施例提供的MPP数据库快速读取数据的方法的流程示意图；
图3示出了本发明实施例提供的MPP数据库快速读取数据的装置的结构示意图；
图4示出了本发明实施例提供的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。
图1示出了本发明实施例提供的MPP数据库快速读取数据的系统架构示意图。如图1所示，CN、DN归属为MPP数据库，NameNode、HDFS归属为Hadoop集群。其中，CN为MPP数据库的管理节点、DN为MPP数据库的数据节点；NameNode为Hadoop集群的管理节点，HDFS为Hadoop集群的三副本分布式文件系统。
CN负责管理和监控shared nothing架构的MPP数据库中各个功能单元和物理资源的运行情况，监控数据节点执行存储数据、接受数据、发送进程状态等功能，确保整个系统的稳定运行。管理节点CN分为主管理节点和备管理节点。正常情况下，只由主管理节点提供分布式集群系统的管理服务。当主管理节点发生故障的情况下，备管理节点会主动升为主管理节点提供集群管理服务。数据节点(Datanode，DN)负责执行管理节点下发的任务，即集群中的奴隶节点。DN的操作系统、CPU、内存、磁盘都是独立的，不存在共享。DN存储业务数据、执行数据查询任务以及向管理节点返回执行结果。MPP数据库中的表以块的形式平均分布在DN中存储器(Storage)中，为了减少硬件故障对系统可用性的影响，每个表都有备份(一般为1-2个备份)，且主备(从备)部署在不同的节点上。在shared nothing架构的MPP数据库中，每一个节点完全独立，节点之间通过网络连接，通常是通过光纤等专用网络。
本发明实施例涉及Hadoop集群的内容主要为NameNode和HDFS。NameNode(包括Second NameNode，即NameNode的热备节点)为Hadoop集群的管理节点，它的功能主要包括：整个文件系统的文件目录树；文件/目录的元信息和每个文件对应的数据块列表；接收用户的操作请求。分布式文件系统(Hadoop Distributed File System，HDFS)以三副本的形式对数据进行存储。
当MPP数据库需要访问Hadoop集群数据时，CN根据创建并存储的外部表的信息找到需要访问的Hadoop集群，并对Hadoop集群进行鉴权。然后CN将外部表的信息提供给NameNode，NameNode查找到与外部表对应的数据表在HDFS的位置信息，并将该位置信息反馈给CN。该数据表已经映射为MPP数据库的外部表。DN可以根据读取策略对创建并存储在HDFS中的数据表的数据进行并行读取。
图2示出了本发明实施例提供的MPP数据库快速读取数据的方法的流程示意图。如图2所示，MPP数据库快速读取数据的方法包括：
步骤S11：将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息。
在步骤S11之前，在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系，且外部表的数据类型与数据表的数据类型相匹配。更具体地，外部表设置在MPP数据库集群中的管理节点CN中，MPP数据库只是存储了外部表的表结构信息和HDFS中的数据表的映射关系。而数据表设置在Hadoop集群中的三副本分布式文件系统HDFS中。外部表的信息至少包括：外部表名、NameNode的地址信息(ADRESS)、数据类型以及所述HDFS中的所述数据表名。MPP数据库集群中中的外部表是只读的，只能用于查询操作，可以直接使用select查询外部表中的数据。MPP数据库创建外部表如下：
其中，TABLE_name为外部表的表名；column_name为外表中字段名，多个字段通过”,”隔开，data_type为字段的数据类型；HDFS_table_name为存储在HDFS中数据的数据表名。
以上为外部表创建时必须存在的最简信息，外部表的TABLE_name在创建的过程中，可以根据HDFS_table_name的实际情况，创建外部表的约束条件，比如设置外部表的主键(PRIMARY KEY)、唯一标识(UNIQUE)、列值是否NULL、外部表的分布方式等。
Hadoop集群中的NameNode存储有与外部表对应的数据表存储在HDFS中的位置信息。在步骤S11中，通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。进一步地通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；将所述数据类型以及所述数据表名传输至所述NameNode。NameNode的地址信息(ADRESS)可以为NameNode的IP地址信息或其它可以唯一标识该NameNode的地址信息。为保证双机集群(High Available，HA)，NameNode经常采用主备模式，需要将主备节点的地址都加入到ADRESS值中。MPP数据库的管理节点CN访问Hadoop集群服务时，会动态判断当前处于active状态的主NameNode节点。找到需要访问的所述NameNode之后，需要对所述Hadoop集群进行鉴权。而MPP数据库集群中的管理节点CN中的外部表存储有账号信息，具体根据账号信息对所述Hadoop集群进行鉴权。
步骤S12：根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在步骤S12中，通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
本发明实施例通过将Hadoop集群的数据表，映射为MPP数据库的外部表，并通过MPP数据库集群中的管理节点CN访问Hadoop的NameNode，获取数据在HDFS的实际位置，最终通过MPP数据库集群中的数据节点DN快速读取，实现了对Hadoop集群数据的快速读取和同步，弥补了现有技术中MPP数据库在读取Hadoop集群数据时，需要通过TXT等文件现将数据从Hadoop集群数据导出，然后再导入MPP数据库的问题。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
图3示出了本发明实施例的MPP数据库快速读取数据的装置的结构示意图。如图3所示，该MPP数据库快速读取数据的装置包括：位置获取单元301、数据读取单元302以及存储单元303。其中：
位置获取单元301用于将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；数据读取单元302用于根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在一种可选的方式中，位置获取单元301用于：通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。
在一种可选的方式中，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，位置获取单元301用于：通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；将所述数据类型以及所述数据表名传输至所述NameNode。
在一种可选的方式中，位置获取单元301还用于：对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述外部表的信息还包括账号信息，位置获取单元301用于：根据所述账号信息对所述Hadoop集群进行鉴权。
在一种可选的方式中，存储单元303用于：在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系。
在一种可选的方式中，数据读取单元302用于：通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
本发明实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的MPP数据库快速读取数据的方法。
可执行指令具体可以用于使得处理器执行以下操作：
将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；
根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；
获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。
在一种可选的方式中，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，所述可执行指令使所述处理器执行以下操作：
通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；
将所述数据类型以及所述数据表名传输至所述NameNode。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述外部表的信息还包括账号信息，所述可执行指令使所述处理器执行以下操作：
根据所述账号信息对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；
通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
本发明实施例提供了一种计算机程序产品，所述计算机程序产品包括存储在计算机存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任意方法实施例中的MPP数据库快速读取数据的方法。
可执行指令具体可以用于使得处理器执行以下操作：
将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；
根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；
获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。
在一种可选的方式中，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，所述可执行指令使所述处理器执行以下操作：
通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；
将所述数据类型以及所述数据表名传输至所述NameNode。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述外部表的信息还包括账号信息，所述可执行指令使所述处理器执行以下操作：
根据所述账号信息对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系。
在一种可选的方式中，所述可执行指令使所述处理器执行以下操作：
通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；
通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
图4示出了本发明实施例提供的计算设备的结构示意图，本发明具体实施例并不对设备的具体实现做限定。
如图4所示，该计算设备可以包括：处理器(processor)402、通信接口(Communications Interface)404、存储器(memory)406、以及通信总线408。
其中：处理器402、通信接口404、以及存储器406通过通信总线408完成相互间的通信。通信接口404，用于与其它设备比如客户端或其它服务器等的网元通信。处理器402，用于执行程序410，具体可以执行上述MPP数据库快速读取数据的方法实施例中的相关步骤。
具体地，程序410可以包括程序代码，该程序代码包括计算机操作指令。
处理器402可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或各个集成电路。设备包括的一个或各个处理器，可以是同一类型的处理器，如一个或各个CPU；也可以是不同类型的处理器，如一个或各个CPU以及一个或各个ASIC。
存储器406，用于存放程序410。存储器406可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序410具体可以用于使得处理器402执行以下操作：
将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；
根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
在一种可选的方式中，所述程序410使所述处理器执行以下操作：
通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；
获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息。
在一种可选的方式中，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，所述程序410使所述处理器执行以下操作：
通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；
将所述数据类型以及所述数据表名传输至所述NameNode。
在一种可选的方式中，所述程序410使所述处理器执行以下操作：
对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述外部表的信息还包括账号信息，所述程序410使所述处理器执行以下操作：
根据所述账号信息对所述Hadoop集群进行鉴权。
在一种可选的方式中，所述程序410使所述处理器执行以下操作：
在所述MPP数据库集群中创建并存储所述外部表，在所述Hadoop集群中创建并存储所述数据表，所述外部表与所述数据表形成映射关系。
在一种可选的方式中，所述程序410使所述处理器执行以下操作：
通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；
通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
本发明实施例通过将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息；根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，能够减少数据在不同分布式集群导出、导入所花费的时间和维护的工作量，减轻了MPP数据库数据存储量，并杜绝了两集群数据不同步造成的数据不一致现象。
在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。

Claims (8)

1.一种MPP数据库快速读取数据的方法，其特征在于，所述方法包括：
在MPP数据库集群中创建并存储外部表，在Hadoop集群中创建并存储数据表，所述外部表与所述数据表形成映射关系；所述外部表是只读的；
将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息，包括：通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息；
根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
2.根据权利要求1所述的方法，其特征在于，所述外部表的信息至少包括：外部表名、NameNode的地址信息、数据类型以及所述HDFS中的所述数据表名，
所述通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode，包括：
通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode；
将所述数据类型以及所述数据表名传输至所述NameNode。
3.根据权利要求2所述的方法，其特征在于，所述通过所述管理节点根据所述NameNode的地址信息寻找需要访问的所述NameNode之后，包括：
对所述Hadoop集群进行鉴权。
4.根据权利要求3所述的方法，其特征在于，所述外部表的信息还包括账号信息，所述对所述Hadoop集群进行鉴权，包括：
根据所述账号信息对所述Hadoop集群进行鉴权。
5.根据权利要求1所述的方法，其特征在于，所述根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取，包括：
通过所述MPP数据库集群中的数据节点根据所述位置信息获取所述数据表；
通过所述数据节点根据读取策略对所述数据表的数据进行并行读取。
6.一种MPP数据库快速读取数据的装置，其特征在于，所述装置包括：
存储单元，用于在所述MPP数据库集群中创建并存储外部表，在Hadoop集群中创建并存储数据表，所述外部表与所述数据表形成映射关系；所述外部表是只读的；
位置获取单元，用于将MPP数据库集群中存储的外部表的信息传输至于Hadoop集群以获取与所述外部表对应的数据表在所述Hadoop集群中的位置信息，包括：通过所述MPP数据库集群中的管理节点根据将所述外部表的信息传输至所述Hadoop集群中的NameNode；获取所述NameNode根据所述外部表的信息查找的与所述外部表对应的所述数据表在所述Hadoop集群中的HDFS的所述位置信息；
数据读取单元，用于根据所述位置信息以及读取策略，对所述数据表的数据进行并行读取。
7.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行根据权利要求1-5任一项所述MPP数据库快速读取数据的方法的步骤。
8.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行根据权利要求1-5任一项所述MPP数据库快速读取数据的方法的步骤。
CN201910948593.7A 2019-10-08 2019-10-08 Mpp数据库快速读取数据的方法、装置及计算设备 Active CN112632114B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910948593.7A CN112632114B (zh) 2019-10-08 2019-10-08 Mpp数据库快速读取数据的方法、装置及计算设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910948593.7A CN112632114B (zh) 2019-10-08 2019-10-08 Mpp数据库快速读取数据的方法、装置及计算设备

Publications (2)

Publication Number Publication Date
CN112632114A CN112632114A (zh) 2021-04-09
CN112632114B true CN112632114B (zh) 2024-03-19

Family

ID=75282978

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910948593.7A Active CN112632114B (zh) 2019-10-08 2019-10-08 Mpp数据库快速读取数据的方法、装置及计算设备

Country Status (1)

Country Link
CN (1) CN112632114B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104572895A (zh) * 2014-12-24 2015-04-29 天津南大通用数据技术股份有限公司 MPP数据库与Hadoop集群数据互通方法、工具及实现方法
CN106547766A (zh) * 2015-09-18 2017-03-29 华为技术有限公司 一种数据访问方法和装置
CN107544999A (zh) * 2016-06-28 2018-01-05 百度在线网络技术（北京）有限公司 用于检索系统的同步装置及同步方法、检索系统及方法
US10013656B1 (en) * 2014-12-23 2018-07-03 EMC IP Holding Company LLC Methods and apparatus for analytical processing of provenance data for HPC workflow optimization
CN108255855A (zh) * 2016-12-29 2018-07-06 北京国双科技有限公司 数据存储方法和装置
CN108446145A (zh) * 2018-03-21 2018-08-24 苏州提点信息科技有限公司 一种分布式文件自动加载mpp数据库方法
CN108536808A (zh) * 2018-04-04 2018-09-14 国家计算机网络与信息安全管理中心 一种基于Spark计算框架的数据获取方法和装置
CN109271382A (zh) * 2018-08-17 2019-01-25 广东技术师范学院 一种面向全数据形态开放共享的数据湖系统
CN109408589A (zh) * 2018-09-14 2019-03-01 新华三大数据技术有限公司 数据同步方法及装置
CN109902114A (zh) * 2019-01-24 2019-06-18 中国平安人寿保险股份有限公司 Es集群数据复用方法、系统、计算机装置及存储介质
CN109976897A (zh) * 2017-12-27 2019-07-05 航天信息股份有限公司 一种大数据集群的部署方法、数据交互方法及对应装置
CN110196871A (zh) * 2019-03-07 2019-09-03 腾讯科技（深圳）有限公司 数据入库方法和系统
CN110209646A (zh) * 2019-05-14 2019-09-06 汇通达网络股份有限公司 一种基于实时流式计算的数据平台系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9495427B2 (en) * 2010-06-04 2016-11-15 Yale University Processing of data using a database system in communication with a data processing framework
US20180189328A1 (en) * 2016-12-30 2018-07-05 Teradata Us, Inc. Method and system for providing data access and local processing across disparate data systems

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10013656B1 (en) * 2014-12-23 2018-07-03 EMC IP Holding Company LLC Methods and apparatus for analytical processing of provenance data for HPC workflow optimization
CN104572895A (zh) * 2014-12-24 2015-04-29 天津南大通用数据技术股份有限公司 MPP数据库与Hadoop集群数据互通方法、工具及实现方法
CN106547766A (zh) * 2015-09-18 2017-03-29 华为技术有限公司 一种数据访问方法和装置
CN107544999A (zh) * 2016-06-28 2018-01-05 百度在线网络技术（北京）有限公司 用于检索系统的同步装置及同步方法、检索系统及方法
CN108255855A (zh) * 2016-12-29 2018-07-06 北京国双科技有限公司 数据存储方法和装置
CN109976897A (zh) * 2017-12-27 2019-07-05 航天信息股份有限公司 一种大数据集群的部署方法、数据交互方法及对应装置
CN108446145A (zh) * 2018-03-21 2018-08-24 苏州提点信息科技有限公司 一种分布式文件自动加载mpp数据库方法
CN108536808A (zh) * 2018-04-04 2018-09-14 国家计算机网络与信息安全管理中心 一种基于Spark计算框架的数据获取方法和装置
CN109271382A (zh) * 2018-08-17 2019-01-25 广东技术师范学院 一种面向全数据形态开放共享的数据湖系统
CN109408589A (zh) * 2018-09-14 2019-03-01 新华三大数据技术有限公司 数据同步方法及装置
CN109902114A (zh) * 2019-01-24 2019-06-18 中国平安人寿保险股份有限公司 Es集群数据复用方法、系统、计算机装置及存储介质
CN110196871A (zh) * 2019-03-07 2019-09-03 腾讯科技（深圳）有限公司 数据入库方法和系统
CN110209646A (zh) * 2019-05-14 2019-09-06 汇通达网络股份有限公司 一种基于实时流式计算的数据平台系统

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
A High-Performance Distributed Relational Database System for Scalable OLAP Processing;Jason Arnold等;《2019 IEEE International Parallel and Distributed Processing Symposium (IPDPS)》;1-11 *
公安云混搭架构下的数据安全增强技术研究;刘冰;《警察技术》(第02期);33-36 *
基于民政大数据的动态数据中心构建研究;周天绮;;软件导刊(第01期);第145-147页 *
海量关系型数据查询优化技术研究;张宝权;《中国优秀硕士学位论文全文数据库 (信息科技辑)》(第06期);I138-1032 *
配电网监测大数据的Impala快速查询技术;屈志坚;陈鼎龙;巩奇;;电力科学与技术学报(02);第150-158页 *

Also Published As

Publication number Publication date
CN112632114A (zh) 2021-04-09

Similar Documents

Publication Publication Date Title
US10467245B2 (en) System and methods for mapping and searching objects in multidimensional space
EP3058690B1 (en) System and method for creating a distributed transaction manager supporting repeatable read isolation level in a mpp database
US9251163B2 (en) File sharing system and file sharing method
US9081837B2 (en) Scoped database connections
US9348641B2 (en) System and method for performing a transaction in a massively parallel processing database
US10599677B2 (en) Methods and systems of splitting database indexes and digests
Essa et al. Mobile agent based new framework for improving big data analysis
CN112015820A (zh) 分布式图数据库实现的方法、系统、电子装置和存储介质
CN111651424B (zh) 一种数据处理方法、装置、数据节点及存储介质
US8996484B2 (en) Recursive lock-and-propagate operation
US20080307036A1 (en) Central service allocation system
CN105574010B (zh) 数据查询方法及装置
CN109753245B (zh) 一种多磁盘负载均衡异步读写调度方法及装置
CN112632114B (zh) Mpp数据库快速读取数据的方法、装置及计算设备
US10866930B2 (en) Migrating lock data within a distributed file system
US9537941B2 (en) Method and system for verifying quality of server
Najaran et al. Innesto: A searchable key/value store for highly dimensional data
US11954069B2 (en) Find operation for union-mounted systems
US11500874B2 (en) Systems and methods for linking metric data to resources
CN113760858B (zh) 内存库数据动态迁移方法、装置、计算设备及存储设备
US20100125619A1 (en) Deterministic selection of domain controllers in a multi-master database distributed directory service
US10887429B1 (en) Processing multi-protocol redirection links
CN111797062B (zh) 数据处理方法、装置和分布式数据库系统
CN115757470A (zh) 元数据访问方法、装置、电子设备及存储介质
CN117632223A (zh) 配置文件同步方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant