CN114116782A - 分布式数据库资源管控方法、装置、电子设备和存储介质 - Google Patents
分布式数据库资源管控方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114116782A CN114116782A CN202111351171.5A CN202111351171A CN114116782A CN 114116782 A CN114116782 A CN 114116782A CN 202111351171 A CN202111351171 A CN 202111351171A CN 114116782 A CN114116782 A CN 114116782A
- Authority
- CN
- China
- Prior art keywords
- executed
- structured query
- physical node
- distributed database
- query language
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24534—Query rewriting; Transformation
- G06F16/24547—Optimisations to support specific applications; Extensibility of optimisers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2471—Distributed queries
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品,可用于金融领域及其他领域,分布式数据库资源管控方法包括:确定分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,计算所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和,当所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和满足第一预设条件时,根据预设的语句处理规则处理所有待执行结构化查询语言。该方法能及时发现局部物理节点资源超限导致的集群短板问题,能对分布式数据库集群动态资源分配和结构化查询语言的运行进行干预和调整,使分布式数据库集群持续处于稳定运行、资源利用率高的状态。
Description
技术领域
本公开涉及分布式数据库技术领域,尤其涉及一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品。
背景技术
分布式数据库采用Share-nothing架构,由众多拥有独立且互不共享CPU、内存、存储等系统资源的节点组成集群,业务数据按照规则(如哈希取余)被分散存储在多个物理节点上(即Data Node,以下简称DN节点),数据分析任务通过控制节点(即Coordinator Node,以下简称CN节点)的协调,并行地完成大规模的数据处理工作。随着分布式数据库集群内运行结构化查询语言(Structured Query Language,SQL)复杂度和操作数据量大小等不同,会造成集群的局部DN节点资源消耗过临界值,从而影响集群性能和稳定性。目前,多数分布式数据库主要将以集群粒度管理资源,结构化查询语言在运行过程中实时统计所使用资源,当集群上所有结构化查询语言使用总资源超过集群整体资源时,根据管控策略对正在运行所有结构化查询语言中资源消耗最大的语句进行查杀或者报警。从分布式数据库整体资源角度来分配和监控,无法及时发现局部DN节点资源超过临界值情况,导致局部DN节点处理性能低于整体,造成集群的短板效应,从而影响整体集群处理性能。对运行中语句进行管控,容易造成管控不及时,无法对结构化查询语言所需资源进行精准调配,造成集群资源利用率低,整体结构化查询语言吞吐量低。
公开内容
鉴于上述问题,本公开提供了一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品。
根据本公开的第一个方面,提供了一种分布式数据库资源管控方法,上述分布式数据库包括至少一个物理节点,该方法包括:
确定上述分布式数据库中每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值;
计算所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和;
当所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有上述待执行结构化查询语言。
在本公开一实施例中,上述确定上述分布式数据库中每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值,具体包括:
获取上述分布式数据库中所有已执行结构化查询语言的执行计划和所有待执行结构化查询语言的执行计划;
针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的执行计划与每一个上述已执行结构化查询语言的执行计划之间的相似度;
当存在一个已执行结构化查询语言的执行计划,与一个待执行结构化查询语言的执行计划之间的相似度满足第三预设条件时,获取上述已执行结构化查询语言在每一个上述物理节点上的实际资源消耗值;
将上述已执行结构化查询语言在每一个上述物理节点上的实际资源消耗值作为上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值。
在本公开一实施例中,上述针对一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的执行计划与每一个上述已执行结构化查询语言的执行计划之间的相似度,具体包括:
将每一个上述已执行结构化查询语言的执行计划分解,得到每一个上述已执行结构化查询语言的算子特征;
将每一个上述待执行结构化查询语言的执行计划分解,得到每一个上述待执行结构化查询语言的算子特征;
针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的算子特征与每个上述已执行结构化查询语言的算子特征之间的相似度;
直至所有上述待执行结构化查询语言均被选取计算。
在本公开一实施例中,上述计算所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和之后,上述方法还包括:
获取预设的上述分布式数据库中每一个上述物理节点的资源管控值;
判断所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和是否超过在每一个上述物理节点的资源管控值;
当所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均未超过每一个上述物理节点的资源管控值时,运行所有上述待执行结构化查询语言;
当存在一个上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和超过上述物理节点的资源管控值时,判断上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和是否满足第一预设条件;
上述第一预设条件为:针对每一个物理节点,所有上述待执行结构化查询语言在上述物理节点上的预估资源消耗值的和未超过预设的上述物理节点的资源临界值的预设比例。
在本公开一实施例中,上述根据预设的语句处理规则处理所有上述待执行结构化查询语言,具体包括:
获取预设的优先级判断策略;
根据上述优先级判断策略确定每一个上述待执行结构化查询语言的优先级,上述待执行结构化查询语言的优先级包括第一优先级和第二优先级;
若待执行结构化查询语言的优先级为第二优先级,则限制上述待执行结构化查询语言的运行;
若待执行结构化查询语言的优先级为第一优先级,则运行上述待执行结构化查询语言。
在本公开一实施例中,上述方法还包括:
当存在一个上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和不满足上述第一预设条件时,限制所有上述待执行结构化查询语言的运行,并发送上述分布式数据库资源不足的预警信号。
本公开的第二方面提供了一种分布式数据库资源管控装置,上述分布式数据库包括至少一个物理节点,该装置包括:
确定模块,用于确定上述分布式数据库中每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值;
计算模块,用于计算所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和;
处理模块,用于当所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有上述待执行结构化查询语言。
本公开的第三方面提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器执行根据执行上述分布式数据库资源管控方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述分布式数据库资源管控方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述分布式数据库资源管控方法。
本公开提供的一种分布式数据库资源管控方法包括:确定分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,计算所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和,当所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有待执行结构化查询语言。该方法在运行待执行结构化查询语言之前,先获取分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,计算所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和,然后比较所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和与第一预设条件,根据比较结果处理所有所有待执行结构化查询语言,能够在待执行结构化查询语言运行之前对分布式数据库集群动态资源分配和中待执行结构化查询语言的运行进行干预和调整,使分布式数据库集群持续处于稳定运行、资源利用率高的状态。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开中的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他附图。
图1示意性示出了根据本公开实施例的一种分布式数据库资源管控方法的应用场景图;
图2示意性示出了本公开一实施例提供的一种分布式数据库资源管控方法的流程示意图;
图3示意性示出了本公开一实施例提供的一种确定分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值的方法的流程示意图;
图4示意性示出了本公开一实施例提供的一种计算已执行结构化查询语言的执行计划和待执行结构化查询语言的执行计划之间的相似度的方法的流程示意图;
图5示意性示出了本公开一实施例提供的又一种分布式数据库资源管控方法的流程示意图;
图6示意性示出了本公开一实施例提供的一种根据预设的语句处理规则处理所有待执行结构化查询语言的方法的流程示意图;
图7示意性示出了本公开一实施例提供的又一种分布式数据库资源管控方法的流程示意图;
图8示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的结构框图;
图9示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的确定模块的结构框图;
图10示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的第二计算模块的结构框图;
图11示意性示出了本公开一实施例提供的又一种分布式数据库资源管控装置的结构框图;
图12示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的处理模块的结构框图;
图13示意性示出了本公开一实施例提供的又一种分布式数据库资源管控装置的结构框图;以及
图14示意性示出了根据本公开实施例的适于实现一种分布式数据库资源管控方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
附图中示出了一些方框图和/或流程图。应理解,方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。本公开的技术可以硬件和/或软件(包括固件、微代码等)的形式来实现。另外,本公开的技术可以采取存储有指令的计算机可读介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。在本公开的上下文中,计算机可读介质可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,计算机可读介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。计算机可读介质的具体示例包括:磁存储装置,如磁带或硬盘(HDD);光存储装置,如光盘(CD-ROM);存储器,如随机存取存储器(RAM)或闪存;和/或有线/无线通信链路。
本公开提供了一种分布式数据库资源管控方法,该方法包括:确定分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,计算所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和,当所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有待执行结构化查询语言。该方法在运行待执行结构化查询语言之前,先获取分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,然后比较所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和与第一预设条件,根据比较结果处理所有所有待执行结构化查询语言,便能够在待执行结构化查询语言运行之前对分布式数据库集群动态资源分配和中待执行结构化查询语言的运行进行事前干预和调整,使分布式数据库集群持续处于稳定运行、资源利用率高的状态。
本公开提供了一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品。下面结合附图进行示例性说明。应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
需要说明的是,本公开提供的一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品可用于金融领域,也可用于除金融领域之外的任意领域,本公开对提供的一种分布式数据库资源管控方法、装置、电子设备、存储介质和程序产品的应用领域不做限定。
图1示意性示出了根据本公开实施例的一种分布式数据库资源管控方法的应用场景图。如图1所示,根据该实施例的应用场景图可以包括终端设备101、102、103,网络104和服务器/服务器集群105。网络104用以在终端设备101、102、103和服务器/服务器集群105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器/服务器集群105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以通过各种客户端应用与服务器/服务器集群105进行交互,以向服务器/服务器集群105发送各种请求或接收服务器/服务器集群105返回的结果。
终端设备101、102、103可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器服务器/服务器集群105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的一种分布式数据库资源管控方法一般可以由服务器/服务器集群105执行。相应地,本公开实施例所提供的一种分布式数据库资源管控装置一般可以设置于服务器/服务器集群105中。本公开实施例所提供的一种分布式数据库资源管控方法也可以由不同于服务器/服务器集群105且能够与终端设备101、102、103和/或服务器/服务器集群105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的一种分布式数据库资源管控装置也可以设置于不同于服务器/服务器集群105且能够与终端设备101、102、103和/或服务器/服务器集群105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器/服务器集群的数目仅仅是示意性的。根据实际需要,可以具有任意数目的终端设备、网络和服务器/服务器集群。
以下将基于图1描述的场景,通过图2~图7对公开实施例的一种分布式数据库资源管控方法进行详细描述。便于本领域技术人员能够更加清楚地了解本公开的技术方案。应当理解,以下说明仅是示例性的,以帮助本领域技术人员理解本公开的方案,并非用以限定本公开的保护范围。
图2示意性示出了本公开一实施例提供的一种分布式数据库资源管控方法的流程示意图。如图2所示,在本公开一实施例中,分布式数据库包括若干个物理节点,该方法包括操作S210~操作S230。
在操作S210,确定上述分布式数据库中每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值。
在操作S220,计算所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和。
在操作S230,当所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有上述待执行结构化查询语言。
在本实施例中,分布式数据库包括若干个物理节点,为了更好地管控分布式数据库中的资源,对分布式数据库中所有待执行的结构化查询语言需要消耗的资源进行计算,首先获取分布式数据库中所有待执行结构化查询语言,以及每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值,当所有待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理每一个结构化查询语言。例如,当所有待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均未超过预设的每一个上述物理节点的资源临界值的预设比例时,判断每一个待执行结构化查询语言的优先级,根据优先级对每个待执行结构化查询语言进行处理。通过获取分布式数据库的中所有待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和,根据所有待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和对所有待执行结构化查询语言进行处理,能够避免因某一个物理节点或某些物理节点资源超限从而影响分布式数据库集群性能和稳定性的情况,可以对分布式数据库集群动态资源分配和待执行结构化查询语言的运行进行事前干预和调整,使分布式数据库集群持续处于稳定运行、高效资源利用率的状态。
应当理解,本实施例中的关于第一预设条件和语句处理规则的说明仅是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定第一预设条件和语句处理规则。
图3示意性示出了本公开一实施例提供的一种确定分布式数据库中每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的方法的流程示意图。如图3所示,在本公开一实施例中,该方法包括操作S310~操作S340。
在操作S310,获取上述分布式数据库中所有已执行结构化查询语言的执行计划和所有待执行结构化查询语言的执行计划。
在操作S320,针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的执行计划与每一个上述已执行结构化查询语言的执行计划之间的相似度。
在操作S330,当存在一个已执行结构化查询语言的执行计划,与一个待执行结构化查询语言的执行计划之间的相似度满足第三预设条件时,获取上述已执行结构化查询语言在每一个上述物理节点上的实际资源消耗值。
在操作S340,将上述已执行结构化查询语言在每一个上述物理节点上的实际资源消耗值作为上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值。
在本实施例中,每一个结构化查询语言均有对应的执行计划,在本实施例中,已执行的结构化查询语言的执行计划为实际执行计划,待执行的结构化查询语言的执行计划为估算执行计划,在确定每一个待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值之前,先获取分布式数据库中所有已执行的结构化查询语言的实际执行计划和每一个待执行结构化查询语言的估算执行计划,针对每一个待执行结构化查询语言,分别计算该待执行结构化查询语言的估算执行计划与每一个已执行结构化查询语言的实际执行计划之间的相似度,当存在一个已执行结构化查询语言的实际执行计划,与一个待执行结构化查询语言的估算执行计划之间的相似度满足第三预设条件时,获取上述已执行结构化查询语言在每一个上述物理节点上的实际资源消耗值,例如获取上述已执行结构化查询语言在在每一个物理节点上的CPU消耗、内存消耗、磁盘IO消耗、磁盘存储消耗、网络连接数消耗、网络IO资源消耗等资源消耗。相似度的选择也可以有多种方法,例如,从所有相似度中选取最大的相似度,或者从所有相似度中选择满足预设阈值的相似度,该相似度对应的已执行结构化查询语言在每一个上述物理节点上的资源消耗值即为该待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值,例如,待执行结构化查询语言a的估算执行计划和已执行结构化查询语言b的实际执行计划之间的相似度为0.9,是所有相似度中最大的,已执行结构化查询语言b的实际执行计划的资源消耗值为50M,则待执行结构化查询语言a的预估资源消耗值为50M。通过不断收集分布式数据库中的已执行结构化查询语言,分析和积累已执行结构化查询语言在所有物理节点上的资源消耗等信息,从分布式数据库的已执行结构化查询语言中搜索与待执行结构化查询语言特征最匹配的已执行结构化查询语言及其详细的资源消耗情况,以最匹配的已执行结构化查询语言在每一个上述物理节点上的资源消耗值作为该待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值,便能够准确估算分布式数据库中所有物理节点的资源消耗情况,从而及时发现局部物理节点资源可能超限的情况,避免了因局部物理节点资源超限导致的分布式数据库集群短板问题,提高了分布式数据库的资源管控力度。
应当理解,本实施例中的关于第三预设条件的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定第三预设条件。
图4示意性示出了本公开一实施例提供的一种计算已执行结构化查询语言的执行计划和待执行结构化查询语言的执行计划之间的相似度的方法的流程示意图。如图4所示,在本公开一实施例中,该方法包括操作S410~操作S440。
在操作S410,将每一个上述已执行结构化查询语言的执行计划分解,得到每一个上述已执行结构化查询语言的算子特征。
在操作S420,将每一个上述待执行结构化查询语言的执行计划分解,得到每一个上述待执行结构化查询语言的算子特征。
在操作S430,针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的算子特征与每个上述已执行结构化查询语言的算子特征之间的相似度。
在操作S440,直至所有上述待执行结构化查询语言均被选取计算。
在本实施例中,将分布式数据库中所有已执行结构化查询语言的执行计划分解,针对每一个已执行结构化查询语言,分解后得到多个算子,获取各个算子操作的数据量特征,将多个算子和各个算子操作数据量特征构造为该已执行结构化查询语言的算子特征。将分布式数据库中所有待执行结构化查询语言的执行计划分解,针对每一个待执行结构化查询语言,分解后得到多个算子,获取各个算子操作的数据量特征,将多个算子和各个算子操作数据量特征构造为该待执行结构化查询语言的算子特征,针对每一个待执行结构化查询语言,分别计算该待执行结构化查询语言的算子特征和上述每一个已执行结构化查询语言的算子特征之间的相似度,每一个待执行结构化查询语言得到若干个相似度。例如,假设所有已执行结构化查询语言的算子特征组成一个算子特征集合A,A=[A1,A2,A3,…,Ai],其中,i表示分布式数据库内已执行结构化查询语言数量。假设一个待执行结构化查询语言的算子特征为B,针对该待执行结构化查询语言,分别计算该待执行结构化查询语言的算子特征B和上述集合A中每一个元素之间的相似度,针对该待执行结构化查询语言得到i个相似度,从i个相似度中寻找满足第三预设条件的相似度,例如选择最大的相似度,最大的相似度的计算公式为:
基于相似度模型,从分布式数据库的已执行结构化查询语言中搜索与待执行结构化查询语言特征最匹配的已执行结构化查询语言及其详细的资源消耗情况,从而准确估算分布式数据库中所有物理节点的资源消耗情况,能够及时发现局部物理节点资源可能超限的情况,解决了因局部物理节点资源超限导致的集群短板问题,从而提高分布式数据库的资源管控力度。
应当理解,本实施例中的关于第三预设条件以及相似度的计算方法的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定第三预设条件以及相似度的计算方法。
图5示意性示出了本公开一实施例提供的又一种分布式数据库资源管控方法的流程示意图。如图5所示,在本公开一实施例中,该方法包括操作S510~操作S540。
在操作S510,获取预设的上述分布式数据库中每一个上述物理节点的资源管控值。
在操作S520,判断所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和是否超过每一个上述物理节点的资源管控值。
在操作S530,当所有上述待执行结构化查询语言在每一个上述物理节点上的预估资源消耗值的和均未超过每一个上述物理节点的资源管控值时,运行所有上述待执行结构化查询语言。
在操作S540,当存在一个上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和超过上述物理节点的资源管控值时,判断上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和是否满足第一预设条件。
在本实施例中,分布式数据库包括若干个物理节点,每个物理节点的资源是有限的,为了保证分布式数据库中每个物理节点的正常运行,需要设置每一个物理节点的资源管控值和资源临界值,资源临界值表示某一项资源可以使用的最大值,资源管控值必须小于资源临界值,资源管控值与资源临界值之间的差值为后备资源。根据预设的每一个物理节点的资源管控值和资源临界值处理分布式数据库中待执行结构化查询语言。在确定每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值之后,判断分布式数据库中所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和是否超过预设的分布式数据库中每一个物理节点的资源管控值,当所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均没有超过预设的每一个物理节点的资源管控值时,证明分布式数据库有能力运行所有待执行结构化查询语言,因此,运行所有待执行结构化查询语言。假设上述第一预设条件为:针对每一个物理节点,所有上述待执行结构化查询语言在该物理节点上的预估资源消耗值的和未超过预设的该物理节点的资源临界值的预设比例。则当存在一个物理节点上所有待执行结构化查询语言的预估资源消耗值的和超过了预设的该物理节点的资源管控值时,需要判断该物理节点上所有待执行结构化查询语言的预估资源消耗值的和是否超过预设的该物理节点的资源临界值的预设比例,若该物理节点上所有待执行结构化查询语言的预估资源消耗值的和没有超过预设的该物理节点的资源临界值的预设比例,则按照预设的语句处理规则处理所有待执行结构化查询语言。例如,假设分布式数据库的资源管控值包括分布式数据库中各个物理节点的CPU、内存、磁盘以及网络等资源的管控值,假设每一个物理节点的上述资源的管控值为[x1,x2,x3,x4,x5,x6],分布式数据库的资源临界值包括分布式数据库中各个物理节点的CPU、内存、磁盘以及网络等资源的临界值,假设每一个物理节点的上述资源的临界值为[y1,y2,y3,y4,y5,y6]。将分布式数据库中每个物理节点的CPU资源、内存资源、磁盘IO资源、磁盘存储资源、网络连接数、网络IO资源等6项资源构造成一个资源矩阵R[n,6],其中n表示物理节点的数量。积累已执行结构化查询语言在所有物理节点的6项资源消耗数据,构造出已执行结构化查询语言资源消耗矩阵O[n,6,i],其中,n表示物理节点的数量,i表示分布式数据库内已执行结构化查询语言的数量。根据最大相似度Ssimi对应的结构化查询语言的编号,从已执行结构化查询语言资源消耗矩阵R[n,6]中获取Opend[n,6]作为待执行结构化查询语言的估算资源消耗矩阵,将分布式数据库的资源矩阵R[n,6]累加待执行结构化查询语言的估算资源消耗矩阵Opend[n,6],获得每个物理节点的CPU、内存、磁盘IO、磁盘存储、网络连、网络IO预估资源矩阵Rest[n,6],对预估资源矩阵Rest[n,6]进行分析,通过比较每个物理节点的每项预估资源值与对应的资源管控值和资源临界值,判断分布式数据库是否可以满足待执行结构化查询语言的资源消耗,当每个物理节点的每项预估资源值均不超过对应的资源管控值时,运行所有待执行结构化查询语言,当某个物理节点上的所有待执行结构化查询语言的预估资源消耗值的和超过该物理节点的资源管控值时,判断该物理节点上所有待执行结构化查询语言的预估资源消耗值的和是否超过该物理节点的资源临界值的预设比例,若没有超过,则证明待执行结构化查询语言可以占用该物理节点的后备资源进行运行,只需按照预设的语句处理规则处理所有待执行结构化查询语言。也可以具体的比较每个物理节点的每项资源的预估资源消耗值是否超过该资源的资源管控值和资源临界值的预设比例,例如,当某个物理节点的某项资源的预估资源消耗值超过该资源对应的资源管控值时,判断该物理节点的该项资源的预估资源消耗值是否超过该项资源对应的资源临界值的预设比例,当该物理节点的该项资源的预估资源消耗值未超过该项资源对应的资源临界值的预设比例时,表明待执行结构化查询语言可以占用后备资源进行运行,此时按照预设的语句处理规则处理所有待执行结构化查询语言。例如,假设某个物理节点的资源管控值为1G,所有待执行结构化查询语言在该物理节点上的预估资源消耗值的和为1.2G,所有待执行结构化查询语言在该物理节点上的预估资源消耗值的和超过该物理节的资源管控值,假设该物理节点的资源临界值为1.5G,预设比例为0.9,则判断所有待执行结构化查询语言在该物理节点上的预估资源消耗值的和是否超过该物理节点的资源临界值的预设比例,因为1.2G<1.5G×0.9=1.35G,因此,所有待执行结构化查询语言在该物理节点上的预估资源消耗值的和没有超过该物理节点的资源临界值的预设比例,按照预设的语句处理规则处理所有待执行结构化查询语言。每个物理节点上的每项资源的资源消耗值的判断与上述每个物理节点的资源消耗值的判断相同或相似,在此不再赘述。获取分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,以及分布式数据库中每一个物理节点的资源消耗情况,根据分布式数据库中每一个物理节点的资源消耗情况与所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和来确定每一个待执行结构化查询语言的处理方法,可以在保证分布式数据库中每一个物理节点正常运行的前提下,尽可能多的执行待执行结构化查询语言,既能够保证分布式数据库集群持续处于稳定运行,又能够提高分布式数据库的资源利用率。
应当理解,本实施例中的关于第一预设条件、资源管控值、资源临界值以及预设比例的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定第一预设条件、资源管控值、资源临界值以及预设比例。
图6示意性示出了本公开一实施例提供的一种根据预设的语句处理规则处理所有待执行结构化查询语言的方法的流程示意图。如图6所示,在本公开一实施例中,该方法包括操作S610~操作S640。
在操作S610,获取预设的优先级判断策略。
在操作S620,根据上述优先级判断策略确定每一个上述待执行结构化查询语言的优先级,上述待执行结构化查询语言的优先级包括第一优先级和第二优先级。
在操作S630,若待执行结构化查询语言的优先级为第二优先级,则限制上述待执行结构化查询语言的运行。
在操作S640,若待执行结构化查询语言的优先级为第一优先级,则运行上述待执行结构化查询语言。
在本实施例中,当所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均没有超过分布式数据库中每一个物理节点的资源临界值的预设比例时,根据预设的语句处理规则处理所有待执行的结构化查询语言,例如,根据每一个待执行结构化查询语言的优先级处理每一个待执行结构化查询语言。首先获取预设的优先级判断策略,根据优先级判断策略确定分布式数据库中每一个待执行结构化查询语言的优先级,若待执行结构化查询语言的优先级为第一优先级,则运行该待执行结构化查询语言,若待执行结构化查询语言的优先级为第二优先级,则限制该待执行结构化查询语言的运行。例如,根据每一个结构化查询语言的提交用户判断每一个结构化查询语言的优先级,预先将用户进行分级,例如将用户划分为一级用户和二级用户,其中,一级用户发送的结构化查询语言的优先级为第一优先级,二级用户发送的结构化查询语言的优先级为第二优先级。获取分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值,以及分布式数据库中每一个物理节点的资源消耗情况,根据分布式数据库中每一个物理节点的资源消耗情况与所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和来确定每一个待执行结构化查询语言的处理方法,可以在保证分布式数据库中每一个物理节点正常运行的前提下,尽可能多的执行待执行结构化查询语言,实现对分布式数据库集群动态资源分配和结构化查询语言的运行的事前干预和调整,既能够保证分布式数据库集群持续处于稳定运行,又能够提高分布式数据库的资源利用率。
应当理解,本实施例中的关于语句处理规则以及结构化查询语言的优先级的划分方法的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定语句处理规则以及结构化查询语言的优先级的划分方法。
图7示意性示出了本公开一实施例提供的又一种分布式数据库资源管控方法的流程示意图。如图7所示,在本公开一实施例中,在上述操作230之后,上述方法还包括操作S710。
在操作S710,当存在一个物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和不满足上述第一预设条件时,限制所有上述待执行结构化查询语言的运行,并发送上述分布式数据库资源不足的预警信号。
在本实施例中,若存在一个物理节点上的所有待执行结构化查询语言的预估资源消耗值的和超过分布式数据库的资源临界值的预设比例,例如,当某个物理节点的某项预估资源消耗值超过该物理节点对应的资源临界值的预设比例时,表明该物理节点的该项资源不足,发送分布式数据库集群具体物理节点某项资源不足的预警,通过对各种动态资源波动进行事前预警,可以对分布式数据库集群动态资源分配和结构化查询语言的运行进行事前干预和调整。例如,某个物理节点上所有待执行结构化查询语言的预估资源消耗值的和为1.4G,该物理节点的资源临界值为1.5G,预设比例为0.9,则1.4G>1.5G×0.9=1.35G。此时,该物理节点的资源不足,无法满足待执行结构化查询语言的运行需求,因此,限制所有待执行结构化查询语言的运行,同时发送分布式数据库资源不足的预警信号,详细说明产生资源不足的具体物理节点和资源类型,便于数据库运维人员根据预警信号进行干预和调整。根据所有待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和处理所有所有待执行结构化查询语言,当存在一个物理节点上的所有待执行结构化查询语言的预估资源消耗值的和超过该物理节点的资源临界值的预设比例时,限制所有待执行结构化查询语言的运行并发送预警信号,能够对分布式数据库集群动态资源分配和结构化查询语言的运行进行事前干预和调整,保证了分布式数据库的正常运行。
应当理解,本实施例中的资源临界值和预设比例的举例仅是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。可以根据实际需要设定资源临界值和预设比例。
基于上述一种分布式数据库资源管控方法,本公开还提供了一种分布式数据库资源管控装置。以下将结合图8-图13对该装置进行详细描述。
图8示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的结构框图。
如图8所示,在本公开一实施例中,该装置中的分布式数据库包括至少一个物理节点,该装置800包括:确定模块810、计算模块820和处理模块830。
确定模块810,用于确定上述分布式数据库中每一个待执行结构化查询语言在每一个物理节点上的预估资源消耗值。在一实施例中,确定模块810可以用于执行前文描述的操作S210,在此不再赘述。
计算模块820,用于计算所有上述待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和。在一实施例中,计算模块820可以用于执行前文描述的操作S220,在此不再赘述。
处理模块830,用于当所有上述待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有上述待执行结构化查询语言。在一实施例中,处理模块830可以用于执行前文描述的操作S230,在此不再赘述。
图9示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的确定模块的结构框图。
如图9所示,在本公开一实施例中,上述确定模块810包括:第一获取模块910、第二计算模块920、第二获取模块930和第二确定模块940。
第一获取模块910,用于获取上述分布式数据库中所有已执行结构化查询语言的执行计划,和所有待执行结构化查询语言的执行计划。在一实施例中,第一获取模块910可以用于执行前文描述的操作S310,在此不再赘述。
第二计算模块920,用于针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的执行计划与每一个上述已执行结构化查询语言的执行计划之间的相似度。在一实施例中,第二计算模块920可以用于执行前文描述的操作S320,在此不再赘述。
第二获取模块930,用于当存在一个已执行结构化查询语言的执行计划,与一个待执行结构化查询语言的执行计划之间的相似度满足第三预设条件时,获取上述已执行结构化查询语言在每一个物理节点上的实际资源消耗值。在一实施例中,第二获取模块930可以用于执行前文描述的操作S330,在此不再赘述。
第二确定模块940,用于将上述已执行结构化查询语言在每一个物理节点上的实际资源消耗值作为上述待执行结构化查询语言在每一个物理节点上的预估资源消耗值。在一实施例中,第二确定模块940可以用于执行前文描述的操作S340,在此不再赘述。
图10示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的第二计算模块的结构框图。
如图10所示,在本公开一实施例中,上述第二计算模块920包括:第三获取模块1010、第四获取模块1020、第三计算模块1030和第四计算模块1040。
第三获取模块1010,用于将每一个上述已执行结构化查询语言的执行计划分解,得到每一个上述已执行结构化查询语言的算子特征。在一实施例中,第三获取模块1010可以用于执行前文描述的操作S410,在此不再赘述。
第四获取模块1020,用于将每一个上述待执行结构化查询语言的执行计划分解,得到每一个上述待执行结构化查询语言的算子特征。在一实施例中,第四获取模块1020可以用于执行前文描述的操作S420,在此不再赘述。
第三计算模块1030,用于针对每一个待执行结构化查询语言,分别计算上述待执行结构化查询语言的算子特征与每个上述已执行结构化查询语言的算子特征之间的相似度。在一实施例中,第三计算模块1030可以用于执行前文描述的操作S430,在此不再赘述。
第四计算模块1040,用于直至所有上述待执行结构化查询语言均被选取计算。在一实施例中,第四计算模块1040可以用于执行前文描述的操作S440,在此不再赘述。
图11示意性示出了本公开一实施例提供的又一种分布式数据库资源管控装置的结构框图。
如图11所示,在本公开一实施例中,上述装置800还包括:第五获取模块1110、第一判断模块1120、执行模块1130和第二判断模块1140。
第五获取模块1110,用于获取预设的上述分布式数据库中每一个物理节点的资源管控值。在一实施例中,第五获取模块1110可以用于执行前文描述的操作S510,在此不再赘述。
第一判断模块1120,用于判断所有上述待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和是否超过每一个物理节点的资源管控值。在一实施例中,第一判断模块1120可以用于执行前文描述的操作S520,在此不再赘述。
执行模块1130,用于当所有上述待执行结构化查询语言在每一个物理节点上的预估资源消耗值的和均未超过每一个物理节点的资源管控值时,运行所有上述待执行结构化查询语言。在一实施例中,执行模块1130可以用于执行前文描述的操作S530,在此不再赘述。
第二判断模块1140,用于当存在一个物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和超过上述物理节点的资源管控值时,判断上述物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和是否满足第一预设条件。在一实施例中,第二判断模块1140可以用于执行前文描述的操作S540,在此不再赘述。
图12示意性示出了本公开一实施例提供的一种分布式数据库资源管控装置的处理模块的结构框图。
如图12所示,在本公开一实施例中,上述处理模块830包括:第六获取模块1210、第三判断模块1220、第七获取模块1230、第三确定模块1240、第二处理模块1250和第三处理模块1260。
第六获取模块1210,用于获取预设的优先级判断策略。在一实施例中,第六获取模块1210可以用于执行前文描述的操作S610,在此不再赘述。
第三判断模块1220,用于根据上述优先级判断策略确定每一个上述待执行结构化查询语言的优先级,上述待执行结构化查询语言的优先级包括第一优先级和第二优先级。在一实施例中,第三判断模块1220可以用于执行前文描述的操作S620,在此不再赘述。
第七获取模块1230,用于若待执行结构化查询语言的优先级为第二优先级,则限制上述待执行结构化查询语言的运行。在一实施例中,第七获取模块1230可以用于执行前文描述的操作S630,在此不再赘述。
第三确定模块1240,用于若待执行结构化查询语言的优先级为第一优先级,则运行上述待执行结构化查询语言在一实施例中,第三确定模块1240可以用于执行前文描述的操作S640,在此不再赘述。
图13示意性示出了本公开一实施例提供的又一种分布式数据库资源管控装置的结构框图。
如图13所示,在本公开一实施例中,上述装置800还包括:预警模块1310。
预警模块1310,用于当存在一个物理节点上的所有上述待执行结构化查询语言的预估资源消耗值的和不满足上述第一预设条件时,限制所有上述待执行结构化查询语言的运行,并发送上述分布式数据库资源不足的预警信号。在一实施例中,预警模块1310可以用于执行前文描述的操作S710,在此不再赘述。
需要说明的是,装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似,在此不再赘述。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,确定模块810、计算模块820和处理模块830中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,确定模块810、计算模块820和处理模块830中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,确定模块810、计算模块820和处理模块830中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图14示意性示出了根据本公开实施例的适于实现一种分布式数据库资源管控方法的电子设备的方框图。
如图14所示,根据本公开实施例的电子设备1400包括处理器1401,其可以根据存储在只读存储器(ROM)1402中的程序或者从存储部分1408加载到随机访问存储器(RAM)1403中的程序而执行各种适当的动作和处理。处理器1401例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器1401还可以包括用于缓存用途的板载存储器。处理器1401可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1403中,存储有电子设备1400操作所需的各种程序和数据。处理器1401、ROM 1402以及RAM 1403通过总线1404彼此相连。处理器1401通过执行ROM 1402和/或RAM1403中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1402和RAM 1403以外的一个或多个存储器中。处理器1401也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备1400还可以包括输入/输出(I/O)接口1405,输入/输出(I/O)接口1405也连接至总线1404。电子设备1400还可以包括连接至I/O接口1405的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1407;包括硬盘等的存储部分1408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1409。通信部分1409经由诸如因特网的网络执行通信处理。驱动器1410也根据需要连接至I/O接口1405。可拆卸介质1411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1410上,以便于从其上读出的计算机程序根据需要被安装入存储部分1408。
本公开还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序包含如上文所述的一种分布式数据库资源管控方法。该计算机可读存储介质可以是上述实施例中描述的装置/设备中所包含的;也可以是单独存在,而未装配入该装置/设备中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1402和/或RAM 1403和/或ROM 1402和RAM 1403以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的一种分布式数据库资源管控方法。
在该计算机程序被处理器1401执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1409被下载和安装,和/或从可拆卸介质1411被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分1409从网络上被下载和安装,和/或从可拆卸介质1411被安装。在该计算机程序被处理器1401执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管已经参照本公开的特定示例性实施例示出并描述了本公开,但是本领域技术人员应该理解,在不背离所附权利要求及其等同物限定的本公开的精神和范围的情况下,可以对本公开进行形式和细节上的多种改变。因此,本公开的范围不应该限于上述实施例,而是应该不仅由所附权利要求来进行确定,还由所附权利要求的等同物来进行限定。
Claims (10)
1.一种分布式数据库资源管控方法,其特征在于,所述分布式数据库包括至少一个物理节点,所述方法包括:
确定所述分布式数据库中每一个待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值;
计算所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和;
当所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有所述待执行结构化查询语言。
2.根据权利要求1所述的分布式数据库资源管控方法,其特征在于,所述确定所述分布式数据库中每一个待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值,具体包括:
获取所述分布式数据库中所有已执行结构化查询语言的执行计划和所有待执行结构化查询语言的执行计划;
针对每一个待执行结构化查询语言,分别计算所述待执行结构化查询语言的执行计划与每一个所述已执行结构化查询语言的执行计划之间的相似度;
当存在一个已执行结构化查询语言的执行计划,与一个待执行结构化查询语言的执行计划之间的相似度满足第三预设条件时,获取所述已执行结构化查询语言在每一个所述物理节点上的实际资源消耗值;
将所述已执行结构化查询语言在每一个所述物理节点上的实际资源消耗值作为所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值。
3.根据权利要求2所述的分布式数据库资源管控方法,其特征在于,所述针对每一个待执行结构化查询语言,分别计算所述待执行结构化查询语言的执行计划与每一个所述已执行结构化查询语言的执行计划之间的相似度,具体包括:
将每一个所述已执行结构化查询语言的执行计划分解,得到每一个所述已执行结构化查询语言的算子特征;
将每一个所述待执行结构化查询语言的执行计划分解,得到每一个所述待执行结构化查询语言的算子特征;
针对每一个待执行结构化查询语言,分别计算所述待执行结构化查询语言的算子特征与每个所述已执行结构化查询语言的算子特征之间的相似度;
直至所有所述待执行结构化查询语言均被选取计算。
4.根据权利要求1所述的分布式数据库资源管控方法,其特征在于,所述计算所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和之后,所述方法还包括:
获取预设的所述分布式数据库中每一个所述物理节点的资源管控值;
判断所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和是否超过每一个所述物理节点的资源管控值;
当所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和均未超过每一个所述物理节点的资源管控值时,运行所有所述待执行结构化查询语言;
当存在一个物理节点上的所有所述待执行结构化查询语言的预估资源消耗值的和超过所述物理节点的资源管控值时,判断所述物理节点上的所有所述待执行结构化查询语言的预估资源消耗值的和是否满足第一预设条件;
所述第一预设条件为:针对每一个物理节点,所有所述待执行结构化查询语言在所述物理节点上的预估资源消耗值的和未超过预设的所述物理节点的资源临界值的预设比例。
5.根据权利要求1所述的分布式数据库资源管控方法,其特征在于,所述根据预设的语句处理规则处理所有所述待执行结构化查询语言,具体包括:
获取预设的优先级判断策略;
根据所述优先级判断策略确定每一个所述待执行结构化查询语言的优先级,所述待执行结构化查询语言的优先级包括第一优先级和第二优先级;
若待执行结构化查询语言的优先级为第二优先级,则限制所述待执行结构化查询语言的运行;
若待执行结构化查询语言的优先级为第一优先级,则运行所述待执行结构化查询语言。
6.根据权利要求1所述的分布式数据库资源管控方法,其特征在于,所述方法还包括:
当存在一个物理节点上的所有所述待执行结构化查询语言的预估资源消耗值的和不满足所述第一预设条件时,限制所有所述待执行结构化查询语言的运行,并发送所述分布式数据库资源不足的预警信号。
7.一种分布式数据库资源管控装置,其特征在于,所述分布式数据库包括至少一个物理节点,所述装置包括:
确定模块,用于确定所述分布式数据库中每一个待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值;
计算模块,用于计算所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和;
处理模块,用于当所有所述待执行结构化查询语言在每一个所述物理节点上的预估资源消耗值的和均满足第一预设条件时,根据预设的语句处理规则处理所有所述待执行结构化查询语言。
8.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据执行如权利要求1~6中任一项所述的分布式数据库资源管控方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的分布式数据库资源管控方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~6中任一项所述的分布式数据库资源管控方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111351171.5A CN114116782A (zh) | 2021-11-15 | 2021-11-15 | 分布式数据库资源管控方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111351171.5A CN114116782A (zh) | 2021-11-15 | 2021-11-15 | 分布式数据库资源管控方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114116782A true CN114116782A (zh) | 2022-03-01 |
Family
ID=80396474
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111351171.5A Pending CN114116782A (zh) | 2021-11-15 | 2021-11-15 | 分布式数据库资源管控方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114116782A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117539728A (zh) * | 2024-01-10 | 2024-02-09 | 浙江睿数云联科技有限公司 | 一种分布式数据库监控实现方法、系统、装置及介质 |
-
2021
- 2021-11-15 CN CN202111351171.5A patent/CN114116782A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117539728A (zh) * | 2024-01-10 | 2024-02-09 | 浙江睿数云联科技有限公司 | 一种分布式数据库监控实现方法、系统、装置及介质 |
CN117539728B (zh) * | 2024-01-10 | 2024-04-12 | 浙江睿数云联科技有限公司 | 一种分布式数据库监控实现方法、系统、装置及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180024863A1 (en) | Task Scheduling and Resource Provisioning System and Method | |
WO2020087830A1 (zh) | 数据分析方法、装置、服务器及存储介质 | |
WO2023056943A1 (zh) | 基于物联网规则引擎的终端控制方法、装置、设备及介质 | |
CN111125107A (zh) | 数据处理方法、装置、电子设备和介质 | |
CN112181948B (zh) | 数据库操作语句的处理方法、装置、电子设备和介质 | |
CN115174353B (zh) | 故障根因确定方法、装置、设备及介质 | |
CN112181704A (zh) | 一种大数据任务处理方法、装置、电子设备及存储介质 | |
US11157467B2 (en) | Reducing response time for queries directed to domain-specific knowledge graph using property graph schema optimization | |
US20130166751A1 (en) | Distributed resource management systems and methods for resource management thereof | |
US9208005B2 (en) | System and method for performance management of large scale SDP platforms | |
CN114116782A (zh) | 分布式数据库资源管控方法、装置、电子设备和存储介质 | |
US10567469B1 (en) | Embedding hypermedia resources in data interchange format documents | |
US10536390B1 (en) | Requesting embedded hypermedia resources in data interchange format documents | |
CN111930604B (zh) | 联机交易性能分析方法及装置、电子设备和可读存储介质 | |
CN115514618A (zh) | 告警事件的处理方法、装置、电子设备和介质 | |
CN114546786A (zh) | 基于多级缓存的异常监控方法 | |
CN114756301A (zh) | 日志处理方法、装置和系统 | |
CN114201508A (zh) | 数据处理方法、数据处理装置、电子设备和存储介质 | |
CN114281586A (zh) | 故障确定方法及装置、电子设备和计算机可读存储介质 | |
CN113900905A (zh) | 日志监控方法、装置、电子设备及存储介质 | |
CN116450465B (zh) | 数据处理方法、装置、设备及介质 | |
CN114640585B (zh) | 一种资源更新方法、装置、电子设备和存储介质 | |
CN114138914A (zh) | MySQL数据库管理方法、装置、电子设备和存储介质 | |
CN113138903B (zh) | 用于跟踪存储系统的性能的方法和设备 | |
CN114448976B (zh) | 网络报文的组装方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |