CN111400046A - 数据库资源管理方法、装置、资源管理设备及存储介质 - Google Patents
数据库资源管理方法、装置、资源管理设备及存储介质 Download PDFInfo
- Publication number
- CN111400046A CN111400046A CN202010183781.8A CN202010183781A CN111400046A CN 111400046 A CN111400046 A CN 111400046A CN 202010183781 A CN202010183781 A CN 202010183781A CN 111400046 A CN111400046 A CN 111400046A
- Authority
- CN
- China
- Prior art keywords
- physical machine
- physical
- machine
- machines
- slave
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007726 management method Methods 0.000 title claims abstract description 152
- 238000000034 method Methods 0.000 claims abstract description 25
- 238000012545 processing Methods 0.000 claims abstract description 8
- 238000012163 sequencing technique Methods 0.000 claims description 49
- 238000012216 screening Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 6
- 238000013468 resource allocation Methods 0.000 claims description 6
- 238000012423 maintenance Methods 0.000 abstract description 25
- 230000000694 effects Effects 0.000 abstract description 9
- 238000010586 diagram Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 239000002699 waste material Substances 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供一种数据库资源管理方法、装置、资源管理设备及存储介质,涉及数据库处理领域。本申请根据获取到的数据库资源申请请求所包括的与目标数据库实例对应的内存需求量及磁盘空间需求量,筛选出满足内存需求量及磁盘空间需求量的待分配物理机,而后根据每个待分配物理机的运行参数进行多维度地考虑,从所有待分配物理机中确定出与目标数据库实例匹配的主物理机及从物理机,进而在主物理机上分配足够资源创建该目标数据库实例所对应的主数据库,并在从物理机上分配足够资源创建该目标数据库实例所对应的从数据库,确保目标数据库实例能够在对应物理机的支持下达到良好的运维效果,提高了物理机分配合理性及机器适配性。
Description
技术领域
本申请涉及数据库处理领域,具体而言,涉及一种数据库资源管理方法、装置、资源管理设备及存储介质。
背景技术
随着互联网技术的不断发展,数据库因其在数据管理层面上具有高效的数据控制功能及数据检索功能,而被广泛应用到各大行业。其中,数据库在具体构建时通常需要选定某个物理机作为其承载体,并通过该物理机的相关硬件资源确保该数据库得以正常运维。目前,业界主流在针对数据库实例进行资源申请时,是通过检测物理机当前剩余的内存是非能够支撑该数据库实例的内存需求,并在能够支撑内存需求的情况下,直接选定该物理机配合机器资源用以实现该数据库实例。这种数据库实例的分配方案容易出现数据库实例在运维时受到物理机硬件设施的限制而无法达到较佳的运维效果,存在物理机分配合理性不强及机器适配性不好的问题。
发明内容
有鉴于此,本申请的目的在于提供一种数据库资源管理方法、装置、资源管理设备及存储介质,其能够针对目标数据库实例分配合理的物理机,确保目标数据库实例能够在对应物理机的支持下达到良好的运维效果,提高物理机分配合理性及机器适配性。
为了实现上述目的,本申请实施例采用的技术方案如下:
第一方面,本申请实施例提供一种数据库资源管理方法,应用于数据库管理系统中的资源管理设备,其中所述数据库管理系统还包括多个物理机,所述方法包括:
获取数据库资源申请请求,其中所述数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量;
在数据库管理系统中筛选出剩余内存满足所述内存需求量且剩余磁盘空间满足所述磁盘空间需求量的待分配物理机;
根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机;
在所述主物理机与所述从物理机上针对所述目标数据库实例进行资源分配。
在可选的实施方式中,所述运行参数包括对应物理机的CPU使用率、读写比例、QPS数值、负载大小及告警次数,所述资源管理设备存储有物理机初选模型及物理机次选模型,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,包括:
按照从小到大的顺序分别对所有待分配物理机各自的CPU使用率、读写比例、QPS数值、负载大小及告警次数进行排序,得到多个物理机排序结果;
调用所述物理机初选模型从所有待分配物理机中筛选在每个物理机排序结果中的排名均处于第一预设排名范围的第一初选物理机;
若筛选出至少一个第一初选物理机,则在筛选出的第一初选物理机中选取一个物理机作为主物理机;
调用所述物理机次选模型在除去所述主物理机后的剩余第一初选物理机中筛选不与所述主物理机处于同一机架的第一次选物理机;
当筛选出至少一个第一次选物理机时,从筛选出的第一次选物理机中确定从物理机。
在可选的实施方式中,所述数据库资源申请请求还包括与所述目标数据库实例对应的实例访问高峰时段,所述在筛选出的第一初选物理机中选取一个物理机作为主物理机,包括:
根据每个第一初选物理机在所述实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一初选物理机进行排序,得到对应的第一初选排序结果;
选取所述第一初选排序结果中排名第一的第一初选物理机作为所述主物理机。
在可选的实施方式中,所述数据库资源申请请求还包括与所述目标数据库实例对应的从库预创数目,所述从筛选出的第一次选物理机中确定从物理机,包括:
根据每个第一次选物理机在所述实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一次选物理机进行排序,得到对应的第一次选排序结果;
选取所述第一次选排序结果中排名不大于所述从库预创数目的所有第一次选物理机作为所述从物理机。
在可选的实施方式中,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,还包括:
当无法筛选出第一次选物理机时,调用所述物理机次选模型从所有待分配物理机中筛选出不与所述主物理机处于同一机架并在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第一预设排名范围的第二次选物理机;
从筛选出的第二次选物理机中确定从物理机。
在可选的实施方式中,所述从筛选出的第二次选物理机中确定从物理机,包括:
根据每个第二次选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二次选物理机进行排序,得到对应的第二次选排序结果;
选取所述第二次选排序结果中排名不大于从库预创数目的所有第二次选物理机作为所述从物理机。
在可选的实施方式中,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,还包括:
若无法筛选出第一初选物理机,则调用所述物理机初选模型从所有待分配物理机中筛选在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第二预设排名范围的第二初选物理机,其中所述第二预设排名范围包含所述第一预设排名范围;
在筛选出的第二初选物理机中选取一个物理机作为主物理机;
调用所述物理机次选模型在除去所述主物理机后的剩余第二初选物理机中筛选不与所述主物理机处于同一机架的第三次选物理机;
从筛选出的第三次选物理机中确定从物理机。
在可选的实施方式中,所述在筛选出的第二初选物理机中选取一个物理机作为主物理机,包括:
根据每个第二初选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二初选物理机进行排序,得到对应的第二初选排序结果;
选取所述第二初选排序结果中排名第一的第二初选物理机作为所述主物理机。
在可选的实施方式中,所述从筛选出的第三次选物理机中确定从物理机,包括:
根据每个第三次选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第三次选物理机进行排序,得到对应的第三次选排序结果;
选取所述第三次选排序结果中排名不大于从库预创数目的所有第三次选物理机作为所述从物理机。
第二方面,本申请实施例提供一种数据库资源管理装置,应用于数据库管理系统中的资源管理设备,其中所述数据库管理系统还包括多个物理机,所述装置包括:
资源请求获取模块,用于获取数据库资源申请请求,其中所述数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量;
物理机筛选模块,用于在数据库管理系统中筛选出剩余内存满足所述内存需求量且剩余磁盘空间满足所述磁盘空间需求量的待分配物理机;
主从机确定模块,用于根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机;
机器资源处理模块,用于在所述主物理机与所述从物理机上针对所述目标数据库实例进行资源分配。
第三方面,本申请实施例提供一种资源管理设备,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的机器可执行指令,所述处理器可执行所述机器可执行指令,以实现前述实施方式所述的数据库资源管理方法。
第四方面,本申请实施例提供一种存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,实现前述实施方式所述的数据库资源管理方法。
相对于背景技术而言,本申请具有以下有益效果:
本申请在获取到数据库资源申请请求时,会根据该数据库资源申请请求所包括的与目标数据库实例对应的内存需求量及磁盘空间需求量,筛选出满足内存需求量及磁盘空间需求量的待分配物理机,而后根据每个待分配物理机的运行参数进行多维度地考虑,从所有待分配物理机中确定出与目标数据库实例匹配的主物理机及从物理机,进而在主物理机上分配足够资源创建该目标数据库实例所对应的主数据库,并在从物理机上分配足够资源创建该目标数据库实例所对应的从数据库,确保目标数据库实例能够在对应物理机的支持下达到良好的运维效果,提高了物理机分配合理性及机器适配性。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的数据库管理系统的系统组成示意图;
图2为本申请实施例提供的资源管理设备的结构组成示意图;
图3为本申请实施例提供的数据库资源管理方法的流程示意图;
图4为图3中的步骤S230包括的子步骤的流程示意图之一;
图5为图3中的步骤S230包括的子步骤的流程示意图之二;
图6为图3中的步骤S230包括的子步骤的流程示意图之三;
图7为本申请实施例提供的数据库资源管理装置的功能模块示意图。
图标:10-数据库管理系统;11-资源管理设备;12-物理机;111-存储器;112-处理器;113-通信单元;100-数据库资源管理装置;110-资源请求获取模块;120-物理机筛选模块;130-主从机确定模块;140-机器资源处理模块。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参照图1,图1是本申请实施例提供的数据库管理系统10的系统组成示意图。在本申请实施例中,所述数据库管理系统10用于实现对数据库的创建管理、资源分配、运维管理等管理操作,其中所述数据库管理系统10包括资源管理设备11及多个物理机12,所述资源管理设备11与多个物理机12通信连接,用于获取每个物理机12向自身承载的数据库提供的资源支持状况,并根据各物理机12的资源支持状况为新数据库实例分配资源合适且运行性能匹配的物理机12进行相关的数据库创建及运维操作,其中每个物理机12可用于承载多个数据库。所述资源管理设备11可通过网络与用户所使用的终端设备通信连接,以获取用户需要创建的数据库实例的运维要求信息,其中所述运维要求信息包括对应数据库实例在运维时所需的物理资源大小、机器运行条件以及被访问高峰时段信息等。所述资源管理设备11与所述物理机12可以是,但不限于,服务器及个人计算机等;所述终端设备可以是,但不限于,平板电脑及个人计算机等。
可选地,请参照图2,图2是本申请实施例提供的资源管理设备11的结构组成示意图。在本申请实施例中,所述资源管理设备11包括数据库资源管理装置100、存储器111、处理器112及通信单元113。所述存储器111、所述处理器112及所述通信单元113各个元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,所述存储器111、所述处理器112及所述通信单元113这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。
在本实施例中,所述存储器111可用于存储应用程序,所述处理器112在接收到执行指令后,可相应地执行对应的应用程序。其中,所述存储器111可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-Only Memory,PROM),可擦除只读存储器(ErasableProgrammable Read-Only Memory,EPROM),电可擦除只读存储器(Electric ErasableProgrammable Read-Only Memory,EEPROM)等。
在本实施例中,所述处理器112可以是一种具有信号的处理能力的集成电路芯片。所述处理器112可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)及网络处理器(Network Processor,NP)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。
在本实施例中,所述通信单元113用于通过网络建立所述资源管理设备11与其他终端设备之间的通信连接,并通过该网络收发数据。例如,所述资源管理设备11通过该通信单元113与各物理机12通信连接,并从各物理机12处获取其对应的物理资源利用状况。
在本实施例中,所述数据库资源管理装置100包括至少一个能够以软件或固件的形式存储于所述存储器111中或固化在所述资源管理设备11的操作系统中的软件功能模块。所述处理器112可用于执行所述存储器111存储的可执行模块,例如所述数据库资源管理装置100所包括的软件功能模块及计算机程序等。所述资源管理设备11通过所述数据库资源管理装置100为需要创建及运维的目标数据库实例分配资源合适且运行性能匹配的物理机12,确保目标数据库实例能在对应物理机12的支持下达到良好的运维效果,提高物理机分配合理性及机器适配性。
可以理解的是,图1所示的结构组成示意图仅为资源管理设备11的一种示意图,所述资源管理设备11还可包括比图1中所示更多或更少的组件,或具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
在本申请中,为确保所述资源管理设备11能够针对需要创建的数据库实例分配资源合适且运行性能匹配的物理机12,确保数据库实例能在对应物理机12的支持下达到良好的运维效果,提高物理机分配合理性及机器适配性,本申请通过提供应用于上述资源管理设备11的数据库资源管理方法实现上述功能。下面对本申请提供的数据库资源管理方法进行相应描述。
可选地,请参照图3,图3是本申请实施例提供的数据库资源管理方法的流程示意图。在本申请实施例中,图3所示的数据库资源管理方法的具体流程和步骤如下文所示。
步骤S210,获取数据库资源申请请求,其中数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量。
在本实施例中,用户可用过终端设备向所述资源管理设备11上传针对其需要创建的目标数据库实例的数据库资源申请请求,使资源管理设备11根据该数据库资源申请请求所包括的目标数据库实例的内存需求量及磁盘空间需求量,选取合适的物理机12作为所述目标数据库实例的承载体。
步骤S220,在数据库管理系统中筛选出剩余内存满足内存需求量且剩余磁盘空间满足磁盘空间需求量的待分配物理机。
在本实施例中,所述资源管理设备11会通过网络统计所述数据库管理系统10下每个物理机12的总内存大小及总磁盘空间大小,以及每个物理机12针对自身已承载的数据库所分配的已分配内存大小及已分配磁盘空间大小,从而通过将同一物理机12的总内存大小与已分配内存大小进行减法运算,并将同一物理机12的总磁盘空间大小与已分配磁盘空间大小进行减法运算,得到各物理机12的剩余内存大小及剩余磁盘空间大小。而后,所述资源管理设备11通过将各物理机12的剩余内存大小与所述内存需求量进行比较,并将各物理机12的剩余磁盘空间大小与所述磁盘空间需求量进行比较,从而将所述数据库管理系统10中的剩余内存大小不小于所述内存需求量且剩余磁盘空间大小不小于所述磁盘空间需求量的物理机12,作为所述数据库管理系统10中的初步满足所述目标数据库实例的运维条件的待分配物理机12。
步骤S230,根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与目标数据库实例匹配的主物理机及从物理机。
在本实施例中,所述运行参数包括对应物理机12的CPU使用率、读写比例、QPS(Queries-Per-Second,每秒查询率)数值、负载大小及告警次数。所述CPU使用率用于表示对应物理机12的CPU在预设时间段内的运行状况,其数值可由所述资源管理设备11通过对CPU运行状况进行正态分布分析得到,其中CPU使用率的数值越高,则表明CPU使用越频繁。所述读写比例用于表示对应物理机12在一定时间段内的数据读取状况与数据写入状况之间的态势比例,其数值可由所述资源管理设备11根据对应物理机12的IO(Input-Output,输入-输出)接口的使用状况针对数据读取方面及数据写入方面进行独立分析得到。所述QPS数值用于表示对应物理机12上的所有数据库在被访问查询时的整体数据查询能力,其数值可由所述资源管理设备11对物理机12上已分配的数据库的QPS数值进行数值统计操作及数值加法运算得到,其数值越大,则可表明该物理机12的剩余机器资源越少。所述负载大小用于表示对应物理机12在过去一段时间内的数据承载量大小,其数值越大,则表明对应物理机12的数据负载压力越大。所述告警次数用于表示对应物理机12在过去一段时间内的告警状况,其数值越大,则表明对应物理机12的设备运行稳定性越差。
所述资源管理设备11在筛选出初步满足所述目标数据库实例的运维条件的待分配物理机12后,会根据获取到的每个待分配物理机12针对已承载数据库的资源支持状况,确定出每个待分配物理机12的CPU使用率、读写比例、QPS数值、负载大小及告警次数,并针对这些待分配物理机12的CPU使用率、读写比例、QPS数值、负载大小及告警次数进行多维度地考虑,进而从筛选出的所有待分配物理机12中确定出机器资源合适的能够构建与目标数据库实例匹配的数据库的主物理机12和从物理机12,避免造成机器资源浪费或硬件资源限制的现象。其中,所述主物理机12用于构建目标数据库实例所对应的起主要运维作用的主数据库,所述从物理机12用于构建目标数据库实例所对应的起备用作用的从数据库。
步骤S240,在主物理机与从物理机均针对目标数据库实例进行资源分配。
在本实施例中,当所述资源管理设备11确定出机器资源与目标数据库实例匹配的主物理机12及从物理机12后,会在所述主物理机12上分配与该目标数据库实例的内存需求量及磁盘空间需求量对应的机器资源给该目标数据库实例,而后在所述主物理机12上利用被分配的机器资源构建该目标数据库实例所对应的主数据库,同时也会在所述从物理机12上分配与该目标数据库实例的内存需求量及磁盘空间需求量对应的机器资源给该目标数据库实例,并在所述从物理机12上利用被分配的机器资源构建该目标数据库实例所对应的从数据库。
在本申请中,所述资源管理设备11通过执行上述的数据库资源管理方法为新数据库实例分配机器资源合适的物理机12,使该数据库实例能够在对应物理机12的支持下达到良好的运维效果,提高了物理机分配合理性及机器适配性。
在本申请中,为确保所述资源管理设备11能够针对目标数据库实例进行多维度的物理机分配考虑,使分配的物理机12的运行状况与目标数据库实例真实匹配,避免出现机器资源浪费或硬件资源限制,本申请通过提供一种主从物理机确定方案实现上述功能。下面对本申请提供的主从物理机确定方案进行相应描述。
可选地,请参照图4,图4是图3中的步骤S230包括的子步骤的流程示意图之一。在本实施例中,所述资源管理设备11上存储有物理机初选模型及物理机次选模型,其中所述物理机初选模型用于在待分配物理机12中筛选能够参与主物理机确定操作的候选物理机12,所述物理机次选模型用于在待分配物理机12中筛选能够参与从物理机确定操作的候选物理机12,此时步骤S230可以包括子步骤S231~子步骤S235。
子步骤S231,按照从小到大的顺序分别对所有待分配物理机各自的CPU使用率、读写比例、QPS数值、负载大小及告警次数进行排序,得到多个物理机排序结果。
在本实施例中,当所述资源管理设备11确定出与目标数据库实例对应的所有待分配物理机12后,会对各待分配物理机12的处于同一运行参数种类的具体数值按照从小到大的顺序进行排序,得到多个物理机排序结果,其中CPU使用率、读写比例、QPS数值、负载大小及告警次数等5项运行参数种类各自对应一个物理机排序结果。其中,同一待分配物理机12在不同物理机排序结果中的排名结果可以相同,也可以不同。例如,假设与目标数据库实例对应的待分配物理机12包括图1所示的物理机A、物理机B及物理机C,物理机A、物理机B及物理机C在与CPU使用率对应的物理机排序结果中的排名可以分别为1、2、5,物理机A、物理机B及物理机C在与读写比例对应的物理机排序结果中的排名可以分别为3、2、4,物理机A、物理机B及物理机C在与QPS数值对应的物理机排序结果中的排名可以分别为2、3、5,物理机A、物理机B及物理机C在与负载大小对应的物理机排序结果中的排名可以分别为2、4、6,物理机A、物理机B及物理机C在与告警次数对应的物理机排序结果中的排名可以分别为5、7、10。
子步骤S232,调用物理机初选模型从所有待分配物理机中筛选在每个物理机排序结果中的排名均处于第一预设排名范围的第一初选物理机。
在本实施例中,所述第一预设排名范围的排名上限值通常被设置为不大于筛选出的待分配物理机12的数目的数值,但也可固定设置为某个特定数值,同时也可将所述第一预设排名范围的排名下限值设置为某个固定数值(比如1或2)。以筛选出的待分配物理机12的数目为15为例,所述第一预设排名范围可以是1~10,也可以是2~9。
所述资源管理设备11在确定出与待分配物理机12相关的多个物理机排序结果后,会通过调用所述物理机初选模型检测各项运行参数所对应的物理机排序结果中是否存在对应排名处于所述第一预设排名范围内的同一物理机12,进而筛选出在所有物理机排序结果中的排名均处于第一预设排名范围内的第一初选物理机12,作为参与主物理机确定操作的候选物理机12。
子步骤S233,若筛选出至少一个第一初选物理机,则在筛选出的第一初选物理机中选取一个物理机作为主物理机。
在本实施例中,通过调用所述物理机初选模型在待分配物理机12中筛选第一初选物理机12的操作可能造成两种结果,一种是能够筛选出至少一个第一初选物理机12,另一种就是无法筛选出任何一个第一初选物理机12。而当筛选出至少一个第一初选物理机12时,所述资源管理设备11可直接从筛选出的第一初选物理机12中选取任意一个第一初选物理机12作为与目标数据库实例匹配的主物理机12。同时,所述资源管理设备11也可按照某种规则对筛选出的第一初选物理机12进行契合度排序,从而根据排序结果确定出与目标数据库实例契合度最高的第一初选物理机12作为所述主物理机12。
可选地,在本实施例的一种实施方式中,所述数据库资源申请请求还包括用户针对所述目标数据库实例配置的实例访问高峰时段,为确保所述资源管理设备11选取出的主物理机12之前的使用高峰时段与所述实例访问高峰时段错开,保证所述目标数据库实例在主物理机12上运维时得以实现错峰访问,所述资源管理设备11将根据每个第一初选物理机12在所述实例访问高峰时段内的过往访问状况确定出与该目标数据库实例错峰访问的主物理机12。此时所述在筛选出的第一初选物理机12中选取一个物理机12作为主物理机12,包括:
根据每个第一初选物理机12在所述实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一初选物理机12进行排序,得到对应的第一初选排序结果;
选取第一初选排序结果中排名第一的第一初选物理机12作为主物理机12。
其中,所述资源管理设备11可通过执行上述实施方式,保证目标数据库实例在选取的主物理机12上运维时,能够实现错峰访问,增强目标数据库实例在对应主物理机12上的访问便捷性,避免出现实例访问拥堵现象。
子步骤S234,调用物理机次选模型在除去主物理机后的剩余第一初选物理机中筛选不与主物理机处于同一机架的第一次选物理机。
在本实施例中,所述资源管理设备11在从第一初选物理机12中确定出主物理机12后,会按照主从数据库应不处于同一机架的原则,通过调用物理机次选模型在所有第一初选物理机12中剔除所述主物理机12及与所述主物理机12处于同一机架的物理机12,并将剩余的第一初选物理机12作为第一次选物理机12(参与从物理机确定操作的候选物理机12),以确保从第一次选物理机12中选取从物理机12不会在主物理机12所在机架掉电时也跟着掉电,从物理机12上的从数据库能够替换主物理机12上的主数据库投入使用。
子步骤S235,当筛选出至少一个第一次选物理机时,从筛选出的第一次选物理机中确定从物理机。
在本实施例中,通过调用所述物理机次选模型在第一初选物理机12中筛选第一次选物理机12的操作可能造成两种结果,一种是能够筛选出至少一个第一次选物理机12,另一种就是无法筛选出任何一个第一次选物理机12。而当筛选出至少一个第一次选物理机12时,所述资源管理设备11可直接从筛选出的第一次选物理机12中,选取数目与用户针对目标数据库实例设定的从数据库数目匹配的至少一个第一次选物理机12,作为与目标数据库实例匹配的从物理机12。同时,所述资源管理设备11也可按照某种规则对筛选出的第一次选物理机12进行契合度排序,从而根据排序结果确定出与目标数据库实例契合度排名高的至少一个第一次选物理机12作为从物理机12。
可选地,在本实施例的一种实施方式中,所述数据库资源申请请求除了实例访问高峰时段,还包括用户针对所述目标数据库实例配置的用于表示从数据库的构建数目的从库预创数目,为确保所述资源管理设备11选取出的从物理机12的数目尽量满足用户需求,并确保被选取的从物理机12之前的使用高峰时段也与所述实例访问高峰时段错开,保证所述目标数据库实例在从物理机12上运维时也能实现错峰访问,所述资源管理设备11将根据每个第一次选物理机12在所述实例访问高峰时段内的过往访问状况,确定出与该目标数据库实例错峰访问的尽量满足从库预创数目的至少一个从物理机12。此时所述在筛选出的第一次选物理机12中确定从物理机12,包括:
根据每个第一次选物理机12在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一次选物理机12进行排序,得到对应的第一次选排序结果;
选取第一次选排序结果中排名不大于从库预创数目的所有第一次选物理机12作为从物理机12。
其中,被选取的第一次选物理机12的数量通常情况下与所述从库预创数目保持一致,使每个被选取的第一次选物理机12上各自构建一个从数据库,保证同一物理机12上不构建相同的数据库,避免物理机12掉电时会有多个数据库同时掉线。而倘若第一次选排序结果所涉及的第一次选物理机12的数目小于从库预创数目,所述资源管理设备11会将所述第一次选排序结果所涉及的所有第一次选物理机12作为从物理机12,并仍坚持在每个物理机12上不构建相同数据库的原则进行从数据库的创建。当然可以理解的是,所述资源管理设备11也可为保证创建出的从数据库的数目满足从库预设数目,而在某些从物理机12上创建多个从数据库,使每个从物理机12上针对同一数据库实例创建有至少一个从数据库。所述资源管理设备11可通过执行上述实施方式,保证目标数据库实例在选取的从物理机12上运维时,能够实现错峰访问,增强目标数据库实例在对应从物理机12上的访问便捷性,避免出现实例访问拥堵现象。
在本申请实施例中,所述资源管理设备11可通过执行子步骤S231~子步骤S235的方式,确保被选定的主物理机12和从物理机12与目标数据库实例的资源匹配度最高,避免出现机器资源浪费或硬件资源限制的现象。
可选地,请参照图5,图5是图3中的步骤S230包括的子步骤的流程示意图之二。在本实施例中,当所述资源管理设备11通过调用物理机次选模型执行子步骤S234所得到的结果为无法筛选出第一次选物理机12时,所述步骤S230还可以包括子步骤S236~子步骤S237,以确保所述资源管理设备11能够通过调用物理机次选模型找到资源与目标数据库实例匹配的从物理机12。其中,通过子步骤S236~子步骤S237确定出的从物理机12与目标数据库实例的资源匹配度,通常低于通过子步骤S234~子步骤S235确定出的从物理机12与目标数据库实例的资源匹配度。
子步骤S236,当无法筛选出第一次选物理机时,调用物理机次选模型从所有待分配物理机中筛选出不与主物理机处于同一机架并在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第一预设排名范围的第二次选物理机。
在本实施例中,当所述资源管理设备11执行在筛选出的第一初选物理机12中筛选第一次选物理机12的操作所得到的结果为无法筛选出任何一个第一次选物理机12时,可以表明筛选出的第一初选物理机12无法提供目标数据库实例的从数据库载体,此时所述资源管理设备11需要调用物理机次选模型从待分配物理机12中筛选合适的物理机12来参与从物理机12的确定操作。为此,所述资源管理设备11将通过调用物理机次选模型先确定出在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第一预设排名范围的特殊物理机12,而后在确定出的特殊物理机12中筛选出不与已确定好的主物理机12处于同一机架的物理机12,作为本次参与从物理机确定操作的候选物理机12的第二次选物理机12。
其中,CPU使用率与读写比例为对数据库运维管理的影响程度最大的两项运行参数种类,上述特殊物理机12的筛选条件比第一初选物理机12的筛选条件简单很多,必定导致筛选出的特殊物理机12的数目是不小于第一初选物理机12的数目。所述资源管理设备11在无法筛选出第一次选物理机12的情况下执行确定第二次选物理机12的操作,必定能够确定出一定数目的第二次选物理机12,同时也能通过第二次选物理机12在一定程度上确保最终确定的从物理机12能够提供与目标数据库实例匹配的机器资源。
子步骤S237,从筛选出的第二次选物理机中确定从物理机。
在本实施例中,所述资源管理设备11执行所述子步骤S237的操作与上述子步骤S235的操作类似,可直接从筛选出的第二次选物理机12中,选取数目与用户针对目标数据库实例设定的从数据库数目匹配的至少一个第二次选物理机12,作为与目标数据库实例匹配的从物理机12。同时,所述资源管理设备11也可按照某种规则对筛选出的第二次选物理机12进行契合度排序,从而根据排序结果确定出与目标数据库实例契合度排名高的至少一个第二次选物理机12作为从物理机12。
可选地,在本实施例的一种实施方式中,为确保所述资源管理设备11从第二次选物理机12中选取出的从物理机12的数目尽量满足用户需求,并确保被选取的从物理机12之前的使用高峰时段也与实例访问高峰时段错开,保证所述目标数据库实例在从物理机12上运维时实现错峰访问,所述资源管理设备11将根据每个第二次选物理机12在所述实例访问高峰时段内的过往访问状况,确定出与该目标数据库实例错峰访问的尽量满足从库预创数目的至少一个从物理机12。此时所述在筛选出的第二次选物理机12中确定从物理机12,包括:
根据每个第二次选物理机12在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二次选物理机12进行排序,得到对应的第二次选排序结果;
选取第二次选排序结果中排名不大于从库预创数目的所有第二次选物理机12作为从物理机12。
其中,被选取的第二次选物理机12的数量通常情况下与所述从库预创数目保持一致,使每个被选取的第二次选物理机12上各自构建一个从数据库,保证同一物理机12上不构建相同的数据库,避免物理机12掉电时会有多个数据库同时掉线。而倘若第二次选排序结果所涉及的第二次选物理机12的数目小于从库预创数目,所述资源管理设备11会将所述第二次选排序结果所涉及的所有第二次选物理机12作为从物理机12,并仍坚持在每个物理机12上不构建相同数据库的原则进行从数据库的创建。当然可以理解的是,所述资源管理设备11也可为保证创建出的从数据库的数目满足从库预设数目,而在某些从物理机12上创建多个从数据库,使每个从物理机12上针对同一数据库实例创建有至少一个从数据库。所述资源管理设备11可通过执行上述实施方式,保证目标数据库实例在选取的从物理机12上运维时,能够实现错峰访问,增强目标数据库实例在对应从物理机12上的访问便捷性,避免出现实例访问拥堵现象。
在本申请实施例中,所述资源管理设备11在无法执行图4中的子步骤S235的情况下,可通过执行图5所示的子步骤S236~子步骤S237,以确保被选定的从物理机12也具有较高的与目标数据库实例对应的资源匹配度,避免出现机器资源浪费或硬件资源限制的现象。
可选地,请参照图6,图6是图3中的步骤S230包括的子步骤的流程示意图之三。在本实施例中,当所述资源管理设备11通过调用物理机初选模型执行子步骤S232所得到的结果为无法筛选出第一初选物理机12时,所述步骤S230还可以包括子步骤S238~子步骤S2311,以确保所述资源管理设备11能够找到资源与目标数据库实例匹配的主物理机12及从物理机12。其中,通过子步骤S238~子步骤S2311确定出的主物理机12及从物理机12与目标数据库实例的资源匹配度,通常低于通过子步骤S232~子步骤S235确定出的主物理机12及从物理机12与目标数据库实例的资源匹配度。
子步骤S238,若无法筛选出第一初选物理机,则调用物理机初选模型从所有待分配物理机中筛选在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第二预设排名范围的第二初选物理机。
在本实施例中,所述第二预设排名范围包含所述第一预设排名范围,所述第二预设排名范围的排名下限值不大于所述第一预设排名范围的排名下限值,所述第二预设排名范围的排名上限值不小于所述第一预设排名范围的排名上限值,通常可将所述第二预设排名范围的排名下限值设置为1。以筛选出的待分配物理机12的数目为15为例,当所述第一预设排名范围是1~10或2~9时,所述第二预设排名范围可以是1~11或1~15。
因此,第二初选物理机12的筛选条件比第一初选物理机12的筛选条件简单很多,必定导致第二初选物理机12是能够筛选出的,所述资源管理设备11可通过调用物理机初选模型筛选第二初选物理机12,确保最终的主物理机12与从物理机12能够提供与目标数据库实例匹配的机器资源。
子步骤S239,在筛选出的第二初选物理机中选取一个物理机作为主物理机。
在本实施例中,所述资源管理设备11可直接从筛选出的第二初选物理机12中选取任意一个第二初选物理机12作为与目标数据库实例匹配的主物理机12。同时,所述资源管理设备11也可按照某种规则对筛选出的第二初选物理机12进行契合度排序,从而根据排序结果确定出与目标数据库实例契合度最高的第二初选物理机12作为所述主物理机12。
可选地,在本实施例的一种实施方式中,为确保所述资源管理设备11从第二初选物理机12中选取出的主物理机12之前的使用高峰时段与所述实例访问高峰时段错开,保证所述目标数据库实例在主物理机12上运维时得以实现错峰访问,所述资源管理设备11将根据每个第二初选物理机12在所述实例访问高峰时段内的过往访问状况确定出与该目标数据库实例错峰访问的主物理机12。此时所述在筛选出的第二初选物理机12中选取一个物理机12作为主物理机12,包括:
根据每个第二初选物理机12在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二初选物理机12进行排序,得到对应的第二初选排序结果;
选取第二初选排序结果中排名第一的第二初选物理机12作为主物理机12。
其中,所述资源管理设备11可通过执行上述实施方式,保证目标数据库实例在选取的主物理机12上运维时,能够实现错峰访问,增强目标数据库实例在对应主物理机12上的访问便捷性,避免出现实例访问拥堵现象。
子步骤S2310,调用物理机次选模型在除去主物理机后的剩余第二初选物理机中筛选不与主物理机处于同一机架的第三次选物理机。
在本实施例中,所述资源管理设备11在从第二初选物理机12中确定出主物理机12后,会按照主从数据库应不处于同一机架的原则,通过调用物理机次选模型在所有第二初选物理机12中剔除所述主物理机12及与所述主物理机12处于同一机架的物理机12,并将剩余的第二初选物理机12作为第三次选物理机12(参与从物理机确定操作的候选物理机12),以确保从第三次选物理机12中选取的从物理机12不会在主物理机12所在机架掉电时也跟着掉电,从物理机12上的从数据库能够替换主物理机12上的主数据库投入使用。
子步骤S2311,从筛选出的第三次选物理机中确定从物理机。
在本实施例中,因第二初选物理机12的筛选条件比第一初选物理机12的筛选条件简单很多,必定导致第二初选物理机12是能够筛选出的,那么通常在第二初选物理机12也是能够筛选出第三次选物理机12的。此时所述资源管理设备11可直接从筛选出的第三次选物理机12中,选取数目与用户针对目标数据库实例设定的从数据库数目匹配的至少一个第三次选物理机12,作为与目标数据库实例匹配的从物理机12。同时,所述资源管理设备11也可按照某种规则对筛选出的第三次选物理机12进行契合度排序,从而根据排序结果确定出与目标数据库实例契合度排名高的至少一个第三次选物理机12作为从物理机12。
可选地,在本实施例的一种实施方式中,为确保所述资源管理设备11从第三次选物理机12中选取出的从物理机12的数目尽量满足用户需求,并确保被选取的从物理机12之前的使用高峰时段也与实例访问高峰时段错开,保证所述目标数据库实例在从物理机12上运维时也能实现错峰访问,所述资源管理设备11将根据每个第三次选物理机12在所述实例访问高峰时段内的过往访问状况,确定出与该目标数据库实例错峰访问的尽量满足从库预创数目的至少一个从物理机12。此时所述在筛选出的第三次选物理机12中确定从物理机12,包括:
根据每个第三次选物理机12在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第三次选物理机12进行排序,得到对应的第三次选排序结果;
选取第三次选排序结果中排名不大于从库预创数目的所有第三次选物理机12作为从物理机12。
其中,被选取的第三次选物理机12的数量通常情况下与所述从库预创数目保持一致,使每个被选取的第三次选物理机12上各自构建一个从数据库,保证同一物理机12上不构建相同的数据库,避免物理机12掉电时会有多个数据库同时掉线。而倘若第三次选排序结果所涉及的第三次选物理机12的数目小于从库预创数目,所述资源管理设备11会将所述第三次选排序结果所涉及的所有第三次选物理机12作为从物理机12,并仍坚持在每个物理机12上不构建相同数据库的原则进行从数据库的创建。当然可以理解的是,所述资源管理设备11也可为保证创建出的从数据库的数目满足从库预设数目,而在某些从物理机12上创建多个从数据库,使每个从物理机12上针对同一数据库实例创建有至少一个从数据库。所述资源管理设备11可通过执行上述实施方式,保证目标数据库实例在选取的从物理机12上运维时,能够实现错峰访问,增强目标数据库实例在对应从物理机12上的访问便捷性,避免出现实例访问拥堵现象。
在本申请实施例中,所述资源管理设备11在无法执行子步骤S233~子步骤S237的情况下,可通过执行图6所示的子步骤S236~子步骤S237,以确保被选定的主物理机12及从物理机12也具有较高的与目标数据库实例对应的资源匹配度,避免出现机器资源浪费或硬件资源限制的现象。
在本申请中,为确保图2所示的数据库资源管理方法能够在所述资源管理设备11上正常运行,本申请提供一种应用于上述资源管理设备11的数据库资源管理装置100实施图3所示的数据库资源管理方法,下面对本申请提供的数据库资源管理装置100的具体组成进行相应描述。
可选地,请参照图7,图7是本申请实施例提供的数据库资源管理装置100的功能模块示意图。在本申请实施例中,所述数据库资源管理装置100包括资源请求获取模块110、物理机筛选模块120、主从机确定模块130及机器资源处理模块140。
资源请求获取模块110,用于获取数据库资源申请请求,其中数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量。
物理机筛选模块120,用于在数据库管理系统中筛选出剩余内存满足内存需求量且剩余磁盘空间满足磁盘空间需求量的待分配物理机。
主从机确定模块130,用于根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与目标数据库实例匹配的主物理机及从物理机。其中运行参数包括对应物理机的CPU使用率、读写比例、QPS数值、负载大小及告警次数。
机器资源处理模块140,用于在主物理机与从物理机上针对目标数据库实例进行资源分配。
需要说明的是,本申请提供的数据库资源管理装置100,其基本原理及产生的技术效果与上述的数据库资源管理方法相同,为简要描述,本实施例部分未提及之处,可参考上述的对图3所示的数据库资源管理方法的相应描述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个可读存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个可读存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的可读存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
综上所述,在本申请提供的一种数据库资源管理方法、装置、资源管理设备及存储介质中,本申请在获取到数据库资源申请请求时,会根据该数据库资源申请请求所包括的与目标数据库实例对应的内存需求量及磁盘空间需求量,筛选出满足内存需求量及磁盘空间需求量的待分配物理机,而后根据每个待分配物理机的CPU使用率、读写比例、QPS数值、负载大小及告警次数进行多维度地考虑,从所有待分配物理机中确定出与目标数据库实例匹配的主物理机及从物理机,进而在主物理机上分配足够资源创建该目标数据库实例所对应的主数据库,并在从物理机上分配足够资源创建该目标数据库实例所对应的从数据库,确保目标数据库实例能够在对应物理机的支持下达到良好的运维效果,提高了物理机分配合理性及机器适配性。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (12)
1.一种数据库资源管理方法,应用于数据库管理系统中的资源管理设备,其中所述数据库管理系统还包括多个物理机,其特征在于,所述方法包括:
获取数据库资源申请请求,其中所述数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量;
在数据库管理系统中筛选出剩余内存满足所述内存需求量且剩余磁盘空间满足所述磁盘空间需求量的待分配物理机;
根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机;
在所述主物理机与所述从物理机上针对所述目标数据库实例进行资源分配。
2.根据权利要求1所述的方法,其特征在于,所述运行参数包括对应物理机的CPU使用率、读写比例、QPS数值、负载大小及告警次数,所述资源管理设备存储有物理机初选模型及物理机次选模型,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,包括:
按照从小到大的顺序分别对所有待分配物理机各自的CPU使用率、读写比例、QPS数值、负载大小及告警次数进行排序,得到多个物理机排序结果;
调用所述物理机初选模型从所有待分配物理机中筛选在每个物理机排序结果中的排名均处于第一预设排名范围的第一初选物理机;
若筛选出至少一个第一初选物理机,则在筛选出的第一初选物理机中选取一个物理机作为主物理机;
调用所述物理机次选模型在除去所述主物理机后的剩余第一初选物理机中筛选不与所述主物理机处于同一机架的第一次选物理机;
当筛选出至少一个第一次选物理机时,从筛选出的第一次选物理机中确定从物理机。
3.根据权利要求2所述的方法,其特征在于,所述数据库资源申请请求还包括与所述目标数据库实例对应的实例访问高峰时段,所述在筛选出的第一初选物理机中选取一个物理机作为主物理机,包括:
根据每个第一初选物理机在所述实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一初选物理机进行排序,得到对应的第一初选排序结果;
选取所述第一初选排序结果中排名第一的第一初选物理机作为所述主物理机。
4.根据权利要求3所述的方法,其特征在于,所述数据库资源申请请求还包括与所述目标数据库实例对应的从库预创数目,所述从筛选出的第一次选物理机中确定从物理机,包括:
根据每个第一次选物理机在所述实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第一次选物理机进行排序,得到对应的第一次选排序结果;
选取所述第一次选排序结果中排名不大于所述从库预创数目的所有第一次选物理机作为所述从物理机。
5.根据权利要求2-4中任意一项所述的方法,其特征在于,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,还包括:
当无法筛选出第一次选物理机时,调用所述物理机次选模型从所有待分配物理机中筛选出不与所述主物理机处于同一机架并在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第一预设排名范围的第二次选物理机;
从筛选出的第二次选物理机中确定从物理机。
6.根据权利要求5所述的方法,其特征在于,所述从筛选出的第二次选物理机中确定从物理机,包括:
根据每个第二次选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二次选物理机进行排序,得到对应的第二次选排序结果;
选取所述第二次选排序结果中排名不大于从库预创数目的所有第二次选物理机作为所述从物理机。
7.根据权利要求5所述的方法,其特征在于,所述根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机,还包括:
若无法筛选出第一初选物理机,则调用所述物理机初选模型从所有待分配物理机中筛选在与CPU使用率及读写比例对应的物理机排序结果中的排名均处于第二预设排名范围的第二初选物理机,其中所述第二预设排名范围包含所述第一预设排名范围;
在筛选出的第二初选物理机中选取一个物理机作为主物理机;
调用所述物理机次选模型在除去所述主物理机后的剩余第二初选物理机中筛选不与所述主物理机处于同一机架的第三次选物理机;
从筛选出的第三次选物理机中确定从物理机。
8.根据权利要求7所述的方法,其特征在于,所述在筛选出的第二初选物理机中选取一个物理机作为主物理机,包括:
根据每个第二初选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第二初选物理机进行排序,得到对应的第二初选排序结果;
选取所述第二初选排序结果中排名第一的第二初选物理机作为所述主物理机。
9.根据权利要求7所述的方法,其特征在于,所述从筛选出的第三次选物理机中确定从物理机,包括:
根据每个第三次选物理机在实例访问高峰时段内的历史访问频次,按照从低到高的顺序对所有第三次选物理机进行排序,得到对应的第三次选排序结果;
选取所述第三次选排序结果中排名不大于从库预创数目的所有第三次选物理机作为所述从物理机。
10.一种数据库资源管理装置,应用于数据库管理系统中的资源管理设备,其中所述数据库管理系统还包括多个物理机,其特征在于,所述装置包括:
资源请求获取模块,用于获取数据库资源申请请求,其中所述数据库资源申请请求包括与目标数据库实例对应的内存需求量及磁盘空间需求量;
物理机筛选模块,用于在数据库管理系统中筛选出剩余内存满足所述内存需求量且剩余磁盘空间满足所述磁盘空间需求量的待分配物理机;
主从机确定模块,用于根据每个待分配物理机的运行参数在筛选出的待分配物理机中,确定与所述目标数据库实例匹配的主物理机及从物理机;
机器资源处理模块,用于在所述主物理机与所述从物理机上针对所述目标数据库实例进行资源分配。
11.一种资源管理设备,其特征在于,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的机器可执行指令,所述处理器可执行所述机器可执行指令,以实现权利要求1-9中任意一项所述的数据库资源管理方法。
12.一种存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现权利要求1-9中任意一项所述的数据库资源管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010183781.8A CN111400046B (zh) | 2020-03-16 | 2020-03-16 | 数据库资源管理方法、装置、资源管理设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010183781.8A CN111400046B (zh) | 2020-03-16 | 2020-03-16 | 数据库资源管理方法、装置、资源管理设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111400046A true CN111400046A (zh) | 2020-07-10 |
CN111400046B CN111400046B (zh) | 2024-02-27 |
Family
ID=71430897
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010183781.8A Active CN111400046B (zh) | 2020-03-16 | 2020-03-16 | 数据库资源管理方法、装置、资源管理设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111400046B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112948089A (zh) * | 2021-03-22 | 2021-06-11 | 福建随行软件有限公司 | 一种招投标请求的资源分发方法及数据中心 |
CN113515499A (zh) * | 2021-03-25 | 2021-10-19 | 中国雄安集团数字城市科技有限公司 | 一种数据库服务方法及系统 |
CN117519964A (zh) * | 2023-10-17 | 2024-02-06 | 本原数据(北京)信息技术有限公司 | 数据库资源管理方法和系统、电子设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103473142A (zh) * | 2013-10-08 | 2013-12-25 | 浪潮(北京)电子信息产业有限公司 | 一种云计算操作系统下的虚拟机迁移方法及装置 |
CN106033373A (zh) * | 2015-03-11 | 2016-10-19 | 苏宁云商集团股份有限公司 | 一种云计算平台中虚拟机资源调度方法和调度系统 |
JP2016212485A (ja) * | 2015-04-30 | 2016-12-15 | 日本電信電話株式会社 | 仮想マシン同期システム、仮想マシン同期方法および仮想マシン同期プログラム |
CN106550006A (zh) * | 2015-09-23 | 2017-03-29 | 北京奇虎科技有限公司 | 云服务器资源分配方法和装置 |
CN108090225A (zh) * | 2018-01-05 | 2018-05-29 | 腾讯科技(深圳)有限公司 | 数据库实例的运行方法、装置、系统及计算机可读存储介质 |
CN109739614A (zh) * | 2018-11-22 | 2019-05-10 | 杭州数梦工场科技有限公司 | 虚拟机新建方法、装置及设备 |
CN109840094A (zh) * | 2017-11-24 | 2019-06-04 | 腾讯科技(深圳)有限公司 | 一种数据库的部署方法、装置及存储设备 |
-
2020
- 2020-03-16 CN CN202010183781.8A patent/CN111400046B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103473142A (zh) * | 2013-10-08 | 2013-12-25 | 浪潮(北京)电子信息产业有限公司 | 一种云计算操作系统下的虚拟机迁移方法及装置 |
CN106033373A (zh) * | 2015-03-11 | 2016-10-19 | 苏宁云商集团股份有限公司 | 一种云计算平台中虚拟机资源调度方法和调度系统 |
JP2016212485A (ja) * | 2015-04-30 | 2016-12-15 | 日本電信電話株式会社 | 仮想マシン同期システム、仮想マシン同期方法および仮想マシン同期プログラム |
CN106550006A (zh) * | 2015-09-23 | 2017-03-29 | 北京奇虎科技有限公司 | 云服务器资源分配方法和装置 |
CN109840094A (zh) * | 2017-11-24 | 2019-06-04 | 腾讯科技(深圳)有限公司 | 一种数据库的部署方法、装置及存储设备 |
CN108090225A (zh) * | 2018-01-05 | 2018-05-29 | 腾讯科技(深圳)有限公司 | 数据库实例的运行方法、装置、系统及计算机可读存储介质 |
CN109739614A (zh) * | 2018-11-22 | 2019-05-10 | 杭州数梦工场科技有限公司 | 虚拟机新建方法、装置及设备 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112948089A (zh) * | 2021-03-22 | 2021-06-11 | 福建随行软件有限公司 | 一种招投标请求的资源分发方法及数据中心 |
CN112948089B (zh) * | 2021-03-22 | 2024-04-05 | 福建随行软件有限公司 | 一种招投标请求的资源分发方法及数据中心 |
CN113515499A (zh) * | 2021-03-25 | 2021-10-19 | 中国雄安集团数字城市科技有限公司 | 一种数据库服务方法及系统 |
CN117519964A (zh) * | 2023-10-17 | 2024-02-06 | 本原数据(北京)信息技术有限公司 | 数据库资源管理方法和系统、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111400046B (zh) | 2024-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111400046A (zh) | 数据库资源管理方法、装置、资源管理设备及存储介质 | |
CN108549583B (zh) | 大数据处理方法、装置、服务器及可读存储介质 | |
CN107968810B (zh) | 一种服务器集群的资源调度方法、装置和系统 | |
US20160292608A1 (en) | Multi-cluster management method and device | |
CN111309440B (zh) | 一种多类型gpu的管理调度的方法和设备 | |
CN108804383B (zh) | 基于度量空间的支撑点并行枚举方法及装置 | |
CN110737717B (zh) | 一种数据库迁移方法及装置 | |
CN113010315A (zh) | 资源分配方法及分配装置、计算机可读存储介质 | |
CN114090580A (zh) | 数据处理方法、装置、设备、存储介质及产品 | |
CN112395269A (zh) | MySQL高可用组的搭建方法及装置 | |
CN116244085A (zh) | Kubernetes集群容器组调度方法、装置及介质 | |
CN113535087B (zh) | 数据迁移过程中的数据处理方法、服务器及存储系统 | |
CN115964176B (zh) | 云计算集群调度方法、电子设备和存储介质 | |
CN111600771A (zh) | 网络资源探测系统、方法 | |
CN116599835A (zh) | 节点部署位置的确定方法、系统和处理器 | |
CN115794305A (zh) | 虚拟机内存的调整方法和装置、存储介质及电子装置 | |
CN115858499A (zh) | 一种数据库分区处理方法、装置、计算机设备和存储介质 | |
CN108733484B (zh) | 管理应用程序的方法与装置 | |
CN111885159B (zh) | 数据采集方法、装置、电子设备及存储介质 | |
CN114860536A (zh) | 一种gpu卡的监控方法、监控系统及相关装置 | |
CN113947252A (zh) | 一种体系任务分解及分配的方法及装置 | |
CN109902067B (zh) | 文件处理方法、装置、存储介质及计算机设备 | |
CN114328439A (zh) | 数据存储的方法、装置、电子设备及存储介质 | |
CN114625474A (zh) | 容器迁移方法、装置、电子设备及存储介质 | |
CN111339245A (zh) | 数据存储方法、装置、存储介质及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |