CN116126542A - 一种集群资源分配方法、装置及存储介质 - Google Patents
一种集群资源分配方法、装置及存储介质 Download PDFInfo
- Publication number
- CN116126542A CN116126542A CN202310187175.7A CN202310187175A CN116126542A CN 116126542 A CN116126542 A CN 116126542A CN 202310187175 A CN202310187175 A CN 202310187175A CN 116126542 A CN116126542 A CN 116126542A
- Authority
- CN
- China
- Prior art keywords
- information
- tenant
- cluster
- big data
- target big
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Storage Device Security (AREA)
Abstract
本发明的实施例提供了一种集群资源分配方法、装置及存储介质,涉及集群资源分配领域,方法包括:确定租户的组织信息,为组织信息配置不同资源访问权限,确定租户的ID信息,建立租户的ID信息与组织信息的对应关系,确定租户的需求信息,并基于需求信息为租户分配目标大数据集群,建立目标大数据集群与租户的ID信息的对应关系。实现多租户对应一个集群或者多个集群的数据使用基础支持,也对后续的用户数据存储及数据分析计算资源提供使用凭证及隔离依据,保证数据存储的安全性与隐私性。同时引入权限账号体系有效保护用户的隐私数据,防止用户隐私数据与大数据权限体系进行混用导致暴露的风险。
Description
技术领域
本发明涉及集群资源分配领域,具体而言,涉及一种集群资源分配方法、装置及存储介质。
背景技术
在大数据普遍使用场景下,各个企业或者机构组织等租户面对业务需求的增长,用户数据的增长,迫切有使用大数据集群场景来满足各种数据分析,报表产出等需求。因此搭建大数据集群成为数据分析的最重要成本支出,同时对管理及授权也需要投入一定的人力成本进行维护及授权管理,必要的情况下还需要增加开发成本去支持数据分析与报表的产出。同时大数据集群的技术的高速发展,也成了各租户对人力成本投入就显得越来越沉重,设备的升级改造成本也会越来越多,数据的迁移,合并,报表的产生也在增加各租户的运营成本。
大数据的数据存储系统发展到今天,OLAP与OLTP类型计算的快速发展,在构建一体化SAAS服务,应对集群与多个租户之间关系的混乱,迫切需要一个系统能解决资源的管理及用户的授权访问,随之而来的业务高速发展,数据膨胀需求高,集群数据的拆分与合并动作的支持就显得格外重要。
因此为了解决上述问题,现有技术中通常针对特定大数据组件做了用户的授权的详细规则,但是用户组与用户都没有租户的人事属性数据,对集群权限服务分级造成混乱,难以管理资源的隔离,数据库表管理的隔离,增加数据暴露风险。
发明内容
本发明的目的在于提供一种集群资源分配方法、装置及存储介质,能够实现资源的隔离,从而提高数据安全性。
为了实现上述目的,本申请实施例采用的技术方案如下:
第一方面,本申请实施例提供了一种集群资源分配方法,应用于SAAS服务系统,所述方法包括:
确定租户的组织信息,其中,所述组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息;
为所述组织信息配置不同资源访问权限;
确定所述租户的ID信息;
建立所述租户的ID信息与所述组织信息的对应关系;
确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群;
建立所述目标大数据集群与所述租户的ID信息的对应关系,以使所述租户对应的组织信息中不同用户按照不同资源访问权限对所述目标大数据集群中的资源进行获取。
在可选的实施方式中,所述方法还包括:
确定所述租户对所述目标大数据集群的使用信息;
基于所述使用信息对所述目标大数据集群进行扩容或者缩容管理。
在可选的实施方式中,所述需求信息包括租户的CPU容量,所述确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群的步骤,包括:
确定所述租户的CPU容量和存储容量;
在所述CPU容量大于第一预设容量,且所述存储容量大于第二预设容量时,为所述租户分配目标共享集群;
将所述目标共享集群作为所述目标大数据集群;
在所述CPU容量小于或者等于第一预设容量,或者所述存储容量小于或者等于所述第二预设容量时,为所述租户分配独立集群;
将所述独立集群作为所述目标大数据集群。
在可选的实施方式中,所述基于所述使用信息对所述目标大数据集群进行扩容或者缩容管理的步骤,包括:
获取预设周期内,所述使用信息中的数据增长值数组和增长预测值;
基于所述数据增长值数组与所述增长预测值,对所述目标大数据集群进行扩容或者缩容管理。
在可选的实施方式中,所述获取预设周期内,所述使用信息中的数据增长值数组的步骤,包括:
获取预设周期内,所述目标大数据集群的各第一数据存储量,其中,各所述第一数据存储量对应有时间;
计算相邻两个所述第一数据存储量的各第一差值;
针对每个所述第一差值,确定该第一差值对应的第二数据存储量,其中,所述第二数据存储量为计算该第一差值的相邻两个第一数据存储量中对应时间靠前的第一数据存储量;
计算各所述第一差值与对应的所述第二数据存储量的各第一比值;
将各所述第一比值作为所述数据增长值数组。
在可选的实施方式中,所述确定所述使用信息中的增长预测值的步骤,包括:
将所述数据增长值数组中各所述第一比值从低到高进行排序;
获取排序后的所述数据增长值数组中的中位值,作为所述增长预测值。
在可选的实施方式中,所述基于所述数据增长值数组与所述增长预测值,对所述目标大数据集群进行扩容或者缩容管理的步骤,包括:
将所述数据增长值数组中各所述第一比值与所述增长预测值进行比较;
在各所述第一比值均小于所述增长预测值时,确定所述目标大数据集群的最大上限值和资源值;
计算所述最大上限值与预设阈值的第二比值;
判断所述资源值是否在所述预设周期内均小于所述第二比值;
若是,则对所述目标大数据集群进行缩容。
在可选的实施方式中,所述方法还包括:
在各所述第一比值均大于所述增长预测值,确定所述目标大数据集群的最小下限值;
计算所述最大上限值和所述最小下限值的和;
计算所述和与所述预设阈值的第三比值;
判断所述资源值在预设周期内均大于所述第三比值;
若是,对所述目标大数据集群进行扩容。
第二方面,本申请实施例提供了一种集群资源分配装置,应用于SAAS服务系统,所述装置包括:
第一确定模块,用于确定租户的组织信息,其中,所述组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息;
配置模块,用于为所述组织信息配置不同资源访问权限;
第二确定模块,用于确定所述租户的ID信息;
第一构建模块,用于建立所述租户的ID信息与所述组织信息的对应关系;
第三确定模块,用于确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群;
第二构建模块,用于建立所述目标大数据集群与所述租户的ID信息的对应关系,以使所述租户对应的组织信息的不同用户按照不同资源访问权限对所述目标大数据集群中的资源进行获取。
第三方面,本申请实施例提供了一种电子设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现所述集群资源分配方法的步骤。
第四方面,本申请实施例提供了一种存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述集群资源分配方法的步骤。
本申请具有以下有益效果:
本申请通过确定租户的组织信息,其中,组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息,为组织信息配置不同资源访问权限,确定租户的ID信息,建立租户的ID信息与组织信息的对应关系,确定租户的需求信息,并基于需求信息为租户分配目标大数据集群,建立目标大数据集群与租户的ID信息的对应关系,以使租户对应的组织信息中不同用户按照不同资源访问权限对目标大数据集群中的资源进行获取。实现多租户对应一个集群或者多个集群的数据使用基础支持,也对后续的用户数据存储及数据分析计算资源提供使用凭证及隔离依据,保证数据存储的安全性与隐私性。同时引入权限账号体系有效保护用户的隐私数据,防止用户隐私数据与大数据权限体系进行混用导致暴露的风险。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的电子设备的方框示意图;
图2为本发明实施例提供的一种集群资源分配方法的流程示意图之一;
图3为本发明实施例提供的一种集群资源分配方法的流程示意图之二;
图4为本发明实施例提供的一种集群资源分配方法的流程示意图之三;
图5为本发明实施例提供的一种集群资源分配方法的流程示意图之四;
图6为本发明实施例提供的一种集群资源分配装置的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中,需要说明的是,若出现术语“上”、“下”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,或者是该发明产品使用时惯常摆放的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,若出现术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请的描述中,还需要说明的是,除非另有明确的规定和限定,术语“设置”、“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本申请中的具体含义。
经过发明人大量研究发现,现有技术中通常针对特定大数据组件做了用户的授权的详细规则,但是用户组与用户都没有租户的人事属性数据,对集群权限服务分级造成混乱,难以管理资源的隔离,数据库表管理的隔离,增加数据暴露风险。
有鉴于对上述问题的发现,本实施例提供了一种集群资源分配方法、装置及存储介质,能够通过确定租户的组织信息,其中,组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息,为组织信息配置不同资源访问权限,确定租户的ID信息,建立租户的ID信息与组织信息的对应关系,确定租户的需求信息,并基于需求信息为租户分配目标大数据集群,建立目标大数据集群与租户的ID信息的对应关系,以使租户对应的组织信息中不同用户按照不同资源访问权限对目标大数据集群中的资源进行获取。实现多租户对应一个集群或者多个集群的数据使用基础支持,也对后续的用户数据存储及数据分析计算资源提供使用凭证及隔离依据,保证数据存储的安全性与隐私性。同时引入权限账号体系有效保护用户的隐私数据,防止用户隐私数据与大数据权限体系进行混用导致暴露的风险,下面对本实施例提供的方案进行详细阐述。
本实施例提供一种可以对集群资源进行分配的电子设备。在一种可能的实现方式中,所述电子设备可以为用户终端,例如,电子设备可以是,但不限于,服务器、智能手机、个人电脑(PersonalComputer,PC)、平板电脑、个人数字助理(Personal Digital Assistant,PDA)、移动上网设备(Mobile Internet Device,MID)等。
请参照图1,图1是本申请实施例提供的电子设备100的结构示意图。所述电子设备100还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
所述电子设备100包括集群资源分配装置110、存储器120及处理器130。
所述存储器120及处理器130各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述集群资源分配装置110包括至少一个可以软件或固件(firmware)的形式存储于所述存储器120中或固化在所述电子设备100的操作系统(operating system,OS)中的软件功能模块。所述处理器130用于执行所述存储器120中存储的可执行模块,例如所述集群资源分配装置110所包括的软件功能模块及计算机程序等。
其中,所述存储器120可以是,但不限于,随机存取存储器(RandomAccess Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable ProgrammableRead-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable ProgrammableRead-Only Memory,EEPROM)等。其中,存储器120用于存储程序,所述处理器130在接收到执行指令后,执行所述程序。
请参照图2,图2为应用于图1的电子设备100的一种集群资源分配方法的流程图,以下将方法包括各个步骤进行详细阐述。
步骤201:确定租户的组织信息。
其中,组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息。
步骤202:为组织信息配置不同资源访问权限。
步骤203:确定租户的ID信息。
步骤204:建立租户的ID信息与组织信息的对应关系。
步骤205:确定租户的需求信息,并基于需求信息为租户分配目标大数据集群。
步骤206:建立目标大数据集群与租户的ID信息的对应关系,以使租户对应的组织信息中不同用户按照不同资源访问权限对目标大数据集群中的资源进行获取。
构建租户在SAAS服务体系中的唯一租户的组织信息,其中包括组织架构信息、管理角色等级、用户组信息以及用户信息,为租户分配唯一ID信息,以作为数据与计算资源隔离的主要凭证。将租户的ID信息和为租户分配的目标大数据集群作为业务数据的隔离。
基于租户的需求信息,为租户分配目标大数据集群,且为租户构建唯一的目标大数据集群的编号,基于目标大数据集群的编号可以标识出集群的存放位置,建立租户的组织信息、租户的ID信息以及为租户分配的目标大数据集群的对应关系,以使租户对应的组织信息中不同用户按照不同资源访问权限对目标大数据集群中的资源进行获取,并且为后续集群的迁移,合并时由于存放位置的变更提供便捷读取依据,防止SAAS平台的其它系统的访问失效,保证时效性。
租户的组织信息可以由租户自行创建,若存在租户有自建人事组织结构数据系统,则基于SAAS系统确定人事组织结构数据系统中的组织架构信息、管理角色等级、用户组信息以及用户信息,其中,租住架构信息可以为集团对应的子公司,每个子公司对应的不同管理者则为管理角色等级,子公司下对应有不同的部门则为用户组信息,每个用户组信息对应多个员工信息,即为用户信息。基于SAAS系统对接租户的人事组织结构数据系统中的组织信息,并为组织架构信息、管理角色等级、用户组信息以及用户信息生成对应的访问授权账号及密钥数据,用于后续租户下不同用户查询数据及查看报表的权限凭证。并在集群环境初始化完成后同步权限账号到大数据存储系统中作为连接授权凭证,并支持数据查询资源队列分配的验证依据。
由于每一个租户都存在公共数据存储与私有数据存储的需求,因此可以为租户分配一个公共权限组权限账号和私有权限组账号,并建立组织信息与公共权限组权限账号和私有权限组账号的对应关系。
当租户不包含组织信息时,为该租户独立创建一个公共权限账号和私有权限账号,当租户包含组织信息时,为该租户按照组织信息创建多个公共数据授权账号和组内私有权限账号。为方便使用数据存储资源及计算资源,更好的发挥业务数据分析汇总等能力。在完成初始化集群或者共享集群上同步生成对应的权限账号和资源计算配置,及使用数据权限时提供权限账号依据。
确定租户的需求信息,基于需求信息为租户分配独立集群或者共享集群。示例性的:每一个租户接入SAAS系统时,在SAAS系统提前预定义好配置等级策略,例如CPU、内存大小的高低设置配置策略,基于租户的CPU、内存大小为租户配置目标大数据集群。
在另一示例中,由用户定义目标大数据集群,目标大数据集群可以为共享集群或者独立集群。
在为租户分配完成目标大数据集群后,针对不同的集群做不同策略,其中独立集群使用唯一标识做关联挂接集群编号;若选择共享集群,则标识租户的资源编号挂接共享集群编号。
建立目标大数据集群与租户的ID信息的对应关系,并将对应关系同步至大数据集群组,从而为后续的数据存储与数据分析计算提供隔离依据,也支撑多个租户的共存及隔离需求依据。
在完成接入SAAS系统的租户与大数据集群组的对接关系后,可以基于租户的ID信息、目标大数据集群的编号等信息,以使租户对应的组织信息中不同用户按照不同资源访问权限对目标大数据集群中的资源进行获取;同时也对大数据集群中各个组件要求提供租户与权限账号的依据,为存储资源与计算资源提供隔离保障。
基于需求信息为租户分配目标大数据集群的实现方式有多种,在一种实现方式中,如图3所示,包括以下步骤:
步骤205-1:确定租户的CPU容量和存储容量。
步骤205-2:在CPU容量大于第一预设容量,且存储容量大于第二预设容量时,为租户分配目标共享集群。
步骤205-3:将目标共享集群作为目标大数据集群。
步骤205-4:在CPU容量小于或者等于第一预设容量,或者所述存储容量小于或者等于第二预设容量时,为租户分配独立集群。
步骤205-5:将独立集群作为目标大数据集群。
示例性的,在为租户提供目标大数据集群为共享集群或者独立集群时,考虑租户的成本使用及人员开支情况下,设定不同CPU容量对应的集群,或者设定不同内存对应的集群。
需要说明的是,第一预设容量和第二预设容量,本领域技术人员可以根据实际需求进行设置,对于第一预设容量和第二预设容量的具体设置不做限定。
确定租户的CPU容量或者存储容量,基于租户的CPU容量和存储容量为租户分配独立集群或者共享集群。
除了基于租户的CPU容量或者存储容量为租户分配共享集群或者独立集群以外,还可以基于租户的指标参数为租户分配集群,提供租户选择适合自己数据分析计算的对应共享集群或者是独立集群,租户的指标参数达到高等级需求时推荐用户使用独立集群,保证计算查询效率;高等级以下指标则推荐用户选择共享集群以降低租户的使用成本。
在为租户分配集群资源后,还需要对分配的集群资源进行管理,如图4所示,包括以下步骤:
步骤301:确定租户对目标大数据集群的使用信息。
步骤302:基于使用信息对目标大数据集群进行扩容或者缩容管理。
在一示例中,设定管理周期,确定管理周期内,租户对目标大数据集群的使用信息,基于使用信息对目标大数据集群进行管理,管理的方式包括但不限于扩容或者缩容。
需要说明的是,管理周期可以设置为天、周、月、季、年等。
基于使用信息对目标大数据集群进行扩容或者缩容管理的实现方式有多种,在一种实现方式中,如图5所示,包括以下步骤:
步骤302-1:获取预设周期内,使用信息中的数据增长值数组和增长预测值。
步骤302-2:基于数据增长值数组与增长预测值,对目标大数据集群进行扩容或者缩容管理。
示例性的:获取预设周期内,目标大数据集群的各第一数据存储量,其中,各第一数据存储量对应有时间;计算相邻两个第一数据存储量的各第一差值;针对每个第一差值,确定该第一差值对应的第二数据存储量,其中,第二数据存储量为计算该第一差值的相邻两个第一数据存储量中对应时间靠前的第一数据存储量;计算各第一差值与对应的第二数据存储量的各第一比值;将各第一比值作为数据增长值数组。将数据增长值数组中各第一比值从低到高进行排序;获取排序后的数据增长值数组中的中位值,作为增长预测值。将数据增长值数组中各第一比值与增长预测值进行比较;在各第一比值均小于增长预测值时,确定目标大数据集群的最大上限值和资源值;计算最大上限值与预设阈值的第二比值;判断资源值是否在预设周期内均小于第二比值;若是,则对目标大数据集群进行缩容。
在各第一比值均大于增长预测值,确定目标大数据集群的最小下限值;计算最大上限值和最小下限值的和;计算和与预设阈值的第三比值;判断资源值在预设周期内均大于第三比值;若是,对目标大数据集群进行扩容。
具体地,针对租户对目标大数据集群的使用信息对目标大数据集群进行管理,需要说明的是,使用信息可以包括租户的业务数据增长,存储大小及计算的资源使用数据情况,用户组及用户的权限账号计算资源使用状况等数据。
在一示例中,确定目标大数据集群的最大上限值和最小上限值。
其中,对目标大数据集群的最大上限值可以设置为存储资源的80%到90%。对目标大数据集群的最小下限值可与设置为存储资源的20%到30%。基于目标大数据集群的使用信息调整目标大数据集群的最大上限值和最小下限值,从而实现对目标大数据集群的扩容或者缩容管理。
在另一实例中,目标大数据集群的使用信息可以包括数据增长值数组与增长预测值。
例如:当预设周期为3天时,确定3天内目标大数据集群的每天的第一数据存储量,如第一天的第一数据存储量为A,第二天的第一数据存储量为B,第三天的第一数据存储量为C,计算第一天的第一数据存储量与目标大数据集群的原始存储量D的第一差值A-D,计算第二天的第一数据存储量B与第一天的第一数据存储量A的第一差值B-A,计算第三天的第一数据存储量C与第一天的第一数据存储量B的第一差值C-B。计算第一差值A-D与D的第一比值,计算第一差值B-A与A的第一比值,计算第一差值C-B与B的第一比值,得到使用信息中的数据增长值数组。
将A-D与D的第一比值、B-A与A的第一比值以及C-B与B的第一比值从低到高进行排序,取排序后的数据增长值数组的中位值,作为增长预测值。
基于数据增长值数组与增长预测值,对目标大数据集群进行缩容的实现方式有多种,在一种实现方式中,在租户的数据增长值数组中各第一比值均低于增长预测值,且租户的资源值在预设周期内低于最大上限值与预设阈值的第二比值,对目标大数据集群进行缩容,或者通知租户进行确认后手动进行缩容,即对目标大数据集群的最大上限值和最小下限值进行调整。
需要说明的是,缩容操作由扩缩容工具同步双写进行平滑切换操作完成。
基于数据增长值数组与增长预测值,对目标大数据集群进行扩容的实现方式有多种,在一示例中:在租户的数据增长值数组均大于增长预测值时,计算目标大数据集群的最大上限值和最小下限值的和,计算和与预设阈值的第三比值,在租户的资源值在预设周期内大于第三比值,通知租户进行确认后进行手动扩容操作,或者由SAAS系统自动进行扩容操作。
除了基于目标大数据集群的使用信息进行扩容和缩容以外,还可以对目标大数据集群进行合并、迁移、拆分等操作。
在一示例中:在目标大数据集群为独立集群时,若目标大数据集群的资源在预设周期内均小于目标大数据集群的最小下限值时,确定目标大数据集群的计算资源和使用资源,计算使用资源与第一预设值的乘积,在计算资源小于使用资源与预设值的乘积时,可以通知用户选择更为节省成本的共享集群中迁移。
例如:由系统判定将目标大数据集群中的资源与低使用率的集群合并,提升资源使用率,节省管理成本与用户的投入成本。
当目标大数据集群为共享集群时,当目标大数据集群的资源值在预设周期内均大于目标大数据集群的最大上限值,且目标大数据集群中计算资源比大于第二预设值时,通知租户选择拆分操作,以获得更好的资源使用,提高用户的业务使用效率。
基于本申请实施例中的流程,构建完成SAAS服务管理用户的集群信息和权限账号管理体系,增加集群资源分配及智能调整方案,管理信息的同步协助,实现多租户与多集群共存的管理系统。提高大数据集群的使用存储效率,计算资源的合理化重复使用,使得管理成本更低,节省各个租户的投入成本,资源智能调配使用,降低维护难度,提高SAAS系统的智能化。
请参照图6,本申请实施例还提供了一种应用于图1电子设备100的集群资源分配装置110,集群资源分配装置110包括:
第一确定模块111,用于确定租户的组织信息,其中,所述组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息;
配置模块112,用于为所述组织信息配置不同资源访问权限;
第二确定模块113,用于确定所述租户的ID信息;
第一构建模块114,用于建立所述租户的ID信息与所述组织信息的对应关系;
第三确定模块115,用于确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群;
第二构建模块116,用于建立所述目标大数据集群与所述租户的ID信息的对应关系,以使所述租户对应的组织信息的不同用户按照不同资源访问权限对所述目标大数据集群中的资源进行获取。
本申请还提供一种电子设备100,电子设备100包括处理器130以及存储器120。存储器120存储有计算机可执行指令,计算机可执行指令被处理器130执行时,实现该集群资源分配方法。
本申请实施例还提供一种计算机可读存储介质,存储介质存储有计算机程序,计算机程序被处理器130执行时,实现该集群资源分配方法。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述,仅为本申请的各种实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (10)
1.一种集群资源分配方法,应用于SAAS服务系统,其特征在于,所述方法包括:
确定租户的组织信息,其中,所述组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息;
为所述组织信息配置不同资源访问权限;
确定所述租户的ID信息;
建立所述租户的ID信息与所述组织信息的对应关系;
确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群;
建立所述目标大数据集群与所述租户的ID信息的对应关系,以使所述租户对应的组织信息中不同用户按照不同资源访问权限对所述目标大数据集群中的资源进行获取。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定所述租户对所述目标大数据集群的使用信息;
基于所述使用信息对所述目标大数据集群进行扩容或者缩容管理。
3.根据权利要求1所述的方法,其特征在于,所述需求信息包括租户的CPU容量,所述确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群的步骤,包括:
确定所述租户的CPU容量和存储容量;
在所述CPU容量大于第一预设容量,且所述存储容量大于第二预设容量时,为所述租户分配目标共享集群;
将所述目标共享集群作为所述目标大数据集群;
在所述CPU容量小于或者等于第一预设容量,或者所述存储容量小于或者等于所述第二预设容量时,为所述租户分配独立集群;
将所述独立集群作为所述目标大数据集群。
4.根据权利要求2所述的方法,其特征在于,所述基于所述使用信息对所述目标大数据集群进行扩容或者缩容管理的步骤,包括:
获取预设周期内,所述使用信息中的数据增长值数组和增长预测值;
基于所述数据增长值数组与所述增长预测值,对所述目标大数据集群进行扩容或者缩容管理。
5.根据权利要求4所述的方法,其特征在于,所述获取预设周期内,所述使用信息中的数据增长值数组的步骤,包括:
获取预设周期内,所述目标大数据集群的各第一数据存储量,其中,各所述第一数据存储量对应有时间;
计算相邻两个所述第一数据存储量的各第一差值;
针对每个所述第一差值,确定该第一差值对应的第二数据存储量,其中,所述第二数据存储量为计算该第一差值的相邻两个第一数据存储量中对应时间靠前的第一数据存储量;
计算各所述第一差值与对应的所述第二数据存储量的各第一比值;
将各所述第一比值作为所述数据增长值数组。
6.根据权利要求5所述的方法,其特征在于,所述确定所述使用信息中的增长预测值的步骤,包括:
将所述数据增长值数组中各所述第一比值从低到高进行排序;
获取排序后的所述数据增长值数组中的中位值,作为所述增长预测值。
7.根据权利要求5所述的方法,其特征在于,所述基于所述数据增长值数组与所述增长预测值,对所述目标大数据集群进行扩容或者缩容管理的步骤,包括:
将所述数据增长值数组中各所述第一比值与所述增长预测值进行比较;
在各所述第一比值均小于所述增长预测值时,确定所述目标大数据集群的最大上限值和资源值;
计算所述最大上限值与预设阈值的第二比值;
判断所述资源值是否在所述预设周期内均小于所述第二比值;
若是,则对所述目标大数据集群进行缩容。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
在各所述第一比值均大于所述增长预测值,确定所述目标大数据集群的最小下限值;
计算所述最大上限值和所述最小下限值的和;
计算所述和与所述预设阈值的第三比值;
判断所述资源值在预设周期内均大于所述第三比值;
若是,对所述目标大数据集群进行扩容。
9.一种集群资源分配装置,应用于SAAS服务系统,其特征在于,所述装置包括:
第一确定模块,用于确定租户的组织信息,其中,所述组织信息包括组织架构信息、管理角色等级、用户组信息以及用户信息;
配置模块,用于为所述组织信息配置不同资源访问权限;
第二确定模块,用于确定所述租户的ID信息;
第一构建模块,用于建立所述租户的ID信息与所述组织信息的对应关系;
第三确定模块,用于确定所述租户的需求信息,并基于所述需求信息为所述租户分配目标大数据集群;
第二构建模块,用于建立所述目标大数据集群与所述租户的ID信息的对应关系,以使所述租户对应的组织信息的不同用户按照不同资源访问权限对所述目标大数据集群中的资源进行获取。
10.一种存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1-8中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310187175.7A CN116126542A (zh) | 2023-02-22 | 2023-02-22 | 一种集群资源分配方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310187175.7A CN116126542A (zh) | 2023-02-22 | 2023-02-22 | 一种集群资源分配方法、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116126542A true CN116126542A (zh) | 2023-05-16 |
Family
ID=86295679
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310187175.7A Pending CN116126542A (zh) | 2023-02-22 | 2023-02-22 | 一种集群资源分配方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116126542A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117273479A (zh) * | 2023-08-21 | 2023-12-22 | 杭州微宏科技有限公司 | 一种集团数据管理系统、方法和存储介质 |
CN117687803A (zh) * | 2024-02-04 | 2024-03-12 | 中国人民解放军军事科学院系统工程研究院 | 租户资源分配方法、装置、设备及存储介质 |
-
2023
- 2023-02-22 CN CN202310187175.7A patent/CN116126542A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117273479A (zh) * | 2023-08-21 | 2023-12-22 | 杭州微宏科技有限公司 | 一种集团数据管理系统、方法和存储介质 |
CN117687803A (zh) * | 2024-02-04 | 2024-03-12 | 中国人民解放军军事科学院系统工程研究院 | 租户资源分配方法、装置、设备及存储介质 |
CN117687803B (zh) * | 2024-02-04 | 2024-04-30 | 中国人民解放军军事科学院系统工程研究院 | 租户资源分配方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116126542A (zh) | 一种集群资源分配方法、装置及存储介质 | |
CN110990150A (zh) | 容器云平台的租户管理方法、系统、电子设备及存储介质 | |
US8880657B1 (en) | System and method for configuring and managing virtual grids | |
SG188455A1 (en) | Virtual resource cost tracking with dedicated implementation resources | |
CN109981552B (zh) | 一种权限分配方法及装置 | |
US9558341B1 (en) | Integrated user profile administration tool | |
US20060156384A1 (en) | Method and apparatus for extensible security authorization grouping | |
CN109067756A (zh) | 一种适用于多云管理的用户同步及权限控制方法 | |
CN105450581A (zh) | 权限控制的方法和装置 | |
CN111352737A (zh) | 一种基于资源池的容器云计算服务平台 | |
US20060156021A1 (en) | Method and apparatus for providing permission information in a security authorization mechanism | |
US20060259955A1 (en) | Attribute-based allocation of resources to security domains | |
US20060156020A1 (en) | Method and apparatus for centralized security authorization mechanism | |
US11500663B1 (en) | Predictive virtual machine launch-based capacity management | |
TW201710944A (zh) | 鑒權方法及鑒權裝置 | |
US20060015841A1 (en) | Control on demand data center service configurations | |
US20110113325A1 (en) | Systems, Methods and Computer Readable Media For Creating and Updating Electronic Documents | |
CN110852634A (zh) | 数据存储方法及存储装置、服务器、可读存储介质、设备 | |
CN111291045A (zh) | 服务隔离数据传输方法、装置、计算机设备及存储介质 | |
CN109992996B (zh) | 一种数据查询控制方法及装置、存储介质 | |
CN111191256B (zh) | 用户权限配置的方法和装置 | |
CN104573439A (zh) | 基于产品配置的权限分配方法和系统 | |
CN113626844A (zh) | 用户权限控制方法、系统、计算机设备及存储介质 | |
CN112633764A (zh) | 智能客服系统及客户服务方法 | |
CN112800480A (zh) | 一种安全计算机的用户数据保护方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |