CN111897658B - 一种基于函数计算节点的云计算系统扩容方法及装置 - Google Patents
一种基于函数计算节点的云计算系统扩容方法及装置 Download PDFInfo
- Publication number
- CN111897658B CN111897658B CN202010868296.4A CN202010868296A CN111897658B CN 111897658 B CN111897658 B CN 111897658B CN 202010868296 A CN202010868296 A CN 202010868296A CN 111897658 B CN111897658 B CN 111897658B
- Authority
- CN
- China
- Prior art keywords
- node
- function
- distribution
- request
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000009826 distribution Methods 0.000 claims abstract description 135
- 230000006870 function Effects 0.000 claims description 208
- 238000003860 storage Methods 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 15
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000012544 monitoring process Methods 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 abstract description 12
- 238000010586 diagram Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 238000004458 analytical method Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 239000012141 concentrate Substances 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明属于云计算技术领域，本发明提供了一种基于函数计算节点的云计算系统扩容方法及装置，基于函数计算节点的云计算系统扩容方法包括：响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；如果小于，在函数运行集群中增加所述可用的函数节点；发送所述分发请求至对应的可用的函数节点。本发明可以有效解决云计算过程中，由于请求的等待而导致临界点出的请求出现耗时边长的问题，以保证流量增长过程中的请求耗时平顺性。
Description
技术领域
本发明涉及云计算技术领域，具体涉及一种基于函数计算节点的云计算系统扩容方法及装置。
背景技术
随着云计算技术应用的推广，掀起了物理主机托管的基础设施变革风潮，实现了计算资源与物理硬件的解耦，虚拟化技术的发展运用，使得云主机替代了物理主机，基础设施及服务(IaaS)开始广泛使用。随着容器技术普及，PaaS平台逐渐兴起，IaaS的运维工作持续下沉，PaaS平台将开发人员与运维人员进一步的分离，开发人员能够更加专注于计算与存储资源的分配与使用。尽管PaaS平台已经广泛应用，但仍有优化空间，是否能有一种全新的架构，能将业务与基础设施完全剥离。Serverless应运而生，函数计算作为实现Severless架构的主要形式，将应用与基础设施彻底分离，开发人员无需关心基础设施的运维工作，只需专注于应用逻辑的开发，仅在事件触发时才调用计算资源，真正做到了弹性伸缩与按需付费。
现有技术中的函数计算产品存在一个缺点，由于为了节省资源使用量，一般基于每个函数运行节点的发量限制，来控制函数节点的自动扩容，但由于函数节点的启动需要一定的时间，因此如果请求正好处于并发数临界点之上，遇到需要新启动函数节点的情况，需要一定的等待时间，进而在临界点处的请求出现不平滑的情况。
发明内容
本发明属于云计算技术领域，针对现有技术中的问题，本发明提供的基于函数计算节点的云计算系统扩容方法及装置，可以有效解决云计算过程中，由于请求的等待而导致临界点出的请求出现耗时边长的问题，以保证流量增长过程中的请求耗时平顺性。
为解决上述技术问题，本发明提供以下技术方案：
第一方面，本发明提供一种基于函数计算节点的云计算系统扩容方法，包括：
响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
如果小于，在函数运行集群中增加所述可用的函数节点；
发送所述分发请求至对应的可用的函数节点。
一实施例中，基于函数计算节点的云计算系统扩容方法还包括：
实时监控所述请求分发节点；
接收所述请求分发节点的分发请求。
一实施例中，基于函数计算节点的云计算系统扩容方法还包括：
根据所述分发请求的历史数据预测分发请求数量；
根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
一实施例中，所述根据所述分发请求的历史数据预测分发请求数量包括：
利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量。
一实施例中，如果所述可用的函数节点数量没有超出预设阈值，直接发送所述分发请求至对应的可用的函数节点。
第二方面，本发明提供一种基于函数计算节点的云计算系统扩容装置，包括：
节点数量判断单元，用于响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
第一节点数量增加单元，用于在函数运行集群中增加所述可用的函数节点；
分发请求发送单元，用于发送所述分发请求至对应的可用的函数节点。
一实施例中，基于函数计算节点的云计算系统扩容装置还包括：
节点监控单元，用于实时监控所述请求分发节点；
分发请求接收单元，用于接收所述请求分发节点的分发请求；
分发请求预测单元，用于根据所述分发请求的历史数据预测分发请求数量；
第二节点数量增加单元，用于根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
一实施例中，所述分发请求预测单元具体用于利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量；
基于函数计算节点的云计算系统扩容装置还包括：
直接发送单元，用于直接发送所述分发请求至对应的可用的函数节点。
第三方面，本发明提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现基于函数计算节点的云计算系统扩容方法的步骤。
第四方面，本发明提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现基于函数计算节点的云计算系统扩容方法的步骤。
从上述描述可知，本发明实施例提供的基于函数计算节点的云计算系统扩容方法及装置，首先响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；如果小于，在函数运行集群中增加可用的函数节点；发送分发请求至对应的可用的函数节点。本发明可以解决云计算交易并发增长过程中，函数请求临界点处不平顺的情况，并可以提前增加函数运行节点，达到交易平顺的目的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例的一种基于函数计算节点的云计算系统扩容系统的第一种结构示意图；
图2为本申请实施例的一种基于函数计算节点的云计算系统扩容系统的第二种结构示意图；
图3为本发明的实施例中基于函数计算节点的云计算系统扩容方法流程示意图一；
图4为本发明的实施例中基于函数计算节点的云计算系统扩容方法流程示意图二；
图5为本发明的实施例中基于函数计算节点的云计算系统扩容方法流程示意图三；
图6为本发明的实施例中步骤600的流程示意图；
图7为本发明具体应用实例中的基于函数计算节点的云计算系统扩容系统架构示意图；
图8为本发明的具体应用实例中基于函数计算节点的云计算系统扩容装置的结构示意图一；
图9为本发明的具体应用实例中基于函数计算节点的云计算系统扩容装置的结构示意图二；
图10为本发明的具体应用实例中基于函数计算节点的云计算系统扩容装置的结构示意图三；
图11为本发明的具体应用实例中基于函数计算节点的云计算系统扩容装置的结构示意图四；
图12为本发明的实施例中的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本申请提供一基于函数计算节点的云计算系统扩容系统，参见图1，该系统可以为一种服务器A1，该服务器A1可以与多个分发请求接收端B1通信连接，服务器A1还可以与多个数据库分别通信连接，或者如图2所示，这些数据库也可以之间设置在服务器A1中。其中，分发请求接收端B1用于接收客户的分发请求。服务器A1在收取分发请求之后，对该分发请求发送至对应的函数节点并根据当前函数的节点进行扩容，并将扩容结果通过客户端C1显示给运维人员。
可以理解的是，客户端C1可以包括智能手机、平板电子设备、网络机顶盒、便携式计算机、台式电脑、个人数字助理(PDA)、车载设备、智能穿戴设备等。其中，智能穿戴设备可以包括智能眼镜、智能手表、智能手环等。
在实际应用中，进行基于函数计算节点的云计算系统扩容的部分可以在如上述内容的服务器A1侧执行，即，如图1或图2所示的架构，也可以所有的操作都在客户端C1设备中完成。具体可以根据客户端设备的处理能力，以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在客户端设备中完成，客户端设备还可以包括处理器，用于进行对基于函数计算节点的云计算系统扩容结果的处理等操作。
上述的客户端C1设备可以具有通信模块(即通信单元)，可以与远程的服务器进行通信连接，实现与服务器的数据传输。服务器可以包括基于函数计算节点的云计算系统扩容一侧的服务器，其他的实施场景中也可以包括中间平台的服务器，例如与基于函数计算节点的云计算系统扩容服务器有通信链接的第三方服务器平台的服务器。服务器可以包括单台计算机设备，也可以包括多个服务器组成的服务器集群，或者分布式装置的服务器结构。
服务器与客户端设备之间可以使用任何合适的网络协议进行通信，包括在本申请提交日尚未开发出的网络协议。网络协议例如可以包括TCP/IP协议、UDP/IP协议、HTTP协议、HTTPS协议等。当然，网络协议例如还可以包括在上述协议之上使用的RPC协议(RemoteProcedure Call Protocol，远程过程调用协议)、REST协议(Representational StateTransfer，表述性状态转移协议)等。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
本发明的实施例提供一种基于函数计算节点的云计算系统扩容方法的具体实施方式，参见图3，该方法具体包括如下内容：
步骤100：响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值。
可以理解的是，当云计算系统中不存在可用函数节点时，则请求分发节点的分发请求无法下发，但剩余的可用节点不能满足并发的多个分发请求时，会造成函数请求临界点处不平顺的情况。
步骤200：如果小于，在函数运行集群中增加所述可用的函数节点。
优选地，步骤100中的预设阈值可以设置为函数节点总数的20％，当可用的函数节点数量占函数节点总数的比例小于20％时，则向函数运行集群中增加函数节点，以避免出现上述情况。
步骤300：发送所述分发请求至对应的可用的函数节点。
可以理解的是，不同的分发请求对应着不同的函数节点，进一步地，根据函数节点的状态、流量、物理位置等信息创建发送路径，每条发送路径可以为单向链式发送路径，每条发送路径中的首节点为包括完整分发请求的节点，由首节点开始按照顺序向发送路径中的节点分发内容。
从上述描述可知，本发明实施例提供的基于函数计算节点的云计算系统扩容方法，首先响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；如果小于，在函数运行集群中增加可用的函数节点；发送分发请求至对应的可用的函数节点。本发明可以解决云计算交易并发增长过程中，函数请求临界点处不平顺的情况，并可以提前增加函数运行节点，达到交易平顺的目的。
一实施例中，参见图4，基于函数计算节点的云计算系统扩容方法，还包括：
步骤400：实时监控所述请求分发节点；
步骤500：接收所述请求分发节点的分发请求。
在步骤400以及步骤500中，可创建一流量监控节点来监控请求分发节点，以及接收分发节点分发请求，具体地，通过分发节点与其他节点直接的流量数据监控请求分发节点，可以理解的是，这里的流量指节点上行(发送)或下行(接收)的分发数据量，即节点在一段时间内的发送或接收的数据量。
一实施例中，参见图5，基于函数计算节点的云计算系统扩容方法还包括：
步骤600：根据所述分发请求的历史数据预测分发请求数量；
可以理解的是，随着互联网技术应用的普及，大数据成几何倍数增长，如果不能对数据进行提前预测，则会造成系统的宕机甚至崩溃。例如在物联网商家的双十一以及6.18活动中，可以根据往年的历史数据、活动开始前期的在活跃客户数以及报名商家数量对活动数据进行预测，
步骤700：根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
具体地，如果分发请求的并发量走势(预测的)小于函数节点并发总阈值，则不进行扩容；如果并发走势大于阈值，则取走势最大值，进行提前扩容。
一实施例中，参见图6，步骤600具体包括：
步骤601：利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量。
EMA指数移动平均算法定义：EMA即指数平均数指标(Exponential MovingAverage，EXPMA或EMA)，是一种趋向类指标。其构造原理是：对收盘价进行算术平均，用于判断价格未来走势的变动趋势。与MACD指标、DMA指标相比，EMA指标由于其计算公式中着重考虑了当天价格(当期)行情的权重，决定了其作为一类趋势分析指标，在使用中克服了MACD指标对于价格走势的滞后性缺陷，同时，也在一定程度上消除了DMA指标在某些时候对于价格走势所产生的信号提前性，是一个非常有效的分析指标。
本申请主要采用一次指数平滑预测模型，其通项公式为：
Yt+1'＝αYt+(1-α)Yt'
其中：α为衰退率，其值定义为α＝2/(span+1)，span是用户定义的跨度，Yt+1'表示t+1期的预测值，Yt表示t期的观测值，Yt'表示t期的预测值。
由于EMA特性与函数节点扩容特性非常接近，着重考虑当前的流量权重，来预测后续的流量数据。优选地，用前20分钟，每隔1分钟取一次并发量观测值Y{1,2,3...20}去进行计算，并推导出1分钟后的并发量值。如果预测得到的并发量值超过阈值，则提前进行扩容。
一实施例中，如果所述可用的函数节点数量没有超出预设阈值，直接发送所述分发请求至对应的可用的函数节点。
基于步骤100，如果判断结果为：可用的函数节点数量没有超出预设阈值，则直接发送所述分发请求至对应的可用的函数节点。
为进一步地说明本方案，本发明以基于函数计算节点的云计算系统扩容系统的架构以及运行方法为例，提供基于函数计算节点的云计算系统扩容方法的具体应用实例，具体包括如下内容。
参见图7，本具体应用实例提供利用基于函数计算节点的云计算系统扩容方法的扩容系统，该系统包括负载均衡节点1，多个请求分发节点2，流量监控节点3、流量分析节点4、调度函数节点5以及多个函数节点6，其中多个请求分发节点2构成函数分发集群，多个函数节点6构成函数运行集群。
首先负载均衡节点1将请求全部转发到请求分发节点2。求分发节点2可以根据请求的情况进行扩容，并会预留较多余量(本申请不考虑请求分发节点的扩容问题)。并且扩容或缩减的情况，会实时同步到负载均衡节点1。
具体地，请求分发节点2，根据请求中的域名以及上下文，将函数请求转发到指定的函数节点6内。在请求进到分发节点2时，会先hold住请求，检查是否有可用的对应函数节点6，如存在并且还能接收并发，则直接转发请求(动作A)；如不存在，或已有函数节点的并发数已达上限，则会向函数集群下发命令(动作B)，调度启动函数节点5，增加对应函数节点数量(动作C)，待新函数节点启动后，再转发请求(虚线框为本具体应用实例增加的处理机制)。
流量监控节点3实时监控请求分发节点2，主要统计针对请求分发节点中2针对每个函数请求总体并发情况；每个函数节点6当前占用的并发情况。
流量分析节点4可以为每个函数设置并发阈值(通过其他管理系统与其进行对接)。假设为函数A设置每个函数运行实例的最大可接收并发数为50，为函数A设置并发阈值为80％，那么当第41个并发进来时，由于不到并发量上限，因此会直接转发请求到函数节点6，但由于流量分析节点4中设置了并发阈值，并且超过了阈值，流量分析节点4就会向调度函数节点5发送命令，在函数运行集群中，增加函数A对应的函数节点6。
此外，还在流量分析节点4中提供并发流量预测分析功能，通过EMA指数移动平均算法，计算前20分钟的并发数据，并预测接下来1分钟内的并发量走势。如果并发量走势小于函数并发总阈值，则不进行扩容；如果并发走势大于阈值，则取走势最大值，进行提前扩容。具体扩容机制跟前面一致。
可以理解的是流量分析节点4中，如果对某个函数未设置阈值和发流量预测，则保持原有函数计算根据并发数的扩容机制。
从上述描述可知，本发明具体应用实例提供的基于函数计算节点的云计算系统扩容方法，通过监控函数请求的并发量和并发量增长趋势，提前扩容函数节点，以保证流量增长过程中的请求耗时平顺性，不会因为请求的等待而导致临界点出的请求出现耗时边长的情况，具体地，本发明具体应用实例提供的基于函数计算节点的云计算系统扩容方法具有以下有益效果：
1、阈值和增长率可以动态调整，以适应不同时期的函数节点扩容速度需求；
2、不影响原有的扩容机制，可以选择开启或不开启动态扩容机制；
3、提升了函数节点预热的灵活性；
4、提升了交易流量在扩容临界点的平顺性。
基于同一发明构思，本申请实施例还提供了基于函数计算节点的云计算系统扩容装置，可以用于实现上述实施例所描述的方法，如下面的实施例。由于基于函数计算节点的云计算系统扩容装置解决问题的原理与基于函数计算节点的云计算系统扩容方法相似，因此基于函数计算节点的云计算系统扩容装置的实施可以参见基于函数计算节点的云计算系统扩容方法实施，重复之处不再赘述。以下所使用的，术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的系统较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。
本发明的实施例提供一种能够实现基于函数计算节点的云计算系统扩容方法的基于函数计算节点的云计算系统扩容装置的具体实施方式，参见图8，基于函数计算节点的云计算系统扩容装置具体包括如下内容：
节点数量判断单元10，用于响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
第一节点数量增加单元20，用于在函数运行集群中增加所述可用的函数节点；
分发请求发送单元30，用于发送所述分发请求至对应的可用的函数节点。
一实施例中，参见图9，基于函数计算节点的云计算系统扩容装置还包括：
节点监控单元40，用于实时监控所述请求分发节点；
分发请求接收单元50，用于接收所述请求分发节点的分发请求；
一实施例中，参见图10，基于函数计算节点的云计算系统扩容装置还包括：
分发请求预测单元60，用于根据所述分发请求的历史数据预测分发请求数量；
第二节点数量增加单元70，用于根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
一实施例中，所述分发请求预测单元具体用于利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量；
一实施例中，参见图11，基于函数计算节点的云计算系统扩容装置还包括：
直接发送单元80，用于直接发送所述分发请求至对应的可用的函数节点。
从上述描述可知，本发明实施例提供的基于函数计算节点的云计算系统扩容装置，首先响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；如果小于，在函数运行集群中增加可用的函数节点；发送分发请求至对应的可用的函数节点。本发明可以解决云计算交易并发增长过程中，函数请求临界点处不平顺的情况，并可以提前增加函数运行节点，达到交易平顺的目的。
上述实施例阐明的装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为电子设备，具体的，电子设备例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
在一个典型的实例中电子设备具体包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，该处理器执行该程序时实现上述基于函数计算节点的云计算系统扩容方法的步骤，该步骤包括：
步骤100：响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
步骤200：如果小于，在函数运行集群中增加所述可用的函数节点；
步骤300：发送所述分发请求至对应的可用的函数节点。
下面参考图12，其示出了适于用来实现本申请实施例的电子设备600的结构示意图。
如图12所示，电子设备600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM))603中的程序而执行各种适当的工作和处理。在RAM603中，还存储有系统600操作所需的各种程序和数据。CPU601、ROM602、以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡，调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装如存储部分608。
特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述基于函数计算节点的云计算系统扩容方法的步骤，该步骤包括：
步骤100：响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
步骤200：如果小于，在函数运行集群中增加所述可用的函数节点；
步骤300：发送所述分发请求至对应的可用的函数节点。
在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上该仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种基于函数计算节点的云计算系统扩容方法，其特征在于，包括：
响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
如果小于，在函数运行集群中增加所述可用的函数节点；
发送所述分发请求至对应的可用的函数节点；
发送所述分发请求至对应的可用的函数节点，包括：
根据所述函数节点的状态、流量、物理位置创建发送路径，每条发送路径为单向链式发送路径，每条发送路径中的首节点为包括完整分发请求的节点，由首节点开始按照顺序向发送路径中的节点分发内容，其中不同的分发请求对应着不同的函数节点。
2.根据权利要求1所述的基于函数计算节点的云计算系统扩容方法，其特征在于，还包括：
实时监控所述请求分发节点；
接收所述请求分发节点的分发请求。
3.根据权利要求1所述的基于函数计算节点的云计算系统扩容方法，其特征在于，还包括：
根据所述分发请求的历史数据预测分发请求数量；
根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
4.根据权利要求3所述的基于函数计算节点的云计算系统扩容方法，其特征在于，所述根据所述分发请求的历史数据预测分发请求数量包括：
利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量。
5.根据权利要求1所述的基于函数计算节点的云计算系统扩容方法，其特征在于，
如果所述可用的函数节点数量超出预设阈值，直接发送所述分发请求至对应的可用的函数节点。
6.一种基于函数计算节点的云计算系统扩容装置，其特征在于，包括：
节点数量判断单元，用于响应于请求分发节点的分发请求，判断可用的函数节点数量是否小于预设阈值；
第一节点数量增加单元，用于在函数运行集群中增加所述可用的函数节点；
分发请求发送单元，用于发送所述分发请求至对应的可用的函数节点；
所述分发请求发送单元，具体用于根据所述函数节点的状态、流量、物理位置创建发送路径，每条发送路径为单向链式发送路径，每条发送路径中的首节点为包括完整分发请求的节点，由首节点开始按照顺序向发送路径中的节点分发内容，其中不同的分发请求对应着不同的函数节点。
7.根据权利要求6所述的基于函数计算节点的云计算系统扩容装置，其特征在于，还包括：
节点监控单元，用于实时监控所述请求分发节点；
分发请求接收单元，用于接收所述请求分发节点的分发请求；
分发请求预测单元，用于根据所述分发请求的历史数据预测分发请求数量；
第二节点数量增加单元，用于根据预测的分发请求数量以及所述预设阈值在函数运行集群中增加所述可用的函数节点。
8.根据权利要求7所述的基于函数计算节点的云计算系统扩容装置，其特征在于，所述分发请求预测单元具体用于利用EMA指数移动平均算法，根据所述分发请求的历史数据预测分发请求数量；
基于函数计算节点的云计算系统扩容装置还包括：
直接发送单元，用于如果所述可用的函数节点数量超出预设阈值，直接发送所述分发请求至对应的可用的函数节点。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至5任一项所述基于函数计算节点的云计算系统扩容方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至5任一项所述基于函数计算节点的云计算系统扩容方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010868296.4A CN111897658B (zh) | 2020-08-26 | 2020-08-26 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010868296.4A CN111897658B (zh) | 2020-08-26 | 2020-08-26 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111897658A CN111897658A (zh) | 2020-11-06 |
| CN111897658B true CN111897658B (zh) | 2024-03-22 |
Family
ID=73224447
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010868296.4A Active CN111897658B (zh) | 2020-08-26 | 2020-08-26 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111897658B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112783729A (zh) * | 2021-01-29 | 2021-05-11 | 北京三快在线科技有限公司 | 一种针对灰度发布的异常处理方法及异常处理装置 |
| CN113311766B (zh) * | 2021-06-03 | 2022-09-06 | 中国工商银行股份有限公司 | 分布式系统批量节点监控方法、节点及系统 |
| CN114598706B (zh) * | 2022-03-08 | 2023-05-16 | 中南大学 | 基于Serverless函数的存储系统弹性伸缩方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107193362A (zh) * | 2017-05-19 | 2017-09-22 | 成都鼎智汇科技有限公司 | 一种增强云计算环境节能装置 |
| CN109766175A (zh) * | 2018-12-28 | 2019-05-17 | 深圳晶泰科技有限公司 | 面向高性能计算在云上的资源弹性伸缩系统及其调度方法 |
| CN111309483A (zh) * | 2020-02-24 | 2020-06-19 | 广州虎牙科技有限公司 | 一种服务器集群的管理方法、装置、设备及存储介质 |
| CN111338750A (zh) * | 2020-02-12 | 2020-06-26 | 北京三快在线科技有限公司 | 执行节点的压力调节方法、装置、服务器及存储介质 |
-
2020
- 2020-08-26 CN CN202010868296.4A patent/CN111897658B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107193362A (zh) * | 2017-05-19 | 2017-09-22 | 成都鼎智汇科技有限公司 | 一种增强云计算环境节能装置 |
| CN109766175A (zh) * | 2018-12-28 | 2019-05-17 | 深圳晶泰科技有限公司 | 面向高性能计算在云上的资源弹性伸缩系统及其调度方法 |
| CN111338750A (zh) * | 2020-02-12 | 2020-06-26 | 北京三快在线科技有限公司 | 执行节点的压力调节方法、装置、服务器及存储介质 |
| CN111309483A (zh) * | 2020-02-24 | 2020-06-19 | 广州虎牙科技有限公司 | 一种服务器集群的管理方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111897658A (zh) | 2020-11-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111897658B (zh) | 一种基于函数计算节点的云计算系统扩容方法及装置 | |
| US10659371B1 (en) | Managing throttling limits in a distributed system | |
| US20140317283A1 (en) | Forecasting capacity available for processing workloads in a networked computing environment | |
| CN112559182B (zh) | 资源分配方法、装置、设备及存储介质 | |
| CN113656179B (zh) | 云计算资源的调度方法及装置、电子设备和存储介质 | |
| US10884801B2 (en) | Server resource orchestration based on application priority | |
| US10884800B2 (en) | Server resource balancing using a suspend-resume strategy | |
| US11750711B1 (en) | Systems and methods for adaptively rate limiting client service requests at a blockchain service provider platform | |
| CN111865622B (zh) | 基于规则引擎集群的云服务计量计费方法及系统 | |
| US11307898B2 (en) | Server resource balancing using a dynamic-sharing strategy | |
| CN104052677B (zh) | 单一数据源的软负载均衡方法和装置 | |
| US20200272523A1 (en) | Server resource balancing using a fixed-sharing strategy | |
| CN110221927A (zh) | 异步消息处理方法和装置 | |
| CN115297008B (zh) | 基于智算网络的协同训练方法、装置、终端及存储介质 | |
| CN106845746A (zh) | 一种支持大规模实例密集型应用的云工作流管理系统 | |
| CN105260244A (zh) | 一种分布式系统任务调度的方法和装置 | |
| CN110245014B (zh) | 数据处理方法和装置 | |
| CN110413918A (zh) | 数据发送方法、装置、设备及存储介质 | |
| CN106294445B (zh) | 基于跨机房Hadoop集群的数据存储的方法及装置 | |
| Mishra et al. | A proficient load balancing using priority algorithm in cloud computing | |
| CN111597035A (zh) | 基于多线程的仿真引擎时间推进方法及系统 | |
| CN111488373A (zh) | 用于处理请求的方法和系统 | |
| US20230168932A1 (en) | Computer-based systems and/or computing devices configured for the scaling of computing resources using a machine learning model trained to monitor and/or predict usage of inference models | |
| CN110096352A (zh) | 进程管理方法、装置及计算机可读存储介质 | |
| Wen et al. | Load balancing consideration of both transmission and process responding time for multi-task assignment |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |