CN111338750A - 执行节点的压力调节方法、装置、服务器及存储介质 - Google Patents
执行节点的压力调节方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN111338750A CN111338750A CN202010089184.9A CN202010089184A CN111338750A CN 111338750 A CN111338750 A CN 111338750A CN 202010089184 A CN202010089184 A CN 202010089184A CN 111338750 A CN111338750 A CN 111338750A
- Authority
- CN
- China
- Prior art keywords
- target
- virtual machine
- execution
- pressure value
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
Abstract
本申请提供了一种执行节点的压力调节方法、装置、服务器及存储介质,属于云服务技术领域。该方法包括:接收终端发送的服务请求,确定当前的云服务集群的第一压力值;响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;将服务请求分发给第一目标服务实例处理。通过在非云服务集群的目标虚拟机内创建的第一目标服务实例对服务请求进行处理,缓解了云服务集群的压力。
Description
技术领域
本申请涉及云服务技术领域,特别涉及一种执行节点的压力调节方法、装置、服务器及存储介质。
背景技术
随着云服务技术的发展,越来越多的网络服务都可以通过Node serverless(节点云服务)集群进行处理。Node serverless集群包括多个服务器,每个服务器内包含多个执行节点,每个执行节点内运行多个服务实例;服务实例用于处理网络服务请求。当执行节点对应的网络服务请求数量过多时,会出现执行节点压力过大的情况,执行节点压力过大会影响执行节点处理网络服务请求的速度。
相关技术中,通过增加Node serverless集群内服务器的数量,缓解执行节点的压力。但是,增加Node serverless集群内服务器的数量,势必会增加Node serverless集群的运营成本。
发明内容
本申请实施例提供了一种执行节点的压力调节方法、装置、服务器及存储介质,能够缓解云服务集群中执行节点的压力,提高了执行节点处理网络服务请求的速度。所述技术方案如下:
根据本申请实施例的一方面,提供了一种执行节点的压力调节方法,所述方法包括:
接收终端发送的服务请求,确定当前的云服务集群的第一压力值;
响应于所述第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;
为所述目标虚拟机配置用于创建执行节点的第一执行函数包,通过所述第一执行函数包在所述目标虚拟机内创建第一目标执行节点;以及,为所述目标虚拟机配置用于创建服务实例的第二执行函数包,通过所述第二执行函数包在所述第一目标执行节点内创建第一目标服务实例;
将所述服务请求分发给所述第一目标服务实例处理。
在一种可能的实现方式中,所述为所述目标虚拟机配置用于创建执行节点的第一执行函数包,包括:
从多个执行函数包中选择用于创建执行节点的第一执行函数包,向所述目标虚拟机发送所述第一执行函数包;或者,
所述目标虚拟机中包括多个执行函数包;向所述目标虚拟机发送第一配置请求,所述第一配置请求用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,所述服务请求携带所述服务请求的类型;所述为所述目标虚拟机配置用于创建服务实例的第二执行函数包,包括:
根据所述服务请求的类型,从多个执行函数包中选择与所述类型对应的第二执行函数包,向所述目标虚拟机发送所述第二执行函数包;或者,
所述目标虚拟机中包括多个执行函数包,向所述目标虚拟机发送第二配置请求,所述第二配置请求携带所述服务请求的类型,用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建所述类型的服务实例的第二执行函数包。
在另一种可能的实现方式中,所述服务请求携带所述服务请求的类型;所述确定当前的云服务集群的第一压力值,包括:
根据所述服务请求的类型,获取所述云服务集群中第二目标服务实例所在的执行节点的第二压力值,所述第二目标服务实例为用于处理所述服务请求的服务实例;根据所述第二目标服务实例所在的执行节点的第二压力值,确定所述云服务集群的第一压力值。
在另一种可能的实现方式中,所述从非云服务集群中的多个虚拟机中选择目标虚拟机之前,所述方法还包括:
获取所述云服务集群中除所述执行节点以外的其他执行节点的第三压力值;
响应于所述第三压力值未超过第三压力值阈值,从所述其他执行节点中选择第二目标执行节点,将所述第二目标服务实例迁移到所述第二目标执行节点,通过第二目标执行节点上的所述第二目标服务实例处理所述服务请求;
响应于所述第三压力值超过所述第三压力值阈值,执行所述从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
在另一种可能的实现方式中,所述从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:
获取所述非云服务集群中的每个虚拟机的第四压力值;根据所述每个虚拟机的第四压力值,从所述多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
获取所述非云服务集群中的每个虚拟机的当前运行状态;根据所述每个虚拟机的当前运行状态,从所述多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
在另一种可能的实现方式中,所述方法还包括:
接收所述第一目标服务实例对所述服务请求的处理结果,将所述第一目标服务实例对所述服务请求的处理结果返回所述终端。
根据本申请实施例的另一方面,提供了一种执行节点的压力调节装置,所述装置包括:
确定模块,用于接收终端发送的服务请求,确定当前的云服务集群的第一压力值;
选择模块,用于响应于所述第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;
配置模块,用于为所述目标虚拟机配置用于创建执行节点的第一执行函数包,通过所述第一执行函数包在所述目标虚拟机内创建第一目标执行节点;以及,为所述目标虚拟机配置用于创建服务实例的第二执行函数包,通过所述第二执行函数包在所述第一目标执行节点内创建第一目标服务实例;
分发模块,用于将所述服务请求分发给所述第一目标服务实例处理。
在一种可能的实现方式中,所述配置模块,还用于从多个执行函数包中选择用于创建执行节点的第一执行函数包,向所述目标虚拟机发送所述第一执行函数包;或者,
所述目标虚拟机中包括多个执行函数包;所述配置模块,还用于向所述目标虚拟机发送第一配置请求,所述第一配置请求用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,所述配置模块,还用于根据所述服务请求的类型,从多个执行函数包中选择与所述类型对应的第二执行函数包,向所述目标虚拟机发送所述第二执行函数包;或者,
所述目标虚拟机中包括多个执行函数包,所述配置模块,还用于向所述目标虚拟机发送第二配置请求,所述第二配置请求携带所述服务请求的类型,用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建所述类型的服务实例的第二执行函数包。
在另一种可能的实现方式中,所述确定模块,还用于根据所述服务请求的类型,获取所述云服务集群中第二目标服务实例所在的执行节点的第二压力值,所述第二目标服务实例为用于处理所述服务请求的服务实例;根据所述第二目标服务实例所在的执行节点的第二压力值,确定所述云服务集群的第一压力值。
在另一种可能的实现方式中,所述装置还包括:获取模块,用于获取所述云服务集群中除所述执行节点以外的其他执行节点的第三压力值;迁移模块,用于响应于所述第三压力值未超过第三压力值阈值,从所述其他执行节点中选择第二目标执行节点,将所述第二目标服务实例迁移到所述第二目标执行节点,通过第二目标执行节点上的所述第二目标服务实例处理所述服务请求;执行模块,用于响应于所述第三压力值超过所述第三压力值阈值,执行所述从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
在另一种可能的实现方式中,所述选择模块,还用于获取所述非云服务集群中的每个虚拟机的第四压力值;根据所述每个虚拟机的第四压力值,从所述多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
所述选择模块,还用于获取所述非云服务集群中的每个虚拟机的当前运行状态;根据所述每个虚拟机的当前运行状态,从所述多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
在另一种可能的实现方式中,所述装置还包括:返回模块,用于接收所述第一目标服务实例对所述服务请求的处理结果,将所述第一目标服务实例对所述服务请求的处理结果返回所述终端。
根据本申请实施例的另一方面,提供了一种服务器,所述服务器包括:处理器和存储器,所述存储器中存储有至少一条指令,所述至少一条指令由所述处理器加载并执行以实现上述任一可能实现方式所述的执行节点的压力调节方法中的操作。
根据本申请实施例的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并具有以实现如所述执行节点的压力调节方法中所执行的操作。
在本申请实施例中,接收终端发送的服务请求,确定当前的云服务集群的第一压力值;响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;将服务请求分发给第一目标服务实例处理。由于在当前的云服务集群的第一压力值过大时,通过在非云服务集群的目标虚拟机内创建第一目标执行节点和第一目标服务实例,通过第一目标服务实例对服务请求进行处理,从而可以缓解云服务集群的压力,提高了执行节点处理网络服务请求的速度;同时也提高非云服务集群的利用率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的示意图;
图2是本申请实施例提供的一种执行节点的压力调节方案的示意图;
图3是本申请实施例提供的一种执行节点的压力调节方法的流程图;
图4是本申请实施例提供的一种执行节点的压力调节方法的流程图;
图5是本申请实施例提供的一种执行节点的压力调节装置的结构框图;
图6是本申请实施例提供的一种执行节点的压力调节装置的结构框图;
图7是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
图1是本申请实施例提供的一种实施环境的示意图。参见图1,该实施环境中包括终端101和云服务集群102和非云服务集群103。
其中,终端101可以为电脑、手机、平板电脑或者其他电子设备。云服务集群102可以包括一个或者多个服务器。非云服务集群103可以包括一个或者多个虚拟机(VM,VirtualManufacturing)。
终端101和服务器之间通过无线或者有线网络连接,服务器和虚拟机之间通过有线网络连接。并且,终端101上可以安装有服务器提供服务的客户端,终端101对应的用户可以通过该客户端与服务器之间实现例如数据传输、消息交互等功能。客户端可以为终端101上安装的包括上网功能的客户端。例如,该客户端可以为浏览器、社交应用、游戏应用或者外卖应用等。服务器和虚拟机之间也可以实现数据传输、消息交互等功能。例如,服务器可以向虚拟机发送服务请求、配置请求和执行函数包等。虚拟机也可以向服务器返回对服务请求的处理结果等。
在本申请实施例中,参见图2,该云服务集群102可以是Node serverless(节点云服务)集群。Node serverless集群包括Proxy(服务请求分发器)、一个主服务器和多个从服务器。每个从服务器内包含多个执行节点,每个执行节点内运行多个服务实例;服务实例用于处理网络服务请求。主服务器分别与Proxy和多个从服务器连接。其中,主服务器接收Nginx(代理服务器)分发的服务请求,根据服务请求类型,通过Proxy将服务请求分发给执行节点中对应的服务实例进行处理。
其中,主服务器与非云服务集群103连接,该非云服务集群103可以是虚拟机集群。主服务器可以在虚拟机中创建执行节点,在执行节点创建服务实例,从而可以通过虚拟机中的服务实例对服务请求进行处理。其中,虚拟机集群主要用于处理测试项目等,在Nodeserverless集群正常工作时,虚拟机集群的利用率较低。当Node serverless集群的压力小时,主服务器通过Proxy将服务请求分发给Node serverless集群内执行节点中对应的服务实例进行处理。当Node serverless集群的压力大时,主服务器通过Proxy将服务请求分发给虚拟机集群内执行节点中对应的服务实例进行处理。因此,通过该压力调节方法可以缓解云服务集群102的压力,提高非云服务集群103的利用率。
例如,继续参见图2,用户通过终端发送服务请求B,主服务器接收服务请求B,在Node serverless集群的压力小时,通过Proxy将服务请求B分发给Node serverless集群内执行节点中对应的服务实例B进行处理。当Node serverless集群的压力大时,主服务器通过Proxy将服务请求B分发给虚拟机集群内执行节点中对应的服务实例B进行处理。
图3是本申请实施例提供的一种执行节点的压力调节方法的流程图。参见图3,该压力调节方法包括以下步骤:
301、主服务器接收终端发送的服务请求,确定当前的云服务集群的第一压力值。
302、主服务器响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机。
303、主服务器为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例。
304、主服务器将服务请求分发给第一目标服务实例处理。
在一种可能的实现方式中,为目标虚拟机配置用于创建执行节点的第一执行函数包,包括:
从多个执行函数包中选择用于创建执行节点的第一执行函数包,向目标虚拟机发送第一执行函数包;或者,
目标虚拟机中包括多个执行函数包;向目标虚拟机发送第一配置请求,第一配置请求用于请求目标虚拟机从多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,服务请求携带服务请求的类型;为目标虚拟机配置用于创建服务实例的第二执行函数包,包括:
根据服务请求的类型,从多个执行函数包中选择与类型对应的第二执行函数包,向目标虚拟机发送第二执行函数包;或者,
目标虚拟机中包括多个执行函数包,向目标虚拟机发送第二配置请求,第二配置请求携带服务请求的类型,用于请求目标虚拟机从多个执行函数包中选择用于创建类型的服务实例的第二执行函数包。
在另一种可能的实现方式中,服务请求携带服务请求的类型;确定当前的云服务集群的第一压力值,包括:
根据服务请求的类型,获取云服务集群中第二目标服务实例所在的执行节点的第二压力值,第二目标服务实例为用于处理服务请求的服务实例,根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。
在另一种可能的实现方式中,从非云服务集群中的多个虚拟机中选择目标虚拟机之前,方法还包括:
获取云服务集群中除执行节点以外的其他执行节点的第三压力值;
响应于第三压力值未超过第三压力值阈值,从其他执行节点中选择第二目标执行节点,将第二目标服务实例迁移到第二目标执行节点,通过第二目标执行节点上的第二目标服务实例处理服务请求;
响应于第三压力值超过第三压力值阈值,执行从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
在另一种可能的实现方式中,从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:
获取非云服务集群中的每个虚拟机的第四压力值,根据每个虚拟机的第四压力值,从多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
获取非云服务集群中的每个虚拟机的当前运行状态,根据每个虚拟机的当前运行状态,从多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
在另一种可能的实现方式中,方法还包括:
接收第一目标服务实例对服务请求的处理结果,将第一目标服务实例对服务请求的处理结果返回终端。
在本申请实施例中,主服务器接收终端发送的服务请求,确定当前的云服务集群的第一压力值;响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;将服务请求分发给第一目标服务实例处理。由于在当前的云服务集群的第一压力值过大时,通过在非云服务集群的目标虚拟机内创建第一目标执行节点和第一目标服务实例,通过第一目标服务实例对服务请求进行处理,从而可以缓解云服务集群的压力,提高了执行节点处理网络服务请求的速度;同时也提高了非云服务集群的利用率。
图4是本申请实施例提供的一种执行节点的压力调节方法的流程图。参见图4,该压力调节方法包括以下步骤:
401、主服务器接收终端发送的服务请求,确定当前的云服务集群的第一压力值。
在本申请实施例中,服务请求携带服务请求的类型。服务请求按类型可以分为购物服务请求,社交服务请求,外卖服务请求,打车服务请求等中的至少一个。
其中,当前的云服务集群的第一压力值可以是接收终端发送的服务请求时云服务集群的压力值;也可以是在第一历史时长内云服务集群的压力值的平均值;该第一历史时长可以为离接收终端发送的服务请求时最近的第一预设时长。其中,第一预设时长可以是0秒到100秒中任一数值,比如,0秒、10秒、50秒等;在本申请实施例中,对第一预设时长不作具体限定,可以根据需要进行设置并更改。
在一种可能的实现方式中,主服务器通过该服务请求对应的类型服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。
相应的,主服务器确定当前的云服务集群的第一压力值,包括:主服务器根据服务请求的类型,获取云服务集群中第二目标服务实例所在的执行节点的第二压力值,第二目标服务实例为处理该服务请求的服务实例,根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。
在一种可能的实现方式中,主服务器根据处理该类型服务请求的所有执行节点,确定云服务集群的压力值,相应的,主服务器根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值,包括:主服务器将第二目标服务实例所在的执行节点的第二压力值加权求和,得到云服务集群的第一压力值。
其中,主服务器内可以存储有每个执行节点对应的权重。在另一种可能的实现方式中,主服务器根据第二目标服务实例所在的执行节点的数量,按照数量平均分配,确定每个执行节点的权重。例如,第二目标服务实例所在的执行节点的权重总和为1,第二目标服务实例所在的执行节点的数量为10,则每个执行节点的权重为0.1。
在另一种可能的实现方式中,主服务器根据处理该类型服务请求的执行节点中压力值大的执行节点,确定云服务集群的压力值,相应的,主服务器根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值,包括:主服务器确定第二目标服务实例所在的执行节点的第二压力值,确定第二压力值超过第二压力值阈值的执行节点的第一数量,根据第一数量,确定云服务集群的第一压力值。其中,第二压力值阈值可以是50%至100%之间的任一数值,例如,50%、60%、70%等;在本申请实施例中,对第二压力值阈值不作具体限定,可以根据需要进行设置并更改。
在一种可能的实现方式中,主服务器根据第一数量,确定云服务集群的第一压力值可以包括:主服务器确定云服务集群中执行节点的第二数量,将第一数量与第二数量的比值,作为该云服务集群的第一压力值。
在另一种可能的实现方式中,主服务器根据第一数量,确定云服务集群的第一压力值可以包括:主服务器确定云服务集群中第二目标服务实例所在的执行节点的第三数量,将第一数量与第三数量的比值,作为该云服务集群的第一压力值。
在另一种可能的实现方式中,云服务集群的第一压力值为第二目标服务实例所在的执行节点的第二压力值的总和。相应的,主服务器根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值,包括:主服务器将第二目标服务实例所在的执行节点的第二压力值求和,得到云服务集群的第一压力值。
在本申请实施例中,主服务器可以根据第二目标服务实例所在的执行节点的运行数据,确定该执行节点的第二压力值。其中,运行数据可以包括CPU(Central ProcessingUnit,中央处理器)占用率和内存使用率中的至少一项。
需要说明的一点是,CPU占用率可以是当前时间点的CPU占用率,也可以是第一特定时间段内的CPU占用率的平均值。内存使用率可以是当前时间点的内存使用率,也可以是第二特定时间段内的内存使用率的平均值。其中,第一特定时间段和第二特定时间段可以相同,也可以不同。
在一种可能的实现方式中,运行数据可以是CPU占用率。相应的,主服务器根据执行节点的运行数据,确定该执行节点的第二压力值的步骤可以为:主服务器获取该执行节点的CPU占用率,将执行节点的CPU占用率作为该执行节点的第二压力值。
在另一种可能的实现方式中,运行数据可以是CPU内存使用率。相应的,主服务器根据执行节点的运行数据,确定该执行节点的第二压力值的步骤可以为:主服务器获取该执行节点的内存使用率,将执行节点的内存使用率作为该执行节点的第二压力值。
在另一种可能的实现方式中,运行数据可以是CPU占用率和内存占用率。相应的,主服务器根据执行节点的运行数据,确定该执行节点的第二压力值的步骤可以为:主服务器获取该执行节点的CPU占用率和内存使用率,将执行节点的CPU占用率和内存使用率进行加权求和,得到该执行节点的第二压力值。
其中,主服务器内可以存储有该执行节点CPU占用率的权重和内存占用率的权重。在另一种可能的实现方式中,主服务器根据该执行节点处理服务请求的时间,确定该执行节点CPU占用率的权重和内存占用率的权重。相应的,主服务器获取该执行节点处理服务请求的时间、CPU占用率和内存占用率,通过该执行节点处理服务请求的时间与CPU占用率和内存占用率的正相关性,确定该执行节点CPU占用率的权重和内存占用率的权重。
在本申请实施例中,主服务器通过该服务请求对应的类型服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。所以,不同类型的服务请求,对应的云服务集群的第一压力值不同,提高了云服务集群的第一压力值的针对性和灵活性。
在另一种可能的实现方式中,主服务器可以通过云服务集群中第二目标服务实例所在的执行节点的第二压力值以及其他执行节点的第三压力值,确定云服务集群的第一压力值。在一种可能的实现方式中,主服务器将每个第二压力值和每个第三压力值加权求和,得到云服务集群的第一压力值。其中,主服务器内可以存储有第二目标服务实例所在的执行节点以及其他执行节点对应的权重。
在另一种可能的实现方式中,主服务器可以通过云服务集群中每个执行节点的第五压力值,确定云服务集群的第一压力值。
在一种可能的实现方式中,主服务器将每个执行节点的第五压力值加权求和,得到云服务集群的第一压力值。
其中,主服务器内可以存储有每个执行节点对应的权重。在另一种可能的实现方式中,主服务器根据云服务集群中执行节点的数量,按照数量平均分配,确定每个执行节点的权重。例如,云服务集群中执行节点的权重总和为1,云服务集群中执行节点的数量为100,则每个执行节点的权重为0.01。
在另一种可能的实现方式中,主服务器确定每个执行节点的第五压力值,确定第五压力值超过第五压力值阈值的执行节点的第五数量,根据第五数量,确定云服务集群的第一压力值。其中,第五压力值阈值可以是50%至100%之间的任一数值,例如,50%、60%、70%等;在本申请实施例中,对第五压力值阈值不作具体限定,可以根据需要进行设置并更改。在一种可能的实现方式中,主服务器确定云服务集群中执行节点的第二数量,将第五数量与第二数量的比值,作为该云服务集群的第一压力值。
在另一种可能的实现方式中,云服务集群的第一压力值为每个执行节点的的第五压力值的总和。在本申请实施例中,主服务器可以根据执行节点的运行数据,确定执行节点的第五压力值。其中,主服务器确定执行节点的第五压力值的步骤与主服务器根据第二目标服务实例所在的执行节点的运行数据,确定执行节点的第二压力值的步骤相同,在此不再赘述。
在本申请实施例中,主服务器通过该服务请求对应的类型服务实例所在的执行节点的第二压力值以及其他执行节点的压力值,确定云服务集群的第一压力值。由于主服务器在确定云服务集群的第一压力值时,综合了云服务集群中所有执行节点的压力值,所以,提高了云服务集群的第一压力值的综合性和准确性。
402、主服务器响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机。
其中,第一压力值阈值可以是50%至100%之间的任一数值,例如,50%、60%、70%等;在本申请实施例中,对第一压力值阈值不作具体限定,可以根据需要进行设置并更改。
在一种可能的实现方式中,主服务器从非云服务集群中的多个虚拟机中选择压力小的虚拟机为目标虚拟机。相应的,主服务器从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:主服务器获取非云服务集群中的每个虚拟机的第四压力值,根据每个虚拟机的第四压力值,从多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机。其中,第四压力值阈值可以是0%至50%之间的任一数值,例如,10%、20%、30%等;在本申请实施例中,对第四压力值阈值不作具体限定,可以根据需要进行设置并更改。
在一种可能的实现方式中,主服务器可以根据虚拟机对应的服务请求的数量,确定该虚拟机的压力值。其中,主服务器内可以存储服务请求的数量与虚拟机的压力值之间的对应关系。相应的,主服务器获取非云服务集群中的每个虚拟机的第四压力值,包括:主服务器获取该虚拟机对应的服务请求的第四数量,从第四数量与该虚拟机的第四压力值之间的对应关系中,确定第四数量对应的虚拟机的第四压力值。
在另一种可能的实现方式中,主服务器可以根据虚拟机的运行数据,确定该虚拟机的第四压力值。其中,运行数据可以包括CPU占用率和内存使用率中的至少一项。在一种可能的实现方式中,运行数据可以是CPU占用率。相应的,主服务器根据虚拟机的运行数据,确定该虚拟机的第四压力值的步骤可以为:主服务器获取该虚拟机的CPU占用率,将虚拟机的CPU占用率作为该虚拟机的第四压力值。在另一种可能的实现方式中,运行数据可以是内存使用率。相应的,主服务器根据虚拟机的运行数据,确定该虚拟机的第四压力值的步骤可以为:主服务器获取该虚拟机的内存使用率,将虚拟机的内存使用率作为该虚拟机的第四压力值。在另一种可能的实现方式中,运行数据可以是CPU占用率和内存占用率。相应的,主服务器根据虚拟机的运行数据,确定该虚拟机的第四压力值的步骤可以为:主服务器获取该虚拟机的CPU占用率和内存使用率,将虚拟机的CPU占用率和内存使用率进行加权求和,得到该虚拟机的第四压力值。其中,主服务器内可以存储有该虚拟机CPU占用率的权重和内存占用率的权重。
在本申请实施例中,主服务器根据目标虚拟机的压力,选择从非云服务集群中的多个虚拟机中选择压力小的目标虚拟机,确保压力小的目标虚拟机可以对服务请求进行处理。
在另一种可能的实现方式中,主服务器从非云服务集群中的多个虚拟机中选择空闲状态的虚拟机为目标虚拟机。相应的,主服务器从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:主服务器获取非云服务集群中的每个虚拟机的当前运行状态,根据每个虚拟机的当前运行状态,从多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
在一种可能的实现方式中,空闲状态可以是CPU占用率为零或内存使用率为零或CPU占用率和内存使用率都为零。在另一种可能的实现方式中,空闲状态可以是CPU占用率小于第一CPU占用率阈值,且内存使用率小于第一内存使用率阈值。其中,第一CPU占用率阈值可以是0%至10%之间的任一数值,例如,1%、2%、3%等;第一内存使用率阈值可以是0%至10%之间的任一数值,例如,1%、2%、3%等;在本申请实施例中,对第一CPU占用率阈值和第一内存使用率阈值不作具体限定,可以根据需要进行设置并更改。
在本申请实施例中,主服务器根据目标虚拟机的压力,选择从非云服务集群中的多个虚拟机中选择空闲状态的目标虚拟机,确保空闲状态的目标虚拟机可以对服务请求进行处理。
在另一种可能的实现方式中,主服务器从非云服务集群中的多个虚拟机中选择服务请求数量少的目标虚拟机。相应的,主服务器从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:主服务器获取非云服务集群中的每个虚拟机对应的服务请求的第五数量,根据第五数量,从多个虚拟机中选择第五数量未超过第五数量值阈值的目标虚拟机。其中,第五数量值阈值可以是0到100中的任一数值,如,10、20、30等;在本申请实施例中,对第五数量值阈值不作具体限定,可以根据需要进行设置并更改。
在本申请实施例中,主服务器根据目标虚拟机的压力,选择从非云服务集群中的多个虚拟机中选择服务请求数量少的目标虚拟机,确保服务请求数量少的目标虚拟机可以对服务请求进行处理。
403、主服务器为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例。
在本申请实施例中,第一执行函数包和第二执行函数包可以存储在主服务器内,也可以存储在目标虚拟机内。
在一种可能的实现方式中,主服务器内存储多个执行函数包。相应的,主服务器为目标虚拟机配置用于创建执行节点的第一执行函数包;包括:主服务器从多个执行函数包中选择用于创建执行节点的第一执行函数包,向目标虚拟机发送第一执行函数包。
其中,每个执行函数包中都携带函数包标识;函数包标识用于区分每个函数包。相应的,主服务器从多个执行函数包中选择用于创建执行节点的第一执行函数包的步骤可以为:主服务器根据第一执行函数包标识,从多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,服务请求携带服务请求的类型;相应的,主服务器为目标虚拟机配置用于创建服务实例的第二执行函数包,包括:主服务器根据服务请求的类型,从多个执行函数包中选择与类型对应的第二执行函数包,向目标虚拟机发送第二执行函数包。
其中,每个执行函数包中都携带函数包标识;函数包标识用于区分每个函数包;第二执行函数包标识可以包括第二执行函数包类别信息。相应的,主服务器根据服务请求的类型,从多个执行函数包中选择与类型对应的第二执行函数包的步骤可以为:主服务器根据服务请求的类型和第二执行函数包类别信息,从多个执行函数包中选择与类型对应的第二执行函数包。
在另一种可能的实现方式中,目标虚拟机中包括多个执行函数包。相应的,主服务器为目标虚拟机配置用于创建执行节点的第一执行函数包,包括:主服务器向目标虚拟机发送第一配置请求,第一配置请求用于请求目标虚拟机从多个执行函数包中选择用于创建执行节点的第一执行函数包。
其中,第一配置请求可以携带第一执行函数包对应的第一执行函数包标识。相应的,主服务器向目标虚拟机发送第一配置请求。目标虚拟机接收第一配置请求,根据第一执行函数包标识,从多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,服务请求携带服务请求的类型;相应的,主服务器为目标虚拟机配置用于创建服务实例的第二执行函数包,包括:主服务器向目标虚拟机发送第二配置请求,第二配置请求携带服务请求的类型,用于请求目标虚拟机从多个执行函数包中选择用于创建类型的服务实例的第二执行函数包。
其中,第二配置请求可以携带第二执行函数包对应的第二执行函数包标识。第二执行函数包标识可以包括第二执行函数包类别信息。相应的,主服务器向目标虚拟机发送第二配置请求。目标虚拟机接收第二配置请求,根据第二执行函数包类别信息,从多个执行函数包中选择用于创建类型的服务实例的第二执行函数包。
在一种可能的实现方式中,第一执行函数包内包括第一目标执行节点对应的第一代码信息;相应的,主服务器通过第一执行函数包在目标虚拟机内创建第一目标执行节点,包括:主服务器从第一执行函数包提取第一代码信息;根据第一代码信息,在目标虚拟机内创建第一目标执行节点。
在本申请实施例中,主服务器在目标虚拟机内创建第一目标执行节点的数量可以是1个、2个或者多个。在一种可能的实现方式中,主服务器根据服务请求的数量,确定创建第一目标执行节点的数量;主服务器内可以存储服务请求的数量与第一目标执行节点的数量之间的对应关系。相应的,主服务器获取服务请求的数量,根据服务请求的数量,从服务请求的数量与第一目标执行节点的数量之间的对应关系中确定第一目标执行节点的数量。
在另一种可能的实现方式中,主服务器根据目标虚拟机的压力值,确定创建第一目标执行节点的数量;主服务器内可以存储目标虚拟机的压力值与第一目标执行节点的数量之间的对应关系。相应的,主服务器获取目标虚拟机的压力值,根据目标虚拟机的压力值,从目标虚拟机的压力值与第一目标执行节点的数量之间的对应关系中确定第一目标执行节点的数量。
第二执行函数包内包括第一目标服务实例对应的第二代码信息;相应的,主服务器通过第二执行函数包在第一目标执行节点内创建第一目标服务实例,包括:主服务器从第二执行函数包提取第二代码信息;根据第二代码信息,在第一目标执行节点内创建第一目标服务实例。
其中,主服务器在第一目标执行节点内创建第一目标服务实例的数量可以是1个、2个或者多个。在一种可能的实现方式中,主服务器根据服务请求的数量,确定创建第一目标服务实例的数量;主服务器内可以存储服务请求的数量与第一目标服务实例的数量之间的对应关系。相应的,主服务器获取服务请求的数量,根据服务请求的数量,从服务请求的数量与第一目标服务实例的数量之间的对应关系中确定第一目标服务实例的数量。
在另一种可能的实现方式中,主服务器根据第一目标执行节点的压力值,确定创建第一目标服务实例的数量;主服务器内可以存储第一目标执行节点的压力值与第一目标服务实例的数量之间的对应关系。相应的,主服务器获取第一目标执行节点的压力值,根据第一目标执行节点的压力值,从第一目标执行节点的压力值与第一目标服务实例的数量之间的对应关系中确定第一目标服务实例的数量。
404、主服务器将服务请求分发给第一目标服务实例处理。
在本申请实施例中,服务请求携带服务请求的类型。主服务器可以按照服务请求的类型对接收到的服务请求进行分发,服务请求的类型与第一目标服务实例的类型相互对应。相应的,主服务器将服务请求分发给第一目标服务实例处理,包括:主服务器获取服务请求的类型,根据类型,确定该类型的第一目标服务实例;将服务请求分发给该类型的第一目标服务实例处理。
在一种可能的实现方式中,主服务器在目标虚拟机内创建了1个第一目标执行节点,在每个第一目标执行节点内创建了多个该类型的第一目标服务实例。在一种可能的实现方式中,主服务器将服务请求随机分发给该类型的第一目标服务实例处理。在另一种可能的实现方式中,主服务器获取每个该类型的第一目标服务实例对应的服务请求的数量,根据每个该类型的第一目标服务实例对应的服务请求的数量,将服务请求分发给服务请求的数量最少的该类型的第一目标服务实例处理。
在另一种可能的实现方式中,主服务器在目标虚拟机内创建了多个第一目标执行节点,在每个第一目标执行节点内创建了多个该类型第一目标服务实例。在一种可能的实现方式中,主服务器将服务请求随机分发给第一目标执行节点内该类型的第一目标服务实例处理。在另一种可能的实现方式中,主服务器获取每个第一目标执行节点对应的服务请求的数量,根据每个第一目标执行节点对应的服务请求的数量,将服务请求分发给服务请求的数量最少的第一目标执行节点内的该类型的第一目标服务实例处理。
405、主服务器接收第一目标服务实例对服务请求的处理结果,将第一目标服务实例对服务请求的处理结果返回终端。
在一种可能的实现方式中,目标虚拟机直接向服务器发送处理结果,第一目标服务实例对服务请求进行处理;处理结束时,目标虚拟机将第一目标服务实例对服务请求的处理结果发送给主服务器;主服务器接收第一目标服务实例对服务请求的处理结果,将第一目标服务实例对服务请求的处理结果返回终端。
在另一种可能的实现方式中,第一目标服务实例对服务请求进行处理;处理结束时,主服务器向目标虚拟机发送获取指令;目标虚拟机根据该获取指令,将第一目标服务实例对服务请求的处理结果发送给主服务器;主服务器接收第一目标服务实例对服务请求的处理结果,将第一目标服务实例对服务请求的处理结果返回终端。
需要说明的一点是,响应于当前的云服务集群的第一压力值未超过第一压力值阈值,主服务器将服务请求分发给当前的云服务集群中的执行节点内的该类型的第三目标服务实例处理。主服务器将第三目标服务实例对服务请求的处理结果返回终端。
需要说明的另一点是,主服务器通过该服务请求对应的类型服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。响应于当前的云服务集群的第一压力值超过第一压力值阈值,主服务器可以根据云服务集群中除该执行节点以外的其他执行节点的压力值,在其他执行节点上创建第二目标服务实例,通过其他执行节点内的第二目标服务实例对服务请求进行处理。主服务器将第二目标服务实例对服务请求的处理结果返回终端。
在一种可能的实现方式中,主服务器获取云服务集群中除执行节点以外的其他执行节点的第三压力值;响应于第三压力值未超过第三压力值阈值,从其他执行节点中选择第二目标执行节点,将第二目标服务实例迁移到第二目标执行节点,通过第二目标执行节点上的第二目标服务实例处理服务请求;主服务器将第二目标服务实例对服务请求的处理结果返回终端;
在另一种可能的实现方式中,主服务器获取云服务集群中除执行节点以外的其他执行节点的第三压力值;响应于第三压力值超过第三压力值阈值,执行从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤;主服务器将第一目标服务实例对服务请求的处理结果返回终端。
其中,其他执行节点的个数可以是1个,相应的,主服务器从其他执行节点中选择第二目标执行节点,包括:主服务器确定其他执行节点为第二目标执行节点。
在另一种可能的实现方式中,其他执行节点的个数可以是多个,主服务器可以根据多个其它执行节点的压力值,确定第二目标执行节点。相应的,主服务器从其他执行节点中选择第二目标执行节点,包括:主服务器获取云服务集群中除执行节点以外的其他执行节点的第三压力值;根据每个其他执行节点的第三压力值,从其他执行节点中选择第三压力值最小的第二目标执行节点。
在一种可能的实现方式中,主服务器可以直接在第二目标执行节点内创建第二目标服务实例。相应的,主服务器将第二目标服务实例迁移到第二目标执行节点的步骤可以包括:主服务器在第二目标执行节点内创建第二目标服务实例。
在另一种可能的实现方式中,主服务器在第二目标执行节点内创建第二目标服务实例时,将压力值大的执行节点内的服务实例关闭。相应的,主服务器将第二目标服务实例迁移到第二目标执行节点的步骤可以包括:主服务器关闭该服务请求对应的类型服务实例所在的执行节点内的该类型服务实例;以及,在第二目标执行节点内创建第二目标服务实例。
在本申请实施例中,主服务器接收终端发送的服务请求,确定当前的云服务集群的第一压力值;响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;将服务请求分发给第一目标服务实例处理。由于在当前的云服务集群的第一压力值过大时,通过在非云服务集群的目标虚拟机内创建第一目标执行节点和第一目标服务实例,通过第一目标服务实例对服务请求进行处理,从而可以缓解云服务集群的压力,提高了执行节点处理网络服务请求的速度;同时也提高非云服务集群的利用率。
图5是本申请实施例提供的一种执行节点的压力调节装置的结构示意图。
参见图5,该装置包括:
确定模块501,用于接收终端发送的服务请求,确定当前的云服务集群的第一压力值;
选择模块502,用于响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;
配置模块503,用于为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;
分发模块504,用于将服务请求分发给第一目标服务实例处理。
在一种可能的实现方式中,配置模块503,还用于从多个执行函数包中选择用于创建执行节点的第一执行函数包,向目标虚拟机发送第一执行函数包;或者,
目标虚拟机中包括多个执行函数包;配置模块503,还用于向目标虚拟机发送第一配置请求,第一配置请求用于请求目标虚拟机从多个执行函数包中选择用于创建执行节点的第一执行函数包。
在另一种可能的实现方式中,配置模块503,还用于根据服务请求的类型,从多个执行函数包中选择与类型对应的第二执行函数包,向目标虚拟机发送第二执行函数包;或者,
目标虚拟机中包括多个执行函数包,配置模块503,还用于向目标虚拟机发送第二配置请求,第二配置请求携带服务请求的类型,用于请求目标虚拟机从多个执行函数包中选择用于创建类型的服务实例的第二执行函数包。
在另一种可能的实现方式中,确定模块501,还用于根据服务请求的类型,获取云服务集群中第二目标服务实例所在的执行节点的第二压力值,第二目标服务实例为用于处理服务请求的服务实例,根据第二目标服务实例所在的执行节点的第二压力值,确定云服务集群的第一压力值。
在另一种可能的实现方式中,该装置还包括:获取模块,用于获取云服务集群中除执行节点以外的其他执行节点的第三压力值;迁移模块,用于响应于第三压力值未超过第三压力值阈值,从其他执行节点中选择第二目标执行节点,将第二目标服务实例迁移到第二目标执行节点,通过第二目标执行节点上的第二目标服务实例处理服务请求;执行模块,用于响应于第三压力值超过第三压力值阈值,执行从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
在另一种可能的实现方式中,选择模块502,还用于获取非云服务集群中的每个虚拟机的第四压力值,根据每个虚拟机的第四压力值,从多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
选择模块502,还用于获取非云服务集群中的每个虚拟机的当前运行状态,根据每个虚拟机的当前运行状态,从多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
在另一种可能的实现方式中,参见图6,该装置还包括:返回模块505,用于接收第一目标服务实例对服务请求的处理结果,将第一目标服务实例对服务请求的处理结果返回终端。
在本申请实施例中,主服务器接收终端发送的服务请求,确定当前的云服务集群的第一压力值;响应于第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;为目标虚拟机配置用于创建执行节点的第一执行函数包,通过第一执行函数包在目标虚拟机内创建第一目标执行节点;以及,为目标虚拟机配置用于创建服务实例的第二执行函数包,通过第二执行函数包在第一目标执行节点内创建第一目标服务实例;将服务请求分发给第一目标服务实例处理。由于在当前的云服务集群的第一压力值过大时,通过在非云服务集群的目标虚拟机内创建第一目标执行节点和第一目标服务实例,通过第一目标服务实例对服务请求进行处理,从而可以缓解云服务集群的压力,提高了执行节点处理网络服务请求的速度;同时也提高非云服务集群的利用率。
需要说明的是:上述实施例提供的执行节点的压力调节装置在进行执行节点的压力调节时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将服务器的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的执行节点的压力调节装置与执行节点的压力调节方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图7是本申请实施例提供的一种服务器的结构示意图,该服务器700可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(central processingunits,CPU)701和一个或一个以上的存储器702,其中,存储器702中存储有至少一条指令,至少一条指令由处理器701加载并执行以实现上述各个方法实施例提供的执行节点的压力调节方法。当然,该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器还可以包括其他用于实现设备功能的部件,在此不做赘述。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条指令,该至少一条指令由处理器加载并具有以实现上述实施例的执行节点的压力调节方法中所具有的操作。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请实施例的可选实施例,并不用以限制本申请实施例,凡在本申请实施例的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (16)
1.一种执行节点的压力调节方法,其特征在于,所述方法包括:
接收终端发送的服务请求,确定当前的云服务集群的第一压力值;
响应于所述第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;
为所述目标虚拟机配置用于创建执行节点的第一执行函数包,通过所述第一执行函数包在所述目标虚拟机内创建第一目标执行节点;以及,为所述目标虚拟机配置用于创建服务实例的第二执行函数包,通过所述第二执行函数包在所述第一目标执行节点内创建第一目标服务实例;
将所述服务请求分发给所述第一目标服务实例处理。
2.根据权利要求1所述的方法,其特征在于,所述为所述目标虚拟机配置用于创建执行节点的第一执行函数包,包括:
从多个执行函数包中选择用于创建执行节点的第一执行函数包,向所述目标虚拟机发送所述第一执行函数包;或者,
所述目标虚拟机中包括多个执行函数包;向所述目标虚拟机发送第一配置请求,所述第一配置请求用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建执行节点的第一执行函数包。
3.根据权利要求1所述的方法,其特征在于,所述服务请求携带所述服务请求的类型;所述为所述目标虚拟机配置用于创建服务实例的第二执行函数包,包括:
根据所述服务请求的类型,从多个执行函数包中选择与所述类型对应的第二执行函数包,向所述目标虚拟机发送所述第二执行函数包;或者,
所述目标虚拟机中包括多个执行函数包,向所述目标虚拟机发送第二配置请求,所述第二配置请求携带所述服务请求的类型,用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建所述类型的服务实例的第二执行函数包。
4.根据权利要求1所述的方法,其特征在于,所述服务请求携带所述服务请求的类型;所述确定当前的云服务集群的第一压力值,包括:
根据所述服务请求的类型,获取所述云服务集群中第二目标服务实例所在的执行节点的第二压力值,所述第二目标服务实例为用于处理所述服务请求的服务实例;根据所述第二目标服务实例所在的执行节点的第二压力值,确定所述云服务集群的第一压力值。
5.根据权利要求4所述的方法,其特征在于,所述从非云服务集群中的多个虚拟机中选择目标虚拟机之前,所述方法还包括:
获取所述云服务集群中除所述执行节点以外的其他执行节点的第三压力值;
响应于所述第三压力值未超过第三压力值阈值,从所述其他执行节点中选择第二目标执行节点,将所述第二目标服务实例迁移到所述第二目标执行节点,通过第二目标执行节点上的所述第二目标服务实例处理所述服务请求;
响应于所述第三压力值超过所述第三压力值阈值,执行所述从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
6.根据权利要求1所述的方法,其特征在于,所述从非云服务集群中的多个虚拟机中选择目标虚拟机,包括:
获取所述非云服务集群中的每个虚拟机的第四压力值;根据所述每个虚拟机的第四压力值,从所述多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
获取所述非云服务集群中的每个虚拟机的当前运行状态;根据所述每个虚拟机的当前运行状态,从所述多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收所述第一目标服务实例对所述服务请求的处理结果,将所述第一目标服务实例对所述服务请求的处理结果返回所述终端。
8.一种执行节点的压力调节装置,其特征在于,所述装置包括:
确定模块,用于接收终端发送的服务请求,确定当前的云服务集群的第一压力值;
选择模块,用于响应于所述第一压力值超过第一压力值阈值,从非云服务集群中的多个虚拟机中选择目标虚拟机;
配置模块,用于为所述目标虚拟机配置用于创建执行节点的第一执行函数包,通过所述第一执行函数包在所述目标虚拟机内创建第一目标执行节点;以及,为所述目标虚拟机配置用于创建服务实例的第二执行函数包,通过所述第二执行函数包在所述第一目标执行节点内创建第一目标服务实例;
分发模块,用于将所述服务请求分发给所述第一目标服务实例处理。
9.根据权利要求8所述的装置,其特征在于,所述配置模块,还用于从多个执行函数包中选择用于创建执行节点的第一执行函数包,向所述目标虚拟机发送所述第一执行函数包;或者,
所述目标虚拟机中包括多个执行函数包;所述配置模块,还用于向所述目标虚拟机发送第一配置请求,所述第一配置请求用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建执行节点的第一执行函数包。
10.根据权利要求8所述的装置,其特征在于,所述配置模块,还用于根据所述服务请求的类型,从多个执行函数包中选择与所述类型对应的第二执行函数包,向所述目标虚拟机发送所述第二执行函数包;或者,
所述目标虚拟机中包括多个执行函数包,所述配置模块,还用于向所述目标虚拟机发送第二配置请求,所述第二配置请求携带所述服务请求的类型,用于请求所述目标虚拟机从所述多个执行函数包中选择用于创建所述类型的服务实例的第二执行函数包。
11.根据权利要求8所述的装置,其特征在于,所述确定模块,还用于根据所述服务请求的类型,获取所述云服务集群中第二目标服务实例所在的执行节点的第二压力值,所述第二目标服务实例为用于处理所述服务请求的服务实例;根据所述第二目标服务实例所在的执行节点的第二压力值,确定所述云服务集群的第一压力值。
12.根据权利要求11所述的装置,其特征在于,所述装置还包括:
获取模块,用于获取所述云服务集群中除所述执行节点以外的其他执行节点的第三压力值;
迁移模块,用于响应于所述第三压力值未超过第三压力值阈值,从所述其他执行节点中选择第二目标执行节点,将所述第二目标服务实例迁移到所述第二目标执行节点,通过第二目标执行节点上的所述第二目标服务实例处理所述服务请求;
执行模块,用于响应于所述第三压力值超过所述第三压力值阈值,执行所述从非云服务集群中的多个虚拟机中选择目标虚拟机的步骤。
13.根据权利要求8所述的装置,其特征在于,所述选择模块,还用于获取所述非云服务集群中的每个虚拟机的第四压力值;根据所述每个虚拟机的第四压力值,从所述多个虚拟机中选择第四压力值未超过第四压力值阈值的目标虚拟机;或者,
所述选择模块,还用于获取所述非云服务集群中的每个虚拟机的当前运行状态;根据所述每个虚拟机的当前运行状态,从所述多个虚拟机中选择当前运行状态为空闲状态的目标虚拟机。
14.根据权利要求8所述的装置,其特征在于,所述装置还包括:
返回模块,用于接收所述第一目标服务实例对所述服务请求的处理结果,将所述第一目标服务实例对所述服务请求的处理结果返回所述终端。
15.一种服务器,其特征在于,所述服务器包括:
处理器和存储器,所述存储器中存储有至少一条指令,所述至少一条指令由所述处理器加载并执行以实现权利要求1至7任一项所述的执行节点的压力调节方法中的操作。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现如权利要求1至7任一项权利要求所述的执行节点的压力调节方法中所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010089184.9A CN111338750A (zh) | 2020-02-12 | 2020-02-12 | 执行节点的压力调节方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010089184.9A CN111338750A (zh) | 2020-02-12 | 2020-02-12 | 执行节点的压力调节方法、装置、服务器及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111338750A true CN111338750A (zh) | 2020-06-26 |
Family
ID=71185132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010089184.9A Withdrawn CN111338750A (zh) | 2020-02-12 | 2020-02-12 | 执行节点的压力调节方法、装置、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111338750A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111897658A (zh) * | 2020-08-26 | 2020-11-06 | 中国工商银行股份有限公司 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
WO2022105504A1 (zh) * | 2020-11-18 | 2022-05-27 | 华为云计算技术有限公司 | 函数服务的调度方法、系统、计算设备和存储介质 |
CN114844843A (zh) * | 2022-03-24 | 2022-08-02 | 清华大学 | 应用实例数量的调整方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060155912A1 (en) * | 2005-01-12 | 2006-07-13 | Dell Products L.P. | Server cluster having a virtual server |
US8175863B1 (en) * | 2008-02-13 | 2012-05-08 | Quest Software, Inc. | Systems and methods for analyzing performance of virtual environments |
US20160205518A1 (en) * | 2015-01-14 | 2016-07-14 | Kodiak Networks Inc. | System and Method for Elastic Scaling using a Container-Based Platform |
CN109597673A (zh) * | 2017-09-30 | 2019-04-09 | 华为技术有限公司 | 创建虚拟机的方法及调度设备 |
-
2020
- 2020-02-12 CN CN202010089184.9A patent/CN111338750A/zh not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060155912A1 (en) * | 2005-01-12 | 2006-07-13 | Dell Products L.P. | Server cluster having a virtual server |
US8175863B1 (en) * | 2008-02-13 | 2012-05-08 | Quest Software, Inc. | Systems and methods for analyzing performance of virtual environments |
US20160205518A1 (en) * | 2015-01-14 | 2016-07-14 | Kodiak Networks Inc. | System and Method for Elastic Scaling using a Container-Based Platform |
CN109597673A (zh) * | 2017-09-30 | 2019-04-09 | 华为技术有限公司 | 创建虚拟机的方法及调度设备 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111897658A (zh) * | 2020-08-26 | 2020-11-06 | 中国工商银行股份有限公司 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
CN111897658B (zh) * | 2020-08-26 | 2024-03-22 | 中国工商银行股份有限公司 | 一种基于函数计算节点的云计算系统扩容方法及装置 |
WO2022105504A1 (zh) * | 2020-11-18 | 2022-05-27 | 华为云计算技术有限公司 | 函数服务的调度方法、系统、计算设备和存储介质 |
CN114844843A (zh) * | 2022-03-24 | 2022-08-02 | 清华大学 | 应用实例数量的调整方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109218355B (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
Ahmed et al. | Cloud computing simulators: A detailed survey and future direction | |
CN105279027B (zh) | 一种虚拟机部署方法及装置 | |
CN110798517B (zh) | 去中心化集群负载均衡方法、系统、移动终端及存储介质 | |
CN106899680A (zh) | 多区块链的分片处理方法和装置 | |
CN111338750A (zh) | 执行节点的压力调节方法、装置、服务器及存储介质 | |
Ilkhechi et al. | Network-aware virtual machine placement in cloud data centers with multiple traffic-intensive components | |
US11496413B2 (en) | Allocating cloud computing resources in a cloud computing environment based on user predictability | |
CN111131486B (zh) | 执行节点的负载调节方法、装置、服务器及存储介质 | |
CN113127192B (zh) | 一种多个服务共享同一个gpu的方法、系统、设备及介质 | |
CN108933829A (zh) | 一种负载均衡方法及装置 | |
GB2594367A (en) | Low entropy browsing history for content quasi-personalization | |
CN111092921A (zh) | 数据采集方法、装置及存储介质 | |
Shalu et al. | Artificial neural network-based virtual machine allocation in cloud computing | |
US11838266B2 (en) | IP address assignment apparatus, IP address assignment method and program | |
Jayapandian et al. | The online control framework on computational optimization of resource provisioning in cloud environment | |
CN110727511A (zh) | 应用程序的控制方法、网络侧设备和计算机可读存储介质 | |
CN112631577B (zh) | 一种模型的调度方法、模型调度器以及模型安全测试平台 | |
CN113377866A (zh) | 一种虚拟化数据库代理服务的负载均衡方法及装置 | |
Kaur et al. | Load balancing in cloud computing: The online traffic management | |
CN115202856A (zh) | 资源分配系统、方法、装置、计算机设备和存储介质 | |
Pakhrudin et al. | Cloud service analysis using round-robin algorithm for quality-of-service aware task placement for internet of things services | |
Nangu et al. | Optimization of virtual machine placement for balancing network and server load in edge computing environments | |
Choudhary et al. | Load balancing algorithm using JIQ methodology for virtual machines | |
CN116743589B (zh) | 云主机迁移方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20200626 |
|
WW01 | Invention patent application withdrawn after publication |