CN116339913A - 实例调整方法、实例管理系统、扩展决策器、设备及介质 - Google Patents
实例调整方法、实例管理系统、扩展决策器、设备及介质 Download PDFInfo
- Publication number
- CN116339913A CN116339913A CN202310222954.6A CN202310222954A CN116339913A CN 116339913 A CN116339913 A CN 116339913A CN 202310222954 A CN202310222954 A CN 202310222954A CN 116339913 A CN116339913 A CN 116339913A
- Authority
- CN
- China
- Prior art keywords
- instance
- workload
- change
- proxy
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 230000008859 change Effects 0.000 claims abstract description 270
- 238000004891 communication Methods 0.000 claims description 29
- 238000012790 confirmation Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 8
- 238000011156 evaluation Methods 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 230000008602 contraction Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000013475 authorization Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本申请实施例提供了一种实例调整方法、实例管理系统、扩展决策器、设备及介质,实例调整方法,包括:通过目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,代理工作负载中包括目标工作负载的实例标识;在通过代理工作负载执行第一实例变更指令之后,基于第一实例变更指令对应的执行结果,确定代理工作负载内进行的实例标识进行变更,得到预测实例变更结果;根据预测实例变更结果与预设的实例变更策略,控制目标工作负载进行实例变更。本实施例提供的方案,可以使代理工作负载执行第一实例变更指令后的实例情况,作为预测实例变更结果,不会对目标工作负载产生影响,且提高了本方案的可扩展性。
Description
技术领域
本申请实施例涉及计算机技术领域,尤其涉及一种实例调整方法、实例管理系统、扩展决策器、设备及介质。
背景技术
目前用于管理容器化应用的平台,例如Kubernetes,简称k8s,其中提供一种水平伸缩管理器,能够管理容器化应用中的各个实例的数量,从而实现水平扩缩容。
通过水平伸缩管理器进行管理时,一般由水平伸缩管理器根据指标服务器返回的实例的各个指标参数进行管理。若指标服务器中实例的指标参数有误时,可能会导致扩缩容过程出现错误。
有鉴于此,本申请亟需解决的技术问题是提供另一种的实例管理方案。
发明内容
有鉴于此,本申请实施例提供一种实例调整方案,以至少部分解决上述问题。
根据本申请实施例的第一方面,提供了一种实例调整方法,包括:通过目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识;在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果;根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
根据本申请实施例的第二方面,提供了一种实例管理系统,包括:水平伸缩控制器,用于根据目标工作负载对应实例的实例参数,以及关联至代理工作负载的水平伸缩策略,生成第一实例变更指令;扩展决策器,用于通过其中与所述目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识;以及在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果;并根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
根据本申请实施例的第三方面,提供了一种扩展决策器,包括:目标工作负载对应的代理工作负载、扩展控制器;所述代理工作负载,用于接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识,以及用于执行所述第一实例变更指令;所述扩展控制器,用于在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果,根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
根据本申请实施例的第四方面,提供了一种电子设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如第一方面所述方法对应的操作。
根据本申请实施例的第五方面,提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面所述的方法。
根据本申请实施例提供的实例调整方案,通过与目标工作负载具有相同实例标识的代理工作负载接收第一实例变更指令,并通过所述代理工作负载执行所述第一实例变更指令,可以使得代理工作负载执行第一实例变更指令后的实例情况,作为目标工作负载执行第一实例变更指令后的预测实例变更结果,且不会对目标工作负载产生影响,再在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果,并根据预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更,可以方便快捷地根据预测实例变更结果执行策略任务,且相关人员可根据需求对预设的实例变更策略及其对应的策略任务进行设置,提高了本方案的可扩展性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请实施例中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
图1为适用本申请实施例的实例调整方法的示例性系统的示意图;
图2为根据本申请实施例的一种实例管理系统的结构示意图;
图3为根据本申请实施例的一种实例调整方法的步骤流程图;
图4为根据本申请实施例的一种场景示例的示意图;
图5为根据本申请实施例的一种电子设备的结构示意图。
具体实施方式
为了使本领域的人员更好地理解本申请实施例中的技术方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请实施例一部分实施例,而不是全部的实施例。基于本申请实施例中的实施例,本领域普通技术人员所获得的所有其他实施例,都应当属于本申请实施例保护的范围。
下面结合本申请实施例附图进一步说明本申请实施例具体实现。
图1示出了一种适用本申请实施例的实例调整方法的示例性系统。如图1所示,该系统100可以包括云服务端102、通信网络104和/或一个或多个用户设备106,图1中示例为多个用户设备106。
云服务端102可以是用于存储信息、数据、程序和/或任何其他合适类型的内容的任何适当的设备,包括但不限于分布式存储系统设备、服务器集群、计算云服务端集群等。在一些实施例中,云服务端102可以执行任何适当的功能。例如,在一些实施例中,云服务端102可以用于部署容器。作为可选的示例,在一些实施例中,云服务端102可以被用于部署应用容器的实例、工作负载等。作为另一示例,在一些实施例中,云服务端102可以被用于运行工作负载并输出结果。
在一些实施例中,通信网络104可以是一个或多个有线和/或无线网络的任何适当的组合。例如,通信网络104能够包括以下各项中的任何一种或多种:互联网、内联网、广域网(Wide Area Network,WAN)、局域网(Local Area Network,LAN)、无线网络、数字订户线路(Digital Subscriber Line,DSL)网络、帧中继网络、异步转移模式(AsynchronousTransfer Mode,ATM)网络、虚拟专用网(Virtual Private Network,VPN)和/或任何其它合适的通信网络。用户设备106能够通过一个或多个通信链路(例如,通信链路112)连接到通信网络104,该通信网络104能够经由一个或多个通信链路(例如,通信链路114)被链接到云服务端102。通信链路可以是适合于在用户设备106和云服务端102之间传送数据的任何通信链路,诸如网络链路、拨号链路、无线链路、硬连线链路、任何其它合适的通信链路或此类链路的任何合适的组合。
用户设备106可以包括适合于呈现工作负载对应的结果、设置扩展策略任何一个或多个用户设备。在一些实施例中,用户设备106可以包括任何合适类型的设备。例如,在一些实施例中,用户设备106可以包括移动设备、平板计算机、膝上型计算机、台式计算机、可穿戴计算机、游戏控制台、媒体播放器、车辆娱乐系统和/或任何其他合适类型的用户设备。
基于上述系统,本申请实施例提供了一种实例调整方法,以下通过多个实施例进行说明。
参见图2,示出了本实施例提供的一种实例管理系统的结构示意图,如图所示,其包括:
水平伸缩控制器201,用于根据所述目标工作负载对应实例的实例参数,以及关联至所述代理工作负载的水平伸缩策略,生成所述第一实例变更指令;
扩展决策器202,用于通过其中与所述目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识;以及在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果;并根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
本实施例中,通过在水平伸缩控制器和目标工作负载之间层架扩展决策器,并通过扩展决策器中的代理工作负载接收水平伸缩控制器发出的第一实例变更指令并执行,从而可以按照第一实例变更指令对代理工作负载内的实例标识进行变更,通过变更后的预测实例变更结果可以表征目标工作负载按照第一实例变更指令进行变更后的情况。
之后根据预测实例变更结果,和预设的实例变更策略,可以控制目标工作负载进行实例变更,即在水平伸缩控制器输出第一实例变更指令后,先通过代理工作负载进行测试变更,并判断对应的预测实例变更结果是否符合预设的实例变更策略,再对目标工作负载进行实例变更,若发现预测实例变更结果不符合预设的实例变更策略,则可以不对目标工作负载进行实例变更,由此,可以通过设置实例变更策略对实例管理过程进行干扰,尽量避免变更出错的情况,另外,还可以使得用户能够按照自身需求设置实例变更策略,提高了实例管理过程的可扩展性。
另外,本实施例中,所述扩展决策器中还可以包括扩展控制器,用于监听所述代理工作负载得到所述预测实例变更结果,读取对应的预设实例变更策略,以及根据所述预测实例变更结果,执行所述实例变更策略对应的策略任务。
下面通过具体地方案,对本实施例提供的方案进行具体说明。
工作负载:是访问服务的实际载体,也是对节点日志收集等系统应用的实际运行载体。
实例POD是可以在Kubernetes中创建和管理的、最小的可部署的计算单元。
目标工作负载为实际运行的工作负载,代理工作负载为代替目标工作负载执行第一实例变更指令的工作负载。一个目标工作负载可以对应有一组实例,对于每个实例对应分别有与其一一对应的实例标识,则代理工作负载中可以存储有目标工作负载中运行的各个实例的实例标识,如实例标识列表,理论上来说,在目标工作负载和在代理工作负载上进行实例变更的结果相同。
参见图3,示出了一种实例调整方法的流程示意图,如图所示,其包括:
S301、通过目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识。
本实施例提供的方案主要用于容器化应用平台,例如Kubernetes中。
在容器化应用中可以部署有工作负载,工作负载实际上是运行在容器化应用平台上的应用程序。
工作负载一般对应有若干个实例POD,实例是平台上创建和管理的计算单元,也是运行容器化应用的资源对象。实例可以按组分,一组实例可以共享存储、网络以及运行实例的声明。实例可以为多进程实例,此时一个实例中可以包括多个容器,每个容器运行一个应用程序。
当对目标工作负载进行管理时,例如对目标工作负载运行的实例进行参数监测,发现实例利用率较低或实例满载,则可以生成将实例数量变更为预设值的第一实例变更指令,变更包括减少或增加。
本实施例中,一个目标工作负载可以对应有一组实例,对于每个实例分别有与其一一对应的实例标识,则代理负载中存储有目标负载中运行的各个实例的实例标识,如实例标识列表,理论上来说,在目标工作负载和在代理工作负载上进行实例变更的结果相同。由此,通过与目标工作负载具有相同实例标识的代理工作负载接收第一实例变更指令,并在后续步骤中通过所述代理工作负载执行所述第一实例变更指令,可以使得代理工作负载执行第一实例变更指令后的实例情况,作为目标工作负载执行第一实例变更指令后的预测实例变更结果,且不会对目标工作负载产生影响。
可选地,本实施例中,所述代理工作负载中包括所述目标工作负载关联的实例标识对应的实例树。
实例树可以是用于指示代理工作负载与目标工作负载关联的实例标识的对应关系的树形结构,具体来说可以是无序树结构或是二叉树结构。
S302、在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果。
具体地,本实施例中,代理工作负载中内置有处理器,通过代理工作负载中的处理器接收到第一实例变更指令后,执行第一实例变更指令,在代理工作负载内增加或者删除一定数量的实例标识,从而得到预测实例变更结果。
例如,代理工作负载可以包括6个实例,第一实例变更指令可以指示增加2个实例,则预测实例变更结果变为8个实例。
S303、根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
实例变更策略可以为相关人员为实例变更设置的策略,并且可以是由相关人员进行输入的,为实例变更设置的实例变更策略可以是进行实例变更的条件、向目标用户或者目标系统申请是否进行实例变更、被变更的实例的优先级等,本实施例对此不进行限定。
具体地,实例变更策略包括以下至少之一:根据用户对所述预测实例变更结果的确认,控制所述目标工作负载进行实例变更;若需要减少目标工作负载变更的实例数量,则根据所述实例得分以及所述变更的实例数量,删除所述目标工作负载中的实例;向目标工作负载正在运行的实例关联的通知接口通知实例变更结果。
本实施例中,可以判断预设实例变更结果是否符合实例变更策略,若符合则控制目标工作负载进行实例变更,若不符合,则可以控制目标工作负载不进行实例变更,并可以控制代理工作负载更新实例标识至与目标工作负载一致。
可选地,本实施例中步骤S303可以包括:在得到所述预测实例变更结果后,读取预设的实例变更策略,确定读取的所述实例变更策略对应的策略任务;根据所述预测实例变更结果,执行确定的所述策略任务;根据所述策略任务的执行结果,控制所述目标工作负载进行实例变更。
本实施例中,可以预先存储有实例变更策略,并预先设置有实例变更策略对应的测量任务。在获得预测实例变更结果后,可以确定实例变更策略对应的策略任务,并将预测实例变更结果输入至策略任务中,策略任务的执行结果可以包括:允许对目标工作负载进行实例变更,或者,可以对目标工作负载中的候选实例进行变更等,本实施例对此不进行限定。
通过设置实例变更策略对应的策略任务,可以方便快捷地根据预测实例变更结果执行策略任务,且相关人员可根据需求对预设的实例变更策略及其对应的策略任务进行设置,提高了本方案的可扩展性。
另外,本实施例中,通过在目标工作负载之前增加代理工作负载,并根据代理工作负载执行第一实例变更指令得到的预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更,无需对原有的目标工作负载等进行更改,提高了本方案的兼容性。
具体地,本实施例中,所述策略任务包括以下至少之一:
调用请求用户确认所述预测实例变更结果的确认接口,接收用户反馈的确认信息,所述确认接口用于请求用户对所述预测实例变更结果进行确认;
根据所述预测实例变更结果调用与所述目标工作负载正在运行的实例关联的通知接口,以通知实例变更结果。
当策略任务为“调用请求用户确认所述预测实例变更结果的确认接口,接收用户反馈的确认信息”时,该类策略任务针对的目标工作负载可以对应于核心应用。当核心应用进行扩容或者缩容时,执行上述策略任务,使得用户了解到具体进行的扩容或者缩容操作,当接收到用户的确认信息后才根据预测实例变更结果控制目标工作负载进行实例变更;反之,若用户输入的为拒绝变更的信息,则控制目标工作负载不进行实例变更。
当策略任务为“根据所述预测实例变更结果调用与所述实例关联的通知接口,以将实例变更情况向所述实例关联的其他任务进行通知”时,目标工作负载可能关联有其他的任务,例如依赖目标工作负载的结果进行后续计算的任务等,此时,可以将实例变更情况同步至其他任务,以使其他任务及时了解目标工作负载的实例变化情况,进而推断出其他发生联动变化的情况,其他任务可以例如容量评估任务,具体可以将实例变更情况同步至容量评估任务,通过容量评估任务评估当前系统的实例情况,并可以根据评估结果降低扩容数量或拒绝扩容行为到真实工作负载上,以此保证核心应用优先使用资源。
可选地,本实施例中,若所述预测实例变更结果为减少实例数量,则步骤S303可以包括:根据所述预测实例变更结果与预设的实例变更策略,生成第二实例变更指令,所述第二实例变更指令用于指示所述目标工作负载变更的实例数量;通过所述策略任务确定所述目标工作负载对应的实例的实例得分,根据所述实例得分以及所述变更的实例数量,确定被删除的候选实例,并变更所述目标工作负载对应的候选实例的参数,以将所述候选实例从所述目标工作负载对应的实例中删除,使得所述目标工作负载根据被删除的实例确定变更后的实例数量为所述第二实例变更指令指示的实例数量。
一般情况下,目标工作负载接收到实例变更指令后,会由目标工作负载内部的控制器自行删除部分实例,但目标工作负载无法确定各个实例的健康程度,也不能优先删除健康程度较低的实例。
而本实施例中,第二实例变更指令用于发送至目标工作负载,以指示目标工作负载的处理器进行实例删除操作;而具体的实例删除操作可以由策略任务根据目标工作负载对应的各个实例的实例得分进行删除,由此,可以保证目标工作负载接收到的指令与第一实例变更指令的格式一致,进而使得本申请实施例提供的方案在保证兼容性的基础上,可以根据实例的健康分数优先将健康程度较低的实例删除,提高了保留的实例的质量。
可选地,本实施例中,若所述预测实例变更结果为增加实例数量,则步骤S303可以包括:根据所述预测实例变更结果与预设的实例变更策略,生成第二实例变更指令,所述第二实例变更指令用于指示所述目标工作负载增加的实例数量;通过目标工作负载执行第二实例变更指令以增加实例数量,并将增加的实例标识同步至代理工作负载。
可选地,本实施例中,步骤S301之前,所述方法还包括:
S300、通过水平伸缩控制器根据所述目标工作负载对应实例的实例参数,以及关联至所述代理工作负载的水平伸缩策略,生成所述第一实例变更指令。
一般情况下,是水平伸缩控制器根据目标工作负载对应实例的实例参数,生成实例变更指令,并直接发送至目标工作负载。而本申请的实施例中,通过水平伸缩控制器生成指令时依赖的是关联至所述代理工作负载的水平伸缩策略,生成的是发送至代理工作负载的第一实例变更指令。
本实施例提供的方案,通过与目标工作负载具有相同实例标识的代理工作负载接收第一实例变更指令,并通过所述代理工作负载执行所述第一实例变更指令,可以使得代理工作负载执行第一实例变更指令后的实例情况,作为目标工作负载执行第一实例变更指令后的预测实例变更结果,且不会对目标工作负载产生影响,再根据预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更,可以方便快捷地根据预测实例变更结果执行策略任务,且相关人员可根据需求对预设的实例变更策略及其对应的策略任务进行设置,提高了本方案的可扩展性。
参见图4,示出了本申请实施例的一种使用场景示意图,如图所示,其中使用的设备包括指标服务器、水平伸缩控制器(即图中的HPA控制器,Horizontal Pod AutoscalingController)、扩展控制器;使用的资源包括:水平伸缩策略(即图中的HPA,Horizontal PodAutoscaling)、代理工作负载、预设的扩展策略、目标工作负载、目标工作负载对应的k个实例pod 1-pod k,其中,代理工作负载、扩展策略、扩展控制器位于扩展决策器中。
图中的虚线箭头指示资源之间的关联关系,又可称指向关系;虚线框用于表征扩展决策器,实线用于指示数据流向。
首先,可以由HPA控制器读取代理工作负载对应的HPA,并从指标服务器中获得目标工作负载的各个实例的参数,并可以根据参数输出第一实例变更指令。
第一实例变更指令被发送至代理工作负载,用于指示代理工作负载调整后的实例数量。
通过代理工作负载可以执行第一实例变更指令,对代理工作负载中存储的实例标识进行更改,得到预测实例变更结果。
扩展决策器中可以包括扩展控制器,扩展控制器可以从代理工作负载感知实例变化,得到预测实例变更结果,预测实例变更结果可以例如实例数量减少了两个等。
扩展控制器可以读取扩展策略,并执行扩展策略对应的策略任务,扩展策略可以有多个,对应的策略任务也可以存在多个,例如图中所示的策略任务1、策略任务2…策略任务n。
根据预测实例变更结果与策略任务的执行结果,可以生成第二实例变更指令,第二实例变更指令被发送至目标工作负载,可以指示目标工作负载执行预设实例变更结果对应额的实例变化,具体可以为增加实例数量或者减少实例数量。
本实施例提供的方案,通过与目标工作负载具有相同实例标识的代理工作负载接收第一实例变更指令,并通过所述代理工作负载执行所述第一实例变更指令,可以使得代理工作负载执行第一实例变更指令后的实例情况,作为目标工作负载执行第一实例变更指令后的预测实例变更结果,且不会对目标工作负载产生影响,再根据预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更,可以方便快捷地根据预测实例变更结果执行策略任务,且相关人员可根据需求对预设的实例变更策略及其对应的策略任务进行设置,提高了本方案的可扩展性;另外,发送至目标工作负载的第二实例变更指令的格式可以与HPA控制器发出的第一实例变更指令一致,从而无需更改HPA控制器以及目标工作负载,提高了本方案的兼容性。
本申请另一实施例提供一种扩展决策器,包括:目标工作负载对应的代理工作负载、扩展控制器;所述代理工作负载,用于接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识,以及用于执行所述第一实例变更指令;所述扩展控制器,用于在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果,根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
扩展控制器还用于在确定得到所述预测实例变更结果后,读取预设的实例变更策略;根据所述预测实例变更结果,执行所述实例变更策略对应的策略任务;根据所述策略任务的执行结果,控制所述目标工作负载进行实例变更。
参照图5,示出了根据本申请实施例五的一种电子设备的结构示意图,本申请具体实施例并不对电子设备的具体实现做限定。
如图5所示,该电子设备可以包括:处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。
其中:
处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。
通信接口504,用于与其它电子设备或服务器进行通信。
处理器502,用于执行程序510,具体可以执行上述实例调整方法实施例中的相关步骤。
具体地,程序510可以包括程序代码,该程序代码包括计算机操作指令。
处理器502可能是CPU,或者是特定集成电路ASIC(Application SpecificIntegrated Circuit),或者是被配置成实施本申请实施例的一个或多个集成电路。智能设备包括的一个或多个处理器,可以是同一类型的处理器,如一个或多个CPU;也可以是不同类型的处理器,如一个或多个CPU以及一个或多个ASIC。
存储器506,用于存放程序510。存储器506可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
程序510可包括多条计算机指令,程序510具体可以通过多条计算机指令使得处理器502执行前述多个方法实施例中任一实施例所描述的实例调整方法对应的操作。
程序510中各步骤的具体实现可以参见上述方法实施例中的相应步骤和单元中对应的描述,并具有相应的有益效果,在此不赘述。所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备和模块的具体工作过程,可以参考前述方法实施例中的对应过程描述,在此不再赘述。
本申请实施例还提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现前述多个方法实施例中任一实施例所描述的方法。该计算机存储介质包括但不限于:只读光盘(Compact Disc Read-Only Memory,CD-ROM)、随机存储器(RandomAccess Memory,RAM)、软盘、硬盘或磁光盘等。
本申请实施例还提供了一种计算机程序产品,包括计算机指令,该计算机指令指示计算设备执行上述多个方法实施例中的任一实例调整方法对应的操作。
此外,需要说明的是,本申请实施例所涉及到的与用户有关的信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于对模型进行训练的样本数据、用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。
需要指出,根据实施的需要,可将本申请实施例中描述的各个部件/步骤拆分为更多部件/步骤,也可将两个或多个部件/步骤或者部件/步骤的部分操作组合成新的部件/步骤,以实现本申请实施例的目的。
上述根据本申请实施例的方法可在硬件、固件中实现,或者被实现为可存储在记录介质(诸如CD-ROM、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码,或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质中的计算机代码,从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如专用集成电路(Application Specific Integrated Circuit,ASIC)或现场可编辑门阵列(Field Programmable Gate Array,FPGA))的记录介质上的这样的软件处理。可以理解,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如,随机存储器(Random Access Memory,RAM)、只读存储器(Read-Only Memory,ROM)、闪存等),当所述软件或计算机代码被计算机、处理器或硬件访问且执行时,实现在此描述的方法。此外,当通用计算机访问用于实现在此示出的方法的代码时,代码的执行将通用计算机转换为用于执行在此示出的方法的专用计算机。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及方法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请实施例的范围。
以上实施方式仅用于说明本申请实施例,而并非对本申请实施例的限制,有关技术领域的普通技术人员,在不脱离本申请实施例的精神和范围的情况下,还可以做出各种变化和变型,因此所有等同的技术方案也属于本申请实施例的范畴,本申请实施例的专利保护范围应由权利要求限定。
Claims (10)
1.一种实例调整方法,包括:
通过目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识;
在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果;
根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
2.根据权利要求1所述的方法,其中,所述根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更,包括:
在得到所述预测实例变更结果后,读取预设的实例变更策略,确定读取的所述实例变更策略对应的策略任务;
根据所述预测实例变更结果,执行确定的所述策略任务;
根据所述策略任务的执行结果,控制所述目标工作负载进行实例变更。
3.根据权利要求2所述的方法,其中,所述策略任务包括以下至少之一:
调用确认接口,接收用户反馈的确认信息,所述确认接口用于请求用户对所述预测实例变更结果进行确认;
根据所述预测实例变更结果调用与所述目标工作负载正在运行的实例关联的通知接口,以通知实例变更结果。
4.根据权利要求2所述的方法,其中,若所述预测实例变更结果为减少实例数量,则所述根据所述策略任务的执行结果,控制所述目标工作负载进行实例变更,包括:
根据所述预测实例变更结果与预设的实例变更策略,生成第二实例变更指令,所述第二实例变更指令用于指示所述目标工作负载变更的实例数量;
通过所述策略任务确定所述目标工作负载对应的实例的实例得分;
根据所述实例得分以及所述变更的实例数量,确定被删除的候选实例,并变更所述目标工作负载对应的候选实例的参数,以将所述候选实例从所述目标工作负载对应的实例中删除。
5.根据权利要求2任一项所述的方法,其中,所述实例变更策略包括以下至少之一:
根据用户对所述预测实例变更结果的确认,控制所述目标工作负载进行实例变更;
若需要减少目标工作负载变更的实例数量,则根据所述实例得分以及所述变更的实例数量,删除所述目标工作负载中的实例;
向目标工作负载正在运行的实例关联的通知接口通知实例变更结果。
6.根据权利要求1-4任一项所述的方法,其中,所述通过目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令之前,所述方法还包括:
通过水平伸缩控制器根据所述目标工作负载对应实例的实例参数,以及关联至所述代理工作负载的水平伸缩策略,生成所述第一实例变更指令。
7.一种实例管理系统,包括:
水平伸缩控制器,用于根据目标工作负载对应实例的实例参数,以及关联至代理工作负载的水平伸缩策略,生成第一实例变更指令;
扩展决策器,用于通过其中与所述目标工作负载对应的代理工作负载,接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识;以及在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果;并根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
8.一种扩展决策器,包括:目标工作负载对应的代理工作负载、扩展控制器;
所述代理工作负载,用于接收针对目标工作负载的第一实例变更指令,所述代理工作负载中包括所述目标工作负载的实例标识,以及用于执行所述第一实例变更指令;
所述扩展控制器,用于在通过所述代理工作负载执行所述第一实例变更指令之后,基于所述第一实例变更指令对应的执行结果,确定所述代理工作负载进行的实例标识变更,得到预测实例变更结果,根据所述预测实例变更结果与预设的实例变更策略,控制所述目标工作负载进行实例变更。
9.一种电子设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-6中任一项所述的方法对应的操作。
10.一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310222954.6A CN116339913A (zh) | 2023-03-03 | 2023-03-03 | 实例调整方法、实例管理系统、扩展决策器、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310222954.6A CN116339913A (zh) | 2023-03-03 | 2023-03-03 | 实例调整方法、实例管理系统、扩展决策器、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116339913A true CN116339913A (zh) | 2023-06-27 |
Family
ID=86881523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310222954.6A Pending CN116339913A (zh) | 2023-03-03 | 2023-03-03 | 实例调整方法、实例管理系统、扩展决策器、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116339913A (zh) |
-
2023
- 2023-03-03 CN CN202310222954.6A patent/CN116339913A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11743187B2 (en) | Application programing interface (API) gateway cluster control method and API gateway cluster | |
CN108965381B (zh) | 基于Nginx的负载均衡实现方法、装置、计算机设备和介质 | |
US10210342B2 (en) | Centralized throttling service | |
US8191068B2 (en) | Resource management system, resource information providing method and program | |
CN108379845B (zh) | 信息处理方法、装置和存储介质 | |
CN109768879B (zh) | 目标业务服务器的确定方法、装置及服务器 | |
CN111478857B (zh) | 一种接口限流控制方法、装置以及电子设备 | |
US9413778B1 (en) | Security policy creation in a computing environment | |
CN108683679A (zh) | Web APP的多账号登录方法、装置、设备及存储介质 | |
CN105847377A (zh) | 集群网络的请求拥塞过载处理方法及系统 | |
CN112422610A (zh) | 一种基于分布式对象存储的智能网关方法和系统 | |
CN113489689B (zh) | 访问请求的鉴权方法及装置、存储介质、电子设备 | |
CN111212087A (zh) | 一种登录服务器的确定方法、装置、设备及存储介质 | |
CN113726676A (zh) | 基于Redis的API接口限流方法、装置、计算机设备及存储介质 | |
CN111698281B (zh) | 一种资源下载方法、装置、电子设备及存储介质 | |
US20140280753A1 (en) | Method and apparatus for peer-to-peer file sharing | |
CN116339913A (zh) | 实例调整方法、实例管理系统、扩展决策器、设备及介质 | |
US20230246911A1 (en) | Control device, control method, control program and control system | |
CN113300966B (zh) | 流量控制方法、装置、系统以及电子设备 | |
CN116954810A (zh) | 容器应用实例的创建方法、系统、存储介质及程序产品 | |
CN113746909A (zh) | 网络连接方法、装置、电子设备和计算机可读存储介质 | |
CN113596149A (zh) | 流量控制方法、装置、设备及存储介质 | |
CN114296869A (zh) | 一种基于tcp长连接的服务器节点服役方法及装置 | |
CN112799849A (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN113127191A (zh) | 一种资源更新方法、存储介质及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |