CN116204293A - 一种资源调度方法、装置、计算机设备以及存储介质 - Google Patents
一种资源调度方法、装置、计算机设备以及存储介质 Download PDFInfo
- Publication number
- CN116204293A CN116204293A CN202310176908.7A CN202310176908A CN116204293A CN 116204293 A CN116204293 A CN 116204293A CN 202310176908 A CN202310176908 A CN 202310176908A CN 116204293 A CN116204293 A CN 116204293A
- Authority
- CN
- China
- Prior art keywords
- service
- target
- resource
- target service
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本公开提供了一种资源调度方法、装置、计算机设备以及存储介质,其中,该方法包括:根据目标服务的服务信息,确定所述目标服务的服务类型;确定与所述服务类型相匹配的资源配置参数;确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;基于所述目标配置参数,为所述目标服务配置对应的服务资源。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种资源调度方法、装置、计算机设备以及存储介质。
背景技术
随着互联网技术的发展,通过线上服务平台为用户提供线上服务的情况也越来越普遍,具体的,可以预先为线上服务分配资源,以使该线上服务基于分配到的资源处理用户的服务请求。
然而,在为用户提供线上服务时,该线上服务所需的资源通常会发生变化,例如,目标服务所使用的深度学习模型以较高的频次持续迭代时,该深度学习模型所能处理的数据流量会不断地调整,则预先为该服务分配资源可能会不足或者溢出,从而导致请求延迟较高,影响用户的使用体验,或者导致资源浪费。
发明内容
本公开实施例至少提供一种资源调度方法、装置、计算机设备以及存储介质。
第一方面,本公开实施例提供了一种资源调度方法,包括:
根据目标服务的服务信息,确定所述目标服务的服务类型;
确定与所述服务类型相匹配的资源配置参数;
确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
基于所述目标配置参数,为所述目标服务配置对应的服务资源。
一种可选的实施方式中,所述确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数,包括:
确定运行所述目标服务的第一服务器集群;
确定所述目标服务在所述第一服务器集群中所占用的算力资源,并根据所述算力资源确定所述资源占用数据;
基于所述第一服务器集群中的剩余算力资源,调整所述资源配置参数,得到与所述资源占用数据相匹配的目标配置参数。
一种可选的实施方式中,所述根据目标服务的服务信息,确定所述目标服务的服务类型,包括:
获取所述目标服务的运行数据,并基于所述运行数据确定所述目标服务的服务信息,其中,所述运行数据包括以下至少之一:数据流量峰值、请求延迟时间、数据吞吐量、处理器利用率、宽带占用率;
对所述服务信息进行数据统计处理,得到所述目标服务的运行特征;
确定所述运行特征对应的服务类型。
一种可选的实施方式中,所述资源配置参数的参数类型包括:服务扩容参数、服务缩容参数;其中,各个所述参数类型中包括至少一个资源配置参数;
所述确定与所述服务类型相匹配的资源配置参数,包括:
确定所述目标服务对应的目标参数类型;
基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数。
一种可选的实施方式中,所述基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数,包括:
获取所述目标服务的历史资源配置数据;
确定所述服务类型在所述目标参数类型中对应的资源配置参数,并基于所述历史资源配置数据,对所述资源配置参数进行调整操作。
一种可选的实施方式中,所述方法还包括:
在所述目标参数类型中不包括与目标服务相匹配的资源配置参数的情况下,基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组;
在所述配置参数组中确定出与所述目标服务相匹配的目标配置参数组。
一种可选的实施方式中,所述基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组,包括:
确定所述目标服务的资源配置范围;
基于所述资源配置范围,对所述资源配置参数进行组合,得到与所述资源配置范围相匹配的配置参数组。
一种可选的实施方式中,所述基于所述目标配置参数,为所述目标服务配置对应的服务资源,包括:
确定所述目标配置参数所对应的服务器集群,其中,所述服务器集群包括:运行所述目标服务的第一服务器集群,和/或与所述目标服务相关联的第二服务器集群;
在所述服务器集群中为所述目标服务配置对应的服务资源。
第二方面,本公开实施例还提供一种资源调度装置,包括:
第一确定单元,用于根据目标服务的服务信息,确定所述目标服务的服务类型;
第二确定单元,用于确定与所述服务类型相匹配的资源配置参数;
调整单元,用于确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
配置单元,用于基于所述目标配置参数,为所述目标服务配置对应的服务资源。
第三方面,本公开实施例还提供一种计算机设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第四方面,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种资源调度方法的流程图;
图2示出了本公开实施例所提供的确定与服务类型相匹配的资源配置参数的流程图;
图3示出了本公开实施例所提供的一种资源调度系统的示意图;
图4示出了本公开实施例所提供的一种资源调度装置的示意图;
图5示出了本公开实施例所提供的一种计算机设备的示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
本文中术语“和/或”,仅仅是描述一种关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
经研究发现,随着互联网技术的发展,通过线上服务平台为用户提供线上服务的情况也越来越普遍,具体的,可以预先为线上服务分配资源,以使该线上服务基于分配到的资源处理用户的服务请求。
然而,在为用户提供线上服务时,该线上服务所需的资源通常会发生变化,例如,目标服务所使用的深度学习模型以较高的频次持续迭代时,该深度学习模型所能处理的数据流量会不断地调整,则预先为该服务分配资源可能会不足或者溢出,从而导致请求延迟较高,影响用户的使用体验,或者导致资源浪费。
基于上述研究,本公开提供了一种资源调度方法、装置、计算机设备以及存储介质。在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种资源调度方法进行详细介绍,本公开实施例所提供的资源调度方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备。在一些可能的实现方式中,该资源调度方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
参见图1所示,为本公开实施例提供的一种资源调度方法的流程图,所述方法包括步骤S101~S107,其中:
S101:根据目标服务的服务信息,确定所述目标服务的服务类型。
在本公开实施例中,上述目标服务可以用于给用户提供线上服务,这里,该目标服务可以用于计算机视觉、自然语言处理与推荐系统等领域,具体的,该目标服务可以在这些领域通过深度学习推理模型来更好的服务于用户,其中,与传统的线上服务相比,占用大量计算资源的深度学习推理模型会以较高频次持续的进行迭代,并使用线上流量验证、对比实际效果,并做相应的流量切换,该深度学习推理模型所能处理的数据流量也会不断地调整。
基于此,本公开可以动态的调整为该目标服务配置的服务资源,具体的,首先可以确定该目标服务的服务信息,其中,该服务信息可以包括该目标服务在运行时对应的运行数据以及该目标服务的基础信息,其中,基础信息可以包括深度学习推理模型的模型类型,计算复杂度等,运行数据的内容如下所述,此处不再赘述。
在确定出目标服务的服务信息之后,可以基于该服务信息确定该目标服务的服务类型,该服务类型可以包括:线上核心服务、优化模型低流量验证服务、试验模型小流量测试服务等,其中,不同服务类型的资源配置优先级是不同的。这里,可以基于该目标服务的服务类型确定该目标服务的资源配置优先级,以根据该资源配置优先级确定与该目标服务相匹配资源配置参数,具体如下所述,此处不再赘述。
S103:确定与所述服务类型相匹配的资源配置参数。
在本公开实施例中,可以基于分类模型确定出目标服务的服务类型,并通过该分类模型对服务类型进行分类,确定出与该服务类型相匹配的资源配置策略,该资源配置策略中包括资源配置参数,其中,该资源配置参数可以为包括:扩缩容阈值(包括上限以及下限)、扩缩容速度等。
这里,该资源配置策略可以包括:快速扩容、扩容优先、缩容优先、快速缩容,其中,快速扩容可以作为针对核心服务的高可用策略,扩容优先可以作为针对验证服务的资源高效策略。另外,这几种资源配置策略的资源配置优先级逐渐降低,应理解的是,资源配置优先级越高的资源配置策略的扩缩容阈值越大,扩缩容速断也越快。
S105:确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数。
在本公开实施例中,可以基于该目标服务的运行数据,统计该目标服务所占用的算力资源,以基于该占用的算力资源确定该目标服务的资源占用数据,该资源占用数据可以包括:请求延迟、请求吞吐量、CPU利用率、GPU利用率、宽带占用率等。
应理解的是,上述目标服务所使用的深度学习推理模型是不断迭代的,因此该目标服务的资源占用数据可能存在较大的波动,例如,该深度学习推理模型在迭代过程中,计算复杂度逐渐增加,则占用的算力资源也逐渐增大,或者,该深度学习推理模型在迭代过程中,优化掉了某些算法,导致计算复杂度大幅度减小,则占用的算力资源也会骤减。
基于此,可以基该目标服务的资源占用数据来调整资源配置参数,例如,在该目标服务对应的上述资源配置策略为扩容优先,该扩容优先对应的资源配置参数中的扩容上限为30%,此时,若基于上述资源占用数据确定出该目标服务占用的算力资源增加,那么,可以将该扩容上限调整为35%,从而提高该目标服务的响应速度。这里,该扩容上限可以用于指示为目标服务分配的服务资源的数量,在目标服务当前占用服务资源的基础上,再增加扩容上限对应的当前占用服务资源的百分比。
S107:基于所述目标配置参数,为所述目标服务配置对应的服务资源。
在确定出目标配置参数之后,可以基于该目标配置参数中的扩缩容阈值确定为目标服务配置的服务资源的范围,基于目标配置参数中的扩缩容速度为该目标服务配置服务资源。
具体的,在确定为目标服务配置的服务资源的范围的过程中,首先可以确定用于运行目标服务的第一服务器集群,并确定该第一服务器集群中的空闲服务资源是否满足目标配置参数。若满足,则基于该第一服务器集群为目标服务配置服务资源,若不满足,则可以从与该目标服务相关联的第二服务器集群中调集服务资源,从而平衡多个服务器集群之间的服务资源。
通过上述描述可知,在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
在一个可选的实施方式中,上述步骤S101,根据目标服务的服务信息,确定所述目标服务的服务类型,具体包括如下过程:
S1011:获取所述目标服务的运行数据,并基于所述运行数据确定所述目标服务的服务信息,其中,所述运行数据包括以下至少之一:数据流量峰值、请求延迟时间、数据吞吐量、处理器利用率、宽带占用量。
在本公开实施例中,首先可以获取目标服务在运行过程中对应的运行数据,该运行数据包括以下至少之一:数据流量峰值、请求延迟时间、数据吞吐量、处理器利用率、宽带占用量。其中,数据流量峰值可以用于指示目标服务在运行时的流量峰峰值以及流量峰谷值,请求延迟时间可以用于指示目标服务对用户请求的响应时长,数据吞吐量可以用于指示目标服务在单位内处理用户请求的数量,处理率利用率可以包括GPU利用率以及CPU利用率。
S1012:对所述服务信息进行数据统计处理,得到所述目标服务的运行特征。
S1013:确定所述运行特征对应的服务类型。
在本公开实施例中,可以通过数据统计处理对上述运行数据分别进行处理,该数据统计处理可以包括加和、平均、加权、平方根等,其中,不同类型的运行数据对应的数据统计处理可以是不同的,例如,针对上述数据吞吐量进行的数据统计处理可以为平均,从而确定出目标服务对用户请求的平均响应时长。在对该运行数据进行数据统计处理后,可以得到该目标服务在运行时的运行特征。
在确定出上述运行特征之后,可以将该运行特征输入至上述分类模型中,以使该分类模型确定出目标服务的服务类型,以使该分类模型继续对该服务类型进行分类,从而确定出与该服务类型相匹配的资源配置策略。
应理解的是,可以根据使用需求设置上述分类模型的触发方式,例如,可以将该分类模型设置为自动触发,即按照预设时间间隔确定出与目标服务的服务类型相匹配的资源配置策略。或者,还可以将该分类模型设置为条件触发,例如,在发生增减服务器集群以及增减线上服务数量等情况,导致空闲服务资源发生变化时,可以手动触发该分类模型进行运行,确定该目标服务对应的资源配置策略,从而使得为该目标服务配置服务资源的方式更加灵活,也更加合理。
在本公开实施例中,可以基于目标赋的运行数据确定该目标服务的服务信息,并基于该服务信息进行数据统计处理,得到目标服务的运行特征,从而对该目标服务进行了预处理,提高了基于该运行特征确定出的服务类型的准确率。
在一个可选的实施方式中,上述资源配置参数的参数类型包括:服务扩容参数、服务缩容参数,其中,各个所述参数类型中包括至少一个资源配置参数,那么,如图2所示为上述步骤S103,确定与所述服务类型相匹配的资源配置参数的流程图,具体包括如下过程:
S1031:确定所述目标服务对应的目标参数类型。
在本公开实施例中,参数类型包括:服务扩容参数、服务缩容参数,其中,不同的参数类型对应的资源配置策略可以是不同的,例如,服务扩容参数对应的资源配置策略可以为上述快速扩容以及优先扩容,服务缩容参数对应的资源配置策略可以为上述缩容优先以及快速缩容。
S1032:基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数。
在本公开实施例中,可以基于该目标服务的服务类型,确定出为服务类型设置的资源配置优先级,以基于该资源配置优先级确定出对应的目标参数类型,并在该目标参数类型中确定出与该资源配置优先级相匹配的资源配置策略,并将该资源配置策略中的资源配置参数确定为与目标服务相匹配的资源配置参数。
例如,在目标服务的服务类型为上述线上核心服务时,为该线上核心服务设置的资源配合优先级可以为一级,一级对应的目标参数类型可以为服务扩容参数,同时,一级在该服务扩容参数中对应的呢资源配置策略可以为快速扩容。这里,该快速扩容对应的资源配置参数为扩容上限为30%,扩容速度为10ms,那么就可以将该配置参数确定为与目标服务相匹配的资源配置参数。
在本公开实施例中,资源配置参数的参数类型可以包括服务扩容参数以及服务缩容参数,从而针对不同服务类型的目标服务,可以分别进行服务扩容或者服务缩容,以增加或减少为该目标服务配置的赋资源,从而使得服务资源的动态配置过程更为灵活,减少了资源浪费的同时降低了用户请求的响应延迟时间,提高了用户的使用体验。
在一个可选的实施方式中,上述步骤S1032,基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数,具体包括如下过程:
S11:获取所述目标服务的历史资源配置数据。
在本公开实施例中,在通过上述分类模型确定出与目标服务的服务类型相匹配的资源配置参数后,还可以对该资源配置参数进行调整,从而使得该资源配置参数与目标服务的适配性更高。
具体的,首先可以获取目标服务的历史资源配置数据,并基于该历史资源配置数据确定目标服务的多个历史资源配置参数,并基于这些历史资源配置参数,确定目标服务的历史扩缩容阈值以及历史扩缩容速度等。
S12:确定所述服务类型在所述目标参数类型中对应的资源配置参数,并基于所述历史资源配置数据,对所述资源配置参数进行调整操作。
在确定出上述历史扩缩容阈值以及历史扩缩容速度之后,可以对目标服务对应的当前的资源配置参数进行调整操作。这里,可以基于历史扩缩容阈值调整当前的资源配置参数的扩缩容阈值,并基于历史扩缩容速度,调整当前的资源配置参数的扩缩容速度。
具体的,首先可以基于历史扩缩容阈值,确定扩容上限以及缩容下限,并基于该扩容上限以及缩容下限调整当前的资源配置参数的扩缩容阈值。另外,可以基于历史扩容速度进行取平均数或者取极值,以基于该平均数或者取极值,调整当前的资源配置参数的扩缩容速度。
在本公开实施例中,可以根据目标服务的历史资源配置数据,调整与该目标服务对应的当前的资源配置参数,从而对资源配置参数进行进一步修正,以使基于该资源配置参数为目标服务分配的服务资源更加合理。
在一个可选的实施方式中,上述步骤S103所对应的实施方式,还包括如下过程:
S21:在所述目标参数类型中不包括与目标服务相匹配的资源配置参数的情况下,基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组。
S22:在所述配置参数组中确定出与所述目标服务相匹配的目标配置参数组。
在本公开实施例中,首先可以确定于目标服务相匹配的资源配置参数,具体的,可以确定与该目标服务相匹配的扩缩容阈值以及扩缩容速度,若在目标参数类型中与该扩缩容阈值以及扩缩容速度相匹配的资源配置参数时,可以确定目标参数类型中不包括与目标服务相匹配的资源配置参数。
接下来,可以基于全部参数类型中的资源配置参数进行组合,得到配置参数组,本公开对组成该配置参数组的资源配置参数的数量不做具体限定。若该配置参数组的数量为多个时,可以在这多个配置参数组中确定出与上述扩缩容阈值以及扩缩容速度相匹配的目标配置参数组。
在对资源配置参数进行组合时,这里以扩缩容阈值进行举例,可以对待组合的多个扩缩容阈值进行取极值,或者取并集,从而得到配置参数组对应的扩缩容阈值,具体如下所述,此处不再赘述。
在确定出配置参数组之后,可以在配置参数组中确定出与目标服务的扩缩容阈值以及扩缩容速度相匹配的目标配置参数组。这里同样以扩缩容阈值为例,可以将扩缩容阈值与目标服务对应的扩缩容阈值差距最小的配置参数组确定为目标配置参数组。
在本公开实施例中,基于单一的参数类型为目标服务匹配资源配置参数可能存在局限性,例如,该目标服务对服务资源的需求变动较大,可能同时存在服务扩容需求以及服务缩容需求,基于此,本公开可以对各个参数类型中的资源配置参数进行组合,得到配置参数组,从而突破局限性,使得为该目标服务确定出的资源配置策略与该目标服务的适配度更高。
在一个可选的实施方式中,上述步骤S21,基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组,具体包括如下过程:
(1)、确定所述目标服务的资源配置范围;
(2)、基于所述资源配置范围,对所述资源配置参数进行组合,得到与所述资源配置范围相匹配的配置参数组。
在本公开实施例中,资源配置范围可以用于指示目标配置参数对应的扩缩容阈值,基于资源配置范围对资源配置参数进行组合,实质上就是对资源配置参数中的扩缩容阈值进行组合,具体包括以下几种方式:
方式一:对待组合的多个扩缩容阈值进行取极值。
在本公开实施例中,在对上述资源配置参数进行组合时,可以针对扩缩容阈值取极值,例如,在针对扩容上限20%,扩容上限30%以及扩容上限10%这几个资源配置参数进行组合时,可以取极大值30%,则得到的配置参数组的扩容上限为30%。
方式二:对待组合的多个扩缩容阈值进行取并集。
在本公开实施例中,在对上述资源配置参数进行组合时,可以针对扩缩容阈值取并集,例如,在针对扩容上限30%以及缩容下限20%取并集时,得到的配置参数组的扩容上限为30%,同时缩容下限为20%。
由上可知,在本公开实施例中,基于单一的参数类型为目标服务匹配资源配置参数可能存在局限性,例如,该目标服务对服务资源的需求变动较大,可能同时存在服务扩容需求以及服务缩容需求,基于此,本公开可以对各个参数类型中的资源配置参数进行组合,得到配置参数组,从而突破局限性,使得为该目标服务确定出的资源配置策略与该目标服务的适配度更高。
方式三:对待组合的多个扩缩容阈值与阈值模板进行组合
在本公开实施例中,阈值模板可以包括固定比值系数,基于该阈值模板确定出的扩缩容阈值可以为比例系数与处理器集群中运算核数量的乘积,其中,在该阈值模板为扩容模板时,固定比值系数为10%,处理器集群中运算核的数量为4个,则基于该阈值模板确定出的扩容上限为40%,从而使得确定出的扩容上限可以适应服务器集群的算力,进一步提高了本公开的适用性。
在将待组合的扩缩容阈值与阈值模板进行组合时,可以通过上述方式一或者方式二进行组合,本公开对此不作具体限定。
在一个可选的实施方式中,上述步骤S105,确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数,具体包括如下过程:
S1051:确定运行所述目标服务的第一服务器集群。
S1052:确定所述目标服务在所述第一服务器集群中所占用的算力资源,并根据所述算力资源确定所述资源占用数据。
在本公开实施例中,上述第一服务器集群中可以包括至少一个服务式的服务器,这些服务器可以用于运行目标服务,基于此,在确定目标服务的资源占用数据时,可以确定该目标服务在第一服务器集群中所占用的算力资源,例如,占据CPU以及GPU的数量等。
接下来,可以确定第一服务器集群的总算力资源,并基于目标服务占用的算力资源与总算力资源之间的指,确定出目标服务的资源占用数据。例如,CPU利用率为20%,GPU利用率为10%。
S1033:基于所述第一服务器集群中的剩余算力资源,调整所述资源配置参数,得到与所述资源占用数据相匹配的目标配置参数。
在本公开实施例中,为了避免资源配置参数所指示分配的服务资源超出第一服务器集群的负荷,可以基于该第一服务器集群中的剩余算力资源调整资源配置参数。
具体的,首先可以基于目标服务在第一服务器集群中所占用的算力资源,确定第一服务器集群中的剩余算力资源,并确定资源配置参数中的扩缩容阈值,并确定该扩缩容阈值所指示的资源配置范围,若该资源配置范围超出第一服务器集群中的剩余算力资源,那么就根据剩余算力资源调整资源配置参数,从而得到目标配置参数。
举例来说,若资源配置参数中的扩容上限为50%,目标服务当前在第一服务器集群中所占用的服务资源为80%,而第一服务器集群中的剩余算力资源为20%,此时,该扩容上限所指示的资源配置范围超出第一服务器集群中的剩余算力资源,则可以根据该剩余算力资源调整扩容上限。具体的,可以将该扩容上限调整为小于25%,以使得到的目标配置参数所指示的资源配置范围不超出第一服务器集群中的剩余算力资源。
在本公开实施例中,可以基于第一服务器集群中的剩余算力资源调整资源配置参数,得到目标配置参数,以使基于目标资源配置参数为目标服务分配的服务资源不超过第一服务器集群的负荷。
在一个可选的实施方式中,上述步骤S107,基于所述目标配置参数,为所述目标服务配置对应的服务资源,具体包括如下过程:
S1071:确定所述目标配置参数所对应的服务器集群,其中,所述服务器集群包括:运行所述目标服务的第一服务器集群,和/或与所述目标服务相关联的第二服务器集群。
S1072:在所述服务器集群中为所述目标服务配置对应的服务资源。
在本公开实施例中,考虑到在运行线上服务时往往采用多地多中心混部的方式,在该运行方式中,通过多个服务器集群组成了分布式系统,每个运行区域可以对应至少一个服务器集群,通常的,目标服务通过分布式系统中的至少一个服务器集群进行运行,用于运行该目标服务的至少一个服务器集群即为第一服务器集群。另外,还可以确定与该目标服务器相关联的第二服务器集群,例如,可以将该第一服务器集群相邻的服务器集群确定为第二服务器集群,或者将分布式系统除第一服务器集群之外的其他服务器集群确定为第二服务器集群。
基于此,在确定出上述目标配置参数后,可以确定该目标配置参数对应的服务器集群,具体的,可以确定该目标配置参数中的扩缩容阈值所指示的资源配置范围,并确定该资源配置范围是否超出第一服务器集群中的剩余算力资源。若是,可以同时在第一服务器集群以及第二服务器集群中为目标服务配置服务资源,以满足该目标配置参数。若否,可以在第一服务器集群中为目标服务配置服务资源。
在本公开实施例中,考虑到在运行线上服务时往往采用多地多中心混部的方式,在该运行方式中,通过多个服务器集群组成了分布式系统,因此,可以在该分布式系统中确定目标配置参数所对应的服务器集群,其中,该服务器集群除了包括用于运行目标服务的第一服务器集群之外,还可以包括分布式系统中的其他服务器集群,从而协调了分布式系统中的服务资源。
综上,在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
基于同一发明构思,本公开实施例中还提供了与资源调度方法对应的资源调度装置。参照图3所示,为本公开实施例提供的一种资源调度系统的示意图,所述系统包括:扩缩容模块、分类模型模块、资源配置策略制定模块;其中,
扩缩容模块,获取目标服务的服务信息,并对该服务信息进行数据统计处理,得到目标服务的服务类型,并将该服务类型发送至分类模块,以获取该分类模块返回的资源配置策略,并基于上述第一服务器集群中的剩余算力资源,调整该资源配置策略中的资源配置参数,得到目标配置参数,并通过该目标配置参数为目标服务配置对应的服务资源。
在本公开实施例中,可以通过监控子模块获取目标服务的服务信息,并通过服务分类子模块,对该服务信息进行数据统计处理,得到目标服务的运行特征,以基于该运行特征确定目标服务的服务类型,具体确定该服务类型的过程如上述步骤S101所对应的实施例所述,此处不再赘述。
接下来,可以通过策略优化子模块,对分类模块返回的资源配置策略进行优化,具体的,可以获取第一服务器集群的集群信息,其中,该集群信息包括第一服务器集群中的剩余算力资源,调整该资源配置策略中的资源配置参数,得到目标配置参数,具体确定该目标配置参数的过程如上述步骤S105所述,此处不再赘述。
在确定出目标配置参数后,可以通过自动配置子模块,为目标服务配置对应的服务资源,具体为目标服务配置对应的服务资源的过程如上述步骤S107所对应的实施例所述,此处不再赘述。
分类模型模块,通过上述分类模型,确定与服务类型相匹配的资源配置策略。
在本公开实施例中,通过上述分类模型,确定与服务类型相匹配的资源配置策略的过程如上述步骤S103所对应的实施例所述,此处不再赘述
资源配置策略制定模块,根据历史资源配置数据,对资源配置策略中的资源配置参数进行调整操作。
在本公开实施例中,可以通过策略与更新子模块,制定资源配置策略,并根据历史资源配置数据,对资源配置策略中的资源配置参数进行调整操作的过程如上述步骤S1032所对应的实施例所述,此处不再赘述。同时,该资源配置策略制定模块还可以基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组,具体的组合过程如上述步骤S103所对应的实施例所述,此处不再赘述。
在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与资源调度方法对应的资源调度装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述资源调度方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参照图4所示,为本公开实施例提供的一种资源调度装置的示意图,所述装置包括:第一确定单元41、第二确定单元42、调整单元43、配置单元44;其中,
第一确定单元41,用于根据目标服务的服务信息,确定所述目标服务的服务类型;
第二确定单元42,用于确定与所述服务类型相匹配的资源配置参数;
调整单元43,用于确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
配置单元44,用于基于所述目标配置参数,为所述目标服务配置对应的服务资源。
在本公开实施例中,首先可以根据目标服务的服务信息,确定该目标服务的服务类型,并确定与该服务类型相匹配的资源配置参数。接下来,可以确定该目标服务的资源占用数据,并将资源配置参数调整为与资源占用数据相匹配的目标配置参数,以基于该目标配置参数为目标服务配置服务资源。基于此,本公开可以动态调整为目标服务配置的服务资源,从而在目标服务资源所需的服务资源发生变化时,使得为该目标服务配置的服务资源与目标服务较为匹配,使得资源配置较为合理,降低了用户请求的响应延迟时间,提高了用户的使用体验。
一种可能的实施方式中,调整单元43,还用于:
确定运行所述目标服务的第一服务器集群;
确定所述目标服务在所述第一服务器集群中所占用的算力资源,并根据所述算力资源确定所述资源占用数据;
基于所述第一服务器集群中的剩余算力资源,调整所述资源配置参数,得到与所述资源占用数据相匹配的目标配置参数。
一种可能的实施方式中,第一确定单元41,还用于:
获取所述目标服务的运行数据,并基于所述运行数据确定所述目标服务的服务信息,其中,所述运行数据包括以下至少之一:数据流量峰值、请求延迟时间、数据吞吐量、处理器利用率、宽带占用率;
对所述服务信息进行数据统计处理,得到所述目标服务的运行特征;
确定所述运行特征对应的服务类型。
一种可能的实施方式中,所述资源配置参数的参数类型包括:服务扩容参数、服务缩容参数;其中,各个所述参数类型中包括至少一个资源配置参数,第二确定单元42,还用于:
确定所述目标服务对应的目标参数类型;
基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数。
一种可能的实施方式中,第二确定单元42,还用于:
获取所述目标服务的历史资源配置数据;
确定所述服务类型在所述目标参数类型中对应的资源配置参数,并基于所述历史资源配置数据,对所述资源配置参数进行调整操作。
一种可能的实施方式中,第二确定单元42,还用于:
在所述目标参数类型中不包括与目标服务相匹配的资源配置参数的情况下,基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组;
在所述配置参数组中确定出与所述目标服务相匹配的目标配置参数组。
一种可能的实施方式中,第二确定单元42,还用于:
确定所述目标服务的资源配置范围;
基于所述资源配置范围,对所述资源配置参数进行组合,得到与所述资源配置范围相匹配的配置参数组。
一种可能的实施方式中,配置单元44,还用于:
确定所述目标配置参数所对应的服务器集群,其中,所述服务器集群包括:运行所述目标服务的第一服务器集群,和/或与所述目标服务相关联的第二服务器集群;
在所述服务器集群中为所述目标服务配置对应的服务资源。
对应于图1中的资源调度方法,本公开实施例还提供了一种计算机设备500,如图5所示,为本公开实施例提供的计算机设备500结构示意图,包括:
处理器51、存储器52、和总线53;存储器52用于存储执行指令,包括内存521和外部存储器522;这里的内存521也称内存储器,用于暂时存放处理器51中的运算数据,以及与硬盘等外部存储器522交换的数据,处理器51通过内存521与外部存储器522进行数据交换,当所述计算机设备500运行时,所述处理器51与所述存储器52之间通过总线53通信,使得所述处理器51执行以下指令:
根据目标服务的服务信息,确定所述目标服务的服务类型;
确定与所述服务类型相匹配的资源配置参数;
确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
基于所述目标配置参数,为所述目标服务配置对应的服务资源。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的资源调度方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例还提供一种计算机程序产品,该计算机程序产品承载有程序代码,所述程序代码包括的指令可用于执行上述方法实施例中所述的资源调度方法的步骤,具体可参见上述方法实施例,在此不再赘述。
其中,上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
Claims (11)
1.一种资源调度方法,其特征在于,包括:
根据目标服务的服务信息,确定所述目标服务的服务类型;
确定与所述服务类型相匹配的资源配置参数;
确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
基于所述目标配置参数,为所述目标服务配置对应的服务资源。
2.根据权利要求1所述的方法,其特征在于,所述确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数,包括:
确定运行所述目标服务的第一服务器集群;
确定所述目标服务在所述第一服务器集群中所占用的算力资源,并根据所述算力资源确定所述资源占用数据;
基于所述第一服务器集群中的剩余算力资源,调整所述资源配置参数,得到与所述资源占用数据相匹配的目标配置参数。
3.根据权利要求1所述的方法,其特征在于,所述根据目标服务的服务信息,确定所述目标服务的服务类型,包括:
获取所述目标服务的运行数据,并基于所述运行数据确定所述目标服务的服务信息,其中,所述运行数据包括以下至少之一:数据流量峰值、请求延迟时间、数据吞吐量、处理器利用率、宽带占用率;
对所述服务信息进行数据统计处理,得到所述目标服务的运行特征;
确定所述运行特征对应的服务类型。
4.根据权利要求1所述的方法,其特征在于,所述资源配置参数的参数类型包括:服务扩容参数、服务缩容参数;其中,各个所述参数类型中包括至少一个资源配置参数;
所述确定与所述服务类型相匹配的资源配置参数,包括:
确定所述目标服务对应的目标参数类型;
基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数。
5.根据权利要求4所述的方法,其特征在于,所述基于所述服务类型,在所述目标参数类型中为所述目标服务匹配对应的资源配置参数,包括:
获取所述目标服务的历史资源配置数据;
确定所述服务类型在所述目标参数类型中对应的资源配置参数,并基于所述历史资源配置数据,对所述资源配置参数进行调整操作。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
在所述目标参数类型中不包括与目标服务相匹配的资源配置参数的情况下,基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组;
在所述配置参数组中确定出与所述目标服务相匹配的目标配置参数组。
7.根据权利要求6所述的方法,其特征在于,所述基于各个所述参数类型中的资源配置参数进行组合,得到配置参数组,包括:
确定所述目标服务的资源配置范围;
基于所述资源配置范围,对所述资源配置参数进行组合,得到与所述资源配置范围相匹配的配置参数组。
8.根据权利要求1所述的方法,其特征在于,所述基于所述目标配置参数,为所述目标服务配置对应的服务资源,包括:
确定所述目标配置参数所对应的服务器集群,其中,所述服务器集群包括:运行所述目标服务的第一服务器集群,和/或与所述目标服务相关联的第二服务器集群;
在所述服务器集群中为所述目标服务配置对应的服务资源。
9.一种资源调度装置,其特征在于,包括:
第一确定单元,用于根据目标服务的服务信息,确定所述目标服务的服务类型;
第二确定单元,用于确定与所述服务类型相匹配的资源配置参数;
调整单元,用于确定所述目标服务的资源占用数据,并将所述资源配置参数调整为与所述资源占用数据相匹配的目标配置参数;
配置单元,用于基于所述目标配置参数,为所述目标服务配置对应的服务资源。
10.一种计算机设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至8任意一项所述的资源调度方法的步骤。
11.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至8任意一项所述的资源调度方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310176908.7A CN116204293A (zh) | 2023-02-28 | 2023-02-28 | 一种资源调度方法、装置、计算机设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310176908.7A CN116204293A (zh) | 2023-02-28 | 2023-02-28 | 一种资源调度方法、装置、计算机设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116204293A true CN116204293A (zh) | 2023-06-02 |
Family
ID=86510890
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310176908.7A Pending CN116204293A (zh) | 2023-02-28 | 2023-02-28 | 一种资源调度方法、装置、计算机设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116204293A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116701000A (zh) * | 2023-08-07 | 2023-09-05 | 广东南方电信规划咨询设计院有限公司 | 一种基于ai和云边协同的资源整合方法及装置 |
-
2023
- 2023-02-28 CN CN202310176908.7A patent/CN116204293A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116701000A (zh) * | 2023-08-07 | 2023-09-05 | 广东南方电信规划咨询设计院有限公司 | 一种基于ai和云边协同的资源整合方法及装置 |
CN116701000B (zh) * | 2023-08-07 | 2024-03-08 | 广东南方电信规划咨询设计院有限公司 | 一种基于ai和云边协同的资源整合方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10558498B2 (en) | Method for scheduling data flow task and apparatus | |
CN109002358B (zh) | 基于深度强化学习的移动终端软件自适应优化调度方法 | |
US7627618B2 (en) | System for managing data collection processes | |
CN111614570B (zh) | 一种用于服务网格的流量控制系统及方法 | |
US11616683B2 (en) | Deep reinforcement learning-based information processing method and apparatus for edge computing server | |
US20090086959A1 (en) | Method and System for Hierarchicy Based Contact Routing | |
CN112579194A (zh) | 基于时延和事务吞吐量的区块链共识任务卸载方法及装置 | |
CN112866136A (zh) | 业务数据处理方法和装置 | |
CN111176840A (zh) | 分布式任务的分配优化方法和装置、存储介质及电子装置 | |
CN112667400A (zh) | 边缘自治中心管控的边云资源调度方法、装置及系统 | |
CN116204293A (zh) | 一种资源调度方法、装置、计算机设备以及存储介质 | |
CN111159859B (zh) | 一种云容器集群的部署方法及系统 | |
Cheng et al. | Performance evaluation of an admission control algorithm: dynamic threshold with negotiation | |
CN112073327B (zh) | 一种抗拥塞的软件分流方法、装置及存储介质 | |
CN112817428A (zh) | 任务运行方法、装置、移动终端和存储介质 | |
CN112887407A (zh) | 用于分布式集群的作业流量控制方法和装置 | |
CN110347477B (zh) | 一种云环境下服务自适应部署方法和装置 | |
CN108200185B (zh) | 一种实现负载均衡的方法及装置 | |
CN111800291A (zh) | 一种服务功能链部署方法及装置 | |
CN111124672A (zh) | 基于Redis集群的数据分配的方法及相关设备 | |
CN111124439A (zh) | 一种云边协同的智能动态卸载算法 | |
CN115499513A (zh) | 数据请求的处理方法、装置、计算机设备和存储介质 | |
CN117056064A (zh) | 资源分配方法、装置、服务器、存储介质和程序产品 | |
CN114003370A (zh) | 算力调度方法以及相关装置 | |
CN116848508A (zh) | 基于强化学习模型调度任务以供计算机执行 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |