CN113656179A - 云计算资源的调度方法及装置、电子设备和存储介质 - Google Patents
云计算资源的调度方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113656179A CN113656179A CN202110956854.7A CN202110956854A CN113656179A CN 113656179 A CN113656179 A CN 113656179A CN 202110956854 A CN202110956854 A CN 202110956854A CN 113656179 A CN113656179 A CN 113656179A
- Authority
- CN
- China
- Prior art keywords
- function
- time
- call
- future
- historical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供了一种云计算资源的调度方法及装置、电子设备和存储介质,涉及计算机技术领域,尤其涉及云计算、无服务器计算技术领域。实现方案为:获取目标函数的历史调用时间序列;根据历史调用时间序列,预测目标函数的未来调用时间;以及在未来调用时间之前,生成目标函数的函数实例,以便提供目标函数的计算服务。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及云计算、无服务器计算技术领域,具体涉及一种云计算资源的调度方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作系统、网络、软件、应用和存储设备等,并可以以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
函数计算(function computing)是一种新兴的云计算服务,该服务能够提供基于事件触发的、全托管的无服务器计算(serverless computing)能力。基于函数计算服务,用户仅需开发业务代码(即“函数”)并将业务代码托管至云函数计算平台,而无需关注和配置服务器资源。平台托管用户的代码,在代码需要执行时自动分配计算资源,以实现用户业务的可靠运行。
在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。
发明内容
本公开提供了一种云计算资源的调度方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的一方面,提供了一种云计算资源的调度方法,包括:获取目标函数的历史调用时间序列;根据所述历史调用时间序列,预测所述目标函数的未来调用时间;以及在所述未来调用时间之前,生成所述目标函数的函数实例,以便提供所述目标函数的计算服务。
根据本公开的另一方面,提供了一种云计算资源的调度装置,包括:获取模块,被配置为获取目标函数的历史调用时间序列;预测模块,被配置为根据所述历史调用时间序列,预测所述目标函数的未来调用时间;以及调度模块,被配置为在所述未来调用时间之前,生成所述目标函数的函数实例,以便提供所述目标函数的计算服务。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器。所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述方面的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使所述计算机执行上述方面的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述方面的方法。
根据本公开的一个或多个实施例,根据函数的历史调用时间序列来预测该函数的未来调用时间,在该函数未来被调用之前(即在未来调用时间之前)生成该函数的函数实例,从而实现了函数计算服务的预热,提高了函数计算的响应速度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
图1示出了根据本公开实施例的云计算资源的调度方法的流程图;
图2A、2B示出了根据本公开实施例的两个示例性拟合曲线的示意图;
图3示出了根据本公开实施例的云计算资源的调度装置的结构框图;
图4示出了根据本公开实施例的云计算资源的调度过程的流程图;以及
图5示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
下面将结合附图详细描述本公开的实施例。
在函数计算场景中,云函数计算平台通常采用容器技术来执行函数。即,平台基于容器技术创建函数的函数实例,当接收到针对该函数的调用请求时,将调用请求发送至相应的函数实例进行响应。如果在接收到函数的调用请求时,平台中不存在该函数的函数实例,则平台需要先通过服务资源调度、拉取函数镜像(image)、启动容器环境等多个步骤来创建该函数的函数实例,然后才可以对函数的调用请求进行响应。
上述从无到有的函数实例的创建过程即函数计算服务的“冷启动”现象。冷启动增加了函数计算的响应延时,严重影响用户体验。
针对函数计算服务的冷启动问题,相关技术中存在以下解决方案:
1、在将函数托管至平台后,即刻生成该函数的函数实例;
2、向用户提供付费的实例预留功能,为函数预留指定数量的函数实例;
3、将使用过的函数实例存入缓存池,每次调用函数时,先向缓存池请求获取相应的函数实例;
4、提前将函数的镜像转存至平台的加速缓存服务中,以加速镜像拉取。
上述方案均属于静态的优化方案(通过预留函数实例、缓存池等),无法动态地对资源进行扩缩容,极易发生函数实例空闲的情况,导致大量计算资源被浪费,提高了云函数计算平台的服务成本以及用户的使用成本。
为此,本公开提供一种云计算资源的调度方案,该方案可以根据函数的历史调用情况来预测函数的未来调用时间,在未来调用时间之前生成该函数的函数实例,从而能够实现函数计算服务的预热,提高函数计算的响应速度,有效地避免冷启动现象。本公开的云计算资源的调度方案能够动态地生成函数实例,与相关技术中的静态优化方案相比,不需要提前进行资源预留,有效地避免了资源的闲置,大大提高了资源的利用率,降低了云函数计算平台的服务成本和用户的使用成本。
图1示出了根据本公开实施例的云计算资源的调度方法100的流程图。方法100可以在服务器中执行(例如云函数计算平台中的服务器节点),即方法100的各个步骤的执行主体可以是服务器。如图1所示,方法100包括:
步骤110、获取目标函数的历史调用时间序列;
步骤120、根据历史调用时间序列,预测目标函数的未来调用时间;以及
步骤130、在未来调用时间之前,生成目标函数的函数实例,以便提供目标函数的计算服务。
根据本公开的实施例,根据函数的历史调用时间序列来预测该函数的未来调用时间,在该函数未来被调用之前(即在未来调用时间之前)生成该函数的函数实例,从而实现了函数计算服务的预热,提高了函数计算的响应速度。
以下详细介绍方法100的各个步骤。
在步骤110中,获取目标函数的历史调用时间序列。
目标函数可以是用户托管至服务器的任意函数。
根据一些实施例,目标函数的历史调用时间序列可以通过解析该目标函数的调用日志来获得。函数的调用日志包括多条调用记录,以下是调用记录的一个示例:
{
"ts":2021-06-17 16:44:42,
"user_id":"8ba8fe2d049948d88d04918b78ba820c",
"function_id":
"brn:bce:cfc:bj:2efeae72827ae241106c77159f659fd1:function:bos_to_kafka:$LATEST",
}
其中,function_id为被调用的函数的标识,ts为函数的调用时间,user_id为创建该函数的用户的标识。
通过对目标函数的调用日志中的各条调用记录的ts字段和function_id字段进行提取和分析,可以生成目标函数的历史调用时间序列。历史调用时间序列包括目标函数在多个历史时间的调用值,即,历史调用时间序列呈现为以下形式:
history_time(1),call_value(1)
history_time(2),call_value(2)
history_time(3),call_value(3)
history_time(4),call_value(4)
history_time(5),call_value(5)
history_time(6),call_value(6)
……
其中,history_time(i)表示第i个历史时间,call_value(i)表示第i个历史时间的调用值。
根据一些实施例,考虑到函数实例的存活周期通常为几分钟到几十分钟不等,可以将历史调用时间序列中的相邻两个历史时间的间隔设置为分钟级,例如1分钟。
调用值用于表示目标函数在相应历史时间被调用的数值信息。调用值例如可以是调用标签,调用标签用于表示目标函数在相应的历史时间是否被调用。如果目标函数在某个历史时间被调用,可以将该历史时间的调用标签设置为1;如果目标函数在某个历史时间未被调用,则可以将该历史时间的调用标签设置为0。以历史调用时间序列中的相邻两个历史时间的间隔为1分钟,调用值为调用标签为例,步骤110获得的目标函数的历史调用时间序列例如可以是:
2021-06-17 16:44:00,1
2021-06-17 16:45:00,0
2021-06-17 16:46:00,0
2021-06-17 16:47:00,0
2021-06-17 16:48:00,1
2021-06-17 16:49:00,1
……
在另一些实施例中,调用值也可以是目标函数的调用次数。以历史调用时间序列中的相邻两个历史时间的间隔为2分钟,调用值为调用次数为例,步骤110获得的目标函数的历史调用时间序列例如可以是:
2021-06-17 16:44:00,11
2021-06-17 16:46:00,5
2021-06-17 16:48:00,0
2021-06-17 16:50:00,2
2021-06-17 16:52:00,4
2021-06-17 16:54:00,7
……
在步骤120中,根据步骤110中获得的历史调用时间序列,预测目标函数的未来调用时间。
根据一些实施例,可以通过曲线拟合的方式来预测目标函数的未来调用时间。即,步骤120包括:确定历史调用时间序列的拟合曲线;根据拟合曲线,预测目标函数在未来预设时间段内的各时间的调用值;以及将调用值大于预设阈值的时间作为未来调用时间。通过曲线拟合来预测目标函数的未来调用时间,能够在保证预测准确性的同时,降低计算复杂度、提高计算效率。未来预设时间段例如可以是未来的1天、未来的12小时,但不限于此。预设阈值可以由本领域技术人员根据实际情况来设置,例如,可以将预设阈值设置为0.5、6等。
如前所述,调用值可以包括调用标签和调用次数。
在调用值为调用标签的情况下,对历史调用时间序列进行曲线拟合,得到一条拟合曲线,该拟合曲线的自变量(x)为时间,因变量(y)为调用标签。图2A示出了在调用值为调用标签的情况下,得到的历史调用时间序列的示例性拟合曲线的示意图。如图2A所示,拟合曲线为曲线210,t1-t9为未来预设时间段内的9个时间。将预设阈值设置为0.5,由于时间t4-t7的调用标签大于0.5,因此将时间t4-t7作为目标函数的未来调用时间。在调用值为调用标签的情况下,历史调用时间序列为由数值0、1所组成的二进制序列,对二进制序列进行曲线拟合,进一步降低了曲线拟合的复杂度,提高了计算效率。
在调用值为调用次数的情况下,对历史调用时间序列进行曲线拟合,得到一条拟合曲线,该拟合曲线的自变量(x)为时间,因变量(y)为调用次数。图2B示出了在调用值为调用次数的情况下,得到的历史调用时间序列的示例性拟合曲线的示意图。如图2B所示,拟合曲线为曲线220,t1-t9为未来预设时间段内的9个时间。将预设阈值设置为6,由于时间t2、t4、t5的调用次数大于6,因此将时间t2、t4、t5作为目标函数的未来调用时间。在调用值为调用次数的情况下,由调用次数组成的历史调用时间序列相较于由调用标签(0/1)所组成的历史调用时间序列来说,蕴含的信息量更大,相应地可预测的信息更多(例如不仅可以预测未来某个时间是否存在函数调用,还可以预测函数调用次数),但曲线拟合的复杂度和计算量也会增大。
上文给出了基于曲线拟合来预测目标函数的未来调用时间的实施例。可以理解地,在其他实施例中,也可以采用其他的时间序列预测算法来预测目标函数的未来调用时间,例如采用时间序列分解(STL分解)算法、ARMA/ARIMA时序建模算法等。
在基于步骤120预测得出目标函数的未来调用时间后,可以将目标函数的标识和未来调用时间关联存储至数据库。数据库可以是任何能够被持久化访问的关系型数据库或非关系型数据库,例如MySQL、Etcd、Mongodb、Hbase等。
基于步骤120所预测的未来调用时间,在步骤130中,可以在未来调用时间之前,生成目标函数的函数实例,以便提供目标函数的计算服务。
根据一些实施例,可以在相对于未来调用时间提前第一时长的时间生成函数实例。例如,未来调用时间为t,第一时长为M分钟,则可以在t-M时刻生成目标函数的函数实例。
具体地,在步骤130中,可以从数据库中读取预测的目标函数的未来调用时间,然后基于未来调用时间,生成用于生成函数实例的定时任务(例如生成Cron表达式),并将定时任务与目标函数进行绑定。当到达定时任务中设定的时间时,生成目标函数的函数实例。
根据一些实施例,方法100还可以包括:响应于函数实例在第二时长内未被调用,删除该函数实例。由此,可以在函数实例长时间未被调用的情况下,将该函数实例予以删除,从而节省服务器资源。
根据一些实施例,第一时长、第二时长的值可以相互配合地设置。例如,可以将第一时长设置为小于等于第二时长,从而避免函数实例在预测的未来调用时间之前被删除而无法提供函数调用服务。此外,第一时长也不宜设置得太小,如果第一时长太小,则可能在函数实例尚未生成时,即接收到函数调用请求,达不到预热的效果,难以实现函数计算的快速响应。综合考虑以上两种因素,例如可以将第一时长设置为大于等于1分钟,且小于等于第二时长。
根据一些实施例,如前所述,在未来调用时间为根据由调用次数组成的历史调用时间序列的拟合曲线预测得出的情况下,基于该拟合曲线,还可以预测目标函数在未来调用时间的调用次数。相应地,在步骤130中,可以根据目标函数在未来调用时间的调用次数,确定函数实例的数量;以及生成目标函数的该数量的函数实例。基于该实施例,预测目标函数在未来调用时间的调用次数越多,生成的函数实例的数量越多,能够同时响应的函数调用请求越多,从而使生成的函数实例的数量能够与预测的调用次数相适应,实现了函数实例的动态、弹性生成,进一步提高函数计算的响应速度,保证用户业务的高性能运转。
根据另一些实施例,在步骤130中,也可以根据目标函数在未来调用时间的调用次数,确定函数实例的并发度,以及生成目标函数的具有该并发度的函数实例。基于该实施例,预测目标函数在未来调用时间的调用次数越多,生成的单个函数实例的并发度越大(即函数实例为多并发实例),能够同时响应的函数调用请求越多,从而使生成的单个函数实例的并发度能够与预测的调用次数相适应,实现了函数实例的动态、弹性生成,进一步提高函数计算的响应速度,保证用户业务的高性能运转。
根据一些实施例,方法100可以按照预设的频率周期性地执行,例如,每隔半小时执行一次,即每半小时重新预测目标函数的未来调用时间,并基于最新的预测结果来调整函数实例的生成时间(即更新目标函数上绑定的定时任务),从而实现函数实例的动态、弹性生成,实时保证函数计算的响应速度。
根据本公开的实施例,还提供一种云计算资源的调度装置。
图3示出了根据本公开的实施例的云计算资源的调度装置300的结构框图。如图3所示,装置300包括:
获取模块310,被配置为获取目标函数的历史调用时间序列;
预测模块320,被配置为根据所述历史调用时间序列,预测所述目标函数的未来调用时间;以及
调度模块330,被配置为在所述未来调用时间之前,生成所述目标函数的函数实例,以便提供所述目标函数的计算服务。
根据本公开的实施例,根据函数的历史调用时间序列来预测该函数的未来调用时间,在该函数未来被调用之前(即在未来调用时间之前)生成该函数的函数实例,从而实现了函数计算服务的预热,提高了函数计算的响应速度。
根据一些实施例,所述历史调用时间序列包括所述目标函数在多个历史时间的调用值,预测模块320包括:拟合单元,被配置为确定所述历史调用时间序列的拟合曲线;预测单元,被配置为根据所述拟合曲线,预测所述目标函数在未来预设时间段内的各时间的调用值;以及确定单元,被配置为将调用值大于预设阈值的时间作为所述未来调用时间。
根据一些实施例,所述调用值包括调用标签,所述调用标签用于表示所述目标函数在相应的历史时间是否被调用。
根据一些实施例,所述调用值包括调用次数。
根据一些实施例,所述调度模块330包括:实例数量确定单元,被配置为根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的数量;以及调度单元,被配置为生成所述目标函数的所述数量的函数实例。
根据一些实施例,所述调度模块330包括:并发度确定单元,被配置为根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的并发度;以及调度单元,被配置为生成所述目标函数的具有所述并发度的函数实例。
根据一些实施例,所述调度模块330被配置为:在相对于所述未来调用时间提前第一时长的时间生成所述函数实例。
根据一些实施例,装置300还包括:删除模块,被配置为响应于所述函数实例在第二时长内未被调用,删除所述函数实例。
应当理解,图3中所示的装置300的各个模块可以与参考图1描述的方法100中的各个步骤相对应。由此,上面针对方法100描述的操作、特征和优点同样适用于装置300及其包括的模块。为了简洁起见,某些操作、特征和优点在此不再赘述。
虽然上面参考特定模块讨论了特定功能,但是应当注意,本文讨论的各个模块的功能可以分为多个模块,和/或多个模块的至少一些功能可以组合成单个模块。例如,上面描述的获取模块310和预测模块320在一些实施例中可以组合成单个模块。
还应当理解,本文可以在软件硬件元件或程序模块的一般上下文中描述各种技术。上面关于图3描述的各个模块可以在硬件中或在结合软件和/或固件的硬件中实现。例如,这些模块可以被实现为计算机程序代码/指令,该计算机程序代码/指令被配置为在一个或多个处理器中执行并存储在计算机可读存储介质中。可替换地,这些模块可以被实现为硬件逻辑/电路。例如,在一些实施例中,获取模块310、预测模块320、调度模块330中的一个或多个可以一起被实现在片上系统(System on Chip,SoC)中。SoC可以包括集成电路芯片(其包括处理器(例如,中央处理单元(Central Processing Unit,CPU)、微控制器、微处理器、数字信号处理器(Digital Signal Processor,DSP)等)、存储器、一个或多个通信接口、和/或其他电路中的一个或多个部件),并且可以可选地执行所接收的程序代码和/或包括嵌入式固件以执行功能。
图4示出了根据本公开实施例的云计算资源的调度过程400的流程图。如图4所示,在步骤402中,获取模块450获取日志信息,日志信息包括托管至云函数计算平台的多个函数的调用日志。
在步骤404中,判断日志信息中是否包含待预热的云函数(即上文实施例中的“目标函数”)的调用日志,若否,则结束处理过程;若是,则执行步骤406。
在步骤406中,从云函数的调用日志中提取出该云函数的历史调用时间序列。
随后,在步骤408中,预测模块460对历史调用时间序列进行曲线拟合,得到该时间序列的拟合曲线。
随后,在步骤410中,根据拟合曲线,预测云函数的未来调用时间。
随后,在步骤412中,将预测得到的未来调用时间与云函数的标识关联存储至数据库,并通知调度模块470当前预测完成。
随后,在步骤414中,调度模块470从数据库中获取预测数据,即获取预测的云函数的未来调用时间。
随后,在步骤416中,根据云函数的未来调用时间,生成用于生成函数实例的定时任务,并将该定时任务与该云函数进行绑定。
随后,在步骤418中,当到达定时任务设定的时间时,下载云函数的代码,生成可复用的云函数实例。后续当服务器接收到该云函数的调用请求时,可以将请求发送至该云函数实例来进行响应。
根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
参考图5,现将描述可以作为本公开的服务器或客户端的电子设备500的结构框图,其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506、输出单元507、存储单元508以及通信单元509。输入单元506可以是能向设备500输入信息的任何类型的设备,输入单元506可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入,并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元507可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元508可以包括但不限于磁盘、光盘。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙TM设备、1302.11设备、Wi-Fi设备、Wi-Max设备、蜂窝通信设备和/或类似物。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如方法100。例如,在一些实施例中,方法100可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM503并由计算单元501执行时,可以执行上文描述的方法100的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法100。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、系统和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。
Claims (19)
1.一种云计算资源的调度方法,包括:
获取目标函数的历史调用时间序列;
根据所述历史调用时间序列,预测所述目标函数的未来调用时间;以及
在所述未来调用时间之前,生成所述目标函数的函数实例,以便提供所述目标函数的计算服务。
2.根据权利要求1所述的方法,其中,所述历史调用时间序列包括所述目标函数在多个历史时间的调用值,并且其中,
根据所述历史调用时间序列,预测所述目标函数的未来调用时间包括:
确定所述历史调用时间序列的拟合曲线;
根据所述拟合曲线,预测所述目标函数在未来预设时间段内的各时间的调用值;以及
将调用值大于预设阈值的时间作为所述未来调用时间。
3.根据权利要求2所述的方法,其中,所述调用值包括调用标签,所述调用标签用于表示所述目标函数在相应的历史时间是否被调用。
4.根据权利要求2所述的方法,其中,所述调用值包括调用次数。
5.根据权利要求4所述的方法,其中,在所述未来调用时间之前,生成所述目标函数的函数实例包括:
根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的数量;以及
生成所述目标函数的所述数量的函数实例。
6.根据权利要求4所述的方法,其中,在所述未来调用时间之前,生成所述目标函数的函数实例包括:
根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的并发度;以及
生成所述目标函数的具有所述并发度的函数实例。
7.根据权利要求1-6中任一项所述的方法,其中,在所述未来调用时间之前,生成所述目标函数的函数实例包括:
在相对于所述未来调用时间提前第一时长的时间生成所述函数实例。
8.根据权利要求1-7中任一项所述的方法,还包括:
响应于所述函数实例在第二时长内未被调用,删除所述函数实例。
9.一种云计算资源的调度装置,包括:
获取模块,被配置为获取目标函数的历史调用时间序列;
预测模块,被配置为根据所述历史调用时间序列,预测所述目标函数的未来调用时间;以及
调度模块,被配置为在所述未来调用时间之前,生成所述目标函数的函数实例,以便提供所述目标函数的计算服务。
10.根据权利要求9所述的装置,其中,所述历史调用时间序列包括所述目标函数在多个历史时间的调用值,并且
其中,所述预测模块包括:
拟合单元,被配置为确定所述历史调用时间序列的拟合曲线;
预测单元,被配置为根据所述拟合曲线,预测所述目标函数在未来预设时间段内的各时间的调用值;以及
确定单元,被配置为将调用值大于预设阈值的时间作为所述未来调用时间。
11.根据权利要求10所述的装置,其中,所述调用值包括调用标签,所述调用标签用于表示所述目标函数在相应的历史时间是否被调用。
12.根据权利要求10所述的装置,其中,所述调用值包括调用次数。
13.根据权利要求12所述的装置,其中,所述调度模块包括:
实例数量确定单元,被配置为根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的数量;以及
调度单元,被配置为生成所述目标函数的所述数量的函数实例。
14.根据权利要求12所述的装置,其中,所述调度模块包括:
并发度确定单元,被配置为根据所述目标函数在未来调用时间的调用次数,确定所述函数实例的并发度;以及
调度单元,被配置为生成所述目标函数的具有所述并发度的函数实例。
15.根据权利要求9-14中任一项所述的装置,其中,所述调度模块被配置为:
在相对于所述未来调用时间提前第一时长的时间生成所述函数实例。
16.根据权利要求9-15中任一项所述的装置,还包括:
删除模块,被配置为响应于所述函数实例在第二时长内未被调用,删除所述函数实例。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110956854.7A CN113656179B (zh) | 2021-08-19 | 2021-08-19 | 云计算资源的调度方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110956854.7A CN113656179B (zh) | 2021-08-19 | 2021-08-19 | 云计算资源的调度方法及装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113656179A true CN113656179A (zh) | 2021-11-16 |
CN113656179B CN113656179B (zh) | 2023-10-20 |
Family
ID=78492458
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110956854.7A Active CN113656179B (zh) | 2021-08-19 | 2021-08-19 | 云计算资源的调度方法及装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113656179B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114466014A (zh) * | 2021-12-28 | 2022-05-10 | 天翼云科技有限公司 | 一种服务调度方法、装置、电子设备及存储介质 |
CN114489940A (zh) * | 2022-01-18 | 2022-05-13 | 武汉理工大学 | 无服务器计算环境中基于时域卷积网络的冷启动优化方法 |
CN115357342A (zh) * | 2022-08-23 | 2022-11-18 | 北京火山引擎科技有限公司 | 冷启动资源处理方法及装置 |
WO2023109700A1 (zh) * | 2021-12-18 | 2023-06-22 | 深圳先进技术研究院 | 基于进程寄生的无服务器计算的分支预测方法及装置 |
CN117093330A (zh) * | 2023-10-16 | 2023-11-21 | 南京奕起嗨信息科技有限公司 | 无服务器计算中的容器管理方法及装置 |
WO2023246398A1 (zh) * | 2022-06-22 | 2023-12-28 | 北京火山引擎科技有限公司 | 云服务实现方法及装置 |
WO2024114484A1 (zh) * | 2022-12-02 | 2024-06-06 | 中国科学院深圳先进技术研究院 | 一种服务器无感知计算自适应资源调度方法、系统及计算机设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140200995A1 (en) * | 2013-01-17 | 2014-07-17 | Kenshoo Ltd. | Temporal budget optimization in online advertising |
CN112633542A (zh) * | 2019-09-24 | 2021-04-09 | 顺丰科技有限公司 | 系统性能指标预测方法、装置、服务器及存储介质 |
-
2021
- 2021-08-19 CN CN202110956854.7A patent/CN113656179B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140200995A1 (en) * | 2013-01-17 | 2014-07-17 | Kenshoo Ltd. | Temporal budget optimization in online advertising |
CN112633542A (zh) * | 2019-09-24 | 2021-04-09 | 顺丰科技有限公司 | 系统性能指标预测方法、装置、服务器及存储介质 |
Non-Patent Citations (2)
Title |
---|
ANAGHA YADAV: "Priority based task scheduling by mapping conflict-free resources and Optimized workload utilization in cloud computing", 《 IEEE XPLORE》 * |
林伟伟;齐德昱;: "云计算资源调度研究综述", 计算机科学, no. 10 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023109700A1 (zh) * | 2021-12-18 | 2023-06-22 | 深圳先进技术研究院 | 基于进程寄生的无服务器计算的分支预测方法及装置 |
US11915003B2 (en) | 2021-12-18 | 2024-02-27 | Shenzhen Institutes Of Advanced Technology | Process parasitism-based branch prediction method and device for serverless computing, electronic device, and non-transitory readable storage medium |
CN114466014A (zh) * | 2021-12-28 | 2022-05-10 | 天翼云科技有限公司 | 一种服务调度方法、装置、电子设备及存储介质 |
CN114466014B (zh) * | 2021-12-28 | 2024-03-12 | 天翼云科技有限公司 | 一种服务调度方法、装置、电子设备及存储介质 |
CN114489940A (zh) * | 2022-01-18 | 2022-05-13 | 武汉理工大学 | 无服务器计算环境中基于时域卷积网络的冷启动优化方法 |
WO2023246398A1 (zh) * | 2022-06-22 | 2023-12-28 | 北京火山引擎科技有限公司 | 云服务实现方法及装置 |
CN115357342A (zh) * | 2022-08-23 | 2022-11-18 | 北京火山引擎科技有限公司 | 冷启动资源处理方法及装置 |
CN115357342B (zh) * | 2022-08-23 | 2024-05-28 | 北京火山引擎科技有限公司 | 冷启动资源处理方法及装置 |
WO2024114484A1 (zh) * | 2022-12-02 | 2024-06-06 | 中国科学院深圳先进技术研究院 | 一种服务器无感知计算自适应资源调度方法、系统及计算机设备 |
CN117093330A (zh) * | 2023-10-16 | 2023-11-21 | 南京奕起嗨信息科技有限公司 | 无服务器计算中的容器管理方法及装置 |
CN117093330B (zh) * | 2023-10-16 | 2023-12-22 | 南京奕起嗨信息科技有限公司 | 无服务器计算中的容器管理方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113656179B (zh) | 2023-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113656179B (zh) | 云计算资源的调度方法及装置、电子设备和存储介质 | |
CN108052384B (zh) | 一种任务处理方法、服务平台及电子设备 | |
CN111143039B (zh) | 一种虚拟机的调度方法、装置及计算机存储介质 | |
CN111652282B (zh) | 基于大数据的用户偏好分析方法、装置及电子设备 | |
CN109582445A (zh) | 消息处理方法、装置、电子设备及计算机可读存储介质 | |
CN111062572B (zh) | 任务分配的方法和装置 | |
CN107608781A (zh) | 一种负载预测方法、装置以及网元 | |
CN108920281A (zh) | 大规模图片处理方法及系统 | |
CN113608751B (zh) | 推理服务平台的运行方法、装置、设备及存储介质 | |
CN115016735A (zh) | 一种分布式缓存系统的控制方法、装置及介质 | |
CN107633080B (zh) | 一种用户任务处理方法及装置 | |
CN113312553A (zh) | 一种用户标签的确定方法和装置 | |
CN116756282A (zh) | 任务处理方法、服务器、语言预测系统和人机交互系统 | |
CN104735134B (zh) | 一种用于提供计算服务的方法和装置 | |
CN114331446B (zh) | 区块链的链外服务实现方法、装置、设备和介质 | |
CN116484033A (zh) | 媒体素材确定方法、装置、介质及设备 | |
CN114579305B (zh) | 用于函数计算的资源控制方法、装置、设备和介质 | |
CN113641670B (zh) | 数据存储及数据检索方法、装置、电子设备及存储介质 | |
CN111290761A (zh) | 灰度发布方法、装置、介质及电子设备 | |
CN114051057A (zh) | 云设备排队时长的确定方法、装置、电子设备和介质 | |
CN107728769B (zh) | 后台应用管理方法、装置及计算机可读存储介质 | |
CN117170821B (zh) | 一种业务处理方法、装置、电子设备及计算机可读介质 | |
CN111538721A (zh) | 账号处理方法、装置、电子设备及计算机可读存储介质 | |
CN115509695A (zh) | 基于区块链的事务处理方法、装置、设备及存储介质 | |
CN118521255A (zh) | 一种业务数据计算方法、装置、设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |