CN103023980B - 一种云平台处理用户服务请求的方法和系统 - Google Patents

一种云平台处理用户服务请求的方法和系统 Download PDF

Info

Publication number
CN103023980B
CN103023980B CN201210477691.5A CN201210477691A CN103023980B CN 103023980 B CN103023980 B CN 103023980B CN 201210477691 A CN201210477691 A CN 201210477691A CN 103023980 B CN103023980 B CN 103023980B
Authority
CN
China
Prior art keywords
user
service
service request
grade
queue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210477691.5A
Other languages
English (en)
Other versions
CN103023980A (zh
Inventor
谢朝阳
郑少斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianyi Cloud Technology Co Ltd
Original Assignee
China Telecom Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Telecom Corp Ltd filed Critical China Telecom Corp Ltd
Priority to CN201210477691.5A priority Critical patent/CN103023980B/zh
Publication of CN103023980A publication Critical patent/CN103023980A/zh
Application granted granted Critical
Publication of CN103023980B publication Critical patent/CN103023980B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Computer And Data Communications (AREA)

Abstract

本发明提供了一种云平台处理用户服务请求的方法和系统,方法包括:接收到用户服务请求后,分析用户服务请求的服务等级;判断普通工作队列中与分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将用户服务请求放入一个存在空位的普通工作队列中,否则,将用户服务请求放入绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前的空位;并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源;其中普通工作队列和绿色通道队列的数量之和小于或等于云平台的并发处理能力。本发明能够保证高服务等级的请求得到及时处理,更加合理地利用云计算资源。

Description

一种云平台处理用户服务请求的方法和系统
【技术领域】
本发明涉及网络通信技术领域,特别涉及一种云平台处理用户服务请求的方法和系统。
【背景技术】
随着云计算技术的发展,公有云平台逐渐成熟,开始大规模地向客户提供虚拟机服务,云平台越来越普遍地被世界各大云计算运营商所部属。云平台管理成千上万台计算节点、网络、存储等云计算资源,如何处理用户服务请求并进行合理的计算资源调度影响着整个云计算系统的性能和稳定性,特别是在用户数爆发式增长的情形下,是一个重要的问题。
目前,现有云计算管理平台对用户服务请求的处理通常采取的是简单随机分配、简单排队等待的方式,然而这种对所有用户服务请求统一对待的方式,没有考虑到用户的服务等级,当用户服务请求量大时,某些关键用户或者对取得资源比较迫切的用户不能及时分配到资源造成服务中断,而不急于取得资源的用户,却有可能较快地分配到资源,也就是说,现有技术中的用户请求处理方式会造成资源利用不合理的问题。
【发明内容】
有鉴于此,本发明提供了一种云平台处理用户服务请求的方法和系统,以便于更加合理地利用云计算资源。
具体技术方案如下:
一种云平台处理用户服务请求的方法,该方法包括:
接收到用户服务请求后,分析所述用户服务请求的服务等级;
判断普通工作队列中与分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将所述用户服务请求放入一个存在所述空位的普通工作队列中,否则,将所述用户服务请求放入绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前的空位;
并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,所述处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源;
其中所述普通工作队列和绿色通道队列的数量之和小于或等于云平台的并发处理能力。
根据本发明一优选实施例,所述并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理的处理周期T采用经验值或者创建虚拟机所需的最长时间;
所述服务等级由用户期望任务申请时间确定,所述用户期望处理时间为所述T的整数倍。
根据本发明一优选实施例,所述与分析得到的服务等级相匹配的位置为从队列前端开始编号为C的位置,所述C为所述分析得到的服务等级。
根据本发明一优选实施例,所述普通工作队列和绿色通道队列的数量预先设定,或者依据高服务等级的用户服务请求量动态调整。
根据本发明一优选实施例,在将所述用户服务请求放入普通工作队列或绿色通道队列中时,放入最短的普通工作队列或最短的绿色通道队列中最靠前的空位。
根据本发明一优选实施例,若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,则向用户反馈无法服务。
根据本发明一优选实施例,该方法还包括:当达到队列内部排序周期时,对所述普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序;
所述排序依据用户服务请求的服务等级,服务等级越高的用户服务请求排在队列中越靠前的位置;或者除了所述服务等级之外进一步结合用户服务请求的已等待时间或用户的临时需求进行排序。
根据本发明一优选实施例,在对用户服务请求分配云计算资源时,将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行。
根据本发明一优选实施例,所述将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行具体包括:
针对用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行以下步骤S:
步骤S、查询三层任务执行树的根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定是否有任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树;
创建虚拟机的子任务分配完成后,将配置网络的子任务作为当前任务执行所述步骤S;
其中所述三层任务执行树的根节点记录空闲状态的物理机,二层节点记录已创建虚拟机的物理机以及物理机正在执行的任务数,三层节点记录物理机正在执行的任务。
一种云平台处理用户服务请求的系统,该系统包括:
用户服务模块,用于接收到用户服务请求后,分析所述用户服务请求的服务等级;
队列调度模块,用于判断普通工作队列中与所述用户服务模块分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将所述用户服务请求放入一个存在所述空位的普通工作队列中,否则,将所述用户服务请求放入绿色通道队列中与所述用户服务模块分析得到的服务等级相匹配的位置以及该位置之前的空位;
资源分配模块,用于并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,所述处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源;
其中所述普通工作队列和绿色通道队列的数量之和小于或等于所述资源分配模块的并发处理能力。
根据本发明一优选实施例,所述资源分配模块对用户服务请求的处理周期T采用经验值或者创建虚拟机所需的最长时间;
所述服务等级由用户期望任务申请时间确定,所述用户期望处理时间为所述T的整数倍。
根据本发明一优选实施例,所述队列调度模块将从队列前端开始编号为C的位置确定为与所述用户服务模块分析得到的服务等级相匹配的位置,所述C为所述分析得到的服务等级。
根据本发明一优选实施例,所述普通工作队列和绿色通道队列的数量预先设定,或者依据高服务等级的用户服务请求量动态调整。
根据本发明一优选实施例,所述队列调度模块在将所述用户服务请求放入普通工作队列或绿色通道队列中时,放入最短的普通工作队列或最短的绿色通道队列中最靠前的空位。
根据本发明一优选实施例,若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,则所述队列调度模块通过所述用户服务模块向用户反馈无法服务。
根据本发明一优选实施例,所述队列调度模块,还用于当达到队列内部排序周期时,对所述普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序;
所述排序依据用户服务请求的服务等级,服务等级越高的用户服务请求排在队列中越靠前的位置;或者除了所述服务等级之外进一步结合用户服务请求的已等待时间或用户的临时需求进行排序。
根据本发明一优选实施例,所述资源分配模块在对用户服务请求分配云计算资源时,将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行。
根据本发明一优选实施例,所述资源分配模块具体执行:
针对用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行操作S:
操作S、查询三层任务执行树的根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定是否有任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树;
创建虚拟机的子任务分配完成后,将配置网络的子任务作为当前任务执行所述操作S;
其中所述三层任务执行树的根节点记录空闲状态的物理机,二层节点记录已创建虚拟机的物理机以及物理机正在执行的任务数,三层节点记录物理机正在执行的任务。
由以上技术方案可以看出,本发明提供的上述方法和系统除了通常的普通工作队列之外增加了绿色通道队列,对这些队列进行并行处理,并在工作队列内部存在与服务等级相匹配的位置,使得大量用户并发申请时,保证高级别的用户服务申请能够及时处理,更加合理地利用云计算资源。
【附图说明】
图1为本发明实施例一提供的云平台处理用户服务请求的方法流程图;
图2为本发明实施例二提供的云平台处理用户服务请求的系统结构图。
【具体实施方式】
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
本发明的核心思想在于,将用户请求队列划分为两种类型,除了通常的普通工作队列之外,增加绿色通道队列,在普通工作队列无法满足高服务等级的用户服务请求时绿色通道队列能够分担这部分处理需求,同时在各队列内部依据服务等级进行排列和处理保证服务等级高的用户服务请求先得到处理。下面通过实施例一对本发明提供的方法进行详细描述。
实施例一、
图1为本发明实施例一提供的云平台处理用户服务请求的方法流程图,如图1所示,该方法可以包括以下步骤:
步骤101:接收到用户服务请求后,分析用户服务请求的服务等级。
在分析用户服务请求的服务等级时,可以依据用户等级来确定,例如可以依据用户的缴费状况、信用状况等将用户划分为各个等级,较高等级的用户发送的用户服务请求具有较高的服务等级。也可以依据用户申请的服务类型来确定,根据用户申请的服务类型对时间的紧迫程度来确定服务等级,对时间要求越紧迫的服务等级越高。也可以综合用户等级和服务类型来确定服务等级。
步骤102:判断普通工作队列中与分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,执行步骤103;否则,执行步骤104。
可以将普通工作队列中的位置依据服务等级进行划分,越靠前的位置越优先提供给服务等级高的用户服务请求,在本发明实施例中提供一种采用依据在队列中的编号来对应服务等级的方法,当然这仅是本发明提供的一种优选实施例,并不用以限制本发明,具体如下:
首先定义云平台处理用户服务请求的处理周期T,该处理周期T可以采用经验值,也可以采用创建虚拟机所需的最长时间。之所以采用创建虚拟机所需的最长时间,是由于云平台对用户服务请求是要分配云计算资源的,分配不同软硬件配置的虚拟机所需要的时间差别并不大,主要需要的时间在于虚拟机的创建。基于此,与用户签署服务等级协议(SLA)中约定的用户期望任务申请时间必须是T的整数倍,如T,2T,nT等,服务等级就由用户期望任务申请时间确定,用户期望任务申请时间是nT时对应的服务等级就是n级。
在普通工作队列中(绿色通道队列也是如此)从前至后(即从队列出口到入口)的每个位置依次进行编号,每个编号有对应的服务等级。若步骤101分析出的服务等级为C,那么步骤102的判断就可以是:判断普通工作队列中是否存在编号小于或等于C的空位,即看看所有的普通工作队列中是否有某个普通工作队列存在编号小于或等于C的空位。
步骤103:将用户服务请求放入一个存在上述空位的普通工作队列中,继续处理接收到的其他用户服务请求,并等待执行步骤107。
本步骤中可以将用户服务请求放入普通工作队列中编号最小的空位,即放入最短的普通工作队列中最靠前的空位,从而使得该用户服务请求尽快得当处理。
步骤104:判断绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,执行步骤105,否则执行步骤106。
这里绿色通道队列中服务等级与位置之间的状况参见上一步骤中所描述普通通道队列中的状况,即可以判断绿色通道队列中是否存在编号小于或等于C的空位,不再赘述。
步骤105:将用户服务请求放入一个存在上述空位的绿色通道队列中,继续处理接收到的其他用户服务请求,并等待执行步骤107。
本步骤中可以将用户服务请求放入绿色通道队列中编号最小的空位,即放入最短的绿色通道队列中最靠前的空位,从而使得该用户服务请求尽快得当处理。
步骤106:向发送该用户服务请求的用户反馈无法服务,继续处理接收到的其他用户服务请求。
若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,说明该用户服务请求无法在用户期望任务申请时间内分配得到云计算资源,因此可以向用户反馈无法服务。
上述普通工作队列和绿色通道队列的数量可以预先设定,优选地,可以按照8:2的比例进行设定,也可以动态调整。但由于云平台对这些队列是进行并行处理的,因此普通工作队列和绿色通道队列的数量之和需要小于或等于云平台的并行处理能力,该并行处理能力主要由物理机的数量决定。例如,如果云平台能够并行处理100条队列,那么可以设置80条普通工作队列和20条绿色通道队列。
更进一步地,为了尽量保证服务等级高的用户优于服务等级低的用户先得到处理,可以在达到队列内部排序周期时,对普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序,服务等级越高的用户服务请求排在队列中越靠前的位置。其中队列内部排序周期可以采用经验值,或者依据用户服务请求的数量进行设置。
为了避免服务等级低的用户长时间无法得到处理,在对普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序时,除了服务等级之外还可以进一步结合已等待的时间进行排序,即对于已等待时间较长的请求将其在队列内部的排序提前,对应于这种情况,可以在获取到用户服务请求后,记录该请求的任务创建时间,由该任务创建时间便可以得到用户服务请求已等待的时间。在有些情况下,用户服务请求长时间得不到处理时会进行一些临时需求的调整,即将服务等级提高,此时会将已在普通工作队列或绿色通道队列中有临时需求的用户服务请求在队列内部的排序提前。
步骤107:达到处理周期T时,并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理。
对队列中用户服务请求的处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源,即所有队列中距离出口最近的请求出队被分配云计算资源。在分配云计算资源的过程主要包括以下两个主要步骤:创建虚拟机和配置网络,其中创建虚拟机的步骤具体包括:调用模板库并拷贝对应的虚拟机模板,依据拷贝的虚拟机模板创建虚拟机。在实际执行过程中可以将创建虚拟机和配置网络两个子任务调度到两台不同的物理机上去执行,在一定程度上可以减少分配云计算资源的时间。
下面对将创建虚拟机和配置网络两个子任务调度到两台不同的物理机上去执行的方式,为了方便对物理机的任务执行状态进行管理和子任务的分配,可以通过三层任务执行树来对各物理机的任务执行状态进行记录,其中三层任务执行树的根节点用于记录空闲状态的物理机,二层节点用于记录已创建了虚拟机的物理机及其正在执行的任务数,三层节点用于记录已创建了虚拟机的物理机正在执行的任务。在初始状态时,三层任务执行树中的根节点为所有物理机,二层节点没有物理机和任务数,三层节点也没有任务。
当针对某出队列的用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行以下步骤:
查询根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定有无任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树;
然后再针对该用户服务请求的配置网络子任务执行上述步骤。如果有物理机执行完一个任务,则更新三层任务执行树。
在完成对用户服务请求的处理后,将处理结果反馈给用户。
以上是对本发明提供的方法进行的描述,下面对本发明提供的实现上述方法的系统进行描述。
实施例二、
图2为本发明实施例二提供的云平台处理用户服务请求的系统结构图,如图2所示,该系统包括:用户服务模块201、队列调度模块202和资源分配模块203。
用户服务模块201负责接收用户服务请求,接收到用户服务请求后,分析用户服务请求的服务等级。具体可以依据用户等级或者服务类型来确定用户服务请求的服务等级。
队列调度模块202负责调度请求队列,这里的请求队列除了包括普通工作队列之外,还包括绿色通道队列,具体的调度包括:判断普通工作队列中与用户服务模块分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将用户服务请求放入一个存在空位的普通工作队列中,否则,将用户服务请求放入绿色通道队列中与用户服务模块分析得到的服务等级相匹配的位置以及该位置之前的空位。
上述普通工作队列和绿色通道队列的数量可以预先设定,优选地,可以按照8:2的比例进行设定,也可以动态调整,但由于资源分配模块203对这些队列是进行并行处理的,因此普通工作队列和绿色通道队列的数量之和需要小于或等于云平台中资源分配模块203的并行处理能力,该并行处理能力主要由物理机的数量决定。
可以将普通工作队列中的位置依据服务等级进行划分,越靠前的位置越优先提供给服务等级高的用户服务请求,在本发明实施例中提供一种采用依据在队列中的编号来对应服务等级的方法:首先定义资源分配模块203处理用户服务请求的处理周期T,该处理周期T可以采用经验值,也可以采用创建虚拟机所需的最长时间。基于此,与用户签署服务等级协议中约定的用户期望任务申请时间必须是T的整数倍,如T,2T,nT等,服务等级就由用户期望任务申请时间确定,用户期望任务申请时间是nT时对应的服务等级就是n级。
在普通工作队列中(绿色通道队列也是如此)从前至后(即从队列出口到入口)的每个位置依次进行编号,每个编号有对应的服务等级。此时队列调度模块202将从队列前端开始编号为C的位置确定为与用户服务模块分析得到的服务等级相匹配的位置,C为分析得到的服务等级。
另外,队列调度模块202在将用户服务请求放入普通工作队列或绿色通道队列中时,放入最短的普通工作队列或最短的绿色通道队列中最靠前的空位。
若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,则队列调度模块202通过用户服务模块201向用户反馈无法服务。
更进一步地,为了尽量保证服务等级高的用户优于服务等级低的用户先得到处理,队列调度模块还可以当达到队列内部排序周期时,对普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序,服务等级越高的用户服务请求排在队列中越靠前的位置。除了服务等级之外还可以进一步结合已等待的时间进行排序,即对于已等待时间较长的请求将其在队列内部的排序提前,对应于这种情况,队列调度模块202在获取到用户服务请求后,记录该用户服务请求的任务创建时间,由该任务创建时间便可以得到用户服务请求已等待的时间。在有些情况下,用户服务请求长时间得不到处理时会进行一些临时需求的调整,即将服务等级提高,此时会将已在普通工作队列或绿色通道队列中有临时需求的用户服务请求在队列内部的排序提前。
资源分配模块203,用于并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源,处理周期为上述T。
在分配云计算资源的过程主要包括以下两个主要步骤:创建虚拟机和配置网络,其中创建虚拟机的步骤具体包括:调用模板库并拷贝对应的虚拟机模板,依据拷贝的虚拟机模板创建虚拟机。在实际执行过程中可以将创建虚拟机和配置网络两个子任务调度到两台不同的物理机上去执行,在一定程度上可以减少分配云计算资源的时间。
具体地,为了方便对物理机的任务执行状态进行管理和子任务的分配,可以通过三层任务执行树来对各物理机的任务执行状态进行记录,其中三层任务执行树的根节点用于记录空闲状态的物理机,二层节点用于记录已创建了虚拟机的物理机及其正在执行的任务数,三层节点用于记录已创建了虚拟机的物理机正在执行的任务。在初始状态时,三层任务执行树中的根节点为所有物理机,二层节点没有物理机和任务数,三层节点也没有任务。
资源分配模块203针对用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行操作S:
操作S、查询三层任务执行树的根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定是否有任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树。
资源分配模块203创建虚拟机的子任务分配完成后,将配置网络的子任务作为当前任务执行所述操作S。
由以上描述可以看出,本发明提供的方法和系统具有以下优点:
1)多条队列的并行分配机制,为大量用户并发申请云计算资源提供了保障。
2)保留若干资源作为绿色通道队列,保证在大量用户并发申请时,高服务等级的用户申请能够得到及时的分配。
3)在各队列内部按照服务等级进行排序,保证高服务等级的用户服务请求由于低服务等级的用户服务请求得到计算云计算资源的分配。
4)在分配云计算资源时,拆分成创建虚拟机和配置网络两个子任务,并分配至不同的物理机上实现,从而减少分配云计算资源的时间。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。

Claims (18)

1.一种云平台处理用户服务请求的方法,其特征在于,该方法包括:
接收到用户服务请求后,分析所述用户服务请求的服务等级;
判断普通工作队列中与分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将所述用户服务请求放入一个存在所述空位的普通工作队列中,否则,将所述用户服务请求放入绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前的空位;
并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,所述处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源;
其中所述普通工作队列和绿色通道队列的数量之和小于或等于云平台的并发处理能力。
2.根据权利要求1所述的方法,其特征在于,所述并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理的处理周期T采用经验值或者创建虚拟机所需的最长时间;
所述服务等级由用户期望任务申请时间确定,所述用户期望任务申请时间为所述T的整数倍。
3.根据权利要求1或2所述的方法,其特征在于,所述与分析得到的服务等级相匹配的位置为从队列前端开始编号为C的位置,所述C为所述分析得到的服务等级。
4.根据权利要求1所述的方法,其特征在于,所述普通工作队列和绿色通道队列的数量预先设定,或者依据高服务等级的用户服务请求量动态调整。
5.根据权利要求1所述的方法,其特征在于,在将所述用户服务请求放入普通工作队列或绿色通道队列中时,放入最短的普通工作队列或最短的绿色通道队列中最靠前的空位。
6.根据权利要求1所述的方法,其特征在于,若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,则向用户反馈无法服务。
7.根据权利要求1所述的方法,其特征在于,该方法还包括:当达到队列内部排序周期时,对所述普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序;
所述排序依据用户服务请求的服务等级,服务等级越高的用户服务请求排在队列中越靠前的位置;或者除了所述服务等级之外进一步结合用户服务请求的已等待时间或用户的临时需求进行排序。
8.根据权利要求1所述的方法,其特征在于,在对用户服务请求分配云计算资源时,将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行。
9.根据权利要求8所述的方法,其特征在于,所述将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行具体包括:
针对用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行以下步骤S:
步骤S、查询三层任务执行树的根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定是否有任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树;
创建虚拟机的子任务分配完成后,将配置网络的子任务作为当前任务执行所述步骤S;
其中所述三层任务执行树的根节点记录空闲状态的物理机,二层节点记录已创建虚拟机的物理机以及物理机正在执行的任务数,三层节点记录物理机正在执行的任务。
10.一种云平台处理用户服务请求的系统,其特征在于,该系统包括:
用户服务模块,用于接收到用户服务请求后,分析所述用户服务请求的服务等级;
队列调度模块,用于判断普通工作队列中与所述用户服务模块分析得到的服务等级相匹配的位置以及该位置之前是否存在空位,如果是,则将所述用户服务请求放入一个存在所述空位的普通工作队列中,否则,将所述用户服务请求放入绿色通道队列中与所述用户服务模块分析得到的服务等级相匹配的位置以及该位置之前的空位;
资源分配模块,用于并行对各普通工作队列和绿色通道队列中的用户服务请求进行处理,所述处理为:依据用户服务请求在队列中从前至后的位置依次分配云计算资源;
其中所述普通工作队列和绿色通道队列的数量之和小于或等于所述资源分配模块的并发处理能力。
11.根据权利要求10所述的系统,其特征在于,所述资源分配模块对用户服务请求的处理周期T采用经验值或者创建虚拟机所需的最长时间;
所述服务等级由用户期望任务申请时间确定,所述用户期望任务申请时间为所述T的整数倍。
12.根据权利要求10或11所述的系统,其特征在于,所述队列调度模块将从队列前端开始编号为C的位置确定为与所述用户服务模块分析得到的服务等级相匹配的位置,所述C为所述分析得到的服务等级。
13.根据权利要求10所述的系统,其特征在于,所述普通工作队列和绿色通道队列的数量预先设定,或者依据高服务等级的用户服务请求量动态调整。
14.根据权利要求10所述的系统,其特征在于,所述队列调度模块在将所述用户服务请求放入普通工作队列或绿色通道队列中时,放入最短的普通工作队列或最短的绿色通道队列中最靠前的空位。
15.根据权利要求10所述的系统,其特征在于,若普通工作队列和绿色通道队列中与分析得到的服务等级相匹配的位置以及该位置之前都不存在空位,则所述队列调度模块通过所述用户服务模块向用户反馈无法服务。
16.根据权利要求10所述的系统,其特征在于,所述队列调度模块,还用于当达到队列内部排序周期时,对所述普通工作队列和绿色通道队列中的用户服务请求进行队列内部的排序;
所述排序依据用户服务请求的服务等级,服务等级越高的用户服务请求排在队列中越靠前的位置;或者除了所述服务等级之外进一步结合用户服务请求的已等待时间或用户的临时需求进行排序。
17.根据权利要求10所述的系统,其特征在于,所述资源分配模块在对用户服务请求分配云计算资源时,将创建虚拟机和配置网络两个子任务调度到不同的物理机上执行。
18.根据权利要求17所述的系统,其特征在于,所述资源分配模块具体执行:
针对用户服务请求分配云计算资源时,首先将创建虚拟机的子任务作为当前任务,执行操作S:
操作S、查询三层任务执行树的根节点是否有空闲的物理机,如果有,将当前任务分配给其中一个空闲的物理机后,更新三层任务执行树;否则,查询二层节点确定是否有任务数量未达上限的物理机,如果有,将当前任务分配给其中一个任务数量未达上限的物理机,更新三层任务执行树;
创建虚拟机的子任务分配完成后,将配置网络的子任务作为当前任务执行所述操作S;
其中所述三层任务执行树的根节点记录空闲状态的物理机,二层节点记录已创建虚拟机的物理机以及物理机正在执行的任务数,三层节点记录物理机正在执行的任务。
CN201210477691.5A 2012-11-21 2012-11-21 一种云平台处理用户服务请求的方法和系统 Active CN103023980B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210477691.5A CN103023980B (zh) 2012-11-21 2012-11-21 一种云平台处理用户服务请求的方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210477691.5A CN103023980B (zh) 2012-11-21 2012-11-21 一种云平台处理用户服务请求的方法和系统

Publications (2)

Publication Number Publication Date
CN103023980A CN103023980A (zh) 2013-04-03
CN103023980B true CN103023980B (zh) 2016-03-23

Family

ID=47972106

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210477691.5A Active CN103023980B (zh) 2012-11-21 2012-11-21 一种云平台处理用户服务请求的方法和系统

Country Status (1)

Country Link
CN (1) CN103023980B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104657205B (zh) * 2014-12-26 2018-12-14 中通服公众信息产业股份有限公司 一种基于虚拟化的视频内容分析方法及系统
US10217053B2 (en) 2015-06-23 2019-02-26 International Business Machines Corporation Provisioning service requests in a computer system
CN105975343B (zh) * 2016-05-10 2019-10-15 广东睿江云计算股份有限公司 一种云主机系统中服务质量的控制方法及装置
CN106100915A (zh) * 2016-08-26 2016-11-09 上海欧网网络科技发展有限公司 云计算网络的自动配置方法
CN108243200B (zh) * 2016-12-23 2022-04-12 中科星图股份有限公司 一种用于确定流处理请求等级的服务器
CN109446641B (zh) * 2018-10-26 2023-04-18 华侨大学 一种云计算服务系统的多阶段可靠性建模分析方法
CN110502339A (zh) * 2019-07-23 2019-11-26 苏宁云计算有限公司 数据服务资源分配方法、装置、系统和存储介质
CN112381384B (zh) * 2020-11-12 2023-09-01 中国联合网络通信集团有限公司 一种续办方法和装置
CN113344375A (zh) * 2021-06-01 2021-09-03 北京十一贝科技有限公司 保险服务流程中的任务管理方法、装置、电子设备和介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101778092A (zh) * 2009-01-13 2010-07-14 蒋一 多客户端服务器的数据传输方法
CN102104631A (zh) * 2011-02-28 2011-06-22 南京邮电大学 一种基于云端计算技术的知识系统中的服务质量保障方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9215275B2 (en) * 2010-09-30 2015-12-15 A10 Networks, Inc. System and method to balance servers based on server load status

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101778092A (zh) * 2009-01-13 2010-07-14 蒋一 多客户端服务器的数据传输方法
CN102104631A (zh) * 2011-02-28 2011-06-22 南京邮电大学 一种基于云端计算技术的知识系统中的服务质量保障方法

Also Published As

Publication number Publication date
CN103023980A (zh) 2013-04-03

Similar Documents

Publication Publication Date Title
CN103023980B (zh) 一种云平台处理用户服务请求的方法和系统
Niu et al. Load balancing across microservices
US8949847B2 (en) Apparatus and method for managing resources in cluster computing environment
AU2020277238A1 (en) Systems and methods for auto-scaling a big data system
CN104391918B (zh) 基于对等部署的分布式数据库查询优先级管理的实现方法
Fakhfakh et al. Workflow scheduling in cloud computing: a survey
CN104270421B (zh) 一种支持带宽保证的多租户云平台任务调度方法
CN103944769A (zh) 基于rpc协议的集群资源统一管理系统
JP5102543B2 (ja) 情報技術インフラストラクチャを動的にプロビジョニングするための方法
CN107688492A (zh) 资源的控制方法、装置和集群资源管理系统
CN107291536B (zh) 一种云计算环境下应用任务流调度方法
CN104112049B (zh) 基于P2P构架的MapReduce任务跨数据中心调度系统及方法
CN104735095A (zh) 一种云计算平台作业调度方法及装置
CN104503832B (zh) 一种公平和效率均衡的虚拟机调度系统及方法
Lai et al. Sol: Fast distributed computation over slow networks
CN105404549B (zh) 基于yarn架构的虚拟机调度系统
CN106657099B (zh) 一种Spark数据分析服务发布系统
CN104102533A (zh) 一种基于带宽感知的Hadoop调度方法和系统
CN102915255A (zh) 用于大规模数据集并行运算的云计算服务系统和方法
Wang et al. Dependency-aware network adaptive scheduling of data-intensive parallel jobs
CN105227616B (zh) 一种遥感卫星地面处理系统任务动态创建与分配的方法
Tseng et al. An mec-based vnf placement and scheduling scheme for ar application topology
Chen et al. Research on workflow scheduling algorithms in the cloud
CN105426440B (zh) 一种基于数据库的异构型数据批量同步方法
CN106802822A (zh) 一种基于飞蛾算法的云数据中心认知资源调度方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: CHINA TELECOMMUNICATION CO., LTD.

Free format text: FORMER OWNER: CLOUD COMPUTING BRANCH OF CHINA TELECOM CORPORATION LTD.

Effective date: 20140820

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 100093 HAIDIAN, BEIJING TO: 100033 XICHENG, BEIJING

TA01 Transfer of patent application right

Effective date of registration: 20140820

Address after: 100033 Beijing Finance Street, No. 31, Xicheng District

Applicant after: China Telecommunication Co., Ltd.

Address before: 100093, Beijing, Haidian District apricot Road, No. 99, West win government house, E block, 4

Applicant before: Cloud Computing Branch of China Telecom Corporation Limited

C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220126

Address after: 100007 room 205-32, floor 2, building 2, No. 1 and No. 3, qinglonghutong a, Dongcheng District, Beijing

Patentee after: Tianyiyun Technology Co.,Ltd.

Address before: No.31, Financial Street, Xicheng District, Beijing, 100033

Patentee before: CHINA TELECOM Corp.,Ltd.

TR01 Transfer of patent right