CN107135241A - 一种业务处理方法和装置 - Google Patents
一种业务处理方法和装置 Download PDFInfo
- Publication number
- CN107135241A CN107135241A CN201610111382.4A CN201610111382A CN107135241A CN 107135241 A CN107135241 A CN 107135241A CN 201610111382 A CN201610111382 A CN 201610111382A CN 107135241 A CN107135241 A CN 107135241A
- Authority
- CN
- China
- Prior art keywords
- request
- type
- cloud resource
- service
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 91
- 238000000034 method Methods 0.000 title claims abstract description 25
- 238000012544 monitoring process Methods 0.000 claims description 9
- 230000009467 reduction Effects 0.000 claims description 6
- 238000009826 distribution Methods 0.000 description 8
- 230000004044 response Effects 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 108091064702 1 family Proteins 0.000 description 1
- 206010033799 Paralysis Diseases 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/61—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources taking into account QoS or priority requirements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本公开提供一种业务处理方法和装置,其中方法包括:识别业务请求的请求类型,所述类型包括:目标类型和非目标类型;将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列;根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。本公开实现了以较低的成本满足目标重要流量的优先服务能力。
Description
技术领域
本公开涉及网路技术,特别涉及一种业务处理方法和装置。
背景技术
云计算的出现对信息产业的发展产生了革命性的影响,云计算利用互联网的高速传输能力,将数据的处理过程从个人计算机或私有服务器转移到大型的云计算中心,并将计算能力、存储能力以服务的方式为用户提供,用户能够像使用电力、自来水等公用设施一样购买和使用云计算能力。作为云计算的租户,企业或个人可以采购定制符合日常需求的云服务,所采购的云服务能力在大部分情况下,可以满足企业业务需求,但是在一些企业搞活动或者重大节假日的时候,企业访问客流量会大量增加并以突发的形势出现,这种短期集中的突发流量超过了所采购的云服务能力,使得企业购买的云服务能力产生拥塞,导致用户体验急剧下降,甚至瘫痪以致完全提供不了服务。
发明内容
有鉴于此,本公开提供一种业务处理方法和装置,目的是以较低的成本实现对目标重要流量的优先服务能力。
具体地,本公开是通过如下技术方案实现的:
第一方面,提供一种业务处理方法,包括:
识别业务请求的请求类型,所述类型包括:目标类型和非目标类型;
将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列;
根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。
第二方面,提供一种业务处理装置,包括:
类型识别模块,用于识别业务请求的请求类型,所述类型包括:目标类型和非目标类型;
队列管理模块,用于将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列;
资源管理模块,用于根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。
本公开实施例提供的业务处理方法和装置,通过为不同类型的业务请求分配不同的云资源占用比例,并且设定目标类型的单位资源占用量高于非目标类型的单位资源占用量,使得在根据该比例进行业务的调度处理时,保证目标类型的业务的优先处理,该方式相对于购买云服务实现对目标类型业务的优先方案,成本较低,实现了以较低的成本满足目标重要流量的优先服务能力。
附图说明
图1是一个例子中的云服务架构模型;
图2是一个例子中的业务处理方法的流程图;
图3是一个例子中的类型识别示意图;
图4是一个例子中的业务处理的流程图。
具体实施方式
为了解决短期高峰流量的问题再购买额外更多的云服务,对于租户来说成本较大不经济,因为原有购买的云服务能力对于平峰时期还是能够满足需求;因此,可以基于企业利益中较大比例由重要客户提供的原则,优先保证重要客户的用户体验,可以称为保证重要流量的优先响应服务。为了实现该目的,有的租户单独为重要客户购买一套云服务,与普通用户分开服务,这种方式虽然简单,但是成本较高。
随着云计算技术的不断发展,越来越多的企业将自身的业务布置在云服务计算中心,以节省企业自身的网络架构成本。该企业的用户可以通过个人电脑或者移动终端等设备,访问云服务计算中心来获取企业提供的业务服务。在该场景下,云服务计算中心作为企业的服务提供者,将用于处理该企业的诸多业务请求,例如,对于某个电商网站来说,用户通过电脑访问该网站进行购物时,即可以是由云服务计算中心接收来自用户的访问请求,并根据该电商企业设置在云服务计算中心的业务应用,来处理该访问请求,比如,向用户设备反馈该网站的网站页面进行展示。
图1示例了一个例子中的云服务架构模型,如图1所示,假设电商企业将自己的业务设置在云服务计算中心11,该云服务计算中心11可以提供给用户选择使用的云资源,例如,云资源可以包括存储资源(如,内存)、计算资源(如,CPU)等,这些云资源可以位于服务器12、服务器13等设备。该电商企业的用户群体可以通过终端14至终端17访问云服务计算中心11中的该企业的业务,图1仅示例了四台终端,实际场景中可以更多。
在企业的用户群体中,不同的用户对企业利润的贡献度不同,例如,该企业可以是80%的利润由20%的重要客户提供,采用本公开提供的业务处理方法,能够对企业的用户群体进行差别化提供服务,优先保障重要客户的服务响应能力。例如,当企业做活动或者重大节假日,出现突发的访问流量大幅增加时,优先保证重要客户的访问及时得到响应;即使在平时的访问中,也给予重要客户较多的资源占用权。
为了实现上述目的,本公开实施例的云服务计算中心将执行如下业务处理方法:以某个企业的业务访问为例,可以将访问业务的流量进行区分,将对企业来说比较重要的客户的访问请求,与普通客户的访问请求区别开来。区分的方式可以根据企业的业务特点来确定,例如,可以按照用户类型(User-type)或者业务类型(Service-type)来划分。
例如,企业可以将A类型的用户(如,某地区的用户、或者某客户公司的用户)设置为VIP用户,将B类型的用户设置为普通用户。本例子中,对于云服务计算中心11来说,可以将接收到VIP用户的业务请求称为“目标类型”的业务请求,即这些请求是需要优先保证;可以将接收到普通用户的业务请求称为“非目标类型”的业务请求,在短期高峰企业购买的云服务能力不足时,可以牺牲该非目标类型的业务请求来保障目标类型的业务请求。
又例如,企业也可以经营有多种类型的业务,包括重要的业务和普通业务。对于重要业务的流量需要优先保证服务响应,即上述的“目标类型”的业务请求,对于非重要的普通业务流量,要为重要业务的处理作出让步,即上述的“非目标类型”的业务请求。
租户在购买云服务计算中心11的云资源后,可以为不同类型的业务分配其占用的云资源比例,例如,如下表1示例了以用户类型为例区分业务请求的资源占用分配情况,表2示例了以业务类型为例区分业务请求的资源占用分配情况。这种业务请求类型的划分以及云资源占用比例的分配,可以称为业务调度规则。该业务调度规则可以预先配置在云服务计算中心11,并且租户可以在业务运作过程中根据业务特点进行修正。
表1各用户类型的资源占用
用户类型 | User-type1-VIP | User-type2-VIP | User-type3 | User-type4 |
资源占用 | 45% | 35% | 10% | 10% |
如上的表1所示,目标类型中包括两种VIP用户,User-type1-VIP和User-type2-VIP,还包括两种非目标类型的普通用户User-type3和User-type4,实际应用场景中,目标类型和非目标类型对应的种类可以有多种。各个类型的资源占用比例,可以是对于企业所购买的云资源,分配给各个类型业务流量的比例,例如,对于User-type1用户的访问请求,用45%的云资源来处理。
表2各业务类型的资源占用
上述的业务调度规则,可以作为后续对业务请求进行调度处理的依据。例如,假设接收到了一定数量的业务请求,其中包括Service-type1、Service-type2等四个类型的业务,如果对这些业务请求平等的进行随机调度处理,无法实现VIP业务的优先响应,很可能出现短期流量突增时非VIP业务的大量处理导致VIP业务的响应速度降低。而如果按照上述业务调度规则,在调度处理时就加以区别,相对较多比例的云资源用于VIP业务的业务处理,将可以保证VIP业务的优先响应。
该业务调度规则在配置时,目标类型与非目标类型可以用不同的标记加以区分,例如,在上述的表1和表2中,目标类型是以附加“VIP”标记进行区别。还可以是将各个类型按照优先级的顺序进行排列,例如,以表2为例,各个类型从左到右的优先级逐次下降,相应的,资源占用比例也可以逐次降低,以与对应类型的优先级相匹配。
本例子中,即使设置目标类型的业务占用较多的云资源比例,也不一定能够保证目标类型业务的服务响应速度,因为还需要看使用该目标类型业务对应的云资源的使用者数量,尽可能使目标类型业务的单位资源占用量高于非目标类型的单位资源占用量,以保证目标类型业务的优先响应。
例如,以表1的用户类型划分为例,可以获取各个用户类型对应的用户数量(例如,该数量可以是预估的对应本类型的业务用户数量,或者是由用户数据库查询得到的用户统计数据),并根据用户数量计算人均资源占用率。
表3人均资源计算结果
由表3可以看到,VIP用户类型的人均资源占用率高于普通用户类型的人均资源占用率。如果在其他场景中,经过计算发现VIP用户类型的人均资源占用率低于普通用户类型的人均资源占用率,可以提示企业人员修正对各个类型的云资源分配,直至高优先级的人均资源占用率较高。
此外,在保证目标类型(如,VIP)的人均资源占用率高于非目标类型(如,非VIP)的人均资源占用率的基础上,当目标类型和非目标类型的种类都包括多种时(例如,表3的VIP有两种type),各个种类之间的人均资源占用率的比较结果可以不做限制,企业可以根据自己的业务经验进行调整。例如,两种VIP类型V1和V2同等重要时,可以V1的人均资源占用率高于V2,也可以V2的人均资源占用率高于V1;又例如,如果两种VIP类型V1的优先级高于V2,可以是V1类型的用户更重要,那么可以设置V1的人均资源占用率高于V2。
在配置上述的业务调度规则后,云服务计算中心可以根据该业务调度规则进行业务处理,参见图2所示,业务处理的流程可以包括:
在步骤201中,识别业务请求的请求类型,包括目标类型和非目标类型。
例如,云服务计算中心在接收到一个业务请求时,可以识别该请求的类型,以表1所示的类型划分为例,可以识别业务请求属于User-type1至User-type4中的哪一个。
本步骤中,业务请求可以携带用户名,云服务计算中心可以预先存储用户名与用户类型的对应关系,这样在接收到业务请求时,可以根据请求中的用户名确定对应的用户类型,例如,发送该业务请求的用户是属于User-type1的用户类型。或者,类型的识别也可以不是依据对应关系,而是根据类型识别的一些规则进行区分,比如,确定各个类型的业务请求具有的特征,例如,该特征可以是报文的源地址和源端口等,根据特征识别报文类型。
在步骤202中,将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列。
例如,在识别到业务请求的类型后,可以将其放入对应该类型的请求队列进行等待。参见图3的示例,假设有四个请求队列,如果在步骤201中识别到接收到的业务请求的类型是User-type2,则将该业务请求放入请求队列2中,等待调度该业务请求进行业务处理。
在步骤203中,根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。
例如,云服务计算中心对接收到的各种类型的业务请求进行调度处理,比如可以是根据该业务请求将请求的网页信息反馈至用户终端进行展示。本步骤中,云服务计算中心可以根据业务调度规则进行业务调度,比如可以是,在一次调度中,分别由四个请求队列中读取各个类型的业务请求(实际上是读取该业务请求携带的信息,以根据该信息响应业务请求),并且,各个队列中读取的请求数量之间的比例与业务调度规则中的云资源占用比例一致。
比如,以表1为例,可以从User-type1对应的请求队列1中读取9个业务请求,从User-type2对应的请求队列2中读取7个业务请求,从User-type3对应的请求队列3中读取2个业务请求,从User-type4对应的请求队列4中读取2个业务请求,完成一轮调度,下一次调度时仍然按照如上方式读取。可以看到,一次调度中这四个请求队列读取的请求数量的比例为:9:7:2:2,这与表1所示的各个类型的资源占用比例是相同的,45:35:10:10=9:7:2:2。
通过根据业务调度规则进行业务请求的调度处理,可以使得不同类型的请求占用的云资源比例不同,重要的目标类型的请求占用更多的云资源进行处理,从而使得目标类型请求能够得到更快的响应,保证对目标重要流量的优先服务;并且,相对于为重要客户单独购买一套云服务来说,本例子可以使用购买的同一套云服务,既处理目标类型业务也处理非目标类型业务,并保证目标业务的优先处理,成本相对较低。
在另一个例子中,在保证目标类型请求的单位资源占用量高于非目标类型请求的单位资源占用量的基础上,不同的应用场景下,还可以对不同类型的请求按照不同的云资源占用比例进行调度。例如,在平峰时期,可以根据预先配置的业务调度规则中限定的比例处理,而在高峰流量时期,可以对预先配置的业务调度规则中限定的比例进行调整,降低非目标类型的占用比例,以优先保证目标类型的资源占用,从而更好的体现目标类型的优先性。如下通过图4,来说明如何通过图4所示的业务处理装置400来执行本公开的业务处理方法,并且将描述该装置如何在不同的应用场景中调整调度比例。
参见图4的示例,例如,用户可以通过浏览器或者APP访问布置在云服务计算中心的业务服务,类型识别模块41可以接收到该业务请求。业务请求中可以包括用户名和密码等信息,类型识别模块41可以提取业务请求中的用户名和密码,并将用户名发送至认证服务器42。认证服务器42根据用户名,返回与该用户名对应的密码、以及用户类型,例如,该用户是User-type 3。
本例子中,以认证服务器识别业务请求对应的用户类型为例,当然在其他的应用场景中,还可以是将业务类型或其他类型返回给类型识别模块41。具体返回何种类型,可以根据预先配置的业务调度规则,如果业务调度规则是以用户类型划分,那么认证服务器42可以用于识别某个业务请求对应的用户类型;如果业务调度规则是以业务类型划分,认证服务器42可以用于识别某个业务请求对应的业务类型。识别的方法可以是,例如,预先在认证服务器42存储用户名与用户类型的对应关系,以根据用户名识别类型;或者,预先存储一些识别规则,根据业务请求中携带的特征信息确定对应的类型。
类型识别模块41在接收到认证服务器42返回的密码和用户类型后,可以将该密码与业务请求中携带的密码进行比较。如果不相同,则认证不通过,放弃对该业务请求的后续处理。如果两个密码相同,则认证通过,并将该业务请求以及认证服务器42返回的用户类型,一并送至队列管理模块43。
队列管理模块43启动后会向用户管理模块44查询业务调度规则中的类型划分情况,并根据类型划分启动对应的请求队列。例如,预先配置的业务调度规则,可以是存储在用户管理模块44,假设划分了表1所示例的四个用户类型,用户管理模块44可以将这四个用户类型通知给队列管理模块43,队列管理模块43则启动四个请求队列。如图4所示例,四个请求队列分别对应四个用户类型,比如,请求队列1对应User-type1-VIP,请求队列2对应User-type2-VIP。
队列管理模块43在接收到类型识别模块41发送的业务请求及对应的用户类型后,可以根据用户类型将业务请求放入对应该类型的请求队列。例如,如果识别到的用户类型是User-type1-VIP,则将该业务请求放入请求队列1。因此,队列管理模块43实现了对各个业务请求的队列划分。
资源管理模块45可以由各个请求队列中读取业务请求,并将该请求放入处理队列,业务处理进程将不断的从该处理队列中读取业务请求,使用云资源对该处理队列中的业务请求进行业务处理。以云服务计算中心的某个租户的业务处理为例,本例子中,业务调度规则限定的是调度该租户的业务中某种类型业务流量的比例,云服务计算中心可以根据业务调度规则中限定的不同请求队列的云资源占用比例,由各个请求队列中读取不同数量的业务请求放入处理队列。而在对处理队列进行业务处理时,可以是使用该租户的整体云资源进行业务处理,这种方式使得业务处理的效率较高。并且,调度比例的不同可以实现不同的业务流量处理的效率不同,调度比例较大的业务将可以更快更多的得到处理。此外,在处理队列中排列时,可以将目标类型的业务请求排在非目标类型的业务请求之前,以更快的处理目标类型的业务。
资源管理模块45在读取业务请求时,可以进行多轮调度,例如,在一次调度中,分别由四个请求队列中各读取一部分业务请求放入处理队列,接着进行第二次调度,再分别由四个请求队列中各读取一部分业务请求放入处理队列,重复该过程直至所有的请求队列为空。每一轮调度的读取方式(例如,每次从各个请求队列分别读取请求的数量)可以是相同的,如下说明资源管理模块45一轮调度的处理。
例如,资源管理模块45可以根据如下三个因素进行调度处理:云资源使用效率、调度处理单元和业务调度规则。其中,业务调度规则参见前述例子,不再详述。云资源使用效率,例如,对于某个企业购买的云资源来说,当前已经使用的云资源占整体购买的云资源的比例,即云资源使用效率,取值可以在0至100%之间,可以表示当前云资源的系统负荷,比如,如果当前云资源使用效率是85%,表示系统处理能力繁忙;如果当前云资源使用效率是60%,表示系统处理能力剩余较多,相对比较空闲。
调度处理单元可以表示单位调度的业务请求的数量,例如,该调度处理单元可以是一次处理一个用户的业务请求;或者,还可以根据云服务系统的处理能力,调整调度处理单元一次处理多个业务请求,使得系统处理能力与处理粒度匹配。本实施例中,云资源使用效率(以R表示)和调度处理单元(以min表示),可以由监控模块46进行监控获得,资源管理模块45可以由监控模块46获取这两个参数,并可以由用户管理模块44获取业务调度规则。
资源管理模块45可以设定一个预设阈值,并将由监控模块46得到的云资源使用效率R与该阈值比较,以判定当前系统的负荷状态。例如,假设该预设阈值是80%,如果R<=80%,说明系统处理能力剩余较多,如果R>80%,说明系统处理繁忙。
在一个应用场景中,当R<=80%,系统处理能力剩余较多时,这种情况下可以既处理目标类型的业务请求也处理非目标类型的业务请求,不过需要确保目标类型业务请求可以有较多的资源占用权利。例如,以表1所示的用户类型划分的资源占用分配为例,可以将所有资源占用比例求整,得到表3:
表4求整后的资源占用
用户类型 | User-type1-VIP | User-type2-VIP | User-type3 | User-type4 |
资源占用 | 45 | 35 | 10 | 10 |
根据如上的表4,可以将剩余的云资源分成100份,每一份作为一个调度处理单元可以用于处理一个业务请求,相当于一次调度处理100*min个用户,那么可以按照表4所示的比例,由User-type1-VIP读取45个业务请求,由User-type2-VIP读取35个业务请求,分别由User-type3和User-type4中读取10个业务请求,完成一次业务调度。但是为了更加精细化的处理,还可以在表4的基础上继续计算这些比例的最大公约数,并根据最大公约数5计算最小的能严格按照分配比例进行队列读取的用户数,100/5=20,得到表5:
表5精简后的资源占用
用户类型 | User-type1-VIP | User-type2-VIP | User-type3 | User-type4 |
资源占用 | 9 | 7 | 2 | 2 |
根据表5,表5所示的即为每一次调度时从不同的请求队列读取相应数量的调度处理单元对应的业务请求。例如,资源管理模块45可以一次从请求队列1读取9*min个用户加入到处理队列,读完之后再从请求队列2读取7*min个用户加入到处理队列,读完后再从请求队列3读取2*min个用户加入处理队列,然后再从请求队列4读取2*min个用户加入处理队列,这样资源管理模块45的一轮调度完成,后续重复这个操作。上述的读取方式,使得由不同的请求队列中读取的业务请求的数量符合云资源占用比例的分配。如果轮询到某个队列为空,则直接跳空该队列,其他队列的比例不变;或者,还可以在为空的队列之外的剩余队列之间,重新调整云资源占用比例的分配,并按照调整后的分配比例进行业务的调度处理。
在另一个应用场景中,当R>80%,系统处理繁忙时,这种情况下云资源系统负荷较重,可能负荷已经超出了系统服务能力,此时可以优先保证目标类型的业务请求的处理,可以放弃非目标类型的业务请求来实现上述目的。该场景中,资源管理模块45同样可以计算得到表5所示的比例,与上一个场景不同的是,本例子中的资源管理模块45还可以降低非目标类型的云资源占用比例降低,例如,将非VIP用户类型的资源占用比例设置为零,如表6:
表6调整后的资源占用
用户类型 | User-type1-VIP | User-type2-VIP | User-type3 | User-type4 |
资源占用 | 9 | 7 | 0 | 0 |
上述表6中,将普通用户(User-type3和User-type4)的资源占用比例设置为零,只是一种示例,实际实施中还可以有其他多种方式,例如,可以只降低部分普通用户的资源占用比例,比如,User-type3所占比例为0,User-type4所占比例仍为2;又比如,还可以将User-type3和User-type4的所占比例都由2调整为1,等。当采用表5所示的方式时,即普通用户此时得不到调度,资源管理模块45将一直读取VIP队列到处理队列。
通过降低非目标类型业务请求的调度比例,可以将尽可能多的云资源都用于目标类型业务请求的处理,从而实现优先保证目标类型的业务。资源管理模块45还可以不断监控从监控模块46获得的云资源使用效率R,当R<=80%时,即系统负荷又重新降低时,资源管理模块45可以重置业务调度规则,将表6又重新恢复至表5,按照表5读取请求队列。业务处理进程将不断从处理队列读取业务请求进行业务处理,直至业务处理完成。
本实施例的业务处理方法,通过将不同类型的业务请求配置不同的云资源比例进行处理,且目标类型请求的单位资源占用量高于非目标类型的单位资源占用量,可以使得云资源优先保证目标业务的处理执行,该方式不仅实现了对目标重要流量的优先服务能力,而且成本较低。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开实施例的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本公开的较佳实施例而已,并不用以限制本公开,凡在本公开的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本公开保护的范围之内。
Claims (10)
1.一种业务处理方法,其特征在于,包括:
识别业务请求的请求类型,所述类型包括:目标类型和非目标类型;
将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列;
根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。
2.根据权利要求1所述的方法,其特征在于,所述根据预设的业务调度规则,对不同请求队列的业务请求进行调度处理,包括:
获取云资源使用效率,所述云资源使用效率表示当前云资源的系统负荷;
若所述云资源使用效率低于预设阈值,则根据预先配置的业务调度规则中限定的云资源占用比例,对不同请求队列的业务请求进行调度处理。
3.根据权利要求1所述的方法,其特征在于,所述根据预设的业务调度规则,对不同请求队列的业务请求进行调度处理,包括:
获取云资源使用效率,所述云资源使用效率表示当前云资源的系统负荷;
若所述云资源使用效率高于预设阈值,则将预先配置的业务调度规则中限定的非目标类型的云资源占用比例降低,并根据降低后的云资源占用比例,对不同请求队列的业务请求进行调度处理。
4.根据权利要求3所述的方法,其特征在于,所述将预先配置的业务调度规则中限定的非目标类型的云资源占用比例降低,包括:
将所述非目标类型的云资源占用比例设置为零。
5.根据权利要求1~4任一所述的方法,其特征在于,所述对不同请求队列的业务请求进行调度处理,包括:
获取调度处理单元,所述调度处理单元表示单位调度的业务请求数量;
根据所述云资源占用比例,由不同请求队列中读取与所述云资源占用比例对应数量的调度处理单元对应的业务请求;
将读取的不同请求队列的业务请求,放入处理队列,并使用云资源对所述处理队列中的业务请求进行业务处理。
6.一种业务处理装置,其特征在于,包括:
类型识别模块,用于识别业务请求的请求类型,所述类型包括:目标类型和非目标类型;
队列管理模块,用于将不同请求类型的业务请求,分别放入与所述请求类型对应的请求队列;
资源管理模块,用于根据业务调度规则,对不同请求队列的业务请求进行调度处理,所述业务调度规则用于限定各个请求类型之间的云资源占用比例,且目标类型的单位资源占用量高于非目标类型的单位资源占用量。
7.根据权利要求6所述的装置,其特征在于,还包括:监控模块和用户管理模块;
所述监控模块,用于监控云资源使用效率,所述云资源使用效率表示当前云资源的系统负荷;
所述用户管理模块,用于存储预先配置的业务调度规则;
所述资源管理模块,用于由所述监控模块获取云资源使用效率,并在所述云资源使用效率低于预设阈值时,根据预先配置的业务调度规则中限定的云资源占用比例,对不同请求队列的业务请求进行调度处理。
8.根据权利要求7所述的装置,其特征在于,
所述资源管理模块,还用于在所述云资源使用效率高于预设阈值时,将预先配置的业务调度规则中限定的非目标类型的云资源占用比例降低,并根据降低后的云资源占用比例,对不同请求队列的业务请求进行调度处理。
9.根据权利要求8所述的装置,其特征在于,所述非目标类型的云资源占用比例设置为零。
10.根据权利要求7所述的装置,其特征在于,
所述资源管理模块,还用于由所述监控模块获取调度处理单元,所述调度处理单元表示单位调度的业务请求数量;根据所述云资源占用比例,由不同请求队列中读取与所述云资源占用比例对应数量的调度处理单元对应的业务请求;将读取的不同请求队列的业务请求,放入处理队列,并使用云资源对所述处理队列中的业务请求进行业务处理。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610111382.4A CN107135241A (zh) | 2016-02-26 | 2016-02-26 | 一种业务处理方法和装置 |
PCT/CN2017/074371 WO2017143981A1 (zh) | 2016-02-26 | 2017-02-22 | 服务处理 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610111382.4A CN107135241A (zh) | 2016-02-26 | 2016-02-26 | 一种业务处理方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107135241A true CN107135241A (zh) | 2017-09-05 |
Family
ID=59685850
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610111382.4A Pending CN107135241A (zh) | 2016-02-26 | 2016-02-26 | 一种业务处理方法和装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN107135241A (zh) |
WO (1) | WO2017143981A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108768886A (zh) * | 2018-05-30 | 2018-11-06 | 无锡知更鸟网络科技有限公司 | 一种SaaS数据访问质量提升方法 |
CN109634754A (zh) * | 2018-11-14 | 2019-04-16 | 彩讯科技股份有限公司 | 一种业务投递方法、装置、设备及计算机存储介质 |
CN109684092A (zh) * | 2018-12-24 | 2019-04-26 | 新华三大数据技术有限公司 | 资源分配方法及装置 |
CN109857595A (zh) * | 2019-02-28 | 2019-06-07 | 新华三信息安全技术有限公司 | 一种备份存储空间分配方法和装置 |
CN112667392A (zh) * | 2020-12-09 | 2021-04-16 | 南方电网数字电网研究院有限公司 | 云计算资源分配方法、装置、计算机设备和存储介质 |
CN113395291A (zh) * | 2021-06-30 | 2021-09-14 | 北京爱奇艺科技有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN113535360A (zh) * | 2021-07-23 | 2021-10-22 | 中国科学技术大学苏州高等研究院 | 软件定义云中基于租户粒度的请求调度方法和装置 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107888660B (zh) * | 2017-10-13 | 2021-06-18 | 杭州朗和科技有限公司 | 云服务资源调配方法、介质、装置和计算设备 |
CN107948095B (zh) * | 2017-11-21 | 2021-11-02 | 中国银行股份有限公司 | 一种资源控制方法、装置及总线系统服务器 |
CN110472875A (zh) * | 2019-08-20 | 2019-11-19 | 北京百度网讯科技有限公司 | 用于生成信息的方法和装置 |
CN112231146B (zh) * | 2020-10-22 | 2022-08-30 | 浪潮云信息技术股份公司 | 基于cinder-backup的备份服务质量的实现方法、存储介质 |
CN112988390A (zh) * | 2021-03-22 | 2021-06-18 | 上海超级计算中心 | 一种算力资源分配方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103179048A (zh) * | 2011-12-21 | 2013-06-26 | 中国电信股份有限公司 | 云数据中心的主机QoS策略变换方法及系统 |
CN103220797A (zh) * | 2006-07-27 | 2013-07-24 | 华为技术有限公司 | 一种调度传输资源的方法和系统 |
CN103369041A (zh) * | 2013-07-09 | 2013-10-23 | 北京奇虎科技有限公司 | 基于云计算的资源分配方法及装置 |
US20140115598A1 (en) * | 2012-10-24 | 2014-04-24 | Dell Products L.P. | System and method for controlled sharing of consumable resources in a computer cluster |
CN104053183A (zh) * | 2014-05-07 | 2014-09-17 | 华东师范大学 | 一种lte系统的网络资源管理方法 |
CN105117284A (zh) * | 2015-09-09 | 2015-12-02 | 厦门雅迅网络股份有限公司 | 一种基于优先级比例队列的工作线程的调度方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103713956B (zh) * | 2014-01-06 | 2017-01-25 | 山东大学 | 应用于云计算虚拟化管理环境中的智能加权负载均衡方法 |
-
2016
- 2016-02-26 CN CN201610111382.4A patent/CN107135241A/zh active Pending
-
2017
- 2017-02-22 WO PCT/CN2017/074371 patent/WO2017143981A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103220797A (zh) * | 2006-07-27 | 2013-07-24 | 华为技术有限公司 | 一种调度传输资源的方法和系统 |
CN103179048A (zh) * | 2011-12-21 | 2013-06-26 | 中国电信股份有限公司 | 云数据中心的主机QoS策略变换方法及系统 |
US20140115598A1 (en) * | 2012-10-24 | 2014-04-24 | Dell Products L.P. | System and method for controlled sharing of consumable resources in a computer cluster |
CN103369041A (zh) * | 2013-07-09 | 2013-10-23 | 北京奇虎科技有限公司 | 基于云计算的资源分配方法及装置 |
CN104053183A (zh) * | 2014-05-07 | 2014-09-17 | 华东师范大学 | 一种lte系统的网络资源管理方法 |
CN105117284A (zh) * | 2015-09-09 | 2015-12-02 | 厦门雅迅网络股份有限公司 | 一种基于优先级比例队列的工作线程的调度方法 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108768886A (zh) * | 2018-05-30 | 2018-11-06 | 无锡知更鸟网络科技有限公司 | 一种SaaS数据访问质量提升方法 |
CN109634754A (zh) * | 2018-11-14 | 2019-04-16 | 彩讯科技股份有限公司 | 一种业务投递方法、装置、设备及计算机存储介质 |
CN109684092A (zh) * | 2018-12-24 | 2019-04-26 | 新华三大数据技术有限公司 | 资源分配方法及装置 |
CN109857595A (zh) * | 2019-02-28 | 2019-06-07 | 新华三信息安全技术有限公司 | 一种备份存储空间分配方法和装置 |
CN112667392A (zh) * | 2020-12-09 | 2021-04-16 | 南方电网数字电网研究院有限公司 | 云计算资源分配方法、装置、计算机设备和存储介质 |
CN112667392B (zh) * | 2020-12-09 | 2024-01-23 | 南方电网数字电网研究院有限公司 | 云计算资源分配方法、装置、计算机设备和存储介质 |
CN113395291A (zh) * | 2021-06-30 | 2021-09-14 | 北京爱奇艺科技有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN113395291B (zh) * | 2021-06-30 | 2023-03-17 | 北京爱奇艺科技有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN113535360A (zh) * | 2021-07-23 | 2021-10-22 | 中国科学技术大学苏州高等研究院 | 软件定义云中基于租户粒度的请求调度方法和装置 |
CN113535360B (zh) * | 2021-07-23 | 2023-07-28 | 中国科学技术大学苏州高等研究院 | 软件定义云中基于租户粒度的请求调度方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2017143981A1 (zh) | 2017-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107135241A (zh) | 一种业务处理方法和装置 | |
CN109618002B (zh) | 一种微服务网关优化方法、装置及存储介质 | |
US9015227B2 (en) | Distributed data processing system | |
CN103442076B (zh) | 一种云存储系统的可用性保障方法 | |
Das et al. | A QoS and profit aware cloud confederation model for IaaS service providers | |
CN102004673A (zh) | 多核处理器负载均衡的处理方法及系统 | |
CN105246046A (zh) | 一种分享移动终端流量的方法和装置 | |
CN102904824B (zh) | 服务提供实体选择方法及装置 | |
CN101588344A (zh) | 一种网络系统中控制同一帐户登录的系统及方法 | |
CN102945185A (zh) | 任务调度方法及装置 | |
CN114501351A (zh) | 流量控制方法、设备及存储介质 | |
CN109993417A (zh) | 一种业务状态标识添加方法、装置及存储介质 | |
CN102638457A (zh) | 一种服务器资源自动分配方法及系统 | |
CN104301241B (zh) | 一种soa动态负载分发方法与系统 | |
CN110035128B (zh) | 一种直播调度方法、装置、直播系统及存储介质 | |
CN108737255A (zh) | 负载均衡方法、负载均衡装置及服务器 | |
Eymann et al. | Self-organizing resource allocation for autonomic network | |
CN112685169A (zh) | 一种负载控制方法、装置、服务器及可读存储介质 | |
CN103905473B (zh) | 云计算系统、负载均衡系统、负载均衡方法及装置 | |
Nafea et al. | Improving the performance and reliability of mobile commerce in developing countries | |
CN106445683B (zh) | 一种服务器资源分发方法及装置 | |
CN101431475B (zh) | 高性能的流媒体服务器的设置以及进行高性能节目读取的方法 | |
Li et al. | A hierarchical cloud pricing system | |
Weinman | Intercloudonomics: Quantifying the Value of the Intercloud | |
CN116703071A (zh) | 资源共享方法、装置及设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170905 |
|
RJ01 | Rejection of invention patent application after publication |