CN111182011B

CN111182011B - 一种服务集分配方法及装置

Info

Publication number: CN111182011B
Application number: CN201811333039.XA
Authority: CN
Inventors: 许万林; 章筱虎
Original assignee: China Mobile Communications Group Co Ltd; China Mobile Hangzhou Information Technology Co Ltd
Current assignee: China Mobile Communications Group Co Ltd; China Mobile Hangzhou Information Technology Co Ltd
Priority date: 2018-11-09
Filing date: 2018-11-09
Publication date: 2022-06-10
Anticipated expiration: 2038-11-09
Also published as: CN111182011A

Abstract

本申请公开一种服务集分配方法及装置，属于通信技术领域，该方法应用于分布式集群，分布式集群包括多个IDC，且每个IDC包括多个服务集，该方法包括：获取当前周期各IDC中服务集的请求处理情况，所述请求处理情况至少包括每个服务集处理的请求个数；对每个IDC，计算当前周期所述IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数；对所述IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子，利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重，从而动态地为每个服务集确定权重。

Description

一种服务集分配方法及装置

技术领域

本申请涉及通信技术领域，尤其涉及一种服务集分配方法及装置。

背景技术

如图1所示，为现有的分布式集群的应用示意图，主要包括前端的客户端、逻辑业务层的服务集群和数据层的数据存储三部分，其中，服务集群通常包括多个部署在不同城市的互联网数据中心(Internet Data Center，IDC)，每个IDC 又可包括多个用于处理业务请求的服务集，在图1中，服务集群包括IDC1、 IDC2、IDC3、IDC4共四个IDC，IDC1包括服务集11～服务集1n，IDC2包括服务集21～服务集2n，IDC3包括服务集31～服务集3n，IDC4包括服务集41～服务集4n；数据存储又包括缓存redis和数据库(Data Base，DB)存储。

当服务集群接收到来自客户端的业务请求时，可选择一个服务集来对业务请求进行处理，现有技术中，是为不同的服务集分配不同的权重，根据每个服务集的权重来分配业务请求，以达到负载均衡的目的，其中，每个服务集的权重是技术人员根据经验确定的，并且，一旦为服务集设定权重以后就不会轻易再改动了，实际上，每个服务集的性能随着时间推移是会发生变化的，网络环境也不是一成不变的，因此，为每个服务集设置固定权重是不合理的，而根据每个服务集的固定权重来分配服务集很可能会导致部分服务集的压力过大，进而影响分布式集群的整体性能。

发明内容

本申请实施例提供一种服务集分配方法及装置，用以解决现有技术中根据固定权重来分配服务集而导致的部分服务集的压力过大，影响分布式集群的整体性能的问题。

第一方面，本申请实施例提供的一种服务集分配方法，应用于分布式集群，所述分布式集群包括多个互联网数据中心IDC，每个IDC包括多个服务集，该方法包括：

获取当前周期各IDC中服务集的请求处理情况，所述请求处理情况至少包括每个服务集处理的请求个数；

对每个IDC，计算当前周期所述IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数；

对所述IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子，利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

本申请实施例中，获取当前周期各IDC中服务集的请求处理情况，对每个 IDC，计算当前周期IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数，根据IDC中各服务集平均处理的请求个数和每个服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子，进而利用第一调整因子对上一周期该服务集的权重进行调整，这样，根据当前服务集平均处理的请求个数来调整服务集的权重，为每个服务集确定的权重更加符合当前服务集实际的请求处理能力，权重设置方式更加合理，能够较好地避免部分服务集压力过大的情况，从而提升分布式集群的整体性能。

第二方面，本申请实施例提供的一种服务集分配装置，应用于分布式集群，所述分布式集群包括多个互联网数据中心IDC，每个IDC包括多个服务集，该装置包括：

获取模块，用于获取当前周期各IDC中服务集的请求处理情况，所述请求处理情况至少包括每个服务集处理的请求个数；

计算模块，用于对每个IDC，计算当前周期所述IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数；

确定模块，用于对所述IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子，利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

第三方面，本申请实施例提供的一种电子设备，包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中：

存储器存储有可被至少一个处理器执行的指令，该指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述服务集分配方法。

第四方面，本申请实施例提供的一种计算机可读介质，存储有计算机可执行指令，所述计算机可执行指令用于执行上述服务集分配方法。

另外，第二方面至第四方面中任一种设计方式所带来的技术效果可参见第一方面中不同实现方式所带来的技术效果，此处不再赘述。

本申请的这些方面或其它方面在以下实施例的描述中会更加简明易懂。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为现有技术中服务集分配方法的应用场景示意图；

图2为本申请实施例提供的服务集分配方法的应用场景示意图；

图3为本申请实施例提供的对业务请求进行处理的流程图；

图4为本申请实施例提供的一种服务集分配方法的流程图；

图5为本申请实施例提供的又一种服务集分配方法的流程图；

图6为本申请实施例提供的用于实现服务集分配方法的电子设备的硬件结构示意图；

图7为本申请实施例提供的服务集分配装置的结构示意图。

具体实施方式

为了解决现有技术中根据固定权重来分配服务集而导致的部分服务集的压力过大，影响分布式集群的整体性能的问题，本申请实施例提供了一种服务集分配方法及装置。

以下结合说明书附图对本申请的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本申请，并不用于限定本申请，并且在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

参见图2，图2示出了本申请实施例提供的服务集分配方法的应用场景示意图，包括前端的客户端、网络层的前置代理、逻辑业务层的服务集群、数据层的数据存储、路由策略系统和监控系统，其中，服务集群通常包括多个部署在不同城市的IDC，每个IDC又可包括多个用于处理业务请求的服务集，在图 2中，服务集群包括IDC1、IDC2、IDC3、IDC4共四个IDC，IDC1包括服务集11～服务集1n，IDC2包括服务集21～服务集2n，IDC3包括服务集31～服务集3n，IDC4包括服务集41～服务集4n；数据存储又包括缓存redis和DB，其中：

监控系统，用于监控分布式集群中各服务集的请求处理情况，如服务集的存活情况、服务集的请求处理个数和超时响应的请求个数等，并将监控到的各服务集的请求处理情况发送给路由策略系统。

路由策略系统，用于根据各服务集的请求处理情况动态地更新分布式集群中每个服务集的权重，并根据各服务集的权重确定供前置代理调用的服务集。

前置代理，用于统一拦截客户端发送的业务请求，调用路由策略系统为业务请求确定一个服务集，将业务请求发送给该服务集进行业务逻辑处理，并将处理结果返回给客户端。

数据存储，用于存储路由初始信息，缓存中间结果，存储业务数据等。

具体地，上述系统中，对业务请求进行处理的流程如图3所示：

S301：前置代理拦截客户端发送的业务请求。

S302：向路由策略系统查询可用的服务集。

S303：路由策略系统根据当前各服务集的权重确定一个服务集。

其中，当前各服务集的权重是路由策略系统根据监控系统获取到的当前服务集群中各服务集的请求处理情况确定的。

S304：路由策略系统向前置代理返回服务集的标识。

S305：前置代理将业务请求发送给具有所述标识的服务集进行处理。

S306：具有所述标识的服务集对业务请求进行逻辑处理。

S307：具有所述标识的服务集向前置代理返回业务处理结果。

S308：前置代理将业务处理结果返回给客户端。

在具体实施时，监控服务集群和路由策略系统可以部署于同一个物理服务器上，也可以分别部署在两个物理服务器上，并且，监控服务集群和路由策略系统独立于服务集群进行部署，整个系统的扩展性向更好。

下面对动态确定每个服务集的权重的过程进行介绍。

监控系统启动后，可获取分布式集群中所有存活的服务集的信息，并记录 IDC和服务集之间的对应关系，考虑到集群中可能会部署不同的服务，所以还可记录服务集与业务服务的对应关系，最后生成如：server1-IDC1-SET11、 server1-IDC1-SET12、server1-IDC2-SET21、server1-IDC2-SET22这样的对应关系，其中，server1为业务服务的标识，IDC1、IDC2为IDC的标识、SET11、 SET12、SET21、SET22为服务集的标识。

之后，监控系统将这些对应关系存储到数据库和redis中，其中，数据库表分别以servername、idcnum、setnum为列；redis则可以server1为key，以 IDC1:SET11|SET12||IDC2:SET21|SET22为value的形式进行存储，这样，数据库数据作为冷备，可防止redis服务因挂掉而失去提供数据的能力。

后续，监控系统周期性地获取服务集群中每个服务集的请求处理情况，获取的主要参数有：集群中每个存活的服务集的请求处理个数tps和响应超时的请求个数count，并可计算每个服务集平均处理的请求个数avrg_tps和平均响应超时的请求个数avrg_count。

并且，监控系统还可将每个周期获取到的信息组装成字符串发送给路由策略监控系统。

比如，组装格式为：set11:300|50||set12:300|50||set21:300|50||set22:300|50，其中，不同SET之间的数据用“||”分隔，300|50表示avrg_tps|avrg_count。

另外，监控系统在取到当前周期各服务集的请求处理情况之后，还可与缓存中存储的上一周期获取到的存活的服务集的标识进行比对，如果server对应的IDC标识和IDC对应的服务集标识相同，则只存储数据；否则将当前获取到的新的对应关系添加到redis和数据库表中。

初始时，路由策略系统不知道服务集群的物理性能、请求响应时长等信息，因此，可预设每个服务集的权重，之后，将以server为key，IDC、服务集、权重为value的映射关系缓存到redis中，value格式如： IDC1:SET11-50|SET12-50||IDC2:SET21-50|SET22-50，其中，每个key即每个服务，每个服务对应的一个IDC中所有SET权重和可设为100。

其中，在预设每个服务集的权重时，可设定一个IDC中的各服务集均分设定的总权重，也可使硬件设备好的服务器可支持更高的请求处理速度，即，在初始设置权重时可以加入对物理机性能的参考，比如某个IDC中服务集11的性能比服务集12的更优，则可将服务集11的权重增加设定权重，将服务集12 的权重调减少设定权重。

后续，当路由策略系统接收到监控系统推送的集群服务集的请求处理情况时，可以IDC为单位分别确定每个IDC中各服务集的权重。

考虑到一个sever对应的一个IDC中每个服务集处理的请求个数不同，为达到负载均衡的目的，尽可能地使每个服务集平均处理的请求个数相近，因此，针对IDC中的第i个服务集，可利用如下公式计算用于调整该服务集的权重的第一调整因子rt_tps_i：

rt_tps_i＝avrg_tps/avrg_tps_i 公式1)

其中，avrg_tps_i表示第i个服务集平均处理的请求个数，avrg_tps表示该 IDC中各服务集平均处理的请求个数，具体计算公式如下：

其中，n表示该IDC中存活的服务集的个数。

实际应用中，一个sever对应的一个IDC中每个服务集的请求数会有不同，如果只是单纯地根据每个服务集平均处理的请求个数来确定服务集的权重会有偏差，所以还可考虑每个服务集的超时响应情况。

比如，还可根据每个服务集的超时响应情况计算用于调整该服务集的权重的第二调整因子rt_count_i：

rt_count_i＝avrg_count/(avrg_count_i*rt_tps_i) 公式3)

其中，avrg_count_i表示第i个服务集平均响应超时的请求个数，avrg_count 表示一个server对应的一个IDC中所有服务集平均响应超时的请求个数，具体计算公式如下：

其中，n表示该IDC中存活的服务集的个数。

进一步地，对IDC中的每个服务集，利用该服务集对应的第一调整因子和第二调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

在具体实施时，可对比当前周期获取到的一个sever对应一个IDC中服务集的标识与上一周期获取到的服务集的标识是否有变化，分为三种情况：服务集的数量无变化、服务集的数量变少、服务集的数量变多，下面针对这三种情况分别的处理方法分别进行说明。

第一种：数量无变化。

最常见的默认情况，因为分布式集群在稳定后基本不改变服务集的个数，此时，可根据如下公式确定当前周期第i个服务集的权重rtw_i：

rtw_i＝w_i*rt_tps_i*rt_count_i 公式5)

其中，w_i表示上一周期第i个服务集的权重。

在具体实施时，针对任一IDC，若当前周期为该IDC中所有存活的服务集确定的权重的总和不够100或者超过100，则可采用权重震荡方法对每个服务集的权重进行调整，具体公式如下：

其中，new_w_i表示对当前周期第i个服务集的权重rtw_i进行调整后的权重。

第二种：数量变少。

可能原因是某SET服务宕机或者人工减容，处理方法为：

利用公式5)计算出每个存活的服务集的权重后，求取各服务集的权重总和，并将剩余空闲权重平均分配到每个SET上，具体计算公式仍然采用公式6)。

第三种：数量变多。

可能原因是水平扩容，处理方法为：

先求取新增服务集后各服务集的权重平均值，将每个新增服务集的权重赋值为该权重平均值，而对每个非新增服务集，仍然利用公式6)对该服务集的权重进行调整。

下面结合具体的实施例对上述过程进行说明。

假设当前周期获取到的某个IDC中存活的3个服务集的请求处理情况为：

服务集1，avrg_tps₁＝100，avrg_count₁＝10；

服务集2，avrg_tps₂＝300，avrg_count₂＝30；

服务集3，avrg_tps₃＝200，avrg_count₃＝10；

则，

进一步地，

进一步地：

假设上一周期：服务集1的权重为20、服务集2的权重为40、服务集2 的权重为40，那么当前周期为各服务集确定的权重为：

rtw₁＝w₁*rt_tps₁*rt_count₁＝20*2*5/6＝33.33；

rtw₂＝w₂*rt_tps₂*rt_count₂＝40*2/3*5/6＝22.22；

rtw₃＝w₃*rt_tps₃*rt_count₃＝40*1*5/3＝66.67；

当前周期为各服务集确定的权重之和不为100，则可利用公式6)对每个服务集的权重进行调整，调整后：

在具体实施时，当某个服务集或者某些服务集的网络不稳定时，可能会导致超响应阈值请求数比例过大，与其它服务集相比往往是指数级的增多，从而导致IDC中存在权重小于零的服务集，此时，可将权重为负数的服务集权重改成默认权重df_min_w，然后将增加的权重平均地调整到其它权重不为负的服务集上，具体计算公式如下：

其中，t表示IDC中权重值为负数的服务集的个数，diff_t表示第t个服务集的权重调整差值，具体计算公式如下：

diff_t＝df_min_w-new_w_i 公式8)

另外，在执行完该步操作后，若又出现新的权重为负数的服务集，还可重复该步骤直至所有服务集的权重都为正数、且总和为100。另外，针对服务集的权重发生变化的场景会同时更新redis信息和数据库表的权重信息。

本申请实施例中，路由策略系统和监控系统完全独立于处理业务的服务集群，并利用前置代理做到多模块解耦，整个系统架构设计合理，扩展性强，并且可根据获取到的分布式集群中每个服务集的请求处理情况动态地调整每个服务集的权重，尤其适合大型的分布式系统，另外，redis和DB的数据存储模式存储各服务集的权重，保证冷热备、容灾性比较强。

如图4所示，为本申请实施例提供的一种服务集分配方法的流程图，包括以下步骤：

S401：获取当前周期各IDC中服务集的请求处理情况，该请求处理情况至少包括每个服务集处理的请求个数。

S402：对每个IDC，计算当前周期该IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数。

S403：对该IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子。

对任一服务集而言，该服务集平均处理的请求个数可反映出该服务集的硬件性能，因此，可根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子。

比如，将各服务集平均处理的请求个数与该服务集平均处理的请求个数的比值，确定为用于调整该服务集的权重的第一调整因子，

S404：利用第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

比如，可将第一调整因子和上一周期该服务集的权重的乘积作为当前周期确定的该服务集的权重。

如图5所示，为本申请实施例提供的又一种服务集分配方法的流程图，包括以下步骤：

S501：获取当前周期各IDC中服务集的请求处理情况，该请求处理情况至少包括每个服务集处理的请求个数和响应超时的请求个数。

其中，当前周期服务集处理的请求个数可反映出当前服务集的硬件性能，当前周期服服务集响应超时的请求个数可反映出当前服务集的网络性能，结合考虑当前服务集的硬件性能和网络性能便于为服务集确定出最合理的权重。

S502：对每个IDC，根据该IDC中各服务集的请求处理情况确定用于调整每个服务集权重的第一调整因子和第二调整因子。

在具体实施时，对每个IDC，可计算当前周期该IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数，进而对该IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子。

比如，可利用如下公式计算第一调整因子rt_tps_i：

rt_tps_i＝avrg_tps/avrg_tps_i 公式1)

其中，avrg_tps_i表示IDC中第i个服务集平均处理的请求个数，avrg_tps 表示该IDC中各服务集平均处理的请求个数，具体计算公式如下：

其中，n表示该IDC中存活的服务集的个数。

进一步地，可计算当前周期该IDC中每个服务集平均响应超时的请求个数，根据该服务集平均响应超时的请求个数和各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子。

实际应用中，可能会出现，某IDC中服务集11每秒处理的请求个数为300 个，超时响应的请求个数为10个；服务集12每秒处理的请求个数为100个，超时响应的请求个数为5个，单从超时响应的请求个数上似乎服务集12优于服务集11，但实际上服务集11的请求处理能力明显要优于服务集12。

考虑到上述情况，上述过程中，在根据该服务集平均响应超时的请求个数和各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子之前，还可对该服务集平均响应超时的请求个数进行归一化处理，之后，根据归一化处理后该服务集平均响应超时的请求个数和归一化处理后各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子。

在一种可能的实施方式下，对该服务集平均响应超时的请求个数进行归一化处理的做法为：计算当前周期该服务集平均响应超时的请求个数与当前周期用于调整该服务集的权重的第一调整因子的乘积，将该乘积作为归一化处理后该服务集平均响应超时的请求个数。

此时，可利用如下公式计算第二调整因子rt_count_i：

rt_count_i＝avrg_count/(avrg_count_i*rt_tps_i) 公式3)

其中，avrg_count_i表示IDC中第i个服务集平均响应超时的请求个数， avrg_count表示一个server对应的一个IDC中所有服务集平均响应超时的请求个数，具体计算公式如下：

其中，n表示该IDC中存活的服务集的个数。

S503：利用第一调整因子和第二调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

比如，根据如下公式确定当前周期该IDC中第i个服务集的权重rtw_i：

rtw_i＝w_i*rt_tps_i*rt_count_i 公式5)

其中，w_i表示上一周期第i个服务集的权重。

S504：若确定任一IDC中各服务集的权重之和不等于预设权重，和/或，当期周期获取的IDC中服务集的标识与上一周期获取到的IDC中服务集的标识不同，则对当期周期确定的IDC中各服务集的权重进行调整，以使调整后 IDC中各服务集的权重之和等于预设权重。

具体地，计算预设权重与当期周期确定的IDC中各服务集的权重和的权差，并计算IDC中各服务集的平均权差，对IDC中的每个服务集，将当前周期确定的该服务集的权重与所述平均权差的和作为调整后该服务集的权重。

假设预设权重为100，则可根据以下公式对当期周期确定的IDC中各服务集的权重进行调整：

可选地，若相比于上一周期，当期周期获取的到IDC中存在新增的服务集，则，则在对当期周期确定的IDC中各服务集的权重进行调整之前，还可根据预设权重确定IDC中各服务集的平均权重，将平均权重作为当期周期IDC中每个新增服务集的权重，后续，仅对当期周期确定的IDC中非新增的各服务集的权重进行调整。

在具体实施时，若确定当前周期任一IDC中存在权重小于零的服务集，则可将每个权重小于零的服务集的权重设置为默认权重，并将各权重小于零的服务集所增加的权重平均分配给IDC中权重不小于零的服务集，使IDC中不存在权重小于零的服务集。

比如，将IDC中每个权重小于零的服务集的权重设置为df_min_w，则可根据以下公式计算其它每个权重不小于零的服务集的权重：

diff_t＝df_min_w-new_w_i 公式8)

在执行完该步操作后，若又出现新的权重为负数的服务集，还可重复该步骤直至所有服务集的权重都为正数、且总和为100。

在具体实施时，当接收到客户端发送的业务请求时，可根据当前各IDC中每个服务集的权重选择一个服务集，进而将业务请求发送给选择的服务集进行处理，由于每个服务集的权重是根据当前服务集的硬件性能和网络性能确定的，比较贴合服务集实际的请求处理能力，这样，为业务请求选择服务集的方式也更加合理，业务处理速度会更快，因此，还可提升分布式集群的服务处理能力。

参见图6所示，为本申请实施例提供的一种电子设备的结构示意图，该电子设备包括收发器601以及处理器602等物理器件，其中，处理器602可以是一个中央处理单元(central processing unit，CPU)、微处理器、专用集成电路、可编程逻辑电路、大规模集成电路、或者为数字处理单元等等。收发器601用于电子设备和其他设备进行数据收发。

该电子设备还可以包括存储器603用于存储处理器602执行的软件指令，当然还可以存储电子设备需要的一些其他数据，如电子设备的标识信息、电子设备的加密信息、用户数据等。存储器603可以是易失性存储器(volatile memory)，例如随机存取存储器(random-access memory，RAM)；存储器603 也可以是非易失性存储器(non-volatilememory)，例如只读存储器(read-only memory，ROM)，快闪存储器(flash memory)，硬盘(hard disk drive，HDD) 或固态硬盘(solid-state drive，SSD)、或者存储器603是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。存储器603可以是上述存储器的组合。

本申请实施例中不限定上述处理器602、存储器603以及收发器601之间的具体连接介质。本申请实施例在图6中仅以存储器603、处理器602以及收发器601之间通过总线604连接为例进行说明，总线在图6中以粗线表示，其它部件之间的连接方式，仅是进行示意性说明，并不引以为限。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

处理器602可以是专用硬件或运行软件的处理器，当处理器602可以运行软件时，处理器602读取存储器603存储的软件指令，并在所述软件指令的驱动下，执行前述实施例中涉及的服务集分配方法。

当本申请实施例中提供的方法以软件或硬件或软硬件结合实现的时候，电子设备中可以包括多个功能模块，每个功能模块可以包括软件、硬件或其结合。具体的，参见图7所示，为本申请实施例提供的服务集分配装置的结构示意图，包括获取模块701、计算模块702、确定模块703、调整模块704。

获取模块701，用于获取当前周期各IDC中服务集的请求处理情况，所述请求处理情况至少包括每个服务集处理的请求个数；

计算模块702，用于对每个IDC，计算当前周期所述IDC中每个服务集平均处理的请求个数和各服务集平均处理的请求个数；

确定模块703，用于对所述IDC中的每个服务集，根据各服务集平均处理的请求个数和该服务集平均处理的请求个数确定用于调整该服务集的权重的第一调整因子；

调整模块704，用于利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重。

在一种可能的实施方式下，若所述请求处理情况还包括每个服务集响应超时的请求个数，则：

所述计算模块702，还用于计算当前周期所述IDC中每个服务集平均响应超时的请求个数；

所述确定模块703，还用于根据该服务集平均响应超时的请求个数和各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子；

所述调整模块704，还用于利用所述第一调整因子和所述第二调整因子对上一周期该服务集的权重进行调整。

在一种可能的实施方式下，所述确定模块703，还用于：

在根据该服务集平均响应超时的请求个数和各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子之前，计算当前周期该服务集平均响应超时的请求个数与当前周期用于调整该服务集的权重的第一调整因子的乘积，将所述乘积作为归一化处理后该服务集平均响应超时的请求个数；以及

根据归一化处理后该服务集平均响应超时的请求个数和归一化处理后各服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子。

在一种可能的实施方式下，所述调整模块704还用于：

在将调整后的权重确定为当前周期该服务集的权重之后，若当前周期确定的所述IDC中各服务集的权重之和不等于预设权重，和/或，当期周期获取的所述IDC中服务集的标识与上一周期获取到的所述IDC中服务集的标识不同，则对当期周期确定的所述IDC中各服务集的权重进行调整，以使调整后所述 IDC中各服务集的权重之和等于所述预设权重。

在一种可能的实施方式下，还包括：

设置模块705，用于若相比于上一周期，当期周期获取的到所述IDC中存在新增的服务集，则在对当期周期确定的所述IDC中各服务集的权重进行调整之前，根据所述预设权重确定所述IDC中各服务集的平均权重，将所述平均权重作为当期周期所述IDC中每个新增服务集的权重；

所述调整模块704，具体用于对当期周期确定的所述IDC中非新增的各服务集的权重进行调整。

在一种可能的实施方式下，所述调整模块704具体用于：

计算所述预设权重与当期周期确定的所述IDC中各服务集的权重和的权差，并计算所述IDC中各服务集的平均权差；

对所述IDC中的每个服务集，将当前周期确定的该服务集的权重与所述平均权差的和作为调整后该服务集的权重。

在一种可能的实施方式下，所述设置模块705，还用于：

若确定当前周期所述IDC中存在权重小于零的服务集，则将每个权重小于零的服务集的权重设置为默认权重；以及

将各权重小于零的服务集所增加的权重平均分配给所述IDC中权重不小于零的服务集，使所述IDC中不存在权重小于零的服务集。

在一种可能的实施方式下，还包括：

接收模块706，用于接收客户端发送的业务请求；

选择模块707，用于根据当前各IDC中每个服务集的权重选择一个服务集；

发送模块708，用于将所述业务请求发送给选择的所述服务集进行处理。

本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，另外，在本申请各个实施例中的各功能模块可以集成在一个处理器中，也可以是单独物理存在，也可以两个或两个以上模块集成在一个模块中。各个模块相互之间的耦合可以是通过一些接口实现，这些接口通常是电性通信接口，但是也不排除可能是机械接口或其它的形式接口。因此，作为分离部件说明的模块可以是或者也可以不是物理上分开的，既可以位于一个地方，也可以分布到同一个或不同设备的不同位置上。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

本申请实施例还提供了一种计算机可读存储介质，存储为执行上述处理器所需执行的计算机可执行指令，其包含用于执行上述处理器所需执行的程序。

在一些可能的实施方式中，本申请提供的服务集分配方法的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在电子设备上运行时，所述程序代码用于使所述电子设备执行本说明书上述描述的根据本申请各种示例性实施方式的服务集分配方法中的步骤。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于—— 电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器 (CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

本申请的实施方式的用于服务集分配的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在计算设备上运行。然而，本申请的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++ 等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络——包括局域网(LAN)或广域网 (WAN)—连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。

此外，尽管在附图中以特定顺序描述了本申请方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、 CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、装置(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和 /或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/ 或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本申请的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。

显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

Claims

1.一种服务集分配方法，其特征在于，应用于分布式集群，所述分布式集群包括多个互联网数据中心IDC，每个IDC包括多个服务集，所述方法包括：

对每个IDC，计算当前周期所述IDC中所有服务集平均处理的请求个数；

对所述IDC中的每个服务集，根据所述IDC中所有服务集平均处理的请求个数和该服务集处理的请求个数，确定用于调整该服务集的权重的第一调整因子；以及

利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重；

2.如权利要求1所述的方法，其特征在于，若所述请求处理情况还包括每个服务集响应超时的请求个数，则还包括：

计算当前周期所述IDC中所有服务集平均响应超时的请求个数；

根据所述IDC中每个服务集响应超时的请求个数和所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子；以及

利用所述第一调整因子对上一周期该服务集的权重进行调整，包括：

利用所述第一调整因子和所述第二调整因子对上一周期该服务集的权重进行调整。

3.如权利要求2所述的方法，其特征在于，在根据所述IDC中每个服务集响应超时的请求个数和所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子之前，还包括：

计算当前周期该服务集响应超时的请求个数与当前周期用于调整该服务集的权重的第一调整因子的乘积，将所述乘积作为归一化处理后该服务集响应超时的请求个数；以及

根据该服务集响应超时的请求个数和所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子，包括：

根据归一化处理后该服务集响应超时的请求个数和归一化处理后所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子。

4.如权利要求1～3任一所述的方法，其特征在于，将调整后的权重确定为当前周期该服务集的权重之后，还包括：

若当前周期确定的所述IDC中所有服务集的权重之和不等于预设权重，和/或，当前周期获取的所述IDC中服务集的标识与上一周期获取到的所述IDC中服务集的标识不同，则对当前周期确定的所述IDC中所有服务集的权重进行调整，以使调整后所述IDC中所有服务集的权重之和等于所述预设权重。

5.如权利要求4所述的方法，其特征在于，还包括：

若相比于上一周期，当前周期获取到的所述IDC中存在新增的服务集，则在对当前周期确定的所述IDC中所有服务集的权重进行调整之前，根据所述预设权重确定所述IDC中所有服务集的平均权重，将所述平均权重作为当前周期所述IDC中每个新增服务集的权重；以及

对当前周期确定的所述IDC中所有服务集的权重进行调整，包括：

对当前周期确定的所述IDC中非新增的所有服务集的权重进行调整。

6.如权利要求5所述的方法，其特征在于，对当前周期确定的所述IDC中所有服务集的权重进行调整，包括：

计算所述预设权重与当前周期确定的所述IDC中所有服务集的权重和的权差，并计算所述IDC中所有服务集的平均权差；

7.如权利要求1所述的方法，其特征在于，还包括：

接收客户端发送的业务请求；

根据当前各IDC中每个服务集的权重选择一个服务集；

将所述业务请求发送给选择的所述服务集进行处理。

8.一种服务集分配装置，其特征在于，应用于分布式集群，所述分布式集群包括多个互联网数据中心IDC，每个IDC包括多个服务集，所述装置包括：

计算模块，用于对每个IDC，计算当前周期所述IDC中所有服务集平均处理的请求个数；

确定模块，用于对所述IDC中的每个服务集，根据所述IDC中所有服务集平均处理的请求个数和该服务集处理的请求个数确定用于调整该服务集的权重的第一调整因子；

调整模块，用于利用所述第一调整因子对上一周期该服务集的权重进行调整，将调整后的权重确定为当前周期该服务集的权重；

设置模块，用于若确定当前周期所述IDC中存在权重小于零的服务集，则将每个权重小于零的服务集的权重设置为默认权重；以及将各权重小于零的服务集所增加的权重平均分配给所述IDC中权重不小于零的服务集，使所述IDC中不存在权重小于零的服务集。

9.如权利要求8所述的装置，其特征在于，若所述请求处理情况还包括每个服务集响应超时的请求个数，则：

所述计算模块，还用于计算当前周期所述IDC中所有服务集平均响应超时的请求个数；

所述确定模块，还用于根据所述IDC中每个服务集响应超时的请求个数和所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子；

所述调整模块，还用于利用所述第一调整因子和所述第二调整因子对上一周期该服务集的权重进行调整。

10.如权利要求9所述的装置，其特征在于，所述确定模块，还用于：

在根据所述IDC中每个服务集响应超时的请求个数和所述IDC中所有服务集平均响应超时的请求个数，确定用于调整该服务集的权重的第二调整因子之前，计算当前周期该服务集响应超时的请求个数与当前周期用于调整该服务集的权重的第一调整因子的乘积，将所述乘积作为归一化处理后该服务集响应超时的请求个数；以及

11.如权利要求8～10任一所述的装置，其特征在于，所述调整模块还用于：

在将调整后的权重确定为当前周期该服务集的权重之后，若当前周期确定的所述IDC中所有服务集的权重之和不等于预设权重，和/或，当前周期获取的所述IDC中服务集的标识与上一周期获取到的所述IDC中服务集的标识不同，则对当前周期确定的所述IDC中所有服务集的权重进行调整，以使调整后所述IDC中所有服务集的权重之和等于所述预设权重。

12.如权利要求11所述的装置，其特征在于，

所述设置模块，还用于若相比于上一周期，当前周期获取到的所述IDC中存在新增的服务集，则在对当前周期确定的所述IDC中所有服务集的权重进行调整之前，根据所述预设权重确定所述IDC中所有服务集的平均权重，将所述平均权重作为当前周期所述IDC中每个新增服务集的权重；

所述调整模块，具体用于对当前周期确定的所述IDC中非新增的所有服务集的权重进行调整。

13.如权利要求12所述的装置，其特征在于，所述调整模块具体用于：

14.如权利要求8所述的装置，其特征在于，还包括：

接收模块，用于接收客户端发送的业务请求；

选择模块，用于根据当前各IDC中每个服务集的权重选择一个服务集；

发送模块，用于将所述业务请求发送给选择的所述服务集进行处理。

15.一种电子设备，其特征在于，包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中：

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7任一权利要求所述的方法。

16.一种计算机可读介质，存储有计算机可执行指令，其特征在于，所述计算机可执行指令用于执行如权利要求1至7任一权利要求所述的方法。