CN102420741A - 在基于atca的设备中调度通信流量的方法及装置 - Google Patents

Abstract

本发明提供了一种在基于高级电信计算架构的设备中调度通信流量的方法以及相应的装置。在该方法中，收集所述设备中的流量处理装置的通信流量信息，基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则，以及基于所生成的流量分配规则，对进入所述设备的通信流量进行调度。本发明的方法考虑到整个设备的服务质量和签约容量，并考虑到流量处理装置的动态处理能力和运行环境，通过自适应地调整通信流量的分配，能够很好地平衡具有非对称的多应用配置的设备中各个流量处理装置的负载，从而确保整个设备的服务质量。

Description

在基于ATCA的设备中调度通信流量的方法及装置

技术领域

本发明涉及通信技术领域，具体地说，涉及在基于高级电信计算架构(Advanced Telecom Computing Architecture，简称ATCA)的设备中调度通信流量的方法及装置。

背景技术

ATCA架构是一种用于多种电信产品的重要硬件架构。基于ATCA架构的设备(以下简称为ATCA设备)具有成本低和高灵活性的特点。

一般地，ATCA设备可采用插槽刀片(blade)式服务器的形式。在ATCA机架上可容纳数十个“刀片”(即实现不同功能的装置)，而在每个刀片上可运行相同或不同的应用。图1示出了一种典型的ATCA设备，在机架上设置有两个控制刀片A、B、十个实时刀片C、D、E、F、G、H、I、J、K、L和两个交换刀片S。控制刀片用于管理ATCA设备中所有其它的刀片，实时刀片用于处理通信流量或存储数据，交换刀片用于将这些刀片连接在一起以与外部设备进行通信。对于每一个进入分组，控制刀片确定哪个实时刀片能够被分配以处理该进入分组。当启动新的应用时，需要识别能够用于负责新应用的分组的处理的实时刀片。

因此，ATCA设备需要考虑刀片的负载平衡和接入控制机制，以有效地利用所有刀片的处理能力。另外，当在一个ATCA机架上配置越来越多的应用时，如何最佳地利用ATCA设备的容量以及如何调度和平衡来自不同应用的请求是关键问题。

因此，需要解决的问题是如何调度和平衡从多个应用到ATCA设备的一个刀片的请求，以致整个ATCA设备具有最佳的鲁棒性和容量。

现有的用于通信流量调度的方法主要包括：轮询调度方法、加权轮询调度方法和基于CPU负载的调度方法。下面对上述现有的调度方法进行简单的说明。

1.轮询调度方法

轮询调度(Round Robin)方法是一种静态的负载均衡算法，其在分配新的流量时并不考虑各个流量处理刀片的当前空闲容量，而只是平均地向各个流量处理刀片分配工作负载。在该方法中，流量处理刀片在一个循环周期中被顺序地选择。

如果采用轮询调度方法，则进入的分组将被一个接一个地轮流分配给每个可用的流量处理刀片。在给定的时段，每个流量处理刀片上处理的分组数量之差小于1。轮询调度方法适用于具有相同配置的流量处理刀片和相同运行环境的系统。

但是，对于ATCA设备，每个流量处理刀片是自治系统，并且在每个刀片上运行的应用可以不相同。在这种情况下，流量处理刀片是非对称配置的，即在某些流量处理刀片上运行的应用可能比其它流量处理刀片上的应用更多，从而使这些流量处理刀片上运行的应用的模块比其它流量处理刀片的更多。

图2示出了在具有非对称配置的流量处理刀片的ATCA设备中使用轮询调度方法的情形的示意图。如图2所示，归属用户服务器HSS应用在流量处理刀片E和F上运行，3GPP长期演进技设备(LTE)应用在流量处理刀片K和L上运行，而归属位置寄存器HLR应用和移动号码携带MNP应用在所有流量处理刀片上运行。在这种情况下，采用轮询调度方法，则会出现每个流量处理刀片的资源使用不平均的情形，对于那些运行更多应用的流量处理刀片，其CPU使用率肯定比其它流量处理刀片的高(参见图2)，这容易导致ATCA设备的拥塞和不稳定，从而使得整个ATCA设备的利用率低下。

2.加权轮询调度方法

加权轮询调度方法是轮询调度方法的扩展。在该方法中，每个流量处理刀片被分配有一定的权值，该权值表明流量处理刀片的处理容量。权值可以预先配置或动态变化。假设w_ij是在流量处理刀片i上的应用j的权值，则对于每个周期，可基于权值分配流量t_ij：

$T_{\mathrm{ij}}=T*(w_{\mathrm{ij}}/\underset{i=1}{\overset{N_j}{\mathrm{\Σ}}}{w}_{\mathrm{ij}}),$

其中，控制目标是每个流量处理刀片上的流量是平均的：

$T_{t\arg \mathrm{et},j}=\left(\underset{i=1}{\overset{N_j}{\mathrm{\Σ}}}{T}_{\mathrm{ij}}\right).$

当单个服务器的容量及其负载可以被定时估算时，加权轮询调度方法成为动态的调度方法。然而，加权轮询调度方法并不有效且节约成本，因为很难在ATCA设备接收流量之前灵活地决定每个流量处理刀片的权值。例如，如果控制目标是CPU平衡，则需要经验以将CPU使用率与应用的通信流量进行映射，这很不灵活，因为不同应用的通信流量的混合会消耗不同的CPU负载。

3.基于CPU负载的调度方法

基于CPU负载(使用率)的调度方法是一种动态(自适应)的流量调度方法，它基于变化的CPU使用率来进行通信流量的调度。该方法的目的是使所有流量处理刀片支持相同的CPU使用率，并基于总的CPU使用率的变化作出决定。图3示出了在具有非对称配置的流量处理刀片的ATCA设备中使用基于CPU负载的调度方法的情形。

如果采用基于CPU负载的调度方法，则所有的流量处理刀片具有平衡的CPU使用率，并且具有比任何其它具有不平均的CPU使用率的方法更高的容量。但是，在该调度方法中，ATCA设备的CPU使用率被多个任务分享，而这些任务可能由或者不由用户所订购的应用所控制。ATCA设备的容量和通信量不仅由CPU能力决定，而且与硬盘I/O速率、通信带宽等有关。一个流量处理刀片上的应用的CPU使用率由操作系统的内置调度算法决定，这些调度算法不仅考虑在操作系统上运行的应用，而且考虑多个系统相关的管理和监控任务，以致分配给特定应用的CPU使用率会受到预定优先级、动态运行环境以及某些不可预测的中断的影响。因此，对于在不同流量处理刀片上的同一个应用的处理能力无法保证一直相同和稳定。

如果采用基于CPU负载的调度方法，则每个流量处理刀片必须对于每一个应用具有相同的处理能力，并且分配给每个应用的CPU使用率必须是稳定的，而且所有流量处理刀片的硬盘I/O速率、传输带宽也必须相同。否则，可能出现一个插板上的应用的服务质量比其它插板上的差。例如，在图3中，流量处理刀片D被配置为在接收到请求后写跟踪文件，而其它流量处理刀片仅被配置为接收请求和发送响应。由于硬盘I/O的响应时间长，因此，流量处理刀片D的CPU使用率比其它流量处理刀片小，因此，更多的用户请求通过基于CPU负载的调度方法分配给流量处理刀片D。这样，如果到流量处理刀片D的请求有1％由于队列长度溢出而被拒绝，而其它流量处理刀片并没有失败的请求，则由于到流量处理刀片D的请求比到其它流量处理刀片的多，因此，虽然其它流量处理刀片有更好的服务质量和处理能力，但整个ATCA设备的服务质量只在1E-2级别。

因此，如果将平衡所有流量处理刀片的CPU使用率作为目标，可能导致在某些流量处理刀片上运行的某些应用比这些应用在其它流量处理刀片上运行有更坏的服务质量。但是对于用户，整个ATCA设备的服务质量是最重要的，一个流量处理刀片上的服务质量的恶化可产生整个ATCA设备的服务质量恶化的结论。对于轮询调度方法和加权轮询调度方法，也存在同样的问题。

发明内容

本发明正是鉴于上述技术问题而提出的，其目的在于提供一种在ATCA设备中调度通信流量的方法及相应的装置，其不仅考虑ATCA设备中流量处理刀片的配置和运行环境的不同，而且考虑每个流量处理刀片对于每个应用的动态服务能力，通过自适应地调整进入ATCA设备的通信流量的分配，能够很好地平衡ATCA设备中各个流量处理刀片的负载，尤其适用于具有非对称多应用配置的ATCA设备，从而确保整个ATCA设备的服务质量和容量。

根据本发明的一个方面，提供一种在基于ATCA架构的设备中调度通信流量的方法，其中所述设备至少包括流量处理装置，所述方法包括：收集所述流量处理装置的通信流量信息；基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则；以及基于所生成的流量分配规则，对进入所述设备的通信流量进行调度。

根据本发明的另一个方面，提供一种在基于ATCA架构的设备中调度通信流量的装置，其中所述设备至少包括流量处理装置，所述装置包括：收集模块，用于收集所述流量处理装置的通信流量信息；流量分配规则生成模块，用于基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则；以及调度模块，用于基于所生成的流量分配规则，对进入所述设备的通信流量进行调度。

附图说明

图1是一种典型的ATCA设备的示意图；

图2是在具有非对称配置的流量处理刀片的ATCA设备中使用轮询调度方法的情形的示意图；

图3是在具有非对称配置的流量处理刀片的ATCA设备中使用基于CPU负载的调度方法的情形的示意图；

图4是根据本发明的一个实施例的在ATCA设备中调度通信流量的方法的流程图；

图5是图4所示实施例中生成各个流量处理装置在下一个时间段的流量分配规则的步骤的流程图；

图6是根据本发明的一个实施例的在ATCA设备中调度通信流量的装置的示意性方框图；

图7是实现图6所示装置的一个例子的示意图。

具体实施方式

相信通过以下结合附图对本发明的具体实施例的详细描述，本发明的上述和其它目的、特征和优点将会更加明显。

图4示出了根据本发明的一个实施例的在ATCA设备中调度通信流量的方法的流程图。下面结合附图，对本实施例进行详细描述。

在本实施例中，ATCA设备至少包括流量处理装置，其相当于背景技术部分所述的流量处理刀片。下面使用术语“流量处理装置”进行说明。

如前所述，ATCA设备中的单个流量处理装置的性能恶化可使整个ATCA设备的服务质量降低到与该流量处理装置相同的程度。也就是说，如果有一个流量处理装置的服务质量是1E-2，即在100个呼叫中有1个呼叫失败，则整个ATCA设备都具有1E-2的服务质量，而不管其它流量处理装置具有更好的性能或者采用何种现有的用于通信流量调度的方法。

本实施例的方法考虑了ATCA设备的服务质量和目标容量(例如，目标流量速率)，以自适应地将通信流量分配给具有较高QoS保证的业务吞吐量的流量处理装置。

如图4所示，在步骤S401，收集ATCA设备中所有流量处理装置的通信流量信息。在本实施例中，通信流量信息包括进入的流量和丢失的流量。具体地，在每个时间段，测量各个流量处理装置上的进入的流量和丢失的流量。通过所收集的通信流量信息，可以对流量处理装置的服务质量进行监控，以便在某个流量处理装置的服务质量低于规定服务质量时评估该流量处理装置的处理能力。

接着，在步骤S405，基于在步骤S401所收集的通信流量信息，生成各个流量处理装置在下一个时间段的流量分配规则。

在本实施例中，ATCA设备的每个流量处理装置被建模为M/M/1排队系统，并且每个流量处理装置具有单独的CPU/内存。在每个时间段，假设每个流量处理装置上的进入流量率和流量丢失率分别为λ和r，则根据排队理论，存在

$r=\frac{\mathrm{\λ}}{\mathrm{\λ}+\mathrm{\μ}}---\left(1\right)$

其中，μ是流量处理装置的处理速率，反映流量处理装置的实时处理能力。虽然每个流量处理装置具有相同的CPU/内存，但由于其配置和运行环境不同，因此，对应用的处理能力也不相同。根据公式(1)，可以通过流量处理装置的通信流量信息，估计出反映该流量处理装置对不同应用的实时处理能力μ。这样，可以根据流量处理装置的当前处理速率μ、流量丢失率r和预定服务质量q(在本实施例中，采用流量处理装置的呼叫失败率)计算将要在下一个时间段分配给各个流量处理装置的流量速率。

图5示出了图4的实施例中生成各个流量处理装置在下一个时间段的流量分配规则的步骤S405的流程图。如图5所示，对于在ATCA设备上运行的每一个应用，都执行以下的操作。首先，在步骤S501，基于在步骤S401中测量的进入的流量和丢失的流量，计算该应用在各个流量处理装置上的进入流量速率和流量丢失率。接着，在步骤S505，通过比较流量丢失率和预定服务质量，确定运行该应用的流量处理装置中流量丢失率超过预定服务质量的流量处理装置的数量。如前所述，如果流量处理装置的流量丢失率超过预定服务质量，则表明该流量处理装置的性能恶化，需要重新评估其处理能力以决定下一个时间段向其调度多少通信流量。

如果在步骤S505中确定的流量丢失率超过预定服务质量的流量处理装置的数量为零，则在步骤S510，使用现有的任意一种用于通信流量调度的方法计算在下一个时间段向各个流量处理装置分配的该应用的通信流量。

如果在步骤S505中确定的流量丢失率超过预定服务质量的流量处理装置的数量不为零，则对于流量丢失率超过预定服务质量的流量处理装置执行步骤S515和S520，对于流量丢失率低于预定服务质量的流量处理装置执行步骤S525和S530。虽然在以下按照步骤S515、S520、S525和S530的顺序进行描述，但本领域的普通技术人员应当知道，步骤S515、S520和步骤S525、S530可以并行执行。

具体地，在步骤S515，基于进入流量速率和流量丢失率，计算该应用在流量丢失率超过预定服务质量的流量处理装置上的当前处理速率，并在步骤S520，基于该当前处理速率，计算在下一个时间段该应用在这些流量处理装置上的期望流量速率。

在步骤S525，对于流量丢失率低于预定服务质量的流量处理装置，基于进入流量速率和目标流量速率，确定在下一个时间段将要处理的该应用的流量速率。然后，在步骤S530，基于所确定的在下一个时间段将要处理的该应用的流量速率，计算在下一个时间段该应用在这些流量处理装置上的期望流量速率。

然后，在步骤535，基于在步骤S520和S530中计算的在下一个时间段该应用在各个流量处理装置上的期望流量速率，计算在下一个时间段向各个流量处理装置分配的该应用的通信流量。

下面分别针对在ATCA设备上运行单个应用和多个应用的两种情况下执行步骤S405的过程进行详细说明。

情形一：在ATCA设备上运行单个应用

对于具有单个应用的ATCA设备，目标容量C和应用的预定服务质量q是需要达到的目标。

在初始阶段，ATCA设备的所有流量处理装置被认为具有相同的处理能力，分配给每个流量处理装置的通信流量都是C/N，其中N是流量处理装置的总数量。

在时间段t，根据所收集的各流量处理装置的进入的流量T_k(t)和丢失的流量P_k(t)，分别根据公式(2)和(3)，计算各流量处理装置的进入流量速率λ_k(t)和丢失流量速率q_k(t)，其中k＝1，...，N，

λ_k(t)＝T_k(t)/τ    (2)

q_k(t)＝P_k(t)/T_k(t)  (3)

其中，τ是时间段的时长。

然后，确定服务质量不满足预定服务质量(即q_k(t)＞q)的流量处理装置的个数N₁。如果流量处理装置不满足服务质量要求q，则需要计算其服务处理能力。

如果N₁等于零，则可以使用现有的任意一种用于通信流量调度的方法计算下一个时间段向各个流量处理装置分配的通信流量。在本例中，采用基于CPU负载的调度方法。首先，计算在下一个时间段的各个流量处理装置的目标CPU使用率：

${\mathrm{CPU}}_{t\arg \mathrm{et}}(t+1)=\left(\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{CPU}}_k\left(t\right)\right)/N---\left(4\right)$

其中，CPU_k(t)是流量处理装置k在时间段t的CPU使用率，可以与流量处理装置k的进入的流量和丢失的流量一起收集。然后，计算在下一个时间段(t+1)向各个流量处理装置分配的通信流量：

$D_k(t+1)=D_k\left(t\right)+[D_k\left(t\right)-D_k(t-1)]*\frac{[{\mathrm{CPU}}_{t\arg \mathrm{et}}(t+1)-{\mathrm{CPU}}_k\left(t\right)]}{[{\mathrm{CPU}}_k\left(t\right)-{\mathrm{CPU}}_k(t-1)]}---\left(5\right)$

其中，D_k(t)是在时间段t向流量处理装置k分配的通信流量。

如果N₁大于零，则对于具有q_k(t)＞q的流量处理装置k，计算该流量处理装置k的当前处理速率：

${\mathrm{\μ}}_k\left(t\right)=\frac{{\mathrm{\λ}}_k\left(t\right)(1-q_k\left(t\right))}{q_k\left(t\right)}---\left(6\right)$

然后，计算具有q_k(t)＞q的流量处理装置k在下一个时间周期(t+1)的期望流量速率：

${\mathrm{\λ}}_k(t+1)={\mathrm{\λ}}_k\left(t\right)-\mathrm{\α}({\mathrm{\λ}}_k\left(t\right)-\frac{q{\mathrm{\μ}}_k\left(t\right)}{1-q})---\left(7\right)$

其中，α是流量调整参数且0≤α≤1，用于防止通信流量在短时期内变化太大而产生翻转影响。优选地，如果0＜α＜1，则可以确保如果μ_k(t)是稳定的，则流量负载能够收敛到期望的负载

另外，对于具有q_k(t)＜q的流量处理装置k，计算将在下一个时间段处理的流量速率：

$C^{\′}=\max (\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\λ}}_k\left(t\right),C)---\left(8\right)$

然后，计算具有q_k(t)＜q的流量处理装置k在下一个时间段(t+1)的期望流量速率：

${\mathrm{\λ}}_k(t+1)=(C^{\′}-\underset{q_k\left(t\right)>q}{\mathrm{\Σ}}{\mathrm{\λ}}_k(t+1))/(N-N_1)---\left(9\right)$

然后，根据通过公式(7)和(9)计算的流量处理装置k在下一个时间段的期望流量速率，计算在时间段(t+1)向流量处理装置k分配的通信流量：

$D_k(t+1)=1000*{\mathrm{\λ}}_k(t+1)/\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\λ}}_i(t+1).$

在本例中，流量处理装置被分成两种类型：一种是满足服务质量的流量处理装置，即q_k(t)＜q；另一种是不满足服务质量的流量处理装置，即q_k(t)＞q。

情形二：在ATCA设备上运行多个应用

在这种情况下，由于ATCA设备上每个流量处理装置具有不同的应用配置，并且对每个应用的处理能力也不相同，因此，需要知道ATCA设备上哪些流量处理装置支持哪些应用，即哪些应用的流量被允许分配给哪些流量处理装置。在本例中，可通过标志f_ik来表明某个应用是否在某个流量处理装置上被支持，其中，f_ik＝1意味着应用i在流量处理装置k上被支持，f_ik＝0意味着应用i在流量处理装置k上不被支持。对于运行多个应用的ATCA设备，目标是对于所有的应用i＝1，…，M，确保每一个应用可满足其目标容量C_i和服务质量q_i。

在时间段t，对于应用i，按照公式(2)和(3)，计算其在流量处理装置k上的进入流量速率λ_ik(t)和流量丢失率q_ik(t)，其中k＝1，…，N。

接着，在运行应用i的流量处理装置中，即在f_ik＝1的流量处理装置中，确定服务质量不能满足预定服务质量(即q_ik(t)＞q_i)的流量处理装置的个数N_i，1。

如果N_i，1等于零，则使用现有的任意一种用于通信流量调度的方法计算下一个时间段向各个流量处理装置分配的应用i的通信流量，例如轮询调度方法、加权轮询调度方法、基于CPU负载的调度方法等。在本例中，采用基于CPU负载的调度方法。首先，计算在下一个时间段应用i在各个流量处理装置上的目标CPU使用率：

${\mathrm{CPU}}_{i,t\arg \mathrm{et}}(t+1)=\left(\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{f}_{\mathrm{ik}}{\mathrm{CPU}}_{\mathrm{ik}}\left(t\right)\right)/N_i---\left(10\right)$

其中，CPU_ik(t)是在时间段t中应用i在流量处理装置k上的CPU使用率，N_i是运行应用i的流量处理装置的总数量。然后，计算在下一个时间段(t+1)向各个流量处理装置分配的应用i的通信流量：

$D_{\mathrm{ij}}(t+1)=D_{\mathrm{ik}}\left(t\right)+[D_{\mathrm{ik}}\left(t\right)-D_{\mathrm{ik}}(t-1)]*\frac{[{\mathrm{CPU}}_{i,t\arg \mathrm{et}}(t+1)-{\mathrm{CPU}}_{\mathrm{ik}}\left(t\right)]}{[{\mathrm{CPU}}_{\mathrm{ik}}\left(t\right)-{\mathrm{CPU}}_{\mathrm{ik}}(t-1)]}---\left(11\right)$

其中，D_ik(t)是在时间段t向流量处理装置k分配的应用i的通信流量。

如果N_i，1不等于零，则对于具有q_ik(t)＞q_i的流量处理装置k，计算应用i在流量处理装置k上的当前处理速率：

${\mathrm{\μ}}_{\mathrm{ik}}\left(t\right)=\frac{{\mathrm{\λ}}_{\mathrm{ik}}\left(t\right)(1-q_{\mathrm{ik}}\left(t\right))}{q_{\mathrm{ik}}\left(t\right)}---\left(12\right)$

并且计算在下一个时间段(t+1)应用i在具有q_ik(t)＞q_i的流量处理装置k上的期望流量速率：

${\mathrm{\λ}}_{\mathrm{ik}}(t+1)={\mathrm{\λ}}_{\mathrm{ik}}\left(t\right)-{\mathrm{\α}}_i({\mathrm{\λ}}_{\mathrm{ik}}\left(t\right)-\frac{q_i{\mathrm{\μ}}_{\mathrm{ik}}\left(t\right)}{1-q_i})---\left(13\right)$

对于具有q_ik(t)＜q_i的流量处理装置k，计算将在下一个时间段处理的应用i的流量速率：

$C_i^{\′}=\max (\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{f}_{\mathrm{ik}}{\mathrm{\λ}}_{\mathrm{ik}}\left(t\right),C_i)---\left(14\right)$

并计算在下一个时间段(t+1)应用i在具有q_ik(t)＜q_i的流量处理装置k上的期望流量速率：

${\mathrm{\λ}}_{\mathrm{ik}}(t+1)=(C_i^{\′}-\underset{q_{\mathrm{ik}}\left(t\right)>q_i}{\mathrm{\Σ}}{\mathrm{\λ}}_{\mathrm{ik}}(t+1))/(N_i-N_{i,1})---\left(15\right)$

然后，根据通过公式(13)和(15)计算的在下一个时间段应用i在各流量处理装置上的期望流量速率，计算在时间段(t+1)向流量处理装置k分配的应用i的通信流量：

$D_{\mathrm{ik}}(t+1)=1000*{\mathrm{\λ}}_{\mathrm{ik}}(t+1)/\underset{j=1}{\overset{N}{\mathrm{\Σ}}}{f}_{\mathrm{ij}}{\mathrm{\λ}}_{\mathrm{ij}}(t+1)---\left(16\right)$

上述的两个例子都是基于处理能力的流量分配，其考虑每个流量处理装置上的负载平衡和流量丢失率，以改善系统容量。

除了上述的基于处理能力的流量分配，还可以采用基于流量丢失率的流量分配，以下也分别针对在ATCA设备上运行单个应用和多个应用两种情况进行说明。

情形三：在ATCA设备上运行单个应用

在本例中，流量分配规则表现为在下一个时间段分配给流量处理装置k的期望流量速率。

首先，在时间段t，基于在步骤S401收集的进入的流量和丢失的流量，按照公式(2)和(3)，计算在流量处理装置k上的进入流量速率λ_k(t)和流量丢失率q_k(t)，其中，k＝1，…，N。

接着，根据所计算的流量丢失率q_k(t)，计算在下一个时间段(t+1)分配给流量处理装置k的通信流量的比率：

$r_k=\frac{1/q_k}{\underset{k=1}{\overset{N}{\mathrm{\Σ}}}1/q_k}---\left(17\right)$

这样，在下一个时间段(t+1)分配给流量处理装置k的期望流量速率被计算为λ_k(t+1)＝C×r_k，其中，C是ATCA设备的目标容量。

情形四：在ATCA设备上运行多个应用

对于应用i(i＝1，…，M)，首先，根据在步骤S401中收集的进入的流量和丢失的流量，按照公式(2)和(3)，计算应用i在流量处理装置k上的进入流量速率

和流量丢失率

接着，获得应用i的总流量速率：

${\mathrm{\Λ}}^i\left(t\right)=\underset{k=1}{\overset{n}{\mathrm{\Σ}}}{\mathrm{\λ}}_k^i---\left(18\right)$

然后，根据所计算的流量丢失率

计算在下一个时间段(t+1)分配给流量处理装置k的通信流量的比率：

$r_k^i=\frac{1/q_k^i}{\underset{k=1}{\overset{n}{\mathrm{\Σ}}}1/q_k^i}---\left(19\right)$

这样，在下一个时间段(t+1)分配给流量处理装置k的应用i的期望流量速率被计算为：

${\mathrm{\λ}}_k^i(t+1)={\mathrm{\Λ}}^i\left(t\right)\×r_k^i---\left(20\right)$

在下一个时间段各个流量处理装置的流量分配规则生成之后，在步骤S410，根据所生成的流量分配规则，对进入ATCA设备的通信流量进行调度。在本实施例中，当接收到进入ATCA设备的通信流量时，根据流量分配规则，确定将要处理所接收的通信流量的流量处理装置，然后，将所接收的通信流量路由到所确定的流量处理装置上。此外，可以根据新的流量分配规则生成新的流量分配表，并更新旧的流量分配表。

通过以上描述可以看出，本实施例的在ATCA设备中调度通信流量的方法是针对ATCA设备的基于服务质量QoS的调度方法，其直接将ATCA设备的QoS当作目标，并使用排队理论来解决ATCA设备的调度问题，尤其是针对具有非对称配置的流量处理装置的ATCA设备，从而能够很好地调度和平衡ATCA设备的通信流量，以使其具有更强的鲁棒性和更高的容量。因此，本实施例的方法不仅很好地平衡了具有非对称的多应用配置的ATCA设备中每个流量处理装置的负载，而且确保了整个ATCA设备的QoS和容量。即使ATCA设备中有一个流量处理装置的服务质量在某时刻已经下降到1E-2，本实施例的方法也可以确保该ATCA设备维持其签约的服务质量。另外，本实施例的方法考虑了每个流量处理装置的动态处理能力和运行环境，能够自适应地分配通信流量以确保整个ATCA设备的服务质量和容量。此外，本实施例的方法实现简单。

在同一个发明构思下，图6示出了根据本发明的一个实施例的在ATCA设备中调度通信流量的装置600的示意性方框图。下面结合附图，对本实施例进行详细描述，其中与前面实施例相同的部分，适当省略其说明。

在本实施例中，ATCA设备至少包括流量处理装置。如前所述，ATCA设备除了流量处理装置，还包括用于控制流量处理装置的控制装置。

如图6所示，本实施例的装置600包括：收集模块601，其收集流量处理装置的通信流量信息；流量分配规则生成模块602，其基于收集模块601所收集的通信流量信息，生成流量处理装置在下一个时间段的流量分配规则；以及调度模块603，其根据所生成的流量分配规则，对进入ATCA设备的通信流量进行调度。

在收集模块601中，测量单元6011测量在各个流量处理装置上的进入的流量和丢失的流量。此外，根据需要，收集模块601还可以包括用于获取各个流量处理装置的CPU使用率的单元(未示出)。

收集模块601可以作为单独的模块与ATCA设备分开地设置，也可以设置在各个流量处理装置上。

在流量分配规则生成模块602中，对于在ATCA设备上运行的每一个应用，进入流量速率计算单元6021根据来自收集模块601的进入的流量，计算该应用在各流量处理装置上的进入流量速率。同时，流量丢失率计算单元6022根据收集模块601所提供的进入的流量和丢失的流量，计算该应用在各流量处理装置上的流量丢失率。然后，确定单元6023确定运行该应用的流量处理装置中流量丢失率超过预定服务质量的流量处理装置的数量，并由通信流量计算单元6024根据该数量，执行后续的处理。

当确定单元6023所确定的流量处理装置的数量为零时，通信流量计算单元6024使用现有的任意一种用于通信流量调度的方法，计算在下一个时间段向各个流量处理装置分配的该应用的通信流量。

当确定单元6023所确定的流量处理装置的数量不为零时，对于流量丢失率超过预定服务质量的流量处理装置，通信流量计算单元6024根据分别在进入流量速率计算单元6021和流量丢失率计算单元6022中计算的进入流量速率和流量丢失率，计算该应用在流量丢失率超过预定服务质量的流量处理装置上的当前处理速率，并进一步根据所计算的当前处理速率，计算在下一个时间段该应用在这些流量丢失率超过预定服务质量的流量处理装置上的期望流量速率。另外，对于流量丢失率低于预定服务质量的流量处理装置，通信流量计算单元6024根据在进入流量速率计算单元6021中计算的进入流量速率和该应用的目标容量，确定在下一个时间段将要处理的该应用的流量速率，并进而计算在下一个时间段该应用在流量丢失率低于预定服务质量的流量处理装置上的期望流量速率。最后，通信流量计算单元6024根据所计算的在下一个时间段该应用分别在流量丢失率超过预定服务质量的流量处理装置和流量丢失率低于预定服务质量的流量处理装置上的期望流量速率，计算在下一个时间段向各个流量处理装置分配的该应用的通信流量。

通过以上描述可以看出，在本实施例中，流量分配规则生成模块602是基于流量处理装置的处理能力进行流量分配的，其各个组成单元可以按照前面所述的情形一和情形二中的公式进行计算。

在另一个实施例中，流量分配规则生成模块602可以基于流量丢失率进行流量分配。

当在ATCA设备上运行单个应用时，在流量分配规则生成模块602中，进入流量速率计算单元根据来自收集模块601的进入的流量，计算在各流量处理装置上的进入流量速率，同时，流量丢失率计算单元根据收集模块601所提供的进入的流量和丢失的流量，计算在各个流量处理装置上的流量丢失率。然后，比率计算单元根据在流量丢失率计算单元中计算的流量丢失率，计算在下一个时间段分配给各个流量处理装置的通信流量的比率，再由期望流量速率计算单元根据所计算的比率和ATCA设备的目标容量，计算在下一个时间段分配给各个流量处理装置的期望流量速率。

在这种情况下，流量分配规则生成模块602中的各个组成单元可以按照前面所述的情形三中的公式进行计算。

当在ATCA设备上运行多个应用时，在流量分配规则生成模块602中，对于每一个应用，进入流量速率计算单元根据来自收集模块601的进入的流量，计算该应用在各个流量处理装置上的进入流量速率，同时，流量丢失率计算单元根据来自收集模块601的进入的流量和丢失的流量，计算该应用在各个流量处理装置上的流量丢失率。然后，由总流量速率计算单元计算该应用的总流量速率。然后，比率计算单元根据在流量丢失率计算单元中计算的流量丢失率，计算在下一个时间段分配给各个流量处理装置的通信流量的比率，再由期望流量速率计算单元根据所计算的总流量速率和比率，计算在下一个时间段分配给各个流量处理装置的该应用的期望流量速率。

在这种情况下，流量分配规则生成模块602中的各个组成单元可以按照前面所述的情形四中的公式进行计算。

同样，流量分配规则生成模块602可以作为单独的模块与ATCA设备分开地设置，也可以设置在ATCA设备的控制装置中。

流量分配规则生成模块602将所生成的流量分配规则提供给调度模块603以对进入通信流量进行分配。在调度模块603中，当接收单元6031接收到进入ATCA设备的通信流量时，流量处理装置确定单元6032根据流量分配规则，确定将要处理所接收的通信流量的流量处理装置，然后路由单元6033将所接收的通信流量路由到所确定的流量处理装置。此外，流量分配规则可以存储在调度模块603中，当调度模块603获得新的流量分配规则时，生成新的流量分配表，并对旧的流量分配表进行更新。

应当指出，本实施例的在ATCA设备中调度通信流量的装置600在操作上能够实现图4和图5所示的在ATCA设备中调度通信流量的方法。本实施例的装置600可以构成为单独的装置，也可以集成在ATCA设备中。

应当指出，上述实施例的在ATCA设备中调度通信流量的装置600及其组成部分可以由诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现，也可以用由各种类型的处理器执行的软件实现，也可以由上述硬件电路和软件的结合实现。

图7示出了实现图6所示装置的一个例子的示意图。在图7中，ATCA设备包括作为控制装置的控制刀片和多个作为流量处理装置的实时刀片，控制刀片与实时刀片通过交换背板通信。如图7所示，在实时刀片上对于每一个应用都设置有收集模块，流量分配规则生成模块位于控制刀片上，调度模块与业务链路连接。

在工作时，实时刀片上的收集模块收集该刀片的资源和负载信息，包括CPU使用率、各应用的进入流量数、丢失流量数等，然后在每个时间段的结尾，生成包含上述资源和负载信息的消息，并发送给流量分配规则生成模块。

流量分配规则生成模块通过收集模块知道每个实时刀片上所有应用的资源相关信息，周期性地基于这些信息计算新的流量分配规则，并通知调度模块新的流量分配规则。

调度模块在从流量分配规则生成模块获得新的流量分配规则后，生成新的流量分配表以更新旧的流量分配表。当通信流量进入ATCA设备时，检查流量分配表，决定该通信流量将被分配到哪个实时刀片，并将该通信流量路由到所选择的通信流量。

以上虽然通过一些示例性的实施例详细描述了本发明的在基于高级电信计算架构的设备中调度通信流量的方法及装置，但是以上这些实施例并不是穷举的，本领域技术人员可以在本发明的精神和范围内实现各种变化和修改。因此，本发明并不限于这些实施例，本发明的范围仅由所附的权利要求限定。

Claims (15)

1.一种在基于高级电信计算架构的设备中调度通信流量的方法，其中所述设备至少包括流量处理装置，所述方法包括：

收集所述流量处理装置的通信流量信息；

基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则；以及

基于所生成的流量分配规则，对进入所述设备的通信流量进行调度。

2.根据权利要求1所述的方法，其中，所述收集所述流量处理装置的通信流量信息的步骤包括：

测量在所述流量处理装置上的进入的流量和丢失的流量。

3.根据权利要求2所述的方法，其中，所述基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则的步骤包括：对于在所述设备上运行的每一个应用，

基于所述进入的流量和所述丢失的流量，计算该应用在所述流量处理装置上的进入流量速率和流量丢失率；

确定运行该应用的流量处理装置中所述流量丢失率超过预定服务质量的流量处理装置的数量；

当所确定的流量处理装置的数量为零时，使用现有的用于通信流量调度的方法计算在下一个时间段向所述流量处理装置分配的该应用的通信流量；

当所确定的流量处理装置的数量不为零时，

对于所述流量丢失率超过预定服务质量的流量处理装置：

基于所述进入流量速率和所述流量丢失率，计算该应用在该流量处理装置上的当前处理速率；

基于所述当前处理速率，计算在下一个时间段该应用在该流量处理装置上的期望流量速率；

对于所述流量丢失率低于预定服务质量的流量处理装置：

基于所述进入流量速率和目标流量速率，确定在下一个时间段将要处理的该应用的流量速率；

基于所确定的在下一个时间段将要处理的该应用的流量速率，计算在下一个时间段该应用在该流量处理装置上的期望流量速率；以及

基于所计算的在下一个时间段该应用在所述流量处理装置上的期望流量速率，计算在下一个时间段向所述流量处理装置分配的该应用的通信流量。

4.根据权利要求3所述的方法，其中，所述现有的用于通信流量调度的方法是轮询调度方法、加权轮询调度方法和基于CPU负载的调度方法中的任意一个。

5.根据权利要求2所述的方法，其中，在所述设备上运行单个应用；

所述基于所收集的通信流量信息，生成在下一个时间段的所述流量处理装置的流量分配规则的步骤包括：

基于所述进入的流量和所述丢失的流量，计算在所述流量处理装置上的进入流量速率和流量丢失率；

基于所述流量丢失率，计算在下一个时间段分配给所述流量处理装置的通信流量的比率；以及

基于所计算的比率和目标流量速率，计算在下一个时间段分配给所述流量处理装置的期望流量速率。

6.根据权利要求2所述的方法，其中，在所述设备上运行多个应用；

所述基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则的步骤包括：对于每一个应用，

基于所述进入的流量和所述丢失的流量，计算该应用在所述流量处理装置上的进入流量速率和流量丢失率；

计算该应用的总流量速率；

基于所述流量丢失率，计算在下一个时间段分配给所述流量处理装置的通信流量的比率；以及

基于所述总流量速率和所计算的比率，计算在下一个时间段分配给所述流量处理装置的该应用的期望流量速率。

7.根据权利要求1至6任意一项所述的方法，其中，所述基于所生成的流量分配规则，对进入所述设备的通信流量进行调度的步骤包括：

接收进入所述设备的通信流量；

根据所述流量分配规则，确定将要处理所接收的通信流量的流量处理装置；以及

将所接收的通信流量路由到所确定的流量处理装置。

8.一种在基于高级电信计算架构的设备中调度通信流量的装置，其中所述设备至少包括流量处理装置，所述装置包括：

收集模块，用于收集所述流量处理装置的通信流量信息；

流量分配规则生成模块，用于基于所收集的通信流量信息，生成所述流量处理装置在下一个时间段的流量分配规则；以及

调度模块，用于基于所生成的流量分配规则，对进入所述设备的通信流量进行调度。

9.根据权利要求8所述的装置，其中，所述收集模块包括：

测量单元，用于测量在所述流量处理装置上的进入的流量和丢失的流量。

10.根据权利要求9所述的装置，其中，所述收集模块设置在各个流量处理装置上。

11.根据权利要求9所述的装置，其中，所述流量分配规则生成模块包括：

进入流量速率计算单元，用于对于在所述设备上运行的每一个应用，基于所述进入的流量，计算该应用在所述流量处理装置上的进入流量速率；

流量丢失率计算单元，用于基于所述进入的流量和所述丢失的流量，计算该应用在所述流量处理装置上的流量丢失率；

确定单元，用于确定运行该应用的流量处理装置中所述流量丢失率超过预定服务质量的流量处理装置的数量；

通信流量计算单元，用于当所述确定单元所确定的流量处理装置的数量为零时，使用现有的用于通信流量调度的方法计算在下一个时间段向所述流量处理装置分配的该应用的通信流量；用于当所述确定单元所确定的流量处理装置的数量不为零时，对于所述流量丢失率超过预定服务质量的流量处理装置，基于所述进入流量速率和所述流量丢失率，计算该应用在该流量处理装置上的当前处理速率，并基于所述当前处理速率，计算在下一个时间段该应用在该流量处理装置上的期望流量速率，对于所述流量丢失率低于预定服务质量的流量处理装置，基于所述进入流量速率和目标流量速率，确定在下一个时间段将要处理的该应用的流量速率，并基于所确定的在下一个时间段将要处理的该应用的流量速率，计算在下一个时间段该应用在该流量处理装置上的期望流量速率，以及基于所计算的在下一个时间段该应用在所述流量处理装置上的期望流量速率，计算在下一个时间段向所述流量处理装置分配的该应用的通信流量。

12.根据权利要求11所述的装置，其中，所述现有的用于通信流量调度的方法是轮询调度方法、加权轮询调度方法和基于CPU负载的调度方法中的任意一个。

13.根据权利要求9所述的装置，其中，在所述设备上运行单个应用；

所述流量分配规则生成模块包括：

进入流量速率计算单元，用于基于所述进入的流量，计算在所述流量处理装置上的进入流量速率；

流量丢失率计算单元，用于基于所述进入的流量和所述丢失的流量，计算在所述流量处理装置上的流量丢失率；

比率计算单元，用于基于所述流量丢失率，计算在下一个时间段分配给所述流量处理装置的通信流量的比率；以及

期望流量速率计算单元，用于基于所计算的比率和目标流量速率，计算在下一个时间段分配给所述流量处理装置的期望流量速率。

14.根据权利要求9所述的装置，其中，在所述设备上运行多个应用；

所述流量分配规则生成模块包括：

进入流量速率计算单元，用于对于每一个应用，基于所述进入的流量，计算该应用在所述流量处理装置上的进入流量速率；

流量丢失率计算单元，用于基于所述进入的流量和所述丢失的流量，计算该应用在所述流量处理装置上的流量丢失率；

总流量速率计算单元，用于计算该应用的总流量速率；

比率计算单元，用于基于所述流量丢失率，计算在下一个时间段分配给所述流量处理装置的通信流量的比率；以及

期望流量速率计算单元，用于基于所述总流量速率和所计算的比率，计算在下一个时间段分配给所述流量处理装置的该应用的期望流量速率。

15.根据权利要求8至14任意一项所述的装置，其中，所述调度模块包括：

接收单元，用于接收进入所述设备的通信流量；

流量处理装置确定单元，用于根据所述流量分配规则，确定将要处理所接收的通信流量的流量处理装置；以及

路由单元，用于将所接收的通信流量路由到所确定的流量处理装置。

Images