CN101277175B - 改进会话启动协议服务器性能的方法和装置 - Google Patents

Abstract

公开了一种用于改进SIP服务器的性能的方法及装置，该装置包括：入队器，其用于判断进入服务器的请求包是新请求还是重传请求以及其重传次数，并且于根据所述判断结果以及入队策略，将所述请求包入队到不同队列中；出队器，其用于根据调度策略，将所述队列中的包出队以进行处理。优选地，该装置还包括策略控制器，其用于与服务器、入队器、出队器、队列以及用户通信，来基于网络和/或服务器的负载和/或基于不同的服务器应用，动态地自动设置或根据用户指令设置调度策略以及不同队列的数量、每个队列的容量等。

Description

改进会话启动协议服务器性能的方法和装置

技术领域

本发明涉及SIP(会话启动协议)网络，更具体地涉及一种通过对SIP请求包的动态分类和调度来改善SIP服务器性能的方法和装置。

背景技术

SIP是一种用于创建、修改和终止与一个或多个参与者的会话的应用层控制(信令)协议。这些会话包括因特网电话呼叫、多媒体分发、和多媒体会议等。作为一种基本的会话控制协议，SIP正在成为电信NGN和IT协作解决方案中的标准之一。SIP协议是一种轻量级的、独立于传输层的、和基于文本的协议，尽管它具有简单、人类可读等优点，但也对服务器端的处理造成很大负担。因此，如何提高SIP服务器的性能也成为包括IBM在内的众多企业和其他组织的重要研究课题。

一般而言，性能包括吞吐量、时延、和其他QoS相关的参数。吞吐量和时延尤其是衡量服务器系统性能的主要参数。

在SIP协议中，重传(retransmission)是实现会话建立的可靠性的基本方法，尤其是当通过诸如UDP的无连接协议传送消息和/或当SIP服务器负荷很重时。

实现SIP重传的主要方法是当请求发出时启动一计时器(对于不期望获得响应的消息不需要启动计时器)。如果在该计时器触发前没有接收到响应，则将重传该消息。如果在另一超时(time out)间隔内仍未接收到响应，则该被重传的请求将再次被重传。一般而言，发送第二次重传的延迟长于第一次，通常其值总是前一次重传的两倍。如果一直没有接收到响应，则重传将重复进行下去，直到达到某一重传次数阈值，例如第七次重传失败。此时将放弃发送请求(呼叫失败)。有关该重传机制的细节，请参见RFC3261。

当前的研究显示，重传是造成平均呼叫建立时延增加的重要因素，并对吞吐量带来了极大的不利影响。例如，如果在成功地接收到响应之前，一消息被传送了五次，则该会话的延迟将至少是前四次重传的超时期间的总和，其可能是几秒，甚至可能是几十秒。该值可能是没有重传的成功的会话建立的延迟(该值通常为几毫秒)的数千倍。而且，尽管通过网络传送了5个消息(5倍的流量)，却仅建立了一个会话。这样，由会话建立速率度量的吞吐量会很低，并且网络带宽利用也是低效率的。

图1示意性示出了SIP请求(例如INVITE)的发送和重传的过程。如图所示，在客户端发出诸如INVITE的初始请求后，如果没有接收到来自服务器的响应，则在500ms时重传该请求。如果仍未接收到响应，则进行第二次重传，其延迟的时间为第一次重传的两倍，即1000ms。第三次重传的延迟为2000ms。以此类推。如果在第五次重传后接收到响应，例如200OK消息，则整个呼叫建立延迟将约为先前各次重传延迟的总和，即15500ms。该时间将远远大于通常为几毫秒的、没有重传时的呼叫建立时间。

在现有技术中，在SIP服务器端，逻辑上存在一个队列(因为可以把几个队列或这些队列的一部分视为一个队列)，该队列不知道消息是新请求还是重传请求，以及该消息的其他属性。这样的队列存在于TCP/IP栈中，也存在于将与WAS一起发运的Java SIP栈中。值得注意的是，Java SIP栈被建模为具有无限容量的队列。

由于该队列无法区分重传请求和新请求，因此它将把重传请求当成与新请求一样地进行处理。这种“公平”的处理将导致服务器的性能损失。

目前，存在着试图在SIP代理/服务器端去除冗余重传的工作，也存在着试图实现复杂的分类器以为高负荷SIP代理/服务器获得更高的QoS的工作。但这些工作都未对新的SIP请求和重传的SIP请求作出区分，并分别进行相应处理，从而未能克服上述SIP服务器吞吐量和时延问题。

显然，在本领域中需要一种通过对SIP请求包的动态分类和调度来改善SIP服务器性能的方法和装置。

发明内容

本发明的解决方案将一个队列划分为多个队列，并配置入队器(enqueuer)(也叫分发器(dispatcher)或分类器)使之具有区分新请求和重传请求、并随后将消息入队到不同队列中的能力，而在队列之后和SIP栈之前的出队器(dequeuer)(也是调度器(scheduler))将基于动态权重从所述队列中将消息出队，并将它们发送给SIP栈以便进行处理。

在本发明的一个方面，提供了一种用于改进服务器性能的方法，该方法包括以下步骤：判断进入服务器的请求包是新请求还是重传请求；根据所述判断结果，将所述请求包入队到不同队列中；以及根据调度策略，将所述队列中的包出队以进行处理。

在本发明的另一个方面，还提供了一种用于改进服务器性能的装置，该装置包括：入队器，其用于判断进入服务器的请求包是新请求还是重传请求，并且用于根据所述判断结果，将所述请求包入队到不同队列中；以及出队器，其用于根据调度策略，将所述队列中的包出队以进行处理。优选地，该装置还包括策略控制器，其用于与所述服务器、所述入队器、所述出队器、所述队列以及用户通信，来基于网络和/或服务器的负载和/或基于不同的服务器应用，动态地自动设置或根据用户指令设置调度策略以及不同队列的数量、每个队列的容量等。

本发明还可实现为一种机器可读的程序存储装置，该程序存储装置有形地体现可由该机器执行以完成前述方法的所有步骤的指令程序。

采用本发明的解决方案，可通过在服务器端进行微小的修改并采用高效而不复杂的分类/调度(入队/出队)算法而改进性能(吞吐量和延迟)。本发明的解决方案无需修改原始SIP协议栈即可获得SIP协议性能优化。特别是在SIP协议栈的源代码不可获得，或不允许对其进行修改或修改不可行时，这一点特别有利。本发明的解决方案可以根据网络和服务器负载的动态变化动态地和自动地进行调整，而获得服务器端的最佳配置。本发明的解决方案还提供了诸如安全性增强、反垃圾信息等服务器保护机制。此外，本发明的解决方案可在SIP专用系统(SIP appliance)中实现，这一点在服务器端SIP栈不可能直接实现该增强时是特别有用的。

附图说明

所附权利要求中阐述了被认为是本发明的特点的新颖特征。但是，通过在结合附图阅读时参照下面对说明性实施例的详细说明将最好地理解发明本身以及其优选使用模式、另外的目标以及优点，其中：

图1是SIP请求(例如INVITE)的发送和重传的过程的示意图；

图2示出了根据本发明的实施例的用于改进服务器性能的装置及其与现有的SIP服务器端的入队出队机制的对比的示意图；

图3是描述根据本发明的实施例的用于改进服务器性能的方法的流程图；

图4是现有技术的系统的模型的示意图；

图5是应用了本发明的系统的模型的示意图；以及

图6是在不同权重和丢包率条件下根据本发明系统相对于现有技术的系统在延迟减少方面的性能增益的图示。

具体实施方式

下面参照附图描述本发明的实施例。应注意的是，下文中所描述的大量细节旨在对本发明进行充分的说明和例示，以使本领域的技术人员可以理解本发明的基本思想并可以实施本发明，而不构成对本发明的限制。此外，所描述的各特征不一定包含在本发明的一个实施例中，而是可以包含在本发明的不同实施例中。对每个特征的提及仅意味着该特征可出现在本发明的至少一个实施例中。可以实现本发明，而没有所描述的一个或多个特征。也可以将本发明实现为包括其他未描述的特征。

在下文中，主要针对SIP协议和SIP服务器对本发明进行了描述。然而，尽管SIP协议和SIP服务器确实是本发明的主要应用领域，本发明的基本思想和技术方案并不限于此，而是可以应用于其他协议和其他服务器。简言之，凡是包含消息重传机制的网络协议及使用这种协议的服务器均可使用本发明来提高其性能。

图2示意性地示出了根据本发明的实施例的用于改进服务器性能的装置及其与现有的SIP服务器端的入队出队机制的对比。

如图所示，在现有技术中，SIP服务器端的入队器将来自SIP客户端的新请求与各次重传的请求不加区分地放入同一个队列。而出队器则按照先进先出的顺序将队列中的新请求和各次重传的请求取出，然后将其放入SIP栈，以进行处理。

相反，本发明的解决方案将现有技术中的单个队列重新组织为多个队列，每个队列将用于保持特定类型的消息，例如一个队列用于保持新请求，一个队列用于保持一次重传的请求，一个队列用于保持二次重传的请求，再一个队列用于保持三次及以上重传的请求。应注意的是，所图示和说明的队列的个数以及每个队列的容量仅为示例，而不是对本发明的限制。在本发明的其他实施例中可以有更多或者更少的队列，并且每个队列可用于保持不同类型的消息。

优选地，所述队列的数量和每个队列的容量可由下述策略控制器203根据网络和服务器负荷动态地自动设置，或根据用户指令设置。

如图所示，根据本发明的实施例的用于改进服务器性能的装置200包括：入队器201，其用于判断进入服务器的请求包是新请求还是重传请求以及其重传次数，并且于根据所述判断结果和入队策略，将所述请求包入队到不同队列中；出队器202，其用于根据调度策略，将所述队列中的包出队以进行处理；以及策略控制器203，其用于与所述服务器、所述入队器、所述出队器、所述队列以及用户通信，以动态计算和设置策略。

其中，入队器201是对现有技术的入队器的增强，从而成为一分类器，而具有了区分新请求和重传请求、以及获知关于重传次数以及其他属性等细节的能力。优选地，入队器201通过跟踪消息的历史来区分新请求和重传请求并判断重传次数。这可以通过例如维护一散列表并在该表中记录重传次数以及其他所需属性来实现。这样，每当入队器201接收到一个请求，它就在该散列表中查找该请求是否已经存在。如果该请求在散列表中不存在，则判断该请求为新请求，并将该新请求存入散列表，以用于以后判断重传请求及其重传次数。如果该请求已存在于散列表中，则判断该请求为重传请求，并根据该散列表中与相应请求条目一起存储的重传次数，确定该次重传请求的重传次数，并以该次重传请求的重传次数更新所存储的重传次数。如本领域的技术人员所知的，判断一个请求是否是原先请求的重传可通过例如提取并比较两个请求所包含的事务ID来实现。

然后，该入队器201根据对该消息是新请求还是重传请求以及其重传次数的判断，并基于由所述策略控制器203设置的策略，将该消息分派到不同的队列中。

所述策略可以是动态策略，并可由策略控制器203基于网络状态、服务器负荷、和管理员配置进行动态更新。

应注意的是，不一定将具有相同重传次数的消息保持在同一个队列中。本发明支持更细粒度的分类。也就是说，可将具有相同重传次数但具有不同的属性(比如，会话的类型)的消息入队到不同队列中。另一方面，本发明也支持更大粒度的分类。例如，可将被重传三次或三次以上的消息放入同一个队列。

此外，在本发明的一实施例中，入队器201具有这样的能力，即根据所设置的策略直接丢弃被重传过多次数的消息或具有表明对服务器端有害的属性的消息，例如可能表示拒绝服务攻击的快速重复发送的相同消息。用来确定何时丢弃消息的重传次数阈值以及所述不利属性可由用户通过策略控制器203进行设置。

所述出队器202是对现有技术的出队器的增强，从而成为一调度器，其将基于由所述策略控制器203所设置的动态策略将所述各队列中的消息出队。所述策略可以为任何适当的调度策略，例如轮询法(round robin)、加权轮询法(WRR)等。

应注意的是，当使用加权轮询法的调度策略时，保持具有更大重传次数的消息的队列不一定具有更高的调度优先级(权重)。相反，基于调度策略和关于SIP消息处理的知识，例如历史知识，如果对于重传超过一定次数的消息来说，成功响应的机会变得较小，则可将相应的队列设置为具有较小的权重。

一个极端的例子是，对于未被良好实现的客户端来说(或由于互操作性问题)，它可能向服务器端发送一些混淆的、不希望的或有害的消息。例如，尽管服务器端SIP栈执行了必要的操作，如以4xx消息进行了响应(如本领域的技术人员所知的，该类消息指示服务器端认为所接收的请求包含错误的语法，或者不能在该服务器中被处理)，该客户端的不良实现却未能进行必要的修改，并坚持使用原来的消息格式和内容。在这种情况下，所述入队器和出队器可由所述策略控制器指导，并协同工作，以将其对服务器端的影响最小化。例如，策略控制器203可指示出队器202给予保持超出一阈值重传次数的消息的队列较低的调度优先级，以不妨碍具有较高调度优先级的、更有可能得到成功响应的新请求或具有较低重传次数的请求的处理，并可进一步指示入队器201直接丢弃超出另一阈值重传次数的消息。

所述策略控制器203与所述入队器201、出队器202、各队列、SIP Stack(服务器)以及用户通信，其主要功能是获取和计算关于网络负荷和服务器负荷的信息、关于应用服务器的信息及其他相关信息，根据所获取的信息以及根据用户输入的指令确定各种策略，包括关于设置队列的数量和容量的策略、入队器的入队策略和丢弃策略、出队器的调度策略等，并将所确定的策略应用于所述队列、出入器和入队器。所述各策略是动态策略，即可由策略控制器根据其与其他实体例如入队器、出队器、服务器、队列、和用户之间的信息交互例如基于网络状态、服务器负荷(比如CPU消耗量、存储器消耗量)等而动态地计算和改变。例如，当网络较忙从而由于网络拥塞原因而丢包较多时，所述策略控制器203可给予队列较大的容量，或给予容纳较大重传次数的重传请求包的队列较大的权重，或提高用于丢弃重传次数过大的重传请求包的阈值，以便给予重传次数较大的重传请求包较大的处理机会。反之，当服务器较忙从而由于服务器过载而丢包较多时，所述策略控制器203可给予队列较小的容量，或给予容纳较大重传次数的重传请求包的队列较小的权重，或降低用于丢弃重传次数过大的重传请求包的阈值，以便以牺牲重传次数较大的重传请求包为代价而加速服务器端对请求包的处理。当网络和服务器都同时处于较忙的状态时，可以采取仅当服务器忙时所采用的动态策略，因为服务器是最终决定处理能力的设备。

根据本发明的策略控制器203不仅可根据消息代表新请求还是重传请求而对消息进行分类、并分别进行入队和调度，而且可进一步根据该消息所要建立的会话的类型例如媒体类型来对消息进行分类、分别进行入队和调度。例如，如果一应用需要几个会话来工作，比如说一会议应用将分别协商音频、视频和远程操作会话，则本发明的解决方案可被设置为支持更快地协商主要会话(例如，该例子中的音频会话)。就是说，根据本发明的策略控制器203可以使得入队器201将音频、视频和远程操作会话建立请求入队到不同队列，并使得出队器202在调度时给予音频队列中的消息更大的优先级。

以上描述了根据本发明的实施例的用于改进SIP服务器的性能的装置，应指出的是，所图示和描述的仅是本发明的示例性实施例，而不意味着对本发明的限制。例如，所述队列是指逻辑队列，其可由单个物理队列构成，也可由多个物理队列构成，且其构成部分可以是相互分开的。所述队列以及所述入队器201、出队器202、策略控制器203既可位于应用层，也可位于传输层或媒体层例如网络接口卡上，或位于各层之间，这样所述出队器202将不与SIP栈直接通信。此外，所述策略控制器203既可以是单个实体，也可以是多个实体，且其全部或部分功能既可以由单独的实体来实现，也可以由其他实体例如所述入队器201、出队器202来实现。

下面，将参照图3描述根据本发明的实施例的用于改进服务器性能的方法。如图3所示，根据本发明的实施例的用于改进服务器性能的该方法包括以下步骤：

在步骤301，判断进入服务器的请求包是新请求还是重传请求以及其重传次数。如本领域中的技术人员可理解的，这种判断可通过在服务器端维护关于先前请求的历史信息、并将所接收的请求与该历史信息进行比较来实现。具体地，仅作为示例，对于每个所接收的请求包，从中提取唯一标识该请求的事务ID。在服务器中维护一散列表，该散列表中存储有每个先前请求的事务ID及相应的重传次数。在散列表中查找从当前请求包中所提取的事务ID，如果没有找到，则说明该请求为新请求，并且将该新请求的事务ID存入散列表中，且将其对应的重传次数值设为0，以便用于判断随后的请求。如果在散列表中找到了该事务ID，则说明该请求为重传请求，并从散列表中提取相应的重传次数。将该重传次数加1，即为当前请求包的重传次数。并且以该当前重传次数更新所存储的重传次数。当然，上述用于判断进入服务器的请求包是新请求还是重传请求以及其重传次数的方法仅仅是一个示例，而不构成对本发明的限制。本领域的技术人员可想到的、用于作出这种判断的任何现有技术的方法或未来开发的方法都可应用于本发明中。

在本发明的一实施例中，该进入服务器的请求包是SIP请求，特别是会话建立请求INVITE。但该请求包也可以是其他SIP请求，例如ACK、OPTIONS、BYE、CANCEL等。此外，本发明也适用于包含重传机制的非SIP的协议，例如HTTP协议的情况，并且在这种情况下，所述请求包将是HTTP请求包。此外，本发明不仅适用于应用层，也适用于较低的层，例如传输层或媒体层，并且在这种情况下，所述请求包将是指各较低层的请求包。

在步骤302，根据所述判断结果和入队策略，将所述请求包入队到不同队列中。就是说，根据对该请求包是新请求还是重传请求、以及如果是重传请求的话对其重传次数的判断，将该请求包入队到用于该请求或用于该重传次数的重传请求的队列中，以便随后对新请求和重传请求以及不同重传次数的重传请求进行分别的调度和处理。

所述队列的数量和每个队列的容量可以不同。例如，可以存在四个队列，一个队列用于保存新请求，另一个队列用于保存重传一次的请求，再一个队列用于保存重传二次的请求，最后一个队列用于保存重传三次及三次以上的请求。也可以存在三个队列，一个队列用于保存新请求，另一个队列用于保存重传一次和重传二次的请求，再一个队列用于保存重传三次及三次以上的请求。在本发明的优选实施例中，所述队列的数量和每个队列的容量和所述入队策略是可由用户配置的，或者是如上所述可由系统基于网络和服务器的负荷情况、应用服务器的类型等动态地设置的。

所述队列的长度可以相同，也可以不同。所述各队列是指逻辑实体，不一定与单个物理队列相对应，而是可以由多个分开的物理队列所构成。所述各队列可以位于应用层，也可以位于较低的层，例如传输层和媒体层，或者由位于不同层的物理队列所构成。

除了根据请求包是新请求还是重传请求以及其重传次数将其放入不同队列中以外，还可以进一步根据请求包的其他属性将请求包放入不同队列中。例如，根据请求包所要建立的会话的类型将请求包放入不同队列中。更具体地，例如，将属于同一会议应用的音频、视频和远程操作会话建立请求分别入队到不同队列中，以给予它们不同的调度优先级，比如给予保存音频会话建立请求的队列较高的调度优先级，以尽快地协商建立音频会话。

在步骤303，根据调度策略，将所述队列中的包出队以进行处理。所述调度策略可包括给予不同队列中的请求包不同的调度优先级。在本发明的一优选实施例中，所述调度策略为加权轮询法(WRR)，即轮流处理每个队列中的请求包，但对于权重大的队列，一次处理较多的请求包，而对于权重小的队列，一次处理较少的请求包。其中，每个队列的权重大小可以由用户设置，或者由系统根据网络和服务器负荷情况以及应用服务器类型等动态地自动设置。当然，所述调度策略也可以为例如轮询法的任何其他合适的现有的或未来开发的调度算法。

在本发明的一优选实施例中，所述调度策略包括给予超过一设定阈值重传次数的重传包的队列中的重传包较低的调度优先级。对于采用加权轮询法的情况，即给予超过设定阈值重传次数的重传包的队列中的重传包较低的权重。该阈值可由用户设置，或由系统根据网络和服务器负荷情况和应用服务器类型等动态地自动设置。这样，那些由于具有过多的重传次数，从而不大可能被成功响应的请求将较少地占用服务器资源，从而将服务器资源节省下来以用于处理新请求等更有可能成功的任务。

在本发明的一优选实施例中，该用于改进服务器性能的方法还包括步骤304，其中将超过另一阈值重传次数的请求包直接丢弃而不放入任何队列。这可以成为增强的安全性和服务器保护机制，以预防那些不良实现的客户端重复发送相同请求以及恶意客户端发送垃圾信息的情况。优选地，该阈值也可以由用户设置或由系统根据网络和服务器负载情况以及应用服务器类型等动态地自动设置。

以上描述了根据本发明的实施例的用于改进服务器性能的方法的各步骤，应当注意的是所描述和图示的各步骤仅为本发明的方法的示例性说明，旨在使本领域的技术人员能借此充分理解并能够实施本发明，而不是对本发明的限制。本发明的用于改进服务器性能的方法可具有与所述的相比更多、更少和不同的步骤。所述一些步骤的顺序可能改变，一些步骤可并行执行，所有这些改变都可处于本发明的精神和范围内。

此外，尽管以上方法步骤主要是参照用于处理SIP请求消息的SIP服务器及其SIP协议栈进行描述的，本领域的技术人员可想到，本发明的基本思想和技术方案也将适用于使用其他协议的其他服务器。

另外，以上描述的根据本发明实施例的用于改进服务器性能的方法既可以由前述根据本发明的实施例的用于改进服务器性能的装置来执行，也可以由其他的装置来执行。

本发明还可实现为一种可由机器读的程序存储装置，该程序存储装置有形地体现可由该机器执行以完成前述用于改进服务器性能的方法的所有步骤的指令程序。

下面，给出本发明的一实现示例，以更具体地说明和例示本发明的技术方案以及其有益效果。

图4示出了现有技术的系统的示意性模型。如图所示，该系统包括长度为L的一个队列，以及处理速率为μpps(Packet Per Second)的SIP消息处理器。包到达速率为λ。U代表每秒钟等待或正在被处理的包的数量。可得到：

U＝L+μ.

平均消息处理时延可由以下加权公式计算：

$T=\frac{T_0{N}_0+T_1{N}_1+T_2{N}_2+...+T_j{N}_j}{N_0+N_1+...+N_j}\mathrm{ms}.$

这里，j代表第j(0，1^st，2^nd，3^rd)次重传的SIP消息。N_j表示经过第j次重传被成功传输的包的个数，T_j表示经过第j次重传被成功传输的包所用的延时。

假设L＝90，μ＝900pps，则U＝L+μ＝990pps。假设包处理延迟为1ms，这是通常的响应和请求之间的时间。

在1秒之内，λ＝1200pps。假设这1200个包包括1000个新的SIP消息、50个第一次重传的SIP消息、50个第二次重传的SIP消息、和100个第三次重传的SIP消息。由于U＝990pps，在该秒内，将有210个包丢失。

对于现有技术的系统，假设在此时有110个新的SIP消息、50个第一次重传的SIP消息和50个第二次重传的SIP消息丢失，则可得到如下结论：

$T_{\mathrm{origin}}=\frac{(1000-110)\×1+100\×(3500+1)}{(1000-110)+100}=354.54\mathrm{ms}$

上述公式中“1000-110”表示成功得到响应的新消息个数，“100”表示成功得到响应的第三次重传的消息的个数，“1”表示传输“1000-110”个新消息得到响应所用的延迟为1ms，“3500+1”表示传输“100”个第三次重传的消息得到响应所用的延迟为“3500+1”ms。第三次重传的消息得到响应所用的延迟为处理新消息的延时(1ms)，第一次重传消息的重传间隔时间(500ms)，第二次重传消息的重传间隔时间(1000ms)，以及第三次重传消息的重传间隔时间(2000ms)之和。所述重传消息的重传间隔时间可以参考图1。

图5示出了应用了本发明的系统，其中有四个权重分别为W_i的队列。使用一种类似于加权轮询法的策略来进行调度。该算法以如下方式实现：给予每个队列i的权重为整数W_i，且出队器将从每个队列移除W_i个消息，然后再移到下一个队列。这就是说，具有更高权重W_i的队列中的包将具有更大的机会得到处理。

平均消息处理延迟仍然是：

$T=\frac{T_0{N}_0+T_1{N}_1+T_2{N}_2+...+T_j{N}_j}{N_0+N_1+...+N_j}\mathrm{ms}.$

其中，j代表第j(0，1^st，2^nd，3^rd，...)次重传的SIP消息。

仍然假设L＝90，μ＝900pps，U＝L+μ＝990pps，包处理延迟为大约1ms。

在1秒之内，λ＝1200pps。假设这1200个包包括1000个新的SIP消息、50个第一次重传的SIP消息、50个第二次重传的SIP消息、和100个第三次重传的SIP消息。由于U＝990pps，在该秒内，将有210个包丢失。

进一步假设用于新的SIP消息的队列Q₀的权重为W₀＝20，

用于第一次重传的SIP消息的队列Q₁的权重为W₁＝10，

用于第二次重传的SIP消息的队列Q₂的权重为W₂＝10，

用于第三次重传的SIP消息的队列Q₃的权重为W₃＝1。

表1给出WRR算法此时的执行情况：

表1

表中，用“轮次”标志WRR算法执行的每一轮，Q_0，Q_1，Q_2，Q₃5分别代表每个队列，“服务后”表示经过此轮服务，该队列中还剩下的数据包个数。“本次服务”表示此轮服务处理的该队列的数据包个数。从表中可以可出，第一轮，队列Q₀首先被服务，由于其权值为20，只有当其中20个数据包被处理之后，分发器才会转向服务队列Q₁。同理，Q₁中将会有10个数据包被处理。以此类推，第一轮WRR算法执行完毕之后，Q_0，Q_1，Q_2，Q₃依次剩余980、40、40、99个数据包。根据此算法，当要执行到第43轮时，队列Q₀剩余160个数据包，队列Q₁和Q₂剩余0个数据包，队列Q₃剩余58个数据包。此时，系统已服务了982个数据包，只能再处理8个数据包。因此，在第43轮中，Q₀中有8个数据包将被处理，剩余152个数据包全部被丢弃。而Q₃中剩余的所有58个数据包也都全部被丢弃。这就是说，在该秒中，有152个新的SIP消息和58个第三次重传的SIP消息丢失。因此，

$T_{\mathrm{withSch}}=\frac{(1000-152)\×1+50\×(500+1)+50\×(1500+1)+(100-58)\×(3500+1)}{(1000-152)+50+50+(100-58)}=250.49\mathrm{ms}$

因此，基于以上假设，采用本发明所获得的延迟减小方面的性能增益是：

$\frac{T_{\mathrm{origin}}-T_{\mathrm{withSch}}}{T_{\mathrm{origin}}}=\frac{354.54-250.49}{354.54}=29.35\%$

就是说，基于以下假设，本发明减少了时延29.35％。

下面给出在不同权重和丢包率条件下现有技术的系统和本发明的系统的性能的比较。

(1)假设λ＝10000pps。该10000个包包括9000个新的SIP消息，100个第一次重传的SIP消息，100个第二次重传的SIP消息和800个第三次重传的SIP消息；

(2)为了更好地评估在不同丢包率条件下的性能，假设丢包率(P)分别为0.1％、1％、5％和10％。

(3)为了评估WRR算法中的权重的影响，选择两组权重以更好地比较。用于根据本发明的系统的这两组权重为：

W＝{W₀，W₁，W₂，W₃}＝{20，10，10，1}以及

W’＝{W₀’，W₁’，W₂’，W₃’}＝{50，20，20，1}

W’具有更高的用于Q₀、Q₁和Q₂的权重。这就是说，在W’的情况中，有更多的机会用来处理这些队列中的包。

当P＝0.1％时，在1秒中会丢失10(10＝10000个包×0.1％)个消息。在现有技术的系统中，假设在此时平均有9个新的SIP消息和1个第三次重传的消息丢失。这样得到：

$T_{\mathrm{origin}\_0.1\%}=\frac{(9000-9)\×1+100\×(500+1)+100\×(1500+1)+(800-1)\×(3500+1)}{(9000-9)+100+100+(800-1)}=300.9\mathrm{ms}$

在本发明的W的情况下，根据WRR算法，在此时有10个第三次重传的SIP消息丢失。这样得到：

$T_{w\_0.1\%}=\frac{9000\×1+100\×(500+1)+100\×(1500+1)+(800-10)\×(3500+1)}{9000+100+100+50+(800-10)}=297.8\mathrm{ms}$

在本发明的W’的情况下，根据WRR算法，在此时也有10个第三次重传的SIP消息丢失。这样得到：

$T_{w\_0.1\%}=\frac{9000\×1+100\×(500+1)+100\×(1500+1)+(800-10)\×(3500+1)}{9000+100+100+50+(800-10)}=297.8\mathrm{ms}$

这就是说，在本发明的W的情况下，延迟减少方面的性能增益是：

$\frac{T_{\mathrm{origin}\_0.1\%}-T_{w\_0.1\%}}{T_{\mathrm{origin}\_0.1\%}}=\frac{300.9-297.8}{300.9}=1.03\%$

而在本发明W’的情况下，延迟减少方面的性能增益也是1.03％。

表2-4示出了在不同条件下每种丢失的消息的数量。

表2现有技术的系统

 

P	新消息	第一次重传的消息	第二次重传的消息	第三次重传的消息
					0.1％	9	0	0	1
1％	90	1	1	8
					5％	450	5	5	40
10％	900	10	10	80

表3本发明的W条件下的系统

 

P	新消息	第一次重传的消息	第二次重传的消息	第三次重传的消息
					0.1％	0	0	0	10
1％	0	0	0	100
					5％	142	0	0	358
10％	620	0	0	380

表4本发明W’条件下的系统

 

P	新消息	第一次重传的消息	第二次重传的消息	第三次重传的消息
					0.1％	0	0	0	10
1％	0	0	0	100
					5％	0	0	0	500
10％	372	0	0	628

图6图示了在上述不同权重和丢包率条件下根据本发明系统相对于现有技术的系统在延迟减少方面的性能增益。从图中显示的结果可见，当丢包率较高时，使用本发明的系统可以获得显著的性能增益。而且，W’的情况具有比W的情况更好的性能。这是因为随着Q₀、Q₁和Q₂具有更高的权重，这三个队列具有更大的机会得到处理。这三个队列中的包是具有较少的重传次数甚至没有重传的包。与W条件下的系统相比，在W’条件下的系统中，在1秒之内将有更多具有较小重传次数或没有重传的包被处理。因此，在相同的每秒包处理速率(或每秒包丢失率)的情况下，T_W’<T_W<T_origin。基于该结论，可以根据每种服务的响应时间以及每个队列的内容改变每个队列的权重。

以上描述了本发明的方法、装置及其示例。本发明可以硬件、软件、固件或其任何结合的方式实现。一种典型的硬件和软件的结合可以是带有计算机程序的通用计算机系统，当该计算机程序被加载和执行时，控制该计算机系统而使其执行本文中描述的方法。从而在该程序控制下的该通用计算机系统构成根据本发明的装置。本发明的方法和装置既可以在SIP专用系统中实现，也可以在SIP代理中实现，或者以分布方式实现在SIP服务器和SIP代理中。本发明的方法和装置既可以在应用层实现，也可以在传输层或媒体层中实现，或在多个层实现，或在各层之间实现。所有这些变化都处在本发明的范围之内。

另外，应理解，本发明的至少一些方面可作为另一种选择在程序产品内实现。可经由多种信号承载介质包括但不局限于不可写存储介质(例如CD-ROM)、可写存储介质(例如软盘、硬盘驱动器、读/写CD-ROM，光介质)和通信介质例如计算机和电话网络包括以太网将定义本发明的功能的程序传送给数据存储系统或计算机系统。因此，应理解，这样的信号承载介质在承载或编码指导本发明中的方法功能的计算机可读指令时代表本发明的另一可选择实施例。

尽管已参照优选实施例具体示出和说明了本发明，但是本领域内的那些技术人员应理解，可在形式和细节上对其进行各种改变而不会背离本发明的精神和范围。

Claims (14)

1.一种用于改进服务器性能的方法，包括以下步骤：

判断进入服务器的请求包是新请求还是重传请求；

根据所述判断结果，将所述请求包入队到不同队列中；以及

根据调度策略，将所述队列中的包出队以进行处理，其中所述调度策略包括给予不同队列中的请求包不同的调度优先级，

其中所述判断步骤还包括：判断所述重传请求的重传次数；且所述入队步骤还包括：根据所判断的重传次数，将所述请求包入队到不同队列中。

2.根据权利要求1的方法，其中所述调度策略采用加权轮询法。

3.根据权利要求2的方法，其中所述调度策略包括：赋予包含超过重传次数的第一阈值的重传包的队列较低的调度优先级。

4.根据权利要求1的方法，还包括：丢弃超过重传次数的第二阈值的重传包，而不将其入队。

5.根据权利要求1的方法，其中所述判断步骤包括：

在服务器端维护关于先前进入服务器的请求包的历史信息；以及

通过比较所述进入服务器的请求包与所述历史信息来进行所述判断。

6.根据权利要求1的方法，还包括以下步骤：

判断进入服务器的请求包所要建立的会话的类型；以及

根据该判断结果，将所述请求包入队到不同队列中。

7.根据权利要求4所述的方法，还包括以下步骤：基于网络和/或服务器的负载和/或基于不同的服务器应用，动态地自动设置或由用户设置以下各项中的一个或多个：

所述不同队列的数量；

每个队列的容量；

所述调度策略；以及

所述第二阈值。

8.一种用于改进服务器性能的装置，包括：

入队器，其用于判断进入服务器的请求包是新请求还是重传请求，并且用于根据所述判断结果，将所述请求包入队到不同队列中；以及

出队器，其用于根据调度策略，将所述队列中的包出队以进行处理，其中所述调度策略包括给予不同队列中的请求包不同的调度优先级，

其中所述入队器还被配置为：进一步判断所述重传请求的重传次数，以及根据所判断的重传次数，将所述请求包入队到不同队列中。

9.根据权利要求8的装置，其中所述调度策略采用加权轮询法。

10.根据权利要求9所述的装置，其中所述调度策略包括：赋予包含超过重传次数的第一阈值的重传包的队列较低的调度优先级。

11.根据权利要求8所述的装置，其中所述入队器还被配置为：丢弃超过重传次数的第二阈值的重传包，而不将其入队。

12.根据权利要求8的装置，其中所述入队器通过比较所述进入服务器的请求包与在服务器端维护的关于先前进入服务器的请求包的历史信息来进行所述判断。

13.根据权利要求8的装置，其中所述入队器还被配置为：

判断进入服务器的请求包所要建立的会话的类型；以及

根据该判断结果，将所述请求包入队到不同队列中。

14.根据权利要求11所述的装置，还包括策略控制器，其基于网络和/或服务器的负载，和/或基于不同的服务器应用，动态地自动设置或根据用户指令设置以下各项中的一个或多个：

所述不同队列的数量；

每个队列的容量；

所述调度策略；以及

所述第二阈值。

Images