CN101155132B - 一种间接实时流量控制系统及其方法 - Google Patents

Abstract

本发明涉及一种间接实时流量控制系统和方法，其中系统包括发送/接收缓存和对应索引队列；方法包括将每次数据产生的大数据块的每个发送单元与发送索引队列建立关系，由于数据产生和网络发送不是同时发生，一次完成，因此在产生另一个大数据块时，可利用发送索引队列进行网络层发送，发送索引队列被循环使用。同时根据本节点的发送能力和对方的接收能力对索引队列的使用比例进行管理，达到流控目的。同样接收方也是如此操作，网络层接收的是小数据块，数据的最后消费者是由多个小数据块组成的大数据块。这种系统和方法大大减少了依赖协议进行流控的开销和节点内的同步开销，提高了数据在分组网络中下层传输的实时性，可有效改进流媒体传输质量。

Description

一种间接实时流量控制系统及其方法

技术领域

本发明涉及网络传输中的实时流量控制，更具体来说，是当出现对上下游不能严格同步时，采用什么方法可以保证传输实时性并且减少同步的代价。 

背景技术

在电路域，分组交换域或者其它各种网络形式下，数据以单个或成组的方式形式在网络节点之间进行传输，同样大小的为帧frame，大小不同的为数据块block。数据也在网络层次内部被软硬件协作在层与层之间传递拷贝。而流量控制，一般是对成组数据的控制，通过对传输速度的调整可以保障数据的正常传输、是数据传输中重要的控制因素，但同时要兼顾网络和数据的各种实时性和同步要求。 

对流控的需求包括这样一些情况，需求大于供给的资源协调情况；网络节点或处理模块的处理能力或是缓存有限需要公平被使用；网络节点或处理模块的处理能力分布不均匀，如上游比下游处理快；网络拥塞导致需要流控；信息负载或者业务类型要求某种恒定传输速率，或者传输速率在一定时间段下是有规律的；最终的接收者要求某种恒定传输速率等。 

实时流量控制是为同时满足数据实时性对数据进行的流量控制，可以采用硬件同步或者软件同步实现。其中：硬件同步，收端和发端采用同样的时钟；在数据中包含时间戳，以便接收方根据策略进行同步，严格保证数据完整；软件同步，在多任务环境中采用消息，事件以及互斥手段，用软件时钟在关联模块中传递数据；控制，同步数据块的时序，或者保证有业务关联的数据发出是近乎同时的；例如音频和视频数据，这种流量控制通常根据数据业务特性或者网络资源特性对数据采用是否丢弃的策略。 

在传统的发送和接收过程中，同时考虑数据业务特性下的时延设计，上层应用的发送模块和将数据块发出的网络控制模块在同样的控制逻辑中，发送时机确定，发送单元都是数据块，只需要考虑与网络下层的发出报文的同步问题，在采用乒乓缓存或三缓存tri-buffer时可以通过控制读写指针保证实时性。同时上层的接收模块也是和网络接收控制模块在同样的控制逻辑中，接收同步问题易于协调，与发送方向一样，可以通过控制读写指针保证实时性。 

间接实时流量控制是指在多个数据块被接收时，或者发出后，不能立即知道是否失步，或者同步的时机在一段时间不确定的情况下，如何进行流量控制。这种情况可能是由于没有下层针对单个数据块的时序同步控制，硬件收发本身是处理连续数据流或者软件对于一段数据流的处理相对硬件慢，也可能是数据提供模块是以多数据块方式提供，需要一个模块进行分割后再发出，或者从接收角度来看，数据收集需要多数据块方式才能进行上层处理，需要一个模块进行组装。一个间接流量控制在数据块的时间到达失序，网络丢失数据块，根据业务特性需要进行丢包或者有切割数据需求时控制方法会更加复杂。其处理方法包括三个部分：资源的互斥操作、缓存buffer操作和根据业务特性和处理能力考虑的延时处理。资源的互斥操作包括网络层和应用层之间发生的异步操作和数据拷贝。资源的互斥操作在硬件和软件之间的操作是通过DMA传输来接口的，驱动层需要考虑高速缓存cache行为导致的内存数据的不一致，从驱动到网络协议层一般存在异步操作和一次数据拷贝，从网络层到应用层再次发生一次异步操作和数据拷贝，这是上行方向的情况，下行方向从应用到硬件的数据流向操作过程也是类似。Buffer操作是带有读写指针的环型缓存、两个数据块的乒乓缓存，三个数据块的tri-buufer或者大于三个数据块的扩展tri-buffer。 

间接实时流量控制面临的情况是发送或者接收的上层应用与控制发送和接收的网络控制模块的各自控制的单元大小不同，上层意识到的是一组具有某种完整意义的数据块，可以完成一段应用的业务，而下层所意识到的是单个数据块。在下层发送时，存在不知道什么时候才算一个或者多个发送完成，同时发送和接收的时机在上层与下层之间没有统一的控制逻辑，在能协调同步时已经超过了业务可以接受的时延，同时没有手段判断什么时候可以覆盖旧数据。如果采用将整个一组数据块拷贝到一个区域再进行读操作，就降低了实时性，同时有可能不能满足业务的时延限制。这个问题主要是互斥的对象的大小上不一致导致的实时性难以实现。 

发明内容

本发明需要解决的技术问题是在上层网络应用与下层网络协议各自控制的数据单元大小不对等时，在不增加流量控制信息的基础上，如何提供一种间接实时流量控制系统，可以提高数据传输的实时性。 

本发明上述第一个技术问题这样解决，提供一种间接实时流量控制系统，设置在网络应用和网络协议之间，包括： 

发送缓存：输入端连接网络应用，输出端连接网络协议，网络应用产生大数据块，网络协议将其中的每个最小数据单元依次发送出去； 

接收缓存：输出端连接网络应用，输入端连接网络协议，网络协议依次接收每个最小数据单元，网络应用使用其组装成的大数据块； 

内置索引队列发送或者接收索引队列的控制器：发送时控制所述网络协议顺序读取发送索引队列成员指向的发送缓存中的数据块或者接收时控制所述网络应用顺序读取接收索引队列成员指向的接收缓存中的数据块；所述发送或者接收缓存由多个所述数据块组成，该数据块的大小等于所述网络协议一次处理的最小数据单元。 

按照本发明提供的流量控制系统，所述发送或接收缓存是乒乓缓存、三缓存、扩展三缓存或共用缓存结构，特征是总是可以有两个或者两个以上的发送缓存被网络应用和输出端连接网络协议同时使用；并且也总是可以有两个或者两个以上的接收缓存被网络应用和输入端连接网络协议同时使用。 

按照本发明提供的流量控制系统，所述控制器是同时内置包括接收索引队列和动态可变的部分发送的发送索引队列的控制器，进行双向控制，同时又采用流量控制的另一个方法，即依据预先估计的发送速度阈值，调整发送索引队列的使用长度，网络应用产生的索引队列还是和大数据块一一对应，但是网络协议发送时只发送部分索引队列，剩下的部分在下次发送时发送。发送速度阈值可以和滑动窗口或者其它的机制建立关系，并依据下层的发送能力和对方的接收能力计算出来，并且是动态可变的。 

按照本发明提供的流量控制系统，还包括发送定时器：控制所述网络协议发送所述数据块的最大时延。 

按照本发明提供的流量控制系统，还包括接收定时器：记录接收时延选择控制所述网络应用的使用状态。 

本发明另一个技术问题这样解决，提供一种间接实时流量控制方法，采用发送索引队列，进行单向控制，包括以下同时进行的二步骤： 

A)网络应用实时将数据依序写入发送缓存中的具可写标记的数据块，改为可读标记，并将其索引顺序加入到所述发送索引队列的队尾，也就是覆盖已经发送或者放弃的索引队列； 

B)网络协议按所述发送索引队列顺序读取发送其成员指向的所述可读标记数据块，在大数据块对应的发送索引队列被执行一遍，将大数据块改为已读标记；获得响应后，将发送成功的数据块改为可写标记并将其对应索引从所述发送索引队列中删除，将发送失败的数据块再次改为可读标记或者根据外部的策略，选择对其放弃。 

按照本发明提供的流量控制方法，还包括网络协议在超出数据块自身允许发送延长时间后丢弃该数据块，同时将该数据块对应索引从所述发送索引队列中删除，并设可写标记。 

按照本发明提供的流量控制方法，还包括依据预先估计的发送速度阈值，调整发送索引队列的使用长度，网络应用产生的索引队列还是和大数据块一一对应，但是网络协议发送时只发送部分索引队列，剩下的部分在下次发送时发送。发送速度阈值可以和滑动窗口或者其它的机制建立关系，并依据下层的发送能力和对方的接收能力计算出来，并且是动态可变的。 

按照本发明提供的流量控制方法，所述索引是所述数据块在所述接收缓存内的地址偏移量。 

本发明另一个技术问题还可以这样解决，提供一种间接实时流量控制方法，采用接收索引队列，进行单向控制，还包括以下同时进行的二步骤：

C)网络协议实时依序将数据写入接收缓存中的具可写标记的数据块，改为可读标记，完整接收一个大数据块后，将其对应数据块索引顺序替代到所述接收索引队列，也就是覆盖原来的接收索引队列； 

D)网络应用按所述接收索引队列顺序处理其成员指向的组成所述大数据块的具可读标记的数据块，改为已读标记，读取后改为可写标记，同时索引队列可以被覆盖再使用或可以被清空后再使用。 

按照本发明提供的流量控制方法，所述索引是所述数据块在所述接收缓存内的地址偏移量。 

本发明另一个技术问题还可以这样解决，提供一种间接实时流量控制方法，采用发送和接收索引队列，按上述对应方法总和进行双向控制。 

本发明提供的间接实时流量控制系统及其方法，大大减少了依赖协议进行流控的开销，减少了节点内的同步开销。这种系统和方法采用发送索引队列确保发送数据块的顺序，很大程度地避免一、两个数据块滞后造成一组数据块无法充分使用，提高了数据在分组网络中下层传输的实时性，可有效改进流媒体传输质量以及其它多媒体传输的质量。 

附图说明

图1是本发明流量控制方法的层次结构图。 

图2是本发明流量控制方法的原理图。 

图3接收时数据接收缓存的使用示意图。 

图4是网络应用产生数据的流程图。 

图5是网络协议发送数据的流程图。 

具体实施方式

本发明包括针对间接流控的一个网络协议和应用改进架构和间接流控的处理方法两部分。 

架构包括网络协议，上层应用和流控处理模块，流控处理模块是围绕缓存和定时器进行的，架构的示意图见附图1。图中上层发送者141和上层接收者142是应用模块，网络发送131和接收控制132是网络高层控制层，数据流向当为下行时数据从buffer到网络下层协议12和驱动层11，上行时数据从网络下层协议和驱动层到buffer。信息流如带箭头线段表示。Buffer和timer是由四个部件之间协调使用，达到共享资源的目的。 

架构的实施过程如下： 

1.分析系统中协议和应用特性，将需要提高实时性和数据吞吐量的部分提取出来； 

2.按照网络带宽，包括一般流量情况和最大流量情况，和终端在一般处理能力和有处理瓶颈状态下情况下，安排缓冲的大小和定时器的时延； 

3.将协议和应用的数据处理流程中涉及到实时处理的部分进行合并，这个时候考虑相关协议，以及应用可以共用缓存的情况； 

4.实现间接流控一般的处理方法； 

5.根据协议定义和应用的业务特性提供流控的缓存调整策略，以及向上层提供调整的接口； 

如果已经有间接流控一般的处理方法的情况下，需要实现一个新的系统，则在间接流控一般的处理方法基础上进行上面的工作。 

在架构中，发送方和接收方可以同时存在也可以只有一方存在。 

本发明考虑这样几个部件(原因见具体实施的前部)：大缓存(上层缓存)，发送和接收索引部件，定时器部件，缓存调整算法部件，以及直接存放数据的小缓存(下层缓存)或者称为数据块。并按照下面的原则组合起来。 

1.发送和接收各自使用两个大小相同的大缓存(buffer)，形成一个高层的乒乓buffer机制，可以满足一次上层应用准备发送或者接收的数据处理，当上层发送和接收可以共用数据空间时，将4个大缓存(buffer)合并使用，使用顺序为发送和接收者间隔交替。根据业务特性和性能开销，也可以考虑采用tri-buffer机制。 

2.为网络下层同步考虑一个发送和接收索引指向发送和接收的两个大 缓存(buffer)，每次只使用一半，也就是只有一个大缓存(buffer)的数据有效。每一个表示一个数据块的偏移值，网络发送时考虑是否有上层数据发送提供，接收时考虑是否足够多的数据可以被上层使用。 

3.根据网络拥塞状态和业务的时延特性设计多个定时器，控制应用和网络的长时段的协调，调整算法负责控制大缓存(buffer)数量，其中数据块的最大数量以及实际使用数据块数量等。 

定时器包括数据块发送(接收)的最大时延，数据块发送(接收)实际使用数目的最大时延，调整算法处理的最大间隔。 

当系统要求为最大数据通量时，定时器可以暂时关闭。 

当上层应用被迁移到其它网络节点时，这个发明也可以用于节点间的间接流控。 

当这种数据处理会出现在硬件的报文发送接收时，也可以用于硬件的发送接收控制。 

数据的产生和发出与数据的接收并进行上层应用处理是对应的两个部分，流程是类似的，在附图4中给出了数据的产生和发出的流程，两个流程是并行工作的。 

进一步，说明本发明原理。 

(一)发送时发送缓存的使用具体如图2所示， 

发送索引队列21表示正在被传输的大缓存所对应的索引数组和下一步被传输的大缓存所对应得索引数组，每个小格子表示对以一个发送数据块，是数据块的偏移值。其中深色部分为根据流控需要预留丢弃的数据块，将在以后发出或者丢弃。产生数据的模块，图中为编码器，正在向发送大缓存22对应指向的第三块大缓存写入数据，发送大缓存22对应指向的第一个大缓存是正在网络传输的大缓存。本图为tri-buffer机制的情况，如果是更加快速，大缓存之间的不存在延时的情况下采用乒乓缓存方式，则发送大缓存22对应指向2个大缓存。 

(二)接收时接收缓存的使用具体如图3所示， 

本图为不需要接收索引队列/数组的接收缓存使用情况。当需要发送和 接收严格同步并且需要公用大缓存时，接收索引数组将被使用，使用方法类似图2，操作方向相反。接收大缓存31指向的第一个大缓存是正在被数据消费者，图中为解码器，使用的大缓存。本图为一个乒乓缓存的情况。 

最后，以一个分组交换的终端设备在处理视频数据的实时传输协议(RTP，Real-timeTransport Protocol)层的设计为例。上层应用层为编码器准备发送数据模块和解码器准备接收数据模块，编码器和解码器都只能以文件形式提供，一个文件中有一组用于网络传输的编码数据块，文件以缓存(buffer)的形式出现。由实时传输协议(RTP)层实现缓存(buffer)控制和与上层应用以及下层网络收发的同步。 

设计过程如下： 

1.为发送应用与发送网络控制模块建立两个到三个大缓存(buffer)，每个可以被发送应用写入，发送网络控制模块分批读出，并建立一个索引，指向大缓存(buffer)中的每个数据块； 

2.为接收应用与接收网络控制模块建立两个大缓存(buffer)，每个可以被接收应用读入，根据需要也可以建立一个索引，指向大缓存(buffer)中的每个数据块； 

3.设计发送定时器，决定每个数据块的最大发送延迟，以及根据网络情况调整每次发送大buffer是否要向后延迟；设计接收定时器，是否接收延迟大于业务的传输特性，是否改变上层应用状态； 

4，设计缓冲调整机制，在每次大缓存(buffer)的发送时，根据系统的多任务调度情况，以及网络拥塞情况，主观计算一下缺省延迟时间，在发送时预留几个数据块丢弃不发送。这个机制可以交给应用的配置模块作为系统性能的调节机制； 

发送流程： 

编码器和网络发送控制并发进行。 

A)编码器，具体如图4所示，包括以下步骤： 

1.编码器准备编码，对应步骤41)； 

2.判断是否网络发送控制模块安排好了可用的大缓存(buffer)，将编 码数据写入预先分配好的大buffer中，对应步骤42)、43)；步骤421)表示改变编码器的输入要求； 

3.将数据块的偏移值写入索引中，准备下次编码，对应步骤44)；步骤45)是可以发出标志数据； 

B)网络发送模块(RTP模块)，具体如图5所示，包括以下步骤： 

1.准备socket接口，启动发送定时器，对应步骤51)； 

2.设置编码器可以写入的大缓存(buffer)与正在发送的大缓存(buffer)有一个间隔，就是当编码器写第三块时，发送可以发送第一块； 

3.如果A)编码器过程中已经有发出标志，判断是否可以向网络写入数据，否则需要调整发送速率，改变发送定时器，对应步骤52)和521)； 

4.按照索引，发送已经有编码器处理的数据缓存(buffer)，被发送完后，标志此大缓存(buffer)可以被编码器使用。在到达预留丢弃数据块边界时，发送控制模块开始发送下一个被编码器处理后的大缓存(buffer)，对应步骤53)和54)； 

5.如果总是没有机会去发送第二个大缓存(buffer)，说明可以改善与编码器的同步，设置编码器和网络发送控制模块为乒乓缓存(buffer)方式，如果网络情况或者本地性能降低时再切换为tri-buufer方式； 

6.当发送到警界线时，暂停发送，并修改定时器设置，将大缓存(buffer)发送之间的延迟延长，对应步骤55)； 

7.根据上面的性能改变状态，接收情况和对方的RTP控制协议(RTCP)报文情况，调整丢弃的数据块数目，也就是增加每次大buffer的可以发送数据块数目，对应步骤55)； 

8.将发送的效率情况通过RTCP发送给对方，使得对方可以调整系统，对应步骤55)； 

接收流程： 

解码器和网络接收控制模块并发进行。一般来说解码器的速度快于网络接收速度，因此可以不用考虑tri-buffer，用乒乓缓存(buffer)在解码器和网 络接收之间实现同步。 

网络接收控制模块(RTP模块)： 

1.准备socket接口，启动接收定时器； 

2.接收到数据块后，放入到大buffer中，接收完成后，标志解码器可以使用； 

3.当超时没有接收完成，调整应用状态，并通过RTCP发送接收情况给对方，使得对方可以调整系统； 

解码器： 

1.准备解码； 

2.根据网络接收模块提供的大缓存(buffer)进行解码，完成后标志此缓存(buffer)可以再次被用于网络接收。 

Claims (8)

1.一种间接实时流量控制系统，包括写缓存模块和读缓存模块，其中：

所述写缓存模块，用于：通过网络应用实时将数据依序写入发送缓存中的具可写标记的数据块，改为可读标记，并将其索引顺序加入到发送索引队列的队尾；所述读缓存模块，用于：使用网络协议按所述发送索引队列顺序读取发送其成员指向的所述可读标记数据块，在大数据块对应的发送索引队列被执行一遍，将大数据块改为已读标记；获得响应后，将发送成功的数据块改为可写标记并将其对应索引从所述发送索引队列中删除，而将发送失败的数据块再次改为可读标记或者根据外部的策略对其选择丢弃；或者

所述写缓存模块，用于：通过网络协议实时依序将数据写入接收缓存中的具可写标记的数据块，改为可读标记，完整接收一个大数据块后，将其对应数据块索引顺序替代到接收索引队列；所述读缓存模块，用于：通过网络应用按所述接收索引队列顺序处理其成员指向的组成所述大数据块的具可读标记的数据块，改为已读标记，读取后改为可写标记；

其中，有两个或者两个以上的发送缓存被网络应用和输出端连接网络协议同时使用；有两个或者两个以上的接收缓存被网络应用和输入端连接网络协议同时使用。

2.根据权利要求1所述流量控制系统，其特征在于，所述读缓存模块还用于：使用网络协议在超出数据块自身允许发送延长时间后丢弃该数据块，同时将该数据块对应索引从所述发送索引队列中删除，并设可写标记。

3.根据权利要求1所述流量控制系统，其特征在于，所述索引是所述数据块在所述发送缓存或所述接收缓存内的地址偏移量。

4.一种间接实时流量控制方法，其特征在于，采用发送索引队列(21)，包括以下同时进行的二步骤：

A)网络应用(141)实时将数据依序写入发送缓存(22)中的具可写标记的数据块，改为可读标记，并将其索引顺序加入到所述发送索引队列(21)的队尾；

B)网络协议(131)按所述发送索引队列(21)顺序读取发送其成员指向的所述可读标记数据块，在大数据块对应的发送索引队列被执行一遍，将大数据块改为已读标记；获得响应后，将发送成功的数据块改为可写标记并将其对应索引从所述发送索引队列(21)中删除，而将发送失败的数据块再次改为可读标记或者根据外部的策略对其选择丢弃；

其中，有两个或者两个以上的发送缓存被网络应用和输出端连接网络协议同时使用。

5.根据权利要求4所述流量控制方法，其特征在于，还包括网络协议(131)在超出数据块自身允许发送延长时间后丢弃该数据块，同时将该数据块对应索引从所述发送索引队列(21)中删除，并设可写标记。

6.根据权利要求4所述流量控制方法，其特征在于，所述索引是所述数据块在所述发送缓存内的地址偏移量。

7.一种间接实时流量控制方法，其特征在于，采用接收索引队列，还包括以下同时进行的二步骤：

C)网络协议(132)实时依序将数据写入接收缓存(31)中的具可写标记的数据块，改为可读标记，完整接收一个大数据块后，将其对应数据块索引顺序替代到所述接收索引队列；

D)网络应用(142)按所述接收索引队列顺序处理其成员指向的组成所述大数据块的具可读标记的数据块，改为已读标记，读取后改为可写标记；

其中，有两个或者两个以上的接收缓存被网络应用和输入端连接网络协议同时使用。

8.根据权利要求7所述流量控制方法，其特征在于，所述索引是所述数据块在所述接收缓存内的地址偏移量。

Images