CN101227297B

CN101227297B - 用于设计片上网络的一种服务质量保证方法

Info

Publication number: CN101227297B
Application number: CN2007103037455A
Authority: CN
Inventors: 林世俊; 曾烈光; 金德鹏; 苏厉
Original assignee: Tsinghua University
Current assignee: Tsinghua University
Priority date: 2007-12-21
Filing date: 2007-12-21
Publication date: 2010-06-02
Anticipated expiration: 2027-12-21
Also published as: CN101227297A

Abstract

用于设计片上网络的一种服务质量保证方法属于片上网络设计领域，其特征在于，把IP块的业务分成由延迟保证GL、带宽保证GB业务构成的服务质量保证业务GS及尽力而为业务BE；在网络接口的发送模块中，BE业务经打包后送入合成器，GL业务经一个缓冲区后送入合成器，GB业务按不同的目的地址或带宽要求送往不同的缓冲区后进入合成器，所有业务再按优先级先后送往路由器，在路由器中，用分离器分离各种业务，BE业务经BE路由模块后送往合成器，GS业务采用微片编号路由方式，根据路径预分配结果初始化的路由表，把微片编号更新为下一链路的编号后送至输出端的相应缓冲区，所有业务再由合成器按优先级先后输出，克服电路交换方法缺点并具有实现面积小的优点。

Description

用于设计片上网络的一种服务质量保证方法

技术领域

本发明属于集成电路设计、尤其涉及片上互连网络设计领域。

背景技术

集成电路一直按照摩尔定律推进，单芯片所集成的智能IP(Intellectual Property)块数目越来越多，传统的基于总线的片上互连结构已经在带宽、功耗、可靠性、扩展性等方面表现处越来越多的局限性，片上通信已经取代计算成为集成电路设计的瓶颈。片上网络(Network-on-Chip，NoC)作为集成电路设计领域的一项关键技术，已用于解决芯片规模增大所带来的片上互连问题。片上网络主要由两个部件构成：网络接口和路由器。

片上网络不同于传统计算机网络，有其自身的特点：1)面积受限；2)延迟敏感；3)业务可预知。由于片上网络有上述的这些特点，因此设计片上网络就必须从其特点出发，才能以更低的代价获得更高性能的片上网络。

虫孔路由方式由于具有低延迟、低实现面积的优点被大多数片上网络的研究者们推荐为尽量而为(BE)业务的路由方式。在虫孔路由方式中，数据包被切割成一串数据微片(基本的数据传输单元)，然后微片串以流水的方式在网络中传输，因此极大的降低了传输延迟。数据包的第一个微片被称为头微片，只有它才包含路由信息。数据包的其他微片只是紧跟在头微片的后面在网络中传输。由于路由节点不需要缓冲整个数据包，因此允许使用较小的缓冲区，节省面积。

由于很多片上业务有服务质量(带宽或延迟)的要求，因此如何设计能保证部分业务服务质量的片上网络成为研究的热点。目前片上网络研究者们都是通过电路交换来保证片上网络的服务质量。采用电路交换方法保证服务质量的缺点是：1)由于链路建立时间是不确定的，因此该方法只能保证连接建立后的延迟，不能保证从数据产生到接收的延迟；2)即使连接建立以后，由于每一连接的数据传输延迟与该连接的带宽成反比，因此该方法不支持低延迟和低带宽要求的业务，例如中断业务；3)为每一中断或者短信息建立一个连接也是不现实的。

发明内容

本发明的目的在于提出一种可以克服电路交换方法的缺点的服务质量保证方法。

本发明的特征在于：所述方法是在网络接口和路由器上先后按以下步骤依次实现的：

步骤(1).初始化

把智能块IP的业务按其服务质量要求分为以下两类：

服务质量保证业务GS，包括延迟保证业务GL和带宽保证业务GB，其中：

延迟保证业务GL：要求数据从产生到接收之间的延迟在任何情况下都小于某一设定值，其业务优先级最高；

带宽保证业务GB：要求在任何时候该业务总能以某一设定的速率注入网络，业务优先级次之；

尽力而为业务BE，没有服务质量保证要求，业务优先级最低；

步骤(2).所述网络接口中的发送模块对从智能块IP输入的GL业务、GB业务以及BE业务按下述方式分别处理后送往所述路由器；

步骤(2.1).以数据包形式传输的BE业务依次经过一个采用变长打包方式的打包控制器和打包缓冲区后输入到一个第一合成器；

对于到达所述网络接口发送模块的所有GL业务都送往同一个GL缓冲区作时钟域切换后再送往所述第一合成器；

对于到达所述网络接口发送模块的所有GB业务按照不同的目的地址或不同的带宽要求送往不同的GB缓冲区作时钟域切换后再送往所述的第一合成器；

步骤(2.2).所述第一合成器按以下步骤把多路传送数据按以下步骤合成后送往所述路由器：

步骤(2.2.1).当所述GL缓冲区有数据时，优先传输所述GL缓冲区的数据；

步骤(2.2.2).当所述GL缓冲区没有数据但某路所述GB缓冲区有数据时，以轮询方式传输所述GB缓冲区的数据；

步骤(2.2.3).当所有GB缓冲区和GL缓冲区都没有数据时，传输打包缓冲区中的BE业务的数据；

步骤(3).所述网络接口中的接收模块对从所述路由器输入的GL业务、GB业务和BE业务依次经过以下步骤处理后送往所述智能块IP：

步骤(3.1).所述接收模块中的第一分离器把所述BE业务和GS业务分离；

步骤(3.2).所述BE业务经过解包器解包后送至所述智能块IP，而所述GS业务则直接送往所述智能块IP；

步骤(4).所述路由器的第二分离器从所述网络接口发送模块内的第一合成器接收含有所述各类业务的数据后，把BE业务直接送到BE路由模块，对于GS业务本接口按以下步骤处理：

步骤(4.1).按以下步骤在所述路由器各输入端口的所述第二分离器内用路径预分配的方法建立该输入端口的GS业务路由表：

步骤(4.1.1).设定有N种GS业务，把所有N种GS业务按照其数据平均速率降序排序，使第1种GS业务的数据平均速率最高，第N种GS业务的数据平均速率最低，n＝1；不同种类的GS业务是指不同目的地址或不同服务质量要求的业务；所述的数据平均速率是指该种业务的源智能块IP每秒钟平均产生的该业务的微片数；

步骤(4.1.2).按以下方法为第n种GS业务预分配路径：

先假定一条最短路径，然后计算经过每一链路的所有已分配路径的GS业务所要求的最大带宽；

若：对于所有链路，经过所述链路中的每一条链路内所有已分配路径的GS业务所要求的最大带宽均小于该链路的带宽，则此分配路径结束，n自动加1：

若：存在某一条链路，经过该链路的所有已分配路径的GS业务所要求的带宽大于该链路的带宽，则从最短路径开始按路径长度顺序搜索，直到找到一条路径，该路径同时满足：对于所有链路，经过其中每一条链路内的所有已分配路径的GS业务所要求的带宽均小于该链路的带宽且在满足以上这个条件的所有路径中路径长度最短，则路径预分配结束，n自动加1；

步骤(4.1.3).重复步骤(4.1.2)，直到第N种GS业务的路径被预分配好；

步骤(4.1.4).根据所有GS业务的路径分配结果，在所述路由器各输入端口的所述第二分离器内建立GS业务路由表；

步骤(4.2).对于服务质量保证业务GS，按微片编号路由方式从步骤(4.1)所建立的GS业务路由表中读取路由信息，更新微片的编号并将带新的编号的输入微片送至相应的输出端口的对应缓冲区，其步骤如下：

步骤(4.2.1).用“0”表示到达所述第二分离器的输入端口的业务是GB业务，用“1”表示是GL业务；

步骤(4.2.2).根据步骤(4.1)得到的GS业务的预分配路径结果在所述第二分离器的每一个输入端口设定一个GS业务路由表，其中包括：

该输入端口中所有输入路径的输出端口号；

该输入端口中所有输入路径在下一个链路的编号；

该输入端口中各输入路径中传输的GS业务类型；

步骤(4.2.3).所述第二分离器输入端口与所述路由器的输入端口一一对应，所述路由器中的第二分离器从所述网络接口中的第一合成器的输出端口或其它路由器输出端口接收输入微片，根据该接收到微片的编号和步骤(4.2.2)所述GS业务路由表把该输入微片的编号更新为该微片在下一个链路的编号并把该微片送至与GS业务路由表中指示的输出端口号对应的缓冲区，其中，GL业务的数据被存在GL缓冲区，GB业务的数据被存在GB缓冲区且GL缓冲区具有更高的优先级；

步骤(4.2.4).所述路由器中的第二合成器把所述各缓冲区中的数据合成一路数据后发送：

若：某些GL缓冲区有数据时用轮询方式优先发送；

若：所有GL缓冲区都没有数据，但某些GB缓冲区有数据，则用轮询方式传送GB缓冲区的数据；

若：GL缓冲区、GB缓冲区都没有数据，则传输BE路由模块的数据。

对于GS业务，其中经过某链路的所有服务质量保证业务GS要求的最大带宽MBW按下式计算：

MBW = Σ_{i = 1}^{I} {MBW}_{IPi};

其中，MBW_IPi为来自所述的第i块智能块IP的GS业务所要求的最大带宽，i＝1，2，…，I；

MBW_IPi是按下面两个步骤计算得到的：

步骤(1).计算中间值T₁：

T₁＝f(A；Fs_i)；

其中A为来自第i个智能块IP的所有服务质量保证路径要求的带宽的集合，Fs_i是第i个智能块IP的数据产生速率，A中元素以及Fs_i的单位均为“微片/秒”，T₁为小于Fs_i并最接近Fs_i的任意一个或多个A中元素的和；

步骤(2).根据步骤(1)中得到的中间值T₁，计算MBW_IPi：

MBW_IPi＝Min(B；FS_i)+T₁；

其中，B为步骤(1)集合A中没被用于计算T₁的带宽之和。

本发明既保证延迟保证业务从产生到接收的延迟，又支持各种类型服务质量保证业务，包括无延迟要求的带宽保证业务和低延迟低带宽业务(如中断业务)，很好的克服了电路交换的缺点。仿真表明，微片编号路由方式的实现面积大约仅是虫孔路由方式实现面积的37.5％，因此该路由方式比较节省面积。

附图说明

图1.微片编号路由方式描述。

图2.本发明的程序流程框图。

图3.软件分配GS业务路径的分配过程。

图4.网络接口设计框图。

图5.两输入两输出的路由器设计框图。

具体实施方式

该方法主要包括下面三方面内容：

1)业务分级。我们把业务按其服务质量要求分成三类——延迟保证(GL)业务、带宽保证(GB)业务和尽力而为(BE)业务。GL业务要求数据从产生到被接收之间的延迟在任何情况下都小于某固定值；GB业务对延迟不敏感，但要求在任何时候该业务总能以某一速率注入网络；BE业务没有服务质量要求。GL业务优先级最高，GB业务次之，BE业务优先级最低。GL业务和GB业务统称服务质量保证(GS)业务。

2)路径预分配。在该方法中，不同源地址、不同目的地址或不同服务质量要求的业务被认为是不同种类业务。所谓路径预分配，就是基于片上网络业务可预知特性，根据各种服务质量保证业务所要求的带宽为各种服务质量保证业务预先分配好路径，保证每一链路的带宽均能满足要求。对于GL业务，其要求的带宽等于其源IP块的数据产生速率。

3)对于服务质量保证业务，我们采用微片编号路由方式。该路由方式采用带编号的微片而不是数据包来传输数据。所谓微片就是一组并行的比特数据。该路由方式具体描述如下：在每一链路，不同业务属于不同路径，带有不同的编号。每个输入端口都设置有一个路由表，路由表的信息包括：(1)该输入端口所有输入路径的输出端口号；(2)该输入端口输入路径在下一链路的编号；(3)该输入端口所有输入路径的业务类型(“0”表示该路径的业务是GB业务，“1”表示该路径的业务是GL业务)。路由器根据输入微片的编号和对应输入端口的路由表，将微片编号更新为该微片在下一个链路的编号并将该输入微片送至相应输出端口的相应缓冲区。例如，在图1中，01输入端口有两个输入路径，分别编号为“000”和“001”，如果有某个属于路径1的微片到达01输入端口，那么其带有编号“001”，根据01输入端口的路由表，该微片属于GL业务，并且它的输出端口号是“10”，在下一路径编号是“010”，于是，路由器将该微片的编号更新为“010”并将其送至10端口的GL输出缓冲区。

该路由方式有下面三个优点：第一，采用微片级流水传输和简单的查表转发路由过程，有效减小数据延迟；第二，通过编号，不同目的地址或带宽要求的同类数据可以存储在同一缓冲区，节省路由器缓冲区，减小实现面积。第三，各微片独立经过网络，有效减少冲突的等待时间。

下面我们分析该方法是如何保证各种不同类型业务的服务质量的：

1)对带宽保证业务，路径预分配可保证其带宽。

2)对延迟保证业务，我们分两种情况：第一，没有多个延迟保证微片同时到达情况：由于延迟保证微片优先级最高，其他类业务不影响其传输，可以保证延迟；第二，多个延迟保证微片同时到达情况：路径预分配使得同时到达的延迟保证微片数可以估算，因此最大延迟可以估算。

3)对于低延迟低带宽业务，我们把它当成短时延迟保证业务处理。

本发明具体按照下面步骤实施(参见图2)：

步骤(1).初始化——业务分级：

我们把业务按其服务质量要求分成三类——延迟保证(GL)业务、带宽保证(GB)业务和尽力而为(BE)业务。GL业务要求数据从产生到被接收之间的延迟在任何情况下都小于某固定值；GB业务对延迟不敏感，但要求在任何时候该业务总能以某一速率注入网络；BE业务没有服务质量要求。GL业务优先级最高，GB业务次之，BE业务优先级最低。GL业务和GB业务统称服务质量保证(GS)业务。

步骤(2).预先分配GS业务路径并根据路径分配结果初始化路由表：

假定总共有N种GS业务，而且，我们定义某种GS业务的平均速率为该业务的源IP块每秒钟平均产生的该种类业务的微片数。步骤(2)的路径分配过程如图3所示，包括下面几个步骤：

步骤(2.1)：把所有GS业务按照其平均数据率降序排序，使第1种GS业务的平均速率最高，第N种GS业务的平均速率最低；同时将n初始化为1。

步骤(2.2)：为第n种GS业务分配路径。分配方法如下：先假定一条最短路径，然后计算经过每一链路的所有已分配路径业务要求的最大带宽。如果对所有链路，经过所述链路中的每一条链路内所有已分配路径的GS业务所要求的最大带宽均小于该链路的带宽，那么该步骤结束，n自加1；如果存在某一链路，经过它的所有已分配路径业务要求的最大带宽大于其带宽，那么我们从最短路径开始依次搜索，直到找到一条路径，该路径满足：1)对所有链路，经过它的所有已分配路径业务要求的最大带宽均小于其带宽；2)在所有满足条件1)的路径中最短。然后，结束该步骤结束，n自加1。

步骤(2.3)：重复步骤(2.2)直到第N种GS业务被分配好。

所有GS业务路径都被分配好以后，根据分配结果初始化片上网络所有路由器中所有输入端口的路由表。

通过上述的路径分配，我们保证了所有链路带宽均满足GS业务的要求；同时，GS业务尽可能使用最短路径，减少传输距离，减少功耗。

下面介绍上述预分配路径中经过某链路的所有GS业务要求的最大带宽计算。

首先，我们把经过被计算链路的所有服务质量保证业务要求的最大带宽MBW分成来自不同IP块的服务质量保证业务要求最大带宽的和：

MBW = Σ_{i = 1}^{I} {MBW}_{IPi};

MBW_IPi是按下面两个步骤计算得到的：

步骤(1).计算中间值T₁：

T₁＝f(A；Fs_i)；

步骤(2).根据步骤(1)中得到的中间值T₁，计算MBW_IPi：

MBW_IPi＝Min(B；Fs_i)+T₁；

其中，B为步骤(1)集合A中没被用于计算T₁的带宽之和。

步骤(3).网络接口设计：

为了支持多个优先级的业务，网络接口必须对不同优先级业务进行不同处理。如图4所示，网络接口包括两个模块——发送模块和接收模块。

发送模块包括一个打包控制器，打包缓冲区，一组GB缓冲区，GL缓冲区和第一合成器。对BE业务，由于采用数据包形式传输，因此需要经过一个打包过程。打包过程包括两个模块——打包控制器和打包缓冲区。打包控制器采用变长打包方式。对GB业务，为了避免目的地址或带宽要求的GB业务相互堵塞，不同目的地址或带宽要求的GB业务被存储在不同GB缓冲区，分别处理；对GL业务，由于其优先级最高并且GL缓冲区的读出速率总是大于其写入速率，因此，到达的GL业务总不会在网络接口的GL缓冲区中停留超过一个时钟周期，于是不同目的地址的GL数据不会相互堵塞，因此所有GL业务均使用同一GL缓冲区。所有缓冲区的作用均是作时钟域切换。第一合成器的作用是将多路低速数据合成一路高速数据输出。第一合成器的合成过程为：如果GL缓冲区有数据，第一合成器优先传输GL缓冲区的数据；如果GL缓冲区没有数据但某些GB缓冲区有数据，则第一合成器传输GB缓冲区的数据，传输方式采用轮询方式；当且仅当GL缓冲区和所有GB缓冲区都没有数据，第一合成器才传输打包缓冲区的数据。

接收模块包括第一分离器和解包器。第一分离器将BE业务和GS业务分离，BE业务经过解包器解包后再被送至目的IP块，GS业务直接被送至目的IP块，目的IP块根据接收到微片的编号区分微片的源地址以及其业务类型。

步骤(4).路由设计：

路由器支持两种路由方式，对BE业务，采用目前片上网络研究者推荐的虫孔路由方式；对GS业务，采用微片编号路由方式。图5所示为一个两输入两输出的路由器设计框图。如图所示，路由器包括第二分离器，第二合成器，GB缓冲区，GL缓冲区，BE路由模块等。每个第二分离器中包含一个路由表，路由表已经在步骤(2)根据预分配路径的结果初始化。第二分离器的主要功能是根据到达输入端口数据的业务类型，将不同类型的业务分离并做不同处理，如果是BE业务，就直接送至BE路由模块进行转发；如果是GS业务，就根据微片的编号和该第二分离器中的路由表，更新微片的编号并将微片送至正确的输出缓冲区。GB缓冲区和GL缓冲区作用都是做时钟域切换。由于每个入口的时钟速率不一样，因此不同入口的数据被存到不同的数据缓冲区，对于同一入口的数据，GL数据被存到GL缓冲区，GB数据被存到GB缓冲区，并且GL缓冲区的数据有更高的优先级。第二合成器的作用就是将多路数据合成一路数据发送出去，合成过程为：如果某些GL缓冲区有数据，第二合成器优先传输GL缓冲区的数据，传输方式采用轮询方式；如果所有GL缓冲区没有数据但某些GB缓冲区有数据，则第二合成器传输GB缓冲区的数据，传输方式同样采用轮询方式；当且仅当所有GL缓冲区和GB缓冲区都没有数据，第二合成器才传输BE路由模块的数据。

综上所述，本发明既保证延迟保证业务从产生到接收的延迟，又支持各种类型服务质量保证业务，包括无延迟要求的带宽保证业务和低延迟低带宽业务(如中断业务)，很好的克服了电路交换的缺点。仿真表明，微片编号路由方式的实现面积大约仅是虫孔路由方式实现面积的37.5％，因此该路由方式比较节省面积。

Claims

1.用于设计片上网络的一种服务质量保证方法，其特征在于，所述方法是在网络接口和路由器上先后按以下步骤依次实现的：

步骤(1).初始化

把智能块IP的业务按其服务质量要求分为以下两类：

步骤(2).所述网络接口中的发送模块对从智能块IP输入的GL业务、GB业务以及BE业务按下述方式分别处理后送往所述路由器：

步骤(2.2).所述第一合成器按以下步骤把多路传送数据按以下步骤合成后送往所述路由器；

步骤(4.1.2).按以下方法为第n种GS业务预分配路径：

该输入端口中所有输入路径的输出端口号；

该输入端口中所有输入路径在下一个链路的编号；

该输入端口中各输入路径中传输的GS业务类型；

若：某些GL缓冲区有数据时用轮询方式优先发送；

2.根据权利要求1所述的用于设计片上网络的一种服务质量保证方法，其特征在于，对于GS业务，其中经过某链路的所有服务质量保证业务GS要求的最大带宽MBW按下式计算：

MBW = Σ_{i = 1}^{I} {MBW}_{IPi};

MBW_IPi是按下面两个步骤计算得到的：

步骤(1).计算中间值T₁：

T₁＝f(A；Fs_i)；

步骤(2).根据步骤(1)中得到的中间值T₁，计算MBW_IPi：

MBW_IPi＝Min(B；Fs_i)+T₁；

其中，B为步骤(1)集合A中没被用于计算T₁的带宽之和。