CN101594291B - 非阻塞式网络系统及其分组仲裁方法 - Google Patents

Abstract

一种非阻塞式网络系统及其分组仲裁方法，其可动态调整分组仲裁策略，以避免分组传递的阻塞。该非阻塞式网络系统包含一交换网络、一来源装置及一目标装置。该交换网络包含至少第一交换单元及第二交换单元，第一交换单元与第二交换单元间具有第一路径与第二路径；该目标装置耦接至第二交换单元，该来源装置耦接至第一交换单元。该来源装置在发出第一分组以经由第一路径送至该目标装置之前，预先发出第一分组的对应分组标记，经由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通过第一路径。第二交换单元依据该分组标记，动态调整其分组仲裁策略，以便决定第一路径上待传送的第二分组的传送顺序。

Description

非阻塞式网络系统及其分组仲裁方法

技术领域

本发明涉及通信网络，尤其是涉及一种非阻塞式网络系统及其分组仲裁方法。 

背景技术

近年来集成电路技术快速地发展，片上系统(System-on-Chip，SoC)的应用日渐普遍，而片上网络(Network-on-Chip，NoC)的架构也随之发展出来，作为系统元件间的通信基础。由于芯片内元件数及频宽的需求快速增加，元件间的介面采用点对点的标准协议，如开放核心协议(Open CoreProtocol，OCP)和先进可扩展接口(Advanced eXtensible Interface，AXI)协议，以提高工作频率及数据传输率(throughput)。片上网络的实体层利用点对点握手(point-to-point handshaking)进行数据流控制并分阶段采用单向传递，而协议所提供的分组信息则用来进行数据的传输，进而提供数据交换的服务质量(Quality of Service，QoS)功能。系统元件间借助于分组来进行数据交换，而随着所涉及的系统元件或执行任务的不同，分组也具有不同的通信需求。例如，为了达到高数据传输率，有些分组需避免传递过程有太多延迟，以尽快送达目的地；而有些分组则可容许传递过程有较多的延迟。 

图1为先前技术的片上网络的架构图，其中，片上网络10包含交换单元11、12、13、主装置(master device)14、15、16及从装置(slave device)17。片上网络10采用多层次连结(multi-level，switch-to-switch)的架构，以各个交换单元为中心，各自形成一集群(cluster)或通信子系统，而交换单元11与12间、交换单元12与13间以及交换单元13与从装置17间，则分别以共用的点对点单向的信号路径101、102及103来连结，以传递跨层的分组。各个交换单元可能会同时接收来自多个来源(包括主装置或上一层的交换单元)的分组，而且信号路径101、102及103为共用，因此各个交换单元需要考量不同分组的通信需求，来设定其分组仲裁(arbitration) 策略，以仲裁出分组的传送顺序。然而，在图1的架构中，各交换单元间没有交换通信质量的信息管道，而交换单元间又仅有单一共用的信号路径可传递分组，因此，对于上一层即将传递所需避免过多延迟的分组，或者对于上一层的信号路径即将发生的通信阻塞，交换单元无法即时调整分组仲裁策略来因应。 

另一方面，若为了避免单一信号路径会造成阻塞的问题，而使用多条信号路径，则会提高电路成本，并且不利于芯片布局。 

发明内容

有鉴于此，本发明的一个目的，在于提供一种非阻塞式网络系统及其分组仲裁方法，其可动态调整分组仲裁策略，以避免分组传递的阻塞。 

在本发明的一实施例中，揭露了一种网络系统，其包含：一交换网络，包含至少第一交换单元及第二交换单元，第一交换单元与第二交换单元间具有第一路径与第二路径；一目标装置，耦接至第二交换单元；以及一来源装置，耦接至第一交换单元。该来源装置在发出第一分组以经由第一路径送至该目标装置之前，预先发出第一分组的一对应分组标记，经由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通过第一路径。第二交换单元依据该分组标记，动态调整其分组仲裁策略，以便决定第一路径上待传送的第二分组的传送顺序。该分组标记包含第一分组所对应的一第一权重识别码；第一路径具有一对应的路径权重，以便显示第一路径上属于不同权重识别码的待传送分组数；第二交换单元依据该分组标记，更新路径权重。 

在本发明的另一实施例中，揭露了一种网络系统，其包含：一交换网络，包含至少一交换单元及一耦接至该交换单元的缓冲器，该缓冲器产生一状态信号至该交换单元，该状态信号为一满载信号或一警示信号；以及一目标装置，耦接至该缓冲器及该交换单元。该交换单元将一待传送的高优先权分组直接传送至该目标装置，并将一待传送的低优先权分组传送至该缓冲器暂存。该交换单元依据是否收到该状态信号，调整其分组仲裁策略，以决定该交换单元的待传送分组的传送顺序。 

在本发明的另一实施例中，揭露了一种分组仲裁方法，其被用于一网络系统。该网络系统包含至少第一交换单元及第二交换单元、一耦接于第 一交换单元的来源装置以及一耦接于第二交换单元的目标装置。第一交换单元与第二交换单元间具有第一路径与第二路径。该分组仲裁方法包含下列步骤：该来源装置在发出第一分组前，发出第一分组的一对应分组标记，经由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通过第一路径；以及第二交换单元依据该分组标记，动态调整其分组仲裁策略，以便决定第一路径上待传送的第二分组的传送顺序。 

附图说明

图1为先前技术的片上网络的架构图。 

图2为本发明的非阻塞式网络系统的一实施例的架构图。 

图3为本发明的实施例所使用的分组标头格式的示意图。 

图4为本发明的实施例所使用的分组标记格式的示意图。 

图5为图2的交换单元与目标装置间所配置的缓冲区与穿越路径的方块图。 

图6为本发明的分组仲裁方法的一较佳实施例的流程图。 

主要元件符号说明 

10：片上网络 

11、12、13、211、212、215：交换单元 

14、15、16：主装置    17：从装置 

101、102、103：信号路径    20：网络系统 

21：交换网络    22、24：来源装置 

23：目标装置 

213、216：分组传递路径 

214、217：标记传递路径    30：分组标头 

31：需求类型信息    32：来源识别码 

33：目的地址    40：分组标记 

41：权重识别码    42：目标识别码 

51：缓冲器    52：多路复用器 

53：多路分配器    54：穿越路径 

55：控制信号    56：状态信号 

60～63：本发明的分组仲裁方法的一较佳实施例流程 

具体实施方式

在本发明的非阻塞式网络系统的一实施例中，网络系统包含多个交换 单元，用以进行数据的交换与传递，而任两个相连的交换单元间具有两条信号路径，一条用来传递分组，另一条用来传递分组标记(token)(分组标记的意义后详)。每个交换单元还可连接一或多个来源装置或目标装置。来源装置为主装置(master device)，目标装置为从装置(slave device)，来源装置可发出分组，经由一或多个交换单元(在两个交换单元间传递时系经由用来传递分组的路径)，送至某一目标装置，以与该目标装置进行通信。每个交换单元包含路由(routing)单元及仲裁(arbitration)单元。路由单元可执行路由功能，以决定将分组(或分组标记)传至哪个交换单元或目标装置；仲裁单元可在交换单元同时收到某来源装置或其他交换单元传来的分组(或分组标记)时，执行仲裁功能，以便决定这些分组(或分组标记)的传送顺序。 

在任两相连的交换单元间，若同时有多个分组需要通过分组传递路径，就可能造成阻塞。特别是，有些具有高优先权(high priority)的分组需要更快地到达目的地，因而需要优先传送它们，若因分组传递路径阻塞而无法尽快通过，就可能造成网络服务的质量降低，甚至产生运作上的问题。因此，在此实施例中，为避免此问题，来源装置会在发出一分组前，预先发出一对应的分组标记，经由独立的分组标记传递路径传送至该分组的预定传递路径上的每个交换单元，以通知各个交换单元，在其分组的来源路径上即将有某种特性的分组(如高优先权分组或低优先权分组)要通过，因此各交换单元可即时调整其分组仲裁策略，以因应即将到来的分组，而避免阻塞。例如，若即将到来的分组为高优先权分组，则交换单元需仲裁将其分组来源路径上待传送的低优先权分组先行传送(否则有可能因为是低优先权分组而被延后处理)，以使后续来到的高优先权分组可以不被前面的低优先权分组堵住，而能顺利地尽快通过。值得注意的是，由于分组标记为利用独立的信号路径传递，而且分组标记的大小相对于分组而言小很多，因此传递分组标记的速度可以很快，而且不会阻塞，因此能确实达到事先通知交换单元的功效；再例如，若交换单元经由分组标记得知其分组来源路径有大量的分组即将通过，交换单元会仲裁提高该路径的传输比重(即提高该路径所配置的频宽)，使该路径保持畅通。 

本发明可应用于片上网络，以避免片上网络发生通信阻塞。例如，在前述实施例中，网络系统为片上网络，可包含多个来源装置及目标装置， 分别耦接至某个交换单元；来源装置如直接存储器存取器(DMA)、数字信号处理器(DSP)、中央处理单元(CPU)、周边DMA、LCD控制器或其他IP元件等，目标装置如DRAM控制器或内部存储器控制器(InternalMemory Controller)等。 

图2为本发明的非阻塞式网络系统的另一实施例的架构图，其中，非阻塞式网络系统20包含一交换网络21、来源装置22、24及一目标装置23。交换网络21包含交换单元211、212及215，交换单元211与212间具有一分组传递路径213与一标记传递路径214，交换单元215与212间具有一分组传递路径216与一标记传递路径217。来源装置22、24分别耦接至交换单元211、215，目标装置23耦接至交换单元212。来源装置22可发出分组，经由交换单元211、分组传递路径213及交换单元212传送至目标装置23，而来源装置24可发出分组，经由交换单元215、分组传递路径216及交换单元212传送至目标装置23。当分组传递路径213与216上同时有分组等待传送时，交换单元212执行仲裁，以决定先传送哪条路径上的分组。例如，若分组传递路径213目前的待传送分组为高优先权分组，而分组传递路径216目前的待传送分组为低优先权分组，则交换单元212先传送分组传递路径213上的分组。分组的传递可依据点对点通信协议来进行，如OCP协议和AXI协议。每个分组包含一标头(header)，其格式如图3所示，其中标头30包含一需求类型信息(request type information)31、一来源识别码32及一目的地址33。需求类型信息31记录分组的通信需求，来源识别码32记录分组是由哪个来源装置所发出，目的地址33则记录分组所要传送的目的地，供交换单元211、212及215执行分组的路由。 

当来源装置22要发出一分组(以下称为第一分组)至目标装置23前，来源装置22预先发出第一分组的一对应分组标记，经由标记传递路径214送至交换单元212，以便告知交换单元212第一分组即将通过分组传递路径213。该分组标记是依据第一分组的标头30产生的，其格式如图4所示，其中分组标记40包含一权重识别码41及一目标识别码42。权重识别码41为借助于分别抽取需求类型信息31的一子集合及来源识别码32的一子集合而组成的，其中需求类型信息31的该子集合可显示第一分组的通信需求类型(如高优先权或低优先权)，来源识别码32的该子集合则可显示第一分组是由哪一群组的来源装置(如频宽需求高的群组)所发出。目标识别 码42是依据目的地址33解码产生的，可用来显示第一分组要送至哪个目标装置。 

交换单元212在收到分组标记40后，可据以更新分组传递路径213的一对应路径权重。该路径权重用来记录分组传递路径213所累积的各种不同权重识别码41的待传送分组数；由前述可知，权重识别码41可代表分组的属性(如通信需求类型或由哪一来源装置群组所发出)，因此路径权重可显示分组传递路径213上，有多少不同属性的分组等待交换单元212进行传送。交换单元212会依据分组标记40中的权重识别码41，递增路径权重中属于该权重识别码的待传送分组数。另一方面，后续交换单元212在传送第一分组时，由于第一分组本身也包含与分组标记40相同的权重识别码，交换单元212可据以递减路径权重中属于该权重识别码的待传送分组数，以维持路径权重的正确性。 

在第一较佳实施例中，在分组标记40中，权重识别码41所包含的需求类型信息31的子集合包含一优先权层级信息，以显示第一分组的优先权层级。优先权层级可区分为高优先权层级及低优先权层级。相对应地，分组传递路径213的对应路径权重包含一高优先权权重值及一低优先权权重值，分别用以记录分组传递路径213上待传送的高优先权分组数及低优先权分组数。在来源装置22发出第一分组前，其所预先发出的分组标记40会使交换单元212依据第一分组是高优先权分组或低优先权分组，来递增分组传递路径213的对应路径权重中的高优先权权重值或低优先权权重值。 

同样地，当来源装置24要发出一分组至目标装置23前，也预先发出一对应分组标记，经由标记传递路径217送至交换单元212，以告知交换单元212该分组即将通过分组传递路径216。交换单元212在收到该对应分组标记后，也可据以更新分组传递路径216的对应路径权重；而交换单元212后续在传送该分组时，也会更新分组传递路径216的对应路径权重。 

借助于分组传递路径213与216的对应路径权重，交换单元212可得知分组传递路径213与216上各种属性的待传送分组目前各有多少，据以调整分组仲裁策略；交换单元212依据调整后的分组仲裁策略，仲裁出分组传送的顺序，来传送这些待传送的分组。例如，在前述第一较佳实施例中，假设原本分组传递路径213的对应路径权重中，高优先权权重值为零而低优先权权重值不为零，表示分组传递路径213有待传送的低优先权分 组，若来源装置22所要发出的第一分组为高优先权分组，则其对应分组标记会使高优先权权重值递增为一，表示分组传递路径213后续将有高优先权分组要通过，因此，交换单元212调整分组仲裁策略，将原本分组传递路径213上待传送的低优先权分组视同于高优先权分组来进行传送，因而可优先传送该低优先权分组，以便高优先权的第一分组要通过分组传递路径213时，不被前面的低优先权分组堵住。 

在一实施例中，交换单元211包含一第一子交换单元，交换单元212包含一第二子交换单元，而交换单元215包含一第三子交换单元(图中未显示)；标记传递路径214耦接于第一子交换单元与第二子交换单元之间，标记传递路径217耦接于第二子交换单元与第三子交换单元之间。第一、第二及第三子交换单元仅用来处理分组标记40，因此，在交换网络21中，第一、第二与第三子交换单元及标记传递路径214、217形成一独立的子交换网络，用以处理及传递分组标记40，如此可提高分组标记40的传输效率，避免阻塞。第一、第二及第三子交换单元可依据分组标记40内的目标识别码42进行路由以传递分组标记40，而第二子交换单元并依据分组标记40，来更新分组传递路径213、216的对应路径权重。 

在第二较佳实施例中，为了防止交换单元212至目标装置23的路径被阻塞，以致后续的高优先权分组无法优先通过，在交换单元212与目标装置23间增设了缓冲区供低优先权分组暂存，并把缓冲区的状态回复给交换单元212，且另外提供一穿越路径给高优先权的分组使用，如图5所示。图5中，当交换单元212要送出一高优先权分组时，会送出一控制信号55至多路复用器52及多路分配器53，使得该高优先权分组可以经由穿越路径54直接送至目标装置23；当要送出一低优先权分组时，所送出的控制信号55则使多路复用器52将该低优先权分组转送入缓冲器51暂存。缓冲器51可提供一状态信号56至交换单元212，以告知缓冲器51目前的状态为何。在一实施例中，状态信号56为一满载信号或一警示信号，该满载信号用以表示缓冲器51已满载，无法再存入其他分组，例如，缓冲器51所暂存的数据量(或分组数)已高于第一临界值；该警示信号用以表示缓冲器51接近满载，所剩空间不多，例如，缓冲器51暂存的数据量(或分组数)不高于第一临界值且高于第二临界值。 

交换单元212可依据缓冲器51所提供的满载信号及警示信号，来调整 其分组仲裁策略，以避免交换单元212至目标装置23的穿越路径54被阻塞。调整方式分述如下： 

(1)当交换单元212收到满载信号时，由于此时缓冲器51已满载，若再传送低优先权分组，会造成阻塞，因此交换单元212将分组仲裁策略调整为只允许进行高优先权分组的传送，亦即，高优先权分组可直接通过穿越路径54至目标装置23，低优先权分组则不允许传送。 

(2)当交换单元212收到警示信号时，由于此时缓冲器51仅剩有限的空间，只能允许重要的低优先权分组进入缓冲器51。例如，如前文所述，若分组传递路径213(或216)目前待传送的分组为低优先权分组且路径上即将通过高优先权分组，交换单元212为了避免该即将通过的高优先权分组被堵住，会将目前待传送的低优先权分组视为高优先权分组来传送，亦即，交换单元212在仲裁分组的传送顺序时，会将该目前待传送的低优先权分组视同为高优先权分组。请注意，此种优先权的升级是暂时性的，仅限于此处传送顺序的调整，该获得升级的分组仍旧是低优先权分组。此种获得暂时性升级以避免堵住后续高优先权分组的低优先权分组，即为重要的低优先权包，可允许送入缓冲器51，其他不重要的低优先权分组，则不允许送入缓冲器51。因此，在收到警示信号时，交换单元212将分组仲裁策略调整为只允许传送高优先权分组或视同为高优先权分组的低优先权分组。 

(3)当交换单元212未收到警示信号及满载信号时，表示缓冲器51尚有充裕的空间可暂存低优先权分组，因此交换单元212将分组仲裁策略调整为先传送高优先权分组或视同为高优先权分组的低优先权分组，再传送其他低优先权分组。 

在一实施例中，在任两个相连的交换单元间，也配置有如图5所示的缓冲区及穿越路径。以图2的架构为例，即分组传递路径213与216上皆配置有缓冲单元及穿越路径(图中未显示)，缓冲单元用以暂存低优先权分组，穿越路径供高优先权分组直接通过；缓冲单元也能在其暂存的低优先权分组数高于一警示值时，发出警示信号至交换单元211与215。在此种情况下，缓冲单元所暂存的低优先权分组数即为分组传递路径213(或216)的对应路径权重中的低优先权权重值。为了避免缓冲单元超载，在前述第(2)点中，交换单元212对分组仲裁策略的调整，还包括“当分组传递路 径213(或216)的对应路径权重中的低优先权权重值超过该警示值时，将分组传递路径213(或216)上目前待传送的低优先权分组(即暂存于缓冲单元的分组)暂时升级为高优先权分组，以优先进行传送”。如此，分组传递路径213(或216)上可空出更多的缓冲空间，以避免阻塞。 

总之，交换单元212在进行分组传送时，可同时参考其目的端的状态(即缓冲器51的状态)及来源端的状态(即分组传递路径213与216的对应路径权重)，动态调整分组仲裁策略，以使高优先权分组可在预期延迟的范围内尽速送达目的地，避免发生通信阻塞，进而实现服务质量(QoS)的通信网络。 

图2的架构具有可延展性，可以延伸至包含更多交换单元的情形，其中任两个相连的交换单元间各具有一分组传递路径与一标记传递路径，每个交换单元可耦接一或多个来源装置或目标装置。各交换单元在传送分组时，可依据其来源端的各分组传递路径的对应路径权重及目的端的缓冲器状态，动态调整分组仲裁策略，以避免通信阻塞的情形发生。 

图6为本发明的分组仲裁方法的一较佳实施例的流程图，其中，该分组仲裁方法用于本发明的网络系统，如图2及图5的架构。该分组仲裁方法包含下列步骤： 

步骤60：来源装置22(或24)在发出一分组前，发出该分组的一对应分组标记，经由标记传递路径214(或217)送至交换单元212，以便告知交换单元212该分组即将通过分组传递路径213(或216)。 

步骤61：交换单元212依据该分组标记，更新分组传递路径213(或216)的一对应路径权重。 

步骤62：缓冲器51产生一状态信号至交换单元212。 

步骤63：交换单元212依据分组传递路径213与216的对应路径权重以及是否收到该状态信号，动态调整其分组仲裁策略，以便决定分组传递路径213与216上待传送分组的传送顺序。 

由于上述步骤已于前文详述，此处省略其说明。 

以上所述为利用较佳实施例详细说明本发明，而非限制本发明的范围。本领域技术人员皆能明了，适当而作些微的改变及调整，仍将不失本发明的要义所在，也不脱离本发明的精神和范围。 

Claims (19)

1.一种网络系统，包含：

一交换网络，包含至少一第一交换单元及一第二交换单元，该第一交换单元与该第二交换单元间具有一第一路径与一第二路径；

一目标装置，耦接至该第二交换单元；以及

一来源装置，耦接至该第一交换单元，该来源装置在发出一第一分组以经由该第一路径送至该目标装置之前，预先发出该第一分组的一对应分组标记，经由该第二路径送至该第二交换单元，以便告知该第二交换单元该第一分组即将通过该第一路径；

其中，该第二交换单元依据该分组标记，动态调整一分组仲裁策略，以便决定该第一路径上一待传送的第二分组的传送顺序，

该分组标记包含该第一分组所对应的一第一权重识别码；该第一路径具有一对应的路径权重，以便显示该第一路径上属于不同权重识别码的待传送分组数；该第二交换单元依据该分组标记，更新该路径权重。

2.如权利要求1所述的网络系统，其中，若该第一分组为一高优先权分组且该第二分组为一低优先权分组，则该分组仲裁策略将该第二分组视同为高优先权分组来决定其传送顺序。

3.如权利要求1所述的网络系统，其中，该第二交换单元在后续传送该第一分组时，更新该路径权重。

4.如权利要求1所述的网络系统，其中，该第二交换单元依据该第一路径的该路径权重，调整该分组仲裁策略。

5.如权利要求1所述的网络系统，其中，该第一交换单元包含一第一子交换单元，该第二交换单元包含一第二子交换单元，该第二路径耦接于该第一子交换单元与该第二子交换单元之间，其中，该第二子交换单元依据该分组标记，更新该路径权重。

6.如权利要求1所述的网络系统，其中，该第一分组包含一标头，该标头包含一需求类型信息、一来源识别码及一目的地址。

7.如权利要求6所述的网络系统，其中，该分组标记是依据该第一分组的该标头而产生的。

8.如权利要求7所述的网络系统，其中，该第一分组所对应的该第一权重识别码包含该需求类型信息的一子集合。

9.如权利要求7所述的网络系统，其中，该第一权重识别码包含该来源识别码的一子集合。

10.如权利要求7所述的网络系统，其中，该分组标记还包含一目标识别码，该目标识别码是依据该目的地址解码产生的。

11.如权利要求8所述的网络系统，其中，该需求类型信息的该子集合包含一优先权层级信息，以便显示该第一分组的一优先权层级。

12.如权利要求11所述的网络系统，其中，该优先权层级为一高优先权层级或一低优先权层级。

13.如权利要求12所述的网络系统，其中，该路径权重包含一高优先权权重值，用以显示该第一路径的待传送的高优先权分组数。

14.如权利要求13所述的网络系统，其中，该路径权重还包含一低优先权权重值，用以显示该第一路径的待传送的低优先权分组数。

15.如权利要求14所述的网络系统，还包含：

一缓冲器，耦接于该第二交换单元与该目标装置之间，其中，当该第二分组为低优先权分组时，该第二交换单元传送该第二分组至该缓冲器暂存；当该第二分组为高优先权分组时，该第二交换单元装置直接传送该第二分组至该目标装置。

16.如权利要求15所述的网络系统，其中，该缓冲器产生一状态信号至该第二交换单元，该状态信号为一满载信号或一警示信号；该第二交换单元依据是否收到该状态信号，动态调整该分组仲裁策略。

17.如权利要求16所述的网络系统，其中，当该第二交换单元收到该满载信号时，该分组仲裁策略调整为只允许进行高优先权分组的传送。

18.如权利要求16所述的网络系统，其中，当该第二交换单元未收到该满载信号时，若该路径权重的该高优先权权重值不为零且该第二分组为低优先权分组，该分组仲裁策略将该第二分组视同为高优先权分组来决定其传送顺序。

19.如权利要求16所述的网络系统，其中，当该第二交换单元收到该警示信号时，该分组仲裁策略调整为只允许传送高优先权分组或视同为高优先权分组的低优先权分组。

Images