CN110784406A - 功率感知的动态自适应片上网络阈值路由方法 - Google Patents

Abstract

本发明涉及一种功率感知的动态自适应片上网络阈值路由方法，通过采用自适应阈值及其对应的动态阈值步长来预测片上网络的负载状况。通过采用自适应阈值变量，来实现只在需要的时候才选用非最小路由，克服算法过多选用非最小路由时，会引起大量的额外能耗；应用阈值步长变量将根据全局网络的情况而改变，以便控制阈值改变的幅度和速度；为蜻蜓状拓扑结构开发运用提供了合理的路由算法。实验结果证实，对比UGAL‑LVC‑H路由算法，本发明方法在功率延时积上分别平均可以节省6.53％(n＝4)以及5.93％(n＝8)，说明该功率感知的动态自适应片上网络阈值路由算法是一种有潜力替代的蜻蜓拓扑路由算法的方案。

Description

功率感知的动态自适应片上网络阈值路由方法

技术领域

本发明涉及一种网络技术，特别涉及一种功率感知的动态自适应片上网络阈值路由方法。

背景技术

片上网络(NoC)[1]是一种集成电路架构，它结合了计算机网络和并行计算的思想。作为片上系统(SoC)的一种通信架构，片上网络的提出在很大程度上解决了一系列问题，如片上系统通信总线结构的可扩展性差、互连延迟以及系统全局时钟同步问题等。在片上网络结构中，通信资源组成部分作为独立的设计组件，与计算资源组成部分同等重要。更重要的是，片上网络采用分组交换作为通信技术，采用全局异步，本地同步的通信机制，具有良好的空间可扩展性以及高效的并行通信能力。

在片上网络设计中，许多因素需要考虑，如延迟、面积、吞吐量、功耗等[2]。特别是随着集成电路的发展，越来越多的处理单元被集中放置到一个芯片上，与此同时，芯片的功率密度也急剧增加。功耗问题已成为片上网络设计中极为重要的因素之一。虽然全局异步以及本地同步的特性在一定程度上降低了片上网络的功耗，但片上网络所引入的多处理器系统的通信功耗仍然是片上网络技术发展的一个瓶颈。

互连网络的拓扑结构极大地决定了网络的通信性能和成本。网络结构的成本主要取决于通信通道的连线成本，尤其是来自长距离的全局互连通道。为了在不降低性能的前提下减少全局信道，减少数据包遍历的全局信道的平均数量所是很有必要的。因此，与扁平蝴蝶状拓扑结构[3]相对比，蜻蜓状拓扑结构[4]可以将单个数据包所穿越的全局信道数量减少到仅有一个。

类似于蜻蜓状拓扑结构的高基数网络虽然减小了网络的直径，但与低基数网络相比却需要更长的互连线，因而产生更高的经济成本以及功耗开销。蜻蜓状的网络基数与网络规模的关系如图1所示。可以观察到，当网络基数线性增长时，网络的规模呈指数增长。其中，横轴的变量n表示单个路由器所连接的知识产权核(IP core)的数量。在如此之高的网络规模下，当路由选择时遇到最差的路由传输状况，这将会产生巨额的绕路功耗，而这种最差的路由传输状况可能就是负载均衡路由算法所引起的。

片上网络中的路由算法定义了源路由器和目标路由器之间的数据包路径。路由算法应注意防止死锁，活锁和饥饿的情况。死锁可以被定义为，当访问一组资源时结点之间产生循环依赖性，因此无论何种顺序的事件的发生，都不能使程序前向进展。活锁指的是在无法向目的地前进的情况下循环网络的数据包。当缓冲区中的数据包请求输出通道时会发生饥饿，这是因为输出通道始终分配给另一个数据包而被阻塞。

在拥塞无关的算法中，路由决策与网络的拥塞程度无关。由于不考虑网络状态，此类策略可能会导致网络负载不均衡，而拥塞可能会显著增加数据包的服务时间。在拥塞感知的算法中，通常使用网络的拥塞状态来执行决策。大多数拥塞感知算法都考虑局部的流量状况，每个路由器分析其自身和相邻路由器的拥塞状况以选择输出信道。基于局部拥塞信息的路由决策仍然会导致流量负载的分布不均衡。

GAL[5]自适应地感知全局拥塞并缓解GOAL在最好情况下的性能牺牲问题。与用于环状拓扑网络的其他路由算法相比，GAL是一种提供优化最坏情况和最好情况性能的路由算法。

UGAL[6]适用于任何常规拓扑上的通用路由方案。UGAL在不牺牲最好情况任何性能的前提下，可以提供优化的最好情况。基于UGAL，已经提出了对它的两种修改方案[4]。UGAL_VC-H增加了选择性虚拟信道辨别，以消除由最小路径和非最小路径之间的本地信道共享而导致的带宽降级。虽然UGAL_CR使用信用往返延迟来感测全局信道拥塞程度，并且在上游传播该拥塞信息，通过更强的背压来消除降级的延迟，而不是通过提供队列占用比来进行拥塞感知。

EDXY[7]方法的引入，使得其中路由器的拥塞信息通过单独的线路传播到其行和列结点。当数据包距离目的地仅为一行或一列时，才使用这些线路提供的非局部信息。区域拥塞感知(RCA)方法[8]在路由决策中利用非局部拥塞信息。在RCA中，为了提供全局拥塞信息，将局部计算的路由器拥塞度与从下游路由器传播的全局信号组合，并将新聚合的值发送到上游路由器。

S.Z.Sleeba等人[9]提出了一种自适应路由机制，它可以在基于偏转路由器的网格片上网络中提供更均衡的流量分布。大量偏转的数据分片被重新规划路由，朝向网格的边缘或角落，从而减少了中央区域的路由器负载。

上述所有的路由机制和路由算法，无论是拥塞无关路由算法还是拥塞感知路由算法，都逐步优化了片上网络在路由方面的性能。但这些策略要么只关注其他拓扑结构的负载均衡自适应路由算法，要么只关注对蜻蜓状结构片上网络的时延和吞吐量问题，都没有对蜻蜓状结构的片上网络进行功耗方面的讨论与分析。

[1]L.Benini,and G.D.Micheli,“Networks on chips:A new SoC paradigm,”computer35.1,2002,pp.70-78.

[2]P.P.Pande,C.Grecu,M.Jones,A.Ivanov,and R.Saleh,“Performanceevaluation and design trade-offs for network-on-chip interconnectarchitectures,”in IEEE Transactions on Computers,vol.54,no.8,2005,pp.1025-1040.

[3]J.Kim,W.J.Dally,and D.Abts,“Flattened Butterfly:A Cost-EfficientTopology for High-Radix Networks,”in Proc.of the International Symposium onComputer Architecture(ISCA),San Diego,CA,2007,pp.126–137.

[4]J.Kim,W.J.Dally,S.Scott,and D.Abts,“Technology-Driven,Highly-Scalable Dragonfly Topology,”2008International Symposium on ComputerArchitecture,Beijing,2008,pp.77-88.

[5]A.Singh,W.J.Dally,B.Towles,and A.K.Gupta,“Globally adaptive load-balanced routing on tori,”Computer Architecture Letters,3,March 2004.

[6]A.Singh and W.J.Dally,“Universal globally adaptive loadbalancedrouting,”In Concurrent VLSI Architecture(CVA)Technical Report,January 2005.

[7]P.Lotfi-Kamran,A.M.Rahmani,M.Daneshtalab,A.Afzali-Kusha,andZ.Navabi,“EDXY-A low cost congestion-aware routing algorithm for network-on-chips,”Journal of Systems Architecture,v.56,I.7,2010,pp.256-264.

[8]P.Gratz,B.Grot,and S.W.Keckler,“Regional Congestion Awareness forLoad Balance in Networks-on-Chip,”in proceedings of HPCA,pp.203-214,2008.

[9]S.Z.Sleeba,J.Jose,M.Palesi,R.K.James and M.G.Mini,“Traffic AwareDeflection Rerouting Mechanism for Mesh Network on Chip,”2018IFIP/IEEEInternational Conference on Very Large Scale Integration(VLSI-SoC),Verona,Italy,2018,pp.25-30.

发明内容

本发明是针对片上网络系统(NoC)的蜻蜓状拓扑结构中从源结点到目的结点存在显著功耗以及额外跳数的问题，提出了一种功率感知的动态自适应片上网络阈值路由方法，通过采用自适应阈值及其对应的动态阈值步长来预测片上网络的负载状况。通过应用两个可以控制路由选择的变量，来实现避免不必要的非最小路由选择从而降低额外的功耗开销。

本发明的技术方案为：一种功率感知的动态自适应片上网络阈值路由方法，具体包括如下步骤：

1)初始化蜻蜓状拓扑结构的基本设置，接着初始化自适应阈值AT、阈值步长step、自适应阈值的上界和下界，设置的自适应阈值AT设定范围为[0,max(Length_qnm)]，max(Length_qnm)为非最小路由队列长度的最大值；

2)当出现从源结点S到目的结点D的传输请求时，首先根据全局等候队列的长度以及历史跳数计算步长step的值,以分析全局网络的拥塞程度，如果最小队列q_m的长度大于非最小队列q_nm与自适应阈值的和，则选择最小路由，若此时自适应阈值AT未达到上界upper，则自适应阈值AT将增加一个步长的值，如果AT达到上界upper，则AT保持不变；同理，如果最小队列q_m的长度小于非最小队列q_nm与自适应阈值AT的和，则选择非最小路由，若此时自适应阈值AT未达到下界lower，则自适应阈值AT将减去一个步长的值，如果AT达到下界lower，则AT保持不变；上述判断和操作完毕后，将等待新的路由请求，再循环计算步长step，下一轮的路由选择将重复以上的相应步骤；

变量动态阈值step定义为：

step＝w₁f₁(q_m,q_nm)+w₂f₂(h_m,h_nm) (1)

在公式(1)中，w_i是对应f_i函数的权重值，i＝1、2，函数f₁(q_m,q_nm)根据最小路由队列q_m和非最小路由队列q_nm计算全局队列长度；函数f₂(h_m,h_nm)根据最小路由历史跳数h_m和非最小路由历史跳数h_nm计算历史跳数。

本发明的有益效果在于：本发明功率感知的动态自适应片上网络阈值路由方法，通过采用自适应阈值变量，实现按需选用非最小路由路径，可以克服传统算法选用多个非最小路由路径所产生的大量的额外能耗；引用阈值步长变量，可以根据全局网络的情况进行动态调整，以便控制阈值改变的幅度和速度；为蜻蜓状片上网络拓扑结构的开发及应用提供了合理的路由选择算法。

附图说明

图1为蜻蜓状的网络基数与网络规模的关系图；

图2为本发明最小路由的示例图；

图3为本发明非最小路由的示例图；

图4为本发明功率感知的动态自适应片上网络阈值路由算法流程图。

具体实施方式

为了在不同流量模式上实现优越的性能，蜻蜓状拓扑结构需要设计特定的路由算法。自适应负载均衡路由算法(UGAL)被提出来解决片上网络系统(NoC)的蜻蜓状拓扑结构中从源结点到目的结点存在显著功耗以及额外跳数问题，并提出了该算法的两种变型算法UGAL_VC-H和UGAL_CR来克服延迟和吞吐量的限制。该算法主要采用了全局信息来实现负载均衡。然而该类算法对于功耗方面的开销并没有纳入考虑中。当算法过多选用非最小路由时，会引起大量的额外能耗。基于UGAL-L_VC-H路由算法，提出了一种全新的功率感知的动态自适应片上网络阈值路由算法(DATRA)，通过采用自适应阈值变量，来实现只在需要的时候才选用非最小路由。为了确保算法更准确的选择，该算法还应用了另一个变量阈值步长，来动态地对自适应阈值进行调整。阈值步长将根据全局网络的情况而改变，以便控制阈值改变的幅度和速度。

为了保持负载均衡的特性，并且尽可能降低功耗，提出一种功率感知的动态自适应片上网络阈值路由算法作为功率感知的路由算法，引用了UGAL-L_VC-H路由算法中最小路由以及非最小路由因素，并增加了动态阈值调整机制以使得本发明算法能够更加智能地选择合适的路由路径。

最小路由：当蜻蜓状拓扑结构采用最小路由时，源结点S和目的结点D在不同组，那么当有数据从S发送到D时，只需要穿越一根全局信道即可完成数据传输。在源组中源结点S与路由器R_src相连，而在目的组中目的结点D与路由器R_dest相连。最小路由的示例如图2所示。

对于最小路由而言，当其做出路由决策时，如果R_src和R_dest在同一组中，则数据包或数据分片的传输将通过局部信道，并且规定跳数不超过3跳。相对而言，如果它们处于不同的组中，则最多也只需要使用到一个全局信道即可。如果目的组的全局信道正好连接在R_src路由器端口上，则2至3跳就可以完成数据传输(如图2所示，每根带箭头的曲线是1跳)。最差的情况是路由器R_src无法直接到达目的组，并且需要通过中继路由器R_src’(图2中R_dest’为目的结点所在组的中继路由器)才能到达路由器R_dest，这种情况最多需要4跳来完成数据传输。算法1展示了最小路由的伪代码实现。

程序首先获取源结点路由器R_src，目的结点路由器R_dest，源结点所在组G_src，以及目的结点所在组G_dest。然后，判断R_src和R_dest是否在同一组。如果在同一个组，即G_src＝G_dest，那么直接通过本地信道进行数据传输；当R_src和R_dest不在同一组，即G_src≠G_dest时，再根据后续步骤来判断。接着，判断源结点路由器R_src的全局信道gc是否连接到目的组G_dest。如果该信道R_{src_gc}∈GC(G_dest)，则通过该全局信道gc将数据传输到G_dest中的目的路由器R_dest或目的中继路由器R_dest’；若是目的中继路由器R_dest’接收数据，则还需要再通过一次本地信道传输才能到达目的结点。如果信道时，则需要先找到能通往目的组全局信道的源中继路由器R_src’，然后步骤同上。需要通过R_src’将数据传输到目的组G_dest；若同样是目的中继路由器R_dest’接收数据，则还需要再通过一次本地信道传输才能到达目的结点。

非最小路由：最小路由可以实现在不同注入率下获得稳定的最小平均跳数，对于n＝4的网络(n是单个路由器所连知识产权核的数量)而言平均可达3.69跳，对于n＝8的网络而言平均可达3.86跳。然而，它是一种不考虑拥塞的路由，这意味着如果在恶性循环中遇到流量拥堵，则会造成严重的拥塞问题。因此具有拥塞感知策略的非最小路由对于网络负载均衡来说极为重要。如果没有自适应负载均衡的方法，一旦注入率上升，则将会导致数据包或数据片的严重拥堵。

非最小路由的基本思想是找到一个可用的中继组，通过该组R_i到达其最终目的结点D。将非最小路由算法应用于组间的数据传输，可以平衡全局和局部信道上的负载。非最小路由中最多需要使用两个全局通道。非最小路由的示例如图3所示。

非最小路由的路由决策在只使用局部信道时与最小路由相同。当数据传输需要全局信道时，中继组中的中继路由器是必不可少的。通过这类虚拟通道，非最小路由可以确保它是一个负载均衡且无死锁的路由机制。算法2中展示了非最小路由的伪代码实现。虽然非最小路由机制可以在一定程度上解决拥塞问题，但是当频繁使用该机制时，将会有额外的功耗和更高的平均跳数。

程序首先获取源结点路由器R_src，目的结点路由器R_dest，源结点所在组G_src，以及目的结点所在组G_dest。其次判断R_src和R_dest是否在同一组，如果在同一个组中，即G_src＝G_dest，那么可以直接通过本地信道进行数据传输；当R_src和R_dest不在同一组，即G_src≠G_dest时，再根据后续步骤来判断。接着，判断源结点路由器R_src的全局信道gc是否连接到目的组G_dest。如果该信道R_{src_gc}∈GC(G_dest)，则通过该全局信道将数据传输到G_dest中的目的路由器R_dest或目的中继路由器R_dest’，若是目的中继路由器R_dest’接收数据，则还需要再通过一次本地信道传输才能到达目的结点。如果信道

时，通过全局信道找到中继组G_i，中继组中的中继路由器R_i’再决定是通过全局信道直接发送给G_dest，还是通过中继组中其他路由器R_i转发给G_dest。

DATRA：为了克服吞吐量的限制，UGAL-L_VC-H被提出了。它是一种基于自适应负载均衡路由算法(UGAL)的路由算法。对于路由决策，当最小路由的路径与非最小路由的路径始于相同的输出端口时，它将缓冲队列分为了最小路由队列和非最小路由队列这两种。

因此，为了克服功耗限制，提出了功率感知的动态自适应片上网络阈值路由算法(DATRA)。该算法的目标是为了消除那些选择了非最小路由的不必要决策，并在必要时才选择非最小路由。在该算法中，新引入了自适应阈值机制。它可以根据之前做出的决策，选择增加或减去“步长”，因而达到自行调整阈值的目的。因此，它依赖于先前决策中的先验知识，为之后的决策做出更明智的选择。此外，不仅自适应阈值是可以动态调整的，用于调整自身的阈值步长也是动态调整的。

变量动态阈值步长step的定义由如下公式(1)所示：

step＝w₁f₁(q_m,q_nm)+w₂f₂(h_m,h_nm) (1)

在公式(1)中，w_i是对应f_i函数的权重值(i＝1，2)，

函数f₁(q_m,q_nm)根据最小路由队列q_m和非最小路由队列q_nm计算全局队列长度。函数f₂(h_m,h_nm)考虑最小路由历史跳数h_m和非最小路由历史跳数h_nm。通过双重动态机制，动态阈值和动态阈值步长，功率感知的动态自适应片上网络阈值路由算法可以为低功耗的路由做出更明智的决策。

UGAL-L_VC-H路由算法没有对功率或能耗进行比较。仅关注吞吐量和延迟问题。但是过多的非最小路由“绕行”行为会导致严重的功耗问题。因此，有必要提出一种避免不必要的“绕行”方法。

功率感知的动态自适应片上网络阈值路由算法的整个过程如图4所示。流程图中的缩写AT代表了自适应阈值。最先初始化蜻蜓状拓扑结构的基本设置，接着初始化自适应阈值AT和阈值步长step(初始化阈值步长step设置为零)。自适应阈值的上界和下界都是静态值，因此应该适当设置，本发明设置的自适应阈值AT最大不超过非最小路由队列的最大值，即其范围在[0,max(Length_qnm)]。阈值步长step也有自己的上界和下界，根据公式(1)，本发明设定的w₁f₁的范围在[0,1]，w₂f₂的范围在[0,1]，因此step的范围在[0,2]，并向下取整。控制step的值是为了防止AT变化过快。

当出现从源结点S到目的结点D的传输请求时，首先根据全局等候队列的长度以及历史跳数计算阈值步长step的值(参见公式(1)),以分析整体网络的拥塞程度。经过计算，如果最小队列q_m的长度大于非最小队列q_nm与自适应阈值的和，则选择最小路由，并且若自适应阈值AT未达到上界upper，则自适应阈值AT将增加一个步长的值，如果AT达到上界upper，则AT保持不变，保证其值不会无限增大。同理，如果最小队列q_m的长度小于非最小队列q_nm与自适应阈值AT的和，这意味着不得不使用非最小路由，因而选择非最小路由，并且若自适应阈值AT未达到下界lower，则自适应阈值AT将减去一个步长的值，如果AT达到下界lower，则AT保持不变，保证其值不会无限减小。上述判断和操作完毕后，将等待新的路由请求，再进行步长step计算，下一轮的路由选择将重复以上的相应步骤。

本发明提出了对应的评估模型，该模型主要关注路由算法的功耗、延迟、负载均衡度、平均跳数。通过实验证明，和UGAL-L_VC-H路由算法相比，功率感知的动态自适应片上网络阈值路由算法在功率延时积上分别平均可以节省6.53％(n＝4)以及5.93％(n＝8)。此外，功率感知的动态自适应片上网络阈值路由算法还可以减少平均跳数。

Claims (1)

1.一种功率感知的动态自适应片上网络阈值路由方法，其特征在于，具体包括如下步骤：

1)初始化蜻蜓状拓扑结构的基本设置，接着初始化自适应阈值AT、阈值步长step、自适应阈值的上界和下界，设置的自适应阈值AT设定范围为[0,max(Length_qnm)]，max(Length_qnm)为非最小路由队列长度的最大值；

2)当出现从源结点S到目的结点D的传输请求时，首先根据全局等候队列的长度以及历史跳数计算步长step的值,以分析全局网络的拥塞程度，如果最小队列q_m的长度大于非最小队列q_nm与自适应阈值的和，则选择最小路由，若此时自适应阈值AT未达到上界upper，则自适应阈值AT将增加一个步长的值，如果AT达到上界upper，则AT保持不变；同理，如果最小队列q_m的长度小于非最小队列q_nm与自适应阈值AT的和，则选择非最小路由，若此时自适应阈值AT未达到下界lower，则自适应阈值AT将减去一个步长的值，如果AT达到下界lower，则AT保持不变；上述判断和操作完毕后，将等待新的路由请求，再循环计算步长step，下一轮的路由选择将重复以上的相应步骤；

变量动态阈值step定义为：

step＝w₁f₁(q_m,q_nm)+w₂f₂(h_m,h_nm) (1)

在公式(1)中，w_i是对应f_i函数的权重值，i＝1、2，

函数f₁(q_m,q_nm)根据最小路由队列q_m和非最小路由队列q_nm计算全局队列长度；函数f₂(h_m,h_nm)根据最小路由历史跳数h_m和非最小路由历史跳数h_nm计算历史跳数。

Images