CN110061927B - 一种多队列数据中心环境中面向微突发流的拥塞感知与标记方法 - Google Patents

Abstract

本发明公开了一种多队列数据中心环境中基于显示拥塞通知(ECN)的标记方法，主要解决传统ECN无法感知微突发流、无法适应动态网络的问题。本发明主要包含三个部分，分别是ECN阈值下界计算、阈值基值设置和阈值动态调整。本发明首先针对多队列数据中心环境下微突发流的产生和传输过程进行稳态分析，为每一个交换队列求解出ECN阈值的下界，保证交换机队列缓冲区能够有效地吸收微突发流。然后基于理想的Generic Packet Schedule(GPS)模型，对ECN阈值下界进行调整并为每个队列设置阈值基值，保证交换队列的入队速率和出队速率平衡，最后，基于提高网络吞吐量的目标，针对交换机内存资源建立队列缓冲区最大化利用的优化模型，提出ECN阈值动态调整算法。

Description

一种多队列数据中心环境中面向微突发流的拥塞感知与标记 方法

技术领域

本发明涉及一种方法，具体涉及一种多队列数据中心环境中面向微突发流的拥塞感知与标记方法，属于计算机网络技术领域。

背景技术

近几年，云计算技术的飞速发展得到了工业界和学术界的广泛关注，互联网巨头公司分别推出了云计算服务。数据中心作为大规模云计算服务所依赖的核心基础设施，提供海量计算和存储资源的同时，承载着云计算服务产生和形成的大规模网络流量。特别地，随着数据中心业务规模的高速扩张，数据中心网络(Data Center Networking,DCN)流量从传统的“南北流量”为主演变为数据中心内部的“东西流量”为主，对数据中心内部的网络带宽资源的竞争不可避免，使得数据中心网络的拥塞问题日益严重，链路丢包、网络延迟、网络抖动等现象频发，数据中心网络吞吐量急剧降低。因此，作为数据中心管理者，针对数据中心内的网络流量，往往需要通过特定的拥塞控制机制，保障数据中心网络的高吞吐，实现数据中心网络带宽资源的充分利用。目前，针对传统的数据中心云计算服务产生的网络流量模式，如大流(大于10MB的网络传输)、小流(小于100KB的网络传输)等，数据中心大多采用DCTCP协议作为传输控制协议。跟传统的TCP协议只能够通过丢包信息来感知拥塞(即端设备无法掌握网络链路的具体状态)不同，DCTCP协议的核心是ECN(显示拥塞通知)机制。

随着数据中心网络的不断发展和相关技术的持续演变，数据中心网络流量正产生新的特点，近些年研究者发现了一种新的流量模式——微突发流。与传统的云计算服务执行带来的流量模式不同，只有把时间粒度缩小到微秒级别才可以观测到微突发流，如图1所示。根据分析，数据中心广泛采用的LSO(Large Segment Offload)技术是微突发流产生的主要原因之一，该技术为降低CPU发送数据包负载，将原本连续不断的数据包发送过程变为数据包累积延迟发送，使得每次发送的数据包都过于庞大(约64KB)，由此引发微突发流。微突发流的出现可造成数据中心交换机缓冲瞬时的溢出，在极短的时间内造成拥塞，使得数据中心网络吞吐量的急剧下降。为此,需要通过改进数据中心广泛支持的ECN机制,实现微突发流的拥塞感知与标记，从而保障数据中心网络的高吞吐。虽然目前的ECN机制可以一定程度地提升数据中心网络的吞吐性能，但是在面向微突发流的数据中心环境中，现有的ECN机制在拥塞感知和拥塞标记等方面，仍然存在一定局限性：传统ECN拥塞感知机制无法感知微突发流且无法直接应用于多队列交换机。由于LSO技术的存在，一个大数据包的到来在极短时间内占满交换机队列，甚至溢出，瞬时队列长度就会超过ECN标记阈值，这将会使得一些队首数据包被打上错误的拥塞信息，进而导致发送方降低发送速率。一段时间内没有数据包的到来，导致交换机队列中的数据包被慢慢消耗完，直至队列为空。那么在空队列的这段时间内，交换机处于空闲状态，意味着网络带宽的利用率很低，造成网络资源的浪费。同时，随着交换机队列调度研究的不断发展以及工业制造技术的日渐成熟，多队列商用交换机已逐步取代单队列交换机。目前绝大多数商用交换机已经支持多队列调度机制，其报文转发的性能较单队列交换机有大幅提升。传统的ECN机制是针对单队列交换机环境所提出，直接将传统ECN复用于多队列交换机环境下会造成网络性能的下降。因此，迫切的需要一种新的方案解决上述技术问题。

发明内容

本发明正是针对目前传统ECN无法感知微突发流、无法适应动态网络的问题，提出了多队列数据中心环境下面向微突发流的拥塞感知与标记方法，由于交换机队列长度的变化呈现有规律的振荡，且通过稳态分析可将动态不确定的网络传输过程建模成稳定可控的传输过程，该方法拟利用稳态分析，分析如何通过设定有效的ECN阈值K，使得交换机能够适应微突发流的出现，避免大量的错误拥塞信息的产生，提升网络吞吐量。

为了实现上述目的，本发明的技术方案如下，一种多队列数据中心环境中面向微突发流的拥塞感知与标记方法，所述方法包括以下步骤：

步骤一：以数据中心为背景，对多队列交换机环境下微突发流的产生与传输过程进行建模，采用稳态分析的方法，对微突发流的最大值进行理论分析，推导出ECN阈值的下界，保证队列缓冲区能够吸收微突发流的到达；

步骤二：为了保证多队列环境下，交换机队列出队速率与入队速率的一致，减少速率不匹配带来的网络拥塞，基于GPS模型并以步骤一得出的ECN阈值下界为标准，求解出适应于多队列环境并且能够吸收微突发流到达的ECN阈值基值；

步骤三：基于步骤二求解得出的ECN阈值基值，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，优化目标为最大化交换机链路的吞吐量。为了能够适应微秒级别微突发流的出现，将会在采用一种高效的启发式算法进行阈值的动态调整，并且每轮队列调度结束之后进行ECN标记阈值的调整。

作为本发明的一种改进，所述步骤一具体如下：针对微突发流建立行为模型，包括微突发流在传输层的产生、微突发流在传输层的缓存封装、微突发流在网卡处的切片发送；通过稳态分析的方式推导出微突发流到达多队列交换机时的最大队列长度q_max(t)和最小队列长度q_min(t)；针对不同的拥塞控制算法，为每一个队列j,求出能够避免微突发流引起ECN误标记的ECN阈值范围，得出每个队列ECN阈值的下界

作为本发明的一种改进，所述步骤二中对于ECN阈值基值的计算是以步骤一得出的下界值

为标准，基于理想的GPS模型对

进行微调，以达到交换机入队速率与出队速率之间的匹配，实际生产环境中，基值的计算过程是以部署在多队列交换机中的带权轮询调度机制(WRR)为基础，按队列权重进行计算。

作为本发明的一种改进，所述步骤二中，吸收微突发流的ECN阈值基值计算，包括以下步骤：

21)以步骤一求出的ECN阈值范围为基础，为了保证尽可能低地减少队列延迟，取下界

作为ECN阈值设定标准；

22)以求出的

为基础，基于理想的GPS模型,为每一个队列j,求解出能够吸收多队列交换机下微突发流的最佳ECN阈值基值

具体模型如下：

其中K_port表示端口ECN阈值，θ_j表示队列j的标准化权重。

作为本发明的一种改进，所述步骤三中以

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列阈值能够时刻与端口阈值匹配。同时，为了能够切实的应用于实际生产环境，采用一种基于队列占有量的高效启发式算法求解该模型。

作为本发明的一种改进，所述步骤三具体如下：

31)以步骤二得到的

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列阈值能够时刻与端口阈值匹配，具体模型如下：

K_i为队列i的当前ECN阈值。

32)为了保证动态调整模块能够在sub-RTT的时间粒度之内进行有效的计算与调整，采用一种启发式算法进行上述模型的求解。

相对于现有技术，本发明具有如下优点，1)该技术方案中多队列数据中心环境中面向微突发流的拥塞感知与标记方法能够保证广泛使用的ECN机制能够应对微突发流造成的网络吞吐量下降的问题，通过对微突发流的行为模型的有效分析，能够保证交换机队列可以有效的吸收微突发流的到达，减少ECN误标记的产生，避免发送方对于拥塞的错误判断，进而保障了数据中心网络的高吞吐；2)该方案启发式阈值动态调整算法是针对于多队列交换机的性能需求提出的，能够更加高效的完成模型的计算工作，保证了算法在高性能交换机中高效且易于部署。

附图说明

图1为本发明所述的微突发流现象示意图；

图2为本发明基于层次网络拓扑的数据中心示意图；

图3为本发明所述的多队列数据中心环境中面向微突发流的拥塞感知与标记方法的模块间逻辑关系图；

图4为本发明所使用的稳态分析模型拓扑示意图。

具体实施方式：

为了加深对本发明的理解，下面结合附图对本实施例做详细的说明。

实施例1：如图1所示，一种多队列数据中心环境中面向微突发流的拥塞感知与标记方法，所述方法包括以下步骤：

步骤一：以数据中心为背景，对多队列交换机环境下微突发流的产生与传输过程进行建模，采用稳态分析的方法，对微突发流的最大值进行理论分析，推导出ECN阈值的下界，保证队列缓冲区能够吸收微突发流的到达；

步骤二：为了保证多队列环境下，交换机队列出队速率与入队速率的一致，减少速率不匹配带来的网络拥塞，基于GPS模型并以步骤一得出的ECN阈值下界为标准，求解出适应于多队列环境并且能够吸收微突发流到达的ECN阈值基值；

步骤三：基于步骤二求解得出的ECN阈值基值，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，优化目标为最大化交换机链路的吞吐量。为了能够适应微秒级别微突发流的出现，将会在采用一种高效的启发式算法进行阈值的动态调整，并且每轮队列调度结束之后进行ECN标记阈值的调整。

所述步骤一具体如下：针对微突发流建立行为模型，包括微突发流在传输层的产生、微突发流在传输层的缓存封装、微突发流在网卡处的切片发送；

通过稳态分析的方式推导出微突发流到达多队列交换机时的最大队列长度q_max(t)和最小队列长度q_min(t)；针对不同的拥塞控制算法，为每一个队列j,求出能够避免微突发流引起ECN误标记的ECN阈值范围，得出每个队列ECN阈值的下界

所述步骤二中对于ECN阈值基值的计算是以步骤一得出的下界值

为标准，基于理想的GPS模型对

进行微调，以达到交换机入队速率与出队速率之间的匹配，实际生产环境中，基值的计算过程是以部署在多队列交换机中的带权轮询调度机制(WRR)为基础，按队列权重进行计算。

所述步骤二中，吸收微突发流的ECN阈值基值计算，包括以下步骤：

21)以步骤一求出的ECN阈值范围为基础，为了保证尽可能低地减少队列延迟，取下界

作为ECN阈值设定标准；

22)以求出的

为基础，基于理想的GPS模型,为每一个队列j,求解出能够吸收多队列交换机下微突发流的最佳ECN阈值基值

具体模型如下：

其中K_port表示端口ECN阈值，θ_j表示队列j的标准化权重。

所述步骤三中以

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列阈值能够时刻与端口阈值匹配。同时，为了能够切实的应用于实际生产环境，采用一种基于队列占有量的高效启发式算法求解该模型。

所述步骤三具体如下：

31)以步骤二得到的

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列阈值能够时刻与端口阈值匹配，具体模型如下：

K_i为队列i的当前ECN阈值。

32)为了保证动态调整模块能够在sub-RTT的时间粒度之内进行有效的计算与调整，采用一种启发式算法进行上述模型的求解。

应用实施例：本发明在具有层次网络拓扑结构的多队列数据中心环境下运行，如图2所示。该云计算环境分为节点、汇聚层多队列交换机和多队列核心交换机三层。微突发流现象产生于节点，并在交换机处造成ECN误标记问题。本发明部署在交换机的控制模块上，如图3所示。数据通过接口模块进入交换机，存储于转发模块的缓存中。控制模块中的ECN阈值计算模块和动态调整模块会持续地针对当前交换机中存在的网络流数据量进行ECN阈值迭代计算。其中，ECN基值计算模块将会在一次队列轮询之后根据当前交换机中的网络流数量从新计算ECN基值，ECN阈值动态调整模块将会在一次队列调度之后，以阈值基值为基础，调整当前队列阈值。当存储于缓存中的数据包即将被发送之前，交换机会根据部署其中的拥塞控制算法和当前队列阈值判断该数据包是否需要被ECN标记，需要被标记的数据包会在控制模块中进行标记，不需要标记的数据包被直接转发。

本发明中的ECN阈值计算和动态调整，具体实现包括以下三个部分,公式中的符号意义如表1所示：

表1：符号列表

步骤一：为基于微突发流行为模型的ECN阈值下界计算，本发明基于图4所示的拓扑结构，建立微突发流行为模型，通过稳态分析方式进行模型推导，具体实施方式如下：

11)获取交换机中网络流数量N；

12)针对不同的端设备拥塞控制算法，进行ECN阈值下界的计算：

1)当端设备部署DCTCP拥塞控制算法，每个队列j的ECN阈值下界，

计算方式如下：

·若

·若

2)当端设备部署ECN*拥塞控制算法，每个队列j的ECN阈值下界

计算方式如下：

步骤二：为ECN阈值基值计算，具体实施方式如下：21).以求出的

为基础，综合考虑到交换机入队速率与出队速率之间的平衡，基于理想的GPS模型,为每一个队列j,求解出能够吸收多队列交换机下微突发流的最佳ECN阈值基值

具体模型如下：

其中K_port表示端口ECN阈值；

22)通过如下方式进行模型计算：

·当

·当

步骤三：为ECN阈值动态调整，具体实施方式如下：

31)以步骤二得到的

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列阈值能够时刻与端口阈值匹配。具体模型如下：

32)为了保证动态调整模块能够在sub-RTT的时间粒度之内进行有效的计算与调整，采用一种启发式算法进行上述模型的求解。具体算法如下：

1)为每个队列j，计算其剩余缓冲区容量

·如果

·如果

其中q_j为队列j的当前队列长度，K_j为队列j的当前ECN阈值。

2)为每个队列j，计算其溢出缓冲区容量

·如果

·如果

其中q_j为队列j的当前队列长度，K_j为队列j的当前ECN阈值。

3)为每个队列j，计算其新的ECN阈值

·当q_j＞K_j，并且∑q_j≥K_port

·当q_j≤K_j，并且∑q_j≥K_port，

·当q_j＞K_j，并且∑q_j＜K_port，

·当q_j≤K_j，并且∑q_j＜K_port，

需要说明的是上述实施例，并非用来限定本发明的保护范围，在上述技术方案的基础上所作出的等同变换或替代均落入本发明权利要求所保护的范围。

Claims (2)

1.一种多队列数据中心环境中面向微突发流的拥塞感知与标记方法，其特征在于，所述方法包括以下步骤：

步骤一：以数据中心为背景，对多队列交换机环境下微突发流的产生与传输过程进行建模，采用稳态分析的方法，对微突发流的最大值进行理论推导出ECN阈值的下界，保证队列缓冲区能够吸收微突发流的到达；

步骤二：基于GPS模型并以步骤一得出的ECN阈值下界为标准，求解出适应于多队列环境并且能够吸收微突发流到达的ECN阈值基值；

步骤三：基于步骤二求解得出的ECN阈值基值，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，优化目标为最大化交换机链路的吞吐量；

所述步骤一具体如下：针对微突发流建立行为模型，包括微突发流在传输层的产生、微突发流在传输层的缓存封装、微突发流在网卡处的切片发送；通过稳态分析的方式推导出微突发流到达多队列交换机时的最大队列长度q_max(t)和最小队列长度q_min(t)；针对端设备部署DCTCP拥塞控制算法和端设备部署ECN*拥塞控制算法，为每一个队列j,求出能够避免微突发流引起ECN误标记的ECN阈值范围，得出每个队列ECN阈值的下界

所述步骤二中对于ECN阈值基值的计算是以步骤一得出的下界值

为标准，基于理想的GPS模型对

进行微调，以达到交换机入队速率与出队速率之间的匹配；

所述步骤二中，吸收微突发流的ECN阈值基值计算，包括以下步骤：

21)以步骤一求出的ECN阈值范围为基础，取下界

作为ECN阈值设定标准；

22)以求出的

为基础，基于理想的GPS模型,为每一个队列j,求解出能够吸收多队列交换机下微突发流的最佳ECN阈值基值

具体模型如下：

其中K_port表示端口ECN阈值，θ_j表示队列j的标准化权重；

所述步骤三具体如下：

31)以步骤二得到的

为基础，综合考虑适应动态的数据中心网络状态，以交换机当前队列长度q_j为感知参数，以所有队列缓冲区使用率之和为目标变量，建立自适应动态调整优化模型，该优化模型的约束条件为保证队列ECN阈值能够时刻与端口ECN阈值匹配，具体模型如下：

K_i为队列i的当前ECN阈值。

2.根据权利要求1所述的多队列数据中心环境中面向微突发流的拥塞感知与标记方法，其特征在于，所述步骤三还包括以下步骤：

32)为了保证动态调整模块能够在sub-RTT的时间粒度之内进行有效的计算与调整，采用一种启发式算法进行上述模型的求解；

具体算法如下：

1)为每个队列j，计算其剩余缓冲区容量

·如果q_j≥K_j，

·如果q_j＜K_j，

其中q_j为队列j的当前队列长度，K_j为队列j的当前ECN阈值；

2)为每个队列j，计算其溢出缓冲区容量

·如果q_j≥K_j，

·如果q_j＜K_j，

其中q_j为队列j的当前队列长度，K_j为队列j的当前ECN阈值；

3)为每个队列j，计算其新的ECN阈值

·当q_j＞K_j，并且∑q_j≥K_port，

·当q_j≤K_j，并且∑q_j≥K_port，

·当q_j＞K_j，并且∑q_j＜K_port，

·当q_j≤K_j，并且∑q_j＜K_port，

Images