CN103200043A - 一种时变非平稳网络流量测量方法 - Google Patents

一种时变非平稳网络流量测量方法 Download PDF

Info

Publication number
CN103200043A
CN103200043A CN2013100825974A CN201310082597A CN103200043A CN 103200043 A CN103200043 A CN 103200043A CN 2013100825974 A CN2013100825974 A CN 2013100825974A CN 201310082597 A CN201310082597 A CN 201310082597A CN 103200043 A CN103200043 A CN 103200043A
Authority
CN
China
Prior art keywords
matrix
network
flow
router
prime
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2013100825974A
Other languages
English (en)
Other versions
CN103200043B (zh
Inventor
蒋定德
聂来森
许争争
王文娟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeastern University China
Original Assignee
Northeastern University China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeastern University China filed Critical Northeastern University China
Priority to CN201310082597.4A priority Critical patent/CN103200043B/zh
Publication of CN103200043A publication Critical patent/CN103200043A/zh
Application granted granted Critical
Publication of CN103200043B publication Critical patent/CN103200043B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明一种时变非平稳网络流量测量方法,属于网络技术领域,本发明以奇异值分解历史流量得到正交基矩阵代替稀疏基,采用通过高斯随机矩阵构建新的网络层析成像模型的方式来描述源路由器到目的路由器的流量、路由的选择和链路负载之间的关系,使得端到端流量重构的高度病态问题可转化为可用压缩感知解决的凸优化问题,运用压缩感知重构算法可以精确地重构端到端流量;本发明方法重构出端到端流量,用来进行网络规划、路由规划、评估新路由协议的性能以及分析网络故障等网络操作。

Description

一种时变非平稳网络流量测量方法
技术领域
本发明是属于网络技术领域,具体涉及一种时变非平稳网络流量测量方法。
背景技术
流量矩阵是网络管理和流量工程中的重要输入参数,它表示网络中所有源-目的节点之间的流量需求分布情况,反映了通信网络中网络层的特性。然而,随着网络规模的不断扩大,由于网络设备缺乏主动配合,网络服务提供商处于商业秘密考虑,以及流量矩阵测量将占用额外的网络资源等原因,通过直接测量得到准确的流量矩阵变得非常困难。目前端到端网络流量的重构引起了研究人员的广泛关注,被网络操作员用来进行网络规划、路由规划、评估新路由协议的性能以及分析网络故障等网络操作中。
作为一项重要的技术,网络层析成像广泛应用于大规模IP骨干网中,其依据链路负载和路由矩阵重构端到端的网络流量,但该方法具有高度的病态特性和欠定性。因此,为了准确地获得端到端网络流量,提出了一些方法来克服这些特性。Y.Zhang等提出了用重力模型描述目前端到端流量的特性,通过获得额外的约束信息,以克服高度病态的问题;A.Lakhina等提出了主成分分析法直接测量并构建端到端流量重构模型;A.Soule等基于端到端流量的独立同分布泊松模型假设,提出迭代贝叶斯反演算法和扇出算法来重构端到端流量。这些方法通过对源-目的(OD)流建模或者测量部分OD流来重构端到端流量。然而,统计模型对流量矩阵的先验信息非常敏感。另外,随着当前通信网络规模的日益扩大,各种通信网络(3G和PSTN)和不同多媒体服务器(VoIP和P2P)也引入到通信网络中,一方面使得通信网络变得复杂多样,另一方面,对于这样复杂的网络,其流量不再服从泊松或高斯分布等简单的数学模型。因此,我们必须采取新的方法来解决欠定性的推理问题。
鉴于骨干网流量估计的病态特性和欠定性,仅仅由网络层析成像模型是不能准确估计流量矩阵的。而压缩感知重构算法是一种成熟的处理欠定性问题的技术。因此本发明联合奇异值分解技术与压缩感知技术来寻找欠定线性系统的最优解,以此精确重构出端到端网络流量。
实际上,受压缩感知中约束条件的限制,压缩感知重构算法不能直接用于求解网络层析成像问题。考虑到上述的难题,需要构造一个新的网络层析成像模型,使得该模型遵循压缩感知的约束条件。
发明内容
针对现有技术存在的问题,本发明提供一种时变非平稳网络流量测量方法,以达到利用随机高斯矩阵改变传统网络层析成像模型特性,通过对历史流量进行奇异值分解得到稀疏基,使其满足压缩感知的约束条件,并利用压缩感知重构算法精确重构端到端流量的目的。
一种时变非平稳网络流量测量方法,包括以下步骤:
步骤1、根据IP骨干网络中路由器个数和流量采集间隔时间,采用构建流量矩阵M的方式描述源路由器和目的路由器之间某一时刻流量情况,并采用奇异值分解的方式对源-目路由器的流量进行处理;
所述流量矩阵M的每一个行表示通过一个源-目的路由器的网络流量信息;所述流量矩阵M的每一个列表示某一时刻通过全部源-目的路由器的数据包数量;其中,所述的IP骨干网络中包含Q个路由器;流量矩阵M为一个N×P的矩阵,其中N=Q2,P为时间长度;
步骤2、通过路由器获取历史流量数据,并将该流量信息发送给网络管理站,管理站采用奇异值分解的方式对源-目路由器的历史流量进行处理;
步骤3、采用将历史流量矩阵主成分代替流量矩阵主成分的方式重新描述网络流量;
步骤4、采用通过高斯随机矩阵构建新的网络层析成像模型的方式来描述源路由器到目的路由器的流量、路由的选择和链路负载之间的关系,使其满足压缩感知的条件,方法为:
利用高斯随机矩阵G描述链路负载与流量矩阵M之间的随机汇聚关系:
GY = GA V ~ ′ Σ ~ U ~ T - - - ( 1 )
即可得:
L = GA V ~ ′ Σ ~ U ~ T = Ω V ~ ′ S = ΘS - - - ( 2 )
其中,Y、A分别为链路负载和路由矩阵;Y为一个Z×P的矩阵,上述Z为网络链路数量,其每一行元素描述了各条链路上的流量随时间变化情况,也就是描述了经过该链路的所有OD流的汇聚情况;A是一个Z×N的固定矩阵,OD流j流过链路i,其中i=1,...,Z,j=1,...,N,则A的元素Aij=1,否则Aij=0;L=GY为测量值;Ω=GA为测量矩阵;
Figure BDA00002917718000023
为变换系数;
Figure BDA00002917718000024
为提取主成分后的奇异值,
Figure BDA00002917718000025
Figure BDA00002917718000026
为与相应的特征流和主成分;Θ为感知矩阵;
上述公式(2)所构建的新的网络层析成像模型满足压缩感知条件;
步骤5、根据步骤4中所得新的网络层析成像模型,采用凸优化问题的解决方法重构源路由器与目的路由器之间的流量;
步骤6、采用IPFP算法校正步骤5中得到的源路由器与目的路由器之间的流量重构值,使其满足重构值与实际流量的误差值小于0.001;
步骤7、网络管理站根据获得的源路由器与目的路由器之间的网络流量信息,获得网络流量动态变化情况。
步骤1所述的采用奇异值分解的方式对源-目路由器的流量进行处理,方法为:
对上述流量矩阵M进行奇异值分解处理,并利用主成分分析法对其进行近似描述,如下所示
M T = UΣ V T ≈ M ~ T = U ~ Σ ~ V ~ T - - - ( 3 )
其中,MT为流量矩阵M的转置矩阵;
Figure BDA00002917718000032
为流量矩阵M的近似矩阵;为矩阵的转置矩阵;V为矩阵MTM的特征向量,其大小为N×N,N为OD流数;VT为矩阵V的转置矩阵;Σ表示流量矩阵M的奇异值,其大小为N×N;U为一个大小为P×N的矩阵,上述P为时刻。
步骤2所述的管理站采用奇异值分解的方式对源-目路由器的历史流量进行处理,方法为:
对历史流量矩阵M′进行奇异值分解处理,并利用主成分分析法对其进行近似描述,如下所示
M ′ T = U ′ Σ ′ V ′ T ≈ M ~ ′ T = U ~ ′ Σ ~ ′ V ~ ′ T - - - ( 4 )
其中,M′T为历史流量矩阵M′的转置矩阵;
Figure BDA00002917718000036
为历史流量矩阵M′的近似矩阵;为矩阵
Figure BDA00002917718000038
的转置矩阵;奇异值分解将矩阵M′T分为三个部分:V′称为成分空间或成分,为N×N的矩阵,N为OD流数,其每一列描述历史流量矩阵的各个成分;Σ′为一个对角矩阵,对角线上的值为流量矩阵M′的奇异值,其表示流量矩阵各个成分的能量大小;U′为特征流,为一个P×N的矩阵,上述P为时刻,其元素数值变化趋势描述了网络流量矩阵的变化情况,即其从各个成分角度反应了网络流量的变化趋势;
Figure BDA00002917718000039
为提取主成分后的奇异值,即将小的奇异值设置为0;
Figure BDA000029177180000310
反映了提取主成分后网络流量的变化趋势,
Figure BDA000029177180000311
为主成分。
步骤3所述的采用将历史流量矩阵主成分代替流量矩阵主成分的方式重新描述网络流量,方法为:
采用步骤2中根据历史流量情况所确定出的主成分
Figure BDA000029177180000312
代替
Figure BDA000029177180000314
M = V ~ ′ Σ ~ U ~ T - - - ( 5 ) .
步骤4所述的高斯随机矩阵G大小为C×Z,矩阵中每个元素gc,m都服从渐进正规分布N(0,Ο(C-1)),其中,c=1,...,C,m=1,...,Z,C=Ο(Klog(NK))为高斯矩阵的行数,Ο(Klog(NK))表示对Klog(NK)的等价无穷小,K为历史流量矩阵M′的秩,N为OD流数。
本发明优点:
本发明利用网络层析成像模型结合压缩感知技术来重构端到端流量,以奇异值分解历史流量得到正交基矩阵代替稀疏基,通过随机高斯矩阵同时乘以网络层析成像模型的两端,使得端到端流量重构的高度病态问题可转化为可用压缩感知解决的凸优化问题,运用压缩感知重构算法可以精确地重构端到端流量。利用本发明方法重构出端到端流量,用来进行网络规划、路由规划、评估新路由协议的性能以及分析网络故障等网络操作。
附图说明
图1为本发明实施例的时变非平稳网络流量测量方法流程图;
图2为本发明实施例的网络层析成像结构示意图;
图3为本发明实施例的网络层析成像模型的流程图;
图4为本发明实施例的端到端流量重构的流程图;
图5为本发明实施例的端到端流量重构值校正的流程图;
图6为本发明实施例的OD16和OD46在CS-OMP算法下的估计值与真实值的比较示意图;
图7为本发明实施例的OD80和OD101在CS-OMP算法下的估计值与真实值的比较示意图;
图8为本发明实施例在CS-OMP、SRSVD、Tomogravity和PCA算法下的相对均方根误差示意图;
图9为本发明实施例在CS-OMP、SRSVD、Tomogravity和PCA算法下的相对均方根误差的累积分布函数示意图;
图10为本发明实施例的估计结果偏离率示意图;
图11为本发明实施例的每一条OD流的偏离率相对于四种算法下的标准差示意图。
具体实施方式
下面结合附图对本发明一种实施例做进一步说明。
一种时变非平稳网络流量测量方法,流程图如图1所示,包括以下步骤:
本发明采用美国Abilene骨干网,Abilene骨干网主要用于科研教育,其具有12个结点,图2中router为路由器,30条内链路,24条外链路,144条端到端流量,仿真数据采用5min时间间隔,共计2016个时刻,其中链路流量Y已知,路由矩阵A已知,网络层析成像结构如图2所示。
构建新的网络层析成像模型方法如图3所示,即以下步骤1至步骤4所述内容。
步骤1、根据IP骨干网络中路由器个数和流量采集间隔时间,采用构建流量矩阵M的方式描述源路由器和目的路由器之间某一时刻流量情况,并采用奇异值分解的方式对源-目路由器的流量进行处理;
所述流量矩阵M的每一个行表示通过一个源-目的路由器的网络流量信息;所述流量矩阵M的每一个列表示某一时刻通过全部源-目的路由器的数据包数量;其中,所述的IP骨干网络中包含Q个路由器;流量矩阵M为一个N×P的矩阵,其中N=Q2,P为时间长度;
由于端到端流量矩阵本身并不稀疏,但是它具有一定的低维特性,即部分主成分可以描述流量矩阵的整体特性。利用这个特性,可以用奇异值分解和低秩近似得到一个正交基并使流量矩阵稀疏化。在本发明实施例中,选用的是美国Abilene骨干网一周的数据,其端到端的流量矩阵M大小为144×2016。
对大小为N×P的流量矩阵M,其SVD分解(奇异值分解)可表示为:
M T = UΣ V T = Σ r = 1 R σ r u r v r T - - - ( 6 )
其中,σr表示MT的奇异值,ur和vr分别是矩阵U和V的列;矩阵秩的大小为R,奇异值代表每个主成分
Figure BDA00002917718000056
的能量。
根据较大的奇异值对流量矩阵M做近似处理,
M T = M ~ T = U ~ Σ ~ V ~ T = Σ r = 1 D σ r u r v r T - - - ( 7 )
其中,稀疏度D<R,利用D=10个较大的奇异值近似表示流量矩阵M,并且矩阵的秩等于稀疏度D。
M T = U&Sigma; V T &ap; M ~ T = U ~ &Sigma; ~ V ~ T - - - ( 3 )
M = V ~ &Sigma; ~ U ~ T - - - ( 17 )
步骤2、通过运行路由器获取历史流量数据,并将该流量信息发送给网络管理站,管理站采用奇异值分解的方式对源-目路由器的历史流量进行处理;
即通过运行路由器上的NetFlow功能截取历史流量,并将该流量信息发送给网络管理站,管理站根据上述历史流量构建历史流量矩阵M′,并对上述历史流量矩阵M′进行奇异值分解处理,确定稀疏基
Figure BDA00002917718000061
截取前500个时刻的历史流量,历史流量矩阵M′大小为144×500,通过奇异值分解,我们构造一个稀疏基V′,并对历史流量矩阵M′做近似处理:
M &prime; T = U &prime; &Sigma; &prime; V &prime; T M &prime; T = &Sigma; r = 1 K &sigma; ~ r u ~ r v ~ r T = U ~ &prime; &Sigma; ~ &prime; V ~ &prime; T - - - ( 8 )
其中,历史流量矩阵M′的秩为K,K=10,即对角矩阵只有K个元素非0,
Figure BDA00002917718000064
的每一列都是K稀疏的;
Figure BDA00002917718000065
表示
Figure BDA00002917718000066
的奇异值,
Figure BDA00002917718000067
分别是矩阵
Figure BDA00002917718000069
Figure BDA000029177180000610
的列;
即截取历史流量并根据公式(4)确定出其中的稀疏基
Figure BDA000029177180000611
M &prime; T = U &prime; &Sigma; &prime; V &prime; T &ap; M ~ &prime; T = U ~ &prime; &Sigma; ~ &prime; V ~ &prime; T - - - ( 4 )
步骤3、采用将历史流量矩阵主成分代替流量矩阵主成分的方式重新描述网络流量;
即将步骤2中根据历史流量情况所确定出的稀疏基
Figure BDA000029177180000613
代替
Figure BDA000029177180000614
中的
Figure BDA000029177180000615
即得出:
M = V ~ &prime; &Sigma; ~ U ~ T - - - ( 5 )
步骤4、采用通过高斯随机矩阵构建新的网络层析成像模型的方式来描述源路由器到目的路由器的流量、路由的选择和链路负载之间的关系,使其满足压缩感知的条件,方法为:
在等式Y=A×M两端同时乘以随机高斯矩阵G,构造随机测量矩阵;步骤4所述的随机高斯矩阵G大小为C×M,矩阵中每个元素gc,m(c=1,...,C,m=1,...,Z)都服从渐进正规分布N(0,Ο(C-1)),其中,C=Ο(Klog(NK))为高斯矩阵的行数,Ο(Klog(NK))表示对Klog(NK)的等价无穷小,K为历史流量矩阵M′的秩,N为OD流数,M为网络链路数量。本实施例中,高斯矩阵G大小为54×54,矩阵中每个元素gc,m都服从渐进正规分布
Figure BDA000029177180000619
利用高斯随机矩阵描述链路负载与流量矩阵M之间的随机汇聚关系:
GY = GA V ~ &prime; &Sigma; ~ U ~ T - - - ( 1 )
即可得:
L = GA V ~ &prime; &Sigma; ~ U ~ T = &Omega; V ~ &prime; S = &Theta;S - - - ( 2 )
其中,Y、A分别为链路负载和路由矩阵;Y为一个Z×P的矩阵,上述Z为网络链路数量,其每一行元素描述了各条链路上的流量随时间变化情况,也就是描述了经过该链路的所有OD流的汇聚情况;A是一个Z×N的固定矩阵,OD流j(j=1,...,N)流过链路i(i=1,...,Z),则A的元素Aij=1,否则Aij=0;L=GY为测量值;Ω=GA为测量矩阵;为变换系数;
上述所构建的新的网络层析成像模型满足压缩感知条件;
步骤5、根据步骤4中所得新的网络层析成像模型,采用凸优化问题的解决方法重构源路由器与目的路由器之间的流量;
根据新的网络层析成像模型及压缩感知理论,通过解决凸优化问题恢复变换系数:
s ^ t = arg min | | s t | | 1 s . t . &Omega; V ~ &prime; s t = l t - - - ( 9 )
其中,lt和st分别是在时刻tL和S的列向量。采用压缩感知重构算法,本发明采用正交匹配追踪算法(OMP算法)解决公式(9),如图4所示,还可以选择基追踪算法(BP)和贪婪算法(匹配追踪算法(MP)。
具体包括如下步骤:
步骤A:确定迭代次数;
矩阵
Figure BDA00002917718000073
的秩为K,若要无失真的重构出端到端流量,则需要迭代至少K次;
步骤B:计算相关系数,即残差值r与感知矩阵Θ中各个原子之间内积的绝对值;
首先计算相关系数u,
Figure BDA00002917718000074
r为残差值,为感知矩阵中各个原子,然后将u中最大值对应的索引值存入索引集J中;
步骤C:更新ΘΛ的支撑集Λ,Λ=Λ∪J,ΘΛ为由支撑集Λ索引的Θ的子矩阵;
步骤D:采用最小二乘法进行流量值逼近及残差值更新;
s ^ t = arg min i &Element; R ^ | | l t - &Theta; U ` s t | | 2 r new = l t - &Theta; &Lambda; s ^ t - - - ( 10 )
步骤E:迭代次数加1,重复步骤B,由式(10)重构出变换系数并对残差值进行更新,直到迭代次数达到稀疏度K,强制迭代停止。
步骤F:恢复端到端流量矩阵
Figure BDA00002917718000078
对步骤E得到变换系数
Figure BDA00002917718000079
进行P次迭代,得到最终的变换系数矩阵由式(11)恢复出端到端(源路由器到目的路由器)流量矩阵:
M ^ = V ~ &prime; S ^ - - - ( 11 )
步骤6、采用IPFP算法校正步骤5中得到的源路由器与目的路由器之间的流量重构值,使其满足重构值与实际流量的误差值小于0.001;
本实施例对Abilene骨干网中144条端到端流量都做重构,防止为了满足公式(12)而无限制调整下去,设定调整次数r的上限值R′=30,之后利用IPFP算法对步骤5得到的端到端流量重构值进行校正。
端到端流量矩阵、路由矩阵、链路负载之间可以用一个线性等式来描述,
Y=A×M    (12)
其中,Y是一个列向量,表示为Y=(y1(t),y2(t),...,yS(t)),表示链路的流量值,也称为链路负载矩阵,S是网络中链路的条数。M代表端到端流量矩阵,为要测量的目标矩阵,也可以用一个列向量表示:M=(m1(t),...,mN(t))。N是网络中OD对的个数,也即端到端流量矩阵中mi的个数,当网络中有q个节点时,N=q2。A=(aij)是S×N阶的0-1矩阵,当第i对OD节点对之间的流量经过链路j时,aij=1,否则aij=0。A是一个包含实际路由信息的矩阵,又称为路由矩阵。有了这个线性关系,端到端流量重构问题就可以简化为在已知Y和A的条件下求解M。
利用IPFP算法校正步骤5中得到的端到端流量重构值,使得线性关系(12)成立,设定重构值与实际流量的误差值ε,
&epsiv; = L - GA V ~ &prime; S < 0.001 - - - ( 13 )
而且,防止为了满足公式(13)而无限制校正下去,设定校正次数r的上限R′=30。
利用IPFP算法校正步骤5中得到的端到端流量重构值
Figure BDA00002917718000083
如图5所示,具体步骤如下:
步骤A:判定
Figure BDA00002917718000084
是否满足公式(13),如果满足则结束校正,保存最后校正值如果不满足则执行步骤B;
步骤B:端到端流量重构值校正;
利用IPFP算法对端到端流量的重构值
Figure BDA00002917718000086
进行校正,使其满足公式(13)的条件。如果达到则结束调整保存最后调整值如果不满足则执行步骤C;
步骤C:判定校正次数r是否已达到上限值R′,如果达到则结束校正,保存最后校正值
Figure BDA00002917718000088
如果不满足则校正次数r加1,执行步骤A;
步骤7、网络管理站根据获得的源路由器与目的路由器之间的网络流量信息,掌握网络流量动态变化情况,网络管理人员根据当前网络状态对网络实施网络规划、路由规划、评估新路由协议的性能和分析网络故障的操作。
验证结果:
为验证本发明的有效性,仿真实验中首先给出四条任意OD流在CS-OMP下的估计值与真实值的比较结果,如图6和图7所示。结果显示,本发明可以精确地追踪OD流的动态变化,可以精确地重构出端到端网络流量,不仅对流量值较小且变换趋势比较平缓的OD流能进行准确的估计,对流量值较大且波动幅度较大的OD流同样有较好的估计效果。
图8为压缩感知-正交匹配追踪方法(CS-OMP)、稀疏正则化奇异值分解方法(SRSVD)、重力模型方法(Tomogravity)和主成分分析方法(PCA)对端到端流量真实值与估计值空间相对均方根误差的示意图,其公式如(13)所示。其中,1(CS-OMP);2(SRSVD);3(Tomogravity);4(PCA)。结果显示,本发明CS-OMP算法的相对均方根误差(RRMSE)明显小于其他三种算法。
RRMSE ( t ) = &Sigma; i = 1 N ( m ( i , t ) - m ~ ( i , t ) ) 2 &Sigma; i = 1 N ( m ( i , t ) ) 2 - - - ( 14 )
其中,m(i,t)和
Figure BDA00002917718000092
分别是真实值和估计值。
图9为CS-OMP、SRSVD、Tomogravity和PCA对端到端流量真实值与估计值空间相对均方根误差的累积分布函数示意图,其中,1(CS-OMP);2(SRSVD);3(Tomogravity);4(PCA)。结果显示,在RRMES=20%时,CS-OMP,SRSVD,Tomogravity和PCA的相对均方根误差累积分布函数分别达到了88.5%,1%,4.5%and17.6%;在RRMES=20%时,CS-OMP的相对均方根误差累积分布函数趋于100%,而SRSVD,Tomogravity和PCA的相对均方根误差累积分布函数分别达到了68.9%,81%,71.5%,如图9所示。由此可见,本发明的性能最好。
另外,为更好地评估CS-OMP的重构性能,本实施例利用偏离率(bias)和每一条OD流的偏离率相对于四种算法下的标准差(standard deviation)进一步验证,公式如(15)~(16)所示。图10为本发明CS-OMP与SRSVD,Tomogravity和PCA算法下估计值相对于真实值的偏离情况的比较示意图;图11为每一条OD流的偏离率相对于这四种算法下的标准差示意图。结果显示,在CS-OMP算法下估计值相对真实值的偏离率及标准差波动幅度较小,性能明显优于其他三种算法。
偏离率: bias ( i ) = 1 P &Sigma; j = 1 P ( m ^ ( i , j ) - m ( i , j ) ) - - - ( 15 )
标准差: sd ( i ) = 1 P - 1 &Sigma; j = 1 P ( err ( i ) - bias ( i ) ) 2 - - - ( 16 )

Claims (5)

1.一种时变非平稳网络流量测量方法,其特征在于:包括以下步骤:
步骤1、根据IP骨干网络中路由器个数和流量采集间隔时间,采用构建流量矩阵M的方式描述源路由器和目的路由器之间某一时刻流量情况,并采用奇异值分解的方式对源-目路由器的流量进行处理;
所述流量矩阵M的每一个行表示通过一个源-目的路由器的网络流量信息;所述流量矩阵M的每一个列表示某一时刻通过全部源-目的路由器的数据包数量;其中,所述的IP骨干网络中包含Q个路由器;流量矩阵M为一个N×P的矩阵,其中N=Q2,P为时间长度;
步骤2、通过路由器获取历史流量数据,并将该流量信息发送给网络管理站,管理站采用奇异值分解的方式对源-目路由器的历史流量进行处理;
步骤3、采用将历史流量矩阵主成分代替流量矩阵主成分的方式重新描述网络流量;
步骤4、采用通过高斯随机矩阵构建新的网络层析成像模型的方式来描述源路由器到目的路由器的流量、路由的选择和链路负载之间的关系,使其满足压缩感知的条件,方法为:
利用高斯随机矩阵G描述链路负载与流量矩阵M之间的随机汇聚关系:
GY = GA V ~ &prime; &Sigma; ~ U ~ T - - - ( 1 )
即可得:
L = GA V ~ &prime; &Sigma; ~ U ~ T = &Omega; V ~ &prime; S = &Theta;S - - - ( 2 )
其中,Y、A分别为链路负载和路由矩阵;Y为一个Z×P的矩阵,上述Z为网络链路数量,其每一行元素描述了各条链路上的流量随时间变化情况,也就是描述了经过该链路的所有OD流的汇聚情况;A是一个Z×N的固定矩阵,OD流j流过链路i,其中i=1,...,Z,j=1,...,N,则A的元素Aij=1,否则Aij=0;L=GY为测量值;Ω=GA为测量矩阵;为变换系数;
Figure FDA00002917717900014
为提取主成分后的奇异值,
Figure FDA00002917717900015
Figure FDA00002917717900016
为与
Figure FDA00002917717900017
相应的特征流和主成分;Θ为感知矩阵;
上述公式(2)所构建的新的网络层析成像模型满足压缩感知条件;
步骤5、根据步骤4中所得新的网络层析成像模型,采用凸优化问题的解决方法重构源路由器与目的路由器之间的流量;
步骤6、采用IPFP算法校正步骤5中得到的源路由器与目的路由器之间的流量重构值,使其满足重构值与实际流量的误差值小于0.001;
步骤7、网络管理站根据获得的源路由器与目的路由器之间的网络流量信息,获得网络流量动态变化情况。
2.根据权利要求1所述的一种时变非平稳网络流量测量方法,其特征在于:步骤1所述的采用奇异值分解的方式对源-目路由器的流量进行处理,方法为:
对上述流量矩阵M进行奇异值分解处理,并利用主成分分析法对其进行近似描述,如下所示
M T = U&Sigma; V T &ap; M ~ T = U ~ &Sigma; ~ V ~ T - - - ( 3 )
其中,MT为流量矩阵M的转置矩阵;
Figure FDA00002917717900022
为流量矩阵M的近似矩阵;为矩阵
Figure FDA00002917717900024
的转置矩阵;V为矩阵MTM的特征向量,其大小为N×N,N为OD流数;VT为矩阵V的转置矩阵;Σ表示流量矩阵M的奇异值,其大小为N×N;U为一个大小为P×N的矩阵,上述P为时刻。
3.根据权利要求1所述的一种时变非平稳网络流量测量方法,其特征在于:步骤2所述的管理站采用奇异值分解的方式对源-目路由器的历史流量进行处理,方法为:
对历史流量矩阵M′进行奇异值分解处理,并利用主成分分析法对其进行近似描述,如下所示
M &prime; T = U &prime; &Sigma; &prime; V &prime; T &ap; M ~ &prime; T = U ~ &prime; &Sigma; ~ &prime; V ~ &prime; T - - - ( 4 )
其中,M′T为历史流量矩阵M′的转置矩阵;
Figure FDA00002917717900026
为历史流量矩阵M′的近似矩阵;
Figure FDA00002917717900027
为矩阵
Figure FDA00002917717900028
的转置矩阵;奇异值分解将矩阵M′T分为三个部分:V′称为成分空间或成分,为N×N的矩阵,N为OD流数,其每一列描述历史流量矩阵的各个成分;Σ′为一个对角矩阵,对角线上的值为流量矩阵M′的奇异值,其表示流量矩阵各个成分的能量大小;U′为特征流,为一个P×N的矩阵,上述P为时刻,其元素数值变化趋势描述了网络流量矩阵的变化情况,即其从各个成分角度反应了网络流量的变化趋势;
Figure FDA00002917717900029
为提取主成分后的奇异值,即将小的奇异值设置为0;
Figure FDA000029177179000210
反映了提取主成分后网络流量的变化趋势,
Figure FDA000029177179000211
为主成分。
4.根据权利要求1所述的一种时变非平稳网络流量测量方法,其特征在于:步骤3所述的采用将历史流量矩阵主成分代替流量矩阵主成分的方式重新描述网络流量,方法为:
采用步骤2中根据历史流量情况所确定出的主成分
Figure FDA000029177179000212
代替
Figure FDA000029177179000213
M = V ~ &prime; &Sigma; ~ U ~ T - - - ( 5 ) .
5.根据权利要求1所述的一种时变非平稳网络流量测量方法,其特征在于:步骤4所述的高斯随机矩阵G大小为C×Z,矩阵中每个元素gc,m都服从渐进正规分布N(0,Ο(C-1)),,其中c=1,...,C,m=1,...,Z,C=Ο(Klog(NK))为高斯矩阵的行数,Ο(Klog(NK))表示对Klog(NK)的等价无穷小,K为历史流量矩阵M′的秩,N为OD流数。
CN201310082597.4A 2013-03-14 2013-03-14 一种时变非平稳网络流量测量方法 Expired - Fee Related CN103200043B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310082597.4A CN103200043B (zh) 2013-03-14 2013-03-14 一种时变非平稳网络流量测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310082597.4A CN103200043B (zh) 2013-03-14 2013-03-14 一种时变非平稳网络流量测量方法

Publications (2)

Publication Number Publication Date
CN103200043A true CN103200043A (zh) 2013-07-10
CN103200043B CN103200043B (zh) 2015-07-29

Family

ID=48722409

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310082597.4A Expired - Fee Related CN103200043B (zh) 2013-03-14 2013-03-14 一种时变非平稳网络流量测量方法

Country Status (1)

Country Link
CN (1) CN103200043B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103607292A (zh) * 2013-10-28 2014-02-26 国家电网公司 面向电力通信网络业务的快速分布式监测方法
CN105979541A (zh) * 2016-07-18 2016-09-28 国网辽宁省电力有限公司阜新供电公司 一种数据通信网络中的动态流量估计方法及系统
CN106936611A (zh) * 2015-12-30 2017-07-07 杭州华为数字技术有限公司 一种预测网络状态的方法及装置
CN107133999A (zh) * 2017-05-12 2017-09-05 天津大学 应用匹配追踪的层析成像重建方法
CN109088796A (zh) * 2018-09-19 2018-12-25 哈尔滨工业大学 基于网络层析成像技术的网络流量矩阵预测方法
CN110839253A (zh) * 2019-11-08 2020-02-25 西北工业大学青岛研究院 一种确定无线网格网络流量的方法
CN113379092A (zh) * 2020-03-09 2021-09-10 西北工业大学青岛研究院 一种面向大数据的骨干网多业务流量估计方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100306290A1 (en) * 2009-05-27 2010-12-02 Yin Zhang Method and apparatus for spatio-temporal compressive sensing
CN102655465A (zh) * 2012-05-09 2012-09-05 东北大学 一种网络异常流量的时频域快速侦测方法
CN102724078A (zh) * 2012-06-29 2012-10-10 蒋定德 一种动态网络下基于压缩感知的端到端网络流量重构方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100306290A1 (en) * 2009-05-27 2010-12-02 Yin Zhang Method and apparatus for spatio-temporal compressive sensing
CN102655465A (zh) * 2012-05-09 2012-09-05 东北大学 一种网络异常流量的时频域快速侦测方法
CN102724078A (zh) * 2012-06-29 2012-10-10 蒋定德 一种动态网络下基于压缩感知的端到端网络流量重构方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张强: "分式过程神经元网络在网络流量预测中的应用", 《计算机工程与应用》 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103607292A (zh) * 2013-10-28 2014-02-26 国家电网公司 面向电力通信网络业务的快速分布式监测方法
CN103607292B (zh) * 2013-10-28 2017-01-18 国家电网公司 面向电力通信网络业务的快速分布式监测方法
CN106936611B (zh) * 2015-12-30 2019-12-17 杭州华为数字技术有限公司 一种预测网络状态的方法及装置
CN106936611A (zh) * 2015-12-30 2017-07-07 杭州华为数字技术有限公司 一种预测网络状态的方法及装置
CN105979541B (zh) * 2016-07-18 2019-05-14 国网辽宁省电力有限公司阜新供电公司 一种数据通信网络中的动态流量估计方法及系统
CN105979541A (zh) * 2016-07-18 2016-09-28 国网辽宁省电力有限公司阜新供电公司 一种数据通信网络中的动态流量估计方法及系统
CN107133999A (zh) * 2017-05-12 2017-09-05 天津大学 应用匹配追踪的层析成像重建方法
CN107133999B (zh) * 2017-05-12 2019-12-06 天津大学 应用匹配追踪的层析成像重建方法
CN109088796A (zh) * 2018-09-19 2018-12-25 哈尔滨工业大学 基于网络层析成像技术的网络流量矩阵预测方法
CN109088796B (zh) * 2018-09-19 2020-09-15 哈尔滨工业大学 基于网络层析成像技术的网络流量矩阵预测方法
CN110839253A (zh) * 2019-11-08 2020-02-25 西北工业大学青岛研究院 一种确定无线网格网络流量的方法
CN113379092A (zh) * 2020-03-09 2021-09-10 西北工业大学青岛研究院 一种面向大数据的骨干网多业务流量估计方法及系统
CN113379092B (zh) * 2020-03-09 2022-12-09 西北工业大学青岛研究院 一种面向大数据的骨干网多业务流量估计方法及系统

Also Published As

Publication number Publication date
CN103200043B (zh) 2015-07-29

Similar Documents

Publication Publication Date Title
CN103200043A (zh) 一种时变非平稳网络流量测量方法
Jiang et al. A compressive sensing-based approach to end-to-end network traffic reconstruction
Huo et al. A SDN‐based fine‐grained measurement and modeling approach to vehicular communication network traffic
JP6321856B2 (ja) 内部相対的送受信機キャリブレーションのための方法および装置
CN102724078B (zh) 一种动态网络下基于压缩感知的端到端网络流量重构方法
Rabbat et al. Quantized incremental algorithms for distributed optimization
Liang et al. Maximum pseudo likelihood estimation in network tomography
Rana et al. An overview of distributed microgrid state estimation and control for smart grids
Wei et al. Continuous-time hidden Markov models for network performance evaluation
Xie et al. Accurate recovery of internet traffic data under variable rate measurements
Jiang et al. A novel hybrid prediction algorithm to network traffic
Chen et al. An intersection turning movement estimation procedure based on path flow estimator
CN103516508A (zh) 一种单向和双向时延抖动测量中修正时钟漂移的方法及系统
CN103281256B (zh) 基于网络层析的端到端路径丢包率探测方法
CN104518899A (zh) 网络路由流量仿真方法和装置
Li et al. Event-triggered nonlinear consensus in directed multi-agent systems with combinational state measurements
US20130262661A1 (en) Solving under-determined problems for networks
Nie et al. A power laws-based reconstruction approach to end-to-end network traffic
CN103607292A (zh) 面向电力通信网络业务的快速分布式监测方法
CN102647354A (zh) 一种时变动态网络中端到端流量的重构方法
CN105071963A (zh) 一种面向大数据互联网的多业务流量估计方法
Dey et al. Estimating network link characteristics using packet-pair dispersion: A discrete-time queueing theoretic analysis
Hu et al. Performance limits of network delay systems based on bandwidth and packet loss constraints
CN109088796B (zh) 基于网络层析成像技术的网络流量矩阵预测方法
CN102868572A (zh) 一种基于端到端探测的路径延时的测量方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150729

Termination date: 20160314