CN104158748B - 一种面向云计算网络的拓扑探测方法 - Google Patents

一种面向云计算网络的拓扑探测方法 Download PDF

Info

Publication number
CN104158748B
CN104158748B CN201410348943.3A CN201410348943A CN104158748B CN 104158748 B CN104158748 B CN 104158748B CN 201410348943 A CN201410348943 A CN 201410348943A CN 104158748 B CN104158748 B CN 104158748B
Authority
CN
China
Prior art keywords
node
union
tree
cloud computing
root
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201410348943.3A
Other languages
English (en)
Other versions
CN104158748A (zh
Inventor
王少辉
董从翔
肖甫
韩志杰
王汝传
刘佳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Post and Telecommunication University
Original Assignee
Nanjing Post and Telecommunication University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Post and Telecommunication University filed Critical Nanjing Post and Telecommunication University
Priority to CN201410348943.3A priority Critical patent/CN104158748B/zh
Publication of CN104158748A publication Critical patent/CN104158748A/zh
Application granted granted Critical
Publication of CN104158748B publication Critical patent/CN104158748B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提供了一种基于云计算网络的拓扑探测方法,适用于云计算网络环境下对于网络拓扑进行探测,本发明将拓扑探测分为两层进行分别探测,在第一层中由路由器与计算节点构成,通过发送socket“三明治”包的方法探测出时延;第二层由云计算环境环境中计算节点下的虚拟机的分布构成,本发明采用MPI探测虚拟机间的通信时延,并通过相应的计算后采用并查集算法进行归并聚类,从而得到虚拟机的分布。通过本发明可以比较完整的探测出整个云计算网络环境下的完整拓扑结构。

Description

一种面向云计算网络的拓扑探测方法
技术领域
本发明是一种适用于云网络环境中,针对云环境网络的特点,采用将云环境拓扑结构分为由路由器与计算节点组成的第一层拓扑结构与虚拟机的分布组成的第二层拓扑结构,并采用相应的方法进行拓扑结构的探测。
背景技术
随着网络与人们的生活联系越来越密切,网络用户也越来越关注网络的性能特征,关注他们通过网络得到的利益能有多大程度的保障。这一方面要求现代网络管理系统更完善地发展,更好地控制网络的行为。另一方面要求对网络性能参数进行精确地检测和方便地调控。为此,开发了各式各样的网络测量系统以测量和推断网络性能参数的变化。网络拓扑探测是这些网络测量系统的主要基础,同时也是现代网络管理系统的重要组成部分,在现代计算机网络科学发展中具有十分重要的地位。
云计算是2007年底正式提出的一个新的概念,至今为止,几乎所有的IT行业巨头都将云计算作为未来发展的主要战略之一,相关商业媒体也将云计算视为计算机未来发展的主要趋势,随着时代的发展,其商业前景和应用需求已勿庸置疑。云计算是一种全新的商业模式,其核心部分依然是云后端的数据中心,它使用的硬件设备主要是成千上万的工业标准服务器,它们由英特尔或AMD生产的处理器以及其他硬件厂商的产品组成。企业和个人用户通过高速互联网得到计算能力,从而避免了大量的硬件投资。云计算的基本原理是,通过将计算分布在大量的分布式计算机上,使企业数据中心的运行更加类似于使用互联网。从而使企业能够将随时资源切换到需要的应用上,根据需求访问计算机和存储系统。
在云计算系统的后端,有成千上万的服务器,如何将如此大量的服务器有效地组织是云计算系统高效稳定运行关键问题之一。然而云计算系统后端的网络拓扑有别于一般的网络拓扑特性:它的服务器节点分布广泛,数据流量大,服务等级区分度高,扩展性和可靠性要求较强,拓扑结构相对复杂,因此确实具有重新研究的必要性。Openstack既是一个社区,也是一个项目和一个开源软件,它提供了一个部署云的操作平台或工具集。其宗旨在于,帮助组织运行虚拟计算或存储服务的云,为公有云、私有云,也为大云、小云提供可扩展的、灵活的云计算。Openstack是一个完全开源的云计算系统,使用者可以在需要的时候修改代码来满足需要并作为开源或商业产品发布、销售。Openstack是基于强大的社区开发模式,任何公司和个人都可以参与到项目中,参与测试开发,贡献代码,同时Openstack被专门基金会管理,可以说是一个真正开源的云计算项目;Openstack为组建云提供了必要的软件、控制台和API。本发明是基于Openstack平台搭建的云计算环境进行数据的测量与方法验证。
发明内容
技术问题:本发明的目的是提供一种面向云计算网络的拓扑探测方法,在云环境下基于Openstack平台,进行拓扑探测,通过将拓扑图分为两层进行分别探测,第一层由各路由器与计算节点组成,第二层由各路由器下虚拟机的分布组成。通过本方法可以实现云环境下网络拓扑的全面探测。
技术方案:本发明的方法采用在Openstack平台下,搭建云环境拓扑,在第一层由路由器与计算节点构成的拓扑中,采用发送socket“三明治”包的方法进行探测时延;在第二层由各路由器下虚拟机的分布构成的拓扑中,通过MPI探测时延,将所探测的数据进行一系列的计算后,通过并查集算法进行归并聚类。由聚类后的结果即为各虚拟机的分布,将第一层与第二层拓扑探测相结合即为整个云环境下网络拓扑结构。
基于云计算网络的拓扑探测方法包含以下的具体步骤:
步骤1.按照预先设定拓扑图进行搭建云平台管理项目Openstack的真实环境,
步骤2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的套接字程序socket程序,通过路由器下的虚拟机为分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差,通过全局搜索拓扑探测MLT算法进行推断,
1)选择一个随机的开始状态s0=(T0+u0),
2)进入下一状态s1,得到最小值:
3)重复步骤1和步骤2的过程,直到建立一个拓扑图;
步骤3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装信息通信接口库MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包,得到不同数据包大小时对应的时间大小,其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小;对于每一个节点对i,j,用矩阵实验室MATLAB将其10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j
使用并查集算法Union-Find进行节点聚类,并查集是通过树形结构来存储的,在合并操作时利用树的节点数或者利用一个排列数组来存储集合的启发式函数,在查找操作时进行路径压缩使后续的查找操作加速;并查集有三种操作:
合并操作Union;把子集合Root2即根2和子集合Root1即根1合并,要求:Root1和Root2互不相交,否则不执行操作;
搜索操作Find(x);搜索单元素x所在的集合,并返回该集合的名字--根节点标示;UFSets(s)构造函数,将并查集中s个元素初始化为s个只有一个单元素的子集合,利用并查集的算法,将MPI测试数据进行划分聚类,number表示节点的数量;threshold表示定义的阈值范围;Tw[number][number]表示Tw矩阵;
1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有90%~98%比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵;
2)初始化把每一节点当成一颗子树,该树只有自身一个节点,作为根节点;
3)合并子树若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径;
4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错;
5)显示划分结果,用map即示意图存储不同集合树当中的元素,每棵树的根节点编号作为map的下标,对应的内容是一个向量,用来存储该树所有非根节点,归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑;
步骤4.在聚类好的虚拟机结构中,通过测试相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布;
步骤5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。
有益效果:在云计算环境中,使用多层拓扑探测技术,将云环境拓扑探测分为两层分别进行,传统拓扑探测技术无法实现对云计算虚拟机分布的探测,通过分层拓扑探测可以完整的实现对云计算网络的拓扑探测。
附图说明
图1是并查集算法处理流程图。
图2是预设定拓扑图。
具体实施方式
1.按照预先设定拓扑图进行搭建Openstack真实环境。
2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的socket程序,通过路由器下的虚拟机为分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差。通过MLT算法进行推断,(1)选择一个随机的开始状态s0=(T0+u0);(2)进入下一状态s1,得到最小值:(3)重复步骤1和步骤2的过程,直到建立一个拓扑图。
3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包(其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小)得到不同数据包大小时对应的时间大小,对于每一个节点对i,j,用MATLAB将其T1ij-T10ij的10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j
使用并查集算法进行节点聚类,并查集是通过树形结构来存储的,在合并操作时可以利用树的节点数或者利用一个rank数组来存储集合的深度下界,在查找操作时进行路径压缩使后续的查找操作加速。并查集有三种操作:Union(Root1,Root2)合并操作;把子集合Root2和子集合Root1合并.要求:Root1和Root2互不相交,否则不执行操作;Find(x)搜索操作;搜索单元素x所在的集合,并返回该集合的名字--根节点标示;UFSets(s)构造函数。将并查集中s个元素初始化为s个只有一个单元素的子集合。利用并查集的算法,将MPI测试数据进行划分聚类。例如number表示节点的数量;threshold表示我们定义的阈值范围(此范围内两节点可归于同一路由下);Tw[number][number]表示Tw矩阵。(1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有一定比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵。(2)初始化把每一节点当成一颗子树,该树只有自身一个节点,作为根节点。(3)合并子树若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径(4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错。(5)显示划分结果,用map存储不同集合树当中的元素。每棵树的根节点编号作为map的下标,对应的内容是一个vector,用来存储该树所有非根节点。归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑。
4.在聚类好的虚拟机结构中,通过ping相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布。
5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。

Claims (1)

1.一种面向云计算网络的拓扑探测方法,其特征在于该方法包含以下的具体步骤:
步骤1.按照预先设定拓扑图进行搭建云平台管理项目Openstack的真实环境,
步骤2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的套接字程序socket程序,通过路由器下的虚拟机分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差,通过全局搜索拓扑探测MLT算法进行推断,
1)选择一个随机的开始状态s0=(T0+u0),
2)进入下一状态s1,得到最小值:其中T是树结构,u是时延,x是测量并计算获得的相关性值参数,p(T,u|x)为在已知x对树结构T的后验概率,q(si|sj)表示从状态sj到状态si的概率,表示从状态sj到状态si的映射f的Jacobian行列式;
3)重复步骤1和步骤2的过程,直到建立一个拓扑图;
步骤3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装信息通信接口库MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包,得到不同数据包大小时对应的时间大小,其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小;对于每一个节点对i,j,用矩阵实验室MATLAB将其10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j
使用并查集算法Union-Find进行节点聚类,并查集是通过树形结构来存储的,在合并操作时利用树的节点数或者利用一个排列数组来存储集合的启发式函数,在查找操作时进行路径压缩使后续的查找操作加速;并查集有三种操作:
合并操作Union;把子集合Root2即根2和子集合Root1即根1合并,要求:Root1和Root2互不相交,否则不执行操作;
搜索操作Find;搜索单元素x所在的集合,并返回该集合的名字--根节点标 示;UFSets构造函数,将并查集中s个元素初始化为s个只有一个单元素的子集合,利用并查集的算法,将MPI测试数据进行划分聚类,number表示节点的数量;threshold表示定义的阈值范围;Tw[number][number]表示Tw矩阵;
1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有90%~98%比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵;
2)初始化,把每一节点当成一棵子树,该树只有自身一个节点,作为根节点;
3)合并子树,若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径;
4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错;
5)显示划分结果,用map即示意图存储不同集合树当中的元素,每棵树的根节点编号作为map的下标,对应的内容是一个向量,用来存储该树所有非根节点,归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑;
步骤4.在聚类好的虚拟机结构中,通过测试相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布;
步骤5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。
CN201410348943.3A 2014-07-21 2014-07-21 一种面向云计算网络的拓扑探测方法 Expired - Fee Related CN104158748B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410348943.3A CN104158748B (zh) 2014-07-21 2014-07-21 一种面向云计算网络的拓扑探测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410348943.3A CN104158748B (zh) 2014-07-21 2014-07-21 一种面向云计算网络的拓扑探测方法

Publications (2)

Publication Number Publication Date
CN104158748A CN104158748A (zh) 2014-11-19
CN104158748B true CN104158748B (zh) 2017-06-16

Family

ID=51884157

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410348943.3A Expired - Fee Related CN104158748B (zh) 2014-07-21 2014-07-21 一种面向云计算网络的拓扑探测方法

Country Status (1)

Country Link
CN (1) CN104158748B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105306291B (zh) * 2015-09-16 2018-09-04 电子科技大学 一种基于丢包率和时延联合的网络拓扑估计方法
CN107040423B (zh) * 2017-05-16 2020-06-16 上海上讯信息技术股份有限公司 一种网络拓扑发现的方法及系统
CN107360210B (zh) * 2017-06-16 2020-07-07 佛山科学技术学院 云计算数据中心兼顾能耗与访问延迟的虚拟机分配方法
CN107579973B (zh) * 2017-09-01 2019-12-31 北京知道创宇信息技术股份有限公司 一种网络空间探测方法、装置及计算设备
CN110912748B (zh) * 2019-11-28 2022-04-26 深圳市国电科技通信有限公司 一种基于时延测量的低压台站电力供电网络的物理拓扑发现方法
US11262990B2 (en) 2020-05-26 2022-03-01 International Business Machines Corporation Application topology discovery
CN114039858B (zh) * 2021-10-25 2023-08-22 中国联合网络通信集团有限公司 一种算网资源融合方法、装置、设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102143007A (zh) * 2011-05-03 2011-08-03 中国南方电网有限责任公司 基于分布式的多级网络拓扑发现方法
CN102801567A (zh) * 2012-08-28 2012-11-28 北京傲天动联技术有限公司 分层网络拓扑自动发现的方法和分层网络拓扑组建的方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102143007A (zh) * 2011-05-03 2011-08-03 中国南方电网有限责任公司 基于分布式的多级网络拓扑发现方法
CN102801567A (zh) * 2012-08-28 2012-11-28 北京傲天动联技术有限公司 分层网络拓扑自动发现的方法和分层网络拓扑组建的方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
《基于端到端链路利用的网络拓扑》;李勇军,蔡皖东,王伟;《系统仿真学报》;20061230;837-843 *
《改进的基于最大似然的快速拓扑估计方法》;王育红,费高雷,胡光岷;《计算机应用》;20110101;212-238 *
《网络拓扑结构层析成像的改进算法研究》;王育红;《中国优秀硕士学位论文全文数据库 信息科技辑》;20120115;全文 *

Also Published As

Publication number Publication date
CN104158748A (zh) 2014-11-19

Similar Documents

Publication Publication Date Title
CN104158748B (zh) 一种面向云计算网络的拓扑探测方法
Arias et al. Spatial analysis of vicariance: a method for using direct geographical information in historical biogeography
US20160349993A1 (en) Data-driven ceph performance optimizations
CN1925437B (zh) 用于检测网络中状态改变的系统及方法
JP2020177581A (ja) トポロジマップ提示システム、トポロジマップ提示方法及びコンピュータプログラム
Kitsak et al. Link prediction with hyperbolic geometry
CN104298541A (zh) 云存储系统的数据分布算法及其装置
Liu et al. Distributed graph summarization
CN109033234A (zh) 一种基于状态更新传播的流式图计算方法及系统
CN106789432A (zh) 基于自主可控云平台技术的测试系统
CN111130842B (zh) 一种反映网络多维资源的动态网络图谱数据库构建方法
CN109871418A (zh) 一种时空数据的空间索引方法和系统
CN101370025A (zh) 地理信息数据的存储方法、调度方法及管理系统
CN109840533A (zh) 一种应用拓扑图识别方法及装置
CN102938918B (zh) 一种无线传感器网络管理的方法、装置以及系统
CN104298669A (zh) 一种基于社交网络的人员地理信息挖掘模型
CN103442056B (zh) 一种基于云平台的智能鞋柜控制系统
CN107491463A (zh) 数据查询的优化方法和系统
Firth et al. Workload-aware streaming graph partitioning.
CN103236978A (zh) As拓扑顶层自治系统结点的确定方法和装置
Goldin et al. Georouting and delta-gathering: Efficient data propagation techniques for geosensor networks
CN104869044B (zh) 一种虚拟网映射方法及装置
CN102193988A (zh) 一种图形数据库节点数据的检索方法及系统
Chen et al. Phoenix: Towards an accurate, practical and decentralized network coordinate system
Huang et al. Identify influential social network spreaders

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20141119

Assignee: NUPT INSTITUTE OF BIG DATA RESEARCH AT YANCHENG

Assignor: NANJING University OF POSTS AND TELECOMMUNICATIONS

Contract record no.: X2021980013920

Denomination of invention: A topology detection method for cloud computing network

Granted publication date: 20170616

License type: Common License

Record date: 20211202

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170616