CN104158748A - 一种面向云计算网络的拓扑探测方法 - Google Patents
一种面向云计算网络的拓扑探测方法 Download PDFInfo
- Publication number
- CN104158748A CN104158748A CN201410348943.3A CN201410348943A CN104158748A CN 104158748 A CN104158748 A CN 104158748A CN 201410348943 A CN201410348943 A CN 201410348943A CN 104158748 A CN104158748 A CN 104158748A
- Authority
- CN
- China
- Prior art keywords
- node
- time
- root
- virtual machine
- router
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供了一种基于云计算网络的拓扑探测方法,适用于云计算网络环境下对于网络拓扑进行探测,本发明将拓扑探测分为两层进行分别探测,在第一层中由路由器与计算节点构成,通过发送socket“三明治”包的方法探测出时延;第二层由云计算环境环境中计算节点下的虚拟机的分布构成,本发明采用MPI探测虚拟机间的通信时延,并通过相应的计算后采用并查集算法进行归并聚类,从而得到虚拟机的分布。通过本发明可以比较完整的探测出整个云计算网络环境下的完整拓扑结构。
Description
技术领域
本发明是一种适用于云网络环境中,针对云环境网络的特点,采用将云环境拓扑结构分为由路由器与计算节点组成的第一层拓扑结构与虚拟机的分布组成的第二层拓扑结构,并采用相应的方法进行拓扑结构的探测。
背景技术
随着网络与人们的生活联系越来越密切,网络用户也越来越关注网络的性能特征,关注他们通过网络得到的利益能有多大程度的保障。这一方面要求现代网络管理系统更完善地发展,更好地控制网络的行为。另一方面要求对网络性能参数进行精确地检测和方便地调控。为此,开发了各式各样的网络测量系统以测量和推断网络性能参数的变化。网络拓扑探测是这些网络测量系统的主要基础,同时也是现代网络管理系统的重要组成部分,在现代计算机网络科学发展中具有十分重要的地位。
云计算是2007年底正式提出的一个新的概念,至今为止,几乎所有的IT行业巨头都将云计算作为未来发展的主要战略之一,相关商业媒体也将云计算视为计算机未来发展的主要趋势,随着时代的发展,其商业前景和应用需求已勿庸置疑。云计算是一种全新的商业模式,其核心部分依然是云后端的数据中心,它使用的硬件设备主要是成千上万的工业标准服务器,它们由英特尔或AMD生产的处理器以及其他硬件厂商的产品组成。企业和个人用户通过高速互联网得到计算能力,从而避免了大量的硬件投资。云计算的基本原理是,通过将计算分布在大量的分布式计算机上,使企业数据中心的运行更加类似于使用互联网。从而使企业能够将随时资源切换到需要的应用上,根据需求访问计算机和存储系统。
在云计算系统的后端,有成千上万的服务器,如何将如此大量的服务器有效地组织是云计算系统高效稳定运行关键问题之一。然而云计算系统后端的网络拓扑有别于一般的网络拓扑特性:它的服务器节点分布广泛,数据流量大,服务等级区分度高,扩展性和可靠性要求较强,拓扑结构相对复杂,因此确实具有重新研究的必要性。Openstack既是一个社区,也是一个项目和一个开源软件,它提供了一个部署云的操作平台或工具集。其宗旨在于,帮助组织运行虚拟计算或存储服务的云,为公有云、私有云,也为大云、小云提供可扩展的、灵活的云计算。Openstack是一个完全开源的云计算系统,使用者可以在需要的时候修改代码来满足需要并作为开源或商业产品发布、销售。Openstack是基于强大的社区开发模式,任何公司和个人都可以参与到项目中,参与测试开发,贡献代码,同时Openstack被专门基金会管理,可以说是一个真正开源的云计算项目;Openstack为组建云提供了必要的软件、控制台和API。本发明是基于Openstack平台搭建的云计算环境进行数据的测量与方法验证。
发明内容
技术问题:本发明的目的是提供一种面向云计算网络的拓扑探测方法,在云环境下基于Openstack平台,进行拓扑探测,通过将拓扑图分为两层进行分别探测,第一层由各路由器与计算节点组成,第二层由各路由器下虚拟机的分布组成。通过本方法可以实现云环境下网络拓扑的全面探测。
技术方案:本发明的方法采用在Openstack平台下,搭建云环境拓扑,在第一层由路由器与计算节点构成的拓扑中,采用发送socket“三明治”包的方法进行探测时延;在第二层由各路由器下虚拟机的分布构成的拓扑中,通过MPI探测时延,将所探测的数据进行一系列的计算后,通过并查集算法进行归并聚类。由聚类后的结果即为各虚拟机的分布,将第一层与第二层拓扑探测相结合即为整个云环境下网络拓扑结构。
基于云计算网络的拓扑探测方法包含以下的具体步骤:
步骤1.按照预先设定拓扑图进行搭建云平台管理项目Openstack的真实环境,
步骤2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的套接字程序socket程序,通过路由器下的虚拟机为分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差,通过全局搜索拓扑探测MLT算法进行推断,
1)选择一个随机的开始状态s0=(T0+u0),
2)进入下一状态s1,得到最小值:
3)重复步骤1和步骤2的过程,直到建立一个拓扑图;
步骤3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装信息通信接口库MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包,得到不同数据包大小时对应的时间大小,其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小;对于每一个节点对i,j,用矩阵实验室MATLAB将其10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j;
使用并查集算法Union-Find进行节点聚类,并查集是通过树形结构来存储的,在合并操作时利用树的节点数或者利用一个排列数组来存储集合的启发式函数,在查找操作时进行路径压缩使后续的查找操作加速;并查集有三种操作:
合并操作Union;把子集合Root2即根2和子集合Root1即根1合并,要求:Root1和Root2互不相交,否则不执行操作;
搜索操作Find(x);搜索单元素x所在的集合,并返回该集合的名字--根节点标示;UFSets(s)构造函数,将并查集中s个元素初始化为s个只有一个单元素的子集合,利用并查集的算法,将MPI测试数据进行划分聚类,number表示节点的数量;threshold表示定义的阈值范围;Tw[number][number]表示Tw矩阵;
1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有90%~98%比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵;
2)初始化把每一节点当成一颗子树,该树只有自身一个节点,作为根节点;
3)合并子树若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径;
4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错;
5)显示划分结果,用map即示意图存储不同集合树当中的元素,每棵树的根节点编号作为map的下标,对应的内容是一个向量,用来存储该树所有非根节点,归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑;
步骤4.在聚类好的虚拟机结构中,通过测试相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布;
步骤5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。
有益效果:在云计算环境中,使用多层拓扑探测技术,将云环境拓扑探测分为两层分别进行,传统拓扑探测技术无法实现对云计算虚拟机分布的探测,通过分层拓扑探测可以完整的实现对云计算网络的拓扑探测。
附图说明
图1是并查集算法处理流程图。
图2是预设定拓扑图。
具体实施方式
1.按照预先设定拓扑图进行搭建Openstack真实环境。
2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的socket程序,通过路由器下的虚拟机为分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差。通过MLT算法进行推断,(1)选择一个随机的开始状态s0=(T0+u0);(2)进入下一状态s1,得到最小值: (3)重复步骤1和步骤2的过程,直到建立一个拓扑图。
3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包(其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小)得到不同数据包大小时对应的时间大小,对于每一个节点对i,j,用MATLAB将其T1ij-T10ij的10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j。
使用并查集算法进行节点聚类,并查集是通过树形结构来存储的,在合并操作时可以利用树的节点数或者利用一个rank数组来存储集合的深度下界,在查找操作时进行路径压缩使后续的查找操作加速。并查集有三种操作:Union(Root1,Root2)合并操作;把子集合Root2和子集合Root1合并.要求:Root1和Root2互不相交,否则不执行操作;Find(x)搜索操作;搜索单元素x所在的集合,并返回该集合的名字--根节点标示;UFSets(s)构造函数。将并查集中s个元素初始化为s个只有一个单元素的子集合。利用并查集的算法,将MPI测试数据进行划分聚类。例如number表示节点的数量;threshold表示我们定义的阈值范围(此范围内两节点可归于同一路由下);Tw[number][number]表示Tw矩阵。(1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有一定比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵。(2)初始化把每一节点当成一颗子树,该树只有自身一个节点,作为根节点。(3)合并子树若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径(4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错。(5)显示划分结果,用map存储不同集合树当中的元素。每棵树的根节点编号作为map的下标,对应的内容是一个vector,用来存储该树所有非根节点。归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑。
4.在聚类好的虚拟机结构中,通过ping相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布。
5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。
Claims (1)
1.一种基于云计算网络的拓扑探测方法,其特征在于该方法包含以下的具体步骤:
步骤1.按照预先设定拓扑图进行搭建云平台管理项目Openstack的真实环境,
步骤2.在进行第一层网络拓扑探测时对每个路由器下任意选择一个虚拟机进行编号并编入相应的套接字程序socket程序,通过路由器下的虚拟机为分别接收大数据包与两个小的数据包,对每对路由器与计算节点间的数据时延测量,得到每对小数据包的时间差,通过全局搜索拓扑探测MLT算法进行推断,
1)选择一个随机的开始状态s0=(T0+u0),
2)进入下一状态s1,得到最小值:
3)重复步骤1和步骤2的过程,直到建立一个拓扑图;
步骤3.在进行第二层网络拓扑探测时,对于每个路由器虚拟机进行安装信息通信接口库MPI,并写入对应的时间测试程序,由公式Tcomm=TS+mTW通过测量节点彼此间发送不同字节大小的数据包,得到不同数据包大小时对应的时间大小,其中Tcomm表示节点对间实际测量得到的传输时间;TS表示节点对间建立的时间;Tw表示节点对间的每单位字节的发送时间;m表示节点对间发送的字节大小;对于每一个节点对i,j,用矩阵实验室MATLAB将其10个值根据上述线性公式拟合出该节点对在Tw矩阵下的值Twi,j;
使用并查集算法Union-Find进行节点聚类,并查集是通过树形结构来存储的,在合并操作时利用树的节点数或者利用一个排列数组来存储集合的启发式函数,在查找操作时进行路径压缩使后续的查找操作加速;并查集有三种操作:
合并操作Union;把子集合Root2即根2和子集合Root1即根1合并,要求:Root1和Root2互不相交,否则不执行操作;
搜索操作Find;搜索单元素x所在的集合,并返回该集合的名字--根节点标示;UFSets构造函数,将并查集中s个元素初始化为s个只有一个单元素的子集合,利用并查集的算法,将MPI测试数据进行划分聚类,number表示节点的数量;threshold表示定义的阈值范围;Tw[number][number]表示Tw矩阵;
1)得到“朋友关系矩阵”,设置一个阈值,遍历其余节点,其中有90%~98%比例的节点到两观测节点的时间差在阈值范围内,即认定两观测节点为“直接朋友”关系,否则不是,得到“直接朋友关系”矩阵;
2)初始化把每一节点当成一颗子树,该树只有自身一个节点,作为根节点;
3)合并子树若节点i,j,为直接朋友关系,对i,j为根节点的子树分别进行压缩路径,使其子树中所有非根节点直接指向根节点,并合并以i,j为根节点的子树,并把编号较小的节点作为新树的根节点,再对新树同样进行压缩路径;
4)差错检测,在合并子树的过程中,若节点i,j不为直接朋友关系,而遍历节点i,j的根时得到同一根节点,则说明出现差错;
5)显示划分结果,用map即示意图存储不同集合树当中的元素,每棵树的根节点编号作为map的下标,对应的内容是一个向量,用来存储该树所有非根节点,归并好的节点即是虚拟机的部署拓扑,从而得出云环境下第二层网络拓扑;
步骤4.在聚类好的虚拟机结构中,通过测试相互的时延,由于在同一路由器下的虚拟机间的通信时间肯定最短,随着经过的路由器与交换机的增多通信时延增加,根据这一原理,通过比较不同虚拟机间的时延相似度来验证之前的聚类分布;
步骤5.将第一层拓扑探测结构与第二层拓扑探测结构相结合构成完整的云计算环境下的网络拓扑结构。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410348943.3A CN104158748B (zh) | 2014-07-21 | 2014-07-21 | 一种面向云计算网络的拓扑探测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410348943.3A CN104158748B (zh) | 2014-07-21 | 2014-07-21 | 一种面向云计算网络的拓扑探测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104158748A true CN104158748A (zh) | 2014-11-19 |
CN104158748B CN104158748B (zh) | 2017-06-16 |
Family
ID=51884157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410348943.3A Active CN104158748B (zh) | 2014-07-21 | 2014-07-21 | 一种面向云计算网络的拓扑探测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104158748B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306291A (zh) * | 2015-09-16 | 2016-02-03 | 电子科技大学 | 一种基于丢包率和时延联合的网络拓扑估计方法 |
CN107040423A (zh) * | 2017-05-16 | 2017-08-11 | 上海上讯信息技术股份有限公司 | 一种网络拓扑发现的方法及系统 |
CN107360210A (zh) * | 2017-06-16 | 2017-11-17 | 佛山科学技术学院 | 云计算数据中心兼顾能耗与访问延迟的虚拟机分配方法 |
CN107579973A (zh) * | 2017-09-01 | 2018-01-12 | 北京知道创宇信息技术有限公司 | 一种网络空间探测方法、装置及计算设备 |
CN110912748A (zh) * | 2019-11-28 | 2020-03-24 | 深圳市国电科技通信有限公司 | 一种基于时延测量的低压台站电力供电网络的物理拓扑发现方法 |
WO2021240260A1 (en) * | 2020-05-26 | 2021-12-02 | International Business Machines Corporation | Application topology discovery |
CN114039858A (zh) * | 2021-10-25 | 2022-02-11 | 中国联合网络通信集团有限公司 | 一种算网资源融合方法、装置、设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102143007A (zh) * | 2011-05-03 | 2011-08-03 | 中国南方电网有限责任公司 | 基于分布式的多级网络拓扑发现方法 |
CN102801567A (zh) * | 2012-08-28 | 2012-11-28 | 北京傲天动联技术有限公司 | 分层网络拓扑自动发现的方法和分层网络拓扑组建的方法 |
-
2014
- 2014-07-21 CN CN201410348943.3A patent/CN104158748B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102143007A (zh) * | 2011-05-03 | 2011-08-03 | 中国南方电网有限责任公司 | 基于分布式的多级网络拓扑发现方法 |
CN102801567A (zh) * | 2012-08-28 | 2012-11-28 | 北京傲天动联技术有限公司 | 分层网络拓扑自动发现的方法和分层网络拓扑组建的方法 |
Non-Patent Citations (3)
Title |
---|
李勇军,蔡皖东,王伟: "《基于端到端链路利用的网络拓扑》", 《系统仿真学报》 * |
王育红,费高雷,胡光岷: "《改进的基于最大似然的快速拓扑估计方法》", 《计算机应用》 * |
王育红: "《网络拓扑结构层析成像的改进算法研究》", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306291B (zh) * | 2015-09-16 | 2018-09-04 | 电子科技大学 | 一种基于丢包率和时延联合的网络拓扑估计方法 |
CN105306291A (zh) * | 2015-09-16 | 2016-02-03 | 电子科技大学 | 一种基于丢包率和时延联合的网络拓扑估计方法 |
CN107040423A (zh) * | 2017-05-16 | 2017-08-11 | 上海上讯信息技术股份有限公司 | 一种网络拓扑发现的方法及系统 |
CN107040423B (zh) * | 2017-05-16 | 2020-06-16 | 上海上讯信息技术股份有限公司 | 一种网络拓扑发现的方法及系统 |
CN107360210B (zh) * | 2017-06-16 | 2020-07-07 | 佛山科学技术学院 | 云计算数据中心兼顾能耗与访问延迟的虚拟机分配方法 |
CN107360210A (zh) * | 2017-06-16 | 2017-11-17 | 佛山科学技术学院 | 云计算数据中心兼顾能耗与访问延迟的虚拟机分配方法 |
CN107579973A (zh) * | 2017-09-01 | 2018-01-12 | 北京知道创宇信息技术有限公司 | 一种网络空间探测方法、装置及计算设备 |
CN107579973B (zh) * | 2017-09-01 | 2019-12-31 | 北京知道创宇信息技术股份有限公司 | 一种网络空间探测方法、装置及计算设备 |
CN110912748A (zh) * | 2019-11-28 | 2020-03-24 | 深圳市国电科技通信有限公司 | 一种基于时延测量的低压台站电力供电网络的物理拓扑发现方法 |
WO2021240260A1 (en) * | 2020-05-26 | 2021-12-02 | International Business Machines Corporation | Application topology discovery |
US11262990B2 (en) | 2020-05-26 | 2022-03-01 | International Business Machines Corporation | Application topology discovery |
CN114039858A (zh) * | 2021-10-25 | 2022-02-11 | 中国联合网络通信集团有限公司 | 一种算网资源融合方法、装置、设备及存储介质 |
CN114039858B (zh) * | 2021-10-25 | 2023-08-22 | 中国联合网络通信集团有限公司 | 一种算网资源融合方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN104158748B (zh) | 2017-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104158748A (zh) | 一种面向云计算网络的拓扑探测方法 | |
Gurukar et al. | Commit: A scalable approach to mining communication motifs from dynamic networks | |
Li et al. | Towards social user profiling: unified and discriminative influence model for inferring home locations | |
US20180032422A1 (en) | Aggregating source code metric values | |
Yang et al. | A time efficient approach for detecting errors in big sensor data on cloud | |
Zhao et al. | Efficient shortest paths on massive social graphs | |
Arias et al. | Spatial analysis of vicariance: a method for using direct geographical information in historical biogeography | |
Chen et al. | Tomography-based overlay network monitoring | |
CN109033234B (zh) | 一种基于状态更新传播的流式图计算方法及系统 | |
Zhao et al. | Orion: shortest path estimation for large social graphs | |
CN103207881B (zh) | 查询方法和装置 | |
Wandelt et al. | QRE: quick robustness estimation for large complex networks | |
CN103020302A (zh) | 基于复杂网络的学术核心作者挖掘及相关信息抽取方法和系统 | |
CN104572833B (zh) | 一种映射规则创建方法及装置 | |
CN109213747A (zh) | 一种数据管理方法及装置 | |
Gulyás et al. | An efficient and robust social network de-anonymization attack | |
Shakkottai et al. | Evolution of the internet as-level ecosystem | |
Zardi et al. | An o (n2) algorithm for detecting communities of unbalanced sizes in large scale social networks | |
CN103810260A (zh) | 基于拓扑特性的复杂网络社团发现方法 | |
CN106919998B (zh) | 一种基于aoe网络的物流模型及方法 | |
KR20220143766A (ko) | 데이터 품질 문제들의 동적 발견 및 수정 | |
CN105027088B (zh) | 系统分析设备和系统分析方法 | |
CN103559318B (zh) | 对异质信息网络包含的对象进行排序的方法 | |
Chen et al. | An efficient solution to locate sparsely congested links by network tomography | |
Chen et al. | Phoenix: Towards an accurate, practical and decentralized network coordinate system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20141119 Assignee: NUPT INSTITUTE OF BIG DATA RESEARCH AT YANCHENG Assignor: NANJING University OF POSTS AND TELECOMMUNICATIONS Contract record no.: X2021980013920 Denomination of invention: A topology detection method for cloud computing network Granted publication date: 20170616 License type: Common License Record date: 20211202 |
|
EE01 | Entry into force of recordation of patent licensing contract |