CN109272047A - 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法 - Google Patents

一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法 Download PDF

Info

Publication number
CN109272047A
CN109272047A CN201811133592.9A CN201811133592A CN109272047A CN 109272047 A CN109272047 A CN 109272047A CN 201811133592 A CN201811133592 A CN 201811133592A CN 109272047 A CN109272047 A CN 109272047A
Authority
CN
China
Prior art keywords
data center
optical
state
fiber network
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811133592.9A
Other languages
English (en)
Inventor
曲志坚
刘晓红
李盘靖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong University of Technology
Original Assignee
Shandong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong University of Technology filed Critical Shandong University of Technology
Priority to CN201811133592.9A priority Critical patent/CN109272047A/zh
Publication of CN109272047A publication Critical patent/CN109272047A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/29Graphical models, e.g. Bayesian networks
    • G06F18/295Markov models or related models, e.g. semi-Markov models; Markov random fields; Networks embedding Markov models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种在软件定义数据中心光网络内基于因马尔科夫模型的组播资源预测方法和实现过程。本发明的主要创新点表现为在软件定义数据中心光网络内通过统计数据中心内的光网络流量分布模型、网络资源需求量、业务突发时间、业务持续时间和业务请求频度等信息构建隐马尔科夫模型的可观测状态;通过划分组播业务在数据中心网络中的作用区域以及组播业务对网络资源的需求状况构建隐马尔科夫模型的隐藏状态。通过获取的观测状态和隐藏状态空间的历史数据训练所建立模型的参数并实现对数据中心光网络组播资源的预测。

Description

一种满足光组播资源预测的隐马尔科夫模型状态构造与参数 训练方法
技术领域
本发明涉及一种在软件定义数据中心光网络中利用隐马尔科夫模型对数据中心光网络组播业务特征进行学习建模并对网络内的组播资源进行预测的方法和步骤,属于光交换网络技术领域。
背景技术
数据中心网络内部存在着广泛的组播通信模式,例如分布式集群系统数据的复制、分发与状态同步,云环境下虚拟机镜像安装,文件备份与分发等等。通过数据中心内部的组播服务,可以显著减少网络数据发送量,降低网络流量,提高网络资源使用效率,最终提高数据中心的服务能力。数据中心内部服务器提供组播服务是数据中心网络的必备功能之一。然而,数据中心内部有超过70%的流量为东西向流量,这种内部网络流量分布不均匀,并且具有极强的局部性、动态性、突发性和多样性等特征。这些特征对组播的可靠性和灵活性提出了更高的要求,使得传统IP组播难于满足应用需求。另一方面,数据中心设备间需要大量的数据交换和通信以实现集群协同工作,这使得传统IP网络在带宽、传输时延和网络能耗等方面都无法满足未来数据中心对网络的需求。
软件定义光网络(Software Defined Optical Network, SDON)能够实现光网络资源的统一控制和管理,代表了光网络在向传输智能和业务智能的综合方向发展,为管理光网络资源提供了有效的技术支撑。在软件定义数据中心光网络环境下实现全光组播是解决数据中心网络中传统IP组播存在问题的重要方法。另一方面,数据中心网络承载类型多样的组播业务,不同组播业务对网络的影响区域和资源需求差异性较大,表现出极强的局部性和突发性。如果在组播业务到达之前能够较为准确预测组播业务的资源需求情况和组播发生区域,同时在控制平面预先进行资源调度和分配,可以显著提高组播成功率和可靠性。
基于这一目标,本发明提出一种在软件定义数据中心光网络内基于隐马尔科夫模型的组播资源预测方法,将数据中心光网络中的组播应用请求特征,包括对请求时间段、不同业务类型所占的比例、业务持续时间、资源使用情况、高峰请求时间以及网络负载状态等时空多维度特征信息进行统计学习,并依据学习结果预测数据中心光网络未来一段时间突发组播业务的资源需求情况和影响范围。
发明内容
利用隐马尔科夫模型对数据中心光网络未来一段时间内突发的组播业务特征进行预测,首先需将可统计的组播业务特征和网络状态特征转换为预测模型可识别的状态空间,然后训练状态转换参数并设计预测算法。实现上述目标的核心问题在于从繁杂的网络指标和指标组合中确定可观测网络指标与组播预测结果的内在关联。
本发明的主要目的是建立数据中心光网络组播业务资源需求及影响范围到基于统计学习的预测模型状态空间的映射策略,确定预测结果与数据中心光网络组播业务类型、模型状态空间维度和状态信息离散化粒度之间的内在关系,设计预测模型最佳的状态空间构造方案、参数训练策略和状态预测算法。基于上述目的,本发明的主要内容如下:
一种构造隐马尔科夫预测模型隐藏状态和可观测状态的方法,其特征在于将数据中心内的网络流量分布模型、网络资源需求量、业务突发时间、业务持续时间和业务请求频度等信息映射为隐马尔科夫模型的可观测状态;将组播业务在数据中心网络中的作用区域以及组播业务对网络资源的需求状况映射为隐马尔科夫模型的隐藏状态。
隐马尔可夫模型可以用五元组描述,其中Q={Q 1, Q 2, ..., Q n }是隐马尔可夫模型的隐含状态,n是隐马尔科夫模型的隐含状态的总数。对于模型 的隐藏状态, 拟取二维向量数组Q={H, L}表示,其中H表示做业务影响的区域;L表示组播 业务对资源的需求情况。其中,为了计算方便HL均离散化取值,如H的取值范围为{h 1, h 2, …, h n },分别表示网络中承载组播传输区域的编号(可将网络划分区域并编号);L的取值 范围为{l 1, l 2, l 3},分别表示组播业务对资源的需求程度,可根据网络流量类型确定阈值 并离散为较重、中等、较轻等指标。据此,可得系统3n个隐藏状态及概率转移矩阵A的维度。
可观测状态拟取网络流量分布模型、资源需求量、业务突发时间、业务持续时间和业务请求频度等信息组成五维向量数组O={C’, M’, N’, D’, E’}。该向量数组可表示网络的一个可观测状态,类似于隐藏状态可观测状态的每个特征向量也可离散为多个状态,由此可得到构成隐马尔科夫模型输出状态的概率矩阵B的维度。需要注意的是,上述状态模型维度的确定以及网络参数的选择和离散化程度需要在实际研究过程中根据数据中心网络的特征设定并测试调整。
一种基于隐马尔科夫模型的组播资源预测模型,其特征在于模型状态转移矩阵以及输出状态概率矩阵的参数学习和训练方法与软件定义数据中心光网络中网络流量分布模型、资源需求量、业务突发时间、业务持续时间和业务请求频度等网络状态相关。
对于给定的及状态转化序列q=(q 1, q 2, q 3, …, q T)产生观察序列O=(o 1, o 2,o 3, …, o T)的概率可以通过式(1)计算获得;对于给定的的状态转化序列q=(q 1, q 2, q 3,…, q T)的概率可以通过公式(2)计算获得,则Oq的联合概率由式(3)给出,考虑所有的状态转化序列则有公式(4)成立。对于状态序列已知的情况可由最大似然估计来估计隐马尔科夫模型的参数,如式(5)-(7)所示。
(1)
(2)
(3)
(4)
(5)
(6)
(7)
计算观察序列O的概率可以通过前向算法、后向算法以及Baum-Welch算法实现。组播业 务特征预测就是在给定观测序列O=(o 1, o 2, o 3, …, o T)的基础上,计算网络的隐藏状态 在下一个时刻X t +1 时某一区域可用于组播资源和组播发生区域的概率P(X t+1=X i ),其中,X i 为组播发生区域。下述公式中,Q i 表示隐含状态,表示隐马尔科夫模型的参数A、B和表示对概率矩阵在第一列上求和,其中,表示模型在t+1时刻处于各个状态 的概率矩阵,可根据公式(10)求得。
实际计算过程中,可分两步计算这个概率值:首先根据公式(8)可以计算t时刻系 统分别处于不同状态的概率向量数组,其中,n表示隐藏状态的数目;然 后,在此基础上做一次状态转换的概率转移,从而根据公式(9)得到t+1时刻系统处于不同 状态的概率向量数组X t+1
(8)
(9)
(10)
附图说明
下面结合附图和具体实施方式对本发明作进一步的说明。
图1为软件定义数据中心光网络内组播资源预测总体结构图。
图2为隐马尔科夫预测模型参数训练过程示意图。
图3为隐马尔科夫模型资源预测过程示意图。
具体实施方式
软件定义数据中心光网络内基于隐马尔科夫模型的组播资源预测方案的总体结构图如图1所示。首先,用网络历史数据对预测模型矩阵概率参数进行训练,得到能正确反映网络状态的隐马尔科夫预测模型;然后,对网络当前信息状况进行采集,形成网络信息状态变化的时间序列;最后,通过预测模型对时间序列进行计算分析和预测,并依据计算结果反馈、调整模型参数。
具体实施过程为:
(1)构造预测模型的可观测状态和隐藏状态空间
在预测模型的建模过程中,根据数据中心网络日志的时序特征利用K-means聚类算法对预处理后的网络日志数据进行聚类分析,形成以网络流量分布模型、资源需求量、业务突发时间、业务持续时间和业务请求频度为特征的类簇,并将类簇作为预测模型的初始状态;对于模型的隐藏状态, 拟取二维向量数组Q={H, L}表示,其中H表示组播业务影响的区域;L表示组播业务对资源的需求情况。为了计算方便HL均离散化取值,如H的取值范围为{h 1, h 2, …, h n },分别表示网络中承载组播传输区域的编号(可将网络划分区域并编号);L的取值范围为{l 1, l 2, l 3},分别表示组播业务对资源的需求程度,可根据网络流量类型确定阈值并离散为较重、中等、较轻等指标。
(2)训练预测模型参数
隐马尔可夫模型是一个五元组,其中Q为隐藏状态,O为观测状态。为 了实现组播资源预测,首先需要确定隐马尔科夫模型五元组内的其余3个参数ABπ。对于 这一问题,可以通过历史数据在给定的观测状态集合和隐含状态集合,通过一个已知的历 史观测序列,对含有初始随机参数的隐马尔可夫模型进行参数训练,直到各参数收敛,便得 到最终稳定的组播资源预测隐马尔可夫模型,参数训练的具体过程如图2所示。其中N*N维 方阵A为隐藏状态的状态转移矩阵,矩阵B为输出状态概率矩阵,维度为N*M,这里N为模型隐 藏状态数目,M为可观测状态数目。
对于给定的模型状态转化序列q=(q 1, q 2, q 3, …, q T )产生观察序列O=(o 1, o 2,o 3, …, o T )的概率可以通过式(1)计算获得;对于给定的隐马尔科夫模型状态转化序列q=(q 1, q 2, q 3, …, q T )的概率可以通过公式(2)计算获得,则Oq的联合概率由式(3)给出,考虑所有的状态转化序列则有公式(4)成立。对于状态序列已知的情况可由最大似然估计来估计隐马尔科夫模型的参数,如式(5)-(7)所示。
(3)模型预测算法
利用隐马尔科夫模型组播业务资源预测就是根据给定的数据中心网络当前的观测序 列,计算系统的隐藏状态在一下个时刻可用的组播资源状况,预测过程如图3所示。组播资 源预测的本质就是在给定观测序列O=(o 1, o 2, o 3, …, o T )的基础上,计算网络的隐藏状 态在下一个时刻X t+1时某一区域可用于组播资源和组播发生区域的概率P(X t+1=X i ),其中,X i 为组播发生区域。实际计算过程中,可分两步计算这个概率值:首先根据公式(8)可以计算t 时刻系统分别处于不同状态的概率向量数组其中,n表示隐藏状态的数目; 然后,在此基础上做一次状态转换的概率转移,从而根据公式(9)得到t+1时刻系统处于不 同状态的概率向量数组X t+1
上面对本发明所述的软件定义数据中心光网络内基于因马尔科夫模型的组播资源预测方法和步骤进行了详细的说明。本发明的主要创新点体现在软件定义数据中心光网络内利用数据中心内的光网络流量分布模型、网络资源需求量、业务突发时间、业务持续时间和业务请求频度等信息构建隐马尔科夫模型的可观测状态;利用组播业务在数据中心网络中的作用区域以及组播业务对网络资源的需求状况构建隐马尔科夫模型的隐藏状态。通过这些状态的网络历史数据训练所建立模型的参数并实现对组播资源的预测。

Claims (2)

1.一种在软件定义数据中心光网络内满足隐马尔科夫模型要求的可观测状态空间和隐含状态空间的选择方法,其特征在于:所述的软件定义数据中心光网络可观测状态包括:光网络流量分布模型、网络资源需求量、业务突发时间、业务持续时间和业务请求频度五个维度信息共同使用;其中光网络流量分布模型指的是数据中心光网络内部组播业务,网络资源需求量指的是数据中心光网络内部组播业务所需波长,业务突发时间指的是数据中心光网络内部组播业务发生时间,业务持续时间指的是数据中心光网络内部组播业务持续时间,业务请求频度指的是数据中心光网络内部组播业务每小时发生的次数;所述的软件定义数据中心光网络隐含状态包括:组播业务影响范围和组播业务资源需求状态两个维度信息共同使用;其中,组播业务影响范围指的是软件定义数据中心光网络内部组播业务影响的区域,其特征在于将数据中心光网络按照空间划分区域并进行编号;组播业务资源需求状态指的是软件定义数据中心光网络内部组播业务对波长资源的需求情况,资源需求状态离散为较重、中等、较轻三级指标。
2.一种满足隐马尔科夫模型对软件定义数据中心光网络内组播资源进行预测的参数训练方法,其特征在于:所述的参数训练方法以权力要求1中说明的可观测状态和隐藏状态为基础确定隐马尔科夫模型的状态转移矩阵、输出状态概率矩阵维度和矩阵中的概率参数。
CN201811133592.9A 2018-09-27 2018-09-27 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法 Pending CN109272047A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811133592.9A CN109272047A (zh) 2018-09-27 2018-09-27 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811133592.9A CN109272047A (zh) 2018-09-27 2018-09-27 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法

Publications (1)

Publication Number Publication Date
CN109272047A true CN109272047A (zh) 2019-01-25

Family

ID=65199071

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811133592.9A Pending CN109272047A (zh) 2018-09-27 2018-09-27 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法

Country Status (1)

Country Link
CN (1) CN109272047A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110795232A (zh) * 2019-09-16 2020-02-14 腾讯科技(深圳)有限公司 数据处理方法、装置、计算机可读存储介质和计算机设备
CN111966449A (zh) * 2020-07-17 2020-11-20 苏州浪潮智能科技有限公司 一种虚拟机备份管理方法、系统、终端及存储介质
CN113490157A (zh) * 2021-07-06 2021-10-08 香港中文大学(深圳) 一种基于深度强化学习的组播调度方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1996933A (zh) * 2005-12-31 2007-07-11 华为技术有限公司 对实时组播业务进行拥塞控制的方法
CN104468567A (zh) * 2014-12-05 2015-03-25 南京邮电大学 一种网络多媒体业务流识别和映射的系统及方法
CN104699606A (zh) * 2015-03-06 2015-06-10 国网四川省电力公司电力科学研究院 一种基于隐马尔科夫模型的软件系统状态预测方法
CN105430650A (zh) * 2015-10-29 2016-03-23 浙江工业大学 一种基于免疫机制的无线传感器网络攻击协同检测方法
CN105491079A (zh) * 2014-09-16 2016-04-13 华为技术有限公司 云计算环境中调整应用所需资源的方法及装置
CN105553749A (zh) * 2016-02-26 2016-05-04 广东技术师范学院 一种基于sdn的icn逻辑拓扑构建方法
US20160381596A1 (en) * 2015-06-25 2016-12-29 The Board Of Trustees Of The University Of Alabama Intelligent multi-beam medium access control in ku-band for mission-oriented mobile mesh networks
CN108052387A (zh) * 2017-11-15 2018-05-18 青海大学 一种移动云计算中的资源分配预测方法及系统

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1996933A (zh) * 2005-12-31 2007-07-11 华为技术有限公司 对实时组播业务进行拥塞控制的方法
CN105491079A (zh) * 2014-09-16 2016-04-13 华为技术有限公司 云计算环境中调整应用所需资源的方法及装置
CN104468567A (zh) * 2014-12-05 2015-03-25 南京邮电大学 一种网络多媒体业务流识别和映射的系统及方法
CN104699606A (zh) * 2015-03-06 2015-06-10 国网四川省电力公司电力科学研究院 一种基于隐马尔科夫模型的软件系统状态预测方法
US20160381596A1 (en) * 2015-06-25 2016-12-29 The Board Of Trustees Of The University Of Alabama Intelligent multi-beam medium access control in ku-band for mission-oriented mobile mesh networks
CN105430650A (zh) * 2015-10-29 2016-03-23 浙江工业大学 一种基于免疫机制的无线传感器网络攻击协同检测方法
CN105553749A (zh) * 2016-02-26 2016-05-04 广东技术师范学院 一种基于sdn的icn逻辑拓扑构建方法
CN108052387A (zh) * 2017-11-15 2018-05-18 青海大学 一种移动云计算中的资源分配预测方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CHITRA ET AL.: "Hidden Markov model based lightpath establishment technique for improving QoS in optical WDM networks", 《SECOND INTERNATIONAL CONFERENCE ON CURRENT TRENDS IN ENGINEERING AND TECHNOLOGY - ICCTET 2014》 *
曲志坚 等: "适合全光组播网络的网络编码技术研究", 《光通信研究》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110795232A (zh) * 2019-09-16 2020-02-14 腾讯科技(深圳)有限公司 数据处理方法、装置、计算机可读存储介质和计算机设备
CN110795232B (zh) * 2019-09-16 2023-10-20 腾讯科技(深圳)有限公司 数据处理方法、装置、计算机可读存储介质和计算机设备
CN111966449A (zh) * 2020-07-17 2020-11-20 苏州浪潮智能科技有限公司 一种虚拟机备份管理方法、系统、终端及存储介质
CN111966449B (zh) * 2020-07-17 2022-05-31 苏州浪潮智能科技有限公司 一种虚拟机备份管理方法、系统、终端及存储介质
CN113490157A (zh) * 2021-07-06 2021-10-08 香港中文大学(深圳) 一种基于深度强化学习的组播调度方法

Similar Documents

Publication Publication Date Title
Qi et al. Knowledge-driven service offloading decision for vehicular edge computing: A deep reinforcement learning approach
Chen et al. Distributed computation offloading method based on deep reinforcement learning in ICV
CN109272047A (zh) 一种满足光组播资源预测的隐马尔科夫模型状态构造与参数训练方法
Tian et al. CoPace: Edge computation offloading and caching for self-driving with deep reinforcement learning
CN111629380A (zh) 面向高并发多业务工业5g网络的动态资源分配方法
CN112469047B (zh) 一种天地一体化智能网络卫星节点部署方法
EP4024212B1 (en) Method for scheduling inference workloads on edge network resources
Zheng et al. MEC-enabled wireless VR video service: A learning-based mixed strategy for energy-latency tradeoff
Zhu et al. Load-balanced virtual network embedding based on deep reinforcement learning for 6G regional satellite networks
CN113299059A (zh) 一种数据驱动的道路交通管控决策支持方法
Yang et al. Performance analysis and prediction of asymmetric two-level priority polling system based on BP neural network
Qi et al. Vehicular edge computing via deep reinforcement learning
CN111191955B (zh) 基于相依马尔可夫链的电力cps风险区域预测方法
Luo et al. Optimal bit allocation for maneuvering target tracking in UWSNs with additive and multiplicative noise
Zhang et al. Multiagent reinforcement learning-based orbital edge offloading in SAGIN supporting Internet of Remote Things
Tian et al. Spatio-temporal position prediction model for mobile users based on LSTM
Zhu et al. User clustering and proactive group handover scheduling in LEO satellite networks
Henna et al. Distributed and collaborative high-speed inference deep learning for mobile edge with topological dependencies
Chen et al. Profit-aware cooperative offloading in uav-enabled mec systems using lightweight deep reinforcement learning
Liu et al. A proactive stable scheme for vehicular collaborative edge computing
Zhang et al. Offloading demand prediction-driven latency-aware resource reservation in edge networks
CN115225512B (zh) 基于节点负载预测的多域服务链主动重构机制
Yan et al. Service caching for meteorological emergency decision-making in cloud-edge computing
CN113938978B (zh) 一种基于强化学习的异构无线传感器寻路方法
Cui et al. Resource-Efficient DNN Training and Inference for Heterogeneous Edge Intelligence in 6G

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190125

WD01 Invention patent application deemed withdrawn after publication