CN107241384A - 一种基于多云架构的内容分发服务资源优化调度方法 - Google Patents

一种基于多云架构的内容分发服务资源优化调度方法 Download PDF

Info

Publication number
CN107241384A
CN107241384A CN201710303167.9A CN201710303167A CN107241384A CN 107241384 A CN107241384 A CN 107241384A CN 201710303167 A CN201710303167 A CN 201710303167A CN 107241384 A CN107241384 A CN 107241384A
Authority
CN
China
Prior art keywords
cloud
resource
cloudy
service
ikl
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710303167.9A
Other languages
English (en)
Other versions
CN107241384B (zh
Inventor
吕智慧
杨骁�
吴杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fudan University
Original Assignee
Fudan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fudan University filed Critical Fudan University
Priority to CN201710303167.9A priority Critical patent/CN107241384B/zh
Publication of CN107241384A publication Critical patent/CN107241384A/zh
Application granted granted Critical
Publication of CN107241384B publication Critical patent/CN107241384B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/0631Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/0654Management of faults, events, alarms or notifications using network fault recovery
    • H04L41/0663Performing the actions predefined by failover planning, e.g. switching to standby network elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/145Network analysis or design involving simulating, designing, planning or modelling of a network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/16Threshold monitoring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/02Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • H04L67/025Protocols based on web technology, e.g. hypertext transfer protocol [HTTP] for remote control or remote monitoring of applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/104Peer-to-peer [P2P] networks
    • H04L67/1044Group management mechanisms 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1095Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Information Transfer Between Computers (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明属于云计算和网络多媒体技术领域,具体为一种基于多云架构的内容分发服务资源优化调度方法。本发明方法包括:在多云选择初部署阶段,基于备选多个公有云服务资源提供商的计费策略提出一种云选择初部署启发式算法;在多云扩展阶段,基于可预测ARIMA模型和云爆发两种情境下提出了两种不同的多云扩展方法;在多云切换阶段,基于预拷贝Precopying策略,将大批量的内容资源以尽量短的延迟拷贝到新启动的数据中心。本发明解决了在多云环境中,流媒体应用的自动优化初部署,当访问流量突发激增时云架构敏捷扩容,以及当某个私有云数据中心或某公有云宕掉或出现严重带宽等问题时,云服务如何快速切换的问题。

Description

一种基于多云架构的内容分发服务资源优化调度方法
技术领域
本发明属于网络多媒体技术和云计算技术领域,具体为一种基于多云架构的内容分发服务资源优化调度方法。
背景技术
数字内容产业在下一代IP网络的应用中占有十分重要的地位。新一代互联网中,随着宽带的发展,互联网应用已经从单纯的Web浏览转向以丰富的内容为中心的综合应用,丰富媒体内容的分发服务将占越来越大的比重,流媒体、IPTV、大文件下载、高清视频等应用逐渐成为宽带应用的主流。根据Cisco2016年视频网络调查报告,2015年视频流量占到整个Internet流量超过70%。这些视频应用所固有的高带宽、高访问量和高服务质量要求对以尽力而为为核心的互联网提出了巨大的挑战,如何实现快速的、自动伸缩、有服务质量保证的内容分发传递成为核心问题。流媒体的服务需求经常超出应用服务提供商自身的IT架构能力,这就需要应用服务提供商不断加大系统硬件投入来实现系统的扩展能力。为了节省成本和实现系统的可扩展性,云计算的概念和技术不断发展。云计算(CloudComputing),是一种基于互联网的开放共享的计算方式,通过这种方式,共享的软硬件资源和内容可以按需求提供给用户。云计算是分布式计算、并行处理和网格计算的进一步发展,能够向各种互联网应用提供硬件服务、基础架构服务、平台服务、软件服务、存储服务。云计算作为一种新型的按需使用、按用付费的商业模式,它以虚拟化技术为基础,并具备了弹性扩展,动态分配和资源共享等特点,不仅改变了当今IT基础设施的架构模式,也改变了获取、管理和使用IT资源的方式。美国家标准与技术研究院(National Institute ofStandards and Technology,NIST)将云计算系统的部署方式划分为私有云、社区云、公有云和混合云等四种.流媒体服务的提供商首先供给私有云资源进行内容分发服务。由于所有物理设备均由应用服务提供商自身维护,所以它能保证数据及网络传输过程中的性能和安全性。但是,构建私有云的成本较高,且可扩展性不强。一旦建成私有云平台,私有云内的资源总量是固定的,无法随着需求变化自动伸缩提供资源,较低的资源利用率以及无法满足流媒体突发请求将是内容服务提供商面临的一个重大问题。而多云架构(multi cloud)是在单一的云计算结构基础上,使用多个云计算服务的架构,并将这些计算云或者存储云逻辑上结合起来。例如,企业可以同时使用不同的云服务供应商基础设施(IaaS)和软件(SaaS)的服务,或者使用多个基础设施(IaaS)供应商。在后一种情况下,企业可以为不同的工作负载使用不同的基础设施供应商,在不同的供应商之间负载均衡,或者在一个供应商的云上部署工作负载,并在另一个云上做备份。
经对现有技术的文献检索发现,传统的内容分发网络(CDN)一直依赖于传统的Internet数据中心(Internet Data Center,IDC)技术的支撑,例如全球最大的CDN提供商Akamai在遍布全球的1000多个网络部署了众多服务器,遍及九十多个国家,总数超过15万台。但是传统的IDC硬件设施固定,不能动态扩展,而目前的虚拟化技术支撑的云数据中心(Cloud Data Center,CDC)的部署不断壮大,包括大型云提供商例如Amazon和Microsoft提供的大规模云数据中心,也包括众多小型ISP提供的微型云数据中心也在蓬勃发展。云数据中心与内容分发技术的结合趋势已经显现,内容分发云或内容云(Content DeliveryCloud,Content Cloud)的技术也已经出现,在国际学术界已经有初步的研究,但还没有比较成熟的技术和大规模应用出现。Di Niu等【DCB2012,Di Niu,Chen Feng,Baochun Li,ATheory of Cloud Bandwidth Pricing for Video-on-Demand Providers,in IEEEInfocom2012.】针对VoD应用提出一种云带宽的动态定价理论。他们提供一种新的类型服务,如Netflix和Hulu的视频点播提供商以可协商的价格从云端资源预留相应带宽保障支持连续的流媒体,但最终是依托于单一云提供内容分发服务,还没有用到多云架构。Hongqiang Liu【HYR2012,Hongqiang Harry Liu,Ye Wang,Yang Richard Yang,Hao Wang,Chen Tian,Optimizing Cost and Performance for Content Multihoming,SIGCOMM'12,371-382.】在Sigcomm2012上提出目前的视频内容发布商经常利用多个CDN平台来帮助其分发视频内容,这称为Content Multihoming问题,该文研究了Content Multihoming如何达到流媒体性能和所花费用的平衡和优化。该论文用到了多CDN技术提供流媒体服务,CDN服务不能动态扩展,该论文没有用到可以灵活扩展的多云架构。Zhe Wu等在国际权威会议SOSP2013上发表【ZMD2013,Zhe Wu,Michael Butkiewicz,Dorian Perkins,Ethan Katz-Bassett,and Harsha V.Madhyastha,SPANStore:Cost-Effective Geo-ReplicatedStorage Spanning Multiple Cloud Services,SOSP’13,Nov.3–6,2013,USA.】提出SPANStore,跨越多个云数据中心构建高性价比的云存储系统,SPANStore通过评估应用负载特征,确定分布式副本的放置位置,满足应用延迟的要求和较低的云租用成本,该成果对我们的研究有很好的借鉴作用,该方法侧重于多云数据中心支持的云存储技术,我们的发明侧重于多云架构支持的内容分发服务。
发明内容
本发明的目的在于提出一种新型的基于多云架构下的内容分发服务资源优化调度方法。本发明基于多云架构,包含若干公有云与私有云。在这个模式中,由于公有云的动态弹性,在内容服务提供商内部私有云负载达到饱和的情况下,平台可以根据预测和实时情况完成多云环境下的初部署、扩展与切换,以应对流媒体服务中大量突发性的用户请求。利用此机制,在降低费用成本,保证性能的情况下,用户体验度能得到进一步提升。
本发明基于多云架构系统框架,将多媒体内容分发作为目标应用,设计了内容分发服务资源优化配置与调度方法。本发明在多云架构下,覆盖了多云选择初部署、多云扩展以及多云切换三个机制,并且加入了监控模型、负载预测算法以及内容资源预拷贝Precopying机制,使得整个配置与调度机制更具有适用性和通用性。
本发明的技术方案具体介绍如下。
本发明提供一种基于多云架构的内容分发服务资源优化调度方法,其根据预测和实时情况完成多云环境下的初部署、扩展与切换;具体如下:
(1)多云选择初部署阶段
按照多云选择初部署启发式算法,寻找部署开销最小、性能较优的云站点,并启动虚拟机部署流媒体应用,之后针对每一个云站点,找到其上游的最优云站点,并拷贝流媒体内容资源,通过两层的优化,减少部署的开销;
(2)多云扩展阶段
多云扩展阶段针对可预测和云爆发架构下的多云扩展:
在可预测的多云扩展方案中,基于时间序列分析的ARIMA预测模型,通过对历史监控数据分析并将其作为输入,在判定为有效预测值的基础上,完成对未来资源需求量以及需切换时间点的预测分析,并通过多云选择初部署启发式算法,使得分配与分发同时进行,在得到部署拓扑后,完成流媒体应用本身需提供的Web Service及流媒体内容的部署与拷贝;当监控模块报警,即已有数据中心无法为用户的访问提供正常服务时,将已部署好的新数据中心激活并投入使用;
在云爆发架构下的多云扩展方案中,监控模块通过实时监控数据检测到超过设定的阈值时,向系统发出警报,通过查看部署拓扑,选择出最小存储租赁开销以及带宽优质的云数据中心CDC,并在所选的新的云数据中心CDC中启动虚拟机集群,之后对于集群中的每一台机器,采用预拷贝Precopying的策略将常用内容资源拷贝至虚拟存储当中,在这个过程中采用合适的冲突度小的Hash算法,将内容资源散列至不同的虚拟存储中;之后将源云站点中各虚拟机上提供流媒体应用访问的Web Service虚拟镜像拷贝至新的云数据中心CDC的每一台虚拟机中,并在所有的新的虚拟机中启动访问服务;
(3)多云切换阶段
首先根据监控数据作为输入,当带宽资源、用户访问量或者整个集群全部宕机时,系统的决策模块做出多云切换的决策,通过查看部署拓扑,选择开销最小并且性能较佳的一个或者若干数据中心作为新集群部署;采用预拷贝Precopying的策略进行内容资源初次拷贝,之后在虚拟机流媒体应用服务启动好后,迅速向外提供访问服务,并且在服务稳定之后逐步将剩余的内容资源拷贝至新的内容分发数据中心中。
本发明中,多云选择初部署阶段中,基于备选多个公有云服务资源提供商的计费策略提出一种云选择初部署启发式算法;通过云选择初部署启发式算法,完成了多云选择初部署;所述计费策略中,将虚拟机集群转化为聚合的概念,定义Ai为每一个聚合后的服务请求,将每一个Ai分配给若干个虚拟机提供服务,同时最小化各项成本,就可得到虚拟机为了满足用户的请求所需要的最低费用,也就是系统运行的最小总费用;系统运行的最小总费用的定义如下式:
CVi表示虚拟机租赁对于每个聚合请求的单价费用,CSi表示存储在每个聚合请求上的单价费用,CTi表示虚拟机之间流量传输在每个聚合请求上的单价费用。
本发明中,采用Zabbix监控方案周期性的获取并保存历史监控信息
本发明中,多元扩展阶段,所述历史监控信息是包括计算节点和存储节点的CPU、内存、Disk I/O、网络带宽及吞吐量的状态信息;
本发明中,在可预测的多云扩展方案中,用基于时间序列分析的ARIMA(自回归积分滑动平均模型Autoregressive Integrated Moving Average Model)预测模型对未来资源需求量以及需切换时间点进行预测分析时,ARIMA模型包括参数选择p和q,平均值估计,随机变量相关系数和白噪声方差;计算未来的需求一共以下几个步骤;
定义O(t)和P(t)分别表示在t时刻的观测值和预测值;使用T表示预测的开始时刻,S表示预测的时长;开始时刻是当前时刻;预测算法是用一系列观测值O(0),O(1),...,O(T)来预测未来的需求值P(T+1),P(T+2),...,P(T+s);
首先测试数据是否具有平稳性和能迅速降低自相关的函数;如果有,算法将继续下一步;否则,使用差分的方法,将序列平滑化,直到它是变成稳定的序列为止;
然后,使用一个变换级数来表示数据零均值处理后的结果,这样将预测转化为,基于{Xt}(0≤t≤T),预测{Xt}(t>T);
接着,针对预处理后的序列,计算自相关函数ACF和偏自相关函数PACF,从而辨别采用AR,MA还是ARMA模型;一旦数据被转换到变换后的序列{Xt},并且序列{Xt}可以被应用到零均值的ARMA模型进行拟合后,根据AIC的Akaike信息准则,选择合适的p和q的值;
最后,在所有的参数都选择好之后,做模型检查以确保预测的精度;检查一共有两步,第一该模型的稳定性和可逆性,第二残差;如果检查结果满足所有的标准,便可以开始预测,否则,将会回到参数选择和估计,并采取更细粒度的方式找到合适的参数;当所有的数据都适合模型后,对整个过程进行预测;
本发明中,多云扩展阶段和多云切换阶段中的预拷贝Precopying策略具体如下:
算法定义流媒体应用共有N种流媒体资源,每个资源i分布在Mi个机器上;定义L为不同云的地理位置,假设L=1时为流媒体应用服务提供商的企业私有数据中心,定义Hl为在l处的服务器数量;系统所关注的各服务器的计算资源包括:CPU使用量,内存需求量,磁盘和网络带宽的需求量,分别表示为pikl、rikl、dikl、bikl,代表第ith流媒体资源在lth地点的第kth服务器,定义Costikl为将第ith流媒体资源移动到lth地点的第kth服务器所花费的成本开销;
定义αikl和βikl为二进制变量,定义如下:
定义c为流媒体资源拷贝的开销:
本方案提出的ILP算法如下:
使得c最小化,确保:
如上述所示,公式1确保每种资源在一个单独的服务器节点上,公式2到公式5确保流媒体内容资源所占的CPU、内存、磁盘和网络带宽资源不超过宿主机的资源总和,公式7和公式8确保所有的内容资源在同一地理位置location;
考虑最简单的架构情形,即只有一个公有云和一个私有云;因此,我们定义多云间流媒体资源拷贝的开销主要由以下三部分构成:
I.将内存状态和存储资源从私有云拷贝到公有云;
II.存储流媒体内容资源数据;
III.在公有云运行流媒体应用并关联内容资源。
定义τ为预测的过载时间长度,则有:
Costikl=Tikl+(Rikl*τ)+(Sikl*months(τ)) (公式9)
其中:
Tikl=TSikl+TMikl (公式10)
在公式9和公式10中,Tikl表示所有流媒体内容资源拷贝的网络传输成本,具体表现为私有云上虚拟机的存储量(如TSikl)和内存页状态(如TMikl);Rikl表示在公有云上运行虚拟机实例的每小时成本;Sikl表示在公有云上使用存储服务存储流媒体内容资源数据的存储成本,通常按月支付。
和现有技术相比,本发明的有益效果在于:
本发明解决了在多云环境中,流媒体应用的自动优化初部署,当访问流量突发激增时云架构敏捷扩容,以及当某个私有云数据中心或某公有云宕掉或出现严重带宽等问题时,云服务如何快速切换的问题。
附图说明
图1为预测模型。
图2多云切换流程图。
图3为费用对比图。
图4为性能对比图。
图5为预拷贝过程中丢包率变化图。
图6为预拷贝与直接拷贝对比图。
图7为本发明总体结构图。
具体实施方式
下面结合附图和实施例对本发明的技术方案具体介绍如下。
本发明的目的在于提出一种新型的基于多云架构下的内容分发服务资源优化配置与调度方法。如图7所示,本发明基于多云架构进行内容分发服务资源配置,包含若干公有云与私有云。视频服务提供商自身具有内部的私有云或者自有数据中心,在这个模式中,由于公有云的动态弹性,在视频服务服务提供商内部私有云负载达到饱和或中断的情况下,平台可以根据预测和实时情况完成多云环境下的初部署、多云扩展与多云切换多重保障机制,以充分应对流媒体服务中大量突发性请求或者自身服务出现中断的情况。利用多云内容分发机制,在降低费用成本,保证性能的情况下,用户体验度能得到进一步提升。
本发明中,基于多云架构下内容分发服务资源优化配置与调度方法,具体分为以下三个阶段:
1.多云选择初部署方法
这里将详细阐述多云选择初部署算法的内容。本算法分配与分发同时进行。算法最终实现的目标是:把区域内的各用户抽象为逻辑上的节点,通过对各个路径开销的计算,最终找到了一个开销最小并且性能较高的路径拓扑,将流媒体内容资源通过启发式初部署算法,逐一分发至其他逻辑上的云站点的虚拟机中,从而完善各个区域用户的访问体验。最终的拓扑结构使得区域内的所有用户都同源节点直接或间接建立连接,并且从原站点到每个用户节点只有一条路径的最小连通图。
每个私有云在各个节点都有不同的数据传输和数据存储的代价开销,在起始状态,只有源站点的C0存有流媒体内容数据,而其他的云站点上的虚拟机在初始化部署和内容资源传输过程中会产生初部署代价。我们从流媒体应用服务提供商的角度出发,寻找部署开销最小、性能较优的云站点,并启动虚拟机部署流媒体应用,之后针对每一个云站点,找到其上游的最优云站点,并拷贝流媒体内容资源,通过两层的优化,来尽量减少部署的开销。
下述算法1是多云选择初部署启发式算法的具体实现。算法中的数学符号描述如下:Lmj表示用户区域Am到云节点Cj的距离;是用户站点Am相对于流媒体l的可建立连接的云站点;Dj是Cm中的节点Cj的下载代价;是用户区域Am对流媒体l的请求;Oi是打开云节点Ci的代价;是节点Ci可以向上连接的云节点的集合。
算法首先计算每个区域Am到各个站点的平均距离,并且将区域按L′m升序关系排序,得到集合AO。从前向后遍历AO集合,对于每一个AO中的云节点Am,首先将将区域Am中所有请求,分配到距离最小Lmj的云站点Cj,这一个步骤是为了寻找一个性能较优的云站点。根据云节点的计费策略,计算各节点同可以建立上连接的节点连接时的部署开销,计算比较出来最小的开销建立连接,这个过程中有一个前提是不能超出这个节点的连接最大带宽限制。然后在每个节点连接的过程中需要考虑到有重复路径的情况,也就是保证从原站点到用户节点路径的唯一性。如果不能满足这种唯一性就会产生额外冗余的开销。
接下来我们需要针对每一个云节点,找到其上游的最优云站点。这个最优云站点的方式就是遍历所有用户站点Am相对于流媒体l的可建立连接的云站点,找出拥有最小连接距离的站点Wij=Dj+Oi,记录在拓扑图中。其中Dj是Cm中的节点Cj的下载代价,使用Oj代表云站点虚拟机的部署开销,Wij表示两个云站点虚拟机之间的数据传输开销,那么当云站点上已完成流媒体应用部署和内容资源存放时,Oj=0,否则Oj=Wij
2.多云扩展阶段
前一步中建立了一个部署开销最小的分发拓扑。在多云扩展的机制当中,分为可预测的多云扩展方案和云爆发架构下的多云扩展方案。
本方法引入一个基于差分自回归移动平均模型(ARIMA模型)的负载预测算法,用来预测每一个VM的使用负载情况以及用户服务请求情况。每台VM的CPU使用率,带宽使用,以及流请求数作为模型的输入,从而预测未来的情况。
ARIMA模型采用了广泛的非平稳时间序列的预测。它是ARMA模型的推广,可以简化ARMA过程。ARIMA将数据进行初步转换,产生新的,可以适合到ARMA过程的新序列,然后进行预测。
ARIMA模型包括参数选择p和q,平均值估计,随机变量相关系数和白噪声方差。它需要大量的计算来获取最佳参数,它比其他线性预测方法更复杂一点,但是它的性能很好,并且在一定程度上可以作为预测的基本模型。
计算未来的需求一共有五个步骤,图1描述了本发明所采用的预测模型。定义O(t)和P(t)分别表示在t时刻的观测值和预测值。使用T表示预测的开始时刻,S表示预测的时长。开始时刻一般是当前时刻。简而言之,预测算法试图用一系列观测值O(0),O(1),...,O(T)来预测未来的需求值P(T+1),P(T+2),...,P(T+s)。
首先测试数据是否具有平稳性和能迅速降低自相关的函数。如果有,算法将继续下一步。否则,使用差分的方法,将序列平滑化,直到它是变成稳定的序列为止。例如,O′(t-1)=O(t)-O(t-1),并测试序列O′(t-1)是否稳定。然后,使用一个变换级数来表示数据零均值处理后的结果,例如这样,我们将预测转化为,基于{Xt}(0≤t≤T),预测{Xt}(t>T)。
接下来,针对预处理后的序列,计算自相关函数(ACF)和偏自相关函数(PACF),从而辨别采用AR,MA还是ARMA模型。
一旦数据被转换到变换后的序列{Xt},并且序列{Xt}可以被应用到零均值的ARMA模型进行拟合后,接下来的问题是,面临着选择合适的p和q的值。本算法选择被称为AIC的Akaike信息准则,因为它是一个更普遍适用的模型选择准则。
在所有的参数都选择好之后,将会做模型检查以确保预测的精度。检查一共有两步,第一该模型的稳定性和可逆性,第二残差。如果检查结果满足所有的标准,便可以开始预测,否则,将会回到参数选择和估计,并采取更细粒度的方式找到合适的参数。
当所有的数据都适合模型后,便可以对整个过程进行预测。
(1)可预测的多云扩展
本节提供了一种基于预测模型的多云扩展方案。首先监控模块根据历史监控数据分析,并通过上面提出的ARIMA预测方案预测出未来一段时间内,现有的数据中心资源不足以提供足够的带宽访问,此时综合考虑备选数据中心的计费策略C及机房地理位置P分布,类似多云选择初部署的过程,选择扩展的数据中心并采用分配与分发同时进行的策略,将流媒体应用的Web Service和内容资源复制部署到新的云数据中心中。当某些监控项(例如CPU空闲时间、内存使用量、disk I/O、http请求数和网络带宽使用量等)数值超过设定的阈值或现有数据中心可以提供的最大访问量时,将备用数据中心激活,完成多云扩展的过程。
算法的目标是,在现有数据中心资源提供量R达到阈值时,把放置在源节点C0的流媒体信息分发到其他访问量过多的地区或现有地区以满足各个区域用户的访问需求。本算法的核心有以下两点:首先预测模块通过历史监控信息预测出超过资源设定阈值的时间t和额外需要提供的网络带宽资源R′;其次通过在特定的区域集合A中对于新申请的云数据中心Cloud Bm可以视为一个多云选择初部署的过程。最后,当监控模块报警现有数据中心的资源无法提供正常的服务时,激活已经部署好的Cloud Bm,从而以看似透明的过程完成可预测的多云扩展。
下述算法2是可预测的多云扩展算法的具体实现:
在上述算法2中,从流媒体应用服务提供商的角度出发,基于时间序列预测分析方法ARIMA预测模型,通过对历史监控数据分析并将其作为输入,在判定为有效预测值的基础上,完成对未来资源需求量以及需切换时间点的预测分析;并通过算法1中提供的多云选择初部署启发式算法,使得分配与分发同时进行,在得到部署拓扑G后,完成流媒体应用本身需提供的Web Service及流媒体内容的部署与拷贝;当监控模块报警,即已有数据中心无法为用户的访问提供正常服务时,将已部署好的新数据中心激活并投入使用。本算法2中数学符号描述如下:Mi表示过去第i天的历史监控数据;R′表示通过预测模块的ARIMA预测模型分析后,得到的额外需要提供的网络带宽等资源;其余符号同算法1。
(2)云爆发架构下的多云扩展
本发明采用采用云爆发模式的最大优点是可以节省成本,在日常的企业运作过程中,云爆发只需要企业为服务器集群的日常运维所需的资源支付成本,而无须进行超常准备以应付访问请求高峰时段,这使得企业可以更加有效地利用现有资源,同时也可以降低总成本支出;云爆发也具有更高的灵活性,使得系统可以迅速适应意料之外的高峰需求,在需求发生变化时进行调整。
虽然目前云爆发架构有诸多好处,然而现有的解决方案通常无法满足本发明所需求的流媒体应用大量的内容资源迁移所能够等待的时间,事实上,这个过程通常需要2到10天的时间才能够将已有的流媒体内容资源完全从私有云迁移至公有云,这对于突发状况下用户访问流媒体应用请求或流量激增的情况下是无法达到相应的QoS标准的。这种长时间的延迟主要原因是在私有云和公有云之间有限的带宽连接环境下,大量的流媒体内容资源传输,以及流媒体应用本身虚拟机迁移需要复制的磁盘镜像所产生的较长时间延迟。
本发明针对上述问题提出了一种基于“预拷贝(Precopying)”机制的云爆发多云扩展方法。
在上述算法3中,在云爆发的架构下,监控模块通过实时监控数据M检测到超过设定的阈值时,向系统发出警报,现有资源可能无法为用户提供正常速度的访问服务,系统即作出在云爆发架构下多云扩展的决策。此时通过查看在算法1和算法2中的拓扑G,选择出最小存储租赁开销以及带宽优质的云数据中心CDC为AO,并在所选的新的云数据中心CDC中启动一定配额的虚拟机集群。之后对于集群中的每台机器,采用预拷贝Precopying的机制将常用的内容资源R0拷贝至虚拟存储当中,在这个过程中我们采用合适的冲突度小的Hash算法,将内容资源散列至不同的虚拟存储中。之后系统将源云站点中各虚拟机上提供流媒体应用访问的Web Service虚拟镜像拷贝至新的云数据中心CDC的每一台虚拟机Hm中,并在所有的新的虚拟机中启动访问服务。当资源优化调整后的服务器集群可以良好稳定的提供流媒体访问服务时,将剩余的内容资源R′逐步拷贝至新的云数据中心CDC中。
由于云爆发架构下多云扩展方案的不可预测性,为了维持良好的访问服务,需要将应用扩展和内容拷贝的时延(copy-delay)尽量降低,本系统采用了预拷贝Precopying的方案,将最常被访问的内容资源优先拷贝至多云扩展申请的新的云数据中心CDC中,同时完成Web Service的迁移,系统通过监控模块检测到所有的监控项(monitoring metrics)在一段时间内处于正常的状态后,将剩余的内容资源在不影响现有的访问服务的前提下,逐步拷贝至扩展的云数据中心中。
3.多云切换
当某个或某些云数据中心由于某些原因宕机或无法提供正常服务时,比如由于云数据中心突然停电、硬件故障或网络带宽受限,导致当前数据中心无法正常处理用户请求。此时需要暂停现有出现问题的流媒体应用,并申请新的可用的云架构提供流媒体服务,将现有的流媒体访问服务和内容资源快速迁移到新的数据中心中,尽量减少这个过程中产生的延迟,从而以最小的影响来继续为用户提供良好的流媒体访问服务。
我们设计的多云切换的流程如图2所示。在现有云服务出现问题报警时,系统捕捉报警信号并做出多云切换的决策。首先根据监控数据作为输入,当带宽资源、用户访问量或者整个集群全部宕机时,系统的决策模块迅速做出多云切换的决策,通过查看部署拓扑,选择开销Cost最小并且性能较佳的某个或者某些数据中心作为新集群部署。在此过程中,同多云选择初部署的不同点在于,我们必须尽量减少由于数据中心大规模故障,流媒体应用受影响的时间,所以在此我们采用我们第二步设计的预拷贝Precopying的策略进行内容资源初次拷贝。之后在相应的虚拟机流媒体应用服务启动好后,迅速向外提供访问服务,并且在服务稳定之后逐步将剩余的内容资源拷贝至新的云数据中心中。
实施例1
一、多云初部署实验
为了实施方法发明的全过程并评估发明算法的性能,本发明实验部分,将应用确定为视频点播内容分发,公有云模型使用AWS的EC2,私有云使用OpenStack平台。
我们在实验中在本地搭建了两个基于虚拟化技术的数据中心,安装OpenStack作为私有云。同时在AWS上申请了账号,租赁EC2服务并申请AWS虚拟机,作为公有云。在每个云上启动5台虚拟机作为流媒体服务器,所有的虚拟机上均安装Linux CentOS7系统。为了不占用过多的网络带宽资源,我们将带宽最大值设定为10Mbps。
在流媒体应用初部署的实验中,本发明实现了3种选择算法。一种算法是最优性能算
法,此算法在选择虚拟机时只考虑虚拟机的性能,每次租用性能最优的虚拟机而不考虑价格。第二种是本发明中设计的多云选择初部署启发式算法,在一定的性能限制下,最小化租赁开销。第三种是贪心算法,此算法在选择虚拟机时只考虑租赁价格,每次都租用价格最低的虚拟机来部署流媒体服务,而完全不考虑性能。在本实验中,我们采用租赁虚拟机的总开销和视频流访问的命中率作为多云初部署的主要评估指标。
图3显示了3种部署方式在租赁虚拟机总开销上的对比,横轴表示部署流媒体内容大小,纵轴表示租赁总开销。
从结果中可以清晰的看出,租赁费用曲线几乎是呈线性递增,通过比较这三种部署方式可知,启发式初部署算法的租赁费用几乎比最优性能算法低30%,这一点比较容易理解,因为最优性能算法完全没有考虑租赁价格的问题。贪心算法的租赁价格最低,但启发式初部署算法仅高出一小部分。
虽然贪心算法的总体费用最低,但如图4所示,贪心算法的总租赁开销虽然最低,但贪心算法的性能相当之差,只有73.6%的用户可以流利的完成对视频的访问。相比之下最优性能算法的性能几乎是100%,表示几乎所有用户都可以完整的看完整部视频。而启发式初部署算法虽然有存在对视频访问失败的情况,但总体来讲同最优性能算法相差不大。
因此,本实验得出以下结论:启发式初部署算法的成本同贪心算法接近,而用户体验度同最优性能算法接近,表示启发式初部署算法在能尽量小的减少部署成本的同时,保证一定的用户体验和视频质量。
二、多云扩展和多云切换实验
本发明定义了一些针对流媒体应用服务器的各种资源和性能测试参数作为评价流媒体服务器性能优劣的指标。从整体的测评角度来看,这些指标主要包括最大的并发流数目、聚合输出带宽、丢包率等。
·最大并发流数目。最大并发流数目指的是流媒体服务器可以在较长的时间支持的最多客户端的数量,在并发量增加到最大的并发流数目之前,流媒体应用不会停止对已经建立连接的客户端提供服务。最大并发流数主要通过流媒体服务器的硬件配置和流媒体应用软件的实现共同来决定,同时受到所访问的视频流码率的影响。
·聚合输出带宽。聚合输出带宽是指流媒体服务器向外面节点传输视频流数据时所能够达到的最大带宽,理论上等于最大并发流数目乘以视频流的码率。影响流媒体服务器聚合输出带宽指标的通常有网卡、内存、CPU、磁盘I/O通道等,但随着硬件的发展,千兆网卡、固态存储设备以及内存大小已经不是流媒体系统的瓶颈。
·丢包率。本发明所指的丢包率是服务器端将需要发送的视频数据丢弃。丢包通常是导致视频图像质量不佳的本质原因。因为视频数据前后关联,并且各类数据包对于恢复图像所起到的作用不同,即便在很低的丢包率情况下,加码器也有可能主动丢弃其他数据包,引起视频质量下降。
基于上述实验环境设计并完成了预拷贝策略的验证实验,主要途径是逐渐增加并发量,并在多云扩展的预拷贝过程中观察用户请求丢包率的变化趋势。我们首先在一个云(Cloud A)上逐渐增加并发量,如图5所示,在并发量小于30时,单个集群处理用户请求保持在很高的水平,系统的丢包率基本低于5%。当我们逐渐增加并发量时,单个集群逐渐有了较大的丢包率,并且当并发量达到55的时候,丢包率高达35%,此时单个集群的系统很难去处理如此高的并发量访问请求。此时我们采用多云扩展的策略,并且将Cloud A上的内容资源通过预拷贝的方式拷贝到Cloud B中,并继续增加并发量。可以看出,随着预拷贝的逐渐进行,系统丢包率在逐渐下降,由于内容资源的丰富性和空间大的特点,系统的丢包率不会立刻恢复到很低的水平,大概一段时间之后,丢包率恢复到了5%以下。此后我们重复上述过程,逐渐增加请求的并发量,并在丢包率接近30%时继续扩展Cloud C,可以从图5中看到在采用预拷贝的策略后,系统的丢包率在逐渐下降。
我们接下来做了一组对比实验,其中一组采用预拷贝策略,另外一组将内容资源直接拷贝至新的云中。实验结果如图6所示,当系统在多云扩展过程中采用预拷贝策略对内容资源进行拷贝时,可以在较短的时间完成较多的内容资源拷贝,从而迅速降低系统的丢包率,提升系统处理请求的能力;而使用直接拷贝时,由于存在大量的内容资源,导致系统无法及时的将大量的多媒体内容资源及时拷贝到新的集群中,采用直接拷贝的方式迁移内容资源对于扩展的丢包率降低效果并没有预拷贝的效果显著。
多云切换实验同样是在较短时间迅速增加新的内容分发服务资源来取代失效的服务,我们也是采用预拷贝方法,试验效果和多云扩展是一致大的。

Claims (6)

1.一种基于多云架构的内容分发服务资源优化调度方法,其特征在于,其根据预测和实时情况完成多云环境下的初部署、扩展与切换;具体如下:
(1)多云选择初部署阶段
按照多云选择初部署启发式算法,寻找部署开销最小、性能较优的云站点,并启动虚拟机部署流媒体应用,之后针对每一个云站点,找到其上游的最优云站点,并拷贝流媒体内容资源,通过两层的优化,减少部署的开销;
(2)多云扩展阶段
多云扩展阶段针对可预测和云爆发架构下的多云扩展:
在可预测的多云扩展方案中,基于时间序列分析的ARIMA预测模型,通过对历史监控数据分析并将其作为输入,在判定为有效预测值的基础上,完成对未来资源需求量以及需切换时间点的预测分析,并通过多云选择初部署启发式算法,使得分配与分发同时进行,在得到部署拓扑后,完成流媒体应用本身需提供的Web Service及流媒体内容的部署与拷贝;当监控模块报警,即已有数据中心无法为用户的访问提供正常服务时,将已部署好的新数据中心激活并投入使用;
在云爆发架构下的多云扩展方案中,监控模块通过实时监控数据检测到超过设定的阈值时,向系统发出警报,通过查看部署拓扑,选择出最小存储租赁开销以及带宽优质的云数据中心CDC,并在所选的新的云数据中心CDC中启动虚拟机集群,之后对于集群中的每一台机器,采用预拷贝Precopying的策略将常用内容资源拷贝至虚拟存储当中,在这个过程中采用合适的冲突度小的Hash算法,将内容资源散列至不同的虚拟存储中;之后将源云站点中各虚拟机上提供流媒体应用访问的Web Service虚拟镜像拷贝至新的云数据中心CDC的每一台虚拟机中,并在所有的新的虚拟机中启动访问服务;
(3)多云切换阶段
首先根据监控数据作为输入,当带宽资源、用户访问量或者整个集群全部宕机时,系统的决策模块做出多云切换的决策,通过查看部署拓扑,选择开销最小并且性能较佳的一个或者若干数据中心作为新集群部署;采用预拷贝Precopying的策略进行内容资源初次拷贝,之后在虚拟机流媒体应用服务启动好后,迅速向外提供访问服务,并且在服务稳定之后逐步将剩余的内容资源拷贝至新的内容分发数据中心中。
2.根据权利要求1所述的内容分发服务资源优化调度方法,其特征在于,多云选择初部署阶段中,基于备选多个公有云服务资源提供商的计费策略提出一种云选择初部署启发式算法;通过云选择初部署启发式算法,完成了多云选择初部署;在计费策略中,将虚拟机集群转化为聚合的概念,定义Ai为每一个聚合后对公有云i的服务请求,将每一个Ai分配给若干个虚拟机提供服务,同时最小化各项成本,就可得到虚拟机为了满足用户的请求所需要的最低费用,也就是系统运行的最小总费用;系统运行的最小总费用的定义如下式:
CVi表示该公有云虚拟机租赁对于每个聚合请求的单价费用,CSi表示该公有云存储在每个聚合请求上的单价费用,CTi表示该公有云虚拟机之间流量传输在每个聚合请求上的单价费用。
3.根据权利要求1所述的内容分发服务资源化调度方法,其特征在于,采用Zabbix监控方案周期性的获取并保存历史监控信息。
4.根据权利要求1或3所述的内容分发服务资源优化调度方法,其特征在于,多元扩展阶段,所述历史监控信息是包括计算节点和存储节点的CPU、内存、Disk I/O、网络带宽及吞吐量的状态信息。
5.根据权利要求1所述的内容分发服务资源优化调度方法,其特征在于,在可预测的多云扩展方案中,我们使用基于时间序列分析的ARIMA预测模型对未来资源需求量以及需切换时间点进行预测分析时,ARIMA模型包括参数选择p和q,平均值估计,随机变量相关系数和白噪声方差;
计算未来的需求一共以下几个步骤;
定义O(t)和P(t)分别表示在t时刻的观测值和预测值;使用T表示预测的开始时刻,S表示预测的时长;开始时刻是当前时刻;预测算法是用一系列观测值O(0),O(1),...,O(T)来预测未来的需求值P(T+1),P(T+2),...,P(T+s);
首先测试数据是否具有平稳性和能迅速降低自相关的函数;如果有,算法将继续下一步;否则,使用差分的方法,将序列平滑化,直到它是变成稳定的序列为止;
然后,使用一个变换级数来表示数据零均值处理后的结果,这样将预测转化为,基于{Xt}(0≤t≤T),预测{Xt}(t>T);
接着,针对预处理后的序列,计算自相关函数ACF和偏自相关函数PACF,从而辨别采用AR,MA还是ARMA模型;一旦数据被转换到变换后的序列{Xτ},并且序列{Xτ}可以被应用到零均值的ARMA模型进行拟合后,根据AIC的Akaike信息准则,选择合适的p和q的值;
最后,在所有的参数都选择好之后,做模型检查以确保预测的精度;检查一共有两步,第一该模型的稳定性和可逆性,第二残差;如果检查结果满足所有的标准,便可以开始预测,否则,将会回到参数选择和估计,并采取更细粒度的方式找到合适的参数;当所有的数据都适合模型后,对整个过程进行预测。
6.根据权利要求1所述的内容分发服务资源优化调度方法,其特征在于,多云扩展阶段和多云切换阶段中的预拷贝Precopying策略具体如下:
算法定义流媒体应用共有N种流媒体资源,每个资源i分布在Mi个机器上;定义L为不同云的地理位置,假设L=1时为流媒体应用服务提供商的企业私有数据中心,定义Hl为在l处的服务器数量;系统所关注的各服务器的计算资源包括:CPU使用量,内存需求量,磁盘和网络带宽的需求量,分别表示为pikl、rikl、dikl、bikl,代表第ith流媒体资源在lth地点的第kth服务器,定义Costikl为将第ith流媒体资源移动到lth地点的第kth服务器所花费的成本开销;
定义αikl和βikl为二进制变量,定义如下:
定义c为流媒体资源拷贝的开销:
本方案提出的ILP算法如下:
使得c最小化,确保:
如上述所示,公式1确保每种资源在一个单独的服务器节点上,公式2到公式5确保流媒体内容资源所占的CPU、内存、磁盘和网络带宽资源不超过宿主机的资源总和,公式7和公式8确保所有的内容资源在同一地理位置location;
考虑最简单的架构情形,即只有一个公有云和一个私有云;因此,我们定义多云间流媒体资源拷贝的开销主要由以下三部分构成:
I.将内存状态和存储资源从私有云拷贝到公有云;
II.存储流媒体内容资源数据;
III.在公有云运行流媒体应用并关联内容资源。
定义τ为预测的过载时间长度,则有:
Costikl=Tikl+(Rikl*τ)+(Sikl*months(τ)) (公式9)
其中:
Tikl=TSikl+TMikl (公式10)
在公式9和公式10中,Tikl表示所有流媒体内容资源拷贝的网络传输成本,具体表现为私有云上虚拟机的存储量,如TSikl和内存页状态,如TMikl;Rikl表示在公有云上运行虚拟机实例的每小时成本;Sikl表示在公有云上使用存储服务存储流媒体内容资源数据的存储成本,通常按月支付。
CN201710303167.9A 2017-05-03 2017-05-03 一种基于多云架构的内容分发服务资源优化调度方法 Expired - Fee Related CN107241384B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710303167.9A CN107241384B (zh) 2017-05-03 2017-05-03 一种基于多云架构的内容分发服务资源优化调度方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710303167.9A CN107241384B (zh) 2017-05-03 2017-05-03 一种基于多云架构的内容分发服务资源优化调度方法

Publications (2)

Publication Number Publication Date
CN107241384A true CN107241384A (zh) 2017-10-10
CN107241384B CN107241384B (zh) 2020-11-03

Family

ID=59984138

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710303167.9A Expired - Fee Related CN107241384B (zh) 2017-05-03 2017-05-03 一种基于多云架构的内容分发服务资源优化调度方法

Country Status (1)

Country Link
CN (1) CN107241384B (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107864220A (zh) * 2017-11-29 2018-03-30 佛山市因诺威特科技有限公司 一种云监视服务器和云客户计算设备
CN108259642A (zh) * 2018-01-02 2018-07-06 上海陆家嘴国际金融资产交易市场股份有限公司 基于私有云的公共服务虚拟机访问方法和装置
CN108268215A (zh) * 2017-12-30 2018-07-10 广东技术师范学院 一种磁盘的突发性访问识别方法
CN108572795A (zh) * 2017-12-21 2018-09-25 北京金山云网络技术有限公司 基于搭建存储虚拟化的扩容方法、装置、设备和存储介质
CN108900343A (zh) * 2018-07-04 2018-11-27 中国人民解放军国防科技大学 基于本地存储的云服务器的资源预测和调度方法
CN109005245A (zh) * 2018-09-07 2018-12-14 广州微算互联信息技术有限公司 云手机的使用管理方法与系统
CN109029564A (zh) * 2018-07-12 2018-12-18 江苏慧学堂系统工程有限公司 一种用于环境检测的计算机网络系统
CN109348250A (zh) * 2018-10-31 2019-02-15 武汉雨滴科技有限公司 一种流媒体数据管理方法
CN109510875A (zh) * 2018-12-14 2019-03-22 北京奇艺世纪科技有限公司 资源分配方法、装置及电子设备
CN109698769A (zh) * 2019-02-18 2019-04-30 深信服科技股份有限公司 应用容灾装置及方法、终端设备、可读存储介质
CN110233683A (zh) * 2019-06-14 2019-09-13 上海恒能泰企业管理有限公司 Ar边缘计算资源调度方法、系统及介质
CN110389817A (zh) * 2018-04-20 2019-10-29 伊姆西Ip控股有限责任公司 多云系统的调度方法、装置和计算机程序产品
CN110704851A (zh) * 2019-09-18 2020-01-17 上海联蔚信息科技有限公司 公有云数据处理方法和设备
CN110704504A (zh) * 2019-09-20 2020-01-17 天翼征信有限公司 数据源采集接口分发方法、系统、存储介质及终端
CN110798660A (zh) * 2019-09-30 2020-02-14 武汉兴图新科电子股份有限公司 基于云联邦音视频融合平台的一体化运维系统
CN111028577A (zh) * 2019-12-26 2020-04-17 宁波舜宇仪器有限公司 一种显微数码互动实验教学系统
CN111131365A (zh) * 2018-11-01 2020-05-08 深圳市云帆加速科技有限公司 一种联网设备空闲网络资源利用方法和系统
CN111159859A (zh) * 2019-12-16 2020-05-15 万般上品(常州)物联网系统有限公司 一种云容器集群的部署方法及系统
CN111241066A (zh) * 2020-01-10 2020-06-05 平安科技(深圳)有限公司 平台数据库自动化运维方法、装置及计算机可读存储介质
CN111405072A (zh) * 2020-06-03 2020-07-10 杭州朗澈科技有限公司 一种基于云厂家成本调度的混合云优化方法
CN111800303A (zh) * 2020-09-09 2020-10-20 杭州朗澈科技有限公司 混合云场景下保证可用集群数量的方法、装置及系统
CN112468558A (zh) * 2020-11-16 2021-03-09 中科三清科技有限公司 基于混合云的请求转发方法、装置、终端及存储介质
CN112948089A (zh) * 2021-03-22 2021-06-11 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心
CN113537809A (zh) * 2021-07-28 2021-10-22 深圳供电局有限公司 一种用于深度学习中资源扩容的主动决策方法及系统
CN113645471A (zh) * 2021-06-22 2021-11-12 北京邮电大学 多云视频分发策略优化方法及系统
CN113741918A (zh) * 2021-09-10 2021-12-03 安超云软件有限公司 云上应用部署的方法及应用
CN114363289A (zh) * 2021-12-22 2022-04-15 天翼阅读文化传播有限公司 一种基于规则引擎的虚拟网络智能调度方法
CN115037956A (zh) * 2022-06-06 2022-09-09 天津大学 一种面向边缘服务器成本优化的流量调度方法
CN116566844A (zh) * 2023-07-06 2023-08-08 湖南马栏山视频先进技术研究院有限公司 一种基于多云融合的数据管控方法与多云融合管理平台
CN117827462A (zh) * 2024-01-16 2024-04-05 青海省交通建设管理有限公司 基于云计算的财务报告分析整合方法及系统

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102801792A (zh) * 2012-07-26 2012-11-28 华南理工大学 基于统计预测的云cdn资源自动部署方法
CN102904969A (zh) * 2012-11-13 2013-01-30 中国电子科技集团公司第二十八研究所 一种分布式云计算环境中信息处理服务的部署方法
CN102984279A (zh) * 2012-12-17 2013-03-20 复旦大学 Cdn预先主动选择优质节点开展优化内容分发服务的方法
CN103576829A (zh) * 2012-08-01 2014-02-12 复旦大学 基于混合遗传算法的云计算虚拟机动态调度方法
CN104065663A (zh) * 2014-07-01 2014-09-24 复旦大学 一种基于混合云调度模型的自动伸缩、费用优化的内容分发服务方法
CN104253865A (zh) * 2014-09-18 2014-12-31 华南理工大学 一种混合型桌面云服务平台的两级管理方法
US20150106504A1 (en) * 2013-10-16 2015-04-16 International Business Machines Corporation Secure cloud management agent
CN104850450A (zh) * 2015-05-14 2015-08-19 华中科技大学 一种面向混合云应用的负载均衡方法及系统
US20160036893A1 (en) * 2013-12-04 2016-02-04 International Business Machines Corporation A system of geographic migration of workloads between private and public clouds
US9288158B2 (en) * 2011-08-08 2016-03-15 International Business Machines Corporation Dynamically expanding computing resources in a networked computing environment
CN106462469A (zh) * 2014-06-22 2017-02-22 思科技术公司 用于网络技术无关多云弹性扩展及隔离的框架

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9288158B2 (en) * 2011-08-08 2016-03-15 International Business Machines Corporation Dynamically expanding computing resources in a networked computing environment
CN102801792A (zh) * 2012-07-26 2012-11-28 华南理工大学 基于统计预测的云cdn资源自动部署方法
CN103576829A (zh) * 2012-08-01 2014-02-12 复旦大学 基于混合遗传算法的云计算虚拟机动态调度方法
CN102904969A (zh) * 2012-11-13 2013-01-30 中国电子科技集团公司第二十八研究所 一种分布式云计算环境中信息处理服务的部署方法
CN102984279A (zh) * 2012-12-17 2013-03-20 复旦大学 Cdn预先主动选择优质节点开展优化内容分发服务的方法
US20150106504A1 (en) * 2013-10-16 2015-04-16 International Business Machines Corporation Secure cloud management agent
US20160036893A1 (en) * 2013-12-04 2016-02-04 International Business Machines Corporation A system of geographic migration of workloads between private and public clouds
CN106462469A (zh) * 2014-06-22 2017-02-22 思科技术公司 用于网络技术无关多云弹性扩展及隔离的框架
CN104065663A (zh) * 2014-07-01 2014-09-24 复旦大学 一种基于混合云调度模型的自动伸缩、费用优化的内容分发服务方法
CN104253865A (zh) * 2014-09-18 2014-12-31 华南理工大学 一种混合型桌面云服务平台的两级管理方法
CN104850450A (zh) * 2015-05-14 2015-08-19 华中科技大学 一种面向混合云应用的负载均衡方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
XUEYING WANG,ZHIHUI LU,JIE WU: "In STechAH: An Autoscaling Scheme for Hadoop in the Private Cloud", 《2015 IEEE INTERNATIONAL CONFERENCE ON SERVICES COMPUTING》 *

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107864220A (zh) * 2017-11-29 2018-03-30 佛山市因诺威特科技有限公司 一种云监视服务器和云客户计算设备
CN108572795A (zh) * 2017-12-21 2018-09-25 北京金山云网络技术有限公司 基于搭建存储虚拟化的扩容方法、装置、设备和存储介质
CN108572795B (zh) * 2017-12-21 2021-05-25 北京金山云网络技术有限公司 基于搭建存储虚拟化的扩容方法、装置、设备和存储介质
CN108268215A (zh) * 2017-12-30 2018-07-10 广东技术师范学院 一种磁盘的突发性访问识别方法
CN108259642A (zh) * 2018-01-02 2018-07-06 上海陆家嘴国际金融资产交易市场股份有限公司 基于私有云的公共服务虚拟机访问方法和装置
CN110389817A (zh) * 2018-04-20 2019-10-29 伊姆西Ip控股有限责任公司 多云系统的调度方法、装置和计算机程序产品
CN108900343A (zh) * 2018-07-04 2018-11-27 中国人民解放军国防科技大学 基于本地存储的云服务器的资源预测和调度方法
CN109029564A (zh) * 2018-07-12 2018-12-18 江苏慧学堂系统工程有限公司 一种用于环境检测的计算机网络系统
CN109005245B (zh) * 2018-09-07 2021-09-14 广州微算互联信息技术有限公司 云手机的使用管理方法与系统
CN109005245A (zh) * 2018-09-07 2018-12-14 广州微算互联信息技术有限公司 云手机的使用管理方法与系统
CN109348250A (zh) * 2018-10-31 2019-02-15 武汉雨滴科技有限公司 一种流媒体数据管理方法
CN111131365A (zh) * 2018-11-01 2020-05-08 深圳市云帆加速科技有限公司 一种联网设备空闲网络资源利用方法和系统
CN111131365B (zh) * 2018-11-01 2022-11-08 金山云(深圳)边缘计算科技有限公司 一种联网设备空闲网络资源利用方法和系统
CN109510875A (zh) * 2018-12-14 2019-03-22 北京奇艺世纪科技有限公司 资源分配方法、装置及电子设备
CN109510875B (zh) * 2018-12-14 2021-03-09 北京奇艺世纪科技有限公司 资源分配方法、装置及电子设备
CN109698769A (zh) * 2019-02-18 2019-04-30 深信服科技股份有限公司 应用容灾装置及方法、终端设备、可读存储介质
CN110233683B (zh) * 2019-06-14 2021-08-31 上海恒能泰企业管理有限公司 Ar边缘计算资源调度方法、系统及介质
CN110233683A (zh) * 2019-06-14 2019-09-13 上海恒能泰企业管理有限公司 Ar边缘计算资源调度方法、系统及介质
CN110704851A (zh) * 2019-09-18 2020-01-17 上海联蔚信息科技有限公司 公有云数据处理方法和设备
CN110704504A (zh) * 2019-09-20 2020-01-17 天翼征信有限公司 数据源采集接口分发方法、系统、存储介质及终端
CN110798660A (zh) * 2019-09-30 2020-02-14 武汉兴图新科电子股份有限公司 基于云联邦音视频融合平台的一体化运维系统
CN111159859A (zh) * 2019-12-16 2020-05-15 万般上品(常州)物联网系统有限公司 一种云容器集群的部署方法及系统
CN111159859B (zh) * 2019-12-16 2024-02-06 万般上品(常州)物联网系统有限公司 一种云容器集群的部署方法及系统
CN111028577A (zh) * 2019-12-26 2020-04-17 宁波舜宇仪器有限公司 一种显微数码互动实验教学系统
CN111241066A (zh) * 2020-01-10 2020-06-05 平安科技(深圳)有限公司 平台数据库自动化运维方法、装置及计算机可读存储介质
CN111405072A (zh) * 2020-06-03 2020-07-10 杭州朗澈科技有限公司 一种基于云厂家成本调度的混合云优化方法
CN111800303A (zh) * 2020-09-09 2020-10-20 杭州朗澈科技有限公司 混合云场景下保证可用集群数量的方法、装置及系统
CN112468558A (zh) * 2020-11-16 2021-03-09 中科三清科技有限公司 基于混合云的请求转发方法、装置、终端及存储介质
CN112468558B (zh) * 2020-11-16 2021-08-20 中科三清科技有限公司 基于混合云的请求转发方法、装置、终端及存储介质
CN112948089A (zh) * 2021-03-22 2021-06-11 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心
CN112948089B (zh) * 2021-03-22 2024-04-05 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心
CN113645471A (zh) * 2021-06-22 2021-11-12 北京邮电大学 多云视频分发策略优化方法及系统
CN113645471B (zh) * 2021-06-22 2022-06-03 北京邮电大学 多云视频分发策略优化方法及系统
CN113537809A (zh) * 2021-07-28 2021-10-22 深圳供电局有限公司 一种用于深度学习中资源扩容的主动决策方法及系统
CN113741918A (zh) * 2021-09-10 2021-12-03 安超云软件有限公司 云上应用部署的方法及应用
CN114363289A (zh) * 2021-12-22 2022-04-15 天翼阅读文化传播有限公司 一种基于规则引擎的虚拟网络智能调度方法
CN114363289B (zh) * 2021-12-22 2023-08-01 天翼阅读文化传播有限公司 一种基于规则引擎的虚拟网络智能调度系统
CN115037956A (zh) * 2022-06-06 2022-09-09 天津大学 一种面向边缘服务器成本优化的流量调度方法
CN116566844B (zh) * 2023-07-06 2023-09-05 湖南马栏山视频先进技术研究院有限公司 一种基于多云融合的数据管控方法与多云融合管理平台
CN116566844A (zh) * 2023-07-06 2023-08-08 湖南马栏山视频先进技术研究院有限公司 一种基于多云融合的数据管控方法与多云融合管理平台
CN117827462A (zh) * 2024-01-16 2024-04-05 青海省交通建设管理有限公司 基于云计算的财务报告分析整合方法及系统

Also Published As

Publication number Publication date
CN107241384B (zh) 2020-11-03

Similar Documents

Publication Publication Date Title
CN107241384A (zh) 一种基于多云架构的内容分发服务资源优化调度方法
Zhang et al. Intelligent workload factoring for a hybrid cloud computing model
CN108897606B (zh) 多租户容器云平台虚拟网络资源自适应调度方法及系统
CN104065663A (zh) 一种基于混合云调度模型的自动伸缩、费用优化的内容分发服务方法
Quesnel et al. Cooperative and reactive scheduling in large‐scale virtualized platforms with DVMS
Racheg et al. Profit-driven resource provisioning in NFV-based environments
Wang et al. Bandwidth guaranteed virtual network function placement and scaling in datacenter networks
Limam et al. Data replication strategy with satisfaction of availability, performance and tenant budget requirements
CN104679594A (zh) 一种中间件分布式计算方法
Rajalakshmi et al. An improved dynamic data replica selection and placement in cloud
US9948741B2 (en) Distributed health-check method for web caching in a telecommunication network
de Assunção et al. Performance analysis of allocation policies for interGrid resource provisioning
US7835286B2 (en) Dynamic multi-objective grid resources access
Wang et al. Optimizing multi-cloud CDN deployment and scheduling strategies using big data analysis
JP5957965B2 (ja) 仮想化システム、負荷分散装置、負荷分散方法、及び負荷分散プログラム
Deng et al. Cloudstreammedia: a cloud assistant global video on demand leasing scheme
Jung et al. Ostro: Scalable placement optimization of complex application topologies in large-scale data centers
Sina et al. CaR-PLive: Cloud-assisted reinforcement learning based P2P live video streaming: a hybrid approach
CN104683480A (zh) 一种基于应用的分布式计算方法
Hbaieb et al. A survey and taxonomy on virtual data center embedding
CN110430236A (zh) 一种部署业务的方法以及调度装置
Gilesh et al. Resource availability–aware adaptive provisioning of virtual data center networks
Chen et al. A fuzzy-based decision approach for supporting multimedia content request routing in cdn
AT&T
Jiang et al. An adaptive strategy of online session migration for Streaming Media Edge Cloud

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20201103

CF01 Termination of patent right due to non-payment of annual fee