CN111611062A - 云边协同分层计算方法及云边协同分层计算系统 - Google Patents
云边协同分层计算方法及云边协同分层计算系统 Download PDFInfo
- Publication number
- CN111611062A CN111611062A CN202010371990.5A CN202010371990A CN111611062A CN 111611062 A CN111611062 A CN 111611062A CN 202010371990 A CN202010371990 A CN 202010371990A CN 111611062 A CN111611062 A CN 111611062A
- Authority
- CN
- China
- Prior art keywords
- edge
- cloud
- task
- layer
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 62
- 238000012545 processing Methods 0.000 claims abstract description 49
- 230000002787 reinforcement Effects 0.000 claims abstract description 21
- 238000011156 evaluation Methods 0.000 claims abstract description 6
- 238000007781 pre-processing Methods 0.000 claims abstract description 5
- 238000012549 training Methods 0.000 claims abstract description 5
- 238000000034 method Methods 0.000 claims description 42
- 230000008569 process Effects 0.000 claims description 27
- 238000005265 energy consumption Methods 0.000 claims description 13
- 230000004044 response Effects 0.000 claims description 13
- 238000005457 optimization Methods 0.000 claims description 9
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 4
- 230000001186 cumulative effect Effects 0.000 claims 1
- 230000008901 benefit Effects 0.000 abstract description 6
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000006872 improvement Effects 0.000 abstract description 2
- 238000009826 distribution Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multi Processors (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明提供了一种云边协同分层计算方法及云边协同分层计算系统,所述云边协同分层计算方法主要包括以下步骤:设备层随机生成实时任务,对任务进行预处理后,将任务传输到云层或边缘层;引入最大化累积奖赏(QoS)作为评价指标;将QoS代入至深度强化学习模型中进行训练,以获得最优策略;对传入云层的任务直接进行处理;对传入边缘层的任务进行单边计算或边边协同计算。本发明依托深度强化学习相关技术和算法,并且结合了云计算和边缘计算各自的计算优势,有助于集成和充分利用不同的计算资源,达成云边资源协同、高效的最佳利用,在计算能力、任务处理效率以及低延迟的综合层面上,相较于传统的单云或单边计算系统有了很大的提升。
Description
技术领域
本发明涉及一种云边协同分层计算方法及云边协同分层计算系统,属于边缘计算和云计算领域。
背景技术
传统的计算环境中所有的任务都被传输到云或边缘进行计算,随着移动数据流量的巨大增长以及AI等计算密集型复杂任务的出现,传统以云为核心的计算系统网络出现拥塞和传输时延长的问题,无法及时地处理实时性需求高的任务。而边缘很少通过考虑多个计算服务器的协同来解决问题,造成边缘服务器(ES)中的许多任务排队,无法满足实时要求和边缘资源有效、合理的利用。
如何借助一种有效的云边协同计算方法,发挥云计算和边缘计算的最大优势,从而缓解现有云计算和边缘计算隔离或不协调造成的高时延、高能耗和超负载等问题,是当前研究的热点。因此,迫切需要有效的融合计算框架来集成和充分利用不同的计算资源,使得不同的计算任务使用适合的计算资源,以及构建一些新颖而有效的策略和算法以确保资源的有效利用和实时性能。
有鉴于此,确有必要提出一种云边协同分层计算方法及云边协同分层计算系统,以解决上述问题。
发明内容
本发明的目的在于提供一种云边协同分层计算方法及云边协同分层计算系统,以充分利用云边资源的各自优势,使云边所有计算资源都集成到分层计算体系结构中,将不同的计算任务移动到合适的计算资源。
为实现上述目的,本发明提供了一种云边协同分层计算方法,主要包括以下步骤:
步骤1、设备层随机生成实时任务,对任务进行预处理后,将任务传输到云层或边缘层;
步骤2、引入最大化累积奖赏(QoS)作为评价指标;
步骤3、将QoS代入至深度强化学习模型中进行训练,以获得最优策略;
步骤4、对传入云层的任务直接进行处理;对传入边缘层的任务进行单边计算或边边协同计算;
步骤5、对于计算量小且时延要求低的任务,通过SAE算法选择合适的边缘服务器进行单边计算;
步骤6、对于计算量大且时延要求较高的任务,通过边缘计算集群的协同算法对任务以分解、处理、组合的方式进行边边协同计算。
可选的,步骤1中所述预处理包括:分析并得到任务调度的响应时间、吞吐量、处理任务所需的能耗。
可选的,步骤2中所述最大化累积奖赏(QoS)为:
QoS={Response Time,Throughput,Energy}={ReT,Thr,En},其中,ReT为任务调度的响应时间,Thr为吞吐量,En为处理任务所需的能耗,计算公式如下:
其中,m表示传输到云层的任务数,n表示传输到边缘层的任务数。
可选的,步骤2中最大化累积奖赏(QoS)的优化目标为:
max(QoS)=max({ReT′,Thr′,En′}),
其中,ReT’,Thr’,En’分别为ReT,Thr,En归一化处理后的结果。
可选的,步骤3中,所述深度强化学习模型使用基于深度强化学习的任务调度优化算法进行训练。
可选的,步骤4中,根据计算量和时延要求的不同,对传入边缘层的任务选择进行单边计算或边边协同计算。
可选的,步骤5中,所述SAE算法的具体步骤如下:
S1:系统搜索所有的边缘服务器,并构造成集合E;
S2:根据新任务的排队时间的计算公式,得到集合E中每个边缘服务器的排队时间Yqueue;
S3:评估排队时间并判断是否大于任务x的截止时间,更新边缘服务器的候选集Es以处理该任务,然后再根据解决任务的总时间再次更新Es;
S4:经过S1-S3后,边缘服务器的候选集Es中的每个边缘服务器都满足处理该任务的要求,最后,从Es中为任务x随机选择边缘服务器。
可选的,步骤6中,所述边缘计算集群的协同算法的具体步骤如下:
S1:根据处理时间的公式,集合E中的每个边缘服务器在约束条件下计算子任务指令号IN(E),然后,以降序对IN(E)进行排序,并创建排序后的边缘服务器的候选集Es,再将子任务指令号相加,并评估其是否满足任务x的要求;
S2:选定N个边缘服务器协同处理任务x,组成集合Ec={ec0,ec1,ec2,...,ecN-1},在Ec中选定ec0为主边缘服务器,然后主边缘服务器将任务x被划分成N个子任务,即x={sx0,sx1,sx2,...,sxN-1},主边缘服务器划分任务需要的时间为Ydivide(x);
S3:将各个子任务sxi分配到集合Ec中适合的边缘服务器eci进行处理,处理子任务需要的时间为Tprocess(sxi,eci),选取最大的Tprocess(sxi,eci)值作为子任务的总共处理时间,即max(Tsubtask(sx1,ec1),...,Tsubtask(sxN-1,ecN-1));
S4:主边缘服务器合并最终的结果,需要时间为Tmerge(x,Ec),计算整个任务处理过程所耗费的时间,若满足时延需求,即Ttask(x,Ec)≤Trequire(x),则处理结束,否则循环执行。
为实现上述目的,本发明还提供了一种云边协同分层计算系统,应用上述的云边协同分层计算方法,所述云边协同分层计算系统包括设备层、云层和边缘层,所述设备层位于云边协同分层计算系统的最底层,所述云层和边缘层位于所述设备层的上层。
可选的,所述设备层的周围设置有数据采集设备,所述数据采集设备用于收集工业设备的实时任务信息;所述边缘层由多个边缘服务器组成。
本发明的有益效果是:本发明一方面利用云计算巨大的计算和存储资源处理复杂的计算任务,来缓解边缘计算的计算能力不足、资源有限等问题;另一方面利用边缘计算的边缘信息及时处理能力来缓解云计算的高时延、高能耗等问题,合理地优化了计算任务的分配策略,使得云边负载达到平衡,云边资源得到最佳利用;此外,边缘与边缘之间的相互协同可以减轻单一边缘节点的计算压力,增强边缘设备之间的数据共享以及协同任务之间的分配与组合,更好的满足任务完成的实时性要求。
附图说明
图1是本发明云边协同分层计算系统的结构图。
图2是本发明云边协同分层计算方法的步骤流程图。
图3是本发明中云边协同计算的工作流程图。
图4是本发明中边缘计算的工作流程图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,本发明提出了一种云边协同分层计算系统,包括设备层、云层和边缘层,以下对设备层、云层和边缘层的功能具体阐述。
设备层:设备层位于云边协同分层计算系统的最底层,主要由工业设备和位于工业设备周围的大量数据采集设备组成,所述数据采集设备用于收集工业设备的实时任务信息,所有计算任务都在工业设备上创建并通过网关等通信设备传输到上层的云层和边缘层中,一些时延要求高的任务会在边缘层中被直接处理,而一些复杂任务会进一步上传到云层中。
云层:云层位于设备层的上层,主要借助于深度强化学习算法,通过将深度学习的感知能力和强化学习的决策能力相结合,利用深度学习的感知能力来对海量数据进行处理,利用强化学习的决策能力以不断试错的方式与环境进行交互,通过最大化累积奖赏(QoS)的方式来获得最优策略,从而找到任务与云边计算资源的最佳匹配。
边缘层:边缘层位于设备层的上层,边缘层由多个边缘服务器(ES)组成,每个边缘服务器在计算能力、存储能力和任务负载的能力上都是不同的,同时由于不同的边缘服务器可能处理不同复杂度的任务,因此它们可能具有不同的排队时间值。
对于调度到边缘层的任务,需要将它们安排并发送到合适的边缘服务器,以确保实时约束。由于单个边缘的计算能力有限,需要多个边缘之间进行分时配合,提升云边协同分层计算系统整体的能力。显然,有两种情况:(1)对于计算量小且时延要求低的任务,单个边缘服务器可以胜任;(2)对于计算量大且时延要求较高的任务,单个边缘服务器无法及时处理。
只有一个边缘服务器时,可能无法及时地处理计算量相对较大的任务,因此需要协同多个边缘服务器以创建ESC(边缘服务器的候选集合)来共同处理。因此,有两种用于计算资源调度的算法:SAE算法和边缘计算集群的协同算法。SAE算法用于满足计算任务的实时性要求较低的情况,根据任务负载、通信时间和计算能力从ES集(ESS)中选择合适的边缘服务器,若是要求低延迟和高计算量则采用边缘计算集群的协同算法,因此对于不同的计算任务选择不同的边缘处理方式。
如图2所示,本发明还揭示了一种云边协同分层计算方法,具体包括以下步骤:
步骤1、设备层随机生成实时任务,对任务进行预处理后,将任务传输到云层或边缘层;
步骤2、引入最大化累积奖赏(QoS)作为评价指标;
步骤3、将QoS代入至深度强化学习模型中进行训练,以获得最优策略;
步骤4、对传入云层的任务直接进行处理;对传入边缘层的任务进行单边计算或边边协同计算;
步骤5、对于计算量小且时延要求低的任务,通过SAE算法选择合适的边缘服务器进行单边计算;
步骤6、对于计算量大且时延要求较高的任务,通过边缘计算集群的协同算法对任务以分解、处理、组合的方式进行边边协同计算。
以下将对步骤1-步骤6进行详细说明。
在步骤1中,对于云边协同分层计算系统,所有计算任务都在设备层上创建,包括生产机器、无线网络节点和移动元素,任务是随机事件。对于产生的任务传输到云层还是边缘层需要考虑多种因素,根据云计算和边缘计算的特点,对任务信息包含的数据进行预处理,即分析并得到任务调度的响应时间、吞吐量、处理任务所需的能耗。
在步骤2中,将预处理后的任务传入云层或边缘层,选择响应时间、吞吐量、能耗因素作为云边协同计算选择的评价指标。将响应时间小、吞吐量大、能耗小的任务移动到云层进行处理,而将响应时间大、吞吐量小、能耗大的任务移动到边缘层进行处理。基于此,将任务调度的响应时间、吞吐量、处理任务所需的能耗纳入评价指标QoS中:
QoS={Response Time,Throughput,Energy}={ReT,Thr,En},
其中,ReT为任务调度的响应时间,Thr为吞吐量,En为处理任务所需的能耗。由于QoS的三个属性都是效益类型的属性,所以采取“求和”的方式进行计算。计算公式如下:
其中,m表示传输到云层的任务数,n表示传输到边缘层的任务数。采用归一化的方法将不同的QoS属性映射到[0,1]区间中。对各个任务的QoS属性归一化处理后,得到QoS={ReT',Thr',En'},此时需要将各个QoS属性按照重要性的不同进行整合。在整个任务调度过程中,我们的目标是使整个系统的QoS尽可能大,这是一个全局多目标优化问题,QoS的优化目标为:
max(QoS)=max({ReT',Thr',En′}),
其中,ReT’,Thr’,En’分别为ReT,Thr,En归一化处理后的结果。
在步骤3中,深度强化学习模型使用基于深度强化学习的任务调度优化算法进行训练,使用深度强化学习模型解决该任务调度的优化问题,深度强化学习模型在训练过程中注入人类反馈来重塑奖励信号,通过将深度学习的感知能力和强化学习的决策能力相结合,不断以试错的方式与环境进行交互,通过最大化累积奖赏的方式来获得当前环境的最优策略。
如图3所示,首先智能体(agent)通过与环境中任务的分布情况进行交互,获得较高维度的观察结果,借助于深度学习方法来感知观察,得到具体的状态s特征表示;然后将步骤2中归一化的QoS计算值作为行为的奖励r,agent根据获得的奖励和当前环境所处状态,通过采取某种策略将当前等待调度的任务调度到云层或边缘层;最后,环境中任务的分布情况根据agent的动作,对agent做出一定的奖励r(正向奖励或者惩罚),同时环境中任务的分布情况发生了改变。
通过以上过程的不断循环学习,找出满足约束条件的最大QoS值的行为策略,可以得到云边资源的最佳协同利用。基于深度强化学习的任务调度优化算法如下:
输入:记忆库M(对应于环境中任务的QoS指标);
输出:QoS取最大值的任务组合(归一化QoS值作为奖赏R);
S1:初始化记忆库M,它的容量为N,初始化Q网络,随机生成权重σ,初始化targetQ网络,权重为σ-=σ,循环遍历episode=1,2,…,n;
S2:初始化agent的初始状态s1,循环遍历S=1,2,…,W;
S3:使用ε-greedy策略生成agent的动作;
S4:在状态st下执行动作at,将执行动作at后得到的归一化QoS值作为奖励进行反馈r以及产生新的状态st+1,将经验样本(st,at,rt,st+1)存在的M中;
S5:从M中随机抽取一个样本(st,at,rt,st+1);
S6:如果k+1步是最后一个的话,令(xk=rk);否则
S7:对(x1-(st,at+1,σ))2关于σ使用梯度下降法进行更新;每隔T步更新targetQ网络,满足σ-=σ,并结束。
在步骤4中,经过步骤3中的深度强化学习模型训练后,使得具有不同要求的计算任务能够传输到合适的计算位置,对于传输到云层的计算任务,由于云计算系统拥有强大的并发计算能力,能够对进入该云计算系统的任务队列进行及时有效的处理。对于传输到边缘层的任务,需要将它们安排并发送到合适的边缘服务器,以确保实时约束。
如图4所示,对于任务x,实时要求处理时间阈值为Trequire(x),首先判断空闲单个边缘服务器处理该任务的最小时间Ttask(x,ES)是否小于阈值,若小于则在符合条件的边缘服务器中选择;若超过了阈值,则选择一个边缘服务器群集协同处理该任务。
在步骤5中,对于计算量小且时延要求低的任务,单个边缘服务器可以处理,单个边缘服务器处理任务x的时间可以表示为
Ttask(x,ES)=Tqueue(x,ES)+Tprocess(x,ES),
其中,Tqueue(x,ES)和Tprocess(x,ES)分别表示向单个边缘服务器发送任务x的排队时间和处理任务的时间。
在边缘服务器中设置一系列任务X={x1,x2,x3,...,x|X|},计算机的一组指令由XN={xn1,xn2,xn3,...,xn|X|}表示,则新任务的排队时间Tqueue(xi,ES)为
其中,INj和Vprocess分别是第i个任务的第j个指令和边缘服务器的处理速度,同理,处理任务所需的时间Tprocess(x,ES)为
综上,得到处理该任务的时间
为了确保处理任务x的实时需求,边缘服务器处理任务的时间必须小于要求的任务完成时间,即
Ttask(x,ES)≤Trequire(x)。
假设有多个边缘服务器靠近包含任务x的设备。假设E为边缘服务器的集合,即
E={e1,e2,e3,...,e|E|}。
综上,可得SAE算法的具体步骤如下:
S1:系统搜索所有的边缘服务器,并构造成集合E;
S2:根据新任务的排队时间的计算公式,得到集合E中每个边缘服务器的排队时间Tqueue;
S3:评估排队时间并判断是否大于任务x的截止时间,更新边缘服务器的候选集Es以处理该任务,然后再根据解决任务的总时间再次更新Es;
S4:经过S1-S3后,边缘服务器的候选集Es中的每个边缘服务器都满足处理该任务的要求,最后,从Es中为任务x随机选择边缘服务器。
在步骤6中,对于计算量大且时延要求较高的任务,单个边缘服务器无法及时处理,需要协同多个ES共同协同完成。该方法的主要思想就是选择一个边缘服务器作为主服务器来划分任务和合并结果,并根据延迟选择其它边缘服务器来完成任务,以分解、处理、组合的方式进行计算。
假设任务x被划分成N个子任务,x={sx0,sx1,sx2,...,sxN-1},这些子任务可在ESC上并行执行以确保实时需求。假设协同处理任务x的边缘服务器的候选集合为Ec={ec0,ec1,ec2,...,ecN-1}。
对于子任务sxi∈x(0≤i≤N-1),可以得到处理时间
其中,是子任务的指令号,Vprocess(eci)是集合Ec中第i个边缘服务器的任务处理速度。由于子任务和边缘服务器是一对一的关系,不存在任务排队时间,因此得到边缘服务器eci处理子任务sxi需要的时间为
Tsubtask(sxi,eci)=Tprocess(sxi,eci)。
主边缘服务器负责划分任务和合并结果,若划分任务需要的时间为Tdivide(x),合并结果需要的时间为Tmerge(x,Ec),则主边缘服务器的处理时间表述为
Tmaintask(x,sx0,Ec)=Tdivide(x)+Tmerge(x,Ec)。
由于子任务在ESC上是并行执行处理,因此,处理这些子任务耗费的总时间取决于子任务中耗时最大的那一个,即
Tsubtask(sxi,eci)=max(Tsubtask(sx1,ec1),...,Tsubtask(sxN-1,ecN-1))。
综上,处理任务x总共所需时间为
Ttask(x,Es)=Tmaintask(x,sx0,Ec)+Tsubtask(sxi,eci),
为了确保处理任务x的实时需求,边缘服务器处理任务的时间必须小于要求的任务完成时间,即:
Ttask(x,Ec)≤Trequire(x)。
综上,可得边缘计算集群的协同算法的具体步骤如下:
S1:根据处理时间的公式,集合E中的每个边缘服务器在约束条件下计算子任务指令号IN(E),然后,以降序(即从最大到最小)对IN(E)进行排序,并创建排序后的边缘服务器的候选集Es,再将子任务指令号相加,并评估其是否满足任务x的要求;
S2:选定N个边缘服务器协同处理任务x,组成集合Ec={ec0,ec1,ec2,...,ecN-1},在Ec中选定ec0为主边缘服务器,然后主边缘服务器将任务x划分成N个子任务,即x={sx0,sx1,sx2,...,sxN-1},主边缘服务器划分任务需要的时间为Tdividex;
S3:将各个子任务sxi分配到集合Ec中适合的边缘服务器eci进行处理,处理子任务需要的时间为Tprocess(sxi,eci),选取最大的Tprocess(sxi,eci)值作为子任务的总共处理时间,即max(Tsubtask(sx1,ec1),…,Tsubtask(sxN-1,ecN-1));
S4:主边缘服务器合并最终的结果,需要时间为Tmerge(x,Ec),计算整个任务处理过程所耗费的时间,若满足时延需求,即Ttask(x,Ec)≤Trequire(x),则处理结束,否则循环执行。
综上所述,本发明依托深度强化学习相关技术和算法,并且结合了云计算和边缘计算各自的计算优势,有助于集成和充分利用不同的计算资源,达成云边资源协同、高效的最佳利用,在计算能力、任务处理效率以及低延迟的综合层面上,相较于传统的单云或单边计算系统有了很大的提升。一方面利用云计算巨大的计算和存储资源处理复杂的计算任务,来缓解边缘计算的计算能力不足、资源有限等问题;另一方面利用边缘计算的边缘信息及时处理能力来缓解云计算的高时延、高能耗等问题,合理地优化了计算任务的分配策略,使得云边负载达到平衡,云边资源得到最佳利用;此外,边缘与边缘之间的相互协同可以减轻单一边缘节点的计算压力,增强边缘设备之间的数据共享以及协同任务之间的分配与组合,更好的满足任务完成的实时性要求。
以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种云边协同分层计算方法,其特征在于,主要包括以下步骤:
步骤1、设备层随机生成实时任务,对任务进行预处理后,将任务传输到云层或边缘层;
步骤2、引入最大化累积奖赏(QoS)作为评价指标;
步骤3、将QoS代入至深度强化学习模型中进行训练,以获得最优策略;
步骤4、对传入云层的任务直接进行处理;对传入边缘层的任务进行单边计算或边边协同计算;
步骤5、对于计算量小且时延要求低的任务,通过SAE算法选择合适的边缘服务器进行单边计算;
步骤6、对于计算量大且时延要求较高的任务,通过边缘计算集群的协同算法对任务以分解、处理、组合的方式进行边边协同计算。
2.根据权利要求1所述的云边协同分层计算方法,其特征在于,步骤1中所述预处理包括:分析并得到任务调度的响应时间、吞吐量、处理任务所需的能耗。
4.根据权利要求3所述的云边协同分层计算方法,其特征在于,步骤2中最大化累积奖赏(QoS)的优化目标为:
max(QoS)=max({ReT′,Thr′,En′}),
其中,ReT’,Thr’,En’分别为ReT,Thr,En归一化处理后的结果。
5.根据权利要求1所述的云边协同分层计算方法,其特征在于:步骤3中,所述深度强化学习模型使用基于深度强化学习的任务调度优化算法进行训练。
6.根据权利要求1所述的云边协同分层计算方法,其特征在于:步骤4中,根据计算量和时延要求的不同,对传入边缘层的任务选择进行单边计算或边边协同计算。
7.根据权利要求1所述的云边协同分层计算方法,其特征在于,步骤5中,所述SAE算法的具体步骤如下:
S1:系统搜索所有的边缘服务器,并构造成集合E;
S2:根据新任务的排队时间的计算公式,得到集合E中每个边缘服务器的排队时间Tqueue;
S3:评估排队时间并判断是否大于任务x的截止时间,更新边缘服务器的候选集Es以处理该任务,然后再根据解决任务的总时间再次更新Es;
S4:经过S1-S3后,边缘服务器的候选集Es中的每个边缘服务器都满足处理该任务的要求,最后,从Es中为任务x随机选择边缘服务器。
8.根据权利要求7所述的云边协同分层计算方法,其特征在于,步骤6中,所述边缘计算集群的协同算法的具体步骤如下:
S1:根据处理时间的公式,集合E中的每个边缘服务器在约束条件下计算子任务指令号IN(E),然后,以降序对IN(E)进行排序,并创建排序后的边缘服务器的候选集Es,再将子任务指令号相加,并评估其是否满足任务x的要求;
S2:选定N个边缘服务器协同处理任务x,组成集合Ec={ec0,ec1,ec2,...,eCN-1},在Ec中选定ec0为主边缘服务器,然后主边缘服务器将任务x被划分成N个子任务,即x={sx0,sx1,sx2,...,sxN-1},主边缘服务器划分任务需要的时间为Tdivide(x);
S3:将各个子任务Sxi分配到集合Ec中适合的边缘服务器eci进行处理,处理子任务需要的时间为Tprocess(sxi,eci),选取最大的Tprocess(sxi,eci)值作为子任务的总共处理时间,即max(Ysubtask(sx1,ec1),...,Tsubtask(sxN-1,ecN-1));
S4:主边缘服务器合并最终的结果,需要时间为Tmerge(x,Ec),计算整个任务处理过程所耗费的时间,若满足时延需求,即Ttask(x,Ec)≤Trequire(x),则处理结束,否则循环执行。
9.一种云边协同分层计算系统,其特征在于,应用权利要求1-8中任一项所述的云边协同分层计算方法,所述云边协同分层计算系统包括设备层、云层和边缘层,所述设备层位于云边协同分层计算系统的最底层,所述云层和边缘层位于所述设备层的上层。
10.根据权利要求9所述的云边协同分层计算系统,其特征在于:所述设备层的周围设置有数据采集设备,所述数据采集设备用于收集工业设备的实时任务信息;所述边缘层由多个边缘服务器组成。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010371990.5A CN111611062B (zh) | 2020-05-06 | 2020-05-06 | 云边协同分层计算方法及云边协同分层计算系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010371990.5A CN111611062B (zh) | 2020-05-06 | 2020-05-06 | 云边协同分层计算方法及云边协同分层计算系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111611062A true CN111611062A (zh) | 2020-09-01 |
CN111611062B CN111611062B (zh) | 2022-10-25 |
Family
ID=72201752
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010371990.5A Active CN111611062B (zh) | 2020-05-06 | 2020-05-06 | 云边协同分层计算方法及云边协同分层计算系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111611062B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112118135A (zh) * | 2020-09-14 | 2020-12-22 | 南昌市言诺科技有限公司 | 云边协同架构工业互联网平台的最小资源配置方法和装置 |
CN112202900A (zh) * | 2020-09-30 | 2021-01-08 | 无锡雪浪数制科技有限公司 | 一种新型架构的边缘计算系统 |
CN112860407A (zh) * | 2021-03-02 | 2021-05-28 | 东南大学 | 一种云边协作的序列依赖流水车间任务调度执行优化方法 |
CN113315669A (zh) * | 2021-07-28 | 2021-08-27 | 江苏电力信息技术有限公司 | 基于云边协同的吞吐量优化的机器学习推断任务部署方法 |
CN113553146A (zh) * | 2021-04-25 | 2021-10-26 | 北京航空航天大学 | 一种基于云边协同计算任务并合调度方法 |
CN114564312A (zh) * | 2022-03-03 | 2022-05-31 | 北京航空航天大学云南创新研究院 | 一种基于自适应深度神经网络的云边端协同计算方法 |
CN115562760A (zh) * | 2022-11-22 | 2023-01-03 | 南京邮电大学 | 基于边缘计算节点打分表的深度学习模型分层卸载方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130346614A1 (en) * | 2012-06-26 | 2013-12-26 | International Business Machines Corporation | Workload adaptive cloud computing resource allocation |
CN109669768A (zh) * | 2018-12-11 | 2019-04-23 | 北京工业大学 | 一种面向边云结合架构的资源分配和任务调度方法 |
CN111045828A (zh) * | 2019-12-27 | 2020-04-21 | 广东电科院能源技术有限责任公司 | 基于配电网台区终端的分布式边缘计算方法和相关装置 |
CN111064633A (zh) * | 2019-11-28 | 2020-04-24 | 国网甘肃省电力公司电力科学研究院 | 一种云边协同电力信息通信设备自动化测试资源分配方法 |
-
2020
- 2020-05-06 CN CN202010371990.5A patent/CN111611062B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130346614A1 (en) * | 2012-06-26 | 2013-12-26 | International Business Machines Corporation | Workload adaptive cloud computing resource allocation |
CN109669768A (zh) * | 2018-12-11 | 2019-04-23 | 北京工业大学 | 一种面向边云结合架构的资源分配和任务调度方法 |
CN111064633A (zh) * | 2019-11-28 | 2020-04-24 | 国网甘肃省电力公司电力科学研究院 | 一种云边协同电力信息通信设备自动化测试资源分配方法 |
CN111045828A (zh) * | 2019-12-27 | 2020-04-21 | 广东电科院能源技术有限责任公司 | 基于配电网台区终端的分布式边缘计算方法和相关装置 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112118135A (zh) * | 2020-09-14 | 2020-12-22 | 南昌市言诺科技有限公司 | 云边协同架构工业互联网平台的最小资源配置方法和装置 |
CN112202900A (zh) * | 2020-09-30 | 2021-01-08 | 无锡雪浪数制科技有限公司 | 一种新型架构的边缘计算系统 |
CN112202900B (zh) * | 2020-09-30 | 2022-06-21 | 无锡雪浪数制科技有限公司 | 一种新型架构的边缘计算系统 |
CN112860407A (zh) * | 2021-03-02 | 2021-05-28 | 东南大学 | 一种云边协作的序列依赖流水车间任务调度执行优化方法 |
CN113553146A (zh) * | 2021-04-25 | 2021-10-26 | 北京航空航天大学 | 一种基于云边协同计算任务并合调度方法 |
CN113315669A (zh) * | 2021-07-28 | 2021-08-27 | 江苏电力信息技术有限公司 | 基于云边协同的吞吐量优化的机器学习推断任务部署方法 |
CN114564312A (zh) * | 2022-03-03 | 2022-05-31 | 北京航空航天大学云南创新研究院 | 一种基于自适应深度神经网络的云边端协同计算方法 |
CN115562760A (zh) * | 2022-11-22 | 2023-01-03 | 南京邮电大学 | 基于边缘计算节点打分表的深度学习模型分层卸载方法 |
CN115562760B (zh) * | 2022-11-22 | 2023-05-30 | 南京邮电大学 | 基于边缘计算节点打分表的深度学习模型分层卸载方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111611062B (zh) | 2022-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111611062B (zh) | 云边协同分层计算方法及云边协同分层计算系统 | |
CN109753751B (zh) | 一种基于机器学习的mec随机任务迁移方法 | |
CN108182115B (zh) | 一种云环境下的虚拟机负载均衡方法 | |
CN107888669B (zh) | 一种基于深度学习神经网络的大规模资源调度系统及方法 | |
CN110737529A (zh) | 一种面向短时多变大数据作业集群调度自适应性配置方法 | |
CN110096349A (zh) | 一种基于集群节点负载状态预测的作业调度方法 | |
CN100576177C (zh) | 基于QoS约束的双向分级网格资源调度方法 | |
CN104168318A (zh) | 一种资源服务系统及其资源分配方法 | |
CN104657221A (zh) | 一种云计算中基于任务分类的多队列错峰调度模型及方法 | |
CN104317658A (zh) | 一种基于MapReduce的负载自适应任务调度方法 | |
Liao et al. | Online computation offloading with double reinforcement learning algorithm in mobile edge computing | |
CN111782627B (zh) | 面向广域高性能计算环境的任务与数据协同调度方法 | |
Tong et al. | DDQN-TS: A novel bi-objective intelligent scheduling algorithm in the cloud environment | |
CN113515351A (zh) | 一种基于能耗与QoS协同优化的资源调度实现方法 | |
Dong et al. | Quantum particle swarm optimization for task offloading in mobile edge computing | |
CN115934333A (zh) | 基于历史数据感知的云计算资源调度方法及调度系统 | |
CN114327811A (zh) | 一种任务调度方法、装置、设备及可读存储介质 | |
CN116939866A (zh) | 一种基于协同计算和资源分配联合优化的无线联邦学习效率提升方法 | |
He | Optimization of edge delay sensitive task scheduling based on genetic algorithm | |
CN111352713A (zh) | 边缘环境面向时延优化的自动驾驶推理任务工作流调度方法 | |
Singhrova et al. | Prioritized GA-PSO algorithm for efficient resource allocation in fog computing | |
CN117808246A (zh) | 柔性作业车间调度方法、装置及系统 | |
CN117436485A (zh) | 基于权衡时延和精度的多退出点的端-边-云协同系统及方法 | |
CN113157344B (zh) | 移动边缘计算环境下基于drl的能耗感知任务卸载方法 | |
Guan et al. | HierRL: Hierarchical reinforcement learning for task scheduling in distributed systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |