CN116489708A - 面向元宇宙的云边端协同的移动边缘计算任务卸载方法 - Google Patents
面向元宇宙的云边端协同的移动边缘计算任务卸载方法 Download PDFInfo
- Publication number
- CN116489708A CN116489708A CN202310455136.0A CN202310455136A CN116489708A CN 116489708 A CN116489708 A CN 116489708A CN 202310455136 A CN202310455136 A CN 202310455136A CN 116489708 A CN116489708 A CN 116489708A
- Authority
- CN
- China
- Prior art keywords
- representing
- edge
- cloud
- task
- energy consumption
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000005265 energy consumption Methods 0.000 claims abstract description 63
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 21
- 230000008569 process Effects 0.000 claims abstract description 19
- 230000005540 biological transmission Effects 0.000 claims description 45
- 230000009471 action Effects 0.000 claims description 29
- 230000006870 function Effects 0.000 claims description 28
- 238000004364 calculation method Methods 0.000 claims description 24
- 238000003860 storage Methods 0.000 claims description 7
- 238000013468 resource allocation Methods 0.000 claims description 4
- 238000005070 sampling Methods 0.000 claims description 4
- 238000012549 training Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 abstract description 9
- 230000004044 response Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 230000003993 interaction Effects 0.000 description 4
- 230000003190 augmentative effect Effects 0.000 description 3
- 230000002787 reinforcement Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000009916 joint effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/02—Traffic management, e.g. flow control or congestion control
- H04W28/08—Load balancing or load distribution
- H04W28/09—Management thereof
- H04W28/0917—Management thereof based on the energy state of entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/02—Traffic management, e.g. flow control or congestion control
- H04W28/08—Load balancing or load distribution
- H04W28/09—Management thereof
- H04W28/0925—Management thereof using policies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/02—Traffic management, e.g. flow control or congestion control
- H04W28/08—Load balancing or load distribution
- H04W28/09—Management thereof
- H04W28/0958—Management thereof based on metrics or performance parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/02—Traffic management, e.g. flow control or congestion control
- H04W28/08—Load balancing or load distribution
- H04W28/09—Management thereof
- H04W28/0958—Management thereof based on metrics or performance parameters
- H04W28/0967—Quality of Service [QoS] parameters
- H04W28/0975—Quality of Service [QoS] parameters for reducing delays
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Multi Processors (AREA)
Abstract
本发明提供了一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法。该方法包括:根据用户终端设备、边缘服务器和云服务器的时延消耗和能量消耗,计算出云‑边‑端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗和总能量消耗;以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数;采用改进的云边端协同网络计算卸载算法求解所述目标函数,得到最优的用户终端设备的任务卸载策略。本发明方法有效融合云边端的计算能力,寻求强时效、低代价、实时性和可用性的联合目标,有效解决了云上集中处理带宽消耗大、响应速度慢的问题以及边端处理能力不足的问题,为用户提供了良好的体验。
Description
技术领域
本发明涉及移动边缘计算技术领域,尤其涉及一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法。
背景技术
随着万物互联时代的到来,区块链、人工智能、虚拟现实/增强现实及传感技术、移动通信及泛在计算等各种新型互联网技术愈发成熟,使元宇宙的进一步发展成为可能,并进一步促进人们物质生活各个方面的数字化转型。元宇宙是整合多种新技术而产生的新型虚实相融的互联网应用和社会形态,它基于扩展现实技术提供沉浸式体验,以及数字孪生技术生成现实世界的镜像,通过区块链技术搭建经济体系,允许用户进行内容生产和编辑。
元宇宙是一种全新的网络平台,集合了社交、公共服务、智能制造、医疗健康和教育等多种功能,是以区块链、人工智能、VR(Virtual Reality,虚拟现实)/AR(AugmentedReality,增强现实)技术、数字孪生等技术为底层架构的综合技术形态,实现了企业平台与公共平台的互联互通。
在虚实世界交互、用户之间的交互以及元宇宙应用的运行过程中都会产生难以估计的海量数据,用户可以使用云计算技术将个人数据上传到云端获取计算结果。然而,在某些情况下,边缘终端设备在将本地计算任务提交到在云计算服务器时,往往需要占用大量网络带宽,当终端与云端距离较远时,网络延迟大大增加,影响用户体验。移动边缘计算(Mobile Edge Computing,MEC)可以减轻中央服务器的计算压力。
不同于传统的“云--端”网络架构,MEC通过将云计算中心的计算能力下沉、拓展至更靠近用户的边缘侧服务器,从而构建更加高效的“云--边--端”架构,用户可以将终端设备产生的海量计算任务卸载至距离设备较近的边缘侧服务器,因此云边端协同技术可以进一步优化元宇宙中规模庞大、高复杂性、仿真和交互带来的的高性能算力问题。
目前,现有技术中有关边缘计算卸载技术的研究工作并没有从云边端协同角度关注元宇宙,不能很好地应用在元宇宙场景中,且仍旧存在算力卸载低效、高时延、不安全等问题。
发明内容
本发明的实施例提供了一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法,以实现提高元宇宙中移动边缘计算任务卸载效率。
为了实现上述目的,本发明采取了如下技术方案。
一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法,包括:
根据用户终端设备、边缘服务器和云服务器的时延消耗和能量消耗,计算出云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗和总能量消耗;
以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数;
采用改进的云边端协同网络计算卸载算法求解所述目标函数,得到最优的用户终端设备的任务卸载策略。
优选地,所述的根据用户终端设备、边缘服务器和云服务器的时延消耗和能量消耗,计算出云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗和总能量消耗,包括:
设元宇宙中用户终端设备产生n个待处理任务Task=T1,T2,…,Tn,每个任务Tj有6个属性:
Tj={wj,fmin,cpuj,memj,dataj,tmax,j} (1)
其中,wj表示任务j的计算量,fmin表示任务j需要的最小计算能力,cpuj,memj分别表示任务j执行需要的CPU资源和内存资源,dataj表示任务j卸载时传输的数据量,tmax,j表示完成任务j允许的最大延迟时间;
基于上述任务模型,任务在用户终端设备计算的延时TED表示为:
其中,fl表示终端设备的计算能力,cpul表示终端设备可用CPU资源,meml表示终端设备可用内存资源,EED表示用户终端设备计算的能耗,σl×fl 2表示CPU循环1个周期所产生的能耗,σl表示由芯片结构而定的开关电容;
设元宇宙场景中有m个边缘服务器,用集合E={Ed1,Ed2,…,Edm},每个Edi有5个属性:
Edi={fi,cpui,memi,Ri,Pi} (3)
其中,fi表示边缘服务器的最大计算能力,cpui表示边缘服务器的可用CPU资源,memi表示边缘服务器的可用内存资源,Ri表示边缘服务器与用户终端设备间的数据传输速度,Pi为边缘服务器i的发射功率;
边缘服务器执行任务的总延时TEN为:
其中,表示任务j由用户端卸载到边缘服务器i的传输时间,/>表示结果返回时间,/>表示边缘服务器执行时间,Twait表示并行计算时任务等待时间;
任务传输时延又表示为:
其中基站总传输带宽为Bmax,xm为选择边缘执行的用户个数,hn,m为设备到边缘服务器的信道增益,N0表示噪声功率;
进而,边缘服务器执行任务时传输能耗为:
其中表示第i个用户终端设备的上传功率,vi表示第i个用户终端设备的上传速度,/>表示边缘服务器处理任务时终端设备的放电功率,li,j表示从第i个用户终端设备到第j台边缘服务器之间的信道距离,/>表示信道传输速率,Ci表示任务所需的计算资源,/>表示第j台边缘服务器的主频;
假设元宇宙中部署K个云服务器,每个云服务器Ck有3个属性:
Ck={fk,Rk,Pk} (7)
其中fk表示云中心的最大计算能力,Rk表示云中心与移动设备间的数据传输速度,Pk表示云中心的发射功率;
考虑边缘服务器将用户在虚拟世界产生的数据和内容上传到云中心的传输时延,任务平均传输时间定义为单位工作负载的Cm,i倍,则传输时延表示为:
其中表示通过传输网络卸载到云平台上的任务总量;
云中心的能耗由延时对应的卸载传输能耗、执行能耗和回程传输能耗组成,其计算公式为:
其中,表示任务j由用户端卸载到云端的耗能,/>表示结果返回耗能,表示执行能耗;
云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗Tn和总能量消耗En为:
其中βED、βEN、βC分别为云边端时间与能耗的参数取值,且只能取0或1。
优选地,所述的以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数,包括:
联合考虑云一边一端协同卸载的时延、能耗、计算速度,以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数为:
其中前三个约束表明MEC服务器分配给用户终端设备的资源不超过总计算资源量;最后两个约束表明用户终端设备对时延与能耗偏好的权重的限制。
优选地,所述的采用改进的云边端协同网络计算卸载算法求解所述目标函数,得到最优的用户终端设备的任务卸载策略,包括:
步骤1:采用改进的云边端协同网络计算卸载算法求解所述目标函数,将用户终端设备建模为智能体,假定每一个智能体拥有自己独立的无线接入控制网络,并且假定每个智能体拥有自己独立的回报函数;
步骤2:初始化每个智能体参数,初始化经验池D,训练生成每个智能体的初步卸载状态空间,计算Q值,该Q值为初始状态下获得的奖励r的期望值;
步骤3:每个智能体根据其对环境的观测值从有限动作集合中选择一个动作q,其中动作q为每个智能体加噪声采样后取得,动作qi包括卸载策略[1-αi-βi,αi,βi]和资源分配[fi M],所有智能体的动作构成联合动作;
步骤4:智能体执行动作q,根据联合动作计算出该智能体此时获得的奖励ri(t)=(Xt-1-Xt)/XSD,XSD为本地完成任务所消耗的成本,Xt为当前时隙MES卸载优化目标值;
计算出智能体下一时刻状态,并将该状态输入到经验池中存储,用于后续状态更新;
步骤5:由损失函数通过反向传播更新网络和目标网络参数,根据从环境中获得的奖励r优化计算卸载决策;
所述的算法过程将不断迭代,每次迭代后的值若满足约束条件,并且更新后的状态能够趋于优化目标,直到得到最优的用户终端设备的任务卸载策略,迭代结束。
由上述本发明提供的技术方案可以看出,本发明设计一种面向元宇宙的边缘计算卸载方法,有效融合云边端的计算能力,寻求强时效、低代价、实时性和可用性的联合目标,有效解决了云上集中处理带宽消耗大、响应速度慢的问题以及边端处理能力不足的问题,为用户提供了良好的体验。
本发明附加的方面和优点将在下面的描述中部分给出,这些将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种云-边-端协同系统架构图;
图2为本发明实施例提供的一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法的实现原理图;
图3为本发明实施例提供的一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法的处理流程图。
具体实施方式
下面详细描述本发明的实施方式,所述实施方式的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的任一单元和全部组合。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语)具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样定义,不会用理想化或过于正式的含义来解释。
为便于对本发明实施例的理解,下面将结合附图以几个具体实施例为例做进一步的解释说明,且各个实施例并不构成对本发明实施例的限定。
针对元宇宙场景下数据增长迅速,计算卸载过程中的计算效率低下、数据存储有限等问题,本发明提出了一种面向元宇宙的移动边缘计算卸载联合优化方法,该方法在云边端协同基础上设计基于深度学习的智能化存储决策算法,最小化存储代价,提高元宇宙数据实时并发读写能力;建立端、边、云任务计算模型,分配权重设计联合优化系统延迟和能耗的目标函数,以降低元宇宙中的通信代价和工作负载平衡,达到数据在元宇宙设备上高效传输、同步的目的,同时提出的策略求解算法解决计算任务的高维度性和策略空间的连续性问题。
本发明实施例提供的一种云-边-端协同系统的架构如图1所示,基于图1所示的架构,本发明实施例提供的一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法构建基于云边端协同的计算卸载模型,并在整个过程中使用智能化数据存储,使数据在元宇宙设备上高效传输。该方法的实现原理图如图2所示,具体处理流程如图3所示,包括以下处理步骤:
步骤S10:构建用户终端设备的计算和通信模型。
假设物理世界的计算任务是完整且不可再划分,元宇宙中用户终端设备产生n个待处理任务Task=T1,T2,…,Tn,每个任务Tj有6个属性:
Tj={wj,fmin,cpuj,memj,dataj,tmax,j} (1)
其中,wj表示任务j的计算量,fmin表示任务j需要的最小计算能力,cpuj,memj分别表示任务j执行需要的CPU资源和内存资源,dataj表示任务j卸载时传输的数据量,tmax,j表示完成任务j允许的最大延迟时间。
基于上述任务模型,任务在用户终端设备计算的延时TED表示为:
其中,fl表示终端设备的计算能力,cpul表示终端设备可用CPU资源,meml表示终端设备可用内存资源,EED表示用户终端设备计算的能耗,σl×fl 2表示CPU循环1个周期所产生的能耗,σl表示由芯片结构而定的开关电容。
用户选择在终端设备本地执行任务时,不需要通信传输,因此其传输时延和能耗均为0。
步骤S20:构建边缘服务器的计算和通信模型。
假设元宇宙场景中有M个边缘服务器,用集合E={Ed1,Ed2,…,Edm},每个Edi有5个属性:
Edi={fi,cpui,memi,Ri,Pi} (3)
其中,fi表示边缘服务器的最大计算能力,cpui表示边缘服务器的可用CPU资源,memi表示边缘服务器的可用内存资源,Ri表示边缘服务器与用户终端设备间的数据传输速度,Pi为边缘服务器i的发射功率。
假定模型中并行计算等待过程的能耗忽略不计,则边缘服务器的计算总延时为:
其中,表示任务j由用户端卸载到边缘服务器i的传输时间,/>表示结果返回时间,/>表示边缘服务器执行时间,Twait表示并行计算时任务等待时间。
任务传输时延又表示为:
其中基站总传输带宽为Bmax,xm为选择边缘执行的用户个数,Pn表示设备n的传输功率,hn,m为设备到边缘服务器的信道增益,N0表示噪声功率。
进而,MEC执行任务时传输能耗为:
其中表示终端设备的上传功率,vi表示第i个设备的上传速度,/>表示边缘服务器处理任务时终端设备的放电功率,li,j表示从第i个智能终端到第j台边缘服务器之间的信道距离,/>表示信道传输速率,Ci表示任务所需的计算资源,/>表示第j台边缘服务器的主频。
步骤S30:构建云中心的计算和通信模型。
假设元宇宙中部署K个云服务器,每个云服务器Ck有3个属性:
Ck={fk,Rk,Pk} (7)
其中fk表示云中心的最大计算能力,Rk表示云中心与移动设备间的数据传输速度,Pk表示云中心的发射功率。
本发明假设云服务器的计算时延可以忽略不计,只考虑边缘服务器将用户在虚拟世界产生的数据和内容上传到云中心的传输时延,任务平均传输时间定义为单位工作负载的Cm,i倍,则传输时延表示为:
其中表示通过传输网络卸载到云平台上的任务总量,τ表示通过传输网络发送或接收单位工作任务而拥塞的平均传输时间。
云中心的能耗由延时对应的卸载传输能耗、执行能耗和回程传输能耗组成,其计算公式为:
其中,表示任务j由用户端卸载到云端的耗能,/>表示结果返回耗能,表示执行能耗。
步骤S40:获取所有任务的时延和能耗,以最小化时延和能耗为目标建立面向元宇宙的移动边缘计算卸载的目标函数。
基于步骤S10、S20、S30生成的计算模型和能耗模型,得到所有任务的时延和能耗分别为:
其中βED、βEN、βC分别为云边端时间与能耗的参数取值,且βRD、βRN、βC∈{0,1},规定任务在1个位置执行,3个参数只取0或1,根据任务的执行位置决定云、边、端时间与能耗的参数取值,比如:若某个任务在本地执行,则其对应的βED=1,βRN=0,βC=0。
联合考虑云-边-端协同卸载的时延、能耗、计算速度,将面向元宇宙的MES卸载目标描述为最小化时延和能耗:
其中前三个约束表明MEC服务器分配给用户终端设备的资源是合理的,不超过总计算资源量;最后两个约束表明用户终端设备对时延与能耗偏好的权重的限制。
步骤S50:采用改进DDPG的云边端协同网络计算卸载算法(CloudEdgeCollaborative network ComputingOffloading,CECCO)求解上述目标函数,得到最优的用户终端设备的任务卸载策略。
上述最优化目标描述为非线性规划问题,并可建模成马尔可夫问题。本发明针对计算任务的高纬度特性和策略空间的连续线性,提出基于改进DDPG的云边端协同网络计算卸载算法(Cloud EdgeCollaborative network ComputingOffloading,CECCO)。该算法通过在所述资源量、能耗和时延约束下,基于最小化时延和能耗加权为目标,采用深度强化学习的方法求解最优的卸载策略,首先将每个设备建模成一个智能体,每个智能体根据其对环境的观测值选择相应的动作qi,构成联合动作,动作qi包括卸载策略[1-αi-βi,αi,βi]和资源分配[fi M]。然后,环境根据联合动作计算出该智能体获得的奖励ri(t)=(Xt-1-Xt)/XSD,XSD为本地完成任务所消耗的成本,Xt为当前时隙MES卸载优化目标值,因此奖励为相较于本地计算所节省的成本比例。本算法将强化学习的目标定为最大化期望奖励,而总的优化目标仍如公式(12)所示,根据从环境中获得的奖励r优化计算卸载决策,最终得到最优的用户终端设备的任务卸载策略。
上述CECCO算法的处理过程具体包括:
步骤1:将用户终端设备建模为智能体,假定每一个智能体拥有自己独立的无线接入控制网络(WirelessAccessPointController,AC),并且假定每个智能体拥有自己独立的回报函数。针对公式(12)目标函数的优化问题,每个智能体的观测状态为:
oi(t)=[Ti(t),Di(t),F(t),Ci(t)] (13)
分别表示在决策时刻t用户终端设备i的执行时间、剩余数据大小、剩余MEC计算资源、执行成本。
步骤2:训练生成初步卸载状态空间,计算Q值,即初始状态下获得的奖励r的期望值。
步骤3:每个智能体根据其对环境的观测值从有限动作集合中选择一个动作q,构成联合动作。对于用户i的卸载策略来说,假设任务在边缘服务器上执行任务比例为αi,在云端执行任务比例为βi,本地执行比例为1-αi-βi,且满足αi,βi∈(0,1),αi+βi≤1,用θ=[θ1,…,θN]表示N个智能体策略的参数,π=[π1,…,πN]表示N个智能体的策略,用q(t)=[q1(t),...qn(t),...qN(t)]表示N个智能体的卸载决策,qi(t)为在决策时刻t用户i的任务卸载决策。动作q具体包括卸载策略[1-αi-βi,αi,βi]和资源分配[fi M]。所有智能体的动作构成联合动作。
步骤4:智能体执行动作q,根据联合动作计算出该智能体此时获得的奖励ri(t),奖励为相较于本地计算所节省的成本比例。对于第i个智能体的累积期望奖励为:
计算出智能体下一时刻状态,并将该状态输入到经验池中存储,用于后续状态更新。
步骤5:集中式的Critic网络的更新方法基于DQN中时序差分与目标网络,由损失函数通过反向传播更新网络和目标网络参数,Actor网络使用梯度下降法进行更新。
本实施例采用确定性策略,策略梯度为:
其中oi表示第i个智能体的观测状态;x=[oi,...,oN]表示观测向量,即系统状态;表示第i个智能体集中式的状态动作函数且每个智能体的Q值是独立的。
Critic网络使用的损失函数为:
其中, 表示目标网络,μ′=[μ′1,...,μ′N]为目标策略具有滞后更新的参数θj′。
所述的算法过程将不断迭代,每次迭代后的值若满足约束条件,并且更新后的状态能够趋于优化目标,即得到了最优卸载策略q(t),迭代结束。
下面是CECCO算法步骤描述:
算法:基于DDPG的云边端协同网络计算卸载算法
Input:卸载数据、边缘服务器状态信息s,学习率α,折扣因子γ,智能体actor网络和critic网络参数,经验池D
Output:最优卸载策略
1)初始化每个智能体参数,初始化经验池D
2)使用用户与边缘节点的信道状态训练生成初步卸载决策状态空间,根据s计算该状态下的Q值
3)for episode=0→M do
4)for t=1→max-episode-length do
5)对每个智能体加噪声采样动作
6)执行动作q(t)=[q1(t),...qn(t),...qN(t)],并得到即时奖励ri(t)与下一时刻状态s′
7)将状态s′输入到每个智能体<s,q,s′,r>储存的经验池D中并更新状态,从D中进行mini-batch采样,计算相应的
8)通过损失函数更新critic网络,策略梯度公式更新actor网络。
9)end for
10)更新每个智能体的目标网络参数
11)endfor
算法步骤(6)中即时奖励根据公式得到:
ri(t)=(Xt-1-Xt)/XSD (17)
其中t示时隙,Xt表示时隙内公式(17)的目标函数值,XSD表示任务在本地执行的目标函数值。当Xt>Xt-1时代表实施动作q后,边缘计算卸载性能降低,向不期望方向发展,给予负奖励,反之正奖励。
综上所述,本发明实施提供的一种面向元宇宙的移动边缘计算卸载方法,考虑的是将元宇宙中产生的所有任务算力通过端边云协同模型寻求强时效、低代价、实时性和可用性的联合目标,再结合深度强化学习生成最优卸载策略,确保物理世界和虚拟世界均可存储和计算与数据处理任务最匹配的数据,消除不必要的数据传输开销,实现元宇宙低时延性和可用性,提高用户体验。
本发明有效解决了云上集中处理带宽消耗大、响应速度慢的问题以及边端处理能力不足的问题,为用户提供了良好的体验。
本发明提出的云边端协同计算卸载方法保证了元宇宙中各种高性能交互对算力的需求,实现了数据在元宇宙设备上高效传输、同步、存储的目标。
本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置或系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的装置及系统实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。
Claims (4)
1.一种面向元宇宙的云边端协同的移动边缘计算任务卸载方法,其特征在于,包括:
根据用户终端设备、边缘服务器和云服务器的时延消耗和能量消耗,计算出云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗和总能量消耗;
以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数;
采用改进的云边端协同网络计算卸载算法求解所述目标函数,得到最优的用户终端设备的任务卸载策略。
2.根据权利要求1所述的方法,其特征在于,所述的根据用户终端设备、边缘服务器和云服务器的时延消耗和能量消耗,计算出云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗和总能量消耗,包括:
设元宇宙中用户终端设备产生n个待处理任务Task=T1,T2,…,Tn,每个任务Tj有6个属性:
Tj={wj,fmin,cpuj,memj,dataj,tmax,j} (1)
其中,wj表示任务j的计算量,fmin表示任务j需要的最小计算能力,cpuj,memj分别表示任务j执行需要的CPU资源和内存资源,dataj表示任务j卸载时传输的数据量,tmax,j表示完成任务j允许的最大延迟时间;
任务在用户终端设备计算的延时TED表示为:
其中,fl表示终端设备的计算能力,fmin,j表示任务j需要的最小计算能力,cpul表示终端设备可用CPU资源,meml表示终端设备可用内存资源,EED表示用户终端设备计算的能耗,σl×fl 2表示CPU循环1个周期所产生的能耗,σl表示由芯片结构而定的开关电容;
设元宇宙场景中有m个边缘服务器,用集合E={Ed1,Ed2,…,Edm},每个Edi有5个属性:
Edi={fi,cpui,memi,Ri,Pi} (3)
其中,fi表示边缘服务器的最大计算能力,cpui表示边缘服务器的可用CPU资源,memi表示边缘服务器的可用内存资源,Ri表示边缘服务器与用户终端设备间的数据传输速度,Pi为边缘服务器i的发射功率;
边缘服务器执行任务的总延时TEN为:
其中,表示任务j由用户端卸载到边缘服务器i的传输时间,/>表示结果返回时间,/>表示边缘服务器执行时间,Twait表示并行计算时任务等待时间;
任务传输时延又表示为:
其中基站总传输带宽为Bmax,xm为选择边缘执行的用户个数,Pn表示设备n的传输功率,hn,m为设备n到边缘服务器的信道增益,N0表示噪声功率;
进而,边缘服务器执行任务时传输能耗为:
其中表示第i个用户终端设备的上传功率,vi表示第i个用户终端设备的上传速度,表示边缘服务器处理任务时终端设备的放电功率,li,j表示从第i个用户终端设备到第j台边缘服务器之间的信道距离,/>表示信道传输速率,Ci表示任务所需的计算资源,表示第j台边缘服务器的主频;
假设元宇宙中部署K个云服务器,每个云服务器Ck有3个属性:
Ck={fk,Rk,Pk} (7)
其中fk表示云中心的最大计算能力,Rk表示云中心与移动设备间的数据传输速度,Pk表示云中心的发射功率;
考虑边缘服务器将用户在虚拟世界产生的数据和内容上传到云中心的传输时延,任务平均传输时间定义为单位工作负载的Cm,i倍,则传输时延表示为:
其中表示通过传输网络卸载到云平台上的任务总量,τ表示通过传输网络发送或接收单位工作任务而拥塞的平均传输时间;
云中心的能耗由延时对应的卸载传输能耗、执行能耗和回程传输能耗组成,其计算公式为:
其中,表示任务j由用户端卸载到云端的耗能,/>表示结果返回耗能,表示执行能耗;
云-边-端协同系统中所有移动边缘计算任务卸载过程消耗的总时延消耗Tn和总能量消耗En为:
其中βED、βEN、βC分别为云边端时间与能耗的参数取值,且只能取0或1。
3.根据权利要求1所述的方法,其特征在于,所述的以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数,包括:
联合考虑云-边-端协同卸载的时延、能耗、计算速度,以最小化所述总时延消耗和总能量消耗为目标,建立面向元宇宙的移动边缘计算卸载的目标函数为:
其中前三个约束表明MEC服务器分配给用户终端设备的资源不超过总计算资源量;最后两个约束表明用户终端设备对时延与能耗偏好的权重的限制。
4.根据权利要求3所述的方法,其特征在于,所述的采用改进的云边端协同网络计算卸载算法求解所述目标函数,得到最优的用户终端设备的任务卸载策略,包括:
步骤1:采用改进的云边端协同网络计算卸载算法求解所述目标函数,将用户终端设备建模为智能体,假定每一个智能体拥有自己独立的无线接入控制网络,并且假定每个智能体拥有自己独立的回报函数;
步骤2:初始化每个智能体参数,初始化经验池D,训练生成每个智能体的初步卸载状态空间,计算Q值,该Q值为初始状态下获得的奖励r的期望值;
步骤3:每个智能体根据其对环境的观测值从有限动作集合中选择一个动作q,其中动作q为每个智能体加噪声采样后取得,动作qi包括卸载策略[1-αi-βi,αi,βi]和资源分配[fi M],所有智能体的动作构成联合动作;
步骤4:智能体执行动作q,根据联合动作计算出该智能体此时获得的奖励ri(t)=(Xt-1-Xt)/XSD,XSD为本地完成任务所消耗的成本,Xt为当前时隙MES卸载优化目标值;
计算出智能体下一时刻状态,并将该状态输入到经验池中存储,用于后续状态更新;
步骤5:由损失函数通过反向传播更新网络和目标网络参数,根据从环境中获得的奖励r优化计算卸载决策;
所述的算法过程将不断迭代,每次迭代后的值若满足约束条件,并且更新后的状态能够趋于优化目标,直到得到最优的用户终端设备的任务卸载策略,迭代结束。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310455136.0A CN116489708B (zh) | 2023-04-25 | 2023-04-25 | 面向元宇宙的云边端协同的移动边缘计算任务卸载方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310455136.0A CN116489708B (zh) | 2023-04-25 | 2023-04-25 | 面向元宇宙的云边端协同的移动边缘计算任务卸载方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116489708A true CN116489708A (zh) | 2023-07-25 |
CN116489708B CN116489708B (zh) | 2024-01-30 |
Family
ID=87217381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310455136.0A Active CN116489708B (zh) | 2023-04-25 | 2023-04-25 | 面向元宇宙的云边端协同的移动边缘计算任务卸载方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116489708B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117076131A (zh) * | 2023-10-12 | 2023-11-17 | 中信建投证券股份有限公司 | 一种任务分配方法、装置、电子设备及存储介质 |
CN117873689A (zh) * | 2024-03-11 | 2024-04-12 | 浪潮计算机科技有限公司 | 一种任务分配方法、装置、设备和计算机可读存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111953759A (zh) * | 2020-08-04 | 2020-11-17 | 国网河南省电力公司信息通信公司 | 基于强化学习的协同计算任务卸载和迁移的方法及装置 |
CN112004239A (zh) * | 2020-08-11 | 2020-11-27 | 中国科学院计算机网络信息中心 | 一种基于云边协同的计算卸载方法及系统 |
CN114189892A (zh) * | 2021-12-15 | 2022-03-15 | 北京工业大学 | 一种基于区块链和集体强化学习的云边协同物联网系统资源分配方法 |
WO2022142277A1 (zh) * | 2020-12-30 | 2022-07-07 | 全球能源互联网研究院有限公司 | 一种通信架构的动态调节方法及系统 |
CN115840623A (zh) * | 2022-09-20 | 2023-03-24 | 北京邮电大学 | 一种通算存学一体化融合系统 |
-
2023
- 2023-04-25 CN CN202310455136.0A patent/CN116489708B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111953759A (zh) * | 2020-08-04 | 2020-11-17 | 国网河南省电力公司信息通信公司 | 基于强化学习的协同计算任务卸载和迁移的方法及装置 |
CN112004239A (zh) * | 2020-08-11 | 2020-11-27 | 中国科学院计算机网络信息中心 | 一种基于云边协同的计算卸载方法及系统 |
WO2022142277A1 (zh) * | 2020-12-30 | 2022-07-07 | 全球能源互联网研究院有限公司 | 一种通信架构的动态调节方法及系统 |
CN114189892A (zh) * | 2021-12-15 | 2022-03-15 | 北京工业大学 | 一种基于区块链和集体强化学习的云边协同物联网系统资源分配方法 |
CN115840623A (zh) * | 2022-09-20 | 2023-03-24 | 北京邮电大学 | 一种通算存学一体化融合系统 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117076131A (zh) * | 2023-10-12 | 2023-11-17 | 中信建投证券股份有限公司 | 一种任务分配方法、装置、电子设备及存储介质 |
CN117076131B (zh) * | 2023-10-12 | 2024-01-23 | 中信建投证券股份有限公司 | 一种任务分配方法、装置、电子设备及存储介质 |
CN117873689A (zh) * | 2024-03-11 | 2024-04-12 | 浪潮计算机科技有限公司 | 一种任务分配方法、装置、设备和计算机可读存储介质 |
CN117873689B (zh) * | 2024-03-11 | 2024-05-31 | 浪潮计算机科技有限公司 | 一种任务分配方法、装置、设备和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116489708B (zh) | 2024-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111835827B (zh) | 物联网边缘计算任务卸载方法及系统 | |
CN111586696B (zh) | 一种基于多智能体架构强化学习的资源分配及卸载决策方法 | |
CN116489708B (zh) | 面向元宇宙的云边端协同的移动边缘计算任务卸载方法 | |
CN112422644B (zh) | 计算任务卸载方法及系统、电子设备和存储介质 | |
CN111475274B (zh) | 云协同多任务调度方法及装置 | |
CN114143346B (zh) | 一种车联网任务卸载和服务缓存的联合优化方法及系统 | |
CN113098714A (zh) | 一种基于深度强化学习的低时延网络切片的方法 | |
CN113346938B (zh) | 一种面向空天地一体化网络的边缘计算资源融合管理方法 | |
CN113626104B (zh) | 边云架构下基于深度强化学习的多目标优化卸载策略 | |
CN112650581A (zh) | 一种面向智能楼宇的云边协同任务调度方法 | |
CN114205353B (zh) | 一种基于混合动作空间强化学习算法的计算卸载方法 | |
CN111813539A (zh) | 一种基于优先级与协作的边缘计算资源分配方法 | |
CN116489712B (zh) | 一种基于深度强化学习的移动边缘计算任务卸载方法 | |
CN113946423A (zh) | 基于图注意力网络的多任务边缘计算调度优化方法 | |
CN113573363A (zh) | 基于深度强化学习的mec计算卸载与资源分配方法 | |
CN114281718A (zh) | 一种工业互联网边缘服务缓存决策方法及系统 | |
Hu et al. | Dynamic task offloading in MEC-enabled IoT networks: A hybrid DDPG-D3QN approach | |
CN114168328B (zh) | 一种基于联邦学习的移动边缘节点计算任务调度方法及其系统 | |
CN117749796A (zh) | 一种云边算力网络系统计算卸载方法及系统 | |
CN116866353A (zh) | 通算融合的分布式资源协同调度方法、装置、设备及介质 | |
CN115756873B (zh) | 一种基于联邦强化学习的移动边缘计算卸载方法和平台 | |
Chen et al. | Joint Task and Computing Resource Allocation in Distributed Edge Computing Systems via Multi-Agent Deep Reinforcement Learning | |
CN116204319A (zh) | 基于sac算法与任务依赖关系的云边端协同卸载方法及系统 | |
CN115361453A (zh) | 一种面向边缘服务网络的负载公平卸载与迁移方法 | |
Zhuang et al. | When multi-access edge computing meets multi-area intelligent reflecting surface: A multi-agent reinforcement learning approach |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |