CN115765826B - 一种面向按需服务的无人机网络拓扑重构方法 - Google Patents

一种面向按需服务的无人机网络拓扑重构方法 Download PDF

Info

Publication number
CN115765826B
CN115765826B CN202211137559.XA CN202211137559A CN115765826B CN 115765826 B CN115765826 B CN 115765826B CN 202211137559 A CN202211137559 A CN 202211137559A CN 115765826 B CN115765826 B CN 115765826B
Authority
CN
China
Prior art keywords
representing
uavs
energy consumption
uav
delay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211137559.XA
Other languages
English (en)
Other versions
CN115765826A (zh
Inventor
承楠
陈子衍
尹志胜
李长乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN202211137559.XA priority Critical patent/CN115765826B/zh
Publication of CN115765826A publication Critical patent/CN115765826A/zh
Application granted granted Critical
Publication of CN115765826B publication Critical patent/CN115765826B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开了一种面向按需服务的无人机网络拓扑重构方法,应用于由地面用户和UAVs构成的网络系统,方法包括:计算服务时延;服务时延是根据网络系统中地面用户与UAV之间的信道中接收节点的接收功率,以及UAVs之间的信道中接收节点的接收功率计算得到的;计算UAVs的能量消耗;其中,计算的UAVs的能量消耗包括网络系统中的数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三部分;根据服务时延和UAVs的能量消耗构建净收益最大化的优化问题,并基于DQN算法求解净收益最大化的优化问题,以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构。本发明提高了整个网络系统的系能。

Description

一种面向按需服务的无人机网络拓扑重构方法
技术领域
本发明属于通信技术领域,具体涉及一种面向按需服务的无人机网络拓扑重构方法。
背景技术
5G技术为现有网络的通信能力带来了极大的提升,海量的终端被接入到互联网中,但5G技术仍然难以应对未来万物深度智联背景下高速增长的网络服务需求。基于此,对于6G的需求逐步提升,相比5G,6G有望实现智联万物,突破地表地形的限制,将通信范围拓宽至太空、天空、陆地、海洋的自然空间,并通过多种接入方式的协同传输、对多个系统资源进行统一管理,能够提供面向服务的通信资源。而要实现6G的目标,两个方面的研究是不可或缺的,一是对于服务及服务功能链的作用、构建方法的研究;二是对于空天地一体化网络的研究,以及如何将服务功能链与空天体一体化网络相结合的研究。
利用网络功能虚拟化(Network Function Virtualization,简称NFV)技术构建的服务功能链(Service Function Chain,简称SFC)能够支持分布在多个云环境中的虚拟网络功能(Virtual Network Feature,简称VNF)进行合理链接,实现域内网络资源分配向多域协同资源分配的转换,构建起完整的端到端的网络服务。通过对SFC的集中管控,资源共享和按需部署,为地面用户提供多样化和定制化的服务。而对于未来面向服务的空天地网络,空中网络是其中不可或缺的组成部分,空中网络主要由高空平台和无人机组成,而单个无人机的高灵活性为整体的无人机网络带来了极佳的可重构性,从而使无人机网络可以根据地面用户的需求构建无人机网络来提供相应的服务,这正是服务功能链构建的合理选择。现有构建服务功能链SFC的相关技术都是基于固定的物理节点来进行资源分配,例如考虑空天地网络中多层节点的异构性,建立虚拟网络功能VNF热迁移和实例化的成本和时延模型,来进行SFC的构建。
但是,现有构建服务功能链是基于固定物理节点的构建方式,没有考虑网络拓扑对于SFC构建的影响,同时由于网络本身限制也无法根据地面用户位置改变自身网络拓扑,造成了整体网络系统性能的下降。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种面向按需服务的无人机网络拓扑重构方法。本发明要解决的技术问题通过以下技术方案实现:
本发明实施例提供了一种面向按需服务的无人机网络拓扑重构方法,应用于由地面用户和UAVs构成的网络系统,所述方法包括:
计算服务时延;其中,所述服务时延是根据所述网络系统中地面用户与UAV之间的信道中接收节点的接收功率,以及UAVs之间的信道中接收节点的接收功率计算得到的;
计算UAVs的能量消耗;其中,计算的UAVs的能量消耗包括网络系统中的数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三部分;
根据所述服务时延和所述UAVs的能量消耗构建净收益最大化的优化问题,并基于DQN算法求解所述净收益最大化的优化问题,以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构。
在本发明的一个实施例中,计算服务时延公式表示为:
其中,De2e表示服务时延,Nhop表示服务完成需要的总跳数,表示第h跳对应的处理时延,为一常数,/>表示第h跳对应的传输时延,D表示服务过程中需要发送的数据量,/> 分别表示第一跳和第Nhop跳时延对应的地面用户与UAV之间的信道容量,/> 表示第h跳时延对应的UAVs之间的信道容量,B表示信道的可用带宽,/>表示第h跳时延对应的地面用户与UAV之间的信噪比,/> 表示第h跳时延对应地面用户与UAV之间的信道中接收节点的接收功率,/>表示第h跳时延对应地面用户与UAV之间的噪声信号功率, 表示第h跳时延对应的UAVs之间的信噪比,/> 表示第h跳时延对应UAVs之间的信道中接收节点的接收功率,/>表示第h跳时延对应UAVs之间的噪声信号功率。
在本发明的一个实施例中,数据传输的能量消耗公式表示为:
其中,ET表示网络系统中的数据传输能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,Pi k表示第i个UAV在第k个时隙的发射功率,ΔTk表示K个时隙中第k个时隙的持续时间。
在本发明的一个实施例中,VNF部署及SFC计算的能量消耗公式表示为:
其中,EC表示网络系统中VNF部署及SFC计算的能量消耗,N表示网络系统中UAV数量,φiA表示第i个UAV对应VNF部署的固定能量消耗,φiB表示第i个UAV对应SFC计算的能量消耗,EiB表示第i个UAV对应处理单位数据时所产生的能量消耗,Di是第i个UAV需要处理的数据量。
在本发明的一个实施例中,UAVs飞行所产生的能量消耗公式表示为:
其中,EF表示所有UAVs飞行所产生的能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,表示第i个UAV在信道中第k个时隙的飞行距离, 表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,Pi f表示第i个UAV飞行时的能量消耗功率。
在本发明的一个实施例中,UAVs飞行所产生的能量消耗公式表示为:
其中,EF表示网络系统中UAVs飞行所产生的能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,表示第i个UAV在信道中第k个时隙的飞行距离, 表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,Pi f表示第i个UAV飞行时的能量消耗功率,Smax表示网络系统中所有UAVs对应的最大飞行距离,/>表示第i个UAV在信道中第k个时隙飞行的距离。
在本发明的一个实施例中,根据所述服务时延和所述UAVs的能量消耗构建净收益最大化的优化问题,包括:
根据所述服务时延构建时延收益;
根据所述UAVs的能量消耗构建能耗成本;
根据所述时延收益和所述能耗成本构建净收益最大化的优化问题。
在本发明的一个实施例中,构建的时延收益公式表示为:
其中,R表示时延收益,rs表示收益因子,为一常数,αmax表示最大时延违反度,De2e表示所述服务时延,Ds表示最大容忍时延。
在本发明的一个实施例中,构建的能耗成本公式表示为:
C=b1·ET+b2·EC+b3·EF
其中,C表示能耗成本,ET表示网络系统中的数据传输能量消耗,EC表示网络系统中VNF部署及SFC计算的能量消耗,EF表示网络系统中UAVs飞行所产生的能量消耗,b1、b2、b3分别表示加权权重。
在本发明的一个实施例中,构建的净收益最大化的优化问题公式表示为:
其中,Tk h表示第h跳时延对应第k个时隙的信道容量,表示第h跳时延对应的地面用户与UAV之间的信道容量,/>表示第h跳时延对应的UAVs之间的信道容量,Nhop表示服务完成需要的总跳数,K表示网络系统中信道的时隙数量,/>表示地面用户与UAV之间发射节点的发射功率,/>表示UAVs之间发射节点的发射功率,/>表示第i个UAV的最大发射功率,/>表示地面用户与UAV之间接收节点的接收功率,/>表示UAVs之间的接收功率,Pthr表示接收功率阈值,Emax表示网络系统最大能量消耗。
本发明的有益效果:
本发明提出的面向按需服务的无人机网络拓扑重构方法,利用UAV网络构建SFC框架,建立VNF服务时延和UAVs能量消耗模型,联合考虑服务时延和UAVs的能量消耗以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构,提升了整体网络系统性能,且利用UAV网络的可重构特性构建合适的网络拓扑以便更好的在无人机链路上构建SFC,为地面用户提供端到端按需服务,后续技术可以依托此基本框架进行修改以满足自身要求,比如可以满足未来6G所提出的按需服务的要求。
以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1是本发明实施例提供的地面用户和UAV组成的网络系统模型示意图;
图2是本发明实施例提供的一种面向按需服务的无人机网络拓扑重构方法的流程示意图;
图3是本发明实施例提供的构建净收益最大化的优化问题流程示意图;
图4(a)~图4(b)是本发明实施例提供DQN算法的收敛性示意图;
图5(a)~图5(b)是本发明实施例提供的在任务量增加的情况下,不同的方法在服务完成时服务时延和UAVs能量消耗的变化曲线示意图;
图6是本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
现有构建服务功能链是基于固定物理节点的构建方式,没有考虑网络拓扑对于SFC构建的影响,无法根据服务的变化改变网络拓扑,造成整体网络性能的下降;其次,在下一代无线通信网络中,对于一些基础设施建设欠缺的地域,例如:沙漠、山区、海洋等,网络的构建是基于空天地网络,特别是以无人机(Unmanned Aerial Vehicle,简称UAV)为主体的空中网络的,现有技术缺少在UAV网络上构建SFC的研究。所以,如何重构无人机网络拓扑来更好地构建SFC是未来研究的一个重点。
基于上述问题,发明人研究了SFC的部署方法和相关指标以及空地网络的网络模型,包括单个无人机模型、无人机之间的信道接入方法等,在此基础上利用无人机网络的可重构特性构建合适的网络拓扑以便于更好的在无人机链路上构建SFC,从而满足未来6G所提出的按需服务的要求。因此,本发明实施例提出了在由地面用户和UAVs构成的网络系统中,假设M个地面用户分布在一个由N个UAVs组成的UAV网络覆盖的L×L平方区域内,如图1所示,将M’={1,2,···,M}表示M个地面用户的集合,将N’={1,2,···,N}表示N个UAVs的集合。为了构建提供端到端网络服务的SFC,N个UAVs配备了不同的功能来联合完成这项工作。其中,考虑网络系统中信道的时隙离散集合K’={1,2,···,K},具有相等的时隙持续时间τk则,请参见图2,本发明实施例提供了一种面向按需服务的无人机网络拓扑重构方法,具体包括以下步骤:
S10、计算服务时延;其中,服务时延是根据网络系统中地面用户与UAV之间的信道中接收节点的接收功率,以及UAVs之间的信道中接收节点的接收功率计算得到的。
基于若干地面用户和UAV的网络系统,国际电信联盟无线电通信组(ITU-R)提出了基于sigmoid函数的空对地(A2G)的直射信道(Line-of-Sight,简称LoS)概率可以表示为:
其中,a和b分别是对应不同环境(比如城市、乡村等)而改变的常数,在本发明实施例可以认为它们就是常数,hA是某一UAV飞行的高度,dAG是任一UAV和地面用户之间的距离。
则,任一UAV和地面用户之间的LoS和非直射信道(Not-Line-of-Sight,简称NLoS)路径损耗可以表示为:
其中,表示任一UAV和地面用户之间的LoS路径损耗,fc表示载波频率,c表示光速,/>表示任一UAV和地面用户之间的NLoS路径损耗,ξLoS表示LoS信道两节点通信的额外路径损耗,ξNLoS表示NLoS信道两节点通信的额外路径损耗,在不同环境下ξLoS、ξNLoS取值不同,在这里取值为常数。通过公式(3)和(4),可以计算该网络系统中A2G信道的平均路径损耗可以表示为:
其中,表示基于sigmoid函数的空对地(A2G)的非直射信道概率,/>
在任一UAV和地面用户之间,当前节点的接收功率可根据前一节点的发射功率计算得出,则地面用户与UAV之间的信道中接收节点的接收功率可以表示为:
其中,表示UAV和地面用户之间发射节点对应的发射功率。
此外,本发明实施例认为UAVs之间的通信采用正交频分复用(OrthogonalFrequency Division Multiplexing,简称OFDM),即不存在信道之间的干扰,UAVs之间的信道均是LoS信道,其平均路径损耗可以表示为:
其中,表示UAVs之间信道的LoS路径损耗,/>计算方式与/>类似,参见公式(3)。则在UAVs之间,当前节点的接收功率同样可根据前一节点的发射功率计算得出,则UAVs之间的信道中接收节点的接收功率可以表示为:
其中,表示UAVs之间发射节点对应的发射功率。
而在网络系统中服务的端到端延迟由传输的跳数和单跳延迟决定,端到端的服务时延可以计算如下:
其中,Nhop表示服务完成需要的总跳数,表示第h跳的服务延迟,它由传播时延、传输时延、处理时延和排队时延组成,可以表示为:
其中,表示第h跳的传输时延,/>表示第h跳的传播时延,/>表示第h跳的处理时延,/>表示第h跳的排队时延。在本发明实施例中,UAVs和地面用户之间的距离是有限的,且一次只处理一个服务请求,所以暂时不考虑传播时延/>和排队时延/>只考虑传输时延/>和处理时延/>其计算方式如下:
对于传输延迟,A2G链路接收到的信噪比可以表示为:
其中,表示第h跳时延对应的地面用户与UAV之间的信噪比,即A2G链路接收到的信噪比,/>表示第h跳时延对应地面用户与UAV之间的信道中接收节点的接收功率,可以通过公式(6)计算得到,/>表示第h跳时延对应地面用户与UAV之间的噪声信号功率。
同理,A2A链路接收到的信噪比可以表示为:
其中,表示第h跳时延对应的UAVs之间的信噪比,/>表示第h跳时延对应UAVs之间的信道中接收节点的接收功率,可以通过公式(8)计算得到,/>表示第h跳时延对应UAVs之间的噪声信号功率。
再结合香农公式,A2G链路的信道容量可以表示为:
同理,A2A链路的信道容量可以表示为:
其中,B表示信道的可用带宽。在本发明实施例中,服务需要传输的数据是以流的形式传输的,且该端到端链路的实际最大可传输速率为该链路中每一跳速率的最小值,可以表示为min(TAG,TAA),其中TAG和TAA分别代表空地信道和空空信道所有信道容量的集合,具体分别表示为 分别表示第一跳和第Nhop跳时延对应的地面用户与UAV之间的信道容量,/> 表示第h跳时延对应的UAVs之间的信道容量。假设地面用户需要发送的数据量为D,当发射功率和UAVs及地面用户的位置保持不变时,第h跳发送该数据所需的时间即传输时延可以计算为:
对于处理延迟,在SFC中每个中间节点都承担一定的处理任务。假设对于第h跳的发射节点的计算功率为Ph proc,又因处理时延和数据量D成正比,与计算功率Ph proc成反比,为了便于分析,本发明实施例主要考虑UAVs的轨迹优化,则这里将处理时延Dh proc设置为一常数。
经上述分析,本发明实施例提供了一种可选方案,计算服务时延公式表示为:
其中,De2e表示服务时延,Nhop表示服务完成需要的总跳数,表示第h跳对应的处理时延,为一常数,/>表示第h跳对应的传输时延,D表示服务过程中需要发送的数据量,/> 分别表示第一跳和第Nhop跳时延对应的地面用户与UAV之间的信道容量,/> 表示第h跳时延对应的UAVs之间的信道容量,B表示信道的可用带宽,/>表示第h跳时延对应的地面用户与UAV之间的信噪比,/> 表示第h跳时延对应地面用户与UAV之间的信道中接收节点的接收功率,/>表示第h跳时延对应地面用户与UAV之间的噪声信号功率, 表示第h跳时延对应的UAVs之间的信噪比,/> 表示第h跳时延对应UAVs之间的信道中接收节点的接收功率,/>表示第h跳时延对应UAVs之间的噪声信号功率。
S20、计算UAVs的能量消耗;其中,计算的UAVs的能量消耗包括网络系统中的数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三部分。
本发明实施例考虑UAV网络的能耗包括网络系统中的数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三部分,具体地:
本发明实施例提供了一种可选方案,数据传输的能量消耗公式表示为:
其中,ET表示网络系统中的数据传输能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,Pi k表示第i个UAV在第k个时隙的发射功率,ΔTk表示K个时隙中第k个时隙的持续时间,在一个时隙内可以认为UAV的发射功率保持不变。
每个UAV的VNF部署和维护的固定能耗为固定值,记为φiA;在SFC中,每个UAV都需要处理地面用户发送的数据,计算的能耗和需要处理的数据量成正比,在本发明实施例计算第i个UAV的计算能耗记为φiB=EiB·Di。则本发明实施例提供了一种可选方案,第i个UAV的VNF部署及SFC计算的能耗可以表示为:
其中,EC表示网络系统中VNF部署及SFC计算的能量消耗,N表示网络系统中UAV数量,φiA表示第i个UAV对应VNF部署的固定能量消耗,φiB表示第i个UAV对应SFC计算的能量消耗,EiB表示第i个UAV对应处理单位数据时所产生的能量消耗,Di是第i个UAV需要处理的数据量。
考虑到UAV在固定高度h的平面上飞行,假设UAV网络需要K个时隙来完成地面用户服务并且在第k个时隙中,第k个UAV的速度保持不变,则每个UAV的飞行能耗随着其飞行距离线性增加。本发明实施例提供了一种可选方案,对于第i个UAV的飞行能耗可以表示为:
其中,表示第i个UAV在信道中第k个时隙的飞行距离,Pi f表示第i个UAV飞行时的能量消耗功率。由于时隙足够小,可以认为在每个时隙中,UAV的飞行方向不发生改变,所以/>可以表示为:
其中,表示第i个UAV在信道中第k个时隙的位置坐标,/>表示第i个UAV在信道中第k-1个时隙的位置坐标。
最终,计算每个UAV的飞行能耗后,所有UAV在网络系统所有时隙中的飞行能耗可以表示为:
其中,EF表示所有UAVs飞行所产生的能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,表示第i个UAV在信道中第k个时隙的飞行距离, 表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,Pi f表示第i个UAV飞行时的能量消耗功率。
进一步地,考虑到UAV网络系统的传输能耗和SFC的计算能耗变化范围较小,主要变化为UAV网络的飞行能耗,本发明实施例提供了一种可选方案,UAVs飞行所产生的能量消耗公式表示为:
其中,EF表示网络系统中UAVs飞行所产生的能量消耗,N表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,di k表示第i个UAV在信道中第k个时隙的飞行距离, 表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,Pi f表示第i个UAV飞行时的能量消耗功率,Smax表示网络系统中所有UAVs对应的最大飞行距离,/>表示第i个UAV在信道中第k个时隙飞行的距离。
S30、根据服务时延和UAVs的能量消耗构建净收益最大化的优化问题,并基于深度Q网络(Deep Q Network,简称DQN)算法求解净收益最大化的优化问题,以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构。
为了构建面向服务的SFC,本发明实施例对UAV网络拓扑进行了重构,在重构中主要考虑了S10计算的服务时延和S20计算的UAVs能量消耗这两个指标,为了最小化时延和能耗,本发明实施例将净收益定义为优化目标,该目标可以通过时延收益减去能耗成本来计算。为了使净收益最大化,在上述模型的基础上提出了一个优化问题,在该优化问题中,以净收益为优化目标,设计了一些约束条件来保证优化问题的合理性,具体内容如下:本发明实施例提供了一种可选方案,根据服务时延和UAVs的能量消耗构建净收益最大化的优化问题,请参见图3,具体包括以下步骤:
S301、根据服务时延构建时延收益。
本发明实施例提供了一种可选方案,构建的时延收益公式表示为:
其中,R表示时延收益,rs表示收益因子,为一常数,αmax表示最大时延违反度,De2e表示服务时延,Ds表示最大容忍时延。
S302、根据UAVs的能量消耗构建能耗成本。
本发明实施例提供了一种可选方案,总消耗从数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三个方面进行计算,构建的能耗成本公式表示为:
C=b1·ET+b2·EC+b3·EF (24)
其中,C表示能耗成本,ET表示网络系统中的数据传输能量消耗,EC表示网络系统中VNF部署及SFC计算的能量消耗,EF表示网络系统中UAVs飞行所产生的能量消耗,b1、b2、b3分别表示加权权重,可以根据不同类型的任务进行调整。
S303、根据时延收益和能耗成本构建净收益最大化的优化问题。
本发明实施例提供了一种可选方案,为了最小化时延和能耗,将净收益P定义为时延收益R减去能耗成本C,构建的净收益最大化的优化问题公式表示为:
其中,Tk h表示第h跳时延对应第k个时隙的信道容量,表示第h跳时延对应的地面用户与UAV之间的信道容量,/>表示第h跳时延对应的UAVs之间的信道容量,Nhop表示服务完成需要的总跳数,K表示网络系统中信道的时隙数量,/>表示地面用户与UAV之间发射节点的发射功率,/>表示UAVs之间发射节点的发射功率,/>表示第i个UAV的最大发射功率,/>表示地面用户与UAV之间接收节点的接收功率,/>表示UAVs之间的接收功率,Pthr表示接收功率阈值,Emax表示网络系统最大能量消耗。
由公式(25)可以看出,本发明实施例定义的优化问题,分别引入了服务提供约束、信道容量限制、节点资源约束三方面。其中,对于服务提供约束,为了保证服务按时完成,时延违反度受到约束,要求时延违反度小于最大时延违反度,即αs≤αmax;对于信道容量限制,为保证通信的合理性,节点之间每个时隙的信道容量不大于无线信道的信道容量,即且/>对于节点资源约束,每个节点UAV的发射功率有限,因此优化后的发射功率不能超过其对应UAV的最大发射功率,即/>且/>为保证信号能够正确接收,UAV与地面用户之间,以及UAVs之间的接收功率分别必须大于接收功率阈值,即且/>UAV的能量有限,因此三方面的总能量消耗要小于网络系统最大能量消耗,即ET+EC+EF≤Emax
基于公式(25),本发明实施例需要确定UAVs的轨迹,强调实时动作选择,而不是单一求解最优解,传统的优化方法不太适合。而强化学习方法(Reinforcement Learning,简称RL)适合解决此类序列决策问题,且经发明人研究发现,UAVs在该问题中的运动方向是离散动作,基于DQN算法解决公式(25)设计的优化问题,比其他RL算法可以获得更优的求解。
在利用DQN算法过程中,涉及智能体、状态、动作和奖励四方面的评估,发明人针对本发明实施例的优化求解问题定义了DQN算法中相应的参数,具体:
在传统的强化学习RL中,智能体是负责在环境中进行探索的主体,而本发明实施例智能体是UAVs;
在本发明实施中,状态是地面用户的位置和UAVs的位置,可以表示为:
其中,表示第j个地面用户的位置坐标,/> 表示第i个UAV的位置坐标,K代表任务完成所需要的总时隙数量,τk表示第k个时隙的时隙持续时间;
每个智能体可以选择动作中的一个:“向前移动”、“向后移动”、“向右移动”、“向左移动”和“不移动”,可以表示为:aik)∈{±Δx,±Δy},(Δx,Δy)表示移动信息;
将优化公式(25)计算得到的净收益作为DQN的奖励值,则设计的基于DQN算法实现智能体根据当前的状态利用公式(25)的优化问题计算出当前奖励值,用来引导后续智能体的动作选择,智能体的每一次动作选择都是使奖励值朝着最大的方向变化,即通过调整网络系统中UAVs的飞行动作,实现了无人机网络拓扑重构。
为了验证本发明实施例提供的面向按需服务的无人机网络拓扑重构方法的有效性,进行以下实验进行验证。
一、仿真参数及对比算法
表1给出本发明实施例仿真过程中涉及的参数。
表1仿真过程中涉及的参数
参数 Pt σ B h 覆盖范围 fc
0.15W -120dBm 5MHz 100m 500m 2.4GHz
在网络系统中,地面用户位置设为[0,0]、[500,500],将UAVs位置设为[125,125],[375,125]和[250,375],地面用户服务由这三个UAVs联合提供。为了评估本发明的性能,本发明实施例使用四种其他算法进行比较:
固定位置Fixed:UAVs停留在初始位置且不进行移动,类似于固定基站;
随机动作选择Random:UAVs在动作空间中随机选择动作;
贪心算法Greedy:该算法对服务完成时间是贪婪的,让UAVs尽可能往地面用户的连线上飞,来达到服务完成时间尽可能少的目标;
启发式算法Heuristic:该算法通过找到在当前状态时可以使服务完成时间尽可能最小的动作来进行动作选择。
二、仿真结果
图4(a)~图4(b)展示了本发明中所用的DQN方法的收敛性,其中,图4(a)是每一个episode中根据公式(25)计算得到的净收益(奖励值)r的总和随episode增加的变化结果,从图4(a)中可以看到随着episode的增加,sum_r是一个明显增加的趋势,大约在80个episode之后在高点趋于平稳;图4(b)是每一个episode中神经网络学习的次数随episode增加的变化结果,从图4(b)中可以看到随着episode的增加,每一个episode中神经网络学习的次数呈现减少的趋势,也是在80个episode之后在低点趋于平稳,这与图4(a)中的收敛趋势是吻合的,从而证明了DQN算法的收敛性。
图5(a)~图5(b)显示了在任务量增加的情况下,不同的方法在服务完成时服务时延(Delay)和UAVs能量消耗(Energy)的变化曲线。从图5(a)中可以看出,Greedy方法在服务完成时延的指标上表现最好,而DQN方法在这一指标上略逊于Greedy方法,明显优于其他方法,这是因为Greedy方法就是针对于服务完成时延这各单一指标进行设计的,而DQN方法则综合考量了能耗和时延等多维指标;图5(b)显示了在任务量增加的情况下,不同的方法在UAVs飞行能量损耗上的变化曲线,从图5(b)中可以看出,Fixed方法的UAVs飞行能量损耗为0,但却付出了服务完成时延方面的代价,而在任务量较大的情况下,DQN方法的能量损耗是最低的,要明显优于Greedy方法,虽然在任务量较小的情况下,DQN方法的能量损耗指标要略逊于启发式算法,但考虑到在未来6G的场景下,地面用户所需服务的任务量一般不会低于10Mb,所以可以认为在6G按需服务的场景下,DQN方法是要优于启发式算法的。
综合图4(a)~图4(b)和图5(a)~图5(b),可以看出:与其他UAVs轨迹优化方法相比,本发明实施例提出的基于DQN算法在时延和能量损耗方面具有较大优势。
综上所述,本发明实施例提出的面向按需服务的无人机网络拓扑重构方法,利用UAV网络构建SFC框架,建立VNF服务时延和UAVs能量消耗模型,联合考虑服务时延和UAVs的能量消耗以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构,提升了整体网络系统性能,且利用UAV网络的可重构特性构建合适的网络拓扑以便更好的在无人机链路上构建SFC,为地面用户提供端到端按需服务,后续技术可以依托此基本框架进行修改以满足自身要求,比如可以满足未来6G所提出的按需服务的要求。
同时,本发明实施例还提出了一种基于DQN的多无人机实时动作决策算法来进行轨迹规划,结果表明,与其他算法相比,本发明实施例提出的基于DQN的算法可以同时保证更低的时延和能量消耗。
请参见图6,本发明实施例提供了一种电子设备,包括处理器601、通信接口602、存储器603和通信总线604,其中,处理器601、通信接口602、存储器603通过通信总线604完成相互的通信;
存储器603,用于存放计算机程序;
处理器601,用于执行存储器603上所存放的程序时,实现上述面向按需服务的无人机网络拓扑重构方法的步骤。
本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述面向按需服务的无人机网络拓扑重构方法的步骤。
对于电子设备/存储介质实施例而言,由于其基本相近于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
在本发明的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
尽管在此结合各实施例对本发明进行了描述,然而,在实施所要求保护的本发明过程中,本领域技术人员通过查看说明书及其附图,可理解并实现所述公开实施例的其他变化。在说明书中,“包括”(comprising)一词不排除其他组成部分或步骤,“一”或“一个”不排除多个的情况。相互不同的实施例中记载了某些措施,但这并不表示这些措施不能组合起来产生良好的效果。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (6)

1.一种面向按需服务的无人机网络拓扑重构方法,其特征在于,应用于由若干地面用户和UAVs构成的网络系统,所述方法包括:
计算服务时延;其中,所述服务时延是根据所述网络系统中地面用户与UAV之间的信道中接收节点的接收功率,以及UAVs之间的信道中接收节点的接收功率计算得到的;
计算UAVs的能量消耗;其中,计算的UAVs的能量消耗包括网络系统中的数据传输能量消耗、VNF部署及SFC计算的能量消耗、UAVs飞行所产生的能量消耗三部分;
根据所述服务时延和所述UAVs的能量消耗构建净收益最大化的优化问题,并基于DQN算法求解所述净收益最大化的优化问题,以调整网络系统中UAVs的飞行动作,实现无人机网络拓扑重构;其中,
根据所述服务时延和所述UAVs的能量消耗构建净收益最大化的优化问题,包括:
根据所述服务时延构建时延收益;构建的时延收益公式表示为:
其中,R表示时延收益,表示收益因子,为一常数,/>表示最大时延违反度,,/>表示所述服务时延,/>表示最大容忍时延;
根据所述UAVs的能量消耗构建能耗成本;构建的能耗成本公式表示为:
其中,表示能耗成本,/>表示网络系统中的数据传输能量消耗,/>表示网络系统中VNF部署及SFC计算的能量消耗,/>表示网络系统中UAVs飞行所产生的能量消耗,/>、/>分别表示加权权重;
根据所述时延收益和所述能耗成本构建净收益最大化的优化问题;构建的净收益最大化的优化问题公式表示为:
其中,N表示网络系统中包含的UAV数目,(,/>)表示第i个UAV的坐标信息,/>表示第h跳时延对应第k个时隙的信道容量,/>表示第h跳时延对应的地面用户与UAV之间的信道容量,/>表示第h跳时延对应的UAVs之间的信道容量,/>表示服务完成需要的总跳数,表示网络系统中信道的时隙数量,/>表示地面用户与UAV之间发射节点的发射功率,表示UAVs之间发射节点的发射功率,/>表示第i个UAV的最大发射功率,/>表示地面用户与UAV之间接收节点的接收功率,/>表示UAVs之间的接收功率,/>表示接收功率阈值,/>表示网络系统最大能量消耗。
2.根据权利要求1所述的面向按需服务的无人机网络拓扑重构方法,其特征在于,计算服务时延公式表示为:
其中,表示服务时延,/>表示服务完成需要的总跳数,/>表示第h跳对应的处理时延,为一常数,/>表示第h跳对应的传输时延,/>表示服务过程中需要发送的数据量,/>={/>,/>},/>、/>分别表示第跳和第/>跳时延对应的地面用户与UAV之间的信道容量,/>B表示信道的可用带宽,/>表示第跳时延对应的地面用户与UAV之间的信噪比,/>,/>表示第一跳时延对应地面用户与UAV之间的信道中接收节点的接收功率,/>表示第跳时延对应地面用户与UAV之间的噪声信号功率,/>, />表示第/>跳时延对应的地面用户与UAV之间的信噪比,/>,/>表示第/>跳时延对应地面用户与UAV之间的信道中接收节点的接收功率,/>表示第/>跳时延对应地面用户与UAV之间的噪声信号功率,={/>,…,/>,…,/>},/>表示第h跳时延对应的UAVs之间的信道容量,,/>表示第h跳时延对应的UAVs之间的信噪比,/>表示第h跳时延对应UAVs之间的信道中接收节点的接收功率,/>表示第h跳时延对应UAVs之间的噪声信号功率。
3.根据权利要求2所述的面向按需服务的无人机网络拓扑重构方法,其特征在于,数据传输的能量消耗公式表示为:
其中,表示网络系统中的数据传输能量消耗,/>表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,/>表示第i个UAV在第k个时隙的发射功率,/>表示K个时隙中第k个时隙的持续时间。
4.根据权利要求3所述的面向按需服务的无人机网络拓扑重构方法,其特征在于,VNF部署及SFC计算的能量消耗公式表示为:
其中,表示网络系统中VNF部署及SFC计算的能量消耗,/>表示网络系统中UAV数量,表示第i个UAV对应VNF部署的固定能量消耗,/>表示第i个UAV对应SFC计算的能量消耗,/>表示第i个UAV对应处理单位数据时所产生的能量消耗,/>是第i个UAV需要处理的数据量。
5.根据权利要求4所述的面向按需服务的无人机网络拓扑重构方法,其特征在于,UAVs飞行所产生的能量消耗公式表示为:
其中,表示所有UAVs飞行所产生的能量消耗,/>表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,/>表示第i个UAV在信道中第k个时隙的飞行距离,,/>表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,/>表示第i个UAV飞行时的能量消耗功率。
6.根据权利要求4所述的面向按需服务的无人机网络拓扑重构方法,其特征在于,UAVs飞行所产生的能量消耗公式表示为:
其中,表示网络系统中UAVs飞行所产生的能量消耗,/>表示网络系统中UAV数量,K表示网络系统中信道的时隙数量,/>表示第i个UAV在信道中第k个时隙的飞行距离,,/>表示第i个UAV在信道中第k个时隙的位置坐标,表示第i个UAV在信道中第k-1个时隙的位置坐标,/>表示第i个UAV飞行时的能量消耗功率,/>表示网络系统中所有UAVs对应的最大飞行距离,/>表示第i个UAV在信道中第k个时隙飞行的距离。
CN202211137559.XA 2022-09-19 2022-09-19 一种面向按需服务的无人机网络拓扑重构方法 Active CN115765826B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211137559.XA CN115765826B (zh) 2022-09-19 2022-09-19 一种面向按需服务的无人机网络拓扑重构方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211137559.XA CN115765826B (zh) 2022-09-19 2022-09-19 一种面向按需服务的无人机网络拓扑重构方法

Publications (2)

Publication Number Publication Date
CN115765826A CN115765826A (zh) 2023-03-07
CN115765826B true CN115765826B (zh) 2024-05-31

Family

ID=85350317

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211137559.XA Active CN115765826B (zh) 2022-09-19 2022-09-19 一种面向按需服务的无人机网络拓扑重构方法

Country Status (1)

Country Link
CN (1) CN115765826B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116614377B (zh) * 2023-07-20 2023-09-19 北京邮电大学 无人机集群服务功能链动态配置方法和装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107919986A (zh) * 2017-11-09 2018-04-17 北京邮电大学 超密集网络中mec节点间vm迁移优化方法
CN110275758A (zh) * 2019-05-09 2019-09-24 重庆邮电大学 一种虚拟网络功能智能迁移方法
CN110365526A (zh) * 2019-07-09 2019-10-22 国网江苏省电力有限公司南京供电分公司 一种面向节能和QoS保障的VNF部署方法及系统
CN110546969A (zh) * 2017-04-26 2019-12-06 文亚姆有限公司 自主车辆网络的快速发现、服务驱动以及基于上下文的连通性
CN111884829A (zh) * 2020-06-19 2020-11-03 西安电子科技大学 最大化多无人机架构收益的方法
CN112564767A (zh) * 2020-11-30 2021-03-26 北京邮电大学 无人机网络中基于自组织优化协作的连续覆盖方法
CN112911648A (zh) * 2021-01-20 2021-06-04 长春工程学院 一种空地结合的移动边缘计算卸载优化方法
CN113987692A (zh) * 2021-12-29 2022-01-28 华东交通大学 用于无人机和边缘计算服务器的深度神经网络分区方法
CN114125708A (zh) * 2022-01-20 2022-03-01 南京信息工程大学 一种基于数字孪生的无人机集群轨迹优化和任务卸载方法
CN114531731A (zh) * 2021-12-20 2022-05-24 国网江苏省电力有限公司电力科学研究院 一种虚拟化无线传感器网络的能耗与时延优化方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9848459B2 (en) * 2016-04-06 2017-12-19 Cisco Technology, Inc. Dynamic network connectivity using unmanned aerial vehicles
US20210119882A1 (en) * 2020-04-13 2021-04-22 Intel Corporation Methods and apparatus to determine topologies for networks
CN111786839B (zh) * 2020-07-15 2021-09-07 南通大学 一种车载边缘计算网络中能效优化的计算卸载方法及系统
US20220124543A1 (en) * 2021-06-30 2022-04-21 Oner Orhan Graph neural network and reinforcement learning techniques for connection management

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110546969A (zh) * 2017-04-26 2019-12-06 文亚姆有限公司 自主车辆网络的快速发现、服务驱动以及基于上下文的连通性
CN107919986A (zh) * 2017-11-09 2018-04-17 北京邮电大学 超密集网络中mec节点间vm迁移优化方法
CN110275758A (zh) * 2019-05-09 2019-09-24 重庆邮电大学 一种虚拟网络功能智能迁移方法
CN110365526A (zh) * 2019-07-09 2019-10-22 国网江苏省电力有限公司南京供电分公司 一种面向节能和QoS保障的VNF部署方法及系统
CN111884829A (zh) * 2020-06-19 2020-11-03 西安电子科技大学 最大化多无人机架构收益的方法
CN112564767A (zh) * 2020-11-30 2021-03-26 北京邮电大学 无人机网络中基于自组织优化协作的连续覆盖方法
CN112911648A (zh) * 2021-01-20 2021-06-04 长春工程学院 一种空地结合的移动边缘计算卸载优化方法
CN114531731A (zh) * 2021-12-20 2022-05-24 国网江苏省电力有限公司电力科学研究院 一种虚拟化无线传感器网络的能耗与时延优化方法
CN113987692A (zh) * 2021-12-29 2022-01-28 华东交通大学 用于无人机和边缘计算服务器的深度神经网络分区方法
CN114125708A (zh) * 2022-01-20 2022-03-01 南京信息工程大学 一种基于数字孪生的无人机集群轨迹优化和任务卸载方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
DQN-Based Relay Deployment and Trajectory Planning in Consensus-Based Multi-UAVs Tracking Network;Zhihan Huang;《2021 IEEE International Conference on Communications Workshops (ICC Workshops)》;20210709;全文 *
Reinforcement Learning for Resource Planning in Drone-Based Softwarized Networks;Laura Galluccio;《2022 20th Mediterranean Communication and Computer Networking Conference (MedComNet)》;20220701;全文 *
多跳Ad Hoc网络中支持MIMO的分布式拓扑未知时分多址接入协议的研究与分析;张光辉;《电子学报》;20061031;全文 *
沈学民 ; 承楠 ; 周海波 ; 吕丰 ; 权伟 ; 时伟森 ; 吴华清 ; 周淙浩.空天地一体化网络技术:探索与展望.《物联网学报》.2020,全文. *
面向群体快速融合的仿生无人机集群架构;曾子鸣;《电信科学》;20220907;全文 *

Also Published As

Publication number Publication date
CN115765826A (zh) 2023-03-07

Similar Documents

Publication Publication Date Title
Liu et al. Deep reinforcement learning based latency minimization for mobile edge computing with virtualization in maritime UAV communication network
CN110730031B (zh) 一种用于多载波通信的无人机轨迹与资源分配联合优化方法
Qi et al. Energy-efficient resource allocation for UAV-assisted vehicular networks with spectrum sharing
Cui et al. Latency optimization for hybrid GEO–LEO satellite-assisted IoT networks
CN113660681B (zh) 一种应用于无人机集群辅助传输的多智能体资源优化方法
CN111526592B (zh) 一种用于无线干扰信道中的非协作多智能体功率控制方法
Zheng et al. LEO satellite channel allocation scheme based on reinforcement learning
CN113377533A (zh) 无人机协助移动边缘计算中的动态计算卸载和服务器部署方法
CN109962727A (zh) 临空通信混合波束赋形及非正交多址接入传输方法
CN115499921A (zh) 面向复杂无人机网络的三维轨迹设计及资源调度优化方法
CN115765826B (zh) 一种面向按需服务的无人机网络拓扑重构方法
CN118250750B (zh) 基于深度强化学习的卫星边缘计算任务卸载及资源分配方法
Wang et al. Deep Q-network based dynamic trajectory design for UAV-aided emergency communications
Zhang et al. Deep reinforcement learning for aerial data collection in hybrid-powered NOMA-IoT networks
Deng et al. Beam scheduling with various mission demands in data relay satellite systems
CN114217638A (zh) 一种任务驱动下的移动台站信息采集动态部署方法
Zhang et al. Cybertwin-driven multi-intelligent reflecting surfaces aided vehicular edge computing leveraged by deep reinforcement learning
Guo et al. Deep Reinforcement Learning-Based Content Caching in Satellite-Terrestrial Assisted Airborne Communications
Mi et al. A distributed matching game for exploring resource allocation in satellite networks
Wu et al. Task Offloading With Service Migration for Satellite Edge Computing: A Deep Reinforcement Learning Approach
Wei An energy-saving joint resource allocation strategy for mobile edge computing
Zhao et al. TD3-based collaborative computation offloading and charging scheduling in multi-UAV-assisted MEC networks
Li et al. When Learning Meets Dynamics: Distributed User Connectivity Maximization in UAV-Based Communication Networks
Liu et al. Learning-Based Latency and Energy Optimization in SCMA-Enhanced UAV-MEC Networks
Zhou et al. Energy-Efficient Resource Allocation in DDPG-Based Integrated Satellite-Terrestrial Network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant