CN113543068B - 一种基于层次化分簇的林区无人机网络部署方法与系统 - Google Patents
一种基于层次化分簇的林区无人机网络部署方法与系统 Download PDFInfo
- Publication number
- CN113543068B CN113543068B CN202110633095.0A CN202110633095A CN113543068B CN 113543068 B CN113543068 B CN 113543068B CN 202110633095 A CN202110633095 A CN 202110633095A CN 113543068 B CN113543068 B CN 113543068B
- Authority
- CN
- China
- Prior art keywords
- unmanned aerial
- aerial vehicle
- user
- clustering
- base station
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 85
- 230000005540 biological transmission Effects 0.000 claims abstract description 85
- 230000006870 function Effects 0.000 claims abstract description 74
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 59
- 230000002787 reinforcement Effects 0.000 claims abstract description 22
- 238000005562 fading Methods 0.000 claims description 42
- 238000004891 communication Methods 0.000 claims description 31
- 239000003795 chemical substances by application Substances 0.000 claims description 24
- 238000005457 optimization Methods 0.000 claims description 22
- 239000000654 additive Substances 0.000 claims description 18
- 230000000996 additive effect Effects 0.000 claims description 18
- 238000005520 cutting process Methods 0.000 claims description 17
- 230000009471 action Effects 0.000 claims description 16
- 239000013598 vector Substances 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 8
- 230000003595 spectral effect Effects 0.000 claims description 8
- 238000003860 storage Methods 0.000 claims description 8
- 238000010276 construction Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 4
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 22
- 238000009826 distribution Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000011160 research Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- AYFVYJQAPQTCCC-GBXIJSLDSA-N L-threonine Chemical compound C[C@@H](O)[C@H](N)C(O)=O AYFVYJQAPQTCCC-GBXIJSLDSA-N 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 101150073669 NCAN gene Proteins 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000005283 ground state Effects 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W16/00—Network planning, e.g. coverage or traffic planning tools; Network deployment, e.g. resource partitioning or cells structures
- H04W16/18—Network planning tools
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/90—Services for handling of emergency or hazardous situations, e.g. earthquake and tsunami warning systems [ETWS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/20—Communication route or path selection, e.g. power-based or shortest path routing based on geographic position or location
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/24—Connectivity information management, e.g. connectivity discovery or connectivity update
- H04W40/32—Connectivity information management, e.g. connectivity discovery or connectivity update for defining a routing cluster membership
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Emergency Management (AREA)
- Environmental & Geological Engineering (AREA)
- Public Health (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明提供一种基于层次化分簇的林区无人机网络部署方法与系统,包括:获取地面用户集合和无人机集合,确定林区信道模型;确定无人机和地面用户之间的预设连接场景,构建无人机集合位置部署目标函数,并采用遍历速率上下边界函数求解;采用层次化分簇对地面用户集合和无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;基于深度强化学习算法,对无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。本发明针对特有的应急救援场景,分别考虑基站存在和缺失的无人机部署方案,提高了无人机部署的整体性能和整体数据吞吐量,实现资源最大优化配置。
Description
技术领域
本发明涉及无人机技术领域,尤其涉及一种基于层次化分簇的林区无人机网络部署方法与系统。
背景技术
随着无人机应用的日益广泛,特别是在应急灾害中能发挥无人机的优势。
由于自然灾害的频频发生,例如在林区场景中,由于林区通常位于比较偏远的地区,原有的基础通信设施往往不足或者已经受灾损毁而无法正常使用,因此,仅仅依靠灾区原有的通信设施,无法支撑一些视频回传、图片下载等应急需求。为此,考虑到无人机的灵活性和机动性,已经在货物运输、交通管理等方面应用广泛,因此可以将无人机部署在林区中充当临时基站,辅助地面用户进行通信。然而,考虑到林区遮挡严重、卫星信号衰弱、多径复杂、无人机的电量有限等问题,如何在无人机的能量限制下,用数目固定的无人机实现系统性能的最大化,需要进行研究。当前,许多研究工作都基于城乡环境,如地震、火灾、搜救等场景下,对无人机的部署问题进行了分析,而忽略了林区这种特殊环境;同时,现有的一些以林区下无人机部署研究,也仅仅将林区环境局限在场景中,并没有对林区中的信道模型等的实质性差异做出研究。
发明内容
本发明提供一种基于层次化分簇的林区无人机网络部署方法与系统,用以解决现有技术中存在的缺陷。
第一方面,本发明提供一种基于层次化分簇的林区无人机网络部署方法,包括:
获取地面用户集合和无人机集合,确定林区信道模型;
基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;
采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;
基于深度强化学习算法,根据和所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
第二方面,本发明还提供一种基于层次化分簇的林区无人机网络部署系统,包括:
获取模块,用于获取地面用户集合和无人机集合,确定林区信道模型;
构建模块,用于基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;
分簇模块,用于采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;
优化模块,用于基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
第三方面,本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述基于层次化分簇的林区无人机网络部署方法的步骤。
第四方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述基于层次化分簇的林区无人机网络部署方法的步骤。
本发明提供的基于层次化分簇的林区无人机网络部署方法与系统,针对特有的应急救援场景,分别考虑基站存在和缺失的无人机部署方案,提高了无人机部署的整体性能和整体数据吞吐量,实现资源最大优化配置。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明提供的基于层次化分簇的林区无人机网络部署方法的流程示意图;
图2是本发明提供的林区中无人机部署场景图;
图3是本发明提供的基于FCM的初始化算法流程图;
图4是本发明提供的无人机成簇过程图;
图5是本发明提供的最小切割图示意图;
图6是本发明提供的无人机待部署区域网格划分图;
图7是本发明提供的整体算法流程图;
图8是本发明提供的不同模型衰减对比图;
图9是本发明提供的实际遍历速率与松弛上界、下界对比图;
图10是本发明提供的林区中用户三维PPP分布图;
图11是本发明提供的与其他方案对比部分实施例的不同方案对比图:
图12是本发明提供的参数设置影响部分实施例的不同方案对比图;
图13是本发明提供的平均遍历速率随无人机发射功率变化图;
图14是本发明提供的网格密集程度对用户平均速率和收敛时间影响图;
图15是本发明提供的基于层次化分簇的林区无人机网络部署系统的结构示意图;
图16是本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
针对现有技术的局限性,本发明为增强无人机部署方案在林区场景中的实际应用价值,如林区搜救、林区灭火等场景,本发明将进一步对卫星拒止情况下林区场景中无人机的部署优化问题进行研究,并提出一种基于层次化分簇深度强化学习(HierarchicalClustering based Deep Reinforcement Learning,HC-DRL)的无人机林区部署方案,提高林区通信容量和用户覆盖比例。
图1是本发明提供的基于层次化分簇的林区无人机网络部署方法的流程示意图,如图1所示,包括:
S1,获取地面用户集合和无人机集合,确定林区信道模型;
S2,基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;
S3,采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;
S4,基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
本发明面向林区中的应急救援场景,考虑引入无人机作为边缘节点充当临时基站,辅助地面用户进行通信。然而,由于林区环境的特殊性和无人机资源的有限性,采用无人机辅助进行林区通信也有几个需要考虑的问题:(1)林区中树木茂盛,遮挡严重,卫星信号受到障碍物遮挡导致十分衰弱,且林区环境中往往当地基础通信设施不足,或者受灾情影响而损毁,无法很好的支撑救援人员通信,以四川省木里县林区为例,当地林区中公网基础通信设施能够提供服务的概率只有30%左右;(2)林区中环境特殊,多径复杂,传统的城乡信道模型已经不再适用,需要针对林区中专有信道模型展开研究。因此,本发明针对卫星拒止情况下林区场景中无人机的部署优化问题进行研究。
首先,为了增强对林区环境的适配性,本发明将基于林区专有信道模型进行分析,并采用林区倾斜信道衰减模型,来拟合无人机和地面用户之间的连接场景;其次,本发明提出一个兼顾基站缺失、基站存在这两种场景的无人机部署框架,并为了提高系统性能,提出基于用户分簇和无人机分簇的层次化方案,采用谱聚类(Spectrum Clustering)中的比例切图法(Radio Cut)对无人机构成的无向权重图分割成簇,加快算法收敛;最后,为了进一步确定无人机在这种实时动态变化的环境中的最优部署位置,提出深度强化学习无人机部署方案,并利用Jensen不等式对用户遍历速率的上下界进行推导,加快算法的运行速度。
本发明针对特有的应急救援场景,分别考虑基站存在和缺失的无人机部署方案,提高了无人机部署的整体性能和整体数据吞吐量,实现资源最大优化配置。
基于上述实施例,该方法步骤S1包括:
在基站缺失场景下,确定所述无人机集合和所述地面用户集合之间的总衰落包括对数距离阴影衰落和额外衰减,得到任一簇中任一无人机和任一地面用户之间的总损耗;
基于所述总损耗确定任一簇中任一无人机通过协作多点传输到任一用户的信道增益矢量和第一用户信噪比,确定所有无人机具有相同的无人机发射功率,获取加性高斯白噪声,根据所述信道增益矢量、所述无人机发射功率和所述加性高斯白噪声,得到所述协作多点传输下的用户遍历速率;
基于第一二元变量确定任一簇中所有无人机是否与所述任一簇中的任一用户建立协作多点传输关系,所述第一二元变量是基于用户连接中断概率和预设概率阈值所得到的,所述用户连接中断概率是基于所述第一用户信噪比、所述无人机发射功率、所述加性高斯白噪声、所述信道增益矢量和预设信噪比阈值所得到的;
在基站存在场景下,确定单基站和地面用户之间的信道衰落,获取基站发射功率,基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到第二用户信噪比;
基于第二二元变量确定所述单基站是否与所述任一簇中的任一用户建立连接关系,所述第二二元变量是基于所述第二用户信噪比和所述预设信噪比阈值所得到的;
基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到所述用户通过基站通行的传输速率;
确定第三二元变量,基于所述第三二元变量确定用户位置是否超出基站服务范围,并通过无人机协作多点传输进行通信。
具体地,如图2所示的林区无人机部署场景中,在一片林区待救援区域中,地面上分布着一些用户救援终端,需要为其提供一些地图信息、救援视频等内容辅助进行救援。地面用户用集合表示,考虑到林区中山丘低谷的地势影响,假设所有用户具有三维地理位置,以地平面为参照,用户n的三维坐标为sn={xn,yn,zn}。
考虑到林区救援场景下原有基站的覆盖或损毁问题,在该系统中,如图2所示,将分别考虑基站缺失以及基站存在这两种情况下的无人机部署。假设无人机或基站均通过频分多址(Frequency Division Multiple Access,FDMA)的方式和用户之间进行传输,因此不存在彼此之间的干扰。其中,在基站存在这种情况下,用户将优先考虑使用基站进行内容下载。接下来,将分别针对基站缺失和基站存在两种情况进行讨论。
一、基站缺失情况
在这种情况下,地面用户只能通过部署的无人机进行内容下载。无人机充当临时基站辅助用户进行通信。无人机用集合来表示,为简化分析,假设无人机飞行在固定高度,其中第k个无人机的位置坐标表示为uk={xk,yk,h},所有无人机的位置可以表示为/>
为进一步提升系统性能,本发明中无人机使用协作多点传输(CoordinatedMultiple Points Transmission,CoMP)的方式发送给下方用户。在下行CoMP中,多个无人机参与用户的下行共享信道,相互协作向该用户发送数据。假设所有的无人机和地面每个用户均装配为单天线,因此对于每个用户来说,无人机和其可以组成一个多入单出(Multi-Input Single-Output,MISO)系统。考虑到无人机数量有限,如何合理部署无人机的位置,以实现系统性能的最大化需要进行研究。
然而在进行部署的过程中,需要考虑两方面因素:首先,考虑到地面用户分布相对比较分散,如果将所有用户划分到不同的区域中更加便于对其进行统一管理;另一方面,考虑到无人机之间的关联性,可以将所有待部署的无人机进行分簇,每一簇内所有的无人机和其对应用户簇内的用户形成CoMP传输关系,不同簇之间相互独立,从而使得不同簇的无人机可以对不同区域的用户提供并行服务,提高部署效率,假设无人机共分为L簇,分簇集合为因此,基于以上因素,如图2所示,本发明将同时考虑用户分簇和无人机分簇过程,并对无人机的位置做出优化。
接下来将对无人机和用户之间的信道模型进行说明,林区中信道模型包括水平信道模型和倾斜信道模型,考虑到该场景中无人机和用户之间的连接与水平面有一定倾角,因此将无人机和用户之间的信道模型按照倾斜信道模型来进行处理。在林区中,无人机和地面用户之间的总衰落可以定义为对数距离阴影衰落(log-distance shadowing model)和林区中额外衰减(excess loss)的总和,因此,根据上述内容,定义第l族无人机中第i架无人机和第j个用户之间的总损耗为:
其中表示第l簇无人机中第i架无人机和第j个用户之间参考距离为d0时自由空间路径损耗,表示为
其中f、d0、c分别表示载波频率、参考距离和光速。α为路径损耗因子,Xσ为阴影衰落,为零均值高斯随机变量,标准差为σ,其概率密度函数可以表示为:
则表示第l簇无人机中第i架无人机和第j个用户之间的林区中的额外损耗,可以表示为:
其中A、C、E、G、H为环境参数,A为乘数因子,C为载波频率的指数因子,E为传输距离的指数因子,θ为无人机和用户之间的仰角,G为仰角θ的矫正因子,H为仰角θ的指数因子,这些参数会受到植被的种类、密度、实际包含的水容量等多重因素影响,定义第l簇无人机CoMP到第j个用户的信道增益矢量其中每个元素表示为/>此时进行CoMP协作传输之后,第l簇无人机服务下的第j个用户的/>可以表示为
其中,假设所有无人机的发射功率相同,p1表示无人机的发射功率,ψ表示加性高斯白噪声。因此,进行CoMP协作传输之后用户的遍历速率可以表示为
定义第一二元变量xl,j∈{0,1}表示第l簇中所有无人机是否和其服务下的第j个用户之间建立了CoMP传输关系,当建立了传输关系时,xl,j=1,否则xl,j=0。具体地,认为当用户的中断概率低于一定的阈值Pthre时,认为用户可以和无人机之间通过稳定的CoMP进行传输,即:
可以表示为:
其中,γ0为SNR阈值。
二、基站存在情况
在这种情况下,地面用户存在两种通信模式:无人机CoMP通信方式和基站通信方式(假设基站位于待部署区域的中心处)。为简单起见,本发明中只针对单基站存在的情况进行讨论,并用m表示基站。为了最大限度的通过无人机来提高系统的通信容量,用户将优先选取基站通信方式进行通信,即当用户和基站之间通信链路的质量高于一定阈值时,认为用户可以和基站进行通信。而超出基站服务范围外的用户,则可以通过额外部署的无人机CoMP通信方式进行通信,同样地,为了保证通信可靠性,无人机CoMP通信方式也需要保证用户和无人机之间通信链路的中断概率高于一定阈值。
在上述两种通信方式中,无人机CoMP通信方式已经在第一种情况中进行过相关推导和描述,此处不再进行赘述,接下来,将对基站通信方式进行说明。
如前所述,基站和用户之间的信道模型同样需要考虑林区环境的影响,基站m和用户n之间的信道衰落表示为:
因此,用户n处的信噪比可以表示为:
其中p2表示基站的发射功率。用第二二元变量ym,n∈(0,1)表示基站m是否和用户n之间建立了连接关系,则有:
此时,用户通过基站通信方式进行传输的速率为:
当用户位置超出基站的服务范围时,用户可以通过无人机CoMP的方式进行通信。用二元变量zl,j∈(0,1)表示在第二种情况中第l簇无人机是否和其服务范围下的用户j建立了CoMP传输关系,参照公式(7)定义第三二元变量:
此时,用户通过无人机CoMP通信方式传输的速率表示为
本发明针对基站缺失和基站存在的两种场景均建立了对应模型,充分考虑了林区复杂的覆盖场景。
基于上述任一实施例,该方法步骤S2包括:
确定基站缺失概率,基于所述第一二元变量、所述第二二元变量、所述第三二元变量、所述协作多点传输下的用户遍历速率和所述用户通过基站通行的传输速率,建立所述无人机集合位置部署目标函数,并使所述无人机集合位置部署目标函数同时满足第一约束条件至第六约束条件;
所述第一约束条件至第三约束条件包括每个地面用户仅能和一个无人机簇建立协作多点传输,每个用户仅能选择通过无人机进行协作多点传输或与基站进行传输;
第四约束条件包括所述无人机发射功率不大于无人机发射功率最大值,所述基站发射功率不大于基站发射功率最大值;
第五约束条件包括所述用户连接中断概率小于所述预设概率阈值;
所述第六约束条件包括所述第二用户信噪比大于所述预设信噪比阈值。
具体地,在分析建立了完整的系统模型后,本发明以最大化所有用户的平均传输速率为目标,在考虑概率性下基站缺失及基站存在的情况,对多架无人机的二维位置进行优化,具体目标问题建模为:
p1≤p1,max,p2≤p2,max, (15d)
其中,β为基站缺失的概率。约束条件(15a)-(15c),即第一约束条件至第三约束条件包括对用户的通信连接关系进行了限制,即每个用户至多只能和一个无人机簇建立CoMP传输,每个用户至多只能选择一种通信方式(基站传输或无人机CoMP传输);约束条件(15d),即第四约束条件为无人机和基站的发射功率约束;约束条件(15e),即第五约束条件表示与无人机之间进行CoMP传输的用户的中断概率必须要小于一定阈值;约束条件(15f),即第六约束条件表示用户和基站之间进行传输其SNR必须要大于阈值SNR。
本发明通过在建立模型的基础上,构建整体目标函数,并给出对应的多个约束条件进行限制,便于后续进行问题转化和求解。
基于上述任一实施例,该方法步骤S2之后还包括:
确定协作多点传输下的用户遍历速率上边界值和用户遍历速率下边界值;
基于所述无人机发射功率、所述加性高斯白噪声和所述信道增益矢量得到用户遍历速率上边界值函数和用户遍历速率下边界值函数;
基于Jensen不等式获得所述用户遍历速率上边界值函数的凹函数,以及所述用户遍历速率下边界值函数的凸函数;
将所述凹函数和所述凸函数代入所述无人机集合位置部署目标函数,得到转化后的无人机集合位置部署目标函数。
具体地,由于无人机通过CoMP与用户进行传输的过程中,通过公式(6)直接对用户的遍历速率进行计算复杂度较高,因此为了简化计算过程,将对CoMP传输方式下用户遍历速率的上界/>和下界/>进行推导,即有:
其中,
证明过程如下:
根据凸函数的定义,即假设有一个定义在某个凸子集上的实值函数f,如果在其定义域上有任意两点x1和x2,及0≤m≤1,均有:
mf(x1)+(1-m)f(x2)≥f(mx1+(1-m)x2) (19)
即凸函数任意两点的割线都位于函数图形的上方,这也称为Jensen不等式的两点形式。在此基础上进一步对其进行泛化,得到泛化Jensen不等式。对于任意点集{xi},若λi≥0且利用数学归纳法,可以证明凸函数f(x)满足:
根据公式(20),将λi看作取值为xi的离散变量x的概率分布,则公式(20)可以进一步泛化为:
根据以上过程,假设有常数p,q>0,则在变量x>0的区间上有:f(x)=log2(1+px)为凹函数,g(x)=log2(1+q/x)为凸函数,因此,可以得到如果把看作一个整体变量,则有/>为凹函数,如果把/>看作一个整体变量,则为凸函数。
对于来说,/>为凸函数,因此根据公式(21)可以得到
进一步可得:
即:
同理,根据公式(21)中可以将进行推导得到:
因此,可以得到:
因此,根据以上推导过程,可以将公式(15)中的问题转化为:
p1≤p1,max,p2≤p2,max, (28d)
本发明将目标函数的速率通过上下边界进行约束,并实现问题转化,便于后续的问题求解,提出的CoMP传输遍历速率上下界,在和原实际遍历速率相差很小的情况下,极大地减少了算法运行时间,降低了算法复杂度。
基于上述任一实施例,该方法步骤S3包括:
基于FCM算法对所有地面用户进行分簇,根据欧氏距离实现最小化加权平方误差和,得到所述地面用户分簇结果;
获取所述地面用户分簇结果中地面用户分簇的质心集合,将所述质心集合作为无人机部署的初始位置集合;
将所有无人机部署在所述初始位置集合上,确定每个无人机分簇为独立的智能体,确定每个智能体中的最大无人机数量,由所有无人机数量除以所述最大无人机数量,得到初始无人机分簇数量;
采用谱聚类中的比例切图法对所述初始无人机分簇数量进行分簇调整,将每个无人机作为无向权重图中的顶点,以所述第一用户信噪比大于所述预设信噪比阈值的用户数量作为所述无人机之间的边权重,结合每簇内预设无人机阈值,将所述无向权重图分割成簇,得到所述无人机分簇结果。
具体地,根据建立的目标问题,本发明采用深度强化学习算法进行优化。若采用完全集中式的方法,即将所有无人机看作一个智能体,将所有无人机的位置策略作为智能体的状态,尽管可以实现所有无人机部署的联合优化,但是行为空间过大,算法复杂度较高。而如果单独把每个无人机看作一个智能体:各自独立优化部署位置,可以有效降低行为空间,但缺乏与其他无人机部署策略交互,影响系统性能。本发明为降低算法复杂度,提出基于层次化分簇的深度强化学习算法(HC-DRL),以每簇无人机作为一个智能体,进行训练,首先需要对地面用户节点和无人机节点进行分簇:
用户分簇过程中主要是将地面所有用户进行分簇,并将无人机的初始位置放置在质心处,该过程的主要目的是为让无人机从一个相对比较好的部署位置出发,便于其找到最优解,加快之后深度强化学习算法的收敛性能;该过程中使用FCM(fuzzy c-means,模糊c均值聚类)算法对地面所有用户进行分簇操作,分簇标准为欧氏距离,实现最小化加权平方误差和,如图3所示,即:
其中,ωk,n表示第n个用户属于第k簇集群的概率或者权重,e为其指数,ck表示按照FCM的方式进行分簇的第k簇的质心位置,则所有无人机的初始位置ωk,n和ck的更新公式为:
/>
基于用户分簇的基础上,将所有无人机部署在用户分簇的质心位置处,进而进行无人机分簇。针对无人机分簇过程,主要有两个方面的作用,一方面,通过无人机分簇,可以降低深度强化学习的状态空间和动作空间,另一方面,通过分簇将关联性比较强的无人机分到相同簇中,便于对其进行联合优化。具体地,将采用谱聚类的方式,对无人机进行分簇,并把每一簇都看作单智能体,分别对其进行独立训练和学习。
考虑到无人机分簇的数量L对算法复杂度和系统性能均有较大影响,因此,需要对L的数值做出选择。在L减小时,每个智能体中包含的无人机数量会增多,导致智能体的状态空间和动作空间呈指数级增长,极大地增大了算法复杂度,算法收敛时间变大。考虑到计算机的实际计算能力,假定每簇无人机中,即每个智能体中最多包含的无人机数量为Qmax(在实际情况中,该数值可以根据设备的实际运算能力适当调整),则K架无人机至少的分簇数量为
以Linitial作为初始无人机分簇数量,以此为基础利用谱聚类的方式进行无人机分簇。如图4所示,把每架无人机都抽象为一个无向权重图中的顶点,无人机之间的边的权重则考虑为两架无人机之间可以服务的公共用户的数目(即SNR高于阈值γ0的用户数目),权重越高,则证明这两个无人机之间的关联性越强,越需要分到相同的簇中进行联合优化,最后,基于无人机组成的无向权重图,进行切割,分成不同的簇,成为不同的智能体,每一簇无人机单独进行训练,服务本簇无人机下对应的用户,每一簇内所有无人机和其对应的用户形成CoMP传输。
谱聚类算法的主要切图方式有:最小割切图法和比例切图法,这两种切图方法具有不同的目标函数。假设对于无向图G来说,我们的目标是将图G(V,E)切成相互没有连接关系的L个子图,子图集合表示为:对于任意l≠l’,具有/>且A1∪A2∪...∪AL=V。定义两个子图Al和Al′之间的权重和W(Al,Al′)为
对于最小割切图法来说,该方法希望最小化所有子图与其补图之间的权重和,即可以表示为
其中,表示子图Al的补图,意为除去该子图之外的所有其他子图的并集。这种切图方式相对比较简单,但是存在一定的问题,如图5所示,最小化切图方式很容易会选择一个权重最小的边缘的点进行切图,如图中的H点,而实际最优的切图方式并非如此,最小割切图的方式很可能会导致单点被分到一簇中的情况,从而引起每个子图之间点的规模相差较大。
为避免这种切图方式带来的不平衡,采用比例切图方式,该切图方式在最小割切图方式的基础上,也考虑了每个子图的规模,可以将其切图目标函数表示为
其中|Al|表示子图Al中节点的数目。
采用比例切图法对无人机进行分簇,相比于最小割切图法,主要的好处可以总结为:在很大程度上避免了出现单点离散图的可能性,而尽可能将所有子图中节点的数量趋于平衡,避免了出现节点众多的“超级簇”而导致状态空间过大难以收敛的问题。
在谱聚类分簇过程中,通过比例切图法进行切图后,对无人机的成簇情况进行检查,判断是否每一簇中的无人机数量都小于或者等于3,如果某一簇不符合要求,则在原无人机分簇数量的基础上加1,再重新进行分簇,直到所有簇内无人机的数量都满足要求。
基于上述任一实施例,该方法步骤S4包括:
获取所述无人机分簇结果,基于预设大小网格对无人机待部署区域进行离散化处理,确定任一分簇中无人机在任一时刻的状态;
确定所述任一分簇中无人机在任一时刻的动作包括第一预设方向、第二预设方向、第三预设方向、第四预设方向和第五预设方向;
确定所述任一分簇中无人机在任一时刻的奖赏包括第一奖赏值、第二奖赏值和第三奖赏值;
基于DQN算法,根据所述任一分簇中无人机在任一时刻的状态、动作和奖励,得到所述无人机集合最优位置部署结果。
其中,所述基于DQN算法,根据所述任一分簇中无人机在任一时刻的状态、动作和奖励,得到所述无人机集合最优位置部署结果,包括:
基于所述DQN算法构建经验回放库,将数据集放入所述经验回放库进行存储,所述数据集包括所述任一时刻的状态、动作、奖励和下一时刻的状态;
初始化估计值网络输出和目标值网络输出,初始化所述经验回放库;
从所述经验回放库中随机抽取数据进行学习,更新目标Q值,根据梯度下降法最小化损失函数,并更新对应的神经网络权重和Q值更新的学习率,使所述估计值网络输出和所述目标值网络输出的差距缩小,直至满足预设收敛条件;
输出所有无人机的位置,满足所述无人机集合最优位置部署结果。
具体地,对于DQN位置优化过程,则将每簇中的所有无人机看做为一个智能体,并对每一簇都通过并行独立的DQN算法进行训练,进一步加快训练过程。以无人机分簇后的簇为例,进行深度强化学习流程设计,假设簇l中共有无人机数量M架,无人机集合为将簇l看做一个智能体,并分别对其状态、行为、奖赏进行定义:
(1)t时刻状态:定义为所有无人机的位置,即st={u1(t),u2(t),...,uM(t)},为了减小无人机的状态空间,考虑将无人机飞行固定高度所在平面进行网格化处理,以图6为例,将整个平面划分为6*6大小相同的网格,每个网格的中心认为是无人机的可部署的位置之一,所有的网格中心构成的集合记为无人机的待部署位置集合,通过这样的方式,将整个无人机的待部署区域进行了离散化处理,有效降低了无人机的状态空间;
(2)t时刻的动作:定义为所有无人机的移动方向,基于图6的网格划分方式,为了进一步减小无人机的动作空间,可以将无人机的移动方向也做离散化处理,即无人机m的移动方向包括前、后、左、右、静止共五种,分别表示为{front,back,left,right,stay},则t时刻的动作可以表示为
(3)t时刻的奖励:当簇在当前状态st下执行动作at时,会获得即时奖赏rt,记该奖赏和前一时刻的Rtotal有关,表示为:
相比于经典的Q-Learning算法,DQN算法避免了建立和扫描Q表的过程,而将Q值函数的存储形式表示为多个神经网络层之间的权重连接的形式。具体地,该算法的主体部分为两个结构完全相同,但是参数不同的网络预测网络Q和目标网络TargetQ,其中预测网络Q使用的最新的参数,而目标网络TargetQ使用之前的参数,Q(s,a;θ)表示来对网络的输出进行预测,通过这两个网络之间的差距,可以评估当前状态-动作对的值函数,可以根据公式:
Loss(θ)=E[(TargetQ-Q(s,a;θ))2], (37)
计算损失函数,其中
其中表示衰减因子。
综合前述的用户分簇算法、无人机分簇算法以及DQN优化策略,整体的算法流程如图7所示。
基于上述任一实施例,本发明将提出的算法在TensorFlow平台中进行仿真,本发明中的所有参数除非另有说明,均按照如下场景中参数进行设置,以四川省木里县为例,其林区中公网的覆盖比例为30%,因此,在本发明中,取系数β=0.7。假设100个用户分布在1km*1km的区域中,服从三维泊松分布,用户分布高度区间为0-10m,无人机数量为4,载波频率为1.4GHz,无人机和基站发射功率分别为20dBm和24dBm,无人机飞行在固定高度100m,基站高度为30m,网格边长为1m,SNR阈值设置为0dB,中断阈值为0.1,林区中倾斜信道参数ACEGH分别为0.25、0.39、0.25、0、0.05。路径损耗因子为3.5。阴影衰落的标准差设置为6,噪声功率为-96dBm/Hz,episode总次数为1000次,设置两个隐藏层,学习率设置为0.01,每簇中无人机最大数量设置为3。
进一步对本发明所提方案进行验证和仿真,仿真结果部分大致可以分为两部分:林区信道模型验证部分、与其他方案对比部分以及参数设置影响部分。
其中在林区信道模型验证部分中,为了验证各个模型拟合的准确度,本发明将基于ITU-R833.9白皮书中的林区倾斜信道模型叠加随机噪声,来模拟实际的信道衰落散点。并将对比以下包含有本发明中所采用模型的5种模型和模拟散点的差距。5种模型分别包括:(1)本发明中所采用的公式(1)的包含有阴影衰落的林区倾斜信道模型(adoptedfoliage slant model with shadowing,adopted FSM with shadowing);(2)含有阴影衰落的林区水平信道最大衰减模型(foliage horizontal maximum attenuation modelwith shadowing,FHMAM with shadowing);(3)不含阴影衰落的林区倾斜信道模型(foliage slant model without shadowing,FSM without shadowing);(4)xx通信技术有限公司(以下简称xx公司)的校正前SPM模型(standard propagation model beforecorreted,SPM before corrected)和校正后SPM模型(standard propagation modelafter correted,SPM after corrected)。在与其他方案对比部分中,首先对比了用户通过无人机CoMP传输的实际遍历速率与利用Jensen不等式推导得到的遍历速率上界/>与遍历速率下界/>在不同无人机发射功率下的对比,说明推导得到的上界和下界与实际值是非常接近的。接着,将本发明中所提层次化分簇的深度强化学习算法HC-DRL分别和两种方案进行了对比:1)集中式深度强化学习算法(Centralized DRL,C-DRL),该算法将所有待部署无人机都看作为一个智能体,实现对所有无人机位置的联合优化;2)并行单无人机深度强化学习算法(Parallel Single DRL,PS-DRL),该算法将每个无人机都看作为一个单智能体,所有智能体进行并行的独立训练。
在参数设置影响部分,首先,对比了无人机不同数量的情况下,被服务的用户比例的变化情况;然后分别对比了不同的无人机功率、无人机起始位置、中断概率阈值、非CoMP传输、网格边长等因素对该算法系统性能以及收敛速度的影响。
一、林区信道模型验证部分
考虑到林区场景的特殊性,本发明将针对公式(1)中采用的林区信道模型的准确性进行验证。
为了评估各个模型的准确性,本发明将基于ITU-R 833.9白皮书中提出的林区倾斜信道模型,通过在该模型的基础上进行噪声的叠加,来模拟林区中实际数据散点(Generated data points with random points)。其中,在本发明中,假设噪声随机分布在-3dB到3dB之间,该模拟散点数据在图中用红色星号散点表示。接下来,将对比上述5种模型和该模拟数据散点之间的差距,并用均方根误差(Root Mean-Square Error,RMSE)进行衡量,以评估各个模型的准确度。
首先,将对xx公司在威海的实测校正前后的SPM模型进行介绍(即SPM beforecorrected和SPM after corrected)。该模型的实际测试环境在威海双岛国家森林公园,总面积666.7公顷,地形为丘陵地形。
其次,将对其xx公司采用的校正模型进行说明。xx公司采用的校准模型为SPM模型,该模型是建立在Cost231-Hata模型的公式之上,把Hata公式中的系数改为可变系数,并增加了衍射损耗等的计算,增加了模型的灵活性。SPM传播模型的公式如下式所示:
L=K1+K2log(d)+K3log(Ht)+K4Diffraction+K5log(d)·log(Ht)+K6(Hr)+K7f(cluster) (39)
其中,K1为常数,和频率相关;K2表示距离因子;d为发射天线和接收天线之间的距离;K3为发射天线的乘数因子;Ht表示发射天线的有效高度,K4表示衍射衰落的乘数因子,Diffraction表示经过有障碍路引起的衍射损耗;K5表示距离和发射天线的联合乘数因子;K6表示接收天线的乘数因子,Hr表示接收天线的有效高度;K7表示地物损耗的乘数因子,f(cluster)表示因地物所引起的平均加权损耗。
接下来,针对xx公司在实际过程中测试过程进行说明。xx公司通过最小二乘法来校正该模型中各项参数,在实际测试过程中,首先根据地理形态不同将相近地态区域进行划分,并根据地形分布设计50个采样站点,对每个站点进行多次取样,然后对获得的原始测试数据进行数据离散和平均取值后,供给模型校正使用。
最后,将进行几种模型的对比。如图8所示,图中共对比了前面所叙述的五种模型adopted FSM with shadowing、FHMAM with shadowing、FSM without shadowing、SPMbefore corrected、SPM after corrected。此外,考虑到阴影衰落中参数σ,也将对不同的σ的影响进行对比。其中林区模型adopted FSM with shadowing的衰减表达形式如公式(1)所示,林区模型FHMAM with shadowing的表达形式如下所示:
其中,
在上式中,μ表示很短植被路径引起的特有衰减率(dB/m),Am表示特定的植被类型和深度引起的终端处最大衰减(dB)。林区模型FSM without shadowing的表达形式如下式所示:
接下来,将对图8进行分析说明。FHMAM with shadowing模型、FSM withoutshadowing模型、adopted FSM with shadowing模型(σ=6)与SPM after corrected模型之间的差距依次为4.5dB、3dB、0.2dB左右。而adopted FSM with shadowing模型(σ=6、5、4)、xx公司校正后SPM after corrected模型、FSM without shadowing模型、FHMAM withshadowing模型、xx公司校正前的SPM after corrected和红色模拟数据散点之间的RMSE(dB)依次为:1.1284、1.6926、1.4105、1.7670、2.5365、3.4765、4.8214。
由此可以看出,与FHMAM with shadowing模型、FSM without shadowing模型、xx公司校正前的SPM after corrected三种模型相比,本发明中的adopted FSM withshadowing模型和xx公司校正后SPM after corrected模型更为接近,且本发明中的adopted FSM with shadowing模型和xx公司校正后的模型SPM after corrected模型能够更好地拟合图中的红色模拟数据散点,且相比于SPM after corrected模型,本发明中的adopted FSM with shadowing模型和红色模拟数据散点之间的差距更小,更加贴合于林区中实际衰落。这是由于,一方面,无人机和水平面之间有一定倾角,更加符合倾斜信道,因此水平信道的拟合效果较差;另一方面,概率式阴影衰落具有更多的不确定性,相比于不含阴影衰落的确定性模型来说,通过均值计算出来的总衰落更符合实际情况,因此含有阴影衰落的林区倾斜信道模型要比不含阴影衰落的林区信道模型更加接近实测数据。此外,由于阴影衰落服从高斯分布,不同的标准差σ的值也会影响最终的衰落值,从图中可以看出,随着σ值的不断增大(从4到6),有阴影衰落信道模型也逐渐更贴近于xx公司校正后的模型,且在σ值为6时,两者基本重合,且与红色模拟数据散点之间的差距最小,说明了此时阴影衰落的标准差比较接近于实际衰落情况。
二、与其他方案对比部分
图9展示了用户CoMP实际遍历速率与推导出上界和下界之间的关系,包括差值对比和运行时间对比。将待服务区域假设为100m*100m的矩形区域,用户随机分布,且用户高度随机分布在0m-10m之间,两架无人机为这些用户通过CoMP为这些用户提供服务,无人机随机分布在高度为100m处。在图9(a)中对比了不同无人机发射功率下,实际值和上下界之间的差距,可以看出,在无人机不同的发射功率下,上下界与实际遍历速率的结果均相差很小。其中,使用下界计算用户的遍历速率和其平均相差大约1.13%,使用上界计算的遍历速率和其平均相差1.11%。在图9(b)中对比了不同的用户数下的运行时间。在用户数量固定的情况下,上界和下界的运行时间均有明显缩短,且上界对于算法运行速度的提升更高,这种趋势也随着用户数量的增加而更加明显。因此,可以进一步证实,本发明中推导出的用户CoMP传输速率的上下界在保证和原实际速率相差很小的情况下,大大加快了算法的运行速度。
图10展示了林区场景下用户的分布情况,考虑到林区中山丘起伏的影响,不同于城乡环境中,只需要考虑用户的二维坐标,林区中的用户三维分布可能更符合实际场景。具体地,假设图中共有100个用户,分布在1km*1km的矩形区域中,且用户分布服从三维泊松点过程(Poisson Point Process,PPP),以地平面为参考,所有用户的高度分布在0m-10m之间。
图11则展示了不同的方案下系统吞吐量随训练过程的变化曲线。该场景下,共对比了三种方案,HC-DRL、C-DRL以及PS-DRL,其中K=4,N=100。从图中可以看出,在相同的用户分布情况下,随着训练次数episode的增大,三种方案的系统吞吐量都随之增大,并在达到一定次数的episode后,所有方案的系统吞吐量最终都不再发生变化,说明此时三种方案的神经网络都已经训练好,并且学习到了最佳部署位置。然而,三种方案的收敛速度和最终达到的收敛性能却有一定的区别,从图中可以明显看出,PS-DRL方案的收敛速度最快,在大约100个episode的时候收敛,但最终达到的系统吞吐量却最小;而C-DRL方案收敛速度最慢,在600个episode左右时收敛,但最终达到的系统吞吐量却最高;HC-DRL方案在收敛速度和系统吞吐量之间达到了很好地折中,在大概200个episode的时候收敛,且其最终达到的系统吞吐量和C-DRL相比差距并不是很大。出现这种现象的原因在于,C-DRL方案中一个智能体包含了所有无人机,因此该智能体的动作空间和状态空间会很大,导致在学习过程中收敛速度变慢,但是由于C-DRL方案可以实现对所有无人机的联合优化,因此其最终达到的系统吞吐量也最高;而对于PS-DRL方案来说,每个无人机都是一个单智能体,这极大地减小了智能体的状态空间和动作空间,因此其收敛过程变快,然而这种方案并没有考虑到无人机之间的交互关系,因此最终达到的系统吞吐量变小。在这两种方案的对比下,可以看出,本发明所提出的HC-DRL方案很好地平衡了系统性能和算法复杂度之间的关系,且由于该算法将关联性较强的无人机分到了同一簇中进行联合优化,因此尽管该方案下达到的最终系统吞吐量略低于C-DRL,但是差距并没有很大,不过其收敛速度却比C-DRL来说提高了很多。可以看出,本发明中所提出的HC-DRL方案的性能得到了很好地验证。
三、参数设置影响部分
图12展示了不同的基站发射功率下,无人机数量对用户覆盖比例的影响。从图中可以看出,尽管随着基站发射功率的增大,有更多的用户的SNR可以达到阈值要求,从而被基站覆盖到,但是单基站的能力有限,在没有无人机的辅助下,单基站能够覆盖的用户比例较小;无人机的使用,能够帮助单基站扩大服务的用户覆盖比例,随着无人机数量的增加,能够服务的用户比例也越来越高,且无人机发射功率的增加,同样能够使得更多的用户被服务到。因此,可以证实,在林区应急场景中,无人机的使用提升待部署区域的通信容量,增加被服务用户的比例,满足更多用户的服务需求。
图13展示了不同的无人机发射功率下所有用户的平均遍历速率变化,并分别对比了CoMP传输方案与非CoMP传输方案、无人机质心位置初始化与随机位置初始化、以及不同的中断概率阈值下平均速率的变化情况,其中K=4,N=100。其中在非CoMP场景中,对于每个用户来说,只有一个无人机可以为其发送数据。从图中可以看出,CoMP场景能够获得比非CoMP场景更高的系统吞吐量,这是因为在CoMP的场景中,多架无人机联合为用户进行数据传输,用户处的信噪比会变大,使得平均传输速率升高;同样的,在图中也可以看出,无人机从用户分簇的质心位置出发比无人机从随机位置出发能够获得更高的平均遍历速率。这是因为,质心位置相对于随机位置来说,更加贴近于最优的部署位置,因此从质心位置出发更容易找到相对比较好的部署位置,使得用户的平均遍历速率升高。在不同的中断概率阈值Pthre的设置下,用户的平均遍历速率也有变化,当Pthre升高时,会有更多的用户能够通过无人机来进行数据传输,而不是通过远端基站进行传输,因此,用户的平均遍历速率增大。
图14则展示了不同的网格边长对算法复杂度和系统性能的影响。如前所述,在采用DQN算法对无人机的部署位置进行调整时,将整个区域划分为大小相同的网格,每个网格的中心即为无人机可以部署的一个候选位置,其中K=4,N=100。从图14(a)中可以看出,当无人机发射功率和用户数量确定的情况下,网格划分密集程度会对收敛时间和用户平均速率同时产生影响,网格边长越小,网格划分越密集,算法达到收敛时的运行时间越长,收敛速度越慢,但此时系统吞吐量却越好。容易理解,当网格变得密集时,无人机可部署的位置变多,即每个智能体的状态空间变大,因此,此时算法的复杂度升高,达到收敛时的运行时间也就越长;但是在网格密集的情况下,无人机寻找最优解的粒度变小,增加了找到最优解的可能,所以,此时的系统吞吐量会变高。另一方面,从图14(b)中可以看出,随着无人机发射功率的增大,用户的平均速率也会变大,这是因为无人机发射功率增大,使得无人机和地面用户之间的中断概率降低,有更多的用户可以通过无人机来进行数据传输而避免了远端基站的传输方式,因此用户的平均传输变高,但是无人机的发射功率对收敛时间几乎没有影响;此外,用户数量的减少,意味着用户相对更为分散,平均传输距离增加,导致用户的平均传输速率减小,但相应的用户数的增加,也导致算法在运行时会进行更多的判断和计算,使得收敛时间增长。综上所述,在本场景中,网格的划分对系统性能和算法复杂度来说是一个折中的过程,在实际应用时,需要根据实际需求,采用不同的网格划分方式。
下面对本发明提供的基于层次化分簇的无人机网络部署系统进行描述,下文描述的基于层次化分簇的无人机网络部署系统与上文描述的基于层次化分簇的无人机网络部署方法可相互对应参照。
图15是本发明提供的基于层次化分簇的林区无人机网络部署系统的结构示意图,如图15所示,包括:获取模块1501、构建模块1502、分簇模块1503和优化模块1504,其中:
获取模块1501用于获取地面用户集合和无人机集合,确定林区信道模型;构建模块1502用于基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;分簇模块1503用于采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;优化模块1504用于基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
本发明针对特有的应急救援场景,分别考虑基站存在和缺失的无人机部署方案,提高了无人机部署的整体性能和整体数据吞吐量,实现资源最大优化配置。
图16示例了一种电子设备的实体结构示意图,如图16所示,该电子设备可以包括:处理器(processor)1610、通信接口(CommunicationsInterface)1620、存储器(memory)1630和通信总线1640,其中,处理器1610,通信接口1620,存储器1630通过通信总线1640完成相互间的通信。处理器1610可以调用存储器1630中的逻辑指令,以执行基于层次化分簇的无人机网络部署方法,该方法包括:获取地面用户集合和无人机集合,确定林区信道模型;基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
此外,上述的存储器1630中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法所提供的基于层次化分簇的林区无人机网络部署方法,该方法包括:获取地面用户集合和无人机集合,确定林区信道模型;基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各提供的基于层次化分簇的林区无人机网络部署方法,该方法包括:获取地面用户集合和无人机集合,确定林区信道模型;基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (7)
1.一种基于层次化分簇的林区无人机网络部署方法,其特征在于,包括:
获取地面用户集合和无人机集合,确定林区信道模型;所述林区信道模型是基于路径损耗确定的;
基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;
采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;
基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果;
所述获取地面用户集合和无人机集合,确定林区信道模型,包括:
在基站缺失场景下,确定所述无人机集合和所述地面用户集合之间的总衰落包括对数距离阴影衰落和额外衰减,得到任一簇中任一无人机和任一地面用户之间的总损耗;所述额外衰减表示任一簇中任一无人机和任一地面用户之间的林区中的额外损耗;
所述无人机集合和所述地面用户集合之间的所述总衰落的具体计算方式为:
其中,表示所述对数距离阴影衰落,/>表示所述额外衰减;
所述额外衰减的具体计算方式为:
基于所述总损耗确定任一簇中任一无人机通过协作多点传输到任一用户的信道增益矢量和第一用户信噪比,确定所有无人机具有相同的无人机发射功率,获取加性高斯白噪声,根据所述信道增益矢量、所述无人机发射功率和所述加性高斯白噪声,得到所述协作多点传输下的用户遍历速率;
基于第一二元变量确定任一簇中所有无人机是否与所述任一簇中的任一用户建立协作多点传输关系,所述第一二元变量是基于用户连接中断概率和预设概率阈值所得到的,所述用户连接中断概率是基于所述第一用户信噪比、所述无人机发射功率、所述加性高斯白噪声、所述信道增益矢量和预设信噪比阈值所得到的;
在基站通信场景下,确定单基站和地面用户之间的信道衰落,获取基站发射功率,基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到第二用户信噪比;
基于第二二元变量确定所述单基站是否与所述任一簇中的任一用户建立连接关系,所述第二二元变量是基于所述第二用户信噪比和所述预设信噪比阈值所得到的;
基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到所述用户通过基站通行的传输速率;
确定第三二元变量,基于所述第三二元变量确定用户位置是否超出基站服务范围,并通过无人机协作多点传输进行通信,所述第三二元变量是基于所述用户连接中断概率、所述预设概率阈值以及所述用户与基站的连接关系确定的;
所述基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数,包括:
确定基站缺失概率,基于所述第一二元变量、所述第二二元变量、所述第三二元变量、所述协作多点传输下的用户遍历速率和所述用户通过基站通行的传输速率,建立所述无人机集合位置部署目标函数,并使所述无人机集合位置部署目标函数同时满足第一约束条件至第六约束条件;
所述第一约束条件至第三约束条件包括每个地面用户仅能和一个无人机簇建立协作多点传输,每个用户仅能选择通过无人机进行协作多点传输或与基站进行传输;
第四约束条件包括所述无人机发射功率不大于无人机发射功率最大值,所述基站发射功率不大于基站发射功率最大值;
第五约束条件包括所述用户连接中断概率小于所述预设概率阈值;
所述第六约束条件包括所述第二用户信噪比大于所述预设信噪比阈值;
所述采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果,包括:
基于FCM算法对所有地面用户进行分簇,根据欧氏距离实现最小化加权平方误差和,得到所述地面用户分簇结果;
获取所述地面用户分簇结果中地面用户分簇的质心集合,将所述质心集合作为无人机部署的初始位置集合;
将所有无人机部署在所述初始位置集合上,确定每个无人机分簇为独立的智能体,确定每个智能体中的最大无人机数量,由所有无人机数量除以所述最大无人机数量,得到初始无人机分簇数量;
采用谱聚类中的比例切图法对所述初始无人机分簇数量进行分簇调整,将每个无人机作为无向权重图中的顶点,以所述第一用户信噪比大于所述预设信噪比阈值的用户数量作为所述无人机之间的边权重,结合每簇内预设无人机阈值,将所述无向权重图分割成簇,得到所述无人机分簇结果。
2.根据权利要求1所述的基于层次化分簇的林区无人机网络部署方法,其特征在于,所述基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数,之后还包括:
确定协作多点传输下的用户遍历速率上边界值和用户遍历速率下边界值;
基于所述无人机发射功率、所述加性高斯白噪声和所述信道增益矢量得到用户遍历速率上边界值函数和用户遍历速率下边界值函数;
基于Jensen不等式获得所述用户遍历速率上边界值函数的凹函数,以及所述用户遍历速率下边界值函数的凸函数;
将所述凹函数和所述凸函数代入所述无人机集合位置部署目标函数,得到转化后的无人机集合位置部署目标函数。
3.根据权利要求1所述的基于层次化分簇的林区无人机网络部署方法,其特征在于,所述基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果,包括:
获取所述无人机分簇结果,基于预设大小网格对无人机待部署区域进行离散化处理,确定任一分簇中无人机在任一时刻的状态;
确定所述任一分簇中无人机在任一时刻的动作包括第一预设方向、第二预设方向、第三预设方向、第四预设方向和第五预设方向;
确定所述任一分簇中无人机在任一时刻的奖赏包括第一奖赏值、第二奖赏值和第三奖赏值;
基于DQN算法,根据所述任一分簇中无人机在任一时刻的状态、动作和奖励,得到所述无人机集合最优位置部署结果。
4.根据权利要求3所述的基于层次化分簇的林区无人机网络部署方法,其特征在于,所述基于DQN算法,根据所述任一分簇中无人机在任一时刻的状态、动作和奖励,得到所述无人机集合最优位置部署结果,包括:
基于所述DQN算法构建经验回放库,将数据集放入所述经验回放库进行存储,所述数据集包括所述任一时刻的状态、动作、奖励和下一时刻的状态;
初始化估计值网络输出和目标值网络输出,初始化所述经验回放库;
从所述经验回放库中随机抽取数据进行学习,更新目标Q值,根据梯度下降法最小化损失函数,并更新对应的神经网络权重和Q值更新的学习率,使所述估计值网络输出和所述目标值网络输出的差距缩小,直至满足预设收敛条件;
输出所有无人机的位置,满足所述无人机集合最优位置部署结果。
5.一种基于层次化分簇的林区无人机网络部署系统,其特征在于,包括:
获取模块,用于获取地面用户集合和无人机集合,确定林区信道模型;所述林区信道模型是基于路径损耗确定的;
构建模块,用于基于所述林区信道模型,确定无人机和地面用户之间的预设连接场景,构建所述无人机集合位置部署目标函数;
分簇模块,用于采用层次化分簇对所述地面用户集合和所述无人机集合进行分簇,获得地面用户分簇结果和无人机分簇结果;
优化模块,用于基于深度强化学习算法,根据所述地面用户分簇结果和所述无人机分簇结果,对所述无人机集合位置部署目标函数中协作多点传输下的用户遍历速率和用户通过基站通行的传输速率进行联合优化,得到无人机集合最优位置部署结果;
所述获取模块,具体用于:
在基站缺失场景下,确定所述无人机集合和所述地面用户集合之间的总衰落包括对数距离阴影衰落和额外衰减,得到任一簇中任一无人机和任一地面用户之间的总损耗;所述额外衰减表示任一簇中任一无人机和任一地面用户之间的林区中的额外损耗;
所述无人机集合和所述地面用户集合之间的所述总衰落的具体计算方式为:
其中,表示所述对数距离阴影衰落,/>表示所述额外衰减;
所述额外衰减的具体计算方式为:
基于所述总损耗确定任一簇中任一无人机通过协作多点传输到任一用户的信道增益矢量和第一用户信噪比,确定所有无人机具有相同的无人机发射功率,获取加性高斯白噪声,根据所述信道增益矢量、所述无人机发射功率和所述加性高斯白噪声,得到所述协作多点传输下的用户遍历速率;
基于第一二元变量确定任一簇中所有无人机是否与所述任一簇中的任一用户建立协作多点传输关系,所述第一二元变量是基于用户连接中断概率和预设概率阈值所得到的,所述用户连接中断概率是基于所述第一用户信噪比、所述无人机发射功率、所述加性高斯白噪声、所述信道增益矢量和预设信噪比阈值所得到的;
在基站通信场景下,确定单基站和地面用户之间的信道衰落,获取基站发射功率,基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到第二用户信噪比;
基于第二二元变量确定所述单基站是否与所述任一簇中的任一用户建立连接关系,所述第二二元变量是基于所述第二用户信噪比和所述预设信噪比阈值所得到的;
基于所述信道衰落、所述基站发射功率和所述加性高斯白噪声,得到所述用户通过基站通行的传输速率;
确定第三二元变量,基于所述第三二元变量确定用户位置是否超出基站服务范围,并通过无人机协作多点传输进行通信,所述第三二元变量是基于所述用户连接中断概率、所述预设概率阈值以及所述用户与基站的连接关系确定的;
所述构建模块,具体用于:
确定基站缺失概率,基于所述第一二元变量、所述第二二元变量、所述第三二元变量、所述协作多点传输下的用户遍历速率和所述用户通过基站通行的传输速率,建立所述无人机集合位置部署目标函数,并使所述无人机集合位置部署目标函数同时满足第一约束条件至第六约束条件;
所述第一约束条件至第三约束条件包括每个地面用户仅能和一个无人机簇建立协作多点传输,每个用户仅能选择通过无人机进行协作多点传输或与基站进行传输;
第四约束条件包括所述无人机发射功率不大于无人机发射功率最大值,所述基站发射功率不大于基站发射功率最大值;
第五约束条件包括所述用户连接中断概率小于所述预设概率阈值;
所述第六约束条件包括所述第二用户信噪比大于所述预设信噪比阈值;
所述分簇模块具体用于:
基于FCM算法对所有地面用户进行分簇,根据欧氏距离实现最小化加权平方误差和,得到所述地面用户分簇结果;
获取所述地面用户分簇结果中地面用户分簇的质心集合,将所述质心集合作为无人机部署的初始位置集合;
将所有无人机部署在所述初始位置集合上,确定每个无人机分簇为独立的智能体,确定每个智能体中的最大无人机数量,由所有无人机数量除以所述最大无人机数量,得到初始无人机分簇数量;
采用谱聚类中的比例切图法对所述初始无人机分簇数量进行分簇调整,将每个无人机作为无向权重图中的顶点,以所述第一用户信噪比大于所述预设信噪比阈值的用户数量作为所述无人机之间的边权重,结合每簇内预设无人机阈值,将所述无向权重图分割成簇,得到所述无人机分簇结果。
6.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述基于层次化分簇的林区无人机网络部署方法的步骤。
7.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述基于层次化分簇的林区无人机网络部署方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110633095.0A CN113543068B (zh) | 2021-06-07 | 2021-06-07 | 一种基于层次化分簇的林区无人机网络部署方法与系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110633095.0A CN113543068B (zh) | 2021-06-07 | 2021-06-07 | 一种基于层次化分簇的林区无人机网络部署方法与系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113543068A CN113543068A (zh) | 2021-10-22 |
CN113543068B true CN113543068B (zh) | 2024-02-02 |
Family
ID=78124617
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110633095.0A Active CN113543068B (zh) | 2021-06-07 | 2021-06-07 | 一种基于层次化分簇的林区无人机网络部署方法与系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113543068B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114268963B (zh) * | 2021-12-24 | 2023-07-11 | 北京航空航天大学 | 一种面向通信覆盖的无人机网络自主部署方法 |
CN114245436B (zh) * | 2021-12-30 | 2024-04-02 | 杭州电子科技大学 | 无人机辅助移动边缘网络分簇方法及装置 |
CN114339842B (zh) * | 2022-01-06 | 2022-12-20 | 北京邮电大学 | 基于深度强化学习无人机集群在时变场景下动态轨迹设计方法和装置 |
CN115278698B (zh) * | 2022-06-13 | 2024-02-02 | 北京邮电大学 | 基于动态用户分布预测的无人机基站动态部署方法及装置 |
CN115037638B (zh) * | 2022-06-14 | 2023-10-20 | 北京邮电大学 | 低能耗和高时效性的无人机网络数据采集与传输控制方法 |
CN114840028B (zh) * | 2022-07-04 | 2023-04-07 | 中国科学院自动化研究所 | 目标监视方法、装置、电子设备及存储介质 |
CN116367181B (zh) * | 2022-12-26 | 2024-02-23 | 国家计算机网络与信息安全管理中心 | 一种空地融合蜂窝网络中的无人机基站部署方法 |
CN118034355B (zh) * | 2024-04-15 | 2024-08-13 | 中国科学院数学与系统科学研究院 | 网络训练方法、无人机避障方法及装置 |
CN118095811B (zh) * | 2024-04-29 | 2024-07-19 | 应急管理部沈阳消防研究所 | 基于深度强化学习模型的森林灭火地空协同指挥调度方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015123942A1 (zh) * | 2014-02-20 | 2015-08-27 | 中兴通讯股份有限公司 | 一种实现波束成型的方法及基站 |
WO2017019595A1 (en) * | 2015-07-27 | 2017-02-02 | Genghiscomm Holdings, LLC | Airborne relays in cooperative-mimo systems |
US9622133B1 (en) * | 2015-10-23 | 2017-04-11 | The Florida International University Board Of Trustees | Interference and mobility management in UAV-assisted wireless networks |
CN108040353A (zh) * | 2017-12-18 | 2018-05-15 | 北京工业大学 | 一种q学习的无人机集群智能地理路由方法 |
CN110488861A (zh) * | 2019-07-30 | 2019-11-22 | 北京邮电大学 | 基于深度强化学习的无人机轨迹优化方法、装置和无人机 |
CN111193536A (zh) * | 2019-12-11 | 2020-05-22 | 西北工业大学 | 一种多无人机基站轨迹优化和功率分配方法 |
CN111787546A (zh) * | 2020-06-04 | 2020-10-16 | 北京邮电大学 | 依托无人空中平台的无线网络快速部署方法及装置 |
CN111867139A (zh) * | 2020-07-06 | 2020-10-30 | 上海交通大学 | 基于q学习的深度神经网络自适应退避策略实现方法及系统 |
CN112902969A (zh) * | 2021-02-03 | 2021-06-04 | 重庆大学 | 一种无人机在数据收集过程中的路径规划方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9363008B2 (en) * | 2014-07-22 | 2016-06-07 | International Business Machines Corporation | Deployment criteria for unmanned aerial vehicles to improve cellular phone communications |
WO2017189859A1 (en) * | 2016-04-27 | 2017-11-02 | Neurala, Inc. | Methods and apparatus for pruning experience memories for deep neural network-based q-learning |
EP3861455A4 (en) * | 2018-10-03 | 2022-06-29 | Camelot UK Bidco Limited | System and methods for training and employing machine learning models for unique string generation and prediction |
US11470484B2 (en) * | 2019-11-28 | 2022-10-11 | University-Industry Cooperation Group Of Kyung Hee University | UAV arrangement device and method based on machine learning for maximizing communication throughput |
-
2021
- 2021-06-07 CN CN202110633095.0A patent/CN113543068B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015123942A1 (zh) * | 2014-02-20 | 2015-08-27 | 中兴通讯股份有限公司 | 一种实现波束成型的方法及基站 |
WO2017019595A1 (en) * | 2015-07-27 | 2017-02-02 | Genghiscomm Holdings, LLC | Airborne relays in cooperative-mimo systems |
US9622133B1 (en) * | 2015-10-23 | 2017-04-11 | The Florida International University Board Of Trustees | Interference and mobility management in UAV-assisted wireless networks |
CN108040353A (zh) * | 2017-12-18 | 2018-05-15 | 北京工业大学 | 一种q学习的无人机集群智能地理路由方法 |
CN110488861A (zh) * | 2019-07-30 | 2019-11-22 | 北京邮电大学 | 基于深度强化学习的无人机轨迹优化方法、装置和无人机 |
CN111193536A (zh) * | 2019-12-11 | 2020-05-22 | 西北工业大学 | 一种多无人机基站轨迹优化和功率分配方法 |
CN111787546A (zh) * | 2020-06-04 | 2020-10-16 | 北京邮电大学 | 依托无人空中平台的无线网络快速部署方法及装置 |
CN111867139A (zh) * | 2020-07-06 | 2020-10-30 | 上海交通大学 | 基于q学习的深度神经网络自适应退避策略实现方法及系统 |
CN112902969A (zh) * | 2021-02-03 | 2021-06-04 | 重庆大学 | 一种无人机在数据收集过程中的路径规划方法 |
Non-Patent Citations (5)
Title |
---|
A Tutorial on UAVs for Wireless Networks: Applications, Challenges, and Open Problems;Mohammad Mozaffari;《IEEE Communications Surveys & Tutorials ( Volume: 21, Issue: 3, thirdquarter 2019)》;全文 * |
Femtocell网络中基于联合传输的分簇与功率分配算法;龚胜丽;金勇;;计算机应用研究(第10期);全文 * |
基于无人机实景三维模型的矿区地形要素采集研究;袁林山;王莉;赵海卫;;现代矿业(第12期);全文 * |
无人机三维空地信道模型的空间特性研究;张治;熊天波;陈建侨;马楠;;通信学报(第02期);全文 * |
无人机网络中基于分层博弈的干扰对抗频谱接入优化;范超琼;赵成林;李斌;;通信学报(第06期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113543068A (zh) | 2021-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113543068B (zh) | 一种基于层次化分簇的林区无人机网络部署方法与系统 | |
Wang et al. | Multi-UAV dynamic wireless networking with deep reinforcement learning | |
Kalantari et al. | On the number and 3D placement of drone base stations in wireless cellular networks | |
Liu et al. | Wireless distributed learning: A new hybrid split and federated learning approach | |
CN111800185A (zh) | 一种无人机辅助通信中的分布式空地联合部署方法 | |
CN113872661B (zh) | 面向接入用户分级服务的无人机网络三维部署方法及系统 | |
CN112188505B (zh) | 一种网络优化方法和装置 | |
CN111381499B (zh) | 基于三维空间射频地图学习的网联飞行器自适应控制方法 | |
Luo et al. | A two-step environment-learning-based method for optimal UAV deployment | |
Almalki et al. | Empirical evolution of a propagation model for low altitude platforms | |
Fernandes et al. | Comparison of artificial intelligence and semi-empirical methodologies for estimation of coverage in mobile networks | |
CN115119174A (zh) | 灌区场景中基于能耗优化的无人机自主部署方法 | |
CN116600316A (zh) | 一种基于深度双q网络和联邦学习的空地一体化物联网联合资源分配方法 | |
Nasr-Azadani et al. | Distillation and ordinary federated learning actor-critic algorithms in heterogeneous UAV-aided networks | |
Sazak et al. | UAV-BS trajectory optimization under coverage, backhaul and QoS constraints using Q-learning | |
Wang et al. | On uav serving node deployment for temporary coverage in forest environment: A hierarchical deep reinforcement learning approach | |
Zhang et al. | Large-scale cellular coverage simulation and analyses for follow-me UAV data relay | |
CN117369485A (zh) | 无人机路径协同规划方法、装置、电子设备及存储介质 | |
CN117354791A (zh) | 一种毫米波车联网多基站多用户场景下的安全传输方法、系统、设备及介质 | |
Sun et al. | Semantic-driven computation offloading and resource allocation for uav-assisted monitoring system in vehicular networks | |
CN116782269A (zh) | 基于仿生算法和bp神经网络的无人机轨迹优化方法及系统 | |
CN116980933A (zh) | 天线参数调整方法和装置、电子设备及存储介质 | |
CN116488705A (zh) | 一种基于最坏情况柔性策略评估的灾后无人机部署方法 | |
Rofi et al. | LoRa Channel Propagation Modelling using Artificial Neural Network | |
Barreto et al. | Competitive neural networks for fault detection and diagnosis in 3G cellular systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |