CN113625751B - 面向空地一体联邦学习的无人机位置与资源联合优化方法 - Google Patents

Abstract

本发明公开了一种面向空地一体联邦学习的无人机位置与资源联合优化方法，属于空地一体联邦学习领域。该方法根据用户的CPU频率、本地训练轮次、本地数据集大小得到该用户在一轮全局训练中所需的计算能耗和计算时延，根据用户与无人机之间的空间路径损耗模型计算出用户一轮全局训练的通信能耗和通信时延，根据计算时延、通信时延、训练精度通过迭代计算最小化总用户训练能耗。本发明无人机位置与资源联合优化方法具有高效节能、智能化的特点，大大节省了人力资源以及能源消耗。

Description

面向空地一体联邦学习的无人机位置与资源联合优化方法

技术领域

本发明属于空地一体联邦学习领域，具体地涉及一种面向空地一体联邦学习的无人机位置与资源联合优化方法。

背景技术

自2020年以来，5G网络已经进入了一个蓬勃发展的时期，未来的6G网络也正处于密集的研究之中。在6G的背景下，由于其灵活性、机动性、敏捷性和强大计算能力和长途飞行能力的增强，安装有空中基站甚至边缘计算服务器的无人机，被设想为地面移动用户上运行的新兴人工智能和机器学习应用程序提供辅助通信和计算服务。因此，未来6G的无人机辅助通信和计算任务越来越引起学术界和业界的兴趣。

作为空中基站或边缘计算服务器部署的无人机，能灵活地收集分散的用户的数据，并为它们进行机器学习模型训练。然而，由于公众对隐私问题的关注，用户直接通过共享所有原始数据可能并不现实。此外，由于无人机的电池容量、存储能力和计算能力相对有限，因此，在无人机中传输如此大量的数据和执行这些数据仍然具有挑战性。因此，对于这种无人机辅助网络，使用传统的集中式机器学习可能是不可行的，迫切需要找到一种能够很好地适应这种网络的新的机器学习模型训练方法。

最近，联邦学习成为一个很有前途的分布式机器学习的范例，可以使多个用户在不共享原始数据的情况下协作训练机器学习模型，每个用户基于自己的数据训练本地机器学习模型，并将最近的模型参数发送到全局模型聚合的参数服务器节点。直观地说，就是将联邦学习集成到无人机辅助网络中，这被定义为空地一体联邦学习，可以通过集中的机器学习来解决上述问题。具体来说，无人机可以作为参数服务器节点，为空地一体联邦学习中的地面用户聚合模型参数。这避免了原始数据的泄漏，并大大减少了数据传输量，因为模型参数的数据大小比原始数据要小得多。然而，与传统的以地面参数服务器给用户提供辅助通信和计算服务的联邦学习不同，空地一体联邦学习的设计应该严格考虑无人机的机动性对空地无线信道的影响，同时优化计算通信网络资源，来提高空地一体联邦学习的性能。

发明内容

本发明的目的在于针对现有技术的缺陷或问题，提供一种面向空地一体联邦学习的无人机位置与资源联合优化方法，来降低总用户训练能耗。

为实现上述目的，本发明采用如下技术方案：一种面向空地一体联邦学习的无人机位置与资源联合优化方法，无人机对没有地面基站的区域用户提供辅助通信和计算服务，具体包括如下步骤：

(1)根据用户的CPU频率、本地训练轮次、本地数据集大小得到该用户在一轮全局训练中所需的计算能耗和计算时延；

(2)根据用户与无人机之间的空间路径损耗模型计算出用户一轮全局训练的通信能耗和通信时延；

(3)根据计算时延、通信时延、训练精度最小化总用户训练能耗，所述总用户训练能耗包括：总用户计算能耗和总用户通信能耗；具体包括如下子步骤：

(3.1)根据全局训练时间的约束、本地训练时间的约束通过凸优化的频率优化算法优化用户的计算频率和计算时间；

(3.2)根据步骤(3.1)求得的用户的计算频率和计算时间的最优解结合全局训练时间的约束、通信时间的约束通过逐次凸逼近优化算法优化无人机的悬停位置和通信时间，并更新无人机的悬停位置；

(3.3)重复迭代(3.1)～(3.2)，直至总用户训练能耗的相对误差小于0.001，得到最小化的总用户训练能耗，获得最优化的网络资源配置、无人机悬停位置，所述网络资源配置包括最优的用户CPU频率、计算时间的阈值、通信时间的阈值。

进一步地，所述计算能耗

的具体计算过程为：

所述计算时延

具体为：

其中，α_u表示第u个用户的有效电容系数，C_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率。

进一步地，所述通信能耗

的具体计算过程为：

所述通信时延

的具体计算过程为：

其中，a表示用户需要上传到无人机上的数据量大小，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，R_u表示第u个用户与无人机之间的欧式距离，H表示无人机的悬停高度，p_u表示第u个用户的传输功率。

进一步地，所述全局训练时间的约束具体为：

其中，L(θ)表示全局计算轮次，

θ表示本地收敛精度，T_com表示通信时间的阈值，T_cmp表示计算时间阈值，

表示本地计算轮次，v是与上传数据量相关的系数，τ表示全局训练时间的阈值。

进一步地，所述本地训练时间的约束具体为：

其中，c_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率，T_cmp表示计算时间的阈值，A表示用户总量的集合。

进一步地，所述通信时间的约束具体为：

其中，a表示用户需要上传到无人机上的数据量大小，η_u表示辅助变量，U表示用户的数量大小，T_com表示通信时间的阈值，A表示用户总量的集合。

进一步地，所述辅助变量η_u的约束具体为：

其中，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，H表示无人机的悬停高度，p_u表示第u个用户的传输功率，R_u表示第u个用户与无人机之间的欧式距离，

表示第r轮迭代时第u个用户与无人机之间的欧式距离，A表示用户总量的集合。

进一步地，步骤(3.2)中更新无人机的悬停位置的具体过程为：

其中，P(r+1)表示第r+1轮迭代的无人机位置，P(r)表示第r轮迭代的无人机位置，σ^j表示更新的步长，

表示在逐次凸逼近过程中计算出的无人机位置的近似值。

与现有技术相比，本发明具有如下有益效果：本发明面向空地一体联邦学习的无人机位置与资源联合优化方法，根据计算时延、通信时延、训练精度最小化总用户训练能耗，根据交替优化的思想将总用户训练能耗的最小化问题分解成用户的计算频率的优化问题以及无人机的悬停位置的优化问题，通过迭代优化，最小化总用户训练能耗。本发明无人机位置与资源联合优化方法具有高效节能、智能化的特点，大大节省了人力资源以及能源消耗。

附图说明

图1为本发明面向空地一体联邦学习场景的示意图；

图2为本发明在不同数据量下总用户训练能耗的仿真结果图；

图3为本发明在不同算法下总用户训练能耗与带宽关系的实验仿真结果图；

图4为本发明在不同算法下总用户训练能耗与本地精度关系的实验仿真结果图；

图5为本发明在不同算法下总用户训练能耗与上传数据量关系的实验仿真结果图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不用于限定本发明。

本发明提供的面向空地一体联邦学习的无人机位置与资源联合优化方法中，考虑无人机对没有地面基站区域的用户提供辅助通信和计算服务，其中需要无人机协助用户进行联邦学习来得到更好的推断模型，通过对无人机悬停位置和网络资源分配的联合优化，实现在满足收敛精度和时延约束的条件下，最小化地面用户总训练能耗，本方案中的用户为物联网设备。在将联邦学习应用于空地一体网络的问题中，由于物联网设备的电池容量有限，存在地面用户总训练能耗最小化的优化问题，具体有如下挑战：1)：空地一体联邦学习的设计应该严格考虑由无人机的机动性造成的空地无线信道的影响；2)：空地一体联邦学习的设计应考虑训练的实际性，保证用户的CPU频率在合理的实际范围内达到最优；3)：空地一体联邦学习的设计应考虑训练的时效性，确保计算和通信要在规定的时间内完成。

本发明中面向空地一体联邦学习的无人机位置与资源联合优化方法，具体包括如下步骤：

(1)根据用户的CPU频率、本地训练轮次、本地数据集大小得到该用户在一轮全局训练中所需的计算能耗和计算时延；

本发明中计算能耗

的具体计算过程为：

本发明中计算时延

的具体计算过程为：

其中，α_u表示第u个用户的有效电容系数，C_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率。

(2)根据用户与无人机之间的空间路径损耗模型计算出用户一轮全局训练的通信能耗和通信时延；具体地，根据数据传输速率

以及用户需要上传到无人机上的数据量大小，计算得到通信时延

再根据第u个用户的传输功率p_u，得到该用户一轮全局训练的通信能耗

其中，a表示用户需要上传到无人机上的数据量大小，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，R_u表示第u个用户与无人机之间的欧式距离，H表示无人机的悬停高度，p_u表示第u个用户的传输功率。

(3)根据计算时延、通信时延、训练精度最小化总用户训练能耗，由于总用户训练能耗包括：总用户计算能耗和总用户通信能耗，它们取决于计算时延、通信时延、训练精度这几个指标，将最小化总用户训练能耗的问题分解成优化总用户计算能耗的问题以及优化总用户通信能耗的问题，通过两者的迭代优化，从而实现总用户训练能耗的最小化，具体包括如下子步骤：

(3.1)在固定无人机悬停位置和通信时间的情况下，将原问题转换成一个凸优化问题来求解用户的计算频率和计算时间的局部最优解，大大降低原问题的求解难度，因此根据全局训练时间的约束、本地训练时间的约束，利用CVX求解工具优化计算频率和计算时间；

该过程中所涉及的全局训练时间的约束具体为：

其中，L(θ)表示全局计算轮次，

T_com表示通信时间的阈值，T_cmp表示计算时间阈值，

表示本地计算轮次，v是与上传数据量相关的系数，τ表示全局训练时间的阈值。

该过程涉及的本地训练时间的约束具体表示为：

其中，c_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率，用户CPU频率的取值范围为：

表示第u个用户的最小CPU频率，

表示第u个用户的最大CPU频率，f_u的取值由用户的实际计算能力决定，T_cmp表示计算时间的阈值，A表示用户总量的集合。

(3.2)根据步骤(3.1)求得的用户的计算频率和计算时间的最优解代入原问题转化为一个非凸的关于无人机位置以及通信时间的问题，非凸问题不易求解，利用逐次凸逼近的方法结合全局训练时间的约束、通信时间的约束，将问题转化为一个凸问题用凸优化直接进行求解，优化无人机的悬停位置和通信时间，并更新无人机的悬停位置：

该过程中涉及的全局训练时间的约束具体为：

其中，L(θ)表示全局计算轮次，

T_com表示通信时间的阈值，T_cmp表示计算时间阈值，

表示本地计算轮次，v是与上传数据量相关的系数，τ表示全局训练时间的阈值。

该过程中通信时间的约束具体表示为：

其中，a表示用户需要上传到无人机上的数据量大小，η_u表示引入的辅助变量，U表示用户的数量大小，T_com表示通信时间的阈值，U用户的数量大小，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，H表示无人机的悬停高度，p_u表示第u个用户的传输功率，R_u表示第u个用户与无人机之间的欧式距离，

表示第r轮迭代时第u个用户与无人机之间的欧式距离。

更新无人机的悬停位置的具体过程为：

其中，P(r+1)表示第r+1轮迭代的无人机位置，P(r)表示第r轮迭代的无人机位置，σ^j表示更新的步长，

表示在逐次凸逼近过程中计算出的无人机位置的近似值。

(3.3)重复迭代(3.1)～(3.2)，直至总用户训练能耗的相对误差小于0.001，得到最小化的总用户训练能耗，获得最优化的无人机悬停位置和网络资源配置，网络资源配置包括最优的用户CPU频率f_u、计算时间的阈值T_cmp、通信时间的阈值T_com。

在实际中，一些地面基站由于大型体育/节日活动或故障可能是拥挤的或无法使用的，甚至在偏远地区没有提供网络覆盖，需要通过部署无人机以提供必要的通信和计算服务。图1为本发明提供的空地一体联邦学习场景，考虑一个无人机网络，由一架配备有空中边缘服务器的无人机和该区域的用户组成，用户集由u＝{1,2...，u}表示，第u个用户的坐标为[x_u，y_u]，无人机的坐标为[X，Y，H]，由于用户的位置是固定，因此需要确定无人机的位置。在无人机作为参数服务器的帮助下，该网络中的每个用户旨在基于其本地数据集D_u训练一个本地联邦学习模型，记为ωⁿ，上传至无人机进行模型聚合得到新的全局模型wⁿ⁺¹，下发给各个设备。

图2是考虑1架无人机为100个用户提供辅助计算和通信服务进行联邦学习，在不同上传数据量下用户总训练能耗的仿真结果图，本发明中所提出的无人机位置与资源联合优化方法(JULRA)具有良好的收敛性，采用本发明的方法相较于未优化的初始方法，分别在上传数据量为200KB、250KB、300KB下能耗优化了56.02％、52.65％和52.59％。同时为了保持训练在不同上传数据量下的收敛性，可调整训练完成的时间，本发明的JULRA可以大大降低用户的能耗，并在有限的迭代范围内快速收敛。

图3为不同算法下用户总训练能耗与带宽的关系图，其中，RUL-ORA是通过随机选择无人机的位置，再通过联合优化算法优化计算和通信资源分配；OUL-FRA是使用了一个固定的计算资源分配方案(即

)，并通过联合优化算法优化了无人机位置和通信资源分配；OUL-RRA是从可行区间随机选择计算频率，并通过联合优化算法优化了无人机位置和通信资源分配。从图3中可以看出，带宽增加时，用户能耗降低，因为较大的带宽可以节省用户通信能耗，由于计算频率没有得到优化，当带宽增加，通信能量消耗的比例降低时，OUL-FRA和OUL-RRA的FL性能比RUL-ORA、JULRA都要差，与RUL-ORA、OUL-FRA和OULRRA相比，JULRA的平均增益分别为19.08％、43.36％和51.67％。

图4为不同算法下用户总训练能耗与本地精度的关系图，实际上，本地精度θ指的是联邦学习的收敛阈值，较小的θ意味着局部模型的精度更高，在图4中随着θ的增加，本地计算轮次减少，整体通信能耗降低。与RUL-ORA、OUL-FRA和OUL-RRA相比，JULRA的平均增益分别为20.97％、30.84％和37.32％。

图5为不同算法下用户总训练能耗与上传模型参数数据量的关系图，当上传数据增大时，由于通信压力较大，整体通信能耗增加，OUL-FRA和RUL-ORA的曲线有交叉，是因为当数据变大时，通信能量消耗的比例逐渐超过计算能耗，而RUL-ORA不优化无人机的位置，导致联邦学习的性能较差。与RUL-ORA、OUL-FRA和OULRRA相比，JULRA的平均增益分别为21.3％、32.48％和40.7％。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (3)

1.一种面向空地一体联邦学习的无人机位置与资源联合优化方法，无人机对没有地面基站的区域用户提供辅助通信和计算服务，其特征在于，具体包括如下步骤：

(1)根据用户的CPU频率、本地训练轮次、本地数据集大小得到该用户在一轮全局训练中所需的计算能耗和计算时延；

(2)根据用户与无人机之间的空间路径损耗模型计算出用户一轮全局训练的通信能耗和通信时延；

(3)根据计算时延、通信时延、训练精度最小化总用户训练能耗，所述总用户训练能耗包括：总用户计算能耗和总用户通信能耗；具体包括如下子步骤：

(3.1)根据全局训练时间的约束、本地训练时间的约束通过凸优化的频率优化算法优化用户的计算频率和计算时间；

(3.2)根据步骤(3.1)求得的用户的计算频率和计算时间的最优解结合全局训练时间的约束、通信时间的约束通过逐次凸逼近优化算法优化无人机的悬停位置和通信时间，并更新无人机的悬停位置；更新无人机的悬停位置的具体过程为：

其中，P(r+1)表示第r+1轮迭代的无人机位置，P(r)表示第r轮迭代的无人机位置，σ^j表示更新的步长，

表示在逐次凸逼近过程中计算出的无人机位置的近似值；

(3.3)重复迭代(3.1)～(3.2)，直至总用户训练能耗的相对误差小于0.001，得到最小化的总用户训练能耗，获得最优化的网络资源配置、无人机悬停位置，所述网络资源配置包括最优的用户CPU频率、计算时间的阈值、通信时间的阈值；

所述全局训练时间的约束具体为：

其中，L(θ)表示全局计算轮次，

θ表示本地收敛精度，T_com表示通信时间的阈值，T_cmp表示计算时间阈值，

表示本地计算轮次，v是与上传数据量相关的系数，τ表示全局训练时间的阈值；

所述本地训练时间的约束具体为：

其中，c_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率，T_cmp表示计算时间的阈值，A表示用户总量的集合；

所述通信时间的约束具体为：

其中，a表示用户需要上传到无人机上的数据量大小，η_u表示辅助变量，U表示用户的数量大小，T_com表示通信时间的阈值，A表示用户总量的集合；

所述辅助变量η_u的约束具体为：

其中，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，H表示无人机的悬停高度，p_u表示第u个用户的传输功率，R_u表示第u个用户与无人机之间的欧式距离，

表示第r轮迭代时第u个用户与无人机之间的欧式距离，A表示用户总量的集合。

2.根据权利要求1所述面向空地一体联邦学习的无人机位置与资源联合优化方法，其特征在于，所述计算能耗

的具体计算过程为：

所述计算时延

具体为：

其中，α_u表示第u个用户的有效电容系数，c_u表示第u个用户的本地数据集中每个数据样本所需要的CPU周期数，D_u表示第u个用户的本地数据集中的数据样本的数量，f_u表示第u个用户的CPU频率。

3.根据权利要求1所述面向空地一体联邦学习的无人机位置与资源联合优化方法，其特征在于，所述通信能耗

的具体计算过程为：

所述通信时延

的具体计算过程为：

其中，a表示用户需要上传到无人机上的数据量大小，B表示无人机与用户的通信带宽，α₀表示每米的信道增益，σ²表示噪声功率，R_u表示第u个用户与无人机之间的欧式距离，H表示无人机的悬停高度，p_u表示第u个用户的传输功率。

Images