CN113406974A - 一种面向无人机集群联邦学习的学习与资源联合优化方法 - Google Patents

一种面向无人机集群联邦学习的学习与资源联合优化方法 Download PDF

Info

Publication number
CN113406974A
CN113406974A CN202110951816.2A CN202110951816A CN113406974A CN 113406974 A CN113406974 A CN 113406974A CN 202110951816 A CN202110951816 A CN 202110951816A CN 113406974 A CN113406974 A CN 113406974A
Authority
CN
China
Prior art keywords
unmanned aerial
aerial vehicle
training
following
round
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110951816.2A
Other languages
English (en)
Other versions
CN113406974B (zh
Inventor
董超
沈赟
屈毓锛
经宇骞
贺荣
吴启晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202110951816.2A priority Critical patent/CN113406974B/zh
Publication of CN113406974A publication Critical patent/CN113406974A/zh
Application granted granted Critical
Publication of CN113406974B publication Critical patent/CN113406974B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10—Simultaneous control of position or course in three dimensions
    • G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • G05D1/104—Simultaneous control of position or course in three dimensions specially adapted for aircraft involving a plurality of aircrafts, e.g. formation flying

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Supply And Distribution Of Alternating Current (AREA)

Abstract

本发明提供了一种面向无人机集群联邦学习的学习与资源联合优化方法，属于无人机边缘智能技术领域。该学习与资源联合优化方法根据无人机的CPU频率和本地训练轮次得到跟随无人机在一轮全局训练中所需的计算能耗和计算时延，并根据跟随无人机与领头无人机之间的空间路径损耗模型计算出跟随无人机一轮全局训练的通信能耗和通信时延；根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能耗；将最小化无人机集群总训练能耗的最优参数输入到对应的跟随无人机上，由跟随无人机跟随领头无人机进行巡检任务。通过本发明的方法来实现跟随无人机跟随领头无人机进行巡检任务，实现了智能化的特点，大大提高工作效率，降低人力成本。

Description

一种面向无人机集群联邦学习的学习与资源联合优化方法
技术领域
本发明属于无人机边缘智能技术领域，具体地涉及一种面向无人机集群联邦学习的学习与资源联合优化方法。
背景技术
随着无人机技术的发展，无人机在军用和民用领域被广泛的应用，比如，灾后搜救、目标跟踪和山火检测等。为了能够自主执行这些应用，由多架无人机组成的无人机集群需要具备通过智能分析做出实时决策的能力。机器学习作为近年来飞速发展的智能技术，能够赋能无人机集群拥有智能分析的能力，从而执行更多新兴应用。
传统集中式机器学习方案需要将原始数据传输到一个中央云服务器进行处理，由于以下三点原因，这种集中式方案不能直接应用在无人机集群中：（1）在有限的带宽资源中传输原始数据会导致过高的能量消耗；（2）对于目标跟踪此类时延有效性应用，传输大量数据造成的高时延是不可接受的；（3）直接传输原始数据可能会造成敏感信息的泄露，比如无人机的身份和位置信息。
相较于传统集中式机器学习，联邦学习作为一种不需要传输原始数据的分布式机器学习更加适合无人机集群。通过联邦学习，跟随无人机可以利用收集到数据进行本地训练并将本地模型参数上传至领头无人机进行模型聚合，因此，不需要上传带有敏感信息的原始数据。然而，由于无人机有限的电池容量以及无线信道的不稳定性等，在无人机集群中部署联邦学习也存在一些挑战，需要配置合适的训练参数和合理的资源分配来应对这些挑战。
无人机的有限的计算资源和动态变化的信道状态会导致过高的训练能量和训练时延，从而降低联邦学习模型训练的有效性和时效性，为了能够在机载资源和网络资源均有限的无人机集群网络中进行高效的联邦学习，通过联合优化联邦学习的学习和资源分配，在保证全局训练精度和最大训练时延的约束性，最小化无人机集群的训练总能耗是十分重要的。
发明内容
本发明的目的在于针对现有技术的缺陷或问题，提供了一种面向无人机集群联邦学习的学习与资源联合优化方法。
为实现上述目的，本发明采用的技术方案如下：一种面向无人机集群联邦学习的学习与资源联合优化方法，所述无人机集群由K架无人机和一架领头无人机组成，具体包括如下步骤：
（1）收集K架跟随无人机在巡查过程中拍摄的不同角度的照片，将其作为本地数据集；
（2）根据所述跟随无人机的CPU频率、本地训练轮次、本地数据集的大小得到该跟随无人机在一轮全局训练中所需的计算能耗和计算时延；
（3）根据跟随无人机与领头无人机之间的空间路径损耗模型计算出该跟随无人机一轮全局训练的通信能耗和通信时延；
（4）根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能耗，所述总训练能耗包括：K架跟随无人机的总计算能耗和K架跟随无人机的总通信能耗；具体包括如下子步骤：
（4.1）根据本地训练轮次的约束、本地收敛精度的约束、每轮全局训练的时间小于最大训练时延的约束通过逐次凸逼近的方法优化本地收敛精度；
（4.2）根据本地训练轮次的约束、每轮全局训练的时间小于最大训练时延的约束优化本地训练轮次；
（4.3）根据总带宽的约束、本地训练轮次的约束、本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束，利用CVX求解工具优化计算频率分配和带宽分配；
（4.4）重复迭代步骤（4.1）-（4.3），直至无人机集群总训练能耗的相对误差小于0.01，得到最小化的无人机集群总训练能耗，获得最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽；
（5）将最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽输入到对应的跟随无人机上，由跟随无人机跟随领头无人机进行巡检任务。
进一步地，所述计算能耗
Figure 995DEST_PATH_IMAGE001
具体为：
Figure 95553DEST_PATH_IMAGE002
；
所述计算时延
Figure 742435DEST_PATH_IMAGE003
具体为：
Figure 316636DEST_PATH_IMAGE004
；
其中，N(t)表示第t轮全局训练中进行的本地训练轮次，
Figure 390771DEST_PATH_IMAGE005
表示有效电容系数，
Figure 417633DEST_PATH_IMAGE006
表示第k架跟随无人机的本地数据集中每个数据样本所需要的CPU周期数、
Figure 805889DEST_PATH_IMAGE007
表示第k架跟 随无人机k的本地数据集中数据样本的数量，
Figure 860695DEST_PATH_IMAGE008
表示第k架跟随无人机的CPU频率。
进一步地，所述通信能耗
Figure 981098DEST_PATH_IMAGE009
具体为：
Figure 354310DEST_PATH_IMAGE010
；
所述通信时延
Figure 483940DEST_PATH_IMAGE011
具体为：
Figure 891788DEST_PATH_IMAGE012
；
其中，
Figure 183092DEST_PATH_IMAGE013
表示第k架跟随无人机的传输功率，
Figure 43601DEST_PATH_IMAGE014
表示跟随无人机需要上传到领头 无人机上的数据量大小，
Figure 537774DEST_PATH_IMAGE015
表示第k架跟随无人机分配到的子带宽，
Figure 675494DEST_PATH_IMAGE016
表示每米的信道增 益，
Figure 262333DEST_PATH_IMAGE017
表示噪声功率，
Figure 751083DEST_PATH_IMAGE018
表示第k架跟随无人机与领头无人机之间的距离。
进一步地，所述本地训练轮次的约束具体为：
Figure 347150DEST_PATH_IMAGE019
其中，L表示利普希茨常数，γ表示强凸性系数，λ表示本地训练的学习率，t表示全 局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 339376DEST_PATH_IMAGE020
表示第t轮全局训练的 本地收敛精度，
Figure 300379DEST_PATH_IMAGE021
表示全局训练的轮数。
进一步地，所述本地收敛精度的约束具体为：
Figure 636945DEST_PATH_IMAGE022
其中，t表示全局训练轮次的序号，
Figure 646489DEST_PATH_IMAGE020
表示第t轮全局训练的本地收敛精度，L表 示利普希茨常数，γ表示强凸性系数，ξ为相关系数，且满足
Figure 617856DEST_PATH_IMAGE023
，
Figure 953023DEST_PATH_IMAGE024
表示全局收敛精度，
Figure 9840DEST_PATH_IMAGE021
表示全局训练的轮数。
进一步地，所述每轮全局训练的时间小于最大训练时延的约束具体为：
Figure 823076DEST_PATH_IMAGE025
其中，t表示全局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 648949DEST_PATH_IMAGE026
表示计算时延，
Figure 889438DEST_PATH_IMAGE011
表示通信时延，
Figure 141208DEST_PATH_IMAGE027
表示最大训练时延，
Figure 617189DEST_PATH_IMAGE021
表示全局训练的轮数。
进一步地，所述总带宽的约束具体为：
Figure 704094DEST_PATH_IMAGE028
其中，t表示全局训练轮次的序号，
Figure 240117DEST_PATH_IMAGE029
表示在第t轮全局训练中第k架跟随无人机 分配到的子带宽，B为总带宽。
进一步地，所述本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束具体为：
Figure 474789DEST_PATH_IMAGE030
其中，t表示全局训练轮次的序号，
Figure 629827DEST_PATH_IMAGE020
表示在第t轮全局训练的本地训练精度，
Figure 931758DEST_PATH_IMAGE031
表示在第t轮全局训练中第k架跟随无人机的计算频率，
Figure 514049DEST_PATH_IMAGE032
表示第k架跟随无人机的 最大计算频率，
Figure 32755DEST_PATH_IMAGE033
表示在第t轮全局训练中第k架跟随无人机k分配到的子带宽，
Figure 991484DEST_PATH_IMAGE021
表示全 局训练的轮数。
进一步地，步骤（4.1）中本地收敛精度的更新过程为：
Figure 912035DEST_PATH_IMAGE034
其中，
Figure 399648DEST_PATH_IMAGE035
表示第i轮迭代的本地收敛精度，
Figure 608913DEST_PATH_IMAGE036
表示第i+1轮迭代的本地收敛精度，
Figure 728922DEST_PATH_IMAGE037
表示通过求解得到的本地收敛精度，
Figure 379346DEST_PATH_IMAGE038
表示更新的步长。
与现有技术相比，本发明具有如下有益效果：本发明面向无人机集群联邦学习的学习与资源联合优化的方法，在考虑全局收敛精度和时延约束的条件下以最小化无人机集群的总训练能耗为目标，根据交替优化的思想将无人机集群的总训练能耗的最小化问题分解成三个子问题，通过逐次凸逼近的联合优化学习与资源分配联合优化方法同时优化本地收敛精度、本地训练轮次、计算资源分配以及带宽分配，从而根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能。通过本发明的方法来实现跟随无人机跟随领头无人机进行巡检任务，实现了智能化的特点，大大提高工作效率，降低人力成本。
附图说明
图1为本发明提供的面向无人机集群的联邦学习场景图；
图2为本发明在不同全局收敛精度下无人机集群总训练能耗的仿真结果图；
图3为本发明在不同算法下无人机集群总训练能耗与总带宽的关系实验仿真结果图；
图4为本发明在不同算法下无人机集群总训练能耗与最大全局时延的关系实验仿真结果图；
图5为本发明在不同算法下无人机集群总训练能耗与数据量的关系实验仿真结果图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不用于限定本发明。
本发明提供了一种面向无人机集群联邦学习的学习与资源联合优化的方法，该方法中无人机集群由K架跟随无人机和一架领头无人机组成，K架跟随无人机与一架领头无人机按照预定航线进行巡查任务，在巡查过程中通过对无人机集群进行联邦学习，从而对本地收敛精度、本地训练轮次、计算资源分配和带宽分配进行联合优化，根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能耗。在将联邦学习的过程中由于无人机电池容量有限，存在无人机集群总训练能耗最小化的优化问题，具体有如下挑战：1）在无人机集群联邦学习中，需要配置合理的学习参数，如本地收敛精度和本地训练轮次，过少的本地训练轮次可能会导致无法达到对应的全局收敛精度；2）为了降低训练能耗，跟随无人机采用较低的CPU计算频率进行训练的时延可能会超过最大全局时延约束，从而无法保证训练的时效性；3）由于每架跟随无人机与领头无人机之间的距离不同，需要分配合理的子带宽来保证每架跟随无人机的本地模型参数的顺利上传。
图1是本发明提供的面向无人机集群的联邦学习场景图，无人机集群由K架跟随无人机与一架领头无人机组成，按照预定航线飞行的同时进行联邦学习训练任务。首先，K架跟随无人机利用本地数据集进行本地训练；然后，K架跟随无人机将训练得到本地模型参数上传到作为参数服务器的领头无人机；最后，领头无人机将接收到多个本地模型进行加权求和生成新的全局模型参数，并下发给各个跟随无人机开始新一轮的全局训练。本发明中面向无人机集群联邦学习的学习与资源联合优化方法，具体包括如下步骤：
（1）收集K架跟随无人机在巡查过程中拍摄的不同角度的照片，将其作为本地数据集；
（2）根据所述跟随无人机的CPU频率、本地训练轮次、本地数据集的大小得到该跟随无人机在一轮全局训练中所需的计算能耗和计算时延；
本发明中计算能耗
Figure 428074DEST_PATH_IMAGE001
具体为：
Figure 796738DEST_PATH_IMAGE002
；
本发明中计算时延
Figure 956324DEST_PATH_IMAGE039
具体为：
Figure 726834DEST_PATH_IMAGE040
；
其中，N(t)表示第t轮全局训练中进行的本地训练轮次，
Figure 946463DEST_PATH_IMAGE005
表示有效电容系数，
Figure 366205DEST_PATH_IMAGE041
表示第k架跟随无人机的本地数据集中每个数据样本所需要的CPU周期数、
Figure 204848DEST_PATH_IMAGE007
表示第k架跟 随无人机的本地数据集中数据样本的数量，
Figure 954498DEST_PATH_IMAGE042
表示第k架跟随无人机的CPU频率。
（3）根据跟随无人机与领头无人机之间的空间路径损耗模型计算出该跟随无人机一轮全局训练的通信能耗和通信时延；
本发明中通信能耗
Figure 485974DEST_PATH_IMAGE009
具体为：
Figure 688285DEST_PATH_IMAGE043
；
通过通信时延和传输功率，求得一轮全局训练的通信时延
Figure 65040DEST_PATH_IMAGE011
表示为：
Figure 669196DEST_PATH_IMAGE012
；
其中，
Figure 762503DEST_PATH_IMAGE013
表示第k架跟随无人机的传输功率，
Figure 327477DEST_PATH_IMAGE014
表示跟随无人机需要上传到领头 无人机上的数据量大小，
Figure 632556DEST_PATH_IMAGE015
表示第k架跟随无人机分配到的子带宽，
Figure 966586DEST_PATH_IMAGE016
表示每米的信道增 益，
Figure 964497DEST_PATH_IMAGE017
表示噪声功率，
Figure 16767DEST_PATH_IMAGE018
表示第k架跟随无人机与领头无人机之间的距离。
（4）根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能耗，所述总训练能耗包括：K架跟随无人机的总计算能耗和K架跟随无人机的总通信能耗；本发明通过将原来的混合整型非凸问题分解成三个子问题的优化，包括本地收敛精度的优化、本地训练轮次的优化、计算频率分配和带宽分配的优化，降低对最小化无人机集群总训练能耗的求解难度，具体包括如下子步骤：
（4.1）在固定本地训练轮次、计算频率分配和带宽分配的情况下，将原问题转换成非凸问题并利用逐次凸逼近求解本地收敛精度的局部最优解，大大降低原问题的求解难度，因此根据本地训练轮次的约束、本地收敛精度的约束、每轮全局训练的时间小于最大训练时延的约束通过逐次凸逼近的方法优化本地收敛精度；本发明中本地收敛精度的更新过程具体为：
Figure 125537DEST_PATH_IMAGE034
其中，
Figure 143434DEST_PATH_IMAGE035
表示第i轮迭代的本地收敛精度，
Figure 922034DEST_PATH_IMAGE036
表示第i+1轮迭代的本地收敛精度，
Figure 586234DEST_PATH_IMAGE037
表示通过求解得到的本地收敛精度，
Figure 108482DEST_PATH_IMAGE038
表示更新的步长，可以通过调节
Figure 807317DEST_PATH_IMAGE038
的大小来 控制
Figure 756818DEST_PATH_IMAGE035
迭代更新的速度。
该过程中涉及的本地训练轮次的约束具体为：
Figure 908314DEST_PATH_IMAGE019
其中，L表示利普希茨常数，γ表示强凸性系数，λ表示本地训练的学习率，t表示全 局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 968674DEST_PATH_IMAGE020
表示第t轮全局训练的 本地收敛精度，
Figure 958233DEST_PATH_IMAGE021
表示全局训练的轮数。
本地收敛精度的约束具体为：
Figure 468849DEST_PATH_IMAGE022
其中，t表示全局训练轮次的序号，
Figure 717428DEST_PATH_IMAGE020
表示第t轮全局训练的本地收敛精度，L表 示利普希茨常数，γ表示强凸性系数，ξ为相关系数，且满足
Figure 971691DEST_PATH_IMAGE023
，
Figure 254905DEST_PATH_IMAGE024
表示全局收敛精度，
Figure 670843DEST_PATH_IMAGE021
表示全局训练的轮数。
每轮全局训练的时间小于最大训练时延的约束具体为：
Figure 236079DEST_PATH_IMAGE025
其中，t表示全局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 903821DEST_PATH_IMAGE026
表示计算时延，
Figure 166175DEST_PATH_IMAGE011
表示通信时延，
Figure 893959DEST_PATH_IMAGE027
表示最大训练时延，
Figure 241764DEST_PATH_IMAGE021
表示全局训练的轮数。
（4.2）在固定本地收敛精度、计算频率分配和带宽分配的情况下，将原问题转换成一个整形变量优化问题来求解本地训练轮次的局部最优解，大大降低原问题的求解难度，因此根据本地训练轮次的约束、每轮全局训练的时间小于最大训练时延的约束优化本地训练轮次。
该过程中涉及的本地训练轮次的约束具体为：
Figure 447617DEST_PATH_IMAGE019
其中，L表示利普希茨常数，γ表示强凸性系数，λ表示本地训练的学习率，t表示全 局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 564478DEST_PATH_IMAGE020
表示第t轮全局训练的 本地收敛精度，
Figure 463164DEST_PATH_IMAGE021
表示全局训练的轮数。
每轮全局训练的时间小于最大训练时延的约束具体为：
Figure 5921DEST_PATH_IMAGE025
其中，t表示全局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 874520DEST_PATH_IMAGE026
表示计算时延，
Figure 986833DEST_PATH_IMAGE011
表示通信时延，
Figure 915475DEST_PATH_IMAGE027
表示最大训练时延，
Figure 113238DEST_PATH_IMAGE021
表示全局训练的轮数。
（4.3）在固定本地收敛精度和本地训练轮次的情况下，将原问题转换成一个凸优化问题来求解计算频率分配和带宽分配的局部最优解，大大降低原问题的求解难度，因此根据总带宽的约束、本地训练轮次的约束、本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束，利用CVX求解工具优化计算频率分配和带宽分配；
该过程中所涉及的总带宽的约束具体为：
Figure 51107DEST_PATH_IMAGE028
其中，t表示全局训练轮次的序号，
Figure 17926DEST_PATH_IMAGE029
表示在第t轮全局训练中第k架跟随无人机 分配到的子带宽，B为总带宽。
本地训练轮次的约束具体为：
Figure 884513DEST_PATH_IMAGE019
其中，L表示利普希茨常数，γ表示强凸性系数，λ表示本地训练的学习率，t表示全 局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 631889DEST_PATH_IMAGE020
表示第t轮全局训练的 本地收敛精度，
Figure 983236DEST_PATH_IMAGE021
表示全局训练的轮数。
本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束具体为：
Figure 929195DEST_PATH_IMAGE030
其中，t表示全局训练轮次的序号，
Figure 340585DEST_PATH_IMAGE020
表示在第t轮全局训练的本地训练精度，
Figure 637574DEST_PATH_IMAGE031
表示在第t轮全局训练中第k架跟随无人机的计算频率，
Figure 527033DEST_PATH_IMAGE032
表示第k架跟随无人机的 最大计算频率，表示在第t轮全局训练中第k架跟随无人机
Figure 294875DEST_PATH_IMAGE033
分配到的子带宽，
Figure 1800DEST_PATH_IMAGE021
表示全 局训练的轮数。
（4.4）重复迭代步骤（4.1）-（4.3），直至无人机集群总训练能耗的相对误差小于0.01，得到最小化的无人机集群总训练能耗，获得最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽。通过对上述三个子问题进行迭代求解，在保证准确度的情况下大大降低优化问题的求解难度。
（5）将最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽输入到对应的跟随无人机上，使跟随无人机能够消耗最少的能量完成巡检任务学习模型的训练，从而有更多的电池余量跟随领头无人机进行巡检任务。
图2给出了5架跟随无人机与1架领头无人机组成的集群进行联邦学习，在不同全局收敛精度下无人机集群总训练能耗的仿真结果图，本发明中最小化无人机集群总训练能耗方法（JTRO）具有良好的收敛性，在全局收敛精度为0.1时，采用本发明通过最小化无人机集群总训练能耗后进行巡检任务的方法相较于未优化直接进行巡查任务的方法可以减少45.07%的无人机集群总训练能耗。另一方面，从不同全局收敛精度所对应的无人机集群总训练能耗中可以看出，随着全局收敛精度值的减小，所需的无人机集群总训练能耗随之增加。
图3为不同算法下无人机集群总训练能耗与总带宽的关系图，总带宽由0.8、0.9、1.0、1.1和1.2兆赫兹依次递增，分别记录采用5种不同算法方案的无人机集群总训练能耗，除本发明最小化无人机集群总训练能耗方法外，其他四种对比算法分别为固定CPU计算频率联合优化训练参数和带宽分配（JOTB-FC）、随机CPU计算频率联合优化训练参数和带宽分配（JOTB-RC）、固定训练参数联合优化计算频率和带宽分配（JOCB-FT）以及随机训练参数联合优化计算频率和带宽分配（JOCB-RT）。从图3中可以看出，随着总带宽的增加，无人机集群总训练能耗不断降低，同时本发明最小化无人机集群总训练能耗方法相较于其他4种对比算法可以分别减少31.48%、54.99%、36.63%和26.40%的无人机集群总训练能耗。
图4为不同算法下无人机集群总训练能耗与最大全局时延的关系图，最大全局时延由1、1.2、1.4、1.6和1.8秒依次递增，分别记录采用5种不同算法方案的无人机集群总训练能耗，从图4中可以看出采用JTRO、JOCB-FT和JOCB-RT这几种算法的无人机集群总训练能耗会随着最大全局时延的增加而不断降低。而JOTB-FC和JOTB-RC保持不变，因为最大全局时延主要用来约束无人机的CPU计算频率，在这些最大全局时延区间中，对应的无人机CPU计算频率已经达到最优。
图5为不同算法下无人机集群总训练能耗与数据量的关系图，数据量由800、850、900、950和1000个样本依次递增，考虑采用5种不同算法方案的，分别记录不同数据量样本下数为800、850、900、950和1000时的无人机集群总训练能耗。从图5中可以看出，无人机集群总训练能耗随着的数据量增加而增大，样本数从800增加到1000时， 采用JTRO、JOTB-FC、JOTB-RC、JOCB-FT和JOCB-RT算法的无人机集群总训练能耗分别增加8.72%、9.35%、14.52%、35.72%和27.67%。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求，而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (9)

1.一种面向无人机集群联邦学习的学习与资源联合优化方法，所述无人机集群由K架无人机和一架领头无人机组成，其特征在于，具体包括如下步骤：
（1）收集K架跟随无人机在巡查过程中拍摄的不同角度的照片，将其作为本地数据集；
（2）根据所述跟随无人机的CPU频率、本地训练轮次、本地数据集的大小得到该跟随无人机在一轮全局训练中所需的计算能耗和计算时延；
（3）根据跟随无人机与领头无人机之间的空间路径损耗模型计算出该跟随无人机一轮全局训练的通信能耗和通信时延；
（4）根据计算时延、通信时延以及全局收敛精度最小化无人机集群总训练能耗，所述总训练能耗包括：K架跟随无人机的总计算能耗和K架跟随无人机的总通信能耗；具体包括如下子步骤：
（4.1）根据本地训练轮次的约束、本地收敛精度的约束、每轮全局训练的时间小于最大训练时延的约束通过逐次凸逼近的方法优化本地收敛精度；
（4.2）根据本地训练轮次的约束、每轮全局训练的时间小于最大训练时延的约束优化本地训练轮次；
（4.3）根据总带宽的约束、本地训练轮次的约束、本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束，利用CVX求解工具优化计算频率分配和带宽分配；
（4.4）重复迭代步骤（4.1）-（4.3），直至无人机集群总训练能耗的相对误差小于0.01，得到最小化的无人机集群总训练能耗，获得最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽；
（5）将最优的本地收敛精度、本地训练轮次、跟随无人机的CPU频率以及跟随无人机的子带宽输入到对应的跟随无人机上，由跟随无人机跟随领头无人机进行巡检任务。
2.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征 在于，所述计算能耗
Figure 21043DEST_PATH_IMAGE001
具体为：
Figure 867776DEST_PATH_IMAGE002
；
所述计算时延
Figure 327576DEST_PATH_IMAGE003
具体为：
Figure 259760DEST_PATH_IMAGE004
；
其中，N(t)表示第t轮全局训练中进行的本地训练轮次，
Figure 905286DEST_PATH_IMAGE005
表示有效电容系数，
Figure 996739DEST_PATH_IMAGE006
表示 第k架跟随无人机的本地数据集中每个数据样本所需要的CPU周期数、
Figure 971648DEST_PATH_IMAGE007
表示第k架跟随无 人机k的本地数据集中数据样本的数量，
Figure 46920DEST_PATH_IMAGE008
表示第k架跟随无人机的CPU频率。
3.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征 在于，所述通信能耗
Figure 726163DEST_PATH_IMAGE009
具体为：
Figure 547489DEST_PATH_IMAGE010
；
所述通信时延
Figure 319398DEST_PATH_IMAGE011
具体为：
Figure 226174DEST_PATH_IMAGE012
；
其中，
Figure 771425DEST_PATH_IMAGE013
表示第k架跟随无人机的传输功率，
Figure 447257DEST_PATH_IMAGE014
表示跟随无人机需要上传到领头无人机 上的数据量大小，
Figure 154182DEST_PATH_IMAGE015
表示第k架跟随无人机分配到的子带宽，
Figure 876150DEST_PATH_IMAGE016
表示每米的信道增益，
Figure 569300DEST_PATH_IMAGE017
表示噪声功率，
Figure 253966DEST_PATH_IMAGE018
表示第k架跟随无人机与领头无人机之间的距离。
4.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，所述本地训练轮次的约束具体为：
Figure 7158DEST_PATH_IMAGE019
其中，L表示利普希茨常数，γ表示强凸性系数，λ表示本地训练的学习率，t表示全局训 练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 747581DEST_PATH_IMAGE020
表示第t轮全局训练的本地 收敛精度，
Figure 244421DEST_PATH_IMAGE021
表示全局训练的轮数。
5.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，所述本地收敛精度的约束具体为：
Figure 222742DEST_PATH_IMAGE022
其中，t表示全局训练轮次的序号，
Figure 271469DEST_PATH_IMAGE020
表示第t轮全局训练的本地收敛精度，L表示利 普希茨常数，γ表示强凸性系数，ξ为相关系数，且满足
Figure 640133DEST_PATH_IMAGE023
，
Figure 566763DEST_PATH_IMAGE024
表示全局收敛精度，
Figure 71694DEST_PATH_IMAGE021
表 示全局训练的轮数。
6.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，所述每轮全局训练的时间小于最大训练时延的约束具体为：
Figure 494585DEST_PATH_IMAGE025
其中，t表示全局训练轮次的序号，N(t)表示第t轮全局训练的本地训练轮次，
Figure 209600DEST_PATH_IMAGE026
表示 计算时延，
Figure 48243DEST_PATH_IMAGE011
表示通信时延，
Figure 63473DEST_PATH_IMAGE027
表示最大训练时延，
Figure 329369DEST_PATH_IMAGE021
表示全局训练的轮数。
7.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，所述总带宽的约束具体为：
Figure 47793DEST_PATH_IMAGE028
其中，t表示全局训练轮次的序号，
Figure 752444DEST_PATH_IMAGE029
表示在第t轮全局训练中第k架跟随无人机分配 到的子带宽，B为总带宽。
8.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，所述本地收敛精度、无人机CPU计算频率以及子带宽的取值区间的约束具体为：
Figure 231967DEST_PATH_IMAGE030
其中，t表示全局训练轮次的序号，
Figure 793398DEST_PATH_IMAGE020
表示在第t轮全局训练的本地训练精度，
Figure 358372DEST_PATH_IMAGE031
表 示在第t轮全局训练中第k架跟随无人机的计算频率，表示第k架跟随无人机的最大计算频 率，表示在第t轮全局训练中第k架跟随无人机k分配到的子带宽，
Figure 929031DEST_PATH_IMAGE021
表示全局训练的轮数。
9.根据权利要求1所述面向无人机集群联邦学习的学习与资源联合优化方法，其特征在于，步骤（4.1）中本地收敛精度的更新过程为：
Figure 528639DEST_PATH_IMAGE032
其中，
Figure 965699DEST_PATH_IMAGE033
表示第i轮迭代的本地收敛精度，
Figure 877023DEST_PATH_IMAGE034
表示第i+1轮迭代的本地收敛精度，
Figure 861160DEST_PATH_IMAGE035
表示通过求解得到的本地收敛精度，
Figure 705488DEST_PATH_IMAGE036
表示更新的步长。
CN202110951816.2A 2021-08-19 2021-08-19 一种面向无人机集群联邦学习的学习与资源联合优化方法 Active CN113406974B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110951816.2A CN113406974B (zh) 2021-08-19 2021-08-19 一种面向无人机集群联邦学习的学习与资源联合优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110951816.2A CN113406974B (zh) 2021-08-19 2021-08-19 一种面向无人机集群联邦学习的学习与资源联合优化方法

Publications (2)

Publication Number Publication Date
CN113406974A true CN113406974A (zh) 2021-09-17
CN113406974B CN113406974B (zh) 2021-11-02

Family

ID=77688727

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110951816.2A Active CN113406974B (zh) 2021-08-19 2021-08-19 一种面向无人机集群联邦学习的学习与资源联合优化方法

Country Status (1)

Country Link
CN (1) CN113406974B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113947210A (zh) * 2021-10-08 2022-01-18 东北大学 一种移动边缘计算中的云边端联邦学习方法
CN114363923A (zh) * 2021-11-30 2022-04-15 山东师范大学 一种基于联邦边缘学习的工业物联网资源分配方法及系统
CN115329985A (zh) * 2022-09-07 2022-11-11 北京邮电大学 无人集群智能模型训练方法、装置和电子设备
CN116778363A (zh) * 2023-06-25 2023-09-19 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111491315A (zh) * 2019-12-18 2020-08-04 中国人民解放军陆军工程大学 扩展无人机网络中的延时与能耗折中模型及分层学习算法
CN111586696A (zh) * 2020-04-29 2020-08-25 重庆邮电大学 一种基于多智能体架构强化学习的资源分配及卸载决策方法
CN112672361A (zh) * 2020-12-17 2021-04-16 东南大学 一种基于无人机集群部署的大规模mimo容量提升方法
CN113177367A (zh) * 2021-05-28 2021-07-27 北京邮电大学 高能效的联邦学习方法、装置、边缘服务器及用户设备
CN113255937A (zh) * 2021-06-28 2021-08-13 江苏奥斯汀光电科技股份有限公司 一种面向智能车间不同智能体之间的联邦学习方法及系统
CN113268077A (zh) * 2021-04-13 2021-08-17 国网能源研究院有限公司 无人机能耗最小化设计方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111491315A (zh) * 2019-12-18 2020-08-04 中国人民解放军陆军工程大学 扩展无人机网络中的延时与能耗折中模型及分层学习算法
CN111586696A (zh) * 2020-04-29 2020-08-25 重庆邮电大学 一种基于多智能体架构强化学习的资源分配及卸载决策方法
CN112672361A (zh) * 2020-12-17 2021-04-16 东南大学 一种基于无人机集群部署的大规模mimo容量提升方法
CN113268077A (zh) * 2021-04-13 2021-08-17 国网能源研究院有限公司 无人机能耗最小化设计方法及装置
CN113177367A (zh) * 2021-05-28 2021-07-27 北京邮电大学 高能效的联邦学习方法、装置、边缘服务器及用户设备
CN113255937A (zh) * 2021-06-28 2021-08-13 江苏奥斯汀光电科技股份有限公司 一种面向智能车间不同智能体之间的联邦学习方法及系统

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
WANNING LIU 等: "Joint Computation Offloading and Resource Allocation in UAV Swarms with Multi-access Edge Computing", 《THE 12TH INTERNATIONAL CONFERENCE ON WIRELESS COMMUNICATIONS AND SIGNAL PROCESSING》 *
WEIQI LIU 等: "Multi-Hop Propagation-Based Computation Offloading Scheme in Vehicular Communication Environment", 《2021 IEEE 4TH ADVANCED INFORMATION MANAGEMENT, COMMUNICATES, ELECTRONIC AND AUTOMATION CONTROL CONFERENCE (IMCEC)》 *
XIUMIN WANG 等: "Energy and Delay Tradeoff for Application Offloading in Mobile Cloud Computing", 《IEEE SYSTEMS JOURNAL》 *
米志超 等: "传感器网络中基于模糊决策的多目标路由优化算法", 《西安电子科技大学学报( 自然科学版)》 *
董超 等: "基于无人机的边缘智能计算研究综述", 《智能科学与技术学报》 *
虞湘宾 等: "未来移动通信网络中移动边缘计算技术", 《南京航空航天大学学报》 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113947210A (zh) * 2021-10-08 2022-01-18 东北大学 一种移动边缘计算中的云边端联邦学习方法
CN113947210B (zh) * 2021-10-08 2024-05-10 东北大学 一种移动边缘计算中的云边端联邦学习方法
CN114363923A (zh) * 2021-11-30 2022-04-15 山东师范大学 一种基于联邦边缘学习的工业物联网资源分配方法及系统
CN114363923B (zh) * 2021-11-30 2024-03-26 山东师范大学 一种基于联邦边缘学习的工业物联网资源分配方法及系统
CN115329985A (zh) * 2022-09-07 2022-11-11 北京邮电大学 无人集群智能模型训练方法、装置和电子设备
CN115329985B (zh) * 2022-09-07 2023-10-27 北京邮电大学 无人集群智能模型训练方法、装置和电子设备
CN116778363A (zh) * 2023-06-25 2023-09-19 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法
CN116778363B (zh) * 2023-06-25 2024-04-30 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法

Also Published As

Publication number Publication date
CN113406974B (zh) 2021-11-02

Similar Documents

Publication Publication Date Title
CN113406974B (zh) 一种面向无人机集群联邦学习的学习与资源联合优化方法
CN109067490B (zh) 蜂窝网联下多无人机协同移动边缘计算系统资源分配方法
CN112995913B (zh) 一种无人机轨迹、用户关联和资源分配联合优化方法
CN110968426B (zh) 一种基于在线学习的边云协同k均值聚类的模型优化方法
CN110730031B (zh) 一种用于多载波通信的无人机轨迹与资源分配联合优化方法
CN111552313B (zh) 基于边缘计算动态任务到达的多无人机路径规划方法
CN108810849B (zh) 一种无人机计算任务的迁移方法、装置及无人机
CN112118287B (zh) 基于交替方向乘子算法与移动边缘计算的网络资源优化调度决策方法
CN112104502A (zh) 时敏多任务边缘计算与缓存协作卸载策略方法
CN114065963A (zh) 一种电力物联网中基于深度强化学习的计算任务卸载方法
CN112911537B (zh) 一种多无人机信息采集系统任务时间最小化的方法
CN113625751A (zh) 面向空地一体联邦学习的无人机位置与资源联合优化方法
CN116582871B (zh) 一种基于拓扑优化的无人机集群联邦学习模型优化方法
Shen et al. Number and operation time minimization for multi-UAV-enabled data collection system with time windows
CN113448703A (zh) 一种基于感知阵型的无人机蜂群动态侦察任务调度系统及方法
Yan et al. Data offloading enabled by heterogeneous UAVs for IoT applications under uncertain environments
CN115002123A (zh) 基于移动边缘计算的快速适应任务卸载系统和方法
CN116112981B (zh) 一种基于边缘计算的无人机任务卸载方法
CN112579290A (zh) 一种基于无人机的地面终端设备的计算任务迁移方法
An et al. Air-ground integrated mobile edge computing in vehicular visual sensor networks
Sun et al. Semantic-driven computation offloading and resource allocation for UAV-assisted monitoring system in vehicular networks
CN109976373A (zh) 飞行器中的差分量化反馈控制器及其控制方法
CN116778363B (zh) 一种基于联邦学习的低通信量库区水环境风险识别方法
CN114489146B (zh) 一种多无人机数据收集系统的调度与轨迹规划方法
Yuksek et al. Federated Meta Learning for Visual Navigation in GPS-denied Urban Airspace

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant