CN113747500A - 移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法 - Google Patents

移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法 Download PDF

Info

Publication number
CN113747500A
CN113747500A CN202111077836.8A CN202111077836A CN113747500A CN 113747500 A CN113747500 A CN 113747500A CN 202111077836 A CN202111077836 A CN 202111077836A CN 113747500 A CN113747500 A CN 113747500A
Authority
CN
China
Prior art keywords
network
base station
generator
mobile device
representing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111077836.8A
Other languages
English (en)
Other versions
CN113747500B (zh
Inventor
苑海涛
胡庆隆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202111077836.8A priority Critical patent/CN113747500B/zh
Publication of CN113747500A publication Critical patent/CN113747500A/zh
Application granted granted Critical
Publication of CN113747500B publication Critical patent/CN113747500B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/11File system administration, e.g. details of archiving or snapshots
    • G06F16/119Details of migration of file systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/0215Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/0215Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices
    • H04W28/0221Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices power availability or consumption
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/16Central resource management; Negotiation of resources or communication parameters, e.g. negotiating bandwidth or QoS [Quality of Service]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/16Central resource management; Negotiation of resources or communication parameters, e.g. negotiating bandwidth or QoS [Quality of Service]
    • H04W28/18Negotiating wireless communication parameters
    • H04W28/20Negotiating bandwidth
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法。该方法综合考虑了工作流应用中子任务之间的复杂依赖关系对于应用执行时间和系统总消耗能量的影响,并且考虑了包括网络连接通道带宽,所有基站的可用资源、工作速度和能量,以及智能终端设备的传输数据功率、能量和工作速度等约束。综合以上因素,构建了同时降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型。然后,为得到分布多样化的高质量候选解,设计了一种新颖的结合生成对抗网络和基于分解的多目标进化算法的双目标优化算法,从而得到移动边缘计算中基于生成对抗式网络的高能效和低延迟工作流应用迁移方法。本发明能够在复杂异构移动边缘计算中,将多个工作流应用的子任务调度到终端设备、小型基站和大型基站中执行,从而同时降低应用延迟以及系统总能量消耗。

Description

移动边缘计算环境下基于生成对抗式网络的高能效低延迟任 务卸载方法
技术领域
本发明涉及移动边缘计算中的应用迁移技术。更具体地,涉及一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法。
背景技术
目前的智能移动设备具有高分辨率图像显示、硬件设计紧凑、支持用户可定制应用等特征,因此得到了广泛的使用。近年来物联网和5G技术等得到了显著的发展,这促进了这些移动设备之间以及它们与人类之间的通信,并且由此衍生了很多新的计算密集型的应用,如增强现实、智慧医疗、语音识别、自然语言处理、在线游戏和实时监控等。这些应用需要大量的CPU、内存等计算资源以及长时间地消耗这些智能移动设备中的电池能量。然而,智能移动设备中的计算资源、电池容量和无线网络资源都非常有限。因此,智能移动设备(如可穿戴设备、无线传感器和智能手机等),往往无法支撑这些计算密集型和延迟敏感型应用的运行。为克服计算资源的不足以及维持智能移动设备中应用的性能,业界提出了移动边缘计算的新型计算模式,它融合了云计算和移动网络的优点,并在网络边缘提供大量的计算、存储和网络资源。因此,智能移动设备能够将其中的延迟敏感型应用的部分或全部计算任务迁移到临近的移动边缘计算中的服务器中,从而能够在延迟要求内执行这些应用。
通常情况下,移动边缘计算中的服务器通常分布和部署在一个大型基站以及多个小型基站中。每个智能移动设备所迁移的应用均可以在一个大型或者小型基站中得到执行,因此需要它决定选择与哪一个特定的基站进行连接并将其应用迁移到该基站中进行执行。而智能移动设备和基站的关联十分关键,因为它直接影响智能移动设备和基站之间的通信速率、能量消耗等。不同于传统异构网络中的终端和基站的关联问题,移动边缘计算中的终端和基站的关联需要考虑更多复杂的因素,包括终端与基站之间有限的网络连接通道带宽、终端和基站的最大可用能量、终端应用的计算数据大小、延迟要求以及基站之间的信号干扰等因素。此外,终端应用的计算迁移在降低了终端计算需求和能量消耗的同时,也增大了终端和基站之间的通信开销/延迟,从而增大了应用的实际延迟。
此外,在智能移动设备中往往存在一些工作流应用,这些应用由多个按照顺序执行的子任务组成。子任务之间存在复杂的依赖关系,往往需要按照任务之间的输入和输出关系按照顺序进行执行,而这些子任务之间的依赖关系决定了它们的执行顺序和执行时间。比如,增强现实应用可以由五个子任务组成,分别是视频采集、追踪、映射、目标对象识别和渲染等。每个子任务均可以迁移到临近基站中进行执行,从而有效降低终端的能量消耗和应用执行时间。因此,针对该类型工作流应用,为保证终端应用能够其规定的延迟内得到执行,必须在应用迁移时考虑应用子任务之间的依赖关系。总之,在移动边缘计算中如何提供低能耗和低延迟的工作流应用迁移变得十分具有挑战性。
为实现以上目标,现有的一些工作通常采用动态电压频率调制技术,根据应用的计算需求来控制终端和边缘端的服务器的CPU运行速度,这种方式能够同时降低应用延迟、降低终端和边缘端的能量消耗,从而实现智能的计算迁移。现有一些工作往往采用二分法方式迁移应用,即终端应用只能全部在其本身或者边缘端的服务器中执行。另外一些工作采用不同的部分迁移方法,即将应用按照一定的比例在终端和边缘端的服务器中分别并行地执行。此外,一些工作结合能量采集技术来为移动边缘端提供动态的应用迁移,从而降低应用的总执行成本。然而,这些工作只考虑了由单任务构成的终端应用,并且仅适用于单个基站的移动边缘计算环境。目前仅有少部分工作考虑了多基站中的应用迁移问题,但是这些现有工作只允许将迁移的应用全部放到小型基站或者大型基站中进行执行,而不能灵活地在小型基站和大型基站之间最优地划分迁移部分的应用,从而不能进一步降低应用执行时间或者能量消耗。
为解决以上难题,不同于以上现有工作,本专利适用于能够运行在终端和边缘端的同构或者异构的工作流应用的迁移。具体而言,本专利考虑了由终端、一个大型基站和多个小型基站的复杂异构移动边缘计算环境,提出了高能效低延迟的应用迁移方法,能够智能地将每个智能移动终端与这些基站进行关联。每个基站中运行着多个服务器并且每个终端中运行着延迟敏感型的工作流应用,每个应用由彼此之间存在复杂依赖关系的多个子任务组成。本专利综合考虑了工作流应用中子任务之间的复杂依赖关系对于应用执行时间和总消耗能量的影响。此外,该专利具体提供了智能移动设备和基站中的能耗和任务执行时间的计算方式。并且考虑了包括网络连接通道的带宽容量限制,大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限,以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度等约束。结合以上因素,本专利构建了双目标混合整数非线性规划模型,该模型通过优化网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度等决策变量,可以同时降低系统总能耗和应用总延迟。
针对该双目标优化问题,目前存在多种不同的多目标进化算法,主要可分为三种类型,具体包括基于支配关系的算法(如NSGA-II和SPEA2)、基于分解的算法(如MOEA/D)、基于性能指标的算法(如IBEA)。这些算法均采用四种基本的操作,分别为初始化种群、生成子代个体、计算适应度和选择下一代进化的个体。然而,这些方法也存在一些缺点。这些方法的子代个体生成过程往往基于随机的机制(如交叉和变异操作),无法提供明确的学习机制,导致无法有效利用适应度函数形状所具有的特点来指导全局最优解的搜索。为解决以上问题,一些工作结合机器学习机制提出了基于模型的进化算法。这些算法利用机器学习模型来替换传统的操作步骤。但是这些算法在求解决策变量较多且解空间复杂的优化问题时需要的训练数据成指数级增长,即存在维度灾难问题,因此其性能往往较差。
而近年来兴起的生成对抗网络能够以一种对抗的方式学习给定数据的分布特征,从而生成高质量的训练数据,并最终得到高效的学习模型。主要原因包括如下几点。首先,生成对抗网络的主要结构包括一个生成器(Generator) 和一个判别器(Discriminator)。判别器能够将候选解划分为真实的样本和生成的样本。其次,由于其对抗学习的特点,生成对抗网络能够从规模有限的训练数据中学习得到Pareto前端中的候选解集的高维分布特征,因此它能够用来在多目标优化算法中产生新的候选解,从而提高搜索效率和精度。现有的一些工作采用了类似于本专利的方法,但是它采用了经典的SPEA2算法,因此它的局部搜索能力不足。此外,它的生成器和判别器均采用了一个简单的前馈神经网络,前者包含两个隐藏层而后者包含一个隐藏层,因此它的学习能力有限并且不能有效处理问题规模较大且复杂的多目标优化问题。
现有的GAN网络存在诸多问题:1)存在模式坍塌(Mode Collapse)问题,即生成器往往只能从大量的数据中学习到非常有限的模式,因此它只能生成大量相同或者类似模式的数据,导致生成的数据缺乏多样性;2)生成器生成的数据分布可能与真实数据的分布差异比较大,导致生成器在训练的初期出现其梯度方向随机性较大,甚至出现梯度消失问题;3)超参数和网络结构对于GAN 网络的性能具有关键的影响,而目前很难得到最优的超参数和网络设置;4)大多数现有的GAN网络往往采用某种特定单一的优化目标函数,因此它们的训练策略是固定的,无法在训练过程中动态地平衡生成器和判别器网络;5)为生成高质量的样本数据,往往需要生成器和判别器网络变的更深和更大,导致模型训练的时间过长。
因此,为了提高GAN网络的生成性能及其训练过程的稳定性,不同于现有的GAN网络,该NGAN中首先采用了多个生成器网络和两个不同的判别器网络,它们以一种对抗的方式进行训练。给定当前最优的判别器网络,多个生成器网络以一种进化的方式进行变异、适应度评估和选择等操作,来确定最佳的生成器网络。然后,固定当前最佳的生成器网络,进一步以对抗的方式分别优化训练两个不同的判别器网络,用于识别真实的数据和生成的数据。在进化过程中,由多个生成器网络构成的种群能够逐渐地适应当前最优的判别器网络,从而生成更加接近真实数据的样本,并最终学习得到真实数据的分布特征。因此,NGAN克服了单一对抗训练目标函数的缺点,能够按照不同的训练目标函数生成分布更加多样化的高质量候选解,从而克服单一训练目标的梯度消失和模式坍塌等难题。
为求解以上构建得到的双目标优化问题,不同于现有工作,本专利采用一种新颖的结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法,进而得到移动边缘计算中基于生成对抗式网络的高能效低延迟应用迁移方法。
发明内容
本发明的目的在于提供一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,该方法考虑了工作流应用中子任务之间的复杂依赖关系对应用执行时间和总消耗能量的影响,以及网络连接通道、大型和小型基站,以及每个智能移动设备资源和能量等约束,智能地将每个智能移动终端与这些基站进行关联,并将每个应用的子任务智能地调度到终端以及不同基站中进行执行,从而实现高能效低延迟的应用迁移。
为达到上述目的,本发明采用下述技术方案:
根据本发明的一方面,建立了复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型,包括:智能移动设备和基站中的能耗和任务执行时间的计算方式;网络连接通道的带宽容量限制,大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限,以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度等约束的建模。进而构建得到复杂异构移动边缘计算中,能够同时降低系统总能耗和应用总延迟的双目标优化问题。
根据本发明的另一方面,提供了一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,包括:在基于分解的多目标进化算法的每次迭代中,首先根据得到的候选解集的特点,提出了一种候选解的分类方法,将候选解集划分为真实的样本和生成的样本,并以此作为训练数据学习得到生成对抗式网络模型,进而学习候选解集的分布特征,并产生新的数据(候选解)。然后,按照基于分解的多目标进化算法的操作迭代找到最终的候选解集。因此,该专利能够利用生成对抗式网络的强大的生成候选解的能力,能够仅依靠小规模的训练数据在复杂高维解空间中寻找到更高质量的候选解集,从而实现高能效低延迟的应用迁移。最后,根据得到的最终解,确定最终的网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度等决策变量。
根据本发明的上述方面,针对目前复杂异构移动边缘计算中同构或者异构的工作流应用的特点,本发明在结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法基础上,通过综合考虑网络连接通道的带宽容量限制、大型以及小型基站总CPU周期数、总内存、最大工作速度以及最大可用能量上限、以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度等因素,能够在复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟。
综上,一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,包括如下步骤:
S1、建立复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型;
优选地,所述双目标混合整数非线性规划模型的第一个目标是最小化系统总能耗(Δ):
Figure RE-GDA0003294289950000061
其中,M表示智能移动设备的总数;K表示每个智能移动设备中需要按照顺序执行的子任务的个数;
Figure RE-GDA0003294289950000062
表示智能移动设备m(m=1,…,M)的第k(k=1,…,K) 个子任务调度到其自身中执行的数据的比例;
Figure RE-GDA0003294289950000063
表示智能移动设备m的第k 个子任务调度到某个小型基站中执行的数据的比例;
Figure RE-GDA0003294289950000064
表示智能移动设备m 的第k个子任务调度到某个大型基站中执行的数据的比例;xmj表示一个二进制变量,即如果智能移动设备m属于小型基站j的管辖范围,则xmj=1,否则xmj=0;
Figure RE-GDA0003294289950000065
表示智能移动设备m中执行其第k个子任务的工作速度(每秒内的CPU周期数);
Figure RE-GDA0003294289950000066
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度(每秒内的CPU周期数);
Figure RE-GDA0003294289950000067
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率;Em表示智能移动设备m执行所有K个子任务需要消耗的能量;J表示小型基站的总数;
Figure RE-GDA0003294289950000068
表示在小型基站j中执行智能移动设备m 的任务所需要消耗的能量。
优选地,所述Em的具体计算方式如下:
Figure RE-GDA0003294289950000069
其中,
Figure RE-GDA00032942899500000610
表示智能移动设备m中的由芯片架构决定的常值系数;
Figure RE-GDA00032942899500000611
表示智能移动设备m的第k个子任务的输入数据的大小(比特数);
Figure RE-GDA00032942899500000612
表示执行智能移动设备m的第k个子任务的每个比特的输入数据所需要的CPU周期数。
优选地,所述
Figure RE-GDA00032942899500000613
的具体计算方式如下:
Figure RE-GDA00032942899500000614
Figure RE-GDA00032942899500000615
Figure RE-GDA00032942899500000616
其中,φmj表示在小型基站j中执行智能移动设备m的所有子任务所消耗的能量;φm0表示φmj表示在该大型基站中执行智能移动设备m的所有子任务所消耗的能量;
Figure RE-GDA00032942899500000617
表示智能移动设备m的闲时功率;ρm表示智能移动设备m上传数据时的功率放大系数;μmj表示智能移动设备m占用其与小型基站j相连接通道的带宽占用比例;β1表示在网络连接通道中上传数据的开销系数;
Figure RE-GDA0003294289950000071
表示智能移动设备m在小型基站j的通道中上传数据的传输速度(每秒钟的比特数);
Figure RE-GDA0003294289950000072
表示智能移动设备m的下载数据时消耗的功率;β1表示在网络连接通道中下载数据的开销系数;
Figure RE-GDA0003294289950000073
表示智能移动设备m在小型基站j的通道中下载数据的传输速度(每秒钟的比特数);
Figure RE-GDA0003294289950000074
表示从小型基站传输数据至大型基站的传输功率;r0表示在小型基站与大型基站之间传输数据的速度(每秒钟的比特数);β3表示在小型基站与大型基站之间网络连接通道中上传数据的开销系数;
Figure RE-GDA0003294289950000075
表示从大型基站下载数据至小型基站的传输功率;β4表示在小型基站与大型基站之间网络连接通道中下载数据的开销系数;e0表示大型基站中完成每个CPU周期所消耗的能量(焦耳)。
优选地,所述双目标混合整数非线性规划模型的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm):
Figure RE-GDA0003294289950000076
Figure RE-GDA0003294289950000077
Figure RE-GDA0003294289950000078
Figure RE-GDA0003294289950000079
Figure RE-GDA00032942899500000710
其中,
Figure RE-GDA00032942899500000711
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间;
Figure RE-GDA00032942899500000712
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据总共的执行时间;
Figure RE-GDA00032942899500000713
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间;
Figure RE-GDA00032942899500000714
表示在大型基站中执行智能移动设备m的第k 个子任务的部分数据所需要的时间;f0表示大型基站中的工作速度(每秒内的 CPU周期数)。
优选地,所述双目标混合整数非线性规划模型的约束包括对于每个智能移动设备m的第k个子任务的数据,分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1:
Figure RE-GDA0003294289950000081
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限:
Figure RE-GDA0003294289950000082
Figure RE-GDA0003294289950000083
其中,
Figure RE-GDA0003294289950000084
表示执行智能移动设备m的第k个子任务的每个比特(bit)的数据所需要的内存的大小;
Figure RE-GDA0003294289950000085
表示小型基站j中的总CPU周期数的上限;
Figure RE-GDA0003294289950000086
表示小型基站j的总内存的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限:
Figure RE-GDA0003294289950000087
Figure RE-GDA0003294289950000088
其中,
Figure RE-GDA0003294289950000089
表示大型基站中的总CPU周期数的上限;
Figure RE-GDA00032942899500000810
表示大型基站的总内存的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于每个智能移动设备m,调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA00032942899500000811
其中,
Figure RE-GDA00032942899500000812
表示每个智能移动设备m最大可用能量的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA00032942899500000813
其中,
Figure RE-GDA00032942899500000814
表示小型基站j中最大可用能量的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA0003294289950000091
其中,
Figure RE-GDA0003294289950000092
表示大型基站中最大可用能量的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于每个小型基站j,调度到其上执行的所有智能移动设备共享其网络连接通道的带宽:
Figure RE-GDA0003294289950000093
0≤μmj≤1。
优选地,所述双目标混合整数非线性规划模型的约束还包括:对于每个智能移动设备m,其传输数据至某个小型基站中需要消耗的功率
Figure RE-GDA0003294289950000094
需要不超过其可用功率的上限:
Figure RE-GDA0003294289950000095
其中,
Figure RE-GDA0003294289950000096
表示智能移动设备m传输数据功率的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于每个智能移动设备m,执行其第k个子任务的工作速度(每秒内的CPU周期数)不超过其上限
Figure RE-GDA0003294289950000097
并且在其上执行所有子任务的工作速度不超过其最大工作速度:
Figure RE-GDA0003294289950000098
Figure RE-GDA0003294289950000099
其中,
Figure RE-GDA00032942899500000910
表示每个智能移动设备m,执行其第k个子任务的最大工作速度, Fm表示每个智能移动设备m的最大工作速度。
优选地,所述双目标混合整数非线性规划模型的约束还包括,对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度(每秒内的CPU周期数)不超过其上限:
Figure RE-GDA00032942899500000911
其中,Fj表示小型基站j中最大工作速度的上限。
优选地,所述双目标混合整数非线性规划模型的约束还包括,每个智能移动设备m必须并且只能分配到一个小型基站中:
Figure RE-GDA0003294289950000101
S2、采用基于分解和生成对抗式网络的多目标进化算法来求解双目标混合整数非线性规划模型,实现复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟的优化调度方法。具体包括如下步骤,算法流程图如图1所示。
优选地,采用基于分解和生成对抗式网络的多目标进化算法求解该双目标混合整数非线性规划模型,具体包括以下步骤。
优选地,基于分解和生成对抗式网络的多目标进化算法的初始化操作,具体为:初始化基于分解的多目标进化算法的初始种群P、生成对抗网络中的生成器和判别器网络结构,以及网络参数包括连接权重矩阵和偏置向量等;生成器和判别器的网络结构如图3所示;每个网络为栈式自编码网络,即由多个自编码网络构成,包括一个输入层、一个输出层和多个隐藏层;每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法,即解码参数
Figure RE-GDA0003294289950000102
是编码参数θi的转置;前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量,因此原始输入数据x的特征能够逐层地得到加密和抽象提取;每个生成器/判别器网络首先采用逐层贪心算法,以无监督方式进行预先的训练;具体而言,第一个自编码网络AE1以x为输入进行训练,获得加密后的特征向量h1以及网络参数θ1;然后,第二个自编码网络AE2以h1为输入进行训练,获得加密后的特征向量h2以及网络参数θ2;以此类推,执行逐层贪心算法得到第N个自编码网络 AEN输出hN以及网络参数θN;最后,每个生成器/判别器的顶层为一个前馈神经网络,该网络分别以hN和候选解y为输入和输出,训练得到网络参数θN+1,对每个生成器/判别器网络以有监督方式进行训练,从而对整个网络的参数进行进一步精细化的微调。
优选地,基于分解和生成对抗式网络的多目标进化算法的混合繁殖策略,具体为:按照设计的混合繁殖策略生成新的种群P’;首先在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中,将种群P中的候选解分为两个相同大小的子种群,分别记为真实样本解集和生成样本解集;令np表示种群P的候选解的个数;并根据基于拥挤距离的拥挤度评价方法选择真实样本;在该方法中,每个候选解i均对应一个拥挤度值
Figure RE-GDA0003294289950000103
为增加真实样本中的种群多样性,具有较高拥挤度的候选解被选为真实样本。
优选地,基于分解和生成对抗式网络的多目标进化算法的每个候选解的拥挤度的具体计算方式为:令O表示目标函数的个数;首先计算P中每个候选解的每个目标函数值o(1≤o≤O),并得到每个目标函数o的最大值
Figure RE-GDA0003294289950000104
和最小值
Figure RE-GDA0003294289950000111
Figure RE-GDA0003294289950000112
或候选解i为当前Pareto前端中处于两侧极端位置(i为1或者np)的候选解时,
Figure RE-GDA0003294289950000113
在其它情况下,
Figure RE-GDA0003294289950000114
的计算方式如下。
Figure RE-GDA0003294289950000115
优选地,在计算每个候选解的
Figure RE-GDA0003294289950000116
时,首先将当前Pareto前端中的所有候选解按照目标函数o进行升序排序;然后,
Figure RE-GDA0003294289950000117
Figure RE-GDA0003294289950000118
表示按照目标函数o升序排序后,每个候选解i的下一个和前一个候选解;在计算得到每个候选解i的拥挤度
Figure RE-GDA0003294289950000119
后,按照
Figure RE-GDA00032942899500001110
值对当前种群P中的所有候选解进行降序排序;然后,选取前
Figure RE-GDA00032942899500001111
个候选解作为真实样本,并将剩余的
Figure RE-GDA00032942899500001112
个候选解作为生成样本,从而提高种群的分布多样性,并促使其更贴近Pareto最优的前端,从而提高生成对抗式网络的泛化能力;这里的真实样本是指分布更加多样化或者收敛性更好的候选解,而生成样本则是指分布多样化较差或者具有较差质量的候选解。
优选地,基于分解和生成对抗式网络的多目标进化算法中生成对抗式网络的训练方式,具体为:利用两个子种群训练该生成对抗式网络;本专利采用一种新颖的生成对抗式网络(NGAN),结构如图2所示;其中包括多个生成器网络和两个不同的判别器网络D1和D2;对于给定的候选解x,若x为真实的候选解,则D1(x)返回较大的数值;若x为生成的候选解,则D1(x)返回较小的数值;与此相反,若x为真实的候选解,则D2(x)返回较小的数值;若x为生成的候选解,则D2(x)返回较大的数值;多个生成器网络通过变异、适应度评估和选择等进化操作产生一个最优的生成器网络,用以不断产生生成的候选解,从而用以训练判别器网络D1和D2;然后,固定当前训练得到的判别器网络D1和 D2,进一步通过进化操作训练产生新的生成器网络;以此类推,多个生成器网络和两个判别器网络不断地进行交互迭代,最终得到训练好的生成对抗式网络 NGAN。
优选地,基于分解和生成对抗式网络的多目标进化算法中最优的生成器网络G、D1和D2的优化操作,具体为:不同于现有的D2GAN网络,NGAN的进化操作产生的最优的生成器网络G、D1和D2通过以下minmax优化操作完成;
Figure RE-GDA00032942899500001113
其中,α和β是两个给定的超参数(0<α,β≤1),作用是使模型的训练过程更加稳定;r表示划分为real类型的候选解,f表示划分为fake类型的候选解;Pr和Pf分别表示real和fake类型的候选解集,z表示高斯噪声向量,Pz表示高斯噪声向量的先验概率分布函数,G(z)表示根据z生成的样本候选解。
优选地,基于分解和生成对抗式网络的多目标进化算法的变异操作,具体为:多个生成器网络可具有多个不同的对抗目标函数,用以优化真实数据分布和生成数据分布之间的不同的距离度量指标,因此具有不同的训练目标;在给定生成器网络Gθ的基础上,变异操作能够产生新的生成器网络
Figure RE-GDA0003294289950000121
变异操作主要考虑不同的对抗目标函数,本专利主要考虑三种对抗目标函数,包括
Figure RE-GDA0003294289950000122
Figure RE-GDA0003294289950000123
其具体计算方式如下;
Figure RE-GDA0003294289950000124
Figure RE-GDA0003294289950000125
Figure RE-GDA0003294289950000126
其中,
Figure RE-GDA0003294289950000127
函数能够最小化真实数据和生成数据分布之间的Jensen- Shannon距离,但是存在梯度消失问题;
Figure RE-GDA0003294289950000128
函数能够最大化判别器将G(z) 识别为真实样本的对数概率,它能够克服梯度消失问题但存在训练过程和生成质量不稳定的问题;类似于
Figure RE-GDA0003294289950000129
函数,
Figure RE-GDA00032942899500001210
函数能够克服梯度消失问题,并且能够在一定程度上避免模式坍塌问题。
优选地,基于分解和生成对抗式网络的多目标进化算法的适应度评估操作,具体为:每个生成器网络的适应度评估操作根据当前得到的判别器,衡量利用新得到的生成器网络所生成的数据的质量和多样性,并得到每个生成器网络的适应度值。生成器网络的适应度(F)的计算方式如下:
F=F1+σF2
F1=Ez[D(G(z))]
Figure RE-GDA00032942899500001211
其中,F1表示生成器网络的质量指标值;F2表示生成器网络的多样性指标值;σ表示一个非负的常数,用来平衡F1和F2对F的影响;F1越大表示生成器网络产生的样本越接近于真实数据的分布;F2越大表示生成器网络产生的样本分布越广泛,从而有助于缓解模式坍塌问题。
优选地,基于分解和生成对抗式网络的多目标进化算法的选择操作,具体为:按照设计的选择操作从种群P和P’中生成下一次迭代的新种群;按照进化计算中适者生存的原则,适应度值较大的生成器网络将会被选择进入下一轮的迭代中,只有这些被选中的个体(生成器网络)能够参与将来的对抗训练;最终在训练结束后通过学习得到一个最优的生成器网络,它能够最准确地代表真实数据的整体分布特征;具体而言,在每一次迭代中,针对当前的判别器,本专利将当前所有新生成的λ个生成器网络按照其适应度值进行排序;然后,从λ个生成器网络中选取μ个适应度最好的(如图2中的
Figure RE-GDA0003294289950000131
),来进一步产生下一代生成器网络。
优选地,基于分解和生成对抗式网络的多目标进化算法的迭代过程,具体为:继续重复以上步骤,直至满足该基于分解和生成对抗式网络的多目标进化算法的迭代终止条件;最后选择Pareto前端中的Knee解作为最终解输出,从而实现最小化多基站系统总能耗和任务执行时间的双目标优化方法。
本发明的有益效果如下:
本发明所述技术方案能够改善复杂异构移动边缘计算中工作流应用迁移的高能耗和长延迟这一挑战性难题。可以在多基站环境中灵活地在小型基站和大型基站之间最优地分解迁移部分的同构或者异构的工作流应用,能够同时降低应用延迟以及系统能量总消耗,从而实现智能的计算迁移。且本发明所述技术方案综合考虑了工作流应用中子任务之间的复杂依赖关系对应用执行时间和总消耗的能量的影响,并且考虑了包括网络连接通道的带宽容量限制,大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限,以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度等约束。综合以上因素,构建了用以同时降低系统总能耗和应用总延迟的双目标优化问题。然后,为求解该双目标优化问题,本专利采用一种新颖的结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法,克服了现有生成对抗网络中存在的单一训练目标的梯度消失、模式坍塌等难题,并生成了分布更加多样化的高质量候选解。最后通过优化网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度等决策变量,实现移动边缘计算中基于生成对抗式网络的高能效和低延迟应用迁移方法。
附图说明
下面结合附图对本发明的具体实施方式作进一步详细的说明;
图1示出移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法流程图。
图2示出包括多个生成器网络和两个判别器网络的生成对抗式网络结构图。
图3示出生成器和判别器的网络结构图。
图4示出包括多个基于分解和生成对抗式网络的多目标进化算法的流程图。
具体实施方式
为了更清楚地说明本发明,下面结合优选实例和附图对本发明做进一步的说明。附图中相似的部件以相同的附图标记进行表示。本领域技术人员应当理解,下面所具体描述的内容是说明性的而非限制性的,不应以此限制本发明的保护范围。
如图1、图2、图3和图4所示,本发明公开一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,包括如下步骤:
S1、建立复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型:
本专利提出一种移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法。该调度方法的第一个目标是最小化系统总能耗(Δ):
Figure RE-GDA0003294289950000141
其中,M表示智能移动设备的总数;K表示每个智能移动设备中需要按照顺序执行的子任务的个数;
Figure RE-GDA0003294289950000142
表示智能移动设备m(m=1,…,M)的第k(k=1,…,K) 个子任务调度到其自身中执行的数据的比例;
Figure RE-GDA0003294289950000143
表示智能移动设备m的第k 个子任务调度到某个小型基站中执行的数据的比例;
Figure RE-GDA0003294289950000144
表示智能移动设备m 的第k个子任务调度到某个大型基站中执行的数据的比例;xmj表示一个二进制变量,即如果智能移动设备m属于小型基站j的管辖范围,则xmj=1,否则xmj=0;
Figure RE-GDA0003294289950000145
表示智能移动设备m中执行其第k个子任务的工作速度(每秒内的CPU周期数);
Figure RE-GDA0003294289950000146
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度(每秒内的CPU周期数);
Figure RE-GDA0003294289950000147
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率;Em表示智能移动设备m执行所有K个子任务需要消耗的能量;J表示小型基站的总数;
Figure RE-GDA0003294289950000151
表示在小型基站j中执行智能移动设备m 的任务所需要消耗的能量。
此外,Em的具体计算方式如下:
Figure RE-GDA0003294289950000152
其中,
Figure RE-GDA0003294289950000153
表示智能移动设备m中的由芯片架构决定的常值系数;
Figure RE-GDA0003294289950000154
表示智能移动设备m的第k个子任务的输入数据的大小(比特数);
Figure RE-GDA0003294289950000155
表示执行智能移动设备m的第k个子任务的每个比特的输入数据所需要的CPU周期数。
此外,
Figure RE-GDA0003294289950000156
的具体计算方式如下:
Figure RE-GDA0003294289950000157
Figure RE-GDA0003294289950000158
Figure RE-GDA0003294289950000159
其中,φmj表示在小型基站j中执行智能移动设备m的所有子任务所消耗的能量;φm0表示φmj表示在该大型基站中执行智能移动设备m的所有子任务所消耗的能量;
Figure RE-GDA00032942899500001510
表示智能移动设备m的闲时功率;ρm表示智能移动设备m上传数据时的功率放大系数;μmj表示智能移动设备m占用其与小型基站j相连接通道的带宽占用比例;β1表示在网络连接通道中上传数据的开销系数;
Figure RE-GDA00032942899500001511
表示智能移动设备m在小型基站j的通道中上传数据的传输速度(每秒钟的比特数);
Figure RE-GDA00032942899500001512
表示智能移动设备m的下载数据时消耗的功率;β1表示在网络连接通道中下载数据的开销系数;
Figure RE-GDA00032942899500001513
表示智能移动设备m在小型基站j的通道中下载数据的传输速度(每秒钟的比特数);
Figure RE-GDA00032942899500001514
表示从小型基站传输数据至大型基站的传输功率;r0表示在小型基站与大型基站之间传输数据的速度(每秒钟的比特数);β3表示在小型基站与大型基站之间网络连接通道中上传数据的开销系数;
Figure RE-GDA00032942899500001515
表示从大型基站下载数据至小型基站的传输功率;β4表示在小型基站与大型基站之间网络连接通道中下载数据的开销系数;e0表示大型基站中完成每个CPU周期所消耗的能量(焦耳)。
该调度方法的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm):
Figure RE-GDA0003294289950000161
Figure RE-GDA0003294289950000162
Figure RE-GDA0003294289950000163
Figure RE-GDA0003294289950000164
Figure RE-GDA0003294289950000165
其中,
Figure RE-GDA0003294289950000166
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间;
Figure RE-GDA0003294289950000167
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据总共的执行时间;
Figure RE-GDA0003294289950000168
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间;
Figure RE-GDA0003294289950000169
表示在大型基站中执行智能移动设备m的第k 个子任务的部分数据所需要的时间;f0表示大型基站中的工作速度(每秒内的 CPU周期数)。
上述混合整数非线性规划模型的约束包括下述(1)~(11):
(1)对于每个智能移动设备m的第k个子任务的数据,分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1:
Figure RE-GDA00032942899500001610
(2)对于小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限:
Figure RE-GDA00032942899500001611
Figure RE-GDA00032942899500001612
其中,
Figure RE-GDA00032942899500001613
表示执行智能移动设备m的第k个子任务的每个比特(bit)的数据所需要的内存的大小;
Figure RE-GDA00032942899500001614
表示小型基站j中的总CPU周期数的上限;
Figure RE-GDA00032942899500001615
表示小型基站j的总内存的上限。
(3)对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限:
Figure RE-GDA00032942899500001616
Figure RE-GDA0003294289950000171
其中,
Figure RE-GDA0003294289950000172
表示大型基站中的总CPU周期数的上限;
Figure RE-GDA0003294289950000173
表示大型基站的总内存的上限。
(4)对于每个智能移动设备m,调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA0003294289950000174
其中,
Figure RE-GDA0003294289950000175
表示每个智能移动设备m最大可用能量的上限。
(5)对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA0003294289950000176
其中,
Figure RE-GDA0003294289950000177
表示小型基站j中最大可用能量的上限。
(6)对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限:
Figure RE-GDA0003294289950000178
其中,
Figure RE-GDA0003294289950000179
表示大型基站中最大可用能量的上限。
(7)对于每个小型基站j,调度到其上执行的所有智能移动设备共享其网络连接通道的带宽:
Figure RE-GDA00032942899500001710
0≤μmj≤1。
(8)对于每个智能移动设备m,其传输数据至某个小型基站中需要消耗的功率
Figure RE-GDA00032942899500001711
需要不超过其可用功率的上限:
Figure RE-GDA00032942899500001712
其中,
Figure RE-GDA00032942899500001713
表示智能移动设备m传输数据功率的上限。
(9)对于每个智能移动设备m,执行其第k个子任务的工作速度(每秒内的CPU周期数)不超过其上限
Figure RE-GDA00032942899500001714
并且在其上执行所有子任务的工作速度不超过其最大工作速度:
Figure RE-GDA00032942899500001715
Figure RE-GDA0003294289950000181
其中,
Figure RE-GDA0003294289950000182
表示每个智能移动设备m,执行其第k个子任务的最大工作速度, Fm表示每个智能移动设备m的最大工作速度。
(10)对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度(每秒内的CPU周期数)不超过其上限:
Figure RE-GDA0003294289950000183
其中,Fj表示小型基站j中最大工作速度的上限。
(11)每个智能移动设备m必须并且只能分配到一个小型基站中:
Figure RE-GDA0003294289950000184
S2、采用基于分解和生成对抗式网络的多目标进化算法来求解双目标混合整数非线性规划模型,实现复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟的的优化调度方法。具体包括如下步骤,算法流程图如图1所示。
(1)初始化基于分解的多目标进化算法的初始种群P、生成对抗网络中的生成器和判别器网络结构,以及网络参数包括连接权重矩阵和偏置向量等。
生成器和判别器的网络结构如图3所示。每个网络为栈式自编码网络,即由多个自编码网络构成,包括一个输入层、一个输出层和多个隐藏层。每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法,即解码参数
Figure RE-GDA0003294289950000185
是编码参数θi的转置。前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量,因此原始输入数据x的特征能够逐层地得到加密和抽象提取。每个生成器/判别器网络首先采用逐层贪心算法,以无监督方式进行预先的训练。具体而言,第一个自编码网络AE1以x为输入进行训练,获得加密后的特征向量h1以及网络参数θ1。然后,第二个自编码网络AE2以h1为输入进行训练,获得加密后的特征向量h2以及网络参数θ2。以此类推,执行逐层贪心算法得到第N个自编码网络AEN输出hN以及网络参数θN。最后,每个生成器/判别器的顶层为一个前馈神经网络,该网络分别以hN和候选解y为输入和输出,训练得到网络参数θN+1,对每个生成器/判别器网络以有监督方式进行训练,从而对整个网络的参数进行进一步精细化的微调。
(2)按照设计的混合繁殖策略生成新的种群P’。具体而言,在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中,首先将种群P中的候选解分为两个相同大小的子种群,分别记为真实样本解集和生成样本解集。令np表示种群P的候选解的个数。根据基于拥挤距离的拥挤度评价方法选择真实样本。在该方法中,每个候选解i均对应一个拥挤度值
Figure RE-GDA00032942899500001914
为增加真实样本中的种群多样性,具有较高拥挤度的候选解被选为真实样本。
拥挤度的具体计算方式如下。令O表示目标函数的个数。首先计算P中每个候选解的每个目标函数值o(1≤o≤O),并得到每个目标函数o的最大值
Figure RE-GDA0003294289950000191
和最小值
Figure RE-GDA0003294289950000192
Figure RE-GDA0003294289950000193
或候选解i为当前Pareto前端中处于两侧极端位置(i为1或者np)的候选解时,
Figure RE-GDA0003294289950000194
在其它情况下,
Figure RE-GDA0003294289950000195
的计算方式如下。
Figure RE-GDA0003294289950000196
在计算
Figure RE-GDA0003294289950000197
时,首先将当前Pareto前端中的所有候选解按照目标函数o进行升序排序。然后,
Figure RE-GDA0003294289950000198
Figure RE-GDA0003294289950000199
表示按照目标函数o升序排序后,每个候选解i的下一个和前一个候选解。在计算得到每个候选解i的
Figure RE-GDA00032942899500001910
后,按照
Figure RE-GDA00032942899500001911
值对当前种群P中的所有候选解进行降序排序。然后,选取前
Figure RE-GDA00032942899500001912
个候选解作为真实样本,并将剩余的
Figure RE-GDA00032942899500001913
个候选解作为生成样本,从而提高种群的分布多样性,并促使其更贴近Pareto最优的前端,从而提高生成对抗式网络的泛化能力;这里的真实样本指分布更加多样化或者收敛性更好的候选解,而生成样本指分布多样化较差或者具有较差质量的候选解。
(3)利用两个子种群训练该生成对抗式网络。本专利采用一种新颖的生成对抗式网络(NGAN),结构如图2所示。其中包括多个生成器网络和两个不同的判别器网络D1和D2。对于给定的候选解x,若x为真实的候选解,则D1(x) 返回较大的数值。若x为生成的候选解,则D1(x)返回较小的奖励值。与此相反,若x为真实的候选解,则D2(x)返回较小的奖励值。若x为生成的候选解,则D2(x)返回较大的数值。多个生成器网络通过变异、适应度评估和选择等进化操作产生一个最优的生成器网络,用以不断产生生成的候选解,从而用以训练判别器网络D1和D2。然后,固定当前训练得到的判别器网络D1和D2,进一步通过进化操作训练产生新的生成器网络。以此类推,多个生成器网络和两个判别器网络不断地进行交互迭代,最终得到训练好的生成对抗式网络NGAN。
具体而言,不同于现有的D2GAN网络,NGAN的进化操作产生的最优的生成器网络G、D1和D2通过以下minmax优化操作完成。
Figure RE-GDA0003294289950000201
其中,α和β是两个给定的超参数(0<α,β≤1),作用是使模型的训练过程更加稳定。r表示划分为real类型的候选解,f表示划分为fake类型的候选解。Pr和Pf分别表示real和fake类型的候选解集,z表示高斯噪声向量,Pz表示高斯噪声向量的先验概率分布函数,G(z)表示根据z生成的样本候选解。
(4)然后执行下面的变异和适应度评估操作。
a)变异操作。多个生成器网络可具有多个不同的对抗目标函数,用以优化真实数据分布和生成数据分布之间的不同的距离度量指标,具有不同的训练目标。在给定生成器网络Gθ的基础上,变异操作能够产生新的生成器网络
Figure RE-GDA0003294289950000202
Figure RE-GDA0003294289950000203
变异操作主要考虑指不同的对抗目标函数,本专利主要考虑三种对抗目标函数,包括
Figure RE-GDA0003294289950000204
Figure RE-GDA0003294289950000205
其具体计算方式如下。
Figure RE-GDA0003294289950000206
Figure RE-GDA0003294289950000207
Figure RE-GDA0003294289950000208
其中,
Figure RE-GDA0003294289950000209
函数能够最小化真实和生成数据分布之间的Jensen–Shannon 距离,但是存在梯度消失问题;
Figure RE-GDA00032942899500002010
函数能够最大化判别器将G(z)识别为真实样本的对数概率,它能够克服梯度消失问题但存在训练过程和生成质量不稳定的问题;类似于
Figure RE-GDA00032942899500002011
函数,
Figure RE-GDA00032942899500002012
函数能够克服梯度消失问题,并且能够在一定程度上避免模式坍塌问题。
b)适应度评估操作。每个生成器网络的适应度评估操作根据当前得到的判别器,衡量利用新得到的生成器网络所生成的数据的质量和多样性,并得到每个生成器网络的适应度值。生成器网络的适应度(F)的计算方式如下:
F=F1+σF2
F1=Ez[D(G(z))]
Figure RE-GDA00032942899500002013
其中,F1表示生成器网络的质量指标值;F2表示生成器网络的多样性指标值;σ表示一个非负的常数,用来平衡F1和F2对F的影响。
F1越大表示生成器网络产生的样本越接近于真实数据的分布。F2越大表示生成器网络产生的样本分布越广泛,从而有助于缓解模式坍塌问题。
(5)按照设计的选择操作从种群P和P’中生成下一次迭代的新种群,具体而言,按照进化计算中适者生存的原则,适应度值较大的生成器网络将会被选择进入下一轮的迭代中,只有这些被选中的个体(生成器网络)能够参与将来的对抗训练。最终在训练结束后学习得到一个最优的生成器网络,它能够最佳地代表真实数据的整体分布特征。具体而言,在每一次迭代中,针对当前的判别器,本专利将当前所有新生成的λ个生成器网络按照其适应度值进行排序。然后,从λ个生成器网络中选取μ个适应度最好的(如图2中的
Figure RE-GDA0003294289950000211
),来进一步产生下一代生成器网络。
(6)继续重复以上步骤(2)-(5),直至满足算法的迭代终止条件。
(7)最后选择Pareto前端中的Knee解,作为最终解输出,从而实现最小化多基站系统总能耗和任务执行时间的双目标优化方法。
显然,本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定,对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动,这里无法对所有的实施方式予以穷举,凡是属于本发明的技术方案所引伸出的显而易见的变化或变动仍处于本发明的保护范围之列。

Claims (10)

1.根据所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,该迁移方法的第一个目标是最小化系统总能耗(Δ):
Figure RE-FDA0003294289940000011
其中,M表示智能移动设备的总数;K表示每个智能移动设备中需要按照顺序执行的子任务的个数;
Figure RE-FDA0003294289940000012
表示智能移动设备m(m=1,…,M)的第k(k=1,…,K)个子任务调度到其自身中执行的数据的比例;
Figure RE-FDA0003294289940000013
表示智能移动设备m的第k个子任务调度到某个小型基站中执行的数据的比例;
Figure RE-FDA0003294289940000014
表示智能移动设备m的第k个子任务调度到某个大型基站中执行的数据的比例;xmj表示一个二进制变量,即如果智能移动设备m属于小型基站j的管辖范围,则xmj=1,否则xmj=0;
Figure RE-FDA0003294289940000015
表示智能移动设备m中执行其第k个子任务的工作速度(每秒内的CPU周期数);
Figure RE-FDA0003294289940000016
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度(每秒内的CPU周期数);
Figure RE-FDA0003294289940000017
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率;Em表示智能移动设备m执行所有K个子任务需要消耗的能量;J表示小型基站的总数;
Figure RE-FDA0003294289940000018
表示在小型基站j中执行智能移动设备m的任务所需要消耗的能量。
2.根据权利要求1所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,该迁移方法的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm):
Figure RE-FDA0003294289940000019
Figure RE-FDA00032942899400000110
Figure RE-FDA00032942899400000111
Figure RE-FDA00032942899400000112
Figure RE-FDA00032942899400000113
其中,
Figure RE-FDA00032942899400000114
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间;
Figure RE-FDA0003294289940000021
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据执行时间;
Figure RE-FDA0003294289940000022
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间;
Figure RE-FDA0003294289940000023
表示在大型基站中执行智能移动设备m的第k个子任务的部分数据所需要的时间;f0表示大型基站中的工作速度(每秒内的CPU周期数)。
3.根据权利要求2所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,所述方法中的混合整数非线性规划模型的约束包括:
(1)对于每个智能移动设备m的第k个子任务的数据,分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1,即:
Figure RE-FDA0003294289940000024
(2)对于小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限,即:
Figure RE-FDA0003294289940000025
Figure RE-FDA0003294289940000026
其中,
Figure RE-FDA0003294289940000027
表示执行智能移动设备m的第k个子任务的每个bit的数据所需要的内存的大小;
Figure RE-FDA0003294289940000028
表示小型基站j中的总CPU周期数的上限;
Figure RE-FDA0003294289940000029
表示小型基站j的总内存的上限。
(3)对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限,即:
Figure RE-FDA00032942899400000210
Figure RE-FDA00032942899400000211
其中,
Figure RE-FDA00032942899400000212
表示大型基站中的总CPU周期数的上限;
Figure RE-FDA00032942899400000213
表示大型基站的总内存的上限。
(4)对于每个智能移动设备m,调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限,即:
Figure RE-FDA00032942899400000214
其中,
Figure RE-FDA00032942899400000215
表示每个智能移动设备m最大可用能量的上限。
(5)对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限,即:
Figure RE-FDA0003294289940000031
其中,
Figure RE-FDA0003294289940000032
表示小型基站j中最大可用能量的上限。
(6)对于大型基站,调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限,即:
Figure RE-FDA0003294289940000033
其中,
Figure RE-FDA0003294289940000034
表示大型基站中最大可用能量的上限。
4.根据权利要求3所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,所述方法中的混合整数非线性规划模型的约束还包括:
(7)对于每个小型基站j,调度到其上执行的所有智能移动设备共享其网络连接通道的带宽,即:
Figure RE-FDA0003294289940000035
0≤μmj≤1。
(8)对于每个智能移动设备m,其传输数据至某个小型基站中需要消耗的功率
Figure RE-FDA0003294289940000036
需要不超过其可用功率的上限,即:
Figure RE-FDA0003294289940000037
其中,
Figure RE-FDA0003294289940000038
表示智能移动设备m传输数据功率的上限。
(9)对于每个智能移动设备m,执行其第k个子任务的工作速度(每秒内的CPU周期数)不超过其上限
Figure RE-FDA0003294289940000039
并且在其上执行所有子任务的工作速度不超过其最大工作速度,即:
Figure RE-FDA00032942899400000310
Figure RE-FDA00032942899400000311
其中,
Figure RE-FDA00032942899400000312
表示每个智能移动设备m执行其第k个子任务的最大工作速度,Fm表示每个智能移动设备m的最大工作速度。
(10)对于每个小型基站j,调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度(每秒内的CPU周期数)不超过其上限,即:
Figure RE-FDA0003294289940000041
其中,Fj表示小型基站j中最大工作速度的上限。
(11)每个智能移动设备m必须并且只能分配到一个小型基站中:
Figure RE-FDA0003294289940000042
5.根据权利要求4所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,采用基于分解和生成对抗式网络的多目标进化算法求解该双目标混合整数非线性规划模型,该算法的初始化操作具体为:初始化基于分解的多目标进化算法的初始种群P,以及生成对抗网络中的生成器和判别器网络结构,以及网络参数包括连接权重矩阵和偏置向量等;生成器和判别器的网络结构如图3所示;每个网络为栈式自编码网络,即由多个自编码网络构成,包括一个输入层、一个输出层和多个隐藏层;每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法,即解码参数
Figure RE-FDA0003294289940000043
是编码参数θi的转置;前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量,因此原始输入数据x的特征能够逐层地得到加密和抽象提取;每个生成器/判别器网络首先采用逐层贪心算法,以无监督方式进行预先的训练;具体而言,第一个自编码网络AE1以x为输入进行训练,获得加密后的特征向量h1以及网络参数θ1;然后,第二个自编码网络AE2以h1为输入进行训练,获得加密后的特征向量h2以及网络参数θ2;以此类推,执行逐层贪心算法得到第N个自编码网络AEN输出hN以及网络参数θN;最后,每个生成器/判别器的顶层为一个前馈神经网络,该网络分别以hN和候选解y为输入和输出,训练得到网络参数θN+1,对每个生成器/判别器网络以有监督方式进行训练,从而对整个网络的参数进行进一步精细化的微调。
6.根据权利要求5所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,基于分解和生成对抗式网络的多目标进化算法的混合繁殖策略,具体为:按照设计的混合繁殖策略生成新的种群P’;首先在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中,将种群P中的候选解分为两个相同大小的子种群,分别记为真实(real)样本解集和生成(fake)样本解集;令np表示种群P的候选解的个数,并根据基于拥挤距离的拥挤度评价方法选择真实样本;在该方法中,每个候选解i均对应一个拥挤度值
Figure RE-FDA0003294289940000044
为增加真实样本中的种群多样性,具有较高拥挤度的候选解被选为真实样本。
7.根据权利要求6所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,利用两个子种群训练该生成对抗式网络;本专利采用一种新颖的生成对抗式网络(NGAN),结构如图2所示;其中包括多个生成器网络和两个不同的判别器网络D1和D2;对于给定的候选解x,若x为真实的(real)候选解,则D1(x)返回较大的数值;若x为生成的(fake)候选解,则D1(x)返回较小的数值;与此相反,若x为真实的候选解,则D2(x)返回较小的数值;若x为生成的候选解,则D2(x)返回较大的数值;多个生成器网络通过变异、适应度评估和选择等进化操作产生一个最优的生成器网络,用以不断产生生成的候选解,从而用以训练判别器网络D1和D2;然后,固定当前训练得到的判别器网络D1和D2,进一步通过进化操作训练产生新的生成器网络;以此类推,多个生成器网络和两个判别器网络不断地进行交互迭代,最终得到训练好的生成对抗式网络NGAN。
8.根据权利要求7所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,基于分解和生成对抗式网络的多目标进化算法的变异操作,具体为:多个生成器网络可具有多个不同的对抗目标函数,用以优化真实(real)数据分布和生成(fake)数据分布之间的不同的距离度量指标,因此具有不同的训练目标;在给定生成器网络Gθ的基础上,变异操作能够产生新的生成器网络
Figure RE-FDA0003294289940000051
变异操作主要考虑不同的对抗目标函数,本专利主要考虑三种对抗目标函数,包括
Figure RE-FDA0003294289940000052
Figure RE-FDA0003294289940000053
其具体计算方式如下;
Figure RE-FDA0003294289940000054
Figure RE-FDA0003294289940000055
Figure RE-FDA0003294289940000056
其中,z表示噪音向量,Pz表示z的先验概率分布,
Figure RE-FDA0003294289940000057
函数能够最小化真实数据和生成数据分布之间的Jensen-Shannon距离,但是存在梯度消失问题;
Figure RE-FDA0003294289940000058
函数能够最大化判别器将G(z)识别为真实样本的对数概率,它能够克服梯度消失问题,但存在训练过程和生成质量不稳定的问题;类似于
Figure RE-FDA0003294289940000059
函数,
Figure RE-FDA00032942899400000510
函数能够克服梯度消失问题,并且能够在一定程度上避免模式坍塌问题。
9.根据权利要求7所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,基于分解和生成对抗式网络的多目标进化算法的适应度评估操作,具体为:每个生成器网络的适应度评估操作根据当前得到的判别器,衡量利用新得到的生成器网络所生成的数据的质量和多样性,并得到每个生成器网络的适应度值。生成器网络的适应度(F)的计算方式如下:
F=F1+σF2
F1=Ez[D(G(z))]
Figure RE-FDA0003294289940000061
其中,F1表示生成器网络的质量指标值;F2表示生成器网络的多样性指标值;σ表示一个非负的常数,用来平衡F1和F2对F的影响;F1越大表示生成器网络产生的样本越接近于真实数据的分布;F2越大表示生成器网络产生的样本分布越广泛,从而有助于缓解模式坍塌问题。
10.根据权利要求7所述的移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法,其特征在于,基于分解和生成对抗式网络的多目标进化算法的选择操作,具体为:按照设计的选择操作从种群P和P’中生成下一次迭代的新种群;按照进化计算中适者生存的原则,适应度值较大的生成器网络将会被选择进入下一轮的迭代中,只有这些被选中的个体(生成器网络)能够参与将来的对抗训练;最终在训练结束后,通过学习得到一个最优的生成器网络,它能够最佳地代表真实数据的整体分布特征;具体而言,在每一次迭代中,针对当前的判别器,本专利将当前所有新生成的λ个生成器网络按照其适应度值进行排序;然后,从λ个生成器网络中选取μ个适应度最好的(如图2中的
Figure RE-FDA0003294289940000062
),来进一步产生下一代生成器网络。
CN202111077836.8A 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法 Active CN113747500B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111077836.8A CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111077836.8A CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Publications (2)

Publication Number Publication Date
CN113747500A true CN113747500A (zh) 2021-12-03
CN113747500B CN113747500B (zh) 2023-07-14

Family

ID=78738903

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111077836.8A Active CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Country Status (1)

Country Link
CN (1) CN113747500B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115348324A (zh) * 2022-10-19 2022-11-15 北京中科海芯科技有限公司 一种最优化调度策略的确定方法及装置和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020205597A1 (en) * 2019-03-29 2020-10-08 Intel Corporation Autonomous vehicle system
CN112380008A (zh) * 2020-11-12 2021-02-19 天津理工大学 一种面向移动边缘计算应用的多用户细粒度任务卸载调度方法
CN112840600A (zh) * 2018-08-20 2021-05-25 瑞典爱立信有限公司 使用生成对抗网络和强化学习来改进站点的免疫系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112840600A (zh) * 2018-08-20 2021-05-25 瑞典爱立信有限公司 使用生成对抗网络和强化学习来改进站点的免疫系统
WO2020205597A1 (en) * 2019-03-29 2020-10-08 Intel Corporation Autonomous vehicle system
CN112380008A (zh) * 2020-11-12 2021-02-19 天津理工大学 一种面向移动边缘计算应用的多用户细粒度任务卸载调度方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115348324A (zh) * 2022-10-19 2022-11-15 北京中科海芯科技有限公司 一种最优化调度策略的确定方法及装置和电子设备

Also Published As

Publication number Publication date
CN113747500B (zh) 2023-07-14

Similar Documents

Publication Publication Date Title
Yu et al. Toward resource-efficient federated learning in mobile edge computing
CN113242568B (zh) 一种不确定网络环境中的任务卸载和资源分配方法
Wang et al. Computation offloading in multi-access edge computing using a deep sequential model based on reinforcement learning
CN109445935B (zh) 云计算环境下一种高性能大数据分析系统自适应配置方法
CN109753751A (zh) 一种基于机器学习的mec随机任务迁移方法
Wang et al. Scale adaptive fitness evaluation‐based particle swarm optimisation for hyperparameter and architecture optimisation in neural networks and deep learning
CN111611062B (zh) 云边协同分层计算方法及云边协同分层计算系统
Shu et al. A modified hybrid rice optimization algorithm for solving 0-1 knapsack problem
CN113781002B (zh) 云边协同网络中基于代理模型和多种群优化的低成本工作流应用迁移方法
Aghapour et al. Task offloading and resource allocation algorithm based on deep reinforcement learning for distributed AI execution tasks in IoT edge computing environments
CN111832817A (zh) 基于mcp罚函数的小世界回声状态网络时间序列预测方法
CN114936708A (zh) 基于边云协同任务卸载的故障诊断优化方法及电子设备
CN113747500A (zh) 移动边缘计算环境下基于生成对抗式网络的高能效低延迟任务卸载方法
CN113139639B (zh) 一种基于mombi面向智慧城市应用多目标计算迁移方法和装置
Gong et al. Evolutionary computation in China: A literature survey
CN117436485A (zh) 基于权衡时延和精度的多退出点的端-边-云协同系统及方法
He Optimization of edge delay sensitive task scheduling based on genetic algorithm
CN116009990B (zh) 基于宽注意力机制的云边协同元强化学习计算卸载方法
CN112380006A (zh) 一种数据中心资源分配方法及装置
Mollaiy-Berneti Developing energy forecasting model using hybrid artificial intelligence method
CN114980216B (zh) 基于移动边缘计算的依赖型任务卸载系统及方法
He et al. Hybrid Teaching–Learning-Based Optimization for Workflow Scheduling in Cloud Environment
Yadav E-MOGWO Algorithm for Computation Offloading in Fog Computing.
Cofiño et al. Evolving modular networks with genetic algorithms: application to nonlinear time series
CN114595914B (zh) 一种面向云环境的工作流调度方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant