CN113747500B - 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法 - Google Patents

复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法 Download PDF

Info

Publication number
CN113747500B
CN113747500B CN202111077836.8A CN202111077836A CN113747500B CN 113747500 B CN113747500 B CN 113747500B CN 202111077836 A CN202111077836 A CN 202111077836A CN 113747500 B CN113747500 B CN 113747500B
Authority
CN
China
Prior art keywords
network
base station
representing
mobile device
generator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111077836.8A
Other languages
English (en)
Other versions
CN113747500A (zh
Inventor
苑海涛
胡庆隆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202111077836.8A priority Critical patent/CN113747500B/zh
Publication of CN113747500A publication Critical patent/CN113747500A/zh
Application granted granted Critical
Publication of CN113747500B publication Critical patent/CN113747500B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/11—File system administration, e.g. details of archiving or snapshots
    • G06F16/119—Details of migration of file systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/02—Traffic management, e.g. flow control or congestion control
    • H04W28/0215—Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/02—Traffic management, e.g. flow control or congestion control
    • H04W28/0215—Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices
    • H04W28/0221—Traffic management, e.g. flow control or congestion control based on user or device properties, e.g. MTC-capable devices power availability or consumption
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/16—Central resource management; Negotiation of resources or communication parameters, e.g. negotiating bandwidth or QoS [Quality of Service]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/16—Central resource management; Negotiation of resources or communication parameters, e.g. negotiating bandwidth or QoS [Quality of Service]
    • H04W28/18—Negotiating wireless communication parameters
    • H04W28/20—Negotiating bandwidth
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法。该方法综合考虑了工作流应用中子任务之间的复杂依赖关系对于应用执行时间和系统总消耗能量的影响，并且考虑了包括网络连接通道带宽，所有基站的可用资源、工作速度和能量，以及智能终端设备的传输数据功率、能量和工作速度约束。综合以上因素，构建了同时降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型。然后，为得到分布多样化的高质量候选解，设计了一种新颖的结合生成对抗网络和基于分解的多目标进化算法的双目标优化算法，从而得到移动边缘计算中基于生成对抗式网络的高能效和低延迟工作流应用迁移方法。本发明能够在复杂异构移动边缘计算中，将多个工作流应用的子任务调度到终端设备、小型基站和大型基站中执行，从而同时降低应用延迟以及系统总能量消耗。

Description

复杂异构移动边缘计算中基于生成对抗式网络的高能效低延 迟工作流应用迁移方法
技术领域
本发明涉及移动边缘计算中的应用迁移技术。更具体地，涉及一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法。
背景技术
目前的智能移动设备具有高分辨率图像显示、硬件设计紧凑、支持用户可定制应用特征，因此得到了广泛的使用。近年来物联网和5G技术得到了显著的发展，这促进了这些移动设备之间以及它们与人类之间的通信，并且由此衍生了很多新的计算密集型的应用，如增强现实、智慧医疗、语音识别、自然语言处理、在线游戏和实时监控。这些应用需要大量的CPU、内存计算资源以及长时间地消耗这些智能移动设备中的电池能量。然而，智能移动设备中的计算资源、电池容量和无线网络资源都非常有限。因此，智能移动设备(如可穿戴设备、无线传感器和智能手机)，往往无法支撑这些计算密集型和延迟敏感型应用的运行。为克服计算资源的不足以及维持智能移动设备中应用的性能，业界提出了移动边缘计算的新型计算模式，它融合了云计算和移动网络的优点，并在网络边缘提供大量的计算、存储和网络资源。因此，智能移动设备能够将其中的延迟敏感型应用的部分或全部计算任务迁移到临近的移动边缘计算中的服务器中，从而能够在延迟要求内执行这些应用。
通常情况下，移动边缘计算中的服务器通常分布和部署在一个大型基站以及多个小型基站中。每个智能移动设备所迁移的应用均可以在一个大型或者小型基站中得到执行，因此需要它决定选择与哪一个特定的基站进行连接并将其应用迁移到该基站中进行执行。而智能移动设备和基站的关联十分关键，因为它直接影响智能移动设备和基站之间的通信速率、能量消耗。不同于传统异构网络中的终端和基站的关联问题，移动边缘计算中的终端和基站的关联需要考虑更多复杂的因素，包括终端与基站之间有限的网络连接通道带宽、终端和基站的最大可用能量、终端应用的计算数据大小、延迟要求以及基站之间的信号干扰因素。此外，终端应用的计算迁移在降低了终端计算需求和能量消耗的同时，也增大了终端和基站之间的通信开销/延迟，从而增大了应用的实际延迟。
此外，在智能移动设备中往往存在一些工作流应用，这些应用由多个按照顺序执行的子任务组成。子任务之间存在复杂的依赖关系，往往需要按照任务之间的输入和输出关系按照顺序进行执行，而这些子任务之间的依赖关系决定了它们的执行顺序和执行时间。比如，增强现实应用可以由五个子任务组成，分别是视频采集、追踪、映射、目标对象识别和渲染。每个子任务均可以迁移到临近基站中进行执行，从而有效降低终端的能量消耗和应用执行时间。因此，针对该类型工作流应用，为保证终端应用能够其规定的延迟内得到执行，必须在应用迁移时考虑应用子任务之间的依赖关系。总之，在移动边缘计算中如何提供低能耗和低延迟的工作流应用迁移变得十分具有挑战性。
为实现以上目标，现有的一些工作通常采用动态电压频率调制技术，根据应用的计算需求来控制终端和边缘端的服务器的CPU运行速度，这种方式能够同时降低应用延迟、降低终端和边缘端的能量消耗，从而实现智能的计算迁移。现有一些工作往往采用二分法方式迁移应用，即终端应用只能全部在其本身或者边缘端的服务器中执行。另外一些工作采用不同的部分迁移方法，即将应用按照一定的比例在终端和边缘端的服务器中分别并行地执行。此外，一些工作结合能量采集技术来为移动边缘端提供动态的应用迁移，从而降低应用的总执行成本。然而，这些工作只考虑了由单任务构成的终端应用，并且仅适用于单个基站的移动边缘计算环境。目前仅有少部分工作考虑了多基站中的应用迁移问题，但是这些现有工作只允许将迁移的应用全部放到小型基站或者大型基站中进行执行，而不能灵活地在小型基站和大型基站之间最优地划分迁移部分的应用，从而不能进一步降低应用执行时间或者能量消耗。
为解决以上难题，不同于以上现有工作，本专利适用于能够运行在终端和边缘端的同构或者异构的工作流应用的迁移。具体而言，本专利考虑了由终端、一个大型基站和多个小型基站的复杂异构移动边缘计算环境，提出了高能效低延迟的应用迁移方法，能够智能地将每个智能移动终端与这些基站进行关联。每个基站中运行着多个服务器并且每个终端中运行着延迟敏感型的工作流应用，每个应用由彼此之间存在复杂依赖关系的多个子任务组成。本专利综合考虑了工作流应用中子任务之间的复杂依赖关系对于应用执行时间和总消耗能量的影响。此外，该专利具体提供了智能移动设备和基站中的能耗和任务执行时间的计算方式。并且考虑了包括网络连接通道的带宽容量限制，大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限，以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度约束。结合以上因素，本专利构建了双目标混合整数非线性规划模型，该模型通过优化网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度决策变量，可以同时降低系统总能耗和应用总延迟。
针对该双目标优化问题，目前存在多种不同的多目标进化算法，主要可分为三种类型，具体包括基于支配关系的算法(如NSGA-II和SPEA2)、基于分解的算法(如MOEA/D)、基于性能指标的算法(如IBEA)。这些算法均采用四种基本的操作，分别为初始化种群、生成子代个体、计算适应度和选择下一代进化的个体。然而，这些方法也存在一些缺点。这些方法的子代个体生成过程往往基于随机的机制(如交叉和变异操作)，无法提供明确的学习机制，导致无法有效利用适应度函数形状所具有的特点来指导全局最优解的搜索。为解决以上问题，一些工作结合机器学习机制提出了基于模型的进化算法。这些算法利用机器学习模型来替换传统的操作步骤。但是这些算法在求解决策变量较多且解空间复杂的优化问题时需要的训练数据成指数级增长，即存在维度灾难问题，因此其性能往往较差。
而近年来兴起的生成对抗网络能够以一种对抗的方式学习给定数据的分布特征，从而生成高质量的训练数据，并最终得到高效的学习模型。主要原因包括如下几点。首先，生成对抗网络的主要结构包括一个生成器(Generator)和一个判别器(Discriminator)。判别器能够将候选解划分为真实的样本和生成的样本。其次，由于其对抗学习的特点，生成对抗网络能够从规模有限的训练数据中学习得到Pareto前端中的候选解集的高维分布特征，因此它能够用来在多目标优化算法中产生新的候选解，从而提高搜索效率和精度。现有的一些工作采用了类似于本专利的方法，但是它采用了经典的SPEA2算法，因此它的局部搜索能力不足。此外，它的生成器和判别器均采用了一个简单的前馈神经网络，前者包含两个隐藏层而后者包含一个隐藏层，因此它的学习能力有限并且不能有效处理问题规模较大且复杂的多目标优化问题。
现有的GAN网络存在诸多问题：1)存在模式坍塌(Mode Collapse)问题，即生成器往往只能从大量的数据中学习到非常有限的模式，因此它只能生成大量相同或者类似模式的数据，导致生成的数据缺乏多样性；2)生成器生成的数据分布可能与真实数据的分布差异比较大，导致生成器在训练的初期出现其梯度方向随机性较大，甚至出现梯度消失问题；3)超参数和网络结构对于GAN网络的性能具有关键的影响，而目前很难得到最优的超参数和网络设置；4)大多数现有的GAN网络往往采用某种特定单一的优化目标函数，因此它们的训练策略是固定的，无法在训练过程中动态地平衡生成器和判别器网络；5)为生成高质量的样本数据，往往需要生成器和判别器网络变的更深和更大，导致模型训练的时间过长。
因此，为了提高GAN网络的生成性能及其训练过程的稳定性，不同于现有的GAN网络，该NGAN中首先采用了多个生成器网络和两个不同的判别器网络，它们以一种对抗的方式进行训练。给定当前最优的判别器网络，多个生成器网络以一种进化的方式进行变异、适应度评估和选择操作，来确定最佳的生成器网络。然后，固定当前最佳的生成器网络，进一步以对抗的方式分别优化训练两个不同的判别器网络，用于识别真实的数据和生成的数据。在进化过程中，由多个生成器网络构成的种群能够逐渐地适应当前最优的判别器网络，从而生成更加接近真实数据的样本，并最终学习得到真实数据的分布特征。因此，NGAN克服了单一对抗训练目标函数的缺点，能够按照不同的训练目标函数生成分布更加多样化的高质量候选解，从而克服单一训练目标的梯度消失和模式坍塌难题。
为求解以上构建得到的双目标优化问题，不同于现有工作，本专利采用一种新颖的结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法，进而得到移动边缘计算中基于生成对抗式网络的高能效低延迟应用迁移方法。
发明内容
本发明的目的在于提供一种复杂异构移动边缘计算中同构或者异构工作流应用的迁移方法，该方法考虑了工作流应用中子任务之间的复杂依赖关系对应用执行时间和总消耗能量的影响，以及网络连接通道、大型和小型基站，以及每个智能移动设备资源和能量约束，智能地将每个智能移动终端与这些基站进行关联，并将每个应用的子任务智能地调度到终端以及不同基站中进行执行，从而实现高能效低延迟的应用迁移。
为达到上述目的，本发明采用下述技术方案：
根据本发明的一方面，建立了复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型，包括：智能移动设备和基站中的能耗和任务执行时间的计算方式；网络连接通道的带宽容量限制，大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限，以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度约束的建模。进而构建得到复杂异构移动边缘计算中，能够同时降低系统总能耗和应用总延迟的双目标优化问题。
根据本发明的另一方面，提供了一种复杂异构移动边缘计算中工作流应用的迁移方法，包括：在基于分解的多目标进化算法的每次迭代中，首先根据得到的候选解集的特点，提出了一种候选解的分类方法，将候选解集划分为真实的样本和生成的样本，并以此作为训练数据学习得到生成对抗式网络模型，进而学习候选解集的分布特征，并产生新的数据(候选解)。然后，按照基于分解的多目标进化算法的操作迭代找到最终的候选解集。因此，该专利能够利用生成对抗式网络的强大的生成候选解的能力，能够仅依靠小规模的训练数据在复杂高维解空间中寻找到更高质量的候选解集，从而实现高能效低延迟的应用迁移。最后，根据得到的最终解，确定最终的网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度决策变量。
根据本发明的上述方面，针对目前复杂异构移动边缘计算中同构或者异构的工作流应用的特点，本发明在结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法基础上，通过综合考虑网络连接通道的带宽容量限制、大型以及小型基站总CPU周期数、总内存、最大工作速度以及最大可用能量上限、以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度因素，能够在复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟。
综上，一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，包括如下步骤：
S1、建立复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型；
优选地，所述双目标混合整数非线性规划模型的第一个目标是最小化系统总能耗(Δ)：
Figure GDA0004265673880000061
其中，M表示智能移动设备的总数；K表示每个智能移动设备中需要按照顺序执行的子任务的个数；
Figure GDA0004265673880000062
表示智能移动设备m(m＝1,…,M)的第k(k＝1,…,K)个子任务调度到其自身中执行的数据的比例；/>
Figure GDA0004265673880000063
表示智能移动设备m的第k个子任务调度到某个小型基站中执行的数据的比例；/>
Figure GDA0004265673880000064
表示智能移动设备m的第k个子任务调度到某个大型基站中执行的数据的比例；xmj表示一个二进制变量，即如果智能移动设备m属于小型基站j的管辖范围，则xmj＝1，否则xmj＝0；/>
Figure GDA0004265673880000065
表示智能移动设备m中执行其第k个子任务的工作速度，这里的工作速度指每秒内的CPU周期数)；/>
Figure GDA0004265673880000066
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度；/>
Figure GDA0004265673880000067
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率；Em表示智能移动设备m执行所有K个子任务需要消耗的能量；J表示小型基站的总数；/>
Figure GDA0004265673880000068
表示在小型基站j中执行智能移动设备m的任务所需要消耗的能量。
优选地，所述Em的具体计算方式如下：
Figure GDA0004265673880000069
其中，
Figure GDA00042656738800000610
表示智能移动设备m中的由芯片架构决定的常值系数；/>
Figure GDA00042656738800000611
表示智能移动设备m的第k个子任务的输入数据的大小(比特数)；/>
Figure GDA00042656738800000612
表示执行智能移动设备m的第k个子任务的每个比特的输入数据所需要的CPU周期数。
优选地，所述
Figure GDA00042656738800000613
的具体计算方式如下：
Figure GDA00042656738800000614
Figure GDA00042656738800000615
Figure GDA00042656738800000616
其中，φmj表示在小型基站j中执行智能移动设备m的所有子任务所消耗的能量；φm0表示φmj表示在该大型基站中执行智能移动设备m的所有子任务所消耗的能量；
Figure GDA00042656738800000617
表示智能移动设备m的闲时功率；ρm表示智能移动设备m上传数据时的功率放大系数；μmj表示智能移动设备m占用其与小型基站j相连接通道的带宽占用比例；β1表示在网络连接通道中上传数据的开销系数；/>
Figure GDA00042656738800000618
表示智能移动设备m在小型基站j的通道中上传数据的传输速度(每秒钟的比特数)；/>
Figure GDA0004265673880000071
表示智能移动设备m的下载数据时消耗的功率；β1表示在网络连接通道中下载数据的开销系数；/>
Figure GDA0004265673880000072
表示智能移动设备m在小型基站j的通道中下载数据的传输速度(每秒钟的比特数)；/>
Figure GDA0004265673880000073
表示从小型基站传输数据至大型基站的传输功率；r0表示在小型基站与大型基站之间传输数据的速度(每秒钟的比特数)；β3表示在小型基站与大型基站之间网络连接通道中上传数据的开销系数；/>
Figure GDA0004265673880000074
表示从大型基站下载数据至小型基站的传输功率；β4表示在小型基站与大型基站之间网络连接通道中下载数据的开销系数；e0表示大型基站中完成每个CPU周期所消耗的能量(焦耳)。
优选地，所述双目标混合整数非线性规划模型的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm)：
Figure GDA0004265673880000075
Figure GDA0004265673880000076
Figure GDA0004265673880000077
Figure GDA0004265673880000078
Figure GDA0004265673880000079
其中，
Figure GDA00042656738800000710
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间；/>
Figure GDA00042656738800000711
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据总共的执行时间；
Figure GDA00042656738800000712
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间；/>
Figure GDA00042656738800000713
表示在大型基站中执行智能移动设备m的第k个子任务的部分数据所需要的时间；f0表示大型基站中的工作速度。
优选地，所述双目标混合整数非线性规划模型的约束包括对于每个智能移动设备m的第k个子任务的数据，分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1：
Figure GDA00042656738800000714
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限：
Figure GDA0004265673880000081
Figure GDA0004265673880000082
其中，
Figure GDA0004265673880000083
表示执行智能移动设备m的第k个子任务的每个比特(bit)的数据所需要的内存的大小；/>
Figure GDA0004265673880000084
表示小型基站j中的总CPU周期数的上限；/>
Figure GDA0004265673880000085
表示小型基站j的总内存的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限：
Figure GDA0004265673880000086
Figure GDA0004265673880000087
其中，
Figure GDA0004265673880000088
表示大型基站中的总CPU周期数的上限；/>
Figure GDA0004265673880000089
表示大型基站的总内存的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于每个智能移动设备m，调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA00042656738800000810
其中，
Figure GDA00042656738800000811
表示每个智能移动设备m最大可用能量的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA00042656738800000812
其中，
Figure GDA00042656738800000813
表示小型基站j中最大可用能量的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA0004265673880000091
其中，
Figure GDA0004265673880000092
表示大型基站中最大可用能量的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于每个小型基站j，调度到其上执行的所有智能移动设备共享其网络连接通道的带宽：
Figure GDA0004265673880000093
0≤μmj≤1
优选地，所述双目标混合整数非线性规划模型的约束还包括：对于每个智能移动设备m，其传输数据至某个小型基站中需要消耗的功率(
Figure GDA00042656738800000912
)，需要不超过其可用功率的上限：
Figure GDA0004265673880000094
其中，
Figure GDA0004265673880000095
表示智能移动设备m传输数据功率的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于每个智能移动设备m，执行其第k个子任务的工作速度不超过其上限
Figure GDA0004265673880000096
并且在其上执行所有子任务的工作速度不超过其最大工作速度：
Figure GDA0004265673880000097
Figure GDA0004265673880000098
其中，
Figure GDA0004265673880000099
表示每个智能移动设备m，执行其第k个子任务的最大工作速度，Fm表示每个智能移动设备m的最大工作速度。
优选地，所述双目标混合整数非线性规划模型的约束还包括，对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度(每秒内的CPU周期数)不超过其上限：
Figure GDA00042656738800000910
其中，Fj表示小型基站j中最大工作速度的上限。
优选地，所述双目标混合整数非线性规划模型的约束还包括，每个智能移动设备m必须并且只能分配到一个小型基站中：
Figure GDA00042656738800000911
S2、采用基于分解和生成对抗式网络的多目标进化算法来求解双目标混合整数非线性规划模型，实现复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟的优化调度方法。具体包括如下步骤，如图1所示。
优选地，采用基于分解和生成对抗式网络的多目标进化算法求解该双目标混合整数非线性规划模型，具体包括以下步骤。
优选地，基于分解和生成对抗式网络的多目标进化算法的初始化操作，如图2所示，具体为：初始化基于分解的多目标进化算法的初始种群P、生成对抗网络中的生成器和判别器网络结构，以及网络参数包括连接权重矩阵和偏置向量；生成器和判别器的网络结构如图3所示；每个网络为栈式自编码网络，即由多个自编码网络构成，包括一个输入层、一个输出层和多个隐藏层；每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法，即解码参数
Figure GDA0004265673880000101
是编码参数θi的转置；前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量，因此原始输入数据x的特征能够逐层地得到加密和抽象提取；每个生成器/判别器网络首先采用逐层贪心算法，以无监督方式进行预先的训练；具体而言，第一个自编码网络AE1以x为输入进行训练，获得加密后的特征向量h1以及网络参数θ1；然后，第二个自编码网络AE2以h1为输入进行训练，获得加密后的特征向量h2以及网络参数θ2；以此类推，执行逐层贪心算法得到第N个自编码网络AEN输出hN以及网络参数θN；最后，每个生成器/判别器的顶层为一个前馈神经网络，该网络分别以hN和候选解y为输入和输出，训练得到网络参数θN+1，对每个生成器/判别器网络以有监督方式进行训练，从而对整个网络的参数进行进一步精细化的微调。
优选地，基于分解和生成对抗式网络的多目标进化算法的混合繁殖策略，具体为：按照设计的混合繁殖策略生成新的种群P’；首先在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中，将种群P中的候选解分为两个相同大小的子种群，分别记为真实样本解集和生成样本解集；令np表示种群P的候选解的个数；并根据基于拥挤距离的拥挤度评价方法选择真实样本；在该方法中，每个候选解i均对应一个拥挤度值
Figure GDA0004265673880000107
为增加真实样本中的种群多样性，具有较高拥挤度的候选解被选为真实样本。
优选地，基于分解和生成对抗式网络的多目标进化算法的每个候选解的拥挤度的具体计算方式为：令O表示目标函数的个数；首先计算P中每个候选解的每个目标函数值o(1≤o≤O)，并得到每个目标函数o的最大值
Figure GDA0004265673880000102
和最小值/>
Figure GDA0004265673880000103
当/>
Figure GDA0004265673880000104
或候选解i为当前Pareto前端中处于两侧极端位置(i为1或者np)的候选解时，/>
Figure GDA0004265673880000105
在其它情况下，/>
Figure GDA0004265673880000106
的计算方式如下。
Figure GDA0004265673880000111
优选地，在计算每个候选解的
Figure GDA0004265673880000112
时，首先将当前Pareto前端中的所有候选解按照目标函数o进行升序排序；然后，/>
Figure GDA0004265673880000113
和/>
Figure GDA0004265673880000114
表示按照目标函数o升序排序后，每个候选解i的下一个和前一个候选解；在计算得到每个候选解i的拥挤度/>
Figure GDA0004265673880000115
后，按照/>
Figure GDA0004265673880000116
值对当前种群P中的所有候选解进行降序排序；然后，选取前/>
Figure GDA0004265673880000117
个候选解作为真实样本，并将剩余的/>
Figure GDA0004265673880000118
个候选解作为生成样本，从而提高种群的分布多样性，并促使其更贴近Pareto最优的前端，从而提高生成对抗式网络的泛化能力；这里的真实样本是指分布更加多样化或者收敛性更好的候选解，而生成样本则是指分布多样化较差或者具有较差质量的候选解。
优选地，基于分解和生成对抗式网络的多目标进化算法中生成对抗式网络的训练方式，具体为：利用两个子种群训练该生成对抗式网络；本专利采用一种新颖的生成对抗式网络(NGAN)，结构如图4所示；其中包括多个生成器网络和两个不同的判别器网络D1和D2；对于给定的候选解x，若x为真实的候选解，则D1(x)返回较大的数值；若x为生成的候选解，则D1(x)返回较小的数值；与此相反，若x为真实的候选解，则D2(x)返回较小的数值；若x为生成的候选解，则D2(x)返回较大的数值；多个生成器网络通过变异、适应度评估和选择进化操作产生一个最优的生成器网络，用以不断产生生成的候选解，从而用以训练判别器网络D1和D2；然后，固定当前训练得到的判别器网络D1和D2，进一步通过进化操作训练产生新的生成器网络；以此类推，多个生成器网络和两个判别器网络不断地进行交互迭代，最终得到训练好的生成对抗式网络NGAN。
优选地，基于分解和生成对抗式网络的多目标进化算法中最优的生成器网络G、D1和D2的优化操作，具体为：不同于现有的D2GAN网络，NGAN的进化操作产生的最优的生成器网络G、D1和D2通过以下minmax优化操作完成；
Figure GDA0004265673880000119
其中，α和β是两个给定的超参数(0<α,β≤1)，作用是使模型的训练过程更加稳定；r表示划分为real类型的候选解，f表示划分为fake类型的候选解；Pr和Pf分别表示real和fake类型的候选解集，z表示高斯噪声向量，Pz表示高斯噪声向量的先验概率分布函数，G(z)表示根据z生成的样本候选解。
优选地，基于分解和生成对抗式网络的多目标进化算法的变异操作，具体为：多个生成器网络可具有多个不同的对抗目标函数，用以优化真实数据分布和生成数据分布之间的不同的距离度量指标，因此具有不同的训练目标；在给定生成器网络Gθ的基础上，变异操作能够产生新的生成器网络
Figure GDA0004265673880000121
变异操作考虑不同的对抗目标函数，本专利考虑三种对抗目标函数，包括/>
Figure GDA0004265673880000122
和/>
Figure GDA0004265673880000123
其具体计算方式如下；
Figure GDA0004265673880000124
Figure GDA0004265673880000125
Figure GDA0004265673880000126
其中，
Figure GDA0004265673880000127
函数能够最小化真实数据和生成数据分布之间的Jensen-Shannon距离，但是存在梯度消失问题；/>
Figure GDA0004265673880000128
函数能够最大化判别器将G(z)识别为真实样本的对数概率，它能够克服梯度消失问题但存在训练过程和生成质量不稳定的问题；类似于
Figure GDA0004265673880000129
函数，/>
Figure GDA00042656738800001210
函数能够克服梯度消失问题，并且能够在一定程度上避免模式坍塌问题。
优选地，基于分解和生成对抗式网络的多目标进化算法的适应度评估操作，具体为：每个生成器网络的适应度评估操作根据当前得到的判别器，衡量利用新得到的生成器网络所生成的数据的质量和多样性，并得到每个生成器网络的适应度值。生成器网络的适应度(F)的计算方式如下：
F＝F1+σF2
F1＝Ez[D(G(z))]
Figure GDA00042656738800001211
其中，F1表示生成器网络的质量指标值；F2表示生成器网络的多样性指标值；σ表示一个非负的常数，用来平衡F1和F2对F的影响；F1越大表示生成器网络产生的样本越接近于真实数据的分布；F2越大表示生成器网络产生的样本分布越广泛，从而有助于缓解模式坍塌问题。
优选地，基于分解和生成对抗式网络的多目标进化算法的选择操作，具体为：按照设计的选择操作从种群P和P’中生成下一次迭代的新种群；按照进化计算中适者生存的原则，适应度值较大的生成器网络将会被选择进入下一轮的迭代中，只有这些被选中的个体(生成器网络)能够参与将来的对抗训练；最终在训练结束后通过学习得到一个最优的生成器网络，它能够最准确地代表真实数据的整体分布特征；具体而言，在每一次迭代中，针对当前的判别器，本专利将当前所有新生成的λ个生成器网络按照其适应度值进行排序；然后，从λ个生成器网络中选取μ个适应度最好的生成器网络，来进一步产生下一代生成器网络。
优选地，基于分解和生成对抗式网络的多目标进化算法的迭代过程，具体为：继续重复以上步骤，直至满足该基于分解和生成对抗式网络的多目标进化算法的迭代终止条件；最后选择Pareto前端中的Knee解作为最终解输出，从而实现最小化多基站系统总能耗和任务执行时间的双目标优化方法。
本发明的有益效果如下：
本发明所述技术方案能够改善复杂异构移动边缘计算中工作流应用迁移的高能耗和长延迟这一挑战性难题。可以在多基站环境中灵活地在小型基站和大型基站之间最优地分解迁移部分的同构或者异构的工作流应用，能够同时降低应用延迟以及系统能量总消耗，从而实现智能的计算迁移。且本发明所述技术方案综合考虑了工作流应用中子任务之间的复杂依赖关系对应用执行时间和总消耗的能量的影响，并且考虑了包括网络连接通道的带宽容量限制，大型以及小型基站的总CPU周期数、总内存、最大工作速度以及最大可用能量的上限，以及每个智能移动设备最大可用能量上限和传输数据功率上限、最大工作速度约束。综合以上因素，构建了用以同时降低系统总能耗和应用总延迟的双目标优化问题。然后，为求解该双目标优化问题，本专利采用一种新颖的结合生成对抗网络和基于分解的多目标进化算法(MOEA/D)的双目标优化算法，克服了现有生成对抗网络中存在的单一训练目标的梯度消失、模式坍塌难题，并生成了分布更加多样化的高质量候选解。最后通过优化网络通道带宽分配比例、终端最优传输功率、应用在终端和大小基站之间的迁移分配比例、终端与基站关联关系、终端和边缘端CPU运行速度决策变量，实现移动边缘计算中基于生成对抗式网络的高能效和低延迟应用迁移方法。
附图说明
下面结合附图对本发明的具体实施方式作进一步详细的说明；
图1示出复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法流程图。
图2示出包括多个基于分解和生成对抗式网络的多目标进化算法的流程图。
图3示出生成器和判别器的网络结构图。
图4示出包括多个生成器网络和两个判别器网络的生成对抗式网络结构图。
具体实施方式
为了更清楚地说明本发明，下面结合优选实例和附图对本发明做进一步的说明。附图中相似的部件以相同的附图标记进行表示。本领域技术人员应当理解，下面所具体描述的内容是说明性的而非限制性的，不应以此限制本发明的保护范围。
如图1、图2、图3和图4所示，本发明公开一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，包括如下步骤：
S1、建立复杂异构移动边缘计算中降低系统总能耗和应用总延迟的双目标混合整数非线性规划模型：
本专利提出一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法。该调度方法的第一个目标是最小化系统总能耗(Δ)：
其中，M表示智能移动设备的总数；K表示每个智能移动设备中需要按照顺序执行的子任务的个数；
Figure GDA0004265673880000142
表示智能移动设备m(m＝1,…,M)的第k(k＝1,…,K)个子任务调度到其自身中执行的数据的比例；/>
Figure GDA0004265673880000143
表示智能移动设备m的第k个子任务调度到某个小型基站中执行的数据的比例；/>
Figure GDA0004265673880000144
表示智能移动设备m的第k个子任务调度到某个大型基站中执行的数据的比例；xmj表示一个二进制变量，即如果智能移动设备m属于小型基站j的管辖范围，则xmj＝1，否则xmj＝0；/>
Figure GDA0004265673880000145
表示智能移动设备m中执行其第k个子任务的(每秒内的CPU周期数)；/>
Figure GDA0004265673880000146
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度；/>
Figure GDA0004265673880000147
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率；Em表示智能移动设备m执行所有K个子任务需要消耗的能量；J表示小型基站的总数；/>
Figure GDA0004265673880000151
表示在小型基站j中执行智能移动设备m的任务所需要消耗的能量。
此外，Em的具体计算方式如下：
Figure GDA0004265673880000152
其中，
Figure GDA0004265673880000153
表示智能移动设备m中的由芯片架构决定的常值系数；/>
Figure GDA0004265673880000154
表示智能移动设备m的第k个子任务的输入数据的大小(比特数)；/>
Figure GDA0004265673880000155
表示执行智能移动设备m的第k个子任务的每个比特的输入数据所需要的CPU周期数。/>
此外，
Figure GDA0004265673880000156
的具体计算方式如下：
Figure GDA0004265673880000157
Figure GDA0004265673880000158
Figure GDA0004265673880000159
其中，φmj表示在小型基站j中执行智能移动设备m的所有子任务所消耗的能量；φm0表示φmj表示在该大型基站中执行智能移动设备m的所有子任务所消耗的能量；
Figure GDA00042656738800001510
表示智能移动设备m的闲时功率；ρm表示智能移动设备m上传数据时的功率放大系数；μmj表示智能移动设备m占用其与小型基站j相连接通道的带宽占用比例；β1表示在网络连接通道中上传数据的开销系数；/>
Figure GDA00042656738800001511
表示智能移动设备m在小型基站j的通道中上传数据的传输速度(每秒钟的比特数)；/>
Figure GDA00042656738800001512
表示智能移动设备m的下载数据时消耗的功率；β1表示在网络连接通道中下载数据的开销系数；/>
Figure GDA00042656738800001513
表示智能移动设备m在小型基站j的通道中下载数据的传输速度(每秒钟的比特数)；/>
Figure GDA00042656738800001514
表示从小型基站传输数据至大型基站的传输功率；r0表示在小型基站与大型基站之间传输数据的速度(每秒钟的比特数)；β3表示在小型基站与大型基站之间网络连接通道中上传数据的开销系数；/>
Figure GDA00042656738800001515
表示从大型基站下载数据至小型基站的传输功率；β4表示在小型基站与大型基站之间网络连接通道中下载数据的开销系数；e0表示大型基站中完成每个CPU周期所消耗的能量(焦耳)。
该调度方法的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm)：
Figure GDA0004265673880000161
Figure GDA0004265673880000162
Figure GDA0004265673880000163
Figure GDA0004265673880000164
Figure GDA0004265673880000165
其中，
Figure GDA0004265673880000166
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间；/>
Figure GDA0004265673880000167
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据总共的执行时间；
Figure GDA0004265673880000168
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间；/>
Figure GDA0004265673880000169
表示在大型基站中执行智能移动设备m的第k个子任务的部分数据所需要的时间；f0表示大型基站中的工作速度。
上述混合整数非线性规划模型的约束包括下述(1)～(11)：
(1)对于每个智能移动设备m的第k个子任务的数据，分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1：
Figure GDA00042656738800001610
(2)对于小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限：
Figure GDA00042656738800001611
Figure GDA00042656738800001612
其中，
Figure GDA00042656738800001613
表示执行智能移动设备m的第k个子任务的每个比特(bit)的数据所需要的内存的大小；/>
Figure GDA00042656738800001614
表示小型基站j中的总CPU周期数的上限；/>
Figure GDA00042656738800001615
表示小型基站j的总内存的上限。
(3)对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限：
Figure GDA00042656738800001616
Figure GDA00042656738800001617
其中，
Figure GDA0004265673880000171
表示大型基站中的总CPU周期数的上限；/>
Figure GDA0004265673880000172
表示大型基站的总内存的上限。
(4)对于每个智能移动设备m，调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA0004265673880000173
其中，
Figure GDA0004265673880000174
表示每个智能移动设备m最大可用能量的上限。
(5)对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA0004265673880000175
其中，
Figure GDA0004265673880000176
表示小型基站j中最大可用能量的上限。
(6)对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限：
Figure GDA0004265673880000177
其中，
Figure GDA0004265673880000178
表示大型基站中最大可用能量的上限。
(7)对于每个小型基站j，调度到其上执行的所有智能移动设备共享其网络连接通道的带宽：
Figure GDA0004265673880000179
0≤μmj≤1
(8)对于每个智能移动设备m，其传输数据至某个小型基站中需要消耗的功率
Figure GDA00042656738800001710
需要不超过其可用功率的上限：
Figure GDA00042656738800001711
其中，
Figure GDA00042656738800001712
表示智能移动设备m传输数据功率的上限。
(9)对于每个智能移动设备m，执行其第k个子任务的工作速度不超过其上限
Figure GDA00042656738800001713
并且在其上执行所有子任务的工作速度不超过其最大工作速度：
Figure GDA00042656738800001714
Figure GDA00042656738800001715
其中，
Figure GDA00042656738800001716
表示每个智能移动设备m，执行其第k个子任务的最大工作速度，Fm表示每个智能移动设备m的最大工作速度。
(10)对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度不超过其上限：
Figure GDA0004265673880000181
其中，Fj表示小型基站j中最大工作速度的上限。
(11)每个智能移动设备m必须并且只能分配到一个小型基站中：
Figure GDA0004265673880000182
S2、采用基于分解和生成对抗式网络的多目标进化算法来求解双目标混合整数非线性规划模型，实现复杂异构移动边缘计算中同时降低系统总能耗和应用总延迟的优化调度方法。具体包括如下步骤，如图1所示。
(1)如图2所示，初始化基于分解的多目标进化算法的初始种群P、生成对抗网络中的生成器和判别器网络结构，以及网络参数包括连接权重矩阵和偏置向量。
生成器和判别器的网络结构如图3所示。每个网络为栈式自编码网络，即由多个自编码网络构成，包括一个输入层、一个输出层和多个隐藏层。每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法，即解码参数
Figure GDA0004265673880000183
是编码参数θi的转置。前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量，因此原始输入数据x的特征能够逐层地得到加密和抽象提取。每个生成器/判别器网络首先采用逐层贪心算法，以无监督方式进行预先的训练。具体而言，第一个自编码网络AE1以x为输入进行训练，获得加密后的特征向量h1以及网络参数θ1。然后，第二个自编码网络AE2以h1为输入进行训练，获得加密后的特征向量h2以及网络参数θ2。以此类推，执行逐层贪心算法得到第N个自编码网络AEN输出hN以及网络参数θN。最后，每个生成器/判别器的顶层为一个前馈神经网络，该网络分别以hN和候选解y为输入和输出，训练得到网络参数θN+1，对每个生成器/判别器网络以有监督方式进行训练，从而对整个网络的参数进行进一步精细化的微调。
(2)按照设计的混合繁殖策略生成新的种群P’。具体而言，在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中，首先将种群P中的候选解分为两个相同大小的子种群，分别记为真实样本解集和生成样本解集。令np表示种群P的候选解的个数。根据基于拥挤距离的拥挤度评价方法选择真实样本。在该方法中，每个候选解i均对应一个拥挤度值
Figure GDA0004265673880000184
为增加真实样本中的种群多样性，具有较高拥挤度的候选解被选为真实样本。
拥挤度的具体计算方式如下。令O表示目标函数的个数。首先计算P中每个候选解的每个目标函数值o(1≤o≤O)，并得到每个目标函数o的最大值
Figure GDA0004265673880000191
和最小值/>
Figure GDA0004265673880000192
当/>
Figure GDA0004265673880000193
或候选解i为当前Pareto前端中处于两侧极端位置(i为1或者np)的候选解时，/>
Figure GDA0004265673880000194
在其它情况下，/>
Figure GDA0004265673880000195
的计算方式如下。
Figure GDA0004265673880000196
在计算
Figure GDA0004265673880000197
时，首先将当前Pareto前端中的所有候选解按照目标函数o进行升序排序。然后，/>
Figure GDA0004265673880000198
和/>
Figure GDA0004265673880000199
表示按照目标函数o升序排序后，每个候选解i的下一个和前一个候选解。在计算得到每个候选解i的/>
Figure GDA00042656738800001910
后，按照/>
Figure GDA00042656738800001911
值对当前种群P中的所有候选解进行降序排序。然后，选取前/>
Figure GDA00042656738800001912
个候选解作为真实样本，并将剩余的/>
Figure GDA00042656738800001913
个候选解作为生成样本，从而提高种群的分布多样性，并促使其更贴近Pareto最优的前端，从而提高生成对抗式网络的泛化能力；这里的真实样本指分布更加多样化或者收敛性更好的候选解，而生成样本指分布多样化较差或者具有较差质量的候选解。
(3)利用两个子种群训练该生成对抗式网络。本专利采用一种新颖的生成对抗式网络(NGAN)，结构如图4所示。其中包括多个生成器网络和两个不同的判别器网络D1和D2。对于给定的候选解x，若x为真实的候选解，则D1(x)返回较大的数值。若x为生成的候选解，则D1(x)返回较小的奖励值。与此相反，若x为真实的候选解，则D2(x)返回较小的奖励值。若x为生成的候选解，则D2(x)返回较大的数值。多个生成器网络通过变异、适应度评估和选择进化操作产生一个最优的生成器网络，用以不断产生生成的候选解，从而用以训练判别器网络D1和D2。然后，固定当前训练得到的判别器网络D1和D2，进一步通过进化操作训练产生新的生成器网络。以此类推，多个生成器网络和两个判别器网络不断地进行交互迭代，最终得到训练好的生成对抗式网络NGAN。
具体而言，不同于现有的D2GAN网络，NGAN的进化操作产生的最优的生成器网络G、D1和D2通过以下minmax优化操作完成。
Figure GDA00042656738800001914
其中，α和β是两个给定的超参数(0<α,β≤1)，作用是使模型的训练过程更加稳定。r表示划分为real类型的候选解，f表示划分为fake类型的候选解。Pr和Pf分别表示real和fake类型的候选解集，z表示高斯噪声向量，Pz表示高斯噪声向量的先验概率分布函数，G(z)表示根据z生成的样本候选解。
(4)然后执行下面的变异和适应度评估操作。
a)变异操作。多个生成器网络可具有多个不同的对抗目标函数，用以优化真实数据分布和生成数据分布之间的不同的距离度量指标，具有不同的训练目标。在给定生成器网络Gθ的基础上，变异操作能够产生新的生成器网络
Figure GDA0004265673880000201
Figure GDA0004265673880000202
变异操作考虑指不同的对抗目标函数，本专利考虑三种对抗目标函数，包括/>
Figure GDA0004265673880000203
和/>
Figure GDA0004265673880000204
其具体计算方式如下。
Figure GDA0004265673880000205
Figure GDA0004265673880000206
Figure GDA0004265673880000207
其中，
Figure GDA0004265673880000208
函数能够最小化真实和生成数据分布之间的Jensen–Shannon距离，但是存在梯度消失问题；/>
Figure GDA0004265673880000209
函数能够最大化判别器将G(z)识别为真实样本的对数概率，它能够克服梯度消失问题但存在训练过程和生成质量不稳定的问题；类似于/>
Figure GDA00042656738800002010
函数，/>
Figure GDA00042656738800002011
函数能够克服梯度消失问题，并且能够在一定程度上避免模式坍塌问题。
b)适应度评估操作。每个生成器网络的适应度评估操作根据当前得到的判别器，衡量利用新得到的生成器网络所生成的数据的质量和多样性，并得到每个生成器网络的适应度值。生成器网络的适应度(F)的计算方式如下：
F＝F1+σF2
F1＝Ez[D(G(z))]
Figure GDA00042656738800002012
其中，F1表示生成器网络的质量指标值；F2表示生成器网络的多样性指标值；σ表示一个非负的常数，用来平衡F1和F2对F的影响。
F1越大表示生成器网络产生的样本越接近于真实数据的分布。F2越大表示生成器网络产生的样本分布越广泛，从而有助于缓解模式坍塌问题。
(5)按照设计的选择操作从种群P和P’中生成下一次迭代的新种群，具体而言，按照进化计算中适者生存的原则，适应度值较大的生成器网络将会被选择进入下一轮的迭代中，只有这些被选中的个体(生成器网络)能够参与将来的对抗训练。最终在训练结束后学习得到一个最优的生成器网络，它能够最佳地代表真实数据的整体分布特征。具体而言，在每一次迭代中，针对当前的判别器，本专利将当前所有新生成的λ个生成器网络按照其适应度值进行排序。然后，从λ个生成器网络中选取μ个适应度最好的生成器网络，来进一步产生下一代生成器网络。
(6)继续重复以上步骤(2)-(5)，直至满足算法的迭代终止条件。
(7)最后选择Pareto前端中的Knee解，作为最终解输出，从而实现最小化多基站系统总能耗和任务执行时间的双目标优化方法。
显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定，对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动，这里无法对所有的实施方式予以穷举，凡是属于本发明的技术方案所引伸出的显而易见的变化或变动仍处于本发明的保护范围之列。

Claims (8)

1.一种复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，该方法的第一个目标是最小化系统总能耗(Δ)：
Figure QLYQS_1
其中，M表示智能移动设备的总数；K表示每个智能移动设备中需要按照顺序执行的子任务的个数；
Figure QLYQS_2
表示智能移动设备m(m＝1,…,M)的第k(k＝1,…,K)个子任务调度到其自身中执行的数据的比例；/>
Figure QLYQS_3
表示智能移动设备m的第k个子任务调度到某个小型基站中执行的数据的比例；/>
Figure QLYQS_4
表示智能移动设备m的第k个子任务调度到某个大型基站中执行的数据的比例；xmj表示一个二进制变量，即如果智能移动设备m属于小型基站j的管辖范围，则xmj＝1，否则xmj＝0；/>
Figure QLYQS_5
表示智能移动设备m中执行其第k个子任务的工作速度，这里的工作速度指每秒内的CPU周期数；/>
Figure QLYQS_6
表示在小型基站j中执行智能移动设备m的第k个子任务对应的工作速度；/>
Figure QLYQS_7
表示智能移动设备m传输数据至某个小型基站中需要消耗的功率；Em表示智能移动设备m执行所有K个子任务需要消耗的能量；J表示小型基站的总数；/>
Figure QLYQS_8
表示在小型基站j中执行智能移动设备m的任务所需要消耗的能量；
此外，该方法的第二个目标是最小化智能移动设备m执行所有K个子任务需要的总时间(Tm)：
Figure QLYQS_9
Figure QLYQS_10
Figure QLYQS_11
Figure QLYQS_12
Figure QLYQS_13
其中，
Figure QLYQS_14
表示在调度到智能移动设备m中执行的第k个子任务的数据执行时间；/>
Figure QLYQS_15
表示智能移动设备m的第k个子任务所对应的调度到小型基站j中的数据执行时间；/>
Figure QLYQS_16
表示小型基站j执行智能移动设备m的第k个子任务的部分数据所需要的时间；/>
Figure QLYQS_17
表示在大型基站中执行智能移动设备m的第k个子任务的部分数据所需要的时间；f0表示大型基站中的工作速度；
为实现该迁移方法，采用基于分解和生成对抗式网络的多目标进化算法求解该双目标混合整数非线性规划模型，该算法的初始化操作具体为：初始化基于分解的多目标进化算法的初始种群P，以及生成对抗网络中的生成器和判别器网络结构，以及网络参数包括连接权重矩阵和偏置向量；生成器和判别器中的每个网络为栈式自编码网络，即由多个自编码网络构成，包括一个输入层、一个输出层和多个隐藏层；每个网络均采用绑定权重自编码器的参数共享(Tied weights)方法，即解码参数
Figure QLYQS_18
是编码参数θi的转置；前一层的加密的向量hi(1≤i≤N)为下一个隐藏层的输入向量，因此原始输入数据x的特征能够逐层地得到加密和抽象提取；每个生成器/判别器网络首先采用逐层贪心算法，以无监督方式进行预先的训练；具体而言，第一个自编码网络AE1以x为输入进行训练，获得加密后的特征向量h1以及网络参数θ1；然后，第二个自编码网络AE2以h1为输入进行训练，获得加密后的特征向量h2以及网络参数θ2；以此类推，执行逐层贪心算法得到第N个自编码网络AEN输出hN以及网络参数θN；最后，每个生成器/判别器的顶层为一个前馈神经网络，该网络分别以hN和候选解y为输入和输出，训练得到网络参数θN+1，对每个生成器/判别器网络以有监督方式进行训练，从而对整个网络的参数进行进一步精细化的微调。
2.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，所述方法中的混合整数非线性规划模型的约束包括：
(1)对于每个智能移动设备m的第k个子任务的数据，分别分配到智能移动设备m本身、小型基站和大型基站中的数据的比例之和为1，即：
Figure QLYQS_19
(2)对于小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限，即：
Figure QLYQS_20
Figure QLYQS_21
其中，
Figure QLYQS_22
表示执行智能移动设备m的第k个子任务的每个bit的数据所需要的内存的大小；/>
Figure QLYQS_23
表示小型基站j中的总CPU周期数的上限；/>
Figure QLYQS_24
表示小型基站j的总内存的上限；
(3)对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总的CPU和内存不超过其对应的上限，即：
Figure QLYQS_25
Figure QLYQS_26
其中，
Figure QLYQS_27
表示大型基站中的总CPU周期数的上限；/>
Figure QLYQS_28
表示大型基站的总内存的上限；
(4)对于每个智能移动设备m，调度到其上执行的所有子任务所需要的总能量不超过其可用能量的上限，即：
Figure QLYQS_29
其中，
Figure QLYQS_30
表示每个智能移动设备m最大可用能量的上限；
(5)对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限，即：
Figure QLYQS_31
其中，
Figure QLYQS_32
表示小型基站j中最大可用能量的上限；
(6)对于大型基站，调度到其上执行的所有智能移动设备的所有子任务所需要的总能量不超过其可用能量的上限，即：
Figure QLYQS_33
其中，
Figure QLYQS_34
表示大型基站中最大可用能量的上限。
3.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，所述方法中的混合整数非线性规划模型的约束还包括：
(7)对于每个小型基站j，调度到其上执行的所有智能移动设备共享其网络连接通道的带宽，即：
Figure QLYQS_35
0≤μmj≤1
(8)对于每个智能移动设备m，其传输数据至某个小型基站中需要消耗的功率
Figure QLYQS_36
需要不超过其可用功率的上限，即：
Figure QLYQS_37
其中，
Figure QLYQS_38
表示智能移动设备m传输数据功率的上限；
(9)对于每个智能移动设备m，执行其第k个子任务的工作速度不超过其上限
Figure QLYQS_39
并且在其上执行所有子任务的工作速度不超过其最大工作速度，即：
Figure QLYQS_40
Figure QLYQS_41
其中，
Figure QLYQS_42
表示每个智能移动设备m执行其第k个子任务的最大工作速度，Fm表示每个智能移动设备m的最大工作速度；
(10)对于每个小型基站j，调度到其上执行的所有智能移动设备的所有子任务所需要的工作速度不超过其上限，即：
Figure QLYQS_43
其中，Fj表示小型基站j中最大工作速度的上限；
(11)每个智能移动设备m必须并且只能分配到一个小型基站中：
Figure QLYQS_44
4.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，基于分解和生成对抗式网络的多目标进化算法的混合繁殖策略，具体为：按照设计的混合繁殖策略生成新的种群P’；首先在基于分解和生成对抗式网络的多目标进化算法的每一次迭代中，将种群P中的候选解分为两个相同大小的子种群，分别记为真实(real)样本解集和生成(fake)样本解集；令np表示种群P的候选解的个数，并根据基于拥挤距离的拥挤度评价方法选择真实样本；在该方法中，每个候选解i均对应一个拥挤度值
Figure QLYQS_45
为增加真实样本中的种群多样性，具有较高拥挤度的候选解被选为真实样本。
5.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，利用两个子种群训练该生成对抗式网络；采用一种新颖的生成对抗式网络(NGAN)，包括多个生成器网络和两个不同的判别器网络D1和D2；对于给定的候选解x，若x为真实的(real)候选解，则D1(x)返回较大的数值；若x为生成的(fake)候选解，则D1(x)返回较小的数值；与此相反，若x为真实的候选解，则D2(x)返回较小的数值；若x为生成的候选解，则D2(x)返回较大的数值；多个生成器网络通过变异、适应度评估和选择进化操作产生一个最优的生成器网络，用以不断产生生成的候选解，从而用以训练判别器网络D1和D2；然后，固定当前训练得到的判别器网络D1和D2，进一步通过进化操作训练产生新的生成器网络；以此类推，多个生成器网络和两个判别器网络不断地进行交互迭代，最终得到训练好的生成对抗式网络NGAN。
6.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，基于分解和生成对抗式网络的多目标进化算法的变异操作，具体为：多个生成器网络可具有多个不同的对抗目标函数，用以优化真实(real)数据分布和生成(fake)数据分布之间的不同的距离度量指标，因此具有不同的训练目标；在给定生成器网络Gθ的基础上，变异操作能够产生新的生成器网络
Figure QLYQS_46
变异操作考虑不同的对抗目标函数，考虑三种对抗目标函数，包括/>
Figure QLYQS_47
和/>
Figure QLYQS_48
其具体计算方式如下；
Figure QLYQS_49
Figure QLYQS_50
Figure QLYQS_51
其中，z表示噪音向量，Pz表示z的先验概率分布，
Figure QLYQS_52
函数能够最小化真实数据和生成数据分布之间的Jensen-Shannon距离，但是存在梯度消失问题；/>
Figure QLYQS_53
函数能够最大化判别器将G(z)识别为真实样本的对数概率，它能够克服梯度消失问题，但存在训练过程和生成质量不稳定的问题；类似于/>
Figure QLYQS_54
函数，/>
Figure QLYQS_55
函数能够克服梯度消失问题，并且能够在一定程度上避免模式坍塌问题。
7.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，基于分解和生成对抗式网络的多目标进化算法的适应度评估操作，具体为：每个生成器网络的适应度评估操作根据当前得到的判别器，衡量利用新得到的生成器网络所生成的数据的质量和多样性，并得到每个生成器网络的适应度值；生成器网络的适应度(F)的计算方式如下：
F＝F1+σF2
F1＝Ez[D(G(z))]
Figure QLYQS_56
其中，F1表示生成器网络的质量指标值；F2表示生成器网络的多样性指标值；σ表示一个非负的常数，用来平衡F1和F2对F的影响；F1越大表示生成器网络产生的样本越接近于真实数据的分布；F2越大表示生成器网络产生的样本分布越广泛，从而有助于缓解模式坍塌问题。
8.根据权利要求1所述的复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法，其特征在于，基于分解和生成对抗式网络的多目标进化算法的选择操作，具体为：按照设计的选择操作从种群P和P’中生成下一次迭代的新种群；按照进化计算中适者生存的原则，适应度值较大的生成器网络将会被选择进入下一轮的迭代中，只有这些被选中的个体(生成器网络)能够参与将来的对抗训练；最终在训练结束后，通过学习得到一个最优的生成器网络，它能够最佳地代表真实数据的整体分布特征；具体而言，在每一次迭代中，针对当前的判别器，将当前所有新生成的λ个生成器网络按照其适应度值进行排序；然后，从λ个生成器网络中选取μ个适应度最好的生成器网络，来进一步产生下一代生成器网络。
CN202111077836.8A 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法 Active CN113747500B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111077836.8A CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111077836.8A CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Publications (2)

Publication Number Publication Date
CN113747500A CN113747500A (zh) 2021-12-03
CN113747500B true CN113747500B (zh) 2023-07-14

Family

ID=78738903

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111077836.8A Active CN113747500B (zh) 2021-09-15 2021-09-15 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法

Country Status (1)

Country Link
CN (1) CN113747500B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115348324B (zh) * 2022-10-19 2023-01-31 北京中科海芯科技有限公司 一种最优化调度策略的确定方法及装置和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020205597A1 (en) * 2019-03-29 2020-10-08 Intel Corporation Autonomous vehicle system
CN112380008A (zh) * 2020-11-12 2021-02-19 天津理工大学 一种面向移动边缘计算应用的多用户细粒度任务卸载调度方法
CN112840600A (zh) * 2018-08-20 2021-05-25 瑞典爱立信有限公司 使用生成对抗网络和强化学习来改进站点的免疫系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112840600A (zh) * 2018-08-20 2021-05-25 瑞典爱立信有限公司 使用生成对抗网络和强化学习来改进站点的免疫系统
WO2020205597A1 (en) * 2019-03-29 2020-10-08 Intel Corporation Autonomous vehicle system
CN112380008A (zh) * 2020-11-12 2021-02-19 天津理工大学 一种面向移动边缘计算应用的多用户细粒度任务卸载调度方法

Also Published As

Publication number Publication date
CN113747500A (zh) 2021-12-03

Similar Documents

Publication Publication Date Title
CN113873022A (zh) 一种可划分任务的移动边缘网络智能资源分配方法
CN113781002B (zh) 云边协同网络中基于代理模型和多种群优化的低成本工作流应用迁移方法
CN111325356A (zh) 一种基于演化计算的神经网络搜索分布式训练系统及训练方法
CN109753751A (zh) 一种基于机器学习的mec随机任务迁移方法
CN111800828A (zh) 一种超密集网络的移动边缘计算资源分配方法
CN112784362A (zh) 一种用于无人机辅助边缘计算的混合优化方法及系统
Aghapour et al. Task offloading and resource allocation algorithm based on deep reinforcement learning for distributed AI execution tasks in IoT edge computing environments
CN113590279A (zh) 一种面向多核边缘计算服务器的任务调度和资源分配方法
CN113747500B (zh) 复杂异构移动边缘计算中基于生成对抗式网络的高能效低延迟工作流应用迁移方法
He Optimization of edge delay sensitive task scheduling based on genetic algorithm
CN113139639B (zh) 一种基于mombi面向智慧城市应用多目标计算迁移方法和装置
Bi et al. Multi-swarm genetic gray wolf optimizer with embedded autoencoders for high-dimensional expensive problems
Zhou et al. Learning to optimize dag scheduling in heterogeneous environment
Deng et al. Software orchestrated and hardware accelerated artificial intelligence: toward low latency edge computing
CN117436485A (zh) 基于权衡时延和精度的多退出点的端-边-云协同系统及方法
CN114980216B (zh) 基于移动边缘计算的依赖型任务卸载系统及方法
CN116828541A (zh) 基于多智能体强化学习的边缘计算依赖任务动态卸载方法及系统
CN114745386B (zh) 一种多用户边缘智能场景下的神经网络分割及卸载方法
Fang et al. Dependency-Aware Dynamic Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing
Su et al. Using grasshopper optimization algorithm to solve 0-1 knapsack computation resources allocation problem in mobile edge computing
He et al. Hybrid teaching–learning-based optimization for workflow scheduling in cloud environment
CN110689320A (zh) 一种基于协同进化算法的大规模多目标项目调度方法
Zhou A Heuristic Task Scheduling Strategy for Intelligent Manufacturing in the Big Data‐Driven Fog Computing Environment
Wang et al. Hybrid Task Scheduling in Cloud Manufacturing With Sparse-Reward Deep Reinforcement Learning
Chen et al. OTAS: An Elastic Transformer Serving System via Token Adaptation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant