CN111090507A

CN111090507A - 基于云边融合服务器网络架构的任务调度方法及应用

Info

Publication number: CN111090507A
Application number: CN201911165604.0A
Authority: CN
Inventors: 李鑫; 金慧; 霍晓湘; 秦小麟
Original assignee: Nanjing University of Aeronautics and Astronautics
Current assignee: Nanjing University of Aeronautics and Astronautics
Priority date: 2019-11-25
Filing date: 2019-11-25
Publication date: 2020-05-01
Anticipated expiration: 2039-11-25
Also published as: CN111090507B

Abstract

本发明揭示了一种基于云边融合服务器网络架构的任务调度方法及应用，该方法包括目标从服务器查询本地是否存在与主服务器分配的当前任务对应的完整数据；若是，目标从服务器将当前任务排入其等待队列等待执行；若否，目标从服务器将当前任务排入其预备队列，等待对应的数据完成传输。本发明提供云边融合的服务器网络架构，并通过在其中的边缘计算层配置基于等待队列和预备队列的任务调度机制，可同时结合多个分布在不同地理位置的边缘服务器进行分布式并行计算，实现在边缘计算层处理多个用户提交的作业时的低延时响应的目标，优化了服务器网络的数据处理效率。

Description

基于云边融合服务器网络架构的任务调度方法及应用

技术领域

本发明属于移动边缘计算技术领域，具体涉及一种基于云边融合服务器网络架构的任务调度方法，以及应用该方法构建的服务器网络。

背景技术

用户移动设备及应用程序革命性的发展，带来的是海量边缘数据的产生和高实时性的需求。由于用户设备(User Equipment，UE)的能量和计算资源有限，传统服务器网络难以在短时间内处理计算大量的任务。

通常，我们可以利用云计算平台来存储数据和计算，云计算可以处理计算大量的任务。在集中式云计算模式下，作业处理过程一般为：先应用将数据传送到云计算中心，云中心处理后将数据处理结果返回给用户。云平台能存储很多的数据，处理对实时性要求不高的作业，方便全局查询对比与分析。虽然云计算可以处理庞大的数据量任务，满足用户对海量数据处理的需求，但是也存在着对数据处理实时性不高的缺陷，不能满足用户对数据处理的高实时性需求，

因此，边缘计算应运而生，凭借其位于网络边缘、接近移动终端设备的特点，降低数据传输时延，能更好地支撑本地业务的实时性。由于得到学术界和工业界的关注，边缘计算在万物互联服务上的进展迅速，其中，边缘计算的其中一个分支为移动边缘计算(MobileEdge Computing，MEC)。MEC接近产生数据的设备，分布部署在网络边缘附近，数据直接在边缘侧就能得到处理，避免了数据传输产生的时延。此外，移动边缘计算提供给终端设备的服务主要是由具有计算和存储功能的边缘服务器提供的，终端设备用来获得感知数据，对数据进行聚合等处理以减小传输时所需要的流量。随后，通过计算任务卸载技术将设备上需要大量计算资源的任务卸载到附近的MEC服务器上。计算任务从UE卸载到MEC服务器上，由于设备只需要耗费少量的传输与计算能量，因此设备的能耗将会大大减小，从而延长UE的使用寿命；同时MEC服务器的计算能力也比UE的CPU更加强大，任务的响应时间更短。利用MEC技术来处理边缘设备的海量数据与计算密集型任务能达到低延时、低能耗和高可靠的目标，弥补了UE自身能力与资源的不足。

仅仅利用云计算平台存储数据和计算，在面对海量用户设备的连接、爆炸式增长的数据流量及用户对服务质量越来越高的需求，集中式云计算暴露出其存在的问题。首先，实时性不够。由于云计算平台往往距离终端用户较远，数据传送到云中心的这个过程将会产生较大的传输时延。另外，云端与边缘设备之间传输带宽不足。边缘设备的实时数据是巨大的，将全部数据上传需要较大的网络带宽资源，而核心网络的带宽往往不足以快速地传输大量的数据。同时，由于云平台任务负载过多，数据需要排队等待一定的时间才能处理。这些问题，都会导致作业的总响应时延较大，无法满足实时作业对低时延需求，从而无法给用户提供优良的服务质量。

同样地，MEC中的计算卸载技术对比集中式云计算确实在处理本地任务的时候，响应时延更低。但UE在计算卸载决策过程中亦需要耗费计算资源，且UE与MEC之间协调时通信会造成过多开销。此外，考虑到MEC服务器的资源有限，计算能力与云中心服务器相差较弱，单个MEC服务器可能无法在短时间内处理多个UE提交的作业，而MEC服务器负载过重可能会使MEC技术失去其在传输时延上的优点。

发明内容

本发明一实施例提供一种基于云边融合服务器网络架构的任务调度方法及应用，用于解决现有技术中云边融合服务器网络协调调度机制效率较低的问题，该方法包括：

目标从服务器查询本地是否存在与主服务器分配的当前任务对应的完整数据；若是，

目标从服务器将当前任务排入其等待队列等待执行；若否，

目标从服务器将当前任务排入其预备队列等待对应的数据完成传输。

一实施例中，所述方法还包括：

在预备队列中的任务对应的数据传输完成后，目标从服务器将该任务排入等待队列等待执行；和/或，

在等待队列中的队头任务执行完成后，目标从服务器将该任务弹出等待队列，并告知主服务器。

一实施例中，当前任务为主服务器在接收到的作业中获取的当前可用调度阶段任务。

本申请还提供一种基于云边融合服务器网络架构的任务调度方法，所述方法包括：

主服务器将当前任务分配给等待时延最短的目标从服务器；

目标从服务器将当前任务排入其等待队列等待执行；若否，

一实施例中，主服务器将当前任务分配给等待时延最短的目标从服务器，具体包括：

主服务器遍历边缘服务器集合和当前任务的前驱节点，以查找所述边缘服务器集合中是否存在与当前任务的前驱节点服务器位置关联的边缘服务器；若否，

主服务器计算当前任务的前驱任务与当前任务之间的中间数据，从前驱节点服务器传输到边缘服务器集合中各边缘服务器的最大传输时间；

主服务器根据所述最大传输时间，确定面向当前任务等待时延最短的目标从服务器。

一实施例中，主服务器根据所述最大传输时间，确定面向当前任务等待时延最短的目标从服务器，具体包括：

主服务器计算在当前任务的数据传输时间内，边缘服务器集合中各边缘服务器的预备队列中排入等待队列的任务的数量，从而确定当前任务分配到各边缘服务器执行所需的等待时延；

将所需等待时延最短的边缘服务器作为面向当前任务的目标从服务器；其中，

所述当前任务的等待时延为最大传输时间内，边缘服务器集合中各边缘服务器从预备队列中排入等待队列的各任务的执行时间、等待队列中各任务的执行时间、以及当前任务对应完整数据的最大传输时间之和。

一实施例中，所述方法还包括：

一实施例中，所述方法还包括:

在当前可用调度阶段任务全部执行完毕后，从下一可用调度阶段中获取任务。

本申请还提供一种服务器网络，包括用户终端层、边缘计算层和云计算层，所述边缘计算层应用如上所述的任务调度方法。

与现有技术相比，本发明提供云边融合的服务器网络架构，并通过在其中的边缘计算层配置基于等待队列和预备队列的任务调度机制，可同时结合多个分布在不同地理位置的边缘服务器进行分布式并行计算，实现在边缘计算层处理多个用户提交的作业时的低延时响应的目标，优化了服务器网络的数据处理效率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请一实施方式基于云边融合服务器网络架构的任务调度方法的流程图；

图2是本申请一实施方式云边融合服务器网络的架构图法；

图3是本申请一实施方式基于云边融合服务器网络架构的任务调度方法中正在运行的DAG作业样例图；

图4是本申请一实施方式基于云边融合服务器网络架构的任务调度方法的系统示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

参图1，介绍本申请基于云边融合服务器网络架构的任务调度方法的一具体实施方式。在本实施方式中，该方法包括：

S11、主服务器将当前任务分配给等待时延最短的目标从服务器。

配合参照图2至图4，用户终端通过附近的基站提交作业及上传输入数据，边缘服务器可以通过基站接收这些作业和数据。我们将接收到作业和数据的服务器作为主服务器，而其它边缘服务器则作为从服务器。

用户提交的作业中通常包括多个的任务，而每个边缘服务器中，都设置一个等待队列和预备队列，等待队列为边缘服务器正在等待执行的任务队列，而预备队列则是分配到边缘服务器但是其输入数据未传输完成的任务队列。在本实施方式中，对各边缘服务器中正在运行的任务设定以下规则：①非抢占，正在运行的任务在结束之前无法被打断；②非过载，一个边缘服务器在任何时刻都只能运行一个任务，多个任务不能同时在一个边缘服务器中运行；③每个任务任何时刻都只能在一个边缘服务器上运行。

为了寻找等待时延最短的目标从服务器，本实施方式中：

首先，主服务器遍历边缘服务器集合和当前任务的前驱节点，以查找边缘服务器集合中是否存在与当前任务的前驱节点服务器位置关联的边缘服务器。这里的位置关联可以是指服务器位置相同，如果服务器位置相同，则说明当前任务的前驱节点服务器可以本地传输当前任务和相关数据，其通常具有最短的等待时延。

再者，若边缘服务器集合中没有与当前任务的前驱节点服务器位置关联的边缘服务器。则主服务器计算当前任务的前驱任务与当前任务之间的中间数据，从前驱节点服务器传输到边缘服务器集合中各边缘服务器的最大传输时间。

最后，主服务器根据所述最大传输时间，确定面向当前任务等待时延最短的目标从服务器。

需要说明的是，当前任务的前驱任务数量可能不止一个，因此主服务器计算的实质上是当前任务的前驱任务集合中所有的前驱任务传输中间数据的最大传输时间。具体地，主服务器计算在当前任务的数据传输时间内，边缘服务器集合中各边缘服务器的预备队列中排入等待队列的任务的数量，从而确定当前任务分配到各边缘服务器执行所需的等待时延；其中，当前任务的等待时延为最大传输时间内，边缘服务器集合中各边缘服务器从预备队列中排入等待队列的各任务的执行时间、等待队列中各任务的执行时间、以及当前任务对应完整数据的最大传输时间之和。

在确定当前任务分配到边缘服务器集合中各边缘服务器执行所需的等待时延后，选取其中面向当前任务所需等待时延最短的边缘服务器作为面向当前任务的目标从服务器。

S12、目标从服务器查询本地是否存在与主服务器分配的当前任务对应的完整数据。若是，执行步骤S13；若否，执行步骤S14。

S13、目标从服务器将当前任务排入其等待队列等待执行；若否，

S14、目标从服务器将当前任务排入其预备队列等待对应的数据完成传输。

通过在目标从服务器中分出等待队列和预备队列，保证任务在执行时都具有完整的相应数据，避免执行任务时再等待数据传输而造成服务器资源的浪费。

对于本实施方式而言，在预备队列中的任务对应的数据传输完成后，目标从服务器会将该任务排入等待队列等待执行；以及，在等待队列中的队头任务执行完成后，目标从服务器将该任务弹出等待队列，并告知主服务器。

示范性地，以主服务器接收到的任务为DAG作业为例，DAG作业通常分成多个的阶段(stage)，下层的阶段对上层的阶段有依赖关系，必须等到上层阶段的全部任务完成后下一层的阶段任务才能开始调度。因此，当前任务也只能为主服务器在接收到的作业中获取的当前可用调度阶段任务。

在等待队列中的最后一个任务弹出并告知主服务器后，相当于告知主服务器当前可用调度阶段任务全部执行完毕，此时DAG作业中下一层的阶段任务变为新的可用调度阶段，主服务器继续在该新的可用调度阶段中获取任务，并按照步骤S11的方式分配从服务器，被分配到任务的从服务器按照步骤S12至S14的顺序继续执行，直至整个作业的完成。

以上的实施方式都是以主服务器和从服务器协作的方式，对本申请的任务调度机制进行说明。可以看出的是，在本发明任务调度机制的实施方式中，主服务器负责将作业中的任务分配给从服务器，从服务器根据对应数据的完整性，再将分配到的任务排入不同的队列，以实现任务执行的有序和高效性，避免服务器资源被无效占用。对于不同端侧的视角而言：

①主服务器端的任务调度工作主要是针对获取的任务选择调度合适(等待时延最短)的从服务器；

②从服务器端的任务调度工作主要是针对分配到的任务在等待队列和预备队列之间的调度。

因此，对于本申请的任务调度方法而言，分别涵盖了主服务器端和从服务器端的调度机制，虽然上述的说明中以主服务器端和从服务器端协作的方式对本申请的实施方式进行解释，但可以理解的是，任何单独涵盖上述主服务器端或从服务器端的任务调度机制方法也都应当属于本申请的保护范围之内。

本申请还介绍一种服务器网络，包括用户终端层、边缘计算层和云计算层。

用户终端层主要包括移动智能手机、平板电脑、笔记本电脑等移动设备，这些设备为边缘计算层网络的服务发起者，也是服务的享受者。边缘计算层由基站及具有内置IT服务的边缘服务器(地理分布式服务器或虚拟服务器)构成，主要用于处理网络边缘的本地作业，利用服务器上的资源，可以满足用户对低时延、位置感知等方面的需求。此外，边缘服务器上还具有通信资源，方便其利用蜂窝网络(如基站)或WiFi接入点与用户终端、云端或者其它服务器通信。同时，边缘服务器还可利用其内部的存储能力，根据过去的作业处理经验，预先从云端缓存与用户相关的内容，不仅可进一步降低延时，还能提供相关的服务，将边缘智能化。云计算层提供了强大的存储能力与计算能力，主要用于海量数据的存储与数据的整合等。

在本实施方式中，该服务器网络的边缘计算层应用上述实施方式中介绍的任务调度方法，以优化云边融合架构下的任务调度效率，提高服务器网络的数据处理效率，保证作业执行的高效性。由于不涉及对服务器网络的其它改进，这里不再对服务器网络的其它方面做进一步的赘述。

为了更好地理解本申请的技术方案，以下结合具体的应用场景(云边融合的边缘计算网络架构MS-CE)对本申请做进一步的说明。

MS-CE中的任务调度机制(task schedule base queue，TSBQ)，总体是考虑各个服务器的负载情况和传输时延，将作业中多个计算密集的任务合理地在各个边缘服务器中调度。任务运行需要两个必要条件：①服务器提供计算资源；②任务的运行需要相应的输入数据。

(1)准备工作

TSBQ任务是一个集群架构，由一个主服务器master和多个从服务器slave组成。一台边缘服务器作为master，执行任务的同时还可进行任务调度；其余边缘服务器作为slave。

每个边缘服务器中，都有一个等待队列TQ和预备队列SQ，TQ为边缘服务器正在等待执行的任务队列，SQ为分配到边缘服务器的任务但其输入数据未传输完成的任务队列。是否具有计算资源以及是否具有完整的输入数据是将任务分队列的依据。用户提交作业job，每个job分成多个task任务。

TQ中每个任务的信息可用一个三元组表示(job_id,task_id,ptime)。job_id为该任务所属的作业，task_id表明该任务在该作业中的序号，ptime为该任务的处理时间(已知)。SQ中存放了等待数据到来的任务信息，SQ中每个任务的信息可用一个四元组表示(job_id,task_id,ptime,atime)。前三个变量都与TQ相同，第四个变量atime为该任务所需的中间数据全部到达服务器的时间。

DAG作业特性：整个DAG分成多个阶段stage，下层的stage对上层的stage有依赖关系，必须等到上层stage的全部任务完成后下一层的stage任务才能开始调度。当前阶段中的任务可以运行的stage为可调用available，下层的所有stages都为不可调用unavailable。当可调用阶段中的任务全部完成后，下一层stage变为可调用，master为该stage中的全部任务分配边缘服务器。图3为正在运行的DAG作业样例。

(2)任务调度

0)用户终端向附近基站提交DAG作业及上传输入数据，边缘服务器通过基站接收到作业和数据，该服务器将作为master进行任务调度，其它边缘服务器作为salve。

1)master根据每个服务器中的TQ排队情况和数据传输时延，为当前阶段可以执行的任务分配最合适(等待时延最短)的边缘服务器。

①获取到作业中当前可调用阶段中的任务ti，循环遍历边缘服务器集合S，找出任务ti最合适的服务器。

②对任务ti的前驱节点进行遍历，若前驱节点的服务器位置与当前循环的服务器S(s)不一致，则计算tp与ti之间中间数据Weight[tp,ti]从tp.pos(前驱任务tp的执行位置)传输到S(s)的传输时延，找出最大的传输时延transmiss。

③计算出边缘服务器S(s)中的SQ队列在任务ti数据传输的时间内(time+transmiss)有多少任务进入到了TQ等待执行，从而计算出任务ti分配到服务器S(s)上需要等待多长时间才能执行。最后，挑选出对于ti等待时延最短的服务器。

2)每个边缘服务器接收到master分配的任务后，先查看本地是否有全部输入数据。

①若没有数据或数据缺失，则该任务先进入SQ等待数据的到来；

②已有全部输入数据，任务直接进入TQ等待时间片去执行。

3)边缘服务器中SQ的任务的输入数据全部接收到后，任务从SQ弹出，进入TQ等待执行。

4)边缘服务器的TQ的队头任务执行完后，从队列中弹出，并告知master该任务已经执行完毕。

每当master接收到当前阶段全部已分配任务的完成信息后，继续执行2)-4)步的操作，直至整个作业的完成。

本发明提出的云边融合的边缘计算服务器网络架构，弥补了仅在云计算或是仅在移动边缘计算下的缺陷，有机地将用户设备、边缘设备以及远端的云平台结合在一起，能够结合边缘服务器的高响应性以及云平台强大的存储和计算能力，提高用户的服务质量体验。

另外，本发明还提出在在该云边融合服务器网络架构中基于队列的任务调度机制，使用基于队列的任务调度机制的同时结合多个分布在不同地理位置的边缘服务器来进行分布式并行计算，可以实现在边缘计算层处理多个用户提交的作业的同时，响应低服务器网络的延时。

在一个典型的配置中，计算机包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带、磁盘存储、量子存储器、基于石墨烯的存储介质或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在本说明书一个或多个实施例使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本说明书一个或多个实施例可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书一个或多个实施例范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

以上所述仅为本说明书一个或多个实施例的较佳实施例而已，并不用以限制本说明书一个或多个实施例，凡在本说明书一个或多个实施例的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例保护的范围之内。

Claims

1.一种基于云边融合服务器网络架构的任务调度方法，其特征在于，所述方法包括：

目标从服务器将当前任务排入其等待队列等待执行；若否，

2.根据权利要求1所述的任务调度方法，其特征在于，所述方法还包括：

3.根据权利要求1或2所述的任务调度方法，其特征在于，当前任务为主服务器在接收到的作业中获取的当前可用调度阶段任务。

4.一种基于云边融合服务器网络架构的任务调度方法，其特征在于，所述方法包括：

主服务器将当前任务分配给等待时延最短的目标从服务器；

目标从服务器将当前任务排入其等待队列等待执行；若否，

5.根据权利要求4所述的任务调度方法，其特征在于，主服务器将当前任务分配给等待时延最短的目标从服务器，具体包括：

6.根据权利要求5所述的任务调度方法，其特征在于，主服务器根据所述最大传输时间，确定面向当前任务等待时延最短的目标从服务器，具体包括：

7.根据权利要求4所述的任务调度方法，其特征在于，所述方法还包括：

8.根据权利要求7所述的任务调度方法，其特征在于，当前任务为主服务器在接收到的作业中获取的当前可用调度阶段任务。

9.根据权利要求8所述的任务调度方法，其特征在于，所述方法还包括:

10.一种服务器网络，其特征在于，包括用户终端层、边缘计算层和云计算层，所述边缘计算层应用如权利要求1至9任一项所述的任务调度方法。