CN112148454A

CN112148454A - 一种支持串行和并行的边缘计算方法及电子设备

Info

Publication number: CN112148454A
Application number: CN202011055436.2A
Authority: CN
Inventors: 兰毅; 张锐; 曾令侯
Original assignee: Planetary Computing Power Shenzhen Technology Co ltd
Current assignee: Planetary Computing Power Shenzhen Technology Co ltd
Priority date: 2020-09-29
Filing date: 2020-09-29
Publication date: 2020-12-29

Abstract

本发明提出了一种支持串行和并行的边缘计算方法及电子设备，所述方法为：获取任务就绪队列中列首的待执行任务；确定执行该待执行任务所需的边缘计算节点数n；根据该待执行任务所需的边缘计算节点数n对该任务进行拆分n个子任务；根据边缘计算调度算法确定最优的n个边缘计算节点；如果该待执行任务为串行任务，则将该待执行任务的子任务及节点进行索引排序，依次执行；如果该待执行任务为并行任务，则将该待执行任务的子任务根据节点的信息，投放到对应的边缘节点中。该边缘计算方法通过串并行方案的设置可以有效平坦每台计算节点任务运行效率，提高节点生命周期同时，为用户带来了更好的使用体验以及服务。

Description

一种支持串行和并行的边缘计算方法及电子设备

技术领域

本发明涉及计算机领域，具体涉及一种支持串行和并行的边缘计算方法及电子设备。

背景技术

边缘计算是指在靠近物、用户、数据源的一侧，采用网络、计算、存储等核心能力，为用户提供更低成本、更快速、更实时、更安全的一体化开放平台。其应用在云端发起，其逻辑在边缘侧执行，其数据在终端产生，从而满足行业在实时业务、应用智能、安全与隐私保护等方面的需求。

边缘计算是一种分布式运算的架构，通过选择最合适的边缘节点，将大型服务、数据和计算加以分解切割成更小、更容易管理的部分，分散到边缘节点去执行，最后形成计算结果。

一般来说，边缘计算采用“大二层”结构，包括调度框架和执行框架两个部分，调度是中心节点，执行是广泛分布在不同地域、不同类型、不同规模的边缘计算节点ECN。其中，任务执行方面，它包括任务的串行以及并行，所谓串行：即任务拆分成多个小任务后，需要当前一个任务完成后再执行下一个拆分任务，而并行：则是将多个拆分任务同时下发到节点运行，它主要实现如下：如何满足用户任务在空闲节点比较多的情况下实现高效资源调度及整合的能力，合理采用任务分解提高任务训练并行效率。

发明内容

为了克服上述现有技术中存在的缺陷，本发明的目的是提供一种局域网的基于边缘计算的调度算法及系统。

为了实现本发明的上述目的，本发明提供了一种支持串行和并行的边缘计算方法，包括以下步骤：

获取任务就绪队列中列首的待执行任务；

确定执行该待执行任务所需的边缘计算节点数n；

根据该待执行任务所需的边缘计算节点数n对该任务进行拆分n个子任务；

根据边缘计算调度算法确定最优的n个边缘计算节点；

如果该待执行任务为串行任务，则将该待执行任务的子任务及其对应的边缘计算节点进行索引排序，将排序最前的子任务下发到对应的边缘节点中，并将其余的任务放入等待投放队列中；监听已下发子任务的运行状态，当状态为运行完毕时，从等待队列中投放另一个子任务，直至所有子任务完成；

如果该待执行任务为并行任务，则将该待执行任务的子任务根据节点的信息，投放到对应的边缘节点中，待所有子任务完成后，整合返回的节点数据；

待当前任务执行完成后返回任务就绪队列的列首，获取新的待执行任务。

该边缘计算方法通过串并行方案的设置可以有效平坦每台计算节点任务运行效率，提高节点生命周期同时，为用户带来了更好的使用体验以及服务。

该边缘计算方法的优选方案：所述边缘计算节点数n的确定方法为：

当用户指定节点数u(z)≠初始值时，根据u(z)数量拆分任务数量，得到边缘计算节点数n；

当用户指定节点数u(z)＝初始值时，根据全网空闲情况及任务类型计算得到边缘计算节点数n，且n>＝1，计算方法为：

计算每台边缘计算节点服务能力值：第i台边缘计算节点服务能力值S[i]＝(服务器CPU核数*P1+服务器GPU核数*P2+内存*P3+磁盘剩余容量*P4)*(1-节点接受任务数/全网任务数)*P[i]，0<i<m，m为边缘计算节点的总数，P1、P2、P3、P4是权重系数，P1+P2+P3+P4＝1，其中P[i]为第i台边缘计算节点当前的综合指数，P[i]＝∑Fn(0<n<N)，Fn为当前边缘计算节点的第n个计算场景的计算能力；

计算当前系统的边缘计算整体服务能力值：边缘计算整体服务能力值S[I]＝∑S[i](0<i<m)；

任务需要的边缘计算节点数量n＝d+[(1+S[I])/k]，其中，d为初始值，k为系统边缘计算整体服务能力基本水平值，为常数。

确定最优的n个边缘计算节点的方法为：

计算每台边缘计算节点在F[n]计算场景方面的当前服务能力值：第i台边缘计算节点在F[n]计算场景方面的当前服务能力值S[in]＝(服务器CPU核数*P1+服务器GPU核数*P2+内存*P3+磁盘剩余容量*P4)*(1-节点接受任务数/全网任务数)*(P[i]*F[n])，F[n]指第n个计算场景，对第i台边缘计算节点在F[n]计算场景方面的当前服务能力值进行从大到小排序，并根据任务需要的边缘计算节点数量n依次选取边缘计算节点并得到任务需要的边缘计算节点列表。

该优选方案根据边缘计算节点的接受任务数量进行分配当前任务所需要的边缘计算节点数n，避免了马太效应过大导致任务分配不公平的问题。

该边缘计算方法的优选方案：在获取任务队列中列首的待执行任务之前先将任务按优先级和时间顺序排列成任务就绪队列，具体为：

获取边缘计算网络中的计算任务量X、计算场景数N,确定每个计算任务的优先级，所述X和N为正整数；

将所述X个计算任务根据优先级高低分配到不同优先级等级的队列中，不同计算场景的任务不同队列，并按时间先后顺序排列，形成Y个不同优先级等级的任务就绪队列，所述Y为大于1的正整数；每个任务就绪队列任务依次轮询调用。

监听任务执行过程，每次计算时间不超过设定的计算周期，如在设定的计算周期内，存在未完成的任务，则暂停该任务，并将其放到该优先级等级的就绪队列末，然后选取下一优先级等级列首的任务执行，如此将每个优先级队列任务依次轮询调用。

在先来先服务和优先级调度算法基础上添加了时间周期轮转，并且将不同场景的计算任务不同队列，区分了任务类型，公平的、轮流的为各个任务服务。让每个任务在一定时间间隔内都可以得到响应，使得任务不会长时间阻塞，确保所有任务得到正常执行。

本发明还提出了一种电子设备，包括存储器和处理器，所述处理器和所述存储器通过总线完成相互间的通信，所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如上述的方法。该电子设备降低了任务运行时间，通过串并行方案的设置可以有效平坦每台边缘计算节点任务运行效率，提高节点生命周期同时，为用户带来了更好的使用体验以及服务。

本发明的有益效果：

1、通过数学公式量化了边缘计算节点的服务能力，保证用户任务选择最优的节点来执行。

2、不同的场景的计算任务不同队列，任务不会长时间阻塞，确保所有任务得到正常执行。

3、根据全网任务请求数量，有效控制并发间隔时间，保证了不在同一时刻进行大量的并发操作。

4、依据当前的空闲节点情况，有效利用了全网算力资源，并为用户节省大量时间。

5、融合了先到先服务、任务优先级和时间周期轮转等多个因素，确保不会阻塞其他任务。

6、降低了任务运行时间，通过串并行方案的设置可以有效平坦每台计算节点任务运行效率，提高节点生命周期同时，为用户带来了更好的使用体验以及服务。

本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：

图1是边缘计算方法的流程图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。

在本发明的描述中，需要理解的是，术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。

在本发明的描述中，除非另有规定和限定，需要说明的是，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是机械连接或电连接，也可以是两个元件内部的连通，可以是直接相连，也可以通过中间媒介间接相连，对于本领域的普通技术人员而言，可以根据具体情况理解上述术语的具体含义。

如图1所示，本发明提供了一种支持串行和并行的边缘计算方法的实施例，具体为该方法包括以下步骤：

获取任务就绪队列中列首的待执行任务。

这里的任务就绪队列可以是系统默认的任务就绪队列，当然也可以是将任务按优先级和时间顺序排列成而成的任务就绪队列，该排列方法具体为：

获取边缘计算网络中的计算任务量X、计算场景数N,确定每个计算任务的优先级，所述X和N为正整数；将所述X个计算任务根据优先级高低分配到不同优先级等级的队列中，不同计算场景的任务不同队列，并按时间先后顺序排列，形成Y个不同优先级等级的任务就绪队列，所述Y为大于1的正整数；每个任务就绪队列任务依次轮询调用。

获取了待执行任务后，确定执行该待执行任务所需的边缘计算节点数n。

这里边缘计算节点数n的确定方法优选为：

当用户指定节点数u(z)≠初始值时，根据u(z)数量拆分任务数量，得到边缘计算节点数n，初始值为正整数，通常取1；当用户指定节点数u(z)＝初始值时，根据全网空闲情况及任务类型计算得到边缘计算节点数n，且n>＝1，计算方法为：

计算每台边缘计算节点服务能力值：第i台边缘计算节点服务能力值S[i]＝(服务器CPU核数*P1+服务器GPU核数*P2+内存*P3+磁盘剩余容量*P4)*(1-节点接受任务数/全网任务数)*P[i]，0<i<m，m为边缘计算节点的总数，P1、P2、P3、P4是权重系数，P1+P2+P3+P4＝1，其中P[i]为第i台边缘计算节点当前的综合指数，P[i]＝∑Fn(0<n<N)，Fn为当前边缘计算节点的第n个计算场景的计算能力。

支持不同计算场景的边缘计算节点综合指数不一样，一般来说，专业性越强综合指数值越低。假如深度学习是F1＝0.2，增强学习是F2＝0.2，生成对抗是F3＝0.15，物联网是F4＝0.3,大数据是F5＝0.35，云渲染是F6＝0.2，VASP是F7＝0.1，如果第i台节点所有应用场景都支持，那么该节点综合指数为P[i]＝∑Fn(0<n<N)＝1.5。

计算当前系统的边缘计算整体服务能力值：边缘计算整体服务能力值S[I]＝∑S[i](0<i<m)。

任务需要的边缘计算节点数量n＝d+[(1+S[I])/k]，其中，d为初始值，初始值可以是系统默认分配边缘计算节点数量，k为系统边缘计算整体服务能力基本水平值，为常数。

根据该待执行任务所需的边缘计算节点数n对该任务进行拆分n个子任务。

根据边缘计算调度算法确定最优的n个边缘计算节点。

这里确定最优的n个边缘计算节点的方法优选为：

如果该待执行任务为串行任务，则将该待执行任务的子任务及其对应的边缘计算节点进行索引排序，将排序最前的子任务下发到对应的边缘节点中，并将其余的任务放入等待投放队列中；监听已下发子任务的运行状态，当状态为运行完毕时，从等待队列中投放另一个子任务，直至所有子任务完成。

例如，AI对流媒体的训练，由于训练流媒体所用的训练数据是不可拆分的且只能串行训练，无法采用并行的模式多节点同步训练，因此如果执行该任务，则为串行任务，将该训练流媒体的任务的子任务及其对应的边缘计算节点进行索引排序，将索引为0的下发到对应的边缘节点中，并将其余的任务放入等待投放队列q中；监听已下发任务的运行状态，当状态为1时(即运行完毕)，并从等待队列中投放另一个任务。

如果该待执行任务为并行任务，则将该待执行任务的子任务根据节点的信息，投放到对应的边缘节点中，待所有子任务完成后，整合返回的节点数据。

例如，AI对图片识别的训练，由于对图片识别的训练可以对源数据进行拆分，且可并行训练等，因此如果执行该任务，则优选为并行任务，将对图片识别的训练的子任务根据节点的信息，投放到对应的边缘节点中，待所有子任务完成后，整合返回的节点数据。

待当前任务执行完成后返回任务就绪队列的列首，获取新的待执行任务。这里监听任务执行过程，每次计算时间不超过设定的计算周期，如在设定的计算周期内，存在未完成的任务，则暂停该任务，并将其放到该优先级等级的就绪队列末，然后选取下一优先级等级列首的任务执行，如此将每个优先级队列任务依次轮询调用。待最后一个优先级列首的任务被执行后，回到第一个优先级的列首选取任务执行。

具体计算时，执行每个优先级队列最前面的任务，每个优先级队列任务依次轮询调用，若当前全网空闲节点不支持该任务类型或无法满足当前任务要求的将自动跳转到下一个优先级队列进行选取，直到当前有可用节点满足任务需求位置或用户主动取消任务为止。

本实施例针对串行和并行的设计在先来先服务和优先级调度算法基础上，添加了对部分任务的个性定制，对不同的计算场景采用取不同的策略，提高了训练效率，并大大减少了训练时间，整合了全网空闲节点，大大利用了边缘计算的算力资源。

根据本方法的一种优选实施方式，不同优先等级队列的任务执行时间周期相同或者不同或不完全相同。通过设置任务执行时间Ty的长短，可以根据任务量动态调整不同场景任务的执行时间，提高效率。根据本发明的另一种优选实施方式，不同优先等级队列的任务执行时间周期的长短与优先级等级高低成正比。优先等级高，执行时间长，保证优先级高的任务先执行完成。根据本发明的一种优选实施方式，不同场景的计算任务的优先级等级不同。例如：将深度学习、加强学习设置为一级，将生成对抗、物联网设置为二级，将大数据、云渲染、VASP设置为三级，技术越高优先级越高。

本申请还提供了一种电子设备的实施例，该电子设备包括存储器和处理器，所述处理器和所述存储器通过总线完成相互间的通信，所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如上述的方法，降低了任务运行时间，通过串并行方案的设置可以有效平坦每台计算节点任务运行效率，提高节点生命周期同时，为用户带来了更好的使用体验以及服务。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。

Claims

1.一种支持串行和并行的边缘计算方法，其特征在于，包括以下步骤：

获取任务就绪队列中列首的待执行任务；

确定执行该待执行任务所需的边缘计算节点数n；

根据边缘计算调度算法确定最优的n个边缘计算节点；

2.根据权利要求1所述的支持串行和并行的边缘计算方法，其特征在于，所述边缘计算节点数n的确定方法为：

3.根据权利要求1所述的支持串行和并行的边缘计算方法，其特征在于，确定最优的n个边缘计算节点的方法为：

4.根据权利要求1所述的支持串行和并行的边缘计算方法，其特征在于，

在获取任务队列中列首的待执行任务之前先将任务按优先级和时间顺序排列成任务就绪队列，具体为：

5.根据权利要求4所述的支持串行和并行的边缘计算方法，其特征在于，

6.一种电子设备，其特征在于，包括存储器和处理器，所述处理器和所述存储器通过总线完成相互间的通信，所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如权利要求1至4任一所述的方法。