CN111625354B - 一种边缘计算设备算力的编排方法及其相关设备 - Google Patents

Abstract

本发明涉及一种边缘计算设备算力的编排方法及相关设备，该方法应用于云端服务器，方法包括：获取待下发模型配置的边缘计算设备的算力能力ID；根据算力能力ID获取对应边缘计算设备算力的实时状态信息；实时状态信息包括：支持模型类型及级联方式、资源占用情况和工作状态等；根据支持模型类型及级联方式设计对应的模型及模型级联框架，打包并发送至对应边缘计算设备，快速构建边缘计算算力应用环境。采用上述方法或设备能够在云端进行边缘计算设备算力的模型及模型级联框架的设计构建，仅通过云端服务器的简单管理配置操作，即可实现将模型及模型级联框架部署至指定边缘计算设备，极大的提高边缘计算部署效率及构建边缘计算算力应用环境的速度。

Description

一种边缘计算设备算力的编排方法及其相关设备

技术领域

本发明涉及边缘计算技术领域，具体涉及一种边缘计算设备算力的编排方法及其相关设备。

背景技术

随着万物互联时代的到来，网络中的设备变得复杂多样，并且数量急剧增加。不可避免的，在网络中传输的数据量也在急剧增加。在云计算时代，所有的数据存储与计算均在云端服务器执行，这带来便利的同时也产生了很多需求，比如在面对大数据量的传输时，网络的带宽不足；在处理时效性较高的任务时，数据在网络的传输和云端的计算存在一定的延迟，实时性不足；存在云端数据的安全性和隐私性问题。在这种情况下，边缘计算应运而生。边缘计算是一种分散式运算的架构，它将应用程序、数据资料与服务的运算，由网络中心节点分往网络逻辑的边缘节点去处理；将原本完全由中心节点处理的大型服务加以分解，切割成更小与更容易管理的部分，分散到边缘节点去处理。边缘节点由于更接近于用户终端装置，相对于云端可以加快资料的处理与传送速度，减少延迟。

目前，边缘计算逐步得到各行各业的广泛重视，并开始在多类应用场景下开花结果。然而，在边缘计算发展的过程中，在编程模型、软硬件选型、基准程序与标准、动态调度等方面均存在不足，这大幅影响了其普及推广。同时，随着智能边缘计算的快速兴起，内嵌智能分析算力的边缘计算硬件占比越来越高。开发人员在应用边缘计算设备算力进行开发时，需要适应不同的边缘计算设备的开发环境。而随着不同边缘计算硬件种类的增多，开发人员适应不同边缘计算设备的方式明显不适应边缘计算的发展，因此针对不同边缘计算设备的边缘计算算力实现可编程性则变得尤为重要。然而，目前尚无完整、有效及通用的方案能解决上述问题。

发明内容

有鉴于此，本发明提供一种边缘计算设备算力的编排方法及其相关设备。

为实现以上目的，本发明采用如下技术方案：

一种边缘计算设备算力的编排方法，应用于云端服务器，所述方法包括：

获取待下发模型配置的边缘计算设备的算力能力ID；所述算力能力ID为云端服务器预先配置给具有边缘算力的所述边缘计算设备；

根据所述算力能力ID获取对应边缘计算设备算力的实时状态信息；所述实时状态信息包括：支持模型类型及模型级联方式；

根据所述支持模型类型及级联方式设计对应的模型及模型级联框架；

打包并发送所述模型及模型级联框架至对应所述边缘计算设备，构建边缘计算算力应用环境。

可选的，所述获取待下发模型配置及模型级联框架的边缘计算设备的算力能力ID之前，还包括：

接收所述边缘计算设备发送的鉴权请求指令；所述鉴权请求指令包括所述算力能力ID；

根据所述算力能力ID确定所述边缘计算设备算力的运行能力；

根据所述运行能力确定鉴权结果并返回至对应的所述边缘计算设备。

可选的，所述实时状态信息还包括：实时工作状态和资源占用状况；

还包括：

根据所述实时工作状态和所述资源占用状况分配对应的待处理业务至所述边缘计算设备。

可选的，还包括：

设定周期内接收并存储所述边缘计算设备发送的自身的资源占用状态；

根据所述资源占用状态动态调整分配的待处理业务。

一种边缘计算设备算力的编排方法，应用于内嵌智能分析算力的边缘计算设备，所述方法包括：

接收云端服务器发送的模型及模型级联框架；

结合所述模型及模型级联框架构建边缘计算算力应用环境。

可选的，还包括：

获取自身的算力能力ID；

基于所述算力能力ID生成鉴权请求指令，并发送至云端服务器进行鉴权；

接收所述云端服务器返回的鉴权结果。

可选的，所述鉴权结果为鉴权成功；

所述接收所述云端服务器返回的鉴权结果之后，还包括：获取所述云端服务器的地址信息；

获取自身算力的实时工作状态及资源占用情况根据所述地址信息发送至所述云端服务器。

一种云端服务器，包括：

第一处理器，以及与所述第一处理器相连接的第一存储器；

所述第一存储器用于存储计算机程序，所述计算机程序至少用于执行上述任一项所述的边缘计算设备算力的编排方法；

所述第一处理器用于调用并执行所述第一存储器中的所述计算机程序。

一种边缘计算设备，包括：

第二处理器，以及与所述第二处理器相连接的第二存储器；

所述第二存储器用于存储计算机程序，所述计算机程序至少用于执行上述任一项所述的边缘计算设备算力的编排方法；

所述第二处理器用于调用并执行所述第二存储器中的所述计算机程序。

一种边缘计算设备算力的编排系统，包括：

如上述所述的云端服务器，和与所述云端服务器通信连接的如上述所述的边缘计算设备。

本申请提供的技术方案可以包括以下有益效果：

本申请中公开了一种边缘计算设备算力的编排方法，该方法应用于云端服务器，包括：获取待下发模型配置的边缘计算设备的算力能力ID；所述算力能力ID为云端服务器预先配置给具有边缘算力的所述边缘计算设备；根据算力能力ID获取对应边缘计算设备的实时状态信息；实时状态信息包括：支持模型类型及模型级联方式；根据支持模型类型及模型级联方式设计对应的模型及模型级联框架；打包并发送模型及模型级联框架至对应边缘计算设备构建边缘计算算力应用环境。上述方法中云端服务器通过算力能力ID识别边缘计算设备，进而获取边缘计算设备算力的实时状态信息，在了解了边缘计算设备所支持的模型类型及模型级联方式后，设计对应的模型及模型级联框架，将该模型及模型级联框架发送至对应的边缘计算设备构建算力应用环境。当进行边缘计算时，算法人员直接应用边缘计算设备上的模型及模型级联框架进行开发即可。采用上述方法，算法人员在不用熟悉指定边缘计算设备软件架构的情况下，仅通过云端服务器的简单管理配置操作，即可实现将模型级联框架部署至指定边缘计算平台，构建能够直接应用的算力应用环境，无需再适应边缘计算设备自身的硬件或软件系统；极大地提高了边缘计算的适应性，提高了边缘计算部署效率及构建边缘计算算力应用环境的速度。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明一实施例提供的边缘计算设备算力的编排方法流程图；

图2是本发明另一实施例提供的边缘计算设备算力的编排方法流程图；

图3是本发明一实施例提供的云端服务器的结构图；

图4是本发明一实施例提供的边缘控制设备的结构图；

图5是本发明一实施例提供的边缘计算设备算力的编排系统的结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将对本发明的技术方案进行详细的描述。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所得到的所有其它实施方式，都属于本发明所保护的范围。

本申请公开一种边缘计算设备算力的编排方法。具体内容如下：

申请中云端服务器包括云端IOT通道管理服务组件、云端业务管理服务组件和云端模型训练组件。其中，云端IOT通道管理服务组件，用于管理不同算力能力ID(Capability_ID)边缘分析设备的注册、认证鉴权及实时运行状态监测；同时，用于衔接、中转来自边缘计算设备的各类主动操作指令。包括但不限于：深度学习模型及模型级联框架加载、卸载；模型线程优先级配置及调度配置等等。

云端业务管理服务组件，为算法人员提供可视化业务编排及动态调度操作配置界面。

云端模型训练组件：获取已标准样本数据集，按需训练并转换成适合端侧部署算法模型。

图1是本发明一实施例提供的边缘计算设备算力的编排方法流程图。参见图1，一种边缘计算设备算力的编排方法，应用于云端服务器，所述方法包括：

步骤101：获取待下发模型配置的边缘计算设备的算力能力ID；算力能力ID为云端服务器预先配置给具有边缘算力的边缘计算设备。基于算力Capability_ID，查询及获取待下发模型配置的边缘计算设备算力。

步骤102：根据算力能力ID获取对应边缘计算设备算力的实时状态信息；实时状态信息包括：支持模型类型及模型级联方式；

步骤103：根据支持模型类型及级联方式设计对应的模型及模型级联框架；在设计模型级联框架时需结合业务需求。

步骤104：打包并发送模型及模型级联框架至对应边缘计算设备构建边缘计算算力应用环境。

步骤101-步骤104由云端业务管理服务组件执行，提供可视化操作配置界面。

在上述方法实施例的基础上，本申请中云端业务管理服务组件还会拉取来自云端模型训练组件训练并转换完毕的深度学习模型，并将该深度学习模型打包发送至边缘计算设备。

上述实施例中算法人员在不用熟悉指定边缘计算平台软件架构情况下，仅通过云端简单管理配置操作，即可实现将算法框架、算法模型部署至指定边缘计算设备，快速构建边缘计算算力应用环境。

在上述实施例的基础上，本申请中实时状态信息还包括：边缘计算设备算力的实时工作状态和资源占用状况；云端业务管理服务组件根据所述实时工作状态和所述资源占用状况分配对应的待处理业务至边缘计算设备。

同时，云端业务管理服务组件还会在设定周期内接收并存储所述边缘计算设备发送的自身算力的资源占用状态；根据所述资源占用状态动态调整分配的待处理业务。

此处，云端业务管理服务组件会根据边缘计算设备的算力的实时工作状态和资源占有情况进行业务分配，同时还会在设定周期内更新边缘计算设备的算力资源占用状态，以此调整分配至边缘计算设备算力的待处理业务。本实施例中通过结合边缘计算设备算力的工作状态和资源占有情况进行业务分配，同时还对边缘计算设备算力的资源占用状态进行监测，以此实现边缘计算设备算力的动态监测及调控，提高整体系统性能，防止出现计算任务调度到一个系统任务过载的边缘计算设备上。

在上述实施例的基础上，本申请中云端服务器的云端IOT通道管理服务组件还执行以下操作：

接收边缘计算设备发送的鉴权请求指令；鉴权请求指令包括算力Capability_ID；

根据算力Capability_ID确定边缘计算设备算力的运行能力。例如：了解边缘计算设备自身算力的数据处理能力，该边缘计算设备算力具备处理哪种数据的能力等。

根据运行能力确定鉴权结果并返回至对应的边缘计算设备。

云端IOT通道管理服务组件，响应及管理来自所有算力Capability_ID的注册及管理鉴权请求；鉴权通过后，透过定时心跳类消息交互，动态监测边缘计算设备的运行状况。

上述方法中引入了算力Capability_ID的概念，用于标识边缘计算硬件的智能分析算力；并基于算力Capability_ID建立起一套完整、通用的边缘与云端的鉴权、功能配置流程、方法。此处的算力Capability_ID为云端服务器分配至具有边缘计算算力的边缘计算设备，当该边缘计算设备安装上本申请中应用于边缘计算设备的应用软件后，边缘计算设备即会获得云端服务器预先配置的算力Capability_ID，以此来识别该边缘计算算力。

采用上述方法使算法人员可在不熟悉边缘计算平台编程方式、动态调度、服务管理规则情形下，通过云端的可视化管理配置操作，实现将算法模型、算法框架、算法调度策略快捷部署至各类指定边缘计算设备平台，并触发运行；同时，还可通过云端实时知晓算法模型在端侧的运行状态、对端侧分析算力资源的占用情况等等，结合预配策略实现动态调度。

在上述云端服务器的编排方法的基础上，本申请中还公开了边缘计算设备端的编排方法，具体情况如下。

本申请中边缘计算设备包括抽象控制层组件、逻辑管理及通信组件。其中，针对分析算力的所有配置管理、监测上报、动态调度均通过该抽象控制层发起，屏蔽不同边缘分析设备异构性带来的复杂度。包括但不限于：分析算力初始化、名称配置、启用、禁用、重置；分析算力资源耗费、工作状态、预警阈值配置查询；深度学习模型及模型级联框架加载、卸载；模型线程优先级配置及调度等等。

逻辑管理及通信组件为智能分析算力分配算力Capability_ID，并基于算力Capability_ID为全局唯一标识向云端服务器发起注册鉴权及管理配置鉴权，建立与云端服务器的通信及管理链路；同时，基于Jason模板，定义逻辑管理及通信组件与云端IOT通道组件、云端业务管理组件间业务配置、通道配置的消息体交互格式。结合需要，亦可考虑基于其他消息结构框架。具体方法如下：

图2是本发明另一实施例提供的边缘计算设备算力的编排方法流程图。参见图2，一种边缘计算设备算力的编排方法，应用于边缘计算设备，所述方法包括：

步骤201：接收到用户发起的启动指令后，进行设备初始化及配置操作。当边缘计算设备正常启动时，抽象控制层组件完成对分析算力模块的初始化及配置准备。

步骤202：获取自身的算力能力ID。当逻辑管理及通信组件正常启动，获取本机算力Capability_ID。

步骤203：基于算力能力ID生成鉴权请求指令，并发送至云端服务器进行鉴权。基于该算力Capability_ID，逻辑管理及通信组件向云端服务器的云端IOT通道管理服务组件发起注册及管理鉴权请求。

步骤204：接收云端服务器返回的鉴权结果；

步骤205：鉴权成功后，获取云端服务器的地址信息；

步骤206：获取自身算力的实时工作状态及资源占用情况根据地址信息发送至云端服务器。

步骤207：接收云端服务器发送的模型及模型级联框架；

步骤208：结合模型及模型级联框架构建边缘计算算力应用环境。

上述方法中，边缘计算设备中定义了针对边缘计算智能分析算力统一管理的抽象控制层组件，针对分析算力的所有配置管理、监测上报、动态调度均通过该抽象控制层发起，从而屏蔽不同边缘分析设备异构性带来的复杂度。针对不同的边缘计算硬件方案，仅做面向用户无感知的内嵌抽象层适配，即可同步生效。

为了更清楚地介绍实现本发明实施例的硬件设备，对应于本发明实施例提供的一种边缘计算设备算力的编排方法，本发明实施例还提供一种边缘计算设备算力的编排设备。请参见下文实施例。

图3是本发明一实施例提供的云端服务器的结构图。参见图3，一种云端服务器，包括：

第一处理器301，以及与第一处理器301相连接的第一存储器302；

第一存储器302用于存储计算机程序，计算机程序至少用于执行上述的边缘计算设备算力的编排方法；

第一处理器301用于调用并执行第一存储器302中的计算机程序。

上述云端服务器使算法人员在不用熟悉指定边缘计算平台软件架构情况下，仅通过云端简单管理配置操作，即可实现将算法框架、算法模型部署至指定边缘计算平台，并在云端进行动态调度。

图4是本发明一实施例提供的边缘控制设备的结构图。参见图4，一种边缘计算设备，包括：

第二处理器401，以及与第二处理器401相连接的第二存储器402；

第二存储器402用于存储计算机程序，计算机程序至少用于执行上述的边缘计算设备算力的编排方法；

第二处理器401用于调用并执行第二存储器402中的计算机程序。

上述边缘计算设备定义了针对边缘计算智能分析算力统一管理的抽象控制层组件，针对分析算力的所有配置管理、监测上报、动态调度均通过该抽象控制层发起，从而屏蔽不同边缘分析设备异构性带来的复杂度。

为了更全面的介绍本申请的硬件系统，在上述实施例的基础上，还公开了一个硬件系统实施例，具体如下。

图5是本发明一实施例提供的边缘计算设备算力的编排系统的结构图。参见图5，一种边缘计算设备算力的编排系统，包括：

如上述所述的云端服务器501，和与所述云端服务器501通信连接的如上述所述的边缘计算设备502。

本系统中通过在云端服务器中进行模型级联框架的设计，避免了算法人员适应不同的边缘计算设备的时间浪费，极大地提高了边缘计算效率。同时云端服务器还会实时监控边缘计算设备的资源占用情况，根据资源占用情况动态调整边缘计算设备的处理业务。同时，上述边缘计算设备中引入了抽象控制层组件，针对分析算力的所有配置管理、监测上报、动态调度均通过该抽象控制层发起，从而屏蔽不同边缘分析设备异构性带来的复杂度。

可以理解的是，上述各实施例中相同或相似部分可以相互参考，在一些实施例中未详细说明的内容可以参见其他实施例中相同或相似的内容。

需要说明的是，在本发明的描述中，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。此外，在本发明的描述中，除非另有说明，“多个”的含义是指至少两个。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (9)

1.一种边缘计算设备算力的编排方法，其特征在于，应用于云端服务器，所述方法包括：

获取待下发模型配置的边缘计算设备的算力能力ID；所述算力能力ID为云端服务器预先配置给具有边缘算力的所述边缘计算设备；

根据所述算力能力ID获取对应边缘计算设备算力的实时状态信息；所述实时状态信息包括：支持模型类型及模型级联方式；

根据所述支持模型类型及级联方式设计对应的模型及模型级联框架；

打包并发送所述模型及模型级联框架至对应所述边缘计算设备，构建边缘计算算力应用环境；

设定周期内接收并存储所述边缘计算设备发送的自身的资源占用状态；

根据所述资源占用状态动态调整分配的待处理业务。

2.根据权利要求1所述的边缘计算设备算力的编排方法，其特征在于，所述获取待下发模型配置及模型级联框架的边缘计算设备的算力能力ID之前，还包括：

接收所述边缘计算设备发送的鉴权请求指令；所述鉴权请求指令包括所述算力能力ID；

根据所述算力能力ID确定所述边缘计算设备算力的运行能力；

根据所述运行能力确定鉴权结果并返回至对应的所述边缘计算设备。

3.根据权利要求1所述的边缘计算设备算力的编排方法，其特征在于，所述实时状态信息还包括：实时工作状态和资源占用状况；

还包括：

根据所述实时工作状态和所述资源占用状况分配对应的待处理业务至所述边缘计算设备。

4.一种边缘计算设备算力的编排方法，其特征在于，应用于内嵌智能分析算力的边缘计算设备，所述方法包括：

接收云端服务器发送的模型及模型级联框架；其中，所述云端服务器执行权利要求1-3任一项所述的边缘计算设备算力的编排方法；

结合所述模型及模型级联框架构建边缘计算算力应用环境。

5.根据权利要求4所述的边缘计算设备算力的编排方法，其特征在于，还包括：

获取自身的算力能力ID；

基于所述算力能力ID生成鉴权请求指令，并发送至云端服务器进行鉴权；

接收所述云端服务器返回的鉴权结果。

6.根据权利要求5所述的边缘计算设备算力的编排方法，其特征在于，所述鉴权结果为鉴权成功；

所述接收所述云端服务器返回的鉴权结果之后，还包括：获取所述云端服务器的地址信息；

获取自身算力的实时工作状态及资源占用情况根据所述地址信息发送至所述云端服务器。

7.一种云端服务器，其特征在于，包括：

第一处理器，以及与所述第一处理器相连接的第一存储器；

所述第一存储器用于存储计算机程序，所述计算机程序至少用于执行权利要求1-3任一项所述的边缘计算设备算力的编排方法；

所述第一处理器用于调用并执行所述第一存储器中的所述计算机程序。

8.一种边缘计算设备，其特征在于，包括：

第二处理器，以及与所述第二处理器相连接的第二存储器；

所述第二存储器用于存储计算机程序，所述计算机程序至少用于执行权利要求4-6任一项所述的边缘计算设备算力的编排方法；

所述第二处理器用于调用并执行所述第二存储器中的所述计算机程序。

9.一种边缘计算设备算力的编排系统，其特征在于，包括：

如权利要求7所述的云端服务器，和与所述云端服务器通信连接的如权利要求8所述的边缘计算设备。