CN116541163A - 一种基于任务聚类的云边端协同系统数据处理方法及系统 - Google Patents

Abstract

本发明公开了一种基于任务聚类的云边端协同系统数据处理方法及系统，包括终端设备层、边缘服务器层和云服务器层；终端设备层包括各种移动终端设备；边缘服务器层包括多个具有计算能力的边缘服务器；云服务器层包括一个具有强计算能力的云服务器；终端设备层中的每个移动终端设备不进行本地计算且可产生一个计算任务，该任务被分解为多个子任务，将类型相同的子任务聚合到一个簇内，通过深度强化学习算法，终端设备层与边缘服务器层交互，为每个任务簇分配相应计算能力的边缘服务器来处理计算任务。本发明通过云边端协同计算，使用更多的节点来负载流量，有效降低系统时延，并且大大降低系统的能耗成本。

Description

一种基于任务聚类的云边端协同系统数据处理方法及系统

技术领域

本发明属于通信技术领域，尤其涉及一种基于任务聚类的云边端协同系统数据处理方法及系统。

背景技术

随着万物互联时代到来，计算需求出现爆发式增长。传统云计算架构无法满足这种爆发式的海量数据计算需求，边缘计算模型将原有云计算中心的部分或全部计算任务迁移到数据源附近，相比于传统的云计算模型，边缘计算模型具有实时数据处理和分析、安全性高、隐私保护、可扩展性强的优势，边缘计算将推动形成“云、边、端”一体化的协同计算体系。通过云边端协同计算，使用更多的节点来负载流量，有效降低系统时延。

传统的任务分配认为任务是孤立的，对每个任务独立执行，然而随着任务数量的增加，任务之间相互关联，不是独立存在的，故任务分配存在信息交互不全、分配效率低等问题。

发明内容

发明目的：本发明的目的在于提供一种基于任务聚类的云边端协同系统数据处理方法及系统，将相同的任务进行任务聚类，然后分配相应的计算资源进行处理。

技术方案：本发明的基于任务聚类的云边端协同系统数据处理方法，包括如下步骤：

步骤1，利用终端设备层的任务队列模块生成任务请求，任务请求通过任务分解模块生成多个子任务，子任务通过任务聚类模块生成多个对计算资源有需求的任务簇；

步骤2，任务簇通过排序模块进行优先级排序，边缘服务器模块获取排序模块的状态信息，选择具有计算资源的边缘服务器，并将原始数据信息上传至边缘服务器层的数据平台；

步骤3，数据平台的数据接收模块接收终端设备层的原始数据信息，并将原始数据传输到数据处理模块进行处理；

步骤4，决策平台获取数据平台的数据信息，利用强化学习算法进行模型部署，启动在线决策模块做出相应指令，将决策指令下发到决策执行模块，返回步骤2进行迭代，选择出匹配度最高的边缘服务器，当边缘服务器的计算资源不足时，启动中继模块将原始数据信息传输到云服务器层；

步骤5，云服务器层的云接收模块接收决策指令获取原始数据信息，并将原始数据信息发送到云处理模块，云发送模块对云处理模块处理的数据信息下发送到边缘服务器层，通过云边端协同的方式实现计算任务快速处理。

进一步的，步骤4中，将决策指令下发到决策执行模块采用的任务下发模型为：定义集合J＝{J₁,J₂,…J_n}表示所有任务的集合，J_n是移动设备n产生的一个计算任务，该任务被分解为多个子任务，表示为J_n＝{J_n1,J_n2,…J_nm}，J_nm是移动设备n分配给边缘服务器m的计算任务，其中每个子任务J_nm包含必要属性，即P_nm表示任务J_nm数据的大小；当子任务J_nm由移动终端向边缘服务器下发时，所消耗的时延用表示，计算公式为：

其中r_nm表示终端设备n与边缘服务器m之间的数据传输速率，d_nm表示终端设备n与边缘服务器m之间的通信延时；子任务J_nm在边缘服务器m上的处理时延用表示，计算公式为：

其中f_nm是表示为完成该子任务J_nm边缘服务器所提供的计算资源；完成子任务J_nm下发和处理所需要的总时延表示为：

系统的目标函数为最小化子任务的最大下发和处理时延，表示为：

其中O∈{(n,m)|n＝1、2…N，m＝1、2…M}。

进一步的，步骤4中，利用强化学习算法进行模型部署具体为：构建深度神经网络，通过边缘服务器与环境的交互，产生终端任务分配方案；设马尔科夫决策过程MDP表示为{S、A、R、P、π}，其中S表示状态空间、A表示动作空间、R表示奖励空间、P表示转移概率、π表示策略；状态空间S由终端设备任务配置文件、终端设备的队列缓冲区、边缘服务器的计算资源组成；动作空间A包括所有任务分配方案，对于任务聚类和任务卸载而言，动作就是在边缘服务器和云服务器间选择执行该任务的计算节点，动作空间A＝{J₁₁,J₁₂,…J_nm；C₀,C₁,…C_m}，其中{J₁₁,J₁₂,…J_nm}表示所有子任务的集合，{C₀,C₁,…C_m}表示云服务器和所有的边缘服务器；奖励函数是最小化计算成本量以便最大化预期的奖励总和，表示为：

其中w表示权重因子；转移概率P满足p(s_t+1|s_t,a_t,…,s₀,a₀)＝p(s_t+1|s_t,a_t)。

进一步的，步骤5中，将原始数据信息发送到云处理模块具体为：当子任务J_nm选择以边缘服务器m作为中继下发到云服务器进行处理时，所消耗的时延用表示，计算公式为：

其中r₀表示边缘服务器m与云服务器之间的数据传输速率，d_m0表示边缘服务器m与云服务器之间的通信延时；子任务J_nm在云服务器上的处理时延用表示，计算公式为：

其中f_m0是表示为完成该子任务J_nm云服务器所提供的计算资源；完成下发和处理到云服务器的计算任务的总时延表示为：

本发明还公开一种基于任务聚类的云边端协同系统，包括服务于终端设备层的边缘服务器层和云服务器层；

所述终端设备层与边缘服务器层通信连接，所述云服务器层与边缘服务器层有线连接；所述终端设备层包括多个移动终端设备；所述边缘服务器层包括多个具有计算能力的边缘服务器；所述云服务器层包括一个具有强计算能力的云服务器；

所述终端设备层中的每个移动终端设备产生一个计算任务，该计算任务被分解为多个类型的子任务，通过任务聚类将类型相同的子任务聚合为一个任务簇，通过深度强化学习算法，终端设备层与边缘服务器层交互，为每个任务簇分配相应计算能力的边缘服务器来处理计算任务，当边缘服务器过载时，则该边缘服务器作为一个中继节点将计算任务传输到云服务器进行处理。

进一步的，所述终端设备层的每个移动终端设备包括任务队列模块、任务分解模块、任务聚类模块、排序模块边缘和边缘服务器选择模块；

所述任务队列模块用于获取移动终端的计算任务，生成终端的任务请求；

所述任务分解模块用于将终端设备产生的任务分解为多个类型不同的子任务，并将子任务传送至任务聚类模块；

所述任务聚类模块用于接收任务分解模块的子任务，并将类型相同的子任务聚类到一起形成任务簇；

所述排序模块用于将子任务构成的任务簇根据任务优先级进行排序，任务簇所需要的计算资源越多，优先级越高，则排序越靠前，该任务簇应更快被处理，优先选择计算资源充足的边缘服务器；

所述边缘服务器选择模块用于在不同计算能力的边缘服务器中选择合适的边缘服务器来处理任务簇。

进一步的，所述边缘服务器层的每个边缘服务器包括数据平台和决策平台。

进一步的，所述数据平台包括数据接收模块、数据处理模块；

所述数据接收模块用于接收所述任务聚类模块中上传的原始数据信息；

所述数据处理模块用于处理所述数据接收模块中的原始数据信息得到处理后的数据。

进一步的，所述决策平台包括中继模块、在线决策模块、决策执行模块；

所述中继模块用于将任务聚类模块中接收的原始数据传输到所述云接收模块；

所述在线决策模块用于对边缘服务器的计算能力与任务簇所需要的计算资源进行比较，决策出需要执行计算的边缘服务器或者云服务器；

所述决策执行模块用于对在线决策模块的决策信息执行以处理数据信息。

进一步的，所述云服务器层包括云接收模块、云处理模块、云发送模块；

所述云接收模块用于接收所述边缘服务器层的原始数据信息；

所述云处理模块用于对云接收模块的原始数据信息进行处理；

所述云发送模块用于对所述云处理模块处理的数据信息发送到所述边缘服务器。

有益效果：与现有技术相比，本发明具有如下显著优点：

1、本发明以边缘计算为场景，基于任务聚类方式，利用深度强化学习方法提出了一种云边端协同系统及其运行方法，通过云边端协同计算，使用更多的节点来负载流量，有效降低系统时延，并且大大降低系统的能耗成本。

2、本发明通过将任务相同的子任务聚类形成任务簇，将任务簇与具有不同计算能力的边缘服务器匹配，得到最优任务分配方案，以提高计算任务完成度、提升计算任务处理效率。通过任务聚类提高了边缘服务器的计算效率，且每个边缘服务器都能更加准确地完成任务；通过任务边缘服务器匹配整体降低系统时延，同时进一步减轻边缘侧的计算压力。

3、本发明将深度强化学习应用于移动边缘计算中，充分利用深度强化学习的感知决策能力，通过智能体与环境的有效交互，并且通过学习不断优化任务分配策略，从而有效降低时延和能耗总和，提高移动边缘计算过程中的计算效率。

附图说明

图1为本发明中一种基于任务聚类的云边端协同系统结构图；

图2为本发明中终端设备层架构图；

图3为本发明中边缘服务器层架构图；

图4为本发明中云服务器层架构图。

具体实施方式

下面结合附图对本发明的技术方案作进一步说明。

在万物互联的趋势下，数据量呈现快速增长，且单个边缘服务器的计算能力有限，因此容易出现高延迟、高能耗的现象。在边缘计算场景中，不同高层次的边缘服务器拥有的计算能力不同，因此如何在较短时间内将移动终端产生的计算任务分配给不同计算能力的边缘服务器，以实现系统性能指标最大化，该问题亟待解决。

针对以上边缘计算场景中存在的问题，本发明将终端产生的任务分解为多个子任务，类型相同的子任务通过任务聚类的方式形成任务簇，利用深度强化学习算法，移动终端与拥有不同计算能力的边缘服务器交互，来为各任务簇选择合适的边缘服务器处理任务请求，获得最优任务分配策略，从而有效降低时延和能耗总和，提高移动边缘计算过程中的计算效率。

参照图1，本发明实施例提供的一种基于任务聚类的云边端协同系统，包括终端设备层、边缘服务器层、云服务器层。具体预设移动边缘计算场景由一个云服务器，M个边缘服务器以及N个终端设备组成。所述一个终端设备可产生1个计算任务，该计算任务可被分割成多个子任务，且终端设备不进行本地计算。具体所述每个移动设备n要执行的计算任务其中J_n是移动设备n产生的一个计算任务，该任务可被分解为多个子任务，表示为J_n＝{J_n1,J_n2,…J_nm}，J_nm是移动设备n分配给边缘服务器m的计算任务；D_n是表示完成该任务所需的中央处理单元(CPU)周期的总数；T_max表示该任务的最大可容忍时延；I_n表示任务优先级，任务优先级越高则表示该任务应被更快处理。

参照图2，本发明实施例提供的终端设备层架构图，所述终端设备层包括任务队列模块、任务分解模块、任务聚类模块、排序模块、边缘服务器选择模块。

参照图3，本发明实施例提供的边缘服务器层架构图，所述边缘服务器层包括数据平台和决策平台，所述数据平台包括数据接收模块、数据处理模块，所述决策平台包括中继模块、在线决策模块、决策执行模块。

参照图4，本发明实施例提供的云服务器层架构图，所述云服务器层包括云接收模块、云处理模块以及云发送模块。

基于上述架构系统，本发明还提出了一种基于任务聚类的云边端协同系统的运行方法，其运行机制如下：

步骤1，终端设备层的任务到达采用任务队列模型发出任务请求，构建任务模型的过程包括：每个移动设备n要执行的计算任务其中J_n是移动设备n产生的一个计算任务，该任务可被分解为多个子任务，表示为J_n＝{J_n1,J_n2,…J_nm}，J_nm是移动设备n分配给边缘服务器m的计算任务；D_n是表示完成该任务所需的中央处理单元(CPU)周期的总数；T_max表示该任务的最大可容忍时延；I_n表示任务优先级，任务优先级越高则表示该任务应被更快处理。

步骤2，任务队列模块的任务请求传输到任务分解模块，将任务分解为多个子任务，通过任务聚类模块将R_n任务划分成m个簇，m等于边缘服务器的数量，每个任务簇所需要的计算资源大小不同；

步骤3，排序模块对获取任务簇的优先级进行排序，优先级越高，则排序越靠前，会被更快分配计算资源充足的边缘服务器来处理计算任务，即I_n表示任务优先级，I_n越高则表示该任务应被更快处理；

步骤4，排序靠前的任务簇优先选择边缘服务器，每个边缘服务器m作为一个计算节点，用C_i表示第i个计算节点在当前时隙的可用状态，其中i∈{1,2,3…,m}且当C_i＝1时表示该计算节点可用，当C_i＝-1时表示该计算节点不可用；

步骤5，数据平台的数据接收模块接受来自边缘服务器层的原始数据信息，并将原始数据信息传输到数据处理模块进行处理；

步骤6，利用深度强化学习算法对模型进行部署，同时启动在线决策模块做出相应指令，将决策指令传输到决策执行模块，重复步骤4进行迭代选择出更合适的边缘服务器，当边缘服务器的计算资源不足时启动中继模块将原始数据信息传输到云服务器，通过边缘服务器层与终端任务层的高效交互，并且通过学习不断优化任务分配策略；

上述过程中涉及的具体任务下发模型为：定义集合J＝{J₁,J₂,…J_n}表示所有任务的集合，J_n是移动设备n产生的一个计算任务，该任务可被分解为多个子任务，表示为J_n＝{J_n1,J_n2,…J_nm}，J_nm是移动设备n分配给边缘服务器m的计算任务，其中每个子任务J_nm包含一些必要属性，即P_nm表示任务J_nm数据的大小。当子任务J_nm由移动终端向边缘服务器下发时，所消耗的时延用表示，计算公式为/>其中r_nm表示终端设备n与边缘服务器m之间的数据传输速率，d_nm表示终端设备n与边缘服务器m之间的通信延时。子任务J_nm在边缘服务器m上的处理时延用/>表示，计算公式为/>其中f_nm是表示为完成该子任务J_nm边缘服务器所提供的计算资源。因此完成子任务J_nm下发和处理所需要的总时延可表示为/>系统的目标函数为最小化子任务的最大下发和处理时延，表示为f＝min_O{max_O T_nm}，其中O∈{(n,m)|n＝1、2…N，m＝1、2…M}。

步骤7，当通过中继模块将原始数据信息传输到云服务器层时，云接收模块接收到决策指令获取数据信息，同时将数据信息传输到云处理模块进行处理，将处理完的数据通过云发送模块下发到边缘服务器层，以云边端协同的方式实现计算任务的高效处理。

上述过程涉及的具体任务下发到云服务器的过程如下：当子任务J_nm选择以边缘服务器m作为中继下发到云服务器进行处理时，所消耗的时延用表示，计算公式为其中r₀表示边缘服务器m与云服务器之间的数据传输速率，d_m0表示边缘服务器m与云服务器之间的通信延时。子任务J_nm在云服务器上的处理时延用/>表示，计算公式为/>其中f_m0是表示为完成该子任务J_nm云服务器所提供的计算资源。因此完成下发和处理到云服务器的计算任务的总时延可表示为/>

以上实施例仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明保护范围之内。

Claims (10)

1.一种基于任务聚类的云边端协同系统数据处理方法，其特征在于，包括如下步骤：

步骤1，利用终端设备层的任务队列模块生成任务请求，任务请求通过任务分解模块生成多个子任务，子任务通过任务聚类模块生成多个对计算资源有需求的任务簇；

步骤2，任务簇通过排序模块进行优先级排序，边缘服务器模块获取排序模块的状态信息，选择具有计算资源的边缘服务器，并将原始数据信息上传至边缘服务器层的数据平台；

步骤3，数据平台的数据接收模块接收终端设备层的原始数据信息，并将原始数据传输到数据处理模块进行处理；

步骤4，决策平台获取数据平台的数据信息，利用强化学习算法进行模型部署，启动在线决策模块做出相应指令，将决策指令下发到决策执行模块，返回步骤2进行迭代，选择出匹配度最高的边缘服务器，当边缘服务器的计算资源不足时，启动中继模块将原始数据信息传输到云服务器层；

步骤5，云服务器层的云接收模块接收决策指令获取原始数据信息，并将原始数据信息发送到云处理模块，云发送模块对云处理模块处理的数据信息下发送到边缘服务器层，通过云边端协同的方式实现计算任务快速处理。

2.根据权利要求1所述基于任务聚类的云边端协同系统数据处理方法，其特征在于，步骤4中，将决策指令下发到决策执行模块采用的任务下发模型为：定义集合J＝{J₁,J₂,…J_n}表示所有任务的集合，J_n是移动设备n产生的一个计算任务，该任务被分解为多个子任务，表示为J_n＝{J_n1,J_n2,…J_nm}，J_nm是移动设备n分配给边缘服务器m的计算任务，其中每个子任务J_nm包含必要属性，即P_nm表示任务J_nm数据的大小；当子任务J_nm由移动终端向边缘服务器下发时，所消耗的时延用表示，计算公式为：

其中r_nm表示终端设备n与边缘服务器m之间的数据传输速率，d_nm表示终端设备n与边缘服务器m之间的通信延时；子任务J_nm在边缘服务器m上的处理时延用表示，计算公式为：

其中f_nm是表示为完成该子任务J_nm边缘服务器所提供的计算资源；完成子任务J_nm下发和处理所需要的总时延表示为：

系统的目标函数为最小化子任务的最大下发和处理时延，表示为：

其中O∈{(n,m)|n＝1、2…N，m＝1、2…M}。

3.根据权利要求1所述基于任务聚类的云边端协同系统数据处理方法，其特征在于，步骤4中，利用强化学习算法进行模型部署具体为：构建深度神经网络，通过边缘服务器与环境的交互，产生终端任务分配方案；设马尔科夫决策过程MDP表示为{S、A、R、P、π}，其中S表示状态空间、A表示动作空间、R表示奖励空间、P表示转移概率、π表示策略；状态空间S由终端设备任务配置文件、终端设备的队列缓冲区、边缘服务器的计算资源组成；动作空间A包括所有任务分配方案，对于任务聚类和任务卸载而言，动作就是在边缘服务器和云服务器间选择执行该任务的计算节点，动作空间A＝{J₁₁,J₁₂,…J_nm；C₀,C₁,…C_m}，其中{J₁₁,J₁₂,…J_nm}表示所有子任务的集合，{C₀,C₁,…C_m}表示云服务器和所有的边缘服务器；奖励函数是最小化计算成本量以便最大化预期的奖励总和，表示为：

其中w表示权重因子；转移概率P满足p(s_t+1|s_t,a_t,…,s₀,a₀)＝p(s_t+1|s_t,a_t)。

4.根据权利要求1所述基于任务聚类的云边端协同系统数据处理方法，其特征在于，步骤5中，将原始数据信息发送到云处理模块具体为：当子任务J_nm选择以边缘服务器m作为中继下发到云服务器进行处理时，所消耗的时延用表示，计算公式为：

其中r₀表示边缘服务器m与云服务器之间的数据传输速率，d_m0表示边缘服务器m与云服务器之间的通信延时；子任务J_nm在云服务器上的处理时延用表示，计算公式为：

其中f_m0是表示为完成该子任务J_nm云服务器所提供的计算资源；完成下发和处理到云服务器的计算任务的总时延表示为：

5.一种基于任务聚类的云边端协同系统，其特征在于，包括服务于终端设备层的边缘服务器层和云服务器层；

所述终端设备层与边缘服务器层通信连接，所述云服务器层与边缘服务器层有线连接；所述终端设备层包括多个移动终端设备；所述边缘服务器层包括多个具有计算能力的边缘服务器；所述云服务器层包括一个具有强计算能力的云服务器；

所述终端设备层中的每个移动终端设备产生一个计算任务，该计算任务被分解为多个类型的子任务，通过任务聚类将类型相同的子任务聚合为一个任务簇，通过深度强化学习算法，终端设备层与边缘服务器层交互，为每个任务簇分配相应计算能力的边缘服务器来处理计算任务，当边缘服务器过载时，则该边缘服务器作为一个中继节点将计算任务传输到云服务器进行处理。

6.根据权利要求5所述基于任务聚类的云边端协同系统，其特征在于，所述终端设备层的每个移动终端设备包括任务队列模块、任务分解模块、任务聚类模块、排序模块边缘和边缘服务器选择模块；

所述任务队列模块用于获取移动终端的计算任务，生成终端的任务请求；

所述任务分解模块用于将终端设备产生的任务分解为多个类型不同的子任务，并将子任务传送至任务聚类模块；

所述任务聚类模块用于接收任务分解模块的子任务，并将类型相同的子任务聚类到一起形成任务簇；

所述排序模块用于将子任务构成的任务簇根据任务优先级进行排序，任务簇所需要的计算资源越多，优先级越高，则排序越靠前，该任务簇应更快被处理，优先选择计算资源充足的边缘服务器；

所述边缘服务器选择模块用于在不同计算能力的边缘服务器中选择合适的边缘服务器来处理任务簇。

7.根据权利要5所述基于任务聚类的云边端协同系统，其特征在于，所述边缘服务器层的每个边缘服务器包括数据平台和决策平台。

8.根据权利要求7所述基于任务聚类的云边端协同系统，其特征在于，所述数据平台包括数据接收模块、数据处理模块；

所述数据接收模块用于接收所述任务聚类模块中上传的原始数据信息；

所述数据处理模块用于处理所述数据接收模块中的原始数据信息得到处理后的数据。

9.根据权利要求7所述基于任务聚类的云边端协同系统，其特征在于，所述决策平台包括中继模块、在线决策模块、决策执行模块；

所述中继模块用于将任务聚类模块中接收的原始数据传输到所述云接收模块；

所述在线决策模块用于对边缘服务器的计算能力与任务簇所需要的计算资源进行比较，决策出需要执行计算的边缘服务器或者云服务器；

所述决策执行模块用于对在线决策模块的决策信息执行以处理数据信息。

10.根据权利要求5所述基于任务聚类的云边端协同系统，其特征在于，所述云服务器层包括云接收模块、云处理模块、云发送模块；

所述云接收模块用于接收所述边缘服务器层的原始数据信息；

所述云处理模块用于对云接收模块的原始数据信息进行处理；

所述云发送模块用于对所述云处理模块处理的数据信息发送到所述边缘服务器。