CN114384866A - 一种基于分布式深度神经网络框架的数据划分方法 - Google Patents

Abstract

本发明涉及智能制造领域，具体的说是一种基于分布式深度神经网络框架的数据划分方法。本发明根据用户的实时性和安全性要求，在本地添加提前退出点，降低传输时延，为系统提供更好的隐私保护；根据加工现场的实际情况进行系统建模；根据系统模型用数学方法解析的推导出闭式解，使系统总时延最小；根据数学表达式分析不同参数对最优数据分配方法的影响，动态调整数据划分比例。本发明兼顾了边缘服务器的利用率和不同设备的数据处理能力，能够有效适应实际工业生产场景。

Description

一种基于分布式深度神经网络框架的数据划分方法

技术领域

本发明涉及智能制造领域，具体的说是一种基于分布式深度神经网络框架的数据划分方法。

背景技术

在智能制造领域，如何将深度学习模型部署在资源受限的终端设备，从而使智能更贴近用户，解决人工智能落地的“最后一公里”问题，已经引起广泛关注。

目前，为了在算力、能耗均受限的边缘或终端设备实现智能算法，通常采用模型推理优化技术和模型训练优化技术。其中，模型推理优化技术包括模型压缩、模型分割、模型选择、边缘缓存、输入过滤和模型提前退出。美国哈佛大学Surat团队提出的基于云、边、端协同的分布式深度神经网络(DDNN)框架将传统的深度神经网络任务进行切片划分，并通过模型提前退出减少三者之间不必要的数据传输。但分布式深度神经网络只完成了深度神经网络在本地和边缘侧的部署问题，没有考虑到任务执行过程中边缘的利用率和用户对系统实时性、隐私性的要求。

发明内容

针对工业加工现场终端设备资源受限、用户对加工过程实时性和隐私性的要求，为提高边缘服务器利用率，降低系统时延，本发明提供了一种基于分布式深度神经网络框架的数据划分方法。

本发明为实现上述目的所采用的技术方案是：

一种基于分布式深度神经网络框架的数据划分方法，包括以下步骤：

将原始数据进行预处理，并在终端设备添加退出点，将预处理后的原始数据全部退出，保留数据特征，得到特征数据；

针对工件检测场景建模，并制定数据划分策略，利用边缘服务器协同处理；

使用部署在终端设备的浅层神经网络模型处理特征数据，并将处理后的分类结果发送给聚合器；

聚合器将归一化信息熵和设定的阈值进行比较，判断分类结果是否可信，若归一化信息熵大于阈值，则分类结果不可信，否则，分类结果可信；

边缘服务器根据聚合器的判定结果，处理分类结果不可信特征数据以及直接划分到边缘服务器的特征数据；

对模型进行数学分析，得到使工件检测系统时延最小的数据划分方法。

所述原始数据包括：相机采集的图像数据、振动传感器采集到的振动数据。

工件检测具体为：

通过机器学习方法实时分析原始数据，判断工件是否合格。

所述针对工件检测场景建模具体为：

数据预处理时间为：t_pre＝nsc_pre，本地的数据处理时间为：t_local＝anksc_l+nsc_pre，边缘服务器的数据处理时间为：t_edge＝(1-a)nksc_e+(1+p)abknsc_e，系统总时延为：t＝max{t_local,t_edge}；其中n为待处理数据总量，s为数据大小，k为经过预处理的数据即特征数据大小与原始数据大小的比值，c_pre为预处理1mb数据所用时间，c_l为终端设备处理1mb数据所用时间，c_e为边缘服务器处理1mb数据所用时间。

所述制定数据划分策略，利用边缘协同处理具体为：

云端利用历史数据训练神经网络，并将训练后的神经网络分别部署在终端设备和边缘服务器，传感器实时采集原始数据，并缓存到终端设备进行预处理，得到特征数据，传感器根据终端设备计算能力和计算时间，将特征数据保留在终端设备处理或发送给边缘服务器处理。

所述归一化信息熵为：

其中C表示所有可能分类的集合，x是概率向量，表明分到每种类别的可能性，i＝1，2。

通过比较阈值T和Y(x)判断终端设备分类结果是否可信，若Y≤T,则判定分类结果可信，特征数据退出，向聚合器中的决策单元传递分类结果；Y＞T，则判定该设备分类结果不可信，特征数据被发送给边缘服务器重新处理。

系统总时延最小的问题可构造为最优化问题，具体为

s.t.C1：max{t_local,t_edge}＜u

C2：0≤a≤1

C3：0＜k＜1

C4：0≤b＜1

C5：p≥0

由t＝max{t_local,t_edge}，当t_local≤t_edge时，t＝t_edge＝nksc_e+nksc_e[(1+p)b-1]a，t随a的增加而单调递减；当t_local≥t_edge时，t＝t_local＝anksc_l+nsc_pre,t随a的增加而单调递增，故，当t_local＝t_edge，即终端设备与边缘处理数据的时间相同时，总时延t最小，此时

以a^*为划分比例，(1-a^*)的数据划分给边缘处理，a^*的数据留在本地处理，根据终端设备分类错误率、终端设备和边缘服务器处理数据速度动态调整惩罚系数p，得到适应柔性生产的时延最小的数据划分方案。

本发明具有以下有益效果及优点：

1.采用原始数据提前退出的方式保护用户隐私、降低传输时延。

2.采用边缘协同终端设备处理数据的方式提高边缘服务器的利用率，降低系统时延。

3.根据参数动态调整数据划分方法，能更好的适应柔性生产。

附图说明

图1为本发明应用场景示例图；

图2为本发明系统结构图；

图3为数据划分方法示意图；

图4为本发明方法流程图。

具体实施方式

下面结合附图及实施例对本发明做进一步的详细说明。

如图4所示，一种基于分布式深度神经网络框架的数据划分方法，包括以下步骤：

步骤1：将原始数据进行预处理，并在终端设备添加退出点，将预处理后的原始数据全部退出，保留数据特征，得到特征数据；

步骤2：针对工件检测场景建模，并制定数据划分策略，利用边缘服务器协同处理；

步骤3：使用部署在终端设备的浅层神经网络模型处理特征数据，并将处理后的分类结果数据发送给聚合器；

步骤4：聚合器将归一化信息熵和设定的阈值进行比较，判断分类结果是否可信，若归一化信息熵大于阈值，则分类结果不可信，否则，分类结果可信；

步骤5：边缘服务器根据聚合器的判定结果，处理分类结果不可信特征数据以及直接划分到边缘服务器的特征数据；

步骤6：对模型进行数学分析，得到使工件检测系统时延最小的数据划分方法。图2为系统结构图。

所述步骤1包括：

对原始数据进行预处理，得到特征数据。原始数据包括：相机采集的图像数据、振动传感器采集到的振动数据。在DDNN框架下放置新的退出点，原始数据退出，从终端发送提取的特征数据，以降低传输时延，为系统提供更好的隐私保护。

所述步骤2包括：

以工件检测为应用场景。传感设备(如照相机)捕获图像，并通过机器学习方法实时分析图像，判断工件是否合格。利用历史数据在云端训练神经网络，并将预训练的神经网络分别部署在终端设备和边缘服务器。传感器实时采集原始数据，并缓存到终端设备进行预处理，得到特征数据，传感器根据终端设备计算能力和计算时间，将特征数据保留在终端设备处理或发送给边缘服务器处理，a为留在终端处理的数据比例，(1-a)为划分给边缘服务器处理的数据比例，终端设备和边缘服务器同时处理数据。在基于DDNN框架的数据划分方法中，每个终端传感器采集到的原始数据都可以进行划分。以单个传感器为例，时间敏感任务的最大可容忍延迟为u，传感器采集到的数据集记为D＝{D₁,D₂,……,D_n}，n表示内存中缓存的待处理数据总量，单个数据大小s＝|D_i|，i∈[1,n]。

所述步骤3包括：

由于资源限制，在终端设备上只能部署浅层神经网络模型处理数据，c_pre为预处理1mb数据所用时间，数据预处理时间为t_pre＝nsc_pre，c_l为终端设备处理1mb数据所用时间，终端的数据处理时间为：t_local＝anksc_l+nsc_pre。由于浅层神经网络模型计算精度不足，可能出现分类错误的情况，将分类结果发送给聚合器，判断终端设备分类结果是否可信。

所述步骤4包括：

聚合器计算归一化信息熵

其中C表示所有可能分类的集合，x是概率向量，明分到每种类别的可能性，i＝1，2。比较预先设定的阈值T和Y(x)判断终端设备分类结果是否可信，若Y≤T,则判定分类结果可信，特征数据退出，向决策单元传递分类结果；若Y＞T，则判定该终端设备分类结果不可信，数据被发送给边缘服务器重新处理。

所述步骤5包括：

根据聚合器判定结果，边缘服务器处理终端设备分类不可信的数据和直接划分到边缘服务器处理的数据。c₁为边缘服务器计算1mb数据所用时间，c₂为传输1mb数据所用时间，b为本地分类错误率，p为边缘服务器产生空闲的惩罚系数，边缘服务器的计算时间为

数据传输时间为

在边缘的数据传输与计算同时进行，在考虑数据处理总时间时，不能将计算时间与传输时间简单叠加，因此我们记边缘服务器处理单位数据所用时间为c_e，c_e＝max{c₁,c₂}，则边缘服务器的数据处理时间为：t_edge＝(1-a)nksc_e+(1+p)abknsc_e，系统总时延为t＝max{t_local,t_edge}。

所述步骤6包括：

系统总时延最小的问题可构造为最优化问题，具体为：

s.t.C1：max{t_local,t_edge}＜u

C2：0≤a≤1

C3：0＜k＜1

C4：0≤b＜1

C5：p≥0

由t＝max{t_local,t_edge}，当t_local≤t_edge时，t＝t_edge＝nksc_e+nksc_e[(1+p)b-1]a，t随a的增加而单调递减；当t_local≥t_edge时，t＝t_local＝anksc_l+nsc_pre,t随a的增加而单调递增。故，当t_local＝t_edge，即终端设备与边缘处理数据的时间相同时，总时延t最小，此时

如图3所示，得到使工件检测系统时延中最小的数据划分方案：以a^*为划分比例，(1-a^*)的数据划分给边缘服务器处理，a^*的数据留在终端设备处理，根据终端设备分类准确率、本地和边缘处理数据速度动态调整惩罚系数p，给出适应柔性生产的最优数据划分方案。应用场景如图1所示。

Claims (9)

1.一种基于分布式深度神经网络框架的数据划分方法，其特征在于，包括以下步骤：

将原始数据进行预处理，并在终端设备添加退出点，将预处理后的原始数据全部退出，保留数据特征，得到特征数据；

针对工件检测场景建模，并制定数据划分策略，利用边缘服务器协同处理；

使用部署在终端设备的浅层神经网络模型处理特征数据，并将处理后的分类结果发送给聚合器；

聚合器将归一化信息熵和设定的阈值进行比较，判断分类结果是否可信，若归一化信息熵大于阈值，则分类结果不可信，否则，分类结果可信；

边缘服务器根据聚合器的判定结果，处理分类结果不可信特征数据以及直接划分到边缘服务器的特征数据；

对模型进行数学分析，得到使工件检测系统时延最小的数据划分方法。

2.根据权利要求1所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，所述原始数据包括：相机采集的图像数据、振动传感器采集到的振动数据。

3.根据权利要求1所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，工件检测具体为：

通过机器学习方法实时分析原始数据，判断工件是否合格。

4.根据权利要求1所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，所述针对工件检测场景建模具体为：

数据预处理时间为：t_pre＝nsc_pre，本地的数据处理时间为：t_local＝anksc_l+nsc_pre，边缘服务器的数据处理时间为：t_edge＝(1-a)nksc_e+(1+p)abknsc_e，系统总时延为：t＝max{t_local，t_edge}；其中n为待处理数据总量，s为数据大小，k为经过预处理的数据即特征数据大小与原始数据大小的比值，c_pre为预处理1mb数据所用时间，c_l为终端设备处理1mb数据所用时间，c_e为边缘服务器处理1mb数据所用时间。

5.根据权利要求1所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，所述制定数据划分策略，利用边缘协同处理具体为：

云端利用历史数据训练神经网络，并将训练后的神经网络分别部署在终端设备和边缘服务器，传感器实时采集原始数据，并缓存到终端设备进行预处理，得到特征数据，传感器根据终端设备计算能力和计算时间，将特征数据保留在终端设备处理或发送给边缘服务器处理。

6.根据权利要求1所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，所述归一化信息熵为：

其中C表示所有可能分类的集合，x是概率向量，表明分到每种类别的可能性，i＝1，2。

7.根据权利要求6所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，通过比较阈值T和Y(x)判断终端设备分类结果是否可信，若Y≤T，则判定分类结果可信，特征数据退出，向聚合器中的决策单元传递分类结果；Y＞T，则判定该设备分类结果不可信，特征数据被发送给边缘服务器重新处理。

8.根据权利要求1或4所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，系统总时延最小的问题可构造为最优化问题，具体为

s.t.C1：max{t_local，t_edge}＜u

C2：0≤a≤1

C3：0＜k＜1

C4：0≤b＜1

C5：p≥0

由t＝max{t_local，t_edge}，当t_local≤t_edge时，t＝t_edge＝nksc_e+nksc_e[(1+p)b-1]a，t随a的增加而单调递减；当t_local≥t_edge时，t＝t_local＝anksc_l+nsc_pre，t随a的增加而单调递增，故，当t_local＝t_edge，即终端设备与边缘处理数据的时间相同时，总时延t最小，此时

9.根据权利要求8所述的一种基于分布式深度神经网络框架的数据划分方法，其特征在于，以a^*为划分比例，(1-a^*)的数据划分给边缘处理，a^*的数据留在本地处理，根据终端设备分类错误率、终端设备和边缘服务器处理数据速度动态调整惩罚系数p，得到适应柔性生产的时延最小的数据划分方案。

Images